2022年AI工業(yè)視覺解決方案白皮書-2023.11

2022AI工業(yè)視覺解決方案白皮書AI

INDUSTRIAL

VISIONSOLUTIONS·2022Microvision.Allrightsreserved.COPYRIGHT版權(quán)聲明本白皮書出品方為維視智造科技股份有限公司，版權(quán)受法律保護(hù)。轉(zhuǎn)載、摘編或利用其他方式使用本白皮書文字或者觀點(diǎn)，應(yīng)注明“來源”：“維視智造科技股份有限公司”。違反上述聲明者，出品方將追究其相關(guān)法律責(zé)任。CONTENTS目錄工業(yè)視覺技術(shù)發(fā)展趨勢1.1

工業(yè)視覺技術(shù)概述1.2

工業(yè)視覺典型應(yīng)用場景1.3

工業(yè)視覺面臨的挑戰(zhàn)及發(fā)展趨勢050607深度學(xué)習(xí)技術(shù)發(fā)展趨勢2.1

深度學(xué)習(xí)技術(shù)概述2.2

工業(yè)視覺深度學(xué)習(xí)技術(shù)發(fā)展趨勢1012AI工業(yè)視覺落地痛點(diǎn)及關(guān)鍵技術(shù)3.1

AI工業(yè)視覺落地痛點(diǎn)1818181819202020213.1.1

額外的硬件3.1.2

發(fā)熱量和功耗3.1.3

大量的訓(xùn)練數(shù)據(jù)3.1.4

大量的人工標(biāo)注工作3.2

AI工業(yè)視覺落地關(guān)鍵技術(shù)解析3.2.1

基于CPU進(jìn)行訓(xùn)練及推理3.2.2

缺陷檢測深度學(xué)習(xí)過濾及圖像自動采集標(biāo)注技術(shù)3.2.3

小樣本訓(xùn)練及神經(jīng)網(wǎng)絡(luò)模型再訓(xùn)練技術(shù)AI工業(yè)視覺解決方案4.1

AI工業(yè)視覺解決方案架構(gòu)及組成2424252627272832333434434748574.1.1

基于本地算力的AI工業(yè)視覺解決方案4.1.2

基于邊緣側(cè)的AI工業(yè)視覺解決方案4.1.3

基于5G+云端的AI工業(yè)視覺解決方案4.2

AI工業(yè)視覺解決方案實(shí)施流程4.2.1

數(shù)據(jù)收集4.2.2

分類及數(shù)據(jù)標(biāo)記4.2.3

模型訓(xùn)練4.2.4

在線推理及優(yōu)化4.3

AI工業(yè)視覺解決方案典型應(yīng)用場景4.3.1

缺陷檢測4.3.2

圖像分類4.3.3

字符識別4.3.4

深度學(xué)習(xí)與傳統(tǒng)算法的融合4.4

AI工業(yè)視覺解決方案發(fā)展前景預(yù)測工業(yè)視覺技術(shù)發(fā)展趨勢AI工業(yè)視覺解決方案白皮書1.1工業(yè)視覺技術(shù)概述工業(yè)視覺也稱機(jī)器視覺，是人工智能正在快速發(fā)展的一個分支，是在工業(yè)上為自動檢查、過程控制和機(jī)器人引導(dǎo)等應(yīng)用提供基于圖像的自動檢查和分析的技術(shù)及方法。機(jī)器視覺系統(tǒng)是通過機(jī)器視覺產(chǎn)品（CMOS

和CCD）將被攝取目標(biāo)轉(zhuǎn)換成圖像信號，傳送給專用的圖像處理系統(tǒng)，得到被攝目標(biāo)的形態(tài)信息，根據(jù)像素分布和亮度、顏色等信息，轉(zhuǎn)變成數(shù)字化信號;

圖像系統(tǒng)對這些信號進(jìn)行各種運(yùn)算來抽取目標(biāo)的特征，進(jìn)而根據(jù)判別的結(jié)果來控制現(xiàn)場的設(shè)備動作。如果我們將1969年CCD芯片的產(chǎn)生作為機(jī)器視覺技術(shù)的起點(diǎn)，該項(xiàng)技術(shù)的發(fā)展已經(jīng)有半個世紀(jì)的歷史，經(jīng)過長時間的發(fā)展，機(jī)器視覺技術(shù)日益取得重大突破和廣泛應(yīng)用，當(dāng)前已經(jīng)遍布工業(yè)生產(chǎn)的各個環(huán)節(jié)，在一些不適合于人工作業(yè)的危險工作環(huán)境或人工視覺難以滿足要求的場合，常用機(jī)器視覺來替代人工視覺；同時在大批量工業(yè)生產(chǎn)過程中，用人工視覺檢查產(chǎn)品質(zhì)量效率低且精度不高，用機(jī)器視覺檢測方法可以大大提高生產(chǎn)效率和生產(chǎn)的自動化程度。而且機(jī)器視覺易于實(shí)現(xiàn)自動化集成，軟件集成，是實(shí)現(xiàn)智能制造的基礎(chǔ)技術(shù)。根據(jù)不完全統(tǒng)計(jì)，目前廣泛應(yīng)用工業(yè)視覺的工業(yè)生產(chǎn)行業(yè)包括：半導(dǎo)體、電子、汽車、光伏、能源、交通、印刷、食品、醫(yī)藥、物流、輕工等。中國的機(jī)器視覺市場需求近幾年處于持續(xù)高速增長階段，年復(fù)合增長率保持在23%。截至2021年，國內(nèi)機(jī)器視覺市場規(guī)模達(dá)163.8億元。5AI工業(yè)視覺解決方案白皮書1.2工業(yè)視覺典型應(yīng)用場景機(jī)器視覺在工業(yè)領(lǐng)域應(yīng)用廣泛，按功能和場景主要分為四大類：識別、定位、測量、檢測。識別包括有無、顏色和條碼/二維碼識別，主要通過甄別目標(biāo)物體的物體特征來進(jìn)行判定，在工業(yè)應(yīng)用場景中占比約24%。定位功能是在識別出物體的基礎(chǔ)上，經(jīng)過測量準(zhǔn)確的給出目標(biāo)物體的坐標(biāo)位置，制造業(yè)自動生產(chǎn)裝配過程中，機(jī)器人需要知道來料的位置，才能完成后續(xù)的加工、裝配、搬運(yùn)等一系列動作。在工業(yè)應(yīng)用場景中，定位需求占比約為16%。測量泛指利用被測物體特征進(jìn)行全局或局部尺寸數(shù)據(jù)獲取的應(yīng)用，包括：長度、平行度、角度、圓弧長、圓直徑、半徑、點(diǎn)到線的距離、點(diǎn)點(diǎn)距離等等，尺寸測量既可以用于產(chǎn)品生產(chǎn)過程中的尺寸數(shù)據(jù)管控，也可以用于數(shù)據(jù)的獲取，在工業(yè)應(yīng)用場景中占比約為10%。檢測指的是對目標(biāo)物體表面的缺陷進(jìn)行檢出。產(chǎn)品生產(chǎn)制造過程中產(chǎn)生的表面缺陷會影響其性能及客戶體驗(yàn)，傳統(tǒng)人工檢測的方法需要耗費(fèi)大量的人力，且無法滿足現(xiàn)代生產(chǎn)工藝和節(jié)奏的要求，利用機(jī)器視覺的方法進(jìn)行智能化檢測可以有效的解決這一問題，同時節(jié)省成本、提高產(chǎn)能。因此，表面缺陷檢測是機(jī)器視覺最重要的應(yīng)用方向之一，在整個工業(yè)應(yīng)用場景中占比約為50%。6AI工業(yè)視覺解決方案白皮書1.3工業(yè)視覺面臨的挑戰(zhàn)及發(fā)展趨勢總體來說，工業(yè)視覺在定位、測量、識別、檢測等各個方向上的應(yīng)用都面臨著精度越來越高、速度越來越快、準(zhǔn)確率要求越來越高的挑戰(zhàn)。這其中的部分問題隨時硬件水平的提高得到了有效的解決，比如采集硬件的分辨率、傳輸帶寬、運(yùn)算效率方面，但是也有一部分問題，需要長周期的實(shí)踐和迭代升級才有解決的可能，這其中的典型代表，就是復(fù)雜場景下的缺陷檢測。以下是幾類傳統(tǒng)算法難以解決的機(jī)器視覺代表性場景：1.缺陷檢測2.特征分割OKNG難點(diǎn)：缺陷特征被隨機(jī)的螺牙背景干擾，難以獨(dú)立分割出缺陷區(qū)域難點(diǎn)：缺陷區(qū)域呈現(xiàn)隨機(jī)灰度等級的黑色或白色，難以提取全部缺陷區(qū)域3.特征定位4.產(chǎn)品分類好爛難點(diǎn)：待定位的特征呈現(xiàn)相對隨機(jī)的輪廓，無法以特定模板匹配難點(diǎn)：不同類別的棗無任何歸一的特征規(guī)律，無法基于特征參數(shù)區(qū)分7AI工業(yè)視覺解決方案白皮書此類問題在工業(yè)現(xiàn)場是普遍存在且用戶需求迫切希望得到解決的，這為工業(yè)視覺的算法發(fā)展提出了新的挑戰(zhàn)。同時，如果這些問題得到解決，那么工業(yè)視覺的應(yīng)用邊界，將會得到極大的拓展，由原來只能在產(chǎn)品標(biāo)準(zhǔn)化、一致性極高的場景，變成幾乎可以替代人眼進(jìn)行任意場景下的視覺檢測應(yīng)用，而且不止是工業(yè)生產(chǎn)方面，在農(nóng)業(yè)、民用等領(lǐng)域也可以取得良好的應(yīng)用效果。解決這一問題的最核心關(guān)鍵點(diǎn)，就是深度學(xué)習(xí)技術(shù)的發(fā)展和應(yīng)用。8深度學(xué)習(xí)技術(shù)發(fā)展趨勢AI工業(yè)視覺解決方案白皮書2

.1深度學(xué)習(xí)技術(shù)概述深度學(xué)習(xí)是機(jī)器學(xué)習(xí)中一種基于對數(shù)據(jù)進(jìn)行表征學(xué)習(xí)的方法。在給予它一組輸入后，它使我們能夠訓(xùn)練AI來預(yù)測結(jié)果。其動機(jī)在于建立、模擬人腦進(jìn)行分析學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)，它模仿人腦的機(jī)制來解釋數(shù)據(jù)，例如圖像、聲音和文本。深度學(xué)習(xí)是學(xué)習(xí)樣本數(shù)據(jù)的內(nèi)在規(guī)律和表示層次，這些學(xué)習(xí)過程中獲得的信息對諸如文字，圖像和聲音等數(shù)據(jù)的解釋有很大的幫助。它的最終目標(biāo)是讓機(jī)器能夠像人一樣具有分析學(xué)習(xí)能力，能夠識別文字、圖像和聲音等數(shù)據(jù)。深度學(xué)習(xí)是一個復(fù)雜的機(jī)器學(xué)習(xí)算法，在語音和圖像識別方面取得的效果，遠(yuǎn)遠(yuǎn)超過先前相關(guān)技術(shù)。深度學(xué)習(xí)在搜索技術(shù)，數(shù)據(jù)挖掘，機(jī)器學(xué)習(xí)，機(jī)器翻譯，自然語言處理，多媒體學(xué)習(xí)，語音，推薦和個性化技術(shù)，以及其他相關(guān)領(lǐng)域都取得了很多成果。深度學(xué)習(xí)使機(jī)器模仿視聽和思考等人類的活動，解決了很多復(fù)雜的模式識別難題，使得人工智能相關(guān)技術(shù)取得了很大進(jìn)步。區(qū)別于傳統(tǒng)的淺層學(xué)習(xí)，深度學(xué)習(xí)的不同在于：(1)強(qiáng)調(diào)了模型結(jié)構(gòu)的深度，通常有5層、6層，甚至10多層的隱層節(jié)點(diǎn)；(2)明確了特征學(xué)習(xí)的重要性。也就是說，通過逐層特征變換，將樣本在原空間的特征表示變換到一個新特征空間，從而使分類或預(yù)測更容易。與人工規(guī)則構(gòu)造特征的方法相比，利用大數(shù)據(jù)來學(xué)習(xí)特征，更能夠刻畫數(shù)據(jù)豐富的內(nèi)在信息。10AI工業(yè)視覺解決方案白皮書(3)通過設(shè)計(jì)建立適量的神經(jīng)元計(jì)算節(jié)點(diǎn)和多層運(yùn)算層次結(jié)構(gòu)，選擇合適的輸入層和輸出層，通過網(wǎng)絡(luò)的學(xué)習(xí)和調(diào)優(yōu)，建立起從輸入到輸出的函數(shù)關(guān)系，雖然不能100%找到輸入與輸出的函數(shù)關(guān)系，但是可以盡可能的逼近現(xiàn)實(shí)的關(guān)聯(lián)關(guān)系。使用訓(xùn)練成功的網(wǎng)絡(luò)模型，就可以實(shí)現(xiàn)我們對復(fù)雜事務(wù)處理的自動化要求。典型的深度學(xué)習(xí)模型有卷積神經(jīng)網(wǎng)絡(luò)(

convolutional

neural

network)、DBN和堆棧自編碼網(wǎng)絡(luò)(stackedauto-encodernetwork)模型等。11AI工業(yè)視覺解決方案白皮書2

.2工業(yè)視覺深度學(xué)習(xí)技術(shù)發(fā)展趨勢在工業(yè)視覺方面，深度學(xué)習(xí)的典型應(yīng)用領(lǐng)域是異常檢測、圖像分類、缺陷檢測和物體定位。與傳統(tǒng)的機(jī)器視覺方法相比，深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)適應(yīng)性更好，通用性更廣。1.異常檢測

:

是指將整個圖像劃分為“好”或“壞”，例如藥片的好壞，是對圖像整體的屬性進(jìn)行判斷。2.圖像分類

:

是指將整個圖像劃分為已定義的類型，例如對僅包含單個物體的圖像進(jìn)行類型分類。例如，貓狗分類，或者同一種產(chǎn)品的不同狀態(tài)進(jìn)行分類。12AI工業(yè)視覺解決方案白皮書3.缺陷檢測

:

也稱像素分割缺陷檢測，是指逐像素進(jìn)行分割，在圖像中判斷是否存在局部區(qū)域的缺陷，是工業(yè)場景中進(jìn)行質(zhì)量檢查最典型的應(yīng)用之一。13AI工業(yè)視覺解決方案白皮書4.物體定位

:

指的是確認(rèn)某項(xiàng)固定或類似特征在圖像中的位置，例如我們經(jīng)常用到的人臉識別。14AI工業(yè)視覺解決方案白皮書深度學(xué)習(xí)和傳統(tǒng)機(jī)器視覺方法的差異主要在于，傳統(tǒng)機(jī)器學(xué)習(xí)的步驟是人工分析圖片的特征，通過圖像算法提取特征，然后通過特征的數(shù)值來區(qū)分物品。在分析的時候不需要大量的圖片，只需要幾種分類的典型圖片，和類別之間的臨界圖片。人工分析在整個過程當(dāng)中起到了主導(dǎo)的作用。而深度學(xué)習(xí)的步驟是采集大量圖片，標(biāo)注圖片，把圖片放進(jìn)網(wǎng)絡(luò)訓(xùn)練，查看訓(xùn)練結(jié)果，調(diào)節(jié)參數(shù)和網(wǎng)絡(luò)結(jié)構(gòu)，再次訓(xùn)練，得到最好的結(jié)果。深度學(xué)習(xí)在標(biāo)注和訓(xùn)練的時候不需要專業(yè)，網(wǎng)絡(luò)會自動提取和篩選特征，規(guī)劃分割閾值。只是在調(diào)整參數(shù)和網(wǎng)絡(luò)結(jié)構(gòu)時需要專業(yè)工程師，但是在一些項(xiàng)目中可以不用調(diào)整參數(shù)和網(wǎng)絡(luò)結(jié)構(gòu)，通過調(diào)整數(shù)據(jù)來解決準(zhǔn)確性問題。機(jī)器學(xué)習(xí)特征提取分類深度學(xué)習(xí)特征提取+分類15AI工業(yè)視覺解決方案白皮書其次，當(dāng)檢測不同的物體和特征時，深度學(xué)習(xí)方法的優(yōu)勢是能夠檢測以不同形式出現(xiàn)的物體或特征，例如表面劃痕、不同形狀的天然產(chǎn)品或手寫字跡。例如在異常檢測中，只需使用完美無瑕的物體圖像來訓(xùn)練神經(jīng)網(wǎng)絡(luò)，即可識別物體在使用過程中造成的損壞。再次，經(jīng)過適當(dāng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)可以很好地識別出變量環(huán)境（如變化的背景、不同的分辨率或光源條件）中的物體，無需針對每個可能的特性進(jìn)行專門訓(xùn)練。但是需要大量的圖片數(shù)據(jù)。當(dāng)然，深度學(xué)習(xí)工業(yè)視覺的實(shí)施也需要具備一定的條件和成本。在硬件配置方面，通常需要增加額外的GPU作為算力支撐，在實(shí)施方面，需要準(zhǔn)備大量的訓(xùn)練樣本數(shù)據(jù)，大量的人工標(biāo)注工作量等，但是，考慮到期在識別能力上，算法的適應(yīng)力上和特征提取和分類的流程上的優(yōu)勢，隨著市場需求、行業(yè)技術(shù)水平的發(fā)展，硬件性能提升，成本有所下降之后，深度學(xué)習(xí)在工業(yè)視覺的應(yīng)用一定會更加的普及。16AI工業(yè)視覺落地痛點(diǎn)及發(fā)展趨勢AI工業(yè)視覺解決方案白皮書3

.1AI工業(yè)視覺落地痛點(diǎn)與傳統(tǒng)方法相比，為了在應(yīng)用中充分發(fā)揮純深度學(xué)習(xí)方法的優(yōu)勢，往往需要對使用的硬件進(jìn)行額外投資，并需要大量的示例圖像來訓(xùn)練神經(jīng)網(wǎng)絡(luò)。3.1.1

額外的硬件深度學(xué)習(xí)架構(gòu)復(fù)雜精巧、功能強(qiáng)大，其突出特點(diǎn)在于它是由大量的神經(jīng)網(wǎng)絡(luò)層構(gòu)成。因此，運(yùn)行深度學(xué)習(xí)的應(yīng)用程序需要用到大量的內(nèi)存和計(jì)算能力。通常只有將計(jì)算任務(wù)轉(zhuǎn)移到額外的處理器（如GPU顯卡）上同時執(zhí)行計(jì)算，才能在可接受的短時間內(nèi)完成處理工作。在目前的市場條件下，增加GPU顯卡對于很多用戶來說是一項(xiàng)不小的成本開支。3.1.2

發(fā)熱量和功耗大型神經(jīng)網(wǎng)絡(luò)對計(jì)算能力的要求較高，因此增加了應(yīng)用的功耗，并相應(yīng)地增加了發(fā)熱量。這尤其會對嵌入式系統(tǒng)造成問題，因?yàn)橥ǔＰ枰獙η度胧较到y(tǒng)的低功耗和熱管理方面進(jìn)行優(yōu)化。3.1.3

大量的訓(xùn)練數(shù)據(jù)要想可靠地識別物體，首先需要大量的訓(xùn)練圖像，這些圖像會描述和標(biāo)記所有物體和屬性，以便讓系統(tǒng)能在盡可能多的不同變量和環(huán)境中完成識別。用于訓(xùn)練的不同圖像數(shù)據(jù)量越多，深度學(xué)習(xí)網(wǎng)絡(luò)就越容易學(xué)會如何識別物體。在開發(fā)機(jī)器視覺應(yīng)用時，要獲取成百上千幅所需的圖像往往是一項(xiàng)艱巨的任務(wù)。更多的時候，工廠可能根本就不具備條件產(chǎn)生足夠多的訓(xùn)練樣本，尤其是負(fù)樣本。18AI工業(yè)視覺解決方案白皮書3.1.4

大量的人工標(biāo)注工作獲取到的大量數(shù)據(jù)是不能立即使用的，需要人給這些數(shù)據(jù)進(jìn)行標(biāo)注，對于圖像分割，需要精準(zhǔn)的標(biāo)準(zhǔn)圖像中要分割的區(qū)域，這樣才能在推理圖片的時候得到精準(zhǔn)的區(qū)域。這些標(biāo)注工作都只能是人工手動完成，所以在數(shù)據(jù)大的時候，還需要檢測是否有標(biāo)注錯誤的問題。上述幾個應(yīng)用的條件正是深度學(xué)習(xí)工業(yè)視覺項(xiàng)目落地的阻礙，也是用戶的痛點(diǎn)，相對的，在技術(shù)上能夠解決這些痛點(diǎn)的算法，將能夠得到更好的推廣和應(yīng)用。額外的硬件：思路之一是實(shí)現(xiàn)基于平價的CPU進(jìn)行訓(xùn)練和推理。發(fā)熱量和功耗：思路之一能將深度學(xué)習(xí)與傳統(tǒng)算法進(jìn)行深度融合，采用傳統(tǒng)算法解決一部分問題后交接給深度學(xué)習(xí)處理。大量的訓(xùn)練數(shù)據(jù)：行業(yè)內(nèi)通用的解決方案是采用小樣本訓(xùn)練，然后在推理過程中不斷迭代。大量的人工標(biāo)注：自動標(biāo)注工具的研發(fā)將有助于該問題的解決和落地。19AI工業(yè)視覺解決方案白皮書3.

2AI工業(yè)視覺落地關(guān)鍵技術(shù)解析對應(yīng)3.1提出的用戶痛點(diǎn)問題及解決思路，結(jié)合實(shí)際落地的項(xiàng)目經(jīng)驗(yàn)，目前AI工業(yè)視覺落地的關(guān)鍵技術(shù)包括如下幾個方面：3.2.1

基于CPU進(jìn)行訓(xùn)練及推理深度學(xué)習(xí)算法對計(jì)算資源的需求是確定的，如何提高深度學(xué)習(xí)應(yīng)用部署效率，降低運(yùn)行成本，幫助算法及業(yè)務(wù)團(tuán)隊(duì)快速落地應(yīng)用和服務(wù)，讓

AI

發(fā)揮真正的生產(chǎn)力，是深度學(xué)習(xí)算法平臺努力的目標(biāo)

。由于工業(yè)領(lǐng)域深度學(xué)習(xí)應(yīng)用的特殊性，可以把訓(xùn)練與推理分開實(shí)施，模型訓(xùn)練完畢后的運(yùn)行機(jī)往往裝在設(shè)備上交付給終端用戶，不再需要大規(guī)模的持續(xù)訓(xùn)練和升級，這就使得深度學(xué)習(xí)在CPU上運(yùn)行具備了基礎(chǔ)條件。由于大量的算法訓(xùn)練及推理服務(wù)需求，使用

CPU

進(jìn)行的推理服務(wù)常常由于性能問題，無法滿足服務(wù)指標(biāo)。然而通過提升推理服務(wù)在CPU上的性能，可以幫助實(shí)現(xiàn)GPU遷移到CPU上的目的。目前在Intel的處理器上使用OpenVINO，在Arm的處理器上使用NCNN/MNN等，在Nvidia

GPU上使用TensorRT均可以大幅提升深度學(xué)習(xí)推理的效率，使用CPU進(jìn)行推理的設(shè)想得以實(shí)現(xiàn)，并且變成了各大廠家角逐的關(guān)鍵技術(shù)點(diǎn)之一。3.2.2

缺陷檢測深度學(xué)習(xí)過濾及圖像自動采集標(biāo)注技術(shù)針對一些代表性的場景如特征明顯但存在異物干擾的情況，使用傳統(tǒng)算法唯一的問題是會造成一定程度的過殺，但是其實(shí)施效率高、消耗的算力和功耗少，是深度學(xué)習(xí)無法比擬的優(yōu)勢。在這種場景下，使用傳統(tǒng)算法進(jìn)行過殺，然后對NG的圖片進(jìn)行深度學(xué)習(xí)標(biāo)注和訓(xùn)練，將傳統(tǒng)算法與深度學(xué)習(xí)有機(jī)的結(jié)合在一起，可以實(shí)現(xiàn)事半功倍的效果稱之為缺陷檢測深度學(xué)習(xí)過濾技術(shù)。此外，傳統(tǒng)軟件和深度學(xué)習(xí)的結(jié)合還可以用于圖20AI工業(yè)視覺解決方案白皮書像的自動采集、自動標(biāo)注等方向，為深度學(xué)習(xí)的實(shí)施提供了更好的落地條件。案例：鍵盤表面缺陷，會有毛發(fā)、指紋、灰塵等異物干擾3.2.3

小樣本訓(xùn)練及神經(jīng)網(wǎng)絡(luò)模型再訓(xùn)練技術(shù)目前大部分的深度學(xué)習(xí)模型，都是監(jiān)督學(xué)習(xí)的方式進(jìn)行的，需要海量的數(shù)據(jù)支持。而現(xiàn)實(shí)生產(chǎn)環(huán)境中，數(shù)據(jù)集通常較小，只有幾萬甚至幾百個樣本。此時，通常我們采用以下兩種技術(shù)進(jìn)行解決。第一：利用預(yù)訓(xùn)練模型進(jìn)行遷移微調(diào)（?ne-tuning），預(yù)訓(xùn)練模型通常在特征上擁有很好的語義表達(dá)。此時，只需將模型在小數(shù)據(jù)集上進(jìn)行微調(diào)就能取得不錯的效果。這也是目前大部分小數(shù)據(jù)集常用的訓(xùn)練方式。視覺領(lǐng)域內(nèi)，通常會ImageNet上訓(xùn)練完成的模型。第二：單樣本或者小樣本學(xué)習(xí)（one-shot，few-shot

learning），這種方式適用于樣本類別遠(yuǎn)遠(yuǎn)大于樣本數(shù)量的情況等極端數(shù)據(jù)集。例如有1000個類別，每個類別只提供1-5個樣本。少樣本學(xué)習(xí)同樣也需要借助預(yù)訓(xùn)練模型，但有別于微調(diào)的點(diǎn)在于，微調(diào)通常仍然在學(xué)習(xí)不同類別的語義，而少樣本學(xué)習(xí)通常需要學(xué)習(xí)樣本之間的距離度量。例21AI工業(yè)視覺解決方案白皮書如孿生網(wǎng)絡(luò)（Siamese

Neural

Networks）就是通過訓(xùn)練兩個同種結(jié)構(gòu)的網(wǎng)絡(luò)來判別輸入的兩張圖片是否屬于同一類。

以上兩種是常用訓(xùn)練小樣本數(shù)據(jù)集的方式。此外，也有些常用的方式：數(shù)據(jù)集增強(qiáng)、正則或者半監(jiān)督學(xué)習(xí)等方式來解決小樣本數(shù)據(jù)集的訓(xùn)練問題。此外，也有深度學(xué)習(xí)廠家研發(fā)了一些幫助用戶進(jìn)行樣本圖片生成的工具，可以將收集到的少量NG圖片進(jìn)行算法加工，生成近似真實(shí)的樣本圖片用于深度學(xué)習(xí)訓(xùn)練。22AI工業(yè)視覺解決方案AI工業(yè)視覺解決方案白皮書4.1AI工業(yè)視覺解決方案架構(gòu)及組成4.1.1

基于本地算力的AI工業(yè)視覺解決方案典型的基于本地算力的AI工業(yè)視覺解決方案可以理解為在傳統(tǒng)工業(yè)視覺系統(tǒng)的基礎(chǔ)之上，增加深度學(xué)習(xí)訓(xùn)練機(jī)以及深度學(xué)習(xí)算法軟件，具體來說，由如上圖所示的幾部分組成：1、圖像采集部分：通常由一套或者多套這樣的成像系統(tǒng)組成，包括工業(yè)相機(jī)、工業(yè)鏡頭等。成像系統(tǒng)包含的部件種類繁多，需要根據(jù)應(yīng)用需求進(jìn)行選擇；2、照明光源：光源是影響機(jī)器視覺系統(tǒng)輸入的重要因素，它直接影響輸入數(shù)據(jù)的質(zhì)量和應(yīng)用效果；3、控制單元：控制單元一般包含光電傳感器、I/O、運(yùn)動控制、電平轉(zhuǎn)化單元等，用以判斷被測對象的位置和狀態(tài)，

告知圖像傳感器進(jìn)行正確的采集或根據(jù)圖像處理結(jié)果完成對生產(chǎn)過程的控制；24AI工業(yè)視覺解決方案白皮書4、圖像處理算力設(shè)備：工控機(jī)或

GPU

服務(wù)器，是視覺系統(tǒng)的核心算力，部署于靠近相機(jī)的端側(cè)，完成圖像數(shù)據(jù)的處理和絕大部分的控制邏輯，對于檢測識別類型或采用深度學(xué)習(xí)算法的應(yīng)用，通常都需要高性能的

CPU/GPU，減少處理的時間。工控機(jī)內(nèi)的機(jī)器視覺軟件用來完成輸入的圖像數(shù)據(jù)的處理，通過圖像識別得出結(jié)果，這個輸出的結(jié)果可能是PASS/FAIL信號、坐標(biāo)位置、字符串等。5、執(zhí)行機(jī)構(gòu)：可能是機(jī)械臂、氣動裝置等，用于執(zhí)行運(yùn)算結(jié)構(gòu)后進(jìn)行相應(yīng)的剔除、抓取、裝配等工作?；诒镜厮懔Φ腁I工業(yè)視覺解決方案是目前主流的方案類型。4.1.2

基于邊緣側(cè)的AI工業(yè)視覺解決方案邊緣學(xué)習(xí)將基于規(guī)則的高效機(jī)器視覺嵌入到一套預(yù)先訓(xùn)練的深度學(xué)習(xí)算法中，以創(chuàng)建針對工廠自動化優(yōu)化過的一個集成工具集。該技術(shù)無需機(jī)器視覺和深度學(xué)習(xí)方面的專業(yè)知識。相反，生產(chǎn)線工程師可以基于其對所需解決任務(wù)的現(xiàn)有了解來訓(xùn)練邊緣學(xué)習(xí)技術(shù)。邊緣學(xué)習(xí)與現(xiàn)有深度學(xué)習(xí)框架的不同之處在于，其并非通用的解決方案，而是專門為工業(yè)自動化應(yīng)用量身定制的。邊緣學(xué)習(xí)與其他深度學(xué)習(xí)產(chǎn)品的不同之處在于，其專注于確保在應(yīng)用部署的所有階段都易于使用。舉例來說，邊緣學(xué)習(xí)僅需更少的圖像即可實(shí)現(xiàn)概念驗(yàn)證，圖像設(shè)置和采集時間也更少，并且無需專門編程。邊緣側(cè)AI工業(yè)視覺解決方案的優(yōu)勢是其易用性和低成本，但是受制于算力，單品適用的場景非常受限，復(fù)用性和擴(kuò)展性都比較差。25AI工業(yè)視覺解決方案白皮書4.1.3

基于5G+云端的AI工業(yè)視覺解決方案隨著5G技術(shù)和云端算力的提升，基于5G+云端的AI工業(yè)視覺解決方案被提出并實(shí)現(xiàn)。如上圖所示，工控機(jī)和

AI

視覺云平臺通過

5G

網(wǎng)絡(luò)連接，實(shí)現(xiàn)設(shè)備狀態(tài)和軟件版本的在線可視化管理，同時將瑕疵、誤殺、疑似等圖像上傳到視覺

AI

云平臺，實(shí)現(xiàn)了AI工業(yè)視覺在云端的部署。26AI工業(yè)視覺解決方案白皮書4.2AI工業(yè)視覺解決方案實(shí)施流程4.2.1

數(shù)據(jù)收集數(shù)據(jù)收集是AI工業(yè)視覺解決方案落地的第一步。首先我們要關(guān)注AI算法對數(shù)據(jù)數(shù)量和質(zhì)量的要求，然后在實(shí)際生產(chǎn)中去收集足夠的對應(yīng)樣本數(shù)據(jù)。通常情況下，訓(xùn)練用的數(shù)據(jù)集必須要有足夠的代表性，需要包含實(shí)際生產(chǎn)中各種可能的情況，而且對應(yīng)各種情況的圖像數(shù)量分布要均勻。在數(shù)量方面，訓(xùn)練用的數(shù)據(jù)集樣本一定要相對較多，根據(jù)模型的復(fù)雜程度，高質(zhì)量的圖片數(shù)量，以及負(fù)樣本的數(shù)量必須足夠。樣本圖片的收集往往可以借助工廠搭建好的機(jī)器視覺硬件系統(tǒng)自動進(jìn)行采集和存儲。27AI工業(yè)視覺解決方案白皮書圖像數(shù)據(jù)的收集工作在某些場景下需要耗費(fèi)大量的人力以及時間，且往往對深度學(xué)習(xí)項(xiàng)目最終能否成功實(shí)施、或最終的檢出率是否達(dá)標(biāo)具有至關(guān)重要的意義。因此在評估深度學(xué)習(xí)項(xiàng)目時，要格外關(guān)注此部分工作的實(shí)現(xiàn)難度，對工作量做出客觀和準(zhǔn)確的評估，并入系統(tǒng)成本考量維度。另外值得注意的是，負(fù)樣本的收集往往是瓶頸站點(diǎn)，因?yàn)楣S自動化生產(chǎn)過程中NG產(chǎn)品的比例是相對較低且無法人為制造的，但是檢出所有NG產(chǎn)品恰恰是上線深度學(xué)習(xí)項(xiàng)目的目的，因此必須要有足夠的負(fù)樣本數(shù)量。4.2.2

分類及數(shù)據(jù)標(biāo)記在獲取了足夠的圖像數(shù)據(jù)之后，依據(jù)圖像的屬性進(jìn)行準(zhǔn)確的分類，如果是缺陷檢測目的，通常只需要劃分為OK/NG兩類，如果是圖像分類，則需要根據(jù)特征劃分為對應(yīng)的類別，方便接下來的數(shù)據(jù)標(biāo)記工作開展。不同的深度學(xué)習(xí)軟件提供不同的標(biāo)記方式，目前AI工業(yè)視覺領(lǐng)域比較典型的有兩種，一種是全圖標(biāo)記（也稱全圖分類），一種是像素分割。典型的全圖分類模式下標(biāo)記主界28AI工業(yè)視覺解決方案白皮書面如圖所示，界面上可以顯示多幅圖像形成的圖像列表。這種標(biāo)記方式的好處是效率較高，可以支持超大規(guī)模的圖像快速標(biāo)記。他允許用戶對整幅圖片進(jìn)行類別的標(biāo)記，比如OK或NG，這樣做的前提是，圖像中的缺陷占據(jù)全圖的較大幅面，也就意味著在準(zhǔn)備用于樣本訓(xùn)練的圖片時，通常需要從高分辨率的圖片中預(yù)先裁切出缺陷所在的區(qū)域，產(chǎn)生分辨率較小的一系列圖片用于標(biāo)記和訓(xùn)練。全圖標(biāo)記由于分辨率較小，通常可以快速的完成標(biāo)記和訓(xùn)練，取得準(zhǔn)確的判定結(jié)果。同時，由于標(biāo)記所需圖片可以從高分辨率圖像中裁切獲得，對樣本的數(shù)據(jù)量依賴問題得到了較好的解決，在樣本圖片的裁切時，通常還可以與傳統(tǒng)算法相結(jié)合進(jìn)行，使得整體項(xiàng)目落地的效率較高。當(dāng)然，全圖標(biāo)記的標(biāo)注方法也有其局限性。當(dāng)被測物的缺陷種類眾多、產(chǎn)品背景復(fù)雜、產(chǎn)品本身類型眾多、缺陷位置無法自動定位時，全圖標(biāo)記在小分辨率訓(xùn)練圖像自動獲取時就存在較大障礙，此時一般使用像素分割模式進(jìn)行。相對于全圖分類的對整幅圖像進(jìn)行標(biāo)記，像素分割是在圖片中對缺陷區(qū)域進(jìn)行標(biāo)記，訓(xùn)練缺陷區(qū)域的像素和背景像素的差異，從而智能的找出特定的缺陷。29AI工業(yè)視覺解決方案白皮書這種方法可以解決兩個難點(diǎn)問題：不明顯的裂紋第一、如上圖所示的不明顯裂紋，利用傳統(tǒng)算法很難分割出來，就算分割出來了，也會同時把其他的一些干擾因素分割出來，造成誤檢。基于深度學(xué)習(xí)像素分割，可以不通過閾值等傳統(tǒng)方法分割，而是通過大量類似的數(shù)據(jù)訓(xùn)練出類腦模型后，進(jìn)行裂紋區(qū)域推理，從而找到缺陷的位置。基于像素分割模型的推理效果30AI工業(yè)視覺解決方案白皮書第二、當(dāng)干擾因素和缺陷類似，或干擾因素的層次感比缺陷還高時，用傳統(tǒng)分割算法就很容易造成誤檢。但是用深度學(xué)習(xí)像素分割模型進(jìn)行推理，就可以根據(jù)訓(xùn)練的“經(jīng)驗(yàn)數(shù)據(jù)”進(jìn)行類腦判斷，從而準(zhǔn)確的只檢測出真實(shí)缺陷。盡管右下角的臟污比中間的裂紋更明顯，但是依然只準(zhǔn)確的檢測出裂紋隱約的裂紋缺陷也不會和其他非裂紋特征混淆盡管“纖維”的灰度等級更高，模型依然可以智能的只推理出裂紋缺陷。311、圖像采集部分：通常由一套或者多套這樣的成像系統(tǒng)組成，包括工業(yè)相機(jī)、工業(yè)鏡頭等。成像系統(tǒng)包含的部件種類繁多，需要根據(jù)應(yīng)用需求進(jìn)行選擇；2、照明光源：光源是影響機(jī)器視覺系統(tǒng)輸入的重要因素，它直接影響輸入數(shù)據(jù)的質(zhì)量和應(yīng)用效果；3、控制單元：控制單元一般包含光電傳感器、I/O、運(yùn)動控制、電平轉(zhuǎn)化單元等，用以判斷被測對象的位置和狀態(tài)，

告知圖像傳感器進(jìn)行正確的采集或根據(jù)圖像處理結(jié)果完成對生產(chǎn)過程的控制；AI工業(yè)視覺解決方案白皮書支持像素分割的AI工業(yè)視覺軟件通常會提供各種便捷的標(biāo)注方法，如矩形、圓形、自定義形狀或鼠標(biāo)涂抹標(biāo)記等。圖像的標(biāo)記往往是整個深度學(xué)習(xí)項(xiàng)目落地過程中最為耗費(fèi)人工和時間的階段之一，大量的圖像數(shù)據(jù)需要人工進(jìn)行缺陷類型以及位置的準(zhǔn)確標(biāo)記以及復(fù)核，才能獲得更為準(zhǔn)確的訓(xùn)練模型。按照目前行業(yè)較為常規(guī)的工作量評估，一個熟練的深度學(xué)習(xí)圖像標(biāo)注人員，每天可以標(biāo)注五千到一萬張圖片。4.2.3

模型訓(xùn)練相較于傳統(tǒng)的民用級深度學(xué)習(xí)開發(fā)過程中“創(chuàng)建數(shù)據(jù)集-加載數(shù)據(jù)集-創(chuàng)建神經(jīng)網(wǎng)絡(luò)模型-創(chuàng)建損失函數(shù)-設(shè)置優(yōu)化器-設(shè)置訓(xùn)練網(wǎng)絡(luò)的超參數(shù)-開始訓(xùn)練并記錄訓(xùn)練結(jié)果-保存訓(xùn)練后的模型”這八個典型步驟，工業(yè)應(yīng)用級別的深度學(xué)習(xí)模型訓(xùn)練集成度更高，操作更簡便，對人員的開發(fā)能力要求大大降低。無論是全圖分類還是像素分割，標(biāo)記工作完成之后，即可進(jìn)行深度學(xué)習(xí)模型訓(xùn)練的工作。深度學(xué)習(xí)軟件區(qū)別于傳統(tǒng)軟件最重要的特點(diǎn)之一，就是不需要具備圖像處理的基礎(chǔ)知識，不需要進(jìn)行復(fù)雜的算子選擇和程序創(chuàng)建，模型的訓(xùn)練完全是自動化進(jìn)行的，操作極其簡單，只需要借助GPU強(qiáng)大的算力支持，一鍵即可完成深度學(xué)習(xí)模型的訓(xùn)練工作。32AI工業(yè)視覺解決方案白皮書在模型訓(xùn)練的過程中，我們往往比較關(guān)注訓(xùn)練時間、準(zhǔn)確率/損失值等數(shù)據(jù)。訓(xùn)練時間的長短主要取決于廠家算法性能、訓(xùn)練用圖片分辨率、樣本數(shù)量、計(jì)算機(jī)提供的算力等。而準(zhǔn)確率/損失值數(shù)據(jù)，跟圖片標(biāo)注的準(zhǔn)確率、樣本質(zhì)量、算法性能、訓(xùn)練輪數(shù)等有較大關(guān)系。對于支持小樣本訓(xùn)練的算法軟件，通常可以先使用少量樣本進(jìn)行標(biāo)注和訓(xùn)練多輪次，將準(zhǔn)確率提升至一定程度后進(jìn)行試運(yùn)行，過程中將檢測錯誤的圖片進(jìn)行重新標(biāo)注和訓(xùn)練，以快速、高效的提升模型準(zhǔn)確率。支持繼續(xù)訓(xùn)練也是這一方法可以實(shí)施的必要條件。使用大量圖片進(jìn)行驗(yàn)證、校驗(yàn)原有的標(biāo)注數(shù)據(jù)準(zhǔn)確性，也是模型訓(xùn)練必須要進(jìn)行的工作之一。4.2.4

在線推理及優(yōu)化完成訓(xùn)練得到模型之后，深度學(xué)習(xí)項(xiàng)目即具備了上線運(yùn)行的基本條件，此時需要專門的人員進(jìn)行一定時長的跟機(jī)工作，在推理過程中，進(jìn)行模型準(zhǔn)確度的驗(yàn)證，實(shí)時發(fā)現(xiàn)誤檢、漏檢的圖片案例并進(jìn)行收集、再訓(xùn)練，不斷完善模型的準(zhǔn)確率，直至達(dá)到驗(yàn)收要求。通常需要預(yù)設(shè)一定的時間或樣本的數(shù)量，來驗(yàn)證項(xiàng)目是否達(dá)到了需求中的識別率、準(zhǔn)確率等數(shù)據(jù)，因?yàn)橹挥性谡鎸?shí)的在線生產(chǎn)過程中滿足了這些指標(biāo)要求，深度學(xué)習(xí)才能真正替代傳統(tǒng)算法或者人工，完成質(zhì)量檢查的工作。在工業(yè)生產(chǎn)中用戶經(jīng)常面臨的痛苦之一，是由于產(chǎn)品的種類更換、設(shè)備本身磨損帶來的產(chǎn)品一致性問題，會有新的種類及不良類型不斷產(chǎn)生，相比傳統(tǒng)視覺，使用深度學(xué)習(xí)帶來的額外好處是，在這種情況下，只需要在原來模型的基礎(chǔ)上進(jìn)行簡單的操作，繼續(xù)訓(xùn)練對模型進(jìn)行優(yōu)化即可完成檢測工作。33AI工業(yè)視覺解決方案白皮書4.3AI工業(yè)視覺解決方案典型應(yīng)用場景4.3.1

缺陷檢測缺陷檢測顯然是AI工業(yè)視覺解決方案最大的用武之地，機(jī)器視覺技術(shù)誕生以來，最大的使命就是執(zhí)行檢查任務(wù)，例如檢測制造產(chǎn)品中的缺陷、污染物、功能缺陷等異常。相比人類視覺，機(jī)器視覺因其速度、準(zhǔn)確性和可重復(fù)性而在結(jié)構(gòu)化場景的定量測量中具有優(yōu)勢。利用適當(dāng)?shù)南鄼C(jī)分辨率和光學(xué)件配置制造的機(jī)器視覺系統(tǒng)可以輕松檢測人眼難以看到的物體細(xì)節(jié)，并且檢測的可靠性較高，錯誤也較少。在生產(chǎn)線上，機(jī)器視覺系統(tǒng)可以可靠且重復(fù)地每分鐘檢查數(shù)百或數(shù)千個部件，遠(yuǎn)遠(yuǎn)超過人類的檢測能力。但是與傳統(tǒng)的機(jī)器視覺不同，人類擅長區(qū)分細(xì)微的表面和功能缺陷，以及區(qū)分可能影響感知質(zhì)量的部分外觀變化。雖然人類處理信息的速度有限，但人類有特殊的概念化和概括的能力。人類擅長通過實(shí)例學(xué)習(xí)，并且在部件有小異常時，能夠區(qū)分真正重要的部分。在很多情況下，這使人類視覺成為定性解釋復(fù)雜、非結(jié)構(gòu)化場景的理想選擇，尤其是那些有微小缺陷和不可預(yù)測缺陷的場景。而深度學(xué)習(xí)技術(shù)的出現(xiàn)使得在這些場景下使用機(jī)器替代人眼變成了可能。以下是幾個AI工業(yè)視覺技術(shù)進(jìn)行缺陷檢測的具體案例。案例一、螺紋裂紋檢測項(xiàng)目背景：在螺紋的生產(chǎn)加工過程中，因?yàn)楦鞣N原因會產(chǎn)生一定比例的不合格品，如果不能夠?qū)⒉缓细衿窓z測出來，會對產(chǎn)品本身的強(qiáng)度造成嚴(yán)重影響，采用傳統(tǒng)的視覺檢測方法對螺紋進(jìn)行檢測，因?yàn)槁菁y本身的紋理干擾等因素，在檢測的過程中無法檢34AI工業(yè)視覺解決方案白皮書測或者誤判率非常高，采用的深度學(xué)習(xí)功能，將誤判率大大的降低，良品率能夠達(dá)到99.9%以上。項(xiàng)目實(shí)施步驟：第一步、采集圖像：對樣品（包含OK品和NG品的圖片）的圖片進(jìn)行采集并保存35AI工業(yè)視覺解決方案白皮書第二步、截圖（截取需要用深度學(xué)習(xí)標(biāo)記的圖像）用深度學(xué)習(xí)缺陷過濾模塊截圖截圖保存路徑設(shè)置36AI工業(yè)視覺解決方案白皮書截取的圖像第三步、標(biāo)記圖像：用深度學(xué)習(xí)訓(xùn)練器進(jìn)行標(biāo)記37AI工業(yè)視覺解決方案白皮書第四步、訓(xùn)練導(dǎo)出測試圖像集第五步、訓(xùn)練模型：OK品和NG品都分類導(dǎo)出完成后，使用軟件進(jìn)行模型訓(xùn)練38AI工業(yè)視覺解決方案白皮書第六步、啟用深度學(xué)習(xí)推理案例二、鍵盤缺陷檢測項(xiàng)目背景：在電腦鍵盤字符印刷的過程中，經(jīng)常會產(chǎn)生各種印刷不良，采用傳統(tǒng)的視覺檢測方法進(jìn)行檢測，粉塵、毛屑、指紋等如果殘留在鍵盤上，就會對視覺檢測造成干擾，在檢測過程中將其誤檢為字符的印刷不良，使合格品被誤檢為不合格品，從而影響產(chǎn)線的生產(chǎn)效率，針對以上存在的問題，使用深度學(xué)習(xí)功能對鍵盤進(jìn)行檢測，使產(chǎn)線的誤檢率大大的降低，從而提高了產(chǎn)線的檢測生產(chǎn)效率和產(chǎn)品質(zhì)量。鍵盤缺陷檢測實(shí)施步驟：第一步、采集圖像：對樣品（包含OK品和NG品的圖片）的圖片進(jìn)行采集并保存。39AI工業(yè)視覺解決方案白皮書第二步、截圖（截取需要用深度學(xué)習(xí)標(biāo)記的圖像）40AI工業(yè)視覺解決方案白皮書第三步、標(biāo)記圖像41AI工業(yè)視覺解決方案白皮書第四步、訓(xùn)練導(dǎo)出第五步、訓(xùn)練模型42AI工業(yè)視覺解決方案白皮書第六步、啟用深度學(xué)習(xí)推理4.3.2

圖像分類圖像分類技術(shù)在民用領(lǐng)域最典型的應(yīng)用是人臉識別，人臉識別目前已經(jīng)是計(jì)算機(jī)視覺中非常成熟的技術(shù)了，完成不同人臉的識別后，算法工程師又把目光轉(zhuǎn)向了更為復(fù)雜的“表情識別”。表情相對于人臉的特征來說，其變化更加微小，不同人的表情差別是很大的。比如：A的“微笑”有可能和B的“哭泣”類似。所以表情識別對神經(jīng)網(wǎng)絡(luò)模型的架構(gòu)要求非常高，模型訓(xùn)練的挑戰(zhàn)更大。神經(jīng)網(wǎng)絡(luò)是基于感知機(jī)發(fā)展而來，感知機(jī)是一個有若干輸入和一個輸出的模型。深度神經(jīng)網(wǎng)絡(luò)可以有更復(fù)雜的輸入數(shù)據(jù)和多個輸出結(jié)果。所以，它可以把不同人群的相同表情歸一到一個輸出結(jié)果上。43AI工業(yè)視覺解決方案白皮書調(diào)用“模型分類”工具并加載訓(xùn)練好的表情識別模型基于深度學(xué)習(xí)的表情識別歸一化44AI工業(yè)視覺解決方案白皮書基于深度學(xué)習(xí)的表情識別相對于工業(yè)場景的分類來說，實(shí)現(xiàn)難度是比較小的，因?yàn)楸砬椴町惖奶卣髟趫D片上的數(shù)據(jù)差異是非常大的。以1000萬像素的手機(jī)圖片來說，同一個人的“高興”和“哭泣”圖像的差別可以達(dá)到800萬個像素點(diǎn)。如果用傳統(tǒng)算法是無法承受之重，但是對于神經(jīng)網(wǎng)絡(luò)模型來說卻是大有可為的。而真正的難點(diǎn)是工業(yè)領(lǐng)域的分類。以目前算法比較成熟的紅棗分類檢測舉例，以500萬像素的工業(yè)相機(jī)來說，不同類型紅棗之間的特征差異，可能只有幾百個像素，而且差異的像素深度很低。這個時候要準(zhǔn)確的進(jìn)行分類，就很難了。首先我們要選取合適的標(biāo)注方式，結(jié)合前文的介紹，紅棗的分類顯然更適合全圖分類方式進(jìn)行：1、使用自動圖片采集工具針對不同的樣品采集足夠的分類樣本。45AI工業(yè)視覺解決方案白皮書2、使用截圖工具截取紅棗占據(jù)較大畫面比例的小分辨率圖像，得到全圖標(biāo)注所需要的足夠數(shù)據(jù)集。46AI工業(yè)視覺解決方案白皮書3、進(jìn)行圖像標(biāo)注及模型訓(xùn)練，即可得到可用的深度學(xué)習(xí)分類模型。采用這種標(biāo)注方式實(shí)現(xiàn)深度學(xué)習(xí)圖像分類的好處是顯而易見的，首先缺陷過濾模型相對輕量級，模型訓(xùn)練用的圖片是“可能存在”缺陷的區(qū)域，相對于使用全局圖像訓(xùn)練，正負(fù)樣本的差異性會大很多，訓(xùn)練成熟網(wǎng)絡(luò)模型需要的圖像數(shù)量相對較少，模型復(fù)雜程度相對較低。其次數(shù)據(jù)標(biāo)注相對容易，效率更高，因?yàn)閿?shù)據(jù)標(biāo)注時都是針對指定區(qū)域截取的圖像塊，是否有缺陷是很明確的，不容易出錯。4.3.3

字符識別OCR(OpticalCharacterRecognition，光學(xué)字符識別)是指對圖片中的文字進(jìn)行查找、提取、識別的一種技術(shù)，通過檢測暗、亮的模式確定其形狀，然后用字符識別方法將形狀翻譯成計(jì)算機(jī)文字的過程。OCV則是在OCR的基礎(chǔ)上對提取出的內(nèi)容進(jìn)行比對，從而判斷圖片中的文字內(nèi)容是否符合要求。由于文字（字母數(shù)字等）可能產(chǎn)生自激光雕刻、噴碼印刷、油墨印刷等不同渠道，一致性不能保證，且存在文本大小、長度不固定，文本存在多個方向、多種字體、語言混合等各種挑戰(zhàn)，準(zhǔn)確的進(jìn)行字符識別一直是圖像處理領(lǐng)域的難題之一。47AI工業(yè)視覺解決方案白皮書基于深度學(xué)習(xí)的字符識別可以比較有效的解決這一問題，字符識別也是深度學(xué)習(xí)技術(shù)典型的應(yīng)用場景之一。在工業(yè)生產(chǎn)尤其是包裝生產(chǎn)線上，存在大量的包裝袋、包裝盒體上的生產(chǎn)日期、批號字符需要進(jìn)行檢測，利用深度學(xué)習(xí)進(jìn)行小樣本的訓(xùn)練即可獲得一個比較理想的深度學(xué)習(xí)模型，可以獲得良好的落地效果。4.3.4

深度學(xué)習(xí)與傳統(tǒng)算法的融合由于視覺檢測場景的復(fù)雜性，往往需要傳統(tǒng)算法和深度學(xué)習(xí)相互結(jié)合才能很好的解決具體場景問題。從項(xiàng)目實(shí)施的角度來說，深度學(xué)習(xí)在復(fù)雜性和成本方面要比傳統(tǒng)算法高很多，所以在項(xiàng)目選型來看，深度學(xué)習(xí)一般都用來解決傳統(tǒng)算法無法解決的場景問題。缺陷檢測的原理就是就是檢測產(chǎn)品表面異常的“點(diǎn)、線、塊”特征，這些特征往往表現(xiàn)的比“背景”顏色“深”（黑色）或比“背景”顏色“淺”（白色），我們通過圖像處理的方式把這些“點(diǎn)、線、塊”量化出來，如果量化結(jié)果超過某個閾值（要求檢測精度）則判定為NG。缺陷顏色比背景“深”48AI工業(yè)視覺解決方案白皮書缺陷顏色比背景“淺”對于背景單一，真實(shí)缺陷和干擾因素比較明顯的缺陷，可以用傳統(tǒng)BLOB分析的方法檢測出感興趣的缺陷區(qū)域?；凇白赃m應(yīng)缺陷檢測”的所有異常黑色區(qū)域上圖為金屬產(chǎn)品的表面碰傷檢測，基于傳統(tǒng)BLOB分析工具，可以把“真實(shí)缺陷”、“過小的凹坑紋理”及“記號筆畫線”都作為“缺陷”檢測出來，通過面積大小可以很容易區(qū)分“真實(shí)缺陷”和“干擾因素”的差異。下圖是按照面積大小篩選后的結(jié)果，可以發(fā)現(xiàn)只有真實(shí)缺陷被檢測出來。49AI工業(yè)視覺解決方案白皮書基于“斑塊面積”過濾后的缺陷區(qū)域但是還有一些場景，通過傳統(tǒng)BLOB分析檢測出來的缺陷，很難通過如下可以量化的斑塊參數(shù)進(jìn)行過濾，這個時候就可以訓(xùn)練一個專門用來區(qū)分這些真實(shí)缺陷和干擾因素的模型來進(jìn)行過濾?；趥鹘y(tǒng)量化參數(shù)過濾缺陷斑塊50AI工業(yè)視覺解決方案白皮書基于傳統(tǒng)BLOB分析得出的所有異常區(qū)域上圖所示的真實(shí)缺陷和干擾因素很難通過面積、周長等可量化的斑塊指標(biāo)進(jìn)行過濾，這個時候就可以基于深度學(xué)習(xí)訓(xùn)練“斑塊過濾”模型來過濾干擾因素，從而只檢測出真實(shí)缺陷。相關(guān)步驟如下：1、基于自適應(yīng)缺陷檢測，將所有異常黑色斑塊全部檢測出來，這個時候會有大量干擾因素被當(dāng)作缺陷，但是真實(shí)缺