圖像處理與計(jì)算機(jī)視覺技術(shù)綜述

圖像處理與計(jì)算機(jī)視覺技術(shù)綜述第一頁，共74頁。課程介紹基礎(chǔ)知識數(shù)學(xué)：線性代數(shù)、概率與統(tǒng)計(jì)計(jì)算機(jī)科學(xué)：軟件編程電子學(xué)：信號處理第二頁，共74頁。視覺重要？古語百聞不如一見一目了然眼見為實(shí)，耳聽為虛。。。人類信息的主要傳遞手段視覺，聽覺，味覺，觸覺等視覺占60％以上人機(jī)交互字符、圖形計(jì)算機(jī)接收信息手段單一（鍵盤，鼠標(biāo)）第三頁，共74頁。圖像處理重要？兩大應(yīng)用需求對圖像信息的改進(jìn)機(jī)器自動理解：使計(jì)算機(jī)具有視覺第四頁，共74頁。主要學(xué)科圖像處理、計(jì)算機(jī)視覺和模式識別 計(jì)算機(jī)圖形學(xué)第五頁，共74頁。1.1 圖像處理與計(jì)算機(jī)視覺的發(fā)展及系統(tǒng)構(gòu)成

1.圖像（Image）可以看作是對物體或場景的一種表現(xiàn)形式抽象定義：二維函數(shù)f(x,y)(x,y):點(diǎn)的空間坐標(biāo)（實(shí)數(shù)）f:點(diǎn)(x,y)的幅度（亮度、強(qiáng)度或灰度）英文單詞Image：一般指用鏡頭等科技手段得到的視覺形象Picture：強(qiáng)調(diào)手工描繪的人物或景物畫Drawings：人工繪制的工程圖Lenna1.1.1圖像處理與計(jì)算機(jī)視覺的概念第六頁，共74頁。圖像實(shí)例光學(xué)圖像LennaIKONOS衛(wèi)星光學(xué)圖像423mile高16000miles/h1m分辨率EP－3,海南陵水,01-4-4大腦斷層圖像

遙感圖像第七頁，共74頁。2.數(shù)字圖像數(shù)字化：對x，y和f進(jìn)行離散化

-其中的每個點(diǎn)稱為圖像元素，即像素。第八頁，共74頁。分類（根據(jù)f的性質(zhì)）灰度圖像（特殊：二值圖像）彩色圖像第九頁，共74頁。3.數(shù)字圖像處理DIP（DigitalImageProcessing）廣義：與圖像相關(guān)的處理（圖像分析、理解和計(jì)算機(jī)視覺等）狹義（從輸入和輸出內(nèi)容）：對圖像進(jìn)行各種加工，以改善圖像的視覺效果或突出目標(biāo)，強(qiáng)調(diào)圖像之間進(jìn)行的變換，是一個從圖像到圖像的過程廣義上分為三種類型：低、中、高級處理圖像處理主要是低級處理及部分中級處理第十頁，共74頁。3.數(shù)字圖像處理低級處理：輸入輸出都是圖像中級處理：圖像分割及目標(biāo)的描述，輸出是目標(biāo)的特征數(shù)據(jù)高級處理：目標(biāo)物體及相互關(guān)系的理解，輸出是更抽象的數(shù)據(jù)第十一頁，共74頁。4.圖像處理與計(jì)算機(jī)視覺的區(qū)別與聯(lián)系圖像處理主要集中在二維圖像分析、識別和理解，如光學(xué)字符識別、工件表面、顯微圖片和航空照片的分析和解釋等。計(jì)算機(jī)視覺是采用圖像處理、模式識別、人工智能技術(shù)相結(jié)合的手段，著重于一幅或多幅圖像的計(jì)算機(jī)分析，圖像可以由單個或多個傳感器獲取，也可以是單個傳感器在不同時刻獲取的圖像序列。分析是對目標(biāo)物體的識別，確定目標(biāo)物體的位置和姿態(tài)，對三維景物進(jìn)行符號描述和解釋。機(jī)器視覺：計(jì)算機(jī)視覺技術(shù)工程化，能夠自動獲取和分析特定的圖像，以控制相應(yīng)的行為。計(jì)算機(jī)視覺為機(jī)器視覺提供圖像和景物分析的理論及算法基礎(chǔ)，機(jī)器視覺為計(jì)算機(jī)視覺的實(shí)現(xiàn)提供傳感器模型、系統(tǒng)構(gòu)造和實(shí)現(xiàn)手段。第十二頁，共74頁。1.1.2圖像處理與計(jì)算機(jī)視覺的發(fā)展1.20世紀(jì)20年代：報(bào)紙業(yè)圖像的編碼與重構(gòu)技術(shù)Bartlane電纜圖片傳輸系統(tǒng)：從倫敦到紐約傳送一幅圖片從1周減少到3小時色調(diào)質(zhì)量和分辨率改善1921年，電報(bào)打印機(jī)，5個灰度級1922年，穿孔紙帶，5個灰度級1929年，15級灰度第十三頁，共74頁。2.1964年：航天技術(shù)60年代初作為一門學(xué)科，主要目的是改善圖像質(zhì)量，采取的方法有圖像增強(qiáng)和復(fù)原技術(shù)美國JPL（噴氣推進(jìn)）實(shí)驗(yàn)室處理衛(wèi)星發(fā)射回來的月球表面的照片應(yīng)用圖像畸變的校正、灰度變換、去除噪聲第十四頁，共74頁。3.20世紀(jì)70年代：遙感衛(wèi)星和醫(yī)學(xué)圖像增強(qiáng)和圖像識別

利用遙感圖片，進(jìn)行地質(zhì)資源探測，農(nóng)作物估產(chǎn)，水文氣象監(jiān)測等圖像重構(gòu)

X光斷層圖像重構(gòu)技術(shù)，英國G.N.Hounsfield第一臺腦斷層攝像儀應(yīng)用第十五頁，共74頁。4.20世紀(jì)70年代末：人工智能興起，開始計(jì)算機(jī)視覺研究，由2D獲取3D空間信息第十六頁，共74頁。5.80年代末到今：多媒體技術(shù)高速計(jì)算機(jī)和大規(guī)模集成電路的發(fā)展：圖像壓縮和多媒體技術(shù)；文本圖像的分析和理解，文字的識別取得重大的進(jìn)展；圖像通訊和傳輸?shù)鹊膹V泛應(yīng)用第十七頁，共74頁。1.1.3圖像處理與計(jì)算機(jī)視覺的系統(tǒng)構(gòu)成系統(tǒng)構(gòu)成框圖第十八頁，共74頁。采集裝置：兩部分(1)傳感器：能產(chǎn)生與所接受到的電磁能量成正比的模擬電信號（CCD，CMOS）(2)高速圖像采集系統(tǒng)：它能將上述（模擬）電信號轉(zhuǎn)化為數(shù)字（離散）的形式輸入設(shè)備具備上述兩種裝置如：數(shù)碼相機(jī)，數(shù)碼攝像機(jī)，掃描儀第十九頁，共74頁。圖像輸入輸出設(shè)備第二十頁，共74頁。處理裝置：兩部分專用圖像處理系統(tǒng)：是計(jì)算機(jī)的輔助處理器，主要采用專用集成芯片（ASIC)、數(shù)字信號處理器(DSP)或者FPGA等設(shè)計(jì)的全硬件處理器。計(jì)算機(jī)：是整個系統(tǒng)的核心，除了控制整個系統(tǒng)的各個模塊的正常運(yùn)行外，還承擔(dān)最后結(jié)果運(yùn)算和輸出。第二十一頁，共74頁。數(shù)字圖像處理的關(guān)鍵步驟圖像采集圖像復(fù)原形態(tài)學(xué)處理分割對象識別圖像增強(qiáng)表示&描述問題域彩色圖像處理圖像壓縮第二十二頁，共74頁。數(shù)字圖像處理的關(guān)鍵步驟：圖像采集圖像采集圖像復(fù)原形態(tài)學(xué)處理分割對象識別圖像增強(qiáng)表示&描述問題域彩色圖像處理圖像壓縮第二十三頁，共74頁。數(shù)字圖像處理的關(guān)鍵步驟：圖像增強(qiáng)圖像采集圖像復(fù)原形態(tài)學(xué)處理分割對象識別圖像增強(qiáng)表示&描述問題域彩色圖像處理圖像壓縮第二十四頁，共74頁。數(shù)字圖像處理的關(guān)鍵步驟：圖像復(fù)原圖像采集圖像復(fù)原形態(tài)學(xué)處理分割對象識別圖像增強(qiáng)表示&描述問題域彩色圖像處理圖像壓縮第二十五頁，共74頁。數(shù)字圖像處理的關(guān)鍵步驟：形態(tài)學(xué)處理圖像采集圖像復(fù)原形態(tài)學(xué)處理分割對象識別圖像增強(qiáng)表示&描述問題域彩色圖像處理圖像壓縮第二十六頁，共74頁。數(shù)字圖像處理的關(guān)鍵步驟：分割圖像采集圖像復(fù)原形態(tài)學(xué)處理分割對象識別圖像增強(qiáng)表示&描述問題域彩色圖像處理圖像壓縮第二十七頁，共74頁。數(shù)字圖像處理的關(guān)鍵步驟：表示&描述圖像采集圖像復(fù)原形態(tài)學(xué)處理分割對象識別圖像增強(qiáng)表示&描述問題域彩色圖像處理圖像壓縮第二十八頁，共74頁。數(shù)字圖像處理的關(guān)鍵步驟：對象識別圖像采集圖像復(fù)原形態(tài)學(xué)處理分割對象識別圖像增強(qiáng)表示&描述問題域彩色圖像處理圖像壓縮第二十九頁，共74頁。數(shù)字圖像處理的關(guān)鍵步驟：圖像壓縮表示&描述彩色圖像處理圖像壓縮圖像采集圖像復(fù)原形態(tài)學(xué)處理分割圖像增強(qiáng)對象識別問題域第三十頁，共74頁。數(shù)字圖像處理的關(guān)鍵步驟：彩色圖像處理表示&描述彩色圖像處理圖像壓縮圖像采集圖像復(fù)原形態(tài)學(xué)處理分割圖像增強(qiáng)對象識別問題域第三十一頁，共74頁。存儲數(shù)據(jù)量度單位比特（bit），字節(jié)（byte=8bit）千字節(jié)（Kbyte）兆（106）字節(jié)（Mbyte）吉（109）字節(jié)（Gbyte）太（1012）字節(jié)（Tbyte）圖像信息量大1024×1024，灰度圖：1M字節(jié)（不壓縮）1024×1024，真彩圖：3M字節(jié)（不壓縮）第三十二頁，共74頁。存儲圖像存儲器(1)處理過程中使用的快速存儲器 計(jì)算機(jī)內(nèi)存，幀緩存(2)較快的在線或聯(lián)機(jī)存儲器 磁盤，磁光盤(3)不經(jīng)常使用的數(shù)據(jù)庫（檔案庫）存儲器 磁帶，光盤，光盤塔第三十三頁，共74頁。存儲格式（表示格式和文件格式）(1)矢量格式用線段或線段的組合體來表示圖像(WMF)(2)光柵格式用許多像素點(diǎn)的集合來表示圖像

BMP格式，GIF格式，TIFF格式，JPEG格式第三十四頁，共74頁。1.2圖象理解理論框架馬爾視覺計(jì)算理論 對馬爾理論框架的改進(jìn) 關(guān)于馬爾重建理論的討論 新理論框架的研究

第三十五頁，共74頁。馬爾視覺計(jì)算理論

馬爾1982年出版了《視覺》一書

MarrD.1982.VisionAComputationalInvestigationintotheHumanRepresentationandProcessingofVisualInformation.W.H.Freeman

一個理解視覺信息處理的框架要先理解視覺目的再去理解其中細(xì)節(jié)第三十六頁，共74頁。馬爾視覺計(jì)算理論1.視覺是一個復(fù)雜的信息加工過程 視覺是一個遠(yuǎn)比人所想象更為復(fù)雜的信息加工任務(wù)和過程，而且其難度常不為人們所正視為理解視覺這個復(fù)雜的過程，要解決兩個問題視覺信息的表達(dá)問題：某些信息是突出的和明確的，另一些信息則是隱藏的和模糊的視覺信息的加工問題：對信息處理、分析、理解，將不同表達(dá)形式轉(zhuǎn)換，逐步抽象

第三十七頁，共74頁。馬爾視覺計(jì)算理論2.視覺信息加工的三個要素

①計(jì)算理論；②算法實(shí)現(xiàn)；③硬件實(shí)現(xiàn)①計(jì)算理論可計(jì)算性問題：一個任務(wù)要用計(jì)算機(jī)完成，它應(yīng)該是可以被計(jì)算的 一般對于某個特定的問題，如果存在一個程序，對于給定的輸入，這個程序都能在有限步內(nèi)給出輸出，這個問題就是可計(jì)算的第三十八頁，共74頁。馬爾視覺計(jì)算理論2.視覺信息加工的三個要素①計(jì)算理論目前視覺的可計(jì)算性常指對計(jì)算機(jī)給定輸入，能否得到人類視覺可獲得的類似結(jié)果兩方面的研究內(nèi)容：①計(jì)算的是什么以及為什么要計(jì)算它們；②提出一定的約束條件，它們可唯一地確定最終得到的運(yùn)算結(jié)果第三十九頁，共74頁。馬爾視覺計(jì)算理論2.視覺信息加工的三個要素②算法實(shí)現(xiàn) 需要給加工所操作的實(shí)體選擇一種合適的表達(dá) 選擇加工的輸入和輸出表達(dá) 確定完成表達(dá)轉(zhuǎn)換的算法 ①一般情況下可以有許多可選的表達(dá) ②算法的確定常取決于所選的表達(dá) ③給定一種表達(dá)，可有多種完成任務(wù)的算法第四十頁，共74頁。馬爾視覺計(jì)算理論2.視覺信息加工的三個要素③硬件實(shí)現(xiàn) 有了表達(dá)和算法在物理上如何實(shí)現(xiàn)算法也是必不可少的 算法的確定常依賴于物理上實(shí)現(xiàn)算法硬件的特點(diǎn) 同一個算法也可由不同的技術(shù)途徑實(shí)現(xiàn)第四十一頁，共74頁。馬爾視覺計(jì)算理論2.視覺信息加工的三個要素計(jì)算理論：如何由系統(tǒng)的輸入求出輸出。視覺系統(tǒng)輸入的是二維圖像，輸出則是三維物體的形狀、位置和姿態(tài)，任務(wù)是研究如何建立輸入輸出之間的關(guān)系和約束，如何由二維灰度圖像恢復(fù)物體的三維信息。算法實(shí)現(xiàn)：如何表達(dá)輸入和輸出信息，如何實(shí)現(xiàn)計(jì)算理論所對應(yīng)的功能算法，以及如何由一種表示變換成另一種表示。硬件實(shí)現(xiàn)：用硬件實(shí)現(xiàn)上述表達(dá)和算法的問題。 第四十二頁，共74頁。視覺信息加工三要素的含義

要素名稱含義和所解決的問題1計(jì)算理論什么是計(jì)算目的，為什么要這樣計(jì)算2表達(dá)和算法怎樣實(shí)現(xiàn)計(jì)算理論，什么是輸入輸出表達(dá)，用什么算法實(shí)現(xiàn)表達(dá)間的轉(zhuǎn)換3硬件實(shí)現(xiàn)怎樣在物理上實(shí)現(xiàn)表達(dá)和算法，什么是計(jì)算結(jié)構(gòu)的具體細(xì)節(jié)馬爾視覺計(jì)算理論第四十三頁，共74頁。2.視覺信息加工的三個要素它們之間有一定的邏輯因果聯(lián)系，但并無絕對的依賴關(guān)系實(shí)際上看成兩個層次更恰當(dāng)一旦有了計(jì)算理論，表達(dá)和算法與硬件實(shí)現(xiàn)是互相影響的 馬爾視覺計(jì)算理論第四十四頁，共74頁。馬爾視覺計(jì)算理論3.視覺信息的三級內(nèi)部表達(dá)

(1)基素表達(dá)（primalsketch）一種2-D表達(dá)，它是圖象特征的集合，描述了物體上屬性發(fā)生變化的輪廓部分只用基素表達(dá)不能保證得到對場景的唯一解釋

第四十五頁，共74頁。馬爾視覺計(jì)算理論3.視覺信息的三級內(nèi)部表達(dá)

(2)

2.5-D表達(dá)（2-Dsketch）①將物體可見面正交 投影分解成單元表面②用法線代表單元表 面的取向③將各法線畫出，疊加 于物體輪廓內(nèi)可見面上第四十六頁，共74頁。馬爾視覺計(jì)算理論3.視覺信息的三級內(nèi)部表達(dá)

(2)

2.5-D表達(dá)（2-Dsketch）本征圖，表示了物體表面面元的朝向可將2.5-D圖轉(zhuǎn)化成（相對）深度圖既表達(dá)了一部分物體輪廓的信息（這與基素表達(dá)類似）表達(dá)了以觀察者為中心、可觀察到的物體表面的取向信息與人所理解的3-D物體一致（可見物體輪廓以內(nèi)目標(biāo)的3-D信息，如邊界、深度，反射特性等）第四十七頁，共74頁。馬爾視覺計(jì)算理論3.視覺信息的三級內(nèi)部表達(dá)

(2)

2.5-D表達(dá)（2-Dsketch）將2.5-D圖轉(zhuǎn)化成（相對）深度圖給定z(x,y)對x和y的偏導(dǎo)p和q，理論上講可通過在平面上沿任意曲線的積分來恢復(fù)z(x,y)為最小化誤差可選擇z(x,y)滿足第四十八頁，共74頁。馬爾視覺計(jì)算理論3.視覺信息的三級內(nèi)部表達(dá)

(3)

3-D表達(dá)（3-Drepresentation）以物體為中心（即也包括了物體不可見部分）的表達(dá)形式在以物體為中心的坐標(biāo)系中描述3-D物體的形狀及其空間組織①空間占有數(shù)組，②單元分解，③幾何模型廣義圓柱體表達(dá)方法第四十九頁，共74頁。馬爾視覺計(jì)算理論3.視覺信息的三級內(nèi)部表達(dá)

從計(jì)算機(jī)或信息加工的角度來說，視覺可計(jì)算性問題可分成幾個步驟，步驟之間是某種表達(dá)形式，而每個步驟都是把前后兩種表達(dá)形式聯(lián)系起來的計(jì)算/加工方法第五十頁，共74頁。3.視覺信息的三級內(nèi)部表達(dá)

名稱目的基元圖象表達(dá)場景的輝度或物體的照度象素（值）基素圖表達(dá)圖象中亮度變化位置、物體輪廓的幾何分布和組織結(jié)構(gòu)零交叉、端點(diǎn)、邊緣段、邊界等2.5-D圖在以觀察者為中心的坐標(biāo)系中表達(dá)物體可見表面的取向、深度、邊界等性質(zhì)局部表面朝向（“針”基元）、表面朝向的不連續(xù)點(diǎn)、深度、深度上不連續(xù)點(diǎn)3-D圖在以物體為中心的坐標(biāo)系中，用體元或面元集合描述形狀和形狀的空間組織形式3-D模型，以軸線為骨架，將體元或面元附在軸線上馬爾視覺計(jì)算理論第五十一頁，共74頁。對馬爾理論框架的改進(jìn)

四個有關(guān)整體框架的問題：(1)框架中輸入是被動的(2)框架中加工目的不變，總是恢復(fù)場景中物體 的位置和形狀等(3)框架未足夠重視高層知識的指導(dǎo)作用(4)整個框架中信息加工過程基本自下而上，單 向流動，沒有反饋 第五十二頁，共74頁。對馬爾理論框架的改進(jìn)

四個方面的相應(yīng)改進(jìn)：(1)增加了圖象獲取模塊(2)根據(jù)視覺目的進(jìn)行決策(3)利用高層知識可解決低層信息不足的問題(4)增加了反饋控制流向 圖像獲取早期處理中期處理后期處理視覺目的高層知識第五十三頁，共74頁。關(guān)于馬爾重建理論的討論馬爾重建理論不同視覺任務(wù)/工作的共同的概念核心被假定為表達(dá)，共同的處理目標(biāo)是根據(jù)視覺刺激恢復(fù)場景并結(jié)合進(jìn)表達(dá)中視覺被看作一個由刺激開始，順序的獲取和積累的重建過程

第五十四頁，共74頁。關(guān)于馬爾重建理論的討論2.重建理論的問題 隨著高層視覺信息的心理學(xué)研究成果和對高層視覺區(qū)域的解剖和功能組織的知識的增加

(1)在所有可能對場景進(jìn)行解釋的方法中，包含重建的方法兜的圈子最大，因?yàn)橹亟ú⒉粚忉層兄苯迂暙I(xiàn)第五十五頁，共74頁。關(guān)于馬爾重建理論的討論2.重建理論的問題(2)僅靠從原始圖象中進(jìn)行重建來實(shí)現(xiàn)表達(dá)在 實(shí)際中也很難實(shí)現(xiàn)(3)概念上的問題具有一個普遍統(tǒng)一的表達(dá)是否值得?最好的表達(dá)應(yīng)該是最適合工作的表達(dá)對給定計(jì)算問題選擇正確表達(dá)

第五十六頁，共74頁。關(guān)于馬爾重建理論的討論3.不需重建的表達(dá)

特征檢測器構(gòu)成了視覺世界中的某種特征存在性的表達(dá)：青蛙的眼睛空間分辨率的表達(dá)，一組覆蓋觀察區(qū)域的模式可以確定偏移信息，不需要重建第五十七頁，共74頁。新理論框架的研究1.基于知識的理論框架（感知特征群集）(1) 利用對感知組織的處理過程，從圖象特征中提取相對于觀察方向在大范圍內(nèi)保持不變的分組和結(jié)構(gòu)(2) 借助圖象特征構(gòu)建模型，在這個過程中利用概率排隊(duì)的方法減小搜索空間(3) 通過求解未知的觀察點(diǎn)和模型參數(shù)尋找空間對應(yīng)關(guān)系，使得3-D模型的投影直接與圖象特征相匹配第五十八頁，共74頁。新理論框架的研究2.主動視覺理論框架

(1) 選擇注意機(jī)制

(2) 注視控制

第五十九頁，共74頁。1.3圖像處理與計(jì)算機(jī)視覺的應(yīng)用領(lǐng)域

及面臨問題

主要相關(guān)學(xué)科計(jì)算機(jī)圖形學(xué)：原指用圖形、圖表、繪圖等形式表達(dá)數(shù)據(jù)信息的科學(xué)，而計(jì)算機(jī)圖形學(xué)研究的就是如何利用計(jì)算機(jī)技術(shù)來產(chǎn)生這些形式模式識別：試圖把圖像分解成可用符號較抽象地描述的類別計(jì)算機(jī)視覺：主要強(qiáng)調(diào)用計(jì)算機(jī)實(shí)現(xiàn)人的視 覺功能，目前的研究內(nèi)容主要與圖像 理解相結(jié)合 第六十頁，共74頁。1.3.1圖像處理與計(jì)算機(jī)視覺的應(yīng)用領(lǐng)域圖像增強(qiáng)/恢復(fù)藝術(shù)級效果醫(yī)學(xué)可視化工業(yè)檢驗(yàn)法律執(zhí)行人機(jī)交互1.3圖像處理與計(jì)算機(jī)視覺的應(yīng)用領(lǐng)域

及面臨問題

第六十一頁，共74頁。舉例：圖像增強(qiáng)DIP技術(shù)最常見的用處是：提高質(zhì)量，消除噪音等等第六十二頁，共74頁。舉例：Hubble望遠(yuǎn)鏡1990年發(fā)射的“哈勃”號太空望遠(yuǎn)

鏡能夠拍攝超遠(yuǎn)距離的物體，但是

由于鏡子出現(xiàn)誤差，拍攝到的圖像

就失去了價值，而借助于圖像處理

技術(shù)便可以修復(fù)第六十三頁，共74頁。舉例：藝術(shù)效果藝術(shù)效果是指通過特

效或者圖像合成等方法，

使得圖像具有更強(qiáng)的視

覺效果第六十四頁，共74頁。舉例：醫(yī)學(xué)通過MRI（核磁共振）掃描到的犬類心臟切片，我們可以找出其中各種組織的邊界線:灰度圖表示組織密度使用合適的濾波器來增強(qiáng)邊緣取自狗心臟