哈工大模式識別課程緒論-2課時用市公開課一等獎省賽課微課金獎

哈爾濱工業(yè)大學(xué)第1章模式識別緒論1/49主要內(nèi)容模式識別基本概念模式識別系統(tǒng)組成模式識別基本問題應(yīng)用領(lǐng)域小結(jié)2/49模式識別基本概念

3/49【基本概念】(1)模式（Pattern）：經(jīng)過對詳細(xì)個別事物進(jìn)行觀察所得到含有時間和空間分布信息稱為模式。

(2)模式類（PatternClass）：把模式所屬類別或同一類別中模式總體稱為模式類（或簡稱為類）。(3)例子：以身高為例，模式：身高：167cm,180cm,156cm,176cm,…模式類：高個頭、中等個頭、矮個頭；4/49【基本概念】(5)模式識別（PatternRecognition）：依據(jù)輸入原始數(shù)據(jù)并判斷其類別活動。(4)說明：（1）模式所指不是事物本身，而是我們從事物中取得信息。（2）模式往往表現(xiàn)為詳細(xì)時間和空間分布信息。（3）本課程討論是用計算機(jī)進(jìn)行模式識別，信息進(jìn)入計算機(jī)之前通常要經(jīng)過取樣和量化，在計算機(jī)中表現(xiàn)為含有時空分布信息表現(xiàn)為向量或數(shù)組，數(shù)組中元素序號能夠?qū)?yīng)時間和空間，也可對應(yīng)其它標(biāo)識，此處所說時間和空間是更廣義和抽象了解。5/49主要內(nèi)容模式識別基本概念模式識別系統(tǒng)組成模式識別基本問題應(yīng)用領(lǐng)域小結(jié)6/49模式識別系統(tǒng)組成

7/49【模式識別系統(tǒng)組成】1.信息獲?。航?jīng)過測量、采樣、量化并用矩陣或向量表示。通常輸入對象信息有三個類型：二維圖像（文字、指紋、地圖、照片等）、一維波形（腦電圖、心電圖、機(jī)械震動波形等）、物理參量和邏輯值（體檢中溫度、血化驗結(jié)果等）2.預(yù)處理：去除噪聲，加強(qiáng)有用信息，并對輸入測量儀器或其它原因造成干擾進(jìn)行處理。3.特征提取與選擇：為了實現(xiàn)有效識別分類，要對原始數(shù)據(jù)進(jìn)行變換得到最能反應(yīng)分類本質(zhì)特征，此過程為特征提取和選擇。4.分類決議：在特征空間中用統(tǒng)計方法把被識別對象歸為某一類。基本作法是在樣本訓(xùn)練集基礎(chǔ)上確定某個判決規(guī)則，使按這種判決規(guī)則對被識別對象進(jìn)行分類所造成錯誤識別率最小或引發(fā)損失最小。5.后處理：針對決議采取對應(yīng)行動。信息獲取預(yù)處理特征提取與選擇分類決議后處理模式識別系統(tǒng)組成框圖8/49【舉例：車牌識別】車牌識別系統(tǒng)框圖原始圖像車牌定位字符識別傾斜校正字符分割系統(tǒng)流程圖車牌定位車牌傾斜校正字符分割9/49模式識別基本問題

10/49【主要內(nèi)容】(1)模式識別訓(xùn)練方法

(2)緊致性(3)特征選取(4)相同性度量與分類

(5)性能評價(6)識別系統(tǒng)設(shè)計過程11/49【模式識別訓(xùn)練方法】學(xué)習(xí)分類：學(xué)習(xí)定義：廣義地講，任何設(shè)計分類器時所用方法只要它利用了訓(xùn)練樣本信息就能夠認(rèn)為學(xué)習(xí)，學(xué)習(xí)目標(biāo)是指利用某種算法來降低因為訓(xùn)練樣本差異造成分類誤差。

監(jiān)督學(xué)習(xí)：存在一個教師信號，對訓(xùn)練樣本集每個輸入樣本能提供類別標(biāo)識和分類代價并尋找能夠降低總體代價方向。(人臉識別)無監(jiān)督學(xué)習(xí)：沒有顯示教師指導(dǎo)整個訓(xùn)練過程。（圖像檢索）半監(jiān)督學(xué)習(xí)：半監(jiān)督學(xué)習(xí)是利用少部分標(biāo)識數(shù)據(jù)集及未標(biāo)識樣本進(jìn)行學(xué)習(xí)主流技術(shù)。（如醫(yī)學(xué)圖像）12/49【主要內(nèi)容】(1)模式識別訓(xùn)練方法

(2)緊致性(3)特征選取(4)相同性度量與分類

(5)性能評價(6)識別系統(tǒng)設(shè)計過程13/49【緊致性】緊致性概念：為了能在某個空間中進(jìn)行分類，通常假設(shè)同一類各個模式在該空間中組成一個緊致集。從這個緊致集中任何一點能夠均勻過渡到同一集中另外一點，且在過渡途中全部各個點都依然屬于這個緊致集（即屬于同一模式類）。另外，當(dāng)緊致集中各個點在任意方向有一些不大移動時它依然屬于這個集合。

14/49第1種情況：A1:111,101,110,011A2：000，010，100，001只要用一個平面就能夠?qū)蓚€點集分開。【舉例】011111001101100110010x1x3x200015/49第2種情況：A1:111A2：000任何一個經(jīng)過點000與111連線平面都能到達(dá)分類目標(biāo)?！九e例】x2011111001101100110010x1x300016/49第3種情況：A1:111,001,100,010A2：000，011，101，110需要用3個平面才能分開?！九e例】011111001101100110010x1x3x2000對于這種情況，結(jié)合A1中任意一點一個碼數(shù)值發(fā)生改變，比如111變?yōu)?01，那么就成為A2中組員。把這些點成為臨界點。把改變其中一個碼值不能改變其集合屬性點成為內(nèi)點。在該情況下，集合A1和集合A2沒有內(nèi)點，全部為臨界點。普通情況，兩個集合中含有臨界點越多，就越難分開。比如，A1={000};A2={111}，沒有臨界點，全部為內(nèi)點，所以較為輕易將其分開17/49

普通來說，在D維空間中要用超表面進(jìn)行分類，假若我們用平面圖表示D維空間中點分布。以下列圖。沒有臨界點有許多臨界點臨界點過多，造成不可分18/49【緊致性】緊致性性質(zhì)：臨界點數(shù)量與總點數(shù)相比極少；集合中任意兩點能夠用光滑線連接，在該連線上點也屬于這個集合；每個內(nèi)點都有足夠大領(lǐng)域只包含同一集合中點。19/49【主要內(nèi)容】(1)模式識別訓(xùn)練方法

(2)緊致性(3)特征選取(4)相同性度量與分類

(5)性能評價(6)識別系統(tǒng)設(shè)計過程20/49【特征選取】特征是決定相同性和分類關(guān)鍵，當(dāng)分類目標(biāo)決定后，怎樣找到適當(dāng)特征成為識別物體關(guān)鍵。下面舉一個實例說明。21/49Salmon(鮭魚)與Seabass(鱸魚)分類系統(tǒng)【特征選取】光澤度長度寬度可選特征22/49長度特征直方圖光澤度直方圖§1.2經(jīng)典應(yīng)用實例

寬度（縱軸）-光澤度（橫軸）不成功不成功成功【特征選取】23/49推廣能力：模型復(fù)雜度對分類效果影響【特征選取】24/49【主要內(nèi)容】(1)模式識別訓(xùn)練方法

(2)緊致性(3)特征選取(4)相同性度量與分類

(5)性能評價(6)識別系統(tǒng)設(shè)計過程25/49【相同性度量與分類】(1)相同性度量26/49【相同性度量與分類】(1)相同性度量27/49【相同性度量與分類】(2)分類(a)不存在純客觀分類標(biāo)準(zhǔn)，任何分類都是帶有主觀性。比如，鯨魚在生物學(xué)角度屬于哺乳類，應(yīng)該和牛算作一類；但從產(chǎn)業(yè)角度，捕鯨屬于水產(chǎn)業(yè)，而牛是畜牧業(yè)。(b)分類問題不是純數(shù)學(xué)問題。28/49【主要內(nèi)容】(1)模式識別訓(xùn)練方法

(2)緊致性(3)特征選取(4)相同性度量與分類

(5)性能評價(6)識別系統(tǒng)設(shè)計過程29/49【性能評價】正確識別率=正確分類數(shù)/總數(shù)錯誤識別率=錯誤分類數(shù)/總數(shù)拒絕識別率=拒絕分類數(shù)/總數(shù)30/49【主要內(nèi)容】(1)模式識別訓(xùn)練方法

(2)緊致性(3)特征選取(4)相同性度量與分類

(5)性能評價(6)識別系統(tǒng)設(shè)計過程31/49【識別系統(tǒng)設(shè)計過程】數(shù)據(jù)采集：在開發(fā)一個模式識別系統(tǒng)總費用中，數(shù)據(jù)采集部分占令人吃驚比重，當(dāng)然采取較小“經(jīng)典”樣本集對問題可行性進(jìn)行初步研究是能夠，但在實際應(yīng)用中為了確保現(xiàn)場工作良好性能，需要采集到大量數(shù)據(jù)。采集數(shù)據(jù)選擇特征選擇模型訓(xùn)練分類器評價分類器設(shè)計結(jié)束設(shè)計開始選擇特征：選擇有顯著區(qū)分意義特征是設(shè)計過程關(guān)鍵一步。選擇模型：用數(shù)學(xué)形式表示不一樣特征描述。訓(xùn)練分類器：利用樣本數(shù)據(jù)確定分類器過程。評價分類器：防止過擬合。32/49主要內(nèi)容模式識別基本概念模式識別系統(tǒng)組成模式識別基本問題應(yīng)用領(lǐng)域小結(jié)33/49應(yīng)用領(lǐng)域

34/49【應(yīng)用領(lǐng)域】(1)工業(yè)領(lǐng)域

(2)農(nóng)業(yè)領(lǐng)域(3)生物特征識別(4)交通領(lǐng)域

(5)醫(yī)學(xué)領(lǐng)域(6)航空航天35/49(1)工業(yè)領(lǐng)域工業(yè)機(jī)器人電路板檢測36/49(2)農(nóng)業(yè)領(lǐng)域農(nóng)業(yè)采摘機(jī)器人37/49(3)生物特征識別人臉識別虹膜識別手掌靜脈識別指紋識別38/49(4)交通領(lǐng)域無人駕駛車牌識別交通流量分析39/49(5)醫(yī)學(xué)領(lǐng)域計算機(jī)輔助診療系統(tǒng)醫(yī)學(xué)圖像決議系統(tǒng)40/49(6)航空航天導(dǎo)彈圖像末制導(dǎo)無人偵察機(jī)全天候雷達(dá)監(jiān)控系統(tǒng)遙感地貌分析41/49主要內(nèi)容模式識別基本概念模式識別系統(tǒng)組成模式識別基本問題應(yīng)用領(lǐng)域小結(jié)42/49本章小結(jié)

43/49【小結(jié)】(1)模式識別是每時每刻都發(fā)生，重點強(qiáng)調(diào)分類。(2)含有廣泛應(yīng)用。(3)對控制科學(xué)與工程學(xué)科意義

(4)發(fā)展歷程(5)主要研究期刊(6)參考書目44/49【4.發(fā)展歷程】模式識別誕生于20世紀(jì)代；伴隨40年代計算機(jī)出現(xiàn)，50年代人工智能興起，模式識別在60年代快速發(fā)展成一門學(xué)科；經(jīng)過幾十年發(fā)展當(dāng)前取得了大量結(jié)果，在很多地方得到應(yīng)用。當(dāng)前一直是熱門學(xué)科。45/49【5.主要期刊】1.IEEETransactiononPatternAnalysisandMachineIntelligence，PAMI2.PatternRecognition3.PatternRecognitio