模式識(shí)別第一章

Ch1概論自動(dòng)化學(xué)院1.1模式識(shí)別的基本概念人對(duì)事物的認(rèn)識(shí)按分類來進(jìn)行認(rèn)識(shí)認(rèn)識(shí)的不同層次模式識(shí)別數(shù)據(jù)挖掘人工智能專家系統(tǒng)情感計(jì)算人工智能機(jī)器學(xué)習(xí)模式識(shí)別（patternrecognition）指用計(jì)算機(jī)實(shí)現(xiàn)人的模式識(shí)別能力確定一個(gè)樣本的類別屬性（模式類）的過程樣本（特征空間）到類別的映射把樣本根據(jù)其特征歸類，又稱“模式分類”(patternclassification)1.1模式識(shí)別的基本概念樣本、特征、模式、類樣本(sample)，研究對(duì)象的個(gè)體；樣本集特征(feature)，表征樣本的觀測(cè)模式(pattern)，法也；特征的組合（時(shí)、空）類別(class)，具有某些共同特性(模式)樣本的集合已知/未知樣本，類別標(biāo)號(hào)已知/未知1.2模式識(shí)別系統(tǒng)模式識(shí)別系統(tǒng)組成與過程1.2模式識(shí)別系統(tǒng)空間類型模式采集：從客觀世界（對(duì)象空間）到模式空間的過程稱為模式采集。特征提取和特征選擇：由模式空間到特征空間的變換和選擇。類型判別：特征空間到類型空間所作的操作。對(duì)象空間模式空間特征空間類型空間1.2模式識(shí)別系統(tǒng)數(shù)據(jù)獲?。耗Ｊ降臄?shù)字化表達(dá)1.2模式識(shí)別系統(tǒng)預(yù)處理：去噪、復(fù)原、強(qiáng)化特征提取和選擇：

特征是指用于描述模式性質(zhì)（特性）的一種定量的概念。（蘋果和桔子的大小、顏色、味道）

特征提取是指采用映射（或變換）實(shí)現(xiàn)由模式測(cè)量空間向特征空間的轉(zhuǎn)變或者將特征空間的維數(shù)從高維變成低維。（遙感圖像等）

特征選擇，從一組中挑選最有效的特征以降低維數(shù)。特征提取和選擇更依賴于具體問題和領(lǐng)域，需要相應(yīng)的領(lǐng)域的專業(yè)知識(shí)1.2模式識(shí)別系統(tǒng)特征向量表示法印刷體數(shù)字圖像往往用一個(gè)N×M的數(shù)組表示。如果N＝5，M＝7，則一個(gè)數(shù)字就用5×7共35個(gè)網(wǎng)格是黑是白來表示。如令是黑為“1”，是白為“0”，那么一個(gè)數(shù)字就可用35維的二進(jìn)制向量表示。這就是典型的特征向量表示法結(jié)構(gòu)表示法

對(duì)對(duì)象所包含的成分進(jìn)行分析

1.2模式識(shí)別系統(tǒng)分類決策訓(xùn)練是依據(jù)特征空間的分布，決定分類器的具體參數(shù)。一般說來采用什么樣式的決策分界由設(shè)計(jì)者決定，如可用直線、折線或曲線作為類別的分界線。分界線的類型可由設(shè)計(jì)者直接確定，也可通過訓(xùn)練過程產(chǎn)生，但是這些分界線的具體參數(shù)則利用訓(xùn)練樣本經(jīng)訓(xùn)練過程確定分類決策是對(duì)待分類樣本進(jìn)行分類決策的過程在許多應(yīng)用領(lǐng)域中模式識(shí)別并不一定作為獨(dú)立的環(huán)節(jié)存在1.2模式識(shí)別系統(tǒng)實(shí)例：車牌識(shí)別1.2模式識(shí)別系統(tǒng)我們身邊的模式識(shí)別？1.3模式識(shí)別的基本方法基于知識(shí)：人工智能、句法模式識(shí)別基于數(shù)據(jù)：統(tǒng)計(jì)模式識(shí)別對(duì)象GSLMyy’x監(jiān)督模式識(shí)別非監(jiān)督模式識(shí)別（聚類分析）1.3模式識(shí)別的基本方法模版匹配法(templetematching)統(tǒng)計(jì)模式識(shí)別(statisticalpatternrecognition):1950s-結(jié)構(gòu)模式識(shí)別(句法方法)(structuralpatternrecognition)1970s-模糊模式識(shí)別(fuzzy):1980s-神經(jīng)網(wǎng)絡(luò)方法(neuralnetwork):1980s-支持向量機(jī)(核方法):(SupportVectorMachine)

1990s-深度學(xué)習(xí)(Deeplearning)：2010s-1.3模式識(shí)別的基本方法模版匹配法(templetematching)首先對(duì)每個(gè)類別建立一個(gè)或多個(gè)模版，輸入樣本和數(shù)據(jù)庫中每個(gè)類別的模版進(jìn)行比較,例如求相關(guān)或距離，根據(jù)相似性(相關(guān)性或距離)大小進(jìn)行決策。優(yōu)點(diǎn):直接,簡單；缺點(diǎn):適應(yīng)性差

1.3模式識(shí)別的基本方法統(tǒng)計(jì)模式識(shí)別(statisticalpatternrecognition):理論基礎(chǔ)：概率論，數(shù)理統(tǒng)計(jì)主要方法：線性、非線性分類、Bayes決策、聚類分析優(yōu)點(diǎn)：

1）比較成熟

2）能考慮干擾噪聲等影響

3）識(shí)別模式基元能力強(qiáng)缺點(diǎn)：

1）對(duì)結(jié)構(gòu)復(fù)雜的模式抽取特征困難

2）不能反映模式的結(jié)構(gòu)特征，難以描述模式的性質(zhì)

3）難以從整體角度考慮識(shí)別問題1.3模式識(shí)別的基本方法結(jié)構(gòu)模式識(shí)別(句法方法)美籍華人付京蓀(PurdueUniv.)提出句法結(jié)構(gòu)模式識(shí)別（50年代NoamChomsky基于文法的形式語言理論）采用比較簡單的子模式（基元）來描述復(fù)雜模式，觀察對(duì)象表達(dá)為一個(gè)由基元組成的句子，基元構(gòu)成模式所遵循的規(guī)則即為文法（句法）模式描述方法：符號(hào)串，樹，圖模式判定：用一個(gè)文法表示一個(gè)類，m類就有m個(gè)文法，然后判定未知模式遵循哪一個(gè)文法在學(xué)習(xí)過程中，確定基元與基元之間的關(guān)系，推斷出生成景物的方法。判決過程中，首先提取基元，識(shí)別基元之間的連接關(guān)系，使用推斷的文法規(guī)則做句法分析實(shí)際中，往往與統(tǒng)計(jì)相結(jié)合，統(tǒng)計(jì)方法完成基元識(shí)別1.3模式識(shí)別的基本方法理論基礎(chǔ)：形式語言，自動(dòng)機(jī)技術(shù)主要方法：自動(dòng)機(jī)技術(shù)、CYK剖析算法、Early算法、轉(zhuǎn)移圖法優(yōu)點(diǎn)：

1）識(shí)別方便，可以從簡單的基元開始，由簡至繁。

2）能反映模式的結(jié)構(gòu)特征，能描述模式的性質(zhì)。

3）對(duì)圖象畸變的抗干擾能力較強(qiáng)。缺點(diǎn)：

當(dāng)存在干擾及噪聲時(shí)，抽取特征基元困難，且易失誤。1.3模式識(shí)別的基本方法模糊模式識(shí)別（fuzzy）:模式判定：

是一種集合運(yùn)算。用隸屬度將模糊集合劃分為若干子集，m類就有m個(gè)子集，然后根據(jù)擇近原則分類。理論基礎(chǔ)：模糊數(shù)學(xué)主要方法：模糊統(tǒng)計(jì)法、二元對(duì)比排序法、推理法、模糊集運(yùn)算規(guī)則、模糊矩陣 優(yōu)點(diǎn)：由于隸屬度函數(shù)作為樣本與模板間相似程度的度量，故往往能反映整體的與主體的特征，從而允許樣本有相當(dāng)程度的干擾與畸變。缺點(diǎn)：準(zhǔn)確合理的隸屬度函數(shù)往往難以建立，故限制了它的應(yīng)用1.4關(guān)于模式識(shí)別的一些基本問題模式類的緊致性分類都是帶有主觀性的行為，常缺乏純客觀的分類標(biāo)準(zhǔn)。靠哪些特征決定相似并進(jìn)行分類，取決于行為的目的和方法1.5模式識(shí)別的應(yīng)用和研究組織語音識(shí)別說話人識(shí)別、生物特征識(shí)別字符與文字識(shí)別：印刷、手寫、聯(lián)機(jī)安全監(jiān)控（身份識(shí)別、視頻監(jiān)控、交通監(jiān)控）空間探測(cè)與環(huán)境資源檢測(cè)，遙感圖像生物信息學(xué)，醫(yī)學(xué)圖像文本圖像分析，文本分類工業(yè)自動(dòng)化：零部件/物品分類數(shù)據(jù)挖掘、多媒體數(shù)據(jù)檢索（文檔、圖像、視頻、音樂檢索）……1.5模式識(shí)別的應(yīng)用和研究組織生物特征識(shí)別1.5模式識(shí)別的應(yīng)用和研究組織遙感圖像地表分類1.5模式識(shí)別的應(yīng)用和研究組織醫(yī)學(xué)圖像分析1.5模式識(shí)別的應(yīng)用和研究組織國際組織IAPR，1973年IEEE發(fā)起了第一次關(guān)于模式識(shí)別的國際會(huì)議“ICPR”，成立了國際模式識(shí)別協(xié)會(huì)---“IAPR”，每2年召開一次國際學(xué)術(shù)會(huì)議IEEEComputerSociety:TConPAMI(PatternAnalysisandMachineIntelligence)1977年IEEE的計(jì)算機(jī)學(xué)會(huì)成立了模式分析與機(jī)器智能（PAMI）委員會(huì)，每2年召開一次模式識(shí)別與圖象處理學(xué)術(shù)會(huì)議國內(nèi)組織中國自動(dòng)化學(xué)會(huì):模式識(shí)別與機(jī)器智能(PRMI)專業(yè)委員會(huì),1981年成立,IAPR成員組織中國計(jì)算機(jī)學(xué)會(huì):人工智能與模式識(shí)別專業(yè)委員會(huì)中國人工智能學(xué)會(huì)1.5模式識(shí)別的應(yīng)用和研究組織主要期刊IEEETrans.onPAMI,1978-,IEEEComputerSocietyPatternRecognition,1968-,PRSociety,ElsevierPatternRecognitionLetter,1980-,IAPR,ElsevierInt.JournalofPRandAI,1988-(WorldScientific)PatternAnalysisandApplications,1997-(Springer)Int.J.DocumentAnalysis&Recognition,1998-模式識(shí)別與人工智能中國圖像與圖形學(xué)學(xué)報(bào)1.5模式識(shí)別的應(yīng)用和研究組織主要會(huì)議，系列性國際會(huì)議ICPR:2年一次ICCV:2年一次,IEEEInternationalConferenceonComputerVisionCVPR:每年一次,IE