隨機(jī)算法學(xué)習(xí)心得-模式識別

模式識別經(jīng)過近10周的學(xué)習(xí)，學(xué)習(xí)了隨機(jī)算法中有關(guān)模式識別的知識，對隨機(jī)算法中模式識別的知識也有了較多的了解和認(rèn)識，下面就談?wù)勛约簩δＪ阶R別這方面的知識的學(xué)習(xí)心得和一些簡單的總結(jié)。首先，對于一個完整的模式識別系統(tǒng)，其基本上由三大部分組成，即數(shù)據(jù)采集、數(shù)據(jù)處理和分類決策或模型匹配。我們在設(shè)計模式識別是同時，需要注意模式類的定義、應(yīng)用場合、模式表示、特征提取和選擇、聚類分析、分類器的設(shè)計和學(xué)習(xí)、訓(xùn)練和測試樣本的選取、行騙能評價等。針對不同的應(yīng)用目的，模式識別系統(tǒng)三部分的內(nèi)容可以有很大的差異，特別是數(shù)據(jù)處理和模式分類這兩部分，為了提高識別結(jié)果的可靠性，往往需要加入知識庫（規(guī)則）以對可能產(chǎn)生的錯誤驚醒修正，或通過引入限制條件大大縮小待識別模式在模型庫中的搜索空間，以減少匹配計算量。在某些具體應(yīng)用中，如機(jī)器視覺，除了要給出被識別對象時申明物體外，還要求給出該物體所處的位置和姿態(tài)以引導(dǎo)機(jī)器人的工作。下面，主要談?wù)勛约簩τ谀Ｊ阶R別方法的認(rèn)識和理解。模式識別的方法大致可以分為模板匹配、統(tǒng)計模式識別、句法（結(jié)構(gòu)）模式識別、模糊模式識別和人工神經(jīng)元網(wǎng)絡(luò)模式識別五個主要方法。首先，對于模板匹配，該方法時最早出現(xiàn)，也是最簡單的模式識別方法之一。模板匹配方法在字符識別、人臉識別等領(lǐng)域有廣泛的應(yīng)用，但該方法計算量非常大，而且該方法的識別率嚴(yán)重依賴于已知模板，如果已知模板產(chǎn)生變形，會導(dǎo)致錯誤的識別，為了改善這種情況，衍生出了可變形模板匹配方法。統(tǒng)計模式識別方法，又稱決策理論識別方法，該方法根據(jù)模式的統(tǒng)計特征，用一個n維特征空間（特征集）來描述每個模式，然后基于概率論、數(shù)理統(tǒng)計以及矩陣?yán)碚摵拖蛄看鷶?shù)的知識，利用合適的判別函數(shù)（每個模式類的特征值分布函數(shù)），將這個n維特征空間劃分為m個區(qū)域，即類別。特征值分布函數(shù)可以通過指定或?qū)W習(xí)得到。比如，字符識別器確定一個模式的類別為“a”到“z”26類中的一個。同樣地，在進(jìn)行簽名的有效性驗(yàn)證時，人們將某一簽名確定為“真實(shí)”或“偽造”。統(tǒng)計模式識別技術(shù)對于解決分類問題非常有用。在統(tǒng)計模式識別中，貝葉斯決策規(guī)則從理論上解決了最優(yōu)分類器的設(shè)計問題，但其實(shí)施卻必須首先解決更困難的概率密度估計問題。句法（結(jié)構(gòu)）模式識別，1962年，R.Narasimahan提出了一種基于基元關(guān)系的句法模式識別方法，傅京孫在這個領(lǐng)域進(jìn)行了卓有成效的工作，形成了句法模式識別的系統(tǒng)理論。句法（結(jié)構(gòu)）模式識別主要是基于特征的結(jié)構(gòu)相關(guān)性進(jìn)行內(nèi)部模式結(jié)構(gòu)的描述。比如，圖像分析常常涉及到圖像的描述而不僅僅是分類。一個描述包括圖像基元的信息以及這些信息之間的關(guān)系。句法模式識別（結(jié)構(gòu)模式識別的一種）利用句法、句法分析和自動推理機(jī)理論來描述和分析一個模式的結(jié)構(gòu)，是相對較成熟的模式識別方法。一維字符串的語法分析可以在許多方面進(jìn)行拓寬，從而應(yīng)用于二維和三維模式的識別。錯誤信息和不確定信息的句法處理是目前的研究熱點(diǎn)。統(tǒng)計模式識別和句法模式識別是模式識別領(lǐng)域的兩大主流研究方向。模糊模式識別1965年L.A.Zadeh的《模糊集合論》宣告了模糊數(shù)學(xué)的誕生，從那以來，有關(guān)模糊信息處理的理論和應(yīng)用取得了重大進(jìn)展，并由此產(chǎn)生了模糊模式識別方法。模糊模式識別是基于模糊數(shù)學(xué)的模式識別方法?，F(xiàn)實(shí)世界中存在許多界限不分明、難以精確描述的事物或現(xiàn)象，而模糊數(shù)學(xué)則可以用數(shù)學(xué)的方法研究和處理這類具有“模糊性”的事物或現(xiàn)象。模糊數(shù)學(xué)的出現(xiàn)使得人們可以模擬人類神經(jīng)系統(tǒng)的活動，描述模式屬于某類的程度，因此，模糊數(shù)學(xué)在模式識別中得到了很好的應(yīng)用。模糊聚類分析是非監(jiān)督模式識別的重要分支。1994年，Randas利用模糊聚類從原始數(shù)據(jù)中直接提取特征，并對提取出來的特征進(jìn)行優(yōu)選和降維操作，以免造成維數(shù)災(zāi)害。馬少平在漢字的方向像素特征進(jìn)行了模糊化描述，是特征變化比較平滑，提高了漢字特征描述的準(zhǔn)確度。在模糊模式識別中，隸屬函數(shù)的選取是關(guān)鍵。人工神經(jīng)元網(wǎng)絡(luò)模式識別，上世紀(jì)50年代末，F(xiàn).Rosenblatt[16]提出了一種簡化的模擬人腦進(jìn)行識別的數(shù)學(xué)模型—感知機(jī)，初步實(shí)現(xiàn)了通過給定類別的各個樣本對識別系統(tǒng)進(jìn)行訓(xùn)練，使系統(tǒng)在學(xué)習(xí)完畢后具有對其他未知類別的模式進(jìn)行正確分類的能力。80年代，J.Hopfield深刻揭示出人工神經(jīng)元網(wǎng)絡(luò)所具有的聯(lián)想存儲和計算能力，為模式識別技術(shù)提出了一種新的途徑，短短幾年在很多方面就取得了顯著成果，從而形成了人工神經(jīng)元網(wǎng)絡(luò)模式識別方法。神經(jīng)元模式識別利用神經(jīng)元網(wǎng)絡(luò)中出現(xiàn)的神經(jīng)計算模式進(jìn)行。大部分神經(jīng)元網(wǎng)絡(luò)都有某種訓(xùn)練規(guī)則，如基于現(xiàn)有模式調(diào)節(jié)連接權(quán)重。換句話說，神經(jīng)元網(wǎng)絡(luò)直接對例子進(jìn)行學(xué)習(xí)，得出其結(jié)構(gòu)特征進(jìn)行推廣，就像孩子從狗的例子中認(rèn)識狗一樣。實(shí)際上，上述模式識別方法并非完全獨(dú)立、互不相干的，這些方法互相滲透、互相補(bǔ)充。在許多新興的應(yīng)用領(lǐng)域，沒有唯一最優(yōu)的方法，必須同時使用幾種不同的模式識別方法。人們已經(jīng)嘗試設(shè)計融合了許多識別方法的模式識別系統(tǒng)。下表對上面介紹的集中模式識別方法進(jìn)行了簡單的歸納總結(jié)。表1常見的模式識別方法方法表示模式識別函數(shù)判別準(zhǔn)則模板匹配樣本、像素、曲線相關(guān)性、距離度量分類誤差統(tǒng)計模式識別特征類屬判別函數(shù)分類誤差結(jié)構(gòu)模式識別基元規(guī)則、語法接受誤差模糊識別特征隸屬函數(shù)隸屬度神經(jīng)元網(wǎng)絡(luò)模式識別樣本、像素、特征非線性信號處理函數(shù)均方誤差模式識別是一個快速發(fā)展的學(xué)科，因此很難對該領(lǐng)域的最新研究進(jìn)展做一個很全面詳盡的總結(jié)。模式識別從上世紀(jì)20年代發(fā)展至今，已經(jīng)有了許多行之有效的模式識別方法來解決不同問題，但是還沒有發(fā)展成統(tǒng)一的、有效的可應(yīng)用于所有問題的模式識別理論。模式識別研究的目的就是要開發(fā)出一般的不依賴于應(yīng)用領(lǐng)域的數(shù)據(jù)分析技術(shù)，使得機(jī)器