川大模式識別考試復(fù)習(xí)題

1、簡答題什么是模式與模式識別？模式：對象之間存在的規(guī)律性關(guān)系；模式識別：是研究用計算機(jī)來實現(xiàn)人類模式識別能力的一門學(xué)科。 /*模式：廣義地說，模式是一些供模仿用的、完美無缺的標(biāo)本。本課程把所見到的具體事物稱為模式，而將它們歸屬的類別稱為模式類。模式的直觀特性:可觀察性，可區(qū)分性，相似性 模式識別：指對表征事物或現(xiàn)象的各種形式的(數(shù)值的、文字的和邏輯關(guān)系的)信息進(jìn)行處理和分析，以對事物或現(xiàn)象進(jìn)行描述、辨認(rèn)、分類和解釋的過程。*/一個典型的模式識別系統(tǒng)主要由哪幾個部分組成 什么是后驗概率？ 系統(tǒng)在某個具體的模式樣本X條件下位于某種類型的概率。確定線性分類器的主要步驟 采集訓(xùn)練樣本，構(gòu)成訓(xùn)練樣本集。樣

2、本應(yīng)該具有典型性 確定一個準(zhǔn)則J=J(w,x)，能反映分類器性能，且存在權(quán)值w*使得分類器性能最優(yōu) 設(shè)計求解w的最優(yōu)算法，得到解向量w*樣本集推斷總體概率分布的方法近鄰法的基本思想是什么？作為一種分段線性判別函數(shù)的極端情況，將各類中全部樣本都作為代表點，這樣的決策方法就是近鄰法的基本思想。什么是K近鄰法？ 取未知樣本x的k個近鄰，看這k個近鄰中多數(shù)屬于哪一類，就把x歸為哪一類。監(jiān)督學(xué)習(xí)與非監(jiān)督學(xué)習(xí)的區(qū)別 利用已經(jīng)標(biāo)定類別的樣本集進(jìn)行分類器設(shè)計的方法稱為監(jiān)督學(xué)習(xí)。很多情況下無法預(yù)先知道樣本的類別，從沒有標(biāo)記的樣本集開始進(jìn)行分類器設(shè)計，這就是非監(jiān)督學(xué)習(xí)。 /*監(jiān)督學(xué)習(xí)：對數(shù)據(jù)實現(xiàn)分類，分類規(guī)則通過

3、訓(xùn)練獲得。該訓(xùn)練集由帶分類號的數(shù)據(jù)集組成，因此監(jiān)督學(xué)習(xí)方法的訓(xùn)練過程是離線的。 非監(jiān)督學(xué)習(xí)方法不需要單獨的離線訓(xùn)練過程，也沒有帶分類號的訓(xùn)練數(shù)據(jù)集，一般用來對數(shù)據(jù)集進(jìn)行分析。如聚類，確定其分布的主分量等。*/什么是誤差平方和準(zhǔn)則？ 對于一個給定的聚類，均值向量是最能代表聚類中所有樣本的一個向量，也稱其為聚類中心。一個好的聚類方法應(yīng)能使集合中的所有向量與這個均值向量的誤差的長度平方和最小。分級聚類算法的2種基本途徑是什么 按事物的相似性，或內(nèi)在聯(lián)系組織起來，組成有層次的結(jié)構(gòu)，使得本質(zhì)上最接近的劃為一類，然后把相近的類再合并，依次類推，這就是分級聚類算法的基本思想。聚合法：把所有樣本各自看為一類，

4、逐級聚合成一類?；舅悸肥歉鶕?jù)類間相似性大小逐級聚合，每級只把相似性最大的兩類聚合成一類，最終把所有樣本聚合為一類。分解法：把所有樣本看做一類，逐級分解為每個樣本一類。特征抽取與特征選擇的區(qū)別？ 特征抽取：原始特征的數(shù)量可能很大，或者樣本處于一個高維空間中，通過映射（或變換）的方法可以用低維空間來表示樣本，這個過程叫特征抽取。所謂特征抽取在廣義上就是指一種變換。 特征選擇：從一組特征中挑選出一些最有效的特征以達(dá)到降低特征空間維數(shù)的目的，這個過程叫特征選擇。特征抽取是通過變換的方法組合原始高維特征，獲得一組低維的新特征，而特征選擇是根據(jù)專家的經(jīng)驗知識或根據(jù)某種評價準(zhǔn)則來挑選出那些對分類最有影響力

5、的特征，并未形成新的特征。什么是最優(yōu)搜素算法？ 最優(yōu)搜索算法：至今能得到最優(yōu)解的唯一快速算法是“分支定界”算法。屬于自上而下的算法，具有回溯功能。由于合理地組織搜索過程，使得有可能避免計算某些特征組合而不影響結(jié)果為最優(yōu)。12統(tǒng)計學(xué)習(xí)理論的核心問題 統(tǒng)計學(xué)習(xí)理論被認(rèn)為是目前針對小樣本統(tǒng)計估計和預(yù)測學(xué)習(xí)的最佳理論。主要內(nèi)容包括4個方面：（1）經(jīng)驗風(fēng)險最小化原則下統(tǒng)計學(xué)習(xí)一致性的條件（2）在這些條件下關(guān)于統(tǒng)計學(xué)習(xí)方法推廣性的界的結(jié)論（3）在這些界的基礎(chǔ)上建立的小樣本歸納推理原則（4）實現(xiàn)這些新的原則的實際方法13什么是支持向量機(jī)？ 支持向量機(jī)：在統(tǒng)計學(xué)習(xí)理論基礎(chǔ)上發(fā)展出的識別方法，在解決小樣本、非線

6、性及高維模式識別問題中表現(xiàn)出其優(yōu)勢。問答題描述貝葉斯公式及其主要作用 利用最大似然估計方法對單變量正太分布函數(shù)來估計其均值U和方差 答案見P543.請詳細(xì)寫出感知器訓(xùn)練算法步驟 請詳細(xì)寫出Fisher算法實現(xiàn)步驟 什么是兩分剪輯近鄰法和壓縮近鄰法 6.請詳細(xì)介紹初始聚類中心的選擇方法 請描述K均值聚類算法 8.什么是離散K-L變換以及離散有限K-L展開 離散K-L變換又稱主成分分析（PCA），是一種基于目標(biāo)統(tǒng)計特性的最佳正交變換，被廣泛應(yīng)用于數(shù)據(jù)壓縮、特征降維等方面。一個非周期性隨機(jī)過程用具有互不相關(guān)系數(shù)的正交函數(shù)的級數(shù)展開。K-L展開式就是這樣一種展開方法。9.必考：針對某個識別對象設(shè)計自己

7、的模式識別系統(tǒng)，并敘述各步驟主要工作計算題1、在圖像識別中，假定有灌木和坦克2種類型，它們的先驗概率分別是0.7和0.3，損失函數(shù)如下表所示。其中，類型w1和w2分別表示灌木和坦克，判決a1=w1，a2=w2。現(xiàn)在做了2次實驗，獲得2個樣本的類概率密度如下： w1 w2 a1 0.52a2 41.0試用最小錯誤率貝葉斯準(zhǔn)則判決2個樣本各屬于哪一類？試用最小風(fēng)險決策規(guī)則判決2個樣本各屬于哪一類？（1）最小錯誤率貝葉斯準(zhǔn)則（2）最小風(fēng)險決策規(guī)則2、已知兩類的訓(xùn)練樣本：w1(0,0)T,(0,2)T;w2(2,0)T,(2,2)T，試用最小平方誤差準(zhǔn)則算法進(jìn)行分類器訓(xùn)練，求解向量w*。3、已知歐氏二維空間中兩類9個訓(xùn)練樣本w1:(-1,0)T,(-2,0)T,(-2,1)T,(-2,-1)T w2:(1,1)T,(2,0)T,(1,-1)T,(2,1)T,(2,2)T試分別用最近鄰法和K近鄰法求測試樣本(0,0)T的分類，取K=5，7。 4、已知兩類的數(shù)據(jù)：w1:(1,0)