PR部分習(xí)題解答

1、第二章：貝葉斯決策理論主要考點(diǎn)：1. 最小錯(cuò)誤率貝葉斯分類器；2. 最小風(fēng)險(xiǎn)貝葉斯分類器；3. 多元正態(tài)分布時(shí)的最小錯(cuò)誤率貝葉斯分類器。典型例題：，.，.。例題 1 p ) 1/3,p ) 2/31211概率密度分別為 p(x/ )exp(x p(x/ )exp(x )22121）求最小錯(cuò)誤率貝葉斯分類器的閾值。0 32）設(shè)損失為 L ，求最小風(fēng)險(xiǎn)貝葉斯分類器的閾值。1 0由于 p(w1)=1/3, ，則最小錯(cuò)誤率貝葉斯分類器的閾值=p(w2)/p(w1)=2其相應(yīng)的決策規(guī)則為：, 則x1w2p(x/p(x/wp(w2)p(ln2424w x1/ exp(x1) )212x即1/ exp(x1

2、) )2w x20 3 3, 0 1, 0） 當(dāng)1 012222111( ) p(w ) 3. 22( ) p(w) (1 /31p(x/w)1則 1xp(x/w )w221/ exp(x )23/ 2 exp(4x) 2即1/ exp(x1) )2w x441xw x2負(fù)對數(shù)似然比判別規(guī)則為 xp(x/p(x/) p)lnln0 111 ) )px22211 p(x)exp xx ,=I.故11Ti 2i12ini2i11exp( (x ) (x )T1p(x/p(x/)1 )22 |21 211lnln1exp( (x ) (x )T1| 2222(x )( ) ( ) x x( )/2

3、xT1T11122x1111 11 x2011 x20 x20 x2021例2.24解：11p(x)exp x ,x 1Ti 2i12ini2i 4/3 -2/34/3 2/3 = =故1112/3 4/32/3 4/3211exp( (x ) (x )T1p(x/p(x/) | |21 2111lnln1 )211exp( (x ) (x )T1 | |2 2222212(x )( ) ( ) x x x( )/2ln1T11T1112222 4/3 -2/3114/3 2/3 11 1 3/4 lnx 11 x20 11 x202/3 4/3 x202/3 4/3 x20 2 3/484

4、x x x3311 2例：假設(shè)兩類二維正態(tài)分布參數(shù)如下，試給出負(fù)對數(shù)似然比判別規(guī)則。1 0.5p ) p ), ( 1,2) , (0,1) , TT0.5 1121212負(fù)對數(shù)似然比判別規(guī)則為 xp(x/p(x/ ) pp )lnlnln111 ) )x22211exp( (x ) (x )1p(x/p(x/)1 )22 |2111ln1exp( (x ) (x )1 | |222(x )1 x x( ) ( )( )/ 2 x11122 1 11( ) x11222212x 2x 412 0 x所以，決策規(guī)則為：x x 21x12214 0235 0T2 0%; %; 例p117,4.4解

5、:1 Txg(x) x 2x 2 w xw 21T2x2120 1 x故 ，x ,w 12 x2 0 2 1T (x)a y 1xgT 1 2 x 21(1,1)T2 00 123 0(5,5)T0 2 實(shí)驗(yàn)步驟：生成m ,ms ,s1s s s ；122w12w s (m m )；J *1F12y w* xT第五章 非線性判別函數(shù)、最領(lǐng)近法要求：掌握最領(lǐng)近法的分類及圖解、馬氏距離的計(jì)算，主成分分析方法典型例題：，。1.1 0.30.3 1.9 (0,0) , (2, 3) , ， TT1212一未知類別樣本的特征向量x T1）利用 Mahalanobis距離判別 x 的類別；2）計(jì)算 x 的

6、主成分特征。1 ( )x( ) x2T11( ) xx( ) ( ) xx( )21T,2T11222121.1 0.30.950.15 1而0.15 0.550.3 1.91 0 1 0T 2 20 201 1 2 1 2 T2 23 232 ,x2212 1.1 0.3） 0.3 1.912 1.1 0.3( 1)( 2) 0 E0.3 1.9 1, 2。12 31 ,而 ，10 101 13 2 ,。10 1013，則 p112ii122/3 p222ii11 x xx y y13T1211010 x xx y 。y31T21221010例 設(shè)有七個(gè)二維樣本分屬于兩類：: x (0.5,0) ,x (1,0) ,x (0,1) ,TTT1123: x (0,1.5) ,x (0,2.5) ,x (1,3) ,x (2,2)TTTT24567假定前三個(gè)為1 類,后四個(gè)為2 類.1) 畫出最近鄰法的決策面;2) 求各類樣本均值,若按與各類樣本均值的最小距離分類, 試給出決策函數(shù),并畫.1324w (i 1,2)g (x) xx ,k 1,2.N x kk12iiikikkg (x)ming (x),i 1,2xw 。2iii AB） 1/3(0.5,0) (1,0) (0,1) (1/6,1/3)，TTTT11/ 4(0,1.5) (0,2.5) (1,3) (2,2