模式識(shí)別理論P(yáng)PT學(xué)習(xí)教案

1、會(huì)計(jì)學(xué)1模式識(shí)別理論模式識(shí)別理論出的是定性結(jié)論而不是定量指標(biāo)。第1頁(yè)/共66頁(yè)第2頁(yè)/共66頁(yè)第3頁(yè)/共66頁(yè)用這些因素的參數(shù)構(gòu)筑多維空用這些因素的參數(shù)構(gòu)筑多維空間（即模式空間）描述研究對(duì)間（即模式空間）描述研究對(duì)象的特征，才能用模式識(shí)別的象的特征，才能用模式識(shí)別的方法總結(jié)規(guī)律。方法總結(jié)規(guī)律。第4頁(yè)/共66頁(yè)第5頁(yè)/共66頁(yè)有監(jiān)督模式識(shí)別有監(jiān)督模式識(shí)別。第6頁(yè)/共66頁(yè)第7頁(yè)/共66頁(yè)決的問(wèn)題。決的問(wèn)題。第8頁(yè)/共66頁(yè)第9頁(yè)/共66頁(yè)第10頁(yè)/共66頁(yè)第11頁(yè)/共66頁(yè)第12頁(yè)/共66頁(yè)第13頁(yè)/共66頁(yè)第14頁(yè)/共66頁(yè)第15頁(yè)/共66頁(yè)第16頁(yè)/共66頁(yè)第17頁(yè)/共66頁(yè)第18頁(yè)/共66

2、頁(yè)第19頁(yè)/共66頁(yè)第20頁(yè)/共66頁(yè)確判斷的地層中各取確判斷的地層中各取9 9個(gè)樣本，個(gè)樣本，測(cè)得的數(shù)據(jù)如下表：測(cè)得的數(shù)據(jù)如下表：第21頁(yè)/共66頁(yè)第22頁(yè)/共66頁(yè)2. I I、IIIIC C1 1和和C C2 2的距離，分別如表的距離，分別如表a a和表和表b b所示：所示：第23頁(yè)/共66頁(yè)第24頁(yè)/共66頁(yè)第25頁(yè)/共66頁(yè)第26頁(yè)/共66頁(yè)第27頁(yè)/共66頁(yè)第28頁(yè)/共66頁(yè)第29頁(yè)/共66頁(yè)第30頁(yè)/共66頁(yè)第31頁(yè)/共66頁(yè)第32頁(yè)/共66頁(yè)FisherFisher線性判別線性判別第33頁(yè)/共66頁(yè)二維模式向一維空間投影示意圖二維模式向一維空間投影示意圖oxy第34頁(yè)/共66頁(yè)

3、二維模式向一維空間投影示意圖二維模式向一維空間投影示意圖tyoxy第35頁(yè)/共66頁(yè)二維模式向一維空間投影示意圖二維模式向一維空間投影示意圖tyoxyoxy第36頁(yè)/共66頁(yè)（1)1)求解求解FisherFisher準(zhǔn)則函數(shù)準(zhǔn)則函數(shù)第37頁(yè)/共66頁(yè)第38頁(yè)/共66頁(yè)uSuuSSusssWWWWWW)(2121222uSumumumumummsBB)()(21212212類間離差度為：類間離差度為：第39頁(yè)/共66頁(yè)uSuuSussmmuJWBWWF2222121)()(并使其最大并使其最大, ,上式稱為上式稱為FisherFisher準(zhǔn)則函數(shù)準(zhǔn)則函數(shù)。第40頁(yè)/共66頁(yè)利用二次型關(guān)于矢量求導(dǎo)

4、的公式可得：利用二次型關(guān)于矢量求導(dǎo)的公式可得：2)()(2)(2uSuuSuSuuSuSuuSuuSuuuJWWBBWWBF（2) 2) 求解求解FisherFisher最佳鑒別矢量最佳鑒別矢量uSuuSuWB令令uSuSWB可得：可得：第41頁(yè)/共66頁(yè)第42頁(yè)/共66頁(yè) 上式右邊后兩項(xiàng)因子的乘積為一標(biāo)量，上式右邊后兩項(xiàng)因子的乘積為一標(biāo)量，令其為令其為 ，于是可得，于是可得 式中式中 為一標(biāo)量因子，其不改變軸的為一標(biāo)量因子，其不改變軸的方向，可以取為方向，可以取為1,于是有于是有)(211mmSuW)(211mmSuWummmmSuSSuWBW)(212111第43頁(yè)/共66頁(yè)uSuuSuu

5、JWBF)()()(21121mmSmmW此時(shí)的此時(shí)的 可使可使Fisher準(zhǔn)則函數(shù)取最大值，即是準(zhǔn)則函數(shù)取最大值，即是n 維維空間到一維空間投影軸的最佳方向，由空間到一維空間投影軸的最佳方向，由u)(211mmSuW)(2121mmmmSB和和JF 最大值為最大值為:)()()()()(2111212112121121mmSSSmmmmSmmmmSmmWWWWW第44頁(yè)/共66頁(yè))()(21121mmSmmWxSmmyW121)(J JF F=第45頁(yè)/共66頁(yè) 由于變換后的模式是一維的，因此判別界面實(shí)際由于變換后的模式是一維的，因此判別界面實(shí)際上是各類模式所在軸上的一個(gè)點(diǎn)，所以可以根據(jù)訓(xùn)練

6、上是各類模式所在軸上的一個(gè)點(diǎn)，所以可以根據(jù)訓(xùn)練模式確定一個(gè)閾值模式確定一個(gè)閾值 y yt t，于是，于是FisherFisher判別規(guī)則判別規(guī)則為為: : 21xyyxut221mmyt（3) 3) 求解求解FisherFisher判別函數(shù)判別函數(shù)判別閾值可取兩個(gè)類心在判別閾值可取兩個(gè)類心在u u方向上軸的投影連線方向上軸的投影連線的中點(diǎn)作為閾值，即的中點(diǎn)作為閾值，即: :第46頁(yè)/共66頁(yè)第47頁(yè)/共66頁(yè)ijijijijiimuxuNyNm)()(11（7 7） 計(jì)算計(jì)算 。im221mmyt（8 8） 計(jì)算計(jì)算yt 。21xyyxut（9 9） 對(duì)未知模式對(duì)未知模式x判定模式類。判定模式

7、類。第48頁(yè)/共66頁(yè)以以100100元元A A面數(shù)據(jù)和面數(shù)據(jù)和5050元元A A面數(shù)據(jù)為例面數(shù)據(jù)為例100100元元A A面面:(64,76,99,84,98,95,88,83),:(64,76,99,84,98,95,88,83),5050元元A A面面:(65,67,82,80,89,94,86,92),:(65,67,82,80,89,94,86,92),N N1 1=N=N2 2=60=60算得算得: :m m1 1=(69.3,61.9,83.5,70.8,97.7,91.5,87.6,82.4)=(69.3,61.9,83.5,70.8,97.7,91.5,87.6,82.4)m

8、 m2 2=(59.2,55.5,81.9,63.9,95.1,91.0,91.1,86.5)=(59.2,55.5,81.9,63.9,95.1,91.0,91.1,86.5)第49頁(yè)/共66頁(yè)m m1 1=(=(69.3, 61.9, 83.5, 70.8, 97.7, 91.5, 87.6, 82.469.3, 61.9, 83.5, 70.8, 97.7, 91.5, 87.6, 82.4) )m m2 2=(=(59.2, 55.5, 81.9, 63.9, 95.1, 91.0, 91.1, 86.559.2, 55.5, 81.9, 63.9, 95.1, 91.0, 91.1,

9、 86.5) )第50頁(yè)/共66頁(yè)m m1 1=(=(69.3, 61.9, 83.5, 70.8, 97.7, 91.5, 87.6, 82.469.3, 61.9, 83.5, 70.8, 97.7, 91.5, 87.6, 82.4) )m m2 2=(=(59.2, 55.5, 81.9, 63.9, 95.1, 91, 91.1, 86.559.2, 55.5, 81.9, 63.9, 95.1, 91, 91.1, 86.5) )第51頁(yè)/共66頁(yè)m m1 1=(=(69.3, 61.9, 83.5, 70.8, 97.7, 91.5, 87.6, 82.469.3, 61.9,

10、83.5, 70.8, 97.7, 91.5, 87.6, 82.4) )m m2 2=(=(59.2, 55.5, 81.9, 63.9, 95.1, 91, 91.1, 86.559.2, 55.5, 81.9, 63.9, 95.1, 91, 91.1, 86.5) )第52頁(yè)/共66頁(yè)m m1 1=(=(69.3, 61.9, 83.5, 70.8, 97.7, 91.5, 87.6, 82.469.3, 61.9, 83.5, 70.8, 97.7, 91.5, 87.6, 82.4) )m m2 2=(=(59.2, 55.5, 81.9, 63.9, 95.1, 91, 91.1, 86.559.2, 55.5, 81.9, 63.9, 95.1, 91, 91.1, 86.5) )第53頁(yè)/共66頁(yè)第54頁(yè)/共66頁(yè)第55頁(yè)/共66頁(yè)第56頁(yè)/共66頁(yè)nPCA第57頁(yè)/共66頁(yè)第58頁(yè)/共66頁(yè)第59頁(yè)/共66頁(yè)第60頁(yè)/共66頁(yè)第61頁(yè)/共66頁(yè)第62頁(yè)/共66頁(yè)行模糊聚