實(shí)驗(yàn)三-基于Fisher準(zhǔn)則線性分類器設(shè)計(jì)

實(shí)驗(yàn)三、基于Fisher準(zhǔn)那么線性分類器設(shè)計(jì)3.1實(shí)驗(yàn)類型：設(shè)計(jì)型：線性分類器設(shè)計(jì)〔Fisher準(zhǔn)那么〕3.2實(shí)驗(yàn)?zāi)康模罕緦?shí)驗(yàn)旨在讓同學(xué)進(jìn)一步了解分類器的設(shè)計(jì)概念，能夠根據(jù)自己的設(shè)計(jì)對線性分類器有更深刻地認(rèn)識，理解Fisher準(zhǔn)那么方法確定最正確線性分界面方法的原理，以及Lagrande乘子求解的原理。3.3實(shí)驗(yàn)條件：matlab軟件3.4實(shí)驗(yàn)原理：線性判別函數(shù)的一般形式可表示成

其中根據(jù)Fisher選擇投影方向W的原那么，即使原樣本向量在該方向上的投影能兼顧類間分布盡可能分開，類內(nèi)樣本投影盡可能密集的要求，用以評價投影方向W的函數(shù)為：

上面的公式是使用Fisher準(zhǔn)那么求最正確法線向量的解，該式比擬重要。另外，該式這種形式的運(yùn)算，我們稱為線性變換，其中式一個向量，是的逆矩陣，如是d維，和都是d×d維，得到的也是一個d維的向量。

向量就是使Fisher準(zhǔn)那么函數(shù)達(dá)極大值的解，也就是按Fisher準(zhǔn)那么將d維X空間投影到一維Y空間的最正確投影方向，該向量的各分量值是對原d維特征向量求加權(quán)和的權(quán)值。以上討論了線性判別函數(shù)加權(quán)向量W確實(shí)定方法，并討論了使Fisher準(zhǔn)那么函數(shù)極大的d維向量的計(jì)算方法，但是判別函數(shù)中的另一項(xiàng)尚未確定，一般可采用以下幾種方法確定如或者

或當(dāng)與時可用……當(dāng)W0確定之后，那么可按以下規(guī)那么分類，

使用Fisher準(zhǔn)那么方法確定最正確線性分界面的方法是一個著名的方法，盡管提出該方法的時間比擬早，仍見有人使用。3.5實(shí)驗(yàn)內(nèi)容：有兩類數(shù)據(jù)和二者的概率=0.6，=0.4。中數(shù)據(jù)點(diǎn)的坐標(biāo)對應(yīng)一一如下：數(shù)據(jù)：x=0.23311.52070.64990.77571.05241.19740.29080.25180.66820.56220.90230.1333-0.54310.9407-0.21260.0507-0.08100.73150.33451.0650-0.02470.10430.31220.66550.58381.16531.26530.8137-0.33990.51520.7226-0.20230.4070-0.1717-1.0573-0.2099y=2.33852.19461.67301.63651.78442.01552.06812.12132.47971.51181.96921.83401.87042.29481.77142.39391.56481.93292.20272.45681.75231.69912.48831.72592.04662.02262.37571.79872.08282.07981.94492.38012.23732.16141.92352.2604z=0.53380.85141.08310.41641.11760.55360.60710.44390.49280.59011.09271.07561.00720.42720.43530.98690.48411.09921.02990.71271.01240.45760.85441.12750.77050.41291.00850.76760.84180.87840.97510.78400.41581.03150.75330.9548數(shù)據(jù)點(diǎn)的對應(yīng)的三維坐標(biāo)為x2=1.40101.23012.08141.16551.37401.18291.76321.97392.41522.58902.84721.95391.25001.28641.26142.00712.18311.79091.33221.14661.70871.59202.93531.46642.93131.83491.83402.50962.71982.31482.03532.60301.23272.14651.56732.9414y2=1.02980.96110.91541.49010.82000.93991.14051.06780.80501.28891.46011.43340.70911.29421.37440.93871.22661.18330.87980.55920.51500.99830.91200.71261.28331.10291.26800.71401.24461.33921.18080.55031.47081.14350.76791.1288z2=0.62101.36560.54980.67080.89321.43420.95080.73240.57841.49431.09150.76441.21591.30491.14080.93980.61970.66031.39281.40840.69090.84000.53811.37290.77310.73191.34390.81420.95860.73790.75480.73930.67390.86511.36991.1458數(shù)據(jù)的樣本點(diǎn)分布如下列圖：3.6實(shí)驗(yàn)要求：請把數(shù)據(jù)作為樣本，根據(jù)Fisher選擇投影方向的原那么，使原樣本向量在該方向上的投影能兼顧類間分布盡可能分開，類內(nèi)樣本投影盡可能密集的要求，求出評價投影方向的函數(shù)，并在圖形表示出來。并在實(shí)驗(yàn)報(bào)告中表示出來，并求使取極大值的。用matlab完成Fisher線性分類器的設(shè)計(jì)，程序