第五講從感知器算法到機(jī)器學(xué)習(xí)演示文稿

第五講從感知器算法到機(jī)器學(xué)習(xí)演示文稿現(xiàn)在是1頁(yè)\一共有13頁(yè)\編輯于星期五優(yōu)選第五講從感知器算法到機(jī)器學(xué)習(xí)現(xiàn)在是2頁(yè)\一共有13頁(yè)\編輯于星期五現(xiàn)在是3頁(yè)\一共有13頁(yè)\編輯于星期五現(xiàn)在是4頁(yè)\一共有13頁(yè)\編輯于星期五現(xiàn)在是5頁(yè)\一共有13頁(yè)\編輯于星期五§5.2M-P模型1943年，McCulloch和Pitts提出了一種神經(jīng)元模型：其中輸入向量為：權(quán)值向量為：神經(jīng)元的輸入/輸出關(guān)系為：現(xiàn)在是6頁(yè)\一共有13頁(yè)\編輯于星期五§5.3構(gòu)造人工神經(jīng)網(wǎng)絡(luò)的基本要素（1）神經(jīng)元的激勵(lì)函數(shù)（輸入/輸出特性）（2）網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)（3）確定權(quán)值的方法——學(xué)習(xí)算法現(xiàn)在是7頁(yè)\一共有13頁(yè)\編輯于星期五§5.4感知器算法原理（1）歷史背景

1958年,FrankRosenblatt提出了感知機(jī)(Perceptron)。史稱第一個(gè)機(jī)器學(xué)習(xí)模型。標(biāo)志著對(duì)學(xué)習(xí)過程進(jìn)行數(shù)學(xué)研究的開端。（2）單個(gè)神經(jīng)元的的感知機(jī)利用McCulloch和Pitts神經(jīng)元模型，選激勵(lì)函數(shù)為：令則現(xiàn)在是8頁(yè)\一共有13頁(yè)\編輯于星期五（3）感知器學(xué)習(xí)算法（學(xué)習(xí)規(guī)則）

Step1，隨機(jī)初始化權(quán)值和域值

Step2，在樣本集合或中任選一個(gè)類屬已知的樣本作為感知器的輸入，計(jì)算其實(shí)際輸出

Step3，對(duì)Step2中所得輸出結(jié)果進(jìn)行甄別檢驗(yàn)，若分類正確，則不需要進(jìn)行權(quán)值調(diào)整，若分類出錯(cuò)，則按Step4中的算式進(jìn)行權(quán)值調(diào)整。（可見，感知過程是一個(gè)有錯(cuò)必改的過程。）

現(xiàn)在是9頁(yè)\一共有13頁(yè)\編輯于星期五Step4，設(shè)n0為當(dāng)前迭代次數(shù)，則權(quán)值調(diào)整算式為

其中為類屬標(biāo)志的期望輸出，為學(xué)習(xí)率。Step5，重新從已知類屬的樣本集合或中選取另一樣本進(jìn)行學(xué)習(xí)，即重復(fù)Step2至Step

5，直到對(duì)于所有i=1，2，…,(n+1),恒有

則學(xué)習(xí)過程結(jié)束，權(quán)值調(diào)整完畢。

現(xiàn)在是10頁(yè)\一共有13頁(yè)\編輯于星期五§5.5感知器分類的示例現(xiàn)在是11頁(yè)\一共有13頁(yè)\編輯于星期五練習(xí)題設(shè)有4個(gè)訓(xùn)練樣本分屬兩個(gè)不同的類別:試用感知器算法求出其分類判決函數(shù).現(xiàn)在是12頁(yè)\一共有13頁(yè)\編輯于星期五§5.6局限性和功能的擴(kuò)展感知器學(xué)習(xí)算法的局限性

只能勝任線性分類,不具備直接的非線性分類功能。進(jìn)一步的功能擴(kuò)