感知器教學(xué)課件

感知器感知器（Perceptron）是由美國(guó)計(jì)算機(jī)科學(xué)家羅森布拉特（F.Roseblatt）于1957年提出的。單層感知器神經(jīng)元模型圖：圖1感知器神經(jīng)元模型F.Roseblatt已經(jīng)證明，如果兩類模式是線性可分的（指存在一個(gè)超平面將它們分開），則算法一定收斂。感知器特別適用于簡(jiǎn)單的模式分類問(wèn)題，也可用于基于模式分類的學(xué)習(xí)控制中。本節(jié)中所說(shuō)的感知器是指單層的感知器。多層網(wǎng)絡(luò)因?yàn)橐玫胶竺鎸⒁榻B的反向傳播法進(jìn)行權(quán)值修正，所以把它們均歸類為反向傳播網(wǎng)絡(luò)之中。1感知器的網(wǎng)絡(luò)結(jié)構(gòu)根據(jù)網(wǎng)絡(luò)結(jié)構(gòu)，可以寫出第i個(gè)輸出神經(jīng)元（i＝1，2，…，s）的加權(quán)輸入和ni及其輸出ai為：感知器的輸出值是通過(guò)測(cè)試加權(quán)輸入和值落在閾值函數(shù)的左右來(lái)進(jìn)行分類的，即有：閾值激活函數(shù)如圖3所示。2感知器的圖形解釋由感知器的網(wǎng)絡(luò)結(jié)構(gòu)，我們可以看出感知器的基本功能是將輸入矢量轉(zhuǎn)化成0或1的輸出。這一功能可以通過(guò)在輸入矢量空間里的作圖來(lái)加以解釋。感知器權(quán)值參數(shù)的設(shè)計(jì)目的，就是根據(jù)學(xué)習(xí)法則設(shè)計(jì)一條W*P+b＝0的軌跡，使其對(duì)輸入矢量能夠達(dá)到期望位置的劃分。

以輸入矢量r＝2為例，對(duì)于選定的權(quán)值w1、w2和b，可以在以p1和p2分別作為橫、縱坐標(biāo)的輸入平面內(nèi)畫出W*P+b＝w1p1+w2p2+b＝0的軌跡，它是一條直線，此直線上的及其線以上部分的所有p1、p2值均使w1p1+w2p2+b＞0，這些點(diǎn)若通過(guò)由w1、w2和b構(gòu)成的感知器則使其輸出為1；該直線以下部分的點(diǎn)則使感知器的輸出為0。

所以當(dāng)采用感知器對(duì)不同的輸入矢量進(jìn)行期望輸出為0或1的分類時(shí)，其問(wèn)題可轉(zhuǎn)化為：對(duì)于已知輸入矢量在輸入空間形成的不同點(diǎn)的位置，設(shè)計(jì)感知器的權(quán)值W和b，將由W*P+b＝0的直線放置在適當(dāng)?shù)奈恢蒙鲜馆斎胧噶堪雌谕敵鲋颠M(jìn)行上下分類。圖4輸入矢量平面圖3感知器的學(xué)習(xí)規(guī)則學(xué)習(xí)規(guī)則是用來(lái)計(jì)算新的權(quán)值矩陣W和閾值B的算法。

感知器利用其學(xué)習(xí)規(guī)則來(lái)調(diào)整網(wǎng)絡(luò)的權(quán)值，以便使該網(wǎng)絡(luò)對(duì)輸入矢量的響應(yīng)達(dá)到數(shù)值為0或1的目標(biāo)輸出。輸入矢量P，輸出矢量A，目標(biāo)矢量為T的感知器網(wǎng)絡(luò)，其學(xué)習(xí)規(guī)則為：如果第i個(gè)神經(jīng)元的輸出是正確的，即有：ai＝ti，那么與第i個(gè)神經(jīng)元聯(lián)接的權(quán)值wij和閾值bi保持不變；如果第i個(gè)神經(jīng)元的輸出是0，但期望輸出為1，即有ai＝0，而ti＝1，此時(shí)權(quán)值修正算法為：新的權(quán)值wij為舊的權(quán)值wij加上輸入矢量pj；類似的，新的閾值bi為舊閾值bi加上它的輸入1；如果第i個(gè)神經(jīng)元的輸出為1，但期望輸出為0，即有ai＝1，而ti＝0，此時(shí)權(quán)值修正算法為：新的權(quán)值wij等于舊的權(quán)值wij減去輸入矢量pj；類似的，新的閾值bi為舊閾值bi減去1。感知器學(xué)習(xí)規(guī)則的實(shí)質(zhì)為：權(quán)值的變化量等于正負(fù)輸入矢量。對(duì)于所有的i和j，i＝l，2，…，s；j＝1，2，…，r，感知器修正權(quán)值公式為：上述用來(lái)修正感知器權(quán)值的學(xué)習(xí)算法在MATLAB神經(jīng)網(wǎng)絡(luò)工具箱中已編成了子程序，成為一個(gè)名為1earnp.m的函數(shù)。只要直接調(diào)用此函數(shù)，即可立即獲得權(quán)值的修正量。此函數(shù)所需要的輸入變量為：輸入矢量、輸出矢量和目標(biāo)矢量：P、A和T。4網(wǎng)絡(luò)的訓(xùn)練感知器的訓(xùn)練過(guò)程如下：

在輸入矢量P的作用下，計(jì)算網(wǎng)絡(luò)的實(shí)際輸出A，并與相應(yīng)的目標(biāo)矢量T進(jìn)行比較，檢查A是否等于T，然后用比較后的誤差量，根據(jù)學(xué)習(xí)規(guī)則進(jìn)行權(quán)值和偏差的調(diào)整； 重新計(jì)算網(wǎng)絡(luò)在新權(quán)值作用下的輸入，重復(fù)權(quán)值調(diào)整過(guò)程，直到網(wǎng)絡(luò)的輸出A等于目標(biāo)矢量T或訓(xùn)練次數(shù)達(dá)到事先設(shè)置的最大值時(shí)訓(xùn)練結(jié)束。感知器設(shè)計(jì)訓(xùn)練的步驟可總結(jié)如下：1)對(duì)于所要解決的問(wèn)題，確定輸入矢量P，目標(biāo)矢量T，并由此確定各矢量的維數(shù)以及確定網(wǎng)絡(luò)結(jié)構(gòu)大小的神經(jīng)元數(shù)目：r，s和q；2)參數(shù)初始化：

a)賦給權(quán)矢量w在(-l，1)的隨機(jī)非零初始值；

b)給出最大訓(xùn)練循環(huán)次數(shù)max_epoch；3)網(wǎng)絡(luò)表達(dá)式：根據(jù)輸入矢量P以及最新權(quán)矢量W，計(jì)算網(wǎng)絡(luò)輸出矢量A；4)檢查：檢查輸出矢量A與目標(biāo)矢量T是否相同，如果是或已達(dá)最大循環(huán)次數(shù)，訓(xùn)練結(jié)束，否則轉(zhuǎn)入5)；5)學(xué)習(xí)：根據(jù)感知器的學(xué)習(xí)規(guī)則調(diào)整權(quán)矢量，并返回3)。感知器神經(jīng)網(wǎng)絡(luò)的創(chuàng)建

net=newp(PR,S)PR為R2維矩陣，表示R維輸入矢量中每維輸入的最小值和最大值之間的范圍；

S表示神經(jīng)元個(gè)數(shù)；

net表示創(chuàng)建的感知器神經(jīng)網(wǎng)絡(luò)對(duì)象。感知器神經(jīng)網(wǎng)絡(luò)的訓(xùn)練

[net,y,e]=adapt(net,p,t)net表示訓(xùn)練前、后的感知器神經(jīng)網(wǎng)絡(luò)對(duì)象；

y和e分別表示訓(xùn)練后網(wǎng)絡(luò)的輸出和誤差；

p表示輸入矢量；

t表示目標(biāo)矢量。

net=train(net,p,t)

對(duì)于任何一個(gè)線性可分問(wèn)題，利用adapt函數(shù)經(jīng)過(guò)有限步訓(xùn)練均可收斂，但train函數(shù)無(wú)法保證。感知器神經(jīng)網(wǎng)絡(luò)的仿真

a=sim(net,p)a表示實(shí)際輸出矢量。5感知器的局限性由于感知器的激活函數(shù)采用的是閾值函數(shù)，輸出矢量只能取0或1，所以只能用它來(lái)解決簡(jiǎn)單的分類問(wèn)題；感知器只能對(duì)線性可分的向量集合進(jìn)行分類。當(dāng)輸入矢量中有一個(gè)數(shù)比其他數(shù)都大或小得很多時(shí)，可能導(dǎo)致較慢的收斂速度。6感知器神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)實(shí)例