第 3 章 神經(jīng)計(jì)算基礎(chǔ)(3.2 感知器)MATLAB仿真程序設(shè)計(jì)

1、School of Information Science & Technology Dalian Maritime University2p1943年，年，W.McCulloCh和和W.Pitts就提出了第一個(gè)人就提出了第一個(gè)人工神經(jīng)元模型，稱之為工神經(jīng)元模型，稱之為MP模型模型缺乏與生物神經(jīng)元類似的學(xué)習(xí)能力缺乏與生物神經(jīng)元類似的學(xué)習(xí)能力p美國(guó)學(xué)者羅森布拉持（美國(guó)學(xué)者羅森布拉持（F.Rosenblatt）于）于1958年提出年提出了了感知器（感知器（perceptron）神經(jīng)網(wǎng)絡(luò)模型神經(jīng)網(wǎng)絡(luò)模型提出了一種感知器的訓(xùn)練算法提出了一種感知器的訓(xùn)練算法成功應(yīng)用于模式分類問(wèn)題成功應(yīng)用于模式分

2、類問(wèn)題p解決線性可分的問(wèn)題時(shí)，運(yùn)算速度快，性能可靠解決線性可分的問(wèn)題時(shí)，運(yùn)算速度快，性能可靠p為為更好地理解其他復(fù)雜的神經(jīng)網(wǎng)絡(luò)模型奠定基礎(chǔ)更好地理解其他復(fù)雜的神經(jīng)網(wǎng)絡(luò)模型奠定基礎(chǔ)感知器及其感知器及其MATLAB仿真程序設(shè)計(jì)仿真程序設(shè)計(jì)33.1 感知器神經(jīng)元及感知器神經(jīng)網(wǎng)絡(luò)模型感知器神經(jīng)元及感知器神經(jīng)網(wǎng)絡(luò)模型3.2 感知器的學(xué)習(xí)感知器的學(xué)習(xí)3.3 感知器的局限性感知器的局限性3.4 單層感知器神經(jīng)網(wǎng)絡(luò)的單層感知器神經(jīng)網(wǎng)絡(luò)的MATLAB仿真程序設(shè)計(jì)仿真程序設(shè)計(jì)1 感知器神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)的基本方法感知器神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)的基本方法2 單層感知器神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)例程單層感知器神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)例程3.5 多層感知器神

3、經(jīng)網(wǎng)絡(luò)及其多層感知器神經(jīng)網(wǎng)絡(luò)及其MATLAB仿真仿真 1多層感知器神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)方法多層感知器神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)方法2多層感知器神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)例程多層感知器神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)例程3.6 感知器應(yīng)用于線性分類問(wèn)題的進(jìn)一步討論感知器應(yīng)用于線性分類問(wèn)題的進(jìn)一步討論感知器及其感知器及其MATLAB仿真程序設(shè)計(jì)仿真程序設(shè)計(jì)43.1 感知器神經(jīng)元及感知器神經(jīng)網(wǎng)絡(luò)模型感知器神經(jīng)元及感知器神經(jīng)網(wǎng)絡(luò)模型n感知器神經(jīng)元模型感知器神經(jīng)元模型：將人工神經(jīng)元的一般模型中：將人工神經(jīng)元的一般模型中傳輸函數(shù)取為傳輸函數(shù)取為閾值型傳輸函數(shù)閾值型傳輸函數(shù)人工神經(jīng)元的一般模型圖3.1 感知器神經(jīng)元的一般模型53.1 感知器神經(jīng)元及感知器

4、神經(jīng)網(wǎng)絡(luò)模型感知器神經(jīng)元及感知器神經(jīng)網(wǎng)絡(luò)模型n單層和多層感知器神經(jīng)網(wǎng)絡(luò)模型單層和多層感知器神經(jīng)網(wǎng)絡(luò)模型圖3.2 單層感知器神經(jīng)網(wǎng)絡(luò)模型圖3.3 多層感知器神經(jīng)網(wǎng)絡(luò)模型63.2 感知器的學(xué)習(xí)感知器的學(xué)習(xí)p 如何找到合適的權(quán)值和閾值如何找到合適的權(quán)值和閾值?p“訓(xùn)練訓(xùn)練”：不斷地調(diào)整權(quán)值和閾值不斷地調(diào)整權(quán)值和閾值的的調(diào)整過(guò)程調(diào)整過(guò)程p 神經(jīng)網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)的“學(xué)習(xí)學(xué)習(xí)”：訓(xùn)練過(guò)程中：訓(xùn)練過(guò)程中把輸入空間映射把輸入空間映射到輸出空間的能力到輸出空間的能力p 學(xué)習(xí)規(guī)則學(xué)習(xí)規(guī)則或或訓(xùn)練算法訓(xùn)練算法：調(diào)整權(quán)值和閾值的算法調(diào)整權(quán)值和閾值的算法p 感知器的學(xué)習(xí)是一種有教師學(xué)習(xí)方式感知器的學(xué)習(xí)是一種有教師學(xué)習(xí)方式

5、p 學(xué)習(xí)規(guī)則稱之為學(xué)習(xí)規(guī)則稱之為規(guī)則規(guī)則7t t表示目標(biāo)輸出，表示目標(biāo)輸出， a a表示實(shí)際輸出，則表示實(shí)際輸出，則 e=t-a (3.1)網(wǎng)絡(luò)訓(xùn)練的目的就是要使網(wǎng)絡(luò)訓(xùn)練的目的就是要使tal當(dāng)當(dāng)e=0時(shí)，得到最優(yōu)的網(wǎng)絡(luò)權(quán)值和閾值；時(shí)，得到最優(yōu)的網(wǎng)絡(luò)權(quán)值和閾值；l當(dāng)當(dāng)e 0時(shí)，說(shuō)明得到的實(shí)際輸出小于目標(biāo)輸出，應(yīng)增加網(wǎng)絡(luò)權(quán)時(shí)，說(shuō)明得到的實(shí)際輸出小于目標(biāo)輸出，應(yīng)增加網(wǎng)絡(luò)權(quán)值和閾值；值和閾值；l當(dāng)當(dāng)e3)維時(shí)，決策邊界為一超平面。圖3.14畫出了n=1，2，3維的情況 圖 3.14 輸入維數(shù)不同時(shí)的決策邊界35感知器的決策函數(shù)與決策邊界感知器的決策函數(shù)與決策邊界n感知器神經(jīng)元的傳輸函數(shù)為閾值型函數(shù)，若

6、傳輸函數(shù)為hardlim函數(shù)，則其決策函數(shù)為0,0( )lim()1,0Wpbf uhardWpbWpb (3.8)n決策邊界由下列邊界方程決定 Wp + b = 0 (3.9)n單層感知器只有一個(gè)邊界方程，且為線性方程，所以它只能進(jìn)行線性分類36感知器感知器分類分類MATLAB仿真仿真例例3.5 設(shè)計(jì)一感知器神經(jīng)網(wǎng)絡(luò)，完成下列分類，以設(shè)計(jì)一感知器神經(jīng)網(wǎng)絡(luò)，完成下列分類，以MATLAB編編寫仿真程序，并畫出分類線。已知：寫仿真程序，并畫出分類線。已知： p1=0.5 -1, t1=0; p2=1 0.5, t2=0; p3= -1 0.5, t3=1; p4=-1 -1, t4=0解（解（1）

7、問(wèn)題分析）問(wèn)題分析輸入向量有 2個(gè)元素，取值范圍為-1,1；輸出向量有 1個(gè)元素，是一個(gè)二值元素，取值為0或1。由此可以確定單層感知器神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)：1個(gè)輸入向量，包括2個(gè)元素、1個(gè)神經(jīng)元，神經(jīng)元的傳輸函數(shù)為hardlim。 （2）MATLAB程序設(shè)計(jì)程序設(shè)計(jì)37感知器感知器分類分類MATLAB程序設(shè)計(jì)程序設(shè)計(jì)n初始化、訓(xùn)練和存儲(chǔ)初始化、訓(xùn)練和存儲(chǔ)%初始化感知器網(wǎng)絡(luò)pr=-1 1;-1 1; %設(shè)置感知器網(wǎng)絡(luò)輸入向量每個(gè)元素的值域net=newp(pr,1); %定義感知器網(wǎng)絡(luò)%net.layers1.transferFcn=hardlims; %指定感知器層神經(jīng)元的傳輸函數(shù) %訓(xùn)練感知器網(wǎng)絡(luò)

8、p=0.5 -1;1 0.5; -1 0.5;-1 -1; %輸入向量（訓(xùn)練樣本值）t=0 1 1 0; %目標(biāo)向量net,tr=train(net,p,t); %訓(xùn)練感知器網(wǎng)絡(luò)%存儲(chǔ)訓(xùn)練后的網(wǎng)絡(luò)save net35 net38感知器感知器分類分類MATLAB程序設(shè)計(jì)程序設(shè)計(jì)n仿真實(shí)驗(yàn)程序仿真實(shí)驗(yàn)程序%加載訓(xùn)練后的網(wǎng)絡(luò)load net35 net%網(wǎng)絡(luò)仿真p=0.5 -1;1 0.5; -1 0.5;-1 -1 %輸人向量（測(cè)試樣本）a=sim(net,p) %仿真結(jié)果%繪制網(wǎng)絡(luò)的分類結(jié)果及分類線v=-2 2 -2 2; %設(shè)置坐標(biāo)的范圍plotpv(p,a,v); %繪制分類結(jié)果plotpc(net.iw1,net.b1); %繪制分類線39感知器感知器分類分類MATLAB程序設(shè)計(jì)程序設(shè)計(jì)n仿真結(jié)果仿真結(jié)果p = 0.5000 1.0000 -1.0000 -1.0000 -1.0000 0.5000 0.5000 -1.0000a