matlab的BP神經(jīng)網(wǎng)絡(luò)講義

1、matlab的BP神經(jīng)網(wǎng)絡(luò)講義一、RBF神經(jīng)網(wǎng)絡(luò)1985年，Powell提出了多變量插值的徑向基函數(shù)(Radical Basis Function，RBF)方法，1988年， Moody和Darken提出了一種神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，即RBF神經(jīng)網(wǎng)絡(luò)。RBF網(wǎng)絡(luò)是一種三層前向網(wǎng)絡(luò)，其基本思想是：（1）用RBF作為隱單元的“基”構(gòu)成隱含層空間，將輸入矢量直接(即不需要通過權(quán)連接)映射到隱空間（2）當(dāng)RBF的中心點(diǎn)確定后，映射關(guān)系也就確定（3）隱含層空間到輸出空間的映射是線性的。newrb()函數(shù)功能  建立一個徑向基神經(jīng)網(wǎng)絡(luò)格式 net = newrb(P，T，GOAL，SPREAD，

2、MN，DF)說明  P為輸入向量，T為目標(biāo)向量，GOAL為圴方誤差，默認(rèn)為0，SPREAD為徑向基函數(shù)的分布密度，默認(rèn)為1，MN為神經(jīng)元的最大數(shù)目，DF為兩次顯示之間所添加的神經(jīng)元神經(jīng)元數(shù)目。 例子：設(shè)P,T是訓(xùn)練樣本，X,Y是測試樣本；net=newrb(P,T,err_goal,spread); %建立網(wǎng)絡(luò)q=sim(net,p);e=q-T;plot(p,q); %畫訓(xùn)練誤差曲線q=sim(net,X);e=q-Y;plot(X,q); %畫測試誤差曲線二、BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練前饋網(wǎng)絡(luò)的第一步是建立網(wǎng)絡(luò)對象。函數(shù)newff()建立一個可訓(xùn)練的前饋網(wǎng)絡(luò)。這需要4個輸入?yún)?shù)。

3、第一個參數(shù)是一個Rx2的矩陣以定義R個輸入向量的最小值和最大值。第二個參數(shù)是一個設(shè)定每層神經(jīng)元個數(shù)的數(shù)組。第三個參數(shù)是包含每層用到的傳遞函數(shù)名稱的細(xì)胞數(shù)組。最后一個參數(shù)是用到的訓(xùn)練函數(shù)的名稱。舉個例子，下面命令將創(chuàng)建一個二層網(wǎng)絡(luò)。它的輸入是兩個元素的向量，第一層有三個神經(jīng)元(3)，第二層有一個神經(jīng)元(1)。第一層的傳遞函數(shù)是tan-sigmoid，輸出層的傳遞函數(shù)是linear。輸入向量的第一個元素的范圍是-1到2-1 2，輸入向量的第二個元素的范圍是0到50 5，訓(xùn)練函數(shù)是traingd。net=newff(-1 2; 0 5,3,1,'tansig','pureli

4、n','traingd');這個命令建立了網(wǎng)絡(luò)對象并且初始化了網(wǎng)絡(luò)權(quán)重和偏置，因此網(wǎng)絡(luò)就可以進(jìn)行訓(xùn)練了。我們可能要多次重新初始化權(quán)重或者進(jìn)行自定義的初始化。下面就是初始化的詳細(xì)步驟。在訓(xùn)練前饋網(wǎng)絡(luò)之前，權(quán)重和偏置必須被初始化。初始化權(quán)重和偏置的工作用命令init來實(shí)現(xiàn)。這個函數(shù)接收網(wǎng)絡(luò)對象并初始化權(quán)重和偏置后返回網(wǎng)絡(luò)對象。下面就是網(wǎng)絡(luò)如何初始化的：net = init(net);.initwb和initnw。initwb函數(shù)根據(jù)每一層自己的初始化參數(shù)(net.inputWeightsi,j.initFcn)初始化權(quán)重矩陣和偏置。前饋網(wǎng)絡(luò)的初始化權(quán)重通常設(shè)為rands，它

5、使權(quán)重在-1到1之間隨機(jī)取值。這種方式經(jīng)常用在轉(zhuǎn)換函數(shù)是線性函數(shù)時。initnw通常用于轉(zhuǎn)換函數(shù)是曲線函數(shù)。它根據(jù)Nguyen和WidrowNgWi90為層產(chǎn)生初始權(quán)重和偏置值，使得每層神經(jīng)元的活動區(qū)域能大致平坦的分布在輸入空間。它比起單純的給權(quán)重和偏置隨機(jī)賦值有以下優(yōu)點(diǎn)：（1）減少神經(jīng)元的浪費(fèi)（因?yàn)樗猩窠?jīng)元的活動區(qū)域都在輸入空間內(nèi)）。（2）有更快的訓(xùn)練速度（因?yàn)檩斎肟臻g的每個區(qū)域都在活動的神經(jīng)元范圍中）。初始化函數(shù)被newff所調(diào)用。因此當(dāng)網(wǎng)絡(luò)創(chuàng)建時，它根據(jù)缺省的參數(shù)自動初始化。init不需要單獨(dú)的調(diào)用?？墒俏覀兛赡芤匦鲁跏蓟瘷?quán)重和偏置或者進(jìn)行自定義的初始化。例如，我們用newff創(chuàng)建的

6、網(wǎng)絡(luò)，它缺省用initnw來初始化第一層。如果我們想要用rands重新初始化第一層的權(quán)重和偏置，我們用以下命令：net.layers1.initFcn = 'initwb'net.inputWeights1,1.initFcn = 'rands'net.biases1,1.initFcn = 'rands'net.biases2,1.initFcn = 'rands'net = init(net);IW: 輸入層到隱含層的權(quán)重矩陣LW: 隱含層和輸出層間的權(quán)重矩陣b: 閥值向量如網(wǎng)絡(luò)為net, 輸入層和輸出均為一個接點(diǎn)情況下，則用

7、net.IW1,1可以看到第一個輸入接點(diǎn)到第一隱含層的權(quán)重向量；net.LW2,1可以看到隱含層到輸出層的權(quán)值向量；net.b1,1是隱含層的閥值向量，net.b2,1是輸出接點(diǎn)的閥值；在多輸入輸出下先用net.IWnet.LWnet.b查看各矩陣結(jié)構(gòu)，再相應(yīng)用net.IW?,?等語句查到相關(guān)的向量_clear all;%define the input and outputp= 974 874 527;388 466 1764;1316 2439 2251;1836 2410 1860;1557 2301 1578;1490 1877 2749;1513 1278 2026;1070 156

8、1 2794;1347 2415 3306;1324 2746 1233;1383 1463 1847;1282 0 2347;t=19797 24282 34548;% 創(chuàng)建bp網(wǎng)絡(luò)_怎樣知道m(xù)atlab已經(jīng)訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)的權(quán)值、步長以及闕值用matlab訓(xùn)練神經(jīng)網(wǎng)絡(luò)時不需輸入權(quán)值、步長以及闕值，如果我想知道m(xù)atlab已經(jīng)訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)的權(quán)值、步長以及闕值該怎末操作？訓(xùn)練好的權(quán)值、閾值的輸出方法是：輸入到隱層權(quán)值： w1=net.iw1,1隱層閾值： theta1=net.b1隱層到輸出層權(quán)值： w2=net.lw2,1;輸出層閾值： theta2=net.b2_幫我看看matlab的

9、這段程序(有關(guān)神經(jīng)網(wǎng)絡(luò)BP算法）在一位老師的講義上看到的程序，但是有些東西不太明白，請求幫助程序如下：*clf;figure(gcf)echo on%NEWFF 建立一個BP網(wǎng)絡(luò)%TRAIN 對BP網(wǎng)絡(luò)進(jìn)行訓(xùn)練%SIM 對BP網(wǎng)絡(luò)進(jìn)行仿真pauseP = -1:0.1:1;T = -.9602 -.5770 -.0729 .3771 .6405 .6600 .4609 .1336 -.2013 -.4344 -.5000 -.3930 -.1647 .0988 .3072 .3960 .3449 .1816 -.0312 -.2189 -.3201;plot(P,T,'+');

10、title('Training Vectors');xlabel('Input Vector P');ylabel('Target Vector T');pausenet=newff(minmax(P),5 1,'tansig' 'purelin','traingd','learngd','sse');echo offk = pickic;if k = 2net.iw1,1 = 3.5000; 3.5000; 3.5000; 3.5000; 3.5000;net.b1 = -2.8562; 1.0774; -0.5880; 1.4083; 2.8722;net.lw2,1 = 0.2622 -0.2375 -0.4525 0.2361 -0.1718;net.b2 = 0.1326;endnet.i