MATLAB 神經(jīng)網(wǎng)絡工具箱

1、MATLAB神經(jīng)網(wǎng)絡工具箱神經(jīng)元模型Neuron Model： 多輸入，單輸出，帶偏置輸入:R維列向量1,TRppp權值:R維行向量111,Rwwwb閥值:標量求和單元11Riiinp wb傳遞函數(shù)f輸出()afbwp常用傳遞函數(shù)aWp-b1-1u閾值函數(shù)1(0)( )hardlim( )0(0)naf nnnMATLAB函數(shù): hardlim1(0)( )hardlim ( )1(0)naf ns nnMATLAB函數(shù): hardlims線性函數(shù)uPurelin Transfer Function ：( )af nnanMATLAB函數(shù): purelinSigmoid函數(shù)uSigmoid F

2、unction ：u特性：值域a(0,1)非線性，單調性無限次可微|n|較小時可近似線性函數(shù)|n|較大時可近似閾值函數(shù)1( )1naf neMATLAB函數(shù): logsig(對數(shù)), tansig(正切)對數(shù)Sigmoid函數(shù)正切Sigmoid函數(shù)1tanh( )1nneane單層神經(jīng)網(wǎng)絡模型R維輸入, S個神經(jīng)元的單層神經(jīng)網(wǎng)絡模型111212121211RRSSSRwwwwwwwwwW12Sbbbb()faWp+b多層神經(jīng)網(wǎng)絡模型 前饋神經(jīng)網(wǎng)絡u前饋神經(jīng)網(wǎng)絡(feed forward NN)：各神經(jīng)元接受前級輸入，并輸出到下一級，無反饋，可用一有向無環(huán)圖表示。u前饋網(wǎng)絡通常分為不同的層(la

3、yer)，第i層的輸入只與第i-1層的輸出聯(lián)結。u可見層：輸入層(input layer)和輸出層(output layer)u隱藏層(hidden layer) ：中間層感知器u感知器(perceptron):單層網(wǎng)絡, 傳遞函數(shù)為閥值函數(shù)u主要功能是模式分類感知器的生成函數(shù)newp用來生成一個感知器神經(jīng)網(wǎng)絡net = newp( pr, s, tf, lf ) net: 函數(shù)返回參數(shù),表示生成的感知器網(wǎng)絡 pr: 一個R2矩陣, 由R維輸入向量的每維最小值和最 大值組成 s: 神經(jīng)元的個數(shù) tf: 感知器的傳遞函數(shù), 默認為hardlim, 可選hardlims lf: 感知器的學習函數(shù),

4、默認為learnp, 可選learnpnnet = newp(-2,+2;-2,+2,2) %生成一個二維輸入,兩個神經(jīng)元的感知器感知器的權值和閥值初始化p newp默認權值和閥值為零(零初始化函數(shù)initzero).net = newp(-2,+2;-2,+2,2); W=net.IW1,1 %顯示網(wǎng)絡的權值b=net.b1 %顯示網(wǎng)絡的閥值W =0 00 0b =0 0 p 改變默認初始化函數(shù)為隨機函數(shù)randsnet.inputweights1,1.InitFcn = rands;net.biases1.InitFcn = rands;net =init(net); %重新初始化p 直接

5、初始化定義權值和閥值net.IW1,1=1 2; net.b1=1感知器學習u感知器學習算法權值增量: ()TTWta pep閥值增量: btae 權值更新: newoldWWW閥值更新: newoldbbbu算法改進()TTta pepWpp輸入樣本歸一化權值和閥值訓練與學習函數(shù)trainnet=train(net, P, T) 設計好的感知器并不能馬上投入使用. 通過樣本訓練, 確定感知器的權值和閥值.輸入向量目標向量被訓練網(wǎng)絡net.tranParam.epochs=10 ; %預定的最大訓練次數(shù)為10, 感知器經(jīng)過最多訓練10次后停止,adaptnet=adapt(net, P, T)

6、自適應訓練函數(shù)權值和閥值學習函數(shù)learnpdW=learnp(W,P,Z,N,A,T,E,D,gW,gA,LP,LS)dW:權值或閥值的變化矩陣W:權值矩陣或閥值向量P:輸入向量T:目標向量E:誤差向量其他可以忽略,設為 learnpn歸一化學習函數(shù)網(wǎng)絡仿真函數(shù)sima = sim(net, P)輸入向量網(wǎng)絡輸出分類結果顯示繪圖函數(shù)plotpvplotpv(P,T)plotpcplotpc(W,b)畫輸入向量的圖像畫分類線 根據(jù)給定的樣本輸入向量P和目標向量T, 以及需分類的向量組Q, 創(chuàng)建一個感知器, 對其進行分類. 例: 創(chuàng)建一個感知器P=-0.5 -0.6 0.7;0.8 0 0.1;

7、 %已知樣本輸入向量T=1 1 0; %已知樣本目標向量net=newp(-1 1;-1 1,1); %創(chuàng)建感知器handle=plotpc(net.iw1,net.b1); %返回劃線的句柄net.trainParam.epochs=10; % 設置訓練最大次數(shù)net=train(net,P,T); %訓練網(wǎng)絡Q=0.6 0.9 -0.1;-0.1 -0.5 0.5; %已知待分類向量Y=sim(net,Q); %二元分類仿真結果 figure; %新建圖形窗口plotpv(Q,Y); %畫輸入向量handle=plotpc(net.iw1,net.b1,handle) %畫分類線實驗一 利

8、用感知器進行分類(1) 一個經(jīng)過訓練的感知器對5個輸入向量進行分類(2類)。 Step 1 兩個長度為5的向量構成輸入樣本矩陣P，行向量T為目標向量。利用PLOTPV畫出這個向量的圖像。例如：P = -0.5 -0.5 +0.3 -0.1 -4; -0.5 +0.5 -0.5 +1.0 5;T = 1 1 0 0 1;plotpv(P,T); % plotpv函數(shù)利用感知器的輸入向量和目標向量來畫輸入向量的圖像Step 2建立神經(jīng)網(wǎng)絡 畫輸入向量的圖像 MATLAB提供函數(shù)newp來創(chuàng)建一個指定的感知器。第一個參數(shù)指定了期望的兩個輸入向量的取值范圍，第二個參數(shù)指定了只有一個神經(jīng)元。net =

9、newp(-40 1;-1 50,1);注意：這個神經(jīng)元的傳遞函數(shù)是hardlim函數(shù)，也就是階躍函數(shù)。取0，1兩個值。Hardlims函數(shù)，取-1，1兩個值。實驗一 利用感知器進行分類(2) 添加神經(jīng)元的初始化值到分類圖添加神經(jīng)元的初始化值到分類圖 Step3 初始化的權值被設為0，因此任何輸入都會給出同樣的輸出，并且分類線不會出現(xiàn)在這個圖中，不用害怕，我們會繼續(xù)訓練這個神經(jīng)網(wǎng)。hold on linehandle = plotpc(net.IW1,net.b1); /plotpc函數(shù)用來畫分類線訓練神經(jīng)網(wǎng)絡訓練神經(jīng)網(wǎng)絡 Step4 Matlab提供了adapt函數(shù)來訓練感知器，adapt函

10、數(shù)返回一個新的能更好的執(zhí)行分類、網(wǎng)絡的輸出、和誤差的神經(jīng)網(wǎng)絡，這個劃線函數(shù)允許網(wǎng)絡從3個角度去調整，畫分類線一直到誤差為0為止。E = 1; /E為誤差net.adaptParam.passes = 3; /決定在訓練過程中重復次數(shù)while (sse(E) /sse函數(shù)是用來判定誤差E的函數(shù)net,Y,E = adapt(net,P,T); /利用輸入樣本調節(jié)神經(jīng)網(wǎng)netlinehandle = plotpc(net.IW1,net.b1,linehandle);/ /畫出調整以后的分類線drawnow; /延遲一段時間end實驗一 利用感知器進行分類(3) Step 5 模擬模擬sim sim函數(shù)能被用來劃分任何別的輸入向量，例如劃分一個輸入向量0.7; 1.2.這個新點的圖像為紅色，他將用來顯示這個感知器如何把這個新點從最初的訓練集取分開來。p = 0.7; 1.2;a = sim(net,p); /利用模擬函數(shù)sim計算出新輸入p的神經(jīng)網(wǎng)絡的輸出plotpv(p,a);circle = findobj(gca,type, line);set(circle,Color,red);打開hold,以便于以前的圖像不被刪除。增加訓練裝置和分類線在圖中