matlab 通用神經(jīng)網(wǎng)絡(luò)代碼

1、matlab 通用神經(jīng)網(wǎng)絡(luò)代碼學(xué)習(xí)了一段時間的神經(jīng)網(wǎng)絡(luò),總結(jié)了一些經(jīng)驗,在這愿意和大家分享一下,希望對大家有幫助,也希望大家可以把其他神經(jīng)網(wǎng)絡(luò)的通用代碼在這一起分享感應(yīng)器神經(jīng)網(wǎng)絡(luò)、線性網(wǎng)絡(luò)、BP神經(jīng)網(wǎng)絡(luò)、徑向基函數(shù)網(wǎng)絡(luò)%通用感應(yīng)器神經(jīng)網(wǎng)絡(luò)。P=-0.5 -0.5 0.3 -0.1 -40;-0.5 0.5 -0.5 1 50;%輸入向量T=1 1 0 0 1;%期望輸出plotpv(P,T;%描繪輸入點圖像net=newp(-40 1;-1 50,1;%生成網(wǎng)絡(luò),其中參數(shù)分別為輸入向量的范圍和神經(jīng)元感應(yīng)器數(shù)量hold onlinehandle=plotpc(net.iw1,net.b1;for

2、 a=1:25%訓(xùn)練次數(shù)net,Y,E=adapt(net,P,T;linehandle=plotpc(net.iw1,net.b1,linehandle;drawnow;end%通用newlin程序%通用線性網(wǎng)絡(luò)進行預(yù)測time=0:0.025:5;T=sin(time*4*pi;Q=length(T;P=zeros(5,Q;%P中存儲信號T的前5(可變,根據(jù)需要而定次值,作為網(wǎng)絡(luò)輸入。P(1,2:Q=T(1,1:(Q-1;P(2,3:Q=T(1,1:(Q-2;P(3,4:Q=T(1,1:(Q-3;P(4,5:Q=T(1,1:(Q-4;P(5,6:Q=T(1,1:(Q-5;plot(time

3、,T%繪制信號T曲線xlabel(時間;ylabel(目標(biāo)信號;title(待預(yù)測信號;net=newlind(P,T;%根據(jù)輸入和期望輸出直接生成線性網(wǎng)絡(luò)a=sim(net,P;%網(wǎng)絡(luò)測試figure(2plot(time,a,time,T,+xlabel(時間;ylabel(輸出-目標(biāo)+;title(輸出信號和目標(biāo)信號;e=T-a;figure(3plot(time,ehold onplot(min(time max(time,0 0,r:%可用plot(x,zeros(size(x,r:代替hold offxlabel(時間;ylabel(誤差;title(誤差信號;%通用BP神經(jīng)網(wǎng)絡(luò)P

4、=-1 -1 2 2;0 5 0 5;t=-1 -1 1 1;net=newff(minmax(P,3,1,tansig,purelin,traingd;%輸入?yún)?shù)依次為:樣本P范圍,各層神經(jīng)元數(shù)目,各層傳遞函數(shù),訓(xùn)練函數(shù)%訓(xùn)練函數(shù)traingd-梯度下降法,有7個訓(xùn)練參數(shù).%訓(xùn)練函數(shù)traingdm-有動量的梯度下降法,附加1個訓(xùn)練參數(shù)mc(動量因子,缺省為0.9%訓(xùn)練函數(shù)traingda-有自適應(yīng)lr的梯度下降法,附加3個訓(xùn)練參數(shù):lr_inc(學(xué)習(xí)率增長比,缺省為1.05;% lr_dec(學(xué)習(xí)率下降比,缺省為0.7;max_perf_inc(表現(xiàn)函數(shù)增加最大比,缺省為1.04%訓(xùn)練函數(shù)

5、traingdx-有動量的梯度下降法中賦以自適應(yīng)lr的方法,附加traingdm和traingda 的4個附加參數(shù)%訓(xùn)練函數(shù)trainrp-彈性梯度下降法,可以消除輸入數(shù)值很大或很小時的誤差,附加4個訓(xùn)練參數(shù):% delt_inc(權(quán)值變化增加量,缺省為1.2;delt_dec(權(quán)值變化減小量,缺省為0.5; % delta0(初始權(quán)值變化,缺省為0.07;deltamax(權(quán)值變化最大值,缺省為50.0% 適合大型網(wǎng)絡(luò)%訓(xùn)練函數(shù)traincgf-Fletcher-Reeves共軛梯度法;訓(xùn)練函數(shù)traincgp-Polak-Ribiere共軛梯度法; %訓(xùn)練函數(shù)traincgb-Powell

6、-Beale共軛梯度法%共軛梯度法占用存儲空間小,附加1訓(xùn)練參數(shù)searchFcn(一維線性搜索方法,缺省為srchcha;缺少1個訓(xùn)練參數(shù)lr%訓(xùn)練函數(shù)trainscg-量化共軛梯度法,與其他共軛梯度法相比,節(jié)約時間.適合大型網(wǎng)絡(luò)% 附加2個訓(xùn)練參數(shù):sigma(因為二次求導(dǎo)對權(quán)值調(diào)整的影響參數(shù),缺省為5.0e-5;% lambda(Hessian陣不確定性調(diào)節(jié)參數(shù),缺省為5.0e-7% 缺少1個訓(xùn)練參數(shù):lr%訓(xùn)練函數(shù)trainbfg-BFGS擬牛頓回退法,收斂速度快,但需要更多內(nèi)存,與共軛梯度法訓(xùn)練參數(shù)相同,適合小網(wǎng)絡(luò)%訓(xùn)練函數(shù)trainoss-一步正割的BP訓(xùn)練法,解決了BFGS消耗內(nèi)

7、存的問題,與共軛梯度法訓(xùn)練參數(shù)相同%訓(xùn)練函數(shù)trainlm-Levenberg-Marquardt訓(xùn)練法,用于內(nèi)存充足的中小型網(wǎng)絡(luò)net=init(net;net,tr=train(net,P,t; %網(wǎng)絡(luò)訓(xùn)練a=sim(net,P %網(wǎng)絡(luò)仿真%通用徑向基函數(shù)網(wǎng)絡(luò)%其在逼近能力,分類能力,學(xué)習(xí)速度方面均優(yōu)于BP神經(jīng)網(wǎng)絡(luò)%在徑向基網(wǎng)絡(luò)中,徑向基層的散步常數(shù)是spread的選取是關(guān)鍵%spread越大,需要的神經(jīng)元越少,但精度會相應(yīng)下降,spread的缺省值為1%可以通過net=newrbe(P,T,spread生成網(wǎng)絡(luò),且誤差為0%可以通過net=newrb(P,T,goal,spread生成網(wǎng)

8、絡(luò),神經(jīng)元由1開始增加,直到達到訓(xùn)練精度或神經(jīng)元數(shù)目最多為止%GRNN網(wǎng)絡(luò),迅速生成廣義回歸神經(jīng)網(wǎng)絡(luò)(GRNNP=4 5 6;T=1.5 3.6 6.7;net=newgrnn(P,T;%仿真驗證p=4.5;v=sim(net,p%PNN網(wǎng)絡(luò),概率神經(jīng)網(wǎng)絡(luò)P=0 0 ;1 1;0 3;1 4;3 1;4 1;4 3;Tc=1 1 2 2 3 3 3;%將期望輸出通過ind2vec(轉(zhuǎn)換,并設(shè)計、驗證網(wǎng)絡(luò)T=ind2vec(Tc;net=newpnn(P,T;Y=sim(net,P;Yc=vec2ind(Y%嘗試用其他的輸入向量驗證網(wǎng)絡(luò)P2=1 4;0 1;5 2;Y=sim(net,P2;Yc

9、=vec2ind(Y%應(yīng)用newrb(函數(shù)構(gòu)建徑向基網(wǎng)絡(luò),對一系列數(shù)據(jù)點進行函數(shù)逼近P=-1:0.1:1;T=-0.9602 -0.5770 -0.0729 0.3771 0.6405 0.6600 0.4609.0.1336 -0.2013 -0.4344 -0.500 -0.3930 -0.1647 -0.0988.0.3072 0.3960 0.3449 0.1816 -0.0312 -0.2189 -0.3201;%繪制訓(xùn)練用樣本的數(shù)據(jù)點plot(P,T,r*;title(訓(xùn)練樣本;xlabel(輸入向量P;ylabel(目標(biāo)向量T;%設(shè)計一個徑向基函數(shù)網(wǎng)絡(luò),網(wǎng)絡(luò)有兩層,隱層為徑向基神

10、經(jīng)元,輸出層為線性神經(jīng)元%繪制隱層神經(jīng)元徑向基傳遞函數(shù)的曲線p=-3:.1:3;a=radbas(p;plot(p,atitle(徑向基傳遞函數(shù)xlabel(輸入向量p%隱層神經(jīng)元的權(quán)值、閾值與徑向基函數(shù)的位置和寬度有關(guān),只要隱層神經(jīng)元數(shù)目、權(quán)值、閾值正確,可逼近任意函數(shù)%例如a2=radbas(p-1.5;a3=radbas(p+2;a4=a+a2*1.5+a3*0.5;plot(p,a,b,p,a2,g,p,a3,r,p,a4,m-title(徑向基傳遞函數(shù)權(quán)值之和xlabel(輸入p;ylabel(輸出a;%應(yīng)用newrb(函數(shù)構(gòu)建徑向基網(wǎng)絡(luò)的時候,可以預(yù)先設(shè)定均方差精度eg以及散布常數(shù)

11、sc eg=0.02;sc=1; %其值的選取與最終網(wǎng)絡(luò)的效果有很大關(guān)系,過小造成過適性,過大造成重疊性net=newrb(P,T,eg,sc;%網(wǎng)絡(luò)測試plot(P,T,*xlabel(輸入;X=-1:.01:1;Y=sim(net,X;hold onplot(X,Y;hold offlegend(目標(biāo),輸出%應(yīng)用grnn進行函數(shù)逼近P=1 2 3 4 5 6 7 8;T=0 1 2 3 2 1 2 1;plot(P,T,.,markersize,30axis(0 9 -1 4title(待逼近函數(shù)xlabel(Pylabel(T%網(wǎng)絡(luò)設(shè)計%對于離散數(shù)據(jù)點,散布常數(shù)spread選取比輸入向量

12、之間的距離稍小一些spread=0.7;net=newgrnn(P,T,spread;%網(wǎng)絡(luò)測試A=sim(net,P;hold onoutputline=plot(P,A,o,markersize,10,color,1 0 0;title(檢測網(wǎng)絡(luò)xlabel(Pylabel(T和A%應(yīng)用pnn進行變量的分類P=1 2;2 2;1 1; %輸入向量Tc=1 2 3; %P對應(yīng)的三個期望輸出%繪制出輸入向量及其相對應(yīng)的類別plot(P(1,:,P(2,:,.,markersize,30for i=1:3text(P(1,i+0.1,P(2,i,sprintf(class %g,Tc(iendaxis(0 3 0 3;title(三向量及其類別xlabel(P(1,:ylabel(P(2,:%網(wǎng)絡(luò)設(shè)計T=ind2vec(Tc;spread=1;net=newgrnn(P