基于BP神經(jīng)網(wǎng)絡(luò)的曲線擬合(共8頁(yè))

1、神經(jīng)網(wǎng)絡(luò)實(shí)驗(yàn)報(bào)告基于(jy)BP網(wǎng)絡(luò)的曲線擬合學(xué) 院： 控制(kngzh)學(xué)院 姓 名： 李嘉頔 學(xué) 號(hào): 09423021 2015年6月一、實(shí)驗(yàn)(shyn)目的 = 1 * GB2 * MERGEFORMAT 掌握BP神經(jīng)網(wǎng)絡(luò)的權(quán)值修改(xigi)規(guī)則 = 2 * GB2 * MERGEFORMAT 利用(lyng)BP網(wǎng)絡(luò)修改權(quán)值對(duì)y=sin(x)曲線(qxin)實(shí)現(xiàn)擬合二、實(shí)驗(yàn)要求人工神經(jīng)網(wǎng)絡(luò)是近年來(lái)發(fā)展起來(lái)的模擬人腦生物過程的人工智能技術(shù)，具有自學(xué)習(xí)、自組織、自適應(yīng)和很強(qiáng)的非線性映射能力。在人工神經(jīng)網(wǎng)絡(luò)的實(shí)際應(yīng)用中，常采用BP神經(jīng)網(wǎng)絡(luò)或它的變化形式，BP神經(jīng)網(wǎng)絡(luò)是一種多層神經(jīng)網(wǎng)絡(luò)，因

2、采用BP算法而得名，主要應(yīng)用于模式識(shí)別和分類、函數(shù)逼近、數(shù)據(jù)壓縮等領(lǐng)域。BP網(wǎng)絡(luò)是一種多層前饋神經(jīng)網(wǎng)絡(luò)，由輸入層、隱層和輸出層組成。層與層之間采用全互連方式，同一層之間不存在相互連接，隱層可以有一個(gè)或多個(gè)。BP算法的學(xué)習(xí)過程由前向計(jì)算過程和誤差反向傳播過程組成，在前向計(jì)算過程中，輸入信息從輸入層經(jīng)隱層逐層計(jì)算，并傳向輸出層，每層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。如輸出層不能得到期望的輸出，則轉(zhuǎn)入誤差反向傳播過程，誤差信號(hào)沿原來(lái)的連接通路返回，通過修改各層的神經(jīng)元的權(quán)值，使得網(wǎng)絡(luò)系統(tǒng)誤差最小，最終實(shí)現(xiàn)網(wǎng)絡(luò)的實(shí)際輸出與各自所對(duì)應(yīng)的期望輸出逼近。三、實(shí)驗(yàn)內(nèi)容 3.1 訓(xùn)練數(shù)據(jù)導(dǎo)入要對(duì)BP網(wǎng)絡(luò)進(jìn)行

3、訓(xùn)練，必須準(zhǔn)備訓(xùn)練樣本。對(duì)樣本數(shù)據(jù)的獲取，可以通過用元素列表直接輸入、創(chuàng)建數(shù)據(jù)文件，從數(shù)據(jù)文件中讀取等方式，具體采用哪種方法，取決于數(shù)據(jù)的多少，數(shù)據(jù)文件的格式等。本文采用直接輸入100個(gè)樣本數(shù)據(jù)的方式，同時(shí)采用歸一化處理，可以加快網(wǎng)絡(luò)的訓(xùn)練速度。將輸入x和輸出y都變?yōu)?1到1之間的數(shù)據(jù)，歸一化后的訓(xùn)練樣本如下圖： 3.2 網(wǎng)絡(luò)(wnglu)初始化根據(jù)系統(tǒng)輸入輸出序列，確定網(wǎng)絡(luò)輸入層節(jié)點(diǎn)數(shù)為1，隱含(yn hn)層節(jié)點(diǎn)數(shù)H為20，輸出層節(jié)點(diǎn)數(shù)為1。初始化輸入層、隱含層和輸出層神經(jīng)元之間的連接權(quán)值，初始化隱含(yn hn)層閾值，輸出層閾值，給定學(xué)習(xí)速率，和，給定算法迭代次數(shù)inum和最大可接受誤

4、差error，同時(shí)給定神經(jīng)元激勵(lì)函數(shù)sigmoid。 3.3 前向輸出計(jì)算根據(jù)輸入變量x，輸入層和隱含層間連接權(quán)值和隱含層閾值，計(jì)算隱含層輸出P： 其中n為輸入層節(jié)點(diǎn)數(shù)，本實(shí)驗(yàn)中取1；l為隱含層節(jié)點(diǎn)數(shù)，本實(shí)驗(yàn)中取20；f為隱含層激勵(lì)函數(shù)，該函數(shù)可設(shè)置為多種形式，本實(shí)驗(yàn)中所選函數(shù)為：根據(jù)隱含層輸出P，隱含層和輸出層間連接權(quán)值和輸出層閾值，計(jì)算BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)輸出： 其中m為輸出層節(jié)點(diǎn)數(shù)，本實(shí)驗(yàn)中取1。 3.4 權(quán)值修正根據(jù)網(wǎng)絡(luò)預(yù)測(cè)輸入Q和期望輸出y，計(jì)算網(wǎng)絡(luò)預(yù)測(cè)誤差e：BP神經(jīng)網(wǎng)絡(luò)采用梯度修正法作為權(quán)值和閾值的學(xué)習(xí)算法，從網(wǎng)絡(luò)預(yù)測(cè)誤差的負(fù)梯度方向修正權(quán)值和閾值。在本實(shí)驗(yàn)采用的sigmoid激勵(lì)函

5、數(shù)下，隱含層和輸出層間連接權(quán)值和輸出層閾值更新公式為： 輸入層和隱含層間連接權(quán)值和輸出層閾值更新公式為： 通過是否達(dá)到迭代次數(shù)或者(huzh)錯(cuò)誤率是否在可接受范圍內(nèi)來(lái)判斷算法迭代是否結(jié)束，若沒有結(jié)束，則繼續(xù)迭代。四、實(shí)驗(yàn)(shyn)步驟和結(jié)果 3.1 數(shù)據(jù)(shj)輸入和歸一化%function x,y,y1,Error=BPnet(t)%清空環(huán)境變量clc;clear; num=1;%要擬合的曲線試舉例for i=0.01*pi:0.02*pi:2*pi%訓(xùn)練樣本 x(num)=i;%輸入數(shù)據(jù) y(num)=sin(x(num);%期望輸出 num=num+1;end num1=size(

6、x,2);max_x=max(x);%訓(xùn)練樣本歸一化max_y=max(y);min_x=min(x);min_y=min(y);% 最大最小法（歸一化）for i=1:num1 x(i)=2*(x(i)-min_x)/(max_x-min_x)-1; y(i)=2*(y(i)-min_y)/(max_y-min_y)-1;end 3.2 網(wǎng)絡(luò)結(jié)構(gòu)初始化H=20;%隱含層神經(jīng)元個(gè)數(shù)w=2*rand(1,H)-1;%初始化隱層權(quán)值v=2*rand(1,H)-1;%初始化輸出層權(quán)值t0=2*rand(1,H)-1;%隱層閾值t1=2*rand(1,1)-1;%輸出層閾值 a0=0.4;a1=0.3

7、;u=1;%步長(zhǎng)error=0.0001;err=error; %可接受誤差 inum=1;y1=zeros(1,100); 3.3 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練while inum=error ii=randperm(length(x); y2=y(ii); x2=x(ii);%打亂樣本(yngbn)順序 err=0; for m=1:100 d=y2(m); %給定(i dn)輸出 for i=1:H p(i)=w(i)*x2(m)+t0(i); P(i)=logsig(p(i).*u); end q1=0; for j=1:H q(j)=P(j)*v(j); q1=q1+q(j); end q2=q

8、1+t1;%輸出(shch) % if m=100 Q=q2;%Q=tanh(q2.*u); %輸出層輸出 %Q=2*logsig(q2.*u)-1;%輸出層也可用sigmoid做激勵(lì)函數(shù)% else% Q=-logsig(q2.*u);% end y1(m)=Q; e=(d-Q).2/2;%誤差平方函數(shù) err=err+e; c1=(d-Q)*u; %c1=2*(d-Q)*Q*(1-Q)*u; for n=1:H d1(n)=c1*P(n); v1(n)=v(n)+a1*d1(n); end t1=t1+a1*c1;%對(duì)輸出層的每一個(gè)權(quán)值修正 for r=1:H d0(r)=c1*v(r)*

9、(1-P(r)*x2(m)*P(r); w1(r)=w(r)+a0*d0(r); t0(r)=t0(r)+a0*c1*v(r)*(1-P(r)*P(r);%對(duì)隱層的每一個(gè)權(quán)值修正 end w=w1; v=v1; end err=err/100; erro(inum)=err; inum=inum+1;end 3.4 BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)(yc)num=1;for i=0.02*pi:0.02*pi:2*pi%預(yù)測(cè)(yc)樣本(yngbn) z(num)=i; z1(num)=i; num=num+1;end num1=size(z,2);max_z=max(z);%預(yù)測(cè)樣本歸一化min_z=min

10、(z);% 最大最小法（歸一化）for i=1:num1 z(i)=2*(z(i)-min_z)/(max_z-min_z)-1;end for m=1:100 for i=1:H p(i)=w(i)*z(m)+t0(i); P(i)=logsig(p(i).*u);%隱含層輸出 end q1=0; for j=1:H q(j)=P(j)*v(j); q1=q1+q(j); end q2=q1+t1; Q=q2;%輸出層輸出 y2(m)=Q;end figure;plot(z,sin(z1),b);%期望輸出hold on;plot(z,y2,r*);%預(yù)測(cè)輸出 3.5 BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)結(jié)果迭代(di di)20次后的預(yù)測(cè)結(jié)果如下圖：迭代50次后的預(yù)測(cè)(yc)結(jié)果如下圖：迭代100次后的預(yù)測(cè)(yc)結(jié)果如下圖：迭代200次后的預(yù)測(cè)結(jié)果如下圖： 通過上面四個(gè)圖可以看出，隨著迭代次數(shù)的增加，預(yù)測(cè)誤差是逐漸減小的，在開始的迭代中，誤差減小較快，最后經(jīng)過規(guī)定次數(shù)的迭代，基本上能將函數(shù)y=sin(x)擬合出來(lái)。雖然BP神經(jīng)網(wǎng)絡(luò)具有(jyu)較高的擬合能力，但是預(yù)測(cè)結(jié)果仍然存在一定的誤差，基本的BP神經(jīng)網(wǎng)絡(luò)對(duì)于一些復(fù)雜