BP網(wǎng)絡(luò)模式識別

1、BP網(wǎng)絡(luò)模式識別2010年9月17日1 一、 基本原理二、主要特點三、學(xué)習(xí)算法四、仿真實例2一、基本原理 在神經(jīng)網(wǎng)絡(luò)模式識別中，根據(jù)標(biāo)準(zhǔn)的輸入輸出模式對，采用神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法，以標(biāo)準(zhǔn)的模式作為學(xué)習(xí)樣本進行訓(xùn)練，通過學(xué)習(xí)調(diào)整神經(jīng)網(wǎng)絡(luò)的連接權(quán)值。當(dāng)訓(xùn)練滿足要求后，得到的神經(jīng)網(wǎng)絡(luò)權(quán)值構(gòu)成了模式識別的知識庫，利用神經(jīng)網(wǎng)絡(luò)并行推理算法便可對所需要的輸入模式進行識別。3二、主要特點 神經(jīng)網(wǎng)絡(luò)模式識別具有較強的魯棒性。1.當(dāng)待識別的輸入模式與訓(xùn)練樣本中的某個輸入模式相同時，神經(jīng)網(wǎng)絡(luò)識別的結(jié)果就是與訓(xùn)練樣本中相對應(yīng)的輸出模式。2.當(dāng)待識別的輸入模式與訓(xùn)練樣本中所有輸入模式都不完全相同時，則可得到與其相近樣本相

2、對應(yīng)的輸出模式。3當(dāng)待識別的輸入模式與訓(xùn)練樣本中所有輸入模式相差較遠(yuǎn)時，就得不到正確的識別結(jié)果，此時可將這一模式作為新的樣本進行訓(xùn)練，使神經(jīng)網(wǎng)絡(luò)獲取新的知識，并存儲到網(wǎng)絡(luò)的權(quán)值矩陣中，從而增強網(wǎng)絡(luò)的識別能力。4三、學(xué)習(xí)算法 BP網(wǎng)絡(luò)的訓(xùn)練規(guī)則：正向傳播是輸入信號從輸入層經(jīng)隱層傳向輸出層，若輸出層得到了期望的輸出，則學(xué)習(xí)算法結(jié)束；否則，轉(zhuǎn)至反向傳播。用于樣本訓(xùn)練的BP網(wǎng)絡(luò)結(jié)構(gòu)圖如圖1所示。 wij wjl . . . . . . . . . . . . . l xl xi i x j xjo j 輸入層節(jié)點 隱層節(jié)點 輸出層節(jié)點 圖1 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)51.前向傳播：計算網(wǎng)絡(luò)的輸出（1）求隱層神

3、經(jīng)元的輸入 Xj=wijxi（2）求隱層神經(jīng)元輸出（采用S型函數(shù)） Xjo=f(xj)=1/(1+exp(-xj)（3）求輸出層神經(jīng)元輸出 Xl=wjlxjo（4）求輸出誤差 el=xlo-xl（5）求第p個樣本的誤差性能指標(biāo)函數(shù) Ep=0.5el262.反向傳播：采用梯度下降法，調(diào)整各層間的權(quán)值。（1）輸出層與隱層的連接權(quán)值wjl學(xué)習(xí)算法 wjl=-elxjo 式中，為學(xué)習(xí)速率，0,1。（2）k+1時刻網(wǎng)絡(luò)權(quán)值為 wjl(k+1)=wjl(k)+ wjl（3）隱層與輸入層連接權(quán)值wij學(xué)習(xí)算法 wij=elwjlxjo(1-xjo)xi（4） k+1時刻網(wǎng)絡(luò)權(quán)值為 wij(k+1)=wij(

4、k)+ wij（5）考慮上次權(quán)值對本次權(quán)值變化的影響，需要加入動 量因子，此時權(quán)值為 wjl(k+1)=wjl(k)+ wjl+（wjl(k)- wjl(k-1)） wjl(k+1)=wjl(k)+ wjl+（wij(k)- wij(k-1)）7四、仿真實例例：取標(biāo)準(zhǔn)樣本為三輸入兩輸出樣本，見表1。BP網(wǎng)絡(luò)結(jié)構(gòu)為3-6-2，權(quán)值初始值取-1,1之間的隨機數(shù)，學(xué)習(xí)參數(shù)取=0.50，=0.05 表1 訓(xùn)練樣本輸入輸出1001001000.5001018編程調(diào)試后，網(wǎng)絡(luò)訓(xùn)練指標(biāo)的變化、測試樣本及結(jié)果分別如圖2、表2所示。圖2 樣本訓(xùn)練的收斂過程9輸入輸出0.9700.0010.0010.98680.01160.0000.9800.0000.00880.49930.0020.0001.040-0.01851.01920.5000.5000.5000.19390.54801.0000.0000.0001.00000.0000.0001.0000.000-0.00