BP神經(jīng)網(wǎng)絡(luò)和簡單示例

神經(jīng)網(wǎng)絡(luò)

——淺嘗數(shù)學(xué)建模工作室張敏BP神經(jīng)網(wǎng)絡(luò)和簡單示例第1頁神經(jīng)網(wǎng)絡(luò)淺嘗神經(jīng)網(wǎng)絡(luò)基礎(chǔ)知識(shí)慣用函數(shù)介紹案例——蠓蟲分類BP神經(jīng)網(wǎng)絡(luò)和簡單示例第2頁神經(jīng)網(wǎng)絡(luò)基礎(chǔ)知識(shí)組成：大量簡單基本元件——神經(jīng)元相互連接工作原理：模擬生物神經(jīng)處理信息方式功效：進(jìn)行信息并行處理和非線性轉(zhuǎn)化特點(diǎn)：比較輕松地實(shí)現(xiàn)非線性映射過程含有大規(guī)模計(jì)算能力BP神經(jīng)網(wǎng)絡(luò)和簡單示例第3頁醫(yī)學(xué)：疾病識(shí)別圖像：識(shí)別、去噪、增強(qiáng)、配準(zhǔn)、融合金融：股票和有價(jià)證券預(yù)測(cè)分析、資本收益預(yù)測(cè)和分析、風(fēng)險(xiǎn)管理、信用評(píng)定等等應(yīng)用范圍BP神經(jīng)網(wǎng)絡(luò)和簡單示例第4頁神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖輸入層輸出層中間層BP神經(jīng)網(wǎng)絡(luò)和簡單示例第5頁樹突細(xì)胞核細(xì)胞體軸突突觸神經(jīng)末梢生物神經(jīng)元結(jié)構(gòu)：BP神經(jīng)網(wǎng)絡(luò)和簡單示例第6頁神經(jīng)元結(jié)構(gòu)模型x1x2xjx3xnyi能夠看出神經(jīng)元普通表現(xiàn)為一個(gè)多輸入、單輸出非線性器件xj為輸入信號(hào)，

為閾值，

表示與神經(jīng)元xj

連接權(quán)值

yi表示輸出值BP神經(jīng)網(wǎng)絡(luò)和簡單示例第7頁傳遞函數(shù)閾值型線性型S型BP神經(jīng)網(wǎng)絡(luò)和簡單示例第8頁神經(jīng)網(wǎng)絡(luò)互連模式神經(jīng)元分層排列，分別組成輸入層、中間層(也叫隱含層，能夠由若干層組成)和輸出層。前向網(wǎng)絡(luò)：輸入層輸出層中間層特點(diǎn)：每層只接收前一層信息，沒有反饋。如：感知器網(wǎng)絡(luò)和BP神經(jīng)網(wǎng)絡(luò)BP神經(jīng)網(wǎng)絡(luò)和簡單示例第9頁有反饋前向神經(jīng)網(wǎng)絡(luò)：特點(diǎn)：輸出層對(duì)輸入層有反饋信息。如：認(rèn)知機(jī)和回歸BP網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)和簡單示例第10頁層內(nèi)有相互結(jié)合前向網(wǎng)絡(luò)：特點(diǎn)：能夠?qū)崿F(xiàn)同一層內(nèi)神經(jīng)元之間橫向抑制或興奮作用BP神經(jīng)網(wǎng)絡(luò)和簡單示例第11頁相互結(jié)合型網(wǎng)絡(luò)：特點(diǎn)：任意兩個(gè)神經(jīng)元之間都可能有聯(lián)絡(luò)BP神經(jīng)網(wǎng)絡(luò)和簡單示例第12頁BP神經(jīng)網(wǎng)絡(luò)多層前饋神經(jīng)網(wǎng)絡(luò)，信號(hào)向前傳輸，誤差向后傳輸。輸入層輸出層中間層ijkBP神經(jīng)網(wǎng)絡(luò)和簡單示例第13頁輸入層輸出層中間層ijk中間層：輸入輸出BP神經(jīng)網(wǎng)絡(luò)和簡單示例第14頁輸入層輸出層中間層ijk輸出層:輸入輸出BP神經(jīng)網(wǎng)絡(luò)和簡單示例第15頁輸入層輸出層中間層ijkBP神經(jīng)網(wǎng)絡(luò)和簡單示例第16頁思緒：1、觸角長和翼長作為輸入信息，分別記為x1,x2。目標(biāo)輸出：(0,1)、(1,0)。Af類記為(1,0)，Apf類記為(0,1)。輸入層輸出層中間層ijkBP神經(jīng)網(wǎng)絡(luò)和簡單示例第17頁輸入層輸出層中間層ijk2、經(jīng)過已知樣本訓(xùn)練出適當(dāng)權(quán)值使輸出為(0,1)或(1,0)。3、將待區(qū)分蠓蟲數(shù)據(jù)輸入網(wǎng)絡(luò)，求值。BP神經(jīng)網(wǎng)絡(luò)和簡單示例第18頁權(quán)值求法：向后傳輸法理想輸出Af類(1,0)，Apf類(0,1)記為

{Tis}則有誤差：使得E(w)最小作為所需權(quán)值BP神經(jīng)網(wǎng)絡(luò)和簡單示例第19頁傳遞函數(shù)(激活函數(shù))logsig(S型函數(shù))：MATLAB按此函數(shù)計(jì)算：調(diào)用格式：A=logsig(N)如：n=-10:0.1:10a=logsig(n)plot(n,a)gridonBP神經(jīng)網(wǎng)絡(luò)和簡單示例第20頁圖形以下：BP神經(jīng)網(wǎng)絡(luò)和簡單示例第21頁tansig(雙曲正切S型傳遞函數(shù))：調(diào)用格式：A=tansig(n)如：n=-10:0.1:10a=tansig(n)plot(n,a)gridon如右圖所表示BP神經(jīng)網(wǎng)絡(luò)和簡單示例第22頁newff

創(chuàng)建一個(gè)BP網(wǎng)絡(luò)，其調(diào)用格式為：net=newffnet=newff(PR,[S1S2…SN1],{TF1TF2…TFN1},BTF,BLF,PF)其中，net=newff：用于在對(duì)話框中創(chuàng)建一個(gè)BP網(wǎng)絡(luò)PR：由每組輸入(共有R組輸入)元素最大值和最小值組成R×2維矩陣；Si：第i層長度，共計(jì)N1層TFi：第i層傳遞函數(shù)，默認(rèn)為“tansig”BTF：BP網(wǎng)絡(luò)訓(xùn)練函數(shù)，默認(rèn)為“trainlm”;BLF：權(quán)值和閾值BP學(xué)習(xí)算法，默認(rèn)為“l(fā)earngdm”PF：網(wǎng)絡(luò)性能函數(shù)，默認(rèn)為“mse”慣用函數(shù)BP神經(jīng)網(wǎng)絡(luò)和簡單示例第23頁train用于對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。調(diào)用格式為：[net,tr,Y,E,Pf,Af]=train(NET,P,T,Pi,Ai)其中，NET：待訓(xùn)練神經(jīng)網(wǎng)絡(luò)；P：網(wǎng)絡(luò)輸入信號(hào)；T：網(wǎng)絡(luò)目標(biāo)，默認(rèn)值為0；Pi：初始輸入延遲，默認(rèn)為0；Ai：初始層次延遲，默認(rèn)為0；net：函數(shù)返回值，訓(xùn)練后神經(jīng)網(wǎng)絡(luò)；tr：函數(shù)返回值，訓(xùn)練統(tǒng)計(jì)(包含步數(shù)和性能)；Y：函數(shù)返回值，神經(jīng)網(wǎng)絡(luò)輸出信號(hào)；E：函數(shù)返回值，神經(jīng)網(wǎng)絡(luò)誤差；Pf：函數(shù)返回值，最終輸入延遲；Af：函數(shù)返回值，最終層延遲。BP神經(jīng)網(wǎng)絡(luò)和簡單示例第24頁神經(jīng)網(wǎng)絡(luò)仿真函數(shù)sim調(diào)用格式為：[Y,Pf,Af,E,perf]=sim(net,P,Pi,Ai,T)其中，Y：函數(shù)返回值，網(wǎng)絡(luò)輸出；Pf：函數(shù)返回值，最終輸出延遲；Af：函數(shù)返回值，最終層延遲；E：函數(shù)返回值，網(wǎng)絡(luò)誤差；perf：函數(shù)返回值，網(wǎng)絡(luò)性能；net：待仿真神經(jīng)網(wǎng)絡(luò)；P：網(wǎng)絡(luò)輸入；Pi：初始輸入延遲，默認(rèn)為0；Ai：初始層延遲，默認(rèn)為0；T：網(wǎng)絡(luò)目標(biāo)，默認(rèn)為0.BP神經(jīng)網(wǎng)絡(luò)和簡單示例第25頁clearp1=[1.24,1.27;1.36,1.74;1.38,1.64;1.38,1.82;1.38,1.90;1.40,1.70;1.48,1.82;1.54,1.82;1.56,2.08];p2=[1.14,1.82;1.18,1.96;1.20,1.86;1.26,2.001.28,2.00;1.30,1.96];p=[p1;p2]';pr=minmax(p);goal=[ones(1,9),zeros(1,6);zeros(1,9),ones(1,6)];plot(p1(:,1),p1(:,2),'h',p2(:,1),p2(:,2),'o')net=newff(pr,[3,2],{'logsig