神經(jīng)網(wǎng)絡(luò)及簡單應(yīng)用實例課件_Matlab程序

1、第四講第四講 神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò) 人工神經(jīng)網(wǎng)絡(luò)簡介人工神經(jīng)網(wǎng)絡(luò)簡介 神經(jīng)網(wǎng)絡(luò)工具箱神經(jīng)網(wǎng)絡(luò)工具箱 應(yīng)用實例應(yīng)用實例2022-5-29第一部分第一部分 人工神經(jīng)網(wǎng)絡(luò)簡介人工神經(jīng)網(wǎng)絡(luò)簡介 以馮以馮諾依曼型計算機為中心的信息處理技術(shù)的高速諾依曼型計算機為中心的信息處理技術(shù)的高速發(fā)展，使得計算機在當今的信息化社會中起著十分重要發(fā)展，使得計算機在當今的信息化社會中起著十分重要的作用。但是，當用它來解決某些人工智能問題時卻遇的作用。但是，當用它來解決某些人工智能問題時卻遇到了很大的困難。到了很大的困難。 例如，一個人可以很容易地識別他人的臉孔，但計例如，一個人可以很容易地識別他人的臉孔，但計算機則很難做到這

2、一點。算機則很難做到這一點。 大腦是由生物神經(jīng)元構(gòu)成的巨型網(wǎng)絡(luò)，它在本質(zhì)上大腦是由生物神經(jīng)元構(gòu)成的巨型網(wǎng)絡(luò)，它在本質(zhì)上不同于計算機，是一種大規(guī)模的并行處理系統(tǒng)，它具有不同于計算機，是一種大規(guī)模的并行處理系統(tǒng)，它具有學習、聯(lián)想記憶、綜合等能力，并有巧妙的信息處理方學習、聯(lián)想記憶、綜合等能力，并有巧妙的信息處理方法。法。 人工神經(jīng)網(wǎng)絡(luò)來源于對人腦實際神經(jīng)網(wǎng)絡(luò)的模擬人工神經(jīng)網(wǎng)絡(luò)來源于對人腦實際神經(jīng)網(wǎng)絡(luò)的模擬一、一、 神經(jīng)網(wǎng)絡(luò)發(fā)展歷史神經(jīng)網(wǎng)絡(luò)發(fā)展歷史背景知識背景知識 人工神經(jīng)網(wǎng)絡(luò)（人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Netwroks，簡稱，簡稱ANN）是對人類大腦系統(tǒng)的一種仿真，簡單地講

3、，它是）是對人類大腦系統(tǒng)的一種仿真，簡單地講，它是一個數(shù)學模型，可以用電子線路來實現(xiàn)，也可以用計算一個數(shù)學模型，可以用電子線路來實現(xiàn)，也可以用計算機程序來模擬，是人工智能研究的一種方法。機程序來模擬，是人工智能研究的一種方法。 實際上它是由大量的、功能比較簡單的形式神經(jīng)元實際上它是由大量的、功能比較簡單的形式神經(jīng)元互相連接而構(gòu)成的復(fù)雜網(wǎng)絡(luò)系統(tǒng)，用它可以模擬大腦的互相連接而構(gòu)成的復(fù)雜網(wǎng)絡(luò)系統(tǒng)，用它可以模擬大腦的許多基本功能和簡單的思維方式。盡管它還不是大腦的許多基本功能和簡單的思維方式。盡管它還不是大腦的完美元缺的模型，但它可以通過學習來獲取外部的知識完美元缺的模型，但它可以通過學習來獲取外部的

4、知識并存貯在網(wǎng)絡(luò)內(nèi)，可以解決計算機不易處理的難題，特并存貯在網(wǎng)絡(luò)內(nèi)，可以解決計算機不易處理的難題，特別是別是語音和圖像的識別、理解、知識的處理、組合優(yōu)化語音和圖像的識別、理解、知識的處理、組合優(yōu)化計算和智能控制等計算和智能控制等一系列本質(zhì)上是非計算的問題。一系列本質(zhì)上是非計算的問題。 2什么是人工神經(jīng)網(wǎng)絡(luò)什么是人工神經(jīng)網(wǎng)絡(luò) 1943年年,美國心理學家美國心理學家W.McCulloch和數(shù)學家和數(shù)學家W.Pitts在提出了一個簡單的神經(jīng)元模型，即在提出了一個簡單的神經(jīng)元模型，即MP模型。模型。1958年，年，F(xiàn).Rosenblatt等研制出了等研制出了感知機感知機(Perceptron）。3幾個

5、發(fā)展階段幾個發(fā)展階段q 第一次熱潮第一次熱潮(40-60年代未年代未) 1982年，美國物理學家年，美國物理學家J.J.Hopfield提出提出Hopfield模模型型，它是一個互聯(lián)的非線性動力學網(wǎng)絡(luò)他解決問題的方，它是一個互聯(lián)的非線性動力學網(wǎng)絡(luò)他解決問題的方法是一種反復(fù)運算的動態(tài)過程法是一種反復(fù)運算的動態(tài)過程,這是符號邏輯處理方法所這是符號邏輯處理方法所不具備的性質(zhì)不具備的性質(zhì). 1987年首屆國際年首屆國際ANN大會在圣地亞哥召大會在圣地亞哥召開，國際開，國際ANN聯(lián)合會成立，創(chuàng)辦了多種聯(lián)合會成立，創(chuàng)辦了多種ANN國際刊物。國際刊物。1990年年12月，北京召開首屆學術(shù)會議。月，北京召開首

6、屆學術(shù)會議。q 低潮低潮(70-80年代初年代初)q 第二次熱潮第二次熱潮1. 生物神經(jīng)元模型生物神經(jīng)元模型二、二、 生物神經(jīng)元生物神經(jīng)元 生物神經(jīng)元模型就是一個簡單的信號處理器。生物神經(jīng)元模型就是一個簡單的信號處理器。樹突樹突是神經(jīng)元的信號輸入通道，接受來自其他神經(jīng)元的信息。是神經(jīng)元的信號輸入通道，接受來自其他神經(jīng)元的信息。軸突是神經(jīng)元的信號輸出通道。軸突是神經(jīng)元的信號輸出通道。 信息的處理與傳遞主要發(fā)生在信息的處理與傳遞主要發(fā)生在突觸突觸附近。神經(jīng)元細附近。神經(jīng)元細胞體通過樹突接受脈沖信號，通過胞體通過樹突接受脈沖信號，通過軸突軸突傳到傳到突觸前膜突觸前膜。當當脈沖脈沖幅度達到一定強度，即

7、超過其閾值電位后，突觸幅度達到一定強度，即超過其閾值電位后，突觸前膜將向突觸間隙釋放神經(jīng)傳遞的化學物質(zhì)前膜將向突觸間隙釋放神經(jīng)傳遞的化學物質(zhì)( (乙酰膽堿乙酰膽堿) )，使位于突觸后膜的離子通道使位于突觸后膜的離子通道(Ion Channel)(Ion Channel)開放，產(chǎn)生開放，產(chǎn)生離離子流子流，從而在突觸后膜產(chǎn)生正的或負的電位，稱為，從而在突觸后膜產(chǎn)生正的或負的電位，稱為突觸突觸后電位后電位。2. 生物神經(jīng)元模型的運行機理生物神經(jīng)元模型的運行機理 突觸有兩種：突觸有兩種：興奮性突觸興奮性突觸和和抑制性突觸抑制性突觸。前者產(chǎn)生。前者產(chǎn)生正突觸后電位正突觸后電位，后者產(chǎn)生，后者產(chǎn)生負突觸后

8、電位負突觸后電位。一個神經(jīng)元的。一個神經(jīng)元的各樹突和細胞體往往通過突觸和大量的其他神經(jīng)元相連各樹突和細胞體往往通過突觸和大量的其他神經(jīng)元相連接。這些突觸后電位的變化，將對該神經(jīng)元產(chǎn)生綜合作接。這些突觸后電位的變化，將對該神經(jīng)元產(chǎn)生綜合作用，即當這些突觸后電位的總和超過某一閻值時，該神用，即當這些突觸后電位的總和超過某一閻值時，該神經(jīng)元便被激活，并經(jīng)元便被激活，并產(chǎn)生脈沖產(chǎn)生脈沖，而且產(chǎn)生的脈沖數(shù)與該電，而且產(chǎn)生的脈沖數(shù)與該電位總和值的大小有關(guān)。脈沖沿軸突向其他神經(jīng)元傳送，位總和值的大小有關(guān)。脈沖沿軸突向其他神經(jīng)元傳送，從而實現(xiàn)了神經(jīng)元之間信息的傳遞。從而實現(xiàn)了神經(jīng)元之間信息的傳遞。 連接權(quán)：連

9、接權(quán)： 求和單元：求和單元： 激勵函數(shù)（響應(yīng)函數(shù)）激勵函數(shù)（響應(yīng)函數(shù)） ： i1niiivx()1x2xnx12nu()y1niiiux三、三、 人工神經(jīng)元模型人工神經(jīng)元模型1. 人工神經(jīng)元模型的三要素人工神經(jīng)元模型的三要素 模型中模型中 為輸入信號， 為輸出信號，為輸出信號， 為神經(jīng)元的閾值。該模型的數(shù)學表達式為：為神經(jīng)元的閾值。該模型的數(shù)學表達式為：12,nx xxy( )yv1niiivx1niiiux2. 人工神經(jīng)元模型的數(shù)學表達一人工神經(jīng)元模型的數(shù)學表達一( )yv1niiivx01x 1x2xnx12nu()y00 x0 3. 人工神經(jīng)元模型的數(shù)學表達二人工神經(jīng)元模型的數(shù)學表達二

10、閾值函數(shù)：閾值函數(shù)： 分段線性函數(shù)：分段線性函數(shù)： sigmoid函數(shù)：函數(shù)：10( )00vvv111( )(1)11201vvvvv 1( )1exp()vv( )tanh()vv4. 激勵函數(shù)的形式激勵函數(shù)的形式 前饋型網(wǎng)絡(luò)前饋型網(wǎng)絡(luò)： 反饋型網(wǎng)絡(luò)反饋型網(wǎng)絡(luò)：1x2xnx1y2yny輸輸入入層層隱隱層層輸輸出出層層1x2x1nxnx1y2y1nyny四、四、 網(wǎng)絡(luò)結(jié)構(gòu)及工作方式網(wǎng)絡(luò)結(jié)構(gòu)及工作方式1. 網(wǎng)絡(luò)結(jié)構(gòu)網(wǎng)絡(luò)結(jié)構(gòu) 學習期學習期： 各計算單元狀態(tài)不變，各連接線上權(quán)值通過學習來修改各計算單元狀態(tài)不變，各連接線上權(quán)值通過學習來修改 工作期工作期： 連接權(quán)固定，計算單元狀態(tài)變化，以達到某種穩(wěn)

11、定狀態(tài)連接權(quán)固定，計算單元狀態(tài)變化，以達到某種穩(wěn)定狀態(tài)2. 工作方式工作方式 有教師學習有教師學習： 外界存在一個教師，對給定的一組輸入，提供應(yīng)有的外界存在一個教師，對給定的一組輸入，提供應(yīng)有的輸出（標準答案），學習系統(tǒng)可根據(jù)實際輸出與標準答輸出（標準答案），學習系統(tǒng)可根據(jù)實際輸出與標準答案之間的差值來調(diào)整系統(tǒng)參數(shù)案之間的差值來調(diào)整系統(tǒng)參數(shù)學學 習習系系 統(tǒng)統(tǒng)教師教師環(huán)境環(huán)境輸入輸入應(yīng)有應(yīng)有響應(yīng)響應(yīng) +誤差信號誤差信號實際響應(yīng)實際響應(yīng) 五、五、 神經(jīng)網(wǎng)絡(luò)的學習方法神經(jīng)網(wǎng)絡(luò)的學習方法1. 學習方式學習方式 無教師學習：無教師學習： 學習系統(tǒng)按照環(huán)境提供數(shù)據(jù)的某些統(tǒng)計規(guī)律來調(diào)節(jié)自學習系統(tǒng)按照環(huán)境提

12、供數(shù)據(jù)的某些統(tǒng)計規(guī)律來調(diào)節(jié)自身參數(shù)身參數(shù)環(huán)境環(huán)境學學 習習系系 統(tǒng)統(tǒng)動動作作輸出輸出輸入輸入狀態(tài)狀態(tài)環(huán)境環(huán)境學習系統(tǒng)學習系統(tǒng)輸入輸入 強化學習：強化學習： 環(huán)境對系統(tǒng)輸出結(jié)果只給出評價信息（獎或懲），系環(huán)境對系統(tǒng)輸出結(jié)果只給出評價信息（獎或懲），系統(tǒng)通過強化受獎動作來改善自身性能統(tǒng)通過強化受獎動作來改善自身性能 考察神經(jīng)元考察神經(jīng)元 k 在在 n 時刻的輸入和輸出時刻的輸入和輸出 輸入：輸入： 實際輸出：實際輸出： 應(yīng)有輸出：應(yīng)有輸出： 由誤差信號構(gòu)造能量函數(shù)：由誤差信號構(gòu)造能量函數(shù)： 其中其中E(.)為求期望算子為求期望算子 求解最優(yōu)化問題：求解最優(yōu)化問題： 得出系統(tǒng)參數(shù)：得出系統(tǒng)參數(shù)：(

13、)kx n( )( )( )( )( )kkkkkynendnyndn誤差信號：21( )( )2kkJEen21( )( )2kkJEenmin2. 學習規(guī)則學習規(guī)則 通常情況下用時刻通常情況下用時刻 n 的瞬時值的瞬時值 代替代替J，即求解最優(yōu)化問題即求解最優(yōu)化問題由數(shù)值迭代算法（如最速下降法、模擬退火算法等），可由數(shù)值迭代算法（如最速下降法、模擬退火算法等），可得得其中其中 為學習步長為學習步長21( )( )2nkkJen21( )( )2nkkJenmin)()(nxnejkkj 神經(jīng)學家神經(jīng)學家Hebb提出的學習規(guī)則：當某一連接兩端的神提出的學習規(guī)則：當某一連接兩端的神經(jīng)元同步激活

14、（或同為抑制）時，該連接的強度應(yīng)增強，經(jīng)元同步激活（或同為抑制）時，該連接的強度應(yīng)增強，反之應(yīng)減弱，數(shù)學描述如下：反之應(yīng)減弱，數(shù)學描述如下： 其中其中 分別為分別為 兩端神經(jīng)元的狀態(tài)兩端神經(jīng)元的狀態(tài)最常用的一種情況是：最常用的一種情況是：( ),( )kjh n h nij)(),(nhnhFjkkj)()(nhnhjkkj3. Hebb學習規(guī)則學習規(guī)則 對于多層網(wǎng)絡(luò)，由于有隱層后學習比較困難，限制了對于多層網(wǎng)絡(luò)，由于有隱層后學習比較困難，限制了多層網(wǎng)絡(luò)的發(fā)展，多層網(wǎng)絡(luò)的發(fā)展，BP算法的出現(xiàn)解決了這一困難。算法的出現(xiàn)解決了這一困難。六、六、 BP算法（向后傳播算法）算法（向后傳播算法） 對于多

15、層前饋型網(wǎng)絡(luò)，網(wǎng)絡(luò)中有兩種信號在流通，對于多層前饋型網(wǎng)絡(luò)，網(wǎng)絡(luò)中有兩種信號在流通，（1）工作信號，施加的輸入信號向前傳播直到在輸出層產(chǎn)）工作信號，施加的輸入信號向前傳播直到在輸出層產(chǎn)生實際的輸出信號，是輸入信號和權(quán)值的函數(shù)生實際的輸出信號，是輸入信號和權(quán)值的函數(shù) （2）誤差信號，網(wǎng)絡(luò)實際輸出與應(yīng)有輸出間的差值，它由）誤差信號，網(wǎng)絡(luò)實際輸出與應(yīng)有輸出間的差值，它由輸出層開始逐層向后傳播輸出層開始逐層向后傳播1. BP算法的原理算法的原理下面推導(dǎo)用于多層前饋型網(wǎng)絡(luò)學習的下面推導(dǎo)用于多層前饋型網(wǎng)絡(luò)學習的BP算法算法 下面就逐個樣本學習的情況來推導(dǎo)下面就逐個樣本學習的情況來推導(dǎo)BP算法算法如右圖，令單

16、元如右圖，令單元 j 的凈輸入為的凈輸入為則則求求 對對 的梯度的梯度 該單元的誤差信號為該單元的誤差信號為 ，定義單元，定義單元 j 的平的平方誤差為方誤差為 ，則輸出層總的平方誤差的瞬時值為，則輸出層總的平方誤差的瞬時值為: 設(shè)在第設(shè)在第 n 次迭代中某一層的第次迭代中某一層的第 j 個單元的輸出為個單元的輸出為)(nyj)()()(nyndnejjjjjnen)(21)(2)(212nej)(nyi( )jv n()j( )jy n( )jdn( )je n( )jin( )( )( )jjiiiv nn y n( )( )jjjy nv n( )nji2. BP算法算法q 當當 j 單

17、元所在層為輸出層時單元所在層為輸出層時其中其中 稱為稱為局部梯度局部梯度權(quán)值權(quán)值 的修正量為的修正量為( )( )( )( )( )( )( )( )( )jjjjijjjjie ny nv nnne ny nv nn( ) ( 1)( )( )jjjie nv ny n ( )( )( )jjjie nv n y n ji( )( )( )( )( )( )( )( )( )jjjjjjjjje ny nnne nv ne ny nv n )()()()(nynnnijjiji)(nyi( )jv n()j( )jy n( )kdn( )ke n( )jin( )kjn( )kv n( )k

18、yn)(kq 當當 j 單元所在層為隱層時單元所在層為隱層時權(quán)值權(quán)值 的修正量為的修正量為ji( )( )( )kkkkne nv n( )( )( )( )jjjkkjknv nnn nynnnijjiji其中其中第二部分第二部分 神經(jīng)網(wǎng)絡(luò)工具箱神經(jīng)網(wǎng)絡(luò)工具箱1x2xnx1y2ymy輸入層隱層輸出層1k 一、一、 BP網(wǎng)絡(luò)網(wǎng)絡(luò)1. 構(gòu)造多層前向神經(jīng)網(wǎng)絡(luò)構(gòu)造多層前向神經(jīng)網(wǎng)絡(luò)net = newff ( A, B, C, trainfun )q Matlab命令命令A(yù)是一個是一個 n 2的矩陣，第的矩陣，第 i 行元素為輸入信號行元素為輸入信號 x i 的的最最小值和最大值小值和最大值；q 參數(shù)說

19、明參數(shù)說明B為一為一 k 維行向量，其元素為各維行向量，其元素為各隱層節(jié)點數(shù)隱層節(jié)點數(shù)；trainfun為學習規(guī)則采用的為學習規(guī)則采用的訓練函數(shù)訓練函數(shù)（常見訓練函數(shù)如下（常見訓練函數(shù)如下表）。表）。C為一為一k 維字符串行向量，每一分量為對應(yīng)層神經(jīng)元的維字符串行向量，每一分量為對應(yīng)層神經(jīng)元的激激勵函數(shù)勵函數(shù)；函數(shù)名函數(shù)名功能功能函數(shù)名函數(shù)名traingd梯度下降法梯度下降法traincgftraingdm勢能修正法勢能修正法traincgptraingdx自調(diào)整學習效率法自調(diào)整學習效率法traincgbtrainrp恢復(fù)恢復(fù)BP法法trainscgFR共軛梯度法共軛梯度法trainbfgBF

20、GS擬牛頓法擬牛頓法PR共軛梯度法共軛梯度法trainoss一步共軛一步共軛 + 擬牛頓擬牛頓PB共軛梯度法共軛梯度法trainlmLM法法標量共軛梯度法標量共軛梯度法trainbrBayesian規(guī)范法規(guī)范法2. 常見訓練函數(shù)常見訓練函數(shù)MATLAB中激勵函數(shù)為中激勵函數(shù)為1log( )1xsig xetan( )xxxxeesig xee( )purelin xx其字符串分別為：其字符串分別為：logsig，tansig，purelin3. 激勵函數(shù)激勵函數(shù) 除了需要輸入除了需要輸入A,B,C,trainfun外，還有些默認的參數(shù)可外，還有些默認的參數(shù)可修改，如下表修改，如下表4. 可修改

21、參數(shù)可修改參數(shù)參數(shù)名參數(shù)名功能功能缺省值缺省值net.trainParam.goal目標函數(shù)設(shè)定值目標函數(shù)設(shè)定值0net.trainParam.epochs最大迭代次數(shù)最大迭代次數(shù)100net.trainParam.show顯示中間結(jié)果的周期顯示中間結(jié)果的周期25net.trainParam.lr整批學習的學習效率整批學習的學習效率0.01net.trainParam.mc勢能學習規(guī)則勢能學習規(guī)則traingdm的勢能率的勢能率0.9注：不同版本注：不同版本Matlab的可修改參數(shù)列表可能不同。的可修改參數(shù)列表可能不同。 net, tr, Y1, E = train ( net, X, Y )

22、5. BP網(wǎng)絡(luò)的訓練與泛化網(wǎng)絡(luò)的訓練與泛化q 網(wǎng)絡(luò)訓練網(wǎng)絡(luò)訓練訓訓練練跟跟蹤蹤信信息息訓訓練練后后網(wǎng)網(wǎng)絡(luò)絡(luò)網(wǎng)網(wǎng)絡(luò)絡(luò)實實際際輸輸出出誤誤差差矩矩陣陣網(wǎng)網(wǎng)絡(luò)絡(luò)訓訓練練函函數(shù)數(shù)未未經(jīng)經(jīng)訓訓練練網(wǎng)網(wǎng)絡(luò)絡(luò)網(wǎng)網(wǎng)絡(luò)絡(luò)實實際際輸輸入入網(wǎng)網(wǎng)絡(luò)絡(luò)應(yīng)應(yīng)有有輸輸出出X為為nM矩陣，為輸入數(shù)據(jù)矩陣，矩陣，為輸入數(shù)據(jù)矩陣，M為樣本的組數(shù)。為樣本的組數(shù)。Y為為mM矩陣，為輸出數(shù)據(jù)矩陣。矩陣，為輸出數(shù)據(jù)矩陣。 訓練結(jié)束后，對新的輸入點數(shù)據(jù)訓練結(jié)束后，對新的輸入點數(shù)據(jù)X2，調(diào)用，調(diào)用sim函數(shù)進行泛函數(shù)進行泛化，得出這些輸入點處的輸出矩陣化，得出這些輸入點處的輸出矩陣Y2. q 數(shù)據(jù)泛化數(shù)據(jù)泛化Y2=sim(net,X2) 用

23、經(jīng)過訓練的網(wǎng)絡(luò)對于不是樣本集的輸入，計算出相應(yīng)用經(jīng)過訓練的網(wǎng)絡(luò)對于不是樣本集的輸入，計算出相應(yīng)的輸出。的輸出。 什么是數(shù)據(jù)泛化？什么是數(shù)據(jù)泛化？例例4-1 由下面的語句生成一組數(shù)據(jù)由下面的語句生成一組數(shù)據(jù) x 和和 y，用神經(jīng)網(wǎng)絡(luò)進，用神經(jīng)網(wǎng)絡(luò)進行數(shù)據(jù)擬合行數(shù)據(jù)擬合 x=0:.1:10; y=0.12*exp(-0.213*x)+0.54*exp(-0.17*x).*sin(1.23*x);可知可知(x, y)是曲線是曲線 上的點。上的點。0.2130.170.120.54sin(1.23 )xxyeexx=0:.1:10;y=0.12*exp(-0.213*x)+0.54*exp(-0.17

24、*x).*sin(1.23*x);net=newff(0,10,5,1,tansig,tansig);net.trainParam.epochs=1000;net=train(net,x,y);x0=0:.1:10;figure(1)y1=sim(net,x0);plot(x,y,o, x0,y1,r)0246810-0.4-0.200.20.40.6 nntool命令產(chǎn)生神經(jīng)網(wǎng)絡(luò)圖形交互界面如下命令產(chǎn)生神經(jīng)網(wǎng)絡(luò)圖形交互界面如下二、二、 神經(jīng)網(wǎng)絡(luò)交互式界面神經(jīng)網(wǎng)絡(luò)交互式界面010203040506070809010010-710-610-510-410-310-210-1100100 Epoc

25、hsTraining-BluePerformance is 1.53643e-007, Goal is 0第三部分第三部分 應(yīng)用實例應(yīng)用實例實例實例1. 蠓蟲分類問題的神經(jīng)網(wǎng)絡(luò)方法蠓蟲分類問題的神經(jīng)網(wǎng)絡(luò)方法（1989年年MCM競賽題目競賽題目 ）生物學家試圖對兩種蠓蟲（生物學家試圖對兩種蠓蟲（Af與與Apf）進行）進行鑒別，依據(jù)的資料鑒別，依據(jù)的資料是觸角和翅膀的長度，已經(jīng)測得是觸角和翅膀的長度，已經(jīng)測得9只只Af和和6只只Apf的數(shù)據(jù)如下：的數(shù)據(jù)如下： 9只只Af觸角長：觸角長：1.24 1.36 1.38 1.38 1.38 1.40 1.48 1.54 1.56翅膀長：翅膀長：1.72

26、1.74 1.64 1.82 1.90 1.70 1.82 1.82 2.086只只Apf觸角長：觸角長：1.14 1.18 1.20 1.26 1.28 1.30翅膀長：翅膀長：1.78 1.96 1.86 2.00 2.00 1.96問題：問題：（1）如何憑借原始資料）如何憑借原始資料(15 對數(shù)據(jù)對數(shù)據(jù),被稱之為學習樣本被稱之為學習樣本)制制 定一種方法定一種方法,正確區(qū)分兩類蠓蟲正確區(qū)分兩類蠓蟲; （2）依據(jù)確立的方法）依據(jù)確立的方法,對以下三個樣本：對以下三個樣本： (1.24,1.80)，(1.28,1.84)，(1.40,2.04)加以識別加以識別 解法一：解法一：建立建立兩層前

27、向神經(jīng)網(wǎng)絡(luò)兩層前向神經(jīng)網(wǎng)絡(luò)如下：如下： 隱層節(jié)點可適量選?。]有具體標準）。隱層節(jié)點可適量選?。]有具體標準）。X= 為輸入矩陣，為輸入矩陣，x1對應(yīng)于觸角長，對應(yīng)于觸角長， x2對應(yīng)于翅膀長。對應(yīng)于翅膀長。Y= 為輸出矩陣為輸出矩陣規(guī)定規(guī)定Af對應(yīng)的應(yīng)有輸出為對應(yīng)的應(yīng)有輸出為 ， Apf對應(yīng)的應(yīng)有輸出為對應(yīng)的應(yīng)有輸出為 1x2x1y2y輸入層隱層輸出層21xx21yy1001以上神經(jīng)網(wǎng)絡(luò)模型的以上神經(jīng)網(wǎng)絡(luò)模型的MATLAB程序如下：程序如下： x=1.24 1.36 1.38 1.38 1.38 1.40 1.48 1.54 1.56 1.14 1.18 1.20 1.26 1.28 1.3

28、0 1.72 1.74 1.64 1.82 1.90 1.70 1.82 1.82 2.08 1.78 1.96 1.86 2.00 2.00 1.96; %原始數(shù)據(jù)原始數(shù)據(jù)x=x-1.1; %數(shù)據(jù)標準化數(shù)據(jù)標準化y=0 0 0 0 0 0 0 0 0 1 1 1 1 1 1;1 1 1 1 1 1 1 1 1 0 0 0 0 0 0; %應(yīng)有的輸出應(yīng)有的輸出net=newff(0,1;0 1,5,2,tansig,tansig); %建立兩層前向神經(jīng)網(wǎng)絡(luò)建立兩層前向神經(jīng)網(wǎng)絡(luò)%net.trainParam.goal=0.0000001; %設(shè)定訓練誤差設(shè)定訓練誤差net.trainParam.

29、epochs=2000; %設(shè)定最大訓練步數(shù)設(shè)定最大訓練步數(shù)net=train(net,x,y); %訓練網(wǎng)絡(luò)訓練網(wǎng)絡(luò)y1=sim(net,x) %輸出數(shù)據(jù)輸出數(shù)據(jù)yy=sim(net,1.24 1.28 1.40;1.80 1.84 2.04) %數(shù)據(jù)泛化數(shù)據(jù)泛化解法二：解法二：建立建立單層感知器模型單層感知器模型如下：如下： X= 為輸入矩陣，為輸入矩陣，x1對應(yīng)于觸角長，對應(yīng)于觸角長， x2對應(yīng)于翅膀長。對應(yīng)于翅膀長。Y= 為輸出矩陣，規(guī)定為輸出矩陣，規(guī)定Af對應(yīng)的應(yīng)有輸出為對應(yīng)的應(yīng)有輸出為 ， Apf對應(yīng)的應(yīng)有輸出為對應(yīng)的應(yīng)有輸出為 21xx21yy10011x2x1y2y輸入層輸出層

30、以上神經(jīng)網(wǎng)絡(luò)模型的以上神經(jīng)網(wǎng)絡(luò)模型的MATLAB程序如下：程序如下： x=1.24 1.36 1.38 1.38 1.38 1.40 1.48 1.54 1.56 1.14 1.18 1.20 1.26 1.28 1.30 1.72 1.74 1.64 1.82 1.90 1.70 1.82 1.82 2.08 1.78 1.96 1.86 2.00 2.00 1.96; %原始數(shù)據(jù)原始數(shù)據(jù)x=x-1.1; %數(shù)據(jù)標準化數(shù)據(jù)標準化y=0 0 0 0 0 0 0 0 0 1 1 1 1 1 1;1 1 1 1 1 1 1 1 1 0 0 0 0 0 0; %應(yīng)有的輸出應(yīng)有的輸出net=newp(

31、minmax(x),2); %建立單層兩節(jié)點感知器模型建立單層兩節(jié)點感知器模型%net.trainParam.goal=0.0000001; %設(shè)定訓練誤差設(shè)定訓練誤差net.trainParam.epochs=200; %設(shè)定最大訓練步數(shù)設(shè)定最大訓練步數(shù)net=train(net,x,y); %訓練網(wǎng)絡(luò)訓練網(wǎng)絡(luò)y1=sim(net,x) %輸出數(shù)據(jù)輸出數(shù)據(jù)yy=sim(net,1.24 1.28 1.40;1.80 1.84 2.04) %數(shù)據(jù)泛化數(shù)據(jù)泛化plotpv(x,y) %繪制輸入向量和目標向量繪制輸入向量和目標向量plotpc(net.iw1,1,net.b1) %繪制分界線繪制分界線實例實例2. 利用神經(jīng)網(wǎng)絡(luò)實現(xiàn)數(shù)據(jù)擬合利用神經(jīng)網(wǎng)絡(luò)實現(xiàn)數(shù)據(jù)擬合（赤潮預(yù)報的人工神經(jīng)網(wǎng)絡(luò)方法（赤潮預(yù)報的人工神經(jīng)網(wǎng)絡(luò)方法 ）1. 何為赤潮？何為赤潮？ 赤潮，是在一定環(huán)境條件下，海水中某些浮游植物、原生動物或細菌在