第6章神經網絡控制PPT課件

1、16.1 概述生物神經元模型 6.1.2 人工神經元模型6.1.3 人工神經網絡模型6.1.4 神經網絡的學習方法第1頁/共52頁2生物神經元模型 人腦大約包含1012個神經元，分成約1000種類型，每個神經元大約與102104個其他神經元相連接，形成極為錯綜復雜而又靈活多變的神經網絡。每個神經元雖然都十分簡單，但是如此大量的神經元之間、如此復雜的連接卻可以演化出豐富多彩的行為方式。同時，如此大量的神經元與外部感受器之間的多種多樣的連接方式也蘊含了變化莫測的反應方式。第2頁/共52頁3第3頁/共52頁4 從生物控制論的觀點來看，神經元作為控制和信息處理的基本單元，具有下列一些重要的功能與特性：

2、 時空整合功能 興奮與抑制狀態(tài) 脈沖與電位轉換 神經纖維傳導速度 突觸延時和不應期 學習、遺忘和疲勞 第4頁/共52頁56.1.2 人工神經元模型 人工神經元是對生物神經元的一種模擬與簡化。它是神經網絡的基本處理單元。如圖所示為一種簡化的人工神經元結構。它是一個多輸入、單輸出的非線性元件。第5頁/共52頁6第6頁/共52頁7 其輸入、輸出關系可描述為 其中， 是從其他神經元傳來的輸入信號； 表示從神經元j到神經元i的連接權值； 為閾值； 稱為激發(fā)函數或作用函數。njijijixwI1)(iiIfy), 2 , 1(njxj ijwi)(f第7頁/共52頁8 輸出激發(fā)函數 又稱為變換函數，它決定

3、神經元（節(jié)點）的輸出。該輸出為1或0，取決于其輸入之和大于或小于內部閾值 。函數 一般具有非線性特性。下圖表示了幾種常見的激發(fā)函數。 1. 閾值型函數（見圖（a），（b） 2. 飽和型函數（見圖（c） 3. 雙曲函數（見圖（d） 4. S型函數（見（e） 5. 高斯函數（見圖（f）)(fi)(f第8頁/共52頁9第9頁/共52頁106.1.3 人工神經網絡模型 人工神經網絡是以工程技術手段來模擬人腦神經元網絡的結構與特征的系統。利用人工神經元可以構成各種不同拓撲結構的神經網絡，它是生物神經網絡的一種模擬和近似。就神經網絡的主要連接型式而言，目前已有數十種不同的神經網絡模型，其中前饋型網絡和反饋

4、型網絡是兩種典型的結構模型。第10頁/共52頁111. 前饋型神經網絡 前饋型神經網絡，又稱前向網絡（Feed forward NN）。如圖所示，神經元分層排列，有輸入層、隱層（亦稱中間層，可有若干層）和輸出層，每一層的神經元只接受前一層神經元的輸入。 從學習的觀點來看，前饋網絡是一種強有力的學習系統，其結構簡單而易于編程；從系統的觀點看，前饋網絡是一靜態(tài)非線性映射，通過簡單非線性處理單元的復合映射，可獲得復雜的非線性處理能力。但從計算的觀點看，缺乏豐富的動力學行為。大部分前饋網絡都是學習網絡，它們的分類能力和模式識別能力一般都強于反饋網絡，典型的前饋網絡有感知器網絡、BP 網絡等。 第11頁

5、/共52頁12第12頁/共52頁132. 反饋型神經網絡 反饋型神經網絡（Feedback NN）的結構如圖所示。如果總節(jié)點（神經元）數為N，那么每個節(jié)點有N個輸入和一個輸出，也就是說，所有節(jié)點都是一樣的，它們之間都可相互連接。 反饋神經網絡是一種反饋動力學系統，它需要工作一段時間才能達到穩(wěn)定。Hopfield神經網絡是反饋網絡中最簡單且應用廣泛的模型，它具有聯想記憶（Content一Addressible Memory，CAM）的功能，如果將Lyapunov函數定義為尋優(yōu)函數，Hopfie1d神經網絡還可以用來解決快速尋優(yōu)問題。第13頁/共52頁14第14頁/共52頁156.1.4 神經網絡

6、的學習方法 學習方法是體現人工神經網絡智能特性的主要標志，離開了學習算法，人工神經網絡就失去了自適應、自組織和自學習的能力。目前神經網絡的學習方法有多種，按有無導師來分類，可分為有教師學習（Supervised Learning）、無教師學習（Unsupervised Learning）和再勵學習（Reinforcement Learning）等幾大類。在有教師的學習方式中，網絡的輸出和期望的輸出（即教師信號）進行比較，然后根據兩者之間的差異調整網絡的權值，最終使差異變小。在無教師的學習方式中，輸入模式進人網絡后，網絡按照一預先設定的規(guī)則（如競爭規(guī)則）自動調整權值，使網絡最終具有模式分類等功能

7、。再勵學習是介于上述兩者之間的一種學習方式。 第15頁/共52頁16神經網絡中常用的幾種最基本的學習方法 1. Hebb學習規(guī)則 兩個神經元同時處于激發(fā)狀態(tài)時，它們之間的連接強度將得到加強，這一論述的數學描述被稱為Hebb學習規(guī)則 Hebb學習規(guī)則是一種無教師的學習方法，它只根據神經元連接間的激活水平改變權值，因此這種方法又稱為相關學習或并聯學習。第16頁/共52頁172Delta（）學習規(guī)則 規(guī)則實現了E中的梯度下降，因此使誤差函數達到最小值。但學習規(guī)則只適用于線性可分函數，無法用于多層網絡。BP網絡的學習算法稱為BP算法，是在規(guī)則基礎上發(fā)展起來的，可在多網絡上有效地學習。 第17頁/共52

8、頁183概率式學習 從統計力學、分子熱力學和概率論中關于系統穩(wěn)態(tài)能量的標準出發(fā)，進行神經網絡學習的方式稱概率式學習。神經網絡處于某一狀態(tài)的概率主要取決于在此狀態(tài)下的能量，能量越低，概率越大。同時，此概率還取決于溫度參數T。T越大，不同狀態(tài)出現概率的差異便越小，較容易跳出能量的局部極小點而到全局的極小點；T越小時，情形正相反。概率式學習的典型代表是Boltzmann機學習規(guī)則。它是基于模擬退火的統計優(yōu)化方法，因此又稱模擬退火算法。 第18頁/共52頁194競爭式學習 競爭式學習屬于無教師學習方式。此種學習方式利用不同層間的神經元發(fā)生興奮性聯接，以及同一層內距離很近的神經元間發(fā)生同樣的興奮性聯接，

9、而距離較遠的神經元產生抑制性聯接。在這種聯接機制中引人竟爭機制的學習方式稱為竟爭式學習。它的本質在于神經網絡中高層次的神經元對低層次神經元的輸入模式進行競爭識別。第19頁/共52頁206.2 前向神經網絡6.2.1 感知器網絡 感知器（perceptrvon）是一個具有單層神經元的神經網絡，并由線性閾值元件組成，是最簡單的前向網絡。它主要用于模式分類，單層的感知器網絡結構如下圖所示。第20頁/共52頁21第21頁/共52頁22感知器的一種學習算法： 隨機地給定一組連接權 輸入一組樣本和期望的輸出（亦稱之為教師信號） 計算感知器實際輸出 修正權值 選取另外一組樣本，重復上述2）4）的過程，直到權

10、值對一切樣本均穩(wěn)定不變?yōu)橹梗瑢W習過程結束。 第22頁/共52頁236.2.2 BP網絡 誤差反向傳播神經網絡，簡稱BP網絡（Back Propagation），是一種單向傳播的多層前向網絡。在模式識別、圖像處理、系統辨識、函數擬合、優(yōu)化計算、最優(yōu)預測和自適應控制等領域有著較為廣泛的應用。如圖是BP網絡的示意圖。第23頁/共52頁24第24頁/共52頁25 誤差反向傳播的BP算法簡稱BP算法，其基本思想是最小二乘算法。它采用梯度搜索技術，以期使網絡的實際輸出值與期望輸出值的誤差均方值為最小。 BP算法的學習過程由正向傳播和反向傳播組成。在正向傳播過程中，輸入信息從輸入層經隱含層逐層處理，并傳向輸

11、出層，每層神經元（節(jié)點）的狀態(tài)只影響下一層神經元的狀態(tài)。如果在輸出層不能得到期望的輸出，則轉人反向傳播，將誤差信號沿原來的連接通路返回，通過修改各層神經元的權值，使誤差信號最小。第25頁/共52頁261BP網絡的前饋計算2BP網絡權值的調整規(guī)則 1). 輸出層權系數的調整 2). 隱含層節(jié)點權系數的調整3BP學習算法的計算步驟 第26頁/共52頁27 3BP學習算法的計算步驟 1). 初始化 置所有權值為較小的隨機數 2). 提供訓練集 3). 計算實際輸出，計算隱含層、輸出層各神經元輸出 4). 計算目標值與實際輸出的偏差E 5). 計算 6). 計算 7). 返回“2）”重復計算，直到誤差

12、滿足要求為止 jkpwijpw第27頁/共52頁28第28頁/共52頁29 在使用BP算法時，應注意的幾個問題是： 1). 學習開始時，各隱含層連接權系數的初值應以設置較小的隨機數較為適宜。 2). 采用S型激發(fā)函數時，由于輸出層各神經元的輸出只能趨于1或0，不能達到1或0。在設置各訓練樣本時，期望的輸出分量dpk不能設置為1或0，以設置為或0，1較為適宜。 3). 學習速率的選擇，在學習開始階段，選較大的值可以加快學習速度。學習接近優(yōu)化區(qū)時，值必須相當小，否則權系數將產生振蕩而不收斂。平滑因子的選值在左右。第29頁/共52頁306.2.3 BP網絡學習算法的改進1多層前向BP網絡的優(yōu)點： 1

13、). 網絡實質上實現了一個從輸入到輸出的映射功能，而數學理論已證明它具有實現任何復雜非線性映射的功能。這使得它特別適合于求解內部機制復雜的問題； 2). 網絡能通過學習帶正確答案的實例集自動提取“合理的”求解規(guī)則，即具有自學習能力； 第30頁/共52頁312多層前向BP網絡的問題： 1). BP算法的學習速度很慢 2). 網絡訓練失敗的可能性較大 3). 難以解決應用問題的實例規(guī)模和網絡規(guī)模間的矛盾 4). 網絡結構的選擇尚無一種統一而完整的理論指導，一般只能由經驗選定 5). 新加入的樣本要影響已學習成功的網絡，而且刻畫每個輸入樣本的特征的數目也必須相同 6). 網絡的預測能力（也稱泛化能力

14、、推廣能力）與訓練能力（也稱逼近能力、學習能力）的矛盾 第31頁/共52頁323BP網絡學習算法的改進 1). 增加“慣性項 2). 采用動態(tài)步長 3). 與其他全局搜索算法相結合 4). 模擬退火算法 目前在神經網絡的學習中，基于梯度的算法都不能從理論上保證收斂結果是全局最優(yōu)的。 第32頁/共52頁336.2.4 神經網絡的訓練 可以任意逼近一個緊集上的任意函數這一特點是神經網絡廣泛應用的理論基礎。但是，在實際應用中，目前尚未找到較好的網絡構造方法，確定網絡的結構和權值參數，來描述給定的映射或逼近一個未知的映射，只能通過學習來得到滿足要求的網絡模型。 第33頁/共52頁34神經網絡訓練的具體

15、步驟如下 1獲取訓練樣本集 獲取訓練樣本集合是訓練神經網絡的第一步，也是十分重要和關鍵的一步。它包括訓練數據的收集、分析、選擇和預處理等 2選擇網絡類型與結構 神經網絡的類型很多，需要根據任務的性質和要求來選擇合適的網絡類型。 3訓練與測試 最后一步是利用獲取的訓練樣本對網絡進行反復訓練，直至得到合適的映射結果。 第34頁/共52頁356.3 反饋神經網絡 反饋網絡(Recurrent Network)，又稱自聯想記憶網絡，其目的是為了設計一個網絡，儲存一組平衡點，使得當給網絡一組初始值時，網絡通過自行運行而最終收斂到這個設計的平衡點上。 反饋網絡能夠表現出非線性動力學系統的動態(tài)特性。它所具有

16、的主要特性為以下兩點： 第一、網絡系統具有若干個穩(wěn)定狀態(tài)。當網絡從某一初始狀態(tài)開始運動，網絡系統總可以收斂到某一個穩(wěn)定的平衡狀態(tài)； 第二，系統穩(wěn)定的平衡狀態(tài)可以通過設計網絡的權值而被存儲到網絡中。第35頁/共52頁366.3.1 離散Hopfield網絡1. 網絡的結構和工作方式 離散Hopfield網絡是一個單層網絡，有個神經元節(jié)點，每個神經元的輸出均接到其它神經元的輸入。 各節(jié)點沒有自反饋，每個節(jié)點都附有一個閥值。每個節(jié)點都可處于一種可能的狀態(tài)（1或1），即當該神經元所受的刺激超過其閥值時，神經元就處于一種狀態(tài)（比如1），否則神經元就始終處于另一狀態(tài)（比如1）。第36頁/共52頁37第37

17、頁/共52頁38 整個網絡有兩種工作方式：即異步方式和同步方式。 1). 異步方式 2). 同步方式2. 穩(wěn)定性和吸引子3. 連接權的設計4. 聯想記憶第38頁/共52頁396.3.2 連續(xù)Hopfield網絡 連續(xù)Hopfield 網絡也是單層的反饋網絡。其實質上是一個連續(xù)的非線性動力學系統，它可以用一組非線性微分方程來描述。當給定初始狀態(tài)，通過求解非線性微分方程組即可求得網絡狀態(tài)的運行軌跡。若系統是穩(wěn)定的，則它最終可收斂到一個穩(wěn)定狀態(tài)。第39頁/共52頁406.3.3 Boltzmann機nBoltzmann機網絡結構和工作方式n Boltzmann機網絡是一個相互連接的神經網絡模型，具有

18、對稱的連接權系數，及wijwji且wii=0。網絡由可見單元（Visible Unit）和隱單元（Hidden Unit）構成?？梢妴卧奢斎搿⑤敵霾糠纸M成。每個單元節(jié)點只取1或0兩種狀態(tài)。1代表接通或接受，0表示斷開或拒絕。當神經元的輸入加權和發(fā)生變化時，神經元的狀態(tài)隨之更新。各單元之間狀態(tài)的更新是異步的。 第40頁/共52頁41 與Hopfield網絡相似，Boltzmann機的實際運行也分為兩個階段： 第一階段是學習和訓練階段，即根據學習樣本對網絡進行訓練，將知識分布地存儲于網絡的連接權中； 第二階段是工作階段，即根據輸入運行網絡得到合適的輸出，這一步實質上是按照某種機制將知識提取出來。

19、 第41頁/共52頁422. 網絡的學習和訓練 網絡學習的目的是通過給出一組學習樣本，經學習后得到Boltzmann機各種神經元之間的連接權wij . Boltzmann機網絡學習的步驟可歸納如下： 1). 隨機設定網絡的連接權wij(0)及初始高溫。 2). 按照已知的概率p(x)，依次給定學習樣本。在樣本的約束下，按照模擬退火程度運行網絡，直至達到平衡狀態(tài)，統計出各pij。在無約束條件下，按同樣的步驟并同樣的次數運行網絡，統計出各pij。 3). 按下述公式修改權值 wij(k+1)=wij(k)+(pij-pij), 0 4). 重復上述步驟，直到pij-pij小于一定的容限。第42頁/

20、共52頁436.4 神經網絡PID控制 盡管神經網絡控制技術有許多潛在的優(yōu)勢，但單純使用神經網絡的控制方法的研究仍有待進一步發(fā)展。通常將人工神經網絡技術與傳統的控制理論或智能技術綜合使用。神經網絡在控制中的作用有以下幾種： 1在傳統的控制系統中用以動態(tài)系統建模，充當對象模型； 2在反饋控制系統中直接充當控制器的作用； 3在傳統控制系統中起優(yōu)化計算作用； 4與其他智能控制方法如模糊邏輯、遺傳算法、專家控制等相融合。 第43頁/共52頁446.4.1 基于BP神經網絡控制參數自學習PID控制 BP神經網絡具有逼近任意非線性函數的能力，而且結構和學習算法簡單明確。通過神經網絡自身的學習，可以找到某一

21、最優(yōu)控制律下的P，I，D參數?；贐P神經網絡的PD控制系統結構如圖所示，控制器由兩個部分組成：經典的PID控制器：直接對被控對象進行閉環(huán)控制，并且KP,KI,KD三個參數為在線整定；神經網絡NN：根據系統的運行狀態(tài)，調節(jié)PID控制器的參數，以期達到某種性能指標的最優(yōu)化。即使輸出層神經元的輸出狀態(tài)對應于PID控制器的三個可調參數KP,KI,KD，通過神經網絡的自學習、調整權系數，從而使其穩(wěn)定狀態(tài)對應于某種最優(yōu)控制律下的PID控制器參數。第44頁/共52頁45第45頁/共52頁46 基于BP神經網絡的PID控制算法可歸納如下： 1). 事先選定BP神經網絡NN的結構，即選定輸入層節(jié)點數M和隱含層

22、節(jié)點數Q，并給出權系數的初值w(2)ij(0), w(3)li(0)，選定學習速率和平滑因子，k=1； 2). 采樣得到r(k)和y(k)，計算e(k)=z(k)=r(k)-y(k)； 3). 對r(i),y(i),u(i-1),e(i)進行歸一化處理，作為NN的輸入； 4). 前向計算NN的各層神經元的輸入和輸出，NN輸出層的輸出即為PID控制器的三個可調參數KP(k),KI(k),KD(k)； 5). 計算PID控制器的控制輸出u(k)，參與控制和計算； 6). 計算修正輸出層的權系數w(3)li(k)； 7). 計算修正隱含層的權系數w(2)ij(k)； 8). 置k=k+1，返回到“2

23、）”。 第46頁/共52頁476.4.2 改進型BP神經網絡控制參數自學習PID控制 將神經網絡用于控制器的設計或直接學習計算控制器的輸出（控制量），一般都要用到系統的預測輸出值或其變化量來計算權系數的修正量。但實際上，系統的預測輸出值是不易直接測得的，通常的做法是建立被控對象的預測數學模型，用該模型所計算的預測輸出來取代預測處的實測值，以提高控制效果。第47頁/共52頁481采用線性預測模型的BP神經網絡PID控制器 第48頁/共52頁49采用線性預測模型的BP神經網絡PID控制系統算法歸納如下： 1). 事先選定BP神經網絡NN的結構，即選定輸入層節(jié)點數M和隱含層節(jié)點數Q，并給出權系數的初值w(2)ij(0), w(3)li(0)，選定學習速率和平滑因子，k=1； 2). 用線性系統辨識法估計出參數矢量(k)，從而形成一步預報模型式； 3). 采樣得到r(k)和y(