智能控制導論 蔡志興版 教學課件5

智能控制導論國家精品課程配套教材蔡自興15.1人工神經網絡的初步知識5.2神經控制的結構方案5.3神經控制器的設計5.4小結第五章神經控制25.1人工神經網絡的初步知識5.1.1神經元及其特性神經元模型連接機制結構的基本處理單元與神經生理學類比往往稱為神經元每個構造起網絡的神經元模型模擬一個生物神經元

-1…中間狀態(tài)由輸入信號的權和表示神經元單元由多個輸入3

生物神經元的結構神經細胞是構成神經系統(tǒng)的基本單元，稱之為生物神經元，簡稱神經元。神經元主要由三部分構成：（1）細胞體;（2）軸突;（3）樹突;4強調突觸是神經元之間相互連接的接口部分，即一個神經元的神經末梢與另一個神經元的樹突相接觸的交界面，位于神經元的神經末梢尾端。突觸是軸突的終端。神經元是構成神經網絡的最基本單元（構件）。人工神經元模型應該具有生物神經元的六個基本特性5人工神經元的工作過程

對于某個處理單元（神經元）來說，假設來自其他處理單元（神經元）i的信息為Xi，它們與本處理單元的互相作用強度即連接權值為Wi,i=0,1,…,n-1,處理單元的內部閾值為θ。那么本處理單元（神經元）的輸入為而處理單元的輸出為（9.1.2）式中，xi為第i個元素的輸入，wi為第i個處理單元與本處理單元的互聯(lián)權重。f稱為激發(fā)函數(shù)或作用函數(shù)，它決定節(jié)點（神經元）的輸出。6(a)閾值型(b)分段線性型(c)Sigmoid函數(shù)型(d)雙曲正切型這里，激發(fā)函數(shù)一般具有非線性特性,常用的非線性激發(fā)函數(shù)如圖所示稱為激活值神經網絡的基本概念及組成特性75.1.2神經網絡與智能控制神經網絡特性

并行分布處理非線性映射通過訓練進行學習適應與集成硬件實現(xiàn)神經網絡用于智能控制系統(tǒng)的潛力神經網絡因其學習和適應、自組織函數(shù)逼近和大規(guī)模并行處理等能力85.1.3人工神經網絡的基本類型和學習算法人工神經網絡的基本特性和結構人工神經網絡由神經元模型構成具有并行分布結構每個神經元具有單一輸出，能夠與其它神經元連接存在許多輸出連接方法，每種對應一個連接權系數(shù)人工神經網絡是一種具有下列特性的有向圖對于每個節(jié)點i存在一個狀態(tài)變量xi從節(jié)點j至節(jié)點i，存在一個連接權系統(tǒng)數(shù)wij對于每個節(jié)點i，存在一個閾值θi對于每個節(jié)點i，定義一個變換函數(shù)對于最一般的情況，此函數(shù)取形式9人工神經網絡基本分為兩類即遞歸（反饋）網絡前饋網絡

v1v2vn輸入

輸出…輸入層隱層輸出層反向傳播3x2x1x'3x'2x'1x11w1x2x3xny1y1mw遞歸網絡前饋網絡………5.1.3人工神經網絡的基本類型和學習算法10一個簡單的前向傳播網絡11人工神經網絡的主要學習算法

有師學習

有師學習算法能夠根據(jù)期望的和實際的網絡輸出（對應于給定輸入）間的差來調整神經元間連接的強度或權。無師學習

無師學習算法不需要知道期望輸出。強化學習強化學習算法采用一個“評論員”來評價與給定輸入相對應的神經網絡輸出的優(yōu)度（質量因數(shù)）5.1.3人工神經網絡的基本類型和學習算法125.1.4人工神經網絡的典型模型自適應諧振理論（ART）雙向聯(lián)想存儲器（BAM）Boltzmann機（BM）反向傳播（BP）網絡對流傳播網絡(CPN)Hopfield網Madaline算法認知機（Neocognition）感知器（Perception）自組織映射網（SOM）13自適應諧振理論環(huán)境變化網絡的可塑性分析新添樣本訓練合并重新訓練應用新環(huán)境下的應用樣本集網絡的可塑性需要的4項功能樣本的分類功能分類的識別功能比較功能類的建立功能14基本的雙聯(lián)存儲器結構

W第1層輸入向量第2層輸出向量WTx1xnymy1……………智力鏈從一件事想到另一件事，“喚回失去的記憶”。自相聯(lián)異相聯(lián)雙聯(lián)存儲器（BidirectionalAssociativeMemory—BAM）。15Boltzmann機的訓練

Boltzmann機是多級循環(huán)網絡，是Hopfield網的一種擴展。神經元ANi實際輸出狀態(tài)oi=1的概率為：

T趨近于0時，神經元的狀態(tài)不再具有隨機性，Boltzmann機退化成一般Hopfield網。16

由于在反饋網絡中，網絡的輸出要反復地作為輸入再送入網絡中，這就使得網絡具有了動態(tài)性，網絡的狀態(tài)在不斷的改變之中，因而就提出了網絡的穩(wěn)定性問題。所謂一個網絡是穩(wěn)定的是指從某一時刻開始，網絡的狀態(tài)不再改變。設用X(t)表示網絡在時刻t的狀態(tài)，如果從t=０的任一初態(tài)X(0)開始，存在一個有限的時刻t，使得從此時刻開始神經網絡的狀態(tài)不再發(fā)生變化，即

就稱此網絡是穩(wěn)定的。Hopfield模型及其學習算法17簡單的反饋神經網絡圖183.2感知器的學習算法

感知器的學習是有導師學習感知器的訓練算法的基本原理來源于著名的Hebb學習律基本思想：逐步地將樣本集中的樣本輸入到網絡中,根據(jù)輸出結果和理想輸出之間的差別來調整網絡中的權矩陣195.1.5基于神經網絡的知識表示和推理基于神經網絡的知識表示傳統(tǒng)的人工智能系統(tǒng)中所用的是知識的顯示表示,而神經網絡中的知識表示是一種隱式表示.隱式表示,知識并不像在生產式系統(tǒng)中那樣獨立地表示,而是將某一問題的若干知識在同一網絡表示基于神經網絡的推理基于神經網絡的推理是通過網絡計算實現(xiàn)的.把用戶提供的初始證據(jù)用作網絡的輸入,通過網絡計算最終得到輸出結果醫(yī)療診斷實例和異或模型正向網絡推理步驟及其特性205.2神經控制的結構方案5.2.1NN學習控制基于神經網絡的監(jiān)督式控制實現(xiàn)NN監(jiān)督式控制的步驟通過傳感器和傳感信息處理，調用必要的和有用的控制信息構造神經網絡，選擇NN類型、結構參數(shù)和學習算法等訓練NN控制器，實現(xiàn)輸入和輸出間的映射，以便進行控制NNC受控對象監(jiān)督程序r(t)+-e(t)u(t)+-選擇器y(t)215.2.2NN直接逆模控制原理與特點這種控制采用受控系統(tǒng)的一個逆模型，它與受控系統(tǒng)串接以便使系統(tǒng)在期望響應（網絡輸入）與受控系統(tǒng)輸出間得到一個相同的映射由于不存在反饋，本法魯棒性不足；逆模型參數(shù)可通過在線學習調整，以期把受控系統(tǒng)的魯棒性提高至一定程度NN直接逆控制的兩種結構方案NN1R(t)NN2e(t)u(t)+-y(t)對象NNEFr(t)e(t)u(t)y(t)對象225.2.2NN內?？刂苹贜N的內?？刂频慕Y構圖示于下圖其中，系統(tǒng)模型（NN2）與實際系統(tǒng)并行設置反饋信號由系統(tǒng)輸出與模型輸出間的差得到由NN1（在正向控制通道上一個具有逆模型的NN控制器）進行處理；NN1控制器應當與系統(tǒng)的逆有關濾波器

NN1裝置NN2r(t)e(t)u(t)ym(t)d++--235.2.3NN自適應控制NN自校正控制（STC）直接自校正控制、間接自校正控制NN參考自適應控制（MRAC）NN直接參考自適應控制、NN間接參考自適應控制常規(guī)控制器裝置NN辨識器r(t)e(t)u(t)y(t)dNNC參考模型裝置r(t)e(t)u(t)ec(t)ym(t)y(t)d+-+-NN直接參考自適應控制間接自校正控制245.3神經控制器的設計神經控制器的設計一般應過以下內容建立受控對象的數(shù)學計算模型或知識表示模型選擇神經網絡及其算法,進行初步辨識與訓練設計神經控制器,包括控制器結構、功能與推理控制系統(tǒng)仿鎮(zhèn)實驗，并通過實驗結果改進設計255.3神經控制器的設計控制器結構和工作原理FCFIENNC對象+-eufu++unufy