智能控制導(dǎo)論 蔡志興版 教學(xué)課件5

智能控制導(dǎo)論國(guó)家精品課程配套教材蔡自興15.1人工神經(jīng)網(wǎng)絡(luò)的初步知識(shí)5.2神經(jīng)控制的結(jié)構(gòu)方案5.3神經(jīng)控制器的設(shè)計(jì)5.4小結(jié)第五章神經(jīng)控制25.1人工神經(jīng)網(wǎng)絡(luò)的初步知識(shí)5.1.1神經(jīng)元及其特性神經(jīng)元模型連接機(jī)制結(jié)構(gòu)的基本處理單元與神經(jīng)生理學(xué)類比往往稱為神經(jīng)元每個(gè)構(gòu)造起網(wǎng)絡(luò)的神經(jīng)元模型模擬一個(gè)生物神經(jīng)元

-1…中間狀態(tài)由輸入信號(hào)的權(quán)和表示神經(jīng)元單元由多個(gè)輸入3

生物神經(jīng)元的結(jié)構(gòu)神經(jīng)細(xì)胞是構(gòu)成神經(jīng)系統(tǒng)的基本單元，稱之為生物神經(jīng)元，簡(jiǎn)稱神經(jīng)元。神經(jīng)元主要由三部分構(gòu)成：（1）細(xì)胞體;（2）軸突;（3）樹突;4強(qiáng)調(diào)突觸是神經(jīng)元之間相互連接的接口部分，即一個(gè)神經(jīng)元的神經(jīng)末梢與另一個(gè)神經(jīng)元的樹突相接觸的交界面，位于神經(jīng)元的神經(jīng)末梢尾端。突觸是軸突的終端。神經(jīng)元是構(gòu)成神經(jīng)網(wǎng)絡(luò)的最基本單元（構(gòu)件）。人工神經(jīng)元模型應(yīng)該具有生物神經(jīng)元的六個(gè)基本特性5人工神經(jīng)元的工作過程

對(duì)于某個(gè)處理單元（神經(jīng)元）來說，假設(shè)來自其他處理單元（神經(jīng)元）i的信息為Xi，它們與本處理單元的互相作用強(qiáng)度即連接權(quán)值為Wi,i=0,1,…,n-1,處理單元的內(nèi)部閾值為θ。那么本處理單元（神經(jīng)元）的輸入為而處理單元的輸出為（9.1.2）式中，xi為第i個(gè)元素的輸入，wi為第i個(gè)處理單元與本處理單元的互聯(lián)權(quán)重。f稱為激發(fā)函數(shù)或作用函數(shù)，它決定節(jié)點(diǎn)（神經(jīng)元）的輸出。6(a)閾值型(b)分段線性型(c)Sigmoid函數(shù)型(d)雙曲正切型這里，激發(fā)函數(shù)一般具有非線性特性,常用的非線性激發(fā)函數(shù)如圖所示稱為激活值神經(jīng)網(wǎng)絡(luò)的基本概念及組成特性75.1.2神經(jīng)網(wǎng)絡(luò)與智能控制神經(jīng)網(wǎng)絡(luò)特性

并行分布處理非線性映射通過訓(xùn)練進(jìn)行學(xué)習(xí)適應(yīng)與集成硬件實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)用于智能控制系統(tǒng)的潛力神經(jīng)網(wǎng)絡(luò)因其學(xué)習(xí)和適應(yīng)、自組織函數(shù)逼近和大規(guī)模并行處理等能力85.1.3人工神經(jīng)網(wǎng)絡(luò)的基本類型和學(xué)習(xí)算法人工神經(jīng)網(wǎng)絡(luò)的基本特性和結(jié)構(gòu)人工神經(jīng)網(wǎng)絡(luò)由神經(jīng)元模型構(gòu)成具有并行分布結(jié)構(gòu)每個(gè)神經(jīng)元具有單一輸出，能夠與其它神經(jīng)元連接存在許多輸出連接方法，每種對(duì)應(yīng)一個(gè)連接權(quán)系數(shù)人工神經(jīng)網(wǎng)絡(luò)是一種具有下列特性的有向圖對(duì)于每個(gè)節(jié)點(diǎn)i存在一個(gè)狀態(tài)變量xi從節(jié)點(diǎn)j至節(jié)點(diǎn)i，存在一個(gè)連接權(quán)系統(tǒng)數(shù)wij對(duì)于每個(gè)節(jié)點(diǎn)i，存在一個(gè)閾值θi對(duì)于每個(gè)節(jié)點(diǎn)i，定義一個(gè)變換函數(shù)對(duì)于最一般的情況，此函數(shù)取形式9人工神經(jīng)網(wǎng)絡(luò)基本分為兩類即遞歸（反饋）網(wǎng)絡(luò)前饋網(wǎng)絡(luò)

v1v2vn輸入

輸出…輸入層隱層輸出層反向傳播3x2x1x'3x'2x'1x11w1x2x3xny1y1mw遞歸網(wǎng)絡(luò)前饋網(wǎng)絡(luò)………5.1.3人工神經(jīng)網(wǎng)絡(luò)的基本類型和學(xué)習(xí)算法10一個(gè)簡(jiǎn)單的前向傳播網(wǎng)絡(luò)11人工神經(jīng)網(wǎng)絡(luò)的主要學(xué)習(xí)算法

有師學(xué)習(xí)

有師學(xué)習(xí)算法能夠根據(jù)期望的和實(shí)際的網(wǎng)絡(luò)輸出（對(duì)應(yīng)于給定輸入）間的差來調(diào)整神經(jīng)元間連接的強(qiáng)度或權(quán)。無師學(xué)習(xí)

無師學(xué)習(xí)算法不需要知道期望輸出。強(qiáng)化學(xué)習(xí)強(qiáng)化學(xué)習(xí)算法采用一個(gè)“評(píng)論員”來評(píng)價(jià)與給定輸入相對(duì)應(yīng)的神經(jīng)網(wǎng)絡(luò)輸出的優(yōu)度（質(zhì)量因數(shù)）5.1.3人工神經(jīng)網(wǎng)絡(luò)的基本類型和學(xué)習(xí)算法125.1.4人工神經(jīng)網(wǎng)絡(luò)的典型模型自適應(yīng)諧振理論（ART）雙向聯(lián)想存儲(chǔ)器（BAM）Boltzmann機(jī)（BM）反向傳播（BP）網(wǎng)絡(luò)對(duì)流傳播網(wǎng)絡(luò)(CPN)Hopfield網(wǎng)Madaline算法認(rèn)知機(jī)（Neocognition）感知器（Perception）自組織映射網(wǎng)（SOM）13自適應(yīng)諧振理論環(huán)境變化網(wǎng)絡(luò)的可塑性分析新添樣本訓(xùn)練合并重新訓(xùn)練應(yīng)用新環(huán)境下的應(yīng)用樣本集網(wǎng)絡(luò)的可塑性需要的4項(xiàng)功能樣本的分類功能分類的識(shí)別功能比較功能類的建立功能14基本的雙聯(lián)存儲(chǔ)器結(jié)構(gòu)

W第1層輸入向量第2層輸出向量WTx1xnymy1……………智力鏈從一件事想到另一件事，“喚回失去的記憶”。自相聯(lián)異相聯(lián)雙聯(lián)存儲(chǔ)器（BidirectionalAssociativeMemory—BAM）。15Boltzmann機(jī)的訓(xùn)練

Boltzmann機(jī)是多級(jí)循環(huán)網(wǎng)絡(luò)，是Hopfield網(wǎng)的一種擴(kuò)展。神經(jīng)元ANi實(shí)際輸出狀態(tài)oi=1的概率為：

T趨近于0時(shí)，神經(jīng)元的狀態(tài)不再具有隨機(jī)性，Boltzmann機(jī)退化成一般Hopfield網(wǎng)。16

由于在反饋網(wǎng)絡(luò)中，網(wǎng)絡(luò)的輸出要反復(fù)地作為輸入再送入網(wǎng)絡(luò)中，這就使得網(wǎng)絡(luò)具有了動(dòng)態(tài)性，網(wǎng)絡(luò)的狀態(tài)在不斷的改變之中，因而就提出了網(wǎng)絡(luò)的穩(wěn)定性問題。所謂一個(gè)網(wǎng)絡(luò)是穩(wěn)定的是指從某一時(shí)刻開始，網(wǎng)絡(luò)的狀態(tài)不再改變。設(shè)用X(t)表示網(wǎng)絡(luò)在時(shí)刻t的狀態(tài)，如果從t=０的任一初態(tài)X(0)開始，存在一個(gè)有限的時(shí)刻t，使得從此時(shí)刻開始神經(jīng)網(wǎng)絡(luò)的狀態(tài)不再發(fā)生變化，即

就稱此網(wǎng)絡(luò)是穩(wěn)定的。Hopfield模型及其學(xué)習(xí)算法17簡(jiǎn)單的反饋神經(jīng)網(wǎng)絡(luò)圖183.2感知器的學(xué)習(xí)算法

感知器的學(xué)習(xí)是有導(dǎo)師學(xué)習(xí)感知器的訓(xùn)練算法的基本原理來源于著名的Hebb學(xué)習(xí)律基本思想：逐步地將樣本集中的樣本輸入到網(wǎng)絡(luò)中,根據(jù)輸出結(jié)果和理想輸出之間的差別來調(diào)整網(wǎng)絡(luò)中的權(quán)矩陣195.1.5基于神經(jīng)網(wǎng)絡(luò)的知識(shí)表示和推理基于神經(jīng)網(wǎng)絡(luò)的知識(shí)表示傳統(tǒng)的人工智能系統(tǒng)中所用的是知識(shí)的顯示表示,而神經(jīng)網(wǎng)絡(luò)中的知識(shí)表示是一種隱式表示.隱式表示,知識(shí)并不像在生產(chǎn)式系統(tǒng)中那樣獨(dú)立地表示,而是將某一問題的若干知識(shí)在同一網(wǎng)絡(luò)表示基于神經(jīng)網(wǎng)絡(luò)的推理基于神經(jīng)網(wǎng)絡(luò)的推理是通過網(wǎng)絡(luò)計(jì)算實(shí)現(xiàn)的.把用戶提供的初始證據(jù)用作網(wǎng)絡(luò)的輸入,通過網(wǎng)絡(luò)計(jì)算最終得到輸出結(jié)果醫(yī)療診斷實(shí)例和異或模型正向網(wǎng)絡(luò)推理步驟及其特性205.2神經(jīng)控制的結(jié)構(gòu)方案5.2.1NN學(xué)習(xí)控制基于神經(jīng)網(wǎng)絡(luò)的監(jiān)督式控制實(shí)現(xiàn)NN監(jiān)督式控制的步驟通過傳感器和傳感信息處理，調(diào)用必要的和有用的控制信息構(gòu)造神經(jīng)網(wǎng)絡(luò)，選擇NN類型、結(jié)構(gòu)參數(shù)和學(xué)習(xí)算法等訓(xùn)練NN控制器，實(shí)現(xiàn)輸入和輸出間的映射，以便進(jìn)行控制NNC受控對(duì)象監(jiān)督程序r(t)+-e(t)u(t)+-選擇器y(t)215.2.2NN直接逆模控制原理與特點(diǎn)這種控制采用受控系統(tǒng)的一個(gè)逆模型，它與受控系統(tǒng)串接以便使系統(tǒng)在期望響應(yīng)（網(wǎng)絡(luò)輸入）與受控系統(tǒng)輸出間得到一個(gè)相同的映射由于不存在反饋，本法魯棒性不足；逆模型參數(shù)可通過在線學(xué)習(xí)調(diào)整，以期把受控系統(tǒng)的魯棒性提高至一定程度NN直接逆控制的兩種結(jié)構(gòu)方案NN1R(t)NN2e(t)u(t)+-y(t)對(duì)象NNEFr(t)e(t)u(t)y(t)對(duì)象225.2.2NN內(nèi)?？刂苹贜N的內(nèi)?？刂频慕Y(jié)構(gòu)圖示于下圖其中，系統(tǒng)模型（NN2）與實(shí)際系統(tǒng)并行設(shè)置反饋信號(hào)由系統(tǒng)輸出與模型輸出間的差得到由NN1（在正向控制通道上一個(gè)具有逆模型的NN控制器）進(jìn)行處理；NN1控制器應(yīng)當(dāng)與系統(tǒng)的逆有關(guān)濾波器

NN1裝置NN2r(t)e(t)u(t)ym(t)d++--235.2.3NN自適應(yīng)控制NN自校正控制（STC）直接自校正控制、間接自校正控制NN參考自適應(yīng)控制（MRAC）NN直接參考自適應(yīng)控制、NN間接參考自適應(yīng)控制常規(guī)控制器裝置NN辨識(shí)器r(t)e(t)u(t)y(t)dNNC參考模型裝置r(t)e(t)u(t)ec(t)ym(t)y(t)d+-+-NN直接參考自適應(yīng)控制間接自校正控制245.3神經(jīng)控制器的設(shè)計(jì)神經(jīng)控制器的設(shè)計(jì)一般應(yīng)過以下內(nèi)容建立受控對(duì)象的數(shù)學(xué)計(jì)算模型或知識(shí)表示模型選擇神經(jīng)網(wǎng)絡(luò)及其算法,進(jìn)行初步辨識(shí)與訓(xùn)練設(shè)計(jì)神經(jīng)控制器,包括控制器結(jié)構(gòu)、功能與推理控制系統(tǒng)仿鎮(zhèn)實(shí)驗(yàn)，并通過實(shí)驗(yàn)結(jié)果改進(jìn)設(shè)計(jì)255.3神經(jīng)控制器的設(shè)計(jì)控制器結(jié)構(gòu)和工作原理FCFIENNC對(duì)象+-eufu++unufy