高級(jí)神經(jīng)網(wǎng)絡(luò)

1、第第8章章 高級(jí)神經(jīng)網(wǎng)絡(luò)高級(jí)神經(jīng)網(wǎng)絡(luò)經(jīng)驗(yàn)知識(shí)基礎(chǔ)經(jīng)驗(yàn)知識(shí)基礎(chǔ)模糊集模糊集隸屬度函數(shù)隸屬度函數(shù)模糊規(guī)則設(shè)計(jì)模糊規(guī)則設(shè)計(jì)模糊系統(tǒng)模糊系統(tǒng) 模糊系統(tǒng)與模糊神經(jīng)網(wǎng)絡(luò)既有聯(lián)系又有區(qū)別，模糊系統(tǒng)與模糊神經(jīng)網(wǎng)絡(luò)既有聯(lián)系又有區(qū)別，其聯(lián)系表現(xiàn)為模糊神經(jīng)網(wǎng)絡(luò)在本質(zhì)上是模糊系統(tǒng)其聯(lián)系表現(xiàn)為模糊神經(jīng)網(wǎng)絡(luò)在本質(zhì)上是模糊系統(tǒng)的實(shí)現(xiàn)，其區(qū)別表現(xiàn)為模糊神經(jīng)網(wǎng)絡(luò)又具有神經(jīng)的實(shí)現(xiàn)，其區(qū)別表現(xiàn)為模糊神經(jīng)網(wǎng)絡(luò)又具有神經(jīng)網(wǎng)絡(luò)的特性網(wǎng)絡(luò)的特性 神經(jīng)網(wǎng)絡(luò)與模糊系統(tǒng)的比較見(jiàn)表神經(jīng)網(wǎng)絡(luò)與模糊系統(tǒng)的比較見(jiàn)表8-1。模糊神經(jīng)。模糊神經(jīng)網(wǎng)絡(luò)充分地利用了神經(jīng)網(wǎng)絡(luò)和模糊系統(tǒng)各自的優(yōu)網(wǎng)絡(luò)充分地利用了神經(jīng)網(wǎng)絡(luò)和模糊系統(tǒng)各自的優(yōu)點(diǎn)，因而受到了重視點(diǎn)，因而受到

2、了重視模糊系統(tǒng)模糊系統(tǒng)神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)獲取知識(shí)獲取知識(shí)專(zhuān)家經(jīng)驗(yàn)專(zhuān)家經(jīng)驗(yàn)算法實(shí)例算法實(shí)例推理機(jī)制推理機(jī)制啟發(fā)式搜索啟發(fā)式搜索并行計(jì)算并行計(jì)算推理速度推理速度低低高高容錯(cuò)性容錯(cuò)性低低非常高非常高學(xué)習(xí)機(jī)制學(xué)習(xí)機(jī)制歸納歸納調(diào)整權(quán)值調(diào)整權(quán)值自然語(yǔ)言自然語(yǔ)言實(shí)現(xiàn)實(shí)現(xiàn)明確的明確的不明顯不明顯自然語(yǔ)言自然語(yǔ)言靈活性靈活性高高低低表表8-1 模糊系統(tǒng)與神經(jīng)網(wǎng)絡(luò)的比較模糊系統(tǒng)與神經(jīng)網(wǎng)絡(luò)的比較 u 將神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力引到模糊系統(tǒng)中，將模糊系將神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力引到模糊系統(tǒng)中，將模糊系統(tǒng)的模糊化處理、模糊推理、精確化計(jì)算通過(guò)分布式的統(tǒng)的模糊化處理、模糊推理、精確化計(jì)算通過(guò)分布式的神經(jīng)網(wǎng)絡(luò)來(lái)表示是實(shí)現(xiàn)模糊系統(tǒng)自組織、

3、自學(xué)習(xí)的重要神經(jīng)網(wǎng)絡(luò)來(lái)表示是實(shí)現(xiàn)模糊系統(tǒng)自組織、自學(xué)習(xí)的重要途徑途徑u 在模糊神經(jīng)網(wǎng)絡(luò)中，神經(jīng)網(wǎng)絡(luò)的輸入、輸出節(jié)點(diǎn)用在模糊神經(jīng)網(wǎng)絡(luò)中，神經(jīng)網(wǎng)絡(luò)的輸入、輸出節(jié)點(diǎn)用來(lái)表示模糊系統(tǒng)的輸入、輸出信號(hào)，來(lái)表示模糊系統(tǒng)的輸入、輸出信號(hào)，神經(jīng)網(wǎng)絡(luò)的隱含節(jié)神經(jīng)網(wǎng)絡(luò)的隱含節(jié)點(diǎn)用來(lái)表示隸屬函數(shù)和模糊規(guī)則點(diǎn)用來(lái)表示隸屬函數(shù)和模糊規(guī)則，利用神經(jīng)網(wǎng)絡(luò)的并行，利用神經(jīng)網(wǎng)絡(luò)的并行處理能力使得模糊系統(tǒng)的推理能力大大提高處理能力使得模糊系統(tǒng)的推理能力大大提高v 模糊神經(jīng)網(wǎng)絡(luò)在本質(zhì)上是將常規(guī)的神經(jīng)網(wǎng)絡(luò)賦予模糊神經(jīng)網(wǎng)絡(luò)在本質(zhì)上是將常規(guī)的神經(jīng)網(wǎng)絡(luò)賦予模糊輸入信號(hào)和模糊權(quán)值模糊輸入信號(hào)和模糊權(quán)值，其學(xué)習(xí)算法通常是神經(jīng)，其學(xué)習(xí)算法通常是

4、神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法或其推廣。模糊神經(jīng)網(wǎng)絡(luò)技術(shù)已經(jīng)獲網(wǎng)絡(luò)學(xué)習(xí)算法或其推廣。模糊神經(jīng)網(wǎng)絡(luò)技術(shù)已經(jīng)獲得了廣泛的應(yīng)用，當(dāng)前的應(yīng)用主要集中在以下幾個(gè)得了廣泛的應(yīng)用，當(dāng)前的應(yīng)用主要集中在以下幾個(gè)領(lǐng)域：模糊回歸、模糊控制、模糊專(zhuān)家系統(tǒng)、模糊領(lǐng)域：模糊回歸、模糊控制、模糊專(zhuān)家系統(tǒng)、模糊矩陣方程、模糊建模和模糊模式識(shí)別矩陣方程、模糊建模和模糊模式識(shí)別v 模糊神經(jīng)網(wǎng)絡(luò)是將模糊系統(tǒng)和神經(jīng)網(wǎng)絡(luò)相結(jié)合而模糊神經(jīng)網(wǎng)絡(luò)是將模糊系統(tǒng)和神經(jīng)網(wǎng)絡(luò)相結(jié)合而構(gòu)成的網(wǎng)絡(luò)。利用構(gòu)成的網(wǎng)絡(luò)。利用rbfrbf網(wǎng)絡(luò)與模糊系統(tǒng)相結(jié)合，構(gòu)網(wǎng)絡(luò)與模糊系統(tǒng)相結(jié)合，構(gòu)成了模糊成了模糊rbfrbf網(wǎng)絡(luò)網(wǎng)絡(luò) (o) ixif)(1第二層：隸屬函數(shù)層，即模糊化

5、層第二層：隸屬函數(shù)層，即模糊化層該層的每個(gè)節(jié)點(diǎn)具有隸屬函數(shù)的功能，采用高斯該層的每個(gè)節(jié)點(diǎn)具有隸屬函數(shù)的功能，采用高斯函數(shù)作為隸屬函數(shù)。對(duì)第函數(shù)作為隸屬函數(shù)。對(duì)第j個(gè)節(jié)點(diǎn)：個(gè)節(jié)點(diǎn)：其中其中和和分別是第分別是第i個(gè)輸入變量的第個(gè)輸入變量的第j個(gè)模糊集個(gè)模糊集合高斯函數(shù)的均值和標(biāo)準(zhǔn)差。合高斯函數(shù)的均值和標(biāo)準(zhǔn)差。2212)()(jijjbcifnet)exp(),(22jnetjifijcjbnj(i,j)f(j)f123niinn1 其中其中 ， 為輸入層中第為輸入層中第i個(gè)輸入隸屬個(gè)輸入隸屬函數(shù)的個(gè)數(shù)，即模糊化層節(jié)點(diǎn)數(shù)。函數(shù)的個(gè)數(shù)，即模糊化層節(jié)點(diǎn)數(shù)。in, njjfjlwfwlf1334,)(wi

6、jcjbwijcjb圖圖8-2 模糊模糊rbf神經(jīng)網(wǎng)絡(luò)逼近神經(jīng)網(wǎng)絡(luò)逼近 取取 ， 和和 分別表示網(wǎng)絡(luò)分別表示網(wǎng)絡(luò)輸出輸出和和理想輸出理想輸出。網(wǎng)絡(luò)的輸入為。網(wǎng)絡(luò)的輸入為u(k)和和y(k)，網(wǎng)絡(luò)的輸出為網(wǎng)絡(luò)的輸出為 ，則網(wǎng)絡(luò)逼近誤差為：，則網(wǎng)絡(luò)逼近誤差為： 采用采用梯度下降法梯度下降法來(lái)修正可調(diào)參數(shù)，定義目來(lái)修正可調(diào)參數(shù)，定義目標(biāo)函數(shù)為：標(biāo)函數(shù)為： 4fkym kym ky kym kykykem 221kee 網(wǎng)絡(luò)的學(xué)習(xí)算法如下：網(wǎng)絡(luò)的學(xué)習(xí)算法如下： 輸出層的權(quán)值通過(guò)如下方式來(lái)調(diào)整輸出層的權(quán)值通過(guò)如下方式來(lái)調(diào)整: 3fkewyyeeewekwmm則輸出層的權(quán)值學(xué)習(xí)算法為：則輸出層的權(quán)值學(xué)習(xí)算

7、法為： 211kwkwkwkwkw其中其中 為學(xué)習(xí)速率，為學(xué)習(xí)速率， 為動(dòng)量因子為動(dòng)量因子輸入隸屬函數(shù)參數(shù)修正算法為：輸入隸屬函數(shù)參數(shù)修正算法為：2222)(2ijijijijjjijijbcxcnetnetecec3222)(2jijijjjjjjbcxbnetnetebeb其中其中 322233222wfkenetffffykenetykenetejmjmjj 211kckckckckcijijijijij 211kbkbkbkbkbjjjjj隸屬函數(shù)參數(shù)學(xué)習(xí)算法為：隸屬函數(shù)參數(shù)學(xué)習(xí)算法為：8.1.3 仿真實(shí)例仿真實(shí)例 使用模糊使用模糊rbf網(wǎng)絡(luò)逼近對(duì)象：網(wǎng)絡(luò)逼近對(duì)象：其中采樣時(shí)間為其中采

8、樣時(shí)間為1ms1ms。 模糊模糊rbf網(wǎng)絡(luò)逼近程序見(jiàn)網(wǎng)絡(luò)逼近程序見(jiàn)chap8_1.m。 23) 1(1) 1()()(kykykuky8.2pi-sigma神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)模糊建模技術(shù)缺點(diǎn)是模糊建模技術(shù)缺點(diǎn)是過(guò)分地依賴(lài)隸屬函數(shù)過(guò)分地依賴(lài)隸屬函數(shù)的準(zhǔn)確性的準(zhǔn)確性。采用高木。采用高木-關(guān)野模糊系統(tǒng)，用一關(guān)野模糊系統(tǒng)，用一種混合型的種混合型的pi-sigma神經(jīng)網(wǎng)絡(luò)，可以建立一神經(jīng)網(wǎng)絡(luò)，可以建立一種自適應(yīng)能力很強(qiáng)的模糊模型。這種模型不種自適應(yīng)能力很強(qiáng)的模糊模型。這種模型不但實(shí)現(xiàn)了模糊模型的但實(shí)現(xiàn)了模糊模型的自動(dòng)更新自動(dòng)更新，而且能不斷，而且能不斷修正修正各模糊子集的各模糊子集的隸屬函數(shù)隸屬函數(shù)，使模

9、糊建模更，使模糊建模更具合理性。具合理性。8.2.1高木高木-關(guān)野模糊系統(tǒng)關(guān)野模糊系統(tǒng) 在高木在高木-關(guān)野模糊系統(tǒng)中，高木和關(guān)野用關(guān)野模糊系統(tǒng)中，高木和關(guān)野用以下以下“ ”“ ”規(guī)則的形式來(lái)定義模糊系統(tǒng)規(guī)則的形式來(lái)定義模糊系統(tǒng)的規(guī)則：的規(guī)則：if is ， is ， ， is then ir1xia12xia2nxinakikiiixpxppy110thenif 對(duì)于輸入向量，高木對(duì)于輸入向量，高木-關(guān)野模糊系統(tǒng)的各規(guī)關(guān)野模糊系統(tǒng)的各規(guī)則輸出則輸出等于各等于各的加權(quán)平均：的加權(quán)平均：miimiiinyy11nyiy式中，加權(quán)系數(shù)式中，加權(quán)系數(shù) 包括了規(guī)則包括了規(guī)則 作用于輸作用于輸入所取得的值

10、。入所取得的值。iir jkiixaij18.2.2混合型混合型pi-sigma神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò) 常規(guī)的前向型神經(jīng)網(wǎng)絡(luò)含有求和節(jié)點(diǎn)，這常規(guī)的前向型神經(jīng)網(wǎng)絡(luò)含有求和節(jié)點(diǎn)，這給處理某些復(fù)雜問(wèn)題帶來(lái)了困難。給處理某些復(fù)雜問(wèn)題帶來(lái)了困難。 一種基于混合型一種基于混合型pi-sigma神經(jīng)網(wǎng)絡(luò)模型如圖神經(jīng)網(wǎng)絡(luò)模型如圖8-5所示，在該網(wǎng)絡(luò)中，輸入神經(jīng)元有所示，在該網(wǎng)絡(luò)中，輸入神經(jīng)元有4個(gè)，個(gè)，s、p和和分別表示相加、相乘和相乘運(yùn)算。分別表示相加、相乘和相乘運(yùn)算。ssssssssppppppppsn lp lp ln lp ln lp ln lk1k2k3k4x1x2x4x3pi0pi1pi2pi3pi41

11、i1yi圖圖8-5具有具有4個(gè)輸入的混合型個(gè)輸入的混合型pi-sigma神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò) miaaaamiiiiiiaaaamiimiiinxxxxxpxpxpxppxxxxyyiiiiiiii14321144332211043211143214321顯然，這種結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)屬于高木顯然，這種結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)屬于高木-關(guān)野模糊系統(tǒng)關(guān)野模糊系統(tǒng)采用該網(wǎng)絡(luò)實(shí)現(xiàn)的模糊系統(tǒng)可方便地在線修正隸屬函采用該網(wǎng)絡(luò)實(shí)現(xiàn)的模糊系統(tǒng)可方便地在線修正隸屬函數(shù)和參數(shù)，適合于復(fù)雜系統(tǒng)的模糊預(yù)測(cè)和控制。數(shù)和參數(shù)，適合于復(fù)雜系統(tǒng)的模糊預(yù)測(cè)和控制。 為方便神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)，各模糊子集的隸屬函數(shù)為方便神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)，各模糊子集的隸屬

12、函數(shù)均取高斯型，即：均取高斯型，即： 網(wǎng)絡(luò)的輸出為：網(wǎng)絡(luò)的輸出為：ijijjabcxij/exp2混合型混合型pi-sigma神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法：假設(shè)網(wǎng)絡(luò)的期望輸出為假設(shè)網(wǎng)絡(luò)的期望輸出為，定義代價(jià)函數(shù)，定義代價(jià)函數(shù)221ndyyedy根據(jù)梯度下降法有：根據(jù)梯度下降法有： ijijijpekpkp1ijimiiindijmiimiiindijnnijpyyypyyypyyepe111 miiindijijijijyykppekpkp11其中其中 ijijijaekckc1 ijijijbekbkb1對(duì)對(duì) 有：有：ijijbc ,其中其中ijiinnijnnijcyyecyyece

13、ijiijjmiimiiimiiindbcxyyyy221112221111ijijjimiimiiimiiindijiinnijnnijbcxyyyybyyebyyebe 222111ijiijjmiimiiimiiindbcxyyyy 211121miiijiijjmiiimiiindijijbcxyyyykckc其中、為學(xué)習(xí)速率 2122111miiijiijjmiiimiiindijijbcxyyyykbkb8.2.3仿真實(shí)例仿真實(shí)例使用混合型使用混合型pi-sigma神經(jīng)網(wǎng)絡(luò)逼近對(duì)象：神經(jīng)網(wǎng)絡(luò)逼近對(duì)象：23) 1(1) 1()()(kykykuky混合型混合型pi-sigma神經(jīng)網(wǎng)絡(luò)

14、神經(jīng)網(wǎng)絡(luò)逼近逼近程序見(jiàn)程序見(jiàn)chap8_2.m8.3 8.3 小腦模型神經(jīng)網(wǎng)絡(luò)小腦模型神經(jīng)網(wǎng)絡(luò)8.3.1cmac概述概述小腦模型神經(jīng)網(wǎng)絡(luò)小腦模型神經(jīng)網(wǎng)絡(luò)（cmac-cerebellarmodelarticulationcontroller）是一種表達(dá)）是一種表達(dá)復(fù)雜非線性函數(shù)的表格查詢(xún)型自適應(yīng)神經(jīng)網(wǎng)復(fù)雜非線性函數(shù)的表格查詢(xún)型自適應(yīng)神經(jīng)網(wǎng)絡(luò)，該網(wǎng)絡(luò)可通過(guò)學(xué)習(xí)算法改變表格的內(nèi)容絡(luò)，該網(wǎng)絡(luò)可通過(guò)學(xué)習(xí)算法改變表格的內(nèi)容，具有信息分類(lèi)存儲(chǔ)的能力。，具有信息分類(lèi)存儲(chǔ)的能力。cmac比其它神經(jīng)網(wǎng)絡(luò)的優(yōu)越性體現(xiàn)在比其它神經(jīng)網(wǎng)絡(luò)的優(yōu)越性體現(xiàn)在l 小腦模型是基于局部學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)，它把信息存儲(chǔ)小腦模型是基于局部學(xué)

15、習(xí)的神經(jīng)網(wǎng)絡(luò)，它把信息存儲(chǔ)在局部結(jié)構(gòu)上，使每次修正的權(quán)極少，在保證函數(shù)非線性在局部結(jié)構(gòu)上，使每次修正的權(quán)極少，在保證函數(shù)非線性逼近性能的前提下，學(xué)習(xí)速度快，適合于實(shí)時(shí)控制逼近性能的前提下，學(xué)習(xí)速度快，適合于實(shí)時(shí)控制l 具有一定的泛化能力，即所謂相近輸入產(chǎn)生相近輸出，具有一定的泛化能力，即所謂相近輸入產(chǎn)生相近輸出，不同輸入給出不同輸出不同輸入給出不同輸出l具有連續(xù)（模擬）輸入輸出能力具有連續(xù)（模擬）輸入輸出能力l采用尋址編程方式，在利用串行計(jì)算機(jī)仿真時(shí)，它將使采用尋址編程方式，在利用串行計(jì)算機(jī)仿真時(shí)，它將使響應(yīng)速度加快響應(yīng)速度加快l cmac函數(shù)非線性逼近器對(duì)學(xué)習(xí)數(shù)據(jù)出現(xiàn)的次序不敏感函數(shù)非線性逼

16、近器對(duì)學(xué)習(xí)數(shù)據(jù)出現(xiàn)的次序不敏感8.3.2一種典型一種典型cmac算法算法cmac網(wǎng)絡(luò)由輸入層，中間層和輸出層組成。網(wǎng)絡(luò)由輸入層，中間層和輸出層組成。在輸入層與中間層、中間層與輸出層之間分別為在輸入層與中間層、中間層與輸出層之間分別為由設(shè)計(jì)者預(yù)先確定的輸入層非線性映射和輸出層由設(shè)計(jì)者預(yù)先確定的輸入層非線性映射和輸出層權(quán)值自適應(yīng)性線性映射。權(quán)值自適應(yīng)性線性映射。 cmac神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)主要包括輸入空間的神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)主要包括輸入空間的化分、輸入層至輸出層非線性映射的實(shí)現(xiàn)及輸出化分、輸入層至輸出層非線性映射的實(shí)現(xiàn)及輸出層權(quán)值學(xué)習(xí)算法。層權(quán)值學(xué)習(xí)算法。cmac是前饋網(wǎng)絡(luò)，輸入輸出之間的非線是前饋網(wǎng)絡(luò)，

17、輸入輸出之間的非線性關(guān)系由以下兩個(gè)基本映射實(shí)現(xiàn)。性關(guān)系由以下兩個(gè)基本映射實(shí)現(xiàn)。（1）概念映射（）概念映射（uac）概念映射是從輸入空間概念映射是從輸入空間u至概念存儲(chǔ)器至概念存儲(chǔ)器ac的映射。的映射。設(shè)輸入空間向量為設(shè)輸入空間向量為，量化編碼為量化編碼為，輸入空間映射至，輸入空間映射至ac中中c個(gè)存儲(chǔ)個(gè)存儲(chǔ)單元（單元（c為二進(jìn)制非零單元的數(shù)目）。為二進(jìn)制非零單元的數(shù)目）。tnp2p1ppu,u,uupucjpjjnuswy1)(cjjnwy1 cmac采用的學(xué)習(xí)算法如下采用的學(xué)習(xí)算法如下： 采用采用學(xué)習(xí)規(guī)則調(diào)整權(quán)值，權(quán)值調(diào)整指學(xué)習(xí)規(guī)則調(diào)整權(quán)值，權(quán)值調(diào)整指標(biāo)為標(biāo)為2)(21tece )()()(

18、tytrte由梯度下降法，權(quán)值按下式調(diào)整：由梯度下降法，權(quán)值按下式調(diào)整：其中其中ctewyctytrwetwj)()()()()2() 1()(1)-(t(t)twtwtwwwjjjjjtcpwwww21其中 為慣性系數(shù) 8.3.3 仿真實(shí)例仿真實(shí)例采用采用cmac網(wǎng)絡(luò)逼近非線性對(duì)象：網(wǎng)絡(luò)逼近非線性對(duì)象： ) 1(1/() 1() 1()(23kykykuky取取u(k)作為網(wǎng)絡(luò)的輸入，采用線性化函數(shù)對(duì)輸入作為網(wǎng)絡(luò)的輸入，采用線性化函數(shù)對(duì)輸入狀態(tài)進(jìn)行量化，實(shí)現(xiàn)狀態(tài)進(jìn)行量化，實(shí)現(xiàn)cmac的概念映射：的概念映射： 其中其中xmin和和xmax輸入的最大最小值，輸入的最大最小值，m為為xmax量化后

19、所對(duì)應(yīng)量化后所對(duì)應(yīng)的最大值，的最大值，round()round()為四舍五入的為四舍五入的matlabmatlab函數(shù)。函數(shù)。minmaxmin)()(xxmxkuroundks采用雜散編碼技術(shù)中的除留余數(shù)法實(shí)現(xiàn)采用雜散編碼技術(shù)中的除留余數(shù)法實(shí)現(xiàn)cmac的的實(shí)際映射。設(shè)雜湊表長(zhǎng)為實(shí)際映射。設(shè)雜湊表長(zhǎng)為m，以元素值，以元素值s(k)+i除以某除以某數(shù)數(shù)n（n=m）后所得余數(shù)）后所得余數(shù)+1作為雜湊地址，實(shí)現(xiàn)了作為雜湊地址，實(shí)現(xiàn)了實(shí)際映射，即實(shí)際映射，即 1mod n)i (s(k)iad其中其中。在仿真中，取在仿真中，取m=100，n=7，取泛化參數(shù)，取泛化參數(shù)c=7, =1.5, =0.05。

20、cmac網(wǎng)絡(luò)逼近程序?yàn)榫W(wǎng)絡(luò)逼近程序?yàn)閏hap8_3.mc,1,2,iiriciiiuivi.jrjcjijujvj1r1c1i1u1v1. . . .ijw 對(duì)于對(duì)于hopfieldhopfield神經(jīng)網(wǎng)絡(luò)第神經(jīng)網(wǎng)絡(luò)第i i個(gè)神經(jīng)元，采用微分方個(gè)神經(jīng)元，采用微分方程建立其輸入輸出關(guān)系，即：程建立其輸入輸出關(guān)系，即： iiiiinjjijiiugviruvwdtduc1ni,.,2,1 sseesg11tnuuu,.,21utnvvv,.,v21tniii,.,21i iiiiviiijjiijnvidvvgrvvwei01121若權(quán)值矩陣 是對(duì)稱(chēng)的（ ），則wjiijww iiiiijiiij

21、ijiniiindtducdtdviruvwdtdvtvvedtde1由于 ,則 iiugv iiiiindtdvdvvdgcdtde21由于由于，雙曲函數(shù)是單調(diào)上升函數(shù)，顯然它的反函數(shù)雙曲函數(shù)是單調(diào)上升函數(shù)，顯然它的反函數(shù) 也為單調(diào)上升函數(shù)，即有也為單調(diào)上升函數(shù)，即有，則可得到則可得到，即，即能量函數(shù)能量函數(shù)，具有負(fù)的梯度，當(dāng)且僅當(dāng)具有負(fù)的梯度，當(dāng)且僅當(dāng)時(shí)時(shí),，（ ）。）。0ic ivg1 01iidvvdg0dtde0dtdvi0dtdenni,.,2 , 1ne 由此可見(jiàn)，隨著時(shí)間的演化，網(wǎng)絡(luò)的解在由此可見(jiàn)，隨著時(shí)間的演化，網(wǎng)絡(luò)的解在狀態(tài)空間中總是朝著能量狀態(tài)空間中總是朝著能量e en

22、n減少的方向運(yùn)動(dòng)。減少的方向運(yùn)動(dòng)。網(wǎng)絡(luò)最終輸出向量網(wǎng)絡(luò)最終輸出向量v v為網(wǎng)絡(luò)的穩(wěn)定平衡點(diǎn)，即為網(wǎng)絡(luò)的穩(wěn)定平衡點(diǎn)，即e en n的極小點(diǎn)。的極小點(diǎn)。8.4.2 8.4.2 基于基于hopfield網(wǎng)絡(luò)的自適應(yīng)控制網(wǎng)絡(luò)的自適應(yīng)控制 1. 系統(tǒng)描述系統(tǒng)描述 被控對(duì)象為一階系統(tǒng)：uj即 其中 為轉(zhuǎn)動(dòng)慣量， 為控制輸入，實(shí)際速度為 。ujn1jun取速度指令為取速度指令為，將控制器設(shè)計(jì)為，將控制器設(shè)計(jì)為“p控控制制+前饋控制前饋控制 ”的形式：的形式：整理得：整理得：ddndfdpnknnku)(dfppdfdpnjkjknjknjknnjkn)(令 , , jk1pkf fpkkg則 dkgnkfn

23、n其中其中f f和和g g為待定控制器參數(shù)，可采用為待定控制器參數(shù)，可采用hopfieldhopfield網(wǎng)絡(luò)進(jìn)行辨識(shí)。網(wǎng)絡(luò)進(jìn)行辨識(shí)。 2. 基于基于hopfield網(wǎng)絡(luò)的控制器優(yōu)化網(wǎng)絡(luò)的控制器優(yōu)化所采用的所采用的hopfield網(wǎng)絡(luò)結(jié)構(gòu)如圖網(wǎng)絡(luò)結(jié)構(gòu)如圖8-11所示。所示。ijw圖圖8-11hopfield網(wǎng)絡(luò)結(jié)構(gòu)網(wǎng)絡(luò)結(jié)構(gòu)控制系統(tǒng)的能量函數(shù)取控制系統(tǒng)的能量函數(shù)取將將表達(dá)式代入上式并展開(kāi)得：表達(dá)式代入上式并展開(kāi)得：2)(21nneddddddfgnnkkgnnkfnngknfkne2222222222222121n取取hopfield網(wǎng)絡(luò)輸出神經(jīng)元數(shù)為網(wǎng)絡(luò)輸出神經(jīng)元數(shù)為2，假設(shè)輸入電，假設(shè)輸入電阻無(wú)窮大，此時(shí)阻無(wú)窮大，此時(shí)hopfield網(wǎng)絡(luò)的標(biāo)準(zhǔn)能量函數(shù)為：網(wǎng)絡(luò)的標(biāo)準(zhǔn)能量函數(shù)為：21212121iiiijjiijnivvvwe將 展開(kāi)，得： ne2211222212212112211121ivivvwvvwvvwvwen令 ，得：gvfv21,21222211221121gifigwfgwfgwfwen 當(dāng)hopfield網(wǎng)絡(luò)處于平衡狀態(tài)時(shí)，能量函數(shù)最小，由網(wǎng)絡(luò)權(quán)值對(duì)稱(chēng)得 ，此時(shí)2112ww0fefen0gegen02221221112111211211igwfwigwgwfwfen022221222ddgnnknknfnk