CMAC網(wǎng)絡(luò)解析課件

CMAC網(wǎng)絡(luò)朱宇濤雙銀鋒葉偉CMAC網(wǎng)絡(luò)朱宇濤雙銀鋒葉偉1CMAC網(wǎng)絡(luò)是J.S.Albus于1975年最先提出來(lái)的，稱(chēng)為：“小腦模型關(guān)節(jié)控制器”，英文縮寫(xiě)是CerebellaModelArculationController。它是仿照小腦如何控制肢體運(yùn)動(dòng)的原理而建立的一種神經(jīng)網(wǎng)絡(luò)模型。CMAC網(wǎng)絡(luò)最初主要用來(lái)求解機(jī)械手的關(guān)節(jié)運(yùn)動(dòng)。W.T.Miller等人把CMAC網(wǎng)絡(luò)成功的運(yùn)用到機(jī)器人的控制上，S.Cetinkunt等又將其運(yùn)用到高精度機(jī)械工具的伺服控制。CMAC網(wǎng)絡(luò)是J.S.Albus于1975年最先2CMAC網(wǎng)絡(luò)的基本結(jié)構(gòu)Xa1a2amw1w2wmYΣ圖一CMAC網(wǎng)絡(luò)的基本結(jié)構(gòu)Xa1a2amw1w2wmYΣ圖一3CMAC網(wǎng)絡(luò)的工作過(guò)程和BP網(wǎng)絡(luò)一樣，CMAC也可以逼近任意的非線形關(guān)系。設(shè)待逼近的函數(shù)映射關(guān)系為其中X＝[x1,x2...xn]T，Y＝[y1,y2...yr]T。如圖一所示，CMAC網(wǎng)絡(luò)通過(guò)兩個(gè)階段映射來(lái)實(shí)現(xiàn)上述關(guān)系?！?】（1）S:X→A，即a＝S(X)。這一功能由CMAC網(wǎng)絡(luò)的輸入層來(lái)實(shí)現(xiàn)。其中a=[a1,a2,…am]T是m維相聯(lián)空間A中的向量。ai

的值只取1或0兩個(gè)值。對(duì)于某個(gè)特定的X，只有其中少數(shù)C個(gè)元素為1，其余大部分元素為0?？梢?jiàn)a＝S(X)實(shí)現(xiàn)的是一個(gè)特定的非線形映射。該非線形映射在設(shè)計(jì)網(wǎng)絡(luò)CMAC網(wǎng)絡(luò)的工作過(guò)程和BP網(wǎng)絡(luò)一樣，CMAC也可以4時(shí)就已經(jīng)確定。輸入空間中的一個(gè)點(diǎn)對(duì)應(yīng)于a中的C個(gè)元素1，也即對(duì)應(yīng)相聯(lián)空間A中的一個(gè)局部區(qū)域。AWF(x1)F(x2)圖二x1x2x3XΣΣC=3a3a4a5時(shí)就已經(jīng)確定。輸入空間中的一個(gè)點(diǎn)對(duì)應(yīng)于a中的C個(gè)元素1，也即5圖三x1x2x3XaWΣΣF(x1)F(x2)C=3ΣF(x3)圖三x1x2x3XaWΣΣF(x1)F(x2)C=3ΣF(x6（2）P：A→Y，即Y=P(a)=Wa，這一功能由CMAC網(wǎng)絡(luò)的輸出層來(lái)實(shí)現(xiàn)。這是一線形映射，其中對(duì)于第i個(gè)輸出，則有（i=1,2,...,r）【2】（2）P：A→Y，即Y=P(a)=Wa，這一功能由CMAC7類(lèi)似于BP網(wǎng)絡(luò)的誤差反向傳播算法，CMAC神經(jīng)網(wǎng)絡(luò)的連接權(quán)學(xué)習(xí)算法為【3】其向量形式為【4】其中：ydi和yi分別表示第i個(gè)輸出分量的期望值和實(shí)際值；β為學(xué)習(xí)率。證明：令，則可以證明，當(dāng)0<β<2時(shí)可保證該學(xué)習(xí)算法的收斂性。類(lèi)似于BP網(wǎng)絡(luò)的誤差反向傳播算法，CMAC神經(jīng)8【5】同時(shí)【4】式可以寫(xiě)為【6】將【6】式代入【5】式可得：【5】同時(shí)【4】式可以寫(xiě)為【6】將【6】式代入【5】式可得：9即【7】【8】若要求迭代學(xué)習(xí)過(guò)程穩(wěn)定，即則根據(jù)離散系統(tǒng)的穩(wěn)定性條件，要求，即要求0<β<2。得證。因?yàn)榧础?】【8】若要求迭代學(xué)習(xí)過(guò)程穩(wěn)定，即則根據(jù)離散系統(tǒng)的穩(wěn)定10CMAC網(wǎng)絡(luò)具有以下特性：（1）可實(shí)現(xiàn)從輸入到輸出的任意映射，輸入向量各分量的量化精度越高，分塊越細(xì)，逼近任意函數(shù)的精度就越高。（2）具有局部擴(kuò)展功能，即在輸入空間中靠近的向量，對(duì)應(yīng)的輸出也是靠近的（見(jiàn)圖三）。（3）采用LMS（最小均方規(guī)則）自適應(yīng)算法，又稱(chēng)δ算法，可得到全局最小值。（4）由于相聯(lián)空間中只有C個(gè)元素為1，其余全部為0，因此在一次訓(xùn)練中只有少數(shù)的連接權(quán)需要調(diào)整，計(jì)算量比BP網(wǎng)絡(luò)要小（見(jiàn)圖二、圖三）。CMAC網(wǎng)絡(luò)具有以下特性：11程序舉例程序舉例12Ap存儲(chǔ)器固定增益控制器CMAC網(wǎng)絡(luò)CMACF(S0)學(xué)習(xí)算法比較Σ軌跡規(guī)劃器SdS0F(Sd)S0S0S0CMAC網(wǎng)絡(luò)在機(jī)械手控制中應(yīng)用的框圖SiΔEAp存儲(chǔ)器固定增益控制器CMAC網(wǎng)絡(luò)CMAC13程序舉例設(shè)一個(gè)二維輸入Si(S?1,S?2),量化級(jí)S?1為5級(jí)，S?2為7級(jí)Step1：從S到M的映射Step2：由M映射到AStep3：由A映射到ApStep4：Ap里的權(quán)值求和得到輸出FStep5：權(quán)值的學(xué)習(xí)和調(diào)整程序舉例14F(Si)ΣAMApM?1M?2SsiCMAC網(wǎng)絡(luò)的詳細(xì)模型S?1S?2C=4C=4F(Si)ΣAMApM?1M?2SsiCMAC網(wǎng)絡(luò)的詳細(xì)模型15S?μaμbμcμdμeμfμgμhμiμjμkμl111110000000020111100000003001111000000400011110000050000111100006000001111000700000011110080000000111109000000001111表一C＝4，共12個(gè)感知器M=12，即量化級(jí)為12時(shí)，輸入S?的激勵(lì)情況列表。S?μaμbμcμdμeμfμgμhμiμjμkμl111116S?m*1abcd2ebcd3efcd4efgd5efgh6ifgh7ijgh8ijkh9ijkl將表一按照下標(biāo)重新列表得到表二。表二S?m*1abcd2ebcd3efcd4efgd5efgh617F(Si)ΣAMApM?1M?2SsiCMAC網(wǎng)絡(luò)的詳細(xì)模型S?1S?2F(Si)ΣAMApM?1M?2SsiCMAC網(wǎng)絡(luò)的詳細(xì)模型18CMAC網(wǎng)絡(luò)朱宇濤雙銀鋒葉偉CMAC網(wǎng)絡(luò)朱宇濤雙銀鋒葉偉19CMAC網(wǎng)絡(luò)是J.S.Albus于1975年最先提出來(lái)的，稱(chēng)為：“小腦模型關(guān)節(jié)控制器”，英文縮寫(xiě)是CerebellaModelArculationController。它是仿照小腦如何控制肢體運(yùn)動(dòng)的原理而建立的一種神經(jīng)網(wǎng)絡(luò)模型。CMAC網(wǎng)絡(luò)最初主要用來(lái)求解機(jī)械手的關(guān)節(jié)運(yùn)動(dòng)。W.T.Miller等人把CMAC網(wǎng)絡(luò)成功的運(yùn)用到機(jī)器人的控制上，S.Cetinkunt等又將其運(yùn)用到高精度機(jī)械工具的伺服控制。CMAC網(wǎng)絡(luò)是J.S.Albus于1975年最先20CMAC網(wǎng)絡(luò)的基本結(jié)構(gòu)Xa1a2amw1w2wmYΣ圖一CMAC網(wǎng)絡(luò)的基本結(jié)構(gòu)Xa1a2amw1w2wmYΣ圖一21CMAC網(wǎng)絡(luò)的工作過(guò)程和BP網(wǎng)絡(luò)一樣，CMAC也可以逼近任意的非線形關(guān)系。設(shè)待逼近的函數(shù)映射關(guān)系為其中X＝[x1,x2...xn]T，Y＝[y1,y2...yr]T。如圖一所示，CMAC網(wǎng)絡(luò)通過(guò)兩個(gè)階段映射來(lái)實(shí)現(xiàn)上述關(guān)系?！?】（1）S:X→A，即a＝S(X)。這一功能由CMAC網(wǎng)絡(luò)的輸入層來(lái)實(shí)現(xiàn)。其中a=[a1,a2,…am]T是m維相聯(lián)空間A中的向量。ai

的值只取1或0兩個(gè)值。對(duì)于某個(gè)特定的X，只有其中少數(shù)C個(gè)元素為1，其余大部分元素為0。可見(jiàn)a＝S(X)實(shí)現(xiàn)的是一個(gè)特定的非線形映射。該非線形映射在設(shè)計(jì)網(wǎng)絡(luò)CMAC網(wǎng)絡(luò)的工作過(guò)程和BP網(wǎng)絡(luò)一樣，CMAC也可以22時(shí)就已經(jīng)確定。輸入空間中的一個(gè)點(diǎn)對(duì)應(yīng)于a中的C個(gè)元素1，也即對(duì)應(yīng)相聯(lián)空間A中的一個(gè)局部區(qū)域。AWF(x1)F(x2)圖二x1x2x3XΣΣC=3a3a4a5時(shí)就已經(jīng)確定。輸入空間中的一個(gè)點(diǎn)對(duì)應(yīng)于a中的C個(gè)元素1，也即23圖三x1x2x3XaWΣΣF(x1)F(x2)C=3ΣF(x3)圖三x1x2x3XaWΣΣF(x1)F(x2)C=3ΣF(x24（2）P：A→Y，即Y=P(a)=Wa，這一功能由CMAC網(wǎng)絡(luò)的輸出層來(lái)實(shí)現(xiàn)。這是一線形映射，其中對(duì)于第i個(gè)輸出，則有（i=1,2,...,r）【2】（2）P：A→Y，即Y=P(a)=Wa，這一功能由CMAC25類(lèi)似于BP網(wǎng)絡(luò)的誤差反向傳播算法，CMAC神經(jīng)網(wǎng)絡(luò)的連接權(quán)學(xué)習(xí)算法為【3】其向量形式為【4】其中：ydi和yi分別表示第i個(gè)輸出分量的期望值和實(shí)際值；β為學(xué)習(xí)率。證明：令，則可以證明，當(dāng)0<β<2時(shí)可保證該學(xué)習(xí)算法的收斂性。類(lèi)似于BP網(wǎng)絡(luò)的誤差反向傳播算法，CMAC神經(jīng)26【5】同時(shí)【4】式可以寫(xiě)為【6】將【6】式代入【5】式可得：【5】同時(shí)【4】式可以寫(xiě)為【6】將【6】式代入【5】式可得：27即【7】【8】若要求迭代學(xué)習(xí)過(guò)程穩(wěn)定，即則根據(jù)離散系統(tǒng)的穩(wěn)定性條件，要求，即要求0<β<2。得證。因?yàn)榧础?】【8】若要求迭代學(xué)習(xí)過(guò)程穩(wěn)定，即則根據(jù)離散系統(tǒng)的穩(wěn)定28CMAC網(wǎng)絡(luò)具有以下特性：（1）可實(shí)現(xiàn)從輸入到輸出的任意映射，輸入向量各分量的量化精度越高，分塊越細(xì)，逼近任意函數(shù)的精度就越高。（2）具有局部擴(kuò)展功能，即在輸入空間中靠近的向量，對(duì)應(yīng)的輸出也是靠近的（見(jiàn)圖三）。（3）采用LMS（最小均方規(guī)則）自適應(yīng)算法，又稱(chēng)δ算法，可得到全局最小值。（4）由于相聯(lián)空間中只有C個(gè)元素為1，其余全部為0，因此在一次訓(xùn)練中只有少數(shù)的連接權(quán)需要調(diào)整，計(jì)算量比BP網(wǎng)絡(luò)要小（見(jiàn)圖二、圖三）。CMAC網(wǎng)絡(luò)具有以下特性：29程序舉例程序舉例30Ap存儲(chǔ)器固定增益控制器CMAC網(wǎng)絡(luò)CMACF(S0)學(xué)習(xí)算法比較Σ軌跡規(guī)劃器SdS0F(Sd)S0S0S0CMAC網(wǎng)絡(luò)在機(jī)械手控制中應(yīng)用的框圖SiΔEAp存儲(chǔ)器固定增益控制器CMAC網(wǎng)絡(luò)CMAC31程序舉例設(shè)一個(gè)二維輸入Si(S?1,S?2),量化級(jí)S?1為5級(jí)，S?2為7級(jí)Step1：從S到M的映射Step2：由M映射到AStep3：由A映射到ApStep4：Ap里的權(quán)值求和得到輸出FStep5：權(quán)值的學(xué)習(xí)和調(diào)整程序舉例32F(Si)ΣAMApM?1M?2SsiCMAC網(wǎng)絡(luò)的詳細(xì)模型S?1S?2C=4C=4F(Si)ΣAMApM?1M?2SsiCMAC網(wǎng)絡(luò)的詳細(xì)模型33S?μaμbμcμdμeμfμgμhμiμjμkμl111110000000020111100000003001111000000400011110000050000111100006000001111000700000011110080000000111109000000001111表一C＝4，共12個(gè)感知器M=12，即量化級(jí)為12時(shí)，輸入S?的激