RBF神經(jīng)網(wǎng)絡(luò)-教程

RBF神經(jīng)網(wǎng)絡(luò)

信息工程學(xué)院AlenFielding1RBF神經(jīng)網(wǎng)絡(luò)徑向基函數(shù)(RBF-RadialBasisFunction)神經(jīng)網(wǎng)絡(luò)是由J.Moody和C.Darken在80年月末提出的一種神經(jīng)網(wǎng)絡(luò),它是具有單隱層的三層前饋網(wǎng)絡(luò)。由于它模擬了人腦中局部調(diào)整、相互掩蓋接收域〔或稱感受野-ReceptiveField〕的神經(jīng)網(wǎng)絡(luò)構(gòu)造，因此，RBF網(wǎng)絡(luò)是一種局部靠近網(wǎng)絡(luò)，它能夠以任意精度靠近任意連續(xù)函數(shù)，特殊適合于解決分類問(wèn)題。2RBF網(wǎng)絡(luò)構(gòu)造RBF網(wǎng)絡(luò)的構(gòu)造與多層前向網(wǎng)絡(luò)類似，它是一種三層前向網(wǎng)絡(luò)。第一層即輸入層由信號(hào)源節(jié)點(diǎn)組成；其次層為隱含層，隱單元數(shù)視所描述的問(wèn)題的需要而定，隱單元的變換函數(shù)是RBF，它是對(duì)稱中心徑向?qū)ΨQ且衰減的非線性函數(shù)；第三層為輸出層，它對(duì)輸入模式的作用做出響應(yīng)。由于輸入到輸出的映射是非線性的，而隱含層空間到輸出空間的映射是線性的，從而可以大大加快學(xué)習(xí)速度并避開局部微小問(wèn)題。圖1RBF網(wǎng)絡(luò)構(gòu)造3RBF網(wǎng)絡(luò)特點(diǎn)前向網(wǎng)絡(luò)；RBF網(wǎng)絡(luò)的作用函數(shù)為高斯函數(shù)，是局部的，BP網(wǎng)絡(luò)的作用函數(shù)為S函數(shù)，是全局的；如何確定RBF網(wǎng)絡(luò)隱層節(jié)點(diǎn)的中心及基寬度參數(shù)是一個(gè)困難的問(wèn)題；RBF網(wǎng)絡(luò)具有唯一最正確靠近的特性，且無(wú)局部微小。4RBF網(wǎng)絡(luò)的靠近承受RBF網(wǎng)絡(luò)靠近一對(duì)象的構(gòu)造如圖2所示。圖2RBF神經(jīng)網(wǎng)絡(luò)靠近在RBF網(wǎng)絡(luò)構(gòu)造中，為網(wǎng)絡(luò)的輸入向量。設(shè)RBF網(wǎng)絡(luò)的徑向基向量:其中hj為高斯基函數(shù)：式中，表示歐式范數(shù)網(wǎng)絡(luò)的第j個(gè)結(jié)點(diǎn)的中心矢量為：其中，i=1,2,…n；j=1,2,…m。設(shè)網(wǎng)絡(luò)的基寬向量為：為節(jié)點(diǎn)的基寬度參數(shù)，且為大于零的數(shù)。網(wǎng)絡(luò)的權(quán)向量為：k時(shí)刻網(wǎng)絡(luò)的輸出為：

設(shè)抱負(fù)輸出為y(k)，則性能指標(biāo)函數(shù)為：

5RBF網(wǎng)絡(luò)的學(xué)習(xí)算法RBF神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法需要求解的參數(shù)有3個(gè)：基函數(shù)的中心、隱含層到輸出層權(quán)值以及節(jié)點(diǎn)基寬參數(shù)。依據(jù)徑向基函數(shù)中心選取方法不同，RBF網(wǎng)絡(luò)有多種學(xué)習(xí)方法，如梯度下降法、隨機(jī)選取中心法、自組織選區(qū)中心法、有監(jiān)視選區(qū)中心法和正交最小二乘法等。下面依據(jù)梯度下降法，輸出權(quán)、節(jié)點(diǎn)中心及節(jié)點(diǎn)基寬參數(shù)的迭代算法如下。

其中,為學(xué)習(xí)速率，為動(dòng)量因子。(雅克比陣)(即為對(duì)象的輸出對(duì)把握輸入的靈敏度信息)算法為：其中取。使用RBF網(wǎng)絡(luò)靠近以下對(duì)象：6RBF網(wǎng)絡(luò)靠近仿真實(shí)例7RBF網(wǎng)絡(luò)的優(yōu)點(diǎn)：神經(jīng)網(wǎng)絡(luò)有很強(qiáng)的非線性擬合力氣，可映射任意簡(jiǎn)潔的非線性關(guān)系，而且學(xué)習(xí)規(guī)章簡(jiǎn)潔，便于計(jì)算機(jī)實(shí)現(xiàn)。具有很強(qiáng)的魯棒性、記憶力氣、非線性映射力氣以及強(qiáng)大的自學(xué)習(xí)力氣，因此有很大的應(yīng)用市場(chǎng)。①它具有唯一最正確靠近的特性，且無(wú)局部微小問(wèn)題存在。②RBF神經(jīng)網(wǎng)絡(luò)具有較強(qiáng)的輸入和輸出映射功能，并且理論證明在前向網(wǎng)絡(luò)中RBF網(wǎng)絡(luò)是完成映射功能的最優(yōu)網(wǎng)絡(luò)。③網(wǎng)絡(luò)連接權(quán)值與輸出呈線性關(guān)系。④分類力氣好。⑤學(xué)習(xí)過(guò)程收斂速度快。8RBF網(wǎng)絡(luò)的缺點(diǎn)最嚴(yán)峻的問(wèn)題是沒力氣來(lái)解釋自己的推理過(guò)程和推理依據(jù)。不能向用戶提出必要的詢問(wèn)，而且當(dāng)數(shù)據(jù)不充分的時(shí)候，神經(jīng)網(wǎng)絡(luò)就無(wú)法進(jìn)展工作。把一切問(wèn)題的特征都變?yōu)閿?shù)字，把一切推理都變?yōu)閿?shù)值計(jì)算，其結(jié)果勢(shì)必是喪失信息。理論和學(xué)習(xí)算法還有待于進(jìn)一步完善和提高。隱層基函數(shù)的中心是在輸入樣本集中選取的,這在很多狀況下難以反映出系統(tǒng)真正的輸入輸出關(guān)系,并且初始中心點(diǎn)數(shù)太多;另外優(yōu)選過(guò)程會(huì)消逝數(shù)據(jù)病態(tài)現(xiàn)象。9RBF神經(jīng)網(wǎng)絡(luò)的應(yīng)用圖像處理，語(yǔ)音識(shí)別，時(shí)間系列猜測(cè)，雷達(dá)原點(diǎn)定位，醫(yī)療診斷，錯(cuò)誤處理檢測(cè)，模式識(shí)別等。

總之，RBF網(wǎng)絡(luò)用得最多之處是用于分類。在分類之中，最廣的還是模式識(shí)別問(wèn)題。次之是時(shí)間序列分析問(wèn)題。

Thanks依據(jù)神經(jīng)網(wǎng)絡(luò)運(yùn)行過(guò)程中的信息流向，可分為前饋式和反響式兩種根