數(shù)學(xué)建模之神經(jīng)網(wǎng)絡(luò)(共8頁)

1、精選優(yōu)質(zhì)文檔-傾情為你奉上神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)不需要做許多假設(shè)和和復(fù)雜的數(shù)學(xué)表達(dá)式，只用通過學(xué)習(xí)樣本進(jìn)行訓(xùn)練。一、BP神經(jīng)網(wǎng)絡(luò)1.1簡介BP神經(jīng)網(wǎng)絡(luò)由輸入層、隱層和輸出層三層構(gòu)成。對于BP神經(jīng)網(wǎng)絡(luò)，網(wǎng)絡(luò)的性能受局部不準(zhǔn)確試驗(yàn)數(shù)據(jù)的影響很小。所以BP神經(jīng)網(wǎng)絡(luò)有很強(qiáng)的容錯(cuò)性。缺點(diǎn)：訓(xùn)練時(shí)間較長，求得的解可能是局部極小解。 若R是輸入量的個(gè)數(shù)，是隱層第i個(gè)神經(jīng)元與輸出層第K個(gè)神經(jīng)元的連接權(quán)值，是閾值。則通用神經(jīng)元模型如下：將多個(gè)神經(jīng)元模型串起來會得到n個(gè)神經(jīng)元輸出，第i個(gè)神經(jīng)元輸出為第i個(gè)神經(jīng)元經(jīng)過任意傳遞函數(shù)后得到輸出為BP神經(jīng)網(wǎng)絡(luò)的應(yīng)用沼澤草炭土結(jié)構(gòu)特性及模型研究（下載文檔）2.1步驟構(gòu)造建模方案根

2、據(jù)輸入與輸出關(guān)系寫出表達(dá)式，如三輸入，一輸出的非線性函數(shù)表達(dá)式為相對應(yīng)的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為設(shè)，分別表示BP網(wǎng)絡(luò)三層節(jié)點(diǎn)的輸入節(jié)點(diǎn)，隱節(jié)點(diǎn)，輸出節(jié)點(diǎn)。表示輸入節(jié)點(diǎn)和隱節(jié)點(diǎn)之間的網(wǎng)絡(luò)權(quán)值，表示隱節(jié)點(diǎn)和輸出節(jié)點(diǎn)之間的網(wǎng)絡(luò)權(quán)值，我們用梯度法對BP網(wǎng)絡(luò)的權(quán)值進(jìn)行修正，采用sigmoid函數(shù)。若輸出節(jié)點(diǎn)期望輸出，則有輸入節(jié)點(diǎn)至隱節(jié)點(diǎn)的公式為：閾值修正：誤差： 權(quán)值修正: 隱節(jié)點(diǎn)至輸出節(jié)點(diǎn)的公式為：若有p個(gè)樣本數(shù)，n個(gè)輸出節(jié)點(diǎn)數(shù)，則一個(gè)樣本的誤差為控制誤差范圍是閾值修正：權(quán)值修正：誤差：輸出節(jié)點(diǎn)的計(jì)算公式為：隱節(jié)點(diǎn)的輸出：，其中為輸入節(jié)點(diǎn)的輸入，為連接權(quán)值，為節(jié)點(diǎn)閾值。輸出節(jié)點(diǎn)的輸出：，其中為連接權(quán)值，為節(jié)

3、點(diǎn)閾值。BP算法參數(shù)優(yōu)化一般選取初始權(quán)值的范圍為：（-1，+1），用in,out分別表示輸入層，輸出層的節(jié)點(diǎn)數(shù)，s表示樣本訓(xùn)總數(shù)，則隱含節(jié)點(diǎn)數(shù)的大約取值：程序框圖如下：改進(jìn)BP神經(jīng)網(wǎng)絡(luò)針對BP可能出現(xiàn)局部最小解的問題，我問用帶動(dòng)量因子算法對BP算法學(xué)習(xí)過程進(jìn)行改進(jìn)。方法是在BP算法的基礎(chǔ)上往每個(gè)權(quán)值的變化上再加一項(xiàng)正比于前次權(quán)值變化的值，同時(shí)由方向傳播來產(chǎn)生新的傳播變化。用K，c分別表示訓(xùn)練次數(shù)和動(dòng)量因子，c一般取0.95左右，則權(quán)值調(diào)節(jié)為：二、RBF神經(jīng)網(wǎng)絡(luò)RBF神經(jīng)網(wǎng)絡(luò)是一種三層前向網(wǎng)絡(luò)，首先用徑向基函數(shù)作為隱含層節(jié)點(diǎn)的“基”構(gòu)成隱含層空間，對輸入矢量進(jìn)行一次性變化，將低維的模式輸入映射到

4、高維空間內(nèi)，然后通過對隱含層接點(diǎn)輸出的加權(quán)求和得到輸出。RBF網(wǎng)絡(luò)結(jié)構(gòu)如下2.1 RBF網(wǎng)絡(luò)的應(yīng)用廣州鐵路樞紐運(yùn)貨量預(yù)測（下載文檔）沼澤草炭土結(jié)構(gòu)特性及模型研究（下載文檔）2.2步驟（1）用K均值聚算類算法計(jì)算基函數(shù)中心聚類中心的初始化，一般用最初的m個(gè)訓(xùn)練樣本作為的值。按照最近鄰規(guī)則將樣本集合分組，即將分到中心是的輸入樣本聚類集合中，所以有且。將聚類中心重新調(diào)整，用表示的輸入樣本數(shù)，計(jì)算中樣本的平均值，即聚類中心。若聚類中心有變化則重復(fù)以上步驟，否則進(jìn)入下一步。得到RBF網(wǎng)絡(luò)最終基函數(shù)中心。（2）方差的計(jì)算選取高斯函數(shù)為徑向基函數(shù)，用表示選取中心間的最大距離，則方差為（3）最小二乘法計(jì)算權(quán)值

5、用表示相對于輸入的期望，表示網(wǎng)絡(luò)的計(jì)算輸出，一般誤差準(zhǔn)則是平方誤差最小，即由于基函數(shù)的參數(shù)和已經(jīng)確定，誤差E只是權(quán)重的函數(shù)，要使E達(dá)到最小，則有將上式寫成矩陣形式AW=C,求解此線性方程組即得到w。例題：廣州鐵路樞紐運(yùn)貨量預(yù)測 根據(jù)表1預(yù)測廣州鐵路樞紐的貨運(yùn)量表1 1995-2006年廣州鐵路樞紐貨運(yùn)量 解：（1）預(yù)測目標(biāo)及時(shí)間序列的轉(zhuǎn)換假設(shè)廣州鐵路樞紐貨運(yùn)量的時(shí)間序列值為：，預(yù)測模型中n=12，其中2005年，200年的數(shù)據(jù)在建立預(yù)測模型時(shí)不做學(xué)習(xí)訓(xùn)練樣本,只在后面做測試樣本,檢驗(yàn)?zāi)Ｐ皖A(yù)測效果。 多數(shù)情況下,預(yù)測貨運(yùn)量的年增量即預(yù)測的差值比直接據(jù)測的絕對值最為輸出效果更好。因此,時(shí)間序列可轉(zhuǎn)

6、換為。其中，。 從而將預(yù)測目標(biāo)轉(zhuǎn)換為通過Y預(yù)測，轉(zhuǎn)換結(jié)果如表2。表2 19962006年廣州鐵路樞紐貨運(yùn)量增長值及其歸一化后結(jié)果 （2） 數(shù)據(jù)的預(yù)處理 由于學(xué)習(xí)方法要求輸入層的輸入值在0,1之間,其輸出范圍也要求在0,1之間。但是由表1可知,收集到的鐵路貨運(yùn)量增長值并沒有落在這一范圍內(nèi),使收集到的數(shù)據(jù)與網(wǎng)絡(luò)模型算法要求的數(shù)據(jù)不一致,致使學(xué)習(xí)樣本無法輸入到網(wǎng)絡(luò)模型中去,達(dá)不到學(xué)習(xí)與預(yù)測的目的。因此,必須對收集到的數(shù)據(jù)進(jìn)行歸一化處理。式中，為第i個(gè)增長值的實(shí)際值;minY為序列中的最小值;n為序列中絕對值最大的值的位數(shù),這里n=4,歸一化后的結(jié)果如表2。(3)時(shí)間序列向標(biāo)準(zhǔn)表格形式的轉(zhuǎn)換在實(shí)際的預(yù)

7、測中,對某一年貨運(yùn)量增長值的預(yù)測結(jié)果影響最大的是本年度前幾年的貨運(yùn)量增長值,越接近該年的貨運(yùn)量增長值,對該年的影響越大。為使模型能多次重復(fù)使用,并充分利用已有信息,我們將新數(shù)據(jù)不斷加入到模型中,去掉一些較為陳舊的數(shù)據(jù),則可獲得既能體現(xiàn)未來發(fā)展趨勢的數(shù)據(jù),又能維持模型的計(jì)算量不變。所以,如果把時(shí)間序列的窗口設(shè)定為4,即以連續(xù)4年歸一化后的貨運(yùn)量增長值來預(yù)測第5年歸一化后的貨運(yùn)量增長值。如2006對年歸一化后的貨運(yùn)量增長值進(jìn)行預(yù)測,使用的是2002年2005年的歸一化后的貨運(yùn)量增長值。（4）RBF網(wǎng)絡(luò)的建立根據(jù)題，我們建立的網(wǎng)絡(luò)是輸出層為5個(gè)結(jié)點(diǎn),輸出層為1個(gè)節(jié)點(diǎn)的神經(jīng)網(wǎng)絡(luò)模型。采用實(shí)驗(yàn)的方法,通

8、過選取不同的模型均方性能指標(biāo),分析獲得相應(yīng)的結(jié)果。隱含層基函數(shù)選取的是高斯基函數(shù),中心訓(xùn)練方法采用的是K均值聚類算法。選取模型的性能指標(biāo)為0.01。學(xué)習(xí)與訓(xùn)練數(shù)據(jù)如表3所示。表3 時(shí)間序列向標(biāo)準(zhǔn)表格形式的轉(zhuǎn)換（窗口利用RBF神經(jīng)網(wǎng)絡(luò)進(jìn)行樞紐貨運(yùn)量的預(yù)測,并與BP神經(jīng)網(wǎng)絡(luò)比較。其中BP神經(jīng)網(wǎng)絡(luò)預(yù)測模型與RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型一樣是基于時(shí)間增長值序列,學(xué)習(xí)率自適應(yīng)調(diào)整策略利用數(shù)值優(yōu)化法來實(shí)現(xiàn)反傳算法,隱含層的節(jié)點(diǎn)數(shù)為5。通過建立好的模型去預(yù)測2007一2008年的貨運(yùn)量,結(jié)果如下表4所示。表4 2000一2006年廣州鐵路樞紐實(shí)際貨運(yùn)量與預(yù)測值分析從表4上可以看出,基于徑向基(RBF)的神經(jīng)網(wǎng)絡(luò)的平均誤差為3.48%,BP神經(jīng)網(wǎng)絡(luò)的平均誤差5.38%,這就說明基于徑向基的神經(jīng)網(wǎng)絡(luò)輸出的結(jié)果更精確、誤差更小,可以更好更有效地對鐵路貨運(yùn)量進(jìn)行預(yù)測。故將1995一2