選擇BP神經網絡參數的例子

1、| 維普資訊 h ttp:/Vd. 5 No. 1Mar. ,20。了水利與建筑工程學報Journal <jF Water R出1山首t啟 and Architectuml Engineer!皿BP神經網絡用于水質評價的參數確定陳興1,程吉林S劉芳自(1.揚州大學信息工程學院，江蘇揚州225009; 2.揚州大學水利科學與工程學院，江蘇楊州225009;3一江蘇省楊泰水文與水資源勘測局，江蘇揚州225002)摘墓：水質評價是事變董的非皺性系貌，而料經網絡解決非統(tǒng)性問題有其獨到優(yōu)勢，其用于水質評價 是較好的方法口在評折時，神經網皓豔數的確定直接影響到評價的精度°通過對輸入輔出數據

2、的歸一 化、祝和闔值的初始值以及網給隱層節(jié)點數確定方法進行探討，優(yōu)化了在水質評價時BP神弊網掛的齧 數并在實際評價中應用從而使評折結果更答觀廁符合實際。關ttW:神經網絡;水質評價;參數魏定中圖分類號：X824,TP183文就標識碼；A文章集號：1672-1144(2007)010012-04Parameters of BP Neural Network in Application of Water Quality EvaluationCHEN Xing1, CHENG Ji-lin2 , LIU Fang31、Cdiege uf Irifurrmliim ErigiTieering, Yu

3、ngzh側 University t Ytirtgxhvu, Jiangsu 225009 * China;2. Cnilege of Hydraulic Science and Engineeting t Yangzhou University t Yangzhou h Jiurtgsu 225009 F Chinu |3” Yangtai hydnjity and WLer Resaurms In-uestigatiurt Bureau af Jiangsu Pruuirtced Yanghou Jiangsu 225002. China)Abstract: Water quality e

4、valuation is a multivariable nonlinear system. As is known to all, neural network (NN) has its original predominance in solving the nonlinear problem so it is a good method to be used for water quality evaluation. The parameters of the neurd network have direct influence on the precision of the eval

5、uation. TTirough the discussion on the normalization of input and output chta, the original value of weight and threshold value, and the ascertaining method of network latent layer node numbers, the parameters of BP NN in water quality evaluation are optimized and applied in practical evaluation, th

6、us making the evaluation outcome more objective and up to practice.Keywords： neural network; water quality evaluation: determination of parameter| 維普資訊 h ttp:/水質評價是水環(huán)境習呈計算和水資源系統(tǒng)規(guī)劃 管理的基礎，有基獨特的重要性。其評價模型較 多早期的一些方法多數需要設計各評價指標對各 級標準的議展函數及各指標的權重個此，評價結果 受評價者主觀因素影響較大q而水質評價是一 個典型的模式識別問題,BP神經網絡技術在模式識 別方面已表現出了

7、很好的特性，文猷3創(chuàng)利用BP 神經網絡進行水質評價進行了一些應用但對網絡 中各種參數的確定都沒有深人進行討論。本文依據 地表水標準地表水環(huán)境質盤標準(GB3838 - 2002)，并結合實際，利用文獻7的BP神經網絡學 習算法對標準中溶解氧等6個指標訓練岀5類水質 的權值和閾值，從而計算出實測水庾的相應導級。1 EP神經網絡模型結構的選擇BP神經網絡需要事先確定網絡結構，也就是隱 層數的確定。根據knlarnngniow定理叭斛定任一 連續(xù)函數廣=匕式中，U是閉單 位區(qū)何0J可以精確地用一個三層BP網絡實 現，并保證了三層網絡精確地實現任意連續(xù)函數。 本文選擇只有一個隱層的RP網絡模型。其算法

8、如 下：第一步初始化。將地表水環(huán)境質抵標準中 用于訓鐮的&個指標歸一化，將5類水質相應值也| 維普資訊 h ttp:/| 維普資訊 h ttp:/收稿同 ffi；2006-06-01帳構日 1(3:2006-09-05基金前目:教育部髙等學校悼上貞專項科研革金(加0刃1口001)作者簡弁戰(zhàn)歟1驅一人男血劇他蘇武進人曲賦博士生主要研丸方向為水利工程倍息化皆J3R哋理倍息黑域應用第1期陳興，等:BP神經網絡用于水質評價的參數確定13第1期陳興，等:BP神經網絡用于水質評價的參數確定14yi = 1/(1 + e_xf)Q進行歸一化，得到輸入、輸出樣本為th t ,j I b1 t2t

9、9; nh $門H = lt2t*fnh = lr2r'*»«/ ； I給各連接權|碼、I兩|和闔值I跖、河I賦隨機的 初始值；第二步 置A二1,把樣本對I工"，必丿提供 給網絡（h lt*f* tnh,j = 1,，力）；第三步計算機隱層各節(jié)點的輸入巧、輸出乂（=1,2,，応）第四步計算輸出層各節(jié)點的輸人些、輸出 y）（i = 1,2 ，瘡）niY碼 y +茅1-1yj = 1/（1 4- e_Jj）Q（5）第五步計算輸岀層各節(jié)點所收到的總輸人變化時單樣本點謀差E*的變化率畫=刃（1旳）（刃一吐訂）（6）<j = 1,冷）第六步計算隱層各節(jié)點所收到

10、的總輸入變 化時單樣本點課差的變化率(7)(i = 1,2,*,«£)第七步修正各連接的權值和閾值t¥i &兔叫=3葫一可丟云3；zw+i/VBE*硏7-勺咅-r+l -x9E*3 hi =3加一引厲文和；(10)磯一仿-帀筑。(11)式中M為修正次數訓為學習速率。第八步 取k = k-務取學習模式對 dkti提供給網絡，轉第三步，直至全部nk個模式對 圳練完畢，轉第九步臼第九步重:復第二步至第八步，直至網絡全局 誤差函數E =若E*二若£ © -血丿（ 小于預先齪的一術廖爲或學習次數大于預先設定的值，結束學習。2輸入輸出數據的歸一化處

11、理2-1輸入數據的歸一化處理輸入樣本根據實際情況選擇了<地表水環(huán)境質 量標準中溶解氧、氨氮等6個崔標的數據，為消除 各指標值的量綱和統(tǒng)一各指標值的變化范圍，可釆 用下列方法進行歸一化處理。設各指標值的樣本 集為龍二人仏= nkhj = I誠“，其中工；山 為第k個樣本第h個指標值對于水質樣本，通常有 三種量：（1）對值牆大污染越嚴重指標的處理公式%h -（13）<2）對于值越小污染越嚴重的指標處理公式禺M = 1 £；.hg,h（14）（3）對于值越中等污染越嚴重的指標處理公式式中:弓心工“心嗣川分別是水質評價標準表中最高等級樣本的第怡個評價措標的臨界值、最低等級第k個評

12、價指標的臨界值和第去個評價指標的中間 最適值;沖川為第k個樣本第h個評價指標去量綱后 的值；£用于調整耳川，使工E O.ljo2.2 輸出值的歸一化處理輸出值中分類數據的取值不同,也可能會形響 到迭代次數和精度，取得不適當，甚至結果會發(fā)散。 如水質評估輸出分成5類，可以取等間隔的值如：dj = (0.2,0.4,0.6,0.8,1.0)(16)也可取dj = (l/Nt2/Nr-,p/N)(17)式中N = 1 + 2 + '* + pp為分類數。3隱層結點數的確定長期以來,隱層結點數的確定尚缺乏嚴格的理 論依據描導，主要根據實際所用模型及具體問題來 確定。目前的研究成果大致

13、可以分為以下幾類： 3.1湊試諼該方法的思想是針對實際問題憑借經驗知識構 造結構不同的若干網絡，分別進行訓練，再根據性能 評價,挑選出最滿意的隱層結點數該方法過程 繁瑣，式童較大。3.2修剪法從一個大規(guī)模的網絡開始，通過柱訓練過程中|維普贄訊 nnp:/www.cqvip.corn|14水利與建筑工程學報|維普贄訊 nnp:/www.cqvip.corn|維普贄訊 nnp:/www.cqvip.corn|仃8)逐步刪除那些不必旻的節(jié)點和權值，最終找到較滿 意的隱層結點數33直接定型法指設計者依據經驗，設計一個固定的網絡隱層 結點數q如宜接依據Kolmogorov定理，對于n個 輸人結點的網絡，

14、采用2n十1個隱層點;或者報據 付英尊在文獻12中給出選擇隱層結點的經驗公 式：L>ti + m 1 p式中rL為隱結點;H為輸人結點數;m為輸岀結點j P為學習樣本數。一般而言隱層結點數的取值范圍 為 A< L<3AO3.4增長法這種方法跟修剪法正好相反，它是從一個小規(guī) 摸的網絡開始，通過在訓練中根據網絡性能要求逐 步增加結點數。根據我們的試算，隱層結點的范圍 在上面3)中所述較好口除了上述方法外,還有用遺傳算法、自適應算法 等確定參數的但都要根據具體問題來確定。4計算實例在地表水環(huán)境質量標準中選擇6個實際評價 指標及其5類標準值作為訓練輸人樣本見表1,輸 出值分為5種情況

15、，并統(tǒng)一進行歸一化。因為該問 題中訓練樣本較少*但其代表性是很好的，要使最后 實測值評價相對準確,其訓練出來的權和閾值應最 佳。我們對權和閾值的初始值、隱層結點數、學習速 率和輸出值的歸一化方法考慮多種情況進行訓練, 并比較各種情況的性能,找出一組最佳的網絡參數。衰1地農水環(huán)境質標準(GB3838-2002單位:mg/LI類II類ID類IV類V類7,56531.52.0高越酸鹽措數M2461015生化BOQsC3346100.0020.002.0.0050.010.1機化物瑤0.0050.04.1 mss點數的確定首先權和國值取(-CL 1,0.1),

16、輸出值取(17) 式的形式，精度£ = 0,0001,學習速率 廠0.5,隱層 結點數根據(18)式的計算結果A = 4.所以取為5 13,即網絡結構為6：513：1分別進行了訓練，其訓 練結果如圖1所示。從圖中可以看出，隱層結點選 10最佳，其訓練出來的平均誤差最小。隱見皓點故圈I隱層結點數與課變關系曲線4.2輸出值取值方法在上面確定網絡結構基礎上，將輸出值分別取 (16)和(17)式蘭種情況進行計算,結果如表2所示。 從表中很明顯可以看出，輸出值取(17)式更佳口*2兩神輸出取值訓體結果鑫數I類11類DI類N類V類標稚輸出0.81.0陽皓*出0.3560,589

17、0,7640.89B0.9940.1560JR90.1640.098-0.006標涮*出0.0670.1330.2000.2670.333網絡輸出00770.1250,2030,2720,3360.01070080.0030.0050.0034.3權和閾值初始值的確定BP算法的傳遞函數取為S型條件下許多資料 都說，權和陶值的切始值應取0-1之間的隨機數。 但根據計算，取-0.1-0. 1之何的均勻隨機數更 好。4.4評價實例報據上面計算結果，確定網絡最隹參數，即：網 絡隱層結點數為10,權和閾值初始值*-0.1-0,1 之間的均勻隨機數，輸出值取為(17)式的形式。根 據這樣的網絡參數訓練岀來

18、一組權和閾值，對揚州 市古運河的揚州閘斷面2004年全年的實測水質數 據進行了評價，其評價結果如表3所示乜從表中結 果看，比原來單因子評價法(最差指標作為茨水質評 價結果)的結果更容規(guī)，里準確o5結論神經網絡用于水質評價大大提高評價的客觀 性，但網絡的參數不同對評價結果有較大的影響,S 此如何確定網絡的參數是關健，本文對權和閾值初 始值的取法、網絡隱層結點數、輸出值的設計尊進行 了研究，經實際應用得到了較好的效果但網絡參 數的確定往往與實際解決的問題有關，所以如何找 出規(guī)律性的參數還有待研究。第1期陳興，等:BP神經網絡用于水質評價的參數確定15M3 2004年揚州市內古運河揚州斷面實測數據及

19、評價結II單位:mg/L日期虱氤生化襦氣澤發(fā)酣帆化詢輸出值單丙7怦價BP網堆評價2004-01-0610.90,934*43.5<0.002<0,004Q. 1495hi類II類2004-02-111L61.134h52.0<0.002<0.0040.1476IV類d類2004-030110.02,654.37.4<0.002<0.0040.1998翁于V類ID類2004-04441.3<0,002<0.0040.1577莊類m類2004-05-108.50.553.41.2<0,002<0.0040.1570i

20、n類m類2004-06098.00,252.90.8<0.002<0.0040.1518(I類m類2004-07-077,10.474.21.4<0/002<0.0040.1725m類m類2004-OS-110.81,5414.87.0<0.002<0.004« 0.3044劈于¥類V攬2004-09X)80,83.656,35.0<0,002<0.0040.3208寶于¥類V類2004-1037.70.344.60.6<0,002<0.0040,1721m類ID類2004-11X)7S.90.284,4

21、1,5<0.002<0.0040J52O皿類ID類2004-12-1510.70.0941.B<0,002<0.0040J30in類11類性：其中揮發(fā)酚和戡化物小于槍出限的均按檢出跟的1戍奧加H算。第1期陳興，等:BP神經網絡用于水質評價的參數確定#第1期陳興，等:BP神經網絡用于水質評價的參數確定#發(fā)考文獻：1 李如忠水質評價理論模式硏究進展及趨勢分折J1. 合肥工業(yè)大學學報,2005,28(4)： 369-372.2 紀桂WL李培紅.水環(huán)境質量評價的人工神經網絡樓塑 及其應用Jh華北水利水電學院學報,1999,20(1)： 60-62.3 禮玉波，王進寶.水環(huán)境質量

22、粽合評價的B-P網絡及層 次分析扶J.太原理工大學學報4998,29(4):441-444.斗馮耀龍，楊慶學應用神經網培評價于橋水庫水質J 那河水利1999衛(wèi)；3也40+5 楊志英.BP神經網絡在水質評價中的應用J.中國農 村水利水電,2001 ,(9)128-29-6 劉連芳，魏礫宏，李愛民，等，神經網絡摸和在遼河水質 壷評價中的應用J.城市環(huán)境與城市生態(tài),2003,16 (6):251-253.了金菊良，丁晶著水資源系統(tǒng)工程M.成都;四川科學 技術出版社，2002.8 趙振寧，徐用懋.摸糊理論和神經網蝎的基礎與應用 MJt京:清華大學出版社,1996.9 金菊良，黃款梅，魏一鳴.基于組合權堇的水質評價模 刑Jh水力發(fā)電學報,2004,23(3):13-19.10 Husken M. et al. Structure optimization of neural ne works for evolutionary design optimisation J + Soft computing詛 fusion of Foundations , Methodologies and Applicaiionst2005,9( 1) ；21-28-11 Hyunjin Lce.et al. Network optimization through learn