基于改進人工魚群算法優(yōu)化參數(shù)的支持向量機研究

1、 基于改進人工魚群算法優(yōu)化參數(shù)的支持向量機研究 溫玨Summary：為了降低人為設(shè)定參數(shù)值對支持向量機運行結(jié)果準確度的影響，采用智能算法中的人工魚群算法，搜尋支持向量機相應(yīng)參數(shù)的最優(yōu)解。由于人工魚群算法運算在尋優(yōu)精度和效率方面均有提升空間，故將混沌機制引入人工魚參數(shù)初始化，通過改進固定參數(shù)和行為算子得到支持向量機預(yù)測模型。使用該模型進行中長期電力需求預(yù)測研究，并與其它參數(shù)優(yōu)化算法產(chǎn)生的模型進行均方誤差對比。研究結(jié)果表明：改進后的模型在擬合均方誤差和預(yù)測均方誤差上都優(yōu)于未優(yōu)化的模型，支持向量機在預(yù)測精度方面有一定程度的提升。Key：中長期負荷預(yù)測；支持向量機；人工魚群算法；混沌機制；參數(shù)優(yōu)化；均

2、方誤差DOIDOI：10.11907/rjdk.172423：TP319：A：16727800（2018）003018304英文SummaryAbstract：In order to weaken the effect that artificial parameter values influence on accuracy of result of support vector machine（SVM）， this paper uses the artificial fish swarm algorithm（AFSA）， one of the intelligence algorithms

3、， to search the optimum solution of corresponding parameters of SVM. Owing to the room for improvement in accuracy and efficiency of AFSA， the chaos mechanism is introduced into the parameter initialization of artificial fishes with the improvement of fixed parameters and operator， which reaches the

4、 prediction model of SVM based on parameter optimized by improved AFSA， and helps the prediction study of midandlong term power demand， which compares with models optimized by other algorithm. The results show that the improved model is more excellent than the model without optimization in mean squa

5、re error （MSE） of fitting and forecasting. Besides that， the prediction accuracy of SVM has a certain degree of improvement.英文KeyKey Words：midandlong term load forecast； support vector machine（SVM）； artificial fish swarm algorithm（AFSA）； chaotic mechanism； parameter optimization； mean square error （

6、MSE）0引言電力系統(tǒng)建設(shè)投資大、周期長，為了實現(xiàn)中長期電力系統(tǒng)的合理規(guī)劃和安全運行，應(yīng)盡可能提高電力需求預(yù)測精確度。電力需求預(yù)測指未來某個時段內(nèi)可能產(chǎn)生的電力需求量的一種估算，根據(jù)運算周期長短不同，可分為短期電力需求預(yù)測和中長期電力需求預(yù)測。其中，中長期電力需求預(yù)測的目標一般為月度、季度或年度電力需求13。中長期電力需求預(yù)測研究較為廣泛。孫輝等4對基于灰色預(yù)測理論的電力系統(tǒng)中長期負荷預(yù)測的實用方法進行了研究，在小樣本量、相關(guān)影響因素復(fù)雜的條件下，得到了較為理想的預(yù)測結(jié)果。Rahman等5根據(jù)優(yōu)化向量法比較各種因素對目標變量的影響，并通過專家系統(tǒng)進行預(yù)測。人工智能算法中，Islam等6將網(wǎng)絡(luò)預(yù)

7、測方法運用于中長期電力預(yù)測，雷紹蘭等7使用BP網(wǎng)絡(luò)進行短期電力負荷預(yù)測，牛東曉、Pai等89則利用數(shù)據(jù)挖掘和支持向量機進行電荷預(yù)測。1支持向量機參數(shù)尋優(yōu)1.1支持向量機支持向量機（SVM）是基于統(tǒng)計學概念的機器學習方法，這種方法使用探索結(jié)構(gòu)化風險最小，提升算法的泛化能力，以達成經(jīng)驗風險及置信區(qū)間最小化。其理論基礎(chǔ)來源于統(tǒng)計學的VC統(tǒng)計理論10，在小樣本、非線性特征、局部最優(yōu)和高維模式等方面優(yōu)勢明顯11。它具備較強的魯棒性、泛化能力和非線性擬合能力。起初用于小樣本、非線性的分類問題，隨后逐步應(yīng)用于非線性擬合，表現(xiàn)出良好的性能12。由于核函數(shù)有較強的局部插值能力，且在小樣本前提下比其它算法更具優(yōu)勢

8、，因此本算法更適用于中長期電力需求預(yù)測。在預(yù)測過程中需對參數(shù)實行人工設(shè)定，其中支持向量機參數(shù)中的核函數(shù)和錯誤懲罰因子對運算結(jié)果影響較大，人為設(shè)置參數(shù)使預(yù)測精度難以提高，故需要對損失函數(shù)參數(shù)及核參數(shù)進行相應(yīng)優(yōu)化。近年來常用于支持向量機改進的智能算法有遺傳算法13、果蠅算法、粒子群算法等，本文使用人工魚群算法實現(xiàn)相關(guān)參數(shù)尋優(yōu)。1.2人工魚群算法人工魚群算法14（AFSA）是根據(jù)魚類活動特點總結(jié)出的一種群智能隨機全局優(yōu)化技術(shù)。它學習自然界中魚類的覓食、聚群以及追尾行為，通過魚群中個體間的相互協(xié)助尋覓目標函數(shù)的全局最優(yōu)解。此算法不但有較優(yōu)秀的全局尋優(yōu)能力，而且具備初始值不甚敏感、魯棒性較強、收斂速度快

9、等特點15。因此，本文使用人工魚群算法對支持向量機進行關(guān)鍵參數(shù)的優(yōu)化改進，以便提升支持向量機的穩(wěn)定性和測量精度。 假如在一個D維空間中，共有N條人工魚構(gòu)成了一個整體，而其中第i條人工魚所在的位置可描述成向量Xi，i=1，2，N。人工魚當前位置對應(yīng)的食物濃度（適應(yīng)度）函數(shù)為Y=f（X），其中每條人工魚所處位置都可視作一個潛在的解。將向量Xi代入食物濃度函數(shù)能得出該位置相應(yīng)的適應(yīng)度值Yi，并能使用適應(yīng)度Yi的大小衡量人工魚所在位置Xi的優(yōu)劣。規(guī)定所有人工能檢測到的視野范圍為visual，step為人工魚每次行動前進的步長，為擁擠度因子（1），用以表示某個點周圍的擁擠度大小，try_number為每

10、條人工魚執(zhí)行覓食算子時可進行嘗試的最大次數(shù)。覓食、聚群及追尾算子是構(gòu)成人工魚群算法的3種核心算子，決定了算法性能的優(yōu)劣和參數(shù)尋優(yōu)的精度。如果分別執(zhí)行上述算子后依舊無法改善適應(yīng)度，則需要執(zhí)行隨機算子，該算子不一定能向最優(yōu)解所在方向靠攏，但它能幫助魚群更好地逃離局部最優(yōu)的陷阱，尋覓更理想的解。1.2.1覓食算子設(shè)一條人工魚i當前所在位置為Xi，所對應(yīng)的適應(yīng)度值為Yi，在其視野范圍內(nèi)依照式（1）隨機選定另一位置Xj，其適應(yīng)度值為Yj。如果YiXj=Xi+rand（）stepXj-XiXj-Xi（1）Xnext=Xi+rand（）step（2）1.2.2聚群算子假設(shè)人工魚當前所在位置為Xi，其相應(yīng)適應(yīng)

11、度函數(shù)為Yi，以其自身Xi為中心點的視野范圍visual內(nèi)共存在nf條人工魚。當nf1時，根據(jù)式（3）得出該魚群的中心位置為Xcenter，所對應(yīng)的適應(yīng)度為Ycenter。如果滿足Ycenter/nfYi，表明該魚群中心的食物較為充足且擁擠程度偏低，故根據(jù)式（4）向該中心位置所對應(yīng)的方向移動一步；若不滿足該條件，則選擇執(zhí)行覓食算子。Xcenter=nfj=1Xjnf（3）Xnext=Xi+rand（）stepXcenter-XiXcenter-Xi（4）1.2.3追尾算子在自然狀態(tài)下，如果魚群中的一條或幾條魚尋覓到食物較為充足且不太擁擠的區(qū)域，鄰近的魚就會緊隨其后迅速抵達該點，這在尋優(yōu)算法中表

12、示為一種趨向性。設(shè)人工魚i當前位置為Xi，其相應(yīng)的適應(yīng)度函數(shù)為Yi，人工魚i在當前視野范圍內(nèi)能夠搜尋到的具有適應(yīng)度最大值的人工魚伙伴所在位置為Xmax，則該位置所對的適應(yīng)度值為Ymax。如果YmaxYi，則以Xmax為中心點搜尋在其視野范圍內(nèi)的所有人工魚，所得條數(shù)為nf。如果同時滿足YmaxYi與Ymax/nfYi或YmaxYi，則認為目標點對該人工魚具有較大吸引力，應(yīng)增大向該處移動時的步長step。設(shè)目標點對人工魚吸引的評價標準為Y=（Yintmax-Yintmin）/2，其中Yintmax、Yintmin，分別為初始狀態(tài)下對應(yīng)的適應(yīng)度最大、最小值。在聚群算子中，如果Ycenter-YiY，

13、則如式（7）所示；否則按式（4）進行計算。追尾算子同理可得。Xnext=Xi+rand（）stepXcenter-XiXcenter-XiYcenter-YiY（7）2.3對視野范圍、移動步長和擁擠度因子定值的改進為減小算法運行后期的震蕩，令視野范圍visual、移動步長step根據(jù)下面公式進行相應(yīng)的衰減調(diào)整，使二者隨迭代次數(shù)的增加而減小，以提升算法精度。Visual=Visual+Visualmin（8）step=step+stepmin（9）=e-20k/try_number（10）其中，visualmin、stepmin分別為預(yù)設(shè)的最小視野范圍和最小步長，k為當前算法運行的迭代次數(shù)，tr

14、y_number為算法可執(zhí)行的最大迭代次數(shù)。采用指數(shù)式衰減變化策略18對擁擠度因子進行改進，使隨迭代次數(shù)的增多而逐漸減小，以提高算法的搜索精度。 /a=*（11）=e-0.03Ymax（12）其中Ymax為每次迭代時人工魚位置所對應(yīng)的適應(yīng)度最大值。3實例分析以山西省統(tǒng)計局公布的2010年1月至2016年12月全社會用電量數(shù)據(jù)為研究對象，并取每月同期的主要工業(yè)產(chǎn)品產(chǎn)量（原煤、生態(tài)、粗鋼、鋼材）、地區(qū)生產(chǎn)總值（GDP）、居民消費價格指數(shù)以及當?shù)仄骄鶜鉁貫樘卣髦?。其中?010年1月至2015年12月的相應(yīng)數(shù)據(jù)為向量機訓練樣本，對山西省2016年1月至12月的用電量需求進行預(yù)測。初始數(shù)據(jù)經(jīng)過小波降噪

15、和歸一化處理后所得的每月特征值如圖1所示，其中，橫坐標1-84分別表示2010年1月至2016年12月各月份。分別選取支持向量機參數(shù)預(yù)設(shè)特定值（令錯誤懲罰因子c=2.0，核函數(shù)g=0.1），以及使用粒子群算法（PSO）、人工魚群算法（AFSA）和本文的改進人工魚群算法進行SVM參數(shù)尋優(yōu)，并分別進行支持向量機擬合和預(yù)測。4種算法所得的擬合以及預(yù)測對比如圖2、圖3所示，其中，將2010年1月至2014年12月的數(shù)據(jù)和2011年1月至2015年12月的全社會用電量分別作為向量機樣本擬合的輸入、輸出，并以2015年全年數(shù)據(jù)和2016年全年的全社會用電量為向量機預(yù)測輸入、輸出。通過PSO、AFSA以及改

16、進的AFSA，得出相應(yīng)錯誤懲罰因子和核函數(shù)，同隨機初始參數(shù)一起代入向量機并進行比較，以所得數(shù)據(jù)與原始數(shù)據(jù)的均方誤差作為評判標準。可以看出，人工魚群算法優(yōu)于粒子群算法，且不像隨機初始值一般因設(shè)定值不同變動過大。此外，改進后的人工魚群算法亦比原始算法有所進步。由圖2、圖3可知，原始數(shù)據(jù)波動劇烈，非線性擬合難以得到很高的準確性。在全局擬合方面，由優(yōu)化算法與原始數(shù)據(jù)的均方誤差可知，改進的AFSA算法比其它算法更接近原始數(shù)據(jù)，尤其當原始數(shù)據(jù)出現(xiàn)大幅震蕩時，SVM擬合精度普遍較低，改進的AFSA所得結(jié)果較其它3種優(yōu)化算法更為接近原數(shù)據(jù)。本文采用的改進人工魚群算法可加快尋優(yōu)速度，在AFSA上進一步提升尋優(yōu)效

17、率。與AFSA對比，在相同迭代次數(shù)下更快收斂，且具有更好的收斂效果。代入本文實例，可對比魚群算法和改進魚群算法每次迭代時的最大適應(yīng)度，結(jié)果如圖4所示。在本例中適應(yīng)度值越大表明尋優(yōu)效果越好，由此可知，優(yōu)化后的魚群算法能夠更快更好地進行尋優(yōu)。上述實驗表明，本文提出的改進人工魚群算法優(yōu)化了SVM關(guān)鍵參數(shù)的預(yù)測模型，明顯比單獨的SVM預(yù)測模型以及經(jīng)粒子群算法優(yōu)化的SVM模型有更好的精確度，比未經(jīng)改進的人工魚群算法優(yōu)化的SVM模型的預(yù)測精度也有了進一步提升。4結(jié)語本文利用支持向量機在小樣本、非線性特征、局部最優(yōu)和高維模式等方面的突出優(yōu)勢，對中長期電力需求進行擬合預(yù)測。由于參數(shù)值選取對支持向量機預(yù)測的精確

18、率起關(guān)鍵作用，因此提出了一種運用人工魚群算法對支持向量機關(guān)鍵參數(shù)尋優(yōu)的方法。在此基礎(chǔ)上對人工魚群算法相應(yīng)算子和固定參數(shù)進行合理改進，進一步提升了算法的全局尋優(yōu)能力，加快了運算后期的收斂進程，更好地避免了局部最優(yōu)解。實例證明經(jīng)過改進的人工魚群算法，能有效提高支持向量機的預(yù)測精度。由于中長期電力預(yù)測涉及的數(shù)據(jù)量有限，而相關(guān)領(lǐng)域眾多，未來研究中會對多領(lǐng)域的特征輸入函數(shù)篩選和分類進行改進，以便能夠更加深入、全面地對中長期電力負荷需求預(yù)測進行研究。ReferenceReference：1OOLOFSSON T， ANDERSSON S. Longterm energy demand prediction

19、s based on shortterm measured data J. Energy and Buildings， 2001，33（2）：8591.2廖旎煥，胡智宏，馬瑩瑩，等.電力系統(tǒng)短期負荷預(yù)測方法綜述J.電力系統(tǒng)保護與控制，2011，39（1）：147152.3麥鴻坤，肖堅紅，吳熙辰，等.基于R語言的負荷預(yù)測ARIMA模型并行化研究J.電網(wǎng)技術(shù)，2015，39（11）：32163220.4王大鵬.灰色預(yù)測模型及中長期電力負荷預(yù)測應(yīng)用研究D.武漢：華中科技大學，2013.5RAHMAN S， BABA M. Software design and evaluation of a mic

20、rocomputerbased automated load forecasting system J. Power Systems， IEEE Transactions on， 1989，4（2）：7828.6ISLAM S M， ALALAWI S M， ELLITHY K A. Forecasting monthly electric load and energy for a fast growing utility using an artificial neural networkJ. Electric Power Systems Research， 1995，34（1）：19.7

21、雷紹蘭，孫才新，張曉星，等.基于徑向基神經(jīng)網(wǎng)絡(luò)和自適應(yīng)神經(jīng)模糊系統(tǒng)的電力短期負荷預(yù)測方法J.中國電機工程學報，2005，25（22）：7882.8牛東曉，谷志紅，邢棉，等.基于數(shù)據(jù)挖掘的SVM短期負荷預(yù)測方法研究J.中國電機工程學報，2006，26（18）：612.9PAI P F， HONG W C. Forecasting regional electricity load based on recurrent support vector machines with genetic algorithmsJ. Electric Power Systems Research， 2005，74（3）：417425.10VAPNIK V. The nature of statistical learning theory M. New York； Springer Verlag， 1995.11TAGLI