粒子群優(yōu)化算法綜述

〔摘要〕粒子群優(yōu)化(PSO)算法是一種新興的優(yōu)化技術(shù)，其思想來(lái)源于人工生命和演化計(jì)算理論。PSO通過(guò)粒子追隨自己找到的最優(yōu)解和整個(gè)群的最優(yōu)解來(lái)完成優(yōu)化。該算法簡(jiǎn)單易實(shí)現(xiàn)，可調(diào)參數(shù)少，已得到廣泛研究和應(yīng)用。詳細(xì)介紹了PSO的基本原理、其特點(diǎn)、各種改進(jìn)方式及其應(yīng)用等，并對(duì)其未來(lái)的研究進(jìn)行展望?！彩告I詞〕群體智能；優(yōu)化算法；粒子群優(yōu)搜索空間中一只鳥(niǎo)的位置，稱這些鳥(niǎo)為”粒子”Dorig。等憶、追隨當(dāng)前的最優(yōu)粒子，在解空間中搜索。每從生物進(jìn)化的機(jī)理中受到啟發(fā)，通過(guò)模擬螞蟻的次迭代的過(guò)程不是完全隨機(jī)的，如果找到較好物群體卻表現(xiàn)出處理復(fù)雜問(wèn)題的能力，群體智能的另一個(gè)極值點(diǎn)是整個(gè)種群目前找到的最好就是這些團(tuán)體行為在人工智能問(wèn)題中的應(yīng)用。粒解，稱為全局極值點(diǎn)(用gbest表示其位置)，而前其應(yīng)用已擴(kuò)展到組合優(yōu)化問(wèn)題。由于其簡(jiǎn)單、為粒子的鄰居，所有鄰居中的最好和研究。粒子群算法在求解優(yōu)化函數(shù)時(shí)，表現(xiàn)解后，粒子根據(jù)如下的式(1)和式(2)來(lái)更新自己題，通過(guò)迭代尋優(yōu)計(jì)算，能夠迅速找到近似解，表示，位置表示為因而粒子群算法在匸程計(jì)算中被廣泛的解對(duì)應(yīng)于粒子群優(yōu)化算法是基于群體的演化算似.蹤它有限數(shù)量的鄰居，但最終的整體結(jié)果是整個(gè)通過(guò)跟蹤這兩個(gè)最佳位置式鳥(niǎo)群好像在一個(gè)中心的控制之下，即復(fù)雜的全局(1)和(2)分別更新各微粒的速度和位置。源于對(duì)鳥(niǎo)群捕仗行為在每一次迭代中，評(píng)價(jià)各微物，那么找到食物的最簡(jiǎn)單有效的策略就是搜尋目前離食物最產(chǎn)生的，并用于解決優(yōu)化問(wèn)題。另外，人們通常是以他們M己及他人的經(jīng)驗(yàn)來(lái)作為決策的依據(jù)，這就構(gòu)成了PSOViJ(t)+cjrjRj-XqCt)]+c2r2[^g.j-Xq(t)](1)XiJ(t+1)=XiJ(t)+VjJCt4-CpC2是加速系數(shù)(或稱學(xué)習(xí)因子)，分設(shè)每一個(gè)粒子在大小1的鄰域CpC2是加速系數(shù)(或稱學(xué)習(xí)因子)，分設(shè)每一個(gè)粒子在大小1的鄰域的最大步長(zhǎng)，若太小，則粒子可能遠(yuǎn)離目標(biāo)區(qū)域,若太大則會(huì)導(dǎo)致突然向目標(biāo)區(qū)域飛去，或飛過(guò)目標(biāo)區(qū)域。合適的cl,c2可以加快收斂且不易斂慢，但不容易陷入局部最優(yōu)。在實(shí)際應(yīng)用隨機(jī)數(shù)。通過(guò)設(shè)置微粒的速度區(qū)間［Vmin,%3PSO的改進(jìn)通常是在允許的范圍內(nèi)隨機(jī)產(chǎn)生法相結(jié)合，研究各種混合優(yōu)化算法，達(dá)到取且計(jì)算出其相應(yīng)的個(gè)體極值(即個(gè)體極值點(diǎn)的適應(yīng)度值)，而全局極值(即全局極值點(diǎn)的適應(yīng)度值)就是個(gè)體極值中最好的，記長(zhǎng)補(bǔ)短、改善算歷史最佳位置和領(lǐng)域或群體歷史最佳位置劇集，形成粒子種群的快速趨同效應(yīng)，容易出現(xiàn)陷入局部極限、早熟置為該粒子的位置，且更新個(gè)體極值。如果所有粒子的個(gè)體極值中最好的好數(shù)。算法具體參數(shù)設(shè)置不同，結(jié)果怒同。算法具體參數(shù)主要依賴于微粒個(gè)數(shù)、慣性權(quán)重、學(xué)習(xí)因子，以及添研究人員相繼提出記錄該粒子的序粒子群初始化了各種改進(jìn)措施。本文將這些改進(jìn)分為4子的位置，類：粒子群初始化、鄰域拓?fù)?、參?shù)選擇和研究表明，粒子群初始化對(duì)算法性能產(chǎn)前的迭代次數(shù)達(dá)到了預(yù)先設(shè)定的最大次數(shù)(或生一定影響【"I。為了初里種群盡可能均勻達(dá)到最小錯(cuò)誤要求)，則停I上迭代，輸出最覆蓋整個(gè)搜索空間，提高全局搜索能力，(CVTs)的種群初始化方法；薛明志等人［18］采用正交有全局版和局部版兩種，全局版收斂快，但有時(shí)弓I子來(lái)避免早熟，假設(shè)計(jì)方法對(duì)種群進(jìn)行初始們具有正交的運(yùn)動(dòng)軌跡：文獻(xiàn)［16］認(rèn)為均勻分布隨機(jī)數(shù)進(jìn)行初始化實(shí)現(xiàn)容易但尤其對(duì)高維空間效果差，并另外比較了3種初始化分布方3.2、鄰域拓?fù)涓鶕?jù)粒子鄰域是否為整個(gè)群然具有較快的收斂速度，但更容易陷入局部極采用每個(gè)粒子僅在一定的鄰域內(nèi)進(jìn)行信息交換，究成果，本文將鄰域分為空間鄰域(spatial使用簇分析將整個(gè)粒子群劃分為多個(gè)簇，然后用子相似性動(dòng)態(tài)地將粒子群體按種類劃分為多個(gè)子種群，再以每個(gè)子種群的最佳個(gè)體作為每個(gè)粒子構(gòu)，歷史最佳位置更優(yōu)的粒子處于上層，每個(gè)粒子的速度由自身歷史最佳位置和等級(jí)樹(shù)中處于該粒子上一個(gè)節(jié)點(diǎn)的粒子的歷史最佳位置決定。o空間鄰域直接在搜索空間按粒子間的距離(如一個(gè)時(shí)變的歐式空間鄰域算子：在搜索初始階段，將鄰域定義為每個(gè)粒子白身：隨著迭代次數(shù)的增加，將鄰域范圍逐漸擴(kuò)展到整個(gè)種群。性能空間指根據(jù)性能指標(biāo)(如適應(yīng)度、目標(biāo)函數(shù)值戊U分的鄰域，如文獻(xiàn)［24］采用適應(yīng)度距離鄰粒子。社會(huì)尖系鄰域通常按粒子存儲(chǔ)陣列的索引編號(hào)進(jìn)行劃分［25］,這也是研尢最多的一種劃分手段，主要有這些拓?fù)涞男阅鼙憩F(xiàn)各異；但總的來(lái)說(shuō)，隨機(jī)拓?fù)渫鶎?duì)大多數(shù)問(wèn)題能表現(xiàn)出較好的性能，其次model),其中包含一個(gè)主群體，多個(gè)仆群體，仆群體進(jìn)行獨(dú)立的搜索，主群體在仆群體提供的最佳位置基礎(chǔ)上開(kāi)展搜索。文獻(xiàn)索。文獻(xiàn)［14］則每間隔一定代數(shù)將整個(gè)群體身和鄰域的歷史最佳位置聚集，而沒(méi)有向鄰域內(nèi)其他個(gè)體(即使這些個(gè)體很優(yōu)秀)學(xué)習(xí)，造成信息資源的浪費(fèi)，共至因此而陷入局部極值；考慮到其他粒子的成功經(jīng)驗(yàn)。上述粒子間學(xué)習(xí)是在整個(gè)D維空間中隨機(jī)拓?fù)?。此外，文獻(xiàn)〔21〕提出動(dòng)態(tài)社會(huì)構(gòu)造鄰域進(jìn)行的，這樣當(dāng)搜索空間維數(shù)較高增加，逐漸增加粒子間連接，最后形成星形拓此外，還有其它一些主要對(duì)群體進(jìn)行劃分的鄰域結(jié)構(gòu)(本文暫稱“宏觀鄰域”；則上述鄰域稱為“微觀鄰域”)。文獻(xiàn)［19］引入了子種群，子種群間通過(guò)繁殖時(shí)往往容易遭受“維數(shù)路就是采用協(xié)作行為，利用多個(gè)群體分別在目標(biāo)搜索空間中的不同維度上進(jìn)行搜索，也就是一個(gè)優(yōu)化解由多個(gè)獨(dú)立群體協(xié)作完成，每個(gè)群體只負(fù)責(zé)優(yōu)化這個(gè)解矢量部分［1&19］的技術(shù)，提出了等級(jí)協(xié)作進(jìn)行D-維空間搜索、乂能在不同維上選擇不同法，根據(jù)個(gè)體當(dāng)前位置的適應(yīng)度，將每一個(gè)個(gè)體與其它若干個(gè)個(gè)體相比較，然后依據(jù)比較結(jié)果對(duì)學(xué)習(xí)對(duì)象的新的學(xué)習(xí)策略，稱為全而學(xué)習(xí)半的當(dāng)前位置和速度差一半的位置和速度，同時(shí)保留每個(gè)個(gè)體所記憶的個(gè)體最好位置；部模型。還有一類局部模型就是主動(dòng)改變粒子鄰域空間，避免碰撞和擁擠，本文稱之為PSO的［3］將粒子分為自然粒子和帶電粒子，當(dāng)帶電粒子過(guò)于接近時(shí)產(chǎn)生斥力，使之分開(kāi)以提高粒鄰粒子距離成反比的自組織危險(xiǎn)度(self-高，當(dāng)達(dá)到一定閾值后，對(duì)該粒子進(jìn)行重新初始化或推開(kāi)一定距離降低危險(xiǎn)度，達(dá)到提高群體多樣性的目的；文獻(xiàn)［15］提出一種帶空間粒子殖多種操作同時(shí)「I適應(yīng)確定速度更新公式中的等人［8］利用差分進(jìn)化(DE)操作選擇速度更新高算法的局部搜索能力，如文獻(xiàn)［9］提出一種粒子是否會(huì)碰撞，并采取隨機(jī)彈離、實(shí)際物理彈離、簡(jiǎn)單的速度一直線彈離等措施將其分開(kāi)。還有作者引入其它一些機(jī)制，以改進(jìn)PS0的性能。文獻(xiàn)［6］根據(jù)耗散結(jié)構(gòu)的自組織性，提高粒子多樣性、增強(qiáng)粒子的全局探索能力，或提出一種耗散粒子群優(yōu)化算法(dissipative者提高局部開(kāi)發(fā)能力、增強(qiáng)收斂速度與精度。這PSO)。該算法通過(guò)附加噪聲持續(xù)為粒子群引入術(shù)門(mén)適應(yīng)調(diào)整收縮因子/慣性權(quán)值、加速常數(shù)傭于天線優(yōu)化設(shè)計(jì)利遞歸神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)：文獻(xiàn)態(tài)的狀態(tài)，乂由于群體中存在內(nèi)在的非線性相互作用，從而形成自組織耗散結(jié)構(gòu)，使粒子群能夠“持續(xù)進(jìn)化抑制早熟停滯。文獻(xiàn)［7］將白然進(jìn)化過(guò)程中的群體滅絕現(xiàn)象引入PSO,在微粒的位置和速度更新之后，按照一個(gè)預(yù)先定義的滅絕間隔重新初始化所有微粒的速度。文獻(xiàn)［8］通過(guò)為修改速度更新公式，實(shí)現(xiàn)種群內(nèi)信息充分共亨，防止了微粒因缺乏足夠的信息而判斷失誤所導(dǎo)致陷入局部極小。文獻(xiàn)［9］將引力場(chǎng)模型引常數(shù)和慣性常數(shù)或收縮因等。a)最大速度的選擇：如式(2.1)所小的粒2)產(chǎn)生的運(yùn)動(dòng)軌跡是不可控的，使得粒子在問(wèn)題跳動(dòng)，速度往往被限制在L-vimx?vinax］內(nèi)。增大，有利于全高，粒子運(yùn)動(dòng)軌跡可能失去規(guī)律性，哄至越過(guò)最優(yōu)解所在區(qū)域，導(dǎo)致算法難以收斂而陷入停滯狀態(tài)；相反％%太小，粒子運(yùn)動(dòng)步長(zhǎng)太短，算法可能陷入局部極値［3］。此外，文獻(xiàn)［17］提出了的動(dòng)態(tài)調(diào)節(jié)方法以改善算法性能：而文獻(xiàn)［48］提出了也白適應(yīng)于稍:體最佳和最差適應(yīng)度值％<的選擇方法。b)加速常數(shù)的選擇：式(1)中的加速常數(shù)勺和6分別用于控制粒子指向自身或鄰域最佳位取出白適應(yīng)時(shí)變調(diào)整策略，即勺隨著進(jìn)化代數(shù)從2.的粒子群算法，根據(jù)群體多樣性指標(biāo)調(diào)整加速和探索新區(qū)域的能力，而收縮因子方法則不于實(shí)現(xiàn)，沒(méi)有很多參數(shù)需要調(diào)整，且不需要梯c)慣性權(quán)值或收縮因子的選擇：當(dāng)PSO的速度更新公式采用式仃)時(shí)，即使和兩個(gè)加速因子選擇合適，粒子仍然可能飛出問(wèn)題空間，其至趨于無(wú)窮大，發(fā)生群體"其中為慣性常數(shù)。文獻(xiàn)［8］建議隨著更獻(xiàn)［15］通過(guò)采用隨機(jī)近似理論(stochastic提出了一種隨更新代數(shù)遞減至0的取值策略，以提高算法的搜索略，算法后期由于慣性權(quán)值過(guò)小，會(huì)失去化問(wèn)題和混合整數(shù)非線性優(yōu)化問(wèn)題的有效優(yōu)化匸具［1］。目前己經(jīng)廣泛應(yīng)用丁?函數(shù)優(yōu)化、神經(jīng)網(wǎng)絡(luò)訓(xùn)練、模糊系統(tǒng)控制以及其他遺確定神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)。作為演化神經(jīng)網(wǎng)絡(luò)的例獻(xiàn)［23］中用改進(jìn)的速度更新方程訓(xùn)練模糊神標(biāo)優(yōu)化問(wèn)題、最小最大化問(wèn)題、整數(shù)規(guī)劃問(wèn)題有:模糊控制器設(shè)計(jì)、車間作業(yè)調(diào)度、機(jī)器人實(shí)時(shí)路徑規(guī)劃、自動(dòng)目標(biāo)檢測(cè)、時(shí)頻分析等2吋q皿ft)+射)(珂■鯊子群優(yōu)化算法是一種新興并沒(méi)有給出收斂性、收斂速度估計(jì)等方面的數(shù)些研究，但是目前其理論和數(shù)學(xué)基礎(chǔ)的研究還2)利用不同問(wèn)題的特點(diǎn)設(shè)計(jì)出相應(yīng)有效的算法，是非常有意義的工作。因此當(dāng)測(cè)試函數(shù)表現(xiàn)出各自的優(yōu)勢(shì)［16］,但由于慣性常數(shù)方法通常采用慣性權(quán)值隨更新代數(shù)增加而遞減的策潛力的演化算法,但還存在一些問(wèn)題，在這一點(diǎn)上它與遺傳參考文獻(xiàn)u[5]謝曉鋒，張文俊，楊之廉?微粒群算