非線性優(yōu)化問(wèn)題的過(guò)濾線搜索方法

1、非線性優(yōu)化問(wèn)題的過(guò)濾線搜索方法    線搜索方法是保證最優(yōu)化方法總體收斂的基本策略之一,具有簡(jiǎn)單、可靠等優(yōu)點(diǎn)。求解搜索方向和步長(zhǎng)是線搜索方法的關(guān)鍵組成部分,搜索方向的設(shè)計(jì)影響方法的收斂速度而搜索步長(zhǎng)可確保下降方向方法的收斂性。本文主要以Armijo準(zhǔn)則為基礎(chǔ)確定搜索步長(zhǎng),關(guān)于線搜索方法的擴(kuò)展都是建立在擴(kuò)展Armijo準(zhǔn)則的基礎(chǔ)上。過(guò)濾算法一般用來(lái)解約束優(yōu)化問(wèn)題,其主要思想在于試驗(yàn)步在減少了目標(biāo)函數(shù)或約束違反度情況下被接受成為新迭代。過(guò)濾技術(shù)很好地平衡了目標(biāo)函數(shù)和約束條件,代替?zhèn)鹘y(tǒng)的罰函數(shù)方法保證了優(yōu)化算法的總體收斂性。過(guò)濾方法不僅可以用于信賴域序列二次規(guī)

2、劃(SQP)框架,也可用于線搜索框架。Wa¨chter和Biegler給出了過(guò)濾算法基礎(chǔ)上線搜索方法的總體收斂性。本文引入Fletcher和Leyffer提出的過(guò)濾技術(shù),結(jié)合過(guò)濾方法和非單調(diào)方法、投影既約Hessian方法、完全投影正割方法、仿射內(nèi)點(diǎn)方法、內(nèi)點(diǎn)障礙法等,建立過(guò)濾線搜索算法框架,并將其應(yīng)用于幾類(lèi)典型的優(yōu)化問(wèn)題,從理論上研究算法總體收斂性與局部收斂速率,用數(shù)值實(shí)驗(yàn)檢驗(yàn)算法的效果。過(guò)濾方法是典型的解約束優(yōu)化問(wèn)題的方法,而Gould、Toint和Sainvitu提出了用多維過(guò)濾思想結(jié)合信賴域方法求解無(wú)約束優(yōu)化問(wèn)題。本文利用無(wú)約束優(yōu)化問(wèn)題的有關(guān)特征,將其轉(zhuǎn)化為有特殊結(jié)構(gòu)的等式約

3、束優(yōu)化問(wèn)題,結(jié)合過(guò)濾線搜索方法和牛頓法、非單調(diào)方法、MBFGS方法(即修正的BFGS方法),借助Wa¨chter和Biegler解非線性等式約束優(yōu)化問(wèn)題的方法求解無(wú)約束優(yōu)化問(wèn)題。在一定條件下證明了提供的算法具有總體收斂性和局部收斂速率,數(shù)值實(shí)驗(yàn)結(jié)果表明新算法要優(yōu)于經(jīng)典的線搜索方法。Fontecilla提出的正割方法是很成功的解非線性等式約束優(yōu)化問(wèn)題的方法。通過(guò)DFP或BFGS正割校正近似Lagrange函數(shù)的Hessian陣,大大降低了存貯空間和運(yùn)算量。本文將正割方法與過(guò)濾線搜索方法相結(jié)合求解非線性等式約束優(yōu)化問(wèn)題,其特點(diǎn)是修正正割方法產(chǎn)生搜索方向,過(guò)濾線搜索程序確定步長(zhǎng),二階校正技

4、術(shù)克服Maratos效應(yīng)。在保持總體收斂性的情況下,算法具有2-步超線性收斂速率,數(shù)值結(jié)果表明算法是有效的。既約Hessian二次規(guī)劃算法被證實(shí)是求解較大規(guī)模約束優(yōu)化問(wèn)題的有效方法之一,它只利用了Lagrange函數(shù)Hessian陣的部分信息,每次迭代的計(jì)算量小且算法所需內(nèi)存也小。本文構(gòu)造了既約Hessian過(guò)濾線搜索方法求解非線性等式約束優(yōu)化問(wèn)題,在合理的假設(shè)下,證明了算法具有總體收斂性和超線性收斂速率,數(shù)值實(shí)驗(yàn)結(jié)果證明該算法是可行的?；谶^(guò)濾線搜索有利于不等式約束的可行性,本文依據(jù)有界約束和線性不等式約束的特定條件結(jié)合內(nèi)點(diǎn)投影和仿射投影技術(shù),研究了過(guò)濾線搜索方法分別在有界約束優(yōu)化問(wèn)題和線性

5、不等式約束優(yōu)化問(wèn)題中的應(yīng)用。在合理的假設(shè)下,該方法具有總體收斂性和局部超線性收斂速率。數(shù)值結(jié)果說(shuō)明了算法具有一定的實(shí)際價(jià)值。很多文獻(xiàn)提出了用內(nèi)點(diǎn)法求解不等式約束優(yōu)化問(wèn)題,但如何有效地大規(guī)模求解非線性等式和線性不等式混合約束優(yōu)化問(wèn)題,基于內(nèi)點(diǎn)法的研究尚少見(jiàn)。本文將牛頓法、正割方法的思想與技術(shù)分別用于等式約束,結(jié)合過(guò)濾線搜索方法、內(nèi)點(diǎn)投影和仿射投影技術(shù)適于不等式的特點(diǎn)綜合地解決這類(lèi)問(wèn)題。同時(shí)用光滑F(xiàn)letcher罰函數(shù)中關(guān)于等式約束的Lagrange函數(shù)和約束違反度作為過(guò)濾對(duì)的組成部分,避免了遭遇Maratos效應(yīng)。我們證明了提供的算法具有總體收斂性和快速的局部收斂速率,給出了數(shù)值結(jié)果以說(shuō)明算法的

6、有效可行。最后對(duì)本文的研究工作進(jìn)行總結(jié),提出了今后的研究設(shè)想。同主題文章1.    李霞,桂勝華. 改進(jìn)的不帶線搜索的兩參數(shù)簇共軛梯度方法' J. 上海第二工業(yè)大學(xué)學(xué)報(bào). 2004.(02)    2.    杜學(xué)武,徐成賢. 一族新共軛梯度法的全局收斂性' J. 數(shù)學(xué)研究. 1999.(03)    3.    肖明華. WAP營(yíng)銷(xiāo)新模式' J. 大眾科技. 2004.(

7、08)    4.    王艷,田志遠(yuǎn),陳元媛,鄭希鋒. 一種線搜索下三項(xiàng)共軛梯度法的全局收斂性' J. 青島大學(xué)學(xué)報(bào)(自然科學(xué)版). 2006.(02)    5.    顧益明,朱德通. 有界變量約束優(yōu)化的仿射尺度不精確牛頓法(英文)' J. 上海師范大學(xué)學(xué)報(bào)(自然科學(xué)版). 2007.(05)    6.    周厚春,席敏. 復(fù)合非光

8、滑最優(yōu)化線搜索方法的全局收斂性(英文)' J. 南京師大學(xué)報(bào)(自然科學(xué)版). 2003.(03)    7.    濮定國(guó),田蔚文. 帶調(diào)整線搜索方向的變尺度算法' J. 運(yùn)籌學(xué)雜志. 1995.(01)    8.    杜學(xué)武,張文艷,原三領(lǐng). 共軛下降法全局收斂的一個(gè)充分必要條件' J. 焦作工學(xué)院學(xué)報(bào). 1998.(02)    9.    簡(jiǎn)金寶,羅雁,徐慶娟. Hooke-Jeeves方法在簡(jiǎn)單約束優(yōu)化中的推廣' J. 廣西科學(xué). 2005.(02)    10.    柳娟,謝鐵軍,孫玉華. 一類(lèi)共軛梯度法的全局收斂性' J. 運(yùn)籌與管理. 2006.(03)    【關(guān)鍵詞相關(guān)文檔搜索】： 計(jì)算數(shù)學(xué); 優(yōu)化問(wèn)題; 過(guò)