信賴域算法非線性優(yōu)化問題課件

1、 1 機(jī)械最優(yōu)化設(shè)計課程機(jī)械最優(yōu)化設(shè)計作業(yè)THU DAE 信賴域方法 2 機(jī)械最優(yōu)化設(shè)計課程1.信賴域方法的綜述 信賴域法和線性搜索方法是求解非線性優(yōu)化問題的兩類主要的數(shù)值方法。信賴域法也是一種迭代算法，即從給定的初始解出發(fā)，通過逐步迭代，不斷改進(jìn)，直到獲得滿意的近似最優(yōu)解為止。 特點：思想新穎，具有可靠性、有效性和很強(qiáng)的收斂性。與線性搜索方法相比，信賴域方法直接通過模型求解得到試探步長，而不是先確定搜索方向，再尋找步長。 線搜索方向可以看成是信賴域半徑充分大時的信賴域步；而信賴域方法得出的信賴步可看成是將二次逼近模型加上一個懲罰項之后所導(dǎo)致的線搜索方向。基本思想機(jī)械最優(yōu)化設(shè)計課程 3 在每次

2、迭代中給出一個信賴域，這個信賴域一般是當(dāng)前迭代點 的一個小鄰域。然后在這個鄰域內(nèi)求解一個子問題，得到試探步長（trial step） ，接著用某一評價函數(shù)來決定是否接受該試探步長以及決定下一次迭代的信賴域。如果試探步長被接受，則： ，否則， 。新的信賴域的大小取決于試探步長的好壞，粗略地說，如果試探步長較好，在下一步信賴域擴(kuò)大或保持不變，否則下一步減小信賴域。算法模型機(jī)械最優(yōu)化設(shè)計課程 4 設(shè)當(dāng)前點 的鄰域定義為： 其中， 稱為信賴域半徑。 利用二次逼近，構(gòu)造如下信賴域子問題：其中，算法模型機(jī)械最優(yōu)化設(shè)計課程 5 設(shè) 是信賴域子問題（2）的解，定義目標(biāo)函數(shù)第k步的真實下降量為：稱二次模型函數(shù)

3、的下降量為預(yù)測下降量： 定義比值： 它衡量了二次模型與目標(biāo)函數(shù)的逼近程度 越接近于1，表明接近程度越好。因此用它來確定下次迭代的信賴域半徑。信賴域半徑的選擇機(jī)械最優(yōu)化設(shè)計課程 6 （1） 越接近于1，表明接近程度越好，這時可以增大 以擴(kuò)大信賴域；（2） 0但是不接近于1，保持 不變；（3）如果 接近于0，減小 ，縮小信賴域?；蛘咂渌?的選擇方法（后面介紹）。信賴域算法機(jī)械最優(yōu)化設(shè)計課程 7 Step1. 給出初始點 ，信賴域半徑的上界Step2. 計算 ，如果 ，停止；否則，計算 。Step3. （近似）求解子問題（2），得到 。Step4. 計算 ，令Step5. 校正信賴域半徑，令信賴域算

4、法機(jī)械最優(yōu)化設(shè)計課程 8 Step6. 令k=k+1,轉(zhuǎn)Step2. 很成功迭代： ，信賴域擴(kuò)大； 成功迭代： 不成功迭代： ，信賴域縮小。算法參數(shù)選擇：解信賴域子問題機(jī)械最優(yōu)化設(shè)計課程 9 信賴域方法在每步迭代中求解下列形式的子問題：其中， S為待求變量。當(dāng) 變化時，S的解形成一條空間曲線，稱為最優(yōu)曲線。 Powell1970給出了求解（2）的單折線法，當(dāng) 可逆時。用連接初始點、 的單折線近似最優(yōu)曲線，在折線上取點 使得 作為（2）的解 。解信賴域子問題機(jī)械最優(yōu)化設(shè)計課程 10 解信賴域子問題機(jī)械最優(yōu)化設(shè)計課程 11 解信賴域子問題機(jī)械最優(yōu)化設(shè)計課程 12 數(shù)值實驗機(jī)械最優(yōu)化設(shè)計課程 13 方法迭代次數(shù)函數(shù)值誤差最優(yōu)點誤差信賴域81.2*e(-13)7.8*e(-7)共軛方向169.4*e(-9)1