機械優(yōu)化設計講義

1、機械優(yōu)化設計講義學院： 專業(yè)： 姓名： 學號： 第一講 緒論一、機械優(yōu)化設計的基本概念1、什么是優(yōu)化設計在機械產品設計過程中，根據(jù)問題的性質和給定的條件，在分析的基礎上，綜合各方面的要求因素，從全部可行的方案中，尋找出最優(yōu)方案的方法和過程。優(yōu)化設計是利用高等數(shù)學中求極（最）值理論，以計算機為計算工具，用數(shù)值分析的方法，對機械產品設計問題求出最佳設計參數(shù)的工程方法。“優(yōu)化設計”對應的是“經驗設計”。2、優(yōu)化設計的過程 A、分析設計任務的對象，提出設計思想 B、建立優(yōu)化數(shù)學模型，包括選取設計變量，建立目標函數(shù)和約束方程 C、選擇優(yōu)化方法（自編程序或選擇商品程序），上機計算 D、對計算結果進行分析

2、F、當結果不甚合理時，修改數(shù)學模型，返回B。 3、優(yōu)化設計的局限 A、優(yōu)化設計過程是人和機器合作完成的，“人”在其中起著巨大作用。 B、所謂“最優(yōu)”是相對的，當設計思想、約束條件，甚至初始方案改變時，最優(yōu)方案也要改變。 C、“最優(yōu)方案”是否合理、可行，還是要用經驗來判斷。PPLD0D0二、一個優(yōu)化設計實例某空心圓柱壓桿，壓力載荷為P，長度L，截面外徑D0，內徑D1。變換成中徑D和壁厚T； D= (D0+D1)/2 T = (D0-D1)/2設材料已經選定，即材料的 彈性模量E, 許用應力【】，密度等已確定。設計要求：1、 強度要求：壓 P/(DT) 【】2、 穩(wěn)定要求：壓 P/(DT) 歐拉應

3、力3、 結構要求： D K1 T K2 K1,K2為定值 T D/2桿的重量： W = DTL 整個問題可以歸結為： 設計一個壓桿，在滿足上述5個條件的前提下，使W最小。 經驗設計此問題，人工選取一對D和T，分別代入上述5個條件，都滿足時即可。是否重量最輕，材料最省，不予考慮，也不得而知。用優(yōu)化設計的語言表示上述問題：D,T（或者D0、D1）為設計變量，表示成： X （x1, x2）W為目標函數(shù)，是設計變量的函數(shù)，表示成： W = F(x1, x2) = F(X)5個條件叫做 約束方程，或者約束條件。表示為： gi(X) 0 i= 15一般情況下，優(yōu)化設計問題表述為： Min F (X) =

4、目標函數(shù) S.T gi (X) 0 i = 1,2 m 約束方程（條件） 其中： X = (x1,x2,xi,xn) 設計變量設計變量，目標函數(shù)和約束條件，是優(yōu)化設計問題的三要素。三、設計變量設計變量是設計中的可變化參量（因素）。當有n個變量時，在歐氏空間里表示為：X = (x1,x2,xi,xn) XRn當設計變量取一組定值時，在數(shù)學上是n維空間的一個點，在工程上是一個設計方案（在經驗設計中，若能滿足要求，就可能成為真實的工程設計方案）：X(1)= (,) 是n維空間的一個點，工程設計的一個方案；X(2)= (,) n維空間的另一個點，工程設計的第二方案。 X(k)= (,) n維空間的第k

5、個點，工程設計的第k 個方案。每后一個方案都可以看成是前一個方案的改進。即：X(2) = X(1) +X X(k) = X(k-1) +X= X(k-1)+ 其中是按照某種規(guī)則構造的單位矢量，即搜索方向,是搜索步長。四、目標函數(shù)目標函數(shù)是設計者設定的用于評價設計方案優(yōu)劣的參數(shù)，將它表示成設計變量的可計算函數(shù)。目標函數(shù)值越小，對應的工程方案就越優(yōu)；目標函數(shù)值最小，對應的工程方案就最優(yōu)。目標函數(shù)的表示要盡量簡單易算，或者通過查表能夠查出來。機械優(yōu)化設計的過程就是求目標函數(shù)的最小值對應的設計方案的過程。當出現(xiàn)極大化時，加上負號就是最小。五、約束條件 約束條件可能很多，從數(shù)學上分類，有等式約束和不等式

6、約束，以不等式約束為多。有些約束可能與別的約束重復，叫多余約束，應該剔除。 等式約束是Rn內的超曲面，不等式約束是Rn內超曲面的某一側的空間。由滿足若干不等式約束構成的空間區(qū)域，叫可行域。等式約束的可行域是其超曲面上的某部分?？尚杏騼鹊狞c叫內點，是可取方案的集合；可行域之外的點叫外點，為不可取方案?？尚杏蜻吔缟系狞c叫邊界點。最優(yōu)點經常在幾個約束構成的邊界上，這幾個約束叫起作用約束。其余的叫不起作用約束。六、優(yōu)化設計問題的完整數(shù)學模型 Min F(X) = XRn S.T gu(X)0 u = 1,2,p hv(X)= 0 v = 1,2,q最優(yōu)解： ）， 最優(yōu)值： F(X*) 第二講 優(yōu)化設計

7、的數(shù)學基礎一、目標函數(shù)（多元函數(shù)）的偏導數(shù)與梯度設目標函數(shù)為F(X)， F(X)是n1維空間的超曲面；偏導數(shù)： ,；幾何意義：目標函數(shù)沿各個坐標軸的變化率。梯度：梯度是一個矢量，是由各個偏導數(shù)為元素的矢量。表示為：F(X)，F(xiàn)(X) (,)將“”叫作梯度算子（僅是一種算法），（，）梯度的幾何意義：目標函數(shù)在點的數(shù)值上升最快的方向；而F(X)為目標函數(shù)值下降最快的方向（注：此處上升和下降最快是局部最快，不是全局）。梯度的模：將梯度的每個元素都除以其模，構成的矢量是梯度方向的單位矢量。二、方向與方向導數(shù)在內表示一個方向用指向該方向的單位矢量，；為方向與坐標軸之間的夾角。其中：叫方向余弦。顯然：方向

8、導數(shù)是目標函數(shù)沿方向的變化率，方向導數(shù)是一個標量（數(shù)量），引進矢量分析中的點積的概念，方向導數(shù)為梯度與方向的點積：方向導數(shù)的值不僅隨所取點X變化，而且隨在點X不同的方向而變化，當角時（與重合時）方向導數(shù)最大，且：所以說梯度方向是目標函數(shù)增加（上升）最快的方向。當時，角, (與垂直時)，即在目標函數(shù)的等值面（線）上。三、海賽矩陣 （Hessian）海賽矩陣是由目標函數(shù)的二階偏導數(shù)組成的矩陣：如果將梯度理解成目標函數(shù)的一階“導數(shù)”，則海賽矩陣就是目標函數(shù)的二階“導數(shù)”。因此：，若：，則海賽矩陣是一個對稱矩陣（階）。主子式：從海賽矩陣的左上角開始，分別取其個，個，個個元素構成的行列式，叫海賽矩陣的主

9、子式。一階主子式：；二階主子式：；按照行列式的計算法則，可以計算海賽矩陣各階主子式的值。若各階主子式恒大于0，則稱正定；各階主子式負、正相間，則稱負定；各階主子式正、負不定，則稱不定。四、目標函數(shù)的二階泰勒展開一元函數(shù)在點泰勒展開式為：其中：泰勒展開可以理解為在函數(shù)的某點附近，用一簡單的多項式去逼近（或者代替）復雜的函數(shù)。只要所取的多項式的次數(shù)足夠大，就能使二者的誤差足夠小，條件是在附近連續(xù)且多階可導。對于多元函數(shù)，也可以在點處展開成泰勒多項式。只要將一元函數(shù)泰勒展開中的換成，換成，一般二階展開式（中間的“· ”為矢量或矩陣乘）：其中，為維矢量， 為二次型函數(shù) 。五、無約束目標函數(shù)極

10、值存在的條件先看一元函數(shù)的極值存在情況。在點取得極值：必要條件： 即是駐點。充分條件： 此條件可以推展到多元函數(shù)：在處取得極值：必要條件： 即：，（也叫駐點）充分條件：特別提醒 此處的“極值”與“優(yōu)化”所需要的最大或最小值并不是一回事，“極值”是局部的，“最值”是全局的； 此判定僅具有理論意義，復雜的目標函數(shù)海賽矩陣及其正負定判斷極其困難。第三講 約束優(yōu)化極值條件尋優(yōu)過程的基本思路 一維尋優(yōu)方法一、約束優(yōu)化問題的極值條件g31起作用約束:設最優(yōu)點X*，約束函數(shù)集為：，X*使約束函數(shù)變成等式的約束叫起作用約束。幾何意義：X*在中某幾個的邊界上。如右圖所示，其中：X0是無約束極值點；X*是約束極值

11、點；是起作用約束；不起作用約束。2庫恩塔克定律（KT條件）如果最優(yōu)點X*在可行域內（所有約束均為不起作用約束），則約束最優(yōu)點與無約束最優(yōu)點重合；如果最優(yōu)點在可行域的邊界上，有起作用約束，最優(yōu)點與目標函數(shù)和起作用約束都有關。A. 只有一個起作用約束的情況目標函數(shù)的負梯度方向與約束函數(shù)的梯度方向重合，即：，幾何意義：約束函數(shù)與目標函數(shù)的某等值線（面）相切。B兩個起作用約束條件目標函數(shù)的負梯度是各起作用約束的梯度的線性組合（加權合成）。幾何意義：“夾”在各之間。Ci個起作用約束幾何意義；同上。DKT條件的應用KT條件的意義不是求最優(yōu)值，而是用來檢驗最優(yōu)值。檢驗方法如下：設是的可能最優(yōu)值 1求出；2求

12、出起作用約束集，將代入 中，有i個約束函數(shù)值的為起作用約束（至少有一個）；3求出，4檢查：若 ，其中，至少有一個0，則是最優(yōu)點，否則不是。（具體檢查方法是解方程組，求出i的具體值。）二、尋優(yōu)過程的基本思路數(shù)值解法，逐步逼近若是可行域內的一個點，在點構造能使下降的方向 ，用一維搜索法找到在方向上最小的駐點,有，在點重復上述步驟，經過若干次迭代，即可得到最優(yōu)解。有人把這種方法叫做瞎子爬山法。涉及四個問題：1必須找出的可行域及可行域內至少一個初始點；2如何構建能使下降的方向：構建的不同方法，就形成了不同的尋優(yōu)方法。如最速下降法（用作方向），坐標變換法（用各坐標軸方向作S）,牛頓法（改進的梯度法）3如

13、何確定尋優(yōu)步長：已知和后，就點代入目標函數(shù)，則變成的一元函數(shù)，可用解析法求能使在此方向的極值點。實際上都是數(shù)值法（如0.618法）求；4如何結束尋優(yōu)過程？一般有三個條件：ABC工程中一般只用前兩個，第三個由于要求梯度而不常用。若設計變量只有兩個，即，（或者不大于三個），可以用網絡法（或大海撈針法）求出最小值；如轉向梯形的問題可以在其可行域的上、下、左、右邊界上劃分網格，分別計算并比較值。三、一維搜索法設已知和后，構建新點代入目標函數(shù) ，是步長的一元函數(shù)，即，求出使最小的步長的過程叫一維搜索法。1、一維搜索之前先要確定搜索區(qū)間，即找出一個包含，使最小的區(qū)間。方法是進退法。從開始，選定一個前進單位

14、h,分別計算 個點的目標函數(shù)值F1,F2,F2,FL,FL+1，直到出現(xiàn)目標函數(shù)值“高低高”的三個點，如上圖： ，故搜索區(qū)間取為：（）為搜索區(qū)間。2黃金分割法（0.618法）黃金分割法是每次通過計算目標函數(shù)值，通過比較，舍棄一部分區(qū)間，區(qū)間小到一定程度時，即為具體方法：在已知的搜索區(qū)間()內，另找兩點 ，其中：求出 ，比較 與 的大小，誰大舍棄誰外側的區(qū)間。i若 ,舍棄區(qū)間ii若,舍棄區(qū)間iii若 ，舍棄兩邊區(qū)間。舍棄一個區(qū)間后，補充一個點，重復上述步驟，直到 為止，從其中任取一點即可作為最優(yōu)點。第四講 習題課一、 建立優(yōu)化設計的數(shù)學模型二、 求目標函數(shù)的梯度及給定方向的方向導數(shù)三、 求目標函

15、數(shù)的海賽矩陣及其逆四、 求目標函數(shù)在給定點的泰勒展開式五、 用K-T條件驗證某點為約束最值點六、 用黃金分割法一維搜索求極值第五講 無約束問題的優(yōu)化方法（一）最速下降法 牛頓法 改進牛頓法無約束優(yōu)化問題：in F(X) ， X設F(X)至少二階可導，即存在：一、梯度法最速下降法基本思路：每次以點的負梯度方向為搜索方向，即：，或，。因為負梯度方向是函數(shù)值在該點下降最快的方向，所以此法又叫最速下降法。這里“最速”只是在點這一局部最速，在整體上并不一定最速。實踐中表明，此法在尋優(yōu)初期效果不錯，往后越來越慢。此外，需要反復求梯度，實際的工程問題常不能滿足。所以用得不廣泛。但其基本思想正確，對尋求其它方

16、法有啟發(fā)作用。梯度法尋優(yōu)的步驟框圖見陳立周第二版69頁。例：Min 解：第一輪： 取, 代入F(X)，得： 求步長可以用黃金分割法。但此處為2次函數(shù)，可以直接寫出來： （至此，應該檢驗X（1）是否為最優(yōu)值。由于它顯然不是，省略。）第二輪：代入F(X)，得：（至此，也應該檢驗X（2）是否為最優(yōu)值。由于它顯然不是，檢驗省略。）如此繼續(xù)下去，經若干步以后，可得最優(yōu)點.二、牛頓法牛頓法是為了改善梯度法收斂越來越慢的缺點而改善搜索方法。其基本思路是用F(X)在處的泰勒展開式代替F(X)，用的極值去逼近F(X)的極值，取=，開始下一輪尋優(yōu)。F(X)在X(k)點的泰勒展開式為：F(X)= 此二次函數(shù)取得極值

17、的必要條件是展開函數(shù)的梯度等于0（駐點）：即：解此方程，得：其中：是海賽矩陣的逆矩陣。?。?= 作為下一輪尋優(yōu)的起點。（注意：這里是減號?。⑸鲜脚c尋優(yōu)迭代的一般形式 相比，牛頓法的本質，是以負梯度方向為搜索方向、以海賽矩陣的逆為步長的搜索方法。優(yōu)點：不需要一維搜索，對真正的二次函數(shù)一步到達最優(yōu)點。缺點：要求海賽矩陣及其逆。例： Min 解：仍取為初始點，因F(X)是二次函數(shù)，其泰勒展開式與F(X)完全相同，只需求其和H(X), 就行了.如前： 這就是最優(yōu)值，因是二次函數(shù)，所以一步到達。是的行列式。是的伴隨矩陣。伴隨矩陣的各元素是原矩陣中各對應元素乘以其代數(shù)余子式，再經轉置而來。代數(shù)余子式是去

18、掉該元素所在行和列，剩下的元素組成的行列式，其符號是，轉置是。三、改進牛頓法上述牛頓法可以認為是搜索方向為且的迭代。當遇到F(X)非線性嚴重時，不一定收斂。此外牛頓法對初始點的要求較嚴，因此有人對牛頓法作了修正。取作搜索方向。但不假定為1，而是由一維搜索決定，即：這種方法叫改進牛頓法，或者修正牛頓法。它保持了牛頓法收斂快的特點，對起始點放寬了要求。對目標函數(shù)二階可導，海賽矩陣可逆的尋優(yōu)問題非常有效。但這樣的優(yōu)化問題在工程中極少出現(xiàn)。但其思想具有重要的理論意義。后人在此基礎上發(fā)明了變尺度法（也叫DFP法）。變尺度法的基本思路是構造一個代替改進牛頓法中的。取單位矩陣。的構造雖不需要求及其逆了，但構

19、造方法仍很繁，見陳立周的第二版77頁，本課忽略。第六講 無約束問題的優(yōu)化方法（二）坐標輪換法，共軛方向法x1x2X（0）一、坐標輪換法的基本思路將1個多維的無約束優(yōu)化問題轉變成一系列一維優(yōu)化問題來求解?；咀龇ǎ涸趎個變量中，保持其中n-1個變量不變，選擇變量x1作為搜索方向。一維搜索得到最優(yōu)點，再沿x2方向一維搜索，得到最優(yōu)點，再沿xn方向搜索，得到最優(yōu)點。至此即完成了第一輪的搜索。如果未達到最優(yōu)條件，將前一輪的終點作為新的起點，再進行第二輪沿各個變量的一維搜索，分別得到，。如此繼續(xù)下去，直到最優(yōu)。坐標輪換法增加了“輪”的概念，每一輪里包含n次一維搜索，每次的搜索方向是： i=1,2,，n

20、每次搜索后得到新點： i=1,2,，n 其余方法均與前述方法相同。二、共軛方向的概念共軛是正交概念推廣。設, 是內的兩方向（矢量）若,則, 是垂直的，即正交的。在三維空間內正交與垂直是相同的。此式也可寫成 。 I：單位矩陣當時，若。則稱, 在n維空間內正交。但這樣正交的方向不止兩個，若存在一組方向：，若 ，. .即：，則這組方向都是正交的。n維空間內的一組正交方向有而且只有n個。共軛方向的意義：設矩陣A是階對稱正定矩陣，另有一組n個方向，若存在，則稱方向組是關于矩陣A共軛的。這是矩陣A的“對稱”，“正定”兩個條件是必不可少的。在2維空間內，A為對稱正定矩陣，關于A的共軛方向（矢量）每組含兩個。

21、例：設, 方向，關于A共軛： 此外：關于A也是共軛的；可見：關于一個對稱正定矩陣，存在不止一組（實際有無數(shù)組）共軛方向（矢量）。如何理解共軛方向的幾何意義？是對做線性變換。因此共軛可以理解為：經過線性變換后與正交，則二者關于線性變換矩陣共軛。三共軛梯度法共軛梯度法是為了解決最速下降法（梯度法）在接近極值點時收斂太慢而提出的。因為目標函數(shù)在接近極值點附近，變化很平坦，太小，所以進步也很緩慢。但在接近極值附近時，目標函數(shù)在極值點的泰勒展開是的很好近似，而對的最佳搜索的方向是牛頓方向：用此方向搜索的極值可以一步到達極點。但求目標函數(shù)的逆也不是很容易的事情。能否用較為簡單的辦法求出此，或者構造一個與及

22、其接近的方向來，能達到求泰勒展開函數(shù)的極值一步到位的效果。 可以證明，用本次尋優(yōu)的負梯度方向與上次尋優(yōu)方向的線性組合而構成的與牛頓方向非常接近。即： 或者： 其中系數(shù)： 此即共軛梯度法的尋優(yōu)方向的構造方法。用共軛梯度法尋優(yōu)時，取第一次的搜索方向為：第二次以及以后，用上述公式構造。例：Min ，（見陳立國教材第二版72頁，劉維信教材第一版84頁。注：陳立國教材33頁倒數(shù)第6行多一個“”號，倒數(shù)第5行的根號和平方可以約去。也可以用0.618法求出來。）由例可見，共軛梯度法每次都要用梯度方向和梯度的模來構造新方向。四共軛方向法以二維目標函數(shù)尋優(yōu)，來說明共軛方向法的思路。設從出發(fā)，首先沿坐標軸搜索，（

23、即搜索方向為,上標表示第一輪，下標表示第一個坐標軸方向）。得優(yōu)點；在點沿第二坐標軸搜索（即取）,得到優(yōu)點。至此完成了第一輪的坐標輪換法的搜索。然后構造出一個新的搜索方向：，沿此方向做第2+1=3次的搜索，得到新優(yōu)點作為第二輪尋優(yōu)的起點。這第2+1次的搜索是為下一輪（第二輪）的搜索打基礎的，即提供起點的。第二輪的搜索方向是第一輪的搜索方向丟棄第一個，但取用第一輪的第2個和第3個方向，即取，和。從出發(fā)沿搜索得到點，從出發(fā)沿搜索得點。然后再構造一個新方向，即第二輪搜索的首尾點相連方向作為第二輪的第2+1次搜索，即可得到一個新點，作為第三輪搜索的起點。由此可以看到，共軛方向法搜索時，存在“輪”的概念，

24、每輪包含2+1次一維搜索，下輪的2+1次搜索方向是上輪的后n個方向，再加一個本輪首尾點相連方向。第一輪搜索的方向：第二輪搜索的方向：第三輪搜索的方向：注意：這里的共軛方向只有是共軛的。n維尋優(yōu)問題方法與工作的相同，不再贅述。 例題： Min 略。第七講 無約束問題優(yōu)化方法(三)Powell 法 DFP變尺度法一、 Powell 法（改進的共軛方向法）1、共軛方向法的缺陷第k輪的共軛方向：，其中，。第k+1輪去掉第一個方向，剩下的n個方向可能線性相關，引起實際上少了一維，導致收斂不到真正的最優(yōu)點上。2、Powell 法提出的改進在完成一輪的尋優(yōu)后，不一定去掉，而是有選擇的去掉一個，確保剩下的n個

25、方向線性無關。判定條件如下：第k輪尋優(yōu)的方向：，其中，；第k輪尋優(yōu)得到的點： ；計算3個點的目標函數(shù)：。其中，點叫做反射點；若存在：，且：其中， （即相鄰尋優(yōu)中目標函數(shù)下降最大的一個）則，第k+1輪尋優(yōu)去掉對應的方向 。保留：為第k+1輪的搜索方向。3、Powell 法的尋優(yōu)步驟與共軛方向法基本相同，只增加了在每一輪（或每一次）尋優(yōu)搜索后計算目標函數(shù)值，以及與上次目標函數(shù)的差，并在一輪的目標函數(shù)中找出下降最大的第m次及對應的方向S，并舍棄。例題：用Powell法求函數(shù)的最優(yōu)點。計算精度要求。解：取初始點。時，第一輪迭代的搜索方向取兩個坐標的單位向量，從出發(fā)，先從方向進行一維最優(yōu)搜索，由第三講所

26、學知識可得，由此得最優(yōu)點：同理，沿方向進行一維搜索可得，從而得最優(yōu)點：計算第個方向計算方向上的反射點：計算相鄰二點函數(shù)值的下降量：檢驗判別條件成立，故應以方向代替，并求方向上的極小點。同上，可求得至此，完成第一輪的第次搜索。時，二、 DFP變尺度法1、變尺度法的基本思路DFP變尺度法又叫改進的牛頓法或改進的擬牛頓法。牛頓法和擬牛頓法的搜索方向：，即要求Hessian矩陣及其逆，又要求梯度，很繁。DFP變尺度法是設法構造一個對稱正定矩陣來代替，并在迭代過程中逐漸逼近，使搜索在接近極值點附近時收斂速度加速。2、近似矩陣的構造方法其中，。注：這里的不是海塞矩陣，而是構造的矩陣。詳細推導過程參考陳立周

27、主編的機械優(yōu)化設計方法第二版76-77頁。3、變尺度法的步驟(1)選取初始點，確定計算精度要求。(2)令計算和擬牛頓方向(3)進行一維搜索求使，得(4)檢驗精度，計算,若，則停止，其最小點為。若否，則進行下一步。(5)檢查迭代次數(shù)，若，則重置，從負梯度方向開始，并取。否則進行下一步。(6)構造新的擬牛頓方向而 令，轉向(3)。4、變尺度法的優(yōu)缺點(1) DFP變尺度法不需要求海塞矩陣及其逆陣，但需利用一階導數(shù)信息。由于DFP法開始時是梯度法，所以從任一初始點通過梯度方向找到一個比較好的迭代點，這位以后的逐次迭代創(chuàng)造了有利的條件。(2) DFP法的收斂速度介于梯度法和牛頓法之間。大量計算實踐證明

28、，DFP方法是目前無約束優(yōu)化方法中一種比較有效的算法。(3) 計算實踐表明，一維搜索的精度對收斂速度影響不大。但如果精度太低，也有可能會使計算失效，因此對一維搜索的精度要求一般不低于終止計算的精度。第八講 習題課（二）一已知目標函數(shù)： 用最速下降法優(yōu)化第一輪，用牛頓法優(yōu)化第二輪，用改進牛頓法求出最優(yōu)值。二已知目標函數(shù)： 用坐標輪換法優(yōu)化第一輪；構造出一組共軛方向，優(yōu)化第二輪，再用Powell法優(yōu)化第三輪。三已知目標函數(shù)： 用共軛梯度法和DFP變尺度法各優(yōu)化一輪。第九講 約束優(yōu)化問題的直接解法約束優(yōu)化問題分為直接解法和間接解法兩類。直接解法是首先在Rn空間內找到滿足不等式約束的可行域，每次搜索都

29、在可行域內進行，直到找到最優(yōu)解和最優(yōu)值。間接式解法是將約束優(yōu)化問題轉變成一系列的無約束優(yōu)化問題來解。直接解法主要有隨機方向搜索法、復合形法、可行方向法、梯度投影法等；間接解法主要有拉格朗日乘子法和懲罰函數(shù)法。本課只講復合形法和拉格朗日乘子法，以及懲罰函數(shù)法。一、 約束優(yōu)化問題的直接解法對約束問題： Min S. T n此模型雖為n維約束問題中，但含有q個等式約束。如果這些等式約束都是線性無關的，將它們帶入到目標函數(shù)，則該問題的實際維數(shù)是n-q。既消除了等式約束，又降低了優(yōu)化維數(shù)。因此約束優(yōu)化問題一般只研究不等式約束即可。直接解法的每一步求解過程都是在可行域內進行，其基本思路與無約束優(yōu)化基本相同

30、。所不同的有如下幾個關鍵問題：A. 首先要找到（或者建立）可行域D，對于維數(shù)較高時，較為困難；B. 所選的初始點及每次的尋優(yōu)點必須在可行域內（每次都要驗證）。C. 每次構造的搜索方向必須是可行方向（即沿此方向搜索，目標函數(shù)值一定下降的方向），且要驗證。D. 一維搜索得到的步長也必須是可行步長（沒有超出可行域），才能保證搜索到的新點 也在可行域內。E. 如果可行域D不是凸集，尋優(yōu)的結果可能與起始點的選擇有關。因此要選擇不同的起始點多優(yōu)化幾次。二、 復合形法 復合形，就是在n維空間內由m個頂點構成的不規(guī)則多面體，其中，其本質是在可行域D內的一個子域。2.1 復合形法的基本思路復合形法也與其他方法一

31、樣，關鍵是確定搜索方向和搜索步長。其搜索方向是根據(jù)復合形的各個頂點的目標函數(shù)值的大小關系、利用統(tǒng)計規(guī)律（函數(shù)值下降的概率大）來確定的。搜索步長也是經驗選取的，不一定使用一維搜索。以2維問題為例：建立可行域后，在其內找3點（或者4點），建立一個三角形（或者四邊形），即復合形。分別求出各頂點的目標函數(shù)值，按照函數(shù)值大小分出最壞點X(H)（函數(shù)值最大點）、次壞點X(C)（函數(shù)值次大點），和最好點X(L)（函數(shù)值最小點）。然后求出除最壞點外其余各點的幾何中心X(S)，取最壞點X(H)與幾何中心X(S)的連線X(S- X(H)為搜索方向S（k），沿S（k）搜索得到一個更好的點X(R)（叫映射點），用X(

32、R)代替X(H)組成新的復合形，進行下一輪尋優(yōu)。顯然，X(R)必須滿足如下兩個條件：1. F(X(R)F( X(H)，2. X(R)也在可行域內。如此循環(huán)，直至找到最優(yōu)點X(*)。2.2 復合形法直接尋優(yōu)的步驟（1）分析約束方程，建立可行域；（2）在可行域內選擇m個頂點（），組成復合形；（3）計算各個頂點的目標函數(shù)值，按照大小排隊，選出最壞點X(H)、次壞點X(C)、和最好點X(L)；（4）計算除最壞點外的m-1 個頂點的幾何中心點X(S)，并驗證其是否在可行域內， ； 但（5）若X(S)在可行域內，構建搜索方向 S（k）= X(S- X(H)，求映射點： ?？梢杂靡痪S搜索求出，也可以用經驗給

33、出。例如取，若越出可行域，將其減半；還不行，繼續(xù)減半，直至映射點X(R)在可行域內為止。若幾何中心點X(S)不在可行域內，說明可行域為非凸集，返回（2），重新組建復合形；（6）計算映射點的目標函數(shù)值F(X(R)，并與最壞值F( X(H) 比較。若F(X(R)F( X(H)，用映射點代替最壞點，組成新的復合形，完成一次迭代。若F(X(R)F( X(H)，將減半后再計算映射點X(R)及其對應的目標函數(shù)值F(X(R)，若既滿足X(R)為可行點（在可行域），又滿足F(X(R)F( X(H)，用映射點代替最壞點，組成新的復合形，完成一次迭代。否則，繼續(xù)將再減半，。（7）每完成一次迭代，要檢驗終止條件。反

34、復迭代若干次后，復合形越來越小，逐漸向最優(yōu)點逼近。檢驗方法是：所有頂點的目標函數(shù)值與各頂點幾何中心點的目標函數(shù)值的差平方和小于設定值即結束，即復合形的“體積”小于設定值。 其中：F(X(j) 是復合形各頂點的目標函數(shù)值，F(xiàn)(X(c)是頂點的幾何中心目標函數(shù)值。由上面的步驟可以看出，復合形法最突出的優(yōu)點是不需要求導，僅僅計算映射點及其目標函數(shù)值即可。只要反復迭代，復合形就會逐漸“收縮”到最優(yōu)點，其缺點是：當可行域為非凸集時，會出現(xiàn)映射點越出可行域，或者映射點的目標函數(shù)值大于最壞點。遇到這兩種情況，幾乎前功盡棄，都要重新組成新的復合形，從頭再來。例題：用復合形法求解汽車轉向梯形的優(yōu)化設計方案。解法

35、：劉惟信 機械最優(yōu)化設計 第一版 P123； 陳立周 機械優(yōu)化設計方法 第二版 P95第十講 約束最優(yōu)化問題的間接解法(1)一、約束優(yōu)化的基本方法約束優(yōu)化分為間接解法和直接解法兩種基本方法。直接解法的基本思路是：通過對個不等式約束進行分析，找出其可行域D。在可行域內找一起始點和可行方向，采用無約束方法進行尋優(yōu)。其基本方法有隨機方向搜索法、復合形法、可行方向法等。間接解法的基本思路是：將一個有約束的問題直接轉化成一個或一系列無約束問題來求解。即構造一個新的目標函數(shù)，該新目標函數(shù)包含原目標函數(shù)和全部的不等式及等式約束，從而消除了約束。對新目標函數(shù)尋優(yōu)，即可得到原目標函數(shù)。常用的方法有：拉格朗日乘子

36、法、懲罰函數(shù)法（包括內點懲罰函數(shù)法和外點懲罰函數(shù)法）。直接解法只適用于不等式約束問題，間接解法適用于等式和不等式約束問題。二、拉格朗日乘子法(間接解法之一)1、只有等式約束的優(yōu)化問題的拉格朗日乘子法約束優(yōu)化： Min s.t: , 構造一個拉格朗日函數(shù)作為新目標函數(shù)，包含目標函數(shù)和約束函數(shù)：Min 式中：，叫拉格朗日乘子。拉格朗日函數(shù)中包含n個設計變量xi和q個待定系數(shù)i，共（n+q）個未知變量。它存在極值的條件為：解此方程，可得： ， ，其中極為原目標函數(shù)在約束條件下的最優(yōu)解。*的各項值可為正，亦可為負。為便于在計算機上直接尋優(yōu)，拉格朗日函數(shù)常常改變?yōu)椋篗in 求函數(shù)Z的極小值，也就是原等式

37、約束的目標函數(shù)的最優(yōu)解。2、只有不等式約束的優(yōu)化問題的拉格朗日乘子法 約束優(yōu)化： Min s.t: , 構造一個拉格朗日函數(shù)作為新目標函數(shù)：Min 意義同上，叫松弛變量。引入松弛變量是為了讓各個非負項與總小于0的約束項相加后變成等式約束。上式存在極值點的條件是：解上述聯(lián)立方程式，得到X*極為原不等式約束問題的最優(yōu)解。同樣，由于解多個偏導數(shù)組成的方程組比較麻煩，在使用計算機尋優(yōu)時，常將拉格朗日函數(shù)變換為：求Z的無約束最優(yōu)值，即為原目標函數(shù)的最優(yōu)值。3、既有等式又有不等式約束的拉格朗日乘子法 約束優(yōu)化： Min s.t: , , 構造拉格朗日函數(shù)： Min 此拉格朗日函數(shù)取得極值的條件依然是其對三

38、組變量的偏導數(shù)為零：解此方程（共個未知數(shù)），得到X*即為原約束問題的最優(yōu)解。同樣可以將解聯(lián)立方程轉變?yōu)閷ο率角鬅o約束優(yōu)化問題： 求出Z的無約束最優(yōu)值，即為原目標函數(shù)的最優(yōu)值。例題：第11講 約束優(yōu)化問題的間接解法 （2）三、內點懲罰函數(shù)法間接解法之二 約束優(yōu)化： Min s.t: , , 構造新目標函數(shù)：其中：r1，r2：加權因子，又叫懲罰因子；：由不等式約束構成的復合函數(shù)，也叫懲罰函數(shù)；：由等式約束構成的復合函數(shù)，也叫懲罰函數(shù)。對尋優(yōu)，即可得到的最優(yōu)解。構造新目標函數(shù)，涉及兩個問題：A：加權因子（懲罰因子）如何??？B：由約束方程（條件）怎樣構成復合函數(shù)？先看一個實例：Min s.t ：該問題很簡單（見右