數(shù)學(xué)模型及基本概念.ppt

第二章優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型和基本概念 2 1優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型 2 2優(yōu)化設(shè)計(jì)的三大要素 2 3優(yōu)化設(shè)計(jì)的分類 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 2 5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件 2 6優(yōu)化設(shè)計(jì)問(wèn)題的數(shù)值迭代法及其收斂條件 2 1優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型 一 機(jī)械優(yōu)化設(shè)計(jì)方法解決實(shí)際問(wèn)題的步驟1 分析實(shí)際問(wèn)題 建立優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型 分析 設(shè)計(jì)的要求 目標(biāo) 準(zhǔn)則 設(shè)計(jì)的限制 約束 條件 設(shè)計(jì)的參數(shù) 確定設(shè)計(jì)變量 建立 機(jī)械優(yōu)化設(shè)計(jì)方法相應(yīng)的數(shù)學(xué)模型 2 分析數(shù)學(xué)模型的類型 選擇合適的求解方法 優(yōu)化算法 3 求數(shù)學(xué)模型的最優(yōu)解 并對(duì)計(jì)算的結(jié)果進(jìn)行評(píng)價(jià)分析 最終確定是否選用此次計(jì)算的解 2 1優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型 舉例1 圓形等截面銷軸的優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型已知 軸的一端作用載荷P 1000N 扭矩M 100N m 軸長(zhǎng)不得小于8cm 材料的許用彎曲應(yīng)力 w 120MPa 許用扭剪應(yīng)力 80MPa 許用撓度 f 0 01cm 密度 7 8t m 彈性模量E 2 105MPa 分析 設(shè)計(jì)目標(biāo)是軸的質(zhì)量最輕Q 1 4 d2l min 要求 設(shè)計(jì)銷軸 在滿足上述條件的同時(shí) 軸的質(zhì)量應(yīng)為最輕 設(shè)計(jì)限制條件有5個(gè) 彎曲強(qiáng)度 max w 扭轉(zhuǎn)強(qiáng)度 剛度 f f 結(jié)構(gòu)尺寸 l 8 d 0 設(shè)計(jì)參數(shù)中的未定變量 d l 2 1優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型 具體化 目標(biāo)函數(shù)Q 1 4 d2l min 約束函數(shù) max Pl 0 1d3 w M 0 2d3 f Pl3 3EJ f l 8d 0 代入數(shù)據(jù)整理得數(shù)學(xué)模型 設(shè) X x1 x2 T d l Tmin f x x12x2X R2s t g1 x 8 33x2 x13 0g2 x 6 25 x13 0g3 x 0 34x23 x14 0g4 x 8 x2 0g5 x x1 0 二 舉例1 續(xù) 2 1優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型 舉例2 包裝箱尺寸參數(shù)設(shè)計(jì)已知 一個(gè)體積為5m3的薄板包裝箱 其中一邊長(zhǎng)度不小于4m 分析 傳統(tǒng)設(shè)計(jì)方法 首先固定包裝箱一邊長(zhǎng)度a 4m 滿足包裝箱體積為5m3的設(shè)計(jì)要求 則有很多設(shè)計(jì)方案 要求 使薄板耗材最少 確定包裝箱的尺寸參數(shù) 長(zhǎng)a 寬b和高h(yuǎn) 優(yōu)化設(shè)計(jì)方法 在滿足包裝箱的體積abh 5 長(zhǎng)度a 4 寬度b 0和高度h 0的限制條件下 確定設(shè)計(jì)參數(shù)a b h的值 使包裝箱的表面積s達(dá)到最小 選擇合適的優(yōu)化方法對(duì)該優(yōu)化設(shè)計(jì)問(wèn)題進(jìn)行求解 得到的優(yōu)化結(jié)果是 2 1優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型 機(jī)械優(yōu)化設(shè)計(jì)數(shù)學(xué)模型的一般形式 設(shè)X x1 x2 xn Tmin f x f x1 x2 xn X Rns t gu x 0u 1 2 mhv x 0v 1 2 p n 設(shè)計(jì)變量 目標(biāo)函數(shù) 約束函數(shù) 性能約束 約束函數(shù) 性能約束 約束函數(shù) 性能約束 約束函數(shù) 幾何約束 約束函數(shù) 幾何約束 不等式約束 等式約束 屬于2維歐氏空間 根據(jù)例子中的數(shù)學(xué)模型 設(shè) X x1 x2 T d l Tmin f x x12x2X R2s t g1 x 8 33x2 x13 0g2 x 6 25 x13 0g3 x 0 34x23 x14 0g4 x 8 x2 0g5 x x1 0 三 優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型 2 2優(yōu)化設(shè)計(jì)的三大要素 一 設(shè)計(jì)變量 設(shè)計(jì)變量 在優(yōu)化設(shè)計(jì)過(guò)程中是變化的 需要優(yōu)選確定的量 設(shè)計(jì)參數(shù) 在優(yōu)化設(shè)計(jì)過(guò)程中保持不變或預(yù)先確定數(shù)值 可以是幾何參數(shù) 例 尺寸 形狀 位置運(yùn)動(dòng)學(xué)參數(shù) 例 位移 速度 加速度動(dòng)力學(xué)參數(shù) 例 力 力矩 應(yīng)力其它物理量 例 質(zhì)量 轉(zhuǎn)動(dòng)慣量 頻率 撓度非物理量 例 效率 壽命 成本 設(shè)計(jì)變量 優(yōu)化設(shè)計(jì)問(wèn)題有n個(gè)設(shè)計(jì)變量x1 x2 xn 用xi i 1 2 n 表示 是設(shè)計(jì)向量X的n個(gè)分量 設(shè)計(jì)向量 用X x1 x2 xn T表示 是定義在n維歐氏空間中的一個(gè)向量 2 2優(yōu)化設(shè)計(jì)的三大要素 設(shè)計(jì)點(diǎn) X k x1 k x2 k xn k 是設(shè)計(jì)向量X k 的端點(diǎn) 代表設(shè)計(jì)空間中的一個(gè)點(diǎn) 也代表第k個(gè)設(shè)計(jì)方案 可能是可行方案 也可能不是可行方案 設(shè)計(jì)空間Rn 以x1 x2 xn為坐標(biāo)軸 構(gòu)成n維歐氏實(shí)空間Rn 它包含了所有可能的設(shè)計(jì)點(diǎn) 即所有設(shè)計(jì)方案 例 右圖三維空間中第1設(shè)計(jì)點(diǎn) X 1 x1 1 x2 1 x3 1 T第2設(shè)計(jì)點(diǎn) X 2 x1 2 x2 2 x3 2 T其中 X 2 X 1 X 1 增量 X 1 x1 1 x2 1 x3 1 T即x1 2 x1 1 x1 1 x2 2 x2 1 x2 1 x3 2 x3 1 x3 1 一 設(shè)計(jì)變量 續(xù)1 2 2優(yōu)化設(shè)計(jì)的三大要素 設(shè)計(jì)變量的選取原則 盡量減少設(shè)計(jì)變量的個(gè)數(shù) 就是說(shuō)盡可能將那些不很活躍的參數(shù) 根據(jù)過(guò)去設(shè)計(jì)經(jīng)驗(yàn)或者考慮工藝 結(jié)構(gòu)布置等方面的因素 可以預(yù)先取定 作為設(shè)計(jì)參數(shù)來(lái)處理 將設(shè)計(jì)指標(biāo)影響較大的設(shè)計(jì)參數(shù)作為設(shè)計(jì)變量來(lái)處理 一 設(shè)計(jì)變量 續(xù)2 設(shè)計(jì)變量的向量形式 xi是n維向量X的第i個(gè)分量 T是轉(zhuǎn)置符 即表示把列向量轉(zhuǎn)置為行向量 2 2優(yōu)化設(shè)計(jì)的三大要素 設(shè)計(jì)約束 設(shè)計(jì)變量值 設(shè)計(jì)點(diǎn) 的選擇不僅要使目標(biāo)函數(shù)達(dá)到最優(yōu)值 同時(shí)還會(huì)受一定的條件限制 這些制約條件稱設(shè)計(jì)約束 約束函數(shù) 設(shè)計(jì)約束是設(shè)計(jì)變量的函數(shù) 稱為約束函數(shù) 不等式約束函數(shù) gu x 0u 1 2 m等式約束數(shù) hv x 0v 1 2 p n 問(wèn)題 是否每個(gè)設(shè)計(jì)約束中都必須包含n個(gè)設(shè)計(jì)變量 m p個(gè)約束呢 不等式約束能否表達(dá)成gu x 0 p為什么必須小于n 例 有三個(gè)不等式約束g1 x x1 0g2 x x2 0g3 x x12 x22 1 0 再加一個(gè)等式約束h x x1 x2 0 D 二 約束函數(shù) 2 2優(yōu)化設(shè)計(jì)的三大要素 約束 曲 面 對(duì)于某一個(gè)不等式約束gu x 0中 滿足gu x 0的x點(diǎn)的集合構(gòu)成一個(gè)曲面 稱為約束 曲 面 它將設(shè)計(jì)空間分成兩部分 滿足約束條件gu x 0的部分和不滿足約束條件gu x 0的部分 設(shè)計(jì)可行域 簡(jiǎn)稱為可行域 對(duì)于一個(gè)優(yōu)化問(wèn)題 所有不等式約束的約束面將組成一個(gè)復(fù)合的約束曲面 包圍了設(shè)計(jì)空間中滿足所有不等式約束的區(qū)域 稱為設(shè)計(jì)可行域 記作D gu x 0u 1 2 mhv x 0v 1 2 p 問(wèn)題 等式約束與約束曲面是什么關(guān)系 D 二 約束函數(shù) 續(xù)1 2 2優(yōu)化設(shè)計(jì)的三大要素 可行設(shè)計(jì)點(diǎn) 內(nèi)點(diǎn) 在可行域內(nèi)任意一點(diǎn)稱為可行設(shè)計(jì)點(diǎn) 代表一個(gè)可行方案 極限設(shè)計(jì)點(diǎn) 邊界點(diǎn) 在約束面上的點(diǎn)稱為極限設(shè)計(jì)點(diǎn) 若討論的設(shè)計(jì)點(diǎn)x k 點(diǎn)使得gu x k 0 則gu x k 0稱為適時(shí)約束或起作用約束 非可行設(shè)計(jì)點(diǎn) 外點(diǎn) 在可行域外的點(diǎn)稱為非可行設(shè)計(jì)點(diǎn) 代表不可采用的設(shè)計(jì)方案 二 約束函數(shù) 續(xù)2 問(wèn)題 極限設(shè)計(jì)點(diǎn)是否代表可行設(shè)計(jì)方案 什么約束一定是適時(shí)約束 可行域是否一定封閉 二維設(shè)計(jì)平面可行域中的內(nèi)點(diǎn) 外點(diǎn)和邊界點(diǎn) 2 2優(yōu)化設(shè)計(jì)的三大要素 等式約束的特殊性 等式約束條件是對(duì)設(shè)計(jì)變量的一種特殊組合 從理論上講 有一個(gè)等式約束條件就存在一個(gè)從最優(yōu)化設(shè)計(jì)中消去某個(gè)設(shè)計(jì)變量的機(jī)會(huì) 即降低最優(yōu)化設(shè)計(jì)問(wèn)題維數(shù)的一次機(jī)會(huì) 等式約束條件數(shù)p必須小于優(yōu)化設(shè)計(jì)問(wèn)題的維數(shù)n 若n p 則由n個(gè)等式約束函數(shù)方程限制了設(shè)計(jì)方案只能有唯一的解 沒(méi)有最優(yōu)化的余地 可行域的邊界一般是等式約束 在二維設(shè)計(jì)空間中 等式約束表現(xiàn)為一條曲線 在三維設(shè)計(jì)空間中 等式約束一般表現(xiàn)為一張曲面 二 約束函數(shù) 續(xù)3 2 2優(yōu)化設(shè)計(jì)的三大要素 目標(biāo)函數(shù) 優(yōu)化設(shè)計(jì)的過(guò)程是從可行設(shè)計(jì)解中 找出一組最優(yōu)解的過(guò)程 需要一個(gè)準(zhǔn)則來(lái)評(píng)價(jià)當(dāng)前設(shè)計(jì)點(diǎn) 解 的最優(yōu)性 這個(gè)準(zhǔn)則包含各個(gè)設(shè)計(jì)變量 作為評(píng)價(jià)函數(shù) 一般稱為目標(biāo)函數(shù) 也稱為評(píng)價(jià)函數(shù) 準(zhǔn)則函數(shù) 價(jià)值函數(shù) 多目標(biāo)函數(shù) 由于評(píng)價(jià)準(zhǔn)則的非唯一性 目標(biāo)函數(shù)可以是一個(gè) 單目標(biāo)函數(shù) 也可以是多個(gè) 稱為多目標(biāo)函數(shù) 單目標(biāo)函數(shù)的表達(dá)式為 f x f x1 x2 xn 多目標(biāo)函數(shù)的表達(dá)式為 f x 1f1 x 2f2 x qfq x 其中 f1 x f2 x fq x 代表q個(gè)分設(shè)計(jì)目標(biāo) 1 2 q代表q個(gè)加權(quán)系數(shù) 三 目標(biāo)函數(shù) 2 2優(yōu)化設(shè)計(jì)的三大要素 說(shuō)明 f x 必須是x的函數(shù) 應(yīng)隨設(shè)計(jì)點(diǎn)的變化f x 的值上升 下降 f x 應(yīng)該是實(shí)函數(shù) 是可計(jì)算的 但不一定通過(guò)數(shù)學(xué)公式 還可以用其它數(shù)值計(jì)算方法計(jì)算 f x 可以是有物理意義 有單位的 也可以沒(méi)有物理意義 例如 銷軸的質(zhì)量 Q 1 4 d2l 1 4 是常數(shù) 目標(biāo)函數(shù)可簡(jiǎn)化為f x d2l x12x2 問(wèn)題 f x 是否一定應(yīng)包含所有的設(shè)計(jì)變量 f x 若是越大越好 則應(yīng)如何處理 分目標(biāo)函數(shù)f1 x f2 x fq x 中 有些是越小越好 有些是越大越好 則又應(yīng)如何處理 三 目標(biāo)函數(shù) 續(xù) 2 2優(yōu)化設(shè)計(jì)的三大要素 通常根據(jù)設(shè)計(jì)準(zhǔn)則建立 在機(jī)構(gòu)優(yōu)化設(shè)計(jì)中 這種準(zhǔn)則可以是運(yùn)動(dòng)學(xué)和動(dòng)力學(xué)的性質(zhì) 如運(yùn)動(dòng)誤差 主動(dòng)力和約束反力的最大值 振動(dòng)特性等 在零件和部件設(shè)計(jì)中 設(shè)計(jì)準(zhǔn)則可以用重量 體積 效率 可靠性 承載能力表示 對(duì)于產(chǎn)品設(shè)計(jì) 可以將成本 價(jià)格 壽命等作為所追求的目標(biāo) 在一般情況下 這些設(shè)計(jì)指標(biāo)與設(shè)計(jì)變量之間都有明顯的的函數(shù)關(guān)系 三 目標(biāo)函數(shù) 續(xù)2 2 3優(yōu)化設(shè)計(jì)的分類 一 按模型性質(zhì)分 確定型優(yōu)化問(wèn)題 靜態(tài)優(yōu)化問(wèn)題 與時(shí)間無(wú)關(guān)或忽略時(shí)間因素 動(dòng)態(tài)優(yōu)化問(wèn)題 隨時(shí)間變化 系統(tǒng)響應(yīng)變化 不確定型優(yōu)化問(wèn)題 隨機(jī)優(yōu)化問(wèn)題 二 按設(shè)計(jì)變量性質(zhì)分 連續(xù)變量 離散變量 隨機(jī)變量 三 按約束情況分 1 按有無(wú)約束分 無(wú)約束優(yōu)化問(wèn)題約束優(yōu)化問(wèn)題 2 按約束性質(zhì)分 區(qū)域約束 幾何約束 邊界約束 性能約束 功能約束 性態(tài)約束 2 3優(yōu)化設(shè)計(jì)的分類 續(xù) 四 按目標(biāo)函數(shù)和約束函數(shù)的特性分 線性規(guī)劃問(wèn)題非線性規(guī)劃問(wèn)題幾何規(guī)劃問(wèn)題二次規(guī)劃問(wèn)題 五 按目標(biāo)函數(shù)的個(gè)數(shù)分 單目標(biāo)優(yōu)化問(wèn)題雙目標(biāo)優(yōu)化問(wèn)題多目標(biāo)優(yōu)化問(wèn)題 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 一 等值 線 面 對(duì)于可計(jì)算的函數(shù)f x 給定一個(gè)設(shè)計(jì)點(diǎn)X k x1 k x2 k xn k f x 總有一個(gè)定值c與之對(duì)應(yīng) 而當(dāng)f x 取定值c時(shí) 則有無(wú)限多個(gè)設(shè)計(jì)點(diǎn)X i x1 i x2 i xn i i 1 2 與之對(duì)應(yīng) 這些點(diǎn)集構(gòu)成一個(gè)曲面 稱為等值面 當(dāng)c取c1 c2 等值時(shí) 就獲得一族曲面族 稱為等值面族 當(dāng)f x 是二維時(shí) 獲得一族等值線族 當(dāng)f x 是三維時(shí) 獲得一族等值面族 當(dāng)f x 大于三維時(shí) 獲得一族超等值面族 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 等值線的 心 以二維為例 一個(gè) 心 是單峰函數(shù)的極 小 值點(diǎn) 是全局極 小 值點(diǎn) 沒(méi)有 心 例 線性函數(shù)的等值線是平行的 無(wú) 心 認(rèn)為極值點(diǎn)在無(wú)窮遠(yuǎn)處 多個(gè) 心 不是單峰函數(shù) 每個(gè)極 小 值點(diǎn)只是局部極 小 值點(diǎn) 必須通過(guò)比較各個(gè)極值點(diǎn)和 鞍點(diǎn) 須正確判別 的值 才能確定極 小 值點(diǎn) 一 等值 線 面 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 無(wú)約束最優(yōu)解和約束最優(yōu)解 對(duì)于無(wú)約束最優(yōu)化問(wèn)題 最優(yōu)解就是目標(biāo)函數(shù)的極值點(diǎn) 實(shí)際上就是目標(biāo)函數(shù)等值線的中心 對(duì)于約束最優(yōu)化問(wèn)題 最優(yōu)點(diǎn)往往是目標(biāo)函數(shù)等值超曲面與約束超曲面的一個(gè)切點(diǎn) 而且可能在兩個(gè)以上約束超曲面的交集上 一 等值 線 面 局部最優(yōu)解和全局最優(yōu)解 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 等值線的形狀 同心圓族 橢圓族 近似橢圓族 等值線的疏密 沿等值線密的方向 函數(shù)值變化快 沿等值線疏的方向 函數(shù)值變化慢 等值線的疏密定性反應(yīng)函數(shù)值變化率 嚴(yán)重非線性函數(shù) 病態(tài)函數(shù)的等值線族是嚴(yán)重偏心和扭曲 分布疏密嚴(yán)重不一的曲線族 一 等值 線 面 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 等值線的分布規(guī)律與目標(biāo)函數(shù)變化規(guī)律之間的關(guān)系 對(duì)于求目標(biāo)函數(shù)極小化問(wèn)題來(lái)說(shuō) 愈靠近極值點(diǎn)的等值線 面 所代表的目標(biāo)函數(shù)值愈小 在極值點(diǎn)附近的等值線呈現(xiàn)橢圓形狀 其中心就是極值點(diǎn) 等值線舉例 二維優(yōu)化設(shè)計(jì)問(wèn)題 一 等值 線 面 令目標(biāo)函數(shù)值等于一系列常數(shù)值 則在設(shè)計(jì)平面上得到以點(diǎn) 2 0 為圓心 以為半徑的一族同心圓 曲線族中某一條曲線上的各點(diǎn)都具有相同的目標(biāo)函數(shù)值 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 二維優(yōu)化問(wèn)題的幾何描述 例 對(duì)二維優(yōu)化問(wèn)題 一 等值 線 面 進(jìn)行幾何描述 約束線 可行域 目標(biāo)函數(shù)等值線 約束極值點(diǎn) 設(shè) 是設(shè)計(jì)空間中的任意兩個(gè)向量 則有 1 xi yi i 1 2 n 時(shí) 稱x與y相等 2 x與y的和 差定義 3 向量與實(shí)數(shù)的乘積定義為 4 當(dāng)時(shí) 稱x為零向量 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 二 向量與矩陣 向量 1 向量的模 2 向量x與y之間的距離 3 向量x與y的內(nèi)積 4 非零向量x與y的之間的夾角 5 在實(shí)空間中 稱為歐氏空間 記作 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 二 向量與矩陣 歐式空間 1 設(shè)為中的m個(gè)向量 m n 若有不全為零的m個(gè)數(shù) i 1 2 m 使成立 稱向量組是線性相關(guān)的 2 若中一組向量線性相關(guān) 中任一向量x都可表示為則稱為的一組基 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 二 向量與矩陣 向量的線性相關(guān)與基 設(shè) 則有 設(shè) 為實(shí)數(shù) 則有 矩陣 當(dāng)m n時(shí) A稱為n階方陣 aii i 1 n 稱為方陣的主對(duì)角元素 稱為方陣 的行列式 且有 在n階方陣A中 當(dāng)主對(duì)角元素均為 其余各元素都為零 則稱為單位方陣E 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 二 向量與矩陣 方陣 對(duì)于n階方陣A B 如果AB E 則稱B為A的逆矩陣 記為 而且可推得 當(dāng)n階方陣各元素aii aji i j 1 n 稱A為對(duì)稱方陣 二次型 含有n個(gè)變量x1 x2 xn的二次齊次函數(shù) 上式也可表達(dá)為 對(duì)于任意的非零向量 恒有 則稱f X 為正二次型 A為正定矩陣 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 二 向量與矩陣 二次型與正定矩陣 函數(shù)的偏導(dǎo)數(shù) 偏導(dǎo)數(shù)是指在某坐標(biāo)軸方向函數(shù)值的變化率 連續(xù)可微的n維函數(shù) 在點(diǎn)的一階偏導(dǎo)數(shù)表示為 方向?qū)?shù) 二維問(wèn)題中 f x1 x2 在X 0 點(diǎn)沿方向s的方向?qū)?shù)為 其中 是X 0 點(diǎn)的梯度 S為s方向的單位向量 為S的方向角 方向?qū)?shù) 為方向余弦 為梯度 在方向s上的投影 三 梯度 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 梯度的性質(zhì) 梯度是X 0 點(diǎn)處最大的方向?qū)?shù) 梯度的方向是過(guò)點(diǎn)的等值線的法線方向 梯度是X 0 點(diǎn)處的局部性質(zhì) 梯度指向函數(shù)變化率最大的方向 正梯度方向是函數(shù)值最速上升的方向 負(fù)梯度方向是函數(shù)值最速下降的方向 對(duì)于n維問(wèn)題的梯度 三 梯度 例2 1求二元函數(shù)在處的梯度和梯度的模 解 由梯度的定義可得 將代入上式得到 的模為 梯度的單位向量為 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) n維函數(shù)f x 在x k 點(diǎn)的臺(tái)勞展開(kāi)式 二階近似式 其中 增量 X k x1 k x2 k xn k T 梯度 Hesse矩陣 四 Hesse矩陣與正定 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) Hesse矩陣的特性 是實(shí)對(duì)稱矩陣 矩陣正定的充要條件 主子式det ait 0 當(dāng)主子式det ait 0時(shí) 矩陣半正定det ait 0時(shí) 矩陣負(fù)定det ait 0時(shí) 矩陣半負(fù)定 Hesse矩陣的正定性 H x 正定 是x 為全局極小值點(diǎn)的充分條件 H x 半正定 是x 為局部極小值點(diǎn)的充分條件 H x 負(fù)定 是x 為全局極大值點(diǎn)的充分條件 H x 半負(fù)定 是x 為局部極大值點(diǎn)的充分條件 正定的二次函數(shù) 曲面為橢圓拋物面 等值線族為橢圓曲線族 橢圓中心為極小值點(diǎn) 四 Hesse矩陣與正定 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 凸集 設(shè)D為歐氏空間Rn中X的集合 即D Rn X D 若D域內(nèi)任意兩個(gè)點(diǎn)x 1 x 2 的連線上的各點(diǎn)都屬于D域 則的集合D稱為Rn內(nèi)的一個(gè)凸集 否則 為非凸集 凸函數(shù) f x 是定義在n維歐氏空間中 凸集上的函數(shù) 同時(shí)x 1 D x 2 D 0 1 當(dāng)下式成立時(shí) 則稱f x 為定義在凸集D上的凸函數(shù) f x 1 1 x 2 f x 1 1 f x 2 當(dāng)上式中的 為 時(shí) f x 是嚴(yán)格凸函數(shù) 五 函數(shù)的凸性 2 4優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) 判別函數(shù)為凸函數(shù)的凸性條件 按梯度判斷凸性 設(shè)f x 是定義在凸集D上具有連續(xù)一階導(dǎo)數(shù)的函數(shù) 則f x 在D上為凸函數(shù)的充要條件是 對(duì)于任意的x 1 x 2 D都有成立 按二階偏導(dǎo)數(shù)判斷凸性 設(shè)f x 是定義在凸集D上具有連續(xù)二階導(dǎo)數(shù)的函數(shù) 則f x 在D上為凸函數(shù)的充要條件是 f x 的Hesse矩陣處處半正定 若Hesse矩陣處處正定 則f x 為嚴(yán)格凸函數(shù) 凸函數(shù)的基本性質(zhì) 若f x 是定義在凸集D上的嚴(yán)格凸函數(shù) 則f x 在D上的一個(gè)極小點(diǎn) 也就是全局最小點(diǎn) 凸函數(shù)的線性組合仍然為凸函數(shù) f1 x f2 x 設(shè)x 1 x 2 為凸函數(shù)f x 上的兩個(gè)最小點(diǎn) 則其連線上的任意點(diǎn)也都是最小點(diǎn) 五 函數(shù)的凸性 2 5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件 一 優(yōu)化設(shè)計(jì)最優(yōu)解 無(wú)約束優(yōu)化設(shè)計(jì)問(wèn)題最優(yōu)解 約束優(yōu)化設(shè)計(jì)問(wèn)題最優(yōu)解 不受約束條件限制 使目標(biāo)函數(shù)達(dá)到最小值的一組設(shè)計(jì)變量 即最優(yōu)點(diǎn)x x1 x2 xn 和最優(yōu)值f x 構(gòu)成無(wú)約束問(wèn)題最優(yōu)解 滿足約束條件 使目標(biāo)函數(shù)達(dá)到最小值的一組設(shè)計(jì)變量 即最優(yōu)點(diǎn)x x1 x2 xn 和最優(yōu)值f x 構(gòu)成約束問(wèn)題最優(yōu)解 2 5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件 二 無(wú)約束問(wèn)題的極值條件 必要條件 充分條件 在點(diǎn)的一階偏導(dǎo)數(shù)為零 即梯度向量為零向量 如果它的二階偏導(dǎo)數(shù)矩陣 即Hesse矩陣 是負(fù)定的 則為極大點(diǎn) 如果它的二階偏導(dǎo)數(shù)矩陣是正定的 則為極小點(diǎn) 例2 2求三維函數(shù)的極值點(diǎn) 解 根據(jù)三維函數(shù)存在極值的必要條件 令梯度為零 2 5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件 二 無(wú)約束問(wèn)題的極值條件 聯(lián)解得到 海賽矩陣行列式各階主子式 計(jì)算點(diǎn)處的Hesse矩陣 Hesse矩陣是正定的 是極小點(diǎn) 對(duì)應(yīng)的目標(biāo)函數(shù)值 2 5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件 三 有約束問(wèn)題最優(yōu)點(diǎn)的幾種情況 2 有適時(shí)約束目標(biāo)函數(shù)是凸函數(shù) 可行域是凸集 則目標(biāo)函數(shù)等值線與適時(shí)約束曲面的切點(diǎn)為最優(yōu)點(diǎn) 而且是全局最優(yōu)點(diǎn) 1 無(wú)適時(shí)約束目標(biāo)函數(shù)是凸函數(shù) 可行域是凸集 則最優(yōu)點(diǎn)是內(nèi)點(diǎn) 相當(dāng)于無(wú)約束問(wèn)題的最優(yōu)點(diǎn) x k 為最優(yōu)點(diǎn)x 的條件 必要條件 充分條件 Hesse矩陣H x k 是正定矩陣 X f x x 2 5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件 有適時(shí)約束目標(biāo)函數(shù)是非凸函數(shù) 圖a 或可行域是非凸集 圖b 則目標(biāo)函數(shù)等值線與適時(shí)約束曲面可能存在多個(gè)切點(diǎn) 是局部極值點(diǎn) 其中只有一個(gè)點(diǎn)是全局最優(yōu)點(diǎn) 三 有約束問(wèn)題最優(yōu)點(diǎn)的幾種情況 p Q Q p 2 5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件 四 K T Kuhn Tucker庫(kù)恩 塔克 條件 有適時(shí)約束時(shí)獲得最優(yōu)解的條件 1 有一個(gè)適時(shí)約束時(shí) 與x k 點(diǎn)目標(biāo)函數(shù)的負(fù)梯度方向成銳角 即沿S方向目標(biāo)函數(shù)值下降 與x k 點(diǎn)約束函數(shù)的梯度方向成鈍角 即保證S方向上各點(diǎn)在可行域內(nèi) 此時(shí) 獲得最優(yōu)解x k 為最優(yōu)點(diǎn)x f x k 為最優(yōu)值f x 從數(shù)學(xué)上定義 當(dāng)從x k 點(diǎn)出發(fā)不存在一個(gè)S方向能同時(shí)滿足 即 則獲得最優(yōu)解 x k 為最優(yōu)點(diǎn)x f x k 為最優(yōu)值f x 從幾何上看 當(dāng)從x k 點(diǎn)出發(fā)不存在一個(gè)S方向能同時(shí)滿足 2 5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件 相反 當(dāng)從x k 點(diǎn)出發(fā) 存在一個(gè)S方向能同時(shí)滿足 和時(shí) 則x k 不是最優(yōu)點(diǎn) 從幾何上看 當(dāng)從x k 點(diǎn)出發(fā)存在一個(gè)S方向能同時(shí)滿足 與x k 點(diǎn)目標(biāo)函數(shù)的負(fù)梯度方向成銳角 即沿S方向目標(biāo)函數(shù)值下降 與x k 點(diǎn)約束函數(shù)的梯度方向成鈍角 即保證S方向上各點(diǎn)在可行域內(nèi) 此時(shí) x k 不是最優(yōu)點(diǎn)x 四 K T Kuhn Tucker庫(kù)恩 塔克 條件 有適時(shí)約束時(shí)獲得最優(yōu)解的條件 1 有一個(gè)適時(shí)約束時(shí) 2 5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件 2 有二個(gè)適時(shí)約束時(shí) x k 成為約束最優(yōu)點(diǎn)x 的必要條件為 幾何上位于和所張的扇形子空間內(nèi) 即不存在一個(gè)S方向能同時(shí)滿足 四 K T Kuhn Tucker庫(kù)恩 塔克 條件 有適時(shí)約束時(shí)獲得最優(yōu)解的條件 2 5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件 相反 不符合以上條件 幾何上不位于和所張的扇形子空間內(nèi) 則x k 點(diǎn)不是最優(yōu)點(diǎn) 不能表達(dá)成和的線性組合 即存在一個(gè)S方向能同時(shí)滿足 四 K T Kuhn Tucker庫(kù)恩 塔克 條件 有適時(shí)約束時(shí)獲得最優(yōu)解的條件 2 有二個(gè)適時(shí)約束時(shí) 2 5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件 3 K T條件 擴(kuò)展至m個(gè)適時(shí)約束 設(shè)某個(gè)設(shè)計(jì)點(diǎn)x k 其適時(shí)約束集為 幾何上 x k 成為約束最優(yōu)點(diǎn) 極小點(diǎn) x 時(shí) 目標(biāo)函數(shù)的負(fù)梯度向量位于m適時(shí)約束梯度向量所張成的子空間內(nèi) 且為線性獨(dú)立 則x k 成為約束最優(yōu)點(diǎn)的必要條件是目標(biāo)函數(shù)的負(fù)梯度向量可表示為適時(shí)約束梯度向量的線性組合 即 其中 四 K T Kuhn Tucker庫(kù)恩 塔克 條件 有適時(shí)約束時(shí)獲得最優(yōu)解的條件 2 5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件 K T條件的作用 判別邊界設(shè)計(jì)點(diǎn)x k 為最優(yōu)點(diǎn)的依據(jù) 見(jiàn)參考書(shū) 第三版 52頁(yè)例3 6 53頁(yè)例3 7 要求會(huì)判斷 作為約束優(yōu)化的收斂條件 問(wèn)題 K T條件是否為充分必要條件 若是 說(shuō)明理由 若不是 則說(shuō)明什么情況下 可成為充要條件 有等式約束時(shí) K T條件是否還能適用 四 K T Kuhn Tucker庫(kù)恩 塔克 條件 有適時(shí)約束時(shí)獲得最優(yōu)解的條件 2 6優(yōu)化設(shè)計(jì)問(wèn)題的數(shù)值迭代法及其收斂條件 一 數(shù)值迭代法 基本思想 從設(shè)計(jì)點(diǎn)x k 出發(fā) 根據(jù)函數(shù)在該點(diǎn)的某些 局部 性質(zhì) 確定本次搜索的方向S k 和步長(zhǎng)因子 k 從而達(dá)到一個(gè)新點(diǎn)x k 1 逐步調(diào)優(yōu) 最終達(dá)到或逼近目標(biāo)函數(shù)的