機械優(yōu)化設計備課筆記3

1、第四章 無約束優(yōu)化方法§41 關于多元函數的幾個有關問題一、多元函數的方向導數偏導數的意義 導數是用來描述函數隨自變量變化的變化率。對于一個多元化函數，可以用偏導數的概念來研究函數沿各坐標方向的變化率。如圖所示，二維函數F(x)為一空間的曲面。在定義域內的某點處函數f(x)的偏導數的定義為：偏導數的幾何意義為：曲面上的某點K與定義域上x(0)點相對應。過某點作垂直于ox2軸線的平面，即x2=x20，該平面與曲面的交線為S1，直線T1為曲線S1上過K點的切線，則偏導數(或)就是切線的斜率。當時，函數(x)在x0點鄰域內，沿ox1軸方向為遞增；但時，函數F(x)在x0點鄰域內沿ox1軸方

2、向分為遞減。因此，偏導數是表示函數F(x)在x0點處沿坐標x1軸方向的變化率；同理，偏導數是曲線S2上K點處的切線T2的斜率，它表示函數F(x)在x0點處沿坐標x1方向的變化率。由此可見，多元函數的偏導數是描述函數沿坐標軸方向隨自變量變換的變化率。為了求出多元函數沿任意給定方向的變化率，需要引入方向導數的概念。2、方向導數的定義及幾何意義：二元函數F(x1,x2)在點處沿某一給定方向l的導數定義為：由x0點沿l方向取一足夠小的長度到x點，即：這時函數值由F(x10，x20)變化到F(x10+x10，x20+x20)，如果0時，下述極限值：若存在，則該極限值就定義為函數F(x)在x0點處沿l方向

3、上的方向導數，記作為：或簡記為：方向導數是用來描述函數F(x)在x0點處沿方向l上的變化率。它的幾何含義是：過x0點沿單位矢量l0方向作與平面x1ox2相垂直的平面，該平面與曲面的交線為Sl，直線Tl是該曲線Sl上過x0點的切線，則在x0點處沿l方向的方向導數就是曲線Sl在K點的切線Tl之斜率。若，則表示函數在0點處沿l方向是遞增得；若，則表示函數在0點處沿l方向為遞減。3、方向導數與偏導數、之間的關系若單位矢量l0方向與坐標軸x1，x2之間的夾角分別為1、2：，則方向導數與偏導數之間的關系如下：當0時,并且，因此，上式方向導數可以寫成為:我們可以將上述二元函數的方向導數概念推廣到元函數中，在

4、維空間中，元函數在0點處沿給定單位矢量方向lcos1,cos2,.,cosnT上的方向導數與沿各坐標軸的偏導數（I=1,2,n）之間關系為：二、多元函數的梯度建立了方向導數的概念后，我們進一步提出這樣一個問題：多元函數F(x)在何點x0處沿何方向上方具有最大的方向導數呢？或者說，沿何方向上函數的變化率為最大呢？為了研究這個問題，我們需要引入函數的梯度概念。我們仍然從二元函數開始討論。二元函數F(x)在x0點處的方向導數的表達式可以用列矩陣來表示為：令一矢量：顯然，該矢量的模為：其方向余弦為：矢量稱為函數在某點處的梯度。它可以表示為：上式中，分別表示矢量與坐標軸的夾角。而方向的模為：即為單位矢量

5、。因此，二元函數在某點處沿單位矢量方向的方向導數可以表達為：，即： 利用上述方向導數的表達式，我們下面討論二元函數在某點處沿何方向上具有最大的方向導數的問題。 由于函數在某點處的偏導數是確定值，因而由它們構成在某點處的函數梯度矢量及其模都是確定的量，而與方向導數的方向無關。由上式可知：是梯度矢量與方向的夾角的余弦，它的大小將隨著方向的選取不同而變化。當所選取的方向恰好與梯度的方向重合時，這時函數沿某方向即方向的變化率為最大。因此，我們可以得出如下結論：函數的梯度是一個矢量，它可以用函數的一階偏導數所組成的列矩陣來表示，即，。梯度的方向是函數在某點處函數值變化率為最大的方向，梯度的模就是函數變化

6、率的最大值。 梯度的幾何意義：如圖所示，設有一個二元函數，其所示的曲面為，為定義域內某點，其函數值為。若作一個與平面平行，且高的平面，該平面與函數所表示的曲面相交，得一等函數值的曲線，將這一曲線投影于坐標平面上，則該曲線上的各點的函數值均相等。坐標平面上的曲線就是函數值為的等值線。理論上講，可以在坐標平面上作出無數條等值線。在等值線上過點作一切線，其方向為。函數在沿等值線上某點處的切線方向的方向導數，這是因為沿等值線上某點的切線方向，函數值的變化率為零，即。又由于，所以，。由上式可見：梯度矢量的方向必定與等值線的切線方向相垂直。由此可得出如下結論：梯度是函數在定義域內某點處的矢量。梯度的方向是

7、函數在該點處變化率最快的方向，也就是說是函數值增加最快或最速上升的方向；而負梯度方向是函數值減小最快或最速下降的方向；與梯度成銳角方向的為函數值上升的方向；與負梯度方向成銳角方向的為函數值下降的方向；函數在某點梯度矢量只是指出該點極小領域內函數值的最速上升和下降方向，因而梯度最速上升或最速下降的性質僅是函數在該點極小領域內的局部性質。函數在定義域內的各點都有各自對應的一個確定的梯度；多元函數在其等值線和等值面上的各點處，函數的梯度矢量指向函數等值線和等值面的外法線方向。二元函數的梯度概念同樣可以推廣到多元函數中，設有一個多元函數在某定義域內有連續(xù)的一階偏導數，則在某點處梯度為：函數的梯度也可以

8、用符號和來表示梯度矢量的模為：沿梯度方向上的單位矢量為：二元函數的梯度性質（即上述三個結論）也完全適用于多元函數。三、二次型函數 二次型函數是指含有n個自變量又l，又2，ooo，3n的二次齊次函數：將上式寫成矩陣形式y(塞)真1(鷹11尤1十配12尤2十十“1”囂n)十遼2(配21又1十o 22又3十·。 十“2n又n)十·。·十2in(6”l又1十oR2又3十十6”n義”)若令則式(26b)簡記為嚴(真)真A真 對于二次型函數F(真)xTA真，若對于任意不為零的真t又l 23 2n，恒有嚴(X)o，則相應的系數矩陣4稱為正定矩陣。若恒有嚴(真)0，則稱A為半正定矩陣。 類似以上定義。若對于任意不為零的真，恒有F(X)0，則矩陣A稱為負定矩陣。若對于某些塞有嚴(X)o，而對另一些又有y(真)0，稱A為不定矩陣。 式