數(shù)值計(jì)算方法：ch2-1 向量、矩陣范數(shù)與譜半徑

1、解線性代數(shù)方程組的迭代法例1求解方程組方程組的精確解是22.1向量、矩陣范數(shù)與譜半徑32.1向量、矩陣范數(shù)與譜半徑定義：設(shè)將實(shí)數(shù)稱為向量x,y的數(shù)量積.歐氏范數(shù)4定理設(shè) ，則1.(x,x)=0當(dāng)且僅當(dāng)x=0成立2.(ax,y)= a(x,y), a為實(shí)數(shù)3. (x,y)= (y,x)4. (x1+x2,x)= (x1,y)+ (x2,y)5. 等式當(dāng)且僅當(dāng)x與y線性相關(guān)時(shí)成立6.5向量的范數(shù)定義2.1設(shè) 為x的實(shí)值函數(shù)，若它滿足下列條件（1）非負(fù)性（2）齊次性（3）三角不等式則稱 為Rn上的一個(gè)向量范數(shù)（或向量模）, 的值稱為向量x的范數(shù)6由向量范數(shù)的定義可以推出證明：由定義中的“三角不等式”

2、可以很容易的證明。7常見(jiàn)的三種向量范數(shù)“1范數(shù)”“2范數(shù)”（歐氏范數(shù)）“范數(shù)”（最大范數(shù)）8這3個(gè)范數(shù)可以統(tǒng)一記為容易得出，這三種范數(shù)滿足關(guān)系（2.1.8）（2.1.9）9定理：設(shè) 為Rn上向量的任意兩種范數(shù)，則存在常數(shù)c1,c20，使得對(duì)于一切xRn有向量范數(shù)的等價(jià)性（2.1.8）（2.1.9）10定義2.2：設(shè) 為Rn上的一個(gè)向量序列(k =1,2,) 如果對(duì)于i=1,2, ,n有， 則稱向量序列x(k)收斂于向量x*11定理： 其中 為向量的任一種范數(shù)。結(jié)論：如果在一種范數(shù)意義下向量序列收斂，則在任何一種范數(shù)下該向量序列均收斂。12矩陣范數(shù)定義2.3設(shè) 為A的實(shí)值函數(shù)，若它滿足下列條件（

3、1）非負(fù)性（2）齊次性（3）三角不等式則稱 為 上的一個(gè)矩陣范數(shù)（或矩 陣模）, 的值稱為矩陣A的范數(shù)13相容范數(shù) （2.1.13）（2.1.14）14最常用的是利用向量范數(shù)來(lái)定義的矩陣范數(shù)：稱之為矩陣A的算子范數(shù)，其中（2.1.15）15定理2.1由(2.1.15)式所定義的矩陣范數(shù)為相容范數(shù)證明：容易證明，由(2.1.15)式所定義的函數(shù)滿足定義2.3的三個(gè)條件，故它是矩陣范數(shù)。另外，當(dāng)x=0時(shí)， (2.1.14)式顯然成立。對(duì)任意的x0,兩邊乘以即為(2.1.14)式。16再來(lái)證(2.1.13)式。注意到由(2.1.14)式有定理證完。17常見(jiàn)的三種向量范數(shù)“1范數(shù)”“2范數(shù)”（歐氏范數(shù)

4、）“范數(shù)”（最大范數(shù)）18最常用的是利用向量范數(shù)來(lái)定義的矩陣范數(shù)：稱之為矩陣A的算子范數(shù)，其中（2.1.15）19定理2.2對(duì)于由(2.1.15)式所定義的矩陣范數(shù)下列等式成立：其中AT表示A的轉(zhuǎn)置矩陣。(ATA之最大特征值)1/2(2.1.16)(2.1.17)(2.1.18)20證明先證(2.1.16)式。首先，對(duì)任意滿足 的xRn，因?yàn)?，故有21另一方面，設(shè)并取 ，則以為分量的向量 滿足這就證明了等式(2.1.16)成立，等式(2.1.16)表明， 等于A中各行元素按絕對(duì)值求各行所得的最大和數(shù)，故又稱為A的“行和范數(shù)”22再證等式(2.1.18)，注意當(dāng) 時(shí)，ATA是對(duì)稱非負(fù)定矩陣，故

5、ATA有完全正交的特征向量系 ，即其中 為ATA的特征值23對(duì)于任意的xRn，借助于特征向量系可表示為且從而有24由于故有(2.1.19)式說(shuō)明 是 的上界，并且這個(gè)上界在x=v1時(shí)達(dá)到。定理證完。（2.1.19）25(ATA之最大特征值)1/2行和范數(shù)列和范數(shù)譜范數(shù)（2.1.15）262.1.3 譜半徑矩陣A的特征值的按模最大值稱為A的譜半徑記作，即其中是A的特征值。定理2.3對(duì)任意 ，有27由譜半徑的定義,矩陣的2范數(shù)可記為當(dāng)A是實(shí)對(duì)稱矩陣時(shí)，由（2.1.18）式有這也就是說(shuō)，此時(shí)A的2范數(shù)與該矩陣的譜半徑相等。282.6 條件數(shù)與病態(tài)方程組292.6.1 矩陣的條件數(shù)例2.4 令 ,并設(shè)

6、3031病態(tài)方程組定義 如果矩陣A或常數(shù)項(xiàng)b的微小變化,引起方程組Ax=b的巨大變化,則稱此方程組為“病態(tài)”方程組,矩陣A稱為“病態(tài)”矩陣，否則稱方程組為“良態(tài)”方程組，A稱為“良態(tài)”矩陣。32設(shè)A為非奇異矩陣,用x表示(2.6.1)式的精確解,而 是擾動(dòng)方程組的精確解.由Ax=b和(2.6.3)兩式相減,可知解的誤差 滿足方程由此(2.6.3)33利用矩陣的范數(shù)性質(zhì),有另外,由Ax=b又有由(2.6.4)式和(2.6.5)式,便可得:(2.6.4)(2.6.5)(2.6.6)342.6.1 矩陣的條件數(shù)定義2.6 設(shè) 為可逆矩陣,稱 為矩陣A在范數(shù) 意義下的條件數(shù).(2.6.7)352.2

7、迭代法的一般形式與收斂性定理362.2.1迭代法的一般形式考慮求解線性代數(shù)方程組為了采用迭代法，首先要將方程組（2.2.1）改寫(xiě)成等價(jià)的形式其中 為已知向量， 代表未知向量。(2.2.1)(2.2.2)37給定初始近似值 ，定義向量序列稱為迭代序列，并稱H為迭代矩陣。（2.2.3）38如果當(dāng)k時(shí)， 有極限，設(shè)為則在等式（2.2.3）兩端取極限可得此式表明迭代序列的極限恰為方程組的解。因此，如果迭代序列收斂，則當(dāng)k充分大時(shí)，可將x(k)取作方程組的近似解。（2.2.3）（2.2.4）39例: 解方程組,要求準(zhǔn)確到小數(shù)點(diǎn)后第五位40kx1(k)x2(k)x3(k)01234567891011121

8、300.720000.971001.057001.085351.095101.098341.099441.099811.099941.099981.099991.100001.1000000.830001.070001.157101.185341.195101.198341.199441.199811.199941.199981.199991.200001.2000000.840001.150001.248201.282821.294141.295041.299341.299781.299921.299981.299991.300001.30000412.2.2迭代法的收斂性利用迭代公式（2.

9、2.3）構(gòu)造序列 ，以求得方程組（2.2.2）的近似解的算法稱為解（2.2.2）式的簡(jiǎn)單迭代法。若迭代序列 收斂，就稱此迭代法是收斂的。(2.2.2)（2.2.3）422.2.2迭代法的收斂性顯然，只有收斂的迭代法才能使用，因此必須回答在何種條件下，由公式（2.2.3）所定義的 為收斂的向量序列（2.2.3）43（2.2.3）（2.2.4）(2.2.2)(2.2.1)44根據(jù)（2.2.6）式可以判定，對(duì)任意x(0)即 的充分必要條件是 （零矩陣），k，由此得到下面結(jié)果.(2.2.6)45引理2.1迭代法（2.2.3）式對(duì)任何初始近似x(0)均收斂的充分必要條件是46引理2.2 的充分必要條件是

10、H的譜半徑47簡(jiǎn)單迭代法收斂的基本定理定理2.4迭代法（2.2.3）式對(duì)任何初始近似x(0)均收斂的充分必要條件是迭代矩陣H的譜半徑注意矩陣的任何一種相容范數(shù)均為其譜半徑的上界，因此我們有下面結(jié)果。推論2.1若 ,（允許為任何一種相容的矩陣范數(shù)），則迭代法（2.2.3）式收斂.48一般迭代法的求解步驟依據(jù)方程組分離x得到迭代格式判斷迭代格式是否收斂迭代求解滿足終止條件,迭代結(jié)束49迭代法迭代終止條件定理2.5當(dāng) 時(shí)，由迭代法（2.2.3）式所定義的序列滿足如下估計(jì)式：證明.（2.2.7）（2.2.8）50由估計(jì)式（2.2.7）可知，當(dāng)時(shí)，有因此，通?？梢杂?作為誤差的控制量，也就是說(shuō)在計(jì)算過(guò)程

11、中可以用它來(lái)判斷迭代是否應(yīng)當(dāng)終止。512.2.3 迭代法的收斂速度估計(jì)式（2.2.8）還表明，當(dāng)k時(shí), x(k)x*的速度不低于 的速度，這里 可取為任何一種矩陣范數(shù)，只要 即可. 另外，由迭代法收斂的基本定理可知，迭代序列 的收斂速度是由迭代矩陣H的譜半徑?jīng)Q定的,即x(k)x*的速度可由(H)(k)0的速度來(lái)刻畫(huà)。52討論使誤差減少初始誤差的倍所需最少迭代步數(shù)記y(k)=x(k)x* ，根據(jù)（2.2.6）式，為使 須滿足由上式兩端取對(duì)數(shù)，得到此即（2.2.9）53定義為迭代法（2.2.3）式的漸近收斂速度。（2.2.10）（2.2.9）54R(H)稱為迭代法的收斂速度是恰當(dāng)?shù)摹Ｊ聦?shí)上，設(shè)H1,H2為兩個(gè)不同的迭代矩陣，由公式(2.2.3)所定義的相應(yīng)的迭代法分別記為方法1和方法2，并設(shè)初始向量均為x(0)?？梢钥闯?，當(dāng)R(H1)R(H2)時(shí)，k1k2；特別地，當(dāng)R(H1)2R(H2)時(shí)，為達(dá)到同樣的精度，方法1所需迭代次數(shù)為方法2的一半，換句話說(shuō)方法1的收斂速度是方法2的兩倍。55一般迭代法的求解步驟依據(jù)方程組分離x得到迭代格式判斷迭代格式是否收斂迭代求解滿足終止條件,迭代結(jié)束56迭代法迭代收斂條件定理2.4迭代法（2.2.3）式