數(shù)值分析課件 第5章 解線性方程組的直接法

1、第五章 線性代數(shù)方程組的數(shù)值解法線性方程求解問題是科學(xué)研究和工程計算中最常見的問題。如電學(xué)中的網(wǎng)絡(luò)問題、工程力學(xué)中求解連續(xù)力學(xué)體（微分方程）問題的差分方法、有限元法、邊界元法及函數(shù)的樣條插值、最小二乘擬合等，都包含了解線性方程組問題。因此，線性方程組的解法在數(shù)值計算中占有極其重要的地位。對于階線性方程組，若，則方程組有惟一解。由克萊姆（Cramer）法則，其解為,其中為用向量代替中第列向量所得矩陣。每個階行列式共有項，每項都有個因子，所以計算一個階行列式需做次乘法，我們共需要計算個行列式，要計算出，還要做次除法，因此用Cramer法則求解要做次乘除法（不計加減法），計算量十分驚人。如時，就需作

2、約次乘法?？梢奀ramer法則在理論上是絕對正確的，但當(dāng)較大時，在實際計算中卻是不可行的。因此尋求有效的數(shù)值計算方法就成為非常必要的課題。線性方程組的類型很多，若按其系數(shù)矩陣階數(shù)的高低和含零元素多少，大致可分為兩類：一類是低階稠密線性方程組，即系數(shù)矩陣階數(shù)不高，含零元素很少。另一類是高階稀疏線性方程組，即系數(shù)矩陣階數(shù)高，零元素占絕對優(yōu)勢（比如占以上）。線性方程組的數(shù)值解法也可分為兩大類：直接法和迭代法。直接法是在沒有舍入誤差的情況下，通過有限步運算可以得到方程組精確解的方法。但是，在實際計算時，由于初始數(shù)據(jù)變?yōu)闄C器數(shù)而產(chǎn)生的誤差以及計算過程中所產(chǎn)生的舍入誤差等都要對解的精確度產(chǎn)生影響，因此直接

3、法實際上也只能算出方程真解的近似值。常用的有效算法是Gauss消去法和矩陣的三角分解法。迭代法是用某種極限過程去逼近準(zhǔn)確解的方法。如對任意給定的初始近似解向量，按照某種方法逐步生成近似解序列使極限為方程組的解。因為在實際計算時，只能做到有限步，所以得到的也是近似解。常用的迭代法主要有Jacobi迭代法、Gauss- Seidel迭代法、逐次超松弛法及共軛斜量法等。直接法的優(yōu)點是運算次數(shù)固定，并且可以事先估計。它的缺點是通常需要存儲系數(shù)矩陣和常數(shù)項的所有元素，因而所需存貯單元較多，編寫程序較復(fù)雜，一般適用于求解低階線性方程組；迭代法的優(yōu)點是原始系數(shù)矩陣始終不變，且只需存儲原方程組系數(shù)矩陣中的非零

4、元素，因而算法簡單，編寫程序較方便，且所需存貯單元也較少，所以被廣泛用于求解高階稀疏線性方程組。缺點是存在收斂性和收斂速度問題，因而只能對具有某些性質(zhì)的方程組才適用。1 消元法1.1 三角方程組的解法形如 (1.1)的方程組稱為上三角形方程組。寫成矩陣形式簡寫為。若，則(1.1)有惟一解我們稱求解上三角方程組(1.1)的過程為回代過程。同時也看到求解這類方程組是件容易的事，所以對一般形式的方程組，應(yīng)設(shè)法將它化為(1.1)式的形式，然后再求解。1.2 Gauss消去法考慮方程組 (1.2)其矩陣形式為其中化線性方程組(1.2)為等價的三角形方程組的方法有多種，由此導(dǎo)出不同的直接方法，其中Gaus

5、s消去法是最基本的一種方法。Gauss消去法分消元計算和回代求解兩個過程。為后面的符號統(tǒng)一起見，記方程組(1.2)為其中。 消元計算第一步：就是要將的第一列主對角元以下的元素全約化為0。設(shè)，計算用乘(1.2)的第1個方程，加到第個方程上，完成第一步消元，得(1.2)的同解方程組 (1.3)簡記為其中的元素的計算公式為假設(shè)前步消元完成后，得(1.2)的同解方程組為 (1.4)簡記為。第步：就是要將的第列主對角元以下的元素全約化為0。設(shè)，計算用乘(1.4)的第個方程加到第個 方程上，完成第步消元。得同解方程組其中元素的計算公式為繼續(xù)上述過程，完成步消元后，(1.2)化成同解的上三角方程組 (1.5

6、)簡記為。回代求解因，故，于是 (1.6)Gauss消去步驟能順利進行的條件是，現(xiàn)在的問題是矩陣應(yīng)具有什么性質(zhì)，才能保證此條件成立。若用表示的順序主子式，即有下面定理定理1 約化的主元素的充要條件是矩陣的順序主子式。證明 必要性。因主元素，可進行步消元，每步消元過程不改變順序主子式的值，于是必要性得證。用歸納法證明充分性。時命題顯然成立。假設(shè)命題對成立。設(shè)。由歸納法假設(shè)有，Gauss消去法可以進行步，約化為其中是對角元為的上三角陣。因是通過步消去法得到的，每步消元過程不改變順序主子式的值，所以的階順序主子式等于的，即由知，充分性得證。1.3 Gauss消去法的計算量1）消元過程的工作量第步消元

7、過程：計算乘子需作次除法運算；第行乘加到第行，需要乘法和減法各次（第列元素?zé)o需計算），共行（），所以需要乘法次，故消元過程中的乘、除和減法運算量為乘除法次數(shù)：加減法次數(shù)：2）回代過程的工作量計算需要次乘除法和次加減法運算，整個回代過程的運算量為：乘除法：減法：所以Gauss 消去法的總運算量為乘除法：（當(dāng)較大時）加減法：（當(dāng)較大時）當(dāng)時，用Gauss消去法約需430次乘除運算，而用Gramer法則約需次乘除法。1.4 Gauss消去法的矩陣形式如果用矩陣形式表示，Gauss消去法的消元過程是對方程組(1.2)的增廣矩陣進行一系列初等變換，將系數(shù)矩陣化成上三角形矩陣的過程，也等價于用一串初等矩陣

8、去左乘增廣矩陣，因此消元過程可以通過矩陣運算來表示。第一次消元等價于用初等矩陣左乘矩陣，即一般地，第次消元等價于用初等矩陣左乘矩陣，即經(jīng)過次消元后得到有將上三角矩陣記為，得到其中為單位下三角陣。這說明，消元過程實際上是把系數(shù)矩陣分解為單位下三角陣與上三角矩陣的乘積的過程。這種分解稱為杜利特爾（Doolittle）分解，也稱為分解。定理2（矩陣的分解）設(shè)為階方陣，如果的順序主子式，則存在惟一的單位下三角陣和上三角陣，使。證明 以上的分析已證明了可作分解。下面證明分解的惟一性。如果非奇異，設(shè)有兩個分解式其中都是單位下三角陣，都是上三角陣。因非奇異，所以都可逆。于是左邊為單位下三角陣，右邊為上三角陣

9、，所以即有，惟一性得證。若為奇異陣，因其階順序主子式不等于零，故可記其中為階非奇異陣，為階單位下三角陣，由，得由已證明的結(jié)果知的分解是惟一。所以亦是惟一確定的。進而，也是惟一確定的。定理2的逆命題是：定理3 設(shè)階方陣非奇異，若有惟一的分解（為單位下三角陣，為上三角陣），試證的順序主子式。（證明留給讀者）2 主元素法前面已指出Gauss消去法必須在各個約化主元素下才能進行?，F(xiàn)在還需指出的是：即使，但當(dāng)很小時，也不能做主元素的，因為作第次消元時，需將第個方程乘以，因此當(dāng)很小時，乘數(shù)很大，用去乘第行的元素，將導(dǎo)致的數(shù)量級迅速增長，這樣在消元計算 時，會出現(xiàn)大數(shù)吃掉小數(shù)的現(xiàn)象，因而導(dǎo)致最后計算結(jié)果的精

10、度很差甚至失真。例1 解方程組(1) 求精確解；(2) 在的浮點機上用Gauss消去法求解。解 (1) 容易求得方程組的精確解為。(2) 在所給浮點機上原方程組為由于消去第二式的，得對階，出現(xiàn)大數(shù)“吃掉”小數(shù)，結(jié)果有解得，回代第一式得。與精確解相比較，已無精確度可言。產(chǎn)生不準(zhǔn)確的原因是主元素太小，致使很大。改變上述狀況的辦法是將方程組的一、二兩式對換，得然后再使用Gauss消去法，此時于是得近似解。此例表明，高斯消去法解方程組時，小主元可能帶來嚴(yán)重的后果，因此應(yīng)盡量避免小主元的出現(xiàn)；另一方面，通過對換方程組中方程的次序或改動變量次序，選擇絕對值大的元素做主元，可減少舍入誤差，提高計算精度。2.

11、1 列主元與全主元消去法1列主元素消去法。在第步消元時，在的第列元素中選取絕對值最大者作為主元，并將其對換到位置上，然后再進行消元計算。用方程組(1.2)的增廣矩陣 (2.1)表示它，并直接在增廣矩陣上進行計算。具體步驟如下：第一步：首先在上述矩陣的第一列中選取絕對值最大的，比如，則。將(2.1)中第一行與第行互換。為方便起見，記行互換后的增廣矩陣為，然后進行第一次消元，得矩陣假設(shè)已完成步的主元素消去法，約化為第步：在矩陣的第列中選主元，如，使。將的第行與第行互換，進行第次消元。經(jīng)過步，增廣矩陣(1.7)被化成上三角形算法1（Gauss列主元素消去法）說明：消元結(jié)果沖掉，行乘數(shù)沖掉，det存放

12、行列式值。輸入，置，1. 消元過程對(1) 選主元：(a) 按列選主元，即確定，使(b) 若，停機；(c) 若（進行行交換）(2) 對（）對(3) 5. 回代過程(a) 若，輸出失敗信息，停機(b) (c) 對注：計算程序中對的判斷可以用或（是預(yù)選的很小正數(shù)）。2完全主元素法。在第步消元時，在的右下方階矩陣的所有元素中，選取絕對值最大者作為主元，并將其對換到位置上，再做消元計算。全主元消去法和列主元消去法相比，每步消元過程所選主元的范圍更大，故它對控制舍入誤差更有效，求解結(jié)果更加可靠。但全主元法在計算過程中，需同時作行與列的互換，因而程序比較復(fù)雜，計算時間較長。列主元法的精度雖稍低于全主元法，

13、但其計算簡單，工作量大為減少，且計算經(jīng)驗與理論分析均表明，它與全主元法同樣具有良好的數(shù)值穩(wěn)定性，故列主元法是求解中小型稠密線性方程組的最好方法之一。2.2 列主元消去法的矩陣形式第步消元時，需先交換的第行與第行，然后再做消元計算，相當(dāng)于對進行如下的矩陣計算：(1) 用初等排列矩陣左乘，即其中由交換單位矩陣的第與兩行所得。顯然。(2) 用初等矩陣左乘，即于是對施行帶行交換的步消元過程，可用矩陣表示為從而有因為，所以上式可改寫為其中可以證明，若是指標(biāo)為的單位下三角陣，則仍是一個指標(biāo)為的單位下三角陣。若令則是排列陣。于是即注意到仍為單位下三角陣，若令則有上式表明，帶行交換的Gauss消去過程所產(chǎn)生的

14、矩陣分解，相當(dāng)于對系數(shù)矩陣先施行每步消元時所做行交換后，再將所得矩陣進行分解。以上討論可敘述為定理4（列主元三角分解定理）如果為非奇異矩陣，則存在排列矩陣，使其中為單位下三角矩陣，為上三角矩陣。3 矩陣三角分解法3.1 直接三角分解法1. 不選主元的直接三角分解法設(shè)為如下形式 (3.1)由矩陣的乘法規(guī)則，得由此可得計算和的公式 (3.2)具體步驟如下：1）計算的第1行，的第1列2 ）計算的第行，的第列例2 求矩陣的三角分解。解 按式(3.2)所以緊湊格式：例2中矩陣的三角分解按緊湊格式計算，結(jié)果見下表如果線性方程組的系數(shù)矩陣已進行三角分解，則解方程組等價于求解兩個三角形方程組。第一步：先求解下

15、三角方程組得解第二步：再求解上三角方程組得解2選主元的直角三角分解法不選主元的直接三角分解過程能進行到底的條件是，實際上，即使非奇異，也可能出現(xiàn)某個的情況，這時分解過程將無法進行下去。另外，如果但很小，會使計算過程中的舍入誤差急劇增大，導(dǎo)致解的精度很差。但如果非奇異，我們可通過交換的行實現(xiàn)矩陣的分解，實際上是采用與列主元消去法等價的選主元的三角分解法，即只要在直接三角分解法的每一步引進選主元的技術(shù)即可。設(shè)步分解已經(jīng)完成，這時有考慮步分解，對于做到(4)(1) 計算輔助量，沖掉(2) 選主元。即確定行號，使，并記錄主行號：（為一維數(shù)組）(3) 交換的行與行元素(4) 計算的行與的第列元素（這里）

16、上述計算過程完成后，就實現(xiàn)了的分解，保存在的上三角部分，保存在的嚴(yán)格下三角部分，排列陣由的最后記錄可得。例如，設(shè)，則于是方程組的求解等價于解，即，可通過及完成。例3 用選主元的直接三角分解法解方程組，其中，解(1) 對作選主元的分解，中間結(jié)果沖掉相應(yīng)位置元素，數(shù)組記錄主行號。第一步分解：，因為，于是有第二步分解：，因為，故有于是由選主元過程，。，(2) 解，得；解，得3.2 解三對角方程組的追趕法在數(shù)值計算中，如三次樣條插值或用差分方法解常微分方程邊值問題，常常會遇到求解以下形式的方程組其中，系數(shù)矩陣 (3.3)是一種特殊的稀疏矩陣，它的非零元素集中分布在主對角線及其相鄰兩條次對角線上，稱為三

17、對角矩陣。方程組稱為三對角方程組。Gauss消去法用于三對角方程組時過程可以大大簡化。由于第次消元時，只需消去，所以消元過程就是用單位下二對角矩陣左乘矩陣。由于每個以上的列元素為零，不難看出具有形式定理5 設(shè)矩陣(3.3)滿足下列條件 (3.4)則它可分解為 (3.5)其中為矩陣(3.3)中所給出，且分解是惟一的。證明 將式(3.5)右端按乘法法則展開，并與的元素進行比較，得如果，那么我們可計算 ，即 (3.6)從以上的公式和消元過程我們可看出，要使得分解得以實施，必須滿足現(xiàn)在我們用歸納法證明：。當(dāng)時，顯然成立。假定成立，即，我們將證明時也成立。有當(dāng)矩陣(3.3)按式(3.6)計算進行分解后，

18、求解方程組可化為求解方程組及。解得 (3.7)再解，得 (3.8)按上述過程求解三對角方程組成為追趕法。式(3.6)，(3.7)結(jié)合稱為“追”的過程，相當(dāng)于Gauss消去法中的消元過程。式(3.8)稱為“趕”的過程，相當(dāng)于回代過程。算法21）輸入, 2）對 3）4）對 5）輸出，停機。追趕法的基本思想與Gauss消去法及三角分解法相同，只是由于系數(shù)中出現(xiàn)了大量的零，計算中可將它們撇開，從而使得計算公式簡化，也大大地減少了計算量。為節(jié)省計算機存貯單元，計算得到的分別存放在的存貯單元內(nèi)，而存放在的存貯單元內(nèi)。可以證明，當(dāng)系數(shù)矩陣為嚴(yán)格對角占優(yōu)時，此方法具有良好的數(shù)值穩(wěn)定性。4 平方根法與改進的平方

19、根法工程技術(shù)中的許多實際問題所歸結(jié)的線性方程組，其系數(shù)矩陣常具有對稱正定性，對于具有此類特性的系數(shù)矩陣，利用矩陣的三角分解法求解是一種較好的有效方法，這就是對稱正定矩陣方程組的平方根法及改進的平方根法，這種方法目前在計算機上已被廣泛應(yīng)用。4.1平方根法（Cholesky分解法）定理5（對稱陣的三角分解定理）設(shè)是對稱陣，且的所有順序主子式均不為零，則存在惟一的單位下三角陣和對角陣，使 (4.1)證明 因為的各階順序主子不為零，由定理2，存在惟一的Doolittle分解其中為單位下三角矩陣，為上三角矩陣。令，將再分解為其中為單位上三角矩陣。于是又由分解的惟一性即得，因此定理6（對稱正定陣的Chol

20、esky分解）設(shè)是對稱正定矩陣，則存在惟一的對角元素為正的下三角陣，使 (4.2)證明 因為為對稱陣，由定理5知，其中為單位下三角陣，。若令，則為的Doolittle分解，的對角元即的對角元。不難驗證，的（）階順序主子式為對應(yīng)的與的階順序主子陣的乘積，因此的順序主子式，。因為正定，有，由此可推出。記則有其中，它為對角元為正的下三角陣，所以(4.2)成立。由分解的惟一性，可得分解(4.2)的惟一性。證畢。分解式稱為正定矩陣的喬列斯基（Cholesky）分解。利用Cholesky分解來求系數(shù)矩陣為對稱正定矩陣的方程組的方法稱為平方根法。用比較法可以導(dǎo)出的計算公式。設(shè)比較與的對應(yīng)元素，可得 (4.3

21、)這里規(guī)定。計算順序是按列進行的。當(dāng)矩陣完成Cholesky分解后，求解方程組就轉(zhuǎn)化為依次求解方程組它們的解分別為 (4.4)當(dāng)?shù)脑厍蟪龊?，的元素也就求出，所以平方根法約需次乘除法，大約為一般分解法計算量的一半。同時還節(jié)省存貯，只需存系數(shù)矩陣的下三角部分和右端項，中間結(jié)果沖掉，計算解沖掉。此外，由式(4.3)的第一式得所以上式表明，在矩陣的喬列斯基分解過程中的平方不會超過的最大對角元，舍入誤差的放大受到了控制，且對角元素恒為正數(shù)，于是不選主元素的平方根法是數(shù)值穩(wěn)定的，計算實踐也表明了不選主元已有足夠的精度，所以平方根法是目前計算機上解決這類問題的最有效的方法之一。4.2改進的平方根法（法）利

22、用平方根法解對稱正定線性方程組時，計算矩陣的元素時需要用到開方運算。另外，當(dāng)我們解決工程問題時，有時得到的是一個系數(shù)矩陣為對稱但不一定是正定的線性方程組，為了避免開方運算和求解對稱（未必正定）方程組，我們可以引入下面改進平方根法。由定理5我們知道，為對稱矩陣時，它可分解成,其中為單位下三角陣，為對角陣。記由矩陣乘法，注意到，得于是導(dǎo)出分解的計算公式：對 (4.5)計算順序為：按式(4.5)進行分解，雖然避免了開方運算，但在計算每個元時多了相乘的因子，故乘法運算次數(shù)比Cholesky分解約增多一倍，乘法總運算量又變成數(shù)量級。仔細分析式(4.5)可以看出，式中有許多計算是重復(fù)的，如為此我們將引進輔

23、助量于是式(4.5)可改寫成 (4.6)具體計算過程是：矩陣作分解后，解方程組可分兩步進行：首先解方程組，再由求出。具體公式為 (4.7)例6 用改進平方根法求解方程組解 容易驗證，系數(shù)矩陣為對稱正定陣。按式(4.6)計算分解式，得按式(4.7)計算方程組的解，得所以方程組的解為。5 向量和矩陣的范數(shù)為了研究線性代數(shù)方程組近似解的誤差估計和迭代法的收斂性，我們需要引入衡量向量和矩陣“大小”的度量概念向量和矩陣的范數(shù)概念。5.1 向量范數(shù)定義1 設(shè)對任意向量，按一定的規(guī)則有一實數(shù)與之對應(yīng)，記為，若滿足正定性：，而且當(dāng)且僅當(dāng)；齊次性：對任意實數(shù)，都有；三角不等式：對任意，都有則稱為向量的范數(shù)。以上

24、三個條件刻劃了“長度”、“大小”及“距離”的本質(zhì)，因此稱為范數(shù)公理。對上的任一種范數(shù)，顯然有。向量空間上可以定義多種范數(shù)，常用的幾種范數(shù)：1）向量的1-范數(shù)：；2）向量的2-范數(shù)：；3）向量的-范數(shù)：；4）更一般的-范數(shù)：。容易證明，及確實滿足向量范數(shù)的三個條件，因此它們都是上的向量范數(shù)。此外，前三種范數(shù)是-范數(shù)的特殊情況（）。事實上，我們只需表明3）。事實上，由于及，故由數(shù)學(xué)分析的夾逼定理有。定理8 設(shè)給定，則對上每一種向量范數(shù)都是的元連續(xù)函數(shù)。證明 對于給定的，設(shè)為的列向量，將寫成分塊形式對，由三角不等式有其中，所以對任意的，當(dāng)時，有這就證明了的連續(xù)性。推論 是的元連續(xù)函數(shù)。下面討論范數(shù)的

25、等價性問題定義2 線性空間上定義了兩種范數(shù)和，如果存在常數(shù)，使 (5.1)則稱和是上等價的范數(shù)。顯然，范數(shù)的等價性具有傳遞性，即若與等價，與等價，則有與。定理9 上所有范數(shù)是彼此等價的。證明 只要證明上任一種范數(shù)都與等價。設(shè)是上定義的任一范數(shù)，記它是上的有界閉集。由定理8的推論，是上的元連續(xù)函數(shù)，故在上有最大值和最小值，且?，F(xiàn)在考慮，且，則有，所以有從而而當(dāng)時上式自然成立，這就證明了與的等價性。5.2 矩陣的范數(shù)這里主要討論中的范數(shù)及其性質(zhì)（的可類似討論），其范數(shù)要符合一般線性空間范數(shù)的定義1，為了考慮矩陣乘法運算的性質(zhì)，我們在矩陣范數(shù)的條件中多加一個條件。定義3 如果對上任一矩陣，按一定的規(guī)

26、則有一實數(shù)與之對應(yīng)，記為。若滿足 ，且當(dāng)且僅當(dāng)； 對任意實數(shù)，都有； 對任意的兩個階方陣，都有； （相容性條件）。則稱為矩陣的范數(shù)。這里與向量范數(shù)是一致的，條件則使矩陣范數(shù)在數(shù)值計算中使用更為方便。例5（矩陣的Frobenius范數(shù)）證明滿足矩陣范數(shù)定義3。它可以看成維向量的2-范數(shù)，所以滿足定義3的前三個條件，可驗證條件也成立。記，利用矩陣的乘積及Cauchy不等式有即得證。由于在實際中，經(jīng)常用到矩陣與向量的乘積運算，為了估計矩陣與向量相乘積的范數(shù)，那么在矩陣范數(shù)與向量范數(shù)之間具有某種協(xié)調(diào)關(guān)系是有好處的。為此，我們先引入相容性的概念，再由一種向量范數(shù)導(dǎo)出對應(yīng)的矩陣范數(shù)。定義4 對于給定的上一

27、種向量范數(shù)和上一種矩陣范數(shù)，若有 (4.9)則稱上述矩陣范數(shù)與向量范數(shù)相容。不難驗證如下不等式：對于上的一種向量范數(shù)，對任一，對應(yīng)一個實數(shù)，下面我們定理表明它定義了上的一種矩陣范數(shù)。不難驗證它有等價的形式 (4.10)定理10 設(shè)是上任一種向量范數(shù)，則對一切，由式(4.10)確定的實數(shù)定義了上的一種范數(shù)，把它記為，且有 (4.11)證明 首先證明(4.10)中的可以寫成。因為由定理8，是中有界閉集上的連續(xù)函數(shù)，故在上有最大值，即存在，使，所以式(4.10)中的上確界就是最大值。記為，有式(4.11)，并且由此可以得到 (4.12)余下將驗證以上確定的滿足范數(shù)定義3。條件,是明顯的。對任意，有即

28、得證，同理可證。定義5 對于上任意一種向量范數(shù)，由(4.11)所確定的矩陣范數(shù)，稱為從屬于給定向量范數(shù)的矩陣范數(shù)，簡稱從屬范數(shù)（也稱由向量范數(shù)誘導(dǎo)出的矩陣范數(shù)，自然范數(shù)或算子范數(shù)）。顯然，單位矩陣的任一種從屬范數(shù)。所以當(dāng)時，不是從屬范數(shù)。顯然從屬范數(shù)與所給定的向量范數(shù)相容，但是矩陣范數(shù)與向量范數(shù)相容，卻未必有從屬關(guān)系。例如可以證明與相容，即但不從屬于。我們把從屬于向量-范數(shù)、1-范數(shù)及2-范數(shù)誘導(dǎo)的矩陣范數(shù)，并分別稱為矩陣的-范數(shù)、1-范數(shù)及2-范數(shù)。定理11 設(shè)，則1（稱為的行范數(shù)）2（稱為的列范數(shù)）3（稱為的2-范數(shù)）其中是矩陣的最大特征值。證明 只就1，3給出證明，2同理。設(shè)，則所以有另

29、一方面，設(shè)整數(shù)滿足令，其中顯然有，而且3對任意，從而為非負定的對稱陣，其特征值為非負實數(shù)，依次排列為，對應(yīng)一組規(guī)范正交的特征向量，對任意的，可表示為如果，則有，特別地，取，上式等號成立，故。定義6 設(shè)的特征值為，稱為的譜半徑。引理1 設(shè)為上任一種向量范數(shù)，從屬于它的矩陣范數(shù)記為，為非奇異階方陣，證明(1) 定義了上一種范數(shù)。(2) 從屬于的矩陣范數(shù)，記為，有（證明留給讀者）定理12 (1)設(shè)為上任一種（從屬或非從屬）矩陣范數(shù)，則對任意的，有 (4.13)(2)對任意的及實數(shù)，至少存在一種從屬范數(shù)，使 (4.14)證明(1)設(shè)滿足，且。必存在向量，使不是零矩陣。對于任意一種矩陣范數(shù)，由矩陣范數(shù)定

30、義可得即可推出(4.13)。(2) 對任意的，總存在非奇異的，使為Jordan標(biāo)準(zhǔn)形，即是對角塊形式的矩陣，其中的Jordan塊為對于實數(shù)，定義對角陣容易驗證仍為塊對角形式，其分塊與相同，即其中它的階數(shù)與相同。取的范數(shù)，可得而為非奇異陣，由引理1知，定義了上一種向量范數(shù)，從屬于此向量范數(shù)的矩陣范數(shù)為定理13 如果為對稱矩陣，則。定理14 設(shè)是上一種從屬范數(shù)，矩陣，滿足，則為非奇異矩陣，且 (4.15)證明 若奇異，存在非零向量，使，所以有一個特征值1，故有。根據(jù)定理12，有，這和定理假設(shè)條件矛盾，所以非奇異。記，則于是。同理可證的情形。6 誤差分析6.1 方程組的性態(tài)與條件數(shù)在用數(shù)值計算方法解

31、線性方程組時，計算結(jié)果有時不準(zhǔn)確，這可能有兩種原因：第一是計算方法不合理；另外一種情況可能是線性方程組本身的問題。判斷一個計算方法的好壞，可用方法是否穩(wěn)定、解的精確度高低以及計算量、存貯量大小等來衡量。然而，對于不同的問題，同一方法卻可以產(chǎn)生完全不同的效果，這就涉及所提問題的性態(tài)，即“好、壞”。例6 容易看出，方程組的解為。而方程組的解為。比較這兩個方程組可以看出，只是右端項有微小的差別，最大相對誤差為，竟使解的結(jié)果面目全非。如果我們把第二個方程組看作是第一個方程組的常數(shù)項經(jīng)微小擾動得到的，所以也可稱第二個是第一個的擾動方程組。可見方程組的解對方程組的初始數(shù)據(jù)的擾動十分敏感，這種性質(zhì)與求解方法

32、無關(guān)，是方程組本身固有的性質(zhì)，即方程組的性態(tài)決定的。定義7 如果矩陣或常數(shù)項的微小變化，引起方程組解的巨大變化，則稱此方程組為“病態(tài)”方程組，矩陣稱為“病態(tài)”矩陣（相對于方程組而言），否則稱方程組為“良態(tài)”方程組，稱為“良態(tài)”矩陣。一般地說，在計算機上解方程組，實際上都是解所給方程的擾動方程，因為至少在對輸入的數(shù)據(jù)作十進制與二進制轉(zhuǎn)換時就要產(chǎn)生舍入誤差。對于良態(tài)問題，由于它的解與其擾動方程的解差別不大，所以只要算法是數(shù)值穩(wěn)定的，就可以得到較好的結(jié)果，而對于病態(tài)問題，即使算法是穩(wěn)定的，其計算結(jié)果依然會很壞。以下我們研究方程組的系數(shù)矩陣和向量的微小誤差（擾動）對解的影響。設(shè)為任何一種向量范數(shù)，矩陣

33、范數(shù)是從屬范數(shù)。設(shè)為非奇異且有微小擾動，有微小擾動，則的擾動方程為 (6.1)由，得由于非奇異，所以矩陣存在，因此為了估計，對上式兩端取范數(shù)，則有移項得假定足夠小，使得，則相對誤差為利用，得到 (6.2)式(6.2)表示了解的相對誤差與系數(shù)矩陣的相對誤差與右端向量的相對誤差之間的關(guān)系。由此得到：定理15 設(shè)是非奇異陣，。若系數(shù)矩陣及右端項分別有微小誤差及，引起解的誤差，當(dāng)時，它們的相對誤差間有如下關(guān)系推論1 若，則 (6.3)推論2 若，且充分小，則 (6.4)事實上，記，對于給定的，為確定的數(shù)，擾動充分小，可使，于是，所以(6.2)可以寫成不等式(6.2)、(6.3)及(6.4)式給出的都是

34、解的相對誤差的上界。推論1、推論2分別指出了當(dāng)只有或的誤差時，解的相對誤差都不超過它們的相對誤差的倍數(shù)。刻劃了線性方程組的解對初始數(shù)據(jù)誤差的敏感度，此數(shù)越大則在很小的或下可能使解的相對誤差很大，從而大大破壞了解的準(zhǔn)確性，而且是方程組本身一個固有的屬性，它與如何求解方程組的方法無關(guān)。因此可以用它來表示方程組的性態(tài)。定義8 設(shè)是非奇異陣，稱數(shù)為矩陣的條件數(shù)，用表示，即矩陣條件數(shù)與范數(shù)有關(guān)，常用的條件數(shù)有：(1) ；(2) 的譜條件數(shù)當(dāng)對稱矩陣時其中與為的絕對值最大和最小的特征值下面定理給出條件數(shù)的一些性質(zhì)，證明留給讀者。定理16 設(shè)，非奇異，則有（1），。（2）為正交陣，則；若為正交陣，則（3）設(shè)

35、與為按絕對值最大和最小的特征值，則若對稱，則。定理15表明，矩陣的條件數(shù)不小于1，當(dāng)條件數(shù)接近1時，矩陣稱為“良態(tài)”的；當(dāng)條件數(shù)比1大得多，矩陣是“病態(tài)”的。正交矩陣是最穩(wěn)定的一類矩陣。例7 計算例6方程組系數(shù)矩陣的條件數(shù)。解 系數(shù)矩陣為其逆矩陣為于是有條件數(shù)很大，所以方程組是“病態(tài)”的。例8 已知希爾伯特（Hilbert）矩陣計算的條件數(shù)。解 的逆矩陣的元素是所以（1）計算的件數(shù)。所以同樣，可算得，當(dāng)愈大時，病態(tài)愈嚴(yán)重。（2）考慮方程組的擾動方程（及的元素取3位有效數(shù)字）簡記為方程與它的擾動方程的解分別為：，于是，而有，所以這表明與的相對誤差不超過，而引起解的相對誤差超過50%。6.2 病態(tài)方程組的解法Turing在1948年第一個使用了“條件數(shù)”這一術(shù)語，接著不少數(shù)學(xué)工作者相繼提出用“矩陣條件數(shù)”來度量方程組求解等問題的病態(tài)程度，但是矩陣條件數(shù)大到怎樣才算大，并沒有一個客觀的衡量標(biāo)準(zhǔn)。另外，當(dāng)較大時，的計算也并