《數(shù)值分析》5.5方程組的性態(tài)與誤差估計(jì)

5.5.2方程組的誤差估計(jì)5.5.1矩陣的條件數(shù)5.5方程組的性態(tài)和誤差估計(jì)5.5.1矩陣的條件數(shù)定義5.5.1如果方程組Ax=b中，矩陣A和右端常數(shù)項(xiàng)b的微小變化，引起解向量x的很大變化，則稱(chēng)A為病態(tài)矩陣(相對(duì)于方程組而言)

，稱(chēng)相應(yīng)的方程組為病態(tài)方程組。否則，稱(chēng)A為良態(tài)矩陣，稱(chēng)相應(yīng)的方程組為良態(tài)方程組。若A及b作微小的變化，擾動(dòng)后的方程組其準(zhǔn)確解為（-2，10）T

先看一個(gè)例子，說(shuō)明方程組Ax=b的解對(duì)A(或b)的擾動(dòng)的敏感性問(wèn)題.在上例中，A和b的微小變化引起x很大的變化，x對(duì)A和b的擾動(dòng)是敏感的。這種現(xiàn)象的出現(xiàn)完全是由方程組的性態(tài)決定的。例5.7方程組的準(zhǔn)確解是(1,1)T.1.先考察常數(shù)項(xiàng)b的微小誤差對(duì)解的影響。設(shè)A是精確的，且為非奇異矩陣，b有誤差（或擾動(dòng)）δb。x為Ax=b的精確解。方程組 的解與x的差記為：從而||δx||≤||||*||δb||⑴即 ⑵又Ax=b≠0則||b||≤||A||*||x||即：A(x+δx)=b+δb，即：A(δx)=δb.（假設(shè)Ax=b≠0)我們需要一種能刻畫(huà)矩陣和方程組病態(tài)程度的標(biāo)準(zhǔn)。⑶式說(shuō)明：當(dāng)b有一定相對(duì)誤差時(shí)，引起解Ax=b解的變化的相對(duì)誤差上界由⑶給出。解的相對(duì)誤差是常數(shù)項(xiàng)相對(duì)誤差的倍。由⑴⑵得下面結(jié)論:定理

(b擾動(dòng)對(duì)解的影響)設(shè)：1）設(shè)Ax=b≠0，x為精確解，detA≠0；2）且設(shè)A(x+δx)=b+δb則有:⑶如果矩陣范數(shù)取2范數(shù)，則記

定義5.5.2設(shè)A∈Rn×n為可逆矩陣，按算子范數(shù)，稱(chēng)cond（A）=同樣可以定義cond∞（A）和cond1（A）。。按（5.5.1），為矩陣A的條件數(shù)。(5.5.1)（1）cond（A）≧1，cond（A）=cond（A-1），cond（A）=cond(A),其中∈R，≠0若A對(duì)稱(chēng)，則cond2（A）=設(shè)A-1存在，條件數(shù)有如下一些性質(zhì)：cond（A）≧（3）設(shè)與為A按絕對(duì)值最大和最小的特征值，則（2）若U為正交矩陣，即UTU=I,則cond2（U）=1，cond2（A）=cond2（AU）=cond2（UA）。例5.10下列Hilbert矩陣是一族著名的病態(tài)矩陣：它是一個(gè)n×n的對(duì)稱(chēng)矩陣，可以證明是正定的。計(jì)算條件數(shù)有cond2（H4）=1.5514×104，cond2（H6）=1.4951×107，cond2（H8）=1.525×1010。由此可見(jiàn)，隨著n的增加，Hn的病態(tài)可能越嚴(yán)重。Hn常常在數(shù)據(jù)擬合和函數(shù)逼近中出現(xiàn)。練習(xí)：已知Hilbert矩陣：計(jì)算H3的條件數(shù)。解：下面計(jì)算H3的條件數(shù)同樣可計(jì)算 ，一般Hn矩陣當(dāng)n越大時(shí)，病態(tài)越嚴(yán)重。則：對(duì)于實(shí)際問(wèn)題，條件數(shù)一般是很難計(jì)算的。下列現(xiàn)象可能表示方程組Ax=b是病態(tài)的。

（1）如果矩陣A的按絕對(duì)值最大特征值和最小特征值之比很大，則A是病態(tài)的。（2）如果系數(shù)矩陣A的元素間數(shù)量級(jí)很大，并且無(wú)一定規(guī)則，則A可能病態(tài)。（3）如果系數(shù)矩陣A的某些行或列是近似相關(guān)的，或系數(shù)矩陣的行列式值相對(duì)說(shuō)很小，則A可能病態(tài)。（4）如果在A(yíng)的三角化過(guò)程中出現(xiàn)小主元或采用選主元技術(shù)，主元素?cái)?shù)量級(jí)相差懸殊時(shí)，則A可能病態(tài)。對(duì)于病態(tài)方程組，數(shù)值求解必須小心進(jìn)行，否則達(dá)不到所要求的準(zhǔn)確度。有時(shí)可以用高精度（如雙精度或擴(kuò)充精度）的運(yùn)算，以改善或減輕方程組的病態(tài)程度，有時(shí)也可以對(duì)原方程組作預(yù)處理，以降低系數(shù)矩陣的條件數(shù)，即選擇非奇異矩陣P和Q，一般選P和Q為對(duì)角陣或三角矩陣，使cond（PAQ）<cond(A)然后，求解等價(jià)方程組PAQy=Pb，y=Q-1x。例如，對(duì)矩陣有cond∞≈105。若進(jìn)行預(yù)處理則cond∞（B）=4，條件數(shù)有改善。5.5.2方程組的誤差估計(jì)定理5.9設(shè)Ax=b，A為非奇異矩陣，b為非零向量，A和b分別有擾動(dòng)，A和b,。若<1,則有誤差估計(jì)式由于舍入誤差，我們解方程組往往得到的是近似解。下面利用條件數(shù)給出近似解的事前誤差估計(jì)，即計(jì)算之前和計(jì)算之后的誤差估計(jì)。將上式兩端取范數(shù)，則有證.將Ax=b代入擾動(dòng)方程組，整理后有(5.5.2)

經(jīng)整理后得由于，即得所證。再利用，則有若時(shí)，則由（5.5.2）有例：P139

該定理說(shuō)明，當(dāng)cond(A)很大時(shí)，即使方程組余量r的相對(duì)誤差已經(jīng)很小，但近似解的相對(duì)誤差仍然可能很大。=A（x-）證由Ax=b有r=Ax-A又由x=A-1b，有定理得證。其中r=b-A為剩余向量。定理5.10設(shè)Ax=b，b≠0，則對(duì)方程組的近似解有誤差估計(jì)式如果用直接解法得到的近似解誤差很大，我們可以用迭代改善的辦法對(duì)近似解進(jìn)行修正。設(shè)r=b-A，△x為修正量，為新的近似解。這樣，我們可以通過(guò)求解A△x=r得到，顯然，在準(zhǔn)確運(yùn)算下有（5.5.3）然而，再實(shí)際計(jì)算時(shí)，方程組（5.5.3）不大可能求解，所以解（5.5.3）只能提供有限的修正。因此，需要反復(fù)求解為（5.5.3）的方程組，不斷對(duì)所得的近似解進(jìn)行改進(jìn)。這種近似值逐進(jìn)接近真解的過(guò)程稱(chēng)為迭代解法。為了節(jié)省計(jì)算量，可事先對(duì)矩陣A進(jìn)行LU分解，把反復(fù)解形為（5.5.3）的方程組改為反復(fù)解形為L(zhǎng)y=r，U△x=y的方程組。為了保證計(jì)算精度，計(jì)算剩余向量r可采用高精度計(jì)算。

方程組直接解法的穩(wěn)定性是應(yīng)當(dāng)注重的問(wèn)題。如果通過(guò)直接計(jì)算每一步設(shè)入誤差對(duì)解的影響來(lái)獲得近似解的誤差界，那將是非常困難的。J.H.Wilkinson等人提出了“向后誤差分析法”，其基本思想是把計(jì)算過(guò)程中設(shè)入誤差對(duì)解的影響歸結(jié)為原始數(shù)據(jù)對(duì)解的影響。下面給出一個(gè)定理來(lái)說(shuō)明這方面的結(jié)果。定理5.11設(shè)A∈Rn×n，A為非奇異矩陣，用列主元法或全主元法解方程組Ax=b，其計(jì)算解滿(mǎn)足。記計(jì)算機(jī)尾數(shù)字長(zhǎng)是消去過(guò)程中A(