矩陣分解及其簡(jiǎn)單應(yīng)用

1、對(duì)矩陣分解及其應(yīng)用矩陣分解是指將一個(gè)矩陣表示為結(jié)構(gòu)簡(jiǎn)單或具有特殊性質(zhì)若干矩陣之積或 之和，大體分為三角分解、QR分解、滿秩分解和奇異值分解。矩陣的分解是很 重要的一部分內(nèi)容，在線性代數(shù)中時(shí)常用來(lái)解決各種復(fù)雜的問(wèn)題，在各個(gè)不同的 專業(yè)領(lǐng)域也有重要的作用。秩虧網(wǎng)平差是測(cè)量數(shù)據(jù)處理中的一個(gè)難點(diǎn)，不僅表現(xiàn) 在原理方面，更表現(xiàn)在計(jì)算方面，而應(yīng)用矩陣分解來(lái)得到未知數(shù)的估計(jì)數(shù)大大簡(jiǎn) 化了求解過(guò)程和難度。1. 矩陣的三角分解如果方陣A可表示為一個(gè)下三角矩陣L和一個(gè)上三角矩陣U之積，即A=LU, 則稱A可作三角分解。矩陣三角分解是以Gauss消去法為根據(jù)導(dǎo)出的，因此矩陣 可以進(jìn)行三角分解的條件也與之相同，即矩陣

2、A的前n-l個(gè)順序主子式都不為0, 即AkO.所以在對(duì)矩陣A進(jìn)行三角分解的著手的第一步應(yīng)該是判斷是否滿足這 個(gè)前提條件，否則怎么分解都沒(méi)有意義。矩陣的三角分解不是唯一的，但是在一 定的前提下，A二LDU的分解可以是唯一的，其中D是對(duì)角矩陣。矩陣還有其他不 同的三角分解，比如Doolittle分解和Croat分解，它們用待定系數(shù)法來(lái)解求A 的三角分解，當(dāng)矩陣階數(shù)較大的時(shí)候有其各自的優(yōu)點(diǎn)，使算法更加簡(jiǎn)單方便。矩陣的三角分解可以用來(lái)解線性方程組Ax=bo由于A=LU,所以Ax=b可以變 換成LU x-b,即有如下方程組：Ly = bUx = y先由Ly = b依次遞推求得yi，y2,yn»

3、再由方程Ux = y依次遞推求得x】，Xn-P 9 X.必須指出的是，當(dāng)可逆矩陣A不滿足Ak0時(shí)，應(yīng)該用置換矩陣P左乘A以便使 PA的n個(gè)順序主子式全不為零，此時(shí)有：Ly = pbUx = y這樣，應(yīng)用矩陣的三角分解，線性方程組的解求就可以簡(jiǎn)單很多了。2. 矩陣的QR分解矩陣的QR分解是指，如果實(shí)非奇異矩陣A可以表示為A=QR,其中Q為正交 矩陣，R為實(shí)非奇異上三角矩陣。QR分解的實(shí)際算法各種各樣，有Schmidt正交 方法、Givens方法和Householder方法，而且各有優(yōu)點(diǎn)和不足。2. 1. Schmidt正交方法的QR分解Schmidt正交方法解求QR分解原理很簡(jiǎn)單，容易理解。步驟

4、主要有：1)把 A寫(xiě)成m個(gè)列向量定(a“ a2» , am ),并進(jìn)行Schmidt正交化得a二(a】,a 2,a m)；2)單位化，并令 i>P 29*P m)»R=diag(a i，a 2»a m) K,其中a=aK； 3) A二QR這種方法來(lái)進(jìn)行QR分解，過(guò)程相對(duì)較為復(fù)雜， 尤其是計(jì)算量大，尤其是階數(shù)逐漸變大時(shí)，就顯得更加不方便。2.2, Givens方法的QR分解Givens方法求QR分解是利用旋轉(zhuǎn)初等矩陣，叩Givens )£陣T” (c, s)來(lái)得到 的，T“(c, s)是正交矩陣,并且det (Td(c, s)=lo Tjc, s)的

5、第i行第i列和第j 行第j列為cos。，第i行第j列和第j行第i列分別為sin。和-sin6,其他的 都為0.任何n階實(shí)非奇異矩陣A可通過(guò)左連乘T“(c, s)矩陣(乘積為T(mén))化為上 三角矩陣R，另Q=TL就有A=QR。該方法最主要的是在把矩陣化為列向量的基礎(chǔ) 上找出c和s,然后由此把矩陣的一步步向上三角矩陣靠近。Givens方法相對(duì) Schmidt正交方法明顯的原理要復(fù)雜得多，但是卻計(jì)算量小得多，矩陣Tu (c, s) 固有的性質(zhì)很特別可以使其在很多方面的應(yīng)用更加靈活。2. 3. Householder 方法的 QR 分解Householder方法分解矩陣是利用反射矩陣，即Household

6、er矩陣 H = E-2uut,其中u是單位列向量，H是正交矩陣，detH = -lo可以證明， 兩個(gè)H矩陣的乘積就是Givens矩陣，并且任何實(shí)非奇異矩陣A可通過(guò)連乘 Householder矩陣(乘積為S)化為上三角矩陣R,則A= QR。這種方法首要的就 是尋找合適的單位列向量去構(gòu)成矩陣H,過(guò)程和Givens方法基本相似，但是計(jì) 算量要小一些。矩陣的QR分解可以用來(lái)解決線性最小二爽法的問(wèn)題，也可以用來(lái)降低矩陣 求逆的代價(jià)。矩陣的求逆是件不小的工程，尤其是階數(shù)慢慢變大的情況時(shí)，而用 先把矩陣QR分解成正交矩陣和上三角矩陣，就容易多了，況且正交矩陣的轉(zhuǎn)置 就是逆，這一點(diǎn)是其他的矩陣分解無(wú)法比擬的

7、。在解求線性方程組中，如果系數(shù)矩陣的階數(shù)比較大，可以利用QR分解來(lái)使計(jì)算簡(jiǎn)單化。另外，QR分解考慮的是n階矩陣，其他的矩陣是不能用這種方法進(jìn)行分解，由于QR分解的這一前提條 件，使得下面提到的滿秩矩陣分解和奇異值分解就有了其特殊的意義。3. 滿秩分解滿秩分解也稱最大秩分解，前面的QR分解是面對(duì)n階矩陣的，而滿秩分解 可以處理長(zhǎng)方陣。滿秩分解是指，把秩為r的mxn矩陣A分解成A=FG,其中F 是秩為r的mxr階矩陣，G是秩為r的rxn階矩陣。滿秩矩陣的解求可以通過(guò)初 等變換法，但是必須經(jīng)過(guò)多次求逆，所以就利用Hermite行標(biāo)準(zhǔn)形來(lái)完成。把矩 陣A經(jīng)過(guò)變換成為Hermite行標(biāo)準(zhǔn)形B, B的膈j

8、2,，j,列為單位矩陣I的 前r列，另A的第，力,，L列為矩陣F, B的前行為矩陣G,則有A=FG。在廣義逆中，滿秩分解有很多的應(yīng)用。在證明A 1的存在性時(shí)就需要用到 Hermite行標(biāo)準(zhǔn)形來(lái)得到“對(duì)于任一的矩陣，總是存在非奇異矩陣Q和置換矩陣 P,使QAP=(y勖”，之后才能構(gòu)造X=P(y )Q來(lái)證明A 1是存在的。用 矩陣的滿秩分解還能構(gòu)造A若矩陣A有滿秩分解，即A=FG,則可以證明有 A+ = GH(FHAGH)1FHo4. 奇異值分解矩陣的奇異值分解是線性代數(shù)中一種重要的矩陣分解，在最優(yōu)化問(wèn)題、特征 值問(wèn)題、最小二乘問(wèn)題和廣義逆問(wèn)題及統(tǒng)計(jì)學(xué)問(wèn)題中都有重要的應(yīng)用。對(duì)秩為r 的mxn階矩陣

9、A進(jìn)行奇異值分解的步驟是：1)求得A%的特征值”，y2,yn, 及對(duì)應(yīng)的特征向量并正交單位化，得矩陣V,使得Vh(AhA)V =J,M =diag(Yi，y2，yn)； 2 )將V的前r列作為V”令U1 = AV1H-1,再擴(kuò)張U】成m 階的矩陣U； 3)那么A=U 菖vHo從計(jì)算過(guò)程中可以看出，矩陣的奇異值 分解解求是由矩陣的特征值開(kāi)始的，因此這種分解自然和特征值的問(wèn)題有莫大聯(lián) 系的。在廣義逆問(wèn)題中，矩陣的奇異值分解的作用一樣不可代替。在證明A1, 2, 3的存在性時(shí)，首先就需要用奇異分解來(lái)得到一個(gè)結(jié)論：r(AHA) = r(AAH) = r(AH) = r(A),由此得到的A11可以由A%

10、表示，再去證明A 1, 2, 3應(yīng)該滿足的條件 就方便得多了。另外，在構(gòu)造A的過(guò)程中也有應(yīng)用，若A有奇異值分解 a+ = u(S ?)vH,則有可以得到a+ = v(？)。5. 奇異值分解應(yīng)用于秩虧網(wǎng)平差在經(jīng)典平差中，都是以己知的起算數(shù)據(jù)為基礎(chǔ)，將控制網(wǎng)固定在己知數(shù)據(jù)上， 比如水準(zhǔn)網(wǎng)必須至少知道己知網(wǎng)中某一點(diǎn)的高程，平面網(wǎng)至少要己知一個(gè)點(diǎn)的坐 標(biāo)、一條邊的邊長(zhǎng)和一條邊的方位角。此時(shí)，誤差方程的系數(shù)矩陣B總是列滿秩 的，由此得出的法方程系數(shù)陣N = BtPB是個(gè)對(duì)稱的滿秩方陣，即R(N) = R(B), 法方程有唯一解。當(dāng)網(wǎng)中沒(méi)有必要的起算數(shù)據(jù)時(shí)(引起秩虧的原因)，網(wǎng)中所有 點(diǎn)均為待定點(diǎn)，就為自

11、由網(wǎng)，B為列虧矩陣，秩虧數(shù)為d(必要的起算數(shù)據(jù)個(gè)數(shù))， 誤差方程為：V = Bx 1組成的法方程為：BtPBx-BtP1 = 0若是按照直接解法用如下的方程組來(lái)解求X的解：(V = Bx-lBtPBx-BtP1 = 0(a)(VTPV = min可以得到|BTp引=0,即該方程組有解但不唯一，雖然滿足最小二乘準(zhǔn)則，但有 x無(wú)窮多組解，無(wú)法求得乂的唯一解，這是與經(jīng)典平差的根本區(qū)別。為了求得唯一解，必須增加新的約束條件。秩虧自由網(wǎng)平差就是在滿足最小 二乘VTpV = min和最小范數(shù)xTx = min的條件下，求參數(shù)一組最佳估值的平差 方法，也就是通過(guò)對(duì)如下的方程組來(lái)解求x的唯一解：V = Bx

12、1BtPBx-BtP1= 0VTPV = min舊xTx = min這是個(gè)夏雜的方程組，如果按部就班按照正常求解的方法是很困難的，下面我們 把矩陣的奇異值分解融合進(jìn)來(lái)。我們首先根據(jù)前面矩陣奇異分解的步驟求得矩陣B的奇異值分解： B = UT nlvH在此基礎(chǔ)上令矩陣G = V|M； uHo通過(guò)矩陣?yán)碚摰膶W(xué)習(xí)我 們知道，我們可以通過(guò)如下的方式來(lái)驗(yàn)證G就是B的廣義逆： (1)BGB=UW?vH = uT Vh = BL0 0J 0 0J L0 0 Lo 0(2) GBG = V 1 °1 UH U °1vhvM1。討3吊一1 °1 (JH = G LOO L。0 Lo

13、O LOO(BG)h = (U 菖 JvHV 1 0 UH)H = BG(GB)h = (vW quHuqVH)H=GB我們知道，對(duì)于不相容方程組Bx= b,使得x = Gb為極小范數(shù)最小二乘的充 要條件是G為B的廣義逆。而我們己經(jīng)得到了G就是B的廣義逆，那么就說(shuō)明G是 滿足該方程式的極小范數(shù)最小二乘解。也就是說(shuō)，我們得到未知參數(shù)的估值 x=Gl = V性1 UHL通過(guò)這種方式，我們求解方程組(b)就簡(jiǎn)單多了， 矩陣的奇異分解令問(wèn)題很容易的簡(jiǎn)單化了。6 .結(jié)論矩陣的分解還有很多的應(yīng)用，比如可以用來(lái)求矩陣的秩，對(duì)于階數(shù)偏大的矩 陣，即使用初等變換的方法，也是計(jì)算量很大的，而把矩陣分解后可以使計(jì)算

14、簡(jiǎn) 單。再如，在線性代數(shù)中求矩陣的n次昴是很常見(jiàn)的，若是一板一眼的進(jìn)行矩陣 相乘，當(dāng)n較大時(shí)計(jì)算量可想而知，況且，當(dāng)n逐漸增大或是非純數(shù)據(jù)間的運(yùn)算 的情況下，根本就沒(méi)有計(jì)算的可能，此時(shí)，矩陣分解方法的應(yīng)用可以令問(wèn)題變得 簡(jiǎn)單而易憧。判斷矩陣的正定性需要不斷的計(jì)算行列式，計(jì)算量大而復(fù)雜，矩陣 分解可以使之更簡(jiǎn)單直接。矩陣的分解作用很廣泛，在不同的領(lǐng)域都發(fā)揮著其獨(dú)特的作用，只要應(yīng)用得 好，肯定可以使原有的問(wèn)題簡(jiǎn)單而易丁理解。我們知道，矩陣?yán)碚摼推淅碚搧?lái)說(shuō)， 對(duì)于除了數(shù)學(xué)本專業(yè)的人而言，意義是不大的。純理論的學(xué)習(xí)是枯燥而乏味的， 只有和是具體問(wèn)題的結(jié)合才會(huì)顯出它的強(qiáng)大生命力。單看一個(gè)定理還是推論，我 們會(huì)覺(jué)得它是簡(jiǎn)單而兒乎沒(méi)有意義的，甚至不知道怎