第講矩陣分解

1、第6講 矩陣分解內(nèi)容：1.矩陣的三角分解2. 矩陣的滿秩分解3. 矩陣的QR分解4. 矩陣的Schur定理5. 矩陣的譜分解和奇異值分解矩陣分解 指將一個矩陣寫成 結(jié)構(gòu)比擬簡單 的或性質(zhì)比 較熟悉的另一些 矩陣的乘積.它在控制理論和系統(tǒng)分析等領(lǐng) 域有廣泛應(yīng)用.§ 1矩陣的三角分解定義1.1a1n氐為上三角矩陣，annB =AT為下三角矩陣.特別地，稱A 或AT的對角元素為1的上下三角矩陣為單位上下三角矩陣.三角矩陣是一類特殊的矩陣，具有特殊的性質(zhì).1.Gauss消元法n元線性方程組a2rha22 +| -an1 1 an2 2 ''a1n n - D a2n 1 二

2、b2,其矩陣形式ann二 bn其中：A = (aj人na21a22a2n,x =仆 2,nT , b 二 bb,bnT .ann_anian2采用按自然順序選主元素進行消元.假定化 A為上三角矩陣的過程未用到行和列交換，按自然順序進行消元，即進其中順序主子式:行行倍加初等變換，使對A的元素進行的消元過程為Gauss消元法.anai2a1nana12a)nan% am"a21a22a2n0C22C2n0C22 C2naaaTiaaTi333耳1an 2ann1 I0Cn2Cnn00enn 一A =n Jai2C22ai10=0; ,：n=0 .稱這種=1= aii =0,2.矩陣的三角

3、分解定義1.2 如果方陣A可分解成一個下三角矩陣L和一個上三角矩陣R的乘積，那么稱A可作三角分解或LR分解,當L 是單位下三角矩陣時，那么稱此分解為a的杜利特(Doolittle ) 分解；當R是單位上三角矩陣時，那么稱此分解為A的克勞特(CrOUt )分解.如果方陣A可分解成A二LDR，其中L是單位 下三角矩陣，D是對角矩陣，R是單位上三角矩陣， 那么稱A可 作LDR分解.定理1.1 n階矩陣A有三角分解LR或LDR的充要條件 是 A的順序主子式不為零，即 富學0 , ( r=1,2,n-1 ) . n階非奇異 矩陣A有三角分解LR或LDR的充要條件是A的順序主子式都 不為零，即0 , (

4、r =1,2, ,n ).注：矩陣的三角分解(A二LR)不是惟一的，而LDR分解anai2a2ia22_an1an2ain100 riiri2a2n12110022aa*aaaaann 一Jn1In21 八00rin，那么r1j = 4 j，j 二 1,2, n ； h 二 ai111 ,i = 2,3;,n ；k J.k =akj-'Tmkrmj,k =2,3，,n; j =k,k T,，n ； m 二ikk J-(akj limrmkm=J= 2,3, n - 1;i =k1/ ,n .定理1.2 設(shè)A Cnn是Hermite正定矩陣,人弋幾.，那么存在下三角矩陣G=©j

5、)nn，使A=GGh，如果G具有正對角元素的下三角矩陣，那么此分解是惟一的.其中，i -1aii- ' gikgik , i = 1,2, nk 1gij稱A二GGH為A的喬累斯基(Cholesky )分解(平方根分解、對稱三角分解).-'5例1.2 口矩陣A =-2-0解:可求得_5-2 0 1-亦0A =_23-1=-Tii0-1 1 一0-V5-2 03-1，求 A 的 Cholesky 分解-1 10 1-2V50 10| 0-駅! 41 .丿67石046!<11(aij 二 gikgjk ) g jj , i j k =1/§ 2矩陣的滿秩分解將矩陣分

6、解為一個列滿秩矩陣與一個行滿秩矩陣的乘積，在討論 廣義逆矩陣 的問題中是非常重要的.定義2.1 設(shè)A Cmn，假設(shè)A的秩-m,那么稱矩陣A行滿秩； 假設(shè)A的秩r=n,那么稱矩陣A列滿秩.假設(shè)矩陣C，存在矩陣 F Cr及G C： n，有A二FG，那么稱A二FG為A的一個滿秩分解 或最大秩分解.證明：設(shè)rank A二r ,那么存在m階可逆矩陣P和n階可逆0、0 m n1°伽沌E° r n ,有定理2.1任一矩陣A Crm n,存在矩陣F Crm r及G C； n，使 得 A 二 FG .矩陣Q使得PA吒a = p"Ee<° .佃跡"e記 F=

7、P，E ,G=E 0Q，那么得 A = FG.0 m r顯然，滿秩分解是不唯一的定義2.2 設(shè)B Crmn , r -1 ,且滿足：1 B的前r行中每 一行至少含一個非零元素稱為 非零行,且第一個非零元 素為1 ,而后m-r行的元素全為零稱為零行；2假設(shè)B中 第i行的第一個非零元素即 1 在第ji列i =1,2,r，那么 j1jr； 3 矩陣B的第j1列，第j2列，,第jr列合起來恰為m階單位方陣Em的前r列，稱B為Hermite標準形行階梯標準形顯然，-A Crmn可由初等行變換 將其化為Hermite標準形, 且使B前r行線性無關(guān).定理2.2 設(shè)a Crm n的Hermite標準形為B，那

8、么在A的滿 秩分解式中，F(xiàn)為A的第jij,jr列構(gòu)成的m r矩陣，G為B 的前r行構(gòu)成的r n矩陣.12 3 0例2.1 設(shè)A= 0 2 11 ,求其滿秩分解.10 2 1解:1 2A= 0 21 01-110 2 1G =11 .容易驗證:,0 1- 2 2 一21201120=B，于是jA = FG = 0J2【201 0 2 1I'0 1 1/2 -1/2可以將Hermite標準形進行推廣，從而得到同一矩陣的不同滿秩分解.例2.2解:12301123 00 2 1-1T 021-1'10 21 一1衛(wèi)00 0 一12 3 01設(shè)A=：0 2 1-1,求其滿秩分解.1 0

9、2 1 _A =B ,于是G2 3 01(0 2 1-1_101F = 01J 一1 一10L即A的滿秩分解為A = FG=O 1 1 2 3 0 1 .J。2§ 3矩陣的QR分解以初等變換為工具的 LR分解方法并不能消除 病態(tài)線性 方程組不穩(wěn)定問題.20世紀60年代以后，人們以正交酉 變換為工具，給出了 QR分解方法.1. QR分解定義3.1 如果實復(fù)矩陣A能化成正交酉矩陣Q與 實復(fù)上三角矩陣R的乘積，即A二QR，那么稱A二QR是A的QR分 解.2. 定理定理3.1 任何實的 非奇異n階矩陣A可以分解成正交 矩陣Q和上三角矩陣R乘積，即A二QR，且除去相差一個對角 元素的絕對值模全

10、為 1的對角因子外，上述分解唯一.證明 設(shè)非奇異n階矩陣A= 9,an】，其中31,32/ ,an依 次為A的各列向量，對31,32，,3n正交化可得b = 31d =32 k21b b 'd = 33 -k31b> - k32b2，其中 kj =j < i,bj,bj bi =3廠陰4 - kn2t>2 - -心“/二矩陣表示為A = bb,bn C ,其中C二1k21k31kn1 101k32kn20 0 1 kn3999a- ¥ ¥ .¥ " "0 0 0 1 一,i =1,2, ,n，且對bi,b2,bn單位化

11、可得qbi |bibi®, ,bJ- Iq,q2, q 丨qi,qj ：ij，有b2bn即 A = b,b2,b C 匕耳，,qnb2bn其中，Q是正交矩陣，R是上三角矩陣.唯一性反證法.設(shè) A=QR 二 QR，那么得 Q 二 QiRiR'二 QD ,式中D = RR為上三角矩陣，于是E二QTQ二DTD ,說明D不僅為 正交矩陣，而且還是對角元素絕對值模全為 1的對角陣, 從而 & = DR, Qi = QD 4 .定理3.2 設(shè)A是m n的實復(fù)矩陣，且其n個列線性無關(guān)，那么A具有分解A=QR .其中Q是m n階實復(fù)矩陣，且滿QTQ二EQHQ二E, R是n階實復(fù)非奇異

12、三角矩陣.除 了相差一個對角元素的絕對值模全為1的對角陣因子外，上述分解唯一.§ 4 矩陣的Schur定理定義4.1設(shè)A,B RnnCnn，如果存在n階正交酉矩陣 U，使得 UtAU =U 二AU =B , UHAU =U，AU =B ,貝U稱 A正交 酉相似于B .定理4.1 Schur定理 任何一個n階復(fù)矩陣都酉相似 于一個上三角矩陣.即存在一個n階酉矩陣U和一個n階上三 角矩陣R,使得UhAU = R .其中R的對角元是A的特征值，它 們可以按照要求的次序排列.定義4.2 設(shè)A Cnn,如果AAAhA，那么稱A為正規(guī)矩陣.顯然，對角矩陣，Hermite矩陣，反Hermite矩陣

13、，正交酉 矩陣都是正規(guī)矩陣.定理4.2 n階矩陣A酉相似于對角矩陣的充分必要 條件是A為正規(guī)矩陣.證明 先證必要性.設(shè) A酉相似于對角矩陣 上，即存在酉矩陣u，使a=.uh，那么AH A 二UJuHU上UH= u：y：.uH 二U上上HUHHU上HU H 二 AAh即A為正規(guī)矩陣.再證充分性.由Schur定理知，存在酉矩陣u，使得A =URU H，其中R是上三角矩陣，記 R ="riiri2*3'rml0r22r23'%00r33000 -rnn_.因為 Ah A 二 AAh，所以 RH R 二 RRh . 比擬百1000 111r1213An*1r12k An飛1

14、0001斤2r220 002223尬02223 Dn12 2200斤31r23ar339 090a0133 軸99 r01033Bnaa132399339 09r2nr3nrnn.000Gn_i000nn 一/n2n3nnn兩邊的對角兀素，即得R = A = diag r11,22u廣7J ,即 A = UAU H .推論4.1 假設(shè)A為n階Hermite矩陣，那么A必酉相似于 實對 角矩陣，即存在n階酉矩陣U ,使得 UHAU , 二二diag '1,匕,，、，、是A的特征值.§ 5矩陣的譜分解和奇異值分解矩陣的譜分解和奇異值分解不僅是矩陣計算和矩陣理 論的最根本和最重要的

15、工具之一，而且在控制理論，優(yōu)化問 題，系統(tǒng)區(qū)分和信號處理及其廣義逆矩陣等方面都有直接的 應(yīng)用.1. Hermite矩陣的譜分解定義5.1設(shè)A為Hermite矩陣，U是酉矩陣，將U寫成列向n量形式，即U =5，U2， ,Un,那么稱A =U上U H - 7 心2為Hermite矩陣=1的譜分解.定理5.1設(shè)A為Hermite矩陣，那么存在酉矩陣 U，使UHAU =diag, 2，n,將U寫成列向量形式，即nU =U1，U2,，Un,貝 y A = U上 U H = v ' iUiUjH .i=d2.非奇異矩陣的奇異值分解 弓I理 5.1 設(shè) A 二 Cmn，那么 ran k(AHA)二r

16、a nk(AAH)=ra nk (A).證明： 如果x. Cn是齊次方程組Ax"的解，那么它顯然是 齊次方程組AhAx=O的解；反過來，如果 x. Cn是齊次方程組 AH Ax =0 的解，那么 xHAHAx = 0，即(Ax)H(Ax) =0，所以 Ax = 0，即 x Cn 是齊次方程組Ax = 0的解.因此，方程組 Ax = 0與AhAx = 0同 解，從而 rank(AHA)=rank(A).同理，可證ran k(AAH)=ra nk (A).從而證明了結(jié)論.引理5.2 設(shè)A Cm n，貝» 1 ) ah A與aah的特征值均為 非 負實數(shù);2 ) aha與aah的

17、非零特征值相同，且非零特征值的 個數(shù)等于rank(A).證明：1)設(shè)為AhA的任一特征值，x為對應(yīng)的特征向 量，那么有x = 0,使(AhA)xx，且有(Ax,Ax) =(Ax)H(Ax) =xH(AHAx) =(x, AHAx) =(x, x)二(x,x) _0 . 因(x,x) 0 ,所以 _0 .同理，可證AAh的特征值均為非負實數(shù).顯然，Hermite矩陣的特征值，是非負實數(shù).2 )顯然，Aha Cn n, AA Cmm .設(shè) m_n , AAH 和 AH A 的特 征多項式分別記為fAAH (')和fAH A(J，因:EmAl九 Em Al=AAHEm0 I：0 吃AhEn

18、kA-?-E，-EmA I'Em A=；- '“Em01:AH-Eno 九EnAHAHA- En，那么有肝卜 En-AHAM5Em-AAH，即 fAAH ，ZfAHA),所以AH A與aA的非零特征值相同，且非零特征值的個數(shù)等于rank(AH A).結(jié)合引理5.1即得結(jié)論.定義5.2 設(shè)A Crmn, AH A的特征值'1，2 r"r1=_ =，n=0,那么稱g二(i =1,2,n)為A的奇異值，并稱二i,(i =1,2，,r)為A的 正奇異值，其中r =rank(A).定義5.3 設(shè)A為n階非奇異矩陣，U及V為n階酉矩陣，n稱A iUMH為A的奇異值分解，其

19、中，U =(U1,U2,，Un),i AV = (V1, v2,，Vn ).定理5.2 設(shè)A為n階非奇異矩陣，那么存在n階酉矩陣U及 V , 使得 UhAV 二diag (，匕，6),- i - 0 , i = 1,2/ ,n . 即nHAjUjVj .i W證明：因ahA為n階非奇異矩陣，而且是 Hermite矩陣，正 定矩陣，故存在n階酉矩陣V ,使Vh(AhA)V =diag(j2 = ,二)，打 為 AHA 的特征值.令- diag(f 2,f n) , U H - ?' _V H AH ,那么 U =AV2 , U HU = En , U HAV = i .3. 一般矩陣的奇異值分解定理5.3 設(shè)A Crmn，那么存在m階酉矩陣U及n階酉矩陣 rV，使 U HAV =diag(；m 60 ,0) ,i 0 , i =1,2,r .即 人=訕諾.iN證明：因 ran k(AHA)=ra nk (AAH ) = ra nk(A), 故 AHA C； n , AH A是Hermite矩陣，且是半正定的，