09級(jí)10作業(yè)解析課件

1、第第1 1章章 統(tǒng)計(jì)信號(hào)處理中統(tǒng)計(jì)信號(hào)處理中 的數(shù)學(xué)知識(shí)復(fù)習(xí)的數(shù)學(xué)知識(shí)復(fù)習(xí)信號(hào)統(tǒng)計(jì)分析信號(hào)統(tǒng)計(jì)分析本章內(nèi)容本章內(nèi)容1.1 1.1 概率論概要概率論概要1.2 1.2 隨機(jī)過程基礎(chǔ)隨機(jī)過程基礎(chǔ)1.3 1.3 線性代數(shù)導(dǎo)論線性代數(shù)導(dǎo)論1.1 1.1 概率論概要概率論概要1.1.1 隨機(jī)事件及其概率1.1.2 隨機(jī)變量及其分布1.1.3 多維隨機(jī)變量1.1.4 隨機(jī)變量的數(shù)字特征1.1.5 高斯隨機(jī)變量1.1.6 隨機(jī)變量函數(shù)的分布1.1.7 復(fù)隨機(jī)變量確定性現(xiàn)象與隨機(jī)現(xiàn)象確定性現(xiàn)象與隨機(jī)現(xiàn)象 確定性現(xiàn)象確定性現(xiàn)象：在一定條件下必然會(huì)出現(xiàn)某一結(jié)果 (或發(fā)生某一事件)的現(xiàn)象。 隨機(jī)現(xiàn)象：隨機(jī)現(xiàn)象：在一

2、定條件下可能出現(xiàn)不同結(jié)果(或發(fā) 生不同事件)，且不能準(zhǔn)確預(yù)言究竟出現(xiàn)哪一種結(jié)果 的現(xiàn)象。 如：擲硬幣、抽牌、擲骰子 基本事件，記為 。 樣本空間，記為 。 事件，記為 。 古典概率 幾何概率 統(tǒng)計(jì)概率1.1.1 1.1.1 隨機(jī)事件及其概率隨機(jī)事件及其概率, ,A B C 設(shè)隨機(jī)試驗(yàn)E的樣本空間為 ，對(duì)于隨機(jī)試驗(yàn)E的每一隨機(jī)事件A，都賦予唯一確定的實(shí)數(shù) ，并且集合函數(shù) 滿足下列條件：(1) 非負(fù)性：對(duì)每一個(gè)事件 ，都有 ；(2) 規(guī)范性： ；(3) 可列可加性：對(duì)任意互不相容的事件 ， 有 P A P A 0P A 1P 12,iA AA事件的概率：事件的概率：11iiiiPAPA 設(shè)A和B為

3、任意兩個(gè)隨機(jī)事件，且 ，稱為事件B發(fā)生條件下事件A發(fā)生的條件概率條件概率，也稱A 對(duì)B的概率。 0P B P ABP A BP B條件概率：條件概率： 設(shè)某隨機(jī)試驗(yàn)的樣本空間 中的事件 （有限個(gè)或可列個(gè)）構(gòu)成一個(gè)完備事件組，且 ，則對(duì)任一事件B，有12,iA AA()0, 1,2,iP Ai iiiP BP A P B A全概率公式：全概率公式： 設(shè)某隨機(jī)試驗(yàn)的樣本空間 中的事件 （有限個(gè)或可列個(gè)）構(gòu)成一個(gè)完備事件組，且 ，則對(duì)任一事件B， ，有12,iA AA()0, 1,2,iP Ai 0P B ,1,2,mmmiiiP AP B AP A BmP A P B A貝葉斯公式：貝葉斯公式：

4、如果隨機(jī)事件A與B滿足關(guān)系 ，則稱事件A與B是相互獨(dú)立的。性質(zhì)：若事件 相互獨(dú)立，則有 P ABP A P B12,nA AA111nniiiiPAP A 事件的獨(dú)立性：事件的獨(dú)立性：1.1.2 1.1.2 隨機(jī)變量及其分布隨機(jī)變量及其分布 設(shè)某隨機(jī)試驗(yàn)的樣本空間為 ，對(duì)于每一個(gè)樣本點(diǎn) 都有惟一的實(shí)數(shù) 與之對(duì)應(yīng)，這樣就得到一個(gè)定義在 上的單值實(shí)函數(shù) 。如果對(duì)任意實(shí)數(shù) x ，“ ”都是一個(gè)隨機(jī)事件，并有其確定的概率，則稱 為隨機(jī)變量。 X XX Xx XX 離散型隨機(jī)變量 連續(xù)型隨機(jī)變量隨機(jī)變量：隨機(jī)變量：隨機(jī)變量 隨機(jī)變量X 的全部可能取值為有限個(gè)或可列個(gè)。隨機(jī)變量X 所有可能的取值為 ，事件

5、 的概率為上式稱為離散型隨機(jī)變量X 的概率分布或分布率概率分布或分布率。 設(shè)X 是一個(gè)隨機(jī)變量，對(duì)任意實(shí)數(shù) ，令 ,則稱 為隨機(jī)變量X 的概率分概率分布函數(shù)布函數(shù)。它的定義域是 ，值域是 。1,2,ix i iXx,1,2,iiP Xxpixx 離散型隨機(jī)變量：離散型隨機(jī)變量： F xP Xx F x, 0,10-10-1分布：分布：當(dāng)一個(gè)隨機(jī)試驗(yàn)只有兩個(gè)可能結(jié)果 與 時(shí)，隨機(jī)變量X 表示在試驗(yàn)中事件A出現(xiàn)的次數(shù)，并設(shè) ，則X的概率分布為這時(shí)稱 服從參數(shù)為 的0-1分布，記為 。AA0, 1 AXA當(dāng) 出現(xiàn)時(shí)， 當(dāng) 出現(xiàn)時(shí) 01P App11,0,1kkP XkppkXp1,XBp常見的離散型

6、隨機(jī)變量常見的離散型隨機(jī)變量泊松分布泊松分布： 如果隨機(jī)變量X的分布為：其中 為常數(shù)，則稱X 服從參數(shù)為 的泊松分布，記為 。!kP Xkek0 XP常見的離散型隨機(jī)變量常見的離散型隨機(jī)變量連續(xù)型隨機(jī)變量：連續(xù)型隨機(jī)變量： 如果對(duì)于隨機(jī)變量X 的分布函數(shù) ，存在一個(gè)非負(fù)可積函數(shù) ，有則稱X為連續(xù)型隨機(jī)變量連續(xù)型隨機(jī)變量，函數(shù) 為其概率密度概率密度函數(shù)函數(shù)。 F x f xx xF xf t dt f x均勻分布：均勻分布： 如果連續(xù)型隨機(jī)變量X 的概率密度函數(shù)為其中 和 為常數(shù)，則稱X 在區(qū)間 上服從均勻分布，記為 。 1, 0 axbf xba其它a , a b,XU a b常見的連續(xù)型隨機(jī)

7、變量常見的連續(xù)型隨機(jī)變量b高斯分布高斯分布： 如果連續(xù)型隨機(jī)變量X 的概率密度函數(shù)為 其中 和 為常數(shù)，且 ，則稱X 服從參數(shù)為 和 的高斯分布，記為 。 221exp, 22XXXxmf xx XmX0XXmX2,XXXN m常見的連續(xù)型隨機(jī)變量常見的連續(xù)型隨機(jī)變量瑞利分布瑞利分布： 如果連續(xù)型隨機(jī)變量X的概率密度函數(shù)為其中為常數(shù)，且0，則稱X 服從參數(shù)為的瑞利分布。 2222,00,0 xxexf xx常見的連續(xù)型隨機(jī)變量常見的連續(xù)型隨機(jī)變量 分布：分布： 如果連續(xù)型隨機(jī)變量如果連續(xù)型隨機(jī)變量X的概率密度函數(shù)為的概率密度函數(shù)為其中n為正整數(shù)，則稱 X 服從自由度為n的 分布。 2 1222

8、1,0220,0nxnxexnf xx2常見的連續(xù)型隨機(jī)變量常見的連續(xù)型隨機(jī)變量萊斯分布：萊斯分布： 如果連續(xù)型隨機(jī)變量X 的概率密度函數(shù)為其中 為常數(shù)，且 ， 是零階第一類貝塞爾(Bessel)函數(shù)，則稱X服從萊斯分布。 2222022,00,0 xvxxveIxf xx0 0Iz常見的連續(xù)型隨機(jī)變量常見的連續(xù)型隨機(jī)變量1.1.3 1.1.3 多維隨機(jī)變量多維隨機(jī)變量 設(shè)某隨機(jī)試驗(yàn)的樣本空間為 ，如果每一個(gè)樣本點(diǎn) , 、 , 是定義在同一個(gè)樣本空間 上的n個(gè)隨機(jī)變量，則 稱為n 維隨機(jī)變量維隨機(jī)變量，其矢量形式 也稱為隨機(jī)矢量隨機(jī)矢量。 11XX 22XX nnXX12,nXXX12,TnX

9、XX定義定義：下面以二維為例進(jìn)行說明，更高維以此類推。 設(shè) 是二維隨機(jī)變量，稱為二維隨機(jī)變量 的分布函數(shù)，或稱隨機(jī)變量 X 和Y 的聯(lián)合分布函數(shù)。,X Y,F x yP Xx Yy,X Y聯(lián)合分布函數(shù)：聯(lián)合分布函數(shù)： 二維隨機(jī)變量 所有可能的取值是有限對(duì)或可列無(wú)限多對(duì)，并且以確定的概率取各個(gè)不同的數(shù)對(duì)稱為 的聯(lián)合概率分布聯(lián)合概率分布。,X Y,1,2,ijijP Xx Yypi j,X Y二維離散型隨機(jī)變量：二維離散型隨機(jī)變量： 二維隨機(jī)變量 的分布函數(shù)是 ，存在非負(fù)函數(shù) ，使得對(duì)任意實(shí)數(shù) 有 稱 為二維連續(xù)型隨機(jī)變量 的聯(lián)合概率密度聯(lián)合概率密度函數(shù)函數(shù)。,X Y,F x y,f x y,xy

10、F x yf u v dudv , x y,f x y,X Y二維連續(xù)型隨機(jī)變量：二維連續(xù)型隨機(jī)變量： 二維隨機(jī)變量 的分布函數(shù)為 ，隨機(jī)變量X 或Y 的分布即為二維隨機(jī)變量的邊緣分布。它與二維變量的分布函數(shù)具有如下關(guān)系：,X Y,F x y( ),XFxP Xx YF x ( ),YFyP XYyFy 邊緣分布函數(shù)：邊緣分布函數(shù)： 對(duì)二維離散隨機(jī)變量，在 條件下 的條條件概率件概率為其中 表示邊緣分布函數(shù)。,iiiiiP Xx YyP Xx YyP YyiYyiXxiP Yy條件概率：條件概率： 對(duì)二維連續(xù)型隨機(jī)變量二維連續(xù)型隨機(jī)變量，設(shè) y是定值，任意 ， , 若對(duì)任意實(shí)數(shù)x，極限 存在，

11、則稱此極限為在 條件下X 的條件分布函數(shù)，記為 。0P yyYyy 0y 0limyP Xx yyYyy YyP Xx Yy條件分布函數(shù)：條件分布函數(shù)： 若對(duì)任意實(shí)數(shù)x和y，有 , 則稱隨機(jī)變量X和Y是獨(dú)立的。 若X與Y獨(dú)立，顯然有 ,XYF x yFx Fy獨(dú)立性：獨(dú)立性：,iiiiiiP Xx YyP Xx YyP XxP Yy1.1.4 1.1.4 隨機(jī)變量的數(shù)字特征隨機(jī)變量的數(shù)字特征隨機(jī)變量X 的數(shù)學(xué)期望（均值）：數(shù)學(xué)期望（均值）： E Xxf x dx通常稱 為隨機(jī)變量X 的均方差或標(biāo)準(zhǔn)差，習(xí)慣上用 表示 。2222( )VarXEXEXxEXf x dxEXEXVar X2X Va

12、r X方差：方差：協(xié)方差：協(xié)方差： 對(duì)多維隨機(jī)變量 ， 與與 的協(xié)方差：的協(xié)方差： 顯然 12,nXXXXiXjX,1,2,ijijiijjCCov XXEXE XXE Xi jniiiVar XC相關(guān)系數(shù)：相關(guān)系數(shù)：“歸一化”的協(xié)方差，稱為相關(guān)系數(shù)：相關(guān)系數(shù)：22ijiijjX XiijjijijEXE XXE XEXE XEXE XCVar XVar X聯(lián)合分布函數(shù)：聯(lián)合分布函數(shù)： 對(duì)于n 維隨機(jī)變量 ，關(guān)于 的邊緣分布函數(shù)：隨機(jī)變量 是相互獨(dú)立的，若對(duì)于所有的 ，有12,nXXX121122,nnnF x xxP Xx XxXxiX 111,iXiiiiinFxP XXXx XX 12,

13、nx xx 121212,nnXXXnF x xxFxFxFx12,nXXX 若X 是隨機(jī)變量，則稱復(fù)隨機(jī)變量 的均值為X 的特征函數(shù)。(1) 若X 是離散型隨機(jī)變量，其可能取值為 ，且 ，則(2) 若X 是連續(xù)型隨機(jī)變量，其概率密度函數(shù)為 ，則jXe j XE e 12,x x kkP Xxp kj xkkep f x j xef x dx 特征函數(shù)：特征函數(shù)： 多維隨機(jī)變量多維隨機(jī)變量 的特征函數(shù)的特征函數(shù)： 已知隨機(jī)變量的特征函數(shù)，可以求出它的各階矩，特征函數(shù)也被稱為矩生成函數(shù)矩生成函數(shù)。12,nXXX112212,nnjXXXnE e 特征函數(shù)特征函數(shù):1.1.5 1.1.5 高斯隨機(jī)

14、變量高斯隨機(jī)變量1.1. 一維高斯隨機(jī)變量一維高斯隨機(jī)變量一維高斯隨機(jī)變量X 的概率密度函數(shù)概率密度函數(shù)： 221exp,22XXXxmf xx 組成n維高斯隨機(jī)變量，令 均值矢量：均值矢量：協(xié)方差矩陣：協(xié)方差矩陣：12,nXXX12x,TnXXX1212, , ,nTTnXXXE XE XE Xmmmxm11121121 nnnXXnXnXXnXEXmEXmXmEXmXmEXmxC2. 2. 多維高斯隨機(jī)變量多維高斯隨機(jī)變量n 維高斯隨機(jī)變量的聯(lián)合高斯概率密度函數(shù)：聯(lián)合高斯概率密度函數(shù)： 11221exp22TnfxxxxXmCXmXC性質(zhì)：性質(zhì)：(1) n維高斯隨機(jī)變量經(jīng)過線性變換后仍是高

15、斯隨機(jī)變量。(2) n維互不相關(guān)的高斯隨機(jī)變量一定是彼此統(tǒng)計(jì)獨(dú)立的。(3) 一般的n維隨機(jī)變量，若它們彼此統(tǒng)計(jì)獨(dú)立，則必然互 不相關(guān)，反之，則不一定成立。1.1.6 1.1.6 隨機(jī)變量函數(shù)的分布隨機(jī)變量函數(shù)的分布 X是連續(xù)型隨機(jī)變量，概率密度函數(shù)為 , 處處可導(dǎo)且有 （或恒有 ），則 也是一個(gè)連續(xù)型隨機(jī)變量，其概率密度函數(shù)為其中 。 ,f xx g x 0gx 0gx |,0,f h yhyyfy其他min, max,gggg Xh Y1.1.一維隨機(jī)變量函數(shù)的分布一維隨機(jī)變量函數(shù)的分布Yg X則 具有聯(lián)合概率密度函數(shù) 是概率密度函數(shù)為 的連續(xù)型n維隨機(jī)變量，假設(shè)（1） 是n維實(shí)數(shù)空間到 自

16、身的一對(duì)一映射；（2） 變換 和它的逆變換 都是連續(xù)的；（3） 偏導(dǎo)數(shù) 存在且連續(xù)；（4） 逆變換的雅可比行列式 12,nXXX12,nf x xx111212,nnnnYgXXXYgXXX,1,2, ,1,2,ijhin jny111121212 , 0 nnnnnnhhhyyyJ y yyhhhyyy12,nY YY1211212,nnnnfy yyJ f hy yyhy yy2. 2. 多維隨機(jī)變量函數(shù)的分布多維隨機(jī)變量函數(shù)的分布igih復(fù)隨機(jī)變量復(fù)隨機(jī)變量 概率密度函數(shù)概率密度函數(shù) 均值均值方差方差1.1.7 1.1.7 復(fù)隨機(jī)變量復(fù)隨機(jī)變量12ZXjX 12,f zf x x 121

17、21212,ZmE ZE XjXxjxf x xdx dx12222222ZZXXZE ZmE Zm對(duì)于兩個(gè)復(fù)隨機(jī)變量 協(xié)方差協(xié)方差相關(guān)系數(shù)相關(guān)系數(shù)1212,WUjUZXjX1212,f w zf x x u u*WZWZCEWmZmWZWZWZC 對(duì)于復(fù)隨機(jī)矢量 協(xié)方差矩陣協(xié)方差矩陣互協(xié)方差矩陣互協(xié)方差矩陣復(fù)高斯隨機(jī)矢量的概率密度函數(shù)概率密度函數(shù)為 ,w zHZZZECz-mz-mHWZWZECwmzm -11expHZZZnZfzzmCzmC1.2 1.2 隨機(jī)過程基礎(chǔ)隨機(jī)過程基礎(chǔ)1.2.1 1.2.1 平穩(wěn)與非平穩(wěn)隨機(jī)過程平穩(wěn)與非平穩(wěn)隨機(jī)過程1.2.2 1.2.2 隨機(jī)過程的統(tǒng)計(jì)特性與維

18、納隨機(jī)過程的統(tǒng)計(jì)特性與維納- -辛欽定理辛欽定理 自然界存在一類隨機(jī)現(xiàn)象，與之相聯(lián)系的隨機(jī)事件不能用一般的單維或多維隨機(jī)變量去描述它。如： 用 表示t 時(shí)刻以前某通信站接到的呼喚次數(shù)， 對(duì)于某個(gè)固定的t ， 是一個(gè)隨機(jī)量，但 這類隨機(jī)量將隨著t 的變化而變化； 電網(wǎng)電壓可看作隨時(shí)間變化的隨機(jī)量 ； 雷達(dá)接收機(jī)的噪聲輸出 。 x t x t x t V t n t 用隨機(jī)過程才能描述的隨機(jī)現(xiàn)象，每做一次隨機(jī)試驗(yàn)，隨機(jī)試驗(yàn)的結(jié)果應(yīng)是某一個(gè)隨機(jī)現(xiàn)實(shí)，每一次隨機(jī)試驗(yàn)之前，其試驗(yàn)結(jié)果究竟屬于哪一種隨機(jī)現(xiàn)實(shí)，事先不能預(yù)測(cè)。 設(shè) ，對(duì)于每一個(gè) ， 為一隨機(jī)變量，其中 。則 稱為隨機(jī)過程隨機(jī)過程。簡(jiǎn)記為 1T

19、 R RtT tx , txtT , x ttT 。1.2.1 1.2.1 平穩(wěn)與非平穩(wěn)隨機(jī)過程平穩(wěn)與非平穩(wěn)隨機(jī)過程定義： 如果由 所確定的n維概率密度函數(shù) 滿足稱 為嚴(yán)格平穩(wěn)隨機(jī)過程嚴(yán)格平穩(wěn)隨機(jī)過程，又稱為強(qiáng)平穩(wěn)隨機(jī)過程強(qiáng)平穩(wěn)隨機(jī)過程或狹義平穩(wěn)隨機(jī)過程狹義平穩(wěn)隨機(jī)過程。 x t1212,; , ,nnf x xx t tt11212212,; , ,;,nnnnf x xx t ttf x xx ttt x t定義： 當(dāng) 時(shí)，若滿足：稱 為廣義平穩(wěn)隨機(jī)過程廣義平穩(wěn)隨機(jī)過程，又稱為弱平穩(wěn)隨機(jī)過程弱平穩(wěn)隨機(jī)過程或?qū)捚椒€(wěn)隨機(jī)過程寬平穩(wěn)隨機(jī)過程。討論： 當(dāng) 時(shí)，嚴(yán)格平穩(wěn)隨機(jī)過程也是廣義平穩(wěn)的，但廣義

20、平穩(wěn)隨機(jī)過程不一定是嚴(yán)格平穩(wěn)的。 2E xt E x tE x t 1212E x tx tE x tx t x t 2E xt 有一類隨機(jī)過程，其本質(zhì)是隨機(jī)過程，但其表示形式卻類似確定過程，稱為準(zhǔn)隨機(jī)過程準(zhǔn)隨機(jī)過程。例： ， 為隨機(jī)變量； ， 為隨機(jī)變量。復(fù)隨機(jī)過程：其概率密度函數(shù)為 0kkkx tt 1,2,kk 0sinx tAt,A ( )( )z tx tjy t112212,;,; , ,nnnf x xxy yy t tt高斯隨機(jī)過程高斯隨機(jī)過程 任意時(shí)刻 ，隨機(jī)過程 所形成的n維隨機(jī)變量，其概率密度函數(shù)為高斯分布稱隨機(jī)過程 為高斯隨機(jī)過程高斯隨機(jī)過程。性質(zhì)：性質(zhì)：（1）若高斯隨

21、機(jī)過程廣義平穩(wěn)的，則一定是嚴(yán)格平穩(wěn)的。（2）高斯隨機(jī)過程經(jīng)過線性變換，其輸出仍是高斯隨機(jī)過程。12, ,nt tt x t1212-1122,; , ,11exp22nnTnf x xx t ttxXxxx-mCx-mC x t1.2.2 1.2.2 隨機(jī)過程的統(tǒng)計(jì)特性與維納隨機(jī)過程的統(tǒng)計(jì)特性與維納- -辛欽定理辛欽定理均值：方差：自相關(guān)函數(shù)：1. 隨機(jī)過程的統(tǒng)計(jì)特性隨機(jī)過程的統(tǒng)計(jì)特性 ;XE x txf x t dxmt 222;XXXEx tmtxmtf x t dxt 121212121212,; ,XE x tx tx x f x x t tdx dxRt t 協(xié)方差函數(shù)：相關(guān)系數(shù)：互

22、相關(guān)函數(shù)：互協(xié)方差函數(shù)： 1211221212,XXXXXXCt tEx tmtx tmtRt tmtmt 1211221212,XYXYXYXYCt tEx tmty tmtRt tmtmt 121212,XXXXCt tt ttt121212121212,( ) ( ),; ,XYRt tE x t y tx y fx y t tdx dy對(duì)于復(fù)隨機(jī)過程：自相關(guān)函數(shù)： *12112212( )( ),ZE z tztEx tjy tx tjy tRt t時(shí)間平均：時(shí)間平均： 隨機(jī)過程 的第 k 個(gè)現(xiàn)實(shí)為 ，相應(yīng)有：時(shí)間平均均值：時(shí)間平均二階矩： x t kxt ( )12TkkTTxtli

23、mxt dtT 22( )( )12TkkTTxtlimxtdtT時(shí)間平均相關(guān)函數(shù)：時(shí)間平均互相關(guān)： ( )( )( )( )12TkkkkTTxt xtlimxt xtdtT ( )( )( )( )12TkkkkTTxt ytlimxt ytdtT隨機(jī)過程的各態(tài)歷經(jīng)性 平穩(wěn)隨機(jī)過程的所有各類集平均統(tǒng)計(jì)特征，以概率1等于由任意實(shí)現(xiàn)得到的相應(yīng)的時(shí)間平均特征。各態(tài)歷經(jīng)性的意義2. 2. 維納維納- -辛欽定理辛欽定理 平穩(wěn)隨機(jī)信號(hào)的功率譜密度是其相關(guān)函數(shù)的傅里葉變換，即：此外，對(duì)于實(shí)平穩(wěn)隨機(jī)過程，有： jXXSRed 12jXXRSed *XXXSSS1.3 1.3 線性代數(shù)導(dǎo)論線性代數(shù)導(dǎo)論1.

24、3.1 矩陣的概念和基本運(yùn)算1.3.2 特殊矩陣1.3.3 矩陣的分解1.3.4 子空間1.3.5 矩陣的逆1.3.6 梯度分析1.3.1 1.3.1 矩陣的概念和基本運(yùn)算矩陣的概念和基本運(yùn)算 矩陣、矢量概念 基本運(yùn)算 轉(zhuǎn)置 共軛 共軛轉(zhuǎn)置 內(nèi)積 矩陣的逆（廣義逆） 把n階方陣A中元素 所在的第 i 行和第 j 列劃去后，剩下的n-1階方陣稱為元素元素 的余子矩陣的余子矩陣，記為 , 為元素 的余子式。 稱為元素 的代數(shù)余子式，記為 。ija, i jAijadet,ijcofi jAA1det,iji jAijaijaijA行列式行列式 特別地，當(dāng) 時(shí)，A 稱為奇異（退化）方奇異（退化）方陣

25、陣；否則稱為非奇異（非退化）方陣，非奇異（非退化）方陣，也稱正則矩正則矩陣。陣。 det0A 設(shè) A 和 B 是 n 階方陣，則 設(shè)矩陣 有一個(gè)k 階子式不等于零，而 A 的所有k+1階子式（若存在）都等于零，則稱正整數(shù)k為矩陣 A 的秩秩。 若 m=n=k，則稱之為滿秩矩陣滿秩矩陣； 若k=0，則稱為零秩矩陣零秩矩陣。 detdetdetABABm nAC C設(shè)矩陣A為n階方陣，如對(duì)于任意n階非零列矢量x，有：（1）當(dāng) 時(shí)，則稱A為正定矩陣正定矩陣；（2）當(dāng) 時(shí)，則稱A為半正定（非負(fù)定）半正定（非負(fù)定） 矩陣矩陣；（3）當(dāng) 時(shí)，則稱A為負(fù)定矩陣負(fù)定矩陣。Re0Hx AxRe0Hx AxRe0

26、Hx Ax 如矩陣A的某個(gè)函數(shù) ，滿足：（1）A為非零矩陣時(shí)， ; 時(shí)， ；（2）對(duì)于任意復(fù)數(shù)c有 ；（3） ；（4） 。 則稱 是 上的一個(gè)矩陣范數(shù)矩陣范數(shù)。A0AAO0AccAAABABABA Bm nC CA（1）Frobenius范數(shù) （2）行和范數(shù) （3）列和范數(shù) 1/2211mnijFijaA11maxnijrowi mja A11maxmijcolj nia A常用的矩陣范數(shù)：常用的矩陣范數(shù)： 設(shè) ， 可逆，則 等號(hào)成立的充要條件是存在 ，使得 。 ,m nn lABCCCCTAA1TTTB BABAAABm lCC CTBA C施瓦茲不等式：施瓦茲不等式：1.3.2 1.3.2

27、 特殊矩陣特殊矩陣 單位矩陣 反向單位矩陣 厄米特矩陣 反厄米特矩陣 范德蒙矩陣 漢克矩陣 托普利茲矩陣 正規(guī)矩陣 酉矩陣 正交矩陣1.3.3 1.3.3 矩陣分解矩陣分解常用的矩陣分解方法： 特征值分解(EVD) 奇異值分解(SVD) Cholesky分解 LU分解 QR分解特征值特征值與特征矢量特征矢量 若 是 n 階方陣A的特征值， 分別是與特征值對(duì)應(yīng)的特征矢量，則其中 ， 。 上述分解稱為矩陣矩陣A A的特征值分解的特征值分解。12,n 12,nu uu1AEE12,nEu uu12,ndiag 1.特征值分解特征值分解 對(duì)于矩陣A， 為 的特征值，則稱 為A的奇異值。奇異值。 若 為

28、矩陣A A的奇異值，則存在酉酉陣陣U和和V，使得 ，式 ，且 ， 。上述分解稱為矩陣矩陣A的的奇異值分解奇異值分解。iHA A1/2ii120rHAUV1 OOO112,rdiag ii2. 奇異值分解奇異值分解 方陣 A 是正定矩陣， 稱為矩陣 A 的Cholesky分解分解，其中，G是一個(gè)具有正的對(duì)角線元素的下三角矩陣，即 若A是正定矩陣，則其Cholesky分解是唯一唯一的。HAGG112122n1n2nn 0 ggggggG3. Cholesky分解分解 ，則 稱為矩陣的矩陣的LU分解分解。其中，L為 單位下三角矩陣(對(duì)角線為1的下三角矩陣)，U是A的 上階梯型矩陣。 如果 非奇異，并

29、且其LU分解存在的話，則A的LU分解是唯一的，且 。m nAC CALUm mm n 1122detnnu uuAn nAC C4. LU分解分解 ，且 ，則存在列正交陣 和上三角矩陣 ，使得 。 當(dāng) 時(shí)，Q是正交矩陣。若A是非奇異的 矩陣，則R R的所有對(duì)角線元素均為正，并且在這種情況下，R和Q二者是唯一的。m nAC Cmnm nQC Cn nRC CAQRmnn n5. QR分解分解1.3.4 1.3.4 子空間子空間 n維復(fù)矢量空間 是所有n維復(fù)矢量的集合。令 ，則m個(gè)n維復(fù)矢量的子集合便構(gòu)成 內(nèi)的一個(gè)矢量子空矢量子空間間。若 是矢量空間V 的矢量子集合，則 的所有線性組合的集合W 稱為由由 張成張成的子空間的子空間，定義為 只包含了一個(gè)零矢量的矢量子空間稱為平凡子空間平凡子空間。nC CmnnC C12,mS u uu12,mu uu12,mu uu121122, mmmWSpanaaau uuu:uuuu= 子空間W 的任何一組基的矢量個(gè)數(shù)稱為W 的維數(shù)，的維數(shù)