信號檢測與估計理論 第二章 基礎(chǔ)知識

信號檢測與估計理論第二章信號檢測與估計理論的基礎(chǔ)知識引言待處理信號目標(biāo)：建立信號模型；進(jìn)行統(tǒng)計描述；研究統(tǒng)計平均量之間的關(guān)系；統(tǒng)計特性的應(yīng)用。隨機(jī)變量及其統(tǒng)計描述隨機(jī)變量的基本概念是定義在概率空間上的單值實函數(shù)，若對任一實數(shù)x

，有稱為隨機(jī)變量。概率事件域樣本空間或集合例如：用五色球抽獎，={紅，藍(lán)，黃，綠，白}，球的數(shù)量百分比分別為0.1%,0.5%,2%,10%,87.4%，對應(yīng)的中獎額分別是1000,500,100,50,10元，則中獎額是一個隨機(jī)變量。紅藍(lán)黃綠白

10005001005010概率

0.0010.0050.020.10.874隨機(jī)變量及其統(tǒng)計描述概率、隨機(jī)變量與隨機(jī)過程（第4版），【美】A.帕普里斯S.U.佩萊著；保錚等譯P55：隨機(jī)變量是賦予實驗的每一個結(jié)果的一個數(shù)，記為。在擲骰子實驗中，賦予每個結(jié)果一個數(shù)量，有(b)相同的實驗中，把數(shù)1賦予每一個偶數(shù)結(jié)果，數(shù)0賦予么一個奇數(shù)結(jié)果，有【定義】一個隨機(jī)變量是定義在實驗結(jié)果所構(gòu)成的集合S上的一個函數(shù)。隨機(jī)變量x是對每個結(jié)果給定一個數(shù)的過程。產(chǎn)生的函數(shù)必須滿足下面兩個條件：Ⅰ.對每個x

，集合{x

x}是一個事件；Ⅱ.事件{x=}和事件{x=-}的概率等于零。即

P{x=}=0P{x=-}=0隨機(jī)變量及其統(tǒng)計描述概率密度函數(shù)（ProbabilityDensityFunction,PDF）事件的概率取決于

x

的值。一維累積分布函數(shù)（CumulativeDistributionFunction,CDF）隨機(jī)變量、隨機(jī)矢量及其統(tǒng)計描述隨機(jī)變量的概率密度函數(shù)隨機(jī)變量、隨機(jī)矢量及其統(tǒng)計描述隨機(jī)變量的統(tǒng)計平均量1.隨機(jī)變量的均值表征方法：隨機(jī)變量的數(shù)字特征或稱矩理論意義：概率密度函數(shù)實際操作：通過對有限觀測數(shù)據(jù)的估計獲得隨機(jī)變量及其統(tǒng)計描述隨機(jī)變量的統(tǒng)計平均量2.隨機(jī)變量的矩m階原點矩：m階中心矩：以上數(shù)字特征都是隨機(jī)變量函數(shù)的數(shù)學(xué)期望；m階原點矩和m階中心距可以互相唯一表示。隨機(jī)變量及其統(tǒng)計描述隨機(jī)變量的統(tǒng)計平均量2.隨機(jī)變量的矩隨機(jī)變量及其統(tǒng)計描述切比雪夫不等式得隨機(jī)變量及其統(tǒng)計描述隨機(jī)變量的統(tǒng)計平均量2.隨機(jī)變量的矩隨機(jī)變量、隨機(jī)矢量及其統(tǒng)計描述隨機(jī)變量的統(tǒng)計平均量3.隨機(jī)變量的中值4.隨機(jī)變量的眾數(shù)將隨機(jī)變量的概率密度函數(shù)一分為二，各占50%面積的分界點，稱為隨機(jī)變量的中值，又稱中位數(shù)，記。隨機(jī)變量的概率密度函數(shù)的峰值對應(yīng)的

x值，稱為隨機(jī)變量的眾數(shù)，記為。隨機(jī)變量、隨機(jī)矢量及其統(tǒng)計描述隨機(jī)變量的統(tǒng)計平均量一階原點矩——隨機(jī)變量取值的中心點二階中心矩——隨機(jī)變量取值對于均值的分散程度三階中心矩——衡量隨機(jī)的分布是否有偏四階中心矩——隨機(jī)變量的分布在均值附近的陡峭程度在實際應(yīng)用中，高于4階的矩很少使用。二階中心距（方差）的值越大，表示隨機(jī)變量取值分散程度大，一階原點矩（均值）的代表性差;方差的值越小,則表示隨機(jī)變量的取值比較集中,以均值作為隨機(jī)變量取值的代表性好。隨機(jī)變量、隨機(jī)矢量及其統(tǒng)計描述常用的隨機(jī)變量舉例：均勻分布隨機(jī)變量均勻分布隨機(jī)變量的PDF曲線隨機(jī)變量及其統(tǒng)計描述2.高斯分布隨機(jī)變量標(biāo)準(zhǔn)高斯分布隨機(jī)變量的PDF曲線高斯分布隨機(jī)變量的PDF曲線（）對于標(biāo)準(zhǔn)正態(tài)分布：隨機(jī)變量及其統(tǒng)計描述2.高斯分布隨機(jī)變量對于標(biāo)準(zhǔn)正態(tài)分布：累計分布函數(shù)右尾概率實用的近似公式：對數(shù)縱軸考察某個隨機(jī)變量的右尾概率可以判斷該變量是否近似服從高斯分布。隨機(jī)變量、隨機(jī)矢量及其統(tǒng)計描述3.三角對稱分布隨機(jī)變量三角對稱分布隨機(jī)變量的PDF曲線三角對稱分布隨機(jī)變量的PDF曲線(0<b<a)隨機(jī)變量、隨機(jī)矢量及其統(tǒng)計描述4.Chi-Square(Central)

若，則獨(dú)立同分布。隨機(jī)變量、隨機(jī)矢量及其統(tǒng)計描述4.Chi-Square(Central)

適合性檢驗：檢驗觀測數(shù)與依照某種假設(shè)或分布模型計算得到的理論數(shù)據(jù)之間一致性，以便判斷該假設(shè)或模型是否與實際觀測數(shù)相吻合。獨(dú)立性檢驗：通過觀測數(shù)與理論數(shù)之間的一致性判斷事件之間的獨(dú)立性，即判斷兩個事件是否是獨(dú)立事件或處理間差異是否顯著。隨機(jī)變量、隨機(jī)矢量及其統(tǒng)計描述關(guān)于單邊、雙邊指數(shù)分布隨機(jī)變量（指數(shù)分布的無記憶性）單邊指數(shù)分布隨機(jī)變量的PDF曲線（β＞0）雙邊指數(shù)分布隨機(jī)變量的PDF曲線（β＞0）隨機(jī)變量、隨機(jī)矢量及其統(tǒng)計描述指數(shù)分布的無記憶性對連續(xù)非負(fù)隨機(jī)變量x，若對任意t，滿足該隨機(jī)變量服從指數(shù)分布。泊松事件流的等待時間（相繼兩次出現(xiàn)之間的間隔）；非老化性元件的壽命（元件不老化，僅由于突然故障而毀壞）；近似地作為高可靠性的復(fù)雜部件、機(jī)器或系統(tǒng)的失效分布模型。隨機(jī)變量、隨機(jī)矢量及其統(tǒng)計描述5.Chi-Square(Noncentral)

應(yīng)用：可參考卡方檢驗相關(guān)文獻(xiàn)隨機(jī)變量、隨機(jī)矢量及其統(tǒng)計描述6.F（Central）非中心化FPDF由非中心卡方分布隨機(jī)變量與一個中心化卡方分布隨機(jī)變量比值得到。若其中，有F分布用于似然比檢驗，可用于檢驗總體方差是否相等。隨機(jī)變量、隨機(jī)矢量及其統(tǒng)計描述7.瑞利（Rayleigh）分布隨機(jī)變量

瑞利分布隨機(jī)變量的PDF曲線（σ2=1）隨機(jī)變量的均值和方差：窄帶高斯過程的包絡(luò)分布屬于瑞利分布。應(yīng)用：測量；通信領(lǐng)域。隨機(jī)變量、隨機(jī)矢量及其統(tǒng)計描述7.瑞利（Rayleigh）分布隨機(jī)變量

當(dāng)一個隨機(jī)二維向量的兩個分量呈獨(dú)立的、有著相同的方差的正態(tài)分布時，這個向量的模呈瑞利分布。瑞利分布是最常見的用于描述平坦衰落信號接收包絡(luò)或獨(dú)立多徑分量接受包絡(luò)統(tǒng)計時變特性的一種分布類型。兩個正交高斯噪聲信號之和的包絡(luò)服從瑞利分布。例如：射擊彈落點坐標(biāo)是一個相互獨(dú)立的二維隨機(jī)變量。其中：與均服從正態(tài)分布，與相互獨(dú)立。的概率密度函數(shù)為隨機(jī)變量及其統(tǒng)計描述8.廣義瑞利（Rayleigh）分布隨機(jī)變量

廣義瑞利分布隨機(jī)變量的PDF曲線（σ2=1）關(guān)于蒙特卡洛性能評估StevenM.Kay譯著P482若不能通過解析的方法或閉合形式確定隨機(jī)變量超過某一給定值的概率時，須借助蒙特卡洛計算機(jī)模擬。若希望計算一個隨機(jī)變量或統(tǒng)計量T超過某個門限的概率，例如觀察到數(shù)據(jù)集，其中且獨(dú)立同分布，計算本例中，容易證明：若假定不能使用解析或數(shù)值計算方法，可以用計算機(jī)模擬來確定關(guān)于蒙特卡洛性能評估StevenM.Kay譯著P482數(shù)據(jù)產(chǎn)生產(chǎn)生N個獨(dú)立的隨機(jī)變量；對隨機(jī)變量的實現(xiàn)，計算重復(fù)過程M次，得到概率計算對超過的次數(shù)計數(shù)，稱為；用來估計概率。關(guān)于蒙特卡洛性能評估StevenM.Kay譯著P482M=10000M=1000M=100隨機(jī)矢量及其統(tǒng)計描述1.隨機(jī)矢量的概念設(shè)是一概率空間，是分別定義在該概率空間上的N個隨機(jī)變量，則由N個隨機(jī)變量構(gòu)成的矢量稱為N維隨機(jī)矢量。隨機(jī)矢量及其統(tǒng)計描述2.隨機(jī)矢量的概率密度函數(shù)F(x)稱為隨機(jī)矢量的N維累積分布函數(shù)；p(x)稱為隨機(jī)矢量的N維聯(lián)合概率密度函數(shù)。隨機(jī)矢量及其統(tǒng)計描述3.隨機(jī)矢量和協(xié)方差矩陣如果與互不相關(guān)，，則協(xié)方差

為對角陣。隨機(jī)矢量及其統(tǒng)計描述4.統(tǒng)計獨(dú)立性和獨(dú)立同分布隨機(jī)矢量如果對于任意的和所有的其N維聯(lián)合概率密度函數(shù)都能表示為則稱隨機(jī)變量之間是相互統(tǒng)計獨(dú)立的。若隨機(jī)變量對于全部的N都有相同的一維概率密度函數(shù)，則稱是具有獨(dú)立同分布的N維隨機(jī)矢量。隨機(jī)矢量及其統(tǒng)計描述5.聯(lián)合高斯隨機(jī)矢量N維聯(lián)合高斯隨機(jī)矢量的每個分量都服從一維高斯分布；(2)聯(lián)合高斯隨機(jī)矢量的線性變換仍然是聯(lián)合高斯隨機(jī)矢量。隨機(jī)變量的函數(shù)已知變換前隨機(jī)變量的概率密度函數(shù)，需要確定變換后的隨機(jī)變量的概率密度函數(shù)，稱為雅克比變換。JacobianTransformation1.一維隨機(jī)變量的情況若反函數(shù)存在，且連續(xù)可導(dǎo)，則的概率密度函數(shù)為其中，隨機(jī)變量的函數(shù)2.N維隨機(jī)矢量的變換隨機(jī)變量的特征函數(shù)1.隨機(jī)變量特征函數(shù)的定義

的和構(gòu)成一對傅里葉變換對。復(fù)值隨機(jī)變量的均值稱為

的特征函數(shù)。隨機(jī)變量的特征函數(shù)2.特征函數(shù)的主要性質(zhì)(1)特征函數(shù)存在的必然性隨機(jī)變量的特征函數(shù)(2)隨機(jī)變量線性變換的特征函數(shù)(3)相互統(tǒng)計獨(dú)立隨機(jī)變量之和的特征函數(shù)隨機(jī)變量的特征函數(shù)(3)相互統(tǒng)計獨(dú)立隨機(jī)變量之和的特征函數(shù)隨機(jī)變量的特征函數(shù)3.N個相互統(tǒng)計獨(dú)立高斯隨機(jī)變量之和的概率密度函數(shù)設(shè)隨機(jī)變量是均值為，方差為的相互統(tǒng)計獨(dú)立的高斯隨機(jī)變量，其特征函數(shù)為若有結(jié)論：仍然是高斯分布，有，。隨機(jī)變量的特征函數(shù)3.N個相互統(tǒng)計獨(dú)立高斯隨機(jī)變量之和的概率密度函數(shù)設(shè)隨機(jī)變量是獨(dú)立同分布的高斯隨機(jī)變量，有，方差為。則令有結(jié)論：是，的高斯隨機(jī)變量。隨機(jī)變量的特征函數(shù)4.隨機(jī)變量的特征函數(shù)與原點矩之間的關(guān)系隨機(jī)變量的特征函數(shù)4.隨機(jī)變量的特征函數(shù)與原點矩之間的關(guān)系隨機(jī)矢量的聯(lián)合特征函數(shù)4.隨機(jī)變量的特征函數(shù)與原點矩之間的關(guān)系隨機(jī)矢量的N維聯(lián)合概率密度函數(shù)為則N維聯(lián)合特征函數(shù)定義為若是相互獨(dú)立的隨機(jī)變量，有

隨機(jī)過程概念和定義1.隨機(jī)過程的基本概念所研究對象具有隨時間演變的隨機(jī)現(xiàn)象，對其變化過程獨(dú)立地重復(fù)進(jìn)行多次觀測，所得到的結(jié)果是時間t的函數(shù)，每次觀測之前不能預(yù)知所得結(jié)果，這樣的過程是一個隨機(jī)過程。舉例：心電圖；噪聲測定；育苗實驗等等。

隨機(jī)過程的概念和定義2.隨機(jī)過程的定義設(shè)是一概率空間，T是一個實參數(shù)集，定義在T和上的二元函數(shù)，若對于任意固定的，

是概率空間上的隨機(jī)變量，對任意固定的，

是概率空間上的隨機(jī)函數(shù)，則稱為一隨機(jī)過程，其中t和都是變量。

隨機(jī)過程的統(tǒng)計描述圖2.10連續(xù)隨機(jī)過程的M個樣本函數(shù)圖形

隨機(jī)過程的統(tǒng)計描述隨機(jī)過程的二維及N維累積分布函數(shù)和聯(lián)合概率密度函數(shù)

隨機(jī)過程的統(tǒng)計平均量1.隨機(jī)過程的均值2.隨機(jī)過程的均方值3.隨機(jī)過程的方差

隨機(jī)過程的統(tǒng)計平均量4.隨機(jī)過程的自相關(guān)函數(shù)5.隨機(jī)過程的自協(xié)方差函數(shù)

隨機(jī)過程的統(tǒng)計平均量6.隨機(jī)過程的互相關(guān)函數(shù)7.隨機(jī)過程的互協(xié)方差函數(shù)

隨機(jī)過程的平穩(wěn)性1.隨機(jī)過程的平穩(wěn)性分類嚴(yán)格平穩(wěn)的隨機(jī)過程

隨機(jī)過程x(t)經(jīng)過時間平移△t后，其統(tǒng)計特性保持不變。廣義平穩(wěn)的隨機(jī)過程

若隨機(jī)過程x(t)的平均統(tǒng)計量滿足一定條件，稱為廣義平穩(wěn)隨機(jī)過程。

(1)均值與時間無關(guān)；(2)自相關(guān)函數(shù)只取決于時間間隔.非平穩(wěn)的隨機(jī)過程

既不滿足嚴(yán)格平穩(wěn)隨機(jī)過程，也不滿足廣義平穩(wěn)條件的隨機(jī)過程。

隨機(jī)過程的平穩(wěn)性嚴(yán)格平穩(wěn)隨機(jī)過程

嚴(yán)格隨機(jī)過程x(t)的一維概率密度函數(shù)與時間t無關(guān)。

嚴(yán)格隨機(jī)過程x(t)的二維聯(lián)合概率密度函數(shù)僅與時間間隔△t有關(guān)。

隨機(jī)過程的平穩(wěn)性若隨機(jī)過程x(t)的統(tǒng)計平均量滿足下述條件，為廣義平穩(wěn)隨機(jī)過程

（1）x(t)的均值是與時間t無關(guān)的常數(shù)

（2）x(t)的自相關(guān)函數(shù)只取決于時間間隔，與起始時間無關(guān)2.嚴(yán)格平穩(wěn)與廣義平穩(wěn)隨機(jī)過程的關(guān)系如果嚴(yán)格平穩(wěn)的隨機(jī)過程是二階矩過程，必定是廣義平穩(wěn)隨機(jī)過程；廣義平穩(wěn)的隨機(jī)過程不一定是嚴(yán)格平穩(wěn)的，除非該過程是高斯分布的。

隨機(jī)過程的平穩(wěn)性3.平穩(wěn)隨機(jī)過程的統(tǒng)計平均量隨機(jī)過程的平穩(wěn)性4.聯(lián)合平穩(wěn)隨機(jī)過程及其統(tǒng)計特性兩個平穩(wěn)的隨機(jī)過程的互相關(guān)函數(shù)僅與時間間隔有關(guān)，與時刻無關(guān)，則這兩個隨機(jī)過程是聯(lián)合平穩(wěn)的隨機(jī)過程。隨機(jī)過程的遍歷性1.時間平均量具有遍歷性的隨機(jī)過程：可以從隨機(jī)過程全體可能樣本函數(shù)的集合中，取一個具有代表性的樣本函數(shù)來獲得該過程的全部統(tǒng)計特性。隨機(jī)過程的遍歷性2.各態(tài)遍歷的隨機(jī)過程各態(tài)歷經(jīng)隨機(jī)過程x(t)的任何統(tǒng)計平均量都能夠以概率1由該過程的某個單獨(dú)樣本函數(shù)的時間平均求得；(2)各態(tài)歷經(jīng)隨機(jī)過程x(t)的任一單獨(dú)樣本函數(shù)在足夠長的時間內(nèi)，先后

經(jīng)歷了該隨機(jī)過程的各種可能狀態(tài)。均值具有遍歷性：自相關(guān)函數(shù)具有遍歷性：隨機(jī)過程的遍歷性3.隨機(jī)過程的平穩(wěn)性與遍歷性的關(guān)系若隨機(jī)過程x(t)具有均值和自相關(guān)函數(shù)的遍歷性，

為常數(shù)，

與時間間隔有關(guān)，遍歷過程一定是平穩(wěn)過程；理論角度：并非所有的平穩(wěn)過程都是遍歷的，

實際：幾乎所有的平穩(wěn)過程都是各態(tài)歷經(jīng)的。

可以把平穩(wěn)隨機(jī)過程x(t)的一個樣本函數(shù)在時刻的采樣作為

隨機(jī)變量x()來處理。

隨機(jī)過程的正交性、不相關(guān)性和統(tǒng)計獨(dú)立性1.定義若

x(t)是相互正交的隨機(jī)變量過程。若x(t)是互不相關(guān)的隨機(jī)變量過程。

等價條件：若x(t)是平穩(wěn)隨機(jī)過程隨機(jī)過程的正交性、不相關(guān)性和統(tǒng)計獨(dú)立性1.定義設(shè)是隨機(jī)過程在不同時刻