第4章-離散隨機信號的特征描述及其估計

1、 4.1 引言 隨機信號是一種非確定性的信號，如熱噪聲信號發(fā)生器輸出的電信號，飛行器起飛時的結構振動，以及起伏海面的波動高度等。它們的共同特點是無法預測其未來瞬間的精確值。處理的目的是便于從中提取有用的信息，削弱信號中的多余信息量，便于估計信號的特征參數(shù)，或變換成易于分析和識別的形式等。 隨機信號處理的主要理論基礎是信號檢測理論、估計理論和隨機過程理論。根據(jù)理論分析，隨機信號的不同樣本函數(shù)在同一時刻的值往往是不確定的，因而只能用樣本函數(shù)集的統(tǒng)計平均來描述，如用均值、均方值、方差、概率密度函數(shù)、相關函數(shù)和功率譜密度函數(shù)來描述隨機過程的特性。隨機信號處理就是利用信號的這些統(tǒng)計特征或信號本身導出一套

2、最佳的估計算法，然后利用軟件或者硬件予以實現(xiàn)。下一章所講的維納濾波器和卡爾曼濾波器就是根據(jù)最佳原理實現(xiàn)的。 離散隨機信號或序列，是指由隨機變量按一定順序排列而成的時間序列，隨機序列中的任何一個時間點上的取值都是不能先驗確定的隨機變量。即離散隨機信號可表示為 （4-1）式中 為隨機變量，它可以是有限維的也可以是無限維的。產(chǎn)生這些隨機變量的過程稱為隨機過程，簡記為 。 例如拋硬幣就是一個隨機過程，拋硬幣的結果就是一個離散隨機序列。這個結果有兩種狀態(tài)，一種是正面朝上，用 表示，另一種是反面朝上，用 表示。連續(xù)拋擲，可以得到一個由+1和-1組成的序列如圖4-1所示。這個序列就是離散隨機信號或序列。要注

3、意的是如果重新將拋擲硬幣的過程進行一次，我們得到序列可能看起來與圖4-1所示的序列完全不同，所以我們每次得到的序列是這個離散隨機信號的一個樣本序列。4.2 離散隨機信號的特征描述4.2.1平穩(wěn)隨機過程和各態(tài)歷經(jīng)性 實際中的很多隨機過程是屬于平穩(wěn)隨機過程。設 是一個平穩(wěn)隨機過程，則其隨機序列在各點上的概率特性不隨時間平移而變化，而且是無始無終的。即隨機變量 的概率特性對于任何時刻 都是相同的， 對于一個無始無終的平穩(wěn)隨機信號，它的傅立葉變換是不存在的，也就是說它的頻譜是不存在的，我們只能求它的功率譜。一個平穩(wěn)隨機信號的功率譜就是這個信號的自相關函數(shù)的傅立葉變換。因此，我們就可用信號的功率譜來表征

4、它的譜特性。在本課程中我們所要討論的隨機序列都為平穩(wěn)隨機序列。4.2.2 各態(tài)歷經(jīng)性 隨機過程的各個樣本序列在某一時刻的各種平均特性，稱為集合平均。當樣本數(shù)趨于無窮時，集合平均就趨于統(tǒng)計平均；隨即過程的某個樣本序列在不同時刻的各種平均特性，稱為時間平均。已知 時刻隨機變量 的 個取值的集合平均為 （4-2）已知隨機信號的一個樣本序列 ，則其時間平均為 （4-3）如果一個隨機信號的時間平均等于過程的集合平均，則稱隨機過程是各態(tài)歷經(jīng)的或各態(tài)遍歷的。具體地說，如果有 則稱 為均值各態(tài)歷經(jīng)隨機過程。 可見，對各態(tài)歷經(jīng)隨機過程，可以用一個樣本序列的時間平均計算隨機過程的集合平均。實際上，對一個樣本過程進

5、行長時間統(tǒng)計比對許多樣本進行統(tǒng)計要容易實現(xiàn)。實際處理信號時，對已獲得的一個物理信號，先假設它是平穩(wěn)的，再假設它是各態(tài)歷經(jīng)的。對信號按此假設處理后，再用處理結果來檢驗假設的正確性。各態(tài)歷經(jīng)的隨機過程一定是平穩(wěn)隨機過程，實際中常用的高斯白噪聲，就是平穩(wěn)各態(tài)歷經(jīng)的。 4.2.3 離散隨機信號的數(shù)字特征 一個離散隨機序列在任何時間點上的取值（隨機變量）是不能先驗確定的，但它一定具有一定的統(tǒng)計規(guī)律，可用其統(tǒng)計平均特性來描述。例如拋硬幣的所得到的離散序列，每個時間點上的取值雖然不能預知，但我們知道取值出現(xiàn)+1和-1的概率都為1/2。實際中要得知一個隨機變量的概率分布函數(shù)是比較困難的，我們往往只要知道概率分

6、布的某些數(shù)字特征就足夠了。這些數(shù)字特征就是隨機過程的矩，包括各階原點矩和各階中心矩。對于實隨機過程，各階原點矩是指原點差值各次方的均值，各階中心矩是指與均值差值各次方的均值。 平穩(wěn)隨機過程的主要數(shù)字特征包括以下幾個：1.均值（數(shù)學期望）隨機變量 的均值可用 表示均值就是一階原點矩，它是全部樣本在同一時刻取值的集合平均。2.均方值隨機變量 的均方值 為 取值平方后的集合平均，是二階原點矩。3.方差隨機變量 的方差定義為 （4-4）方差是二價中心矩，反映了與均值的偏離程度。方差可以用均值和均方值表示，根據(jù)上式有即 （4-5）4.自相關函數(shù)設兩個時間點 和 上的隨即變量分別為 和 ，自相關函數(shù)用 表

7、示 （4-6）這里 是時間間隔，上式也可表示為 （4-7）自相關函數(shù)是二價聯(lián)合原點矩，它反映了同一隨機信號在不同時刻取值的關聯(lián)程度。5.自協(xié)方差函數(shù)自協(xié)方差函數(shù) 用表示 （4-8）自協(xié)方差函數(shù)是二價聯(lián)合中心矩。自相關函數(shù)和自協(xié)方差函數(shù)只相差一個常數(shù) ，它們之間沒有本質(zhì)的差別，即 6.互相關函數(shù)和互協(xié)方差函數(shù) 和 是兩個同時發(fā)生的隨機過程，則它們之間的互相關函數(shù)和互協(xié)方差函數(shù)分別用 和 表示 （4-10） （4-11）它們反映了兩個隨機信號在不同時刻取值的關聯(lián)程度。 如果 ，則稱 和 為正交過程；如果 ，則稱 和 互不相關。 在以上這些數(shù)字特征里，自相關函數(shù)和自協(xié)方差函數(shù)是表征一個隨機過程的最重

8、要的統(tǒng)計特性。4.2.4 自相關序列和自協(xié)方差序列的性質(zhì) 設 和 是兩個實的平穩(wěn)隨機序列，則自相關序列和自協(xié)方差序列具有以下性質(zhì)：性質(zhì)1 （4-12）當 時 （4-13）性質(zhì)2 （4-14） （4-15） 性質(zhì)3 （4-16） 性質(zhì)4 （4-17）性質(zhì)5 （4-18）證明： 即 又因 為平穩(wěn)隨機序列，故有同理可證明 性質(zhì)6 （4-19）當 越大時，相關性越小，當 趨于無窮大時，可認為不相關。也就是說以上性質(zhì)說明自相關函數(shù) 是隨機過程 最重要的統(tǒng)計表征，它蘊含了 、 、 等主要物理量。 4.2.5 平穩(wěn)隨機序列的功率譜密度 我們知道，平穩(wěn)隨機序列是非周期函數(shù)，且是能量無限的，因此它的傅立葉變換是

9、不存在的，但其功率譜是存在的。如果平穩(wěn)隨機序列的均值為零，則它的功率譜密度和自相關函數(shù)是一對傅立葉變換對。即 （4-20）對于實平穩(wěn)隨機序列功率譜，有以下性質(zhì)：（1）功率譜是 的偶函數(shù)，即（2）功率譜是實的非負函數(shù)，即 4.3 線性系統(tǒng)對平穩(wěn)隨機信號的響應設一個線性非時變系統(tǒng) ，它的單位樣本響應為 。如輸入一個平穩(wěn)隨機序列 ，可以證明所得到的響應 也將是一個平穩(wěn)隨機序列，有 （4-21）如果已知隨機信號 的特征量 、 、 和 等，我們來求響應 的這些特征量。 的均值 按定義為即 （4-22） 的自相關函數(shù)為 因為 是平穩(wěn)的，所以所以 令 ，代入上式 （4-23）式中 （4-24） 的功率譜為

10、（4-25）當輸入 為白噪聲時， ，有 （4-26）4.4 均值、方差、自相關函數(shù)的估計 隨機信號與確定性信號不同，它不能用數(shù)學表達式或圖表來表示，只能用它的某些數(shù)字特征來表征。如 、 和 等，由于隨機信號是無始無終的，所以這些數(shù)字特征是不能精確求出的，我們只能通過估計的方法來得到。估計的方法很多，所以我們必須有一個標準來確定一個估計是“好”的估計。我們用 表示平穩(wěn)隨機序列的某個數(shù)字特征值，可以是均值、方差、自相關函數(shù)、功率譜等。實際上即使用相同的方法進行估計，由于每次所用樣本不同，得到的估計也是不同的。所以 得估值也是隨機變量，可以取很多值，用 表示估值的均值。設 為樣本數(shù)，如果當 時， 滿

11、足以下兩個條件 （4-27） （4-28）這里， 稱為 的偏差，為零表示 是 的一個無偏估計； 稱為估計方差。滿足以上兩式的估計稱為一致估計，一個好正確的估計必須滿足一致估計的條件。實際上 （4-29）下面用隨機序列 的N個樣本數(shù)據(jù) 、 、 來估計 的均值、方差和自相關函數(shù)。4.4.1均值的估計將 的N個樣本數(shù)據(jù)的算術平均作為均值得估計 ，即 （4-30）由上式可得 （4-31）即偏差為 （4-32）故這種估計為無偏估計?，F(xiàn)在求 ，按定義有 （4-33）對 有 （4-34） 為便于分析，假定 與 是互不相關的，則 于是式（4-34）成為上式代入（4-33），有可見，當 時， 。綜合上面對偏差和

12、方差的分析，可以得出結論：由（4-30）所得的對 的估計 是無偏的一致估計。均值的估計在實際中應用很廣，往往通過減去均值使隨機信號的均值不為零的情況變?yōu)榫禐榱愕那闆r。4.4.2 方差的估計對于有N個樣本數(shù)據(jù)的隨機序列，其方差可由下式來估計 （4-35）此估計的數(shù)學期望為 （4-36）即，當 時 所以，式（4-35）對方差的估計是無偏估計。下面來討論這種估計的方差，根據(jù)定義有 （4-37）將（4-36）代入上式，得可以證明，當 時，估計的方差趨于零。所以，式（4-35）對方差的估計是無偏的一致估計。實際中，也可以用下式來估計方差可以證明，用此式對方差進行估計得到的也是滿足一致估計的條件。 4.

13、4.3 自相關函數(shù)的估計由于我們只能觀察到 的N個樣本數(shù)據(jù)，而 與 的數(shù)據(jù)是不知道的，因此，可用下式對自相關函數(shù) 進行估計 （4-38）對于實序列，其自相關函數(shù)偶對稱，即于是，可將式（4-38）表示為 （4-39）此估計的均值為 （4-40）可見，這種估計屬于無偏估計。很多學者都主張用下式來估計自相關函數(shù) （4-41） 此估計的均值為 （4-42）偏差為可以看出，當 時，偏 差，所以式（4-41）也是無偏估計。下面來討論這兩種估計的方差。將式（4-40）寫為 即 （4-44）對 有將式（4-40）代入上式 （4-45）對 有第章功率譜估計5.1 經(jīng)典譜估計5.2 自回歸模型法5.3 最大熵譜估計5.4 AR模型參數(shù)的求解第章維納濾波器和卡爾曼濾波器6.1 離散維納濾波器的時域解6.2 離散維納濾波器的域解6.3 維納預測器6.4 卡爾曼（Kalman）濾波器第章自適應濾波器7.1 LMS自適應濾波