隨機(jī)信號分析 chap1

第1章隨機(jī)過程

2/6/20231本章主要內(nèi)容：

隨機(jī)過程的基本概念

隨機(jī)過程的數(shù)字特征隨機(jī)過程的微分和積分計算隨機(jī)過程的平穩(wěn)性和遍歷性隨機(jī)過程的相關(guān)函數(shù)及其性質(zhì)復(fù)隨機(jī)過程正態(tài)過程馬爾可夫鏈泊松過程2/6/20232隨機(jī)變量

與時間無關(guān)

隨機(jī)過程

與時間相關(guān)

2/6/202331.1隨機(jī)過程的基本概念及統(tǒng)計特性

一定義

對接收機(jī)的噪聲電壓作觀察

2/6/202341樣本函數(shù)：，，，…，，都是時間的函數(shù)，稱為樣本函數(shù)。

2隨機(jī)性：一次試驗，隨機(jī)過程必取一個樣本函數(shù)，但所取的樣本函數(shù)帶有隨機(jī)性。因此，隨機(jī)過程不僅是時間t的函數(shù)，還是可能結(jié)果的函數(shù)，記為，簡寫成。

2/6/20235定義2：若對于每個特定的時間，都是隨機(jī)變量，則稱為隨機(jī)過程，稱為隨機(jī)過程在時刻的狀態(tài)。定義1：設(shè)隨機(jī)試驗E的樣本空間，若對于每個元素，總有一個確知的時間函數(shù)與它對應(yīng)，這樣，對于所有的，就可以得到一簇時間t的函數(shù)，稱它為隨機(jī)過程。簇中的每一個函數(shù)稱為樣本函數(shù)。3隨機(jī)過程的定義：

2/6/202364定義的理解：

上面兩種隨機(jī)過程的定義，從兩個角度描述了隨機(jī)過程。具體的說，作觀測時，常用定義1，這樣通過觀測的試驗樣本來得到隨機(jī)過程的統(tǒng)計特性；對隨機(jī)過程作理論分析時，常用定義2，這樣可以把隨機(jī)過程看成為n維隨機(jī)變量，n越大，采樣時間越小，所得到的統(tǒng)計特性越準(zhǔn)確。

2/6/20237理解：

一個時間函數(shù)族

一個確知的時間函數(shù)一個隨機(jī)變量一個確定值1和都是變量2是變量而固定3固定而是變量

4和都固定

2/6/20238二分類

1按隨機(jī)過程的時間和狀態(tài)來分類

連續(xù)型隨機(jī)過程：對隨機(jī)過程任一時刻的取值都是連續(xù)型隨機(jī)變量。

離散型隨機(jī)過程：對隨機(jī)過程任一時刻的取值都是離散型隨機(jī)變量。

2/6/20239離散隨機(jī)序列：隨機(jī)過程的時間t只能取某些時刻，如，2，…..，n，且這時得到的隨機(jī)變量是離散型隨機(jī)變量，即時間和狀態(tài)是離散的。相當(dāng)于采樣后再量化。

連續(xù)隨機(jī)序列：隨機(jī)過程的時間t只能取某些時刻，如，2，…..，n，且這時得到的隨機(jī)變量是連續(xù)型隨機(jī)變量，即時間是離散的。相當(dāng)于對連續(xù)型隨機(jī)過程的采樣。

2/6/2023102按樣本函數(shù)的形式來分類

不確定的隨機(jī)過程：隨機(jī)過程的任意樣本函數(shù)的值不能被預(yù)測。例如接收機(jī)噪聲電壓波形。

確定的隨機(jī)過程：隨機(jī)過程的任意樣本函數(shù)的值能被預(yù)測。例如，樣本函數(shù)為正弦信號。

3按概率分布的特性來分類2/6/202311三隨機(jī)過程的概率分布

1一維概率分布

隨機(jī)過程X(t)在任意tiT的取值X(t1)是一維隨機(jī)變量。概率P{X(t)≤x1}是取值x1，時刻t1的函數(shù)，記為Fx(x1；t1)=P{X(t1)≤x1}，稱作隨機(jī)過程X(t)的一維分布函數(shù)。

若的偏導(dǎo)數(shù)存在，則有2/6/2023122二維概率分布

FX(x1,x2;t1,t2)=P{X(t1)≤x1,X(t2)≤x2}

為了描述S.P在任意兩個時刻t1和t2的狀態(tài)間的內(nèi)在聯(lián)系,可以引入二維隨機(jī)變量[X(t1),X(t2)]的分布函數(shù)FX(x1,x2;t1,t2)，它是二隨機(jī)事件{X(t1)≤x1}和{X(t2)≤x2}同時出現(xiàn)的概率，即稱為隨機(jī)過程X(t)的二維分布函數(shù)。

若FX(x1,x2;t1,t2)對x1，x2的二階混合偏導(dǎo)存在，則為隨機(jī)過程X(t)的二維概率密度2/6/2023133

n維概率分布隨機(jī)過程

在任意n個時刻

的取值

構(gòu)成n維隨機(jī)變量即為n維空間的隨機(jī)矢量X。類似的，可以定義隨機(jī)過程的n維分布函數(shù)和n維概率密度函數(shù)為2/6/202314性質(zhì)：

123456若統(tǒng)計獨(dú)立，則有

2/6/202315四

隨機(jī)過程的數(shù)字特征隨機(jī)變量的數(shù)字特征通常是確定值；隨機(jī)過程的數(shù)字特征通常是確定性函數(shù)。

對隨機(jī)過程的數(shù)字特征的計算方法，是先把時間t固定，然后用隨機(jī)變量的分析方法來計算。

2/6/2023161數(shù)學(xué)期望

顯然，

是某一個平均函數(shù)，隨機(jī)過程的諸樣本在它的附近起伏變化，如圖所示：

物理意義：如果隨機(jī)過程表示接收機(jī)的輸出電壓，那么它的數(shù)學(xué)期望就是輸出電壓的瞬時統(tǒng)計平均值。

2/6/2023172均方值和方差

隨機(jī)過程在任一時刻t的取值是一個隨機(jī)變量。我們把二階原點(diǎn)矩稱為隨機(jī)過程的均方值，把二階中心矩記作隨機(jī)過程的方差。即：

且2/6/202318物理意義：如果表示噪聲電壓，則均方值和方差分別表示消耗在單位電阻上的瞬時功率統(tǒng)計平均值和瞬時交流功率統(tǒng)計平均值。

標(biāo)準(zhǔn)差或均方差：

2/6/2023193自相關(guān)函數(shù)

先比較具有相同數(shù)學(xué)期望和方差的兩個隨機(jī)過程。

2/6/202320自相關(guān)函數(shù)用來描述隨機(jī)過程任意兩個時刻的狀態(tài)之間的內(nèi)在聯(lián)系，通常用描述。

2/6/2023214自協(xié)方差函數(shù)

若用隨機(jī)過程的兩個不同時刻之間的二階混合中心矩來定義相關(guān)函數(shù)，我們稱之為自協(xié)方差。用表示，它反映了任意兩個時刻的起伏值之間相關(guān)程度。

2/6/202322比較自協(xié)方差和自相關(guān)函數(shù)的關(guān)系

))]()())(()([(),(111121tmtXtmtXEttKXXX--=比較自協(xié)方差和方差的關(guān)系令則2/6/202323例：求隨機(jī)相應(yīng)止弦波的數(shù)字期望，方差及自相關(guān)函數(shù)。式中，為常數(shù)，是區(qū)間[0，]上均勻分布的隨機(jī)變量。解：由題可知：（1）＝同理2/6/202324（2）＝＝＝可知

2/6/202325（3）＝＝＝2/6/202326五

隨機(jī)過程的特征函數(shù)1一維特征函數(shù)

隨機(jī)過程在任一特定時刻t的取值是一維隨機(jī)變量，其特征函數(shù)為:其反變換為：

n階矩2/6/2023272二維特征函數(shù)

其反變換為：

2/6/2023283n維特征函數(shù)

2/6/2023291.2連續(xù)時間隨機(jī)過程的微分和積分

一隨機(jī)過程的連續(xù)性

1預(yù)備知識：對于確定性函數(shù)，若則在處連續(xù)。2/6/2023302隨機(jī)過程連續(xù)性定義

如果隨機(jī)過程

滿足

則稱

依均方收斂意義下在t點(diǎn)連續(xù)，簡稱隨機(jī)過程

在t點(diǎn)均方連續(xù)。2/6/2023313隨機(jī)過程的相關(guān)函數(shù)連續(xù)，則連續(xù)因此，如果對

時刻，函數(shù)

在點(diǎn)上連續(xù)，則隨機(jī)過程

必在點(diǎn)t上連續(xù)。

2/6/2023324隨機(jī)過程均方連續(xù)，則其數(shù)學(xué)期望連續(xù)

證：由均方連續(xù)的定義，，則不等式左端趨于0，那么不等式的右端也必趨于0（均值的平方不可能小于0）

設(shè)2/6/202333即：

注意為確定性函數(shù)，由預(yù)備知識，可知連續(xù)。

可將此結(jié)果寫成2/6/202334二隨機(jī)過程的導(dǎo)數(shù)

預(yù)備知識：對于一般確定性函數(shù)，高等數(shù)學(xué)給出的可導(dǎo)定義如下：

一階可導(dǎo)：

如果存在，則在t處可導(dǎo)，記為。

2/6/202335二階可導(dǎo)：

存在，則二階可導(dǎo)，記為

若2/6/2023361隨機(jī)過程可導(dǎo)的定義

如果隨機(jī)過程

滿足

則稱

在t時刻具有均方倒數(shù)，表示為

2/6/2023372判別方法

判斷一個隨機(jī)過程是否均方可微的方法是采用柯西準(zhǔn)則,即

而2/6/202338若時，存在二階混合偏導(dǎo)則=可見，隨機(jī)過程X(t)在t處均可微的充分條件為：相關(guān)函數(shù)在它的自變量相等時，存在二階混合偏導(dǎo)數(shù)且連續(xù)，即存在2/6/2023393數(shù)字特征

（1）隨機(jī)過程導(dǎo)數(shù)的數(shù)學(xué)期望等于其數(shù)學(xué)期望的導(dǎo)數(shù)

證明：

2/6/202340（2）隨機(jī)過程導(dǎo)數(shù)的相關(guān)函數(shù)等于可微隨機(jī)過程的相關(guān)函數(shù)的混合偏導(dǎo)數(shù)

證明：

2/6/202341三隨機(jī)過程的積分

1預(yù)備知識

對于確定性函數(shù)，其中，2/6/2023422隨機(jī)過程積分的定義隨機(jī)過程在確定區(qū)間上的積分Y是一個隨機(jī)變量，即若有則稱為隨機(jī)過程在上的積均方積分可以推廣到帶有“權(quán)函數(shù)”的隨機(jī)過程的積分2/6/2023433數(shù)字特征

（1）隨機(jī)過程積分的數(shù)學(xué)期望等于隨機(jī)過程數(shù)學(xué)期望的積分。

證明：2/6/202344（2）隨機(jī)過程積分的均方值和方差

隨機(jī)過程積分的均方值等于隨機(jī)過程自相關(guān)函數(shù)的二重積分；其方差為隨機(jī)過程協(xié)方差的二重積分。

2/6/2023452/6/202346(3)隨機(jī)過程積分的相關(guān)函數(shù)：等于對隨機(jī)過程的相關(guān)函數(shù)作兩次變上限積分（先對t1,后對t2積分）

2/6/2023471.3平穩(wěn)隨機(jī)過程及其遍歷性一平穩(wěn)隨機(jī)過程1嚴(yán)平穩(wěn)隨機(jī)過程(1)定義如果對于任意的n和，隨機(jī)過程X(t)的N維概率密度滿足：則稱X(t)為嚴(yán)平穩(wěn)（或狹義）隨機(jī)過程。2/6/202348(2)一、二維概率密度及數(shù)學(xué)特征嚴(yán)平穩(wěn)隨機(jī)過程的一維概率密度與時間無關(guān)2/6/202349嚴(yán)平穩(wěn)隨機(jī)過程的二維概率密度只與

t1,

t2的時間間隔有關(guān)，而與時間起點(diǎn)無關(guān)2/6/202350(3)嚴(yán)平穩(wěn)的判斷按照嚴(yán)平穩(wěn)的定義，判斷一個隨機(jī)過程是否為嚴(yán)平穩(wěn)，需要知道其n維概率密度，可是求n維概率密度是比較困難的。不過，如果有一個反例，就可以判斷某隨機(jī)過程不是嚴(yán)平穩(wěn)的，具體方法有兩個：(1)若X(t)為嚴(yán)平穩(wěn)，k為任意正整數(shù)，則與時間t無關(guān)。

(2)若X(t)為嚴(yán)平穩(wěn)，則對于任一時刻t0，X(t0)具有相同的統(tǒng)計特性。2/6/2023512寬平穩(wěn)隨機(jī)過程若隨機(jī)過程X(t)滿足則稱X(t)為寬平穩(wěn)或廣義平穩(wěn)隨機(jī)過程。嚴(yán)平穩(wěn)與寬平穩(wěn)的關(guān)系：嚴(yán)平穩(wěn)過程的均方值有界，則此過程為寬平穩(wěn)的，反之不成立。對于正態(tài)過程，嚴(yán)平穩(wěn)與寬平穩(wěn)等價。2/6/202352二平穩(wěn)隨機(jī)過程的性質(zhì)

性質(zhì)1平均功率性質(zhì)2偶對稱性性質(zhì)3極值性證：任何正函數(shù)的數(shù)字期望恒為非負(fù)值，即對于平穩(wěn)過程X(t)，有代入前式，可得于是同理2/6/202353對周期性平穩(wěn)過程X(t)=X(t+T)，T為周期，有。

性質(zhì)4

證：由自相關(guān)函數(shù)的定義和周期性條件，容易得到性質(zhì)5

若平穩(wěn)過程含有一個周期分量，則含有同一個周期分量。

2/6/202354若平穩(wěn)隨機(jī)過程X(t)不含有任何周期分量，則性質(zhì)6

對于此類非周期的平穩(wěn)過程，當(dāng)增大時，隨機(jī)變量X(t)與X(t+τ)之間的相關(guān)性會減弱；在的極限情況下，兩者相互獨(dú)立，故有證：亦即同理，可求得2/6/202355性質(zhì)7

若平穩(wěn)過程含有平均分量(均值)，則相關(guān)函數(shù)也含有平均分量，且等于,即則。若X(t)是非周期的，由協(xié)方差函數(shù)的定義，可得由此若X(t)是非周期，則有證：且在t=0時,可得2/6/202356平穩(wěn)隨機(jī)過程必須滿足對所有均成立。

性質(zhì)8

自相關(guān)函數(shù)的付氏變換非負(fù)，這要求相關(guān)函數(shù)連續(xù)（平頂，垂直邊均是非連續(xù)）。注：相關(guān)函數(shù)（協(xié)方差）的典型曲線2/6/202357平穩(wěn)過程的相關(guān)系數(shù)和相關(guān)時間此值在[－1，1]之間。表示不相關(guān)，表示完全相關(guān)。表示正相關(guān)，表明兩個不同時刻起伏值（隨機(jī)變量與均值之差）之間符號相同可能性大。相關(guān)系數(shù)2/6/202358相關(guān)時間當(dāng)相關(guān)系數(shù)中的時間間隔大于某個值，可以認(rèn)為兩個不同時刻起伏值不相關(guān)了，這個時間就稱為相關(guān)時間。

通常把相關(guān)系數(shù)的絕對值小于0.05的時間間隔，記做相關(guān)時間,即:時的時間間隔為相關(guān)時間。

有時我們用鉅形（高為,底為的矩形）面積等于陰影面積(積分的一半）來定義相關(guān)時間，即物理意義相關(guān)時間越小，就意味著相關(guān)系數(shù)隨增加而降落的越快，這表明隨機(jī)過程隨時間變化越劇烈。反之，越大，則表時隨機(jī)過程隨時間變化越慢。

2/6/202359例：已知平穩(wěn)隨機(jī)過程X(t)的自相關(guān)函數(shù)為RX(t)=100e-10|t|+100cos10t+100求X(t)的均值、均方值和方差。

RX(t)=（100cos10t）+（100e-10|t|+100）=RX1(t)+RX2(t)式中，RX1(t)=100cos10t是X(t)中周期分量的自相關(guān)函數(shù)，此分量的均值mx1=0;RX2(t)=100e-10|t|+100是X(t)的非周期分量的自相關(guān)，由性質(zhì)6，可得所以有解：2/6/202360三遍歷性或各態(tài)歷經(jīng)性

1遍歷性過程的定義

如果一個隨機(jī)過程X(t),它的各種時間平均（時間足夠長）依概率1收斂于相應(yīng)的集合平均,則稱X(t)具有嚴(yán)格遍歷性,并稱它為嚴(yán)遍歷過程。嚴(yán)遍歷性的定義

寬遍歷性的定義

設(shè)X(t)是一個平穩(wěn)隨機(jī)過程,如果其均值和相關(guān)函數(shù)都具有遍歷性,則稱X(t)為寬(或廣義)遍歷過程,或簡稱遍歷過程。2/6/202361定義果它依概率1收斂于集合均值，即則稱X(t)均值具有遍歷性。定義時間自相關(guān)函數(shù)為則稱X(t)自相關(guān)函數(shù)具有遍歷性。如果它依概率1收斂于集合自相關(guān)函數(shù)，即為時間均值，如2/6/2023622遍歷過程的實際應(yīng)用

一般隨機(jī)過程的時間平均是隨機(jī)變量，但遍歷過程的時間平均為確定量，因此可用任一樣本函數(shù)的時間平均代替整個過程的統(tǒng)計平均，在實際工作中，時間T不可能無限長，只要足夠長即可。

3遍歷過程和平穩(wěn)過程的關(guān)系

遍歷過程必須是平穩(wěn)的，而平穩(wěn)過程不一定是遍歷的。（遍歷必定平穩(wěn)由遍歷定義即可知）2/6/2023634遍歷過程的兩個判別定理

均值遍歷判別定理

平穩(wěn)過程X(t)的均值具有遍歷性的充要條件平穩(wěn)過程X(t)的自相關(guān)函數(shù)具有遍歷性充要條件自相關(guān)函數(shù)遍歷判別定理

式中：2/6/202364證：原命題等價于：

=2/6/202365設(shè)則2/6/202366于是從而命題得證。2/6/202367對于正態(tài)平穩(wěn)隨機(jī)過程，若均值為零，自相關(guān)函數(shù)連續(xù)，則可以證明此過程具有遍歷性的一個充分條件為注意：判斷一個平穩(wěn)過程是否遍歷的，我們總是先假設(shè)其是遍歷的，然后看是否滿足定義要求（即時間平均以概率1等于統(tǒng)計平均），一般不用兩個判別定理。

5.2/6/202368例：設(shè),式中a，為常數(shù)，是在上均勻分布的隨機(jī)變量。試問：X(t)是否平穩(wěn)？是否遍歷？故X(t)是寬平穩(wěn)隨機(jī)過程。解：2/6/202369故X(t)也是寬遍歷隨機(jī)過程。2/6/2023701.4隨機(jī)平穩(wěn)隨機(jī)過程一兩個隨機(jī)過程的聯(lián)合概率分布設(shè)有兩個隨機(jī)過程和,它們的概率密度分別為定義這兩個過程的(n+m)維聯(lián)合分布函數(shù)為：2/6/202371定義這兩個過程的(n+m)維聯(lián)合概率密度為：1）若兩個過程的n+m維聯(lián)合概率分布給定，則它們的全部統(tǒng)計特性也確定了。注2）可以由高維聯(lián)合分布求出它們的低維聯(lián)合概率分布。3）若兩個隨機(jī)過程的聯(lián)合概率分布不隨時間平移而變化，即與時間的起點(diǎn)無關(guān)，則稱此二過程為聯(lián)合嚴(yán)平穩(wěn)或嚴(yán)平穩(wěn)相依。2/6/202372設(shè)兩個隨機(jī)過程和，它們在任意兩個時刻t1，t2的取值為隨機(jī)變量、,則定義它們的互相關(guān)函數(shù)為：二兩個隨機(jī)過程的互相關(guān)函數(shù)式中，

是隨機(jī)過程和的二維聯(lián)合概率密度。1定義2/6/202373隨機(jī)過程和的中心互相關(guān)函數(shù)定義為：式中，和分別是隨機(jī)變量和的數(shù)學(xué)期望。此式也可以寫成2/6/2023742統(tǒng)計獨(dú)立、不相關(guān)、正交的概念

1）統(tǒng)計獨(dú)立若或

則稱隨機(jī)過程和相互獨(dú)立。2/6/2023752）不相關(guān)

若兩個隨機(jī)過程和對任意兩個時刻t1,t2都具有或，3）正交則稱和不相關(guān)。若兩個隨機(jī)過程和對任意兩個時刻t1,t2都具有或，則稱和互為正交過程。2/6/202376(1)如果兩個隨機(jī)過程相互獨(dú)立，且他們的二階矩都存在，則必互不相關(guān)。(2)正態(tài)過程的不相關(guān)與相互獨(dú)立等價。推論

2/6/202377三聯(lián)合寬平穩(wěn)和聯(lián)合寬遍歷（1）聯(lián)合寬平穩(wěn)定義兩個隨機(jī)過程和，如果：和分別寬平穩(wěn)

互相關(guān)函數(shù)僅為時間差的函數(shù)，與時間t無關(guān)即則稱和為聯(lián)合寬平穩(wěn)或?qū)捚椒€(wěn)相依。1定義2/6/202378（2）聯(lián)合寬遍歷定義兩個隨機(jī)過程和，如果：和聯(lián)合寬平穩(wěn)

定義它們的時間互相關(guān)函數(shù)為：若依概率1收斂于互相關(guān)函數(shù)則稱和具有聯(lián)合寬遍歷性。即2/6/202379（3）互協(xié)方差與互相關(guān)系數(shù)當(dāng)兩個隨機(jī)過程聯(lián)合平穩(wěn)時，它們的互協(xié)方差互相關(guān)系數(shù)又稱作歸一化互樣關(guān)函數(shù)或標(biāo)準(zhǔn)互協(xié)方差函數(shù)。注：。當(dāng)時，隨機(jī)變量和互不相關(guān)。2/6/2023802聯(lián)合寬平穩(wěn)的性質(zhì)

(1)證明：按定義即可證明，說明互相關(guān)函數(shù)既不是偶函數(shù)，也不是奇函數(shù)?；ハ嚓P(guān)函數(shù)的影像關(guān)系2/6/202381(2)證明：由于，為任意實數(shù)展開得：這是關(guān)于的二階方程。注意,要使上式恒成立，即方程無解或只有同根，則方程的系數(shù)應(yīng)該滿足,則有所以，

同理，2/6/202382(3)證明：由性質(zhì)(2)，得注意到因此，（任何正數(shù)的幾何平均小于算術(shù)平均）2/6/202383設(shè)兩個平穩(wěn)隨機(jī)過程試問：X(t)和Y(t)是否平穩(wěn)相依？是否正交、不相關(guān)、統(tǒng)計獨(dú)立？

平穩(wěn)隨機(jī)過程X(t)和Y(t)的互相關(guān)函數(shù)為：故這兩個隨機(jī)過程是平穩(wěn)相依的。例故KXY(t1,t2)僅在時等于零，此時X(t1)和Y(t2)是相關(guān)的，因而它們不是統(tǒng)計獨(dú)立的。解：2/6/202384四復(fù)隨機(jī)過程復(fù)隨機(jī)變量1定義2分布函數(shù)即由X,Y的聯(lián)合概率分布描述。我們把復(fù)隨機(jī)變量Z定義為Z=X+jy，式中,X和Y為實隨機(jī)變量。2/6/2023853數(shù)字特征(1)數(shù)學(xué)期望(2)方差其中注：ⅰ)復(fù)隨機(jī)過程的方差等于它的實部與虛部的方差之和ⅱ)復(fù)隨機(jī)過程的方差為非負(fù)的實數(shù)。2/6/202386(3)相關(guān)矩設(shè)Z1、Z2為兩個復(fù)隨機(jī)變量，則(4)互協(xié)方差2/6/2023874兩個復(fù)隨機(jī)變量的獨(dú)立、不相關(guān)、正交1）統(tǒng)計獨(dú)立2）不相關(guān)3）正交2/6/202388復(fù)隨機(jī)過程

1定義設(shè)，為實隨機(jī)過程，則定義Z(t)=X(t)+jY(t)為復(fù)隨機(jī)過程。2概率密度函數(shù)Z(t)的統(tǒng)計特性可由X(t)和Y(t)的2n維聯(lián)合概率分布完整地描述，其概率密度為：2/6/2023893數(shù)字特征(1)數(shù)學(xué)期望(2)方差(3)自相關(guān)函數(shù)2/6/202390

(5)互相關(guān)函數(shù)(6)互協(xié)方差函數(shù)注：ⅰ）若，則Z1，Z2不相關(guān)。ⅱ）若，則Z1，Z2正交。(4)自協(xié)方差函數(shù)2/6/2023914復(fù)隨機(jī)過程的寬平穩(wěn)性若復(fù)隨機(jī)過程滿足：穩(wěn)的復(fù)過程。若兩個平穩(wěn)的復(fù)過程X(t)和Y(t)滿足,則稱X(t)和Y(t)聯(lián)合寬平穩(wěn)。,則稱Z(t)為寬平求復(fù)隨機(jī)過程的數(shù)字特征時要注意，其均值為復(fù)數(shù)，方差等二階矩為非負(fù)實數(shù)，因此，求其二階矩時（包括方差，相關(guān)函數(shù)和協(xié)方差）采用一個復(fù)隨機(jī)過程與其共軛相乘，再求數(shù)學(xué)期望的方法，其它性質(zhì)和特性與實隨機(jī)過程類似。小結(jié)2/6/2023921.5正態(tài)隨機(jī)過程一正態(tài)隨機(jī)過程的一般概念

1正態(tài)隨機(jī)過程的定義

如果隨機(jī)過程X(t)的任意n維概率分布都是正態(tài)分布，則稱它為正態(tài)隨機(jī)過程或高斯隨機(jī)過程，簡稱正態(tài)過程或高斯過程。2/6/2023932概率密度函數(shù)

式中,mX是n維向量，K是n維陣，其中：2/6/202394性質(zhì):

正態(tài)隨機(jī)過程的概率密度函數(shù)由它的一、二階矩（均值、方差和相關(guān)系數(shù)完全決定）。推論:

若復(fù)正態(tài)隨機(jī)過程Z(t)的n個采樣時刻得到n個復(fù)隨機(jī)變量，即

其中,Xi、Yi皆為實隨機(jī)變量。此n個復(fù)隨機(jī)變量的聯(lián)合概率密度應(yīng)是2n維隨機(jī)變量的聯(lián)合概率密度。2/6/202395二平穩(wěn)正態(tài)隨機(jī)過程

1平穩(wěn)正態(tài)隨機(jī)過程的定義

若正態(tài)隨機(jī)過程滿足下列條件，則它是寬平穩(wěn)（平穩(wěn)）正態(tài)隨機(jī)過程。

由平穩(wěn)隨機(jī)過程的三大條件（均值為常數(shù)，相關(guān)函數(shù)只與時間差有關(guān)，均方值有界）可知，那么為確定值，而方差＝必為常數(shù)，顯然，方差為常數(shù)，則理解也為常數(shù)，物理意義是總平均功率等于交流平均功率與直流平均功率之和。2/6/2023962平穩(wěn)正態(tài)過程的n維概率密度

平穩(wěn)正態(tài)過程一、二維概率密度表達(dá)式

2/6/202397平穩(wěn)正態(tài)過程n維概率密度表達(dá)式：

式中，R是相關(guān)系數(shù)rik構(gòu)成的行列式，具有下列形式Rik為行列式中元素rik的代表余子式。2/6/2023983平穩(wěn)正態(tài)過程的n維特征函數(shù)

式中，為隨機(jī)變量Xk、Xi的協(xié)方差特別：一維和二維特征函數(shù)

函數(shù)。n維特征函數(shù)：2/6/202399三正態(tài)隨機(jī)過程的性質(zhì)

正態(tài)隨機(jī)過程的n維概率密度完全由它的均值集合，協(xié)方差函數(shù)集合所確定。性質(zhì)1：性質(zhì)2：正態(tài)過程的嚴(yán)平穩(wěn)與寬平穩(wěn)等價。1）由正態(tài)隨機(jī)過程的概率密度表達(dá)式可知，它的任意n維概率密度僅由均值,方差和相關(guān)系數(shù)唯一確定。如果正態(tài)隨機(jī)過程X(t)寬平穩(wěn)，則其均值和方差是常數(shù)，相關(guān)系數(shù)只與時間差有關(guān)，因此它的任意n維概率密度函數(shù)僅與時間起點(diǎn)無關(guān)，由嚴(yán)平穩(wěn)定義得證。2）由于正態(tài)過程的均方值總是有界的，因此嚴(yán)平穩(wěn)正態(tài)過程一定是寬平穩(wěn)的。證明：2/6/2023100正態(tài)過程的不相關(guān)與相互獨(dú)立等價。性質(zhì)3：若X(t)在n個不同時刻采樣得到一組隨機(jī)變量X1,X2,…,Xn證明：（1）如果Xn（n＝1,2,…）兩兩之間相互獨(dú)立，則（2）如果Xn（n＝1,2,…）兩兩之間互不相關(guān)，則當(dāng)時。所以，兩兩互不相關(guān)。2/6/2023101即兩兩相互獨(dú)立。

因此所以則

2/6/2023102性質(zhì)4：平穩(wěn)正態(tài)過程與確定信號之和仍為正態(tài)分布。

設(shè)X(t)為平穩(wěn)正態(tài)過程，S(t)為確定性信號，Y(t)=X(t)+s(t)那么，對于任意時刻t，Y(t)=X(t)+s(t)為隨機(jī)變量，這時，s(t)具有確定值，由隨機(jī)變量函數(shù)的概率密度求法，Y(t)的一維概率密度函數(shù)為：

證明：因為為正態(tài)分布，所以顯然是正態(tài)分布。同理，Y(t)的二維概率密度為：正態(tài)分布。同理，可證明合成信號的n維概率密度也是正態(tài)過程。

2/6/2023103性質(zhì)5：

n維正態(tài)隨機(jī)矢量序列的均方極限仍為n維正態(tài)隨機(jī)矢量，即設(shè)為n維實正態(tài)隨機(jī)變量，又，即對于每個1,2,…,n均有，則X=（X1,X2,…Xn）為n維正態(tài)隨機(jī)矢量。2/6/2023104若正態(tài)過程X(t)在T上均方可微，則其導(dǎo)數(shù)X(t)也是正態(tài)過程。性質(zhì)6：

若正態(tài)過程X(t)在T上均方可積，則積分過程性質(zhì)7：

也是正態(tài)過程。正態(tài)隨機(jī)過程通過線性系統(tǒng)后的輸出仍為正態(tài)過程。

性質(zhì)8：

推論：正態(tài)過程的線性變換仍為正態(tài)過程。

2/6/20231051.6馬爾可夫過程1.6.1馬爾可夫過程的概念當(dāng)已知隨機(jī)過程在時刻所處的狀態(tài)的條件下，過程在時刻所處的狀態(tài)與過程在時刻以前的狀態(tài)無關(guān)，而僅與過程在所處的狀態(tài)有關(guān)，則稱該過程為馬爾可夫過程。這種特性稱為隨機(jī)過程的“無后效性”或馬爾可夫性。分為四類：1T和E都取連續(xù)集時，稱為馬爾可夫過程。2若T取連續(xù)集而E取離散集時，稱為可列馬爾可夫過程。3若T取離散集而E取連續(xù)集時，稱為馬爾可夫序列。4若T和E都取離散集時，稱為馬爾可夫鏈。狀態(tài)可列的馬爾可夫鏈稱為可列馬爾可夫鏈；狀態(tài)有限的馬爾可夫鏈稱為有限馬爾可夫鏈。2/6/20231061.6.2馬爾可夫序列一、馬爾可夫序列的定義設(shè)表示隨機(jī)過程在為整數(shù)時刻的取樣的隨機(jī)序列，記為（簡記為或），則可按以下方式定義馬爾可夫序列。定義33：若對于任意的n，有

則稱此為馬爾可夫序列。這一概率密度函數(shù)稱為轉(zhuǎn)移概率密度函數(shù)?？梢酝瞥?/p>

即聯(lián)合概率密度函數(shù)可由轉(zhuǎn)移概率密度和起始時刻的一維概率密度來確定。

2/6/2023107二、馬爾可夫序列的性質(zhì)一個馬爾可夫序列的子序列仍為馬爾可夫序列。證：對于馬爾可夫序列設(shè)子序列則有所以子序列也是馬爾可夫序列。2/6/2023108（2）一個馬爾可夫序列按其相反方向組成的逆序列仍為馬爾可夫序列。即對于任意的整數(shù)n和k,有證：因為同理根據(jù)條件概率定義和以上兩式有所以2/6/2023109（3），有(3)證：所以若對于序列，則稱此序列為“鞅”。2/6/2023110（4）若，并在給定條件下，隨機(jī)變量與是獨(dú)立的，則有證：因為所以原結(jié)論成立。證畢2/6/2023111（5）若對于任意，序列滿足則該序列為2重馬爾可夫序列。此概念可推廣到對于多個序列有重馬爾可夫序列。2/6/2023112（6）如果條件概率密度與（7）如果一個馬爾可夫序列是齊次的，并且所有的隨機(jī)變量具有相同的概率密度，則稱該馬爾可夫序列是平穩(wěn)的。馬爾可夫序列的轉(zhuǎn)移概率滿足此式就是有名的切普曼—柯爾莫哥洛夫方程（C-K方程）。無關(guān)，則稱該馬爾可夫序列（8）對于是齊次的。2/6/20231131.6.3馬爾可夫鏈一、馬爾可夫鏈的定義為一隨機(jī)序列，其狀態(tài)空間，若對于任意的，滿足

則稱為馬爾可夫鏈（簡稱馬氏鏈）。定義34：設(shè)2/6/2023114二、馬爾可夫鏈的轉(zhuǎn)移概率及性質(zhì)一步轉(zhuǎn)移概率在齊次條件下，令式（1.6.9）中時，有稱為一步轉(zhuǎn)移概率。由所有一步轉(zhuǎn)移概率構(gòu)成的矩陣稱為一步轉(zhuǎn)移概率矩陣，簡稱轉(zhuǎn)移概率矩陣。（1）

（2）2/6/20231152n步轉(zhuǎn)移概率在齊次條件下，令式（1.6.9）中時，可得到步轉(zhuǎn)移概率可構(gòu)成n步轉(zhuǎn)移概率矩陣

由所有n步轉(zhuǎn)移概率（1）

（2）

為了數(shù)學(xué)處理便利，通常規(guī)定

2/6/20231163．切普曼-柯爾莫哥洛夫方程（C-K方程）對于步轉(zhuǎn)移概率，有如下的切普曼-柯爾莫哥洛夫方程的離散形式

若用概率矩陣表示，有當(dāng)時，有同理可推出，當(dāng)時，有即任意k步轉(zhuǎn)移概率矩陣可由一步轉(zhuǎn)移概率矩陣自乘k次來得到。2/6/2023117例1-18在某數(shù)字通信系統(tǒng)中多級傳輸0、1兩種數(shù)字信號。由于系統(tǒng)中存在干擾，在任一級輸入0、1數(shù)字信號后，其輸出不產(chǎn)生錯誤的概率為p，產(chǎn)生錯誤的概率為q=1-p，求兩級傳輸時的概率轉(zhuǎn)移矩陣。解：系統(tǒng)每一級的輸入狀態(tài)和輸出狀態(tài)構(gòu)成一個兩狀態(tài)的馬氏鏈，其一步轉(zhuǎn)移概率矩陣為于是，兩級傳輸時的概率轉(zhuǎn)移矩陣等效于兩步轉(zhuǎn)移概率矩陣為2/6/20231184．初始分布與絕對分布定義35設(shè)為一馬氏鏈，其狀態(tài)空間或為有限子集。令，且對任意的（1）（2）則稱為該馬氏鏈的初始分布，也稱初始概率。初始概率是馬氏鏈在初始時間時處于狀態(tài)i的概率。當(dāng)時，馬氏鏈處于狀態(tài)i的概率稱為絕對概率或絕對分布。均有定義36設(shè)為一馬氏鏈，其狀態(tài)空間或為有限子集。令，且對任意的（1）（2）則稱為該馬氏鏈的絕對分布，也稱絕對概率。均有2/6/2023119定理3馬氏鏈的絕對概率由初始分布和相應(yīng)的轉(zhuǎn)移概率唯一確定。為一馬氏鏈，為狀態(tài)集，則對任意時馬氏鏈處于狀態(tài)的概率為

即:時,絕對概率由初始概率及一步轉(zhuǎn)移概率唯一確定。時，絕對概率由下式確定：即:絕對概率由初始概率及n步轉(zhuǎn)移概率唯一確定。利用C-K方程，則n步轉(zhuǎn)移矩陣可由一步轉(zhuǎn)移矩陣唯一確定。證：設(shè)當(dāng)2/6/2023120推論：馬氏鏈的絕對概率由初始分布及一步轉(zhuǎn)移概率唯一確定。由馬氏鏈的轉(zhuǎn)移概率和初始分布，不僅可以完全確定其絕對分布，也可以完全確定其有限維分布。即2/6/2023121三、轉(zhuǎn)移圖（狀態(tài)轉(zhuǎn)移圖與概率轉(zhuǎn)移圖）若一步轉(zhuǎn)移概率矩陣為則相應(yīng)的概率轉(zhuǎn)移圖如圖1-11所示。2/6/2023122四、馬氏鏈中的狀態(tài)分類到達(dá)與相通定義37（到達(dá)定義）：如果對于狀態(tài)與

（可簡寫為i和j)總存在某個

，使得，則稱自i狀態(tài)經(jīng)過n步可以到達(dá)j狀態(tài)，并記為反之，若對所有的有，則自i狀態(tài)不可以到達(dá)j狀態(tài)，并記為到達(dá)具有傳遞性，即若,,則定義38（相通定義）：若自狀態(tài)i可達(dá)狀態(tài)j，同時自狀態(tài)j也可達(dá)狀態(tài)i，則稱狀態(tài)和狀態(tài)相通，記為相通具有以下等價關(guān)系：（1）若，則,自返性（2）若，則，對稱性（3）若，，則，傳遞性2/6/2023123例1-21設(shè)一兩狀態(tài)馬氏鏈具有以下轉(zhuǎn)移概率矩陣

解：要討論這一馬氏鏈兩個狀態(tài)的到達(dá)性，可先求出它的n步轉(zhuǎn)移概率矩陣。由于對于所有的n,，故狀態(tài)“1”不能到達(dá)狀態(tài)“0”；而存在n使得故狀態(tài)“0”可以到達(dá)狀態(tài)“1”。討論其狀態(tài)的到達(dá)特性。2/6/2023124例1-22無限制的隨機(jī)游走問題?？紤]一個質(zhì)點(diǎn)在直線上作隨機(jī)游走．如果在某一時刻質(zhì)點(diǎn)位于i,則下一步質(zhì)點(diǎn)將以概率向前游走一步到達(dá)i+1處，或以概率向后游走一步到達(dá)i-1處?，F(xiàn)規(guī)定，這一質(zhì)點(diǎn)只能“向前”或“向后”游走一步，并且經(jīng)過一個單位時間它必須“向前”或“向后”游走。討論其狀態(tài)的相通性。解：如果以表示n時刻質(zhì)點(diǎn)的位置，則是一個隨機(jī)過程。而且，當(dāng)時，等在時刻n后質(zhì)點(diǎn)所處的狀態(tài)僅與有關(guān)，而與質(zhì)點(diǎn)在時刻n以前是如何到達(dá)i的無關(guān)．故它是一個齊次馬爾可夫鏈。狀態(tài)空間，一步轉(zhuǎn)移概率為從而一步轉(zhuǎn)移概率矩陣為2/6/2023125下面求n步轉(zhuǎn)移概率如在n次轉(zhuǎn)移的結(jié)果是從i到j(luò),n次轉(zhuǎn)移中恰好向前游走m次，向后游走k次，則有

聯(lián)立上兩式求解可得根據(jù)概率法則，不難求得n步轉(zhuǎn)移概率為其中時，反映了在n，i，j之間存在的一種約束關(guān)系。由于對于滿足要求的n，i，j，，所以無限制的隨機(jī)游走中的各個狀態(tài)是相通的。2/6/20231262．狀態(tài)的分類定義39設(shè)為一馬氏鏈，對任一狀態(tài)i與j，稱為自狀態(tài)i出發(fā)首次進(jìn)入狀態(tài)j的時刻，或稱為自i到j(luò)的首達(dá)時。是一隨機(jī)變量。另外，

可能永不取值i，這時我們就規(guī)定

定義40設(shè)為一馬氏鏈，對任一狀態(tài)i與j，稱為自狀態(tài)i出發(fā)經(jīng)過n步首次進(jìn)入狀態(tài)j的概率。顯然有

從而

2/6/2023127定義41設(shè)為一馬氏鏈，對任一狀態(tài)i與j，稱為自狀態(tài)i出發(fā)遲早要到達(dá)狀態(tài)j的概率。顯然有2/6/2023128定理4對任何狀態(tài)，有證明：因為

2/6/2023129定義42如果，則稱狀態(tài)j是常返的。如果，則稱狀態(tài)j是非常返的（或稱為瞬時的）。如果馬爾可夫鏈的任一狀態(tài)都是常返的，則稱此鏈為常返馬爾可夫鏈。定理5的充要條件是證明：充分性：若，則根據(jù)到達(dá)的定義，總存在某個，使所以這樣，至少有一個為正（不為0），所以必要性：若，則由至少有一個使，故表示自狀態(tài)i出發(fā)，在有限步內(nèi)遲早要返回狀態(tài)i的概率，是在0與1之間的一個數(shù)。2/6/2023130定理6狀態(tài)i是常返（）的充要條件為證明：充分性：因為有兩邊對n從1到N求和有

于是有注意到，所以在上式中令時有現(xiàn)已知，則上式左邊極限為1，于是有狀態(tài)j是常返態(tài)。令2/6/2023131必要性：因為若取,則有于是有如果,則在上式中令時有再令有由非常返的定義，狀態(tài)j是非常返的，這與必要性的前提假設(shè)矛盾，所以必須有2/6/2023132系：如果狀態(tài)j是非常返的，則必有設(shè)i是一常返態(tài)，則從i出發(fā)可經(jīng)過n步首次返回i，在的條件下的分布列為12…nP………由數(shù)學(xué)期望的定義，可得稱為狀態(tài)i的平均返回時間。2/6/2023133定義43設(shè)i是常返態(tài)，如果，則稱狀態(tài)i是正常返態(tài)；如果,則稱狀態(tài)i是零常返態(tài)。定理7設(shè)i為常返狀態(tài)，有周期,則系：如果j是常返態(tài)，則（1）j零常返當(dāng)且僅當(dāng)（2）j遍歷當(dāng)且僅當(dāng)定義44對于狀態(tài)i，若正整數(shù)集合非空，則稱該集合的最大公約數(shù)L為狀態(tài)i的周期。若，則稱狀態(tài)i是周期的，若，則稱狀態(tài)i是非周期的。如果狀態(tài)i是非周期且正常返的，則稱狀態(tài)i是遍歷的。2/6/2023134馬氏狀態(tài)分類圖2/6/2023135狀態(tài)分類判別法：（1）i非常返（2）i零常返且且（4）i遍歷且（3）i正常返2/6/2023136引理1對任意i和j，若，則存在正數(shù)、及正整數(shù)l、m，使對任一正整數(shù)n，有、

定理8若，則（1）i與j同為常返或同為非常返；（2）若i與j常返，則i與j同為正常返或同為零常返；（3）i與j或同為非周期的，或同為周期的且有相同的周期。2/6/20231373．遍歷性與平穩(wěn)分布定義45：設(shè)齊次馬氏鏈的狀態(tài)空間為E，若對一切，存在不依賴于i的極限則稱馬爾可夫鏈具有遍歷性。并稱為狀態(tài)j的穩(wěn)態(tài)概率。定理9對于一有限狀態(tài)的馬氏鏈，若存在一正整數(shù)m，使（對所有的狀態(tài)）則此鏈?zhǔn)潜闅v性的，且是的滿足條件的唯一解。2/6/2023138對平穩(wěn)分布，有=

一個非周期，不可約的馬氏鏈?zhǔn)浅７档?，它存在一個平穩(wěn)分布，即，即平穩(wěn)分布就是極限分布。遍歷的馬氏鏈一定具有平穩(wěn)性，但平穩(wěn)的馬氏鏈不一定具有遍歷性（不遍歷的馬氏鏈也可具有平穩(wěn)性）。2/6/2023139例1-23設(shè)馬爾可夫鏈的狀態(tài)空間，一步轉(zhuǎn)移概率矩陣試對該鏈進(jìn)行分類，并說明其遍歷性。解：根據(jù)一步轉(zhuǎn)移概率矩陣可畫出如圖1-12所示的狀態(tài)轉(zhuǎn)移圖。從圖中可知，①和②都是非周期的正常返狀態(tài)，③、④狀態(tài)都是非常返狀態(tài)。由于說明存在（i=1,2,3,4）,但與i有關(guān)，所以該鏈不是遍歷的。2/6/2023140五、狀態(tài)空間分解定義46設(shè)，若從V中任一狀態(tài)出發(fā)不能到達(dá)V外的任一狀態(tài)，則稱V為閉集。顯然，對一切和有

若中僅含有單個狀態(tài)，則此閉集稱為吸收態(tài)。它構(gòu)成了一個較小的閉集。而整個空間構(gòu)成一個較大的閉集。除了整個狀態(tài)空間外，沒有別的閉集的馬爾可夫鏈稱為不可約的馬爾可夫鏈。此時整個空間的所有狀態(tài)皆是相通的。閉集內(nèi)任一狀態(tài)，不論轉(zhuǎn)移多少步，都不能轉(zhuǎn)移到閉集之外的狀態(tài)上去，即隨著時間的推移，閉集內(nèi)任一狀態(tài)只能在閉集內(nèi)部的狀態(tài)之間轉(zhuǎn)移。定理10馬爾可夫鏈的所有常返狀態(tài)構(gòu)成的集合是一閉集。2/6/2023141定理11（分解定理）狀態(tài)空間E必可分解為

其中N是全體非常返態(tài)組成的集合，是互不相交的常返態(tài)閉集組成。而且（1）對每一確定的k,內(nèi)任意兩狀態(tài)相通；（2）與()中的狀態(tài)之間不相通；2/6/2023142例1-25設(shè)齊次馬氏鏈的狀態(tài)空間，其一步轉(zhuǎn)移概率矩陣為試對該空間進(jìn)行分解。2/6/2023143解：根據(jù)一步轉(zhuǎn)移概率矩陣，可畫出如圖所示的狀態(tài)轉(zhuǎn)移圖。由圖可知，，而當(dāng)時，，所以，可見狀態(tài)1為正常返，且周期。含有狀態(tài)1的常返閉集為同理，因為，，在時，，所以可見狀態(tài)6為正常返，且是非周期的。含有狀態(tài)6的常返閉集為狀態(tài)2，6為遍歷狀態(tài).由于，在時，，所以?？梢姞顟B(tài)4為非常返。故2/6/20231441.7泊松過程獨(dú)立增量過程設(shè)有一個隨機(jī)過程，如果對任意時刻，過程的增量、、是相互獨(dú)立的隨機(jī)變量，則稱為獨(dú)立增量過程，又稱為可加過程。泊松過程設(shè)隨機(jī)過程，，其狀態(tài)只取非負(fù)整數(shù)值，若滿足下列三個條件：（2）為均勻獨(dú)立增量過程；（1）（3）對任意時刻，，相應(yīng)的隨機(jī)變量的增量服從數(shù)學(xué)期望為的泊松分布，即對于k=0,1,2,….,有其中，則稱為泊松過程。2/6/2023145一、泊松過程的一般概念泊松過程滿足如下條件：（1）對于任意時刻，出現(xiàn)事件次數(shù)是相互獨(dú)立的；（2）對于充分小的，在內(nèi)出現(xiàn)時間一次的概率為

其中是在時關(guān)于的高階無窮小量；常數(shù)，稱為過程的強(qiáng)度；（3）對于充分小的，在內(nèi)出現(xiàn)事件兩次及兩次以上的概率為這就是說，一個隨機(jī)過程如果能滿足上述三個條件，則它為泊松過程。2/6/2023146圖1-14（a）給出了泊松過程的示意圖。由圖可見，泊松過程的每一個樣本函數(shù)都呈階梯形，它在每個隨機(jī)點(diǎn)的階躍（即：步長為“1”）。對于給定的，等于在時間間隔隨機(jī)點(diǎn)數(shù)。如果用計數(shù)器記錄各隨機(jī)時刻射出的電子數(shù)目，則在時刻，計數(shù)器的指示數(shù)即為。處產(chǎn)生單位為“1”內(nèi)的2/6/2023147圖1-14（a）泊松過程得示意圖；（b）泊松增量；（c）泊松沖激序列2/6/2023148二、泊松過程的