第三章幾種重要的隨機(jī)過程

1、 第三章第三章 幾種重要的隨機(jī)過程幾種重要的隨機(jī)過程 第一節(jié)第一節(jié) 獨(dú)立過程和獨(dú)立增量過程獨(dú)立過程和獨(dú)立增量過程 第二節(jié)第二節(jié) 正態(tài)過程正態(tài)過程 第三節(jié)第三節(jié) 維納過程維納過程 第四節(jié)第四節(jié) 泊松過程泊松過程 定義定義3.1.1 對任意的正整數(shù)對任意的正整數(shù) n 及任意的及任意的 , 21 Tttt n TttX ),( 為為獨(dú)立過程獨(dú)立過程. . 相互獨(dú)立相互獨(dú)立, ,稱隨機(jī)過程稱隨機(jī)過程 隨機(jī)變量隨機(jī)變量 )(,),(),( 21n tXtXtX 第一節(jié)第一節(jié) 獨(dú)立過程和獨(dú)立增量過程獨(dú)立過程和獨(dú)立增量過程 一、獨(dú)立過程一、獨(dú)立過程 獨(dú)立隨機(jī)過程的有限維分布由一維分布確定獨(dú)立隨機(jī)過程的有限維

2、分布由一維分布確定注注 n k kkknnn xtFxxttF 1 11 );(),;,( Ex.1 高斯白噪聲高斯白噪聲 實(shí)值時(shí)間序列實(shí)值時(shí)間序列 的的 NnnX ),( ,)(0,)( 2 n XDnXE 自相關(guān)函數(shù)為自相關(guān)函數(shù)為 2 0,; (, ) ,. mn R m n mn 稱稱 為為離散白噪聲離散白噪聲( (序列序列).). NnnX ),( 兩兩不相兩兩不相 關(guān)序列關(guān)序列. . 又若又若X(n)都服從正態(tài)分布都服從正態(tài)分布, ,稱稱 是是 高斯白噪聲高斯白噪聲序列序列. . NnnX ),( 對于對于n維正態(tài)隨機(jī)變量有維正態(tài)隨機(jī)變量有 相互獨(dú)立相互獨(dú)立 不相關(guān)不相關(guān) 故故高斯白

3、噪聲序列高斯白噪聲序列是獨(dú)立時(shí)間序列是獨(dú)立時(shí)間序列. . 若過程若過程 是正態(tài)過程是正態(tài)過程, ,且且 RttX ),( , 0)( tXE ts ts tstsR , 0, )(),( 2 高斯白噪聲高斯白噪聲是典型的是典型的隨機(jī)干擾數(shù)學(xué)模型隨機(jī)干擾數(shù)學(xué)模型, , 普遍存在于電流的波動普遍存在于電流的波動, ,通信設(shè)備各部分的通信設(shè)備各部分的 波動波動, ,電子發(fā)射的波動等各種波動現(xiàn)象中電子發(fā)射的波動等各種波動現(xiàn)象中. . 稱其為稱其為高斯白噪聲過程高斯白噪聲過程，它是獨(dú)立過程，它是獨(dú)立過程. . 如金融、電子工程中常用的線性模型如金融、電子工程中常用的線性模型 自回歸模型（自回歸模型（AR

4、(p)） tptptt XXX 11 理想模型要求殘差序列理想模型要求殘差序列t是是(高斯高斯)白噪聲白噪聲. 二、獨(dú)立增量過程二、獨(dú)立增量過程 定義定義3.1.2 稱稱 , T=0,)為為獨(dú)立增獨(dú)立增 量過程量過程, 若對若對 , 及及t0=0t1t20, X(t+h) X(s+h) 與與 X(t) X(s) 有相同的分布函數(shù)有相同的分布函數(shù), ,稱稱X(t),t0是是平穩(wěn)獨(dú)立平穩(wěn)獨(dú)立 增量增量過程過程. 0 tss+ht+h 增量增量 的分布僅與的分布僅與有關(guān)有關(guān), ,與起始與起始 點(diǎn)點(diǎn) t 無關(guān)無關(guān), ,稱稱X(t),t0的增量具有的增量具有平穩(wěn)性平穩(wěn)性( (齊性齊性).). )() (

5、tXtX 注注 Ex.2 若若X(n),nN+是獨(dú)立時(shí)間序列是獨(dú)立時(shí)間序列, ,令令 n k XkXnY 0 0)0(, )()( 則則Y(n), nN+是獨(dú)立增量過程是獨(dú)立增量過程. . 又若又若X(n), n=1,2, 相互獨(dú)立同分布相互獨(dú)立同分布, ,則則 Y(n), nN+ 是平穩(wěn)獨(dú)立增量過程是平穩(wěn)獨(dú)立增量過程. . 證證 若若n1n2nm 21 00 12 )()()()( n k n k kXkXnYnY )()1( 21 nXnX )()1()()( 3223 nXnXnYnY )()1()()( 11mmmm nXnXnYnY X(n),nN+ 相互獨(dú)立相互獨(dú)立各增量相互獨(dú)立各

6、增量相互獨(dú)立. 性質(zhì)性質(zhì)3.1.1 X(t),t0是平穩(wěn)獨(dú)立增量過程是平穩(wěn)獨(dú)立增量過程, X(0)=0, 則則 1）均值函數(shù)）均值函數(shù) m(t)= m t (m 為常數(shù)為常數(shù)); 2）方差函數(shù)）方差函數(shù) D( t )= 2t (為常數(shù)為常數(shù)); 3）協(xié)方差函數(shù)）協(xié)方差函數(shù) C(s, t)=2min(s,t). 分析分析 因均值函數(shù)和方差函數(shù)滿足因均值函數(shù)和方差函數(shù)滿足 , )()()(tmsmtsm )()()(tDsDtsD 命題命題：若：若 ),()()(tysytsy .(1)(tyty 可證得可證得1)和和2). 則對任意實(shí)數(shù)則對任意實(shí)數(shù) t, 有有 )()()()(),(smsXtm

7、tXEtsC 證證3) )()( )()(tmsmsXtXE )()( )( )()()(tmsmsXsXsXtXE X(t) X(s) 與與X(s)相互相互 獨(dú)立獨(dú)立. stmsXE sXEsXtXE 22 )( )()()( )()( 2222 ststmsmsmsstm 一般一般, C(s, t)=2min(s,t). 性質(zhì)性質(zhì)3.1.2 獨(dú)立增量過程的有限維分布由獨(dú)立增量過程的有限維分布由 一維分布和增量分布確定一維分布和增量分布確定. 分析分析 對于獨(dú)立增量過程對于獨(dú)立增量過程X(t ),t0,任取的任取的 t1 t2 tnT, Y1= X(t1), Y2 =X(t2)X(t1),

8、, Yn =X(tn)X(tn-1) 相互獨(dú)立性相互獨(dú)立性, 利用特征函數(shù)法可證明結(jié)論利用特征函數(shù)法可證明結(jié)論. 思考題：思考題： 1. 白噪聲過程是否一定是獨(dú)立過程？白噪聲過程是否一定是獨(dú)立過程？ 2. 獨(dú)立過程是否是獨(dú)立增量過程？反之？獨(dú)立過程是否是獨(dú)立增量過程？反之？ 1定義 為n維正態(tài)分布，其密度函數(shù)為 也稱高斯過程。 則稱 設(shè))(tX,Rt是一隨機(jī)過程， 對 任 意 正 整 數(shù) n 及Rttt n , 21 ， 隨機(jī)變量)( 1 tX,)( 2 tX,)( n tX的聯(lián)合分布函數(shù) ),( 2121nn xxxtttf； 1 /21/2 11 exp() C () (2 )|C|2 n

9、 xmxm 第二節(jié)第二節(jié) 正態(tài)過程正態(tài)過程 其中 n x x x x 2 1 )( )( )( 2 1 n tm tm tm m 11121 21222 12 C( , )C( , )C( , ) C( , )C( , )C( , ) C C( , )C( , )C( , ) n n nnnn t tt tt t t tt tt t t tt tt t 且 )()( ii tXEtm C( , ) ( )( ) ( )( ) ijiijj t tE X tm tX tm tC( , ) ji t t C為協(xié)方差矩陣，為協(xié)方差矩陣， 注由正態(tài)過程的n維概率密度表達(dá)式知，正態(tài)過程 的統(tǒng)計(jì)特性，由它

10、的均值函數(shù) 及自協(xié)方差 函數(shù) 完全確定。 )(tm 12 C( ,)t t Ex.3 證 可得 設(shè))(tX,Rt是一個(gè)獨(dú)立的正態(tài)過程， 若 21 tt ，)( 1 tX與)( 2 tX相互獨(dú)立， 121212 C( ,)( )( )( ) ( )t tE X t X tm t m t 0)()()()( 2121 tmtmtEXtEX 注注逆命題也成立。 一、維納過程的數(shù)學(xué)模型及應(yīng)用一、維納過程的數(shù)學(xué)模型及應(yīng)用 維納過程是英國植物學(xué)家羅伯特維納過程是英國植物學(xué)家羅伯特.布朗布朗 在觀察漂浮在液面的花粉運(yùn)動在觀察漂浮在液面的花粉運(yùn)動布朗運(yùn)布朗運(yùn) 動規(guī)律時(shí)建立的隨機(jī)游動數(shù)學(xué)模型動規(guī)律時(shí)建立的隨機(jī)游

11、動數(shù)學(xué)模型. 第三節(jié)第三節(jié) 維納過程維納過程 維納過程應(yīng)用廣泛：電路理論、通信維納過程應(yīng)用廣泛：電路理論、通信 和控制、生物、經(jīng)濟(jì)管理等和控制、生物、經(jīng)濟(jì)管理等. 維納過程的研究成果應(yīng)用于計(jì)量經(jīng)濟(jì)學(xué)，維納過程的研究成果應(yīng)用于計(jì)量經(jīng)濟(jì)學(xué)， 使其方法論產(chǎn)生了一次飛躍，成功地應(yīng)用使其方法論產(chǎn)生了一次飛躍，成功地應(yīng)用 于非平穩(wěn)的經(jīng)濟(jì)過程，如激烈變化的金融于非平穩(wěn)的經(jīng)濟(jì)過程，如激烈變化的金融 商品價(jià)格的研究。商品價(jià)格的研究。 二、定義 則稱或布朗運(yùn)動過程。 當(dāng)1時(shí)，稱為標(biāo)準(zhǔn)維納過程。特別 三、維納過程的分布三、維納過程的分布 1.一維分布一維分布： W( t ) N(0,2t)； 2. 增量分布增量分布

12、： W( t) W( s)N(0,2|ts|); 設(shè)設(shè)ts ，因因W(0)=0, 且且W( t )是平穩(wěn)獨(dú)立增量是平穩(wěn)獨(dú)立增量 過程，故過程，故 有相同分布有相同分布N(0,2(ts). )()()()(sWsstWsWtW )()0()(stWWstW 與與 3. 維納過程是維納過程是正態(tài)過程正態(tài)過程. 證證 設(shè)維納過程設(shè)維納過程 W( t ),t0的參數(shù)是的參數(shù)是2， , 21n tttn 及及任取任取 ),()( 1 kkk tWtWX ),(, 0( 1 2 kkk ttNX 則則 相互獨(dú)立，且有相互獨(dú)立，且有 nkt, 2 , 1, 0 0 kk XXXtW 21 )( )( )(

13、)( 2 1 n tW tW tW 11111 00111 00011 00001 n X X X 2 1 正態(tài)隨機(jī)正態(tài)隨機(jī) 向量的線向量的線 性變換服性變換服 從正態(tài)分從正態(tài)分 布布。 四、維納過程的數(shù)字特征四、維納過程的數(shù)字特征 1. EW(t)=0; DW(t)= 2t 2. C(s, t)=R(s,t)=2min(s,t) 維納過程是維納過程是 平穩(wěn)獨(dú)立增平穩(wěn)獨(dú)立增 量過程量過程 下證 C(s, )W(s)W( )tEt W(s)D 2s 同理 故 2 C(s, )min(s, )tt 3 對任意 n ttt, 21 ， 21 0tt n t 維納過程)(tX有 )()( 1 ii t

14、XtX)(, 0( 1 2 ii ttN，ni, 2 , 1 證由于增量 )()( 1 ii tXtX，ni, 2 , 1 是相互獨(dú)立的正態(tài)變量。 所以 )()( 1 ii tXtXE 0)()( 1 ii tXEtXE )()( 1 ii tXtXD)()( 2 1 ii tXtXE )()()(2)( 1 2 1 2 iiii tXtXtXtXE )()()(2)( 1 2 1 2 iiii tXEtXtXEtXE i t 2 1 2 2 i t 1 2 i t ii tt 1 )( 1 2 ii tt 4具有馬氏性 證 因此 所以 因)(tX是維納過程 增量)()(sXstX與時(shí)刻 s

15、以前的狀態(tài) )(X (s0)獨(dú)立， xsXastXP)(|)(，)(X，s0 xsXxasXstXP)(|)()(，)(X，s0 xsXxasXstXP)(|)()( xsXastXP)(|)( 所以維納過程是馬氏過程。 例4 試求 的協(xié)方差函數(shù)。 且 解 設(shè))(tW，0t是一個(gè)維納過程， 0)0(W)()(tWltW（0l常數(shù)） 12 C( , )t t)()( 11 tWltWE)()( 22 tWltW )()(tWltWE )()( 21 ltWtWE )()( 21 tWltWE )()( 21 tWtWE ),min( 21 2 ltlt),min( 21 2 ltt ),min(

16、 21 2 tlt ),min( 21 2 tt )(tm0 )()( 21 ltWltWE 當(dāng) 21 tt 時(shí)，可得 當(dāng) 21 tt ，可得 所以 一、計(jì)數(shù)過程與泊松過程一、計(jì)數(shù)過程與泊松過程 在天文，地理，物理，生物，通信，醫(yī)學(xué)，在天文，地理，物理，生物，通信，醫(yī)學(xué)， 計(jì)算機(jī)網(wǎng)絡(luò)，密碼學(xué)等許多領(lǐng)域，都有關(guān)于隨計(jì)算機(jī)網(wǎng)絡(luò)，密碼學(xué)等許多領(lǐng)域，都有關(guān)于隨 機(jī)事件流的機(jī)事件流的計(jì)數(shù)問題，計(jì)數(shù)問題，如：如： 蓋格記數(shù)器上的粒子流；蓋格記數(shù)器上的粒子流； 電話交換機(jī)上的呼喚流；電話交換機(jī)上的呼喚流； 計(jì)算機(jī)網(wǎng)絡(luò)上的（圖象，聲音）流；計(jì)算機(jī)網(wǎng)絡(luò)上的（圖象，聲音）流； 編碼（密碼）中的誤碼流；編碼（密碼）

17、中的誤碼流； 第四節(jié)第四節(jié) 泊泊 松過程松過程 交通中事故流；交通中事故流； 細(xì)胞中染色體的交換次數(shù)，細(xì)胞中染色體的交換次數(shù)， 均構(gòu)成以時(shí)間順序出現(xiàn)的事件流均構(gòu)成以時(shí)間順序出現(xiàn)的事件流 A1,A2, 定義定義3.4.1 隨機(jī)過程隨機(jī)過程N(yùn)(t), t0稱為稱為計(jì)數(shù)過計(jì)數(shù)過 程程(Counting Process),如果如果N(t)表示在表示在(0, t)內(nèi)內(nèi) 事件事件A 出現(xiàn)的總次數(shù)出現(xiàn)的總次數(shù). 計(jì)數(shù)過程應(yīng)滿足：計(jì)數(shù)過程應(yīng)滿足： (1) N( t )0; ; (2) N( t ) 取非負(fù)整數(shù)值；取非負(fù)整數(shù)值； (3) 如果如果s t，則，則N( s )N( t )； (4) 對于對于s 0；

18、 (4) PN(h)2=o(h). 稱稱N( t ),t0)是參數(shù)是參數(shù)( (或速率或速率, ,強(qiáng)度強(qiáng)度) )為為的的 齊次泊松過程齊次泊松過程. . EX.1 在數(shù)字通信中誤碼率在數(shù)字通信中誤碼率是重要指標(biāo)，是重要指標(biāo)， 設(shè)設(shè)N( t ), t0為時(shí)間段為時(shí)間段0, t)內(nèi)發(fā)生的誤碼次內(nèi)發(fā)生的誤碼次 數(shù)數(shù), N( t ), t0是計(jì)數(shù)是計(jì)數(shù)過程過程, 而且滿足而且滿足 (1) 初始時(shí)刻不出現(xiàn)誤碼是必然的初始時(shí)刻不出現(xiàn)誤碼是必然的, 故故N(0)=0; (2) 在互不相交的區(qū)間在互不相交的區(qū)間 nnn tttttttt 211211 0), ,),), 0 出現(xiàn)的誤碼數(shù)互不影響出現(xiàn)的誤碼數(shù)互不

19、影響, 故故N( t )獨(dú)立增量過程獨(dú)立增量過程. 在系統(tǒng)穩(wěn)定運(yùn)行的條件下在系統(tǒng)穩(wěn)定運(yùn)行的條件下, 在相同長度區(qū)間在相同長度區(qū)間 內(nèi)出現(xiàn)內(nèi)出現(xiàn)k個(gè)誤碼概率應(yīng)相同個(gè)誤碼概率應(yīng)相同, 故可認(rèn)為故可認(rèn)為N( t )是是 增量平穩(wěn)過程增量平穩(wěn)過程. N( t ), t0是平穩(wěn)獨(dú)立增量過程；是平穩(wěn)獨(dú)立增量過程； (3) 認(rèn)為認(rèn)為t時(shí)間內(nèi)出現(xiàn)一個(gè)誤碼的可能性時(shí)間內(nèi)出現(xiàn)一個(gè)誤碼的可能性 與區(qū)間長度成正比是合理的與區(qū)間長度成正比是合理的,即有即有 PN( t)=1= t +o( t), 0； (4) 假定對足夠小的假定對足夠小的t時(shí)間內(nèi)時(shí)間內(nèi),出現(xiàn)兩個(gè)以出現(xiàn)兩個(gè)以 上誤碼的概率是關(guān)于上誤碼的概率是關(guān)于t的高階

20、無窮小也是合的高階無窮小也是合 理的理的, 有有 PN( t)2=o( t). 定理定理3.4.1 齊次泊松過程齊次泊松過程N(yùn)( t ),t0在時(shí)間在時(shí)間 間隔間隔(t0, t0+t)內(nèi)事件出現(xiàn)內(nèi)事件出現(xiàn)n 次的概率為次的概率為 終上所述終上所述,可用可用Poisson過程數(shù)學(xué)模型描述通過程數(shù)學(xué)模型描述通 信系統(tǒng)中誤碼計(jì)數(shù)問題信系統(tǒng)中誤碼計(jì)數(shù)問題. . 可認(rèn)為可認(rèn)為 N( t ), t0是強(qiáng)度為是強(qiáng)度為的泊松計(jì)數(shù)的泊松計(jì)數(shù)過程過程. ), 2 , 1 , 0( , ! )( )()( 00 ne n t ntNttNP t n 定理證明反之亦然定理證明反之亦然, ,得泊松過程的等價(jià)定義：得泊松

21、過程的等價(jià)定義： 定義定義3.4.2 設(shè)計(jì)數(shù)過程設(shè)計(jì)數(shù)過程 N(t),t0 滿足下述條滿足下述條 件：件： (1) N(0)=0； (3) 對一切對一切0st , N(t) N(s) P(ts), ,即即 ), 2 , 1 , 0( , ! )( )()( )( k e k st ksNtNP st k (2) N(t)是獨(dú)立增量過程是獨(dú)立增量過程； 注注 有有 )0()()(kNtNPktNP ),2,1,0( , ! k e k t t k 問題問題 若若N(t)的一維分布是泊松分布的一維分布是泊松分布, 能否能否 推出第推出第(3)條成立條成立? EX.2 設(shè)設(shè)N( t ), t0是參數(shù)

22、為是參數(shù)為的泊松過程的泊松過程, 事件事件A在在(0,)時(shí)間區(qū)間內(nèi)出現(xiàn)時(shí)間區(qū)間內(nèi)出現(xiàn)n次，試求次，試求: : PN(s)=k N()=n, 0kn, 0s s 0 R(s,t)=EN(t)N(s)= EN(s)N(t) N(s)+ N(s) = EN(s)N(t) N(s)+E N2(s) =EN(s)EN(t) N(s)+E N2(s) stssssts 22 )()( tsststmsmtsRtsC 2 )()(),(),( C(s,t)=min(s,t) R(s,t)=min(s, t)+2st. 一般地有一般地有 ( ) 0 ( )( ) iuX tiun X n guE eeP X

23、tn 泊松過程的特征函數(shù)為泊松過程的特征函數(shù)為 1 iu X g (u)expt(e) 0 () ! n iunt n t e e n exp tiu ete 0 () ! iun t n te e n exp(1) iu t e 1) 令令Y(t)=N1(t) N2(t)，t0,求求Y(t)的均值函的均值函 數(shù)和相關(guān)函數(shù)數(shù)和相關(guān)函數(shù). 2) 證明證明 X(t)=N1(t) +N2(t), t 0, 是強(qiáng)度是強(qiáng)度 為為1+2的泊松過程的泊松過程. 3) 證明證明 Y(t)=N1(t) N2(t)，t 0,不是泊松不是泊松 過程過程. EX.3 設(shè)設(shè)N1(t)和和N2( t )分別分別是強(qiáng)度為是

24、強(qiáng)度為1和和2 的相互獨(dú)立的泊松過程的相互獨(dú)立的泊松過程, ,)()()()(1 2121 ttNEtNEtm Y ）解解 )()()()(),( 2121 tNtNsNsNEtsRY )()()()( )()()()( 1221 2211 tNsNEtNsNE tNsNEtNsNE )()( )()(),(),( 12 21 21 tNEsNE tNEsNEtsRtsR NN ststtsstts 21 2 22 2 11 2),min(),min( .2)(),min()( 21 2 2 2 121 ststts 2) 根據(jù)泊松分布的可加性知根據(jù)泊松分布的可加性知 X(t)=N1(t) +

25、N2(t), t0, 3) X(t)=N1(t) N2(t)的特征函數(shù)為的特征函數(shù)為 1212 ( )exp() iuiu X utetet 獨(dú)立和的獨(dú)立和的 特征函數(shù)特征函數(shù) 由分布函數(shù)與特征函數(shù)的一一對應(yīng)的惟一性由分布函數(shù)與特征函數(shù)的一一對應(yīng)的惟一性 定理知定理知X(t)不是泊松過程不是泊松過程. 服從參數(shù)為服從參數(shù)為1+2的泊松分布的泊松分布. 自證自證問題問題:如何證明如何證明? 2. 時(shí)間間隔與等待時(shí)間的分布時(shí)間間隔與等待時(shí)間的分布 t W1W2W3W4 N(t) 軌道是躍度為軌道是躍度為 1 的階梯函數(shù)的階梯函數(shù) 用用Tn表示事件表示事件A第第n1次出現(xiàn)與第次出現(xiàn)與第n次出現(xiàn)的次出現(xiàn)的 時(shí)間間隔時(shí)間間隔. . n i in TW 1 有有 1iii TWW 和 Wn為事件為事件A第第n 次出現(xiàn)的次出現(xiàn)的等待時(shí)間等待時(shí)間( (到達(dá)時(shí)間到達(dá)時(shí)間).). 定理定理3.4.2 設(shè)設(shè)Tn, n1是參數(shù)為是參數(shù)為的泊松過的泊松過 程程N(yùn)(t), t0 的時(shí)間間隔序列，的時(shí)間間隔序列， 則則Tn, n1