《隨機(jī)過程》全冊配套課件

《隨機(jī)過程》全冊配套課件隨機(jī)過程

Stochasticprocesses引言本課程的研究對象

概率論主要是以一個(gè)或有限個(gè)隨機(jī)變量為研究對象的.隨著科學(xué)技術(shù)的不斷發(fā)展,人們發(fā)現(xiàn)幾乎一切可觀察現(xiàn)象都具有隨機(jī)性.必須對一些隨機(jī)現(xiàn)象的變化過程進(jìn)行研究.即需要研究無窮多個(gè)隨機(jī)變量隨機(jī)過程是概率論的深入和發(fā)展.它是研究客觀世界中隨機(jī)演變過程的規(guī)律性的學(xué)科.隨機(jī)過程的理論與方法在自動控制、雷達(dá)與通信、生物工程、天文氣象、地質(zhì)能源、社會科學(xué)及工程技術(shù)、經(jīng)濟(jì)管理等許多領(lǐng)域有著極為廣泛的應(yīng)用。課程任務(wù)掌握隨機(jī)過程的基本概念.掌握隨機(jī)過程的基本理論和分析方法.具備處理隨機(jī)現(xiàn)象的思想與方法.具有應(yīng)用隨機(jī)過程的理論和方法來分析問題和解決問題的能力.基本內(nèi)容

隨機(jī)過程基本概念隨機(jī)分析平穩(wěn)過程馬爾科夫過程（鏈）

教材《隨機(jī)過程》張卓奎陳慧嬋西安電子科技大學(xué)出版社2003《隨機(jī)過程同步學(xué)習(xí)指導(dǎo)》張卓奎陳慧嬋西安電子科技大學(xué)出版社2004參考教材1.《隨機(jī)過程》毛用才胡奇英西安電子科技大學(xué)出版社1998

2.《隨機(jī)過程理論》

周蔭清電子工業(yè)出版社第二版20063.《Anintroductiontostochasticprocesses》EdwardP.C.kaoThomson2003BasicConceptsProbability

隨機(jī)試驗(yàn)

(RandomExperiment)結(jié)果事先不確定outcomeisunknown;可重復(fù)reproducible

樣本空間(SampleSpace):S所有可能結(jié)果的全體thesetofallpossibleoutcomes

事件(Events):E

樣本空間的某子集anysubsetofS概率(Probability):

P

在樣本空間S中，實(shí)值函數(shù)P滿足：;

；對于任何互斥事件，有則稱P為E的概率。概率的性質(zhì)：

(1)

;

(2)Monotonicity:若,(3)

(4)Subadditivity:布爾不等式：

(5)(6)Continuityforbelow:若單調(diào)遞增，則

(7)Continuityforabove:若單調(diào)遞減，則條件概率乘法公式全概率公式Bayes公式——與之間的關(guān)系Example:在多項(xiàng)選擇題考試中，學(xué)生要么知道答案，要么去猜答案。令學(xué)生知道答案的概率為p，不知道答案的概率為1-p，假設(shè)猜對答案的概率為1/m，其中m為選擇項(xiàng)數(shù)。問：學(xué)生答對問題時(shí)，他知道答案的概率為多少？解：令C,K分布為學(xué)生答對問題和確實(shí)知道答案的事件。相互獨(dú)立(Independent)獨(dú)立與互斥獨(dú)立的兩個(gè)事件不一定互斥，也即兩個(gè)事件獨(dú)立則可能交集不空互斥的兩個(gè)事件不一定獨(dú)立，也即交集為空的兩個(gè)事件不一定獨(dú)立隨機(jī)變量：樣本空間里的實(shí)值函數(shù)分布函數(shù)（distributionfunction）：描述隨機(jī)變量的分布

性質(zhì):(1)非減函數(shù)nondecreasingfunction；

(2)

(3)擴(kuò)展到n-維隨機(jī)變量(randomvariable)及其分布隨機(jī)變量離散型：概率密度函數(shù)分布函數(shù)連續(xù)型

概率密度函數(shù)擴(kuò)展到2維X,Y聯(lián)合分布函數(shù)X與Y的分布函數(shù)典型離散型隨機(jī)變量：BernouliRandomVariableBinomialRandomVariable n個(gè)獨(dú)立事件successfailExample已知一臺機(jī)器制造出來的產(chǎn)品，廢品率為0.1，并且產(chǎn)生廢品的事件是獨(dú)立的。問：三個(gè)產(chǎn)品中最多有一個(gè)為廢品的概率是多少？解：離散型隨機(jī)變量：GeometricRandomVariablePoissonRandomVariable當(dāng)二項(xiàng)隨機(jī)變量中參數(shù)n很大，p很小時(shí)，二項(xiàng)隨機(jī)變量可以近似看作是Poisson隨機(jī)變量。連續(xù)型隨機(jī)變量：典型連續(xù)型隨機(jī)變量：UniformRandomVariableExponentialRandomVariable

連續(xù)型隨機(jī)變量：GammaRandomVariable

Gamma函數(shù)

連續(xù)型隨機(jī)變量：NormalRandomVariable

隨機(jī)變量的數(shù)字特征1.期望(Expectation)定義

加權(quán)平均例：擲一個(gè)色子的期望E(X)練習(xí)：試求前面所講幾個(gè)典型隨機(jī)變量的期望離散型連續(xù)型定理：X是一隨機(jī)變量，F(xiàn)(x)為分布函數(shù)，y=g(x)是連續(xù)函數(shù)，若存在，則推論：如果a，b為常數(shù)，則

2.方差(Variable)3.協(xié)方差(Covariance)不相關(guān)：若Cov(X,Y)=0獨(dú)立隨機(jī)變量是不相關(guān)的，其逆不真。4.矩母函數(shù)

(MomentGeneratingFunction)ThemomentsofX性質(zhì)：X,Y是獨(dú)立變量小結(jié)

第一章隨機(jī)過程的基本概念●

隨機(jī)過程的定義及其有限維分布函數(shù)族●

隨機(jī)過程的數(shù)字特征●

幾類重要的隨機(jī)過程

重點(diǎn)隨機(jī)過程的定義、數(shù)字特征、正態(tài)過程、

Poisson過程．要求（1）準(zhǔn)確理解隨機(jī)過程的定義，熟悉研究隨機(jī)過程的方法．

(2)熟練求出樣本函數(shù)、有限維分布、數(shù)字特征、特征函數(shù)．難點(diǎn)有限維分布和Poisson過程．例1.

考察[0，t0]時(shí)間內(nèi)某網(wǎng)站收到的訪問次數(shù)Ｘ(t０),

則Ｘ(t０)是一個(gè)隨機(jī)變量．

如果要長時(shí)間內(nèi)該網(wǎng)站的訪問次數(shù),

則需要讓t變化起來,即t趨于無窮大,則

Ｘ(t)是一族隨機(jī)變量．

此時(shí)Ｘ(t)是與時(shí)間有關(guān)系的隨機(jī)變量，稱

{Ｘ(t),t∈［0,∞）}是隨機(jī)過程．§1

隨機(jī)過程的定義其中Ａω為常數(shù)，φ服從[0,2π]上的均勻分布.若要觀察任一時(shí)刻t的波形，則需要用一族隨機(jī)變量Ｘ(t)描述.

則稱｛Ｘ(t)，t∈[0

，+∞)｝為隨機(jī)過程．例２.

具有隨機(jī)初位相的簡諧波由于初位相的隨機(jī)性，在某時(shí)刻t＝t0，Ｘ(t0)是一個(gè)隨機(jī)變量．例３.生物群體的增長問題.以Ｘt表示在時(shí)刻t某種

生物群體的個(gè)數(shù),則對每一個(gè)固定的t,Ｘt是一

個(gè)隨機(jī)變量．

如果從t＝０開始每隔24小時(shí)對群體的個(gè)數(shù)觀察一次，則對每一個(gè)t，Ｘt是一族隨機(jī)變量．也記為Ｘn，n＝０，１，….則稱{Ｘt,t＝０,１,2,….}是隨機(jī)過程．例4.

在天氣預(yù)報(bào)中,以Xt表示某地區(qū)第t次統(tǒng)計(jì)所得到的最高氣溫,則Xt是一個(gè)隨機(jī)變量.為了預(yù)報(bào)該地區(qū)未來的氣溫,要讓t趨于無窮大,則可得到一族隨機(jī)變量:Xt,t=0,1,2,…，

稱{Ｘt，t＝０，１，2，….，}是隨機(jī)過程．以上4個(gè)例子的共同特點(diǎn)是:對某參數(shù)集中的任意一個(gè)參數(shù)t,就有一個(gè)隨機(jī)變量X(t)與之對應(yīng).隨機(jī)過程定義若對每一t∈T,均有定義在(Ω,F,P)上的一個(gè)

隨機(jī)變量X(ω,t),(ω∈Ω)與之對應(yīng),則稱X(ω,t)為(Ω,F,P)上的一個(gè)隨機(jī)過程(S.P.)記{X(ω,t),ω∈Ω,t∈T},

簡記{X(t),t∈T},或X(t).設(shè)(Ω,F,P)為一概率空間,T為一參數(shù)集,TR,

T稱為參數(shù)集或參數(shù)空間,t稱為參數(shù),一般表示時(shí)間或空間.

參數(shù)集通常有以下形式:⑴T={0,1,2,…}或T={…-2,-1,0,1,2,…}⑵T=[a,b],其中a可以為－∞,b可以為+∞.當(dāng)參數(shù)集為形式⑴時(shí),隨機(jī)過程X(t)也稱為隨機(jī)序列1.X(ω,t),實(shí)質(zhì)上為定義在T×Ω上的二元單值函數(shù).

2.對每一個(gè)固定的t,X(t)為一隨機(jī)變量，稱之為{X(t),t∈T}在t時(shí)刻的狀態(tài).該隨機(jī)變量所有可能取值的集合,稱為隨機(jī)過程的狀態(tài)空間.記為S.3.對每一個(gè)確定的ω0∈Ω,X(ω0,t)是定義在T上的普通函數(shù).記為x(ω0,t),稱為為隨機(jī)過程的一個(gè)樣本函數(shù).也稱軌道或?qū)崿F(xiàn).樣本函數(shù)的圖形稱為樣本曲線．說明:

設(shè){X(ω,t),ω∈Ω,t∈T}為一S.P.

tX(t)tt0狀態(tài)X(t0)=4狀態(tài)X(t0)=5樣本曲線x1(t)x1(t)x2(t)樣本曲線x2(t)狀態(tài)空間S={0,1,2,….},T=[0,+∞)例1的樣本曲線與狀態(tài)狀態(tài)空間S=[-A,A],參數(shù)集T=[-∞,+∞]tX(t)樣本曲線x1(t)樣本曲線x2(t)t0狀態(tài)X(t0)狀態(tài)X(t0)例2的樣本曲線與狀態(tài)t0狀態(tài)X(t0)=18狀態(tài)X(t0)=25樣本曲線x1(t)樣本曲線x2(t)例3的樣本曲線與狀態(tài)狀態(tài)X(t0)=40樣本曲線x3(t)X(t)t10203040506070024…狀態(tài)空間S={0,1,2,….},T=[0,24,……)4.根據(jù)參數(shù)集與狀態(tài)空間離散與否,隨機(jī)過程可分為●離散參數(shù),離散狀態(tài)的隨機(jī)過程(例3)●離散參數(shù),連續(xù)狀態(tài)的隨機(jī)過程(例4)●連續(xù)參數(shù),離散狀態(tài)的隨機(jī)過程(例1)

●連續(xù)參數(shù),連續(xù)狀態(tài)的隨機(jī)過程(例2)

參數(shù)集為離散的隨機(jī)過程也稱為隨機(jī)序列，或時(shí)間序列．§2隨機(jī)過程的有限維分布函數(shù)族設(shè){X(t),t∈T}是S.P.1.一維分布函數(shù)對任意t∈T,X(t)為一隨機(jī)變量.稱其分布函數(shù)

F

(t;x)=P(X(t)≤x),x∈R為隨機(jī)過程{X(t),t∈T}的一維分布函數(shù).2.二維分布函數(shù)對任意固定的t1,t2∈T,X(t1),X(t2)為兩個(gè)隨機(jī)變量.稱其聯(lián)合分布函數(shù)

F

(t1,t2;x1,x2)=P(X(t1)≤x1,X(t2)≤x2),

x1,x2∈R為隨機(jī)過程{X(t),t∈T}的二維分布函數(shù).

對任意固定的t1,t2,…,tn∈T,X(t1),X(t2),…,X(tn)為n個(gè)隨機(jī)變量.稱其聯(lián)合分布函數(shù)

F

(t1,t2,…,tn;x1,x2,…,xn)=P(X(t1)≤x1,X(t2)≤x2…X(tn)≤xn)x1x2,…,xn∈R為隨機(jī)過程{X(t),t∈T}的n維分布函數(shù).3.n維分布函數(shù)

稱隨機(jī)過程{X(t),t∈T}的一維分布函數(shù),二維分布函數(shù),…,n維分布函數(shù),…,的全體為隨機(jī)過程的有限維分布函數(shù)族.有限維分布函數(shù)族定義注:有限維分布函數(shù)族能夠描述隨機(jī)過程的統(tǒng)計(jì)特性.有限維分布函數(shù)族的性質(zhì)

對稱性相容性設(shè)m<n,則注:隨機(jī)過程的統(tǒng)計(jì)特性還可以用另一種工具描述,即隨機(jī)過程的有限維特征函數(shù)族(后面補(bǔ)充介紹)本節(jié)內(nèi)容舉例例1.設(shè)隨機(jī)過程X(t)=Vcosωt,t∈(-∞,+∞),其中ω為常數(shù),V服從[0,1]上的均勻分布.⑴確定{X(t),t∈(-∞,+∞)}的兩個(gè)樣本函數(shù).⑵求t=0,t=3π/4ω時(shí),隨機(jī)變量的概率密度函數(shù).⑶求t=π

∕2ω

時(shí)X(t)的分布函數(shù).

解(1)取V=1/2,1/3分別得到兩個(gè)樣本函數(shù)(2)(3)例2

設(shè)隨機(jī)過程X(t)=A+Bt,t≥0,其中A,B是相互獨(dú)立的隨機(jī)變量,且都服從標(biāo)準(zhǔn)正態(tài)分布N(0,1).求該隨機(jī)過程的一維和二維分布解對任意的t≥0,X(t)=A+Bt,有題意知X(t)是正態(tài)分布.又E[X(t)]=0,D[X(t)]=1+t2所以S.P.的一維分布為X(t)～N(0,1+t2)又對任意的t1≥0,t2≥0,X(t1)=A+Bt1～N(0,1+t12),X(t2)=A+Bt2～N(0,1+t22),

(定理正態(tài)變量的線性變換是正態(tài)變量)

page24定理1.5.3(3)由A,B獨(dú)立知,(A,B)服從二維正態(tài)分布所以(X(t1),X(t2))也服從二維正態(tài)分布所以協(xié)方差矩陣為而(X(t1),X(t2))的均值向量為μ=(0,0)所以該S.P.的二維分布為例3.其中A具有以下概率分布試求(1)該S.P.的一維分布函數(shù)(2)該S.P.的二維分布函數(shù)解作業(yè)1.利用重復(fù)擲硬幣的試驗(yàn)定義一個(gè)隨機(jī)過程

出現(xiàn)正面與反面的概率相等.⑴求X(t)的一維分布函數(shù)F(1/2;x),F(1;x).⑵求X(t)的二維分布函數(shù)F(1/2,1;x1,x2).§3

隨機(jī)過程的有限維特征函數(shù)族1.Stieltjes積分定義

設(shè)f(x),g(x)是定義在[a,b]上的兩個(gè)有界函數(shù),對[a,b]的任一劃分a=x0<x1<…<xn=b,記△=max{△xk}任取ξk∈[xk-1,xk],k=0,1,…,n.作和若極限存在,且與[a,b]的分法及ξk的取法無關(guān).則稱此極限為f(x)對函數(shù)g(x)在[a,b]上的Stieltjes積分.簡稱S積分.也稱f(x)對g(x)在[a,b]上S可積.記設(shè)f(x),g(x)是定義在(-∞,+∞)上的兩個(gè)函數(shù),若在任意有限區(qū)間[a,b]f(x)對

g(x)在[a,b]S可積,且存在則稱此極限為f(x)對g(x)在無窮區(qū)間(-∞,+∞)上的Stieltjes積分.記關(guān)于Stieltjes積分有如下性質(zhì)⑴當(dāng)g(x)為跳躍函數(shù),且在xi(i=1,2,…)具有躍度pi時(shí)有⑵當(dāng)g(x)存在導(dǎo)數(shù)g′(x)時(shí),有利用Stieltjes積分可以統(tǒng)一離散型r.v.與連續(xù)型r.v.(或隨機(jī)變量的函數(shù))的數(shù)學(xué)期望定義.如下

定義設(shè)隨機(jī)變量X的分布函數(shù)為F(x),若則X的期望為并有以下結(jié)論(1)設(shè)r.v.X的分布函數(shù)為F(x),y=g(x)是連續(xù)函數(shù),若則r.v.Y=g(X)的期望為(2)一般設(shè)r.v.(X1,…,Xn)的聯(lián)合分布函數(shù)為F(x1,x2,…,xn),g(x1,x2,…,xn)為連續(xù)函數(shù).若則r.v.Y=g(X1,X2,…,Xn)的數(shù)學(xué)期望存在.且定義設(shè)隨機(jī)變量X的分布函數(shù)F(x),則稱為隨機(jī)變量X的特征函數(shù).2.隨機(jī)變量的特征函數(shù)其中u為實(shí)參變量,為復(fù)隨機(jī)變量對任意實(shí)數(shù)u,有|ejux|=1.故E[ejux]總存在.(1)特征函數(shù)總是存在的.關(guān)于特征函數(shù)的幾點(diǎn)說明(2)特征函數(shù)的性質(zhì)(證明page17)?、ⅱＨ鬥=aX+b,a,b為常數(shù),則ⅳⅴ

若X與Y相互獨(dú)立,Z=X+Y,則

(可推廣到n個(gè)相互獨(dú)立隨機(jī)變量)是非負(fù)定的.ⅵ即對任意的n,任意復(fù)數(shù)Zk,任意實(shí)數(shù)uk(k=1,2,…,n),有ⅶ

設(shè)隨機(jī)變量X的n階原點(diǎn)矩(即E[Xk])存在,

則存在k(k≤n)階導(dǎo)數(shù),且有(3)一些重要分布的特征函數(shù)單點(diǎn)分布P(X=c)=1,c常數(shù).則二項(xiàng)分布k=0,1,…,n.0<p<1,q=1-p.則特征函數(shù)Poisson分布k=0,1,2,…,

λ>0則特征函數(shù)均勻分布r.v.X～U(a,b],密度函數(shù)為則特征函數(shù)正態(tài)分布r.v.X～N(μ,σ2),密度函數(shù)為則特征函數(shù)特別X～N(0,1)時(shí)指數(shù)分布r.v.X服從參數(shù)為λ(>0)的指數(shù)分布,概率密度為則特征函數(shù)(4)隨機(jī)變量的分布函數(shù)與其特征函數(shù)相互唯一確定.定義(多元特征函數(shù))設(shè)n維隨機(jī)變量X=(X1,X2,…,Xn)的聯(lián)合分布函數(shù)為F(x1,x2,…,xn),則稱為n維隨機(jī)變量X的特征函數(shù).也稱多元特征函數(shù)多元特征函數(shù)具有與一元特征函數(shù)類似的性質(zhì)

n維隨機(jī)變量的特征函數(shù)與其聯(lián)合分布函數(shù)是一一對應(yīng)的特征函數(shù)應(yīng)用舉例:定義(隨機(jī)過程的有限維特征函數(shù)族)設(shè){X(t),t∈T}是一個(gè)S.P.對于任意固定的t1,t2,…,tn

∈T,X(t1),X(t2),…,X(tn)是n個(gè)隨機(jī)變量,稱為S.P.{X(t),t∈T}的n維特征函數(shù).(ui∈R,i=1,2,…,n)為隨機(jī)過程的有限維特征函數(shù)族§4隨機(jī)過程的數(shù)字特征有限維分布函數(shù)族雖然能夠完整描述隨機(jī)過程的統(tǒng)計(jì)特征,但是在實(shí)際中很難得到.因此,如同隨機(jī)變量一樣,也用數(shù)字特征來表征隨機(jī)過程.即將隨機(jī)變量的數(shù)字特征推廣到隨機(jī)過程中.但要注意其區(qū)別:隨機(jī)過程的數(shù)字特征不再是確定的數(shù),而是確定的時(shí)間的函數(shù).1.均值函數(shù)對任意的t∈T,若E[X(t)]存在,則稱E[X(t)]為S.P.X(t)的均值函數(shù).記mX(t)

即

mX(t)=E[X(t)]t∈T設(shè){X(t)}是一S.P.2.方差函數(shù)設(shè){X(t)}是一S.P.對任意的t∈T,若D[X(t)]=E[X(t)-mX(t)]2存在,則稱D[X(t)]為S.P.X(t)的方差函數(shù).記DX(t).即

DX(t)=E[X(t)-mX(t)]2

t∈T3.協(xié)方差函數(shù)設(shè){X(t)}是一S.P.對任意的s,t∈T,若

Cov(X(s),X(t))=E[X(s)-mX(s)][X(t)-mX(t)]存在,則稱Cov(X(s),X(t))為S.P.X(t)的協(xié)方差函數(shù).記

CX(s,t).

即

CX(s,t)=E[X(s)-mX(s)][X(t)-mX(t)]

s,t∈T4.相關(guān)函數(shù)設(shè){X(t)}是一S.P.對任意的s,t∈T,若E[X(s)X(t)]存在,則稱E[X(s)X(t)]為S.P.X(t)的相關(guān)函數(shù).(自相關(guān)函數(shù))記RX(s,t).即

RX(s,t)=E[X(s)X(t)]s,t∈T顯然mX(t)=0時(shí),CX(s,t)=RX(s,t)5.均方值函數(shù)設(shè){X(t)}是一S.P.對任意的t∈T,若E[X(t)]2存在,則稱E[X(t)]2為S.P.X(t)的均方值函數(shù).記ΦX(t).即

ΦX(t)=E[X(t)]2

t∈T隨機(jī)過程的數(shù)字特征有如下關(guān)系CX(s,t)=RX(s,t)-mX(s)mX(t)s,t∈T

DX(t)=CX(t,t)t∈TΦX(t)=RX(t,t)t∈T所以最關(guān)鍵的數(shù)字特征是均值函數(shù)與相關(guān)函數(shù)本節(jié)內(nèi)容舉例設(shè)S.P.X(t)=acos(ωt+Θ).a,ω常數(shù),Θ~U[0,2π]

求該過程的均值函數(shù),相關(guān)函數(shù),方差函數(shù).

解2.

設(shè)S.P.X(t)=Acosωt+Bsinωtt≥0,ω為常數(shù).A,B相互獨(dú)立,同服從正態(tài)分布N(0,σ2)

求該過程的均值函數(shù)和相互函數(shù).解§5

兩個(gè)隨機(jī)過程的聯(lián)合分布和數(shù)字特征在實(shí)際問題中,有時(shí)需要同時(shí)考慮兩個(gè)或者兩個(gè)以上的隨機(jī)過程.例如:一個(gè)線性系統(tǒng)的輸入信號和輸入噪聲兩者可能同為隨機(jī)過程.同時(shí)考慮一個(gè)線性系統(tǒng)的隨機(jī)輸入和隨機(jī)輸出的關(guān)系等.定義

設(shè){X(t),t∈T}和{Y(t),t∈T}是兩個(gè)隨機(jī)過程.則稱

{X(t),Y(t),t∈T}是二維隨機(jī)過程.二維過程的概率分布與數(shù)字特征有以下定義定義

設(shè){X(t),Y(t),t∈T}是二維隨機(jī)過程.定義設(shè){X(t),Y(t),t∈T}是二維S.P.則對任意s,t∈T,X(s)

Y(t)是兩個(gè)隨機(jī)變量.(1)

若E[X(s)Y(t)]存在,則稱

E[X(s)Y(t)]=RX,Y(s,t)

為該二維S.P.的互相關(guān)函數(shù)(2)

若cov(X(s),Y(t))=E[(X(s)-mX(s))(Y(t)-mY(t))存在,則稱

cov(X(s),Y(t))=CXY(s,t)

為該二維S.P.的互協(xié)方差函數(shù)顯然有CXY(s,t)=RXY(s,t)-mX(s)mY(t)

定義設(shè){X(t),t∈T},{Y(t),t∈T}是二個(gè)

S.P.若

CXY(s,t)=0

或RX,Y(s,t)=mX(s)mY(t)s,t∈T,則稱S.P.{X(t),t∈T}與S.P.{Y(t),t∈T}不相關(guān).結(jié)論若S.P.{X(t),t∈T}和S.P.{Y(t),t∈T}相互獨(dú)立,

則{X(t),t∈T}和{Y(t),t∈T}不相關(guān)§6.復(fù)隨機(jī)過程及其數(shù)字特征定義

設(shè){X(t),t∈T}和{Y(t),t∈T}是定義在同一概率空間(Ω,F,P)上的兩個(gè)

實(shí)隨機(jī)過程.令

Z(t)=X(t)+jY(t)t∈T

則稱{Z(t),t∈T}是復(fù)隨機(jī)過程.定義設(shè){Z(t),t∈T}是復(fù)S.P.對任意t∈T,

稱mZ(t)=E[Z(t)]

為復(fù)S.P.的均值函數(shù)

稱DZ(t)=D[Z(t)]=E|Z(t)-mZ(t)|2

為復(fù)S.P.的方差函數(shù)

稱ΦZ(t)=E|Z(t)|2

為復(fù)S.P.的均方值函數(shù).

對任意的s,t∈T,稱RZ(s,t)=E[Z(s)Z(t)]

為復(fù)S.P.的相關(guān)函數(shù).

稱CX(s,t)=cov(Z(s),Z(t)]=E[(Z(s)-mz(s))(Z(t)-mz(t))]

為復(fù)S.P.的協(xié)方差函數(shù).由以上定義可得(1)mZ(t)=mX(t)+jmY(t)t∈T(2)DZ(t)=DX(t)+DY(t)t∈T(3)CX(s,t)=RZ(s,t)-mZ(s)mZ(t)s,t∈T反映兩個(gè)復(fù)隨機(jī)過程之間相關(guān)程度的數(shù)字特征(1)互協(xié)方差函數(shù)

設(shè){Z1(t),t∈T},{Z2(t),t∈T}是兩個(gè)復(fù)S.P.(2)互相關(guān)函數(shù)舉例設(shè)其中ω0為正常數(shù),n為固定正整數(shù),是相互獨(dú)立的實(shí)隨機(jī)變量,且Φk～U[0,2π],求S.P.{Z(t),t∈R}的均值函數(shù)和相關(guān)函數(shù).k=1,2,…,n.§7幾類重要的隨機(jī)過程之前按照參數(shù)和狀態(tài)對隨機(jī)過程進(jìn)行了簡單的分類.隨機(jī)過程可以按照不同的標(biāo)準(zhǔn)進(jìn)行分類.本講按照隨機(jī)過程所具有的一些性質(zhì),介紹幾類重要的隨機(jī)過程:◆

二階矩過程◆正態(tài)過程◆正交增量過程◆獨(dú)立增量過程◆

Wiener過程◆Poisson過程1.二階矩過程定義

若S.P.{X(t),t∈T}的一、二階矩存在，則稱Ｓ.Ｐ.{X(t),t∈T}是二階矩過程．注二階矩過程的均值函數(shù)與相關(guān)函數(shù)一定存在可利用均值函數(shù)和相關(guān)函數(shù)討論二階矩陣過程的性質(zhì).(下章內(nèi)容)二階矩過程的相關(guān)函數(shù)具有以下性質(zhì)

定理設(shè){X(t),t∈T}是二階矩過程,則相關(guān)函數(shù)RX(s,t)有(1)共軛對稱性

RX(s,t)=RX(t,s)

(2)非負(fù)定性對任意t1,t2,…,tn∈T,任意復(fù)數(shù)

λ1,λ2,…,λn有證明(1)RX(s,t)=E[X(s)X(t)]=E[X(s)X(t)]=RX(t,s)(2)

2.正態(tài)過程補(bǔ)充:n維正態(tài)隨機(jī)變量分布及性質(zhì)

正態(tài)過程定義設(shè){X(t),t∈T}是S.P.,若對任意的n≥1

及t1,t2,…,tn∈T,{X(t1),X(t2),…,X(tn),}是n維正態(tài)隨機(jī)變量,

則稱S.P.{X(t),t∈T}為正態(tài)過程或高斯過程注意

若{X(t),t∈T}是一族正態(tài)隨機(jī)變量,

但{X(t),t∈T}不一定是正態(tài)過程.

(2)正態(tài)過程的有限維分布由其均值函數(shù)與相關(guān)函數(shù)完全確定.(3)正態(tài)過程是二階矩過程.舉例獨(dú)立的r.v.，且都服從正態(tài)分布N(0,σ2),ω是常數(shù)．設(shè)S.P.試證明該過程是正態(tài)過程，并求它的有限維分布．,其中A,B為相互3.正交增量過程定義設(shè){X(t),t∈T}是二階矩過程，若對任意的

t1<t2

≤

t3<

t4∈T

都有則稱S.P.{X(t),t∈T}是一正交增量過程.注:這里<X,Y>=E[XY]可視為內(nèi)積

若T取為有限區(qū)間[a,b],對

特別的，當(dāng)X(a)=0時(shí)，有

定理設(shè){X(t),t∈[a,b]}是正交增量過程,

且X(a)=0,則(2)ΦX(t)是單調(diào)不減函數(shù)(1)4獨(dú)立增量過程設(shè){X(t),t∈T}是一是S.P.如果對是相互獨(dú)立的隨機(jī)變量，則稱{X(t),t∈T}是獨(dú)立增量過程．以及有如果對于任意s<t∈T,X(t)-X(s)的分布僅依賴于t-s，而與s,t本身取值無關(guān)，則稱{X(t),t∈T}為平穩(wěn)增量過程．如果S.P.{X(t),t∈T}既是平穩(wěn)增量過程，又是獨(dú)立增量過程，則稱{X(t),t∈T}

為平穩(wěn)的獨(dú)立增量過程．定理

獨(dú)立增量過程的有限維分布函數(shù)由其一維分布函數(shù)和增量分布函數(shù)確定．

證明思路

由于隨機(jī)變量的分布函數(shù)與特征函數(shù)一一對應(yīng).

只需證獨(dú)立增量過程的有限維特征函數(shù)由其一維特征函數(shù)和增量特征函數(shù)確定．證明n維隨機(jī)變量的的特征函數(shù)為令則①代入①式由題意知Y1,Y2,…,Yn獨(dú)立由Y1Y2,…,Yn的獨(dú)立性證畢５Wiener過程(布朗運(yùn)動)稱實(shí)S.P.{W(t),t≥0}是參數(shù)為σ2的Wiener過程,如果是平穩(wěn)的獨(dú)立增量過程．補(bǔ)充說明：布朗運(yùn)動描述浸沒（或懸?。┰谝后w或者氣體中微小顆粒的運(yùn)動，該現(xiàn)象由英國植物學(xué)家RobertBrown首次發(fā)現(xiàn)；Dr.Einstein與1905年做出解釋：微粒運(yùn)動是由大量分子的連續(xù)碰撞造成的；自1918年開始，Dr.Wiener發(fā)表一系列論文對布朗運(yùn)動進(jìn)行數(shù)學(xué)描述；布朗運(yùn)動是量子力學(xué)、概率統(tǒng)計(jì)、金融證券等研究中最重要的隨機(jī)過程：例如：上證綜合指數(shù)受到每筆成交的撞擊而上下波動，在短時(shí)間內(nèi)不考慮消息面的影響時(shí)，可用布朗運(yùn)動進(jìn)行近似描述Wiener過程示意圖：1.微粒受空氣分子碰撞引起的布朗運(yùn)動：2.五個(gè)微粒受空氣分子碰撞引起的布朗運(yùn)動：定理設(shè)

{W(t),t≥0}是參數(shù)為σ2的Wiener過程.則證明(1)

由定義,顯然成立.(2)由(1)易知有對s≥0,t≥0,不妨設(shè)s≤t,則獨(dú)立性定理Wiener過程是正態(tài)過程．證明設(shè){W(t),t≥0}是參數(shù)為σ2的Wiener過程.

則對任意的n≥1,以及任意的{W(t1),W(t2),…,W(tn)}是n維隨機(jī)變量由Wiener過程的定義知相互獨(dú)立所以是n維正態(tài)隨機(jī)變量.又由于所以是n維正態(tài)變量.所以{W(t),t≥0}是正態(tài)過程.作業(yè)2.1設(shè)X(t)=Asin(ωt+Φ),Y(t)=Bsin(ωt+Φ+ψ),t∈R,其中A,B,ω,ψ為實(shí)常數(shù)，Φ服從U[0,2π],求RXY(s,t)作業(yè)2.2設(shè){W(t),t≥0}是參數(shù)為σ2的Wiener過程，求下列過程的協(xié)方差函數(shù)：{W(t)+At,t≥0},其中A為常數(shù)；{W(t)+Xt,t≥0},其中X服從N(0,1),且與{W(t)，t≥0}相互獨(dú)立下周上課前提交電子版至郵箱:gaosc@６Poisson過程計(jì)數(shù)過程

稱實(shí)隨機(jī)過程{N(t),t≥0}是計(jì)數(shù)過程，如果N(t)表示直到t時(shí)刻為止發(fā)生的某隨機(jī)事件數(shù)．性質(zhì)①②N(t)是非負(fù)整數(shù)③④表示時(shí)間間隔t-s內(nèi)發(fā)生的隨機(jī)事件數(shù)．實(shí)例1.電話交換臺的呼叫次數(shù)2.放射性裂變的質(zhì)點(diǎn)數(shù)3.發(fā)生故障而不能工作的機(jī)器數(shù)4.通過交通路口的車輛數(shù)5.來到某服務(wù)窗口的顧客數(shù)………..以上實(shí)例中的呼叫,質(zhì)點(diǎn),機(jī)器,車輛,顧客等也統(tǒng)一叫做隨機(jī)點(diǎn)Poisson過程定義若計(jì)數(shù)過程{N(t),t≥0}

滿足是平穩(wěn)的獨(dú)立增量過程服從參數(shù)是λt

的Poisson分布,即則稱計(jì)數(shù)過程{N(t),t≥0}是參數(shù)(強(qiáng)度,比率)為λ

的Poisson過程.定理設(shè){N(t),t≥0}

是參數(shù)為λ

的Poisson

過程，則證明1)由定義,顯然有又對s≥0,t≥0,不妨設(shè)s≤t,則有是獨(dú)立增量平穩(wěn)性由定義Poisson過程的等價(jià)定義稱計(jì)數(shù)過程{N(t),t≥0}是參數(shù)為λ的Poisson過程，如果：等價(jià)性證明見教材56①②③④Poisson過程的到達(dá)時(shí)間與到達(dá)時(shí)間間隔分布設(shè){N(t),t≥0}是參數(shù)為λ

的Poisson過程，則N(t)表示時(shí)間區(qū)間[0,t)內(nèi)到達(dá)的隨機(jī)點(diǎn)數(shù).到達(dá)時(shí)間(序列)表示第i個(gè)隨機(jī)點(diǎn)的到達(dá)時(shí)刻,則稱為Poisson過程的到達(dá)時(shí)間序列.到達(dá)時(shí)間間隔(序列)它表示第n-1個(gè)隨機(jī)點(diǎn)與第n個(gè)隨機(jī)點(diǎn)的到達(dá)時(shí)間間隔,則稱為Poisson過程的到達(dá)時(shí)間間隔(序列)顯然有關(guān)于Poisson過程中的這兩個(gè)序列的概率分布,有以下結(jié)論定理

(到達(dá)時(shí)間間隔分布)設(shè){N(t),t≥0}

是參數(shù)為λ

的Poisson過程，是其到達(dá)時(shí)間間隔序列，則是相互獨(dú)立同服從參數(shù)為λ的指數(shù)分布．證明獨(dú)立性由于poisson過程是平穩(wěn)的獨(dú)立增量過程所以相互獨(dú)立.下證同分布T1,T2的獨(dú)立性平穩(wěn)性T1,T2…Tn的獨(dú)立性平穩(wěn)性得證定理(到達(dá)時(shí)間序列分布)設(shè){N(t),t≥0}是參數(shù)為λ的Poisson過程,則其到達(dá)時(shí)間服從Γ分布,密度為證明的分布函數(shù)第n個(gè)隨機(jī)點(diǎn)的到達(dá)時(shí)刻再求導(dǎo)數(shù)所以到達(dá)時(shí)間序列的密度函數(shù)為本題目還可以用特征函數(shù)證明,見教材Poisson過程中到達(dá)時(shí)間的條件分布問題:

設(shè){N(t),t≥0}是參數(shù)為λ

的Poisson過程，如果在[0，t)內(nèi)僅有一個(gè)隨機(jī)點(diǎn)到達(dá),τ是其到達(dá)時(shí)間,則該隨機(jī)點(diǎn)的到達(dá)時(shí)間τ服從怎樣的概率分布?如果在[0，t)內(nèi)僅有一個(gè)隨機(jī)點(diǎn)到達(dá)，則該隨機(jī)點(diǎn)的到達(dá)時(shí)間τ服從[0,t]上的均勻分布.即事實(shí)上,s<t時(shí),有更一般有以下問題設(shè){N(t),t≥0}

是參數(shù)為λ

的Poisson過程,如果在[0,t)內(nèi)有n個(gè)隨機(jī)點(diǎn)到達(dá)，則n個(gè)到達(dá)時(shí)間服從怎樣的概率分布??定理

設(shè){N(t),t≥0}

是參數(shù)為λ

的Poisson過程,如果在[0,t)內(nèi)有n個(gè)隨機(jī)點(diǎn)到達(dá)，則n個(gè)到達(dá)時(shí)間和n個(gè)相互獨(dú)立同服從[0,t]上的均勻分布的隨機(jī)變量U1,U2,…,Un的順序統(tǒng)計(jì)量即證明例假設(shè)乘客按照參數(shù)為λ的Poisson過程來到一個(gè)火車站乘坐某次火車，若火車在時(shí)刻t啟動，試求在[0,t]內(nèi)到達(dá)火車站的乘客等待時(shí)間總和的數(shù)學(xué)期望．7.復(fù)合poisson過程定義設(shè){N(t),t≥0}是參數(shù)為λ

的Poisson過程,{Yk.k=1,2,…}是一列獨(dú)立同分布的隨機(jī)變量,且與{N(t),t≥0}獨(dú)立稱{X(t),t≥0}為復(fù)合Poisson過程.若將N(t)表示[0,t)內(nèi)的隨機(jī)點(diǎn)數(shù),Yk表示第k個(gè)隨機(jī)點(diǎn)所攜帶的某種(能)量,則總量為即{X(t),t≥0}為復(fù)合Poisson過程定理設(shè){X(t),t≥0}為復(fù)合Poisson過程.則⑴{X(t),t≥0}的一維特征函數(shù)為其中f(u)是Yn(n=1,2,…)的特征函數(shù)⑵若證明⑴由特征函數(shù)的定義可得X(t)的特征函數(shù)為Yn與N(t)獨(dú)立Yn獨(dú)立同分布⑵由于特征函數(shù)與矩有關(guān)系則對X(t)的特征函數(shù)求導(dǎo)數(shù)所以所以例1

設(shè)移民到某地區(qū)定居的戶數(shù)是一Poisson過程，平均每周有2戶定居，即λ=2.如果每戶的人口數(shù)是隨機(jī)變量一戶4人的概率為1/6，一戶3人的概率為1/3，一戶2人的概率為1/3，一戶1人的概率為1/6，且每戶的人口數(shù)是相互獨(dú)立的，求在五周內(nèi)移民到該地區(qū)的人口數(shù)的數(shù)學(xué)期望和方差．和中出現(xiàn)第ｋ次事件設(shè)是兩個(gè)相互獨(dú)立的Poisson過程，它們在單位時(shí)間內(nèi)發(fā)生事件的平均數(shù)分別為λ1和λ２.設(shè)代表第一過程中出現(xiàn)第ｋ次事件所需的時(shí)間，代表第二過程所需的時(shí)間．試求：(1)第一過程中出現(xiàn)第一次事件先于第二過程出現(xiàn)第一次事件的概率，即(2)作業(yè)1解題思路:考慮兩個(gè)隨機(jī)變量的聯(lián)合密度函數(shù),再計(jì)算有關(guān)的概率某中子計(jì)數(shù)器對到達(dá)計(jì)數(shù)器的粒子只是每隔一個(gè)記錄一次，假設(shè)粒子是按照比率4個(gè)每分鐘的Poisson過程到達(dá)，令T是兩個(gè)相繼被記錄粒子之間的時(shí)間間隔（單位：分鐘）試求：1）T的概率密度；

2）作業(yè)2解題思路:由poisson過程是平穩(wěn)的獨(dú)立增量過程.可知相繼被記錄的時(shí)間間隔是獨(dú)立同分布的.

設(shè)有兩個(gè)相互獨(dú)立的、強(qiáng)度分別為和的Poisson過程和，試證在過程中兩個(gè)相鄰事件間，過程出現(xiàn)k個(gè)事件的概率為作業(yè)3證明思路:平穩(wěn)過程主要內(nèi)容嚴(yán)平穩(wěn)過程與寬平穩(wěn)過程的定義平穩(wěn)過程相關(guān)函數(shù)的性質(zhì)平穩(wěn)過程的各態(tài)歷經(jīng)性平穩(wěn)過程的譜分析平穩(wěn)過程是一類統(tǒng)計(jì)特性不隨時(shí)間而發(fā)生改變的隨機(jī)過程.平穩(wěn)過程在實(shí)際中有廣泛的應(yīng)用,在通訊,雷達(dá)等隨機(jī)信號處理中有重要的作用.研究對象更為特殊的二階矩過程—寬平穩(wěn)過程§1平穩(wěn)過程的定義定義(嚴(yán)平穩(wěn)過程)設(shè)X={X(t),t∈T}是隨機(jī)過程,如果對任意的n≥1,則稱X={X(t),t∈T}是嚴(yán)平穩(wěn)過程.說明1.嚴(yán)平穩(wěn)過程的有限維分布不隨時(shí)間的推移而改變易知

其一維分布函數(shù)與時(shí)間t無關(guān).

其二維分布函數(shù)與僅與時(shí)間間隔有關(guān).2.若二階矩存在的過程是嚴(yán)平穩(wěn)過程,則其均值函數(shù)是常數(shù),相關(guān)函數(shù)是時(shí)間間隔的函數(shù).3.通常用定義判斷一個(gè)過程的嚴(yán)平穩(wěn)性是困難的.在實(shí)際中,若產(chǎn)生隨機(jī)過程的主要物理?xiàng)l件在時(shí)間進(jìn)程中不變,則過程可看作是嚴(yán)平穩(wěn)的.例如工作在穩(wěn)定狀態(tài)下的接收機(jī),其輸出噪聲可認(rèn)為是嚴(yán)平穩(wěn)的.此時(shí)若要測量噪聲的統(tǒng)計(jì)特性,則在任何時(shí)候測量都可得到相同結(jié)果.4.嚴(yán)平穩(wěn)過程也叫狹義平穩(wěn)過程或強(qiáng)平穩(wěn)過程.由于隨機(jī)過程有限維分布有時(shí)候無法確定,以下給出在理論與應(yīng)用上更重要的另一種平穩(wěn)過程概念.定義(寬平穩(wěn)過程)設(shè)X={X(t),t∈T}是二階矩過程,如果則稱X={X(t),t∈T}為寬平穩(wěn)過程,簡稱平穩(wěn)過程.寬平穩(wěn)過程也叫廣義平穩(wěn)過程或弱平穩(wěn)過程.以后說到平穩(wěn)過程指寬平穩(wěn)過程===1.

嚴(yán)平穩(wěn)過程不一定是寬平穩(wěn)過程.2.

寬平穩(wěn)過程也不一定是嚴(yán)平穩(wěn)過程.注意一般情況下但對二階矩過程嚴(yán)平穩(wěn)過程一定是寬平穩(wěn)過程.

但對正態(tài)過程寬平穩(wěn)性與嚴(yán)平穩(wěn)性是等價(jià)的.定理若{X(t),t∈T}是正態(tài)過程,

則{X(t),t∈T}是嚴(yán)平穩(wěn)過程的充要條件是{X(t),t∈T}是寬平穩(wěn)過程.預(yù)備知識證明(充分性)設(shè){X(t),t∈T}是寬平穩(wěn)過程.{X(t),t∈T}的有限維特征函數(shù)即特征函數(shù)不隨時(shí)間的推移而改變.所以{X(t),t∈T}是嚴(yán)平穩(wěn)過程必要性顯然.例1

設(shè)S(t)是周期為T的可積函數(shù).令X(t)=S(t+Θ)

t∈(-∞,+∞),Θ～U[0,T].稱{X(t),-∞<t<+∞}

為隨機(jī)相位周期過程,試討論它的平穩(wěn)性.它是平穩(wěn)過程例2

設(shè){Xn,n=1,2,…}是隨機(jī)變量序列.例3設(shè){X(t),t≥0}是只取±1兩個(gè)值的隨機(jī)過程,其符號的改變次數(shù)是一參數(shù)為λ的Poisson過程{N(t),t≥0},且對任意的t≥0,P(X(t)=－1)=P(X(t)=1)=1/2.試討論{X(t),t≥0}的平穩(wěn)性.例4

設(shè){Y(t),t≥0}是正態(tài)過程.且例:設(shè)是參數(shù)為的Wiener過程，令其中為常數(shù)，試證明：是嚴(yán)平穩(wěn)過程.

因此，是寬平穩(wěn)過程.

所以為n維正態(tài)隨機(jī)變量，因此是正態(tài)過程.所以是嚴(yán)平穩(wěn)過程.§2平穩(wěn)過程相關(guān)函數(shù)的性質(zhì)

一般用數(shù)字特征描述隨機(jī)過程比用分布函數(shù)相對簡便.

對于平穩(wěn)過程,描述其統(tǒng)計(jì)特性的數(shù)字特征是相關(guān)函數(shù).1.(自)相關(guān)函數(shù)的性質(zhì)定理設(shè){X(t),t∈T}是平穩(wěn)過程,則其相關(guān)函數(shù)有性質(zhì):證明

(1)若{X(t),t∈T}是周期平穩(wěn)過程,即則其相關(guān)函數(shù)也是周期函數(shù),且周期相同也為T0.特別2.聯(lián)合平穩(wěn)的平穩(wěn)過程及其互相關(guān)函數(shù)的性質(zhì)定義設(shè){X(t),t∈T},{Y(t),t∈T}是兩個(gè)平穩(wěn)過程.若對任意的s,t∈T,有則稱{X(t),t∈T},{Y(t),t∈T}為聯(lián)合平穩(wěn)的平穩(wěn)過程.此時(shí)若令Z(t)=X(t)+Y(t),問Z(t)是否為平穩(wěn)過程?定理設(shè){X(t),t∈T},{Y(t),t∈T}為聯(lián)合平穩(wěn)的平穩(wěn)過程.則其互相關(guān)函數(shù)RXY(s,t)具有如下性質(zhì)(1)(2)(3)證明(1)證明(2)證明(3)推論(2)

設(shè){X(t),t∈T},{Y(t),t∈T}為實(shí)聯(lián)合平穩(wěn)的平穩(wěn)過程.則其互相關(guān)函數(shù)RXY(s,t)滿足(1)

設(shè){X(t),t∈T},{Y(t),t∈T}為聯(lián)合平穩(wěn)的平穩(wěn)過程.則其互協(xié)方差函數(shù)CXY(s,t)也滿足第五章馬爾可夫過程馬爾可夫過程是前蘇聯(lián)數(shù)學(xué)家A.A.Markov首先提出和研究的一類隨機(jī)過程.經(jīng)過世界各國幾代數(shù)學(xué)家的相繼努力,至今已成為內(nèi)容十分豐富,理論上相當(dāng)完整,應(yīng)用也十分廣泛的一門數(shù)學(xué)分支.它的應(yīng)用領(lǐng)域涉及計(jì)算機(jī)、通訊、自動控制、隨機(jī)服務(wù)、可靠性、生物、經(jīng)濟(jì)、管理、氣象、物理、化學(xué)等.馬爾可夫

(1856年6月14日——1922年7月20日）馬爾可夫?qū)?shù)學(xué)的最大貢獻(xiàn)是在概率論領(lǐng)域作出的．十九世紀(jì)后二十年，他主要是沿著切比雪夫開創(chuàng)的方向，致力于獨(dú)立隨機(jī)變量和古典極值理論的研究，從而改進(jìn)和完善了大數(shù)定律和中心極限定理．二十世紀(jì)初，他的興趣轉(zhuǎn)移到相依隨機(jī)變量序列的研究上來，從而創(chuàng)立了以他命名的著名概率模型——馬爾可夫鏈．王梓坤院士(1929年—)江西吉安人,1952年大學(xué)畢業(yè)后，被分派到天津南開大學(xué)數(shù)學(xué)系任教,曾任北京師范大學(xué)校長,是一位對我國科學(xué)和教育事業(yè)作出卓越貢獻(xiàn)的數(shù)學(xué)家和教育家，也是我國概率論研究的先驅(qū)和學(xué)術(shù)帶頭人之一。

1954年，他以優(yōu)異的成績考取了赴蘇研究生。踏進(jìn)世界著名學(xué)府－莫斯科大學(xué)，在這個(gè)學(xué)府世界概率論的奠基人柯爾莫哥洛夫(Kolmogorov)院士正領(lǐng)導(dǎo)看一個(gè)強(qiáng)有力的概率研究集團(tuán)。柯爾莫高洛夫慧眼識英才，非常信賴這位由中國選派的年輕人的能力，把他選作自己的研究生，去攻概率論的中心問題隨機(jī)過程理論。當(dāng)時(shí)中國近代數(shù)學(xué)才剛剛起步，大學(xué)也沒有概率課程。此時(shí)蘇聯(lián)的概率論水平已屆于世界最前列。王梓坤也根本不知道什么是概率，可他的研究方向又恰恰被定為概率論，

著有《概率論基礎(chǔ)及其應(yīng)用》、《隨機(jī)過程論》、《生滅過程與馬爾科夫鏈》等9部數(shù)學(xué)著作．馬爾可夫過程的定義馬爾可夫鏈的轉(zhuǎn)移概率與概率分布齊次馬爾可夫鏈狀態(tài)的分類轉(zhuǎn)移概率的穩(wěn)定性能本章主要內(nèi)容一馬爾可夫過程的定義1．馬爾可夫性通俗地說，就是在知道過程現(xiàn)在的條件下，其將來的條件分布不依賴于過去，則稱具有馬爾可夫（Markov)性。定義設(shè)是一個(gè)隨機(jī)過程，如果在t0時(shí)刻所處的狀態(tài)為已知，它在時(shí)刻

所處狀態(tài)的條件分布與其在t0

之前

所處的狀態(tài)無關(guān)。2.馬爾可夫過程定義設(shè)的狀態(tài)空間為S,的條件分布函數(shù)恰好等于3.馬爾可夫鏈定義參數(shù)集和狀態(tài)空間都是離散的馬爾可夫過程稱為馬爾可夫鏈。注只討論馬爾可夫鏈的狀態(tài)空間為有限或可列無限.則馬爾可夫性可表示為特別對取T={0,1,2,···}的馬爾可夫鏈，記為或此時(shí)的馬爾可夫性為或今后,記二馬爾可夫鏈的轉(zhuǎn)移概率與概率分布1.轉(zhuǎn)移概率定義設(shè)是馬爾可夫鏈,稱條件概率經(jīng)過k步轉(zhuǎn)移,于n+k時(shí)到達(dá)狀態(tài)j的條件概率).在n時(shí)的k步轉(zhuǎn)移概率.n時(shí)的k步轉(zhuǎn)移概率矩陣.特別

當(dāng)k=1時(shí)，定義稱可數(shù)維的矩陣為隨機(jī)矩陣，如果顯然，在n時(shí)的k步轉(zhuǎn)移概率矩陣是一隨機(jī)矩陣.特別k＝０時(shí)，約定２.Chapman-kolmogorov方程定理(C-K方程)或矩陣形式（解決了k步轉(zhuǎn)移概率與一步轉(zhuǎn)移概率間的關(guān)系）證明系統(tǒng)在n時(shí)從狀態(tài)i的出發(fā),經(jīng)過k+m步轉(zhuǎn)移,于n+k+m時(shí)到達(dá)狀態(tài)j,可以先在n時(shí)從狀態(tài)i出發(fā)，經(jīng)過k步轉(zhuǎn)移于n+k時(shí)到達(dá)某種中間狀態(tài)l,再在n+k時(shí)從中間狀態(tài)l出發(fā)經(jīng)過m步轉(zhuǎn)移于n+k+m時(shí)到達(dá)最終狀態(tài)j,而中間狀態(tài)l要取遍整個(gè)狀態(tài)空間S.C-K方程的直觀意義：定理

馬爾可夫鏈的k步轉(zhuǎn)移概率由 其一步轉(zhuǎn)移概率所完全確定.若取m=1,則由C-K方程的矩陣形式:得分量形式1）初始分布為馬爾可夫鏈的初始分布3.馬爾可夫鏈的分布稱第i個(gè)分量為的(行)向量為馬爾可夫鏈的初始分布向量.即2）有限維分布定理馬爾可夫鏈的有限維分布由其初始分布和一步轉(zhuǎn)移概率所完全確定.證明又因?yàn)轳R爾可夫鏈的k步轉(zhuǎn)移概率由一步轉(zhuǎn)移概率所完全確定.所以馬爾可夫鏈的有限維分布由其初始分布和一步轉(zhuǎn)移概率所完全確定.3）絕對分布為馬爾可夫鏈的絕對分布稱第j個(gè)分量為的(行)向量為馬爾可夫鏈的絕對分布向量.即絕對分布、初始分布和n步轉(zhuǎn)移概率有如下關(guān)系：或矩陣形式4.齊次馬爾可夫鏈定義是一馬爾可夫鏈,如果其一步轉(zhuǎn)移概率恒與起始時(shí)刻n無關(guān)，記為為齊次(時(shí)間其次或時(shí)齊)馬爾可夫鏈.否則，稱為非齊次馬爾可夫鏈.為方便，一般假定時(shí)間起點(diǎn)為零．即顯然對齊次馬爾可夫鏈，k步轉(zhuǎn)移概率也與起始時(shí)刻n無關(guān)．記為相應(yīng)的k步與一步轉(zhuǎn)移概率矩陣分別記為定理的有限維分布由其初始分布和一步轉(zhuǎn)移概率所完全確定例１(天氣預(yù)報(bào)問題)如果明天是否有雨僅與今天的天氣(是否有雨)有關(guān)，而與過去的天氣無關(guān).并設(shè)今天下雨、明天有雨的概率為a，今天無雨而明天有雨的概率為b，又假設(shè)有雨稱為0狀態(tài)天氣，無雨稱為1狀態(tài)天氣.Xn表示時(shí)刻n時(shí)的天氣狀態(tài)，則是以為狀態(tài)空間的齊次馬爾可夫鏈.其一步轉(zhuǎn)移概率矩陣為５.馬爾可夫鏈舉例

例2(有限制隨機(jī)游動問題)

設(shè)質(zhì)點(diǎn)只能在{0，1，2，···，a}中的各點(diǎn)上作隨機(jī)游動，移動規(guī)則如下：ii+1i-101a-1a設(shè)Xn表示質(zhì)點(diǎn)在n時(shí)刻所處的位置，則其一步轉(zhuǎn)移概率矩陣為例3

設(shè)一個(gè)壇子中裝有m個(gè)球，它們或是紅色的，或是黑色的，從壇子中隨機(jī)的摸出一球，并換入一個(gè)相反顏色的球.其一步轉(zhuǎn)移概率矩陣為為狀態(tài)空間的齊次馬爾可夫鏈.設(shè)經(jīng)過n次摸換,壇中黑球數(shù)為Xn,則例４設(shè)是具有三個(gè)狀態(tài)0，1，2的齊次馬爾可夫鏈，其一步轉(zhuǎn)移概率矩陣為初始分布試求：解作業(yè)設(shè)是狀態(tài)空間為{a,b,c}的齊次馬氏鏈.其一步轉(zhuǎn)移概率矩陣為三齊次馬爾可夫鏈狀態(tài)的分類1.狀態(tài)的屬性定義引理1證明定義2引理2證明系統(tǒng)從狀態(tài)i出發(fā),首次到達(dá)狀態(tài)j的平均轉(zhuǎn)移步數(shù)定義3下面的引理給出di

與

hi二者的關(guān)系引理3證明定義4例1：在直線上，如果質(zhì)點(diǎn)每次向前、向后移動1步的概率都是1/3，向后移動2步的概率也是1/3，試證明每個(gè)狀態(tài)都是非周期的。例2：在直線上，如果質(zhì)點(diǎn)每次向前移動1步的概率都是p，向后移動5步的概率是q=1-p，試證明每個(gè)狀態(tài)的周期都是6。定義5引理4證明引理5證明引理6證下面用反正法證明:則從狀態(tài)j出發(fā)最終不能到達(dá)j的概率為:2.狀態(tài)屬性的判斷定理1(Doeblin公式)證明思路上極限存在下極限存在相等證明(找上界)(有上界必有上極限)(找下界)(不等式左邊對固定的N′

有下界,從而有下極限)推論1推論2定理2定理3定理4證明推論證明定理5證明定理6證明所以,i,j或者同為常返態(tài),或者同為非常返態(tài).下面考慮當(dāng)i,j同為常返態(tài)時(shí)的情況:所以,i,j或者同為零常返態(tài),或者同為正常返態(tài).下面證明當(dāng)i,j同為正常返態(tài)時(shí),周期相同所以,i,j或者同為正常返非周期狀態(tài)(遍歷態(tài)),

或者同為正常返周期狀態(tài),且周期相同.作業(yè)：3.狀態(tài)空間的分解定義引理7(有關(guān)閉集的判定和性質(zhì))證明(1)用數(shù)學(xué)歸納法引理8證明引理9設(shè)C是閉集,則當(dāng)且僅當(dāng)其中任何兩個(gè)狀態(tài)互通時(shí),C為不可約的.證明推論齊次馬爾可夫鏈?zhǔn)遣豢杉s的充要條件是它的任何兩個(gè)狀態(tài)互通特別關(guān)于有限狀態(tài)的馬爾可夫鏈有下面結(jié)論定理7(1)有限齊次馬爾可夫鏈所有非常返狀態(tài)集D不可能是閉集.(2)有限齊次馬爾可夫鏈不可能存在零常返狀態(tài).(3)不可約的有限齊次馬爾可夫鏈的所有狀態(tài)都是

正常返狀態(tài).證明定理8證明由以上的分析,可以得到狀態(tài)空間的分解定理定理9齊次馬爾可夫鏈的狀態(tài)空間S可唯一地分解成有限個(gè)或可列無限多個(gè)互不相交的狀態(tài)子集的并.即其中D是所有非常返狀態(tài)構(gòu)成的狀態(tài)子集.所有常返狀態(tài)構(gòu)成的不可約閉集.每個(gè)狀態(tài)子集中的狀態(tài)有著相同的狀態(tài)類型:(即或者均為零常返,或者均為正常返非周期,或者均