隨機過程：隨機變量的數字特征

隨機信號分析第一章概率與隨機變量本章學習的主要內容★隨機變量及其分布★隨機變量的數字特征★隨機變量的函數★隨機變量的特征函數★大數定理及中心極限定理1.4隨機變量的數字特征★數學期望★方差★協(xié)方差和相關系數★矩和協(xié)方差矩陣1.5隨機變量的函數★一維隨機變量函數的分析★二維隨機變量函數的分析★隨機變量函數的數字特征1.6隨機變量的特征函數★特征函數的定義★特征函數的性質1.7大數定律及中心極限定理★大數定律的物理意義★中心極限定理的物理意義本堂課的作業(yè)★第23頁習題1.13隨機變量的數學期望★離散型隨機變量的數學期望設離散隨機變量X的分布律為：

P{X=xk}=pkk=1,2,…

若級數絕對收斂，則定義X的數學期望為

數學期望表示統(tǒng)計平均運算，常記作mX。隨機變量的數學期望★連續(xù)型隨機變量的數學期望對于連續(xù)型隨機變量X，若它的概率密度為f(x)，并且積分絕對收斂，則定義X的數學期望為隨機變量的數學期望★數學期望的性質1、設X為一隨機變量，C為常數，則有

E[CX]=C·E[X]2、設X，Y為任意二隨機變量，則有

E[X+Y]=E[X]+E[Y]3、設X，Y為相互獨立的隨機變量，則有

E[X·Y]=E[X]·E[Y]隨機變量的方差★方差的定義對于隨機變量X，定義下式

D[X]=E[(X-mx)2]

為X的方差，其中mx=E[X]★方差的計算

D[X]=E[(X-mx)2]=E[X2-2mxX+mx2]=E[X2]-mx2

隨機變量的方差★方差的性質1、設C為常數，則有D[C]=02、設X為隨機變量，C為常數，則有

D[CX]=C2D[X]3、設X，Y為相互獨立的隨機變量，則有

D[X+Y]=D[X]+D[Y]

協(xié)方差和相關系數★協(xié)方差對于任意二隨機變量X和Y，定義下式

cov[X，Y]=E[(X-mx)(Y-my)]

為隨機變量X和Y的協(xié)方差?！锵嚓P系數定義下式

為隨機變量X和Y的相關系數。矩和協(xié)方差矩陣★矩對于任意二隨機變量X和Y，如果

E[Xk]，k=1,2,…

存在，定義它為X的k階原點矩；如果

E[(X-mX)k]，k=1,2,…

存在，定義它為X的k階中心矩；如果

E[Xk

Yl]，k,l=1,2,…

存在，定義它為X和Y的k+l階混合矩；如果

E[(X-mX)k(Y-my)l]，k,l=1,2,…

存在，定義它為X和Y的k+l階中心混合矩。矩和協(xié)方差矩陣★協(xié)方差矩陣二維隨機變量(X1,X2)有四個二階中心矩，分別記為

K11＝E[(X1-mX1)2]

K12＝

E[(X1-mX1)(X2-mX2)]

K21＝

E[(X2-mX2)(X1-mX1)]

K22＝E[(X2-mX2)2]

將它們排成矩陣的形式：

K11

K12

K21

K22

則該矩陣稱為(X1,X2)的協(xié)方差矩陣。一維隨機變量函數的分析★單調變換函數的單值變換設隨機變量X和Y存在單調函數關系Y=g(X)，并且存在反函數X=h(Y)。這時，如果X位于(x,x+dx)的很小區(qū)間內，則Y必位于(y,y+dy)的對應區(qū)間內。于是，這兩個事件的概率應該相等，即有fY(y)dy=fX(x)dx

或fY(y)=fX(x)dx/dy一維隨機變量函數的分析★單調變換函數的單值變換(續(xù))由于概率密度不能為負值，因此dx/dy應取絕對值，故可得

fY(y)=|dx/dy|·

fX

[h(y)]=|h’(y)|

·

fX

[h(y)]一維隨機變量函數的分析★單調變換函數的單值變換(續(xù))[例]設隨機變量Y和X之間是線性關系，即有Y=aX+b。已知X服從參數a和σ的正態(tài)分布，求Y的概率密度。[解]由給的線性關系可知X=h(Y)=(Y-b)/a，由此可得|h’(y)|=1/|a|，根據fY(y)=|h’(y)|·

fX

[h(y)]，一維隨機變量函數的分析★非單調變換函數的多值變換設X=h(Y)為雙值函數關系，即一個Y值對應兩個X值。當Y位于(y,y+dy)的區(qū)間內時，對應兩種可能性，即X位于(x1,x1+dx1)和(x2,x2+dx2)區(qū)間內。這時應有

fY(y)dy=fX(x1)dx1＋fX(x2)dx2

將x1用h1(y)，x2用h2(y)表示，則有一維隨機變量函數的分析★非單調變換函數的多值變換(續(xù))[例]設隨機變量Y和X之間的關系為

Y=sinX-π≤X≤π

已知隨機變量X為均勻分布，其概率密度為求隨機變量Y的概率密度。一維隨機變量函數的分析★非單調變換函數的多值變換(續(xù))[解]函數Y=sinX中一個Y值對應兩個X值，且有

x1=sin-1y，x2=π-sin-1y

根據多值變換的公式，可得

二維隨機變量函數的分析★單值變換情況下的分析設有二維隨機變量(X1,X2)，其概率密度為fX(x1,x2)；它與二維隨機變量(Y1,Y2)的關系為

由此來確定二維隨機變量(Y1,Y2)的概率密度。二維隨機變量函數的分析★單值變換情況下的分析（續(xù)）由于二維變換比一維變換更為復雜，所以我們只考慮g1和g2是單值變換的情況，即從(1.5.1)式中解出的反變換(1.5.2)式的解是唯一的。

當一維隨機變量X和Y為單值變換時，有fX(x)dx=fY(y)dy。將其推廣到二維變換的情況下去。二維隨機變量函數的分析★單值變換情況下的分析（續(xù)）在二維變換的情況下，當二維隨機變量(X1,X2)和(Y1,Y2)為單值變換時，對應地有

fX(x1,x2)dx1dx2=fY(y1,y2)dy1dy2

取dSX=dx1dx2，dSy=dy1dy2，則有

fX(x1,x2)dSX

=fY(y1,y2)dSy

(1.5.3)(1.5.3)式表明，在X域內隨機點(X1,X2)落入dSX的概率等于Y域內隨機點(Y1,Y2)落入dSy的概率。二維隨機變量函數的分析★單值變換情況下的分析（續(xù)）在單值變換中，dSX和dSy一一對應，因此二維隨機變量(Y1,Y2)的概率密度為：在坐標轉換中dSX和dSy之間的變換稱為雅可比變換。并有如下的關系：

dSX＝J

·dSyJ為雅可比行列式二維隨機變量函數的分析★單值變換情況下的分析（續(xù)）在二維變換中，雅可比行列式為下式

因此可得：fY(y1,y2)=|J|·

fX(x1,x2)

=|J|·

fX[h1(y1,y2),h2(y1,y2)]

隨機變量函數的數字特征★隨機變量函數的數學期望設隨機變量X和Y存在函數關系Y=g(X)，fX(x)和fY(y)分別為X和Y的概率密度，則隨機變量Y的數學期望為假定g(·)是單調函數，則有，代入上式，可得隨機變量函數的數字特征★隨機變量函數的方差與數學期望的推導一樣，一維隨機變量X的函數g(X)的方差可由下式表示，即

式中Y=g(X)，mY=E[Y]，fX(x)是X的概率密度。特征函數的定義★隨機變量的特征函數隨機變量X的特征函數定義為式中fX(x)是X的概率密度，μ為實數。由定義可知：1、特征函數CX(μ)是隨機變量X的函數ejμX的數學期望；2、隨機變量X的CX(μ)是概率密度函數f(x)的傅立葉變換對偶。特征函數的性質★特征函數的性質1、若CX(μ)是隨機變量X的特征函數，則Y=CX（C為常數）的特征函數為

CY(μ)=CX(Cμ)

2、若Y=aX+b（a,b均為常數），則

CY(μ)=ejbμ

CX(aμ)

3、相互獨立的隨機變量和的特征函數等于各變量的特征函數的乘積。大數定律的物理意義★大數定律（切比雪夫定理）設相互獨立的隨機變量X1，X2，…，Xn有數學期望和方差，并且方差是一致有上界的，則X1,X2,…,Xn的算術平均值，當n→∞時，按概率收斂于它們的數學期望的算術平均值。作為特例，有如下推論：設相互獨立的隨機變量X1，X2，…，Xn服從同一分布，并且有數學期望a和方差σ2，則X1,X2,…,Xn的算術平均值，當n→∞時，按概率收斂于數學期望a。大數定律的物理意義★大數定律的物理意義設測量某一物理量a，在條件不變的情況重復測量n次，這些測量結果可看作是n個相互獨立的隨機變量X1，X2，…，Xn的試驗數值，并且有同一數學期望