43-第四章第三節(jié)(概率統(tǒng)計(jì))

第四章隨機(jī)變量的數(shù)字特征4.3協(xié)方差及相關(guān)系數(shù)第四章隨機(jī)變量的數(shù)字特征內(nèi)容摘要:對(duì)于二維隨機(jī)變量(X,Y),我們除了討論X與Y的數(shù)學(xué)期望和方差以外,還需研究描述X與Y之間相互關(guān)系的數(shù)字特征.有關(guān)這方面的數(shù)字特征有協(xié)方差、相關(guān)系數(shù)和各階矩.4.3協(xié)方差及相關(guān)系數(shù)4.3.1提出問題

1.

如何分析兩個(gè)隨機(jī)變量之間的相互關(guān)系呢?

2.如何刻畫兩個(gè)隨機(jī)變量之間線性相關(guān)的程度呢?4.3.2預(yù)備知識(shí)

1.數(shù)學(xué)期望,方差,標(biāo)準(zhǔn)差;

2.

線性函數(shù),矩陣及對(duì)稱矩陣.

定義1量E{[X-E(X)][Y-E(Y)]}稱為隨機(jī)變量X與Y的協(xié)方差.記為Cov(X,Y),即Cov(X,Y)=E{[X-E(X)][Y-E(Y)]}.(4.3.1)而

稱為隨機(jī)變量X與Y的相關(guān)系數(shù).注意:

ρXY是一個(gè)無(wú)量綱的量.

4.3.3

提出概念證證明:(1)ρX*Y*=Cov(X*,Y*);(2)ρX*Y*=ρXY.例4.3.1

設(shè)X*,Y*為X與Y的標(biāo)準(zhǔn)化隨機(jī)變量,即由對(duì)稱性得到E(Y*)=0,D(Y*)=1.

先證(1):再證(2):

=E{[X*-E(X*)][Y*-E(Y*)]}=E(X*Y*)

=ρXY.

4.3.4

分析性質(zhì)

定理1

對(duì)于任意兩個(gè)隨機(jī)變量X和Y,下列等式成立(設(shè)協(xié)方差存在):(1)Cov(X,X)=D(X).(2)Cov(X,Y)=Cov(Y,X).(3)若X與Y相互獨(dú)立,則Cov(X,Y)=0.(4)Cov(X,a)=0,a為常數(shù).利用數(shù)學(xué)期望的性質(zhì)知,結(jié)論(1)，(2)，(3)和結(jié)論(4)成立.1.

協(xié)方差的性質(zhì)

(8)D(X±Y)=D(X)+D(Y)±2Cov(X,Y).(4.3.4)(5)Cov(X,Y)=E(XY)-E(X)E(Y).(4.3.3)(6)Cov(aX,bY)=abCov(X,Y),a,b是常數(shù).(7)Cov(X+Y,Z)=Cov(X,Z)+Cov(Y,Z).

證

證明(5):Cov(X,Y)=E{[X-E(X)][Y-E(Y)]}=E[XY-YE(X)-XE(Y)+E(X)E(Y)]=E(XY)-E(X)E(Y)-E(Y)E(X)+E(X)E(Y)=E(XY)-E(X)E(Y).

利用協(xié)方差和數(shù)學(xué)期望的性質(zhì),易證結(jié)論(6),結(jié)論(7)和結(jié)論(8)成立.

定理2

設(shè)隨機(jī)變量X與Y的相關(guān)系數(shù)ρXY存在,則有(1)ρXY=ρYX

;(2)|ρXY|≤1;(3)|ρXY|=1的充分必要條件是:存在常數(shù)a(a≠0),b,使P{Y=aX+b}=1.2.相關(guān)系數(shù)的性質(zhì)及實(shí)際意義

講評(píng)

我們常利用結(jié)論(5)計(jì)算協(xié)方差.證

結(jié)論(1)可由協(xié)方差的性質(zhì)(2)推知.

現(xiàn)證結(jié)論(2).設(shè)X*,Y*為X與Y的標(biāo)準(zhǔn)化隨機(jī)變量,由例4.3.1和定理1中性質(zhì)(8)得到

0≤D(X*±Y*)=D(X*)+D(Y*)±2Cov(X*,Y*)=D(X*)+D(Y*)±2ρX*Y*=

1+1±2ρXY

=2(1±ρXY).由此可得

由(2)可知D(X*±Y*)=2(1±ρXY),可見,ρXY

=±1的充分必要條件是取可知上式又等價(jià)于

P{Y=aX+b}=1.再由

質(zhì)(5)知,上式等價(jià)于及方差的性再證結(jié)論(3).

(1)

從這個(gè)證明我們還知道,若a>0,有ρXY

=1,這時(shí)稱X與Y正線性相關(guān);若a<0,有ρXY

=-1,這時(shí)稱X與Y負(fù)線性相關(guān).一般地,若ρXY

>0,則稱X與Y正相關(guān);若ρXY

<0,則稱X與Y負(fù)相關(guān).當(dāng)ρXY

=0時(shí),我們稱X與Y不相關(guān).顯然,它等價(jià)于X與Y的協(xié)方差為零.講評(píng)

相關(guān)系數(shù)的實(shí)際意義是：|ρXY|的

大小反映了X與Y的線性相關(guān)程度.當(dāng)

|ρXY|

較大時(shí),則X與Y的線性相關(guān)程度

較好；當(dāng)|ρXY|較小時(shí),則X與Y的線性相關(guān)程度較差.

(2)對(duì)于標(biāo)準(zhǔn)化隨機(jī)變量和有相關(guān)系數(shù)等于協(xié)方差,即

ρXY=ρX*Y*=Cov(X*,Y*).

(5)對(duì)于正態(tài)分布,若(X,Y)服從正態(tài)分布,那么X和Y相互獨(dú)立的充要條件是相關(guān)系數(shù)

ρXY

=0.

(4)當(dāng)X與Y相互獨(dú)立時(shí),X與Y不相關(guān).但是,若X與Y不相關(guān),X與Y不一定相互獨(dú)立.

(3)相關(guān)系數(shù)ρXY刻劃的是X與Y之間的線性關(guān)系的強(qiáng)弱.

例4.3.2再繼續(xù)解讀例3.3.1和例4.2.2：設(shè)二維隨機(jī)變量(X,Y)的分布律為

XY01p.j12pi.1(1)

計(jì)算X與Y的協(xié)方差以及相關(guān)系數(shù)；(2)

問隨機(jī)變量X與Y是否獨(dú)立，是否不相關(guān)呢？(1)

已知X的數(shù)學(xué)期望為

解而于是，隨機(jī)變量X與Y的協(xié)方差為隨機(jī)變量X與Y的相關(guān)系數(shù)為(2)

由例3.3.1知,隨機(jī)變量X與Y相互獨(dú)立.

隨機(jī)變量X與Y的相關(guān)系數(shù)ρXY=0,即隨機(jī)變量X與Y不相關(guān).

應(yīng)注意：隨機(jī)變量X與Y“不相關(guān)”與“獨(dú)立”并不等價(jià).參見下例.

由例4.1.2知,隨機(jī)變量X和Y的數(shù)學(xué)期望E(X)=0和E(Y)=0.

例4.3.3再繼續(xù)解讀例3.3.2和例4.1.2:設(shè)二維隨機(jī)變量(X,Y)的概率密度為解已知隨機(jī)變量X與Y不相互獨(dú)立,再問連續(xù)型隨機(jī)變量X與Y是否不相關(guān)?從而得到Cov(X,Y)=0,即有=0.這表明隨機(jī)變量X和Y是不相關(guān)的,雖然隨機(jī)變量X與Y不相互獨(dú)立.分析上述例題,得到如下的兩個(gè)問題:

問題1是,為什么隨機(jī)變量X與Y不相互獨(dú)立呢？感性上可以這樣來(lái)理解:隨機(jī)點(diǎn)(X,Y)落入單位圓x2+y2≤1內(nèi),X與Y之間存在著制約關(guān)系X2+Y2≤1.

因此隨機(jī)變量X與Y不相互獨(dú)立.

問題2是,既然隨機(jī)變量X與Y不相互獨(dú)立,也就是存在著制約關(guān)系,為什么它們又不相關(guān)呢?要注意，現(xiàn)在的制約關(guān)系是X2+Y2≤1,而不是說(shuō)“存在線性關(guān)系”.

X和Y不相關(guān)只是說(shuō)明二者之間沒有線性關(guān)系,是否有其他(如平方關(guān)系)關(guān)系并沒有回答.

例4.3.4設(shè)二維隨機(jī)變量

(X,Y)服從二維正態(tài)分布,即(X,Y)~N(μ1,μ2,σ12,σ22,ρ).試分析各個(gè)參數(shù)的意義.

結(jié)果是：E(X)=μ1,E(Y)=μ2,

D(X)=σ12,D(Y)=σ22,

ρXY=ρ.定理3若(X,Y)服從二維正態(tài)分布,那么X與Y相互獨(dú)立的充要條件是X與Y不相關(guān).4.3.3′矩的概念

這里再介紹隨機(jī)變量的另外的幾個(gè)數(shù)字特征,它們?cè)诤竺娴臄?shù)理統(tǒng)計(jì)學(xué)習(xí)中經(jīng)常用到.

定義2

設(shè)X和Y是隨機(jī)變量,若E(Xk)(k=1,2,…)存在,稱它為X的k階原點(diǎn)矩,簡(jiǎn)稱k階矩.

若E{[X-E(X)]k}(k=2,3,…)存在,稱它為X的k階中心矩.

若E(XkYl)(k,l=1,2,…)存在,稱它為X和Y的k+l階混合矩.

若E{[X-E(X)]k[Y-E(Y)]l

}(k,l=1,2,…)存在,稱它為X和Y的k+l階混合中心矩.

顯然,X的數(shù)學(xué)期望E(X)是X的一階原點(diǎn)矩,方差D(X)是X的二階中心矩,協(xié)方差Cov(X,Y)是X和Y的二階混合中心矩.

下面介紹n維隨機(jī)變量的協(xié)方差矩陣.

cij=Cov(Xi,Xj)

=E{[Xi-E(Xi)][Xj-E(Xj)]},

i,

j=1,2,…,

n都存在,則稱矩陣為n維隨機(jī)變量(X1,X2,…,Xn

)的協(xié)方差矩陣.由于cij=cji(i≠j,i,j=1,2,…,n),因而上述矩陣是一個(gè)對(duì)稱矩陣.

講評(píng)

一般情況下,n維隨機(jī)變量的分布是不知道的,或者是太復(fù)雜,以致在數(shù)學(xué)上不容易處理,因此在實(shí)際應(yīng)用中協(xié)方差矩陣就顯得重要了.4.3.6內(nèi)容小結(jié)

方差D(X)=E{[X-E(X)]2}描述隨機(jī)變量X與它的數(shù)學(xué)期望E(X)的偏離程度,我們常用公式

D(X)=E(X2)-[E(X)]2

計(jì)算方差,注意E(X2)和[E(X)]2的區(qū)別.計(jì)算協(xié)方差常用公式