多元正態(tài)分布及參數(shù)估計(jì)ppt課件

1、第二章多元正態(tài)分布及參數(shù)第二章多元正態(tài)分布及參數(shù)的估計(jì)的估計(jì) 2.1 2.1 隨機(jī)向量隨機(jī)向量 本課程討論多變量總體。把p個(gè)隨機(jī)變量放在一起得 為一個(gè)p維隨機(jī)向量，如果同時(shí)對(duì)p個(gè)變量做一次觀測(cè)，得觀測(cè)值： 它是一個(gè)樣品，觀測(cè)n次得n個(gè)樣品： 而這n個(gè)樣品就構(gòu)成一個(gè)樣本),(21pXXXX,),()1(11211Xxxxdefp),(21)(ipiiixxxX,2, 1ni是一個(gè)隨機(jī)陣。據(jù)陣維隨機(jī)向量，而樣本數(shù)觀測(cè)，在觀測(cè)前是一個(gè)次個(gè)變量的列表示第的第維隨機(jī)向量。矩陣是一個(gè)測(cè)前，它個(gè)樣品的觀測(cè)值，在觀行表示第的第矩陣記為：矩陣，稱(chēng)為樣本數(shù)據(jù)陣個(gè)樣品排成一個(gè)常把或XnnjjXpiiXXXXXXXx

2、xxxxxxxxXpnpdefndefnpnnpp).,(n21)()2()1(112222111211 非降的右連續(xù)函數(shù)；隨機(jī)向量的聯(lián)合分布，邊緣分布，條件分布隨機(jī)向量的聯(lián)合分布，邊緣分布，條件分布 一、多元概率分布1、聯(lián)合分布函數(shù)隨機(jī)向量 的聯(lián)合概率分布函數(shù)定義為),(21 pxxxx121122(,)(,)pppF a aaP xa xaxa 2、分布函數(shù)的性質(zhì)121122(,)(,)pppF a aaP xa xaxa 分布函數(shù)的取值范圍為0，1，即 120(,)1pF a aa 分布函數(shù)當(dāng)變量取值為無(wú)窮大時(shí)，函數(shù)值收斂到1，即( ,)1F 二、兩個(gè)常用的離散多元分布 1、多項(xiàng)分布有如

3、下分布若),(21 mxxxxmkmkmmmppkkknkxkxkxP11212211!),( ，其中10 ipmi, 2 , 1 nkkkm 21121 mppp 則稱(chēng) 服從多項(xiàng)分布。),(21 mxxxx 2、多元超幾何分布有如下分布若),(21 mxxxx nNkNkNkxkxkxPmmmm112211),(),min(, 1 , 0iiNnk 那么 服從多元超幾何。mi, 2 , 1 nkkkm 21NNNNm 21),(21 mxxxx 三、聯(lián)合概率密度 1、定義隨機(jī)向量 的聯(lián)合分布函數(shù)可以表示為),(21 pxxxx),(),(221121pppaxaxaxPaaaF ppaadx

4、dxxxxfp121),(1 則稱(chēng) 為連續(xù)型隨機(jī)向量。稱(chēng)為的聯(lián)合概率密度函數(shù)。 ),(21pxxxf),(21 pxxxx假設(shè) 在點(diǎn) 延續(xù)，那么),(21pxxxf),(21pxxx),(),(212121ppppxxxFxxxxxxf 0),(121 pxxxF且有1),(1211 ppdxdxxxxf 四、邊緣分布 設(shè)有連續(xù)隨機(jī)向量 ),(21 pxxxx不妨設(shè) 是 的q個(gè)分量組成。那么 的分布為 ),(21)1(qxxxx),(21pxxxx),(21)1(qxxxx),(),(221121)1(qqqaxaxaxPaaaF),(12211pqqqxxaxaxaxPppaadxdxxxx

5、fq121),(1qpqpaadxdxdxdxxxxfq1121),(1所以 的邊際密度為),(21)1(qxxxxpqpqdxdxxxxfxxf1211)1(),(),(例 隨機(jī)向量 有聯(lián)合概率密度函數(shù)),(21xxx)sinsin1 (21),(212212221xxexxfxx 試分別求 的邊際密度。21,xx22111),()(dxxxfxf221211)sinsin1 (21)(2221dxxxexfxx2212211)sinsin1 (2121)(2221dxxxeexfxx2221222211sinsin212121)(32212221dxxexedxeexfxxxx22121x

6、e1x2222221)(xexf同理1x五、條件分布 1、問(wèn)題的引入 若A和B是任意兩個(gè)事件，且 ，則稱(chēng)為在B事件發(fā)生的條件下，事件A發(fā)生的條件概率。0)(BP)(/ )()/(BPABPBAP考慮隨機(jī)向量 ，其中 表示人的身高單位：米）， 表示人的體重單位：公斤），在身高為1.9米的人群中，體重 的分布就再也不是原來(lái)的分布了。而是在 的條件分布。),(21xxx1x2x90. 11x2x 2、條件分布 連續(xù)隨機(jī)向量 ),(21 pxxxx 不妨設(shè) 是 的q個(gè)分量組成。 是余下的p-q個(gè)分量組成。 ),(21)1(qxxxx),(21pxxxx),(21)2(pqqxxxx),(),(),|,

7、(1)2(2111pqppqqxxfxxxfxxxxf是 條件下， 的分條件密度函數(shù)。),(21)2(pqqxxxx),(21)1(qxxxx 例 設(shè)X=(x1,x2)有概率密度函數(shù)其它010 , 10) 1(56),(21212121xxxxxxxf試求條件密度函數(shù)f(x1/x2和f(x2/x1）。)(),()|(112112xfxxfxxf)(),()|(222121xfxxfxxf因?yàn)樗韵惹?102212111) 14(56)(dxxxxxf1022121) 14(56dxxxx212156512xx 5256)(222xxf同理10121456512) 14(56)(),()|(2,

8、 112121222121222112xxxxxxxxxxxfxxfxxf13) 14(35256) 14(56)(),()|(1212122121222121xxxxxxxxxfxxfxxf六、 獨(dú)立性 1、定義設(shè) 和 是兩個(gè)隨機(jī)向量，假設(shè) 對(duì)一切 、成立，則稱(chēng) 和 相互獨(dú)立。y)()(),(yxyxyFFFxxxyxy 2、設(shè) 和 是兩個(gè)連續(xù)隨機(jī)向量， 和 相互獨(dú)立，當(dāng)且僅當(dāng) 或?qū)σ磺?、 成立。)()(),(yxyxyFFFx)()|(xyxxffxyxyxy3、設(shè) 是 個(gè)隨機(jī)向量，假設(shè) 對(duì)一切 成立，那么 相互獨(dú)立。n21xxx,n)()()(),(21mmmFFFFxxxxxx212

9、1nm n21xxx,n21xxx,數(shù)字特征 一、數(shù)學(xué)期望1、定義pqppqqxxxxxxxxx212221212111X 是有隨機(jī)變量構(gòu)成的隨機(jī)矩陣，定義X的數(shù)學(xué)期望為)()()()()()()()()()(212221212111pqppqqxExExExExExExExExEEX特別當(dāng)時(shí) ，便可得到隨機(jī)向量 的數(shù)學(xué)期望為1q),(21pxxxx) )(,),(),()(21pxExExEEx 2、性質(zhì) 1） 設(shè)為常數(shù)，那么 ； )()(XXaEaE2設(shè) 分別為常數(shù)矩陣，那么CBA,CBXACAXB)()(EE 3設(shè) 為 個(gè)同階矩陣，那么n21XXX,n)(n21XXXEn21XXXEEE

10、 二、協(xié)方差矩陣 1、定義：設(shè) 和 分別為 維和 維隨機(jī)向量，則其協(xié)方差矩陣為),(21pxxxx),(21qyyyypq)()()()()()(22112211qqppyEyyEyyEyxExxExxExE),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(212221212111YXyxyxyxyxyxyxyxyxyxqpppqq的協(xié)方差矩陣為),(21pxxxx)var(),cov(),cov(),cov()var(),cov(),cov(),cov()var()(2122121211pppppxxxxxxxxxxxxx

11、xxVarx2、性質(zhì) 1假設(shè)(x1,x2,，xp) 和(y1,y2,，yp)相互獨(dú)立。那么反之不成立0),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(212221212111qpppqqyxyxyxyxyxyxyxyxyx 假設(shè)(x1,x2,，xp)的分量相互獨(dú)立, 則協(xié)方差矩陣，除主對(duì)角線上的元素外均為零，即)var(000)var(000)var()(21pxxxVarx 2隨機(jī)向量X的協(xié)方差矩陣是非負(fù)定矩陣。 證：設(shè)a為任意與X有相同維數(shù)的常數(shù)向量，那么axxEaaa)()(axxaE0)(2xaE 3設(shè)A是常數(shù)矩陣，b為常數(shù)向

12、量，則V(AX+b)=AV(X)A ； )(bAX V)()(bAbAXE )()(bAbAXAxxA)(EAxA)(V 4、假設(shè)(x1,x2,，xp) 和(y1,y2,，yp)分別是p和q維隨機(jī)向量，A和B為常數(shù)矩陣，那么 ByxAByAx),(),(CovCov),(ByAxCov證 )()(xBBxxAAxEEEBxxA)(E 5、假設(shè)(k1,k2,，kp)是n個(gè)不全為零的常數(shù)， (x1,x2,，xp) 是相互獨(dú)立的p維隨機(jī)向量，那么)(21n21xxxnkkkV)()()(22221n21xxxVkVkVkn0,000000, 0, 621112LLLLLLppp，使得正交矩陣證明：由

13、于為非負(fù)定矩陣。其中 三、相關(guān)系數(shù)矩陣 假設(shè)(x1,x2,，xp) 和(y1,y2,，yp)分別是p和q維隨機(jī)向量，則其相關(guān)系數(shù)矩陣為),(),(),(),(),(),(),(),(),(),(212221212111qpppqqyxyxyxyxyxyxyxyxyxyx，兩隨機(jī)向量不相關(guān)。若0yx),( 隨機(jī)向量的變換隨機(jī)向量的變換 一、一元隨機(jī)變量的變換 設(shè)x具有概率密度函數(shù)fx(x)，函數(shù)y=(x)嚴(yán)格單調(diào)，其反函數(shù)x=(x)有連續(xù)導(dǎo)數(shù)，則y的概率密度函數(shù)為| )(|)()(yyfyfxy 其中y的取值范圍與x的取值范圍相對(duì)應(yīng)。例 設(shè)隨機(jī)變量x服從均勻分布U(0,1),即密度函數(shù) 其他0101)(xxfx的密度函數(shù)。求)0(ln1xyyeyx)(解y的取值范圍為(0,),那么| )(|)()(yyfyfxy|)( |1|)( |)(yyyxeeefye 二、多元隨機(jī)向量的變換 假設(shè)(x1,x2,xp) 有密度函數(shù)f (x1,x2,xp),有