大數(shù)定律和中心極限定理(NXPowerL)課件

1、大數(shù)定律和中心極限定理(NXPowerL)1第五章 大數(shù)定律和中心極限定理 關(guān)鍵詞：關(guān)鍵詞：契比雪夫不等式契比雪夫不等式大數(shù)定律大數(shù)定律中心極限定理中心極限定理大數(shù)定律和中心極限定理(NXPowerL)21 大數(shù)定律 背景 本章的大數(shù)定律，對(duì)第一章中提出的 “頻率穩(wěn)定性”，給出理論上的論證 為了證明大數(shù)定理，先介紹一個(gè)重要不等式大數(shù)定律和中心極限定理(NXPowerL)3 22222,0,1XE XD XP XE XP XE X 設(shè)隨機(jī)變量 具有數(shù)學(xué)期望方差則對(duì)于任意都有：定理的為：等價(jià)形式 ,XXf x證明： 僅就 為連續(xù)型時(shí)證之 設(shè) 的概率密度為 xPXfx dx則 22xxf x dx

2、221xfx dx222D X( )fxP127-128契比雪夫不等式 大數(shù)定律和中心極限定理(NXPowerL)4不等式說(shuō)明不等式說(shuō)明2( ,),(3 )(33 )XNP XPX 檢驗(yàn)：當(dāng)時(shí) 則2 (3) 10.9974 2(),(),(3 )XE XD XP X對(duì)于任意分布的 ，若記則由契比雪夫不等式：330.8889X即由契比雪夫不等式知道，對(duì)于任意分布的 落入?yún)^(qū)間（，）的概率均大于。0.99740.8889!可見(jiàn)， 符合以上結(jié)論2210.8889(3 ) 但要注意，雖然契比雪夫不等式可以對(duì)任意分布的隨機(jī)變量落入其期望附近的對(duì)稱(chēng)區(qū)間進(jìn)行估計(jì)，但只是粗略估計(jì)!大數(shù)定律和中心極限定理(NXP

3、owerL)5 例例1 1：n n重貝努里試驗(yàn)中，已知每次試驗(yàn)事件重貝努里試驗(yàn)中，已知每次試驗(yàn)事件A A出現(xiàn)的概率出現(xiàn)的概率為為0.750.75，試?yán)闷醣妊┓虿坏仁?，試?yán)闷醣妊┓虿坏仁?(1),(1)若若n=7500,n=7500,估計(jì)估計(jì)A A出現(xiàn)出現(xiàn)的頻率在的頻率在0.740.74至至0.760.76之間的概率至少有多大；（之間的概率至少有多大；（2 2）估計(jì)）估計(jì)n,n,使使A A出現(xiàn)的頻率在出現(xiàn)的頻率在0.740.74至至0.760.76之間的概率不小于之間的概率不小于0.900.90。nA解：設(shè)在 重貝努里試驗(yàn)中，事件 出現(xiàn)的次數(shù)為X，,0.75XB n則,()0.75 ,()0

4、.1875 ,E Xnpn D Xnpqn nXAfAn又 事件的頻率為：0.740.760.750.01XPP Xnnn(2)20.187510.01nn 187510.90n 18750n(1)7500,0.740.760.750.01XnPP Xnnn20.187510.01nn 0.75大數(shù)定律和中心極限定理(NXPowerL)6 隨機(jī)變量序列依概率收斂的定義 ,( , )( , )(,( , )PPnnPnnXaYbg x ya bg XYg a b 依概率收斂性質(zhì)：若且在處連續(xù)，則） 12,0,1,nnnnY YYalim P YaYaPYan 。定義：設(shè)隨機(jī)變量序列若存在某常數(shù)

5、， 使得均有： 則稱(chēng)隨機(jī)變量序列依概率收斂于常數(shù) ， 記為：aaa大數(shù)定律和中心極限定理(NXPowerL)7122111,1,01limlim1.1.nnkknknnknPPkkXXXnXXnP XPXnXXn 定理一 契比雪夫定理的特殊情況 ： 設(shè)隨機(jī)變量序列相互獨(dú)立，且具有相同的數(shù)學(xué)期望 和相同的方差，作前 個(gè)隨機(jī)變量的算術(shù)平均： 則，有： 即，或?qū)憺榇髷?shù)定律和中心極限定理(NXPowerL)8 111,nkkE XEXnnn證明：由于 11nkkD XDXn211nkkD Xn2221nnn22111nkknPXn 由契比雪夫不等式得：111nknklim PXn大數(shù)定律和中心極限定理

6、(NXPowerL)9 ,0,1AAnApnnAnlim Ppn定理二伯努利大數(shù)定理 設(shè)事件 在每次試驗(yàn)中發(fā)生的概率為 ，記為 次獨(dú)立重復(fù)試驗(yàn)中 發(fā)生的次數(shù) 則有：,AnB n p證明：11,AAnEE nnppnnn20,1AnpqPpnn 有2211AAnpqDD nnpqnnnn1Annlim Ppn即得：由契比雪夫不等式：大數(shù)定律和中心極限定理(NXPowerL)10大數(shù)定律的重要意義大數(shù)定律的重要意義 貝努里大數(shù)定律揭示了在大量重復(fù)獨(dú)立貝努里大數(shù)定律揭示了在大量重復(fù)獨(dú)立試驗(yàn)中事件出現(xiàn)頻率的穩(wěn)定性，正因?yàn)檫@種試驗(yàn)中事件出現(xiàn)頻率的穩(wěn)定性，正因?yàn)檫@種穩(wěn)定性，概率的概念才有客觀意義，貝努里穩(wěn)

7、定性，概率的概念才有客觀意義，貝努里大數(shù)定律還提供了通過(guò)試驗(yàn)來(lái)確定事件概率大數(shù)定律還提供了通過(guò)試驗(yàn)來(lái)確定事件概率的方法，既然頻率的方法，既然頻率 與概率與概率 有較大有較大偏差的可能性很小，我們便可以通過(guò)做試驗(yàn)偏差的可能性很小，我們便可以通過(guò)做試驗(yàn)確定某事件發(fā)生的頻率并把它作為相應(yīng)的概確定某事件發(fā)生的頻率并把它作為相應(yīng)的概率估計(jì)，這種方法就是第率估計(jì)，這種方法就是第7 7章將要介紹的參章將要介紹的參數(shù)估計(jì)法，參數(shù)估計(jì)的重要理論基礎(chǔ)之一就數(shù)估計(jì)法，參數(shù)估計(jì)的重要理論基礎(chǔ)之一就是大數(shù)定理。是大數(shù)定理。/Annp大數(shù)定律和中心極限定理(NXPowerL)111211,101limlim1.nnkkn

8、knnkXXXnXXnP XPXn 定理三 辛欽定理 ： 設(shè)隨機(jī)變量序列相互獨(dú)立，服從同一分布，且存在數(shù)學(xué)期望 ，作前 個(gè)隨機(jī)變量的算術(shù)平均： 則，有： 121n,1 nnkkXXXXn定理一表明，當(dāng) 很大時(shí)，的算術(shù)平均:接近于它們共同的數(shù)學(xué)期望。而這種接近是在概率意義下的接近。此外，定理中要求隨機(jī)變量的方差存在，但當(dāng)隨機(jī)變量服從相同分布時(shí)，就不需要這一要求。大數(shù)定律和中心極限定理(NXPowerL)12 例2：112111,( 1,1).111123nnnnkkkkkkXXXUXXXnnn設(shè)隨機(jī)變量相互獨(dú)立同分布，則（），（ ），（ ）分別依概率收斂嗎？如果依概率收斂，分別收斂于什么？111

9、1222112111,(),(),()111 nnnnnnkkkkkkXXE XXXE XXXE XnXXXnnn解：對(duì)照辛欽大數(shù)定律，相互獨(dú)立同分布，存在,相互獨(dú)立同分布，存在,相互獨(dú)立同分布，存在,故它們各前 個(gè)算術(shù)平均：，均依概率收斂。1()0,E X因?yàn)椋?1nkkPXn 0，111(),E Xxdx11同理，2212211(),E Xxdx112311nkkPXn 1，2211nkkPXn 1。3大數(shù)定律和中心極限定理(NXPowerL)1321222211n3,013:( ),0,0,lim1,=nnxxXf xXnXXXXXXPaan例設(shè)現(xiàn)對(duì) 獨(dú)立觀察次，其他觀察值記為如果這些觀

10、察值滿足求？12,nXXX解： 由題意知，是具有獨(dú)立同分布的隨機(jī)變量22212,nXXX所以,它們的連續(xù)函數(shù)也是獨(dú)立同分布的。2222221111nnXXXXXXnn是變量序列， ，的前 個(gè)算術(shù)平均，2()E X故由定理三（辛欽定理）得： 算術(shù)平均依概率收斂于122203()35aE Xxx dx大數(shù)定律和中心極限定理(NXPowerL)14 例4：1112,(0,1),nnnXXXUX XX設(shè)隨機(jī)變量相互獨(dú)立同分布，則依概率收斂嗎？如果依概率收斂，收斂于什么？111,ln(lnln)nnnnnnYXXZYXXn解：令則1nZnnPZYee 所以的連續(xù)函數(shù)1ln,ln,nXX而是相互獨(dú)立同分布

11、的，并且11100(ln)ln( ln)1 ,EXxdxxxx即存在數(shù)學(xué)期望。1.nPZ 由辛欽大數(shù)定律，大數(shù)定律和中心極限定理(NXPowerL)152 中心極限定理背景： 有許多隨機(jī)變量，它們是由大量的相互獨(dú)立的隨機(jī)變量的綜合影響所形成的，而其中每個(gè)個(gè)別的因素作用都很小，這種隨機(jī)變量往往服從或近似服從正態(tài)分布，或者說(shuō)它的極限分布是正態(tài)分布，中心極限定理正是從數(shù)學(xué)上論證了這一現(xiàn)象，它在長(zhǎng)達(dá)兩個(gè)世紀(jì)的時(shí)期內(nèi)曾是概率論研究的中心課題。 大數(shù)定律和中心極限定理(NXPowerL)16 定理四獨(dú)立同分布的中心極限定理210,1 .(,),nniinYNXN nn（近似）此定理表明，當(dāng) 充分大時(shí)，近似

12、服從即：11niiXXn思考題（n足夠大）：的近似分布是什么？2( ,)Nn答案：2122112,1,2,1,2niiniinnitxinnnXXXE XD XiXnnYnXnxRlim P Yxlim Pxedtn 設(shè)隨機(jī)變量相互獨(dú)立同分布，則前 個(gè)變量的和的標(biāo)準(zhǔn)化變量為：有： 1()()().niibnanP aXbnn 從而，注意：定理五的應(yīng)用大數(shù)定律和中心極限定理(NXPowerL)17 定理六棣莫佛-拉普拉斯定理221,(1)2tbAnannplim P abedtnpp由前定理1 0 iiAXiA第 次試驗(yàn)時(shí) 發(fā)生證明：令第 次試驗(yàn)時(shí) 未發(fā)生 2201 ,1,lim,(1)2Atb

13、AnannAP Appnnpa bP abedtnpp設(shè)為 重貝努里試驗(yàn)中 發(fā)生的次數(shù)，則對(duì)任何區(qū)間(，有：12, (1, ).niXXXXbp則相互獨(dú)立同分布,12,AnnXXX由于( , ),(,(1)AAnB n pnN np npp近似即: 若則 ()(1)()(1)AP anbbnpnppanpnpp 大數(shù)定律和中心極限定理(NXPowerL)18121616,X XX解：記 只電器元件的壽命分別為16116iiXX則只電器元件的壽命總和為,2100,100iiE XD X由題設(shè)2(1600,400 )XN近似根據(jù)獨(dú)立同分布的中心極限定理: 192011920P XP X 1920

14、16001400 10.80.2119 161611()()()16*1001600iiiiE XEXE X16162211()()()16*100400iiiiD XDXD X例例5 5：設(shè)某種電器元件的壽命服從均值為：設(shè)某種電器元件的壽命服從均值為100100小時(shí)的小時(shí)的指數(shù)分布，現(xiàn)隨機(jī)取得指數(shù)分布，現(xiàn)隨機(jī)取得1616只，設(shè)它們的壽命是相互只，設(shè)它們的壽命是相互獨(dú)立的獨(dú)立的, ,求這求這1616只元件的壽命的總和大于只元件的壽命的總和大于19201920小時(shí)的小時(shí)的概率。概率。大數(shù)定律和中心極限定理(NXPowerL)195000,0.005XXb解：設(shè) 為一年內(nèi)符合賠付條件的人數(shù)，則25

15、,25,(25,25)npnpqXN近似由中心極限定理得 200005000*16 200040000PX30 2520 25()2525) 11211 例例6 6：設(shè)保險(xiǎn)公司的某項(xiàng)保險(xiǎn)業(yè)務(wù)有：設(shè)保險(xiǎn)公司的某項(xiàng)保險(xiǎn)業(yè)務(wù)有50005000人參人參加，投保人交加，投保人交1616元元, ,若符合賠付條件時(shí)，保險(xiǎn)若符合賠付條件時(shí)，保險(xiǎn)公司付給投保人公司付給投保人20002000元。設(shè)賠付率為元。設(shè)賠付率為0.0050.005，試求保險(xiǎn)公司在這項(xiàng)保險(xiǎn)業(yè)務(wù)中盈利試求保險(xiǎn)公司在這項(xiàng)保險(xiǎn)業(yè)務(wù)中盈利2 2萬(wàn)到萬(wàn)到4 4萬(wàn)元的概率萬(wàn)元的概率. .2030PX0.6826大數(shù)定律和中心極限定理(NXPowerL)

16、20Y另解：設(shè) 為公司在該業(yè)務(wù)中的利潤(rùn)iiX設(shè)為公司在第 人業(yè)務(wù)中的所獲得的利潤(rùn)500021( ,)iiYXN 近似則：(2000040000)2(1) 1=0.6826PY 1619840.0050.995ikXP 例例6 6：設(shè)保險(xiǎn)公司的某項(xiàng)保險(xiǎn)業(yè)務(wù)有：設(shè)保險(xiǎn)公司的某項(xiàng)保險(xiǎn)業(yè)務(wù)有50005000人人參加，投保人交參加，投保人交1616元元, ,若符合賠付條件時(shí)，若符合賠付條件時(shí)，保險(xiǎn)公司付給投保人保險(xiǎn)公司付給投保人20002000元。設(shè)賠付率為元。設(shè)賠付率為0.0050.005，試求保險(xiǎn)公司在這項(xiàng)保險(xiǎn)業(yè)務(wù)中盈，試求保險(xiǎn)公司在這項(xiàng)保險(xiǎn)業(yè)務(wù)中盈利利2 2萬(wàn)到萬(wàn)到4 4萬(wàn)元的概率萬(wàn)元的概率. .

17、2( )30000,( )9975iiE XD XE YD Y)=6,)=19900,2(30000,9975 )YN近似大數(shù)定律和中心極限定理(NXPowerL)218400 0.02 0.982.81721(1)10.99382.8npnpqnpP XP Xnpq ，,400,0.02 XXb解：設(shè)機(jī)器出故障的臺(tái)數(shù)為則，分別用三種方法計(jì)算：1. 用二項(xiàng)分布計(jì)算40039921011 0.98400 0.02 0.980.9972P XP XP X 2. 用泊松分布近似計(jì)算400 0.028 ,21011 0.000335 0.0026840.9969npP XP XP X 3. 用正態(tài)分布

18、近似計(jì)算2621(2)10.98382.8npP XP Xnpq 例例7 7：設(shè)某工廠有：設(shè)某工廠有400400臺(tái)同類(lèi)機(jī)器，各臺(tái)機(jī)器發(fā)生故臺(tái)同類(lèi)機(jī)器，各臺(tái)機(jī)器發(fā)生故障的概率都是障的概率都是0.020.02，各臺(tái)機(jī)器工作是相互獨(dú)立的，各臺(tái)機(jī)器工作是相互獨(dú)立的，試求機(jī)器出故障的臺(tái)數(shù)不小于試求機(jī)器出故障的臺(tái)數(shù)不小于2 2的概率。的概率。P44P44大數(shù)定律和中心極限定理(NXPowerL)22 例例8 8：12012020202111,( 1,1)111123202020kkkkkkXXXUXXX設(shè)隨機(jī)變量相互獨(dú)立同分布，。分別求（），（），（）的近似分布。2020202111111202020kkkkkkXXX解：由中心極限定理，均近似服從正態(tài)分布。1()0,E X因?yàn)椋?1110(),E Xxdxxdx112214(),12D X132011(0,),20kkXN近似16022111()() (),D XE XE X1122011( ,)20kkXN近似11，2 2402422111()() (),D XE XE X1145945211( ,)nkkXNn近似11。3 22511222