Chap5大數(shù)定律和中心極限定理

第5章極限定理第一節(jié)大數(shù)定律第二節(jié)中心極限定理第一節(jié)大數(shù)定律我們已經(jīng)知道，一個隨機(jī)事件發(fā)生的頻率隨試驗(yàn)的次數(shù)n的增大而呈現(xiàn)出穩(wěn)定性。事實(shí)上，大量的隨機(jī)現(xiàn)象的平均結(jié)果也具有穩(wěn)定性。概率論中用來闡明大量隨機(jī)現(xiàn)象平均結(jié)果的穩(wěn)定性的一系列定理，稱為大數(shù)定律（lawoflargenumber).

設(shè)Y為連續(xù)型隨機(jī)變量，概率密度函數(shù)為f(y).

因?yàn)閥只取非負(fù)值，則當(dāng)y<0時(shí)，有f(y)=0.對任意正數(shù)ε，有證明：引理1（馬爾科夫Markov不等式）若Y為只取非負(fù)值的隨機(jī)變量，則對任意的正數(shù)ε，有當(dāng)Y是離散型隨機(jī)變量時(shí)同理可證。

在馬爾科夫不等式中，令Y=(X-μ)2,ε換成ε2，則有證明：引理1（馬爾科夫Markov不等式）若Y為只取非負(fù)值的隨機(jī)變量，則對任意的正數(shù)ε，有定理1（切比雪夫Chebyshev不等式）設(shè)隨機(jī)變量X具有期望E(X)=μ，方差D(X)=σ2,則對任意的正數(shù)ε，有說明：常用切比雪夫不等式的等價(jià)形式上式說明：當(dāng)X的方差越小時(shí)，事件{|X-E(X)|<ε}發(fā)生的概率就越大，即X的取值就基本集中在它的期望附近。無論X的分布已知還是未知，只要其期望μ和方差σ2

已知，即可估計(jì)概率值P(|X-μ|<ε)或P(|X-μ|≥ε).例如

以X表示1000次重復(fù)獨(dú)立試驗(yàn)中事件A發(fā)生的次數(shù)，則X~B(1000,0.5).因此解：例1設(shè)在一次試驗(yàn)中事件A發(fā)生的概率是0.5，利用切比雪夫不等式估計(jì)：在1000次重復(fù)獨(dú)立試驗(yàn)中A發(fā)生的次數(shù)在400至600之間的概率。由切比雪夫不等式可得即在1000次重復(fù)獨(dú)立試驗(yàn)中，A

發(fā)生的次數(shù)在400至600之間的概率至少為0.975.定義1若對于任意自然數(shù)n>1,X1,X2,…,Xn相互獨(dú)立，則稱隨機(jī)變量序列X1,X2,…,Xn,…是相互獨(dú)立的。注：上式的一個等價(jià)形式為定義2設(shè)X1,X2,…,Xn,…是相互獨(dú)立的隨機(jī)變量序列，若對任意正數(shù)ε，均有則稱隨機(jī)變量序列{Xn}依概率收斂于隨機(jī)變量X，記為或定理2（馬爾科夫Markov大數(shù)定律）設(shè)X1,X2,…,Xn,…是一個隨機(jī)變量序列，若對所有的n≥1,方差D(Xi)存在，且則對任給的正數(shù)ε，有注：若令即有證明：由可知，對任給正數(shù)ε，由切比雪夫不等式可得即推論2（切比雪夫大數(shù)定律）設(shè)X1,X2,…,Xn,…是相互獨(dú)立的隨機(jī)變量序列，若存在常數(shù)C，使得Xi的方差有公共上界，即則對任給的正數(shù)ε，有特別地，如果X1,X2,…,Xn,…有相同的期望E(X),則有由獨(dú)立性和有界性可知證明：再由定理2即得證。推論3（泊松大數(shù)定律）設(shè)X1,X2,…,Xn,…是相互獨(dú)立的隨機(jī)變量序列，Xi有分布律則對任給的正數(shù)ε，有由于證明：再由推論2即得證。推論4（伯努利大數(shù)定律）設(shè)μn是n次伯努利試驗(yàn)中事件A發(fā)生的次數(shù)，p是事件A在每次試驗(yàn)中發(fā)生的概率，則對任給的正數(shù)ε，有記證明：再由推論3即得證。則Xi的分布律是說明：該定律表明事件A發(fā)生的頻率依概率收斂于事件A的概率p.它以嚴(yán)格的形式表達(dá)了頻率的穩(wěn)定性，表明在實(shí)際應(yīng)用中可通過多次重復(fù)一個試驗(yàn)，用頻率近似作為事件A的概率p.說明：上式的一個等價(jià)形式為此定律表明：在相同的條件下重復(fù)觀測n次X，當(dāng)n充分大時(shí)，“觀測值的算術(shù)平均值接近于期望”是一個大概率事件。推論5（辛欽大數(shù)定律）設(shè)X1,X2,…,Xn,…是獨(dú)立同分布的隨機(jī)變量序列，若它們的數(shù)學(xué)期望E(X)存在，則對任給的正數(shù)ε，有證明：略。第二節(jié)中心極限定理客觀背景：客觀實(shí)際中，許多隨機(jī)變量是由大量相互獨(dú)立的偶然因素的綜合影響所形成，每一個微小因素，在總的影響中所起的作用是很小的，但總起來，卻對總和有顯著影響，這種隨機(jī)變量往往近似地服從正態(tài)分布。概率論中有關(guān)論證獨(dú)立隨機(jī)變量的和的極限分布是正態(tài)分布的一系列定理稱為中心極限定理。定理1（林德伯格-列維Lindeberg-Levy定理）設(shè)X1,X2,…,Xn,…是獨(dú)立同分布的隨機(jī)變量序列，且它們具有有限的期望E(Xi)=μ和方差D(Xi)=σ2>0，i=1,2,…,則對任何實(shí)數(shù)x，隨機(jī)變量滿足如下極限式證明：略。說明：此定律表明：隨機(jī)變量序列Y1,Y2,…,Yn,…的分布函數(shù)序列F1(x),F2(x),…,Fn(x),…的極限分布函數(shù)是Φ(x),即Yn的極限分布是N(0,1).對于獨(dú)立隨機(jī)變量序列X1,X2,…,Xn,…，不管Xi(i=1,2,…)

服從什么分布，只要它們同分布，且有有限的期望和方差，那么當(dāng)n充分大時(shí)，X1+X2+…+Xn近似地服從正態(tài)分布

N(nμ,nσ2).由于Xi的分布在一定程度上可以是任意的，一般來說，X1+X2+…+Xn

的分布難以確切求出。但是只要n很大，就能通過Φ(x)給出X1+X2+…+Xn

的分布函數(shù)的近似值。這也是正態(tài)分布在概率論中占有重要地位的一個基本原因。由于“正態(tài)分布的線性函數(shù)仍然服從正態(tài)分布”，因此對上述{Xn}近似地有例1

設(shè)一批產(chǎn)品的強(qiáng)度服從期望為14，方差為4的分布，每箱裝有該產(chǎn)品100件，問：（1）每箱產(chǎn)品的平均強(qiáng)度超過14.5的概率是多少？（2）每箱產(chǎn)品的平均強(qiáng)度在14至14.5之間的概率是多少？解:

n=100可以認(rèn)為比較大。設(shè)Xi是第i件產(chǎn)品的強(qiáng)度，E(Xi)=14,D(Xi)=4,i=1,2,…,100.并記則每箱產(chǎn)品的平均強(qiáng)度根據(jù)定理1，近似地有例1

設(shè)一批產(chǎn)品的強(qiáng)度服從期望為14，方差為4的分布，每箱裝有該產(chǎn)品100件，問：（1）每箱產(chǎn)品的平均強(qiáng)度超過14.5的概率是多少？（2）每箱產(chǎn)品的平均強(qiáng)度在14至14.5之間的概率是多少？續(xù)解:由于

于是定理2（棣莫弗—拉普拉斯DeMoivre-Laplace定理）設(shè)X1,X2,…,Xn,…是相互獨(dú)立的隨機(jī)變量序列，且都服從參數(shù)為p的兩點(diǎn)分布，即P(Xi=1)=p,P(Xi=0)=1-p,0<p<1,i=1,2,…,則對任何實(shí)數(shù)x，有證明：由于E(Xi)=p,D(Xi)=p(1-p),i=1,2,…,則由定理1得證。注意：此定理表明,若Xi(i=1,2,…)服從兩點(diǎn)分布，則

X1+X2+…+Xn

服從二項(xiàng)分布B(n,p).二項(xiàng)分布的極限是正態(tài)分布，即當(dāng)n很大時(shí)，二項(xiàng)分布也可以用正態(tài)分布近似表示。一般地，如果則近似地有且有如果n較小，通常采用修正公式

例2

某高校有400名教師參加全國職稱外語考試，按歷年資料統(tǒng)計(jì)，該考試的平均通過率為0.8.試計(jì)算這400名教師中至少有300人通過的概率？解:記則這400名教師通過考試的人數(shù)X1+X2+…+X400

服從B(400,0.8),根據(jù)棣莫弗-拉普拉斯定理，近似地有因此有即這400名教師中至少有300人通過考試的概率為0.9938.例3現(xiàn)有一大批種子，其中良種占1/6，今在其中任選6000粒，試問在這些種子中良種所占的比例與1/6之差小于1%的概率是少？解:記選一粒種子可以看成是一次伯努利試驗(yàn)，若以X表示6000粒種子中的良種粒數(shù)，則X~B(6000,1/6),根據(jù)棣莫弗-拉普拉斯定理,近似地有因此有例3*