5.3.2-參數(shù)估計課件

5.3.2參數(shù)估計1ch7-1參數(shù)估計問題假設(shè)檢驗(yàn)問題點(diǎn)估計區(qū)間估計統(tǒng)計推斷

DE基本問題2ch7-1什么是參數(shù)估計？參數(shù)是刻畫總體某方面概率特性的數(shù)量.當(dāng)此數(shù)量未知時,從總體抽出一個樣本，用某種方法對這個未知參數(shù)進(jìn)行估計就是參數(shù)估計.例如，X~N(,2),

點(diǎn)估計區(qū)間估計若,2未知,通過構(gòu)造樣本的函數(shù),給出它們的估計值或取值范圍就是參數(shù)估計的內(nèi)容.3ch7-1參數(shù)估計的類型點(diǎn)估計——估計未知參數(shù)的值區(qū)間估計——估計未知參數(shù)的取值范圍，并使此范圍包含未知參數(shù)真值的概率為給定的值.4ch7-1點(diǎn)估計方法點(diǎn)估計的思想方法設(shè)總體X的分布函數(shù)的形式已知,但含有一個或多個未知參數(shù)：

1,

2,,

k設(shè)

X1,X2,…,Xn為總體的一個樣本構(gòu)造k個統(tǒng)計量：隨機(jī)變量5ch7-1當(dāng)測得樣本值(x1,x2,…,xn)時,代入上述方程組，即可得到k個數(shù)：數(shù)值稱數(shù)為未知參數(shù)的估計值對應(yīng)統(tǒng)計量為未知參數(shù)的估計量并建立k個方程。6ch7-1三種常用的點(diǎn)估計方法

頻率替換法利用事件A

在n

次試驗(yàn)中發(fā)生的頻率作為事件A

發(fā)生的概率p

的估計量7ch7-1例1

設(shè)總體X~N(,2

),在對其作28次獨(dú)立觀察中,事件“X<4”出現(xiàn)了21次,試用頻率替換法求參數(shù)

的估計值.解

由查表得于是

的估計值為8ch7-1方法用樣本

k

階矩作為總體

k

階矩的估計量,建立含有待估參數(shù)的方程,從而解出待估參數(shù)一般,不論總體服從什么分布,總體期望

與方差

2存在,則它們的矩估計量分別為

矩估計法9ch7-1事實(shí)上，按矩法原理，令10ch7-1設(shè)待估計的參數(shù)為設(shè)總體的

r

階矩存在，記為樣本X1,X2,…,Xn

的r階矩為令——含未知參數(shù)

1,

2,,

k的方程組11ch7-1解方程組,得k

個統(tǒng)計量：未知參數(shù)

1,,

k

的矩估計量代入一組樣本值得k個數(shù):未知參數(shù)

1,,

k

的矩估計值12ch7-1例2設(shè)總體X~N(,2),X1,X2,…,Xn為總體的樣本,求,2的矩法估計量.解例3設(shè)總體X~E(

),X1,X2,…,Xn為總體的樣本,求

的矩法估計量.解令故13ch7-1例4設(shè)從某燈泡廠某天生產(chǎn)的燈泡中隨機(jī)抽取10只燈泡，測得其壽命為(單位:小時)1050,1100,1080,1120,12001250,1040,1130,1300,1200試用矩法估計該廠這天生產(chǎn)的燈泡的平均壽命及壽命分布的方差.解14ch7-1

極大似然估計法思想方法：一次試驗(yàn)就出現(xiàn)的事件有較大的概率例如:有兩外形相同的箱子,各裝100個球一箱99個白球1個紅球一箱1個白球99個紅球現(xiàn)從兩箱中任取一箱,并從箱中任取一球,結(jié)果所取得的球是白球.答:第一箱.問:所取的球來自哪一箱？15ch7-1例5

設(shè)總體X服從0-1分布,且P(X=1)=p,

用極大似然法求

p

的估計值.解總體X的概率分布為設(shè)x1,x2,…,xn為總體樣本X1,X2,…,Xn的樣本值,則16ch7-1對于不同的p,L(p)不同,見右下圖現(xiàn)經(jīng)過一次試驗(yàn)，發(fā)生了，事件則

p

的取值應(yīng)使這個事件發(fā)生的概率最大.17ch7-1在容許范圍內(nèi)選擇

p，使L(p)最大注意到，ln

L(p)是L的單調(diào)增函數(shù),故若某個p

使ln

L(p)最大,則這個p必使L(p)最大。所以為所求p的估計值.18ch7-1一般,設(shè)X為離散型隨機(jī)變量,其分布律為則樣本X1,X2,…,Xn的概率分布為或稱L()為樣本的似然函數(shù)19ch7-1稱這樣得到的為參數(shù)

的極大似然估計值稱統(tǒng)計量為參數(shù)

的極大似然估計量

MLE簡記

mle簡記選擇適當(dāng)?shù)?,使取最大值,即L()極大似然法的思想20ch7-1若X

連續(xù),取f(xi,

)為Xi

的密度函數(shù)似然函數(shù)為注1注2未知參數(shù)可以不止一個,如

1,…,

k

設(shè)X

的密度(或分布)為則定義似然函數(shù)為21ch7-1若關(guān)于

1,…,

k可微,則稱為似然方程組若對于某組給定的樣本值x1,x2,…,xn，參數(shù)使似然函數(shù)取得最大值,即則稱為

1,…,

k

的極大似然估計值22ch7-1顯然，稱統(tǒng)計量為

1,

2,…,

k

的極大似然估計量23ch7-1例6

設(shè)總體X~N(

,

2),x1,x2,…,xn

是

X

的樣本值,求

,

2的極大似然估計.解24ch7-1

,

2的極大似然估計量分別為似然方程組為25ch7-1極大似然估計方法步驟1）寫出似然函數(shù)L2）求出,使得26ch7-1可得未知參數(shù)的極大似然估計值然后,再求得極大似然估計量.L是的可微函數(shù),解似然方程組若

L不是的可微函數(shù),需用其它方法求極大似然估計值.若27ch7-1點(diǎn)估計的評價標(biāo)準(zhǔn)對于同一個未知參數(shù),不同的方法得到的估計量可能不同,于是提出問題應(yīng)該選用哪一種估計量?用何標(biāo)準(zhǔn)來評價一個估計量的好壞?常用標(biāo)準(zhǔn)(1)無偏性(3)一致性(2)有效性28ch7-1若則稱是

的無偏估計量.

無偏性我們不可能要求每一次由樣本得到的估計值與真值都相等，但可以要求這些估計值的期望與真值相等.定義的合理性：29ch7-1是總體X的樣本,證明:不論

X服從什么分布(但期望存在),是的無偏估計量.證例1

設(shè)總體X的

k

階矩存在因而由于則30ch7-1特別地樣本二階原點(diǎn)矩是總體是總體期望E(X)的樣本均值無偏估計量的無偏二階原點(diǎn)矩估計量31ch7-1都是總體參數(shù)

的無偏估計量,且則稱比更有效.設(shè)有效性32ch7-1所以,比更有效.是

的無偏估計量,問哪個估計量更有效？由例4可知,與都為常數(shù)例2

設(shè)總體X

的密度函數(shù)為解

，33ch7-1設(shè)是總體參數(shù)

則稱是總體參數(shù)

的一致(或相合)估計量.的估計量.若對于任意的

,

當(dāng)n

時,一致性依概率收斂于

,即一致性估計量僅在樣本容量

n足夠大時,才顯示其優(yōu)越性.34ch7-1區(qū)間估計引例已知X~N(

,1),不同樣本算得的

的估計值不同，因此除了給出

的點(diǎn)估計外,還希望根據(jù)所給的樣本確定一個隨機(jī)區(qū)間,使其包含參數(shù)真值的概率達(dá)到指定的要求.

的無偏、有效點(diǎn)估計為隨機(jī)變量常數(shù)35ch7-1如引例中，要找一個區(qū)間,使其包含

的真值的概率為0.95.(設(shè)n=5)取查表得36ch7-1這說明即稱隨機(jī)區(qū)間為未知參數(shù)

的置信度為0.95的置信區(qū)間.37ch7-1反復(fù)抽取容量為5的樣本,都可得一個區(qū)間,此區(qū)間不一定包含未知參數(shù)

的真值,而包含真值的區(qū)間占95%.置信區(qū)間的意義若測得一組樣本值,它可能包含也可能不包含

的真值,反復(fù)則得一區(qū)間(1.86–0.877,1.86+0.877)抽樣得到的區(qū)間中有95%包含

的真值.算得38ch7-1當(dāng)置信區(qū)間為時區(qū)間的長度為——達(dá)到最短39ch7-1取

=0.0540ch7-1設(shè)

為待估參數(shù),

是一給定的數(shù),(0<<1).

若能找到統(tǒng)計量,使則稱為

的置信水平為1-

的置信區(qū)間或區(qū)間估計.置信下限置信上限置信區(qū)間的定義41ch7-1

反映了估計的可靠度,

越小,越可靠.置信區(qū)間的長度反映了估計精度

越小,1-越大,估計的可靠度越高,但

確定后,置信區(qū)間的選取方法不唯一,

常選最小的一個.幾點(diǎn)說明越小,估計精度越高.這時,往往增大,因而估計精度降低.42ch7-1求參數(shù)置信區(qū)間保證可靠性先提高精度再處理“可靠性與精度關(guān)系”的原則43ch7-1尋找一個樣本的函數(shù)它含有待估參數(shù),不含其它未知參數(shù),它的分布已知,且分布不依賴于待估參數(shù)(常由

的點(diǎn)估計出發(fā)考慮

).例如求置信區(qū)間的步驟—稱為樞軸量取樞軸量44ch7-1給定置信度1

,定出常數(shù)a,b,使得(引例中由解出得置信區(qū)間

引例中

45ch7-1一個正態(tài)總體X~N(

2)的情形置信區(qū)間常用公式(1)方差

2已知,

的置信區(qū)間推導(dǎo)由選取樞軸量46ch7-1由確定解得

的置信度為的置信區(qū)間為47ch7-1(2)方差

2未知,

的置信區(qū)間

由確定故

的置信區(qū)間為推導(dǎo)

選取樞軸量48ch7-1(3)當(dāng)

已知時,方差

2的置信區(qū)間取樞軸量，得

2

的置信度為置信區(qū)間為

由概率49ch7-1(4)當(dāng)

未知時,方差

2的置信區(qū)間選取得

2的置信區(qū)間為

??則由50ch7-1例1

某工廠生產(chǎn)一批滾珠,其直徑X服從解

(1)即正態(tài)分布N(

2),現(xiàn)從某天的產(chǎn)品中隨機(jī)(1)若

2=0.06,求

的置信區(qū)間(2)若

2未知,求

的置信區(qū)間(3)求方差

2的置信區(qū)間.抽取

6

件,

測得直徑為15.1,

14.8,

15.2,

14.9,

14.6,

15.1置信度均為0.9551ch7-1由給定數(shù)據(jù)算得由公式(1)得

的置信區(qū)間為(2)取查表由給定數(shù)據(jù)算得52ch7-1由公式(4)得

2

的置信區(qū)間為(3)選取樞軸量查表得由公式(2)得

的置信區(qū)間為53ch7-1單側(cè)置信區(qū)間是總體X的樣本,若能確定一個統(tǒng)計量使得則稱為置信度為1-

的單側(cè)置信區(qū)間.

單側(cè)置信下限單側(cè)置信上限