概率論與數(shù)理統(tǒng)計(jì) 71(參數(shù)的點(diǎn)估計(jì))

第7章參數(shù)估計(jì)7.1參數(shù)的點(diǎn)估計(jì)7.2參數(shù)的區(qū)間估計(jì)參數(shù)估計(jì)問(wèn)題假設(shè)檢驗(yàn)問(wèn)題點(diǎn)估計(jì)區(qū)間估計(jì)統(tǒng)計(jì)推斷

DE基本問(wèn)題7-27.1.1點(diǎn)估計(jì)問(wèn)題的一般提法定義7.1

設(shè)總體X的分布函數(shù)F(x；1，2，…，m)的形式已知，但其中含有一個(gè)或多個(gè)未知參數(shù)：1，2，，m，又設(shè)X1，X2，…，Xn為總體的一個(gè)樣本，x1，x2，…，xn是樣本觀測(cè)值，構(gòu)造的m個(gè)統(tǒng)計(jì)量：用的觀測(cè)值作為未知參數(shù)i的近似值的方法稱為點(diǎn)估計(jì)法．

7.1.1點(diǎn)估計(jì)問(wèn)題的一般提法稱為未知參數(shù)i的估計(jì)量，稱為未知參數(shù)i的估計(jì)值．在不會(huì)混淆的情況下和均可稱為i的估計(jì).河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)設(shè)已知總體X的可能分布函數(shù)族為:

理論根據(jù):樣本矩(的連續(xù)函數(shù))依概率收斂于總體矩(的連續(xù)函數(shù)).其中為待估參數(shù).二、構(gòu)造估計(jì)量的兩種方法

1、矩估計(jì)法

矩估計(jì)法:用樣本矩(函數(shù))來(lái)估計(jì)總體矩(函數(shù)).河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)設(shè)總體X的前k階矩均存在,而樣本矩其中矩估計(jì)法就是:令總體的前k階矩分別與樣本的對(duì)應(yīng)階矩相等,即河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)可作為待估參數(shù)的估計(jì)量(稱為矩估計(jì)量),其觀察值為待估參數(shù)的估計(jì)值(稱為矩估計(jì)值).這是含k個(gè)待估參數(shù)的聯(lián)立方程組，其解河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)

確定待估參數(shù)的個(gè)數(shù)k,求出總體的前k階矩;求矩估計(jì)的步驟

解方程(組)

寫(xiě)出矩估計(jì)量和矩估計(jì)值.因此,會(huì)求總體矩,記住樣本矩,就可求出待估參數(shù)的矩估計(jì)量與矩估計(jì)值.河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)

【例1】設(shè)總體X服從[a,b]上的均勻分布,求未知參數(shù)a,b的矩估計(jì)量.

〖解〗兩個(gè)待估參數(shù)，連續(xù)型.先求總體的一,二階(原點(diǎn))矩.因?yàn)閄～U[a,b],所以由即河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)解得:■河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)

【例２】求正態(tài)總體N(μ,σ2)的兩個(gè)未知參數(shù)μ,σ2的矩估計(jì)量.

〖解〗兩個(gè)待估參數(shù)，連續(xù)型.先求總體的一,二階(原點(diǎn))矩.因?yàn)閄～N(μ,σ2),所以由河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì).

即解得μ,σ2的矩估計(jì)量分別為:■樣本二階中心矩，非修正樣本方差河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)

【例３】求服從二項(xiàng)分布B(m，p)的總體X未知參數(shù)p的矩估計(jì)量。

〖解〗單參數(shù)，離散型.由因?yàn)樗钥傮wX的一階矩(期望)為即故所求矩估計(jì)量為：■河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)

【例4】已知總體X的概率密度為:

〖解〗單參數(shù)，連續(xù)型.因?yàn)榭傮w一階矩

其中未知參數(shù)θ>0,求θ的矩估計(jì)量.由河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)故所求矩估計(jì)量為：即解得:■河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)

【例5】已知總體X的概率密度為:

〖解〗單參數(shù)，連續(xù)型.因?yàn)榭傮w一階矩

其中未知參數(shù)θ>0,求θ的矩估計(jì)量.不含θ，故不能由“樣本一階矩=總體一階矩”解得所求矩估計(jì)，需要繼續(xù)求二階矩：河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)

由“樣本二階矩=總體二階矩”得：于是,所求矩估計(jì)量為：■Γ函數(shù)定義河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)2、極大似然估計(jì)法

一位老獵人與他的徒弟一起打獵,兩人同時(shí)向一獵物射擊,結(jié)果該獵物身中一彈,你認(rèn)為誰(shuí)打中的可能性最大?

根據(jù)經(jīng)驗(yàn)而斷:老獵人打中獵物的可能性最大.(1、極大似然估計(jì)法的思想最大似然估計(jì)法例如:

有兩外形相同的箱子,各裝100個(gè)球一箱99個(gè)白球1個(gè)紅球一箱1個(gè)白球99個(gè)紅球現(xiàn)從兩箱中任取一箱,并從箱中任取一球,結(jié)果所取得的球是白球.答:第一箱.7-17問(wèn):所取的球來(lái)自哪一箱？法三若X1，X2，…，Xn為總體X的一個(gè)樣本，當(dāng)樣本觀測(cè)值x1,x2,…,xn出現(xiàn)時(shí)，若要估計(jì)總體X中的未知參數(shù)θ，自然要選取使x1,x2,…,xn出現(xiàn)的“概率”達(dá)到最大的作為θ的估計(jì)值了．

7.1.3最大似然估計(jì)一般說(shuō)，事件A發(fā)生的概率與參數(shù)有關(guān)，取值不同，則P(A)也不同。因而應(yīng)記事件A發(fā)生的概率為P(A|).若A發(fā)生了，則認(rèn)為此時(shí)的值應(yīng)是在中使P(A|)達(dá)到最大的那一個(gè)。這就是極大似然思想河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)

單參數(shù)情形下面分離散型與連續(xù)型總體來(lái)討論.(2、極大似然估計(jì)的求法設(shè)離散型總體X的分布律形式已知,θ為待估參數(shù).為來(lái)自總體X的樣本,為其樣本值,則的聯(lián)合分布律為:根據(jù)總體分布律寫(xiě)出似然函數(shù)：換x為xi河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)這正是事件“樣本取得樣本值”的概率,稱之為樣本的似然函數(shù),它是待估參數(shù)θ的函數(shù).

極大似然估計(jì)法：對(duì)固定的樣本值,在參數(shù)空間中選取使似然函數(shù)達(dá)到最大的參數(shù)值作為參數(shù)θ的估計(jì)值(稱為極大似然估計(jì)值),它為樣本值的函數(shù),記為相應(yīng)統(tǒng)計(jì)量稱為參數(shù)θ的極大似然估計(jì)量.河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)設(shè)連續(xù)型總體X的概率密度

事件“樣本取值落在樣本值的鄰域”的概率近似為形式已知,θ為待估參數(shù)。來(lái)自總體X的樣本,

為其樣本值，則的聯(lián)合概率密度為:河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)達(dá)到最大值,

極大似然估計(jì)法：對(duì)固定的樣本值,在參數(shù)空間中選取使上述概率達(dá)到最大的參數(shù)值作為參數(shù)θ的估計(jì)值(稱為極大似然估計(jì)值)。由于因子與θ無(wú)關(guān),故也使樣本的似然函數(shù)稱為參數(shù)θ的極大似然估計(jì)量。河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)①、依據(jù)總體X的分布律或概率密度寫(xiě)出樣本的似然函數(shù):綜上可得,求極大似然估計(jì)的步驟求最大似然估計(jì)量的步驟:費(fèi)舍爾最大似然估計(jì)法是由費(fèi)舍爾引進(jìn)的.最大似然估計(jì)法也適用于分布中含有多個(gè)未知參數(shù)的情況.此時(shí)只需令對(duì)數(shù)似然方程組對(duì)數(shù)似然方程河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)

【例7】求正態(tài)總體N(μ,σ2)的兩個(gè)未知參數(shù)μ,σ2的似然估計(jì)量.

〖解〗雙參數(shù)，連續(xù)型.因?yàn)閄~N(μ,σ2),所以X總體的概率密度為設(shè)為樣本的一個(gè)樣本值,則似然函數(shù)為:河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)從而,取對(duì)數(shù)得:由似然方程組視σ2為整體河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)解得μ,σ2的極大似然估計(jì)值為:從而μ,σ2的極大似然估計(jì)量為:■【例7.5】設(shè)總體X的概率密度為其中θ(θ

>–

1)為待估參數(shù)，求θ的最大似然估計(jì)量．

解：設(shè)X1，X2，…，Xn為總體X的一個(gè)樣本，x1，x2，…，xn是樣本觀測(cè)值．基于x1，x2，…，xn的似然函數(shù)為當(dāng)時(shí)，，7.1.3最大似然估計(jì)令解得考慮到所以，θ的最大似然估計(jì)值為θ的最大似然估計(jì)量為

7.1.3最大似然估計(jì)

【例7.4】總體X服從參數(shù)為的泊松分布，（

>0）未知，求參數(shù)的最大似然估計(jì)量．

解：設(shè)X1,X2,…,Xn是來(lái)自X的樣本，x1,x2,…,xn是樣本觀測(cè)值．由于X的分布律為故基于x1,x2,…,xn的似然函數(shù)為對(duì)數(shù)似然函數(shù)為對(duì)數(shù)似然方程為7.1.3最大似然估計(jì)解之得考慮到所以即為的最大似然估計(jì)值，的最大似然估計(jì)量為7.1.3最大似然估計(jì)河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)

【例8】設(shè)總體X服從[a,b]上的均勻分布,求未知參數(shù)a,b的極大似然估計(jì)量.

〖解〗雙參數(shù)，連續(xù)型.因?yàn)樗訶的概率密度為設(shè)為樣本的一個(gè)樣本值,記河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)由于所以,似然函數(shù)為對(duì)于滿足的任意a,b有河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)即故a,b的極大似然估計(jì)值為:故a,b的極大似然估計(jì)量為:■

本例直接利用極大似然思想方法來(lái)求似然估計(jì).河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)對(duì)于同一個(gè)參數(shù),用不同方法求出的估計(jì)量可能不同.那么,采用哪一個(gè)估計(jì)量為好呢?用何種標(biāo)準(zhǔn)來(lái)評(píng)判估計(jì)量的優(yōu)劣?下面,介紹幾個(gè)常用標(biāo)準(zhǔn).

1、無(wú)偏性

定義設(shè)估計(jì)量存在期望,且對(duì)任意有三、估計(jì)量的評(píng)選標(biāo)準(zhǔn)則稱為的無(wú)偏估計(jì)量.河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)稱為用來(lái)估計(jì)的系統(tǒng)誤差.因此,無(wú)偏估計(jì)就是說(shuō)無(wú)系統(tǒng)誤差.河南理工大學(xué)精品課程概率論與數(shù)理統(tǒng)計(jì)

【例】設(shè)總體X存在均值μ與方差σ2>0,則

〖解〗因?yàn)?/p>

1、樣本均值是總體均值μ的無(wú)偏估計(jì);

2、樣本方差是總體方差σ2的無(wú)偏估計(jì).

7.1.4估計(jì)量的評(píng)價(jià)標(biāo)準(zhǔn)所以，B2不是總體方差D(X)的無(wú)偏估計(jì)，盡管B2是D(X)的矩估計(jì)量．我們可以把看作對(duì)B2的修正．由于它具有無(wú)偏性，在實(shí)際應(yīng)用中常被采用．另一方面，由于因此，又稱B2是D(X)的漸近無(wú)偏估計(jì)．7.1.4估計(jì)量的評(píng)價(jià)標(biāo)準(zhǔn)【例7.8】求證：樣本標(biāo)準(zhǔn)差S不是總體標(biāo)準(zhǔn)差的無(wú)偏估計(jì)．

證：因?yàn)?，即．又因，所以即故一般?lái)說(shuō)，S不是

的無(wú)偏估計(jì)．7.1.4估計(jì)量的評(píng)價(jià)標(biāo)準(zhǔn)定義7.3

設(shè)都是參數(shù)θ的無(wú)偏估計(jì)，若則稱比有效．例如，設(shè)總體X的方差存在，X1,X2,…,Xn(n>2)為總體X的一個(gè)樣本，易知,均為

的無(wú)偏估計(jì),又有所以,當(dāng)n>2時(shí)，最有效，較X1有效．7.1.4估計(jì)量的評(píng)價(jià)標(biāo)準(zhǔn)【例7.9】設(shè)總體X服從參數(shù)為θ的指數(shù)分布，概率密度為其中θ>0為未知,X1,X2,…,X