(1.37)-概率論與數(shù)理統(tǒng)計第20講

1概率論與數(shù)理統(tǒng)計第20講第六章參數(shù)估計2在實際問題中,當(dāng)所研究的總體分布類型已知,但分布中含有一個或多個未知參數(shù)時,如何根據(jù)樣本來估計未知參數(shù),這就是參數(shù)估計問題.3參數(shù)估計問題分為點估計問題與區(qū)間估計問題兩類.所謂點估計就是用某一個函數(shù)值作為總體未知參數(shù)的估計量;區(qū)間估計就是對于未知參數(shù)給出一個范圍,并且在一定可靠度下使這個范圍包含未知參數(shù)的真值.4參數(shù)估計問題的一般提法

設(shè)有一個總體X,總體的分布函數(shù)為F(x,q),其中q為未知參數(shù)(q可以是向量).現(xiàn)從該總體中隨機地抽樣,得到一個樣本

X1,X2,…,Xn,

再依據(jù)該樣本對參數(shù)q作出估計,或估計參數(shù)q的某已知函數(shù)g(q).5§6.1點估計問題概述一,點估計的概念678二,評價估計量的標(biāo)準(zhǔn)

估計量的評價一般有三條標(biāo)準(zhǔn):

(1)無偏性;

(2)有效性;

(3)相合性(一致性)91011121314§6.2點估計的常用方法1516定義1

用相應(yīng)的樣本矩去估計總體矩的方法就稱為矩估計法.用矩估計法確定的估計量稱為矩估計量.相應(yīng)的估計值稱為矩估計值.矩估計量與矩估計值統(tǒng)稱為矩估計.17求矩估計的方法:

設(shè)總體X的分布函數(shù)F(x;q1,…,qk)中有k個未知參數(shù)q1,…,qk,則

(1)求總體X的前k階矩m1,…,mk,一般都是這k個未知參數(shù)的函數(shù),記為

mi=gi(q1,…,qk),i=1,2,…,k(2.1)

(2)從(1)中解得qi=hi(m1,…,mk),j=1,…,k

(3)再用mi的估計量Ai代替上式中的mi,即可得qj(j=1,2,…,k)的矩估計量:1819二,最大似然估計法

引例某同學(xué)與一位獵人一起去打獵,一只野兔從前方竄過,只聽一聲槍響,野兔應(yīng)聲倒下,試猜測是誰打中的?

由于只發(fā)一槍便打中,而獵人命中的概率大于這位同學(xué)命中的概率,故一般會猜測這一槍是獵人射中的.201.最大似然估計法的思想:在已經(jīng)得到實驗結(jié)果的情況下,應(yīng)該尋找使這個結(jié)果出現(xiàn)的可能性最大的那個q值作為q的估計

注:

最大似然估計法首先由德國數(shù)學(xué)家高斯于1821年提出,英國統(tǒng)計學(xué)家費歇于1922年重新發(fā)現(xiàn)并作了進一步的研究.

下面分別就離散型總體和連續(xù)型總體情形作具體討論.21(1)離散型總體的情形:設(shè)總體X的概率分布為 P{X=x}=p(x,q),(q為未知參數(shù)).

如果X1,X2,…,Xn是取自總體X的樣本,樣本的觀察值為x1,x2,…,xn,

則樣本的聯(lián)合分布律在給定觀察值的情況下,它是q的函數(shù),記為稱其為似然函數(shù).22(2)連續(xù)型總體的情形:設(shè)總體X的概率密度為f(x,q),其中q為未知參數(shù),此時定義似然函數(shù)2324252.求最大似然估計的一般方法

求未知參數(shù)q的最大似然估計問題,歸結(jié)為求似然函數(shù)L(q)的最大值點的問題.當(dāng)似然函數(shù)關(guān)于未知參數(shù)可微時,可利用微分學(xué)中求最大值的方法求之.2627注:

因函數(shù)lnL是L的單調(diào)增加函數(shù),且函數(shù)lnL(q)與函數(shù)L(q)有相同的極值點,故常轉(zhuǎn)化為求函數(shù)lnL(q)的最大值點較方便.

注:

①當(dāng)似然函數(shù)關(guān)于未知函數(shù)不可微時,只能按最大似然估計法的基本思想求出最大值點.

②上述方法易推廣至多個未知參數(shù)的情形.28例5

設(shè)X~b(1,p),X1,X2,…,Xn是取自總體X的一個樣本.試求參數(shù)p的最大似然估計.

解設(shè)x1,x2,…,xn是相應(yīng)于樣本X1,X2,…,Xn的一個樣本值,X的分布律為 P{X=x}=px(1-p)1-x,x=0,1.

故似然函數(shù)為29令30例6

設(shè)總體X服從[0,q]上的均勻分布,q未知.X1,…,Xn為X的樣本,x1,…,xn為樣本值.試求q的最大似然估計.

解似然函數(shù)為顯然無法從L'(q)=0得到最大似然估計.我們考慮直接按最大似然法的基本思想來確定.31欲使L(q)最大,q應(yīng)盡量小但又不能太小,它必須同時滿足

q

xi,i=1,…,n,

否則L(q)=0,而0不可能是L(q)的最大值.因此是最大似然估計值和估計量.32例7

設(shè)總體X服從指數(shù)分布,概率密度為l是未知參數(shù).x1,x2,…,xn是來自總體X的一個樣本觀察值,求參數(shù)l的最大似然估計值.33解似然函數(shù)則L的最大值點一定是的最大值點.34對其取對數(shù)得由得35例8

設(shè)x1,x