最大似然估計法

參數(shù)估計點估計區(qū)間估計矩估計法（7.2.1）最大似然估計

(7.2.2)第七章參數(shù)估計假設(shè)一個總體服從正態(tài)分布從總體中獲取了n個樣本估計正態(tài)總體的

其基本思想是用樣本矩估計總體矩

.

理論依據(jù):

矩估計法是基于一種簡單的“替換”思想建立起來的一種估計方法.是英國統(tǒng)計學家K.皮爾遜最早提出的.大數(shù)定律

7.2.2最大似然估計法最大似然估計法是在總體的分布類型已知的條件下所使用的一種參數(shù)估計方法.

它首先是由德國數(shù)學家高斯在1821年提出的.GaussFisher然而，這個方法常歸功于英國統(tǒng)計學家費歇.

費歇在1922年重新發(fā)現(xiàn)了這一方法，并首先研究了這種方法的一些性質(zhì).

最大似然估計法是基于最大似然原理提出的。為了說明最大似然原理,我們先看個例子。

例子：一只野兔從前方竄過，是誰擊中的野兔,某同學與一位獵人一起外出打獵。忽然，若讓你推測一下，你會怎樣想?只聽一聲槍響，野兔應(yīng)聲倒下.為了進一步體會最大似然估計法的思想,我們再看一個例子.你會想：只一槍便擊中,一般情況下獵人擊中的概率比同學擊中的概率大。

故這一槍極大可能是獵人打的。

你的這一想法中就已經(jīng)包含了最大似然原理的基本思想.

例如：有一事件A，我們知道它發(fā)生的概率p只可能是:試讓你推想一下p應(yīng)取何值?p=0.1，0.3或0.6

若在一次觀測中，事件A竟然發(fā)生了，你自然會認為事件A發(fā)生的概率是0.6，而非其他數(shù)值。最大似然原理：概率大的事件在一次觀測中更容易發(fā)生。在一次觀測中發(fā)生了的事件其概率應(yīng)該大小結(jié)：最大似然估計法的一般步驟：（２）取對數(shù)（３）求導數(shù)，得駐點，最大值點（４）作結(jié)論（1）寫似然函數(shù)L例：設(shè)總體X服從參數(shù)為λ的指數(shù)分布，（x1,x2,…,xn）為樣本觀察值，求λ的最大似然估計值。解：總體X的概率密度函數(shù)為：似然函數(shù)為：①②③取對數(shù)得，④所以θ的最大似然估計值為:練習1:

設(shè)總體X的分布律為：0<p<1,p未知

,

求參數(shù)p的最大似然估計量.解:總體X的分布律為：設(shè)(X1,X2,…,Xn)是來自總體X的樣本。似然函數(shù)為：解得p的最大似然估計量為：p的最大似然估計值為：解：θ的似然函數(shù)為：取對數(shù)練習2：設(shè)(X1,X2,…Xn)是來自總體X的一個樣本求θ的最大似然估計量．其中

>0,求導并令其為0=0從中解得

即為θ的最大似然估計值。

即為θ的最大似然估計量。例

設(shè)總體X~N(),未知.是來自X

的樣本值,試求的最大似然估計量.似然函數(shù)為解X的概率密度為于是令解得的最大似然估計量為

由上可見：同一個未知參數(shù)，會有不同的估計量，那末如何評價它們的好壞呢？這就涉及到估計量的評選標準問題。1、無偏性無偏性要求估計量的取值要以參數(shù)真值為中心左右擺動。它等同于估計量的數(shù)學期望等于待估參數(shù)的真值。一個好的估計量應(yīng)滿足無偏性、有效性和一致性的要求。

衡量點估計量好壞的標準證明:

討論：對總體X～N(μ,σ2)來說，樣本(X1,X2,…,Xn)中的X1與都是μ的無偏估計量嗎？是θ的兩個無偏估計量，若2、有效性當時依概率收斂于,則稱為的一致估計量.設(shè)是參數(shù)

的估計量，為的一致估計量對于任意,有三、一致性四、小結(jié)對于一個未知參數(shù)