概率論與數理統(tǒng)計第7章7-1點估計

第七章參數估計數理統(tǒng)計的基本問題之一：根據樣本所提供的信息，對總體的分布以及分布的數字特征做出統(tǒng)計推斷．

統(tǒng)計推斷假設檢驗參數估計點估計區(qū)間估計（矩估計法、最大似然估計法）第一節(jié)點估計

教學內容

1矩估計法

2最大似然估計法教學重點矩估計法與最大似然估計法的應用

樣本統(tǒng)計量描述作出推斷研究統(tǒng)計量的性質和評價一個統(tǒng)計推斷的優(yōu)良性，完全取決于其抽樣分布的性質.隨機抽樣總體一、提出問題參數估計是統(tǒng)計推斷的基本問題之一,參數估計問題是利用從總體抽樣得到的信息來估計總體的某些參數或者參數的某些函數.在許多實際問題中,根據實踐經驗已經知道數據來自于某類分布總體,但總體中有些參數是未知的.問題:(1)在一定時間內某信息臺接到的呼叫次數X是一個隨機變量,由實踐經驗知道它服從泊松分布,而其中參數是多少呢？(2)調查男學生的身高，根據以往經驗，這些數據應該來自正態(tài)總體，我們怎樣才能得到這個正態(tài)總體的兩個參數呢？這類問題稱為參數估計.參數估計問題的一般提法X1,X2,…,Xn要依據該樣本對參數作出估計,或估計的某個已知函數.現從該總體抽樣，得樣本

設有一個統(tǒng)計總體,總體的分布函數為F(x,)，其中為未知參數(

可以是向量).

隨機抽查100個嬰兒,…得100個體重數據10,7,6,6.5,5,5.2,

…呢?據此,我們應如何估計和而全部信息就由這100個數組成.例1

已知某地區(qū)新生嬰兒的體重,未知我們知道,若,由大數定律,自然想到把樣本體重的平均值作為總體平均體重的一個估計.樣本體重的平均值則.用樣本體重的均值估計.

類似地，用樣本體重的方差估計.1.矩估計法

矩估計法是英國統(tǒng)計學家K.皮爾遜最早提出來的.由辛欽定理,若總體的數學期望有限,則有其中為連續(xù)函數.

這表明,

當樣本容量很大時,在統(tǒng)計上,可以用用樣本矩去估計總體矩.這一事實導出矩估計法.定義用樣本原點矩估計相應的總體原點矩,又用樣本原點矩的連續(xù)函數估計相應的總體原點矩的連續(xù)函數,這種參數點估計法稱為矩估計法

.

理論依據:

大數定律矩估計法的具體做法如下

設總體的分布函數中含有k個未知參數,那么它的前k階矩,一般都是這k個參數的函數,記為：i=1,2,…,k從這k個方程中解出j=1,2,…,kj=1,2,…,k那么用諸的估計量

Ai分別代替上式中的諸,即可得諸的矩估計量：矩估計量的觀察值稱為矩估計值

.矩估計(MomentEstimation)又稱數字特征法估計

即注意：上述方程的解

它們就是未知參數θ1，θ2，…，θ的矩估計．做法：用“總體矩等于樣本矩”列出矩方程（組），解之即得矩估計．解:由矩法,樣本矩總體矩從中解得的矩估計.即為數學期望是一階原點矩

例3

設總體X的概率密度為是未知參數,其中X1,X2,…,Xn是取自X的樣本,求參數的矩估計.解:由密度函數知

例4

設X1,X2,…,Xn是取自總體X的一個樣本其中>0,求的矩估計.具有均值為的指數分布故E(X-)=

D(X-)=即

E(X)=

D(X)=解得令用樣本矩估計總體矩即

E(X)=

E(X2)=2.最大似然法

它是在總體類型已知條件下使用的一種參數估計方法.

它首先是由德國數學家高斯在1821年提出的.GaussFisher

然而,這個方法常歸功于英國統(tǒng)計學家費歇.

費歇在1922年重新發(fā)現了這一方法，并首先研究了這種方法的一些性質.最大似然法的基本思想

先看一個簡單例子：一只野兔從前方竄過.是誰打中的呢？

某位同學與一位獵人一起外出打獵.如果要你推測，你會如何想呢?只聽一聲槍響，野兔應聲倒下.

你就會想，只發(fā)一槍便打中,獵人命中的概率一般大于這位同學命中的概率.看來這一槍是獵人射中的.

這個例子所作的推斷已經體現了極大似然法的基本思想.二、、最大似然估計法試求參數p的最大似然估計量。故似然函數為-------它與矩估計量是相同的。(4)在最大值點的表達式中,用樣本值代入就得參數的極大似然估計值.求極大似然估計(MLE)的一般步驟是：(1)由總體分布導出樣本的聯合概率函數

(或聯合密度);(2)把樣本聯合概率函數(或聯合密度)中自變量看成已知常數,而把參數看作自變量,

得到似然函數L();(3)求似然函數L()

的最大值點(常常轉化為求lnL()的最大值點)，即

的MLE;解：似然函數為對數似然函數為例6

設X1,X2,…Xn是取自總體X的一個樣本求的極大似然估計.其中

>0,求導并令其為0=0從中解得即為