概率課件：7.1 點估計

1、第七章 參數(shù)估計統(tǒng)計推斷:利用樣本提供的信息對總體的某些統(tǒng) 計特性進行估計或判斷，從而認識總體。(1)參數(shù)估計(第七章）(2)假設(shè)檢驗(第八章)統(tǒng)計推斷分為兩大類: 從本章開始，討論數(shù)理統(tǒng)計學的基本問題-統(tǒng)計推斷。參數(shù)估計 的主要內(nèi)容1 點估計2 估計量的評選標準3 區(qū)間估計3.1 正態(tài)總均值與方差的區(qū)間估計3.2 單側(cè)置信區(qū)間 設(shè)總體X 的分布函數(shù)的形式已知，但是它的某些參數(shù)是未知的，通過總體的一個樣本來估計總體未知參數(shù)的值的問題稱為參數(shù)的點估計問題7.1 點估計一、 矩估計法二、 最大似然估計法 設(shè)總體X的分布函數(shù)為F(x; ), 其中 為待估計的參數(shù). X1, X2 ,.,Xn是X的一個

2、樣本,x1, x2, ,xn是相應(yīng)的樣本值.點估計問題的一般提法: 點估計: 用樣本X1, X2 , ,Xn構(gòu)造一個適當?shù)慕y(tǒng)計量用它的觀察值 作為未知參數(shù) 的近似值. 稱(X1, X2 , ,Xn)為 的估計量.(x1, x2, ,xn)稱為的估計值.估計量和估計值統(tǒng)稱為估計,并都簡記為 .點估計常用方法: 矩估計法; 最大似然估計法.注參數(shù) 的估計量 是樣本X1, X2 ,.,Xn 的函數(shù).(X1, X2 , ,Xn),(x1, x2, ,xn)一、矩估計法 用樣本(原點)矩作為總體(原點)矩的估計量的方法稱為矩估計法 設(shè)總體X的分布函數(shù)為F(x; 1, 2, ., k),其中1, 2, .

3、 , k為待估參數(shù),如果 i=E(X i)(i=1,2,.,k)存在, i為1, 2 ,k的函數(shù),記i= i(1, 2 , , k) (i=1,2,.,k), X1, X2 , ,Xn為總體X的樣本,用Ai 來估計E(X i), 建立k個方程: A1= 1( 1, 2 , , k) A2= 2( 1, 2 , , k) . Ak= k( 1, 2 , , k)1= 1(A1, A2 , , A k)2= 2(A1, A2 , , A k).k = k(A1, A2 , , A k)用 作為i的估計量-矩估計量. ik階樣本矩求矩估計的方法 設(shè)總體X的分布函數(shù)為F(x; 1, 2, ., k),

4、其中1, 2, . , k為待估參數(shù), 為i 的 矩估計量. iK階樣本矩(1)求總體X的前 k 階矩 i=E(X i)= i(1, 2 , , k) , i=1,2, . ,k(2) 解出 i = i (1, 2 , , k) , i=1,2, . ,k(3) 令 i = i (A1, A2 , , A k ) , i=1,2, . ,k例1 設(shè)總體X服從a，b上的均勻分布，a，b未知， X1, X2 , ,Xn為來自總體X的樣本,試求a，b的 矩估計量解解得，由矩估計法解因為由矩估計法,所以 的矩估計量為故 的矩估計值為例2 設(shè)總體X服從參數(shù)為 的指數(shù)分布, X1, X2 , ,Xn為來自

5、總體X的樣本，試用矩估計法求 的估計值.解例3 設(shè)總體X的均值E(X)=, 方差D(X)=2 都存在,且2 0.但 ,2 均為未知. X1, X2 , ,Xn為來自總體X的樣本, 求,2 的矩估計量.解得由矩估計法,對任何總體,總體均值與方差的矩估計量都不變【注】(1)若總體Xb(1, p), 則未知參數(shù) p 的矩估計量為(2)若總體Xb(N, p), 則未知參數(shù)p , N的矩估計量為常見分布的參數(shù)矩估計量(3)若總體X N(,2), 則未知參數(shù),2 的矩估計量為(4)若總體X P(), 則未知參數(shù) 的矩估計量為或 沒有利用總體分布函數(shù)所提供的信息，難保證有優(yōu)良的性質(zhì)。【注】 矩估計法的優(yōu)點和

6、不足優(yōu)點： 直觀、簡便,特別對總體期望和方差進行估計時不需要知道總體的分布.不足：要求總體原點矩存在，而有些隨機變量的原點矩不存在，就不能用此法進行參數(shù)估計; 矩估計量有時不唯一；作 業(yè)第173頁 第七章習題 1， 2 二、最大似然估計法 最早由德國數(shù)學家高斯于1821年提出,后來英國統(tǒng)計學家費希爾在1912年重新提出并做了進一步的研究. 最大似然原理的直觀想法: “概率最大的事件最可能出現(xiàn)”. 它是目前點估計中最廣泛應(yīng)用的一種方法.該方法建立在最大似然原理的基礎(chǔ)上。 參數(shù)估計的最大似然法是要選取這樣的值來作為參數(shù)的估計值,使得當參數(shù)取這一數(shù)值時,觀測結(jié)果出現(xiàn)的可能性為最大.例4 設(shè)在罐中放有

7、許多白球和黑球,已知兩種球的數(shù)目之比為1:3, 但不知哪種顏色的球多, 若采用有放回方式從罐中取3個球,發(fā)現(xiàn)有一只黑球,問在此情況下應(yīng)估計哪種顏色的球多?解：設(shè) p=黑球所占比例=則則 p=1/4或 p=3/4又設(shè)X=“取出的3只球中黑球的數(shù)目”, 應(yīng)有 p=1/4.故認為罐中白球多.似然函數(shù)(1)離散型總體 設(shè)總體X分布律 為待估參數(shù),是可能取值的范圍.設(shè)X1, X2 , ,Xn是來自X的樣本，樣本觀察值為x1, x2 , ,xn ,則 (X1, X2 , ,Xn )的聯(lián)合分布律為對固定的樣本觀察值x1, x2 , ,xn ，記稱其為樣本的似然函數(shù).(2)連續(xù)型總體 設(shè)總體X的概率密度為f

8、(x; ),為未知參數(shù)， 定義樣本的似然函數(shù)為:最大似然估計法：就是固定樣本觀察值 ，在取值的可能范圍 內(nèi)挑選使似然函數(shù)達到最大的參數(shù) ，作為 的估計值。則稱 為 的最大似然估計值，定義 若存在 ，使得稱 為 的最大似然估計量.如何求L( )的最大值?當lnL( )關(guān)于 可微時, lnL( ) 的最大值點必滿足： 由于L( )與 lnL( )在上有相同的最大值點,所以求L( )的最大值點可以改為求 lnL( ) 的最大值點.-對數(shù)似然方程當lnL( )關(guān)于 不可微時,回到定義求.由此方程組可解得參數(shù) 的極大似然估計值或令 分布中含有多個未知參數(shù)時，這時,似然函數(shù)L是這些未知 參數(shù) 的函數(shù).分別

9、令例5 設(shè)Xb(1,p), X1, X2 , ,Xn是來自X的一個樣本,求參數(shù) p 的最大似然估計量.解 X的分布律為 PX=x=px(1-p)1-x, x=0,1.設(shè)x1, x2 , , xn是相應(yīng)于X1, X2 , ,Xn一個樣本值,故似然函數(shù)為似然估計量似然估計值令于是例6 設(shè)總體XN(,2),2均未知，又設(shè)X1, X2,.,Xn為總體X 的樣本, x1, x2 , xn為X的一組樣本觀測值，試求,2 的最大似然估計值及估計量.解似然函數(shù)為似然方程組X的概率密度為例7 設(shè)總體XUa, b, a, b 均未知，又設(shè)X1, X2,.,Xn為總體X 的樣本, x1, x2 , xn為X的一組樣

10、本觀測值，試求a, b 的最大似然估計值和估計量.(用定義)例8 已知一批燈泡的使用壽命T服從參數(shù)為 的指數(shù)分布,現(xiàn)隨機抽取18只,測得使用壽命(小時)如下: 16, 29, 50, 68, 100, 130, 140, 270, 280, 340, 410, 450, 520,620, 190, 210,800, 1100 求參數(shù)與 的最大似然估計值解:因為T 服從指數(shù)分布，故參數(shù)的最大似然估計為所以計算得例4 一個袋子中有黑球和白球個數(shù)比為R:1,現(xiàn)從袋中有放回地一個一個地取球，直到取到黑球為止。記X為取出的白球數(shù)，這樣做了n次（每次袋中黑、白球的比例不變）。得樣本 求R的極大似然估計量。解：總體X的分布律為似然函數(shù)令如果 為參數(shù) 的最大似然估計量，又函數(shù) 具有單值反函數(shù)，則 是 的最大似然估計量 似然估計的性質(zhì):例如，在例6中已得到 根據(jù)上述性質(zhì)，得到的最大似然估計為標準差 的最大似然估計為最大似然估計的不變性例 設(shè)總體X的概率分布為其中(0 0,有則稱 為 的相合估計量即 例3 設(shè)總體X的數(shù)學期望 與方差 存在，