概率論ppt課件 7.1 點(diǎn)估計(jì)

第七章參數(shù)估計(jì)統(tǒng)計(jì)推斷:利用樣本提供的信息對總體的某些統(tǒng)計(jì)特性進(jìn)行估計(jì)或判斷，從而認(rèn)識總體。(1)參數(shù)估計(jì)(第七章）(2)假設(shè)檢驗(yàn)(第八章)統(tǒng)計(jì)推斷分為兩大類:

從本章開始，討論數(shù)理統(tǒng)計(jì)學(xué)的基本問題---統(tǒng)計(jì)推斷。參數(shù)估計(jì)的主要內(nèi)容§1點(diǎn)估計(jì)§2估計(jì)量的評選標(biāo)準(zhǔn)§3區(qū)間估計(jì)§3.1正態(tài)總均值與方差的區(qū)間估計(jì)§3.2單側(cè)置信區(qū)間

設(shè)總體X的分布函數(shù)的形式已知，但是它的某些參數(shù)是未知的，通過總體的一個(gè)樣本來估計(jì)總體未知參數(shù)的值的問題稱為參數(shù)的點(diǎn)估計(jì)問題．§7.1點(diǎn)估計(jì)一、矩估計(jì)法二、最大似然估計(jì)法

設(shè)總體X的分布函數(shù)為F(x;),其中為待估計(jì)的參數(shù).X1,X2,..,Xn是X的一個(gè)樣本,x1,x2,…,xn是相應(yīng)的樣本值.點(diǎn)估計(jì)問題的一般提法:

點(diǎn)估計(jì):用樣本X1,X2,…,Xn構(gòu)造一個(gè)適當(dāng)?shù)慕y(tǒng)計(jì)量用它的觀察值作為未知參數(shù)的近似值.稱(X1,X2,…,Xn)為的估計(jì)量.(x1,x2,…,xn)稱為的估計(jì)值.估計(jì)量和估計(jì)值統(tǒng)稱為估計(jì),并都簡記為.點(diǎn)估計(jì)常用方法:矩估計(jì)法;最大似然估計(jì)法.[注]參數(shù)的估計(jì)量是樣本X1,X2,..,Xn的函數(shù).(X1,X2,…,Xn),(x1,x2,…,xn)一、矩估計(jì)法用樣本(原點(diǎn))矩作為總體(原點(diǎn))矩的估計(jì)量的方法稱為矩估計(jì)法．

設(shè)總體X的分布函數(shù)為F(x;1,2,...,k),其中1,2,...,k為待估參數(shù),如果i=E(Xi)(i=1,2,..,k)存在,i為1,2,…,k的函數(shù),記i=i(1,2,…,k)(i=1,2,..,k),X1,X2,…,Xn為總體X的樣本,用Ai來估計(jì)E(Xi),建立k個(gè)方程:A1=1(1,2,…,k)A2=2(1,2,…,k)…………….Ak=k(1,2,…,k)1=1(A1,A2,…,A

k)2=2(A1,A2,…,A

k)…………….k=k(A1,A2,…,A

k)用作為i的估計(jì)量------矩估計(jì)量.ik階樣本矩求矩估計(jì)的方法

設(shè)總體X的分布函數(shù)為F(x;1,2,...,k),其中1,2,...,k為待估參數(shù),

為i的矩估計(jì)量.iK階樣本矩(1)求總體X的前k階矩

i=E(Xi)=i(1,2,…,k),i=1,2,..,k(2)解出

i=i(1,2,…,k),i=1,2,..,k(3)令

i=i(A1,A2,…,A

k),i=1,2,..,k例1

設(shè)總體X服從[a，b]上的均勻分布，a，b未知，

X1,X2,…,Xn為來自總體X的樣本,試求a，b的矩估計(jì)量．解解得，由矩估計(jì)法解因?yàn)橛删毓烙?jì)法,所以的矩估計(jì)量為故的矩估計(jì)值為例2

設(shè)總體X服從參數(shù)為的指數(shù)分布,X1,X2,…,Xn為來自總體X的樣本，試用矩估計(jì)法求

的估計(jì)值.解例3

設(shè)總體X的均值E(X)=,方差D(X)=2

都存在,且2>0.但,2均為未知.X1,X2,…,Xn為來自總體X的樣本,求,2的矩估計(jì)量.解得由矩估計(jì)法,對任何總體,總體均值與方差的矩估計(jì)量都不變．【注】(1)若總體X~b(1,p),則未知參數(shù)p的矩估計(jì)量為(2)若總體X~b(N,p),則未知參數(shù)p,N的矩估計(jì)量為常見分布的參數(shù)矩估計(jì)量(3)若總體X~N(,2),則未知參數(shù),2

的矩估計(jì)量為(4)若總體X~P(),則未知參數(shù)的矩估計(jì)量為或

③沒有利用總體分布函數(shù)所提供的信息，難保證有優(yōu)良的性質(zhì)?！咀ⅰ烤毓烙?jì)法的優(yōu)點(diǎn)和不足優(yōu)點(diǎn)：直觀、簡便,特別對總體期望和方差進(jìn)行估計(jì)時(shí)不需要知道總體的分布.不足：①要求總體原點(diǎn)矩存在，而有些隨機(jī)變量的原點(diǎn)矩不存在，就不能用此法進(jìn)行參數(shù)估計(jì);②矩估計(jì)量有時(shí)不唯一；作業(yè)第173頁第七章習(xí)題

1，2二、最大似然估計(jì)法最早由德國數(shù)學(xué)家高斯于1821年提出,后來英國統(tǒng)計(jì)學(xué)家費(fèi)希爾在1912年重新提出并做了進(jìn)一步的研究.

最大似然原理的直觀想法:

“概率最大的事件最可能出現(xiàn)”.它是目前點(diǎn)估計(jì)中最廣泛應(yīng)用的一種方法.該方法建立在最大似然原理的基礎(chǔ)上。參數(shù)估計(jì)的最大似然法是要選取這樣的值來作為參數(shù)的估計(jì)值,使得當(dāng)參數(shù)取這一數(shù)值時(shí),觀測結(jié)果出現(xiàn)的可能性為最大.例4

設(shè)在罐中放有許多白球和黑球,已知兩種球的數(shù)目之比為1:3,但不知哪種顏色的球多,若采用有放回方式從罐中取3個(gè)球,發(fā)現(xiàn)有一只黑球,問在此情況下應(yīng)估計(jì)哪種顏色的球多?解：設(shè)p=黑球所占比例=則則p=1/4或p=3/4又設(shè)X=“取出的3只球中黑球的數(shù)目”,

應(yīng)有p=1/4.故認(rèn)為罐中白球多.似然函數(shù)(1)離散型總體設(shè)總體X分布律為待估參數(shù),是可能取值的范圍.設(shè)X1,X2,…,Xn是來自X的樣本，樣本觀察值為x1,x2,…,xn,則

(X1,X2,…,Xn

)的聯(lián)合分布律為對固定的樣本觀察值x1,x2,…,xn

，記稱其為樣本的似然函數(shù).(2)連續(xù)型總體設(shè)總體X的概率密度為f(x;),為未知參數(shù)，

定義樣本的似然函數(shù)為:最大似然估計(jì)法：就是固定樣本觀察值，在取值的可能范圍內(nèi)挑選使似然函數(shù)達(dá)到最大的參數(shù)，作為的估計(jì)值。則稱為的最大似然估計(jì)值，定義若存在，使得稱為的最大似然估計(jì)量.如何求L()的最大值?當(dāng)lnL()關(guān)于可微時(shí),lnL()

的最大值點(diǎn)必滿足：

由于L()與lnL()在上有相同的最大值點(diǎn),所以求L()的最大值點(diǎn)可以改為求lnL()

的最大值點(diǎn).-----對數(shù)似然方程當(dāng)lnL()關(guān)于不可微時(shí),回到定義求.由此方程組可解得參數(shù)的極大似然估計(jì)值或令分布中含有多個(gè)未知參數(shù)時(shí)，這時(shí),似然函數(shù)L是這些未知參數(shù)的函數(shù).分別令例5

設(shè)X~b(1,p),X1,X2,…,Xn是來自X的一個(gè)樣本,求參數(shù)p的最大似然估計(jì)量.解

X的分布律為P{X=x}=px(1-p)1-x,x=0,1.設(shè)x1,x2,…,xn是相應(yīng)于X1,X2,…,Xn一個(gè)樣本值,故似然函數(shù)為似然估計(jì)量似然估計(jì)值令于是例6

設(shè)總體X~N(,2),,2均未知，又設(shè)X1,X2,...,Xn為總體X的樣本,x1,x2,…,xn為X的一組樣本觀測值，試求,2

的最大似然估計(jì)值及估計(jì)量.解似然函數(shù)為似然方程組X的概率密度為例7

設(shè)總體X~U[a,b],a,b

均未知，又設(shè)X1,X2,...,Xn為總體X的樣本,x1,x2,…,xn為X的一組樣本觀測值，試求a,b

的最大似然估計(jì)值和估計(jì)量.(用定義)例8

已知一批燈泡的使用壽命T服從參數(shù)為的指數(shù)分布,現(xiàn)隨機(jī)抽取18只,測得使用壽命(小時(shí))如下:16,29,50,68,100,130,140,270,280,340,410,450,520,620,190,210,800,1100求參數(shù)與的最大似然估計(jì)值．解:因?yàn)門服從指數(shù)分布，故參數(shù)的最大似然估計(jì)為所以計(jì)算得例4一個(gè)袋子中有黑球和白球個(gè)數(shù)比為R:1,現(xiàn)從袋中有放回地一個(gè)一個(gè)地取球，直到取到黑球?yàn)橹?。記X為取出的白球數(shù)，這樣做了n次（每次袋中黑、白球的比例不變）。得樣本求R的極大似然估計(jì)量。解：總體X的分布律為似然函數(shù)令如果為參數(shù)的最大似然估計(jì)量，又函數(shù)具有單值反函數(shù)，則是的最大似然估計(jì)量．似然估計(jì)的性質(zhì):例如，在例6中已得到

根據(jù)上述性質(zhì)，得到的最大似然估計(jì)為標(biāo)準(zhǔn)差的最大似然估計(jì)為最大似然估計(jì)的不變性例設(shè)總體X的概率分布為其中(0<<1)未知參數(shù).現(xiàn)抽得一個(gè)樣本值

x1=1,x2=2,x3=1,x4=3,x5=1,求的矩估計(jì)值和最大似然估計(jì)值.X123pi

22(1-)(1-)2§7.3

估計(jì)量的評選標(biāo)準(zhǔn)一、無偏性二、有效性三、相合性(一致性)定義1

設(shè)是未知參數(shù)的估計(jì)量，如果一、無偏性

稱為以作為的估計(jì)的系統(tǒng)誤差.無偏估計(jì)的實(shí)際意義就是無系統(tǒng)誤差.則稱是的無偏估計(jì)量．例1

設(shè)總體X的數(shù)學(xué)期望與方差2存在,X1,X2,...,Xn為總體X的樣本,證明：(1)是的無偏估計(jì)量;(2)也是的無偏估計(jì)量;,其中是2

的無偏估計(jì)量;(3)不是2

的無偏估計(jì)量.(4)證明

由于,所以是的無偏估計(jì)量。

即是的無偏估計(jì)量。

是的無偏估計(jì)量即由于

因此不是的無偏估計(jì)量，即用估計(jì)總體X

的方差時(shí)，有系統(tǒng)誤差．所以一般常用估計(jì)總體方差，不過當(dāng)n很大時(shí),與相差不大．定義2

設(shè)與都是參數(shù)的無偏估計(jì)，如果則稱較有效．二.有效性