概率論與數(shù)理統(tǒng)計(jì)7.1點(diǎn)估計(jì)與最大似然估計(jì)

1、第七章、參數(shù)估計(jì)71、點(diǎn)估計(jì)與最大似然估計(jì)72估計(jì)量的評(píng)選標(biāo)準(zhǔn)7.3、區(qū)間估計(jì)7.1點(diǎn)估計(jì)與 最大似然估說1、點(diǎn)估計(jì)的概念2、矩估計(jì)法3、最大似然估計(jì)法在實(shí)際問題中，X的分布形式往往是已知的，但分布 中含有一個(gè)或幾個(gè)未知的參數(shù)。問題是如何利用總體 的一個(gè)樣本(X, E,，X”)給岀參數(shù)的一個(gè)估計(jì)值, 這就是所謂的參數(shù)的點(diǎn)估計(jì)問題。先復(fù)習(xí)一個(gè)有關(guān)的概念：矩總體矩樣本矩E(X)=E(X】)=旳稱為一階總體原點(diǎn)矩，E(X*血稱 二階總體原點(diǎn)矩，E(Xg冷稱為k階總體原點(diǎn)矩。 同樣地，D(X)=E(X-E(X)2稱為二階總體中心矩， ，E(X-E(X)k稱為k階總體中心矩。類似地，有k階樣本原點(diǎn)矩，一

2、 1 H2 X, =A稱為一階樣本原點(diǎn)矩,n ；=i1 11二裁k =比稱為k階樣本原點(diǎn)矩，n ；=i樣本k階中心矩：1 _S；=- £國(guó)-X)2 =B稱為樣本二階中心矩, n i=i1 “ _罰胡稱為樣柚階中心矩,由大數(shù)定律可知，樣本矩一 總體矩。一、點(diǎn)估計(jì)的概念:1、定義71：設(shè)總體X的分布函數(shù)為F（兀,），其中0為 未知參數(shù).從總體X中抽取樣本£,禺,，X”，測(cè)值為兀I，兀2，"n 構(gòu)造一個(gè)統(tǒng)計(jì)量&（X，X?，X ），用它的 觀測(cè)值。（旺,兀2,，叫）來估計(jì)參數(shù)。，稱e（X,X2,）為&的估計(jì)量，。（兀1，兀2,，?！埃?amp;的估計(jì)值估

3、計(jì)量和估計(jì)值統(tǒng)稱為點(diǎn)估計(jì).注 對(duì)不同的樣本值，&的估計(jì)值一般也不同.7二、矩估計(jì)法:1、矩估計(jì)法:因很多分布中總體的數(shù)學(xué)期望與方差均是分布中的參數(shù)或是參數(shù)的某個(gè)函數(shù)，于是就設(shè)想令樣本矩與總體矩相等，再利用總體矩與 參數(shù)之間的關(guān)系，導(dǎo)出參數(shù)的一個(gè)點(diǎn)估計(jì)的方法，稱為矩估計(jì)法即用樣本矩替代同階的 總體矩。具體來講用9樣梢值元-樣本方差S2毗-總體期望值E(X,O), (0未知)泄T總體方差D(X,0), (&未知)102、矩估計(jì)法解題的主要步驟:設(shè)總體分布已知，但含有氐個(gè)未知數(shù)久，若總體X的前氐階矩均存在，則可令T 掙;，再利用總體X分布已知，具體求出E(Xr當(dāng)然它是未知參數(shù)無0，比

4、的函數(shù)，這樣就得到含k個(gè)未知數(shù)和k個(gè)方程的方程組,解方程組即得q =侶鼻2,x“）, g=0（E，X2，x“）,這就是f9的矩估計(jì)量11例1:設(shè)總體X在Q ,刃上服從均勻分布，,b未知.£,禺，乙是來自X的樣本, 求，方的矩估計(jì)量.解本分布中含有兩個(gè)未知參數(shù)，故令X 二 E(X)，<S1=D(X)由于X在a，刃上服從均勻分布，所以E(X) =a+b2D(X) =(b - a)212X=E(X) = -, S/=D(X)二告尹解方程組，得:負(fù)採(cǎi)如的矩估®$ = 乂 AS,b = X羽S15例2、設(shè)有一批同型號(hào)的燈管，其壽命（單位：h） 服從參數(shù)為九的指數(shù)分布，今隨機(jī)抽取

5、其中11只，測(cè) 得其壽命數(shù)據(jù)如下：110,184,145,122,165,143,78,129,62,130,168用矩估計(jì)法估計(jì)九的值；求總體的平均壽命解：、疋二丄(110+ 184+168) = 130.55=0.00771-1 1總體期望令 力1(2): E(X) = 130.550.0077兒兒a.#三、最大似然估計(jì):1、設(shè)總體x為連續(xù)型隨機(jī)變量，其密度函數(shù)為f(xj) 求(1)：樣本的聯(lián)合密度；(2): e的估計(jì)值。 ”解：(1) f(xi,x2,-,xn90) = Yf(xi90),(X.相互獨(dú)立)(2)根據(jù)經(jīng)驗(yàn)一次試驗(yàn)中融大的事件比概率小 的事件容易發(fā)生。在已經(jīng)得到試驗(yàn)結(jié)果的情況

6、下， 應(yīng)該尋求使這個(gè)結(jié)果出現(xiàn)的可能性最大的估計(jì)值作 為總體參數(shù)的估計(jì)值。16 _J于是問題轉(zhuǎn)化為求,兀2，?！?Q的最大值。利用微積分中求極值的思想，只要令f （兀1，兀2,，?！埃?amp;戶°只要得到駐點(diǎn)處&的值，即可得到&的估計(jì)值氏=J這種點(diǎn)估計(jì)的方法稱為最大似然法。X為離散型時(shí)類似。例3、現(xiàn)有一批產(chǎn)品，設(shè)卩是產(chǎn)品的次品率，現(xiàn)估計(jì)卩的值.為此作放回抽樣，共10次.第i次是次品、0 , 第i次是合格品則 PXt =l=p9 PXi = 0 = 1 -p 若10次試驗(yàn)的結(jié)果是樣本觀測(cè)值(兀 1，兀2,，兀“)=(1, 0,1, 0, 0, 0,1, 0, 0, 0)

7、，則有 PXl =1,X2 =0,X3 =1,X4 =X5 =X6 =0,X7=l,X8=X9=Xlo=O=pXi-p)1=J最大似然法的基本思想是在已經(jīng)得到試驗(yàn)結(jié)果的 情況下，尋找使這個(gè)結(jié)果出現(xiàn)的可能性最大的P 值作為真P的估計(jì).dp于是用P = 03作為該批產(chǎn)品次品率的估計(jì)值 是很適當(dāng)?shù)?于是令込匹=0,榊” = 0.320X的分布類型已知，參數(shù)0未知.I、若X為離散型隨機(jī)變量，其分布律為PX 二兀二 P（X ；0） 9則樣本（X1,蜀，XJ的分布為U&） UPX1=x1<-9Xn=xn = Yp（Xi;0）1=1稱1（。）為似然函數(shù)，選擇&使厶（。）達(dá)到最大 值的值

8、作為真&的估計(jì).2、若X為連續(xù)型隨機(jī)變量,其密度函數(shù)為fW則樣本（Xnx2, .幾）的密度函數(shù)為 冇/（乞;&）1=1令 %）二,1=1稱L（0）為似然函數(shù)，選擇&使 1（）達(dá)到最大 值的&值作為真&的估計(jì).這種點(diǎn)估計(jì)的方法稱為最大似然法23例4、設(shè)總體X禺，蜀，乙是X 的一個(gè)樣本，求p的極大似然估計(jì).解 由于X有PX =k=Cnpk(l- p),nk ,k = 0,1,，觀 作似然函數(shù) up)=Ylcpx(i-Pr1=1iin工Xi“血Xi H=Pi=l 51-P) ,=, He：1=1lnL(p)(n 、廠nAA n+ nm 一 工 xz ln(l

9、- p) + In IZ=1 ) i =H nm - V x.-+ /=1 (-1) = 0 p1-p于是p = =-是卩的極大似然估計(jì)值, nm m=工乞1叩)Ex< i=li=l、 CXim丿dlnL(p)dpY其極大似然估計(jì)量是 p=-m例5、設(shè)總體XNS"),獲得樣本禺，禺，,X” 求“及八的極大似然估計(jì).解由于總體XN®小作似然函數(shù)為ln£(從 C2)= ln(27rcr2) 一1 n壽驢一“)2將似然函數(shù)關(guān)于“及八求偏導(dǎo)，得51nL( “d/i n=2 “) = 0， b 1=131n£(幻，)So-2'- 2八贈(zèng)也A)°解得“=兀,故“及八的極大似然估計(jì)值上式左端為必&2。若將兀換成乙，比換成X即為極大似然估計(jì)值26（97年考研）設(shè)總體X的概率密度為27#f(x) =（3 + xe 0 < x < 1 0其他其中0>1是未知參數(shù)，分別用矩估計(jì)法和最大似然估計(jì) 法求的估計(jì)量_ 1 "解：矩估計(jì)法：X =n i=x寸(x)dr= (1+0)兀我 dx#0+10+22X-11-X28#最大似然法：似然函數(shù)為:口。） = /（兀1，兀2，"腫）=(0 +=(0 +1)" (XjX2