概率論與數(shù)理統(tǒng)計(jì)

, 設(shè)有一個(gè)總體X總體的分布函數(shù)為F其中為未知參數(shù)可以是向量從該總體抽取容量為n的樣本X1X2要依據(jù)該樣本對(duì)參數(shù)作出估計(jì)，或估計(jì)g(). x1x2xn ?(X1X2Xn)稱為的估計(jì)量不引 的情況下,二者統(tǒng)稱為的估簡(jiǎn)記E(X)

E( Xnni

Xi X是參數(shù)的估計(jì)量現(xiàn)檢查了150只紗錠在某一時(shí)間段內(nèi)斷頭的次數(shù)01239425161x

xk1.133

x是參數(shù)的估計(jì)值

設(shè)(X1X2Xn)是來自于總體X則X1X2Xn相互獨(dú)立同分布

1

X nin

Xi

E(X X1,X2,…,

1 1nAk n

E(Xk)kE(Xk),k1,2,,k n用Ak Xn

去估計(jì) X1X2Xn)是來自總體X的樣本求的矩估計(jì)EX2

解得2EX以X代EX得參數(shù)的矩估計(jì)為

2

Xinnin 設(shè)總體X~B(m,p),其中m已知,p(0p1)未知,(X1,X2,,Xn)是來自總體X的樣本,求p的矩估計(jì)量.EXmp,解得pEXm以X代EX得參數(shù)p的矩估計(jì)量為?Xm例2（續(xù)）p每次從中10X1,X2Xn獨(dú)立同X~B(10pp的矩估計(jì). E(X)=10p，解得pE(X).以X代EX

得參數(shù)p的矩估計(jì)為? X若給定n次抽樣觀測(cè)的數(shù)據(jù)x1x2則p的矩估計(jì)值為? x10 設(shè)總體X的概率密度f(x) 其他

1X1X2Xn)是來自總體X的樣本求的矩估計(jì)1解EX)

xf(x)dx

x(1)x1 1

1解得2EX11E(X以X代EX

得的矩估計(jì)為2X11<>例4X在(a,b)上服從均勻分布其中ab未知X1X2,Xn是來自總體X的樣本,求a,b的矩估計(jì)量. aE(X) (b

ab2E(X)D(X)[E(X)]

2 2以X來代EX),以A2來代EX2 設(shè)總體分布含有m個(gè)122E(X)(,,,2 mm m ,i 得到?(A,A,, ),i i,i=12 設(shè)總體X的均值和方差2都存在,且 0,但和2均為未知,又設(shè) ,X,,X X的一個(gè)樣本求和2的矩估計(jì)量 E(X)E(X2)D(X)[E(XE(X

2

E(X2)E(X)2以

X來代EX

以A2來代EX2得參數(shù)和2的矩估計(jì)分別為

2AA 1 1 1

1

X2nX2

(XX)2nn nn 例如X~N(,22未知?X是的矩估計(jì)量 1 ( X ni

是的矩估計(jì)量

X~U(ab),其中ab未知求ab

計(jì)量

E(X)

ab D(X)

,ab2EX12D(X3D(X12D(X3D(X aE(X) 3D(X),即 bE(X) 3D(X).n以n

X

ni

Xi來代EX1 12以

nin

(X

X)來代DXn?X

3ni1n3n3(iX)i1

X)2?X

設(shè)(X1X2Xn)X的一個(gè)容量為n(x1,x2,…,xn)是相應(yīng)的樣本值. PXx)px;),為待估參數(shù)其中是(x1x2…xnn{X1x1X2x2Xnxn}nP(X1=x1,X2=x2,…,Xn=xn)P(Xixi i

（Likelihood

max這樣得到的與樣本值x1x2xn)有關(guān)常記為x2,xn稱為參數(shù)相應(yīng)的統(tǒng)計(jì)量?(X1X2,Xn稱為參數(shù)的最大似然估計(jì)量 X

P(Xx)px(1p)1x,x

nnP(Xixiinn

nnnn

(1p)1xipi

(1

i lnL(p) xlnp

nxln(1

i i(X1X2Xn)X(x1x2xnlnL(p) xlnp

nxln(1p).

id

n

nndplnL(p)i i 1p?1

xi

?

nXi X設(shè)總體X~fx;為待估參數(shù)設(shè)(X1X2Xn)Xnn(x1x2xn是相應(yīng)的樣本值.(X1,X2,…,Xn)的聯(lián)合密度為n“(X1X2Xn在(x1x2xn附近取值 設(shè)X~fx;為待估參數(shù),n稱L(Lx1x2xn;fxi;ni 設(shè)X~f(x;) 其他 exi,x ~f(x;)

i1,2,,

nn

f(xi;)

nn

xi(X1X2Xn)X(x1x2xn

nn關(guān)于求導(dǎo)，并令其等于dlnLn

1

1是最大似然估計(jì)量X

xii若再求g(1的最大似然估計(jì) 則X是g(的最大似然估計(jì)量

X~f(x;)0,未知.求的最大似然估計(jì)

n解似然函數(shù)

f(xi;)

i

i

i i

i

i

ln 解得的最大似然估計(jì)為

nlnni(X1X2Xn)X(x1x2xn樣本的似然函數(shù)Lx1x2,xn常?？梢詮姆匠蘢L(中解得又因?yàn)長()與lnL()在同一處取到極值因此 的最大似然估計(jì)也可從方dlnL()

未知參數(shù)的情況.此時(shí)只需令L i1,2,,k. lnL

i1,2,,k.解出由k個(gè)方程組成的方程組即可得各未知 參數(shù)(i1,2,k)的最大似然估計(jì)值 0),試用最似然估計(jì)法分別求出的估計(jì) X~f(x;,

nn f(x

( ( exp i1

i n(x

exp

i n(x 2exp i (x)2 2exp

i

2

nln(2)2

n(xi)2 . . lnL

(x)n n

nn

2

1

n

xi

2

ni1

x)2設(shè)的函數(shù)u具有單值的反函數(shù)假設(shè)是的概率分布中的參數(shù)?是的最大似然估計(jì)如，上例中，X~N方差的最大似然估計(jì)為 111nni(xi

(xini1

x)2

設(shè)總體X~U[0,其中(0)未知X1X2.Xn)是來自總體X的樣本x1x2xn)是相應(yīng)的樣本值

求的最大似然估計(jì)

X~f(x;)

,0x解 1

似然函數(shù)L(fxi

n lnL()nlndlnL()

Xi~U[0,

,0x

0其它n

i1,2,,i

樣本值x1x2xnn,0xi,i1,2,, 其它

,a,ax X~f(x;a,b)b nn

,axib,i1,2,,nn

n

lnL(a,b)

ba

nln(ba).lnL(a,b) blnL(a,b)

bL(a,b)

,axib,i1,2,,nn

樣本值x1x2xn?? 2X是的矩估計(jì)量設(shè)總體X~F(x),為未知參數(shù)X1X2Xn是來自總體X的簡(jiǎn)單隨機(jī)樣本?X1X2Xn)是的一個(gè)估計(jì)量當(dāng)樣本(X1Xn)有觀測(cè)值(x1xn)?(x1x2xn而當(dāng)樣本(X1Xn)有觀測(cè)值(y1yn)的估計(jì)值為?y1y2yn若估計(jì)量??(X1X2Xn)的數(shù)學(xué)期望在則稱?的無偏估計(jì)量 設(shè)總體X的均值和方差20均為未知設(shè)X1X2,XnX X2

nin1

Xi是總體均值的無偏估計(jì)量

(Xinin

X是總體方差的無偏估計(jì)量(1)EX(2)E(S2) 并判斷是否是無偏估計(jì)量.

ni

Xi X是的最大似然估計(jì)量 1 2 2 XX)是的最大似然估計(jì)量 ni(?EX

n n

設(shè)總體X的k階矩kE(Xk)(k1)存在X1X2XnX的一個(gè)樣本試證不論總體服從什么分布樣本k階矩k證明因?yàn)閄1X2Xn相互獨(dú)立,且與X同分布kiEXki

E(Xk

i1,2,,1 k 1E(Ak)E Xi

E(Xk)ni

ikniik故樣本k階矩Ak是總體k階矩k的無偏估計(jì)量設(shè)X1X2X3是來自總體X的樣本，且1X3X1X

) 1X3X1X

和都是的無偏估計(jì)量 1如果在樣本容量n相同的情況下?的觀察值12在真值的附近較?更密集則認(rèn)為2 ,X,,X ,X,,X