參數(shù)估計(jì)習(xí)題解答

1、參數(shù)估計(jì)習(xí)題與習(xí)題解答6.11從一批電子元件中抽取8個進(jìn)行壽命測試,得到如下數(shù)據(jù)(單位:h):1 050, 1 100, 1 130, 1 040, 1 250, 1 300, 1 200, 1 080試對這批元件的平均壽命以及分布的標(biāo)準(zhǔn)差給出矩估計(jì).解：樣本均值 樣本標(biāo)準(zhǔn)差 因此,元件的平均壽命和壽命分布的標(biāo)準(zhǔn)差的矩估計(jì)分別為1143.75和96.05622 設(shè)總體,現(xiàn)從該總體中抽取容量為10的樣本,樣本值為0.5,1.3,0.6,1.7,2.2,1.2,0.8,1.5,2.0,1.6試對參數(shù)給出矩估計(jì).解：由于E(X)=,即=2E(X),而樣本均值=1.34,故的矩估計(jì)為3 設(shè)總體分布列如

2、下,是樣本,試求未知參數(shù)的矩估計(jì)解：(1) 總體均值E(X)=,解之可得N=2E(X)+1故N的矩估計(jì)量,其中為樣本均值,若不是整數(shù),可取大于的最小整數(shù)代替(2) 總體均值E(X)=,由于,故有E(X),即,從而參數(shù)的 q 矩估計(jì)為4設(shè)總體密度函數(shù)如下,是樣本,試求未知參數(shù)的矩估計(jì)解：(1) 總體均值E(X)=,即即,故參數(shù)的矩估計(jì)為(2)總體均值E(X)=,所以,從而參數(shù)的矩估計(jì)(3)由E(X)=可得,由此,參數(shù)的矩估計(jì)(4)先計(jì)算總體均值與方差 E(X)=+=+=Var(X)=由此可以推出,從而參數(shù)的矩估計(jì)為5設(shè)總體為,先對該總體觀測n次,發(fā)現(xiàn)有k次觀測為正,使用頻率替換方法求的矩估計(jì).解

3、：由題意知,觀測為正的頻率f=,下面計(jì)算觀測值為正的概率.當(dāng)總體為N()時,P(X0)=1-P(X0)=1-P(X-1解 (1)似然函數(shù)為,其對數(shù)似然函數(shù)為將關(guān)于求導(dǎo)并令其為0即得到似然方程解之得 由于 所以是q 的最大似然估計(jì).(2)似然函數(shù)為,其對數(shù)似然函數(shù)為解之可得由于,這說明是的最大似然估計(jì).8設(shè)總體概率函數(shù)如下,是樣本,試求未知參數(shù)的最大似然估計(jì).(1)已知；(2(3)解：(1)樣本的似然函數(shù)為要使達(dá)到最大,首先示性函數(shù)應(yīng)為1,其次是盡可能大.由于c0,故是的單調(diào)增函數(shù),所以q 的取值應(yīng)盡可能大,但示性函數(shù)的存在決定了q 的取值不能大于,由此給出的最大似然估計(jì)為(2)此處的似然函數(shù)為

4、 其對數(shù)似然函數(shù)為 由于 所以,是的單調(diào)增函數(shù),要使其最大,的取值應(yīng)該盡可能的大,由于限制,這給出的最大似然估計(jì)為.將 關(guān)于 求導(dǎo)并令其為0得到關(guān)于 的似然方程 ,解之得 .(3)似然函數(shù)為.由于是關(guān)于的單調(diào)遞減函數(shù),要使達(dá)到最大,應(yīng)盡可能小,但由限制可以得到,這說明不能小于,因而的最大似然估計(jì)為.9設(shè)總體概率函數(shù)如下,是樣本,試求未知參數(shù)的最大似然估計(jì).(1)；(2)；(3).解：(1)不難寫出似然函數(shù)為 .對數(shù)似然函數(shù)為.將之關(guān)于求導(dǎo)并令其為0得到似然方程 ,解之可得.而：,故是的最大似然估計(jì)(2) 此處的似然函數(shù)為 .它只有兩個取值：0和1,為使得似然函數(shù)取1,的取值范圍應(yīng)是,因而的最大

5、似然估計(jì)可取中的任意值. (3) 由條件,似然函數(shù)為.要使盡量大,首先示性函數(shù)應(yīng)為1,這說明；其次要盡量小,綜上可知,的最大似然估計(jì)應(yīng)為,的最大似然估計(jì)應(yīng)為10一地質(zhì)學(xué)家為研究密歇根湖的湖灘地區(qū)的巖石成分,隨機(jī)地自該地區(qū)取100個樣品,每個樣品有10塊石子,記錄了每個樣品中屬石灰石的石子數(shù).假設(shè)這100次觀察相互獨(dú)立,求這地區(qū)石子中石灰石的比例的最大似然估計(jì).該地質(zhì)學(xué)家所得的數(shù)據(jù)如下樣本中的石子數(shù)012345678910樣品個數(shù)016723262112310解：本題中,總體X為樣品中石灰石的個數(shù),且X服從參數(shù)為的二項(xiàng)分布,即又設(shè)為樣本,則其似然函數(shù)為(忽略常數(shù)),對數(shù)似然函數(shù)為將對數(shù)似然函數(shù)關(guān)

6、于求導(dǎo)并令其為0得到似然方程解之得由于由二階導(dǎo)數(shù)的性質(zhì)知,p的最大似然估計(jì)為11. 在遺傳學(xué)研究中經(jīng)常要從截尾二項(xiàng)分布中抽樣,其總體概率函數(shù)為若已知,是樣本,試求p的最大似然估計(jì).解：當(dāng)m=2時,該截尾二項(xiàng)分布只能取1與2,不妨設(shè)的樣本中有個為1,有n-n1個2則其似然函數(shù)為(忽略常數(shù))對數(shù)似然函數(shù)為將對數(shù)似然函數(shù)關(guān)于p求導(dǎo)并令其為0得到似然方程解之得后一個等式是由于所以,代入上式即得.12已知在文學(xué)家簫伯納的An Intelligent Womans Guide To Socialism 一書中,一個句子的單詞數(shù)X近似地服從對數(shù)正態(tài)分布,即.今從該書中隨機(jī)地取20個句子,這些句子中的單詞數(shù)分

7、別為52 24 15 67 15 22 63 26 16 327 33 28 14 7 29 10 6 59 30求該書中一個句子單詞數(shù)均值的最大似然估計(jì).解：正態(tài)分布的參數(shù)的最大似然估計(jì)分別為樣本均值和方差.即由于最大似然估計(jì)具有不變性,因而的最大似然估計(jì)為13設(shè)是來自對數(shù)級數(shù)分布的一個樣本,求參數(shù)p的矩估計(jì).解：由于,因此有,從而得到p的矩估計(jì).14一個罐子里裝有黑球個百球,有放回地抽取一個容量為n的樣本,其中 有k個百球,求罐子里黑球和白球數(shù)之比R的最大似然估計(jì).解法1：記p為罐子中白球的比例,令表示第i次有放回抽樣所得的白球數(shù),則故p的最大似然估計(jì)為.因?yàn)楹谇驍?shù)與白球數(shù)比值.根據(jù)最大似

8、然估計(jì)的不變性,有,對具體的樣本值即n個抽到k個白球來講,R的最大似然估計(jì)為.解法2：設(shè)罐子里有白球個,則有黑球R個,從而罐子中共有(1+R)個球,從中有放回的抽一個球?yàn)榘浊虻母怕蕿閺墓拮又杏蟹呕氐某?n個球,可視為從二點(diǎn)分布X0(黑球)1(白球)p中抽取一個樣本容量為n的樣本.當(dāng)樣本中有k個白球時,似然函數(shù)為 L(R)=,其對數(shù)似然函數(shù)為lnL(R)=(n-k)lnR-nln(1+R),將對數(shù)似然函數(shù)對R求導(dǎo),并令其為0,得似然方程解之可得R=.由于其對數(shù)似然函數(shù)的二階導(dǎo)數(shù)為,所以R=是R的最大似然估計(jì).譬如,在n=10,k=2場合,R的最大似然估計(jì)R=,即罐中黑球數(shù)與白球數(shù)之比的最大似然估

9、計(jì)為4,若白球1個,黑球?yàn)?個；或者白球2個,黑球8個等.15.設(shè)和分別來自總體N()和N()的兩個獨(dú)立樣本.試求的最大似然估計(jì).解：合樣本的似然函數(shù)為L=,對數(shù)似然函數(shù)為lnL=-.將對數(shù)似然函數(shù)對分別求導(dǎo)并令其為0,得, ,由此得到的最大似然估計(jì)為.16某批產(chǎn)品含有N件,其中M件為不合格品,現(xiàn)從中隨機(jī)抽取n件中有x 件不合格品,則x服從超幾何分布,即,假如N與n已知,尋求該批產(chǎn)品中不合格品數(shù)M的最大似然估計(jì).解：記未知參數(shù)M的似然函數(shù)L(M,x)=P(X=x).考察似然比由要使似然比得，必然導(dǎo)致 (M+1)(N-M-n+x)(M+1-x)(N-M)化簡此式可得,這表明：當(dāng)為整數(shù)和時似然函數(shù)

10、L(M,x)是M的增函數(shù),即 (*)類似地,要使似然比,必導(dǎo)致.這表明,當(dāng) 為整數(shù)且時,似然函數(shù)L(M,x)是M的減函數(shù),即 (*)比較(*)和(* *)可知,當(dāng)是整數(shù)時,M的最大似然估計(jì)為或+1,而當(dāng)不為整數(shù)時,M的最大似然估計(jì)為,其中a為不超過a的最大整數(shù),綜合上述,M的最大似然估計(jì)為譬如,在N=19,n=15,x=2場合.=,由于為整數(shù),故M的最大似然估計(jì)為7或8.下面以實(shí)際計(jì)算加以佐證,幾個L(M,2)=(x=2)如下表所示：M678910L(M,2)0.36890.39730.39730.37150.3251可見M取7或8可使似然函數(shù)達(dá)到最大.又如,在N=16,n=5,x=2場合,=

11、(N+1)-1=(16+1)-1=5.8(不為整數(shù)),這時M的最大似然估計(jì)=+1=5.8+1=6.實(shí)際計(jì)算表明M5678L(M,2)0.37770.41210.40380.359可見M取6可使似然函數(shù)達(dá)到最大. 6.2 點(diǎn)估計(jì)的評價標(biāo)準(zhǔn)內(nèi)容概要1.相合性 設(shè)為未知參數(shù),=(,)是的一個估計(jì)量,n是樣本容量,若對任何一個0,有,則稱為參數(shù)的相合估計(jì).相合性本質(zhì)上就是按概率收斂,它是估計(jì)量的一個基本要求,即當(dāng)樣本量不斷增大時,相合估計(jì)按概率收斂于未知參數(shù)；矩法估計(jì)一般都是相合估計(jì)；在很一般的條件下,最大似然估計(jì)也是相合估計(jì).2無偏性 設(shè)=(,)是的一個估計(jì),的參數(shù)空間為,若對,有則稱是的無偏估計(jì),

12、否則稱為有偏估計(jì).假如對任意的,有,則稱是的漸近無偏估計(jì).3有效性 設(shè)是的兩個無偏估計(jì),如果對任意的有,且至少有一個使得上述不等號嚴(yán)格成立,則稱比有效.4均方誤差 設(shè)是的一個估計(jì)(無偏的或有偏的),則稱為的均方誤差.均方誤差較小意味著：不僅方差較小,而且偏差也小,所以均方誤差是評價估計(jì)的最一般標(biāo)準(zhǔn).使均方誤差一致最小的估計(jì)量一般是不存在的,但兩個估計(jì)好壞可用均方誤差評價：在無偏估計(jì)類中使均方誤差最小就是使方差最小.習(xí)題與解答6.21總體XU(2),其中是未知參數(shù),又為取自該總體的樣本,為樣本均值.(1)證明是參數(shù)的無偏估計(jì)和相合估計(jì)；(2)求的最大似然估計(jì),它是無偏估計(jì)嗎？是相合估計(jì)嗎？解：(

13、1)總體XU(2),則,從而于是,這說明是參數(shù)的無偏估計(jì).進(jìn)一步,這就證明了也是的相合估計(jì).(2)似然函數(shù)為,顯然是的減函數(shù),且的取值范圍為,因而的最大似然函數(shù)估計(jì)為下求的均值與方差,由于的密度函數(shù)為 故,從而：所以不是q的無偏估計(jì),但它是q的漸近無偏估計(jì)和相合估計(jì).2.設(shè)x1,x2, x3,是取自某總體的容量為3的樣本，試征下列統(tǒng)計(jì)量都是該總體均值m的無偏估計(jì)，在方差存在時指出哪一個估計(jì)的有效性最差？(1)(2)(3)解：先求三個統(tǒng)計(jì)量的數(shù)學(xué)期望這說明他們都是總體均值m的無偏估計(jì)，下面求他們的方差，不妨設(shè)總體的方差為s2.不難看出，從而的有效性最差.3. 設(shè)是參數(shù)的無偏估計(jì)，且有，試征2不是

14、參數(shù)2的無偏估計(jì).證明：由方差的定義可知，.由于是參數(shù)的無偏估計(jì)，即，因而 ，所以2不是參數(shù)2的無偏估計(jì).4. 設(shè)總體X N( m,s2), x1,x2,xn是來自該總體的一個樣本.試確定常數(shù)C,使為s2的無偏估計(jì).解：由于總體X N( m,s2)，所以于是可見，要使為s2的無偏估計(jì)，只有.5. 設(shè)從均值為m方差為s20的總體中分別抽取容量為n1和n2的兩個獨(dú)立樣本，其樣本均值分別為.試證，對任意常數(shù)啊a,b(a+b=1),都是m的無偏估計(jì)，并確定常數(shù)a,b使Var(Z)達(dá)到最小.證：由于為容量為n1和n2的兩個獨(dú)立樣本的樣本均值，故因而：.這說明是m的無偏估計(jì).又由a+b=1知，從而求導(dǎo)知，

15、當(dāng)時，Var(Y)達(dá)到最小，此時這個結(jié)果表明，來自同一總體的兩個容量為n1和n2的兩個獨(dú)立樣本合樣本(樣本容量為n1+n2)的均值是線性無偏估計(jì)類中方差最小的.6. 設(shè)分別來自總體N( m1,s2),和N( m2,s2)中抽取容量為n1和n2的兩個獨(dú)立樣本，其樣本方差分別為s12, s22.試證，對任意常數(shù)啊a,b(a+b=1),Z=a s12,+b s22都是s2的無偏估計(jì)，并確定常數(shù)a,b使Var(Z)達(dá)到最小.解：由已知條件有且獨(dú)立.于是故這證明了是的無偏估計(jì).又從而因而當(dāng)時,達(dá)到最小,此時該無偏估計(jì)為這個結(jié)果表明,對來自方差相等(不論均值是否相等)的兩個正態(tài)總體的容量為和的樣本,上述是

16、的線性無偏估計(jì)類中方差最小7.設(shè)有k臺儀器,已知用第i臺儀器測量時,測量值總體的標(biāo)準(zhǔn)差為用這些儀器獨(dú)立的對某一物理量各觀察一次,成為的無偏估計(jì),且方差達(dá)到最小.解：若要使為的無偏估計(jì),即則必須有此時因此,問題轉(zhuǎn)化為在的條件下,求的極小值.令由和得到從(1)中可以得到代入(2)中,解出,從而8設(shè)是來自均勻總體的一個樣本.(1) 驗(yàn)證都是的無偏估計(jì)；(2) 比較上述三個估計(jì)的有效性.解: 令則即是來自的樣本,且于是,我們可將諸估計(jì)寫成與的函數(shù)：由此,又這說明由此可以得到綜上,均是的無偏估計(jì),而且與的方差相等,但在比較與的方差是要取決于n的大小,當(dāng)時,比有效；當(dāng)時,比有效.9.設(shè)樣本來自一個正態(tài)總體

17、樣本來自另一個正態(tài)總體且兩個樣本獨(dú)立.(1)求的矩估計(jì)；(2)如果固定,試問如何分配和才能使得的方差達(dá)到最小.解；(1)由題意可知的矩估計(jì)為的矩估計(jì)為因而的矩估計(jì)(2)由于且兩個樣本獨(dú)立,故在的條件下使用和本節(jié)第5題相同的方法,由可解出(另一解不適合),而故時的方差達(dá)到最小.10設(shè)總體是樣本,試證和都是的無偏估計(jì)量,并比較其有效性.解：由指數(shù)分布知,因而這說明是的無偏估計(jì)量.又最小次序統(tǒng)計(jì)量的密度函數(shù)為即因而有從而即是的無偏估計(jì)量,且注意到當(dāng)n1時,這說明作為的無偏估計(jì),比更有效.11設(shè)總體為為其樣本,試求的無偏估計(jì).解：此處樣本均值為參數(shù)的充分統(tǒng)計(jì)量,且,于是因而從而可得的一個無偏估計(jì)為12

18、設(shè)總體為為樣本,證明樣本均值和樣本中程都是的無偏估計(jì),并比較它們的有效性.解：由總體得因而,這首先說明樣本均值是的無偏估計(jì),且.為求樣本中程的均值與方差,注意到令,n,則由于故從而這就證明了樣本中程是的無偏估計(jì).又注意到(參見第五章5.3節(jié)習(xí)題29)所以 從而于是在時,這說明作為的無偏估計(jì),在n2時,樣本中程比樣本均值有效.13.設(shè)是來自正態(tài)總體對考慮如下三個估計(jì)(1)哪一個是的無偏估計(jì)？(2) 哪一個均方誤差最??？解：(1)由于,故有,從而這說明僅有是的無偏估計(jì),而與是的有偏估計(jì).(2) 我們知道,估計(jì)的均方誤差是估計(jì)的方差加上偏差的平方,即而Var這給出VarVarVar于是MSEVarM

19、SEMSE顯然所以的均方差最小.注意,這里是的有偏估計(jì),上述結(jié)論表明,在均方誤差意義下,有時有偏估計(jì)要比無偏估計(jì)更優(yōu).14. 設(shè)是來自密度函數(shù)為的樣本,(1)求的最大似然估計(jì),它是否是相合估計(jì)？是否是無偏估計(jì)？(2)求的矩估計(jì),它是否是相合估計(jì)？是否是無偏估？(3)考慮的形如的估計(jì),求使得的均方誤差達(dá)到最小的c,并將之與的均方誤差進(jìn)行比較.解:(1)似然函數(shù)為顯然在示性函數(shù)為1的條件下是的嚴(yán)增函數(shù),因此的最大似然估計(jì)為又的密度函數(shù)為故故不是的無偏估計(jì),但是的漸近無偏估計(jì).由于且Var這說明是的相合估計(jì).(2) 由于這給出,所以的矩估計(jì)為又所以Var從而有VarVar這說明既是的無偏估計(jì),也是相

20、合估計(jì).(3) 對形如的估計(jì)類,其均方誤差為MSE Var因而當(dāng)時,MSE達(dá)到最小,利用上述結(jié)果可以算出MSE,MSE故有MSEMSEMSE,所以在這三個估計(jì)中,的均方誤差最小.15.設(shè)總體是樣本,的矩估計(jì)和最大似然估計(jì)都是 ,它也是的相合估計(jì)和無偏估計(jì),試證明在均方誤差準(zhǔn)則下存在優(yōu)于的估計(jì)(提示：考慮找均方誤差最小者).證：由于總體所以Var現(xiàn)考慮形如的估計(jì)類,其均方誤差為MSE將上式對求導(dǎo)并令其為0,可以得到當(dāng)時,MSE最小,且這就證明了在均方誤差準(zhǔn)則下存在一個優(yōu)于的估計(jì).這也說明，有偏估計(jì)有時不比無偏估計(jì)差.16.設(shè)獨(dú)立同分布，E=，Var()+,證明是的相和估計(jì).證：由于=這就證明了是

21、的相合估計(jì).17.設(shè)是取自均勻分布總體的一個樣本，若分別取和作為的估計(jì)量，問是否為的無偏量估計(jì)量？如果不是，如何修正才能獲得的無偏估計(jì).解：令Y=，則YU(0，1)記為樣本相應(yīng)的次序統(tǒng)計(jì)量，于是有從而可見不是的無偏估計(jì)量，由解之得 因而 是的無偏估計(jì)量.18.設(shè) 獨(dú)立同分布，其共同的密度函數(shù)為 (1)證明：和都是的無偏估計(jì)；(2)計(jì)算和的均方誤差并進(jìn)行比較； (3)證明：在均方誤差意義下，在形如的估計(jì)中 最優(yōu).解：(1)先計(jì)算總體均值為，故這說明是的無偏估計(jì).又總體分布函數(shù)為記Y=，則密度函數(shù)為于是有 這表明也是的無便估計(jì).(2)無偏估計(jì)的方差就是均方誤差，由于故有又從而由于因此在均方差意義下

22、，優(yōu)于.(3)對形如的估計(jì)有，故因此當(dāng)時,上述均方誤差最小,所以在均方誤差意義下,在形如的估計(jì)中,最優(yōu).19設(shè)是來自均勻分布的一個樣本,對參數(shù)有如下三個估計(jì)(1)驗(yàn)證這些估計(jì)的無偏性；(2)比較這些估計(jì)的有效性；(3)研究這些估計(jì)的相合性.解：(1)由于所以又的密度函數(shù)為所以類似地,的密度函數(shù)為所以由此看出,三個估計(jì)都是的無偏估計(jì).(2)分別計(jì)算三個估計(jì)的方差由于時,有所以這三個估計(jì)中最有效,為次,最差.(3)由于與的方差都隨著而趨于零,故與都是的相合估計(jì),但不是的相合估的計(jì).為了證明這一點(diǎn),我們需要的分布函數(shù),由于的分布函數(shù)為于是,的分布函數(shù)為由此可得在充分小時,這是一個很小的數(shù),它與1相差

23、很大,這表明不會趨于1,故不是的相合估計(jì).20設(shè)是來自二點(diǎn)分布的一個樣本,(1)尋求的無偏估計(jì)；(2)尋求的無偏估計(jì)；(3)證明的無偏估計(jì)不存在.解：(1)是的最大似然估計(jì),是的最大似然估計(jì),但不是的無偏估計(jì),這是因?yàn)橛纱丝梢娛堑臒o偏估計(jì).(2) 是的最大似然估計(jì),但不是無偏估計(jì),這是因?yàn)橛纱丝梢娛莗(p-1)的一個無偏估計(jì),或者上式是p的n+1次方程,它最多有n+1個實(shí)根,而p可在(0,1)取無窮多個值,所以不論取什么形式都不能使上述方程在0p1上試成立,這表明的無偏估計(jì)不存在.21設(shè)是來自均勻分布U的一個樣本,尋求的無偏估計(jì).解：容易看出,分別是的最大似然估計(jì),但它們都不是無偏差估計(jì),這是

24、因?yàn)榫鶆蚍植糢的分布函數(shù)與密度函數(shù)分別為由此可導(dǎo)出次序統(tǒng)計(jì)量的密度函數(shù)分別為從而可以分別求出它們的期望 (*) (*) 這表明：不是與的無偏估計(jì),但做恰當(dāng)修改后,可獲得與的無偏差估計(jì).把(*)與(*)兩式相加與相減可得再使用加減消取法,即可得的無偏估計(jì)發(fā)表為22設(shè)是來自總體分布函數(shù)為的一個樣本,若是的有偏估計(jì),且其期望有如下形式 (*)其中的函數(shù),而與樣本量n無關(guān).這時,為了減少偏差,常用如下的、“刀切法”：記是把原樣本中的第個分量剔除,用留下的容量為n-1的樣本得到的類似估計(jì)量.即的估計(jì)公式有相同形式,且(1)證明：新的估計(jì)(一切的估計(jì))是的無偏估計(jì)；(2)用刀切法尋求泊松分布中參數(shù)平方的一

25、階刀切估計(jì).解：(1)一階刀切估計(jì)期望為所以的無偏估計(jì).(2)在泊松分布中,樣本均值的無偏估計(jì),但不是的無偏估計(jì),這是因?yàn)?若做簡單修改,用代替,就可以得到的一個無偏估計(jì)現(xiàn)在用“刀切法”尋找的一介刀切估計(jì),已知是的有偏估計(jì),且,其中僅是的函數(shù).若剔除樣本中第個分量,可得再做一階刀切估計(jì)就可以得到的一個無偏估計(jì),以下來化簡這個一階刀切估計(jì),把和代入上式,可得這就是的另一個無偏差估計(jì).6.3最小方差無便估計(jì)內(nèi)容概要1一致最小方差無偏估計(jì) 設(shè)是的一個無偏估計(jì),如果對另外任意一個的無偏估計(jì),在參數(shù)空間上都有則稱是的一致最小方差無偏估計(jì),簡記為UMVUE.2判斷準(zhǔn)則 設(shè)是的一個無偏估計(jì),.如果對任意一個

26、滿足的,都有則是的UMVUE.3. 充分性原則 任一參數(shù)的UNVUE不一定存在,若存在,則它一定是充分統(tǒng)計(jì)量的函數(shù)； 若的某個無偏估計(jì)不是充分統(tǒng)計(jì)量的函數(shù),則通過條件期望可以獲得一個新的無偏估計(jì),且方差比原估計(jì)的方差要??； 考慮的估計(jì)時,只需要在其充分估計(jì)量的函數(shù)中尋找即可,該說法對所有統(tǒng)計(jì)推斷都是正確的.這便是充分性原則.4費(fèi)希爾信息量 設(shè)總體的概率函數(shù)滿足下列條件：(1) 參數(shù)空間是直線上的一個開去區(qū)間；(2) 支撐與無關(guān)；(3) 導(dǎo)數(shù)對一切都存在；(4) 對,積分與微分運(yùn)算可交換次序,即(5) 期望存在,則稱該期望為總體分布的費(fèi)希爾(Fisher)信息量.如果二階導(dǎo)數(shù)對一切都存在,則還可

27、用下式計(jì)算5常用分布的費(fèi)希爾信息量二點(diǎn)分布b(1,p)的費(fèi)希爾信息量；泊松分布的費(fèi)希爾信息量；指數(shù)分布的費(fèi)希爾信息量；正態(tài)分布的費(fèi)希爾信息量；正態(tài)分布的費(fèi)希爾信息量；正態(tài)分布的費(fèi)希爾信息量(信息矩陣).6CR不等式設(shè)是未知參數(shù)的一個無偏估計(jì),若存在,則在費(fèi)希爾信息量也存在的條件下有上式稱為克拉美-羅(CR)不等式,稱為的無偏估計(jì)的方差的CR下界,簡稱的C-R下界.特別,對的無偏估計(jì),有.注：的C-R下界并不是對任意參數(shù)的無偏估計(jì)的方差都可達(dá)到.但能達(dá)C-R到下界的的估計(jì)一定是的UMVUE.習(xí)題與解答6.31設(shè)總體概率函數(shù)是是其樣本,是的充分統(tǒng)計(jì)量,則對的任一估計(jì)令證明這說明,在均方誤差準(zhǔn)則下,

28、人們只需考慮基于充分統(tǒng)計(jì)量的估計(jì).證：我們將均方誤差作如下分解注意到,這說明于是因而2.設(shè)分別是的UMVUE,證明：對任意的(非零)常數(shù)是的UMVUE.證：由于分別是的UMVUE,故,且對任意一個,滿足,由本節(jié)11題結(jié)論有,于是因此是的UMVUE.3.設(shè)是的UMVUE,是的無偏估計(jì),證明：若則證：因?yàn)槭堑腢MVUE,是的無偏估計(jì),故其差是0的無偏估計(jì),即,且,由本節(jié)11題結(jié)論知,這說明 即4. 設(shè)總體為樣本,證明,分別為的UMVUE.證：大家知道,分別是的無偏估計(jì),設(shè)是0的任一無偏估計(jì),則即 (*)將(*)式兩端對求導(dǎo),并注意到,有 (*)這說明,即,于是,從而是的UMVUE.為證明是的UMV

29、UE,我們將(*)式的兩端再對求導(dǎo),得由此可以得到,下一步,將(*)式兩端對求導(dǎo),略去幾個前面已經(jīng)指出的積分為0的項(xiàng),有這表明由此可得到,因而,這就證明了是的UMVUE.5.設(shè)總體的概率數(shù)為,滿足定義的條件,若二階導(dǎo)數(shù)對一切的存在,證明費(fèi)希爾信息量證:記,則所以另一方面,這就證明了6.設(shè)總體密度函數(shù)為是其樣本.(1) 求的最大似然估計(jì)；(2) 求的有效估計(jì).解:(1)似然函數(shù)為 對數(shù)似然函數(shù)為將似然函數(shù)求導(dǎo)并令其為0,得似然方程解之得(2) 令則因此從而有于是為求有效估計(jì),需求出的希爾信息量,注意到,而于是的任意無偏估計(jì)的C-R下界為從而是的無偏估計(jì),且方差達(dá)到了下界.所以是的有效估計(jì)7.設(shè)總

30、體密度函數(shù)為，求的費(fèi)希爾信息量解：對數(shù)密度函數(shù)為 求一、二階導(dǎo)數(shù)，有由此給出 8.設(shè)總體密度函數(shù)為已知，求的費(fèi)希爾信息量解：對數(shù)密度函數(shù)為 求一、二階導(dǎo)數(shù)，有由此給出 9.設(shè)總體分布列為求的費(fèi)希爾信息量解：對數(shù)分布為求一二階導(dǎo)數(shù),有在本章第3題中,我們已經(jīng)算得于是10.設(shè)是來自的樣本,試證明是的有效估計(jì),從而也是UMVUE解：總體的密度函數(shù)為于是所以的費(fèi)希爾信息量為,這就是說g(的任一無偏估計(jì)的CR下界為又這就證明了是的有效估計(jì).從而也是UMVUE11.證明：定理的逆也對,即：若是的UMVUE,則對任一滿足且的有 證：采用反證法.倘若在參數(shù)空間中有一個使得,取則令則,這說明也是的無偏估計(jì),但這

31、與是的UMVUE矛盾,這就證明了對參數(shù)空間中任意的都有,也即定理的逆也對.由此我們知道,條件“對任意滿足的有“是的UMVUE”的充分必要條件.12.設(shè)總體為樣本,試求：(1)的最小方差無偏估計(jì)；(2)的最小方差無偏估計(jì).解：(1)本節(jié)第4題已經(jīng)證明了和分別是和的UMVUE,則由本節(jié)第2題知是的最小無偏估計(jì).(2)對任意一個0的無偏估計(jì)有(見本節(jié)第4題證明過程)和,于是有,而且,所以是的最小方差無偏估計(jì).13.設(shè)獨(dú)立同分布, 的取值有四種可能,其概率分別為記為為中出現(xiàn)各種可能結(jié)果的次數(shù),(1)確定使為的無偏估計(jì)；(2)將與的無偏估計(jì)方差的CR下界比較.解：(1) 由于所以從而有=.若使T為的無偏

32、估計(jì),即要求解之得即是的無偏估計(jì).(2)=對數(shù)似然函數(shù)為(略去與的無關(guān)的項(xiàng))于是注意到觀測量是隨機(jī)變量,且故,.從而費(fèi)希爾信息量為.所以的無偏估計(jì)方差的C-R下界為.由于于是的方差為：,即T的方差沒有達(dá)到的無偏估計(jì)方差的C-R下界.14.設(shè)是來自正態(tài)總體的一個樣本,若均值已知,證明：(1)是的有效估計(jì)；(2)是的無偏估計(jì),但不是有效估計(jì).證明：(1.)由知.為了獲得的無偏估計(jì)的C-R下界,需要費(fèi)希爾信息量,大家知道,正態(tài)分布的密度函數(shù)p(x)的對數(shù)是,.由此得的費(fèi)希爾信息量從而的無偏估計(jì)的C-R下界為,此下界與上述無偏估計(jì)的方差相等,故此是的有效估計(jì).(2)由于可見,即是的無偏估計(jì),其方差為為

33、了獲得的無偏估計(jì)的CR下界,需要知道的費(fèi)希爾信息量,由于,從而的無偏估計(jì)的CR下界為,由于無偏估計(jì)的方差,故不是的有效估計(jì).此處,的無偏估計(jì)的CR下界與的方差的比該比值常稱為無偏估計(jì)的效.15.證明：若T1與T2是未知參數(shù)g(q)的兩個UMVUE，則T1=T2(a.e).這個命題表明：g(q)的UMVUE在幾乎處處的意義下是唯一的.證明：首先，T1-T2是0的無偏估計(jì)，則由本節(jié)第11題于是由此立刻可得從而 6.4 貝葉斯估計(jì)內(nèi)容概要1. 貝葉斯統(tǒng)計(jì)推斷使用的三種信息 總體信息，總體分布和總體所屬分布族提供的信息； 樣本信息，從總體中抽取的樣本所提供的信息； 先驗(yàn)信息，在實(shí)驗(yàn)前人們對要做的問題在

34、經(jīng)驗(yàn)上和資料上所占用的信息.2. 貝葉斯統(tǒng)計(jì)的基本觀點(diǎn)任意一個未知量 q 都可看作一個隨機(jī)變量，用一個概率分布來描述未知參數(shù)是最好的辦法，這個分布稱為先驗(yàn)分布.3. 貝葉斯公式的密度函數(shù)形式l 總體分布依賴于參數(shù)q的概率函數(shù)在貝葉斯統(tǒng)計(jì)中記為 p(x|q),他表示在隨機(jī)變量q 取某個給定的值時總體的條件概率函數(shù)；l 根據(jù)參數(shù)q 的先驗(yàn)信息可確定先驗(yàn)分布p (q );l 從貝葉斯觀點(diǎn)看，樣本x1,x2,xn的產(chǎn)生分兩步.首先從先驗(yàn)分布p (q )中產(chǎn)生一個樣本q0，然后從p(x1,x2,xn|q )產(chǎn)生一組樣本這時的樣本聯(lián)合條件概率函數(shù)為這個分布綜合了樣本信息和總體信息l q0 是未知的,它是按

35、先驗(yàn)分布p (q )產(chǎn)生的,為把先驗(yàn)信息綜合進(jìn)去,不能只考慮q0,對q的其它值發(fā)生的可能性也要加以考慮,過要用p (q )進(jìn)行綜合,這樣一來,樣本和參數(shù)的聯(lián)合分布為,這個聯(lián)合分布把總體信息,樣本信息和先驗(yàn)信息三種可用信息都綜合進(jìn)去了；l 分析的目的是要對未知參數(shù)作統(tǒng)計(jì)推斷.在沒有樣本信息時,人們只能依據(jù)先驗(yàn)分布對作出推斷.在有了樣本觀察值之后,則應(yīng)依據(jù)對作出推斷.由于可分解為=,其中=是的邊際概率函數(shù),它與無關(guān),不含的任何信息.因此能用來對作出推斷僅是條件分布它的計(jì)算公式是,這個條件分布稱為的后驗(yàn)分布,它集中了總體,樣本和先驗(yàn)中有關(guān)的一切信息.后驗(yàn)分布的計(jì)算公式就是用密度函數(shù)表示貝葉斯公式.它

36、是用總體和樣本對先驗(yàn)分布作調(diào)整的結(jié)果,貝葉斯統(tǒng)計(jì)的一切推斷都基于后驗(yàn)分布進(jìn)行.4. 貝葉斯估計(jì) 給予后驗(yàn)分布對所作的貝葉斯估計(jì)有多種,常用有如下三種：使用后驗(yàn)分布的密度函數(shù)最大值作為的點(diǎn)估計(jì),稱為作大后驗(yàn)估計(jì)；用后驗(yàn)分布的中位數(shù)作為的點(diǎn)估計(jì),稱為后驗(yàn)中位數(shù)估計(jì)；使用后驗(yàn)分布的均值作為的點(diǎn)估計(jì),稱為后驗(yàn)期望估計(jì).這是使用最為頻繁的貝葉斯估計(jì).5. 共厄先驗(yàn)分布設(shè)q 是總體參數(shù)，p (q )是其先驗(yàn)分布，若對任意的樣本觀測得到的后驗(yàn)分布p (q |X) 與p (q )屬于同一分不族,則稱該分布族是q 的共軛先驗(yàn)分布(族) 二項(xiàng)分布B(n,q )中成功概率q 的共軛先驗(yàn)分布是貝塔分布Be(a,b);

37、 泊松分布P(q )的均值q 的共軛先驗(yàn)分布是伽馬分布Ga(a,l); 在方差已知時,正態(tài)總體均值q 的共軛先驗(yàn)分布正態(tài)分布N(m,t2); 在均值已知時,正態(tài)總體方差s2的共軛先驗(yàn)分布倒伽馬分布IGa(a,l)(若X Ga(a,l),則X-1的分布稱為倒伽馬分布IGa(a,l);習(xí)題與解答1. 6.5 區(qū)間估計(jì)內(nèi)容概要1. 置信區(qū)間設(shè)q 是總體的一個參數(shù),其參數(shù)空間為Q, x1,x2,xn是來自該總體的樣本,對給定一個a(0a1),若有兩個統(tǒng)計(jì)量,使得對任意的qQ,有則稱隨機(jī)區(qū)間為的置信水平為1- a的置信區(qū)間,或簡稱是的1-a置信區(qū)間, 分別稱為的(雙側(cè))置信下限和置信上限.這里置信水平1

38、-a的含義是指在大量使用該置信區(qū)間時,至少有100(1-a)%的區(qū)間含有2同等置信區(qū)間在上述記號下,若對給定的(01),對任意的,有則稱為的1-同等置信區(qū)間.同等置信區(qū)間是把給定的置信水平1-用足了.常在總體為連續(xù)分布場合下可以實(shí)現(xiàn).3置信限在上述記號下,若給定的(01),和任意的有則稱為 的1-同等置信下限,假如等號對一切,有則稱為的1-同等置信上限.4.樞軸量法尋找同等置信區(qū)間常采用樞軸量法,其步驟如下：l 設(shè)法構(gòu)造一個樣本和的函數(shù)使得G的分布不依賴于未知參數(shù).此種G被稱為樞軸量；l 適當(dāng)?shù)剡x擇兩個常數(shù)c,d,使對給定的,(01),有P(cGd)=1-;l 若能將不等式cGd等價變形為則有

39、為的1-同等置信區(qū)間.關(guān)于置信區(qū)間的構(gòu)造有兩點(diǎn)說明l 滿足置信度要求的c,d通常不唯一,若有可能,應(yīng)選平均長度達(dá)到最短的c,d,這在G的分布為對稱分布的場合往往容易實(shí)現(xiàn).l 實(shí)際中,選平均長度盡可能短的c,d往往很難實(shí)現(xiàn),因此通常這樣選擇c,d,是的兩個尾部概率各為a/2,即P(Gd)=a/2,這樣的置信區(qū)間稱為登尾置信區(qū)間.這是在G的分布為偏態(tài)分布的場合通常采用的方法.5常用的置信區(qū)間(1).設(shè)x1,x2,xn是來自的樣本,為均值,s為樣本標(biāo)準(zhǔn)差,up為標(biāo)準(zhǔn)正態(tài)分布的p分位數(shù),為自由度是 k的t分布 為自由度是 k的c2分布的p分位數(shù),取置信水平為1-a，則m,s2,s的置信區(qū)間如下表所示參

40、數(shù)樞軸量置信區(qū)間ms已知s未知s2m已知m未知sm已知m未知(1).設(shè)x1,x2,xm是來自的樣本,為均值,sx為樣本標(biāo)準(zhǔn)差; 設(shè)y1,y2,ym是來自的樣本,為均值,sy為樣本標(biāo)準(zhǔn)差,up為標(biāo)準(zhǔn)正態(tài)分布的p分位數(shù),為自由度是 k的t分布,為自由度是 (k1,k2)的F分布的p分位數(shù),取置信水平為1-a, 則均值差m1-m2,方差比s12/s22的置信區(qū)間如下表所示參數(shù)樞軸量置信區(qū)間均值差m1-m2,s12與s22已知s12與s22未知,但s12=s22其中s22/s12=q已知其中m,n都很大時一般場合 注：這里 ,l為最接近于的整數(shù)方差比s12/s22m1，m2已知m1，m2之一未知習(xí)題與

41、解答6.51. 某廠生產(chǎn)的化纖強(qiáng)度服從正態(tài)分布,長期以來其標(biāo)準(zhǔn)差穩(wěn)定在=0.85,現(xiàn)抽取了一個容量為n=25的樣本,測定其強(qiáng)度,算得樣本均值為=2.25,試求這批化纖平均強(qiáng)度的置信水平為0.95的置信區(qū)間.解 這是方差已知時正態(tài)均值的區(qū)間估計(jì)問題.由題設(shè)條件,查表知,于是這批化纖平均強(qiáng)度的置信水平為0.95的置信區(qū)間為=2.25-0.3332,2.25+0.3332,即這批化纖平均強(qiáng)度的置信水平為0.95的置信區(qū)間為1.9168,2.5832.2. 總體XN(,),已知,問樣本容量取多大時才能保證的置信水平為95%的置信區(qū)間的長度不大于.解 由已知條件得的0.95置信區(qū)間為其區(qū)間長度為2,若使

42、2,只需.由于=1.96,故,即樣本容量至少取時,才能保證的置信水平為95%的置信區(qū)間的長度不大于.30.50,1.25,0.80,2.00是取自總體X的樣本,已知Y=lnX服從正態(tài)分布N(,1).(1) 求的置信水平為95%的置信區(qū)間；(2) 求X的數(shù)學(xué)期望的置信水平為95%的置信區(qū)間.解 (1) 將數(shù)據(jù)進(jìn)行對數(shù)交換,得到Y(jié)=lnX的樣本值為:-0.6931,0.2231,-0.2231,0.6931.它可看作是來自正態(tài)分布N(,1)的樣本,其樣本均值為=0,由于=1已知,因此,的置信水平為95%的置信區(qū)間為: =-0.9800,0.9800.(2) 由于EX=是的嚴(yán)增函數(shù),利用(1)的結(jié)果

43、,可算得X的數(shù)學(xué)期望的置信水平為95%的置信區(qū)間為,=0.6188,4.3929.4用一個儀表測量某一物理量9次,得樣本均值=56.32,樣本標(biāo)準(zhǔn)差s=0.22.(1) 測量標(biāo)準(zhǔn)差大小反映了測量儀表的精度,試求的置信水平為0.95的置信區(qū)間；(2) 求該物理量真值的置信水平為0.99的置信區(qū)間.解 (1)此處(-1)=80.22=0.3872,查表知(8)=2.1797,=17.5345,的1-置信區(qū)間為=,=0.0221,0.776從而的置信水平為0.95的置信區(qū)間0.1487,0.4215.(2) 當(dāng) s 未知時,的1-置信區(qū)間為,.查表得(8)=3.3554,因而的置信水平為0.99的置信區(qū)間為0.22/,56.32+3.35540.22/=56.0739,56.5661.5已知某種材料的抗壓強(qiáng)度XN(),現(xiàn)隨機(jī)地抽取10個試件進(jìn)行抗壓試驗(yàn),測得數(shù)據(jù)如下：482 493 457 471 510 446 435 418 394 469 .(1) 求平均抗壓強(qiáng)度的置信水平為95%的置信區(qū)間；(2) 若已知=30,求平均抗壓強(qiáng)度置信水平面為95%的置信區(qū)間；(3) 求的置信水平為95%的置信區(qū)間.解:(1) 經(jīng)計(jì)算得,=457.5, s=35.2176, 在未知時,的置信水平為95%的置信區(qū)間為,.查表得,(9)=2.2622,因而的置信水平為95%的置信區(qū)間為35.2176