第三章參數(shù)估計

第三章參數(shù)估計第一頁，共五十九頁，2022年，8月28日1第一節(jié)點估計

一、點估計的概念設是總體的分布函數(shù)中的一個參數(shù)，是來自總體的一個樣本，點估計就是構造一個統(tǒng)計量作為參數(shù)的估計，稱為的估計量。如果經過一次試驗，得到了樣本的觀測值為，以分別代替得到，稱為的估計值。第二頁，共五十九頁，2022年，8月28日2二、矩法估計及其原理矩法估計矩估計的原理矩法估計也稱矩估計。其基本思想是把樣本矩作為相應的總體矩的估計量。即將樣本的k階原點矩作為總體的k階原點矩的估計量，利用矩法估計得到的總體未知參數(shù)的估計量稱為參數(shù)的矩估計量，簡稱矩估計。

矩估計的原理為辛欽大數(shù)定律，即當隨機變量相互獨立同分布，且時有

于是在存在時，有第三頁，共五十九頁，2022年，8月28日3例2

設總體的均值與方差均存在，求它們的矩估計。例1設總體服從0-1分布，即設，其中是未知參數(shù)，求的矩估計量。例3設總體概率密度為其中是未知參數(shù)，且，求總體概率密度中的參數(shù)的矩估計量。第四頁，共五十九頁，2022年，8月28日4設總體的分布函數(shù)為，其中是未知參數(shù)，總體的階原點矩是，樣本的階原點矩為，則方程組的解即為的矩估計量。第五頁，共五十九頁，2022年，8月28日5三、最大似然估計及其原理似然函數(shù)若總體是連續(xù)型隨機變量，其概率密度為，其中是未知參數(shù)，則總體的樣本的聯(lián)合概率密度函數(shù)為，對于樣本的一組觀測值，它是的函數(shù)，記為稱為樣本似然函數(shù)。

連續(xù)型隨機變量第六頁，共五十九頁，2022年，8月28日6似然函數(shù)若總體是離散型隨機變量，其概率分布為其中是未知參數(shù)，則總體的樣本的聯(lián)合概率分布為，對于樣本的一組觀測值，它是的函數(shù)，記為稱為樣本似然函數(shù)。

離散型隨機變量最大似然估計的原理概率大的事件比概率小的事件在一次試驗中更容易出現(xiàn)第七頁，共五十九頁，2022年，8月28日7定義1若似然函數(shù)在分別取時取得最大值，則分別稱為的最大似然估計值，即可知，必須滿足稱上式為似然方程組?；虮仨殱M足稱上式為對數(shù)似然方程組。第八頁，共五十九頁，2022年，8月28日8最大似然估計法是尋找似然函數(shù)取到最大值的參數(shù)的值作為未知參數(shù)的估計量（值）的點估計方法。例5

設總體服從參數(shù)為的泊松分布，即求參數(shù)的最大似然估計。例4設總體服從0-1分布，即設，其中是未知參數(shù)，求的最大似然估計量。第九頁，共五十九頁，2022年，8月28日9例6設總體服從正態(tài)分布，即設是的樣本，求的最大似然估計。例8設總體概率密度為其中是未知參數(shù)，且，求總體概率密度中的參數(shù)的最大似然估計量。例7設總體服從區(qū)間上的均勻分布，其中為參數(shù)，即的概率密度為求參數(shù)的最大似然估計量。第十頁，共五十九頁，2022年，8月28日10四、貝葉斯估計前面涉及的未知參數(shù)是非隨機變量，在估計之前，只知道其范圍，然而實際中，有時還知道的一些附加信息，把其看做隨機變量，并且已知其分布。如何應用的分布估計便是下面要研究的方法，稱為貝葉斯估計方法。決策理論的基本概念稱對估計和檢驗問題的結果的評價為決策。第十一頁，共五十九頁，2022年，8月28日111.決策空間設隨機變量的概率函數(shù)或概率密度函數(shù)為，其中未知。對參數(shù)采取的所有“行動”（估計）組成的集合稱為決策空間，記為。一般地，為實可測集合。2.損失函數(shù)設參數(shù)的真值為而采取的“行動”為，換句話說，的估計為，通常用一個函數(shù)來度量代替所造成的損失，稱為損失函數(shù)。第十二頁，共五十九頁，2022年，8月28日12常見的損失函數(shù)1.平方誤差損失函數(shù)2.絕對誤差損失函數(shù)3.一般損失函數(shù)第十三頁，共五十九頁，2022年，8月28日133.決策函數(shù)

對未知參數(shù)作估計，實質上是對樣本空間W的每一點，在決策空間A中找一點與之對應。因此，選擇樣本的函數(shù)其定義域為樣本空間W，W為或其子集，其值域為決策空間A，則稱為決策函數(shù)。

對樣本的一組觀測值，則采用決策為，其損失為第十四頁，共五十九頁，2022年，8月28日144.風險函數(shù)由于是隨機變量，所以評價的優(yōu)劣標準用平均損失，即稱為在處的風險函數(shù)。以后就把作為我們采取任何“行動”的標準。第十五頁，共五十九頁，2022年，8月28日15貝葉斯估計量1.先驗分布在獲得樣本的一組觀測值之前，統(tǒng)計學家或實驗工作者根據以往的經驗和知識，確信是隨機變量，在參數(shù)空間服從某種概率分布，稱這個分布為先驗分布。

若參數(shù)的先驗分布為離散分布，則稱其離散概率分布函數(shù)為先驗概率函數(shù)。用表示。

若參數(shù)的先驗分布為連續(xù)分布，則稱其概率分布密度函數(shù)為先驗概率密度函數(shù)。用表示。第十六頁，共五十九頁，2022年，8月28日162.后驗分布

在獲得樣本的一組觀測值之后，根據獲得的總體的樣本，由樣本得到的未知參數(shù)的條件分布稱為參數(shù)的后驗分布。用表示。后驗分布的求法設總體的條件概率函數(shù)或條件概率密度函數(shù)為，假設的先驗概率函數(shù)或先驗概率密度函數(shù)為，并設是來自總體的樣本，其觀測值為。于是，樣本的條件概率密度函數(shù)為或第十七頁，共五十九頁，2022年，8月28日17樣本和聯(lián)合概率分布為令表示的后驗概率函數(shù)或后驗概率密度函數(shù)，表示的聯(lián)合邊沿概率函數(shù)或聯(lián)合邊沿概率密度函數(shù)，則于是后驗分布第十八頁，共五十九頁，2022年，8月28日18如果是離散型隨機變量，則如果是連續(xù)型隨機變量，則其中例9設總體服從伯努利分布，其中參數(shù)未知，且設在（0，1）上服從均勻分布，是來自總體的樣本，試求的后驗分布。第十九頁，共五十九頁，2022年，8月28日193.貝葉斯估計量以下假設隨機變量的分布和的先驗分布均為連續(xù)型分布。如果分布為離散型，只要用概率函數(shù)代替密度函數(shù)，求和代替求積分便可。假設的先驗概率密度函數(shù)為，且尚未獲得樣本觀測值，則我們的愿望是選擇一個估計值，使平均損失最小，即使最小。貝葉斯估計量的思想第二十頁，共五十九頁，2022年，8月28日20貝葉斯估計量的定義假設在估計參數(shù)之前，獲得了一組樣本觀測值，令表示的后驗概率密度函數(shù)，于是對樣本的一組觀測值，若是使上式最小的估計值，即使最小，則稱為的貝葉斯估計量。可知滿足下式第二十一頁，共五十九頁，2022年，8月28日21貝葉斯估計量的結論

定理設總體的概率密度函數(shù)為，其中參數(shù)未知，且假定的先驗概率密度函數(shù)為，是來自總體的樣本。如果損失函數(shù)為，則對樣本的任何一次觀測值，貝葉斯估計量為第二十二頁，共五十九頁，2022年，8月28日22例10設總體服從伯努利分布，其中參數(shù)未知，且設在（0，1）上服從均勻分布，是來自總體的樣本，給定損失函數(shù)為，試求的貝葉斯估計量。例11設總體服從正態(tài)分布，其中參數(shù)未知，且設服從正態(tài)分布，是來自總體的樣本，給定損失函數(shù)為，試求的貝葉斯估計量。第二十三頁，共五十九頁，2022年，8月28日23點估計從總體中抽取一個隨機樣本，構造樣本的統(tǒng)計量，然后把該統(tǒng)計量作為總體參數(shù)的估計值，稱為參數(shù)的點估計。簡單，具體明確優(yōu)點缺點無法控制誤差，僅適用于對推斷的準確程度與可靠程度要求不高的情況第二十四頁，共五十九頁，2022年，8月28日24的抽樣分布點估計的最大好處：給出確定的值點估計的最大問題：無法控制誤差第二十五頁，共五十九頁，2022年，8月28日25問題：第一，我們?yōu)槭裁匆赃@一個而不是那一個統(tǒng)計量來估計某個總體參數(shù)？

第二，如果有兩個以上的統(tǒng)計量可以用來估計某個總體參數(shù)，其估計結果是否一致？是否一個統(tǒng)計量要優(yōu)于另一個？估計量的優(yōu)良標準：無偏性、有效性、一致性估計量優(yōu)良性的評價標準第二十六頁，共五十九頁，2022年，8月28日26點估計量的優(yōu)良標準設為待估計的總體參數(shù)，為樣本統(tǒng)計量，則的優(yōu)良標準為：若，則稱為的無偏估計量指樣本指標的均值應等于被估計的總體指標1.無偏性意義：多次對樣本進行觀測，得到參數(shù)的多個估計值，這些估計值的算術平均值與參數(shù)的真值基本上相等。第二十七頁，共五十九頁，2022年，8月28日27例12設是總體的樣本，證明：當為正整數(shù)）存在時，樣本的階原點矩是總體的階原點矩的無偏估計量。例13已知是總體的樣本，證明：樣本未修正方差不是總體方差的無偏估計量。2.有效性作為優(yōu)良的估計量，除了滿足無偏性的要求外，其方差應比較小.定義3

若，都是參數(shù)的無偏估計量，若有，則稱為比更有效的估計量。意義

若，都是參數(shù)的無偏估計量，若比更有效，則比取值更集中在的附近。第二十八頁，共五十九頁，2022年，8月28日28定義4設為總體未知參數(shù)的估計量，若對于任意的均有3.一致性（相合性）例11設總體，其中未知為的一個樣本，證明下列統(tǒng)計量均為總體參數(shù)的無偏估計量,并比較哪一個更有效？則稱為參數(shù)的一致估計量（或相合估計量）第二十九頁，共五十九頁，2022年，8月28日29為的無偏、有效、一致估計量；為的無偏、有效、一致估計量；為的無偏、有效、一致估計量?？梢宰C明：例12設總體，其中未知為總體的一個樣本，試證明（1）和均是的無偏估計量；（2）均是的一致估計量。第三十頁，共五十九頁，2022年，8月28日30第二節(jié)區(qū)間估計

區(qū)間估計及其基本步驟定義5設總體的分布函數(shù)中含有一個未知參數(shù)，對于任意給定的數(shù)，若統(tǒng)計量及滿足則稱區(qū)間

為參數(shù)的置信度的置信區(qū)間。

分別稱為置信下限和置信上限，稱為置信度。注意：置信區(qū)間不是唯一的，同一置信度下的置信區(qū)間有無窮多。第三十一頁，共五十九頁，2022年，8月28日31區(qū)間估計的基本步驟（1）由樣本構造適當?shù)碾S機變量，說明所構造的隨機變量服從的分布；（2）由給出的置信度，根據所構造的隨機變量的分布，查相關的分位數(shù)；（3）由樣本值計算參數(shù)的置信上、下限，計算出置信區(qū)間。置信度的置信區(qū)間規(guī)定為滿足下列條件的區(qū)間第三十二頁，共五十九頁，2022年，8月28日32正態(tài)總體均值與方差的區(qū)間估計單個正態(tài)總體的情形1.均值的置信區(qū)間（1）方差已知，均值的置信區(qū)間引入隨機變量，則故均值的置信度的置信區(qū)間為得假設總體，是的樣本，分別是樣本均值和樣本（修正）方差。第三十三頁，共五十九頁，2022年，8月28日33例1已知一批燈泡的使用壽命服從正態(tài)分布，從中任意抽取9只檢驗，測得平均壽命小時，試求該批燈泡的使用壽命的置信度0.95的置信區(qū)間。（2）方差未知，均值的置信區(qū)間引入隨機變量，則故均值的置信度的置信區(qū)間為得第三十四頁，共五十九頁，2022年，8月28日34例2從一批鋼管中隨機抽取10個，測得其直徑尺寸與標準尺寸之間的偏差（單位：毫米）分別為：2，1，-2，3，2，4，-2，5，3，4。已知鋼管直徑尺寸的偏差是一隨機變量，記為且，試求的置信度0.90的置信區(qū)間。第三十五頁，共五十九頁，2022年，8月28日352.方差的置信區(qū)間（1）均值已知，方差的置信區(qū)間引入隨機變量，則故方差的置信度的置信區(qū)間為：得第三十六頁，共五十九頁，2022年，8月28日36（2）均值未知，方差的置信區(qū)間引入隨機變量，則故方差的置信度的置信區(qū)間為：得例3從一批鋼管中隨機抽取10個，測得其直徑尺寸與標準尺寸之間的偏差（單位：毫米）分別為：2，1，-2，3，2，4，-2，5，3，4。已知鋼管直徑尺寸的偏差是一隨機變量，記為且，試求的置信度0.90的置信區(qū)間。第三十七頁，共五十九頁，2022年，8月28日37例4假設某廠生產的鋼珠直徑（單位：毫米）服從正態(tài)分布，現(xiàn)從該廠剛生產出的一大堆鋼珠中隨機地抽取9個，測量它們的直徑，并求得其樣本均值，樣本方差。試求方差的置信度0.95的置信區(qū)間。兩個正態(tài)總體的情形假設：兩個總體相互獨立，且和分別是和的樣本，分別是的樣本均值，分別是的樣本（修正）方差。第三十八頁，共五十九頁，2022年，8月28日381.均值差的置信區(qū)間（1）均已知，的置信區(qū)間引入隨機變量，則故均值差的置信度的置信區(qū)間為：得第三十九頁，共五十九頁，2022年，8月28日39（2）方差均未知但相等，均值差的置信區(qū)間引入隨機變量，則故均值差的置信度的置信區(qū)間為：得例5某食鹽加工廠有甲、乙兩條食鹽裝袋生產線，設所裝袋的食鹽重量分別服從，，從甲裝袋線抽取10袋試驗測得平均重量克；從乙裝袋生產線隨機抽取20袋試驗測得平均重量克。取置信度為99%，求甲、乙兩條生產線均值差的置信區(qū)間。第四十頁，共五十九頁，2022年，8月28日40例6為了比較甲、乙兩類試驗田的藥材生產的畝產量，現(xiàn)隨機抽取甲類試驗田8畝，乙類試驗田10畝，測得畝產量如下（單位：公斤）假設這兩類試驗的田產量和相互獨立且都服從正態(tài)分布，且方差相同。求它們均值差的置信度0.95的置信區(qū)間。甲類12.610.211.712.311.110.510.612.2乙類8.67.99.310.711.211.49.89.510.18.5第四十一頁，共五十九頁，2022年，8月28日412.兩個正態(tài)總體方差比的置信區(qū)間（均值均未知）引入隨機變量，則故方差比的置信度的置信區(qū)間為：得第四十二頁，共五十九頁，2022年，8月28日42例7為了調查甲、乙兩城市在1990年家庭家計情況，從甲城市隨機地抽取500戶進行調查，得平均每戶的年消費支出3000元，標準差為400元；乙城市隨機地抽取1000戶，調查得平均每戶消費支出4200元，標準差500元。設甲、乙兩城市的每戶消費支出和都服從正態(tài)分布且相互獨立，試求甲、乙兩城市每戶消費支出方差比的置信度0.90的置信區(qū)間。作業(yè)：第四十三頁，共五十九頁，2022年，8月28日43第三節(jié)單側置信區(qū)間

單側置信區(qū)間的概念定義6設為總體的分布函數(shù)中的未知參數(shù)，對于任意給定的數(shù)，若統(tǒng)計量滿足則稱區(qū)間或為參數(shù)的置信度的左（單）側置信區(qū)間。置信上限，稱為置信度。第四十四頁，共五十九頁，2022年，8月28日44

定義7設為總體分布函數(shù)中的一個未知參數(shù)，若對于任意給定的數(shù)，統(tǒng)計量滿足則稱區(qū)間

為參數(shù)的置信度的右（單）側置信區(qū)間。稱為置信下限，稱為置信度。注意：單側置信區(qū)間是唯一的，同一置信度下的置信區(qū)間只有一個。左、右單側置信區(qū)間統(tǒng)稱為單側置信區(qū)間。第四十五頁，共五十九頁，2022年，8月28日45正態(tài)總體單側置信區(qū)間的求法不妨設總體，是總體的樣本，分別是樣本均值與樣本（修正）方差（1）左側置信區(qū)間引入隨機變量，則故均值的置信度的左側置信區(qū)間為得1.方差已知，均值的單側置信區(qū)間一、均值的單側置信區(qū)間第四十六頁，共五十九頁，2022年，8月28日46（2）右側置信區(qū)間引入隨機變量，則故均值的置信度的右側置信區(qū)間為得例1一種液體存貯器的耐裂指標是平均爆破壓力，現(xiàn)從該批產品中任抽9個，得爆破壓力數(shù)據如下：543，560，530，545，550，545，540，555，537。據經驗，這種存貯器的爆破壓力服從正態(tài)分布，求該種存貯器的平均爆破壓力的95%的左側置信區(qū)間。第四十七頁，共五十九頁，2022年，8月28日47（1）左側置信區(qū)間引入隨機變量，則故均值的置信度的左側置信區(qū)間為得2.方差未知，均值