概率論與數(shù)理統(tǒng)計(jì) - 第七章

沈陽大學(xué)教案課程名稱：工程數(shù)學(xué)——概率論與數(shù)理統(tǒng)計(jì)編寫時(shí)間：2006年7月15日第次第PAGE1頁授課章節(jié)第七章參數(shù)估計(jì)目的要求了解矩估計(jì)，極大似然估計(jì)。重點(diǎn)難點(diǎn)掌握極大似然估計(jì)，正態(tài)總體的區(qū)間估計(jì)第七章：參數(shù)估計(jì)總體是由總體分布來刻畫的．在實(shí)際問題中我們根據(jù)問題本身的專業(yè)知識(shí)或以往的經(jīng)驗(yàn)或適當(dāng)?shù)慕y(tǒng)計(jì)方法，有時(shí)可以判斷總體分布的類型，但是總體分布的參數(shù)還是未知的，需要通過樣本來估計(jì)．例如，為了研究人們的市場消費(fèi)行為，我們要先搞清楚人們的收入狀況．若假設(shè)某城市人均年收入服從正態(tài)分布，但參數(shù)和的具體值并不知道，需要通過樣本來估計(jì)．又如，假定某城市在單位時(shí)間（譬如一個(gè)月）內(nèi)交通事故發(fā)生次數(shù)服從泊松分布P（λ），其中的參數(shù)λ也是未知的，同樣需要從樣本來估計(jì)．通過樣本來估計(jì)總體的參數(shù)，這稱為參數(shù)估計(jì)，它是統(tǒng)計(jì)推斷的一種重要形式．本章我們討論參數(shù)估計(jì)的常用方法，估計(jì)的優(yōu)良性以及若干重要總體的參數(shù)估計(jì)問題．第1節(jié)：矩估計(jì)矩估計(jì)是基于直觀考慮而提出的，其方法比較簡單．對(duì)總體X，它的m階原點(diǎn)矩為若是離散型分布，這里的積分號(hào)應(yīng)改為求和號(hào)．而m階樣本原點(diǎn)矩為Am＝一般說來，αm是總體參數(shù)θ１，?，θk的函數(shù)，記之為αm（θ１，?，θk）．因此，如果令總體的前k階原點(diǎn)矩與同階樣本原點(diǎn)矩相等，就得到關(guān)于θ１，?，θk的一個(gè)方程組αm（θ１，?，θk）＝Am，m＝１，２，?，k解這個(gè)方程組，其解記為＾θi＝＾θi（X１，X２，?，Xn），i＝１，?，k它們就可以做為θi的估計(jì)．這樣的估計(jì)叫做矩估計(jì)．例7．1．3求事件發(fā)生概率p的矩估計(jì)．記事件A發(fā)生的概率P（A）＝p，定義隨機(jī)變量X＝１，若在一次試驗(yàn)中事件A發(fā)生，０，若在一次試驗(yàn)中事件A不發(fā)生，于是E（X）＝p，即我們所求的事件A發(fā)生的概率等于隨機(jī)變量X的均值．現(xiàn)有樣本X１，?，Xn，也就是說，我們做了n次試驗(yàn)，觀測到Xi＝１，若在第i次試驗(yàn)中事件A發(fā)生，０，若在第i次試驗(yàn)中事件A不發(fā)生暢根據(jù)（７.１.２），p的矩估計(jì)為注意，這里是在n次試驗(yàn)中事件A出現(xiàn)的次數(shù)．因而，是事件A出現(xiàn)的頻率．于是，我們的結(jié)論可敘述為：頻率是概率的矩估計(jì)．第2節(jié)：極大似然估計(jì)設(shè)總體分布為，為從該總體抽出的樣本。因?yàn)橄嗷オ?dú)立且同分布，于是，他們的聯(lián)合密度函數(shù)為這里被看作固定但是未知的參數(shù)。反過來，如果我們把看成固定的，則就是的函數(shù)，這是我們把它稱為似然函數(shù)。假定現(xiàn)在我們已經(jīng)觀測到一組樣本，要去估計(jì)未知參數(shù)．一種直觀的想法是，哪一組參數(shù)值使現(xiàn)在的樣本出現(xiàn)的可能性最大，哪一組參數(shù)可能就是真正的參數(shù)，我們就要用它作為參數(shù)的估計(jì)值．這里，假定我們已知一組樣本．如果對(duì)參數(shù)的兩組不同的值和，似然函數(shù)有如下關(guān)系那么，從又是概率密度函數(shù)的角度來看，上式的意義就是參數(shù)使出現(xiàn)的可能性比參數(shù)使出現(xiàn)的可能性大，當(dāng)然參數(shù)比更像是真正的參數(shù)．這樣的分析就導(dǎo)致了參數(shù)估計(jì)的一種方法，即用使似然函數(shù)達(dá)到最大值的點(diǎn)，作為未知參數(shù)的估計(jì)，這就是所謂的極大似然估計(jì)．第3節(jié)：估計(jì)量得優(yōu)良性準(zhǔn)則從前面兩節(jié)的討論中我們看到，有時(shí)候同一個(gè)參數(shù)可以有幾種不同的估計(jì)，這時(shí)就存在采用哪一個(gè)估計(jì)的問題．另一方面，對(duì)一個(gè)參數(shù)，用矩法和極大似然法即使得到同一種估計(jì)，也存在一個(gè)衡量這個(gè)估計(jì)優(yōu)劣的問題．本節(jié)我們就討論評(píng)價(jià)一個(gè)估計(jì)的標(biāo)準(zhǔn)問題．無偏性定理7.3.1設(shè)總體均值為，方差為，為來自該總體的樣本，則（1）（2）這里為樣本方差，即樣本均值與樣本方差分別為總體均值和總體方差的無偏估計(jì)。均方差準(zhǔn)則用估計(jì)量去估計(jì)θ，其誤差為－θ，它隨樣本X１，的值而定，也是隨機(jī)的，即－θ是隨機(jī)變量．我們對(duì)它求均值，為了防止求均值時(shí)正誤差和負(fù)誤差相互抵消，我們先將其平方再求均值，并將其稱為均方誤差，記為MSE（）。第4,、5節(jié)：正態(tài)總體的區(qū)間估計(jì)在日常生活中，當(dāng)我們估計(jì)一個(gè)未知量的時(shí)候，通常采用兩種方法．一種方法是用一個(gè)數(shù)，也就是用實(shí)軸上的一個(gè)點(diǎn)去估計(jì)，我們稱它為點(diǎn)估計(jì)．前面討論的矩估計(jì)和極大似然估計(jì)都屬于這種情況．另一種方法是采用一個(gè)區(qū)間去估計(jì)未知量，例如，估計(jì)某人的身高在１７０厘米到１８０厘米之間；明天北京的最高氣溫在３０℃～３２℃之間等等．這類估計(jì)稱為區(qū)間估計(jì)．不難看出，區(qū)間估計(jì)的長度度量了該區(qū)間估計(jì)的精度．區(qū)間估計(jì)的長度愈長，它的精度也就愈低．例如：估計(jì)某人的身高．甲估計(jì)他是在１７０～１８０厘米之間，而乙估計(jì)他是在１５０～１９０厘米之間，顯然，甲的區(qū)間估計(jì)較乙的短，因而精度較高．但是，這個(gè)區(qū)間短，包含該人真正身高的可能性即概率就?。覀儼堰@個(gè)概率稱為區(qū)間估計(jì)的可靠度．那么，乙的區(qū)間估計(jì)的長度長，精度差，但可靠度比甲的大．由此可見，在區(qū)間估計(jì)中，精度（用區(qū)間估計(jì)的長度來度量）和可靠度（用估計(jì)的區(qū)間包含未知量的概率來度量）是相互矛盾著的．在實(shí)際問題中，我們總是在保證可靠度的條件下，盡可能地提高精度．下面我們來討論如何構(gòu)造未知參數(shù)的區(qū)間估計(jì)．例7．4．1某工廠生產(chǎn)的零件長度X被認(rèn)為服從N（μ，０.０４），現(xiàn)從該產(chǎn)品中隨機(jī)抽?。秱€(gè)，其長度的測量值如下（單位：毫米）１４.６，１５.１，１４.９，１４.８，１５.２，１５.１．試求該零件長度的置信系數(shù)為０.９５的區(qū)間估計(jì)．第6節(jié)：非正態(tài)總體的區(qū)間估計(jì)前面兩節(jié)我們討論了正態(tài)總體參數(shù)的區(qū)間估計(jì)．但是在實(shí)際應(yīng)用中，我們有時(shí)不能判斷手中的數(shù)據(jù)是否服從正態(tài)分布或者有足夠理由認(rèn)為它們不服從正態(tài)分布，這時(shí)，只要樣本大小n比較大，總體均值μ的置信區(qū)間仍可用正態(tài)總體情形的公式（７.４.４），所不同的是這時(shí)的置信區(qū)間是近似的．這是求一般總體均值的一種簡單有效的方法，其理論依據(jù)是中心極限定理，它要求樣本大小n比較大，因此，這個(gè)方法稱為大樣本方法．二項(xiàng)分布例7.6.3在環(huán)境保護(hù)問題中，飲水質(zhì)量研究占有重要地位，其中一項(xiàng)工作是檢查在飲水中是否存在各種類型的微生物．假設(shè)在隨機(jī)抽取的１００份一定容積的水樣品中有２０份樣品含有某種微生物．試求同樣容積的這種水含有這種微生物的概率p的置信區(qū)間，置信系數(shù)為０.９０．泊松分布例7.6.4公共汽車站在一單位時(shí)間內(nèi)（如半小時(shí)或１小時(shí)或一天等/r/