參數(shù)估計標(biāo)準(zhǔn)和區(qū)間估計

1、參數(shù)估計標(biāo)準(zhǔn)和區(qū)間估計二、估計量的評選標(biāo)準(zhǔn)一 、點估計 三、區(qū)間估計 四、正態(tài)總體均值與方差的 區(qū)間估計 參數(shù)估計是統(tǒng)計推斷的基本問題之一，問題中，并不一定要求密度函數(shù)，而只要知道參數(shù)那么在許多實際分布就決定了?？疾鞜襞輳S生產(chǎn)的燈泡質(zhì)量，由于種種隨機易知燈泡使用壽命是隨機變量，記為且 問題：如何估計 和？引例1因素的影響，知道了參數(shù)，2的值，那么壽命X的分布就完全確定了.參數(shù)估計要解決問題:總體分布函數(shù)的形式為已知,需要確定未知參數(shù)。但其中參數(shù)未知時，這類問題稱為參數(shù)估計問題。只有當(dāng)參數(shù) 確定后，才能通過概率密度函數(shù)計算概率。對于未知參數(shù)，如何應(yīng)用樣本所提供的信息去對其一個或多個未知參數(shù)進行估

2、計。對未知參數(shù)估計的兩種方法：1、 點估計2、區(qū)間估計點估計問題：第一節(jié) 點估計基本原理：總體矩是反映總體分布的最簡單的數(shù)字特征，當(dāng)總體含有待估計參數(shù)時，總體矩是待估計參數(shù)的函數(shù)。樣本取自總體，即樣本矩在一定程度上可以逼近總體矩，一、矩估計法故可用樣本矩來估計總體矩。這個估計方法是英國統(tǒng)計學(xué)家K.皮爾遜最早提出的 其中是待估參數(shù)為來自的樣本,存在,設(shè)總體的k階矩則樣本的k階矩(大數(shù)定律)令k個方程組設(shè)總體X的分布函數(shù)為矩估計量的觀察值稱為矩估計值。從中解得即為矩估計量。矩估計的步驟：連續(xù)型離散型例 1 設(shè)某炸藥廠一天中發(fā)生著火現(xiàn)象的次數(shù)X服從 例2設(shè)總體在上服從均勻分布，解：由矩法,解得 是在

3、總體類型已知條件下使用的一種參數(shù)估計方法 .2. 極大似然法 極大似然法的基本思想 先看一個簡單例子：一只野兔從前方竄過 .是誰打中的呢？某位同學(xué)與一位獵人一起外出打獵 .如果要你推測，你會如何想呢?只聽一聲槍響，野兔應(yīng)聲倒下 . 你就會想，只發(fā)一槍便打中,獵人命中的概率一般大于這位同學(xué)命中的概率. 看來這一槍是獵人射中的 . 這個例子所作的推斷已經(jīng)體現(xiàn)了極大似然法的基本思想 . 以上這種選擇一個參數(shù)使得試驗結(jié)果具有最大概率的思想就是極大似然法的基本思想 .基本思想:若事件 發(fā)生了,則認(rèn)為事件中出現(xiàn)的概率最大。最大似然估計 就是在一次抽樣中,若得到觀測值則選取若一試驗有n個可能結(jié)果現(xiàn)做一試驗,

4、在這n個可能結(jié)果作為 的估計值，使得當(dāng)時,樣本出現(xiàn)的概率最大。最大似然估計法:是的一個樣本值(如離散型)(1)設(shè)事件 發(fā)生的概率為 的函數(shù)，形式已知X的分布律為：的聯(lián)合分布律為： 樣本的似然函數(shù)即取使得：與有關(guān), 記為稱為參數(shù)的最大似然估計值稱為參數(shù)的最大似然估計量.達到最大的參數(shù)作為的估計值，現(xiàn)從中挑選使概率樣本的似然函數(shù)兩點說明2、用上述求導(dǎo)方法求參數(shù)的MLE有時行不通，這時要用極大似然原則來求 .使似然函數(shù) 達到最大的 即 的MLE， (4) 在最大值點的表達式中, 用樣本值代入 就得參數(shù)的極大似然估計值 .(1) 由總體分布導(dǎo)出樣本的聯(lián)合分布律 (或聯(lián)合密度);(2) 把樣本聯(lián)合分布律

5、(或聯(lián)合密度)中自變 量看成已知常數(shù),而把參數(shù) 看作自變量, 得到似然函數(shù)L( );(3) 求似然函數(shù)L( ) 的最大值點(常常轉(zhuǎn)化 為求ln L( )的最大值點) ，即 的MLE;求極大似然估計(MLE)的一般步驟是：L(p)= 設(shè)X1,X2,Xn是取自總體 Xb(1, p) 的一個樣本，求參數(shù)p的極大似然估計.解：似然函數(shù)為: 例1對數(shù)似然函數(shù)為：對p求導(dǎo)并令其為0，=0得即為 p 的MLE .似然函數(shù)為：-它與矩估計量是相同的。解：似然函數(shù)為 設(shè)X1,X2,Xn是取自總體X的一個樣本其中 0,求 的極大似然估計.i=1,2,n例3解：i=1,2,n對數(shù)似然函數(shù)為求導(dǎo)方法無法求參數(shù) 的ML

6、E.是對故使 達到最大的 即 的MLE， 取其它值時，且是 的增函數(shù)由于這時要用極大似然原則來求 .即 為 的MLE .X的概率密度為：極大似然估計不變性 由于估計量作為樣本的函數(shù)是一個隨機變量,對于不同的樣本值, 估計值也不同, 因此評價一個估計量的優(yōu)劣就不能僅由一個觀測值來確定, 而要根據(jù)估計量的統(tǒng)計性質(zhì)來評價. 通常一個好的估計量其觀測值應(yīng)在待估計參數(shù)的真值附近波動, 且波動的幅度越小越好, 即要使估計量與待估計參數(shù)在某種統(tǒng)計意義下非?！敖咏? 常用的幾條標(biāo)準(zhǔn)是：1無偏估計2有效估計3相合估計(一致估計）這里我們重點介紹前面兩個標(biāo)準(zhǔn) .第二節(jié) 估計量的評選標(biāo)準(zhǔn)4. 漸近正態(tài)估計期望應(yīng)等

7、于未知參數(shù)的真值. 則稱 為 的無偏估計 .設(shè)是未知參數(shù) 的估計量，若.真值1無偏性估計量是隨機變量，樣本值不同估計值也不同。估計值應(yīng)在參數(shù)附近，定義無偏性的意義是：用 來估計 時無系統(tǒng)偏差。則稱是的漸近無偏估計量.例 設(shè)總體X的數(shù)學(xué)期望 存在，是X的樣本，求證均為的無偏估計。為2 的無偏估計量不是2 的無偏估計量證： 不是 的無偏估計量,是漸近無偏估計量用S2來估計2有系統(tǒng)偏差。為2 的無偏估計量也是2 的無偏估計量均為的無偏估計一般情況下2. 有效性:都是的無偏估計量；若則稱較有效.設(shè)若 的所有二階矩存在無偏估計量中有一個估計量,使對任意無偏估計量 有 例：由大數(shù)定律知一致性說明：對于大子

8、樣，由一次抽樣得到的估計量 的值可作的近似值漸近正態(tài)估計定理2.3 漸近正態(tài)估計一定是相合估計最小方差無偏估計定理2.7 設(shè) 是 的一個無偏估計， 則 是 的最小方差無偏估計（MVUE）的充要條件是：對任何滿足條件 的統(tǒng)計量 ，有。證明：Th2.8 設(shè)總體X的分布函數(shù)為 是未知參數(shù)， 是來自總體X的一個樣本，如果 是 的充分統(tǒng)計量， 是 的任一無偏估計，記 則有設(shè)總體X的分布函數(shù)為 ， 是來自總體X的一個樣本，如果 是 的充分完備統(tǒng)計量， 為 的任一無偏估計， 則有 為 的惟一的最小方差無偏估計。給出了一個判別方法,且是充分必要條件。解決了存在性問題，也就是求解的方法，即最小方差無偏估計在無偏

9、的充分估計量中。解決了惟一性問題，當(dāng)然指概率意義下的惟一。有效估計與信息不等式羅克拉美不等式 右端為羅克拉美下界，記為 類似： 注：有時能找到無偏估計使它的方差達到 這個下界，有時達不到信息不等式的證明證明：先證必要性點估計總結(jié) 在參數(shù)的點估計中，對于一個樣本值只能得到參數(shù)的一個估計值。 雖然有一個明確的量的概念，但只能是一個近似值， 1）只是樣本的一個函數(shù)；2）不同的樣本有不同的點估計； 3）總有偏差；4）沒有精確度；5）不知道偏差范圍。點估計分類 1、有偏估計；2 、無偏估計點估計的方法 1 、矩估計； 2 、最大似然估計點估計的性質(zhì) 1、無偏性； 2、有效性（優(yōu)效性）； 3、相合性（一致性） 結(jié) 論矩估計1）無論總體服從什么分布，樣本均值和方差分別是總體均值和方差的矩估計量；2）矩估計都是相合估計；3）