概率統(tǒng)計和隨機過程第八章 參數(shù)估計

1、概率統(tǒng)計和隨機過程課件第八章 參數(shù)估計第1頁，共34頁，2022年，5月20日，6點5分，星期四參數(shù)估計問題假設(shè)檢驗問題點 估 計區(qū)間估 計統(tǒng)計推斷 的基本問題2第2頁，共34頁，2022年，5月20日，6點5分，星期四什么是參數(shù)估計？參數(shù)是刻畫總體某方面的概率特性的數(shù)量.當這個數(shù)量是未知的時候，從總體抽出一個樣本，用某種方法對這個未知參數(shù)進行估計就是參數(shù)估計.例如，X N ( , 2), 點估計區(qū)間估計若, 2未知，通過構(gòu)造樣本的函數(shù), 給出它們的估計值或取值范圍就是參數(shù)估計的內(nèi)容.3第3頁，共34頁，2022年，5月20日，6點5分，星期四參數(shù)估計的類型點估計 估計未知參數(shù)的值區(qū)間估計 估

2、計未知參數(shù)的取值范圍， 使得這個范圍包含未知參數(shù) 真值的概率為給定的值.4第4頁，共34頁，2022年，5月20日，6點5分，星期四一、點估計的思想方法設(shè)總體X 的分布函數(shù)的形式已知，但它含有一個或多個未知參數(shù)：1,2, ,k設(shè) X1, X2, Xn為總體的一個樣本構(gòu)造 k 個統(tǒng)計量：隨機變量第一節(jié) 參數(shù)的點估計5第5頁，共34頁，2022年，5月20日，6點5分，星期四當測得一組樣本值(x1, x2, xn)時，代入上述統(tǒng)計量，即可得到 k 個數(shù)：數(shù)值稱數(shù)為未知參數(shù)的估計值問題如何構(gòu)造統(tǒng)計量？對應(yīng)的統(tǒng)計量為未知參數(shù)的估計量6第6頁，共34頁，2022年，5月20日，6點5分，星期四1、矩方法

3、；（矩估計）2、極大似然函數(shù)法（極大似然估計）.二.點估計的方法 1. 矩方法方法用樣本的 k 階矩作為總體的 k 階矩的 估計量, 建立含待估計參數(shù)的方程，從而可解出待估計參數(shù)7第7頁，共34頁，2022年，5月20日，6點5分，星期四一般地，不論總體服從什么分布，總體期望 與方差 2 存在，則根據(jù)矩估計法它們的矩估計量分別為注: 矩估計不唯一8第8頁，共34頁，2022年，5月20日，6點5分，星期四事實上，按矩法原理，令9第9頁，共34頁，2022年，5月20日，6點5分，星期四設(shè)待估計的參數(shù)為設(shè)總體的 r 階矩存在，記為設(shè) X1, X2, Xn為一樣本，樣本的 r 階矩為令 含未知參數(shù)

4、 1,2, ,k 的方程組10第10頁，共34頁，2022年，5月20日，6點5分，星期四解方程組，得 k 個統(tǒng)計量：未知參數(shù)1,2, ,k 的矩估計量未知參數(shù)1,2, ,k 的矩估計值代入一組樣本值得k個數(shù):11第11頁，共34頁，2022年，5月20日，6點5分，星期四例1 有一批零件，其長度XN(,2)，現(xiàn)從中任取4件，測的長度(單位：mm)為12.6,13.4,12.8,13.2。試估計和2的值。解： 由 得和2的估計值分別為13(mm)和0.133(mm)212第12頁，共34頁，2022年，5月20日，6點5分，星期四例2 設(shè)總體X的概率密度為 X1,X2,Xn為來自于總體X的樣本

5、,x1,x2, ,xn為樣本值,求參數(shù)的矩估計。解： 先求總體矩 13第13頁，共34頁，2022年，5月20日，6點5分，星期四為的矩估計量, 為的矩估計值.令 14第14頁，共34頁，2022年，5月20日，6點5分，星期四例3 設(shè)總體X的概率密度為求的矩估計量 解法一 雖然 中僅含有一個參數(shù)，但因 不含,不能由此解出,需繼續(xù)求總體的二階原點矩15第15頁，共34頁，2022年，5月20日，6點5分，星期四 解法二 即 用替換即得的另一矩估計量為得的矩估計量為用替換即16第16頁，共34頁，2022年，5月20日，6點5分，星期四你就會想,只發(fā)一槍便打中,獵人命中的概率一般大于這位同學命中

6、的概率.看來這一槍是獵人射中的.先看一個簡單的例子: 某位同學與一位獵人一起外出打獵,一只野兔從前方竄過.只聽到一聲槍響,野兔應(yīng)聲倒下.如果要你推測,是誰打中的呢？你會如何想呢？ 這個例子所作的推斷已經(jīng)體現(xiàn)了極大似然法的基本思想.2、極大似然函數(shù)法17第17頁，共34頁，2022年，5月20日，6點5分，星期四例: 設(shè)袋中裝有許多白球和黑球。只知兩種球的數(shù)目之比為3:1，試判斷是白球多還是黑球多。 分析: 從袋中有放回的任取3只球.設(shè)每次取到黑球的概率為p (p=1/4或3/4)設(shè)取到黑球的數(shù)目為X,則X服從B(3,p)第18頁，共34頁，2022年，5月20日，6點5分，星期四分別計算p=1

7、/4,p=3/4時，PX=x的值，列于表結(jié)論:X0123p=1/4時27/6427/649/641/64p=3/4時1/649/6427/6427/64第19頁，共34頁，2022年，5月20日，6點5分，星期四 定義1:(1)設(shè)隨機變量X的概率密度函數(shù)為f(x,), 其中為未知參數(shù)(f為已知函數(shù)). 若X是離散型隨機變量，似然函數(shù)定義為稱 為 X關(guān)于樣本觀察值 的似然函數(shù)。 20的樣本觀察值,為樣本第20頁，共34頁，2022年，5月20日，6點5分，星期四 定義2 如果似然函數(shù) 在 時達到最大值,則稱 是參數(shù)的極大似然估計。 例1 設(shè)總體X 服從參數(shù)為的指數(shù)分布，即有概率密度 又x1,x2

8、, ,xn為來自于總體的樣本值，試求的極大似然估計.21第21頁，共34頁，2022年，5月20日，6點5分，星期四解 ：第一步 似然函數(shù)為于是 第二步第三步 經(jīng)驗證，在處達到最大，所以是的極大似然估計。令22第22頁，共34頁，2022年，5月20日，6點5分，星期四例2： 設(shè)X服從(01)分布，PX=1=p, 其中p未知， x1,x2, ,xn為來自于總體的樣本值求p的極大似然估計。解:X01P1-pp得(01)分布之分布律的另一種表達形式23第23頁，共34頁，2022年，5月20日，6點5分，星期四令第24頁，共34頁，2022年，5月20日，6點5分，星期四例3：設(shè)總體X服從參數(shù)為的

9、泊松分布，即X有分布列(分布律) 是未知參數(shù)，(0,+)，試求的極大似然估計。解： 樣本的似然函數(shù)為 25第25頁，共34頁，2022年，5月20日，6點5分，星期四 從可以解出 是的極大似然估計。因此26第26頁，共34頁，2022年，5月20日，6點5分，星期四其中為未知參數(shù)，若總體X的概率密度為：為樣本觀察值,此時似然函數(shù)為： 求解方程組 即可得到極大似然估計多參數(shù)情形的極大似然估計27第27頁，共34頁，2022年，5月20日，6點5分，星期四 數(shù)學上可以嚴格證明，在一定條件下，只要樣本容量n足夠大，極大似然估計和未知參數(shù)的真值可相差任意小。28第28頁，共34頁，2022年，5月20日，6點5分，星期四例4：設(shè) 為正態(tài)總體 的一個樣本值，求: 和 的極大似然估計.解 ：似然函數(shù)為29第29頁，共34頁，2022年，5月20日，6點5分，星期四 解方程組 得 這就是和的極大似然估計,即 30第30頁，共34頁，2022年，5月20日，6點5分，星期四例5 設(shè)X為離散型隨機變量,其分布律如下(01/2)X0123P22(-2)21-2 隨機抽樣得3，1，3，0，3，1，2，3，分別用矩方法和極大似然法估計參數(shù)。解：第31頁，共34頁，2022年，5月20日，6點5分，星期四例6 設(shè)總體X的概率密度為又為來自于總體X的樣本值,求參數(shù)的極大似然估計。解