充分統(tǒng)計(jì)量與完備統(tǒng)計(jì)量PPT通用課件

1、1.2 充分統(tǒng)計(jì)量與完備統(tǒng)計(jì)量充分統(tǒng)計(jì)量與完備統(tǒng)計(jì)量 一一 充分統(tǒng)計(jì)量充分統(tǒng)計(jì)量 在數(shù)理統(tǒng)計(jì)中，由樣本來推斷總體的前提是：樣本在數(shù)理統(tǒng)計(jì)中，由樣本來推斷總體的前提是：樣本包含了總體分布的信息。樣本中包含的關(guān)于總體分布包含了總體分布的信息。樣本中包含的關(guān)于總體分布的信息可分為：的信息可分為：1、關(guān)于總體結(jié)構(gòu)的信息，即反映總體分布的類型。、關(guān)于總體結(jié)構(gòu)的信息，即反映總體分布的類型。如總體服從正態(tài)分布，則來自該總體的樣本相互獨(dú)如總體服從正態(tài)分布，則來自該總體的樣本相互獨(dú)立并均服從該正態(tài)分布，即樣本包含了總體分布為立并均服從該正態(tài)分布，即樣本包含了總體分布為正態(tài)分布的信息。正態(tài)分布的信息。 2 2、關(guān)

2、于總體未知參數(shù)的信息，這是由于樣本的分、關(guān)于總體未知參數(shù)的信息，這是由于樣本的分布中包含了總體分布中的未知參數(shù)。布中包含了總體分布中的未知參數(shù)。 為了推斷總體分布的未知參數(shù)，需要把樣本中為了推斷總體分布的未知參數(shù)，需要把樣本中關(guān)于未知參數(shù)的信息關(guān)于未知參數(shù)的信息“提煉提煉“出來，即構(gòu)造合適出來，即構(gòu)造合適的統(tǒng)計(jì)量的統(tǒng)計(jì)量樣本的函數(shù)樣本的函數(shù) f(X1,X2,Xn) 例例 為研究某個運(yùn)動員的打靶命中率，我們對該為研究某個運(yùn)動員的打靶命中率，我們對該運(yùn)動員進(jìn)行測試，觀測其運(yùn)動員進(jìn)行測試，觀測其10次，發(fā)現(xiàn)除第三、六次，發(fā)現(xiàn)除第三、六次未命中外，其余次未命中外，其余8次都命中。這樣的觀測結(jié)果包次都命

3、中。這樣的觀測結(jié)果包含了含了兩兩種信息：種信息：(1)(1)打靶打靶1010次命中次命中8 8次；次；(2)2(2)2次不命中分別出現(xiàn)在第次不命中分別出現(xiàn)在第3 3次和第次和第6 6次打靶上。次打靶上。 第二種信息對了解該運(yùn)動員的命中率是沒有第二種信息對了解該運(yùn)動員的命中率是沒有什么幫助的。什么幫助的。 一般地，設(shè)我們對該運(yùn)動員進(jìn)行一般地，設(shè)我們對該運(yùn)動員進(jìn)行n 次觀測，得次觀測，得到到 x1, x2, xn，每個，每個xj 取值非取值非0即即1，命中，命中1，不，不命中為命中為0。 令令 T = x1+xn ，T為觀測到的命中次數(shù)。為觀測到的命中次數(shù)。在這種場合僅僅記錄使用在這種場合僅僅記錄

4、使用T 不會丟失任何與命中不會丟失任何與命中率率 有關(guān)的信息。有關(guān)的信息。 顯然，一個顯然，一個“好好”的統(tǒng)計(jì)量應(yīng)該能夠?qū)颖镜慕y(tǒng)計(jì)量應(yīng)該能夠?qū)颖局兴年P(guān)于未知參數(shù)的信息全部提煉出來，中所包含的關(guān)于未知參數(shù)的信息全部提煉出來，而不沒有任何有用信息損失，這就是英國著名統(tǒng)而不沒有任何有用信息損失，這就是英國著名統(tǒng)計(jì)學(xué)家計(jì)學(xué)家Fisher于于19221922年提出的一個重要的概念年提出的一個重要的概念-充分統(tǒng)計(jì)量。充分統(tǒng)計(jì)量。 樣本樣本X1,X2,Xn 有一個樣本分布有一個樣本分布F (x)，這個，這個分布包含了樣本中一切有關(guān)分布包含了樣本中一切有關(guān) 的信息。統(tǒng)計(jì)量的信息。統(tǒng)計(jì)量T =T(X1

5、,X2,Xn) 也有一個抽樣分布也有一個抽樣分布F T(t) 。 當(dāng)我們期望用統(tǒng)計(jì)量當(dāng)我們期望用統(tǒng)計(jì)量T 代替原始樣本并且不代替原始樣本并且不損失任何有關(guān)損失任何有關(guān) 的信息時，也就是期望抽樣分布的信息時，也就是期望抽樣分布F T(t) 像像 F (x) 一樣概括了有關(guān)一樣概括了有關(guān) 的一切信息。的一切信息。 這即是說在統(tǒng)計(jì)量這即是說在統(tǒng)計(jì)量T 的取值為的取值為 t 的情況下的情況下樣本樣本 x 的條件分布的條件分布F (x|T=t) 已不含已不含 的信息，的信息，這正是統(tǒng)計(jì)量具有充分性的含義。這正是統(tǒng)計(jì)量具有充分性的含義。()(1),0,1, .kknknP n XkC ppkn 設(shè)設(shè) nx

6、xx,21, ,為樣本觀測值，其中為樣本觀測值，其中0,1.ix 如果已如果已知知nkX 則樣本則樣本 nXXX,21的條件概率的條件概率 11221122(,)(,)()nnnnkPXxXxXxXnkPXxXxXxXnkPXn 112211(,),()0,nnniiniiP XxXxXxxkP n Xkxk如 果，如 果， 112211(,),()0,nnniiniiP XxXxXxxkP n Xkxk如 果，如 果， 1111(1),(1)0,nniiiixnxnikknkinniippxkCppxk如 果，如 果， 111,0 ,nikinniixkCxk如果，如果，與與 p 無關(guān)，所以

7、無關(guān)，所以 X為為 p 的充分統(tǒng)計(jì)量的充分統(tǒng)計(jì)量. 二、二、 因子分解定理因子分解定理 根據(jù)充分統(tǒng)計(jì)量的含義，在對總體未知參數(shù)進(jìn)根據(jù)充分統(tǒng)計(jì)量的含義，在對總體未知參數(shù)進(jìn)行推斷時，應(yīng)在可能的情況下盡量找出關(guān)于未知參行推斷時，應(yīng)在可能的情況下盡量找出關(guān)于未知參數(shù)的充分統(tǒng)計(jì)量。數(shù)的充分統(tǒng)計(jì)量。 但從定義出發(fā)來判別一個統(tǒng)計(jì)量是否是充分統(tǒng)但從定義出發(fā)來判別一個統(tǒng)計(jì)量是否是充分統(tǒng)計(jì)量是很麻煩的。計(jì)量是很麻煩的。 為此，需要一個簡單的判別準(zhǔn)則。下面給出一為此，需要一個簡單的判別準(zhǔn)則。下面給出一個定理個定理因子分解定理因子分解定理，運(yùn)用這個定理，判別甚，運(yùn)用這個定理，判別甚至尋找一個充分統(tǒng)計(jì)量有時會很方便。至

8、尋找一個充分統(tǒng)計(jì)量有時會很方便。 例例1.4 根據(jù)因子分解定理證明例根據(jù)因子分解定理證明例1.3。 證明證明 樣本的聯(lián)合分布律為樣本的聯(lián)合分布律為 niiNIixnxnnppxXxXxXP11)1(,2211 niixnppp1)1()1( 若取若取 niinxnxxxT1211),( 1),(21 nxxxh nTnnppppxxxTg)1()1();,(21 則有則有 nnxXxXxXP ,2211 );,(),(2121pxxxTgxxxhnn 由由 因因 子子 分分 解解 定定 理理 知知 ， niinXXnXXXT1211),(是是p的的充充 分分 統(tǒng)統(tǒng) 計(jì)計(jì) 量量 。 若取若取 n

9、iinxnxxxT1211),( niinxxxxh121!1),( nnTnexxxTg );,(21 則則 nnxXxXxXP ,2211 );,(),(2121 nnxxxTgxxxh 由由因因子子分分解解定定理理知知，XXXXTn ),(21是是 的的充充分分統(tǒng)統(tǒng)計(jì)計(jì)量量。 證明證明 樣本樣本),(21nXXX的聯(lián)合分布律為的聯(lián)合分布律為 證明證明 樣本的聯(lián)合分布密度為樣本的聯(lián)合分布密度為 niinxL122)(21exp)2(1)( niinnxnx122222221exp)2(1 );,(),(2121 nnxxxTgxxxh ， 其中1),(21 nxxxh， 而而);,(21

10、nxxxTg顯然是顯然是),(12 niixxT和和),(2 的函數(shù)。的函數(shù)。 三、完備統(tǒng)計(jì)量三、完備統(tǒng)計(jì)量 為了介紹完備統(tǒng)計(jì)量的概念，首先需要引入完備為了介紹完備統(tǒng)計(jì)量的概念，首先需要引入完備分布函數(shù)族的概念。分布函數(shù)族的概念。 完備統(tǒng)計(jì)量的含義不如充分統(tǒng)計(jì)量那么明確，但由完備統(tǒng)計(jì)量的含義不如充分統(tǒng)計(jì)量那么明確，但由定義可見它有如下特征：定義可見它有如下特征： 1)()(21 TgTgP ， )()(21TgETgE ， ， 但反之不成立，但反之不成立， 對于一般的統(tǒng)計(jì)對于一般的統(tǒng)計(jì)),(21nXXXTT ，總有，總有 設(shè)設(shè))(Xg使得使得 nkknkknpppCnkgXgE00)1()(，

11、對一切，對一切10 p， 即即 01)1(0 kknnknppCnkgp，對一切，對一切10 p 或或 010 kknnkppCnkg，對一切，對一切10 p。 上式是關(guān)于上式是關(guān)于 pp1的多項(xiàng)式，對一切的多項(xiàng)式，對一切10 p要使多項(xiàng)式值要使多項(xiàng)式值為零， 只能是它的每項(xiàng)系數(shù)為零， 即為零， 只能是它的每項(xiàng)系數(shù)為零， 即), 2 , 1 , 0(0nknkg 。所以所以X是完備統(tǒng)計(jì)量。是完備統(tǒng)計(jì)量。 如果一個統(tǒng)計(jì)量既是充分的，又是完備的，如果一個統(tǒng)計(jì)量既是充分的，又是完備的，則稱為則稱為充分完備統(tǒng)計(jì)量充分完備統(tǒng)計(jì)量。在尋求總體分布中未知。在尋求總體分布中未知參數(shù)的優(yōu)良估計(jì)中，充分完備統(tǒng)計(jì)量扮演著重要參數(shù)的優(yōu)良估計(jì)中，充分完備統(tǒng)計(jì)量扮演著重要的角色。的角色。 四、指數(shù)型分布族四、指數(shù)型分布族與式（與式（1.9）比較有）比較有 neC )(， niinxxxxh121!1),(， niinxxnxxxT1211),(， ln)(nb 。 因此，樣