充分統(tǒng)計(jì)量與完備統(tǒng)計(jì)量

1、充分統(tǒng)計(jì)量與完備統(tǒng)計(jì)量第一頁(yè)，共26頁(yè)。 為了推斷總體分布的未知參數(shù)，需要把樣本中關(guān)于為了推斷總體分布的未知參數(shù)，需要把樣本中關(guān)于未知參數(shù)的信息未知參數(shù)的信息“提煉提煉“出來(lái)，即構(gòu)造合適的統(tǒng)計(jì)出來(lái)，即構(gòu)造合適的統(tǒng)計(jì)量量樣本的函數(shù)樣本的函數(shù) f(X1,X2,Xn) 例例 為研究某個(gè)運(yùn)動(dòng)員的打靶命中率，我們對(duì)該運(yùn)為研究某個(gè)運(yùn)動(dòng)員的打靶命中率，我們對(duì)該運(yùn)動(dòng)員進(jìn)行測(cè)試，觀測(cè)其動(dòng)員進(jìn)行測(cè)試，觀測(cè)其10次，發(fā)現(xiàn)除第三、六次未次，發(fā)現(xiàn)除第三、六次未命中外，其余命中外，其余8次都命中。這樣的觀測(cè)結(jié)果包含了次都命中。這樣的觀測(cè)結(jié)果包含了兩兩種信息：種信息：(1)(1)打靶打靶1010次命中次命中8 8次；次；(

2、2)2(2)2次不命中分別出現(xiàn)在第次不命中分別出現(xiàn)在第3 3次和第次和第6 6次打靶上。次打靶上。 第二種信息對(duì)了解該運(yùn)動(dòng)員的命中率是沒(méi)有什么第二種信息對(duì)了解該運(yùn)動(dòng)員的命中率是沒(méi)有什么幫助的。幫助的。第二頁(yè)，共26頁(yè)。 一般地，設(shè)我們對(duì)該運(yùn)動(dòng)員進(jìn)行一般地，設(shè)我們對(duì)該運(yùn)動(dòng)員進(jìn)行n 次觀測(cè)，得到次觀測(cè)，得到 x1, x2, xn，每個(gè)，每個(gè)xj 取值非取值非0即即1，命中，命中1，不命中為，不命中為0。 令令 T = x1+xn ，T為觀測(cè)到的命中次數(shù)。在為觀測(cè)到的命中次數(shù)。在這種場(chǎng)合僅僅記錄使用這種場(chǎng)合僅僅記錄使用T 不會(huì)丟失任何與命中率不會(huì)丟失任何與命中率 有關(guān)的信息。有關(guān)的信息。 顯然，一個(gè)

3、顯然，一個(gè)“好好”的統(tǒng)計(jì)量應(yīng)該能夠?qū)颖局械慕y(tǒng)計(jì)量應(yīng)該能夠?qū)颖局兴年P(guān)于未知參數(shù)的信息全部提煉出來(lái)，而不所包含的關(guān)于未知參數(shù)的信息全部提煉出來(lái)，而不沒(méi)有任何有用信息損失，這就是英國(guó)著名統(tǒng)計(jì)學(xué)家沒(méi)有任何有用信息損失，這就是英國(guó)著名統(tǒng)計(jì)學(xué)家Fisher于于19221922年提出的一個(gè)重要的概念年提出的一個(gè)重要的概念-充分充分統(tǒng)計(jì)量。統(tǒng)計(jì)量。第三頁(yè)，共26頁(yè)。 樣本樣本X1,X2,Xn 有一個(gè)樣本分布有一個(gè)樣本分布F (x)，這個(gè)分布，這個(gè)分布包含了樣本中一切有關(guān)包含了樣本中一切有關(guān) 的信息。統(tǒng)計(jì)量的信息。統(tǒng)計(jì)量T =T(X1,X2,Xn) 也有一個(gè)抽樣分布也有一個(gè)抽樣分布FT(t) 。 當(dāng)我

4、們期望用統(tǒng)計(jì)量當(dāng)我們期望用統(tǒng)計(jì)量T 代替原始樣本并且不損失代替原始樣本并且不損失任何有關(guān)任何有關(guān) 的信息時(shí)，也就是期望抽樣分布的信息時(shí)，也就是期望抽樣分布FT(t) 像像 F (x) 一樣概括了有關(guān)一樣概括了有關(guān) 的一切信息。的一切信息。 這即是說(shuō)在統(tǒng)計(jì)量這即是說(shuō)在統(tǒng)計(jì)量T 的取值為的取值為 t 的情況下樣本的情況下樣本 x 的條件分布的條件分布F(x|T=t) 已不含已不含 的信息，這正是統(tǒng)的信息，這正是統(tǒng)計(jì)量具有充分性的含義。計(jì)量具有充分性的含義。第四頁(yè)，共26頁(yè)。()(1),0,1, .kknknP n XkC ppkn 設(shè)設(shè) nxxx,21, ,為樣本觀測(cè)值，其中為樣本觀測(cè)值，其中0,

5、1.ix 如果已如果已知知nkX 則樣本則樣本 nXXX,21的條件概率的條件概率 第五頁(yè)，共26頁(yè)。11221122(,)(,)()nnnnkPXxXxXxXnkPXxXxXxXnkPXn 112211(,),()0,nnniiniiP XxXxXxxkP n Xkxk如果，如果， 第六頁(yè)，共26頁(yè)。112211(,),()0,nnniiniiP XxXxXxxkP n Xkxk如果，如果， 1111(1),(1)0,nniiiixnxnikknkinniippxkCppxk如 果，如 果， 111,0 ,nikinniixkCxk如果，如果，與與 p 無(wú)關(guān)，所以無(wú)關(guān)，所以 X為為 p 的充

6、分統(tǒng)計(jì)量的充分統(tǒng)計(jì)量. 第七頁(yè)，共26頁(yè)。第八頁(yè)，共26頁(yè)。二、二、 因子分解定理因子分解定理 根據(jù)充分統(tǒng)計(jì)量的含義，在對(duì)總體未知參數(shù)進(jìn)行推根據(jù)充分統(tǒng)計(jì)量的含義，在對(duì)總體未知參數(shù)進(jìn)行推斷時(shí)，應(yīng)在可能的情況下盡量找出關(guān)于未知參數(shù)的充分?jǐn)鄷r(shí)，應(yīng)在可能的情況下盡量找出關(guān)于未知參數(shù)的充分統(tǒng)計(jì)量。統(tǒng)計(jì)量。 但從定義出發(fā)來(lái)判別一個(gè)統(tǒng)計(jì)量是否是充分統(tǒng)計(jì)量但從定義出發(fā)來(lái)判別一個(gè)統(tǒng)計(jì)量是否是充分統(tǒng)計(jì)量是很麻煩的。是很麻煩的。 為此，需要一個(gè)簡(jiǎn)單的判別準(zhǔn)則。下面給出一個(gè)為此，需要一個(gè)簡(jiǎn)單的判別準(zhǔn)則。下面給出一個(gè)定理定理因子分解定理因子分解定理，運(yùn)用這個(gè)定理，判別甚至尋，運(yùn)用這個(gè)定理，判別甚至尋找一個(gè)充分統(tǒng)計(jì)量有時(shí)

7、會(huì)很方便。找一個(gè)充分統(tǒng)計(jì)量有時(shí)會(huì)很方便。第九頁(yè)，共26頁(yè)。 第十頁(yè)，共26頁(yè)。第十一頁(yè)，共26頁(yè)。例例1.4 根據(jù)因子分解定理證明例根據(jù)因子分解定理證明例1.3。 證明證明 樣本的聯(lián)合分布律為樣本的聯(lián)合分布律為 niiNIixnxnnppxXxXxXP11)1(,2211 niixnppp1)1()1( 若取若取 niinxnxxxT1211),( 1),(21 nxxxh nTnnppppxxxTg)1()1();,(21 則有則有 nnxXxXxXP ,2211 );,(),(2121pxxxTgxxxhnn 由由 因因 子子 分分 解解 定定 理理 知知 ， niinXXnXXXT121

8、1),(是是p的的充充 分分 統(tǒng)統(tǒng) 計(jì)計(jì) 量量 。 第十二頁(yè)，共26頁(yè)。若取若取 niinxnxxxT1211),( niinxxxxh121!1),( nnTnexxxTg );,(21 則則 nnxXxXxXP ,2211 );,(),(2121 nnxxxTgxxxh 由由因因子子分分解解定定理理知知，XXXXTn ),(21是是 的的充充分分統(tǒng)統(tǒng)計(jì)計(jì)量量。 證證明明 樣樣本本),(21nXXX的的聯(lián)聯(lián)合合分分布布律律為為 第十三頁(yè)，共26頁(yè)。證證明明 樣樣本本的的聯(lián)聯(lián)合合分分布布密密度度為為 niinxL122)(21exp)2(1)( niinnxnx122222221exp)2(1

9、 );,(),(2121 nnxxxTgxxxh ， 其中1),(21 nxxxh， 第十四頁(yè)，共26頁(yè)。而而);,(21 nxxxTg顯顯然然是是),(12 niixxT和和),(2 的的函函數(shù)數(shù)。 第十五頁(yè)，共26頁(yè)。三、完備統(tǒng)計(jì)量三、完備統(tǒng)計(jì)量 為了介紹完備統(tǒng)計(jì)量的概念，首先需要引入完備分布函為了介紹完備統(tǒng)計(jì)量的概念，首先需要引入完備分布函數(shù)族的概念。數(shù)族的概念。 第十六頁(yè)，共26頁(yè)。 完備統(tǒng)計(jì)量的含義不如充分統(tǒng)計(jì)量那么明確，但由定完備統(tǒng)計(jì)量的含義不如充分統(tǒng)計(jì)量那么明確，但由定義可見(jiàn)它有如下特征：義可見(jiàn)它有如下特征： 第十七頁(yè)，共26頁(yè)。 1)()(21 TgTgP ， )()(21Tg

10、ETgE ， ， 但反之不成立，但反之不成立， 對(duì)對(duì)于于一一般般的的統(tǒng)統(tǒng)計(jì)計(jì)),(21nXXXTT ，總總有有 第十八頁(yè)，共26頁(yè)。設(shè)設(shè))(Xg使得使得 nkknkknpppCnkgXgE00)1()(，對(duì)一切，對(duì)一切10 p， 第十九頁(yè)，共26頁(yè)。即即 01)1(0 kknnknppCnkgp，對(duì)對(duì)一一切切10 p 或或 010 kknnkppCnkg，對(duì)一切，對(duì)一切10 p。 上上式式是是關(guān)關(guān)于于 pp1的的多多項(xiàng)項(xiàng)式式，對(duì)對(duì)一一切切10 p要要使使多多項(xiàng)項(xiàng)式式值值為為零零， 只只能能是是它它的的每每項(xiàng)項(xiàng)系系數(shù)數(shù)為為零零， 即即), 2 , 1 , 0(0nknkg 。所所以以X是是完完備備統(tǒng)統(tǒng)計(jì)計(jì)量量。 第二十頁(yè)，共26頁(yè)。 如果一個(gè)統(tǒng)計(jì)量既是充分的，又是完備的，則稱(chēng)為如果一個(gè)統(tǒng)計(jì)量既是充分的，又是完備的，則稱(chēng)為充分完備統(tǒng)計(jì)量充分完備統(tǒng)計(jì)量。在尋求總體分布中未知參數(shù)的。在尋求總體分布中未知參數(shù)的優(yōu)良估計(jì)中，充分完備統(tǒng)計(jì)量扮演著重要的角色。優(yōu)良估計(jì)中，充分完備統(tǒng)計(jì)量扮演著重要的角色。 第二十一頁(yè)，共26頁(yè)。四、指數(shù)型分布族四、指數(shù)型分布族第二十二頁(yè)，共26頁(yè)。第二十