第四章抽樣理論和參數(shù)估計

1、第四章 抽樣理論和參數(shù)估計知識引入1970 年美國首次進行征兵抽簽，組織者將19-25歲的適齡青年按年齡分組，使用編號001-366 的等重量塑料球，001代表1月1日出生者，031代表1月31日，366代表12月31日。然后將所有塑料球放入滾筒中混合抽取號碼，每組抽中號碼對應(yīng)生日的青年依次應(yīng)征，直到人數(shù)足夠為止。之后，有記者指出此次抽簽產(chǎn)生了嚴重的偏差，他們注意到，年末生的人似乎傾向于被抽到較前面的征兵順序。其結(jié)果就是一堆 12 月份生的人去了越南戰(zhàn)場。后來，經(jīng)過統(tǒng)計學(xué)家的分析，發(fā)現(xiàn)這種“偏差”確實存在；經(jīng)過分析終于找到了原因，原來代表生日的號碼塑料球是一次按一整個月份裝入滾筒中混合的，加上

2、又沒有均勻混合；于是1 月份的生日容易在滾筒底下，12 月份的是最后才裝進去，容易在上面。在抽樣術(shù)語中，經(jīng)常能夠聽到“隨機抽樣”、“隨機選擇”這樣的表述，“隨機性”原則其實保證了總體中的每個個體被抽中的概率相等，因而被認為是保證各種抽簽、選擇過程公平、公正的一個基本手段。上述抽樣就沒有保證這種隨機性。在本章中，我們還會看到，作為推斷的基礎(chǔ)，我們直接研究的樣本是否“得當”對研究總體十分關(guān)鍵，可以通過一定的抽樣設(shè)計制定科學(xué)、合理、公正的抽樣方法。如上述隨機性原則可以保證抽樣可以使得樣本和總體有相同的內(nèi)部結(jié)構(gòu)，也就是說有最大的可能使總體的某些特征在樣本中得以再現(xiàn)。本章在介紹必要的抽樣概念和抽樣方法基

3、礎(chǔ)上，重點介紹抽樣分布理論，并對參數(shù)估計進行簡要介紹。第一節(jié) 抽樣和常用抽樣方法一、簡單隨機抽樣 抽樣（sampling）或取樣，在整個研究過程中位于數(shù)據(jù)收集之前，恰當?shù)某闃釉O(shè)計是保證樣本代表性的關(guān)鍵環(huán)節(jié)，是利用樣本對總體進行假設(shè)檢驗或參數(shù)估計的基礎(chǔ)。抽樣涉及到的一些基本概念在緒論中均已介紹。一個合理可行的抽樣設(shè)計，一方面要求針對調(diào)查或?qū)嶒炑芯康木唧w情況選擇一種適宜抽樣方法；另一方面應(yīng)該根據(jù)調(diào)查研究所要求的精確度及經(jīng)費狀況確定樣本容量。一般所說的隨機抽樣，就是指簡單隨機抽樣，它是最基本的抽樣方法，適用范圍廣，最能體現(xiàn)隨機性原則且原理簡單。抽取時，總體中每個個體應(yīng)獨立地、等概率地被抽取。常用的實

4、施方法有抽簽法和隨機數(shù)表法。1、抽簽法：是把總體中的每一個個體都編上號并做成簽，充分混合后從中隨機抽取一部分，這部分簽所對應(yīng)的個體就組成一個樣本。2、隨機數(shù)表法：所謂隨機數(shù)表或亂碼表，是由一些任意的數(shù)毫無規(guī)律地排列而的數(shù)表。教材附表17即是一萬個數(shù)字的隨機數(shù)表。隨機數(shù)表的用法許多計算機軟件都可以自動生成隨機數(shù)字。這里介紹教材附錄17中亂碼表的用法：首先對總體中所有個體依次編號，接著從表中任一位置（任意行列交叉處）開始，依次往下找足你所需要的隨機數(shù)（均為5位），以這些隨機數(shù)為編號的個體即組成一個樣本。在查找隨機數(shù)時，有兩點要注意，一是總體容量是幾位數(shù)，就從表中隨機數(shù)末尾截取相應(yīng)位數(shù)（因而最多可以

5、截取4位數(shù)，抽取9999個）。如總體容量為500，則可以看表中數(shù)據(jù)的末尾三位數(shù)，并依次往下找；二是找到的數(shù)字若超過總體的容量范圍，則跳過，比如總體容量為500，要求抽取30個，則設(shè)定任意起始點往下找，找到一個數(shù)字末尾三位為678，則跳過，看到一個098，則表示編號098號被抽中，直到找滿30個為止 。當然這兩種方法都是針對有限總體的，在實際當中的無限總體可以采用其他方法來抽樣。簡單隨機抽樣從理論上說是最符合隨機性原則，但是這種方法在實際應(yīng)用時，存在著一些不足：首先，對大總體進行編號是相當困難的；其次，由于完全采用隨機性，實際抽取的那一個樣本可能不具備總體本應(yīng)該有的一些特性。另外，對于大總體在制

6、簽或查表時都是相當困難的。對于已有順序編號的大總體，實際當中常常采用等距抽樣簡潔地實現(xiàn)。等距抽樣也稱系統(tǒng)抽樣。顧名思義，它是按照抽樣比例（樣本容量與總體容量之比）確定抽樣間距（抽樣比例的倒數(shù)），然后從任意起點間隔抽樣間距逐個獲得樣本中的個體。如一總體有5000個，要求抽取一個500人組成樣本，即抽樣比例為10%，則從任意位置開始（假設(shè)總體中所有個體均已編號，且一般地假設(shè)從10以內(nèi)開始），連續(xù)抽取a、a+10、a+20、a+4990共500個編號個體作為樣本。 二、分層抽樣分層抽樣是事先按總體已有的某些特征，將總體分成幾個不同的部分，每一部分叫一層，再分別在每一層中隨機抽樣。這種方法充

7、分利用了總體的已有信息，因而是一種非常實用的抽樣方法。對于一個總體如何分層，分多少層，要視具體情況而定。一個總的原則是，各層內(nèi)個體在該特征上的差異要少，而層與層之間的差異要越大越好。比如說，對大學(xué)生可以按其學(xué)校是一流大學(xué)、重點大學(xué)、一般大學(xué)來分層。對于復(fù)雜問題還可以按幾個分層標準來分層。如韋克斯勒幼兒智力量表在制定常模時，就按年齡、性別、種族、地區(qū)、家長職業(yè)和城市農(nóng)村等六個因素來分層，使得樣本中各種搭配下的人數(shù)比例都與總體盡量接近。分層抽樣在具體實施時，又根據(jù)是否知道各層內(nèi)標準差分成兩種辦法：按各層人數(shù)比例分配。這是在各層內(nèi)標準差不知道時的分配方式，即讓樣本中各層人數(shù)的比例與總體中各層人數(shù)的比

8、例相同。最佳分配。這是在已知各層內(nèi)標準差時的分配方式，它是按標準差大小和總體中各層人數(shù)比例共同來確定最終樣本中各層人數(shù)的比例。任意一層中要抽取的人數(shù)可表示為：其中 N 表示總體容量，n 表示樣本容量，i 表示第 i 層。確定了各層內(nèi)的抽取人數(shù)，每層內(nèi)的抽取可采用簡單隨機抽樣法進行。 三、兩階段抽樣兩階段抽樣也稱為分群抽樣，首先是將總體分成若干群，從中隨機選出一些群，這是第一階段抽樣；再從被選出的群中進行隨機抽樣，這是第二階段抽樣。這里分群的原則正好和分層抽樣中分層的原則相反，要求各群內(nèi)個體之間的差異盡量地大，而各群之間就沒多大的差異。比如要進行一個全國范圍內(nèi)生活消費方面的調(diào)查，可以按

9、大城市進行分群，顯然各大城市內(nèi)的居民千差萬別，而各個城市之間則相差無幾，因此不必選取所有的大城市，可以只從中選擇一部分，然后再在這些城市進行抽樣。在一個復(fù)雜的抽樣設(shè)計中，往往可能將分層抽樣抽樣和分群抽樣反復(fù)應(yīng)用，最終才得到所要的樣本。如上面的例子中，要在一個大城市里選取一部分居民，也不是件容易的事，這時可再分群或分層，直到便于抽樣時為止。四、樣本容量的確定樣本容量的大小對統(tǒng)計推斷非常重要。樣本容量過小，會影響樣本的代表性，使抽樣誤差增大而降低了統(tǒng)計推斷的精確性；而樣本容量過大，雖然減小了抽樣誤差，但可能增大過失誤差，且增大經(jīng)費開支。另外，樣本容量與抽樣誤差之間并不存在直線關(guān)系，隨著樣本容量的增

10、大，抽樣誤差減小的速度越來越慢。對于樣本容量的確定受到很多因素的影響，也有很多相應(yīng)的計算公式，這里不一一介紹。教材中介紹了對樣本均值進行推斷時利用最大允許抽樣誤差計算樣本容量的方法。所謂“最大允許抽樣誤差”是指某一總體參數(shù)與其點估計（抽樣所得的統(tǒng)計量）之間的差異在實際中所能接受的最大范圍。比如，對于總體均值 ，它的點估計是，那么在實際中用來估計 時，研究者所能接受的最大范圍就稱為最大允許抽樣誤差，一般記為 d。確定樣本容量的目的就是使抽樣的誤差在研究者所能接受的的范圍以內(nèi)，因此樣本容量與 d 是有直接關(guān)系。根據(jù)下面的抽樣分布知識，可以得知：或第二節(jié) 抽樣分布理論一、為什么要了解抽樣分布 推斷統(tǒng)

11、計的核心思想是從特殊到一般，從部分到全體，即用樣本統(tǒng)計量來推斷總體參數(shù)。然而，統(tǒng)計推斷和直接推斷的本質(zhì)區(qū)別在于，后者往往不會關(guān)心樣本和總體的差異，而直接根據(jù)統(tǒng)計量來下結(jié)論；這會產(chǎn)生很多偏差。而統(tǒng)計推斷則依據(jù)抽樣分布理論進行推斷，它用概率的形式描繪出樣本統(tǒng)計量在無限次抽樣（在無限總體中總可以得到無限多個容量有限的樣本）中的分布規(guī)律，從而幫助我們判斷一次抽樣結(jié)果的意義。以一個有限總體抽樣的例子來說明抽樣過程。某班25名同學(xué)的某科成績，它就是要研究的總體： 1234567891011121381996698559210084697477661001415161718192021222324

12、25 8410068597160949192957884  為了較快地估計該班該課程的平均成績（總體參數(shù)），從中有放回地抽取5名學(xué)生（即抽取一個學(xué)生的成績登記后再放回去抽取下一個，所以已抽取的可能在后面再次被抽取到），用他們的平均成績（樣本統(tǒng)計量）來反映總的平均情況（實際中，直接對25個數(shù)據(jù)求平均即可，這里以具體數(shù)據(jù)說明抽樣過程，想象這里的總體為無限容量）。下表列出了一種可能的抽樣情況：   X1X2X3X4X5第一次抽樣學(xué)8成績711009910084第二次抽樣學(xué)號102312151778.8成績74956

13、610059第三次抽樣學(xué)號5152211083.8成績55100999174 這里只抽取了 3 個樣本，但可看出每個樣本的平均數(shù)都與總體均值81.5（實際情況中總體參數(shù)往往未知）有些差異，第一個樣本顯然比總體均值大多了。如何判斷哪個樣本統(tǒng)計量更具有代表性（總體參數(shù)未知時），這就需要了解樣本平均數(shù)的分布規(guī)律，以便更好地對總體均值進行估計或推斷。從上面的例子可以看出抽樣的實質(zhì)就是對總體進行n次重復(fù)試驗或n次重復(fù)觀察，而每一次試驗或觀察都是相互獨立的（有放回抽樣），即抽樣問題就是研究 n 個“獨立同分布”的隨機變量的函數(shù)問題。這里“獨立”是指 n 次重復(fù)試驗互不影響，即各樣本獨立；“同分布

14、”是這n個隨機變量都從同一總體取值。所以對于用隨機變量X表示的總體，常常用（X1，X2，Xn）來表示它的一個容量為 n 的樣本。注意，這里的每個Xi作為X的一次觀測值本身也是隨機變量。 二、基本隨機變量分布與抽樣分布一般的隨機變量概率分布可稱為基本隨機變量分布，但上述我們要研究的是樣本統(tǒng)計量的概率分布。注意到，根據(jù)上述n個獨立同分布隨機變量計算而來的樣本統(tǒng)計量本身也是隨機變量，則它們的概率分布就稱為抽樣分布，即樣本統(tǒng)計量或基本隨機變量函數(shù)的理論分布。根據(jù)樣本統(tǒng)計量的不同，可區(qū)分樣本均值的抽樣分布、樣本方差的抽樣分布、樣本相關(guān)系數(shù)的抽樣分布、比例的抽樣分布等。另外，從分布形態(tài)上看，常見

15、的抽樣分布主要包括是正態(tài)分布、T分布、2分布、F分布等，將在后文陸續(xù)介紹。 三、抽樣分布理論 抽樣分布理論是整個推斷統(tǒng)計的理論基礎(chǔ)，對它們的證明不用理會，只需掌握這些結(jié)論及其應(yīng)用條件。假設(shè)某一個用隨機變量X表示的抽樣母總體的均值為，方差為2，從總體中抽取容量為 n 的樣本，則有如下結(jié)論：（1）一切可能樣本的平均數(shù)的均值（期望）等于母總體的均值，表示為：EX = （2）一切可能樣本的平均數(shù)的方差等于母總體方差的n分之一，表示為：DX = 2/n因此樣本均值分布的標準差等于母總體標準差的分之一，稱其為標準誤（SE），即SE = /。（3）一切可能樣本的方差的均值（期望）等于母總體方差的

16、n 分之 n-1，表示為：ES2 = (n-1)2/n注意以上結(jié)論都沒有要求總體分布呈正態(tài)，所以對任意總體均有這些結(jié)論。之前已經(jīng)談到中心極限定理（見第三章第三節(jié)），一般而言，抽樣分布有如下結(jié)論：（1）若母總體呈正態(tài)分布，一切可能樣本的均值分布也是正態(tài)分布，表示為：XN(,2)，則N(,2/n)（2）若母總體不呈正態(tài)分布，只要樣本容量 n 足夠大，則一切可能樣本的均值分布趨近正態(tài)分布，表示為：X?，當 n>時，N(,2/n)（3）若母總體服從正態(tài)分布，則一切可能樣本的方差服從2分布，表示為：XN(,2)，則（n-1）/22(n-1)（4）母總體服從正態(tài)分布的兩樣本方差之比服從F分布，表示為

17、：X1N(1,21)，X2N(2,22)，則（5）樣本相關(guān)系數(shù)的抽樣分布： 四、2分布 若n個相互獨立的隨機變量X1，X2，Xn，均服從標準正態(tài)分布（也稱獨立同分布于標準正態(tài)分布），則這n個隨機變量的平方和X2i構(gòu)成一新的隨機變量，其分布規(guī)律稱為2(n)分布，其中參數(shù) n 稱為自由度，自由度不同就是另一個2分布，正如正態(tài)分布中均值或方差不同就是另一個正態(tài)分布一樣。2分布的概率密度函數(shù)比較復(fù)雜，這里不再給出。自由度許多統(tǒng)計量的抽樣分布都有自由度（degree of freedom）這個參數(shù)，所謂自由度即統(tǒng)計量中相互獨立的隨機變量的個數(shù)，這些隨機變量的取值都能自由變動。故若為同一個標準正

18、態(tài)總體中抽取的n個獨立隨機變量，其平方和之和構(gòu)成的2統(tǒng)計量自由度為n；但若標準化時，母總體均值未知，用樣本均值替代之，則該統(tǒng)計量中包含了一個約束條件，即這n個隨機變量的均值要等于，從而使得統(tǒng)計量中真正自由變動的隨機變量個數(shù)成為n-1(剩下的一個由這n-1個即可確定)，即其自由度變?yōu)閚-1。 卡方分布是由正態(tài)分布構(gòu)造而成的一個新的分布。其圖形始終在第一象限內(nèi)，呈正偏態(tài)，隨著參數(shù) n 的增大，2分布趨近于正態(tài)分布。 2分布的均值為自由度 n，方差為2倍的自由度(2n)。從2分布的均值與方差可以看出，隨著自由度n的增大，2分布向正無窮方向延伸（因為均值n越來越大），分布曲線也越來越低闊（因

19、為方差2n越來越大）。2分布具有可加性：若有K個服從2分布且相互獨立的隨機變量，則它們之和仍是2分布，新的2分布的自由度為原來K個2分布自由度之和。表示為：2分布是連續(xù)分布，但有些離散分布也服從2分布，尤其在次數(shù)統(tǒng)計上非常廣泛，這個應(yīng)用將放在第八章介紹。實際上，對從任意一個正態(tài)總體中抽得的隨機變量樣本，其標準化后的Z分數(shù)之平方和也服從自由度為n的2分布。若母總體的均值未知，可使用樣本均值代替，則得到的新的統(tǒng)計量服從自由度為n-1的2分布。上面這個公式在應(yīng)用中更為常見；從統(tǒng)計量的構(gòu)造可看出，它主要是采用“比商”的方式，將樣本方差和一個已知的總體方差相比從而對該樣本方差所來源的總體方差進行推斷。&

20、#160;五、T分布T分布是由正態(tài)分布和卡方分布構(gòu)造而成的一個新的分布。設(shè)X，Y為相互獨立的隨機變量，X服從標準正態(tài)分布，Y服從2(n)分布，則統(tǒng)計量t =X/Y/n服從T(n)，其中參數(shù) n 稱為自由度。T分布的圖象呈單峰對稱狀（以Y軸為對稱軸），非常接近標準正態(tài)分布，峰部比標準正分布低，兩端比標準正態(tài)分布高，當自由度 n 很大時（n>30,120），T分布與標準正分布已無法區(qū)分，所以T分布常常用于樣本容量小于30的小樣本，故也稱T分布理論為小樣本理論。 一般情況下，T分布的均值為0，方差隨自由度 n 的增大從大于1的方向越來越接近1，更準確的表示是：和卡方分布一樣，T分布在

21、實際應(yīng)用中也有一個更常用的構(gòu)造。前面的正態(tài)抽樣分布中，我們知道均值的抽樣分布在很多時候是正態(tài)或近似正態(tài)分布，即便母總體的分布不是標準正態(tài)分布，也可通過標準化過程進行轉(zhuǎn)化。即總體分布明確，參數(shù)和2給出時：但如果母總體參數(shù)2不知道，則可用樣本標準差來代替之，則此時新的統(tǒng)計量不再服從標準正態(tài)分布，而是一個新的分布，即自由度為n-1的T分布。注意在總體方差未知時，樣本平均數(shù)本身仍然服從正態(tài)分布，服從T分布的是包含樣本均值的類似于Z的新統(tǒng)計量。根據(jù)T分布的原始構(gòu)造，這個結(jié)論可以這樣來理解： 六、F分布 F分布是由兩個卡方分布構(gòu)造而成的一個新的分布。若隨機變量 ， ，則統(tǒng)計量其中參數(shù)n1、n2是

22、兩個自由度。和卡方分布一樣，F(xiàn)分布也在第一象限內(nèi)，呈正偏態(tài)，隨著兩個自由度的的增大，趨近于正態(tài)分布。不過其趨于正態(tài)分布的方式和卡方分布不同。 一般情況下，F(xiàn)分布的均值接近1，方差一般都小于 1，且隨兩自由度的增大方差越來越小，即圖形越來越收縮。更準確的公式是：F分布也有一個更常用的構(gòu)造，即兩個服從自由度為樣本容量減去1的卡方分布的比值： 七、抽樣分布的查表對于這些抽樣分布的應(yīng)用，最重要的是知道如何在推斷統(tǒng)計中查相應(yīng)的概率分布表。在標準正態(tài)分布中，由于曲線形狀固定，因此在半邊存在統(tǒng)計量Z值（分布的橫坐標）和中央概率（當然也可以是尾端概率）的一一對應(yīng)關(guān)系，它們之間可通過查表進行

23、換算。但卡方分布和T分布都有一個自由度參數(shù)，自由度不同，曲線形狀就不同；因而要對每個常用自由度編制一個如同標準正態(tài)分布那樣詳細的統(tǒng)計量（2或T）和P的對應(yīng)表會有很大篇幅。因而，附表2和附表11的這兩種表都采用僅列出一些常用自由度下若干最常用概率和統(tǒng)計量間的對應(yīng)表，而且概率都規(guī)定是尾端概率；其中T分布表是采用分布在兩個尾端的所謂“雙側(cè)概率”和統(tǒng)計量對應(yīng)；卡方分布是采用右側(cè)尾端概率和統(tǒng)計量對應(yīng)。最后，F(xiàn)分布由于有兩個自由度，因而在一個表中所能列出的F統(tǒng)計量和概率的對應(yīng)更少，附表3、4中行、列分別為兩個自由度（根據(jù)實際需要，分母自由度變化范圍更大）占用，則只能提供兩個最基本的概率與統(tǒng)計量相對應(yīng)，且這

24、概率也是尾端概率。注意，通常附表4的單（右）側(cè)概率分布表更為常用。舉幾個簡單例子說明如何查表： 上圖4-2所示的單側(cè)概率20.05(7)=14.1的查表方法是，在第一列找到自由度7這一行，在第一行中找到概率0.05這一列，行列的交叉處即是14.1。這個對應(yīng)關(guān)系意味著在自由度7時，2=14.1所割出的2分布曲線右側(cè)概率為0.05。反過來也是如此。上圖4-3所示T分布中，查T0.05/2(8)對應(yīng)的統(tǒng)計量值，在第一列找到自由度8這一行，在第一行中找到概率0.05這一列，行列的交叉處即是2.306。該對應(yīng)關(guān)系意味著在自由度8時，T=2.306以及其所對稱的-2.306所割出的雙側(cè)尾端概率為

25、0.05。此時，若只使用單側(cè)概率（表的下端），則顯然T=2.306割出的單側(cè)尾端概率就只有0.05的1/2。下圖分別是F分布雙側(cè)和單側(cè)表，查表方法不再贅述，需要注意的是，F(xiàn)分布雙側(cè)表中，尾端概率各為/2時，其對應(yīng)統(tǒng)計量并不具有相反關(guān)系，而是互為倒數(shù)。雙側(cè)概率表（附表3）單側(cè)概率表（附表4）第三節(jié)參數(shù)估計一般情況下，總體的情況是不清楚的，即總體的分布及總體的參數(shù)都可能未知，而參數(shù)估計就是解決總體的參數(shù)未知時如何通過樣本統(tǒng)計量來估計總體參數(shù)的問題。參數(shù)估計有兩種方法，一是直接用一個樣本統(tǒng)計量來作為總體參數(shù)的估計值，如用樣本平均數(shù)估計總體均值，用樣本標準差Sn-1估計總體標準差，這種參數(shù)估計稱為點估

26、計；另一種是根據(jù)抽樣分布理論，給出一個以樣本統(tǒng)計量為中心的一個可能范圍作為總體參數(shù)取值范圍的估計，且這種估計伴隨著一定的把握程度（概率），稱為區(qū)間估計。當然，如果將點估計看成是區(qū)間估計的一種特例，可認為參數(shù)估計實際上是在估計精確度和估計把握度之間進行權(quán)衡的結(jié)果，要追求精確度，估計的區(qū)間就要盡可能小，則此時把握度必然降低；反之，若區(qū)間寫得較大，則估計的把握度就越大。 一、點估計點估計是用樣本統(tǒng)計量來代替總體參數(shù)，一個好的點估計應(yīng)具備的如下條件：無偏性。用多個樣本的某一統(tǒng)計量作為總體參數(shù)的估計值時，若這些樣本統(tǒng)計量與總體參數(shù)的偏差平均為零，則用該統(tǒng)計量來代替總體參數(shù)具有無偏性。無偏性更精確的表述為：若樣本的某個統(tǒng)計量的均值等于該被估計的總體參數(shù)，則該樣本統(tǒng)計量是無偏的。一致性。當樣本容量越來越大時，估計值能越來越接近它所估計的參數(shù)。有效性。當總體參數(shù)不止一個無偏估計時，其中方差最小者最有效。充分性。若估計量反映了樣本中每個數(shù)據(jù)的信息，則滿足充分性。根據(jù)這些條件，總體均值的點估計是樣本平均數(shù)，總體方差的點估計是樣本方差S