抽樣與參數(shù)估計(jì)

1、第四章 抽樣與參數(shù)估計(jì)推斷統(tǒng)計(jì)：利用樣本統(tǒng)計(jì)量對(duì)總體某些性質(zhì)或數(shù)量特征進(jìn)行推斷。從數(shù)據(jù)得到對(duì)現(xiàn)實(shí)世界的結(jié)論的過程就叫做統(tǒng)計(jì)推斷 (statistical inference)。這個(gè)調(diào)查例子是估計(jì)總體參數(shù)（某種意見的比例）的一個(gè)過程。     估計(jì) (estimation) 是統(tǒng)計(jì)推斷的重要內(nèi)容之一。統(tǒng)計(jì)推斷的另一個(gè)主要內(nèi)容是本章第二節(jié)要介紹的假設(shè)檢驗(yàn) (hypothesis testing) 。     因此本節(jié)內(nèi)容就是由樣本數(shù)據(jù)對(duì)總體參數(shù)進(jìn)行估計(jì)，即： 學(xué)習(xí)目標(biāo)：了解抽樣和抽樣分布的基本概念理解抽樣分布與總體分布

2、的關(guān)系了解點(diǎn)估計(jì)的概念和估計(jì)量的優(yōu)良標(biāo)準(zhǔn)掌握總體均值、總體比例和總體方差的區(qū)間估計(jì)第一節(jié) 抽樣與抽樣分布回顧相關(guān)概念：總體、個(gè)體和樣本抽樣推斷：從所研究的總體全部元素(單位)中抽取一部分元素(單位)進(jìn)行調(diào)查,并根據(jù)樣本數(shù)據(jù)所提供的信息來推斷總體的數(shù)量特征。總體(Population)：調(diào)查研究的事物或現(xiàn)象的全體 參數(shù)個(gè)體(Item unit)：組成總體的每個(gè)元素樣本(Sample)：從總體中所抽取的部分個(gè)體 統(tǒng)計(jì)量樣本容量(Sample size)：樣本中所含個(gè)體的數(shù)量 一般將樣本單位數(shù)不少于三十個(gè)的樣本稱為大樣本，樣本單位數(shù)不到三十個(gè)的樣本稱為小樣本。一、抽樣方法及抽樣分布1、抽樣

3、方法（1）、概率抽樣：根據(jù)已知的概率選取樣本、簡單隨機(jī)抽樣：完全隨機(jī)地抽選樣本，使得每一個(gè)樣本都有相同的機(jī)會(huì)（概率）被抽中。注意：在有限總體的簡單隨機(jī)抽樣中，由抽樣是否具有可重復(fù)性，又可分為重 復(fù)抽樣與不重復(fù)抽樣。而且，根據(jù)抽樣中是否排序，所能抽到的樣本個(gè)數(shù)往往不同。 、分層抽樣：總體分成不同的“層”（類），然后在每一層內(nèi)進(jìn)行抽樣 、整群抽樣：將一組被調(diào)查者（群）作為一個(gè)抽樣單位 、等距抽樣：在樣本框中每隔一定距離抽選一個(gè)被調(diào)查者（2）非概率抽樣：不是完全按隨機(jī)原則選取樣本 、非隨機(jī)抽樣：由調(diào)查人員自由選取被調(diào)查者 、判斷抽樣：通過某些條件過濾來選擇被調(diào)查者（3）、配額抽樣：選擇一群特定數(shù)目、

4、滿足特定條件的被調(diào)查者2、抽樣分布一般地，樣本統(tǒng)計(jì)量的所有可能取值及其取值概率所形成的概率分布，統(tǒng)計(jì)上稱為抽樣分布（sampling distribution）。某個(gè)樣本統(tǒng)計(jì)量（如均值、比例、方差等）的抽樣分布，從理論上說就是在重復(fù)選取容量為n的樣本時(shí)，由每一個(gè)樣本計(jì)算出的該統(tǒng)計(jì)量數(shù)值的相對(duì)頻數(shù)分布或概率分布。二、樣本均值的抽樣分布與中心極限定理1、樣本均值的抽樣分布（一個(gè)例子）【例】設(shè)一個(gè)總體，含有4個(gè)元素（個(gè)體），即總體單位數(shù)N=4。4 個(gè)個(gè)體分別為X1=1、X2=2、X3=3 、X4=4 。總體的均值、方差及分布如下均值和方差 現(xiàn)從總體中抽取n2的簡單隨機(jī)樣本，在重復(fù)抽樣條件下，共有42

5、=16個(gè)樣本。所有樣本的結(jié)果如下表所有可能的n=2的樣本（共16個(gè)）第一個(gè)觀察值第二個(gè)觀察值1,11,21,31,42,12,22,32,43,13,23,33,44,14,24,34,4計(jì)算出各樣本的均值，如下表。并給出樣本均值的抽樣分布16個(gè)樣本的均值（x）第一個(gè)觀察值第二個(gè)觀察值1.01.52.02.51.52.02.53.02.02.53.03.52.53.03.54.0所有樣本均值的均值和方差： 式中：M為樣本數(shù)目比較及結(jié)論：1. 樣本均值的均值（數(shù)學(xué)期望）等于總體均值2. 樣本均值的方差等于總體方差的1/n2、中心極限定理當(dāng)總體服從正態(tài)分布N (,2 )時(shí)，來自該總體的所有容量為n

6、的樣本的均值也服從正態(tài)分布，的數(shù)學(xué)期望為，方差為2/n。即xN(,2/n)中心極限定理：設(shè)從均值為，方差為2的一個(gè)任意總體中抽取容量為n的樣本，當(dāng)n充分大時(shí)（一般，就可以用中心極限定理了），樣本均值的抽樣分布近似服從均值為、方差為2/n的正態(tài)分布。即有： 和 也即有， 其實(shí)，樣本均值抽樣分布的數(shù)字特征一方面與總體分布的均值和方差有關(guān)，另一方面也與抽樣的方法是重復(fù)抽樣還是不重復(fù)抽樣有關(guān)。無論是重復(fù)抽樣或不重復(fù)抽樣，樣本均值的數(shù)學(xué)期望始終等于總體的均值。但在不重復(fù)抽樣條件下，樣本均值的方差需要用修正系數(shù)去修正重復(fù)抽樣時(shí)均值的方差。當(dāng)很大，而時(shí)，其修正系數(shù)，可視不重復(fù)抽樣與重復(fù)抽樣一致?？傮w分布正態(tài)

7、分布非正態(tài)分布大樣本小樣本大樣本小樣本正態(tài)分布正態(tài)分布非正態(tài)分布圖4.1.3 樣本均值的抽樣分布與總體分布的關(guān)系三、樣本比例的抽樣分布(Sampling Distribution of p樣本比例的抽樣分布是樣本比例所有可能值的概率分布。（The sampling distribution of p is the probability distribution of all possible values of the sample proportion p.）樣本比例抽樣分布的相關(guān)信息，即 p的期望值、標(biāo)準(zhǔn)差、抽樣分布形狀等。主要應(yīng)用于分類變量：在經(jīng)濟(jì)與商務(wù)的許多場合，需要用樣本比例p對(duì)總

8、體比例P進(jìn)行統(tǒng)計(jì)推斷根據(jù)中心極限定理有：當(dāng)樣本容量增大時(shí)（大樣本：經(jīng)驗(yàn)上，當(dāng)下面兩個(gè)條件(n·p>=5且n(1-p)>=5)滿足時(shí)，與p相關(guān)的樣本為大樣本），樣本比例抽樣分布趨向于以樣本期望值為中心、以樣本方差為方差的正態(tài)分布1、期望值（Expected value of p）：E (p)=P2、標(biāo)準(zhǔn)差（Standard deviation of p）：重復(fù)抽樣： 不重復(fù)抽樣：*四、樣本方差的抽樣分布要用樣本方差s2去推斷總體的方差2，必須知道樣本方差的分布。設(shè)總體服從正態(tài)分布XN(, 2 )， X1，X2，Xn為來自該正態(tài)總體的樣本，統(tǒng)計(jì)證明比值的抽樣分布為自由度是（n

9、-1）的分布，即： 分布的性質(zhì)：（1）、分布的變量始終為正； （2）、分布的期望為，方差為。第二節(jié) 參數(shù)估計(jì)的基本方法一、估計(jì)量和估計(jì)值參數(shù)是總體的數(shù)值特征（A parameter is a numerical characteristic of a population。）參數(shù)估計(jì)：就是用樣本統(tǒng)計(jì)量去估計(jì)總體的參數(shù)。數(shù)字特征總體參數(shù)（）樣本統(tǒng)計(jì)量（）一個(gè)總體均值比例方差估計(jì)量（）（estimator）用于估計(jì)總體某一參數(shù)的樣本統(tǒng)計(jì)量（隨機(jī)變量）的名稱。樣本均值，樣本比例、樣本方差等都可以是一個(gè)估計(jì)量。估計(jì)值（estimate）：用來估計(jì)總體參數(shù)時(shí)計(jì)算出來的估計(jì)量的具體數(shù)值。例如: 樣本均值就

10、是總體均值的一個(gè)估計(jì)量如果樣本均值 = 3 ，則 3 就是的估計(jì)值二、點(diǎn)估計(jì)與判斷估計(jì)量的優(yōu)良性準(zhǔn)則（一）、點(diǎn)估計(jì)點(diǎn)估計(jì)(Point Estimate)就是用樣本估計(jì)量的值直接作為總體參數(shù)的估計(jì)值。設(shè)是總體分布中一個(gè)要估計(jì)的參數(shù)。例如，總體分布的均值、方差等?，F(xiàn)在從總體中得到一個(gè)隨機(jī)樣本，如何估計(jì)？記估計(jì)的估計(jì)量（統(tǒng)計(jì)量）為，簡記為若得到一組樣本觀察值，就可以得到的估計(jì)值：，也記為?？傮w分布參數(shù)的點(diǎn)估計(jì)，就是求出的估計(jì)值。點(diǎn)估計(jì)的方法一般有矩估計(jì)發(fā)法、極大似然估計(jì)法等。概念要點(diǎn):1.從總體中抽取一個(gè)樣本，根據(jù)該樣本的統(tǒng)計(jì)量對(duì)總體的未知參數(shù)作出一個(gè)數(shù)值點(diǎn)的估計(jì)。例如: 用樣本均值作為總體未知均值

11、的估計(jì)值就是一個(gè)點(diǎn)估計(jì)2.點(diǎn)估計(jì)沒有給出估計(jì)值接近總體未知參數(shù)程度的信息3.其理論基礎(chǔ)是抽樣分布（二）、估計(jì)量的優(yōu)良性準(zhǔn)則要估計(jì)總體的某一指標(biāo)，并非只能用一個(gè)樣本指標(biāo)，而可能有多個(gè)指標(biāo)可供選擇，即對(duì)同一總體參數(shù)，可能會(huì)有不同的估計(jì)量。作為一個(gè)好的估計(jì)量，估計(jì)量必須具有如下性質(zhì)：無偏性、有效性、一致性。1、無偏性（Unbiasedness）：樣本估計(jì)量的數(shù)學(xué)期望（均值）等于被估總體參數(shù)的真值；如果，則稱為的無偏估計(jì)量。可以證明，總體方差的樣本矩估計(jì)量是無偏估計(jì)量。2、有效性(Efficiency):好的點(diǎn)估計(jì)量應(yīng)具有較小的方差；在用估計(jì)量來估計(jì)總體的某個(gè)參數(shù)時(shí)，如果對(duì)其它所有對(duì)的估計(jì)量總是有：那

12、么，這個(gè)估計(jì)量就是總體參數(shù)的有效估計(jì)量。3、一致性(Consistency):隨著樣本容量的增大，估計(jì)量越來越接近被估計(jì)的總體參數(shù)。如果滿足：，即：則稱為的一致估計(jì)量。可以證明：樣本均值、樣本比例、樣本標(biāo)準(zhǔn)差的點(diǎn)估計(jì)是無偏、有效、一致的。三、抽樣誤差與區(qū)間估計(jì)（一）、抽樣誤差（Sampling Error）一個(gè)樣本可以得到總體參數(shù)的一個(gè)點(diǎn)估計(jì)，該點(diǎn)估計(jì)值與總體參數(shù)真值之間的差異，即為抽樣誤差。有三個(gè)相互聯(lián)系的概念：1、實(shí)際抽樣誤差：具體樣本的估計(jì)值與總體參數(shù)的實(shí)際值之間的離差。2、抽樣平均誤差：所有可能樣本估計(jì)值與相應(yīng)總體參數(shù)的平均差異程度。3、抽樣極限誤差一定概率下抽樣誤差的可能范圍（也稱允

13、許誤差）：注意：、統(tǒng)計(jì)學(xué)上往往用抽樣極限誤差來測度抽樣誤差的大小或者說測度點(diǎn)估計(jì)的精度。原因：總體參數(shù)值往往并不知道，因此，實(shí)際抽樣誤差與抽樣平均誤差也往往無法求出，但在抽樣分布大體知道的情況下，抽樣極限誤差是可以估計(jì)出來的。、抽樣平均誤差是所有可能樣本值與總體指標(biāo)值之間的平均離差，它表明抽樣估計(jì)的準(zhǔn)確度；而抽樣極限誤差是樣本指標(biāo)值與總體指標(biāo)值的離差絕對(duì)值是表明抽樣估計(jì)的準(zhǔn)確程度的范圍。這也就決定了兩者存在一定的聯(lián)系。通常，把抽樣極限誤差與抽樣平均誤差相比，從而使單一樣本的抽樣極限誤差標(biāo)準(zhǔn)化，一般稱為概率度或相對(duì)誤差范圍，即置信度。抽樣極限誤差的估計(jì)總是要和一定的概率保證程度聯(lián)系在一起的。原因

14、：樣本統(tǒng)計(jì)量往往是一隨機(jī)變量，它與總體參數(shù)真值之差也是一個(gè)隨機(jī)變量，因此就不能期望某次抽樣的樣本估計(jì)值落在一定區(qū)間內(nèi)是一個(gè)必然事件，而只能給予一定的概率保證。因此，在進(jìn)行抽樣估計(jì)時(shí)，既需要考慮抽樣誤差的可能范圍，同時(shí)還需考慮落到這一范圍的概率大小。前者是估計(jì)的準(zhǔn)確度問題，后者是估計(jì)的可靠性問題，兩者緊密聯(lián)系不可分開。這也正是區(qū)間估計(jì)所關(guān)心的主要問題。（二）、區(qū)間估計(jì)（Interval Estimate）在點(diǎn)估計(jì)的基礎(chǔ)上，給出總體參數(shù)估計(jì)的一個(gè)范圍，稱為參數(shù)的區(qū)間估計(jì)。若總體分布含一個(gè)未知參數(shù)，找出了兩個(gè)依賴于樣本的估計(jì)量：使得其中，顯著性水平一般取0.05或0.01，則稱隨機(jī)區(qū)間為的100（1

15、-）%的置信區(qū)間。百分?jǐn)?shù)100（1-）%被稱為置信度或置信水平。1.根據(jù)一個(gè)樣本的觀察值給出總體參數(shù)的估計(jì)范圍給出總體參數(shù)落在這一區(qū)間的概率例如: 總體均值落在5070之間，置信度為 95%2、置信水平 .總體未知參數(shù)落在區(qū)間內(nèi)的概率.表示為 (1 a)，a為顯著性水平，是總體參數(shù)未在區(qū)間內(nèi)的概率 .常用的顯著性水平值有 99%, 95%, 90%，相應(yīng)的a為0.01，0.05，0.10。3、區(qū)間估計(jì)的要點(diǎn).依據(jù)樣本指標(biāo)和抽樣誤差去推算總體指標(biāo)時(shí)，只是確定了總體指標(biāo)的估計(jì)范圍，并沒有確定其具體值。這個(gè)范圍表現(xiàn)為一個(gè)上限和一個(gè)下限，從而構(gòu)成一個(gè)區(qū)間。.所得的估計(jì)區(qū)間表示的只是一個(gè)可能范圍，而不是

16、絕對(duì)的范圍?？傮w指標(biāo)在這個(gè)范圍內(nèi)的可能性為置信概率（）。.擴(kuò)大抽樣極限誤差可以提高抽樣推斷的可靠程度，但準(zhǔn)確程度會(huì)降低；反之，縮小抽樣極限誤差會(huì)降低抽樣推斷的可靠程度，但準(zhǔn)確程度會(huì)提高。第三節(jié) 一個(gè)總體參數(shù)的區(qū)間估計(jì)4.3.1總體均值的區(qū)間估計(jì)1、區(qū)間估計(jì)的基本原理以總體均值的區(qū)間估計(jì)為例來說明區(qū)間估計(jì)的基本原理。在重復(fù)抽樣或無限總體抽樣的情況下，我們知道有、，由此可以知道樣本均值落到總體均值的兩側(cè)各為一個(gè)抽樣標(biāo)準(zhǔn)差范圍內(nèi)的概率0.687 3；落在兩個(gè)抽樣標(biāo)準(zhǔn)差范圍內(nèi)的概率為0.954 5。而實(shí)際上，是已知的，而是未知的，也正是我們要估計(jì)的。由于和的距離是對(duì)稱的，因此如果有95%的樣本均值落在

17、的兩個(gè)標(biāo)準(zhǔn)誤差的范圍內(nèi)，則也就是說，約有95%的樣本均值所構(gòu)成的兩個(gè)標(biāo)準(zhǔn)誤差的區(qū)間會(huì)包括。即若有則有通俗地說，如果我們抽取100個(gè)樣本來估計(jì)總體的均值，有100個(gè)樣本均值所構(gòu)成的100個(gè)區(qū)間中，約有95個(gè)區(qū)間包含總體均值。2、正態(tài)總體且方差已知，或非正態(tài)總體、方差未知、大樣本當(dāng)總體服從正態(tài)總體且方差已知，或非正態(tài)總體、方差未知但大樣本時(shí)，樣本均值的抽樣分布為正態(tài)分布，有、。即對(duì)顯著性水平，有，即有：由此得到總體均值在置信水平下的置信區(qū)間為： （4.3.1）如果總體方差未知，在大樣本條件下，則可以用樣本方差代替總體方差，這時(shí)總體均值在置信水平下的置信區(qū)間為： （4.3.2）如果采取不重復(fù)抽樣，而

18、且插秧比很大時(shí)，這時(shí)總體均值在置信水平下的置信區(qū)間為： （4.3.3）相應(yīng)的如果總體方差未知，總體均值在置信水平下的置信區(qū)間可寫為： （4.3.4）【例】某種零件長度服從正態(tài)分布，從該批產(chǎn)品中隨機(jī)抽取件，測得其平均長度為21.4 mm。已知總體標(biāo)準(zhǔn)差=0.15mm，試建立該種零件平均長度的置信區(qū)間，給定置信水平為0.95。解：已知N(，0.152)，2.14，n=9，1-a = 0.95，a/2=1.96根據(jù)式（4.3.1），總體均值的置信區(qū)間為： 我們可以以95的概率保證該種零件的平均長度在21.30221.498 mm之間。3、正態(tài)總體、方差未知、大樣本如果總體服從正態(tài)分布，則無論樣本容量

19、如何，樣本均值的抽樣分布都服從正態(tài)分布。但是，如果總體方差未知，而且是小樣本的情況下，則需要用樣本方差來代替，這時(shí)樣本均值經(jīng)過標(biāo)準(zhǔn)化以后的隨機(jī)變量服從自由度為的分布，即這時(shí)需要應(yīng)用分布來建立總體均值的置信區(qū)間。分布是類似正態(tài)分布的一種對(duì)稱分布，但它通常比后者平坦和分散。根據(jù)分布建立的總體均值在置信水平（1-）下的置信區(qū)間為： （4.3.5）（4.3.5）式中是自由度為時(shí)，分布中右側(cè)面積為時(shí)的值。【例】從一個(gè)正態(tài)總體中抽取一個(gè)隨機(jī)樣本， n = 25 ，其均值= 50 ，標(biāo)準(zhǔn)差 = 8。建立總體均值的95%的置信區(qū)間。解：已知N(，)，=50, s=8， n=25, 1-a = 0.95，ta/

20、2=2.0639。由式（4.3.5），可得：我們可以95的概率保證總體均值在46.6953.30 之間小結(jié)： 表：4.3.1 不同情況下總體均值的區(qū)間估計(jì)總體分布樣本容量（）已知未知備注正態(tài)分布大樣本（）如果采取不重復(fù)抽樣，而且抽樣比很大時(shí)，小樣本（）非正態(tài)分布大樣本（）4.3.2 總體比例的區(qū)間估計(jì)1、 大樣本重復(fù)抽樣時(shí)的估計(jì)方法當(dāng)樣本容量很大時(shí)，樣本比例的抽樣分布服從正態(tài)分布近似。即 如果且，則，其中為總體的比例。樣本比例經(jīng)過標(biāo)準(zhǔn)化后的隨機(jī)變量服從標(biāo)準(zhǔn)正態(tài)分布，即則總體比例在置信水平下的置信區(qū)間為：用上式計(jì)算總體比例的置信區(qū)間時(shí)，的值應(yīng)該是已知的，但實(shí)際上卻不然，的值恰恰是我們要估計(jì)的，所

21、以我們用樣本的比例來代替，此時(shí)計(jì)算總體比例的置信區(qū)間可表示為： （4.3.6）式中為標(biāo)準(zhǔn)正態(tài)分布右側(cè)面積為時(shí)的值，是估計(jì)總體比例時(shí)的邊際誤差。總體比例的置信區(qū)間有兩部分組成：總體比例的點(diǎn)估計(jì)值和描述估計(jì)量精確度的值，這個(gè)值稱為邊際誤差。2、 大樣本不重復(fù)抽樣時(shí)的估計(jì)方法在不重復(fù)抽樣條件下，樣本比例的方差為： 此時(shí)總體比例在置信水平下的置信區(qū)間為： （4.3.7）【例】某企業(yè)在一項(xiàng)關(guān)于職工流動(dòng)原因的研究中，從該企業(yè)前職工的總體中隨機(jī)選取了200人組成一個(gè)樣本。在對(duì)其進(jìn)行訪問時(shí)，有140人說他們離開該企業(yè)是由于同管理人員不能融洽相處。試對(duì)由于這種原因而離開該企業(yè)的人員的真正比例構(gòu)造95%的置信區(qū)間

22、。 解：已知 n=200，0.7，n* =140>5，n*(1-)=60>5，a= 0.95，a/2=1.96根據(jù)式（4.3.6），得所以我們可以以95的概率保證該企業(yè)職工由于同管理人員不能融洽相處而離開的比例在63.6%76.4%之間4.3.3 總體方差的區(qū)間估計(jì)設(shè)來自正態(tài)總體的容量為的樣本，參數(shù)未知。為了估計(jì)，可根據(jù)樣本方差來確定其在置信水平下的置信區(qū)間。從分布表中查得和（；），使得下式成立： 即： 因此，總體參數(shù)在置信水平下的置信區(qū)間為： （4.3.8）【例】假定A品牌25公斤袋裝大米的重量服從正態(tài)分布。現(xiàn)隨機(jī)抽取13袋，測得它們的重量分別是：24.0、24.2、24.4、24.6、24.7、24.8、25.0、25.1、25.1、25.2、25.3、25.4、25.6公斤，試以95%的置信水平估計(jì)該品牌袋裝大米重量的標(biāo)準(zhǔn)差。解：因?yàn)椋?12，查分布表，得：和=23.337 所以，置信水平為95%的總體方差的置信區(qū)間是： 由原始數(shù)據(jù)可計(jì)算得到=0.23，代入上式得：所以所求信區(qū)間是：（0.34，0.79）第四節(jié) 樣本容量的確定1、確定樣本容量的理論依據(jù)樣本容量對(duì)估計(jì)精度有較大的影響，從理論上說，樣本容量越大，對(duì)總體特征的估計(jì)誤差越小；但從實(shí)踐角度看，抽樣數(shù)目過大，則會(huì)增大調(diào)查及相關(guān)的工作量。因此，樣本容量的確定是至關(guān)重要的。一般說來，抽樣數(shù)目