線性回歸模型的有偏估計

計量經(jīng)濟學的統(tǒng)計學基礎——簡要復習數(shù)理統(tǒng)計學線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第1頁!為什么要復習數(shù)理統(tǒng)計學數(shù)理統(tǒng)計學是計量經(jīng)濟學的基礎，它為計量經(jīng)濟學提供了唯一而有效的方法。數(shù)理統(tǒng)計較難，而且許多同學對于數(shù)學公式與數(shù)學符號的健忘，提醒我們有必要在展開計量經(jīng)濟學討論之前，對本課程中經(jīng)常使用到的數(shù)理統(tǒng)計學基本內(nèi)容事先進行一些溫習和回顧。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第2頁!主要內(nèi)容節(jié)基本概念第二節(jié)對總體的描述——隨機變量的數(shù)字特征第三節(jié)對樣本的描述——樣本分布的數(shù)字特征第四節(jié)隨機變量的分布——總體和樣本的連接點第五節(jié)通過樣本，估計總體（一）——估計量的特征第六節(jié)通過樣本，估計總體（二）——估計方法第七節(jié)通過樣本，估計總體（三）——假設檢驗

線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第3頁!1.1總體（集合）、個體（構成集合的元素）、樣本和樣本容量研究對象的全體稱為總體或母體，組成總體的每個基本單位稱為個體?？傮w中抽出若干個個體組成的集體稱為樣本。樣本中包含的個體的個數(shù)稱為樣本的容量，又稱為樣本的大小。

注意：抽樣是按隨機原則選取的，即總體中每個個體有同樣的機會被選入樣本。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第4頁!總體、隨機變量、樣本間的聯(lián)系樣本就是一個隨機變量，所謂“樣本容量為n的樣本”就是n個相互獨立且與總體有相同分布的隨機變量X1，……，Xn。每一次具體抽樣所得的數(shù)據(jù)，就是n元隨機變量的一個觀察值，記為（x1，……，xn）。樣本是總體的一部分。總體一般是未知的，一般要通過樣本才能部分地推知總體的情況。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第5頁!1.4隨機變量的分布函數(shù)定義若X為一隨機變量，對任意實數(shù)x，稱F（x）＝P（Xx）為隨機變量X的分布函數(shù)。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第6頁!分布密度函數(shù)的性質：概率密度函數(shù)的大小能夠反映X在x附近取值的概率的大小，從而比分布函數(shù)更直觀。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第7頁!第二節(jié)對總體的描述

——隨機變量的數(shù)字特征2.1、數(shù)學期望2.2、方差2.3、數(shù)學期望與方差的圖示線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第8頁!2.1.2數(shù)學期望的性質（1）如果a、b為常數(shù)，則E(aX+b)=aE(X)+b（2）如果X、Y為兩個隨機變量，則E(X+Y)=E(X)+E(Y)（3）如果g(x)和f(x)分別為X的兩個函數(shù)，則E[g(X)+f(X)]=E[g(X)]+E[f(X)]（4）如果X、Y是兩個獨立的隨機變量，則E(X.Y)=E(X).E(Y)線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第9頁!2.2.2方差的意義（1）離均差和方差都是用來描述離散程度的，即描述X對于它的期望的偏離程度，這種偏差越大，表明變量的取值越分散。（2）一般情況下，我們采用方差來描述離散程度。因為離均差的和為0，無法體現(xiàn)隨機變量的總離散程度。方差中由于有平方，從而消除了正負號的影響，并易于加總。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第10頁!數(shù)學期望與方差的圖示數(shù)學期望描述隨機變量的集中程度，方差描述隨機變量的分散程度。1.方差同、期望變大2.期望同、方差變小51055線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第11頁!第四節(jié)隨機變量的分布

——總體和樣本的連接點4.1幾種重要的分布4.2分布：總體和樣本之間的連接點

學習的重點應放在確定X服從什么分布，和各種分布的聯(lián)系上。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第12頁!4.1.1正態(tài)分布定義正態(tài)分布的定義定理正態(tài)分布的數(shù)學期望和方差線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第13頁!正態(tài)分布的標準化定義標準正態(tài)分布定理正態(tài)分布標準化線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第14頁!4.1.22分布2分布的定義N=7N=11概率xN為自由度線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第15頁!4.1.3t分布t分布的定義概率密度x標準正態(tài)分布t-分布0線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第16頁!4.1.5臨界值點：（1）標準正態(tài)分布、t分布臨界值點（雙側）/2/21-類似：線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第17頁!4.2分布：總體和樣本之間的連接點線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第18頁!5.1無偏性定義的真值的真值有偏無偏線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第19頁!形象感覺無偏性和有效性：重慶長安廠4支比賽用槍的抽樣結果準而不精又精又準精而不準不精不準一次射擊就是一次抽樣。試問：哪些是無偏估計？哪些是有偏估計？哪些是有效估計？線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第20頁!5.3一致性的定義線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第21頁!第六節(jié)

通過樣本，估計總體（二）

——估計方法點估計區(qū)間估計區(qū)間估計的概念、步驟應用：對總體期望的區(qū)間估計1、已知方差，對數(shù)學期望E進行區(qū)間估計正態(tài)總體一般總體大樣本下2、方差未知，對數(shù)學期望E進行區(qū)間估計大樣本下/小樣本下線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第22頁!對區(qū)間估計的形象比喻我們經(jīng)常說某甲的成績“大概80分左右”，可以看成一個區(qū)間估計。（某甲的成績?yōu)楸还烙嫷膮?shù)）P(1<<2)=大概的準確程度（1-）

如：P(75<<85)=95%=1-5%“大概80分左右”冒險率（也叫顯著水平）下限上限置信系數(shù)1－線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第23頁!6.3已知方差，對總體期望值E=的區(qū)間估計（1）正態(tài)總體；（2）一般總體，大樣本下。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第24頁!/2/21-圖示如下線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第25頁!6.4方差未知，正態(tài)總體，對數(shù)學期望E＝u的區(qū)間估計（1）大樣本下根據(jù)中心極限定理，Var()可以用代替，所以仍按已知方差正態(tài)分布的方法進行的置信區(qū)間估計。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第26頁!區(qū)間估計，統(tǒng)計量的選擇小結線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第27頁!7.1假設檢驗的概念定義：稱對任何一個隨機變量未知的分布類型或參數(shù)的假設為統(tǒng)計假設，簡稱假設。檢驗該假設是否正確稱為假設檢驗。在統(tǒng)計假設，如H0:p=0.5（稱為原假設）H1:p0.5（稱為備擇假設）

線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第28頁!顯著性水平是小概率事件發(fā)生的概率；在假設檢驗中也稱為置信水平。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第29頁!假設檢驗的具體操作步驟

（以正態(tài)總體、已知方差，檢驗均值u為例）1、提出零假設H0：=0H1：

03、確定顯著水平，如=0.05，查表得相應的臨界值/24、判斷和下結論：若|U|/2，拒絕H0；若|U|</2,接受H0；（判斷區(qū)域圖示）5、依據(jù)結論，作出經(jīng)濟學上的解釋。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第30頁!課本：第二章第三節(jié)（P30）回歸系數(shù)的區(qū)間估計；隨機擾動項方差的區(qū)間估計；回歸系數(shù)的假設檢驗（t檢驗）。原假設、意義。隨機擾動項方差的假設檢驗線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第31頁!臨界值點：（2）卡方分布（雙側）、F分布（單側）臨界值點x概率密度1-/2/21-x返回線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第32頁!節(jié)基本概念總體和個體樣本和樣本容量隨機變量統(tǒng)計量隨機變量的分布函數(shù)和分布密度函數(shù)線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第33頁!1.2隨機變量根據(jù)概率不同而取不同數(shù)值的變量稱為隨機變量（RandomVariable）。一個隨機變量具有下列特性：可以取許多不同的數(shù)值，取這些數(shù)值的概率為p，線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第34頁!1.3統(tǒng)計量設（x1，x2，……，xn）為一組樣本觀察值，函數(shù)y=f（x1，x2，……，xn）若不含有未知參數(shù)，則稱為統(tǒng)計量。統(tǒng)計量一般是連續(xù)函數(shù)。由于樣本是隨機變量，因而它的函數(shù)y也是隨機變量，所以，統(tǒng)計量也是隨機變量。統(tǒng)計量一般用它來提取由樣本帶來的總體信息。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第35頁!連續(xù)型隨機變量的分布密度定義：對于任何實數(shù)x，如果隨機變量X的分布函數(shù)F（x）可以寫成線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第36頁!舉例：正態(tài)分布X～N（u，）x2x2f(x)F(x)x1x1XX線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第37頁!2.1.1數(shù)學期望：一個加權平均值數(shù)學期望描述隨機變量（總體）的一般水平。定義2.1離散型隨機變量數(shù)學期望的定義：定義2.2連續(xù)型隨機變量數(shù)學期望的定義變量X的取值x1x2……xn相應概率Pp1p2……pn線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第38頁!2.2.1方差的定義定義離均差如果隨機變量X的數(shù)學期望E(X)存在，稱[X-E(X)]為隨機變量X的離均差。顯然，隨機變量離均差的數(shù)學期望是0，即E[X-E(X)]=0定義方差、標準差隨機變量離均差平方的數(shù)學期望叫隨機變量的方差，記作Var(x)或D(x)。方差的算術平方根叫標準差。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第39頁!2.2.3方差的性質（1）Var(c)=0（2）Var(c+x)=Var(x)（3）Var(cx)=c2Var(x)（4）x,y為相互獨立的隨機變量，則Var(x+y)=Var(x)+Var(y)=Var(x-y)（5）Var(x)=E(x2)-(E(x))2線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第40頁!第三節(jié)對樣本的描述

——樣本分布的數(shù)字特征一、樣本均值：二、樣本方差、樣本標準差線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第41頁!4.1幾種重要的分布4.1.1正態(tài)分布4.1.2卡方分布4.1.3t分布4.1.4F分布4.1.5臨界值點線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第42頁!正態(tài)分布圖示x2x2f(x)F(x)x1x1XX線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第43頁!關于正態(tài)分布的和線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第44頁!定理2分布的和仍然服從2分布線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第45頁!4.1.4F分布F分布的定義x概率密度線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第46頁!臨界值點：（2）卡方分布（雙側）、F分布（單側）臨界值點x概率密度1-/2/21-x線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第47頁!第五節(jié)

通過樣本，估計總體（一）

——估計量的特征無偏性有效性兼顧無偏和有效：最小均方誤一致性大樣本下，具一致性的估計量具“無偏”和“有效”特性。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第48頁!5.2有效性定義線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第49頁!偏差與方差的權衡：最小均方誤有偏，方差極小無偏，方差極大線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第50頁!n增大時，一致估計量的“無偏”“有效”特性N小N大N極大的真值。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第51頁!6.1區(qū)間估計的概念所謂區(qū)間估計就是以一定的可靠性給出被估計參數(shù)的一個可能的取值范圍。具體作法是找出兩個統(tǒng)計量1(x1,…,xn)與2(x1,…,xn)，使P(1<<2)=1-(1,2)稱為置信區(qū)間，1-稱為置信系數(shù)（置信度），稱為冒險率（測不準的概率）或者顯著水平，一般取5%或1%。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第52頁!6.2區(qū)間估計的步驟：1)找一個含有該參數(shù)的統(tǒng)計量;2)構造一個概率為的事件;3)通過該事件解出該參數(shù)的區(qū)間估計.線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第53頁!（1）正態(tài)總體，方差已知，估計均值u線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第54頁!（2）一般總體，方差已知，大樣本下數(shù)學期望E的區(qū)間估計中心極限定理指出，無論是否為正態(tài)總體，當樣本容量相當大時，有樣本平均數(shù)漸進地服從正態(tài)分布。在n>=30時，近似地，樣本平均數(shù)N(，2/n)。所以，對于大樣本仍可以按正態(tài)總體進行均值的區(qū)間估計。線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第55頁!（2）小樣本下線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第56頁!第七節(jié)通過樣本，估計總體（三）

——假設檢驗基本概念：假設檢驗，原假設/備擇假設小概率事件原理在假設檢驗中的應用置信水平假設檢驗的步驟應用：正態(tài)總體期望的假設檢驗（方差已知/方差未知）（t檢驗等）方差的假設檢驗線性回歸模型的有偏估計共62頁，您現(xiàn)在瀏覽的是第57頁!7.2“小概率原理”在假設檢驗中的應用數(shù)理統(tǒng)計學中的“小概率原理”認