線性回歸模型的有偏估計(jì)

計(jì)量經(jīng)濟(jì)學(xué)的統(tǒng)計(jì)學(xué)基礎(chǔ)——簡(jiǎn)要復(fù)習(xí)數(shù)理統(tǒng)計(jì)學(xué)線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第1頁(yè)!為什么要復(fù)習(xí)數(shù)理統(tǒng)計(jì)學(xué)數(shù)理統(tǒng)計(jì)學(xué)是計(jì)量經(jīng)濟(jì)學(xué)的基礎(chǔ)，它為計(jì)量經(jīng)濟(jì)學(xué)提供了唯一而有效的方法。數(shù)理統(tǒng)計(jì)較難，而且許多同學(xué)對(duì)于數(shù)學(xué)公式與數(shù)學(xué)符號(hào)的健忘，提醒我們有必要在展開(kāi)計(jì)量經(jīng)濟(jì)學(xué)討論之前，對(duì)本課程中經(jīng)常使用到的數(shù)理統(tǒng)計(jì)學(xué)基本內(nèi)容事先進(jìn)行一些溫習(xí)和回顧。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第2頁(yè)!主要內(nèi)容節(jié)基本概念第二節(jié)對(duì)總體的描述——隨機(jī)變量的數(shù)字特征第三節(jié)對(duì)樣本的描述——樣本分布的數(shù)字特征第四節(jié)隨機(jī)變量的分布——總體和樣本的連接點(diǎn)第五節(jié)通過(guò)樣本，估計(jì)總體（一）——估計(jì)量的特征第六節(jié)通過(guò)樣本，估計(jì)總體（二）——估計(jì)方法第七節(jié)通過(guò)樣本，估計(jì)總體（三）——假設(shè)檢驗(yàn)

線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第3頁(yè)!1.1總體（集合）、個(gè)體（構(gòu)成集合的元素）、樣本和樣本容量研究對(duì)象的全體稱為總體或母體，組成總體的每個(gè)基本單位稱為個(gè)體?？傮w中抽出若干個(gè)個(gè)體組成的集體稱為樣本。樣本中包含的個(gè)體的個(gè)數(shù)稱為樣本的容量，又稱為樣本的大小。

注意：抽樣是按隨機(jī)原則選取的，即總體中每個(gè)個(gè)體有同樣的機(jī)會(huì)被選入樣本。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第4頁(yè)!總體、隨機(jī)變量、樣本間的聯(lián)系樣本就是一個(gè)隨機(jī)變量，所謂“樣本容量為n的樣本”就是n個(gè)相互獨(dú)立且與總體有相同分布的隨機(jī)變量X1，……，Xn。每一次具體抽樣所得的數(shù)據(jù)，就是n元隨機(jī)變量的一個(gè)觀察值，記為（x1，……，xn）。樣本是總體的一部分?？傮w一般是未知的，一般要通過(guò)樣本才能部分地推知總體的情況。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第5頁(yè)!1.4隨機(jī)變量的分布函數(shù)定義若X為一隨機(jī)變量，對(duì)任意實(shí)數(shù)x，稱F（x）＝P（Xx）為隨機(jī)變量X的分布函數(shù)。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第6頁(yè)!分布密度函數(shù)的性質(zhì)：概率密度函數(shù)的大小能夠反映X在x附近取值的概率的大小，從而比分布函數(shù)更直觀。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第7頁(yè)!第二節(jié)對(duì)總體的描述

——隨機(jī)變量的數(shù)字特征2.1、數(shù)學(xué)期望2.2、方差2.3、數(shù)學(xué)期望與方差的圖示線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第8頁(yè)!2.1.2數(shù)學(xué)期望的性質(zhì)（1）如果a、b為常數(shù)，則E(aX+b)=aE(X)+b（2）如果X、Y為兩個(gè)隨機(jī)變量，則E(X+Y)=E(X)+E(Y)（3）如果g(x)和f(x)分別為X的兩個(gè)函數(shù)，則E[g(X)+f(X)]=E[g(X)]+E[f(X)]（4）如果X、Y是兩個(gè)獨(dú)立的隨機(jī)變量，則E(X.Y)=E(X).E(Y)線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第9頁(yè)!2.2.2方差的意義（1）離均差和方差都是用來(lái)描述離散程度的，即描述X對(duì)于它的期望的偏離程度，這種偏差越大，表明變量的取值越分散。（2）一般情況下，我們采用方差來(lái)描述離散程度。因?yàn)殡x均差的和為0，無(wú)法體現(xiàn)隨機(jī)變量的總離散程度。方差中由于有平方，從而消除了正負(fù)號(hào)的影響，并易于加總。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第10頁(yè)!數(shù)學(xué)期望與方差的圖示數(shù)學(xué)期望描述隨機(jī)變量的集中程度，方差描述隨機(jī)變量的分散程度。1.方差同、期望變大2.期望同、方差變小51055線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第11頁(yè)!第四節(jié)隨機(jī)變量的分布

——總體和樣本的連接點(diǎn)4.1幾種重要的分布4.2分布：總體和樣本之間的連接點(diǎn)

學(xué)習(xí)的重點(diǎn)應(yīng)放在確定X服從什么分布，和各種分布的聯(lián)系上。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第12頁(yè)!4.1.1正態(tài)分布定義正態(tài)分布的定義定理正態(tài)分布的數(shù)學(xué)期望和方差線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第13頁(yè)!正態(tài)分布的標(biāo)準(zhǔn)化定義標(biāo)準(zhǔn)正態(tài)分布定理正態(tài)分布標(biāo)準(zhǔn)化線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第14頁(yè)!4.1.22分布2分布的定義N=7N=11概率xN為自由度線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第15頁(yè)!4.1.3t分布t分布的定義概率密度x標(biāo)準(zhǔn)正態(tài)分布t-分布0線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第16頁(yè)!4.1.5臨界值點(diǎn)：（1）標(biāo)準(zhǔn)正態(tài)分布、t分布臨界值點(diǎn)（雙側(cè)）/2/21-類似：線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第17頁(yè)!4.2分布：總體和樣本之間的連接點(diǎn)線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第18頁(yè)!5.1無(wú)偏性定義的真值的真值有偏無(wú)偏線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第19頁(yè)!形象感覺(jué)無(wú)偏性和有效性：重慶長(zhǎng)安廠4支比賽用槍的抽樣結(jié)果準(zhǔn)而不精又精又準(zhǔn)精而不準(zhǔn)不精不準(zhǔn)一次射擊就是一次抽樣。試問(wèn)：哪些是無(wú)偏估計(jì)？哪些是有偏估計(jì)？哪些是有效估計(jì)？線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第20頁(yè)!5.3一致性的定義線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第21頁(yè)!第六節(jié)

通過(guò)樣本，估計(jì)總體（二）

——估計(jì)方法點(diǎn)估計(jì)區(qū)間估計(jì)區(qū)間估計(jì)的概念、步驟應(yīng)用：對(duì)總體期望的區(qū)間估計(jì)1、已知方差，對(duì)數(shù)學(xué)期望E進(jìn)行區(qū)間估計(jì)正態(tài)總體一般總體大樣本下2、方差未知，對(duì)數(shù)學(xué)期望E進(jìn)行區(qū)間估計(jì)大樣本下/小樣本下線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第22頁(yè)!對(duì)區(qū)間估計(jì)的形象比喻我們經(jīng)常說(shuō)某甲的成績(jī)“大概80分左右”，可以看成一個(gè)區(qū)間估計(jì)。（某甲的成績(jī)?yōu)楸还烙?jì)的參數(shù)）P(1<<2)=大概的準(zhǔn)確程度（1-）

如：P(75<<85)=95%=1-5%“大概80分左右”冒險(xiǎn)率（也叫顯著水平）下限上限置信系數(shù)1－線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第23頁(yè)!6.3已知方差，對(duì)總體期望值E=的區(qū)間估計(jì)（1）正態(tài)總體；（2）一般總體，大樣本下。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第24頁(yè)!/2/21-圖示如下線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第25頁(yè)!6.4方差未知，正態(tài)總體，對(duì)數(shù)學(xué)期望E＝u的區(qū)間估計(jì)（1）大樣本下根據(jù)中心極限定理，Var()可以用代替，所以仍按已知方差正態(tài)分布的方法進(jìn)行的置信區(qū)間估計(jì)。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第26頁(yè)!區(qū)間估計(jì)，統(tǒng)計(jì)量的選擇小結(jié)線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第27頁(yè)!7.1假設(shè)檢驗(yàn)的概念定義：稱對(duì)任何一個(gè)隨機(jī)變量未知的分布類型或參數(shù)的假設(shè)為統(tǒng)計(jì)假設(shè)，簡(jiǎn)稱假設(shè)。檢驗(yàn)該假設(shè)是否正確稱為假設(shè)檢驗(yàn)。在統(tǒng)計(jì)假設(shè)，如H0:p=0.5（稱為原假設(shè)）H1:p0.5（稱為備擇假設(shè)）

線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第28頁(yè)!顯著性水平是小概率事件發(fā)生的概率；在假設(shè)檢驗(yàn)中也稱為置信水平。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第29頁(yè)!假設(shè)檢驗(yàn)的具體操作步驟

（以正態(tài)總體、已知方差，檢驗(yàn)均值u為例）1、提出零假設(shè)H0：=0H1：

03、確定顯著水平，如=0.05，查表得相應(yīng)的臨界值/24、判斷和下結(jié)論：若|U|/2，拒絕H0；若|U|</2,接受H0；（判斷區(qū)域圖示）5、依據(jù)結(jié)論，作出經(jīng)濟(jì)學(xué)上的解釋。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第30頁(yè)!課本：第二章第三節(jié)（P30）回歸系數(shù)的區(qū)間估計(jì)；隨機(jī)擾動(dòng)項(xiàng)方差的區(qū)間估計(jì)；回歸系數(shù)的假設(shè)檢驗(yàn)（t檢驗(yàn)）。原假設(shè)、意義。隨機(jī)擾動(dòng)項(xiàng)方差的假設(shè)檢驗(yàn)線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第31頁(yè)!臨界值點(diǎn)：（2）卡方分布（雙側(cè)）、F分布（單側(cè)）臨界值點(diǎn)x概率密度1-/2/21-x返回線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第32頁(yè)!節(jié)基本概念總體和個(gè)體樣本和樣本容量隨機(jī)變量統(tǒng)計(jì)量隨機(jī)變量的分布函數(shù)和分布密度函數(shù)線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第33頁(yè)!1.2隨機(jī)變量根據(jù)概率不同而取不同數(shù)值的變量稱為隨機(jī)變量（RandomVariable）。一個(gè)隨機(jī)變量具有下列特性：可以取許多不同的數(shù)值，取這些數(shù)值的概率為p，線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第34頁(yè)!1.3統(tǒng)計(jì)量設(shè)（x1，x2，……，xn）為一組樣本觀察值，函數(shù)y=f（x1，x2，……，xn）若不含有未知參數(shù)，則稱為統(tǒng)計(jì)量。統(tǒng)計(jì)量一般是連續(xù)函數(shù)。由于樣本是隨機(jī)變量，因而它的函數(shù)y也是隨機(jī)變量，所以，統(tǒng)計(jì)量也是隨機(jī)變量。統(tǒng)計(jì)量一般用它來(lái)提取由樣本帶來(lái)的總體信息。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第35頁(yè)!連續(xù)型隨機(jī)變量的分布密度定義：對(duì)于任何實(shí)數(shù)x，如果隨機(jī)變量X的分布函數(shù)F（x）可以寫成線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第36頁(yè)!舉例：正態(tài)分布X～N（u，）x2x2f(x)F(x)x1x1XX線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第37頁(yè)!2.1.1數(shù)學(xué)期望：一個(gè)加權(quán)平均值數(shù)學(xué)期望描述隨機(jī)變量（總體）的一般水平。定義2.1離散型隨機(jī)變量數(shù)學(xué)期望的定義：定義2.2連續(xù)型隨機(jī)變量數(shù)學(xué)期望的定義變量X的取值x1x2……xn相應(yīng)概率Pp1p2……pn線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第38頁(yè)!2.2.1方差的定義定義離均差如果隨機(jī)變量X的數(shù)學(xué)期望E(X)存在，稱[X-E(X)]為隨機(jī)變量X的離均差。顯然，隨機(jī)變量離均差的數(shù)學(xué)期望是0，即E[X-E(X)]=0定義方差、標(biāo)準(zhǔn)差隨機(jī)變量離均差平方的數(shù)學(xué)期望叫隨機(jī)變量的方差，記作Var(x)或D(x)。方差的算術(shù)平方根叫標(biāo)準(zhǔn)差。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第39頁(yè)!2.2.3方差的性質(zhì)（1）Var(c)=0（2）Var(c+x)=Var(x)（3）Var(cx)=c2Var(x)（4）x,y為相互獨(dú)立的隨機(jī)變量，則Var(x+y)=Var(x)+Var(y)=Var(x-y)（5）Var(x)=E(x2)-(E(x))2線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第40頁(yè)!第三節(jié)對(duì)樣本的描述

——樣本分布的數(shù)字特征一、樣本均值：二、樣本方差、樣本標(biāo)準(zhǔn)差線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第41頁(yè)!4.1幾種重要的分布4.1.1正態(tài)分布4.1.2卡方分布4.1.3t分布4.1.4F分布4.1.5臨界值點(diǎn)線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第42頁(yè)!正態(tài)分布圖示x2x2f(x)F(x)x1x1XX線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第43頁(yè)!關(guān)于正態(tài)分布的和線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第44頁(yè)!定理2分布的和仍然服從2分布線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第45頁(yè)!4.1.4F分布F分布的定義x概率密度線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第46頁(yè)!臨界值點(diǎn)：（2）卡方分布（雙側(cè)）、F分布（單側(cè)）臨界值點(diǎn)x概率密度1-/2/21-x線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第47頁(yè)!第五節(jié)

通過(guò)樣本，估計(jì)總體（一）

——估計(jì)量的特征無(wú)偏性有效性兼顧無(wú)偏和有效：最小均方誤一致性大樣本下，具一致性的估計(jì)量具“無(wú)偏”和“有效”特性。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第48頁(yè)!5.2有效性定義線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第49頁(yè)!偏差與方差的權(quán)衡：最小均方誤有偏，方差極小無(wú)偏，方差極大線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第50頁(yè)!n增大時(shí)，一致估計(jì)量的“無(wú)偏”“有效”特性N小N大N極大的真值。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第51頁(yè)!6.1區(qū)間估計(jì)的概念所謂區(qū)間估計(jì)就是以一定的可靠性給出被估計(jì)參數(shù)的一個(gè)可能的取值范圍。具體作法是找出兩個(gè)統(tǒng)計(jì)量1(x1,…,xn)與2(x1,…,xn)，使P(1<<2)=1-(1,2)稱為置信區(qū)間，1-稱為置信系數(shù)（置信度），稱為冒險(xiǎn)率（測(cè)不準(zhǔn)的概率）或者顯著水平，一般取5%或1%。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第52頁(yè)!6.2區(qū)間估計(jì)的步驟：1)找一個(gè)含有該參數(shù)的統(tǒng)計(jì)量;2)構(gòu)造一個(gè)概率為的事件;3)通過(guò)該事件解出該參數(shù)的區(qū)間估計(jì).線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第53頁(yè)!（1）正態(tài)總體，方差已知，估計(jì)均值u線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第54頁(yè)!（2）一般總體，方差已知，大樣本下數(shù)學(xué)期望E的區(qū)間估計(jì)中心極限定理指出，無(wú)論是否為正態(tài)總體，當(dāng)樣本容量相當(dāng)大時(shí)，有樣本平均數(shù)漸進(jìn)地服從正態(tài)分布。在n>=30時(shí)，近似地，樣本平均數(shù)N(，2/n)。所以，對(duì)于大樣本仍可以按正態(tài)總體進(jìn)行均值的區(qū)間估計(jì)。線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第55頁(yè)!（2）小樣本下線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第56頁(yè)!第七節(jié)通過(guò)樣本，估計(jì)總體（三）

——假設(shè)檢驗(yàn)基本概念：假設(shè)檢驗(yàn)，原假設(shè)/備擇假設(shè)小概率事件原理在假設(shè)檢驗(yàn)中的應(yīng)用置信水平假設(shè)檢驗(yàn)的步驟應(yīng)用：正態(tài)總體期望的假設(shè)檢驗(yàn)（方差已知/方差未知）（t檢驗(yàn)等）方差的假設(shè)檢驗(yàn)線性回歸模型的有偏估計(jì)共62頁(yè)，您現(xiàn)在瀏覽的是第57頁(yè)!7.2“小概率原理”在假設(shè)檢驗(yàn)中的應(yīng)用數(shù)理統(tǒng)計(jì)學(xué)中的“小概率原理”認(rèn)