計(jì)量經(jīng)濟(jì)學(xué)-第二章

TheoryandMethodologyofEconometricModel第二章經(jīng)典單方程計(jì)量經(jīng)濟(jì)學(xué)模型一元線性回歸?；貧w分析概一元線性回歸模型的參數(shù)估計(jì)一元線性回歸模型檢一元線性回歸模型預(yù)實(shí)一、變量間的關(guān)系及回歸分析的基本概四、樣本回歸函數(shù)一、變量間的關(guān)系及回歸分析的基本概 1、變量間的關(guān)變量之間的關(guān)系，大體可分為兩類確定性關(guān)系或函數(shù)關(guān)系：研究的是確定現(xiàn)象非隨量間的關(guān)系。統(tǒng)計(jì)依賴或相關(guān)關(guān)系：研究的是非確定現(xiàn)象隨量間的關(guān)系。例如函數(shù)關(guān)系圓面積

半徑統(tǒng)計(jì)依賴關(guān)系/統(tǒng)計(jì)相關(guān) 正相線性相 不相 相關(guān)系數(shù)統(tǒng)計(jì)依賴關(guān) 負(fù)相 1

有因果關(guān) 回歸分 非線性相關(guān)不相關(guān)負(fù)相▲注意①非線性相關(guān)并不意味著不相關(guān)②有相關(guān)關(guān)系并不意味著一定有因果關(guān)系③/相關(guān)分析研究一個(gè)變量對(duì)另一個(gè)（些）味著一定有因果關(guān)系。④對(duì)稱地對(duì)待任何（兩個(gè)）兩個(gè)變量都被看作是隨機(jī)的。回歸分析對(duì)變量的處理方法存在不對(duì)稱性，即區(qū)分因變量（被解釋變量）和自變量（解釋變量）：前者是隨量，后者不是。被解釋變量（ExplainedVariable）（Dependent解釋變量（ExplanatoryVariable）（Independent根據(jù)樣本觀察值對(duì)經(jīng)濟(jì)計(jì)量模型參數(shù)進(jìn)行估計(jì)，求得歸方程對(duì)回歸方程、參數(shù)估計(jì)值進(jìn)行顯著性檢驗(yàn)利用回歸方程進(jìn)行分析、評(píng)價(jià)及預(yù)測(cè)二、總體回歸函 由于變量間關(guān)系的隨機(jī)性，回歸分析關(guān)心的表 某社區(qū)家庭每月收入與消費(fèi)支出統(tǒng)計(jì)表每月家庭可支配收入X（元每月家庭消費(fèi)支出Y（元）共計(jì)由于不確定因素的影響，對(duì)同一收入水X，不同家庭的消費(fèi)支出不完全相的Y的條件分布（Conditionaldistribution）是已均值（conditionalmean）或條件期望（conditional該例中：E(Y|（元

0

描出散點(diǎn)圖發(fā)現(xiàn)：隨著收入的增加，消費(fèi)“平均地說”也在增加，且Y的條件均值均落在一根正斜率的直線上。這條直線稱為總體回歸線。概念軌跡稱為總體回歸線（populationregression（populationregressioncurve）E

|Xi)

f(Xiregressionfunction,PRF）。含義函數(shù)形式可以是線性或非線性的例2.1中，將居民消費(fèi)支出看成是其可支配入的線性函數(shù)

E(Y

|Xi)

1X為一線性函數(shù)。其中，0，1是未知參數(shù)回歸系數(shù)（regressioncoefficients）三、隨機(jī)擾動(dòng) iiYiE(Y|Xi稱i為觀察值Yi圍繞它的期望值E(Y|Xi)的離（deviation），是一個(gè)不可觀測(cè)的 量，又為隨機(jī)干擾項(xiàng)（stochasticdisturbance）或隨機(jī)誤差項(xiàng)（stochasticerror）。例2.1中，個(gè)別家庭的消費(fèi)支出為

即，給定收入水平Xi,個(gè)別家庭的支出可表示為兩部分之和該收入水平下所有家庭的平均消費(fèi)支出E(i，稱為系統(tǒng)性（ai）或確定性dinisti部分。其他隨機(jī)或非確定性（nonsystematic)部分i隨機(jī)誤差項(xiàng)主要包括下列因素的影響在解釋變量中被忽略的因素的影變量觀測(cè)值的觀測(cè)誤差的影響模型關(guān)系的設(shè)定誤差的影響其它隨機(jī)因素的影響產(chǎn)生隨機(jī)誤差項(xiàng)的主要原因 四、樣本回歸函數(shù) 表 家庭消費(fèi)支出與可支配收入的一個(gè)隨機(jī)樣YX該樣本的散點(diǎn)圖（scatter該線稱為樣本回歸線（sampleregressionlines）。?f(X?f(X)ii01i稱為樣本回歸函數(shù)（sampleregressionfunction，SRF）這里將樣本回歸方程看成總體回歸方程的近似替則 樣本回歸函數(shù)的隨機(jī)形式/樣本回歸模型 同樣地，樣本回歸函數(shù)也有如下的隨機(jī)形式Y(jié)Yi?iei?0?1Xii請(qǐng)對(duì)比式中

稱為（樣本）殘差（或剩余）項(xiàng)（residual，代了其他影響

的隨機(jī)因素的集合，可看成是

的估計(jì)量 由于方程中引入也稱為樣本回歸模型（sampleregressionmodel）▼回歸分析就是

Yi

i估 i

|Xi)

1X

iPRF能一元線性回歸模型的基本假最小二乘估計(jì)量的性PRF，實(shí)際上，主要是估計(jì)參數(shù)（ ）最小二乘法（ordinaryleastsquares,OLS）。一、線性回歸模型的基本假 假設(shè)1、解釋變量X是確定性變量，不是隨假設(shè)2、隨機(jī)誤差項(xiàng)具有零均值、同方差Vari=1,2,i=1,2,Cov(i,j)=E(i i≠ji,j=1,2,假設(shè)3、隨機(jī)誤差項(xiàng)與解釋變量X之間不相關(guān)cov(cov(i，Xi)E[iE(i)][XiE(XiE(iXi)i1,2,,假設(shè)4、服從零均值、同方差、零協(xié)方差的正態(tài)分布。i~N(0,2 i=1,2,服從同方差的正態(tài)分服從異方差的正態(tài)分經(jīng)典假設(shè)或（Gauss）假設(shè)，滿LinearRegressionModelCLRM）二、參數(shù)的普通最小二乘估計(jì)二、參數(shù)的普通最小二乘估計(jì)給定一組樣本觀測(cè)值（XiYi）（i=1,2,…n）要求X2普通最小二乘法（OrdinaryleastsquaresOLS）X2nQ(Yin1

?)

(Yin1n

(?0i 即在給定樣本觀測(cè)值之下，選擇、i i?i方程組（*）稱為正規(guī)方程組（normalequations）i xi

(X

X)

X

1 Xi ixi

(Xi

X

Y

11xiyixi

leastsquaresestimators）。順便，

?i

?i則i?i

en可 ?n

X)

1

（**）式也稱為樣本回歸函數(shù)的離差形式三、參數(shù)估計(jì)的最大似然法三、參數(shù)估計(jì)的最大似然法 umLikelihood,簡稱基本原理對(duì)于，當(dāng)從模型總體隨機(jī)組樣本觀測(cè)值后，最合理的參數(shù)估計(jì)量應(yīng)該使得從模型中抽取該的概率最大。在滿足基本假設(shè)條件下，對(duì)一元線性回歸模型

1X

i隨機(jī)抽取n組樣本觀測(cè)值（Xi,Yi）（i=1,2,…n）假設(shè)模型的參數(shù)估計(jì)量已經(jīng)求得，為、 那么Yi服從如下的正態(tài)分2Yi~N(01Xi,2于是，Y的概率函數(shù)1

(Yi01Xi)2

2

2

概率，也即似然函數(shù)(likelihoodfunction)為：11

,

,2)

n n

1e21

(Yi

Xi將該似然函數(shù)極大化，即可求得到模型2L*2

n

2)

解得模型的參數(shù)估計(jì)量為 X2YXY 2 nX2

(Xi

YiX

YiXi i

nX

(Xi2可見，在滿足一系列基本假設(shè)的情況下，模型結(jié)構(gòu)參數(shù)的最大似然估計(jì)量與普通最小2表2.2.1表 參數(shù)估計(jì)的計(jì)算表XyixixiyiXiYi1--2--3--4--5--6789求和平均

xi

xi xi

0.777

i 103.1720.777Xi 四、最小二乘估計(jì)量的性 （bestlinearunbiasedestimatorBLUE）漸近無偏性，即樣本容量趨于無窮大時(shí)，是一致性，即樣本容量趨于無窮大時(shí)，它是否漸近有效性，即樣本容量趨于無窮大時(shí)，是——馬爾可夫定理(Gauss-Markov在給定經(jīng)典線性回歸的假定下，最小二乘估計(jì)00wY和k 1 Y)ii i

x2

iiiiiiii

2、無偏性，即估計(jì)量參數(shù)真值0與

、

的均值（期望）等于總體回

k

k

)k

k

kkikixx2ikiXi

1 1

kii11

E(1

kii)

1kiE(i)

E(0

wii)

E(0)wiE(i)03、有效性（最小方差性，即在所有線性無偏估計(jì)量中，最小二乘估計(jì)量 、?1具有最小方差。(1)先求

與

的方11

)

iYi

k

1X

i

k

var(ix21iix21ii2 x2

)var(w

)w

)

(1/n

)2 1

n n

x 2x

Xk

X

X2

in i

2X2inX2inx211

iXiX

x2nXi ini x2ni

nx假設(shè)*是其他估計(jì)方法得到的關(guān)于

的線性無偏估計(jì) 1ii?* c1ii11

0同理，可證明0的最小二乘估計(jì)量0

具有最小方差普通最小二乘估計(jì)量（ordinaryleastSquareslinearunbiasedestimator,BLUE） ?*cYc(

X)

cXc

E(?*)E(

cXc

)cc

由題設(shè)的無偏性估計(jì)量知，ci0，ciXi ?*c ckd k0d cXkXdX kX1dX var(?*var(c2c 而c2k2d22k x X k

i

d

0，d c2k2d 性

c22(k2d2)var(?)2d111

1var(?)，證明完11、參1、參數(shù)估計(jì)量?0和的概率分

~N(1 2

xX ~N( 2xXii

n 2x2 2x2i1

2 X2nx2i2、隨機(jī)誤差項(xiàng)的方差2的估 2又2又稱為總體方差由于隨機(jī)項(xiàng)i不可觀測(cè)，只能從i的估計(jì)——?dú)坋i出發(fā)，對(duì)總體方差進(jìn)行估計(jì)e2in

它是關(guān)于2的無偏估計(jì)量

2n2Yi

1Xi

i

1

)ei

yixe()(?)x e2(?)2x22(?)x()(

)2 E(e2)x2E(?)2E(()2)2E[(?)x(

)] x

)(n1)var(u)2E[k

(x

ABiA2;

iE(e2)(n2)i e 若定義

n

)在最大似然估計(jì)法在隨機(jī)誤差項(xiàng)的方差2估計(jì)出后，參數(shù)和的方差和標(biāo)準(zhǔn)差的估計(jì)量分別是：x2i?1的x2i

? xS? xS??1的樣本標(biāo)準(zhǔn)差

S

X2inxX2inx2

S2S

2 nxXiixXii

的樣本標(biāo)準(zhǔn)差

S

(三)(三)擬合優(yōu) 一、擬合優(yōu)度檢 1、總離差平方和的分 X X iiyi Yiii

)

Y

? 即實(shí)際觀測(cè)值落在樣本回歸“線”上，則擬合最好可認(rèn)為，“離差”y2記TSSy2

Y

ofSquares）

?iie2ii

ii

Yii

SumofSquares）SumofSquares）Y的Y的觀測(cè)值圍繞其均值的總離差variation)可分解為兩部分：一部分來線(ESS)，另一部分則來自隨(RSS)在給定樣本中，TSS不變?nèi)绻麑?shí)際觀測(cè)點(diǎn)離樣本回歸線越近，則在TSS中占的越大，因此擬合優(yōu)度：回歸平方和ESS/Y的總離差2、可決系數(shù)R2統(tǒng)計(jì) R2

1

R2為（樣本）可決系數(shù)/判定系數(shù)（coefficientofdetermination)?？蓻Q系數(shù)的取值范圍在實(shí)際計(jì)算可決系數(shù)時(shí)，在

已經(jīng)估計(jì)出R2

2

x2iy1 2iy 在例2.1.1的收入-消費(fèi)支出例中iR2i

x

yi yi計(jì)量經(jīng)計(jì)學(xué)中，主要是針對(duì)變量的參數(shù)值是否為零來進(jìn)行顯著性檢驗(yàn)的1、假設(shè)檢 假設(shè)檢驗(yàn)采用的邏輯推理方法是反證法 2、變量的顯著性檢 i1~N(1,x2i x2itx2i

S1

~t(n檢驗(yàn)步驟H0： t S1給定顯著性水平，查t分布表，得臨界值t/2(n-(4比較，判若|t|>t/2(n-2)， H0，接受H1若|t|t/2(n-2)， H1，接受H0

見后面證t

~t(nii2Xii

n

S0在上述收入-消費(fèi)支出例中，首先計(jì)算2e2

2

n

n

10

x2i13402/x2i13402/1?2X2i ?2X2i 2i0

iyiXi iyiXi

1Yi1

1xiX 1xiX

Yi 1y221221y22122

Yi

?(Xi

Xi)222yi222

ei

12yi12

xiei

112212xi與ei不相關(guān)，因而xiei1122122ei2

xit1

S?1

t0

S 0

t|t0|<2.306,表明在95%的置信度下，無法 t經(jīng)驗(yàn)法如果自由度≥20，且顯著性水過2時(shí)，就可以原假設(shè)。 三、參數(shù)的置信區(qū)

1（confidenceinterval）1-稱為置信系數(shù)（置信度（confidencecoefficient），稱為顯著性水平（level significance）；置信區(qū)間的端點(diǎn)稱為置信（confidencelimit）或臨界值（criticalvalues）一元線性模型中，i(i=1，2）的置信區(qū)間 t

~t(ni(-t/2,t/2)的概率是(1-)。表示為：P(t

tt

1

t

1 s iii

t2

si

于是得到:(1-iiiii

t2

si

,

t2

si在上述收入-消費(fèi)支出例中，如果給定=0.01，2由 S?1

S 0

于是，1、0（-?0是條件均值E(Y|X=X0)或個(gè)Y0的一個(gè)無偏估X X 被解釋變量的預(yù)測(cè)值?0，可以此作為其條件均注意（2）一、一、?0是條件均值E(Y|X=X0)或個(gè)值X X 0 E?0

)

X0)

X0

)

1X11可見，?0是條件均值E(Y|X=X0)的無偏估計(jì)11Y00 E(Y0)

E(

1X

)

1X

E()

1X0E(?0

)E(?0

X0

)0

1X1X)1X) 1、總體均值預(yù)測(cè)值的置信區(qū) i02 i02

N(

N

2i 1xi

0nx0i Ex0i

)E(?0)

1X00

)Var

)2

0Cov

01i101i1

,

)2

/x證明

,

)2X/1x0i1x0i

,

)

1)1001101X Y 1001101X E(Y)

)

)

1010010

1)1010

,

)

1)

1112 1112 var(1)

iix2ii

cov(0,

x2 Var

Xi)i

2X

X

X2ii nxii

x

x0i X2nX 0i X2

2

XX2ix2 i

0x x

(

X)2

2(

(X

X)i)ii2n2i2ni

(X

X)

xiY0i

N(

1X0, (n

x 1(1(X)n x2it S0

~t(n

其中S?0000?t02

SY0Y

|X0

t2

SY0Y2、總體個(gè)值預(yù)測(cè)值的預(yù)測(cè)區(qū) 2由Y0=0+1X0+2Y0

N(0

1

0,

(X

X)于

~N(0,

n

xix?t

~t(n

S? ? ?21(X2n x20 SY? 0從而在1-的置信度下，Y0的置信區(qū)間0 0? 02

t2

在上述收入-消費(fèi)支出例中，得到的樣本回歸函數(shù)i 103.1720.777Xi則在X0=1000處，?0=

(10002150)2

1340210

0S(?0

)

見ppt的67673.84-2.30661.05<E(Y|X=1000) （533.05,673.84-2.306130.88<Yx=1000<673.84+ (372.03,總體回歸函數(shù)的置信域（confidenceband）（窄一點(diǎn)的置信 （寬一點(diǎn)對(duì)于對(duì)于Y的總體均值E(Y|X)樣本容量n越大，預(yù)測(cè)精度越高，反之預(yù)測(cè)樣本容量一定時(shí)，置信帶的寬度當(dāng)在X均值處（即X）最小，其附近進(jìn)行預(yù)測(cè)（插值預(yù)測(cè)精度越大；X2補(bǔ)充2的置信區(qū)間（confidence22

(n

2)

2

/2

1

2)

22