計量經(jīng)濟學實驗六-李子奈

實驗六多元線性回歸和多重共線性

—實驗?zāi)康模赫莆斩嘣€性回歸模型的估計方法、掌握多重共線性模型的識

別和修正。

二實驗要求：應(yīng)用指導書P245習題4T8案例做多元線性回歸模型，并識別和

修正多重共線性。

三實驗原理：普通最小二乘法、簡單相關(guān)系數(shù)檢驗法、綜合判斷法、逐步回歸

法。

四預(yù)備知識：最小二乘估計的原理、t檢驗、F檢驗、R?值。

五實驗內(nèi)容：

Y6.06.06.57.17.27.68.09.09.09.3

XI40.140.347.549.252.358.061.362.564.766.8

X25.54.75.26.87.38.710.214.117.121.3

X31089410810099991019793102

X4637286100107111114116119121

表中列出了被解釋變量y及解釋變量X1、X：、X3、x4的時間序列觀測值。

(1)用OLS估計線性回歸模型，并采用適當?shù)姆椒z驗多重共線形；

(2)用逐步回歸法確定一個較好的回歸模型。

六實驗步驟：

6.1建立工作文件并錄入數(shù)據(jù)，如圖1所示

□GroupcGROUPOlWoMe:P245\Urt?edOEquation:E201Workfile:P245\UntitJedg||一0

Mew|Rroc|Otyct|joefnitSort|>aMpcae|/?|hOd|[佻w|Proc|8xc|Pnnt|Name|Ffeeze|Esttmate|Forecast]Stats|Reads]

obsYX1X2X3|MlDependentVariaMe.Y

obsYX1X2X3X4?MethodLeastSquares

20016000000401000055(X00010800006300000Date10/3V11Time13:33

Sample20012010

20026000000403000047(X00004000007200000

Includedobsevations:10

20036500000475000052(X00010800008600000

20047100000492000068(X00010000001000000EVanabteCoefficientStdErrorPrcb

20057200000523000073(X00099000001070000

20067.60000058.0000087(X0009900000111.00003.9144511952440200490201013

200780000006130000102(0001010000114.000000602630048378124567102581

2008900000062S0000141(00097000001160000-00890900037168239697800619

-0.0125980018171-0.69330905190

200990000006470000171C00093OOOOO1190000

00074060017612042M9806916

201093000006680000213(00010200001210000

R-squared0979655Meandependentvar7.570000

AdjustedRsqjared0963379SDdependentvar1233829

SEofregression0236114Akaikeinfocntenon0257B51

Sumsquaredre$?d0278750Schwarzcntenon0409144

Loglikelihood3710743F-statistic6018950

▼Durtxn-Watsonstat2213879Prob(F-statistic)0000204

4_____?.=I

圖：圖2

6.2用OLS估計模型

設(shè)定多元線性回歸模型為：

Y=0。+仇X/0m2+03*3+0占4

用普通最小二乘法進行估計，點擊主界面菜單Quick\EstimateEquation,

在彈出的對話框中輸入：YCXIX2X3X4,點擊確定即可得到回歸結(jié)果，如圖

2所示。

根據(jù)圖2中的數(shù)據(jù)，可得到模型的估計結(jié)果為：

1

y=3.914451+0.060263X,+0.089090X2-0.012598X,+0.007406X4

(2.005)(1.246)(2.397)(-0.693)(0.420)

—2

R2=0.979655R=0.963379DW.=2.213879

F=60.18950RSS=0.278750

其中，括號內(nèi)的數(shù)為相應(yīng)的t檢驗值。從以上回歸結(jié)果可以看出，擬合優(yōu)度

很高，整體效果的F檢驗通過。但很明顯，在5%的顯著性水平下，模型中的各

參數(shù)均不通過檢驗，在10%的顯著性水平下，也只有X2的系數(shù)通過檢驗。故認

為解析變量之間存在多重共線性c

6.3多重共線性模型的識別

6.3.1綜合判斷法

由模型的估計結(jié)果可以看出，R2=0.979655,R=0.963379,可決系數(shù)很

高，說明模型對樣本的擬合很好；產(chǎn)=60.18950檢驗值比較大，相應(yīng)的

P=0.(XX)2()4,說明回歸方程顯著，即各自變量聯(lián)合起來確實對因變量Y有顯著

影響；給定顯著性水平a=0.05,但變量XI、X2、X3、X4系數(shù)的t統(tǒng)計量分別

為1.246、2.397、-0.693>0.420,相應(yīng)的p值分別為0.2681、0.0619、0.5190、

0.6916,說明變量均對因變量影響不顯著。綜合上述分析，表明模型存在非常嚴

重的多重共線性。

6.3.2簡單相關(guān)系數(shù)檢驗法

計算解析變量XI、X2、X3、X4的簡單相關(guān)系數(shù)矩陣。

選中XI、X2、X3、X4,產(chǎn)生一個組，然后點擊View\Correlation\Common

Sample,即可得出相關(guān)系數(shù)矩陣，如圖3所示。再點擊頂部的Freeze按鈕，可

以得到一個Table類型獨立的Object,如圖4所示。

0Group：GROUP02Workfile：P245\UntWed口TableJABLHlWorkfileM45曲曲d旦,旦‘幽

1MMm帆t|卜出|San闋靦卜酬犧1喇AQC曲Kt|Pm帆昵Edt+HCe『:|InsX|Grid刑life：Camts+2

CorrelationMatrixCorrelationMatnx

X1X2X3ABCDE

XI10003000.87936313388760.956248A1X1X2X3X4

X20.8793631.WOOOO43M70507607642

X11.0000000.879363-0.3388760.956213

X3?0,338876Q3047051.000000-0.4135413

4X20.8793631.000000-0.30470507607H

X40.9562480760764-U13541I.OOODOO

5X3-0,338876-0.3347051.000000-0.413511

6M0.9562480.7607644413M11.0000M

▼1▼

—(m8一0

圖3圖4

由圖3相關(guān)系數(shù)矩陣可以看出，各解析變量之間的相關(guān)系數(shù)較高，特別是

XI和X4之間的高度相關(guān)，證實解析變量之間存在多重共線性。

根據(jù)綜合判別法與簡單相關(guān)系數(shù)法分析的結(jié)果可以知道，本案例的回歸變量

間確實存在多重共線性，注意，多重共線性是一個程度問題而不是存在與否的問

題。下面我們將采用逐步回歸法來減少共線性的嚴重程度而不是徹底地消除它。

6.4多重共線性模型的修正

關(guān)于多重共線性的修正方法一般rr變量變換法、先驗信息法、逐步回歸法等,

2

這里僅僅采用逐步回歸法來減少共線性的嚴重程度。

Stepl：運用OLS方法分別求Y對各解析變量XI、X2、X3、X4進行一元回歸。

四個方程的回歸結(jié)果詳見圖5——圖8,再結(jié)合統(tǒng)計檢驗選出擬合效果好的一元

線性回歸方程。

OEquation:EQ02^orfcfJIe:P245\UnthledoJ[Q|k3?|nEquation:EQO3Workfile:P245\Untitled

Wevk|Proc|ObjectjPrintName]Freeze]Estmate)Faecast)Stats|Resds|^ew]Rx)c]ot^ect|Pmt]Name|Freeze]Esgte]ForecMt]Stats]

DependentVanaWeYDependentVanaWeY

MethodLeastSquaresMethodLeastSquares

Date10/31/11Time1336Date10/31/11Time1336

Sample20012010Sample20012010

Includedobservations10Includedobservations:10

VariableCoefficientStdErrort-StatisticProbVanabhCoefficientStdError(StatisticPiob

C09423070572960164463001387C5.4974550307504178776803000

X10122124001040S117367200000X2020540600269337.62651503001

R-squared0945112Meandependentvar7570000R-squared0879088Meandependentvar7.57JOOO

AdjustedR-squared0938251SDdependentvar1233829AdjustedR-squared0863974SDdependentvar1233829

S.Eofregression030S599Akaikeinfocntenon0650305S.E.ofregression0455057Akaikeinfocriterion1.44J070

Sumsquaredresid0.752024Schwarzcntenon0.710822Sumsquaredie$id1656618Schwarzcriterion1.50)587

Loglikelihood-1.251524F-statistic137.7507Loglikelihood-5200350F-stabstic58.15373

Durbin-Watsonstat1683709Prot(F-statistic)0.000003Dufbin-Watsorstat0612996Prob(F-statisiic)0.00)062

圖5圖6

OEquation:EQO5Workftle:P24S\Untitled-oJ?

OEquation:EQO4Morkfile:P245\Unthlsd'o||日

v>cw]Proc[U5)ect]PrmNa(ne|breeze]tsttnate]Stats|Prtn|Name|「recze]匚stimote|「orecoot]3tats]Roda]

DependentVanableYDependentVanaWeY

MethodLeastSquaresMethodLeastSquares

Date10/31/11Time1336Date10/31/11Time1336

Sample.20012010Sample20012010

Includedobservations.10Includedobsewations10

VariableCoefficientStdError(-StatisticProbVariableCoefficientStdErrort-StatisticProb

C1709021795658721398M00648C2.0178070898099224675200548

X3-009510700T9695?119338602669X400550270008741629543200002

R-squared0.151119Meandependentvar7.570000R-squared0832047Meandependentvar7570000

AdjustedR-squared0.045009S.Ddependentvar1.233829AdjustedR-sqjared0811053SDdependentvar1.233829

S.Eofregression1205743Akakeinfocrrterion3388925SEoffegression0.536321Akaikeinfocriterion1.768688

Sumsquaredresid11.63052Schwarzcritenon3449442Sumsquaredfesid2301120Schwarzcriterion1.829205

Loglikelihood-1494462F-statist>c1.424170Loglikelihood-6843439F-slalistic3963246

Durbin-Watsonstat0G47123Pfot(F.$tatist?c)0266905Durbin-Watsonstat0.596061Prob(F-statistic)0.000234

圖7圖8

通過一元回歸結(jié)果圖5一—圖8進行對比分析，依據(jù)調(diào)整可決系數(shù)E最大原

則，選擇XI作為進入回歸模型的第一個解析變量，形成一元回歸模型。

Step2：逐步回歸。將剩余解析變量分別加入模型，得到分別如圖9——圖11

所示的二元回歸結(jié)果。

OEquation:EQ06Workfile:P245\UntitledOEquation:EQO7Workfile:P245\Untrtled

Proc|Object]Print|Name|Freeze|Estimate|ForecastStats|1^ew]Proc]Objeci|PmEstxnate|Forecast]Stats|Red

DependentVariableYDependentVanableY

MethodLeastSquaresMethodLeastSquares

Date10/31/11Time1337Date10/31/11Time13:37

Sample20012010Sample.20012010

Includedobservations10Includedobservations.10

VariableCoefficientStdErrort-StatisticProbVanableCoefficientStdErrort-StatisticProb

c23228970626102371009200076c273761825000321.09503303097

X100818260015677521955300012X101192730011387104740200000

X20.0799190027340292318200222X3-00163890022178073898504840

R-squared0975284Meandependentvar7570000R-squared0949084Meandependentvar7570000

AdjustedR-squared0968222SDdependentvar1233829AdjustedR-squared0934536SDdependentvar1233829

SEofregression0219948Akaikeinfocntenon0052476SEofregression0315685Akaikeinfocritenon0775184

Sumsquaredresid0338641Schwarzcntenon0.143252Sumsquaredresid0697601Schwarzcriterion0866960

Loglikelihood2.737618F-slatistic1381058Loglikelihood-0875922F-statistic6521056

Durbin-Watsonstat2264141Prot<F-statistic)0000002Durbin-Watsonstat1556749Prob(F-statistic)0000030

圖9圖10

3

r

OEquation:EQO8Workfile:P245\Untitled

Proc]Object]Pmt]Name]Freeze]EstmateSUts]]

DependentVanableY

MethodLeastSquares

Date10/31/11Time13.37

Sample20012010

Includedobservations10

VariabieCoefficientStdErrort-StatisticProb

C08540730605660141015202013

X101466400036767398837400053

X4-00123120017656-069730005081

R-squared0948677Meandependent*/ar7.570000

AdjustedR-squared0934013S.Ddependent*ar1233829

SEoffo9roeeion0.316916Akoikoinfocritonon0783160

Sumsquaredresid0703180Schwarzcriterion0873926

Loglikelihood■0915750F-statisticM69517

Durbin-Watsonstat2066453Prob(F-statistic)0000031

圖11

通過觀察比較圖9——圖11所示結(jié)果，并根據(jù)逐步回歸的思想，我們可以

看到，新加入變量X2的二元回歸方程H=0.968222最大，并且各參數(shù)的檢驗顯

著，因此，保留變量X2.

Step3：在保留變量XI、X2的基礎(chǔ)上,繼續(xù)進行逐步回歸，分別得到圖12

圖13所示的回歸結(jié)果。

□Equation:EQ09Workfile:P245\UntitedJEquation:cQlOWorktile：P24八Untitled|o||"J

Print]Name]Freeze|ForecastlSt詞伙w]Proc]8)ecl]Rnnt]Name]Freeze]Estmate]Forest]Resid%]

DependentVariableYDependentVaiableY

MethodLeastSquaresMethodLeastSquares

Date10/31/11Time1341Date10/31/11Time1341

Sample20012010Sample20012010

Includedobservations10Includedobsewations10

VariableCoefficientStcErrort-StatisticProbVanabhCoefficientStdErrort-StatisticProb

40372851793154225150000653C2686345078480334229530C141

007930200158275.01057800024X100491400M362011265440*030

0079503002726529159510.0268X20095819003429127943270(314