計(jì)量經(jīng)濟(jì)學(xué)實(shí)驗(yàn)六-李子奈

實(shí)驗(yàn)六多元線性回歸和多重共線性

—實(shí)驗(yàn)?zāi)康模赫莆斩嘣€性回歸模型的估計(jì)方法、掌握多重共線性模型的識(shí)

別和修正。

二實(shí)驗(yàn)要求：應(yīng)用指導(dǎo)書P245習(xí)題4T8案例做多元線性回歸模型，并識(shí)別和

修正多重共線性。

三實(shí)驗(yàn)原理：普通最小二乘法、簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法、綜合判斷法、逐步回歸

法。

四預(yù)備知識(shí)：最小二乘估計(jì)的原理、t檢驗(yàn)、F檢驗(yàn)、R?值。

五實(shí)驗(yàn)內(nèi)容：

Y6.06.06.57.17.27.68.09.09.09.3

XI40.140.347.549.252.358.061.362.564.766.8

X25.54.75.26.87.38.710.214.117.121.3

X31089410810099991019793102

X4637286100107111114116119121

表中列出了被解釋變量y及解釋變量X1、X：、X3、x4的時(shí)間序列觀測(cè)值。

(1)用OLS估計(jì)線性回歸模型，并采用適當(dāng)?shù)姆椒z驗(yàn)多重共線形；

(2)用逐步回歸法確定一個(gè)較好的回歸模型。

六實(shí)驗(yàn)步驟：

6.1建立工作文件并錄入數(shù)據(jù)，如圖1所示

□GroupcGROUPOlWoMe:P245\Urt?edOEquation:E201Workfile:P245\UntitJedg||一0

Mew|Rroc|Otyct|joefnitSort|>aMpcae|/?|hOd|[佻w|Proc|8xc|Pnnt|Name|Ffeeze|Esttmate|Forecast]Stats|Reads]

obsYX1X2X3|MlDependentVariaMe.Y

obsYX1X2X3X4?MethodLeastSquares

20016000000401000055(X00010800006300000Date10/3V11Time13:33

Sample20012010

20026000000403000047(X00004000007200000

Includedobsevations:10

20036500000475000052(X00010800008600000

20047100000492000068(X00010000001000000EVanabteCoefficientStdErrorPrcb

20057200000523000073(X00099000001070000

20067.60000058.0000087(X0009900000111.00003.9144511952440200490201013

200780000006130000102(0001010000114.000000602630048378124567102581

2008900000062S0000141(00097000001160000-00890900037168239697800619

-0.0125980018171-0.69330905190

200990000006470000171C00093OOOOO1190000

00074060017612042M9806916

201093000006680000213(00010200001210000

R-squared0979655Meandependentvar7.570000

AdjustedRsqjared0963379SDdependentvar1233829

SEofregression0236114Akaikeinfocntenon0257B51

Sumsquaredre$?d0278750Schwarzcntenon0409144

Loglikelihood3710743F-statistic6018950

▼Durtxn-Watsonstat2213879Prob(F-statistic)0000204

4_____?.=I

圖：圖2

6.2用OLS估計(jì)模型

設(shè)定多元線性回歸模型為：

Y=0。+仇X/0m2+03*3+0占4

用普通最小二乘法進(jìn)行估計(jì)，點(diǎn)擊主界面菜單Quick\EstimateEquation,

在彈出的對(duì)話框中輸入：YCXIX2X3X4,點(diǎn)擊確定即可得到回歸結(jié)果，如圖

2所示。

根據(jù)圖2中的數(shù)據(jù)，可得到模型的估計(jì)結(jié)果為：

1

y=3.914451+0.060263X,+0.089090X2-0.012598X,+0.007406X4

(2.005)(1.246)(2.397)(-0.693)(0.420)

—2

R2=0.979655R=0.963379DW.=2.213879

F=60.18950RSS=0.278750

其中，括號(hào)內(nèi)的數(shù)為相應(yīng)的t檢驗(yàn)值。從以上回歸結(jié)果可以看出，擬合優(yōu)度

很高，整體效果的F檢驗(yàn)通過。但很明顯，在5%的顯著性水平下，模型中的各

參數(shù)均不通過檢驗(yàn)，在10%的顯著性水平下，也只有X2的系數(shù)通過檢驗(yàn)。故認(rèn)

為解析變量之間存在多重共線性c

6.3多重共線性模型的識(shí)別

6.3.1綜合判斷法

由模型的估計(jì)結(jié)果可以看出，R2=0.979655,R=0.963379,可決系數(shù)很

高，說明模型對(duì)樣本的擬合很好；產(chǎn)=60.18950檢驗(yàn)值比較大，相應(yīng)的

P=0.(XX)2()4,說明回歸方程顯著，即各自變量聯(lián)合起來確實(shí)對(duì)因變量Y有顯著

影響；給定顯著性水平a=0.05,但變量XI、X2、X3、X4系數(shù)的t統(tǒng)計(jì)量分別

為1.246、2.397、-0.693>0.420,相應(yīng)的p值分別為0.2681、0.0619、0.5190、

0.6916,說明變量均對(duì)因變量影響不顯著。綜合上述分析，表明模型存在非常嚴(yán)

重的多重共線性。

6.3.2簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法

計(jì)算解析變量XI、X2、X3、X4的簡(jiǎn)單相關(guān)系數(shù)矩陣。

選中XI、X2、X3、X4,產(chǎn)生一個(gè)組，然后點(diǎn)擊View\Correlation\Common

Sample,即可得出相關(guān)系數(shù)矩陣，如圖3所示。再點(diǎn)擊頂部的Freeze按鈕，可

以得到一個(gè)Table類型獨(dú)立的Object,如圖4所示。

0Group：GROUP02Workfile：P245\UntWed口TableJABLHlWorkfileM45曲曲d旦,旦‘幽

1MMm帆t|卜出|San闋靦卜酬?duì)?喇AQC曲Kt|Pm帆昵Edt+HCe『:|InsX|Grid刑life：Camts+2

CorrelationMatrixCorrelationMatnx

X1X2X3ABCDE

XI10003000.87936313388760.956248A1X1X2X3X4

X20.8793631.WOOOO43M70507607642

X11.0000000.879363-0.3388760.956213

X3?0,338876Q3047051.000000-0.4135413

4X20.8793631.000000-0.30470507607H

X40.9562480760764-U13541I.OOODOO

5X3-0,338876-0.3347051.000000-0.413511

6M0.9562480.7607644413M11.0000M

▼1▼

—(m8一0

圖3圖4

由圖3相關(guān)系數(shù)矩陣可以看出，各解析變量之間的相關(guān)系數(shù)較高，特別是

XI和X4之間的高度相關(guān)，證實(shí)解析變量之間存在多重共線性。

根據(jù)綜合判別法與簡(jiǎn)單相關(guān)系數(shù)法分析的結(jié)果可以知道，本案例的回歸變量

間確實(shí)存在多重共線性，注意，多重共線性是一個(gè)程度問題而不是存在與否的問

題。下面我們將采用逐步回歸法來減少共線性的嚴(yán)重程度而不是徹底地消除它。

6.4多重共線性模型的修正

關(guān)于多重共線性的修正方法一般rr變量變換法、先驗(yàn)信息法、逐步回歸法等,

2

這里僅僅采用逐步回歸法來減少共線性的嚴(yán)重程度。

Stepl：運(yùn)用OLS方法分別求Y對(duì)各解析變量XI、X2、X3、X4進(jìn)行一元回歸。

四個(gè)方程的回歸結(jié)果詳見圖5——圖8,再結(jié)合統(tǒng)計(jì)檢驗(yàn)選出擬合效果好的一元

線性回歸方程。

OEquation:EQ02^orfcfJIe:P245\UnthledoJ[Q|k3?|nEquation:EQO3Workfile:P245\Untitled

Wevk|Proc|ObjectjPrintName]Freeze]Estmate)Faecast)Stats|Resds|^ew]Rx)c]ot^ect|Pmt]Name|Freeze]Esgte]ForecMt]Stats]

DependentVanaWeYDependentVanaWeY

MethodLeastSquaresMethodLeastSquares

Date10/31/11Time1336Date10/31/11Time1336

Sample20012010Sample20012010

Includedobservations10Includedobservations:10

VariableCoefficientStdErrort-StatisticProbVanabhCoefficientStdError(StatisticPiob

C09423070572960164463001387C5.4974550307504178776803000

X10122124001040S117367200000X2020540600269337.62651503001

R-squared0945112Meandependentvar7570000R-squared0879088Meandependentvar7.57JOOO

AdjustedR-squared0938251SDdependentvar1233829AdjustedR-squared0863974SDdependentvar1233829

S.Eofregression030S599Akaikeinfocntenon0650305S.E.ofregression0455057Akaikeinfocriterion1.44J070

Sumsquaredresid0.752024Schwarzcntenon0.710822Sumsquaredie$id1656618Schwarzcriterion1.50)587

Loglikelihood-1.251524F-statistic137.7507Loglikelihood-5200350F-stabstic58.15373

Durbin-Watsonstat1683709Prot(F-statistic)0.000003Dufbin-Watsorstat0612996Prob(F-statisiic)0.00)062

圖5圖6

OEquation:EQO5Workftle:P24S\Untitled-oJ?

OEquation:EQO4Morkfile:P245\Unthlsd'o||日

v>cw]Proc[U5)ect]PrmNa(ne|breeze]tsttnate]Stats|Prtn|Name|「recze]匚stimote|「orecoot]3tats]Roda]

DependentVanableYDependentVanaWeY

MethodLeastSquaresMethodLeastSquares

Date10/31/11Time1336Date10/31/11Time1336

Sample.20012010Sample20012010

Includedobservations.10Includedobsewations10

VariableCoefficientStdError(-StatisticProbVariableCoefficientStdErrort-StatisticProb

C1709021795658721398M00648C2.0178070898099224675200548

X3-009510700T9695?119338602669X400550270008741629543200002

R-squared0.151119Meandependentvar7.570000R-squared0832047Meandependentvar7570000

AdjustedR-squared0.045009S.Ddependentvar1.233829AdjustedR-sqjared0811053SDdependentvar1.233829

S.Eofregression1205743Akakeinfocrrterion3388925SEoffegression0.536321Akaikeinfocriterion1.768688

Sumsquaredresid11.63052Schwarzcritenon3449442Sumsquaredfesid2301120Schwarzcriterion1.829205

Loglikelihood-1494462F-statist>c1.424170Loglikelihood-6843439F-slalistic3963246

Durbin-Watsonstat0G47123Pfot(F.$tatist?c)0266905Durbin-Watsonstat0.596061Prob(F-statistic)0.000234

圖7圖8

通過一元回歸結(jié)果圖5一—圖8進(jìn)行對(duì)比分析，依據(jù)調(diào)整可決系數(shù)E最大原

則，選擇XI作為進(jìn)入回歸模型的第一個(gè)解析變量，形成一元回歸模型。

Step2：逐步回歸。將剩余解析變量分別加入模型，得到分別如圖9——圖11

所示的二元回歸結(jié)果。

OEquation:EQ06Workfile:P245\UntitledOEquation:EQO7Workfile:P245\Untrtled

Proc|Object]Print|Name|Freeze|Estimate|ForecastStats|1^ew]Proc]Objeci|PmEstxnate|Forecast]Stats|Red

DependentVariableYDependentVanableY

MethodLeastSquaresMethodLeastSquares

Date10/31/11Time1337Date10/31/11Time13:37

Sample20012010Sample.20012010

Includedobservations10Includedobservations.10

VariableCoefficientStdErrort-StatisticProbVanableCoefficientStdErrort-StatisticProb

c23228970626102371009200076c273761825000321.09503303097

X100818260015677521955300012X101192730011387104740200000

X20.0799190027340292318200222X3-00163890022178073898504840

R-squared0975284Meandependentvar7570000R-squared0949084Meandependentvar7570000

AdjustedR-squared0968222SDdependentvar1233829AdjustedR-squared0934536SDdependentvar1233829

SEofregression0219948Akaikeinfocntenon0052476SEofregression0315685Akaikeinfocritenon0775184

Sumsquaredresid0338641Schwarzcntenon0.143252Sumsquaredresid0697601Schwarzcriterion0866960

Loglikelihood2.737618F-slatistic1381058Loglikelihood-0875922F-statistic6521056

Durbin-Watsonstat2264141Prot<F-statistic)0000002Durbin-Watsonstat1556749Prob(F-statistic)0000030

圖9圖10

3

r

OEquation:EQO8Workfile:P245\Untitled

Proc]Object]Pmt]Name]Freeze]EstmateSUts]]

DependentVanableY

MethodLeastSquares

Date10/31/11Time13.37

Sample20012010

Includedobservations10

VariabieCoefficientStdErrort-StatisticProb

C08540730605660141015202013

X101466400036767398837400053

X4-00123120017656-069730005081

R-squared0948677Meandependent*/ar7.570000

AdjustedR-squared0934013S.Ddependent*ar1233829

SEoffo9roeeion0.316916Akoikoinfocritonon0783160

Sumsquaredresid0703180Schwarzcriterion0873926

Loglikelihood■0915750F-statisticM69517

Durbin-Watsonstat2066453Prob(F-statistic)0000031

圖11

通過觀察比較圖9——圖11所示結(jié)果，并根據(jù)逐步回歸的思想，我們可以

看到，新加入變量X2的二元回歸方程H=0.968222最大，并且各參數(shù)的檢驗(yàn)顯

著，因此，保留變量X2.

Step3：在保留變量XI、X2的基礎(chǔ)上,繼續(xù)進(jìn)行逐步回歸，分別得到圖12

圖13所示的回歸結(jié)果。

□Equation:EQ09Workfile:P245\UntitedJEquation:cQlOWorktile：P24八Untitled|o||"J

Print]Name]Freeze|ForecastlSt詞伙w]Proc]8)ecl]Rnnt]Name]Freeze]Estmate]Forest]Resid%]

DependentVariableYDependentVaiableY

MethodLeastSquaresMethodLeastSquares

Date10/31/11Time1341Date10/31/11Time1341

Sample20012010Sample20012010

Includedobservations10Includedobsewations10

VariableCoefficientStcErrort-StatisticProbVanabhCoefficientStdErrort-StatisticProb

40372851793154225150000653C2686345078480334229530C141

007930200158275.01057800024X100491400M362011265440*030

0079503002726529159510.0268X20095819003429127943270(314