第五章多重共線性

計(jì)量經(jīng)濟(jì)學(xué)

—理論·方法·EViews應(yīng)用

郭存芝杜延軍李春吉編著電子教案

第五章多重共線性◆學(xué)習(xí)目的了解多重共線性的概念，掌握在建立計(jì)量經(jīng)濟(jì)學(xué)模型時(shí)如何避免發(fā)生多重共線性，以及在存在多重共線性情況下，如何正確建立計(jì)量經(jīng)濟(jì)學(xué)模型?！艋疽?)了解多重共線性的概念及多重共線性產(chǎn)生的原因;2)存在多重共線性對(duì)計(jì)量經(jīng)濟(jì)學(xué)模型的危害;3)掌握多重共線性的檢驗(yàn)方法以及修正多重共線性的方法;4)學(xué)會(huì)利用EViews軟件進(jìn)行逐步回歸分析，建立正確的計(jì)量經(jīng)濟(jì)學(xué)模型?！舳嘀毓簿€性及其產(chǎn)生原因◆多重共線性的影響◆多重共線性的檢驗(yàn)第五章多重共線性◆多重共線性的修正◆案例分析第一節(jié)多重共線性及其產(chǎn)生原因—、多重共線性的概念指模型解釋變量之間存在完全線性或近似線性相關(guān)的一類問題。對(duì)模型(5-1)如果存在不全為零的，使得(5-2)成立，則稱解釋變量之間存在完全共線性（perfectmulticollinearity）；第一節(jié)多重共線性及其產(chǎn)生原因—、多重共線性的概念指模型解釋變量之間存在完全線性或近似線性相關(guān)的一類問題。對(duì)模型(5-1)成立，則稱解釋變量之間存在近似共線性（approximatemulticollinearity）。如果存在不全為零的，使得(5-3)在矩陣表示的線性回歸模型完全共線性指矩陣X的秩即近似共線性意味著c)情況是不完全相關(guān)即解釋變量之間的相關(guān)系數(shù)介于0和1之間。

需要強(qiáng)調(diào)，解釋變量之間不存在線性關(guān)系，并非不存在非線性關(guān)系，當(dāng)解釋變量之間存在非線性關(guān)系時(shí)，并不違反無多重共線性假定。一般來說，解釋變量之間的關(guān)系可概括為三種情況：a)情況是完全相關(guān)，即解釋變量之間的相關(guān)系數(shù)為1；b)情況是完全不相關(guān)，即解釋變量之間的相關(guān)系數(shù)為0；在建立計(jì)量經(jīng)濟(jì)學(xué)模型中，大量的問題是屬于第三種情況。二、產(chǎn)生多重共線性的主要原因1．經(jīng)濟(jì)變量之間的內(nèi)在聯(lián)系，是產(chǎn)生多重共線性的根本原因。2．經(jīng)濟(jì)變量在時(shí)間上有同方向變動(dòng)的趨勢(shì)，這也是造成多重共線性的重要原因。3．模型中滯后變量的引入，也是造成解釋變量多重共線的原因之一。4．在模型參數(shù)的估計(jì)過程中，樣本之間的相關(guān)是不可避免的，這是造成多重共線性的客觀原因。第二節(jié)多重共線性的影響對(duì)存在多重共線性的模型直接用普通最小二乘法估計(jì)參數(shù)，就會(huì)給模型帶來嚴(yán)重的不良后果。１．如果解釋變量存在完全共線性，則模型的參數(shù)無法估計(jì)；2．如果解釋變量之間存在近似共線性，則參數(shù)OLS估計(jì)量的方差隨著多重共線程度的提高而增加；3．變量的顯著性檢驗(yàn)和模型的預(yù)測(cè)功能失去意義；4．參數(shù)估計(jì)量經(jīng)濟(jì)意義不合理。１．如果解釋變量存在完全共線性，則模型的參數(shù)無法估計(jì)；多元回歸模型（5-4）的OLS估計(jì)量為（5-5）如果出現(xiàn)完全共線性，則不存在，無法得到參數(shù)的估計(jì)量。2．如果解釋變量之間存在近似共線性，則參數(shù)OLS估計(jì)量的方差隨著多重共線程度的提高而增加；在近似共線性下，雖然可以由式（5-5）得到參數(shù)OLS估計(jì)量，但由于此時(shí)，引起主對(duì)角線元素較大，且隨著逼近于0而增大。這就使得參數(shù)估計(jì)量的方差增大，從而不能對(duì)總體參數(shù)做出準(zhǔn)確推斷。以二元回歸模型為例，

的方差為（5-6）其中是X1與X2線性相關(guān)系數(shù)的平方，≤1。例：當(dāng)完全共線性時(shí)，可以看出，越大，越大，多重共線性使得參數(shù)估計(jì)量為方差膨脹因子。其增大趨勢(shì)如下表所示。方差增大，稱當(dāng)X1與X2線性無關(guān)時(shí)，當(dāng)X1與X2近似共線時(shí)，0＜r＜1,Var(1)=＞3．變量的顯著性檢驗(yàn)和模型的預(yù)測(cè)功能失去意義；存在多重共線性的模型，其參數(shù)估計(jì)量方差的變大，使得計(jì)算的t統(tǒng)計(jì)量變小，從而檢驗(yàn)接受原假設(shè)影響很大的重要因素誤判為不顯著，結(jié)果使模型失去可靠性。其次，由于參數(shù)估計(jì)量的方差變大，因而對(duì)樣本值的反映十分敏感，即當(dāng)樣本觀測(cè)值稍有變化時(shí)，模型參數(shù)就有很大差異，致使模型難以應(yīng)用。另外，由于參數(shù)估計(jì)量的方差增大，使模型的精度大大下降，求出的預(yù)測(cè)值難以置信。的可能性增大，這樣會(huì)使本來4．參數(shù)估計(jì)量經(jīng)濟(jì)意義不合理。如果模型中兩個(gè)解釋變量X1和X2具有線性相關(guān)性，那么它們中的一個(gè)變量就可以由另一個(gè)變量表征。這時(shí)X1和X2的參數(shù)并不反映各自與被解釋變量之間的結(jié)構(gòu)關(guān)系，而是反映它們對(duì)被解釋變量的共同影響，所以各自的參數(shù)已失去了應(yīng)有的經(jīng)濟(jì)意義，于是經(jīng)常表現(xiàn)出似乎反常的現(xiàn)象，例如估計(jì)結(jié)果本來應(yīng)該是正的，結(jié)果卻是負(fù)的。經(jīng)驗(yàn)告訴我們，在多元線性回歸模型的估計(jì)中，如果出現(xiàn)參數(shù)估計(jì)值的經(jīng)濟(jì)意義明顯不合理的情況，應(yīng)該首先懷疑是否存在多重共線性。嚴(yán)重的多重共線性常常會(huì)導(dǎo)致下列情形出現(xiàn)：使得用普通最小二乘法得到的回歸參數(shù)估計(jì)值很不穩(wěn)定，回歸系數(shù)的方差隨著多重共線性強(qiáng)度的增加而加速增長(zhǎng)，對(duì)參數(shù)難以做出精確的估計(jì)；造成回歸方程高度顯著的情況下，有些回歸系數(shù)通不過顯著性檢驗(yàn)；甚至可能出現(xiàn)回歸系數(shù)的正負(fù)號(hào)得不到合理的經(jīng)濟(jì)解釋。但是應(yīng)注意，如果研究的目的僅在于預(yù)測(cè)被解釋變量Y，而各個(gè)解釋變量X之間的多重共線性關(guān)系的性質(zhì)在未來將繼續(xù)保持，這時(shí)雖然無法精確估計(jì)個(gè)別的回歸系數(shù)，但可估計(jì)這些系數(shù)的某些線性組合，因此多重共線性可能并不是嚴(yán)重問題。綜上所述第三節(jié)多重共線性的檢驗(yàn)1）檢驗(yàn)多重共線性是否存在；多重共線性檢驗(yàn)的任務(wù)是：2）估計(jì)多重共線性的范圍，即判斷哪些變量之間存在共線性。一、檢驗(yàn)多重共線性是否存在1．簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法利用解釋變量之間的線性相關(guān)程度去判斷是否存在嚴(yán)重多重共線性的一種簡(jiǎn)便方法。一般而言，如果每?jī)蓚€(gè)解釋變量的簡(jiǎn)單相關(guān)系數(shù)比較高，如大于0.8，則可認(rèn)為存在著較嚴(yán)重的多重共線性。解釋變量的相關(guān)矩陣中，解釋變量之間的相關(guān)系數(shù)較大時(shí)，可能會(huì)存在多重共線性問題。較高的簡(jiǎn)單相關(guān)系數(shù)只是多重共線性存在的充分條件，而不是必要條件。特別是在多于兩個(gè)解釋變量的回歸模型中，有時(shí)較低的簡(jiǎn)單相關(guān)系數(shù)也可能存在多重共線性。因此并不能簡(jiǎn)單地依據(jù)相關(guān)系數(shù)進(jìn)行多重共線性的準(zhǔn)確判斷。注意一、檢驗(yàn)多重共線性是否存在2．直觀判斷法根據(jù)經(jīng)驗(yàn)，通常以下情況的出現(xiàn)可能提示存在多重共線性的影響：(2)從定性分析認(rèn)為，一些重要的解釋變量的回歸系數(shù)的標(biāo)準(zhǔn)誤差較大，在回歸方程中沒有通過顯著性檢驗(yàn)時(shí)，可初步判斷可能存在嚴(yán)重的多重共線性。(1)當(dāng)增加或刪除一個(gè)解釋變量，或者改變一個(gè)觀測(cè)值時(shí)，回歸參數(shù)的估計(jì)值發(fā)生較大變化，回歸方程可能存在嚴(yán)重的多重共線性。(3)有些解釋變量的回歸系數(shù)所帶正負(fù)號(hào)與定性分析結(jié)果違背時(shí)，很可能存在多重共線性。一、檢驗(yàn)多重共線性是否存在3．行列式檢驗(yàn)法由于回歸模型參數(shù)估計(jì)量的方差協(xié)方差矩陣為而所以這說明（1）當(dāng)較大時(shí)，較小，說明參數(shù)估計(jì)的精度較高，因而多重共線性不嚴(yán)重(2)當(dāng)較小時(shí)，較大，則說明參數(shù)估計(jì)的誤差較大，因此表明模型的多重共線性嚴(yán)重。（3）當(dāng)時(shí)，，這說明模型解釋變量之間完全相關(guān)，因此多重共線性最為嚴(yán)重，即為完全多重共線性。這種方法雖簡(jiǎn)便易行，但由于無法找到值大小的標(biāo)準(zhǔn)，這樣就使檢驗(yàn)精度受到影響。因此，這種方法常被用來檢驗(yàn)和比較兩個(gè)或兩個(gè)以上含有相同個(gè)數(shù)解釋變量模型的多重共線性問題，為選擇建模的樣本觀測(cè)值提供信息。一、檢驗(yàn)多重共線性是否存在4．綜合統(tǒng)計(jì)檢驗(yàn)法R2與F值較大，但各參數(shù)估計(jì)量的t檢驗(yàn)值較小，說明各解釋變量對(duì)Y的聯(lián)合線性作用顯著，但各解釋變量間存在共線性而使得它們對(duì)Y的獨(dú)立作用不能分辨，故t檢驗(yàn)不顯著。對(duì)于多個(gè)解釋變量（2個(gè)以上）的回歸模型若在OLS法下：二、估計(jì)多重共線性的范圍1．決定系數(shù)檢驗(yàn)法

2．方差膨脹(擴(kuò)大)因子法3．逐步回歸法1．決定系數(shù)檢驗(yàn)法例:設(shè)多元回歸模型的解釋變量為X1、X2、…、Xk，為分析研究它們之間的相關(guān)關(guān)系，需將每個(gè)解釋變量與其他解釋變量進(jìn)行回歸，可得出k個(gè)回歸方程式并計(jì)算相應(yīng)的擬合優(yōu)度，即判定系數(shù)。如果某一回歸方程的判定系數(shù)較大(接近于1)，說明Xj與其他解釋變量X間存在多重共線性。如果求出的判定系數(shù)都比較小，沒有一個(gè)是接近于1的，則可認(rèn)為模型的解釋變量之間不存在嚴(yán)重的多重共線問題。析:可進(jìn)一步對(duì)上述出現(xiàn)較大判定系數(shù)的回歸方程作F檢驗(yàn)：（5-7）

若存在較強(qiáng)的共線性，則較大且接近于1，這時(shí)較小，從而的值較大。因此，可以給定顯著性水平，通過計(jì)算的值，并與相應(yīng)的臨界與其他解釋變量X間不，拒絕，即認(rèn)為Xj與其他解釋，即認(rèn)為Xj與其他解釋變量X間不值比較來進(jìn)行檢驗(yàn)，判定是否存在相關(guān)性。此時(shí)存在顯著的共線性。如果變量X間存在多重共線性，否則，接受存在多重共線性。1．判定系數(shù)檢驗(yàn)法例:設(shè)多元回歸模型的解釋變量為X1、X2、…、Xk，為分析研究它們之間的相關(guān)關(guān)系，需將每個(gè)解釋變量與其他解釋變量進(jìn)行回歸，可得出k個(gè)回歸方程式并計(jì)算相應(yīng)的擬合優(yōu)度，即判定系數(shù)。另一等價(jià)的檢驗(yàn)是:在模型中排除某一個(gè)解釋變量Xj，估計(jì)模型，如果擬合優(yōu)度與包含Xj時(shí)十分接近，則說明Xj與其它解釋變量之間存在共線性。

2．方差膨脹(擴(kuò)大)因子法

對(duì)于多元線性回歸模型來說，如果分別以每個(gè)解釋變量為被解釋變量，做對(duì)其他解釋變量的回歸，這稱為輔助回歸。Var()=以Xj為被解釋變量做對(duì)其他解釋變量輔助線性回歸的可決系數(shù)，用RjJ的方差可表示，則可以證明(證明過程從略)，解釋變量Xj參數(shù)估計(jì)量表示為其中，VIFj是變量Xj的方差膨脹因子，即由于Rj度量了Xj與其他解釋變量的線性相關(guān)程度，這種相關(guān)程度越強(qiáng)，說明變量間多重共線性越嚴(yán)重，VIFj也就越大。反之，Xj與其他解釋變量的線性相關(guān)程度越弱，說明變量間的多重共線性越弱，VIFj也就越接近于1。由此可見，VIFj的大小反映了解釋變量之間是否存在多重共線性，可用它來度量多重共線性的嚴(yán)重程度。經(jīng)驗(yàn)表明，VIFj≥10時(shí)，說明解釋變量Xj與其余解釋變量之間有嚴(yán)重的多重共線性，且這種多重共線性可能會(huì)過度地影響最小二乘估計(jì)。3．逐步回歸法

以Ｙ為被解釋變量，逐個(gè)引入解釋變量，構(gòu)成回歸模型，進(jìn)行模型估計(jì)。根據(jù)擬合優(yōu)度的變化決定新引入的變量是否可以用其他變量的線性組合代替，而不是作為獨(dú)立的解釋變量。

如果擬合優(yōu)度變化顯著，則說明新引入的變量是一個(gè)獨(dú)立的解釋變量；如果擬合優(yōu)度變化很不顯著，則說明新引入的變量不是一個(gè)獨(dú)立的解釋變量，它可以用其他變量的線性組合代替，也就是說它與其他變量之間存在多重共線性。第四節(jié)多重共線性的修正常用的幾種修正方法：一、省略變量法二、利用已知信息克服多重共線性三、通過變換模型形式克服多重共線性四、用增加樣本容量來克服多重共線性五、逐步回歸法一、省略變量法找出引起多重共線性的解釋變量，將其省略掉——最為有效的修正多重共線問題的方法。

當(dāng)省略了某個(gè)或某些變量后，保留在模型中的變量的系數(shù)的估計(jì)值及其經(jīng)濟(jì)意義均將發(fā)生變化。這種方法雖然簡(jiǎn)單，但是當(dāng)解釋變量較多時(shí)，往往很難選準(zhǔn)在模型中比較次要的解釋變量以便省略。因此，在用這種方法克服多重共線問題時(shí)，又可能會(huì)犯遺漏重要解釋變量的錯(cuò)誤，以致使模型出現(xiàn)新的問題。所以，在從模型中去掉某一解釋變量時(shí)，一定要全面考慮、慎重從事，避免顧此失彼。定義:注意:缺點(diǎn):二、利用已知信息克服多重共線性已知信息——就是指在建模之前根據(jù)經(jīng)濟(jì)理論、統(tǒng)計(jì)資料或經(jīng)驗(yàn)分析，已知的解釋變量之間存在的某種關(guān)系。例:為了克服多重共線性，可將解釋變量按已知關(guān)系加以合并。設(shè)消費(fèi)函數(shù)(5-8)其中，Y為消費(fèi)支出，X1為消費(fèi)者的年平均收入，X2為消費(fèi)者的年平均儲(chǔ)蓄額。

顯然，X1和X2都是消費(fèi)者可以支配的個(gè)人收入，因而高度相關(guān)，這樣(5-8)式必然會(huì)有多重共線性。為于克服這一問題，可以通過省略一個(gè)解釋變量的辦法來解決，但是X1和X2對(duì)Y的影響及貢獻(xiàn)很難分清，以致無法確定對(duì)解釋變量的取舍。在這種情況下，經(jīng)過對(duì)解釋變量的進(jìn)一步分析研究，發(fā)現(xiàn)消費(fèi)者的收入和儲(chǔ)蓄呈3:2的關(guān)系，即二、利用已知信息克服多重共線性這樣，把(5-9)式代入(5-8)式，就可將二元線性回歸模型轉(zhuǎn)換成一元線性回歸模型，即

(5-10)

這時(shí)，用普遍最小二乘法對(duì)(5-10)式進(jìn)行參數(shù)估計(jì)，求出

和

，再將

代入(5-9)式求出

，就可得到克服了多重共線性問題的消費(fèi)函數(shù)，即

(5-11)

(5-9)三、通過變換模型形式克服多重共線性不需要分析每個(gè)解釋變量對(duì)被解釋變量影響大小的模型：例:設(shè)需求函數(shù)(5-12)其中Y為需求量，X1為居民收入，X2為商品價(jià)格，X3為代用品價(jià)格。以時(shí)間序列數(shù)據(jù)為樣本的模型：

把模型變?yōu)橐浑A差分形式三、通過變換模型形式克服多重共線性(5-14)

一般可以有效地消除存在于原模型中的多重共線性。這是由經(jīng)濟(jì)時(shí)間序列數(shù)據(jù)的內(nèi)在性質(zhì)決定的。一般講，增量間的線性關(guān)系遠(yuǎn)比總量之間的線性關(guān)系弱一些。

以一階差分的形式（5-14）來進(jìn)行參數(shù)估計(jì)，可以克服解釋變量多重共線性問題。但是，如果原模型的隨機(jī)擾動(dòng)項(xiàng)是同方差的，則經(jīng)一階差分變換后的模型其隨機(jī)擾動(dòng)項(xiàng)可能出現(xiàn)異方差問題。因此，在把原模型變換為差分形式時(shí)，要注意防止新模型的異方差性，這是用一階差分形式來克服多重共線性的不足之處。四、用增加樣本容量來克服多重共線性樣本容量越大，出現(xiàn)多重共線性的可能性越小。另外，多重共線性的主要問題在于使參數(shù)估計(jì)量的方差變大，隨機(jī)干擾項(xiàng)的方差、變量的變異程度與方差膨脹因子一起決定著參數(shù)估計(jì)量的方差。如果存在多重共線性，但隨機(jī)干擾項(xiàng)的方差很小，或變量的變異程度很大都可能得到較小的參數(shù)估計(jì)量的方差。這時(shí)，即使有較嚴(yán)重的多重共線性，也不會(huì)帶來不良后果。因此，只要回歸方程估計(jì)的參數(shù)標(biāo)準(zhǔn)差較小，t統(tǒng)計(jì)值較大，就沒有必要過于關(guān)心是否存在多重共線性的問題。五、逐步回歸法具體步驟

1）先用被解釋變量對(duì)每一個(gè)所考慮的解釋變量做簡(jiǎn)單回歸；2）以對(duì)被解釋變量貢獻(xiàn)最大的解釋變量所對(duì)應(yīng)的回歸方程為基礎(chǔ)；3）逐個(gè)引入其余的解釋變量。好處將統(tǒng)計(jì)上不顯著的解釋變量剔除，最后保留在模型中的解釋變量之間多重共線性不明顯，而且對(duì)被解釋變量有較好的解釋貢獻(xiàn)。第五節(jié)案例分析考慮糧食需求函數(shù)（1）應(yīng)用EView