計(jì)量經(jīng)濟(jì)學(xué)多重共線性

1、計(jì)量經(jīng)濟(jì)學(xué)多重共線性第1頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三第五章 多重共線性 學(xué)習(xí)目的 了解多重共線性的概念，掌握在建立計(jì)量經(jīng)濟(jì)學(xué)模型時(shí)如何避免發(fā)生多重共線性，以及在存在多重共線性情況下，如何正確建立計(jì)量經(jīng)濟(jì)學(xué)模型。 基本要求1)了解多重共線性的概念及多重共線性產(chǎn)生的原因;2)存在多重共線性對(duì)計(jì)量經(jīng)濟(jì)學(xué)模型的危害;3)掌握多重共線性的檢驗(yàn)方法以及修正多重共線性的方法;4)學(xué)會(huì)利用EViews軟件進(jìn)行逐步回歸分析，建立正確的計(jì)量經(jīng)濟(jì)學(xué)模型。第2頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三 多重共線性及其產(chǎn)生原因 多重共線性的影響 多重共線性的檢驗(yàn)第五章 多重共線性

2、多重共線性的修正第3頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三第一節(jié) 多重共線性及其產(chǎn)生原因、多重共線性的概念指模型解釋變量之間存在完全線性或近似線性相關(guān)的一類問題。 對(duì)模型 (5-1)如果存在不全為零的，使得(5-2)成立，則稱解釋變量之間存在完全共線性（perfect multicollinearity）； 第4頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三第一節(jié) 多重共線性及其產(chǎn)生原因、多重共線性的概念指模型解釋變量之間存在完全線性或近似線性相關(guān)的一類問題。 對(duì)模型 (5-1)成立，則稱解釋變量之間存在近似共線性（approximate multicollineari

3、ty）。如果存在不全為零的，使得(5-3)第5頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三在矩陣表示的線性回歸模型完全共線性指矩陣 X的秩即近似共線性意味著第6頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三c)情況是不完全相關(guān)即解釋變量之間的相關(guān)系數(shù)介于0和1之間。 需要強(qiáng)調(diào)，解釋變量之間不存在線性關(guān)系，并非不存在非線性關(guān)系，當(dāng)解釋變量之間存在非線性關(guān)系時(shí)，并不違反無多重共線性假定。一般來說，解釋變量之間的關(guān)系可概括為三種情況：a)情況是完全相關(guān)，即解釋變量之間的相關(guān)系數(shù)為1；b)情況是完全不相關(guān)，即解釋變量之間的相關(guān)系數(shù)為0；在建立計(jì)量經(jīng)濟(jì)學(xué)模型中，大量的問題是屬于第三種情

4、況。第7頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三二、產(chǎn)生多重共線性的主要原因 1經(jīng)濟(jì)變量之間的內(nèi)在聯(lián)系，是產(chǎn)生多重共線性的根本原因。 2經(jīng)濟(jì)變量在時(shí)間上有同方向變動(dòng)的趨勢(shì)，這也是造成多重共線 性的重要原因。 3模型中滯后變量的引入，也是造成解釋變量多重共線的原因之一。 4在模型參數(shù)的估計(jì)過程中，樣本之間的相關(guān)是不可避免的，這是 造成多重共線性的客觀原因。 第8頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三第二節(jié) 多重共線性的影響 對(duì)存在多重共線性的模型直接用普通最小二乘法估計(jì)參數(shù)，就會(huì)給模型帶來嚴(yán)重的不良后果。 如果解釋變量存在完全共線性，則模型的參數(shù) 無法估計(jì)； 2如果

5、解釋變量之間存在近似共線性，則參數(shù)OLS估計(jì)量的方差隨 著多重共線程度的提高而增加；3變量的顯著性檢驗(yàn)和模型的預(yù)測(cè)功能失去意義；4參數(shù)估計(jì)量經(jīng)濟(jì)意義不合理。第9頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三 如果解釋變量存在完全共線性，則模型的參數(shù) 無法估計(jì)；多元回歸模型（5-4） 的OLS估計(jì)量為（5-5） 如果出現(xiàn)完全共線性，則不存在，無法得到參數(shù)的估計(jì)量。第10頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三2如果解釋變量之間存在近似共線性，則參數(shù)OLS估計(jì)量的方差隨 著多重共線程度的提高而增加；在近似共線性下，雖然可以由式（5-5）得到參數(shù)OLS估計(jì)量，但 由于此時(shí) ，引

6、起 主對(duì)角線元素較大，且隨著逼近于0而增大。這就使得參數(shù)估計(jì)量的方差增大，從而不能對(duì)總體參數(shù)做出準(zhǔn)確推斷。第11頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三以二元回歸模型為例， 的方差為（5-6）其中是X1與X2線性相關(guān)系數(shù)的平方，1。例：第12頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三當(dāng)完全共線性時(shí)，相關(guān)系數(shù)平方0 0.5 0.8 0.9 0.95 0.96 0.97 0.98 0.99 0.999方差膨脹因子1 2 5 10 20 25 33 50 100 1000可以看出，越大，越大，多重共線性使得參數(shù)估計(jì)量為方差膨脹因子。其增大趨勢(shì)如下表所示。方差增大，稱當(dāng)X1與

7、X2線性無關(guān)時(shí)，當(dāng)X1與X2 近似共線時(shí)，0r1, Var(1)=第13頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三3變量的顯著性檢驗(yàn)和模型的預(yù)測(cè)功能失去意義； 存在多重共線性的模型，其參數(shù)估計(jì)量方差的變大，使得計(jì)算的 t 統(tǒng)計(jì)量變小，從而檢驗(yàn)接受原假設(shè)影響很大的重要因素誤判為不顯著，結(jié)果使模型失去可靠性。其次，由于參數(shù)估計(jì)量的方差變大，因而對(duì)樣本值的反映十分敏感，即當(dāng)樣本觀測(cè)值稍有變化時(shí)，模型參數(shù)就有很大差異，致使模型難以應(yīng)用。另外，由于參數(shù)估計(jì)量的方差增大，使模型的精度大大下降，求出的預(yù)測(cè)值難以置信。的可能性增大，這樣會(huì)使本來第14頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，

8、星期三4參數(shù)估計(jì)量經(jīng)濟(jì)意義不合理。 如果模型中兩個(gè)解釋變量X1和X2具有線性相關(guān)性，那么它們中的一個(gè)變量就可以由另一個(gè)變量表征。這時(shí)X1和X2的參數(shù)并不反映各自與被解釋變量之間的結(jié)構(gòu)關(guān)系，而是反映它們對(duì)被解釋變量的共同影響，所以各自的參數(shù)已失去了應(yīng)有的經(jīng)濟(jì)意義，于是經(jīng)常表現(xiàn)出似乎反常的現(xiàn)象，例如估計(jì)結(jié)果本來應(yīng)該是正的，結(jié)果卻是負(fù)的。經(jīng)驗(yàn)告訴我們，在多元線性回歸模型的估計(jì)中，如果出現(xiàn)參數(shù)估計(jì)值的經(jīng)濟(jì)意義明顯不合理的情況，應(yīng)該首先懷疑是否存在多重共線性。第15頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三 嚴(yán)重的多重共線性常常會(huì)導(dǎo)致下列情形出現(xiàn)：使得用普通最小二乘法得到的回歸參數(shù)估計(jì)值很不

9、穩(wěn)定，回歸系數(shù)的方差隨著多重共線性強(qiáng)度的增加而加速增長(zhǎng)，對(duì)參數(shù)難以做出精確的估計(jì)；造成回歸方程高度顯著的情況下，有些回歸系數(shù)通不過顯著性檢驗(yàn)；甚至可能出現(xiàn)回歸系數(shù)的正負(fù)號(hào)得不到合理的經(jīng)濟(jì)解釋。但是應(yīng)注意，如果研究的目的僅在于預(yù)測(cè)被解釋變量Y，而各個(gè)解釋變量X之間的多重共線性關(guān)系的性質(zhì)在未來將繼續(xù)保持，這時(shí)雖然無法精確估計(jì)個(gè)別的回歸系數(shù)，但可估計(jì)這些系數(shù)的某些線性組合，因此多重共線性可能并不是嚴(yán)重問題。綜上所述第16頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三第三節(jié) 多重共線性的檢驗(yàn)1）檢驗(yàn)多重共線性是否存在；多重共線性檢驗(yàn)的任務(wù)是：2）估計(jì)多重共線性的范圍，即判斷哪些變量之間存在共線

10、性。第17頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三一、 檢驗(yàn)多重共線性是否存在 1簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法 利用解釋變量之間的線性相關(guān)程度去判斷是否存在嚴(yán)重多重共線性的一種簡(jiǎn)便方法。 一般而言，如果每?jī)蓚€(gè)解釋變量的簡(jiǎn)單相關(guān)系數(shù)比較高，如大于0.8，則可認(rèn)為存在著較嚴(yán)重的多重共線性。 較高的簡(jiǎn)單相關(guān)系數(shù)只是多重共線性存在的充分條件，而不是必要條件。特別是在多于兩個(gè)解釋變量的回歸模型中，有時(shí)較低的簡(jiǎn)單相關(guān)系數(shù)也可能存在多重共線性。因此并不能簡(jiǎn)單地依據(jù)相關(guān)系數(shù)進(jìn)行多重共線性的準(zhǔn)確判斷。注意第18頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三一、 檢驗(yàn)多重共線性是否存在 2直觀判斷法

11、根據(jù)經(jīng)驗(yàn)，通常以下情況的出現(xiàn)可能提示存在多重共線性的影響： (2)從定性分析認(rèn)為，一些重要的解釋變量的回歸系數(shù)的標(biāo)準(zhǔn)誤差較大，在 回歸方程中沒有通過顯著性檢驗(yàn)時(shí)，可初步判斷可能存在嚴(yán)重的多重共線性。 (1)當(dāng)增加或刪除一個(gè)解釋變量，或者改變一個(gè)觀測(cè)值時(shí)，回歸參數(shù)的估 計(jì)值發(fā)生較大變化，回歸方程可能存在嚴(yán)重的多重共線性。(4)解釋變量的相關(guān)矩陣中，解釋變量之間的相關(guān)系數(shù)較大時(shí)，可能會(huì)存在 多重共線性問題。(3)有些解釋變量的回歸系數(shù)所帶正負(fù)號(hào)與定性分析結(jié)果違背時(shí)，很可能存 在多重共線性。第19頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三一、 檢驗(yàn)多重共線性是否存在3綜合統(tǒng)計(jì)檢驗(yàn)法 R2

12、與 F 值較大，但各參數(shù)估計(jì)量的 t 檢驗(yàn)值較小，說明各解釋變量對(duì)Y的聯(lián)合線性作用顯著，但各解釋變量間存在共線性而使得它們對(duì)Y的獨(dú)立作用不能分辨，故t檢驗(yàn)不顯著。對(duì)于多個(gè)解釋變量（2個(gè)以上）的回歸模型 若 在OLS法下：第20頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三二、 估計(jì)多重共線性的范圍 1判定系數(shù)檢驗(yàn)法 2行列式檢驗(yàn)法 3方差膨脹(擴(kuò)大)因子法4逐步回歸法第21頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三 1判定系數(shù)檢驗(yàn)法 例: 設(shè)多元回歸模型的解釋變量為 X1、X2、Xk，為分析研究它們之間的相關(guān)關(guān)系，需將每個(gè)解釋變量與其他解釋變量進(jìn)行回歸，可得出k個(gè)回歸方程式

13、并計(jì)算相應(yīng)的擬合優(yōu)度，即判定系數(shù) 。如果某一回歸方程的判定系數(shù)較大(接近于1)，說明Xj與其他解釋變量X間存在多重共線性。如果求出的判定系數(shù)都比較小，沒有一個(gè)是接近于1的，則可認(rèn)為模型的解釋變量之間不存在嚴(yán)重的多重共線問題。析:第22頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三 可進(jìn)一步對(duì)上述出現(xiàn)較大判定系數(shù) 的回歸方程作F檢驗(yàn)：（5-7） 若存在較強(qiáng)的共線性，則 較大且接近于1，這時(shí) 較小，從而 的值較大。因此，可以給定顯著性水平，通過計(jì)算 的值，并與相應(yīng)的臨界 與其他解釋變量X間不 ，拒絕 ，即認(rèn)為Xj與其他解釋， 即認(rèn)為Xj與其他解釋變量X間不 值比較來進(jìn)行檢驗(yàn)，判定是否存在相

14、關(guān)性。此時(shí)存在顯著的共線性。如果 變量X間存在多重共線性，否則，接受存在多重共線性。第23頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三 1判定系數(shù)檢驗(yàn)法 例: 設(shè)多元回歸模型的解釋變量為 X1、X2、Xk，為分析研究它們之間的相關(guān)關(guān)系，需將每個(gè)解釋變量與其他解釋變量進(jìn)行回歸，可得出k個(gè)回歸方程式并計(jì)算相應(yīng)的擬合優(yōu)度，即判定系數(shù) 。另一等價(jià)的檢驗(yàn)是:在模型中排除某一個(gè)解釋變量 Xj ，估計(jì)模型，如果擬合優(yōu)度與包含Xj 時(shí)十分接近，則說明Xj與其它解釋變量之間存在共線性。第24頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三2行列式檢驗(yàn)法由于回歸模型參數(shù)估計(jì)量的方差協(xié)方差矩陣為而所

15、以第25頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三說明： 說明模型的解釋變量之間完全相關(guān)，因而多重共線性最為嚴(yán)重，即存在完全多重共線性。 (1) 當(dāng) 較大時(shí)， 較小說明參數(shù)估計(jì)的精度較高，因而多重共線性不嚴(yán)重。 (3)當(dāng) =0時(shí)，則 (2) 當(dāng) 較小時(shí)， 較大說明參數(shù)估計(jì)的誤差較大，因此表明模型的多重共線性嚴(yán)重。第26頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三 3方差膨脹(擴(kuò)大)因子法 對(duì)于多元線性回歸模型來說，如果分別以每個(gè)解釋變量為被解釋變量，做對(duì)其他解釋變量的回歸，這稱為輔助回歸。 Var()=以Xj為被解釋變量做對(duì)其他解釋變量輔助線性回歸的可決系數(shù)，用RjJ 的

16、方差可 表示，則可以證明(證明過程從略)，解釋變量Xj參數(shù)估計(jì)量表示為其中，VIFj是變量Xj的方差膨脹因子，即第27頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三 由于Rj度量了Xj與其他解釋變量的線性相關(guān)程度，這種相關(guān)程度越強(qiáng)，說明變量間多重共線性越嚴(yán)重，VIFj也就越大。反之，Xj與其他解釋變量的線性相關(guān)程度越弱，說明變量間的多重共線性越弱，VIFj也就越接近于1。由此可見，VIFj的大小反映了解釋變量之間是否存在多重共線性，可用它來度量多重共線性的嚴(yán)重程度。經(jīng)驗(yàn)表明，VIFj10時(shí)，說明解釋變量Xj與其余解釋變量之間有嚴(yán)重的多重共線性，且這種多重共線性可能會(huì)過度地影響最小二乘估

17、計(jì)。第28頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三4逐步回歸法 以為被解釋變量，逐個(gè)引入解釋變量，構(gòu)成回歸模型，進(jìn)行模型估計(jì)。根據(jù)擬合優(yōu)度的變化決定新引入的變量是否可以用其他變量的線性組合代替，而不是作為獨(dú)立的解釋變量。 如果擬合優(yōu)度變化顯著，則說明新引入的變量是一個(gè)獨(dú)立的解釋變量； 如果擬合優(yōu)度變化很不顯著，則說明新引入的變量不是一個(gè)獨(dú)立的解釋變量，它可以用其他變量的線性組合代替，也就是說它與其他變量之間存在多重共線性。第29頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三第四節(jié) 多重共線性的修正常用的幾種修正方法 ：一、省略變量法二、利用已知信息克服多重共線性三、通過變

18、換模型形式克服多重共線性四、用增加樣本容量來克服多重共線性五、逐步回歸法第30頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三一、省略變量法找出引起多重共線性的解釋變量，將其省略掉 最為有效的修正多重共線問題的方法。 當(dāng)省略了某個(gè)或某些變量后，保留在模型中的變量的系數(shù)的估計(jì)值及其經(jīng)濟(jì)意義均將發(fā)生變化。 這種方法雖然簡(jiǎn)單，但是當(dāng)解釋變量較多時(shí)，往往很難選準(zhǔn)在模型中比較次要的解釋變量以便省略。因此，在用這種方法克服多重共線問題時(shí)，又可能會(huì)犯遺漏重要解釋變量的錯(cuò)誤，以致使模型出現(xiàn)新的問題。所以，在從模型中去掉某一解釋變量時(shí)，一定要全面考慮、慎重從事，避免顧此失彼。定義:注意:缺點(diǎn):第31頁(yè)，共35頁(yè)，2022年，5月20日，7點(diǎn)7分，星期三二、利用已知信息克服多重共線性已知信息就是指在建模之前根據(jù)經(jīng)濟(jì)理論、統(tǒng)計(jì)資料或經(jīng)驗(yàn)分析， 已知的解釋變量之間存在的某種關(guān)系。 例:為了克服多重共線性，可將解釋變量按已知關(guān)