多重共線性問的題目地幾種解決方法

1、多重共線性問題的幾種解決方法在多元線性回歸模型經(jīng)典假設(shè)中，其重要假定之一是回歸模型的解釋變量之 間不存在線性關(guān)系，也就是說，解釋變量 Xi, X2,Xk中的任何一個(gè)都不能 是其他解釋變量的線性組合。如果違背這一假定，即線性回歸模型中某一個(gè)解釋 變量與其他解釋變量間存在線性關(guān)系， 就稱線性回歸模型中存在多重共線性。 多 重共線性違背了解釋變量間不相關(guān)的古典假設(shè)， 將給普通最小二乘法帶來嚴(yán)重后 果。這里，我們總結(jié)了 8個(gè)處理多重共線性問題的可用方法，大家在遇到多重共 線性問題時(shí)可作參考：1、保存重要解釋變量，去掉次要或可替代解釋變量2、用相對數(shù)變量替代絕對數(shù)變量3、差分法4、逐步回歸分析5、主成份

2、分析6偏最小二乘回歸7、嶺回歸8、增加樣本容量這次我們主要研究逐步回歸分析方法是如何處理多重共線性問題的逐步回歸分析方法的根本思想是通過相關(guān)系數(shù) r、擬合優(yōu)度R2和標(biāo)準(zhǔn)誤差 三個(gè)方面綜合判斷一系列回歸方程的優(yōu)劣， 從而得到最優(yōu)回歸方程。具體方法分 為兩步：第一步，先將被解釋變量y對每個(gè)解釋變量 u ：作簡單回歸：對每一個(gè)回歸方程進(jìn)展統(tǒng)計(jì)檢驗(yàn)分析相關(guān)系數(shù) r、擬合優(yōu)度R2和標(biāo)準(zhǔn)誤 差，并結(jié)合經(jīng)濟(jì)理論分析選出最優(yōu)回歸方程，也稱為根本回歸方程。第二步，將其他解釋變量逐一引入到根本回歸方程中，建立一系列回歸方 程，根據(jù)每個(gè)新加的解釋變量的標(biāo)準(zhǔn)差和復(fù)相關(guān)系數(shù)來考察其對每個(gè)回歸系數(shù)的 影響，一般根據(jù)如下標(biāo)

3、準(zhǔn)進(jìn)展分類判別：1 .如果新引進(jìn)的解釋變量使 R2得到提高，而其他參數(shù)回歸系數(shù)在統(tǒng)計(jì)上和 經(jīng)濟(jì)理論上仍然合理，如此認(rèn)為這個(gè)新引入的變量對回歸模型是有利的，可以作為解釋變量予以保存。2 .如果新引進(jìn)的解釋變量對 R2改良不明顯，對其他回歸系數(shù)也沒有多大影 響，如此不必保存在回歸模型中。3 .如果新引進(jìn)的解釋變量不僅改變了 R2,而且對其他回歸系數(shù)的數(shù)值或符 號具有明顯影響，如此認(rèn)為該解釋變量為不利變量，引進(jìn)后會使回歸模型出現(xiàn)多 重共線性問題。不利變量未必是多余的，如果它可能對被解釋變量是不可缺少的， 如此不能簡單舍棄，而是應(yīng)研究改善模型的形式，尋找更符合實(shí)際的模型，重新 進(jìn)展估計(jì)。如果通過檢驗(yàn)證

4、明回歸模型存在明顯線性相關(guān)的兩個(gè)解釋變量中的其 中一個(gè)可以被另一個(gè)很好地解釋，如此可略去其中對被解釋變量影響較小的那個(gè) 變量，模型中保存影響較大的那個(gè)變量。下邊我們通過實(shí)例來說明逐步回歸分析方法在解決多重共線性問題上的具 體應(yīng)用過程。具體實(shí)例例1設(shè)某地10年間有關(guān)服裝消費(fèi)、可支配收入、流動(dòng)資產(chǎn)、服裝類物價(jià)指 數(shù)、總物價(jià)指數(shù)的調(diào)查數(shù)據(jù)如表1,請建立需求函數(shù)模型。表1服裝消費(fèi)與相關(guān)變量調(diào)查數(shù)據(jù)年份服裝開支可支配收入流動(dòng)資產(chǎn)服裝類物價(jià)總物價(jià)指數(shù)CYL指數(shù)PcP 0百萬兀百萬兀百萬兀1992 年=1001992 年=1001988929419899396199096971991949719921001

5、00199310110119941051041995112109199611211119971121111設(shè)對服裝的需求函數(shù)為爲(wèi)+昭+加+ G尹+M十也用最小二乘法估計(jì)得估計(jì)模型：C = -13.534 + 0.097Y + 0.015L - 0.199Pc + 0.03J4P0模型的檢驗(yàn)量得分，R2=0.998, D-R2接近1,說明該回歸模型與原始數(shù)據(jù)擬合得很好。由F -岱丄汐"蟲勢"二各得出拒絕零假設(shè)，認(rèn)為服裝支出與解釋變量間存在 顯著關(guān)系。2求各解釋變量的根本相關(guān)系數(shù)% = 0.98S3 如 二 0,9804= 0.9877= 0.9799怙- 0.9693 尸氏比

6、-0.9918上述根本相關(guān)系數(shù)明確解釋變量間高度相關(guān)，也就是存在較嚴(yán)重的多重共線 性。3為檢驗(yàn)多重共線性的影響，作如下簡單回歸:®C =-1.2455 40.1178Y（-2一引 07）護(hù)=05955D-FT = 1<5271 6 = -38.5190+0.5164Pr(12.5353)疋=0.95162.4013 C = 2.1182+0.32691(2.505S )(15.JD96)R2 = 0.9667D w = 0.4684®C =-53.6508+ 0,663 込(-14.771 11)R2 = 0.9775= 2.1720各方程下邊括號內(nèi)的數(shù)字分別表示的是

7、對應(yīng)解釋變量系數(shù)的t檢驗(yàn)值觀察以上四個(gè)方程，根據(jù)經(jīng)濟(jì)理論和統(tǒng)計(jì)檢驗(yàn)t檢驗(yàn)值=41.937最大，擬 合優(yōu)度也最高，收入Y是最重要的解釋變量，從而得出最優(yōu)簡單回歸方程4將其余變量逐個(gè)引入C =），計(jì)算結(jié)果如下表2:表2服裝消費(fèi)模型的估計(jì)A）常數(shù)）A幾（尸Q玄（扎）c=f(X)-1 24550.1170.99552.6271(-S3L02)(41.e37OJCf(Y,Pc)1.40470 125703610 99572.5335(O28S2(Bj4359)(-D.539A)C = f(Y.Pe,L)0.94000.13a?0345-0 03730.99 53.156B<5 5B45>(-

8、0.49 斗 1)(-Q.66S2)C = f(Y,P-12.75930 103E0.31060 99803.5241(-1.95S1)(7 4640)(-2.4&93)i 2.61S9)13,53350.0570-0.13510.0151O.S401(-1S013)(3 6603)(-2.2087)(0.3053t 2.2714)0 99803.3B25結(jié)果分析: 在最優(yōu)簡單回歸方程C二中引入變量Pc,使R2由0.9955提高到IM4I I0.9957 ;根據(jù)經(jīng)濟(jì)理論分析，厲正號，燉負(fù)號是合理的。然而t檢驗(yàn)耳不顯著 “仙"8巧卜°煮叫，而從經(jīng)濟(jì)理論分析，Pc應(yīng)該是

9、重要因素。雖A然丫與Pc高度相關(guān)，但并不影響收入 丫回歸系數(shù)汗的顯著性和穩(wěn)定性。依照第1條判別標(biāo)準(zhǔn)，Pc可能是“有利變量'，暫時(shí)給予保存。 模型中引入變量L，R2由0.9957提高到0.9959，值略有提高。一方面，A I E雖然丫與L，Pc與L均高度相關(guān)，但是L的引入對回歸系數(shù)01、的影響不大其中的值由0.1257變?yōu)?.1387, _值由-0.0361變?yōu)?0.0345，變化很小;另一方面，根據(jù)經(jīng)濟(jì)理論的分析，L與服裝支出C之間應(yīng)該是正相關(guān)關(guān)系, 的符號應(yīng)該為正號而非負(fù)號，依照第2條判別標(biāo)準(zhǔn)，解釋變量L不必保存在模型 中。 舍去變量L,參加變量P0,使R2由0.9957提高到0.9980, R2值改良較 大。兒、均顯著這三個(gè)回歸系數(shù)的t檢驗(yàn)值絕對值均大于I勺門，從經(jīng)濟(jì)意義上看也是合理的服裝支出C與Y,P0之間呈正相關(guān)，而與服裝價(jià)格Pc之間呈負(fù)相關(guān)關(guān)系。根據(jù)判別標(biāo)準(zhǔn)第 1條，可以認(rèn)為 Pc、P0皆為“有利變量，給予保存。 最后再引入變量L,此時(shí)R2= 0.9980沒有增加或幾乎沒有增加，新引 入變量對其他三個(gè)解釋變量的參數(shù)系數(shù)也沒有產(chǎn)生多大影響，可以確定L是多余變量，根據(jù)判別標(biāo)準(zhǔn)第2條，解釋變量L不必保存在模型中。因此我們得到如下結(jié)論：二-八亠】回歸模型為最優(yōu)模型通過以上案例的分析，我們從理論和實(shí)際問題兩方面具體了解了逐步回歸分 析是如何對多重共線性問題進(jìn)展處理的。事