計(jì)量經(jīng)濟(jì)學(xué) 第七章 多重共線性

1、計(jì)量經(jīng)濟(jì)學(xué) 第七章 多重共線性1第1頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三7.1 多重共線性的兩種表現(xiàn)形式對(duì)于形如的多元線性回歸模型，如果自變量之間存在較強(qiáng)的線性關(guān)系，或者說(shuō)一組不全為零的常數(shù) ，使得那么就說(shuō)原模型中存在多重共線性。則表明原模型中存在完全多重共線性則表明原模型中存在不完全多重共線性2第2頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三1. 完全多重共線性假設(shè)為了研究某種商品的需求函數(shù)4912984522964432943942923852903762883472863282843092822910280 收集到一組樣本數(shù)據(jù)，觀察兩個(gè)自變量，它們之間實(shí)際上存

2、在下面函數(shù)關(guān)系 也就是說(shuō)兩個(gè)自變量之間存在明確的線性關(guān)系，即所謂的完全共線性3第3頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三因而原來(lái)的模型變?yōu)?這個(gè)模型實(shí)際上變成了一個(gè)一元線性回歸模型，我們可以估計(jì)出截距系數(shù)和斜率系數(shù) 在上面的方程組中，有三個(gè)未知數(shù)，沒(méi)有辦法求出原回歸模型中三個(gè)參數(shù)的唯一解，這就是完全多重共線性的后果4第4頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三2. 不完全多重共線性假設(shè)現(xiàn)在收集到另外一組樣本數(shù)據(jù)，在這個(gè)樣本中，兩個(gè)自變量之間沒(méi)有明確的函數(shù)關(guān)系，但是它們之間的相關(guān)系數(shù) ， 說(shuō)明兩個(gè)變量之間還是存在線性相關(guān)關(guān)系491297.5452294.944329

3、3.5394292.8385290.2376289.7347285.8328294.6309291.12910278.85第5頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三在這種不完全多重共線性情況下，可以對(duì)模型使用最小二乘估計(jì)，得到下面的結(jié)果(-3.4444)(-0.7911) 參數(shù)是可以估計(jì)出來(lái)，但是這個(gè)模型存在下面兩個(gè)問(wèn)題:1.收入?yún)?shù)的斜率系數(shù)符號(hào)為負(fù)，在現(xiàn)實(shí)生活中我們知道隨著人們收入的增加，對(duì)一般商品的需求應(yīng)該也是增加的，參數(shù)符號(hào)應(yīng)該為正；2.收入?yún)?shù)沒(méi)有通過(guò)t檢驗(yàn)6第6頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三7.2 多重共線性產(chǎn)生的原因1、經(jīng)濟(jì)變量之間的內(nèi)在聯(lián)

4、系(對(duì)橫截面數(shù)據(jù))工業(yè)生產(chǎn)函數(shù)中，勞動(dòng)力投入量和資金投入量產(chǎn)品需求函數(shù)中，商品本身價(jià)格和替代品價(jià)格消費(fèi)函數(shù)中，人們的收入和財(cái)產(chǎn)這些變量之間實(shí)際上相互聯(lián)系，經(jīng)常會(huì)表現(xiàn)出一定的相關(guān)關(guān)系2、經(jīng)濟(jì)變量共同變化的趨勢(shì)(對(duì)時(shí)間序列數(shù)據(jù)) 這些經(jīng)濟(jì)變量本身之間可能沒(méi)有非常密切的聯(lián)系，但是它們?cè)谙嗤臉颖酒陂g內(nèi)，有著相同變化的趨勢(shì)，比如在經(jīng)濟(jì)繁榮的時(shí)期，人們的收入、投資、就業(yè)等經(jīng)濟(jì)變量都會(huì)相同的增長(zhǎng)趨勢(shì)7第7頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三3、模型中引入了滯后變量 比如在消費(fèi)函數(shù)中引入了上一期或者前幾期收入，各期收入之間有可能是高度相關(guān)的8第8頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5

5、分，星期三7.3 多重共線性的后果 多重共線性對(duì)多元線性模型的影響，可以從完全多重共線性和不完全多重共線性兩個(gè)方面進(jìn)行分析。(1)參數(shù)無(wú)法估計(jì)(參數(shù)無(wú)唯一解) 前面我們已經(jīng)通過(guò)一個(gè)例子說(shuō)明在完全多線性的情況下，沒(méi)有辦法得到參數(shù)的唯一解，實(shí)際上我們也可以從二元線性回歸模型的參數(shù)估計(jì)表達(dá)式中得出同樣得結(jié)論1.完全多重共線性對(duì)模型的影響9第9頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三以一個(gè)二元線性回歸模型的偏斜率系數(shù)為例在完全共線性情況下，若10第10頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三(2)參數(shù)估計(jì)量的方差無(wú)窮大在多元線性回歸模型一章中也給出了參數(shù)估計(jì)量的方差11第1

6、1頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三兩個(gè)自變量完全共線性時(shí)，12第12頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三2.不完全多重共線性對(duì)模型的影響(1)參數(shù)估計(jì)值的方差增大 隨著自變量之間的相關(guān)性增強(qiáng)，估計(jì)參數(shù)的方差也隨之增大，從剛推導(dǎo)出的方差表達(dá)式中也可以看出13第13頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三為此特別定義方差膨脹因子010.520.850.9100.95200.96250.97330.98500.991000.9991000 觀察右側(cè)方差增大的趨勢(shì)表，可以發(fā)現(xiàn)當(dāng)變量之間的的相關(guān)系數(shù) ，方差急劇增大14第14頁(yè)，共49頁(yè)，2022年，

7、5月20日，7點(diǎn)5分，星期三(2)t檢驗(yàn)的可靠性降低 模型中存在多重共線性時(shí)，估計(jì)參數(shù)的方差增大，因此其標(biāo)準(zhǔn)差也會(huì)增大，從而使得t檢驗(yàn)值減小,一個(gè)或多個(gè)自變量可能沒(méi)有辦法通過(guò)參數(shù)的顯著性檢驗(yàn)，其檢驗(yàn)的可靠性也會(huì)降低(3)難以區(qū)分每個(gè)自變量對(duì)因變量的單獨(dú)影響 正是由于自變量之間的共線性，它們相互影響，因此沒(méi)有辦法分離出每個(gè)解釋變量對(duì)因變量的影響15第15頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三(4)參數(shù)估計(jì)值及其標(biāo)準(zhǔn)差對(duì)數(shù)據(jù)的微小變化都非常敏感yx1x212420234124605816yx1x21242023404612581616第16頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)

8、5分，星期三7.4 多重共線性的檢驗(yàn)多重共線性檢驗(yàn)一般要實(shí)現(xiàn)下面幾個(gè)任務(wù)1.檢驗(yàn)多重共線性是否存在2.判斷多重共線性問(wèn)題的嚴(yán)重程度3.判斷多重共線性的具體形式 多重共線性產(chǎn)生的原因比較復(fù)雜，在實(shí)際的檢驗(yàn)過(guò)程中沒(méi)有固定的、確定的方法，只有一些探索性的手段17第17頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三1.利用相關(guān)系數(shù)檢驗(yàn)通過(guò)計(jì)算自變量之間的兩兩的相關(guān)系數(shù)，可以大體判斷出模型中是否存在多重共線性以 新教材P115模型為例經(jīng)過(guò)計(jì)算，四個(gè)自變量?jī)蓛傻南嚓P(guān)系數(shù)如下 從上面的相關(guān)系數(shù)矩陣中可以看出這四個(gè)自變量?jī)蓛芍g高度相關(guān)，因此原模型中存在多重共線性問(wèn)題18第18頁(yè)，共49頁(yè)，2022年

9、，5月20日，7點(diǎn)5分，星期三2.綜合分析普通最小二乘估計(jì)的結(jié)果 如果最小二乘估計(jì)結(jié)果的擬合系數(shù)和方程總體顯著統(tǒng)計(jì)量都比較大，而有的自變量的偏斜率系數(shù)t檢驗(yàn)值較小，無(wú)法通過(guò)顯著性檢驗(yàn)，此時(shí)模型中可能會(huì)存在多重共線性問(wèn)題仍以 新教材P115或老教材P146頁(yè)的數(shù)據(jù)為例 (-1.7614) (3.7076) (0.2951) (-2.2049) (2.2391) 19第19頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三3.通過(guò)輔助回歸方程進(jìn)行檢驗(yàn) 這種檢驗(yàn)方法通過(guò)建立每個(gè)自變量和其它自變量之間的輔助線性回歸方程來(lái)檢驗(yàn)?zāi)Ｐ椭惺欠翊嬖诙嘀毓簿€性，也就是建立形如 如果其中某些自變量通過(guò)參數(shù)顯著性

10、檢驗(yàn)，就表明模型中存在多重共線性。20第20頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三不僅能檢驗(yàn)是否模型中是否存在多重共線性，而且可以得到多重共線性的具體形式；這種檢驗(yàn)方法具有比較顯著的作用：結(jié)合相關(guān)和偏相關(guān)分析，可以進(jìn)一步斷定模型中哪些自變量引起多重共線性21第21頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三 例7.3對(duì)教材P146頁(yè)的模型進(jìn)行輔助方程檢驗(yàn)(-3.0501) (3.5450) (-0.8013) (2.3868)(0.8944) (3.5450) (1.0732) (-1.3268)22第22頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三(0.9

11、844) (-0.8013) (1.0731) (3.3131)(3.9530) (2.3868) (-1.3268) (3.313123第23頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三4.通過(guò)計(jì)算方差膨脹因子和容許度來(lái)判斷 ( 1) 計(jì)算每個(gè)自變量對(duì)應(yīng)的方差膨脹因子VIF來(lái)判斷模型中是否存在多重共線性，一般認(rèn)為如果方差膨脹因子VIF10，那么模型中的自變量之間是高度共線性的。24第24頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三 (2)容許度(tolerance)是方差膨脹因子的倒數(shù)，某個(gè)自變量的容許度就是其他自變量所不能解釋的這個(gè)自變量的變動(dòng)程度。某個(gè)自變量的容許度數(shù)

12、值越大，其他自變量對(duì)該自變量的解釋程度越小，那么這個(gè)自變量和其他自變量的共線性程度越??；反之則表明這個(gè)自變量和其他自變量的共線性程度越大。25第25頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三輔助回歸方程(1)0.9922 127.62100.0078輔助回歸方程(2)0.9820 55.49900.0180輔助回歸方程(3)0.9863 73.04000.0137輔助回歸方程(4)0.9921 126.61200.0079 通過(guò)計(jì)算可以看出每一個(gè)輔助回歸方程中的方差膨脹因子都大于10，容許度都比較小，因此原模型中存在比較嚴(yán)重的共線性問(wèn)題例7.4 利用例7.3中的輔助回歸方差來(lái)計(jì)算V

13、IF和Tol26第26頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三方差膨脹因子的有關(guān)說(shuō)明 使用方差膨脹因子來(lái)度量模型中的共線性僅僅是一種經(jīng)驗(yàn)方法，它的使用也受到一些批評(píng)。一個(gè)較高的方差膨脹因子既不是導(dǎo)致參數(shù)估計(jì)值較大的標(biāo)準(zhǔn)誤差的必要條件也不是充分條件，也就是說(shuō)一個(gè)較高的VIF度量出來(lái)的較高的多重共線性不一定會(huì)導(dǎo)致參數(shù)估計(jì)值較高的標(biāo)準(zhǔn)誤差。27第27頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三X127.62103.70760.0139K55.49900.29510.7798P173.0400-2.20490.0786p0126.61202.23910.0753 對(duì)比模型中每個(gè)

14、自變量的方差膨脹因子和參數(shù)顯著性檢驗(yàn)的結(jié)果，可以發(fā)現(xiàn)第二個(gè)自變量的方差膨脹因子是最小的，但偏偏是它沒(méi)有通過(guò)參數(shù)的顯著性檢驗(yàn)，第一個(gè)自變量和第四個(gè)自變量的方差膨脹因子都是非常大的，但是它們反而都通過(guò)了參數(shù)的顯著性檢驗(yàn)比較例7.3中的VIF和t統(tǒng)計(jì)量28第28頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三課堂練習(xí)題 某商品的需求函數(shù)為 其中Y為需求量,X1為商品價(jià)格,X2為收入,現(xiàn)已知兩個(gè)自變量之間的相關(guān)系數(shù)為-0.96,需求函數(shù)的回歸結(jié)果為:(1)計(jì)算該模型的方差膨脹因子(2)結(jié)合方差膨脹因子和相關(guān)的檢驗(yàn)統(tǒng)計(jì)量,判斷該模型是否存在多重共線性29第29頁(yè)，共49頁(yè)，2022年，5月20日，

15、7點(diǎn)5分，星期三7.5 多重共線性的解決方法在處理多重共線性問(wèn)題之前，必須明確兩點(diǎn):如果建立模型的目的僅僅是為了預(yù)測(cè)，只要模型的擬合系數(shù)較大，而且自變量之間的相關(guān)關(guān)系在短時(shí)間內(nèi)不會(huì)變化，那么多重共線性的影響其實(shí)并不太重要；多重共線性產(chǎn)生最主要的原因是多元線性回歸模型中自變量之間的相關(guān)性，其根本解決方法是剔除回歸模型中的若干自變量，但是這樣一來(lái)又會(huì)帶來(lái)其他的問(wèn)題模型的經(jīng)濟(jì)意義不盡合理 如生產(chǎn)函數(shù)中，勞動(dòng)力投入和資本投入之間經(jīng)常高度相關(guān)，剔除其中任何一個(gè)都不太合適30第30頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三如果剔除的變量是比較重要的，那么將影響回歸模型的估計(jì)，容易使得模型產(chǎn)生異

16、方差和自相關(guān)的問(wèn)題； 如果自變量剔除不當(dāng)，還會(huì)使得模型設(shè)定存在偏差，造成參數(shù)估計(jì)嚴(yán)重偏誤 為了解決多重共線性的問(wèn)題，我們應(yīng)該慎重考慮，根據(jù)自變量的特點(diǎn)，分別采用直接剔除法和間接剔除法來(lái)對(duì)多重共線性進(jìn)行補(bǔ)救31第31頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三1.直接剔除次要或者可以替代的變量 如果模型中有些自變量可能是沒(méi)有顯著影響的，或者它們的影響可以用其他變量來(lái)代替，那么可以直接剔除32第32頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三2.間接剔除重要的解釋變量 (1)利用已知或者附加的信息 前面我們講到，在柯布道格拉斯生產(chǎn)函數(shù)中，勞動(dòng)力投入L和資本投入K之間常常是高度相

17、關(guān)的，如果我們事先知道勞動(dòng)力投入和資本投入之間是規(guī)模報(bào)酬不變的，即1，則原來(lái)的生產(chǎn)函數(shù)可以改寫(xiě)為 對(duì)于模型中重要的解釋變量，可以利用下面的方法將它們“間接剔除”：33第33頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三34第34頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三(2)改變模型的形式對(duì)原來(lái)的模型進(jìn)行適當(dāng)?shù)母淖冇袝r(shí)也可以消除或者減少模型中自變量之間的相關(guān)程度： 1)改變模型的函數(shù)形式，將線性回歸模型轉(zhuǎn)為為對(duì)數(shù)模型或者多項(xiàng)式模型等； 2)改變自變量的形式，使用差分變量、相對(duì)數(shù)變量； 3)改變變量的統(tǒng)計(jì)指標(biāo)，比如在生產(chǎn)函數(shù)中，勞動(dòng)力投入使用職工工資指標(biāo)，資本投入采用固定資產(chǎn)

18、或者流動(dòng)資產(chǎn)指標(biāo)來(lái)進(jìn)行分析。35第35頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三比如我們?cè)谇懊嫣岬竭^(guò)的商品需求函數(shù)36第36頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三(3)增加樣本容量多重共線性是一個(gè)樣本現(xiàn)象，在研究同一個(gè)問(wèn)題的另外一個(gè)樣本中或許并不存在非常嚴(yán)重的多重共線性，因此增大樣本容量也許能夠減輕模型中大的共線性程度。但是在在實(shí)際的工作中，社會(huì)經(jīng)濟(jì)的數(shù)據(jù)并不是通過(guò)實(shí)驗(yàn)方法來(lái)獲得的，要得到新增的數(shù)據(jù)并不是輕而易舉的事情，也許要花費(fèi)很大的代價(jià)。37第37頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三(4)綜合使用橫截面數(shù)據(jù)和時(shí)間序列數(shù)據(jù) 比如研究汽車的需求函數(shù)

19、，假定收集到車輛出售數(shù)量、車輛平均價(jià)格和消費(fèi)者收入的有關(guān)數(shù)據(jù)，并且設(shè)定 如果價(jià)格和收入之間有高度共線性的趨勢(shì)，對(duì)上面的模型進(jìn)行回歸將會(huì)遇到多重共線性問(wèn)題。為了解決這個(gè)問(wèn)題a)假設(shè)我們能夠收集到橫截面的數(shù)據(jù)，我們就能比較可靠地估計(jì)收入彈性，因?yàn)檫@些數(shù)據(jù)都產(chǎn)生在同一時(shí)間內(nèi)，價(jià)格不至于發(fā)生很大變化38第38頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三需求函數(shù)就可以寫(xiě)成b)再利用時(shí)間序列數(shù)據(jù)，估計(jì)價(jià)格彈性 這種方法的問(wèn)題：這種方法解釋起來(lái)可能有一定的問(wèn)題，它假定收入彈性的橫截面估計(jì)值和從純粹的時(shí)間序列分析中得到的估計(jì)值完全一致。 當(dāng)橫截面估計(jì)在不同截面之間沒(méi)有多大變化時(shí)可以考慮使用這種方法。

20、39第39頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三1、向前選擇法(Forward)7.6多元回歸模型中選擇自變量的方法思路：向前選擇法從一元線性回歸模型開(kāi)始，找出擬合系數(shù)最大的一元線性回歸模型和自變量，然后再向模型中增加一個(gè)變量，找到擬合系數(shù) 或 F 值最大的二元線性回歸模型；采用類似方法不停地向模型中增加自變量。當(dāng)增加的自變量不能使殘差平方和明顯減少時(shí)，結(jié)束這一過(guò)程。40第40頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三問(wèn)題：這種方法不能反應(yīng)引入新的自變量后模型的變化情況，某個(gè)自變量開(kāi)始可能是顯著的，但是引入其他自變量后也許會(huì)變得不顯著了，但是沒(méi)有機(jī)會(huì)將它剔除出去，只

21、考慮引入變量，沒(méi)有考慮剔除的方法是不全面的。特點(diǎn)：使用這種方法，變量被增加到模型中，就不容許把它從模型中剔除。41第41頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三2、向后排除法(Backward)思路：這種方法和向前選擇法相反，它從包含所有自變量的回歸模型開(kāi)始，然后利用準(zhǔn)則從模型中剔除變量，使模型的擬合系數(shù)減小最小的自變量會(huì)被從模型中剔除出去；這樣每次只剔除一個(gè)變量，直到剔除的自變量使得模型的擬合系數(shù)顯著減小為止。特點(diǎn)：使用這種方法，不容許把剔除的變量再增加到模型中。42第42頁(yè)，共49頁(yè)，2022年，5月20日，7點(diǎn)5分，星期三思路：這種方法和向前選擇法有些相似，但是在每增加一個(gè)變量時(shí)，會(huì)對(duì)模型中的所有自變量進(jìn)行檢驗(yàn)，判斷是否需要?jiǎng)h除某個(gè)自變量。如果增加一個(gè)新的自變量以后，先前引入的某個(gè)自變量對(duì)模型的貢獻(xiàn)變得不顯著