第九章異方差

第九章異方差第一頁(yè)，共二十頁(yè)，2022年，8月28日主要內(nèi)容：1.異方差的性質(zhì)2.異方差的后果3.異方差的診斷4.異方差的補(bǔ)救措施

總體回歸函數(shù)中隨著解釋變量的變化，隨機(jī)誤差項(xiàng)的方差不變，這稱為同方差性。而如果隨著解釋變量的變化，隨機(jī)誤差項(xiàng)的取值不同，則稱為異方差性。第二頁(yè)，共二十頁(yè)，2022年，8月28日一、異方差異方差可以表示為：例如：在一個(gè)雙變量線性回歸模型中，應(yīng)變量Y是個(gè)人儲(chǔ)蓄，解釋變量X是個(gè)人可支配收入或稅后收入(PDI)。畫出Y的方差如下圖：圖a同方差圖b異方差第三頁(yè)，共二十頁(yè)，2022年，8月28日注意：研究發(fā)現(xiàn)，異方差問題多存在于截面數(shù)據(jù)(cross-sectionaldata)而非時(shí)間序列數(shù)據(jù)。例子：美國(guó)行業(yè)利潤(rùn)，銷售量和R&D支出下表給出了美國(guó)18個(gè)行業(yè)1988年的銷售、利潤(rùn)和研究與發(fā)展(R&D)支出的數(shù)據(jù)。(見本章ppt第6頁(yè))

假定要了解研究與發(fā)展與銷售的關(guān)系，有如下模型：該模型的最小二乘回歸結(jié)果如下:第四頁(yè)，共二十頁(yè)，2022年，8月28日觀察一下殘差圖（如下）。從圖中可以看到，殘差的絕對(duì)值隨銷售額的增加而增加。因?yàn)闅埐羁梢越频乜醋麟S機(jī)誤差項(xiàng)，所以可以得出結(jié)論，該模型存在異方差。由于觀察值是按照銷售額升序排列的，這就等同于間接地將殘差對(duì)銷售額作圖第五頁(yè)，共二十頁(yè)，2022年，8月28日1988年美國(guó)研究與發(fā)展支出費(fèi)用（百萬美元）第六頁(yè)，共二十頁(yè)，2022年，8月28日二、異方差的后果

如果CLRM其他假設(shè)保持不變，放松同方差假定，異方差則有如下后果：1.OLS估計(jì)量仍是線性無偏估計(jì)量。2.異方差情況下，OLS估計(jì)量不再有效。3.OLS估計(jì)量的方差通常是有偏的。偏差的產(chǎn)生是由于即，不再是真實(shí)的無偏估計(jì)量。4.建立在t分布和F分布之上的置信區(qū)間和假設(shè)檢驗(yàn)不再可靠。如果沿用傳統(tǒng)的假設(shè)檢驗(yàn)方法，則很可能得出錯(cuò)誤的結(jié)論。三、異方差的診斷

與多重共線性的情況一樣，并沒有診斷異方差的確定辦法，只能借助一些診斷工具判斷異方差的存在。主要有：1.根據(jù)問題的性質(zhì)2.殘差的圖形檢驗(yàn)第七頁(yè)，共二十頁(yè)，2022年，8月28日(1)殘差圖可以是關(guān)于觀察值與殘差的散點(diǎn)圖，也可以是殘差與解釋變量，殘差與估計(jì)值的散點(diǎn)圖。這些圖可以幫助我們判斷同方差假設(shè)或者是CLRM其他假設(shè)是否滿足。例子可參見美國(guó)行業(yè)利潤(rùn)，銷售量和R&D支出。由該例中關(guān)于觀察值與殘差的散點(diǎn)圖可以得出結(jié)論，該模型存在異方差。(2)此外，還可以利用殘差的平方與觀察值或解釋變量或估計(jì)值的散點(diǎn)圖來判斷是否存在異方差。一般來說，與變量之間的散點(diǎn)圖主要有如下樣式。（見下一頁(yè)）圖a到圖c中，圖a中殘差平方與X之間沒有可識(shí)別的系統(tǒng)模式，所以不存在異方差；而圖b到圖e中兩者都呈現(xiàn)出系統(tǒng)關(guān)系，所以都可能存在異方差。第八頁(yè)，共二十頁(yè)，2022年，8月28日假設(shè)的模式第九頁(yè)，共二十頁(yè)，2022年，8月28日3.帕克檢驗(yàn)假如存在異方差，而且方差可能與一個(gè)或者多個(gè)解釋變量系統(tǒng)相關(guān)，那么可以用帕克檢驗(yàn)對(duì)是否存在異方差做出判斷，帕克檢驗(yàn)的步驟如下：(1)在不考慮異方差的情況下，做原模型的最小二乘回歸。(2)從原始回歸方程中求得殘差，并求其平方，再取對(duì)數(shù)形式。(3)利用原始模型中的一個(gè)解釋變量作如下形式的回歸，如果有多個(gè)解釋變量，則對(duì)每一個(gè)解釋變量作形如下式的回歸，或者做對(duì)Ｙ的估計(jì)值的回歸。(4)檢驗(yàn)零假設(shè)，即不存在異方差。如果和之間是統(tǒng)計(jì)顯著的，則拒絕零假設(shè)：不存在異方差。第十頁(yè)，共二十頁(yè)，2022年，8月28日例子：利用方程(2)來說明帕克檢驗(yàn)。把從該回歸方程中得到的殘差用于模型（３），得到如下結(jié)果：在５％的顯著水平下（單邊檢驗(yàn)），估計(jì)的斜率系數(shù)是統(tǒng)計(jì)不顯著的。所以接受原假設(shè)：原始模型中不存在異方差。但可惜的是，帕克檢驗(yàn)本身也存在比較嚴(yán)重的問題，那就是在回歸方程(3)中，誤差項(xiàng)本身也可能存在異方差。所以除了進(jìn)行帕克檢驗(yàn)外，還應(yīng)該用其他檢驗(yàn)方法進(jìn)行判斷。4.格萊澤檢驗(yàn)(Glejsertest)

格萊澤檢驗(yàn)實(shí)質(zhì)上與帕克檢驗(yàn)類似。從原始模型獲得殘差后，格萊澤建議做的絕對(duì)值對(duì)X的回歸。其具體回歸函數(shù)如下：第十一頁(yè)，共二十頁(yè)，2022年，8月28日

每種情形下的零假設(shè)都為：H0:B2=0。如果拒絕零假設(shè)，則表明可能存在異方差。例子：如研發(fā)支出但應(yīng)注意的是，格萊澤檢驗(yàn)同帕克檢驗(yàn)存在同樣的缺陷。5.懷特一般異方差檢驗(yàn)第十二頁(yè)，共二十頁(yè)，2022年，8月28日假定有如下模型：懷特檢驗(yàn)步驟如下：(1)首先用普通最小二乘法估計(jì)回歸模型(5)，獲得殘差。(2)然后做如下輔助回歸，(3)求輔助回歸方程(6)的值。在不存在異方差（即式(6)中所有斜率系數(shù)都為零）的零假設(shè)下，懷特證明了從方程(6)中得到的值與樣本容量的積服從分布，自由度等于方程(6)中解釋變量的個(gè)數(shù)（不包括截距項(xiàng)）。(4)如果從方程(5)中得到的值超過了所選顯著水平下的臨界值，或者說計(jì)算值的p值很低，則拒絕零假設(shè)。否則，不能拒絕零假設(shè)。第十三頁(yè)，共二十頁(yè)，2022年，8月28日例如：見習(xí)題13.18中表13.5中的數(shù)據(jù)。在回歸方程(5)中，令Y代表嬰兒死亡率，X2代表人均GNP，X3代表受初等教育占人口的百分比。回歸結(jié)果如下：與預(yù)期相同，X2和X3的系數(shù)均為負(fù)。根據(jù)單邊ｔ檢驗(yàn)，兩個(gè)斜率系數(shù)ｔ值的ｐ值分別為0.005和0.000。由于表中的數(shù)據(jù)是截面數(shù)據(jù)，所以有理由懷疑存在異方差。為了檢驗(yàn)這一預(yù)期，利用模型(6)進(jìn)行懷特檢驗(yàn)。由于其值為0.23，所以計(jì)算得到，由于得此值的p值約為0.47，這一值相當(dāng)大。因此，可以判定不存在異方差。第十四頁(yè)，共二十頁(yè)，2022年，8月28日四、異方差的補(bǔ)救措施1.當(dāng)已知時(shí)：加權(quán)最小二乘法我們以“美國(guó)行業(yè)利潤(rùn)，銷售量和R&D支出”為例，考慮雙變量PRF，其中，Y表示R&D支出，X表示銷售量。假設(shè)誤差方差是已知的。對(duì)模型（７）考慮如下變換：令可以證明，新的隨機(jī)誤差項(xiàng)是同方差的。因此，變換后的模型（８）不存在異方差問題，因而可以用常規(guī)OLS方法估計(jì)。注意：此方法稱為加權(quán)最小二乘法（WLS）第十五頁(yè)，共二十頁(yè)，2022年，8月28日2.當(dāng)未知時(shí)實(shí)踐中很難獲得真實(shí)誤差方差的信息。因此，要使用WLS法，必須對(duì)進(jìn)行特殊、合理的假設(shè)，通過對(duì)原始模型變換，使得變化后的模型滿足同方差假定，然后運(yùn)用OLS法。以雙變量模型為例，對(duì)這個(gè)未知的誤差方差作如下假設(shè)，然后運(yùn)用WLS法。(1)誤差方差與成比例用OLS方法估計(jì)模型后，把回歸的殘差對(duì)解釋變量X作圖，如果觀察到圖形與下圖相似，則表明誤差方差與解釋變量X線性相關(guān)，即那么，對(duì)方程(7)做如下變換第十六頁(yè)，共二十頁(yè)，2022年，8月28日誤差方差與X成比例的圖示第十七頁(yè)，共二十頁(yè)，2022年，8月28日很容易證明變形后回歸方程的隨機(jī)誤差項(xiàng)是同方差的，因此，可以應(yīng)用OLS法估計(jì)式(9)。(2)誤差方差與成比例如果估計(jì)的殘差呈現(xiàn)類似下圖的模型，則表明誤差方差與X之間呈現(xiàn)如下關(guān)系：在這種情況下，把方程兩邊同除以，變換如下：很容易證明，以上變換后的方程的隨機(jī)誤差項(xiàng)是同方差的，因此，可以用OLS法估計(jì)以上方程。第十八頁(yè)，共二十頁(yè)，2022年，8月28日誤差方差與成比例的圖示第十九頁(yè)，共二十頁(yè)，2022年，8月28日3.重新設(shè)定模型有時(shí)候，我們也可以通過重新選擇一個(gè)新