第8講 異方差性ppt課件

1、第八講第八講 異方差性異方差性 Heteroskedasticity一、異方差性對于一、異方差性對于OLS估計的影響估計的影響二、穩(wěn)健性檢驗(yàn)二、穩(wěn)健性檢驗(yàn)三、對是否存在異方差性的檢驗(yàn)三、對是否存在異方差性的檢驗(yàn)四、加權(quán)最小二乘估計四、加權(quán)最小二乘估計o異方差性異方差性o異方差性對于異方差性對于OLS估計的影響估計的影響o如何解決可能存在的異方差性？如何解決可能存在的異方差性？一、異方差性對于一、異方差性對于OLS估計的影響估計的影響3 3異方差性異方差性回憶：經(jīng)典線性模型（回憶：經(jīng)典線性模型（CLM）的假定）的假定)0(6 .),|(5 .0),|(4 .3 .2 .1 .2211110 ,N

2、uuMLRXXuVarMLRXXuEMLRMLRMLRMLRuXXYkkkk且且獨(dú)獨(dú)立立于于所所有有解解釋釋變變量量，正正態(tài)態(tài)性性：同同方方差差性性：零零條條件件均均值值：全全的的線線性性關(guān)關(guān)系系且且自自變變量量之之間間不不存存在在完完異異個個解解釋釋變變量量具具有有一一定定變變不不存存在在完完全全共共線線性性；每每的的從從總總體體中中隨隨機(jī)機(jī)抽抽樣樣得得到到樣樣本本的的隨隨機(jī)機(jī)性性：樣樣本本是是的的型型對對于于參參數(shù)數(shù)而而言言是是線線性性參參數(shù)數(shù)的的線線性性性性：回回歸歸模模對對于于總總體體回回歸歸函函數(shù)數(shù) 4 4異方差性異方差性o同方差性（同方差性（homoscedasticity）：誤差

3、項(xiàng)的條件方差相同）：誤差項(xiàng)的條件方差相同o異方差性（異方差性（heteroscedasticity）：誤差項(xiàng)的條件方差不相同）：誤差項(xiàng)的條件方差不相同2102102210)|()|()|()|()|()|()|()|(iiiiiiiiiiiiiiiiiiiiXuVarXuXVarXYVarXuVarXuXVarXYVarXuVarXuVaruXY 異異方方差差性性：同同方方差差性性：也也即即：異異方方差差性性：同同方方差差性性：對對于于5 5異方差性異方差性同方差性同方差性XY概概率率密密度度X：受教育年限：受教育年限Y：工資：工資6 6異方差性異方差性異方差性異方差性XY概概率率密密度度X：

4、受教育年限：受教育年限Y：工資：工資7 7異方差性異方差性異方差性異方差性XY概概率率密密度度X：時間：時間Y：打字正確率：打字正確率8 8異方差性對異方差性對OLS估計的影響估計的影響n回歸系數(shù)的回歸系數(shù)的OLS估計量仍然是無偏的、一致的，并且不影響估計量仍然是無偏的、一致的，并且不影響R2和調(diào)整的和調(diào)整的R2n回歸標(biāo)準(zhǔn)差的估計不再是無偏的，從而回歸系數(shù)回歸標(biāo)準(zhǔn)差的估計不再是無偏的，從而回歸系數(shù)OLS估計量的方差估計不再是無偏的，估計量的方差估計不再是無偏的， OLS估計量不再是有效的和漸近有效的估計量不再是有效的和漸近有效的nt統(tǒng)計量不服從統(tǒng)計量不服從t分布，分布，F(xiàn)統(tǒng)計量也不服從統(tǒng)計量也

5、不服從F分布，從而無法進(jìn)行假設(shè)檢驗(yàn)和區(qū)間估計，也無分布，從而無法進(jìn)行假設(shè)檢驗(yàn)和區(qū)間估計，也無法進(jìn)行區(qū)間預(yù)測法進(jìn)行區(qū)間預(yù)測9 9如何解決可能存在的異方差性？如何解決可能存在的異方差性？兩種方法兩種方法o其一，異方差性不影響其一，異方差性不影響OLS估計量的無偏性和一致性，只影響估計量的無偏性和一致性，只影響OLS估計量的方差估計，因估計量的方差估計，因此，如果能找到一種方法（不同于此，如果能找到一種方法（不同于OLS估計）正確地估計出估計）正確地估計出OLS估計量的方差，那么同樣估計量的方差，那么同樣可以進(jìn)行假設(shè)檢驗(yàn)。這種方法稱為穩(wěn)健性檢驗(yàn)可以進(jìn)行假設(shè)檢驗(yàn)。這種方法稱為穩(wěn)健性檢驗(yàn)o其二，首先檢驗(yàn)

6、是否存在異方差，如果不存在，可以使用其二，首先檢驗(yàn)是否存在異方差，如果不存在，可以使用OLS估計；如果存在異方差，使估計；如果存在異方差，使用另外一種估計方法（即加權(quán)最小二乘估計，用另外一種估計方法（即加權(quán)最小二乘估計，WLS）o穩(wěn)健性穩(wěn)健性t檢驗(yàn)檢驗(yàn)o穩(wěn)健性穩(wěn)健性F檢驗(yàn)檢驗(yàn)o穩(wěn)健性穩(wěn)健性LM檢驗(yàn)檢驗(yàn)二、穩(wěn)健性檢驗(yàn)二、穩(wěn)健性檢驗(yàn)1111穩(wěn)健性穩(wěn)健性t檢驗(yàn)檢驗(yàn)o異方差性不影響異方差性不影響OLS估計量的無偏性和一致性，只是影響估計量的無偏性和一致性，只是影響OLS估計量的方差估計，從而影估計量的方差估計，從而影響響t檢驗(yàn)和檢驗(yàn)和F檢驗(yàn)。因此，如果能找到一種方法正確地估計出檢驗(yàn)。因此，如果能找到一

7、種方法正確地估計出OLS估計量的方差，那么同樣估計量的方差，那么同樣可以進(jìn)行可以進(jìn)行t檢驗(yàn)和檢驗(yàn)和F檢驗(yàn)檢驗(yàn)o對于大樣本數(shù)據(jù)，在假定對于大樣本數(shù)據(jù)，在假定MLR.1-4下，可以通過一定的方法得到下，可以通過一定的方法得到OLS估計量的方差的正確估計量的方差的正確估計量（參見課本估計量（參見課本p253，8.4式），并進(jìn)而得到式），并進(jìn)而得到OLS估計量的標(biāo)準(zhǔn)誤。通過這種方法得到的估計量的標(biāo)準(zhǔn)誤。通過這種方法得到的標(biāo)準(zhǔn)誤稱為異方差標(biāo)準(zhǔn)誤稱為異方差-穩(wěn)健性標(biāo)準(zhǔn)誤（穩(wěn)健性標(biāo)準(zhǔn)誤（heteroskedasticity-robust standard error），或簡稱穩(wěn)），或簡稱穩(wěn)健性標(biāo)準(zhǔn)誤（健性標(biāo)

8、準(zhǔn)誤（robust standard error ）。）。1212穩(wěn)健性穩(wěn)健性t檢驗(yàn)檢驗(yàn)o一旦得到了穩(wěn)健性標(biāo)準(zhǔn)誤，就可以在此基礎(chǔ)上構(gòu)造一旦得到了穩(wěn)健性標(biāo)準(zhǔn)誤，就可以在此基礎(chǔ)上構(gòu)造穩(wěn)健性穩(wěn)健性t統(tǒng)計量（統(tǒng)計量（robust t statistics） ，進(jìn)而進(jìn)行穩(wěn)健性，進(jìn)而進(jìn)行穩(wěn)健性t檢驗(yàn)。檢驗(yàn)。穩(wěn)穩(wěn)健健性性標(biāo)標(biāo)準(zhǔn)準(zhǔn)誤誤假假設(shè)設(shè)值值估估計計值值統(tǒng)統(tǒng)計計量量穩(wěn)穩(wěn)健健性性 OLSt1313穩(wěn)健性穩(wěn)健性t檢驗(yàn)檢驗(yàn)例題例題8_1：工資方程（課本：工資方程（課本p253，例，例8.1）lwageCoef.SEtrobust SEt (robust)married_male0.2127 0.0554 3.8

9、4 0.0571 3.72 married_female-0.1983 0.0578 -3.43 0.0588 -3.37 single_female-0.1104 0.0557 -1.98 0.0571 -1.93 educ0.0789 0.0067 11.79 0.0074 10.64 exper0.0268 0.0052 5.11 0.0051 5.22 expersq-0.0005 0.0001 -4.85 0.0001 -5.03 tenure0.0291 0.0068 4.30 0.0069 4.19 tenursq-0.0005 0.0002 -2.31 0.0002 -2.19

10、 _cons0.3214 0.1000 3.21 0.1095 2.94 1414穩(wěn)健性穩(wěn)健性F檢驗(yàn)檢驗(yàn)o也可以構(gòu)造異方差也可以構(gòu)造異方差-穩(wěn)健性穩(wěn)健性F統(tǒng)計量（統(tǒng)計量（heteroskedasticity-robust F statistic ）或異方差）或異方差-穩(wěn)健穩(wěn)健性瓦爾德統(tǒng)計量（性瓦爾德統(tǒng)計量（heteroskedasticity-robust Wald statistic） ，從而進(jìn)行異方差，從而進(jìn)行異方差-穩(wěn)健性穩(wěn)健性F檢檢驗(yàn)（對多個線性假設(shè)的檢驗(yàn)）驗(yàn)（對多個線性假設(shè)的檢驗(yàn)）o例題例題8_2：學(xué)習(xí)成績的決定（課本：學(xué)習(xí)成績的決定（課本p255，例，例8.2）1515穩(wěn)健性穩(wěn)健性

11、LM檢驗(yàn)檢驗(yàn)o與異方性與異方性-穩(wěn)健性穩(wěn)健性F檢驗(yàn)相同，針對多個線性假設(shè)的檢驗(yàn)還可采用異方差檢驗(yàn)相同，針對多個線性假設(shè)的檢驗(yàn)還可采用異方差-穩(wěn)健性拉格朗日乘穩(wěn)健性拉格朗日乘子檢驗(yàn)（子檢驗(yàn)（heteroskedasticity-robust Lagrange Multiplier test） ，簡稱穩(wěn)健性，簡稱穩(wěn)健性LM檢驗(yàn)。檢驗(yàn)。o本課程不要求同學(xué)掌握穩(wěn)健性本課程不要求同學(xué)掌握穩(wěn)健性LM檢驗(yàn)，有興趣的同學(xué)請參看課本檢驗(yàn)，有興趣的同學(xué)請參看課本p255-257o為什么要對異方差性進(jìn)行檢驗(yàn)？為什么要對異方差性進(jìn)行檢驗(yàn)？o布羅施布羅施-帕甘檢驗(yàn)（帕甘檢驗(yàn)（Breusch-Pagan test）o懷特

12、檢驗(yàn)（懷特檢驗(yàn)（White test）三、對是否存在異方差性的檢驗(yàn)三、對是否存在異方差性的檢驗(yàn)1717為什么要對異方差性進(jìn)行檢驗(yàn)？為什么要對異方差性進(jìn)行檢驗(yàn)？o不管模型是否滿足同方差假定，估計穩(wěn)健性標(biāo)準(zhǔn)誤和進(jìn)行穩(wěn)健性檢驗(yàn)是更為穩(wěn)妥的方法不管模型是否滿足同方差假定，估計穩(wěn)健性標(biāo)準(zhǔn)誤和進(jìn)行穩(wěn)健性檢驗(yàn)是更為穩(wěn)妥的方法，因此這一方法越來越普遍。那么，為什么還要對是否存在異方差性進(jìn)行檢驗(yàn)？，因此這一方法越來越普遍。那么，為什么還要對是否存在異方差性進(jìn)行檢驗(yàn)？n對于小樣本數(shù)據(jù)，穩(wěn)健性對于小樣本數(shù)據(jù)，穩(wěn)健性t統(tǒng)計量并不十分接近統(tǒng)計量并不十分接近t分布，應(yīng)使用通常的分布，應(yīng)使用通常的t檢驗(yàn)。此時，應(yīng)首檢驗(yàn)。此

13、時，應(yīng)首先對是否存在異方差性進(jìn)行檢驗(yàn)。如果不存在異方差性，就可以使用通常的先對是否存在異方差性進(jìn)行檢驗(yàn)。如果不存在異方差性，就可以使用通常的t檢驗(yàn)；如果檢驗(yàn)；如果存在異方差性，就應(yīng)使用不同于存在異方差性，就應(yīng)使用不同于OLS的估計方法。的估計方法。n只要存在異方差，只要存在異方差，OLS估計量就不是最優(yōu)線性無偏估計量。因此最好使用比估計量就不是最優(yōu)線性無偏估計量。因此最好使用比OLS更好的更好的估計方法估計方法1818為什么要對異方差性進(jìn)行檢驗(yàn)？為什么要對異方差性進(jìn)行檢驗(yàn)？o出現(xiàn)異方差性的一個常見原因，是誤差項(xiàng)的條件方差與某些自變量相關(guān)，下面的兩種檢出現(xiàn)異方差性的一個常見原因，是誤差項(xiàng)的條件方

14、差與某些自變量相關(guān)，下面的兩種檢驗(yàn)方法都是看誤差項(xiàng)的條件方差是否與某些自變量相關(guān)驗(yàn)方法都是看誤差項(xiàng)的條件方差是否與某些自變量相關(guān)1919布羅施布羅施-帕甘檢驗(yàn)（帕甘檢驗(yàn)（Breusch-Pagan test）基本思想基本思想假定就不成立假定就不成立相關(guān)，那么同方差相關(guān)，那么同方差與一個或多個解釋變量與一個或多個解釋變量因此，如果因此，如果：等價于等價于：從而同方差假定從而同方差假定。所以：。所以：，那么，那么滿足滿足如果總體回歸函數(shù)如果總體回歸函數(shù)22212021012211211110)()(),()(),()(),(0),(41 .uuE,X,|XuEHXX|uVarH,X,|XuEXX|

15、uE,X,|XuEXX|uVarXX|uEMLRuXXYkkkkkkkkk 2020布羅施布羅施-帕甘檢驗(yàn)（帕甘檢驗(yàn)（Breusch-Pagan test）布羅施布羅施-帕甘檢驗(yàn)（帕甘檢驗(yàn)（BP test）即即存存在在異異方方差差性性說說明明可可以以拒拒絕絕原原假假設(shè)設(shè)，顯顯著著的的，統(tǒng)統(tǒng)計計量量是是統(tǒng)統(tǒng)計計量量或或，如如果果，對對于于量量統(tǒng)統(tǒng)計計量量，或或者者構(gòu)構(gòu)造造統(tǒng)統(tǒng)計計）的的得得到到模模型型（回回歸歸，得得到到的的作作為為因因變變量量做做以以下下模模型型用用方方法法估估計計）用用根根據(jù)據(jù)模模型型（假假定定：）（對對于于MLFHdknRLMFcvXXuROLSubuOLSavXXXX|u

16、EXX|uVaruXXYkukkukkkkkk00:.)(2.)2(.1.),(),(,110221102222110121110 2121布羅施布羅施-帕甘檢驗(yàn)（帕甘檢驗(yàn)（Breusch-Pagan test）例題例題8_3：住房價格（課本：住房價格（課本p259，例，例8.4）為不存在異方差性為不存在異方差性不能拒絕原假設(shè)，即認(rèn)不能拒絕原假設(shè)，即認(rèn)為存在異方差性為存在異方差性可以拒絕原假設(shè)，即認(rèn)可以拒絕原假設(shè)，即認(rèn)614)3(2240480088048002450411)843(99. 5)3(09.141601. 088,1601. 000020345)843(21023210205.

17、020.,LM.R.,p.,FubdrmslsqrftllotsizelpriceLMR.,p.,Fubdrmssqrftlotsizeprice.uu321 2222懷特檢驗(yàn)（懷特檢驗(yàn)（White test）懷特檢驗(yàn)（懷特檢驗(yàn)（White test）：一般檢驗(yàn)）：一般檢驗(yàn)o與與BP檢驗(yàn)相比，懷特檢驗(yàn)進(jìn)一步考慮誤差項(xiàng)方差與每個自變量的平方及每兩個自變量的交檢驗(yàn)相比，懷特檢驗(yàn)進(jìn)一步考慮誤差項(xiàng)方差與每個自變量的平方及每兩個自變量的交互項(xiàng)的關(guān)系。互項(xiàng)的關(guān)系。vXXXXXXXXXX|uEXX|uVaruXXYkkkkkkkkkkkkkk 1232112222111101211102),(),(),1(

18、 假假定定：對對于于2323懷特檢驗(yàn)（懷特檢驗(yàn)（White test）懷特檢驗(yàn)（懷特檢驗(yàn)（White test）：一般檢驗(yàn)）：一般檢驗(yàn)即即存存在在異異方方差差性性說說明明可可以以拒拒絕絕原原假假設(shè)設(shè)，顯顯著著的的，統(tǒng)統(tǒng)計計量量是是統(tǒng)統(tǒng)計計量量或或，如如果果，對對于于量量統(tǒng)統(tǒng)計計量量，或或者者構(gòu)構(gòu)造造統(tǒng)統(tǒng)計計）的的得得到到模模型型（回回歸歸，得得到到的的作作為為因因變變量量做做以以下下模模型型用用方方法法估估計計出出用用根根據(jù)據(jù)模模型型MLFHkknRLMFvXXXXXXXXuROLSuuOLSkkukkkkkkkkkku00:. 4)23(2. 3)2(. 2)1(. 123102221232

19、11222211110222222 2424懷特檢驗(yàn)（懷特檢驗(yàn)（White test）懷特檢驗(yàn)（懷特檢驗(yàn)（White test）：特殊檢驗(yàn)）：特殊檢驗(yàn)o為了節(jié)省自由度，有時采用如下形式的懷特特殊檢驗(yàn)為了節(jié)省自由度，有時采用如下形式的懷特特殊檢驗(yàn)即即存存在在異異方方差差性性說說明明可可以以拒拒絕絕原原假假設(shè)設(shè)，顯顯著著的的，統(tǒng)統(tǒng)計計量量是是統(tǒng)統(tǒng)計計量量或或如如果果對對于于量量統(tǒng)統(tǒng)計計量量，或或者者構(gòu)構(gòu)造造統(tǒng)統(tǒng)計計得得到到上上述述回回歸歸的的回回歸歸，得得到到的的作作為為因因變變量量做做以以下下模模型型用用和和、）的的方方法法估估計計出出方方程程（根根據(jù)據(jù)模模型型用用假假定定：對對于于MLF，Hd

20、nRLMFcvYYuROLSubYYuOLSavYYuXXYuukk00:.)2(.1.),1(2102222102222222102110 2525懷特檢驗(yàn)（懷特檢驗(yàn)（White test）例題例題8_4 ：住房價格（課本：住房價格（課本p261，例，例8.5）性性，即認(rèn)為不存在異方差，即認(rèn)為不存在異方差所以，不能拒絕原假設(shè)所以，不能拒絕原假設(shè)特殊檢驗(yàn)特殊檢驗(yàn)一般檢驗(yàn)：一般檢驗(yàn)：614)2(4530392018300731)852(6814)9(5591085040530051)789(210221023210.,LM.R.,p.,F:.,LM.R.,p.,Fubdrmslsqrftllot

21、sizelprice.u.u o加權(quán)最小二乘估計：異方差形式已知加權(quán)最小二乘估計：異方差形式已知o加權(quán)最小二乘估計：異方差形式未知加權(quán)最小二乘估計：異方差形式未知四、加權(quán)最小二乘估計四、加權(quán)最小二乘估計2727加權(quán)最小二乘估計：異方差形式已知加權(quán)最小二乘估計：異方差形式已知如果發(fā)現(xiàn)存在異方差，可以采取兩種方式解決：如果發(fā)現(xiàn)存在異方差，可以采取兩種方式解決：n對于大樣本數(shù)據(jù)，可使用穩(wěn)健性標(biāo)準(zhǔn)誤和穩(wěn)健性檢驗(yàn)對于大樣本數(shù)據(jù)，可使用穩(wěn)健性標(biāo)準(zhǔn)誤和穩(wěn)健性檢驗(yàn)n探究異方差的形式，通過適當(dāng)?shù)淖儞Q得到最優(yōu)線性無偏估計量探究異方差的形式，通過適當(dāng)?shù)淖儞Q得到最優(yōu)線性無偏估計量2828加權(quán)最小二乘回歸：異方差形式已

22、知加權(quán)最小二乘回歸：異方差形式已知加權(quán)最小二乘估計加權(quán)最小二乘估計估估計計以以應(yīng)應(yīng)用用）滿滿足足同同方方差差假假定定，可可從從而而模模型型（此此時時，即即：那那么么可可以以做做如如下下變變換換：若若已已知知：對對于于OLShhhuEhuEuEuVaruXXXYhuhXhXhhYh,X,Xh,X,u|XVaruXXYiiiiiiiiikikiiiiiikikiiiiiikiiikiiikikii2)X|()X|)()X|()X|()2()()()1()()()1(22222*11*00*11021221110 2929加權(quán)最小二乘估計：異方差形式已知加權(quán)最小二乘估計：異方差形式已知加權(quán)最小二乘估

23、計加權(quán)最小二乘估計）稱稱為為加加權(quán)權(quán)最最小小二二乘乘法法（和和，故故而而化化經(jīng)經(jīng)過過加加權(quán)權(quán)的的殘殘差差平平方方這這一一方方法法實(shí)實(shí)際際上上是是最最小小對對于于：對對于于WLSsquaresleastweighteduwuhXXYhhXhXhhYuOLShuhXhXhhYXXYuOLSuXXYiiiikikiiiikikiiiii*iiiikikiiiiikikiiiikikii,1)(1)()()1(min:)2()()()1()(min)1(2221102110211021102110 3030加權(quán)最小二乘估計：異方差形式已知加權(quán)最小二乘估計：異方差形式已知加權(quán)最小二乘估計加權(quán)最小二乘估計

24、例題例題8_5：家庭儲蓄方程（課本：家庭儲蓄方程（課本p265，例，例8.6）o加權(quán)最小二乘估計屬于廣義最小二乘估計（加權(quán)最小二乘估計屬于廣義最小二乘估計（Generalized Least Square, GLS）的一種）的一種歸歸的的模模型型是是一一個個過過原原點(diǎn)點(diǎn)回回需需要要注注意意的的是是，變變換換后后，即即：歸歸的的權(quán)權(quán)重重為為此此時時，加加權(quán)權(quán)最最小小二二乘乘回回）呈呈正正相相關(guān)關(guān)關(guān)關(guān)系系，即即（如如釋釋變變量量項(xiàng)項(xiàng)的的條條件件方方差差與與某某個個解解一一種種常常見見的的情情況況是是誤誤差差iiikikiiiiiiikiiiXuXXXXXXYXX,X,u|XVarX11111101

25、112121)()()1(1)( 3131加權(quán)最小二乘估計：異方差形式未知加權(quán)最小二乘估計：異方差形式未知o在一般情況下，我們并不知道異方差的具體形式，需要對異方差的函數(shù)形式做出估計，然在一般情況下，我們并不知道異方差的具體形式，需要對異方差的函數(shù)形式做出估計，然后再進(jìn)行加權(quán)最小二乘估計，這種方法屬于可行的廣義最小二乘估計（后再進(jìn)行加權(quán)最小二乘估計，這種方法屬于可行的廣義最小二乘估計（Feasible Generalized Least Square, FGLS）或估計的廣義最小二乘估計（）或估計的廣義最小二乘估計（Estimated Generalized Least Square, EGLS）的一種）的一種3232加權(quán)最小二乘估計：異方差形式未知加權(quán)最小二乘估計：異方差形式未知可行的廣義最小二乘估計（可行的廣義最小二乘估計（FGLS） iikiikiiiiiiikikiiiikikiiiikikiiikikiihuXhXhhhY