計(jì)量經(jīng)濟(jì)學(xué) 異方差性

1

多元回歸分析

y=b0+b1x1+b2x2+...bkxk+u6. 異方差(Heteroskedasticity，HSK)2本章提要OLS中異方差的影響OLS估計(jì)后“對(duì)異方差穩(wěn)健”的統(tǒng)計(jì)推斷檢驗(yàn)異方差加權(quán)最小二乘估計(jì)3本課提要什么是異方差異方差的影響OLS估計(jì)后的“對(duì)異方差穩(wěn)健”統(tǒng)計(jì)推斷HSK－異方差穩(wěn)健標(biāo)準(zhǔn)差HSK－異方差穩(wěn)健t,F,LM統(tǒng)計(jì)量4什么是異方差同方差假定意味著條件于解釋變量，不可觀測(cè)誤差的方差為常數(shù)如果u的方差隨x變化，那么誤差是異方差的。例子：估計(jì)教育回報(bào)并且能力不可觀測(cè)，認(rèn)為能力的方差隨教育水平變化。5.Educationlevelprimarysecondaryf(y|x)異方差圖示college..E(y|x)=b0+b1xwage6

當(dāng)存在異方差時(shí)…OLS無偏且一致R平方和調(diào)整后的R平方仍可以很好地度量擬合優(yōu)度。它們是對(duì)總體R平方1

–[Var(u)/Var(y)]的估計(jì)，其中的方差是總體中的“非條件”方差。無論Var(u|x)

=Var(y|x)是否依賴于x，它們都可以一致地估計(jì)總體R平方。7

為何關(guān)心異方差？如果存在異方差，那么估計(jì)值的標(biāo)準(zhǔn)差是有偏的。如果標(biāo)準(zhǔn)差有偏，我們就不能應(yīng)用通常的t統(tǒng)計(jì)量或F統(tǒng)計(jì)量來進(jìn)行統(tǒng)計(jì)推斷。8

怎么辦？計(jì)量經(jīng)濟(jì)學(xué)家已經(jīng)知道如何調(diào)整標(biāo)準(zhǔn)差，t，F(xiàn)，LM量，使得它們當(dāng)未知形式的異方差存在時(shí)仍然有效。White（1980）指出，在存在異方差時(shí)，方差也是可以估計(jì)的。9

異方差存在時(shí)的方差10

異方差存在時(shí)的方差11

異方差存在時(shí)的方差

開平方被稱為對(duì)異方差穩(wěn)健的標(biāo)準(zhǔn)差，或White標(biāo)準(zhǔn)差，或Huber標(biāo)準(zhǔn)差，或Eicker標(biāo)準(zhǔn)差12

穩(wěn)健標(biāo)準(zhǔn)差穩(wěn)健標(biāo)準(zhǔn)差可以用來進(jìn)行推斷。有時(shí)可以將估計(jì)的方差乘以n/(n–k–1)來修正自由度當(dāng)n→∞時(shí)，沒有區(qū)別。13例子：穩(wěn)健標(biāo)準(zhǔn)差與常規(guī)標(biāo)準(zhǔn)差1LogWageEquationwithHeteroskedasticity-RobustStandarderrors142Heteroskedasticity-RobustFStatistic15

例子：穩(wěn)健標(biāo)準(zhǔn)差與常規(guī)標(biāo)準(zhǔn)差我們學(xué)到了什么？穩(wěn)健標(biāo)準(zhǔn)差可能比常規(guī)標(biāo)準(zhǔn)差大，也可能小。但是實(shí)證中常常發(fā)現(xiàn)穩(wěn)健標(biāo)準(zhǔn)差要大些。如果這兩種標(biāo)準(zhǔn)差的差異很大，那么統(tǒng)計(jì)推斷的結(jié)論可能有很大差異。16

為何要考慮常規(guī)標(biāo)準(zhǔn)差？如果穩(wěn)健標(biāo)準(zhǔn)差無論異方差存在與否都是適用的，為什么我們還需要常規(guī)標(biāo)準(zhǔn)差？我們應(yīng)當(dāng)注意到，穩(wěn)健標(biāo)準(zhǔn)差的適用性依賴于大樣本。17

穩(wěn)健標(biāo)準(zhǔn)差如果是小樣本同方差情形，那么常規(guī)的t統(tǒng)計(jì)量精確地服從t

分布，但是這并不適用于穩(wěn)健標(biāo)準(zhǔn)差，因此，在這種情況下使用穩(wěn)健標(biāo)準(zhǔn)差就可能導(dǎo)致推斷錯(cuò)誤。

在大樣本情形下，特別是應(yīng)用截面數(shù)據(jù)的時(shí)候，我們推薦報(bào)告穩(wěn)健標(biāo)準(zhǔn)差（或同時(shí)報(bào)告常規(guī)的標(biāo)準(zhǔn)差）。18OLS估計(jì)后的HSK-穩(wěn)健推斷記rse為對(duì)異方差穩(wěn)健的標(biāo)準(zhǔn)差

trse=(估計(jì)值-假設(shè)值)/(異方差穩(wěn)健的標(biāo)準(zhǔn)差)對(duì)異方差穩(wěn)健F統(tǒng)計(jì)量在異方差下，常規(guī)F統(tǒng)計(jì)量不再服從F分布。HSK－穩(wěn)健F統(tǒng)計(jì)量也稱為Wald統(tǒng)計(jì)量19

穩(wěn)健的LM統(tǒng)計(jì)量在有限制模型下進(jìn)行OLS，保存殘差?將每一個(gè)排除變量對(duì)全部未排除變量進(jìn)行回歸（q個(gè)回歸）并將每一組殘差?1,?2,…,?q保存將1向量對(duì)?1?,?2?,…,?q?進(jìn)行無截矩回歸。LM定義為n

–SSR1其中SSR1

為最后一次回歸的殘差平方和。20本章提要OLS中異方差的影響OLS估計(jì)后“異方差－穩(wěn)健”的統(tǒng)計(jì)推斷檢驗(yàn)異方差加權(quán)最小二乘估計(jì)21本課提要檢驗(yàn)異方差B-P檢驗(yàn)White檢驗(yàn)加權(quán)最小二乘法當(dāng)在比例意義上已知異方差時(shí)的加權(quán)最小二乘法當(dāng)異方差具有未知形式時(shí)的加權(quán)最小二乘法：可行GLS22

檢驗(yàn)異方差雖然我們有辦法計(jì)算HSK－穩(wěn)健的t、F和LM統(tǒng)計(jì)量，我們?nèi)匀挥欣碛扇ふ铱梢宰R(shí)別異方差的簡(jiǎn)單檢驗(yàn)。理由1：除非有證據(jù)顯示異方差存在，我們?nèi)詴?huì)偏好于常規(guī)OLS的標(biāo)準(zhǔn)差及檢驗(yàn)統(tǒng)計(jì)量。理由2：如果異方差存在，OLS不再是BLUE，那么就有可能得到比OLS更好的估計(jì)量。23

用B-P檢驗(yàn)檢驗(yàn)異方差本質(zhì)上，我們想檢驗(yàn)H0:Var(u|x1,x2,…,xk)=s2這等價(jià)于檢驗(yàn)H0:E(u2|x1,x2,…,xk)=E(u2)=s2

如果我們假設(shè)u2

和xj之間具有線性關(guān)系，則可以通過一組線性約束來完成檢驗(yàn)。所以,對(duì)于u2=d0+d1x1+…+dkxk+v

這意味著檢驗(yàn)H0:d1=d2=…=dk=024

用B-P檢驗(yàn)檢驗(yàn)異方差在零假設(shè)下，通常可以假定誤差v與x1,…,xk獨(dú)立那么，如果將u2視為被解釋變量，檢驗(yàn)全部解釋變量顯著性的F或LM統(tǒng)計(jì)量就可以用來檢驗(yàn)異方差。由于u2在樣本中不是正態(tài)分布，這些統(tǒng)計(jì)量只在漸近的意義下適用。不可觀測(cè)的誤差可以通過OLS殘差進(jìn)行估計(jì)。將殘差平方對(duì)所有的x回歸之后，可以通過R2構(gòu)造F或LM檢驗(yàn)。25

用B-P檢驗(yàn)檢驗(yàn)異方差26

用B-P檢驗(yàn)檢驗(yàn)異方差27用B-P檢驗(yàn)檢驗(yàn)異方差如果我們懷疑HSK僅依賴于某些特定的解釋變量，我們可以做一些調(diào)整：將第一步的殘差只對(duì)那些解釋變量回歸，并進(jìn)行適當(dāng)?shù)腇或LM檢驗(yàn)。28Example:HeteroskedasticityinHousingPriceEquationsR2=0.1601，n=88,k=3，F(xiàn)≈5.34,p=0.002LM=88×0.1601≈14.09,p=0.0028R2=0.0480，F(xiàn)=1.41,p=0.245，LM=4.22,p=0.23929

用White檢驗(yàn)檢驗(yàn)異方差B-P檢驗(yàn)可以識(shí)別任意線性形式的異方差White檢驗(yàn)通過加入x平方項(xiàng)和交叉項(xiàng)引入了一定的非線性。仍然是用F和LM檢驗(yàn)來檢驗(yàn)xj,xj2,xjxh是否聯(lián)合顯著30

用White檢驗(yàn)檢驗(yàn)異方差這個(gè)辦法很快就會(huì)顯出其笨重之處。例如，如果我們有三個(gè)解釋變量x1,x2,x3那么White檢驗(yàn)有9個(gè)約束，三個(gè)對(duì)線性項(xiàng)，三個(gè)對(duì)平方項(xiàng)，三個(gè)對(duì)交叉項(xiàng)。在小樣本情形，自由度將會(huì)隨著解釋變量數(shù)目增加而迅速減少。31

White檢驗(yàn)的變形考慮到OLS的預(yù)測(cè)值?是所有x的函數(shù)。因此，?2是平方項(xiàng)和交叉項(xiàng)的函數(shù)。?

和?2可以用來替代所有的xj,xj2,xjxh將殘差平方對(duì)?

和?2回歸，用R2來構(gòu)建F或LM統(tǒng)計(jì)量現(xiàn)在只需要檢驗(yàn)兩個(gè)約束32

對(duì)HSK檢驗(yàn)的最后評(píng)價(jià)即便真實(shí)的情況并無異方差，HSK檢驗(yàn)可能由于重要變量的遺漏而錯(cuò)誤的拒絕零假設(shè)。HSK可能意味著模型設(shè)定錯(cuò)誤，因此，如果可能的話，應(yīng)當(dāng)在HSK檢驗(yàn)之前進(jìn)行模型設(shè)定檢驗(yàn)。33

加權(quán)最小二乘法對(duì)OLS估計(jì)穩(wěn)健標(biāo)準(zhǔn)差總是可能辦到的，但是，如果我們知道一些關(guān)于異方差結(jié)構(gòu)的信息，我們可以將原模型轉(zhuǎn)化為具有同方差的新模型，這稱為加權(quán)最小二乘法。在這些情況中，加權(quán)最小二乘法比OLS更為有效。對(duì)應(yīng)的t和F統(tǒng)計(jì)量具有t和F分布。34

異方差結(jié)構(gòu)在比例意義上已知的情況假設(shè)異方差可以由模型Var(ui|xi)=s2i=s2

hi刻畫，其中hi=h(x)只依賴于可觀測(cè)特征x在這種情況下，定義ui*=ui/√hi并考慮轉(zhuǎn)化后的模型是否服從Gauss-Markov假設(shè)。35

異方差結(jié)構(gòu)在比例意義上已知的情況36

異方差結(jié)構(gòu)在比例意義上已知的情況37

異方差結(jié)構(gòu)在比例意義上已知的情況38

廣義最小二乘法通過OLS估計(jì)變換后的方程可以作為廣義最小二乘法（GLS）的一個(gè)例子GLS在這種情形下為BLUEGLS是加權(quán)最小二乘法（WLS）在權(quán)重為Var(ui|xi)倒數(shù)時(shí)的特例。39

加權(quán)最小二乘法盡管對(duì)變換后的模型做OLS是直觀的，但是變換本身可能很繁瑣。加權(quán)最小二乘法可以完成相同的目的，但是不需要進(jìn)行變換。想法是最小化加權(quán)平方和（權(quán)重為1/hi）40

加權(quán)最小二乘法41MoreonWLS如果我們知道Var(ui|xi)的形式，WLS很棒但在大多數(shù)情況下，我們并不清楚異方差的形式此時(shí)，你需要估計(jì)h(xi)我們可以從一個(gè)非常靈活的方程形式入手 Var(u|x)=s2exp(d0+d1x1+…+dkxk)由于d未知，我們必須對(duì)它進(jìn)行估計(jì)。42

可行GLS我們的假定意味著 u2=s2exp(d0+d1x1+…+dkxk)v,

其中E(v|x)=1.ln(u2)=a0

+d1x1+…+dkxk+e其中E(e)=1且e

獨(dú)立于x現(xiàn)在，我們知道?

是u的一個(gè)估計(jì)，所以我們可以通過OLS對(duì)其進(jìn)行估計(jì)。43

可行GLS對(duì)h的估計(jì)可以通過?=exp(?)得到，其倒數(shù)為我們的權(quán)重那么，我們做了什么呢？對(duì)原方程做OLS回歸，保存殘差?，平方之，并取自