Hausman檢驗(yàn)與模型選擇統(tǒng)計(jì)量

1、 Hausman檢驗(yàn)Hausman檢驗(yàn)的基本思想是：由于在遺漏相關(guān)變量的情況下，往往導(dǎo)致解釋變量與隨機(jī)擾動項(xiàng)出現(xiàn)同期相關(guān)性，即，外生性條件不滿足，從而使得OLS估計(jì)量有偏且非一致。因此，對模型遺漏相關(guān)變量的檢驗(yàn)可以用模型是否出現(xiàn)解釋變量與隨機(jī)擾動項(xiàng)同期相關(guān)性的檢驗(yàn)來替代。我們知道，當(dāng)，或者解釋變量與隨機(jī)擾動項(xiàng)同期相關(guān)時，采用工具變量法（IV）可得到參數(shù)的一致估計(jì)量；當(dāng)解釋變量與隨機(jī)擾動項(xiàng)同期無關(guān)時，OLS估計(jì)量為參數(shù)的一致估計(jì)量。因此，只須檢驗(yàn)IV估計(jì)量與OLS估計(jì)量是否存在顯著的差異性，以檢驗(yàn)解釋變量與隨機(jī)擾動項(xiàng)是否同期無關(guān)，進(jìn)而判別模型是否存在著遺漏相關(guān)變量的情況。Hausman檢驗(yàn)在原假

2、設(shè)條件下，IV估計(jì)量與LS估計(jì)量都是一致的，而在備擇假設(shè)中，只有IV估計(jì)量是一致的。若外生性條件確定滿足時，我們更傾向于使用LS估計(jì)量；而當(dāng)外生性條件不確定滿足時，就需要使用IV估計(jì)量。令，則H檢驗(yàn)統(tǒng)計(jì)量為一個Wald統(tǒng)計(jì)量：可以證明得到。則若拒絕原假設(shè)則需要選用IV估計(jì)量。模型選擇統(tǒng)計(jì)量我們知道，隨著模型中變量個數(shù)的增加，殘差平方和將減小，擬合優(yōu)度增加，但自由度減少。和指標(biāo)的提出都是為了權(quán)衡減小和自由度丟失兩個方面，是模型選擇中最常用的標(biāo)準(zhǔn)。近年來，若干模型選擇的標(biāo)準(zhǔn)相繼面世。這些標(biāo)準(zhǔn)所采用的的形式均為殘差平方和與具有懲罰意義的自由度因子（表征模型設(shè)定復(fù)雜度）的乘積。其中，赤池（1970，1

3、974）提出了有限預(yù)測誤差（FPE）和赤池信息準(zhǔn)則(AIC)；漢南（Hannan）和奎因（Quinn）的HQ準(zhǔn)則；許瓦茲準(zhǔn)則（SCHWARZ）；施巴塔準(zhǔn)則（Shibata）；賴斯準(zhǔn)則（RICE）；廣義交叉確認(rèn)準(zhǔn)則（GCV）等。下表是關(guān)于各類不同標(biāo)準(zhǔn)的總結(jié)。這些統(tǒng)計(jì)量也被稱為模型選擇統(tǒng)計(jì)量。SGMASQHQAICRICEFPESCHWARZGCVSHIBATA理想情況是，我們所設(shè)定的模型，在上述各科統(tǒng)計(jì)量中，與其他模型相比較，有著較小的檢驗(yàn)統(tǒng)計(jì)值。換言之，模型選擇的標(biāo)準(zhǔn)為，上述各個模型選擇統(tǒng)計(jì)量具有較小的統(tǒng)計(jì)值。各個統(tǒng)計(jì)量的推導(dǎo)不作要求。思考題1、假設(shè)真實(shí)的模型為：，若遺漏變量，討論估計(jì)量的無偏

4、性。若我們關(guān)心的不是回歸參數(shù)，而是的預(yù)測值，遺漏變量是否帶來偏誤？若是的線性函數(shù)，結(jié)論是怎樣的？2、證明：有約束的統(tǒng)計(jì)量絕不會比無約束的統(tǒng)計(jì)量大，加入約束條件不能提高模型的擬合優(yōu)度。（提示：從RSS入手。）3、對一個常數(shù)、和的多元回歸結(jié)果如下：，8/60，模型滿足古典的假設(shè)條件，根據(jù)這些結(jié)果，檢驗(yàn)兩個斜率之和為1的假設(shè)。Wald檢驗(yàn)、拉格朗日乘數(shù)檢驗(yàn)和似然比檢驗(yàn)基本思路：（1）沃爾德檢驗(yàn)對于回歸模型的參數(shù)約束而言，可以是線性約束也可以是非線性約束。設(shè)，采用ML估計(jì)，有：則：故當(dāng)成立時，有： Wald檢驗(yàn)統(tǒng)計(jì)量為：其中，是無約束條件下的參數(shù)估計(jì)向量。在和大樣本條件下，W遵從自由度等于約束個數(shù)的卡

5、方分布。其中，約束個數(shù)是指約束方程的個數(shù)。（2）似然比檢驗(yàn)基本思想設(shè)總體的密度函數(shù)（或分布列）為，為未知參數(shù)，現(xiàn)考慮如下的檢驗(yàn)問題： ， （1）其中與是非空子集，且與不相交，下面為方便起見，討論與之并為的情況。 設(shè)是來自的樣本，記其似然函數(shù)為，與分別是的參數(shù)空間與上的極大似然估計(jì)，似然函數(shù)在與上的極大值分別記為與，即和，記其比值為： （2）其中，是一個統(tǒng)計(jì)量，由于圍越大L的最大值不會減少，故總有，這意味著。由于似然函數(shù)可以看成是給定樣本后，出現(xiàn)可能性的一種度量。設(shè)的密度函數(shù)為，為階的未知參數(shù)向量，。分三種情形討論1，；2，；3，；簡單假設(shè)情形：，則有：當(dāng)成立時，有：，且的拒絕域?yàn)椋?。?fù)合假設(shè)情形：，其中：是的向量，與是一一對應(yīng)，連續(xù)。由于為的極大似然估計(jì)，則：，可得：因此，。一般情形：，則有檢驗(yàn)統(tǒng)計(jì)量 （3）拉格朗日乘數(shù)檢驗(yàn)基本思想由于在非限制條件下，滿足，即在處為0。若成立，則也應(yīng)在0附近?？紤]到和均為的一致性估計(jì)，有約束條件下的對數(shù)似然函數(shù)為因而，有。此乃拉格朗日乘數(shù)檢驗(yàn)：若成立，則；則可依據(jù)構(gòu)造檢驗(yàn)統(tǒng)計(jì)量，得到給定顯著水平條件下的拒絕域。因此：