回歸模型的檢驗

關(guān)于回歸模型的檢驗第一頁，共六十五頁，編輯于2023年，星期日§3.1多元線性回歸模型的統(tǒng)計檢驗

一、擬合優(yōu)度檢驗二、方程的顯著性檢驗(F檢驗)

三、變量的顯著性檢驗（t檢驗）四、參數(shù)的置信區(qū)間

第二頁，共六十五頁，編輯于2023年，星期日

一、擬合優(yōu)度檢驗

1、可決系數(shù)與調(diào)整的可決系數(shù)則

總離差平方和的分解第三頁，共六十五頁，編輯于2023年，星期日

可決系數(shù)該統(tǒng)計量越接近于1，模型的擬合優(yōu)度越高。

問題：由增加解釋變量個數(shù)引起的R2的增大與擬合好壞無關(guān)，R2需調(diào)整。第四頁，共六十五頁，編輯于2023年，星期日

調(diào)整的可決系數(shù)（adjustedcoefficientofdetermination）

在樣本容量一定的情況下，增加解釋變量必定使得自由度減少，所以調(diào)整的思路是:將殘差平方和與總離差平方和分別除以各自的自由度，以剔除變量個數(shù)對擬合優(yōu)度的影響:其中：n-k-1為殘差平方和的自由度，n-1為總體平方和的自由度。第五頁，共六十五頁，編輯于2023年，星期日第六頁，共六十五頁，編輯于2023年，星期日*2、赤池信息準(zhǔn)則和施瓦茨準(zhǔn)則

為了比較所含解釋變量個數(shù)不同的多元回歸模型的擬合優(yōu)度，常用的標(biāo)準(zhǔn)還有:

赤池信息準(zhǔn)則（Akaikeinformationcriterion,AIC）施瓦茨準(zhǔn)則（Schwarzcriterion，SC）

這兩準(zhǔn)則均要求僅當(dāng)所增加的解釋變量能夠減少AIC值或AC值時才在原模型中增加該解釋變量。

第七頁，共六十五頁，編輯于2023年，星期日Eviews的估計結(jié)果顯示：中國居民消費一元例中：

AIC=7.09AC=7.19

中國居民消費二元例中：

AIC=6.68AC=6.83從這點看，可以說前期人均居民消費CONSP(-1)應(yīng)包括在模型中。

第八頁，共六十五頁，編輯于2023年，星期日

二、方程的顯著性檢驗(F檢驗)

方程的顯著性檢驗，旨在對模型中被解釋變量與解釋變量之間的線性關(guān)系在總體上是否顯著成立作出推斷。

1、方程顯著性的F檢驗

即檢驗?zāi)Ｐ?/p>

Yi=0+1X1i+2X2i++kXki+ii=1,2,,n中的參數(shù)j是否顯著不為0。

可提出如下原假設(shè)與備擇假設(shè)：H0：0=1=2==k=0H1：j不全為0第九頁，共六十五頁，編輯于2023年，星期日

根據(jù)數(shù)理統(tǒng)計學(xué)中的知識，在原假設(shè)H0成立的條件下，統(tǒng)計量

服從自由度為(k,n-k-1)的F分布

給定顯著性水平，可得到臨界值F(k,n-k-1)，由樣本求出統(tǒng)計量F的數(shù)值，通過

F

F(k,n-k-1)或FF(k,n-k-1)來拒絕或接受原假設(shè)H0，以判定原方程總體上的線性關(guān)系是否顯著成立。第十頁，共六十五頁，編輯于2023年，星期日對于中國居民人均消費支出的例子：一元模型：F=285.92

二元模型：F=2057.3給定顯著性水平

=0.05，查分布表，得到臨界值：一元例：F(1,21)=4.32

二元例：

F(2,19)=3.52顯然有F

F(k,n-k-1)

即二個模型的線性關(guān)系在95%的水平下顯著成立。第十一頁，共六十五頁，編輯于2023年，星期日

2、關(guān)于擬合優(yōu)度檢驗與方程顯著性檢驗關(guān)系的討論

由可推出：與或第十二頁，共六十五頁，編輯于2023年，星期日三、變量的顯著性檢驗（t檢驗）

方程的總體線性關(guān)系顯著每個解釋變量對被解釋變量的影響都是顯著的

因此，必須對每個解釋變量進行顯著性檢驗，以決定是否作為解釋變量被保留在模型中。這一檢驗是由對變量的t檢驗完成的。

1、t分布第十三頁，共六十五頁，編輯于2023年，星期日

2、t檢驗

設(shè)計原假設(shè)與備擇假設(shè)：

H1：i0

給定顯著性水平，可得到臨界值t/2(n-k-1)，由樣本求出統(tǒng)計量t的數(shù)值，通過

|t|

t/2(n-k-1)或|t|t/2(n-k-1)來拒絕或接受原假設(shè)H0，從而判定對應(yīng)的解釋變量是否應(yīng)包括在模型中。

H0：i=0

（i=1,2…k）

第十四頁，共六十五頁，編輯于2023年，星期日注意：一元線性回歸中，t檢驗與F檢驗一致

一方面，t檢驗與F檢驗都是對相同的原假設(shè)H0：1=0

進行檢驗;

另一方面，兩個統(tǒng)計量之間有如下關(guān)系：

第十五頁，共六十五頁，編輯于2023年，星期日在中國居民人均收入-消費支出二元模型例中，由應(yīng)用軟件計算出參數(shù)的t值：

給定顯著性水平=0.05，查得相應(yīng)臨界值：t0.025(19)=2.093?？梢姡嬎愕乃衪值都大于該臨界值，所以拒絕原假設(shè)。第十六頁，共六十五頁，編輯于2023年，星期日

四、參數(shù)的置信區(qū)間

參數(shù)的置信區(qū)間用來考察：在一次抽樣中所估計的參數(shù)值離參數(shù)的真實值有多“近”。在變量的顯著性檢驗中已經(jīng)知道：容易推出：在(1-)的置信水平下i的置信區(qū)間是

其中，t/2為顯著性水平為、自由度為n-k-1的臨界值。

第十七頁，共六十五頁，編輯于2023年，星期日

在中國居民人均收入-消費支出二元模型例中,給定=0.05，查表得臨界值：t0.025(19)=2.093計算得參數(shù)的置信區(qū)間：

0

：(44.284,197.116)

1

：(0.0937,0.3489)

2

：(0.0951,0.8080)

從回歸計算中已得到：第十八頁，共六十五頁，編輯于2023年，星期日如何才能縮小置信區(qū)間？

增大樣本容量n，因為在同樣的樣本容量下，n越大，t分布表中的臨界值越小，同時，增大樣本容量，還可使樣本參數(shù)估計量的標(biāo)準(zhǔn)差減??；提高模型的擬合優(yōu)度，因為樣本參數(shù)估計量的標(biāo)準(zhǔn)差與殘差平方和呈正比，模型優(yōu)度越高，殘差平方和應(yīng)越小。提高樣本觀測值的分散度,一般情況下，樣本觀測值越分散，(X’X)-1的分母的|X’X|的值越大，致使區(qū)間縮小。第十九頁，共六十五頁，編輯于2023年，星期日§3.2回歸模型的其他函數(shù)形式

一、模型的類型與變換

二、非線性回歸實例第二十頁，共六十五頁，編輯于2023年，星期日

在實際經(jīng)濟活動中，經(jīng)濟變量的關(guān)系是復(fù)雜的，直接表現(xiàn)為線性關(guān)系的情況并不多見。

如著名的恩格爾曲線(Englecurves)表現(xiàn)為冪函數(shù)曲線形式、宏觀經(jīng)濟學(xué)中的菲利普斯曲線（Pillipscuves）表現(xiàn)為雙曲線形式等。但是，大部分非線性關(guān)系又可以通過一些簡單的數(shù)學(xué)處理，使之化為數(shù)學(xué)上的線性關(guān)系，從而可以運用線性回歸的方法進行計量經(jīng)濟學(xué)方面的處理。第二十一頁，共六十五頁，編輯于2023年，星期日

一、模型的類型與變換

1、倒數(shù)模型、多項式模型與變量的直接置換法

例如，描述稅收與稅率關(guān)系的拉弗曲線：拋物線

s=a+br+cr2c<0s：稅收；r：稅率設(shè)X1=r，X2=r2，則原方程變換為

s=a+bX1+cX2c<0

第二十二頁，共六十五頁，編輯于2023年，星期日2、冪函數(shù)模型、指數(shù)函數(shù)模型與對數(shù)變換法

例如，Cobb-Dauglas生產(chǎn)函數(shù)：冪函數(shù)

Q=AKLQ：產(chǎn)出量，K：投入的資本；L：投入的勞動

方程兩邊取對數(shù)：

lnQ=lnA+lnK+lnL第二十三頁，共六十五頁，編輯于2023年，星期日3、復(fù)雜函數(shù)模型與級數(shù)展開法

方程兩邊取對數(shù)后，得到：

(1+2=1)Q:產(chǎn)出量，K：資本投入，L：勞動投入：替代參數(shù)，1、2：分配參數(shù)例如，常替代彈性CES生產(chǎn)函數(shù)

將式中l(wèi)n(1K-+2L-)在=0處展開臺勞級數(shù),取關(guān)于的線性項，即得到一個線性近似式。

如取0階、1階、2階項，可得

第二十四頁，共六十五頁，編輯于2023年，星期日并非所有的函數(shù)形式都可以線性化

無法線性化模型的一般形式為:其中，f(x1,x2,…,Xk)為非線性函數(shù)。如：第二十五頁，共六十五頁，編輯于2023年，星期日

二、非線性回歸實例

例3.2.1

建立中國城鎮(zhèn)居民食品消費需求函數(shù)模型。

根據(jù)需求理論，居民對食品的消費需求函數(shù)大致為

Q:居民對食品的需求量，X：消費者的消費支出總額P1：食品價格指數(shù)，P0：居民消費價格總指數(shù)。

零階齊次性，當(dāng)所有商品和消費者貨幣支出總額按同一比例變動時，需求量保持不變

(*)(**)為了進行比較，將同時估計（*）式與（**）式。

第二十六頁，共六十五頁，編輯于2023年，星期日

根據(jù)恩格爾定律，居民對食品的消費支出與居民的總支出間呈冪函數(shù)的變化關(guān)系:

首先,確定具體的函數(shù)形式對數(shù)變換:

考慮到零階齊次性時(***)(****)(****)式也可看成是對（***）式施加如下約束而得因此，對（****）式進行回歸，就意味著原需求函數(shù)滿足零階齊次性條件。第二十七頁，共六十五頁，編輯于2023年，星期日X：人均消費X1：人均食品消費GP：居民消費價格指數(shù)FP：居民食品消費價格指數(shù)XC：人均消費（90年價）Q：人均食品消費（90年價）P0：居民消費價格縮減指數(shù)（1990=100）P：居民食品消費價格縮減指數(shù)（1990=100表3.2.1

中國城鎮(zhèn)居民消費支出（元）及價格指數(shù)

X

(當(dāng)年價)

X1

(當(dāng)年價)

GP

(上年=100)

FP

(上年=100)

XC

(1990年價)

Q

(1990年價)

P0

(1990=100)

P1

(1990=100)

1981

456.8

420.4

102.5

102.7

646.1

318.3

70.7

132.1

1982

471.0

432.1

102.0

102.1

659.1

325.0

71.5

132.9

1983

505.9

464.0

102.0

103.7

672.2

337.0

75.3

137.7

1984

559.4

514.3

102.7

104.0

690.4

350.5

81.0

146.7

1985

673.2

351.4

111.9

116.5

772.6

408.4

87.1

86.1

1986

799.0

418.9

107.0

107.2

826.6

437.8

96.7

95.7

1987

884.4

472.9

108.8

112.0

899.4

490.3

98.3

96.5

1988

1104.0

567.0

120.7

125.2

1085.5

613.8

101.7

92.4

1989

1211.0

660.0

116.3

114.4

1262.5

702.2

95.9

94.0

1990

1278.9

693.8

101.3

98.8

1278.9

693.8

100.0

100.0

1991

1453.8

782.5

105.1

105.4

1344.1

731.3

108.2

107.0

1992

1671.7

884.8

108.6

110.7

1459.7

809.5

114.5

109.3

1993

2110.8

1058.2

116.1

116.5

1694.7

943.1

124.6

112.2

1994

2851.3

1422.5

125.0

134.2

2118.4

1265.6

134.6

112.4

1995

3537.6

1766.0

116.8

123.6

2474.3

1564.3

143.0

112.9

1996

3919.5

1904.7

108.8

107.9

2692.0

1687.9

145.6

112.8

1997

4185.6

1942.6

103.1

100.1

2775.5

1689.6

150.8

115.0

1998

4331.6

1926.9

99.4

96.9

2758.9

1637.2

157.0

117.7

1999

4615.9

1932.1

98.7

95.7

2723.0

1566.8

169.5

123.3

2000

4998.0

1958.3

100.8

97.6

2744.8

1529.2

182.1

128.1

2001

5309.0

2014.0

100.7

100.7

2764.0

1539.9

192.1

130.8

第二十八頁，共六十五頁，編輯于2023年，星期日中國城鎮(zhèn)居民人均食品消費

特征：消費行為在1981~1995年間表現(xiàn)出較強的一致性1995年之后呈現(xiàn)出另外一種變動特征。

建立1981~1994年中國城鎮(zhèn)居民對食品的消費需求模型:

(9.03)(25.35)(-2.28)(-7.34)第二十九頁，共六十五頁，編輯于2023年，星期日按零階齊次性表達(dá)式回歸:

（75.86）(52.66)(-3.62)為了比較，改寫該式為：

發(fā)現(xiàn)與接近。意味著：所建立的食品需求函數(shù)滿足零階齊次性特征第三十頁，共六十五頁，編輯于2023年，星期日§3.3受約束回歸

在建立回歸模型時，有時根據(jù)經(jīng)濟理論需對模型中變量的參數(shù)施加一定的約束條件。

如：0階齊次性條件的消費需求函數(shù)

1階齊次性條件的C-D生產(chǎn)函數(shù)

模型施加約束條件后進行回歸，稱為受約束回歸（restrictedregression）;

不加任何約束的回歸稱為無約束回歸（unrestrictedregression）。第三十一頁，共六十五頁，編輯于2023年，星期日

一、模型參數(shù)的線性約束二、對回歸模型增加或減少解釋變量三、參數(shù)的穩(wěn)定性*四、非線性約束第三十二頁，共六十五頁，編輯于2023年，星期日

一、模型參數(shù)的線性約束對模型施加約束得或(*)(**)如果對（**）式回歸得出則由約束條件可得：第三十三頁，共六十五頁，編輯于2023年，星期日

然而，對所考查的具體問題能否施加約束？需進一步進行相應(yīng)的檢驗。常用的檢驗有：

F檢驗、x2檢驗與t檢驗，

主要介紹F檢驗在同一樣本下，記無約束樣本回歸模型為受約束樣本回歸模型為于是第三十四頁，共六十五頁，編輯于2023年，星期日

受約束樣本回歸模型的殘差平方和RSSR于是e’e為無約束樣本回歸模型的殘差平方和RSSU(*)

受約束與無約束模型都有相同的TSS由（*）式RSSR

RSSU從而

ESSRESSU這意味著，通常情況下，對模型施加約束條件會降低模型的解釋能力。第三十五頁，共六十五頁，編輯于2023年，星期日

但是，如果約束條件為真，則受約束回歸模型與無約束回歸模型具有相同的解釋能力，RSSR

與RSSU的差異變小?？捎肦SSR

-RSSU的大小來檢驗約束的真實性

根據(jù)數(shù)理統(tǒng)計學(xué)的知識：)(~/)(22RUURkkRSSRSS--cs于是：)1,(~)1/()/()(-------=URUUURUURknkkFknRSSkkRSSRSSF第三十六頁，共六十五頁，編輯于2023年，星期日

討論：如果約束條件無效，RSSR

與RSSU的差異較大，計算的F值也較大。

于是，可用計算的F統(tǒng)計量的值與所給定的顯著性水平下的臨界值作比較，對約束條件的真實性進行檢驗。注意，kR-kU恰為約束條件的個數(shù)。第三十七頁，共六十五頁，編輯于2023年，星期日

例3.3.1

中國城鎮(zhèn)居民對食品的人均消費需求實例中，對零階齊次性檢驗：取=5%，查得臨界值F0.05(1,10)=4.96

判斷：不能拒絕中國城鎮(zhèn)居民對食品的人均消費需求函數(shù)具有零階齊次特性這一假設(shè)。

無約束回歸:RSSU=0.00324，kU=3

受約束回歸:RSSR=0.00332，KR=2

樣本容量n=14，約束條件個數(shù)kU-kR=3-2=1第三十八頁，共六十五頁，編輯于2023年，星期日這里的F檢驗適合所有關(guān)于參數(shù)線性約束的檢驗如：多元回歸中對方程總體線性性的F檢驗：

H0：j=0j=1,2,…,k這里：受約束回歸模型為)1/(/)1/(/)()1/(/)()1/()/()(--=---=----=----=knRSSkESSknRSSkRSSTSSknRSSkRSSESSTSSknRSSkkRSSRSSFUUUUUURUURUUR這里，運用了ESSR

＝0。第三十九頁，共六十五頁，編輯于2023年，星期日

二、對回歸模型增加或減少解釋變量考慮如下兩個回歸模型(*)(**)(*)式可看成是（**）式的受約束回歸：H0：相應(yīng)的Ｆ統(tǒng)計量為：第四十頁，共六十五頁，編輯于2023年，星期日

如果約束條件為真，即額外的變量Xk+1,…,Xk+q對Ｙ沒有解釋能力，則Ｆ統(tǒng)計量較??；否則，約束條件為假，意味著額外的變量對Ｙ有較強的解釋能力，則Ｆ統(tǒng)計量較大。因此，可通過F的計算值與臨界值的比較，來判斷額外變量是否應(yīng)包括在模型中。討論：

Ｆ統(tǒng)計量的另一個等價式第四十一頁，共六十五頁，編輯于2023年，星期日

三、參數(shù)的穩(wěn)定性

1、鄒氏參數(shù)穩(wěn)定性檢驗

建立模型時往往希望模型的參數(shù)是穩(wěn)定的，即所謂的結(jié)構(gòu)不變，這將提高模型的預(yù)測與分析功能。如何檢驗？

假設(shè)需要建立的模型為在兩個連續(xù)的時間序列（1,2,…，n1）與（n1+1,…，n1+n2）中，相應(yīng)的模型分別為：第四十二頁，共六十五頁，編輯于2023年，星期日

合并兩個時間序列為(1,2,…，n1

，n1+1,…，n1+n2)，則可寫出如下無約束回歸模型

如果=，表示沒有發(fā)生結(jié)構(gòu)變化，因此可針對如下假設(shè)進行檢驗：

H0:=(*)式施加上述約束后變換為受約束回歸模型(*)（**）第四十三頁，共六十五頁，編輯于2023年，星期日因此，檢驗的F統(tǒng)計量為：

記RSS1與RSS2為在兩時間段上分別回歸后所得的殘差平方和，容易驗證，于是第四十四頁，共六十五頁，編輯于2023年，星期日參數(shù)穩(wěn)定性的檢驗步驟：

（1）分別以兩連續(xù)時間序列作為兩個樣本進行回歸，得到相應(yīng)的殘差平方：RSS1與RSS2

（2）將兩序列并為一個大樣本后進行回歸，得到大樣本下的殘差平方和RSSR

（3）計算F統(tǒng)計量的值，與臨界值比較：

若F值大于臨界值，則拒絕原假設(shè)，認(rèn)為發(fā)生了結(jié)構(gòu)變化，參數(shù)是非穩(wěn)定的。

該檢驗也被稱為鄒氏參數(shù)穩(wěn)定性檢驗（Chowtestforparameterstability）。第四十五頁，共六十五頁，編輯于2023年，星期日

2、鄒氏預(yù)測檢驗

上述參數(shù)穩(wěn)定性檢驗要求n2>k。如果出現(xiàn)n2<k

，則往往進行如下的鄒氏預(yù)測檢驗（Chowtestforpredictivefailure）。

鄒氏預(yù)測檢驗的基本思想:

先用前一時間段n1個樣本估計原模型，再用估計出的參數(shù)進行后一時間段n2個樣本的預(yù)測。

如果預(yù)測誤差較大，則說明參數(shù)發(fā)生了變化，否則說明參數(shù)是穩(wěn)定的。第四十六頁，共六十五頁，編輯于2023年，星期日分別以、表示第一與第二時間段的參數(shù)，則其中，

如果

=0，則=，表明參數(shù)在估計期與預(yù)測期相同(*)(*)的矩陣式：可見，用前n1個樣本估計可得前k個參數(shù)的估計，而不外是用后n2個樣本測算的預(yù)測誤差X2(-)(**)第四十七頁，共六十五頁，編輯于2023年，星期日如果參數(shù)沒有發(fā)生變化，則=0，矩陣式簡化為(***)（***）式與（**）式)1/(/)()1/()/()(1121---=----=knRSSnRSSRSSknRSSkkRSSRSSFRUUURUR這里：KR-KU=n2RSSU=RSS1分別可看成受約束與無約束回歸模型，于是有如下F檢驗：第四十八頁，共六十五頁，編輯于2023年，星期日

第一步，在兩時間段的合成大樣本下做OLS回歸，得受約束模型的殘差平方和RSSR

；

第二步，對前一時間段的n1個子樣做OLS回歸，得殘差平方和RSS1

；

第三步，計算檢驗的F統(tǒng)計量，做出判斷：

鄒氏預(yù)測檢驗步驟：

給定顯著性水平，查F分布表，得臨界值F(n2,n1-k-1)

如果F>F(n2,n1-k-1)

，則拒絕原假設(shè)，認(rèn)為預(yù)測期發(fā)生了結(jié)構(gòu)變化。第四十九頁，共六十五頁，編輯于2023年，星期日

例3.3.2

中國城鎮(zhèn)居民食品人均消費需求的鄒氏檢驗。

1、參數(shù)穩(wěn)定性檢驗1981~1994：RSS1=0.003240

1995~2001：

(9.96)(7.14)(-5.13)(1.81)1981~2001:

(14.83)(27.26)(-3.24)(-11.17)第五十頁，共六十五頁，編輯于2023年，星期日

給定=5%，查表得臨界值F0.05(4,13)=3.18

判斷：F值>臨界值，拒絕參數(shù)穩(wěn)定的原假設(shè)，表明中國城鎮(zhèn)居民食品人均消費需求在1994年前后發(fā)生了顯著變化。

2、鄒氏預(yù)測檢驗給定=5%，查表得臨界值F0.05(7,10)=3.18判斷：F值>臨界值，拒絕參數(shù)穩(wěn)定的原假設(shè)第五十一頁，共六十五頁，編輯于2023年，星期日*四、非線性約束

也可對模型參數(shù)施加非線性約束,如對模型施加非線性約束12=1,得到受約束回歸模型:

該模型必需采用非線性最小二乘法（nonlinearleastsquares）進行估計。

非線性約束檢驗是建立在最大似然原理基礎(chǔ)上的,有最大似然比檢驗、沃爾德檢驗與拉格朗日乘數(shù)檢驗.第五十二頁，共六十五頁，編輯于2023年，星期日1、最大似然比檢驗

(likelihoodratiotest,LR)

估計:無約束回歸模型與受約束回歸模型，

方法:最大似然法，

檢驗:兩個似然函數(shù)的值的差異是否“足夠”大。

記L(,2)為一似然函數(shù):無約束回歸

:Max:受約束回歸

:Max:或求極值：

g():以各約束條件為元素的列向量,’：以相應(yīng)拉格朗日乘數(shù)為元素的行向量

約束：g()=0第五十三頁，共六十五頁，編輯于2023年，星期日

受約束的函數(shù)值不會超過無約束的函數(shù)值，但如果約束條件為真，則兩個函數(shù)值就非?！敖咏薄?/p>

由此，定義似然比（likelihoodratio）:

如果比值很小，說明兩似然函數(shù)值差距較大，則應(yīng)拒絕約束條件為真的假設(shè)；

如果比值接近于１，說明兩似然函數(shù)值很接近，應(yīng)接受約束條件為真的假設(shè)。

具體檢驗時，由于大樣本下：

h是約束條件的個數(shù)。因此：

通過LR統(tǒng)計量的2分布特性來進行判斷。

第五十四頁，共六十五頁，編輯于2023年，星期日

在中國城鎮(zhèn)居民人均食品消費需求例中，對零階齊次性的檢驗：LR=-2(38.57-38.73)=0.32

給