多元線性回歸模型的統(tǒng)計檢驗(yàn)專家講座

第三節(jié)

多元線性回歸模型統(tǒng)計檢驗(yàn)

一、擬合優(yōu)度檢驗(yàn)二、方程顯著性檢驗(yàn)(F檢驗(yàn))

三、變量顯著性檢驗(yàn)（t檢驗(yàn)）多元線性回歸模型的統(tǒng)計檢驗(yàn)第1頁一、擬合優(yōu)度檢驗(yàn)

1、可決系數(shù)與調(diào)整可決系數(shù)類似于簡單線性回歸模型：TSS=ESS+RSS總離差平方和分解多元線性回歸模型的統(tǒng)計檢驗(yàn)第2頁

可決系數(shù)該統(tǒng)計量越靠近于1，模型擬合優(yōu)度越高。

問題：在應(yīng)用過程中發(fā)覺，假如在模型中增加一個解釋變量，R2往往增大。這就給人一個錯覺：要使得模型擬合得好，只要增加解釋變量即可。

不過，現(xiàn)實(shí)情況往往是，由增加解釋變量個數(shù)引發(fā)R2增大與擬合好壞無關(guān)，R2需調(diào)整。多元線性回歸模型的統(tǒng)計檢驗(yàn)第3頁

調(diào)整可決系數(shù)（adjustedcoefficientofdetermination）

在樣本容量一定情況下，增加解釋變量必定使得自由度降低，所以調(diào)整思緒是:將殘差平方和與總離差平方和分別除以各自自由度，以剔除變量個數(shù)對擬合優(yōu)度影響:其中：n-k為殘差平方和自由度，n-1為總體平方和自由度。多元線性回歸模型的統(tǒng)計檢驗(yàn)第4頁多元線性回歸模型的統(tǒng)計檢驗(yàn)第5頁二、方程顯著性檢驗(yàn)(F檢驗(yàn))

方程顯著性檢驗(yàn)，意在對模型中被解釋變量與解釋變量之間線性關(guān)系在總體上是否顯著成立作出推斷。

1、方程顯著性F檢驗(yàn)

即檢驗(yàn)?zāi)Ｐ蚘i=

0+1X1i+2X2i++kXki+ii=1,2,,n中參數(shù)

j是否顯著不為0。

可提出以下原假設(shè)與備擇假設(shè)：H0：

0=1=2==k=0H1：

j不全為0多元線性回歸模型的統(tǒng)計檢驗(yàn)第6頁F檢驗(yàn)思想來自于總離差平方和分解式：

TSS=ESS+RSS

假如這個比值較大，則X聯(lián)合體對Y解釋程度高，可認(rèn)為總體存在線性關(guān)系，反之總體上可能不存在線性關(guān)系。

所以,可經(jīng)過該比值大小對總體線性關(guān)系進(jìn)行推斷。多元線性回歸模型的統(tǒng)計檢驗(yàn)第7頁

依據(jù)數(shù)理統(tǒng)計學(xué)中知識，在原假設(shè)H0成立條件下，統(tǒng)計量

服從自由度為(k-1,n-k)F分布

給定顯著性水平

，可得到臨界值F

(k-1,n-k)，由樣本求出統(tǒng)計量F數(shù)值，經(jīng)過F

F

(k-1,n-k)或F

F

(k-1,n-k)來拒絕或接收原假設(shè)H0，以判定原方程總體上線性關(guān)系是否顯著成立。多元線性回歸模型的統(tǒng)計檢驗(yàn)第8頁對于中國居民人均消費(fèi)支出例子：一元模型：F=285.92二元模型：F=2057.3給定顯著性水平

=0.05，查分布表，得到臨界值：一元例：F

(1,21)=4.32二元例：

F

(2,19)=3.52顯然有F

F

(k-1,n-k)

即二個模型線性關(guān)系在95%水平下顯著成立。多元線性回歸模型的統(tǒng)計檢驗(yàn)第9頁

2、關(guān)于擬合優(yōu)度檢驗(yàn)與方程顯著性檢驗(yàn)關(guān)系討論

由可推出：與F與同方向改變，增大，F(xiàn)統(tǒng)計量值也將增大。多元線性回歸模型的統(tǒng)計檢驗(yàn)第10頁三、變量顯著性檢驗(yàn)（t檢驗(yàn)）方程總體線性關(guān)系顯著

每個解釋變量對被解釋變量影響都是顯著

所以，必須對每個解釋變量進(jìn)行顯著性檢驗(yàn)，以決定是否作為解釋變量被保留在模型中。這一檢驗(yàn)是由對變量t檢驗(yàn)完成。多元線性回歸模型的統(tǒng)計檢驗(yàn)第11頁

1、t統(tǒng)計量

所以，可結(jié)構(gòu)以下t統(tǒng)計量

由參數(shù)預(yù)計量分布性質(zhì)可知，回歸系數(shù)預(yù)計量服從正態(tài)分布：能夠證實(shí)，該統(tǒng)計量服從自由度為n-kt分布，即：～t(n-k)多元線性回歸模型的統(tǒng)計檢驗(yàn)第12頁

2、t檢驗(yàn)設(shè)計原假設(shè)與備擇假設(shè)：

H1：

i0

給定顯著性水平

，可得到臨界值t/2(n-k)，由樣本求出統(tǒng)計量t數(shù)值，經(jīng)過|t|

t/2(n-k)或|t|

t/2(n-k)來拒絕或接收原假設(shè)H0，從而判定對應(yīng)解釋變量是否應(yīng)包含在模型中。

H0：

i=0

（i=1,2…k）

多元線性回歸模型的統(tǒng)計檢驗(yàn)第13頁比如：教材P70:Y=6.4529+0.8287X+0.1768S(0.2161)(7.2174)(0.8424)R2=0.9984=0.998F=2838給定顯著性水平α=0.05，t0.05/2(n-k)=t0.05/2(12-3)=t0.025(9)=2.262;F0.05(k-1,n-k

)=F0.05(3-1,12-3)=F0.05(2,9)=4.26即使，F(xiàn)

F

(k-1,n-k)，人均年純收入Xt統(tǒng)計量：|t|

t/2(n-k)；不過,人均儲蓄額S和常數(shù)項(xiàng)t統(tǒng)計量：|t|

t/2(n-k)所以，回歸方程不能投入使用。多元線性回歸模型的統(tǒng)計檢驗(yàn)第14頁在此，我們剔除不顯著常數(shù)項(xiàng)，得以下回歸結(jié)果：Y=0.8522X+0.1352S(24.739)(1.695)R2=0.9984=0.9982F=6274從上式可知，人均儲蓄額S回歸系數(shù)仍不顯著。（原因，在下一章講解）。在此，我們剔除人均儲蓄額S進(jìn)行回歸，結(jié)果以下：Y=