7第2章2.2統(tǒng)計推斷與預(yù)測,多重共線性

1、2.2 統(tǒng)計推斷與預(yù)測1 回歸方程的顯著性檢驗(yàn)2 回歸系數(shù)的統(tǒng)計推斷3 預(yù)測及其統(tǒng)計推斷4 與回歸系數(shù)有關(guān)的假設(shè)檢驗(yàn)的一般方法重點(diǎn)：回歸系數(shù)及方程的顯著性檢驗(yàn)；難點(diǎn)：回歸系數(shù)的統(tǒng)計推斷；延伸：多重共線性問題及解決方法。本次課的重難點(diǎn)及延伸2.2.1 回歸方程的顯著性檢驗(yàn) 1. 離差平方和的分解與復(fù)相關(guān)系數(shù)因變量Y的觀測值y1, y2, , yn 之所以有差異，主要兩個原因： 通過線性函數(shù) ，當(dāng) 其他未加考慮的因素及隨機(jī)因素所產(chǎn)生的影響. 下面將y1, y2, , yn 的總變化量分解成兩部分，通過比較這兩部分的相對大小，分析 的線性函數(shù)所能反映y1, y2, , yn 總變化量的程度，以考慮Y

2、與 之間的線性關(guān)系是否顯著.取不同的值而引起Y的取值的變化；(Total Sum of Squares)反映因變量Y的波動性. 殘差平方和或誤差平方和(Error Sum of Squares)令則 y1, y2, , yn的變化量：總離差平方和用變量Y的擬合值 代替觀測值yi所造成的誤差.若SSE=0，則每個觀測值yi可由 的線性函數(shù)精確擬合. SSE越大，意味著 的各線性擬合值 與相應(yīng)的Y的觀測值之間的總體差別越大.回歸平方和(Regression Sum of Squares)由于 ，故 .因此，回歸平方和SSR反映了回歸函數(shù)在各觀測值處取值的離差平方和.離差平方和的分解式SST = S

3、SE + SSR 復(fù)相關(guān)系數(shù)SSR越大， 的線性函數(shù)觀測值所能描述的SST的比例就越大，即Y與 的線性關(guān)系就越顯著. 定義 可以證明實(shí)際上是Y與 的相關(guān)系數(shù)絕對值的估計值，稱R為復(fù)相關(guān)系數(shù)，因此 越大，說明Y與 的線性關(guān)系越顯著.修正多重判定系數(shù)(adjusted multiple coefficient of determination) 用樣本量n和自變量的個數(shù)k去修正R2得到 計算公式為避免增加自變量而高估 R2意義與 R2類似數(shù)值小于R2 spss輸出結(jié)果的分析2.回歸方程的顯著性檢驗(yàn)線性回歸模型變量Y與X1, X2, , Xp-1之間的線性關(guān)系的假定有較大的主觀性，需檢驗(yàn)假設(shè) H0：

4、 1 = 2 = = p-1= 0 H1：至少有一個i 0 ，1 i p-1檢驗(yàn)假設(shè) H0： 1 = 2 = = p-1= 0 H1：至少有一個i 0， 1 i p-1檢驗(yàn)統(tǒng)計量當(dāng)H0為真時設(shè)由樣本數(shù)據(jù)算得的統(tǒng)計量F的值為F0，記對于給定的顯著性水平 ，若p ,則拒絕H0.方差來源自由度平方和(SS)均方(MS)F 值 p 值回歸(R)p-1SSRMSRF0p0誤差(E)n-pSSEMSE總和(T)n-1SST線性關(guān)系的顯著性檢驗(yàn)用如下表格的形式顯示，稱為方差分析表2.2.2 回歸系數(shù)的統(tǒng)計推斷(1) 回歸系數(shù)的假設(shè)檢驗(yàn) 在線性回歸關(guān)系的檢驗(yàn)中，若拒絕了H0，還需對每個自變量做顯著性檢驗(yàn). 對

5、每個k(1kp-1)，檢驗(yàn)假設(shè)H0k：k = 0， H1k ：k 0記 ckk為矩陣(XTX)-1的主對角線上的第k個元素檢驗(yàn)統(tǒng)計量為設(shè)由樣本數(shù)據(jù)算得的統(tǒng)計量tk的值為t0k，記對于給定的顯著性水平，若p0k F1-(fRfF, fF)，則拒絕H0；或者，記對于(0, 1) ，若p0t(25-2)=2.069，所以均拒絕原假設(shè)，說明這4個自變量兩兩之間都有顯著的相關(guān)關(guān)系輸出的結(jié)果可知，回歸模型的線性關(guān)系顯著(Significance-F1.03539E-06=0.05) 。這也暗示了模型中存在多重共線性固定資產(chǎn)投資額的回歸系數(shù)為負(fù)號(-0.029193) ，與預(yù)期的不一致多重共線性(問題的處理)將一個或多個相關(guān)的自變量從模型中剔除，使保留的自變量盡可能不相關(guān)如果要在模型中保留所有的自變量，則應(yīng)避免根據(jù) t 統(tǒng)計量對單個參數(shù)進(jìn)行檢驗(yàn)對因變量值的推斷(估計或預(yù)測)限定在自變量樣本值的范圍內(nèi)提示在建立多元線性回歸模型時，不要試圖引入更多的自變量，除非確實(shí)有必要在社會科學(xué)的研究中，由于所使用的大多數(shù)數(shù)據(jù)都是非試驗(yàn)性質(zhì)的，因此，在某些情況下，得到的結(jié)果往往并不令人滿意，但這不一定是選擇的模型不合適，而是數(shù)據(jù)的質(zhì)量不好，或者是由于引入的自變量不合適 SPSS 多重共線性檢驗(yàn)SPSS回歸分析中有共