線性回歸(管理統(tǒng)計(jì)學(xué)與SPSS應(yīng)用課件)

1、xy10 x10 xyE10)(01xy00iixy102102)()(iiiixyyyxyxxxxyyxxnyxyxnniiniiininiiiniiniiniii10121121211110162. 46509.1521.97509.1511417681012121111xyxxnyxyxnniniiiniiniiniiixy509.15162. 41iixy10yyyyyySSTSSE1SSTSSRR2iy MSE2-nSSE2-nS2eiiyy2-n1FMSEMSR2/SSE1/SSRF，n)2/(1/2/SSE1/SSRF22nyyyyniii)2, 1 (nFF)2, 1 (nFF

2、111)(E221)(11ixnx1221)(11iexnxSS111St11St 11St )2(2nt2tt 2tt iiiyyeeiieieSyySeZiiieZRE iiiiheSRE1niiiiixxxxnh122)()(1222)1 () 1(iiiiiihhpeD因變量自變量當(dāng)有多組自變量和與其對(duì)應(yīng)的多種不同的變量篩選方法時(shí)，可使用“Previous”和“Next”將其放置在不同的塊（Block）中 選擇多元線性回歸分析的自變量篩選方法 Enter選項(xiàng)表示強(qiáng)行進(jìn)入法，表示所選自變量全部進(jìn)入回歸模型對(duì)樣本數(shù)據(jù)進(jìn)行篩選 作圖時(shí)，以哪個(gè)變量作各樣本數(shù)據(jù)點(diǎn)的標(biāo)志變量 存在異方差時(shí)，利用加

3、權(quán)最小二乘法替代普通最小二乘法估計(jì)回歸模型參數(shù) 輸出與回歸系數(shù)相關(guān)統(tǒng)計(jì)量 用來輸出判定系數(shù)、調(diào)整的判定系數(shù)、回歸方程的標(biāo)準(zhǔn)誤差，F(xiàn)檢驗(yàn)ANOVA方差分析表 選擇DEPENDENT使之添加到X或Y軸變量框，再選擇其他變量使之添加到Y(jié)或X軸變量框標(biāo)準(zhǔn)化預(yù)測值 標(biāo)準(zhǔn)化殘差 剔除殘差 修正后預(yù)測值 學(xué)生化殘差 學(xué)生化剔除殘差 輸出帶有正態(tài)曲線的標(biāo)準(zhǔn)化殘差的直方圖 殘差的正態(tài)概率圖檢查殘差的正態(tài)性 輸出每一個(gè)自變量殘差相對(duì)于因變量殘差的散布圖 復(fù)相關(guān)系數(shù)（類似相關(guān)系數(shù)），越大越好判定系數(shù)，隨著模型中自變量個(gè)數(shù)的增加，其值是不斷增大的 調(diào)整的復(fù)相關(guān)系數(shù)，一元線性回歸時(shí)等于判定系數(shù)回歸估計(jì)的標(biāo)準(zhǔn)誤差回歸平方

4、和殘差平方和總平方和自由度說明該模型有顯著的統(tǒng)計(jì)意義F統(tǒng)計(jì)量非標(biāo)準(zhǔn)化系數(shù)標(biāo)準(zhǔn)化系數(shù)常數(shù)項(xiàng)回歸系數(shù)回歸系數(shù)檢驗(yàn)統(tǒng)計(jì)量t擬合結(jié)果：895. 0131.42y預(yù)測值殘差標(biāo)準(zhǔn)預(yù)測值標(biāo)準(zhǔn)化殘差最小值最大值均值標(biāo)準(zhǔn)差樣本數(shù)由于殘差具有正態(tài)分布的趨勢，可以認(rèn)為回歸模型是恰當(dāng)?shù)?kxxx,.,21kkxxxy.22110kkxxxy.22110kkxxxy.22110k,.,210min).()(1211012likkiliiixxyyyQ.,.,2 , 1, 0|, 0|000kiQQiii11)1 (122knnRRn2nRMSEknSSEknyySiie11)(2kxxx,.,21) 1()()() 1

5、(22knyykyyknSSEkSSRFiii) 1()1 (22knRkRF) 1,(knkFF) 1,(knkFF0.21ki) 1,() 1(knkFknSSEkSSRF) 1(2knt) 1(2kntt) 1(2kntt0.21k) 1(kntStiiiiS22)(1iiexnxSSi0.21:0kH輸出Model Summary表 輸出與回歸系數(shù)相關(guān)的統(tǒng)計(jì)量(Coefficients表)進(jìn)行多重共線性分析，輸出個(gè)幾十變量的容忍度、方差膨脹因子、特征值、條件指標(biāo)、方差比例等構(gòu)成的Collinearity Diagnostics表X1，X2和X5分為一組，采用強(qiáng)行進(jìn)入法納入模型而 X3和

6、X4全部剔除 復(fù)相關(guān)系數(shù)多重判定系數(shù)調(diào)整后的判定系數(shù)未標(biāo)準(zhǔn)化的回歸系數(shù)標(biāo)準(zhǔn)化的回歸系數(shù)T檢驗(yàn)統(tǒng)計(jì)量共線性檢驗(yàn)統(tǒng)計(jì)量 擬合結(jié)果為Y=0.692X1-0.062X2-0.011X5+21.825 Sig.取值可知，僅X1的系數(shù)是有統(tǒng)計(jì)學(xué)意義的，還需進(jìn)行共線性檢驗(yàn)，本模型中不存在共線性問題這兩個(gè)變量的Sig.取值均大于0.05，說明在模型中無需再對(duì)變量X3、X4進(jìn)行分析 特征根條件指數(shù)個(gè)特征根解釋各解釋變量的方差比 特征根均不等于0，則不存在共線性問題，條件指數(shù)均小于30，本例中模型不存在共線性的問題。)1ln()(logpppitkkxxpp.)1ln(110).exp(1).exp(110110

7、kkkkxxxxpniyiyiiippL1)1()1 (niiiiipypyL1)1ln()1 (lnln)ln(210210LLLL)(2iiiVarWaldNLLRShellCox2102)(1NLRShellCoxkeRNagel2022)(1ker說明所有個(gè)案（28個(gè)）都被選入作為回歸分析的個(gè)案初始的因變量值（0，1）已經(jīng)轉(zhuǎn)換為邏輯回歸分析中常用的0、1數(shù)值 說明Step0的擬合效果?？梢钥闯鰧?duì)于y=0，有100%的準(zhǔn)確性，對(duì)于y=1,有0%準(zhǔn)確性，總共有53.6%的準(zhǔn)確性 列出迭代過程。其中常數(shù)項(xiàng)包括在模型中，初始-2LL為38.673。迭代結(jié)束于第二步，因?yàn)榇藭r(shí)參數(shù)估計(jì)與其在上一步

8、的變化已經(jīng)小于0.001列出了模型系數(shù)的Omnibus Tests結(jié)果 給出了-2對(duì)數(shù)似然值、Cox和Shell的以及Nagelkerke的檢驗(yàn)統(tǒng)計(jì)結(jié)果 給出了Hosmer和Lemeshow的擬合優(yōu)度檢驗(yàn)統(tǒng)計(jì)量 迭代歷史表格。這個(gè)表格中共列出了4個(gè)步驟的回歸結(jié)果。每一步得到的系數(shù)都可以從該表格中得到 說明第一次迭代結(jié)果的擬合效果，從該表格可以看出對(duì)于y=0，有86.7%的準(zhǔn)確性；對(duì)于y=1，有76.9%準(zhǔn)確性，因此對(duì)于所有個(gè)案總共有82.1%的準(zhǔn)確性列出了Step1中各個(gè)變量對(duì)應(yīng)的系數(shù)，以及該變量對(duì)應(yīng)的Wald統(tǒng)計(jì)量的值和它對(duì)應(yīng)的相伴概率。從該表格中可以看出x3相伴概率最小，Wald統(tǒng)計(jì)量最大，可見該變量在模型中很重