數(shù)據(jù)分析24PPT課件

1、1 2.1 線性回歸模型及基參數(shù)估計 2.2 統(tǒng)計推斷與預(yù)測 2.3 殘差分析 2.4 回歸方程的選取第1頁/共41頁22.4 回歸方程的選取第2頁/共41頁32.4回歸方程的選取第3頁/共41頁例例8.2.2 設(shè)單因素有三水平，每個水平下實驗的次數(shù)不同。設(shè)單因素有三水平，每個水平下實驗的次數(shù)不同。 因素因素 I II III 0.365 0.27 0.305 0.255 0.275 0.250 0.195 0.240 0.225 0.215 0.265 0.185問三水平下的結(jié)果是否有顯著區(qū)別？注意問三水平下的結(jié)果是否有顯著區(qū)別？注意group的使用。的使用。data = 0.365 0.2

2、55 0.195 0.215 0.27 0.275 0.24 0.265 . 0.185 0.305 0.25 0.225;group = 1,1,1,1,2,2,2,2,. 2,3,3,3;p = anova1(data, group)第4頁/共41頁p = 0.9338方差分析表為：方差分析表為：結(jié)果表明，沒有顯著性差別。即該因素對實驗沒有影響。結(jié)果表明，沒有顯著性差別。即該因素對實驗沒有影響。第5頁/共41頁6第6頁/共41頁72.4.1 窮舉法11pM121112MMppM第7頁/共41頁82( )aRp2( )aRppMSESSTSSERpp/122pR第8頁/共41頁92pR2pR

3、2pR) 1/(111)(2nSSTMSESSTSSEpnnpRppa第9頁/共41頁10)(2pRa第10頁/共41頁11(2 )ppSSECnpMSE第11頁/共41頁12pCp第12頁/共41頁133 預(yù)測平方和準(zhǔn)則(PRESSp準(zhǔn)則)預(yù)測平方和準(zhǔn)則的思想：對給定的p-1個自變量的n組觀測數(shù)據(jù)12,1(;,),1iiii py xxxin12,1(;,),1iiii py xxxin刪第i組數(shù)據(jù),的線性回歸模型，并對yi作預(yù)測記其預(yù)測值為 ( )iy p則預(yù)測誤差為( )( )iiidpyy p對任意i=1,2,n,求得n個預(yù)測誤差d1(p),d2(p), dn(p)。第13頁/共41頁

4、14若相應(yīng)回歸模型的對觀測數(shù)據(jù)擬合較好，則若相應(yīng)回歸模型的對觀測數(shù)據(jù)擬合較好，則211( )( )nnpiiiiiPRESSdpyy p應(yīng)較小。應(yīng)較小。 預(yù)測平方和準(zhǔn)則預(yù)測平方和準(zhǔn)則即擬合即擬合所有可能所有可能的回歸方程的回歸方程并計算相應(yīng)的并計算相應(yīng)的PRESSp值，選取使值，選取使PRESSp達(dá)到達(dá)到最小或接近最小最小或接近最小的回歸方程為最優(yōu)回歸方程的回歸方程為最優(yōu)回歸方程 PRESSp值由定義要擬合值由定義要擬合n次模型，但可證明次模型，但可證明niphppdiiii, 2 , 1,)(1)()( 為用全部為用全部n組觀測值擬合相應(yīng)模型的殘差，組觀測值擬合相應(yīng)模型的殘差， 為相應(yīng)的杠桿

5、量為相應(yīng)的杠桿量)( pi)(phii第14頁/共41頁15對指定的對指定的p-1個自變量，只需擬合一次回歸模型個自變量，只需擬合一次回歸模型即可求得即可求得PRESSp值為值為211 ( )( )1( )nnipiiiiipPRESSdphpSASSAS系統(tǒng)中系統(tǒng)中, , 可利用可利用proc regproc reg提供了提供了準(zhǔn)則準(zhǔn)則與與準(zhǔn)則選取最優(yōu)回歸方程的選項，準(zhǔn)則選取最優(yōu)回歸方程的選項，PRESSp準(zhǔn)準(zhǔn)則可按要求對每個可能的回歸方程輸出則可按要求對每個可能的回歸方程輸出niphpiii, 2 , 1,)(1)(最后算出最后算出PRESSp第15頁/共41頁160.0710.07YZ第

6、16頁/共41頁17準(zhǔn)則準(zhǔn)則第17頁/共41頁18 Adjusted R-Square Selection MethodNumber in Adjusted Model R-Square R-Square Variables in Model 3 0.9719 0.9735 x1 x2 x3 4 0.9714 0.9736 x1 x2 x3 x4 3 0.8777 0.8846 x2 x3 x4 2 0.8032 0.8106 x2 x3 3 0.7062 0.7229 x1 x3 x4 2 0.6781 0.6903 x3 x4 1 0.4281 0.4388 x3 2 0.4202 0.4

7、421 x1 x2 1 0.3403 0.3528 x2 1 0.1065 0.1233 x1根據(jù)根據(jù)準(zhǔn)則可知準(zhǔn)則可知, ,因變量因變量Y Y與與x1 x2 x3x1 x2 x3的線性的線性回歸方程的修正的復(fù)相關(guān)系數(shù)達(dá)到最大，為最優(yōu)回歸方程的修正的復(fù)相關(guān)系數(shù)達(dá)到最大，為最優(yōu)第18頁/共41頁19準(zhǔn)則準(zhǔn)則第19頁/共41頁20 C(p) Selection MethodNumber in Model C(p) R-Square Variables in Model 3 3.2253 0.9735 x1 x2 x3 4 5.0000 0.9736 x1 x2 x3 x4 3 168.1581 0.

8、8846 x2 x3 x4 2 303.5455 0.8106 x2 x3 3 468.4716 0.7229 x1 x3 x4 2 526.9253 0.6903 x3 x4 2 588.8785 0.6569 x2 x4 根據(jù)根據(jù)準(zhǔn)則可知準(zhǔn)則可知, ,因變量因變量Y Y與與x1 x2 x3x1 x2 x3的線性的線性回歸方程為最優(yōu)回歸方程回歸方程為最優(yōu)回歸方程第20頁/共41頁21準(zhǔn)則準(zhǔn)則利用利用的的計算相應(yīng)模型的計算相應(yīng)模型的值值第21頁/共41頁22 Parameter StandardVariable DF Estimate Error t Value Pr |t|Intercept

9、 1 0.41273 0.13807 2.99 0.0043 x1 1 0.23145 0.01321 17.52 .0001 x2 1 0.03077 0.00124 24.84 .0001 x3 1 0.03141 0.00099242 31.65 Model 3 42.30779 14.10260 611.84 Fx1 1.000000 0.1233 7.31 0.0092x2 1.000000 0.3528 28.34 .0001x3 1.000000 0.4388 40.67 .0001x4 1.000000 0.5355 59.94 FIntercept 4.42093 0.235

10、25 137.11090 353.16 .0001x4 0.61908 0.07996 23.27156 59.94 .0001因為因為x4的偏的偏F值最大且值最大且P Fx1 0.747578 0.5358 0.04 0.8425x2 0.863820 0.6569 18.05 .0001x3 0.826591 0.6903 25.49 FIntercept 3.41749 0.27770 39.97099 151.45 .0001x3 0.01844 0.00365 6.72845 25.49 .0001x4 0.46661 0.07252 10.92777 41.40 .0001因為因為

11、x3的偏的偏F值最大且值最大且P Fx1 0.591788 0.7229 5.88 0.0190 x2 0.825800 0.8846 84.23 FIntercept 1.94826 0.23437 6.92949 69.10 .0001x2 0.02599 0.00283 8.44634 84.23 .0001x3 0.02287 0.00230 9.89680 98.69 .0001x4 0.27850 0.04917 3.21654 32.08 .0001因為因為x2的偏的偏F值最大且值最大且P Fx1 0.555861 0.9736 165.16 FIntercept 0.45246

12、 0.16239 0.18175 7.76 0.0076x1 0.22600 0.01759 3.86671 165.16 .0001x2 0.03046 0.00141 10.89770 465.47 .0001x3 0.03103 0.00128 13.74166 586.95 .0001x4 0.01490 0.03139 0.00527 0.23 0.6372因為因為x1的偏的偏F值最大且值最大且P FIntercept 0.41273 0.13807 0.20596 8.94 0.0043x1 0.23145 0.01321 7.07797 307.08 .0001x2 0.03077 0.00124 14.22155 617.00 .0001x3 0.03141 0.00099242 23.09540 1002. .0001重新擬合含重新擬合含x1x2x3的模型后，其中的