SPSS多元線性回歸分析教程

1、線性回歸分析的SPSS操作本節(jié)內(nèi)容主要介紹如何確定并建立線性回歸方程。包括只有一個(gè)自變量的一元線性回歸和和含有多個(gè)自變量的多元線性回歸。為了確保所建立的回歸方程符合線性標(biāo)準(zhǔn)，在進(jìn)行回歸分析之 前，我們往往需要對(duì)因變量與自變量進(jìn)行線性檢驗(yàn)。也就是類似于相關(guān)分析一章中講過(guò)的借助于 散點(diǎn)圖對(duì)變量間的關(guān)系進(jìn)行粗略的線性檢驗(yàn)，這里不再重復(fù)。另外，通過(guò)散點(diǎn)圖還可以發(fā)現(xiàn)數(shù)據(jù) 中的奇異值，對(duì)散點(diǎn)圖中表示的可能的奇異值需要認(rèn)真檢查這一數(shù)據(jù)的合理性。一、一元線性回歸分析1數(shù)據(jù)以本章第三節(jié)例3的數(shù)據(jù)為例，簡(jiǎn)單介紹利用SPSS如何進(jìn)行一元線性回歸分析。數(shù)據(jù)編輯窗口顯示數(shù)據(jù)輸入格式如下圖7-8 (文件7-6-1.sav

2、)：圖7-8 :回歸分析數(shù)據(jù)輸入2用SPSS進(jìn)行回歸分析，實(shí)例操作如下：2.1.回歸方程的建立與檢驗(yàn)(1) 操作 單擊主菜單 An alyze / Regression / Li near ，進(jìn)入設(shè)置對(duì)話框如圖 7-9所示。從左邊變量表列中把因變量 y選入到因變量 (Depe ndent)框中，把自變量x選入到自變量 (I ndepe ndent)框中。 在方法即Method 項(xiàng)上請(qǐng)注意保持系統(tǒng)默認(rèn)的選項(xiàng)Enter,選擇該項(xiàng)表示要求系統(tǒng)在建立回歸方程時(shí)把所選中的全部自變量都保留在方程中。所以該方法可命名為強(qiáng)制進(jìn)入法(在多元回歸分析 中再具體介紹這一選項(xiàng)的應(yīng)用)。具體如下圖所示：uiiihije

3、rlOcpendEiil!m rH狗U 1 ol TPfiraiijusRilsl；LZJPl<lflS-llSffv>->- 肛 ptiQUEhi業(yè)LS >>圖7-9線性回歸分析主對(duì)話框 請(qǐng)單擊Statistics 按鈕，可以選擇需要輸出的一些統(tǒng)計(jì)量。女口 Regression Coefficients（回歸系數(shù)）中的Estimates，可以輸出回歸系數(shù)及相關(guān)統(tǒng)計(jì)量，包括回歸系數(shù)B、標(biāo)準(zhǔn)誤、標(biāo)準(zhǔn)化回歸系數(shù)BETA、T值及顯著性水平等。 Model fit項(xiàng)可輸出相關(guān)系數(shù) R，測(cè)定系數(shù)R2，調(diào)整系數(shù)、 估計(jì)標(biāo)準(zhǔn)誤及方差分析表。上述兩項(xiàng)為默認(rèn)選項(xiàng)，請(qǐng)注意保持選中。

4、設(shè)置如圖7-10所示。設(shè)置完成后點(diǎn)擊Continue返回主對(duì)話框。圖7-10：線性回歸分析的Statistics選項(xiàng)圖7-11 :線性回歸分析的Options選項(xiàng)回歸方程建立后，除了需要對(duì)方程的顯著性進(jìn)行檢驗(yàn)外，還需要檢驗(yàn)所建立的方程是否違反 回歸分析的假定，為此需進(jìn)行多項(xiàng)殘差分析。由于此部分內(nèi)容較復(fù)雜而且理論性較強(qiáng)，所以不在 此詳細(xì)介紹，讀者如有興趣，可參閱有關(guān)資料。 用戶在進(jìn)行回歸分析時(shí)，還可以選擇是否輸出方程常數(shù)。單擊Options 按鈕，打開它的對(duì)話框，可以看到中間有一項(xiàng)Include constant in equation可選項(xiàng)。選中該項(xiàng)可輸出對(duì)常數(shù)的檢驗(yàn)。在Options對(duì)話框中

5、，還可以定義處理缺失值的方法和設(shè)置多元逐步回歸中變量進(jìn)入和排除方程 的準(zhǔn)則，這里我們采用系統(tǒng)的默認(rèn)設(shè)置，如圖7-11所示。設(shè)置完成后點(diǎn)擊Continue返回主對(duì)話框。 在主對(duì)話框點(diǎn)擊 OK得到程序運(yùn)行結(jié)果。(2) 結(jié)果及解釋上面定義的程序運(yùn)行結(jié)果如下所示： 方程中包含的自變量列表同時(shí)顯示進(jìn)入方法。如本例中方程中的自變量為x，方法為En ter。Variables En tered/RemovedModel Variables En teredVariables RemovedMethod1X.En tera All requested variables en tered.bDepe nden

6、t Variable: Y 模型擬合概述列出了模型的R、R2、調(diào)整R2及估計(jì)標(biāo)準(zhǔn)誤。R2值越大所反映的兩變量的共變量比率越高，模型與數(shù)據(jù)的擬合程度越好。Model SummaryModelR R SquareAdjusted R SquareStd. Error of the Estimate1.859.738.7236.2814a Predictors: (Con sta nt), X本例所用數(shù)據(jù)擬合結(jié)果顯示：所考察的自變量和因變量之間的相關(guān)系數(shù)為0.859，擬合線性回歸的確定性系數(shù)為 0.738，經(jīng)調(diào)整后的確定性系數(shù)為0.723，標(biāo)準(zhǔn)誤的估計(jì)為6.2814。 方差分析表列出了變異源、自由度

7、、均方、F值及對(duì)F的顯著性檢驗(yàn)。ANOVAModelSum of Squares df Mean SquareF Sig.1 Regression1995.79111995.79150.583.000Residual710.2091839.456Total2706.00019a Predictors: (Con sta nt), Xb Depe ndent Variable: Y本例中回歸方程顯著性檢驗(yàn)結(jié)果表明：回歸平方和為1995.791，殘差平方和為710.209，總平方和為2706.000，對(duì)應(yīng)的F統(tǒng)計(jì)量的值為50.583，顯著性水平小于0.05，可以認(rèn)為所建立的回歸方 程有效。同時(shí)對(duì)其

8、進(jìn)行顯 回歸系數(shù)表 列出了常數(shù)及非標(biāo)準(zhǔn)化回歸系數(shù)的值及標(biāo)準(zhǔn)化的回歸系數(shù),著性檢驗(yàn)。Coefficie ntsUn sta ndardizedStan dardizedCoefficie ntstSig.Coefficie ntsModelBStd. ErrorBeta1(Co nsta nt)-7.08011.068-.640.530X.730.103.8597.112.000a Depe ndent Variable: Y本例中非標(biāo)準(zhǔn)化的回歸系數(shù) B的估計(jì)值為0.730，標(biāo)準(zhǔn)誤為0.103 ,標(biāo)準(zhǔn)化的回歸系數(shù)為0.859 , 回歸系數(shù)顯著性檢驗(yàn)t統(tǒng)計(jì)量的值為7.112，對(duì)應(yīng)顯著性水平Sig.

9、=0.000<0.05 ，可以認(rèn)為方程顯著。 因此，本例回歸分析得到的回歸方程為：Y=-7.08+0.73X對(duì)方程的方差分析及對(duì)回歸系數(shù)的顯著性檢驗(yàn)均發(fā)現(xiàn)，所建立的回歸方程顯著。2 . 2回歸方程的預(yù)測(cè)(1) 通過(guò)因變量的觀測(cè)值和回歸預(yù)測(cè)值的比較，可以了解許多關(guān)于模型和各種假定對(duì)數(shù)據(jù)的適合程度，上面回歸方程的檢驗(yàn)結(jié)果表明，所得到的回歸直線是有效的。在回歸方程有效的前提下，研究者往往希望對(duì)于給定的預(yù)測(cè)變量X的一個(gè)具體數(shù)值(如 X0 ),預(yù)測(cè)因變量 Y的平均值或者預(yù)測(cè)某一個(gè)觀測(cè)的y0的值。如對(duì)于上面的例子，我們可以用回歸方程來(lái)預(yù)測(cè)智商x0=120的被試，這次的平均成績(jī)；也可以用來(lái)預(yù)測(cè)假如一名

10、工作人員的智商是120,那么他參加這次考試，將會(huì)得多少分。上面兩種情況下，點(diǎn)預(yù)測(cè)值是相同的，不同的是標(biāo)準(zhǔn)誤。Y0=A+BX0=-7.08+0.73 X 120=86.52在X0點(diǎn),Y的預(yù)測(cè)均值的估計(jì)標(biāo)準(zhǔn)誤為公式(7-24);在X0點(diǎn),Y的個(gè)體預(yù)測(cè)值的估計(jì)標(biāo)準(zhǔn)誤為公式(7-25)。(2) SPSS可以提供上述兩類預(yù)測(cè)值，具體操作如下：在如圖7-9的線性回歸模型定義的主對(duì)話框中，單擊save,出現(xiàn)如下對(duì)話框(圖7-12):圖7-12 :預(yù)測(cè)值的定義選擇窗口在上面的窗口，可以選擇輸出變量的點(diǎn)預(yù)測(cè)值和平均值及其個(gè)體值預(yù)測(cè)的區(qū)間估計(jì)，如上圖,我們?cè)赑redicted Values選擇區(qū)選擇復(fù)選項(xiàng)Unst

11、andardized，以輸出非標(biāo)準(zhǔn)化的點(diǎn)預(yù)測(cè)值；在下面的Prediction In tervals選擇區(qū)選擇復(fù)選項(xiàng)Mea ns和In dividual，下面的置信水平采用系統(tǒng)默認(rèn)的95%，然后點(diǎn)擊Continue返回主對(duì)話框，在主對(duì)話框中點(diǎn)擊Ok，得到的輸出結(jié)果。（3）結(jié)果及解釋除了上面介紹的回歸方程建立和檢驗(yàn)的結(jié)果外，在數(shù)據(jù)編輯結(jié)果，因?yàn)檫x擇了需要保存的預(yù)測(cè)變量的信息，數(shù)據(jù)編輯窗口數(shù)據(jù)顯示如下：田口 wg cmIDntri Fdlfi-orLife £.cit swv Rita Lransform enaryzw yraphs LLcikje? 掘ndew Hdp1Ml眉制禺肛1團(tuán)

12、刖2'luh jftubjeefeKy諭兀1lli 心.11uicii1a09 0055.0057 0649952 99030527396943 7967171.933262h97.0074.00G3.7027760.0484267.3571350034177.3961 fl3c12B0007.0094, B647379.B167763.91269707354796.90390Ad07.0060.00S1.1B11861.6299242.2123170.590795日119 0071.0079.75667藥.6325463.6000065 9E8ffi93.52449bf101.005

13、4.0066.62166S3.3997969.3435453.0373280.206017g130.0090.00S7.7B36282.0140333.5532173 36077102.1055B|h11S.0073.0076.8377B73-41996SQ.25560e3 206K390.4939i108.0067.0071.7297268.7709074.6BBd75S.2OS3785.25400IDj105 0070.00BS出吐72.5227656-01105S3.Q7OO611kB4.0053.005i.2163B59.9659739.B135369.61S2312l121 DO62

14、.006i 216127K05-4369067 3603395.0714013m97.00S9.0063.7027760.D434267.357135D.0094177.396Hnleu oa50 DOEE6216G&3 3® 瑪69勲曰別S3 0373250 20115a92.0067.000.0541655.676666.4.31664B. 1503373.95799P11000SOW73.1091?70 1663575.2100559 &510S函7寸飾17qmm05.0086.32417B0.52D5591.7270072.06398100.5&441

15、6r111 0073.0073 910W70.B44EZ715.3531 &閃3®西97.459919swoo71.0065.16222Bl .7444JJ3.59004S1.S300773.7943720t120.0090.0000.406397&.-4169404.555046& B764594.29633UZ|DdTajriablie-View /l*lH5P5SPrCi：?$50r母圖7-13 :保存預(yù)測(cè)之后的數(shù)據(jù)窗口從上面的結(jié)果可以看出，在以前的數(shù)據(jù)的基礎(chǔ)上，新生成了五列數(shù)據(jù)，第一列命名為pre_1的變量對(duì)應(yīng)的數(shù)據(jù)表示預(yù)測(cè)變量對(duì)應(yīng)的因變量非標(biāo)準(zhǔn)化的預(yù)

16、測(cè)值，例如，智商為120的被試，用回歸方程預(yù)測(cè)的這次考試的點(diǎn)預(yù)測(cè)值為80.49;均值預(yù)測(cè)的區(qū)間估計(jì)的上下限分別用變量lmci_1和umci_1表示，個(gè)體預(yù)測(cè)值的區(qū)間估計(jì)的上下限分別用變量lici_1和uici_1表示，例如，智商為120的被試，均值95%的預(yù)測(cè)區(qū)間為：（76.42, 84.56）;個(gè)體預(yù)測(cè)95%的預(yù)測(cè)區(qū)間為：（66.68，94.30 ）。二、多元線性回歸1 數(shù)據(jù)以本章第四節(jié)例4為例，簡(jiǎn)單說(shuō)明多元線性回歸方程的建立與檢驗(yàn)。數(shù)據(jù)輸入如圖7-14 （文件 7-6-2.sav）:圖7-14 :多元回歸分析所用數(shù)據(jù)2. SPSS操作(1) 多元線性回歸所用命令語(yǔ)句與一元線性回歸相同，同樣

17、可以通過(guò)單擊主菜單Analyze /Regression / Li near ；進(jìn)入設(shè)置對(duì)話框如圖 7-9所示。從左邊變量表列中把因變量 y選入到因變 量(Dependent)框中，把自變量 x1和x2選入到自變量(Independent)框中。(2)點(diǎn)擊Method后面的下拉框，在 Method框中選擇一種回歸分析的方法。SPSS提供下列幾種變量進(jìn)入回歸方程的方法： Enter選項(xiàng)，強(qiáng)行進(jìn)入法，即所選擇的自變量全部進(jìn)入回歸模型；該選項(xiàng)是默認(rèn)方式。 Remove選項(xiàng)；消去法，建立回歸方程時(shí)；根據(jù)設(shè)定的條件剔除部分自變量。 Forward選項(xiàng)；向前選擇法；根據(jù)在Option對(duì)話框中所設(shè)定的判據(jù)，

18、從無(wú)自變量開始；在擬合過(guò)程中；對(duì)被選擇的自變量進(jìn)行方差分析；每次加入一個(gè)F值最大的變量；直到所有符合判據(jù)的變量都進(jìn)入模型為止。第一個(gè)引入回歸模型的變量應(yīng)該與因變量相關(guān)程度最大。 Backward選項(xiàng)；向后剔除法；根據(jù)在 Option對(duì)話框中所設(shè)定的判據(jù)，先建立全模型；然后根據(jù)設(shè)置的判據(jù)，每次剔除一個(gè)使方差分析中的F值最小的自變量，直到回歸方程中不再含有不符合判據(jù)的自變量為止。 Stepwise選項(xiàng)；逐步進(jìn)入法；是向前選擇法和向后剔除法的結(jié)合。根據(jù)在Option對(duì)話框中所設(shè)定的判據(jù)，首先根據(jù)方差分析結(jié)果選擇符合判據(jù)的自變量且對(duì)因變量貢獻(xiàn)最大的進(jìn)入回歸方程。根據(jù)向前選擇法則進(jìn)入自變量；然后根據(jù)向后

19、剔除法，將模型中F值最小的且符合剔除判據(jù)的變量剔除模型，重復(fù)進(jìn)行直到回歸方程中的自變量均符合進(jìn)入模型的判據(jù)，模型外的自變量都不符 合進(jìn)入模型的判據(jù)為止。這里我們采用系統(tǒng)默認(rèn)的強(qiáng)行進(jìn)入法；其他選項(xiàng)均采用系統(tǒng)默認(rèn)的設(shè)置。(3) 點(diǎn)擊OK，得到上面定義模型的輸出結(jié)果為:3 結(jié)果及解釋(1)方程中包含的自變量列表同時(shí)顯示進(jìn)入方法。如本例中方程中的自變量為x1和x2，選擇變量進(jìn)入方程的方法為En ter。Variables En tered/RemovedModel Variables En tered Variables Removed Method1X2, X1.En tera All reques

20、ted variables en tered.b Depe ndent Variable: Y(2) 模型概述列出了模型的R、R2、調(diào)整R2及估計(jì)標(biāo)準(zhǔn)誤。R2值越大所反映的自變量與因變量的共變量比率越高，模型與數(shù)據(jù)的擬合程度越好。Model SummaryModelR R SquareAdjusted R SquareStd. Error of the Estimate1.996.991.988.82a Predictors: (Co nsta nt), X2, X1上面所定義模型確定系數(shù)的平方根為0.996，確定系數(shù)為0.991，調(diào)整后的確定系數(shù)為0.988，標(biāo)準(zhǔn)誤為0.82。(3) 方差分析表列出了變異源、自由度、均方、 F值及對(duì)F的顯