SPSS多元線性回歸分析教程[共9頁]

1、線性回歸分析的SPSS操作 本節(jié)內(nèi)容主要介紹如何確定并建立線性回歸方程。包括只有一個自變量的一元線性回歸和和含有多個自變量的多元線性回歸。為了確保所建立的回歸方程符合線性標(biāo)準，在進行回歸分析之前，我們往往需要對因變量與自變量進行線性檢驗。也就是類似于相關(guān)分析一章中講過的借助于散點圖對變量間的關(guān)系進行粗略的線性檢驗，這里不再重復(fù)。另外，通過散點圖還可以發(fā)現(xiàn)數(shù)據(jù)中的奇異值，對散點圖中表示的可能的奇異值需要認真檢查這一數(shù)據(jù)的合理性。一、 一元線性回歸分析 1數(shù)據(jù)以本章第三節(jié)例3的數(shù)據(jù)為例，簡單介紹利用SPSS如何進行一元線性回歸分析。數(shù)據(jù)編輯窗口顯示數(shù)據(jù)輸入格式如下圖7-8（文件7-6-1.sav）

2、： 圖7-8：回歸分析數(shù)據(jù)輸入2用SPSS進行回歸分析，實例操作如下：2.1.回歸方程的建立與檢驗（1）操作單擊主菜單Analyze / Regression / Linear，進入設(shè)置對話框如圖7-9所示。從左邊變量表列中把因變量y選入到因變量（Dependent）框中，把自變量x選入到自變量（Independent）框中。在方法即Method一項上請注意保持系統(tǒng)默認的選項Enter，選擇該項表示要求系統(tǒng)在建立回歸方程時把所選中的全部自變量都保留在方程中。所以該方法可命名為強制進入法（在多元回歸分析中再具體介紹這一選項的應(yīng)用）。具體如下圖所示：圖7-9 線性回歸分析主對話框請單擊Statis

3、tics按鈕，可以選擇需要輸出的一些統(tǒng)計量。如Regression Coefficients(回歸系數(shù))中的Estimates，可以輸出回歸系數(shù)及相關(guān)統(tǒng)計量，包括回歸系數(shù)B、標(biāo)準誤、標(biāo)準化回歸系數(shù)BETA、T值及顯著性水平等。Model fit 項可輸出相關(guān)系數(shù)R，測定系數(shù)R2 ，調(diào)整系數(shù)、估計標(biāo)準誤及方差分析表。上述兩項為默認選項，請注意保持選中。設(shè)置如圖7-10所示。設(shè)置完成后點擊Continue返回主對話框。 圖7-10： 線性回歸分析的Statistics選項 圖7-11：線性回歸分析的Options選項 回歸方程建立后，除了需要對方程的顯著性進行檢驗外，還需要檢驗所建立的方程是否違反

4、回歸分析的假定，為此需進行多項殘差分析。由于此部分內(nèi)容較復(fù)雜而且理論性較強，所以不在此詳細介紹，讀者如有興趣，可參閱有關(guān)資料。 用戶在進行回歸分析時，還可以選擇是否輸出方程常數(shù)。單擊Options按鈕，打開它的對話框，可以看到中間有一項Include constant in equation可選項。選中該項可輸出對常數(shù)的檢驗。在Options對話框中，還可以定義處理缺失值的方法和設(shè)置多元逐步回歸中變量進入和排除方程的準則，這里我們采用系統(tǒng)的默認設(shè)置，如圖7-11所示。設(shè)置完成后點擊Continue返回主對話框。 在主對話框點擊OK得到程序運行結(jié)果。（2）結(jié)果及解釋 上面定義的程序運行結(jié)果如下所

5、示：方程中包含的自變量列表 同時顯示進入方法。如本例中方程中的自變量為x，方法為Enter。 Variables Entered/RemovedModelVariables EnteredVariables RemovedMethod1X.Entera All requested variables entered.b Dependent Variable: Y模型擬合概述 列出了模型的R、R2 、調(diào)整R2 及估計標(biāo)準誤。R2 值越大所反映的兩變量的共變量比率越高，模型與數(shù)據(jù)的擬合程度越好。 Model SummaryModelRR SquareAdjusted R SquareStd. Er

6、ror of the Estimate1.859.738.7236.2814a Predictors: (Constant), X本例所用數(shù)據(jù)擬合結(jié)果顯示：所考察的自變量和因變量之間的相關(guān)系數(shù)為0.859，擬合線性回歸的確定性系數(shù)為0.738，經(jīng)調(diào)整后的確定性系數(shù)為0.723，標(biāo)準誤的估計為6.2814。方差分析表 列出了變異源、自由度、均方、F值及對F的顯著性檢驗。 ANOVAModel Sum of SquaresdfMean SquareFSig.1Regression1995.79111995.79150.583.000 Residual710.2091839.456 Total270

7、6.00019 a Predictors: (Constant), Xb Dependent Variable: Y本例中回歸方程顯著性檢驗結(jié)果表明：回歸平方和為1995.791，殘差平方和為710.209，總平方和為2706.000，對應(yīng)的F統(tǒng)計量的值為50.583，顯著性水平小于0.05，可以認為所建立的回歸方程有效。回歸系數(shù)表 列出了常數(shù)及非標(biāo)準化回歸系數(shù)的值及標(biāo)準化的回歸系數(shù)，同時對其進行顯著性檢驗。 Coefficients Unstandardized Coefficients Standardized CoefficientstSig.Model BStd. ErrorBeta

8、1(Constant)-7.08011.068 -.640.530 X.730.103.8597.112.000a Dependent Variable: Y本例中非標(biāo)準化的回歸系數(shù)B的估計值為0.730，標(biāo)準誤為0.103，標(biāo)準化的回歸系數(shù)為0.859，回歸系數(shù)顯著性檢驗t統(tǒng)計量的值為7.112，對應(yīng)顯著性水平Sig.=0.0000.05，可以認為方程顯著。因此，本例回歸分析得到的回歸方程為：Y=-7.08+0.73X對方程的方差分析及對回歸系數(shù)的顯著性檢驗均發(fā)現(xiàn)，所建立的回歸方程顯著。22回歸方程的預(yù)測 （1）通過因變量的觀測值和回歸預(yù)測值的比較，可以了解許多關(guān)于模型和各種假定對數(shù)據(jù)的適合

9、程度，上面回歸方程的檢驗結(jié)果表明，所得到的回歸直線是有效的。在回歸方程有效的前提下，研究者往往希望對于給定的預(yù)測變量X的一個具體數(shù)值（如X0），預(yù)測因變量Y的平均值或者預(yù)測某一個觀測的y0的值。如對于上面的例子，我們可以用回歸方程來預(yù)測智商x0=120的被試，這次的平均成績；也可以用來預(yù)測假如一名工作人員的智商是120，那么他參加這次考試，將會得多少分。 上面兩種情況下，點預(yù)測值是相同的，不同的是標(biāo)準誤。 Y0=A+BX0=-7.08+0.73120=86.52 在X0點,Y的預(yù)測均值的估計標(biāo)準誤為公式(7-24)；在X0點,Y的個體預(yù)測值的估計標(biāo)準誤為公式(7-25)。（2）SPSS可以提供

10、上述兩類預(yù)測值，具體操作如下：在如圖7-9的線性回歸模型定義的主對話框中，單擊save，出現(xiàn)如下對話框（圖7-12）： 圖7-12：預(yù)測值的定義選擇窗口在上面的窗口，可以選擇輸出變量的點預(yù)測值和平均值及其個體值預(yù)測的區(qū)間估計，如上圖，我們在Predicted Values選擇區(qū)選擇復(fù)選項Unstandardized，以輸出非標(biāo)準化的點預(yù)測值；在下面的Prediction Intervals選擇區(qū)選擇復(fù)選項Means和Individual，下面的置信水平采用系統(tǒng)默認的95%，然后點擊Continue返回主對話框，在主對話框中點擊Ok，得到的輸出結(jié)果。（3）結(jié)果及解釋除了上面介紹的回歸方程建立和檢

11、驗的結(jié)果外，在數(shù)據(jù)編輯結(jié)果，因為選擇了需要保存的預(yù)測變量的信息，數(shù)據(jù)編輯窗口數(shù)據(jù)顯示如下： 圖7-13：保存預(yù)測之后的數(shù)據(jù)窗口從上面的結(jié)果可以看出，在以前的數(shù)據(jù)的基礎(chǔ)上，新生成了五列數(shù)據(jù)，第一列命名為pre_1的變量對應(yīng)的數(shù)據(jù)表示預(yù)測變量對應(yīng)的因變量非標(biāo)準化的預(yù)測值，例如，智商為120 的被試，用回歸方程預(yù)測的這次考試的點預(yù)測值為80.49；均值預(yù)測的區(qū)間估計的上下限分別用變量lmci_1和umci_1表示，個體預(yù)測值的區(qū)間估計的上下限分別用變量 lici_1 和uici_1表示，例如，智商為120 的被試，均值95%的預(yù)測區(qū)間為：（76.42，84.56）; 個體預(yù)測95%的預(yù)測區(qū)間為：（6

12、6.68，94.30）。二、多元線性回歸1數(shù)據(jù)以本章第四節(jié)例4為例，簡單說明多元線性回歸方程的建立與檢驗。數(shù)據(jù)輸入如圖7-14（文件7-6-2.sav）： 圖7-14：多元回歸分析所用數(shù)據(jù)2SPSS操作（1）多元線性回歸所用命令語句與一元線性回歸相同，同樣可以通過單擊主菜單Analyze / Regression / Linear，進入設(shè)置對話框如圖7-9所示。從左邊變量表列中把因變量y選入到因變量（Dependent）框中，把自變量x1和x2選入到自變量（Independent）框中。 （2）點擊Method后面的下拉框，在Method框中選擇一種回歸分析的方法。SPSS提供下列幾種變量進入

13、回歸方程的方法：Enter選項，強行進入法，即所選擇的自變量全部進入回歸模型，該選項是默認方式。Remove選項，消去法，建立回歸方程時，根據(jù)設(shè)定的條件剔除部分自變量。Forward選項，向前選擇法，根據(jù)在Option對話框中所設(shè)定的判據(jù)，從無自變量開始，在擬合過程中，對被選擇的自變量進行方差分析，每次加入一個F值最大的變量，直到所有符合判據(jù)的變量都進入模型為止。第一個引入回歸模型的變量應(yīng)該與因變量相關(guān)程度最大。Backward選項，向后剔除法，根據(jù)在Option對話框中所設(shè)定的判據(jù)，先建立全模型，然后根據(jù)設(shè)置的判據(jù)，每次剔除一個使方差分析中的F值最小的自變量，直到回歸方程中不再含有不符合判據(jù)

14、的自變量為止。Stepwise選項，逐步進入法，是向前選擇法和向后剔除法的結(jié)合。根據(jù)在Option對話框中所設(shè)定的判據(jù)，首先根據(jù)方差分析結(jié)果選擇符合判據(jù)的自變量且對因變量貢獻最大的進入回歸方程。根據(jù)向前選擇法則進入自變量；然后根據(jù)向后剔除法，將模型中F值最小的且符合剔除判據(jù)的變量剔除模型，重復(fù)進行直到回歸方程中的自變量均符合進入模型的判據(jù)，模型外的自變量都不符合進入模型的判據(jù)為止。這里我們采用系統(tǒng)默認的強行進入法，其他選項均采用系統(tǒng)默認的設(shè)置。（3）點擊OK，得到上面定義模型的輸出結(jié)果為：3結(jié)果及解釋（1）方程中包含的自變量列表 同時顯示進入方法。如本例中方程中的自變量為x1和x2，選擇變量進

15、入方程的方法為Enter。 Variables Entered/RemovedModelVariables EnteredVariables RemovedMethod1X2, X1.Entera All requested variables entered.b Dependent Variable: Y（2）模型概述 列出了模型的R、R2 、調(diào)整R2 及估計標(biāo)準誤。R2 值越大所反映的自變量與因變量的共變量比率越高，模型與數(shù)據(jù)的擬合程度越好。 Model SummaryModelRR SquareAdjusted R SquareStd. Error of the Estimate1.99

16、6.991.988.82a Predictors: (Constant), X2, X1上面所定義模型確定系數(shù)的平方根為0.996，確定系數(shù)為0.991，調(diào)整后的確定系數(shù)為0.988，標(biāo)準誤為0.82。（3）方差分析表 列出了變異源、自由度、均方、F值及對F的顯著性檢驗。 ANOVAModel Sum of SquaresdfMean SquareFSig.1Regression518.2192259.109387.469.000 Residual4.6817.669 Total522.9009 a Predictors: (Constant), X2, X1b Dependent Variable: Y本例中回歸平方和為518.219，殘差平方和為4.681，總平方和為522.900，F(xiàn)統(tǒng)計量的值為387.467，Sig.05，可以認為所建立的回歸方程有效。 （4）回歸系數(shù)表 列出了常數(shù)及回歸系數(shù)的值及標(biāo)準化的值，同時對其進行顯著性檢驗。 Coefficients Unstandardized Coefficients Standardized CoefficientstSig.Model BStd. ErrorBeta 1(Constant