多元線性回歸的SPSS實(shí)現(xiàn)

1、版權(quán)所有，盜版必究多元線性回歸的多元線性回歸的SPSS實(shí)現(xiàn)實(shí)現(xiàn)深大師范學(xué)院1、多元線性回歸的前提假設(shè)2、衡量多元線性回歸方程優(yōu)劣的標(biāo)準(zhǔn) 各子對(duì)話框介紹 3、多元性回歸的SPSS實(shí)現(xiàn) 常選按鈕 結(jié)果分析4、多元線性回歸預(yù)測(cè)和區(qū)間估計(jì)版權(quán)所有，盜版必究概要一、線性回歸的前提假設(shè)及SPSS操作實(shí)現(xiàn)線性趨勢(shì)（線性趨勢(shì)（Linear） 自變量與因變量的關(guān)系是線性的，否則不能采用線性回歸，可通過散點(diǎn)圖判斷。獨(dú)立性（獨(dú)立性（Independent） 因變量的取值相互獨(dú)立，沒有自相關(guān)。也即是要求殘差間相互獨(dú)立，否則應(yīng)采用自回歸來分析。自變量多重共線性的判斷。正態(tài)性（正態(tài)性（Normal） 就自變量的任何一個(gè)線

2、性組合，因變量均服從正態(tài)分布，即要求殘差服從正態(tài)。方差齊性（方差齊性（Equal） 就自變量的任何一個(gè)線性組合，因變量的方差均相同，即要求殘差方差齊。版權(quán)所有，盜版必究1、線性趨勢(shì)（GraphsLegaly DialogsScatter/dotMatrix Scatter）(即散點(diǎn)圖判斷) 當(dāng)有多個(gè)自變量時(shí)，可以通過散點(diǎn)圖矩陣同時(shí)繪制各變量間的散點(diǎn)圖，快速發(fā)現(xiàn)多個(gè)變量間的主要相關(guān)。散點(diǎn)圖矩陣散點(diǎn)圖矩陣版權(quán)所有，盜版必究1、線性趨勢(shì)（GraphsLegaly DialogsScatter/dotMatrix Scatter）(即散點(diǎn)圖判斷)版權(quán)所有，盜版必究1、線性趨勢(shì)（GraphsLegaly

3、 DialogsScatter/dotMatrix Scatter）(即散點(diǎn)圖判斷)4個(gè)變量?jī)蓛蓚€(gè)變量?jī)蓛上嘟恍纬上嘟恍纬? 4的矩陣。的矩陣。由散點(diǎn)圖可知題目類型與試題難度間由散點(diǎn)圖可知題目類型與試題難度間的線性條件不明顯，因此可以不考慮的線性條件不明顯，因此可以不考慮題目類型對(duì)試題難度的回歸。題目類型對(duì)試題難度的回歸。版權(quán)所有，盜版必究2、正態(tài)性（ GraphsLegaly DialogsHistogram）點(diǎn)此，才可給出正態(tài)分布曲線圖版權(quán)所有，盜版必究正態(tài)性是指在給定一組X后，Y的分布為正態(tài)分布。2、正態(tài)性（ GraphsLegaly DialogsHistogram）版權(quán)所有，盜版必究

4、3、方差齊性（AnalyzeRegressionLinear Regression：plot選項(xiàng)介紹）選入ZPRED與ZRESID進(jìn)入X,Y兩個(gè)變量框就可實(shí)現(xiàn)。版權(quán)所有，盜版必究二、衡量多元線性回歸模型優(yōu)劣的標(biāo)準(zhǔn)1、復(fù)相關(guān)系數(shù)R（Multiple Correlation Coefficient）:表示模型中所有自變量與因變量之間線性回歸關(guān)系的密切程度大小，取值范圍為（0,1）,R值越大越好。2、決定系數(shù)R2（Determinate Coefficient):等于復(fù)相關(guān)系數(shù)的平方。表示因變量的總變異中可由回歸模型中自變量解釋的部分所占的比例。 R2越大越好。版權(quán)所有，盜版必究二、衡量多元線性回歸

5、模型優(yōu)劣的標(biāo)準(zhǔn)3、校正的決定系數(shù)R2adj(Adjusted R Square)：當(dāng)模型中增加的變量沒有統(tǒng)計(jì)學(xué)意義時(shí)，校正系數(shù)會(huì)減小，校正系數(shù)越大，模型擬合的越好。4、剩余標(biāo)準(zhǔn)差（Std.Error Of The Estimate）：剩余標(biāo)準(zhǔn)差越小，說明建立的模型效果越好。版權(quán)所有，盜版必究二、衡量多元線性回歸模型優(yōu)劣的標(biāo)準(zhǔn)版權(quán)所有，盜版必究三、線性回歸的SPSS實(shí)現(xiàn)1、 SPSS中的回歸分析操作（AnalyzeRegressionLinear Regression）：各復(fù)選框基本知識(shí)介紹因變量框自變量框選取變量的方法版權(quán)所有，盜版必究SPSS提供了五種選取變量的方法：提供了五種選取變量的方法

6、： 強(qiáng)迫進(jìn)入變量法（強(qiáng)迫進(jìn)入變量法（Enter）：常用方法，強(qiáng)迫所有變量有順序進(jìn)入回）：常用方法，強(qiáng)迫所有變量有順序進(jìn)入回歸方程式。若研究者有事先建立的假設(shè)，決定變量重要性層次則該適用該歸方程式。若研究者有事先建立的假設(shè)，決定變量重要性層次則該適用該法。法。 逐步多元回歸分析法（逐步多元回歸分析法（Stepwise）：逐一、重復(fù)篩查引入變量，直至）：逐一、重復(fù)篩查引入變量，直至獲得最好模型。獲得最好模型。 向前進(jìn)入法（向前進(jìn)入法（Forward）：對(duì)各變量擬合其與因變量的模型，將）：對(duì)各變量擬合其與因變量的模型，將p值值最小的模型對(duì)應(yīng)的自變量首先選入方程。最小的模型對(duì)應(yīng)的自變量首先選入方程。

7、向后進(jìn)入法（向后進(jìn)入法（Backward）：對(duì)各變量擬合其與因變量的模型，將）：對(duì)各變量擬合其與因變量的模型，將p值值最大的模型對(duì)應(yīng)的自變量首先剔除出方程。最大的模型對(duì)應(yīng)的自變量首先剔除出方程。 刪除法（刪除法（Remove）：自變量被強(qiáng)制剔除出模型。）：自變量被強(qiáng)制剔除出模型。版權(quán)所有，盜版必究1、 SPSS中的回歸分析操作（AnalyzeRegressionLinear Regression）：各復(fù)選框基本知識(shí)介紹各子對(duì)話框版權(quán)所有，盜版必究默認(rèn)輸出項(xiàng)，輸出與回歸系數(shù)相關(guān)的默認(rèn)輸出項(xiàng)，輸出與回歸系數(shù)相關(guān)的統(tǒng)計(jì)量，如回歸系數(shù)、回歸系數(shù)標(biāo)準(zhǔn)統(tǒng)計(jì)量，如回歸系數(shù)、回歸系數(shù)標(biāo)準(zhǔn)誤、標(biāo)準(zhǔn)回歸系數(shù)、統(tǒng)計(jì)

8、量和相應(yīng)的誤、標(biāo)準(zhǔn)回歸系數(shù)、統(tǒng)計(jì)量和相應(yīng)的相伴概率值、各自變量容忍度等。相伴概率值、各自變量容忍度等。1、 SPSS中的回歸分析操作（Statistics介紹）奇異值判別（默認(rèn)值為三個(gè)標(biāo)準(zhǔn)差之外）。多重共線性的識(shí)別:對(duì)自變量的考察。默認(rèn)輸出判定系數(shù)、調(diào)整默認(rèn)輸出判定系數(shù)、調(diào)整判定系數(shù)、回歸方程的標(biāo)判定系數(shù)、回歸方程的標(biāo)準(zhǔn)誤、準(zhǔn)誤、F 檢驗(yàn)分析表。檢驗(yàn)分析表。版權(quán)所有，盜版必究多重共線性的識(shí)別（Collinearity Diagnostics）容忍度（Tolerance）：等于1減去以該自變量為反應(yīng)變量Independent框中選入的其他自變量為自變量所得到的線性回歸模型的決定系數(shù)。容忍度越小，

9、多重共線性越嚴(yán)重。方差膨脹因素（Variance Inflation Factor，VIF）：容忍度的倒數(shù)；VIF越大，多重共線性問題越大。條件指針（Condiction Index，CI 值）：等于最大的主成分與當(dāng)前主成分的比值的算術(shù)平方根。所以第一個(gè)主成分相對(duì)應(yīng)的條件指數(shù)總為1.同樣，如果幾個(gè)條件指數(shù)較大（如30），則提示存在多重共線性。版權(quán)所有，盜版必究多重共線性的識(shí)別（Collinearity Diagnostics）特征根（Eigenvalue）：對(duì)模型中常數(shù)項(xiàng)及所有自變量計(jì)算主成分，如果自變量間存在較強(qiáng)的線性相關(guān)關(guān)系，則前面的幾個(gè)主成分?jǐn)?shù)值較大，而后面的幾個(gè)主成分較小，甚至接近0。

10、變異構(gòu)成（Variance Proportion）:回歸模型中各項(xiàng)（包括常數(shù)項(xiàng)）的變異被各主成分所解釋的比例，如果某個(gè)主成分對(duì)兩個(gè)或多個(gè)自變量的貢獻(xiàn)均較大（大于0.5），說明這幾個(gè)自變量間存在一定程度的共線性。版權(quán)所有，盜版必究多重共線性的識(shí)別版權(quán)所有，盜版必究1、 SPSS中的回歸分析操作（Statistics介紹）輸出每一個(gè)非標(biāo)準(zhǔn)回歸輸出每一個(gè)非標(biāo)準(zhǔn)回歸系數(shù)系數(shù) 95% 95% 的可信區(qū)間。的可信區(qū)間。輸出方程各自變量間的相輸出方程各自變量間的相關(guān)系數(shù)矩陣和各變量的協(xié)關(guān)系數(shù)矩陣和各變量的協(xié)方差矩陣。方差矩陣。引入一個(gè)變量后，決定系引入一個(gè)變量后，決定系數(shù)的變化。數(shù)的變化。自變量、因變量的描

11、述統(tǒng)自變量、因變量的描述統(tǒng)計(jì)值及相關(guān)系數(shù)等。計(jì)值及相關(guān)系數(shù)等。版權(quán)所有，盜版必究1、 SPSS中的回歸分析操作（Statistics介紹）自變量、因變量的簡(jiǎn)單相自變量、因變量的簡(jiǎn)單相關(guān)系數(shù)、偏相關(guān)系數(shù)等。關(guān)系數(shù)、偏相關(guān)系數(shù)等。關(guān)于殘差分析選擇區(qū)關(guān)于殘差分析選擇區(qū)D-W檢驗(yàn)值檢驗(yàn)值版權(quán)所有，盜版必究1、 SPSS中的回歸分析操作（Plot介紹）版權(quán)所有，盜版必究因變量標(biāo)準(zhǔn)化預(yù)測(cè)值標(biāo)準(zhǔn)化殘差剔除殘差1、 SPSS中的回歸分析操作（Plot介紹）Plot按鈕提供了繪制殘差的直方圖及PP圖法。注意：自變量與因變量間關(guān)系并非線性、殘差參差不齊、觀測(cè)值間不獨(dú)立等情況均會(huì)導(dǎo)致殘差的直方圖和PP圖表現(xiàn)出非正態(tài)

12、。因此建議在確認(rèn)殘差服從線性回歸的其他幾項(xiàng)條件后，再來研究殘差分布是否正態(tài)。版權(quán)所有，盜版必究修正后預(yù)測(cè)值學(xué)生化殘差學(xué)生化剔除殘差1、 SPSS中的回歸分析操作（Plot介紹）版權(quán)所有，盜版必究輸出每一個(gè)變量相對(duì)于因變量的殘差散點(diǎn)圖輸出帶有正態(tài)曲線的標(biāo)準(zhǔn)化殘差的直方圖。輸出P-P圖：即殘差的正態(tài)效率圖，檢查殘差的正態(tài)性。1、 SPSS中的回歸分析操作（Plot介紹）殘差直方圖殘差直方圖版權(quán)所有，盜版必究1、 SPSS中的回歸分析操作（Plot介紹）殘差殘差PP圖圖版權(quán)所有，盜版必究1、 SPSS中的回歸分析操作（Plot介紹）標(biāo)化預(yù)測(cè)值和標(biāo)化殘差散點(diǎn)圖標(biāo)化預(yù)測(cè)值和標(biāo)化殘差散點(diǎn)圖版權(quán)所有，盜版必

13、究1、 SPSS中的回歸分析操作（Plot介紹）版權(quán)所有，盜版必究自變量?jī)?nèi)容深度的殘差相對(duì)于因變量試題難度的散布圖1、 SPSS中的回歸分析操作（save介紹）預(yù)測(cè)值輸出殘差值距離欄輸出影響點(diǎn)的統(tǒng)計(jì)量預(yù)測(cè)區(qū)間1、 SPSS中的回歸分析操作（Save介紹）非標(biāo)準(zhǔn)化預(yù)測(cè)值標(biāo)準(zhǔn)化預(yù)測(cè)值預(yù)測(cè)值復(fù)選框修正后預(yù)測(cè)值預(yù)測(cè)值的標(biāo)準(zhǔn)誤版權(quán)所有，盜版必究1、 SPSS中的回歸分析操作（Save介紹）版權(quán)所有，盜版必究預(yù)測(cè)區(qū)間預(yù)測(cè)區(qū)間高低值的平均值觀測(cè)量上、下限的間距置信區(qū)間，默認(rèn)為95%，可鍵入0-99.99間的值1、 SPSS中的回歸分析操作（Save介紹）殘差復(fù)選框殘差復(fù)選框非標(biāo)化殘差標(biāo)準(zhǔn)化殘差學(xué)生化殘差剔除

14、殘差學(xué)生化剔除殘差版權(quán)所有，盜版必究2、回歸分析的SPSS實(shí)現(xiàn)（AnalyzeRegressionLinear Regression）：實(shí)現(xiàn)時(shí)各子對(duì)話框最常用的選項(xiàng)版權(quán)所有，盜版必究statistics2、回歸分析的SPSS實(shí)現(xiàn)（AnalyzeRegressionLinear Regression）：實(shí)現(xiàn)時(shí)各子對(duì)話框最常用的選項(xiàng)版權(quán)所有，盜版必究plots2、回歸分析的SPSS實(shí)現(xiàn)（AnalyzeRegressionLinear Regression）：實(shí)現(xiàn)時(shí)各子對(duì)話框最常用的選項(xiàng)版權(quán)所有，盜版必究save3、回歸分析的SPSS實(shí)現(xiàn)（AnalyzeRegressionLinear Regres

15、sion）結(jié)果分析由圖可知，模型1是僅包含自變量能力層次的模型，模型2是包含自變量能力層次和內(nèi)容深度的模型。經(jīng)逐步回歸，模型2是最終得到的模型（剔除了自變量題目類型），其決定性系數(shù) =0.8862R其決定性系數(shù)為0.886版權(quán)所有，盜版必究3、回歸分析的SPSS實(shí)現(xiàn)（AnalyzeRegressionLinear Regression）結(jié)果分析y=-1.598+0.283x1 +0.205x2常數(shù)值容忍度大小適中，方差膨脹因子數(shù)值不大，可以拒絕它們之間的共線性假設(shè)。版權(quán)所有，盜版必究對(duì)各自變量的回歸系數(shù)的顯著性檢驗(yàn)。 由圖可知，模型1和模型2的回歸方差均顯著大于剩余方差，F(xiàn)值分別為77.399

16、和65.925，=0.000，均小于0.01，說明所建回歸方程均是有效的。3、回歸分析的SPSS實(shí)現(xiàn)（AnalyzeRegressionLinear Regression）結(jié)果分析（顯著性檢驗(yàn)）版權(quán)所有，盜版必究 SPSS輸出的每一步被排除在模型之外的自變量其回歸系數(shù)估計(jì)、偏相關(guān)系數(shù)、多重共線性的容忍度等。3、回歸分析的SPSS實(shí)現(xiàn)（AnalyzeRegressionLinear Regression）結(jié)果分析（顯著性檢驗(yàn)）版權(quán)所有，盜版必究3、回歸分析的SPSS實(shí)現(xiàn)（AnalyzeRegressionLinear Regression）結(jié)果分析（顯著性檢驗(yàn)）殘差是正態(tài)的版權(quán)所有，盜版必究3、回歸分析的SPSS實(shí)現(xiàn)（AnalyzeRegressionLinear Regression）結(jié)果分析（顯著性檢驗(yàn)）版權(quán)所有，盜版必究回歸模型優(yōu)劣判斷3、回歸分析的SPSS實(shí)現(xiàn)（Analyz