spss多元線性回歸分析結(jié)果解讀

1、spss多元線性回歸分析結(jié)果解讀今天我們來學(xué)習(xí)多元線性回歸分析，它用來評(píng)價(jià)一個(gè)因變量和多個(gè)自變量之間關(guān)系的統(tǒng)計(jì)方法。除了需要滿足一元線性回歸的條件之外，多元線性回歸還需要滿足【多個(gè)自變量不存在多重共線】的條件，多元線性回歸需要滿足如下條件。（1）自變量和因變量在理論上有因果關(guān)系；（2）因變量為連續(xù)型變量；（3）各自變量與因變量之間存有線性關(guān)系；（4）殘差要滿足正態(tài)性、獨(dú)立性、方差齊性。（5）多個(gè)自變量不存在多重共線性其中，線性（Linear）、正態(tài)性（Normal）、獨(dú)立性（independence）、方差齊性（Equal Variance），俗稱LINE，是線性回歸分析的四大基本前提條件。這

2、里稍微解釋它們概念：Q1線性：解釋自變量X和因變量Y必須要有線性關(guān)系嗎？-不是！只有當(dāng)X是連續(xù)型數(shù)據(jù)或者等級(jí)數(shù)據(jù)（不設(shè)啞變量）時(shí)，才要求X與Y有線性的關(guān)系。當(dāng)X是二分類或無需多分類，沒有線性條件的要求。Q2獨(dú)立性：要求因變量Y各觀察值相互獨(dú)立嗎？-不是，是要求殘差是獨(dú)立的。Q3正態(tài)性：要求因變量Y各觀察值正態(tài)分布嗎？-不是，是要求殘差正態(tài)分布。Q4方差齊性：要求不同的解釋變量X時(shí)，因變量Y方差相等嗎？-沒錯(cuò)，但是對(duì)于多元線性回歸分析，更加合理的理解是在不同Y預(yù)測(cè)值情況下，殘差的方差變化不大。Q5：一定要嚴(yán)格滿足LINK嗎？-如果回歸分析只是建立自變量與因變量之間關(guān)系，無須根據(jù)自變量預(yù)測(cè)因變量的

3、容許區(qū)間和可信度等，則方差齊性和正態(tài)性可以適當(dāng)放寬。何為殘差？殘差在數(shù)理統(tǒng)計(jì)中是指實(shí)際觀察值與估計(jì)值（擬合值）之間的差。我們以一元線性回歸為例，它只有一個(gè)自變量，其模型可以表示為：上述公式是基于樣本得到的結(jié)果，b0和b1均為統(tǒng)計(jì)量。若該公式拓展到總體人群，則為：值得注意的是，這里x是真實(shí)的變量值x，而y帶了一頂帽子，并非是y的真實(shí)值，而是成為y的預(yù)測(cè)值或者估計(jì)值。實(shí)際上，x和y沒有嚴(yán)格上一一對(duì)應(yīng)的關(guān)系，通過x產(chǎn)生的預(yù)測(cè)值，是接近于y但不等于y。y預(yù)測(cè)值與y真實(shí)值之間的差值我們稱之為殘差。殘差反映了除了x和y之間的線性關(guān)系之外的隨機(jī)因素對(duì)y的影響，是不能由x和y之間的線性關(guān)系所解釋的變異性?？梢?/p>

4、這么來理解：我們對(duì)y的預(yù)測(cè)是不可能達(dá)到與真實(shí)值完全一樣的，因此必然會(huì)產(chǎn)生誤差，我們就用來表示這個(gè)無法預(yù)測(cè)的誤差。我們通過引入了可以讓模型達(dá)到完美狀態(tài)，也就是理論的回歸模型。結(jié)合殘差，真實(shí)的y和x關(guān)系如下：同樣的，多個(gè)自變量存在的情況下，多重線性回歸模型的表示如下：其中，bk、k：回歸系數(shù)，在多重線性回歸中，被稱之為偏回歸系數(shù)，表示每個(gè)自變量都對(duì)y部分的產(chǎn)生了影響。意義與簡單線性回歸結(jié)果相似，反映的是x對(duì)y的影響力，是當(dāng)x每改變一個(gè)觀測(cè)單位時(shí)所引起y的改變量。這里e是樣本的預(yù)測(cè)值與測(cè)量值的差別，是總體中預(yù)測(cè)值與真實(shí)值的差別。戴了帽子的y預(yù)測(cè)值的變異性是解釋變量x們能夠預(yù)測(cè)和解釋的。一般情況下，成

5、功的線性回歸模型實(shí)現(xiàn)：（1）殘差是一個(gè)期望為0的隨機(jī)變量，即E()=0（2）對(duì)于預(yù)測(cè)值的所有值，的方差2都相同（3）殘差是一個(gè)服從正態(tài)分布的隨機(jī)變量，且相互獨(dú)立，即N(0,2)何為多重共線？當(dāng)2個(gè)或多個(gè)自變量高度相關(guān)時(shí)，就會(huì)出現(xiàn)多重共線。它不僅影響自變量對(duì)因變量變異的解釋能力，還影響整個(gè)多重線性回歸模型的擬合。一、實(shí)戰(zhàn)案例小白研究運(yùn)動(dòng)員訓(xùn)練比賽滿意感與成就感降低、情緒體力耗竭、運(yùn)動(dòng)負(fù)評(píng)價(jià)、自尊等變量之間關(guān)系，試建立多元線性回歸方程（部分?jǐn)?shù)據(jù)如下，完整數(shù)據(jù)請(qǐng)回復(fù)【小白數(shù)據(jù)】下載）。該案例研究運(yùn)動(dòng)員訓(xùn)練比賽滿意感與多個(gè)自變量（成就感降低、情緒體力耗竭、運(yùn)動(dòng)負(fù)評(píng)價(jià)、自尊）之間的關(guān)系。從專業(yè)知識(shí)上可認(rèn)

6、為成就感降低、情緒體力耗竭、運(yùn)動(dòng)負(fù)評(píng)價(jià)、自尊是可以預(yù)測(cè)訓(xùn)練比賽滿意感的。二、統(tǒng)計(jì)策略統(tǒng)計(jì)分析策略口訣“目的引導(dǎo)設(shè)計(jì)，變量確定方法”（啥意思？請(qǐng)點(diǎn)擊此處復(fù)習(xí)一張腦圖搞定！統(tǒng)計(jì)方法選擇）針對(duì)上述案例，捫心五問。Q1：本案例研究目的是什么？A：關(guān)聯(lián)研究，探討多個(gè)自變量與因變量之間的因果關(guān)系。Q2：分析的組數(shù)是多少呢？A：五組數(shù)據(jù)。Q3：本案例屬于什么研究設(shè)計(jì)？A：調(diào)查研究Q4：有幾個(gè)變量？A：有五個(gè)變量。分別是成就感降低、情緒體力耗竭、運(yùn)動(dòng)負(fù)評(píng)價(jià)、訓(xùn)練比賽滿意感、自尊。（訓(xùn)練比賽滿意感為因變量，成就感降低、情緒體力耗竭、運(yùn)動(dòng)負(fù)評(píng)價(jià)、自尊為自變量）Q5：殘差是否具有獨(dú)立性、方差齊性和正態(tài)分布？A：需要

7、檢驗(yàn)殘差是否滿足獨(dú)立性、方差齊性和正態(tài)性。Q6：各自變量之間是否存在多重共線性？A:需要檢驗(yàn)概括而言，如果數(shù)據(jù)滿足以下條件，則采用多元線性回歸分析。三、SPSS操作（一）繪制散點(diǎn)圖對(duì)于線性關(guān)系的條件，一般要求當(dāng)x是連續(xù)型變量或者等級(jí)變量時(shí)，需繪制散點(diǎn)圖探討與y是否存在著線性趨勢(shì)的關(guān)系；如x為二分類或者無序多分類，無須繪制散點(diǎn)圖。本例繪制成就感降低、情緒體力耗竭、運(yùn)動(dòng)負(fù)評(píng)價(jià)、自尊與訓(xùn)練比賽滿意感之間關(guān)系的散點(diǎn)圖分析。具體操作如下。Step1：圖形圖形畫板模板選擇器Step2：按Shift選擇左邊的對(duì)話框所有的變量，同時(shí)點(diǎn)擊【散點(diǎn)圖矩陣】，點(diǎn)擊【確定】。輸出結(jié)果如下，重點(diǎn)關(guān)注最后一行，即各自變量（

8、成就感降低、情緒體力耗竭、運(yùn)動(dòng)負(fù)評(píng)價(jià)、自尊）與因變量（訓(xùn)練比賽滿意感）之間線性關(guān)系。從圖中可知，各自變量與因變量之間存有線性關(guān)系。（二）線性回歸分析操作Step1:依次點(diǎn)擊“分析回歸線性Step2:將“訓(xùn)練比賽滿意感”納入“因變量”；將成就感降低、情緒體力耗竭、運(yùn)動(dòng)負(fù)評(píng)價(jià)、自尊放入“自變量”；方法選擇“輸入”Step3:點(diǎn)擊“統(tǒng)計(jì)”默認(rèn)選項(xiàng)“估算值”；“模型擬合”；另選擇“durin waston(德賓-沃森)和“描述”。設(shè)置完后，點(diǎn)擊“繼續(xù)”。Step4:在彈出“線性回歸：圖”對(duì)話框中將“*ZRESID”（標(biāo)準(zhǔn)化殘差）放入Y軸中，將“*ZPRED”（標(biāo)準(zhǔn)化預(yù)測(cè)值）放入X軸中，勾選“直方圖”和

9、“正態(tài)概率圖”，單擊“繼續(xù)”。點(diǎn)擊“確定”。Step5:點(diǎn)擊“保存”后勾選預(yù)測(cè)值的“未標(biāo)準(zhǔn)化”和“殘差的未標(biāo)準(zhǔn)化”。四、結(jié)果解讀第一，呈現(xiàn)的是R方結(jié)果和殘差獨(dú)立性檢驗(yàn)（德賓沃森檢驗(yàn)）：模型摘要是判斷兩者之間線性關(guān)系的重要指標(biāo)，也反映了回歸的擬合程度。一般情況下，看的是“調(diào)整”，該值相對(duì)不受自變量個(gè)數(shù)的影響，結(jié)果更為可靠。本例包括多個(gè)自變量，建議報(bào)告調(diào)整=0.487。表明“所有自變量”解釋“訓(xùn)練比賽滿意感”的48.7%變異。德賓沃森檢驗(yàn)若結(jié)果在0-4之間，基本可認(rèn)為數(shù)據(jù)獨(dú)立性符合。本例的德賓沃森值為1.761，符合獨(dú)立性。第二個(gè)結(jié)果為方差分析（ANOVA）：主要探討模型的是否成功建成。本案例F=

10、24.464，P0.001，說明至少有一個(gè)自變量解釋了一部分的因變量的變異，從而使得回歸變異變大，殘差變異減少，模型成功建立。值得注意的是，本題“平方”和即變異程度（離均差平方和），=回歸變異平方和/總的平方和=1807.759/3562.760=0.507。因此方差分析和結(jié)果同出一源，方差分析側(cè)重于分析模型是否成功，側(cè)重于探討模型有多成功(相當(dāng)于效應(yīng)量)。如果P0.05，就說明多重線性回歸模型中至少有一個(gè)自變量的系數(shù)不為零。同時(shí)，回歸模型有統(tǒng)計(jì)學(xué)意義也說明相較于空模型，納入自變量有助于預(yù)測(cè)因變量，或說明該模型優(yōu)于空模型。第三個(gè)結(jié)果，回歸分析的主要結(jié)果：計(jì)算回歸系數(shù)、并對(duì)回歸系數(shù)進(jìn)行假設(shè)檢驗(yàn)，

11、探討影響因素。本研究結(jié)果顯示：成就感降低（b=-0.72，=-0.353，P0.001）、情緒體力耗竭（b=-0.358，=-0.209，P=0.009）和自尊（b=0.604，=0.352，P0.001）均會(huì)影響訓(xùn)練比賽滿意感。其中，成就感降低和情緒體力耗竭負(fù)向預(yù)測(cè)（因?yàn)榛貧w系數(shù)為負(fù)）訓(xùn)練比賽滿意感，而自尊正向預(yù)測(cè)（因?yàn)榛貧w系數(shù)為正）訓(xùn)練比賽滿意感。運(yùn)動(dòng)負(fù)評(píng)價(jià)不會(huì)影響訓(xùn)練比賽滿意感（b=-0.106，=-0.052，P=0.552）。共線性統(tǒng)計(jì)包括方差膨脹因子（VIF）和容差兩個(gè)指標(biāo)，事實(shí)上，VIF=容差的倒數(shù)（1/容差），我們只需要判斷其中一個(gè)指標(biāo)即可。如果容忍度小于0.1（或方差膨脹因子

12、大于10），提示數(shù)據(jù)存在多重共線性。在本研究中，所有容忍度值都大于0.1（最小值為0.639），說明本研究自變量多重共線不嚴(yán)重。第四個(gè)結(jié)果，由于本例選擇計(jì)算殘差和預(yù)測(cè)值，可以通過下表來看預(yù)測(cè)值和殘差結(jié)果在數(shù)據(jù)庫中，可以發(fā)現(xiàn)增加了PRE_1（預(yù)測(cè)值）和RES_1（殘差），兩組相加，剛好是y“訓(xùn)練比賽滿意感”第五個(gè)結(jié)果，殘差直方圖和P-P圖?？梢钥闯觯纠龤埐钪狈綀D服從正態(tài)分布，且均數(shù)接近于0，標(biāo)準(zhǔn)差接近于1（標(biāo)準(zhǔn)正態(tài)分布），這意味著線性回歸在正態(tài)性條件是達(dá)到的。P-P圖也表明滿足正態(tài)性條件。第六個(gè)結(jié)果，殘差圖。殘差圖的x、y軸分別是因變量預(yù)測(cè)值的標(biāo)準(zhǔn)化值和殘差的標(biāo)準(zhǔn)化值（一般x軸是預(yù)測(cè)值的標(biāo)準(zhǔn)化

13、值）。本例從圖形來看，標(biāo)準(zhǔn)化殘差圖分布在0值周圍，基本是上下對(duì)稱分布，分布特征不隨預(yù)測(cè)值的增加而發(fā)生改變，意味著數(shù)據(jù)方差齊性、獨(dú)立性條件符合。五、規(guī)范報(bào)告規(guī)范報(bào)告有多種方式，本公眾號(hào)只提供一種方式供參考。1、規(guī)范表格2、規(guī)范文字采用多元線性回歸分析結(jié)果顯示，回歸方程顯著，F(xiàn)=24.464，p0.001。其中，成就感降低（=-0.353，P0.001）、情緒體力耗竭（=-0.209，p=0.009）顯著負(fù)向預(yù)測(cè)訓(xùn)練比賽滿意感，自尊（=-0.352，p0.001）顯著正向預(yù)測(cè)訓(xùn)練比賽滿意感。運(yùn)動(dòng)負(fù)評(píng)價(jià)不能預(yù)測(cè)訓(xùn)練比賽滿意感（=-0.596，p=0.552）。這些變量共解釋訓(xùn)練比賽滿意感48.70%的變異。六、劃重點(diǎn)1、多元線性回歸分析本質(zhì)上是探討變量之間相關(guān)關(guān)系，只有在理論上滿足多個(gè)自變量與因變量之間存在因果關(guān)系，才可開展回歸分析。此外，即使回歸分析顯著，在解釋因果關(guān)系也需謹(jǐn)慎。2、多元線性回歸中的因變量需滿足連續(xù)型變量；自變量可以分類變量、次序變量和連續(xù)型變量。3、如果自變量為連續(xù)型變量，則需