心理學(xué)研究方法-多元回歸分析課件

多元線性回歸多元線性回歸1內(nèi)容基礎(chǔ)概念一元線性回歸一元回歸方程、線性回歸條件步驟強(qiáng)影響點(diǎn)判斷多元線性回歸1、回歸方程、線性回歸條件2、線性回歸步驟3、評(píng)價(jià)方程的優(yōu)度4、強(qiáng)影響點(diǎn)判斷5、多重共線性的判斷內(nèi)容基礎(chǔ)概念2基礎(chǔ)概念基礎(chǔ)概念3回歸什么是回歸？變量間存在相關(guān)關(guān)系時(shí)，也就具備了建立預(yù)測(cè)關(guān)系的基礎(chǔ)。在相關(guān)變量見建立預(yù)測(cè)方程式的統(tǒng)計(jì)學(xué)方法叫做回歸分析。在問卷調(diào)查中用得多包括線性和非線性、一元和多元回歸分析回歸什么是回歸？4一元和多元線性回歸一元線性回歸：在兩個(gè)變量具有線性關(guān)系的基礎(chǔ)上，建立預(yù)測(cè)方程式。用一個(gè)變量預(yù)測(cè)另一個(gè)變量。如兒童的身高和體重存在線性相關(guān)，當(dāng)?shù)弥砀邥r(shí)，預(yù)測(cè)被試的體重范圍。多元線性回歸：多個(gè)變量都與一個(gè)變量存在相關(guān)關(guān)系，建立用預(yù)測(cè)方程式。用多個(gè)變量預(yù)測(cè)某一個(gè)變量。例如：兒童的體重和年齡，都與身高存在線性關(guān)系，當(dāng)已知體重和年齡時(shí)，對(duì)身高進(jìn)行預(yù)測(cè)。一元和多元線性回歸的差別在于自變量的個(gè)數(shù)一元和多元線性回歸一元線性回歸：在兩個(gè)變量具有線性關(guān)系的基礎(chǔ)5一元線性回歸一元線性回歸6一元線性回歸方程（使用原始數(shù)據(jù)計(jì)算的回歸方程）Y是因變量，X是自變量，alpha和beta是待求的參數(shù)。β=

（δy/δx）*r，稱為非標(biāo)準(zhǔn)化回歸系數(shù)α=μy-βμx標(biāo)準(zhǔn)化回歸方程（使用標(biāo)準(zhǔn)化的數(shù)據(jù)計(jì)算的回歸方程）ZY=BZxB

=

（δZy/δZx）*r=1*r=r，稱為標(biāo)準(zhǔn)化回歸系數(shù)兩種方程表現(xiàn)形式一元線性回歸方程（使用原始數(shù)據(jù)計(jì)算的回歸方程）Y是因變量，X7回歸分析的一般過程1、提出假設(shè)的回歸模型，確定自變量和因變量。自變量是現(xiàn)實(shí)中容易測(cè)量的，而因變量是難測(cè)量的，如幸福感、自我效能感等2、估計(jì)回歸是線性還是非線性，用散點(diǎn)圖判斷。如果是線性則用線性回歸。(必須做)3、建立回歸方程4、回歸方程的有效性檢驗(yàn)，測(cè)定系數(shù)和回歸系數(shù)回歸分析的一般過程1、提出假設(shè)的回歸模型，確定自變量和因變量8一元線性回歸的條件1、線性趨勢(shì)（用散點(diǎn)圖檢測(cè)）2、獨(dú)立性：因變量y的取值相互獨(dú)立，殘差獨(dú)立。用durbin-watson計(jì)算，值在0-4。如果殘差間相互獨(dú)立，則取值在2附近。D小于2說明相鄰誤差存在負(fù)相關(guān)。大于2，說明存在正相關(guān)3、正態(tài)性：自變量的任何一個(gè)線性組合，因變量y都服從正態(tài)分布，殘差正態(tài)（直方圖和PP圖）。4、方差齊性：自變量的任何一個(gè)線性組合，因變量y的方差均相同（把ZPRED放入Y軸，把ZRESID放入X軸做圖）一元線性回歸的條件1、線性趨勢(shì)（用散點(diǎn)圖檢測(cè)）9注意的問題強(qiáng)影響點(diǎn)判斷（極端值的判斷）Cook’sdistance：當(dāng)值>1，表明是特別大的極端值。leverage值（杠桿值）：當(dāng)值>3倍均數(shù)，均數(shù)為（自變量個(gè)數(shù)+1）/N畫散點(diǎn)圖：最后把cook距離值和leverage杠桿值分別作為X和Y軸畫散點(diǎn)圖，方便判斷。強(qiáng)影響點(diǎn)處理判斷原因，考慮是否刪除注意的問題強(qiáng)影響點(diǎn)判斷（極端值的判斷）10一元線性回歸例子建立體重和肺活量的回歸方程（用練習(xí)1的數(shù)據(jù)）一元線性回歸例子建立體重和肺活量的回歸方程（用練習(xí)1的數(shù)據(jù)）11一元線性回歸步驟先探索數(shù)據(jù)，判斷是否整態(tài)、極端值畫散點(diǎn)圖（畫出散點(diǎn)圖后，雙擊圖，右鍵選addfitlineattotaltool）Analyze-regression-把肺活量放入因變量dependent-體重放入自變量independentStatistics-默認(rèn)的-residuals-durinwastonsave——distance–勾上Cook’s和leverage值Plots-histogram和normalprobabilityplot勾上-把ZPRED放入Y，把ZRESID放入X軸——OK一元線性回歸步驟先探索數(shù)據(jù)，判斷是否整態(tài)、極端值12β=

（δy/δx）*r=（0.41989/7.426）*0.881=0.04981α=μy-βμx=3.1027-0.04981*53.43=0.441原始回歸方程Y=0.0498X+0.441標(biāo)準(zhǔn)化回歸方程Zy=0.881Zxβ=（δy/δx）*r=（0.41989/7.42613測(cè)定系數(shù)判斷因變量Y是獨(dú)立的回歸方程的顯著性檢驗(yàn)回歸方程的系數(shù)、標(biāo)準(zhǔn)化回歸系數(shù)、回歸系數(shù)的顯著性檢驗(yàn)測(cè)定系數(shù)判斷因變量Y是獨(dú)立的回歸方程的顯著性檢驗(yàn)回歸方程的系14決定系數(shù)決定系數(shù)R2值域在[0,1],越接近于1，表明方程的自變量對(duì)y的解釋能力越強(qiáng)。當(dāng)變量的關(guān)系是線性關(guān)系時(shí)，R2越大，說明回歸方程擬合數(shù)據(jù)越好，共變?cè)蕉?。校正的決定系數(shù)：隨著自變量的增加，R2自然就會(huì)隨之增加。所以R2是一個(gè)受自變量個(gè)數(shù)與樣本規(guī)模影響的系數(shù)，一般的常規(guī)是1:10為好。當(dāng)這個(gè)比例小于1:5時(shí)，R2傾向于高估實(shí)際的擬合優(yōu)度。為了避免這種情形，常用校正的R2代替。決定系數(shù)決定系數(shù)R2校正的決定系數(shù)：15回歸方程顯著：說明X與Y有顯著的線性關(guān)系。用該方程表示X與Y之間的關(guān)系是可靠的。如果不顯著，則不能用回歸方程表示X與Y之間的關(guān)系?；貧w方程顯著：說明X與Y有顯著的線性關(guān)系。用該方程表示X與16殘差的正態(tài)性對(duì)比直方圖和正態(tài)曲線的相似性，是否是中間高，兩頭低。P-P圖的點(diǎn)是不是接近對(duì)角線。殘差的正態(tài)性對(duì)比直方圖和正態(tài)曲線的相似性，是否是中間高，兩頭17殘差齊性殘差齊性18多元回歸多元回歸19偏回歸系數(shù)：當(dāng)其他變量不變時(shí)，xi每改變一個(gè)單位，所預(yù)測(cè)的y的平均變化量。受到自變量的單位影響。因此可以用標(biāo)準(zhǔn)化回歸系數(shù)。標(biāo)準(zhǔn)化偏回歸系數(shù)：可以用來比較哪個(gè)自變量是影響y的主要因素，哪個(gè)是次要因素（即哪個(gè)自變量對(duì)y的影響更多）。多元回歸方程偏回歸系數(shù)：當(dāng)其他變量不變時(shí)，xi每改變一個(gè)單位，所預(yù)測(cè)的y20回歸系數(shù)計(jì)算標(biāo)準(zhǔn)化偏回歸系數(shù)(假如有兩個(gè)自變量)B1=(r1y-r2y*r12)/(1-r212)

B2=(r2y-r1y*r12)/(1-r212)非標(biāo)準(zhǔn)化偏回歸系數(shù)b1=B1*（sy/sx1）回歸系數(shù)計(jì)算標(biāo)準(zhǔn)化偏回歸系數(shù)(假如有兩個(gè)自變量)21多元回歸的樣本量要求多元回歸模型的樣本量要求根據(jù)經(jīng)驗(yàn)，希望樣本量在自變量數(shù)的20倍以上。比如：有5個(gè)自變量，則樣本量應(yīng)該在100以上，少于此數(shù)可能會(huì)出現(xiàn)檢驗(yàn)效能不足的問題多元回歸的樣本量要求多元回歸模型的樣本量要求比如：有5個(gè)自變22多元線性回歸的條件同一元線性回歸的條件多元線性回歸的條件同一元線性回歸的條件23回歸分析的5個(gè)步驟回歸分析的5個(gè)步驟24回歸分析的步驟1、做出散點(diǎn)圖，觀察變量間的趨勢(shì)（是否線性）。這些圖是用來觀察是否是線性趨勢(shì)。如果不是線性，可能考慮其他對(duì)變量進(jìn)行預(yù)處理，或用曲線回歸注意：是否是曲線關(guān)系，或者強(qiáng)影響點(diǎn)造成的線性，或者極端值）回歸分析的步驟1、做出散點(diǎn)圖，觀察變量間的趨勢(shì)（是否線性）。252、考察數(shù)據(jù)的分布，進(jìn)行必要的預(yù)處理。3、進(jìn)行直線回歸，選入變量進(jìn)入計(jì)算?；貧w方程是否顯著偏回歸系數(shù)顯著根據(jù)決定系數(shù)，校正決定系數(shù)判斷擬合得好不好。決定最優(yōu)方程回歸分析的步驟2、考察數(shù)據(jù)的分布，進(jìn)行必要的預(yù)處理。回歸分析的步驟264、殘差分析，分析兩方面：殘差是否獨(dú)立：用durbin-watson進(jìn)行分析（取值0<d<4）。如果獨(dú)立，則d約等于2。如果相鄰兩點(diǎn)的殘差為正相關(guān)，d<2。當(dāng)相鄰兩點(diǎn)的殘差為負(fù)相關(guān)時(shí)，d>2。殘差是否正態(tài)：采用殘差圖顯示（勾選Histogram和Normalprobabilityplot就行）。殘差的方差齊性：以標(biāo)準(zhǔn)化預(yù)測(cè)值（ZPRED）為橫軸，標(biāo)準(zhǔn)化殘差(ZRESID)為縱軸做散點(diǎn)圖。若散點(diǎn)隨機(jī)分布，且絕大部分在2倍標(biāo)準(zhǔn)差以內(nèi)，則最好，表明沒有相關(guān)。如最左圖最好。中間圖隨著x值，殘差越來越大。最右圖，殘差非正態(tài)?；貧w分析的步驟4、殘差分析，分析兩方面：回歸分析的步驟27殘差是否正態(tài)：畫圖來評(píng)價(jià)1、殘差直方圖：標(biāo)準(zhǔn)化殘差為x軸，標(biāo)準(zhǔn)化殘差頻數(shù)為Y軸。與正態(tài)曲線比較，是否擬合。2、殘差p-p圖：累積殘差觀測(cè)分布為x軸，期望分布為Y軸。如果符合的話數(shù)據(jù)會(huì)和理論的直線（對(duì)角線）重合。回歸分析的步驟殘差是否正態(tài)：畫圖來評(píng)價(jià)回歸分析的步驟285、根據(jù)散點(diǎn)圖，對(duì)強(qiáng)影響點(diǎn)進(jìn)行判斷和對(duì)多重共線性進(jìn)行判斷（自變量之間不能有強(qiáng)相關(guān)。）最后兩幅圖是有強(qiáng)影響點(diǎn)。需要判斷是否數(shù)據(jù)出錯(cuò)，出錯(cuò)則刪掉?；貧w分析的步驟5、根據(jù)散點(diǎn)圖，對(duì)強(qiáng)影響點(diǎn)進(jìn)行判斷和對(duì)多重共線性進(jìn)行判斷（自29步驟同一元回歸補(bǔ)充步驟在statistic勾上Rsquarechange，partandpartialcorrelation（半偏相關(guān)和偏相關(guān)），conlineraritydiagnostics（共線性判斷）步驟同一元回歸補(bǔ)充步驟30分層回歸方法Enter：強(qiáng)制進(jìn)入Forward：前向選擇法Backward：反向刪除法Stepwise：逐步回歸，最常用把需要控制的變量用這種方法強(qiáng)制enter法放入方程自由進(jìn)入變量用forward、backward和stepwise方法放入方程分層回歸方法Enter：強(qiáng)制進(jìn)入31Enter法Enter法32逐步回歸法（可以得出更優(yōu)的方程）逐步回歸法（可以得出更優(yōu)的方程）33決定系數(shù)的變化量決定系數(shù)的變化量34回歸方程的顯著性檢驗(yàn)保留的變量，因?yàn)榛貧w系數(shù)和偏回歸系數(shù)顯著刪除的變量，因?yàn)闃?biāo)準(zhǔn)化回歸系數(shù)不顯著回歸方程的顯著性檢驗(yàn)保留的變量，因?yàn)榛貧w系數(shù)和偏回歸系數(shù)顯著35多重共線性判斷多重共線性判斷36回歸方程的顯著性檢驗(yàn)偏回歸系數(shù)的顯著性檢驗(yàn)決定系數(shù)R2，校正決定系數(shù)R2復(fù)相關(guān)系數(shù)R回歸方程的解釋能力回歸方程的顯著性檢驗(yàn)回歸方程的解釋能力37回歸方程的解釋能力回歸方程的顯著性檢驗(yàn)當(dāng)顯著時(shí)，便可以認(rèn)為回歸方程中至少有一個(gè)回歸系數(shù)是顯著的，但是并不一定多有的回歸系數(shù)都是顯著的。偏回歸系數(shù)的顯著性檢驗(yàn)判斷指定的某個(gè)自變量的回歸系數(shù)是否顯著。顯著的話，代表與殘差相比，該x變量對(duì)y的貢獻(xiàn)是顯著的。根據(jù)回歸系數(shù)顯著、偏回歸系數(shù)顯著、校正的決定系數(shù)判斷最優(yōu)方程?；貧w方程的解釋能力回歸方程的顯著性檢驗(yàn)38復(fù)相關(guān)系數(shù)R值域在[0,1],是因變量y與所有自變量之間的多元線性相關(guān)程度的度量。R值越接近于1，表明y與所有x之間的線性關(guān)系越密切。復(fù)相關(guān)系數(shù)R39對(duì)強(qiáng)影響點(diǎn)的診斷和處理同一元線性回歸對(duì)強(qiáng)影響點(diǎn)的診斷和處理同一元線性回歸40多重共線性（conlineraritydiagnostics）判斷方法相關(guān)系數(shù)矩陣：當(dāng)相關(guān)系數(shù)>0.8，代表共線性越大。容忍度（tolerance）：最大值為1。當(dāng)值越小，代表共線性越大。特征值（eigenvalue）：表示該因子所解釋變量的方差。如果很多變量的特征值<1，表示共線性。處理辦法增加樣本量主成分分析多重共線性（conlineraritydiagnostic41謝謝！謝謝！42多元線性回歸多元線性回歸43內(nèi)容基礎(chǔ)概念一元線性回歸一元回歸方程、線性回歸條件步驟強(qiáng)影響點(diǎn)判斷多元線性回歸1、回歸方程、線性回歸條件2、線性回歸步驟3、評(píng)價(jià)方程的優(yōu)度4、強(qiáng)影響點(diǎn)判斷5、多重共線性的判斷內(nèi)容基礎(chǔ)概念44基礎(chǔ)概念基礎(chǔ)概念45回歸什么是回歸？變量間存在相關(guān)關(guān)系時(shí)，也就具備了建立預(yù)測(cè)關(guān)系的基礎(chǔ)。在相關(guān)變量見建立預(yù)測(cè)方程式的統(tǒng)計(jì)學(xué)方法叫做回歸分析。在問卷調(diào)查中用得多包括線性和非線性、一元和多元回歸分析回歸什么是回歸？46一元和多元線性回歸一元線性回歸：在兩個(gè)變量具有線性關(guān)系的基礎(chǔ)上，建立預(yù)測(cè)方程式。用一個(gè)變量預(yù)測(cè)另一個(gè)變量。如兒童的身高和體重存在線性相關(guān)，當(dāng)?shù)弥砀邥r(shí)，預(yù)測(cè)被試的體重范圍。多元線性回歸：多個(gè)變量都與一個(gè)變量存在相關(guān)關(guān)系，建立用預(yù)測(cè)方程式。用多個(gè)變量預(yù)測(cè)某一個(gè)變量。例如：兒童的體重和年齡，都與身高存在線性關(guān)系，當(dāng)已知體重和年齡時(shí)，對(duì)身高進(jìn)行預(yù)測(cè)。一元和多元線性回歸的差別在于自變量的個(gè)數(shù)一元和多元線性回歸一元線性回歸：在兩個(gè)變量具有線性關(guān)系的基礎(chǔ)47一元線性回歸一元線性回歸48一元線性回歸方程（使用原始數(shù)據(jù)計(jì)算的回歸方程）Y是因變量，X是自變量，alpha和beta是待求的參數(shù)。β=

（δy/δx）*r，稱為非標(biāo)準(zhǔn)化回歸系數(shù)α=μy-βμx標(biāo)準(zhǔn)化回歸方程（使用標(biāo)準(zhǔn)化的數(shù)據(jù)計(jì)算的回歸方程）ZY=BZxB

=

（δZy/δZx）*r=1*r=r，稱為標(biāo)準(zhǔn)化回歸系數(shù)兩種方程表現(xiàn)形式一元線性回歸方程（使用原始數(shù)據(jù)計(jì)算的回歸方程）Y是因變量，X49回歸分析的一般過程1、提出假設(shè)的回歸模型，確定自變量和因變量。自變量是現(xiàn)實(shí)中容易測(cè)量的，而因變量是難測(cè)量的，如幸福感、自我效能感等2、估計(jì)回歸是線性還是非線性，用散點(diǎn)圖判斷。如果是線性則用線性回歸。(必須做)3、建立回歸方程4、回歸方程的有效性檢驗(yàn)，測(cè)定系數(shù)和回歸系數(shù)回歸分析的一般過程1、提出假設(shè)的回歸模型，確定自變量和因變量50一元線性回歸的條件1、線性趨勢(shì)（用散點(diǎn)圖檢測(cè)）2、獨(dú)立性：因變量y的取值相互獨(dú)立，殘差獨(dú)立。用durbin-watson計(jì)算，值在0-4。如果殘差間相互獨(dú)立，則取值在2附近。D小于2說明相鄰誤差存在負(fù)相關(guān)。大于2，說明存在正相關(guān)3、正態(tài)性：自變量的任何一個(gè)線性組合，因變量y都服從正態(tài)分布，殘差正態(tài)（直方圖和PP圖）。4、方差齊性：自變量的任何一個(gè)線性組合，因變量y的方差均相同（把ZPRED放入Y軸，把ZRESID放入X軸做圖）一元線性回歸的條件1、線性趨勢(shì)（用散點(diǎn)圖檢測(cè)）51注意的問題強(qiáng)影響點(diǎn)判斷（極端值的判斷）Cook’sdistance：當(dāng)值>1，表明是特別大的極端值。leverage值（杠桿值）：當(dāng)值>3倍均數(shù)，均數(shù)為（自變量個(gè)數(shù)+1）/N畫散點(diǎn)圖：最后把cook距離值和leverage杠桿值分別作為X和Y軸畫散點(diǎn)圖，方便判斷。強(qiáng)影響點(diǎn)處理判斷原因，考慮是否刪除注意的問題強(qiáng)影響點(diǎn)判斷（極端值的判斷）52一元線性回歸例子建立體重和肺活量的回歸方程（用練習(xí)1的數(shù)據(jù)）一元線性回歸例子建立體重和肺活量的回歸方程（用練習(xí)1的數(shù)據(jù)）53一元線性回歸步驟先探索數(shù)據(jù)，判斷是否整態(tài)、極端值畫散點(diǎn)圖（畫出散點(diǎn)圖后，雙擊圖，右鍵選addfitlineattotaltool）Analyze-regression-把肺活量放入因變量dependent-體重放入自變量independentStatistics-默認(rèn)的-residuals-durinwastonsave——distance–勾上Cook’s和leverage值Plots-histogram和normalprobabilityplot勾上-把ZPRED放入Y，把ZRESID放入X軸——OK一元線性回歸步驟先探索數(shù)據(jù)，判斷是否整態(tài)、極端值54β=

（δy/δx）*r=（0.41989/7.426）*0.881=0.04981α=μy-βμx=3.1027-0.04981*53.43=0.441原始回歸方程Y=0.0498X+0.441標(biāo)準(zhǔn)化回歸方程Zy=0.881Zxβ=（δy/δx）*r=（0.41989/7.42655測(cè)定系數(shù)判斷因變量Y是獨(dú)立的回歸方程的顯著性檢驗(yàn)回歸方程的系數(shù)、標(biāo)準(zhǔn)化回歸系數(shù)、回歸系數(shù)的顯著性檢驗(yàn)測(cè)定系數(shù)判斷因變量Y是獨(dú)立的回歸方程的顯著性檢驗(yàn)回歸方程的系56決定系數(shù)決定系數(shù)R2值域在[0,1],越接近于1，表明方程的自變量對(duì)y的解釋能力越強(qiáng)。當(dāng)變量的關(guān)系是線性關(guān)系時(shí)，R2越大，說明回歸方程擬合數(shù)據(jù)越好，共變?cè)蕉?。校正的決定系數(shù)：隨著自變量的增加，R2自然就會(huì)隨之增加。所以R2是一個(gè)受自變量個(gè)數(shù)與樣本規(guī)模影響的系數(shù)，一般的常規(guī)是1:10為好。當(dāng)這個(gè)比例小于1:5時(shí)，R2傾向于高估實(shí)際的擬合優(yōu)度。為了避免這種情形，常用校正的R2代替。決定系數(shù)決定系數(shù)R2校正的決定系數(shù)：57回歸方程顯著：說明X與Y有顯著的線性關(guān)系。用該方程表示X與Y之間的關(guān)系是可靠的。如果不顯著，則不能用回歸方程表示X與Y之間的關(guān)系?；貧w方程顯著：說明X與Y有顯著的線性關(guān)系。用該方程表示X與58殘差的正態(tài)性對(duì)比直方圖和正態(tài)曲線的相似性，是否是中間高，兩頭低。P-P圖的點(diǎn)是不是接近對(duì)角線。殘差的正態(tài)性對(duì)比直方圖和正態(tài)曲線的相似性，是否是中間高，兩頭59殘差齊性殘差齊性60多元回歸多元回歸61偏回歸系數(shù)：當(dāng)其他變量不變時(shí)，xi每改變一個(gè)單位，所預(yù)測(cè)的y的平均變化量。受到自變量的單位影響。因此可以用標(biāo)準(zhǔn)化回歸系數(shù)。標(biāo)準(zhǔn)化偏回歸系數(shù)：可以用來比較哪個(gè)自變量是影響y的主要因素，哪個(gè)是次要因素（即哪個(gè)自變量對(duì)y的影響更多）。多元回歸方程偏回歸系數(shù)：當(dāng)其他變量不變時(shí)，xi每改變一個(gè)單位，所預(yù)測(cè)的y62回歸系數(shù)計(jì)算標(biāo)準(zhǔn)化偏回歸系數(shù)(假如有兩個(gè)自變量)B1=(r1y-r2y*r12)/(1-r212)

B2=(r2y-r1y*r12)/(1-r212)非標(biāo)準(zhǔn)化偏回歸系數(shù)b1=B1*（sy/sx1）回歸系數(shù)計(jì)算標(biāo)準(zhǔn)化偏回歸系數(shù)(假如有兩個(gè)自變量)63多元回歸的樣本量要求多元回歸模型的樣本量要求根據(jù)經(jīng)驗(yàn)，希望樣本量在自變量數(shù)的20倍以上。比如：有5個(gè)自變量，則樣本量應(yīng)該在100以上，少于此數(shù)可能會(huì)出現(xiàn)檢驗(yàn)效能不足的問題多元回歸的樣本量要求多元回歸模型的樣本量要求比如：有5個(gè)自變64多元線性回歸的條件同一元線性回歸的條件多元線性回歸的條件同一元線性回歸的條件65回歸分析的5個(gè)步驟回歸分析的5個(gè)步驟66回歸分析的步驟1、做出散點(diǎn)圖，觀察變量間的趨勢(shì)（是否線性）。這些圖是用來觀察是否是線性趨勢(shì)。如果不是線性，可能考慮其他對(duì)變量進(jìn)行預(yù)處理，或用曲線回歸注意：是否是曲線關(guān)系，或者強(qiáng)影響點(diǎn)造成的線性，或者極端值）回歸分析的步驟1、做出散點(diǎn)圖，觀察變量間的趨勢(shì)（是否線性）。672、考察數(shù)據(jù)的分布，進(jìn)行必要的預(yù)處理。3、進(jìn)行直線回歸，選入變量進(jìn)入計(jì)算?；貧w方程是否顯著偏回歸系數(shù)顯著根據(jù)決定系數(shù)，校正決定系數(shù)判斷擬合得好不好。決定最優(yōu)方程回歸分析的步驟2、考察數(shù)據(jù)的分布，進(jìn)行必要的預(yù)處理?；貧w分析的步驟684、殘差分析，分析兩方面：殘差是否獨(dú)立：用durbin-watson進(jìn)行分析（取值0<d<4）。如果獨(dú)立，則d約等于2。如果相鄰兩點(diǎn)的殘差為正相關(guān)，d<2。當(dāng)相鄰兩點(diǎn)的殘差為負(fù)相關(guān)時(shí)，d>2。殘差是否正態(tài)：采用殘差圖顯示（勾選Histogram和Normalprobabilityplot就行）。殘差的方差齊性：以標(biāo)準(zhǔn)化預(yù)測(cè)值（ZPRED）為橫軸，標(biāo)準(zhǔn)化殘差(ZRESID)為縱軸做散點(diǎn)圖。若散點(diǎn)隨機(jī)分布，且絕大部分在2倍標(biāo)準(zhǔn)差以內(nèi)，則最好，表明沒有相關(guān)。如最左圖最好。中間圖隨著x值，殘差越來越大。最右圖，殘差非正態(tài)?；貧w分析的步驟4、殘差分析，分析兩方面：回歸分析的步驟69殘差是否正態(tài)：畫圖來評(píng)價(jià)1、殘差直方圖：標(biāo)準(zhǔn)化殘差為x軸，標(biāo)準(zhǔn)化殘差頻數(shù)為Y軸。與正態(tài)曲線比較，是否擬合。2、殘差p-p圖：累積殘差觀測(cè)分布為x軸，期望分布為Y軸。如果符合的話數(shù)據(jù)會(huì)和理論的直線（對(duì)角線）重合?；貧w分析的步驟殘差是否正態(tài)：畫圖來評(píng)價(jià)回歸分析的步驟705、根據(jù)散點(diǎn)圖，對(duì)強(qiáng)影響點(diǎn)進(jìn)行判斷和對(duì)多重共線性進(jìn)行判斷（自變量之間不能有強(qiáng)相關(guān)。）最后兩幅圖是有強(qiáng)影響點(diǎn)。需要判斷是否數(shù)據(jù)出錯(cuò)，出錯(cuò)則刪掉?；貧w分析的步驟5、根據(jù)散點(diǎn)圖，對(duì)強(qiáng)影響點(diǎn)進(jìn)行判斷和對(duì)多重共線性進(jìn)行判斷（自71步驟同一元回歸補(bǔ)充步驟在statistic勾上Rsquarechange，partandpartialcorrelation（半偏相關(guān)和偏相關(guān)），conlineraritydiagnos