心理統(tǒng)計(jì)學(xué)-回歸分析課件

回歸分析相關(guān)系數(shù)－－雙向關(guān)系回歸方程－－單向關(guān)系一元線性回歸一元線性回歸方程的檢驗(yàn)一元線性回歸方程的應(yīng)用多元線性回歸簡(jiǎn)介回歸分析相關(guān)系數(shù)－－雙向關(guān)系1一元線性回歸一元線性回歸是指只有一個(gè)自變量的線性回歸(linearregression)。回歸線(regressionline)一條最能代表散點(diǎn)圖上分布趨勢(shì)的直線，這條最優(yōu)擬合線即稱為回歸線。常用的擬合這條回歸線的原則，就是使各點(diǎn)與該線縱向距離的平方和為最小。一元線性回歸一元線性回歸是指只有一個(gè)自變量的線性回歸(lin2回歸線回歸線3回歸線回歸線4回歸線回歸線5回歸線回歸線6回歸方程確定回歸線的方程稱回歸方程?；貧w方程確定回歸線的方程稱回歸方程。7回歸方程的建立用最小二乘方法求回歸系數(shù)(regressioncoefficient)回歸方程的建立用最小二乘方法求回歸系數(shù)(regression8與相關(guān)系數(shù)r比較與相關(guān)系數(shù)r比較9回歸方程的建立求截距(intercept)回歸方程的建立求截距(intercept)10由Y估計(jì)X由Y估計(jì)X11語文成績(jī)與智商

序號(hào)X

Y

X2

Y2

XY

123456789101178716885757372657066741361351201401301281221181191081206084504146247225562553295184422549004356547618496182251440019600169001638414884139241416111664144001060895858160119009750934487847670833071288880總和797137658069173038100139語文成績(jī)與智商序號(hào)XYX2Y2XY178136612計(jì)算計(jì)算13一元線性回歸方程的檢驗(yàn)三種等效的方法：對(duì)回歸方程進(jìn)行方差分析對(duì)兩個(gè)變量的相關(guān)系數(shù)進(jìn)行與總體零相關(guān)的顯著性檢驗(yàn)；對(duì)回歸系數(shù)進(jìn)行顯著性檢驗(yàn)。一元線性回歸方程的檢驗(yàn)三種等效的方法：14測(cè)定系數(shù)回歸平方和(regressionsumofsquares,explained~)殘差平方和(residualsumofsquares,error~,unexplained~)測(cè)定系數(shù)回歸平方和(regressionsumofsq15測(cè)定系數(shù)測(cè)定系數(shù)(coefficientofdetermination)指回歸平方和在總平方和中所占比例，這個(gè)比例越大，意味著誤差平方和所占比例越小，預(yù)測(cè)效果就越好。測(cè)定系數(shù)同時(shí)等于相關(guān)系數(shù)的平方。測(cè)定系數(shù)測(cè)定系數(shù)(coefficientofdeterm16例題企業(yè)12345678910產(chǎn)量(X)40424855657988100120140費(fèi)用(Y)150140160170150162185165190185例題企業(yè)12345678910產(chǎn)量(X)404248556517對(duì)回歸方程的方差分析方差來源平方和自由度均方差F值回歸SSR1MSRMSR/MSE殘差SSEn-2MSE總差異SSTn-1對(duì)回歸方程的方差分析方差來源平方和自由度均方差F值回歸SS18方差分析F

0.05,1,8=5.32F

0.01,1,8=11.3方差來源平方和自由度均方差F值回歸1666.357711666.357715.0166殘差887.74238110.9678總差異2554.10009方差分析F0.05,1,8=5.32方差來源平方和自由19對(duì)回歸系數(shù)進(jìn)行顯著性檢驗(yàn)估計(jì)誤差的標(biāo)準(zhǔn)差由于與X各點(diǎn)相對(duì)應(yīng)的諸YX值之平均數(shù)和標(biāo)準(zhǔn)差均為未知，故估計(jì)誤差的標(biāo)準(zhǔn)差只能從樣本加以估計(jì)。其無偏估計(jì)量為：對(duì)回歸系數(shù)進(jìn)行顯著性檢驗(yàn)估計(jì)誤差的標(biāo)準(zhǔn)差20對(duì)回歸系數(shù)進(jìn)行顯著性檢驗(yàn)在回歸線上，當(dāng)與所有自變量X相對(duì)應(yīng)的各組因變量Y的殘值都呈正態(tài)分布，并且殘值方差為齊性時(shí)，可以用以下公式進(jìn)行顯著性檢驗(yàn)。對(duì)回歸系數(shù)進(jìn)行顯著性檢驗(yàn)在回歸線上，當(dāng)與所有自變量X相對(duì)應(yīng)的21公式公式22一元線性回歸方程的應(yīng)用用樣本回歸方程推算因變量的回歸值點(diǎn)估計(jì)：語文成績(jī)?yōu)?0分的學(xué)生的智商是多少？

區(qū)間估計(jì)：體重為20千克的男童的簡(jiǎn)單反應(yīng)時(shí)95%的置信區(qū)間

=（550±1.96×93.67）=（550±183.6）或（366.4，733.6）

一元線性回歸方程的應(yīng)用用樣本回歸方程推算因變量的回歸值23一元線性回歸方程的應(yīng)用對(duì)因變量真值的預(yù)測(cè)回歸方程是由樣本數(shù)據(jù)列出的，由于抽樣誤差的影響，其回歸值并不是因變量的真值。要預(yù)測(cè)其真值還需考慮到各樣本回歸方程之間的變異。一元線性回歸方程的應(yīng)用對(duì)因變量真值的預(yù)測(cè)24對(duì)因變量真值的預(yù)測(cè)對(duì)因變量真值的預(yù)測(cè)25二元線性回歸方程二元線性回歸方程是指一個(gè)因變量Y與兩個(gè)自變量X1與X2之間建立的線性回歸方程。二元線性回歸方程也用最小二乘法來確定回歸系數(shù)。二元線性回歸方程二元線性回歸方程是指一個(gè)因變量Y與兩個(gè)自變量26式中各個(gè)L都是相應(yīng)的離差平方和或離差乘積和二元線性回歸方程的偏回歸系數(shù)二元線性回歸方程的偏回歸系數(shù)27例題序號(hào)數(shù)學(xué)成績(jī)Y學(xué)習(xí)能力X1邏輯學(xué)X212345678910836774487266905471658868766074578662634575476057796367587069例題序號(hào)數(shù)學(xué)成績(jī)Y學(xué)習(xí)能力X1邏輯學(xué)X2183887528答案答案29二元線性標(biāo)準(zhǔn)回歸方程為了比較兩個(gè)自變量在估計(jì)預(yù)測(cè)因變量時(shí)所起作用的大小，需要將三個(gè)變量分別轉(zhuǎn)換成標(biāo)準(zhǔn)分?jǐn)?shù)，然后比較由標(biāo)準(zhǔn)分?jǐn)?shù)所建立的標(biāo)準(zhǔn)回歸方程中的兩個(gè)標(biāo)準(zhǔn)回歸系數(shù)，以此判斷兩個(gè)自變量作用的大小。二元線性標(biāo)準(zhǔn)回歸方程為了比較兩個(gè)自變量在估計(jì)預(yù)測(cè)因變量時(shí)所起30二元線性回歸的檢驗(yàn)二元線性回歸的檢驗(yàn)檢驗(yàn)回歸方程的顯著性檢驗(yàn)兩個(gè)偏回歸系數(shù)的顯著性二元線性回歸的檢驗(yàn)二元線性回歸的檢驗(yàn)31二元線性回歸的檢驗(yàn)二元線性回歸方程的顯著性檢驗(yàn)方法：方差分析復(fù)相關(guān)系數(shù)(multiplecorrelationcoefficient)顯著性檢驗(yàn)。復(fù)相關(guān)系數(shù)表示兩個(gè)自變量組合起來與因變量之間的相關(guān)程度?？赏ㄟ^對(duì)二元測(cè)定系數(shù)開平方根得到，然后通過查表進(jìn)行顯著性檢驗(yàn)。二元線性回歸的檢驗(yàn)二元線性回歸方程的顯著性檢驗(yàn)方法：32二元線性回歸的檢驗(yàn)偏回歸系數(shù)(partialregressioncoefficient)的顯著性檢驗(yàn)二元線性回歸的檢驗(yàn)偏回歸系數(shù)(partialregress33多元線性回歸方程多元線性回歸方程34多元線性回歸方程中自變量的選擇窮舉法對(duì)所有可能的回歸方程逐一檢驗(yàn)，選擇一個(gè)顯著性程度最強(qiáng)的方程。逐步回歸(step-wiseregression)逐步回歸的原理是按每個(gè)自變量對(duì)因變量的作用