第二軍醫(yī)大學(xué)《醫(yī)學(xué)統(tǒng)計(jì)學(xué)》多元線性回歸分析(第15章)

MultipleLinearRegressionAnalysis

多元線性回歸分析第15章第二軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室張羅漫1

講課內(nèi)容第一節(jié)多元線性回歸(重點(diǎn))第二節(jié)自變量選擇方法(重點(diǎn))第三節(jié)多元線性回歸的應(yīng)用及注意事項(xiàng)2第一節(jié)多元線性回歸一、多元線性回歸模型3

4

多元回歸：多個(gè)Y，多個(gè)X多重回歸：一個(gè)Y，多個(gè)X5

β0

常數(shù)項(xiàng)βj

偏回歸系數(shù)(partialregressioncoefficient)：

在其它自變量保持不變時(shí)，Xj增加或減少一個(gè)單位時(shí)Y的平均變化量。e去除m個(gè)自變量對(duì)Y影響后的隨機(jī)誤差。6

多元線性回歸模型應(yīng)用條件：1.Y與X1，X2，，Xm之間具有線性關(guān)系；2.各個(gè)Yi間相互獨(dú)立；3.e服從均數(shù)為0、方差為

2的正態(tài)分布。7

多元線性回歸分析步驟：1.根據(jù)樣本數(shù)據(jù)求得模型參數(shù)估計(jì)值：2.對(duì)回歸方程及各Xj作假設(shè)檢驗(yàn)。8

二、多元線性回歸方程的建立9YX1011X1X2Y12用最小二乘法解正規(guī)方程組，使殘差平方和Q最小。1314用最小二乘法解正規(guī)方程組，使殘差平方和Q最小。15

16

17

18

三、多元線性回歸方程的假設(shè)檢驗(yàn)及評(píng)價(jià)19

（一）回歸方程的假設(shè)檢驗(yàn)及評(píng)價(jià)1.方差分析法不全為0。20

21

22

2.決定系數(shù)R2血糖含量變異的60%可由總膽固醇、甘油三酯、胰島素和糖化血紅蛋白的變異解釋。233.復(fù)相關(guān)系數(shù)RY與多個(gè)自變量間的線性相關(guān)程度；Y與估計(jì)值間的Pearson相關(guān)系數(shù)r。24

（二）各自變量的假設(shè)檢驗(yàn)及評(píng)價(jià)1.偏回歸平方和表示模型中含有其它m-1個(gè)自變量的條件下該自變量對(duì)Y的回歸貢獻(xiàn)。其值愈大說(shuō)明相應(yīng)的自變量愈重要。25

26

0.6129+11.9627+20.0635+27.7939≠133.710727

胰島素(X3)與糖化血紅蛋白(X4)與血糖(Y)有線性回歸關(guān)系。28

2.t檢驗(yàn)法29

胰島素(X3)與糖化血紅蛋白(X4)與血糖(Y)有線性回歸關(guān)系。30

標(biāo)準(zhǔn)化回歸系數(shù)bj’的絕對(duì)值用來(lái)比較各個(gè)自變量Xj對(duì)Y的影響程度大?。唤^對(duì)值越大影響越大。標(biāo)準(zhǔn)化回歸方程的截距為0。3.標(biāo)準(zhǔn)化回歸系數(shù)標(biāo)準(zhǔn)化回歸系數(shù)與一般回歸方程的回歸系數(shù)的關(guān)系：標(biāo)準(zhǔn)化回歸方程

31對(duì)血糖影響大小的順序依次為糖化血紅蛋白(X4)、胰島素(X3)、甘油三酯(X2)與總膽固醇(X1)。胰島素為負(fù)向影響。32

第二節(jié)自變量選擇方法33

一、全局選擇法對(duì)自變量各種不同的組合所建立的回歸方程進(jìn)行比較，從全部組合中挑出一個(gè)“最優(yōu)”的回歸方程。34

R2可用來(lái)評(píng)價(jià)回歸方程優(yōu)劣。隨著自變量增加，R2不斷增大，對(duì)兩個(gè)不同個(gè)數(shù)自變量回歸方程比較，須考慮方程包含自變量個(gè)數(shù)影響，應(yīng)對(duì)R2進(jìn)行校正。所謂“最優(yōu)”回歸方程指最大者。1.校正決定系數(shù)選擇法35

P為方程中自變量個(gè)數(shù)。最優(yōu)方程的Cp期望值是p+1。應(yīng)選擇Cp最接近P+1的回歸方程為最優(yōu)。2.選擇法36

37

二、逐步選擇法全局選擇計(jì)算量很大：

6個(gè)變量，計(jì)算26-1=63個(gè)方程；

10個(gè)變量，計(jì)算210-1=1023個(gè)方程。按選入變量順序不同分前進(jìn)法、后退法

與逐步回歸法，共同特點(diǎn)是每一步只引入或剔除一個(gè)自變量Xj。38對(duì)Xj的取舍要進(jìn)行F檢驗(yàn)：計(jì)算進(jìn)行到第l步時(shí)：p:方程中自變量個(gè)數(shù)SS回：Xj的偏回歸平方和SS殘：殘差平方和39

1.前進(jìn)法（只選不剔）開(kāi)始方程中無(wú)自變量，然后從方程外選取偏回歸平方和最大的自變量作F檢驗(yàn)以決定是否選入方程，直至無(wú)自變量可以引入方程為止。缺點(diǎn)：后續(xù)變量的引入可能使先前引入的變量變的不重要。Xj入選40

2.后退法（只剔不選）開(kāi)始方程中包含全部自變量，然后從方程中選取偏回歸平方和最小的自變量作F檢驗(yàn)以決定是否從方程中剔除，直至無(wú)自變量可以從方程中剔除為止。缺點(diǎn)：當(dāng)某些自變量高度相關(guān)時(shí)，可能得不出正確結(jié)果。Xj剔除41

3.逐步回歸法（先選后剔，雙向篩選）開(kāi)始方程中無(wú)自變量，從方程外選取偏回歸