多重線性回歸相關(guān)

多重線性回歸相關(guān)第1頁，課件共24頁，創(chuàng)作于2023年2月多因素分析的優(yōu)點：（1）資料易收集；（2）可同時研究多個因素；（3）既可考察各因素的獨立作用，又可研究因素間的交互作用；第2頁，課件共24頁，創(chuàng)作于2023年2月第一節(jié)多重線性回歸的概念

多重線性回歸是研究一個應(yīng)變量與多個自變量之間線性依存關(guān)系的統(tǒng)計方法，是一元直線回歸分析的推廣。式中b0是常數(shù)項，bi（i＝1，2，…，m）稱為偏回歸系數(shù)。第3頁，課件共24頁，創(chuàng)作于2023年2月b0是常數(shù)項，是各自變量都等于0時，應(yīng)變量的估計值。有時，人們稱它為本底值。b1，b2，…，bp是偏回歸系數(shù)(pertialregressioncoefficient)，其統(tǒng)計學(xué)意義是在其它所有自變量不變的情況下，某一自變量每變化一個單位，應(yīng)變量平均變化的單位數(shù)。第4頁，課件共24頁，創(chuàng)作于2023年2月與直線回歸一樣，建立多重回歸方程常用最小二乘法(leastsquaremethod)原理求bi（i＝1，2，…，m），再求b0，即求出使估計值與觀測值y之間差異的平方和達到最小的一組解作為bi的估計值。第5頁，課件共24頁，創(chuàng)作于2023年2月多重線性回歸模型的前提條件1.線性（linear）2.獨立（independent）3.正態(tài)（normal）4.等方差性（equalvariance）第6頁，課件共24頁，創(chuàng)作于2023年2月例1

同樣身高的20名健康男子的收縮壓（kPa）、年齡（歲）和體重之間的多元線性回歸方程。編號收縮壓年齡體重

yx1x2115.605076.0218.802091.5316.532085.5416.803082.5515.603079.0616.675080.5716.406079.0816.675079.0917.604085.01016.405076.5表120名健康男子的收縮壓、年齡和體重測定值第7頁，課件共24頁，創(chuàng)作于2023年2月n＝20,X1=44.05,X2=82.80,Y=17.82∑Y=356.35,∑X1=881,∑X2=1656.0,

∑X12=41467,∑X22=137953.5,

∑Y2=6408.2049,∑X1Y=15788.50，∑X2Y=29653.27，∑X1X2=72669.5第8頁，課件共24頁，創(chuàng)作于2023年2月第9頁，課件共24頁，創(chuàng)作于2023年2月第10頁，課件共24頁，創(chuàng)作于2023年2月

由樣本計算得到得偏回歸系數(shù)bi是總體偏回歸系數(shù)βi的估計值，即使總體偏回歸系數(shù)等于0，但由于抽樣誤差，仍可使樣本偏回歸系數(shù)bi不等于0，因此仍要作假設(shè)檢驗，以判斷其是否有統(tǒng)計學(xué)意義。假設(shè)檢驗包括方程的假設(shè)檢驗和每個偏回歸系數(shù)的假設(shè)檢驗。（一）多元回歸方程的假設(shè)檢驗1.建立假設(shè)和確定檢驗水準：

H0：β1=β2=β3…=βm＝0H1：β1、β2、β3、…、βm不全為0α=0.05假設(shè)檢驗

第11頁，課件共24頁，創(chuàng)作于2023年2月ν總=n-1ν回歸=mν剩余=n-m-1SS誤差=SS總-SS回歸第12頁，課件共24頁，創(chuàng)作于2023年2月ν總=20-1＝19ν回歸=2ν剩余=20-2-1＝17SS誤差=SS總-SS回歸＝25.2829n＝20,X1=44.05,X2=82.80,Y=17.82∑Y=356.35,∑X1=881,∑X2=1656.0,

∑X12=41467,∑X22=137953.5,

∑Y2=6408.2049,∑X1Y=15788.50，∑X2Y=29653.27，∑X1X2=72669.5第13頁，課件共24頁，創(chuàng)作于2023年2月查F界值表得：F0.05（2，17）＝3.59，F(xiàn)＞F0.05（2，17），P＜0.05，因此在α=0.05水平上，拒絕H0，可以認為收縮壓與年齡和體重之間有回歸關(guān)系，所建立的回歸方程有意義。第14頁，課件共24頁，創(chuàng)作于2023年2月（二）回歸系數(shù)的假設(shè)檢驗1.建立假設(shè)和確定檢驗水準：

H0：βi=0H1：βi≠0α=0.052.計算統(tǒng)計量t第15頁，課件共24頁，創(chuàng)作于2023年2月查t界值表得：t0.05（17）＝2.110，t1＞t0.05（17），P＜0.05，因此在α=0.05水平上，拒絕H0，可以認為收縮壓與年齡之間有線性回歸關(guān)系。查t界值表得：t0.05（17）＝2.110，t2＞t0.05（17），P＜0.05，因此在α=0.05水平上，拒絕H0，可以認為收縮壓與體重之間有線性回歸關(guān)系。第16頁，課件共24頁，創(chuàng)作于2023年2月因為m個自變量都具有各自的計量單位以及不同的變異度，所以不能直接用偏回歸系數(shù)的數(shù)值大小來反映方程中各個自變量對應(yīng)變量Y的貢獻大小。為此，可計算標準化回歸系數(shù)。標準化回歸系數(shù)第17頁，課件共24頁，創(chuàng)作于2023年2月第18頁，課件共24頁，創(chuàng)作于2023年2月復(fù)相關(guān)系數(shù)R2稱為決定系數(shù)，可定量評價y的總變異能被自變量解釋的比重。第19頁，課件共24頁，創(chuàng)作于2023年2月偏相關(guān)系數(shù)扣除其他變量的影響后，變量y與x的相關(guān)，稱為y與x的偏相關(guān)系數(shù)。如：r12.3第20頁，課件共24頁，創(chuàng)作于2023年2月在一個有統(tǒng)計學(xué)意義的方程中，可能某些自變量對應(yīng)變量影響較大，而另一些影響很弱甚至完全沒有意義。為使回歸方程中僅包含有意義的自變量，有必要對偏回歸系數(shù)作檢驗和進行自變量篩選。第21頁，課件共24頁，創(chuàng)作于2023年2月自變量篩選的常用方法1.所有可能自變量子集選擇；2.向前選擇法；3.向后剔除法；4.逐步選擇法自變量篩選的原則：殘差均方縮小或調(diào)整決定系數(shù)（Ra2）增大。第22頁，課件共24頁，創(chuàng)作于2023年2月多重線性回歸的注意事項：1.自變量必須是相互獨立的；2.自變量的聯(lián)合作用；3.樣本含量；4.正確看待選入和未選入的自變量。第23頁，課件共24頁，創(chuàng)作于2023年2月多重共線性問題及對策：多重共線性指的是