多元回歸分析-2課件

一、多元線性回歸的數(shù)學(xué)模型二、數(shù)學(xué)模型的分析與求解三、MATLAB中回歸分析的實(shí)現(xiàn)四、小結(jié)多元線性回歸一、多元線性回歸的數(shù)學(xué)模型二、數(shù)學(xué)模型的分析與求解三、MAT1一、多元線性回歸的數(shù)學(xué)模型一、多元線性回歸的數(shù)學(xué)模型2多元線性回歸模型多元線性回歸模型3用最大似然估計(jì)法估計(jì)參數(shù).達(dá)到最小.二、數(shù)學(xué)模型的分析與求解用最大似然估計(jì)法估計(jì)參數(shù).達(dá)到最小.二、數(shù)學(xué)模型的分析與求解4化簡(jiǎn)可得化簡(jiǎn)可得5正規(guī)方程組正規(guī)方程組6引入矩陣正規(guī)方程組的矩陣形式引入矩陣正規(guī)方程組的矩陣形式7最大似然估計(jì)值P元經(jīng)驗(yàn)線性回歸方程最大似然估計(jì)值P元經(jīng)驗(yàn)線性回歸方程8多元線性回歸

1.確定回歸系數(shù)的點(diǎn)估計(jì)值,用命令:

b=regress(Y,X)2.求回歸系數(shù)的點(diǎn)估計(jì)和區(qū)間估計(jì),并檢驗(yàn)回歸模型,用命令:

[b,bint,r,rint,stats]=regress(Y,X,alpha)3.畫出殘差及其置信區(qū)間,用命令:

rcoplot(r,rint)三、MATLAB中回歸分析的實(shí)現(xiàn)多元線性回歸1.確定回歸系數(shù)的點(diǎn)估計(jì)值,用命令:2.9符號(hào)說(shuō)明(1)符號(hào)說(shuō)明(1)10(2)

alpha為顯著性水平,默認(rèn)為0.05;(3)

bint為回歸系數(shù)的區(qū)間估計(jì);(4)

r與rint分別為殘差及其置信區(qū)間;

(5)

stats是用于檢驗(yàn)回歸模型的統(tǒng)計(jì)量,有三個(gè)數(shù)值,第一個(gè)是相關(guān)系數(shù)

r2,其值越接近于1,說(shuō)明回歸方程越顯著;第二個(gè)是

F值,

F>F1-alpha(p,n-p-1)時(shí)拒絕H0,F越大,說(shuō)明回歸方程越顯著;第三個(gè)是與F對(duì)應(yīng)的概率

p,p<alpha時(shí)拒絕,回歸模型成立.(2)alpha為顯著性水平,默認(rèn)為0.05;(3)11身高143145146147149150153154腿長(zhǎng)8885889192939395身高155156157158159160162164腿長(zhǎng)969897969899100102例1測(cè)得16組的身高和腿長(zhǎng)如下(單位:cm):試研究這些數(shù)據(jù)之間的關(guān)系.身高143145146147149150153154腿長(zhǎng)8812輸入數(shù)據(jù)x=[143,145,146,147,149,150,153,154,155,156,157,158,159,160,162,164]’;X=[ones(16,1),x];Y=[88,85,88,91,92,93,93,95,96,98,97,96,98,99,100,102]’;回歸分析及檢驗(yàn)[b,bint,r,rint,stats]=regress(Y,X);b,bint,stats輸入數(shù)據(jù)x=[143,145,146,147,149,15013多元回歸分析-2課件14多元回歸分析-2課件15一元多項(xiàng)式回歸1.確定多項(xiàng)式系數(shù),用命令:

[p,S]=polyfit(x,y,m)也可使用命令:polytool(x,y,m)

結(jié)果產(chǎn)生一個(gè)交互式的畫面,畫面中有擬合曲線和y的置信區(qū)間,左下方的Export可以輸出參數(shù).一元多項(xiàng)式回歸1.確定多項(xiàng)式系數(shù),用命令:也可使用命令:162.預(yù)測(cè)和預(yù)測(cè)誤差估計(jì)用命令:求回歸多項(xiàng)式在x處的預(yù)測(cè)值Y.[Y,DELTA]=polyconf(p,x,S,alpha)

求回歸多項(xiàng)式在x處的預(yù)測(cè)值Y以及預(yù)測(cè)值的顯著性為1-alpha的置信區(qū)間Y±DELTA,alpha的默認(rèn)值是0.05.一元多項(xiàng)式回歸可化為多元線性回歸求解.Y=polyval(p,x)2.預(yù)測(cè)和預(yù)測(cè)誤差估計(jì)用命令:求回歸多項(xiàng)式在x處的預(yù)測(cè)值Y.17例2下面給出了某種產(chǎn)品每件平均單價(jià)Y(元)與批量x(件)之間的關(guān)系的一組數(shù)據(jù).x202530354050y1.811.701.651.551.481.40x606570758090y1.301.261.241.211.201.18試用一元二次多項(xiàng)式進(jìn)行回歸分析.例2下面給出了某種產(chǎn)品每件平均單價(jià)Y(元)與x202518輸入數(shù)據(jù)x=[20,25,30,35,40,50,60,65,70,75,80,90];y=[1.81,1.70,1.65,1.55,1.48,1.40,1.30,1.26,1.24,1.21,1.20,1.18];作二次多項(xiàng)式回歸[p,S]=polyfit(x,y,2)預(yù)測(cè)及作圖Y=polyconf(p,x,y)plot(x,y,’b+’,x,Y,’r’)輸入數(shù)據(jù)x=[20,25,30,35,40,50,60,6519作二次多項(xiàng)式回歸[p,S]=polyfit(x,y,2)>>p=polyfit(x,y,2)p=0.0001-0.02252.1983Y=polyval(p,x)Y=1.79781.71341.63521.56321.49751.38481.29721.26271.23451.21261.19691.1843作二次多項(xiàng)式回歸[p,S]=polyfit(x,y,2)>>20預(yù)測(cè)及作圖Y=polyconf(p,x,y)plot(x,y,’b+’,x,Y,’r’)Y=polyconf(p,x,y)Y=1.79781.71341.63521.56321.49751.38481.29721.26271.23451.21261.19691.1843預(yù)測(cè)及作圖Y=polyconf(p,x,y)Y=polyco21預(yù)測(cè)及作圖polytool(x,y,2)預(yù)測(cè)及作圖polytool(x,y,2)22預(yù)測(cè)及作圖polytool(x,y,2)[p,S]=polyfit(x,y,2)；[Y,DELTA]=polyconf(p,x,S,0.05)Y=1.79781.71341.63521.56321.49751.38481.29721.26271.23451.21261.19691.1843DELTA=0.03350.03110.02990.02960.02970.03020.03020.02990.02970.02970.03050.0354預(yù)測(cè)及作圖polytool(x,y,2)[p,S]=poly23化為多元線性回歸X=[ones(12,1)x’(x.^2)’];X=120400125625130900135122514016001502500160360016542251704900175562518064001908100化為多元線性回歸X=[ones(12,1)x’(x.^224化為多元線性回歸X=[ones(12,1)x’(x.^2)’];[b,bint,r,rint,stats]=regress(y’,X);b,stats與前面的結(jié)果一致.化為多元線性回歸X=[ones(12,1)x’(x.^225多元二項(xiàng)式回歸rstool(x,y,’model’,alpha)

其中,輸入數(shù)據(jù)

x,y分別為n×m矩陣和n維列向量;

alpha為顯著性水平,默認(rèn)為0.05;

model為下列四種模型中的一種,輸入相應(yīng)的字符串,默認(rèn)為線性模型.多元二項(xiàng)式回歸rstool(x,y,’model’,alph26

rstool的輸出是一個(gè)交互式畫面,畫面中有m個(gè)圖形,分別給出了一個(gè)獨(dú)立變量xi與y的擬合曲線,以及y的置信區(qū)間,此時(shí)其余m-1個(gè)變量取固定值.可以輸入不同的變量的不同值得到y(tǒng)的相應(yīng)值.

圖的左下方有兩個(gè)下拉式菜單,一個(gè)用于傳送回歸系數(shù)、剩余標(biāo)準(zhǔn)差、殘差等數(shù)據(jù);另一個(gè)用于選擇四種回歸模型中的一種,選擇不同的回歸模型,其中剩余標(biāo)準(zhǔn)差最接近于零的模型回歸效果最好.rstool的輸出是一個(gè)交互式畫面,畫面中有m個(gè)圖的27多元回歸分析-2課件28例3設(shè)某商品的需求量與消費(fèi)者的平均收入、商品價(jià)格的統(tǒng)計(jì)數(shù)據(jù)如下,建立回歸模型,預(yù)測(cè)平均收入為1000,價(jià)格為6時(shí)的商品需求量.

需求量10075807050收入10006001200500300價(jià)格57668需求量659010011060收入400130011001300300價(jià)格75439例3設(shè)某商品的需求量與消費(fèi)者的平均收入、商需求量1007529選擇純二次模型,即數(shù)據(jù)輸入x1=[1000,600,1200,500,300,400,1300,1100,1300,300];x2=[5,7,6,6,8,7,5,4,3,9];y=[100,75,80,70,50,65,90,100,110,60]';x=[x1'x2'];回歸、檢驗(yàn)與預(yù)測(cè)rstool(x,y,'purequadratic')選擇純二次模型,即數(shù)據(jù)輸入x1=[1000,600,120030化為多元線性回歸求解x1=[1000,600,1200,500,300,400,1300,1100,1300,300];x2=[5,7,6,6,8,7,5,4,3,9];y=[100,75,80,70,50,65,90,100,110,60]';X=[ones(10,1)x1'x2'(x1.^2)'(x2.^2)'];[b,bint,r,rint,stats]=regress(y,X)化為多元線性回歸求解x1=[1000,600,1200,5031回歸系數(shù)的點(diǎn)估計(jì)以及區(qū)間估計(jì)回歸系數(shù)的點(diǎn)估計(jì)以及區(qū)間估計(jì)32殘差及其置信區(qū)間殘差及其置信區(qū)間33檢驗(yàn)回歸模型的統(tǒng)計(jì)量檢驗(yàn)回歸模型的統(tǒng)計(jì)量34逐步回歸分析

在實(shí)際問(wèn)題中,影響因變量的因素很多,而這些因素之間可能存在多重共線性.為得到可靠的回歸模型,需要一種方法能有效地從眾多因素中挑選出對(duì)因變量貢獻(xiàn)大的因素.

如果采用多元線性回歸分析,回歸方程穩(wěn)定性差,每個(gè)自變量的區(qū)間誤差積累將影響總體誤差,預(yù)測(cè)的可靠性差、精度低;另外,如果采用了影響小的變量,遺漏了重要變量,可能導(dǎo)致估計(jì)量產(chǎn)生偏倚和不一致性.逐步回歸分析在實(shí)際問(wèn)題中,影響因變量的因素很多,而這些35選擇“最優(yōu)”回歸方程的方法

1.從所有可能的變量組合的回歸方程中選擇最優(yōu)者;

2.從包含全部變量的回歸方程中逐次剔除不顯著因子;

3.從一個(gè)變量開始,把變量逐個(gè)引入方程;

4.“有進(jìn)有出”的逐步回歸分析.

“最優(yōu)”的回歸方程應(yīng)該包含所有有影響的變量而不包括影響不顯著的變量.選擇“最優(yōu)”回歸方程的方法1.從所有可能的變量組合的回歸36

逐步回歸分析法在篩選變量方面比較理想,是目前較常用的方法.它從一個(gè)自變量開始,根據(jù)自變量作用的顯著程度,從大到小地依次逐個(gè)引入回歸方程,但當(dāng)引入的自變量由于后面變量的引入而變得不顯著時(shí),要將其剔除掉.引入一個(gè)自變量或從回歸方程中剔除一個(gè)自變量,為逐步回歸的一步,對(duì)于每一步,都進(jìn)行檢驗(yàn),以確保每次引入新的顯著性變量前回歸方程中只包含作用顯著的變量.

反復(fù)進(jìn)行上面的過(guò)程,直到?jīng)]有不顯著的變量從回歸方程中剔除,也沒(méi)有顯著變量可引入到回歸方程.逐步回歸分析法在篩選變量方面比較理想,是反復(fù)進(jìn)行上37函數(shù):

stepwise用法:

stepwise(x,y,inmodel,alpha)符號(hào)說(shuō)明:x—自變量數(shù)據(jù),為n×m矩陣;y—因變量數(shù)據(jù),為n×1矩陣;inmodel—由矩陣x列的指標(biāo)構(gòu)成,表明初始模型中引入的自變量,默認(rèn)為全部自變量;alpha—判斷模型中每一項(xiàng)顯著性的指標(biāo),默認(rèn)相當(dāng)于對(duì)回歸系數(shù)給出95%的置信區(qū)間.函數(shù):stepwise用法:stepwise(x,y,i38例4水泥凝固時(shí)放出的熱量y與水泥中的四種化學(xué)成分x1,x2,x3,x4有關(guān),今測(cè)得一組數(shù)據(jù)如下,試用逐步回歸法確定一個(gè)線性模型.序號(hào)1234567226295631525571x3615886917x46052204733226y78.574.3104.387.695.9109.2102.7序號(hào)8910111213x1122111110x2315447406668x3221842398x4442226341212y72.593.1115.983.8113.3109.4例4水泥凝固時(shí)放出的熱量y與水泥中的四種化序號(hào)123439x1=[7,1,11,11,7,11,3,1,2,21,1,11,10]';x2=[26,29,56,31,52,55,71,31,54,47,40,66,68]';x3=[6,15,8,8,6,9,17,22,18,4,23,9,8]';x4=[60,52,20,47,33,22,6,44,22,26,34,12,12]';y=[78.5,74.3,104.3,87.6,95.9,109.2,102.7,72.5,93.1,115.9,83.8,113.3,109.4]';x=[x1,x2,x3,x4];輸入數(shù)據(jù)stepwise(x,y)逐步回歸分析x1=[7,1,11,11,7,11,3,1,2,21,1,40stepwise(x,y)逐步回歸分析stepwise(x,y)逐步回歸分析41對(duì)變量y和x1,x2,x3,x4,

作線性回歸.>>X=[ones(13,1),x1,x2,x3,x4];>>[b,bint,r,rint,stats]=regress(y,X)b=62.40541.55110.51020.1019-0.1441bint=-99.1786223.9893-0.16633.2685-1.15892.1792-1.63851.8423-1.77911.4910r=0.00481.5112-1.6709-1.72710.25083.9254-1.4487-3.17501.37830.28151.99100.9730-2.2943rint=-4.03904.0485-3.23316.2555-5.31261.9707-6.56033.1061-4.57735.0788-0.56238.4132-6.07673.1794-6.89630.5463-3.54266.2993-3.00983.5729-2.23726.2191-4.13386.0797-6.91152.3228stats=0.9824111.47920.00005.9830對(duì)變量y和x1,x2,x3,x4,作線42對(duì)變量y和x1,x2作線性回歸.X=[ones(13,1),x1,x2];[b,bint,stats]=regress(y,X)回歸模型為三個(gè)統(tǒng)計(jì)量表明:回歸效果顯著.對(duì)變量y和x1,x2作線性回歸.X=[ones(43對(duì)變量y和x1,x2作線性回歸.>>x=[x1,x2];>>stepwise(x,y)對(duì)變量y和x1,x2作線性回歸.>>x=[x44四、小結(jié)1.多元線性回歸的數(shù)學(xué)模型2.數(shù)學(xué)模型的分析與求解四、小結(jié)1.多元線性回歸的數(shù)學(xué)模型2.數(shù)學(xué)模型的分析與求解453.MATLAB中回歸分析的實(shí)現(xiàn)(1)多元線性回歸b=regress(Y,X)(2)一元多項(xiàng)式回歸[p,S]=polyfit(x,y,m)(3)多元二項(xiàng)式回歸rstool(x,y,’model’,alpha)(4)逐步回歸分析stepwise(x,y,inmodel,alpha)3.MATLAB中回歸分析的實(shí)現(xiàn)(1)多元線性回歸b=reg46一、多元線性回歸的數(shù)學(xué)模型二、數(shù)學(xué)模型的分析與求解三、MATLAB中回歸分析的實(shí)現(xiàn)四、小結(jié)多元線性回歸一、多元線性回歸的數(shù)學(xué)模型二、數(shù)學(xué)模型的分析與求解三、MAT47一、多元線性回歸的數(shù)學(xué)模型一、多元線性回歸的數(shù)學(xué)模型48多元線性回歸模型多元線性回歸模型49用最大似然估計(jì)法估計(jì)參數(shù).達(dá)到最小.二、數(shù)學(xué)模型的分析與求解用最大似然估計(jì)法估計(jì)參數(shù).達(dá)到最小.二、數(shù)學(xué)模型的分析與求解50化簡(jiǎn)可得化簡(jiǎn)可得51正規(guī)方程組正規(guī)方程組52引入矩陣正規(guī)方程組的矩陣形式引入矩陣正規(guī)方程組的矩陣形式53最大似然估計(jì)值P元經(jīng)驗(yàn)線性回歸方程最大似然估計(jì)值P元經(jīng)驗(yàn)線性回歸方程54多元線性回歸

1.確定回歸系數(shù)的點(diǎn)估計(jì)值,用命令:

b=regress(Y,X)2.求回歸系數(shù)的點(diǎn)估計(jì)和區(qū)間估計(jì),并檢驗(yàn)回歸模型,用命令:

[b,bint,r,rint,stats]=regress(Y,X,alpha)3.畫出殘差及其置信區(qū)間,用命令:

rcoplot(r,rint)三、MATLAB中回歸分析的實(shí)現(xiàn)多元線性回歸1.確定回歸系數(shù)的點(diǎn)估計(jì)值,用命令:2.55符號(hào)說(shuō)明(1)符號(hào)說(shuō)明(1)56(2)

alpha為顯著性水平,默認(rèn)為0.05;(3)

bint為回歸系數(shù)的區(qū)間估計(jì);(4)

r與rint分別為殘差及其置信區(qū)間;

(5)

stats是用于檢驗(yàn)回歸模型的統(tǒng)計(jì)量,有三個(gè)數(shù)值,第一個(gè)是相關(guān)系數(shù)

r2,其值越接近于1,說(shuō)明回歸方程越顯著;第二個(gè)是

F值,

F>F1-alpha(p,n-p-1)時(shí)拒絕H0,F越大,說(shuō)明回歸方程越顯著;第三個(gè)是與F對(duì)應(yīng)的概率

p,p<alpha時(shí)拒絕,回歸模型成立.(2)alpha為顯著性水平,默認(rèn)為0.05;(3)57身高143145146147149150153154腿長(zhǎng)8885889192939395身高155156157158159160162164腿長(zhǎng)969897969899100102例1測(cè)得16組的身高和腿長(zhǎng)如下(單位:cm):試研究這些數(shù)據(jù)之間的關(guān)系.身高143145146147149150153154腿長(zhǎng)8858輸入數(shù)據(jù)x=[143,145,146,147,149,150,153,154,155,156,157,158,159,160,162,164]’;X=[ones(16,1),x];Y=[88,85,88,91,92,93,93,95,96,98,97,96,98,99,100,102]’;回歸分析及檢驗(yàn)[b,bint,r,rint,stats]=regress(Y,X);b,bint,stats輸入數(shù)據(jù)x=[143,145,146,147,149,15059多元回歸分析-2課件60多元回歸分析-2課件61一元多項(xiàng)式回歸1.確定多項(xiàng)式系數(shù),用命令:

[p,S]=polyfit(x,y,m)也可使用命令:polytool(x,y,m)

結(jié)果產(chǎn)生一個(gè)交互式的畫面,畫面中有擬合曲線和y的置信區(qū)間,左下方的Export可以輸出參數(shù).一元多項(xiàng)式回歸1.確定多項(xiàng)式系數(shù),用命令:也可使用命令:622.預(yù)測(cè)和預(yù)測(cè)誤差估計(jì)用命令:求回歸多項(xiàng)式在x處的預(yù)測(cè)值Y.[Y,DELTA]=polyconf(p,x,S,alpha)

求回歸多項(xiàng)式在x處的預(yù)測(cè)值Y以及預(yù)測(cè)值的顯著性為1-alpha的置信區(qū)間Y±DELTA,alpha的默認(rèn)值是0.05.一元多項(xiàng)式回歸可化為多元線性回歸求解.Y=polyval(p,x)2.預(yù)測(cè)和預(yù)測(cè)誤差估計(jì)用命令:求回歸多項(xiàng)式在x處的預(yù)測(cè)值Y.63例2下面給出了某種產(chǎn)品每件平均單價(jià)Y(元)與批量x(件)之間的關(guān)系的一組數(shù)據(jù).x202530354050y1.811.701.651.551.481.40x606570758090y1.301.261.241.211.201.18試用一元二次多項(xiàng)式進(jìn)行回歸分析.例2下面給出了某種產(chǎn)品每件平均單價(jià)Y(元)與x202564輸入數(shù)據(jù)x=[20,25,30,35,40,50,60,65,70,75,80,90];y=[1.81,1.70,1.65,1.55,1.48,1.40,1.30,1.26,1.24,1.21,1.20,1.18];作二次多項(xiàng)式回歸[p,S]=polyfit(x,y,2)預(yù)測(cè)及作圖Y=polyconf(p,x,y)plot(x,y,’b+’,x,Y,’r’)輸入數(shù)據(jù)x=[20,25,30,35,40,50,60,6565作二次多項(xiàng)式回歸[p,S]=polyfit(x,y,2)>>p=polyfit(x,y,2)p=0.0001-0.02252.1983Y=polyval(p,x)Y=1.79781.71341.63521.56321.49751.38481.29721.26271.23451.21261.19691.1843作二次多項(xiàng)式回歸[p,S]=polyfit(x,y,2)>>66預(yù)測(cè)及作圖Y=polyconf(p,x,y)plot(x,y,’b+’,x,Y,’r’)Y=polyconf(p,x,y)Y=1.79781.71341.63521.56321.49751.38481.29721.26271.23451.21261.19691.1843預(yù)測(cè)及作圖Y=polyconf(p,x,y)Y=polyco67預(yù)測(cè)及作圖polytool(x,y,2)預(yù)測(cè)及作圖polytool(x,y,2)68預(yù)測(cè)及作圖polytool(x,y,2)[p,S]=polyfit(x,y,2)；[Y,DELTA]=polyconf(p,x,S,0.05)Y=1.79781.71341.63521.56321.49751.38481.29721.26271.23451.21261.19691.1843DELTA=0.03350.03110.02990.02960.02970.03020.03020.02990.02970.02970.03050.0354預(yù)測(cè)及作圖polytool(x,y,2)[p,S]=poly69化為多元線性回歸X=[ones(12,1)x’(x.^2)’];X=120400125625130900135122514016001502500160360016542251704900175562518064001908100化為多元線性回歸X=[ones(12,1)x’(x.^270化為多元線性回歸X=[ones(12,1)x’(x.^2)’];[b,bint,r,rint,stats]=regress(y’,X);b,stats與前面的結(jié)果一致.化為多元線性回歸X=[ones(12,1)x’(x.^271多元二項(xiàng)式回歸rstool(x,y,’model’,alpha)

其中,輸入數(shù)據(jù)

x,y分別為n×m矩陣和n維列向量;

alpha為顯著性水平,默認(rèn)為0.05;

model為下列四種模型中的一種,輸入相應(yīng)的字符串,默認(rèn)為線性模型.多元二項(xiàng)式回歸rstool(x,y,’model’,alph72

rstool的輸出是一個(gè)交互式畫面,畫面中有m個(gè)圖形,分別給出了一個(gè)獨(dú)立變量xi與y的擬合曲線,以及y的置信區(qū)間,此時(shí)其余m-1個(gè)變量取固定值.可以輸入不同的變量的不同值得到y(tǒng)的相應(yīng)值.

圖的左下方有兩個(gè)下拉式菜單,一個(gè)用于傳送回歸系數(shù)、剩余標(biāo)準(zhǔn)差、殘差等數(shù)據(jù);另一個(gè)用于選擇四種回歸模型中的一種,選擇不同的回歸模型,其中剩余標(biāo)準(zhǔn)差最接近于零的模型回歸效果最好.rstool的輸出是一個(gè)交互式畫面,畫面中有m個(gè)圖的73多元回歸分析-2課件74例3設(shè)某商品的需求量與消費(fèi)者的平均收入、商品價(jià)格的統(tǒng)計(jì)數(shù)據(jù)如下,建立回歸模型,預(yù)測(cè)平均收入為1000,價(jià)格為6時(shí)的商品需求量.

需求量10075807050收入10006001200500300價(jià)格57668需求量659010011060收入400130011001300300價(jià)格75439例3設(shè)某商品的需求量與消費(fèi)者的平均收入、商需求量1007575選擇純二次模型,即數(shù)據(jù)輸入x1=[1000,600,1200,500,300,400,1300,1100,1300,300];x2=[5,7,6,6,8,7,5,4,3,9];y=[100,75,80,70,50,65,90,100,110,60]';x=[x1'x2'];回歸、檢驗(yàn)與預(yù)測(cè)rstool(x,y,'purequadratic')選擇純二次模型,即數(shù)據(jù)輸入x1=[1000,600,120076化為多元線性回歸求解x1=[1000,600,1200,500,300,400,1300,1100,1300,300];x2=[5,7,6,6,8,7,5,4,3,9];y=[100,75,80,70,50,65,90,100,110,60]';X=[ones(10,1)x1'x2'(x1.^2)'(x2.^2)'];[b,bint,r,rint,stats]=regress(y,X)化為多元線性回歸求解x1=[1000,600,1200,5077回歸系數(shù)的點(diǎn)估計(jì)以及區(qū)間估計(jì)回歸系數(shù)的點(diǎn)估計(jì)以及區(qū)間估計(jì)78殘差及其置信區(qū)間殘差及其置信區(qū)間79檢驗(yàn)回歸模型的統(tǒng)計(jì)量檢驗(yàn)回歸模型的統(tǒng)計(jì)量80逐步回歸分析

在實(shí)際問(wèn)題中,影響因變量的因素很多,而這些因素之間可能存在多重共線性.為得到可靠的回歸模型,需要一種方法能有效地從眾多因素中挑選出對(duì)因變量貢獻(xiàn)大的因素.

如果采用多元線性回歸分析,回歸方程穩(wěn)定性差,每個(gè)自變量的區(qū)間誤差積累將影響總體誤差,預(yù)測(cè)的可靠性差、精度低;另外,如果采用了影響小的變量,遺漏了重要變量,可能導(dǎo)致估計(jì)量產(chǎn)生偏倚和不一致性.逐步回歸分析在實(shí)際問(wèn)題中,影響因變量的因素很多,而這些81選擇“最優(yōu)”回歸方程的方法

1.從所有可能的變量組合的回歸方程中選擇最優(yōu)者;

2.從包含全部變量的回歸方程中逐次剔除不顯著因子;

3.從一個(gè)變量開始,把變量逐個(gè)引入方程;

4.“有進(jìn)有出”的逐步回歸分析.

“最優(yōu)”的回歸方程應(yīng)該包含所有有影響的變量而不包括影響不顯著的變量.選擇“最優(yōu)”回歸方程的方法1.從所有可能的變量組合的回歸82

逐步回歸分析法在篩選變量方面比較理想,是目前較常用的方法.它從一個(gè)自變量開始,根據(jù)自變量作用的顯著程度,從大到小地依次逐個(gè)引入回歸方程,但當(dāng)引入的自變量由于后面變量的引入而變得不顯著時(shí),要將其剔除掉.引入一個(gè)自變量或從回歸方程中剔除一個(gè)自變量,為逐步回歸的一步,對(duì)于每一步,都進(jìn)行檢驗(yàn),以確保每次引入新的顯著性變量前回歸方程中只包含作用顯著的變量.

反復(fù)進(jìn)行上面的過(guò)程,直到?jīng)]有不顯著的變量從回歸方程中剔除,也沒(méi)有顯著變量可引入到回歸方程.逐步回歸分析法在篩選變量方面比較理想,是反復(fù)進(jìn)行上83函數(shù):

stepwise用法:

stepwise(x,y,inmodel,alpha)符號(hào)說(shuō)明:x—自變量數(shù)據(jù),為n×m矩陣;y—因變量數(shù)據(jù),為n×1矩陣;inmodel—由矩陣x列的指標(biāo)構(gòu)成,表明初始模型中引入的自變量,默認(rèn)為全部自變量;alpha—判斷模型中每一項(xiàng)顯著性的指標(biāo),默認(rèn)相當(dāng)于對(duì)回歸系數(shù)給出95%的置信區(qū)間.函數(shù):stepwise用法:stepwise(x,y,i84例4水泥凝固時(shí)放出的熱量y與水泥中的四種化學(xué)成分x1,x2,x3,x4有關(guān),今測(cè)得一組數(shù)據(jù)如下,試用逐步回歸法確定一個(gè)線性模型.序號(hào)1234567226295631525571x3615886917x46052204733226y78.574.3104.387.695.9109.2102.7序號(hào)8910111213x1122111110x2315447406668x3221842398x4442226341212y72.593.1115.983.8113.3109.4例4水泥凝固時(shí)放出的熱量y與水泥中的四種化序號(hào)123485x1=[7,1,11,11,7,11,3,1,2,21,1,11,10]';x2=[26,29,56,31,