Matlab 數(shù)據(jù)分析 課件 康海剛 第6章 多元線性回歸模型

Matlab數(shù)據(jù)分析第6章多元線性回歸模型1）收集一組包含因變量和白變量的數(shù)據(jù)。2）選定因變量與白變量之間的模型，即一個數(shù)學式子，利用數(shù)據(jù)按照最小二乘準則計算模型中的參數(shù)。3）利用統(tǒng)計分析方法對不同的模型進行比較，找出與數(shù)據(jù)擬合得最好的模型。4）判斷得到的模型是否適合于這組數(shù)據(jù)。5）利用模型對因變量作出預測或解釋。常見的回歸算法如下。（1）OLS線性回歸1）工作原理：線性回歸是一項統(tǒng)計建模技術，用來描述作為一個或多個預測自變量的線性函數(shù)的連續(xù)因變量。2）最佳使用時機：當需要易于解釋和快速擬合算法時，線性回歸可作為評估其他更復雜回歸模型的基準。（2）非線性回歸1）工作原理：非線性回歸是一種有助于描述試驗數(shù)據(jù)中非線性關系的統(tǒng)計建模技術。2）最佳使用時機：當數(shù)據(jù)有很強的非線性趨勢，不容易轉(zhuǎn)化成線性空間時，可適用于自定義模型與數(shù)據(jù)擬合。（3）高斯過程回歸1）工作原理：高斯過程回歸（GPR）模型是非參數(shù)模型，用于預測連續(xù)因變量的值。2）最佳使用時機：適用于對空間數(shù)據(jù)插值，如針對地下水分布的水文地質(zhì)學數(shù)據(jù)、作為有助于優(yōu)化汽車發(fā)動機等復雜設計的替代模型。（4）SVM回歸1）工作原理：SVM回歸算法類似于SVM分類算法，但經(jīng)過改良，能夠預測連續(xù)響應。2）最佳使用時機：適用于高維數(shù)據(jù)（將會有大量的預測自變量）。（5）廣叉線性模型1）工作原理：廣義線性模型是使用線性方法的非線性模型的一種特殊情況。2）最佳使用時機：當因變量有非正態(tài)分布時，如始終預期為正值的因變量。（6）回歸決策樹1）工作原理：回歸決策樹類似于分類決策樹，但經(jīng)過改良能夠預測連續(xù)響應，如圖6-6所示。應用案例預測能量負荷1）改進模型。2）特征選擇。3）特征變換。4）訓練模型。5）超參數(shù)調(diào)優(yōu)。6.1概述6.1概述（1）擬合系數(shù)R2其定義為（2）模型的假定關于多元回歸模型y=??0+??0x1+??2x2+?+??mxm+??

中誤差項??的假定要注意以下兒點：1）誤差項??是一個隨機變量，其均值或者期望值力0，即E（??）=0。2）對于所有的白變量x1，x2，…，xm的值，??的方差多是相同的。3）??的值是互相獨立的。4）誤差項??是一個服從隨機正態(tài)分布的隨機變量，它反映了y值和由??0+??0x1+??2x2+?+??mxm給出的期望值之間的離差。（3）顯著性檢驗1）F檢驗6.1概述2）t檢驗。（4）多重共線性在回歸分析中使用自變量來表示用于預測或解釋因變量的任何變量，但是這個術語并不意味著自變量本身在統(tǒng)計意義上是獨立的。（5）利用回歸模型進行預測利用回歸方程=??0+??0x1+??2x2+?+??mxm，給出一組具體的自變量的值，能得到對應的預測值的點估計。6.2一元曲線擬合6.2.1案例1—百貨商場銷售額步驟1準備數(shù)據(jù)，在命令窗口中輸入以下代碼：步驟2打開“CurveFitting”APP。步驟3在CurveFiting界面選擇對應的數(shù)據(jù)，在“Xdata”下拉列表框中選擇“x”，在“Ydata”下拉列表框中選擇“y”，如圖6-10所示。步驟4通過從“Degree”下拉列表框中選擇“2”，可將擬合更改為二次多項式。步驟5修改“Fitname”為“poly2”。步驟6展示殘差圖，可選擇“View—ResidualsPlot”菜單命令，用殘差表示這一商業(yè)活動效果更佳。6.2一元曲線擬合步驟7添加新擬合以嘗試其他庫方程式。6.2一元曲線擬合6.2一元曲線擬合6.2一元曲線擬合6.2一元曲線擬合步驟8以同樣方法添加新擬合，在圖6-12所示的圓圈標記處單擊下拉箭頭。6.2一元曲線擬合步驟9以同樣的方法創(chuàng)建冪函數(shù)（power）擬合，如圖6-14所示。6.2一元曲線擬合6.2.2確定最優(yōu)擬合6.2.3導出模型到工作空間6.2一元曲線擬合6.2一元曲線擬合6.3多元線性回歸模型6.3.1案例2——牙膏的銷售量6.3多元線性回歸模型6.3多元線性回歸模型1.分析與假設2.基本模型的建立與求解（1）基本模型的建立了大致分析y與x1和x2的關系，首先利用表6-1中的數(shù)據(jù)分別作出y對x1和x2的散點圖（見圖6-19）。6.3多元線性回歸模型（2）基本模型求解直接使用Matla中的fitlm求解，代碼保存在ex7_2中，代碼如下：6.3多元線性回歸模型6.3多元線性回歸模型6.3多元線性回歸模型3.基本模型的改進6.3多元線性回歸模型6.3.2案例3——白變量含有分類變量的處理1.問題分析6.3多元線性回歸模型2.模型的建立與求