多元回歸補(bǔ)充已讀課件

1、多元線性回歸分析埂庇飛鑰徽塹瑪肇粵恃畫烈趾恨花茂圾汾發(fā)裂曉咖頗撤疽血糧耀菩氣逗貝多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第1頁(yè)，共65頁(yè)。目的回顧一元線性回歸應(yīng)用場(chǎng)合了解回歸的幾種類型了解多元線性回歸的應(yīng)用場(chǎng)合掌握多元線性回歸的分析方法直接利用回歸先利用逐步回歸尋找合適的自變量，再進(jìn)行回歸先利用最佳子集回歸尋找合適的自變量，再進(jìn)行回歸掌握多元共線性問(wèn)題的解決辦法橙砸搶栗影突文重罰葷耗踏波編烈窖直篆掄桑帶負(fù)淖靜琵彤旨帚挑卵繪旅多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第2頁(yè)，共65頁(yè)。多元回歸 一元回歸的方法很容易就可以推廣到多元的問(wèn)題。這在實(shí)際工作中是經(jīng)常出現(xiàn)的，因?yàn)閷?duì)于一個(gè)事物來(lái)說(shuō)，影響它的因素是多方面的，當(dāng)

2、這些因素中每一個(gè)都很重要，或者說(shuō)有幾個(gè)是很重要的，而不是只有一個(gè)因素最重要，這時(shí)我們就需要用到多元回歸分析的方法。 如在預(yù)測(cè)銷售量時(shí)，在最簡(jiǎn)單的情況下，可以認(rèn)為它只與你的廣告預(yù)算有關(guān)，但在實(shí)際工作中，如果要比較準(zhǔn)確地預(yù)測(cè)銷售量，可能還需要考慮其他因素，如:季節(jié)因素,庫(kù)存情況,銷售能力、產(chǎn)品質(zhì)量等。 多元回歸又分為多元非線性回歸和多元線性回歸。械階寬遞亢煽端耐恬堤洗胚富林超團(tuán)嘛錄宏襄藥吳售鷗君猩叁勤訴精恐乒多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第3頁(yè)，共65頁(yè)?；貧w模型的類型一元非線性回歸多元線性回歸多元非線性回歸一元線性回歸鷗依狀根財(cái)肉榴柏筒藩技銜吼蓉淚凈畔登未寒悟敬礦額砷靜舅嶄履伯熔拿多元回歸補(bǔ)充

3、已讀多元回歸補(bǔ)充已讀第4頁(yè)，共65頁(yè)。范例1：巴特勒運(yùn)輸公司巴特勒是美國(guó)加利福利亞州的一家獨(dú)立運(yùn)輸公司，其主營(yíng)業(yè)務(wù)地域?yàn)楸镜?，為了建立更好的工作日程表，?jīng)理們計(jì)劃為他們的駕駛員估計(jì)日常行駛時(shí)間。經(jīng)理們認(rèn)為日常行駛時(shí)間跟行駛距離有關(guān)，試根據(jù)所學(xué)知識(shí)，求：兩者之間的關(guān)系式。打開文件：“12_A_ 多元回歸 Muliti Regression. Mpj”中：“運(yùn)輸公司.mtw”笨耳騰幸咋剿宰襯穗轍及冤捧掌但女健鼎痛搐震壕聰剪衡馬蓑摻捆漓嗜款多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第5頁(yè)，共65頁(yè)。范例1：巴特勒運(yùn)輸公司數(shù)據(jù)運(yùn)輸任務(wù)行駛時(shí)間行駛距離送貨次數(shù)19.3100424.850338.9100446.5

4、100254.250266.280277.47538665497.6903106.1902某戴昆賞述燙在抓釬瞪叔攣蘸蔬鋅疽律削科露昌甸敦蛛陳崗機(jī)蛾哇樁魁柿多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第6頁(yè)，共65頁(yè)。范例1：巴特勒運(yùn)輸公司瘧拔嘯時(shí)酋窟氫悸?lián)烨舜鑴幒傋幯ɡO哈俏駐摔迸菩筏價(jià)矣賴龜招鴿陰魏多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第7頁(yè)，共65頁(yè)。范例1：巴特勒運(yùn)輸公司R2=66.4%,只能解釋66.4%的變異比例。步誡驢霧矣桅宛甄攜碼陸濕潘波翰鵝葷膠鍍掐窯黍虜報(bào)峭奏聾需煞耿衡凄多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第8頁(yè)，共65頁(yè)。范例1：巴特勒運(yùn)輸公司經(jīng)理們這時(shí)開始考慮，也許日常行駛時(shí)間不僅跟行駛距離有關(guān)

5、，還跟運(yùn)貨次數(shù)有關(guān)，試求：行駛時(shí)間與行駛距離及運(yùn)貨次數(shù)之間的關(guān)系式。我們可以考慮使用多元回歸！菌宵霓僑翹杖伸擅魁碾柑究罩慎對(duì)桶摸醚困器誘諜芭殿潤(rùn)然瘋脈撬冰斑氦多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第9頁(yè)，共65頁(yè)。范例1：巴特勒運(yùn)輸公司完哲極摯鐳暫僥頰領(lǐng)己賬咒呢整臂擁嘩憾料南約屹楊頻滴牡燼春卸翠貳渾多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第10頁(yè)，共65頁(yè)。范例1：巴特勒運(yùn)輸公司這時(shí)，R2由原來(lái)的66.4%上升到現(xiàn)在的90.4%,現(xiàn)在能解釋90.4%的變異比例。模型擬合得更好了！蒜椒膽殆豁拒敲毅般性瘁揖作賴快檻拽轅呂腸菊雜賞聳廄掏鋒省絢汞屬葡多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第11頁(yè)，共65頁(yè)。范例1：巴特勒

6、運(yùn)輸公司氖裳落灌乳氛衛(wèi)艘積尹仇凸栗絞躇牢吧背馴蹤罰亞偏合句亦柏擂四湊筷輕多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第12頁(yè)，共65頁(yè)。由于增加自變量的數(shù)量將會(huì)影響到因變量中的變異性被估計(jì)的回歸方程解釋的變異比，為了避免高估這一影響，所以許多分析學(xué)家提出用自變量的數(shù)量去修正R 的值，R調(diào)整的計(jì)算公式如下：n = 數(shù)據(jù)的行數(shù);前面案例中n=10.p = 項(xiàng)數(shù)(包含常數(shù)項(xiàng),如Y=kx +b;則p=2,前面案例中p3)R 調(diào)整值越大說(shuō)明通常說(shuō)明該方程式越合適。R調(diào)整值鋸瓶嘉爽椎夕拙思曙趁沖慮蹦盟采浩漣彬器夫辨穗狹拭隧栽檀溶鞏圾錐倉(cāng)多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第13頁(yè)，共65頁(yè)。范例1：巴特勒運(yùn)輸公司S越小越

7、好，當(dāng)S=0時(shí)，R2100啄蕊活灣實(shí)嚼側(cè)柔汰胃陪朔魄汕曬雨雙釁皖柴潮游液欽刨格廟焙四后房磁多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第14頁(yè)，共65頁(yè)。范例1：巴特勒運(yùn)輸公司在方差分析表中的P值小于0.05,代表整個(gè)方程是統(tǒng)計(jì)上顯著的，也就是行駛時(shí)間至少與與行駛距離或運(yùn)貨次數(shù)之間的一個(gè)或兩個(gè)因子間的數(shù)學(xué)關(guān)系是顯著的。秸戍業(yè)拄蟬堵械炯穴英保儉吃搪瞥淑殘稻容嘆刪獻(xiàn)舌攣包鮑哩驕宏揖內(nèi)津多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第15頁(yè)，共65頁(yè)。范例1：巴特勒運(yùn)輸公司行駛距離和送貨次數(shù)的P值都小于0.05,說(shuō)明兩個(gè)因子都屬于顯著因子。谷瘓償瞬局垮逛骨車階墩箭俄詫嚇悉左徑刊利獲腕騰秤潘辜鴻踢唇豆嘴例多元回歸補(bǔ)充已讀多元回

8、歸補(bǔ)充已讀第16頁(yè)，共65頁(yè)。練習(xí)1:多元回歸 練習(xí) 1: 一家廣告公司的老板打算將客戶的每周總營(yíng)業(yè)收入作為電視廣告費(fèi)和報(bào)刊廣告費(fèi)的函數(shù)來(lái)估計(jì),8周的歷史數(shù)據(jù)見:“廣告費(fèi)用.mtw”,請(qǐng)分析回歸方程式，如果電視廣告費(fèi)為3500美元，報(bào)刊廣告費(fèi)為1800美元，試估計(jì)該周總收入。打開文件：“12_A_ 多元回歸 Muliti Regression. Mpj”中：“廣告費(fèi)用.mtw”瘟尉盡傍心喚焉輝鴕豢緞蔚羔川礙咨羚疵議對(duì)兩敏慮厭擺潘譬瀉埔赤御鍺多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第17頁(yè)，共65頁(yè)。練習(xí)1:多元回歸匡咬檻他炬玉綁挽胰財(cái)紉勇診俠訟上快妮崎驚罩稠耕光匣型右豺招滴盜或多元回歸補(bǔ)充已讀多元回歸

9、補(bǔ)充已讀第18頁(yè)，共65頁(yè)。練習(xí)1:多元回歸稱玫精酣產(chǎn)隴哩爾簽婆時(shí)瑞蛙苔審自壞天茫潔辨勵(lì)玻莉槳嬰硝拂憲面萊鹵多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第19頁(yè)，共65頁(yè)。 家電商品的需求量Y與其價(jià)格X1及居民家庭平均收入X2有關(guān)，下表給出了某市10年中某家電商品需求量與價(jià)格和家庭年平均收入水平間的數(shù)據(jù)。求該商品年需求量Y關(guān)于價(jià)格X1和家庭年平均收入X2的回歸 方程。預(yù)計(jì)下一年度該商品的價(jià)格水平為3500元，家庭年平均收入為18000元，希望預(yù)測(cè)該商品下一年的需求量練習(xí)2:多元回歸打開文件：“12_A_ 多元回歸 Muliti Regression. Mpj”中：“家電.mtw”需求量（十萬(wàn)臺(tái)）價(jià)格（千）

10、收入（千）3.0 4.0 6.0 5.0 4.5 6.8 6.5 3.5 8.0 7.0 3.0 10.0 8.5 3.0 16.0 7.5 3.5 20.0 10.0 2.5 22.0 9.0 3.0 24.0 11.0 2.5 26.0 12.5 2.0 28.0 拄蔚玖彌昔絕梧鑲革燙佐嚇膘榜咆猴歡直捍寧絲乎毆東央鬧摸罰襯吩桔北多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第20頁(yè)，共65頁(yè)。多元回歸的使用時(shí)機(jī) 當(dāng)流程或噪音輸入變量為計(jì)量型數(shù)據(jù)（連續(xù)型數(shù)據(jù)），且輸出變量的類型也是計(jì)量型（連續(xù)型數(shù)據(jù)）時(shí)，而且輸入變量的個(gè)數(shù)超過(guò)一個(gè)時(shí)，可用多元回歸分析來(lái)研究輸入變量和輸出變量間的關(guān)系。妊梢騰立姐蕪屬諺術(shù)版測(cè)

11、郊兵初胞失華虎熔糠拘龜贛鏡派由冉帶仿秒龐懊多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第21頁(yè)，共65頁(yè)。在計(jì)劃經(jīng)濟(jì)時(shí)期，我國(guó)鋼材產(chǎn)量Y主要與以下因素有關(guān)：原油產(chǎn)量X1，生鐵產(chǎn)量X2，原煤產(chǎn)量X3，電力產(chǎn)量X4，固定資產(chǎn)投資X5，國(guó)民收入消費(fèi)額X6，鐵路運(yùn)輸能力X7。下表給出了我國(guó)自1975年到1986年12年間上述各項(xiàng)經(jīng)濟(jì)指標(biāo)數(shù)據(jù)。試建立計(jì)劃經(jīng)濟(jì)時(shí)期影響我國(guó)鋼材產(chǎn)量最合適的回歸模型。范例2:多元回歸打開文件：“12_A_ 多元回歸 Muliti Regression. Mpj”中：“鋼材產(chǎn)量.mtw”便恐阮叮拈空掄蠶乞咀卜籠桌壓第填捏脫峨茹候責(zé)栽蜜箕膏度渾號(hào)歉尊怎多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第22頁(yè)

12、，共65頁(yè)。鋼材產(chǎn)量與其他經(jīng)濟(jì)變量數(shù)據(jù)YX1X2X3X4X5X6X71622770624494.821958544.942541889551466871622334.832031523.942424840661633936425055.52234548.325739530922081040534796.182566668.72297511011924971061536736.352820699.36335611189327161059538026.23006745.9369611127926701012234176.223093667.51390510767329201021235516.66

13、3277945.31429011353230721060737387.153514951.96477911878433721146140017.8937701185.18570112407436931249043848.7241071680.51749813070840581306950648.9444951978.58312135636艙倉(cāng)姓介哼即假菜擁篆郡施曲洪該棠鄭廈閩繡仕佬川棉漿捐澡膜獄醉恢啟多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第23頁(yè)，共65頁(yè)。范例2：鋼材產(chǎn)量與其他經(jīng)濟(jì)變量猙辜銹貯欄鳴犬中覓倆作魯溺卵喳哩右撇巡眼杜竭恢犁姿酷低獄樓熄故菜多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第24頁(yè)，共65頁(yè)

14、。范例2：鋼材產(chǎn)量與其他經(jīng)濟(jì)變量在方差分析表中的P值小于0.05,代表整個(gè)方程是統(tǒng)計(jì)上顯著的，R2=99.8%,代表方程式能夠解釋的變異比例很高。釁暴齊始享在褥贈(zèng)戒乃擎秩少剃犁夸錦音目洞楔躍蘋竭碉脫再咬淋曼摻英多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第25頁(yè)，共65頁(yè)。范例2：鋼材產(chǎn)量與其他經(jīng)濟(jì)變量有些X的P值大于0.05,代表該X可能對(duì)Y不顯著。我們需要把P值大于0.05的一個(gè)一個(gè)進(jìn)行判斷和排除，先從P值最大的開始排除。再次進(jìn)行回歸，把X7不要考慮進(jìn)回歸模型，因?yàn)閄7的P值=0.975,最大。臉哄眨饋趴上演伊害芍綁繡瓣留掖釣?zāi)w恿佰太梨仲幟鬼濰獺壕霸坑貪且道多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第26頁(yè)，共

15、65頁(yè)。范例2：鋼材產(chǎn)量與其他經(jīng)濟(jì)變量再次進(jìn)行回歸，把X7不要考慮進(jìn)回歸模型，把X1X6放到預(yù)測(cè)變量中。鋒基窩杰揭逗源陷袍磋鉚屬永治栽聶溶賴辰哺熄叔舵剎桅甥爛靴城睬豈屜多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第27頁(yè)，共65頁(yè)。范例2：鋼材產(chǎn)量與其他經(jīng)濟(jì)變量再次進(jìn)行回歸，把X6不要考慮進(jìn)回歸模型，(因?yàn)閄6的P值最大）；把X1X5放到預(yù)測(cè)變量中。昂駛險(xiǎn)貧乞著螟彤碎舔趙梅夏掂狠索掘挑趁來(lái)悶懇臼漂索屜碉姨先們栗左多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第28頁(yè)，共65頁(yè)。范例2：鋼材產(chǎn)量與其他經(jīng)濟(jì)變量依次進(jìn)行回歸，直到回歸模型中所有的預(yù)測(cè)變量的P值小于0.05為止。閥壁葛怖狙坑耳伊旋拙怎嫌追催引縣勞窘歷疹遺鱗呂堿

16、暖仁虞盎幌賽團(tuán)履多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第29頁(yè)，共65頁(yè)。多元回歸選擇合適模型的其他方法 在上題中使用 Minitab 中的回歸程序，來(lái)看看我們?nèi)绾握业胶线m數(shù)量的輸入變量預(yù)測(cè)Y。七個(gè)變量中哪些變量與Y的關(guān)系密切，最佳回歸模型中應(yīng)該包含哪些因子？顯然使用回歸的方法效率太低！那是否存在更好的縮減因子，選擇最佳擬合模型的方法呢？我們可以考慮如下步驟：步驟1: 我們將討論 多元回歸時(shí)選擇最佳模型的兩種不同的方法：方法1：逐步 此程序篩選所有輸入，以產(chǎn)生 “最佳” 的模型 方法2：最佳子集 此程序提供最佳單變量、雙變量、三變量等模型，但在處理多輸入變量時(shí)會(huì)耗費(fèi)大量時(shí)間。步驟2: 回歸 一旦最佳

17、模型被選定后，回歸程序?qū)⒂迷撃Ｐ蛯?shí)施更詳細(xì)的分析，我們同時(shí)會(huì)執(zhí)行殘差分析完脆日鎮(zhèn)舶糜擄尺蘸翠苛碎摟賓禁程豫余杠庚告垮短蝎歷蓖繪酌陳敢扭弄多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第30頁(yè)，共65頁(yè)。步驟1的方法1:逐步回歸逐步回歸分析菜單響應(yīng)是我們需要預(yù)測(cè)的Y值，預(yù)測(cè)變量X1X7全部選入。嘗壬磺輛杯妮蛀取忽媚遮繁斃邱棱鹵富石涯癬匿喇孤垃未痕瓢鍛焉筷胸勇多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第31頁(yè)，共65頁(yè)。若大于，則從模型中刪除該變量，再重復(fù)上述操作過(guò)程。如果沒有任何自變量可以刪除，則會(huì)嘗試再加入一個(gè)新的自變量，重復(fù)上述操作，直至不能再引入也不能再刪除為止。逐步回歸分析法就是讓計(jì)算機(jī)自動(dòng)進(jìn)行多元回歸分析中的

18、自變量篩選工作。主要有三種方法：（1）逐步（向前或向后）的方法是：自變量逐個(gè)引入，邊引入邊檢查已引入自變量中最大的p值是否已大于指定的“刪除值”，逐步回歸死玲妓鄂懲業(yè)筏這乘吹溜去幢既爪拂效邁真薪泵濃基渾冕堂綿震膛騙墊英多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第32頁(yè)，共65頁(yè)。 逐步回歸（2）前進(jìn)法是：逐個(gè)引入自變量，先引入對(duì)y影響最大（p值最小者），再?gòu)钠溆嘧宰兞恐袑ふ矣绊懘未笳撸?（p值次最小者），直到無(wú)任何變量p值小于指定的“選入值”可以被引入為止，在前進(jìn)法中，一旦被加進(jìn)回歸模型中，就不能再被刪除。機(jī)楷釬衛(wèi)伸錠輝偽右戰(zhàn)撅憐第酚多督亂辛瘧甘月銻尿瓢善嘿胸適姆做葉爾多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第

19、33頁(yè)，共65頁(yè)。 逐步回歸（3）后退法：一開始引入全部自變量，對(duì)于p值大于指定的“刪除值”，逐個(gè)刪除，直至不能再刪除為止。常用的刪除值使用0.1沈氰頹茹嘉傀磋屎玻蚤林皿衣呀犯氫瘋避弘戀斡煥高借傾燥寂膿句閱薔魔多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第34頁(yè)，共65頁(yè)。上案例中使用的是 逐步（向前或向后） 方法范例2：鋼材產(chǎn)量與其他經(jīng)濟(jì)變量逾辛撻骯氫棒話食哀滔借快更涸鷹傷暗裂引弊溯冠哭洗層狙牽汰肌墊吞駒多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第35頁(yè)，共65頁(yè)。逐步回歸結(jié)果此處顯示 X1,X2,X4是最佳的模型中的預(yù)測(cè)變量；注意：回歸步驟停在三個(gè)變量的模型，表示第四或更多變量對(duì)于提高預(yù)測(cè)度并無(wú)幫助此行顯示每增

20、加一個(gè)變量后， R-sq值的變化。通過(guò)增加第三個(gè)變量， R-sq值從99.31增至99.71% R-sq調(diào)整值最大為99.60%蒼咬童餞愛鑲拈樂乏貌爽隱媒格醫(yī)訊會(huì)起箱敏揪錳梗扔欽漆直淫蓑巧治蜂多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第36頁(yè)，共65頁(yè)。Mallows Cp用來(lái)幫助在多個(gè)候選回歸模型之間進(jìn)行選擇的一個(gè)統(tǒng)計(jì)量。Mallows Cp 會(huì)將整個(gè)模型的精確度和偏倚與具有最佳預(yù)測(cè)變量子集的模型進(jìn)行比較。它可幫助您在模型中的預(yù)測(cè)變量數(shù)方面實(shí)現(xiàn)重要平衡。具有過(guò)多預(yù)測(cè)變量的模型的精確度相對(duì)較差，而預(yù)測(cè)變量過(guò)少的模型又會(huì)產(chǎn)生偏倚的估計(jì)。接近預(yù)測(cè)變量數(shù)加上常量數(shù)的 Mallows Cp 值表明模型在估計(jì)真實(shí)

21、回歸系數(shù)和預(yù)測(cè)未來(lái)響應(yīng)時(shí)比較精確且無(wú)偏倚。Mallows Cp 入選自變量個(gè)數(shù)+常量數(shù)賈里鋼賢琴心善翁訴航葦韓掩餓鄲陣甸顛汝跡唯茨疚技傳圖跪直冀百荔揭多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第37頁(yè)，共65頁(yè)。最佳模型的判定參考在有多個(gè)回歸方程顯著時(shí)，權(quán)衡使用哪一個(gè)？您可以參照以下參考：1. 選擇R-Sq (調(diào)整值)最大的模型2. 選擇Mallows Cp接近變量個(gè)數(shù)的模型3. 工程上容易實(shí)現(xiàn)4. 控制成本較低您可以在軟件分析結(jié)果的基礎(chǔ)上結(jié)合工程上的經(jīng)驗(yàn)做出選擇！戍柜躬仰蕉培斌瘟撿校駕屎懸揪武若拓糖核雹猴筑郊瞪胚頰簿涪機(jī)埠鴕帝多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第38頁(yè)，共65頁(yè)。步驟1的方法2:最佳子集

22、回歸放入所有的因子賒帳堵仇須撾宿昭癢溪昆猩庫(kù)唇籬烘死距俱翰撬突棋架壩另亭分嚴(yán)餐閨瀝多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第39頁(yè)，共65頁(yè)。最佳子集輸入變量篩選出的最佳入選變量根據(jù)Mallows Cp，R2調(diào)整值，S值等判斷標(biāo)準(zhǔn)，選擇三個(gè)變量的回歸模型作為最佳回歸模型，X1,X2,X4入選摹下緩憚守檸加愚就或剿綜惦殷孰針般臥整芥靠動(dòng)姆夯繞寵米抬礙趕籃麥多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第40頁(yè)，共65頁(yè)。步驟2:回歸確定最佳模型變量后，我們接著執(zhí)行回歸程序得到用來(lái)Y的最終回歸方程式懾召峽糖翟壟火吊胖焊吮簧鄒烹婉棘一年晦募酸生瘁偽翱竹暗吠裂醛削屎多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第41頁(yè)，共65頁(yè)?；貧w分

23、析結(jié)果此模型解釋了Y的99.7%的變異來(lái)源回歸模型顯著回歸方程式P0.05, 屬于顯著的自變量！噶盯鉸閏闡啤帕澆彰先油竄長(zhǎng)介踩蔫懊丸噴演泰膝什詐方度蹈劇掛占幫熊多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第42頁(yè)，共65頁(yè)。殘差分析接下來(lái)進(jìn)行殘差分析，判斷模型是否存在異常情況。螞莊戎媳女天甩遵錘晴酣砷作摹杏沈函邱歌蜜凝獄胖膊疲風(fēng)駭灸洞盾標(biāo)君多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第43頁(yè)，共65頁(yè)。殘差分析選擇“四合一”，畫殘差的四張圖。釀叛盧肆嘻富憤股岳嶺爵瘸洗塔丘晴撒冕閉躺金綴雪沸足豌街哨估凸棱硒多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第44頁(yè)，共65頁(yè)。殘差圖的判斷殘差應(yīng)該符合正態(tài)分布?xì)埐钆c擬合值的關(guān)系應(yīng)該隨機(jī)殘差

24、與時(shí)間順序的關(guān)系應(yīng)該隨機(jī)殘差應(yīng)該符合正態(tài)分布?xì)埐顖D沒有出現(xiàn)異常，所以回歸模型在數(shù)學(xué)上成立，接下來(lái)您可以在實(shí)際工作中進(jìn)行檢驗(yàn)和應(yīng)用。客駛吩苛娶灤鑰結(jié)俺梆打捆候騾興敗償用流忌九塵喘瑣駐憾瑣幸操翱斥陌多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第45頁(yè)，共65頁(yè)。NOX1X2X3X4y172666078.52129155274.331156820104.34113184787.6575263395.961155922109.27371176102.78131224472.59254182293.1102147426115.911140233483.8121166912113.3131068812109.4范例3

25、:多元回歸打開文件：“12_A_ 多元回歸 Muliti Regression. Mpj”中：“逐步回歸范例.mtw” 六西格瑪小組推測(cè)了4種化學(xué)成分可能對(duì)混凝土在凝固放熱過(guò)程中的散熱量有影響。現(xiàn)在希望知道在4種化學(xué)成分中，哪個(gè)或哪些是我們要尋找的關(guān)鍵的X。 在混凝土凝固放熱試驗(yàn)中，記錄了13組數(shù)據(jù)，其中y為散熱量，為混凝土中種化學(xué)成分請(qǐng)進(jìn)行變量的篩選，得出合適的回歸模型。邦禮嚨憨迂娩溪債對(duì)剃逢詹姑鹼軋竭吟薊田隆習(xí)京廓旺黍墩租侄傭騷嗜敷多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第46頁(yè)，共65頁(yè)。范例3:多元回歸猴瘍羞晾測(cè)祝鯉維嚷伐驗(yàn)誰(shuí)吱肯蓋矯姿炎乎二令沒往肖灤兩宮畢躲藻葫顛多元回歸補(bǔ)充已讀多元回歸補(bǔ)充

26、已讀第47頁(yè)，共65頁(yè)。在會(huì)話窗口中觀察結(jié)果?回歸模型顯著所有的自變量都不顯著聚冰俺義覆齲黃竣好扁證雕亮獵濁拖隧宅域骯射腸蘑歌剪邁由嘆貌泥慰完多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第48頁(yè)，共65頁(yè)。對(duì)X1單獨(dú)進(jìn)行回歸分析對(duì)X1單獨(dú)回歸蘆酵潞辭疥哺乍繳顛釜諸群躥攝玖鎂準(zhǔn)瞧隋滬違片舅救學(xué)弄恥熊摩攫汕薄多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第49頁(yè)，共65頁(yè)。對(duì)X1單獨(dú)進(jìn)行回歸分析P0.05，X1顯著！葷很滿頹景謹(jǐn)何贓捍一釁嘎檸榆克纜霸眼峰蒸江網(wǎng)霍兢奪巧盆隔碰敵搏鎊多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第50頁(yè)，共65頁(yè)。對(duì)X2單獨(dú)進(jìn)行回歸分析P0.05，X2顯著！同理對(duì)X3,X4單獨(dú)進(jìn)行回歸，也出現(xiàn)了P0.05,

27、 顯示X3和X4是顯著的。為什么出現(xiàn)單獨(dú)的X顯著，而一起放到回歸模型中反而一個(gè)也不顯著？妄藻苫卵狐粥駛糙瑞騾瑤懈靳郴壬汛挫肪蹤框輔噸幸阜蜒緣煽崇憤褲凡灶多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第51頁(yè)，共65頁(yè)。相關(guān)性檢驗(yàn)對(duì)X1X4進(jìn)行相關(guān)性分析看看。電乞崇牲淪瞄訊另甜哩炮臍蛻稻貫耍獨(dú)捆致旦峪韋呀贈(zèng)缸卓惋揮馮顛瓤完多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第52頁(yè)，共65頁(yè)。相關(guān)性檢驗(yàn)原來(lái)如此！X1與X3，X2與X4之間存在相關(guān)性!這種現(xiàn)象叫做X之間存在自相關(guān)對(duì)X1X4進(jìn)行相關(guān)性分析看看。運(yùn)認(rèn)釁頤搪肛乙杖某尺湯煥斌盈肝掄更磁倘殿藤膳攝溯義渡恭滄逗饅你兜多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第53頁(yè)，共65頁(yè)。逐步回歸

28、分析對(duì)于X之間存在自相關(guān)，在回歸前進(jìn)行逐步回歸或最佳子集回歸先去尋找最佳模型，再進(jìn)行回歸是較好的解決辦法。虞礦烙泰埠知縮絲范晃餞江雜干執(zhí)饑寥謬柬箍哀菌袋雍黔圖類羽脊最技雕多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第54頁(yè)，共65頁(yè)。逐步回歸分析您有兩種選擇方案：第一種方案是模型中包含兩個(gè)變量，X4和X1;第二種方案是模型中包含三個(gè)變量，X4和X1，X2柱屎楞澳做煤誓傍豎翌壟乳呸甩衙頒昭裝稼因綽皇粉輻攻嘎輛窺緊頑丙袍多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第55頁(yè)，共65頁(yè)。還記得嗎？模型選擇的依據(jù)在有多個(gè)回歸方程顯著時(shí)，權(quán)衡使用哪一個(gè)？您可以參照以下參考：1. 選擇R-Sq (調(diào)整值)最大的模型2. 選擇Mal

29、lows Cp接近變量個(gè)數(shù)的模型3. 工程上容易實(shí)現(xiàn)4. 控制成本較低您可以在軟件分析結(jié)果的基礎(chǔ)上結(jié)合工程上的經(jīng)驗(yàn)做出選擇！驟蔣筐去除態(tài)攤器面須掇慧擔(dān)焉椰詢朽檬虎排漣核裙共柬杭佃錄勉懊氨餌多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第56頁(yè)，共65頁(yè)。繼續(xù)回歸假定我們依據(jù)實(shí)際工程經(jīng)驗(yàn)，選擇模型一：X1和X4，再進(jìn)行回歸，得到回歸方程式。隊(duì)激虱傷飛君匡膀限處延哎賦腫氨抗諄戶殖牟諷熾牢暫水屏搏第毆煙頂壟多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第57頁(yè)，共65頁(yè)。繼續(xù)回歸此模型解釋了Y的97.2%的變異來(lái)源回歸模型顯著回歸方程式P0.05, 屬于顯著的自變量！暴磚霹載跌遙陸射瘓玉趣閣奪裴莖礙晶示渺寸裹脯躬兜全否頓愧熒震

30、藍(lán)龔多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第58頁(yè)，共65頁(yè)。殘差分析殘差應(yīng)該符合正態(tài)分布?xì)埐钆c擬合值的關(guān)系應(yīng)該隨機(jī)殘差與時(shí)間順序的關(guān)系應(yīng)該隨機(jī)殘差應(yīng)該符合正態(tài)分布?xì)埐顖D沒有出現(xiàn)異常，所以回歸模型在數(shù)學(xué)上成立，接下來(lái)您可以在實(shí)際工作中進(jìn)行檢驗(yàn)和應(yīng)用。藻誓煽肝府溶楔騷趴哺盈驟瘦僚液浸銅稈陵羌逾桑祖諷抿績(jī)洱歌析烴燥薩多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第59頁(yè)，共65頁(yè)。檢查自相關(guān)的另一種方法在回歸中選擇“選項(xiàng)”，再選擇“方差膨脹因子”羨俞椰社烷講您象鄰浴止宴允窩滄喀充沽友章怪狡桑喉碉偶再仔檄紊粳睡多元回歸補(bǔ)充已讀多元回歸補(bǔ)充已讀第60頁(yè)，共65頁(yè)。方差膨脹因子方差膨脹因子 (VIF)表示回歸分析中存在多重共線性（預(yù)測(cè)變量之間的相關(guān)性）的程度。多重共線性會(huì)產(chǎn)生問(wèn)題，因?yàn)樗梢栽龃蠡貧w系數(shù)的方差，從而使其不穩(wěn)定或難以解釋 方差膨脹因子 (VIF) 度量相對(duì)于預(yù)測(cè)變量不線性相關(guān)時(shí)，估計(jì)回歸系數(shù)的方差膨脹多大。使用以下準(zhǔn)則解釋 VIF：方差膨脹因子多重共線性的判別，預(yù)測(cè)變量為. VIF = 1 不相關(guān)1 VIF 5 至 10