回歸分析課件

1、回歸分析課件回歸分析課件一、回歸分析方法概述研究內(nèi)容（1）提供建立有相關(guān)關(guān)系的變量之間的數(shù)學(xué)關(guān)系式（稱為經(jīng)驗公式）的一般方法；（2）判別所建立的經(jīng)驗公式是否有效，并從影響隨機(jī)變量的諸變量中判別哪些變量的影響是顯著的，哪些是不顯著的；（3）利用所得到的經(jīng)驗公式進(jìn)行預(yù)測和控制。一、回歸分析方法概述研究內(nèi)容一、回歸分析方法概述1. 回歸分析 一種建立統(tǒng)計觀測值之間的數(shù)學(xué)關(guān)系的方法，其通過自變量的變化來解釋因變量的變化，從而由自變量的取值預(yù)測因變量的可能值。一、回歸分析方法概述1. 回歸分析一、回歸分析方法概述研究內(nèi)容（1）提供建立有相關(guān)關(guān)系的變量之間的數(shù)學(xué)關(guān)系式（稱為經(jīng)驗公式）的一般方法；（2）判別

2、所建立的經(jīng)驗公式是否有效，并從影響隨機(jī)變量的諸變量中判別哪些變量的影響是顯著的，哪些是不顯著的；（3）利用所得到的經(jīng)驗公式進(jìn)行預(yù)測和控制。一、回歸分析方法概述研究內(nèi)容一、回歸分析方法概述2.自變量與因變量的相關(guān)關(guān)系 一、回歸分析方法概述2.自變量與因變量的相關(guān)關(guān)系一、回歸分析方法概述4. 確定擬合方程系數(shù)值的最小二乘法 (原理：利用因變量估計值與觀測值之間均方誤差極小，來確定方程系數(shù))極小在實際操作上，可運(yùn)用Excel回歸分析工具計算系數(shù)a和b一、回歸分析方法概述4. 確定擬合方程系數(shù)值的最小二乘法極小一、回歸分析方法概述5. 回歸模型的檢驗判定系數(shù)（R2）用來判斷回歸方程的擬合優(yōu)度通?？梢哉J(rèn)

3、為當(dāng)R2大于0.9時，所得到的回歸直線擬合得較好，而當(dāng)R2小于0.5時，所得到的回歸直線很難解釋因變量的變化（很難說明變量之間的依賴關(guān)系）。 t 統(tǒng)計量（T-test）用來判斷單變量的解釋能力如果對于某個自變量，其t統(tǒng)計量的P值小于顯著水平（或稱置信度、置信水平），則可認(rèn)為該自變量與因變量是相關(guān)的。 F 統(tǒng)計量（F-test）用來判斷回歸方程的解釋能力如果F統(tǒng)計量的P值小于顯著水平（或稱置信度、置信水平），則可認(rèn)為方程的回歸效果顯著。 一、回歸分析方法概述5. 回歸模型的檢驗一、回歸分析方法概述6. 回歸預(yù)測的步驟第一步，獲取自變量和因變量的觀測值第二步，繪制XY散點圖(單自變量？多自變量？)

4、 第三步，寫出帶未知參數(shù)的回歸方程 第四步，用最小MSE原則確定回歸方程中參數(shù)值第五步，判斷回歸方程的擬合優(yōu)度R2第六步，進(jìn)行預(yù)測 一、回歸分析方法概述6. 回歸預(yù)測的步驟三、多元線性回歸分析多元線性回歸模型的一般形式多元線性回歸預(yù)測步驟第一步，獲得候選自變量和因變量的觀測值。第二步，從候選自變量中選擇合適的自變量。有幾種常用的方法：最優(yōu)子集法向前增選法、向后刪減法逐步回歸法等第三步，確定回歸系數(shù)，判斷回歸方程的擬合優(yōu)度R2 。第四步，根據(jù)回歸方程進(jìn)行預(yù)測。 三、多元線性回歸分析多元線性回歸模型的一般形式四、一元非線性回歸分析用一條曲線來擬合因變量對于自變量的依賴關(guān)系。常見的一元非線性模型包括

5、冪函數(shù)、指數(shù)函數(shù)、對數(shù)函數(shù)、多項式函數(shù)等等。通過變量替換把問題轉(zhuǎn)化為一元或多元線性回歸問題后，用線性回歸分析的方法建立回歸模型，并進(jìn)行預(yù)測。 四、一元非線性回歸分析用一條曲線來擬合因變量對于自變量的依賴四、一元非線性回歸分析1冪函數(shù)設(shè)則bUaV+=lnbaXY=四、一元非線性回歸分析1冪函數(shù)bUaV+=lnbaXY=四、一元非線性回歸分析2指數(shù)函數(shù) 設(shè)則四、一元非線性回歸分析2指數(shù)函數(shù) 四、一元非線性回歸分析3對數(shù)函數(shù) 設(shè)則3對數(shù)函數(shù) 設(shè)則3對數(shù)函數(shù) 設(shè)則3對數(shù)函數(shù) 設(shè)則3對數(shù)函數(shù) 設(shè)則3對數(shù)函數(shù) 設(shè)則3對數(shù)函數(shù) 設(shè)則3對數(shù)函數(shù) 設(shè)則3對數(shù)函數(shù) 設(shè)則四、一元非線性回歸分析3對數(shù)函數(shù) 設(shè)則四、一

6、元非線性回歸分析3對數(shù)函數(shù) 3對數(shù)函數(shù) 3對四、一元非線性回歸分析4雙曲線函數(shù) 設(shè) 則四、一元非線性回歸分析4雙曲線函數(shù) 四、一元非線性回歸分析5二次多項式及三次多項式 四、一元非線性回歸分析5二次多項式及三次多項式 四、一元非線性回歸分析回歸分析步驟：觀察XY散點圖，確定擬合曲線類型（如對數(shù)曲線），寫出帶未知參數(shù)的回歸方程確定參數(shù)值，方法有：規(guī)劃求解變量替換添加趨勢線用回歸方程進(jìn)行預(yù)測（注：在擬合曲線類型不能確定時，可選不同類型進(jìn)行嘗試，比較結(jié)果）XbaYln+=四、一元非線性回歸分析回歸分析步驟：XbaYln+=五、多元非線性回歸分析五、多元非線性回歸分析六、多元線性回歸的應(yīng)用六、多元線性

7、回歸的應(yīng)用密云水庫汛期來水預(yù)報挑選預(yù)報因子選取非汛期的來水量、汛期降水量2個預(yù)報因子密云水庫汛期來水預(yù)報挑選預(yù)報因子回歸分析課件回歸分析課件預(yù)測看到偏枯年份的汛期來水預(yù)報合格率達(dá)到100，而偏豐年份的預(yù)報合格率約70預(yù)測看到偏枯年份的汛期來水預(yù)報合格率達(dá)到河北省農(nóng)業(yè)用水多元回歸分析 背景 干旱缺水一直是河北農(nóng)業(yè)發(fā)展的主要制約因素。受各種條件的限制，目前我省開源的潛力已不大，而隨著城市和工業(yè)用水量的迅速增加，原本不足的農(nóng)業(yè)用水又被大量擠占，使得農(nóng)業(yè)水資源短缺間題更加突出。因此，做好農(nóng)業(yè)需水預(yù)測對于全省用水管理、制訂水長期供求計劃以及合理的利用調(diào)配有限的水資源，保證糧食增產(chǎn)豐收具有重要意義。河北省

8、農(nóng)業(yè)用水多元回歸分析 背景 影響農(nóng)業(yè)用水因素降水有效灌溉面積農(nóng)業(yè)用水除與降水和有效灌溉面積有關(guān)外，還受區(qū)域灌溉方式與技術(shù)、管理水平及科技進(jìn)步等因素影響，而這些因子難以用量化指標(biāo)予以描述，這些因素隨著時間而變，因此這次選用時間因子作為影響農(nóng)業(yè)用水的因子進(jìn)行分析影響農(nóng)業(yè)用水因素回歸分析課件從表中可以看出，最大絕對誤差為一9.85億m，相對誤差只有一5.55%，1997年預(yù)測精度最高，分別為一2.63億m3和一1.51%，從以上對比可以看出，本方法具有較高的精度，而且簡便易行，可操作性強(qiáng)，能夠較準(zhǔn)確地反映農(nóng)業(yè)用水的發(fā)展趨勢，比定額法預(yù)測具有一定的優(yōu)越性。從表中可以看出，最大絕對誤差為一9.85億m，

9、相對誤差只有回歸分析課件本文在分析河北省農(nóng)業(yè)用水歷史與現(xiàn)狀基礎(chǔ)上，結(jié)合農(nóng)業(yè)用水的具體特點及其影響因素，將降水、有效灌溉面積和時間作為影響農(nóng)業(yè)用水的因素進(jìn)行多元回歸分析，力圖提出一條區(qū)別于傳統(tǒng)用灌溉定額方法預(yù)測農(nóng)業(yè)用水的新途徑，與傳統(tǒng)方法相比，它具有較明顯的優(yōu)越性，而且簡便易行，有一定的應(yīng)用前景。本文在分析河北省農(nóng)業(yè)用水歷史與現(xiàn)狀基礎(chǔ)上，結(jié)合農(nóng)業(yè)用水的具體一些新興的回歸方法嶺回歸嶺回歸模型是通過在自變量自相關(guān)矩陣中引入一個很小的嶺參數(shù)k(0 k 1)并將它加到主對角線元素上,即回歸系數(shù)的嶺估計為:(k) = (XX+ kI)-1XY37從而降低參數(shù)的最小二乘估計中復(fù)共線性特征向量的影響,以保證參

10、數(shù)估計更接近真實情況。一些新興的回歸方法嶺回歸藍(lán)永超等(1992)采用嶺回歸方法預(yù)報了龍羊峽水庫春季入庫流量中的融雪徑流。春季徑流的主要成分為融雪水,由于該地區(qū)地域遼闊,測站較少,資料缺乏,并且影響春季融雪徑流的因素繁雜,如:冬春季流域內(nèi)季節(jié)性積雪與融雪過程有關(guān)的前期降水量和氣溫,以及反映地下水影響的河道前期流量等。利用嶺回歸只需有限的資料利用衛(wèi)星積雪信息及前期和現(xiàn)時的水文氣象觀測值來獲得較高的預(yù)報精度和較長的預(yù)見期藍(lán)永超等(1992)采用嶺回歸方法預(yù)報了龍羊峽水庫春季入庫流主成份回歸 主成分回歸是將原自變量進(jìn)行線性組合成一些新的,相互正交的綜合變量Z。Z稱為主成分。設(shè)變通回歸模型為:Y =

11、X+ E經(jīng)自變量的線性組合,得出主成分Z,回歸模型可用主成分表示為 Y = Z+ E 且Z = X C,= C。主成份回歸 主成分回歸是將原自變量進(jìn)行線性組合成一些新的鄭福壽等(2001)采用主成分回歸方法建立了混凝土壩初次蓄水期應(yīng)力統(tǒng)計模型,并分解得到各應(yīng)力分量過程線,通過與常規(guī)方法相比,證明該方法所得的結(jié)果最為合理。李昌愛等(2001)將主成分回歸分析應(yīng)用在水稻土質(zhì)量評價中。利用該方法從影響土質(zhì)的多種因子中提取出影響顯著的主因子,把原來多個具有錯綜復(fù)雜關(guān)系的指標(biāo)劃歸為數(shù)量較少、相互獨(dú)立且能代表較多信息的綜合指標(biāo),加強(qiáng)了評價結(jié)果的正確性和可靠性14。鄭福壽等(2001)采用主成分回歸方法建立

12、了混凝土壩初次蓄水穩(wěn)健回歸 原理是:為減輕回歸系數(shù)受個別異常值的影響,選用增長較緩慢的函數(shù)(x) =| x |代替平方函數(shù),則找使殘差和達(dá)到最小。常采用M-估計法,進(jìn)行參數(shù)估計,目的是在因變量樣本可能存在異常值的前提下,盡可能保證回歸參數(shù)求解的正確性,也就是說,將異常值識別和處理的思想引入到回歸參數(shù)求解中,使回歸分析具有一定的抗差性。穩(wěn)健回歸 原理是:為減輕回歸系數(shù)受個別異常值的影響,自回歸自回歸模型是一種線性的時間序列模型,為處理線性時間序列提供了有利的數(shù)學(xué)工具,只要有一定的時間序列規(guī)劃數(shù)據(jù),就可按時間序列分析原理,建立相應(yīng)的動態(tài)變化的中長期預(yù)測模型?；貧w模型為: Xt= b1Xt-1+ b

13、2Xt-2+ bpXt-p+ Yt18式中:Xt為平穩(wěn)過程的模型變量; b1,b2,bp為模型回歸系數(shù); Yt為模型隨機(jī)項;p為模型的階數(shù)自回歸自回歸模型是一種線性的時間序列模型,為處理線性時間序列馮國章等(1996)將多元自回歸模型應(yīng)用在枯水徑流預(yù)報中,一方面考慮了前后期徑流的關(guān)系,同時又考慮了流域內(nèi)上游干、支流徑流對預(yù)報站徑流的影響。該模型除了作單站預(yù)報外,還可同時作多站預(yù)報和單、多站模擬,而且對于一個序列具有一個模型,有較好的時用性。付強(qiáng)等(2002)將多變量自回歸模型應(yīng)用到三江平原井灌水稻需水量預(yù)測中。馮國章等(1996)將多元自回歸模型應(yīng)用在枯水徑流預(yù)報中,一包絡(luò)回歸 包絡(luò)回歸是求出

14、兩條回歸線構(gòu)成帶狀區(qū)域,包絡(luò)了所有已知數(shù)據(jù)相應(yīng)的離散點。 f(C,x) = af1(C,x)+(1- a)f2(C,x) 式中:a稱為組合系數(shù),a(0,1)。包絡(luò)回歸 包絡(luò)回歸是求出兩條回歸線構(gòu)成帶狀區(qū)域,包絡(luò)了所多層遞階回歸 多層遞階方法是運(yùn)用現(xiàn)代控制理論中的系統(tǒng)辨識方法而提出來的一種數(shù)學(xué)預(yù)報模型。它摒棄了數(shù)理統(tǒng)計方法中的固定參數(shù)預(yù)報模型,將預(yù)報對象看成是隨機(jī)動態(tài)的時變系統(tǒng),充分參考 了動態(tài)系統(tǒng)的時變特性,對時變系統(tǒng)具有較強(qiáng)的適應(yīng)能力。多層遞階回歸模型:Y(k) =mi=1ii(k)Xi(k)+(k)式中:i為回歸系數(shù);i(k)為系統(tǒng)的時變參數(shù);(k)為零均值的噪聲;i為預(yù)測因子序號;m為預(yù)測因子個數(shù);k為流動時間。多層遞階回歸 多層遞階方法是運(yùn)用現(xiàn)代控制理論中的系統(tǒng)辨識多層遞階回歸模型:多層遞階回歸模型:盧華友等(1998)利用多層遞階回歸分析制定水庫優(yōu)化調(diào)度函數(shù),改變了以往各種方法求得的調(diào)度函數(shù)的靜態(tài)模型,既充分體現(xiàn)了水庫系統(tǒng)調(diào)度的動態(tài)特性,又避免了常用的回歸分析確定調(diào)度函數(shù)時基函數(shù)選擇及求解系數(shù)的困難。盧華友等(1998)利用多層遞階回歸分析制定水庫優(yōu)化調(diào)度函數(shù)模糊回歸模糊回歸分析是假定參數(shù)是模糊數(shù)