回歸分析誤差理論與數(shù)據(jù)處理費(fèi)業(yè)泰PPT演示文稿

1、第6章 回歸分析,主要內(nèi)容 第一節(jié)回歸分析的基本概念 函數(shù)與相關(guān) 回歸分析思路 第二節(jié)一元線性回歸 回歸方程的確定 回歸方程得方差分析及顯著性檢驗(yàn) 重復(fù)試驗(yàn)情況 回歸直線的簡(jiǎn)便求法 第三節(jié)一元非線性回歸 求解思路 回歸曲線函數(shù)類型得選取和檢驗(yàn) 化曲線回歸為直線回歸問題,第一節(jié)回歸分析的基本概念,一、函數(shù)與相關(guān),函數(shù)關(guān)系：可以用明確的函數(shù)關(guān)系式精確地表示 出來 相關(guān)關(guān)系：這些變量之間既存在著密切的關(guān)系， 又不能由一個(gè)（或幾個(gè)）自變量的數(shù) 值精確地求出另一個(gè)因變量的數(shù)值，而 是要通過試驗(yàn)和調(diào)查研究，才能確定它 們之間的關(guān)系,第一節(jié)回歸分析的基本概念,二、回歸分析思路,1、由數(shù)據(jù)確定變量之間的數(shù)學(xué)表

2、達(dá)式回歸方程或經(jīng) 驗(yàn)公式； 2、 對(duì)回歸方程的可信度進(jìn)行統(tǒng)計(jì)檢驗(yàn)； 3、 因素分析,第二節(jié)一元線性回歸,一元線性回歸：確定兩個(gè)變量之間的線性關(guān)系，即 直線擬合問題,一、回歸方程的確定,例：確定某段導(dǎo)線的電阻與溫度之間的關(guān)系,散點(diǎn)圖,20,25,30,35,40,45,50,76,78,82,80,84,第二節(jié)一元線性回歸,從散點(diǎn)圖可以看出：電阻與溫度大致成線性關(guān)系,設(shè)測(cè)量數(shù)據(jù)有如下結(jié)構(gòu)形式,式中， 分別表示其它隨機(jī)因素對(duì)電阻值 影響的總和,思路：要求電阻y與x的關(guān)系，即根據(jù)測(cè)量數(shù)據(jù)要求出,和,的估計(jì)值。根據(jù)測(cè)量數(shù)據(jù)，可以得到 7個(gè)測(cè)量方程，結(jié)合前面所學(xué)，未知數(shù)有兩個(gè)， 而方程個(gè)數(shù)大于未知數(shù)的個(gè)

3、數(shù)，適合于用最小 二乘法求解,第二節(jié)一元線性回歸,設(shè)得到的回歸方程,殘差方程為,根據(jù)最小二乘原理可求得回歸系數(shù)b0和b,對(duì)照第五章最小二乘法的矩陣形式，令,第二節(jié)一元線性回歸,則誤差方程的矩陣形式為,對(duì)照 ，設(shè)測(cè)得值 的精度相等，則有,將測(cè)得值分別代入上式，可計(jì)算得,第二節(jié)一元線性回歸,其中,二、回歸方程的方差分析及顯著性檢驗(yàn),第二節(jié)一元線性回歸,問題：這條回歸直線是否符合y 與x之間的客觀規(guī) 律回歸直線的預(yù)報(bào)精度如何,方差分析法分解N個(gè)觀測(cè)值與其算術(shù)平均值之差的平方和；從量值上區(qū)別多個(gè)影響因素；用F檢驗(yàn)法對(duì)所求回歸方程進(jìn)行顯著性檢驗(yàn),解決辦法,第二節(jié)一元線性回歸,一）回歸方程的方差分析,1、

4、引起變差的原因： A、自變量x取值的不同； B、其它因素（包括試驗(yàn)誤差）的影響,2、方差分析,總的離差平方和（即N個(gè)觀測(cè)值之間的變差,可以證明,第二節(jié)一元線性回歸,S=U+Q,其中,U回歸平方和，反映總變差中由于x和y的線性關(guān) 系而引起 y變化的部分,Q殘余平方和，反映所有觀測(cè)點(diǎn)到回歸直線的殘 余誤差，即其它因素對(duì)y變差的影響,第二節(jié)一元線性回歸,二）回歸方程顯著性檢驗(yàn) F檢驗(yàn)法,基本思路：方程是否顯著取決于U和Q的大小，U越 大Q越小說明y與x的線性關(guān)系愈密切,計(jì)算統(tǒng)計(jì)量F,對(duì)一元線性回歸，應(yīng)為,查F分布表，根據(jù)給定的顯著性水平 和已知的 自由度1和N-2進(jìn)行檢驗(yàn),若， 回歸在0.01的水平

5、上高度顯著,第二節(jié)一元線性回歸,回歸在0.05的水平上顯著,回歸在0.1的水平上顯著,回歸不顯著,三）殘余方差與殘余標(biāo)準(zhǔn)差,第二節(jié)一元線性回歸,殘余方差：排除了x 對(duì)y的線性影響后，衡量y 隨機(jī)波動(dòng)的特征量,殘余標(biāo)準(zhǔn)差,含義： 越小，回歸直線的精度越高,第二節(jié)一元線性回歸,四）方差分析表,三、重復(fù)試驗(yàn)情況,1、重復(fù)試驗(yàn)的意義,回歸方程顯著”：只表明因素x的一次項(xiàng)對(duì)y的影響 顯著；難以確定影響y的是否還有其它不可忽略的 因素？x和y是否線性? 不表明該方程擬合得很好,為檢驗(yàn)一個(gè)回歸方程擬合的好壞，可通過重復(fù)試驗(yàn)，獲得誤差平方和 和失擬平方和 ，然后用 對(duì) 進(jìn)行F檢驗(yàn),第二節(jié)一元線性回歸,2、重復(fù)

6、試驗(yàn)回歸直線的求法,1）設(shè)N個(gè)試驗(yàn)點(diǎn)，每個(gè)試驗(yàn)點(diǎn)重復(fù)m次試驗(yàn)，則將 這m次試驗(yàn)取平均值，然后再按照前面的方法進(jìn) 行擬合，見表65和表66,2）方差分析,第二節(jié)一元線性回歸,3）方差檢驗(yàn),四、回歸直線的簡(jiǎn)便求法,前面介紹：最小二乘法（誤差小，計(jì)算復(fù)雜） 現(xiàn)在推薦：分組法、圖解法（計(jì)算簡(jiǎn)便，精度低,第二節(jié)一元線性回歸,1）分組法平均值法,具體做法：將自變量按由小到大次序排列，分成個(gè)數(shù)相等或近于相等的兩個(gè)組（分組數(shù)等于未知數(shù)個(gè)數(shù)），則可建立相應(yīng)的兩組觀測(cè)方程,將兩組觀測(cè)方程分別相加，得,b和b0,2）圖解法緊繩法,第三節(jié)一元非線性回歸,2、求解未知參數(shù)。可化曲線回歸為直線回歸， 用最小二乘法求解；可化曲線回歸為多項(xiàng)式 回歸,1、確定函數(shù)類型并檢驗(yàn),一、求解思路,二、回歸曲線函數(shù)類型得選取和檢驗(yàn),1、直接判斷法,2、作圖觀察法，與典型曲線比較，確定其屬于何 種類型，然后檢驗(yàn),第三節(jié)一元非線性回歸,3、直線檢驗(yàn)法（適用于待求參數(shù)不多的情況,a、預(yù)選回歸曲線,b,c、求出幾對(duì)與x,y相對(duì)應(yīng)的Z1,Z2值,d、以Z1,Z2為坐標(biāo)作圖，若為直線，則說明原 選定的曲線類型是合適的,4、表差法（適用于多項(xiàng)式回歸，含有常數(shù)項(xiàng)多于兩 個(gè)的