誤差回歸分析

誤差回歸分析第1頁，共24頁，2023年，2月20日，星期日本章主要闡述回歸分析的基本概念，并重點介紹一元線性回歸和非線性回歸的基本方法，給出回歸方程的方差分析和顯著性檢驗。從而使學生掌握回歸分析方法的基本原理，學會從實際測量中尋求兩個變量和多個變量之間的內(nèi)在關系。教學目標第2頁，共24頁，2023年，2月20日，星期日回歸分析的基本概念和主要內(nèi)容一元線性回歸方程的求法回歸方程的方差分析和顯著性檢驗一元非線性回歸方法重點與難點第3頁，共24頁，2023年，2月20日，星期日第一節(jié)回歸分析的基本概念一、函數(shù)與相關函數(shù)關系：可以用明確的函數(shù)關系式精確地表示出來相關關系：這些變量之間既存在著密切的關系，又不能由一個（或幾個）自變量的數(shù)值精確地求出另一個因變量的數(shù)值，而是要通過試驗和調(diào)查研究，才能確定它們之間的關系。第4頁，共24頁，2023年，2月20日，星期日第一節(jié)回歸分析的基本概念二、回歸分析思路1、由數(shù)據(jù)確定變量之間的數(shù)學表達式－回歸方程或經(jīng)驗公式；2、對回歸方程的可信度進行統(tǒng)計檢驗；3、因素分析。第5頁，共24頁，2023年，2月20日，星期日第二節(jié)一元線性回歸一元線性回歸：確定兩個變量之間的線性關系，即直線擬合問題。一、回歸方程的確定例：確定某段導線的電阻與溫度之間的關系：19.125.030.136.040.046.550.076.3077.8079.7580.8082.3583.9085.10散點圖：202530354045507678828084第6頁，共24頁，2023年，2月20日，星期日第二節(jié)一元線性回歸從散點圖可以看出：電阻與溫度大致成線性關系。設測量數(shù)據(jù)有如下結構形式：式中，分別表示其它隨機因素對電阻值影響的總和。思路：要求電阻y與x的關系，即根據(jù)測量數(shù)據(jù)要求出和的估計值。根據(jù)測量數(shù)據(jù)，可以得到7個測量方程，結合前面所學，未知數(shù)有兩個，而方程個數(shù)大于未知數(shù)的個數(shù)，適合于用最小二乘法求解。第7頁，共24頁，2023年，2月20日，星期日第二節(jié)一元線性回歸設得到的回歸方程殘差方程為根據(jù)最小二乘原理可求得回歸系數(shù)b0和b。對照第五章最小二乘法的矩陣形式，令第8頁，共24頁，2023年，2月20日，星期日第二節(jié)一元線性回歸則誤差方程的矩陣形式為對照，設測得值的精度相等，則有將測得值分別代入上式，可計算得第9頁，共24頁，2023年，2月20日，星期日第二節(jié)一元線性回歸其中第10頁，共24頁，2023年，2月20日，星期日二、回歸方程的方差分析及顯著性檢驗第二節(jié)一元線性回歸問題：這條回歸直線是否符合y與x之間的客觀規(guī)律？回歸直線的預報精度如何？對N個觀測值與其算術平均值之差的平方和進行分解；從量值上區(qū)別對Ｎ個觀測值的影響因素；用F檢驗法對所求回歸方程進行顯著性檢驗。方差分析法第11頁，共24頁，2023年，2月20日，星期日第二節(jié)一元線性回歸（一）回歸方程的方差分析1、引起變差的原因：

A、自變量x取值的不同；

B、其它因素（包括試驗誤差）的影響。2、方差分析總的離差平方和（即N個觀測值之間的變差）可以證明：第12頁，共24頁，2023年，2月20日，星期日第二節(jié)一元線性回歸S=U+Q其中U—回歸平方和，反映總變差中由于x和y的線性關系而引起y變化的部分。Q—殘余平方和，反映所有觀測點到回歸直線的殘余誤差，即其它因素對y變差的影響。第13頁，共24頁，2023年，2月20日，星期日第二節(jié)一元線性回歸（二）回歸方程顯著性檢驗—F檢驗法基本思路：方程是否顯著取決于U和Q的大小，U越大，Q越小，說明y與x的線性關系愈密切。計算統(tǒng)計量F對一元線性回歸，應為查F分布表，根據(jù)給定的顯著性水平和已知的自由度1和N-2進行檢驗：第14頁，共24頁，2023年，2月20日，星期日若

回歸在0.01的水平上高度顯著。第二節(jié)一元線性回歸回歸在0.05的水平上顯著?；貧w在0.1的水平上顯著?；貧w不顯著。第15頁，共24頁，2023年，2月20日，星期日（三）殘余方差與殘余標準差第二節(jié)一元線性回歸殘余方差：排除了x對y的線性影響后，衡量y隨機波動的特征量。殘余標準差：含義：越小，回歸直線的精度越高。第16頁，共24頁，2023年，2月20日，星期日第二節(jié)一元線性回歸（四）方差分析表來源平方和自由度方差F顯著性回歸殘余1N-2－總計N-1－－－三、重復試驗情況1、重復試驗的意義“回歸方程顯著”：只表明因素x的一次項對y的影響顯著；難以確定影響y的是否還有其它不可忽略的因素？x和y是否線性?不表明該方程擬合得很好。第17頁，共24頁，2023年，2月20日，星期日為檢驗一個回歸方程擬合的好壞，可通過重復試驗，獲得誤差平方和和失擬平方和，然后用對進行F檢驗。第二節(jié)一元線性回歸2、重復試驗回歸直線的求法1）設N個試驗點，每個試驗點重復m次試驗，則將這m次試驗取平均值，然后再按照前面的方法進行擬合，見表6－5和表6－6。2）方差分析第18頁，共24頁，2023年，2月20日，星期日來源平方和自由度方差

F顯著性回歸失擬誤差總計－－－第二節(jié)一元線性回歸3）方差檢驗:判斷一元回歸方程擬合效果:判斷失擬平方和對試驗誤差的影響:綜合判斷一元回歸方程擬合效果第19頁，共24頁，2023年，2月20日，星期日第二節(jié)一元線性回歸1）分組法－平均值法將自變量按由小到大次序排列，分成個數(shù)相等或近于相等的兩個組（分組數(shù)等于未知數(shù)個數(shù)），則可建立相應的兩組觀測方程：將兩組觀測方程分別相加，得b和b02）圖解法－緊繩法四、回歸直線的簡便求法第20頁，共24頁，2023年，2月20日，星期日第三節(jié)一元非線性回歸2、求解未知參數(shù)?？苫€回歸為直線回歸，

用最小二乘法求解；可化曲線回歸為多項式

回歸。1、確定函數(shù)類型并檢驗。一、求解思路二、回歸曲線函數(shù)類型的選取和檢驗1、直接判斷法2、作圖觀察法，與典型曲線比較，確定其屬于何

種類型，然后檢驗。第21頁，共24頁，2023年，2月20日，星期日第三節(jié)一元非線性回歸3、直線檢驗法（適用于待求參數(shù)不多的情況）a、預選回歸曲線b、c、求出幾對與x,y相對應的Z1,Z2值d、以Z1,Z2為坐標作圖，若為直線，則說明原

選定的曲線類型是合適的，否則重新考慮。第22頁，共24頁，2023年，2月20日，星期日4、表差法（適用于多項式回歸，含有常數(shù)項多于兩

個的情況）第三節(jié)一元非線性回歸a、用試驗數(shù)據(jù)畫圖；b、確定定差，列出xi,yi各對應值；c、根據(jù)x,y的讀出值作出差值，看其是否與確定方程式的標準相符，若一致，則說明原選定的曲線類型是合適的。三、化曲線回歸為直線回歸問題用直線檢驗法或表差法檢