第三節(jié)線性回歸的顯著性檢驗及回歸預測

1、第三節(jié)第三節(jié) 線性回歸的顯著性線性回歸的顯著性檢驗及回歸預測檢驗及回歸預測 在回歸分析中在回歸分析中, ,要檢驗因變量要檢驗因變量y y與自變量與自變量x x之間到底有無真正的線性關系之間到底有無真正的線性關系, ,可以通過可以通過回歸系數(shù)的顯著性檢驗回歸系數(shù)的顯著性檢驗(t (t檢驗檢驗) )或回歸方程或回歸方程的顯著性檢驗的顯著性檢驗(f(f檢驗檢驗) )來判斷來判斷. .1一、回歸系數(shù)的顯著性檢驗一、回歸系數(shù)的顯著性檢驗 回歸系數(shù)顯著性檢驗的目的是通過檢驗回回歸系數(shù)顯著性檢驗的目的是通過檢驗回歸系數(shù)歸系數(shù) 的值與的值與0 0是否有顯著性差異，來判斷是否有顯著性差異，來判斷y y與與x x

2、之間是否有顯著的線性關系之間是否有顯著的線性關系. .若若 =0,=0,則總體則總體回歸方程中不含回歸方程中不含x x項項( (即即y y不隨不隨x x變動而變動變動而變動), ),因因此此, ,變量變量y y與與x x之間并不存在線性關系之間并不存在線性關系; ;若若 0, 0,說說明變量明變量y y與與x x之間存在顯著的線性關系之間存在顯著的線性關系. . 提出原假設與備擇假設：提出原假設與備擇假設：01:0;:0hh3 構造檢驗統(tǒng)計量構造檢驗統(tǒng)計量根據(jù)已知條件實際計算統(tǒng)計量根據(jù)已知條件實際計算統(tǒng)計量t t的值；的值； (2)( )btt ns b 比較比較與中的計算結果與中的計算結果,

3、 ,得到結論得到結論. .21( )()eis bsbxx 其其中中，為為 的的樣樣本本方方差差，2222()()iixixxxnsxn 2(2)tn 給定顯著性水平給定顯著性水平 , ,這是這是t t分布的雙側檢驗分布的雙側檢驗, ,查查表計算出臨界值表計算出臨界值 , ,得出拒絕域得出拒絕域; ;回歸系數(shù)的檢驗回歸系數(shù)的檢驗 ( (例題分析例題分析) )對例題的回歸系數(shù)進行顯著性檢驗對例題的回歸系數(shù)進行顯著性檢驗( ( 0.05)0.05)1. 1.提出假設提出假設2. 2.計算檢驗的統(tǒng)計量計算檢驗的統(tǒng)計量01:0;:0hh20.7961112.4572645()eibtsxx 0.796

4、116.65480.047820.0253.(2)(14)2.144816.6548,tntyx 所所以以拒拒絕絕原原假假設設, ,表表示示 與與 之之間間存存在在顯顯著著的的線線性性關關系系, ,即即能能源源消消耗耗量量與與工工業(yè)業(yè)總總產產值值之之間間存存在在顯顯著著的的線線性性相相關關關關系系. .5二二. .回歸方程的顯著性檢驗回歸方程的顯著性檢驗( (方差分析方差分析(f(f檢驗檢驗) ) 檢驗兩變量是否線性相關的另一種方法是方差分檢驗兩變量是否線性相關的另一種方法是方差分析析, ,它是建立在對總離差平方和如下分解的基礎上：它是建立在對總離差平方和如下分解的基礎上： 22222222,

5、()0,iiciciiyiiiiexyiirexyiiiieryyyyyyssyynsyynxyssssbnsssbx ynssssssbnsbxx yaxss ssssaybx 即即：依依賴賴：,n-1,2,1.ererereress ssssffffffffnfff三三個個平平方方和和的的自自由由度度分分別別記記為為則則它它們們之之間間也也有有等等式式成成立立：且且：則則注注意意： 提出原假設與備擇假設：提出原假設與備擇假設：01:0;:0hh 構造檢驗統(tǒng)計量構造檢驗統(tǒng)計量22222(1),(2.),reissssn 構構造造分分布布統(tǒng)統(tǒng)計計量量：7221(1,2)(2)(2).rrees

6、sssffnssssnini 構構造造統(tǒng)統(tǒng)f f分分布布計計量量：給定顯著性水平給定顯著性水平 , ,查表計算出臨界值查表計算出臨界值 , ,得出拒絕域得出拒絕域(1,2)fn (1,2),).fn 根據(jù)已知條件實際計算統(tǒng)計量根據(jù)已知條件實際計算統(tǒng)計量f f的值；的值； 比較比較與中的計算結果與中的計算結果, ,得到結論得到結論. .8方差分析方差分析把總離差平方和及其自由度進行分把總離差平方和及其自由度進行分解解, ,利用利用f f統(tǒng)計量檢驗兩變量間線性相關顯著性的統(tǒng)計量檢驗兩變量間線性相關顯著性的方法稱為方差分析方法稱為方差分析. .方差分析的結果歸納如下：方差分析的結果歸納如下：離差來源

7、離差來源平方和平方和自由度自由度f f值值回回 歸歸剩剩 余余1 1n-2n-2 總計總計n-1n-1一一元元線線性性回回歸歸的的方方差差分分析析表表 2rcissyy 2eicissyy 2issyy (2)ressfssn 線性關系的檢驗線性關系的檢驗( (例題分析例題分析) ) 1. 1. 提出假設提出假設2. 2. 計算檢驗統(tǒng)計量計算檢驗統(tǒng)計量f f01:0;:0hh222()26175(625)161760.9375()37887(916 625) 162105.750.7961 2105.751676.387684.54991676.3876277.5808(2)84.5499 1

8、4iixyiiiirxyerressyynnsx yxynssbnsssssssssfssn 103. 3. 確定顯著性水平確定顯著性水平 =0.05=0.05，并根據(jù)分子自由，并根據(jù)分子自由度度1 1和分母自由度和分母自由度1414找出臨界值找出臨界值f f =4.60=4.604. 4. 作出決策：若作出決策：若f f f f , , 拒絕拒絕h h0 0，認為能源，認為能源消耗量與工業(yè)總產值兩變量間的線性相關消耗量與工業(yè)總產值兩變量間的線性相關關系是顯著的關系是顯著的. .離差來源離差來源平方和平方和自由度自由度f f值值回回 歸歸剩剩 余余1 11414 總計總計15151676.38

9、76rss 84.5499ess 2105.75ss 277.5808f 三、利用三、利用回歸方程進行估計和預測回歸方程進行估計和預測點估計點估計1. 1. 對于自變量對于自變量x x的一個給定值的一個給定值x x0 0, ,根據(jù)回歸根據(jù)回歸方程得到因變量方程得到因變量 y y 的一個估計值的一個估計值cy點估計值有點估計值有 y y 的的平均值平均值的點估計的點估計ny y 的的個別值個別值的點估計的點估計3. 3. 在點估計條件下，平均值的點估計和個別在點估計條件下，平均值的點估計和個別值的的點估計是一樣的，但在區(qū)間估計中值的的點估計是一樣的，但在區(qū)間估計中則不同則不同 y y 的平均值的

10、點估計的平均值的點估計 利用估計的回歸方程利用估計的回歸方程, ,對于自變量對于自變量x x 的的一一 個給定值個給定值x x0, 0,求出因變量求出因變量y y的平均值的的平均值的一個估計值一個估計值e e( (y y0 0) , ) ,就是平均值的點估計就是平均值的點估計 在能源消耗量與工業(yè)總產值的例子中，在能源消耗量與工業(yè)總產值的例子中，假如我們要估計能源消耗量為假如我們要估計能源消耗量為7878十萬噸十萬噸的平均工業(yè)總產值，那么將的平均工業(yè)總產值，那么將7878十萬噸代十萬噸代入估計的回歸方程，就得到了工業(yè)總產入估計的回歸方程，就得到了工業(yè)總產值的點估計：值的點估計：0()6.5142

11、0.7961 7855.5816()e y 億億元元y y 的個別值的點估計的個別值的點估計 利用估計的回歸方程利用估計的回歸方程, ,對于自變量對于自變量x x的的一個給定值一個給定值x x0 0, ,求出因變量求出因變量y y的一個個別的一個個別值的估計值值的估計值 , ,就是個別值的點估計就是個別值的點估計. .例如，如果我們只是想知道能源消耗量為例如，如果我們只是想知道能源消耗量為8080萬噸的工業(yè)總產值是多少，則屬于個別萬噸的工業(yè)總產值是多少，則屬于個別值的點估計值的點估計 。根據(jù)估計的回歸方程得。根據(jù)估計的回歸方程得cy6.51420.7961 8057.1738()cy 億億元元

12、區(qū)間估計區(qū)間估計區(qū)間估計區(qū)間估計1. 1.點估計不能給出估計的精度，點估計值與點估計不能給出估計的精度，點估計值與實際值之間是有誤差的，因此需要進行區(qū)實際值之間是有誤差的，因此需要進行區(qū)間估計間估計2. 2.對于自變量對于自變量 x x 的一個給定值的一個給定值 x x0 0，根據(jù)回歸，根據(jù)回歸方程得到因變量方程得到因變量 y y 的一個估計區(qū)間的一個估計區(qū)間3. 3.區(qū)間估計有兩種類型區(qū)間估計有兩種類型 置信區(qū)間估計置信區(qū)間估計(confidence interval estimate)(confidence interval estimate) 預測區(qū)間估計預測區(qū)間估計(predictio

13、n (prediction interval estimate)置信區(qū)間估計置信區(qū)間估計1. 1. 利用估計的回歸方程，對于自變量利用估計的回歸方程，對于自變量 x x 的一個給定值的一個給定值 x x0 0 ，求出因變量，求出因變量 y y 的平的平均值的估計區(qū)間均值的估計區(qū)間 ，這一估計區(qū)間稱為，這一估計區(qū)間稱為置信區(qū)間置信區(qū)間(confidence interval)(confidence interval)2. 2. e e( (y y0 0) ) 在在1- 1- 置信水平下的置信區(qū)間為置信水平下的置信區(qū)間為式中：式中：s se e為回歸估計標準差為回歸估計標準差 202211(2)c

14、eniixxytnsnxx 置信區(qū)間估計置信區(qū)間估計( (例題分析例題分析) )【例例】求出工業(yè)總產值的點估計為求出工業(yè)總產值的點估計為100100億元時，億元時，工業(yè)總產值工業(yè)總產值95%95%置信水平下的置信區(qū)間置信水平下的置信區(qū)間. . 解：解：根據(jù)前面的計算結果根據(jù)前面的計算結果, ,已知已知n n=16=16， s se e=2.457=2.457，t t (16-2)=2.1448(16-2)=2.1448 置信區(qū)間為置信區(qū)間為工業(yè)總產值的點估計為工業(yè)總產值的點估計為100100億元時，工業(yè)總產值億元時，工業(yè)總產值100cy 21(7357.25)1002.14482.457162

15、645 097.9167()102.0833e y預測區(qū)間估計預測區(qū)間估計1. 1.利用估計的回歸方程，對于自變量利用估計的回歸方程，對于自變量 x x 的一的一個給定值個給定值 x x0 0 ，求出因變量，求出因變量 y y 的一個個別的一個個別值的估計區(qū)間，這一區(qū)間稱為值的估計區(qū)間，這一區(qū)間稱為預測區(qū)間預測區(qū)間(prediction interval) (prediction interval) 2. 2. y y0 0在在1- 1- 置信水平下的預測區(qū)間為置信水平下的預測區(qū)間為 202211(2)1ceniixxytnsnxx 置信區(qū)間、預測區(qū)間、回歸方程cyabx0b x0 x影響區(qū)間

16、寬度的因素1. 1.置信水平置信水平 (1 - (1 - ) ) 區(qū)間寬度隨置信水平的增大而增大區(qū)間寬度隨置信水平的增大而增大2. 2.數(shù)據(jù)的離散程度數(shù)據(jù)的離散程度s se e 區(qū)間寬度隨離程度的增大而增大區(qū)間寬度隨離程度的增大而增大3. 3.樣本容量樣本容量 區(qū)間寬度隨樣本容量的增大而減小區(qū)間寬度隨樣本容量的增大而減小4. 4.用于預測的用于預測的 x x0 0與與 x x的差異程度的差異程度 區(qū)間寬度隨區(qū)間寬度隨x x0 0與與 x x 的差異程度的增大的差異程度的增大而增大而增大預測區(qū)間估計預測區(qū)間估計( (例題分析例題分析) )【例例】求出能源消耗量為求出能源消耗量為7373十萬噸時十萬噸時, ,工業(yè)總產值工業(yè)總產值 95% 95% 置信水平下的置信區(qū)間置信水平下的置信區(qū)間 解：解：根據(jù)前面的計算結果根據(jù)前面的計算結果, ,已知已知 n n=16=16， s se e= =2.4572.457， t t (14)=2.1448(14)=2.1448 置信區(qū)間為置信區(qū)間為能源消耗量為能源消耗