回歸方程及回歸系數(shù)的顯著性檢驗(yàn)講義(doc7頁(yè))

1、回歸方程及回歸系數(shù)的顯著性 檢驗(yàn)講義（doc 7頁(yè)）此資料來(lái)自：精品資料網(wǎng)(ww. )聯(lián)系電話班手機(jī)業(yè)QQ： 800003985提供50萬(wàn)份管理資料下載3萬(wàn)集企業(yè)管理資料下載1300GB高清管理講座硬盤拷貝§3回歸方程及回歸系數(shù)的顯著性檢驗(yàn)1、回歸方程的顯著性檢驗(yàn)(1)回歸平方和與剩余平方和建立回歸方程以后，回歸效果如何呢？因變量與自變量'與'斌是否確實(shí)存在線性關(guān)系呢？這 是需要進(jìn)行統(tǒng)計(jì)檢驗(yàn)才能加以肯定或否定，為此，我們要進(jìn)一步研究因變量/取值的變化規(guī)律.了的每次 取值也12，#是有波動(dòng)的，這種波動(dòng)常稱為變差，每次

2、觀測(cè)值，除的變差大小，常用該次觀到值,急1 X與黑次觀測(cè)值的平均值 “J1 的差距一P (稱為離差)來(lái)表示，而全部片次觀測(cè)值的總變差可由總的 離差平方和RRM5川二£。旦一5產(chǎn)十£什旦一力2 =©十U 7fc-1J1>其中：u=i>-內(nèi) 2.人稱為回歸平方和，是回歸值股與均值了之差的平方和，它反映了自變量門/2,"湍的變化所引起的了的波動(dòng)，其自由度危二加(加為自變量的個(gè)數(shù))。=22心-注"稱為剩余平方和(或稱殘差平方和)，是實(shí)測(cè)值船與回歸值”之差的平方和，它是由試驗(yàn)誤差及其它因素引起的，其自由度為二"-黑-1。總的離差平方

3、和s方的自由度為“一】如果觀測(cè)值給定，則總的離差平方和s廳是確定的，即0 + U是確定的，因此u大則。小，反之， U小則。大，所以U與。都可用來(lái)衡量回歸效果，且回歸平方和6越大則線性回歸效果越顯著，或者說(shuō) 剩余平方和。越小回歸效果越顯著，如果0=0,則回歸超平面過(guò)所有觀測(cè)點(diǎn)；如果°大，則線性回歸效 果不好。(2)復(fù)相關(guān)系數(shù)為檢驗(yàn)總的回歸效果，人們也常引用無(wú)量綱指標(biāo)-i加 % , (3.1)或R=V (3.2)又稱為笈相關(guān)系數(shù)。因?yàn)榛貧w平方和實(shí)際上是反映回歸方程中全部自變量的“方差貢獻(xiàn)”，因此火2就 是這種貢獻(xiàn)在總回歸平方和中所占的比例，因此又表示全部自變量與因變量的相關(guān)程度，顯然復(fù)相

4、關(guān)系數(shù)越接近1,回歸效果就越好，因此它可以作為檢驗(yàn)總的回歸效果的一個(gè)指標(biāo)。但應(yīng) 注意，R與回歸方程中自變量的個(gè)數(shù)m及觀測(cè)組數(shù)片有關(guān)，當(dāng)日相對(duì)于m并不很大時(shí)，常有較大的反值, 因此實(shí)際計(jì)算中應(yīng)注意m與"的適當(dāng)比例，一般認(rèn)為應(yīng)取n至少為m的5到10倍為宜。(3) F檢驗(yàn)要檢驗(yàn)了與，町，”/是否存在線性關(guān)系，就是要檢驗(yàn)假設(shè)邛i = % = = D溫，(3.3)當(dāng)假設(shè)%成立時(shí)，則J與，與，戶內(nèi)無(wú)線性關(guān)系，否則認(rèn)為線性關(guān)系顯著。檢驗(yàn)假設(shè)/應(yīng)用統(tǒng)計(jì)量Uim(3.4)這是兩個(gè)方差之比，它服從自由度為m及打-加-1的尸分布，即F =也 F(m,n - m -1)斯 -優(yōu)-1),(3 5)用此統(tǒng)計(jì)量F

5、可檢驗(yàn)回歸的總體效果。如果假設(shè)“°成立，則當(dāng)給定檢驗(yàn)水平Q下，統(tǒng)計(jì)量F應(yīng)有?（F W月（科/一町7）= 1一%（3. 6）對(duì)于給定的置信度a,由F分布表可查得七M(jìn)n-m-l）的值，如果根據(jù)統(tǒng)計(jì)量算得的F值為 ,>見(jiàn) （犯”-黑-L）,則拒絕假設(shè)*0,即不能認(rèn)為全部腐為0,即肌個(gè)自變量的總體回歸效果是顯著的, 否則認(rèn)為回歸效果不顯著。利用F檢驗(yàn)對(duì)回歸方程進(jìn)行顯著性檢驗(yàn)的方法稱為方差分析.上面對(duì)回歸效果的討論可歸結(jié)于一個(gè)方差分析表中，如表表S.1方差分析表自由度m來(lái)源平方和回歸U = N®-內(nèi)2JL剩余 。=2>3-'尸X總計(jì)s用二一月瞋°十0J1

6、方差方差比UlmU$mQl(n - w-1)Qf(n-m-l)根據(jù)R與F的定義，可以導(dǎo)出父與尸的以下關(guān)系:F = a-爐 >R= mFy （w - »2 -1） +黑產(chǎn)利用這兩個(gè)關(guān)系式可以解決正值多大時(shí)回歸效果才算是顯著的問(wèn)題。因?yàn)閷?duì)給定的檢驗(yàn)水平a,由F 分布表可查出F的臨界值而，然后由所即可求出K的臨界值&a：R = I 哂a g一陽(yáng)TH 鶴，（S.7）當(dāng)R'K時(shí)，則認(rèn)為回歸效果顯著.例3.1利用方差分析對(duì)例2.1的回歸方程進(jìn)行顯著性檢驗(yàn)。方差分析結(jié)果見(jiàn)表3.2。表3.2總s班三3773.4 "1 = 13取檢驗(yàn)水平a=0.05,查尸分布表得巳I”

7、?%,而= 610.34<14>七&,11”3.%，所以例2.1的回歸方程回歸效果是顯著的。2、回歸系數(shù)的顯著性檢驗(yàn)前面討論了回歸方程中全部自變量的總體回歸效果，但總體回歸效果顯著并不說(shuō)明每個(gè)自變量公“2,”流對(duì)因變量了都是重要的，即可能有某個(gè)自變量七對(duì)J并不起作用或者能被其它的心的作用所代替，因此對(duì)這種自變量我們希望從回歸方程中剔除，這樣可以建立更簡(jiǎn)單的回歸方程.顯然某個(gè)自變量如果對(duì)J作用不顯著，則它的系數(shù)"就應(yīng)取值為0,因此檢驗(yàn)每個(gè)自變量是否顯著，就要檢驗(yàn)假設(shè)：/：信=口，=12”, QB）f檢驗(yàn)：在用假設(shè)下，可應(yīng)用,檢驗(yàn)：一 町向J。（"想-1）i

8、= 1,2,m, 9）其中為矩陣c=（%"=（用廠】的對(duì)角線上第2個(gè)元素。對(duì)給定的檢驗(yàn)水平a,從f分布表中可查出與a對(duì)應(yīng)的臨界值如果有信上則拒絕假設(shè)二°,即認(rèn)為鳥與o有顯著差異，這說(shuō)明對(duì)了有重要作用不應(yīng)剔除；如果有“'KG則接受假設(shè)方匕即認(rèn)為疝=。成立，這說(shuō)明對(duì)P不起作用，應(yīng)予剔除.（2） F檢驗(yàn)：檢驗(yàn)假設(shè)比1 ：店=°,亦可用服從自由度分別為1與”時(shí)1的F分布的統(tǒng)計(jì)量F(l,«- »2-1),(3.10)其中為矩陣.尸的主對(duì)角線上第，個(gè)元素。對(duì)于給定的檢驗(yàn)水平a,從F分布表中 可查得臨界七°述一”一1）,如果有吁: 當(dāng)3”一

9、黑一°,則拒絕假設(shè)為，認(rèn)為對(duì)了有重要作用。如果 耳,耳（L*一陽(yáng)一 1）,則接受假設(shè)“°,即認(rèn)為自變量對(duì)J不起重要作用，可以剔除。一般一次F檢驗(yàn)只剔除一個(gè)自變量，且這個(gè)自變量是所有不顯著自變量中F值最小者，然后再建立回歸方程，并繼續(xù)進(jìn)行檢驗(yàn)，直到建立的回歸方程及各個(gè)自變量均顯著為止.最后指出，上述對(duì)各自變量進(jìn)行顯著性檢驗(yàn)采用的兩種統(tǒng)計(jì)最舄與“實(shí)際上是等價(jià)的，因?yàn)橛?3.9)式及(3.10)式知，有例3. 2對(duì)例2.1的回歸方程各系數(shù)進(jìn)行顯著性檢驗(yàn).經(jīng)計(jì)算：J525L? 3499.9、 M = 3499.9 2550.9于是C=(c&.) = S-1 =r 0.002

10、223 -0.00305S1-0.00305 0.0045?其中 11 =0. 002223, 22 =0. 004577由中 7)式知一抱0s 33.7/(14-2-1)075/004577 ni9753.7;(14-2-1)查f 分布表得，位。5(”加T)= 3心。1) =1.7959 ,因?yàn)?amp; = 6.326 ) 力m1)=1,959 ,% = 4.012 >fog(ll) = 1.7959,所以兩個(gè)自變量勺及為都是顯著的。又由說(shuō)明體長(zhǎng)町比腳網(wǎng)町對(duì)體重了的影響更大.如果應(yīng)用F檢驗(yàn)，查尸分布表有用J1)= 484比2fci0.5223/0.002223- = 40.0133.

11、7/110.47 52/0.00457733.7/11 = 16.09因?yàn)镽 = 40 01 > a5(1J 1)= 4叫瓦=1609 >加5。1)= 4叫因此町及與都是顯著的，均為重要變量，應(yīng)保留在回歸方程中。(3)偏回歸平方和檢驗(yàn)?zāi)骋蛔宰兞渴欠耧@著，還可應(yīng)用偏回歸平方和進(jìn)行檢驗(yàn).沼個(gè)自變量/冷，"湍的回歸平方和為如果自取個(gè)自變量中去掉則剩下的丹-1個(gè)自變量的回歸平方和設(shè)為并設(shè)則%就表示變量與在回歸平方和U中的貢獻(xiàn)，吟稱為的偏回歸平方和或貢獻(xiàn)，可以證明 ,（3. 12）偏回歸平方和嗎越大，說(shuō)明在回歸方程中越重要，對(duì)J的作用和影響越大，或者說(shuō)今對(duì)回歸方程的貢獻(xiàn)越大。因此偏回歸平方和也是用來(lái)衡量每個(gè)自變量在回歸方程中作用大小(貢獻(xiàn)大小)的一個(gè)指標(biāo)。例如在例2.1中，和町的偏回歸平方和分別為0 522JC11=121.637430.002223小富