第四章簡(jiǎn)單回歸模型及回歸結(jié)果的檢驗(yàn)

REVIEW2023/1/11中山大學(xué)南方學(xué)院1假設(shè)檢驗(yàn)最小二乘法2023/1/11中山大學(xué)南方學(xué)院2第四章簡(jiǎn)單回歸模型及回

歸結(jié)果的檢驗(yàn)2023/1/113中山大學(xué)南方學(xué)院本章重點(diǎn)建立模型估計(jì)參數(shù)的統(tǒng)計(jì)意義回歸結(jié)果的解釋2023/1/11中山大學(xué)南方學(xué)院4分析思路建立模型輸入數(shù)據(jù)進(jìn)行回歸對(duì)回歸結(jié)果進(jìn)行解釋現(xiàn)實(shí)的經(jīng)濟(jì)學(xué)意義2023/1/11中山大學(xué)南方學(xué)院5第一節(jié)模型的建立在我們深入討論回歸分析和其結(jié)果檢驗(yàn)之前，我們需要先討論一下應(yīng)用經(jīng)濟(jì)學(xué)的研究方法。我們還是從前面講過的一個(gè)簡(jiǎn)單的回歸模型說起，給定下面的數(shù)模型：2023/1/116中山大學(xué)南方學(xué)院根據(jù)上面的數(shù)學(xué)模型，我們要做的事情就是利用所得到的數(shù)據(jù)，用最小二乘法來對(duì)模型中的參數(shù)進(jìn)行估計(jì)。

2023/1/11中山大學(xué)南方學(xué)院7我們以氣溫和冷飲料的銷售量的數(shù)據(jù)來進(jìn)行分析。如果我們能夠通過一個(gè)模型來預(yù)測(cè)由于氣溫的變化對(duì)市場(chǎng)銷售量的影響。2023/1/11中山大學(xué)南方學(xué)院8通過簡(jiǎn)單的回歸分析得出簡(jiǎn)單的估計(jì)方程，我們的氣溫“自變量”與銷量“因變量”之間存在著正相關(guān)的關(guān)系（自變量前面的參數(shù)值大于零）。2023/1/11中山大學(xué)南方學(xué)院9也就是說，當(dāng)溫度增高時(shí)，銷量也會(huì)增高。那么，我們可以利用這個(gè)估計(jì)方程來對(duì)未來進(jìn)行預(yù)測(cè)。我們可以確定，如果“溫度”提高一度，銷量就會(huì)增加4.881單位，也就是多銷售48810瓶飲料。2023/1/11中山大學(xué)南方學(xué)院10第二節(jié)估計(jì)參數(shù)的統(tǒng)計(jì)意義算出參數(shù)方程之后，我們的任務(wù)還沒有完成。我們還要對(duì)上面的回歸進(jìn)行分析。下一步我們要看估計(jì)出來的方程中的每個(gè)參數(shù)是否有統(tǒng)計(jì)意義（tStatistics）。

2023/1/11中山大學(xué)南方學(xué)院11為了計(jì)算參數(shù)的“tStatistics”的值，我們還是從簡(jiǎn)單模型說起。給定：2023/1/11中山大學(xué)南方學(xué)院12其模型的估計(jì)方差是：或者：

2023/1/11中山大學(xué)南方學(xué)院13在這里我們要注意到這個(gè)方差的自由度為N－2，因?yàn)槲覀冞@里用到了兩個(gè)確定的參數(shù)，所以我們就失去了兩個(gè)自由度。2023/1/11中山大學(xué)南方學(xué)院14我們對(duì)方差開根號(hào)，得到s，這個(gè)統(tǒng)計(jì)值很重要，它被叫做“估計(jì)的標(biāo)準(zhǔn)誤差”（standarderrorofestimate)或“回歸的標(biāo)準(zhǔn)誤差”（standarderrorofregression）。那么我們?cè)賮碛?jì)算估計(jì)參數(shù)的標(biāo)準(zhǔn)誤差。2023/1/11中山大學(xué)南方學(xué)院152023/1/11中山大學(xué)南方學(xué)院16先計(jì)算其方差：標(biāo)準(zhǔn)誤差：其統(tǒng)計(jì)檢驗(yàn)值：2023/1/11中山大學(xué)南方學(xué)院17常數(shù)的方差可以根據(jù)：的關(guān)系式進(jìn)行計(jì)算，得出結(jié)果如下：2023/1/11中山大學(xué)南方學(xué)院18其方差為：標(biāo)準(zhǔn)誤差：統(tǒng)計(jì)值：2023/1/11中山大學(xué)南方學(xué)院19我們可以把參數(shù)的統(tǒng)計(jì)指標(biāo)列在估計(jì)方程的下面：銷量＝8.383＋4.881（氣溫）（1.128）（18.95）2023/1/11中山大學(xué)南方學(xué)院20我們要對(duì)估計(jì)參數(shù)進(jìn)行檢驗(yàn)。假設(shè)所有的參數(shù)都等于零，用t檢驗(yàn)來做。2023/1/11中山大學(xué)南方學(xué)院21如果我們將置信區(qū)間定為95％，那么其誤差容許范圍就在5％的范圍內(nèi)（也被稱為顯著性水平），即a=0.05。那么我們可以從表格中查到相關(guān)的數(shù)據(jù)進(jìn)行比較。2023/1/11中山大學(xué)南方學(xué)院22所以我們就可以說，我們有95%把握認(rèn)定：估計(jì)出來的這個(gè)參數(shù)不等于零，有其實(shí)際的統(tǒng)計(jì)意義。特別是自變量“氣溫”的參數(shù)很有意義。這樣一來，批發(fā)商就可根據(jù)天氣預(yù)報(bào)來有計(jì)劃的儲(chǔ)備飲料的庫(kù)存了。2023/1/11中山大學(xué)南方學(xué)院23

另外，參數(shù)的估計(jì)“失誤率”（p-value）也很有用。我們?cè)跈z驗(yàn)統(tǒng)計(jì)意義時(shí)可以直接利用這個(gè)數(shù)據(jù)。我們?cè)O(shè)定統(tǒng)計(jì)誤差容許范圍是在5％，即顯著性水平（第一誤差）為0.05.

2023/1/11中山大學(xué)南方學(xué)院24那么如果參數(shù)的估計(jì)失誤率小于0.05，它們就是有統(tǒng)計(jì)意義的。上面的結(jié)果表明，參數(shù)方程截距的估計(jì)失誤率約為0.27，大于0.05，那么我們就沒有充分把握說它不等于零；自變量“氣溫”的估計(jì)失誤率約為0.000，小于0.05，那么我們就可以有充分的把握說它不等于零。2023/1/11中山大學(xué)南方學(xué)院25第三節(jié)估計(jì)參數(shù)方程的方差分析對(duì)回歸分析得出的結(jié)果做進(jìn)一步的分析，就是對(duì)估計(jì)參數(shù)方程的方差分析，英文叫“Analysisofvariance(ANOVA)”。如下表所示：2023/1/11中山大學(xué)南方學(xué)院26自由度平方和平均平方和F檢驗(yàn)值模型（解釋）df1=KRSSRSS/df1(RSS/df1)/（ESS/df2）殘差（未解釋）df2=N-K-1ESSESS/df2總和df3=N-1TSS=RSS+ESS我們有如下模型：2023/1/11中山大學(xué)南方學(xué)院27我們將上面這個(gè)等式的兩邊同時(shí)減去，得到：等式的右邊是每個(gè)樣本值與其平均值的差，也就是真實(shí)誤差。我們?cè)賹⒌仁降膬蛇呁瑫r(shí)進(jìn)行平方，再加總。我們得到：2023/1/11中山大學(xué)南方學(xué)院282023/1/11中山大學(xué)南方學(xué)院29我們用TSS來表示這是方差總和（TotalSumofSquares）2023/1/11中山大學(xué)南方學(xué)院30這方差總和中有三項(xiàng)：第一項(xiàng)叫做解釋平方和（explainedsumofsquares）或者叫回歸平方和（regressionsumofsquares）,表示估計(jì)值與實(shí)際平均值之差的平方的總和，用RSS來表示：2023/1/11中山大學(xué)南方學(xué)院31第二項(xiàng)叫作未解釋平方和（residualsumofsquares）,或叫誤差平方和（errorsumofsquares）,或叫殘差平方和是實(shí)際值與估計(jì)值之差的平方的總和，也就是其誤差項(xiàng)平方的總和，用ESS來表示：2023/1/11中山大學(xué)南方學(xué)院32第三項(xiàng)就是剩余的部分，這部分可以忽略不計(jì)，因?yàn)樗〉脦缀醯扔诹悖?023/1/11中山大學(xué)南方學(xué)院33那么，方差總和是解釋平方和與未解釋平方和的加總，即：TSS＝RSS＋ESS2023/1/11中山大學(xué)南方學(xué)院34解釋平方和（RSS）的自由度被規(guī)定為模型中自變量的個(gè)數(shù)，用K來表示，即：

df1=K未解釋平方和（ESS）的自由度的被規(guī)定為樣本數(shù)減去自變量的個(gè)數(shù)再減去一，即：

df2=N-K-1

2023/1/11中山大學(xué)南方學(xué)院35F的檢驗(yàn)值為：F＝解釋方差/未解釋方差。即：F=ExplainedVariance/UnexplainedVariance=RegressionVariance/ResidualVariance2023/1/11中山大學(xué)南方學(xué)院36我們可以用這個(gè)統(tǒng)計(jì)指標(biāo)來對(duì)模型的回歸結(jié)果做從整體的假設(shè)檢驗(yàn)。我們假設(shè)“所有的估計(jì)參數(shù)都同時(shí)等于零”。進(jìn)而我們通過F檢驗(yàn)來得出我們的結(jié)論。檢驗(yàn)的過程和方法跟t檢驗(yàn)是一樣的。2023/1/11中山大學(xué)南方學(xué)院37第四節(jié)回歸結(jié)果的解釋在模型回歸估計(jì)結(jié)果的表格中還有一個(gè)有意思的統(tǒng)計(jì)量，就是R2

。有些翻譯的英文教科書中把它譯成“判定系數(shù)”。這個(gè)數(shù)值是用下面公式計(jì)算出來的：2023/1/11中山大學(xué)南方學(xué)院382023/1/11中山大學(xué)南方學(xué)院39人們把R2當(dāng)作回歸估計(jì)模型對(duì)真實(shí)模型解釋的百分比。也就是說，根據(jù)這個(gè)數(shù)值來評(píng)價(jià)模型回歸估計(jì)結(jié)果的好壞，認(rèn)為這個(gè)值可以“告訴人們Y的估計(jì)值與它的真實(shí)值相靠多近”。當(dāng)接近100％時(shí)，以前人們就認(rèn)為這個(gè)回歸估計(jì)的結(jié)果很逼真。2023/1/11中山大學(xué)南方學(xué)院40一般來說，用橫截面數(shù)據(jù)時(shí)，判定系數(shù)會(huì)低些；用時(shí)間序列數(shù)據(jù)時(shí)，它的值會(huì)高些，特別是當(dāng)我們?cè)黾幼宰兞康膫€(gè)數(shù)時(shí)，它的值就會(huì)隨之提高?，F(xiàn)在計(jì)量經(jīng)濟(jì)學(xué)家對(duì)這個(gè)判定系數(shù)有了不同的看法。認(rèn)為這個(gè)判定系數(shù)不可靠。2023/1/11中山大學(xué)南方學(xué)院41后來又有些計(jì)量經(jīng)濟(jì)學(xué)試圖用不同的方法來計(jì)算判定系數(shù)，如用調(diào)整過的R2

在近些年來經(jīng)濟(jì)科學(xué)雜志上發(fā)表的文章中一般將這個(gè)數(shù)值按傳統(tǒng)的習(xí)慣保留在回歸分析結(jié)果的表格中，而不對(duì)此數(shù)值加以評(píng)價(jià)。2023/1/11中山大學(xué)南方學(xué)院42第五章其他簡(jiǎn)單線性回歸模型有時(shí)我們從數(shù)據(jù)的圖形來看，因變量與自變量之間并不呈直線關(guān)系，而是有明顯的曲線關(guān)系。那么，我們可能通過對(duì)變量的轉(zhuǎn)換來使其變?yōu)橹本€關(guān)系。通常我們可以用自然對(duì)數(shù)，平方，立方，平方根，甚至更復(fù)雜的指數(shù)形式來轉(zhuǎn)換變量。2023/1/11中山大學(xué)南方學(xué)院432023/1/11中山大學(xué)南方學(xué)