第四章簡單回歸模型及回歸結(jié)果的檢驗

REVIEW2023/1/11中山大學(xué)南方學(xué)院1假設(shè)檢驗最小二乘法2023/1/11中山大學(xué)南方學(xué)院2第四章簡單回歸模型及回

歸結(jié)果的檢驗2023/1/113中山大學(xué)南方學(xué)院本章重點建立模型估計參數(shù)的統(tǒng)計意義回歸結(jié)果的解釋2023/1/11中山大學(xué)南方學(xué)院4分析思路建立模型輸入數(shù)據(jù)進(jìn)行回歸對回歸結(jié)果進(jìn)行解釋現(xiàn)實的經(jīng)濟(jì)學(xué)意義2023/1/11中山大學(xué)南方學(xué)院5第一節(jié)模型的建立在我們深入討論回歸分析和其結(jié)果檢驗之前，我們需要先討論一下應(yīng)用經(jīng)濟(jì)學(xué)的研究方法。我們還是從前面講過的一個簡單的回歸模型說起，給定下面的數(shù)模型：2023/1/116中山大學(xué)南方學(xué)院根據(jù)上面的數(shù)學(xué)模型，我們要做的事情就是利用所得到的數(shù)據(jù)，用最小二乘法來對模型中的參數(shù)進(jìn)行估計。

2023/1/11中山大學(xué)南方學(xué)院7我們以氣溫和冷飲料的銷售量的數(shù)據(jù)來進(jìn)行分析。如果我們能夠通過一個模型來預(yù)測由于氣溫的變化對市場銷售量的影響。2023/1/11中山大學(xué)南方學(xué)院8通過簡單的回歸分析得出簡單的估計方程，我們的氣溫“自變量”與銷量“因變量”之間存在著正相關(guān)的關(guān)系（自變量前面的參數(shù)值大于零）。2023/1/11中山大學(xué)南方學(xué)院9也就是說，當(dāng)溫度增高時，銷量也會增高。那么，我們可以利用這個估計方程來對未來進(jìn)行預(yù)測。我們可以確定，如果“溫度”提高一度，銷量就會增加4.881單位，也就是多銷售48810瓶飲料。2023/1/11中山大學(xué)南方學(xué)院10第二節(jié)估計參數(shù)的統(tǒng)計意義算出參數(shù)方程之后，我們的任務(wù)還沒有完成。我們還要對上面的回歸進(jìn)行分析。下一步我們要看估計出來的方程中的每個參數(shù)是否有統(tǒng)計意義（tStatistics）。

2023/1/11中山大學(xué)南方學(xué)院11為了計算參數(shù)的“tStatistics”的值，我們還是從簡單模型說起。給定：2023/1/11中山大學(xué)南方學(xué)院12其模型的估計方差是：或者：

2023/1/11中山大學(xué)南方學(xué)院13在這里我們要注意到這個方差的自由度為N－2，因為我們這里用到了兩個確定的參數(shù)，所以我們就失去了兩個自由度。2023/1/11中山大學(xué)南方學(xué)院14我們對方差開根號，得到s，這個統(tǒng)計值很重要，它被叫做“估計的標(biāo)準(zhǔn)誤差”（standarderrorofestimate)或“回歸的標(biāo)準(zhǔn)誤差”（standarderrorofregression）。那么我們再來計算估計參數(shù)的標(biāo)準(zhǔn)誤差。2023/1/11中山大學(xué)南方學(xué)院152023/1/11中山大學(xué)南方學(xué)院16先計算其方差：標(biāo)準(zhǔn)誤差：其統(tǒng)計檢驗值：2023/1/11中山大學(xué)南方學(xué)院17常數(shù)的方差可以根據(jù)：的關(guān)系式進(jìn)行計算，得出結(jié)果如下：2023/1/11中山大學(xué)南方學(xué)院18其方差為：標(biāo)準(zhǔn)誤差：統(tǒng)計值：2023/1/11中山大學(xué)南方學(xué)院19我們可以把參數(shù)的統(tǒng)計指標(biāo)列在估計方程的下面：銷量＝8.383＋4.881（氣溫）（1.128）（18.95）2023/1/11中山大學(xué)南方學(xué)院20我們要對估計參數(shù)進(jìn)行檢驗。假設(shè)所有的參數(shù)都等于零，用t檢驗來做。2023/1/11中山大學(xué)南方學(xué)院21如果我們將置信區(qū)間定為95％，那么其誤差容許范圍就在5％的范圍內(nèi)（也被稱為顯著性水平），即a=0.05。那么我們可以從表格中查到相關(guān)的數(shù)據(jù)進(jìn)行比較。2023/1/11中山大學(xué)南方學(xué)院22所以我們就可以說，我們有95%把握認(rèn)定：估計出來的這個參數(shù)不等于零，有其實際的統(tǒng)計意義。特別是自變量“氣溫”的參數(shù)很有意義。這樣一來，批發(fā)商就可根據(jù)天氣預(yù)報來有計劃的儲備飲料的庫存了。2023/1/11中山大學(xué)南方學(xué)院23

另外，參數(shù)的估計“失誤率”（p-value）也很有用。我們在檢驗統(tǒng)計意義時可以直接利用這個數(shù)據(jù)。我們設(shè)定統(tǒng)計誤差容許范圍是在5％，即顯著性水平（第一誤差）為0.05.

2023/1/11中山大學(xué)南方學(xué)院24那么如果參數(shù)的估計失誤率小于0.05，它們就是有統(tǒng)計意義的。上面的結(jié)果表明，參數(shù)方程截距的估計失誤率約為0.27，大于0.05，那么我們就沒有充分把握說它不等于零；自變量“氣溫”的估計失誤率約為0.000，小于0.05，那么我們就可以有充分的把握說它不等于零。2023/1/11中山大學(xué)南方學(xué)院25第三節(jié)估計參數(shù)方程的方差分析對回歸分析得出的結(jié)果做進(jìn)一步的分析，就是對估計參數(shù)方程的方差分析，英文叫“Analysisofvariance(ANOVA)”。如下表所示：2023/1/11中山大學(xué)南方學(xué)院26自由度平方和平均平方和F檢驗值模型（解釋）df1=KRSSRSS/df1(RSS/df1)/（ESS/df2）殘差（未解釋）df2=N-K-1ESSESS/df2總和df3=N-1TSS=RSS+ESS我們有如下模型：2023/1/11中山大學(xué)南方學(xué)院27我們將上面這個等式的兩邊同時減去，得到：等式的右邊是每個樣本值與其平均值的差，也就是真實誤差。我們再將等式的兩邊同時進(jìn)行平方，再加總。我們得到：2023/1/11中山大學(xué)南方學(xué)院282023/1/11中山大學(xué)南方學(xué)院29我們用TSS來表示這是方差總和（TotalSumofSquares）2023/1/11中山大學(xué)南方學(xué)院30這方差總和中有三項：第一項叫做解釋平方和（explainedsumofsquares）或者叫回歸平方和（regressionsumofsquares）,表示估計值與實際平均值之差的平方的總和，用RSS來表示：2023/1/11中山大學(xué)南方學(xué)院31第二項叫作未解釋平方和（residualsumofsquares）,或叫誤差平方和（errorsumofsquares）,或叫殘差平方和是實際值與估計值之差的平方的總和，也就是其誤差項平方的總和，用ESS來表示：2023/1/11中山大學(xué)南方學(xué)院32第三項就是剩余的部分，這部分可以忽略不計，因為它小得幾乎等于零：2023/1/11中山大學(xué)南方學(xué)院33那么，方差總和是解釋平方和與未解釋平方和的加總，即：TSS＝RSS＋ESS2023/1/11中山大學(xué)南方學(xué)院34解釋平方和（RSS）的自由度被規(guī)定為模型中自變量的個數(shù)，用K來表示，即：

df1=K未解釋平方和（ESS）的自由度的被規(guī)定為樣本數(shù)減去自變量的個數(shù)再減去一，即：

df2=N-K-1

2023/1/11中山大學(xué)南方學(xué)院35F的檢驗值為：F＝解釋方差/未解釋方差。即：F=ExplainedVariance/UnexplainedVariance=RegressionVariance/ResidualVariance2023/1/11中山大學(xué)南方學(xué)院36我們可以用這個統(tǒng)計指標(biāo)來對模型的回歸結(jié)果做從整體的假設(shè)檢驗。我們假設(shè)“所有的估計參數(shù)都同時等于零”。進(jìn)而我們通過F檢驗來得出我們的結(jié)論。檢驗的過程和方法跟t檢驗是一樣的。2023/1/11中山大學(xué)南方學(xué)院37第四節(jié)回歸結(jié)果的解釋在模型回歸估計結(jié)果的表格中還有一個有意思的統(tǒng)計量，就是R2

。有些翻譯的英文教科書中把它譯成“判定系數(shù)”。這個數(shù)值是用下面公式計算出來的：2023/1/11中山大學(xué)南方學(xué)院382023/1/11中山大學(xué)南方學(xué)院39人們把R2當(dāng)作回歸估計模型對真實模型解釋的百分比。也就是說，根據(jù)這個數(shù)值來評價模型回歸估計結(jié)果的好壞，認(rèn)為這個值可以“告訴人們Y的估計值與它的真實值相靠多近”。當(dāng)接近100％時，以前人們就認(rèn)為這個回歸估計的結(jié)果很逼真。2023/1/11中山大學(xué)南方學(xué)院40一般來說，用橫截面數(shù)據(jù)時，判定系數(shù)會低些；用時間序列數(shù)據(jù)時，它的值會高些，特別是當(dāng)我們增加自變量的個數(shù)時，它的值就會隨之提高?，F(xiàn)在計量經(jīng)濟(jì)學(xué)家對這個判定系數(shù)有了不同的看法。認(rèn)為這個判定系數(shù)不可靠。2023/1/11中山大學(xué)南方學(xué)院41后來又有些計量經(jīng)濟(jì)學(xué)試圖用不同的方法來計算判定系數(shù)，如用調(diào)整過的R2

在近些年來經(jīng)濟(jì)科學(xué)雜志上發(fā)表的文章中一般將這個數(shù)值按傳統(tǒng)的習(xí)慣保留在回歸分析結(jié)果的表格中，而不對此數(shù)值加以評價。2023/1/11中山大學(xué)南方學(xué)院42第五章其他簡單線性回歸模型有時我們從數(shù)據(jù)的圖形來看，因變量與自變量之間并不呈直線關(guān)系，而是有明顯的曲線關(guān)系。那么，我們可能通過對變量的轉(zhuǎn)換來使其變?yōu)橹本€關(guān)系。通常我們可以用自然對數(shù)，平方，立方，平方根，甚至更復(fù)雜的指數(shù)形式來轉(zhuǎn)換變量。2023/1/11中山大學(xué)南方學(xué)院432023/1/11中山大學(xué)南方學(xué)