第一章線性回歸的性質(zhì)

1第一章線性回歸的性質(zhì)董志勇博士教授北京大學(xué)經(jīng)濟(jì)學(xué)院Email:電話:

2⑴理論與應(yīng)用并重。既要重視理論方法，也要重視應(yīng)用模型和應(yīng)用中實(shí)際問(wèn)題的解決；⑵以教材中的經(jīng)典理論方法為主，也要理解適當(dāng)引入的、教材中沒(méi)有的非經(jīng)典理論方法；⑶對(duì)于理論方法，重點(diǎn)是思路而不是數(shù)學(xué)過(guò)程；⑷對(duì)于應(yīng)用模型，重點(diǎn)不是每種模型本身，而是它們演變與發(fā)展的方法論；⑸必須十分重視綜合練習(xí)；⑹必須掌握Eviews軟件，注意課堂的軟件應(yīng)用演示，“師傅領(lǐng)進(jìn)門(mén)，修行在個(gè)人”，多練。關(guān)于學(xué)習(xí)方法的說(shuō)明3§1“回歸”一詞的歷史淵源回歸一詞最早由F.加爾頓FrancisGalton引入加爾頓研究發(fā)現(xiàn)，父母和孩子的身高有這樣的一個(gè)趨勢(shì)：父母高，兒女就高；父母矮，兒女也矮。但是高個(gè)父母的兒女們?cè)谕g人中并不像父輩那樣在同齡人中顯得那樣高，兒女輩的平均身高將“退化”到或者說(shuō)“回歸”到全體人口的平均身高。這也叫加爾頓的“普遍回歸定律”。加爾頓在智力遺傳的方面也得到了類似的結(jié)果：一般來(lái)說(shuō)，天才是要遺傳的。但是天才的后代卻要比他們的父輩們平庸，也就是他們的智力水平將“回歸”到中等水平；而一個(gè)智商一般的父母，其孩子卻可能是個(gè)天才！4“回歸”一詞的歷史淵源加爾頓的普遍回歸定律（lawofuniversalregression）還被他的朋友K.皮爾遜（KarlPearson）證實(shí)。皮爾遜曾收集過(guò)一些家庭集體的1千多名成員的身高紀(jì)錄。他發(fā)現(xiàn)，對(duì)于一個(gè)父親高的群體，兒輩的平均身高低于他們父輩的身高。這樣就把高的和矮的兒輩一同回歸到所有男子的平均身高。用加爾頓的話說(shuō)，這是“回歸到中等”（regressiontomediocrity）5§1.2回歸的現(xiàn)代釋義然而，對(duì)回歸的現(xiàn)代解釋確是非常不同的：回歸分析是關(guān)于一個(gè)叫做應(yīng)變量的變量對(duì)另一個(gè)或多個(gè)叫做解釋多變量的變量的依賴關(guān)系，其用意在于通過(guò)后者(在重復(fù)抽樣中)的已知或設(shè)定值，去估計(jì)和（或）預(yù)測(cè)前者的（總體）均值。下面，我們用幾個(gè)簡(jiǎn)單的例子來(lái)把線性回歸的概念弄清楚6對(duì)于給定的父親身高與兒子身高的假想分布7570656060657075兒子身高父親身高7再考慮加爾頓的普遍回歸定律該散點(diǎn)圖展示了對(duì)于設(shè)定的父親身高，兒子在一個(gè)假想人口總體中的身高分布。對(duì)于任一給定的父親身高，都有兒子身高的一個(gè)分布范圍。隨著父親身高的增加，兒子的平均身高也增加。我們可以勾畫(huà)一條通過(guò)這些散點(diǎn)的直線，以表明兒子的平均身高是怎樣隨著父親身高的增加而增加的。這條線就是回歸線。8轉(zhuǎn)到經(jīng)濟(jì)學(xué)中的例子經(jīng)濟(jì)學(xué)家也許想研究個(gè)人消費(fèi)支出對(duì)稅后或可支配實(shí)際個(gè)人收入的依賴關(guān)系。這種分析會(huì)有助于估計(jì)邊際消費(fèi)傾向。一位假定能知道價(jià)格或產(chǎn)出的壟斷商，也許想知道產(chǎn)品需求對(duì)價(jià)格變化的實(shí)際反應(yīng)，通過(guò)這種定價(jià)試驗(yàn)，也許能估計(jì)出產(chǎn)品需求的價(jià)格彈性，從而有助于確定最有利可圖的價(jià)格。9菲利普斯曲線Philipscurve一位勞工經(jīng)濟(jì)學(xué)家也許想要研究貨幣工資變化率對(duì)失業(yè)率的關(guān)系。曲線是把貨幣工資變化同失業(yè)率聯(lián)系起來(lái)：著名的菲利普斯曲線。這樣的散點(diǎn)圖能使勞工經(jīng)濟(jì)學(xué)家在給定某個(gè)失業(yè)率下貨幣工資的平均變化。10其他領(lǐng)域的應(yīng)用可以作出散點(diǎn)圖來(lái)描述通貨膨同人們?cè)敢庖载泿判问奖４娴氖杖氡壤g的關(guān)系，從而貨幣經(jīng)濟(jì)學(xué)家能夠?qū)Ω鞣N通貨膨脹率預(yù)測(cè)人們?cè)敢庖载泿判问奖４娴氖杖氡壤９镜匿N售部主任很想知道人們對(duì)公司產(chǎn)品的需求和廣告費(fèi)開(kāi)支的關(guān)系。農(nóng)業(yè)經(jīng)濟(jì)學(xué)家想研究作物收成對(duì)氣溫，降雨量，陽(yáng)光量和施肥量的依賴關(guān)系。11

回歸分析(regressionanalysis)是研究一個(gè)變量關(guān)于另一個(gè)（些）變量的具體依賴關(guān)系的計(jì)算方法和理論。

其用意：在于通過(guò)后者的已知或設(shè)定值，去估計(jì)和（或）預(yù)測(cè)前者的（總體）均值。這里：前一個(gè)變量被稱為被解釋變量（ExplainedVariable）或應(yīng)變量（DependentVariable），后一個(gè)（些）變量被稱為解釋變量（ExplanatoryVariable）或自變量（IndependentVariable）?；貧w分析的基本概念12§1.3統(tǒng)計(jì)關(guān)系與確定性關(guān)系在回歸分析中，我們考慮的是一種所謂統(tǒng)計(jì)依賴關(guān)系。在變量之間的統(tǒng)計(jì)關(guān)系式中，我們主要處理的是隨機(jī)變量，也就是有著概率分布的變量。無(wú)論我們考慮多少變量，都無(wú)法完全的解釋因變量。因?yàn)樗囊恍﹥?nèi)在的或隨機(jī)的變異是注定存在的。博伊爾的氣體定律，牛頓的引力定律，運(yùn)動(dòng)定律描述的是確定性現(xiàn)象，本書(shū)中不對(duì)此作研究。13§1.4回歸與因果關(guān)系雖然回歸分析研究一個(gè)變量對(duì)另一個(gè)變量的依賴關(guān)系，但它并不一定意味著因果關(guān)系。一個(gè)統(tǒng)計(jì)關(guān)系，不管多強(qiáng)也不管多么有啟發(fā)性，卻始終不能確立因果方面的聯(lián)系：對(duì)因果關(guān)系的理念，必須來(lái)自統(tǒng)計(jì)學(xué)以外，最終來(lái)自這種或那種理論。從邏輯上說(shuō)，統(tǒng)計(jì)關(guān)系是本身不可能意味著任何因果關(guān)系。要談因果律，必須訴諸先驗(yàn)的或理論上的思考。14§1.5回歸與相關(guān)與回歸分析密切相關(guān)而在概念上迥異的，是以測(cè)量?jī)蓚€(gè)變量之間的線性關(guān)聯(lián)度為主要目的的相關(guān)分析（correlationanalysis）相關(guān)系數(shù)（correlationcoefficient）是用來(lái)測(cè)量這種（線性）關(guān)聯(lián)強(qiáng)度的。在線性回歸中，我們并不主要對(duì)這種度量感興趣，感興趣的卻是試圖根據(jù)其他變量的設(shè)定值來(lái)估計(jì)或預(yù)測(cè)某一變量的平均值15回歸和相關(guān)的基本分歧在回歸分析中，對(duì)應(yīng)變量和解釋變量的處理方法存在著不對(duì)稱性。應(yīng)變量被當(dāng)作是統(tǒng)計(jì)的，隨機(jī)的，也就是它有一個(gè)概率分布。在相關(guān)分析中，我們對(duì)稱的對(duì)到任何變量，即應(yīng)變量和解釋變量之間不加區(qū)別。此外，兩個(gè)變量都被看作是隨機(jī)的。本書(shū)要闡述的回歸理論的大部分均以下述假定為條件：應(yīng)變量是隨機(jī)的，而解釋變量是固定的或非隨機(jī)的。16對(duì)變量間統(tǒng)計(jì)依賴關(guān)系的考察主要是通過(guò)相關(guān)分析(correlationanalysis)或回歸分析(regressionanalysis)來(lái)完成的：17

①不線性相關(guān)并不意味著不相關(guān)；

②有相關(guān)關(guān)系并不意味著一定有因果關(guān)系；③回歸分析/相關(guān)分析研究一個(gè)變量對(duì)另一個(gè)（些）變量的統(tǒng)計(jì)依賴關(guān)系，但它們并不意味著一定有因果關(guān)系。

④相關(guān)分析對(duì)稱地對(duì)待任何（兩個(gè)）變量，兩個(gè)變量都被看作是隨機(jī)的。回歸分析對(duì)變量的處理方法存在不對(duì)稱性，即區(qū)分應(yīng)變量（被解釋變量）和自變量（解釋變量）：前者是隨機(jī)變量，后者不是。▲注意：18建立計(jì)量經(jīng)濟(jì)學(xué)模型的步驟和要點(diǎn)

一、理論模型的設(shè)計(jì)

二、樣本數(shù)據(jù)的收集

三、模型參數(shù)的估計(jì)

四、模型的檢驗(yàn)

五、計(jì)量經(jīng)濟(jì)學(xué)模型成功的三要素19一、理論模型的建立⑴確定模型包含的變量根據(jù)經(jīng)濟(jì)學(xué)理論和經(jīng)濟(jì)行為分析。例如：同樣是生產(chǎn)方程，電力工業(yè)和紡織工業(yè)應(yīng)該選擇不同的變量，為什么？考慮數(shù)據(jù)的可得性。注意因素和變量之間的聯(lián)系與區(qū)別?？紤]入選變量之間的關(guān)系。

要求變量間互相獨(dú)立。20⑵確定模型的數(shù)學(xué)形式利用經(jīng)濟(jì)學(xué)和數(shù)理經(jīng)濟(jì)學(xué)的成果根據(jù)樣本數(shù)據(jù)作出的變量關(guān)系圖選擇可能的形式試模擬⑶擬定模型中待估計(jì)參數(shù)的理論期望值區(qū)間符號(hào)、大小、關(guān)系例如：ln(人均食品需求量)=α+βln(人均收入)+γln(食品價(jià)格)+δln(其它商品價(jià)格)+ε

其中α、β、γ、δ的符號(hào)、大小、關(guān)系21二、樣本數(shù)據(jù)的收集⑴幾類常用的樣本數(shù)據(jù)時(shí)間序列數(shù)據(jù)截面數(shù)據(jù)虛變量離散數(shù)據(jù)聯(lián)合應(yīng)用⑵數(shù)據(jù)質(zhì)量完整性準(zhǔn)確性可比性一致性問(wèn)題來(lái)源（1）非實(shí)驗(yàn)性質(zhì)（2）即使實(shí)驗(yàn)數(shù)據(jù)，誤差（3）選擇性偏誤（4）樣本（5）高度加總（6）保密22三、模型參數(shù)的估計(jì)

⑴各種模型參數(shù)估計(jì)方法⑵如何選擇模型參數(shù)估計(jì)方法⑶關(guān)于應(yīng)用軟件的使用課堂教學(xué)結(jié)合Eviews

23四、模型的檢驗(yàn)⑴經(jīng)濟(jì)意義檢驗(yàn)根據(jù)擬定的符號(hào)、大小、關(guān)系例如：ln(人均食品需求量)=－2.0－0.5ln(人均收入)－4.5ln(食品價(jià)格)+0.8ln(其它商品價(jià)格)24⑵統(tǒng)計(jì)檢驗(yàn)由數(shù)理統(tǒng)計(jì)理論決定包括擬合優(yōu)度檢驗(yàn)總體顯著性檢驗(yàn)變量顯著性檢驗(yàn)⑶計(jì)量經(jīng)濟(jì)學(xué)檢驗(yàn)由計(jì)量經(jīng)濟(jì)學(xué)理論決定包括異方差性檢驗(yàn)序列相關(guān)性檢驗(yàn)共線性檢驗(yàn)25⑷模型預(yù)測(cè)檢驗(yàn)由模型的應(yīng)用要求決定包括穩(wěn)定性檢驗(yàn)：擴(kuò)大樣本重新估計(jì)預(yù)測(cè)性能檢驗(yàn)：對(duì)樣本外一點(diǎn)進(jìn)行實(shí)際預(yù)測(cè)26計(jì)量經(jīng)濟(jì)學(xué)模型成功的三要素

理論數(shù)據(jù)方法27計(jì)量經(jīng)濟(jì)學(xué)模型的應(yīng)用

一、結(jié)構(gòu)分析二、經(jīng)濟(jì)預(yù)測(cè)三、政策評(píng)價(jià)四、理論檢驗(yàn)與發(fā)展28一、結(jié)構(gòu)分析經(jīng)濟(jì)學(xué)中的結(jié)構(gòu)分析是對(duì)經(jīng)濟(jì)現(xiàn)象中變量之間相互關(guān)系的研究。結(jié)構(gòu)分析所采用的主要方法是彈性分析、乘數(shù)分析與比較靜力分析。計(jì)量經(jīng)濟(jì)學(xué)模型的功能是揭示經(jīng)濟(jì)現(xiàn)象中變量之間的相互關(guān)系，即通過(guò)模型得到彈性、乘數(shù)等。應(yīng)用舉例29例1：如果說(shuō)我國(guó)人民的生活水平還沒(méi)有日本人民的生活水平高，這只是一種定性的描述。若用經(jīng)濟(jì)計(jì)量學(xué)方法進(jìn)行定量分析，將會(huì)使我們對(duì)此問(wèn)題理解的更深刻、更具體。30中國(guó)：Engel=0.60–0.0077t(1981-98)(1.1)(69.9)(-8.9)R2=0.83,DW=0.86,F=79.9日本：Engel=0.29–0.0043t(1981-95)(1.2)(24.0)(-12.1)R2=0.97,DW=1.2,F=37231(1)從恩格爾系數(shù)的下降速度看，中國(guó)是先慢后快；日本是先快后慢（1931年0.38）。(2)中國(guó)1956年的恩格爾系數(shù)與日本1946年的恩格爾系數(shù)近似相等。食品支出約占總支出的63%。40多年間，日本降了0.4，中國(guó)降了0.2。(3)從整體看，日本恩格爾系數(shù)的年下降速度是中國(guó)的2.3倍。從1980年以后考察，中國(guó)恩格爾系數(shù)的年下降速度是日本的1.8倍。(4)1995年日本的恩格爾系數(shù)是0.222，1998年中國(guó)的恩格爾系數(shù)是0.445。以1981-1998年的平均速度，中國(guó)若要把恩格爾系數(shù)降至0.222至少需要30年!(5)驗(yàn)證了經(jīng)濟(jì)理論。隨著收入的增加，恩格爾系數(shù)的下降速度要減慢。可見(jiàn)，通過(guò)定量分析，對(duì)這一問(wèn)題的了解要比只做定性分析清晰的多。32二、經(jīng)濟(jì)預(yù)測(cè)計(jì)量經(jīng)濟(jì)學(xué)模型作為一類經(jīng)濟(jì)數(shù)學(xué)模型，是從用于經(jīng)濟(jì)預(yù)測(cè)，特別是短期預(yù)測(cè)而發(fā)展起來(lái)的。計(jì)量經(jīng)濟(jì)學(xué)模型是以模擬歷史、從已經(jīng)發(fā)生的經(jīng)濟(jì)活動(dòng)中找出變化規(guī)律為主要技術(shù)手段。對(duì)于非穩(wěn)定發(fā)展的經(jīng)濟(jì)過(guò)程，對(duì)于缺乏規(guī)范行為理論的經(jīng)濟(jì)活動(dòng)，計(jì)量經(jīng)濟(jì)學(xué)模型預(yù)測(cè)功能失效。模型理論方法的發(fā)展以適應(yīng)預(yù)測(cè)的需要。

33三、政策評(píng)價(jià)政策評(píng)價(jià)的重要性。經(jīng)濟(jì)政策的不可試驗(yàn)性。計(jì)量經(jīng)濟(jì)學(xué)模型的“經(jīng)濟(jì)政策實(shí)驗(yàn)室”功能。34例2：圖1.2給出1952-1998年中國(guó)現(xiàn)金需求量（M0）和國(guó)內(nèi)生產(chǎn)總值（GDP）的散點(diǎn)圖。為充分展示改革開(kāi)放前后M0與GDP之間關(guān)系的變化，用1952-1985年數(shù)據(jù)畫(huà)散點(diǎn)圖見(jiàn)圖1.3。從圖中可以看到，改革開(kāi)放以后，M0與GDP關(guān)系的斜率比改革開(kāi)放以前大一倍多。用1952-1985年數(shù)據(jù)得到的現(xiàn)金需求量模型如下：圖1.2圖1.335

M0t=0.062GDPt+0.078GDPtD1(1952-1998)(1.3)