計量經濟學3 多元回歸模型hf

第三章經典單方程計量經濟學模型：多元線性回歸模型

TheClassicalSingleEquationEconometricModel:MultipleLinearRegressionModel1本章內容

§3.1多元線性回歸模型概述§3.2多元線性回歸模型的參數(shù)估計§3.3多元線性回歸模型的統(tǒng)計檢驗§3.4多元線性回歸模型的預測§3.5可化為線性的非線性模型§3.6受約束回歸2§3.1多元線性回歸模型概述

(RegressionAnalysis)一、多元線性回歸模型二、多元線性回歸模型的基本假設3一、多元線性回歸模型

4總體回歸函數(shù)：描述在給定解釋變量Xi條件下被解釋變量Yi的條件均值。j稱為偏回歸系數(shù)(partialregressioncoefficients)，表示在其他解釋變量保持不變的情況下，Xj每變化1個單位時，Y的均值E(Y)的變化?；蛘哒fj給出了Xj的單位變化對Y均值的“直接”或“凈”（不含其他變量）影響?？傮w回歸函數(shù)(PRF)5總體回歸模型(PRM)i=1,2…,n

總體回歸模型：是總體回歸函數(shù)的隨機表達形式說明：k為解釋變量的數(shù)目。但習慣上，把常數(shù)項看成為虛變量的系數(shù)，該虛變量的樣本觀測值始終取1。于是，模型中解釋變量的數(shù)目為（k+1）。

6總體回歸模型的矩陣表示7樣本回歸函數(shù)與樣本回歸模型從一次抽樣中獲得的總體回歸函數(shù)的近似，稱為樣本回歸函數(shù)（sampleregressionfunction）。樣本回歸函數(shù)的隨機形式，稱為樣本回歸模型（sampleregressionmodel）。

i=1,2…,ni=1,2…,n8樣本回歸函數(shù)與樣本回歸模型的矩陣表示9二、多元線性回歸模型的基本假設

對一元回歸模型基本假設

的回憶與擴展10假設1：模型設定假設正確性。Theregressionmodeliscorrectlyspecified.線性性。Theregressionmodelislinearintheparameters.11假設2：解釋變量X假設確定性。Xvaluesarefixedinrepeatedsampling.Moretechnically,Xisassumedtobenonstochastic.各解釋變量X之間不存在嚴格線性關系。Thereisnoperfectmulticollinearityamongtheexplanatoryvariables.對于n>k+1，rank(X)=k+112假設3：X樣本方差假設各解釋變量的樣本具有足夠的變異性；隨著樣本容量的無限增加，解釋變量X的樣本方差趨于一有限常數(shù)。13假設4：隨機擾動項假設0均值假設。Theconditionalmeanvalueofμiiszero.由模型設定正確假設推斷。

同方差假設。Homoscedasticity,theconditionalvariancesofμiareidentical.是否滿足需要檢驗。14假設5：X與隨機項μ不相關。ThecovariancesbetweenXiandμiarezero.由確定性假設可以推斷。15假設6：μ服從多維正態(tài)分布。Theμ’sfollowthenormaldistribution.16§3.2多元線性回歸模型的估計

一、普通最小二乘估計二、參數(shù)估計量的性質三、樣本容量問題四、例題

補充：變量相對重要性比較17說明估計方法：3大類方法：OLS、ML或者MM在經典模型中多應用OLS在非經典模型中多應用ML或者MMML和MM基本思路2章已介紹，本章略18一、普通最小二乘估計(OLS)19觀測值已知SRF形式

步驟：1、普通最小二乘估計及其矩陣表述殘差平方和20條件？

由散式到矩陣：21因為樣本回歸函數(shù)為兩邊乘有：因為，則正規(guī)方程為：2、正規(guī)方程組的另一種等價表達22233、隨機誤差項的方差2的無偏估計

記住結論即可，證明不作要求！M為等冪矩陣24tr()為矩陣的跡，滿足交換律Tr(AB)=tr(BA)25二、參數(shù)估計量的性質26說明在滿足基本假設的情況下，多元線性模型結構參數(shù)的普通最小二乘估計具有線性性、無偏性、有效性。同時，隨著樣本容量增加，參數(shù)估計量具有一致性。利用矩陣表達，可以很方便地證明。注意證明過程中利用的基本假設。理解其思路，記住結論即可。271、線性性利用假設:E(X’)=02、無偏性由估計量表達式直觀得到283、有效性（最小方差性）證明略29三、樣本容量問題301、最小樣本容量

所謂“最小樣本容量”，即從最小二乘原理和最大或然原理出發(fā)，欲得到參數(shù)估計量（不管其質量如何），所要求的樣本容量的下限。

樣本最小容量，必須不少于模型中解釋變量的數(shù)目（包括常數(shù)項）,即

n

k+1為什么？312、滿足基本要求的樣本容量

從統(tǒng)計檢驗的角度：

n30時，Z檢驗才能應用；

n-k8時,t分布較為穩(wěn)定。

一般經驗認為:當n30或者至少n3(k+1)時，才能說滿足模型估計的基本要求。

模型的良好性質，只有在大樣本下才能得到理論上的證明。32四、例題33教材例題：地區(qū)城鎮(zhèn)居民消費模型被解釋變量：地區(qū)城鎮(zhèn)居民人均消費Y解釋變量：地區(qū)城鎮(zhèn)居民人均可支配收入X1前一年地區(qū)城鎮(zhèn)居民人均消費X2樣本：2006年，31個地區(qū)34數(shù)據35變量間關系36OLS估計結果37補充例題：代數(shù)法計算方法3839補充：Beta系數(shù)、彈性系數(shù)

及偏相關系數(shù)

變量相對重要性比較40414243Back4445464748495051525354555657585960§3.3多元線性回歸模型的統(tǒng)計檢驗

StatisticalTestofMultipleLinearRegressionModel

一、擬合優(yōu)度檢驗二、方程的顯著性檢驗(F檢驗)

三、變量的顯著性檢驗(t檢驗)四、參數(shù)的置信區(qū)間

61一、擬合優(yōu)度檢驗

GoodnessofFit62

多元可決系數(shù)（MultipleCoefficientofDetermination）越接近于1，模型的擬合優(yōu)度越高。

從R2的表達式中發(fā)現(xiàn)，如果在模型中增加解釋變量，

R2往往增大。這就給人一個錯覺：要使得模型擬合得好，只要增加解釋變量即可。但是，由增加解釋變量引起的R2的增大與擬合好壞無關，所以R2需調整。63

調整的可決系數(shù)（adjustedcoefficientofdetermination）

其中：n-k-1為殘差平方和的自由度，n-1為總體平方和的自由度。理論上，其取值可以為負數(shù)；但實際很難遇到！調整思路：用自由度去校正所計算的變差，可糾正解釋變量個數(shù)不同引起的對比困難。（比較性價比?。?4

3、赤池信息準則和施瓦茨準則（略）為比較解釋變量個數(shù)不同的多元回歸模型的擬合優(yōu)度，常用標準還有（與調整可決系數(shù)思路相似）:

赤池信息準則（Akaikeinformationcriterion,AIC）施瓦茨準則（Schwarzcriterion，SC，BIC）

這兩準則均要求僅當所增加的解釋變量能夠減少AIC值或SC值時，才在原模型中增加該解釋變量。

65TheFdistributionforvariousd.f.二、方程的顯著性檢驗(F檢驗)

TestingtheOverallSignificanceofaMultipleRegression(theFtest)661、方程顯著性的F檢驗

方程的顯著性檢驗，旨在對模型中被解釋變量與解釋變量之間的線性關系在總體上是否顯著成立作出推斷。在多元模型中，即檢驗模型中的回歸系數(shù)j是否全部顯著不為0。67

F檢驗的思想來自于總離差平方和的分解

TSS=ESS+RSS

如果這個比值較大，則X的聯(lián)合體對Y的解釋程度高，可認為總體存在線性關系；反之，總體上可能不存在線性關系?？赏ㄟ^該比值的大小對總體線性關系進行推斷。68

在原假設H0成立的條件下，統(tǒng)計量

給定顯著性水平，可得到臨界值F(k,n-k-1)，由樣本求出統(tǒng)計量F的數(shù)值，通過

F

F(k,n-k-1)或FF(k,n-k-1)判斷是否拒絕原假設H0，以判定原方程總體上的線性關系是否顯著成立。

69

2、擬合優(yōu)度檢驗與F檢驗關系討論

70可見，F(xiàn)檢驗的原假設等同于H0：R2=0

通常，在5%的顯著性水平下，F(xiàn)統(tǒng)計量的臨界值所對應的R2的水平是較低的。F是傻瓜統(tǒng)計量！很難構造通不過F檢驗的模型不宜過分注重R2值，應注重模型的經濟意義；在進行總體顯著性檢驗時，顯著性水平應該控制在5%以內。一元線性回歸中，t檢驗與F檢驗是一致的7172三、變量的顯著性檢驗（t檢驗）

TestingtheSignificanceofVariables(thettest)73多元回歸模型中，方程的總體線性關系顯著，不等于每個解釋變量對被解釋變量的影響都是顯著的。必須對每個解釋變量進行顯著性檢驗，以決定是否作為解釋變量被保留在模型中。這一檢驗是由對變量的t檢驗完成的。741、t統(tǒng)計量

以cii表示矩陣(X’X)-1

主對角線上的第i個元素752、t檢驗

提出原假設與備擇假設：

H1：j0

給定顯著性水平，可得到臨界值t/2(n-k-1)，由樣本求出統(tǒng)計量t的數(shù)值，通過

|t|

t/2(n-k-1)或|t|t/2(n-k-1)判斷是否拒絕原假設H0，從而判定對應的解釋變量是否應包括在模型中。

H0：j=0

（j=1,2…k）

763、關于常數(shù)項的顯著性檢驗T檢驗同樣可以進行。一般不以t檢驗決定常數(shù)項是否保留在模型中，而是從經濟意義方面分析回歸線是否應該通過原點。77補充：二元模型中有關代數(shù)運算公式787980四、參數(shù)的置信區(qū)間

ConfidenceIntervalofParameter811、參數(shù)的置信區(qū)間在(1-)的置信水平下822、如何才能縮小置信區(qū)間？（再次討論）

增大樣本容量n，因為在同樣的樣本容量下，n越大，t分布表中的臨界值越?。煌瑫r，增大樣本容量，還可使樣本參數(shù)估計量的標準差減小。提高模型的擬合優(yōu)度（復相關系數(shù)），因為樣本參數(shù)估計量的方差與殘差平方和呈正比，模型擬合優(yōu)度越高，殘差平方和應越小。提高樣本觀測值的分散度（回憶X變異性假設）,一般情況下，樣本觀測值越分散，(X’X)-1的分母的|X’X|的值越大，cii越小，致使區(qū)間縮小。83§3.4多元線性回歸模型的預測

一、E(Y0)的置信區(qū)間

二、Y0的置信區(qū)間84一、E(Y0)的置信區(qū)間85于是，得到(1-)的置信水平下E(Y0)的置信區(qū)間：其中，t/2為(1-)的置信水平下的臨界值。86二、Y0的置信區(qū)間8788§3.5回歸模型的其他函數(shù)形式

一、模型的類型與變換

二、非線性回歸實例三、非線性最小二乘估計（略）89說明實際經濟活動中，經濟變量的關系是復雜的，直接表現(xiàn)為線性關系的情況并不多見。如著名的恩格爾曲線(Englecurves)表現(xiàn)為冪函數(shù)曲線形式、宏觀經濟學中的菲利普斯曲線（Pillipscuves）表現(xiàn)為雙曲線形式等。但是，大部分（變量或參數(shù)）非線性關系可以通過一些簡單的數(shù)學處理，化為（參數(shù)）線性關系，從而可以運用線性回歸模型的理論方法。不可化為（參數(shù)）線性關系的情形，不予討論。90一、模型的類型與變換

1、倒數(shù)模型、多項式模型與變量直接置換法

例如，描述稅收與稅率關系的拉弗曲線：拋物線

s=a+br+cr2c<0s：稅收；r：稅率設X1=r，X2=r2，則原方程變換為

s=a+bX1+cX2c<0

回憶：此前將線性定義為參數(shù)的線性；解釋變量的非線性，并不違背該假設。912、冪函數(shù)模型、指數(shù)函數(shù)模型與對數(shù)變換法

例如，Cobb-Dauglas生產函數(shù)：冪函數(shù)

Q=AKLeuQ：產出量，K：投入資本；L：投入勞動

方程兩邊取對數(shù)：

lnQ=lnA+lnK+lnL+u思考，為何如下生產函數(shù)無法線性化？

Q=AKL+u923、復雜函數(shù)模型與級數(shù)展開法

方程兩邊取對數(shù)后，得到：

(1+2=1)Q:產出量，K：資本投入，L：勞動投入：替代參數(shù)，1、2：分配參數(shù)例如，常替代彈性CES生產函數(shù)

將式中l(wèi)n(1K-+2L-)在=0處展開Taylor級數(shù),取關于的線性項，即得到一個線性近似式。

如取0階、1階、2階項，可得

93二、可化為線性的非線性回歸實例

例3.5.1

建立中國城鎮(zhèn)居民食品消費需求函數(shù)模型。

根據需求理論，居民對食品的消費需求函數(shù)為

Q:居民對食品的需求量，X：消費者的消費支出總額P1：食品價格指數(shù)，P0：居民消費價格總指數(shù)。

零階齊次性，當所有商品和消費者貨幣支出總額按同一比例變動時，需求量保持不變

(*)(**)為了進行比較，將同時估計（*）式與（**）式。

94

根據恩格爾定律，居民對食品的消費支出與居民的總支出間呈冪函數(shù)的變化關系:

首先,確定具體的函數(shù)形式對數(shù)變換:

考慮到零階齊次性時(***)(****)(****)式也可看成是對（***）式施加如下約束而得因此，對（****）式進行回歸，就意味著原需求函數(shù)滿足零階齊次性條件。95X：人均消費X1：人均食品消費GP：居民消費價格指數(shù)FP：居民食品消費價格指數(shù)Q：人均食品消費（90年價）P0：居民消費價格縮減指數(shù)（1990=100）P1：居民食品消費價格縮減指數(shù)（1990=100）96按（***）式估計具體解釋估計結果及其經濟含義。97按（****）式估計具體解釋估計結果及其經濟含義。98§3.6受約束回歸

RestrictedRegression

一、模型參數(shù)的線性約束二、對回歸模型增加或減少解釋變量三、參數(shù)的穩(wěn)定性

四、非線性約束99說明在建立回歸模型時，有時根據經濟理論需要對模型中的參數(shù)施加一定的約束條件。例如：需求函數(shù)的0階齊次性條件生產函數(shù)的1階齊次性條件模型施加約束條件后進行回歸，稱為受約束回歸（restrictedregression）;未加任何約束的回歸稱為無約束回歸（unrestrictedregression）。100一、模型參數(shù)的線性約束1011、參數(shù)的線性約束1022、參數(shù)線性約束檢驗對所考查的具體問題能否施加約束？需進一步進行相應的檢驗。常用的檢驗有：F檢驗、2檢驗與t檢驗。F檢驗構造統(tǒng)計量；檢驗施加約束后模型的解釋能力是否發(fā)生顯著變化。103

受約束樣本回歸模型的殘差平方和RSSR大于無約束樣本回歸模型的殘差平方和RSSU。

這意味著，通常情況下，對模型施加約束條件會降低模型的解釋能力。104如果約束條件為真，則受約束回歸模型與無約束回歸模型具有相同的解釋能力，RSSR

與RSSU的差異較小?？捎茫≧SSR

－RSSU）的大小來檢驗約束的真實性。105

例3.6.1

中國城鎮(zhèn)居民對食品的人均消費需求實例中，對零階齊次性檢驗：取=5%，查得臨界值F0.05(1,18)=4.41

結論：不能拒絕中國城鎮(zhèn)居民對食品的人均消費需求函數(shù)具有零階齊次特性這一假設。

無約束回歸:RSSU=0.017748，kU=3

受約束回歸:RSSR=0.017787，KR=2

樣本容量n=22，約束條件個數(shù)kU-kR=3-2=1106二、對回歸模型增加或減少解釋變量107前者可以被看成是后者的受約束回歸，通過約束檢驗決定是否增加變量。H0：108三、參數(shù)的穩(wěn)定性（略）

鄒檢驗（ChowTest）

109鄒至莊（1929－），GregoryC.Chow，知名美籍華人經濟學家，美國普林斯頓大學政治經濟學教授和經濟學名譽教授1970年研究計量經濟學與動態(tài)經濟學，曾發(fā)表計量經濟的鄒檢驗（ChowTest）。1980年以后，開始研究中國經濟。曾參與臺灣經濟發(fā)展，擔任臺灣政府經濟顧問；推廣中國經濟學教育，并參與中國經濟改革，擔任中國經濟顧問。1101、鄒氏參數(shù)穩(wěn)定性檢驗為了檢驗模型在兩個連續(xù)的時間序列（1,2,…，n1）與（n1+1,…，n1+n2）中是否穩(wěn)定，可以將它轉變?yōu)樵诤喜r間序列(1,2,…，n1

，n1+1,…，n1+n2)中模型的約束檢驗問題。（1,2,…，n1）（n1+1,…，n1+n2）111

合并兩個時間序列為(1,2,…，n1

，n1+1,…，n1+n2)，則可寫出如下無約束回歸模型

如果=，表示沒有發(fā)生結構變化，因此可針對如下假設進行檢驗：H0:=施加上述約束后變換為受約束回歸模型：112檢驗的F統(tǒng)計量為：113參數(shù)穩(wěn)定性的檢驗步驟：分別以兩連續(xù)時間序列作為兩個樣本進行回歸，得到相應的殘差平方：RSS1與RSS2將兩序列并為一個大樣本后進行回歸，得到大樣本下的殘差平方和RSSR計算F統(tǒng)計量的值，與臨界值比較。若F值大于臨界值，則拒絕原假設，認為發(fā)生了結構變化，參數(shù)是非穩(wěn)定的。該檢驗稱為鄒氏參數(shù)穩(wěn)定性檢驗（Chowtestforparameterstabi