計量經(jīng)濟(jì)學(xué)第3章-多元線性回歸模型

第三章多元線性回歸模型第一節(jié)二元線性回歸模型第二節(jié)一般線性回歸模型第三節(jié)非線性模型回歸第四節(jié)偏相關(guān)第五節(jié)方差分析第六節(jié)幾種常用的F檢驗第六節(jié)虛擬變量模型第七節(jié)案例分析1本課件的所有權(quán)屬于熊義杰3.1.1正規(guī)方程及回歸參數(shù)假定模型為同時假定不存在多重共線性（或不完全共線），即自變量雖互相影響，但相關(guān)系數(shù)不等于1樣本方程為要使最小其中需使§3.1二元線性回歸模型2整理后得到：由方程1得：（3－2）3本課件的所有權(quán)屬于熊義杰證明（3－4）應(yīng)有這也就是離差正規(guī)方程4根據(jù)離差正規(guī)方程應(yīng)有（3－5）5本課件的所有權(quán)屬于熊義杰

3.1.2多重可決系數(shù)

在二元模型中，可決系數(shù)表示由回歸平面解釋的Y的總變差的百分比，如圖3－1所示。

定義

因為：

(兩項均為0)（參3－4）6本課件的所有權(quán)屬于熊義杰3.1.3的均值與方差

均值

方差7本課件的所有權(quán)屬于熊義杰的方差證明（參3－5）8本課件的所有權(quán)屬于熊義杰（參3－5）9本課件的所有權(quán)屬于熊義杰3.2.1正規(guī)方程的推廣

總體方程

樣本方程

根據(jù)

應(yīng)有

同時依據(jù)

即可得到觀測值正規(guī)方程和離差正規(guī)方程分別為：3.2一般線性回歸模型注意：必須成立k<(n-1)10本課件的所有權(quán)屬于熊義杰觀測值正規(guī)方程：離差正規(guī)方程：11本課件的所有權(quán)屬于熊義杰3.2.2可決系數(shù)的推廣12本課件的所有權(quán)屬于熊義杰調(diào)整的可決系數(shù)：證明其中：n－樣本容量

k－解釋變量數(shù)目13本課件的所有權(quán)屬于熊義杰

其中，

是離差正規(guī)方程中系數(shù)矩陣主對角線上第j個元素的子行列式。如二元模型中3.2.3回歸參數(shù)方差公式的推廣在一元中在二元中在多元中14本課件的所有權(quán)屬于熊義杰3.3.1具有常彈性的曲線函數(shù)三方面的優(yōu)越特性：（1）當(dāng)其中任何一個自變量為0時，依變量就為0，因而常用來研究必要生產(chǎn)因素與產(chǎn)出的關(guān)系。（2）分別表示了產(chǎn)出變化對相應(yīng)投入的彈性（系數(shù)）彈性=邊際值/平均值

3.3非線性模型回歸15本課件的所有權(quán)屬于熊義杰（3）反映產(chǎn)出變化的規(guī)模報酬當(dāng)時，Y為遞增規(guī)模報酬當(dāng)時，Y為不變規(guī)模報酬當(dāng)時，Y為遞減規(guī)模報酬16本課件的所有權(quán)屬于熊義杰其中

e為自然對數(shù)的底（e=2.718）參數(shù)估計令對此二元線性模型應(yīng)用最小平方方法即可17本課件的所有權(quán)屬于熊義杰在拋物線中,當(dāng)時,有當(dāng)K=3時，3.3.2拋物線型及其它k階多項式(假定X為必要生產(chǎn)因素)

在現(xiàn)實的經(jīng)濟(jì)生活中，拋物線型的經(jīng)濟(jì)關(guān)系很多，如變動資源的投入與產(chǎn)出的關(guān)系，“浴盆定律”等等。假定：18本課件的所有權(quán)屬于熊義杰在估計參數(shù)時，對于k階多項式：在一般情況下，具體可參考下頁的附圖。19本課件的所有權(quán)屬于熊義杰生產(chǎn)函數(shù)三階段示意圖20本課件的所有權(quán)屬于熊義杰3.3.3指數(shù)曲線及變種函數(shù)在這里，B可看作Y的發(fā)展速度，不難看出Yt/Yt-1=B。即B＝（ABt）/(ABt-1)而b可近似地看作是Y的增長速度（因為b＝lnB）。指數(shù)曲線常用來描述生長情況。估計參數(shù)時兩端同時取對數(shù)即可。兩端取對數(shù)后即：即：y＝a＋bt21本課件的所有權(quán)屬于熊義杰指數(shù)曲線的變種函數(shù)除了用來反映某些經(jīng)濟(jì)變量的變化趨勢外，也還可用來考察商品的壽命周期，一般可以將考察的對象分為：引入期（或成長期）、成熟期、衰退期和消亡期。指數(shù)曲線的變種函數(shù)即其曲線圖分兩種形式22本課件的所有權(quán)屬于熊義杰參數(shù)估計可采用分組累加法根據(jù)應(yīng)有于是同時可得到23本課件的所有權(quán)屬于熊義杰3.4偏相關(guān)

3.4.1偏相關(guān)及相關(guān)系數(shù)矩陣

偏相關(guān)分析，就是在控制或消除其他變量影響的條件下，分析多個變量中某兩個變量的相關(guān)程度，這種相關(guān)程度一般用偏相關(guān)系數(shù)表示。偏相關(guān)系數(shù)的計算常常要用到相關(guān)系數(shù)矩陣。三個變量的相關(guān)系數(shù)矩陣即：其特點(diǎn)是：(1)是一個主對角線均為1的對稱矩陣(2)行列式的值域為，為0時所有的變量均為函數(shù)關(guān)系，為1時所有的變量互相獨(dú)立。24本課件的所有權(quán)屬于熊義杰3.4.2偏向關(guān)系數(shù)的定義對于二元模型一般地有式中，Rij表示相關(guān)系數(shù)矩陣中相應(yīng)元素的代數(shù)余子式；i,j均為相應(yīng)標(biāo)號，s是所有標(biāo)號中不包括i、j的集合。25本課件的所有權(quán)屬于熊義杰

3.4.3偏相關(guān)系數(shù)的證明(以r01.2為例)假定真實的關(guān)系為:同時假定于是,根據(jù)26本課件的所有權(quán)屬于熊義杰再根據(jù)：可得到：連同上述y*和x1*一起代入r01.2的表達(dá)式，得到：在上式中根據(jù)簡單相關(guān)系數(shù)與回歸系數(shù)的關(guān)系，代如：即不難得到最后的結(jié)果。273.5.1單因素方差分析引例1：有一種汽油，采用不同的配比（辛烷值含量）進(jìn)行燃燒值試驗。假定有三種不同的配比，分別進(jìn)行了5次實驗，實驗結(jié)果如下：問三種配比究竟有沒有明顯的條件差異?3.5方差分析28本課件的所有權(quán)屬于熊義杰其中：亦即：TSS＝ESS＋RSS第一步：把Y的總變差分為兩部分：29在引例1中：檢驗的原假設(shè)和被擇假設(shè)分別為:H0:無條件差異;H1:有條件差異∵F>Fα(V1，,V2)∴應(yīng)接受H1Excel求解演示303.5.2

雙因素方差分析引例2：汽油的燃燒值與辛烷值和含硫量有關(guān)。假定選擇的兩因素的水平為：將兩種不同水平交叉分組，然后進(jìn)行試驗，得出結(jié)果為：31本課件的所有權(quán)屬于熊義杰第一步：先對Y的總變進(jìn)行分解：

平方后加總即：TSS=ASS+BSS+ESS其中：自由度為：k－1自由度為：n－1自由度為：

(k－1)(n－1)自由度為：nk－132本課件的所有權(quán)屬于熊義杰在本例中誤差絕對值表：33本課件的所有權(quán)屬于熊義杰Excel求解演示第二步，分別計算F比：34本課件的所有權(quán)屬于熊義杰3.5.3方差分析與回歸分析的比較例：以單因素方差分析為例Excel求解演示

[-77.5，39.2][1.045，1.555]在方差分析中：467.7=426.5+41.235本課件的所有權(quán)屬于熊義杰

結(jié)論（1）：在回歸分析中，回歸平方和就相當(dāng)于方差分析的條件變差，誤差平方和就相當(dāng)于方差分析中的試驗誤差。因此，對回歸分析也可進(jìn)行F-檢驗。在多元線性回歸分析中，F(xiàn)檢驗多用于檢驗?zāi)Ｐ偷目傦@著性水平，或可決系數(shù)的可靠性。36本課件的所有權(quán)屬于熊義杰

結(jié)論（2）：在一元線性回歸中，假設(shè)檢驗中的F-檢驗等價于t-檢驗。證（1）37本課件的所有權(quán)屬于熊義杰證（2）所以，在一元模型中，對于回歸系數(shù)或相關(guān)系數(shù)的t-檢驗與F-檢驗通常只進(jìn)行其中之一就可以了。

[補(bǔ)充]關(guān)于多元模型(以二元模型為例)的表達(dá):F=____()()()()[][][]____38本課件的所有權(quán)屬于熊義杰3.6幾種常用的F檢驗3.6.1由于增添新解釋變量而使擬合改進(jìn)的檢驗第一步：假定完整模型為：先對其中m個變量回歸，得到：分別用表示總變差中被解釋的部分和未被解釋部分。39本課件的所有權(quán)屬于熊義杰第二步：在m個變量回歸的基礎(chǔ)上，引進(jìn)其余的k-m個變量進(jìn)行回歸。同時得到相應(yīng)的第三步：計算合適的F比，并進(jìn)行假設(shè)檢驗在Eviews1.0中，這種增加解釋變量是否使擬合得到改進(jìn)的檢驗可以通過鍵入命令A(yù)dd進(jìn)行。40本課件的所有權(quán)屬于熊義杰3.6.2對由不同樣本求得的系數(shù)差異性的檢驗（Chow檢驗）第一步：合并兩個樣本，構(gòu)成一個有個觀測值的新樣本，對新樣本回歸得，(p代表合并)，自由度為第二步：分別對每個樣本回歸，得到各自的自由度為，記回歸系數(shù)分別為41本課件的所有權(quán)屬于熊義杰第三步：計算，其自由度為（k+1）；根據(jù)散點(diǎn)圖知，大樣本的誤差平方和必大于小樣本的誤差平方和，所以，除非兩個小羊本的分布趨勢完全一致（這時，合并樣本的誤差與兩個小樣本的誤差之和相等），否則，絕對不會出現(xiàn)兩個樣本的誤差之和大于合并樣本誤差的情況。因為，劃小了樣本只能使得估計的回歸直線與觀測值更貼近，估計的誤差會變得更小。這實際也正是這種檢驗得以進(jìn)行的基本原理。第四步：求F比：42本課件的所有權(quán)屬于熊義杰3.6.3當(dāng)樣本容量增大時，回歸系數(shù)穩(wěn)定性的檢驗當(dāng)增加樣本點(diǎn)大于k個時，應(yīng)用Chow檢驗。當(dāng)增加樣本點(diǎn)小于或等于k個時，按以下步驟：第一步：由容量為n1的原樣本進(jìn)行回歸，得到，自由度為，記回歸系數(shù)為第二步：由擴(kuò)大的樣本回歸，得到，自由度為，記回歸系數(shù)為43本課件的所有權(quán)屬于熊義杰第三步：計算，其自由度為第四步：求F比H0：H1：44本課件的所有權(quán)屬于熊義杰3.6.4對模型中參數(shù)所加約束的檢驗給模型中施加一些約束，可明顯地減少需要估計的參數(shù)數(shù)目。以道格拉斯生產(chǎn)函數(shù)為例：取對數(shù)后得到:這時：即45本課件的所有權(quán)屬于熊義杰顯然，施加約束以后都明顯地減少了需要估計的參數(shù)數(shù)目。然而所加約束是否真實則必須進(jìn)行檢驗。再比如：如果已知：則：46本課件的所有權(quán)屬于熊義杰第一步：對原來未加約束的關(guān)系式估計參數(shù)，得到，其自由度是第二步：對約束關(guān)系式估計參數(shù)，得到，其自由度為第三步：計算,其自由度為c第四步：計算F比，在Eviews1.0中，這種檢驗可通過鍵入Wald命令進(jìn)行（常參數(shù)規(guī)定為C1）。47本課件的所有權(quán)屬于熊義杰3.7虛擬變量模型3.7.1虛擬變量及其作用虛擬變量跟實在變量相對應(yīng)，主要用來描述質(zhì)量屬性，所以也叫質(zhì)量屬性變量或一位二進(jìn)制變量。虛擬變量在實際應(yīng)用中的例子很多，比如：

虛擬變量的主要作用包括：1分離異常因素影響；如分析新中國建國后的經(jīng)濟(jì)發(fā)展，可設(shè)：2反映不同的屬性類型對因變量的影響，如上述兩類變量。3提高模型精度引入虛擬變量就相當(dāng)于將一個被解釋變量分若干種情況來考慮，因而也就相當(dāng)于對某一個變量按不同屬性分層抽樣，因而方差會大大減?。ㄟ@是因為，在x～N（μ，σ2）的條件下，）。483.7.2虛擬變量的引入(1)加法方式設(shè)某地區(qū)的居民消費(fèi)Y與收入X間的關(guān)系為：其中：這實際上相當(dāng)于兩個函數(shù)：前者D＝1，后者D＝0。從圖中不難看出，加法方式引入的虛擬變量通過調(diào)整截距區(qū)分異常情況。49本課件的所有權(quán)屬于熊義杰比如，如果在在§2.8的案例中，采用加法方式引入虛擬變量，則可得到：

顯然，模型的精度提高了許多（其中，1、4、5、8號變量取零，其余取1）。原對照模型是：50其中：XY的含義與上述相同。運(yùn)用OLS方法估計后得到：這同樣也可以看作兩個函數(shù)：前者D＝1，后者D＝0。從圖中不難看出，乘方方式引入的虛擬變量通過調(diào)整斜率來反映異常情況。(2)乘法方式：51本課件的所有權(quán)屬于熊義杰

對上述案例采用乘法方式引入虛擬變量得到的結(jié)果是：原對照模型為：52本課件的所有權(quán)屬于熊義杰該模型回歸后可分解為：前者D=1，后者D＝0。顯然，這種方式加入的虛擬變量是截距和斜率一起調(diào)整的。53本課件的所有權(quán)屬于熊義杰注意！防止跌入“虛擬變量陷阱”。因為，一旦違反虛擬變量設(shè)置的原則，把虛擬變量設(shè)成了m個，就導(dǎo)致了模型的不唯一性。3.7.3虛擬變量設(shè)置的原則如果有m種互斥的屬性類型，則引入模型的虛擬變量數(shù)應(yīng)為m-1個。比如54§3.8案例分析下表是我國1984一1991年三種宏觀數(shù)據(jù)的統(tǒng)計數(shù)據(jù)(引自《中國統(tǒng)計年鑒1992》)，試估計社會商品零售總額的二元回歸模型。查看研究論文55本課件的所有權(quán)屬于熊義杰應(yīng)用Eviews10進(jìn)行經(jīng)濟(jì)計量分析的步驟：

EViews10通常需要先安裝，然后使用。其步驟是：（1）建立工作文件（使用菜單命令File/New，或用create命令，同時確定樣本容量或數(shù)據(jù)起止點(diǎn)）；（2）輸入數(shù)據(jù)（使用Data命令，注意帶上變量參數(shù)。也可以由Excel中復(fù)制粘貼數(shù)據(jù)）；（3）進(jìn)行回歸分析（使用Ls命令，一般格式為：lsy（被解釋變量）c（常參數(shù)）＋解釋變量。運(yùn)用Eviews的顯著有點(diǎn)是：生成新序列（運(yùn)用Genr命令）、引入之后變量（用變量名x（－1）即可）都很方便。而且，由于EViews為經(jīng)濟(jì)計量學(xué)的專用軟件，因而其輸出信息比Excel更豐富。關(guān)于Eviews的常用命令參教材97頁。56本課件的所有權(quán)屬于熊義杰先作出社會商品零售總額對于每一解釋變量的散點(diǎn)圖：57本課件的所有權(quán)屬于熊義杰EView10的輸出結(jié)果（1）LS//DependentVariableisYSample:19841991Includedobservations:8VariableCoefficientStd.ErrorT-Statistic Prob.C 544.4771 1399.072 0.389170 0.7132X1 1.794231 0.733709 2.445424 0.0583X2 11.59356 11.94230 0.970798 0.3762R-squared 0.981594Meandependentvar6462.750AdjustedR-squared 0.974231S.D.dependentvar2157.581S.E.ofregression 346.3474Akaikeinfocriterion 11.97488Sumsquaredresid 599782.7Schwartzcriterion 12.00467Loglikelihood -56.25103 F-statistic 133.3246Durbin-Watsonstat 0.805191

Prob(F-statistic) 0.00004658本課件的所有權(quán)屬于熊義杰EView10的輸出結(jié)果（2）LS//DependentVariableisYDate:04/05/03Includedobservations:8VariableCoefficient Std.ErrorT-Statistic Prob.C -18223.46 10561.71 -1.725427 0.1450X1 1.384292 0.595185 2.325818 0.0676X3 4104.694 2156.967 1.902993 0.1154R-squared 0.987313Meandependentvar 6462.750AdjustedR-squared0.982239S.D.dependentvar 2157.581S.E.ofregression287.545Akaikeinfocriterion 11.60276Sumsquaredresid413411.4Schwartzcriterion 11.63255Loglikelihood -54.76254 F-statistic 194.5561Durbin-Watsonstat1.02942Prob(F-statistic) 0.00001859EView10的輸出結(jié)果（3）LS//DependentVariableisXSample:19851991Includedobservations:7VariableCoefficientStd.Error T-Statistic Prob.C 2990.703 842.7764 3.548631 0.0238Y 2.799708 0.487246 5.745983 0.0045Z(-1) -7.741557 7.957735 -0.972834 0.3857R-squared 0.985720 Meandependentvar 6903.714AdjustedR-squared 0.978580 S.D.dependentvar 1901.619S.E.ofregression 278.3098 Akaikeinfocriterion 11.55500Sumsquaredresid 309825.3 Schwartzcriterion 11.53182Loglikelihood -47.37506 F-statistic 138.0591Durbin-Watsonstat 1.519159

Prob(F-statistic) 0.00020460本課件的所有權(quán)屬于熊義杰EView10的輸出結(jié)果（4）LS//DependentVariableisXSample:19861991Includedobservations:6Variable Coefficient Std.Error T-Statistic Prob.C 3664.560 515.6031 7.107327 0.0057Y 3.019564 0.320000 9.436130 0.0025Z(-2) -13.95224 5.423149 -2.572720 0.0823R-squared 0.993496 Meandependentvar7336.833AdjustedR-squared 0.989161 S.D.dependentvar 1662.412S.E.ofregression 173.0782 Akaikeinfocriterion10.61434Sumsquaredresid 89868.21 Schwartzcriterion 10.51022Loglikelihood -37.35665 F-statistic 229.1388Durbin-Watsonstat 3.270882

Prob(F-statistic) 0.00052461本課件的所有權(quán)屬于熊義杰EView10的輸出結(jié)果（5）LS//DependentVariableisXSample:28Includedobservations:7Variable Coefficient Std.Error T-Statistic Prob.C 1586.415 813.5123 1.950081 0.1463Y 2.114253 0.434317 4.867991 0.0166Z 17.04250 7.069770 2.410615 0.0950Z(-1) -13.40505 5.853874 -2.289945 0.1060R-squared 0.995138 Meandependentvar 6903.714AdjustedR-squared 0.990276 S.D.dependentvar 1901.619S.E.ofregression 187.5185 Akaikeinfocriterion10.76331Sumsquaredresid 105489.6 Schwartzcriterion 10.73241Loglikelihood -43.60417 F-statistic 204.6784Durbin-Watsonstat 1.707478 Prob(F-statistic) 0.00057562本課件的所有權(quán)屬于熊義杰本章應(yīng)完成作業(yè)二版書第110頁第5、第6