第2講普通最小二乘法市公開(kāi)課一等獎(jiǎng)省賽課微課金獎(jiǎng)?wù)n件

計(jì)量經(jīng)濟(jì)學(xué)Econometrics第1頁(yè)第二講普通最小二乘法（教材第2章、第3章）第2頁(yè)主要內(nèi)容一元回歸模型最小二乘（OLS）預(yù)計(jì)多元回歸模型最小二乘（OLS）預(yù)計(jì)回歸方程擬合：決定系數(shù)第3頁(yè)引言回歸分析中主要目標(biāo)是依據(jù)樣本回歸函數(shù)（SRF）來(lái)預(yù)計(jì)總體回歸函數(shù)（PRF），不過(guò)，因?yàn)槌闃硬▌?dòng)，依據(jù)SRF預(yù)計(jì)出來(lái)PRF充其量只是真實(shí)PRF一個(gè)近似結(jié)果。能否設(shè)計(jì)一個(gè)規(guī)則或預(yù)計(jì)方法，使得這種近似結(jié)果誤差盡可能小？本講將介紹一個(gè)最簡(jiǎn)單預(yù)計(jì)方法——普通最小二乘法（OrdinaryLeastSquare，OLS）第4頁(yè)一元回歸模型OLS預(yù)計(jì)PRF：是不可直接觀察，

要經(jīng)過(guò)SRF：去預(yù)計(jì)。殘差：

是實(shí)際值與其預(yù)計(jì)值之差。第5頁(yè)普通最小二乘法（1）采取“殘差和最小”確定直線位置？（2）采取“殘差絕對(duì)值和最小”確定直線位置？（3）最小二乘法標(biāo)準(zhǔn)是以“殘差平方和最小”確定直線位置。

et第6頁(yè)一元回歸模型預(yù)計(jì)問(wèn)題最小二乘法采取殘差平方和最小準(zhǔn)則：其中，，怎樣得到？第7頁(yè)最小二乘預(yù)計(jì)量數(shù)學(xué)推導(dǎo)：正規(guī)方程第8頁(yè)OLS預(yù)計(jì)量性質(zhì)依據(jù)最小化殘差平方和算出來(lái)參數(shù)預(yù)計(jì)量叫做普通最小二乘（OLS）預(yù)計(jì)量。樣本回歸線經(jīng)過(guò)Y和X樣本均值殘差之和為0OLS是“最優(yōu)”預(yù)計(jì)方法第9頁(yè)一個(gè)例子：Eviews演示收入－消費(fèi)問(wèn)題（data_2.1）：Y是消費(fèi)，X是收入?；貧w方程：第10頁(yè)第11頁(yè)需要填入變量第12頁(yè)回歸結(jié)果第13頁(yè)回歸曲線圖第14頁(yè)思索題影響一個(gè)家庭消費(fèi)決議僅僅是收入原因嗎？除了身高，你認(rèn)為還有哪些原因會(huì)影響一個(gè)人體重？……第15頁(yè)多元回歸模型OLS預(yù)計(jì)最簡(jiǎn)單多元線性回歸是三變量模型三變量模型，即含有一個(gè)因變量和兩個(gè)解釋變量，其總體回歸函數(shù)PRF為：表示什么意思？第16頁(yè)多元線性回歸基本概念多個(gè)自變量回歸模型假定多元線性回歸模型那么對(duì)被解釋變量Y與解釋變量X2，X3，…，Xk作了n次觀察后，將所得n組樣本代入上式有第17頁(yè)多元線性回歸基本概念以矩陣形式表示，有n×k第18頁(yè)普通最小二乘預(yù)計(jì)多元線性回歸模型假定1：

為何有這個(gè)假定？

（未知）第19頁(yè)普通最小二乘預(yù)計(jì)普通最小二乘預(yù)計(jì)法（OLS）1、原理：殘差平方和最小

乘出來(lái)是什么？怎樣預(yù)計(jì)？

第20頁(yè)若矩陣逆存在，則上述方程有解假定2：數(shù)據(jù)矩陣X列滿秩，即矩陣逆存在。

列滿秩隱含意思是各個(gè)自變量之間相互獨(dú)立。

對(duì)β求導(dǎo)并令其等于0可得

k×k滿足什么條件，這個(gè)方程才有解？

滿足什么條件，才可逆？

列滿秩經(jīng)濟(jì)含義是什么？

第21頁(yè)思索題

最小二乘預(yù)計(jì)量是隨機(jī)變量嗎？為何？判斷一個(gè)預(yù)計(jì)量好壞標(biāo)準(zhǔn)是什么？第22頁(yè)普通最小二乘預(yù)計(jì)普通最小二乘預(yù)計(jì)法（OLS）2、預(yù)計(jì)方法優(yōu)劣評(píng)判無(wú)偏性第23頁(yè)預(yù)計(jì)值均值為若無(wú)偏，則有

假定3：

因在假定1之下有

假定3是什么意思？

第24頁(yè)若有

則有

有效性假定4：

能夠證實(shí)這就是最小方差。

高斯—馬爾可夫定理：若前述假定條件成立，OLS預(yù)計(jì)量是最正確線性無(wú)偏預(yù)計(jì)量（BLUE）。

假定4是什么意思？

第25頁(yè)一致性：在有限樣本情形中，經(jīng)典回歸模型假定數(shù)據(jù)X是固定變量，不然最小二乘預(yù)計(jì)量可能是有偏。但在大樣本情況下，即便X是隨機(jī)，只要X滿足一些條件，最小二乘預(yù)計(jì)量將依概率收斂于真實(shí)值。1.X每一列xk不退化。2.伴隨樣本量增加，個(gè)體觀察值變得不主要。3.X列滿秩。第26頁(yè)經(jīng)典模型基本假設(shè)經(jīng)典回歸模型基本假設(shè)：假定1：

假定2：數(shù)據(jù)矩陣X列滿秩，即矩陣逆存在。

假定3：

假定4：

第27頁(yè)普通最小二乘預(yù)計(jì)普通最小二乘預(yù)計(jì)法（OLS）3．最小二乘預(yù)計(jì)系數(shù)特征

若一個(gè)多元回歸中變量是無(wú)關(guān)，則多元回歸斜率與在多個(gè)簡(jiǎn)單回歸中斜率相同?；貧w超平面經(jīng)過(guò)數(shù)據(jù)均值點(diǎn)，回歸擬合值均值等于實(shí)際值均值。

第28頁(yè)M：用它乘以任一向量y，都將產(chǎn)生y對(duì)x回歸殘差向量。

注意兩個(gè)特殊矩陣M和P

P（射影矩陣，投影矩陣）：用它乘以任一向量y，都將產(chǎn)生y對(duì)x回歸最小二乘擬合值。

令擬合值，則有第29頁(yè)偏回歸系數(shù)其中

，。

解釋：是X2對(duì)X1進(jìn)行回歸后殘差變量，是y對(duì)X1進(jìn)行回歸后殘差變量。這個(gè)過(guò)程排除了或篩掉了影響，所以叫偏回歸系數(shù)。

偏回歸系數(shù)解釋：當(dāng)其它變量相同（保持其它變量不變）時(shí)，特定變量對(duì)解釋變量邊際影響（貢獻(xiàn)）。

多元回歸方程妙用：加什么，去什么。第30頁(yè)思索題一個(gè)超市老總準(zhǔn)備依據(jù)銷售經(jīng)理能力來(lái)確定其工資水平？他能實(shí)現(xiàn)嗎？假如某經(jīng)理在春節(jié)期間賣出了大量商品，他能力真很強(qiáng)嗎？怎樣才能處理超市老總困擾呢？第31頁(yè)一個(gè)例子：美國(guó)國(guó)防預(yù)算支出（data_2.2）為了說(shuō)明美國(guó)經(jīng)濟(jì)實(shí)力對(duì)其國(guó)防預(yù)算影響，現(xiàn)考慮以下模型:其中Yt＝年度t國(guó)防預(yù)算支出，10億美元計(jì)X2t=年度tGNP，10億美元計(jì)X3t=年度t軍事銷售，10億美元計(jì)X4t=年度t太空工業(yè)銷售，10億美元計(jì)在上述方程中，哪些是控制變量？

第32頁(yè)1962－1981年美國(guó)國(guó)防預(yù)算支出數(shù)據(jù)第33頁(yè)第34頁(yè)需要填入變量點(diǎn)擊第35頁(yè)回歸結(jié)果依據(jù)回歸結(jié)果，你結(jié)論是什么？怎樣選擇控制變量？控制變量選擇：去什么，加什么。怎么算出來(lái)？第36頁(yè)思索題既然OLS預(yù)計(jì)量是BLUE，那么是否采取OLS就能得到滿意結(jié)果呢？即便是最好，也不是令人滿意。針對(duì)一組給定樣本，怎樣判斷回歸方程擬合程度？第37頁(yè)222回歸方程總體擬合度從幾何意義上看，擬合優(yōu)度是指樣本回歸線對(duì)樣本數(shù)據(jù)擬合得有多好。樣本回歸線樣本點(diǎn)總平方和回歸平方和殘差平方和樣本均值線普通情況下，不可能出現(xiàn)全部觀察點(diǎn)都落在樣本回歸線上。顯然若觀察值離回歸線近，則擬合程度好。所以，一個(gè)直觀評(píng)判標(biāo)準(zhǔn)是：殘差平方和在總平方和中所占百分比越小，則擬合得越好。e第38頁(yè)擬合優(yōu)度判定系數(shù)（R2）：第39頁(yè)擬合優(yōu)度能夠證實(shí)當(dāng)在回歸方程中加入另一變量時(shí)，R2值不會(huì)下降。所以，考慮調(diào)整（用自由度）R2

為何要采取調(diào)整R2

？自由度：觀察樣本個(gè)數(shù)減去待預(yù)計(jì)系數(shù)個(gè)數(shù)。第40頁(yè)當(dāng)增加一個(gè)變量時(shí)，可能上升，也可能下降，甚至為負(fù)。上升還是下降依賴于新變量對(duì)回歸擬合貢獻(xiàn)是否超出對(duì)損失一個(gè)額外自由度所作修正賠償。

注意：通常采取橫截面數(shù)據(jù)回歸后得到