第二章二計(jì)量經(jīng)濟(jì)學(xué)一元線性回歸分析ppt課件

1、2.2 一元線性回歸模型及其參數(shù)估計(jì)Simple Linear Regression Model and Its Estimation,一、線性回歸模型及其普遍性 二、線性回歸模型的基本假設(shè) 三、一元線性回歸模型的參數(shù)估計(jì) 四、最小二乘估計(jì)量的統(tǒng)計(jì)性質(zhì) 五、參數(shù)估計(jì)量的概率分布與隨機(jī)項(xiàng)方差的估計(jì),一、線性回歸模型及其普遍性,1、線性回歸模型的特征,一個(gè)例子 凱恩斯絕對(duì)收入假設(shè)消費(fèi)理論：消費(fèi)（C）是由收入（Y）唯一決定的，是收入的線性函數(shù)： C = + Y (2.2.1) 但實(shí)際上上述等式不能準(zhǔn)確實(shí)現(xiàn)。 原因 消費(fèi)除受收入影響外，還受其他因素的影響； 線性關(guān)系只是一個(gè)近似描述； 收入變量觀測值的

2、近似性：收入數(shù)據(jù)本身并不絕對(duì)準(zhǔn)確地反映收入水平,因此，一個(gè)更符合實(shí)際的數(shù)學(xué)描述為： C = + Y+ (2.2.2) 其中： 是一個(gè)隨機(jī)誤差項(xiàng)，是其他影響因素的“綜合體”。 線性回歸模型的特征： 通過引入隨機(jī)誤差項(xiàng)，將變量之間的關(guān)系用一個(gè)線性隨機(jī)方程來描述，并用隨機(jī)數(shù)學(xué)的方法來估計(jì)方程中的參數(shù)； 在線性回歸模型中，被解釋變量的特征由解釋變量與隨機(jī)誤差項(xiàng)共同決定,2、線性回歸模型的普遍性,線性回歸模型是計(jì)量經(jīng)濟(jì)學(xué)模型的主要形式，許多實(shí)際經(jīng)濟(jì)活動(dòng)中經(jīng)濟(jì)變量間的復(fù)雜關(guān)系都可以通過一些簡單的數(shù)學(xué)處理，使之化為數(shù)學(xué)上的線性關(guān)系,將非線性關(guān)系化為線性關(guān)系的常用的數(shù)學(xué)處理方法,變量置換 例如，描述稅收與稅率

3、關(guān)系的拉弗曲線：拋物線 s = a + b r + c r2 c0 s：稅收； r：稅率 設(shè)X1 = r，X2 = r2， 則原方程變換為 s = a + b X1 + c X2 c0 變量置換僅用于變量非線性的情況,函數(shù)變換,例如，Cobb-Dauglas生產(chǎn)函數(shù)：冪函數(shù) Q = AKL Q：產(chǎn)出量，K：投入的資本；L：投入的勞動(dòng),方程兩邊取對(duì)數(shù)： ln Q = ln A + ln K + ln L,3)級(jí)數(shù)展開,例如，不變替代彈性CES生產(chǎn)函數(shù)： 方程兩邊取對(duì)數(shù)后，得到： 對(duì) 在=0處展開臺(tái)勞級(jí)數(shù)，取關(guān)于的線性項(xiàng)，即得到一個(gè)線性近似式,變量置換得到,結(jié)論,實(shí)際經(jīng)濟(jì)活動(dòng)中的許多問題，都可以最

4、終化為線性問題，所以，線性回歸模型有其普遍意義。 即使對(duì)于無法采取任何變換方法使之變成線性的非線性模型，目前使用得較多的參數(shù)估計(jì)方法非線性最小二乘法，其原理仍然是以線性估計(jì)方法為基礎(chǔ)。 線性模型理論方法在計(jì)量經(jīng)濟(jì)學(xué)模型理論方法的基礎(chǔ),二、線性回歸模型的基本假設(shè),1、技術(shù)線路,由于回歸分析的主要目的是要通過樣本回歸函數(shù)（模型）SRF盡可能準(zhǔn)確地估計(jì)總體回歸函數(shù)（模型）PRF。即通過 估計(jì) 采用普通最小二乘或者普通最大似然方法估計(jì)。 需要對(duì)解釋變量和隨機(jī)項(xiàng)作出假設(shè),2、線性回歸模型在上述意義上的基本假設(shè),1）解釋變量X是確定性變量，不是隨機(jī)變量；解釋變量之間互不相關(guān)。 （2）隨機(jī)誤差項(xiàng)具有均值和同

5、方差: E(i)=0 i=1,2, ,n Var (i)=2 i=1,2, ,n （3）隨機(jī)誤差項(xiàng)在不同樣本點(diǎn)之間是獨(dú)立的，不存在序列相關(guān)： Cov(i, j)=0 ij i,j= 1,2, ,n,5）隨機(jī)誤差項(xiàng)服從均值、同方差的正態(tài)分布： iN(0, 2 ) i=1,2, ,n 注意： 如果第(1)條假設(shè)滿足，則第(4)條也滿足; 模型對(duì)變量和函數(shù)形式的設(shè)定是正確的，即不存在設(shè)定誤差,4）隨機(jī)誤差項(xiàng)與解釋變量之間不相關(guān)： Cov(Xi, i)=0 i=1,2, ,n,重要提示,幾乎沒有哪個(gè)實(shí)際問題能夠同時(shí)滿足所有基本假設(shè)； 通過模型理論方法的發(fā)展，可以克服違背基本假設(shè)帶來的問題； 違背基本假

6、設(shè)問題的處理構(gòu)成了單方程線性計(jì)量經(jīng)濟(jì)學(xué)理論方法的主要內(nèi)容： 異方差問題（違背同方差假設(shè)） 序列相關(guān)問題（違背序列不相關(guān)假設(shè)） 共線性問題（違背解釋變量不相關(guān)假設(shè)） 隨機(jī)解釋變量（違背解釋變量確定性假設(shè)） 0均植、正態(tài)性假設(shè)是由模型的數(shù)理統(tǒng)計(jì)理論決定的,三、一元線性回歸模型的參數(shù)估計(jì),1、普通最小二乘法（Ordinary Least Square,OLS,給定一組樣本觀測值Xi, Yi（i=1,2,n），要求樣本回歸函數(shù)盡可能好地?cái)M合這組值，即樣本回歸線上的點(diǎn)與真實(shí)觀測點(diǎn)的“總體誤差”盡可能地小,2、最大或然法（ Maximum Likelihood, ML,最大或然法，也稱最大似然法，是不同于

7、最小二乘法的另一種參數(shù)估計(jì)方法，是從最大或然原理出發(fā)發(fā)展起來的其它估計(jì)方法的基礎(chǔ)。 基本原理： 對(duì)于最大或然法，當(dāng)從模型總體隨機(jī)抽取n組樣本觀測值后，最合理的參數(shù)估計(jì)量應(yīng)該使得從模型中抽取該n組樣本觀測值的聯(lián)合概率最大,將該或然函數(shù)極大化，即可求得到模型參數(shù)的極大或然估計(jì)量,由于或然函數(shù)的極大化與或然函數(shù)的對(duì)數(shù)的極大化是等價(jià)的，所以，取對(duì)數(shù)或然函數(shù)如下,可見，在滿足一系列基本假設(shè)的情況下，模型結(jié)構(gòu)參數(shù)的最大或然估計(jì)量與普通最小二乘估計(jì)量是相同的,但是，隨機(jī)誤差項(xiàng)的方差的估計(jì)量是不同的,3、參數(shù)估計(jì)的離差形式(deviation form,注：在計(jì)量經(jīng)濟(jì)學(xué)中，往往以小寫字母表示對(duì)均值的離差（de

8、viation,4、樣本回歸線的數(shù)值性質(zhì)(numerical properties,樣本回歸線通過Y和X的樣本均值； Y估計(jì)值的均值等于觀測值的均值； 殘差的均值為0,四、最小二乘估計(jì)量的統(tǒng)計(jì)性質(zhì)高斯-馬爾可夫定理,當(dāng)模型參數(shù)估計(jì)完成，需考慮參數(shù)估計(jì)值的精度，即是否能代表總體參數(shù)的真值，或者說需考察參數(shù)估計(jì)量的統(tǒng)計(jì)性質(zhì)。 一個(gè)用于考察總體的統(tǒng)計(jì)量，可從三個(gè)方面考察其優(yōu)劣性： （1）線性性(linear)：即是否是另一隨機(jī)變量的線性函數(shù)； （2）無偏性(unbiased)：即它的均值或期望值是否等于總體的真實(shí)值； （3）有效性(efficient)：即它是否在所有線性無偏估計(jì)量中具有最小方差,高斯馬爾可夫定理 (Gauss-Markov theorem) 在給定經(jīng)典線性回歸的假定下，最小二乘估計(jì)量是具有最小方差的線性無偏估計(jì)量,1、線性性：參數(shù)估計(jì)量是Y的線性函數(shù),2、無偏性：參數(shù)估計(jì)量的均值等于總體回歸參數(shù)真值,3、有效性：在所有線性無偏估計(jì)量中，最小二乘估計(jì)量具有最小方差,2）證明最小方差性,4、結(jié)論 普通最小二乘估計(jì)量具有線性性、無偏性、最小方差性等優(yōu)良性質(zhì)。 具有這些優(yōu)良性質(zhì)的