版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
第5章基本回歸模型的OLS估計(jì)
重點(diǎn)內(nèi)容:普通最小二乘法線性回歸模型的估計(jì)線性回歸模型的檢驗(yàn)第5章基本回歸模型的OLS估計(jì)1一、普通最小二乘法(OLS)1.最小二乘原理設(shè)(x1,y1),(x2,y2),…,(xn,yn)是平面直角坐標(biāo)系下的一組數(shù)據(jù),且x1<x2<…<xn,如果這組圖像接近于一條直線,我們可以確定一條直線y=a+bx,使得這條直線能反映出該組數(shù)據(jù)的變化。如果用不同精度多次觀測(cè)一個(gè)或多個(gè)未知量,為了確定各未知量的可靠值,各觀測(cè)量必須加改正數(shù),使其各改正數(shù)的平方乘以觀測(cè)值的權(quán)數(shù)的總和為最小。因而稱最小二乘法。一、普通最小二乘法(OLS)設(shè)(x1,y1),(x2,y2)2一、普通最小二乘法(OLS)1.最小二乘原理設(shè)雙變量的總體回歸方程為yt=B1+B2xt+μt樣本回歸函數(shù)為yt=b1+b2xt+et其中,et為殘差項(xiàng),
5-3式為估計(jì)方程,b1和b2分別為B1和B2的估計(jì)量,因而e=實(shí)際的yt–估計(jì)的yt一、普通最小二乘法(OLS)設(shè)雙變量的總體回歸方程為3一、普通最小二乘法(OLS)1.最小二乘原理估計(jì)總體回歸函數(shù)的最優(yōu)方法是選擇B1和B2的估計(jì)量b1,b2,使得殘差et盡可能達(dá)到最小。用公式表達(dá)即為總之,最小二乘原理就是選擇樣本回歸函數(shù)使得y的估計(jì)值與真實(shí)值之差的平方和最小。一、普通最小二乘法(OLS)估計(jì)總體回歸函數(shù)的最優(yōu)方法是選擇4一、普通最小二乘法(OLS)2.方程對(duì)象選擇工作文件窗口工具欄中的“Object”|“NewObject”|“Equation”選項(xiàng),在下圖所示的對(duì)話框中輸入方程變量。一、普通最小二乘法(OLS)選擇工作文件窗口工具欄中的“Ob5一、普通最小二乘法(OLS)2.方程對(duì)象EViews5.1提供了8種估計(jì)方法:“LS”為最小二乘法;“TSLS”為兩階段最小二乘法;“GMM”為廣義矩法;“ARCH”為自回歸條件異方差;“BINARY”為二元選擇模型,其中包括Logit模型、Probit模型和極端值模型;“ORDERED”為有序選擇模型;“CENSORED”截取回歸模型;“COUNT”為計(jì)數(shù)模型。
一、普通最小二乘法(OLS)EViews5.1提供了8種估計(jì)6二、一元線性回歸模型1.模型設(shè)定一元線性回歸模型的形式為yi=0+1
xi
+ui
(i=1,2,…,n)其中,y為被解釋變量,也被稱為因變量;x為解釋變量或自變量;u是隨機(jī)誤差項(xiàng)(randomerrorterm),也被稱為誤差項(xiàng)或擾動(dòng)項(xiàng),它表示除了x之外影響y的因素,即y的變化中未被x所解釋的部分;n為樣本個(gè)數(shù)。二、一元線性回歸模型一元線性回歸模型的形式為7二、一元線性回歸模型2.實(shí)際值、擬合值和殘差估計(jì)方程為
表示的是yt的擬合值,和分別是0和1的估計(jì)量。實(shí)際值指的是回歸模型中被解釋變量(因變量)y的原始觀測(cè)數(shù)據(jù)。擬合值就是通過回歸模型計(jì)算出來的yt的預(yù)測(cè)值。二、一元線性回歸模型估計(jì)方程為8二、一元線性回歸模型2.實(shí)際值、擬合值和殘差三條曲線分別是實(shí)際值(Actual),擬合值(Fitted)和殘差(Residual)。實(shí)際值和擬合值越接近,方程擬合效果越好。二、一元線性回歸模型三條曲線分別是實(shí)際值(Actual),擬9三、多元線性回歸模型通常情況下,將含有多個(gè)解釋變量的線性回歸模型(多元線性回歸模型)寫成如下形式,yi=0+1
x1i
+2
x2i+3
x3i+…k
xki+ui
(i=1,2,…,n)其中,y為被解釋變量,也被稱為因變量;x為解釋變量或自變量;u是隨機(jī)誤差項(xiàng)(randomerrorterm),也被稱為誤差項(xiàng)或擾動(dòng)項(xiàng);n為樣本個(gè)數(shù)。三、多元線性回歸模型通常情況下,將含有多個(gè)解釋變量的線性回歸10三、多元線性回歸模型在多元線性回歸模型中,要求解釋變量x1,x2,…,xk之間互不相關(guān),即該模型不存在多重共線性問題。如果有兩個(gè)變量完全相關(guān),就出現(xiàn)了完全多重共線性,這時(shí)參數(shù)是不可識(shí)別的,模型無法估計(jì)。三、多元線性回歸模型在多元線性回歸模型中,要求解釋變量x111三、多元線性回歸模型通常情況下,把多元線性回歸方程中的常數(shù)項(xiàng)看作虛擬變量的系數(shù),在參數(shù)估計(jì)過程中該常數(shù)項(xiàng)始終取值為1。因而模型的解釋變量個(gè)數(shù)為k+1.多元回歸模型的矩陣形式為Y=X
+u其中,Y是因變量觀測(cè)值的T維列向量;X是所有自變量(包括虛擬變量)的T個(gè)樣本點(diǎn)觀測(cè)值組成的T×(k+1)的矩陣;是k+1維系數(shù)向量;u是T維擾動(dòng)項(xiàng)向量。三、多元線性回歸模型通常情況下,把多元線性回歸方程中的常數(shù)12四、線性回歸模型的基本假定線性回歸模型必須滿足以下幾個(gè)基本假定:
假定1:隨機(jī)誤差項(xiàng)u具有0均值和同方差,即
E(ui
)=0i=1,2,…,n
Var
(ui
)=σ2
i=1,2,…,n
其中,E表示均值,也稱為期望,在這里隨機(jī)誤差項(xiàng)u的均值為0。Var表示隨機(jī)誤差項(xiàng)u的方差,對(duì)于每一個(gè)樣本點(diǎn)i,即在i=1,2,…,n的每一個(gè)數(shù)值上,解釋變量y對(duì)被解釋變量x的條件分布具有相同的方差。當(dāng)這一假定條件不成立是,稱該回歸模型存在異方差問題。
四、線性回歸模型的基本假定線性回歸模型必須滿足以下幾個(gè)基本13四、線性回歸模型的基本假定假定2:不同樣本點(diǎn)下的隨機(jī)誤差項(xiàng)u之間是不相關(guān)的,即Cov(ui,uj)=0,i≠j,i,j=1,2,…,n
其中,cov表示協(xié)方差。當(dāng)此假定條件不成立時(shí),則稱該回歸模型存在序列相關(guān)問題,也稱為自相關(guān)問題。四、線性回歸模型的基本假定14四、線性回歸模型的基本假定假定3:同一個(gè)樣本點(diǎn)下的隨機(jī)誤差項(xiàng)u與解釋變量x之間不相關(guān),即Cov(xi,ui)=0i=1,2,…,n
四、線性回歸模型的基本假定15四、線性回歸模型的基本假定假定4:隨機(jī)誤差項(xiàng)u服從均值為0、同方差的正態(tài)分布,即
u~N(0,σ2)
如果回歸模型中沒有被列出的各因素是獨(dú)立的隨機(jī)變量,則隨著這些隨機(jī)變量個(gè)數(shù)的增加,隨機(jī)誤差項(xiàng)u服從正態(tài)分布。四、線性回歸模型的基本假定16四、線性回歸模型的基本假定假定5:解釋變量x1,x2,…,xi是非隨機(jī)的確定性變量,并且解釋變量間互不相關(guān)。則這說明yi的概率分布具有均值,即E(yi|xi)=E(0+1xi
+ui)=0+1xi該式被稱為總體回歸函數(shù)。如果兩個(gè)或多個(gè)解釋變量間出現(xiàn)了相關(guān)性,則說明該模型存在多重共線性問題。四、線性回歸模型的基本假定17五、線性回歸模型的檢驗(yàn)1.擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn)用來驗(yàn)證回歸模型對(duì)樣本觀測(cè)值(實(shí)際值)的擬合程度,可通過R2統(tǒng)計(jì)量來檢驗(yàn)。
五、線性回歸模型的檢驗(yàn)18五、線性回歸模型的檢驗(yàn)1.擬合優(yōu)度檢驗(yàn)公式
三者的關(guān)系為TSS=RSS+ESS
TSS為總體平方和,RSS為殘差平方和,ESS為回歸平方和。五、線性回歸模型的檢驗(yàn)19五、線性回歸模型的檢驗(yàn)1.擬合優(yōu)度檢驗(yàn)總體平方和(TSS)反映了樣本觀測(cè)值總體離差的大小,也被稱為離差平方和;殘差平方(RSS)說明的是樣本觀測(cè)值與估計(jì)值偏離的程度,反映了因變量總的波動(dòng)中未被回歸模型所解釋的部分;回歸平方和(ESS)反映了擬合值總體離差大小,這個(gè)擬合值是根據(jù)模型解釋變量算出來的。五、線性回歸模型的檢驗(yàn)總體平方和(TSS)反映了樣本觀測(cè)值20五、線性回歸模型的檢驗(yàn)1.擬合優(yōu)度檢驗(yàn)擬合優(yōu)度R2的計(jì)算公式為R2=ESS/TSS=1-RSS/TSS當(dāng)回歸平方(ESS)和與總體平方和(TSS)較為接近時(shí),模型的擬合程度較好;反之,則模型的擬合程度較差。因此,模型的擬合程度可通過這兩個(gè)指標(biāo)來表示。五、線性回歸模型的檢驗(yàn)擬合優(yōu)度R2的計(jì)算公式為21五、線性回歸模型的檢驗(yàn)2.顯著性檢驗(yàn)變量顯著性檢驗(yàn)(t檢驗(yàn))
檢驗(yàn)中的原假設(shè)為:
H0:i=0,備擇假設(shè)為:
H1:i
≠0,如果原假設(shè)成立,表明解釋變量x對(duì)被解釋變量y沒有顯著的影響;當(dāng)原假設(shè)不成立時(shí),表明解釋變量x對(duì)被解釋變量y有顯著的影響,此時(shí)接受備擇假設(shè)。
五、線性回歸模型的檢驗(yàn)變量顯著性檢驗(yàn)(t檢驗(yàn))22五、線性回歸模型的檢驗(yàn)2.顯著性檢驗(yàn)方程顯著性檢驗(yàn)(F檢驗(yàn))
原假設(shè)為:
H0:1=0,2=0,…,k=0,備擇假設(shè)為:
H1:i中至少有一個(gè)不為0,
如果原假設(shè)成立,表明解釋變量x對(duì)被解釋變量y沒有顯著的影響;當(dāng)原假設(shè)不成立時(shí),表明解釋變量x對(duì)被解釋變量y有顯著的影響,此時(shí)接受備擇假設(shè)。
五、線性回歸模型的檢驗(yàn)方程顯著性檢驗(yàn)(F檢驗(yàn))23五、線性回歸模型的檢驗(yàn)2.顯著性檢驗(yàn)方程顯著性檢驗(yàn)(F檢驗(yàn))
F統(tǒng)計(jì)量為該統(tǒng)計(jì)量服從自由度為(k,n-k-1)的F分布。給定一個(gè)顯著性水平α,當(dāng)F統(tǒng)計(jì)量的數(shù)值大于該顯著性水平下的臨界值Fα(k,n-k-1)時(shí),則在(1-α)的水平下拒絕原假設(shè)H0,即模型通過了方程的顯著性檢驗(yàn),模型的線性關(guān)系顯著成立。
五、線性回歸模型的檢驗(yàn)方程顯著性檢驗(yàn)(F檢驗(yàn))24五、線性回歸模型的檢驗(yàn)3.異方差性檢驗(yàn)(1)圖示檢驗(yàn)法圖示檢驗(yàn)法通過散點(diǎn)圖來判斷用OLS方法估計(jì)的模型異方差性,這種方法較為直觀。通常是先將回歸模型的殘差序列和因變量一起繪制一個(gè)散點(diǎn)圖,進(jìn)而判斷是否存在相關(guān)性,如果兩個(gè)序列的相關(guān)性存在,則該模型存在異方差性。
五、線性回歸模型的檢驗(yàn)25五、線性回歸模型的檢驗(yàn)3.異方差性檢驗(yàn)(1)圖示檢驗(yàn)法檢驗(yàn)步驟:建立方程對(duì)象進(jìn)行模型的OLS(最小二乘)估計(jì),此時(shí)產(chǎn)生的殘差保存在主窗口界面的序列對(duì)象resid中。建立一個(gè)新的序列對(duì)象,并將殘差序列中的數(shù)據(jù)復(fù)制到新建立的對(duì)象中。然后選擇主窗口中的“Quick”|“Graph”|“Scatter”選項(xiàng),生成散點(diǎn)圖,進(jìn)而可判斷隨機(jī)項(xiàng)是否存在異方差性。
五、線性回歸模型的檢驗(yàn)26五、線性回歸模型的檢驗(yàn)3.異方差性檢驗(yàn)(2)懷特(White)檢驗(yàn)法檢驗(yàn)步驟:用OLS(最小二乘法)估計(jì)回歸方程,得到殘差e。作輔助回歸模型:求輔助回歸模型的擬合優(yōu)度R2的值。White檢驗(yàn)的統(tǒng)計(jì)量服從χ2分布,即N·R2~χ2(k)其中,N為樣本容量,k為自由度,k等于輔助回歸模型()中解釋變量的個(gè)數(shù)。如果χ2值大于給點(diǎn)顯著性水平下對(duì)應(yīng)的臨界值,則可以拒絕原假設(shè),即存在異方差;反之,接受原假設(shè),即不存在異方差。五、線性回歸模型的檢驗(yàn)(2)懷特(White)檢驗(yàn)法27五、線性回歸模型的檢驗(yàn)3.異方差性檢驗(yàn)(2)懷特(White)檢驗(yàn)法White檢驗(yàn)的統(tǒng)計(jì)量服從χ2分布,即N·R2~χ2(k)其中,N為樣本容量,k為自由度,k等于輔助回歸模型()中解釋變量的個(gè)數(shù)。如果χ2值大于給點(diǎn)顯著性水平下對(duì)應(yīng)的臨界值,則可以拒絕原假設(shè),即存在異方差;反之,接受原假設(shè),即不存在異方差。五、線性回歸模型的檢驗(yàn)(2)懷特(White)檢驗(yàn)法28五、線性回歸模型的檢驗(yàn)3.異方差性檢驗(yàn)(2)懷特(White)檢驗(yàn)法在EViews5.1軟件中選擇方程對(duì)象工具欄中的“View”|“ResidualTests”|“WhiteHeteroskedasticity”選項(xiàng)即可完成操作。五、線性回歸模型的檢驗(yàn)(2)懷特(White)檢驗(yàn)法29五、線性回歸模型的檢驗(yàn)3.異方差性檢驗(yàn)異方差性的后果:當(dāng)模型出現(xiàn)異方差性時(shí),用OLS(最小二乘估計(jì)法)得到的估計(jì)參數(shù)將不再有效;變量的顯著性檢驗(yàn)(t檢驗(yàn))失去意義;模型不再具有良好的統(tǒng)計(jì)性質(zhì),并且模型失去了預(yù)測(cè)功能。
五、線性回歸模型的檢驗(yàn)異方差性的后果:30五、線性回歸模型的檢驗(yàn)4.序列相關(guān)檢驗(yàn)方法:(1)杜賓(D.W.—Durbin-Watson)檢驗(yàn)法(2)LM(拉格朗日乘數(shù)—LagrangeMultiplier)檢驗(yàn)法五、線性回歸模型的檢驗(yàn)方法:31五、線性回歸模型的檢驗(yàn)4.序列相關(guān)檢驗(yàn)(1)杜賓(D.W.—Durbin-Watson)檢驗(yàn)法
J.Durbin,G.S.Watson于1950年提出了D.W.檢驗(yàn)法。它是通過對(duì)殘差構(gòu)成的統(tǒng)計(jì)量來判斷誤差項(xiàng)ut是否存在自相關(guān)。D.W.檢驗(yàn)法用來判定一階序列相關(guān)性的存在。D.W.的統(tǒng)計(jì)量為五、線性回歸模型的檢驗(yàn)(1)杜賓(D.W.—Durbi32五、線性回歸模型的檢驗(yàn)4.序列相關(guān)檢驗(yàn)(1)杜賓(D.W.—Durbin-Watson)檢驗(yàn)法如果,0<D.W.<dt,存在一階正自相關(guān)dt<D.W.<du,不能確定是否存在自相關(guān)du<D.W.<4-du,不存在自相關(guān)4-du<D.W.<4-dt不能確定是否存在自相關(guān)4-dt<D.W.<4
,存在一階負(fù)自相關(guān)五、線性回歸模型的檢驗(yàn)(1)杜賓(D.W.—Durbi33五、線性回歸模型的檢驗(yàn)4.序列相關(guān)檢驗(yàn)(1)杜賓(D.W.—Durbin-Watson)檢驗(yàn)法使用D.W.檢驗(yàn)時(shí)應(yīng)注意,因變量的滯后項(xiàng)yt-1不能作為回歸模型的解釋變量,否則D.W.檢驗(yàn)失效。另外,樣本容量應(yīng)足夠大,一般情況下,樣本數(shù)量應(yīng)在15個(gè)以上。五、線性回歸模型的檢驗(yàn)34五、線性回歸模型的檢驗(yàn)4.序列相關(guān)檢驗(yàn)(2)LM(拉格朗日乘數(shù)—LagrangeMultiplier)檢驗(yàn)法LM檢驗(yàn)原假設(shè)和備擇假設(shè)分別為:H0:直到p階滯后不存在序列相關(guān)H1:存在p階序列相關(guān)LM的統(tǒng)計(jì)量為
LM=n·R2~χ2(p)其中,n為樣本容量,R2為輔助回歸模型的擬合優(yōu)度。LM統(tǒng)計(jì)量服從漸進(jìn)的χ2(p)。在給定顯著性水平的情況下,如果LM統(tǒng)計(jì)量小于設(shè)定在該顯著性水平下的臨近值,則接受原假設(shè),即直到p階滯后不存在序列相關(guān)。五、線性回歸模型的檢驗(yàn)(2)LM(拉格朗日乘數(shù)—Lagra35五、線性回歸模型的檢驗(yàn)4.序列相關(guān)檢驗(yàn)序列相關(guān)性的后果:用OLS(最小二乘估計(jì)法)得到的估計(jì)參數(shù)將不再有效;變量的顯著性檢驗(yàn)(t檢驗(yàn))失去意義;模型不再具有良好的統(tǒng)計(jì)性質(zhì),并且模型失去了預(yù)測(cè)功能。五、線性回歸模型的檢驗(yàn)序列相關(guān)性的后果:36五、線性回歸模型的檢驗(yàn)5.多重共線性方法:(1)相關(guān)系數(shù)檢驗(yàn)法
(2)逐步回歸法五、線性回歸模型的檢驗(yàn)方法:37五、線性回歸模型的檢驗(yàn)5.多重共線性(1)相關(guān)系數(shù)檢驗(yàn)法在群對(duì)象窗口的工具欄中選擇“View”|“Correlations”|“CommonSample”選項(xiàng),即可得到變量間的相關(guān)系數(shù)。如果相關(guān)系數(shù)較高,則變量間可能存在線性關(guān)系,即模型有多重共線性的可能。五、線性回歸模型的檢驗(yàn)(1)相關(guān)系數(shù)檢驗(yàn)法38五、線性回歸模型的檢驗(yàn)5.多重共線性(2)逐步回歸法當(dāng)在回歸模型中增加或減少解釋變量個(gè)數(shù)時(shí),如果擬合優(yōu)度變化很大,說明新引進(jìn)的變量是一個(gè)獨(dú)立的解釋變量,即它與其他變量間是相互獨(dú)立的,模型不存在多重共線性;如果擬合優(yōu)度變化不大,說明新引進(jìn)的變量不是一個(gè)獨(dú)立的解釋變量,它可由原有的解釋變量的線性組合構(gòu)成,即它與其他變量間非相互獨(dú)立,模型可能存在多重共線性。
五、線性回歸模型的檢驗(yàn)(2)逐步回歸法39五、線性回歸模型的檢驗(yàn)4.序列相關(guān)檢驗(yàn)消除多重共線性方法:剔除法差分法五、線性回歸模型的檢驗(yàn)消除多重共線性方法:40本章小結(jié):掌握線性回歸模型的基本原理掌握回歸模型的檢驗(yàn)方法熟練各檢驗(yàn)的EViews相關(guān)操作本章小結(jié):41第5章基本回歸模型的OLS估計(jì)
重點(diǎn)內(nèi)容:普通最小二乘法線性回歸模型的估計(jì)線性回歸模型的檢驗(yàn)第5章基本回歸模型的OLS估計(jì)42一、普通最小二乘法(OLS)1.最小二乘原理設(shè)(x1,y1),(x2,y2),…,(xn,yn)是平面直角坐標(biāo)系下的一組數(shù)據(jù),且x1<x2<…<xn,如果這組圖像接近于一條直線,我們可以確定一條直線y=a+bx,使得這條直線能反映出該組數(shù)據(jù)的變化。如果用不同精度多次觀測(cè)一個(gè)或多個(gè)未知量,為了確定各未知量的可靠值,各觀測(cè)量必須加改正數(shù),使其各改正數(shù)的平方乘以觀測(cè)值的權(quán)數(shù)的總和為最小。因而稱最小二乘法。一、普通最小二乘法(OLS)設(shè)(x1,y1),(x2,y2)43一、普通最小二乘法(OLS)1.最小二乘原理設(shè)雙變量的總體回歸方程為yt=B1+B2xt+μt樣本回歸函數(shù)為yt=b1+b2xt+et其中,et為殘差項(xiàng),
5-3式為估計(jì)方程,b1和b2分別為B1和B2的估計(jì)量,因而e=實(shí)際的yt–估計(jì)的yt一、普通最小二乘法(OLS)設(shè)雙變量的總體回歸方程為44一、普通最小二乘法(OLS)1.最小二乘原理估計(jì)總體回歸函數(shù)的最優(yōu)方法是選擇B1和B2的估計(jì)量b1,b2,使得殘差et盡可能達(dá)到最小。用公式表達(dá)即為總之,最小二乘原理就是選擇樣本回歸函數(shù)使得y的估計(jì)值與真實(shí)值之差的平方和最小。一、普通最小二乘法(OLS)估計(jì)總體回歸函數(shù)的最優(yōu)方法是選擇45一、普通最小二乘法(OLS)2.方程對(duì)象選擇工作文件窗口工具欄中的“Object”|“NewObject”|“Equation”選項(xiàng),在下圖所示的對(duì)話框中輸入方程變量。一、普通最小二乘法(OLS)選擇工作文件窗口工具欄中的“Ob46一、普通最小二乘法(OLS)2.方程對(duì)象EViews5.1提供了8種估計(jì)方法:“LS”為最小二乘法;“TSLS”為兩階段最小二乘法;“GMM”為廣義矩法;“ARCH”為自回歸條件異方差;“BINARY”為二元選擇模型,其中包括Logit模型、Probit模型和極端值模型;“ORDERED”為有序選擇模型;“CENSORED”截取回歸模型;“COUNT”為計(jì)數(shù)模型。
一、普通最小二乘法(OLS)EViews5.1提供了8種估計(jì)47二、一元線性回歸模型1.模型設(shè)定一元線性回歸模型的形式為yi=0+1
xi
+ui
(i=1,2,…,n)其中,y為被解釋變量,也被稱為因變量;x為解釋變量或自變量;u是隨機(jī)誤差項(xiàng)(randomerrorterm),也被稱為誤差項(xiàng)或擾動(dòng)項(xiàng),它表示除了x之外影響y的因素,即y的變化中未被x所解釋的部分;n為樣本個(gè)數(shù)。二、一元線性回歸模型一元線性回歸模型的形式為48二、一元線性回歸模型2.實(shí)際值、擬合值和殘差估計(jì)方程為
表示的是yt的擬合值,和分別是0和1的估計(jì)量。實(shí)際值指的是回歸模型中被解釋變量(因變量)y的原始觀測(cè)數(shù)據(jù)。擬合值就是通過回歸模型計(jì)算出來的yt的預(yù)測(cè)值。二、一元線性回歸模型估計(jì)方程為49二、一元線性回歸模型2.實(shí)際值、擬合值和殘差三條曲線分別是實(shí)際值(Actual),擬合值(Fitted)和殘差(Residual)。實(shí)際值和擬合值越接近,方程擬合效果越好。二、一元線性回歸模型三條曲線分別是實(shí)際值(Actual),擬50三、多元線性回歸模型通常情況下,將含有多個(gè)解釋變量的線性回歸模型(多元線性回歸模型)寫成如下形式,yi=0+1
x1i
+2
x2i+3
x3i+…k
xki+ui
(i=1,2,…,n)其中,y為被解釋變量,也被稱為因變量;x為解釋變量或自變量;u是隨機(jī)誤差項(xiàng)(randomerrorterm),也被稱為誤差項(xiàng)或擾動(dòng)項(xiàng);n為樣本個(gè)數(shù)。三、多元線性回歸模型通常情況下,將含有多個(gè)解釋變量的線性回歸51三、多元線性回歸模型在多元線性回歸模型中,要求解釋變量x1,x2,…,xk之間互不相關(guān),即該模型不存在多重共線性問題。如果有兩個(gè)變量完全相關(guān),就出現(xiàn)了完全多重共線性,這時(shí)參數(shù)是不可識(shí)別的,模型無法估計(jì)。三、多元線性回歸模型在多元線性回歸模型中,要求解釋變量x152三、多元線性回歸模型通常情況下,把多元線性回歸方程中的常數(shù)項(xiàng)看作虛擬變量的系數(shù),在參數(shù)估計(jì)過程中該常數(shù)項(xiàng)始終取值為1。因而模型的解釋變量個(gè)數(shù)為k+1.多元回歸模型的矩陣形式為Y=X
+u其中,Y是因變量觀測(cè)值的T維列向量;X是所有自變量(包括虛擬變量)的T個(gè)樣本點(diǎn)觀測(cè)值組成的T×(k+1)的矩陣;是k+1維系數(shù)向量;u是T維擾動(dòng)項(xiàng)向量。三、多元線性回歸模型通常情況下,把多元線性回歸方程中的常數(shù)53四、線性回歸模型的基本假定線性回歸模型必須滿足以下幾個(gè)基本假定:
假定1:隨機(jī)誤差項(xiàng)u具有0均值和同方差,即
E(ui
)=0i=1,2,…,n
Var
(ui
)=σ2
i=1,2,…,n
其中,E表示均值,也稱為期望,在這里隨機(jī)誤差項(xiàng)u的均值為0。Var表示隨機(jī)誤差項(xiàng)u的方差,對(duì)于每一個(gè)樣本點(diǎn)i,即在i=1,2,…,n的每一個(gè)數(shù)值上,解釋變量y對(duì)被解釋變量x的條件分布具有相同的方差。當(dāng)這一假定條件不成立是,稱該回歸模型存在異方差問題。
四、線性回歸模型的基本假定線性回歸模型必須滿足以下幾個(gè)基本54四、線性回歸模型的基本假定假定2:不同樣本點(diǎn)下的隨機(jī)誤差項(xiàng)u之間是不相關(guān)的,即Cov(ui,uj)=0,i≠j,i,j=1,2,…,n
其中,cov表示協(xié)方差。當(dāng)此假定條件不成立時(shí),則稱該回歸模型存在序列相關(guān)問題,也稱為自相關(guān)問題。四、線性回歸模型的基本假定55四、線性回歸模型的基本假定假定3:同一個(gè)樣本點(diǎn)下的隨機(jī)誤差項(xiàng)u與解釋變量x之間不相關(guān),即Cov(xi,ui)=0i=1,2,…,n
四、線性回歸模型的基本假定56四、線性回歸模型的基本假定假定4:隨機(jī)誤差項(xiàng)u服從均值為0、同方差的正態(tài)分布,即
u~N(0,σ2)
如果回歸模型中沒有被列出的各因素是獨(dú)立的隨機(jī)變量,則隨著這些隨機(jī)變量個(gè)數(shù)的增加,隨機(jī)誤差項(xiàng)u服從正態(tài)分布。四、線性回歸模型的基本假定57四、線性回歸模型的基本假定假定5:解釋變量x1,x2,…,xi是非隨機(jī)的確定性變量,并且解釋變量間互不相關(guān)。則這說明yi的概率分布具有均值,即E(yi|xi)=E(0+1xi
+ui)=0+1xi該式被稱為總體回歸函數(shù)。如果兩個(gè)或多個(gè)解釋變量間出現(xiàn)了相關(guān)性,則說明該模型存在多重共線性問題。四、線性回歸模型的基本假定58五、線性回歸模型的檢驗(yàn)1.擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn)用來驗(yàn)證回歸模型對(duì)樣本觀測(cè)值(實(shí)際值)的擬合程度,可通過R2統(tǒng)計(jì)量來檢驗(yàn)。
五、線性回歸模型的檢驗(yàn)59五、線性回歸模型的檢驗(yàn)1.擬合優(yōu)度檢驗(yàn)公式
三者的關(guān)系為TSS=RSS+ESS
TSS為總體平方和,RSS為殘差平方和,ESS為回歸平方和。五、線性回歸模型的檢驗(yàn)60五、線性回歸模型的檢驗(yàn)1.擬合優(yōu)度檢驗(yàn)總體平方和(TSS)反映了樣本觀測(cè)值總體離差的大小,也被稱為離差平方和;殘差平方(RSS)說明的是樣本觀測(cè)值與估計(jì)值偏離的程度,反映了因變量總的波動(dòng)中未被回歸模型所解釋的部分;回歸平方和(ESS)反映了擬合值總體離差大小,這個(gè)擬合值是根據(jù)模型解釋變量算出來的。五、線性回歸模型的檢驗(yàn)總體平方和(TSS)反映了樣本觀測(cè)值61五、線性回歸模型的檢驗(yàn)1.擬合優(yōu)度檢驗(yàn)擬合優(yōu)度R2的計(jì)算公式為R2=ESS/TSS=1-RSS/TSS當(dāng)回歸平方(ESS)和與總體平方和(TSS)較為接近時(shí),模型的擬合程度較好;反之,則模型的擬合程度較差。因此,模型的擬合程度可通過這兩個(gè)指標(biāo)來表示。五、線性回歸模型的檢驗(yàn)擬合優(yōu)度R2的計(jì)算公式為62五、線性回歸模型的檢驗(yàn)2.顯著性檢驗(yàn)變量顯著性檢驗(yàn)(t檢驗(yàn))
檢驗(yàn)中的原假設(shè)為:
H0:i=0,備擇假設(shè)為:
H1:i
≠0,如果原假設(shè)成立,表明解釋變量x對(duì)被解釋變量y沒有顯著的影響;當(dāng)原假設(shè)不成立時(shí),表明解釋變量x對(duì)被解釋變量y有顯著的影響,此時(shí)接受備擇假設(shè)。
五、線性回歸模型的檢驗(yàn)變量顯著性檢驗(yàn)(t檢驗(yàn))63五、線性回歸模型的檢驗(yàn)2.顯著性檢驗(yàn)方程顯著性檢驗(yàn)(F檢驗(yàn))
原假設(shè)為:
H0:1=0,2=0,…,k=0,備擇假設(shè)為:
H1:i中至少有一個(gè)不為0,
如果原假設(shè)成立,表明解釋變量x對(duì)被解釋變量y沒有顯著的影響;當(dāng)原假設(shè)不成立時(shí),表明解釋變量x對(duì)被解釋變量y有顯著的影響,此時(shí)接受備擇假設(shè)。
五、線性回歸模型的檢驗(yàn)方程顯著性檢驗(yàn)(F檢驗(yàn))64五、線性回歸模型的檢驗(yàn)2.顯著性檢驗(yàn)方程顯著性檢驗(yàn)(F檢驗(yàn))
F統(tǒng)計(jì)量為該統(tǒng)計(jì)量服從自由度為(k,n-k-1)的F分布。給定一個(gè)顯著性水平α,當(dāng)F統(tǒng)計(jì)量的數(shù)值大于該顯著性水平下的臨界值Fα(k,n-k-1)時(shí),則在(1-α)的水平下拒絕原假設(shè)H0,即模型通過了方程的顯著性檢驗(yàn),模型的線性關(guān)系顯著成立。
五、線性回歸模型的檢驗(yàn)方程顯著性檢驗(yàn)(F檢驗(yàn))65五、線性回歸模型的檢驗(yàn)3.異方差性檢驗(yàn)(1)圖示檢驗(yàn)法圖示檢驗(yàn)法通過散點(diǎn)圖來判斷用OLS方法估計(jì)的模型異方差性,這種方法較為直觀。通常是先將回歸模型的殘差序列和因變量一起繪制一個(gè)散點(diǎn)圖,進(jìn)而判斷是否存在相關(guān)性,如果兩個(gè)序列的相關(guān)性存在,則該模型存在異方差性。
五、線性回歸模型的檢驗(yàn)66五、線性回歸模型的檢驗(yàn)3.異方差性檢驗(yàn)(1)圖示檢驗(yàn)法檢驗(yàn)步驟:建立方程對(duì)象進(jìn)行模型的OLS(最小二乘)估計(jì),此時(shí)產(chǎn)生的殘差保存在主窗口界面的序列對(duì)象resid中。建立一個(gè)新的序列對(duì)象,并將殘差序列中的數(shù)據(jù)復(fù)制到新建立的對(duì)象中。然后選擇主窗口中的“Quick”|“Graph”|“Scatter”選項(xiàng),生成散點(diǎn)圖,進(jìn)而可判斷隨機(jī)項(xiàng)是否存在異方差性。
五、線性回歸模型的檢驗(yàn)67五、線性回歸模型的檢驗(yàn)3.異方差性檢驗(yàn)(2)懷特(White)檢驗(yàn)法檢驗(yàn)步驟:用OLS(最小二乘法)估計(jì)回歸方程,得到殘差e。作輔助回歸模型:求輔助回歸模型的擬合優(yōu)度R2的值。White檢驗(yàn)的統(tǒng)計(jì)量服從χ2分布,即N·R2~χ2(k)其中,N為樣本容量,k為自由度,k等于輔助回歸模型()中解釋變量的個(gè)數(shù)。如果χ2值大于給點(diǎn)顯著性水平下對(duì)應(yīng)的臨界值,則可以拒絕原假設(shè),即存在異方差;反之,接受原假設(shè),即不存在異方差。五、線性回歸模型的檢驗(yàn)(2)懷特(White)檢驗(yàn)法68五、線性回歸模型的檢驗(yàn)3.異方差性檢驗(yàn)(2)懷特(White)檢驗(yàn)法White檢驗(yàn)的統(tǒng)計(jì)量服從χ2分布,即N·R2~χ2(k)其中,N為樣本容量,k為自由度,k等于輔助回歸模型()中解釋變量的個(gè)數(shù)。如果χ2值大于給點(diǎn)顯著性水平下對(duì)應(yīng)的臨界值,則可以拒絕原假設(shè),即存在異方差;反之,接受原假設(shè),即不存在異方差。五、線性回歸模型的檢驗(yàn)(2)懷特(White)檢驗(yàn)法69五、線性回歸模型的檢驗(yàn)3.異方差性檢驗(yàn)(2)懷特(White)檢驗(yàn)法在EViews5.1軟件中選擇方程對(duì)象工具欄中的“View”|“ResidualTests”|“WhiteHeteroskedasticity”選項(xiàng)即可完成操作。五、線性回歸模型的檢驗(yàn)(2)懷特(White)檢驗(yàn)法70五、線性回歸模型的檢驗(yàn)3.異方差性檢驗(yàn)異方差性的后果:當(dāng)模型出現(xiàn)異方差性時(shí),用OLS(最小二乘估計(jì)法)得到的估計(jì)參數(shù)將不再有效;變量的顯著性檢驗(yàn)(t檢驗(yàn))失去意義;模型不再具有良好的統(tǒng)計(jì)性質(zhì),并且模型失去了預(yù)測(cè)功能。
五、線性回歸模型的檢驗(yàn)異方差性的后果:71五、線性回歸模型的檢驗(yàn)4.序列相關(guān)檢驗(yàn)方法:(1)杜賓(D.W.—Durbin-Watson)檢驗(yàn)法(2)LM(拉格朗日乘數(shù)—LagrangeMultiplier)檢驗(yàn)法五、線性回歸模型的檢驗(yàn)方法:72五、線性回歸模型的檢驗(yàn)4.序列相關(guān)檢驗(yàn)(1)杜賓(D.W.—Durbin-Watson)檢驗(yàn)法
J.Durbin,G.S.Watson于1950年提出了D.W.檢驗(yàn)法。它是通過對(duì)殘差構(gòu)成的統(tǒng)計(jì)量來判斷誤差項(xiàng)ut是否存在自相關(guān)。D.W.檢驗(yàn)法用來判定一階序列相關(guān)性的存在。D.W.的統(tǒng)計(jì)量為五、線性回歸模型的檢驗(yàn)(1)杜賓(D.W.—Durbi73五、線性回歸模
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 2025年度總經(jīng)理職位任期及薪酬激勵(lì)勞動(dòng)合同
- 2025年度私人租賃住宅租賃合同
- 2025公司企業(yè)會(huì)議室租賃合同
- 2025中外買方信貸借款合同范本
- 2025借款合同協(xié)議
- 《義務(wù)教育法》知識(shí)考試復(fù)習(xí)題庫(kù)(含答案)
- (技師)化學(xué)檢驗(yàn)工職業(yè)技能鑒定理論考試題庫(kù)(含答案)
- 年產(chǎn)1000噸納米復(fù)合氧化鋯項(xiàng)目可行性研究報(bào)告寫作模板-申批備案
- 2025年江西外語(yǔ)外貿(mào)職業(yè)學(xué)院高職單招職業(yè)適應(yīng)性測(cè)試近5年常考版參考題庫(kù)含答案解析
- 2025年新疆工業(yè)職業(yè)技術(shù)學(xué)院高職單招職業(yè)技能測(cè)試近5年常考版參考題庫(kù)含答案解析
- 房地產(chǎn)調(diào)控政策解讀
- 產(chǎn)前診斷室護(hù)理工作總結(jié)
- 2024-2025學(xué)年八年級(jí)數(shù)學(xué)人教版上冊(cè)寒假作業(yè)(綜合復(fù)習(xí)能力提升篇)(含答案)
- 《AP內(nèi)容介紹》課件
- 醫(yī)生定期考核簡(jiǎn)易程序述職報(bào)告范文(10篇)
- 安全創(chuàng)新創(chuàng)效
- 《中國(guó)糖尿病防治指南(2024版)》更新要點(diǎn)解讀
- 初級(jí)創(chuàng)傷救治課件
- 2024年社會(huì)工作者(中級(jí))-社會(huì)綜合能力考試歷年真題可打印
- 《處理人際關(guān)系》課件
- 五年級(jí)行程問題應(yīng)用題100道
評(píng)論
0/150
提交評(píng)論