第四章多元回歸分析：推斷

1、第四章第四章 多元回歸分析：推斷多元回歸分析：推斷受教育年限與每小時(shí)工資0.01440.7241yx 如果受教育年限的單位為月0.0144(0.7241/12)(12 )0.01440.0603yxz 0.0144(0.7241/365)(365 )0.01440.0020yxw 如果受教育年限的單位為日OLS估計(jì)量的抽樣分布估計(jì)量的抽樣分布高斯高斯-馬爾科夫假定馬爾科夫假定假定假定1：關(guān)于參數(shù)線性：關(guān)于參數(shù)線性 y= 0 + 1 x1 + 2 x2 + + k xk + u假定假定2：隨機(jī)抽樣：隨機(jī)抽樣假定假定3：不存在完全共線性：不存在完全共線性假定假定4：零條件均值：零條件均值 E(u|

2、x1, x2 , , xk ) = 0假定假定5：同方差性：同方差性 Var(u|x1 , , xk ) =2OLS估計(jì)量是估計(jì)量是BULUE 線性性、無(wú)偏性、最小方差性線性性、無(wú)偏性、最小方差性CLM假定假定高斯高斯- -馬爾科夫假定馬爾科夫假定假定假定6 6：正態(tài)性：正態(tài)性 u N(0,2)CLM假定下，y的條件分布： y=0+1x1+2x2+kxk+u y|x N( 0+ 1x1+ 2x2+ kxk, 2) 在在CLM假定下，假定下，OLS估計(jì)量估計(jì)量 的抽樣分布是什么？的抽樣分布是什么？j線性性線性性 服從正態(tài)分布服從正態(tài)分布j無(wú)偏性無(wú)偏性 的期望為的期望為jj方差方差22Var()

3、=(1-)jjjSSTR 定理定理4.14.1： CLM假定下，以自變量假定下，以自變量x為條件，有為條件，有,Var()jjjN(0,1)sd()Var()jjjjjjN檢驗(yàn)單參數(shù)假設(shè)：檢驗(yàn)單參數(shù)假設(shè)：t檢驗(yàn)檢驗(yàn)H0：1=0 H1： 10 零假設(shè)與備擇假設(shè)) 1 , 0(21211NxxZii構(gòu)造統(tǒng)計(jì)量0受教育年限與每小時(shí)工資01iiiyxu(0,1)sd()jjjN Z檢驗(yàn) Z檢驗(yàn)與t檢驗(yàn)(0,1)sd()jjjN2sd() =(1-)jjjSSTR 定理定理4.24.2：標(biāo)準(zhǔn)化估計(jì)量的：標(biāo)準(zhǔn)化估計(jì)量的t分布分布 CLM假定下，以自變量假定下，以自變量x為條件，有為條件，有(1)se()j

4、jjt nk2se()=(1-)jjjSSTR 顯著性檢驗(yàn)（顯著性檢驗(yàn)（t檢驗(yàn)）檢驗(yàn)）原假設(shè)（原假設(shè)（null hypothesis）：）：例子：例子：原假設(shè)（H0: 3=0）意味著，教育水平和工作經(jīng)驗(yàn)相同時(shí)，男性和女性的工資沒有差異。 log(wage)= 0+1 educ+2exper+3female+u 對(duì)于一元回歸，斜率系數(shù)的顯著性檢驗(yàn)： y=0+1x +u 原假設(shè)（H0: 1=0）意味著什么？H0：j=0 原假設(shè)與備擇假設(shè)（原假設(shè)與備擇假設(shè)（alternative hypothesis） 如原假設(shè)不成立，該如何：雙側(cè)備擇假設(shè)： 相應(yīng)的檢驗(yàn)為雙側(cè)檢驗(yàn)雙側(cè)檢驗(yàn)（two-tailed te

5、st)單側(cè)備擇假設(shè)： 或者 相應(yīng)的檢驗(yàn)為單側(cè)檢驗(yàn)單側(cè)檢驗(yàn)（one-tailed test)H0：j=0 H1： j0 H0：j=0 H1： j0H0：j=0 H1： j0 備擇假設(shè)： 左側(cè)是拒絕域。H1： j0 se()se()jjjjjjt y=0+1x1+2x2+kxk+u若若 ，拒絕，拒絕H0，xj對(duì)對(duì)y的影響是統(tǒng)計(jì)顯著的。的影響是統(tǒng)計(jì)顯著的。 (1)jttnk(1)jttnk若若 ，不能拒絕，不能拒絕H0，xj對(duì)對(duì)y的影響統(tǒng)計(jì)上不顯著。的影響統(tǒng)計(jì)上不顯著。 若原假設(shè)和備擇假設(shè)為：統(tǒng)計(jì)量的計(jì)算相同，判定規(guī)則不同：?jiǎn)蝹?cè)檢驗(yàn)和雙側(cè)檢驗(yàn)的比較：t統(tǒng)計(jì)量的計(jì)算及其數(shù)值完全相同，臨界值不同；查臨界

6、值時(shí)，t分布自由度相同，但如果顯著水平為， 雙側(cè)檢驗(yàn)使用/2，單側(cè)檢驗(yàn)使用；同樣的顯著水平下，單側(cè)檢驗(yàn)更容易拒絕原假設(shè)，得出 自變量統(tǒng)計(jì)顯著的結(jié)論。H0：j=0 H1： j0.05，接受原假設(shè)t(n-k-1)-t0.025t0.025p/20tp值0.05，接受原假設(shè)t(n-k-1)t0.05p0tp值0若對(duì)于（H0：j=0 H1： j0），應(yīng)如何計(jì)算？將給定的顯著性水平將給定的顯著性水平 與與p值比較：值比較：若若p值值 ，則在顯著性水平，則在顯著性水平 下拒絕原假設(shè)下拒絕原假設(shè)若若p值值 ，則在顯著性水平，則在顯著性水平 下不能拒絕原假設(shè)下不能拒絕原假設(shè)這一準(zhǔn)則對(duì)于所有的檢驗(yàn)都適用這一準(zhǔn)則

7、對(duì)于所有的檢驗(yàn)都適用用語(yǔ)的提醒不能拒絕=接受？經(jīng)濟(jì)或?qū)嶋H顯著性與統(tǒng)計(jì)顯著性經(jīng)濟(jì)或?qū)嶋H顯著性取決于參數(shù)估計(jì)值的大?。胺?hào)）統(tǒng)計(jì)顯著性取決于t統(tǒng)計(jì)量的值樣本很大的情況下，標(biāo)準(zhǔn)差很小，此時(shí)容易出現(xiàn)統(tǒng)計(jì)顯 著而經(jīng)濟(jì)意義上不顯著的情況使用較小的顯著水平樣本較小時(shí)，標(biāo)準(zhǔn)差較大，容易出現(xiàn)不顯著的情況 使用較大的顯著水平養(yǎng)老金計(jì)劃的參與率 其他問(wèn)題其他問(wèn)題培訓(xùn)津貼對(duì)企業(yè)廢品率的影響hrsemp顯著嗎？需要多大的顯著水平？ 多重共線性與統(tǒng)計(jì)顯著性多重共線性與統(tǒng)計(jì)顯著性回歸參數(shù)估計(jì)量的方差變大回歸參數(shù)估計(jì)量的方差變大多重共線性多重共線性使得使得t 統(tǒng)計(jì)量的值（統(tǒng)計(jì)量的值（ ）變小）變小( )tS 接受接受H0:

8、0（不顯著）的概率增大（不顯著）的概率增大 重要的解釋變量被舍去，檢驗(yàn)失去意義重要的解釋變量被舍去，檢驗(yàn)失去意義置信區(qū)間置信區(qū)間由于：由于：se()jjj由大括號(hào)內(nèi)不等式表示置信水平為由大括號(hào)內(nèi)不等式表示置信水平為1-時(shí)時(shí) j的的置信區(qū)間：置信區(qū)間：/2/2se()se()1jjjjjPtt 得：得：/2/2se(),se()jjjjjttP t /2 = 1- -t /2 0 t /2 (1.082.045 0.06, 1.082.045 0.06)(0.96, 1.21)研發(fā)支出模型研發(fā)支出模型2log()4.38 1.08log()0.022arg (0.47) (0.06) (0.02

9、2) =32 R =0.918rdsalesprofmn ，log(sales)系數(shù)的置信區(qū)間：考慮柯布道格拉斯生產(chǎn)函數(shù)模型： Q=AKL對(duì)數(shù)化處理后，建立相應(yīng)的計(jì)量模型為：ln Q=lnA+lnK+lnL+u關(guān)于規(guī)模報(bào)酬不變的原假設(shè)可以表示為：H0：+=1 H1： +1 如何通過(guò)模型變換，利用如何通過(guò)模型變換，利用t檢驗(yàn)對(duì)上述假設(shè)進(jìn)行檢驗(yàn)？檢驗(yàn)對(duì)上述假設(shè)進(jìn)行檢驗(yàn)？檢驗(yàn)關(guān)于參數(shù)的單個(gè)線性組合假設(shè)檢驗(yàn)關(guān)于參數(shù)的單個(gè)線性組合假設(shè)定義參數(shù)：原假設(shè)變換為：t統(tǒng)計(jì)量：其中 = +H0： =1 H1： 11se( )t=+ se( )=se()=Var()Var( )+2Cov(,) 能否直接將作為模型參

10、數(shù)進(jìn)行估計(jì)？原模型變換為:ln Q=lnA+lnK+(-)lnL+u 即： = + = - lnQ=lnA+ln(K/L)+lnL+u若定義參數(shù)：l原假設(shè)變?yōu)闃?biāo)準(zhǔn)的顯著性檢驗(yàn)：l應(yīng)如何對(duì)模型進(jìn)行變換？ = +-1H0： =0 H1： 1任意關(guān)于參數(shù)單個(gè)線性單個(gè)線性組合的檢驗(yàn)都可以同樣處理！多受一年?？平逃幕貓?bào)比得上多一年本科教育嗎？將“待檢驗(yàn)的理論”轉(zhuǎn)化為關(guān)于參數(shù)的假設(shè)：定義參數(shù)1=1-2 ，原假設(shè)為變換后的模型： ln(wage)=0+ 1 jc +2univ + 3exper+uH0： 1 =2 H1： 1 2H0：1 =0 H1：1 0 ln(wage)=0+1 jc +2totcol

11、l+3exper+utotcoll=jc+univ估計(jì)結(jié)果：5%顯著水平下，能認(rèn)為?？坪捅究频慕逃貓?bào)相同嗎？若令2=2 -1：原假設(shè)和備擇假設(shè)是什么？給出變換后的模型形式。能直接給出模型的估計(jì)結(jié)果嗎？結(jié)論會(huì)發(fā)生變化嗎？對(duì)于多元回歸模型： y=0+1 x1+2 x2+k xk + u若自變量x1、 x2、 xk都無(wú)助于解釋y，意味著什么？原假設(shè)和備擇假設(shè)：如何檢驗(yàn)？ 若原假設(shè)成立，SSE相對(duì)于SSR將很??？ 多個(gè)線性約束的檢驗(yàn)：多個(gè)線性約束的檢驗(yàn)：F檢驗(yàn)檢驗(yàn)H0： 1= 2= k=0 （或R2=0） H1： j(j=1,2,k)不全為零SST=SSE+SSR計(jì)算F統(tǒng)計(jì)量： 或者給定顯著性水平，

12、查找臨界值進(jìn)行判斷： 若：FF，拒絕原假設(shè)H0 認(rèn)為至少有某些自變量能夠解釋y 。/ ( ,-1)/(1)SSE kFF k n-kSSRnk22/(1)/(1)RkFRnk 多重共線性的典型表現(xiàn)多重共線性的典型表現(xiàn) 當(dāng)模型的擬合優(yōu)度（當(dāng)模型的擬合優(yōu)度（R2）很高，）很高，F(xiàn)值很高，但某些重要變量不值很高，但某些重要變量不顯著或符號(hào)與預(yù)期相反（方差很大，顯著或符號(hào)與預(yù)期相反（方差很大，t值很低），說(shuō)明解釋變量間值很低），說(shuō)明解釋變量間可能存在多重共線性?？赡艽嬖诙嘀毓簿€性。 例如：中國(guó)電信業(yè)務(wù)總量變化的影響因素是郵政業(yè)務(wù)總量、中國(guó)人口數(shù)、市鎮(zhèn)人口占總?cè)丝诘谋戎?、人均GDP、全國(guó)居民人均消費(fèi)水平

13、。 y = 24.94 + 2.16 x1 3.03 x2 + 33.7 x3 + 1.29 x4 - 2.03 x5+et (0.7) (1.6) (-0.8) (1.0) (1.5) (-1.2) R2 = 0.99, F = 106.3棒球運(yùn)動(dòng)員薪水模型：若控制加入聯(lián)盟的年份和每年參加比賽次數(shù)，運(yùn)動(dòng)員的 表現(xiàn)影響薪水嗎？原假設(shè)和備擇假設(shè)：排除性約束： 若原假設(shè)為真，控制其他變量的情況下，其對(duì)被解釋變 量沒有影響，應(yīng)該從模型排除！ ln(salary)=0+1 years+2gamesyr+3bavg+4hrunsyr+5rbisyr+uH0： 3= 4= 5=0 H1： 3、 4和 5不

14、全為零如何檢驗(yàn)？不能通過(guò)單個(gè)系數(shù)的顯著性檢驗(yàn)實(shí)現(xiàn)！模型中某些變量不顯著可能是多重共線性造成的，其中某個(gè)變量排除后，消除了共線性，其他不顯著的變量可能會(huì)變得顯著?？紤]兩種模型：不受約束模型：受約束模型，即認(rèn)為原假設(shè)成立原假設(shè)成立時(shí)的模型：若原假設(shè)真的成立，即 ，不受約束模 型和受約束模型的估計(jì)結(jié)果應(yīng)該差異不大，兩者的殘差平方和（SSR）應(yīng)該比較接近若原假設(shè)不成立，受約束回歸模型設(shè)定錯(cuò)誤，兩者的SSR差距較大受約束模型的殘差平方（ SSRr ）和一定不小于不受約束 模型的殘差平方和（ SSRur ），即 SSRr SSRur，為什么？ ln(salary)=0+1 years+2gamesyr+3

15、bavg+4hrunsyr+5rbisyr+u ln(salary)=0+1 years+2gamesyr+u 3= 4= 5=0 一般情形： y=0+1 x1+2 x2+k xk + u原假設(shè)和備擇假設(shè)：受約束模型： y=0+1 x1+2 x2+k-q xk-q + uF統(tǒng)計(jì)量：H0： k-q+1= k=0 H1： j(j=k-q+1,k)不全為零()/ ( ,-1)/(1)rururSSRSSRqFF q n-kSSRnk分子自由度q：原假設(shè)中約束條件個(gè)數(shù)原假設(shè)中約束條件個(gè)數(shù) 分母自由度n-k-1：無(wú)約束模型的自由度無(wú)約束模型的自由度F統(tǒng)計(jì)量的另一種形式給定顯著性水平，查找臨界值進(jìn)行判斷：

16、 若：FF，拒絕原假設(shè)H0 xk-q+1、xk是聯(lián)合顯著的。222()/ ( ,-1)(1)/(1)urrurRRqFF q n-kRnk 不受約束模型 受約束模型(198.311 183.186)/39.55183.186/(3536)F運(yùn)動(dòng)員的表現(xiàn)影響薪水嗎？F統(tǒng)計(jì)量和t統(tǒng)計(jì)量若原假設(shè)是單個(gè)參數(shù)約束，如 F檢驗(yàn)和t檢驗(yàn)的結(jié)論會(huì)一致嗎？完全一致，因?yàn)椋簠^(qū)別： t檢驗(yàn)可用于檢驗(yàn)單側(cè)單側(cè)對(duì)立假設(shè)， F檢驗(yàn)不行 對(duì)于單個(gè)參數(shù)約束，建議使用t檢驗(yàn)l問(wèn)題4.5（p143）H0：j=0 H1： j0 (1)Zt nk2(1,1)ZFnk對(duì)于模型： y=0+1 x1+2 x2+k xk + u原假設(shè)和備擇

17、假設(shè)：受約束模型： 將約束條件施加到模型參數(shù)中不受約束模型：原始模型F統(tǒng)計(jì)量：H0： 參數(shù)滿足q個(gè)約束條件 H1： q個(gè)約束條件不全部成立()/ ( ,-1)/(1)rururSSRSSRqFF q n-kSSRnk住房?jī)r(jià)格的決定方程：若住房評(píng)估理性，則住房出售價(jià)格完全決定于其評(píng)估價(jià) 值，評(píng)估價(jià)值既定時(shí)，建筑面積、使用面積和房間數(shù)應(yīng) 該對(duì)住房?jī)r(jià)格沒有影響。住房評(píng)估理性嗎？原假設(shè)和備擇假設(shè)： ln(price)=0+1 log(assess)+2log(lotsize)+3log(sqrft)+4bdrms+uH0： 1=1， 2= 3= 4=0 H1：約束條件不全成立不受約束回歸：受約束回歸 如何回歸？F統(tǒng)計(jì)量 ln(price)=0+ log(assess)+u ln(price)=0+1 log(assess)+2log(lotsize)+3log(sqrft)+4bdrms+u()/ 4 (4,5)/(5)rururSSRSSRFFn-SSRn規(guī)模報(bào)酬不變檢驗(yàn) ln Q=lnA+lnK+lnL+u原假設(shè)和備擇假設(shè)： H0：+=1 H1： +1 受約束回歸的形式？ p值=P(F F)F值p值將給定的顯著性水平將給定的顯著性水平 與與p值比較：值比較：若若p值值 ，則在顯著性水平，則在顯著性水平 下拒絕原假設(shè)