第十章多元線性回歸自相關(guān)問題

第十章序列相關(guān)問題一、序列相關(guān)性二、序列相關(guān)性的后果三、序列相關(guān)性的發(fā)現(xiàn)和判斷四、誤差序列相關(guān)的處理和克服1一、序列相關(guān)性的定義線性回歸模型假設(shè)要求對任意都成立誤差序列相關(guān)比較基本和重要類型——一階自回歸：其中滿足2二、序列相關(guān)性的后果1、參數(shù)估計(jì)量是無偏的和一致的，但不再是BLUE的，是非有效。2、OLS估計(jì)量的方差是有偏的3、檢驗(yàn)統(tǒng)計(jì)量不再生效，變量顯著性檢驗(yàn)失去意義。3、模型的預(yù)測失效。3三、序列相關(guān)性的發(fā)現(xiàn)和判斷（一）殘差序列圖分析如形成鋸齒形或循環(huán)狀，可斷定殘差序列存在相關(guān)4三、序列相關(guān)性的發(fā)現(xiàn)和判斷分析誤差序列相關(guān)殘差分布圖5三、序列相關(guān)性的發(fā)現(xiàn)和判斷例7.1美國進(jìn)口支出函數(shù)給出美國1968年到1987年期進(jìn)口支出與個(gè)人可支配收入（PDI）數(shù)據(jù)，建立美國支出函數(shù)模型，檢驗(yàn)殘差序列的自相關(guān)性。繪出殘差序列隨時(shí)間變化的趨勢繪出殘差序列與其滯后項(xiàng)6三、序列相關(guān)性的發(fā)現(xiàn)和判斷（二）回歸檢驗(yàn)法首先應(yīng)用OLS估計(jì)模型并求出ε的估計(jì)值即殘差e，然后以et

為被解釋變量，以各種可能的相關(guān)變量如等作為自變量進(jìn)行線性擬合如：對各種擬合形式進(jìn)行統(tǒng)計(jì)檢驗(yàn)，選擇顯著的最優(yōu)的擬合形式作為序列相關(guān)的具體形式。7三、序列相關(guān)性的發(fā)現(xiàn)和判斷（三）游程檢驗(yàn)游程：為同一符號或?qū)傩裕ɡ?或-)的一個(gè)不間斷歷程。如：記殘差的符號(+或-),有(+++++++)(-)(+++)(-----)(++++)總共有20個(gè)殘差構(gòu)成了5個(gè)游程。其中一個(gè)7個(gè)正值的游程（其長度為7）。若游程太多，則意味著e在頻繁地變換著符號，表明存在負(fù)的序列相關(guān)；如果游程太少，則意味著存在正的自相關(guān)。在殘差是獨(dú)立的假設(shè)下，史威德（Swed）和艾森哈特（Eisenhart）建立了游程檢驗(yàn)的臨界值。8三、序列相關(guān)性的發(fā)現(xiàn)和判斷（三）游程檢驗(yàn)令N為觀察值的總個(gè)數(shù)，N1表示+號（正的殘差）的個(gè)數(shù)，N2表示-號（負(fù)的殘差）的個(gè)數(shù)，k表示游程個(gè)數(shù)，在殘差是獨(dú)立的假設(shè)下，Swed-Eisenhart給出了游程檢驗(yàn)的上下臨界值，如果實(shí)際游程個(gè)數(shù)小于或等于下臨界值，或是大于或等于上臨界值，則可以拒絕零假設(shè)，說明所觀察的序列是隨機(jī)的實(shí)例7-2

利用游程檢驗(yàn)判斷美國抵押債務(wù)方程殘差項(xiàng)的自相關(guān)性9三、序列相關(guān)性的發(fā)現(xiàn)和判斷（四）杜賓-瓦爾森(D-W)檢驗(yàn)（適應(yīng)于一階自相關(guān)情況的檢驗(yàn)）DW檢驗(yàn)的原理對線性回歸模型如果誤差項(xiàng)有一階自回歸問題，那么其中的，是均值為0的獨(dú)立同分布隨機(jī)變量。

10三、序列相關(guān)性的發(fā)現(xiàn)和判斷根據(jù)和的性質(zhì)，有因此11三、序列相關(guān)性的發(fā)現(xiàn)和判斷考慮與有密切關(guān)系的DW統(tǒng)計(jì)量12三、序列相關(guān)性的發(fā)現(xiàn)和判斷檢驗(yàn)誤差序列正自相關(guān)性DW檢驗(yàn)區(qū)域圖

一階自相關(guān)無法判斷無一階自相關(guān)性無法判斷一階負(fù)自相關(guān)實(shí)例7-3

利用杜賓-瓦爾森檢驗(yàn)判斷美國抵押債務(wù)方程殘差項(xiàng)的自相關(guān)性13三、序列相關(guān)性的發(fā)現(xiàn)和判斷DW檢驗(yàn)序列相關(guān)性的主要不足：（1）D.W.統(tǒng)計(jì)量的擾動(dòng)項(xiàng)在原假設(shè)下依賴于系數(shù)矩陣X；（2）回歸方程右邊如果存在滯后變量，D.W.檢驗(yàn)不再有效；（3）僅僅檢驗(yàn)殘差是否存在一階序列相關(guān)

14三、序列相關(guān)性的發(fā)現(xiàn)和判斷（五）相關(guān)圖和Q統(tǒng)計(jì)量檢驗(yàn)序列相關(guān)可以應(yīng)用所估計(jì)回歸方程殘差序列的自相關(guān)和偏自相關(guān)系數(shù)以及Ljung-BoxQ統(tǒng)計(jì)量來檢驗(yàn)序列相關(guān)。Q統(tǒng)計(jì)量的表達(dá)式為其中rj是殘差序列的j階自相關(guān)系數(shù)，T為樣本容量，p為設(shè)定的滯后階數(shù)。

15三、序列瓜相關(guān)貝性的發(fā)現(xiàn)刺和判速斷（五往）相今關(guān)圖徹和Q統(tǒng)計(jì)桌量檢庸驗(yàn)序烘列相勉關(guān)p階滯劇后的Q統(tǒng)計(jì)論量的川原假燦設(shè)是野：序源列不泊存在p階自末相關(guān)核；備監(jiān)選假主設(shè)為腫：序涂列存廁在序跌列相嶼關(guān)。咬在實(shí)武際檢笑驗(yàn)中塞，通按常會(huì)潔計(jì)算元出不禽同滯聽后階襯數(shù)的Q統(tǒng)計(jì)勺量、滑自相焰關(guān)系紀(jì)數(shù)和標(biāo)偏自訊相關(guān)挺系數(shù)經(jīng)。如并果各機(jī)階Q統(tǒng)計(jì)雨量都鬧沒有肌超過黨臨界沙值，仇則接溉受原垃假設(shè)屯，即液不存竿在序獄列相彎關(guān)，糖并且期此時(shí)繪各階刷的自梢相關(guān)短和偏定自相志關(guān)系遲數(shù)都蔽接近棕于0；如簽果存訊在某扣一滯友后階頃數(shù)p，Q統(tǒng)計(jì)飄量超混過設(shè)邁定的群顯著易性水涂平的頸臨界乘值，灶則拒節(jié)絕原另假設(shè)棗，說莊明殘隱差存率在p階自兆相關(guān)向。16三、序列少相關(guān)象性的發(fā)現(xiàn)俯和判嶼斷（五胳）相愚關(guān)圖惱和Q統(tǒng)計(jì)帶量檢型驗(yàn)序漢列相逼關(guān)Ev劍ie鳥ws實(shí)現(xiàn)Vi端ew旋-R找es浩id娘ua搬l殿Te頸st佩s-Co針rr紡el餐og厚ra摘man畢d轟Q-刃st搖at碎is畜ti駁cs17三、序列調(diào)相關(guān)弓性的發(fā)現(xiàn)還和判竟斷（五扶）序拜列相濃關(guān)LM檢驗(yàn)LM檢驗(yàn)衣原假禍設(shè)為散：直候到p階滯除后不塵存在閱序列競相關(guān)確，p為預(yù)楊先定掘義好氧的整簽數(shù)；叔備擇罪假設(shè)喪為：尋存在p階自捏相關(guān)檢驗(yàn)蛋過程證：估疊計(jì)回覆歸方確程，案并求懸出殘?jiān)诓?，跨對原增始回牲歸變里量X和直盛到p階的屋滯后且殘差壺作回吹歸。LM檢驗(yàn)靈通常勻給出日兩個(gè)樸統(tǒng)計(jì)驗(yàn)量：F統(tǒng)計(jì)賴量和n×柱R2統(tǒng)計(jì)緣瑞量。F統(tǒng)計(jì)沾量是閱對以走上回辜?xì)w方恩程中名所有商滯后疏殘差述聯(lián)合微顯著稱性的脫檢驗(yàn)饒。n×四R2統(tǒng)計(jì)稼量是Br梁eu錘sc色h-G型od堵fr振ey仔L總M檢驗(yàn)權(quán)統(tǒng)計(jì)駕量，殊是觀屢測值巷個(gè)數(shù)n乘以觸以上香方程輸?shù)腞2,一般奔地它箏服從不漸近累地χ2(p)分布蒜。18三、序列智相關(guān)菊性的發(fā)現(xiàn)計(jì)和判揮斷（五驅(qū)）序用列相蜂關(guān)LM檢驗(yàn)在給弦定地嘴顯著枯性水奧平下經(jīng)，如銅果統(tǒng)脈計(jì)量腹大于紀(jì)臨界肺值，趁則說作明序皺列存艦在序慌列相鼠關(guān)性奶，否壤則不乏存在無序列貝相關(guān)鵲性。Ev悲ie齡ws實(shí)現(xiàn)Vi做ew悅-R疑es栗id愉ua睜l當(dāng)Te焰st條s-Co莊rr約el出og蹲ra址man卡d濾Q-彎st顫at需is敢ti介cs實(shí)例膜：美叨國的納投資港方程建立有美國戲國內(nèi)醫(yī)私人崇投資IN賴V和GN壯P平減義指數(shù)蒸、利息息率關(guān)之間秋的方籍程，盛并檢統(tǒng)驗(yàn)序突列相巷關(guān)性五。19四、辭誤差頃序列可相關(guān)映的處默理和逼克服（一益）一寇階差坦分法（二略）廣圾義差偉分法（三慚）杜令賓(Du勞rb捧in威)兩步光法（四舌）廣配義最進(jìn)小二潤乘法20（一律）一幫階差叮分法設(shè)線妖性回氏歸模載型為已知騰有很這強(qiáng)的里一階盛自相零關(guān)性載，即把滯津后一犧期的萍觀測球值代稱入變磨量關(guān)蛙系，婚得方娃程：可得21由于要，因閣此令桃，可得因?yàn)椴?，漿所以陽上式駝近似宰為注意駱相聯(lián)當(dāng)于DW趨于落0。22（二槳）廣浪義差休分法設(shè)線心性回勸歸模銳型為已知澇有一尚階自底相關(guān)爺性，未即把滯助后一地期的弓觀測攔值代杜入變滅量關(guān)垂系，靈得方儀程：23可得使根據(jù)毯可得如果笛記持，議所以久上式黨為24（三金）杜晴賓兩意步法從兩嘩變量重模型趨的廣撫義差層分式整理努后可略得,25接受瞧上述林多元撥線性兇回歸選得到拿的靜估鄰計(jì)值感，利逢用廣仇義差塌分變虧換，得到對它章進(jìn)行仰最小慈二乘亮估計(jì)內(nèi)，并部把估廟計(jì)回吃歸結(jié)吧果計(jì)呈算的和β1，作常為原薦模型惑參數(shù)陡的估腥計(jì)。26（四耐）廣忽義最導(dǎo)小二輝乘法廣義著最小夫二乘穩(wěn)法的楚一般吹原理設(shè)線放性回灶歸模侵型為其中墓但對伐進(jìn)彩行分宇析27（四違）廣冬義最捉小二拾乘法記得到其中藥誤差搞向量顫滿足對變褲換過徑的模央型進(jìn)甩行最噸小二嬌乘估掛計(jì)，輔得參坡數(shù)估代計(jì)28（四燦）廣屈義最女小二傳乘法以誤薪差序銹列一虹階自儲相關(guān)世問題歷為例設(shè)模斑型為其誤吊差滿處足其中繪，舒是梯均值招為0、獨(dú)軌立同場分布挽的隨廊機(jī)變佩量，踏且方痛差為。29（四嗽）廣昌義最褲小二示乘法不同甜時(shí)期串誤差義之間齒的協(xié)沖方差旋可以冬表示曲為：由于30（四架）廣陳義最栗小二留乘法因此御可以晨得到六協(xié)方俱差矩罪陣，盯為31（五日）應(yīng)碎用舉