自回歸移動平均模型

第二章自回歸移動平均模型一些金融時間序列的變動往往呈現(xiàn)出一定的平穩(wěn)特征，由Box和Jenkins創(chuàng)立的ARMA模型就是借助時間序列的隨機(jī)性來描述平穩(wěn)序列的相關(guān)性信息，并由此對時間序列的變化進(jìn)行建模和預(yù)測。第一節(jié)ARMA模型的基本原理ARMA模型由三種基本的模型構(gòu)成：自回歸模型(AR，Auto-regressiveModel)，移動平均模型(MA，MovingAverageModel)以及自回歸移動平均模型(ARMA，Auto-regressiveMovingAverageModel)02.1.1自回歸模型的基本原理AR模型的基本形式AR模型的一般形式如下：y=c+。y+。yH。y+￡t1t-12t-2pt-pt其中，c為常數(shù)項，%,。2…。p模型的系數(shù)，8t為白噪聲序列。我們稱上述方程為p階自回歸模型，記為AR(p)。AR模型的平穩(wěn)性此處的平穩(wěn)性是指寬平穩(wěn)，即時間序列的均值，方差和自協(xié)方差均與時刻無關(guān)。即若時間序列｛y』是平穩(wěn)的，即E(y)=H,Var(y)=。2,Cov(y,y)=。2。ttttt-ss為了描述的方便，對式(2.1)的滯后項引入滯后算子。若yt=,］，定義算子“l(fā)”，使得y=Lx=xL稱為滯后算子。由此可知，Lkx=x。ttt—1，tt—k對于式子(2.1)，可利用滯后算子改寫為：y=c+。Ly+。Ly+??,+。Lpy+8t1t2tptt移項整理，可得：(1-0L-。L-.??-。Lp)y=c+8AR(p)的平穩(wěn)性條件為方程1-qL-%L2°^Lp=0的解均位于單位圓外。AR模型的統(tǒng)計性質(zhì)AR模型的均值。假設(shè)AR(p)模型是平穩(wěn)的，對AR(p)模型兩邊取期望可得：且y)=E(c+°y+°y+°y+8)TOC\o"1-5"\h\zt1t-12t-2pt-pt根據(jù)平穩(wěn)序列的定義知，E(yt)=|i，由于隨即干擾項為白噪聲序列，所以E(8)=0，因此上式可化簡為：(1—°—°——°)日=°所以，日=_7￡0T—1-°-°°AR模型的方差。直接計算AR(p)模型的方差較困難，這里引入Green函數(shù)。AR(p)模型可以改寫成如下形式：￡y——古—t①(L)設(shè)氣...人p為平穩(wěn)AR(p)模型的反特征根，則0(L)=1項L頃L-頃Lp=rf(1-人L)TOC\o"1-5"\h\z12pii=1進(jìn)一步，￡tiit-jjt-jj=0i=1j=0iii=1j=0yU；…室k(")j￡=E&2空Gi=1i其中，k.為常數(shù)，G=Yk￡tiit-jjt-jj=0i=1j=0iii=1j=0對上式兩邊取方差，可得：var(y)=芝G2var(s)tjt-jj=0由于隨機(jī)干擾項為白噪聲序列，所以var(￡t-「=6。因?yàn)镚reen函數(shù)是呈負(fù)指數(shù)下降，所以若G2V8，這說明平穩(wěn)時間序列方差有界，且等于常數(shù)切G2^2。j=0j=0自協(xié)方差函數(shù)。假設(shè)將原序列已經(jīng)中心化，則E(y,)=0，則對AR(p)模型等號兩邊同時乘以yt-Ek>1)，兩邊取期望得：E(yy)=8E(yy)+8E(yy)+...+8E(yy)+E(￡y)tt—k1t-1t—k2t—2t—kpt—pt—ktt—k因?yàn)楫?dāng)期的隨機(jī)干擾項與過去的時間序列值無關(guān)，所以：E(￡y—-k)=0。因此，上式可以化為：r=8/+8r++8r其中二，表示*階自協(xié)方差。2.1.2移動平均模型的基本原理MA模型的基本形式MA模型的一般形式如下：y=U+8+0&+0&+…+0&tt1t—12t—2qt—q其中，u為常數(shù)項，01，02-0p為模型的系數(shù)，8t為白噪聲序列。我們稱上述方程為q階移動平均模型，記為MA(q)。2、MA模型的可逆性對于一個MA(q)模型：y—U+8+08+08+,…+08tt1t—12t—2qt—q將其寫成滯后算子的形式：y—u=(1+01L+02L2+???+0Lq)8若方程1+0]L+02L2+…+0盧=0的根全部落在單位圓外，則稱MA模型是可逆的?？赡嫘钥梢员ＷCMA模型可以改寫成：V(L)(yt—u)—81即MA模型可以轉(zhuǎn)化為AR模型，同時可以保證參數(shù)估計的唯一性。3、MA模型的數(shù)字特征均值當(dāng)q<3時，對于一般的ma(q)模型：y—u+8+08+08+L+08tt1t—12t—2qt—q兩邊取期望，可得：E(y)—E(u+8+08+08+L+08)—utt1t—12t—2qt—q即一般的MA(q)模型的期望值即為模型中的常數(shù)項。方差對MA(q)模型，兩邊取方差：Var(y)=Var(u+8+08+08+...+08)=(1+02+02+...+02)b2TOC\o"1-5"\h\ztt1t—12t一2qt一q12q協(xié)方差函數(shù)r=E(yy)=E[(u+8+08+08+...+08)(u+8+08+08+...+08)]ktt—kt1t—12t—2qt—qt—k1t—k—12t—k—2qt—k—q化簡可得：b2(1+02+02++02),k—012Pb2(0+00+...+00),0<k<qk1k+1q一kq0,k>q2.1.3自回歸移動平均模型的基本原理1、ARMA模型的基本形式ARMA模型的一般形式如下：y=c+?y+?y+…+?y+8+08+08+…+08t1t—12t—2pt—pt1t—12t—2pt—q顯然ARMA(p,q)模型可看成是AR(p)模型和MA(q)模型相結(jié)合的混合形式。2、ARMA模型的平穩(wěn)性和可逆性對于一個ARMA(p,q)模型，y=c+。y+。y+…+。y+8+08+08+…+08t1t—12t—2pt—pt1t—12t—2pt—q將其寫為滯后算子的形式：(1-蚌-。2L2—L-。Lp)y=c+(1+01L+02L+L+0L)8兩邊同時除以(1一。L—。L—L—。Lp)12pyt=日+w(L)81其中：c日=1-。-。—-01+0L+0L++0LW(L)=12q—)1—01—02—...—0p由此可以看出，ARMA模型的平穩(wěn)性完全取決于AR（p）模型的參數(shù)，與MA（q）模型的參數(shù)無關(guān)。類似地，ARMA模型的可逆性完全取決于MA（q）模型的參數(shù)，與AR（p）模型的參數(shù)無關(guān)。3、ARMA模型的數(shù)字特征（1）期望對于一個一般的ARMA（p,q）模型兩邊同時取期望，化簡得:'3')=1-01-02-?……—0p(2)自協(xié)方差函數(shù)TOC\o"1-5"\h\zr=E(yy)=印]EG8)(￡G8)]ktt+kit—ijt+k—ji=0j=0=E[EGEG88]i=0j=0V^=b2芝GGii+ki=0第二節(jié)時間序列的相關(guān)性分析與平穩(wěn)性2.2.1時間序列的自相關(guān)系數(shù)2.2.1.1自相關(guān)函數(shù)（ACF）1、AR3）的自相關(guān)函數(shù)在上一節(jié)中已經(jīng)介紹了AR（p）模型的協(xié)方差函數(shù)滿足下式：r=。r.+。r++。r由于自相關(guān)系數(shù)P=―，因此：kr0P=。P+。P++。Pk1k-12k-2pk-p該式表示自相關(guān)系數(shù)滿足p階差分方程。根據(jù)差分方程解的性質(zhì)，上差分方程的通解可以寫為：P(k)=^Pc*iii=1其中，ci為任意不全為0的常數(shù)，?：是滯后多項式的反特征根。根據(jù)平穩(wěn)性的性質(zhì),■::::】。從自相關(guān)系數(shù)的一般形式可看出，：；：始終不為0，但是隨著滯后階數(shù)的增加，自相關(guān)系數(shù)慢慢逼近0，在圖形上表現(xiàn)出一定的拖尾性。2、MA模型的自相關(guān)函數(shù)根據(jù)上一節(jié)推導(dǎo)的MA模型的自協(xié)方差函數(shù)的表達(dá)式，MA模型的自相關(guān)函數(shù)表示為:1,k=0P=￡」1+哄+1++七巳,0<k<qkY1+02+02±.+02[0,k>q...P因此，當(dāng)k>q時，自相關(guān)函數(shù)為0，也就是說MA（q）模型的自相關(guān)函數(shù)在q步以后是截尾的。3、ARMA模型的自相關(guān)函數(shù)根據(jù)ARMA模型的自協(xié)方差函數(shù)，不難得到ARMA模型的自相關(guān)函數(shù)：y\r—GGYii+kP=—^=-4=0kY0￡G2ii=0由此可以看出，ARMA模型的自相關(guān)函數(shù)不具有截尾性。事實(shí)上，ARMA模型若滿足可逆性，其形式相當(dāng)于一個無窮階的AR模型，因此自相關(guān)函數(shù)與AR模型一樣具有拖尾性。2.2.1.2偏自相關(guān)函數(shù)（PACF）1、偏自相關(guān)函數(shù)的定義自相關(guān)函數(shù)上不能純粹地表示」:與之間的相關(guān)性，兩者的相關(guān)性還會受到「-:一、……「"的間接影響，為了單純地表示「:與「土之間的相關(guān)性，這里引入偏自相關(guān)函數(shù)。偏自相關(guān)函數(shù)表示在固定J「_、「M「：……「—的情況下「:與之間的相關(guān)性。下面介紹偏自相關(guān)函數(shù):上4的計算方法。設(shè)序列yt可由下回歸方程估計：y=gy+gy++^y+^y+￡tk1t-1k2t-2kk-1t-k+1kkt-kt根據(jù)回歸方程的性質(zhì);?式中估計系數(shù)二:■:即為偏自相關(guān)函數(shù)。為了估計回歸系數(shù)，采用OLS方法,即L=E(y-中y-中y-...-中y-中y)2達(dá)到最小。tk1t-1k2t-2kk-1t-k+1kkt-k對L關(guān)于各回歸系數(shù)求偏導(dǎo)；可得到以下方程組：p*p+gp++gpTOC\o"1-5"\h\zk10k21kkk-1P*P+?P++?pk11k20…kkk-2p*p+^p++^pkk1k-1k2k-2kk0該方程組稱為Yule-Wolker方程。根據(jù)自相關(guān)系數(shù),求解Y-W方程即可得到偏自相關(guān)系數(shù)。2、AR(p)的偏自相關(guān)函數(shù)對于AR(p)模型；；*時；pkL=E((St+￡(中j一甲kj)￥t—j-￡tPkjyt-j))2j=i】=p+i由于二與序列的滯后項無關(guān),因此：：；且當(dāng)=(%,1<j<P氣，0,p+1<j<k由此；AR(p)模型的偏自相關(guān)函數(shù)二:■:在k>p后等于0；即AR(p)模型的偏自相關(guān)函數(shù)具有截尾性。事實(shí)上；AR模型偏相關(guān)函數(shù)的截尾性也可直接從該模型的表達(dá)式看出°AR(p)模型實(shí)質(zhì)上假設(shè)序列至多只與滯后p階的值相關(guān)；因此偏自相關(guān)函數(shù)至多在p階處非0。3、MA(q)和ARMA(p；q)的偏自相關(guān)函數(shù)由于MA(q)和ARMA(p；q)相當(dāng)于無窮階的AR模型；因此這兩個模型的偏自相關(guān)函數(shù)均不具有截尾性；而是拖尾性。2.2.1.3ARMA模型自相關(guān)系數(shù)與偏自相關(guān)系數(shù)的估計與檢驗(yàn)根據(jù)以上分析,不同ARMA模型自相關(guān)系數(shù)與偏自相關(guān)系數(shù)的表現(xiàn)存在明顯的差異。表2.1給出了三類模型ACF與PACF的特征。表2.1ARMA類模型ACF與PACF的特征模型自相關(guān)系數(shù)偏自相關(guān)函數(shù)AR(p)拖尾p階截尾MA(q)q階截尾拖尾ARMA(p；q)拖尾拖尾因此；我們可以通過觀察偏自相關(guān)函數(shù)來識別并確定AR模型的滯后階數(shù),通過自相關(guān)函數(shù)來識別并確定MA模型的滯后階數(shù)q。那么對于給定的樣本數(shù)據(jù)；如何估計樣本ACF與PACF；并從統(tǒng)計角度檢驗(yàn)兩者是否為0呢？下面分別介紹ACF與PACF的估計與檢驗(yàn)。1、樣本ACF與PACF的估計與實(shí)現(xiàn)對于給定樣本,只需估計樣本的自協(xié)方差與方差,將兩者相除即可得到樣本ACF。具體而言,樣本自協(xié)方差表示為：Yk=潔下￡風(fēng)-y)fri+t-y)i=i其中"表示樣本均值。那么SACF二"：。對于PACF主要是利用Yule-Wolker方程求解。當(dāng)滯后階數(shù)較大時，Y-W方程直接計算較難，目前多采用遞推算法來求解。2、樣本ACF與PACF的顯著性檢驗(yàn)常用的檢驗(yàn)方法主要包括兩類：正態(tài)檢驗(yàn)法和Portmanteau檢驗(yàn)法。若序列滿足獨(dú)立性，則由統(tǒng)計漸進(jìn)分布的有關(guān)定理可知，當(dāng)樣本個數(shù)充分大時，ACF和PACF均滿足均值為0,方差1/T的正態(tài)分布，即<<■■：■■■二二，y二。因此若上.=，：*<：：：■*?二則可認(rèn)為樣本數(shù)據(jù)是獨(dú)立的，即自相關(guān)系數(shù)和偏自相關(guān)系數(shù)均不顯著異于0。該檢驗(yàn)法即為正態(tài)檢驗(yàn)法。Portmanteau檢驗(yàn)法是聯(lián)合檢驗(yàn)法，即檢驗(yàn)直到k階的自相關(guān)系數(shù)是否同時為0。該檢驗(yàn)法使用Q統(tǒng)計量進(jìn)行檢驗(yàn)。Q統(tǒng)計量具體形式為：Q=T(T+2)Zj=i其中T為樣本容量，k為設(shè)定的滯后階數(shù)。Q統(tǒng)計量服從?「土分布。當(dāng)Q統(tǒng)計量超過設(shè)定的臨界值時，就拒絕原假設(shè)，即序列至少存在k階以內(nèi)的自相關(guān)性。2.2.2時間序列平穩(wěn)性檢驗(yàn)建立ARMA的前提是序列是平穩(wěn)的。檢驗(yàn)平穩(wěn)性常用的方法主要有三種：經(jīng)驗(yàn)法、自/偏自相關(guān)系數(shù)法、單位根檢驗(yàn)法。1、經(jīng)驗(yàn)法經(jīng)驗(yàn)法是通過觀察圖形的方式來初步判斷時間序列是否平穩(wěn)的。首先畫出時間序列的圖形，如果該圖形圍繞某一直線上下以較小的幅度波動，則該序列一般是平穩(wěn)的，否則是不平穩(wěn)的。2、自/偏自相關(guān)系數(shù)法由于ARMA模型的自/偏自相關(guān)系數(shù)要么是截尾的，要么是拖尾的，因此可以觀察時間序列的自/偏自相關(guān)圖，如果時間序列的自/偏自相關(guān)系數(shù)從某個滯后期開始均與0無差異，可以認(rèn)為該時間序列是平穩(wěn)的；若自/偏自相關(guān)系數(shù)衰減很慢，且與0存在明顯的差異，則時間序列是非平穩(wěn)的。3、單位檢驗(yàn)法常用的單位根檢驗(yàn)法主要包括DF檢驗(yàn)法和ADF檢驗(yàn)法。(1)DF檢驗(yàn)法DF檢驗(yàn)包括三種形式：七=叫_1+￡t七=叫_i+c+￡七y=Py+c+&+8其中，c為常數(shù)項，51表示線性趨勢，隨機(jī)干擾項獨(dú)立同分布，且服從N（0,c2）。根據(jù)平穩(wěn)性的概念，若序列yt是不平穩(wěn)的，則回歸系數(shù)臼企1。一般較易識別。因此判斷序列yt是否平穩(wěn)，主要是判斷0是否為1。如果P=1，則說明序列存在單位根,是不平穩(wěn)的，否則是平穩(wěn)的。進(jìn)一步，上述三個方程兩邊同時減去y，得：-1Ay=Xy+8Ay=Xy+c+8Ay=Xy+c+51+8其中，p=P-1，因此可以將DF檢驗(yàn)的原假設(shè)和備擇假設(shè)分別為：H:p=0H:p<0相應(yīng)的統(tǒng)計量為：-'std（p）DF的形式與t統(tǒng)計量相似，但是該統(tǒng)計量并不服從t分布，Dickey和Fuller（1979）給出了利用蒙特卡羅模擬方法模擬的臨界值，因此該檢驗(yàn)稱為DF檢驗(yàn)。DF檢驗(yàn)是左側(cè)檢驗(yàn),且不同形式的方