時間序列第三章ARMA模型的特性

第一節(jié)線性差分方程一、后移算子B定義為，從而前面的MA(m)模型、AR(n)模型和ARMA(n,m)模型可分別表示為：

其中：1整理ppt后移算子的性質(zhì):2整理ppt二、線性差分方程差分方程的通解為：可寫成這里這里，C

(t)是齊次方程通解，I(t)是特解。3整理ppt三、

齊次方程解的計算假定G1，G2，…，Gn是互不相同，那么在時刻t的通解：其中Ai為常數(shù)〔可由初始條件確定〕。無重根考慮齊次差分方程

4整理ppt重根設(shè)有d個相等的根，可驗證通解為對一般情形，

因此，齊次方程解是由衰減指數(shù)項、多項式、衰減正弦項，以及這些函數(shù)的組合混合生成的。齊次方程解便是5整理ppt請看例題6整理ppt定義：設(shè)零均值平穩(wěn)序列

第二節(jié)格林函數(shù)(Green’sfunction)和平穩(wěn)性(Stationarity)一、格林函數(shù)(Green’sfunction)能夠表示為那么稱上式為平穩(wěn)序列的傳遞形式，式中的加權(quán)系數(shù)

稱為格林〔Green〕函數(shù)，其中7整理ppt格林函數(shù)的含義：格林函數(shù)是描述系統(tǒng)記憶擾動程度的函數(shù)。〔1〕式可以記為其中

式〔1〕說明具有傳遞形式的平穩(wěn)序列可以由現(xiàn)在時刻以前的白噪聲通過系統(tǒng)“〞的作用而生成，是j個單位時間以前參加系統(tǒng)的干擾項對現(xiàn)實響應(yīng)的權(quán)，亦即系統(tǒng)對的“記憶〞。8整理ppt二、AR〔1〕系統(tǒng)的格林函數(shù)由AR〔1〕模型即：那么AR(1)模型的格林函數(shù)9整理ppt例：下面是參數(shù)分別為0.9、0.1和-0.9的AR〔1〕系統(tǒng)對擾動的記憶情況?！惭菔驹囼灐潮容^前后三個不同參數(shù)的圖，可以看出：取正值時，響應(yīng)波動較平坦。取負(fù)值時，響應(yīng)波動較大。越大，系統(tǒng)響應(yīng)回到均衡位置的速度越慢，時間越長。10整理ppt三、格林函數(shù)與AR〔n〕系統(tǒng)的平穩(wěn)性平穩(wěn)性的涵義就是干擾項對系統(tǒng)的影響逐漸減弱，直到消失，對于一個AR〔n〕系統(tǒng)，將其寫成格林函數(shù)的表示形式，如果系統(tǒng)是平穩(wěn)的，那么預(yù)示隨著j→∞，擾動的權(quán)數(shù)對于AR(1)系統(tǒng)即這要求上述條件等價于AR(1)系統(tǒng)的特征方程的根在單位圓內(nèi)(或方程的根在單位圓外).11整理pptAR（n）模型，即其中：的平穩(wěn)性條件為：

的根在單位圓外（或

的根在單位圓內(nèi)）。AR（n）系統(tǒng)的平穩(wěn)性條件：（請同學(xué)們觀察平穩(wěn)性AR(n)與非平穩(wěn)性AR(n)的區(qū)別。）AR(1)的結(jié)論可以推廣到AR(n)12整理ppt13整理ppt圖示如右圖幾個例題14整理pptARMA模型格林函數(shù)的通用解法ARMA(n,m)模型且

那么令

那么化為

15整理ppt比較等式兩邊B的同次冪的系數(shù)，可得由上式，格林函數(shù)可從開始依次遞推算出。例：求AR(2,1)系統(tǒng)的格林函數(shù)。16整理ppt是零均值平穩(wěn)序列，如果白噪聲序列第三節(jié)逆函數(shù)和可逆性〔Invertibility〕能夠表示為一、逆函數(shù)的定義設(shè)那么稱上式為平穩(wěn)序列式中的加權(quán)系數(shù)稱為逆函數(shù)。

可逆。17整理pptARMA〔n,m〕模型逆函數(shù)通用解法對于ARMA〔n,m〕模型的逆函數(shù)求解模型格林函數(shù)求解方法相同。令

二、ARMA模型的逆函數(shù)的逆轉(zhuǎn)形式那么平穩(wěn)序列可表示為由ARMA(n,m)模型可得18整理ppt仍由先前定義的和

，那么上式可化為比較上式兩邊B的同次冪的系數(shù)，得到即可從由此開始推算出。19整理ppt對于MA〔m〕模型的可逆性討論與AR〔n〕模型平穩(wěn)性的討論是類似的，即：MA〔m〕模型的可逆性條件為其特征方程的特征根滿足ARMA(n,m)系統(tǒng)格林函數(shù)與逆函數(shù)的關(guān)系在格林函數(shù)的表達(dá)式中，用代替，代替代替，，即可得到相對應(yīng)的逆函數(shù)。20整理ppt理論自協(xié)方差函數(shù)和自相關(guān)函數(shù)對于ARMA系統(tǒng)來說，設(shè)序列的均值為零，那么自協(xié)方差函數(shù)第四節(jié)自相關(guān)函數(shù)與偏自相關(guān)函數(shù)自相關(guān)函數(shù)樣本自相關(guān)函數(shù)的計算在擬合模型之前，我們所有的只是序列的一個有限樣本數(shù)據(jù)，無法求得理論自相關(guān)函數(shù)，只能求樣本的自協(xié)方差函數(shù)和自相關(guān)函數(shù)。樣本自協(xié)方差有兩種形式：一、自相關(guān)函數(shù)21整理ppt那么相應(yīng)的自相關(guān)函數(shù)為

在通常情況下，我們采用第一種算法。22整理ppt

1、AR(n)過程自相關(guān)函數(shù)ACF1階自回歸模型AR(1)

Xt=Xt-1+at

的k階滯后自協(xié)方差為：011))((gjjgajgkkttktkXXE==+=---

=1,2,…因此，AR(1)模型的自相關(guān)函數(shù)為

=1,2,…由AR(1)的穩(wěn)定性知||<1，因此，k時，呈指數(shù)形衰減，直到零。這種現(xiàn)象稱為拖尾或稱AR(1)有無窮記憶〔infinitememory〕。注意，<0時，呈振蕩衰減狀。23整理ppt

Xt=

1Xt-1+2Xt-2+at該模型的方差0以及滯后1期與2期的自協(xié)方差1,2分別為２階自回歸模型AR(2)

222110asgjgjg++=類似地,可寫出一般的k期滯后自協(xié)方差：

22112211))((-----+=++=kktttktkrXXXEjgjajjg(K=2,3,…)于是,AR(2)的k階自相關(guān)函數(shù)為：

(K=2,3,…)其中

:

1=1/(1-2),0=1如果AR(2)平穩(wěn)，那么由1+2<1知|k|衰減趨于零，呈拖尾狀。至于衰減的形式，要看AR(2)特征根的實虛性，假設(shè)為實根，那么呈單調(diào)或振蕩型衰減，假設(shè)為虛根，那么呈正弦波型衰減。24整理ppt一般地，n階自回歸模型AR(n)

Xt=

1Xt-1+2Xt-2+…nXt-n+

atk期滯后協(xié)方差為:

nknkktntnttKtkXXXXE-------+++=++++=gjgjgjajjjgLL22112211))((從而有自相關(guān)函數(shù)

:可見，無論k有多大，k的計算均與其１到n階滯后的自相關(guān)函數(shù)有關(guān)，因此呈拖尾狀。如果AR(n)是平穩(wěn)的，那么|k|遞減且趨于零。25整理ppt其中：zi是AR(n)特征方程(z)=0的特征根，由AR(n)平穩(wěn)的條件知，|zi|<1;因此，當(dāng)zi均為實數(shù)根時，k呈幾何型衰減〔單調(diào)或振蕩〕；當(dāng)存在虛數(shù)根時，那么一對共扼復(fù)根構(gòu)成通解中的一個阻尼正弦波項，k呈正弦波衰減。事實上，自相關(guān)函數(shù)是一n階差分方程，其通解為26整理ppt

對MA(1)過程

2、MA(m)過程

1--=tttXqaa可容易地寫出它的自協(xié)方差系數(shù)：

0)1(3221220===-=+=Lggqsgsqgaa于是，MA(1)過程的自相關(guān)函數(shù)為：可見，當(dāng)k>1時，

k>0，即Xt與Xt-k不相關(guān)，MA(1)自相關(guān)函數(shù)是截尾的。

27整理ppt其自協(xié)方差系數(shù)為

一般地，m階移動平均過程MA(m)

相應(yīng)的自相關(guān)函數(shù)為

可見，當(dāng)k>m時，Xt與Xt-k不相關(guān)，即存在截尾現(xiàn)象，因此，當(dāng)k>m時，

k=0是MA(m)的一個特征。于是：可以根據(jù)自相關(guān)系數(shù)是否從某一點開始一直為0來判斷MA(m)模型的階。28整理ppt二、偏自相關(guān)函數(shù)

自相關(guān)函數(shù)ACF(k)給出了Xt與Xt-1的總體相關(guān)性，但總體相關(guān)性可能掩蓋了變量間完全不同的隱含關(guān)系。例如，在AR(1)隨機(jī)過程中，Xt與Xt-2間有相關(guān)性可能主要是由于它們各自與Xt-1間的相關(guān)性帶來的:即自相關(guān)函數(shù)中包含了這種所有的“間接〞相關(guān)。與之相反，Xt與Xt-k間的偏自相關(guān)函數(shù)(partialautocorrelation，簡記為PACF)那么是消除了中間變量Xt-1，…，Xt-k+1帶來的間接相關(guān)后的直接相關(guān)性，它是在序列值Xt-1，…，Xt-k+1的條件下，Xt與Xt-k間關(guān)系的度量。29整理ppt從Xt中去掉Xt-1的影響，那么只剩下隨機(jī)擾動項at，顯然它與Xt-2無關(guān)，因此我們說Xt與Xt-2的偏自相關(guān)系數(shù)為零，記為

在AR(1)中，0),(2*2==-ttXCorrar

同樣地，在AR(n)過程中，對所有的k>n，Xt與Xt-k間的偏自相關(guān)系數(shù)為零。

AR(n)的一個主要特征是:k>n時，

k*=Corr(Xt,Xt-k)=0

即

k*在n以后是截尾的。一隨機(jī)時間序列的識別原那么：假設(shè)Xt的偏自相關(guān)函數(shù)在n以后截尾，即k>n時，k*=0，而它的自相關(guān)函數(shù)k是拖尾的，那么此序列是自回歸AR(n)序列。30整理ppt對于一個k階AR模型，有：由此得到Y(jié)ule-Walker

方程，記為：時，由該方程組可以解出。遺憾的是，用該方程組求解時，需要知道自回歸過程的階數(shù)。因此，我們可以對連續(xù)的k值求解Yule-Walker方程。31整理ppt對k=1，2，3，…依次求解方程，得

上述……

序列為AR模型的偏自相關(guān)函數(shù)。32整理ppt偏自相關(guān)性是條件相關(guān)，是在給定

的條件下，

和

的條件相關(guān)。換名話說，偏自相關(guān)函數(shù)是對

和

所解釋的相關(guān)的度量。

之間未被由最小二乘原理易得，

是作為

關(guān)于線性回歸的回歸系數(shù)。如果自回歸過程的階數(shù)為n，那么對于k>n應(yīng)該有kk=0。33整理pptMA(1)過程可以等價地寫成at關(guān)于無窮序列Xt，Xt-1，…的線性組合的形式：L+++=--221ttttXXXqqa或ttttXXXaqq+---=--L221

這是一個AR()過程，它的偏自相關(guān)函數(shù)非截尾但卻趨于零，因此MA(1)的偏自相關(guān)函數(shù)是非截尾但卻趨于零的。

注意:上式只有當(dāng)||<1時才有意義，否那么意味著距Xt越遠(yuǎn)的X值，對Xt的影響越大，顯然不符合常理。因此，我們把||<1稱為MA(1)的可逆性條件〔invertibilitycondition〕或可逆域。34整理ppt

與MA(1)相仿，可以驗證MA(m)過程的偏自相關(guān)函數(shù)是非截尾但趨于零的。MA(m)模型的識別規(guī)那么：假設(shè)隨機(jī)序列的自相關(guān)函數(shù)截尾，即自m以后，k=0〔k>m〕；而它的偏自相關(guān)函數(shù)是拖尾的，那么此序列是移動平均MA(m)序列。

同樣需要注意的是：在實際識別時，由于樣本自相關(guān)函數(shù)rk是總體自相關(guān)函數(shù)

k的一個估計，由于樣本的隨機(jī)性，當(dāng)k>m時，rk不會全為0，而是在0的上下波動。但可以證明，當(dāng)k>m時，rk服從如下漸近正態(tài)分布:rk~N(0,1/n)式中n表示樣本容量。因此，如果計算的rk滿足：我們就有95.5%的把握判斷原時間序列在m之后截尾。35