隨機(jī)時(shí)間序列分析模型

隨機(jī)時(shí)間序列分析模型第1頁(yè)，共81頁(yè)，2023年，2月20日，星期二經(jīng)典計(jì)量經(jīng)濟(jì)學(xué)模型與時(shí)間序列模型確定性時(shí)間序列模型與隨機(jī)性時(shí)間序列模型第2頁(yè)，共81頁(yè)，2023年，2月20日，星期二一、時(shí)間序列模型的基本概念及其適用性第3頁(yè)，共81頁(yè)，2023年，2月20日，星期二（一）時(shí)間序列模型的基本概念

隨機(jī)時(shí)間序列模型（timeseriesmodeling）是指僅用它的過(guò)去值及隨機(jī)擾動(dòng)項(xiàng)所建立起來(lái)的模型，其一般形式為

Xt=F(Xt-1,Xt-2,…,t)

建立具體的時(shí)間序列模型，需解決如下三個(gè)問(wèn)題：

(1)模型的具體形式

(2)時(shí)序變量的滯后期

(3)隨機(jī)擾動(dòng)項(xiàng)的結(jié)構(gòu)例如，取線(xiàn)性方程、一期滯后以及白噪聲隨機(jī)擾動(dòng)項(xiàng)（t=t），模型將是一個(gè)1階自回歸過(guò)程AR(1)：

Xt=Xt-1+t這里，t特指一白噪聲。

第4頁(yè)，共81頁(yè)，2023年，2月20日，星期二一般的p階自回歸過(guò)程AR(p)是

Xt=1Xt-1+2Xt-2+…+pXt-p+t(*)

(1)如果隨機(jī)擾動(dòng)項(xiàng)是一個(gè)白噪聲(t=t)，則稱(chēng)(*)式為一純AR(p)過(guò)程（pureAR(p)process），記為

Xt=1Xt-1+2Xt-2+…+pXt-p+t(2)如果t不是一個(gè)白噪聲，通常認(rèn)為它是一個(gè)q階的移動(dòng)平均（movingaverage）過(guò)程MA(q)：

t=t-1t-1-2t-2--qt-q

該式給出了一個(gè)純MA(q)過(guò)程（pureMA(p)process）。

第5頁(yè)，共81頁(yè)，2023年，2月20日，星期二

將純AR(p)與純MA(q)結(jié)合，得到一個(gè)一般的自回歸移動(dòng)平均（autoregressivemovingaverage）過(guò)程ARMA（p,q）：

Xt=1Xt-1+2Xt-2+…+pXt-p+

t-1t-1-2t-2--qt-q

該式表明：（1）一個(gè)隨機(jī)時(shí)間序列可以通過(guò)一個(gè)自回歸移動(dòng)平均過(guò)程生成，即該序列可以由其自身的過(guò)去或滯后值以及隨機(jī)擾動(dòng)項(xiàng)來(lái)解釋。（2）如果該序列是平穩(wěn)的，即它的行為并不會(huì)隨著時(shí)間的推移而變化，那么就可以通過(guò)該序列過(guò)去的行為來(lái)預(yù)測(cè)未來(lái)。這也正是隨機(jī)時(shí)間序列分析模型的優(yōu)勢(shì)所在。第6頁(yè)，共81頁(yè)，2023年，2月20日，星期二經(jīng)典回歸模型的問(wèn)題：迄今為止，對(duì)一個(gè)時(shí)間序列Xt的變動(dòng)進(jìn)行解釋或預(yù)測(cè)，是通過(guò)某個(gè)單方程回歸模型或聯(lián)立方程回歸模型進(jìn)行的，由于它們以因果關(guān)系為基礎(chǔ)，且具有一定的模型結(jié)構(gòu)，因此也常稱(chēng)為結(jié)構(gòu)式模型（structuralmodel）。然而，如果Xt波動(dòng)的主要原因可能是我們無(wú)法解釋的因素，如氣候、消費(fèi)者偏好的變化等，則利用結(jié)構(gòu)式模型來(lái)解釋Xt的變動(dòng)就比較困難或不可能，因?yàn)橐〉孟鄳?yīng)的量化數(shù)據(jù)，并建立令人滿(mǎn)意的回歸模型是很困難的。有時(shí)，即使能估計(jì)出一個(gè)較為滿(mǎn)意的因果關(guān)系回歸方程，但由于對(duì)某些解釋變量未來(lái)值的預(yù)測(cè)本身就非常困難，甚至比預(yù)測(cè)被解釋變量的未來(lái)值更困難，這時(shí)因果關(guān)系的回歸模型及其預(yù)測(cè)技術(shù)就不適用了。（二）時(shí)間序列分析模型的適用性第7頁(yè)，共81頁(yè)，2023年，2月20日，星期二

例如，時(shí)間序列過(guò)去是否有明顯的增長(zhǎng)趨勢(shì)，如果增長(zhǎng)趨勢(shì)在過(guò)去的行為中占主導(dǎo)地位，能否認(rèn)為它也會(huì)在未來(lái)的行為里占主導(dǎo)地位呢？或者時(shí)間序列顯示出循環(huán)周期性行為，我們能否利用過(guò)去的這種行為來(lái)外推它的未來(lái)走向？

●隨機(jī)時(shí)間序列分析模型，就是要通過(guò)序列過(guò)去的變化特征來(lái)預(yù)測(cè)未來(lái)的變化趨勢(shì)。使用時(shí)間序列分析模型的另一個(gè)原因在于：

如果經(jīng)濟(jì)理論正確地闡釋了現(xiàn)實(shí)經(jīng)濟(jì)結(jié)構(gòu)，則這一結(jié)構(gòu)可以寫(xiě)成類(lèi)似于A(yíng)RMA(p,q)式的時(shí)間序列分析模型的形式。

在這些情況下，采用另一條預(yù)測(cè)途徑：通過(guò)時(shí)間序列的歷史數(shù)據(jù)，得出關(guān)于其過(guò)去行為的有關(guān)結(jié)論，進(jìn)而對(duì)時(shí)間序列未來(lái)行為進(jìn)行推斷。第8頁(yè)，共81頁(yè)，2023年，2月20日，星期二例如，對(duì)于如下最簡(jiǎn)單的宏觀(guān)經(jīng)濟(jì)模型：

這里，Ct、It、Yt分別表示消費(fèi)、投資與國(guó)民收入。

Ct與Yt作為內(nèi)生變量，它們的運(yùn)動(dòng)是由作為外生變量的投資It的運(yùn)動(dòng)及隨機(jī)擾動(dòng)項(xiàng)t的變化決定的。第9頁(yè)，共81頁(yè)，2023年，2月20日，星期二上述模型可作變形如下：兩個(gè)方程等式右邊除去第一項(xiàng)外的剩余部分可看成一個(gè)綜合性的隨機(jī)擾動(dòng)項(xiàng)，其特征依賴(lài)于投資項(xiàng)It的行為。

如果It是一個(gè)白噪聲，則消費(fèi)序列Ct就成為一個(gè)1階自回歸過(guò)程AR(1)，而收入序列Yt就成為一個(gè)(1,1)階的自回歸移動(dòng)平均過(guò)程ARMA(1,1)。第10頁(yè)，共81頁(yè)，2023年，2月20日，星期二二、隨機(jī)時(shí)間序列模型的平穩(wěn)性條件第11頁(yè)，共81頁(yè)，2023年，2月20日，星期二

自回歸移動(dòng)平均模型（ARMA）是隨機(jī)時(shí)間序列分析模型的普遍形式，自回歸模型（AR）和移動(dòng)平均模型（MA）是它的特殊情況。關(guān)于這幾類(lèi)模型的研究，是時(shí)間序列分析的重點(diǎn)內(nèi)容：主要包括模型的平穩(wěn)性分析、模型的識(shí)別和模型的估計(jì)。

（一）AR(p)模型的平穩(wěn)性條件

隨機(jī)時(shí)間序列模型的平穩(wěn)性，可通過(guò)它所生成的隨機(jī)時(shí)間序列的平穩(wěn)性來(lái)判斷。如果一個(gè)p階自回歸模型AR(p)生成的時(shí)間序列是平穩(wěn)的，就說(shuō)該AR(p)模型是平穩(wěn)的，否則，就說(shuō)該AR(p)模型是非平穩(wěn)的。第12頁(yè)，共81頁(yè)，2023年，2月20日，星期二考慮p階自回歸模型AR(p)

Xt=1Xt-1+2Xt-2+…+pXt-p+t(*)引入滯后算子（lagoperator）L：

LXt=Xt-1,L2Xt=Xt-2,…,LpXt=Xt-p(*)式變換為

(1-1L-2L2-…-pLp)Xt=t

記(L)=(1-1L-2L2-…-pLp),則稱(chēng)多項(xiàng)式方程

(z)=(1-1z-2z2-…-pzp)=0為AR(p)的特征方程(characteristicequation)。

可以證明，如果該特征方程的所有根在單位圓外（根的模大于1），則AR(p)模型是平穩(wěn)的。

第13頁(yè)，共81頁(yè)，2023年，2月20日，星期二

例5.1AR(1)模型的平穩(wěn)性條件。對(duì)1階自回歸模型AR(1)方程兩邊平方再求數(shù)學(xué)期望，得到Xt的方差由于Xt僅與t相關(guān)，因此，E(Xt-1t)=0。如果該模型穩(wěn)定，則有E(Xt2)=E(Xt-12)，從而上式可變換為：在穩(wěn)定條件下，該方差是一非負(fù)的常數(shù)，從而有

||<1。

第14頁(yè)，共81頁(yè)，2023年，2月20日，星期二

而AR(1)的特征方程的根為z=1/

AR(1)穩(wěn)定，即||<1，意味著特征根大于1。例5.2AR(2)模型的平穩(wěn)性。對(duì)AR(2)模型

方程兩邊同乘以Xt，再取期望得：

第15頁(yè)，共81頁(yè)，2023年，2月20日，星期二又由于于是

同樣地，由原式還可得到于是方差為

第16頁(yè)，共81頁(yè)，2023年，2月20日，星期二由平穩(wěn)性的定義，該方差必須是一不變的正數(shù)，于是有1+2<1,2-1<1,|2|<1這就是AR(2)的平穩(wěn)性條件，或稱(chēng)為平穩(wěn)域。它是一頂點(diǎn)分別為（-2,-1），（2,-1），（0,1）的三角形。

第17頁(yè)，共81頁(yè)，2023年，2月20日，星期二對(duì)應(yīng)的特征方程1-1z-2z2=0

的兩個(gè)根z1、z2滿(mǎn)足：

z1z2=-1/2,

z1+z2=-1/2AR(2)模型解出1，2由AR(2)的平穩(wěn)性，|2|=1/|z1||z2|<1

，則至少有一個(gè)根的模大于1，不妨設(shè)|z1|>1，有于是|z2|>1。由2

-

1

<1可推出同樣的結(jié)果。第18頁(yè)，共81頁(yè)，2023年，2月20日，星期二

對(duì)高階自回模型AR(p)來(lái)說(shuō)，多數(shù)情況下沒(méi)有必要直接計(jì)算其特征方程的特征根，但有一些有用的規(guī)則可用來(lái)檢驗(yàn)高階自回歸模型的穩(wěn)定性：

(1)AR(p)模型穩(wěn)定的必要條件是：

1+2++p<1

(2)由于i(i=1,2,p)可正可負(fù)，AR(p)模型穩(wěn)定的充分條件是：

|1|+|2|++|p|<1

第19頁(yè)，共81頁(yè)，2023年，2月20日，星期二

對(duì)于移動(dòng)平均模型MR(q)：

Xt=t-1t-1-2t-2--qt-q

其中t是一個(gè)白噪聲，于是（二）MA(q)模型的平穩(wěn)性

當(dāng)滯后期大于q時(shí)，Xt的自協(xié)方差系數(shù)為0。因此:有限階移動(dòng)平均模型總是平穩(wěn)的。

第20頁(yè)，共81頁(yè)，2023年，2月20日，星期二由于A(yíng)RMA(p,q)模型是AR(p)模型與MA(q)模型的組合：Xt=1Xt-1+2Xt-2+…+pXt-p+

t-1t-1-2t-2--qt-q（三）ARMA(p,q)模型的平穩(wěn)性

而MA(q)模型總是平穩(wěn)的，因此ARMA(p,q)模型的平穩(wěn)性取決于A(yíng)R(p)部分的平穩(wěn)性。

當(dāng)AR(p)部分平穩(wěn)時(shí)，則該ARMA(p,q)模型是平穩(wěn)的，否則，不是平穩(wěn)的。第21頁(yè)，共81頁(yè)，2023年，2月20日，星期二最后

（1）一個(gè)平穩(wěn)的時(shí)間序列總可以找到生成它的平穩(wěn)的隨機(jī)過(guò)程或模型；（2）一個(gè)非平穩(wěn)的隨機(jī)時(shí)間序列通?？梢酝ㄟ^(guò)差分的方法將它變換為平穩(wěn)的，對(duì)差分后平穩(wěn)的時(shí)間序列也可找出對(duì)應(yīng)的平穩(wěn)隨機(jī)過(guò)程或模型。

因此，如果我們將一個(gè)非平穩(wěn)時(shí)間序列通過(guò)d次差分，將它變?yōu)槠椒€(wěn)的，然后用一個(gè)平穩(wěn)的ARMA(p,q)模型作為它的生成模型，則我們就說(shuō)該原始時(shí)間序列是一個(gè)自回歸單整移動(dòng)平均（autoregressiveintegratedmovingaverage）時(shí)間序列，記為ARIMA(p,d,q)。

例如，一個(gè)ARIMA(2,1,2)時(shí)間序列在它成為平穩(wěn)序列之前先得差分一次，然后用一個(gè)ARMA(2,2)模型作為它的生成模型的。

當(dāng)然，一個(gè)ARIMA(p,0,0)過(guò)程表示了一個(gè)純AR(p)平穩(wěn)過(guò)程；一個(gè)ARIMA(0,0,q)表示一個(gè)純MA(q)平穩(wěn)過(guò)程。第22頁(yè)，共81頁(yè)，2023年，2月20日，星期二三、隨機(jī)時(shí)間序列模型的識(shí)別第23頁(yè)，共81頁(yè)，2023年，2月20日，星期二

所謂隨機(jī)時(shí)間序列模型的識(shí)別，就是對(duì)于一個(gè)平穩(wěn)的隨機(jī)時(shí)間序列，找出生成它的合適的隨機(jī)過(guò)程或模型，即判斷該時(shí)間序列是遵循一純AR過(guò)程、還是遵循一純MA過(guò)程或ARMA過(guò)程。

所使用的工具主要是時(shí)間序列的自相關(guān)函數(shù)（autocorrelationfunction，ACF）及偏自相關(guān)函數(shù)（partialautocorrelationfunction，PACF

）。第24頁(yè)，共81頁(yè)，2023年，2月20日，星期二（一）AR(p)過(guò)程

1.自相關(guān)函數(shù)ACF

1階自回歸模型AR(1)

Xt=Xt-1+t

的k階滯后自協(xié)方差為：=1,2,…因此，AR(1)模型的自相關(guān)函數(shù)為

=1,2,…

由AR(1)的穩(wěn)定性知||<1，因此，k時(shí)，呈指數(shù)形衰減，直到零。這種現(xiàn)象稱(chēng)為拖尾或稱(chēng)AR(1)有無(wú)窮記憶（infinitememory）。

注意，<0時(shí)，呈振蕩衰減狀。

第25頁(yè)，共81頁(yè)，2023年，2月20日，星期二

Xt=1Xt-1+2Xt-2+t該模型的方差0以及滯后1期與2期的自協(xié)方差1,2分別為２階自回歸模型AR(2)

類(lèi)似地,可寫(xiě)出一般的k期滯后自協(xié)方差：

(K=2,3,…)于是,AR(2)的k階自相關(guān)函數(shù)為：

(K=2,3,…)其中

:1=1/(1-2),0=1如果AR(2)穩(wěn)定，則由1+2<1知|k|衰減趨于零，呈拖尾狀。至于衰減的形式，要看AR(2)特征根的實(shí)虛性，若為實(shí)根，則呈單調(diào)或振蕩型衰減，若為虛根，則呈正弦波型衰減。

第26頁(yè)，共81頁(yè)，2023年，2月20日，星期二一般地，p階自回歸模型AR(p)

Xt=1Xt-1+2Xt-2+…pXt-p+

tk期滯后協(xié)方差為:

從而有自相關(guān)函數(shù)

:

可見(jiàn)，無(wú)論k有多大，k的計(jì)算均與其１到p階滯后的自相關(guān)函數(shù)有關(guān)，因此呈拖尾狀。

如果AR(p)是穩(wěn)定的，則|k|遞減且趨于零。

第27頁(yè)，共81頁(yè)，2023年，2月20日，星期二

其中：1/zi是AR(p)特征方程(z)=0的特征根，由AR(p)平穩(wěn)的條件知，|zi|<1;

因此，當(dāng)1/zi均為實(shí)數(shù)根時(shí)，k呈幾何型衰減（單調(diào)或振蕩）；當(dāng)存在虛數(shù)根時(shí)，則一對(duì)共扼復(fù)根構(gòu)成通解中的一個(gè)阻尼正弦波項(xiàng)，k呈正弦波衰減。事實(shí)上，自相關(guān)函數(shù)是一p階差分方程，其通解為第28頁(yè)，共81頁(yè)，2023年，2月20日，星期二

2.偏自相關(guān)函數(shù)

自相關(guān)函數(shù)ACF(k)給出了Xt與Xt-1的總體相關(guān)性，但總體相關(guān)性可能掩蓋了變量間完全不同的隱含關(guān)系。例如，在A(yíng)R(1)隨機(jī)過(guò)程中，Xt與Xt-2間有相關(guān)性可能主要是由于它們各自與Xt-1間的相關(guān)性帶來(lái)的:即自相關(guān)函數(shù)中包含了這種所有的“間接”相關(guān)。與之相反，Xt與Xt-k間的偏自相關(guān)函數(shù)(partialautocorrelation，簡(jiǎn)記為PACF)則是消除了中間變量Xt-1，…，Xt-k+1

帶來(lái)的間接相關(guān)后的直接相關(guān)性，它是在已知序列值Xt-1，…，Xt-k+1的條件下，Xt與Xt-k間關(guān)系的度量。第29頁(yè)，共81頁(yè)，2023年，2月20日，星期二

從Xt中去掉Xt-1的影響，則只剩下隨機(jī)擾動(dòng)項(xiàng)t，顯然它與Xt-2無(wú)關(guān)，因此我們說(shuō)Xt與Xt-2的偏自相關(guān)系數(shù)為零，記為

在A(yíng)R(1)中，

同樣地，在A(yíng)R(p)過(guò)程中，對(duì)所有的k>p，Xt與Xt-k間的偏自相關(guān)系數(shù)為零。

AR(p)的一個(gè)主要特征是:k>p時(shí)，k*=Corr(Xt,Xt-k)=0

即k*在p以后是截尾的。一隨機(jī)時(shí)間序列的識(shí)別原則：若Xt的偏自相關(guān)函數(shù)在p以后截尾，即k>p時(shí)，k*=0，而它的自相關(guān)函數(shù)k是拖尾的，則此序列是自回歸AR(p)序列。第30頁(yè)，共81頁(yè)，2023年，2月20日，星期二在實(shí)際識(shí)別時(shí)，由于樣本偏自相關(guān)函數(shù)rk*是總體偏自相關(guān)函數(shù)k*的一個(gè)估計(jì)，由于樣本的隨機(jī)性，當(dāng)k>p時(shí)，rk*不會(huì)全為0，而是在0的上下波動(dòng)。但可以證明，當(dāng)k>p時(shí)，rk*服從如下漸近正態(tài)分布:rk*~N(0,1/n)式中n表示樣本容量。因此，如果計(jì)算的rk*滿(mǎn)足需指出的是，我們就有95.5%的把握判斷原時(shí)間序列在p之后截尾。第31頁(yè)，共81頁(yè)，2023年，2月20日，星期二對(duì)MA(1)過(guò)程

（二）MA(q)過(guò)程

可容易地寫(xiě)出它的自協(xié)方差系數(shù)：

于是，MA(1)過(guò)程的自相關(guān)函數(shù)為：可見(jiàn)，當(dāng)k>1時(shí)，k>0，即Xt與Xt-k不相關(guān)，MA(1)自相關(guān)函數(shù)是截尾的。

第32頁(yè)，共81頁(yè)，2023年，2月20日，星期二

MA(1)過(guò)程可以等價(jià)地寫(xiě)成t關(guān)于無(wú)窮序列Xt，Xt-1，…的線(xiàn)性組合的形式：或（*）

(*)是一個(gè)AR()過(guò)程，它的偏自相關(guān)函數(shù)非截尾但卻趨于零，因此MA(1)的偏自相關(guān)函數(shù)是非截尾但卻趨于零的。

注意:(*)式只有當(dāng)||<1時(shí)才有意義，否則意味著距Xt越遠(yuǎn)的X值，對(duì)Xt的影響越大，顯然不符合常理。因此，我們把||<1稱(chēng)為MA(1)的可逆性條件（invertibilitycondition）或可逆域。

第33頁(yè)，共81頁(yè)，2023年，2月20日，星期二其自協(xié)方差系數(shù)為

一般地，q階移動(dòng)平均過(guò)程MA(q)

相應(yīng)的自相關(guān)函數(shù)為

可見(jiàn)，當(dāng)k>q時(shí)，Xt與Xt-k不相關(guān)，即存在截尾現(xiàn)象，因此，當(dāng)k>q時(shí)，k=0是MA(q)的一個(gè)特征。于是：可以根據(jù)自相關(guān)系數(shù)是否從某一點(diǎn)開(kāi)始一直為0來(lái)判斷MA(q)模型的階。第34頁(yè)，共81頁(yè)，2023年，2月20日，星期二與MA(1)相仿，可以驗(yàn)證MA(q)過(guò)程的偏自相關(guān)函數(shù)是非截尾但趨于零的。

MA(q)模型的識(shí)別規(guī)則：若隨機(jī)序列的自相關(guān)函數(shù)截尾，即自q以后，k=0（k>q）；而它的偏自相關(guān)函數(shù)是拖尾的，則此序列是滑動(dòng)平均MA(q)序列。

同樣需要注意的是：在實(shí)際識(shí)別時(shí)，由于樣本自相關(guān)函數(shù)rk是總體自相關(guān)函數(shù)k的一個(gè)估計(jì)，由于樣本的隨機(jī)性，當(dāng)k>q時(shí)，rk不會(huì)全為0，而是在0的上下波動(dòng)。但可以證明，當(dāng)k>q時(shí)，rk服從如下漸近正態(tài)分布:rk~N(0,1/n)式中n表示樣本容量。因此，如果計(jì)算的rk滿(mǎn)足：我們就有95.5%的把握判斷原時(shí)間序列在q之后截尾。第35頁(yè)，共81頁(yè)，2023年，2月20日，星期二

ARMA(p,q)的自相關(guān)函數(shù)，可以看作MA(q)的自相關(guān)函數(shù)和AR(p)的自相關(guān)函數(shù)的混合物。

當(dāng)p=0時(shí)，它具有截尾性質(zhì)；

當(dāng)q=0時(shí)，它具有拖尾性質(zhì)；當(dāng)p、q都不為0時(shí)，它具有拖尾性質(zhì)

從識(shí)別上看，通常：

ARMA(p，q)過(guò)程的偏自相關(guān)函數(shù)（PACF）可能在p階滯后前有幾項(xiàng)明顯的尖柱（spikes），但從p階滯后項(xiàng)開(kāi)始逐漸趨向于零；而它的自相關(guān)函數(shù)（ACF）則是在q階滯后前有幾項(xiàng)明顯的尖柱，從q階滯后項(xiàng)開(kāi)始逐漸趨向于零。

（三）ARMA(p,q)過(guò)程

第36頁(yè)，共81頁(yè)，2023年，2月20日，星期二

表5.1

ARMA(p,q)模型的ACF與PACF理論模式

模型

ACF

PACF

白噪聲

0=kr

0*=kr

AR(p)

衰減趨于零（幾何型或振蕩型）

P階后截尾：0*=kr，k>p

MA(q)

q階后截尾：，0=kr，k>q

衰減趨于零（幾何型或振蕩型）

ARMA(p,q)

q階后衰減趨于零（幾何型或振蕩型）

p階后衰減趨于零（幾何型或振蕩型）

第37頁(yè)，共81頁(yè)，2023年，2月20日，星期二

圖4.2

ARMA(p,q)模型的ACF與PACF理論模式

ACFPACF

模型1：

tttXXe+=-17.00.00.20.40.60.812345678ACF10.00.20.40.60.812345678PACF1第38頁(yè)，共81頁(yè)，2023年，2月20日，星期二第39頁(yè)，共81頁(yè)，2023年，2月20日，星期二第40頁(yè)，共81頁(yè)，2023年，2月20日，星期二四、隨機(jī)時(shí)間序列模型的估計(jì)第41頁(yè)，共81頁(yè)，2023年，2月20日，星期二

AR(p)、MA(q)、ARMA(p,q)模型的估計(jì)方法較多，大體上分為3類(lèi)：

（1）最小二乘估計(jì)；（2）矩估計(jì)；（3）利用自相關(guān)函數(shù)的直接估計(jì)。下面有選擇地加以介紹。結(jié)構(gòu)階數(shù)模型識(shí)別確定估計(jì)參數(shù)第42頁(yè)，共81頁(yè)，2023年，2月20日，星期二（一）AR(p)模型的YuleWalker方程估計(jì)在A(yíng)R(p)模型的識(shí)別中，曾得到

利用k=-k，得到如下方程組：

此方程組被稱(chēng)為YuleWalker方程組。該方程組建立了AR(p)模型的模型參數(shù)1,2,,p與自相關(guān)函數(shù)1,2,,p的關(guān)系，第43頁(yè)，共81頁(yè)，2023年，2月20日，星期二利用實(shí)際時(shí)間序列提供的信息，首先求得自相關(guān)函數(shù)的估計(jì)值

然后利用YuleWalker方程組，求解模型參數(shù)的估計(jì)值由于

于是

從而可得2的估計(jì)值

在具體計(jì)算時(shí)，可用樣本自相關(guān)函數(shù)rk替代。第44頁(yè)，共81頁(yè)，2023年，2月20日，星期二（二）MA(q)模型的矩估計(jì)將MA(q)模型的自協(xié)方差函數(shù)中的各個(gè)量用估計(jì)量代替，得到：

首先求得自協(xié)方差函數(shù)的估計(jì)值，(*)是一個(gè)包含(q+1)個(gè)待估參數(shù)

(*)的非線(xiàn)性方程組，可以用直接法或迭代法求解。

常用的迭代方法有線(xiàn)性迭代法和Newton-Raphsan迭代法。第45頁(yè)，共81頁(yè)，2023年，2月20日，星期二

1.MA(1)模型的直接算法對(duì)于MA(1)模型，（*）式相應(yīng)地寫(xiě)成于是

或有于是有解

由于參數(shù)估計(jì)有兩組解，可根據(jù)可逆性條件|1|<1來(lái)判斷選取一組。

第46頁(yè)，共81頁(yè)，2023年，2月20日，星期二

2.MA(q)模型的迭代算法對(duì)于q>1的MA(q)模型，一般用迭代算法估計(jì)參數(shù)：由（*）式得第一步，給出的一組初值，比如代入（**）式，計(jì)算出第一次迭代值

（**）第47頁(yè)，共81頁(yè)，2023年，2月20日，星期二

第二步，將第一次迭代值代入（**）式，計(jì)算出第二次迭代值

按此反復(fù)迭代下去，直到第m步的迭代值與第m-1步的迭代值相差不大時(shí)（滿(mǎn)足一定的精度），便停止迭代，并用第m步的迭代結(jié)果作為（**）的近似解。

第48頁(yè)，共81頁(yè)，2023年，2月20日，星期二（三）ARMA(p,q)模型的矩估計(jì)在A(yíng)RMA(p,q)中共有(p+q+1)個(gè)待估參數(shù)1,2,,p與1,2,,q以及2，其估計(jì)量計(jì)算步驟及公式如下：

第一步，估計(jì)1,2,,p

是總體自相關(guān)函數(shù)的估計(jì)值，可用樣本自相關(guān)函數(shù)rk代替。

第49頁(yè)，共81頁(yè)，2023年，2月20日，星期二

第二步，改寫(xiě)模型，求1,2,,q以及2的估計(jì)值

將模型

改寫(xiě)為：

令

于是(*)可以寫(xiě)成：

(*)構(gòu)成一個(gè)MA模型。按照估計(jì)MA模型參數(shù)的方法，可以得到1,2,,q以及2的估計(jì)值。

第50頁(yè)，共81頁(yè)，2023年，2月20日，星期二（四）AR(p)的最小二乘估計(jì)假設(shè)模型AR(p)的參數(shù)估計(jì)值已經(jīng)得到，即有

殘差的平方和為：

(*)根據(jù)最小二乘原理，所要求的參數(shù)估計(jì)值是下列方程組的解：

即

j=1,2,…,p(**)解該方程組，就可得到待估參數(shù)的估計(jì)值。

第51頁(yè)，共81頁(yè)，2023年，2月20日，星期二為了與AR(p)模型的YuleWalker方程估計(jì)進(jìn)行比較，將(**)改寫(xiě)成：

j=1,2,…,p由自協(xié)方差函數(shù)的定義，并用自協(xié)方差函數(shù)的估計(jì)值

代入，上式表示的方程組即為：

或

j=1,2,…,pj=1,2,…,p第52頁(yè)，共81頁(yè)，2023年，2月20日，星期二解該方程組，得到：

即為參數(shù)的最小二乘估計(jì)。

YuleWalker方程組的解比較發(fā)現(xiàn)，當(dāng)n足夠大時(shí)，二者是相似的。2的估計(jì)值為：

第53頁(yè)，共81頁(yè)，2023年，2月20日，星期二

需要說(shuō)明的是，在上述模型的平穩(wěn)性、識(shí)別與估計(jì)的討論中，ARMA(p,q)模型中均未包含常數(shù)項(xiàng)。

如果包含常數(shù)項(xiàng)，該常數(shù)項(xiàng)并不影響模型的原有性質(zhì)，因?yàn)橥ㄟ^(guò)適當(dāng)?shù)淖冃?，可將包含常?shù)項(xiàng)的模型轉(zhuǎn)換為不含常數(shù)項(xiàng)的模型。下面以一般的ARMA(p,q)模型為例說(shuō)明。對(duì)含有常數(shù)項(xiàng)的模型

方程兩邊同減/(1-1--p)，則可得到

其中第54頁(yè)，共81頁(yè)，2023年，2月20日，星期二五、模型的檢驗(yàn)第55頁(yè)，共81頁(yè)，2023年，2月20日，星期二由于A(yíng)RMA(p,q)模型的識(shí)別與估計(jì)是在假設(shè)隨機(jī)擾動(dòng)項(xiàng)是一白噪聲的基礎(chǔ)上進(jìn)行的，因此，如果估計(jì)的模型確認(rèn)正確的話(huà)，殘差應(yīng)代表一白噪聲序列。

如果通過(guò)所估計(jì)的模型計(jì)算的樣本殘差不代表一白噪聲，則說(shuō)明模型的識(shí)別與估計(jì)有誤，需重新識(shí)別與估計(jì)。

在實(shí)際檢驗(yàn)時(shí)，主要檢驗(yàn)殘差序列是否存在自相關(guān)。（一）殘差項(xiàng)的白噪聲檢驗(yàn)

可用QLB的統(tǒng)計(jì)量進(jìn)行2檢驗(yàn)：在給定顯著性水平下，可計(jì)算不同滯后期的QLB值，通過(guò)與2分布表中的相應(yīng)臨界值比較，來(lái)檢驗(yàn)是否拒絕殘差序列為白噪聲的假設(shè)。若大于相應(yīng)臨界值，則應(yīng)拒絕所估計(jì)的模型，需重新識(shí)別與估計(jì)。第56頁(yè)，共81頁(yè)，2023年，2月20日，星期二（二）AIC與SBC模型選擇標(biāo)準(zhǔn)

另外一個(gè)遇到的問(wèn)題是，在實(shí)際識(shí)別ARMA(p,q)模型時(shí)，需多次反復(fù)償試，有可能存在不止一組（p,q）值都能通過(guò)識(shí)別檢驗(yàn)。顯然，增加p與q的階數(shù)，可增加擬合優(yōu)度，但卻同時(shí)降低了自由度。因此，對(duì)可能的適當(dāng)?shù)哪Ｐ?，存在著模型的“?jiǎn)潔性”與模型的擬合優(yōu)度的權(quán)衡選擇問(wèn)題。第57頁(yè)，共81頁(yè)，2023年，2月20日，星期二其中，n為待估參數(shù)個(gè)數(shù)（p+q+可能存在的常數(shù)項(xiàng)），T為可使用的觀(guān)測(cè)值，RSS為殘差平方和（Residualsumofsquares）。

在選擇可能的模型時(shí)，AIC與SBC越小越好

顯然，如果添加的滯后項(xiàng)沒(méi)有解釋能力，則對(duì)RSS值的減小沒(méi)有多大幫助，卻增加待估參數(shù)的個(gè)數(shù)，因此使得AIC或SBC的值增加。

需注意的是：在不同模型間進(jìn)行比較時(shí)，必須選取相同的時(shí)間段。常用的模型選擇的判別標(biāo)準(zhǔn)有：赤池信息法（Akaikeinformationcriterion，簡(jiǎn)記為AIC）與施瓦茲貝葉斯法（SchwartzBayesiancriterion，簡(jiǎn)記為SBC）：第58頁(yè)，共81頁(yè)，2023年，2月20日，星期二

由第一節(jié)知：中國(guó)支出法GDP是非平穩(wěn)的，但它的一階差分是平穩(wěn)的，即支出法GDP是I(1)時(shí)間序列。可以對(duì)經(jīng)過(guò)一階差分后的GDP建立適當(dāng)?shù)腁RMA(p,q)模型。記GDP經(jīng)一階差分后的新序列為GDPD1，該新序列的樣本自相關(guān)函數(shù)圖與偏自相關(guān)函數(shù)圖如下：例4.3

中國(guó)支出法GDP的ARMA(p,q)模型估計(jì)。第59頁(yè)，共81頁(yè)，2023年，2月20日，星期二

圖形：樣本自相關(guān)函數(shù)圖形呈正弦線(xiàn)型衰減波，而偏自相關(guān)函數(shù)圖形則在滯后兩期后迅速趨于0。因此可初步判斷該序列滿(mǎn)足2階自回歸過(guò)程AR(2)。自相關(guān)函數(shù)與偏自相關(guān)函數(shù)的函數(shù)值：相關(guān)函數(shù)具有明顯的拖尾性；偏自相關(guān)函數(shù)值在k>2以后，可認(rèn)為：偏自相關(guān)函數(shù)是截尾的。再次驗(yàn)證了一階差分后的GDP滿(mǎn)足AR(2)隨機(jī)過(guò)程。表5.2中國(guó)GDP一階差分序列的樣本自相關(guān)函數(shù)與偏自相關(guān)函數(shù)kkr*krkkr*krkkr*kr10.8590.8597-0.034-0.25213-0.361-0.08620.622-0.4418-0.1120.01214-0.3630.07630.378-0.0659-0.1750.0415-0.3080.04340.1910.06610-0.228-0.11716-0.216-0.02250.0870.07711-0.282-0.19217-0.128-0.04860.036-0.05112-0.32-0.0218-0.059-0.002第60頁(yè)，共81頁(yè)，2023年，2月20日，星期二設(shè)序列GDPD1的模型形式為

有如下YuleWalker方程：

解為：

用OLS法回歸的結(jié)果為：

（7.91)(-3.60)r2=0.8469R2=0.8385DW=1.15第61頁(yè)，共81頁(yè)，2023年，2月20日，星期二

有時(shí)，在用回歸法時(shí)，也可加入常數(shù)項(xiàng)。本例中加入常數(shù)項(xiàng)的回歸為：

（1.99）（7.74）（-3.58）

r2=0.8758R2=0.8612DW.=1.22第62頁(yè)，共81頁(yè)，2023年，2月20日，星期二模型檢驗(yàn)

下表列出三模型的殘差項(xiàng)的自相關(guān)系數(shù)及QLB檢驗(yàn)值。

模型1與模型3的殘差項(xiàng)接近于一白噪聲，但模型2存在4階滯后相關(guān)問(wèn)題，Q統(tǒng)計(jì)量的檢驗(yàn)也得出模型2拒絕所有自相關(guān)系數(shù)為零的假設(shè)。因此:

模型1與3可作為描述中國(guó)支出法GDP一階差分序列的隨機(jī)生成過(guò)程。表5.3模型殘差項(xiàng)的自相關(guān)系數(shù)及Q檢驗(yàn)值

模型1

模型2

模型3

K

Resid-ACF

Q

Resid-ACF

Q

Resid-ACF

Q

1

0.382

3.3846

0.258

1.5377

0.257

1.5263

2

0.014

3.3893

-0.139

2.0077

-0.040

1.5646

3

-0.132

3.8427

-0.246

3.5677

-0.059

1.6554

4

-0.341

7.0391

-0.529

11.267

-0.328

4.6210

5

-0.170

7.8910

-0.300

13.908

-0.151

5.2864

6

0.253

9.9097

0.271

16.207

0.345

9.0331

7

0.144

10.613

0.158

17.051

0.155

9.8458

8

0.057

10.730

0.116

17.541

0.076

10.059

9

-0.019

10.745

0.097

17.914

0.011

10.064

10

-0.146

11.685

-0.036

17.969

-0.123

10.728

11

-0.233

14.329

-0.136

18.878

-0.230

13.319

12

-0.049

14.461

0.064

19.104

-0.012

13.328

第63頁(yè)，共81頁(yè)，2023年，2月20日，星期二用建立的AR(2)模型對(duì)中國(guó)支出法GDP進(jìn)行外推預(yù)測(cè)。

模型1可作如下展開(kāi)：

于是，當(dāng)已知t-1、t-2、t-3期的GDP時(shí)，就可對(duì)第t期的GDP作出外推預(yù)測(cè)。

模型3的預(yù)測(cè)式與此相類(lèi)似，只不過(guò)多出一項(xiàng)常數(shù)項(xiàng)。

對(duì)2001年中國(guó)支出法GDP的預(yù)測(cè)結(jié)果（億元）

預(yù)測(cè)值實(shí)際值誤差模型19546995933-0.48%

模型397160959331.28%

第64頁(yè)，共81頁(yè)，2023年，2月20日，星期二由于中國(guó)人均居民消費(fèi)（CPC）與人均國(guó)內(nèi)生產(chǎn)總值（GDPPC）這兩時(shí)間序列是非平穩(wěn)的，因此不宜直接建立它們的因果關(guān)系回歸方程。但它們都是I(2)時(shí)間序列，因此可以建立它們的ARIMA(p,d,q)模型。

下面只建立中國(guó)人均居民消費(fèi)（CPC）的隨機(jī)時(shí)間序列模型。中國(guó)人均居民消費(fèi)（CPC）經(jīng)過(guò)二次差分后的新序列記為CPCD2，其自相關(guān)函數(shù)、偏自相關(guān)函數(shù)及Q統(tǒng)計(jì)量的值列于下表：

例4.4

中國(guó)人均居民消費(fèi)的ARMA(p,q)模型第65頁(yè)，共81頁(yè)，2023年，2月20日，星期二在5%的顯著性水平下，通過(guò)Q統(tǒng)計(jì)量容易驗(yàn)證該序列本身就接近于一白噪聲，因此可考慮采用零階MA(0)模型:

由于k=2時(shí)，|r2|=|-0.29|>

因此,也可考慮采用下面的MA模型：

表5.4

CPCD2序列的自相關(guān)函數(shù)、偏自相關(guān)函數(shù)與Q統(tǒng)計(jì)量值

k

ACF

PACF

Q

k

ACF

PACF

Q

1

0.125

0.125

0.269

7

0.196

0.014

6.286

2

-0.294

-0.314

1.882

8

-0.218

-0.335

8.067

3

-0.034

0.060

1.906

9

-0.010

0.024

8.072

4

-0.213

-0.350

2.919

10

0.102

-0.147

8.650

5

-0.258

-0.193

4.576

11

-0.071

0.001

9.025

6

0.131

0.017

5.057

12

0.006

-0.119

9.029

第66頁(yè)，共81頁(yè)，2023年，2月20日，星期二當(dāng)然，還可觀(guān)察到自相關(guān)函數(shù)在滯后4、5、8時(shí)有大于0.2的函數(shù)值，因此，可考慮在模型中增加MA(4)、MA(5)、MA(8)。不同模型的回歸結(jié)果列于表4.5?？梢钥闯?在純MA模型中，模型4具有較好的性質(zhì)，但由于MA(5)的t檢驗(yàn)偏小，因此可選取模型3。表5.5

中國(guó)居民人均消費(fèi)水平的ARMA模型

模型

a

MA(2)

MA(4)

MA(5)

MA(8)

AR(1)

R2

SSR

AIC

1

24.57

0

93137.4

8.94

2

32.4

-0.89

0.42

53699.9

8.54

(3.62)

(-7.43)

3

14.07

-0.72

-1.71

0.7

28128.8

8.03

(8.75)

(-3.07)

(-5.08)

4

11.73

-1.09

-1.99

-1.3

0.82

17480.8

7.7

(17.81)

(-3.38)

(-4.61)

(-1.58)

5

11.79

-1.07

-1.91

-1.25

-0.34

0.81

17402.7

7.84

(14.93)

(-3.10)

(-2.56)

(-1.42)

(-0.15)

6

14.95

-0.66

-1.27

-1.99

0.75

22924.2

7.97

(5.16)

(-2.14)

(-1.77)

(-1.29)

7

214.25

-2.53

-2.45

-6.52

1.39

0.99

8943.7

7.06

(63.83)

(-2.25)

(-2.53)

(-2.23)

(98.26)

第67頁(yè)，共81頁(yè)，2023年，2月20日，星期二最后，給出通過(guò)模型3的外推預(yù)測(cè)。模型3的展開(kāi)式為：

即

由于t表示預(yù)測(cè)期的隨機(jī)擾動(dòng)項(xiàng)，它未知，可