線性平穩(wěn)時(shí)間序列分析

線性平穩(wěn)時(shí)間序列分析第1頁(yè)，共75頁(yè)，2023年，2月20日，星期六本章結(jié)構(gòu)線性過(guò)程自回歸過(guò)程AR(p)移動(dòng)平均過(guò)程MA(q)自回歸移動(dòng)平均過(guò)程ARMA(p，q)自相關(guān)系數(shù)和偏自相關(guān)系數(shù)第2頁(yè)，共75頁(yè)，2023年，2月20日，星期六線性平穩(wěn)時(shí)間序列分析在時(shí)間序列的統(tǒng)計(jì)分析中，平穩(wěn)序列是一類重要的隨機(jī)序列。在這方面已經(jīng)有了比較成熟的理論知識(shí)，最常用的是ARMA(AutoregressiveMovingAverage)模型。用ARMA模型去近似地描述動(dòng)態(tài)數(shù)據(jù)在實(shí)際應(yīng)用中有許多優(yōu)點(diǎn)，例如它是線性模型，只要給出少量參數(shù)就可完全確定模型形式；另外，便于分析數(shù)據(jù)的結(jié)構(gòu)和內(nèi)在性質(zhì)，也便于在最小方差意義下進(jìn)行最佳預(yù)測(cè)和控制。第3頁(yè)，共75頁(yè)，2023年，2月20日，星期六線性過(guò)程方法性工具

這些工具會(huì)使得時(shí)間序列模型表達(dá)和分析更為簡(jiǎn)潔和方便。延遲算子線性差分方程第4頁(yè)，共75頁(yè)，2023年，2月20日，星期六延遲算子定義：設(shè)B為一步延遲算子，如果當(dāng)前序列乘以一個(gè)延遲算子，就表示把當(dāng)前序列值的時(shí)間向過(guò)去撥一個(gè)時(shí)刻，即BXt=Xt-1。性質(zhì)：第5頁(yè)，共75頁(yè)，2023年，2月20日，星期六線性差分方程

線性差分方程齊次線性差分方程第6頁(yè)，共75頁(yè)，2023年，2月20日，星期六齊次線性差分方程的解特征方程特征方程的根稱為特征根，記作齊次線性差分方程的通解不相等實(shí)數(shù)根場(chǎng)合有相等實(shí)根場(chǎng)合復(fù)根場(chǎng)合第7頁(yè)，共75頁(yè)，2023年，2月20日，星期六非齊次線性差分方程的解

非齊次線性差分方程的特解使得非齊次線性差分方程成立的任意一個(gè)解非齊次線性差分方程的通解zt齊次線性差分方程的通解和非齊次線性差分方程的特解之和第8頁(yè)，共75頁(yè)，2023年，2月20日，星期六一階差分方程P33用遞歸替代法解差分方程：假設(shè)已知y-1和ω的各期值動(dòng)態(tài)乘子動(dòng)態(tài)乘子為輸入ω對(duì)輸出yt的影響，依賴于j，即輸入ωt和輸出yt+j觀察值之間的時(shí)間間隔。當(dāng)參數(shù)φ取不同的值，系統(tǒng)最后的狀態(tài)也不同。第9頁(yè)，共75頁(yè)，2023年，2月20日，星期六一階差分方程P33動(dòng)態(tài)乘子(動(dòng)態(tài)乘子為輸入ω對(duì)輸出yt的影響)當(dāng)0<φ<1，動(dòng)態(tài)乘子按幾何方式衰減到零；當(dāng)-1<φ<0，動(dòng)態(tài)乘子振蕩衰減到零；當(dāng)φ>1，動(dòng)態(tài)乘子指數(shù)增加；當(dāng)φ<-1，動(dòng)態(tài)乘子發(fā)散性振蕩；當(dāng)︱φ︱<1，動(dòng)態(tài)系統(tǒng)穩(wěn)定，即給定的ω的影響將逐漸消失；當(dāng)︱φ︱>1，動(dòng)態(tài)系統(tǒng)發(fā)散；當(dāng)︱φ︱=1，輸入變量ω將對(duì)系統(tǒng)產(chǎn)生持久性影響。第10頁(yè)，共75頁(yè)，2023年，2月20日，星期六線性過(guò)程定義：{Xt}稱為線性過(guò)程，若，其中{εt}是白噪聲序列，系數(shù)序列{Gj}滿足。系統(tǒng)是因果性的：若系數(shù)序列Gj滿足Gj=0,j<0，即定理3.1：線性過(guò)程肯定是平穩(wěn)過(guò)程，且是均方收斂的。第11頁(yè)，共75頁(yè)，2023年，2月20日，星期六線性過(guò)程的因果性在應(yīng)用時(shí)間序列分析去解決實(shí)際問(wèn)題時(shí)，所使用的線性過(guò)程是因果性的，即：用延遲算子表示：

條件：第12頁(yè)，共75頁(yè)，2023年，2月20日，星期六線性過(guò)程的逆轉(zhuǎn)形式用t時(shí)刻及其以前時(shí)刻的Xt-j(j=0,1,…)來(lái)表示白噪聲εt，即：為Xt的逆轉(zhuǎn)形式其中稱為逆函數(shù)。例：Xt=εt-0.1εt-1是因果的，可逆的

第13頁(yè)，共75頁(yè)，2023年，2月20日，星期六ARMA模型AR模型(AutoRegressionModel)MA模型(MovingAverageModel)ARMA模型(AutoRegressionMovingAverageModel)第14頁(yè)，共75頁(yè)，2023年，2月20日，星期六AR(p)模型：p階自回歸模型第15頁(yè)，共75頁(yè)，2023年，2月20日，星期六AR(1)模型的背景如果時(shí)間序列是獨(dú)立的，沒(méi)有任何依賴關(guān)系，這樣的資料所揭示的統(tǒng)計(jì)規(guī)律就是事物獨(dú)立的隨機(jī)變動(dòng)，系統(tǒng)無(wú)記憶能力。如果情況不是這樣，資料之間有一定的依存性，那么最簡(jiǎn)單的關(guān)系就是后一時(shí)刻的行為主要與其前一時(shí)刻的行為有關(guān)，而與其前一時(shí)刻以前的行為無(wú)直接關(guān)系，即已知Xt-1，Xt主要與Xt-1相關(guān)。用記憶性來(lái)說(shuō)，就是最短的記憶，即一期記憶，也就是一階動(dòng)態(tài)性。第16頁(yè)，共75頁(yè)，2023年，2月20日，星期六AR(1)模型：一階自回歸模型描述這種關(guān)系的數(shù)學(xué)模型就是一階自回歸模型，簡(jiǎn)記為AR(1)，即其中Xt為零均值(即中心化處理后的)平穩(wěn)序列。φ1為Xt對(duì)Xt-1的依賴程度,εt為隨機(jī)擾動(dòng)，一般為零均值的白噪聲序列。第17頁(yè)，共75頁(yè)，2023年，2月20日，星期六

AR(1)的中心化變換一般情形：此時(shí)中心化：令Yt=Xt-

，Yt即為Xt的中心化序列，此時(shí)有第18頁(yè)，共75頁(yè)，2023年，2月20日，星期六AR模型平穩(wěn)性的判別

判別原因AR模型是常用的平穩(wěn)序列的擬合模型之一，但并非所有的AR模型都是平穩(wěn)的。

判別方法特征根判別法第19頁(yè)，共75頁(yè)，2023年，2月20日，星期六AR(1)模型的平穩(wěn)性條件平穩(wěn)條件：對(duì)應(yīng)齊次差分方程的特征根在單位圓內(nèi)特征方程：特征根:AR(1)模型平穩(wěn)平穩(wěn)域第20頁(yè)，共75頁(yè)，2023年，2月20日，星期六考察下列模型的平穩(wěn)性：序列的期望和方差如何求？第21頁(yè)，共75頁(yè)，2023年，2月20日，星期六AR(2)模型：二階自回歸模型對(duì)于自回歸模型來(lái)說(shuō)，當(dāng)Xt不僅與前期Xt-1有關(guān)，而且與Xt-2相關(guān)時(shí)，AR(1)模型就不再適用了。這時(shí)就需要用AR(2)模型。中心化的AR(2)模型：非中心化的AR(2)模型：其中εt為隨機(jī)擾動(dòng)，一般為零均值的白噪聲序列。第22頁(yè)，共75頁(yè)，2023年，2月20日，星期六AR(2)模型的平穩(wěn)性條件平穩(wěn)條件：對(duì)應(yīng)齊次差分方程的特征根在單位圓內(nèi)特征方程：特征根:AR(2)模型平穩(wěn)第23頁(yè)，共75頁(yè)，2023年，2月20日，星期六AR(2)模型的平穩(wěn)性條件平穩(wěn)域AR(2)平穩(wěn)性判別：特征根平穩(wěn)域第24頁(yè)，共75頁(yè)，2023年，2月20日，星期六考察下列模型的平穩(wěn)性：序列的期望和方差如何求？第25頁(yè)，共75頁(yè)，2023年，2月20日，星期六AR(p)模型：一般自回歸模型中心化的AR(p)模型：非中心化的AR(p)模型：說(shuō)明當(dāng)前期的隨機(jī)擾動(dòng)與過(guò)去的序列值無(wú)關(guān)第26頁(yè)，共75頁(yè)，2023年，2月20日，星期六AR(p)的自回歸系數(shù)多項(xiàng)式引進(jìn)延遲算子，中心化的AR(p)模型又可以簡(jiǎn)記為

自回歸系數(shù)多項(xiàng)式對(duì)應(yīng)齊次差分方程的特征多項(xiàng)式其根互為倒數(shù)第27頁(yè)，共75頁(yè)，2023年，2月20日，星期六AR模型平穩(wěn)性判別方法特征根判別AR(p)模型平穩(wěn)的充要條件是它的p個(gè)特征根都在單位圓內(nèi)根據(jù)特征根和自回歸系數(shù)多項(xiàng)式的根成倒數(shù)的性質(zhì)，等價(jià)判別條件是該模型的自回歸系數(shù)多項(xiàng)式的根都在單位圓外第28頁(yè)，共75頁(yè)，2023年，2月20日，星期六MA(q)模型：q階移動(dòng)平均模型第29頁(yè)，共75頁(yè)，2023年，2月20日，星期六MA模型：MovingAverageModelAR模型：是系統(tǒng)在t時(shí)刻的響應(yīng)Xt僅與其以前時(shí)刻的響應(yīng)Xt-j有關(guān)，而與其以前時(shí)刻進(jìn)入系統(tǒng)的擾動(dòng)εt-j無(wú)關(guān)。MA模型：如果一個(gè)系統(tǒng)在t時(shí)刻的響應(yīng)Xt，與其以前時(shí)刻的響應(yīng)Xt-j無(wú)關(guān)，而與其以前時(shí)刻進(jìn)入系統(tǒng)的擾動(dòng)εt-j存在著一定的相關(guān)關(guān)系，這時(shí)需要建立的是MA模型。第30頁(yè)，共75頁(yè)，2023年，2月20日，星期六MA(1)模型：一階移動(dòng)平均模型如果一個(gè)系統(tǒng)在t時(shí)刻的響應(yīng)Xt僅與其前一時(shí)刻進(jìn)入系統(tǒng)的擾動(dòng)εt-1存在著一定的相關(guān)關(guān)系，描述這種關(guān)系的數(shù)學(xué)模型就是一階移動(dòng)平均模型，記作MA(1)，即

為常數(shù)，是序列均值；

εt為零均值的白噪聲序列；

θ為移動(dòng)平均系數(shù)。第31頁(yè)，共75頁(yè)，2023年，2月20日，星期六非中心化的MA(q)模型：引進(jìn)延遲算子，MA(q)模型又可以簡(jiǎn)記為：

q階移動(dòng)平均系數(shù)多項(xiàng)式：MA(q)模型：q階移動(dòng)平均模型第32頁(yè)，共75頁(yè)，2023年，2月20日，星期六MA(q)模型的統(tǒng)計(jì)性質(zhì)常數(shù)均值：模型兩邊求期望可得常數(shù)方差：【注】MA(q)模型一定為平穩(wěn)模型。第33頁(yè)，共75頁(yè)，2023年，2月20日，星期六MA(q)模型的可逆性可逆MA模型定義若一個(gè)MA模型能夠表示成無(wú)窮階的自回歸模型，則稱該MA模型稱為可逆的。例：第34頁(yè)，共75頁(yè)，2023年，2月20日，星期六ARMA模型自回歸移動(dòng)平均模型Autoregressive-MovingAverageModel第35頁(yè)，共75頁(yè)，2023年，2月20日，星期六ARMA模型的背景一個(gè)系統(tǒng)，如果它在t時(shí)刻的響應(yīng)Xt不僅與其以前時(shí)刻的響應(yīng)有關(guān)，而且還與其以前時(shí)刻進(jìn)入系統(tǒng)的擾動(dòng)存在著一定的相關(guān)關(guān)系，那么這個(gè)系統(tǒng)就是自回歸移動(dòng)平均系統(tǒng)，相應(yīng)的模型記作ARMA模型。在此模型下，一個(gè)影響系統(tǒng)的擾動(dòng)εt被“牢記”一定時(shí)期，從而影響系統(tǒng)的后繼行為。正是系統(tǒng)的這種動(dòng)態(tài)性，引起了時(shí)間序列中的依存關(guān)系，從而決定了序列中的依存關(guān)系不能用普通靜態(tài)回歸模型來(lái)描述，而只能用ARMA模型。第36頁(yè)，共75頁(yè)，2023年，2月20日，星期六ARMA(p,q)模型非中心化的ARMA(p,q)模型：

其中φi為自回歸系數(shù)，θi為移動(dòng)平均系數(shù)。中心化的ARMA(p,q)模型第37頁(yè)，共75頁(yè)，2023年，2月20日，星期六ARMA(p,q)模型的系數(shù)多項(xiàng)式引進(jìn)延遲算子，ARMA(p,q)模型又可以簡(jiǎn)記為：p階自回歸系數(shù)多項(xiàng)式：q階移動(dòng)平均系數(shù)多項(xiàng)式：第38頁(yè)，共75頁(yè)，2023年，2月20日，星期六AR、MA和ARMA之間的關(guān)系

ARMA(p,q)模型：當(dāng)p=0時(shí)，ARMA(p,q)模型就退化為MA(q)模型；當(dāng)q=0時(shí)，ARMA(p,q)模型就退化為AR(p)模型；AR(p)模型和MA(q)模型實(shí)際上是ARMA(p,q)模型的特例，它們統(tǒng)稱為ARMA(p,q)模型；ARMA(p,q)模型的性質(zhì)也正是AR(p)模型和MA(q)模型性質(zhì)的有機(jī)組合。第39頁(yè)，共75頁(yè)，2023年，2月20日，星期六ARMA平穩(wěn)域與可逆域的定義平穩(wěn)域{φi：Φ(B)=0的根都在單位圓外}可逆域{θj：Θ(B)=0的根都在單位圓外}平穩(wěn)可逆域{φi,θj：Φ(B)=0和Θ(B)=0的根都在單位圓外}第40頁(yè)，共75頁(yè)，2023年，2月20日，星期六平穩(wěn)與可逆性的說(shuō)明ARMA(p,q)模型的平穩(wěn)條件Φ(B)=0的根都在單位圓外，完全由其自回歸部分的平穩(wěn)性決定如果系統(tǒng)具有平穩(wěn)性，說(shuō)明系統(tǒng)對(duì)某一時(shí)刻進(jìn)入的擾動(dòng)的記憶逐漸衰減，時(shí)間越遠(yuǎn)，它的影響作用越小，逐漸被完全忘掉。ARMA(p,q)模型的可逆條件Θ(B)=0的根都在單位圓外，完全由其移動(dòng)平均部分的可逆性決定可逆性表示某一時(shí)刻的系統(tǒng)響應(yīng)對(duì)后繼時(shí)刻的響應(yīng)的影響呈遞減狀態(tài)，離該時(shí)刻時(shí)間越遠(yuǎn)，影響作用越小。對(duì)于ARMA(p,q)模型來(lái)說(shuō)，只有平穩(wěn)且可逆才是有意義的。第41頁(yè)，共75頁(yè)，2023年，2月20日，星期六舉例問(wèn)下列幾個(gè)ARMA(1,1)模型是否平穩(wěn)和可逆？答：(1）平穩(wěn)可逆，（2）平穩(wěn)不可逆，（3）可逆不平穩(wěn)第42頁(yè)，共75頁(yè)，2023年，2月20日，星期六ARMA模型可以變形為：定義：當(dāng){Xt}表示為即稱為ARMA(p,q)模型的傳遞形式，或{Xt}的World分解，稱{Gj}為Green函數(shù)或World系數(shù)。ARMA(p,q)模型的傳遞形式第43頁(yè)，共75頁(yè)，2023年，2月20日，星期六Green函數(shù)Gj是j個(gè)單位時(shí)間以前加入系統(tǒng)的沖擊或擾動(dòng)εt對(duì)現(xiàn)在影響的權(quán)重Green函數(shù)表示了系統(tǒng)對(duì)沖擊εt-j有多大的記憶，也即如果有單個(gè)εt加入系統(tǒng)，Green函數(shù)決定了系統(tǒng)將用多久時(shí)間能夠恢復(fù)到它的平衡位置。第44頁(yè)，共75頁(yè)，2023年，2月20日，星期六ARMA模型可以變形為：定義：當(dāng){Xt}表示為即稱為ARMA(p,q)模型的逆轉(zhuǎn)形式，稱{Ij}為模型的逆函數(shù)。ARMA(p,q)模型的逆轉(zhuǎn)形式第45頁(yè)，共75頁(yè)，2023年，2月20日，星期六舉例ARMA(1,1)模型：Xt=0.6Xt-1+εt-0.3εt-1，寫出模型的傳遞形式和逆轉(zhuǎn)形式。解：(1)傳遞形式第46頁(yè)，共75頁(yè)，2023年，2月20日，星期六(2)逆轉(zhuǎn)形式第47頁(yè)，共75頁(yè)，2023年，2月20日，星期六ARMA(p,q)模型的統(tǒng)計(jì)性質(zhì)均值：方差：借助于傳遞形式

第48頁(yè)，共75頁(yè)，2023年，2月20日，星期六自協(xié)方差：借助于傳遞形式自相關(guān)系數(shù)：ARMA(p,q)模型的統(tǒng)計(jì)性質(zhì)第49頁(yè)，共75頁(yè)，2023年，2月20日，星期六三種模型之間的轉(zhuǎn)換當(dāng)三種模型：AR、MA和ARMA都具有平穩(wěn)可逆性時(shí)，它們之間可以有如下的轉(zhuǎn)換關(guān)系：AR(p)→MA(∞)MA(q)→MA(∞)ARMA(p,q)→AR(∞)或MA(∞)第50頁(yè)，共75頁(yè)，2023年，2月20日，星期六ARMA模型的相關(guān)性自相關(guān)系數(shù)ACF偏自相關(guān)系數(shù)PACF第51頁(yè)，共75頁(yè)，2023年，2月20日，星期六AR(p)模型的自相關(guān)系數(shù)ACF在模型兩邊同乘Xt-k(k≠0)，再求期望，可得自協(xié)方差系數(shù)：自相關(guān)系數(shù)的Yule-Walker方程：設(shè)p階差分方程特征根為，則自相關(guān)系數(shù)滿足AR(p)的自相關(guān)系數(shù)ACF-------拖尾第52頁(yè)，共75頁(yè)，2023年，2月20日，星期六例：考察如下AR模型的自相關(guān)圖----可以驗(yàn)證，這四個(gè)模型都是平穩(wěn)的第53頁(yè)，共75頁(yè)，2023年，2月20日，星期六自相關(guān)系數(shù)按負(fù)指數(shù)單調(diào)收斂到零第54頁(yè)，共75頁(yè)，2023年，2月20日，星期六自相關(guān)系數(shù)呈現(xiàn)出正負(fù)相間的衰減第55頁(yè)，共75頁(yè)，2023年，2月20日，星期六自相關(guān)系數(shù)呈現(xiàn)出“偽周期”性第56頁(yè)，共75頁(yè)，2023年，2月20日，星期六自相關(guān)系數(shù)不規(guī)則衰減第57頁(yè)，共75頁(yè)，2023年，2月20日，星期六MA(q)模型的自協(xié)方差系數(shù)自協(xié)方差系數(shù)只與滯后階數(shù)k相關(guān)，且q階截尾。第58頁(yè)，共75頁(yè)，2023年，2月20日，星期六MA(q)模型的自相關(guān)系數(shù)ACFMA(q)模型的自相關(guān)系數(shù)(ACF)--------q步截尾第59頁(yè)，共75頁(yè)，2023年，2月20日，星期六MA模型的自相關(guān)系數(shù)截尾第60頁(yè)，共75頁(yè)，2023年，2月20日，星期六MA模型的自相關(guān)系數(shù)截尾第61頁(yè)，共75頁(yè)，2023年，2月20日，星期六ARMA模型的相關(guān)性自相關(guān)系數(shù)ACF拖尾第62頁(yè)，共75頁(yè)，2023年，2月20日，星期六偏自相關(guān)系數(shù)(PACF)背景：延遲k相關(guān)系數(shù)：衡量的并不是Xt與Xt-k之間單純的相關(guān)關(guān)系，它還受到中間k-1個(gè)變量Xt-1,Xt-2,

…,Xt-k+1的影響。延遲k偏自相關(guān)系數(shù)就是指在給定中間k-1個(gè)隨機(jī)變量Xt-1,Xt-2,

…,Xt-k+1的條件下，或者說(shuō)，在剔除了中間k-1個(gè)隨機(jī)變量的干擾之后，Xt-k對(duì)Xt影響的相關(guān)度量。第63頁(yè)，共75頁(yè)，2023年，2月20日，星期六偏自相關(guān)系數(shù)的定義對(duì)于零均值平穩(wěn)序列{Xt}，考慮用Xt-k,Xt-k+1,

…,Xt-1對(duì)Xt的線性最小方差估計(jì)，即選擇系數(shù)，使得下式最?。?/p>

φkj為使得殘差方差達(dá)到極小的k階自回歸模型的第j項(xiàng)系數(shù)。其中最后一個(gè)系數(shù)φkk稱為Xt的偏自相關(guān)系數(shù)。φkk是使在模型中已經(jīng)包含了Xt-1,Xt-2,…,Xt-k+1之后，再增加一期滯后Xt-k所增加的模型的解釋能力，它是一種條件相關(guān)，是對(duì)Xt與Xt-k之間未被Xt-1,Xt-2,…,Xt-k+1所解釋的相關(guān)的度量。k階自回歸模型中的第k個(gè)系數(shù)第64頁(yè)，共75頁(yè)，2023年，2月20日，星期六偏自相關(guān)系數(shù)的計(jì)算第65頁(yè)，共75頁(yè)，2023年，2月20日，星期六偏自相關(guān)系數(shù)的計(jì)算滯后k偏自相關(guān)系數(shù)實(shí)際上就等于k階自回歸模型第k個(gè)回歸系數(shù)的值