線性平穩(wěn)時間序列分析

線性平穩(wěn)時間序列分析第一頁，共七十五頁，編輯于2023年，星期三本章結(jié)構(gòu)線性過程自回歸過程AR(p)移動平均過程MA(q)自回歸移動平均過程ARMA(p，q)自相關(guān)系數(shù)和偏自相關(guān)系數(shù)第二頁，共七十五頁，編輯于2023年，星期三線性平穩(wěn)時間序列分析在時間序列的統(tǒng)計分析中，平穩(wěn)序列是一類重要的隨機序列。在這方面已經(jīng)有了比較成熟的理論知識，最常用的是ARMA(AutoregressiveMovingAverage)模型。用ARMA模型去近似地描述動態(tài)數(shù)據(jù)在實際應用中有許多優(yōu)點，例如它是線性模型，只要給出少量參數(shù)就可完全確定模型形式；另外，便于分析數(shù)據(jù)的結(jié)構(gòu)和內(nèi)在性質(zhì)，也便于在最小方差意義下進行最佳預測和控制。第三頁，共七十五頁，編輯于2023年，星期三線性過程方法性工具

這些工具會使得時間序列模型表達和分析更為簡潔和方便。延遲算子線性差分方程第四頁，共七十五頁，編輯于2023年，星期三延遲算子定義：設B為一步延遲算子，如果當前序列乘以一個延遲算子，就表示把當前序列值的時間向過去撥一個時刻，即BXt=Xt-1。性質(zhì)：第五頁，共七十五頁，編輯于2023年，星期三線性差分方程

線性差分方程齊次線性差分方程第六頁，共七十五頁，編輯于2023年，星期三齊次線性差分方程的解特征方程特征方程的根稱為特征根，記作齊次線性差分方程的通解不相等實數(shù)根場合有相等實根場合復根場合第七頁，共七十五頁，編輯于2023年，星期三非齊次線性差分方程的解

非齊次線性差分方程的特解使得非齊次線性差分方程成立的任意一個解非齊次線性差分方程的通解zt齊次線性差分方程的通解和非齊次線性差分方程的特解之和第八頁，共七十五頁，編輯于2023年，星期三一階差分方程P33用遞歸替代法解差分方程：假設已知y-1和ω的各期值動態(tài)乘子動態(tài)乘子為輸入ω對輸出yt的影響，依賴于j，即輸入ωt和輸出yt+j觀察值之間的時間間隔。當參數(shù)φ取不同的值，系統(tǒng)最后的狀態(tài)也不同。第九頁，共七十五頁，編輯于2023年，星期三一階差分方程P33動態(tài)乘子(動態(tài)乘子為輸入ω對輸出yt的影響)當0<φ<1，動態(tài)乘子按幾何方式衰減到零；當-1<φ<0，動態(tài)乘子振蕩衰減到零；當φ>1，動態(tài)乘子指數(shù)增加；當φ<-1，動態(tài)乘子發(fā)散性振蕩；當︱φ︱<1，動態(tài)系統(tǒng)穩(wěn)定，即給定的ω的影響將逐漸消失；當︱φ︱>1，動態(tài)系統(tǒng)發(fā)散；當︱φ︱=1，輸入變量ω將對系統(tǒng)產(chǎn)生持久性影響。第十頁，共七十五頁，編輯于2023年，星期三線性過程定義：{Xt}稱為線性過程，若，其中{εt}是白噪聲序列，系數(shù)序列{Gj}滿足。系統(tǒng)是因果性的：若系數(shù)序列Gj滿足Gj=0,j<0，即定理3.1：線性過程肯定是平穩(wěn)過程，且是均方收斂的。第十一頁，共七十五頁，編輯于2023年，星期三線性過程的因果性在應用時間序列分析去解決實際問題時，所使用的線性過程是因果性的，即：用延遲算子表示：

條件：第十二頁，共七十五頁，編輯于2023年，星期三線性過程的逆轉(zhuǎn)形式用t時刻及其以前時刻的Xt-j(j=0,1,…)來表示白噪聲εt，即：為Xt的逆轉(zhuǎn)形式其中稱為逆函數(shù)。例：Xt=εt-0.1εt-1是因果的，可逆的

第十三頁，共七十五頁，編輯于2023年，星期三ARMA模型AR模型(AutoRegressionModel)MA模型(MovingAverageModel)ARMA模型(AutoRegressionMovingAverageModel)第十四頁，共七十五頁，編輯于2023年，星期三AR(p)模型：p階自回歸模型第十五頁，共七十五頁，編輯于2023年，星期三AR(1)模型的背景如果時間序列是獨立的，沒有任何依賴關(guān)系，這樣的資料所揭示的統(tǒng)計規(guī)律就是事物獨立的隨機變動，系統(tǒng)無記憶能力。如果情況不是這樣，資料之間有一定的依存性，那么最簡單的關(guān)系就是后一時刻的行為主要與其前一時刻的行為有關(guān)，而與其前一時刻以前的行為無直接關(guān)系，即已知Xt-1，Xt主要與Xt-1相關(guān)。用記憶性來說，就是最短的記憶，即一期記憶，也就是一階動態(tài)性。第十六頁，共七十五頁，編輯于2023年，星期三AR(1)模型：一階自回歸模型描述這種關(guān)系的數(shù)學模型就是一階自回歸模型，簡記為AR(1)，即其中Xt為零均值(即中心化處理后的)平穩(wěn)序列。φ1為Xt對Xt-1的依賴程度,εt為隨機擾動，一般為零均值的白噪聲序列。第十七頁，共七十五頁，編輯于2023年，星期三

AR(1)的中心化變換一般情形：此時中心化：令Yt=Xt-

，Yt即為Xt的中心化序列，此時有第十八頁，共七十五頁，編輯于2023年，星期三AR模型平穩(wěn)性的判別

判別原因AR模型是常用的平穩(wěn)序列的擬合模型之一，但并非所有的AR模型都是平穩(wěn)的。

判別方法特征根判別法第十九頁，共七十五頁，編輯于2023年，星期三AR(1)模型的平穩(wěn)性條件平穩(wěn)條件：對應齊次差分方程的特征根在單位圓內(nèi)特征方程：特征根:AR(1)模型平穩(wěn)平穩(wěn)域第二十頁，共七十五頁，編輯于2023年，星期三考察下列模型的平穩(wěn)性：序列的期望和方差如何求？第二十一頁，共七十五頁，編輯于2023年，星期三AR(2)模型：二階自回歸模型對于自回歸模型來說，當Xt不僅與前期Xt-1有關(guān)，而且與Xt-2相關(guān)時，AR(1)模型就不再適用了。這時就需要用AR(2)模型。中心化的AR(2)模型：非中心化的AR(2)模型：其中εt為隨機擾動，一般為零均值的白噪聲序列。第二十二頁，共七十五頁，編輯于2023年，星期三AR(2)模型的平穩(wěn)性條件平穩(wěn)條件：對應齊次差分方程的特征根在單位圓內(nèi)特征方程：特征根:AR(2)模型平穩(wěn)第二十三頁，共七十五頁，編輯于2023年，星期三AR(2)模型的平穩(wěn)性條件平穩(wěn)域AR(2)平穩(wěn)性判別：特征根平穩(wěn)域第二十四頁，共七十五頁，編輯于2023年，星期三考察下列模型的平穩(wěn)性：序列的期望和方差如何求？第二十五頁，共七十五頁，編輯于2023年，星期三AR(p)模型：一般自回歸模型中心化的AR(p)模型：非中心化的AR(p)模型：說明當前期的隨機擾動與過去的序列值無關(guān)第二十六頁，共七十五頁，編輯于2023年，星期三AR(p)的自回歸系數(shù)多項式引進延遲算子，中心化的AR(p)模型又可以簡記為

自回歸系數(shù)多項式對應齊次差分方程的特征多項式其根互為倒數(shù)第二十七頁，共七十五頁，編輯于2023年，星期三AR模型平穩(wěn)性判別方法特征根判別AR(p)模型平穩(wěn)的充要條件是它的p個特征根都在單位圓內(nèi)根據(jù)特征根和自回歸系數(shù)多項式的根成倒數(shù)的性質(zhì)，等價判別條件是該模型的自回歸系數(shù)多項式的根都在單位圓外第二十八頁，共七十五頁，編輯于2023年，星期三MA(q)模型：q階移動平均模型第二十九頁，共七十五頁，編輯于2023年，星期三MA模型：MovingAverageModelAR模型：是系統(tǒng)在t時刻的響應Xt僅與其以前時刻的響應Xt-j有關(guān)，而與其以前時刻進入系統(tǒng)的擾動εt-j無關(guān)。MA模型：如果一個系統(tǒng)在t時刻的響應Xt，與其以前時刻的響應Xt-j無關(guān)，而與其以前時刻進入系統(tǒng)的擾動εt-j存在著一定的相關(guān)關(guān)系，這時需要建立的是MA模型。第三十頁，共七十五頁，編輯于2023年，星期三MA(1)模型：一階移動平均模型如果一個系統(tǒng)在t時刻的響應Xt僅與其前一時刻進入系統(tǒng)的擾動εt-1存在著一定的相關(guān)關(guān)系，描述這種關(guān)系的數(shù)學模型就是一階移動平均模型，記作MA(1)，即

為常數(shù)，是序列均值；

εt為零均值的白噪聲序列；

θ為移動平均系數(shù)。第三十一頁，共七十五頁，編輯于2023年，星期三非中心化的MA(q)模型：引進延遲算子，MA(q)模型又可以簡記為：

q階移動平均系數(shù)多項式：MA(q)模型：q階移動平均模型第三十二頁，共七十五頁，編輯于2023年，星期三MA(q)模型的統(tǒng)計性質(zhì)常數(shù)均值：模型兩邊求期望可得常數(shù)方差：【注】MA(q)模型一定為平穩(wěn)模型。第三十三頁，共七十五頁，編輯于2023年，星期三MA(q)模型的可逆性可逆MA模型定義若一個MA模型能夠表示成無窮階的自回歸模型，則稱該MA模型稱為可逆的。例：第三十四頁，共七十五頁，編輯于2023年，星期三ARMA模型自回歸移動平均模型Autoregressive-MovingAverageModel第三十五頁，共七十五頁，編輯于2023年，星期三ARMA模型的背景一個系統(tǒng)，如果它在t時刻的響應Xt不僅與其以前時刻的響應有關(guān)，而且還與其以前時刻進入系統(tǒng)的擾動存在著一定的相關(guān)關(guān)系，那么這個系統(tǒng)就是自回歸移動平均系統(tǒng)，相應的模型記作ARMA模型。在此模型下，一個影響系統(tǒng)的擾動εt被“牢記”一定時期，從而影響系統(tǒng)的后繼行為。正是系統(tǒng)的這種動態(tài)性，引起了時間序列中的依存關(guān)系，從而決定了序列中的依存關(guān)系不能用普通靜態(tài)回歸模型來描述，而只能用ARMA模型。第三十六頁，共七十五頁，編輯于2023年，星期三ARMA(p,q)模型非中心化的ARMA(p,q)模型：

其中φi為自回歸系數(shù)，θi為移動平均系數(shù)。中心化的ARMA(p,q)模型第三十七頁，共七十五頁，編輯于2023年，星期三ARMA(p,q)模型的系數(shù)多項式引進延遲算子，ARMA(p,q)模型又可以簡記為：p階自回歸系數(shù)多項式：q階移動平均系數(shù)多項式：第三十八頁，共七十五頁，編輯于2023年，星期三AR、MA和ARMA之間的關(guān)系

ARMA(p,q)模型：當p=0時，ARMA(p,q)模型就退化為MA(q)模型；當q=0時，ARMA(p,q)模型就退化為AR(p)模型；AR(p)模型和MA(q)模型實際上是ARMA(p,q)模型的特例，它們統(tǒng)稱為ARMA(p,q)模型；ARMA(p,q)模型的性質(zhì)也正是AR(p)模型和MA(q)模型性質(zhì)的有機組合。第三十九頁，共七十五頁，編輯于2023年，星期三ARMA平穩(wěn)域與可逆域的定義平穩(wěn)域{φi：Φ(B)=0的根都在單位圓外}可逆域{θj：Θ(B)=0的根都在單位圓外}平穩(wěn)可逆域{φi,θj：Φ(B)=0和Θ(B)=0的根都在單位圓外}第四十頁，共七十五頁，編輯于2023年，星期三平穩(wěn)與可逆性的說明ARMA(p,q)模型的平穩(wěn)條件Φ(B)=0的根都在單位圓外，完全由其自回歸部分的平穩(wěn)性決定如果系統(tǒng)具有平穩(wěn)性，說明系統(tǒng)對某一時刻進入的擾動的記憶逐漸衰減，時間越遠，它的影響作用越小，逐漸被完全忘掉。ARMA(p,q)模型的可逆條件Θ(B)=0的根都在單位圓外，完全由其移動平均部分的可逆性決定可逆性表示某一時刻的系統(tǒng)響應對后繼時刻的響應的影響呈遞減狀態(tài)，離該時刻時間越遠，影響作用越小。對于ARMA(p,q)模型來說，只有平穩(wěn)且可逆才是有意義的。第四十一頁，共七十五頁，編輯于2023年，星期三舉例問下列幾個ARMA(1,1)模型是否平穩(wěn)和可逆？答：(1）平穩(wěn)可逆，（2）平穩(wěn)不可逆，（3）可逆不平穩(wěn)第四十二頁，共七十五頁，編輯于2023年，星期三ARMA模型可以變形為：定義：當{Xt}表示為即稱為ARMA(p,q)模型的傳遞形式，或{Xt}的World分解，稱{Gj}為Green函數(shù)或World系數(shù)。ARMA(p,q)模型的傳遞形式第四十三頁，共七十五頁，編輯于2023年，星期三Green函數(shù)Gj是j個單位時間以前加入系統(tǒng)的沖擊或擾動εt對現(xiàn)在影響的權(quán)重Green函數(shù)表示了系統(tǒng)對沖擊εt-j有多大的記憶，也即如果有單個εt加入系統(tǒng)，Green函數(shù)決定了系統(tǒng)將用多久時間能夠恢復到它的平衡位置。第四十四頁，共七十五頁，編輯于2023年，星期三ARMA模型可以變形為：定義：當{Xt}表示為即稱為ARMA(p,q)模型的逆轉(zhuǎn)形式，稱{Ij}為模型的逆函數(shù)。ARMA(p,q)模型的逆轉(zhuǎn)形式第四十五頁，共七十五頁，編輯于2023年，星期三舉例ARMA(1,1)模型：Xt=0.6Xt-1+εt-0.3εt-1，寫出模型的傳遞形式和逆轉(zhuǎn)形式。解：(1)傳遞形式第四十六頁，共七十五頁，編輯于2023年，星期三(2)逆轉(zhuǎn)形式第四十七頁，共七十五頁，編輯于2023年，星期三ARMA(p,q)模型的統(tǒng)計性質(zhì)均值：方差：借助于傳遞形式

第四十八頁，共七十五頁，編輯于2023年，星期三自協(xié)方差：借助于傳遞形式自相關(guān)系數(shù)：ARMA(p,q)模型的統(tǒng)計性質(zhì)第四十九頁，共七十五頁，編輯于2023年，星期三三種模型之間的轉(zhuǎn)換當三種模型：AR、MA和ARMA都具有平穩(wěn)可逆性時，它們之間可以有如下的轉(zhuǎn)換關(guān)系：AR(p)→MA(∞)MA(q)→MA(∞)ARMA(p,q)→AR(∞)或MA(∞)第五十頁，共七十五頁，編輯于2023年，星期三ARMA模型的相關(guān)性自相關(guān)系數(shù)ACF偏自相關(guān)系數(shù)PACF第五十一頁，共七十五頁，編輯于2023年，星期三AR(p)模型的自相關(guān)系數(shù)ACF在模型兩邊同乘Xt-k(k≠0)，再求期望，可得自協(xié)方差系數(shù)：自相關(guān)系數(shù)的Yule-Walker方程：設p階差分方程特征根為，則自相關(guān)系數(shù)滿足AR(p)的自相關(guān)系數(shù)ACF-------拖尾第五十二頁，共七十五頁，編輯于2023年，星期三例：考察如下AR模型的自相關(guān)圖----可以驗證，這四個模型都是平穩(wěn)的第五十三頁，共七十五頁，編輯于2023年，星期三自相關(guān)系數(shù)按負指數(shù)單調(diào)收斂到零第五十四頁，共七十五頁，編輯于2023年，星期三自相關(guān)系數(shù)呈現(xiàn)出正負相間的衰減第五十五頁，共七十五頁，編輯于2023年，星期三自相關(guān)系數(shù)呈現(xiàn)出“偽周期”性第五十六頁，共七十五頁，編輯于2023年，星期三自相關(guān)系數(shù)不規(guī)則衰減第五十七頁，共七十五頁，編輯于2023年，星期三MA(q)模型的自協(xié)方差系數(shù)自協(xié)方差系數(shù)只與滯后階數(shù)k相關(guān)，且q階截尾。第五十八頁，共七十五頁，編輯于2023年，星期三MA(q)模型的自相關(guān)系數(shù)ACFMA(q)模型的自相關(guān)系數(shù)(ACF)--------q步截尾第五十九頁，共七十五頁，編輯于2023年，星期三MA模型的自相關(guān)系數(shù)截尾第六十頁，共七十五頁，編輯于2023年，星期三MA模型的自相關(guān)系數(shù)截尾第六十一頁，共七十五頁，編輯于2023年，星期三ARMA模型的相關(guān)性自相關(guān)系數(shù)ACF拖尾第六十二頁，共七十五頁，編輯于2023年，星期三偏自相關(guān)系數(shù)(PACF)背景：延遲k相關(guān)系數(shù)：衡量的并不是Xt與Xt-k之間單純的相關(guān)關(guān)系，它還受到中間k-1個變量Xt-1,Xt-2,

…,Xt-k+1的影響。延遲k偏自相關(guān)系數(shù)就是指在給定中間k-1個隨機變量Xt-1,Xt-2,

…,Xt-k+1的條件下，或者說，在剔除了中間k-1個隨機變量的干擾之后，Xt-k對Xt影響的相關(guān)度量。第六十三頁，共七十五頁，編輯于2023年，星期三偏自相關(guān)系數(shù)的定義對于零均值平穩(wěn)序列{Xt}，考慮用Xt-k,Xt-k+1,

…,Xt-1對Xt的線性最小方差估計，即選擇系數(shù)，使得下式最?。?/p>

φkj為使得殘差方差達到極小的k階自回歸模型的第j項系數(shù)。其中最后一個系數(shù)φkk稱為Xt的偏自相關(guān)系數(shù)。φkk是使在模型中已經(jīng)包含了Xt-1,Xt-2,…,Xt-k+1之后，再增加一期滯后Xt-k所增加的模型的解釋能力，它是一種條件相關(guān)，是對Xt與Xt-k之間未被Xt-1,Xt-2,…,Xt-k+1所解釋的相關(guān)的度量。k階自回歸模型中的第k個系數(shù)第六十四頁，共七十五頁，編輯于2023年，星期三偏自相關(guān)系數(shù)的計算第六十五頁，共七十五頁，編輯于2023年，星期三偏自相關(guān)系數(shù)的計算滯后k偏自相關(guān)系數(shù)實際上就等于k階自回歸模型第k個回歸系數(shù)的值