線性平穩(wěn)時間序列分析

1、上海財經大學 統計學系1線性平穩(wěn)時間序列分析 在時間序列的統計分析中，平穩(wěn)序列是一類重要的隨機序列。在這方面已經有了比較成熟的理論知識，最常用的是ARMA（Autoregressive Moving Average）序列。用ARMA模型去近似地描述動態(tài)數據在實際應用中有許多優(yōu)點，例如它是線性模型，只要給出少量參數就可完全確定模型形式；另外，便于分析數據的結構和內在性質，也便于在最小方差意義下進行最佳預測和控制。本章將討論ARMA模型的基本性質和特征，這是時間序列統計分析中的重要理論基礎。 上海財經大學 統計學系23.1 線性過程 在正式討論線性過程之前，我們首先給出相應的準備工具，介紹延遲算子

2、和求解線性差分方程，這些工具會使得時間序列模型表達和分析更為簡潔和方便，下面是延遲算子的概念。 設 為一步延遲算子，如果當前序列乘以一個延遲算子，就表示把當前序列值的時間向過去撥一個時刻，即 。 B1ttXBX上海財經大學 統計學系3 延遲算子 有如下性質： B上海財經大學 統計學系4 定義如下形式方程為序列 的線性差分方程： 其中 ， 為實數， 為 的已知函數。 特別地，當函數 時，差分方程： 稱為齊次線性差分方程。否則，線性差分方程稱為非齊次線性差分方程。 :0, 1, 2,tzt 11ttptpzzzh t1p 1,p h ttt 0h t 110ttptpzzz上海財經大學 統計學系5

3、 下列方程： 稱為齊次線性差分方程的特征方程。這是一個一元p次線性方程，它至少存在p個非零根，稱這p個非零根為特征根，記為 。 根據特征根 的情況，齊次線性差分方程解的解有如下情形：110ppp 12,p 12,p 上海財經大學 統計學系6 特征根 為互不相同的實根 這時齊次線性差分方程的解為 特征根 中有相同實根 這時齊次線性差分方程的解為 特征根 中有復根 這時齊次線性差分方程的解為12,p 12,p 12,p 1 1tttppzcc2112111dttttdddppzcc tc tcc1 11233tttpptititttppzccrc ec ecc上海財經大學 統計學系7 對于非齊次線

4、性差分方程解的問題，通常分下下列兩個步驟進行：首先求出對應齊次線性差分方程的通解 ，然后再求出該非齊次線性差分方程的一個特解 ，即 滿足： 則非齊次線性差分方程 的解為對應齊次線性差分方程的解 和該非齊次線性差分方程的一個特解 之和，即 tztztz 11ttptpzzzh t 11ttptpzzzh ttztztttzzz上海財經大學 統計學系83.1.1線性過程的定義上海財經大學 統計學系9 定理定理3.1 定義（3.1）中的線性過程是平穩(wěn)序列，且 是均方收斂的。jtjjG 上海財經大學 統計學系10 下面證明序列 是平穩(wěn)的，容易計算 ,ZtXt0tjtjjEXG EkttkXEXjtjl

5、t k ljlEGG 2jj kjG G上海財經大學 統計學系11上海財經大學 統計學系123.1.2 線性過程的因果性和可逆性 在應用時間序列分析去解決實際問題時，所使用的線性過程是因果性因果性的，即： 上海財經大學 統計學系13 設 為一步延遲算子，則 ， ，(3.4)可表為： 其中， ，今后將把 看作對 進行運算的算子，又可作為 的函數來討論。 BjttjXXB0j0)(jjjBGBG)(BGtB上海財經大學 統計學系14 在理論研究和實際問題的處理時，通常還需要用t時刻及t時刻以前的 來表示白噪聲 ，即 ), 1 , 0(jXjtt上海財經大學 統計學系15上海財經大學 統計學系16上

6、海財經大學 統計學系173.2 自回歸過程AR(p) 上節(jié)中所討論的線性過程及其逆轉形式都是無窮和的形式，當用有限和去逼近時即產生有限參數線性模型，而且許多平穩(wěn)序列本身就是由有限參數線性模型刻畫的。有限參數線性模型是時間序列分析中理論最基礎、應用最廣泛的部分。如下將討論AR、MA和ARMA三種有限參數線性模型。 上海財經大學 統計學系183.2.1一階自回歸過程AR(1) 通常地，由于經濟系統慣性的作用，經濟時間序列往往存在著前后依存關系。最簡單的一種情形就是變量當前的取值主要與其前一時期的取值狀況有關，用數學模型來描述這種關系就是下面介紹的一階自回歸模型。上海財經大學 統計學系19上海財經大

7、學 統計學系20 在一階自回歸AR(1)模型中，保持其平穩(wěn)性的條件是對應的特征方程 的根的絕對值必須小于1，即滿足 。 對于平穩(wěn)的AR(1)模型，經過簡單的計算易得 01上海財經大學 統計學系21上海財經大學 統計學系223.2.2 二階自回歸過程AR(2) 當變量當前的取值主要與其前兩時期的取值狀況有關，用數學模型來描述這種關系就是如下的二階自回歸模型AR(2)： 引入延遲算子 的表達形式為：B上海財經大學 統計學系23上海財經大學 統計學系24 下面利用特征方程的根與模型參數 的關系，給出AR(2) 模型平穩(wěn)的 的取值條件（或值域）。 12, 12, 12(1)(1)0上海財經大學 統計學

8、系25 (3.16)和(3.17)式是保證AR(2)模型平穩(wěn)，回歸參數 所應具有的條件。反之，若(3.16)和(3.17)式成立，則特征方程 特征方程的根必落在單位圓內。 12,2120 上海財經大學 統計學系26 滿足條件(3.16)和(3.17)式給出的區(qū)域 稱為平穩(wěn)域。對于AR(2)模型平穩(wěn)域是一個三角形區(qū)域，見下圖陰影部分。 12212,1,1 上海財經大學 統計學系27上海財經大學 統計學系28上海財經大學 統計學系29 例例3.2 設AR(2)模型： 試判別 的平穩(wěn)性。 解：解：根據上述關于平穩(wěn)條件的討論，可以通過兩種徑進行討論： 120.70.1ttttXXXtX上海財經大學 統

9、計學系30上海財經大學 統計學系31 下面我們討論序列的統計特性，關于平穩(wěn)的二階自回歸模型AR(2)模型： 上海財經大學 統計學系323.2.3 p階自回歸過程AR(p)模型上海財經大學 統計學系33上海財經大學 統計學系34 首先，求對應齊次差分方程 的通解 。 假定其對應特征方程 的p個特征根為 ，根據前面的討論，一般地，這p個特征根可能有如下情形： ( )0tB XtX110ppp 12,p 上海財經大學 統計學系35上海財經大學 統計學系36再求非齊次差分方程 的一個特解 。( )ttB XtX上海財經大學 統計學系37 由此，自回歸系數多項式可以寫為 因此，我們可以得到非齊次差分方程

10、 的一個特解 部分分式展開得到 其中 為任意實數。1()1pjjBB( )ttB X111( )1tttpjjXBB11111pjtttpjjjjkXBB1,pkk上海財經大學 統計學系38上海財經大學 統計學系393.3 移動平均過程MA(q) 3.3.1一階移動平均過程一階移動平均過程MA(1)上海財經大學 統計學系40 圖3.2為一個零均值的MA(1)序列200個模擬數據。 上海財經大學 統計學系41上海財經大學 統計學系42 類似于自回歸模型的平穩(wěn)性討論，與移動平均過程相聯系的一個重要概念是可逆性。對于零均值的MA(1)序列 1tttX上海財經大學 統計學系43上海財經大學 統計學系4

11、43.3.2 q階移動平均過程MA(q)上海財經大學 統計學系45上海財經大學 統計學系463.4 自回歸移動平均過程ARMA(p, q) 3.4.1 ARMA(p, q)過程的平穩(wěn)域和可逆域 上海財經大學 統計學系47上海財經大學 統計學系48上海財經大學 統計學系49上海財經大學 統計學系50例例3.4 求ARMA(1,1)的平穩(wěn)域和可逆域。 上海財經大學 統計學系51上海財經大學 統計學系52 例例3.5 求MA(2)的可逆域。上海財經大學 統計學系53上海財經大學 統計學系54上海財經大學 統計學系55上海財經大學 統計學系563.4.2 模型的因果性和格(Green)函數 上海財經大

12、學 統計學系57 對于零均值的模型，則ARMA(p,q)模型 可表示為： 由部分分式展開， 可表為 比較兩邊B的同次冪系數，得到： ( )( )ttB XB )(BG10( )( ) ( )jjjG BBBG B 上海財經大學 統計學系58上海財經大學 統計學系59 可以得到 的遞推公式：jG*1*1,1,lljljjlljljjGlqGGjq 上海財經大學 統計學系60上海財經大學 統計學系61上海財經大學 統計學系62 例例3.7 求ARMA(2,1)模型的格林函數。上海財經大學 統計學系63上海財經大學 統計學系64上海財經大學 統計學系65上海財經大學 統計學系663.4.3 模型的逆

13、轉形式和逆函數 上海財經大學 統計學系67上海財經大學 統計學系68上海財經大學 統計學系69 例例3.10 求ARMA(2,1)模型的逆函數。上海財經大學 統計學系70上海財經大學 統計學系71上海財經大學 統計學系72上海財經大學 統計學系73上海財經大學 統計學系743.5 自相關系數與偏相關系數 3.5.1自相關系數及其特征 上海財經大學 統計學系75上海財經大學 統計學系76上海財經大學 統計學系77上海財經大學 統計學系78上海財經大學 統計學系79上海財經大學 統計學系80上海財經大學 統計學系81上海財經大學 統計學系82上海財經大學 統計學系83上海財經大學 統計學系84上海

14、財經大學 統計學系85上海財經大學 統計學系86上海財經大學 統計學系87上海財經大學 統計學系88 3.5.2偏自相關系數及其特征偏自相關系數及其特征 在對前面平穩(wěn)時間序列的分析中，我們看到對于MA(q)過程，其自相關系數具有q階截尾性，由此我們可以通過計算序列的自相關系數大致判斷出模型的階數。但是，對于平穩(wěn)的自回歸模型AR(p)來說，由于自相關系數不具有截尾性，因此我們無法利用序列的自相關系數來判斷模型的階數，我們希望找到一種類似地系數，使得對自回歸模型AR(p)來說也具有截尾性。上海財經大學 統計學系89上海財經大學 統計學系90 1. 偏自相關系數的定義上海財經大學 統計學系91上海財

15、經大學 統計學系92上海財經大學 統計學系93 2. 偏自相關函數的遞推算法上海財經大學 統計學系94上海財經大學 統計學系95上海財經大學 統計學系96 定理定理3.4 設 為平穩(wěn)序列，則它的偏相關 函數 滿足如下遞推公式： 其中， 是 的自相關系數。tXkkjtX上海財經大學 統計學系97 例例3.11 求AR(1)序列的偏自相關系數。 解：解： 對 ，計算可以得到11tttXX1121211111122111111,0111111112121123213111332121111112211111110,111111上海財經大學 統計學系98 因此有 即對于 ， ，故對于AR(1)序列，偏自相關系數是一步截尾的。1,10,1kkkk1k 0kk上海財經大學 統計學系99 例例3.12 求AR(2)序列的偏自相關系數。 解：解： 對 ，計算可以得到 1122ttttXXX11112122211221212222122221111222221222211111111111上海財經大學 統計學系100上海財經大學 統計學系101 定理定理3.5 零均值平穩(wěn)序列 為AR(