第2章 平穩(wěn)時(shí)間序列分析.

1、第二章平穩(wěn)時(shí)間序列分析本章結(jié)構(gòu)n時(shí)間序列的基本概念n方法性工具 nARMA模型 n平穩(wěn)序列建模n序列預(yù)測(cè) 2.1時(shí)間序列基本概念1.時(shí)間序列的概率分布 一個(gè)時(shí)間序列的概率分布可以用它有限維分布簇來(lái)描述 時(shí)間序列所有的一維分布是：時(shí)間序列所有的一維分布是： 所有二維分布是：所有二維分布是： 一個(gè)時(shí)間序列的所有有限維分布簇的全體，稱為該序一個(gè)時(shí)間序列的所有有限維分布簇的全體，稱為該序列的有限維分布簇。列的有限維分布簇。 101.,( ),( ),( ),.FFF( , ),0, 1, 2,.()ijFi jij 2.時(shí)間序列的均值函數(shù) 一個(gè)時(shí)間序列的均值函數(shù)是指：一個(gè)時(shí)間序列的均值函數(shù)是指：其中：

2、其中： 表示在表示在 固定時(shí)對(duì)隨機(jī)變量固定時(shí)對(duì)隨機(jī)變量 的求的求均值，它只與一維分布簇中的分布函數(shù)均值，它只與一維分布簇中的分布函數(shù) 有關(guān)。有關(guān)。( )tttEXxdF xtEXttX()tF 2.時(shí)間序列的協(xié)方差函數(shù)與自相關(guān)函數(shù) 協(xié)方差函數(shù)：,( , )()()( , )ttsstst st sE XXxydFx y 其中，其中， 為為 的二維聯(lián)合分布。的二維聯(lián)合分布。 自相關(guān)函數(shù)：自相關(guān)函數(shù)：( , )( , )/( , ) ( , )t st st ts s,( , )t sF x y(,)tsXX時(shí)間序列的自協(xié)方差函數(shù)有以下性質(zhì)：時(shí)間序列的自協(xié)方差函數(shù)有以下性質(zhì)：對(duì)稱性：對(duì)稱性： 非負(fù)

3、定性：非負(fù)定性：( , )( , )t ss t 111212122212,mmmmmmmk kk kk kk kk kk kk kk kk k 為對(duì)稱非負(fù)定矩陣。為對(duì)稱非負(fù)定矩陣。自相關(guān)函數(shù)同樣也具有上述性質(zhì)且有自相關(guān)函數(shù)同樣也具有上述性質(zhì)且有 。 對(duì)任意正整數(shù)對(duì)任意正整數(shù) 和任意和任意 個(gè)整數(shù)個(gè)整數(shù) ，方陣，方陣mm12, ,.,mk kk( , )1t t2.2平穩(wěn)時(shí)間序列n滿足如下條件的序列稱為嚴(yán)平穩(wěn)序列n滿足如下條件的序列稱為寬平穩(wěn)序列),(),(21,21,2121mtttmtttxxxFxxxFmm有，正整數(shù)，正整數(shù)Ttttmm,21TtskksttskkstTtEXTtEXtt

4、且，為常數(shù)，,),(),()3,)2,) 12n嚴(yán)平穩(wěn)與寬平穩(wěn)的關(guān)系 1.嚴(yán)平穩(wěn)不等于寬平穩(wěn)；嚴(yán)平穩(wěn)不等于寬平穩(wěn)；2.寬平穩(wěn)不等于嚴(yán)平穩(wěn)；寬平穩(wěn)不等于嚴(yán)平穩(wěn)；3.對(duì)于嚴(yán)平穩(wěn)序列，如果其二階距存在，對(duì)于嚴(yán)平穩(wěn)序列，如果其二階距存在，其必為寬平穩(wěn)，反之則一般不成立；其必為寬平穩(wěn)，反之則一般不成立；4.對(duì)于高斯序列，嚴(yán)平穩(wěn)與寬平穩(wěn)是等對(duì)于高斯序列，嚴(yán)平穩(wěn)與寬平穩(wěn)是等價(jià)的。價(jià)的。n平穩(wěn)時(shí)間序列自協(xié)方差函數(shù)和自相關(guān)函數(shù) 設(shè)平穩(wěn)時(shí)間序列的均值為零，即0tE X。 自協(xié)方差函數(shù)：自協(xié)方差函數(shù)：0kt kt kttttt kE XEXXEXEXEX X當(dāng)時(shí)自相關(guān)函數(shù)：自相關(guān)函數(shù)：0kkn平穩(wěn)序列的自協(xié)方差函數(shù)

5、有以下性質(zhì)：平穩(wěn)序列的自協(xié)方差函數(shù)有以下性質(zhì)：對(duì)稱性：對(duì)稱性： 非負(fù)定性：非負(fù)定性：0k01m-110m-2m-1m-20m 為非負(fù)定矩陣。為非負(fù)定矩陣。自相關(guān)函數(shù)同樣也具有上述性質(zhì)。自相關(guān)函數(shù)同樣也具有上述性質(zhì)。 階自協(xié)方差陣階自協(xié)方差陣 有界性：有界性：kkmn平穩(wěn)序列的樣本統(tǒng)計(jì)量平穩(wěn)序列的樣本統(tǒng)計(jì)量 樣本均值：時(shí)間序列無(wú)法獲得多重實(shí)現(xiàn)，常用時(shí)間均值代替總體均值。11nttxxn上式的估計(jì)是無(wú)偏的。上式的估計(jì)是無(wú)偏的。 n樣本自協(xié)方差函數(shù)樣本自協(xié)方差函數(shù)11n kktt ktxxxxn11n kktt ktxxxxnk第一式是有偏估計(jì)，第二式是無(wú)偏估計(jì)，但第一式是有偏估計(jì)，第二式是無(wú)偏估計(jì)

6、，但有效性不如第一式。有效性不如第一式。2.3幾類特殊的時(shí)間序列： 1. 白噪聲序列（White noise）：如果時(shí)間序列滿足以下性質(zhì)：（1） 0tE a2,tst sE a a （2） 式中，當(dāng)式中，當(dāng) 時(shí)，時(shí)，,0,1t st t。稱此序列為白噪聲序列，稱此序列為白噪聲序列，簡(jiǎn)稱白噪聲。常記為簡(jiǎn)稱白噪聲。常記為:2(0,).taWNts2.獨(dú)立同分布序列：如果時(shí)間序列,tX tT中的隨機(jī)變量中的隨機(jī)變量 為相互獨(dú)為相互獨(dú)立的隨機(jī)變量，而且具有相同的分布，立的隨機(jī)變量，而且具有相同的分布，稱這樣的時(shí)間序列為獨(dú)立同分布序列。稱這樣的時(shí)間序列為獨(dú)立同分布序列。3.3.正態(tài)序列：若正態(tài)序列：若,

7、tX tT正態(tài)分布，則稱正態(tài)分布，則稱的有限維分布都是的有限維分布都是,tX tT為正態(tài)序列。為正態(tài)序列。,0, 1, 2,.tX t 2.4 方法性工具 n差分運(yùn)算n延遲算子n線性差分方程差分運(yùn)算n一階差分n 階差分 n 步差分pk1tttxxx111tptptpxxxkttkxx延遲算子n延遲算子類似于一個(gè)時(shí)間指針，當(dāng)前序列值乘以一個(gè)延遲算子，就相當(dāng)于把當(dāng)前序列值的時(shí)間向過(guò)去撥了一個(gè)時(shí)刻 n記 為延遲算子，有 1,pxBxtpptB延遲算子的性質(zhì)n n n n n ，其中n 若10B為任意常數(shù)cxcxBcxcBttt,)()(111)(ttttyxyxBnttnxxBiniinnnBCB0

8、) 1()1 ()!( !ininCin2211,1.1BBB 用延遲算子表示差分運(yùn)算n 階差分 n 步差分pkitpiipptptpxCxBx0) 1()1 (tkkttkxBxx)1 ( 線性差分方程 n線性差分方程n齊次線性差分方程)(2211thzazazazptpttt02211ptptttzazazaz齊次線性差分方程的解n特征方程n特征方程的根稱為特征根，記作n齊次線性差分方程的通解n不相等實(shí)數(shù)根場(chǎng)合n有相等實(shí)根場(chǎng)合n復(fù)根場(chǎng)合02211ppppaaap,21tpptttcccz2211tpptddtddtcctctccz111121)(tpptititttccececrz3321

9、)(非齊次線性差分方程的解 n非齊次線性差分方程的特解n使得非齊次線性差分方程成立的任意一個(gè)解n非齊次線性差分方程的通解n齊次線性差分方程的通解和非齊次線性差分方程的特解之和tttzzz tz )(2211thzazazazptpttt tz幾個(gè)例題1(1)0.8ttyy1(2)1.2ttyy解解：（：（1）的特征方程：）的特征方程：0.80得特征值：得特征值：0.8.則齊次通解：則齊次通解：(0.8)tcc為兩任意常數(shù)。為兩任意常數(shù)。同理，（同理，（2）的通解：）的通解：(1.2)tc當(dāng)任意常數(shù)為當(dāng)任意常數(shù)為1時(shí)，（時(shí)，（1）、（）、（2）解的時(shí)間路徑如）解的時(shí)間路徑如下圖：下圖：c為兩任意

10、常數(shù)。為兩任意常數(shù)。幾個(gè)例題0.00.20.40.60.81.0246810 12 14 16 18 20010203040246810 1214 1618 20幾個(gè)例題12(3)0.20.35tttyyy12(4)0.70.35tttyyy解解：（：（3）的特征方程：）的特征方程：20.20.350得兩個(gè)特征值：得兩個(gè)特征值：0.7和和-0.5.則齊次通解：則齊次通解：12(0.7)( 0.5)ttcc12,cc為兩任意常數(shù)。為兩任意常數(shù)。幾個(gè)例題同理，（同理，（4）的通解：）的通解：12(1.037)( 0.337)ttcc12,cc為兩任意常數(shù)。為兩任意常數(shù)。當(dāng)任意常數(shù)為當(dāng)任意常數(shù)為1時(shí)

11、，（時(shí)，（3）、（）、（4）解的時(shí)間路徑如）解的時(shí)間路徑如下圖：下圖：幾個(gè)例題0.00.20.40.60.8246810 12 14 16 18 201.01.21.41.61.82.02.2246810 12 14 16 18 20幾個(gè)例題12(5)1.60.9tttyyy12(6)1.61.1tttyyy-0.8-0.40.00.40.81.22468101214161820-4-202462468101214161820齊次線性差分方程特征根和解的斂散性關(guān)系1,i對(duì) 所 有 的 i,若解 是 收 斂 解 。1,i若 存 在 i,解 是 發(fā) 散 解 。2.5 ARMA模型的性質(zhì) nAR模型

12、（Auto Regression Model） nMA模型（Moving Average Model） nARMA模型（Auto Regression Moving Average model）AR模型的定義n具有如下結(jié)構(gòu)的模型稱為 階自回歸模型，簡(jiǎn)記為n特別當(dāng) 時(shí)，稱為中心化 模型tsExtsEVarExxxxtsstttptptpttt, 0, 0)(,)(0)(0222110，p)(pAR00)(pAR AR(P)序列中心化變換n稱 為 的中心化序列 ，令p101ttxytytx自回歸系數(shù)多項(xiàng)式n引進(jìn)延遲算子，中心化 模型又可以簡(jiǎn)記為 n自回歸系數(shù)多項(xiàng)式)(pARttxB)(ppBBBB

13、2211)(AR模型平穩(wěn)性判別 n判別原因nAR模型是常用的平穩(wěn)序列的擬合模型之一，但并非所有的AR模型都是平穩(wěn)的 n判別方法n單位根判別法n平穩(wěn)域判別法例2.1:考察如下四個(gè)模型的平穩(wěn)性1(1)0.8tttxx1(2)1.1tttxx 12(3)0.5ttttxxxttttxxx115 . 0)4(例2.1平穩(wěn)序列時(shí)序圖1(1)0.8tttxx12(3)0.5ttttxxx例2.1非平穩(wěn)序列時(shí)序圖1(2)1.1tttxx ttttxxx115 . 0)4(AR模型平穩(wěn)性判別方法n特征根判別nAR(p)模型平穩(wěn)的充要條件是它的p個(gè)特征根都在單位圓內(nèi)n根據(jù)特征根和自回歸系數(shù)多項(xiàng)式的根成倒數(shù)的性質(zhì)

14、，等價(jià)判別條件是該模型的自回歸系數(shù)多項(xiàng)式的根都在單位圓外n平穩(wěn)域判別 n平穩(wěn)域,21單位根都在單位圓內(nèi)pAR(1)模型平穩(wěn)條件n特征根n平穩(wěn)域1AR(2)模型平穩(wěn)條件n特征根n平穩(wěn)域2424221122211111,12221，且例2.1平穩(wěn)性判別8 . 010.81 . 111.1 211i212i221210.5,0.5,1.5 23112312221210.5,1.5,0.5 模型特征根判別平穩(wěn)域判別結(jié)論(1)平穩(wěn)(2)非平穩(wěn)(3)平穩(wěn)(4)非平穩(wěn)平穩(wěn)AR模型的統(tǒng)計(jì)性質(zhì)n均值n方差n協(xié)方差n自相關(guān)系數(shù)n偏自相關(guān)系數(shù)均值 n如果AR(p)模型滿足平穩(wěn)性條件，則有n根據(jù)平穩(wěn)序列均值為常數(shù)，且

15、 為白噪聲序列，有n推導(dǎo)出p101)(110tptpttxxEExTtEExtt,0)(,t ,0, 1, 2,.tx t 20(0,)tjtjtjxGWN txjG01G 設(shè)零均值平穩(wěn)序列設(shè)零均值平穩(wěn)序列能夠表示為能夠表示為則稱上式為平穩(wěn)序列則稱上式為平穩(wěn)序列的傳遞形式，式中的加權(quán)系數(shù)的傳遞形式，式中的加權(quán)系數(shù)稱為稱為Green函數(shù)，其中函數(shù)，其中。Green函數(shù)定義Green函數(shù)的含義Green函數(shù)可以從以下三個(gè)方面理解：函數(shù)可以從以下三個(gè)方面理解：（1）描述序列動(dòng)態(tài)特性；）描述序列動(dòng)態(tài)特性；（2）單位脈沖的響應(yīng)函數(shù)）單位脈沖的響應(yīng)函數(shù)(系統(tǒng)記憶擾動(dòng)程度的函數(shù)系統(tǒng)記憶擾動(dòng)程度的函數(shù))； (

16、3) Wold正交分解的坐標(biāo)。正交分解的坐標(biāo)。?平穩(wěn)序列的平穩(wěn)序列的Green函數(shù)有什么特征函數(shù)有什么特征,0jjG Green函數(shù)遞推公式n原理n方法n待定系數(shù)法n遞推公式pkpkjGGGkkkjjkkj, 0, 2 , 1110其中，ttttttBGBBGxxB)()()()(方差n平穩(wěn)AR模型的傳遞形式n兩邊求方差得函數(shù)為GreenGGxVarjjjt,)(202jtjjtGx0例2.2:求平穩(wěn)AR(1)模型的方差n平穩(wěn)AR(1)模型的傳遞形式為nGreen函數(shù)為n平穩(wěn)AR(1)模型的方差itiitiittBBx01011)(1, 1 , 0,1jGjj2122021021)()(jjt

17、jjtVarGxVar協(xié)方差函數(shù)n在平穩(wěn)AR(p)模型兩邊同乘 ，再求期望n根據(jù)n得協(xié)方差函數(shù)的遞推公式)()()()(11kttktptpkttkttxExxExxExxEktx1,k0)(kttxE1,kpkpkkk2211例2.3:求平穩(wěn)AR(1)模型的協(xié)方差n遞推公式n平穩(wěn)AR(1)模型的方差為n協(xié)方差函數(shù)的遞推公式為0111kkk212011,12121kkk例2.4:求平穩(wěn)AR(2)模型的協(xié)方差n平穩(wěn)AR(2)模型的協(xié)方差函數(shù)遞推公式為21)1)(1)(1 (12211201122121220kkkk，自相關(guān)系數(shù)n自相關(guān)系數(shù)的定義n平穩(wěn)AR(P)模型的自相關(guān)系數(shù)遞推公式0kk112

18、2kkkpkp 常用AR模型自相關(guān)系數(shù)遞推公式nAR(1)模型nAR(2)模型0,1kkk2110, 1221121kkkkkkAR模型自相關(guān)系數(shù)的性質(zhì)n拖尾性n呈復(fù)指數(shù)衰減1( )pkiiikc不能恒等于零pccc,211( )pkiiikc0例2.5:考察如下AR模型的自相關(guān)圖ttttttttttttttxxxxxxxxxx2121115 . 0)4(5 . 0)3(8 . 0)2(8 . 0) 1 (例2.5n自相關(guān)系數(shù)按復(fù)指數(shù)單調(diào)收斂到零1(1)0.8tttxx例2.5:1(2)0.8tttxx 例2.5:n自相關(guān)系數(shù)呈現(xiàn)出“偽周期”性12(3)0.5ttttxxx例2.5:n自相關(guān)系

19、數(shù)不規(guī)則衰減12(4)0.5ttttxxx 偏自相關(guān)系數(shù)n定義 對(duì)于平穩(wěn)AR(p)序列，所謂滯后k偏自相關(guān)系數(shù)就是指在給定中間k-1個(gè)隨機(jī)變量 的條件下，或者說(shuō)，在剔除了中間k-1個(gè)隨機(jī)變量的干擾之后， 對(duì) 影響的相關(guān)度量。用數(shù)學(xué)語(yǔ)言描述就是121,ktttxxxktxtx2,)()(11ktktktktttxxxxxExExExxExEkttktt偏自相關(guān)系數(shù)的計(jì)算n設(shè)中心化平穩(wěn)序列 ，用連續(xù)k期滯后值對(duì) 作k階自回歸1122.tktktkkt ktxxxx2()()() ttt kktkkt kt kE xExxExE xExtx tx可證可證偏自相關(guān)系數(shù)的計(jì)算n滯后k偏自相關(guān)系數(shù)實(shí)際上就

20、等于k階自回歸模型第k個(gè)回歸系數(shù)的值。n利用前面講的方法，易得到以下方程組02211202112112011kkkkkkkkkkkkkkkkkYule-Walker方程組方程組偏自相關(guān)系數(shù)的計(jì)算對(duì)對(duì)k=1，2，3， 依次求解方程，得依次求解方程，得111121221222111111112211132123112111212311111kkkkkkkkkkkkk 偏自相關(guān)系數(shù)的截尾性nAR(p)模型偏自相關(guān)系數(shù)P階截尾pkkk,0例2.5續(xù):考察如下AR模型的偏自相關(guān)圖ttttttttttttttxxxxxxxxxx2121115 . 0)4(5 . 0)3(8 . 0)2(8 . 0) 1

21、(例2.5n理論偏自相關(guān)系數(shù)n樣本偏自相關(guān)圖1(1)0.8tttxx0.8,10,2kkkk例2.5:n理論偏自相關(guān)系數(shù)n樣本偏自相關(guān)圖1(2)0.8tttxx 0.8,10,2kkkk例2.5:n理論偏自相關(guān)系數(shù)n樣本偏自相關(guān)圖12(3)0.5ttttxxx2,130.5,20,3kkkkk 例2.5:n理論偏自相關(guān)系數(shù)n樣本偏自相關(guān)系數(shù)圖12(4)0.5ttttxxx 2,130.5,20,3kkkkk MA模型的定義n具有如下結(jié)構(gòu)的模型稱為 階移動(dòng)平均模型，簡(jiǎn)記為n特別當(dāng) 時(shí)，稱為中心化 模型q)(qMA0)(qMA112220( )0( ),()0,ttttqt qqtttsxEVar

22、Est ，移動(dòng)平均系數(shù)多項(xiàng)式n引進(jìn)延遲算子，中心化 模型又可以簡(jiǎn)記為 n 階移動(dòng)平均系數(shù)多項(xiàng)式)(qMAttBx)(qqqBBBB2211)(MA模型的統(tǒng)計(jì)性質(zhì)n常數(shù)均值n常數(shù)方差）（qtqttttEEx221122212211)1 ()()(qqtqttttVarxVarMA模型的統(tǒng)計(jì)性質(zhì)n自協(xié)方差函數(shù)P階截尾n自相關(guān)系數(shù)P階截尾q kqkkkqiikikqk , 01 ,)(0 ,)1 (212221qkqkkqkqiikikk , 01 ,10 , 12211常用MA模型的自相關(guān)系數(shù)nMA(1)模型nMA(2)模型2, 01, 10, 1211kkkk3, 02, 11, 10, 122

23、2122221211kkkkkMA模型的統(tǒng)計(jì)性質(zhì)n偏自相關(guān)系數(shù)拖尾MA模型的PACF不會(huì)在有限階后為零例2.6:考察如下MA模型的相關(guān)性質(zhì)212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxxMA模型的自相關(guān)系數(shù)截尾n n 112tttx（）120.5tttx（ ）MA模型的自相關(guān)系數(shù)截尾n n 124163525ttttx（ ）125254416ttttx（ ）MA模型的偏自相關(guān)系數(shù)拖尾n n 112tttx（）120.5tttx（ ）MA模型的偏自相關(guān)系數(shù)拖尾n n 124163525ttttx（ ）125254416ttttx（

24、）MA模型的可逆性nMA模型自相關(guān)系數(shù)的不唯一性n例2.6中不同的MA模型具有完全相同的自相關(guān)系數(shù)和偏自相關(guān)系數(shù)212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx可逆的定義n可逆MA模型定義n若一個(gè)MA模型能夠表示稱為收斂的AR模型形式(逆轉(zhuǎn)形式），那么該MA模型稱為可逆MA模型n可逆概念的重要性n一個(gè)自相關(guān)系數(shù)列唯一對(duì)應(yīng)一個(gè)可逆MA模型。00,1tjtjjjI xII稱為逆函數(shù),可逆MA(1)模型n n 1tttx11tttx21ttBx1ttBx11可逆, 1可逆, 1MA模型的可逆條件nMA(q)模型的可逆條件是：nMA(q)

25、模型的特征根都在單位圓內(nèi)n等價(jià)條件是移動(dòng)平滑系數(shù)多項(xiàng)式的根都在單位圓外11i1i逆函數(shù)的遞推公式n原理n方法n待定系數(shù)法n遞推公式qkqkjIIIkkkjjkkj, 0, 2 , 1110其中，ttttttxxBIBxBIBx)()()()(例2.6續(xù):考察如下MA模型的可逆性212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx(1)(2)n n n逆函數(shù)n逆轉(zhuǎn)形式不可逆1221tttx可逆15 . 05 . 01tttx05 . 0kktktx1,5 . 01kIkk(3)(4)n n n逆函數(shù)n逆轉(zhuǎn)形式可逆1, 125165412

26、221ttttx, 1 , 0,23, 0133,) 1(1nnknnkIknk或013130338 . 0) 1(8 . 0) 1(nntnnnntnntxx不可逆11625162545221ttttxARMA模型的定義n具有如下結(jié)構(gòu)的模型稱為自回歸移動(dòng)平均模型，簡(jiǎn)記為n特別當(dāng) 時(shí)，稱為中心化 模型),(qpARMAtsExtsEVarExxxtsstttqpqtqttptptt, 0, 0)(,)(0)(00211110，00),(qpARMA系數(shù)多項(xiàng)式n引進(jìn)延遲算子，中心化 模型又可以簡(jiǎn)記為 n 階自回歸系數(shù)多項(xiàng)式n 階移動(dòng)平均系數(shù)多項(xiàng)式),(qpARMAttBxB)()(qqqBBBB

27、2211)(pppBBBB2211)(平穩(wěn)條件與可逆條件nARMA(p,q)模型的平穩(wěn)條件nP階自回歸系數(shù)多項(xiàng)式 的根都在單位圓外n即ARMA(p,q)模型的平穩(wěn)性完全由其自回歸部分的平穩(wěn)性決定nARMA(p,q)模型的可逆條件nq階移動(dòng)平均系數(shù)多項(xiàng)式 的根都在單位圓外n即ARMA(p,q)模型的可逆性完全由其移動(dòng)平滑部分的可逆性決定0)( B0)( B傳遞形式與逆轉(zhuǎn)形式n傳遞形式n逆轉(zhuǎn)形式11)()(jjtjtttGBBx1,110kGGGkjjjkjk11)()(jjtjtttxIxxBB1,110kIIIkjjjkjkARMA(p,q)模型的統(tǒng)計(jì)性質(zhì)n均值n協(xié)方差n自相關(guān)系數(shù)ptEx10

28、1 )(02ikiiGGk020)0()()(jjjkjjGGGkkARMA模型的相關(guān)性n自相關(guān)系數(shù)拖尾n偏自相關(guān)系數(shù)拖尾例2.7:考察ARMA模型的相關(guān)性n擬合模型ARMA(1,1): 并直觀地考察該模型自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的性質(zhì)。 10.50.8ttttxx自相關(guān)系數(shù)和偏自相關(guān)系數(shù)拖尾性n樣本自相關(guān)圖n樣本偏自相關(guān)圖ARMA模型相關(guān)性特征模型自相關(guān)系數(shù)偏自相關(guān)系數(shù)AR(P)拖尾P階截尾MA(q)q階截尾拖尾ARMA(p,q)拖尾拖尾2.6平穩(wěn)序列建模 n建模步驟n模型識(shí)別n參數(shù)估計(jì)n模型檢驗(yàn)n模型優(yōu)化n序列預(yù)測(cè)建模步驟平平穩(wěn)穩(wěn)非非白白噪噪聲聲序序列列計(jì)計(jì)算算樣樣本本相相關(guān)關(guān)系系數(shù)數(shù)模型

29、模型識(shí)別識(shí)別參數(shù)參數(shù)估計(jì)估計(jì)模型模型檢驗(yàn)檢驗(yàn)?zāi)ＤＰ托蛢?yōu)優(yōu)化化序序列列預(yù)預(yù)測(cè)測(cè)YN計(jì)算樣本相關(guān)系數(shù)n樣本自相關(guān)系數(shù)n樣本偏自相關(guān)系數(shù)nttkntkttkxxxxxx121)()(DDkkk模型識(shí)別n基本原則選擇模型拖尾P階截尾AR(P)q階截尾拖尾MA(q)拖尾拖尾ARMA(p,q)kkk模型定階的困難n因?yàn)橛捎跇颖镜碾S機(jī)性，樣本的相關(guān)系數(shù)不會(huì)呈現(xiàn)出理論截尾的完美情況，本應(yīng)截尾的 或 仍會(huì)呈現(xiàn)出小值振蕩的情況n由于平穩(wěn)時(shí)間序列通常都具有短期相關(guān)性，隨著延遲階數(shù) ， 與 都會(huì)衰減至零值附近作小值波動(dòng)n當(dāng) 或 在延遲若干階之后衰減為小值波動(dòng)時(shí)，什么情況下該看作為相關(guān)系數(shù)截尾，什么情況下該看作為相關(guān)系

30、數(shù)在延遲若干階之后正常衰減到零值附近作拖尾波動(dòng)呢？ kkkkkkkkkk樣本自相關(guān)系數(shù)和偏自相關(guān)系數(shù)截尾性的判定nQuenouille證明:在p階自回歸的假設(shè)下，n為觀測(cè)值個(gè)數(shù)，當(dāng)kp時(shí)， nnNkk,)1, 0(nBartlett證明：在q階移動(dòng)平均的假設(shè)條件下，n為觀測(cè)值個(gè)數(shù)，當(dāng)kq時(shí)，nEviews中上述分布近似為nnNqiik,)21 (1, 012樣本自相關(guān)系數(shù)和偏自相關(guān)系數(shù)截尾性的判定nnNk,)1, 0(模型定階經(jīng)驗(yàn)方法n95的置信區(qū)間n模型定階的經(jīng)驗(yàn)方法n如果樣本(偏)自相關(guān)系數(shù)在最初的d階明顯大于兩倍標(biāo)準(zhǔn)差范圍，而后幾乎95的自相關(guān)系數(shù)都落在2倍標(biāo)準(zhǔn)差的范圍以內(nèi)，而且通常由非

31、零自相關(guān)系數(shù)衰減為小值波動(dòng)的過(guò)程非常突然。這時(shí)，通常視為(偏)自相關(guān)系數(shù)截尾。截尾階數(shù)為d。22Pr0.9522Pr0.95kkknnnn例2.5續(xù)n選擇合適的模型ARMA擬合1950年1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列。序列自相關(guān)圖序列偏自相關(guān)圖擬合模型識(shí)別n自相關(guān)圖顯示延遲3階之后，自相關(guān)系數(shù)全部衰減到2倍標(biāo)準(zhǔn)差范圍內(nèi)波動(dòng)，這表明序列明顯地短期相關(guān)。但序列由顯著非零的相關(guān)系數(shù)衰減為小值波動(dòng)的過(guò)程相當(dāng)連續(xù)，相當(dāng)緩慢，該自相關(guān)系數(shù)可視為不截尾 n偏自相關(guān)圖顯示除了延遲1階的偏自相關(guān)系數(shù)顯著大于2倍標(biāo)準(zhǔn)差之外，其它的偏自相關(guān)系數(shù)都在2倍標(biāo)準(zhǔn)差范圍內(nèi)作小值隨機(jī)波動(dòng)，而且由非零相關(guān)系數(shù)衰減為小

32、值波動(dòng)的過(guò)程非常突然，所以該偏自相關(guān)系數(shù)可視為一階截尾 n所以可以考慮擬合模型為AR(1)例2.8美國(guó)科羅拉多州某一加油站連續(xù)57天的OVERSHORT序列 序列自相關(guān)圖序列偏自相關(guān)圖擬合模型識(shí)別n自相關(guān)圖顯示除了延遲1階的自相關(guān)系數(shù)在2倍標(biāo)準(zhǔn)差范圍之外，其它階數(shù)的自相關(guān)系數(shù)都在2倍標(biāo)準(zhǔn)差范圍內(nèi)波動(dòng)。根據(jù)這個(gè)特點(diǎn)可以判斷該序列具有短期相關(guān)性，進(jìn)一步確定序列平穩(wěn)。同時(shí)，可以認(rèn)為該序列自相關(guān)系數(shù)1階截尾n偏自相關(guān)系數(shù)顯示出典型非截尾的性質(zhì)。n綜合該序列自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的性質(zhì)，為擬合模型定階為MA(1) 例2.9n1880-1985全球氣表平均溫度改變值差分序列 序列自相關(guān)圖序列偏自相關(guān)圖擬

33、合模型識(shí)別n自相關(guān)系數(shù)顯示出不截尾的性質(zhì)n偏自相關(guān)系數(shù)也顯示出不截尾的性質(zhì)n綜合該序列自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的性質(zhì)，可以嘗試使用ARMA(1,1)模型擬合該序列參數(shù)估計(jì)n待估參數(shù)n 個(gè)未知參數(shù)n常用估計(jì)方法n矩估計(jì)n極大似然估計(jì)n最小二乘估計(jì)2pq211, ,pq 矩估計(jì)n原理n樣本自相關(guān)系數(shù)估計(jì)總體自相關(guān)系數(shù)n樣本一階均值估計(jì)總體均值，樣本方差估計(jì)總體方差111111( ,)( ,)pqp qpqp q 1niixxn2221221211xqp矩估計(jì)n原理 用樣本矩（如樣本均值，樣本方差，樣本自相關(guān)系數(shù)）代替相應(yīng)的理論值，并求相應(yīng)的方程得到參數(shù)的估計(jì)。AR(p)模型的矩估計(jì)n利用Yule-

34、Walker方程組 02211202112112011pppppppp用 代替 ，得到模型的系數(shù)估計(jì)。 kkAR(p)模型的矩估計(jì)11122111132221231111ppppppp在得到 后，利用下面的結(jié)果 12,.,pAR(p)模型的矩估計(jì)201 122.pp 得到 201122(1.)pp 例2.10:求AR(2)模型系數(shù)的矩估計(jì)nAR(2)模型nYule-Walker方程n矩估計(jì)（Yule-Walker方程的解）2112121112121112121221MA模型和ARMA的矩估計(jì)nMA模型和ARMA模型的矩估計(jì)比較復(fù)雜，所解方程是非線性方程，系數(shù)估計(jì)值有多重解，需要利用可逆性取舍。

35、例2.11:求MA(1)模型系數(shù)的矩估計(jì)nMA(1)模型n方程n矩估計(jì)11tttx2201111220111(1)1 12112411例2.12:求ARMA(1,1)模型系數(shù)的矩估計(jì)nARMA(1,1)模型n方程n矩估計(jì)1111ttttxx1111 112011 1211()(1)12 1122122112121,2,242,24,ccccccc對(duì)矩估計(jì)的評(píng)價(jià)n優(yōu)點(diǎn)n估計(jì)思想簡(jiǎn)單直觀n不需要假設(shè)總體分布n計(jì)算量?。ǖ碗A模型場(chǎng)合）n缺點(diǎn)n信息浪費(fèi)嚴(yán)重n只用到了p+q個(gè)樣本自相關(guān)系數(shù)信息，其他信息都被忽略n估計(jì)精度差n通常矩估計(jì)方法被用作極大似然估計(jì)和最小二乘估計(jì)迭代計(jì)算的初始值 極大似然估計(jì)n原

36、理n在極大似然準(zhǔn)則下，認(rèn)為樣本來(lái)自使該樣本出現(xiàn)概率最大的總體。因此未知參數(shù)的極大似然估計(jì)就是使得似然函數(shù)（即聯(lián)合密度函數(shù)）達(dá)到最大的參數(shù)值 ,);(max),;,(21121kkxpxxL似然方程n由于 和 都不是 的顯式表達(dá)式。因而似然方程組實(shí)際上是由p+q+1個(gè)超越方程構(gòu)成，通常需要經(jīng)過(guò)復(fù)雜的迭代算法才能求出未知參數(shù)的極大似然估計(jì)值 ( )Sln 0)(21ln21);(02)(2);(2422SxlSnxl對(duì)極大似然估計(jì)的評(píng)價(jià)n優(yōu)點(diǎn)n極大似然估計(jì)充分應(yīng)用了每一個(gè)觀察值所提供的信息，因而它的估計(jì)精度高n同時(shí)還具有估計(jì)的一致性、漸近正態(tài)性和漸近有效性等許多優(yōu)良的統(tǒng)計(jì)性質(zhì)n缺點(diǎn)n需要假定總體分

37、布最小二乘估計(jì)n原理n使殘差平方和達(dá)到最小的那組參數(shù)值即為最小二乘估計(jì)值 211111)(min)(min)(ntqtqtptpttxxxQQ條件最小二乘估計(jì)n實(shí)際中最常用的參數(shù)估計(jì)方法n假設(shè)條件n殘差平方和方程n解法n迭代法nitititnitxxQ121112)(0,0 txt對(duì)最小二乘估計(jì)的評(píng)價(jià)n優(yōu)點(diǎn)n最小二乘估計(jì)充分應(yīng)用了每一個(gè)觀察值所提供的信息，因而它的估計(jì)精度高n條件最小二乘估計(jì)方法使用率最高n缺點(diǎn)n需要假定總體分布例2.5續(xù)n確定1950年1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列擬合模型的口徑 n擬合模型：AR(1)n估計(jì)方法：極大似然估計(jì)n模型口徑tttxx169. 017.2

38、517.16)(2Var例2.8續(xù)n確定美國(guó)科羅拉多州某一加油站連續(xù)57天的OVERSHORTS序列擬合模型的口徑 n擬合模型：MA(1)n估計(jì)方法：條件最小二乘估計(jì)n模型口徑ttBx)82303. 01 (40351. 4929.2178)(2Var例2.9續(xù)n確定1880-1985全球氣表平均溫度改變值差分序列擬合模型的口徑 n擬合模型：ARMA(1,1)n估計(jì)方法：條件最小二乘估計(jì)n模型口徑119 . 0407. 0003. 0ttttxx016. 0)(2Var模型檢驗(yàn)n模型的顯著性檢驗(yàn)n整個(gè)模型對(duì)信息的提取是否充分n參數(shù)的顯著性檢驗(yàn)n模型結(jié)構(gòu)是否最簡(jiǎn)模型的顯著性檢驗(yàn)n目的n檢驗(yàn)?zāi)Ｐ偷?/p>

39、有效性（對(duì)信息的提取是否充分）n檢驗(yàn)對(duì)象n殘差序列n判定原則n一個(gè)好的擬合模型應(yīng)該能夠提取觀察值序列中幾乎所有的樣本相關(guān)信息，即殘差序列應(yīng)該為白噪聲序列 n反之，如果殘差序列為非白噪聲序列，那就意味著殘差序列中還殘留著相關(guān)信息未被提取，這就說(shuō)明擬合模型不夠有效假設(shè)條件n原假設(shè)：殘差序列為白噪聲序列n備擇假設(shè)：殘差序列為非白噪聲序列0120,1mHm：mkmHk，：至少存在某個(gè)1, 01檢驗(yàn)統(tǒng)計(jì)量nLB統(tǒng)計(jì)量221(2)() ( )mkkLBn nmnk例2.5續(xù)n檢驗(yàn)1950年1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列擬合模型的顯著性 n殘差白噪聲序列檢驗(yàn)結(jié)果延遲階數(shù)LB統(tǒng)計(jì)量P值檢驗(yàn)結(jié)論65.

40、830.3229擬合模型顯著有效1210.280.50501811.380.8361參數(shù)顯著性檢驗(yàn)n目的n檢驗(yàn)每一個(gè)未知參數(shù)是否顯著非零。刪除不顯著參數(shù)使模型結(jié)構(gòu)最精簡(jiǎn) n假設(shè)條件n檢驗(yàn)統(tǒng)計(jì)量mjHHjj10:0:10)()(mntQamnTjjjj例2.5續(xù)n檢驗(yàn)1950年1998年北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列極大似然估計(jì)模型的參數(shù)是否顯著 n參數(shù)檢驗(yàn)結(jié)果檢驗(yàn)參數(shù)t統(tǒng)計(jì)量P值結(jié)論均值46.120.0001顯著6.720.0001顯著1例2.8續(xù):對(duì)OVERSHORTS序列的擬合模型進(jìn)行檢驗(yàn) n殘差白噪聲檢驗(yàn)n參數(shù)顯著性檢驗(yàn)檢驗(yàn)參數(shù)t統(tǒng)計(jì)量P值結(jié)論均值3.750.0004顯著10.600.0

41、001顯著延遲階數(shù)LB統(tǒng)計(jì)量P值結(jié)論63.150.6772模型顯著有效129.050.61711例2.9續(xù):對(duì)1880-1985全球氣表平均溫度改變值差分序列擬合模型進(jìn)行檢驗(yàn) n殘差白噪聲檢驗(yàn)n參數(shù)顯著性檢驗(yàn)檢驗(yàn)參數(shù)t統(tǒng)計(jì)量P值結(jié)論16.340)進(jìn)行預(yù)測(cè)。這種預(yù)測(cè)稱為以t 為原點(diǎn)，向前步長(zhǎng)為l的預(yù)測(cè)，預(yù)測(cè)值記為: , 預(yù)測(cè)誤差記為: . ( )tx l( )te l預(yù)測(cè)函數(shù)形式n線性預(yù)測(cè)函數(shù)n預(yù)測(cè)方差最小原則0 ( )tit iix lC x( )( )min( )t lxttVare lVar e l預(yù)測(cè)函數(shù)形式+l00000 ( )()t litiitit iijt ijit iiijix

42、Gx lC xCGW 100( )( )()ltt ltit l il iit iiie lxx lGGW 預(yù)測(cè)函數(shù)形式n顯然，要使預(yù)測(cè)方差最小，必須n此時(shí)，,0,1,2.il iWGi010 ( )( )tl it iiltit l iix lGe lG 預(yù)測(cè)函數(shù)形式n則有112200 ( )0var ( )var,1tlltit l iiiiE e le lGGl 序列分解 111111( )( )t lt lt lltltltttxGGGGe lx l 預(yù)測(cè)誤差預(yù)測(cè)誤差預(yù)測(cè)值預(yù)測(cè)值條件期望預(yù)測(cè)n一個(gè)更一般的預(yù)測(cè)形式是條件期望預(yù)測(cè)，在線性條件下，兩者是一致的。在已知在已知 1,ttx x的

43、期望值稱為的期望值稱為 的條件下，的條件下， t lxt lx的條件期望，記為：的條件期望，記為： 1(|,)t lttE xx x()tt lE x或或線性條件下條件期望的性質(zhì)11()()lltjtjjttjjjEa xa E x0() ( )0t ltt ltxlE xx ll0()00t ltt lelE el性質(zhì)一：性質(zhì)一：性質(zhì)二：性質(zhì)二：性質(zhì)三：性質(zhì)三：性質(zhì)性質(zhì)1表明：條件期望滿足線性運(yùn)算法則；性質(zhì)表明：條件期望滿足線性運(yùn)算法則；性質(zhì)2表明：現(xiàn)在或過(guò)去表明：現(xiàn)在或過(guò)去觀察值的條件期望是其本身，未來(lái)取值的條件期望是其預(yù)測(cè)值；性觀察值的條件期望是其本身，未來(lái)取值的條件期望是其預(yù)測(cè)值；性質(zhì)

44、質(zhì)3表明：現(xiàn)在或過(guò)去的殘差的條件期望是它的估計(jì)值，未來(lái)殘差的表明：現(xiàn)在或過(guò)去的殘差的條件期望是它的估計(jì)值，未來(lái)殘差的條件期望則為零。條件期望則為零。 序列分解 111111( )( )t lt lt lltltttltxGGGGe lx l 1220()( )() ( )tt lltt ltiiE xx lVar xVar e lGAR(p)序列的預(yù)測(cè)n預(yù)測(cè)值n預(yù)測(cè)方差n95置信區(qū)間)() 1()( 1plxlxlxtpt22121)1 ()(ltGGleVar12221112 ( )1tlx lzGG例2.14n已知某超市月銷售額近似服從AR(2)模型（單位：萬(wàn)元/每月）n今年第一季度該超市

45、月銷售額分別為：101，96，97.2萬(wàn)元n請(qǐng)確定該超市第二季度每月銷售額的95的置信區(qū)間 12100.60.3,(0,36)tttttxxxN例2.14解：預(yù)測(cè)值計(jì)算n四月份n五月份n六月份12.973 . 06 . 010) 1 (233xxx432.973 . 0) 1 (6 . 010)2(333xxx5952.97) 1 (3 . 0)2(6 . 010)3(333xxx例2.14解：預(yù)測(cè)方差的計(jì)算nGREEN函數(shù)n方差01102112010.60.360.30.66GGGGGG6416.64)()3(96.48)()2(36)1 (222212032212032203GGGeVar

46、GGeVarGeVar例2.14解：置信區(qū)間n公式n估計(jì)結(jié)果)(96. 1)(,)(96. 1)(3333leVarlxleVarlx預(yù)測(cè)時(shí)期95置信區(qū)間四月份（85.36，108.88） 五月份（83.72，111.15） 六月份（81.84，113.35） 例2.5:北京市城鄉(xiāng)居民定期儲(chǔ)蓄比例序列擬合與預(yù)測(cè)圖 MA(q)序列的預(yù)測(cè)n預(yù)測(cè)值n預(yù)測(cè)方差qlqllxqliiltit,)(qlqlleVarqlt,)1 (,)1 ()(222122121例2.15n已知某地區(qū)每年常駐人口數(shù)量近似服從MA(3)模型（單位：萬(wàn)）：n最近3年的常駐人口數(shù)量及一步預(yù)測(cè)數(shù)量如下：n預(yù)測(cè)未來(lái)5年該地區(qū)常住人口的95置信區(qū)間1212 . 06 . 08 . 0