aan_計量學-ARMA模型的自相關函數(shù)

1、1（三）（三）ARMA模型的自相關函數(shù)模型的自相關函數(shù) 由ARMA(p,q)的自協(xié)方差公式可以看出，n只有 的q個自相關 的值同時依賴于 和 ；n當 時，具有與AR(p)模型相同的自相關函數(shù)差分公式或者qk q,1p,1q,1qk pkpkkk22110)(kL2n若 ，自相關函數(shù) 是指數(shù)或正弦波衰減的，具體由多項式 和初始值決定。n若 ，就會有 個初始值 不遵從一般的衰減變化形式。nARMA(p,q)的自相關函數(shù)是 步拖尾的。這一事實在識別ARMA模型時也非常有用。pq 0 pq, 2 , 1,kk)(L0 pq1 pqpq,103nARMA(1,1)過程1111ttttYY11211111

2、121)(1 (11 12kkk ，4二、偏自相關函數(shù)（partial autocorrelation function，PACF） n時間序列過程的偏自相關函數(shù)就是時間序列在兩個時間隨機變量之間，排除了其間各個時間隨機變量影響的相關系數(shù)。 5（一）AR(p)模型的偏自相關函數(shù)nAR(p)的模型n偏自相關函數(shù)定義為n計算方法把 對 回歸，得到回歸方程其中最后一項的回歸系數(shù)就是要求的偏自相關系數(shù) 。 tptpttYYY1111( ,)kktt ktt kcorr Y YYY tYkttYY,1ktkktktYYY11kk6n根據(jù)線性回歸法計算偏自相關函數(shù)，運用最小二乘法進行參數(shù)估計，得到正規(guī)方程

3、組n該方程組也可以認為是利用的協(xié)方差和自相關函數(shù)導出。尤勒沃克方程如下kjkkjkj11kkkkkkkkk21212121111117n分別求解，得到偏自相關系數(shù)：111，1212212221111111，111111211213122111338n由于AR(p)模型意味著 與 以后的滯后項不相關，因此大于p階的偏自相關系數(shù)必然都等于0。n這意味著AR(p)模型的偏自相關函數(shù)有在 處截尾的特征。n這也是識別自回歸模型及其自回歸階數(shù)的重要依據(jù)。tYptYpk 9（二）MA(q)和ARMA模型的偏自相關函數(shù)nMA(1)的偏自相關函數(shù) 該函數(shù) ，且被衰減指數(shù)控制，因此具有拖尾性。n可逆的MA()過程

4、等價于無限階的AR過程，因此它們的偏自相關函數(shù)會無限延伸，被指數(shù)衰減和（或）正弦波衰減所控制?？傊季哂型衔驳奶卣?。)1 ()1 ()1(212121kkkkkk110n自回歸移動平均混合過程ARMA(p,q)，是由自回歸過程和移動平均過程兩部分組成，因此它們的偏自相關函數(shù)也是無限延伸的，其特征就像純移動平均過程的偏自相關函數(shù)。n混合過程的偏自相關函數(shù)被復合的衰減指數(shù)和（或）衰減正弦波所控制。衰減特性主要由移動平均過程的階數(shù)和具體參數(shù)決定。11三、模型識別方法三、模型識別方法1、基本ARMA模型自相關和偏自相關函數(shù)的基本特征（1）AR(p)模型的自相關函數(shù)是拖尾的，即會按指數(shù)衰減，或正弦振蕩衰

5、減，偏自相關函數(shù)是截尾的，截尾處為自回歸階數(shù)p；（2）MA(q)模型的自相關函數(shù)是截尾的，截尾處對應移動平均階數(shù)q。偏自相關函數(shù)則是拖尾的；12（3）ARMA(p,q)模型的自相關函數(shù)和偏自相關函數(shù)都是拖尾的，自相關函數(shù)是 步拖尾，偏自相關函數(shù)是 步拖尾。pq qp 132、樣本自相關函數(shù)和樣本偏自相關函數(shù)n假設有一組觀測樣本 ，一般認為近似自相關函數(shù)最好的樣本自相關函數(shù)為：其中nYY,10kk210(),nttYYnnYYYYntkttk1)(14n計算樣本偏自相關函數(shù)（SPACF）的方法： 直接把樣本自相關值代入尤勒沃克方程進行計算，或者用公式 回歸的方法計算。ktkktktYYY1115

6、第三節(jié)第三節(jié) 自回歸移動平均模型的自回歸移動平均模型的估計估計nARMA模型的參數(shù)估計常用的方法是利用均值（期望）、自相關函數(shù)，包括Yule-Walker方程的矩估計方法。這些矩估計方法是一致估計，但未必有效。n充分有效的估計方法是最大似然法，但最大似然法比較復雜。n在樣本容量較大時矩估計與最大似然估計是接近的。16一、移動平均模型參數(shù)估計一、移動平均模型參數(shù)估計nMA(q)模型的自協(xié)方差函數(shù)為n自相關函數(shù)為qkqkkqkqkkqk當當當01)(0)1 (1122212qkqkqkqqkkkk0, 1122111017n首先利用樣本數(shù)據(jù)計算出 的估計值n把這q+1個樣本自協(xié)方差代自協(xié)方差函數(shù)中

7、的 ，或者根據(jù)這些 再計算出 的估計 代入自相關函數(shù)，并用 和 分別代自協(xié)方差或自相關函數(shù)中的待定參數(shù) 和 ，可得到q+1個方程的聯(lián)立方程組。knYYYYntkttk1)(kkkkq,12q,1218n如果可以從這個方程組解出 和 ，就是我們要求的參數(shù)估計值。n也可以先解出真實參數(shù)與自協(xié)方差、自相關的關系，再代入樣本估計值。n因為 是時間序列過程的二階矩，上述估計量是通過q+1個樣本矩方程求出的，所以是矩估計量，具有一致估計的性質。q,12k19nq=1時的參數(shù)估計方法一：直接利用一階自相關函數(shù)進行參數(shù)估計112121 1111021111142 20n由于可逆性條件要求 的絕對值小于1，因此

8、只有 滿足要求。n把樣本自相關系數(shù) 作為 的估計代入上式，就可以解得模型參數(shù)的估計量121124111111211241121方法二：利用自協(xié)方差函數(shù) 進行估計nMA(1)模型有n求解上述方程組，并利用 ，可解得 1212120)1 (011/2111211212011 42211 411 42 22n代入樣本自相關和自協(xié)方差得模型參數(shù)和模型誤差項方差 的估計量n由于上述矩估計的方程組是非線性的，因此只有當q較?。╭=1、2、3）時，直接進行解析求解才可行，當更大時解析求解越來越困難，一般應使用迭代方法求近似解。12212110211142,211423n最簡單的迭代方法 把MA(q)模型的自

9、協(xié)方差公式代入估計量，并變換為221021qqkqkkk11224首先給出參數(shù)的一組初始值： 將它們和 代入上述兩個迭代公式，計算出參數(shù)的第一次迭代值， ， 再將這些參數(shù)值代入迭代公式反復迭代，直到收斂。最后得到迭代值作為參數(shù)估計值。2012(0),(0)(0)(0)0q k) 1 (2) 1 (,),1 (1q25二、自回歸模型參數(shù)估計二、自回歸模型參數(shù)估計（一）普通最小二乘估計OLSn根據(jù)模型 ，殘差平方和為n根據(jù)最小二乘原理，利用一階條件求上述最小二乘函數(shù)最小化的參數(shù)值 ，即為最小二乘估計。tptpttYYY11nptptpttnpttYYYeS121112)(p,126（二）利用樣本自

10、協(xié)方差方程的矩估計n對于一般的平穩(wěn)AR(p)模型，有關于自相關的一組關系，即Yule-Walker方程：pppppp210212211102127n利用樣本數(shù)據(jù)計算出樣本自相關 ，代入上述Yule-Walker方程，可以解得 的“Yule-Walker估計”：p,10p,1pppppp2110212211102128n該模型中修正項 的方差則可以用下式估計：n因為計算估計量的方程組是樣本自相關函數(shù)，也是二階樣本矩方程，因此Yule-Walker估計同樣是矩估計量，也是一致估計。tpjiijjipjjj1,010229n當樣本容量足夠大時，OLS法和矩估計方法的結果是很相似的。n在使用OLS法時

11、需要注意的是，AR(p)模型回歸用的是一個時間序列的數(shù)據(jù)，各期滯后之間相關性較強，因此回歸結果的有效性往往有問題，必須時間序列的樣本容量比較大，而且還要排斥存在共線性問題。 30三、自回歸移動平均模型參數(shù)估計三、自回歸移動平均模型參數(shù)估計 ARMA(p,q)模型的 個參數(shù)可分兩步進行估計n步驟一：先估計出其中的自回歸參數(shù)；n步驟二：估計移動平均系數(shù)和 。1 qp231（一）估計自回歸參數(shù)n因為當 時，ARMA(p,q)模型的自相關函數(shù)與AR(p)相同的性質，因此qk 112111122qqqpq pqpqpqppq 32n利用樣本自相關函數(shù)值，可計算出 的估計量：p,1pqqqqpqpqpqq

12、qpqqqp211211112133（二）估計移動平均系數(shù)n模型改寫成n令 ，并讓 作為一個變量代入，則模型近似為 就是一個MA(q)模型，可以利用前面介紹的MA(q)模型矩方法估計其中的參數(shù)和 ptptttYYYY11qtqttptpttYYY1111tYqtqtttY11234n可以利用原時間序列的自協(xié)方差和前面得到的自回歸系數(shù)估計，計算出 的自協(xié)方差，進而計算出自相關系數(shù)。n再代入MA(q)模型矩估計的樣本自相關函數(shù)，就可以用前面介紹的方法得到 和 的參數(shù)估計。pjikijjipjijktitjikttkYYEYYE0,0,)()(tYq,1235第四節(jié)第四節(jié) ARMA模型檢驗和預測模型

13、檢驗和預測一、一、ARMA模型檢驗模型檢驗ARMA模型最主要的檢驗是殘差序列隨機性檢驗，也就是在用所選擇的模型進行參數(shù)估計以后，確定殘差序列是無序列相關的白噪聲，還是存在序列相關性：n如果仍然存在明顯的序列相關性，意味著選擇的模型沒有把原時間序列中的信息全部模擬出來，或者說存在一定的偏差，模型需要修正。n如果殘差序列已經(jīng)是白噪聲，則所選擇的模型比較合理。36n檢驗殘差是否白噪聲的方法（一）是根據(jù)殘差序列的樣本自相關函數(shù)SACF，樣本偏自相關函數(shù)SPACF，看它們是否在統(tǒng)計上具有顯著性。（二）利用SACF，用專門的 統(tǒng)計量 kQkjkkknnnQ12)2()(2mk 0:210kH37n一般的參

14、數(shù)顯著性t檢驗，確定模型及其階數(shù)的信息準則SIC和AIC，也都對ARMA模型的選擇，對自回歸、移動平均階數(shù)的確定有參考價值。在應用時應該綜合考慮這些因素。nBOX等建議采用“過擬合方法”進行檢驗。即先設定參數(shù)較多，階數(shù)較高的模型，然后根據(jù)顯著性和模型選擇、判斷準則逐步簡化。這種方法有一定道理，但有時也有問題。 38二、二、ARMA模型預測模型預測（一）ARMA模型預測原理n預測的前提是已確定了模型，并且已經(jīng)作了參數(shù)估計和進行了基本的檢驗。n檢驗評估模型的預測往往把觀測數(shù)據(jù)分成兩部分，一部分用于估計參數(shù)，另一部分則用于檢驗模型的預測效果，從而判斷模型的有效性。n時間序列模型預測的一般準則是均方誤

15、（MSE）最小，而均方誤最小的預測就是條件期望預測。 39（二）MA模型預測nMA模型預測的前提是移動平均參數(shù)、擾動方差，以及不可觀測的擾動都得到了估計，后者通常是利用AR形式進行估計的。n方便起見，在預測分析中仍然用原來符號表示參數(shù)和擾動項的估計值，并只討論無常數(shù)項模型的預測。 401、MA(1)模型預測（1）一步預測因此一步預測為預測誤差的方差為11tttYnnnY111nnnnYEY111*1),(2212*11)()(nnnEYYE41（2）二步預測因此二步預測為預測誤差的方差為n對于任意h2，MA(1)模型的h步預測也都為0，預測方差則都為1122nnnY0),(12*2nnnYEY

16、22121122*22)1 ()()(nnnnEYYE221)1 (422、MA(2)模型預測（1）一步預測因此一步預測為預測誤差的方差為2211ttttY12111nnnnY12111*1),(nnnnnYEY2212*11)()(nnnEYYE43（2）二步預測因此二步預測為預測誤差的方差為n對于任意h2，MA(2)模型的h步預測也都為0，預測方差則都為 。nnnnY21122nnnnYEY212*2),(22121122*22)1 ()()(nnnnEYYE22221)1 (443、MA(q)模型預測nh步預測的公式:其中 ，且對于 ， 。nh步預測誤差的方差 qtqtttY11qiin

17、hihnY0*10222*)(hiihnhnYYE10qhi0hi45（三）（三）AR模型預測模型預測1、AR(1)模型預測（1）一步預測因此一步預測為預測誤差的方差為tttYY11111nnnYYnnnnnYYYYEY111*1),(2212*11)()(nnnEYYE46（2）二步預測因此二步預測為預測誤差的方差為2112121112112)(nnnnnnnnnYYYYnnnnnYYYYEY2112*2),(22122112*22) 1()()(nnnnEYYE47（3）h步預測( )預測為預測誤差的方差為3hnhnnhnhnYYYYEY11*),(*212112(1)2(2)22111(

18、)()(1)hn hn hnn hhhE YYE482、AR(2)模型預測（1）一步預測因此一步預測為預測誤差的方差為ttttYYY221111211nnnnYYY12111*1),(nnnnnnYYYYYEY2212*11)()(nnnEYYE49（2）二步預測因此二步預測為預測誤差的方差為211212121221121122112)(nnnnnnnnnnnnnnYYYYYYYYYnnnnnnnYYYYYYEY21212112*2),(22122112*22) 1()()(nnnnEYYE50（3）三步預測預測為預測誤差的方差為n對三步以上的預測則更復雜，把模型轉變?yōu)橐苿悠骄Ｐ秃箢A測會更容易一些。1222112213113*32),(nnnnnnnnYYYYYYYEY24122122212*33)21 ()(nnYYE513、MA(q)模型預測nh步預測的公式:其中 ，且對于 ， 。nh步預測誤差的方差 qtqtttY11qiinhihnY0*10222*)(hiihnhnYYE10qhi0hi52（四）（四）ARMA(1,1)模型的預測模型的預測n一步預測因此一步預測為預測