計量學(xué)-ARMA模型的自相關(guān)函數(shù)

（三）ARMA模型的自相關(guān)函數(shù)

由ARMA(p,q)的自協(xié)方差公式可以看出，只有的q個自相關(guān)的值同時依賴于和；當(dāng)時，具有與AR(p)模型相同的自相關(guān)函數(shù)差分公式或者第一頁，共五十五頁。1若，自相關(guān)函數(shù)是指數(shù)或正弦波衰減的，具體由多項式和初始值決定。若，就會有個初始值不遵從一般的衰減變化形式。ARMA(p,q)的自相關(guān)函數(shù)是步拖尾的。這一事實在識別ARMA模型時也非常有用。第二頁，共五十五頁。2ARMA(1,1)過程第三頁，共五十五頁。3二、偏自相關(guān)函數(shù)（partialautocorrelationfunction，PACF）時間序列過程的偏自相關(guān)函數(shù)就是時間序列在兩個時間隨機(jī)變量之間，排除了其間各個時間隨機(jī)變量影響的相關(guān)系數(shù)。第四頁，共五十五頁。4（一）AR(p)模型的偏自相關(guān)函數(shù)AR(p)的模型偏自相關(guān)函數(shù)定義為計算方法把對回歸，得到回歸方程其中最后一項的回歸系數(shù)就是要求的偏自相關(guān)系數(shù)。第五頁，共五十五頁。5根據(jù)線性回歸法計算偏自相關(guān)函數(shù)，運用最小二乘法進(jìn)行參數(shù)估計，得到正規(guī)方程組該方程組也可以認(rèn)為是利用的協(xié)方差和自相關(guān)函數(shù)導(dǎo)出。尤勒——沃克方程如下第六頁，共五十五頁。6分別求解，得到偏自相關(guān)系數(shù)：第七頁，共五十五頁。7由于AR(p)模型意味著與以后的滯后項不相關(guān)，因此大于p階的偏自相關(guān)系數(shù)必然都等于0。這意味著AR(p)模型的偏自相關(guān)函數(shù)有在處截尾的特征。這也是識別自回歸模型及其自回歸階數(shù)的重要依據(jù)。第八頁，共五十五頁。8（二）MA(q)和ARMA模型的偏自相關(guān)函數(shù)MA(1)的偏自相關(guān)函數(shù)

該函數(shù)，且被衰減指數(shù)控制，因此具有拖尾性。可逆的MA()過程等價于無限階的AR過程，因此它們的偏自相關(guān)函數(shù)會無限延伸，被指數(shù)衰減和（或）正弦波衰減所控制?？傊季哂型衔驳奶卣?。第九頁，共五十五頁。9自回歸移動平均混合過程ARMA(p,q)，是由自回歸過程和移動平均過程兩部分組成，因此它們的偏自相關(guān)函數(shù)也是無限延伸的，其特征就像純移動平均過程的偏自相關(guān)函數(shù)?；旌线^程的偏自相關(guān)函數(shù)被復(fù)合的衰減指數(shù)和（或）衰減正弦波所控制。衰減特性主要由移動平均過程的階數(shù)和具體參數(shù)決定。第十頁，共五十五頁。10三、模型識別方法1、基本ARMA模型自相關(guān)和偏自相關(guān)函數(shù)的基本特征（1）AR(p)模型的自相關(guān)函數(shù)是拖尾的，即會按指數(shù)衰減，或正弦振蕩衰減，偏自相關(guān)函數(shù)是截尾的，截尾處為自回歸階數(shù)p；（2）MA(q)模型的自相關(guān)函數(shù)是截尾的，截尾處對應(yīng)移動平均階數(shù)q。偏自相關(guān)函數(shù)則是拖尾的；第十一頁，共五十五頁。11（3）ARMA(p,q)模型的自相關(guān)函數(shù)和偏自相關(guān)函數(shù)都是拖尾的，自相關(guān)函數(shù)是步拖尾，偏自相關(guān)函數(shù)是步拖尾。第十二頁，共五十五頁。122、樣本自相關(guān)函數(shù)和樣本偏自相關(guān)函數(shù)假設(shè)有一組觀測樣本，一般認(rèn)為近似自相關(guān)函數(shù)最好的樣本自相關(guān)函數(shù)為：其中第十三頁，共五十五頁。13計算樣本偏自相關(guān)函數(shù)（SPACF）的方法：直接把樣本自相關(guān)值代入尤勒——沃克方程進(jìn)行計算，或者用公式回歸的方法計算。第十四頁，共五十五頁。14第三節(jié)自回歸移動平均模型的估計ARMA模型的參數(shù)估計常用的方法是利用均值（期望）、自相關(guān)函數(shù)，包括Yule-Walker方程的矩估計方法。這些矩估計方法是一致估計，但未必有效。充分有效的估計方法是最大似然法，但最大似然法比較復(fù)雜。在樣本容量較大時矩估計與最大似然估計是接近的。第十五頁，共五十五頁。15一、移動平均模型參數(shù)估計MA(q)模型的自協(xié)方差函數(shù)為自相關(guān)函數(shù)為第十六頁，共五十五頁。16首先利用樣本數(shù)據(jù)計算出的估計值把這q+1個樣本自協(xié)方差代自協(xié)方差函數(shù)中的，或者根據(jù)這些再計算出的估計代入自相關(guān)函數(shù)，并用和分別代自協(xié)方差或自相關(guān)函數(shù)中的待定參數(shù)和，可得到q+1個方程的聯(lián)立方程組。第十七頁，共五十五頁。17如果可以從這個方程組解出和，就是我們要求的參數(shù)估計值。也可以先解出真實參數(shù)與自協(xié)方差、自相關(guān)的關(guān)系，再代入樣本估計值。因為是時間序列過程的二階矩，上述估計量是通過q+1個樣本矩方程求出的，所以是矩估計量，具有一致估計的性質(zhì)。第十八頁，共五十五頁。18q=1時的參數(shù)估計方法一：直接利用一階自相關(guān)函數(shù)進(jìn)行參數(shù)估計第十九頁，共五十五頁。19由于可逆性條件要求的絕對值小于1，因此只有滿足要求。把樣本自相關(guān)系數(shù)作為的估計代入上式，就可以解得模型參數(shù)的估計量第二十頁，共五十五頁。20方法二：利用自協(xié)方差函數(shù)進(jìn)行估計MA(1)模型有求解上述方程組，并利用，可解得第二十一頁，共五十五頁。21代入樣本自相關(guān)和自協(xié)方差得模型參數(shù)和模型誤差項方差的估計量由于上述矩估計的方程組是非線性的，因此只有當(dāng)q較小（q=1、2、3）時，直接進(jìn)行解析求解才可行，當(dāng)更大時解析求解越來越困難，一般應(yīng)使用迭代方法求近似解。第二十二頁，共五十五頁。22最簡單的迭代方法把MA(q)模型的自協(xié)方差公式代入估計量，并變換為第二十三頁，共五十五頁。23首先給出參數(shù)的一組初始值：將它們和代入上述兩個迭代公式，計算出參數(shù)的第一次迭代值，，再將這些參數(shù)值代入迭代公式反復(fù)迭代，直到收斂。最后得到迭代值作為參數(shù)估計值。第二十四頁，共五十五頁。24二、自回歸模型參數(shù)估計（一）普通最小二乘估計OLS根據(jù)模型，殘差平方和為根據(jù)最小二乘原理，利用一階條件求上述最小二乘函數(shù)最小化的參數(shù)值，即為最小二乘估計。第二十五頁，共五十五頁。25（二）利用樣本自協(xié)方差方程的矩估計對于一般的平穩(wěn)AR(p)模型，有關(guān)于自相關(guān)的一組關(guān)系，即Yule-Walker方程：第二十六頁，共五十五頁。26利用樣本數(shù)據(jù)計算出樣本自相關(guān)，代入上述Yule-Walker方程，可以解得的“Yule-Walker估計”：第二十七頁，共五十五頁。27該模型中修正項的方差則可以用下式估計：因為計算估計量的方程組是樣本自相關(guān)函數(shù)，也是二階樣本矩方程，因此Yule-Walker估計同樣是矩估計量，也是一致估計。第二十八頁，共五十五頁。28當(dāng)樣本容量足夠大時，OLS法和矩估計方法的結(jié)果是很相似的。在使用OLS法時需要注意的是，AR(p)模型回歸用的是一個時間序列的數(shù)據(jù)，各期滯后之間相關(guān)性較強(qiáng)，因此回歸結(jié)果的有效性往往有問題，必須時間序列的樣本容量比較大，而且還要排斥存在共線性問題。第二十九頁，共五十五頁。29三、自回歸移動平均模型參數(shù)估計ARMA(p,q)模型的個參數(shù)可分兩步進(jìn)行估計步驟一：先估計出其中的自回歸參數(shù)；步驟二：估計移動平均系數(shù)和。第三十頁，共五十五頁。30（一）估計自回歸參數(shù)因為當(dāng)時，ARMA(p,q)模型的自相關(guān)函數(shù)與AR(p)相同的性質(zhì)，因此第三十一頁，共五十五頁。31利用樣本自相關(guān)函數(shù)值，可計算出的估計量：第三十二頁，共五十五頁。32（二）估計移動平均系數(shù)模型改寫成令，并讓作為一個變量代入，則模型近似為就是一個MA(q)模型，可以利用前面介紹的MA(q)模型矩方法估計其中的參數(shù)和第三十三頁，共五十五頁。33可以利用原時間序列的自協(xié)方差和前面得到的自回歸系數(shù)估計，計算出的自協(xié)方差，進(jìn)而計算出自相關(guān)系數(shù)。再代入MA(q)模型矩估計的樣本自相關(guān)函數(shù)，就可以用前面介紹的方法得到和的參數(shù)估計。第三十四頁，共五十五頁。34第四節(jié)ARMA模型檢驗和預(yù)測一、ARMA模型檢驗ARMA模型最主要的檢驗是殘差序列隨機(jī)性檢驗，也就是在用所選擇的模型進(jìn)行參數(shù)估計以后，確定殘差序列是無序列相關(guān)的白噪聲，還是存在序列相關(guān)性：如果仍然存在明顯的序列相關(guān)性，意味著選擇的模型沒有把原時間序列中的信息全部模擬出來，或者說存在一定的偏差，模型需要修正。如果殘差序列已經(jīng)是白噪聲，則所選擇的模型比較合理。第三十五頁，共五十五頁。35檢驗殘差是否白噪聲的方法（一）是根據(jù)殘差序列的樣本自相關(guān)函數(shù)SACF，樣本偏自相關(guān)函數(shù)SPACF，看它們是否在統(tǒng)計上具有顯著性。（二）利用SACF，用專門的統(tǒng)計量

~第三十六頁，共五十五頁。36一般的參數(shù)顯著性t檢驗，確定模型及其階數(shù)的信息準(zhǔn)則SIC和AIC，也都對ARMA模型的選擇，對自回歸、移動平均階數(shù)的確定有參考價值。在應(yīng)用時應(yīng)該綜合考慮這些因素。BOX等建議采用“過擬合方法”進(jìn)行檢驗。即先設(shè)定參數(shù)較多，階數(shù)較高的模型，然后根據(jù)顯著性和模型選擇、判斷準(zhǔn)則逐步簡化。這種方法有一定道理，但有時也有問題。第三十七頁，共五十五頁。37二、ARMA模型預(yù)測（一）ARMA模型預(yù)測原理預(yù)測的前提是已確定了模型，并且已經(jīng)作了參數(shù)估計和進(jìn)行了基本的檢驗。檢驗評估模型的預(yù)測往往把觀測數(shù)據(jù)分成兩部分，一部分用于估計參數(shù)，另一部分則用于檢驗?zāi)Ｐ偷念A(yù)測效果，從而判斷模型的有效性。時間序列模型預(yù)測的一般準(zhǔn)則是均方誤（MSE）最小，而均方誤最小的預(yù)測就是條件期望預(yù)測。第三十八頁，共五十五頁。38（二）MA模型預(yù)測MA模型預(yù)測的前提是移動平均參數(shù)、擾動方差，以及不可觀測的擾動都得到了估計，后者通常是利用AR形式進(jìn)行估計的。方便起見，在預(yù)測分析中仍然用原來符號表示參數(shù)和擾動項的估計值，并只討論無常數(shù)項模型的預(yù)測。第三十九頁，共五十五頁。391、MA(1)模型預(yù)測（1）一步預(yù)測因此一步預(yù)測為預(yù)測誤差的方差為第四十頁，共五十五頁。40（2）二步預(yù)測因此二步預(yù)測為預(yù)測誤差的方差為對于任意h>2，MA(1)模型的h步預(yù)測也都為0，預(yù)測方差則都為第四十一頁，共五十五頁。412、MA(2)模型預(yù)測（1）一步預(yù)測因此一步預(yù)測為預(yù)測誤差的方差為第四十二頁，共五十五頁。42（2）二步預(yù)測因此二步預(yù)測為預(yù)測誤差的方差為對于任意h>2，MA(2)模型的h步預(yù)測也都為0，預(yù)測方差則都為。第四十三頁，共五十五頁。433、MA(q)模型預(yù)測h步預(yù)測的公式:其中，且對于，。h步預(yù)測誤差的方差第四十四頁，共五十五頁。44（三）AR模型預(yù)測1、AR(1)模型預(yù)測（1）一步預(yù)測因此一步預(yù)測為預(yù)測誤差的方差為第四十五頁，共五十五頁。45（2）二步預(yù)測因此二步預(yù)測為預(yù)測誤差的方差為第四十六頁，共五十五頁。46（3）h步預(yù)測()預(yù)測為預(yù)測誤差的方差為第四十七頁，共五十五頁。472、AR(2)模型預(yù)測（1）一步預(yù)測因此一步預(yù)測為預(yù)測誤差的方差為第四十八頁，共五十五頁。48（2）二步預(yù)測因此二步預(yù)測為預(yù)測誤差的方差為第四十九頁，共五十五頁。49（3）三步預(yù)測預(yù)測為預(yù)測誤差的方差為對三步以上的預(yù)測則更復(fù)雜，把模型轉(zhuǎn)變?yōu)橐苿悠骄Ｐ秃箢A(yù)測會更容易一些。第五十頁，共五十五頁。503、MA(q)模型預(yù)