第二章時間序列分析模型

第二章時間序列分析模型目錄2.1時間序列的概念2.2穩(wěn)定的時間序列模型2.3非穩(wěn)定模型2.4時間序列模型辨識2.5白噪聲過程和噪聲序列2.6時間序列模型的應(yīng)用2.1時間序列的概念2.1時間序列的概念

一個時間序列即為按照時間次序（它的時間間隔可以使年、季度、月、日或者小時）排列的隨機(jī)序列：X1，X2，……，簡記為{Xt，t∈T}，或者{Xt}，T為離散的指標(biāo)集。我們用x1，x2，…，xn表示有限的時間序列X1，X2，……，Xn的觀測樣本，并記為{xt}，稱{xt}為時間序列{Xt}的一次實(shí)現(xiàn)或者一條軌道。時間序列往往是以某一個系統(tǒng)的輸出形式被記載，并且無法受某種輸入的直接控制，它與作用于此系統(tǒng)的序列之間很難找到精確的一一對應(yīng)的關(guān)系。1.時間序列2.1時間序列的概念擴(kuò)展知識：隨機(jī)過程事物的變化過程可分為兩類：對于每一個固定的時刻t，變化的結(jié)果，一類是確定的，這個結(jié)果可用t的某個確定性函數(shù)來描述；另一類結(jié)果是隨機(jī)的，即以某種可能性出現(xiàn)多個（有限多個或無限多個）結(jié)果之一。1.時間序列2.1時間序列的概念擴(kuò)展知識：隨機(jī)過程設(shè)E是隨機(jī)試驗(yàn)，S是它的樣本空間，如果對于每一個e，我們總可以依某種規(guī)則確定一時間t的函數(shù)：與之對應(yīng)（T是時間t的變化范圍），于是，對于所有的的e來說，就得到這族時間t的函數(shù)為隨機(jī)過程，而族中每一個函數(shù)為這個隨機(jī)過程的樣本函數(shù)（或一次實(shí)現(xiàn)）。1.時間序列2.1時間序列的概念典型的時間序列1.時間序列2.1時間序列的概念典型的時間序列1.時間序列2.1時間序列的概念典型的時間序列1.時間序列2.1時間序列的概念典型的時間序列從經(jīng)濟(jì)統(tǒng)計的角度講：時間序列是某一個指標(biāo)在不同的時間上的不同數(shù)值按照時間先后順序排成的序列。這個定義可以看出時間序列是由兩個要素構(gòu)成的：指標(biāo)數(shù)值和時間。在實(shí)際中，我們可以遇到的許多數(shù)據(jù)比如：股票價格指數(shù)，GDP等。從概率統(tǒng)計意義上講：時間序列是一組隨機(jī)變量X(t)在一系列時刻t1，t2，……tN（t1<t2<……<tN）的一次樣本實(shí)現(xiàn)Xt1，Xt2,……,XtN從這個定義可以看出，時間序列與通常統(tǒng)計分析不同，通常統(tǒng)計分析總是對一個隨機(jī)變量獨(dú)立地觀察多次，得到這個隨機(jī)變量的多個實(shí)現(xiàn)，然后再去分析和研究。1.時間序列2.1時間序列的概念典型的時間序列從系統(tǒng)意義上講，時間序列是某一系統(tǒng)在不同時間下的相應(yīng)。這個定義強(qiáng)調(diào)了時間序列中順序的重要性，并且，這個順序并不一定必須是時間順序，它也可以代表溫度、速度或者其他遞增取值的物理量。例如，按照鋼材承受的壓力所造成的裂紋長度進(jìn)行排列，也是一個時間序列。1.時間序列2.1時間序列的概念

時間序列分析的意義在于研究某一時間序列在長期變動過程中所存在的統(tǒng)計規(guī)律性，因此，對時間序列的分析有三個目的：理解所考慮的動態(tài)系統(tǒng)預(yù)測將來的事件通過干預(yù)來控制將來事件2.時間序列分析2.1時間序列的概念

為了處理隨機(jī)時間序列的分析和預(yù)報，在數(shù)學(xué)上就是把給出的測量數(shù)據(jù)看作是隨機(jī)過程X（t）的一個樣本函數(shù)。通過對現(xiàn)實(shí)的分析，估計隨機(jī)過程X（t）的總體特征，預(yù)測X（t）未來取值的概率分布。2.時間序列分析2.1時間序列的概念2.時間序列分析2.1時間序列的概念3.時間序列分析方法

方法主要有描述性分析方法和統(tǒng)計分析方法。所謂描述性分析方法是指通過直觀地比較數(shù)據(jù)或觀察時間序列，尋找序列的發(fā)展變化規(guī)律，比較直觀但是有很大局限性。

統(tǒng)計分析方法是指通過統(tǒng)計學(xué)的各種方法研究研究時間序列的統(tǒng)計特性，進(jìn)而發(fā)現(xiàn)其中的規(guī)律。主要包括時域分析方法和頻域分析方法。2.1時間序列的概念3.時間序列分析方法

時域分析法一個時間序列實(shí)質(zhì)上是一個隨機(jī)序列，而序列值之間存在一定的相關(guān)關(guān)系，所謂的時域分析方法就是從序列自相關(guān)的角度分析序列的統(tǒng)計規(guī)律的方法。時域分析法的一般過程：觀察序列樣本選擇擬合模型——根據(jù)序列值估計模型參數(shù)——檢驗(yàn)?zāi)Ｐ偷倪m用性（重復(fù)調(diào)整）——檢驗(yàn)通過后對時間序列進(jìn)行預(yù)測2.1時間序列的概念3.時間序列分析方法

時域分析法對于一維時間序列，可以從線性角度對其分為線性序列和非線性序列。線性序列常用的分析方法為自回歸模型（AR）、滑動平均模型（MA）、自回歸滑動平均模型（ARMA）模型。AR、MR是ARMA模型的特殊形式。非線性序列常用的參數(shù)建模方法為自回歸條件異方差模型（ARCH）。該模型為擴(kuò)展內(nèi)容。2.1時間序列的概念3.時間序列分析方法

時域分析法從平穩(wěn)性的角度出發(fā)，一維時間序列可以分為平穩(wěn)序列和非平穩(wěn)序列，平穩(wěn)序列用ARMA，非平穩(wěn)序列用求和自回歸滑動平均模型（ARIMA）。目前考慮的模型都是參數(shù)模型，即假設(shè)模型的形式已知，需要通過數(shù)據(jù)估計該模型的未知參數(shù)，另一類估計方法為非參數(shù)估計方法，無需給定模型的具體形式，常見的估計方法有局部多項(xiàng)式。2.1時間序列的概念3.時間序列分析方法

頻域分析方法

在工程技術(shù)及自然科學(xué)領(lǐng)域，根據(jù)觀測數(shù)據(jù)來分析對象的周期性或者能量在頻域上的分布是非常有意義的，這些結(jié)果并不能通過時域分析方法得到，因此需要對序列樣本進(jìn)行某種變換，使之變換到另一個空間里，并對變換后的數(shù)據(jù)進(jìn)行分析，最常見的變換方法為傅里葉變換。通過對序列樣本的傅里葉變化，可以把時域的數(shù)據(jù)變換到頻域上，然后在頻域上分析原序列的周期性等信息。這種方法為頻域分析方法。2.1時間序列的概念3.平穩(wěn)過程的判斷

假定某個時間序列由某一隨機(jī)過程生成，即假定時間序列{Xt}（t=1,2,…）的每一個數(shù)值都是從一個概率分布中隨機(jī)得到的。如果經(jīng)由該隨機(jī)過程所生成的時間序列滿足下列條件：均值E(Xt)=m是與時間t無關(guān)的常數(shù)；方差Var(Xt)=E[（Xt-m）2]=s2是與時間t無關(guān)的常數(shù)；協(xié)方差Cov(Xt,Xt+k)=gk是只與時期間隔k有關(guān)，與時間t無關(guān)的常數(shù)；則稱經(jīng)由該隨機(jī)過程而生成的時間序列是（弱）平穩(wěn)的。該隨機(jī)過程便是一個平穩(wěn)的隨機(jī)過程。2.1時間序列的概念3.平穩(wěn)過程的判斷

嚴(yán)平穩(wěn)過程：若對于時間t的任意n個值t1<t2<…<tn，此序列中的隨機(jī)變量Xt1+s,Xt2+s,…,Xtn+s聯(lián)合分布與整數(shù)s無關(guān)，即有：Ft1,t2,…tn(Xt1,Xt2…,Xtn)=Ft1+s,t2+s…+tn+s(Xt1+s,Xt2+s,…,Xtn+s)則稱{Xt}為嚴(yán)平穩(wěn)過程。此定義表明，嚴(yán)平穩(wěn)的概率分布與時間的平移無關(guān)。2.1時間序列的概念3.平穩(wěn)過程的判斷

平穩(wěn)序列的意義？而基于隨機(jī)變量的歷史和現(xiàn)狀來推測其未來，則是我們實(shí)施經(jīng)濟(jì)計量和預(yù)測的基本思路。這就需要假設(shè)隨機(jī)變量的歷史和現(xiàn)狀具有代表性或可延續(xù)性。所謂隨機(jī)變量基本性態(tài)的維持不變也就是要求樣本數(shù)據(jù)時間序列的本質(zhì)特征仍能延續(xù)到未來。我們用樣本時間序列的均值、方差、協(xié)（自）方差來刻畫該樣本時間序列的本質(zhì)特征。一個平穩(wěn)的時間序列指的是：遙想未來所能獲得的樣本時間序列，我們能斷定其均值、方差、協(xié)方差必定與眼下已獲得的樣本時間序列等同。2.1時間序列的概念3.平穩(wěn)過程的判斷

平穩(wěn)序列的意義？2.1時間序列的概念4.時間序列的分布、均值和協(xié)方差函數(shù)

（1）時間序列的概率分布隨機(jī)過程是一族隨機(jī)變量，類似于隨機(jī)變量，可以定義隨機(jī)過程的概率分布函數(shù)和概率密度函數(shù)。它們都是兩個變量t,x的函數(shù)。如果我們能確定出時間序列的概率分布，我們就可以對時間序列構(gòu)造模型，并描述時間序列的全部隨機(jī)特征，但由于確定時間序列的分布函數(shù)一般不可能，人們更加注意使用時間序列的各種特征量的描述，如均值函數(shù)、協(xié)方差函數(shù)、自相關(guān)函數(shù)、偏自相關(guān)函數(shù)等，這些特征量往往能代表隨機(jī)變量的主要特征。2.1時間序列的概念4.時間序列的分布、均值和協(xié)方差函數(shù)

（2）均值函數(shù)一個時間序列{Xt，t=0,±1,±2……}的均值函數(shù)指：即為{Xt}的均值函數(shù)。它實(shí)質(zhì)上是一個實(shí)數(shù)列，被{Xt}的一維分布族所決定。均值表示隨機(jī)過程在各個時刻的擺動中心。2.1時間序列的概念4.時間序列的分布、均值和協(xié)方差函數(shù)

（3）時間序列的自協(xié)方差函數(shù)（4）時間序列的自相關(guān)函數(shù)自相關(guān)函數(shù)描述了時間序列的{Xt}自身的相關(guān)結(jié)構(gòu)。時間序列的自相關(guān)函數(shù)具有對稱性，且有2.1時間序列的概念5.平穩(wěn)序列的自協(xié)方差和自相關(guān)函數(shù)

若{Xt}為平穩(wěn)序列，假定EXt=0，由于令s=t-k，于是我們就可以用以下記號表示平穩(wěn)序列的自協(xié)方差函數(shù)，即：相應(yīng)的，平穩(wěn)序列的自相關(guān)函數(shù)記為：2.1時間序列的概念6.非平穩(wěn)數(shù)據(jù)的處理

（1）總體線性的辦法（1）對數(shù)坐標(biāo)法：采用對數(shù)坐標(biāo)，將指數(shù)函數(shù)化為線性函數(shù)例如：x=at，兩邊取對數(shù)lnx=tlna則lnx成為t的線性函數(shù)（2）平方根法：對冪函數(shù)有效若x（t）為二次函數(shù)，則當(dāng)w（t）=，w（t）為線性函數(shù)但是，無論線性或者非線性函數(shù)都具有某種趨勢，這種趨勢使得平穩(wěn)過程的第一個條件無法滿足，即總體線性無法使均值保持穩(wěn)定，也就不能得到平穩(wěn)過程。2.1時間序列的概念6.非平穩(wěn)數(shù)據(jù)的處理（2）取消趨勢法采用差分的辦法可以彌補(bǔ)總體線性法的不足Y（t）=w（t）-w（t-1）例如：二次函數(shù)w(t)=推導(dǎo)Y（t）=w（t）-w（t-1）=……（推導(dǎo)過程驗(yàn)算）再次差分，z（t）=y(t)-y(t-1)等于常數(shù)，可見，查分可以改變原有序列的性質(zhì)。2.1時間序列的概念6.非平穩(wěn)數(shù)據(jù)的處理（3）取消趨勢法取消周期對于呈周期性變化的時間序列，稱為季節(jié)時間序列。季節(jié)時間序列可以取消周期性的變化規(guī)律，形成時間序列整體到局部的一致。如{yt}為周期序列，則取消周期后的序列值為：zt=yt-yt-s,s為一周期中存在的時間點(diǎn)數(shù)?；蛘叨渭竟?jié)差分ut=zt-zt-s=yt-yt-s-yt-s+yt-2s2.1時間序列的概念6.非平穩(wěn)數(shù)據(jù)的處理（3）取消趨勢法2.1時間序列的概念6.非平穩(wěn)數(shù)據(jù)的處理（3）取消趨勢法用公式表示2.1時間序列的概念7.穩(wěn)定序列的判斷

時間序列分析的諸多方法都是建立在假定數(shù)據(jù)樣本是來自平穩(wěn)和各態(tài)歷經(jīng)的隨機(jī)過程，在實(shí)際情況中，通常出現(xiàn)的是由均值、方差、自協(xié)方差三種因素造成的非平穩(wěn)現(xiàn)象。2.1時間序列的概念7.穩(wěn)定序列的判斷1.時序圖判斷法根據(jù)平穩(wěn)序列的均值、方差為常數(shù)的性質(zhì)，可以觀察時序圖的特點(diǎn)：（1）始終在一個常數(shù)值上下隨機(jī)波動；（2）波動強(qiáng)度隨時間變化不大；（3）沒有明顯的趨勢性和周期性。2.1時間序列的概念7.穩(wěn)定序列的判斷2.自相關(guān)系數(shù)檢驗(yàn)法一個時間序列的樣本自相關(guān)函數(shù)定義為：平穩(wěn)序列的判定方式，隨著k的增加，rk是否陡然下降，如果是，則序列已經(jīng)平穩(wěn)，否則，決定采取差分的方式。2.1時間序列的概念7.穩(wěn)定序列的判斷2.自相關(guān)系數(shù)檢驗(yàn)法對于樣本數(shù)列，其樣本自相關(guān)系數(shù)會表現(xiàn)為兩種情形：第一是隨著延遲期數(shù)k的增加突然將為在0的周圍小幅波動（截尾）；第二是隨著延遲期數(shù)k的增加迅速衰減為在0附近小幅波動（拖尾）。2.1時間序列的概念7.穩(wěn)定序列的判斷2.自相關(guān)系數(shù)檢驗(yàn)法2.1時間序列的概念7.穩(wěn)定序列的判斷2.自相關(guān)系數(shù)檢驗(yàn)法平穩(wěn)的序列的自相關(guān)圖和偏相關(guān)圖不是拖尾就是截尾。截尾就是在某階之后，系數(shù)都為0，怎么理解呢，看上面偏相關(guān)的圖，當(dāng)階數(shù)為1的時候，系數(shù)值還是很大，0.914.二階長的時候突然就變成了0.050.后面的值都很小，認(rèn)為是趨于0，這種狀況就是截尾。再就是拖尾，拖尾就是有一個衰減的趨勢，但是不都為0。自相關(guān)圖既不是拖尾也不是截尾。以上的圖的自相關(guān)是一個三角對稱的形式，這種趨勢是單調(diào)趨勢的典型圖形。2.2穩(wěn)定的時間序列模型2.2穩(wěn)定的時間序列模型1.線性濾波模型假定時間序列是一個白噪聲（Whitenoise）序列，即序列中的各值相互獨(dú)立，若時間序列{Xt}滿足下列性質(zhì)：2.2穩(wěn)定的時間序列模型1.線性濾波模型一個白噪聲過程經(jīng)過一個線性濾波器產(chǎn)生一個以{Zt}序列為代表的過程，即：通常，是一個確定此過程水平的參數(shù)，是一個將{at轉(zhuǎn)變?yōu)閧zt}的線性算子或者濾波器。2.2穩(wěn)定的時間序列模型2.自回歸模型假定時間序列{zt}={zt，zt-1，zt-2……}是穩(wěn)定的或者已經(jīng)穩(wěn)定化了的。（1）一階自回歸模型AR（1）如果一個時間序列的當(dāng)前值可以用這個序列的前一時刻的值的線性函數(shù)再加一個隨機(jī)噪聲來表示，如：其中是需要估計的自回歸參數(shù)，at滿足零均值、獨(dú)立正態(tài)分布。2.2穩(wěn)定的時間序列模型2.自回歸模型（1）一階自回歸模型AR（1）2.2穩(wěn)定的時間序列模型2.自回歸模型（2）自回歸模型的特點(diǎn)回歸參數(shù)的性質(zhì)：（推導(dǎo)過程）相關(guān)特性：k>1（推導(dǎo)過程）記憶性。（推導(dǎo)過程）2.2穩(wěn)定的時間序列模型2.自回歸模型2.2穩(wěn)定的時間序列模型2.自回歸模型2.2穩(wěn)定的時間序列模型2.自回歸模型2.2穩(wěn)定的時間序列模型2.自回歸模型（3）高階自回歸模型AR（p）2.2穩(wěn)定的時間序列模型3.滑動平均模型（MA）假定時間序列是由一個噪聲過程生成的，序列{at}滿足零均值、獨(dú)立正態(tài)分布。即Eat=0E（atas）=2.2穩(wěn)定的時間序列模型3.滑動平均模型（MA）（1）一階滑動平均模型MA（1）2.2穩(wěn)定的時間序列模型3.滑動平均模型（MA）（2）模型的特點(diǎn)記憶性可以看出，MA（1）成了一個無限的自回歸過程，它無限地記憶了自己過去的所有值，只是時間越長，依賴關(guān)系越少，并且保證滑動平均系數(shù)||<12.2穩(wěn)定的時間序列模型3.滑動平均模型（MA）（2）模型的特點(diǎn)協(xié)方差特性（推導(dǎo)過程）2.2穩(wěn)定的時間序列模型3.滑動平均模型（MA）（3）高階滑動平均模型如果序列的當(dāng)前值與當(dāng)前及前q個噪聲值線性相關(guān)，即成為q階的滑動平均過程，即為MA（q）。MA（q）的算子表達(dá)式為2.2穩(wěn)定的時間序列模型4.自回歸滑動平均模型（ARMA）2.3非穩(wěn)定模型2.3非穩(wěn)定模型1.隨機(jī)走動模型2.3非穩(wěn)定模型1.隨機(jī)走動模型2.3非穩(wěn)定模型2.帶差分的自回歸滑動平均模型2.3非穩(wěn)定模型2.帶差分的自回歸滑動平均模型2.3非穩(wěn)定模型2.帶差分的自回歸滑動平均模型2.3非穩(wěn)定模型2.帶差分的自回歸滑動平均模型2.3非穩(wěn)定模型3.季節(jié)模型有些時間序列的峰、谷呈現(xiàn)周期變化，為了分析、預(yù)報這類序列，可以用ARIMA模型的推廣形式。2.3非穩(wěn)定模型3.季節(jié)模型2.3非穩(wěn)定模型3.季節(jié)模型2.3非穩(wěn)定模型3.季節(jié)模型2.3非穩(wěn)定模型3.季節(jié)模型2.3非穩(wěn)定模型3.季節(jié)模型2.4時間序列模型的辨識2.4時間序列模型的辨識時間序列模型的建立過程大致可以分為三個階段：選擇模型結(jié)構(gòu)模型參數(shù)估計模型檢驗(yàn)2.4時間序列模型的辨識1.AR模型的辨識2.4時間序列模型的辨識1.AR模型的辨識2.4時間序列模型的辨識1.AR模型的辨識2.4時間序列模型的辨識1.AR模型的辨識2.4時間序列模型的辨識1.AR模型的辨識2.4時間序列模型的辨識1.AR模型的辨識2.4時間序列模型的辨識1.AR模型的辨識2.