自回歸模型AR參數估計

1、自回歸模型AR(p)的整體估計1自回歸模型11.1模型子樣觀測值七,i = 0,1,A ,白噪聲序列表示為叩，回歸系數用七(j = 1,2,A ,p) 表示，則可得到的AR模型：x = x + xt-pt 1 t-12 t-21.2模型參數的最小二乘估計設樣本觀測值 乂七,t = 0, 1,A ，記xxAx p+1p+2NaaAa p+1 rp+2Np =ppA12pxxAxpp-11xxAxp+1p2MMMxxAxN-1N-2N-p則AR(p)模型可以表示為(2)由最小二乘原理可得到模型參數的估計為p = ( At A)-1 AtY那么根據最小二乘估計值可以得到噪聲的估值為Ax cp(t =

2、 p +1,A , N)噪聲方差券；的最小二乘估值為寸 人 a 2 tt=p+12整體最小二乘法參數估計在進行許多時間序列分析的實際問題中，建立模型的主要目的就是在確定模型參數之 后，對未來可能出現的結果進行分析預報。而結果又與自身前一個或前幾個時刻的觀測值有 關，觀測必有誤差的存在，所以不能忽略之前觀測值a的隨機誤差。整體最小二乘法就是 同時考慮自變量和因變量誤差存在的算法。方程(2) Y = Ap + s與線性回歸方程具有相同的形式。在線性回歸中y=ax+b，自變量x 是確定的，y和b是隨機變量。在AR(p)模型中土 1,氣2,A自然也是隨機變量，但在t-1時刻，它們均已確定不變，所以AR

3、(p)模型可以看做條件線性回歸模型，故可用多元回歸分析中的 有關方法進行參數估計11人作為自身前一個或前幾個時刻的觀測值是確定已知的，但在觀 測中是含有隨機誤差的，在計算中應該考慮其所含誤差的影響。應用整體解算的方法進行解 算。2.1整體最下二乘原理及解算步驟。TLS的基本思想可以歸納為：觀測方程Y = X P中，不僅觀測向量Y中存在誤差Vy， ，15 ,1同時系數矩陣X中也含有誤差VX。此時，可用TLS方法求得參數侄。也就是說，在TLS中，考慮的是矩陣方程(x + Vx = Y + VY(2-1)卜(人A|xp = Y, X = X + Vx，Y = Y + V的求解1在測量數據處理中，n為

4、觀測個數，m為參數個數，通常情況下n (2-2)矩陣X的秩| X | = m n。顯然式(2-1)的矩陣表示為n ,m(2-3)或等價為(B + D)z = 0(2-4)其中:Y為增廣矩陣，D = Vn ,1XV 為誤差矩陣m+1,1Pm,1-1求解上式的整體最小二乘方法可以表示為約束最優(yōu)化問題:D 是D 的 F(Frobenius)范數。求的Dll=min F(2-5)=min的問題稱為TLS問題，若能找到式(2-1)的一個最小點VV ，則任何滿足(X + V)6 = Y + V的#都稱為TLS解YOXO求解TLS問題的主要工具是奇異值分解4，得XtXYtXXtYYtYNxxN1- xyNx

5、y，得 B = N 人 I LnNXXm+1XYyy綜上所述，求解矩陣方程Y = X P中參數p的TLS解B的步驟為:n,1n ,m m,1(1)列觀測方程式Y = x P ；n,1 n,m m,1(2)構成增廣矩陣B = X Y ;n,mn,1n,m+1(3)求矩陣BTB的特征值，并求出最小特征值Xm+1；(4)計算參數p的TLS解P =m ,1m,mIm,mNxy m,1BtB =1 XT lxy =-XtXXtY -,k = X , Z =I-人一1 pYtYtXYtYm+112.2自回歸模型AR(p)的整體估計y = xpX = A, p =甲 甲=B = N線性模型：Y = A +

6、s用矩陣形式表示：-X iL N，xxm+1xy式中:可得：3實例分析以文獻3例5.6的數據為樣本觀測數據，共計36個數據沉降觀測數據序數高程序數高程序數高程序數高程序數高程序數高程126.33725.931326.671928.092526.813126.81226.27826.431427.952026.782628.503228.50326.43926.521526.742128.662727.683327.68425.561025.461627.532226.752826.573426.57526.821126.121725.312327.242928.363528.36626.561227.281826.902428.023027.943627.94(1)模型參數的最小二乘估計由文獻3得模型階數為p = 3誤差方程 v = b x + b xi 1 i12 i2+ b x 一 x , i = 4,5,A ,363 i3i參數估計為bbQb3 -=(XtX ) -1 XtY =0.0410870.3278090.635059得自回歸模型 x. = 0.041087x. + 0.