卡爾曼濾波的學(xué)習(xí)

1.2Kalman濾波理論的基礎(chǔ)在估計問題中，長考慮如下隨機線性離散系統(tǒng)模型X廣％,k-1Xk一「J,k-Wk_iz廣"k+匕Xk是系統(tǒng)的n維狀態(tài)向量，Zk是系統(tǒng)的m維觀察向量。根據(jù)狀態(tài)向量和觀察向量在時間上存在的不同對應(yīng)關(guān)系，我們可以把估計問題分為濾波、預(yù)一一一一一一?q.......測和平滑，以上式所描述的隨機線性離散系統(tǒng)為例，設(shè)X表示根據(jù)j時刻和j以前時刻的k,j觀察值，對k時刻狀態(tài)Xk做出的某種估計，則按照k和j的不同對應(yīng)關(guān)系，敘述如下：M（1）當(dāng)k=j時，對X的估計稱為濾波，即依據(jù)過去直至現(xiàn)在的觀察測量來估計現(xiàn)在的k,jq?一?q..狀態(tài)。相應(yīng)地，稱X為X的最有濾波估計值，簡記為X。這類估計主要用于隨k,jkk機系統(tǒng)的實時控制。—4—（2）當(dāng)k>j時對X的估計稱為預(yù)測或外推，即依據(jù)過去直至現(xiàn)在的觀察測量來預(yù)測未k,j空一來的狀態(tài)，并把X稱為X的最優(yōu)預(yù)測估計值。這類估計廣泛應(yīng)用于對系統(tǒng)未來k,jk狀態(tài)的預(yù)測和實時控制。.."（3）當(dāng)k<j時對X的估計稱為平滑或內(nèi)插，即依據(jù)過去直至現(xiàn)在的觀察測量去估計過k,jq?一.?.一去的歷史狀態(tài)，并稱X為X的最優(yōu)平滑估計值。這類估計廣泛應(yīng)用于通過分析k,jk實驗或試驗數(shù)據(jù)，對系統(tǒng)進行評估。在預(yù)測、濾波和平滑三類狀態(tài)估計問題中預(yù)測是濾波的基礎(chǔ)，濾波是平滑的基礎(chǔ)。最早的估計方法是高斯提出的最小二乘法，最小二乘法沒有考慮到被估參數(shù)和觀測數(shù)據(jù)的統(tǒng)計特性，因此這種方法不是最優(yōu)估計方法。Wiener濾波器采用頻域設(shè)計法，運算復(fù)雜，解析求解困難，整批數(shù)據(jù)處理要求存儲空間大，造成其適用范圍及其有限，僅適用于一維平穩(wěn)隨機過程信號濾波。Kalman濾波采用了和Wiener濾波相同的估計準(zhǔn)則，二者的基本原理一致，但是kalman濾波是一種時域濾波方法，采用狀態(tài)空間方法描述系統(tǒng)，算法采用遞推形式，數(shù)據(jù)存儲量小，不僅可以處理平穩(wěn)隨機過程，也可以處理多維和非平穩(wěn)隨機過程。關(guān)于系統(tǒng)過程噪聲和觀測噪聲的統(tǒng)計特性如下：，E\w]=0,E[WWT]=。^8^<E[V]=0,E[VVT]=R"E「WVt]=0ILkj」如果被估計狀態(tài)X.和對X.的觀測量Zk滿足上式約束，系統(tǒng)過程噪聲吧和觀測噪聲匕滿足上式的假設(shè)，系統(tǒng)過程噪聲方差陣Q非負定，系統(tǒng)觀測噪聲方差陣Rk正定，k時刻一一"的觀測為，則Xk的估計Xk可按下述方程求解：狀態(tài)一步預(yù)測：-人X2Xk,k-ik,k-ik-i狀態(tài)估計x=x+krz-hx~kk-1kLkkk,k-1-1濾波增益矩陣Kk=Pk,k-1H[",k-1H+RJ一步預(yù)測誤差方差陣p=ep①t+rqttk,k-1k,k-1k-1k,k-1k,k-1k-1k,k-1估計誤差方差陣P2-KH]pk,k-1[/-KkHJ+KkRkK其中K=PHtR-1其中P』-KHkk,-1P-1=P-1+HtR-1Hkk,k-1kkkKalman濾波算法的特點：（1）由于Kalman濾波算法將被估計的信號看作在白噪聲作用下一個隨機線性系統(tǒng)的輸出，并且其輸入輸出關(guān)系是由狀態(tài)方程和輸出方程在時間域內(nèi)給出的，因此這種濾波方法不僅適用于平穩(wěn)序列的濾波，而且特別適用于非平穩(wěn)馬爾科夫序列或高斯-馬爾科夫序列的濾波，因此其應(yīng)用范圍是十分廣泛的。（2）由于Kalman濾波的基本方程時間域內(nèi)的遞推形式，其計算過程是一個不斷地“預(yù)測-修正”過程，在求解是不要求存儲大量的數(shù)據(jù)，并且一旦觀測到了新的數(shù)據(jù)，隨時可以算的新的濾波值，因此這種濾波方法非常便于實時處理，計算機實現(xiàn)。（3）由于濾波器的增益矩陣于觀測無關(guān)，因此它可離線算出，從而可以減少實時在線計算量；在求濾波器增益矩陣Kk時要求一個矩陣的逆，既要計算[Hpk_Ht+R」-1，它的階數(shù)之取決于觀測方程的維數(shù)m而m通常是最小的這樣，上面的求逆運算是比較方便的；另外在求解濾波器增益的過程中隨時可以算得濾波器的精度指標(biāo)P，其對角線上的元就是濾波誤差向量各分k

量的方差。增益矩陣%與初始方差F°，系統(tǒng)噪聲方差陣q_1以及觀測噪聲方差陣氣之間具有如下關(guān)系：由基本濾波方程可見，當(dāng)號曾大時，k就變小，噪聲變大濾波增益就應(yīng)取小。如果p變小，玲_1變小’因為p小表示初始估計較好，Qk1變小表示系統(tǒng)噪聲變小，于是增益矩陣應(yīng)變小以便較小的修正。擴展kalman濾波在車輛GPS/dr組合定位系統(tǒng)中的應(yīng)用GPS/DR組合系統(tǒng)狀態(tài)方程的建立,xn分別為車輛東向和北氣分別為車輛東向和北向取組合定位系統(tǒng)的狀態(tài)變量為X=[x,v,a,x,v,a]T，其中xeeennne向的位置分量；ve,vn分別為車輛東向和北向的速度分量；ae，的加速度分量。則得到組合定位系統(tǒng)連續(xù)的狀態(tài)方程為：X(t)=AX(t)+U+W(t)也也分別為(°。:)(°。,xn分別為車輛東向和北氣分別為車輛東向和北向也也分別為(°。:)(°。:)的高斯白噪聲;enen匕匕分別為車輛東向和北向機動加速度變en「°1°°°°--°-°°1°°°°-°一11_°°°-°°°acce①A=aeU=ae，W(t)=ae°°°°1°°°°°°°°1°°11①°°°°°-aaccnanan化率的相關(guān)時間常數(shù)；ajan分別為車輛東向和北向機動加速度分量的“當(dāng)前”均值。設(shè)采樣周期為T,將系統(tǒng)連續(xù)的狀態(tài)方程離散化，得到系統(tǒng)離散的狀態(tài)方程為X=中X+U+W式4.79kk,k-1k,k-1kk式中，X=[xvaxva]tke(k)e(k)e(k)n(k)n(k)n(k)中=diag[^,中]k,k-1e(k,k-1)n(k,k-1)11令a二二，a=:——，則①，①為ecnce(k,k-1)n(k,k-1)aaen

Tcx-2(—1+aT+e-叮)1(1—e—叮)a-1ea-2(—1+aT+e-%T)(1—ea-2(—1+aT+e-%T)(1—e一叮)以一1

ne—aTnn(k,k—1)00U=\juuu中，u=—T+0.5aT2+(1—e—aeT)a—1a—1au=—T+0.5aT2+(1—e-aeT)a—1a—1au2=T—(1—e—aeT)a-1au=(1—e—aT)aeu=—T+0.5aT2+(1—e—anT)a-ia-iau=T一(1—e—anT)a-1anu=（1—e—anT）a&式4.79就是所建立的GPS/DR組合定位系統(tǒng)的狀態(tài)方程。GPS/DR組合系統(tǒng)觀測方程的建立將GPS輸出的東向位置信息e獨北向位置信息降血，角速率陀螺的輸出?以及里程計（或車速計）在一個采樣周期內(nèi)輸出的距離s作為觀測量，；里程計的刻度系數(shù)取為1.觀測量和狀態(tài)變量之間的關(guān)系如下°瀝廣X+Va①=——dtnobs=X+V2一一一/V、tan-i(a①=——dtvns=T\：v2+V2+￡ens于是系統(tǒng)連續(xù)的觀測方程為:

re]obsrX一eXrv]1n,obs—nva一va+V2①―n—ee~~n-V2+V2￡wvsenTJv2+V2L￡」s丁2分別為GPS接收機輸出的東向位置和北向位置的觀測噪聲，可近似為(0,*2)(0,叩的高斯白噪聲；電為陀螺的漂移，近似為(0,唁的高斯白噪聲；e為里程計的觀測噪聲，近似為(0,b2)的高斯白噪聲。s得到系統(tǒng)離散的觀測方程為(4.86)將觀測方程離散化，Z=h[X]+V得到系統(tǒng)離散的觀測方程為(4.86)kkk式中,Zk式中,Zk=eobs(k)nobs(k)h[X]=kV1(k)V2(k)&毆)s(k)」xeh[X]=kV1(k)V2(k)&毆)s(k)」n(k)__e(k)e(k)_n(k)V2k)+V2(k)T\：V2+V2；e(k)n(k)從式(4-86)知，觀測方程是非線性的。采用擴展Kalman濾波進行線性化，將h[x.]在預(yù)..測值X處按泰勒級數(shù)展開并忽略二次以上的高次項，得k,k-1Z=hX+Hr-iX-XkLk,k-1」k—kk,k—1—化簡得(4.87)Z=HX+V+hXk,k-1--HX(4.88)其中dh[X]k-8XkVh=—n(k,k-1)e(k,k-1)1-2V1000000001000hh0hh12340h00h056*八八Va-ak,k-1kk,k-1V2e(k,k-1)n(k,k-1)e(k,k-1)n(k,k-1)n(k,k-1)V2+V2n(k,k-1)e(k,k-1)」人Vn(k,k一1)V2+V2n(k,k-1)e(k,k-1)av+2vvah=―e(k,k-1)_e(k,k-1)e(k,k-1)~n(k,k-1)_n(k,k-1)3「人,人"bV2+V221-n(k,k-1)e(k,k-1)」一aV2e(k,k-1)n(k,k-1)人-Vh=e(k,k-1),人人V2+V2n(k,k-1)e(k,k-1)TVh=e(k,k-1)一:'V2+V2+n(k,k-1)e(k,k-1)TVh=n(k,k-1)'e(k,k-1)*'n(k,k-1)式(4.88)就是所建立的GPS/DR系統(tǒng)線性離散的觀測方程。根據(jù)擴展Kalman濾波遞推方程和所建立的GPS/DR組合定位系統(tǒng)的狀態(tài)方程式4.79和4.88式，可得系統(tǒng)的遞推濾波方程如下X=X+Kkk,k-1k一_*Z-h[Xkk,k-1Xk,k-1=°k,k-1Xk-1+Uk-1式4閩Pk,k一H[HP,k""P=OP①T+Qk,k-1k,k-1k-1k,k-1k-1Pk=[「KkHk】Pk,k-1遞推方程中的①kk1、U的表達式可從式（4.81）獲得，%可從式4,88獲得，勺和系統(tǒng)的觀測噪聲的協(xié)方差有關(guān)，Qk如下Q=E[WWt]=diag[2^2aQ,2a2aQ]

kkkaee(k)ann(k)enqqqqqqe11e12e13n11n12n13Q=qqq，Q=qqqe(k)e21e22e23n(k)n21n22n23qqqqqq」e31e32e33」n31n32n33其中q11=0.5a-5(1-e-2"+2aT+2a3T33-1-2aT2-4aTe-")q12=q21=0.5a一4(1+e-2aT-2e-aeT+2aTe-aT-2aT+a^T2)q13=q31=0.5a-3(1-e-2aT-2aTe-aT)q=q=0.5a-2(1+e-2a°T—2e-aeT)e23e32eq22=0.5a-3(-3-e-2aeT+4e-"+2aT)q=0.5a-1(1—e-2aeT)e33e式中Qe(k)Qn(k)都是對稱矩陣，Qn(k)中的元素表達式和Qe(k)中的元素表達式相似，將Q。成)中的各元素表達式中的以°用an來代替，即可相應(yīng)地得到Qn俄)中的元素表達式。若把加速度的一步預(yù)測看作“當(dāng)前”加速度的均值，即=a萬蕓e(k)e(k,k-1)n(k)n(k-k1)則式4.90可化簡為k,k-11(k,k-1)k-1氣kk廣diag]^^(T),氣(T)]氣(T)=氣(T)=0100T2氣(T)=氣(T)=0100T2~2T1自適應(yīng)濾波GPS/INS組合導(dǎo)航系統(tǒng)自適應(yīng)濾波全球定位系統(tǒng)GPS和慣性導(dǎo)航系統(tǒng)INS都是目前世界上應(yīng)用最為廣泛的導(dǎo)航方法之一。利用二者較強的非相似性和互補性將二者組合起來，可以取長補短，充分發(fā)揮各自的優(yōu)勢，同時克服了GPS易受地形地物遮擋而導(dǎo)致定位中斷和INS定位誤差隨時間而積累的缺陷。在GPS/INS組合導(dǎo)航系統(tǒng)中，由于系統(tǒng)本身元器件的不穩(wěn)定性以及外部應(yīng)用環(huán)境不確定因素的影響，給系統(tǒng)噪聲和觀測噪聲統(tǒng)計特性的準(zhǔn)確描述帶來困難，如果采用常規(guī)Kalman濾波器，在實際應(yīng)用中不能保證收斂性和穩(wěn)定性。在學(xué)習(xí)卡爾曼濾波器之前，首先看看為什么叫'卡爾曼”。跟其他著名的理論（例如傅立葉變換，泰勒級數(shù)等等）一樣，卡爾曼也是一個人的名字，而跟他們不同的是，他是個現(xiàn)代人！卡爾曼全名RudolfEmilKalman，匈牙利數(shù)學(xué)家，1930年出生于匈牙利首都布達佩斯。1953,1954年于麻省理工學(xué)院分別獲得電機工程學(xué)士及碩士學(xué)位。1957年于哥倫比亞大學(xué)獲得博士學(xué)位。我們現(xiàn)在要學(xué)習(xí)的卡爾曼濾波器，正是源于他的博士論文和1960年發(fā)表的論文《ANewApproachtoLinearFilteringandPredictionProblems》（線性濾波與預(yù)測問題的新方法）。如果對這編論文有興趣，可以到這里的地址下載：/~welch/kalman/media/pdf/Kalman1960.pdf簡單來說，卡爾曼濾波器是一個“optimalrecursivedataprocessingalgorithm（最優(yōu)化自回歸數(shù)據(jù)處理算法）”。對于解決很大部分的問題，他是最優(yōu)，效率最高甚至是最有用的。他的廣泛應(yīng)用已經(jīng)超過30年，包括機器人導(dǎo)航，控制，傳感器數(shù)據(jù)融合甚至在軍事方面的雷達系統(tǒng)以及導(dǎo)彈追蹤等等。近年來更被應(yīng)用于計算機圖像處理，例如頭臉識別，圖像分割，圖像邊緣檢測等等?？柭鼮V波器的介紹（IntroductiontotheKalmanFilter）為了可以更加容易的理解卡爾曼濾波器，這里會應(yīng)用形象的描述方法來講解，而不是像大多數(shù)參考書那樣羅列一大堆的數(shù)學(xué)公式和數(shù)學(xué)符號。但是，他的5條公式是其核心內(nèi)容。結(jié)合現(xiàn)代的計算機，其實卡爾曼的程序相當(dāng)?shù)暮唵?，只要你理解了他的?條公式。在介紹他的5條公式之前，先讓我們來根據(jù)下面的例子一步一步的探索。假設(shè)我們要研究的對象是一個房間的溫度。根據(jù)你的經(jīng)驗判斷，這個房間的溫度是恒定的，也就是下一分鐘的溫度等于現(xiàn)在這一分鐘的溫度（假設(shè)我們用一分鐘來做時間單位）。假設(shè)你對你的經(jīng)驗不是100%的相信，可能會有上下偏差幾度。我們把這些偏差看成是高斯白噪聲（WhiteGaussianNoise），也就是這些偏差跟前后時間是沒有關(guān)系的而且符合高斯分配（GaussianDistribution）o另外，我們在房間里放一個溫度計，但是這個溫度計也不準(zhǔn)確的，測量值會比實際值偏差。我們也把這些偏差看成是高斯白噪聲。好了，現(xiàn)在對于某一分鐘我們有兩個有關(guān)于該房間的溫度值：你根據(jù)經(jīng)驗的預(yù)測值（系統(tǒng)的預(yù)測值）和溫度計的值（測量值）。下面我們要用這兩個值結(jié)合他們各自的噪聲來估算出房間的實際溫度值。假如我們要估算k時刻的是實際溫度值。首先你要根據(jù)k-1時刻的溫度值，來預(yù)測k時刻的溫度。因為你相信溫度是恒定的，所以你會得到k時刻的溫度預(yù)測值是跟k-1時刻一樣的，假設(shè)是23度，同時該值的高斯噪聲的偏差是5度（5是這樣得到的：如果k-1時刻估算出的最優(yōu)溫度值的偏差是3,你對自己預(yù)測的不確定度是4度，他們平方相加再開方，就是5）。然后，你從溫度計那里得到了k時刻的溫度值，假設(shè)是25度，同時該值的偏差是4度。由于我們用于估算k時刻的實際溫度有兩個溫度值，分別是23度和25度。究竟實際溫度是多少呢？相信自己還是相信溫度計呢？究竟相信誰多一點，我們可以用他們的covariance來判斷。因為KgA2=5A2/(5A2+4A2)，所以Kg=0.78,我們可以估算出k時刻的實際溫度值是：23+0.78*(25-23)=24.56度。可以看出，因為溫度計的covariance比較小(比較相信溫度計)，所以估算出的最優(yōu)溫度值偏向溫度計的值?，F(xiàn)在我們已經(jīng)得到k時刻的最優(yōu)溫度值了，下一步就是要進入k+1時刻，進行新的最優(yōu)估算。到現(xiàn)在為止，好像還沒看到什么自回歸的東西出現(xiàn)。對了，在進入k+1時刻之前，我們還要算出k時刻那個最優(yōu)值(24.56度)的偏差。算法如下：((1-Kg)*5A2)A0.5=2.35。這里的5就是上面的k時刻你預(yù)測的那個23度溫度值的偏差，得出的2.35就是進入k+1時刻以后k時刻估算出的最優(yōu)溫度值的偏差(對應(yīng)于上面的3)。就是這樣，卡爾曼濾波器就不斷的把covariance遞歸，從而估算出最優(yōu)的溫度值。他運行的很快，而且它只保留了上一時刻的covarianceo上面的Kg，就是卡爾曼增益(KalmanGain)。他可以隨不同的時刻而改變他自己的值，是不是很神奇！下面就要言歸正傳，討論真正工程系統(tǒng)上的卡爾曼?？柭鼮V波器算法(TheKalmanFilterAlgorithm)在這一部分，我們就來描述源于DrKalman的卡爾曼濾波器。下面的描述，會涉及一些基本的概念知識，包括概率(Probability)，隨即變量(RandomVariable)，高斯或正態(tài)分配(GaussianDistribution)還有State-spaceModel等等。但對于卡爾曼濾波器的詳細證明，這里不能一一描述。首先，我們先要引入一個離散控制過程的系統(tǒng)。該系統(tǒng)可用一個線性隨機微分方程(LinearStochasticDifferenceequation)來描述：X(k)=AX(k-1)+BU(k)+W(k)再加上系統(tǒng)的測量值：Z(k)=HX(k)+V(k)上兩式子中，X(k)是k時刻的系統(tǒng)狀態(tài)，U(k)是k時刻對系統(tǒng)的控制量。A和B是系統(tǒng)參數(shù)，對于多模型系統(tǒng)，他們?yōu)榫仃嚒鉠(k)是k時刻的測量值，H是測量系統(tǒng)的參數(shù)，對于多測量系統(tǒng)，H為矩陣。W(k)和V(k)分別表示過程和測量的噪聲。他們被假設(shè)成高斯白噪聲(WhiteGaussianNoise)，他們的covariance分別是Q，R(這里我們假設(shè)他們不隨系統(tǒng)狀態(tài)變化而變化)。對于滿足上面的條件(線性隨機微分系統(tǒng)，過程和測量都是高斯白噪聲)，卡爾曼濾波器是最優(yōu)的信息處理器。下面我們來用他們結(jié)合他們的covariances來估算系統(tǒng)的最優(yōu)化輸出(類似上一節(jié)那個溫度的例子)。首先我們要利用系統(tǒng)的過程模型，來預(yù)測下一狀態(tài)的系統(tǒng)。假設(shè)現(xiàn)在的系統(tǒng)狀態(tài)題，根據(jù)系統(tǒng)的模型，可以基于系統(tǒng)的上一狀態(tài)而預(yù)測出現(xiàn)在狀態(tài)：X(klk-1)=AX(k-1lk-1)+BU(k)(1)式(1)中，X(klk-1)是利用上一狀態(tài)預(yù)測的結(jié)果，X(k-1lk-1)是上一狀態(tài)最優(yōu)的結(jié)果，U(k)為現(xiàn)在狀態(tài)的控制量，如果沒有控制量，它可以為0o到現(xiàn)在為止，我們的系統(tǒng)結(jié)果已經(jīng)更新了，可是，對應(yīng)于X(klk-1)的covariance還沒更新。我們用P表示covariance：P(klk-1)=AP(k-1lk-1)A’+Q(2)式(2)中，P(klk-1)是X(klk-1)對應(yīng)的covariance，P(k-1lk-1)是X(k-1lk-1)對應(yīng)的covariance，A’表示A的轉(zhuǎn)置矩陣，Q是系統(tǒng)過程的covariance。式子1，2就是卡爾曼濾波器5個公式當(dāng)中的前兩個，也就是對系統(tǒng)的預(yù)測?，F(xiàn)在我們有了現(xiàn)在狀態(tài)的預(yù)測結(jié)果，然后我們再收集現(xiàn)在狀態(tài)的測量值。結(jié)合預(yù)測值和測量值，我們可以得到現(xiàn)在狀態(tài)(k)的最優(yōu)化估算值X(klk)：TOC\o"1-5"\h\zX(klk)=X(klk-1)+Kg(k)(Z(k)-HX(klk-1))(3)其中Kg為卡爾曼增益(KalmanGain)：Kg(k)=P(klk-1)H’/(HP(k|k-1)H’+R)(4)到現(xiàn)在為止，我們已經(jīng)得到了k狀態(tài)下最優(yōu)的估算值X(klk)。但是為了要另卡爾曼濾波器不斷的運行下去直到系統(tǒng)過程結(jié)束，我們還要更新k狀態(tài)下X(klk)的covariance：P(klk)=(I-Kg(k)H)P(klk-1)(5)其中I為1的矩陣，對于單模型單測量，I=1。當(dāng)系統(tǒng)進入k+1狀態(tài)時，P(klk)就是式子(2)的P(k-1lk-1)。這樣，算法就可以自回歸的運算下去?？柭鼮V波器的原理基本描述了，式子1，2,3,4和5就是他的5個基本公式。根據(jù)這5個公式，可以很容易的實現(xiàn)計算機的程序。下面，我會用程序舉一個實際運行的例子。。。簡單例子(ASimpleExample)這里我們結(jié)合第二第三節(jié)，舉一個非常簡單的例子來說明卡爾曼濾波器的工作過程。所舉的例子是進一步描述第二節(jié)的例子，而且還會配以程序模擬結(jié)果。根據(jù)第二節(jié)的描述，把房間看成一個系統(tǒng)，然后對這個系統(tǒng)建模。當(dāng)然，我們見的模型不需要非常地精確。我們所知道的這個房間的溫度是跟前一時刻的溫度相同的，所以A=1。沒有