維納濾波器和卡爾曼濾波器課件

第七章維納濾波和卡爾曼濾

（WienerandKalmanFiltering）

隨機信號或隨機過程(randomprocess)是普遍存在的。一方面，任何確定性信號經(jīng)過測量后往往就會引入隨機性誤差而使該信號隨機化；另一方面，任何信號本身都存在隨機干擾，通常把對信號或系統(tǒng)功能起干擾作用的隨機信號稱之為噪聲。噪聲按功率譜密度劃分可以分為白噪聲（whitenoise）和色噪聲（colornoise），我們把均值為0的白噪聲叫純隨機信號（purerandomsignal）。因此，任何其它隨機信號都可看成是純隨機信號與確定性信號并存的混合隨機信號或簡稱為隨機信號。要區(qū)別干擾（interference）和噪聲(noise)兩種事實和兩個概念。非目標信號（nonobjectivesignal）都可叫干擾。

1可編輯ppt第七章維納濾波和卡爾曼濾

（WienerandKal干擾可以是確定信號，如國內(nèi)的50Hz工頻干擾。干擾也可以是噪聲，純隨機信號（白噪聲）加上一個直流成分（確定性信號），就成了最簡單的混合隨機信號。醫(yī)學數(shù)字信號處理的目的是要提取包含在隨機信號中的確定成分，并探求它與生理、病理過程的關(guān)系，為醫(yī)學決策提供一定的依據(jù)。例如從自發(fā)腦電中提取誘發(fā)腦電信號，就是把自發(fā)腦電看成是干擾信號，從中提取出需要的信息成分。因此我們需要尋找一種最佳線性濾波器，當信號和干擾以及隨機噪聲同時輸入該濾波器時，在輸出端能將信號盡可能精確地表現(xiàn)出來。維納濾波和卡爾曼濾波就是用來解決這樣一類問題的方法：從噪聲中提取出有用的信號。實際上，這種線性濾波方法也被看成是一種估計問題或者線性預測問題。2可編輯ppt干擾可以是確定信號，如國內(nèi)的50Hz工頻干擾。干擾也可以是噪設(shè)有一個線性系統(tǒng)，它的單位脈沖響應是，當輸入一個觀測到的隨機信號，簡稱觀測值，且該信號包含噪聲和有用信號，簡稱信號，也即

(7-1)則輸出為(7-2)3可編輯ppt設(shè)有一個線性系統(tǒng)，它的單位脈沖響應是，當輸入一個觀測到的隨機我們希望輸出得到的與有用信號盡量接近，因此稱為的估計值，用來表示，我們就有了維納濾波器的系統(tǒng)框圖，如圖7-1。這個系統(tǒng)的單位脈沖響應也稱為對于的一種估計器。圖7-1維納濾波器的輸入輸出關(guān)系4可編輯ppt我們希望輸出得到的與有用信號盡量接近，因此稱為的估計值，用來如果該系統(tǒng)是因果系統(tǒng)，式(7-2)的m＝0，1，2，…，則輸出的可以看成是由當前時刻的觀測值和過去時刻的觀測值、、…的估計值。用當前的和過去的觀測值來估計當前的信號稱為濾波；用過去的觀測值來估計當前的或?qū)淼男盘?，N，稱為預測；用過去的觀測值來估計過去的信號，N，稱為平滑或者內(nèi)插。本章將討論濾波和預測問題。5可編輯ppt如果該系統(tǒng)是因果系統(tǒng)，式(7-2)的m＝0，1，2，…，則輸從圖7-1的系統(tǒng)框圖中估計到的信號和我們期望得到的有用信號可能不完全相同，這里用來表示真值和估計值之間的誤差(7-3)6可編輯ppt從圖7-1的系統(tǒng)框圖中估計到的信號和我們期望得到的有用信號可顯然是隨機變量，維納濾波和卡爾曼濾波的誤差準則就是最小均方誤差準則：(7-4)7可編輯ppt顯然是隨機變量，維納濾波和卡爾曼濾波的誤差準則就是最小均方誤維納濾波和卡爾曼濾波都是解決線性濾波和預測問題的方法，并且都是以均方誤差最小為準則的，在平穩(wěn)條件下兩者的穩(wěn)態(tài)結(jié)果是一致的。但是它們解決問題的方法有很大區(qū)別。維納濾波是根據(jù)全部過去觀測值和當前觀測值來估計信號的當前值，因此它的解形式是系統(tǒng)的傳遞函數(shù)或單位脈沖響應；卡爾曼濾波是用當前一個估計值和最近一個觀測值來估計信號的當前值，它的解形式是狀態(tài)變量值。維納濾波只適用于平穩(wěn)隨機過程，卡爾曼濾波就沒有這個限制。設(shè)計維納濾波器要求已知信號與噪聲的相關(guān)函數(shù)，設(shè)計卡爾曼濾波器要求已知狀態(tài)方程和量測方程，當然兩者之間也有聯(lián)系。8可編輯ppt維納濾波和卡爾曼濾波都是解決線性濾波和預測問題的方法，并且都第一節(jié)維納濾波器的時域解

（TimedomainsolutionoftheWienerfilter）

設(shè)計維納濾波器的過程就是尋求在最小均方誤差下濾波器的單位脈沖響應或傳遞函數(shù)的表達式，其實質(zhì)就是解維納－霍夫（Wiener－Hopf）方程。我們從時域入手求最小均方誤差下的，用表示最佳線性濾波器。這里只討論因果可實現(xiàn)濾波器的設(shè)計。9可編輯ppt第一節(jié)維納濾波器的時域解

（Timedomainso一、因果維納濾波器

設(shè)是物理可實現(xiàn)的，也即是因果序列：因此，從式(7-1)、(7-2)、(7-3)、(7-4)推導：

(7-5)10可編輯ppt一、因果維納濾波器

設(shè)是物理可實現(xiàn)的，也即是因果序列：(7-要使得均方誤差最小，則將上式對各，m＝0，1，…，求偏導，并且令其等于零，得：(7-6)(7-7)11可編輯ppt要使得均方誤差最小，則將上式對各，m＝0，1，…，求偏導，并即(7-8)用相關(guān)函數(shù)R來表達上式，則得到維納－霍夫方程的離散形式：從維納－霍夫方程中解出的h就是最小均方誤差下的最佳h，即

求到

，這時的均方誤差為最小：

12可編輯ppt即(7-8)用相關(guān)函數(shù)R來表達上式，則得到維納－霍夫方程的離由式（7-9）進一步化簡得：(7-10)13可編輯ppt由式（7-9）進一步化簡得：(7-10)13可編輯ppt二、有限脈沖響應法求解維納－霍夫方程

如何去求解維納－霍夫方程，即式（7-9）中解的問題，設(shè)是一個因果序列且可以用有限長（N點長）的序列去逼近它，則式(7-5)－(7-10)分別發(fā)生變化(7-11)14可編輯ppt二、有限脈沖響應法求解維納－霍夫方程

如何去求解維納－霍夫方

(7-12)

(7-13)………..(7-14)(7-15)15可編輯ppt(7-12)(7-13)………..(7于是得到N個線性方程：寫成矩陣形式有：

……………(7-16)16可編輯ppt于是得到N個線性方程：寫成矩陣形式有：……………(7-16簡化形式：RxxH=Rxs

(7-17)式中，H＝[h(0)h(1)…h(huán)(N-1)]′，是待求的單位脈沖響應；Rxs＝′，是互相關(guān)序列；

Rxx＝

，是自相關(guān)矩陣

17可編輯ppt簡化形式：RxxH=Rxs(7-17)式中，H＝[h(0只要Rxx是非奇異的，就可以求到H：H=Rxx－1Rxs

(7-18)求得后，這時的均方誤差為最?。?/p>

18可編輯ppt只要Rxx是非奇異的，就可以求到H：H=Rxx－1Rxs由式（7-15）進一步化簡得：

(7-19)用有限長的來實現(xiàn)維納濾波時，當已知觀測值的自相關(guān)和觀測值與信號的互相關(guān)時就可以按照式（7-15）在時域里求解但是當N比較大時，計算量很大，并

且涉及到求自相關(guān)矩陣的逆矩陣問題。

19可編輯ppt由式（7-15）進一步化簡得：(7-19)用有限長意到式（7-15）的表現(xiàn)形式和第三章的AR模型參數(shù)估計的矩陣形式類似，因而也可以用前面介紹的L-D快速算法實現(xiàn)求解。若信號與噪聲互不相關(guān)，即，則有20可編輯ppt意到式（7-15）的表現(xiàn)形式和第三章的AR模型參數(shù)估計的矩陣則式（7-15）和式（7-19）化為：(7-20)

(7-21)【例7-1】已知圖7-1中

且與統(tǒng)計獨立，其中

的自相關(guān)序列為

，是方差為1的單位白噪聲，維納濾波器來估計

，并求最小均方誤差。

〖解〗依題意，已知信號的自相關(guān)和噪聲的自相關(guān)為：

21可編輯ppt則式（7-15）和式（7-19）化為：(7-20)(7-，代入式（7-20）得解得：

＝0.451，

＝0.165。

將上述結(jié)果代入式（7-21），求得最小均方誤差：若要進一步減小誤差可以適當增加維納濾波的階數(shù)，但相應的計算量也會增加。22可編輯ppt，代入式（7-20）得解得：＝0.451，＝0.165三、預白化法求解維納－霍夫方程

從上面分析知求解維納－霍夫方程比較復雜，本節(jié)用波德（Bode）和香（Shannon）

提出的白化的方法求解維納－霍夫方程，得到系統(tǒng)函數(shù)

H(z)。由第三章的知識，我們知道隨機信號都可以看成是由一白色噪聲

w1(n)

激勵一個物

理可實現(xiàn)

的系統(tǒng)

或模型的響應，如圖7-2所示，

其中A(z)表示系統(tǒng)

的傳遞函數(shù)。由于

x(n)=s(n)+w(n)，

在圖7-2的基礎(chǔ)上給出x(n)的信號模型

23可編輯ppt三、預白化法求解維納－霍夫方程

從上面分析知求解維納－霍夫方其中A(z)表示系統(tǒng)的傳遞函數(shù)。由于x(n)=s(n)+w(n)，在圖7-2的基礎(chǔ)上給出x(n)的信號模型，圖7-3所示。把這兩個模型合并最后得到維納濾波器的信號模型，圖7-4所示，其中傳遞函數(shù)用B(z)表示。圖7-2的信號模型

圖7-3

的信號模型

圖7-4維納濾波器的輸入信號模型24可編輯ppt其中A(z)表示系統(tǒng)的傳遞函數(shù)。由于x(n)=s(n白噪聲的自相關(guān)函數(shù)為，它的z變換就等于。圖7-2中輸出信號的自相關(guān)函數(shù)為，根據(jù)卷積性質(zhì)有令

上式

令

25可編輯ppt白噪聲的自相關(guān)函數(shù)為對式（7-22）進行Z變換得到系統(tǒng)函數(shù)和相關(guān)函數(shù)的z變換之間的關(guān)系：

(7-23)同樣，對圖7-4進行z變換得(7-24)圖7-4中利用卷積性質(zhì)還可以找到互相關(guān)函數(shù)之間的關(guān)系：26可編輯ppt對式（7-22）進行Z變換得到系統(tǒng)函數(shù)和相關(guān)函數(shù)(7-2兩邊z變換得到(7-25)如果已知觀測信號的自相關(guān)函數(shù)，求它的z變換，

然后找到該函數(shù)的成對零點、極點，取其中在單位圓內(nèi)的那一半零點、極點構(gòu)成，另外在單位圓外的零、極點構(gòu)成，這樣就保證了

是因果的，并且是最小相位系統(tǒng)。27可編輯ppt兩邊z變換得到(7-25)如果已知觀測信號的自相關(guān)函數(shù)，求從圖7-4可得

(7-26)由于系統(tǒng)函數(shù)的零點和極點都在單位圓內(nèi)，即是一個物理可實現(xiàn)的最小相位系統(tǒng)，則也是一個物理可實現(xiàn)的最小相移網(wǎng)絡函數(shù)。我們就可以利用式（7-26）對

進行白化，即把當作輸入，當作輸出，是系統(tǒng)傳遞函數(shù)。28可編輯ppt從圖7-4可得(7-26)由于系統(tǒng)函數(shù)的零點和極點都在單位將圖7-1重新給出，待求的問題就是最小均方誤差下的最佳，如圖7-5(a)所示，為了便于求這個，將圖7-5(a)的濾波器分解成兩個級聯(lián)的濾波器：和G（z），

如圖7-5(b)所示，則

(7-27)（a）（b）圖7-5利用白化方法求解模型29可編輯ppt將圖7-1重新給出，待求的問題就是最小均方誤差下的最佳有了上述的模型后，白化法求解維納－霍夫方程步驟如下：1）對觀測信號的自相關(guān)函數(shù)求z變換得到；2）利用等式，找到最小相位系統(tǒng)；3）利用均方誤差最小原則求解因果的G（z）；4），即得到維納－霍夫方程的系統(tǒng)函數(shù)解。30可編輯ppt有了上述的模型后，白化法求解維納－霍夫方程步驟如下：1）對觀在上述步驟中，可以通過已知的觀測信號的自相關(guān)函數(shù)來求得，因而求解的問題就歸結(jié)為求解G（z）的問題了。由于G（z）的激勵源是白噪聲，求解變得容易多了，下面我們分析步驟3的求解過程。按圖7-5(b)有:

(7-28)均方誤差為：31可編輯ppt在上述步驟中，可以通過已知的觀測信號的自相關(guān)函數(shù)由于，代入上式，并且進行配方得：32可編輯ppt由于，代入上式均方誤差最小也就是上式的中間一項最小，所以

(7-30)注意，這里的是因果的。對該式求z變換，得到

(7-31)表示對求單邊z變換。所以維納－霍夫方程的系統(tǒng)函數(shù)解表示為：33可編輯ppt均方誤差最小也就是上式的中間一項最小，所以(7-30)注意由式（7-25）上式可以表示為：因果的維納濾波器的最小均方誤差為：

(7-33)利用帕塞伐爾(Parseval)定理，上式可用z域來表示：(7-34)34可編輯ppt由式（7-25）上式可以表示為：因果的維納濾波器的最小均方誤利用帕塞伐爾(Parseval)定理，上式可用z域來表示：

圍線積分可以取單位圓。(7-34)【例7-2】已知圖7-1中，且統(tǒng)計獨立，其中的自相關(guān)序列為，是方差為1的單位白噪聲，試，并求最小均方誤差。與設(shè)計一個物理可實現(xiàn)的維納濾波器來估計〖解〗依題意，已知，，，35可編輯ppt利用帕塞伐爾(Parseval)定理，上式可用z域來表示：步驟1求z變換步驟2由于，容易找到最小相位系統(tǒng)和白噪聲方差36可編輯ppt步驟1求z變換步驟2由于，容易找到最小相位系統(tǒng)和白噪聲方差3步驟3利用式（7－32）

對括號里面求反變換，注意括號內(nèi)的收斂域為取因果部分，也就是第一項，所以37可編輯ppt步驟3利用式（7－32）對括號里面求反變換，注意括號內(nèi)的收步驟4最小均方誤差為取單位圓為積分圍線，有兩個單位圓內(nèi)的極點，0.8和0.5，求它們的留數(shù)和，所以38可編輯ppt步驟4最小均方誤差為取單位圓為積分圍線，有兩個單位圓內(nèi)的極第二節(jié)維納預測器（Wiener’sPredictor）

上節(jié)討論的維納濾波器是一種估計器，是用觀測到的當前和全部過去的數(shù)據(jù)、、…來估計當前的信號值。本節(jié)將討論維納預測器，它同樣也是一種估計器，是用過去的觀測值來估計當前的或?qū)淼男盘?，N，也是用真值和估計值的均方誤差最小為估計準則。39可編輯ppt第二節(jié)維納預測器（Wiener’sPredictor）一、因果的維納預測器

圖7-6就是維納預測器的模型，N>0，是希望得到的輸出，而表示實際的估計值。圖7-6維納預測器本節(jié)和上節(jié)一樣著重討論預測器的系統(tǒng)函數(shù)以及預測的均方誤差，維納預測器和維納濾波器比較類似，因而分析方法也都可以借鑒前面的內(nèi)容。40可編輯ppt一、因果的維納預測器

圖7-6就是維納預測器的模型，N>0，對于圖7-6模型，設(shè)是物理可實現(xiàn)的，也即，則有是因果序列：

(7-35)

(7-36)要使得均方誤差最小，則將上式對各，m＝0，1，…，求偏導，并且等于零，得：

(7-37)41可編輯ppt對于圖7-6模型，設(shè)是物理可實現(xiàn)的，也即，則有是因果序列：即用相關(guān)函數(shù)R來表達上式：(7-38)(7-39)由于，則，z變換得(7-40)42可編輯ppt即用相關(guān)函數(shù)R來表達上式：(7-38)(7-39)由于，則借鑒維納濾波器的結(jié)果類似給出維納預測器的最佳傳遞函數(shù)，對應維納預測器，對應維納濾波器，故因果的預測器的傳遞函數(shù)為：

(7-41)最小均方誤差為(7-42)利用帕塞伐爾(Parseval)定理，上式可用z域來表示43可編輯ppt借鑒維納濾波器的結(jié)果類似給出維納預測器的最佳，對應維納濾波器【例7-3】已知圖7-6中，且與統(tǒng)計獨立，其中的自相關(guān)序列為，是方差為1的單位白噪聲，，并求最小均方誤差。試設(shè)計一個物理可實現(xiàn)的維納預測器估計〖解〗依題意已知，，，

44可編輯ppt【例7-3】已知圖7-6中，且與統(tǒng)計獨立，其中的自相關(guān)序列為求z變換：由于，容易找到最小相位系統(tǒng)和白噪聲方差：由式（7-41），N＝1，45可編輯ppt求z變換：由于，容易找到最小相位系統(tǒng)和白噪聲方差：由式（7-求z變換：由于，容易找到最小相位系統(tǒng)和白噪聲方差：由式（7-41），N＝1，46可編輯ppt求z變換：由于，容易找到最小相位系統(tǒng)和白噪聲方差：由式（7-對括號里面求z反變換，注意括號內(nèi)的收斂域為：，取因果部分，也就是第一項，所以把上式寫成差分方程形式有：47可編輯ppt對括號里面求z反變換，注意括號內(nèi)的收斂域為：，取因果部分，也最小均方誤差為：48可編輯ppt最小均方誤差為：48可編輯ppt二、純預測器（N步）

純預測器指的是＝0的情況下，對的預測。如圖7-7所示。圖7-7N步純預測器這時，用白化法來求解預測器的系統(tǒng)函數(shù)。因為，從而有：

(7-44)49可編輯ppt二、純預測器（N步）

純預測器指的是＝0的情況將上式代入式（7-41）、（7-43）得：假設(shè)B(z）是b（n）的z變換，且b（n）是實序列，則上式可以利用帕塞伐爾定(Parseval)理進一步化簡：

(7-46)又因為B(z）是最小相位系統(tǒng)，一定是因果的，上式可以簡化50可編輯ppt將上式代入式（7-41）、（7-43）得：假設(shè)B(z）是b（

(7-47)上式說明最小均方誤差隨著N的增加而增加，也即預測距離越遠誤差越大?！纠?-4】已知圖7-7中，其中的自相關(guān)序列為，試設(shè)計一個物理可，并求最小均方誤差。，則實現(xiàn)的維納預測器來估計〖解〗依題意，已知因為

51可編輯ppt(7-47)上式說明最小均方誤差隨著N的增加而增加，也容易找到最小相位系統(tǒng)和白噪聲方差:利用式（7-45）:因為

，只取的部分，有:52可編輯ppt容易找到最小相位系統(tǒng)和白噪聲方差:利用式（7-45）:因為回到z域有：，代入得:最小均方誤差為：53可編輯ppt回到z域有：，代入得:最小均方誤差為：53可編輯ppt它說明當N越大，誤差越大，當N＝0時，沒有誤差。把上述結(jié)果用模型表示如圖7-8所示。圖7-8例題7-3的純預測模型54可編輯ppt它說明當N越大，誤差越大，當N＝0時，沒有誤差。圖7-8例三、一步線性預測器

對于純預測問題，有，然而預測的問題常常是要求在過去的p個觀測值的基礎(chǔ)上來預測當前值，也就是這就是一步線性預測公式，常常用下列符合表示

(7-48)55可編輯ppt三、一步線性預測器

對于純預測問題，有式中p為階數(shù)，。預測的均方誤差為:(7-49)要使得均方誤差最小，將上式右邊對求偏導并且等于零，得到p個等式

(7-50)56可編輯ppt式中p為階數(shù)，。預測的均方誤差為:(7-49)要使得均方最小均方誤差：

(7-51)式（7-50）就是Yule－Walker（Y-W）方程，和第三章AR模型參數(shù)估計的方程一致，如何去求解該方程在第三章有詳細介紹。把Yule－Walker（Y-W）方程和維納－霍夫方程進行比較，維納－霍夫方程要估計的量是s(n)，Y-W方程要估計的量是x(n)本身，因而解維納－霍夫方程要已知x(n)、y(n)的互相關(guān)函數(shù)，實際中這個互相關(guān)函數(shù)往往是未知的，而解Y-W方程只需要知道觀測信號的自相關(guān)函數(shù)。因此Y-W方程比W-H方程更具有實用價值。57可編輯ppt最小均方誤差：(7-51)式（7-50）就是Yule－例7-5】已知圖7-7中x(n)=s(n)，其中的自相關(guān)序列為的可實現(xiàn)的一步線性預測器，并求最小均方誤差?！冀狻?，

，試設(shè)計一個p＝2利用Y-W方程，可以列出2個方程式58可編輯ppt例7-5】已知圖7-7中x(n)=s(n)，其中的自相關(guān)序列解得：，也即結(jié)果和例（7-4）N=1時一致。59可編輯ppt解得：，也即結(jié)果和例（7-4）N=1時一致。59可編輯ppt第三節(jié)維納濾波器的應用

（ApplicationofWienerFilter）要設(shè)計維納濾波器必須知道觀測信號和估計信號之間的相關(guān)函數(shù)，即先驗知識。如果我們不知道它們之間的相關(guān)函數(shù)，就必須先對它們的統(tǒng)計特性做估計，然后才能設(shè)計出維納濾波器，這樣設(shè)計出的濾波器被稱為“后驗維納濾波器”。在生物醫(yī)學信號處理中比較典型的應用就是關(guān)于誘發(fā)腦電信號的提取。大腦誘發(fā)電位（EvokedPotential，EP）指在外界刺激下，從頭皮上記錄到的特異電位，它反映了外60可編輯ppt第三節(jié)維納濾波器的應用

（Applicationof周感覺神經(jīng)、感覺通路及中樞神經(jīng)系統(tǒng)中相關(guān)結(jié)構(gòu)在特定刺激情況下的狀態(tài)反應。在神經(jīng)學研究以及臨床診斷、手術(shù)監(jiān)護中有重要意義。EP信號十分微弱，一般都淹沒在自發(fā)腦電（EEG）之中，從EEG背景中提取誘發(fā)電位一直是個難題：EP的幅度比自發(fā)腦電低一個數(shù)量級，無法從一次觀察中直接得到；EP的頻譜與自發(fā)腦電頻譜完全重迭，使得頻率濾波失效；在統(tǒng)計上EP是非平穩(wěn)的、時變的腦誘發(fā)電位。通過多次刺激得到的腦電信號進行疊加來提取EP，這是現(xiàn)今最為廣泛使用的EP提取方法。為了解決誘發(fā)電位提取問題，研究者利用維納濾波來提高信噪比，先后有Walter、Doyle、Weerd等對維納濾波方法進行了改進。在頻域應用后驗維納濾波的核心就是由各次觀察信號中分解出信號的譜估計和噪聲的譜估計，通過設(shè)計出的濾波器來提高信噪比。本節(jié)將介紹時－頻平面的維納濾波（time－frequencyplanewienerfiltering，簡稱TFPW）在高分辨心電圖（HRECG）中的應用。方法如下：61可編輯ppt周感覺神經(jīng)、感覺通路及中樞神經(jīng)系統(tǒng)中相關(guān)結(jié)構(gòu)在特定刺激情況下一、觀測樣本設(shè)共有N次觀測樣本：xi(t)=s(t)+wi(t),i=1,2,…N。其中s(t)是周期確定的心電信號；wi(t)是第i次記錄時的噪聲，包括肌電、測量儀器噪聲等，假設(shè)每次記錄的噪聲之間互不相關(guān)；xi(t)是觀測信號；信號和噪聲相互獨立。62可編輯ppt一、觀測樣本設(shè)共有N次觀測樣本：xi(t)=s(t)+對每次觀測用短時傅立葉變換求時頻表示（TFR）：對N次觀測的時頻表示（TFR）求平均：，樣本平均的時頻表示（TFR）為：

(1)樣本平均為：

(2)從式（2）可以得到一個基于樣本平均的簡單時－頻平面后驗維納濾波器：

(3)63可編輯ppt對每次觀測用短時傅立葉變換求時頻表示（TFR）：，樣本平均的二、公式修正在時－頻域上對式（1）（2）進行修正，給出更實際的表示：

………………..……(4)

(5)式中COV表示信號和噪聲之間的方差，也就是考慮了信號和噪聲并非相互獨立；IF是干擾項；表示樣本平均的噪聲功率；表示樣本噪聲功率的平均。64可編輯ppt二、公式修正在時－頻域上對式（1）（2）進行修正，給出更實際三、TFPW的計算過程TFPW的計算過程如圖7-9所示。65可編輯ppt三、TFPW的計算過程TFPW的計算過程如圖7-9所示。65圖7-10TFPW的模擬實驗結(jié)果

注：(上圖)原信號是兩個正弦波，觀測信號混有白噪聲；(下圖)原信號是線性調(diào)頻信號，觀測信號混有白噪聲。

在圖7-10中每一個圖中從上至下分別表示：測量的單個樣本，樣本平均，TFPW濾波器估計的信號，原始信號。圖7-10的初始信噪比設(shè)為－12dB，TFPW與疊加平均法相比，信噪比有5個dB左右的改善。66可編輯ppt圖7-10TFPW的模擬實驗結(jié)果

注：(上圖)原信號是兩個五、需要進一步研究的問題FPW濾波中由于有二次TFR中的相關(guān)噪聲以及IF項，濾波器可能包含虛部，也就是包含信號的相位信息，直接在時－頻平面上考慮相位問題還需要進一步研究。67可編輯ppt五、需要進一步研究的問題FPW濾波中由于有二次TFR中的相關(guān)第四節(jié)卡爾曼濾波的信號模型

（SignalModelofKalmanFiltering）

通過前面幾節(jié)內(nèi)容的學習，我們知道維納濾波是根據(jù)當前和過去全部的觀測值來估計信號的當前值，它的解形式是以均方誤差最小為原則下的系統(tǒng)的傳遞函數(shù)或單位脈沖響應。而卡爾曼濾波不需要過去全部的觀測它是根據(jù)前一個估計值和最近一個觀測值來估計信號的當前推方法進行估計的，因而卡爾曼濾波對信號的平穩(wěn)性和時不變性不做要求。我們利用維納濾波的模型引入到卡爾曼濾波的信號模型。，它是用狀態(tài)方程和遞68可編輯ppt第四節(jié)卡爾曼濾波的信號模型

（SignalModel一、狀態(tài)方程和量測方程要給出卡爾曼濾波的信號模型，先來討論狀態(tài)方程和量測方程。圖7-11是維納濾波的模型，信號可以認為是由白噪聲激勵一個線性系統(tǒng)的響應，假設(shè)響應和激勵的時域關(guān)系可以用下式表示：

(7-52)上式也就是一階AR模型。在卡爾曼濾波中信號被稱為是狀態(tài)變量，用矢量的

形式表示為，在k時刻的狀態(tài)用表示，

在k－1時刻的狀態(tài)用表示。

69可編輯ppt一、狀態(tài)方程和量測方程要給出卡爾曼濾波的信號模型，先來討論狀激勵信號也用矢量表示為，激勵和響應之間的關(guān)系用傳遞矩陣來表示，它是由系統(tǒng)的有一定關(guān)系。有了這些假設(shè)后結(jié)構(gòu)確定的，與我們給出狀態(tài)方程：(7-53)上式表示的含義就是在k時刻的狀態(tài)可以由它的前一個時刻的狀態(tài)來求得，即認為k－1時刻以前的各狀態(tài)都已記憶在狀態(tài)中了

70可編輯ppt激勵信號也用矢量表示為，激勵和響應之間的關(guān)系用傳遞矩陣來表圖7-11維納濾波的信號模型和觀測信號模型卡爾曼濾波是根據(jù)系統(tǒng)的量測數(shù)據(jù)（即觀測數(shù)據(jù)）對系統(tǒng)的運動進行估計的，所以除了狀態(tài)方程之外，還需要量測方程。還是從維納濾波的觀測信號模型入手，圖7-11的右圖，觀測數(shù)據(jù)和信號的關(guān)系為：，一般是均值為零的高斯白誤差矢量，則量測矢量與狀態(tài)矢量71可編輯ppt圖7-11維納濾波的信號模型和觀測信號模型卡爾曼濾波是根據(jù)(7-54)上式和維納濾波的概念上是一致的，也就是說卡爾曼濾波的一維信號模型和維納濾波的信號模型是一致的。把式(7-54)推廣就得到更普遍的多維量測方程(7-55)上式中的稱為量測矩陣，它的引入原因是，的維數(shù)不一定與狀態(tài)矢量的維數(shù)相同，因為我們不一定能觀測到所有需要的狀態(tài)參數(shù)

量測矢量72可編輯ppt(7-54)上式和維納濾波的概念上是一致的，也就是說卡爾曼假如是的矢量，是的矢量，就是的矩陣，是的矢量。73可編輯ppt假如是的矢量，是的矢量，就是的矩陣，是的矢量。73可編輯pp二、信號模型

有了狀態(tài)方程和量測方程后我們就能給出卡爾曼濾波的信號模型，如圖7-12所示。圖7-12卡爾曼濾波的信號模型74可編輯ppt二、信號模型

有了狀態(tài)方程【例7-6】設(shè)卡爾曼濾波中量測方程為，已知信號的自相關(guān)函數(shù)的z變換為，噪聲的自相關(guān)函數(shù)為：，信號和噪聲統(tǒng)計獨立。求卡爾曼濾波和。信號模型中的〖解〗根據(jù)等式：可以求得：75可編輯ppt【例7-6】設(shè)卡爾曼濾波中量測方程為，已知信號的自相關(guān)函數(shù)的變換到時域得：因此又因為，所以＝1。76可編輯ppt變換到時域得：因此又因為，所以＝1。76可編輯p第五節(jié)卡爾曼濾波方法

（MethodofKalmanFiltering）

建立好了卡爾曼濾波的信號模型以及狀態(tài)方程、量測方程后，要解決的問題就是要尋找在最小均方誤差下信號的估計值。77可編輯ppt第五節(jié)卡爾曼濾波方法

（MethodofKalman一、卡爾曼濾波的一步遞推法模型

把狀態(tài)方程和量測方程重新給出：(7-56)(7-57)上式中和是已知的，已知，現(xiàn)在的問題就是如何來求當前時刻。

是觀測到的數(shù)據(jù)，也是已知的，假設(shè)信號的上一個估計值的估計值78可編輯ppt一、卡爾曼濾波的一步遞推法模型

把狀態(tài)方程和量測方程重新給出上兩式中如果沒有與，可以立即求得，估計問題的出現(xiàn)就是因為信號與噪聲的與，用上兩式和分別用和表示，得：疊加。假設(shè)暫不考慮得到的(7-58)

(7-59)必然，觀測值和估計值之間有誤差

，它們之間的差稱為新息（innovation）：79可編輯ppt上兩式中如果沒有與，可以立即求得，估計問題的出現(xiàn)就是因為信號

(7-60)顯然，新息的產(chǎn)生是由于我們前面忽略了與所引起的，也就是說新息里面

包含了與的信息成分。因而我們用新息乘以一個修正矩陣，用它來代替式（7-56）的來對進行估計：(7-61)80可編輯ppt(7-60)顯然，新息的產(chǎn)生是由于我們前面忽略了與所引由（7-56）～（7-61）可以畫出卡爾曼濾波對進行估計的遞推模型，如圖7-13所示，輸入為觀測值，輸出為信號估計值。圖7-13卡爾曼濾波的一步遞推法模型81可編輯ppt由（7-56）～（7-61）可以畫出卡爾曼濾波對進行估計的遞二、卡爾曼濾波的遞推公式從圖7-13容易看出，要估計出就必須要先找到最小均方誤差下的修正矩陣，結(jié)合式（7-61）、（7-56）、（7-57）得：……….(7-62)82可編輯ppt二、卡爾曼濾波的遞推公式從圖7-13容易看出，要估計出根據(jù)上式來求最小均方誤差下的，然后把求到的代入（7-61）則可以得

到估計值。設(shè)真值和估計值之間的誤差為：，誤差是個矢量，因而均方誤差是一個矩陣，用表示。把式（7-62）代入得：….(7-63)均方誤差矩陣：(7-64)83可編輯ppt根據(jù)上式來求最小均方誤差下的，然后把求到的代入（7-61）則表示對向量取共軛轉(zhuǎn)置。為了計算方便，令(7-65)找到和均方誤差矩陣的關(guān)系：(7-66)把式（7-63）代入式（7-64），并且利用條件：與都是零均值的高斯白噪聲，且它們和

互不相關(guān)，協(xié)方差矩陣分別為84可編輯ppt表示對向量取共軛轉(zhuǎn)置。為了計算方便，令(7-65)找到與不相關(guān)；與及不相關(guān)。最后化簡得：………………….(7-67)把式（7-66）代入（7-67）得85可編輯ppt與不相關(guān)；與及不相關(guān)。最后化簡得：…………………令，，代入上式化簡：

(7-68)上式第一項和第二項與修正矩陣無關(guān)，第三項是，于是可以求得最小均方誤差下的修正矩陣為：半正定矩陣，要使得均方誤差最小，則必須(7-69)86可編輯ppt令，，代入上式化簡：(7-68)上式第一項和第二項與修把上式代入(7-61)即可得均方誤差最小條件下的遞推公式。相應的式（7-68）的第三項為零，得最小均方誤差為：(7-70)綜上所述，得到卡爾曼濾波的一步遞推公式：(7-71)(7-72)(7-73)(7-74)87可編輯ppt把上式代入(7-61)即可得均方誤差最小條件下的遞推公式。相有了上面四個遞推公式后我們就可以得到和。如果初始狀態(tài)的統(tǒng)計特性已知，并且令且矩陣

都是已知的，以及觀測量也是已知的，就能用遞推

計算法得到所有的和：將初始條件代入式（7-71）求得；

88可編輯ppt有了上面四個遞推公式后我們就可以得到和。如果初始狀態(tài)的統(tǒng)計特將代入式（7-72）求得和代入式（7-73）求得；將初始條件和代入式（7-74）求得；…依此類推。這樣遞推用計算機實現(xiàn)

；將非常方便。和維納濾波一樣，卡爾曼濾波也可以推廣到卡爾曼預測，推導過程和維納濾波到維納預測類似，也同樣有純卡爾曼預測，這里不再推導。89可編輯ppt將代入式（7-72）求得和代入式（7-73）求得；將初始條件【例7-7】設(shè)卡爾曼濾波中量測方程為，已知信號的自相關(guān)函數(shù)的z變換為，噪聲的自相關(guān)函數(shù)為，，信號和噪聲統(tǒng)計獨立，已知，在k＝0時刻開始觀測信號。試用卡爾曼濾波的公式求和，k＝0,1,2,3,4,5,6,7；以及和。穩(wěn)態(tài)時的〖解〗由例7-6的結(jié)果知，＝1，，，把它們代入式(7-71)～(7-74)得90可編輯ppt【例7-7】設(shè)卡爾曼濾波中量測方程為，已知信號的自相關(guān)函數(shù)的（1）（2）

（3）（4）由于是一維情況，求逆，把（1）代入（2）、（3）式，消去，再把（2）和（3）聯(lián)立，得到

（5）91可編輯ppt（1）（2）（3）（4）由于是一維情況，求逆，把（1）初始條件為，k＝0開始觀測，利用等式（4），（5）進行遞推得：k＝0，1.0000，1.0000，；k＝1，0.5000，0.5000，k＝2，0.4048，0.4048，

k＝3，0.3824，0.3824，

k＝4，0.3768，0.3768，

k＝5，0.3755，0.3755，

k＝6，0.3751，0.3751，；k＝7，0.3750，0.3750，

92可編輯ppt初始條件為，k＝0開始觀測，利用等式（4），（5）進行遞推得如果給定每個時刻的觀察值就可以得到每一時刻的信號估計值，上面是遞推過程，還沒有達到穩(wěn)態(tài)的情況。假設(shè)到了某一時刻k－1，前后時刻的均方誤差相等，也就是誤差不再隨著遞推增加而下降，達到最小的均方誤差了，即穩(wěn)態(tài)情況，式（5）中的誤差，代入（5）式可以計算到穩(wěn)態(tài)時的均方誤差為

即穩(wěn)態(tài)時的修正矩陣，代入式（4）得穩(wěn)態(tài)時的信號估計：

化到z域有：。93可編輯ppt如果給定每個時刻的觀察值就可以得到每一時刻的信號，代入（5）將上述結(jié)果和維納濾波的例題7-2的結(jié)果相比較：，，，發(fā)現(xiàn)當卡爾曼濾波達到穩(wěn)態(tài)時和維納濾波的結(jié)果一致，原因就是它們兩種濾波都是用的同樣的估計原則：最小均方誤差準則。然而在卡爾曼濾波的過渡期間的信號估計結(jié)果和維納濾波當然完全不同。94可編輯ppt將上述結(jié)果和維納濾波的例題7-2的結(jié)果相比，，，發(fā)現(xiàn)當卡爾曼第六節(jié)卡爾曼濾波器的應用

(ApplicationKalmanFilter)

最優(yōu)估計指從帶有隨機干擾的觀測數(shù)據(jù)中估計出信號來，其中的線性最小均方誤差的卡爾曼濾波占有重要的地位，自動控制系統(tǒng)中應用非常廣泛。前面我們已經(jīng)推導出卡爾曼濾波的公式，也有了卡爾曼濾波器設(shè)計的直接調(diào)用程序。應用卡爾曼濾波時，核心是把問題如何納入卡爾曼濾波的框架里面去，往往很難獲得準確可靠的噪聲數(shù)據(jù)，如前面的和95可編輯ppt第六節(jié)卡爾曼濾波器的應用

(ApplicationKa加上干擾和噪聲的協(xié)方差矩陣不一定為零，有，一旦確定了這幾個，H，]＝kalman表示均方誤差矩陣，表示另外一種均方誤差矩陣。矩陣，可以直接調(diào)用Matlab中的控制工具箱中的狀態(tài)空間設(shè)計函數(shù)：[S，L，（sys，Q，R，N）。輸入變量的含義與上面提到的相同，sys表示狀態(tài)空間模型，可以用函數(shù)ss（a，b，c，…）來生成。輸出變量S表示卡爾曼濾波器的狀態(tài)方程的模型，L表示濾波器增益矩陣（是為了計算而定義的），H表示修正矩陣，下面用例題來看實際的計算過程。96可編輯ppt加上干擾和噪聲的協(xié)方差矩陣不一定為零，有，一旦確定了這幾個，【例7-8】已知條件和例7-7一樣，狀態(tài)方程和量測方程為：其中，，，，信號和噪聲統(tǒng)計獨立。求卡爾曼濾波器的穩(wěn)態(tài)和。〖解〗根據(jù)函數(shù)調(diào)用sys＝ss（A，B，C，D，1），得到離散卡爾曼狀態(tài)模型，采樣周期這里設(shè)為1。A，C已知，由于函數(shù)調(diào)用中是設(shè)計了兩個觀測信號的，我們這里只有一個觀測信號，所以B取[01]，后一個1表示噪聲的系數(shù)。D取0。實際的語句如下：97可編輯ppt其中，，，，信號和噪聲統(tǒng)計獨立。求卡爾曼濾波器的穩(wěn)態(tài)和?！約ys=ss(A,B,C,D,1)然后調(diào)用函數(shù)[S，L，，H，]＝kalman，h，]=kalman(sys,0.36,1)l=0.3000=0.6000h=0.3750=0.3750表示系統(tǒng)穩(wěn)態(tài)的最終值。（sys，Q，R），設(shè)計離散卡爾曼濾波器。實際語句和計算結(jié)果如下：[s，l，這里省略了輸出的S，它表示的信息是達到穩(wěn)態(tài)后系統(tǒng)狀態(tài)模型，H和有了修正矩陣和均方誤差，代入式（7-74）就可以根據(jù)觀測信號得到卡爾曼濾波的估計值了。98可編輯pptsys=ss(A,B,C,D,1)，H，]＝kalman，h從上面例題知道，只要確定了狀態(tài)模型，就可以調(diào)用函數(shù)很快設(shè)計出卡爾曼濾波器，下面來看看卡爾曼濾波器在生物醫(yī)學信號中的應用。在生物醫(yī)學信號處理中腦電圖的肌電偽跡和其它噪聲的消除，以及誘發(fā)電位的提取都有研究者嘗試用卡爾曼濾波器來處理。本節(jié)介紹卡爾曼濾波器在誘發(fā)電位提取中的應用，方法如下：99可編輯ppt從上面例題知道，只要確定了狀態(tài)模型，就可以調(diào)用函數(shù)很快設(shè)計出一、自發(fā)電位模型（EEG）和誘發(fā)電位（EP）模型的建立如圖7-4所示，EEG信號通過用AR模型建立，激勵是白噪聲，EP信號的激勵是單位脈沖序列。圖7-14EEG和EP模型100可編輯ppt一、自發(fā)電位模型（EEG）和誘發(fā)電位（EP）模型的建立如圖7該模型用等式表示如下：階AR模型d表示從該時刻開始有單位脈沖刺激。從圖7-14知道，觀測信號是EEG和EP的線性相加，用表示第i次刺激后測量的信號，對M次測量平均得：101可編輯ppt該模型用等式表示如下：階AR模型d表示從該時刻開始有單位脈沖疊加平均后的信號長度為N。利用先驗知識建立好圖7-14的模型。假設(shè)單次誘發(fā)信號和平均誘發(fā)信號的關(guān)系是延時和幅度變化但波形一致的情況，即：102可編輯ppt疊加平均后的信號長度為N。利用先驗知識建立好圖102可編輯p二、卡爾曼狀態(tài)方程和量測方程的建立

卡爾曼狀態(tài)方程和量測方程的建立如下：其中X表示狀態(tài)變量，包括誘發(fā)信號、單位脈沖信號、自發(fā)信號，長m＋p＋q＋1。。A＝是系統(tǒng)矩陣，其中103可編輯ppt二、卡爾曼狀態(tài)方程和量測方程的建立

卡爾曼狀態(tài)方程和量測方程其它的元素。輸入矩陣為：是噪聲矩陣，其中的元素為，其余元素為零。是噪聲輸入向量，包括EP是測量信號，是輸出矩陣，是測量噪聲。模型的誤差、輸入EEG模型的噪聲以及其它引入的噪聲。104可編輯ppt其它的元素。輸入矩陣為：是噪聲矩陣，其中的元素為，其余元素為有了上述方程后就可以利用卡爾曼濾波公式對進行估計，由于它包含多種狀態(tài)，誘發(fā)信號和它的關(guān)系為：，自發(fā)信號和估計值的關(guān)系，其中k＝min（m，p）。為：105可編輯ppt有了上述方程后就可以利用卡爾曼濾波公式對進行估計，由于它包含設(shè)計好了卡爾曼濾波器后對數(shù)據(jù)處理的結(jié)果如圖7-15所示。圖7-15從測量信號中估計誘發(fā)和自發(fā)信號106可編輯ppt設(shè)計好了卡爾曼濾波器后對數(shù)據(jù)處理的結(jié)果如圖圖7-15從測量刺激從0時刻開始，圖7-5的（a）-（c）中實線（）表示實際測量的信號，點線（）是估計的EP信號，點劃線（）是估計的EEG信號。（d）是用來對比的320次刺激的疊加信號。用卡爾曼濾波的方法把疊加的自發(fā)腦電信號和誘發(fā)腦電信號分別估計出來了，圖中的前三個EP估計和最后一個疊加信號比較，效果明顯較好。107可編輯ppt刺激從0時刻開始，圖7-5的（a）-（c）中實線（第七章維納濾波和卡爾曼濾

（WienerandKalmanFiltering）

隨機信號或隨機過程(randomprocess)是普遍存在的。一方面，任何確定性信號經(jīng)過測量后往往就會引入隨機性誤差而使該信號隨機化；另一方面，任何信號本身都存在隨機干擾，通常把對信號或系統(tǒng)功能起干擾作用的隨機信號稱之為噪聲。噪聲按功率譜密度劃分可以分為白噪聲（whitenoise）和色噪聲（colornoise），我們把均值為0的白噪聲叫純隨機信號（purerandomsignal）。因此，任何其它隨機信號都可看成是純隨機信號與確定性信號并存的混合隨機信號或簡稱為隨機信號。要區(qū)別干擾（interference）和噪聲(noise)兩種事實和兩個概念。非目標信號（nonobjectivesignal）都可叫干擾。

108可編輯ppt第七章維納濾波和卡爾曼濾

（WienerandKal干擾可以是確定信號，如國內(nèi)的50Hz工頻干擾。干擾也可以是噪聲，純隨機信號（白噪聲）加上一個直流成分（確定性信號），就成了最簡單的混合隨機信號。醫(yī)學數(shù)字信號處理的目的是要提取包含在隨機信號中的確定成分，并探求它與生理、病理過程的關(guān)系，為醫(yī)學決策提供一定的依據(jù)。例如從自發(fā)腦電中提取誘發(fā)腦電信號，就是把自發(fā)腦電看成是干擾信號，從中提取出需要的信息成分。因此我們需要尋找一種最佳線性濾波器，當信號和干擾以及隨機噪聲同時輸入該濾波器時，在輸出端能將信號盡可能精確地表現(xiàn)出來。維納濾波和卡爾曼濾波就是用來解決這樣一類問題的方法：從噪聲中提取出有用的信號。實際上，這種線性濾波方法也被看成是一種估計問題或者線性預測問題。109可編輯ppt干擾可以是確定信號，如國內(nèi)的50Hz工頻干擾。干擾也可以是噪設(shè)有一個線性系統(tǒng)，它的單位脈沖響應是，當輸入一個觀測到的隨機信號，簡稱觀測值，且該信號包含噪聲和有用信號，簡稱信號，也即

(7-1)則輸出為(7-2)110可編輯ppt設(shè)有一個線性系統(tǒng)，它的單位脈沖響應是，當輸入一個觀測到的隨機我們希望輸出得到的與有用信號盡量接近，因此稱為的估計值，用來表示，我們就有了維納濾波器的系統(tǒng)框圖，如圖7-1。這個系統(tǒng)的單位脈沖響應也稱為對于的一種估計器。圖7-1維納濾波器的輸入輸出關(guān)系111可編輯ppt我們希望輸出得到的與有用信號盡量接近，因此稱為的估計值，用來如果該系統(tǒng)是因果系統(tǒng)，式(7-2)的m＝0，1，2，…，則輸出的可以看成是由當前時刻的觀測值和過去時刻的觀測值、、…的估計值。用當前的和過去的觀測值來估計當前的信號稱為濾波；用過去的觀測值來估計當前的或?qū)淼男盘?，N，稱為預測；用過去的觀測值來估計過去的信號，N，稱為平滑或者內(nèi)插。本章將討論濾波和預測問題。112可編輯ppt如果該系統(tǒng)是因果系統(tǒng)，式(7-2)的m＝0，1，2，…，則輸從圖7-1的系統(tǒng)框圖中估計到的信號和我們期望得到的有用信號可能不完全相同，這里用來表示真值和估計值之間的誤差(7-3)113可編輯ppt從圖7-1的系統(tǒng)框圖中估計到的信號和我們期望得到的有用信號可顯然是隨機變量，維納濾波和卡爾曼濾波的誤差準則就是最小均方誤差準則：(7-4)114可編輯ppt顯然是隨機變量，維納濾波和卡爾曼濾波的誤差準則就是最小均方誤維納濾波和卡爾曼濾波都是解決線性濾波和預測問題的方法，并且都是以均方誤差最小為準則的，在平穩(wěn)條件下兩者的穩(wěn)態(tài)結(jié)果是一致的。但是它們解決問題的方法有很大區(qū)別。維納濾波是根據(jù)全部過去觀測值和當前觀測值來估計信號的當前值，因此它的解形式是系統(tǒng)的傳遞函數(shù)或單位脈沖響應；卡爾曼濾波是用當前一個估計值和最近一個觀測值來估計信號的當前值，它的解形式是狀態(tài)變量值。維納濾波只適用于平穩(wěn)隨機過程，卡爾曼濾波就沒有這個限制。設(shè)計維納濾波器要求已知信號與噪聲的相關(guān)函數(shù)，設(shè)計卡爾曼濾波器要求已知狀態(tài)方程和量測方程，當然兩者之間也有聯(lián)系。115可編輯ppt維納濾波和卡爾曼濾波都是解決線性濾波和預測問題的方法，并且都第一節(jié)維納濾波器的時域解

（TimedomainsolutionoftheWienerfilter）

設(shè)計維納濾波器的過程就是尋求在最小均方誤差下濾波器的單位脈沖響應或傳遞函數(shù)的表達式，其實質(zhì)就是解維納－霍夫（Wiener－Hopf）方程。我們從時域入手求最小均方誤差下的，用表示最佳線性濾波器。這里只討論因果可實現(xiàn)濾波器的設(shè)計。116可編輯ppt第一節(jié)維納濾波器的時域解

（Timedomainso一、因果維納濾波器

設(shè)是物理可實現(xiàn)的，也即是因果序列：因此，從式(7-1)、(7-2)、(7-3)、(7-4)推導：

(7-5)117可編輯ppt一、因果維納濾波器

設(shè)是物理可實現(xiàn)的，也即是因果序列：(7-要使得均方誤差最小，則將上式對各，m＝0，1，…，求偏導，并且令其等于零，得：(7-6)(7-7)118可編輯ppt要使得均方誤差最小，則將上式對各，m＝0，1，…，求偏導，并即(7-8)用相關(guān)函數(shù)R來表達上式，則得到維納－霍夫方程的離散形式：從維納－霍夫方程中解出的h就是最小均方誤差下的最佳h，即

求到

，這時的均方誤差為最小：

119可編輯ppt即(7-8)用相關(guān)函數(shù)R來表達上式，則得到維納－霍夫方程的離由式（7-9）進一步化簡得：(7-10)120可編輯ppt由式（7-9）進一步化簡得：(7-10)13可編輯ppt二、有限脈沖響應法求解維納－霍夫方程

如何去求解維納－霍夫方程，即式（7-9）中解的問題，設(shè)是一個因果序列且可以用有限長（N點長）的序列去逼近它，則式(7-5)－(7-10)分別發(fā)生變化(7-11)121可編輯ppt二、有限脈沖響應法求解維納－霍夫方程

如何去求解維納－霍夫方

(7-12)

(7-13)………..(7-14)(7-15)122可編輯ppt(7-12)(7-13)………..(7于是得到N個線性方程：寫成矩陣形式有：

……………(7-16)123可編輯ppt于是得到N個線性方程：寫成矩陣形式有：……………(7-16簡化形式：RxxH=Rxs

(7-17)式中，H＝[h(0)h(1)…h(huán)(N-1)]′，是待求的單位脈沖響應；Rxs＝′，是互相關(guān)序列；

Rxx＝

，是自相關(guān)矩陣

124可編輯ppt簡化形式：RxxH=Rxs(7-17)式中，H＝[h(0只要Rxx是非奇異的，就可以求到H：H=Rxx－1Rxs

(7-18)求得后，這時的均方誤差為最?。?/p>

125可編輯ppt只要Rxx是非奇異的，就可以求到H：H=Rxx－1Rxs由式（7-15）進一步化簡得：

(7-19)用有限長的來實現(xiàn)維納濾波時，當已知觀測值的自相關(guān)和觀測值與信號的互相關(guān)時就可以按照式（7-15）在時域里求解但是當N比較大時，計算量很大，并

且涉及到求自相關(guān)矩陣的逆矩陣問題。

126可編輯ppt由式（7-15）進一步化簡得：(7-19)用有限長意到式（7-15）的表現(xiàn)形式和第三章的AR模型參數(shù)估計的矩陣形式類似，因而也可以用前面介紹的L-D快速算法實現(xiàn)求解。若信號與噪聲互不相關(guān)，即，則有127可編輯ppt意到式（7-15）的表現(xiàn)形式和第三章的AR模型參數(shù)估計的矩陣則式（7-15）和式（7-19）化為：(7-20)

(7-21)【例7-1】已知圖7-1中

且與統(tǒng)計獨立，其中

的自相關(guān)序列為

，是方差為1的單位白噪聲，維納濾波器來估計

，并求最小均方誤差。

〖解〗依題意，已知信號的自相關(guān)和噪聲的自相關(guān)為：

128可編輯ppt則式（7-15）和式（7-19）化為：(7-20)(7-，代入式（7-20）得解得：

＝0.451，

＝0.165。

將上述結(jié)果代入式（7-21），求得最小均方誤差：若要進一步減小誤差可以適當增加維納濾波的階數(shù)，但相應的計算量也會增加。129可編輯ppt，代入式（7-20）得解得：＝0.451，＝0.165三、預白化法求解維納－霍夫方程

從上面分析知求解維納－霍夫方程比較復雜，本節(jié)用波德（Bode）和香（Shannon）

提出的白化的方法求解維納－霍夫方程，得到系統(tǒng)函數(shù)

H(z)。由第三章的知識，我們知道隨機信號都可以看成是由一白色噪聲

w1(n)

激勵一個物

理可實現(xiàn)

的系統(tǒng)

或模型的響應，如圖7-2所示，

其中A(z)表示系統(tǒng)

的傳遞函數(shù)。由于

x(n)=s(n)+w(n)，

在圖7-2的基礎(chǔ)上給出x(n)的信號模型

130可編輯ppt三、預白化法求解維納－霍夫方程

從上面分析知求解維納－霍夫方其中A(z)表示系統(tǒng)的傳遞函數(shù)。由于x(n)=s(n)+w(n)，在圖7-2的基礎(chǔ)上給出x(n)的信號模型，圖7-3所示。把這兩個模型合并最后得到維納濾波器的信號模型，圖7-4所示，其中傳遞函數(shù)用B(z)表示。圖7-2的信號模型

圖7-3

的信號模型

圖7-4維納濾波器的輸入信號模型131可編輯ppt其中A(z)表示系統(tǒng)的傳遞函數(shù)。由于x(n)=s(n白噪聲的自相關(guān)函數(shù)為，它的z變換就等于。圖7-2中輸出信號的自相關(guān)函數(shù)為，根據(jù)卷積性質(zhì)有令

上式

令

132可編輯ppt白噪聲的自相關(guān)函數(shù)為對式（7-22）進行Z變換得到系統(tǒng)函數(shù)和相關(guān)函數(shù)的z變換之間的關(guān)系：

(7-23)同樣，對圖7-4進行z變換得(7-24)圖7-4中利用卷積性質(zhì)還可以找到互相關(guān)函數(shù)之間的關(guān)系：133可編輯ppt對式（7-22）進行Z變換得到系統(tǒng)函數(shù)和相關(guān)函數(shù)(7-2兩邊z變換得到(7-25)如果已知觀測信號的自相關(guān)函數(shù)，求它的z變換，

然后找到該函數(shù)的成對零點、極點，取其中在單位圓內(nèi)的那一半零點、極點構(gòu)成，另外在單位圓外的零、極點構(gòu)成，這樣就保證了

是因果的，并且是最小相位系統(tǒng)。134可編輯ppt兩邊z變換得到(7-25)如果已知觀測信號的自相關(guān)函數(shù)，求從圖7-4可得

(7-26)由于系統(tǒng)函數(shù)的零點和極點都在單位圓內(nèi)，即是一個物理可實現(xiàn)的最小相位系統(tǒng)，則也是一個物理可實現(xiàn)的最小相移網(wǎng)絡函數(shù)。我們就可以利用式（7-26）對

進行白化，即把當作輸入，當作輸出，是系統(tǒng)傳遞函數(shù)。135可編輯ppt從圖7-4可得(7-26)由于系統(tǒng)函數(shù)的零點和極點都在單位將圖7-1重新給出，待求的問題就是最小均方誤差下的最佳，如圖7-5(a)所示，為了便于求這個，將圖7-5(a)的濾波器分解成兩個級聯(lián)的濾波器：和G（z），

如圖7-5(b)所示，則

(7-27)（a）（b）圖7-5利用白化方法求解模型136可編輯ppt將圖7-1重新給出，待求的問題就是最小均方誤差下的最佳有了上述的模型后，白化法求解維納－霍夫方程步驟如下：1）對觀測信號的自相關(guān)函數(shù)求z變換得到；2）利用等式，找到最小相位系統(tǒng)；3）利用均方誤差最小原則求解因果的G（z）；4），即得到維納－霍夫方程的系統(tǒng)函數(shù)解。137可編輯ppt有了上述的模型后，白化法求解維納－霍夫方程步驟如下：1）對觀在上述步驟中，可以通過已知的觀測信號的自相關(guān)函數(shù)來求得，因而求解的問題就歸結(jié)為求解G（z）的問題了。由于G（z）的激勵源是白噪聲，求解變得容易多了，下面我們分析步驟3的求解過程。按圖7-5(b)有:

(7-28)均方誤差為：138可編輯ppt在上述步驟中，可以通過已知的觀測信號的自相關(guān)函數(shù)由于，代入上式，并且進行配方得：139可編輯ppt由于，代入上式均方誤差最小也就是上式的中間一項最小，所以

(7-30)注意，這里的是因果的。對該式求z變換，得到

(7-31)表示對求單邊z變換。所以維納－霍夫方程的系統(tǒng)函數(shù)解表示為：140可編輯ppt均方誤差最小也就是上式的中間一項最小，所以(7-30)注意由式（7-25）上式可以表示為：因果的維納濾波器的最小均方誤差為：

(7-33)利用帕塞伐爾(Parseval)定理，上式可用z域來表示：(7-34)141可編輯ppt由式（7-25）上式可以表示為：因果的維納濾波器的最小均方誤利用帕塞伐爾(Parseval)定理，上式可用z域來表示：

圍線積分可以取單位圓。(7-34)【例7-2】已知圖7-1中，且統(tǒng)計獨立，其中的自相關(guān)序列為，是方差為1的單位白噪聲，試，并求最小均方誤差。與設(shè)計一個物理可實現(xiàn)的維納濾波器來估計〖解〗依題意，已知，，，142可編輯ppt利用帕塞伐爾(Parseval)定理，上式可用z域來表示：步驟1求z變換步驟2由于，容易找到最小相位系統(tǒng)和白噪聲方差143可編輯ppt步驟1求z變換步驟2由于，容易找到最小相位系統(tǒng)和白噪聲方差3步驟3利用式（7－32）

對括號里面求反變換，注意括號內(nèi)的收斂域為取因果部分，也就是第一項，所以144可編輯ppt步驟3利用式（7－32）對括號里面求反變換，注意括號內(nèi)的收步驟4最小均方誤差為取單位圓為積分圍線，有兩個單位圓內(nèi)的極點，0.8和0.5，求它們的留數(shù)和，所以145可編輯ppt步驟4最小均方誤差為取單位圓為積分圍線，有兩個單位圓內(nèi)的極第二節(jié)維納預測器（Wiener’sPredictor）

上節(jié)討論的維納濾波器是一種估計器，是用觀測到的當前和全部過去的數(shù)據(jù)、、…來估計當前的信號值。本節(jié)將討論維納預測器，它同樣也是一種估計器，是用過去的觀測值來估計當前的或?qū)淼男盘枺琋，也是用真值和估計值的均方誤差最小為估計準則。146可編輯ppt第二節(jié)維納預測器（Wiener’sPredictor）一、因果的維納預測器

圖7-6就是維納預測器的模型，N>0，是希望得到的輸出，而表示實際的估計值。圖7-6維納預測器本節(jié)和上節(jié)一樣著重討論預測器的系統(tǒng)函數(shù)以及預測的均方誤差，維納預測器和維納濾波器比較類似，因而分析方法也都可以借鑒前面的內(nèi)容。147可編輯ppt一、因果的維納預測器

圖7-6就是維納預測器的模型，N>0，對于圖7-6模型，設(shè)是物理可實現(xiàn)的，也即，則有是因果序列：

(7-35)

(7-36)要使得均方誤差最小，則將上式對各，m＝0，1，…，求偏導，并且等于零，得：

(7-37)148可編輯ppt對于圖7-6模型，設(shè)是物理可實現(xiàn)的，也即，則有是因果序列：即用相關(guān)函數(shù)R來表達上式：(7-38)(7-39)由于，則，z變換得(7-40)149可編輯ppt即用相關(guān)函數(shù)R來表達上式：(7-38)(7-39)由于，則借鑒維納濾波器的結(jié)果類似給出維納預測器的最佳傳遞函數(shù)，對應維納預測器，對應維納濾波器，故因果的預測器的傳遞函數(shù)為：

(7-41)最小均方誤差為(7-42)利用帕塞伐爾(Parseval)定理，上式可用z域來表示150可編輯ppt借鑒維納濾波器的結(jié)果類似給出維納預測器的最佳，對應維納濾波器【例7-3】已知圖7-6中，且與統(tǒng)計獨立，其中的自相關(guān)序列為，是方差為1的單位白噪聲，，并求最小均方誤差。試設(shè)計一個物理可實現(xiàn)的維納預測器估計〖解〗依題意已知，，，

151可編輯ppt【例7-3】已知圖7-6中，且與統(tǒng)計獨立，其中的自相關(guān)序列為求z變換：由于，容易找到最小相位系統(tǒng)和白噪聲方差：由式（7-41），N＝1，152可編輯ppt求z變換：由于，容易找到最小相位系統(tǒng)和白噪聲方差：由式（7-求z變換：由于，容易找到最小相位系統(tǒng)和白噪聲方差：由式（7-41），N＝1，153可編輯ppt求z變換：由于，容易找到最小相位系統(tǒng)和白噪聲方差：由式（7-對括號里面求z反變換，注意括號內(nèi)的收斂域為：，取因果部分，也就是第一項，所以把上式寫成差分方程形式有：154可編輯ppt對括號里面求z反變換，注意括號內(nèi)的收斂域為：，取因果部分，也最小均方誤差為：155可編輯ppt最小均方誤差為：48可編輯ppt二、純預測器（N步）

純預測器指的是＝0的情況下，對的預測。如圖7-7所示。圖7-7N步純預測器這時，用白化法來求解預測器的系統(tǒng)函數(shù)。因為，從而有：

(7-44)156可編輯ppt二、純預測器（N步）

純預測器指的是＝0的情況將上式代入式（7-41）、（7-43）得：假設(shè)B(z）是b（n）的z變換，且b（n）是實序列，則上式可以利用帕塞伐爾定(Parseval)理進一步化簡：

(7-46)又因為B(z）是最小相位系統(tǒng)，一定是因果的，上式可以簡化157可編輯ppt將上式代入式（7-41）、（7-43）得：假設(shè)B(z）是b（

(7-47)上式說明最小均方誤差隨著N的增加而增加，也即預測距離越遠誤差越大?！纠?-4】已知圖7-7中，其中的自相關(guān)序列為，試設(shè)計一個物理可，并求最小均方誤差。，則實現(xiàn)的維納預測器來估計〖解〗依題意，已知因為

158可編輯ppt(7-47)上式說明最小均方誤差隨著N的增加而增加，也容易找到最小相位系統(tǒng)和白噪聲方差:利用式（7-45）:因為

，只取的部分，有:159可編輯ppt容易找到最小相位系統(tǒng)和白噪聲方差:利用式（7-45）:因為回到z域有：，代入得:最小均方誤差為：160可編輯ppt回到z域有：，代入得:最小均方誤差為：53可編輯ppt它說明當N越大，誤差越大，當N＝0時，沒有誤差。把上述結(jié)果用模型表示如圖7-8所示。圖7-8例題7-3的純預測模型161可編輯ppt它說明當N越大，誤差越大，當N＝0時，沒有誤差。圖7-8例三、一步線性預測器

對于純預測問題，有，然而預測的問題常常是要求在過去的p個觀測值的基礎(chǔ)上來預測當前值，也就是這就是一步線性預測公式，常常用下列符合表示

(7-48)162可編輯ppt三、一步線性預測器

對于純預測問題，有式中p為階數(shù)，。預測的均方誤差為:(7-49)要使得均方