自適應濾波器設計及Matlab實現(xiàn)

1、 自適應濾波器：根據(jù)環(huán)境的改變，使用自適應算法來改變?yōu)V波器的參數(shù)和結構。這樣的濾波器就稱之為自適應濾波器。數(shù)學原理編輯 以輸入和輸出信號的統(tǒng)計特性的估計為依據(jù)，采取特定算法自動地調整濾波器系數(shù)，使其達到最佳濾波特性的一種算法或裝置。自適應濾波器可以是連續(xù)域的或是離散域的。離散域自適應濾波器由一組抽頭延遲線、可變加權系數(shù)和自動調整系數(shù)的機構組成。附圖表示一個離散域自適應濾波器用于模擬未知離散系統(tǒng)的信號流圖。自適應濾波器對輸入信號序列x(n)的每一個樣值，按特定的算法，更新、調整加權系數(shù)，使輸出信號序列y(n)與期望輸出信號序列d(n)相比較的均方誤差為最小，即輸出信號序列y(n)逼近期望信號序列

2、d(n)。20世紀40年代初期，N.維納首先應用最小均方準則設計最佳線性濾波器，用來消除噪聲、預測或平滑平穩(wěn)隨機信號。60年代初期，R.E.卡爾曼等發(fā)展并導出處理非平穩(wěn)隨機信號的最佳時變線性濾 波設計理論。維納、卡爾曼波色濾波器都是以預知信號和噪聲的統(tǒng)計特征為基礎，具有固定的濾波器系數(shù)。因此，僅當實際輸入信號的統(tǒng)計特征與設計濾波器所依 據(jù)的先驗信息一致時，這類濾波器才是最佳的。否則，這類濾波器不能提供最佳性能。70年代中期，B.維德羅等人提出自適應濾波器及其算法，發(fā)展了最佳濾波設計理論。以最小均方誤差為準則設計的自適應濾波器的系數(shù)可以由維納-霍甫夫方程解得式中W(n)為離散域自適應濾波器的系數(shù)

3、列矩陣(n)為輸入信號序列x(n)的自相關矩陣的逆矩陣,dx(n)為期望輸出信號序列與輸入信號序列x(n)的互相關列矩陣。B.維德羅提出的一種方法，能實時求解自適應濾波器系數(shù)，其結果接近維納霍甫夫方程近似解。這種算法稱為最小均方算法或簡稱 LMS法。這一算法利用最陡下降法，由均方誤差的梯度估計從現(xiàn)時刻濾波器系數(shù)向量迭代計算下一個時刻的系數(shù)向量式中憕【2(n)】為均方誤差梯度估計，ks為一負數(shù)，它的取值決定算法的收斂性。要求，其中為輸入信號序列x(n)的自相關矩陣最大特征值。自適應 LMS算法的均方誤差超過維納最佳濾波的最小均方誤差，超過量稱超均方誤差。通常用超均方誤差與最小均方誤差的比值（即失

4、調）評價自適應濾波性能。抽頭延遲線的非遞歸型自適應濾波器算法的收斂速度，取決于輸入信號自相關矩陣特征值的離散程度。當特征值離散較大時，自適應過程收斂速度較慢。格型結構的自適應算法得到廣泛的注意和實際應用。與非遞歸型結構自適應算法相比，它具有收斂速度較快等優(yōu)點。人們還研究將自適應算法推廣到遞歸型結構；但由于遞歸型結構自適應算法的非線性，自適應過程收斂性質的嚴格分析尚待探討，實際應用尚受到一定限制。自適應濾波器自適應濾波器應用領域編輯自適應濾波器應用于通信領域的自動均衡、回波消除、天線陣波束形成，以及其他有關領域信號處理的參數(shù)識別、噪聲消除、譜估計等方面。對于不同的應用，只是所加輸入信號和期望信號

5、不自適應濾波器發(fā)展前景編輯1、廣泛用于系統(tǒng)模型識別如系統(tǒng)建模：其中自適應濾波器作為估計未知系統(tǒng)特性的模型。2、通信信道的自適應均衡如：高速modem采用信道均衡器：用它補償信道失真，modem必須通過具有不同頻響特性而產(chǎn)生不同失真的信道有效地傳送數(shù)據(jù)，則要求信號均衡器具有可調系數(shù)，據(jù)信道特性對這些系數(shù)進行優(yōu)化，以使信道失真的某些量度最小化。又如：數(shù)字通信接收機：其中自適應濾波器用于信道識別并提供碼間串擾的均衡器。3、雷達與聲納的波束形成如自適應天線系統(tǒng)，其中自適應濾波器用于波束方向控制，并可在波束方向圖中提供一個零點以便消除不希望的干擾。4、消除心電圖中的電源干擾如：自適應回波相消器，自適應噪

6、聲對消器：其中自適應濾波器用于估計并對消預期信號中的噪聲分量。5、噪聲中信號的濾波、跟蹤、譜線增強以及線性預測等。自適應濾波器設計及Matlab實現(xiàn)摘 要本文從隨機噪聲的特性出發(fā)，分析了傳統(tǒng)濾波和自適應濾波基本工作原理和性能，以及濾波技術的現(xiàn)狀和發(fā)展前景。然后系統(tǒng)闡述了基本維納濾波原理和自適應濾波器的基本結構模型，接著在此基礎上結合最陡下降法引出LMS算法。在MSE準則下，設計了一個定長的自適應最小均方橫向濾波器，并通過MATLAB編程實現(xiàn)。接著用圖像復原來驗證該濾波器的性能，結果表明圖像的質量在MSE準則下得到了明顯的改善。最后分析比較了自適應LMS濾波和頻域維納遞歸濾波之間的性能。本文還對

7、MATLAB里面的自適應維納濾波函數(shù)wiener2進行了簡單分析。關鍵字：退化圖像 維納濾波自適應濾波最陡下降法 LMSAbstractThis paper analyses the basic work theory, performance of traditional filter and adaptive filter based on the property of random noise, and introduce the status quo and the foreground of filter technology. Then we explain basic theo

8、ry of wiener filter and basic structure model of adaptive filter, and combine the method of steepest descent to deduce the LMS. Afterward according to the MSE rule, we design a limited length transversal filter, and implement by MATLAB. And then we validate performance of adaptive LMS filter by rest

9、oring images, Test result show that the quality of the degrade images were improved under the rule of MSE. Finally, we compare the performance of adaptive LMS filter and iterative wiener filter.We also simply analyses the wiener2 () which is a adaptive filter in MATLAB.Keywords: degrade image；wiener

10、 filter；adaptive filter；ADF；LMS algorithm目錄1 緒論11. 1 引言11. 2 研究目標及現(xiàn)狀11. 2 .1 圖像復原技術的目標11. 2 .2 圖像復原技術的研究現(xiàn)狀12 理論基礎 32. 1 基本自適應濾波器的模塊結構32. 2 基本維納濾波原理43 自適應濾波原理及算法 63.1 橫向濾波結構的最陡下降算法73.1.1 最陡下降算法的原理73.1.2 最陡下降算法穩(wěn)定性103.2 LMS濾波原理及算法113.2.1 從最陡下降算法導出LMS算法 113.2.2 基本LMS算法的實現(xiàn)步驟 113.2.3 基本LMS算法的實現(xiàn)流程圖 123.2.4

11、 LMS算法的Matlab實現(xiàn) 123.2.5 wiener2()的原理 123.2.6 LMS性能分析自適應收斂性134 Matlab 實驗結果 144.1.LMS濾波器的收斂性 144.2.LMS濾波器和頻域迭代維納濾波器的性能比較 165 總結18致謝 19參考文獻 20附錄A 21附錄B 22附錄C 271 緒論1.1引言人類傳遞信息的主要媒介是語言和圖像。據(jù)統(tǒng)計，在人類接受的信息中，聽覺信息占20，視覺信息占60，其它如味覺、觸覺、嗅覺總的加起來不過占20，所以圖像信息是十分重要的信息1。然而，在圖像的獲取和圖像信號的傳輸過程中，圖像信號中不可避免的混入各種各樣的隨機噪聲，造成圖像失

12、真（圖像退化）。造成人類所獲取的信息和實際是有偏差的，成為人類從外界獲取準確信息的障礙。因此，對圖像信號中的隨機噪聲的抑制處理是圖像處理中非常重要的一項工作。在圖像的獲取和傳輸過程中所混入的噪聲，主要來源于通信系統(tǒng)中的各種各樣的噪聲，根據(jù)通信原理及統(tǒng)計方面的知識，可以知道在通信系統(tǒng)中所遇到的信號和噪聲，大多數(shù)均可視為平穩(wěn)的隨機過程15。又有“高斯過程又稱正態(tài)隨機過程，它是一種普遍存在和重要的隨機過程，在通信信道中的噪聲，通常是一種高斯過程，故又稱高斯噪聲。因此，在大多數(shù)的情況下，我們可以把造成圖像失真的噪聲可視為廣義平穩(wěn)高斯過程。本文針對圖像信號中混入的隨機噪聲，在怎樣把現(xiàn)有的濾波算法應用到實

13、際的圖像復原中去的問題上提出了解決方法，并且應用Matlab 軟件編程對圖像進行處理。1.2研究目標及現(xiàn)狀1.2.1圖像復原技術的目標為了從含有噪聲的數(shù)據(jù)中提取我們所感興趣的、接近規(guī)定質量的圖像，我們需要設計一個系統(tǒng)滿足：當信號與噪聲同時輸入時，在輸出端能將信號盡可能精確地重現(xiàn)出來，而噪聲卻受到最大抑制，即最佳濾波器。1.2.2圖像復原技術的研究現(xiàn)狀目前的圖像復原技術，即去噪的濾波技術可以分為兩大類：傳統(tǒng)濾波和現(xiàn)代濾波。傳統(tǒng)濾波技術是建立在已知有用信號和干擾噪聲的統(tǒng)計特性（自相關函數(shù)或功率譜）的基礎上的噪聲去除；現(xiàn)代濾波技術則是不需要知道圖像的先驗知識，只是根據(jù)觀測數(shù)據(jù)，即可對噪聲進行有效濾除

14、。早在20世紀40年代，就對平穩(wěn)隨機信號建立了維納濾波理論。根據(jù)有用信號和干擾噪聲的統(tǒng)計特性（自相關函數(shù)或功率譜），以線性最小均方誤差（MSE）估計準則所設計的最佳濾波器，稱為維納濾波器。這種濾波器能最大程度的濾除干擾噪聲，提取有用信號。但是，當輸入信號的統(tǒng)計特性偏離設計條件，則它就不再是最佳的了，這在實際應用中受到了限制。到60年代初，由于空間技術的發(fā)展，出現(xiàn)了卡爾曼濾波理論，即利用狀態(tài)變量模型對非平穩(wěn)、多輸入多輸出隨機序列作最優(yōu)估計。卡爾曼濾波器既可以對平穩(wěn)的和平穩(wěn)的隨機信號作線性最佳濾波，也可以作為非線性濾波2。然而只有在對信號和噪聲的統(tǒng)計特性已知的情況下，這兩種濾波器才能獲得最優(yōu)解。在

15、實際的應用中，往往無法得到這些統(tǒng)計特性的先驗知識，或者統(tǒng)計特性是隨時間變化的，因此，這兩種濾波器就實現(xiàn)不了真正的最佳濾波。Widrow B.和Hoff于1967年提出的自適應濾波理論，可使在設計自適應濾波器時不需要事先知道關于輸入信號和噪聲的統(tǒng)計特性的知識，它能夠在自己的工作過程中逐漸估計出所需的統(tǒng)計特性，并以此為依據(jù)自動調整自己的參數(shù)，以達到最佳濾波效果。一旦輸入信號的統(tǒng)計特性發(fā)生變化，它又能夠跟蹤這種變化，自動調整參數(shù)，使濾波器性能重新達到最佳。自適應濾波器自動調節(jié)參數(shù)可以通過各種不同的遞推算法來實現(xiàn)，由于它采用的是逼近的算法，使得實際估計值和理論值之間必然存在差距，也就造成了自適應濾波問

16、題沒有唯一的解。依照各種遞推算法的特點，我們把它應用于不同的場合?，F(xiàn)在廣為應用的自適應濾波方法主要是基于以下幾種基本理論，再融合遞推算法導出來的：（1） 基于維納濾波理論的方法維納濾波是在最小均方誤差準則下通過求解維納霍夫方程來解決線性最優(yōu)濾波問題的?；诰S納濾波原理，我們利用相關的瞬時值通過在工作過程中的逐步調整參數(shù)逼近信號的統(tǒng)計特性，實現(xiàn)最優(yōu)濾波。由此，我們得到一種最常用的算法最小均方算法，簡稱LMS算法。（2） 基于卡爾曼濾波理論的方法 卡爾曼濾波是線性無偏最小方差濾波遞推濾波，它能使濾波器工作在平穩(wěn)的或非平穩(wěn)的環(huán)境，得到最優(yōu)解。利用卡爾曼濾波理論的遞推求解法導出自適應濾波器更新權矢量得

17、不同遞推算法。比LMS算法有極快的收斂速率，可是計算復雜度也增大了，它需要計算卡爾曼矩陣。（3） 基于最小二乘準則的方法維納濾波和卡爾曼濾波推導的算法是基于統(tǒng)計概念的，而最小二乘估計算法是以最小誤差平方和為優(yōu)化目標的。根據(jù)濾波器的實現(xiàn)結構，有以下3種不同的最小二乘自適應濾波算法：自適應遞歸最小二乘法（RLS），自適應最小二乘格型算法，QR分解最小二乘算法。（4） 基于神經(jīng)網(wǎng)絡理論的方法 神經(jīng)網(wǎng)絡是有大量的神經(jīng)元相互連接而成的網(wǎng)絡系統(tǒng)，實質上它是一個高度非線性的動力學網(wǎng)絡系統(tǒng)，這個系統(tǒng)具有很強的自適應、自學習、自組織能力，以及巨量并行性、容錯性和堅韌性，因而，它可以做很多傳統(tǒng)的信號和信息處理技術

18、所不能做的事情。因其超強的自動調節(jié)能力，使得它在自適應信號處理方面有著廣闊的前景2。 在一系列的自適應算法中，雖然基于后面3種基本理論的方法在收斂速率和穩(wěn)定、堅韌性方面有著更好的性能，但是， 基于維納濾波理論的LMS算法因其算法簡單，而且能達到滿意的性能，得到了青睞，成為了應用最廣泛的自適應算法。為此，本文主要研究LMS自適應濾波器在圖像去噪方面的應用。2.理論基礎2.1基本自適應濾波器的模塊結構自適應濾波器通常由兩部分構成，其一是濾波子系統(tǒng)，根據(jù)它所要處理的功能而往往有不同的結構形式。另一是自適應算法部分，用來調整濾波子系統(tǒng)結構的參數(shù)，或濾波系數(shù)。在自適應調整濾波系數(shù)的過程中，有不同的準則和

19、算法。算法是指調整自適應濾波系數(shù)的步驟，以達到在所描述的準則下的誤差最小化。自適應濾波器含有兩個過程，即自適應過程和濾波過程。前一過程的基本目標是調節(jié)濾波系數(shù)，使得有意義的目標函數(shù)或代價函數(shù)最小化，濾波器輸出信號逐步逼近所期望的參考信號，由兩者之間的誤差信號驅動某種算法對濾波系數(shù)進行調整，使得濾波器處于最佳工作狀態(tài)以實現(xiàn)濾波過程。所以自適應過程是一個閉合的反饋環(huán)，算法決定了這個閉合環(huán)路的自適應過程所需要的時間。但是，由于目標函數(shù)是輸入信號,參考信號及輸出信號的函數(shù)，即,因此目標函數(shù)必須具有以下兩個性質：（1） 非負性 ( 2.1 )（2） 最佳性 ( 2.2 )在自適應過程中，自適應算法逐步使

20、目標函數(shù)最小化，最終使逼近于，濾波參數(shù)或權系數(shù)收斂于，這里是自適應濾波系數(shù)的最優(yōu)解即維納解。因此，自適應過程也是自適應濾波器的最佳線性估計的過程，既要估計濾波器能實現(xiàn)期望信號的整個過程，又要估計濾波權系數(shù)以進行有利于主要目標方向的調整。這些估計過程是以連續(xù)的時變形式進行的，這就是自適應濾波器需要有的自適應收斂過程。如何縮短自適應收斂過程所需要的收斂時間，這個與算法和結構有關的問題時人們一直重視研究的問題之一2。當然濾波子系統(tǒng)在整個自適應濾波器的設計中也占有很重要的地位，因為它對最終的濾波性能有很大的影響。本文要研究的是基于維納濾波原理的LMS算法，那么下面我們需要介紹一下基本維納濾波原理。2.

21、2基本維納濾波原理基本維納濾波就是用來解決從噪聲中提取信號問題的一種過濾(或濾波)方法。它基于平穩(wěn)隨機過程模型，且假設退化模型為線性空間不變系統(tǒng)的。實際上這種線性濾波問題，可以看成是一種估計問題或一種線性估計問題?；镜木S納濾波是根據(jù)全部過去的和當前的觀察數(shù)據(jù)來估計信號的當前值，它的解是以均方誤差最小條件下所得到的系統(tǒng)的傳遞函數(shù)或單位樣本響應的形式給出的，因此更常稱這種系統(tǒng)為最佳線性過濾器或濾波器。設計維納濾波器的過程就是尋求在最小均方誤差下濾波器的單位樣本響應或傳遞函數(shù)的表達式，其實質是解維納-霍夫(Wiener-Hopf)方程?；揪S納濾波器是這樣的，有兩個信號x(k)和y(k)同時加在濾

22、波器上。典型地y(k)包含一個與x(k)相關地分量和另一個與x(k)不相關地分量。維納濾波器則產(chǎn)生y(k)中與x(k)相關分量地最優(yōu)估計，再從y(k)中減去它就得到e(k)。假定一個N個系數(shù)（權值）的FIR濾波器的結構，維納濾波和原始信號y(k)之間的差信號e(k)為： ( 2.3 )其中和w分別為輸入信號矢量和權矢量，由下式確定： ( 2.4 )誤差平方為： ( 2.5 )對（3）式兩邊取期望得到均方誤差(MSE) ，若輸入x(k)與輸出y(k)是聯(lián)合平穩(wěn)的，則： ( 2.6 )其中代表期望，是的方差，是長度為N地互相關矢量，是N×N的自相關矩陣。一個MSE濾波系數(shù)的圖形是碗形地，

23、且只有唯一地底部，這個圖稱為性能曲面，它是非負的。性能曲面地梯度可由下式給出： ( 2.7 )每組系數(shù)w(i)(i=1,2,N-1)對應曲面是一點，在曲面是地最小點梯度為0，濾波權矢量達到最優(yōu), ( 2.8 )即著名的維納霍夫方程的解。自適應濾波地任務是采用合適的算法來調節(jié)濾波權重，從而找到性能曲面地最優(yōu)點。維納濾波的實際用途有限，因為：（1） 它需要已知自相關矩陣R和互相關矢量P，這兩個量通常是未知的。（2） 它包含了矩陣的求逆，非常的耗時。（3） 若信號為非平穩(wěn)的，則R和P是時變的，導致必需重復計算。對于實際的應用需要一種能夠依次加入地抽樣點而得到的算法。自適應算法就就是用于達到這個目的，

24、而且不需顯式計算R和P或進行矩陣求逆3。 3 自適應濾波原理及算法在實際應用中常常會遇到這樣的情況：隨機信號的統(tǒng)計特性是未知的，或者信號的統(tǒng)計特性是緩慢的變化著的（非平穩(wěn)信號），這就促使人們去研究一類特殊的濾波器，這類濾波器具有以下特點：當輸入過程的統(tǒng)計特性未知時，或者輸入過程的統(tǒng)計特性變化時，能夠相應的調整自身的參數(shù)，以滿足某種準則的要求，由于這類濾波器能變動自身的參數(shù)以“適應”輸入過程統(tǒng)計特性的估計或變化，因此，就把這類濾波器稱為自適應濾波器4 。在本文中我們研究的是退化圖像復原的問題，由于圖像自身的多樣性和所混入的噪聲的隨機性和多樣性，我們選擇自適應濾波取出圖像中混入的噪聲。3.1 橫向

25、濾波結構的最陡下降算法3.1.1 最陡下降算法的原理首先考慮如下圖所示的橫向FTR自適應濾波器它的輸入序列以向量的形式記為： ( 3.1 )假設取自一均值為零，自相關矩陣為的廣義平穩(wěn)隨機過程，而濾波器的系數(shù)矢量（加權矢量）為： ( 3.2 )以上二式中括號內的為時間指數(shù)，因此，和分別表示時刻的濾波器輸入序列和加權值，濾波器的輸出為：( 3.3 )式中M為濾波器的長度。圖3.1 中的稱為“期望理想響應信號”，有時也可稱為“訓練信號”，它決定了設計最佳濾波器加權向量的取值方向。在實際應用中，通常用一路參考信號來作為期望響應信號。是濾波器輸出相對于的誤差，即 (3.4)顯然，自適應濾波控制機理是用誤

26、差序列按照某種準則和算法對其系數(shù)進行調節(jié)的，最終使自適應濾波的目標（代價）函數(shù)最小化，達到最佳濾波狀態(tài)。按照均方誤差（MSE）準則所定義得目標函數(shù)是 ( 3.5 )將式（3.4）代入式（3.5），目標函數(shù)可以化為 ( 3.6 )當濾波系數(shù)固定時，目標函數(shù)又可以寫為 ( 3.7 )其中，是長度為N的期望信號與輸入信號的互相關矢量，是N×N的輸入向量得自相關矩陣。由式（3.7）可見，自適應濾波器的目標函數(shù)是延遲線抽頭系數(shù)（加權或濾波系數(shù)）的二次函數(shù)。當矩陣R和矢量P已知時，可以由權矢量直接求其解。現(xiàn)在我們將式（3.7）對W求倒數(shù)，并令其等于零，同時假設R是非奇異的，由此可以得到目標函數(shù)最

27、小的最佳濾波系數(shù)為 ( 3.8 )這個解就是維納解，即最佳濾波系數(shù)值。因為均方誤差函數(shù)是濾波系數(shù)的二次方程，由此形成一個形如圖（2.2）的超拋物面，當濾波器工作在平穩(wěn)隨機過程的環(huán)境下，這個誤差性能曲面就具有固定邊緣的恒定形狀。自適應濾波系數(shù)的起始值是位于性能曲面上的某一點，結果自適應調節(jié)過程，使對應于濾波系數(shù)變化的點移動，朝碗底最小點方向移動，最終到達碗底的最小點，實現(xiàn)了最佳維納濾波。最陡下降法就是實現(xiàn)上述搜索最佳值的一種優(yōu)化技術，它利用梯度信息分析自適應濾波性能和追蹤最佳濾波狀態(tài)。梯度矢量是由均方誤差的梯度來定義的，在多維超拋物面上任意一點的梯度矢量是對應于均方誤差對濾波系數(shù)的一階倒數(shù)，由起

28、始點變化到下一點的濾波系數(shù)變化量正好是梯度矢量的負數(shù)。換句話說，自適應過程是在梯度矢量的負方向接連的校正濾波系數(shù)的，即在誤差性能曲面的最陡下降方向移動和逐步校正濾波系數(shù)，最終到達均方誤差為最小的碗底最小點，獲得最佳濾波或準優(yōu)工作狀態(tài)。令代表k時刻的維梯度矢量，這里M等于濾波器濾波系數(shù)的數(shù)目，為自適應濾波器在k時刻的濾波系數(shù)和權矢量。按照最陡下降法調節(jié)濾波系數(shù)，則在k+1時刻的濾波系數(shù)或權矢量可以用下列簡單遞歸關系來計算：( 3.9 )式中，為自適應收斂系數(shù)或步長，是一個正實常數(shù)。根據(jù)梯度矢量定義，可寫成( 3.10 )當濾波系數(shù)為最佳值，即是維納解時，梯度矢量應等于零。將式（3.7）代入（3.

29、10）得到 ( 3.11 )因此，在最陡下降算法中，當相關矩陣R和互相關矢量P已知時，由濾波系數(shù)矢量可以計算梯度矢量，把式（3.11）代入（3.9）中，可以計算出濾波系數(shù)的更新值( 3.12 )式（3.12）所描述的即是最陡下降算法自適應迭代的基本公式，且由該式我們可以不用再直接求R的逆。（3.12）式所示的迭代算法是一個反饋模型，因此算法的收斂性（穩(wěn)定性）就非常重要。下面我們簡單討論一下最陡下降法的收斂性。3.1.2 最陡下降算法穩(wěn)定性首先我們定義k時刻的加權誤差矢量為 ( 3.13 )則最陡下降算法式（3.12）可以寫成另一種形式 ( 3.14 )這樣，我們得到最陡下降法的穩(wěn)定性取決于兩個

30、因素：自適應步長參數(shù)和輸入信號矢量的自相關矩陣。根據(jù)線性代數(shù)里的酉相似變換原理，用酉矩陣將相關矩陣對角線化，即 ( 3.15 )式中為對角線矩陣，它的元素是的特征值，矩陣的列矢量是相關矩陣的特征值對應的特征向量的正交集，是的共軛轉置。酉矩陣的性質是。把式（3.15）代入式（3.14），得到 ( 3.16 )兩邊乘以得到，(3.17a)或寫為(3.17b)其中，為旋轉參數(shù)矢量或旋轉濾波系數(shù)矢量誤差，的起始值為( 3.18)由（3.17b）式，可以推算出( 3.19 )把單位矩陣和對角線矩陣展開，上式可以寫為( 3.20 )上式表明，為了保證最陡下降算法的穩(wěn)定性（收斂性），矩陣中的每一個元素的絕對

31、值必須小于1，由此可以得到算法穩(wěn)定性的收斂條件為( 3.21 )式中是相關矩陣的最大特征值。在此條件下，對角線矩陣中全部元素當而趨近于零，結果使得。當很大時，意味著自適應濾波系數(shù)矢量趨近于最佳維納解。3.2 LMS濾波原理及算法3.2.1 從最陡下降法導出LMS算法如上節(jié)所述，最陡下降算法不需要知道誤差特性曲面的先驗知識，其算法就可以收斂到最佳維納解，且與起始條件無關。但是最陡下降算法的主要限制是它需要準確測得每次迭代的梯度矢量，這妨礙了它的應用。為了減少計算復雜度和縮短自適應收斂時間，1960年，美國斯坦福大學的Widrow等提出了最小均方（LMS）算法，這是一種用瞬時值估計梯度矢量的方法，

32、即( 3.22 )可見，這種瞬時估計法是無偏的，因為它的期望值確實等于式（3.10）的梯度矢量。所以，按照自適應濾波器濾波系數(shù)矢量的變化與梯度矢量估計的方向之間的關系，可以寫出LMS算法的公式如下：( 3.23 )3.2.2 基本LMS算法的實現(xiàn)步驟（1） 初始化 令所有權重為任一固定值或為0，對每一個接下來地抽樣時刻（k=1,2,N）執(zhí)行（2）到（4）。（2） 計算濾波輸出 ( 3.24 )（3） 計算估計誤差 ( 3.25 )（4） 更新下一時刻的權 ( 3.26 )從上面看出，LMS算法具有簡潔和易于實現(xiàn)地特點使它成為許多實時系統(tǒng)的首選算法，LMS算法對每組輸入和輸出抽樣大約需2N1次乘

33、法和2N1次加法。太多數(shù)信號處理器陡適宜進行乘法和累加運算，使直接實現(xiàn)LMS算法更具有吸引力。3.2.3 基本LMS算法的實現(xiàn)流程圖3.2.4 LMS算法的Matlab實現(xiàn)wiener2（）的原理LMS算法實現(xiàn)的代碼可見附錄A3.2.5 wiener2（）的原理我們下面介紹一下wiener2()的基本處理方法和過程：根據(jù)圖像的局部統(tǒng)計性質，一個像素與它周圍的局部區(qū)域內的像素相關，因此去噪圖像中某一點像素值可由退化圖像中相應于該點的局部區(qū)域內的像素值予以恢復，我們做一個S×S（S=2×L+1,L為窗口半寬）的矩形窗口，對退化圖像中的每個像素在以該像素維中心的窗口內進行相應的濾

34、波處理，可得去噪圖像為：( 3.27 )式中為所要求的權值，為退化圖像，寫成矩陣形式有：( 3.28 )其中 ， ( 3.29 )于是問題轉換成求，我們選取一塊有較多信號的區(qū)域作為特征區(qū)域，令其為，并對其做自適應濾波處理，以得到該區(qū)域的近似原始圖像，稱為理想圖像，濾波步驟如下：（1） 先求特征區(qū)域中的局部圖像均值和方差( 3.30 )( 3.31 )（2） 再根據(jù)加權最小二乘法，求得自適應濾波后的理想圖像( 3.32 )其中，這里表示噪聲方差。Wiener2() 函數(shù)的解析可見附錄B3.2.6 LMS性能分析自適應收斂性自適應濾波器系數(shù)矢量的起始值是任意的常數(shù)，應用LMS算法調節(jié)濾波系數(shù)具有隨

35、機性而是系數(shù)矢量帶來非平穩(wěn)過程。通常為了簡化LMS算法的統(tǒng)計分析，往往假設算法連續(xù)迭代之間存在以下的充分條件：（1） 每個輸入信號樣本矢量與其過去全部樣本矢量是統(tǒng)計獨立的，不相關的。（2） 每個輸入信號樣本矢量與全部過去的期望響應信號也是統(tǒng)計獨立的。（3） 期望響應信號依賴于輸入樣本矢量，但全部過去的期望信號樣本是統(tǒng)計獨立的。（4） 濾波器抽頭輸入信號矢量于期望信號包含著全部k的共同的高斯分布隨機變量。通常將基于上述基本假設的LMS算法的統(tǒng)計分析稱為獨立理論。我們發(fā)現(xiàn)（1）和（2）的觀點，假設濾波系數(shù)矢量與輸入信號矢量和期望信號的獨立無關是很有用的。但是，在實際中，許多問題對輸入過程和期望信號

36、并不滿足上述基本假設。盡管如此，LMS算法的實踐經(jīng)驗證明，在有足夠的關于自適應過程結構信息的條件下，基于這些假設所分析的結果仍可用作可靠的設計指導準則，即使某些問題帶有依賴的數(shù)據(jù)樣本。經(jīng)過推導，我們得到LMS算法和它的基礎最陡下降算法有系統(tǒng)的精確數(shù)學表達形式。因此，可以得出它們的收斂條件也是一致的，即( 3.33 )當?shù)螖?shù)k趨近于無窮的時候，自適應濾波系數(shù)矢量近似等于最佳維納解，但是事實上我們知道，LMS算法的濾波系數(shù)總是在最佳維納解附近波動，而不能精確等于最佳維納解。在滿足收斂條件的情況下，自適應步長決定了收斂速率，當?shù)螖?shù)一定時，的值越大，則收斂的越快，濾波器的均方誤差（MSE）也越

37、來越小；當自適應步長一定時，隨著迭代次數(shù)的增大，濾波器的均方誤差（MSE）越來越小。4 Matlab實驗結果4.1LMS濾波器的收斂性下面我們通過實驗來查看LMS算法的濾波性能。在實驗中我們通過改變自適應步長的值，來觀測的變化對LMS濾波器的性能的影響。以下為實驗結果：圖4.1圖4.2圖4.3通過上面的三幅圖，我們可以看出當值超出收斂條件時，LMS濾波器不能收斂，呈發(fā)散形式，所得到的復原圖像的質量很差，甚至比原圖像更差。而仔細觀測圖4.2和圖4.3，我們又發(fā)現(xiàn)當滿足收斂條件時，的值小，反而效果要差，或者說是，MSE的下降較小，事實上，這是因為當值越小，下降越平滑，效果本應該更好，但是由于我們設

38、計的是定長的濾波器，也就是濾波器的迭代次數(shù)是固定的，在這樣的情況下，當然值越大，收斂越快效果越好了。4.2 LMS濾波器和頻域迭代維納濾波器的性能比較在這里我們把所設計的自適應LMS濾波器跟頻域迭代維納濾波器進行比較，涉及到了基本頻域迭代和加權頻域迭代兩種形式的濾波器。在實驗中我們對圖像人為的加入20db的高斯白噪聲。在性能比較方面，頻域加權的維納濾波我們計算的是復原圖像和原圖像的MSE。而在LMS濾波器方面，我們是按照目標函數(shù)來計算的MSE。圖4.4圖4.5通過以上兩幅圖片，我們可以看出統(tǒng)一的迭代次數(shù)的情況下，頻域濾波器的性能要比LMS算法要好。這主要是因為頻域迭代維納濾波器還屬于傳統(tǒng)濾波器

39、，它是通過已知的統(tǒng)計知識功率譜密度來進行迭代的。是一種比較精確的迭代算法，而我們的LMS濾波器，則是僅僅根據(jù)退化圖像，進行迭代濾波的，其中采用的是用瞬時值來估計統(tǒng)計特性，所以在系統(tǒng)的迭代次數(shù)下，所取得的效果是要稍微差一些的。5總結在整個畢業(yè)設計的過程中，我們從基本的維納濾波到最陡下降法再到自適應LMS算法，進行了系統(tǒng)的分析和實驗驗證。知道在相關統(tǒng)計特性已知的情況下，傳統(tǒng)濾波器能取得最佳濾波，但是在沒有相關的先驗知識的情況下，傳統(tǒng)濾波器就不能滿足我們的質量要求，這就需要我們的自適應濾波器來實現(xiàn)了。但是，自適應濾波技術是一種迭代的運算，采用的是逼近的策略，所以這有限次數(shù)的迭代下，我們還是不能精確恢

40、復圖像?？墒牵瑢嶒炞C明，在有足夠的關于自適應過程結構信息的情況下，我們所設計的自適應濾波器還是能取得很好的效果，并且遠遠優(yōu)于傳統(tǒng)濾波器。在目前的自適應技術中怎樣解決濾波器中的參考輸入是一個很關鍵的問題，由自適應濾波算法的原理可知，參考信號必須是與實際噪聲信號相關的信號，且與有用信號不相關。參考信號與噪聲信號的相關性越強，則估計出來的噪聲才會越接近真實噪聲。在實際中我們往往無法得到符合理想要求的參考信號，但是我們只要采用于噪聲類型一致，統(tǒng)計特性相似的信號就可以取得較好的效果的。在本課題實驗中我們采用的是隨機信號作為參考信號，理論上大多數(shù)的隨機噪聲都是廣義平穩(wěn)的高斯噪聲或瑞利噪聲，我們所采用的ra

41、ndn()函數(shù)生成的參考信號應該能取得與理論要求很相符的值，但是因為計算機中的隨機信號是在內存中隨機獲得的，雖然統(tǒng)計特性可以符合要求，但是可能會出現(xiàn)大能量信號，導致圖像質量受到影響。不過，實驗證明在隨機信號的數(shù)值取得較少的情況下，還是能滿足廣義平穩(wěn)的，也能取得較好的效果。在實驗中，我們驗證了LMS的收斂性能，比較了它與頻域迭代維納的性能，可以知道，我們所采用的基本LMS算法還是有待改進的。我們需要在收斂速度和處理速度方面，以及穩(wěn)定性方面進行改善。致 謝本文的順利完成受到了我的導師工程師，以及大學電信工程系的老師的大力支持和精心指導。在畢業(yè)設計進行階段，老師總是嚴格的要求，及時為我指引方向并不斷

42、給予督促，她的鼓勵使我能有信心去克服畢業(yè)設計遇到的困難。趙老師則是在設計的末尾階段就性能評估方面給了我理論上的指導，使得畢業(yè)設計得以順利完成。老師對學生平易近人、精心負責的態(tài)度使我受益非淺，在此，我謹向兩位老師表示衷心的感謝！感謝同組同學多次同我進行算法和編程實現(xiàn)上的交流和討論，給予我技術上的指導。另外，還有感謝我所有的朋友和親人，感謝他們在生活上和學習上給予我的支持和幫助！最后，感謝所有參加論文評審和對本文提出寶貴意見的專家和老師！參考文獻1 阮秋琦 著.數(shù)字圖像處理學.北京：電子工業(yè)出版社，20012 何振亞 著.自適應信號處理.北京：科學出版社，20023 英 Emmanuel C. I

43、feacher , Barrie W . Jervis 著，羅鵬飛，楊世海，朱國富，譚全之 譯，數(shù)字信號處理實踐方法（第二版）。電子工業(yè)出版社，20044 沈鳳麟 陳和晏生物醫(yī)學隨機信號處理合肥：中國科學技術大學出版社1999 5 美 Simon Haykin 著.鄭寶玉 等譯.自適應濾波器原理（第四版）.北京：電子工業(yè)出版社.20036 Dimitris G. Manokakis,Vinay K. Ingle,Stephen M.Kogon著, 周正 等譯.統(tǒng)計與自適應濾波.北京：電子工業(yè)出版社，20037 施曉紅，周佳編著，精通GUI 圖形界面編程。北京大學出版社，2003 8 董長虹主編

44、，賴志國，余嘯海編著，MATLAB 圖像處理與應用。國防工業(yè)出版社，2004 9 加Simon Haykin,美Barry Van Veen 著，信號與系統(tǒng)（第二版）。電子工業(yè)出版社，2004 10 Miroslaw D. Lutovac , Dejan V . Tosic , Brian L . Evans 著，朱義勝，董輝等譯，信號處理濾波器設計基于MATLAB和Mathematica 設計方法。電子工業(yè)出版社，2004 12 Paulo S.R. Diniz , Eduardo A.B.da Silva , Sergio L. Netto 著，門愛東，楊波，全子一譯，數(shù)字信號處理系統(tǒng)分析

45、與設計。北京：電子工業(yè)出版社，200413 胡廣書編著，數(shù)字信號處理理論、算法與實現(xiàn)（第二版）。北京：清華大學出版社，2003 14 張玲華，鄭寶玉編著，隨機信號處理。北京：清華大學出版社，2003 15 通信原理，樊昌信，徐炳祥，吳成柯，國防工業(yè)出版社，北京，2001附錄Aclear clcF=checkerboard(2); %原圖像D=imnoise(F,'gaussian',0,0.02); %退化圖像=參考信號nhood=3 3;% Estimate the local mean of f.localMean = filter2(ones(nhood), D) / p

46、rod(nhood);H=D-localMean;仿照wiener2函數(shù)里的求取類似的“均值”h k=size(D);L=h*k;D=reshape(D,L,1); %將圖像矩陣變?yōu)槭噶啃问絝=zeros(size(D); %系統(tǒng)輸出誤差信號y=f; %噪聲逼近信號初始化E=f; %聲明誤差矢量%設置輸入噪聲信號基本輸入信號%X=randn(h,k);X=zeros(h,k);X=imnoise(X,'gaussian',0,0.02);X=reshape(X,L,1);W=zeros(L,L); %設置權矢量初值lmsMSE=f;a=0;%核心算法u=0.000005;for

47、 i=1:L for n=1:L for m=1:i if n-m+1>0 y(n)=y(n)+W(m,n)*X(n-m+1);濾波器輸出 end end end E=D-y;計算誤差 a=a+1; lmsMSE(a)=mean(E.2);根據(jù)目標函數(shù)計算MSE for n=1:L-1 W(i,n+1)=W(i,n)+u*E(n)*X(n);更新權值 endenda=linspace(1,L,L);%設置畫MSE變化曲線的橫坐標f=reshape(E,h,k)+H;重構圖像矩陣figure,subplot(2,2,1),imshow(F);title('原圖像')D=re

48、shape(D,h,k);subplot(2,2,2),imshow(D);title('退化圖像')myMSE=mean2(F-f).2)subplot(2,2,3),imshow(f);title('復原圖像')subplot(2,2,4)plot(a,lmsMSE,'r-');title('當u0.000001時的 MSE 變化曲線')xlabel('迭代次數(shù)'),ylabel('MSE');legend('lmsMSE(a)',0);附錄Bfunction f,noise =

49、 wiener2(varargin)%WIENER2 Perform 2-D adaptive noise-removal filtering.% WIENER2 lowpass filters an intensity image that has been% degraded by constant power additive noise. WIENER2 uses a% pixel-wise adaptive Wiener method based on statistics% estimated from a local neighborhood of each pixel.% J

50、= WIENER2(I,M N,NOISE) filters the image I using% pixel-wise adaptive Wiener filtering, using neighborhoods of% size M-by-N to estimate the local image mean and standard% deviation. If you omit the M N argument, M and N default to% 3. The additive noise (Gaussian white noise) power is assumed% to be

51、 NOISE.% J,NOISE = WIENER2(I,M N) also estimates the additive% noise power before doing the filtering. WIENER2 returns this% estimate as NOISE.% Class Support% -% The input image I can be of class uint8, uint16, or double. % The output image J is of the same class as I.% Example% -% I = imread('

52、saturn.tif');% J = imnoise(I,'gaussian',0,0.005);% K = wiener2(J,5 5);% imshow(J), figure, imshow(K)% See also FILTER2, MEDFILT2.% The following syntax is grandfathered:% J = WIENER2(I,M N,MBLOCK NBLOCK,NOISE) or J,NOISE =% WIENER2(I,M N,MBLOCK NBLOCK) processes the intensity% image I as above but in blocks of size MBLOCK-by-NBLOCK. Use% J = WIENER2(I,M N,SIZE(I),NOISE) to process the matr