基于LMS自適應(yīng)濾波器的MATLAB實(shí)現(xiàn)

1、 畢 業(yè) 論 文題 目 基于LMS自適應(yīng)濾波器的MATLAB實(shí)現(xiàn) 學(xué) 院： 電氣 系專 業(yè)： 應(yīng)用電子專業(yè) 班 級： 06222班 學(xué) 號： 32（號） 學(xué)生姓名： 郭永林 指導(dǎo)教師： 趙茂林 起訖日期： 20094.17-2009.6.1 成都電子機(jī)械高等?？茖W(xué)校二九 年 六 月 五 日基于LMS自適應(yīng)濾波器的MATLAB實(shí)現(xiàn) 專業(yè)：應(yīng)用電子 學(xué)號：0622232 學(xué)生姓名：郭永林 指導(dǎo)教師：趙茂林摘 要數(shù)字濾波器在數(shù)字信號處理中的應(yīng)用廣泛，是數(shù)字信號處理的重要基礎(chǔ)。自適應(yīng)濾波器可以不必事先給定信號及噪聲的自相關(guān)函數(shù),它可以利用前一時(shí)刻已獲得的濾波器參數(shù)自動地調(diào)節(jié)現(xiàn)時(shí)刻的濾波器參數(shù)使得濾波器

2、輸出和未知的輸入之間的均方誤差最小化,從而它可以實(shí)現(xiàn)最優(yōu)濾波。自適應(yīng)濾波器的算法有很多,有RLS（遞歸最小二乘法）和LMS（最小均方算法）等。自適應(yīng)LMS算法是一種很有用且很簡單的估計(jì)梯度的方法,在信號處理中得到廣泛應(yīng)用。本論文主要研究了自適應(yīng)濾波器的基本結(jié)構(gòu)和原理，然后介紹了最小均方誤差算法(LMS算法)，并完成了一種基于MATLAB平臺的自適應(yīng)LMS自適應(yīng)濾波器的設(shè)計(jì)。通過仿真，我們實(shí)現(xiàn)了LMS自適應(yīng)濾波算法，并從結(jié)果得知步長和濾波器的階數(shù)是濾波器中很重要的兩個(gè)參數(shù)，并通過修改它們證實(shí)了這一點(diǎn)，其中步長影響著收斂時(shí)間，而且階數(shù)的大小也會大大地影響自適應(yīng)濾波器的性能。關(guān)鍵字：自適應(yīng)濾波器 M

3、ATLAB LMS 仿真IVThe Realization of Adaptive Filter Based on LMS by Applying MATLABAbstractDigital filter which is widely used is the important basement of the digital signal processing. Adaptive filter can adjust its coefficients automatically to minimize the mean-square error between its output and t

4、hat of an unknown input, unnecessary to know the autocorrelation functions of signal and noise in advance, hence it can realize linearly optimum filtering.Adaptive filter has many different algorithms such as RLS(Recursive Least Square) and LMS(Least Mean-Square) algorithms. Algorithm of adaptive LM

5、S is a simple and very useful method which is used to estimate gradient. It has been widely applied in the signal processing areas.This paper introduces the structure and the principle of the adaptive filter, and then introduces the LMS algorithm, at the same time, it has completed the design of ada

6、ptive LMS filter based on MATLAB platform and realized to decrease noise in signal processing.Through the simulations, we realize the algorithm of adaptive LMS. Moreover, we can understand there exist two very important parameters, step-size and filter order M through the results. We also demonstrat

7、e that how the step-size affects the convergence rate toward the unknown system, and how the filter order M affects the performance of adaptive filter by changing these two parameters.Keywords: Adaptive Filter MATLAB LMS Simulation目 錄摘 要IAbstractII目 錄III第一章 緒論11.1 濾波器概述11.2數(shù)字濾波器11.3 濾波器發(fā)展11.4 小結(jié)2第二章

8、 LMS自適應(yīng)濾波器32.1 自適應(yīng)濾波器32.2 自適應(yīng)濾波器設(shè)計(jì)原理32.3 自適應(yīng)濾波器的結(jié)構(gòu)及LMS算法42.3.1 自適應(yīng)濾波器結(jié)構(gòu)42.3.2 LMS算法52.4 小結(jié)11第三章 仿真軟件 MATLAB 簡介123.1 MATLAB的概況123.1.1 MATLAB產(chǎn)生的歷史背景123.1.2 MATLAB的語言特點(diǎn)133.2 MATLAB仿真的基本流程153.3 小結(jié)16第四章 LMS自適應(yīng)濾波器的MATLAB實(shí)現(xiàn)174.1 自適應(yīng)濾波器出現(xiàn)的意義174.2 自適應(yīng)濾波器的實(shí)現(xiàn)174.2.1 最速下降法的仿真174.2.2 LMS算法的MATLAB仿真184.2.2.1 基于LM

9、S算法的自適應(yīng)濾波器設(shè)計(jì)18 4. 2.2. 2 LMS算法中正交性原理分析 . 19 4.2.2.3 LMS算法的MATLAB仿真結(jié)果 . 204.2.2.4 對LMS算法參數(shù)的分析研究204.3 小結(jié)24第五章結(jié)論以及展望25參考文獻(xiàn)26附錄(程序) 27致 謝28第一章 緒論1.1濾波器概述對特定頻率的頻點(diǎn)或該頻點(diǎn)以外的頻率進(jìn)行有效濾除的電路，就是濾波器。其功能就是得到一個(gè)特定頻率或消除一個(gè)特定頻率。1.2數(shù)字濾波器濾波器有模擬濾波器和數(shù)字濾波器，在離散系統(tǒng)中廣泛應(yīng)用數(shù)字濾波器，它的作用是利用離散時(shí)間系統(tǒng)的特性對輸入信號波形或頻率進(jìn)行加工處理?；蛘哒f，把輸入信號變成一定的輸出信號，從而達(dá)

10、到改變信號頻譜的目的。1.3 濾波器發(fā)展濾波器可分為線性濾波器和非線性濾波器兩種。若濾波器輸出端濾波，平滑或預(yù)測的量是它的輸入觀測量的線性函數(shù)，則認(rèn)為該濾波器是線性的；否則，認(rèn)為該濾波器是非線性的。在解線性濾波問題的統(tǒng)計(jì)方法中，通常假設(shè)已知有用信號及其附加噪聲的某些統(tǒng)計(jì)參數(shù)，而且需要設(shè)計(jì)含噪數(shù)據(jù)作為其輸入的線性濾波器，使得根據(jù)某種統(tǒng)計(jì)準(zhǔn)則噪聲對濾波器的影響最小。實(shí)現(xiàn)該濾波器優(yōu)化問題的一個(gè)有用方法是使誤差信號的均方值最小化。維納濾波器在均方誤差意義上是最優(yōu)的。誤差信號均方值相對于線性濾波器可調(diào)參數(shù)的曲線通常稱為誤差性能曲面。該曲面的極小點(diǎn)即為維納解。維納濾波器不適合于分析非平穩(wěn)性的信號和/或噪聲

11、。當(dāng)出現(xiàn)的信號和/或噪聲是非平穩(wěn)的時(shí)候，必須假設(shè)最優(yōu)濾波器為時(shí)變形式。一種十分成功的解決方案是采用卡爾曼濾波器。在各種工程應(yīng)用中該濾波器是一個(gè)強(qiáng)有力的系統(tǒng)。維納濾波器和卡爾曼濾波器的線性濾波器理論已經(jīng)在連續(xù)時(shí)間信號和離散時(shí)間信號文獻(xiàn)中獲得廣泛的研究。然而，由于數(shù)字計(jì)算機(jī)的廣泛普及和數(shù)字信號處理器件與日俱增的應(yīng)用等技術(shù)原因，離散時(shí)間線性濾波器通常更為人們所樂意使用。維納濾波器的設(shè)計(jì)要求所處理數(shù)據(jù)統(tǒng)計(jì)方面的先驗(yàn)知識。只有當(dāng)輸入數(shù)據(jù)的統(tǒng)計(jì)特性與濾波器設(shè)計(jì)所依賴的某一先驗(yàn)知識匹配時(shí)，該濾波器才是最優(yōu)的。當(dāng)這個(gè)信息完全未知時(shí)，就不可能設(shè)計(jì)維納濾波器，或者該設(shè)計(jì)不再是最優(yōu)的。在這種情況下，可采用的一個(gè)直接

12、方法是“估計(jì)和插入”過程。該過程包含兩個(gè)步驟，首先是“估計(jì)”有關(guān)信號的統(tǒng)計(jì)參數(shù)，然后將所得到的結(jié)果“插入”非遞歸公式以計(jì)算濾波器參數(shù)。對于實(shí)時(shí)運(yùn)算，該過程的缺點(diǎn)是要求特別的精心制作，而且要求價(jià)格昂貴的硬件。為了消除這個(gè)限制，可采用自適應(yīng)濾波器。因?yàn)樽赃m應(yīng)濾波器依靠遞歸算法進(jìn)行運(yùn)算，采用這樣一種系統(tǒng)，意味著濾波器是自設(shè)計(jì)的。遞歸算法將從某些預(yù)先確定的初始條件集出發(fā)，這些初始條件代表了人們所知道的上述環(huán)境的任何一種情況。在非平穩(wěn)環(huán)境下，只要這種變化是足夠緩慢的，由于它能夠跟蹤輸入數(shù)據(jù)統(tǒng)計(jì)特性隨時(shí)間的變化，因此，該遞歸算法提供了一種跟蹤能力。最早的自適應(yīng)濾波器可以追溯到二十世紀(jì)五十年代末期，在這個(gè)時(shí)

13、期大量的研究者獨(dú)立工作在這種濾波器的不同應(yīng)用領(lǐng)域。依賴于這類早期工作，出現(xiàn)了最小均方(LMS)算法，它成為運(yùn)行橫向?yàn)V波器的一種簡單且有效的算法。LMS算法是Widrow和Hoff在1959年研究自適應(yīng)線性元素的模式識別方案時(shí)發(fā)明的，這些自適應(yīng)線性元素在文獻(xiàn)中通常稱為Adaline。LMS算法是一種隨機(jī)梯度算法，它在相對于抽頭權(quán)值的誤差信號平方幅度的梯度方向上迭代調(diào)整每個(gè)抽頭權(quán)值。自適應(yīng)信號處理的應(yīng)用有很多，包括自適應(yīng)均衡，語音編碼，譜分析，自適應(yīng)噪聲消除，自適應(yīng)波束成形等等。自適應(yīng)濾波器可提供一種十分吸引人的解決方法，而且其性能遠(yuǎn)優(yōu)于用常規(guī)方法設(shè)計(jì)的固定濾波器。此外，自適應(yīng)濾波器還能提供非自適

14、應(yīng)方法所不可能提供的信號處理能力。因此，自適應(yīng)濾波器在當(dāng)前和未來都會成功地應(yīng)用于諸如通信，控制，雷達(dá)，聲納，地震和生物醫(yī)學(xué)工程等諸多領(lǐng)域。1.4 小結(jié)本章簡要地總結(jié)了濾波器的類型和概念等等，并介紹了線性最優(yōu)濾波器和自適應(yīng)濾波器的發(fā)展以及應(yīng)用。29第二章 LMS自適應(yīng)濾波器2.1 自適應(yīng)濾波器60年代，美國B.Windrow和Hoff首先提出了主要應(yīng)用于隨機(jī)信號處理的自適應(yīng)濾波器算法，從而奠定了自適應(yīng)濾波器的發(fā)展。所謂自適應(yīng)濾波器，即利用前一時(shí)刻已獲得的濾波器參數(shù)等結(jié)果，自動地調(diào)節(jié)現(xiàn)時(shí)刻的濾波器參數(shù)，以適應(yīng)信號與噪聲未知的或隨時(shí)間變化的統(tǒng)計(jì)特性，從而實(shí)現(xiàn)最優(yōu)濾波。自適應(yīng)信號處理主要是研究結(jié)構(gòu)可變

15、或可調(diào)整的系統(tǒng)，它可以通過自身與外界環(huán)境的接觸來改善自身對信號處理的性能。通常這類系統(tǒng)是時(shí)變的非線性系統(tǒng)，可以自動適應(yīng)信號傳輸?shù)沫h(huán)境和要求，無須詳細(xì)知道信號的結(jié)構(gòu)和實(shí)際知識，無須精確設(shè)計(jì)處理系統(tǒng)本身。自適應(yīng)系統(tǒng)的非線性特性主要是由系統(tǒng)對不同的信號環(huán)境實(shí)現(xiàn)自身參數(shù)的調(diào)整來確定的。自適應(yīng)系統(tǒng)的時(shí)變特性主要是由其自適應(yīng)響應(yīng)或自適應(yīng)學(xué)習(xí)過程來確定的，當(dāng)自適應(yīng)過程結(jié)束和系統(tǒng)不再進(jìn)行時(shí)，有一類自適應(yīng)系統(tǒng)可成為線性系統(tǒng)，并稱為線性自適應(yīng)系統(tǒng)，因?yàn)檫@類系統(tǒng)便于設(shè)計(jì)且易于數(shù)學(xué)處理，所以實(shí)際應(yīng)用廣泛。本文研究的自適應(yīng)濾波器就是這類濾波器。自適應(yīng)信號處理的應(yīng)用領(lǐng)域包括通信、雷達(dá)、聲納、地震學(xué)、導(dǎo)航系統(tǒng)、生物醫(yī)學(xué)和工

16、業(yè)控制等。自適應(yīng)濾波器是相對固定濾波器而言的，固定濾波器屬于經(jīng)典濾波器，它濾波的頻率是固定的，自適應(yīng)濾波器濾波的頻率則是自動適應(yīng)輸入信號而變化的，所以其適用范圍更廣。在沒有任何關(guān)于信號和噪聲的先驗(yàn)知識的條件下，自適應(yīng)濾波器利用前一時(shí)刻已獲得的濾波器參數(shù)來自動調(diào)節(jié)現(xiàn)時(shí)刻的濾波器參數(shù)，以適應(yīng)信號和噪聲未知或隨機(jī)變化的統(tǒng)計(jì)特性，從而實(shí)現(xiàn)最優(yōu)濾波。自適應(yīng)濾波器出現(xiàn)以后，發(fā)展很快。由于設(shè)計(jì)簡單、性能最佳，自適應(yīng)濾波器是目前數(shù)字濾波器領(lǐng)域是活躍的分支，也是數(shù)字濾波器研究的熱點(diǎn)。主要自適應(yīng)濾波器有：遞推最小二乘（RLS）濾波器、最小均方差（LMS）濾波器、格型濾波器、無限沖激響應(yīng)（IIR）濾波器。實(shí)際情況中

17、，由于信號和噪聲的統(tǒng)計(jì)特性常常未知或無法獲知，這就為自適應(yīng)濾波器提供廣闊的應(yīng)用空間、系統(tǒng)辨識、噪聲對消、自適應(yīng)譜線增強(qiáng)、通信信道的自適應(yīng)均衡、線性預(yù)測、自適應(yīng)天線陣列等是自適應(yīng)濾波器的主要應(yīng)用領(lǐng)域。2.2 自適應(yīng)濾波器設(shè)計(jì)原理自適應(yīng)濾波器是以最小均方誤差為準(zhǔn)則，由自適應(yīng)算法通過調(diào)整濾波器系數(shù)，以達(dá)到最優(yōu)濾波的時(shí)變最佳濾波器。設(shè)計(jì)自適應(yīng)濾波器時(shí)，可以不必預(yù)先知道信號與噪聲的自相關(guān)函數(shù)，在濾波過程中，即使噪聲與信號的自相關(guān)函數(shù)隨時(shí)間緩慢變化，濾波器也能自動適應(yīng)，自動調(diào)節(jié)到滿足均方誤差最小的要求。自適應(yīng)濾波器主要由參數(shù)可調(diào)的數(shù)字濾波器和調(diào)整濾波器系數(shù)的自適應(yīng)算法兩部分構(gòu)成自適應(yīng)濾波器的一般結(jié)構(gòu)如圖1

18、所示。圖1中d(k)為期望響應(yīng)，x(k)為自適應(yīng)濾波器的輸入，y(k)為自適應(yīng)濾波器的輸出，e(k)為估計(jì)誤差，e(k)=d(k)-y(k)，前置級完成跟蹤信號的選擇，確定是信號還是噪聲；后置級根據(jù)前置級的不同選擇對數(shù)字濾波器輸出作不同的處理，以得到信號輸出。自適應(yīng)濾波器的濾波器系數(shù)受誤差信號e(k)控制，e(k)通過某種自適應(yīng)算法對濾波器參數(shù)進(jìn)行調(diào)整，最終使e(k)的均方值最小。因此，實(shí)際上，自適應(yīng)濾波器是一種能夠自動調(diào)整本身參數(shù)的特殊維納濾波器，在設(shè)計(jì)時(shí)不需要事先知道關(guān)于輸入信號和噪聲的統(tǒng)計(jì)特性的知識，它能夠在自己的工作過程中逐漸“了解”或估計(jì)出所需的統(tǒng)計(jì)特性，并以此為依據(jù)自動調(diào)整自己的參

19、數(shù)，以達(dá)到最佳濾波效果。一旦輸入信號的統(tǒng)計(jì)特性發(fā)生變化，它又能夠跟蹤這種變化，自動調(diào)整參數(shù)，使濾波器性能重新達(dá)到最佳。參數(shù)可調(diào)數(shù)字濾波器自適應(yīng)濾波器算法+-d(k)e(k)y(k)圖1 自適應(yīng)濾波器的基本結(jié)構(gòu)2.3自適應(yīng)濾波器的結(jié)構(gòu)及LMS算法2.3.1 自適應(yīng)濾波器結(jié)構(gòu)自適應(yīng)濾波器的結(jié)構(gòu)有FIR和IIR兩種。FIR濾波器是一種非遞歸系統(tǒng)，即當(dāng)前輸出樣本僅是過去和現(xiàn)在輸入樣本的函數(shù)，其沖擊響應(yīng)是一個(gè)有限長序列，并且僅在原點(diǎn)處有極點(diǎn)；IIR濾波器是遞歸系統(tǒng)，即當(dāng)前輸出樣本是過去輸出和過去輸入樣本的函數(shù)，并且其沖擊響應(yīng)具有無限的持續(xù)時(shí)間。因?yàn)镕IR濾波器除原點(diǎn)外，只有零點(diǎn)沒有極點(diǎn)，因此其具有很好的

20、線性相位，即這種濾波器不會給信號帶來相位失真，而IIR的相位響應(yīng)是非線性的；另外，由于FIR濾波器是非遞歸的，穩(wěn)定性比較好，而IIR濾波器的穩(wěn)定性不能得到保證，并且實(shí)現(xiàn)起來也比較復(fù)雜；由于IIR濾波器存在穩(wěn)定性的問題，并且實(shí)現(xiàn)起來也比較復(fù)雜。因此本設(shè)計(jì)采用FIR濾波器。自適應(yīng)FIR濾波器結(jié)構(gòu)又可分為3種結(jié)構(gòu)類型：橫向型結(jié)構(gòu)、對稱橫向型結(jié)構(gòu)以及格形結(jié)構(gòu)，由于FIR濾波器橫向結(jié)構(gòu)的算法具有容易實(shí)現(xiàn)、計(jì)算量少等優(yōu)點(diǎn)，在對線性相位要求不嚴(yán)格、收斂速度不是很快的場合，多采用FIR作為自適應(yīng)濾波器橫向結(jié)構(gòu)。故本設(shè)計(jì)采用這種FIR橫向?yàn)V波器結(jié)構(gòu)作為自適應(yīng)濾波器的結(jié)構(gòu)，如圖2示+W2(k)+y(k)X(k-M

21、+1)WM-1(k)Wo(k)W1(k)Z-1Z-1Z-1+自適應(yīng)算法圖2 FIR橫向?yàn)V波器結(jié)構(gòu)圖設(shè)其中，為自適應(yīng)濾波器的輸入矢量；是權(quán)系數(shù)矢量，即自適應(yīng)濾波器的沖激響應(yīng)；y(k)為自適應(yīng)濾波器的輸出矢量。T為矩陣轉(zhuǎn)置符，k為時(shí)間序列，M為濾波器的階數(shù)。自適應(yīng)濾波器除包括一個(gè)按照某種結(jié)構(gòu)設(shè)計(jì)的濾波器外，還有一套自適應(yīng)的算法。自適算法是根據(jù)某種判斷來設(shè)計(jì)濾波器的。該算法包括最小均方算法（LMS）、最小高階均方算法（LMF）、最小平方算法（OLS）、遞推最小算法（RLS）等等。本文主要介紹LMS(Least Mean Squares，最小均方)自適應(yīng)算法的原理。2.3.2LMS算法(1)LMS算法

22、描述LMS算法的性能準(zhǔn)則是采用瞬時(shí)平方誤差性能函數(shù)代替均方誤差性能函數(shù),其實(shí)XT (k) 質(zhì)是以當(dāng)前輸出誤差、當(dāng)前參考信號和當(dāng)前權(quán)系數(shù)求得下個(gè)時(shí)刻的權(quán)系數(shù)。其輸出信號、輸出誤差及權(quán)系數(shù)的計(jì)算公式為: = = 式中表示第k時(shí)刻參考信號矢量，,k為迭代次數(shù),為濾波器的階數(shù)。表示第時(shí)刻的輸入信號矢量,y(k)、e(k)分別表示第時(shí)刻的輸出信號與輸出誤差,表示時(shí)刻權(quán)系數(shù)矢量,。表示LMS算法步長收斂因子。自適應(yīng)濾波器收斂的條件是x。其中，是輸入信號的自相關(guān)矩陣的最大特征值。的選取必須在收斂速度和失調(diào)之間取得較好的折中,既要具有較快的收斂速度,又要使穩(wěn)態(tài)誤差最小。它控制了算法穩(wěn)定性和自適應(yīng)速度，如果很小

23、，算法的自適應(yīng)速度會很慢;如果很大，算法會變得不穩(wěn)定。由于LMS算法結(jié)構(gòu)簡單、計(jì)算量小、穩(wěn)定性好,因此被廣泛應(yīng)用于系統(tǒng)辨識、信號增強(qiáng)、自適應(yīng)波束形成、噪聲消除以及控制領(lǐng)域等。(2)基本LMS算法構(gòu)成自適應(yīng)數(shù)字濾波器的基本部件是自適應(yīng)線性組合器，如圖 8-1 的所示。設(shè)線性組合 器的個(gè)輸入為,其輸出是這些輸入加權(quán)后的線性組合，即。+ . . ;+_+圖3 自適應(yīng)線性組合器定義權(quán)向量且在圖(1)中，令d(k)代表“所期望的響應(yīng)”，并定義誤差信號寫成向量形式：誤差平方為：上式兩邊取數(shù)學(xué)期望后，得均方差：（2.1）定義互相關(guān)函數(shù)行向量：=和自相關(guān)函數(shù)矩陣則均方誤差（2.1）式可表述為： （2.2）這表

24、明，均方誤差是權(quán)系數(shù)向量的二次函數(shù)，它是一個(gè)中間向上凹的拋物形曲面，是具有唯一最小值的函數(shù)。調(diào)節(jié)權(quán)系數(shù)使均方誤差最小，相當(dāng)于沿拋物形曲面下降找到最小值。可以用梯度來求該最小值。將式（2.2）對權(quán)系數(shù)求導(dǎo)數(shù)，得到均方誤差函數(shù)的梯度 令，即可求出最佳僅系數(shù)向量： (2.3)將Wopt代入式(2.3)得最小均方誤差：利用（2.3）式求最佳權(quán)系數(shù)向量的精確解需要知道和的先驗(yàn)統(tǒng)計(jì)知識，而且還需要進(jìn)行矩陣求逆等運(yùn)算。Windrow and Hoff提出了一種在這些先驗(yàn)統(tǒng)計(jì)知識未知時(shí)求Wopt的近似的方法，習(xí)慣上稱為Windrow and Hoff LMS算法。這種算法的根據(jù)是最優(yōu)化方法中的最速下降法。根據(jù)

25、最速下降法，“下一時(shí)刻”權(quán)系數(shù)向量應(yīng)該等于“現(xiàn)時(shí)刻”權(quán)系數(shù)向加上一個(gè)負(fù)均方誤差梯度-(k)的比例項(xiàng)，即式中，是一個(gè)控制收斂速度與穩(wěn)定性的常數(shù)，稱之為收斂因子。 不難看出，LMS算法有兩個(gè)關(guān)鍵：梯度的計(jì)算以及收斂因子的選擇。精確計(jì)算梯度是十分困難的，一種粗略的但是卻十分有效的計(jì)算梯度的近似方法是：直接取(k)作為均方誤差E(k)的估計(jì)值，即： (2.4)式中的為= （2.5）將式（2.5）代入式（2.4）中，得到梯度估值于是，Widrow-Hoff LMS算法最終為 （2.6）可以證明，梯度估值是無偏的，因此，梯度估值是無偏估計(jì)。的選擇:對權(quán)系數(shù)向量更新公式（2.6）兩邊取數(shù)學(xué)期望，得式中，為單

26、位矩陣，和。當(dāng)k=0時(shí)，對于k=1,利用上式結(jié)果，則有起始時(shí)，故 由于是實(shí)值的對稱陣，可以寫出特征值分解式：這里我們利用了正定陣的性質(zhì)，且是對角陣，其對角元素是的特征值。將式（18）代入式（17）后得： (2.7)注意到以下恒等式以及關(guān)系式： (2.8) (2.9)假定所有的對角元素的值均小于1，則將式（2.8）-（2.9）代入式(2.7),結(jié)果有由此可見，當(dāng)?shù)螖?shù)無限增加時(shí)，權(quán)系數(shù)向量的數(shù)學(xué)期望可收斂至維納解，其條件是對角陣的所有對角元素均小于1,即或 其中是的最大特征值。稱為收斂因子，它決定達(dá)到維納解的速率?；綥MS自適應(yīng)算法如下：初始化：;選擇: :LMS自適應(yīng)濾波器如圖所示。+W2

27、(k)+y(k)X(k-M+1)X(k)WM-1(k)Wo(k)W1(k)Z-1Z-1Z-1+LMS自適應(yīng)算法圖3 LMS自適應(yīng)濾波器 2.4 小結(jié)本章從自適應(yīng)濾波器出發(fā)，介紹了自適應(yīng)濾波器的結(jié)構(gòu)與設(shè)計(jì)原理，重點(diǎn)描述了LMS算法和該算法推導(dǎo)過程，最后給出了設(shè)計(jì)一個(gè)LMS自適應(yīng)濾波器的基本步驟。第三章 仿真軟件 MATLAB 簡介3.1 MATLAB的概況MATLAB是矩陣實(shí)驗(yàn)室（Matrix Laboratory）之意。除具備卓越的數(shù)值計(jì)算能力外，它還提供了專業(yè)水平的符號計(jì)算，文字處理，可視化建模仿真和實(shí)時(shí)控制等功能。MATLAB的基本數(shù)據(jù)單位是矩陣，它的指令表達(dá)式與數(shù)學(xué),工程中常用的形式十分

28、相似,故用MATLAB來解算問題要比用C，F(xiàn)ORTRAN等語言做相同的事情簡捷得多。當(dāng)前流行的MATLAB 7.0包括擁有數(shù)百個(gè)內(nèi)部函數(shù)的主包和三十幾種工具包(Toolbox)工具包又可以分為功能性工具包和學(xué)科工具包。功能工具包用來擴(kuò)充MATLAB的符號計(jì)算，可視化建模仿真,文字處理及實(shí)時(shí)控制等功能。學(xué)科工具包是專業(yè)性比較強(qiáng)的工具包,控制工具包，信號處理工具包，通信工具包等都屬于此類。開放性使MATLAB廣受用戶歡迎。除內(nèi)部函數(shù)外，所有MATLAB主包文件和各種工具包都是可讀可修改的文件，用戶通過對源程序的修改或加入自己編寫程序構(gòu)造新的專用工具包。3.1.1 MATLAB產(chǎn)生的歷史背景在70年

29、代中期，Cleve Moler博士和其同事在美國國家科學(xué)基金的資助下開發(fā)了調(diào)用EISPACK和LINPACK的FORTRAN子程序庫。EISPACK是特征值求解的FOETRAN程序庫，LINPACK是解線性方程的程序庫。在當(dāng)時(shí)，這兩個(gè)程序庫代表矩陣運(yùn)算的最高水平。到70年代后期，身為美國New Mexico大學(xué)計(jì)算機(jī)系系主任的Cleve Moler，在給學(xué)生講授線性代數(shù)課程教學(xué)生使用EISPACK和LINPACK程序庫時(shí)，他發(fā)現(xiàn)學(xué)生用FORTRAN編寫接口程序很費(fèi)時(shí)間，于是他開始利用業(yè)余時(shí)間自己動手為學(xué)生編寫EISPACK和LINPACK的接口程序。Cleve Moler給這個(gè)接口程序取名為M

30、ATLAB，該名為矩陣(matrix)和實(shí)驗(yàn)室(laboratory)兩個(gè)英文單詞的前三個(gè)字母的組合.在以后的數(shù)年里，MATLAB在多所大學(xué)里作為教學(xué)輔助軟件使用，并作為面向大眾的免費(fèi)軟件廣為流傳。1983年春天，Cleve Moler到Stanford大學(xué)講學(xué)，MATLAB深深地吸引了工程師John Little。John Little敏銳地覺察到MATLAB在工程領(lǐng)域的廣闊前景。同年，他和Cleve Moler，Steve Bangert一起用C語言開發(fā)了第二代專業(yè)版。這一代的MATLAB語言同時(shí)具備了數(shù)值計(jì)算和數(shù)據(jù)圖示化的功能。1984年，Cleve Moler和John Little成

31、立了Math Works公司，正式把MATLAB推向市場并繼續(xù)進(jìn)行MATLAB的研究和開發(fā)。在當(dāng)今30多個(gè)數(shù)學(xué)類科技應(yīng)用軟件中，就軟件數(shù)學(xué)處理的原始內(nèi)核而言，可分為兩大類。一類是數(shù)值計(jì)算型軟件，如MATLAB，Xmath，Gauss等這類軟件長于數(shù)值計(jì)算，對處理大批數(shù)據(jù)效率高；另一類是數(shù)學(xué)分析型軟件，Mathematical，Maple等，這類軟件以符號計(jì)算見長，能給出解析解和任意精確解，其缺點(diǎn)是處理大量數(shù)據(jù)時(shí)效率較低。MathWorks公司順應(yīng)多功能需求之潮流，在其卓越數(shù)值計(jì)算和圖示能力的基礎(chǔ)上，又率先在專業(yè)水平上開拓了其符號計(jì)算，文字處理，可視化建模和實(shí)時(shí)控制能力，開發(fā)了適合多學(xué)科，多部門

32、要求的新一代科技應(yīng)用軟件MATLAB。經(jīng)過多年的國際競爭，MATLAB已經(jīng)占據(jù)了數(shù)值軟件市場的主導(dǎo)地位。在MATLAB進(jìn)入市場前，國際上的許多軟件包都是直接以FORTRANC語言等編程語言開發(fā)的。這種軟件的缺點(diǎn)是使用面窄，接口簡陋，程序結(jié)構(gòu)不開放以及沒有標(biāo)準(zhǔn)的基庫，很難適應(yīng)各學(xué)科的最新發(fā)展，因而很難推廣。MATLAB的出現(xiàn)，為各國科學(xué)家開發(fā)學(xué)科軟件提供了新的基礎(chǔ)。在MATLAB問世不久的80年代中期，原先控制領(lǐng)域里的一些軟件包紛紛被淘汰或在MATLAB上重建。到今天，經(jīng)過MathWorks公司的不斷完善，MATLAB已經(jīng)發(fā)展成為適合多學(xué)科，多種工作平臺的功能強(qiáng)大的大型軟件。在國外，MATLAB

33、已經(jīng)經(jīng)受了多年考驗(yàn)。在歐美等高校，MATLAB已經(jīng)成為線性代數(shù)，自動控制理論，數(shù)理統(tǒng)計(jì)，數(shù)字信號處理，時(shí)間序列分析，動態(tài)系統(tǒng)仿真等高級課程的基本教學(xué)工具；成為攻讀學(xué)位的大學(xué)生，碩士生，博士生必須掌握的基本技能。在設(shè)計(jì)研究單位和工業(yè)部門，MATLAB被廣泛用于科學(xué)研究和解決各種具體問題。在國內(nèi)，特別是工程界，MATLAB一定會盛行起來?？梢哉f，不管從事工程方面的哪個(gè)學(xué)科，都能在MATLAB里找到合適的功能。3.1.2 MATLAB的語言特點(diǎn)一種語言之所以能如此迅速地普及，顯示出如此旺盛的生命力，是由于它有著不同于其他語言的特點(diǎn)，正如同F(xiàn)ORTRAN和C等高級語言使人們擺脫了需要直接對計(jì)算機(jī)硬件資

34、源進(jìn)行操作一樣，被稱作為第四代計(jì)算機(jī)語言的MATLAB，利用其豐富的函數(shù)資源，使編程人員從繁瑣的程序代碼中解放出來。MATLAB最突出的特點(diǎn)就是簡潔。MATLAB用更直觀的，符合人們思維習(xí)慣的代碼，代替了C和FORTRAN語言的冗長代碼。MATLAB給用戶帶來的是最直觀，最簡潔的程序開發(fā)環(huán)境。以下簡單介紹一下MATLAB的主要特點(diǎn)。1. 語言簡潔緊湊，使用方便靈活，庫函數(shù)極其豐富。MATLAB程序書寫形式自由，利用起豐富的庫函數(shù)避開繁雜的子程序編程任務(wù)，壓縮了一切不必要的編程工作。由于庫函數(shù)都由本領(lǐng)域的專家編寫，用戶不必?fù)?dān)心函數(shù)的可靠性。可以說，用MATLAB進(jìn)行科技開發(fā)是站在專家的肩膀上。

35、我們知道，如果用FORTRAN或C語言去編寫程序，尤其當(dāng)涉及矩陣運(yùn)算和畫圖時(shí)，編程會很麻煩。例如，如果用戶想求解一個(gè)線性代數(shù)方程，就得編寫一個(gè)程序塊讀入數(shù)據(jù)，然后再使用一種求解線性方程的算法（例如追趕法）編寫一個(gè)程序塊來求解方程，最后再輸出計(jì)算結(jié)果。在求解過程中，最麻煩的要算第二部分。解線性方程的麻煩在于要對矩陣的元素作循環(huán)，選擇穩(wěn)定的算法以及代碼的調(diào)試動不容易。即使有部分源代碼，用戶也會感到麻煩，且不能保證運(yùn)算的穩(wěn)定性。解線性方程的程序用FORTRAN和C這樣的高級語言編寫，至少需要四百多行，調(diào)試這種幾百行的計(jì)算程序可以說很困難。以下用MATLAB編寫以上兩個(gè)小程序的具體過程。MATLAB求

36、解下列方程，并求解矩陣A的特征值。Ax=b, 其中：A= 32 13 45 67 23 79 85 12 43 23 54 65 98 34 71 35b= 1 2 3 4解為：x=Ab；設(shè)A的特征值組成的向量e，e=eig（A）。 可見，MATLAB的程序極其簡短。更為難能可貴的是，MATLAB甚至具有一定的智能水平，比如上面的解方程，MATLAB會根據(jù)矩陣的特性選擇方程的求解方法，所以用戶根本不用懷疑MATLAB的準(zhǔn)確性。2. 運(yùn)算符豐富。由于MATLAB是用C語言編寫的，MATLAB提供了和C語言幾乎一樣多的運(yùn)算符，靈活使用MATLAB的運(yùn)算符將使程序變得極為簡短。3. MATLAB既具

37、有結(jié)構(gòu)化的控制語句（如for循環(huán)，while循環(huán)，break語句和if語句），又有面向?qū)ο缶幊痰奶匦浴?. 程序限制不嚴(yán)格，程序設(shè)計(jì)自由度大。例如，在MATLAB里，用戶無需對矩陣預(yù)定義就可使用。5. 程序的可移植性很好，基本上不做修改就可以在各種型號的計(jì)算機(jī)和操作系統(tǒng)上運(yùn)行。6. MATLAB的圖形功能強(qiáng)大。在FORTRAN和C語言里，繪圖都很不容易，但在MATLAB里，數(shù)據(jù)的可視化非常簡單。MATLAB還具有較強(qiáng)的編輯圖形界面的能力。7. MATLAB的缺點(diǎn)是，它和其他高級程序相比，程序的執(zhí)行速度較慢。由于MATLAB的程序不用編譯等預(yù)處理，也不生成可執(zhí)行文件，程序?yàn)榻忉寛?zhí)行，所以速度較慢

38、。8. 功能強(qiáng)大的工具箱是MATLAB的另一特色。MATLAB包含兩個(gè)部分：核心部分和各種可選的工具箱。核心部分中有數(shù)百個(gè)核心內(nèi)部函數(shù)。其工具箱又分為兩類：功能性工具箱和學(xué)科性工具箱。功能性工具箱主要用來擴(kuò)充其符號計(jì)算功能，圖示建模仿真功能，文字處理功能以及與硬件實(shí)時(shí)交互功能。功能性工具箱用于多種學(xué)科。而學(xué)科性工具箱是專業(yè)性比較強(qiáng)的，如control toolbox, signal processing toolbox, communication toolbox等。這些工具箱都是由該領(lǐng)域內(nèi)學(xué)術(shù)水平很高的專家編寫的，所以用戶無需編寫自己學(xué)科范圍內(nèi)的基礎(chǔ)程序，而直接進(jìn)行高，精，尖的研究。9. 源

39、程序的開放性。開放性也許是MATLAB最受人們歡迎的特點(diǎn)。除內(nèi)部函數(shù)以外，所有MATLAB的核心文件和工具箱文件都是可讀可改的源文件，用戶可通過對源文件的修改以及加入自己的文件構(gòu)成新的工具箱。3.2 MATLAB仿真的基本流程使用MATLAB軟件進(jìn)行仿真的基本操作流程如下圖所示，用戶首先要進(jìn)行問題定義， 考慮自己要仿真什么東西，大概的算法應(yīng)該怎樣，然后按照算法編寫程序，生成.m文件后運(yùn)行，如果結(jié)果是我們的預(yù)期，那么整個(gè)仿真過程即可順利結(jié)束，否則，應(yīng)該分析問題所在，并重新考慮問題定義、源碼修改的必要性。結(jié)束開始問題定義編寫程序執(zhí)行仿真分析結(jié)果結(jié)果滿意？分析問題所在 滿意 圖3.2 MATLAB仿

40、真流程圖3.3 小結(jié)本章對MATLAB仿真軟件進(jìn)行了簡單了介紹，包括該軟件的發(fā)展，語言特點(diǎn)等等，并給出了MATLAB仿真的一般流程圖。第四章 LMS自適應(yīng)濾波器的MATLAB實(shí)現(xiàn)4.1 自適應(yīng)濾波器出現(xiàn)的意義 自適應(yīng)濾波器與普通的濾波器不同，它的沖激響應(yīng)或?yàn)V波參數(shù)是隨外部環(huán)境的變化而改變的，經(jīng)過一段自動調(diào)節(jié)的收斂時(shí)間達(dá)到最佳濾波的要求。最早的自適應(yīng)濾波器可以追溯到二十世紀(jì)五十年代末期，在這個(gè)時(shí)期大量的研究者獨(dú)立工作在這種濾波器的不同應(yīng)用領(lǐng)域。依賴于這類早期工作，出現(xiàn)了最小均方(LMS)算法，它成為運(yùn)行橫向?yàn)V波器的一種簡單而有效的算法。LMS算法是Widrow和Hoff在1959年研究自適應(yīng)線性

41、元素的模式識別方案時(shí)發(fā)明的。LMS算法是一種隨機(jī)梯度算法，它在相對于抽頭權(quán)值的誤差信號平方幅度的梯度方向上迭代調(diào)整每個(gè)抽頭權(quán)值。自適應(yīng)濾波器是統(tǒng)計(jì)信號處理的一個(gè)重要組成部分。凡是需要處理未知統(tǒng)計(jì)環(huán)境下運(yùn)算結(jié)果所產(chǎn)生的信號或需要處理非平穩(wěn)信號時(shí)，自適應(yīng)濾波器可提供一種十分吸引人的解決方法，而且其性能遠(yuǎn)優(yōu)于用常規(guī)方法設(shè)計(jì)的固定濾波器。此外，自適應(yīng)濾波器還能提供非自適應(yīng)方法所不可能提供的信號處理能力。因此，自適應(yīng)濾波器成功地應(yīng)用于諸如通信，控制，雷達(dá)，聲納，地震和生物醫(yī)學(xué)工程等諸多領(lǐng)域。 4.2 自適應(yīng)濾波器的實(shí)現(xiàn)4.2.1 最速下降法的仿真在第二章中推導(dǎo)了最速下降法的原理，因?yàn)榫秸`差函數(shù)是濾波系

42、數(shù)的二次方程，由此形成了一個(gè)多維的超拋物曲面，這好象一個(gè)碗狀曲面又具有惟一的碗底的最小點(diǎn)，通常稱之為自適應(yīng)濾器的誤差性能曲面。當(dāng)濾波器工作在平穩(wěn)隨機(jī)過程的環(huán)境下，這個(gè)誤差性能曲面就具有固定邊緣的恒定形狀。自適應(yīng)濾波器的起始值是任意值，位于誤差性能曲面上的某一點(diǎn)，經(jīng)過自適應(yīng)調(diào)節(jié)過程，使對應(yīng)于濾波系數(shù)變化的點(diǎn)移動，朝碗底最小點(diǎn)方向移動，最終到達(dá)碗底最小點(diǎn)，實(shí)現(xiàn)了最佳維納濾波。最速下降法是實(shí)現(xiàn)上述最佳搜索的一種優(yōu)化技術(shù)，它利用梯度信息分析自適應(yīng)濾波性能和追蹤最佳濾波狀態(tài)。根據(jù)最速下降法，“下一時(shí)刻”權(quán)系數(shù)向量應(yīng)該等于“現(xiàn)時(shí)刻”權(quán)系數(shù)向加上一個(gè)負(fù)均方誤差梯度的比例項(xiàng)，即式中，是一個(gè)控制收斂速度與穩(wěn)定性

43、的常數(shù)，稱之為收斂因子。仿真的結(jié)果如下： 圖4.1 最速下降法的仿真從圖中我們可以看出，一開始的時(shí)候誤差較大，隨著時(shí)間的增長，誤差逐漸減小，最后達(dá)到所允許的誤差范圍內(nèi)。 4.2.2 LMS算法的MATLAB仿真4.2.2.1基于 LMS算法的自適應(yīng)濾波器設(shè)計(jì)LMS算法最核心的思想是用平方誤差代替均方誤差，其基本算法為，其中，和分別為迭代前后的系數(shù)值；和為前后兩個(gè)時(shí)；，為濾波器的階數(shù)；為收斂因子；為誤差信號，為輸入信號；為輸出信號。在自適應(yīng)濾波器的實(shí)際操作中，一個(gè)必須注意的問題是自適應(yīng)步長的選擇。由LMS迭代算法可知，欲使其收斂，則自適應(yīng)步長的取值范圍為。通過實(shí)際的仿真可得出：通過程序設(shè)定濾波器

44、的理想輸入信號和噪聲輸入信號，疊加信號通過LMS自適應(yīng)濾波器濾波后，隨時(shí)間的增長，預(yù)測信號與實(shí)際信號之間的誤差將會越來越小，也即達(dá)到了根據(jù)外部變化，通過LMS算法控制濾波參數(shù)，來追蹤實(shí)際信號的效果。4.2.2.2 LMS算法中正交性原理分析 在最速下降法中我們介紹到，在輸入信號和參考響應(yīng)都是隨即信號的情況下，自適應(yīng)線性組合器的均方性能曲面是權(quán)矢量W(n)的二次函數(shù)，由于自相關(guān)矩陣為正交矩陣，及成一向上凹的拋物面，即是二次均方函數(shù)有唯一的最小植。然兒在實(shí)際的LMS算法中我們確沒有用到自相關(guān)距陣序列，而是依據(jù)輸入信號在跌代過程中估計(jì)梯度矢量，并更新權(quán)系數(shù)以達(dá)到最佳的自適應(yīng)算法，然而在LMS算法中我

45、們?nèi)绾蝸韺?shí)現(xiàn)這一最佳權(quán)系數(shù)的確定呢，由此引入正交原理。我們研究的自適應(yīng)濾波的目的是使系統(tǒng)能夠自我調(diào)節(jié)最終使輸出信號逼近于期望信號，也就是使期望響應(yīng)與輸出響應(yīng)的差值最小，理想誤差為0 ，即： e(n)=d(n)-y(n)我們?nèi)我饧僭O(shè)某一時(shí)刻的期望響應(yīng)d(n)與輸出響應(yīng)x(n向量的大小和方向然而由數(shù)學(xué)的勾股定理我們不難得出，要使e(n)最小，那么必須使得e(n)與y(n)正交。在自適應(yīng)濾波過程中，濾波器的輸出響應(yīng)y(n)隨權(quán)系數(shù)W的調(diào)整，使輸出響應(yīng)y(n)在二位空間里逐漸逼近于期望響應(yīng)d(n)，當(dāng)輸出響應(yīng)逼近于期望響應(yīng)時(shí)即當(dāng)期望響應(yīng)相似于輸出響應(yīng)時(shí)，在幾何圖解中即d(n)是在P方向上的投影，y(n

46、)為在P方向上的向量，此時(shí)e(n)與y(n)正交。此時(shí)均方誤差最小，又由y(n)=x(n)tw(n)知道，y(n)為w(n)與x(n)的積，因此時(shí)的輸入響應(yīng)x(n)為已知且唯一的，那么此刻就存在且只有一個(gè)權(quán)系數(shù)W,即為濾波器的最佳權(quán)系數(shù)。又因?yàn)閥(n)與x(n)向量的方向相同，那么得到的y(n)與x(n)正交，由正交性質(zhì)：兩兩想正交則內(nèi)積為零。所以2e(n)X(n)等于0。推出w(n+1)=w(n),既自適應(yīng)濾波器輸出響應(yīng)與期望響應(yīng)逼近后，濾波器的權(quán)系數(shù)將不再改變，理想狀態(tài)下即誤差為零，最佳權(quán)系數(shù)也就確定。4.2.2.3 LMS算法的MATLAB程序仿真（1）程序見附錄（2）程序仿真結(jié)果如圖：

47、 圖 4.2 由圖的仿真結(jié)果看出上述的LMS自適應(yīng)濾波程序能夠?qū)崿F(xiàn)期望的收斂狀態(tài)。4.2.2.4 對LMS算法參數(shù)的分析研究傳統(tǒng)的LMS算法具有計(jì)算量小，結(jié)構(gòu)簡單，易于實(shí)現(xiàn)等優(yōu)點(diǎn)，尤其是這種算法是最先由統(tǒng)計(jì)分析法導(dǎo)出的一種實(shí)用算法，它是一類自適應(yīng)濾濾波器的基礎(chǔ)。在本小節(jié)中用MATLAB軟件對LMS的算法中的一些參數(shù)做認(rèn)真的研究，并總結(jié)出其對算法的影響。（1）步長。步長是表征迭代快慢的物理量。由LMS算法可知，步長越大，自適應(yīng)時(shí)間越短，自適應(yīng)過程越快，但它引起的失調(diào)也越大，當(dāng)大于1/max時(shí)，系統(tǒng)發(fā)散；步長越小，系統(tǒng)越穩(wěn)定，失調(diào)越小，但是自適應(yīng)過程也相應(yīng)加長。因此，步長的選擇要從整個(gè)系統(tǒng)的要求出

48、發(fā)，在滿足精度要求的前提下，盡量減少自適應(yīng)時(shí)間。可以通過對一程序中步長值大小的改動來觀察步長大小對于自適應(yīng)濾波器性能產(chǎn)生的影響： 1：隨著步長增大時(shí)： 圖4.3 由圖4.3知，當(dāng)步長很大是，LMS算法將不能完成收斂。2：當(dāng)步長過小時(shí)， 圖4.4比較圖4.2知濾波器的預(yù)測誤差會很大，需要經(jīng)過很長的時(shí)間，才會達(dá)到所要求的狀態(tài)，這是不夠理想的，由此也證明了步長越小，收斂時(shí)間越長。（2）濾波器的階數(shù)N。對于不同的濾波器階數(shù)可得到不同的濾波效果：1：當(dāng)階數(shù)過小時(shí)N=10如圖有： 圖4.5N減小時(shí)會產(chǎn)生較大的預(yù)測誤差，這對濾波器的性能將是一個(gè)很大的影響。2：當(dāng)階數(shù)過大N=200時(shí)，如圖：， 圖4.6 產(chǎn)生的影響將是可能導(dǎo)致LMS算法的收斂，從而也就達(dá)不到所要求的狀態(tài)，無法準(zhǔn)確的跟蹤輸入信號。4.3 小結(jié)本章在介紹了自適應(yīng)濾波器出現(xiàn)的意義后，用MATLAB軟件對最速下降法和LMS算法進(jìn)行了