自適應(yīng)信號處理

1、1. 自適應(yīng)信號處理基本概念，解決的問題，適用條件下（平穩(wěn)、短時平穩(wěn)），結(jié)構(gòu)分類。自適應(yīng)信號處理:是研究一類結(jié)構(gòu)可變或可以調(diào)整的系統(tǒng)，它通過自身與外界環(huán)境的接觸來改善自身對信號處理的性能。通常這類系統(tǒng)是時變的非線性系統(tǒng)，可以自動適應(yīng)信號傳送變化的環(huán)境和要求。 自適應(yīng)系統(tǒng)和一般系統(tǒng)類似，可以分為開環(huán)系統(tǒng)（閉環(huán)：計算量小，收斂慢；開環(huán)：計算量大，收斂快）和閉環(huán)系統(tǒng)兩種類型。開環(huán)系統(tǒng)僅由輸入確定，而閉環(huán)不僅取決于輸入，還依賴于系統(tǒng)輸出的結(jié)果。自適應(yīng)信號處理所研究的信號既可以是隨機平穩(wěn)信號，也可以是局部平穩(wěn)隨機信號，也可以是窄帶或者是寬帶信號。2、信號相關(guān)矩陣及其性質(zhì)，梯度運算: 輸入信號的相關(guān)矩陣：

2、REX*XT=Ex0*x0Ex0*xLExL*x0ExL*xL，相關(guān)矩陣R是厄米特矩陣，即滿足R* = RT。作為厄米特矩陣，它具有以下性質(zhì)：對應(yīng)于R的不同特征值的特征向量都是正交的。R是正定（或半正定）矩陣，它所有的特征值都為實數(shù)，且大于或等于零。所有特征值之和等于矩陣R的跡，即為輸入信號的功率。【定義一個幺向量：1=1 1 1T，于是，R的特征值之和為1T1=1TQHRQ1=m=0L n=0LrmnQmHQn = n=0LE|xn|2 上式等號右邊的求和即為矩陣R的跡（矩陣主對角線所有元素之和），亦即系統(tǒng)輸入信號的功率?！啃盘栂嚓P(guān)矩陣R可以被分解為一個實對稱矩陣和一個實反對稱矩陣，即：R=

3、Ra+jRb ，其中，實矩陣Ra、Rb分別滿足條件：Ra T=Ra和RbT =- Rb若W為L+1維的權(quán)向量，則對相關(guān)矩陣R，存在關(guān)于W的一個瑞利商，且對于所有W的瑞利商均為實數(shù)。 瑞利商Ray(W)= WHRWWHWR可分解為R=QQT where Q q0,q1, ql, 000l信號子空間：Rs非零特征值對應(yīng)的特征向量張成的子空間。Spanq0,q1, qs噪聲子空間：信號子空間的正交補空間Rs零特征值特征向量。Span qs+1,qs+2, ql+1梯度運算：（W）W= 0+j0b1a+j1bLa+jLb T式中l(wèi)a, lb分別是向量W的第l個元素l的實部和虛部，即l=la+jlb；即

4、為（W）。實標量函數(shù)的梯度是一個向量，其方向代表該函數(shù)最陡下降時W變化方向的負向。 =W（WHRW）=2RW3、性能測量方法。（代價函數(shù)）最小均方誤差（MSE）：準則-誤差信號功率最?。?(W)=E|k|2= E|dk|2+ WHRW - 2Re(WTP)，（代價函數(shù)） Wopt=Rx-1P*. ( (Wopt)=E|dk|2- WoptTP -( P Edk*xk ) )min=E|dk|2+PTR-1RWopt - 2WToptP = E|dk|2 PTWopt最大信噪比： SNR= WHRsWWHRNW , SINR= WHRsWWH(RN+RI)WSNR= WHRsWWHRNW Wop

5、t =argmaxwkSNR Rs最大特征值對應(yīng)特征向量。 Rs Wopt= maxWopt最大似然準則(ML)： =arg maxIn P(x,) ，高斯噪聲，干擾背景最小噪聲方差(MV)：minWHRWs.t. WHA=1Wopt=Rn'-1 1 , = 11TRn-11 評價自適應(yīng)系統(tǒng)性能的指標：收斂速度，跟蹤能力，穩(wěn)健性，計算量，算法結(jié)構(gòu)，數(shù)值穩(wěn)定性，穩(wěn)態(tài)性能。4、權(quán)向量求解方法：最陡下降法：Wk+1=Wk - k牛頓法： Wk+1=Wk - R-1 k適用范圍：代價函數(shù)是凸函數(shù)，不存在局部極值點。最陡下降法牛頓法收斂方向梯度下降最快直接指向最優(yōu)權(quán)計算量小大收斂速度慢快收斂條件

6、0<<1max0<<1 :特征值散布程度【 最速下降法：0<<1max；優(yōu)點：計算量小；缺點：收斂慢；受特征值的散度影響m l < < 牛頓法：0<<1；優(yōu)點：收斂快；不受特征值的影響；缺點：計算量大m < <在初始值位于橢圓族主軸上時，它兩個收斂特性相同。 】收斂條件會證明！最陡下降法：k+1=k - k 梯度： k= |=0 =2（k-opt）于是：k+1=k - 2（k-opt）即：k+1=(1-2) k 則可將第k次權(quán)偏差值迭代遞推表示為：k=(1-2)k 0 而將第k次權(quán)值表示成：k=opt + (1-2)k（-

7、） 相繼兩次權(quán)偏差值迭代的比值均為公比：(1-2)=，則上述迭代過程“穩(wěn)定”的充要條件是|=|1-2|<1， 即：0<<1/。則算法收斂于最佳解：limkk=opt 。牛頓法：opt=R-1P* 、 k=2Rk-2 P* k=2Rk-2 P* k+1=(1-2)k+2opt k+1 = (1-2) k = (1-2)k+1 0 . 所以，收斂條件：0<<1 . 5、自適應(yīng)實現(xiàn)算法：（最陡下降法，牛頓法，僅給出迭代公式）微商法：梯度估計： ddv = N+-N-2 性能損失：=1/2(-)+ (+)- ()0擾動： P = min = 2min（因權(quán)微擾而不停留在

8、所引起的均方誤差平均增量為“性能損失”，即=1/2(-)+ (+)- (). 對于單個實權(quán)的二次型性能函數(shù)，=2）；P（擾動，即P = min = 2min,此式給出了用最小均方誤差歸一化的均方誤差平均增量。），excMSE （超量均方誤差：excMSE=Ek-min=EVkHRVk ,自適應(yīng)過程中權(quán)值噪聲將引起穩(wěn)態(tài)權(quán)向量解圍繞最佳點隨機地變化，即系統(tǒng)輸出均方誤差在“碗底”附近“徘徊”，結(jié)果就產(chǎn)生了“超量”均方誤差，于是會使穩(wěn)態(tài)均方誤差輸出值大于min）, M（失調(diào)，M= excMSEmin,它是超量均方誤差和最小均方誤差的相對比值，且是一個無量綱的量。它是自適應(yīng)能力所付代價的歸一化量度。失調(diào)

9、M并不包括人為將權(quán)偏離（而不是由噪聲）所引起的擾動P。） 總失調(diào)：Mtot=M+P . PoptA/PoptMtot - Popt Mtot /2 。也就是說，當(dāng)擾動等于總失調(diào)的一半時，總失調(diào)量達到最小值。 -性能損失參數(shù)選擇對性能影響：，N(樣本數(shù)),P+M 最小選擇 （擾動）性能評估：N越大，估計方法越小，excMSE，穩(wěn)定性能好，但收斂慢，越大，（滿足收斂條件）。收斂速度快，excMSE變大，穩(wěn)定性能變差。性能分析：N 越大，d 越大，m 越小，超量均方誤差就越小；N 越大，d 越大，m 越小，失調(diào)量就越小時間常數(shù)：權(quán)向量收斂：n=1-2n ,n= 11-n= 12n 學(xué)習(xí)曲線（k）:

10、mse= n2= 14n 自適應(yīng)算法：（mse）n=（mse）n 收斂時間常數(shù)： m-權(quán)向量wk , mse-k(迭代次數(shù))，TMSE -（物理時間）LMS最小均方差：基于最陡下降法。 最陡下降法+瞬時梯度估計Wk+1=Wk =-2kxk* Wk+1=Wk +2kxk*優(yōu)點：計算量小缺點：瞬時梯度估計收斂條件：0<<1/max ( 0<<1/tr(R) )，k,EVk+1 0 , Vk+1 0時間常數(shù)：a.權(quán)向量收斂：n=1-2n ,n= 11-n= 12n b. 學(xué)習(xí)曲線（k）: mse= n2= 14n c. 自適應(yīng)算法：（mse）n=（mse）n收斂性分析（會推導(dǎo)

11、）。K,EVk0.0<< 1/max0<< 1/trRmse和TMSE關(guān)系：mse=TMSE LMS/Newton（最小均方牛頓算法）：Wk+1=Wk R-1=-2kxk* Wk+1=Wk +2R-1kxk*SER（序貫回歸算法）SER是基于牛頓法梯度搜索算法。以迭代方式求解R-1，降低了運算量。由于使用牛頓梯度搜索算法，所以收斂速度快，快于LMS算法。遺忘因子的選擇要考慮信號的平穩(wěn)時間長度，越大，估計方差越小。Wk+1=Wk R-1=-2kxk* Wk+1=Wk +2R-1kxk*a. R的估計：Rk= 1k+1l=0k+1xl*xlT Qk=Qk-1 +Xk*XkT

12、b. P的估計：P=Edk*xk P=1k+1l=0kdl*xl c. 迭代公式：RWopt=P * RkWk+1=Pk* (隱含牛頓法，一步收斂)Wk+1=Wk +Q-1kXk*d. Q-1求解：Qk=Qk-1 +Xk*XkT（矩陣求逆引理）Q-1 = 1Qk-1-1+XkTQ-1k-1Xk*Q-1k-1Xk*XkTQ-1k-1牛頓法（收斂快）+瞬時梯度估計（計算量?。㏒ER：解決主要問題 Rk-1迭代求解。Rk-1迭代求解：Rk+1-1=f(Rk-1, xk).（針對短時平穩(wěn)） 遺忘因子 （標量，起到加重現(xiàn)時刻分量的貢獻及“消退”記憶的作用。0<<12-1/L ）： Qk=Qk

13、-1 +Xk*XkTWk+1=Wk +Q-1kXk*選擇準則方法，對性能影響 0<21-條件內(nèi)，趕大，ecxMSE，穩(wěn)態(tài)性能好。RLS（遞歸最小二乘）。代價函數(shù)，k = 1NEk2Wopt=argminwk 一段時間內(nèi)誤差信號功率最小mink=0l|k|2（無步長因子，原因，每步均滿足誤差信號功率最小）。min E|k|2 , min |k|2a. 初值：、窗長、Pb. Wk+1=Wk +Rk-1 Lk*(Xk-LkTWk) Rk-1=f(Rk-1-1 , Lk).迭代算法中不需參數(shù)； 窗長：窗長越長，穩(wěn)態(tài)性能越好。梯度類方法適用范圍代價函數(shù)為凸函數(shù)， k=0 Wopt. 僅全局最優(yōu)點非

14、凸， 隨機攜帶法：遺傳算法 （無局部極值點） DMI（直接矩陣求逆）開環(huán)算法： R =1Nk=1NXk*XkTP=1Nk=1Ndk*Xk Wopt=R-1P* (開環(huán)算法)計算量大，樣本數(shù)N2L，樣本選擇：樣本間獨立、平穩(wěn)，獨立同分布。 L為信號維數(shù)，統(tǒng)計量【影響性能的參數(shù)有：輸入采樣數(shù)N，輸入信號Xk，初始dk的值的選擇；1、性能與N有關(guān)，N越大，超量均方誤差就越小，N2L2、樣本選擇問題，樣本統(tǒng)計獨立3、數(shù)值穩(wěn)定性，矩陣求逆的精度與矩陣的條件數(shù)有關(guān)，條件數(shù)越大，相同精度，要求計算機的位數(shù)越高，可以通過對角加載技術(shù)提高性能】約束LMS： min WHRWs.t. CTW=F (以瞬時值代替平

15、均值約束的最小方差算法)。a. 約束條件會消耗系統(tǒng)自由度。 CTW=1b. 算法要素：最陡下降、約束條件、瞬時梯度約束LMSc. 應(yīng)用：自適應(yīng)單脈沖測角。存在指向誤差。超分辨和高分辨的不同：天線和天線陣列的分辨力會受到瑞利準則的限制，即分辨力與波束寬度有關(guān)，波束寬度越寬，分辨力越低，高分辨根據(jù)波束主瓣的寬度，或者天線孔徑的寬度來調(diào)整分辨力；超分辨通過自適應(yīng)的加權(quán)處理，偏離主方向的信號容易被波束形成器調(diào)零，形成的波束變窄，獲得超分辨效果。6、自適應(yīng)IIR優(yōu)點：可用很小階數(shù)（運算量?。﹣碜方粗到y(tǒng)缺點：存在穩(wěn)定性問題 輸出誤差方法：代價函數(shù)非凸（遞歸引起），存在局部極值（不能保證全局收斂，梯度方

16、法不適用）。 迭代過程可能不穩(wěn)定。方程誤差方法：將遞歸部分化為非遞歸 解決全局收斂問題。 A(Z)1-B(Z) 極點仍可能在單位圓外。 極點變換，相位補償解決。相對于FIR，IIR的頻響特性要好，但是存在極點，存在穩(wěn)定性問題。自適應(yīng)綜合的問題：代價函數(shù)存在局部極值點，不能保證全局最優(yōu)，另外還有穩(wěn)定性問題。采用方程誤差方法的出發(fā)點是輸出誤差方法的代價函數(shù)存在著局部極值，不能保證全局收斂，且有極值點，自適應(yīng)過程不穩(wěn)定；采用方程誤差方法，使得從遞歸濾波到非遞歸濾波，把一個IIR轉(zhuǎn)化成了求解倆個FIR的問題；解決了收斂性的問題，自適應(yīng)過程是穩(wěn)定的；但是，不能保證IIR濾波器是穩(wěn)定的，因為，H(z)=A

17、(z)/(1-B(z)的極點并不保證在單位圓內(nèi)；7、應(yīng)用自適應(yīng)模擬：a.期望信號是未知系統(tǒng)輸出、b.自適應(yīng)濾波器與未知系統(tǒng)并聯(lián)。逆模擬：a.期望信號是未知系統(tǒng)輸入、b.自適應(yīng)濾波器與未知系統(tǒng)串聯(lián)。Hopt(Z)= xd(Z)xx(Z) .會解決工作原理 通信中信道均衡：自適應(yīng)均衡，盲均衡 雷達中：通道一致性問題。 兩個通道相關(guān)性越強，對消越好。兩個接收機不一致，使兩個通道信號去相關(guān)，兩個通道不一致，不去相關(guān)。a. 目標：保證通道一致性b. 應(yīng)用注意問題：饋入信號形式：帶內(nèi)覆蓋一致性。饋入信號在某個頻點能量大，則噪聲對結(jié)果影響也大。c. 濾波器階數(shù)的收斂性：除數(shù)，收斂慢。并不是階數(shù)越大越好，應(yīng)根

18、據(jù)實際情況確定階數(shù)。 一個FIR實濾波器的自適應(yīng)綜合方案待設(shè)計的濾波器指標由一個“偽濾波器”給出，由于嚴格滿足這樣一組指標要求的濾波器可能物理不可實現(xiàn)，因而偽濾波器也可能并不存在，僅是一個想象的濾波器。但在數(shù)字實現(xiàn)時，可以直接給出它的輸出信號，以完成FIR濾波器綜合的自適應(yīng)模擬。假定待設(shè)計濾波器的指標是以頻率響應(yīng)形式給出的，即要求濾波器在N個離散頻率（一般可設(shè)為均勻間隔的）f1.f2,fN上有規(guī)定的幅度增益和相位特性。通常情況下，數(shù)字濾波器的權(quán)數(shù)預(yù)先被確定，從而，自適應(yīng)濾波器的除數(shù)L也就定了。自適應(yīng)過程就是得到一個最好擬合性能指標的解。輸入為x(t),期待響應(yīng)：d(t),自適應(yīng)收斂于最小均方解

19、，其形式為：Wopt=R-1P自適應(yīng)模擬應(yīng)用：a.擴譜信號：低截獲 b.抗干擾：濾波器結(jié)構(gòu)【（FIR：穩(wěn)定（無極點），階數(shù)多，計算量大）（IIR：存在不穩(wěn)定性（有極點），可以有很陡的下降沿，階數(shù)少，計算量小。）】。自適應(yīng)算法【LMS算法：計算量小，收斂慢； 序貫回歸（SER）算法：計算量大，收斂快】。自適應(yīng)逆模擬應(yīng)用：a. 電話信道均衡目的：將恢復(fù)到。信道變化很慢時，均衡器可以固定，基本不變。變化很快，則訓(xùn)練信號發(fā)送頻率，降低通信效率。b. 盲均衡自適應(yīng)干擾對消（時域、空域）【自適應(yīng)旁瓣相消】最優(yōu)權(quán)矢量為：，其中Wopt=R-1P*,其中R-1為參考輸入信號的自相關(guān)矩陣，P為參考輸入信號和原始輸入信號的互相關(guān)矢量。提高相消比的措施為：提高參考輸入端的干噪比，