自適應(yīng)信號(hào)處理

1、1. 自適應(yīng)信號(hào)處理基本概念，解決的問題，適用條件下（平穩(wěn)、短時(shí)平穩(wěn)），結(jié)構(gòu)分類。自適應(yīng)信號(hào)處理:是研究一類結(jié)構(gòu)可變或可以調(diào)整的系統(tǒng)，它通過自身與外界環(huán)境的接觸來(lái)改善自身對(duì)信號(hào)處理的性能。通常這類系統(tǒng)是時(shí)變的非線性系統(tǒng)，可以自動(dòng)適應(yīng)信號(hào)傳送變化的環(huán)境和要求。 自適應(yīng)系統(tǒng)和一般系統(tǒng)類似，可以分為開環(huán)系統(tǒng)（閉環(huán)：計(jì)算量小，收斂慢；開環(huán)：計(jì)算量大，收斂快）和閉環(huán)系統(tǒng)兩種類型。開環(huán)系統(tǒng)僅由輸入確定，而閉環(huán)不僅取決于輸入，還依賴于系統(tǒng)輸出的結(jié)果。自適應(yīng)信號(hào)處理所研究的信號(hào)既可以是隨機(jī)平穩(wěn)信號(hào)，也可以是局部平穩(wěn)隨機(jī)信號(hào)，也可以是窄帶或者是寬帶信號(hào)。2、信號(hào)相關(guān)矩陣及其性質(zhì)，梯度運(yùn)算: 輸入信號(hào)的相關(guān)矩陣：

2、REX*XT=Ex0*x0Ex0*xLExL*x0ExL*xL，相關(guān)矩陣R是厄米特矩陣，即滿足R* = RT。作為厄米特矩陣，它具有以下性質(zhì)：對(duì)應(yīng)于R的不同特征值的特征向量都是正交的。R是正定（或半正定）矩陣，它所有的特征值都為實(shí)數(shù)，且大于或等于零。所有特征值之和等于矩陣R的跡，即為輸入信號(hào)的功率。【定義一個(gè)幺向量：1=1 1 1T，于是，R的特征值之和為1T1=1TQHRQ1=m=0L n=0LrmnQmHQn = n=0LE|xn|2 上式等號(hào)右邊的求和即為矩陣R的跡（矩陣主對(duì)角線所有元素之和），亦即系統(tǒng)輸入信號(hào)的功率?！啃盘?hào)相關(guān)矩陣R可以被分解為一個(gè)實(shí)對(duì)稱矩陣和一個(gè)實(shí)反對(duì)稱矩陣，即：R=

3、Ra+jRb ，其中，實(shí)矩陣Ra、Rb分別滿足條件：Ra T=Ra和RbT =- Rb若W為L(zhǎng)+1維的權(quán)向量，則對(duì)相關(guān)矩陣R，存在關(guān)于W的一個(gè)瑞利商，且對(duì)于所有W的瑞利商均為實(shí)數(shù)。 瑞利商Ray(W)= WHRWWHWR可分解為R=QQT where Q q0,q1, ql, 000l信號(hào)子空間：Rs非零特征值對(duì)應(yīng)的特征向量張成的子空間。Spanq0,q1, qs噪聲子空間：信號(hào)子空間的正交補(bǔ)空間Rs零特征值特征向量。Span qs+1,qs+2, ql+1梯度運(yùn)算：（W）W= 0+j0b1a+j1bLa+jLb T式中l(wèi)a, lb分別是向量W的第l個(gè)元素l的實(shí)部和虛部，即l=la+jlb；即

4、為（W）。實(shí)標(biāo)量函數(shù)的梯度是一個(gè)向量，其方向代表該函數(shù)最陡下降時(shí)W變化方向的負(fù)向。 =W（WHRW）=2RW3、性能測(cè)量方法。（代價(jià)函數(shù)）最小均方誤差（MSE）：準(zhǔn)則-誤差信號(hào)功率最?。?(W)=E|k|2= E|dk|2+ WHRW - 2Re(WTP)，（代價(jià)函數(shù)） Wopt=Rx-1P*. ( (Wopt)=E|dk|2- WoptTP -( P Edk*xk ) )min=E|dk|2+PTR-1RWopt - 2WToptP = E|dk|2 PTWopt最大信噪比： SNR= WHRsWWHRNW , SINR= WHRsWWH(RN+RI)WSNR= WHRsWWHRNW Wop

5、t =argmaxwkSNR Rs最大特征值對(duì)應(yīng)特征向量。 Rs Wopt= maxWopt最大似然準(zhǔn)則(ML)： =arg maxIn P(x,) ，高斯噪聲，干擾背景最小噪聲方差(MV)：minWHRWs.t. WHA=1Wopt=Rn'-1 1 , = 11TRn-11 評(píng)價(jià)自適應(yīng)系統(tǒng)性能的指標(biāo)：收斂速度，跟蹤能力，穩(wěn)健性，計(jì)算量，算法結(jié)構(gòu)，數(shù)值穩(wěn)定性，穩(wěn)態(tài)性能。4、權(quán)向量求解方法：最陡下降法：Wk+1=Wk - k牛頓法： Wk+1=Wk - R-1 k適用范圍：代價(jià)函數(shù)是凸函數(shù)，不存在局部極值點(diǎn)。最陡下降法牛頓法收斂方向梯度下降最快直接指向最優(yōu)權(quán)計(jì)算量小大收斂速度慢快收斂條件

6、0<<1max0<<1 :特征值散布程度【 最速下降法：0<<1max；優(yōu)點(diǎn)：計(jì)算量??；缺點(diǎn)：收斂慢；受特征值的散度影響m l < < 牛頓法：0<<1；優(yōu)點(diǎn)：收斂快；不受特征值的影響；缺點(diǎn)：計(jì)算量大m < <在初始值位于橢圓族主軸上時(shí)，它兩個(gè)收斂特性相同。 】收斂條件會(huì)證明！最陡下降法：k+1=k - k 梯度： k= |=0 =2（k-opt）于是：k+1=k - 2（k-opt）即：k+1=(1-2) k 則可將第k次權(quán)偏差值迭代遞推表示為：k=(1-2)k 0 而將第k次權(quán)值表示成：k=opt + (1-2)k（-

7、） 相繼兩次權(quán)偏差值迭代的比值均為公比：(1-2)=，則上述迭代過程“穩(wěn)定”的充要條件是|=|1-2|<1， 即：0<<1/。則算法收斂于最佳解：limkk=opt 。牛頓法：opt=R-1P* 、 k=2Rk-2 P* k=2Rk-2 P* k+1=(1-2)k+2opt k+1 = (1-2) k = (1-2)k+1 0 . 所以，收斂條件：0<<1 . 5、自適應(yīng)實(shí)現(xiàn)算法：（最陡下降法，牛頓法，僅給出迭代公式）微商法：梯度估計(jì)： ddv = N+-N-2 性能損失：=1/2(-)+ (+)- ()0擾動(dòng)： P = min = 2min（因權(quán)微擾而不停留在

8、所引起的均方誤差平均增量為“性能損失”，即=1/2(-)+ (+)- (). 對(duì)于單個(gè)實(shí)權(quán)的二次型性能函數(shù)，=2）；P（擾動(dòng)，即P = min = 2min,此式給出了用最小均方誤差歸一化的均方誤差平均增量。），excMSE （超量均方誤差：excMSE=Ek-min=EVkHRVk ,自適應(yīng)過程中權(quán)值噪聲將引起穩(wěn)態(tài)權(quán)向量解圍繞最佳點(diǎn)隨機(jī)地變化，即系統(tǒng)輸出均方誤差在“碗底”附近“徘徊”，結(jié)果就產(chǎn)生了“超量”均方誤差，于是會(huì)使穩(wěn)態(tài)均方誤差輸出值大于min）, M（失調(diào)，M= excMSEmin,它是超量均方誤差和最小均方誤差的相對(duì)比值，且是一個(gè)無(wú)量綱的量。它是自適應(yīng)能力所付代價(jià)的歸一化量度。失調(diào)

9、M并不包括人為將權(quán)偏離（而不是由噪聲）所引起的擾動(dòng)P。） 總失調(diào)：Mtot=M+P . PoptA/PoptMtot - Popt Mtot /2 。也就是說，當(dāng)擾動(dòng)等于總失調(diào)的一半時(shí)，總失調(diào)量達(dá)到最小值。 -性能損失參數(shù)選擇對(duì)性能影響：，N(樣本數(shù)),P+M 最小選擇 （擾動(dòng)）性能評(píng)估：N越大，估計(jì)方法越小，excMSE，穩(wěn)定性能好，但收斂慢，越大，（滿足收斂條件）。收斂速度快，excMSE變大，穩(wěn)定性能變差。性能分析：N 越大，d 越大，m 越小，超量均方誤差就越?。籒 越大，d 越大，m 越小，失調(diào)量就越小時(shí)間常數(shù)：權(quán)向量收斂：n=1-2n ,n= 11-n= 12n 學(xué)習(xí)曲線（k）:

10、mse= n2= 14n 自適應(yīng)算法：（mse）n=（mse）n 收斂時(shí)間常數(shù)： m-權(quán)向量wk , mse-k(迭代次數(shù))，TMSE -（物理時(shí)間）LMS最小均方差：基于最陡下降法。 最陡下降法+瞬時(shí)梯度估計(jì)Wk+1=Wk =-2kxk* Wk+1=Wk +2kxk*優(yōu)點(diǎn)：計(jì)算量小缺點(diǎn)：瞬時(shí)梯度估計(jì)收斂條件：0<<1/max ( 0<<1/tr(R) )，k,EVk+1 0 , Vk+1 0時(shí)間常數(shù)：a.權(quán)向量收斂：n=1-2n ,n= 11-n= 12n b. 學(xué)習(xí)曲線（k）: mse= n2= 14n c. 自適應(yīng)算法：（mse）n=（mse）n收斂性分析（會(huì)推導(dǎo)

11、）。K,EVk0.0<< 1/max0<< 1/trRmse和TMSE關(guān)系：mse=TMSE LMS/Newton（最小均方牛頓算法）：Wk+1=Wk R-1=-2kxk* Wk+1=Wk +2R-1kxk*SER（序貫回歸算法）SER是基于牛頓法梯度搜索算法。以迭代方式求解R-1，降低了運(yùn)算量。由于使用牛頓梯度搜索算法，所以收斂速度快，快于LMS算法。遺忘因子的選擇要考慮信號(hào)的平穩(wěn)時(shí)間長(zhǎng)度，越大，估計(jì)方差越小。Wk+1=Wk R-1=-2kxk* Wk+1=Wk +2R-1kxk*a. R的估計(jì)：Rk= 1k+1l=0k+1xl*xlT Qk=Qk-1 +Xk*XkT

12、b. P的估計(jì)：P=Edk*xk P=1k+1l=0kdl*xl c. 迭代公式：RWopt=P * RkWk+1=Pk* (隱含牛頓法，一步收斂)Wk+1=Wk +Q-1kXk*d. Q-1求解：Qk=Qk-1 +Xk*XkT（矩陣求逆引理）Q-1 = 1Qk-1-1+XkTQ-1k-1Xk*Q-1k-1Xk*XkTQ-1k-1牛頓法（收斂快）+瞬時(shí)梯度估計(jì)（計(jì)算量?。㏒ER：解決主要問題 Rk-1迭代求解。Rk-1迭代求解：Rk+1-1=f(Rk-1, xk).（針對(duì)短時(shí)平穩(wěn)） 遺忘因子 （標(biāo)量，起到加重現(xiàn)時(shí)刻分量的貢獻(xiàn)及“消退”記憶的作用。0<<12-1/L ）： Qk=Qk

13、-1 +Xk*XkTWk+1=Wk +Q-1kXk*選擇準(zhǔn)則方法，對(duì)性能影響 0<21-條件內(nèi)，趕大，ecxMSE，穩(wěn)態(tài)性能好。RLS（遞歸最小二乘）。代價(jià)函數(shù)，k = 1NEk2Wopt=argminwk 一段時(shí)間內(nèi)誤差信號(hào)功率最小mink=0l|k|2（無(wú)步長(zhǎng)因子，原因，每步均滿足誤差信號(hào)功率最?。?。min E|k|2 , min |k|2a. 初值：、窗長(zhǎng)、Pb. Wk+1=Wk +Rk-1 Lk*(Xk-LkTWk) Rk-1=f(Rk-1-1 , Lk).迭代算法中不需參數(shù)； 窗長(zhǎng)：窗長(zhǎng)越長(zhǎng)，穩(wěn)態(tài)性能越好。梯度類方法適用范圍代價(jià)函數(shù)為凸函數(shù)， k=0 Wopt. 僅全局最優(yōu)點(diǎn)非

14、凸， 隨機(jī)攜帶法：遺傳算法 （無(wú)局部極值點(diǎn)） DMI（直接矩陣求逆）開環(huán)算法： R =1Nk=1NXk*XkTP=1Nk=1Ndk*Xk Wopt=R-1P* (開環(huán)算法)計(jì)算量大，樣本數(shù)N2L，樣本選擇：樣本間獨(dú)立、平穩(wěn)，獨(dú)立同分布。 L為信號(hào)維數(shù)，統(tǒng)計(jì)量【影響性能的參數(shù)有：輸入采樣數(shù)N，輸入信號(hào)Xk，初始dk的值的選擇；1、性能與N有關(guān)，N越大，超量均方誤差就越小，N2L2、樣本選擇問題，樣本統(tǒng)計(jì)獨(dú)立3、數(shù)值穩(wěn)定性，矩陣求逆的精度與矩陣的條件數(shù)有關(guān)，條件數(shù)越大，相同精度，要求計(jì)算機(jī)的位數(shù)越高，可以通過對(duì)角加載技術(shù)提高性能】約束LMS： min WHRWs.t. CTW=F (以瞬時(shí)值代替平

15、均值約束的最小方差算法)。a. 約束條件會(huì)消耗系統(tǒng)自由度。 CTW=1b. 算法要素：最陡下降、約束條件、瞬時(shí)梯度約束LMSc. 應(yīng)用：自適應(yīng)單脈沖測(cè)角。存在指向誤差。超分辨和高分辨的不同：天線和天線陣列的分辨力會(huì)受到瑞利準(zhǔn)則的限制，即分辨力與波束寬度有關(guān)，波束寬度越寬，分辨力越低，高分辨根據(jù)波束主瓣的寬度，或者天線孔徑的寬度來(lái)調(diào)整分辨力；超分辨通過自適應(yīng)的加權(quán)處理，偏離主方向的信號(hào)容易被波束形成器調(diào)零，形成的波束變窄，獲得超分辨效果。6、自適應(yīng)IIR優(yōu)點(diǎn)：可用很小階數(shù)（運(yùn)算量?。﹣?lái)追近未知系統(tǒng)缺點(diǎn)：存在穩(wěn)定性問題 輸出誤差方法：代價(jià)函數(shù)非凸（遞歸引起），存在局部極值（不能保證全局收斂，梯度方

16、法不適用）。 迭代過程可能不穩(wěn)定。方程誤差方法：將遞歸部分化為非遞歸 解決全局收斂問題。 A(Z)1-B(Z) 極點(diǎn)仍可能在單位圓外。 極點(diǎn)變換，相位補(bǔ)償解決。相對(duì)于FIR，IIR的頻響特性要好，但是存在極點(diǎn)，存在穩(wěn)定性問題。自適應(yīng)綜合的問題：代價(jià)函數(shù)存在局部極值點(diǎn)，不能保證全局最優(yōu)，另外還有穩(wěn)定性問題。采用方程誤差方法的出發(fā)點(diǎn)是輸出誤差方法的代價(jià)函數(shù)存在著局部極值，不能保證全局收斂，且有極值點(diǎn)，自適應(yīng)過程不穩(wěn)定；采用方程誤差方法，使得從遞歸濾波到非遞歸濾波，把一個(gè)IIR轉(zhuǎn)化成了求解倆個(gè)FIR的問題；解決了收斂性的問題，自適應(yīng)過程是穩(wěn)定的；但是，不能保證IIR濾波器是穩(wěn)定的，因?yàn)椋琀(z)=A

17、(z)/(1-B(z)的極點(diǎn)并不保證在單位圓內(nèi)；7、應(yīng)用自適應(yīng)模擬：a.期望信號(hào)是未知系統(tǒng)輸出、b.自適應(yīng)濾波器與未知系統(tǒng)并聯(lián)。逆模擬：a.期望信號(hào)是未知系統(tǒng)輸入、b.自適應(yīng)濾波器與未知系統(tǒng)串聯(lián)。Hopt(Z)= xd(Z)xx(Z) .會(huì)解決工作原理 通信中信道均衡：自適應(yīng)均衡，盲均衡 雷達(dá)中：通道一致性問題。 兩個(gè)通道相關(guān)性越強(qiáng)，對(duì)消越好。兩個(gè)接收機(jī)不一致，使兩個(gè)通道信號(hào)去相關(guān)，兩個(gè)通道不一致，不去相關(guān)。a. 目標(biāo)：保證通道一致性b. 應(yīng)用注意問題：饋入信號(hào)形式：帶內(nèi)覆蓋一致性。饋入信號(hào)在某個(gè)頻點(diǎn)能量大，則噪聲對(duì)結(jié)果影響也大。c. 濾波器階數(shù)的收斂性：除數(shù)，收斂慢。并不是階數(shù)越大越好，應(yīng)根

18、據(jù)實(shí)際情況確定階數(shù)。 一個(gè)FIR實(shí)濾波器的自適應(yīng)綜合方案待設(shè)計(jì)的濾波器指標(biāo)由一個(gè)“偽濾波器”給出，由于嚴(yán)格滿足這樣一組指標(biāo)要求的濾波器可能物理不可實(shí)現(xiàn)，因而偽濾波器也可能并不存在，僅是一個(gè)想象的濾波器。但在數(shù)字實(shí)現(xiàn)時(shí)，可以直接給出它的輸出信號(hào)，以完成FIR濾波器綜合的自適應(yīng)模擬。假定待設(shè)計(jì)濾波器的指標(biāo)是以頻率響應(yīng)形式給出的，即要求濾波器在N個(gè)離散頻率（一般可設(shè)為均勻間隔的）f1.f2,fN上有規(guī)定的幅度增益和相位特性。通常情況下，數(shù)字濾波器的權(quán)數(shù)預(yù)先被確定，從而，自適應(yīng)濾波器的除數(shù)L也就定了。自適應(yīng)過程就是得到一個(gè)最好擬合性能指標(biāo)的解。輸入為x(t),期待響應(yīng)：d(t),自適應(yīng)收斂于最小均方解

19、，其形式為：Wopt=R-1P自適應(yīng)模擬應(yīng)用：a.擴(kuò)譜信號(hào)：低截獲 b.抗干擾：濾波器結(jié)構(gòu)【（FIR：穩(wěn)定（無(wú)極點(diǎn)），階數(shù)多，計(jì)算量大）（IIR：存在不穩(wěn)定性（有極點(diǎn)），可以有很陡的下降沿，階數(shù)少，計(jì)算量小。）】。自適應(yīng)算法【LMS算法：計(jì)算量小，收斂慢； 序貫回歸（SER）算法：計(jì)算量大，收斂快】。自適應(yīng)逆模擬應(yīng)用：a. 電話信道均衡目的：將恢復(fù)到。信道變化很慢時(shí)，均衡器可以固定，基本不變。變化很快，則訓(xùn)練信號(hào)發(fā)送頻率，降低通信效率。b. 盲均衡自適應(yīng)干擾對(duì)消（時(shí)域、空域）【自適應(yīng)旁瓣相消】最優(yōu)權(quán)矢量為：，其中Wopt=R-1P*,其中R-1為參考輸入信號(hào)的自相關(guān)矩陣，P為參考輸入信號(hào)和原始輸入信號(hào)的互相關(guān)矢量。提高相消比的措施為：提高參考輸入端的干噪比，