552均方誤差準(zhǔn)則MSE和LMS算法

{fn}{fn}系統(tǒng)模型信息符號(hào)的估計(jì)值:Ik=rcvk

j=-8（無限長均衡器情況）《數(shù)字通信》輔導(dǎo)材料第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸1275.5.2均方誤差準(zhǔn)則（MSE）和LMS算法引言：均方誤差準(zhǔn)則同時(shí)考慮ISI及噪聲的影響，使其最小化。本節(jié)討論問題:.均方誤差準(zhǔn)則；.無限長LMS均衡器（C（Z），Jmin）；.有限長LMS均衡器（C0Pt，Jmin）；.LMS算法；.均衡器的操作；.遞推LMS算法收斂特性的分析。一.均方誤差準(zhǔn)則T+ch+MF+WF^L判決器其中，接收數(shù)據(jù)樣本為：箱=EfI+丑，?為白噪聲。8

kk nk-nkk《數(shù)字通信》輔導(dǎo)材料 第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸128八估計(jì)誤差：8二I—…包括ISI及噪聲kkkk定義:估計(jì)值I的均方誤差J=E[8[2]為均衡器的性能指數(shù)。k k均方誤差準(zhǔn)則：使均方誤差性能指數(shù)J最?。↗.），此準(zhǔn)則同時(shí)考慮使ISImin及噪聲影響最小。獲得J的途徑：調(diào)整C｝，當(dāng)J=J時(shí)，C=C（最佳抽頭系數(shù)）min j m opt尋找c的方法：1）根據(jù)正交性原理（線性均方估計(jì)）：E[8v*]=0，所有/。（注:opt kk-1與ZF準(zhǔn)則不同的是，這里的輸入是經(jīng)過兩個(gè)輸入濾波器的數(shù)據(jù)樣本v，這就包含了噪聲）。k即E[8I*]住，所有l(wèi)kkl-aj2）求函數(shù)極值方法：令--=0-C=?ac 0Ptk2013年5月3日星期五上午講于此處，已經(jīng)是第十次矣。這兩種方法是等價(jià)的，證明如下。證明：求導(dǎo)置零方法與正交性原理等價(jià)。I立cv=limE"kj_j卡jK-8羊-K戶k-limVtckK-8假如均衡器為有限長，則八I-VTckk其中V-vv vvvT，以及kLk+K k+K-1 k k-K+1 k-K」

《數(shù)字通信》輔導(dǎo)材料 第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸129cc—K —K+1J(cJ(c)=E[|8J]=E[(I/X-1)(I*-1*)]kkkk=E[8*(I-VTC)]

kkk旦=_eMy}另一種方法:(c)=(c)=E*k[2]=E[(I=E{(I-Ecv )(I*-—I)(/*—I*)]kkkk乙c*v*)}jk-j=E[IIp]-ZcE[I*v]-Ec*E[Iv*]+EEcc*E[vv*]

k ikk-i jkk-j ijk-ik-ji j ij二E[|I[2]-ZcE[I*v]-Ec*e二E[|I[2]-ZcE[I*vikk-i jkk-j ijk-ik-ji j ij可見，J(c)是｛c｝的平方函數(shù)(二次型)。求導(dǎo)置零可得:j-EI*v+Ec*Evv*即，-kk-1」 jLk-1k-j-即，jc*v* vb=0,jk-j k-l:,E:,E(8*v)=0,kk-i或E(8v*)=0，

kk-iJ=-E1*V｝0c kk「HZ+KV+K-1 "卜 Vk-k+iZJ結(jié)論：求導(dǎo)方法與正交性原理是等價(jià)的，滿足正交條件，就可以獲得最小MSE。二、無限長LMS均衡器(c(z)jJ性能).求C(z)：從正交原理出發(fā)《數(shù)字通信》輔導(dǎo)材料 第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸130E(vE(v*kk—l)二0(10-2-27)E[(I-￡cv )v*]=0k jk-j k-1j=-s即(*)正交條件￡cE(v v*)=E(Iv(*)正交條件jk-jk-1 kk-1j=—g注：vk1是收數(shù)據(jù)樣本，其中的噪聲已經(jīng)白化。在(*)式左邊可以得到:Evv*Lk-jkEvv*Lk-jk-1」，一f*if*I*mk-1-mm=eJ￡￡ff*ii* +丑n*nmk-j-n k-1-mk-jk-1+丑*k-1II I* }+N8=￡￡ff*Enmk-j-nk-1-m 01jnm式中利用了v「ZfI-n+nk，e[nk]=0。注：8「8卜-j=8(k-j)=8-8卜.都是Kroenecker沖激或離散沖激的不同寫法。因此我們有:TOC\o"1-5"\h\zE[vv*]=ZZff*8 +N8=Zf*f +N8k-jk-1 nmn,m+1-j 01j mm+1-j 01jnm m― [X+N8 1-j\<L=￡f*f+N8=\1-j01j1 〃 (A)nn+1-j01j0,e1sen=0 L注：X(z)=F(z)F*(1/z*)，F(xiàn)*Q-1)代表了F(z)序列的共軛顛倒序列。或者說F*Q*-i)代表了F(z)的MF(零時(shí)延)。

《數(shù)字通信》輔導(dǎo)材料 第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸131X(z)=FG)F*(l/z*)+f^Z-L+1+/*"

1 0)]=(/+y+f^Z-L+1+/*"

1 0)]=(/+yz-i++/")「"(/*+/*z-i+0 1 LLLL-1=S立L/f*Z_i_jiL—ji=Qj=Qi=0n=Q=￡￡ff*z—/=￡￡ff*z—/n+lnl=-Ln=0(注：令I(lǐng)=i—n)X=￡/*/,其支撐為：—LWIWLI nn+ln=0或者說，可以得到=圮于吁nn+k=圮于吁nn+kn=0nn+l-jn=0-Xl-j也可以寫為nn+l-jn=0-Xl-jnn+l—jn=0(*)式右邊：E(Iv*)=E{/[Z/*/*+r[* = }+￡{/r|*}kk-I kyik—l-n k—I 〃kk—l—〃 kk—In n c=iCk,k-l-n，式中,當(dāng)〃二—I式中,當(dāng)〃二—I當(dāng)〃w-I由此可得132數(shù)字通信》輔導(dǎo)材料第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸132(B)Eilv*}=,f;一LVlV0(B)kk-lI0將（A）、（B）兩式代入（*）式:￡cj[x.+N"]=f*j=S上式就是:取Z變換:c③x+Nc=上式就是:取Z變換:c③x+Nc=*fii0i-iC(z)[F(z)F*(z*-1)+N0]=F*(z*-1)(10-2-31)則MMSE均衡器C(z)=F*(z*-1)F(z)F*(z*-1)+N0(10-2-32)等效MMSE均衡器：C,（z）=F(z)F*(z*-1)+N01X(z)+N0(10-2-33)C(z)IkIk.求J而口（最小均方誤差）（1）時(shí)域J=E口￡I2]=E[￡(I*—I*)]=E[￡I*]—E[￡

k kkk kk利用正交原理第二項(xiàng)為零，所以J =E[(I-I)I*]=E[II|2]-E[I*(￡cv)]min kkk k kjk-j=c-￡cE[vI*]=c-￡cf (利用(B)式)j j令信息符號(hào)的平均功率為1，則

《數(shù)字通信》輔導(dǎo)材料 第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸133c=E[|/J]=1J=1-二cf=1-、⑤f|TOC\o"1-5"\h\zi=—g 10Tx,Ch,MF,WF (oo)—? \fj}—?kJ -?)一尸(z) 。回,阮}C8(z)=為M"n=-coK=iCjfn-J為吃三人,Amn=1-"o(2)頻域通過z變換及令z=ej固，將jmiK的J3n?{J晨系變換成J?X(j值)?H(9塊系min全傳輸系統(tǒng)響應(yīng)全傳輸系統(tǒng)響應(yīng)：W"BQ）=益＜0(10-2-35)以z反變換（留數(shù)法）求:b=」—』B(zK-idzn 2兀j口b二JB(z)z-1dz=J-q+? 1dz(10-2-36)0 2兀jQ 2兀jQz[X(z)+N0令z令z=ej9T，且小t，1341 X(ej3T1341 X(ej3T)b=--7JT-()

02兀j-KXQj3T)+N,J)0TL/X"j3TJ=L；x?e-j3T.ej3T(jT)d3(10-2-37)minj3T7+N0J=T「T_min2兀-冗TX,N、 7(-0)—^d3(ej3T)+N0《數(shù)字通信》輔導(dǎo)材料 第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸將X(e")以信道折疊譜表示。因?yàn)閤=x(kT)=h(t)⑤h*(-1)|k t=kTh(t)⑥h*(-1)的傅里葉變換為回3)|2，故￡x5(t-kT)一1￡

k Tk=-? n=-?5(t-kT)e-j2冗ftdt=￡xe-j2冗fkT=DTFT(x)k=-g所以k=-g所以(10-2-18)X)=1￡(10-2-18)Tn二s所以JminT「JminT「T 2兀-8T1￡Tn=sN

0

H(3+2]jVTJ(10-2-38)=TforISI=0N(10-2-39)所以，當(dāng)ISI=0時(shí)，J =——，(10-2-39)min1+N0

135《數(shù)字通信》輔導(dǎo)材料 第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸135TOC\o"1-5"\h\z\o"CurrentDocument"t 八 八 八 八因g 二I—I，故I=I+8 ,E[\I|2] =EII -8|2，利用正交原理E[8 I* ]=0，kkk kkkk kk kk-1易證：\o"CurrentDocument"八 八\o"CurrentDocument"EII\2:EII\2+EI8|2，即E[12]=1-J 。k k k k min八E[12] 1-J輸出SNR: Y='k—=—min (10-2-40)6E[|8卜]Jk min均方誤差：J(k)=E[II-12];均方誤差：J(k)=E[II-12];E

1kkI-七cv

k jk-jj=-Kaj /) =—E8*VJackkC=cc cccVk-K+1IkIk1、求C皿：無限長均衡器￡cj[x,：N05j]=f*j=-6仿上面無限長均衡器的推導(dǎo)：根據(jù)正交條件：￡cX+NbLf*ji-j 0j -1j=-K

136數(shù)字通信》輔導(dǎo)材料第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸136令r=ijw[x+N5注：x1的支撐為『<L。)則r=<i注：x1的支撐為『<L。)j[0,其他令-L令-L<l<0其他得得史crjijj=-K（10-2-43）矩陣形式：rC=A (10-2-46)所以，c=ng (10-2-47)opt說明：Copjg為有(2K+1)個(gè)元素的列向量r為(2K+1)X(2K+1)的Hermitian矩陣。因?yàn)樽韵嚓P(guān)函數(shù)x=x*且5=5*，所以r=「r］中元素滿足r=r*。r是共k -k ijjl ij ijj軛轉(zhuǎn)置陣(Hermite)陣。2、求均衡器的性能即求最小能達(dá)到的均方差Jmin：前已經(jīng)證明Jmin=1-￡cf.j=-s將C0Pt代入Jmii(K)式：j.(k)=1-Zcf=1-g，*c=1-gar* (10-2-48)j=-K注：fj的支撐為0<j<L工程實(shí)用方法：采用簡(jiǎn)單的迭代過程一一最速下降法。

《數(shù)字通信》輔導(dǎo)材料 第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸137四.LMS算法:內(nèi)容:a)算法：q「Ck-AGk(理論算法)b)梯度：G=—=—EC*V)kdC kkkc)工程實(shí)用算法：C=C+Ae*vk+1 kkkd)均衡器結(jié)構(gòu)：圖11-1-21、算法：LMS算法是一種最陡下降法，其實(shí)質(zhì)是一個(gè)迭代過程，而迭代過程是通過遞推運(yùn)算來進(jìn)行的。設(shè)｛cj｝有(2K+1)個(gè)抽頭遞推運(yùn)算： c(k+1)=c(k)+5c(k)j=-K，…，0,…Kj j j每次迭代變化量：6c(k)x-AG(k)令 6cj(k)=-AG(k)則 c(k+1)=c(k)-AG(k)或矩陣形式:式中A為c或矩陣形式:式中A為c(+1)-c()T1^Ck+1=Ck-AGJ調(diào)節(jié)階距(步長)=-AG(k),j=-K，...，0,…K，j注：可以看到即強(qiáng)制要求抽頭系數(shù)向著誤差下降的方向變化。則 c.(k+1)=cj(k)-AG(k)或矩陣形式： Ck+1=Ck-AGk,式中A為調(diào)節(jié)階距(步長step)，其中第k符號(hào)時(shí)間的抽頭系數(shù)列矢量(即

138《數(shù)字通信》輔導(dǎo)材料 第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸138均衡器）為:Ck =[_cK(k)cK](k)Ck =[_cK(k)cK](k)0 K-1 K」22、梯度:(k)(k)jdJ

de=-E{c*V)kkdJ

de=-E{c*V)kkkkk匕=1V+KV+K-1 vk一. 一.TVk-K+1 Vk-KJ討論：1）理想情況下，經(jīng)過若干次迭代（k=k時(shí)），G=-E{cV*}=0n<C=CoptJ(k0)=Jm2）實(shí)際情況中，計(jì)算G困難

k139《數(shù)字通信》輔導(dǎo)材料 第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸139G=-E[8V*]統(tǒng)計(jì)平均，不實(shí)時(shí)kk八為克服這一困難，用估計(jì)值G取代梯度真值G

k kGk=-E[8*Vk] 八對(duì)G的無偏估計(jì)有：G=E{G}k八G=-8*VkkkGkGk為梯度真值，八G為真值G的無偏估計(jì)量.工程實(shí)用LMS算法:八Ck+1二C-AGkk(11-1-9)八Ck+1二C-AGkk(11-1-9)八即ck+1八=C+AsV(11-1-11)八 八或C=Ck+1+Aek*Vkk在商用的自適應(yīng)均衡器中，為簡(jiǎn)化乘法運(yùn)算次數(shù)，僅取vk和(或)8k的正負(fù)號(hào)進(jìn)行運(yùn)算，而不管大小。其優(yōu)點(diǎn)是簡(jiǎn)單，易實(shí)現(xiàn)，運(yùn)算次數(shù)少；缺點(diǎn)是收斂慢。如：(k如：(k+1)=c(k)+AcsgnQ)csgn(v*)(11-1-14)[1+j定義復(fù)符號(hào)函數(shù)：csgn(x)二[1+j定義復(fù)符號(hào)函數(shù)：csgn(x)二-1+j、-1-j(Re(x)(Re(x)(Re(x)(Re(x)>0,Im>0,Im<0,Im<0,Im(x)>0)(x)<0)(x)>0)(11-1-15)(x)<0).均衡器結(jié)構(gòu)《數(shù)字通信》輔導(dǎo)材料第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸140圖11-1-2基于MSE準(zhǔn)則的線性自適應(yīng)均衡器《數(shù)字通信》輔導(dǎo)材料第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸141五.均衡器的操作過程1.方框圖1.方框圖.兩種工作模式（狀態(tài)）(1)訓(xùn)練模式(trainingmode):8k=I「Ik（2（2）工作模式（runmode）:~8=I—I,P<10-2kkke在完成訓(xùn)練之后，進(jìn)入正常的工作模式情況下，P<10-5，I三I，e kk即使有錯(cuò)判，由于A很小，由此引起的誤調(diào)整影響很小。.步長A選擇與收斂特性訓(xùn)練時(shí)：'] '大一加速初始調(diào)整，接近Jmin?A2<A]工作時(shí)：A2 A2小一穩(wěn)態(tài)誤差小，J六J步長選擇考慮：?穩(wěn)定且收斂快?穩(wěn)態(tài)MSE小

《數(shù)字通信》輔導(dǎo)材料第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸142六.遞推LMS算法收斂特性的分析1、引言說明三個(gè)問題：要解決什么問題；分析從何入手；分析的方法。（1）算法表示理論上LMS算法:理論上LMS算法:Ck「C「AGk（A）實(shí)用的遞推算法:人 人實(shí)用的遞推算法:C=C+AeV* （B）k+1 kkk人梯度向量有噪無偏估計(jì)值：G=TV*kkk（2）問題收斂特性與A的關(guān)系？如何選擇A，以確保收斂？因?yàn)镚=eL1即G為真值G的無偏估計(jì),kk k k所以，A對(duì)收斂特性的影響，對(duì)（A）（B）兩式是相同的。為數(shù)學(xué)分析方便，我們只研究（4）式的收斂特性。（3）收斂特性的分析方法采用反饋系統(tǒng)穩(wěn)定性的分析方法：建立以C輸出的閉環(huán)系統(tǒng)模型，定性分析A的影響;k+1建立系統(tǒng)的差分方程，定量分析A的影響?！稊?shù)字通信》輔導(dǎo)材料 第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸1432、閉環(huán)系統(tǒng)模型一一定性分析收斂特性算法： q「Ck-AGk (A)式中， gk=rck-4=—r—rck) (b)r—接收信號(hào)自相關(guān)矩陣，由E[VV*]確定。k-jk-1自一互相關(guān)矩陣，由E[Iv*]確定。kk-1分析：由(A)式可看出(1)Ck的迭代過程可以看作：每次迭代增量(6Ck=-AG/的累積過程一由保持器實(shí)現(xiàn)；(2)第k時(shí)刻計(jì)算的增量(-AGk)應(yīng)在第(k+1)時(shí)刻反映出來

《數(shù)字通信》輔導(dǎo)材料 第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸144結(jié)論：對(duì)閉環(huán)輸出C收斂特性影響因素：A,rk+1 3、系統(tǒng)的差分方程一一定量分析收斂特性由(A)式 C=由(A)式 C=k+1c-ag=c-a(rc-g)c=(I-Ar)c+Agk+1(A')(11-1-20)為一階差分方程組，即CkCk+1因?yàn)閞不是對(duì)角矩陣，故，（2K+1）個(gè)一階差分方程是相互耦合的，必須聯(lián)解。所以，用解聯(lián)立方程組來定量分析收斂特性是困難的。解決方法：利用線性變換（酉變換）來解耦。①r為Hermite（厄米特）矩陣，可用U（酉矩陣）表示為r=UAU'* （U-1） （11-1-21）式中，U（酉矩陣）由r的特征向量確定。a（對(duì)角矩陣）的對(duì)角元素為r的特征值，特征值｛九｝為特征方程i

《數(shù)字通信》輔導(dǎo)材料 第5章在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸145r—九i|=0的根。②再利用U矩陣的性質(zhì)： U'*U=I （U-2）③將（U-1）式代入（&）式，兩邊再乘U'*，然后利用（。-2）式，可得式中，q廣(i-a式中，q廣(i-aa)q+Ag。(11-1-22)Ck+1CkU'*Ck+1U'*Ckg=U'*g

o+Ag+AgO信道特性

不隨迭代而變化

（與k無關(guān)）Ck「(I—AA)Ck(11-1-23)C=（I-aa）Ck+1 k反映迭代產(chǎn)生的變化量（與k有關(guān)）說明：（1）因?yàn)锳為對(duì)角矩陣，所以一階差分方程組是線性不相關(guān)的（即解耦）。（2）收斂特性取決于其齊次方程組:即表示成（2K+1）個(gè)一階差分方程組:C-K,(k+C-K,(k+1)1-ax—KC-K,(k)C0,(k+1)1-A九0C0,(k)1-axK」C1-a