信道分類(lèi)與表示方法和計(jì)算

1、信道分類(lèi)與表示方法和計(jì)算12主要內(nèi)容信道分類(lèi)與表示方法信道容量的計(jì)算3第3章信道與信道容量信道分類(lèi)和表示參數(shù)離散單個(gè)符號(hào)信道及其容量4信道分類(lèi)和表示參數(shù)信道分類(lèi) 用戶(hù)數(shù)量：?jiǎn)斡脩?hù)、多用戶(hù) 輸入端和輸出端關(guān)系：無(wú)反饋、有反饋 信道參數(shù)與時(shí)間的關(guān)系：固參、時(shí)變參 噪聲種類(lèi)： 隨機(jī)差錯(cuò)、突發(fā)差錯(cuò) 輸入輸出特點(diǎn)：離散、連續(xù)、半離散半連續(xù)、波形信道5信道分類(lèi)和表示參數(shù)信道參數(shù)6信道分類(lèi)和表示參數(shù)信道種類(lèi)1、無(wú)干擾（無(wú)噪聲）信道2、有干擾無(wú)記憶信道信道的輸出信號(hào)Y與輸入信號(hào)X之間又確定的關(guān)系。信道的輸出信號(hào)Y與輸入信號(hào)X之間沒(méi)有確定關(guān)系7信道分類(lèi)和表示參數(shù)1）二進(jìn)制對(duì)稱(chēng)信道（BSC）由于這種信道的輸出比特

2、僅與對(duì)應(yīng)時(shí)刻的一個(gè)輸入比特有關(guān)，而與以前的輸入無(wú)關(guān)，所以這種信道是無(wú)記憶的8信道分類(lèi)和表示參數(shù)2)離散無(wú)記憶信道9信道分類(lèi)和表示參數(shù)設(shè)計(jì)和分析離散信道編碼、解碼器的性能 DMC信道模型分析性能的理論極限，則多用離散輸入、連續(xù)輸出10離散單個(gè)符號(hào)信道及其容量信息傳輸率信道在單位時(shí)間內(nèi)平均傳輸?shù)男畔⒘慷x為信息傳輸速率R=I(X;Y)=H(X)H(X/Y) 比特/符號(hào)Rt=I(X;Y)/t 比特/秒11離散單個(gè)符號(hào)信道及其容量信道容量比特/符號(hào)（bits/symbol或bits/channel use） 對(duì)于某特定信道，若轉(zhuǎn)移概率已經(jīng)確定，則互信息就是關(guān)于輸入符號(hào)分布函數(shù)型凸函數(shù)如果已知符號(hào)傳送周

3、期是T秒，也可以“秒”為單位來(lái)計(jì)算信道容量，此時(shí)Bit/s、nat/s注：對(duì)于特定的信道，信道容量是個(gè)定值，但在傳輸信息時(shí)信道能否提供最大傳輸能力，則取決于輸入端的概率分布。12離散單個(gè)符號(hào)信道及其容量無(wú)干擾離散信道的信道容量X、Y一一對(duì)應(yīng)CmaxI(X;Y)log n多個(gè)輸入變成一個(gè)輸出CmaxI(X;Y)maxH(Y)一個(gè)輸入對(duì)應(yīng)多個(gè)輸出CmaxI(X;Y)maxH(X)13離散單個(gè)符號(hào)信道及其容量對(duì)稱(chēng)DMC信道定義輸入對(duì)稱(chēng)如果轉(zhuǎn)移概率矩陣P的每一行都是第一行的置換(包含同樣元素)，稱(chēng)該矩陣是輸入對(duì)稱(chēng)輸出對(duì)稱(chēng)如果轉(zhuǎn)移概率矩陣P的每一列都是第一列的置換(包含同樣元素)，稱(chēng)該矩陣是輸出對(duì)稱(chēng)對(duì)稱(chēng)

4、的DMC信道如果輸入、輸出都對(duì)稱(chēng)14離散單個(gè)符號(hào)信道及其容量對(duì)稱(chēng)DMC信道例子15離散單個(gè)符號(hào)信道及其容量輸入對(duì)稱(chēng)輸出對(duì)稱(chēng)16離散單個(gè)符號(hào)信道及其容量對(duì)稱(chēng)信道容量17離散單個(gè)符號(hào)信道及其容量Eg. 求信道容量18第六講復(fù)習(xí)離散單個(gè)符號(hào)的信道及其容量信道的描述對(duì)稱(chēng)DMC信道及其信道容量的計(jì)算本節(jié)內(nèi)容準(zhǔn)對(duì)稱(chēng)DMC信道一般DMC信道離散序列信道及其容量19離散單個(gè)符號(hào)信道及其容量Eg. 求信道容量信道輸入符號(hào)和輸出符號(hào)的個(gè)數(shù)相同，都為n，且正確的傳輸概率為1，錯(cuò)誤概率被對(duì)稱(chēng)地均分給n-1個(gè)輸出符號(hào)，此信道稱(chēng)為強(qiáng)對(duì)稱(chēng)信道或均勻信道，是對(duì)稱(chēng)離散信道的一個(gè)特例20離散單個(gè)符號(hào)信道及其容量二進(jìn)制對(duì)稱(chēng)信道容量

5、C1H（）21離散單個(gè)符號(hào)信道及其容量串聯(lián)信道C(1,2)=maxI(X;Z)，C(1,2,3)=maxI(X;W)22離散單個(gè)符號(hào)信道及其容量Eg.設(shè)有兩個(gè)離散BSC信道串接，兩個(gè)BSC信道的轉(zhuǎn)移矩陣如下，求信道容量23離散單個(gè)符號(hào)信道及其容量信道容量I(X;Y)=1-H()，I(X;Z)=1-H2 (1-)24離散單個(gè)符號(hào)信道及其容量準(zhǔn)對(duì)稱(chēng)DMC信道如果轉(zhuǎn)移概率矩陣P是輸入對(duì)稱(chēng)而輸出不對(duì)稱(chēng)，即轉(zhuǎn)移概率矩陣P的每一行都包含同樣的元素而各列的元素可以不同，則稱(chēng)該信道是準(zhǔn)對(duì)稱(chēng)DMC信道25離散單個(gè)符號(hào)信道及其容量準(zhǔn)對(duì)稱(chēng)DMC信道容量對(duì)于準(zhǔn)對(duì)稱(chēng)DMC信道，當(dāng)輸入分布為等概分布時(shí)，互信息達(dá)到最大值，

6、即為信道容量26離散單個(gè)符號(hào)信道及其容量Eg. 求信道容量方法一：信道的輸入符號(hào)有兩個(gè)，可設(shè)p(a1)，p(a2)1信道的輸出符號(hào)有三個(gè)，用b1、b2、b3表示27離散單個(gè)符號(hào)信道及其容量當(dāng)p(a1)p(a2)1/2時(shí)，p(b1)p(b2)(1-0.2)/2/符號(hào)方法二將轉(zhuǎn)移概率矩陣劃分成若干個(gè)互不相交的對(duì)稱(chēng)的子集n為輸入符號(hào)集個(gè)數(shù)；p1，p2，ps是轉(zhuǎn)移概率矩陣P中一行的元素，即H(p1，p2，ps)H(Y/ai)；Nk是第k個(gè)子矩陣中行元素之和，Mk是第k個(gè)子矩陣中列元素之和，r是互不相交的子集個(gè)數(shù)28離散單個(gè)符號(hào)信道及其容量方法二29離散單個(gè)符號(hào)信道及其容量Eg. 求信道容量30離散單個(gè)

7、符號(hào)信道及其容量一般DMC信道1972年由和分別獨(dú)立提出的一種算法，現(xiàn)在稱(chēng)為Blahut-Arimoto算法I(ai;Y) = C 對(duì)于所有滿足p(ai ) 0條件的II(ai;Y) C 對(duì)于所有滿足p(ai ) = 0條件的I當(dāng)信道平均互信息達(dá)到信道容量時(shí)，輸入符號(hào)概率集p(ai)中每一個(gè)符號(hào)ai對(duì)輸出端Y提供相同的互信息，只是概率為零的符號(hào)除外31離散序列信道及其容量 離散序列信道 信道 p(Y/X) Y X X=(X1X2XL) Xla1,a2,an Y=(Y1Y2YL)Yl b1,b2,bm32離散序列信道及其容量 離散無(wú)記憶序列信道 11111進(jìn)一步信道是平穩(wěn)的 33離散序列信道及其

8、容量 離散無(wú)記憶序列信道 11111如果信道無(wú)記憶 如果輸入矢量X中的各個(gè)分量相互獨(dú)立 當(dāng)信道平穩(wěn)時(shí)CL=LC1，一般情況下，I(X;Y) LC134離散序列信道及其容量 11111BSC的二次擴(kuò)展信道 X00,01,10,11，Y00,01,10,11，二次擴(kuò)展無(wú)記憶信道的序列轉(zhuǎn)移概率p(00/00)=p(0/0)p(0/0)=(1-p)2，p(01/00)=p(0/0)p(1/0)=p(1-p)，p(10/00)=p(1/0)p(0/0)=p(1-p)，p(11/00)=p(1/0)p(1/0)=p20010110100011011擴(kuò)展信道如果對(duì)離散單符號(hào)信道進(jìn)行L次擴(kuò)展，就形成了L次離散

9、無(wú)記憶序列信道 35離散序列信道及其容量 擴(kuò)展信道1111若p，則C22比特/序列 36離散序列信道及其容量 獨(dú)立并聯(lián)信道序列的轉(zhuǎn)移概率p(Y1Y2YL/X1X2XL)=p(Y1/X1)p(Y2/X2)p(YL/XL) 1111X1 p(Y1/X1) Y1X2 p(Y2/X2) Y2 XL p(YL/XL) YL373.4連續(xù)信道及其容量 連續(xù)單符號(hào)加性信道 x (xR) p(y/x) y (yR)連續(xù)單符號(hào)信道 npn(n)N(0, 2) 平均互信息為I(X;Y)HC(X)HC(X/Y)HC(Y)HC(Y/X)HC(X)HC(Y)HC(XY) 信道容量噪聲是均值為零、方差為2的加性高斯噪聲

10、383.4連續(xù)信道及其容量 連續(xù)單符號(hào)加性信道 pY(y)N(0,P)，pn(n)N(0, 2)，y=x+n，所以pX(x)N(0,S) C1/2 log(1+SNR) 信道輸入X是均值為零、方差為S的高斯分布隨機(jī)變量時(shí)，信息傳輸率達(dá)到最大值 若是加性的，可以求出信道容量的上下界 393.4連續(xù)信道及其容量 多維無(wú)記憶加性連續(xù)信道 信道輸入隨機(jī)序列XX1X2XL，輸出隨機(jī)序列YY1Y2YL，加性信道有y=x+n，其中n=n1n2nL 是均值為零的高斯噪聲 403.4連續(xù)信道及其容量 連續(xù)單符多維無(wú)記憶高斯加性信道就可等價(jià)成L個(gè)獨(dú)立的并聯(lián)高斯加性信道號(hào)加性信道 比特/L維自由度 因此當(dāng)且僅當(dāng)輸入

11、隨機(jī)矢量X中各分量統(tǒng)計(jì)獨(dú)立，且是均值為零、方差為Pl的高斯變量時(shí)，才能達(dá)到此信道容量 413.4連續(xù)信道及其容量 討論均值為零、方差相同 均值為零、方差不同，總平均功率受限 423.4連續(xù)信道及其容量 討論各個(gè)時(shí)刻的信道輸出功率相等設(shè)為常數(shù) 433.4連續(xù)信道及其容量 eg有一并聯(lián)高斯加性信道，各子信道噪聲方差為 ， ， ， ， ， ， ， ， ， 443.4連續(xù)信道及其容量 限時(shí)限頻限功率加性高斯白噪聲信道 波形信道的平均互信息為 信道容量為 453.4連續(xù)信道及其容量 限時(shí)限頻限功率加性高斯白噪聲信道 限頻(W)高斯白噪聲過(guò)程可分解L2WtB維統(tǒng)計(jì)獨(dú)立的隨機(jī)序列 其中：463.4連續(xù)信道及其容量 限時(shí)限頻限功率加性高斯白噪聲信道 信道的容量 單位時(shí)間的信道容量 香農(nóng)公式 473.4連續(xù)信道及其容量 討論帶寬W一定時(shí)，信噪比SNR與信道容量Ct成對(duì)數(shù)關(guān)系 Ct SNR信道容量與信噪比的關(guān)系483.4連續(xù)信道及其容量 討論當(dāng)輸入信號(hào)功率P