信息論與編碼習題與答案第三章

PAGE53.1設(shè)二元對稱信道的傳遞矩陣為(1)若P(0)=3/4,P(1)=1/4，求H(X),H(X/Y),H(Y/X)和I(X;Y)；(2)求該信道的信道容量及其達到信道容量時的輸入概率分布；解：1)（2)其最佳輸入分布為3.3在有擾離散信道上傳輸符號0和1，在傳輸過程中每100個符號發(fā)生一個錯誤，已知P(0)=P(1)=1/2，信源每秒內(nèi)發(fā)出1000個符號，求此信道的信道容量。解：由題意可知該二元信道的轉(zhuǎn)移概率矩陣為：為一個BSC信道所以由BSC信道的信道容量計算公式得到：3-6設(shè)有擾離散信道的傳輸情況分別如圖3－17所示。求出該信道的信道容量。解：信道轉(zhuǎn)移概率矩陣為P=該信道為離散對稱信道DMC3-7發(fā)送端有三種等概率符號，,接收端收到三種符號，信道轉(zhuǎn)移概率矩陣為(1)接收端收到一個符號后得到的信息量H(Y);(2)計算噪聲熵;(3)計算接收端收到一個符號的錯誤概率；(4)計算從接收端看的平均錯誤概率；(5)計算從發(fā)送端看的平均錯誤概率；(6)從轉(zhuǎn)移矩陣中能看出該新到的好壞嗎？(7)計算發(fā)送端的H(X)和。解：(1)（2）聯(lián)合概率，后驗概率H(Y/X)==bit/symbol（3）當接收為，發(fā)為時正確，如果發(fā)的是則為錯誤，各自的概率為：則錯誤概率為：（4）從接收端看平均錯誤概率為（5）從發(fā)送端看的平均錯誤概率為：（6）能看出此信道不好。原因是信源等概率分布，從轉(zhuǎn)移信道來看正確發(fā)送的概率x1→y1的概率0.5有一半失真；x2→y2的概率0.3有嚴重失真；x3→y3的概率0完全失真。（7）bit/symbolH(X/Y)=SEQ圖表\*romanibit/symbol3-10一個平均功率受限制的連續(xù)信道，其通頻帶為1MHZ，信道上存在白色高斯噪聲。（1）已知信道上的信號與噪聲的平均功率比值為10，求該信道的信道容量；（2）信道上的信號與噪聲的平均功率比值降至5，要達到相同的信道容量，信道通頻帶應為多大？（3）若信道通頻帶減小為0.5MHZ時，要保持相同的信道容量，信道上的信號與噪聲的平均功率比值應等于多大？解：（1）（2）（3）3-12有一個二元對稱信道，其信道轉(zhuǎn)移概率如下圖所示，該信道以1500個二元符號/s的速度傳輸輸入符號?，F(xiàn)有一消息序列共有14000個二元符號，并設(shè)在這消息中p(0)=p(1)=1/2。問從信息傳輸?shù)慕嵌葋砜紤]，10秒鐘內(nèi)能否將這消息序列無失真地傳送完？解：信道容量由于，每個二