-第5章信道容量-PPT課件

1、第5章 信道容量信道可靠傳輸信息的能力如何度量？5.1 信道容量1、信道容量信道給定時，平均互信息I(X;Y)對于信源概率P(X)嚴格上凸總能找到P(X)，使I(X;Y)達到最大定義信道給定時平均互信息I(X;Y)的最大值，用C表示表示2、信道容量的意義平均互信息I(X;Y)信道中每傳輸一條消息所攜帶的平均信息量信道容量C給定信道中每傳輸一條消息所攜帶的最大平均信息量給定信道可靠傳輸信息的能力3、信道容量的主要性質(zhì)非負性極值性例1信道的信道容量及達到信道容量的信源概率例2信道的信道容量及達到信道容量的信源概率例3信道的信道容量及達到信道容量的信源概率如果信宿等概信宿等概是否可達？例4信道的信道

2、容量及達到信道容量的信源概率如果信宿等概信宿等概是否可達？5.2 對稱信道的信道容量1、對稱信道矩陣中每一行都是集合中各元素的不同排列矩陣行可置換；每一列都是集合 中各元素的不同排列矩陣列可置換信道的信道矩陣既行可置換又列可置換定義例1例2二進制對稱信道2、對稱信道的信道容量達到信道容量的信源概率對稱信道行可置換如果信宿等概信宿等概是否可達？對稱信道列可置換，不失一般性，設對稱信道的信道矩陣二進制對稱信道的信道容量達到信道容量的信源概率例3信道容量及達到信道容量的信源概率信道矩陣既行可置換又列可置換對稱信道信道容量達到信道容量的信源概率例4信道容量及達到信道容量的信源概率信道矩陣既行可置換又列

3、可置換對稱信道信道容量達到信道容量的信源概率3、弱對稱信道信道的信道矩陣行可置換定義例5例6二進制擦除信道弱對稱信道4、弱對稱信道的信道容量達到信道容量的信源概率弱對稱信道行可置換如果信宿等概信宿等概是否可達？矛盾！不可達按列分為s個不相交的子集，各子集構(gòu)成的子信道對稱信道對應于子信道的各子信宿等概是否可達？子信道矩陣列可置換，不失一般性，設第k個子信道矩陣如果各子信宿等概二進制擦除信道的信道容量達到信道容量的信源概率例7信道容量及達到信道容量的信源概率信道矩陣行可置換弱對稱信道二進制擦除信道按列分成兩個不相交的子集，兩個子集構(gòu)成的子信道矩陣信道容量達到信道容量的信源概率例8信道容量及達到信道容量的信源概率信道矩陣行可置換弱對稱信道按列分成兩個不相交的子集，兩個子集構(gòu)成的子信道矩陣信道容量達到信道容量的信源概率5.3 NN信道的信道容量信道容量達到信道容量的信源概率當M=N，方程有唯一解例1信道容量及達到信道容量的信源概率5.4 聯(lián)合信道容量與條件信道容量1、聯(lián)合信道容量與條件信道容量定義聯(lián)合信道容量信道給定時聯(lián)合平均互信息I(X1X2Xn; Y1Y2Yn)的最大值，用C(X1X2Xn; Y1Y2Yn)表示表示條件信道容量信道給定時條件平均互信息I(Xk;Y