信道編碼10-15上課

信道編碼2023/2/52第6章信道編碼目的：了解信道編碼的作用與意義掌握幾種典型的信道編碼、譯碼方法對信道編碼的研究方法和成果有基本認(rèn)識(shí)，為進(jìn)一步研究打下基礎(chǔ)特點(diǎn)：基本概念、物理意義、基本方法為主2023/2/53主要內(nèi)容基本概念和方法線性分組碼循環(huán)碼（實(shí)驗(yàn)）BCH卷積碼2023/2/546.1用于可靠傳輸和存儲(chǔ)數(shù)據(jù)的編碼信道編碼的引入信道編碼的基本思想編碼系統(tǒng)模型2023/2/556.1用于可靠傳輸和存儲(chǔ)數(shù)據(jù)的編碼

——信道編碼的引入移動(dòng)通信通信網(wǎng)小張小李2023/2/566.1用于可靠傳輸和存儲(chǔ)數(shù)據(jù)的編碼

——信道編碼的引入通信的目的在于傳輸信息通信系統(tǒng)主要質(zhì)量指標(biāo)是通信的有效性和可靠性在實(shí)際信道上傳輸信號(hào)時(shí)，由于信道傳輸特性不理想及噪聲的影響，接收端收到的信號(hào)不可避免地會(huì)發(fā)生錯(cuò)誤發(fā)送端接收端干擾2023/2/576.1用于可靠傳輸和存儲(chǔ)數(shù)據(jù)的編碼

——信道編碼的引入隨著差錯(cuò)控制編碼理論的完善和數(shù)字電路技術(shù)的發(fā)展，信道編碼不僅應(yīng)用于各種通信系統(tǒng)中，在計(jì)算機(jī)存儲(chǔ)、運(yùn)算系統(tǒng)以及超大規(guī)模集成電路的設(shè)計(jì)中也得到日益廣泛的應(yīng)用。2023/2/586.1用于可靠傳輸和存儲(chǔ)數(shù)據(jù)的編碼

——信道編碼的作用

信道編碼是在數(shù)據(jù)傳輸/存儲(chǔ)中所采用的降低系統(tǒng)差錯(cuò)率，提高系統(tǒng)可靠性的一種數(shù)字處理技術(shù)。2023/2/596.1用于可靠傳輸和存儲(chǔ)數(shù)據(jù)的編碼

——信道編碼的基本思想通過對信息碼元序列作某種變換,即增加一定數(shù)量的多余碼元，使原來彼此相互獨(dú)立、沒有關(guān)聯(lián)的信息碼元,經(jīng)過變換后,產(chǎn)生某種規(guī)律性或相關(guān)性,從而在接收端可根據(jù)這種規(guī)律性來檢查、糾正傳輸序列中的差錯(cuò)。編碼的實(shí)質(zhì)——利用冗余降低差錯(cuò)概率。2023/2/5106.1用于可靠傳輸和存儲(chǔ)數(shù)據(jù)的編碼

——信道編碼的基本思想舉例：ASCII碼的偶校驗(yàn)過程ASCII碼：7bit表示符號(hào)，例如“L”的ASCII是0011001偶校驗(yàn)：使得編碼后輸出的碼字中“1”的個(gè)數(shù)為偶數(shù)

0011001->00110011接收端驗(yàn)證“1”的個(gè)數(shù)是否為偶數(shù)這一“規(guī)律”（關(guān)系）是否成立來檢驗(yàn)錯(cuò)誤是否發(fā)生啟示需要增加冗余碼元（8，7）監(jiān)督碼元與信息碼元建立了一組關(guān)系接收端利用這組關(guān)系檢查和糾正錯(cuò)誤2023/2/5116.1用于可靠傳輸和存儲(chǔ)數(shù)據(jù)的編碼

——編碼系統(tǒng)模型信源：輸出的是信息序列（信息碼元）信道：廣義信道，也稱編碼信道2023/2/512信息序列：mi=[mi1,mi2,…,mik]編碼后的發(fā)送序列：Ci=[Ci1,Ci2,…,Cin]受到干擾后的接收序列：ri=[ri1,ri2,…,rin]信息序列：m’i=[m’i1,m’i2,…,m’ik]編碼譯碼發(fā)送端接收端信道（干擾）編碼系統(tǒng)模型下的數(shù)字序列變換2023/2/5136.1用于可靠傳輸和存儲(chǔ)數(shù)據(jù)的編碼

——編碼系統(tǒng)模型三點(diǎn)說明：1.不可無限的增加冗余碼2.盡可能的重現(xiàn)m，即使m′盡量接近m3.編譯碼算法易實(shí)現(xiàn)，設(shè)備費(fèi)用盡量低研究各種編碼和譯碼方法是信道編碼所要解決的問題。噪聲干擾2023/2/5146.2錯(cuò)誤類型與信道模型噪聲干擾輸入輸出轉(zhuǎn)移概率2023/2/5156.2錯(cuò)誤類型與信道模型隨機(jī)錯(cuò)誤和隨機(jī)信道突發(fā)錯(cuò)誤和突發(fā)信道混合錯(cuò)誤和混合信道2023/2/5166.2錯(cuò)誤類型與信道模型隨機(jī)錯(cuò)誤和隨機(jī)信道隨機(jī)錯(cuò)誤：各碼元是否出現(xiàn)錯(cuò)誤，與前、后碼元是否差錯(cuò)沒有關(guān)系，每個(gè)碼元獨(dú)立的按一定的概率發(fā)生差錯(cuò)。一般是由加性高斯白噪聲引起的。只存在隨機(jī)錯(cuò)誤的信道稱為無記憶信道/隨機(jī)信道，用信道轉(zhuǎn)移概率來描述。比如，二進(jìn)制對稱信道BSC。2023/2/517二進(jìn)制對稱信道（BinarySymmetricChannel,BSC）P(1/0)=pP(0/1)=pP(1/1)=1-pP(0/0)=1-p輸入符號(hào)取值集合

X={0，1}輸出符號(hào)取值集合

Y={0，1}0101XYpp1-p1-p6.2錯(cuò)誤類型與信道模型2023/2/5186.2錯(cuò)誤類型與信道模型突發(fā)錯(cuò)誤和突發(fā)信道突發(fā)錯(cuò)誤：噪聲對各傳輸碼元的影響不是獨(dú)立的，從而導(dǎo)致差錯(cuò)是一連串出現(xiàn)的。例如移動(dòng)通信中信號(hào)在某一段時(shí)間內(nèi)發(fā)生衰落，造成一串差錯(cuò)；光盤上的一條劃痕等。存在突發(fā)錯(cuò)誤的信道，稱之為有記憶信道/突發(fā)信道。2023/2/5196.2錯(cuò)誤類型與信道模型混合錯(cuò)誤和混合信道混合錯(cuò)誤：既有突發(fā)錯(cuò)誤又有隨機(jī)錯(cuò)誤。突發(fā)錯(cuò)誤和隨機(jī)錯(cuò)誤并存的信道稱之為混合信道。2023/2/520錯(cuò)誤圖樣：設(shè)發(fā)送的是序列C（碼元長度為n），通過信道傳輸后，接收端的序列為R。由于在傳輸過程中受到信道噪聲干擾，R序列中的某些元素和C序列中的對應(yīng)碼元的值可能不同，如果信道中的噪聲干擾采用二進(jìn)制序列e表示，相應(yīng)有錯(cuò)誤的位取值為1，無錯(cuò)的位取值為0，可得

e=CR6.2錯(cuò)誤類型與信道模型2023/2/521例：發(fā)送序列C：（1111100000），收到的序列R：（1001010000），第二、三、五、六位產(chǎn)生了錯(cuò)誤，因此錯(cuò)誤圖樣e的二、三、五、六位取值為1，即e：(0110110000)對于突發(fā)信道，錯(cuò)誤圖樣中，第一個(gè)“1”和最后一個(gè)“1”之間的碼元總個(gè)數(shù)稱為突發(fā)長度，其圖樣稱為突發(fā)圖樣。該例中，突發(fā)圖樣是（11011），突發(fā)長度為5。6.2錯(cuò)誤類型與信道模型2023/2/5226.3差錯(cuò)控制的基本方式反饋重傳方式前向糾錯(cuò)方式混合方式2023/2/5236.3差錯(cuò)控制的基本方式反饋重傳方式(AutomaticRepeatreQuest,ARQ)工作原理：發(fā)送端發(fā)送的是檢錯(cuò)碼，通過信道傳輸?shù)浇邮斩耍邮斩俗g碼器只需根據(jù)編碼規(guī)則判斷是否有錯(cuò)誤，并把判決信號(hào)通過反饋信道送回發(fā)送端。發(fā)送端根據(jù)判決信號(hào)將收端認(rèn)為有錯(cuò)誤的重新發(fā)送，直到接收端檢查無誤為止。2023/2/5246.3差錯(cuò)控制的基本方式發(fā)端收端檢錯(cuò)碼判決信號(hào)反饋重傳方式(AutomaticRepeatreQuest,ARQ)分為兩類：等待式和連續(xù)式2023/2/5256.3差錯(cuò)控制的基本方式前向糾錯(cuò)方式(ForwardErrorCorrection,FEC)工作原理：發(fā)送端發(fā)送能糾正錯(cuò)誤的碼字，在接收端根據(jù)接收到的碼字和編碼規(guī)則，能自動(dòng)糾正傳輸中的錯(cuò)誤。不需要反饋信道，實(shí)時(shí)性好。隨著糾錯(cuò)能力的提高，編譯碼設(shè)備復(fù)雜。2023/2/5266.3差錯(cuò)控制的基本方式混合方式(HybridErrorCorrection,HEC)工作原理：結(jié)合前向糾錯(cuò)和ARQ的系統(tǒng)，在糾錯(cuò)能力范圍內(nèi)，自動(dòng)糾正錯(cuò)誤，超出糾錯(cuò)范圍則要求發(fā)送端重新發(fā)送?！壑苑桨?。2023/2/5276.4信道編碼的分類按差錯(cuò)控制編碼的不同功能：檢錯(cuò)碼：發(fā)現(xiàn)錯(cuò)誤的碼糾錯(cuò)碼：自動(dòng)糾正錯(cuò)誤的碼按信息碼元與附加監(jiān)督碼元間檢驗(yàn)關(guān)系：線性碼(LinearCode)：監(jiān)督碼元與信息碼元滿足線性關(guān)系非線性碼(NonlinearCode)：監(jiān)督碼元與信息碼元不滿足線性關(guān)系2023/2/5286.4信道編碼的分類按信息碼元與監(jiān)督碼元間約束方式：分組碼(BlockCode)：信息序列每k位分成一組，產(chǎn)生r位監(jiān)督元，輸出長度為n=r+k的碼字。r位監(jiān)督元只與本分組的k位信息元有關(guān)，記為（n,k）。卷積碼(ConvolutionalCode)：編碼器給每k0位信息加上r0位監(jiān)督元得到長度為n0的碼字。該碼字的運(yùn)算，不僅與本組k0位信息有關(guān)，還與其前面m組k0位信息有關(guān)。稱這種碼為（n0，k0，m）卷積碼。2023/2/5296.4信道編碼的分類按信息碼元在編碼后是否保持原來的形式：系統(tǒng)碼、非系統(tǒng)碼按糾正錯(cuò)誤的類型：糾正隨機(jī)錯(cuò)誤的碼、糾正突發(fā)錯(cuò)誤的碼按每個(gè)碼元取值：二進(jìn)制碼、多進(jìn)制碼2023/2/5306.4信道編碼的分類2023/2/5316.5信道編碼定理香農(nóng)信道編碼定理性能指標(biāo)分組碼及相關(guān)基本概念2023/2/5326.5信道編碼定理香農(nóng)信道編碼定理

對于一個(gè)給定的有擾信道，若信道的容量為C，只要發(fā)送端以低于C的速率發(fā)送信息，則一定存在一種編碼方法，使譯碼錯(cuò)誤概率P隨著碼長n的增加，按指數(shù)下降到任意小的值，表示為 這里E(R)稱為可靠性函數(shù)。2023/2/5336.5信道編碼定理定理告訴我們：當(dāng)信息速率小于信道容量時(shí)，總存在一種編碼方式使差錯(cuò)率低于任一給定值ε；為減小差錯(cuò)概率，可增大碼長n或增大E(R)

增大E(R)可：可以增大信道容量；（增大帶寬、增大功率、降低噪聲）減小碼率；2023/2/5346.6線性分組碼分組碼及參數(shù)分組碼：將信息序列分成k位一組，按照一定的校驗(yàn)關(guān)系增加r位校驗(yàn)位，構(gòu)成n(n=k+r)位碼分組，稱為碼字（Codewords)，所有可能碼字構(gòu)成的集合稱為一個(gè)分組碼，記為(n,k)分組碼分組碼的校驗(yàn)關(guān)系僅限于一個(gè)碼分組之內(nèi)2023/2/5356.6線性分組碼分組碼及參數(shù)主要參數(shù)：信息分組：m=(mk-1mk-2

…m1m0)碼字：C=(cn-1cn-2

…c1c0)碼長n，信息位個(gè)數(shù)k，校驗(yàn)位個(gè)數(shù)r=n-k碼字個(gè)數(shù)(二進(jìn)制)：2k編碼效率：R=k/n2023/2/5366.6線性分組碼許用碼組、禁用碼組（n，k）碼中有2k個(gè)n重碼字。但是nbit的二進(jìn)制序列具有2n種不同的組合序列；分組碼的編碼規(guī)則就是從2n種不同序列中選擇2k個(gè)碼字，建立信息序列與碼字的對應(yīng)關(guān)系；這2k個(gè)碼字組成的集合稱為許用碼組，剩余的2n-2k個(gè)n重向量組成的集合稱為禁用碼組。2023/2/5376.6分組碼基本概念碼重、碼距碼重：碼字中非0碼元的個(gè)數(shù)，又稱漢明重量。例如碼字x=(11000)，則碼重w(x)=2

碼距：碼字x與碼字y對應(yīng)位取值不同的個(gè)數(shù)，又稱為漢明距離。例如：x=(10111101)，y=(01110101)2023/2/5386.6分組碼的基本概念最小碼距（最小漢明距離）最小碼距：（n，k）分組碼中，任何兩個(gè)碼字之間距離的最小值，稱為該分組碼的最小漢明距離，簡稱最小距離，用d表示。最小碼距描述分組碼特性的重要參量，決定了碼的糾錯(cuò)、檢錯(cuò)性能。(n,k)分組碼通常也記為(n,k,d)分組碼。2023/2/5396.6分組碼的基本概念最小碼距（最小漢明距離）[例]：

(2,1)重復(fù)碼，{00,11}d=？

(3,1)重復(fù)碼，{000,111} d=？

(4,1)重復(fù)碼，{0000,1111} d=？2023/2/5406.6分組碼的基本概念最小漢明距離譯碼準(zhǔn)則：在許用碼組中，判斷與接收序列r“最近”的碼字為發(fā)送碼字2023/2/541分組碼的檢糾錯(cuò)能力分組碼的檢糾錯(cuò)能力碼的最小距離為d0=

e+1，其檢錯(cuò)能力為e。2023/2/542分組碼的檢糾錯(cuò)能力分組碼的檢糾錯(cuò)能力糾錯(cuò)能力：一個(gè)(n,k)分組碼，如果能糾正碼字內(nèi)的所有小于或等于t個(gè)(位)錯(cuò)誤，則稱該碼的糾錯(cuò)能力為t2023/2/543分組碼的檢糾錯(cuò)能力碼的最小距離為d0=

2t+1，其糾錯(cuò)能力為t。且當(dāng)d*=2t+1或d*=2t+2時(shí)，都不能糾正t+1個(gè)錯(cuò)誤。2023/2/544分組碼的檢糾錯(cuò)能力分組碼的檢糾錯(cuò)能力同時(shí)糾檢錯(cuò)能力：一(n,k)分組碼，如果能糾正碼字內(nèi)的所有小于或等于t個(gè)(位)錯(cuò)誤，同時(shí)又能檢出所有小于或等于e(e>t)個(gè)(位)錯(cuò)誤，則稱該碼的同時(shí)糾檢錯(cuò)能力為糾t個(gè)錯(cuò)同時(shí)檢e個(gè)錯(cuò)。

2023/2/545分組碼的檢糾錯(cuò)能力碼最小碼距d0=e+t+1，其中e>t，該碼能夠糾正t個(gè)錯(cuò)誤，同時(shí)檢測e個(gè)錯(cuò)誤。2023/2/5466.7幾種常用的編碼方式奇偶校驗(yàn)(監(jiān)督)碼水平一致監(jiān)督碼水平垂直一致監(jiān)督碼群計(jì)數(shù)碼恒比碼（等重碼）2023/2/5476.7幾種常用的編碼方式奇偶校驗(yàn)碼是(n,n-1)碼。假設(shè)奇偶校驗(yàn)碼的碼字表示為偶校驗(yàn)碼：加入監(jiān)督位后，碼字中“1”的個(gè)數(shù)為偶數(shù)個(gè)，即所有位的模二和為0。（即偶數(shù)個(gè)1）2023/2/5486.7幾種常用的編碼方式奇偶監(jiān)督（校驗(yàn)）碼奇校驗(yàn)碼：加入監(jiān)督位后碼字中“1”的個(gè)數(shù)為奇數(shù)個(gè)，即所有位的模二和為1。（即奇數(shù)個(gè)1）可以檢測任意奇數(shù)個(gè)錯(cuò)誤；構(gòu)造簡單，易于實(shí)現(xiàn)，在計(jì)算機(jī)內(nèi)部數(shù)據(jù)傳送和輸入輸出設(shè)備中經(jīng)常使用。2023/2/5496.7幾種常用的編碼方式水平一致監(jiān)督碼將原信息序列以適當(dāng)長度排成一行，如每k位信息為一行，設(shè)共有m行。對每行進(jìn)行偶（奇）校驗(yàn)經(jīng)，構(gòu)成(m(k+1),mk)分組碼傳輸時(shí)按列傳輸；譯碼時(shí)排成表，檢驗(yàn)每行的校驗(yàn)關(guān)系2023/2/5506.7幾種常用的編碼方式水平一致監(jiān)督碼可以發(fā)現(xiàn)所有長度b≤m的單個(gè)突發(fā)錯(cuò)誤2023/2/5516.7幾種常用的編碼方式水平垂直一致監(jiān)督碼經(jīng)奇偶校驗(yàn)后的若干碼字排列成矩陣，每個(gè)碼字排成一行，然后再按列的方向增加垂直校驗(yàn)位，就構(gòu)成了二維奇偶校驗(yàn)碼((m(k+1)+k,mk)傳輸時(shí)可以按行傳輸，也可以按列傳輸。2023/2/5526.7幾種常用的編碼方式水平垂直一致監(jiān)督碼2023/2/5536.7幾種常用的編碼方式水平垂直一致監(jiān)督碼糾檢錯(cuò)能力強(qiáng)：可檢測每一行中奇數(shù)個(gè)錯(cuò)和每一列中奇數(shù)個(gè)錯(cuò)；二維奇偶碼適用于檢測突發(fā)錯(cuò)誤。如果采用按照列的順序傳輸，可以發(fā)現(xiàn)長度t≤m+2的突發(fā)錯(cuò)；如果按照行的順序傳輸，可以發(fā)現(xiàn)t≤k+2。應(yīng)用于穿孔紙帶、磁帶記錄系統(tǒng)中。2023/2/5546.7幾種常用的編碼方式群計(jì)數(shù)碼將碼字中“1”的計(jì)數(shù)值作為監(jiān)督碼元例如，信息組為01011，共3個(gè)1，用011表示，得到(8,5)碼。群計(jì)數(shù)碼的碼字為01011011檢錯(cuò)能力很強(qiáng)，除了0錯(cuò)成1和1錯(cuò)成0成對發(fā)生的情況外，其它形式的錯(cuò)誤都能發(fā)現(xiàn)。為了降低發(fā)送碼元中的冗余度，有時(shí)只傳送計(jì)數(shù)碼元中最后幾位。特別的只傳輸最后1位監(jiān)督元，則群計(jì)數(shù)碼變成奇偶校驗(yàn)碼2023/2/5556.7幾種常用的編碼方式恒比碼碼字中“1”和“0”的個(gè)數(shù)保持相同的比例，即每個(gè)碼字中1的個(gè)數(shù)相同。恒比碼的譯碼可以采用查表方法，檢錯(cuò)時(shí)查1或0的個(gè)數(shù)。恒比碼是一種檢錯(cuò)碼。恒比碼一般用在電報(bào)。2023/2/5566.7幾種常用的編碼方式恒比碼例：發(fā)漢字電報(bào)時(shí)，每個(gè)漢字用4位阿拉伯?dāng)?shù)字表示，每個(gè)阿拉伯?dāng)?shù)字用5個(gè)比特的碼字表示。由于阿拉伯?dāng)?shù)字只有10個(gè)，因此從32中可能的碼字中挑出=10個(gè)1的個(gè)數(shù)為3的碼字作為阿拉伯?dāng)?shù)字的編碼方式。阿拉伯?dāng)?shù)字編碼阿拉伯?dāng)?shù)字編碼1010116101012110017111003101108011104110109100115001110011012023/2/5576.8信道編碼理論的發(fā)展歷史1948年香農(nóng)（Shannon）在其論文《通信中的數(shù)學(xué)理論》中提出有擾信道編碼定理——奠定了信道編碼的基石。50年代至60年代初，信道編碼從無到有得到了迅速的發(fā)展：奠定了線性分組碼的理論基礎(chǔ)；提出了著名的BCH碼編譯碼方法以及卷積碼的序列譯碼。2023/2/5586.8信道編碼理論的發(fā)展歷史60年代至70年代初，信道編碼發(fā)展最