《信息理論與編碼》課程教學(xué)大綱

信息理論與編碼課程教學(xué)大綱（INFORMATIONTHEORYANDCODING）學(xué)時(shí)數(shù)：48其中：理論學(xué)時(shí)：40實(shí)驗(yàn)學(xué)時(shí)：8學(xué)分?jǐn)?shù)：3適用專業(yè)：電子信息工程專業(yè)一、課程的性質(zhì)、目的和任務(wù)《信息理論與編碼》是電子信息工程專業(yè)的專業(yè)課程。課程的特點(diǎn)是理論性較強(qiáng)，有大量的推導(dǎo)和公式。因此本課程的目的與任務(wù)是使學(xué)生通過本課程的學(xué)習(xí)，理解信息論和編碼的基本概念和一定的編碼理論知識(shí)，掌握基礎(chǔ)的編碼方法。本課程在學(xué)習(xí)之前最好具有高等數(shù)學(xué)概率論通信原理方面的專業(yè)知識(shí)。二、課程教學(xué)的基本要求基本概念和基本知識(shí)：信源、無記憶信源、有記憶信源關(guān)馬爾科夫信源、離散信源熵、自信息、交互信息、離散序列信源熵、離散無記憶信源序列熵、離散有記憶信源序列熵、連續(xù)信源熵、最大熵定理、信道、信道容量、率失真函數(shù)、信源編碼、信道編碼、及有關(guān)信息論和編碼方面的基本知識(shí)。重點(diǎn)：熵的概念信道和信道容量的計(jì)算信源編碼信道編碼。難點(diǎn)：信道容量的求解信源編碼和的計(jì)算本課程概念多、理論性強(qiáng)，因此教學(xué)形式以講授方式為主，輔以網(wǎng)上課堂。了解是能正確判別有關(guān)概念和方法；理解是能正確表達(dá)有關(guān)概念和方法的含義；掌握是在理解的基礎(chǔ)上加以靈活應(yīng)用。（具體內(nèi)容）本課程暫定用閉卷考試的考核方法，根據(jù)教學(xué)大綱統(tǒng)一命題，綜合計(jì)分。三、課程的教學(xué)內(nèi)容重點(diǎn)和難點(diǎn)第一章緒論（2學(xué)時(shí)）一、教學(xué)內(nèi)容：1、信息論的形成和發(fā)展2、通信系統(tǒng)的模型二、教學(xué)要求：1、掌握情報(bào)、知識(shí)、消息、信號(hào)、香農(nóng)信息、可靠性、有效性、保密性等概念2、掌握通信系統(tǒng)的模型、信源、編碼器、信道、譯碼器、信宿等概念重點(diǎn)：通信系統(tǒng)得模型、難點(diǎn)：各基本概念的掌握第二章信源和信源熵（8學(xué)時(shí)）一、教學(xué)內(nèi)容：1、信源描述和分類2、離散信源熵和互信息3、離散序列信源的熵4、連續(xù)信源的熵和互信息二、教學(xué)要求：要求掌握自信息量條件信息量互信息量條件互信息量平均互信息量單符號(hào)熵隨機(jī)序列折熵熵的性質(zhì)以及連續(xù)信源的熵最大熵定理。重點(diǎn)：熵的概念及各種條件下的熵難點(diǎn)：熵的計(jì)算第三章信道與信道容量（8學(xué)時(shí)）一、教學(xué)內(nèi)容：1、信道分類和表示參數(shù)2、離散單符號(hào)信道及容量3、離散序列及其容量4、連續(xù)信道及其容量二、教學(xué)要求：要求掌握信道的分類及其表示參數(shù)信道的最大傳輸率信道的容量及其計(jì)算方法重點(diǎn)：信道容量的計(jì)算難點(diǎn)：離散序列信道及連續(xù)信道的容量計(jì)算第四章信息率失真函數(shù)（4小時(shí)）一、教學(xué)內(nèi)容1、平均失真和信息率失真函數(shù)2、離散信源和連續(xù)信源的R（D）計(jì)算二、教學(xué)要求：要求掌握失真函數(shù)和信息率失真的函數(shù)的定義和性質(zhì)，并在給出一定失真限度內(nèi)信源必須輸出的最小傳輸速率。重點(diǎn)：信息率失真函數(shù)的概念難點(diǎn)：信息率失真函數(shù)的計(jì)算第五章信源編碼（8學(xué)時(shí)）一、教學(xué)內(nèi)容：1、編碼的定義2、無失真信源編碼3、限失真信源編碼4、常用信源編碼方法簡介二、教學(xué)要求：要求掌握信源的編碼方法無失真信源編碼定理限失真信源編碼定理定長編碼定理變長編碼定理香農(nóng)碼費(fèi)諾（Fano）碼和哈夫曼（Huffman）碼的編碼方法及其性能比較重點(diǎn)：常用信源編碼難點(diǎn)：限失真信源編碼第六章信道編碼（10學(xué)時(shí)）一、教學(xué)內(nèi)容：1、有擾離散信道編碼定理2、糾錯(cuò)譯碼的基本原理和分析方法3、線性分組碼4、卷積碼5、編碼與調(diào)制的結(jié)合——TCM6、級(jí)聯(lián)碼二、教學(xué)要求：要求掌握信道編碼定理差錯(cuò)控制信道編譯碼方法的基本原理常用的信道編碼方法（線性分組碼卷積碼級(jí)聯(lián)碼）重點(diǎn)：各種編碼的概念及原理難點(diǎn)：卷積碼、級(jí)聯(lián)碼四、課程各教學(xué)環(huán)節(jié)要求1、本課程概念多、理論性強(qiáng)，因此教學(xué)形式以講授為主，輔以網(wǎng)上課堂。2、應(yīng)布置一定的作業(yè)量3、本課程暫定用閉卷筆試的考核方式，根據(jù)教學(xué)大綱統(tǒng)一命題，綜合計(jì)分。五、學(xué)時(shí)分配章節(jié)主要內(nèi)容各教學(xué)環(huán)節(jié)學(xué)時(shí)分配作業(yè)題量備注講授實(shí)驗(yàn)討論習(xí)題課外其它小計(jì)1緒論222信源和信源熵8083信道和信道容量82104信息率失真函數(shù)4265信源編碼82106信道編碼10212合計(jì)40848六、課程與其它課程的聯(lián)系本課程在學(xué)習(xí)之前應(yīng)具有高等數(shù)學(xué)、概率論、通信原理方面的專業(yè)知識(shí)。七、教材與教學(xué)參考書（一）教材曹雪虹.信息論與編碼.北京：清華大學(xué)出版社，2004年（二）教學(xué)參考書：[1]曲煒.信息論與編碼理論.北京：科學(xué)出版社，2005年9月[2]傅祖蕓.