《信息論與編碼》課程教學大綱

《信息論與編碼》課程教學大綱課程代碼：ABJD0618課程中文名稱:信息論與編碼課程英文名稱：InformationTheoryandCoding課程性質(zhì)：專業(yè)選修課程學分數(shù)：2.5學分課程學時數(shù)：40學時授課對象：電子信息工程專業(yè)本課程的前導課程：信號與線性系統(tǒng)一、課程簡介本課程注重基本概念、基本理論和基本分析方法的論述，并結(jié)合實例建立數(shù)學模型，給出推演過程，力求物理概念清晰、數(shù)學結(jié)構嚴謹和完整、逐步深入展開。通過該課程的學習，使學生掌握香農(nóng)信息論的三個基本概念，與之相應的三個編碼定理，以及信源編碼、信道編碼和信息保密編碼的基本理論和主要方法，培養(yǎng)學生能夠適應數(shù)字通信、信息處理、信息安全、計算機信息管理等編碼工作的要求。使學生掌握信息理論的基本概念和信息分析方法及主要結(jié)論，為今后從事信息領域的科研和工程工作進一步研究打下堅實的理論基礎。二、教學基本內(nèi)容和要求（一）緒論課程教學要求：1、知道信息論的形成與發(fā)展。2、了解通信系統(tǒng)的模型。（二）信源熵課程教學內(nèi)容：單符號離散信源；多符號離散信源；連續(xù)信源。課程的重點、難點：重點：用有關性質(zhì)、定理、公式計算信息量和信源熵難點：實際應用中信息量和信源熵的計算，馬氏信源熵的計算課程教學要求：1、理解自信息量、互信息量的概念及其性質(zhì)，熟練掌握他們的計算方法。2、理解信源熵、平均互信息量的概念及其性質(zhì)，熟練掌握他們的計算方法。3、了解聯(lián)合熵、條件熵的基本概念。4、掌握離散信源的N次擴展信源熵的計算，會計算馬氏信源熵。5、理解連續(xù)信源熵的基本概念及性質(zhì)，掌握其計算方法。（三）信道容量課程教學內(nèi)容：單符號離散信道；多符號離散信道；多用戶信道；連續(xù)信道。課程的重點、難點：重點：特殊信道容量的計算，香農(nóng)公式的應用難點：信道容量的計算，香農(nóng)公式的推導課程教學要求：1、理解信道容量的定義，掌握幾種特殊離散信道信道容量的計算。2、了解多符號離散信道的概念。3、知道多用戶信道。4、了解連續(xù)信道的信道容量。5、理解最大連續(xù)熵定理，熟練掌握Shannon公式的計算和應用。（四）信息率失真函數(shù)課程教學內(nèi)容：信息率失真函數(shù)的定義課程的重點、難點：重點：率失真函數(shù)的定義課程教學要求：1、理解率失真函數(shù)的定義。2、了解離散信源和連續(xù)信源的率失真函數(shù)的參量表達式。（五）信源編碼課程教學內(nèi)容：香農(nóng)編碼；費諾編碼；霍夫曼編碼；游程編碼；冗余位編碼。課程的重點、難點：重點：費諾編碼，霍夫曼編碼，平均碼字長度和編碼效率的計算難點：三進制的霍夫曼編碼課程教學要求：1、理解唯一可譯碼、即時碼的基本概念，了解定長編碼定理和變長編碼定理2、掌握Shannon編碼、Fano編碼、Huffman編碼的方法，掌握平均碼字長度和編碼效率的計算。3、了解游程編碼和冗余位編碼的概念。（六）信道編碼課程教學內(nèi)容：信道編碼的基本概念線性分組碼；循環(huán)碼；卷積碼。課程的重點、難點：重點：檢、糾錯能力的衡量，線性分組碼的概念難點：檢、糾錯能力的衡量,生成矩陣、監(jiān)督矩陣和伴隨矩陣的計算課程教學要求：1、理解信道編碼的基本概念，了解檢、糾錯能力的衡量。2、理解線性分組碼的概念，會計算線性分組碼的生成矩陣、監(jiān)督矩陣和伴隨矩陣。3、了解循環(huán)碼和卷積碼的基本概念。三、實驗教學內(nèi)容及基本要求（無）四、教學方法與手段本課程以課堂講授為主，適當利用多媒體教學手段，采用啟發(fā)式，結(jié)合實際靈活施教。五、各教學環(huán)節(jié)學時分配章節(jié)與內(nèi)容講課習題課實驗其它合計緒論2信源熵121信道容量71信息率失真函數(shù)21信源編碼61信道編碼61合計35540六、考核方式與成績評定標準1、考核方法：按照課堂表現(xiàn)占30%，作業(yè)成績占30%，課程考核成績占40%綜合評定。2、成績評定：最后以優(yōu)秀、良好、中等、及格和不及格五個等級評定課程總成績。七、教學參考資源1、參考書目：曹雪虹、張宗橙編著，《信息論與編碼》（第二版），清華大學出版社，2009年。王育民，李暉，梁傳甲編著《信息論與編碼理論》，高等教育出版社，2005年。陳運編著，《信息論與編碼》（第二版），電子工業(yè)出版社，2007年。2、與課程相關主要網(wǎng)站（1）國防科學技術大學《信息論與編碼基礎》國家級精品課程網(wǎng)站：/course/details?u