《信息論與編碼》-教學(xué)大綱 楊守義

信息論與編碼教學(xué)大綱課程名稱（中/英文）：信息論與編碼/InformationTheoryandCoding課程編號(hào)：242039適用專業(yè)：通信工程、電子信息工程學(xué)分：3學(xué)時(shí)：48（其中：理論學(xué)時(shí)48，實(shí)踐學(xué)時(shí)0）課程類型：專業(yè)類先修課程：微積分、大學(xué)物理、概率論開課單位：電氣與信息工程學(xué)院一、課程簡(jiǎn)介信息論與編碼是通信的數(shù)學(xué)理論，它是一門應(yīng)用概率論與隨機(jī)過程等方法來研究信息的傳輸、存儲(chǔ)、處理、控制和利用的一般規(guī)律的科學(xué)。它主要研究如何提高通信系統(tǒng)的可靠性和有效性，以使通信系統(tǒng)最優(yōu)化。“信息論與編碼”是通信工程專業(yè)的必修課程，在此基礎(chǔ)上培養(yǎng)學(xué)生的實(shí)踐能力，為學(xué)生未來的發(fā)展奠定堅(jiān)實(shí)的基石。信息論與編碼應(yīng)用概率論與隨機(jī)過程等方法解決通信的有效性問題和可靠性問題，從信息概念的引入、信息的度量開始，介紹香農(nóng)三定理在通信系統(tǒng)中進(jìn)行信息處理的基本原理和一般過程，在此基礎(chǔ)上，介紹信源編碼和信道編碼的設(shè)計(jì)原理，以及多種經(jīng)典信源編碼和信道編碼算法。

信息論與編碼課程的學(xué)習(xí)，對(duì)培養(yǎng)學(xué)生的科學(xué)思維能力、提高學(xué)生分析問題和解決問題的能力，具有十分重要的作用。信息論與編碼是通信工程專業(yè)的必修課程，將為進(jìn)一步學(xué)習(xí)后續(xù)課程打下堅(jiān)實(shí)基礎(chǔ)，為學(xué)生的未來發(fā)展奠定堅(jiān)實(shí)基礎(chǔ)。二、課程目標(biāo)（一）課程具體目標(biāo)通過本課程的教學(xué)，學(xué)生應(yīng)具備下列能力：課程目標(biāo)1：掌握信息論與編碼基礎(chǔ)知識(shí)，能應(yīng)用其中基本概念、基本理論、基本分析方法對(duì)通信問題進(jìn)行分析計(jì)算。（支撐畢業(yè)要求指標(biāo)點(diǎn)3.1）根據(jù)研究問題的背景，學(xué)會(huì)建立信源及信道的數(shù)學(xué)模型，掌握信源熵、互信息量、信息率失真函數(shù)、信道容量、信源編碼、信道編碼等信息論與編碼主要分支的基本理論和計(jì)算方法，能夠綜合運(yùn)用所學(xué)知識(shí)解決實(shí)際問題。課程目標(biāo)2：能夠針對(duì)具體通信系統(tǒng)要求，進(jìn)行分析計(jì)算和綜合設(shè)計(jì)。（支撐畢業(yè)要求指標(biāo)點(diǎn)3.2）熟練使用Matlab、C、python等計(jì)算軟件實(shí)現(xiàn)算法編寫與計(jì)算。能綜合運(yùn)用數(shù)學(xué)知識(shí)、信息理論、編碼基本知識(shí)，對(duì)通信工程領(lǐng)域中的復(fù)雜通信系統(tǒng)進(jìn)行定性分析和定量設(shè)計(jì)。課程目標(biāo)3：會(huì)根據(jù)應(yīng)用需求確定常見通信系統(tǒng)的性能指標(biāo)及形式。（支撐畢業(yè)要求指標(biāo)點(diǎn)3.3）能根據(jù)不同應(yīng)用場(chǎng)合對(duì)通信系統(tǒng)的需求，確定性能指標(biāo)，選擇或設(shè)計(jì)系統(tǒng)模塊。課程目標(biāo)4：有設(shè)計(jì)常用通信系統(tǒng)的能力。（支撐畢業(yè)要求指標(biāo)點(diǎn)3.4）通過學(xué)習(xí)該課程，培養(yǎng)學(xué)習(xí)者解決復(fù)雜工程問題的能力。使學(xué)習(xí)者在學(xué)習(xí)和工作中對(duì)問題進(jìn)行定量精度分析，理解通信理論的有效性和可靠性等基本問題，并用于解決復(fù)雜工程問題。注：針對(duì)本專業(yè)類課程信息論與編碼，結(jié)合課程內(nèi)容提煉育人要素，穿插與專業(yè)相關(guān)的傳統(tǒng)文化，在完成專業(yè)知識(shí)能力目標(biāo)的同時(shí)，完成教書育人功能。（二）課程目標(biāo)與專業(yè)畢業(yè)要求的關(guān)系表1是信息論與編碼課程目標(biāo)與對(duì)應(yīng)支撐的畢業(yè)要求及畢業(yè)要求指標(biāo)點(diǎn)。表1課程目標(biāo)與畢業(yè)要求對(duì)應(yīng)關(guān)系表課程目標(biāo)畢業(yè)要求指標(biāo)點(diǎn)畢業(yè)要求課程目標(biāo)13.1掌握信息論與編碼基礎(chǔ)知識(shí)，能應(yīng)用其中基本概念、基本理論、基本分析方法對(duì)通信問題進(jìn)行分析計(jì)算。3、設(shè)計(jì)/開發(fā)解決方案課程目標(biāo)23.2能夠針對(duì)具體通信系統(tǒng)要求，進(jìn)行分析計(jì)算和綜合設(shè)計(jì)。3、設(shè)計(jì)/開發(fā)解決方案課程目標(biāo)33.3能夠根據(jù)應(yīng)用需求確定常見通信系統(tǒng)的性能指標(biāo)及形式。3、設(shè)計(jì)/開發(fā)解決方案課程目標(biāo)43.4能夠設(shè)計(jì)常用通信系統(tǒng)模塊及相應(yīng)編解碼過程。3、設(shè)計(jì)/開發(fā)解決方案三、教學(xué)內(nèi)容與基本要求表2課程目標(biāo)與教學(xué)內(nèi)容/教學(xué)方法課程目標(biāo)教學(xué)內(nèi)容課程思政教育內(nèi)容教學(xué)方法/考核評(píng)價(jià)方式計(jì)劃學(xué)時(shí)（共48）預(yù)期學(xué)習(xí)結(jié)果（能力提升）課程目標(biāo)1：掌握信息論與編碼基礎(chǔ)知識(shí)，能應(yīng)用其中基本概念、基本理論、基本分析方法對(duì)通信問題進(jìn)行分析計(jì)算。信息論的形成和發(fā)展信息理論研究的內(nèi)容通信系統(tǒng)的模型信息論的應(yīng)用通過緒論部分對(duì)信息論發(fā)展歷史及現(xiàn)狀的介紹，讓學(xué)生時(shí)刻關(guān)注我國(guó)通信技術(shù)的發(fā)展，激發(fā)學(xué)生科技興國(guó)的家國(guó)情懷。講授、課堂討論、線上學(xué)習(xí)/平時(shí)成績(jī)，期末考試2緒論：了解信息論的形成和發(fā)展過程，明確信息論研究的主要內(nèi)容及其在實(shí)際通信理論中的工程意義；熟知通信系統(tǒng)模型的組成以及各模塊的作用，明確編碼的種類及在實(shí)際工程應(yīng)用中的重要作用。信源的描述與分類離散信源熵和互信息離散序列信源的熵連續(xù)信源的熵和互信息信源的冗余度講授信源及信息熵知識(shí)，聯(lián)系實(shí)際信源的多樣性，培養(yǎng)學(xué)生的辯證思維、嚴(yán)謹(jǐn)客觀的科學(xué)態(tài)度和勇于探索的精神。講授、課堂討論、線上學(xué)習(xí)/平時(shí)成績(jī)，期末考試10信源與信息熵：掌握信息定義與度量，了解信息函數(shù)的性質(zhì)；掌握各種信源的描述方法，深刻理解互信息的意義；能夠熟練計(jì)算信源的符號(hào)熵和序列熵并掌握其性質(zhì)信道的基本概念離散單個(gè)符號(hào)信道及其容量離散序列信道及其容量連續(xù)序列信道及其容量多輸入多輸出信道及其容量信源與信道的匹配結(jié)合信道與信道容量的講解，聯(lián)系我國(guó)4G和5G技術(shù)發(fā)展的重大成就，增強(qiáng)學(xué)生的民族自信心和文化自豪感，同時(shí)融入社會(huì)主義核心價(jià)值觀、“四個(gè)自信”和創(chuàng)新精神教育。講授、課堂討論、線上學(xué)習(xí)/平時(shí)成績(jī)，期末考試10信道與信道容量：理解信道的物理意義并能夠建立信道的數(shù)學(xué)模型；深刻理解連續(xù)信道的信道容量公式；掌握對(duì)稱和準(zhǔn)對(duì)稱DMC信道的容量計(jì)算信息率失真函數(shù)的概念和性質(zhì)離散信源和連續(xù)信源的R(D)計(jì)算結(jié)合信息率失真函數(shù)的物理意義，引導(dǎo)學(xué)生聯(lián)系運(yùn)用科學(xué)、辯證的觀點(diǎn)和方法全面觀察事物、分析問題。講授、課堂討論、線上學(xué)習(xí)/平時(shí)成績(jī)，期末考試4信息率失真函數(shù)：理解信息率失真函數(shù)的意義并能計(jì)算有關(guān)參數(shù)編碼的概念無失真信源編碼定理限失真信源編碼定理常用信源編碼方法簡(jiǎn)介結(jié)合無失真/限失真信源編碼原理，引導(dǎo)學(xué)生處理問題時(shí)應(yīng)實(shí)事求是，既要樹立科學(xué)的思維，也要樹立創(chuàng)新的思維。講授、課堂討論、線上學(xué)習(xí)/平時(shí)成績(jī)，期末考試10信源編碼：深入理解定長(zhǎng)編碼定理、變長(zhǎng)編碼定理和限失真信源編碼定理；熟練掌握香農(nóng)碼、哈夫曼碼等變長(zhǎng)編碼方法；了解實(shí)際中常用的編碼方法。有擾離散信道編碼定理糾錯(cuò)編譯碼的基本原理與分析方法線性分組碼卷積碼結(jié)合信道編碼原理及常見編碼，引導(dǎo)學(xué)生學(xué)會(huì)用正確的立場(chǎng)、觀點(diǎn)和方法分析問題，把學(xué)習(xí)、觀察、實(shí)踐同思考緊密結(jié)合起來。講授、課堂討論、線上學(xué)習(xí)/平時(shí)成績(jī)，期末考試10信道編碼：理解信道編碼的基本原理，深入理解信道編碼定理，并了解定理的證明思路；掌握譯碼的基本原理，掌握最佳譯碼和最大似然譯碼的概念；熟練掌握線性分組碼的生成方法和譯碼原理，深入理解線性分組碼的特性，掌握線性分組碼的有關(guān)參數(shù)及其與碼的糾檢錯(cuò)能力之間的關(guān)系，掌握循環(huán)碼的生成方法及特性；了解卷積碼的特點(diǎn)，熟練掌握卷積碼的幾種描述方法及有關(guān)參數(shù)；深入理解維特比譯碼原理。網(wǎng)絡(luò)通信的分類網(wǎng)絡(luò)編碼結(jié)合網(wǎng)絡(luò)通信分類及網(wǎng)絡(luò)編碼基本原理，引導(dǎo)學(xué)生樹立大局觀，從而全面、客觀、科學(xué)的分析問題、解決問題。講授、課堂討論、線上學(xué)習(xí)/平時(shí)成績(jī)，期末考試2網(wǎng)絡(luò)信息論初步：了解網(wǎng)絡(luò)通信的分類及網(wǎng)絡(luò)編碼的基本原理。課程目標(biāo)2：能夠針對(duì)具體通信系統(tǒng)要求，進(jìn)行分析計(jì)算和綜合設(shè)計(jì)。無記憶/有記憶序列信源熵的計(jì)算離散對(duì)稱信道、準(zhǔn)對(duì)稱信道的容量計(jì)算基礎(chǔ)信源編碼的實(shí)現(xiàn)基礎(chǔ)信道編/解碼的實(shí)現(xiàn)講授、課堂討論、線上學(xué)習(xí)/平時(shí)成績(jī)，期末考試與課程目標(biāo)1同時(shí)進(jìn)行熟練掌握無記憶離散序列信源和有記憶序列信源的熵的計(jì)算方法；熟練掌握離散信道的容量的計(jì)算方法；熟練掌握基礎(chǔ)信源、信道編碼的設(shè)計(jì)實(shí)現(xiàn)；課程目標(biāo)3：會(huì)根據(jù)應(yīng)用需求確定常見通信系統(tǒng)的性能指標(biāo)及形式信道容量信源編碼效率信道編碼碼率誤碼率講授、課堂討論、線上學(xué)習(xí)/平時(shí)成績(jī)，期末考試與課程目標(biāo)1,2課時(shí)交叉重復(fù)進(jìn)行熟悉常見信道的信道容量，常見信源編碼的編碼效率，常用信道編碼的碼率，常用信道編碼的誤碼率、糾錯(cuò)能力等。課程目標(biāo)4：有設(shè)計(jì)常用通信系統(tǒng)的能力信源信道信源編碼信道編碼講授、課堂討論、線上學(xué)習(xí)/平時(shí)成績(jī)，期末考試與其它課程目標(biāo)課時(shí)交叉重復(fù)進(jìn)行熟悉常見的通信系統(tǒng)設(shè)計(jì)，會(huì)根據(jù)應(yīng)用場(chǎng)合的需求確定通信系統(tǒng)各模塊的形式和主要性能指標(biāo)。四、教學(xué)方法與教學(xué)安排（一）教學(xué)方法表3課程目標(biāo)與對(duì)應(yīng)教學(xué)方法序號(hào)課程目標(biāo)教學(xué)方法理論講授課后作業(yè)課堂討論線上學(xué)習(xí)1課程目標(biāo)12課程目標(biāo)23課程目標(biāo)34課程目標(biāo)4（二）教學(xué)安排本課程總學(xué)時(shí)48學(xué)時(shí)，其中：講授48學(xué)時(shí)。具體教學(xué)安排如表4所示。表4課程教學(xué)安排序號(hào)教學(xué)內(nèi)容學(xué)時(shí)分配教學(xué)方法第1章緒論2課時(shí)課堂講授、課后作業(yè)、課堂討論、線上學(xué)習(xí)第2章信源與信源熵10課時(shí)課堂講授、課后作業(yè)、課堂討論、線上學(xué)習(xí)第3章信道與信道容量10課時(shí)課堂講授、課后作業(yè)、課堂討論、線上學(xué)習(xí)第4章信息率失真函數(shù)4課時(shí)課堂講授、課后作業(yè)、課堂討論、線上學(xué)習(xí)第5章信源編碼10課時(shí)課堂講授、課后作業(yè)、課堂討論、線上學(xué)習(xí)第6章信道編碼10課時(shí)課堂講授、課后作業(yè)、課堂討論、線上學(xué)習(xí)第7章網(wǎng)絡(luò)信息論初步2課時(shí)課堂講授、課后作業(yè)、課堂討論、線上學(xué)習(xí)合計(jì)48課時(shí)五、課程考核評(píng)價(jià)方法本課程采用過程化考核（平時(shí)成績(jī)）和終結(jié)性評(píng)價(jià)（期末考試）兩種方式。過程化考核成績(jī)（平時(shí)成績(jī)）：具體方法是為每位學(xué)生建立學(xué)習(xí)檔案，包括學(xué)生作業(yè)情況，隨堂小考（每次小考作為一次作業(yè)評(píng)價(jià)），占總成績(jī)30%。期末考試成績(jī)：采用書面閉卷考試形式，考核整個(gè)學(xué)期課程內(nèi)容。主要題型可以有：簡(jiǎn)答題、分析計(jì)算題和綜合設(shè)計(jì)題等。占總成績(jī)的70%本課程課程目標(biāo)的達(dá)成度由過程化考核成績(jī)（平時(shí)成績(jī)）和期末考試成績(jī)組成，各部分所占比例如表5所示。表5課程目標(biāo)達(dá)成度與評(píng)價(jià)方式及成績(jī)?cè)u(píng)定支撐畢業(yè)要求課程目標(biāo)考核與評(píng)價(jià)方式及成績(jī)比例（%）成績(jī)比例（%）平時(shí)成績(jī)期末考試成績(jī)指標(biāo)點(diǎn)3.1課程目標(biāo)1104050指標(biāo)點(diǎn)3.2課程目標(biāo)26511指標(biāo)點(diǎn)3.3課程目標(biāo)3102030指標(biāo)點(diǎn)3.4課程目標(biāo)4459合計(jì)3070100六、課程目標(biāo)達(dá)成評(píng)價(jià)方法本課程課程目標(biāo)評(píng)價(jià)計(jì)算方式：表6課程目標(biāo)達(dá)成評(píng)價(jià)系數(shù)表系數(shù)k1系數(shù)k2課程目標(biāo)11/54/5課程目標(biāo)24/73/7課程目標(biāo)31/32/3課程目標(biāo)43/52/5課程目標(biāo)具體計(jì)算分析方法有三種：1、課程目標(biāo)達(dá)成值計(jì)算方法；2、課程目標(biāo)i達(dá)成值個(gè)體差異計(jì)算方法；3、滿足課程目標(biāo)i期望值的學(xué)生比例統(tǒng)計(jì)方法。具體如下：（1）課程目標(biāo)i達(dá)成值計(jì)算方法（2）課程目標(biāo)i達(dá)成度個(gè)體差異計(jì)算方法課程目標(biāo)i達(dá)成度個(gè)體差異定量評(píng)價(jià)法：為更好了解不同學(xué)生之間差異，以學(xué)號(hào)為橫坐標(biāo)，課程目標(biāo)i的達(dá)成值為縱坐標(biāo)，畫出課程目標(biāo)i的達(dá)成值散點(diǎn)分布圖。（3）滿足課程目標(biāo)i期望值的學(xué)生比例統(tǒng)計(jì)方法期末考試評(píng)分標(biāo)準(zhǔn)如表7所示。表7期末考試評(píng)分標(biāo)準(zhǔn)課程目標(biāo)評(píng)分標(biāo)準(zhǔn)90-10075-8960-740-59優(yōu)秀良好合格不合格課程目標(biāo)1：掌握信息論與編碼基礎(chǔ)知識(shí)，能應(yīng)用其中基本概念、基本理論、基本分析方法對(duì)通信問題進(jìn)行分析計(jì)算?；靖拍钋宄纠碚摾斫庹_，分析方法使用得當(dāng)，能準(zhǔn)確運(yùn)用數(shù)學(xué)和電路知識(shí)推導(dǎo)并計(jì)算信源熵、信道容量及互信息量等?；靖拍钋宄?，基本理論理解正確，分析方法使用合理，能基本運(yùn)用數(shù)學(xué)和電路知識(shí)推導(dǎo)并計(jì)算信源熵、信道容量及互信息量等?；靖拍罨厩宄纠碚摾斫饣菊_，分析方法使用基本正確，能基本運(yùn)用數(shù)學(xué)和電路知識(shí)推導(dǎo)并計(jì)算信源熵、信道容量及互信息量等，但不夠嚴(yán)謹(jǐn)?；靖拍畈磺宄纠碚摾斫庥姓`，分析方法使用不得當(dāng)，運(yùn)用數(shù)學(xué)和電路分析知識(shí)推導(dǎo)過程有誤。課程目標(biāo)2：能夠針對(duì)具體通信系統(tǒng)要求，進(jìn)行分析計(jì)算和綜合設(shè)計(jì)。熟練掌握通信系統(tǒng)有效性和可靠性等不同要求，正確區(qū)分其不同應(yīng)用場(chǎng)合。能正確運(yùn)用數(shù)學(xué)及電路理論等知識(shí)，對(duì)通信系統(tǒng)進(jìn)行定性分析或工程近似估算?；菊莆胀ㄐ畔到y(tǒng)有效性和可靠性等不同要求，能基本正確區(qū)分其不同應(yīng)用場(chǎng)合。能基本正確運(yùn)用數(shù)學(xué)及電路理論等知識(shí)，對(duì)通信系統(tǒng)進(jìn)行定性分析或工程近似估算。了解通信系統(tǒng)有效性和可靠性等不同要求，能基本正確區(qū)分其不同應(yīng)用場(chǎng)合。能基本正確運(yùn)用數(shù)學(xué)及電路理論等知識(shí)，對(duì)通信系統(tǒng)進(jìn)行定性分析或工程近似估算。但分析過程不夠嚴(yán)謹(jǐn)，邏輯欠清晰。部分了解通信系統(tǒng)有效性和可靠性等不同要求，，不能嚴(yán)格區(qū)分電路的應(yīng)用場(chǎng)合。不能合理運(yùn)用數(shù)學(xué)及電路理論等知識(shí)，對(duì)通信系統(tǒng)進(jìn)行定性分析或工程近似估算。課程目標(biāo)3：能夠根據(jù)應(yīng)用需求確定常見通信系統(tǒng)的性能指標(biāo)及形式。掌握常用的編碼方法，能準(zhǔn)確了解編碼功能及作用，能夠正確分析其作用、估算其主要性能指標(biāo)。熟悉常用的編碼方法，能準(zhǔn)確了解編碼功能及作用，能夠正確分析其作用、估算其主要性能指標(biāo)。了解常用的編碼方法，能準(zhǔn)確了解編碼功能及作用，能夠正確分析其作用、估算其主要性能指標(biāo)。但不夠準(zhǔn)確。部分了解常用的編碼方法，能準(zhǔn)確了解編碼功能及作用，能夠正確分析其作用、估算其主要性能指標(biāo)，估算及分析時(shí)存在錯(cuò)誤。課程目標(biāo)4：能夠設(shè)計(jì)常用通信系統(tǒng)模塊及相應(yīng)編解碼過程。能夠根據(jù)需求，合理選擇系統(tǒng)模塊，編碼方式，并設(shè)計(jì)出符合要求的編解碼過程。能夠根據(jù)需求，較為合理選擇系統(tǒng)模塊，編碼方式，并設(shè)計(jì)出符合要求的編解碼過程。能夠根據(jù)需求，較為合理選擇系統(tǒng)模塊，編碼方式，但編解碼過程設(shè)計(jì)不夠合理。不能合理選擇系統(tǒng)模塊和編碼方式，不能設(shè)計(jì)出符合要求的編解碼過程。本課程平時(shí)成績(jī)?cè)u(píng)定標(biāo)準(zhǔn)如表8所示。表8平時(shí)成績(jī)?cè)u(píng)分標(biāo)準(zhǔn)課程目標(biāo)評(píng)分標(biāo)準(zhǔn)90-10075-8960-740-59優(yōu)秀良好合格不合格課程目標(biāo)1-4：按時(shí)提交作業(yè)，書面干凈整潔；概念清楚，分析方法正確，計(jì)算步驟詳細(xì)，邏輯清晰。按時(shí)提交作業(yè)，書面較干凈；概念清楚，能寫出主要計(jì)算步驟，邏輯較清楚?；景磿r(shí)交作業(yè)，書面較亂；部分概念不太清楚，分析計(jì)算有錯(cuò)誤。未能按時(shí)交作業(yè)；書面較亂；作業(yè)中錯(cuò)誤較多，計(jì)算步驟少。注：每個(gè)課程目標(biāo)通常對(duì)應(yīng)多次作業(yè)，期末計(jì)算平時(shí)成績(jī)時(shí)是多次作業(yè)的平均值。七、本課程與相關(guān)課程的聯(lián)系與分工信息論與編碼的先修課程主要是微積分、線性代