版權(quán)說明：本文檔由用戶提供并上傳，收益歸屬內(nèi)容提供方，若內(nèi)容存在侵權(quán)，請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡介
本課程主要內(nèi)容信息論信源一自信息、信息熵信道一互信息、信道容量編碼理論俗編碼信道編碼什么是信息?信息是事物運(yùn)動(dòng)狀態(tài)或存在方式的不確定性的描述不僅僅是形式上的消息或情報(bào),而且包括消息或情報(bào)所含的對(duì)事物狀態(tài)或不確定性的描述1.信源可以按照什么特點(diǎn)來分類?按照信源輸出符號(hào)的符號(hào)集的取值是有限的還是連續(xù)的可分為離散信源與連續(xù)信源按照信源在任意兩個(gè)不同時(shí)刻輸出的隨機(jī)矢量X的各維概率分布是相同還是不相同可分為平穩(wěn)信源與非平穩(wěn)信源按照信源發(fā)出的符號(hào)之間有沒有相互依賴關(guān)系可分為有記憶信源與無記憶信源;N維隨機(jī)矢量:由N個(gè)符號(hào)組成的符號(hào)序列N次擴(kuò)展信源:信源輸出的消息是按一定概率選取的由N個(gè)符號(hào)組成的序列,即輸出的是隨機(jī)矢量幾種信源分類之間的關(guān)系平穩(wěn)信源離散信源非平穩(wěn)信源有記憶信源連續(xù)信源無記憶信源2.什么是自信息?它的計(jì)算公式是什么?自信息量與獲得的信息量之間是什么關(guān)系?如果事件a發(fā)生的概率為P(an),事件a發(fā)生所含有的信息量,就稱為自信息量,表示為l(a)=loP(a1)獲得的信息量等于自信息量的減少3.自信息量有什么的特點(diǎn)?自信息量的四個(gè)特點(diǎn):1.如果P(a)>P(a2),則IP(a1)<B(a22.當(dāng)P(a1)=1,則IP(an)=03.當(dāng)P(a)=0,則P(a)=∞4.兩個(gè)獨(dú)立事件聯(lián)合信息量等于他們分別的信息量之和4什么是信息熵?其計(jì)算公式是什么?信息熵定義為信源的平均信息量計(jì)算公式為H(X=∑P(a)logP(a1)5.信息熵的九個(gè)基本性質(zhì)是什么?基本性質(zhì):對(duì)稱性、確定性、非負(fù)性、擴(kuò)展性、可加性、強(qiáng)可加性、遞增性、極值性、上凸性1)信息熵的對(duì)稱性當(dāng)變量P,P2,…,P的順序任意互換時(shí),熵函數(shù)的值不變,即H(1,P2,…,P0)=H(P2,P3…,P,P1)=H(Po,P1,P2;…,P12)信息熵的確定性H(1,0)=H(1,0,0)=H(1,0,0,0)
溫馨提示
- 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙，網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽，若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間，僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理，對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯，并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容，請(qǐng)與我們聯(lián)系，我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 2025年度綠色建筑租賃合同（含能源管理）2篇
- 2025年度個(gè)人債務(wù)重組合同范本2篇
- 2025版施工隊(duì)中途退場原因調(diào)查及責(zé)任追究合同3篇
- 2025-2030全球微注塑材料行業(yè)調(diào)研及趨勢(shì)分析報(bào)告
- 2024年全國營養(yǎng)師技能大賽福建選拔賽考試題庫（附答案）
- 2025-2030全球軍事應(yīng)用防護(hù)涂層行業(yè)調(diào)研及趨勢(shì)分析報(bào)告
- 2025-2030全球駐極體過濾介質(zhì)行業(yè)調(diào)研及趨勢(shì)分析報(bào)告
- 2025-2030全球植入性人工器官行業(yè)調(diào)研及趨勢(shì)分析報(bào)告
- 外墻清洗合同范例
- 2025年度鋼材價(jià)格預(yù)測(cè)居間服務(wù)協(xié)議3篇
- 2024年湖南高速鐵路職業(yè)技術(shù)學(xué)院高職單招數(shù)學(xué)歷年參考題庫含答案解析
- 國旗班指揮刀訓(xùn)練動(dòng)作要領(lǐng)
- 2024年國家工作人員學(xué)法用法考試題庫及參考答案
- 國家公務(wù)員考試(面試)試題及解答參考(2024年)
- 《阻燃材料與技術(shù)》課件 第6講 阻燃纖維及織物
- 2021-2022學(xué)年遼寧省重點(diǎn)高中協(xié)作校高一上學(xué)期期末語文試題
- 同等學(xué)力英語申碩考試詞匯（第六版大綱）電子版
- 人教版五年級(jí)上冊(cè)遞等式計(jì)算100道及答案
- 墓地個(gè)人協(xié)議合同模板
- 2024年部編版初中語文各年級(jí)教師用書七年級(jí)（上冊(cè)）
- 2024年新課標(biāo)全國Ⅰ卷語文高考真題試卷(含答案)
評(píng)論
0/150
提交評(píng)論