




版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)
文檔簡介
1、關(guān)于信息及自信息第1頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四一、認(rèn)識信息第2頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四一、認(rèn)識信息第3頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四消息就是信息嗎? 用文字、符號、數(shù)據(jù)、語言、音符、圖片、圖像等能夠被人們感覺器官所感知的形式,把客觀物質(zhì)運(yùn)動和主觀思維活動的狀態(tài)表達(dá)出來就成為消息。 消息中包含信息,是信息的載體。一、認(rèn)識信息第4頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四 香農(nóng)在1948年發(fā)表的通信的數(shù)學(xué)理論中對信息做了科學(xué)的定義: 信息是事物運(yùn)動狀態(tài)或存在方式的不確定性的描述。 香農(nóng)信息論的奠基
2、人。 通信的數(shù)學(xué)理論信息論 的理論基礎(chǔ)。 二、信息的定義第5頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四消息傳遞過程有何特點(diǎn)?對于收信者來說:不知知知之甚少知之甚多不確定部分確定或全部確定信源信道信宿消息(發(fā)送者)(接收者)噪聲 通信系統(tǒng)形式上傳輸?shù)氖窍?,?shí)質(zhì)上傳輸?shù)氖切畔ⅰ6?、信息的定義第6頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四 通信的結(jié)果是消除或部分消除不確定性從而獲得信息。 作為消息的發(fā)送者,信源輸出一則消息攜帶多少信息量?如何計(jì)算?二、信息的定義第7頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四 研究對象:單符號離散信源 數(shù)學(xué)模型:三、自信息第
3、8頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四 信息量,在數(shù)量上等于通信前后不確定性的消除。 例1:二元信源發(fā)送0和1概率不同時,不 確定性大小不同。 例2:擲一個質(zhì)地均勻的骰子,不確定性 較大。 例3:信源只發(fā)送一種消息,不確定性為 零。三、自信息第9頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四收到某消息獲得的信息量 = 不確定性減少的量 = (收到此信息前關(guān)于某事件發(fā)生的不確定性) (收到此信息后關(guān)于某事件發(fā)生的不確定性) = 信源輸出的某消息中所含有的信息量 (無噪情況下,后項(xiàng)為0)三、自信息第10頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四 某事件發(fā)
4、生所含有的信息量應(yīng)該是該事件發(fā)生的先驗(yàn)概率的函數(shù) 事件 發(fā)生的先驗(yàn)概率; 事件 發(fā)生所含有的信息量, 稱為 的自信息量。三、自信息第11頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四 根據(jù)客觀事實(shí)和人們的習(xí)慣, 應(yīng)滿足 (1) 應(yīng)是先驗(yàn)概率 的單調(diào)遞減函數(shù),即當(dāng) 時 (2)當(dāng) 時, ; (3)當(dāng) 時, ; (4)兩個獨(dú)立事件的聯(lián)合信息量應(yīng)等于它們分別的信息 量之和,即統(tǒng)計(jì)獨(dú)立信源的信息量等于它們分別的 信息量之和。三、自信息第12頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四 因此,可從數(shù)學(xué)上證明這種函數(shù)形式是對數(shù)形式,即 代表兩種含義:當(dāng)事件 發(fā)生以前,表示事件 發(fā)生的不
5、確定性;當(dāng)事件 發(fā)生以后表示事件 所含有(或所提供)的信息量。三、自信息第13頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四自信息單位:取決于對數(shù)所選取的底。三、自信息第14頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四例:假設(shè)一次擲兩個各自均勻、互相不可區(qū)分又互 不相關(guān)的骰子。如事件A、B、C分別表示:A僅 有一個骰子是1;B至少有一個骰子是4;C骰子 上點(diǎn)數(shù)的總和是偶數(shù)。試計(jì)算事件A、B、C發(fā) 生后所提供的信息量。1比特信息量就是兩個互不相容的等概事件之一發(fā)生時所提供的信息量。三、自信息第15頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四 1. 信息 信息是事物運(yùn)動狀態(tài)或存在方式的不 確定性的描述。 2. 自信息四、小結(jié)第16頁,共18頁,2022年,5月20日,8點(diǎn)39分,星期四思考題: 信源整體平均攜帶多少信息量?如何測量?作業(yè)題:
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 家居行業(yè)營銷承諾舒適與風(fēng)格承諾3篇
- 二手房買賣合同廢止3篇
- 2025臨時工合同(15篇)
- 超市承包合同集錦(18篇)
- 承攬加工合同匯編(16篇)
- 聯(lián)通員工述職報告范文(14篇)
- 綜合辦總結(jié)(10篇)
- 計(jì)算機(jī)教師年度工作總結(jié)個人(7篇)
- 2025年金融知識宣傳活動方案(15篇)
- 公園場地租賃協(xié)議書(19篇)
- 水利工程竣工自查報告
- 新疆維吾爾自治區(qū)新2024年中考數(shù)學(xué)模擬試卷附答案
- 2024年中國老年糖尿病診療指南解讀(2024年版)
- 震后學(xué)校維修合同書
- 李白:《將進(jìn)酒》經(jīng)典省公開課一等獎全國示范課微課金獎?wù)n件
- 19S406建筑排水管道安裝-塑料管道
- 教師如何有效地與家長溝通
- 第11課遼宋夏金元的經(jīng)濟(jì)社會與文化教學(xué)設(shè)計(jì)-高中歷史必修中外歷史綱要上冊2
- 如何與客戶建立有效的溝通
- 真空排水系統(tǒng)施工方案設(shè)計(jì)
- (完整版)建筑工程技術(shù)畢業(yè)論文
評論
0/150
提交評論