教學(xué)大綱_貝葉斯統(tǒng)計

1、貝葉斯統(tǒng)計教學(xué)大綱課程編號：120493A課程類型：口通識教育必修課口通識教育選修課舊專業(yè)必修課口專業(yè)選修課學(xué)科基礎(chǔ)課總學(xué)時：48 講課學(xué)時：32實驗（上機）學(xué)時：16學(xué)分：3適用對象：統(tǒng)計學(xué)專業(yè)先修課程：高等數(shù)學(xué)、概率論與數(shù)理統(tǒng)計學(xué)畢業(yè)要求：1 .扎實的數(shù)學(xué)基礎(chǔ)和完整的統(tǒng)計知識體系2 .計算機編程技能與經(jīng)濟(jì)學(xué)基本常識3 .解決實際問題的能力4 .統(tǒng)計學(xué)和大數(shù)據(jù)專業(yè)知識一、教學(xué)目標(biāo)貝葉斯統(tǒng)計是上世紀(jì)50年代后，才迅速發(fā)展起來的一門統(tǒng)計理論。目前， 在歐美等西方國家，貝葉斯統(tǒng)計已經(jīng)成為了與經(jīng)典統(tǒng)計學(xué)派并駕齊驅(qū)的當(dāng)今兩大 統(tǒng)計學(xué)派之一；隨著貝葉斯理論和方法的不斷發(fā)展和完善， 以及相應(yīng)的計算軟件 的

2、研制，貝葉斯方法在實踐中獲得了日趨廣泛的應(yīng)用；特別是，貝葉斯決策問題在統(tǒng)計應(yīng)用中占有越來越重要的地位。 在商業(yè)經(jīng)濟(jì)預(yù)測、政府宏觀經(jīng)濟(jì)管理、國 防工業(yè)中對武器裝備系統(tǒng)可靠性評估、生物醫(yī)學(xué)研究；知識發(fā)現(xiàn)和數(shù)據(jù)挖掘技術(shù) 等都獲得了廣泛應(yīng)用。本課程通過貝葉斯統(tǒng)計的教學(xué) 使學(xué)習(xí)過傳統(tǒng)的 數(shù)理統(tǒng)計課程的學(xué)生了解貝葉斯統(tǒng)計的基本思想和基本觀點，了解貝葉斯統(tǒng)計與傳統(tǒng)的數(shù)理統(tǒng)計在理論和處 理方法上的區(qū)別，了解貝葉斯統(tǒng)計的最新進(jìn)展，能夠系統(tǒng)的掌握貝葉斯統(tǒng)計的基 本理論、基本方法，特別是貝葉斯統(tǒng)計極具特色的一些處理方法，引進(jìn)一個效用函數(shù)(utility function)并選擇使期望效用最大的最優(yōu)決策，這樣就把貝葉

3、斯的 統(tǒng)計思想擴(kuò)展到在不確定時的決策問題。 很好的將統(tǒng)計學(xué)與最優(yōu)化的思想方法和 技術(shù)很好的進(jìn)行了結(jié)合。貝葉斯統(tǒng)計理論和方法技術(shù)的學(xué)習(xí)，不僅能夠提高學(xué)生 分析和解決實際問題的能力，還能夠更進(jìn)一步提高對經(jīng)典數(shù)理統(tǒng)計的深入理解。二、教學(xué)內(nèi)容及其與畢業(yè)要求的對應(yīng)關(guān)系根據(jù)貝葉斯統(tǒng)計課程的教學(xué)內(nèi)容，本課程將重點介紹貝葉斯統(tǒng)計推斷理論，貝葉斯決策理論。并且注重貝葉斯統(tǒng)計處理方法和基本觀點與傳統(tǒng)數(shù)理統(tǒng)計相應(yīng) 內(nèi)容對比的講授方式。注重案例教學(xué)，安排學(xué)生課后查閱文獻(xiàn)資料，以及課堂研 討等方式，了解貝葉斯統(tǒng)計理論和應(yīng)用最新成果及前沿研究進(jìn)展。對最新貝葉斯網(wǎng)絡(luò)和貝葉斯統(tǒng)計的方法除了傳統(tǒng)講授方式外，適當(dāng)?shù)陌才派蠙C實驗，

4、了解貝葉斯統(tǒng)計相關(guān)軟件的使用方法。課程的考核方式：期末開卷+論文方式，卷面60%, 平時和論文40%。三、各教學(xué)環(huán)節(jié)學(xué)時分配以表格方式表現(xiàn)各章節(jié)的學(xué)時分配，表格如下：教學(xué)課時分配廳P京P內(nèi)谷講課實驗其他合計1第一章緒論22第一早先驗分布與后驗分布423第三章貝葉斯統(tǒng)計推斷824第四章先驗分布的確定425第五章決策中的收益、損失與效應(yīng)446第六章貝葉斯決策647第七章貝葉斯網(wǎng)絡(luò)簡介42合計321648四、教學(xué)內(nèi)容第一章緒論第一節(jié)貝葉斯理論發(fā)展歷史簡介簡單的介紹貝葉斯理論發(fā)展歷史，在貝葉斯理論發(fā)展過程中一些統(tǒng)計學(xué)家的 重要工作。第二節(jié)貝葉斯方法的特點1 .貝葉斯統(tǒng)計理論的基本觀點2 .貝葉斯統(tǒng)計與

5、傳統(tǒng)數(shù)理統(tǒng)計的區(qū)別第三節(jié) 現(xiàn)代貝葉斯統(tǒng)計理論的研究現(xiàn)狀1 .先驗分布理論的研究2 .后驗分布的統(tǒng)計推斷3 .貝葉斯網(wǎng)絡(luò)技術(shù)的發(fā)展第四節(jié)貝葉斯方法的應(yīng)用1 .在經(jīng)濟(jì)分析中的應(yīng)用2 .在保險精算中的應(yīng)用3 .在數(shù)據(jù)挖掘中的應(yīng)用教學(xué)重點、難點：重點掌握貝葉斯統(tǒng)計的基本思想， 本章難點是貝葉斯統(tǒng)計 的基本思想以及貝葉斯統(tǒng)計學(xué)派與傳統(tǒng)的頻率學(xué)派的分歧。課程的考核要求：通過本章的學(xué)習(xí)，要求學(xué)生了解貝葉斯統(tǒng)計思想的歷史背 景、掌握基本觀點及其基本學(xué)術(shù)思想的內(nèi)涵、了解貝葉斯統(tǒng)計與傳統(tǒng)數(shù)理統(tǒng)計的區(qū)別，了解貝葉斯統(tǒng)計理論的研究現(xiàn)狀及貝葉斯方法的應(yīng)用。復(fù)習(xí)思考題：1. 貝葉斯統(tǒng)計理論的基本觀點是什么？2. 貝葉斯學(xué)

6、派與頻率學(xué)派之間存在的重大分歧是什么？3. 請課后查閱貝葉斯理論相關(guān)應(yīng)用文獻(xiàn)資料，然后回答貝葉斯理論有哪些應(yīng)用？第二章 先驗分布與后驗分布第一節(jié) 三種信息1. 總體信息2. 樣本信息3. 先驗信息第二節(jié) 貝葉斯公式1. 貝葉斯公式的密度函數(shù)形式2. 后驗分布是三種信息的綜合第三節(jié) 共軛先驗分布1. 共軛先驗分布2. 后驗分布的計算3. 共軛先驗分布的優(yōu)缺點教學(xué)重點、難點： 重點講解貝葉斯公式的密度函數(shù)形式，特別是連續(xù)隨機變量形式。共軛先驗分布的計算及其優(yōu)缺點、課程的考核要求： 通過本章的學(xué)習(xí)，要求學(xué)生掌握先驗分布與后驗分布的概念。 理解 貝葉斯統(tǒng)計中的三種信息；掌握貝葉斯公式的密度函數(shù)形式、共

7、軛先驗分布的計算及其優(yōu)缺點、超參數(shù)的確定方法；了解多參數(shù)模型和充分統(tǒng)計量。復(fù)習(xí)思考題：1. 什么是貝葉斯公式？寫出貝葉斯公式的三種形式。2. 設(shè) 是一批產(chǎn)品的不合格率，已知它不是0.1 就是0.2，其先驗分布為：(0.1) 0.7,(0.2) 0.3假如從這批產(chǎn)品中隨機取出8 個進(jìn)行檢查，發(fā)現(xiàn)有 2 個不合格品，求的后驗分布。3. 共軛先驗分布的優(yōu)缺點是什么？第三章 貝葉斯推斷第一節(jié) 條件方法第二節(jié) 點估計1. 貝葉斯估計2. 貝葉斯估計的誤差第三節(jié) 區(qū)間估計1 . 可信區(qū)間2 .最大后驗密度(HPD)可信區(qū)間第四節(jié) 假設(shè)檢驗1. 假設(shè)檢驗2. 貝葉斯因子3. 簡單假設(shè)對簡單假設(shè)4. 復(fù)雜假設(shè)

8、對復(fù)雜假設(shè)5. 簡單原假設(shè)對復(fù)雜備擇假設(shè)第五節(jié) 預(yù)測1 .預(yù)測的基本概念和基本問題2 .預(yù)測的貝葉斯方法第六節(jié)似然原理1 .對似然函數(shù)的理解2 .似然原理3 .兩個學(xué)派對似然原理的不同理解而產(chǎn)生的影響教學(xué)重點、難點：重點講解貝葉斯估計和貝葉斯假設(shè)檢驗的思想方法。難點二次損失函數(shù)下參數(shù)估計的貝葉斯方法。課程的考核要求：通過本章的學(xué)習(xí)，要求學(xué)生掌握二次損失函數(shù)下參數(shù)估計 的貝葉斯方法、估計量的誤差分析、最大后驗密度的可信區(qū)間；掌握貝葉斯基本 假設(shè)的涵義、檢驗方法的一般步驟，了解貝葉斯預(yù)測和似然原理。能用這些方法 解決一些簡單的實際問題。復(fù)習(xí)思考題：1 .簡述條件方法的基本思想。2 .請敘述貝葉斯參

9、數(shù)估計基本思想，并寫出貝葉斯估計的具體步驟。3 .怎樣評價貝葉斯估計的優(yōu)劣？4 .簡述貝葉斯假設(shè)檢驗的基本思想，它與經(jīng)典假設(shè)檢驗的根本區(qū)別是什 么？2、25.已知隨機樣本X1, ,XnN( , 0),其中0已知。設(shè) 的先驗分布為雙 指數(shù)分布，即h( ) ec/(2c),其中c已知。(1)試求的后驗分布；(2)試求的后驗分布的數(shù)學(xué)期望。226.已知隨機變量X N( , 1 ),隨機變量Y N( , 2),其中兩個正態(tài)總體含 有相同的未知,且12, 2已知。設(shè) 的先驗分布 N( , 2),其中，2已知。(1)如果沒有來自總體N( , 12)的Xi, ,Xn樣本數(shù)據(jù)，試求隨機變量Y的貝葉斯預(yù)測值及預(yù)

10、測區(qū)間。(2)如果給出了來自總體N( , 12)的Xi, ,Xn樣本數(shù)據(jù)，試求隨機變量Y的 貝葉斯預(yù)測值及預(yù)測區(qū)間。第四章 先驗分布的確定第一節(jié) 主觀概率1. 主觀概率2. 確定主觀概率的方法第二節(jié) 利用先驗信息確定先驗分布1. 直方圖法2. 選定先驗密度函數(shù)形式再估計其超參數(shù)3. 定分度法與變分度法第三節(jié)利用邊緣分布m(x)確定先驗密度1. 邊緣分布m(x)2. 混合分布3. 先驗選擇的MII方法4. 先驗選擇的矩方法第四節(jié) 無信息先驗分布1. 貝葉斯假設(shè)2. 位置 - 尺度參數(shù)的無信息先驗分布3. 尺度參數(shù)的無信息先驗分布4. 用 Fisher 信息陣確定無信息先驗分布教學(xué)重點、難點：重點

11、介紹 無信息先驗分布。特別是位置參數(shù)和尺度參數(shù)的無信息先驗分布，和Fisher 信息陣確定無信息先驗分布。課程的考核要求： 先驗分布的確定是貝葉斯學(xué)派研究的重點問題，更是研究的難點， 也是經(jīng)典學(xué)派批評的熱點。要求學(xué)生掌握確定先驗分布的幾個典型方法， 掌握貝葉斯假設(shè)的概念，掌握位置參數(shù)和尺度參數(shù)的無信息先驗分布，會用 Fisher 信息陣確定無信息先驗分布等，并運用這些方法解決一些實際問題。復(fù)習(xí)思考題：1. 如何理解主觀概率？2. 什么是貝葉斯假設(shè)？3. 混合分布的含義是什么？4. 簡述 Fisher 信息陣確定無信息先驗分布的基本步驟。第五章 決策中的收益、損失與效用第一節(jié) 決策問題的三要素1

12、. 決策問題2. 決策問題的三要素第二節(jié) 決策準(zhǔn)則1. 行動的容許性2. 決策準(zhǔn)則第三節(jié) 先驗期望準(zhǔn)則1. 先驗期望準(zhǔn)則的基本原理和應(yīng)用2. 先驗期望準(zhǔn)則的兩個重要性質(zhì)第四節(jié) 損失函數(shù)1. 從收益到損失2. 損失函數(shù)3. 損失函數(shù)下的悲觀準(zhǔn)則第五節(jié) 常用的損失函數(shù)*1. 常用損失函數(shù)2. 常用損失函數(shù)的應(yīng)用第六節(jié) 效用函數(shù) *1. 效用和效用函數(shù)2. 效用的測定3. 效用尺度4. 常見的效用曲線5. 用效用函數(shù)作決策的例子6. 從效用到損失教學(xué)重點、難點：重點介紹 決策問題的三要素、決策準(zhǔn)則、先驗期望準(zhǔn)則及性質(zhì)，常用的損失函數(shù)、損失函數(shù)下的悲觀準(zhǔn)則和先驗期望準(zhǔn)則。課程的考核要求： 掌握決策問題

13、的三要素、決策準(zhǔn)則、先驗期望準(zhǔn)則及其性質(zhì) ,了解常用的損失函數(shù)、損失函數(shù)下的悲觀準(zhǔn)則和先驗期望準(zhǔn)則；理解效應(yīng)和效應(yīng)函數(shù)、常用的效應(yīng)曲線和效應(yīng)的測定方法,以及效應(yīng)曲線在決策中的應(yīng)用。復(fù)習(xí)思考題：1. 如何理解悲觀準(zhǔn)則、樂觀準(zhǔn)則、折中準(zhǔn)則和先驗期望準(zhǔn)則之間的聯(lián)系？2. 某企業(yè)準(zhǔn)備經(jīng)營一種新產(chǎn)品，可采取得行動有：大批量、中批量和小批量生產(chǎn)。市場可能出現(xiàn)的狀況有：暢銷、一般和滯銷。如大批量生產(chǎn)，在暢銷時可獲利 100 萬元，一般時可獲利30 萬元，滯銷時虧損60 萬元；如中批量生產(chǎn)，在三種市場情況下可獲利50 萬元、 40 萬元和虧損20 萬元；如小批量生產(chǎn)，在三種市場情況下可獲利10 萬元、 9 萬

14、元和 6 萬元。3. 1）寫出收益矩陣4. 2）在悲觀準(zhǔn)則下，該企業(yè)的最優(yōu)行動是什么？5. 3）在樂觀準(zhǔn)則下，該企業(yè)的最優(yōu)行動是什么？6. 4）若樂觀系數(shù)0.8，該企業(yè)的最優(yōu)行動是什么？第六章貝葉斯決策第一節(jié)貝葉斯決策問題1. 無數(shù)據(jù)的決策問題2. 統(tǒng)計決策問題3. 貝葉斯決策問題第二節(jié) 后驗風(fēng)險準(zhǔn)則1. 后驗風(fēng)險2. 決策函數(shù)3. 后驗風(fēng)險準(zhǔn)則第三節(jié) 常用損失函數(shù)下的貝葉斯估計1. 平方損失下的貝葉斯估計2. 線性損失下的貝葉斯估計3. 有限個行動問題的假設(shè)檢驗第四節(jié) 抽樣信息期望值1. 完全信息期望值2. 抽樣信息期望值第五節(jié) 最佳樣本量的確定1. 抽樣凈益2. 最佳樣本量及其上界3. 最

15、佳樣本量的求法教學(xué)重點、難點：貝葉斯決策的基本概念、后驗風(fēng)險、決策函數(shù)和后驗風(fēng)險準(zhǔn)則；平方損失函數(shù)和線性損失函數(shù)下參數(shù)的貝葉斯估計方法、有限個行動問題的貝葉斯假設(shè)檢驗；課程的考核要求：本章系統(tǒng)介紹貝葉斯決策的基本理論和方法，通過本章的學(xué)習(xí)，要求學(xué)生掌握貝葉斯決策的基本概念、后驗風(fēng)險、決策函數(shù)和后驗風(fēng)險準(zhǔn) 則；熟練掌握平方損失函數(shù)和線性損失函數(shù)下參數(shù)的貝葉斯估計、有限個行動問題的貝葉斯hl檢驗；了解完全信息期望值、抽樣信息期望值、最佳樣本容量的 確定和正態(tài)分布下二行動線性決策問題的先驗EVPI。復(fù)習(xí)思考題：1 .貝葉斯決策問題與其他據(jù)測問題的異同點是什么？2 .考察損失函數(shù)L( ,d) ec(

16、d) c( d) 1(1)證明 L( ,d) 0(2)對c 0.1, 0.5, 1.2,畫出此損失函數(shù)圖形(3)在這個損失函數(shù)下給出貝葉斯估計的表達(dá)式(4)設(shè)X1,X2,“|, Xn是來自正態(tài)總體N( ,1)的一個樣本，的先驗取無信息先驗，即()1,請給出 的貝葉斯估計。第七章貝葉斯網(wǎng)絡(luò)簡介第一節(jié) 簡單貝葉斯學(xué)習(xí)模型1 .簡單貝葉斯學(xué)習(xí)模型的介紹2 .簡單貝葉斯模型的提升第二節(jié)貝葉斯網(wǎng)絡(luò)簡介1.Bayesian網(wǎng)絡(luò)的定義2 .貝葉斯網(wǎng)的表示方法3 .貝葉斯網(wǎng)絡(luò)的構(gòu)造第三節(jié)貝葉斯問題的求解第四節(jié) Bayesian 網(wǎng)絡(luò)的應(yīng)用案例教學(xué)重點、難點：貝葉斯網(wǎng)絡(luò)的構(gòu)造和貝葉斯網(wǎng)絡(luò)的表述方法課程的考核要求：讓學(xué)生知道貝葉斯網(wǎng)絡(luò)是表示不確定性知識的一種有效方法，貝葉斯網(wǎng)絡(luò)的參數(shù)學(xué)習(xí)與結(jié)構(gòu)學(xué)習(xí)是比較活躍的研究領(lǐng)域，貝葉斯網(wǎng)絡(luò)的推理能夠計算出任何給定事件在給定