貝葉斯估計(jì)方法ppt課件

1、4 貝葉斯估計(jì)方法4.1 Bayes推理的提出4.2 Bayes推理的基本思想4.3 Bayes推理公式4.4 Bayes推理應(yīng)用實(shí)例4.5 基于Bayes推理的數(shù)據(jù)融合方法4.6 融合實(shí)例4.7 Bayes推理的缺點(diǎn)4.1 Bayes推理的提出貝葉斯貝葉斯 Thomas Bayes 英國數(shù)學(xué)家。英國數(shù)學(xué)家。1702年出生于倫敦，做過神甫。年出生于倫敦，做過神甫。1742年成年成為英國皇家學(xué)會會員。為英國皇家學(xué)會會員。1763年年4月月7日逝世。貝葉斯在數(shù)學(xué)方日逝世。貝葉斯在數(shù)學(xué)方面主要研究概率論。他首先將歸納推理法用于概率論基礎(chǔ)理面主要研究概率論。他首先將歸納推理法用于概率論基礎(chǔ)理論，創(chuàng)立了

2、貝葉斯統(tǒng)計(jì)理論，對于統(tǒng)計(jì)決策函數(shù)、統(tǒng)計(jì)推斷、論，創(chuàng)立了貝葉斯統(tǒng)計(jì)理論，對于統(tǒng)計(jì)決策函數(shù)、統(tǒng)計(jì)推斷、統(tǒng)計(jì)估算等做出了貢獻(xiàn)。統(tǒng)計(jì)估算等做出了貢獻(xiàn)。 1763年發(fā)表了這方面的論著，對于年發(fā)表了這方面的論著，對于現(xiàn)代概率論和數(shù)理統(tǒng)計(jì)都有很重要的作用。貝葉斯的另一著現(xiàn)代概率論和數(shù)理統(tǒng)計(jì)都有很重要的作用。貝葉斯的另一著作作發(fā)表于發(fā)表于1758年。貝葉斯所采用的許多術(shù)年。貝葉斯所采用的許多術(shù)語被沿用至今。語被沿用至今。4.2 Bayes推理的基本思想貝葉斯推理就是在不完全情報(bào)下，對部分未知的狀態(tài)用主觀概率估計(jì)，然后用貝葉斯公式對先驗(yàn)概率進(jìn)行修正，最后再利用修正概率做出最優(yōu)決策。貝葉斯決策理論方法是統(tǒng)計(jì)決策中

3、的一個(gè)基本方法，其基本思想是：1、已知條件概率密度參數(shù)表達(dá)式和先驗(yàn)概率。2、利用貝葉斯公式轉(zhuǎn)換成后驗(yàn)概率。3、根據(jù)后驗(yàn)概率大小進(jìn)行決策分類。 4.3 Bayes推理的推理公式Bayes推理的基本原理是：給定一個(gè)前面的似然估計(jì)后，若又推理的基本原理是：給定一個(gè)前面的似然估計(jì)后，若又增加一個(gè)證據(jù)丈量），則可以對前面的似然估計(jì)加以更新。增加一個(gè)證據(jù)丈量），則可以對前面的似然估計(jì)加以更新。也就是說，隨著測量值的到來，可以將給定假設(shè)的先驗(yàn)密度也就是說，隨著測量值的到來，可以將給定假設(shè)的先驗(yàn)密度更新為后驗(yàn)密度。更新為后驗(yàn)密度。假設(shè)假設(shè)A1，A2，.，An表示表示n個(gè)互不相容的窮舉假設(shè)，個(gè)互不相容的窮舉假設(shè)

4、，B為一個(gè)為一個(gè)事件或事實(shí)，觀測等），事件或事實(shí)，觀測等），Bayes公式的形式為：公式的形式為：其中其中niiiniiniiiiiiBPAPABPAPAPABPAPABPBAP111)()()/(1)()()/()()/()/(4.4 Bayes推理應(yīng)用實(shí)例有兩個(gè)可選的假設(shè)：有兩個(gè)可選的假設(shè)： 病人有癌癥病人有癌癥(cancer)(cancer)、病人無癌癥、病人無癌癥(normal)(normal)可用數(shù)據(jù)來自化驗(yàn)結(jié)果：正可用數(shù)據(jù)來自化驗(yàn)結(jié)果：正+ +和負(fù)和負(fù)- -有先驗(yàn)知識：在所有人口中，患病率是有先驗(yàn)知識：在所有人口中，患病率是0.8%0.8%對確實(shí)有病的患者的化驗(yàn)準(zhǔn)確率為對確實(shí)有病的

5、患者的化驗(yàn)準(zhǔn)確率為98%98%，對確實(shí)無病的患者的化驗(yàn)準(zhǔn)確率為對確實(shí)無病的患者的化驗(yàn)準(zhǔn)確率為97%97%，總結(jié)如下總結(jié)如下 P(cancer)=0.008, P(normal)=0.992P(cancer)=0.008, P(normal)=0.992 P(+|cancer)=0.98, P(-|cancer)=0.02 P(+|cancer)=0.98, P(-|cancer)=0.02 P(+|normal)=0.03, P(-|normal)=0.97 P(+|normal)=0.03, P(-|normal)=0.97問題：假定有一個(gè)新病人，化驗(yàn)結(jié)果為正，是否應(yīng)將病人斷問題：假定有一個(gè)

6、新病人，化驗(yàn)結(jié)果為正，是否應(yīng)將病人斷定為有癌癥？求后驗(yàn)概率定為有癌癥？求后驗(yàn)概率P(cancer|+)P(cancer|+)和和P(normal|-)P(normal|-)Bayes推理應(yīng)用實(shí)例(續(xù))因此極大后驗(yàn)假設(shè)計(jì)算如下因此極大后驗(yàn)假設(shè)計(jì)算如下: : P(+|cancer)P(cancer)=0.00784 P(+|cancer)P(cancer)=0.00784 P(+|normal)P(normal)=0.02976 P(+|normal)P(normal)=0.02976 P(canner|+)=0.00784/(0.00784+0.02976)=0.21 P(canner|+)=0

7、.00784/(0.00784+0.02976)=0.21 P(-|cancer)P(cancer)=0.00016 P(-|cancer)P(cancer)=0.00016 P(-|normal)P(normal)=0.96224 P(-|normal)P(normal)=0.96224 P(normal|-)= 0.96224 /(0.00016 + 0.96224)=0.99834 P(normal|-)= 0.96224 /(0.00016 + 0.96224)=0.99834貝葉斯推理的結(jié)果很大程度上依賴于先驗(yàn)概率，另外不是完貝葉斯推理的結(jié)果很大程度上依賴于先驗(yàn)概率，另外不是完全接受

8、或拒絕假設(shè)，只是在觀察到較多的數(shù)據(jù)后增大或減小全接受或拒絕假設(shè)，只是在觀察到較多的數(shù)據(jù)后增大或減小了假設(shè)的可能性。了假設(shè)的可能性。4.5 基于Bayes推理的數(shù)據(jù)融合方法Sensor 1Sensor 2Sensor n)/(1jABP)/(2jABP)/(jnABPBayesBayes組合公式組合公式MjBBBAPnj, 1)/(21決策決策斷定斷定邏輯邏輯判定結(jié)果判定結(jié)果1B2BnB基于基于BayesBayes的融合推理過程的融合推理過程BayesBayes推理方法可以對多傳感器信息進(jìn)行融合，以計(jì)算出給定推理方法可以對多傳感器信息進(jìn)行融合，以計(jì)算出給定假設(shè)為真的后驗(yàn)概率。設(shè)有假設(shè)為真的后驗(yàn)概

9、率。設(shè)有n n個(gè)傳感器，它們可能是不同類的，個(gè)傳感器，它們可能是不同類的，它們共同對同一個(gè)目標(biāo)進(jìn)行探測。再設(shè)目標(biāo)有它們共同對同一個(gè)目標(biāo)進(jìn)行探測。再設(shè)目標(biāo)有m m個(gè)屬性需要進(jìn)個(gè)屬性需要進(jìn)行識別，即有行識別，即有m m個(gè)假設(shè)或命題個(gè)假設(shè)或命題AiAi，i=1,2,.,mi=1,2,.,m。4.6 融合實(shí)例敵我身份識別和機(jī)型識別 本例考慮的傳感器為多種類型，如電子支援測量本例考慮的傳感器為多種類型，如電子支援測量ESMESM，敵，敵我中識別傳感器我中識別傳感器IFFNIFFN等，依據(jù)傳感器類型可以獲取目標(biāo)的不等，依據(jù)傳感器類型可以獲取目標(biāo)的不同屬性參數(shù)，通過屬性參數(shù)與目標(biāo)機(jī)型進(jìn)一步給出敵我身份同屬性

10、參數(shù)，通過屬性參數(shù)與目標(biāo)機(jī)型進(jìn)一步給出敵我身份的聯(lián)合識別結(jié)果。步驟的聯(lián)合識別結(jié)果。步驟1 1就是進(jìn)行多傳感器觀測，此例采用就是進(jìn)行多傳感器觀測，此例采用IFFNIFFN和和ESMESM。步驟步驟2 2：將當(dāng)前測量周期的關(guān)于一個(gè)空中目標(biāo)的所有傳感器測量將當(dāng)前測量周期的關(guān)于一個(gè)空中目標(biāo)的所有傳感器測量 轉(zhuǎn)轉(zhuǎn)換為基于機(jī)型換為基于機(jī)型 的似然函數(shù)。對于的似然函數(shù)。對于IFFNIFFN，能，能檢測并接收到一個(gè)對其詢問予以確切回答的目標(biāo)，得檢測并接收到一個(gè)對其詢問予以確切回答的目標(biāo)，得到到 ；敵機(jī)對其詢問信號有一定程度的模擬應(yīng)答能；敵機(jī)對其詢問信號有一定程度的模擬應(yīng)答能力，得力，得 和和 。B), 2,

11、1(MjAj)我/(1BPIFFN)敵/(1BPIFFN)中/(1BPIFFN融合實(shí)例(續(xù))應(yīng)用全概率公式，有應(yīng)用全概率公式，有對于對于ESMESM，能在機(jī)型上識別飛機(jī)屬性，則有，能在機(jī)型上識別飛機(jī)屬性，則有)/中()中/()/敵()敵/()/我()我/()/(1111jIFFNIFFNjIFFNIFFNjIFFNIFFNjIFFNAPBPAPBPAPBPABPMjjESMjESMjESMBPBAPBPBAPABP122222)()/()()/()/(融合實(shí)例(續(xù))步驟步驟3 3：依據(jù)一個(gè)給定測量周期中的所有各類傳感器測量值，計(jì)算每依據(jù)一個(gè)給定測量周期中的所有各類傳感器測量值，計(jì)算每種機(jī)型的多

12、傳感器聯(lián)合似然函數(shù)。若各類傳感器對目標(biāo)的測種機(jī)型的多傳感器聯(lián)合似然函數(shù)。若各類傳感器對目標(biāo)的測量是獨(dú)立進(jìn)行的，則每個(gè)傳感器基于機(jī)型的似然函數(shù)互相獨(dú)量是獨(dú)立進(jìn)行的，則每個(gè)傳感器基于機(jī)型的似然函數(shù)互相獨(dú)立，有立，有)/()/()/(212, 1jESMjIFFNjABPABPABP融合實(shí)例(續(xù))計(jì)算出各種機(jī)型的后驗(yàn)估計(jì)概率。依賴當(dāng)前周期相應(yīng)機(jī)型的計(jì)算出各種機(jī)型的后驗(yàn)估計(jì)概率。依賴當(dāng)前周期相應(yīng)機(jī)型的各傳感器聯(lián)合似然函數(shù)和直到上一周期該機(jī)型的后驗(yàn)概率各傳感器聯(lián)合似然函數(shù)和直到上一周期該機(jī)型的后驗(yàn)概率作為本周起該機(jī)型先驗(yàn)估計(jì)概率）。作為本周起該機(jī)型先驗(yàn)估計(jì)概率）。式中式中 是直到是直到k-1k-1個(gè)周期

13、的測量值個(gè)周期的測量值)()()/()/(2, 12, 12, 1kjjkkjBPAPABPBAP12, 112, 1, )/()(kkjjBBAPAP)()/()(12, 12, 1jMjjkkAPABPBP融合實(shí)例(續(xù))步驟步驟4 4：根據(jù)對目標(biāo)的機(jī)型估計(jì)概率，計(jì)算出目標(biāo)的敵我中識別概率。根據(jù)對目標(biāo)的機(jī)型估計(jì)概率，計(jì)算出目標(biāo)的敵我中識別概率?？梢灶愃朴脕碛?jì)算某些機(jī)型大轟炸機(jī)、戰(zhàn)斗機(jī)、小轟炸機(jī)、可以類似用來計(jì)算某些機(jī)型大轟炸機(jī)、戰(zhàn)斗機(jī)、小轟炸機(jī)、民用機(jī)型的后驗(yàn)概率，如民用機(jī)型的后驗(yàn)概率，如)/我()/()/我(2, 12, 1jkjkAPBAPBP)/敵()/()/敵(2, 12, 1jkjkAPBAPBP)/中()/()/中(2, 12, 1jkjkAPBAPBPMjjkjkAPBAPBP12, 12, 1)/戰(zhàn)斗機(jī)()/()/戰(zhàn)斗機(jī)(4.7 Bayes推理的缺點(diǎn)直接使用概率計(jì)算公式有兩個(gè)困難：直接使用概率計(jì)算公式有兩個(gè)困難： (1) 一個(gè)證據(jù)一個(gè)證據(jù) A 的概率是在大量統(tǒng)計(jì)數(shù)據(jù)的基礎(chǔ)的概