人工智能第4章(不確定性推理方法)

人工智能ArtificialIntelligence(AI)1

第4章推理技術(shù)-----不確定性推理方法4.5不確定性推理方法概述可信度方法

(確定性方法)主觀Bayes方法證據(jù)理論3概述--不確定推理的概念推理：從已知事實(shí)出發(fā)，運(yùn)用相關(guān)知識(shí)(或規(guī)則)逐步推出結(jié)論或者證明某個(gè)假設(shè)成立或不成立的思維過程。已知事實(shí)是推理過程的出發(fā)點(diǎn)即推理中使用的知識(shí)，我們把它稱為證據(jù)。不確定推理：從具有不確定性的證據(jù)出發(fā)，運(yùn)用不確定性的知識(shí)(或規(guī)則)，最終推出具有一定程度的不確定性，但卻是合理的或近乎合理的結(jié)論的思維過程。4概述--不確定性的主要表現(xiàn)1、證據(jù)的不確定性觀察度量的不確定性證據(jù)表示的不確定性多個(gè)不確定證據(jù)合成時(shí)表現(xiàn)出來的不確定性2、規(guī)則的不確定性3、結(jié)論的不確定性E1→HE2→H5概述—不確定推理中的基本問題不確定性的表示單個(gè)證據(jù)的不確定性表示

證據(jù)的來源：

(1)初始證據(jù):通過觀察而得到的，由于觀察本身的不精確性，因此所得的初始證據(jù)具有不確定性；其值一般由用戶或?qū)＜医o出;(2)間接證據(jù):在推理過程中利用前面推理出的結(jié)論作為當(dāng)前新的推理證據(jù)。其值則是由推理中的不確定性傳遞算法計(jì)算得到。

證據(jù)不確定性的表示通常為一個(gè)數(shù)值，用以表示相應(yīng)證據(jù)的不確定性程度。組合證據(jù)的不確定性表示

證據(jù)不止一個(gè)，而是幾個(gè)，這幾個(gè)證據(jù)間可能是and或or的關(guān)系，假設(shè)C(E1)表示證據(jù)E1的不確定性程度，C(E2)表示證據(jù)E2的不確定性程度，如何由C(E1)和C(E2)來計(jì)算C(E1∧E2)和C(E1∨E2)6概述—不確定推理中的基本問題規(guī)則的不確定性表示

規(guī)則不確定性要由領(lǐng)域?qū)＜医o出，以一個(gè)數(shù)值表示，該數(shù)值表示了相應(yīng)知識(shí)的不確定性程度。推理計(jì)算—結(jié)論的不確定性表示不確定性傳遞問題：

已知證據(jù)E的不確定性度量為C(E)，而規(guī)則E→H的不確定性度量為CF(H,E)，那么如何計(jì)算結(jié)論H的不確定性程度C(H)，即如何將證據(jù)E的不確定和規(guī)則E→H的不確定性傳遞到結(jié)論H上。結(jié)論不確定性的合成問題：

如果有兩個(gè)證據(jù)分別由兩條規(guī)則支持結(jié)論，如何根據(jù)這兩個(gè)證據(jù)和兩條規(guī)則的不確定性確定結(jié)論的不確定性。即已知

E1→HC(E1),CF(H,E1)E2→HC(E2),CF(H,E2)如何計(jì)算C(H)?

7概述-分類不確定性推理方法控制方法模型方法數(shù)值方法非數(shù)值方法基于概率的方法模糊推理方法可信度方法主觀Bayes方法證據(jù)理論方法8可信度方法（確定性方法）MYCIN系統(tǒng)研制過程中產(chǎn)生的不確定推理方法,第一個(gè)采用了不確定推理邏輯，70年代很有名。它是不確定推理方法中應(yīng)用最早、且簡(jiǎn)單有效的方法之一。9可信度方法可信度：人們?cè)趯?shí)際生活中根據(jù)自己的經(jīng)驗(yàn)或觀察對(duì)某一事件或現(xiàn)象為真的相信程度,也稱為確定度因子?？尚哦染哂休^大的主觀性和經(jīng)驗(yàn)性。但是，對(duì)某一具體領(lǐng)域而言，由于該領(lǐng)域?qū)＜揖哂胸S富的專業(yè)知識(shí)及實(shí)踐經(jīng)驗(yàn)，要給出該領(lǐng)域知識(shí)的可信度還是完全有可能的。10可信度(確定性)方法證據(jù)（前提）的不確定性表示規(guī)則的不確定性表示推理計(jì)算---結(jié)論的不確定性表示確定性(可信度)方法11證據(jù)的不確定性度量單個(gè)證據(jù)的不確定性獲取方法：兩種初始證據(jù)：由提供證據(jù)的用戶直接指定，用可信度因子對(duì)證據(jù)的不確定性進(jìn)行表示。如證據(jù)E的可信度表示為CF(E)。

如對(duì)它的所有觀測(cè)都能肯定為真，則使CF(E)=1；如能肯定為假，則使CF(E)=-1；若它以某種程度為真，則使其取小于1的正值，即0<CF(E)<1;若它以某種程度為假，則使其取大于-1的負(fù)值，即-1<CF(E)<0;若觀測(cè)不能確定其真假，此時(shí)可令CF(E)=0。間接證據(jù)：用先前推出的結(jié)論作為當(dāng)前推理的證據(jù)，對(duì)于這種情況的證據(jù)，其可信度的值在推出該結(jié)論時(shí)通過不確定性傳遞算法計(jì)算得到。12證據(jù)的不確定性度量組合證據(jù)的不確定性獲取方法當(dāng)證據(jù)是多個(gè)單一證據(jù)的合取時(shí),即E=E1∧E2∧…∧En

若各證據(jù)的可信度分別為CF(E1),CF(E2),…,CF(En),

則CF(E

)=min{CF(E1),CF(E2),…,CF(En)}當(dāng)證據(jù)是多個(gè)單一證據(jù)的析取時(shí),即E=E1∨E2∨…∨En

若各證據(jù)的可信度分別為CF(E1),CF(E2),…,CF(En),

則CF(E)=max{CF(E1),CF(E2),…,CF(En)}當(dāng)證據(jù)是某一證據(jù)的非時(shí)，即E=～A；

則CF(E)=-CF(A)13規(guī)則證據(jù)（前提）的不確定性表示規(guī)則的不確定性表示推理計(jì)算---結(jié)論的不確定性表示

確定性方法14規(guī)則的不確定性度量規(guī)則E→H，可信度表示為CF(H,E)。表示當(dāng)證據(jù)E為真時(shí)，對(duì)結(jié)論H為真的支持程度。其取值范圍為[-1，1]。CF(H,E)越大，則E越支持H為真。遵循的原則：如果由于證據(jù)E的出現(xiàn)，使結(jié)論H為真的可信度增加了，則使CF(H,E)>0，并且這種支持的力度越大，就使CF(H,E)的值越大，相反，如果證據(jù)E的出現(xiàn)，使結(jié)論H為假的可信度增加，則使CF(H,E)<0，并且這種支持的力度越大，就使CF(H,E)的值越?。蝗糇C據(jù)的出現(xiàn)與否和H無(wú)關(guān)，則使CF(H,E)=0。15規(guī)則規(guī)則的不確定性表示證據(jù)（前提）的不確定性表示推理計(jì)算—結(jié)論的不確定性表示確定性方法16規(guī)則(推理計(jì)算

1）從不確定的初始證據(jù)出發(fā)，通過運(yùn)用相關(guān)的不確定知識(shí)，最終推出結(jié)論并求出結(jié)論的可信度值。最簡(jiǎn)單的情形：只有單條規(guī)則--不確定性傳遞問題

例如:由E，E→H，求H。

已知:證據(jù)E的可信度CF(E

)和規(guī)則CF(H,E

)的可信度，則結(jié)論H的可信度計(jì)算公式為： CF(H)=max{0,CF(E

)}·CF(H,E

)

(CF(E

)＜0時(shí)CF(H)=0,說明在該模型中沒有考慮證據(jù)為假時(shí)對(duì)結(jié)論H的影響。)17規(guī)則(推理計(jì)算

2）多條知識(shí)支持同一結(jié)論時(shí)--結(jié)論不確定性的合成問題

設(shè)有如下知識(shí)：ifE1thenH；ifE2thenH；1)利用上式分別計(jì)算每一條知識(shí)的結(jié)論可信度CF(H)CF1(H)=max{0,CF(E1)}·CF(H,E1)CF2(H)=max{0,CF(E2)}·CF(H,E2)2)用下式合成CF1(H)、CF２(H)，求可信度CF12(H)

18例題已知：R1：A1→B1 CF（B1，A1）＝0.8 R2：A2→B1 CF（B1，A2）＝0.5 R3：B1∧A3→B2 CF（B2，B1∧A3）＝0.8 CF（A1）＝CF（A2）＝CF（A3）＝1；而對(duì)B1和B2一無(wú)所知；計(jì)算CF（B2）本題可圖示為19解：依規(guī)則R1，

CF1（B1）＝CF（B1，A1）·max{0,CF（A1）}＝0.8，依規(guī)則R2：CF2（B1）＝CF（B1，A2）·max{0,CF（A2）}＝0.5，利用合成算法計(jì)算B１的綜合可信度：

CF1２(

B1)＝CF1(B1)＋CF２(B１)－CF1(B1)·CF２(B１)＝0.9依R3，先計(jì)算 CF（B1∧A3）＝min（CF（A3），CF（B1））＝0.9CF（B2）=CF(B2，B1∧A3)·max{0,CF（B1∧A3）}=0.9×0.8=0.72答：CF（B1）＝0.9，CF（B2）＝0.7220例設(shè)有一組知識(shí):21解：2223規(guī)則(推理計(jì)算3）已知結(jié)論原始可信度的情況下，結(jié)論可信度的更新計(jì)算方法。即已知規(guī)則E→H的可信度為CF(E,H

)，證據(jù)E的可信度為CF(E)，同時(shí)已知結(jié)論H原來的可信度為CF(H)，如何求在證據(jù)E下結(jié)論H可信度的更新值CF(H/E)：24

規(guī)則(推理計(jì)算4）CF(E)<=0，

規(guī)則EH不可使用，即此計(jì)算不必進(jìn)行。0<CF(E)<=1， 25規(guī)則(推理計(jì)算3）當(dāng)E必然發(fā)生，CF(E)=1時(shí)：26主觀貝葉斯方法(概述）貝葉斯公式：設(shè)事件H1,…,Hn是彼此獨(dú)立、互不相容的事件，則有：在貝葉斯公式中，P(Hi),i=1,2,…,n稱為先驗(yàn)概率，

而P(Hi|E)i=1,2,…,n稱為后驗(yàn)概率.

27一座別墅在過去的20年里一共發(fā)生過2次被盜，別墅的主人有一條狗，狗平均每周晚上叫3次，在盜賊入侵時(shí)狗叫的概率被估計(jì)為0.9。問題：在狗叫的時(shí)候發(fā)生入侵的概率是多少？假設(shè)A事件為狗在晚上叫，B為盜賊入侵，則P(A)=3/7

P(B)=2/(20·365)=2/7300

P(A|B)=0.9，按照公式很容易得出結(jié)果：P(B|A)=0.9*(2/7300)/(3/7)=0.00058例：別墅與狗28現(xiàn)分別有A，B兩個(gè)容器，在容器A里分別有7個(gè)紅球和3個(gè)白球，在容器B里有1個(gè)紅球和9個(gè)白球。現(xiàn)已知從這兩個(gè)容器里任意抽出了一個(gè)球，且是紅球，問：這個(gè)紅球是來自容器A的概率是多少?假設(shè)已經(jīng)抽出紅球?yàn)槭录﨎，從容器A里抽出球?yàn)槭录嗀，則有：P(B)=8/20

P(A)=1/2

P(B|A)=7/10，按照公式，則有：P(A|B)=(7/10)*(1/2)/(8/20)=0.875例：容器里的球29

：結(jié)論，：證據(jù)。已知：求：同理可得：例：解：P(H2∣E)=0.26，P(H3∣E)=0.43P(H1∣E)，P(H2∣E)，P(H3∣E)？30多個(gè)證據(jù)，多個(gè)結(jié)論，

且每個(gè)證據(jù)都以一定程度支持結(jié)論。

擴(kuò)充后的公式：主觀貝葉斯方法(概述）∑1212121)()︳()︳()︳()()︳()︳()︳()︳(njjjmjjiimiimiHPHEPHEPHEPHPHEPHEPHEPEEEHP==LLL31

已知：

例：求：P(H1∣E1E2)，P(H1∣E1E2)，P(H1∣E1E2)？。32解：同理可得：33主觀貝葉斯方法(概述）直接根據(jù)貝葉斯公式進(jìn)行推理計(jì)算簡(jiǎn)單明了，但是它要求結(jié)論Hi相互獨(dú)立，實(shí)際上難以保證。而且P(E|Hi)的計(jì)算通常比較困難。所以在求解不確定性推理問題時(shí)，還不能直接使用貝葉斯公式，而是使用對(duì)其經(jīng)過改進(jìn)的主觀貝葉斯公式。1976年提出的，在地礦勘探系統(tǒng)中得到成功的應(yīng)用。是對(duì)概率中基本貝葉斯公式的改進(jìn)。34主觀貝葉斯方法證據(jù)（前提）的不確定性表示規(guī)則的不確定性表示推理計(jì)算---結(jié)論的不確定性表示主觀貝葉斯方法35多個(gè)單一證據(jù)的合?。簞t組合證據(jù)的概率：主觀貝葉斯方法(概述）

非運(yùn)算：多個(gè)單一證據(jù)的析?。簞t組合證據(jù)的概率：{})(,),(),(max)︱(21SEPSEPSEPSEPnL=︱︱︱證據(jù)的不確定性表示

單個(gè)證據(jù)：在主觀貝葉斯方法中，證據(jù)的不確定性用概率表示。例如，對(duì)于初始證據(jù)E，其先驗(yàn)概率為P(E)。

組合證據(jù)：36主觀貝葉斯方法證據(jù)（前提）的不確定性表示規(guī)則的不確定性表示推理計(jì)算---結(jié)論的不確定性表示主觀貝葉斯方法37主觀貝葉斯方法(概述）規(guī)則的不確定性表示

在主觀貝葉斯方法，規(guī)則的不確定性是以一個(gè)數(shù)值對(duì)(LS,LN)來進(jìn)行描述的。IFETHEN(LS,LN)H(P(H))取值范圍取值范圍它們的具體取值由領(lǐng)域?qū)＜腋鶕?jù)實(shí)際經(jīng)驗(yàn)給出。

規(guī)則的充分性度量:表示E為真時(shí)，對(duì)H的影響。規(guī)則的必要性度量:表示E為假時(shí)，對(duì)H的影響。H為真時(shí)E出現(xiàn)的概率除以H為假時(shí)E出現(xiàn)的概率H為真時(shí)E不出現(xiàn)的概率除以H為假時(shí)E不出現(xiàn)的概率38主觀貝葉斯方法證據(jù)（前提）的不確定性表示規(guī)則的不確定性表示推理計(jì)算---結(jié)論的不確定性表示主觀貝葉斯方法39主觀貝葉斯方法推理計(jì)算—不確定性的傳遞：

1）已知規(guī)則E→H的(LS,LN)和P(H)、P(E)，如何計(jì)算P(H/E)或P(H/～E)

這里存在三種情況：

證據(jù)E肯定存在、肯定不存在或以某種程度存在。

40(1)證據(jù)E肯定存在，即P(E)=1時(shí)：

由基本貝葉斯公式，可得：

兩式相除得：41主觀貝葉斯方法(概述）幾率函數(shù)O(X)

數(shù)學(xué)證明，O(x)與P(x)有相同的單調(diào)性E肯定出現(xiàn)的情況下，H的先驗(yàn)幾率更新為后驗(yàn)幾率的公式E肯定出現(xiàn)的情況下，H的先驗(yàn)概率更新為后驗(yàn)概率的公式42討論LS對(duì)后驗(yàn)概率的影響(1)LS>1O(H/E)>O(H)，即P(H/E)>P(H)(2)LS=1O(H/E)=O(H)(3)0<LS<1O(H/E)<O(H)(4)LS=0O(H/E)=0故，當(dāng)E越支持H為真時(shí)，應(yīng)置LS>1，且越大越好。E的存在，使H為真的概率增加，且LS越大，P(H/E)越大，表明E對(duì)H為真的支持越強(qiáng)。E與H無(wú)關(guān)。E的出現(xiàn)使H為真的可能性下降。E的出現(xiàn)使H為假。43(2)證據(jù)E肯定不存在，即P(E)=0時(shí)：

P(～E)=1，由貝葉斯公式，可得：

兩式相除得：44主觀貝葉斯方法(概述）

E肯定不出現(xiàn)的情況下，H的先驗(yàn)幾率更新為后驗(yàn)幾率的公式E肯定不出現(xiàn)的情況下，H的先驗(yàn)概率更新為后驗(yàn)概率的公式45討論LN對(duì)后驗(yàn)概率的影響(1)LN>1O(H/～E)>O(H)，即P(H/～E)>P(H)(2)LN=1O(H/～E)=O(H)(3)0<LN<1O(H/～E)<O(H)(4)LN=0O(H/～E)=0故，E的不存在使H為真的可能性下降，則應(yīng)該相應(yīng)的LN設(shè)置的小于1而且越小越好。E的不存在，使H為真的概率增加，且LN越大，P(H/～E)越大，表明～E對(duì)H為真的支持越強(qiáng)。E的不存在與H無(wú)關(guān)。E的不存在使H為真的可能性下降。E的不存在使H為假。46主觀貝葉斯方法（規(guī)則的不確定性），且必須滿足：47主觀貝葉斯方法（規(guī)則的不確定性）對(duì)LS、LN賦值時(shí)的考慮LS、LN≥０。LS,LN不能同時(shí)＞１或＜１LS,LN可同時(shí)＝148主觀貝葉斯方法例：

規(guī)則如下：R1：E1→H1

LS=1LN=0.003;R2：E2→H2

LS=18 LN=1R3：E3→H3

LS=12 LN=1

已知P(H1)=0.4,P(H2)=0.06,P(H3)=0.04

求：證據(jù)出現(xiàn)及不出現(xiàn)時(shí)，P(Hi/Ei)和P(Hi/~Ei)的值各是多少？49解：R1中，因?yàn)長(zhǎng)S=1，

即E1的出現(xiàn)對(duì)H1無(wú)影響，故：P(H1/E1)=P(H1)=0.4P(H1/～E1)=R2中，因?yàn)長(zhǎng)N=1，

即E2的不出現(xiàn)對(duì)H2無(wú)