11.網(wǎng)絡建模技術

1、貝葉斯網(wǎng)絡建模技術Anders L. MadsenHUGIN EXPERT A/S2012.03大綱表格生成器連續(xù)節(jié)點中介變量無定向關系測量誤差簡單貝葉斯模型因果影響的獨立父級分離專家異議、結構的不確定、功能的不確定反轉弧和節(jié)點吸收功能節(jié)點2貝葉斯網(wǎng)絡的定義3表格生成器如果CPT是低維數(shù)的，那么知識獲取可由專家評判執(zhí)行域知識和經(jīng)驗表格生成器是一個與其父級相關點的數(shù)學描述CPT/UT的生成工具它是一種指定CPTs和UTs緊湊描述描述的一種方法統(tǒng)計分布，算子和邏輯運算符以及它們之間的關系也是一種知識規(guī)范的有效工具，而不是值的引出工具4離散機會節(jié)點的子類型在表達式中使用不同的算子有不同的返回類型和不

2、同的參數(shù)類型要求標記的節(jié)點可用于等式比較并表示確定性關系狀態(tài)：紅，藍，low功能：如果-那么，分配布爾運算節(jié)點可以代表真實值“錯誤”或者“正確”（在該命令下），也可作為邏輯運算符 狀態(tài)：錯誤，正確 功能：和，或者，否，=，！=，Noisy-OR5離散機會節(jié)點的子類型已編好的節(jié)點數(shù)代表增加數(shù)字數(shù)列（整數(shù)或實數(shù)）和可以用于算術運算符，數(shù)學函數(shù)等狀態(tài)：-，-2.2，-1.5，0，1，2，3，功能：二項式，幾何，負二項式，泊松比，+，-，*，/，間隔節(jié)點表示實線不相交，可用于已編好的節(jié)點。此外， 當指定的連續(xù)量的時間間隔離散時，可以使用他們狀態(tài)：-；-10，-10；-5，-5；-1功能：，e，正態(tài)，二

3、項式，幾何，負二項式，泊松，+，-，*，/，6在表格生成器備注7表格生成器練習在預測擲n次骰子時，能夠擲出幾次6的問題。不幸的是，我們不知道骰子是真的還是假的。如果是假的，那么平均每擲5次會出現(xiàn)一次6。建立一個模型來估計擲n次骰子時能夠擲出幾次6的次數(shù)，其中n是一個從1到10的數(shù)字8連續(xù)的節(jié)點設Y是一個連續(xù)隨機變量，有離散父級I和連續(xù)父級ZY（和Z）我們假設高斯分布（正態(tài)分布）父級的條件值其中這個就是稱為CG分布9模型的限制Y是線性條件高斯分布：其中注意：平均值線性取決于連續(xù)的父級方差不取決于連續(xù)的父級線性函數(shù)和方差取決于離散的父級這些限制確保精確推理成為可能被稱為線性條件高斯貝葉斯網(wǎng)格10溫

4、度通過使用一個可選擇低、中、高溫度的簡單空調系統(tǒng)，在一個房間里溫度可調節(jié)。假設實際溫度以1度的方差正態(tài)分布，意味著分別相當于18，20和22度。在房間里面，使用不同質量的溫度計（高或者低）測量溫度。低質量的溫度計有0.5的方差，而質量好的溫度計只有0.1的方差。假設在測量中加入了平均值為1，方差為0.1的噪聲。在房間里建立對溫度的推理模型11通過人工智能和數(shù)學課堂假設每學期，上一次數(shù)學而上兩次人工智能。參加學習班學生的人數(shù)取決于科目。平均每120名學生選用人工智能課（2=500），而每180名學生選擇數(shù)學課（2=1000）。假設平均25%通過人工智能考試（2=400），平均50%通過數(shù)學考試（

5、2=500）。假設考試已經(jīng)完成。預測通過考試的學生數(shù)是多少？預測通過數(shù)學考試的學生數(shù)是多少？當80個學生通過考試，預測參加數(shù)學考試的學生數(shù)是多少？12CDVT功能CLG模型不允許連續(xù)節(jié)點的離散子級HUGIN GUI實現(xiàn)了一個簡單的過程，支持從一個連續(xù)節(jié)點Y到離散節(jié)點D的鏈接D必須是狀態(tài)從信息到信息的間隔節(jié)點D可以沒有其它父級證據(jù)只可以在指定方向傳播鏈接在證據(jù)的傳播間，Y的邊緣分布被設定為D的表達。這種功能應該格外小心使用。13變量的目的貝葉斯網(wǎng)格是一組變量集的知識表示。不同的變量有不同的用途。假設：想要的是事后概率不易察覺的變量例如：分類和診斷變量信息：可觀察的變量是有效的，可以提供與假設變量

6、相關的信息。例如：傳感器讀數(shù)，背景信息，測試結果中介：事后概率不可觀察變量是不想要的，但其未到達目標發(fā)揮重要重要作用。正確的條件獨立和依賴性能。高效地推理14中介變量中介變量對于獲得正確的條件獨立和依賴屬性是非常重要的例如：激素狀態(tài)：驗血（BT）和尿液測試（UT）是獨立的懷孕狀態(tài)（Pr）沒有Ho變量的模型是錯誤的，因為Ho變量沒有決定性取決于Pr，并且BT和UT是獨立給予Ho的15中介變量 在這種撲克游戲中，每個玩家收到三張牌，并且允許改變牌兩輪，在第一輪（FC），你可能會放棄你手中的任何一張牌，從這副牌中取一張。在第二輪中（SC），你最多放棄兩張牌，并從這副牌中取兩張。兩輪結束后，我會有興趣

7、對對手手上的牌估計一下（OH）。16一個簡單的例子：約束 我在洗衣機里面洗了兩雙襪子。由于洗了很久，因此很難區(qū)分出這倆雙襪子。然而，有這兩雙襪子有兩種類型款式和兩種不同顏色，用款式和顏色來區(qū)分襪子，是將它們區(qū)分正確重要的方法?？钍胶皖伾g是無定向關系。17一個簡單的例子：約束我們有四個項目，S1，S4，其中Sp(Si)=t1，t2，這樣兩個項目必須成為類型t1，另外兩個成為t2這種約束可以在帶有開或關的狀態(tài)的子變量C的 CPT編碼。通過實例化C，約束強制執(zhí)行。18約束設R（A，B，C） 在數(shù)值上為直接關系R（a，b，c）0,1引進帶有yes和no兩種狀態(tài)的變量D設P（D=yes|A，B，C）

8、=R（A，B，C）設P（D=no|A，B，C）=1-R（A，B，C）當D=yes 得R (A，B，C)=119測量誤差往往，一個信息變量的真實值-I，它不能由于測量誤差獲得。通過引入一個新的變量，測量誤差被建模。成為OI，代表I的觀測值。測量誤差的大小用P(OI|I)代表I變成調節(jié)變量，是不可觀測的。我們需要明確地表示出模型中A的估計精度20測量誤差：實例假設t1類型的襪子是以顏色c1和款式p1為特征，t2類型的襪子以顏色c2（c2c1）和款式p2（p2p1）經(jīng)過幾次清洗之后：c1被誤認為是c2有十分之三的概率c2被誤認為是c1有十分之二的概率p1被誤認為是p2有百分之二的概率p2一直被識別正

9、確模型如下：P(OC=c2|C=c1)=0.3P(OC=c1|C=c2)=0.2P(OP=p2|P=p1)=0.02P(OP=p1|P=p2)=021簡單貝葉斯模型以下類型的分類任務與任務的一個非常適合的模型假設對h1，hn有興趣假設他們之間完全窮盡且互相排斥結果指標I1，Im去預測hi結果是有條件獨立給出的假設22簡單貝葉斯模型的表示計算和代表一個有效的模型能在很多情況下能提供好的結果h1，hn被表示出和假設變量H的狀態(tài)一樣信息變量I1，Im是變量H的子級基本假設是當變量H已知時，I1，Im是兩兩獨立 假設 在實際中不成立，結論可能被誤解。23簡單貝葉斯模型更詳細的簡單貝葉斯模型設可能的假設

10、，收集到一個帶有優(yōu)先假設P(H)的假設變量H中對于每個信息變量I，得到P(I|H)=L(H|I)對于任意觀察設置 計算：其次 ，其中 ，或者表示通過貝葉斯規(guī)則24男孩或女孩悖論兩個孩子的家庭，至少有一個是男孩的被選中有一個女孩的概率是多少？我們假設每個孩子的性別的決定是獨立性事件，孩子可能是男孩或者女孩，并且每個孩子有相同的機會成為男性或者女性。Foshee周二男孩我有兩個孩子，一個是周二出生的男孩，那么我的兩個孩子都是男孩的概率是多少？25依賴發(fā)現(xiàn)假設是完全窮盡和互相排斥結果不是條件獨立給定假設26因果影響的獨立性頭痛（Ha）可能由于發(fā)熱（Fe）、宿醉（Ho）、纖維組織炎（Fb）、腦腫瘤（B

11、t）以及其他原因（Ot）引起。各種原因都能夠引起頭痛，但是它們之間相互獨立。如果頭痛級別為I，然后增加能獨立導致頭痛級別q的原因，看如何能到達級別I 27因果影響的獨立性增加額外原因，線性時間評估因果關系的獨立性假設28因果影響的獨立性利用關于CPTs的內部結構的知識來減少表示和推理的復雜性從Ci到E的貢獻被認為是Cj貢獻的獨立注意：必須有一個狀態(tài)命令且 （序變量）29Noisy-OR假設感冒和咽喉痛的因果影響可以認為是獨立的。另外，假設有一個“背景”事件，可能導致喉嚨變痛“背景”事件導致咽喉痛有0.05的可能性感冒導致咽喉痛的概率有0.4且P(Cold)=0.1心絞痛導致咽喉痛有0.7可能切

12、P(Angina)=0.05P(sore|cold,angina)是noisy-OR功能:對于每種原因，我們只需要指定一個指定的號碼，成為抑制劑概率。舉例，我們的抑制劑概率為0.95，0.6和0.3屬性參數(shù)的數(shù)目與父級數(shù)目線性增長30Noisy-OR交互模型設X1, X2是影響變量Y和讓所有變量成為布爾的原因31因果關系影響的獨立性必須滿足以下條件X1，Xn，Y表明異常存在的程度（狀態(tài)的順序）事件Xi引起Y與pi的影響在實踐中沒有顯著的共同作用通過以上假設，ICI可以接近真實的CPT距離測量歐幾里德，KL具有其他功能而不是分離，例如：noisy-Max32父級分離設X1，Xn是Y的原因列表指定

13、P(Y|X1，Xn)涉及到一個非常大的需求獲取任務通過中間變量C，可能使分離父級考慮到頭痛的原因或者約束情況33父級分離設X1，Xn成為Y的原因的列表：假設，（X1，X2）的配置可以分成c1，cm (X1，X2)，(x1，x 2)ci適用于所有的y： P(y|x1，x2，x3，xn)=P(y|x1，x2，x3，xn)如果|C|X1|*|X2|，則PD（表示）是有效的34專家意見35結構的不確定性36功能不確定性37圓弧反轉38節(jié)點吸收我們怎么樣才能刪除一個節(jié)點，且在無需改變底層概率分布？通過圓弧反轉的排列圓弧反轉和節(jié)點吸收可以作為一個推理算法39功能節(jié)點注意在利用額外計算的更新結果中，如何使用hugin當做計算器？一個功能節(jié)點代表一個取決于父級的實值函數(shù)如果可能的話，信念函數(shù)更新后，功能節(jié)點的值被計算40功能節(jié)點例子使用帶有自變量年齡，眼睛-顏色，動物-主人，智商-身高的模型計算得分總得分是個人得分的線性和計算得出年齡的得分（0-20=5，20-40=7，40-60=9，60+=11），眼睛-顏色（藍色=10，棕色=20，綠色=30），房屋-主人（0，25依變量值是不變的智商得分和身高使它們變量功能41功能節(jié)點功能節(jié)點代表真實值功能依賴于它們的父級功能節(jié)點僅僅作為子級的功能節(jié)點