《機(jī)器學(xué)習(xí)項(xiàng)目案例開發(fā)》課件 16.貝葉斯算法

人工智能技術(shù)與應(yīng)用7.貝葉斯算法課程概況—基本情況PART01貝葉斯算法貝葉斯算法概述貝葉斯算法的實(shí)現(xiàn)拼寫檢查垃圾郵件過濾貝葉斯算法概述貝葉斯算法概述：正向概率：假設(shè)袋子里面有N個(gè)白球，M個(gè)黑球，你伸手進(jìn)去摸一把，摸出黑球的概率是多大逆向概率：如果我們事先并不知道袋子里面黑白球的比例，而是閉著眼睛摸出一個(gè)（或好幾個(gè)）球（3個(gè)黑的4個(gè)白的），觀察這些取出來的球的顏色之后，那么我們可以就此對(duì)袋子里面的黑白球的比例作出什么樣的推測(cè)。貝葉斯算法實(shí)現(xiàn)：條件：學(xué)?？?cè)藬?shù)有U個(gè)人，男生占60%，女生占40%；男生總是穿長褲，女生一半穿褲子一半穿裙子；正向概率：隨機(jī)選取一個(gè)學(xué)生，他（她）穿長褲的概率和穿裙子的概率是多大逆向概率：迎面走來一個(gè)穿長褲的學(xué)生，你只看得見他（她）穿的是否長褲，而無法確定他（她）的性別，你能夠推斷出他（她）是女生的概率是多大嗎？貝葉斯算法實(shí)現(xiàn)

貝葉斯算法實(shí)現(xiàn)

貝葉斯算法實(shí)現(xiàn)

貝葉斯算法實(shí)現(xiàn)

貝葉斯算法實(shí)現(xiàn)

先驗(yàn)概率似然度后驗(yàn)概率標(biāo)準(zhǔn)化常量貝葉斯算法實(shí)現(xiàn)貝葉斯算法應(yīng)用：拼寫糾正實(shí)例拼寫糾正實(shí)例我們看到用戶輸入了一個(gè)不在字典中的單詞，我們需要去猜測(cè)“到底想輸入的單詞是什么？

比如輸入的是tha使用概率去判斷用戶想輸入的單詞P(我們猜測(cè)他想輸入的單詞|他實(shí)際輸入的單詞)

計(jì)算：P(that|tha)PP(thanks|tha)的概率，按照大小排序，供用戶選擇。貝葉斯算法-輸入矯正

貝葉斯算法-輸入矯正

貝葉斯算法-輸入矯正垃圾郵件分類問題：問題：給定一封郵件，判定它是否屬于垃圾郵件D來表示這封郵件，注意D由N個(gè)單詞組成。我們用h+來表示，垃圾郵件，h-表示正常郵件。貝葉斯公式P(h+|D)、P(h-|D)P(h+|D)=P(h+)*P(D|h+)/P(D)

P(h-|D)=P(h-)*P(D|h-)/P(D)

貝葉斯算法-垃圾郵件垃圾郵件過濾實(shí)例：先驗(yàn)概率：P(h+)和P(h-)這兩個(gè)先驗(yàn)概率都是很容易求出來的，只需要計(jì)算一個(gè)郵件庫里面垃圾郵件和正常郵件的比例就行了。D里面含有N個(gè)單詞d1,d2,d3，P(D|h+)=P(d1,d2,..,dn|h+)，P(d1,d2,..,dn|h+)就是說在垃圾郵件當(dāng)中出現(xiàn)跟我們目前這封郵件一模一樣的一封郵件的概率是多大！

P(d1,d2,..,dn|h+)擴(kuò)展為：P(d1|h+)*P(d2|d1,h+)*P(d3|d2,d1,h+)*..

貝葉斯算法-垃圾郵件垃圾郵件過濾實(shí)例：P(d1|h+)*P(d2|d1,h+)*P(d3|d2,d1,h+)*..假設(shè)di與di-1是完全條件無關(guān)的（樸素貝葉斯假設(shè)特征之間是獨(dú)立，互不影響）簡化為P(d1|h+)*P(d2|h+)*P(d3|h+)*..對(duì)于P(d1|h+)