計(jì)算機(jī)應(yīng)用技術(shù)論文：文本分類樸素貝葉斯分類多變量伯努利模型多項(xiàng)式模型特征選擇

計(jì)算機(jī)應(yīng)用技術(shù)論文：基于樸素貝葉斯方法的中文文本分類研究【中文摘要】計(jì)算機(jī)與網(wǎng)絡(luò)技術(shù)自出現(xiàn)以來 ,發(fā)展迅速,并日趨完善,互聯(lián)網(wǎng)已成為獲取信息的主要來源。由于網(wǎng)絡(luò)中大部分信息是文本數(shù)據(jù),作為有效組織與管理文本數(shù)據(jù)重要基礎(chǔ)的文本自動(dòng)分類已成為具有重要應(yīng)用價(jià)值的研究領(lǐng)域。基于貝葉斯理論的樸素貝葉斯分類方法具有簡單、有效、速度快的優(yōu)點(diǎn),成為文本分類算法的重點(diǎn)研究內(nèi)容之一。本文首先對文本分類涉及到的中文分詞、文本向量表示及特征權(quán)重計(jì)算等關(guān)鍵技術(shù)做了比較詳細(xì)的分析研究;然后針對樸素貝葉斯文本分類的模型以及常用特征選擇方法對樸素貝葉斯文本分類的性能影響進(jìn)行了詳細(xì)的研究與分析;最后,設(shè)計(jì)并使用Java在MyEclipse平臺上實(shí)現(xiàn)了基于樸素貝葉斯方法的中文文本分類系統(tǒng)。本文重點(diǎn)分析了多變量伯努利模型與多項(xiàng)式模型,通過實(shí)驗(yàn)對比得出在中文文本分類中多項(xiàng)式模型優(yōu)于多變量伯努利模型。為了進(jìn)一步提高分類精度,本文對多項(xiàng)式模型的平滑因子進(jìn)行了改進(jìn),實(shí)驗(yàn)表明具有良好的分類效果。由于樸素貝葉斯分類模型是建立在屬性之間條件獨(dú)立性假設(shè)之上,因此特征選擇的好壞與否對分類精度有較大影響。本文通過實(shí)驗(yàn)表明信息增益和 χ2統(tǒng)計(jì)量是樸素貝葉斯文本分類較好的特征選擇方法?！居⑽恼縎incethetechnologyofcomputerandnetworkappeared,ithadbeendevelopedveryrapidly.Networkhasbecomingoneofthemostmainly-usedinformationsource.Becausemostoftheinformationinthenetworkistextdatatype,automatictextcategorizationwhichistheimportantbasicofeffectiveorganizationandmanagementtextdatahasbecomeanimportantstudyfield.NaiveBayesclassificationmethodisbasedontheBayesiantheory,whichisacceptedassimpleandeffectiveprobabilityclassificationmeth...【關(guān)鍵詞】文本分類 樸素貝葉斯分類 多變量伯努利模型 多項(xiàng)式模型 特征選擇【英文關(guān)鍵詞】TextCategorizationNaivebayesclassificationMulti-variateBernoulliModelMultinomialModelFeatureSelection【目錄】基于樸素貝葉斯方法的中文文本分類研究 摘要5-6 Abstract 6 第1章緒論9-14 1.1 研究背景及意義1.2文本分類研究現(xiàn)狀9-111.3樸素貝葉斯與文本分類11-121.4本文的工作121.5本文的組織結(jié)構(gòu)12-14第2章文本分類技術(shù)14-222.1文本分類的過程14-152.2文本向量表示15-192.2.1文本預(yù)處理15-162.2.2向量空間模型16-172.2.3特征權(quán)重17-192.3文本分類方法19-202.3.1決策樹分類器192.3.2k近鄰分類器19-202.3.3樸素貝葉斯分類器202.3.4支持向量機(jī)分類器202.4性能評估方法20-212.5本章小結(jié)21-22第3章樸素貝葉斯分類模型22-323.1貝葉斯基礎(chǔ)理論22-243.1.1貝葉斯定理22-233.1.2極大后驗(yàn)假設(shè)與極大似然假設(shè)事件的獨(dú)立性23-243.2樸素貝葉斯分類器24-25 3.3 樸素貝葉斯文本分類 25-28 樸素貝葉斯文本分類算法25-263.3.2多變量伯努利模型26-273.3.3多項(xiàng)式模型27-283.3.4兩個(gè)模型的區(qū)別283.4樸素貝葉斯分類器的改進(jìn)28-293.5實(shí)驗(yàn)設(shè)計(jì)與結(jié)果比較29-313.5.1實(shí)驗(yàn)1：多項(xiàng)式模式與多變量伯努利模型比較29-303.5.2實(shí)驗(yàn)2：改進(jìn)后的多項(xiàng)式模型與多項(xiàng)式模型比較30-313.5.3實(shí)驗(yàn)小結(jié)313.6本章小結(jié)31-32第4章選擇性樸素貝葉斯方法32-404.1常用的特征選擇方法32-354.1.1文檔頻率324.1.2信息增益32-334.1.3χ~2統(tǒng)計(jì)量33-344.1.4互信息34-354.2實(shí)驗(yàn)設(shè)計(jì)與結(jié)果分析35-384.3特征選擇實(shí)驗(yàn)比較38-394.4本章小結(jié)39-40第5章樸素貝葉斯文本分類的設(shè)計(jì)與實(shí)現(xiàn)40-425.1系統(tǒng)的實(shí)現(xiàn)405.2系統(tǒng)模塊40-415.3本章小結(jié)41-42第6章結(jié)論與展望42-446.1工作總結(jié)426.2后續(xù)工作42-44參考文獻(xiàn)44-46致謝46-47攻讀碩士學(xué)位期間發(fā)表論文情況47沁園春·雪北國風(fēng)光，千里冰封，萬里雪飄。望長城內(nèi)外，惟余莽莽；大河上下，頓失滔滔。山舞銀蛇，原馳蠟象， 欲與天公試比高。須晴日， 看紅裝素裹，分外妖嬈。江山如此多嬌， 引無數(shù)英雄競折腰。惜秦皇漢武，略輸文采；唐宗宋祖，稍遜風(fēng)騷。一代天驕，成吉思汗，只識彎弓射大雕。俱往矣，數(shù)風(fēng)流人物， 還看今朝?？顺鰩煴韮蓾h：諸葛亮先帝創(chuàng)業(yè)未半而中道崩殂，今天下三分，益州疲弊，此誠危急存亡之秋也。然侍衛(wèi)之臣不懈于內(nèi)，忠志之士忘身于外者，蓋追先帝之殊遇，欲報(bào)之于陛下也。誠宜開張圣聽，以光先帝遺德，恢弘志士之氣，不宜妄自菲薄，引喻失義，以塞忠諫之路也。宮中府中，俱為一體；陟罰臧否，不宜異同。若有作奸犯科及為忠善者，宜付有司論其刑賞，以昭陛下平明之理；不宜偏私，使內(nèi)外異法也。侍中、侍郎郭攸之、費(fèi)祎、董允等，此皆良實(shí)，志慮忠純，是以先帝簡拔以遺陛下：愚以為宮中之事，事無大小，悉以咨之，然后施行，必能裨補(bǔ)闕漏，有所廣益。將軍向?qū)?，性行淑均，曉暢軍事，試用于昔日，先帝稱之曰愚以為營中之事，悉以咨之，必能使行陣和睦，優(yōu)劣得所。

“能”，是以眾議舉寵為督：親賢臣，遠(yuǎn)小人，此先漢所以興隆也；親小人，遠(yuǎn)賢臣，此后漢所以傾頹也。先帝在時(shí)，每與臣論此事，未嘗不嘆息痛恨于桓、靈也。侍中、尚書、長史、參軍，此悉貞良死節(jié)之臣，愿陛下親之、信之，則漢室之隆，可計(jì)日而待也 。臣本布衣，躬耕于南陽，茍全性命于亂世，不求聞達(dá)于諸侯。先帝不以臣卑鄙，猥自枉屈，三顧臣于草廬之中，咨臣以當(dāng)世之事，由是感激，遂許先帝以驅(qū)馳。后值傾覆，受任于敗軍之際，奉命于危難之間，爾來二十有一年矣。先帝知臣謹(jǐn)慎，故臨崩寄臣以大事也。受命以來，夙夜憂嘆，恐托付不效，以傷先帝之明；故五月渡瀘，深入不毛。今南方已定，兵甲已足，當(dāng)獎(jiǎng)率三軍，北定中原，庶竭駑