基于weka的數(shù)據(jù)分類和聚類分析實(shí)驗(yàn)報(bào)告(共11頁)

1、數(shù)據(jù)挖掘?qū)嶒?yàn)報(bào)告 PAGE PAGE 13基于weka的數(shù)據(jù)(shj)分類分析實(shí)驗(yàn)報(bào)告(bogo)1實(shí)驗(yàn)(shyn)基本內(nèi)容本實(shí)驗(yàn)的基本內(nèi)容是通過使用weka中的三種常見分類和聚類方法（決策樹J48、KNN和k-means）分別在訓(xùn)練數(shù)據(jù)上訓(xùn)練出分類模型，并使用校驗(yàn)數(shù)據(jù)對(duì)各個(gè)模型進(jìn)行測試和評(píng)價(jià)，找出各個(gè)模型最優(yōu)的參數(shù)值，并對(duì)三個(gè)模型進(jìn)行全面評(píng)價(jià)比較，得到一個(gè)最好的分類模型以及該模型所有設(shè)置的最優(yōu)參數(shù)。最后使用這些參數(shù)以及訓(xùn)練集和校驗(yàn)集數(shù)據(jù)一起構(gòu)造出一個(gè)最優(yōu)分類器，并利用該分類器對(duì)測試數(shù)據(jù)進(jìn)行預(yù)測。2數(shù)據(jù)的準(zhǔn)備及預(yù)處理2.1格式轉(zhuǎn)換方法(1)打開“data02.xls” 另存為CSV類型，得到“

2、data02.csv”。 (2)在WEKA中提供了一個(gè)“Arff Viewer”模塊，打開一個(gè)“data02.csv”進(jìn)行瀏覽，然后另存為ARFF文件，得到“data02.arff”。 。3. 實(shí)驗(yàn)過程及結(jié)果截圖3.1決策樹分類(1)決策樹分類用“Explorer”打開數(shù)據(jù)“data02.arff”，然后切換到“Classify”。點(diǎn)擊“Choose”，選擇算法“trees-J48”，再在“Test options”選擇“Cross-validation（Flods=10）”，點(diǎn)擊“Start”，開始運(yùn)行。系統(tǒng)默認(rèn)trees-J48決策樹算法中minNumObj=2，得到(d do)如下結(jié)果=

3、 Summary =Correctly Classified Instances 23 88.4615 %Incorrectly Classified Instances 3 11.5385 %Kappa statistic 0.7636Mean absolute error 0.141 Root mean squared error 0.3255Relative absolute error 30.7368 %Root relative squared error 68.0307 %Total Number of Instances 26 = Detailed Accuracy By Cla

4、ss = TP Rate FP Rate Precision Recall F-Measure ROC Area Class 0.824 0 1 0.824 0.903 0.892 N 1 0.176 0.75 1 0.857 0.892 YWeighted Avg. 0.885 0.061 0.913 0.885 0.887 0.892= Confusion Matrix = a b - classified as 14 3 | a = N 0 9 | b = Y使用(shyng)不同的參數(shù)準(zhǔn)確率比較：minNumObj2345Correctly Classified Instances23

5、（88.4615 %）22（84.6154 %）23（88.4615 %）23（88.4615 %）由上表(shn bio)，可知minNumObj為2時(shí)，準(zhǔn)確率最高。根據(jù)(gnj)測試數(shù)集，利用準(zhǔn)確率最高的模型得到的結(jié)果： 分析(fnx)說明：在用J48對(duì)數(shù)據(jù)集進(jìn)行分類時(shí)采用了10折交叉(jioch)驗(yàn)證（Folds=10）來選擇和評(píng)估模型，其中屬性值有兩個(gè)Y，N。一部分結(jié)果如下：Correctly Classified Instances 23 88.4615 %Incorrectly Classified Instances 3 11.5385 %= Confusion Matrix =

6、 a b - classified as 14 3 | a = N 0 9 | b = Y這個(gè)(zh ge)矩陣是說，原來是“Y”的實(shí)例，有14個(gè)被正確的預(yù)測為“Y”,有3個(gè)錯(cuò)誤的預(yù)測成了“N”。原本是“NO”的實(shí)例有0個(gè)被正確的預(yù)測成為“Y”，有9個(gè)正確的預(yù)測成了“N”。“14+3+0+9=26”是實(shí)例的總數(shù)，而（14+9）/ 26=0.884615正好是正確分類的實(shí)例所占比例。這個(gè)矩陣對(duì)角線上的數(shù)字越大，說明預(yù)測得越好。(2)K最近鄰分類算法用“Explorer”打開數(shù)據(jù)“data02.arff”，然后切換到“Classify”。點(diǎn)擊“Choose”，選擇算法“l(fā)azy-IBk”，再在“T

7、est options”選擇“Cross-validation（Flods=10）”，點(diǎn)擊“Start”，開始運(yùn)行。訓(xùn)練結(jié)果：系統(tǒng)默認(rèn)(mrn)lazy-IBk K最近鄰分類算法中KNN=1，得到如下結(jié)果= Summary =Correctly Classified Instances 20 76.9231 %Incorrectly Classified Instances 6 23.0769 %Kappa statistic 0.4902Mean absolute error 0.252 Root mean squared error 0.4626Relative absolute erro

8、r 54.9136 %Root relative squared error 96.694 %Total Number of Instances 26 = Detailed Accuracy By Class = TP Rate FP Rate Precision Recall F-Measure ROC Area Class 0.824 0.333 0.824 0.824 0.824 0.768 N 0.667 0.176 0.667 0.667 0.667 0.768 YWeighted Avg. 0.769 0.279 0.769 0.769 0.769 0.768= Confusion

9、 Matrix = a b - classified as 14 3 | a = N 3 6 | b = Y使用不同(b tn)的參數(shù)準(zhǔn)確率比較：KNN1234Correctly Classified Instances20（76.9231 %）19（73.0769%）23（88.4615 %）20（76.9231 %）由上表(shn bio)，可知KNN為3時(shí)，準(zhǔn)確率最高。根據(jù)測試(csh)數(shù)集，利用準(zhǔn)確率最高的模型得到的結(jié)果：分析(fnx)說明：在用lazy-Ibk(KNN=3)對(duì)數(shù)據(jù)集進(jìn)行分類時(shí)采用了10折交叉驗(yàn)證(ynzhng)（Folds=10）來選擇和評(píng)估模型，其中屬性值有兩個(gè)Y，

10、N。一部分結(jié)果如下：= Summary =Correctly Classified Instances 23 88.4615 %Incorrectly Classified Instances 3 11.5385 %= Confusion Matrix = a b - classified as 16 1 | a = N 2 7 | b = Y這個(gè)矩陣是說，原來(yunli)是“Y”的實(shí)例，有16個(gè)被正確(zhngqu)的預(yù)測為“Y”,有1個(gè)錯(cuò)誤的預(yù)測成了“N”。原本是“NO”的實(shí)例有2個(gè)被正確的預(yù)測成為“Y”，有9個(gè)正確的預(yù)測成了“7”?！?6+1+2+7=26”是實(shí)例的總數(shù)，而（16+7）

11、/ 26=0.884615正好是正確分類的實(shí)例所占比例。二、對(duì)“data01” 進(jìn)行聚類分析1.數(shù)據(jù)格式的轉(zhuǎn)換(1)打開“data01.xls” 另存為CSV類型，得到“data01.csv”。 (2)在WEKA中提供了一個(gè)“Arff Viewer”模塊，打開一個(gè)“data01.csv”進(jìn)行瀏覽，然后另存為ARFF文件，得到“data01.arff”。 2.聚類過程用“Explorer”打開數(shù)據(jù)“data01.arff”，然后切換到“Cluster”。點(diǎn)擊“Choose”，選擇算法“SimpleKMeans（numClusters=6，seed=200），再在“Test options”選擇“

12、Use training set”，點(diǎn)擊“Start”，開始運(yùn)行。訓(xùn)練結(jié)果：采用(ciyng)simpleKMeans算法，其中numClusters=6，seed=100，得到(d do)如下結(jié)果：Number of iterations: 3Within cluster sum of squared errors: 6.065322314450069（平方(pngfng)誤差之和）Clustered InstancesClustered Instances0 4 ( 15%)1 3 ( 12%)2 4 ( 15%)3 3 ( 12%)4 2 ( 8%)5 10 ( 38%)（各類的包含的實(shí)

13、例個(gè)數(shù)以及占總實(shí)例的百分比）說明(shumng)：其中(qzhng)當(dāng)seed的取值越大，平方(pngfng)誤差之和越小。在這次實(shí)驗(yàn)(shyn)seed=100，得到：Within cluster sum of squared errors: 6.065322314450069.這是評(píng)價(jià)聚類好壞的標(biāo)準(zhǔn)，數(shù)值越小說明同一簇實(shí)例之間的距離就越小。接下來“Cluster centroids”：列出了各個(gè)簇中心的位置：Attribute Full Data 0 1 2 3 4 5 (26) (4) (3) (4) (3) (2) (10)=sample 13.5 22.5 4.6667 20.5 1

14、4.6667 4.5 11.2old-year 48.0769 65.75 59.3333 50.5 25 56.5 41.9VEGF 1.9231 2.75 2.3333 2 2.6667 3 1MVC 102.1538 126.45 100.6667 127.4 88.2667 104 86.58cancer-grade 2.5769 3.75 2 3 3.3333 3.5 1.7cancer-stage 2.1538 3.25 1.3333 3 2.3333 3.5 1.3cancer metastasis N Y N N Y Y N最后“Clustered Instances”列出了各個(gè)簇中實(shí)例的數(shù)目及百分比：Clustered Instances0 4 ( 15%)1 3 ( 12%)2 4 ( 15%)3 3 ( 12%)4 2 ( 8%)5 10 ( 38%)（各類的包含的實(shí)例個(gè)數(shù)以及占總實(shí)例的百分比）三、根據(jù)提供的“data02”進(jìn)行關(guān)聯(lián)分析由于程序和系統(tǒng)故障，所以不能正確的進(jìn)行關(guān)聯(lián)分析 5.實(shí)驗(yàn)(shyn)總結(jié)本次實(shí)驗(yàn)進(jìn)行比較順利，使我對(duì)如何在Weka中進(jìn)行分類分析有了更深刻的了解，對(duì)Weka中進(jìn)行分類分析