基于weka的數(shù)據(jù)分類和聚類分析實驗報告

基于weka的數(shù)據(jù)分類分析實驗報告1實驗根本內(nèi)容本實驗的根本內(nèi)容是通過使用weka中的三種常見分類和聚類方法〔決策樹J48、KNN和k-means〕分別在訓(xùn)練數(shù)據(jù)上訓(xùn)練出分類模型，并使用校驗數(shù)據(jù)對各個模型進行測試和評價，找出各個模型最優(yōu)的參數(shù)值，并對三個模型進行全面評價比擬，得到一個最好的分類模型以及該模型所有設(shè)置的最優(yōu)參數(shù)。最后使用這些參數(shù)以及訓(xùn)練集和校驗集數(shù)據(jù)一起構(gòu)造出一個最優(yōu)分類器，并利用該分類器對測試數(shù)據(jù)進行預(yù)測。2數(shù)據(jù)的準(zhǔn)備及預(yù)處理2.1格式轉(zhuǎn)換方法(1)翻開“data02.xls〞另存為CSV類型，得到“data02.csv〞。(2)在WEKA中提供了一個“ArffViewer〞模塊，翻開一個“data02.csv〞進行瀏覽，然后另存為ARFF文件，得到“data02.arff〞。。3.實驗過程及結(jié)果截圖3.1決策樹分類(1)決策樹分類用“Explorer〞翻開數(shù)據(jù)“data02.arff〞，然后切換到“Classify〞。點擊“Choose〞，選擇算法“trees-J48〞，再在“Testoptions〞選擇“Cross-validation〔Flods=10〕〞，點擊“Start〞，開始運行。系統(tǒng)默認(rèn)trees-J48決策樹算法中minNumObj=2，得到如下結(jié)果===Summary===CorrectlyClassifiedInstances2388.4615%IncorrectlyClassifiedInstances311.5385%Kappastatistic0.7636Meanabsoluteerror0.141Rootmeansquarederror0.3255Relativeabsoluteerror30.7368%Rootrelativesquarederror68.0307%TotalNumberofInstances26===DetailedAccuracyByClass===TPRateFPRatePrecisionRecallF-MeasureROCAreaClass0.824010.8240.9030.892N10.1760.7510.8570.892YWeightedAvg.0.8850.0610.9130.8850.8870.892===ConfusionMatrix===ab<--classifiedas143|a=N09|b=Y使用不同的參數(shù)準(zhǔn)確率比擬：minNumObj2345CorrectlyClassifiedInstances23〔88.4615%〕22〔84.6154%〕23〔88.4615%〕23〔88.4615%〕由上表，可知minNumObj為2時，準(zhǔn)確率最高。根據(jù)測試數(shù)集，利用準(zhǔn)確率最高的模型得到的結(jié)果：分析說明：在用J48對數(shù)據(jù)集進行分類時采用了10折交叉驗證〔Folds=10〕來選擇和評估模型，其中屬性值有兩個Y，N。一局部結(jié)果如下：CorrectlyClassifiedInstances2388.4615%IncorrectlyClassifiedInstances311.5385%===ConfusionMatrix===ab<--classifiedas143|a=N09|b=Y這個矩陣是說，原來是“Y〞的實例，有14個被正確的預(yù)測為“Y〞,有3個錯誤的預(yù)測成了“N〞。原本是“NO〞的實例有0個被正確的預(yù)測成為“Y〞，有9個正確的預(yù)測成了“N〞。“14+3+0+9=26〞是實例的總數(shù)，而〔14+9〕/26=0.884615正好是正確分類的實例所占比例。這個矩陣對角線上的數(shù)字越大，說明預(yù)測得越好。(2)K最近鄰分類算法用“Explorer〞翻開數(shù)據(jù)“data02.arff〞，然后切換到“Classify〞。點擊“Choose〞，選擇算法“l(fā)azy-IBk〞，再在“Testoptions〞選擇“Cross-validation〔Flods=10〕〞，點擊“Start〞，開始運行。訓(xùn)練結(jié)果：系統(tǒng)默認(rèn)lazy-IBkK最近鄰分類算法中KNN=1，得到如下結(jié)果===Summary===CorrectlyClassifiedInstances2076.9231%IncorrectlyClassifiedInstances623.0769%Kappastatistic0.4902Meanabsoluteerror0.252Rootmeansquarederror0.4626Relativeabsoluteerror54.9136%Rootrelativesquarederror96.694%TotalNumberofInstances26===DetailedAccuracyByClass===TPRateFPRatePrecisionRecallF-MeasureROCAreaClass0.8240.3330.8240.8240.8240.768N0.6670.1760.6670.6670.6670.768YWeightedAvg.0.7690.2790.7690.7690.7690.768===ConfusionMatrix===ab<--classifiedas143|a=N36|b=Y使用不同的參數(shù)準(zhǔn)確率比擬：KNN1234CorrectlyClassifiedInstances20〔76.9231%〕19〔73.0769%〕23〔88.4615%〕20〔76.9231%〕由上表，可知KNN為3時，準(zhǔn)確率最高。根據(jù)測試數(shù)集，利用準(zhǔn)確率最高的模型得到的結(jié)果：分析說明：在用lazy-Ibk(KNN=3)對數(shù)據(jù)集進行分類時采用了10折交叉驗證〔Folds=10〕來選擇和評估模型，其中屬性值有兩個Y，N。一局部結(jié)果如下：===Summary===CorrectlyClassifiedInstances2388.4615%IncorrectlyClassifiedInstances311.5385%===ConfusionMatrix===ab<--classifiedas161|a=N27|b=Y這個矩陣是說，原來是“Y〞的實例，有16個被正確的預(yù)測為“Y〞,有1個錯誤的預(yù)測成了“N〞。原本是“NO〞的實例有2個被正確的預(yù)測成為“Y〞，有9個正確的預(yù)測成了“7〞?！?6+1+2+7=26〞是實例的總數(shù)，而〔16+7〕/26=0.884615正好是正確分類的實例所占比例。二、對“data01〞進行聚類分析1.數(shù)據(jù)格式的轉(zhuǎn)換(1)翻開“data01.xls〞另存為CSV類型，得到“data01.csv〞。(2)在WEKA中提供了一個“ArffViewer〞模塊，翻開一個“data01.csv〞進行瀏覽，然后另存為ARFF文件，得到“data01.arff〞。2.聚類過程用“Explorer〞翻開數(shù)據(jù)“data01.arff〞，然后切換到“Cluster〞。點擊“Choose〞，選擇算法“SimpleKMeans〔numClusters=6，seed=200〕，再在“Testoptions〞選擇“Usetrainingset〞，點擊“Start〞，開始運行。訓(xùn)練結(jié)果：采用simpleKMeans算法，其中numClusters=6，seed=100，得到如下結(jié)果：Numberofiterations:3Withinclustersumofsquarederrors:6.065322314450069〔平方誤差之和〕ClusteredInstancesClusteredInstances04(15%)13(12%)24(15%)33(12%)42(8%)510(38%)〔各類的包含的實例個數(shù)以及占總實例的百分比〕說明：其中當(dāng)seed的取值越大，平方誤差之和越小。在這次實驗seed=100，得到：Withinclustersumofsquarederrors:6.065322314450069.這是評價聚類好壞的標(biāo)準(zhǔn)，數(shù)值越小說明同一簇實例之間的距離就越小。接下來“Clustercentroids〞：列出了各個簇中心的位置：AttributeFullData012345(26)(4)(3)(4)(3)(2)(10)=================================================================================sample13.522.54.666720.514.66674.511.2old-year48.076965.7559.333350.52556.541.9VEGF1.92312.752.333322.666731MVC102.1538126.45100.6667127.488.266710486.58cancer-grade2.57693.75233.33333.51.7cancer-stage2.15383.251.333332.33333.51.3cancermetastasisNYNNYYN最后“ClusteredInstances〞列出了各個簇中實例的數(shù)目及百分比：ClusteredIn