數(shù)據(jù)挖掘導論Iris KDD分析(DOC)

5/5數(shù)據(jù)挖掘導論IrisKDD分析(DOC)`

題目iris數(shù)據(jù)集的KDD實驗學院名稱信息科學與技術學院專業(yè)名稱計算機科學與技術學生姓名何東升

學生學號201413030119指導教師

實習地點成都理工大學

實習成績

二〇一六年9月

iris數(shù)據(jù)集的KDD實驗

第1章、實驗目的及內(nèi)容

1.1實習目的

知識發(fā)現(xiàn)（KDD：KnowledgeDiscoveryinDatabase）是從數(shù)據(jù)集中識別出有效的、新穎的、潛在有用的，以及最終可理解的模式的非平凡過程。知識發(fā)現(xiàn)將信息變?yōu)橹R，從數(shù)據(jù)礦山中找到蘊藏的知識金塊，將為知識創(chuàng)新和知識經(jīng)濟的發(fā)展作出貢獻。該術語于1989年出現(xiàn)，F(xiàn)ayyad定義為"KDD"是從數(shù)據(jù)集中識別出有效的、新穎的、潛在有用的，以及最終可理解的模式的非平凡過程”。

KDD的目的是利用所發(fā)現(xiàn)的模式解決實際問題，“可被人理解”的模式幫助人們理解模式中包含的信息，從而更好的評估和利用。

1.2算法的核心思想

作為一個KDD的工程而言,KDD通常包含一系列復雜的挖掘步驟.

Fayyad,Piatetsky-Shapiro和Smyth在1996年合作發(fā)布的論文中總結出了KDD包含的5個最基本步驟(如圖).

1:selection:在第一個步驟中我們往往要先知道什么樣的數(shù)據(jù)可以應用于我們的

KDD工程中.

2:pre-processing:當采集到數(shù)據(jù)后,下一步必須要做的事情是對數(shù)據(jù)進行預處理,盡

量消除數(shù)據(jù)中存在

的錯誤以及缺失信息.

3:transformation:轉換數(shù)據(jù)為數(shù)據(jù)挖掘工具所需的格式.這一步可以使得結果更加理想化.

4:datamining:應用數(shù)據(jù)挖掘工具.

5:interpretation/evaluation:了解以及評估數(shù)據(jù)挖掘結果.

1.3

實驗軟件：Weka3-9.

數(shù)據(jù)集來源：http://./doc/393e3f1e842458fb770bf78a6529647d2628346b.html/ml/datasets/Iris

第2章、實驗過程

2.1數(shù)據(jù)準備

1.從uci的數(shù)據(jù)集官網(wǎng)下載iris的數(shù)據(jù)源

2.抽取數(shù)據(jù)，清洗數(shù)據(jù)，變換數(shù)據(jù)

3.iris的數(shù)據(jù)集如圖

Iris也稱鳶尾花卉數(shù)據(jù)集，是一類多重變量分析的數(shù)據(jù)集。通過花萼長度，花萼寬度，花瓣長度，花瓣寬度4個屬性預測鳶尾花卉屬于（Setosa，Versicolour，Virginica）三個種類中的哪一類。

2.2實驗過程

2.2.1.建模

(1)C4.5數(shù)據(jù)挖掘算法

使用weka進行有指導的學習訓練，選擇C4.5數(shù)據(jù)挖掘算法，在Weka中名為J48，將testoptions設置為Percentagesplit，使用默認百分比66%。選擇class作為輸出屬性。如圖所示：

2.設置完成后點擊start開始執(zhí)行

(2)SimpleKMeans算法

1加載數(shù)據(jù)到Weka，切換到Cluster選項卡，選擇SimpleKMeans算法、

2.設置算法參數(shù)，顯示標準差，迭代次數(shù)設為5000次，其他默認。簇數(shù)選擇3，因為花的種類為3。如下圖所示

3.在ClusterMode面板選擇評估數(shù)據(jù)為Usetraininset，并單擊Ignoreattribu，忽略class屬性。

4.點擊start按鈕，執(zhí)行程序

第三章實驗結果及分析

3.1C

4.5結果分析

1.運行結果

===Runinformation===

Scheme:weka.classifiers.trees.J48-C0.25-M2

Relation:iris

Instances:150

Attributes:5

sepallength

sepalwidth

petallength

petalwidth

class

Testmode:split66.0%train,remaindertest

===Classifiermodel(fulltrainingset)===

J48prunedtree

petalwidth0.6

|petalwidth4.9

|||petalwidth1.5:Iris-versicolor(3.0/1.0)

|petalwidth>1.7:Iris-virginica(46.0/1.0)

NumberofLeaves:5

Sizeofthetree:9

Timetakentobuildmodel:0.01seconds

===Evaluationontestsplit===

Timetakentotestmodelontrainingsplit:0seconds

===Summary===

CorrectlyClassifiedInstances4996.0784%

IncorrectlyClassifiedInstances23.9216%

Kappastatistic0.9408

Meanabsoluteerror0.0396

Rootmeansquarederror0.1579

Relativeabsoluteerror8.8979%

Rootrelativesquarederror33.4091%

TotalNumberofInstances51

===DetailedAccuracyByClass===

TPRateFPRatePrecisionRecallF-MeasureMCCROCAreaPRCAreaClass

1.0000.0001.0001.0001.0001.0001.0001.000Iris-setosa

1.0000.0630.9051.0000.9500.9210.9690.905Iris-versicolor

0.8820.0001.0000.8820.9380.9130.9670.938Iris-virginica

WeightedAvg.0.9610.0230.9650.9610.9610.9420.9770.944

===ConfusionMatrix===

abc<--classifiedas

1500|a=Iris-setosa

0190|b=Iris-versicolor

0215|c=Iris-virginica

從上述結果可以看出正確率為96.0784%所以petalwidth和petallength可以很好的判斷花的類別。

3.1SimpleKMeans算法結果

===Runinformation===

Scheme:weka.clusterers.SimpleKMeans-init0-max-candidates100-periodic-pruning10000-min-density2.0-t1-1.25-t2-1.0-V-N3-A"weka.core.EuclideanDistance-Rfirst-last"-I500-num-slots1-S10

Relation:iris

Instances:150

Attributes:5

sepallength

sepalwidth

petallength

petalwidth

Ignored:

class

Testmode:evaluateontrainingdata

===Clusteringmodel(fulltrainingset)===

kMeans

======

Numberofiterations:6

Withinclustersumofsquarederrors:6.998114004826762

Initialstartingpoints(random):

Cluster0:6.1,2.9,4.7,1.4

Cluster1:6.2,2.9,4.3,1.3

Cluster2:6.9,3.1,5.1,2.3

Missingvaluesgloballyreplacedwithmean/mode

Finalclustercentroids:

Cluster#

AttributeFullData012

(150.0)(61.0)(50.0)(39.0)

===========================================================sepallength5.84335.88855.0066.8462

+/-0.8281+/-0.4487+/-0.3525+/-0.5025

sepalwidth3.0542.73773.4183.0821

+/-0.4336+/-0.2934+/-0.381+/-0.2799

petallength3.75874.39671.4645.7026

+/-1.7644+/-0.5269+/-0.1735+/-0.5194

petalwidth1.19871.4180.2442.0795

+/-0.7632+/-0.2723+/-0.1072+/-0.2811

Timetakentobuildmodel(fulltrainingdata):0seconds

===Modelandevaluationontrainingset===

ClusteredInstances

061(41%)

150(33%)

239(26%)

從實驗結果可以看出分出的類為3個且比例與元數(shù)據(jù)的class的比例1:1:1的比例不是很相近。從C4.5的結果來看pentalwidth和pentallength更加符合，重新選擇屬性，僅選擇pentalwidth和pentallength結果如下

===Runinformation===

Scheme:weka.clusterers.SimpleKMeans-init0-max-candidates100-periodic-pruning10000-min-density2.0-t1-1.25-t2-1.0-V-N3-A"weka.core.EuclideanDistance-Rfirst-last"-I5009-num-slots1-S10

Relation:iris

Instances:150

Attributes:5

petallength

petalwidth

Ignored:

sepallength

sepalwidth

class

Testmode:evaluateontrainingdata

===Clusteringmodel(fulltrainingset)===

kMeans

======

Numberofiterations:6

Withinclustersumofsquarederrors:1.7050986081225123

Initialstartingpoints(random):

Cluster0:4.7,1.4

Cluster1:4.3,1.3

Cluster2:5.1,2.3

Missingvaluesgloballyreplacedwithmean/mode

Finalclustercentroids:

Cluster#

AttributeFullData012

(150.0)(52.0)(50.0)(48.0)

====