大數(shù)據(jù)技術(shù)與應(yīng)用項(xiàng)目R語(yǔ)言高級(jí)分類方法原理2

大數(shù)據(jù)技術(shù)與應(yīng)用項(xiàng)目——

R語(yǔ)言決策樹(shù)分類方法原理2

項(xiàng)目來(lái)自北京諾程佳華教育科技有限公司教學(xué)目標(biāo)?熟悉決策樹(shù)和隨機(jī)森林回歸和分類算法的基本概念；?熟悉在R語(yǔ)言中做決策樹(shù)和隨機(jī)森林回歸和分類預(yù)測(cè)。

R語(yǔ)言決策樹(shù)分類方法原理2.隨機(jī)森林算法首先引入概念重抽樣（bootstrap），即有放回的抽樣，一個(gè)樣本已經(jīng)被抽取后還可以再一次被抽取到集合中。

隨機(jī)森林算法的基本思想是，建立多棵決策樹(shù)，最后的預(yù)測(cè)結(jié)果取決于所有決策樹(shù)的預(yù)測(cè)結(jié)果多數(shù)者為整個(gè)隨機(jī)森林的預(yù)測(cè)結(jié)果。而建立每棵決策樹(shù)時(shí)，重抽樣一定數(shù)量的數(shù)據(jù)樣本為訓(xùn)練集，并且在分割時(shí)重抽樣字段。

R語(yǔ)言決策樹(shù)分類方法原理2.隨機(jī)森林算法其優(yōu)點(diǎn)是準(zhǔn)確度較高。

而其缺點(diǎn)是，速度較慢，可解釋性較差，且容易導(dǎo)致過(guò)擬合。下圖所示就是一個(gè)隨機(jī)森林。

R語(yǔ)言決策樹(shù)分類方法原理

R語(yǔ)言決策樹(shù)分類方法原理R語(yǔ)言中可調(diào)用程序包randomForest中的函數(shù)randomForest(y~.,data=train,ntree,mtry)建立隨機(jī)森林模型，返回一個(gè)類型為randomForest的對(duì)象，如果因變量y是因子類型則建立分類隨機(jī)森林，否則建立回歸隨機(jī)森林，參數(shù)ntree表示隨機(jī)森林中包含的樹(shù)的數(shù)量，參數(shù)mtry表示在每個(gè)分割節(jié)點(diǎn)隨機(jī)抽樣的預(yù)測(cè)變量范圍中包含的預(yù)測(cè)變量數(shù)量。

R語(yǔ)言決策樹(shù)分類方法原理可以調(diào)用程序包c(diǎn)aret中的函數(shù)rf<-train(outcome~.,data=train,method="rf",prox,ntree)建立隨機(jī)森林模型，其中參數(shù)prox表示樣本之間的接近程度是否需要計(jì)算，參數(shù)ntree表示隨機(jī)森林包含的樹(shù)的數(shù)量，返回一個(gè)類型為train的對(duì)象。

可以調(diào)用函數(shù)predict(rf,test)在新數(shù)據(jù)上做分類預(yù)測(cè)?？梢哉{(diào)用函數(shù)getTree(rf$finalModel,k)返回隨機(jī)森林的某一棵樹(shù)，其中參數(shù)k指定樹(shù)的序號(hào)。

R語(yǔ)言決策樹(shù)分類方法原理3.實(shí)驗(yàn)數(shù)據(jù)本實(shí)驗(yàn)所用數(shù)據(jù)為234種車(chē)輛油耗數(shù)據(jù)，位于程序包ggplot2中名稱為mpg，包含了5個(gè)字段：制造商（manufacturer）、型號(hào)（model）、發(fā)動(dòng)機(jī)排量（dspl）、年份（year）、發(fā)動(dòng)機(jī)缸數(shù)（cyl）、變速箱類型（trans）、驅(qū)動(dòng)類型（drv）、每加侖燃油在城市行駛英里數(shù)（cty）、每加侖燃油在高速公路行駛英里數(shù)（hwy）、燃油類型（fl）和類型（class）