決策樹算法的研究與改進(jìn)_第1頁
決策樹算法的研究與改進(jìn)_第2頁
決策樹算法的研究與改進(jìn)_第3頁
決策樹算法的研究與改進(jìn)_第4頁
決策樹算法的研究與改進(jìn)_第5頁
已閱讀5頁，還剩14頁未讀， 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明：本文檔由用戶提供并上傳，收益歸屬內(nèi)容提供方，若內(nèi)容存在侵權(quán)，請進(jìn)行舉報或認(rèn)領(lǐng)

文檔簡介

在決策樹算法中，最為關(guān)鍵的兩個步驟是特征選擇和樹的剪枝?；蚧嶂笖?shù)(GiniIndex)等指標(biāo)來評估特征的重要性。分為預(yù)剪枝(Pre-pruning)和后剪枝(Post-pruning)兩種。預(yù)剪Forest)和梯度提升決策樹(GradientBoostingDecisionTree)具體來說，在CIFAR-10數(shù)據(jù)集上，我們的改進(jìn)算法在保持較高準(zhǔn)確率的同時，運(yùn)行時間比傳統(tǒng)算法減少了約30%。這充分證明了我針對C5算法的過擬合問題，我們引入了剪枝策略。剪枝策略可為若干個離散的區(qū)間，并根據(jù)區(qū)間的值將數(shù)據(jù)映射到相應(yīng)的類別我們探討了改進(jìn)后算法的應(yīng)用。我們將改進(jìn)后的C5算法應(yīng)用于本文針對C5算法存在的問題進(jìn)行了改進(jìn)，并探討了改進(jìn)后算法等場景中，提高分類器的性能。未來我們將進(jìn)一步研究C5算法的優(yōu)類別(對于分類問題)或一個具體數(shù)值(對于回歸問題)。決策樹算決策樹方法最早產(chǎn)生于上世紀(jì)60年代，到70年代末。由JRossQuinlan提出了ID3算法，此算法的目的在于減少樹的深度。但是忽決策樹算法構(gòu)造決策樹來發(fā)現(xiàn)數(shù)據(jù)中蘊(yùn)涵的分類規(guī)則.如何構(gòu)造程，主要是用新的樣本數(shù)據(jù)集(稱為測試數(shù)據(jù)集)中的數(shù)據(jù)校驗決策決策樹(decisiontree)是一種基本的分類與回歸方法。決策樹因為從所有可能的決策樹中選取最優(yōu)決策樹是NP完全問題，所下對訓(xùn)練數(shù)據(jù)有足夠分類能力的特征。(例如把名字不作為一個特征進(jìn)行選擇)InternationalConferenceonDataMining)在2006年12月評選4)根據(jù)當(dāng)前決策結(jié)點(diǎn)屬性取值的不同，將訓(xùn)練樣本數(shù)據(jù)集tlI②沒有剩余屬性可以用來進(jìn)一步劃分樣本.在這種情況下.使用③如果某一分枝tc,沒有滿足該分支中已有分類的樣本，則以邏輯判斷，如形式為a=aj的邏輯判斷，其中a是屬性，aj是該屬性可缺少的環(huán)節(jié)。尋找一棵最優(yōu)決策樹，主要應(yīng)解決以下3個最優(yōu)化問(1)決策樹生成：基于訓(xùn)練數(shù)據(jù)集生成決策樹，生成的決策樹(2)決策樹剪枝：用驗證數(shù)據(jù)集對己生成的樹進(jìn)行剪枝并選擇 19

溫馨提示

  • 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙，網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽，若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間，僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理，對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯，并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容，請與我們聯(lián)系，我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論