版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
只需十四步:從零開始掌握Python機器學習(附資源)2017-03-14機器之心選自kdnuggets作者:MatthewMayo機器之心編譯參與:黃小天、吳攀、晏奇、蔣思源Python可以說是現(xiàn)在最流行的機器學習語言,而且你也能在網上找到大量的資源。你現(xiàn)在也在考慮從Python入門機器學習嗎?本教程或許能幫你成功上手,從0到1掌握Python機器學習,至于后面再從1到100變成機器學習專家,就要看你自己的努力了。本教程原文分為兩個部分,機器之心在本文中將其進行了整合,原文可參閱:http://suo.im/KUWgl和http://suo.im/96wD3。本教程的作者為KDnuggets副主編兼數(shù)據科學家MatthewMayo?!搁_始」往往是最難的,尤其是當選擇太多的時候,一個人往往很難下定決定做出選擇。本教程的目的是幫助幾乎沒有Python機器學習背景的新手成長為知識淵博的實踐者,而且這個過程中僅需要使用免費的材料和資源即可。這個大綱的主要目標是帶你了解那些數(shù)量繁多的可用資源。毫無疑問,資源確實有很多,但哪些才是最好的呢?哪些是互補的呢?以怎樣的順序學習這些資源才是最合適的呢?首先,我假設你并不是以下方面的專家:機器學習Python任何Python的機器學習、科學計算或數(shù)據分析庫當然,如果你對前兩個主題有一定程度的基本了解就更好了,但那并不是必要的,在早期階段多花一點點時間了解一下就行了?;A篇第一步:基本Python技能如果我們打算利用Python來執(zhí)行機器學習,那么對Python有一些基本的了解就是至關重要的。幸運的是,因為Python是一種得到了廣泛使用的通用編程語言,加上其在科學計算和機器學習領域的應用,所以找到一個初學者教程并不十分困難。你在Python和編程上的經驗水平對于起步而言是至關重要的。首先,你需要安裝Python。因為我們后面會用到科學計算和機器學習軟件包,所以我建議你安裝Anaconda。這是一個可用于Linux、OSX和Windows上的工業(yè)級的Python實現(xiàn),完整包含了機器學習所需的軟件包,包括numpy、scikit-learn和matplotlib。其也包含了iPythonNotebook,這是一個用在我們許多教程中的交互式環(huán)境。我推薦安裝Python2.7。?如果你不懂編程,我建議你從下面的免費在線書籍開始學習,然后再進入后續(xù)的材料:LearnPythontheHardWay,作者ZedA.Shaw:/book/如果你有編程經驗,但不懂Python或還很初級,我建議你學習下面兩個課程:谷歌開發(fā)者Python課程(強烈推薦視覺學習者學習):http://suo.im/toMzqPython科學計算入門(來自UCSBEngineering的M.ScottShell)(一個不錯的入門,大約有60頁):http://suo.im/2cXycM如果你要30分鐘上手Python的快速課程,看下面:在Y分鐘內學會X(X=Python):http://suo.im/zm6qX當然,如果你已經是一位經驗豐富的Python程序員了,這一步就可以跳過了。即便如此,我也建議你常使用Python文檔:/doc/第二步:機器學習基礎技巧KDnuggets的ZacharyLipton已經指出:現(xiàn)在,人們評價一個「數(shù)據科學家」已經有很多不同標準了。這實際上是機器學習領域領域的一個寫照,因為數(shù)據科學家大部分時間干的事情都牽涉到不同程度地使用機器學習算法。為了有效地創(chuàng)造和獲得來自支持向量機的洞見,非常熟悉核方法(kernelmethods)是否必要呢?當然不是。就像幾乎生活中的所有事情一樣,掌握理論的深度是與實踐應用相關的。對機器學習算法的深度了解超過了本文探討的范圍,它通常需要你將非常大量的時間投入到更加學術的課程中去,或者至少是你自己要進行高強度的自學訓練。好消息是,對實踐來說,你并不需要獲得機器學習博士般的理論理解——就想要成為一個高效的程序員并不必要進行計算機科學理論的學習。人們對吳恩達在Coursera上的機器學習課程內容往往好評如潮;然而,我的建議是瀏覽前一個學生在線記錄的課堂筆記。跳過特定于Octave(一個類似于Matlab的與你Python學習無關的語言)的筆記。一定要明白這些都不是官方筆記,但是可以從它們中把握到吳恩達課程材料中相關的內容。當然如果你有時間和興趣,你現(xiàn)在就可以去Coursera上學習吳恩達的機器學習課程:http://suo.im/2o1uD吳恩達課程的非官方筆記:/mlclass/除了上面提到的吳恩達課程,如果你還需要需要其它的,網上還有很多各類課程供你選擇。比如我就很喜歡TomMitchell,這里是他最近演講的視頻(一起的還有Maria-FlorinaBalcan),非常平易近人。TomMitchell的機器學習課程:http://suo.im/497arwTheano是一個Python庫,它可以使你有效地定義、優(yōu)化和評估包含多維數(shù)組的數(shù)學表達式。下面關于運用Theano學習深度學習的入門教程有點長,但是足夠好,描述生動,評價很高:Theano深度學習教程,作者ColinRaffel:http://suo.im/1mPGHe2.Caffe鏈接:/另一個我們將測試驅動的庫是Caffe。再一次,讓我們從作者開始:Caffe是一個深度學習框架,由表達、速度和模塊性建構,Bwekeley視覺與學習中心和社區(qū)工作者共同開發(fā)了Caffe。這個教程是本篇文章中最好的一個。我們已經學習了上面幾個有趣的樣例,但沒有一個可與下面這個樣例相競爭,其可通過Caffe實現(xiàn)谷歌的DeepDream。這個相當精彩!掌握教程之后,可以嘗試使你的處理器自如運行,就當作是娛樂。通過Caffe實現(xiàn)谷歌DeepDream:http://suo.im/2cUSXS我并沒有保證說這會很快或容易,但是如果你投入了時間并完成了上面的7個步驟,你將在理解大量機器學習算法以及通過流行的庫(包括一些在目前深度學習研究領域最前沿的庫)在Python中實現(xiàn)算法方面變得很擅長。進階篇?機器學習算法本篇是使用Python掌握機器學習的7個步驟系列文章的下篇,如果你已經學習了該系列的上篇,那么應該達到了令人滿意的學習速度和熟練技能;如果沒有的話,你也許應該回顧一下上篇,具體花費多少時間,取決于你當前的理解水平。我保證這樣做是值得的。快速回顧之后,本篇文章會更明確地集中于幾個機器學習相關的任務集上。由于安全地跳過了一些基礎模塊——Python基礎、機器學習基礎等等——我們可以直接進入到不同的機器學習算法之中。這次我們可以根據功能更好地分類教程。第1步:機器學習基礎回顧&一個新視角上篇中包括以下幾步:1.Python基礎技能2.機器學習基礎技能3.Python包概述4.運用Python開始機器學習:介紹&模型評估5.關于Python的機器學習主題:k-均值聚類、決策樹、線性回歸&邏輯回歸6.關于Python的高階機器學習主題:支持向量機、隨機森林、PCA降維7.Python中的深度學習如上所述,如果你正準備從頭開始,我建議你按順序讀完上篇。我也會列出所有適合新手的入門材料,安裝說明包含在上篇文章中。然而,如果你已經讀過,我會從下面最基礎的開始:機器學習關鍵術語解釋,作者MatthewMayo。地址:http://suo.im/2URQGm維基百科條目:統(tǒng)計學分類。地址:http://suo.im/mquen機器學習:一個完整而詳細的概述,作者AlexCastrounis。地址:http://suo.im/1yjSSq如果你正在尋找學習機器學習基礎的替代或補充性方法,恰好我可以把正在看的ShaiBen-David的視頻講座和ShaiShalev-Shwartz的教科書推薦給你:ShaiBen-David的機器學習介紹視頻講座,滑鐵盧大學。地址:http://suo.im/1TFlK6理解機器學習:從理論到算法,作者ShaiBen-David&ShaiShalev-Shwartz。地址:http://suo.im/1NL0ix記住,這些介紹性資料并不需要全部看完才能開始我寫的系列文章。視頻講座、教科書及其他資源可在以下情況查閱:當使用機器學習算法實現(xiàn)模型時或者當合適的概念被實際應用在后續(xù)步驟之中時。具體情況自己判斷。第2步:更多的分類我們從新材料開始,首先鞏固一下我們的分類技術并引入一些額外的算法。雖然本篇文章的第一部分涵蓋決策樹、支持向量機、邏輯回歸以及合成分類隨機森林,我們還是會添加k-最近鄰、樸素貝葉斯分類器和多層感知器。?Scikit-learn分類器k-最近鄰(kNN)是一個簡單分類器和懶惰學習者的示例,其中所有計算都發(fā)生在分類時間上(而不是提前在訓練步驟期間發(fā)生)。kNN是非參數(shù)的,通過比較數(shù)據實例和k最近實例來決定如何分類。使用Python進行k-最近鄰分類。地址:http://suo.im/2zqW0t樸素貝葉斯是基于貝葉斯定理的分類器。它假定特征之間存在獨立性,并且一個類中任何特定特征的存在與任何其它特征在同一類中的存在無關。使用Scikit-learn進行文檔分類,作者ZacStewart。地址:http://suo.im/2uwBm3多層感知器(MLP)是一個簡單的前饋神經網絡,由多層節(jié)點組成,其中每個層與隨后的層完全連接。多層感知器在Scikit-learn版本0.18中作了介紹。首先從Scikit-learn文檔中閱讀MLP分類器的概述,然后使用教程練習實現(xiàn)。神經網絡模型(監(jiān)督式),Scikit-learn文檔。地址:http://suo.im/3oR76lPython和Scikit-learn的神經網絡初學者指南0.18!作者JosePortilla。地址:http://suo.im/2tX6rG第3步:更多聚類我們現(xiàn)在接著講聚類,一種無監(jiān)督學習形式。上篇中,我們討論了k-means算法;我們在此介紹DBSCAN和期望最大化(EM)。?Scikit-learn聚類算法首先,閱讀這些介紹性文章;第一個是k均值和EM聚類技術的快速比較,是對新聚類形式的一個很好的繼續(xù),第二個是對Scikit-learn中可用的聚類技術的概述:聚類技術比較:簡明技術概述,作者MatthewMayo。地址:http://suo.im/4ctIvI在玩具數(shù)據集中比較不同的聚類算法,Scikit-learn文檔。地址:http://suo.im/4uvbbM期望最大化(EM)是概率聚類算法,并因此涉及確定實例屬于特定聚類的概率。EM接近統(tǒng)計模型中參數(shù)的最大似然性或最大后驗估計(Han、Kamber和Pei)。EM過程從一組參數(shù)開始迭代直到相對于k聚類的聚類最大化。首先閱讀關于EM算法的教程。接下來,看看相關的Scikit-learn文檔。最后,按照教程使用Python自己實現(xiàn)EM聚類。期望最大化(EM)算法教程,作者ElenaSharova。地址:http://suo.im/33ukYd高斯混合模型,Scikit-learn文檔。地址:http://suo.im/20C2tZ。使用Python構建高斯混合模型的快速介紹,作者TiagoRamalho。地址:http://suo.im/4oxFsj如果高斯混合模型初看起來令人困惑,那么來自Scikit-learn文檔的這一相關部分應該可以減輕任何多余的擔心:高斯混合對象實現(xiàn)期望最大化(EM)算法以擬合高斯模型混合?;诿芏惹揖哂性肼暤目臻g聚類應用(DBSCAN)通過將密集數(shù)據點分組在一起,并將低密度數(shù)據點指定為異常值來進行操作。首先從Scikit-learn的文檔中閱讀并遵循DBSCAN的示例實現(xiàn),然后按照簡明的教程學習:DBSCAN聚類算法演示,Scikit-learn文檔。地址:http://suo.im/1l9tvX基于密度的聚類算法(DBSCAN)和實現(xiàn)。地址:http://suo.im/1LEoXC第4步:更多的集成方法上篇只涉及一個單一的集成方法:隨機森林(RF)。RF作為一個頂級的分類器,在過去幾年中取得了巨大的成功,但它肯定不是唯一的集成分類器。我們將看看包裝、提升和投票。?給我一個提升首先,閱讀這些集成學習器的概述,第一個是通用性的;第二個是它們與Scikit-learn有關:集成學習器介紹,作者MatthewMayo。地址:http://suo.im/cLESwScikit-learn中的集成方法,Scikit-learn文檔。地址:http://suo.im/yFuY9然后,在繼續(xù)使用新的集成方法之前,請通過一個新的教程快速學習隨機森林:Python中的隨機森林,來自Yhat。地址:http://suo.im/2eujI包裝、提升和投票都是不同形式的集成分類器,全部涉及建構多個模型;然而,這些模型由什么算法構建,模型使用的數(shù)據,以及結果如何最終組合起來,這些都會隨著方案而變化。包裝:從同一分類算法構建多個模型,同時使用來自訓練集的不同(獨立)數(shù)據樣本——Scikit-learn實現(xiàn)包裝分類器提升:從同一分類算法構建多個模型,一個接一個地鏈接模型,以提高每個后續(xù)模型的學習——Scikit-learn實現(xiàn)AdaBoost投票:構建來自不同分類算法的多個模型,并且使用標準來確定模型如何最好地組合——Scikit-learn實現(xiàn)投票分類器那么,為什么要組合模型?為了從一個特定角度處理這個問題,這里是偏差-方差權衡的概述,具體涉及到提升,以下是Scikit-learn文檔:單一評估器vs包裝:偏差-方差分解,Scikit-learn文檔。地址:http://suo.im/3izlRB現(xiàn)在你已經閱讀了關于集成學習器的一些介紹性材料,并且對幾個特定的集成分類器有了基本了解,下面介紹如何從MachineLearningMastery中使用Scikit-learn在Python中實現(xiàn)集成分類器:使用Scikit-learn在Python中實現(xiàn)集成機器學習算法,作者JasonBrownlee。地址:http://suo.im/9WEAr第5步:梯度提升下一步我們繼續(xù)學習集成分類器,探討一個當代最流行的機器學習算法。梯度提升最近在機器學習中產生了顯著的影響,成為了Kaggle競賽中最受歡迎和成功的算法之一。?給我一個梯度提升首先,閱讀梯度提升的概述:維基百科條目:梯度提升。地址:http://suo.im/TslWi接下來,了解為什么梯度提升是Kaggle競賽中「最制勝」的方法:為什么梯度提升完美解決了諸多Kaggle難題?Quora,地址:http://suo.im/3rS6ZOKaggle大師解釋什么是梯度提升,作者BenGorman。地址:http://suo.im/3nXlWR雖然Scikit-learn有自己的梯度提升實現(xiàn),我們將稍作改變,使用XGBoost庫,我們提到過這是一個更快的實現(xiàn)。以下鏈接提供了XGBoost庫的一些額外信息,以及梯度提升(出于必要):維基百科條目:XGBoost。地址:http://suo.im/2UlJ3VGhub上的XGBoost庫。地址:http://suo.im/2JeQI8XGBoost文檔。地址:http://suo.im/QRRrm現(xiàn)在,按照這個教程把所有匯聚起來:Python中XGBoost梯度提升樹的實現(xiàn)指南,作者JesseSteinweg-Woods。地址:http://suo.im/4FTqD5你還可以按照這些更簡潔的示例進行強化:XGBoost在Kaggle上的示例(Python)。地址:http://suo.im/4F9A1JIris數(shù)據集和XGBoost簡單教程,作者IevaZarina。地址:http://suo.im/2Lyb1a第6步:更多的降維降維是通過使用過程來獲得一組主變量,將用于模型構建的變量從其初始數(shù)減少到一個減少數(shù)。有兩種主要形式的降維:1.特征選擇——選擇相關特征的子集。地址:http://suo.im/4wlkrj2.特征提取——構建一個信息性和非冗余的衍生值特征集。地址:http://suo.im/3Gf0Yw下面是一對常用的特征提取方法。?主成分分析(PCA)是一種統(tǒng)計步驟,它使用正交變換將可能相關變量的一組觀測值轉換為一組稱為主成分的線性不相關變量值。主成分的數(shù)量小于或等于原始變量的數(shù)量。這種變換以這樣的方式定義,即第一主成分具有最大可能的方差(即考慮數(shù)據中盡可能多的變率)以上定義來自PCA維基百科條目,如果感興趣可進一步閱讀。但是,下面的概述/教程非常徹底:主成分分析:3個簡單的步驟,作者SebastianRaschka。地址:http://suo.im/1ahFdW線性判別分析(LDA)是Fisher線性判別的泛化,是統(tǒng)計學、模式識別和機器學習中使用的一種方法,用于發(fā)現(xiàn)線性組合特征或分離兩個或多個類別的對象或事件的特征。所得到的組合可以用作線性分類器,或者更常見地,用作后續(xù)分類之前的降維。LDA與方差分析(ANOVA)和回歸分析密切相關,它同樣嘗試將一個因變量表示為其他特征或測量的線性組合。然而,ANOVA使用分類獨立變量和連續(xù)因變量,而判別分析具有連續(xù)的獨立變量和分類依賴變量(即類標簽)。上面的定義也來自維基百科。下面是完整的閱讀:線性判別分析——直至比特,作者SebastianRaschka。地址:http://suo.im/gyDOb你對PCA和LDA對于降維的實際差異是否感到困惑?SebastianRaschka做了如下澄清:線性判別分析(LDA)和主成分分析(PCA)都是通常用于降維的線性轉換技術。PCA可以被描述為「無監(jiān)督」算法,因為它「忽略」類標簽,并且其目標是找到使數(shù)據集中的方差最大化的方向(所謂的主成分)。與PCA相反,LDA是「監(jiān)督的」并且計算表示使多個類之間的間隔最大化的軸的方向(「線性判別式」)。有關這方面的簡
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 二零二五版光伏基站場地租賃與能源合作合同2篇
- 2024版二手房產轉讓合同書
- 2024版硅酮密封膠買賣合同書
- 二零二五版360有錢聯(lián)盟會員積分兌換及獎勵機制合同2篇
- 2025年度鋼筋套筒保險服務合同3篇
- 2024年砂石材料行業(yè)投資與并購合作合同范本3篇
- 二零二五版不銹鋼材料加工中心建設與運營合同3篇
- 2025年度環(huán)保設備采購合同范本及環(huán)境效益評估3篇
- 二手住宅裝修升級2024版協(xié)議范本版
- 西安翻譯學院《體育場地與設施》2023-2024學年第一學期期末試卷
- 學校2025年寒假特色實踐作業(yè)綜合實踐暨跨學科作業(yè)設計活動方案
- 2024數(shù)據資源采購及運營管理合同3篇
- 人教版小學數(shù)學一年級上冊20以內加減混合口算練習題全套
- 兒童青少年行為和情緒障礙的護理
- 自升式塔式起重機安裝與拆卸施工方案
- 地方性分異規(guī)律下的植被演替課件高三地理二輪專題復習
- 山東省技能大賽青島選拔賽-世賽選拔項目20樣題(數(shù)字建造)
- 人居環(huán)境整治合同書
- 2025屆上海市徐匯、松江、金山區(qū)高一物理第一學期期末學業(yè)水平測試試題含解析
- 幼兒園意識形態(tài)風險點排查報告
- 催收培訓制度
評論
0/150
提交評論