機(jī)器學(xué)習(xí)算法與實(shí)踐 課件 第1章 機(jī)器學(xué)習(xí)概述

第一章機(jī)器學(xué)習(xí)概述機(jī)器學(xué)習(xí)（MachineLearning，ML）是一門多領(lǐng)域交叉學(xué)科，涉及概率論、統(tǒng)計(jì)學(xué)、逼近論、凸分析、算法復(fù)雜度理論等多門學(xué)科，專門研究計(jì)算機(jī)怎樣模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)行為，以獲取新的知識(shí)或技能，使之不斷改善自身的性能。機(jī)器學(xué)習(xí)發(fā)展極迅速，目前已經(jīng)成為一個(gè)廣袤的學(xué)科。1.1人工智能與機(jī)器學(xué)習(xí)

人工智能（artificialintelligence，AI）泛指讓機(jī)器具有人的智力的技術(shù)。人工智能是一個(gè)寬泛的技術(shù)領(lǐng)域，包括自然語言理解、計(jì)算機(jī)視覺、機(jī)器人、邏輯和規(guī)劃等，它可以被看作計(jì)算機(jī)專業(yè)的子領(lǐng)域。1.2機(jī)器學(xué)習(xí)的概念

機(jī)器學(xué)習(xí)的一個(gè)主要目的就是把人類思考和歸納經(jīng)驗(yàn)的過程轉(zhuǎn)化為計(jì)算機(jī)對(duì)數(shù)據(jù)的處理，計(jì)算得出模型的過程。經(jīng)過計(jì)算得出的模型能夠以近似于人的方式解決更為復(fù)雜的問題。簡(jiǎn)單地理解，機(jī)器學(xué)習(xí)就是指計(jì)算機(jī)通過觀察環(huán)境，與環(huán)境交互，在吸取信息中學(xué)習(xí)、自我更新和進(jìn)步。機(jī)器學(xué)習(xí)算法是一種能夠從數(shù)據(jù)中學(xué)習(xí)的算法。關(guān)于其中“學(xué)習(xí)”的定義，參照TomMitchell在1997年出版的MachineLearning一書中提供的定義：“對(duì)于某類任務(wù)T和性能度量P，一個(gè)計(jì)算機(jī)程序被認(rèn)為可以從經(jīng)驗(yàn)E中學(xué)習(xí)是指，通過經(jīng)驗(yàn)E改進(jìn)后，它在任務(wù)T上由性能度量P衡量的性能有所提升?！?.2.1機(jī)器學(xué)習(xí)的定義

20世紀(jì)初至60年代初期的萌芽期20世紀(jì)60年代至80年代的摸索期20世紀(jì)90年代到目前的崛起期1.2.2機(jī)器學(xué)習(xí)的發(fā)展從學(xué)習(xí)方式上（1）監(jiān)督學(xué)習(xí)（SupervisedLearning）（2）無監(jiān)督學(xué)習(xí)（UnsuperisedLearning）（3）半監(jiān)督學(xué)習(xí)（Semi-supervisedLearning）（4）強(qiáng)化學(xué)習(xí)（ReinforcementLearning）1.2.3機(jī)器學(xué)習(xí)的分類從算法功能上（1）分類（Classification）（2）回歸（Regression）（3）聚類（Cluster）（4）降維（Dimensionalityreduction）1.2.3機(jī)器學(xué)習(xí)的分類1.3機(jī)器學(xué)習(xí)工具Python語言第三方工具庫編譯環(huán)境庫的下載與安裝1.3.1Python語言Python是一種開源的、解釋型、面向?qū)ο蟮木幊陶Z言。Python的特點(diǎn)如下：簡(jiǎn)單易學(xué)解釋型語言面向?qū)ο竺赓M(fèi)和開源跨平臺(tái)和可移植性豐富的標(biāo)準(zhǔn)庫可擴(kuò)展性和可嵌入性1.3.2第三方工具庫Python語言除了自身具備的優(yōu)點(diǎn)外，還具有大量?jī)?yōu)秀的第三方函數(shù)模塊，對(duì)學(xué)科交叉應(yīng)用非常有幫助。（1）操作系統(tǒng)管理與維護(hù)（2）科學(xué)計(jì)算與數(shù)據(jù)可視化（3）圖形用戶界面（GUI）開發(fā)（4）文本處理（5）網(wǎng)絡(luò)編程及Web開發(fā)（6）數(shù)據(jù)庫編程（7）游戲開發(fā)1.3.3編譯環(huán)境Python是跨平臺(tái)的，可以運(yùn)行在Windows、Mac和Linux/Unix等操作系統(tǒng)上Python的下載與安裝（/downloads/windows/）1.3.3編譯環(huán)境（1）定制安裝Python（2）Python選定特性設(shè)置1.3.3編譯環(huán)境（3）Python高級(jí)選項(xiàng)設(shè)置（4）Python安裝進(jìn)行中1.3.3編譯環(huán)境（5）Python成功安裝（6）Python3.11程序組1.3.3編譯環(huán)境系統(tǒng)環(huán)境變量的設(shè)置（1）安裝時(shí)直接添加安裝Python系統(tǒng)時(shí)選中“AddPython.exetoPATH”復(fù)選框，則系統(tǒng)自動(dòng)將安裝路徑添加到環(huán)境變量Path中。（2）安裝后手動(dòng)添加如果安裝時(shí)未選中“AddPython.exetoPATH”復(fù)選框，則可在安裝完成后手動(dòng)添加。（操作過程如圖1-10所示）。1.3.3編譯環(huán)境Python運(yùn)行（1）選擇“Python3.11（64-bit）”啟動(dòng)Python解釋器1.3.3編譯環(huán)境Python運(yùn)行（2）選擇“IDLE（Python3.1164-bit）”啟動(dòng)Python集成開發(fā)環(huán)境IDLE1.3.4庫的下載與安裝1.

NumPyNumPy（NumerialPython的簡(jiǎn)稱）是Python科學(xué)計(jì)算的基礎(chǔ)包。它提供了以下功能（不限于此）：快速高效的多維數(shù)組對(duì)象ndarray。用于對(duì)數(shù)組執(zhí)行元素級(jí)計(jì)算以及直接對(duì)數(shù)組執(zhí)行數(shù)學(xué)運(yùn)算的函數(shù)。?于讀寫硬盤上基于數(shù)組的數(shù)據(jù)集的工具。線性代數(shù)運(yùn)算、傅里葉變換，以及隨機(jī)數(shù)生成。1.3.4庫的下載與安裝2.PandasPandas提供了快速便捷處理結(jié)構(gòu)化數(shù)據(jù)的大量數(shù)據(jù)結(jié)構(gòu)和函數(shù)。Pandas兼具NumPy高性能的數(shù)組計(jì)算功能以及電子表格和關(guān)系型數(shù)據(jù)庫（如SQL）靈活的數(shù)據(jù)處理功能。它提供了復(fù)雜精細(xì)的索引功能，以便更為便捷地完成重塑、切片和切塊、聚合以及選取數(shù)據(jù)子集等操作。1.3.4庫的下載與安裝3.MatplotlibMatplotlib是最流行的用于繪制圖表和其它二維數(shù)據(jù)可視化的Python庫。它非常適合創(chuàng)建出版物上用的圖表。雖然還有其它的Python可視化庫，Matplotlib卻是使用最廣泛的，并且它和其它生態(tài)工具配合也非常完美。Matplotlib的安裝并沒有什么特別之處，可以通過“pipinstallmatplotlib”命令安裝或者自行下載源代碼安裝。1.3.4庫的下載與安裝4.SciPySciPy是一組專?解決科學(xué)計(jì)算中各種標(biāo)準(zhǔn)問題域的包的集合，主要包括下面這些包：egrate：數(shù)值積分例程和微分方程求解器。scipy.linalg：擴(kuò)展了由numpy.linalg提供的線性代數(shù)例程和矩陣分解功能。scipy.optimize：函數(shù)優(yōu)化器（最小化器）以及根查找算法。scipy.signal：信號(hào)處理工具。scipy.sparse：稀疏矩陣和稀疏線性系統(tǒng)求解器。scipy.special：SPECFUN（這是一個(gè)實(shí)現(xiàn)了許多常用數(shù)學(xué)函數(shù)（如伽瑪函數(shù)）的Fortran庫）的包裝器。scipy.stats：標(biāo)準(zhǔn)連續(xù)和離散概率分布（如密度函數(shù)、采樣器、連續(xù)分布函數(shù)等）、各種統(tǒng)計(jì)檢驗(yàn)方法，以及更好的描述統(tǒng)計(jì)法。1.3.4庫的下載與安裝5.Scikit-learn它的子模塊包括:分類：SVM、近鄰、隨機(jī)森林、邏輯回歸等等。回歸：Lasso、嶺回歸等等。聚類：k-均值、譜聚類等等。降維：PCA、特征選擇、矩陣分解等等。選型：網(wǎng)格搜索、交叉驗(yàn)證、度量。預(yù)處理：特征提取、標(biāo)準(zhǔn)化。1.4機(jī)器學(xué)習(xí)示例自動(dòng)駕駛機(jī)器翻譯游戲中的人工智能1.4.1自動(dòng)駕駛“自動(dòng)駕駛”這個(gè)詞最早來自于飛機(jī)、列車、航運(yùn)領(lǐng)域的輔助駕駛系統(tǒng)。它的廣義定義為：自動(dòng)駕駛是無須人工的持續(xù)干預(yù)下，用于自動(dòng)控制交通工具行駛軌跡的系統(tǒng)。上層控制：路線規(guī)劃，交通分析，交通安排。中層控制：無提示表，路障監(jiān)測(cè)，遵守交規(guī)。底層控制：巡航控制，防抱死，電子系統(tǒng)控制牽引力，燃油噴射系統(tǒng)，引擎調(diào)諧。1.4.2機(jī)器翻譯機(jī)器翻譯，即通過計(jì)算機(jī)將一種語言的文本翻譯成另一種語言，已成為目前解決語言屏障的重要方法之一。神經(jīng)網(wǎng)絡(luò)模型首先需要將源語言和目標(biāo)語言的詞語轉(zhuǎn)化為向量表達(dá)，隨后用循環(huán)神經(jīng)網(wǎng)絡(luò)對(duì)翻譯過程進(jìn)行建模，如圖所示。通常會(huì)先使用一個(gè)循環(huán)神經(jīng)網(wǎng)絡(luò)作為編碼器，將輸入序列（源語言句子的詞序列）編碼成為一個(gè)向量表示，然后再使用一個(gè)循環(huán)神經(jīng)網(wǎng)絡(luò)作為解碼器，從編碼器得到的向量表示里解碼得到輸出序列。1.4.3游戲中