人工智能學(xué)習(xí)

大綱IntroductiontomachinelearningSupervisedlearning（監(jiān)督學(xué)習(xí)）

Decisiontreelearning（決策樹學(xué)習(xí)）

Linearpredictions（線性預(yù)測）

Supportvectormachines（支持向量機）

…Unsupervisedlearning（無監(jiān)督學(xué)習(xí)）

人工智能學(xué)習(xí)Learning學(xué)習(xí)對認(rèn)識未知的環(huán)境是必不可少的,

i.e.,當(dāng)設(shè)計者缺乏完整知識的時候whendesignerlacksomniscience（全知）學(xué)習(xí)作為一種系統(tǒng)構(gòu)造方法是有用的,

i.e.,編寫一個學(xué)習(xí)智能體程序來實現(xiàn)比嘗試著將函數(shù)直接寫出來要好得多學(xué)習(xí)會不斷地修改智能體的決策機制來提高性能

人工智能學(xué)習(xí)學(xué)習(xí)智能體人工智能學(xué)習(xí)學(xué)習(xí)元件Designofalearningelementisaffectedby

性能元素的哪些組件是需要學(xué)習(xí)的

什么樣的反饋可被用來學(xué)習(xí)這些組件

這些組件可以被哪些方法來表示

人工智能學(xué)習(xí)IntroductiontoMachineLearning人工智能學(xué)習(xí)MachineLearningEveryday:

SearchEngine人工智能學(xué)習(xí)MachineLearningEveryday:

SpamDetection（垃圾郵件檢測）人工智能學(xué)習(xí)MachineLearningEveryday:

MachineTranslation人工智能學(xué)習(xí)MachineLearningEveryday:

FaceDetectionNowinmostdigitalcamerasforautofocusing

人工智能學(xué)習(xí)MachineLearning脫胎于人工智能工作電腦的一種新能力

人工智能學(xué)習(xí)WhyMachineLearning?SolveclassificationproblemsLearnmodelsofdata(“datafitting”)Understandandimproveefficiencyofhuman

learningDiscovernewthingsorstructuresthatareunknowntohumans(“datamining”)

…

人工智能學(xué)習(xí)WhyMachineLearning?Largeamountsofdata

Webdata,Medicaldata,Biologicaldata…昂貴的手工分析費用計算機變得便宜并性能更加優(yōu)良

人工智能學(xué)習(xí)WhyMachineLearning?應(yīng)用程序無法直接通過手工編程完成

無人駕駛

手寫識別

自然語言處理(NLP)

計算機視覺理解人類的學(xué)習(xí)（人腦，真正的AI）

人工智能學(xué)習(xí)Whatismachinelearningusefulfor?機器學(xué)習(xí)在哪些領(lǐng)域有用？人工智能學(xué)習(xí)Automaticspeechrecognition

自動語音識別當(dāng)前大部分語音識別和翻譯都能夠不斷學(xué)習(xí)—你用得越多，它們就會變得越聰明

人工智能學(xué)習(xí)Computervision:e.g.object,faceand

handwritingrecognition人工智能學(xué)習(xí)Informationretrieval—信息檢索對大量文本數(shù)據(jù)庫的閱讀,領(lǐng)會和分類對于人類來說是困難的WebPagesRetrieval（檢索）Categorization（分類）Clustering（聚類）Relationsbetweenpages人工智能學(xué)習(xí)Financialprediction人工智能學(xué)習(xí)Medicaldiagnosis（醫(yī)學(xué)診斷）人工智能學(xué)習(xí)Bioinformatics（生物信息學(xué)）e.g.基因微陣列數(shù)據(jù)建模,蛋白質(zhì)結(jié)構(gòu)預(yù)測

人工智能學(xué)習(xí)Robotics機器人學(xué)人工智能學(xué)習(xí)電影推薦系統(tǒng)

Movierecommendationsystems人工智能學(xué)習(xí)MachineLearningMachinelearningisaninterdisciplinaryfieldfocusingonboththemathematicalfoundationsandpracticalapplicationsofsystemsthatlearn,reasonandact.機器學(xué)習(xí)是一個交叉學(xué)科的領(lǐng)域，著重于研究具有學(xué)習(xí)、推理和行動的

系統(tǒng)所需要的數(shù)學(xué)基礎(chǔ)以及實際應(yīng)用

Otherrelatedterms:PatternRecognition（模式識別）,NeuralNetworks（神經(jīng)網(wǎng)絡(luò)）,DataMining（數(shù)據(jù)挖掘）,StatisticalModeling（統(tǒng)計模型）...

Usingideasfrom:Statistics,ComputerScience,Engineering,Applied

Mathematics,CognitiveScience（認(rèn)知科學(xué)）,Psychology（心理學(xué)）,

ComputationalNeuroscience（計算神經(jīng)學(xué)）,Economics

Thegoaloftheselectures:tointroduceimportantconcepts（概念）,modelsandalgorithmsinmachinelearning.人工智能學(xué)習(xí)MachineLearning:定義TomMitchell(1998)Well-posedLearningProblem:AcomputerprogramissaidtolearnfromexperienceEwithrespecttosometaskTandsomeperformancemeasureP,ifitsperformanceonT,asmeasuredbyP,improveswithexperienceE.湯姆?米切爾（1998）很好地定義了學(xué)習(xí)問題：我們說一個計算機程序能從經(jīng)驗E中學(xué)會針對某些任務(wù)T和一些性能指標(biāo)P的方法，如果程序使用E有效提高了在T中運行時的指標(biāo)P.

人工智能學(xué)習(xí)“AcomputerprogramissaidtolearnfromexperienceEwith

respecttosometaskTandsomeperformancemeasureP,ifits

performanceonT,asmeasuredbyP,improveswithexperienceE.”假設(shè)你的郵件程序觀測到你將一些郵件標(biāo)記為垃圾郵件，以此為基礎(chǔ)程序?qū)W習(xí)如何更好地過濾垃圾郵件，那么在該設(shè)定中taskT是什么？

將郵件分類為垃圾或非垃圾郵件

Watchingyoulabelemailsasspamornotspam.

Thenumber(orfraction)ofemailscorrectlyclassifiedasspam/notspam.

Noneoftheabove—thisisnotamachinelearningproblem.人工智能學(xué)習(xí)學(xué)習(xí)的種類想象一下，一個智能體或機器收集到一系列的傳感輸入（sensoryinputs）:x1,x2,x3,x4,...

Supervisedlearning（監(jiān)督學(xué)習(xí)）:

Themachineisalsogivendesiredoutputsy1,y2,...,

anditsgoalistolearntoproducethecorrectoutput

givenanewinput.

Unsupervisedlearning（無監(jiān)督學(xué)習(xí)）:

outputsy1,y2,...Notgiven,theagentstillwantsto

buildamodelofxthatcanbeusedforreasoning,

decisionmaking,predictingthings,communicatingetc.

Semi-supervisedlearning（半監(jiān)督學(xué)習(xí)）人工智能學(xué)習(xí)Representing“objects”inmachine

learning舉個實例,x,representsaspecificobjectx通常表示一個d維的特征向量

x=(x1,...,xd)∈Rd其中每一個維度叫做featureorattribute特征值是連續(xù)的或離散的x在d維的特征空間中是一個點目標(biāo)抽象化.忽略其他方面(e.g.,twopeoplehavingthesameweightandheightmaybeconsideredidentical)

人工智能學(xué)習(xí)Featurevectorrepresentation

特征向量表示法文本文件

詞匯ofsized(~100,000)

“bagofwords”:對每個詞條的計數(shù)

通常忽略掉stopwords:the,of,at,in,…

特別的，用“out-of-vocabulary”(OOV)來捕捉

所有未知的詞

人工智能學(xué)習(xí)特征向量表示法圖像

像素,顏色直方圖銀行賬戶

信用等級,余額,最近一天、一星期、一個月、一年存款,#取款,…Youandme

醫(yī)學(xué)特征test1,test2,test3,…人工智能學(xué)習(xí)主要成分Data

ThedatasetDconsistsofNdatapoints:

D={x1,x2...,xN}Predictions（預(yù)測）

Wearegenerallyinterestedinpredictingsomethingbasedontheobserveddata

set.基于已觀測到的數(shù)據(jù)集能否正確對后來的數(shù)據(jù)進(jìn)行預(yù)測

GivenDwhatcanwesayaboutxN+1?Model

Tomakepredictions,weneedtomakesomeassumptions.Wecanoftenexpress

theseassumptionsintheformofamodel,withsomeparameters（參數(shù)）

為了完成預(yù)測任務(wù)，我們需要做一些合理假設(shè)。我們經(jīng)常以帶參數(shù)的模型形式來表達(dá)這些假設(shè)

在給定數(shù)據(jù)集D時,我們學(xué)習(xí)模型的參數(shù),以便對新數(shù)據(jù)進(jìn)行預(yù)測.人工智能學(xué)習(xí)主要成分人工智能學(xué)習(xí)學(xué)習(xí)的架構(gòu)實驗3：人工智能學(xué)習(xí)LearningProblems人工智能學(xué)習(xí)HousingpricepredictionSupervisedLearning

監(jiān)督學(xué)習(xí)

數(shù)據(jù)中給出了“rightanswers”Regression（回歸）: