機(jī)器學(xué)習(xí)期末復(fù)習(xí)

機(jī)器學(xué)習(xí)期末復(fù)習(xí)機(jī)器學(xué)習(xí)期末復(fù)習(xí)機(jī)器學(xué)習(xí)期末復(fù)習(xí)機(jī)器學(xué)習(xí)期末復(fù)習(xí)編制僅供參考審核批準(zhǔn)生效日期地址：電話：傳真:郵編:機(jī)器學(xué)習(xí)是怎樣的學(xué)科：致力于研究如何通過(guò)計(jì)算的手段，利用經(jīng)驗(yàn)來(lái)改善系統(tǒng)自身的性能。機(jī)器學(xué)習(xí)主要分為兩大類：監(jiān)督學(xué)習(xí)、非監(jiān)督學(xué)、強(qiáng)化學(xué)習(xí)（AlphaGo）、半監(jiān)督學(xué)習(xí)。機(jī)器學(xué)習(xí)所要研究的主要內(nèi)容是關(guān)于計(jì)算機(jī)在從數(shù)據(jù)中產(chǎn)生“模型”的算法，即“學(xué)習(xí)算法”。（有了學(xué)習(xí)算法，我們把經(jīng)驗(yàn)提供給它，他就能基于這些數(shù)據(jù)產(chǎn)生模型）。學(xué)習(xí)的特點(diǎn)：數(shù)據(jù)驅(qū)動(dòng)，以方法為中心，概率統(tǒng)計(jì)優(yōu)化為基礎(chǔ)。從數(shù)據(jù)中學(xué)得模型的過(guò)程稱為“學(xué)習(xí)”或“訓(xùn)練”，這個(gè)過(guò)程通過(guò)執(zhí)行某個(gè)學(xué)習(xí)算法來(lái)完成。訓(xùn)練過(guò)程中使用的數(shù)據(jù)稱為“訓(xùn)練數(shù)據(jù)”，每一個(gè)樣本稱為“訓(xùn)練樣本”，訓(xùn)練樣本組成的集合稱為“訓(xùn)練集”。三要素：模型、策略、算法。學(xué)得模型后，使用其進(jìn)行預(yù)測(cè)得過(guò)程稱為“測(cè)試”。被測(cè)樣本稱為“測(cè)試樣本”。機(jī)器學(xué)習(xí)的目標(biāo)是使學(xué)得的模型能很好地適用于“新樣本”。獨(dú)立同分布學(xué)得模型適用于新樣本的能力，稱為“泛化”能力。具有強(qiáng)泛化能力的模型能很好地適用于整個(gè)樣本空間?！皧W卡姆剃刀”原則，是一種常用地、自然科學(xué)研究中最基礎(chǔ)地原則，即“諾有多個(gè)假設(shè)與觀察一致，則選最簡(jiǎn)單地那個(gè)”。（采用這個(gè)原則，則所描繪地曲線更平滑，更簡(jiǎn)單）。20世紀(jì)50年代-70年代初，人工智能處于“推理期”。20世紀(jì)70年代中期開(kāi)始，人工智能進(jìn)入“知識(shí)期”。20世紀(jì)80年代：被研究最多的應(yīng)用最廣的是“從樣本中學(xué)習(xí)”，其中的兩個(gè)主流技術(shù)：符號(hào)主義學(xué)習(xí)（決策樹(shù)，ILP：歸納邏輯程序設(shè)計(jì)），基于神經(jīng)網(wǎng)絡(luò)的連接主義學(xué)習(xí)20世紀(jì)90年代中期：統(tǒng)計(jì)學(xué)習(xí)：代表性技術(shù)，支持向量機(jī)21世紀(jì)以來(lái)，連接主義學(xué)習(xí)“深度學(xué)習(xí)”即很多層的神經(jīng)網(wǎng)絡(luò)1980年夏，美國(guó)卡耐基梅隆大學(xué)舉辦了第一屆機(jī)器學(xué)習(xí)研討會(huì)（IWML）。同年《策略分析與信息系統(tǒng)》連出三期機(jī)器學(xué)習(xí)專輯。1986年，第一本機(jī)器學(xué)習(xí)專業(yè)期刊MachineLearning創(chuàng)刊。1989年，人工智能領(lǐng)域地權(quán)威期刊ArtificialIntelligence出版機(jī)器學(xué)習(xí)專輯。2006年，卡耐基梅隆大學(xué)宣告成立世界上第一個(gè)“機(jī)器學(xué)習(xí)系”。經(jīng)驗(yàn)誤差：學(xué)習(xí)器在訓(xùn)練集上的誤差稱為“訓(xùn)練誤差”或“經(jīng)驗(yàn)誤差”。泛化誤差：在新樣本上的誤差稱為“泛化誤差”?！皽y(cè)試誤差”作為泛化誤差的近似。模型評(píng)估時(shí)用來(lái)測(cè)試模型的數(shù)據(jù)集叫什么集：A訓(xùn)練集B測(cè)試集C評(píng)估集D驗(yàn)證集（訓(xùn)練集是用來(lái)訓(xùn)練模型的，通過(guò)嘗試不同的方法和思路使用訓(xùn)練集來(lái)訓(xùn)練不同的模型，再通過(guò)驗(yàn)證集使用交叉驗(yàn)證來(lái)挑選最優(yōu)的模型，通過(guò)不斷的迭代來(lái)改善模型在驗(yàn)證集上的性能，最后再通過(guò)測(cè)試集來(lái)評(píng)估模型的性能。將一個(gè)數(shù)據(jù)集D分為訓(xùn)練集S和測(cè)試集T的方法：留出法：直接將數(shù)據(jù)集D劃分為兩個(gè)互斥的集合，其中一個(gè)作為S一個(gè)作為T(mén)。注意點(diǎn)：訓(xùn)練/測(cè)試集的劃分要盡可能保持?jǐn)?shù)據(jù)分布一致。單次使用留出法得到的估計(jì)結(jié)果往往不夠穩(wěn)定可靠。一般采用若干次隨機(jī)劃分、重復(fù)進(jìn)行實(shí)驗(yàn)評(píng)估后取平均值作為結(jié)果。常見(jiàn)做法是將大約2/3~4/5的樣本用于訓(xùn)練剩余樣本用于測(cè)試。保留類別比例的采樣方式通常稱為“分層采樣”。交叉驗(yàn)證法：（可能大題）將數(shù)據(jù)集D劃分為k個(gè)大小相似的的互斥子集，每個(gè)子集盡可能保持?jǐn)?shù)據(jù)分布的一致性，即通過(guò)分層采樣得到。然后每次用k-1個(gè)子集的并集作為訓(xùn)練集，余下的一個(gè)子集作為測(cè)試集并進(jìn)行K次訓(xùn)練和測(cè)試。例如：5折交叉驗(yàn)證，D分為D1~D5，第一次取4個(gè)子集的并集，D2-D5作為訓(xùn)練集，D1作為測(cè)試集。第二次取D1、D3、D4、D5的并集作為訓(xùn)練集，D2作為測(cè)試集。以此類推，最后將5次測(cè)試結(jié)果平均得到返回結(jié)果。其中，如果D一共有m個(gè)樣本，k=m，則得到交叉驗(yàn)證法的特例：留一法。因?yàn)閙個(gè)樣本只有唯一的劃分方式，即劃分為m個(gè)子集，每一個(gè)子集只有一個(gè)樣本。這樣所用的訓(xùn)練集只比原數(shù)據(jù)少一個(gè)樣本。留一法的優(yōu)點(diǎn)：評(píng)估結(jié)果往往被認(rèn)為比較精確（并非最精確），缺點(diǎn)：數(shù)據(jù)集較大時(shí)，訓(xùn)練m個(gè)模型的計(jì)算開(kāi)銷(xiāo)可能難以忍受。自助法：（這種方法有一些樣本永遠(yuǎn)取不到）建立一個(gè)新的數(shù)據(jù)集D’在D中隨機(jī)取一個(gè)樣本復(fù)制到D’中，進(jìn)行m次后，D’中的樣本數(shù)量和D一樣，這時(shí)將D’作為訓(xùn)練集D\D’（表示D中不包括D’的部分）作為測(cè)試集。因?yàn)槭菑?fù)制到D’中所以D中的一部分樣本會(huì)取不到，則不被取到的概率為（1-1/m)^m取極限得到=1/e≈0.368，即數(shù)據(jù)集D中約有36.8%的樣本未出現(xiàn)在D’中。得到結(jié)果也稱為“包外估計(jì)”。在數(shù)據(jù)集較小、難以有效劃分訓(xùn)練/測(cè)試集時(shí)很有用此外，自助法能從初始數(shù)據(jù)集中產(chǎn)生多個(gè)不同的訓(xùn)練集，對(duì)集成學(xué)習(xí)有很大好處。但是自助法改變了初始數(shù)據(jù)集的分布，這會(huì)引入估計(jì)偏差。所以數(shù)據(jù)足夠多的時(shí)候其他兩種方法更加常用。錯(cuò)誤率與精度錯(cuò)誤率：分類錯(cuò)誤的樣本占樣本總數(shù)的比例。精度：分類正確的樣本數(shù)占樣本總數(shù)的比例。查準(zhǔn)率、查全率與F1認(rèn)為是正例的樣本中：真正例TP假正例FP認(rèn)為是假例的樣本中：假反例FN真反例TN查準(zhǔn)率P：TP/(TP+FP)即在查到的正例中正確的占比。查全率R：TP/(TP+FN)即在所有正確的例子中查到的正例的占比。一般來(lái)說(shuō)，查準(zhǔn)率高，查全率偏低，查全率高，查準(zhǔn)率偏低。根據(jù)這一現(xiàn)象可以得到“P-R曲線”，當(dāng)R（X軸）相同時(shí)，P（Y軸）越大越好。曲線和P=R的直線的交點(diǎn)稱為平衡點(diǎn)。越大越優(yōu)。因?yàn)槠胶恻c(diǎn)過(guò)于簡(jiǎn)化，所以用F1來(lái)衡量?jī)?yōu)劣：F1=(2*P*R)/(P+R)=(2*TP)/(樣本總數(shù)+TP-TN)=>1/F1=1/2*(1/P+1/R)有時(shí)因?yàn)閳?chǎng)景的需要，可能回偏向查全率或者查準(zhǔn)率，則有了F1的變形：FβFβ=((1+β2)*P*R)/((β2*P)+R)當(dāng)β=1時(shí)，則為標(biāo)準(zhǔn)的F1；β>1時(shí)查全率有更大影響；β<1時(shí)查準(zhǔn)率有更大影響。線性模型：給定d個(gè)描述x=(x1;x2x3...xd)(例如西瓜顏色、形狀2個(gè)描述，d=2)，xi是x在第i個(gè)屬性上的取值(即顏色=x1；形狀=x2)。從而有線性模型的基本形式f(x)=wTx+b加粗表示向量線性回歸這里的數(shù)據(jù)集為D={(x1,y1),(x2,y2),...,(xm,ym)}，其中xi=(xi1,xi2,...,xid)即線性模型的描述。此處的y應(yīng)該是判斷結(jié)果，我猜測(cè)為正確答案。簡(jiǎn)單化xi，將其中的值縮減到1個(gè)，則D={(xi,yi)}i=1m。同時(shí)，若屬性間存在“序”，并且為離散值，則可以將輸入變?yōu)轭愃粕砀?>{1，0}其中1表示高，0表示矮。如果不存在“序”關(guān)系，k個(gè)屬性就用k維向量表示。線性回歸目的是求出f(x)=wTx+b的函數(shù)使得帶入的值經(jīng)過(guò)函數(shù)計(jì)算后得到的f(x)與預(yù)測(cè)的y近似。所以為了近似，則需要做差最小。使用均方誤差得到：(w*,b*)=argminΣ(i=1~m)(f(xi)-yi)2不方便同時(shí)做上下標(biāo)簡(jiǎn)單表示=argminΣ(i=1~m)(yi-wxi-b)2這里我理解的是承接上面簡(jiǎn)化屬性值僅有一個(gè)分別對(duì)w和b做偏導(dǎo)得到書(shū)上P51的3.5和3.6，然后兩個(gè)式子=0，解后得到3.7和3.8的解。(過(guò)程作業(yè)有寫(xiě)，需要熟悉)此時(shí)如果使用原本的數(shù)據(jù)集，而不簡(jiǎn)化，即f(x)=wTx+b≈yi稱為“多元線性回歸”最小二乘法就是通過(guò)使兩個(gè)式子的均方誤差最小化，來(lái)求得函數(shù)的未知值。來(lái)近似標(biāo)準(zhǔn)函數(shù)，可以百度關(guān)鍵詞“最小二乘法”，其中原理的部分較好理解。對(duì)數(shù)線性回歸：即之前的線性回歸是為了逼近y值，如果要使得函數(shù)逼近與y相關(guān)的值，例如lny，就是改變指數(shù)尺度=>lny=wTx+b這一式子則稱為對(duì)數(shù)線性回歸，本質(zhì)是使得e底的wTx+b逼近y。該式子在本質(zhì)上仍然是線性回歸。P56圖3.1表現(xiàn)得較為明顯。如果有g(shù)(.)使得y=g-1(wTx+b)這樣得到得模型稱為“廣義線性模型”，函數(shù)g(.)稱為“聯(lián)系函數(shù)”，則對(duì)數(shù)線性回歸是廣義線性模型在g(.)=ln(.)時(shí)得特例。我這里認(rèn)為g(.)中.表示輸入值。對(duì)數(shù)幾率回歸：是分類問(wèn)題通過(guò)找一個(gè)單調(diào)可微函數(shù)g(.)將分類任務(wù)的真實(shí)標(biāo)記y與線性回歸模型的預(yù)測(cè)值f(x)聯(lián)系起來(lái)。設(shè)預(yù)測(cè)值z(mì)=wTx+b則將z的值通過(guò)“單位越階函數(shù)”P(pán)57(3.16)與輸出標(biāo)記y一致。即通過(guò)g(.)獲取到的函數(shù)為P57圖3.2中的黑線。紅色部分則為判斷的輸出標(biāo)記。因?yàn)橄Ｍ瘮?shù)值接近0或1，所用用y=1/1+e-z作為“替代函數(shù)”且可微。帶入z=wTx+b，得到P58(3.18)(3.19)則為了求“對(duì)數(shù)幾率”，最后就是求ln(y/1-y)，將y和1-y分別視為為1和為0的概率，則有P59(3.23)(3.24)作業(yè)有相關(guān)內(nèi)容。熵模型：百度內(nèi)容：給定一個(gè)\t"/item/%E6%9C%80%E5%A4%A7%E7%86%B5%E6%A8%A1%E5%9E%8B/_blank"概率分布，則熵的定義為：Hp=?p(x)\t"/item/%E6%9C%80%E5%A4%A7%E7%86%B5%E6%A8%A1%E5%9E%8B/_blank"logp(x)放到作業(yè)中即-plnq大致意思是要求一個(gè)函數(shù)的最小值就取它的負(fù)，這樣反過(guò)來(lái)求它的最大值。線性判別分析：是一種經(jīng)典的線性學(xué)習(xí)方法，再二分類問(wèn)題上提出。簡(jiǎn)稱LDA：給定訓(xùn)練集例集，設(shè)法將樣例投影到一條直線上，使得同類的樣例的投影盡可能得靠近，異類樣例盡可能遠(yuǎn)離；對(duì)新樣本進(jìn)行分析時(shí)，將樣本投影到這條直線上，再根據(jù)位置判斷類別?？焖倥袛嗍欠窨梢跃€性可分：將兩類樣本包起來(lái)，類似連接每類樣例的最外層樣本，形成一個(gè)封閉的圖形，如果兩個(gè)類別不重疊，則可以線性可分，反之不可。多類別學(xué)習(xí)：有些二分類學(xué)習(xí)方法可直接推廣到多分類，但是再更多情形下，我們是基于一些基本策略，利用二類學(xué)習(xí)器來(lái)解決多分類問(wèn)題。即多次利用二分類來(lái)解決多分類。最經(jīng)典的拆分策略有三種：“一對(duì)一”(OvO)，“一對(duì)其余”(OvR)和“多對(duì)多”(MvM)。OvR只需要N個(gè)分類器，OvO需要N(N-1)/2個(gè)分類器。通常，OvO的存儲(chǔ)開(kāi)銷(xiāo)和測(cè)試時(shí)間開(kāi)銷(xiāo)比OvR更大，但是OvO每次只用到兩類樣例，OvR則是全部樣例。所以在類別多的的情況下OvO的訓(xùn)練時(shí)間開(kāi)銷(xiāo)通常比OvR更小。取決于具體數(shù)據(jù)分布。P64圖3.4(大題)信息增益：信息熵：是度量樣本集合純度最常用的一種指標(biāo)。集合D的信息熵定義為Ent(D)值越小表示純度越高。神經(jīng)元模型：“M-P神經(jīng)元模型”P(pán)97圖5.1xi為輸入y為輸出Wi為對(duì)應(yīng)xi的連接權(quán)重激勵(lì)函數(shù)：類似神經(jīng)傳播，當(dāng)一個(gè)電位超過(guò)一定值，則激活神經(jīng)元，從而進(jìn)行再傳遞。類似地接收到帶權(quán)重地輸入信號(hào)，將總輸入值和閥值進(jìn)行比較，然后通過(guò)“激勵(lì)函數(shù)”處理產(chǎn)生輸出。所以這里地激勵(lì)函數(shù)最好是躍階函數(shù)(即只有y=1或y=0)但是實(shí)際用Sigmoid函數(shù)將值壓縮在0-1之間。(1表示興奮，0表示抑制)把許多個(gè)這樣地神經(jīng)元按一定地層次結(jié)構(gòu)連接起來(lái)，就得到了神經(jīng)網(wǎng)絡(luò)。感知機(jī)和多層網(wǎng)絡(luò)：要求會(huì)計(jì)算“與”、“或”、“非”：這里用躍階函數(shù)計(jì)算。wi和θ的值是可變化的，設(shè)定值后。帶入x1和x2計(jì)算，達(dá)到x1與x2x1或x2非x的效果。y=f(Σiwi*xi-θ)深度學(xué)習(xí)：“深”在哪里？參數(shù)越多、“容量”越大、復(fù)雜模型典型的深度學(xué)習(xí)模型就是很深層的神經(jīng)網(wǎng)絡(luò)，顯然，對(duì)神經(jīng)網(wǎng)絡(luò)模型，提高容量的一個(gè)簡(jiǎn)單辦法是增加隱層的數(shù)目=>隱層數(shù)目大?！岸嚯[層”是指三個(gè)及以上隱層。深度學(xué)習(xí)通常有八九層甚至更多隱層。支持向量機(jī)：兩大重點(diǎn)：最大間隔、核技巧在樣本空間中，劃分超平面可通過(guò)如下線性方程描述：wTx+b=0間隔：距離超平面最近的幾個(gè)訓(xùn)練樣本點(diǎn)中，兩個(gè)異類支持向量到超平面的距離之和稱為“間隔”。最大間隔：找到滿足式子P122(6.3)中約束的參數(shù)w和b，使得間隔最大。支持向量機(jī)(SVM)的基本型：P123(6.6)函數(shù)間隔：實(shí)際上是|wTx+b|，函數(shù)間隔代表了我們認(rèn)為特征是正例還是反例的確信度。針對(duì)全局樣本的定義的函數(shù)間隔：意思就是找到訓(xùn)練樣本中函數(shù)間隔最小的那個(gè)樣本，并且要讓它的函數(shù)間隔最大。幾何間隔：幾何間隔首先簡(jiǎn)單一點(diǎn)說(shuō)就是點(diǎn)到直線距離。在式子中的表現(xiàn)為||w||。硬間隔：要求所有樣本均滿足約束。P122(6.3)軟間隔：允許某些樣本不滿足約束。P130(6.28)常用的“軟間隔支持向量機(jī)”在P130P131min和s.t.部分。線性間隔：不需要升維，就可以找到一個(gè)超平面將訓(xùn)練樣本正確分類。非線性間隔：需要升維，才能將訓(xùn)練樣本分類。組合，有線性軟間隔、線性硬間隔、非線性軟間隔、非線性硬間隔。對(duì)偶問(wèn)題：作業(yè)大題。主要還是求偏導(dǎo)。因?yàn)樵诮鈱?duì)偶問(wèn)題時(shí)，有用到二次規(guī)劃算法，該問(wèn)題的規(guī)模正比于訓(xùn)練樣本數(shù)，這會(huì)在實(shí)際任務(wù)中造成很大的開(kāi)銷(xiāo)。為了避開(kāi)這個(gè)障礙，人們通過(guò)利用問(wèn)題本身的特性，提出了很多高效算法，SMO(SequentialMinimalOptimization)是其中一個(gè)著名的代表。核函數(shù)：在樣本無(wú)法線性可分的情況下，可以將原始空間映射到一個(gè)更高維的特征空間，使得樣本在這個(gè)空間內(nèi)線性可分。在將其轉(zhuǎn)換為對(duì)偶問(wèn)題時(shí)?？梢栽O(shè)想一個(gè)函數(shù)k(xi,xj)用來(lái)計(jì)算xi與xj在特征空間的內(nèi)積。這函數(shù)稱為“核函數(shù)”，這一方法稱為“核技巧”。核方法：是解決非線性問(wèn)題模式分析問(wèn)題的一種有效途徑，其核心思想是：首先，通過(guò)某種非線性映射將原始數(shù)據(jù)嵌入到合適的高維特征空間；然后，利用通用的線性學(xué)習(xí)器在這個(gè)新的空間中分析和處理模式。其表現(xiàn)形式：P137(6.58)高斯核：高斯核函數(shù)（Gaussiankernel），也稱徑向基(RBF)函數(shù)，是常用的一種核函數(shù)。它可以將有限維數(shù)據(jù)映射到高維空間，我們來(lái)看一下高斯核函數(shù)的定義：上述公式涉及到兩個(gè)向量的歐式距離（2范數(shù)）計(jì)算，而且，高斯核函數(shù)是兩個(gè)向量歐式距離的單調(diào)函數(shù)。σσ是帶寬，控制徑向作用范圍，換句話說(shuō)，σσ控制高斯核函數(shù)的局部作用范圍。當(dāng)xx和x′x′的歐式距離處于