《統(tǒng)計學習方法 第2版 》讀書筆記

思維導圖PPT模板《統(tǒng)計學習方法第2版》最新版讀書筆記，下載可以直接修改01內容簡介第1版序言第2篇無監(jiān)督學習第2版序言第1篇監(jiān)督學習附錄A梯度下降法目錄030502040607附錄B牛頓法和擬牛頓法附錄D矩陣的基本子空間附錄C拉格朗日對偶性附錄EKL散度的定義和狄利克雷分布的性...目錄0908010內容摘要本書全面系統(tǒng)地介紹了統(tǒng)計學習的主要方法，共分兩篇。第一篇系統(tǒng)介紹監(jiān)督學習的各種重要方法，包括決策樹、感知機、支持向量機、最大熵模型與邏輯斯諦回歸、推進法、多類分類法、EM算法、隱馬爾科夫模型和條件隨機場等；第二篇介紹無監(jiān)督學習，包括聚類、奇異值、主成分分析、潛在語義分析等。兩篇中，除概論和總結外，每章介紹一或二種方法。內容簡介輸入變量與輸出變量均為連續(xù)變量的預測問題稱為回歸問題；輸出變量為有限個離散變量的預測問題稱為分類問題；輸入變量與輸出變量均為變量序列的預測問題稱為標注問題。第2版序言統(tǒng)計學習方法包括模型的假設空間、模型選擇的準則以及模型學習的算法。第1版序言稱其為統(tǒng)計學習方法的三要素，簡稱為模型（model）、策略（strategy）和算法（algorithm）。第1篇監(jiān)督學習監(jiān)督學習的本質是學習輸入到輸出的映射的統(tǒng)計規(guī)律。第1章統(tǒng)計學習及監(jiān)督學習概論第2章感知機第3章k近鄰法第4章樸素貝葉斯法第5章決策樹第6章邏輯斯諦回歸與最大熵模型010302040506第1篇監(jiān)督學習第7章支持向量機第8章提升方法第9章EM算法及其推廣第10章隱馬爾可夫模型第11章條件隨機場第12章監(jiān)督學習方法總結010302040506第1篇監(jiān)督學習1.1統(tǒng)計學習1.2統(tǒng)計學習的分類1.3統(tǒng)計學習方法三要素1.4模型評估與模型選擇1.5正則化與交叉驗證1.6泛化能力010302040506第1章統(tǒng)計學習及監(jiān)督學習概論1.7生成模型與判別模型1.8監(jiān)督學習應用本章概要繼續(xù)閱讀習題參考文獻010302040506第1章統(tǒng)計學習及監(jiān)督學習概論2.1感知機模型2.2感知機學習策略2.3感知機學習算法本章概要第2章感知機繼續(xù)閱讀參考文獻習題第2章感知機3.1k近鄰算法3.2k近鄰模型3.3k近鄰法的實現(xiàn)：kd樹本章概要第3章k近鄰法繼續(xù)閱讀參考文獻習題第3章k近鄰法4.1樸素貝葉斯法的學習與分類4.2樸素貝葉斯法的參數(shù)估計本章概要繼續(xù)閱讀習題參考文獻010302040506第4章樸素貝葉斯法5.1決策樹模型與學習5.2特征選擇5.3決策樹的生成5.4決策樹的剪枝5.5CART算法本章概要010302040506第5章決策樹繼續(xù)閱讀參考文獻習題第5章決策樹6.1邏輯斯諦回歸模型6.2最大熵模型6.3模型學習的最優(yōu)化算法本章概要第6章邏輯斯諦回歸與最大熵模型繼續(xù)閱讀參考文獻習題第6章邏輯斯諦回歸與最大熵模型7.1線性可分支持向量機與硬間隔最大化7.2線性支持向量機與軟間隔最大化7.3非線性支持向量機與核函數(shù)7.4序列最小最優(yōu)化算法第7章支持向量機本章概要繼續(xù)閱讀習題參考文獻第7章支持向量機8.1提升方法AdaBoost算法8.2AdaBoost算法的訓練誤差分...8.3AdaBoost算法的解釋8.4提升樹第8章提升方法本章概要繼續(xù)閱讀習題參考文獻第8章提升方法9.1EM算法的引入9.2EM算法的收斂性9.3EM算法在高斯混合模型學習中的應...9.4EM算法的推廣第9章EM算法及其推廣本章概要繼續(xù)閱讀習題參考文獻第9章EM算法及其推廣10.1隱馬爾可夫模型的基本概念10.2概率計算算法10.3學習算法10.4預測算法第10章隱馬爾可夫模型本章概要繼續(xù)閱讀習題參考文獻第10章隱馬爾可夫模型11.1概率無向圖模型11.2條件隨機場的定義與形式11.3條件隨機場的概率計算問題11.4條件隨機場的學習算法11.5條件隨機場的預測算法本章概要010302040506第11章條件隨機場繼續(xù)閱讀參考文獻習題第11章條件隨機場第2篇無監(jiān)督學習統(tǒng)計學習（statisticallearning）是關于計算機基于數(shù)據(jù)構建概率統(tǒng)計模型并運用模型對數(shù)據(jù)進行預測與分析的一門學科無監(jiān)督學習的本質是學習數(shù)據(jù)中的統(tǒng)計規(guī)律或潛在結構。第13章無監(jiān)督學習概論第14章聚類方法第15章奇異值分解第16章主成分分析第17章潛在語義分析第18章概率潛在語義分析010302040506第2篇無監(jiān)督學習第19章馬爾可夫鏈蒙特卡羅法第20章潛在狄利克雷分配第21章PageRank算法第22章無監(jiān)督學習方法總結第2篇無監(jiān)督學習13.1無監(jiān)督學習基本原理13.2基本問題13.3機器學習三要素13.4無監(jiān)督學習方法第13章無監(jiān)督學習概論本章概要參考文獻繼續(xù)閱讀第13章無監(jiān)督學習概論14.1聚類的基本概念14.2層次聚類14.3k均值聚類本章概要第14章聚類方法繼續(xù)閱讀參考文獻習題第14章聚類方法15.1奇異值分解的定義與性質15.2奇異值分解的計算15.3奇異值分解與矩陣近似本章概要第15章奇異值分解繼續(xù)閱讀參考文獻習題第15章奇異值分解16.1總體主成分分析16.2樣本主成分分析本章概要繼續(xù)閱讀習題參考文獻010302040506第16章主成分分析17.1單詞向量空間與話題向量空間17.2潛在語義分析算法17.3非負矩陣分解算法本章概要第17章潛在語義分析繼續(xù)閱讀參考文獻習題第17章潛在語義分析18.1概率潛在語義分析模型18.2概率潛在語義分析的算法本章概要繼續(xù)閱讀習題參考文獻010302040506第18章概率潛在語義分析19.1蒙特卡羅法19.2馬爾可夫鏈19.3馬爾可夫鏈蒙特卡羅法19.4Metropolis-Hast...19.5吉布斯抽樣本章概要010302040506第19章馬爾可夫鏈蒙特卡羅法繼續(xù)閱讀參考文獻習題第19章馬爾可夫鏈蒙特卡羅法20.1狄利克雷分布20.2潛在狄利克雷分配模型20.3LDA的吉布斯抽樣算法20.4LDA的變分EM算法第20章潛在狄利克雷分配本章概要繼續(xù)閱讀習題參考文獻第20章潛在狄利克雷分配21.1PageRank的定義21.2PageRank的計算本章概要繼續(xù)閱讀習題參考文獻010302040506第21章PageRank算法22.1無監(jiān)督學習方法的關系和特點參考文獻22.2話題模型之間的關系和特點第22章無監(jiān)督學習方法總結附錄A梯度下降法統(tǒng)計學習由監(jiān)督學習（supervisedlearning）、無監(jiān)督學習（unsupervisedlearning）和強化學習（reinforcementlearning）等組成。附錄B牛頓法和擬牛頓法統(tǒng)計學習研究的對象是數(shù)據(jù)（data）。附錄C拉格朗日對