機(jī)器學(xué)習(xí)原理與應(yīng)用電子教案 5.8混合高斯模型

備課日期：年月日授課時(shí)間課時(shí)（理論+實(shí)驗(yàn)）周次星期:節(jié)次:授課課題高斯混合模型教學(xué)目標(biāo)1.理解高斯混合模型的基本原理；2.掌握Scikit-learn高斯混合模型庫的使用方法。教學(xué)重點(diǎn)1.高斯混合模型原理；2.Scikit-learn高斯混合模型庫的使用。教學(xué)準(zhǔn)備PPT、點(diǎn)名冊等。教學(xué)方法指導(dǎo)閱讀、案例法。教學(xué)過程設(shè)計(jì)備注課題引入【思考】在日常生活中，哪些情況用到高斯分布？高斯分布有什么特點(diǎn)？【時(shí)間】分鐘。教學(xué)步驟及主要內(nèi)容【主板書】§3.8.混合高斯模型---------------------------------------------------------------------------一、基本原理【主板書】基本原理1.基本概念高斯混合模型（Gaussianmixturemodel，GMM）是一種無監(jiān)督學(xué)習(xí)算法，其通過采用若干具有不同參數(shù)的高斯模型以無限小的誤差共同描述數(shù)據(jù)的分布形態(tài)或事物的變化規(guī)律?！緩?qiáng)化與拓展】高斯混合模型與K均值聚類的區(qū)別。（1）K均值聚類算法：要求數(shù)據(jù)分布形態(tài)必須為球形、在特征相近原則的基礎(chǔ)上采用將數(shù)據(jù)點(diǎn)“硬分配”相應(yīng)類別的方式。（2）通過融合多個(gè)具有不同參數(shù)的單高斯模型擬合數(shù)據(jù)的分布形態(tài)，不但可突破數(shù)據(jù)分布形態(tài)為球形的假設(shè)，而且可計(jì)算出每個(gè)數(shù)據(jù)點(diǎn)屬于不同類別的概率。3.數(shù)學(xué)模型已知數(shù)據(jù)x=xi與k個(gè)類別ck，高斯混合模型假設(shè)數(shù)據(jù)P其中，μk與σ由于數(shù)據(jù)x所屬多個(gè)類別的概率不同，因而其最終生成的概率可多個(gè)單高斯模型表達(dá)，即：P其中，類先驗(yàn)概率P(ck4.模型求解在求解高斯混合模型中不同單高斯模型的參數(shù)時(shí)，通常采用E-M（Expecation-Maximization）算法?！糚PT〗高斯混合模型求解過程（E-M算法步驟）。【時(shí)間】分鐘?！咎釂枴?。二、Scikit-learn庫的使用【主板書】Scikit-learn庫的使用1.庫導(dǎo)入fromsklearn.mixtureimportGaussianMixtureasGMM2.模型構(gòu)建與求解classsklearn.mixture.GaussianMixture(n_components=1,covariance_type=’full’)n_components:高斯混合模型構(gòu)成分量的數(shù)量，默認(rèn)為1。covariance_type:協(xié)方差類型，包括'full'、'tied'、'diag'與'spherical'四種（默認(rèn)為'full'）?！緩?qiáng)化與拓展】'full'表示每個(gè)分量有各自不同的標(biāo)準(zhǔn)協(xié)方差矩陣（元素都不為零），'tied'表示所有分量有相同的標(biāo)準(zhǔn)協(xié)方差矩陣，'diag'表示每個(gè)分量有各自不同的對(duì)角協(xié)方差矩陣（非對(duì)角元素為零，對(duì)角元素不為零），'spherical'表示每個(gè)分量有各自不同的球面協(xié)方差矩陣（非對(duì)角元素為零，對(duì)角完全相同）。3.常用方法與屬性GMM.fit(X)#模型構(gòu)建。GMM.predict(X)#每個(gè)樣本的類別標(biāo)記。GMM.sample)_#根據(jù)模型生成隨機(jī)樣本。GMM.score()#求取模型的精度。4.應(yīng)用實(shí)例。例1：數(shù)據(jù)聚類（1）數(shù)據(jù)構(gòu)造。（2）模型構(gòu)建。（3）新數(shù)據(jù)生成?！糚PT〗數(shù)據(jù)聚類結(jié)果展示?！緩?qiáng)化與拓展】赤池信息準(zhǔn)則（AIC）與貝葉斯信息準(zhǔn)則（BIC）。例2：圖像生成（1）利用主成分分析方法對(duì)圖像進(jìn)行降維處理。（2）構(gòu)建包含不同分量的GMM模型并對(duì)比其生成圖像之間的差異?！緩?qiáng)化與拓展】MNIST數(shù)據(jù)?！糚PT〗圖像生成結(jié)果?！緯r(shí)間】分鐘?！咎釂枴?。課堂練習(xí)其他無小結(jié)與作業(yè)課堂小結(jié)GMM假設(shè)數(shù)據(jù)由多個(gè)潛在的單高斯模型（每個(gè)單高斯模型對(duì)應(yīng)一個(gè)類別）生成的，通過調(diào)整每個(gè)單高斯模型的均值、協(xié)方差與權(quán)重，GMM模型可以擬合不同類別的數(shù)據(jù)分布形態(tài)，可有效解決K均值聚類算法存在樣本“硬分配”、球形數(shù)據(jù)分布假設(shè)等因素引起的精度低、可靠性差等問題，而且具有更好的可