人工智能基礎(chǔ)與應(yīng)用（第2版）（微課版）課件 5-2 k均值聚類

5-2k均值聚類模塊?物以類聚：發(fā)現(xiàn)新簇群目錄CONTENTSk均值算法01k均值算法應(yīng)用提示02一.k均值算法1.概念k均值（k-means）算法是一種基于距離劃分的聚類算法，由于其具有算法簡(jiǎn)單、靈活性高、運(yùn)行效果足夠好等特點(diǎn)，因此較常用。該算法計(jì)算樣本與簇質(zhì)心的距離，與簇質(zhì)心相近的樣本被劃分為同一簇。重用歐式距離計(jì)算樣本之間的相似度一.k均值算法2.算法流程一.k均值算法2.算法流程“×”為質(zhì)心，第一輪迭代后用分別標(biāo)記為星形和圓形來(lái)表示兩個(gè)類別，此時(shí)新的質(zhì)心的位置已經(jīng)發(fā)生了改變。圖5-5（e）和圖5-5（f）重復(fù)了圖5-5（c）和圖5-5（d）所示的過(guò)程?！痢炼?k均值算法應(yīng)用提示1.k的初值k的初值。k是一個(gè)提前定義好的數(shù)，其目標(biāo)是最小化每個(gè)簇內(nèi)部的差異，最大化簇之間的差異。那k取什么值合適呢？它取決于具體的業(yè)務(wù)需求或分析動(dòng)機(jī)。例如，營(yíng)銷部門只有3種不同的客戶資源來(lái)支撐拓展市場(chǎng)，那么設(shè)定k=3以聚類3種不同的客戶可能是一個(gè)不錯(cuò)的決定。k=沒(méi)有先驗(yàn)知識(shí)，建議令然后在附近值搜索。二.k均值算法應(yīng)用提示2.初始質(zhì)心的選擇k均值算法對(duì)初始質(zhì)心是比較敏感的，這意味著隨機(jī)的初始質(zhì)心可能會(huì)對(duì)最終的聚類結(jié)果產(chǎn)生較大的影響。選擇初始質(zhì)心的方法有3種：一是如果事先知道某幾個(gè)樣本彼此之間完全不同，就選擇它們作為初始質(zhì)心；二是跳出樣本范圍，在特征空間的任意地方取隨機(jī)值為初始質(zhì)心；三是分段選擇初始質(zhì)心，第一個(gè)初始質(zhì)心隨機(jī)選擇，其他初始質(zhì)心按距離已定初始質(zhì)心最遠(yuǎn)的樣本點(diǎn)來(lái)選擇。建議：通過(guò)多次運(yùn)行，以聚類性能最優(yōu)的聚類結(jié)果為最優(yōu)解。二.k均值算法應(yīng)用提示3.聚類完畢后有簇號(hào)聚類后所有樣本都是有簇號(hào)的。原來(lái)沒(méi)有標(biāo)簽號(hào)（簇號(hào)）的樣本經(jīng)過(guò)聚類會(huì)擁有一個(gè)簇號(hào)。相同簇號(hào)的樣本的特征平均值就是該簇質(zhì)心的坐標(biāo)，這也是k均值算法名稱的由來(lái)。提示：簇號(hào)默認(rèn)從0開始，相同簇號(hào)的樣本屬于一類。二.k均值算法應(yīng)用提示4.聚類結(jié)束條件盡管聚類能產(chǎn)生新的信息，但人們不應(yīng)該在新信息的準(zhǔn)確性上花費(fèi)太多時(shí)間，因?yàn)榫垲愂菬o(wú)監(jiān)督學(xué)習(xí)，所以更應(yīng)該關(guān)注對(duì)新信息的洞察和理解。當(dāng)樣本數(shù)量很大，或者定義的聚類誤差很嚴(yán)苛?xí)r，為避免聚類陷入遲遲不出結(jié)果的尷尬局面，必須設(shè)定最大迭代次數(shù)和誤差閾值，滿足其一即可停止聚類。提示：迭代達(dá)到最大值，停止；