解類神經(jīng)網(wǎng)路課件

1、第六章 自組性類神經(jīng)網(wǎng)路類神經(jīng)網(wǎng)路臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室章節(jié)目錄章節(jié)目錄第一節(jié)第一節(jié) 序論序論第二節(jié)第二節(jié) 生物大腦皮質(zhì)的特徵映射概念生物大腦皮質(zhì)的特徵映射概念第三節(jié)第三節(jié) 自組特徵網(wǎng)路架構(gòu)與其演算法自組特徵網(wǎng)路架構(gòu)與其演算法第四節(jié)第四節(jié) 學(xué)習(xí)向量量化學(xué)習(xí)向量量化第五節(jié)第五節(jié) 自組特徵映射與學(xué)習(xí)向量量化結(jié)合模自組特徵映射與學(xué)習(xí)向量量化結(jié)合模式式第六節(jié)第六節(jié) 應(yīng)用實例應(yīng)用實例第七節(jié)第七節(jié) SOM之其他應(yīng)用之其他應(yīng)用本章重點回顧本章重點回顧本章習(xí)題本章習(xí)題臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室第一節(jié)第一節(jié)序論序論許多不同型態(tài)的自組性類神經(jīng)

2、網(wǎng)路（Self-Organizing Neural Networks）都具有相同的特徵 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室自組性類神經(jīng)網(wǎng)路自組性類神經(jīng)網(wǎng)路非監(jiān)督式學(xué)習(xí) 競爭式學(xué)習(xí) 包含有：自組特徵映射網(wǎng)路（Self-Organizing (Feature) Map, SOM） 學(xué)習(xí)向量量化（Learning Vector Quantization, LVQ） 調(diào)適性共振理論（Adaptive Resonance Theory, ART） 本章將介紹 SOM、LVQ、SOM+LVQ臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室分別於 1980 年代前後期由

3、Kohonen（1982, 1986）提出 大量應(yīng)用於影像、語音辨識（Kohonen 1988; Kangas 1991; Lapidot 等人 2002）；機器人學(xué)習(xí)（Ritter 等人 1992）；手寫數(shù)字辨識系統(tǒng)（Cho 1997）；皮質(zhì)層模型（Kohnen 1995）等 。SOM及LVQ在演算模式上也有許多研究報告提出新的方法來改善 SOM 及LVQ 的不足之處 SOM 與監(jiān)督式訓(xùn)練的合併模式此模式在收斂速度及精度都比一般的神經(jīng)網(wǎng)路為佳（Miynaga等人, 1995）。臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室第二節(jié)第二節(jié)生物大腦皮質(zhì)的特徵映射概念生物大腦皮質(zhì)的特徵

4、映射概念 人類的大腦表面覆蓋著一層皮質(zhì)人類的大腦表面覆蓋著一層皮質(zhì)非常的大且有許多折摺，為所有哺乳動物中最先進，這一區(qū)為人類用意識去控制人體機能產(chǎn)生的地方 相互作用、連結(jié)及學(xué)習(xí)皆集中在此區(qū)內(nèi)不同區(qū)域主管不同的功能這些區(qū)域與刺激之間的映射關(guān)係並非人類一出生時就自然形成的，而是經(jīng)由學(xué)習(xí)與制約的過程中完成拓樸映射，正確地處理與反應(yīng)外界的刺激。大腦皮質(zhì)上的映射關(guān)係形成後，仍可以改變映射關(guān)係中的某些部分。一旦某部分腦組織受傷，很可能會有其他部位的腦組織可以取代這些受損的組織。臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室1. 更快

5、速反應(yīng)外界刺激更快速反應(yīng)外界刺激ANN採用大腦皮質(zhì)特徵映射這樣的概念有許多優(yōu)點：臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室首先由首先由 Kohonen 提出，屬於前饋式、非監(jiān)督式神經(jīng)網(wǎng)路提出，屬於前饋式、非監(jiān)督式神經(jīng)網(wǎng)路 以特徵映射的方式，將任意維度的輸入向量，映射至較低維以特徵映射的方式，將任意維度的輸入向量，映射至較低維（度）的特徵映射圖上（度）的特徵映射圖上 第三節(jié)第三節(jié)自組特徵映射網(wǎng)路架構(gòu)與其演算法自組特徵映射網(wǎng)路架構(gòu)與其演算法自組特徵映射網(wǎng)路（Self-Organizing Map, SOM） 二維矩陣的SOM 架構(gòu)圖 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源

6、資訊系統(tǒng)研究室而最後輸出層的神經(jīng)元會依據(jù)輸入向量的特徵以有意義而最後輸出層的神經(jīng)元會依據(jù)輸入向量的特徵以有意義的的拓樸結(jié)構(gòu)（拓樸結(jié)構(gòu)（topological structure）展現(xiàn)在輸出空間中，展現(xiàn)在輸出空間中，由於所產(chǎn)生的拓樸結(jié)構(gòu)圖可以反應(yīng)所有輸入值間的分布關(guān)係，由於所產(chǎn)生的拓樸結(jié)構(gòu)圖可以反應(yīng)所有輸入值間的分布關(guān)係，因此將此網(wǎng)路稱作為自組特徵映射網(wǎng)路，而該映射圖也可稱因此將此網(wǎng)路稱作為自組特徵映射網(wǎng)路，而該映射圖也可稱為為拓樸圖（拓樸圖（topology）。 SOM網(wǎng)路神經(jīng)元間的拓樸座標(biāo) 依據(jù)目前的輸入向量在神經(jīng)元間彼此相互競爭，優(yōu)勝的神經(jīng)元可獲得調(diào)整連結(jié)權(quán)重向量的機會；臺大生工系水資源資

7、訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室自組織特徵映射的過程也自組織特徵映射的過程也是一個聚類的過程是一個聚類的過程SOM可視為聚類演算法（可視為聚類演算法（clustering algorithm）的一種。）的一種。從另一個角度來看 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室輸入層輸入層網(wǎng) 路 架 構(gòu)輸出層用以表現(xiàn)網(wǎng)路的輸出變數(shù)，及訓(xùn)練範(fàn)例的聚類，其處理單元數(shù)目依問題而定。其結(jié)構(gòu)本身有網(wǎng)路拓樸以及鄰近區(qū)域(Neighborhood)的觀念。臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室輸入層:代表輸入變數(shù)輸入向量輸出層:代表聚類網(wǎng)路架構(gòu)圖網(wǎng) 路 架 構(gòu)臺大生

8、工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室對於對於個維度的輸入值，以個維度的輸入值，以 表示輸入向量表示輸入向量 演 算 法 12,.,TNXx xx 121 2,., ,.,TjjjjNwwwwjM 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室競爭式學(xué)習(xí)法則競爭式學(xué)習(xí)法則演 算 法臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室計算距離，並選取出優(yōu)勝神經(jīng)元計算距離，並選取出優(yōu)勝神經(jīng)元演 算 法21 2()min, ,.,jjq XXwjM 每一筆輸入向量所對應(yīng)出的優(yōu)勝神經(jīng)元都不盡相同，因此每個神經(jīng)元被調(diào)整的次數(shù)及時機也不一定相同或有規(guī)則可循，完全端視輸

9、入向量間的分布關(guān)係。 q(X) 為輸入向量X與所有神經(jīng)元連結(jié)權(quán)重的最短距離該神經(jīng)元則稱為優(yōu)勝神經(jīng)元 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室神經(jīng)元間有著鄰近關(guān)係，讓優(yōu)勝的神經(jīng)元在神經(jīng)元間有著鄰近關(guān)係，讓優(yōu)勝的神經(jīng)元在進行連結(jié)權(quán)重調(diào)整時，也會將這樣的訊息傳進行連結(jié)權(quán)重調(diào)整時，也會將這樣的訊息傳遞給鄰近的神經(jīng)元，讓鄰近的神經(jīng)元也隨著遞給鄰近的神經(jīng)元，讓鄰近的神經(jīng)元也隨著進行連結(jié)權(quán)重調(diào)整，如此有助於網(wǎng)路神經(jīng)元進行連結(jié)權(quán)重調(diào)整，如此有助於網(wǎng)路神經(jīng)元間的拓樸映射關(guān)係。間的拓樸映射關(guān)係。演 算 法SOM網(wǎng)路學(xué)習(xí)的過程中，有一個重要的關(guān)係存在於網(wǎng)路的神經(jīng)元間臺大生工系水資源資訊系統(tǒng)研究室

10、臺大生工系水資源資訊系統(tǒng)研究室設(shè)定神經(jīng)元間的鄰近關(guān)係之參數(shù)包括設(shè)定神經(jīng)元間的鄰近關(guān)係之參數(shù)包括演 算 法鄰近半徑R： 一開始可先取較大的半徑值，隨著訓(xùn)練次數(shù)或時間的增加，該鄰近半徑可以逐漸縮小鄰近區(qū)域： 以鄰近中心為中心點，鄰近半徑的長度為半徑，所圍繞的區(qū)域範(fàn)圍稱鄰近區(qū)域 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室設(shè)定神經(jīng)元間的鄰近關(guān)係之參數(shù)包括設(shè)定神經(jīng)元間的鄰近關(guān)係之參數(shù)包括演 算 法鄰近中心： 優(yōu)勝神經(jīng)元為鄰近中心，以該神經(jīng)元為調(diào)整的中心，修正鄰近區(qū)域中所有的神經(jīng)元。 22exp/qjjqrrR ( )( )( )( )jqjjwkkx kw k1()( )jjjw kw

11、 kw 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室拓樸層間鄰近神經(jīng)元及鄰近半徑遞減示意圖 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室演算流程演算流程 由競爭式學(xué)習(xí)與鄰近的關(guān)係，逐漸地形成神經(jīng)元間的拓由競爭式學(xué)習(xí)與鄰近的關(guān)係，逐漸地形成神經(jīng)元間的拓樸結(jié)構(gòu)樸結(jié)構(gòu)，神經(jīng)元的連結(jié)權(quán)重也隨著調(diào)整而逐漸獲得訓(xùn)練，神經(jīng)元的連結(jié)權(quán)重也隨著調(diào)整而逐漸獲得訓(xùn)練範(fàn)例輸入資料的聚類結(jié)果。範(fàn)例輸入資料的聚類結(jié)果。 START隨機產(chǎn)生鍵結(jié)權(quán)重值決定 R 與 (k)載入訓(xùn)練範(fàn)例資料計算出優(yōu)勝神經(jīng)元修正鍵結(jié)權(quán)重與鄰域範(fàn)圍調(diào)整學(xué)習(xí)速率設(shè)定演算停止條件停止?NoENDYes臺大生工系水資源資訊

12、系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室 在此以簡單的例子說明在此以簡單的例子說明SOM的聚類特性。在（的聚類特性。在（0,1）的範(fàn)圍中，）的範(fàn)圍中，從均勻分布（從均勻分布（uniform distribution）隨機選?。╇S機選取 1000 個二維向量個二維向量點為訓(xùn)練範(fàn)例資料點（如圖點為訓(xùn)練範(fàn)例資料點（如圖 6.6 所示）所示）臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室 以以1010 的的 SOM 網(wǎng)路進行訓(xùn)練。網(wǎng)路權(quán)重初始位置如圖網(wǎng)路進行訓(xùn)練。網(wǎng)路權(quán)重初始位置如圖 6.7 所示，聚集於資所示，聚集於資料點中心位置附近的隨機亂數(shù)值；料點中心位置附近的隨機亂數(shù)值；經(jīng)過若干

13、次數(shù)訓(xùn)練後，神經(jīng)元間的拓樸架構(gòu)逐漸形成，網(wǎng)路的連結(jié)權(quán)重逐漸經(jīng)過若干次數(shù)訓(xùn)練後，神經(jīng)元間的拓樸架構(gòu)逐漸形成，網(wǎng)路的連結(jié)權(quán)重逐漸收斂如圖收斂如圖 6.8 所示，所示，臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室 將圖將圖 6.6 及圖及圖 6.8 疊合成圖疊合成圖 6.9，便可看出聚類中心點會按照資料的特，便可看出聚類中心點會按照資料的特性來給予聚類，而神經(jīng)元間的拓樸結(jié)構(gòu)也會隨著資料點的分布特性來性來給予聚類，而神經(jīng)元間的拓樸結(jié)構(gòu)也會隨著資料點的分布特性來形成。形成。 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室1980 年代即有人提出（年代即有人提出（Linde

14、等人等人 1980；Gray 1984; Nasrabadi 和和 King 1988; Luttrell 1989）主要目的是用於資料的壓縮主要目的是用於資料的壓縮 第四節(jié)第四節(jié)學(xué)習(xí)向量量化學(xué)習(xí)向量量化(LVQ)向量量化（vector quantization） 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室Kohonen 於於 1986 年時，以向量量化為基礎(chǔ)發(fā)展了學(xué)習(xí)向量量年時，以向量量化為基礎(chǔ)發(fā)展了學(xué)習(xí)向量量化（化（Learning Vector Quantization，LVQ）神經(jīng)網(wǎng)路，該網(wǎng)路）神經(jīng)網(wǎng)路，該網(wǎng)路最大的特色在於它是屬於監(jiān)督式學(xué)習(xí)最大的特色在於它是屬於監(jiān)督

15、式學(xué)習(xí) LVQ網(wǎng)路架構(gòu)對於每一筆輸入樣本都應(yīng)該要有相對應(yīng)的實際輸出值，而這一筆實際輸出值就是該輸入向量所隸屬的類別 以 X 表示輸入向量，透過連結(jié)權(quán)重 W 與輸出類別Y 連接臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室LVQ演算方法以與SOM相同方式，選取優(yōu)勝神經(jīng)元 從優(yōu)勝神經(jīng)元所屬的類別與輸入向量所屬的類別進行比對，以判定分類的結(jié)果正不正確，來對 wj 進行不同策略的修正 21 2()min, ,.,jjq XXwjM qjwxCC 1qqqwkwkkXwk 1qqqwkwkkXwk qjwxCC 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室START初始化各

16、神經(jīng)元連結(jié)權(quán)重值與指定類別編號設(shè)定學(xué)習(xí)速率 載入訓(xùn)練範(fàn)例資料計算出優(yōu)勝神經(jīng)元修正優(yōu)勝神經(jīng)元權(quán)重值調(diào)整學(xué)習(xí)速率設(shè)定演算停止條件停止?NoENDYesLVQ演算步驟臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室1980 年代即有人提出（年代即有人提出（Linde 等人等人 1980；Gray 1984; Nasrabadi 和和 King 1988; Luttrell 1989）第五節(jié)第五節(jié) 自組特徵映射與學(xué)習(xí)向量量化結(jié)合模式自組特徵映射與學(xué)習(xí)向量量化結(jié)合模式SOM + LVQ 改善 SOM 於聚類上的錯誤 手寫辨識系統(tǒng)、數(shù)字辨識、心電圖分類 相關(guān)應(yīng)用臺大生工系水資源資訊系統(tǒng)研究室臺

17、大生工系水資源資訊系統(tǒng)研究室手寫數(shù)字辨識上，同一數(shù)字每個人寫出來不盡相同，在手寫數(shù)字辨識上，同一數(shù)字每個人寫出來不盡相同，在SOM聚類過程中，常發(fā)生分類錯誤的情形聚類過程中，常發(fā)生分類錯誤的情形 為克服聚類上映射錯誤的情形，結(jié)合為克服聚類上映射錯誤的情形，結(jié)合LVQ以改善此種狀況！以改善此種狀況！ 假定某樣本的向量空間經(jīng) SOM映射後，分為 A、B、C 三個群集 A1B1C1SOM映射映射ABC實際實際 映射映射CAC臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室第六節(jié)第六節(jié)應(yīng)用實例應(yīng)用實例臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室 的分布如圖的分布如圖6.13

18、，其關(guān)係為，其關(guān)係為 、 ， 在區(qū)間產(chǎn)生約在區(qū)間產(chǎn)生約 1100 個點當(dāng)作個點當(dāng)作 10 10 的的 SOM 網(wǎng)路的訓(xùn)練範(fàn)例輸入點。網(wǎng)路的訓(xùn)練範(fàn)例輸入點。 12( ,)zz2210 30 2(. )(. )zxy2220 30 20 1(. )(. ), , zxyxy，12( ,)zz圖6.13 z1 與z2 分布圖 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室 (1) 在資料點中心位置（在資料點中心位置（0.97,1.19）附近產(chǎn)生微擾動的亂數(shù)值，並以）附近產(chǎn)生微擾動的亂數(shù)值，並以此初始化網(wǎng)路連結(jié)權(quán)重，如圖此初始化網(wǎng)路連結(jié)權(quán)重，如圖6.14所示。所示。 12( ,)zz(2

19、) 將1100個點資料代入1010的網(wǎng)路中，進行連結(jié)權(quán)重修正與訓(xùn)練，當(dāng)拓樸結(jié)構(gòu)形成且網(wǎng)路連結(jié)權(quán)重修正值的改變很小時，即網(wǎng)路已達收斂。當(dāng)資料點越密的區(qū)域，就有越多的神經(jīng)元來描述該區(qū)域 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室 以以 10 十個數(shù)字（如圖十個數(shù)字（如圖 6.16 所示，圖中顯示十個阿拉伯?dāng)?shù)字以所示，圖中顯示十個阿拉伯?dāng)?shù)字以空白及黑填的方式，儲存在空白及黑填的方式，儲存在 9 4 的方格上）來訓(xùn)練的方格上）來訓(xùn)練 3 3 的的SOM網(wǎng)路。網(wǎng)路。 圖6.16 以94的方格來表示10十個數(shù)字 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室 (1) 輸入資

20、料處理輸入資料處理 將 94 的矩陣改寫為 361 的向量，數(shù)字3的輸入方式可表示為x3 = 1 1 1 1 0 0 0 1 0 0 0 1 0 0 0 1 1 1 1 1 0 0 0 1 0 0 0 1 0 0 0 1 1 1 1 1T 000111111111000100010001000100010001000100010001123000111111111000110000001000110000001000110000001000111111111 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室 (2)本例使用本例使用 3 3 的的 SOM 網(wǎng)路進行訓(xùn)練後的結(jié)果，圖中可

21、明顯地看出網(wǎng)路進行訓(xùn)練後的結(jié)果，圖中可明顯地看出9個神經(jīng)個神經(jīng)元已將元已將10個數(shù)字表現(xiàn)於其連結(jié)權(quán)重個數(shù)字表現(xiàn)於其連結(jié)權(quán)重 因為只有 9個神經(jīng)元對應(yīng)10個數(shù)字的分類，很明顯地有些數(shù)字在神經(jīng)元上的表現(xiàn)就比較模糊。 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室 由於有較多的神經(jīng)元來描述10個數(shù)字，所以可以看到有些數(shù)字是由2個以上的神經(jīng)元描述，有些神經(jīng)元則是一種介於多個數(shù)字間的模糊表現(xiàn)，產(chǎn)生了許多的彈性，但增加了訓(xùn)練的時間與記憶體的儲藏空間，何者為佳？應(yīng)視問題而論了。 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室 (2)本例使用本例使用 3 3 的的 SOM 網(wǎng)路進行

22、訓(xùn)練後的結(jié)果，圖中可明顯地看出網(wǎng)路進行訓(xùn)練後的結(jié)果，圖中可明顯地看出9個神經(jīng)個神經(jīng)元已將元已將10個數(shù)字表現(xiàn)於其連結(jié)權(quán)重個數(shù)字表現(xiàn)於其連結(jié)權(quán)重 因為只有 9個神經(jīng)元對應(yīng)10個數(shù)字的分類，很明顯地有些數(shù)字在神經(jīng)元上的表現(xiàn)就比較模糊。 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室 設(shè)計設(shè)計LVQ網(wǎng)路來區(qū)分以下五組的三維空間向量，此五組向量分網(wǎng)路來區(qū)分以下五組的三維空間向量，此五組向量分別屬於類別別屬於類別1與類別與類別2。 向量向量類別類別1212111 0 1 ,Tx 20 1 0 ,Tx 31 1 0 ,Tx 40 1 1 ,Tx 51 1 1 ,Tx 臺大生工系水資源資訊系統(tǒng)

23、研究室臺大生工系水資源資訊系統(tǒng)研究室 1()( )nn 經(jīng)過5000代的迭代運算（權(quán)重隨著迭代次數(shù)增加逐漸收斂，如圖6.19）之後，我們可以得到權(quán)重 w1 與 w2 的結(jié)果為： w1= 1 , 0.59857 , 0.71902 T 、 w2= 0.07166 , 1 , 0.4301T 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室 圖6.19 在訓(xùn)練階段LVQ網(wǎng)路連結(jié)權(quán)重收斂趨勢圖 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室第七節(jié)第七節(jié)SOM之其他應(yīng)用之其他應(yīng)用 手寫數(shù)字辨識系統(tǒng)的演算法，一般可分為兩類：手寫數(shù)字辨識系統(tǒng)的演算法，一般可分為兩類：6.7.1手

24、寫數(shù)字辨識系統(tǒng) 類神經(jīng)網(wǎng)路的演算法較偏向統(tǒng)計方式。與其他演算模式相較下，類神經(jīng)網(wǎng)路中的 SOM 模式在樣本辨識問題上具有強大的處理能力。 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室為了研究氣候變化對耗電量的影響，為了研究氣候變化對耗電量的影響，Beccali（2004）結(jié)合了非）結(jié)合了非監(jiān)督式學(xué)習(xí)（監(jiān)督式學(xué)習(xí)（SOM）與監(jiān)督式學(xué)習(xí)（）與監(jiān)督式學(xué)習(xí)（BP）的類神經(jīng)網(wǎng)路，用）的類神經(jīng)網(wǎng)路，用來預(yù)測未來來預(yù)測未來 24 小時的都市近郊電力負載。採用了小時的都市近郊電力負載。採用了 2001 2003 年氣象資料如：溫度，相對濕度，太陽輻射等，及供應(yīng)給義大年氣象資料如：溫度，相對濕度

25、，太陽輻射等，及供應(yīng)給義大利巴勒莫鎮(zhèn)（利巴勒莫鎮(zhèn)（Palermo）電力負載歷史資料，做為類神經(jīng)網(wǎng)路）電力負載歷史資料，做為類神經(jīng)網(wǎng)路之訓(xùn)練資料。之訓(xùn)練資料。6.7.2預(yù)測電力負載電力負載輸入變數(shù)共有 622 筆，用五組不同拓樸層大小的 SOM（8 8; 10 10; 12 12; 14 14; 16 16）來比較，採隨機產(chǎn)生初始權(quán)重值，鄰近區(qū)域之形狀為六角形，鄰近半徑由5降至1，學(xué)習(xí)速率則由0.01降至0.001（隨著迭代次數(shù)增加而做適當(dāng)?shù)恼{(diào)整）。結(jié)果表現(xiàn)最佳的模式為14 14之SOM網(wǎng)路，即196個神經(jīng)元，迭代次數(shù)為1800次。經(jīng) SOM 聚類的電力負載資料，結(jié)合氣象資料(溫度、相對溼度、太

26、陽輻射)後，利用 BPNN 預(yù)測未來 24 小時都市近郊之電力負載。 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室在醫(yī)學(xué)領(lǐng)域裡，常見的在醫(yī)學(xué)領(lǐng)域裡，常見的X射線（射線（X-RAY）、電腦斷層造影）、電腦斷層造影（CT）、磁振造影（）、磁振造影（MRI）、正子斷層造影（）、正子斷層造影（Positron Emission Tomography，PET）等，皆為輔助醫(yī)師診斷疾病的）等，皆為輔助醫(yī)師診斷疾病的有力工具，特別是若將有力工具，特別是若將MRI、PET、CT等影像資訊彼此互補，等影像資訊彼此互補，做一校準(zhǔn)動作並重疊顯示，即醫(yī)療影像校準(zhǔn)，可獲得更多做一校準(zhǔn)動作並重疊顯示，即醫(yī)

27、療影像校準(zhǔn)，可獲得更多更精確的資料，提高病癥辨識率。近年來將更精確的資料，提高病癥辨識率。近年來將SOM類神經(jīng)網(wǎng)路類神經(jīng)網(wǎng)路其聚類的特性應(yīng)用於醫(yī)療影像比對和影像校準(zhǔn)的研究也如雨後其聚類的特性應(yīng)用於醫(yī)療影像比對和影像校準(zhǔn)的研究也如雨後春筍，多不勝數(shù)，又近十年來電腦硬體技術(shù)的突飛猛進，現(xiàn)今春筍，多不勝數(shù)，又近十年來電腦硬體技術(shù)的突飛猛進，現(xiàn)今己經(jīng)可運用於臨床上。己經(jīng)可運用於臨床上。6.7.3醫(yī)療影像校準(zhǔn)Coppini et al.（2004）以 SOM 類神經(jīng)網(wǎng)路做影像比對，將網(wǎng)路輸入及輸出部分，分別命名為刺激影像和目標(biāo)影像，透過 Kohonens 演算法，將每一個 SOM 的神經(jīng)元對應(yīng)至每一個目標(biāo)影像的像素，採用128128大小的 SOM 類神經(jīng)網(wǎng)路，迭代次數(shù) 10 萬次。結(jié)果顯示 SOM 對於經(jīng)過大範(fàn)圍的影像轉(zhuǎn)換，包括彷射轉(zhuǎn)換和局部變形等，有良好的比對結(jié)果。 臺大生工系水資源資訊系統(tǒng)研究室臺大生工系水資源資訊系統(tǒng)研究室本章重點回顧本章重點回顧 監(jiān)督式學(xué)習(xí)與非監(jiān)督式學(xué)習(xí)的不同，在於學(xué)習(xí)過程是否有實際的正監(jiān)督式學(xué)習(xí)與非監(jiān)督式學(xué)習(xí)的不同，在於學(xué)習(xí)過程是否有實際的正確值可供比對確值可供比對 LVQ 網(wǎng)路