淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座

“當(dāng)系統(tǒng)復(fù)雜性增加時，我們使它準(zhǔn)確化能力將減小。直到抵達(dá)一個閾值，一旦超越它，復(fù)雜性和準(zhǔn)確性將相互排斥?！?/p>

——含糊數(shù)學(xué)創(chuàng)始人L.A.Zadeh教授引言淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第1頁雨大小風(fēng)強(qiáng)弱人胖瘦年紀(jì)大小個子高低天氣冷熱淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第2頁

客觀世界含糊性反應(yīng)在人腦中，便產(chǎn)生了概念上含糊性；人巧妙地利用自已建立含糊概念來進(jìn)行判斷、推理和控制，完成那些當(dāng)代先進(jìn)設(shè)備所不能完成工作： 人們幾乎能夠一樣地識別胖子和瘦子，漂亮和丑陋； 人們無須測量車速便可明智地躲過川流不息車隊； 一行草書即使大異于整齊印刷字體，卻照樣能夠被人看懂。

淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第3頁在科學(xué)發(fā)展今天，尤其在工程研究設(shè)計領(lǐng)域，含糊問題無法回避，要求對數(shù)據(jù)進(jìn)行定量分析。含糊概念定量分析？淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第4頁一.含糊理論1、含糊理論

1965年，Zadeh教授發(fā)表論文“含糊集合”（Fuzzyset），標(biāo)志含糊數(shù)學(xué)誕生。含糊集合基本思想是把經(jīng)典集合中絕對隸屬關(guān)系靈活化，即元素對“集合”隸屬度不再是局限于取0或1，而是能夠取從0到1間任一數(shù)值。用隸屬函數(shù)(MembershipFunction)來刻畫處于中間過渡事物對差異雙方所含有傾向性。隸屬度（MembershipDegree）就表示元素隸屬于集合程度。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第5頁設(shè)X是論域，映射A(x)：X→[0,1]確定了一個X上含糊子集A，A(x)稱為A隸屬函數(shù)。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第6頁例1淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第7頁例2淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第8頁含糊理論基礎(chǔ)知識常見隸屬度函數(shù)含糊隸屬度函數(shù)在含糊數(shù)學(xué)中地位是非常突出，在對客觀事物進(jìn)行描述和度量過程中，通常是用隸屬度函數(shù)來表示該事物含糊程度。在結(jié)構(gòu)隸屬函過程中，應(yīng)該充分考慮主觀原因和客觀原因，使隸屬函數(shù)能全方面反應(yīng)事物本質(zhì)。經(jīng)常使用含糊隸屬函數(shù)主要有三類，分別為三角函數(shù)、梯形函數(shù)和高斯函數(shù)。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第9頁三角形隸屬函數(shù)梯形隸屬函數(shù)高斯形隸屬函數(shù)鐘型隸屬函數(shù)淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第10頁

隸屬函數(shù)是含糊理論中主要概念，實際應(yīng)用中經(jīng)慣用到以下三類隸屬函數(shù)：

（1）S函數(shù)（偏大型隸屬函數(shù)）

注：(a、b為待定參數(shù))淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第11頁（2）Z函數(shù)（偏小型隸屬函數(shù)）

這種隸屬函數(shù)可用于表示像年輕、冷、矮、淡等偏向小一方含糊現(xiàn)象。

圖：Z函數(shù)淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第12頁（3）∏函數(shù)（中間型隸屬函數(shù)） 這種隸屬函數(shù)可用于表示像中年、適中、平均等趨于中間含糊現(xiàn)象。圖：π函數(shù)淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第13頁2、含糊系統(tǒng)（FussySystem，簡稱FS）

許多實際應(yīng)用系統(tǒng)極難用準(zhǔn)確術(shù)語來描述。如化學(xué)過程中“溫度很高”、“反應(yīng)驟然加緊”等。含糊系統(tǒng)（也稱含糊邏輯系統(tǒng)）就是以含糊規(guī)則為基礎(chǔ)而含有含糊信息處理能力動態(tài)模型。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第14頁

2.1含糊系統(tǒng)組成

含糊系統(tǒng)（也稱含糊邏輯系統(tǒng)）就是以含糊規(guī)則為基礎(chǔ)而含有含糊信息處理能力動態(tài)模型。它由四部分組成，以下列圖：淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第15頁（1）含糊化接口（Fuzzification）含糊化接口主要將檢測輸入變量準(zhǔn)確值依據(jù)其含糊度劃分和隸屬度函數(shù)轉(zhuǎn)換成適當(dāng)含糊值。為了盡可能降低含糊規(guī)則數(shù)，可對于檢測和控制精度要求高變量劃分多(普通5一7個)含糊度，反之則劃分少(普通3個)含糊度。當(dāng)完成變量含糊度劃分后，需定義變量各含糊集隸屬函數(shù)。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第16頁淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第17頁（2）知識庫（knowledgebase）知識庫中存貯著相關(guān)含糊控制器一切知識，包含了詳細(xì)應(yīng)用領(lǐng)域中知識和要求控制目標(biāo)，它們決定著含糊控制器性能，是含糊控制器關(guān)鍵。如教授經(jīng)驗等。比如：If渾濁度清，改變率零，then洗滌時間短

If渾濁度較濁，改變率小，then洗滌時間標(biāo)準(zhǔn)淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第18頁（3）含糊推理機(jī)（FuzzyInferenceEngine）依據(jù)含糊邏輯法則把含糊規(guī)則庫中含糊“if-then”規(guī)則轉(zhuǎn)換成某種映射。含糊推理，這是含糊控制器關(guān)鍵，模擬人基于含糊概念推理能力。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第19頁（4）反含糊化器（Defuzzification）把輸出含糊量轉(zhuǎn)化為實際用于控制清楚量。

淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第20頁

按照常見形式，含糊推理系統(tǒng)可分為:

純含糊邏輯系統(tǒng)高木-關(guān)野(Takagi-Sugeno)含糊邏輯系統(tǒng)

其它含糊邏輯系統(tǒng)

2.2含糊系統(tǒng)分類淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第21頁2.2.1純含糊邏輯系統(tǒng)純含糊邏輯系統(tǒng)僅由知識庫和含糊推理機(jī)組成。其輸入輸出均是含糊集合?！痢翜\析模糊神經(jīng)網(wǎng)絡(luò)專家講座第22頁純含糊邏輯系統(tǒng)結(jié)構(gòu)圖淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第23頁純含糊邏輯系統(tǒng)優(yōu)點：提供了一個量化專輯語言信息和在含糊邏輯標(biāo)準(zhǔn)下系統(tǒng)地利用這類語言信息普通化模式；缺點：輸入輸出均為含糊集合，不易為絕大數(shù)工程系統(tǒng)所應(yīng)用。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第24頁2.2.2高木-關(guān)野含糊系統(tǒng)該系統(tǒng)是由日本學(xué)者Takagi和Sugeno提出，系統(tǒng)輸出為準(zhǔn)確值，也稱為T-S含糊系統(tǒng)或Sugeno系統(tǒng)。舉例：淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第25頁經(jīng)典一階Sugeno型含糊規(guī)則形式以下：

其中：

x和y為輸入；A和B為推理前件含糊集合；z為輸出；p、q、k為常數(shù)。

淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第26頁二、神經(jīng)網(wǎng)絡(luò)介紹1.人工神經(jīng)網(wǎng)絡(luò)定義27

生物神經(jīng)網(wǎng)絡(luò)人類大腦大約有1.4

1011個神經(jīng)細(xì)胞，亦稱為神經(jīng)元。每個神經(jīng)元有數(shù)以千計通道同其它神經(jīng)元廣泛相互連接，形成復(fù)雜生物神經(jīng)網(wǎng)絡(luò)。人工神經(jīng)網(wǎng)絡(luò)以數(shù)學(xué)和物理方法以及信息處理角度對人腦神經(jīng)網(wǎng)絡(luò)進(jìn)行抽象，并建立某種簡化模型，就稱為人工神經(jīng)網(wǎng)絡(luò)（ArtificialNeuralNetwork，縮寫ANN）。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第27頁281.人工神經(jīng)網(wǎng)絡(luò)定義神經(jīng)網(wǎng)絡(luò)是由多個非常簡單處理單元彼此按某種方式相互連接而形成計算系統(tǒng)，該系統(tǒng)是靠其狀態(tài)對外部輸入信息動態(tài)響應(yīng)來處理信息。人工神經(jīng)網(wǎng)絡(luò)是一個由許多簡單并行工作處理單元組成系統(tǒng)，其功效取決于網(wǎng)絡(luò)結(jié)構(gòu)、連接強(qiáng)度以及各單元處理方式。人工神經(jīng)網(wǎng)絡(luò)是一個意在模仿人腦結(jié)構(gòu)及其功效信息處理系統(tǒng)。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第28頁人腦與計算機(jī)信息處理能力比較記憶與聯(lián)想能力學(xué)習(xí)與認(rèn)知能力信息加工能力信息綜合能力信息處理速度29淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第29頁人腦與計算機(jī)信息處理機(jī)制比較系統(tǒng)結(jié)構(gòu)信號形式信息存放信息處理機(jī)制30淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第30頁2.神經(jīng)網(wǎng)絡(luò)基本特征31能力特征：自學(xué)習(xí)自組織自適應(yīng)性結(jié)構(gòu)特征：并行式處理分布式存放容錯性淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第31頁32聯(lián)想記憶功效3.神經(jīng)網(wǎng)絡(luò)基本功效淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第32頁33非線性映射功效淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第33頁34分類與識別功效淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第34頁35優(yōu)化計算功效淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第35頁36知識處理功效淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第36頁神經(jīng)網(wǎng)絡(luò)軟硬件實現(xiàn)MATLAB推出得到了各個領(lǐng)域教授學(xué)者廣泛關(guān)注，在此基礎(chǔ)上，教授們相繼推出了MATLAB工具箱，主要包含信號處理、控制系統(tǒng)、神經(jīng)網(wǎng)絡(luò)、圖像處理、魯棒控制、非線性系統(tǒng)控制設(shè)計、系統(tǒng)辨識、最優(yōu)化、含糊邏輯、小波等工具箱，這些工具箱給各個領(lǐng)域研究和工程應(yīng)用提供了有力工具。37淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第37頁

4.含糊系統(tǒng)與神經(jīng)網(wǎng)絡(luò)區(qū)分與聯(lián)絡(luò)淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第38頁(1)從知識表示方式來看含糊系統(tǒng)能夠表示人經(jīng)驗性知識，便于了解，而神經(jīng)網(wǎng)絡(luò)只能描述大量數(shù)據(jù)之間復(fù)雜函數(shù)關(guān)系，難于了解。(2)從知識存放方式來看含糊系統(tǒng)將知識存在規(guī)則集中，神經(jīng)網(wǎng)絡(luò)將知識存在權(quán)系數(shù)中，都含有分布存放特點。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第39頁(3)從知識利用方式來看含糊系統(tǒng)和神經(jīng)網(wǎng)絡(luò)都含有并行處理特點，含糊系統(tǒng)同時激活規(guī)則不多，計算量小，而神經(jīng)網(wǎng)絡(luò)包括神經(jīng)元很多，計算量大。(4)從知識獲取方式來看含糊系統(tǒng)規(guī)則靠教授提供或設(shè)計，難于自動獲?。窠?jīng)網(wǎng)絡(luò)權(quán)系數(shù)可由輸入輸出樣本中學(xué)習(xí)，無需人來設(shè)置。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第40頁

將二者結(jié)合起來，在處理大規(guī)模含糊應(yīng)用問題方面將表現(xiàn)出優(yōu)良效果。

淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第41頁三.含糊神經(jīng)網(wǎng)絡(luò)？淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第42頁1、含糊神經(jīng)網(wǎng)絡(luò)（FNN）

含糊神經(jīng)網(wǎng)絡(luò)（FuzzyNeuralNetwork，簡稱FNN）將含糊系統(tǒng)和神經(jīng)網(wǎng)絡(luò)相結(jié)合，充分考慮了二者互補(bǔ)性，集邏輯推理、語言計算、非線性動力學(xué)于一體，含有學(xué)習(xí)、聯(lián)想、識別、自適應(yīng)和含糊信息處理能力等功效。

其本質(zhì)就是將常規(guī)神經(jīng)網(wǎng)絡(luò)輸入含糊輸入信號和含糊權(quán)值。

淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第43頁在含糊神經(jīng)網(wǎng)絡(luò)中，神經(jīng)網(wǎng)絡(luò)輸入、輸出節(jié)點用來表示含糊系統(tǒng)輸入、輸出信號，神經(jīng)網(wǎng)絡(luò)隱含節(jié)點用來表示隸屬函數(shù)和含糊規(guī)則，利用神經(jīng)網(wǎng)絡(luò)并行處理能力使得含糊系統(tǒng)推理能力大大提升。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第44頁

含糊神經(jīng)網(wǎng)絡(luò)三種形式：基于含糊算子含糊神經(jīng)網(wǎng)絡(luò),主要是指網(wǎng)絡(luò)輸入輸出和連接權(quán)全部或部分采取含糊實數(shù),計算節(jié)點輸出權(quán)相加采取含糊算子含糊神經(jīng)網(wǎng)絡(luò)含糊化神經(jīng)網(wǎng)絡(luò),是指網(wǎng)絡(luò)輸入輸出及連接權(quán)均為含糊集,能夠?qū)⑵湟暈橐粋€純含糊系統(tǒng)，含糊集輸入經(jīng)過系統(tǒng)內(nèi)部含糊集關(guān)系而產(chǎn)生含糊輸出。含糊推理網(wǎng)絡(luò)是含糊模型神經(jīng)網(wǎng)絡(luò)一種實現(xiàn)，是一個多層前向網(wǎng)絡(luò)。含糊推理網(wǎng)絡(luò)可調(diào)參數(shù)普通是非線性，而且可調(diào)參數(shù)眾多，含有強(qiáng)大自學(xué)習(xí)功效，能夠用作離線辨識有效工具。不過模糊推理網(wǎng)絡(luò)計算量大，只適合離線使用。自適應(yīng)性較差。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第45頁2.經(jīng)典含糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)含糊系統(tǒng)規(guī)則集和隸屬度函數(shù)等設(shè)計參數(shù)只能靠設(shè)計經(jīng)驗來選擇，利用神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)方法，依據(jù)輸入輸出學(xué)習(xí)樣本自動設(shè)計和調(diào)整含糊系統(tǒng)設(shè)計參數(shù)，實現(xiàn)含糊系統(tǒng)自學(xué)習(xí)和自適應(yīng)功效。結(jié)構(gòu)上像神經(jīng)網(wǎng)絡(luò)，功效上是含糊系統(tǒng)，這是當(dāng)前研究和應(yīng)用最多一類含糊神經(jīng)網(wǎng)絡(luò)。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第46頁

該網(wǎng)絡(luò)共分5層，是依據(jù)含糊系統(tǒng)工作過程來設(shè)計，是神經(jīng)網(wǎng)絡(luò)實現(xiàn)含糊推理系統(tǒng)。第二層隸屬函數(shù)參數(shù)和三、四層間及四、五層間連接權(quán)是能夠調(diào)整。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第47頁含糊神經(jīng)網(wǎng)絡(luò)含糊理論應(yīng)用普通以含糊系統(tǒng)方式展現(xiàn)出來，含糊神經(jīng)網(wǎng)絡(luò)也能夠看作是一個含糊系統(tǒng)。含糊系統(tǒng)含糊神經(jīng)網(wǎng)絡(luò)網(wǎng)絡(luò)輸入、輸出節(jié)點訓(xùn)練樣本網(wǎng)絡(luò)隱含層輸入信息含糊化處理和輸出信息反含糊化處理輸入、輸出信號知識庫含糊推理機(jī)含糊化接口和反含糊化接口淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第48頁經(jīng)典含糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)第一層為輸入層，為準(zhǔn)確值。節(jié)點個數(shù)為輸入變量個數(shù)。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第49頁經(jīng)典含糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)第二層為輸入變量隸屬函數(shù)層，實現(xiàn)輸入變量含糊化。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第50頁經(jīng)典含糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)第三層也稱“與”層，該層節(jié)點個數(shù)為含糊規(guī)則數(shù)。該層每個節(jié)點只與第二層中m個節(jié)點中一個和n個節(jié)點中一個相連，共有m×n個節(jié)點，也就是有m×n條規(guī)則。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第51頁經(jīng)典含糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)第四層為“或”層，節(jié)點數(shù)為輸出變量含糊度劃分個數(shù)q。該層與第三層連接為全互連，連接權(quán)值為Wkj，其中k=1,2,…,q;j=1,2,…,m×n.（權(quán)值代表了每條規(guī)則置信度，訓(xùn)練中可調(diào)。）淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第52頁經(jīng)典含糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)第五層為清楚化層，節(jié)點數(shù)為輸出變量個數(shù)。該層與第四層連接為全互連，該層將第四層各個節(jié)點輸出，轉(zhuǎn)換為輸出變量準(zhǔn)確值。淺析模糊神經(jīng)網(wǎng)絡(luò)專家講座第53頁3.2含糊神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法含糊神經(jīng)網(wǎng)絡(luò)不論作為迫近器，還是模式存放器，都是需要學(xué)習(xí)和優(yōu)化權(quán)系數(shù)。學(xué)習(xí)算法是含糊神經(jīng)網(wǎng)絡(luò)優(yōu)化權(quán)系數(shù)關(guān)鍵。