第7章人工神經(jīng)網(wǎng)絡

1、第7章人工神經(jīng)網(wǎng)絡第七章第七章 人工神經(jīng)網(wǎng)絡人工神經(jīng)網(wǎng)絡Mail: 人工神經(jīng)網(wǎng)絡的提出人工神經(jīng)網(wǎng)絡的提出 人工神經(jīng)網(wǎng)絡人工神經(jīng)網(wǎng)絡（Artificial Neural Networks，簡記作，簡記作ANN），是對人類大腦系），是對人類大腦系統(tǒng)的一階特性的一種描述。簡單地講，它是一統(tǒng)的一階特性的一種描述。簡單地講，它是一個個數(shù)學模型數(shù)學模型，可以用，可以用電子線路電子線路來實現(xiàn)，也可來實現(xiàn)，也可以用以用計算機程序計算機程序來模擬，是人工智能研究的一來模擬，是人工智能研究的一種方法。種方法。人工神經(jīng)網(wǎng)絡的提出人工神經(jīng)網(wǎng)絡的提出一、智能的含義一、智能的含義智能是個體有目的的行為，合理的思維，以智能

2、是個體有目的的行為，合理的思維，以及有效的、適應環(huán)境的綜合能力及有效的、適應環(huán)境的綜合能力。 智能是個體認識客觀事物和運用知識解決問題的能智能是個體認識客觀事物和運用知識解決問題的能力力。 人類個體的智能是一種綜合能力。人類個體的智能是一種綜合能力。人工神經(jīng)網(wǎng)絡的提出人工神經(jīng)網(wǎng)絡的提出智能可以包含智能可以包含8 8個方面?zhèn)€方面: :q感知與認識客觀事物、客觀世界和自我的能力感知與認識客觀事物、客觀世界和自我的能力感知是智能的基礎感知是智能的基礎最基本的能力最基本的能力 q通過學習取得經(jīng)驗與積累知識的能力通過學習取得經(jīng)驗與積累知識的能力這是人類在世界中能夠不斷發(fā)展的最基本能力。這是人類在世界中能

3、夠不斷發(fā)展的最基本能力。q理解知識，運用知識和經(jīng)驗分析、解決問題的能力理解知識，運用知識和經(jīng)驗分析、解決問題的能力這一能力可以算作是智能的高級形式。是人類對世界進行適這一能力可以算作是智能的高級形式。是人類對世界進行適當?shù)母脑?，推動社會不斷發(fā)展的基本能力。當?shù)母脑?，推動社會不斷發(fā)展的基本能力。人工神經(jīng)網(wǎng)絡的提出人工神經(jīng)網(wǎng)絡的提出q聯(lián)想、推理、判斷、決策語言的能力聯(lián)想、推理、判斷、決策語言的能力這是智能的高級形式的又一方面。這是智能的高級形式的又一方面。預測和認識預測和認識“主動主動”和和“被動被動”之分。聯(lián)想、推理、判斷、決策之分。聯(lián)想、推理、判斷、決策的能力是的能力是“主動主動”的基礎。的基

4、礎。q運用進行抽象、概括的能力運用進行抽象、概括的能力 上述這上述這5 5種能力，被認為是人類智能最為種能力，被認為是人類智能最為基本的能力基本的能力 人工神經(jīng)網(wǎng)絡的提出人工神經(jīng)網(wǎng)絡的提出作為作為5 5種能力綜合表現(xiàn)形式的種能力綜合表現(xiàn)形式的3 3種能力種能力q 發(fā)現(xiàn)、發(fā)明、創(chuàng)造、創(chuàng)新的能力發(fā)現(xiàn)、發(fā)明、創(chuàng)造、創(chuàng)新的能力 q 實時、迅速、合理地應付復雜環(huán)境的實時、迅速、合理地應付復雜環(huán)境的 能能力力 q 預測、洞察事物發(fā)展、變化的能力預測、洞察事物發(fā)展、變化的能力 人工神經(jīng)網(wǎng)絡的提出人工神經(jīng)網(wǎng)絡的提出人工智能：研究如何使類似計算機這樣的設備去模擬人工智能：研究如何使類似計算機這樣的設備去模擬人類

5、的這些能力。人類的這些能力。研究人工智能的目的研究人工智能的目的增加人類探索世界，推動社會前進的能力增加人類探索世界，推動社會前進的能力進一步認識自己進一步認識自己三大學術流派三大學術流派符號主義（或叫做符號符號主義（或叫做符號/邏輯主義）學派邏輯主義）學派聯(lián)接主義（或者叫做聯(lián)接主義（或者叫做PDP）學派）學派進化主義（或者叫做行動進化主義（或者叫做行動/響應）學派響應）學派一、人工智能的含義一、人工智能的含義一、人工神經(jīng)網(wǎng)絡建模實例人工神經(jīng)網(wǎng)絡建模實例 202X年生物學家格若根（W Grogan）和維什（WWirth）發(fā)現(xiàn)了兩類蚊子(或飛蠓midges)他們測量了這兩類蚊子每個個體的翼長和觸

6、角長，數(shù)據(jù)如下：翼長 觸角長 類別 1.64 1.38 Af 1.82 1.38 Af 1.90 1.38 Af 1.70 1.40 Af 1.82 1.48 Af 1.82 1.54 Af 2.08 1.56 Af翼長 觸角長 類別1.78 1.14 Apf1.96 1.18 Apf1.86 1.20 Apf1.72 1.24 Af2.00 1.26 Apf2.00 1.28 Apf1.96 1.30 Apf1.74 1.36 Af問：如果抓到三只新的蚊子，它們的觸角長和翼長分別為(l.24,1.80); ，1.84)；（，）問它們應分別屬于哪一個種類？ 解法一： 把翼長作縱坐標，觸角長作橫

7、坐標；那么每個蚊子的翼長和觸角決定了坐標平面的一個點.其中 6個蚊子屬于 APf類；用黑點“”表示；9個蚊子屬 Af類；用小圓圈“。”表示得到的結果見圖 飛蠓的觸角長和翼長 思路：作一直線將兩類飛蠓分開 例如；取A（，）和 B，1.16)，過A B兩點作一條直線： y 其中X表示觸角長；y表示翼長 分類規(guī)則：設一個蚊子的數(shù)據(jù)為（x, y） 如果，則判斷蚊子屬Apf類； 如果y；則判斷蚊子屬Af類 分類結果：，1.80)，1.84)屬于Af類；，）屬于 Apf類分類直線圖 缺陷：根據(jù)什么原則確定分類直線？ 若取A=(1.46,2.10), B=(1.1,1.6)不變，則分類直線變?yōu)?y=1.39

8、x+0.071分類結果變?yōu)椋?(1.24,1.80)， (1.40,2.04) 屬于Apf類； (1.28,1.84)屬于Af類 哪一分類直線才是正確的呢？ 因此如何來確定這個判別直線是一個值得研究的問題一般地講，應該充分利用已知的數(shù)據(jù)信息來確定判別直線 再如，如下的情形已經(jīng)不能用分類直線的辦法： 新思路：將問題看作一個系統(tǒng)，飛蠓的數(shù)據(jù)作為輸入，飛蠓的類型作為輸出，研究輸入與輸出的關系。1、生物神經(jīng)網(wǎng)的構成、生物神經(jīng)網(wǎng)的構成胞體胞體(Soma)枝蔓（枝蔓（Dendrite）胞體胞體(Soma) 軸突（軸突（Axon）突觸（突觸（Synapse）人工神經(jīng)網(wǎng)絡的提出人工神經(jīng)網(wǎng)絡的提出生物神經(jīng)網(wǎng)生物

9、神經(jīng)網(wǎng)2、六個基本特征：、六個基本特征： 1）神經(jīng)元及其聯(lián)接神經(jīng)元及其聯(lián)接； 2）神經(jīng)元之間的聯(lián)接強度決定神經(jīng)元之間的聯(lián)接強度決定信號傳遞信號傳遞的強弱；的強弱； 3）神經(jīng)元之間的聯(lián)接強度是可以隨神經(jīng)元之間的聯(lián)接強度是可以隨訓練訓練改變的；改變的； 4）信號可以是起信號可以是起刺激刺激作用的，也可以是起作用的，也可以是起抑制抑制作用的；作用的； 5）一個神經(jīng)元接受的信號的一個神經(jīng)元接受的信號的累積效果累積效果決定該神經(jīng)元的狀決定該神經(jīng)元的狀態(tài)；態(tài)； 6) 每個神經(jīng)元可以有一個每個神經(jīng)元可以有一個“閾值閾值”。神經(jīng)網(wǎng)絡基本模型神經(jīng)網(wǎng)絡基本模型 一般而言, ANN與經(jīng)典計算方法相比并非優(yōu)越, 只有

10、當常規(guī)方法解決不了或效果不佳時ANN方法才能顯示出其優(yōu)越性。尤其對問題的機理不甚了解或不能用數(shù)學模型表示的系統(tǒng),如故障診斷、特征提取和預測等問題,ANN往往是最有利的工具。另一方面, ANN對處理大量原始數(shù)據(jù)而不能用規(guī)則或公式描述的問題, 表現(xiàn)出極大的靈活性和自適應性。黑箱神經(jīng)元結構示意圖神經(jīng)元結構示意圖 人工神經(jīng)元 生理神經(jīng)元輸入輸出 WX函數(shù)處理另一網(wǎng)絡的輸出初始輸入該網(wǎng)絡輸出 人工神經(jīng)網(wǎng)絡主要的研究工作集中在以下幾個方面：（1）生物原型研究。從生理學、心理學、解剖學、腦科學、病理學等生物科學方面研究神經(jīng)細胞、神經(jīng)網(wǎng)絡、神經(jīng)系統(tǒng)的生物原型結構及其功能機理。（2）建立理論模型。根據(jù)生物原型的研究，建立神經(jīng)元、神經(jīng)網(wǎng)絡的理論模型。其中包括概念模型、知識模型、物理化學模型、數(shù)學模型等。（3