人工智能8神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)陳志華主要內(nèi)容人工神經(jīng)網(wǎng)絡(luò)概述生物神經(jīng)元人工神經(jīng)元1.人工神經(jīng)網(wǎng)絡(luò)概述什么是人工神經(jīng)網(wǎng)絡(luò)？T.Koholen的定義：“人工神經(jīng)網(wǎng)絡(luò)是由具有順應(yīng)性的簡(jiǎn)單單元組成的廣泛并行互連的網(wǎng)絡(luò)，它的組織可以模擬生物神經(jīng)系統(tǒng)對(duì)真實(shí)世界物體所作出的交互反響。〞ANN研討的目的和意義(1)經(jīng)過提示物理平面與認(rèn)知平面之間的映射，了解它們相互聯(lián)絡(luò)和相互作用的機(jī)理，從而提示思想的本質(zhì)，探求智能根源。(2)爭(zhēng)取構(gòu)造出盡能夠與人腦具有類似功能的計(jì)算機(jī)，即ANN計(jì)算機(jī)。(3)研討仿照腦神經(jīng)系統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)，將在方式識(shí)別、組合優(yōu)化和決策判別等方面，獲得傳統(tǒng)計(jì)算機(jī)所難以到達(dá)的效果。神經(jīng)網(wǎng)絡(luò)研討的開展(1)第一次熱潮(40-60年代未)1943年,美國(guó)心思學(xué)家W.McCulloch和數(shù)學(xué)家W.Pitts在提出了一個(gè)簡(jiǎn)單的神經(jīng)元模型，即MP模型。1958年，F(xiàn).Rosenblatt等研制出了感知機(jī)(Perceptron〕。(2)低潮(70-80年代初)(3)第二次熱潮1982年，美國(guó)物理學(xué)家J.J.Hopfield提出Hopfield模型，它是一個(gè)互聯(lián)的非線性動(dòng)力學(xué)網(wǎng)絡(luò)。它處理問題的方法是一種反復(fù)運(yùn)算的動(dòng)態(tài)過程,這是符號(hào)邏輯處置方法所不具備的性質(zhì).1987年首屆國(guó)際ANN大會(huì)在圣地亞哥召開，國(guó)際ANN結(jié)合會(huì)成立，興辦了多種ANN國(guó)際刊物。1990年12月，北京召開首屆學(xué)術(shù)會(huì)議。神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)普通而言,ANN與經(jīng)典計(jì)算方法相比并非優(yōu)越,只需當(dāng)常規(guī)方法處理不了或效果不佳時(shí)ANN方法才干顯示出其優(yōu)越性。對(duì)問題的機(jī)理不甚了解或不能用數(shù)學(xué)模型表示的系統(tǒng),如缺點(diǎn)診斷、特征提取和預(yù)測(cè)等問題,ANN往往是最有利的工具。對(duì)處置大量原始數(shù)據(jù)而不能用規(guī)那么或公式描畫的問題,表現(xiàn)出極大的靈敏性和自順應(yīng)性。人工神經(jīng)網(wǎng)絡(luò)以其具有自學(xué)習(xí)、自組織、較好的容錯(cuò)性和優(yōu)良的非線性逼近才干，遭到眾多領(lǐng)域?qū)W者的關(guān)注。在實(shí)踐運(yùn)用中，80%～90%的人工神經(jīng)網(wǎng)絡(luò)模型是采用BP網(wǎng)絡(luò)，目前主要運(yùn)用于函數(shù)逼近、方式識(shí)別、分類和數(shù)據(jù)緊縮或數(shù)據(jù)發(fā)掘。人工神經(jīng)網(wǎng)絡(luò)研討的局限性〔1〕ANN研討遭到腦科學(xué)研討成果的限制?！?〕ANN短少一個(gè)完好、成熟的實(shí)際體系?！?〕ANN研討帶有濃重的戰(zhàn)略和閱歷顏色?！?〕ANN與傳統(tǒng)技術(shù)的接口不成熟。2.生物神經(jīng)元神經(jīng)元是大腦處置信息的根本單元人腦大約由1011個(gè)神經(jīng)元組成，神經(jīng)元相互銜接成神經(jīng)網(wǎng)絡(luò)神經(jīng)元以細(xì)胞體為主體，由許多向周圍延伸的不規(guī)那么樹枝狀纖維構(gòu)成的神經(jīng)細(xì)胞，其外形很像一棵枯樹的枝干神經(jīng)元主要由細(xì)胞體、樹突、軸突和突觸組成生物神經(jīng)元表示圖細(xì)胞體用于處置從其他神經(jīng)元傳送過來的信息軸突相當(dāng)于神經(jīng)元的輸出電纜，利用尾部的神經(jīng)末梢和梢端的突觸輸出樹突神經(jīng)元的輸入端突觸神經(jīng)元之間相互銜接的接口，即一個(gè)神經(jīng)元的神經(jīng)末梢與另一個(gè)神經(jīng)元的樹突相接觸的交接面突觸的信息處置神經(jīng)元各組成部分的功能來看，信息的處置與傳送主要發(fā)生在突觸附近神經(jīng)元細(xì)胞體經(jīng)過軸突將脈沖傳送到突觸前膜當(dāng)脈沖幅度到達(dá)一定強(qiáng)度，即超越其閾值電位后，突觸前膜將向突觸間隙釋放神經(jīng)傳送的化學(xué)物質(zhì)生物神經(jīng)元傳送信息的過程為多輸入、單輸出突觸有兩種類型：興奮性突觸和抑制性突觸。前者產(chǎn)生正突觸后電位，后者產(chǎn)生負(fù)突觸后電位突觸的傳送功能與特點(diǎn)不可逆性脈沖只從突觸前傳到突觸后，不逆向傳送對(duì)信息傳送具有時(shí)延和不應(yīng)期，普通為0.3～lms相鄰的兩次輸入之間，需求一定的間隔；在此間隔內(nèi)，突觸不傳送信息可塑性突觸傳送信息的強(qiáng)度是可變的，即具有學(xué)習(xí)功能學(xué)習(xí)、遺忘或疲勞〔飽和〕效應(yīng)對(duì)應(yīng)突觸傳送作用加強(qiáng)、減弱和飽和生物神經(jīng)網(wǎng)絡(luò)根本模型3.人工神經(jīng)元人工神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)是一個(gè)并行和分布式的信息處置網(wǎng)絡(luò)構(gòu)造它普通由大量神經(jīng)元組成每個(gè)神經(jīng)元只需一個(gè)輸出，可以銜接到很多其他的神經(jīng)元每個(gè)神經(jīng)元的輸入有多個(gè)銜接通道，每個(gè)銜接通道對(duì)應(yīng)于一個(gè)銜接權(quán)系數(shù)M-P神經(jīng)元模型心思學(xué)家麥克洛奇(W.McCulloch)和數(shù)理邏輯學(xué)家皮茲(W.Pitts)于1943年首先提出了一個(gè)簡(jiǎn)化的神經(jīng)元模型,稱為M-P模型y……興奮性輸入e抑制性輸入i闡明圓表示神經(jīng)元的細(xì)胞體；外部輸入包括興奮性輸入和抑制性輸入符號(hào)θ表示神經(jīng)元興奮的閾值M-P模型的輸入輸出關(guān)系常用的神經(jīng)元構(gòu)造模型…模型闡明閾值函數(shù)S型函數(shù)雙曲正切函數(shù)4.人工神經(jīng)網(wǎng)絡(luò)的互聯(lián)構(gòu)造ANN可分為兩種相互銜接網(wǎng)絡(luò)分層網(wǎng)絡(luò)單層兩層網(wǎng)絡(luò)構(gòu)造多層網(wǎng)絡(luò)構(gòu)造相互銜接網(wǎng)絡(luò)典型的網(wǎng)絡(luò)構(gòu)造單層網(wǎng)絡(luò)多層前向網(wǎng)絡(luò)帶側(cè)抑制的多層