人腦與人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)網(wǎng)絡(luò)與應(yīng)用（ArtficialNeuralNetwork—ANN）參考書目：人工神經(jīng)網(wǎng)絡(luò)楊行峻鄭君顯高教出版社人工神經(jīng)網(wǎng)絡(luò)及應(yīng)用袁曾任清華大學(xué)出版社人工神經(jīng)網(wǎng)絡(luò)的模型及其應(yīng)用張立明復(fù)旦大學(xué)出版社神經(jīng)網(wǎng)絡(luò)系統(tǒng)理論及其應(yīng)用沈世益神經(jīng)元網(wǎng)絡(luò)控制王永驥涂健機(jī)械工業(yè)出版神經(jīng)網(wǎng)絡(luò)的綜合基礎(chǔ)SimonHaykin英原版神經(jīng)網(wǎng)絡(luò)理論焦李或西安電子科大版人工神經(jīng)網(wǎng)絡(luò)理論設(shè)計(jì)及應(yīng)用韓力群化學(xué)工業(yè)版1緒論1.1人工神經(jīng)網(wǎng)絡(luò)概述人類大腦分為兩個(gè)半球（左半球-左腦；右半球-右腦）,左腦支配人體的右側(cè),右腦支配人體的左側(cè),大腦受傷會使它支配的那部分身體產(chǎn)生功能障礙。為什么右腦損傷的人喪失音樂能力，但能說話？為什么左腦損傷的人難以說話，卻仍能唱歌？為什么許多藝術(shù)大師（達(dá).芬奇、米開朗琪羅、畢加索等）都習(xí)慣使用左手？左右腦具有不同的功能。左腦不僅是語言中樞，還能從事分析性的工作，例如邏輯推理、數(shù)學(xué)運(yùn)算和寫作等。右腦善于處理空間概念和模式識別(識別面孔、圖案、曲調(diào)、色彩等)，還擅長創(chuàng)造性的活動。左半球傾向于按順序處理信息，右半球卻習(xí)慣同時(shí)處理信息。

人們常常認(rèn)為，邏輯思維和分析能力比感性認(rèn)識更為重要，反映在教育上就是把注奮力集中在“讀、寫、算”這些左腦的功能上。有一所美國的小學(xué)讓學(xué)生用一半時(shí)間學(xué)習(xí)藝術(shù)，用另一半時(shí)間學(xué)習(xí)科學(xué)，結(jié)果學(xué)生的科學(xué)課程的成績明顯提高。這表明，花時(shí)間發(fā)展右腦的功能將有助于改善左腦的功能。實(shí)際上，只有左右腦完美配合，才能產(chǎn)生最有效率的創(chuàng)造性活動。

語言學(xué)習(xí)中充分發(fā)揮大腦功能的一種方法是快速閱讀。逐字逐句的緩慢閱讀是發(fā)揮左腦的功能，而快速閱讀是發(fā)揮右腦的功能，快速閱讀獲得的信息是從整體上被理解的，這樣就能提高對文字的理解程度。換句話說，如果你發(fā)現(xiàn)一篇文章很難理解，你就應(yīng)該讀得更快一些。

近十年來，由于當(dāng)代科學(xué)技術(shù)的突飛猛進(jìn)，人類一年創(chuàng)造的財(cái)富是20世紀(jì)初的19倍。人類是否會以此速率，繼續(xù)創(chuàng)造發(fā)明，越來越聰明呢？

研究未來學(xué)的一個(gè)英國科研小組提出，人類大腦的進(jìn)化已接近極限。也就是說，未來人類不會比現(xiàn)在的人聰明很多。該科研小組根據(jù)人類大腦進(jìn)化數(shù)學(xué)模型分析指出：人的神經(jīng)元數(shù)與神經(jīng)網(wǎng)絡(luò)規(guī)模，決定人的大腦接受、處理、利用信息的能力，也就決定人的聰明程度。

但有些科學(xué)家不同意這觀點(diǎn)，認(rèn)為在知識經(jīng)濟(jì)的時(shí)代，人類接受信息處理能力的極大提高，會促使大腦進(jìn)化出現(xiàn)結(jié)構(gòu)性變化。認(rèn)為人的不同區(qū)域的神經(jīng)元與神經(jīng)網(wǎng)絡(luò)可能出現(xiàn)進(jìn)一步分工以提高信息接受與處理效率，這很可能使未來的人類比今天的人類聰明得多。人類大腦一直在進(jìn)化

一項(xiàng)新的研究發(fā)現(xiàn)，人類的大腦仍在進(jìn)化之中，研究人員跟蹤研究了被認(rèn)為是有助于控制大腦生長的兩種基因(mi-cro-cephalic和VASPM)的變化，這種變化在20萬年前現(xiàn)代人出現(xiàn)后就一直存在。

人類的大腦比其他動物發(fā)達(dá)，這是人類的特征。直到5800年前，人的大腦仍在進(jìn)化，而且現(xiàn)在可能也仍在進(jìn)化之中。美國芝加哥大學(xué)的遺傳學(xué)家認(rèn)為:人類已經(jīng)到了進(jìn)化的頂峰，事實(shí)上不進(jìn)化幾乎是不可能的。

科學(xué)家發(fā)現(xiàn)，微腦磷脂基因發(fā)生變異是在大約37000年前，當(dāng)時(shí)正是藝術(shù)、音樂和工具制造出現(xiàn)的時(shí)期。而ASPM基因發(fā)生變異的時(shí)間是在大約5800年前，基本上和書面語言的發(fā)展、農(nóng)業(yè)的擴(kuò)展和城市的發(fā)展處在同一時(shí)期。學(xué)者推測人類最近的基因進(jìn)化在某些方面可能與文化的進(jìn)化有關(guān)。

多年來,人類試圖向生物學(xué)習(xí),尋求更理想的有效發(fā)明,為人類服務(wù).而人的大腦是自然界所造就的最高級產(chǎn)物，科學(xué)家們希望開發(fā)出像人腦的機(jī)器來代替人類工作,以尋求更神奇的文明和進(jìn)步.

人工智能工程可看成是對人類左腦功能研究，主要基于邏輯思維，如電子計(jì)算機(jī)就是模擬人腦邏輯思維的人工智能系統(tǒng).

現(xiàn)行計(jì)算機(jī)運(yùn)算速度是人腦神經(jīng)元速度的幾百萬倍，善長各種數(shù)值運(yùn)算和邏輯運(yùn)算，極大地拓展了人腦的能力，所以譽(yù)為“電腦”。

迄今為止，計(jì)算機(jī)在解決與形象思維和靈感思維相關(guān)的問題時(shí)，卻顯得無能為力。例如人腦識別（見面認(rèn)識），騎自行車、打籃球等涉及聯(lián)想或經(jīng)驗(yàn)的問題，人腦可以從中體會那些只可意會、不便言傳的直覺與經(jīng)驗(yàn)，可根據(jù)情況靈活掌握處理問題的規(guī)則，從而輕而易舉地完成此類任務(wù)，而計(jì)算機(jī)在這方面則顯得十分笨拙。

人工神經(jīng)網(wǎng)絡(luò)則是探索人的形象思維，即針對右腦的認(rèn)知規(guī)律的研究產(chǎn)物。

比較人腦與“電腦”的信息處理能力，會發(fā)現(xiàn)“電腦”和人腦存在很大的差距。反映在多個(gè)方面:

記憶與聯(lián)想能力方面:人腦具有非凡的創(chuàng)造能力。良好的學(xué)習(xí)和認(rèn)知能力（剛生嬰兒大腦幾乎空白，但是在成長中通過對外界環(huán)境的感知及意識，知識和經(jīng)驗(yàn)與日俱增）。

信息綜合能力方面：人腦善于知識歸納，類比和概括，也可以是經(jīng)驗(yàn)地、模糊地甚至是直覺地做出判斷等。

信息處理速度方面：人腦中的信息處理是以神經(jīng)細(xì)胞為單位，而神經(jīng)細(xì)胞的傳遞速度只能達(dá)毫秒級，比計(jì)算機(jī)電子元件納秒級的計(jì)算速度慢得多。實(shí)際上數(shù)值處理方面確實(shí)如此。但在圖形聲音等類信息的處理方面則不同。如幾個(gè)月嬰兒從人群中一眼認(rèn)出母親，而計(jì)算機(jī)解決此類問題則需要一幅具有幾百萬個(gè)像素的逐點(diǎn)處理，并提取臉譜特征進(jìn)行識別，等等。

關(guān)健一點(diǎn)是人腦與電腦的信息處理機(jī)制不同，人腦中的神經(jīng)網(wǎng)絡(luò)是一種高度并行的非線性信息處理系統(tǒng)，雖然單個(gè)神經(jīng)信息處理速度為毫秒級，但大規(guī)模神經(jīng)細(xì)胞（人腦有約1.4×10１１個(gè)）的群體協(xié)同并行處理方式是高效的．而計(jì)算機(jī)采用的是有限集中的串行信息處理機(jī)制（基于馮．諾依曼工作原理VonNeumann）。即存儲器與處理器相互獨(dú)立，處理信息必須是形式化信息（用二進(jìn)制定義）。

布滿人類大腦皮層上的神經(jīng)細(xì)胞亦稱為神經(jīng)元。每個(gè)神經(jīng)元有數(shù)以千計(jì)的通道同其他神經(jīng)元互連，形成復(fù)雜的生物神經(jīng)網(wǎng)絡(luò)。生物神經(jīng)網(wǎng)絡(luò)以神經(jīng)元為基本信息處理單元，對信息進(jìn)行分布式存儲與加工。這處信息加工與存儲相結(jié)合的群體協(xié)同工作方式使得人腦呈現(xiàn)出神奇智能。為了模擬人腦形象思維方式，人們從模擬人腦生物神經(jīng)網(wǎng)絡(luò)的信息存儲加工處理機(jī)制入手，設(shè)計(jì)具有人類思維特點(diǎn)的智能機(jī)器，無疑是最有希望的途經(jīng)之一。ANN定義:(目前定義尚不統(tǒng)一。)ANN是

以數(shù)學(xué)和物理方法以及信息處理的角度對人腦神經(jīng)網(wǎng)絡(luò)進(jìn)行抽象，并建立某種簡化模型。ANN是生物學(xué)上的真實(shí)人腦神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)以及若干基本特性的某種理論抽象，簡化模擬而構(gòu)成的一種信息處理系統(tǒng)。ANN是采用物理可實(shí)現(xiàn)的系統(tǒng)來模仿人腦神經(jīng)細(xì)胞和結(jié)構(gòu)和功能的系統(tǒng)。應(yīng)該明確:ANN遠(yuǎn)不是人腦生物神經(jīng)網(wǎng)絡(luò)的真實(shí)寫照，而只是對它的簡化，抽象與模擬。目前已提出上百種ANN模型，這些簡化模型的確能反映出人腦的許多基本特征。它們在模式識別、系統(tǒng)辨識、信號處理、自動控制、組合優(yōu)化、預(yù)測估計(jì)、故障診斷、醫(yī)學(xué)與經(jīng)濟(jì)學(xué)等許多領(lǐng)域已成功地解決了許多用計(jì)算機(jī)等方法難解決的實(shí)際問題，表現(xiàn)出良好的智能特征和潛在的應(yīng)用前景。人工神經(jīng)網(wǎng)絡(luò)應(yīng)用系統(tǒng)的研究，需要硬件制作技術(shù)的新突破，以便制作出ANN設(shè)備，據(jù)報(bào)道神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)已取得令人矚目的進(jìn)展。ANN的研究內(nèi)容極具豐富，涉及的面寬而又有相當(dāng)深的理論有待進(jìn)一步研究（涉及多學(xué)科知識）。研究內(nèi)容大體上有基本理論、模型、算法、應(yīng)用和實(shí)現(xiàn)等五大方面，每方面都有很多問題尚未解決或完善解決，尚需用各種方法從各方面開展對ANN進(jìn)行更深入研究。1.2人工神經(jīng)網(wǎng)絡(luò)發(fā)展簡史ＡＮＮ發(fā)展可劃分四個(gè)時(shí)期（早期、低潮期、復(fù)興時(shí)期、新時(shí)期）。早期（啟蒙時(shí)期）

1943年,美國心理學(xué)家W.S.MeCuLLoch和數(shù)學(xué)家W.H.Pitts合作,在分析總結(jié)神經(jīng)元基本特性的基礎(chǔ)上，提出神經(jīng)元數(shù)學(xué)模型，簡稱MP模型。從腦科學(xué)研究來看，MP模型是第一個(gè)用數(shù)理語言描述人腦的信息處理過程的模型。后來此模型又有發(fā)展，至今沿用——人工神經(jīng)網(wǎng)絡(luò)之先驅(qū)。

1957年,F.Rosenblatt設(shè)計(jì)制作了“感知機(jī)”（Perceptron），是一種三層神經(jīng)網(wǎng)絡(luò)。用于文字、聲音識別、聲納信號識別，及學(xué)習(xí)記憶問題研究。1962年,Widrow和Hoff等提出了自適應(yīng)線性元件網(wǎng)絡(luò)，簡稱Adline（AdaptiveLinearelemlnt），用硬件電路實(shí)現(xiàn)設(shè)計(jì)，用于自適應(yīng)信號處理，雷達(dá)無線控制等方面。低潮期

20世紀(jì)60年代末期，人們對感知機(jī)興趣開始衰落，即線性感知機(jī)功能有限，只能進(jìn)行線性分類和求解一階謂詞問題，不能進(jìn)行非線性分類和解決比較復(fù)雜的高階謂詞問題（如異或（XOR）等）。典型代表人物：Minsky和Papert（美麻省理工學(xué)院著名人工智能學(xué)者）（作了大量數(shù)學(xué)研究，在當(dāng)時(shí)技術(shù)條件下，他們在多層網(wǎng)絡(luò)的有效學(xué)習(xí)方法上遇到了極大困難），由于Minsky在學(xué)術(shù)界的地位和影響其悲觀論點(diǎn)極大地影響了當(dāng)時(shí)ANN研究，為剛?cè)计鸬腁NN之火，潑了一盆冷水。不久幾乎所有為神經(jīng)網(wǎng)絡(luò)提供的研究基金都枯竭了。很多領(lǐng)域的專家紛紛放棄了這方面課題的研究，開始了神經(jīng)網(wǎng)絡(luò)發(fā)展史上長達(dá)10年的低潮期。

值得慶幸，仍有不少科學(xué)家在極其困難的條件下堅(jiān)持不懈研究，在２０世紀(jì)70年代，主要是提出了各種不同的網(wǎng)絡(luò)模型，開展了人工神經(jīng)網(wǎng)絡(luò)理論研究，網(wǎng)絡(luò)功能研究和各種學(xué)習(xí)算法研究。為后來研究神經(jīng)網(wǎng)絡(luò)理論、數(shù)學(xué)模型和體系結(jié)構(gòu)打下了堅(jiān)實(shí)的基礎(chǔ)。（神經(jīng)網(wǎng)絡(luò)研究處于低潮的更主要原因，應(yīng)該是70年代以來集成電路和微電子技術(shù)的迅猛發(fā)展，使傳統(tǒng)的VonNedman