人工神經(jīng)網(wǎng)絡(luò)概念

人工神經(jīng)網(wǎng)絡(luò)概念第1頁/共11頁人工神經(jīng)網(wǎng)絡(luò)的基本概念:

定義：人工神經(jīng)網(wǎng)絡(luò)是由具有適應(yīng)性的簡(jiǎn)單單元組成的廣泛并行互連的網(wǎng)絡(luò)，它的組織能夠模擬生物神經(jīng)系統(tǒng)對(duì)真實(shí)世界物體所作出的交互反應(yīng)。

它的構(gòu)筑理念是受到生物（人或其他動(dòng)物）神經(jīng)網(wǎng)絡(luò)功能的運(yùn)作啟發(fā)而產(chǎn)生的。人工神經(jīng)網(wǎng)絡(luò)第2頁/共11頁據(jù)估計(jì)人腦約有一千億個(gè)神經(jīng)細(xì)胞，每個(gè)神經(jīng)細(xì)胞約有一千根連結(jié)與其它神經(jīng)細(xì)胞相連，因此人腦中約有一百萬億（1014）根連結(jié)，形成一個(gè)高度連結(jié)網(wǎng)狀的神經(jīng)網(wǎng)路。

科學(xué)家們相信：人腦的信息處理工作即是透過這些連結(jié)來完成的。人工神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)第3頁/共11頁神經(jīng)細(xì)胞的形狀與一般的細(xì)胞有很大的不同，它包括：

細(xì)胞體：神經(jīng)細(xì)胞中呈核狀的處理機(jī)構(gòu)。

軸突：神經(jīng)細(xì)胞中呈軸索狀的輸送機(jī)構(gòu)。

樹突：神經(jīng)細(xì)胞中呈樹枝狀的輸出入機(jī)構(gòu)。

突觸：樹狀突上呈點(diǎn)狀的連結(jié)機(jī)構(gòu)。人工神經(jīng)網(wǎng)絡(luò)第4頁/共11頁根據(jù)神經(jīng)學(xué)家的研究發(fā)現(xiàn)：當(dāng)神經(jīng)細(xì)胞透過神經(jīng)突觸與樹突從其它神經(jīng)元輸入脈波訊號(hào)后，經(jīng)過細(xì)胞體處理，產(chǎn)生一個(gè)新的脈波訊號(hào)。如果脈波訊號(hào)夠強(qiáng)，將產(chǎn)生一個(gè)約千分之一秒100毫伏的脈波訊號(hào)。這個(gè)訊號(hào)再經(jīng)過軸突傳送到它的神經(jīng)突觸，成為其它神經(jīng)細(xì)胞的輸入脈波訊號(hào)。如果脈波訊號(hào)是經(jīng)過興奮神經(jīng)突觸，則會(huì)增加脈波訊號(hào)的速率；相反的，如果脈波訊號(hào)是經(jīng)過抑制神經(jīng)突觸，則會(huì)減少脈波訊號(hào)的速率。因此，脈波訊號(hào)的速率是同時(shí)取決于輸入脈波訊號(hào)的速率，以及神經(jīng)突觸的強(qiáng)度。而神經(jīng)突觸的強(qiáng)度可視為神經(jīng)網(wǎng)路儲(chǔ)存的信息，神經(jīng)網(wǎng)路的學(xué)習(xí)即在調(diào)整神經(jīng)突觸的強(qiáng)度。人工神經(jīng)網(wǎng)絡(luò)第5頁/共11頁人工神經(jīng)網(wǎng)絡(luò)，是一種模仿生物神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和功能的數(shù)學(xué)模型或計(jì)算模型。神經(jīng)網(wǎng)絡(luò)由大量的人工神經(jīng)元聯(lián)結(jié)進(jìn)行計(jì)算。大多數(shù)情況下人工神經(jīng)網(wǎng)絡(luò)能在外界信息的基礎(chǔ)上改變內(nèi)部結(jié)構(gòu)，是一種自適應(yīng)系統(tǒng)?，F(xiàn)代神經(jīng)網(wǎng)絡(luò)是一種非線性統(tǒng)計(jì)性數(shù)據(jù)建模工具，常用來對(duì)輸入和輸出間復(fù)雜的關(guān)系進(jìn)行建模，或用來探索數(shù)據(jù)的模式。

人工神經(jīng)網(wǎng)絡(luò)由大量的節(jié)點(diǎn)（或稱“神經(jīng)元”，或“單元”）和之間相互聯(lián)接構(gòu)成。每個(gè)節(jié)點(diǎn)代表一種特定的輸出函數(shù)，稱為激勵(lì)函數(shù)。每?jī)蓚€(gè)節(jié)點(diǎn)間的連接都代表一個(gè)對(duì)于通過該連接信號(hào)的加權(quán)值，稱之為權(quán)重，這相當(dāng)于人工神經(jīng)網(wǎng)絡(luò)的記憶。網(wǎng)絡(luò)的輸出則依網(wǎng)絡(luò)的連接方式，權(quán)重值和激勵(lì)函數(shù)的不同而不同。而網(wǎng)絡(luò)自身通常都是對(duì)自然界某種算法或者函數(shù)的逼近，也可能是對(duì)一種邏輯策略的表達(dá)。人工神經(jīng)網(wǎng)絡(luò)第6頁/共11頁人工神經(jīng)網(wǎng)絡(luò)神經(jīng)元示意圖一個(gè)神經(jīng)元的功能：求得輸入向量與權(quán)向量的內(nèi)積后，經(jīng)一個(gè)非線性傳遞函數(shù)得到一個(gè)標(biāo)量結(jié)果。單個(gè)神經(jīng)元的作用：把一個(gè)n維向量空間用一個(gè)超平面分割成兩部分（稱之為判斷邊界），給定一個(gè)輸入向量，神經(jīng)元可以判斷出這個(gè)向量位于超平面的哪一邊。a1~an為輸入向量的各個(gè)分量w1~wn為神經(jīng)元各個(gè)突觸的權(quán)值b為偏置f為傳遞函數(shù)，通常為非線性函數(shù)。t為神經(jīng)元輸出第7頁/共11頁人工神經(jīng)網(wǎng)絡(luò)(4)神經(jīng)元的狀態(tài)受其相連的神經(jīng)元制約，當(dāng)從這些神經(jīng)元傳來的輸入訊號(hào)（即該神經(jīng)元的狀態(tài)）經(jīng)過連結(jié)以加權(quán)乘積和計(jì)算所得的值大于某門坎值（threshold）時(shí)，神經(jīng)元的狀態(tài)將成為興奮狀態(tài)；否則，為抑制狀態(tài)。(5)神經(jīng)網(wǎng)路的學(xué)習(xí)過程即在調(diào)整神經(jīng)元間的連結(jié)強(qiáng)度，即連結(jié)加權(quán)值。模型的要點(diǎn)如下：(1)神經(jīng)元的狀態(tài)為興奮或抑制二者之一，可用0表示抑制狀態(tài)，用1表示興奮狀態(tài)。(2)神經(jīng)元與其它神經(jīng)元間的連結(jié)，可用一個(gè)加權(quán)值（weight）表示連結(jié)強(qiáng)度。(3)神經(jīng)元的狀態(tài)會(huì)經(jīng)由連結(jié)輸出到其它神經(jīng)元，成為其輸入。第8頁/共11頁特點(diǎn)：

信息處理在大量簡(jiǎn)單的處理單元(稱為細(xì)胞元)之間進(jìn)行；

通過它們之間的連接傳送細(xì)胞元之間的信號(hào)；

各連接具有一個(gè)相應(yīng)的加權(quán)，其值通常與輸入信號(hào)相乘；

各細(xì)胞元利用一個(gè)稱之為“激勵(lì)函數(shù)”來處理