智能控制課題演講

看作有向圖的

神經(jīng)網(wǎng)絡(luò)主講人：陳俊龍小組成員：陳日暢、鄭啟、譚玉堃、周財(cái)、毛杰、周桂獒、孫強(qiáng)、安軍、秦朝、周正、何春燕、黃靜、李媛、張?jiān)?、張知?2概念信息流圖目錄

/contents21345樹(shù)網(wǎng)絡(luò)線性表圖神經(jīng)Partone第一章概念線性表：

線性表（linearlist）是具有相同類型的n（n≥0）個(gè)數(shù)據(jù)元素a0，a1，…an-1組成的有限序列。其中n稱為線性表的長(zhǎng)度，當(dāng)n=0時(shí)稱為空線性表，n>0時(shí)稱為非空表。在線性表中，數(shù)據(jù)元素之間僅有線性關(guān)系，即每個(gè)數(shù)據(jù)元素只有一個(gè)直接前驅(qū)和一個(gè)直接后繼。從線性表的定義可以看出線性表的特征：（1）有且僅有一個(gè)開(kāi)始結(jié)點(diǎn)(表頭結(jié)點(diǎn))a0，它沒(méi)有直接前驅(qū)，只有一個(gè)直接后繼;（2）有且僅有一個(gè)終端結(jié)點(diǎn)(表尾結(jié)點(diǎn))an-1，它沒(méi)有直接后繼，只有一個(gè)直接前驅(qū);（3）其它結(jié)點(diǎn)都有一個(gè)直接前驅(qū)和直接后繼；（4）元素之間為一對(duì)一的線性關(guān)系。特征二級(jí)標(biāo)題頁(yè)樹(shù)：樹(shù)(Tree)是n(n≥0)個(gè)結(jié)點(diǎn)的有限集T，T為空時(shí)稱為空樹(shù)，否則它滿足如下兩個(gè)條件：(1)有且僅有一個(gè)特定的稱為根(Root)的結(jié)點(diǎn)；(2)其余的結(jié)點(diǎn)可分為m(m≥0)個(gè)互不相交的子集Tl，T2，…，Tm，其中每個(gè)子集本身又是一棵樹(shù)，并稱其為根的子樹(shù)(Subree)。特征

樹(shù)形結(jié)構(gòu)的邏輯特征可用樹(shù)中結(jié)點(diǎn)之間的父子關(guān)系來(lái)描述：（1）樹(shù)中任一結(jié)點(diǎn)都可以有零個(gè)或多個(gè)直接后繼(即孩子)結(jié)點(diǎn)，但至多只能有一個(gè)直接前趨(即雙親)結(jié)點(diǎn)。（2）樹(shù)中只有根結(jié)點(diǎn)無(wú)前趨，它是開(kāi)始結(jié)點(diǎn)；葉結(jié)點(diǎn)無(wú)后繼，它們是終端結(jié)點(diǎn)。（3）祖先與子孫的關(guān)系是對(duì)父子關(guān)系的延拓，它定義了樹(shù)中結(jié)點(diǎn)之間的縱向次序。（4）有序樹(shù)中，同一組兄弟結(jié)點(diǎn)從左到右有長(zhǎng)幼之分。圖：圖（Graph）是一種較線性表和樹(shù)更為復(fù)雜的數(shù)據(jù)結(jié)構(gòu)。在線性表中，數(shù)據(jù)元素之間僅有線性關(guān)系，即每個(gè)數(shù)據(jù)元素只有一個(gè)直接前驅(qū)和一個(gè)直接后繼；在樹(shù)形結(jié)構(gòu)中，數(shù)據(jù)元素之間有著明顯的層次關(guān)系，雖然每一層上的數(shù)據(jù)元素可能和下一層中多個(gè)元素（孩子）相關(guān)，但只能和上一層中一個(gè)元素（雙親）相關(guān)；而在圖形結(jié)構(gòu)中，結(jié)點(diǎn)之間的關(guān)系可以是任意的，任意兩個(gè)數(shù)據(jù)元素之間都可能相關(guān)。圖在各個(gè)領(lǐng)域都有著廣泛的應(yīng)用,如電路網(wǎng)絡(luò)分析、交通運(yùn)輸、管理與線路的鋪設(shè)、印刷電路板與集成電路的布線等眾多直接與圖有關(guān)的問(wèn)題，它們必須用圖的有關(guān)方法進(jìn)行處理；另外像工作的分配、工程進(jìn)度的安排、課程表的制訂、關(guān)系數(shù)據(jù)庫(kù)的設(shè)計(jì)等許多實(shí)際問(wèn)題。這些技術(shù)領(lǐng)域都是把圖作為解決問(wèn)題的主要數(shù)學(xué)手段來(lái)使用，因此，如何在計(jì)算機(jī)中表示和處理圖結(jié)構(gòu)，就是計(jì)算機(jī)科學(xué)需研究的一項(xiàng)重要課題。

無(wú)向圖一個(gè)無(wú)向圖G是一個(gè)二元組<V,E>即G=<V,E>,其中:①.V是一個(gè)非空集合,稱為G的頂點(diǎn)集,V中元素稱為頂點(diǎn)或結(jié)點(diǎn);②.E是無(wú)序積V&V的一個(gè)多重子集,稱E為G的邊集,E中元素稱為無(wú)向邊或簡(jiǎn)稱邊。例：給定無(wú)向圖G＝<V,E>，其中V＝{v1,v2,v3,v4,v5}，

E={(v1,v1),(v1,v2),(v2,v3),(v2,v3),(v2,v5),(v1,v5),(v4,v5)}.

有向圖一個(gè)有向圖D是一個(gè)二元組<V,E>即D=<V,E>,其中：①.V同無(wú)向圖中的頂點(diǎn)集;②.E是笛卡兒積的多重子集,其元素稱為有向邊,也簡(jiǎn)稱邊.例：給定有向圖D=<V,E>，其中V＝{a,b,c,d}，E＝{<a,a>,<a,b>,<a,b>,<a,d>,<c,d>,<d,c>,<c,b>}。

網(wǎng)絡(luò)(Network)：

若將圖的每條邊都賦上一個(gè)權(quán)，則稱這種帶權(quán)圖為網(wǎng)絡(luò)(Network)。注意：權(quán)是表示兩個(gè)頂點(diǎn)之間的距離、耗費(fèi)等具有某種意義的數(shù)?！纠肯聢D就是一個(gè)網(wǎng)絡(luò)的例子。神經(jīng)（生物學(xué)解釋）

神經(jīng)（Nerve）是由聚集成束的神經(jīng)纖維所構(gòu)成，而神經(jīng)纖維本身構(gòu)造是由神經(jīng)元的軸突外被神經(jīng)膠質(zhì)細(xì)胞所形成的髓鞘包覆；其中許多神經(jīng)纖維聚集成束，外面包著由結(jié)締組成的膜，就成為一條神經(jīng)。神經(jīng)系統(tǒng)主要由三大系統(tǒng)組成，即中樞神經(jīng)系統(tǒng)、腦神經(jīng)、脊神經(jīng)。各系統(tǒng)之間以中樞神經(jīng)系統(tǒng)為中心，分工協(xié)同，共同實(shí)現(xiàn)心理功能。第章信號(hào)流圖2PARTTWO信號(hào)流圖

信號(hào)流圖是一個(gè)由在一些特定的稱為節(jié)點(diǎn)的點(diǎn)之間相連的有向連接（分支）組成的網(wǎng)絡(luò)。一個(gè)典型的節(jié)點(diǎn)j有一個(gè)相應(yīng)的節(jié)點(diǎn)信號(hào)xj。一個(gè)典型的有向連接從節(jié)點(diǎn)j開(kāi)始，到k節(jié)點(diǎn)結(jié)束。它有相應(yīng)的傳遞函數(shù)或傳遞系數(shù)以確定節(jié)點(diǎn)k的信號(hào)yk依賴于節(jié)點(diǎn)j的信號(hào)xj的方式。圖形中各部分的信號(hào)流動(dòng)遵循三條基本規(guī)則。規(guī)則1

信號(hào)僅僅沿著定義好的箭頭方向在連接上流動(dòng)。兩種不同類型的連接可以區(qū)別開(kāi)來(lái)：突觸連接它的行為由線性輸入輸出關(guān)系決定。具體來(lái)說(shuō)，如圖a所示，節(jié)點(diǎn)信號(hào)yk由節(jié)點(diǎn)信號(hào)xj乘以突觸權(quán)值wkj產(chǎn)生。激活連接它的行為一般由非線性輸入輸出關(guān)系決定。如圖b所示，其中φ(·)為非線性激活函數(shù)。規(guī)則2

節(jié)點(diǎn)信號(hào)等于經(jīng)由連接進(jìn)入的有關(guān)節(jié)點(diǎn)的所有信號(hào)的代數(shù)和。這個(gè)規(guī)則通過(guò)如圖c所示的突觸會(huì)聚或扇入的情形來(lái)說(shuō)明。規(guī)則3

節(jié)點(diǎn)信號(hào)沿每個(gè)外向連接向外傳遞，此時(shí)傳遞的信號(hào)完全獨(dú)立于外向連接的傳遞函數(shù)。神經(jīng)網(wǎng)絡(luò)是由具有互相連接的突觸節(jié)點(diǎn)和激活連接構(gòu)成的有向圖，具有4個(gè)主要特征：1.每個(gè)神經(jīng)元可表示為一組線性的突觸連接，一個(gè)外部應(yīng)用偏置，以及可能的非線性激活連接。偏置由和一個(gè)固定為+1的輸入連接的突觸連接表示。2.神經(jīng)元的突觸連接給它們相應(yīng)的輸入信號(hào)加權(quán)。3.輸入信號(hào)的加權(quán)和構(gòu)成該神經(jīng)元的誘導(dǎo)局部域。4.激活連接壓制神經(jīng)元的誘導(dǎo)局部域產(chǎn)生輸出。一個(gè)如此定義的有向圖是完全的，這是指它不僅僅描述了神經(jīng)元間的信號(hào)流，也描述了每個(gè)神經(jīng)元內(nèi)部的信號(hào)流。但是當(dāng)我們的注意集中在神經(jīng)元之間的信號(hào)流上時(shí)，可以使用這個(gè)圖的一個(gè)簡(jiǎn)略形式，它省略神經(jīng)元內(nèi)部的信號(hào)流的細(xì)節(jié)。這樣的有向圖是局部完全的,它的特征是：1.源節(jié)點(diǎn)向圖提供輸入信號(hào)。2.每個(gè)神經(jīng)元由稱為計(jì)算節(jié)點(diǎn)的單個(gè)節(jié)點(diǎn)表示。3.聯(lián)結(jié)圖中源節(jié)點(diǎn)和計(jì)算節(jié)點(diǎn)之間的通信連接沒(méi)有權(quán)值，它們僅僅提供圖中信號(hào)流的方向。這樣定義的一個(gè)局部完全的有向圖就是所謂的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖，描述神經(jīng)網(wǎng)絡(luò)的布局。圖11給出了具有m個(gè)源節(jié)點(diǎn)和一個(gè)用于偏置的、