神經(jīng)網(wǎng)絡(luò)實(shí)驗(yàn)指導(dǎo)

1、神經(jīng)網(wǎng)絡(luò)與智能信息處理實(shí)驗(yàn)指導(dǎo)授課教師： 湯浪平 彭勇 授課班級(jí)：計(jì)算機(jī)科學(xué)與技術(shù) (醫(yī)學(xué)智能信息處理方向)05 授課單位：醫(yī)藥信息工程學(xué)院數(shù)據(jù)決策教研室 授課時(shí)間：2007-2008學(xué)年第二學(xué)期 實(shí)驗(yàn)一 神經(jīng)元轉(zhuǎn)移函數(shù)與nn學(xué)習(xí)規(guī)則1 實(shí)驗(yàn)?zāi)康? 掌握matlab的語(yǔ)言規(guī)則2 matlab編程3 掌握神經(jīng)元轉(zhuǎn)移函數(shù)的含義及其matlab實(shí)現(xiàn)4 掌握nn不同學(xué)習(xí)規(guī)則的差別2 實(shí)驗(yàn)內(nèi)容上機(jī)編程練習(xí) 要求程序具有以下功能：（1）能對(duì)6輸入單節(jié)點(diǎn)網(wǎng)絡(luò)進(jìn)行訓(xùn)練；（2）能選用不同的學(xué)習(xí)規(guī)則和不同的轉(zhuǎn)移函數(shù)；（3）能選用不同的轉(zhuǎn)移函數(shù)；（4）能選用不同的訓(xùn)練樣本。程序調(diào)試通過(guò)后，用習(xí)題中提供的數(shù)據(jù)進(jìn)行訓(xùn)練

2、。訓(xùn)練時(shí)應(yīng)給出每一步的凈輸入和權(quán)向量調(diào)整結(jié)果。3 實(shí)驗(yàn)要求利用matlab熟悉各種轉(zhuǎn)移函數(shù)和學(xué)習(xí)規(guī)則。4 實(shí)驗(yàn)步驟（自己寫）5 實(shí)驗(yàn)總結(jié)閾值型轉(zhuǎn)移函數(shù):非線性轉(zhuǎn)移函數(shù) 單極性：雙極性：分段線性轉(zhuǎn)移函數(shù)：通用學(xué)習(xí)規(guī)則：實(shí)驗(yàn)二 單層感知器1 實(shí)驗(yàn)?zāi)康?.掌握單層感知器的原理2.熟悉單層感知器的功能2 實(shí)驗(yàn)內(nèi)容1.邏輯“與”訓(xùn)練2.邏輯“或”訓(xùn)練3 實(shí)驗(yàn)要求利用matlab熟悉對(duì)邏輯“與”和邏輯“或”求解。邏輯“或”真值表x1 x2 y000011感知器結(jié)構(gòu)1011114 實(shí)驗(yàn)步驟（自己寫）5 實(shí)驗(yàn)總結(jié)參考代碼：%邏輯“與”訓(xùn)練clcclear allx=-1,-1,-1,-1;0,0,1,1;0,

3、1,0,1;%帶權(quán)值的輸入 d=-1,-1,-1,1; %導(dǎo)師信號(hào) w0=-0.1,0.1,0.1' %初始權(quán)值 r=1,1,1,1; %輸出誤差 j=0;while any(r)=0 o(1)=sign(w0'*x(:,1); r(1)=d(1)-o(1); w(:,1)=w0+0.1*(d(1)-o(1)*x(:,1); for i=2:4 o(i)=sign(w(:,i-1)'*x(:,i); r(i)=d(i)-o(i); w(:,i)=w(:,i-1)+0.1*(d(i)-o(i)*x(:,i); end w0=w(:,i); j=j+1;endw,r,j實(shí)驗(yàn)

4、三 多層感知器1 實(shí)驗(yàn)?zāi)康?.掌握多層感知器的原理2.熟悉多層感知器的功能2 實(shí)驗(yàn)內(nèi)容1.邏輯“異或”訓(xùn)練3 實(shí)驗(yàn)要求利用matlab熟悉對(duì)邏輯“異或”求解?！爱惢颉钡恼嬷当韝1 x2 y1 y2 o 0 01 1 00 11 011 00 1 11 11 1 0“異或”問(wèn)題分類雙層感知器 “異或”問(wèn)題要求將其轉(zhuǎn)化為“單層”感知器求解，然后用bp算法求解，比較其區(qū)別。4 實(shí)驗(yàn)步驟（自己寫）5 實(shí)驗(yàn)總結(jié)轉(zhuǎn)化為單層感知器的源代碼：%邏輯“異或”訓(xùn)練clcclear allx=-1,-1,-1,-1;0,0,1,1;0,1,0,1;%帶權(quán)值的輸入 d1=-1,1,-1,-1; d2=1,1,-1,1

5、; %導(dǎo)師信號(hào) w10=-0.1,0.1,0.1' w20=-0.1,0.1,0.1' %初始權(quán)值 r1=1,1,1,1; r1=1,1,1,1; %輸出誤差 j=0;while any(r1)=0|any(r2)=0 o1(1)=sign(w10'*x(:,1);o2(1)=sign(w20'*x(:,1); r1(1)=d1(1)-o1(1);r2(1)=d2(1)-o2(1); w1(:,1)=w10+0.1*(d1(1)-o1(1)*x(:,1); w2(:,1)=w20+0.1*(d2(1)-o2(1)*x(:,1); for i=2:4 o1(i)=

6、sign(w1(:,i-1)'*x(:,i);o2(i)=sign(w2(:,i-1)'*x(:,i); r1(i)=d1(i)-o1(i); r2(i)=d2(i)-o2(i); w1(:,i)=w1(:,i-1)+0.1*(d1(i)-o1(i)*x(:,i); w2(:,i)=w2(:,i-1)+0.1*(d2(i)-o2(i)*x(:,i); end w10=w1(:,i);w20=w2(:,i); j=j+1;endw1,r1,j,w2,r2實(shí)驗(yàn)四 hopfield 神經(jīng)網(wǎng)絡(luò).1 實(shí)驗(yàn)?zāi)康? 掌握離散hopfield網(wǎng)絡(luò)模型、運(yùn)行規(guī)則2 理解hopfield網(wǎng)絡(luò)的穩(wěn)定

7、性分析、吸引子與能量函數(shù)概念3 matlab編程，2個(gè)神經(jīng)元的hopfield網(wǎng)絡(luò)設(shè)計(jì)，不穩(wěn)定平衡點(diǎn)的分析。 4 matlab編程，正確識(shí)別印刷體的數(shù)字或字母.2 實(shí)驗(yàn)內(nèi)容與要求1 2個(gè)神經(jīng)元的hopfield神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)2 hopfield神經(jīng)網(wǎng)絡(luò)不穩(wěn)定平衡點(diǎn)的分析3 matlab編程，設(shè)計(jì)hopfield網(wǎng)絡(luò)正確識(shí)別印刷體的數(shù)字或字母.3 實(shí)驗(yàn)步驟（1）.含有2個(gè)神經(jīng)元的hopfield網(wǎng)絡(luò)的設(shè)計(jì)網(wǎng)絡(luò)所要存儲(chǔ)的目標(biāo)平衡點(diǎn)為一個(gè)矢量t：t1 -1;-1 1參考：matlab中hopfield網(wǎng)絡(luò)的設(shè)計(jì)采用工具箱函數(shù)solvehop()。運(yùn)行網(wǎng)絡(luò)可以看出其權(quán)值是對(duì)稱的。用目標(biāo)向量作為網(wǎng)絡(luò)輸入來(lái)

8、測(cè)試其是否被存儲(chǔ)到網(wǎng)絡(luò)中，網(wǎng)絡(luò)運(yùn)行3次，網(wǎng)絡(luò)的輸出為目標(biāo)矢量。>>ptest=1 -1;-1 1;>>test=simuhop(ptest,w,b,3)test=1-1-11ptest=1 -1;-1 1'net=newhop(ptest);y=-2.8 2.2'out=sim(net,1,5,y)x=out1(1)y=out1(2)plot(x,y,'*')或：ptest=1 -1;-1 1' w b=solvehop(ptest)y=-2.8 2.2'test=simuhop(y,w,b,3)x=test(1)y=te

9、st(2)plot(x,y,'*')（2）觀測(cè)不穩(wěn)定平衡點(diǎn)同上例的網(wǎng)絡(luò)，網(wǎng)絡(luò)存儲(chǔ)的平衡點(diǎn)不變。用任意的隨機(jī)輸入矢量去對(duì)網(wǎng)絡(luò)進(jìn)行測(cè)試時(shí)，在若干次循環(huán)后均能收斂到所設(shè)計(jì)的平衡點(diǎn)上。然而這些并不能保證網(wǎng)絡(luò)沒(méi)有其它平衡點(diǎn)。參考：取所給目標(biāo)矢量連線的垂直平分線上的點(diǎn)作為輸入矢量,所有的輸出最終趨于原點(diǎn)（這是一個(gè)不穩(wěn)定的平衡點(diǎn)）。p-1-0.500.51.0-1-0.500.51.0clear allt=1 -1;-1 1;y=-2.8 2.2;-3.4 4;2.2 -3.5;6 -5;-7 8'y=-0.5531 -0.5531;-2 -2;0 0;0.2765 0.2765;0

10、.5531 0.5531'w b=solvehop(t);a aa=simuhop(y,w,b,5)t54=1 1;-1 1;-1 -1w b=solvehop(t54)a =simuhop(t54,w,b,5)p=-1 -1 -0.5 1 1 0;0 0 0 0 0.01 -0.2;-1 1 0.5 -1.01 -1 0a =simuhop(p,w,b,10)（3）正確識(shí)別印刷體的數(shù)字或字母hopfield神經(jīng)網(wǎng)絡(luò)用于聯(lián)想記憶。假設(shè)希望構(gòu)造一個(gè)聯(lián)想記憶模型。這個(gè)模型能夠識(shí)別印刷體的數(shù)字或字母。參考：例：設(shè)印刷體數(shù)字由10*10點(diǎn)陣構(gòu)成，就是將數(shù)字分成很多小方塊，每個(gè)方塊就對(duì)應(yīng)數(shù)字的一

11、部分，構(gòu)成數(shù)字本部分的方塊用1表示，空白處用-1表示。試設(shè)計(jì)一個(gè)hopfield網(wǎng)絡(luò)，能夠正確識(shí)別印刷體的數(shù)字。 %數(shù)字1的點(diǎn)陣表示one=-1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 -1 -1

12、 -1 -1 -1 -1 1 1 1 1 -1 -1 -1;%數(shù)字2的點(diǎn)陣表示two=1 1 1 1 1 1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1;%設(shè)定網(wǎng)絡(luò)的目標(biāo)向量t=o

13、ne;two'%創(chuàng)建一個(gè)hopfield神經(jīng)網(wǎng)絡(luò)net=newhop(t);%給定一個(gè)受噪聲污染的數(shù)字2的點(diǎn)陣，所謂噪聲是指數(shù)字點(diǎn)陣中某些本應(yīng)為1的方塊變成了-1no2=1 1 1 -1 1 1 -1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 -1 1 -1 1 -1 -1 1 1 -1 -1 -1 -1 1 -1 1 -1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 -1 1 1

14、1 1 -1 -1 1 1 -1 1 1 1 1 1 -1 -1'%對(duì)網(wǎng)絡(luò)進(jìn)行仿真，網(wǎng)絡(luò)的仿真步數(shù)為5tu2 =sim(net,1,5,no2)%輸出仿真結(jié)果向量矩陣中的第3列向量，并將其轉(zhuǎn)置tu23' 程序運(yùn)行后，在命令行窗口得到下面的結(jié)果：ans = columns 1 through 21 1 1 1 1 1 1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 -1 columns 22 through 42 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 1 1 columns 43 throug

15、h 63 1 1 1 1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 1 1 -1 columns 64 through 84 -1 -1 -1 -1 -1 -1 -1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 columns 85 through 100 1 1 1 1 -1 -1 1 1 1 1 1 1 1 1 -1 -1由結(jié)果可以看出所得到的點(diǎn)陣與數(shù)字2的正常點(diǎn)陣是一致的，表明網(wǎng)絡(luò)可以從受到污染的數(shù)字 2的點(diǎn)陣中識(shí)別出數(shù)字2，證明網(wǎng)絡(luò)是有效的。 例：7*8向量表示數(shù)字，以1表示數(shù)字筆畫劃過(guò)的小方塊，以1表示沒(méi)有劃過(guò)。參考：clear al

16、lt7= -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 -1 -1 1 1 1 1 1 -1 -1 1 1 1 1 1 -1 -1 1 1 1 -1 -1 1 1 1 1 1 -1 -1 1 1 1 1 1 -1 -1 1 1't5= -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 1 -1 -1 1 1 1 1 1 -1 -1 1 1 1 1 1 1 -1 -1 -1 -1 1 1 1 1 1 1 1 -1 -1 1 1 1 1 1 -1 -1 -1 -1 -1 -1 -1 1 1't4=

17、-1 -1 1 1 -1 -1 1 -1 -1 1 1 -1 -1 1 -1 -1 1 1 -1 -1 1 -1 -1 1 1 -1 -1 1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 -1 -1 1 1 1 1 1 -1 -1 1't9= 1 1 1 -1 -1 1 1 1 -1 -1 1 1 -1 -1 1 -1 -1 1 1 -1 -1 1 -1 -1 1 1 -1 -1 1 1 -1 -1 -1 -1 -1 1 1 1 1 1 -1 -1 1 1 1 1 1 -1 -1 1 1 1 1 1 -1 -1'test= -

18、1 -1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 -1 -1 1 1 1 1 -1 -1 1 1 1 1 1 -1 -1 1 1 1 1 -1 1 1 1 1 -1 -1 -1 1 1 1 1 -1 -1 -1 1 1 -1 1 1 1 -1 -1 1'subplot(1,6,1)figt(t7)subplot(1,6,2)figt(t5)subplot(1,6,3)figt(t4)subplot(1,6,4)figt(t9)subplot(1,6,5);figt(test1)t=t7 t5 t4 t9t=t7net=newhop(t)y=sim(net,1,10,t

19、est)subplot(1,6,6)figt(y1)%solvehop(t)%y1=y1>0.5%if y1>=0% y1=1%else% y1=-1%end.4 實(shí)驗(yàn)總結(jié)實(shí)驗(yàn)五 智能優(yōu)化算法（tsp問(wèn)題）.1 實(shí)驗(yàn)?zāi)康? 了解組合最優(yōu)化問(wèn)題、np問(wèn)題、np完全問(wèn)題和np難問(wèn)題2 理解局部搜索算法，tsp問(wèn)題3 掌握連續(xù)型hopfield神經(jīng)網(wǎng)絡(luò)、禁忌搜索算法和模擬退火算法.2 實(shí)驗(yàn)內(nèi)容與要求1 對(duì)于老師給出的用matlab實(shí)現(xiàn)的3個(gè)智能算法（連續(xù)型hopfield神經(jīng)網(wǎng)絡(luò)、禁忌搜索算法和模擬退火算法），閱讀并理解之，調(diào)整算法的各個(gè)參數(shù)后，運(yùn)行并分析參數(shù)對(duì)算法的影響。2 任選一門熟悉的語(yǔ)言，設(shè)計(jì)并實(shí)現(xiàn)一智能算法（連續(xù)型hopfield神經(jīng)網(wǎng)絡(luò)、禁忌搜索算法和模擬退火算法），解決tsp問(wèn)題。.3 實(shí)驗(yàn)步驟（1）閱讀、運(yùn)行、分析老師給出的用mat