神經(jīng)網(wǎng)絡(luò)分類器教學(xué)課件

第五章神經(jīng)網(wǎng)絡(luò)分類器51感知器算法52神經(jīng)網(wǎng)絡(luò)分類器5感知器算法引言模式識(shí)別與人工智能是研究如何利用計(jì)算機(jī)實(shí)現(xiàn)人腦的一些功能。人工神經(jīng)網(wǎng)絡(luò)研究的發(fā)展:◆1943年,提出形式神經(jīng)元的數(shù)學(xué)模型,人工神經(jīng)網(wǎng)絡(luò)研究的開端◆1949年,提出神經(jīng)元的學(xué)習(xí)準(zhǔn)則,為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法奠定了基礎(chǔ)?！?0年代,研究類似于神經(jīng)網(wǎng)絡(luò)的分布系統(tǒng)◆50年代末提出感知模型,把神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)付諸工程實(shí)踐。1982年,提出神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型,引入了能力的概念,研究了網(wǎng)絡(luò)的動(dòng)力學(xué)特性;設(shè)計(jì)出用電子線路實(shí)現(xiàn)網(wǎng)絡(luò)的方案,大大促進(jìn)了神經(jīng)網(wǎng)絡(luò)的研究?！?986年,提出多層感知器的反向傳播算法?！衄F(xiàn)在神經(jīng)網(wǎng)絡(luò)的應(yīng)用已滲透到智能控制、信號(hào)處理、優(yōu)化計(jì)算、生物醫(yī)學(xué)工程等領(lǐng)域。二、人工神經(jīng)元1、生物神經(jīng)元典型的神經(jīng)元,即神經(jīng)細(xì)胞結(jié)構(gòu):胞體、樹突、軸突、突觸軸突接收信號(hào)樹突輸出信號(hào)胞體突觸胞體:神經(jīng)細(xì)胞的本體,完成普通細(xì)胞的生存功能。樹突:有大量的分枝,接受來自其他神經(jīng)元的信號(hào)。軸突:用以輸出信號(hào)突觸:神經(jīng)元相聯(lián)系的部位,對(duì)樹突的突觸為興奮性的,使下一個(gè)神經(jīng)元興奮;對(duì)胞體的突觸為抑制性的,阻止下一個(gè)神經(jīng)元興奮。神經(jīng)元的基本工作機(jī)制:◆神經(jīng)元的兩種工作狀態(tài):興奮和抑制?！魟?dòng)態(tài)極化原則:在每一個(gè)神經(jīng)元中,信息以預(yù)知的確定方向流動(dòng),即從神經(jīng)元的接收信息部分傳到軸突的電脈沖起始部分,再傳到軸突終端的突觸,以與其它神經(jīng)元通信◆連接的專一性原則:神經(jīng)元之間無細(xì)胞質(zhì)的連續(xù),神經(jīng)元不構(gòu)成隨機(jī)網(wǎng)絡(luò),每一個(gè)神經(jīng)元與另一些神經(jīng)元構(gòu)成精確的聯(lián)接。信號(hào)的傳遞過程◆接受興奮電位;信號(hào)的匯集和傳導(dǎo);信號(hào)的輸出。2、人工神經(jīng)元人工神經(jīng)元模型:輸入,神經(jīng)元的輸入值U:權(quán)值,突觸的連接強(qiáng)度∫:輸出函數(shù),非線性函數(shù)。y:輸出神經(jīng)元?jiǎng)幼?ne=∑wxy=f(net)常用輸出函數(shù)閾值函數(shù):f(x)=sgn(x)階躍函數(shù):f(x)=step(x)雙曲正切函數(shù):f(x)=th(x)=無限次可微權(quán)值很小時(shí)接近線性函數(shù)非線性,單調(diào)性權(quán)值很大時(shí)接近閾值函數(shù)3、感知器模型f(x)SumThresholdUnitUnit∫為闕值函數(shù)fC∑wx+by=sgn∑x+)設(shè)閾值:=-oW=(0)1,)2,X=(x1,x2,…,x,1)71w'rsoxE/?Wx>o則:y=sgn(WX)即:y=f(WX)這種神經(jīng)元沒有內(nèi)部狀態(tài)的轉(zhuǎn)變,而且函數(shù)為闕值型。因此,它實(shí)質(zhì)上是一種線性閾值計(jì)算單元感知器是一個(gè)具有單層計(jì)算單元的人工神經(jīng)網(wǎng)絡(luò)。感知器訓(xùn)練算法就是由這種神經(jīng)網(wǎng)絡(luò)演變來的感知器算法能夠通過對(duì)訓(xùn)練模式樣本集的“學(xué)習(xí)”得出判別函數(shù)的系數(shù)解。4、感知器訓(xùn)練算法算法描述用樣本訓(xùn)練時(shí),若x∈o;g(x)>0,則w不變。若g(x)<0,則修改w,直到所有樣本都滿足條件為止