CNN圖像分類簡介課件

1、ImageNet Classification with Deep ConvolutionalNeural NetworksImageNet Classification with D監(jiān)督模式識(shí)別系統(tǒng)圖像特征 特征的好壞是整個(gè)系統(tǒng)的性能瓶頸監(jiān)督機(jī)器學(xué)習(xí)算法 分類或者預(yù)測監(jiān)督模式識(shí)別系統(tǒng)圖像特征Deep Learning = Learning Hierarchical Representations Deep Learning = Learning Hiera圖像特征Feature Engineering （HOG,SIFT）要求開發(fā)人員對要解決的問題有深入理解取得好的效果往往要消耗開發(fā)團(tuán)隊(duì)大部

2、分人力Feature Learning海量訓(xùn)練數(shù)據(jù)中學(xué)習(xí)有用特征提升分類或預(yù)測性能Feature Engineering or Feature Learning?圖像特征Feature Engineering （HOG,SHierarchical RepresentationsHierarchical Representations監(jiān)督機(jī)器學(xué)習(xí)數(shù)據(jù) 訓(xùn)練樣本集有m個(gè)已標(biāo)注樣本(x1,y1),(x2,y2),(xm,ym),xi是第i個(gè)訓(xùn)練樣本的特征，yi是對應(yīng)的期望值，作為監(jiān)督信號(hào)。監(jiān)督機(jī)器學(xué)習(xí)數(shù)據(jù)監(jiān)督機(jī)器學(xué)習(xí)監(jiān)督機(jī)器學(xué)習(xí)監(jiān)督機(jī)器學(xué)習(xí)不同學(xué)習(xí)方法之間的區(qū)別在于或者是模型不同，或者是代價(jià)函數(shù)不同

3、，或者是優(yōu)化方法不同。監(jiān)督機(jī)器學(xué)習(xí)不同學(xué)習(xí)方法之間的區(qū)別在于或者是模型不同，或者是BP神經(jīng)網(wǎng)絡(luò)模型BP神經(jīng)網(wǎng)絡(luò)模型BP神經(jīng)網(wǎng)絡(luò)模型前向傳播BP神經(jīng)網(wǎng)絡(luò)模型前向傳播卷積神經(jīng)網(wǎng)絡(luò)局部連接區(qū)別于BP網(wǎng)絡(luò)的全連接權(quán)值參數(shù)大大減少權(quán)值共享每個(gè)神經(jīng)元都使用相同的權(quán)值參數(shù)（不同的滑窗位置使用相同的卷積核權(quán)值）權(quán)值參數(shù)個(gè)數(shù)變?yōu)槌?shù)（卷積核的平方數(shù)），與神經(jīng)元個(gè)數(shù)無關(guān)卷積神經(jīng)網(wǎng)絡(luò)局部連接卷積神經(jīng)網(wǎng)絡(luò)特點(diǎn)1卷積神經(jīng)網(wǎng)絡(luò)特點(diǎn)1卷積神經(jīng)網(wǎng)絡(luò)特點(diǎn)2卷積神經(jīng)網(wǎng)絡(luò)特點(diǎn)2卷積卷積池化（pooling）Max poolingAvg pooling池化（pooling）Max pooling網(wǎng)絡(luò)結(jié)構(gòu)網(wǎng)絡(luò)結(jié)構(gòu)網(wǎng)絡(luò)結(jié)構(gòu)conv1階段

4、DFD（data flow diagram）：網(wǎng)絡(luò)結(jié)構(gòu)conv1階段DFD（data flow diagr網(wǎng)絡(luò)結(jié)構(gòu)conv2階段DFD（data flow diagram）：網(wǎng)絡(luò)結(jié)構(gòu)conv2階段DFD（data flow diagr網(wǎng)絡(luò)結(jié)構(gòu)conv3階段DFD（data flow diagram）：網(wǎng)絡(luò)結(jié)構(gòu)conv3階段DFD（data flow diagr網(wǎng)絡(luò)結(jié)構(gòu)conv4階段DFD（data flow diagram）：網(wǎng)絡(luò)結(jié)構(gòu)conv4階段DFD（data flow diagr網(wǎng)絡(luò)結(jié)構(gòu)conv5階段DFD（data flow diagram）：網(wǎng)絡(luò)結(jié)構(gòu)conv5階段DFD（data flow diagr網(wǎng)絡(luò)結(jié)構(gòu)fc6階段DFD（data flow diagram）：網(wǎng)絡(luò)結(jié)構(gòu)fc6階段DFD（data flow diagram網(wǎng)絡(luò)結(jié)構(gòu)fc7階段DFD（data flow diagram）：網(wǎng)絡(luò)結(jié)構(gòu)fc7階段DFD（data flow diagram網(wǎng)絡(luò)結(jié)構(gòu)fc8階段DFD（data flow diagram）：網(wǎng)絡(luò)結(jié)構(gòu)fc8階段DFD（data flow diagram網(wǎng)絡(luò)學(xué)習(xí)代價(jià)函數(shù) 優(yōu)化方法 mini-batch梯度下降1表達(dá)式為真=1， 1表達(dá)式為假=0，最大化對應(yīng)類別的概率模型（假設(shè)函數(shù)） 網(wǎng)絡(luò)學(xué)習(xí)代價(jià)函數(shù) 優(yōu)化方法1表達(dá)式為真