泛朦第三系神經(jīng)系課件_第1頁
泛朦第三系神經(jīng)系課件_第2頁
泛朦第三系神經(jīng)系課件_第3頁
泛朦第三系神經(jīng)系課件_第4頁
泛朦第三系神經(jīng)系課件_第5頁
已閱讀5頁,還剩89頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

泛朦第三系—神經(jīng)系

(NeuralNetwork)泛朦第三系—神經(jīng)系

(NeuralNetwork)1類神經(jīng)網(wǎng)路導論類神經(jīng)網(wǎng)路(artificialneuralnetwork)或譯為人工神經(jīng)網(wǎng)路:模仿生物神經(jīng)網(wǎng)路的資訊處理系統(tǒng)。類神經(jīng)網(wǎng)路導論2精確定義一種計算系統(tǒng):硬體、軟體。大量簡單的相連人工神經(jīng)元:模仿生物神經(jīng)網(wǎng)路的能力。取得資訊:外界環(huán)境、人工神經(jīng)元。輸出結(jié)果:外界環(huán)境其他人工神經(jīng)元。精確定義一種計算系統(tǒng):硬體、軟體。3背景(1)1957年(電腦發(fā)展的初期):第一種類神經(jīng)網(wǎng)路模式—感知機(Perceptron)提出。1960年代中期沒落。背景(1)1957年(電腦發(fā)展的初期):第一種類神經(jīng)網(wǎng)路模式4沒落因素1.本身理論無法突破(EX:XOR問題)。2.數(shù)位電腦、人工智慧的吸引。3.當時相關(guān)技術(shù)無法實現(xiàn)「神經(jīng)電腦」。沒落因素1.本身理論無法突破(EX:XOR問題)。5背景(2)80年代中期:類神經(jīng)網(wǎng)路的研究復興,而在短短數(shù)年之內(nèi)蔚為風潮。原因:如下4點。背景(2)80年代中期:類神經(jīng)網(wǎng)路的研究復興,而在短短數(shù)年之6復興原因(1)類神經(jīng)網(wǎng)路在理論的建立與模式的開發(fā)上有了突破,最明顯的突破包括:霍普菲爾網(wǎng)路(Hopfieldneuralnetwork,HNN)倒傳遞網(wǎng)路(Back-propagationnetwork)。復興原因(1)類神經(jīng)網(wǎng)路在理論的建立與模式的開發(fā)上有了突破,7復興原因(2)解決電腦科學與人工智慧的難題,(EX:樣本識別、機器學習)。電子、光學等技術(shù)進展:提供實現(xiàn)「神經(jīng)電腦」可能性(EX:基於VLSI的神經(jīng)電腦與光神經(jīng)電腦的誕生)。復興原因(2)解決電腦科學與人工智慧的難題,(EX:樣本識別8復興原因(3)從現(xiàn)代生物學、認知學、心裡學對生物神經(jīng)網(wǎng)路的瞭解,提供了發(fā)展新的類神經(jīng)網(wǎng)路模式的啟示。

復興原因(3)9生物神經(jīng)元模型生物神經(jīng)網(wǎng)路:由巨量的神經(jīng)細胞,或稱神經(jīng)元所組成,神經(jīng)細胞的形狀和一般的細胞有很大的不同。生物神經(jīng)元模型生物神經(jīng)網(wǎng)路:10神經(jīng)細胞神經(jīng)核:神經(jīng)細胞呈核狀的處理機構(gòu)。軸索(神經(jīng)軸):神經(jīng)細胞成軸索狀的輸送機構(gòu)。樹突(神經(jīng)樹):神經(jīng)細胞成樹枝狀的輸出入機構(gòu)。突觸(神經(jīng)節(jié)):神經(jīng)細胞神經(jīng)樹上乘點狀的連結(jié)機構(gòu)。神經(jīng)細胞神經(jīng)核:神經(jīng)細胞呈核狀的處理機構(gòu)。11神經(jīng)核(soma)神經(jīng)軸突(axon)神經(jīng)突觸(synapses)(synapses)神經(jīng)樹突(dendrites)(dendrites)神經(jīng)核(soma)神經(jīng)軸突(axon)神經(jīng)突觸(synaps12人工神經(jīng)元模型(1)類神經(jīng)網(wǎng)路:由許多的人工神經(jīng)細胞(artificialneuron)所組成。又稱類神經(jīng)元、人工神經(jīng)元、處理單元(processingelement)。每一個處理單元的輸出以扇形送出,成為其它許多處理單元的輸入。人工神經(jīng)元模型(1)類神經(jīng)網(wǎng)路:由許多的人工神經(jīng)細胞(art13人工神經(jīng)元模型(2)其中Yj=模仿生物神經(jīng)元模型的輸出訊號。處理單元輸出值與輸入值的關(guān)係式:一般用輸入值的加權(quán)乘積和之函數(shù)來表示人工神經(jīng)元模型(2)其中處理單元輸出值與輸入值的關(guān)係式:14人工神經(jīng)元模型(3)f=模仿生物神經(jīng)元模型的轉(zhuǎn)移函數(shù)(transferfunction)。Wij=模仿生物神經(jīng)元模型的神經(jīng)鏈結(jié)強度,又稱鏈結(jié)加權(quán)值。人工神經(jīng)元模型(3)f=模仿生物神經(jīng)元模型的轉(zhuǎn)移函數(shù)(tr15人工神經(jīng)元模型(4)Xi=模仿生物神經(jīng)元模型的輸入訊號(inputsignal)。θ=模仿生物神經(jīng)元模型的閥值(thresholdvalue)。人工神經(jīng)元模型(4)Xi=模仿生物神經(jīng)元模型的輸入訊號(16泛朦第三系神經(jīng)系課件17人工神經(jīng)元模型(5)鏈結(jié)(connection):介於處理單元間的訊號傳遞路徑。每一個鏈結(jié)上有一個數(shù)值的加權(quán)值Wij,用以表示第i處理單元對第j處理單元之影響程度。人工神經(jīng)元模型(5)鏈結(jié)(connection):介於處理18人工神經(jīng)元模型(6)一個類神經(jīng)網(wǎng)路:由許多個人工神經(jīng)元所組成,並且可以組成不同的網(wǎng)路模式(networkmodel)或網(wǎng)路典範(networkparadigm)。人工神經(jīng)元模型(6)一個類神經(jīng)網(wǎng)路:由許多個人工神經(jīng)元所組成19類神經(jīng)網(wǎng)路模型(1)倒傳遞網(wǎng)路(back-propagationnetwork,BPN):應用最普遍。BPN:包含許多層(含若干個處單元)類神經(jīng)網(wǎng)路模型(1)倒傳遞網(wǎng)路(back-propagat20類神經(jīng)網(wǎng)路模型(2)輸入層單元:輸入訊息。輸出層單元:輸出訊息。隱藏層單元:提供類神經(jīng)網(wǎng)路表現(xiàn)處理單元間的交互作用與問題的內(nèi)在結(jié)構(gòu)的能力。類神經(jīng)網(wǎng)路模型(2)輸入層單元:輸入訊息。21泛朦第三系神經(jīng)系課件22網(wǎng)路分類(1)目前著名類神經(jīng)網(wǎng)路不下數(shù)十種,主要分為四類1.監(jiān)督式學習網(wǎng)路:從問題領(lǐng)域中取得訓練範例(有輸入變數(shù)值,也有輸出變數(shù)),並從中學習輸入變數(shù)與輸出變數(shù)內(nèi)在對映規(guī)則,以應用於新的案例(只有輸入變數(shù)值,而需推論輸出變數(shù)值的應用)如BP。網(wǎng)路分類(1)目前著名類神經(jīng)網(wǎng)路不下數(shù)十種,主要分為四類23網(wǎng)路分類(2)2.無監(jiān)督式學習網(wǎng)路:從問題領(lǐng)域中取得訓練範例(只有輸入變數(shù)值),並從中學習範例的內(nèi)在聚類規(guī)則,以應用於新的案例。3.聯(lián)想式學習網(wǎng)路:從問題領(lǐng)域中取得訓練範例(狀態(tài)變數(shù)值),並從中學習範例的內(nèi)在記憶規(guī)則,以應用於新的案例,如霍普菲爾網(wǎng)路。網(wǎng)路分類(2)2.無監(jiān)督式學習網(wǎng)路:從問題領(lǐng)域中取得訓練範例24網(wǎng)路分類(2)4.最適化應用網(wǎng)路:對一問題決定其設(shè)計變數(shù)值,使其在滿足設(shè)計變數(shù)下,使設(shè)計目標達最佳狀態(tài)的應用,如退火神經(jīng)網(wǎng)路。網(wǎng)路分類(2)4.最適化應用網(wǎng)路:對一問題決定其設(shè)計變數(shù)值,25類神經(jīng)網(wǎng)路運作(1)類神經(jīng)網(wǎng)路的運作過程分成兩個階段:學習過程:從範例學習,以調(diào)整網(wǎng)路連節(jié)加權(quán)值的過程。回想過程:網(wǎng)路依回想演算法,以輸入資料決定網(wǎng)路輸出資料的過程。類神經(jīng)網(wǎng)路運作(1)類神經(jīng)網(wǎng)路的運作過程分成兩個階段:26類神經(jīng)網(wǎng)路運作(2)1.訓練範例:藉此調(diào)整網(wǎng)路連結(jié)加權(quán)值。訓練範例型式依所使用的網(wǎng)路模式之不同而異。2.測試範例:用以評估網(wǎng)路學習成果所使用的範例。(1.2)差異:前者只用回想演算法得到推論輸出值,並與目標輸出值比較,以評估網(wǎng)路學習精度。類神經(jīng)網(wǎng)路運作(2)1.訓練範例:藉此調(diào)整網(wǎng)路連結(jié)加權(quán)值。訓27類神經(jīng)網(wǎng)路運作(3)3.待推案例:網(wǎng)路學習過程完後,可用網(wǎng)路推論待推案例的結(jié)果。(2.3)差異:前者沒有目標輸出變數(shù)向量類神經(jīng)網(wǎng)路運作(3)3.待推案例:網(wǎng)路學習過程完後,可用網(wǎng)28優(yōu)點高速計算能力高容記憶能力學習能力容錯能力優(yōu)點高速計算能力29應用監(jiān)督式學習應用:分類、預測。非監(jiān)督式學習應用:聚類。聯(lián)想式學習應用:雜訊過濾、資料擷取。最佳化問題應用:設(shè)計、排程。應用監(jiān)督式學習應用:分類、預測。30基本架構(gòu)(1)處理單元:類神經(jīng)網(wǎng)路基本單位作用可用三個函數(shù)來說明:1)集成函數(shù)2)作用函數(shù)3)轉(zhuǎn)換函數(shù)基本架構(gòu)(1)處理單元:類神經(jīng)網(wǎng)路基本單位31基本架構(gòu)(2)層:若干個具相同作用的處理單元集合成。層的三種作用:1)正規(guī)化輸出2)競爭化輸出3)競爭化學習

基本架構(gòu)(2)層:若干個具相同作用的處理單元集合成。32基本架構(gòu)(3)網(wǎng)路:若干個具不同作用的層集合成網(wǎng)路網(wǎng)路兩種作用:1)學習過程2)回想過程基本架構(gòu)(3)網(wǎng)路:若干個具不同作用的層集合成網(wǎng)路33泛朦第三系神經(jīng)系課件34C:實數(shù)型常數(shù)。單調(diào)(monotonic)遞增、平滑且可微分的函數(shù)。採用:倒傳遞類神經(jīng)網(wǎng)路、連續(xù)型霍普菲爾網(wǎng)路,都是此種活化函數(shù)。C:實數(shù)型常數(shù)。單調(diào)(monotonic)遞增、平35倒傳遞網(wǎng)路倒傳遞類神網(wǎng)路模式是目前類神網(wǎng)路學習模式中最具代表性,應用最普遍的模式。倒傳遞類神經(jīng)網(wǎng)路屬於監(jiān)督式學習網(wǎng)路,因而適合診斷、預測等應用。倒傳遞網(wǎng)路倒傳遞類神網(wǎng)路模式是目前類神網(wǎng)路學習模式中最具代表36???????????????輸出向量輸入向量輸出層:表示輸出變數(shù)隱藏層:表示輸入處理單元間的交互影響輸出層:表示輸入變數(shù)???????????????輸出向量輸入向量37範例文章:IntegrationofGrayPredictionandFuzzyModelforImprovingBack-propagationLearningAlgorithmR.J.Kuo,C.Y.Chiu,andC.C.HsiehFuzzy2000範例文章:38題目簡述基本觀念:利用灰預測和模糊理論來改善BP的訓練速度。模擬:XOR範例設(shè)定:初始學習率:0.3,學習次數(shù)1000次。由MSE(meansquareerror)來判定收斂效。題目簡述基本觀念:利用灰預測和模糊理論來改善BP的訓練速度。39解法(灰色)建立GM(1,1)模型的灰微分方程式目的:預測error(PE)andchangeoferror(PCE)。用PE和PCE根據(jù)FUZZY規(guī)則,調(diào)整訓練參數(shù)。解法(灰色)建立GM(1,1)模型的灰微分方程式目的:預測e40解法(類神經(jīng))各層間初始權(quán)重:亂數(shù)。開始時訓練誤差大:給大學習率使系統(tǒng)收斂快。當訓練接近最佳化:給小學習率以免震盪。訓練速度調(diào)整是根據(jù)PE和PCE。解法(類神經(jīng))各層間初始權(quán)重:亂數(shù)。41解法(模糊)PE大時或非常大,訓練速率大,反之亦然。PCE負時訓練速率應增加,PCE正時訓練速率應減小。解法(模糊)PE大時或非常大,訓練速率大,反之亦然。42模糊規(guī)則IfPEisVeryLargeandPCEisNegativelyLargeTHENthetrainingrateshouldbeincreasedPositivelyLarge模糊規(guī)則IfPEisVeryLargeandPC43泛朦第三系神經(jīng)系課件44泛朦第三系神經(jīng)系課件45泛朦第三系神經(jīng)系課件46泛朦第三系神經(jīng)系課件47泛朦第三系—神經(jīng)系

(NeuralNetwork)泛朦第三系—神經(jīng)系

(NeuralNetwork)48類神經(jīng)網(wǎng)路導論類神經(jīng)網(wǎng)路(artificialneuralnetwork)或譯為人工神經(jīng)網(wǎng)路:模仿生物神經(jīng)網(wǎng)路的資訊處理系統(tǒng)。類神經(jīng)網(wǎng)路導論49精確定義一種計算系統(tǒng):硬體、軟體。大量簡單的相連人工神經(jīng)元:模仿生物神經(jīng)網(wǎng)路的能力。取得資訊:外界環(huán)境、人工神經(jīng)元。輸出結(jié)果:外界環(huán)境其他人工神經(jīng)元。精確定義一種計算系統(tǒng):硬體、軟體。50背景(1)1957年(電腦發(fā)展的初期):第一種類神經(jīng)網(wǎng)路模式—感知機(Perceptron)提出。1960年代中期沒落。背景(1)1957年(電腦發(fā)展的初期):第一種類神經(jīng)網(wǎng)路模式51沒落因素1.本身理論無法突破(EX:XOR問題)。2.數(shù)位電腦、人工智慧的吸引。3.當時相關(guān)技術(shù)無法實現(xiàn)「神經(jīng)電腦」。沒落因素1.本身理論無法突破(EX:XOR問題)。52背景(2)80年代中期:類神經(jīng)網(wǎng)路的研究復興,而在短短數(shù)年之內(nèi)蔚為風潮。原因:如下4點。背景(2)80年代中期:類神經(jīng)網(wǎng)路的研究復興,而在短短數(shù)年之53復興原因(1)類神經(jīng)網(wǎng)路在理論的建立與模式的開發(fā)上有了突破,最明顯的突破包括:霍普菲爾網(wǎng)路(Hopfieldneuralnetwork,HNN)倒傳遞網(wǎng)路(Back-propagationnetwork)。復興原因(1)類神經(jīng)網(wǎng)路在理論的建立與模式的開發(fā)上有了突破,54復興原因(2)解決電腦科學與人工智慧的難題,(EX:樣本識別、機器學習)。電子、光學等技術(shù)進展:提供實現(xiàn)「神經(jīng)電腦」可能性(EX:基於VLSI的神經(jīng)電腦與光神經(jīng)電腦的誕生)。復興原因(2)解決電腦科學與人工智慧的難題,(EX:樣本識別55復興原因(3)從現(xiàn)代生物學、認知學、心裡學對生物神經(jīng)網(wǎng)路的瞭解,提供了發(fā)展新的類神經(jīng)網(wǎng)路模式的啟示。

復興原因(3)56生物神經(jīng)元模型生物神經(jīng)網(wǎng)路:由巨量的神經(jīng)細胞,或稱神經(jīng)元所組成,神經(jīng)細胞的形狀和一般的細胞有很大的不同。生物神經(jīng)元模型生物神經(jīng)網(wǎng)路:57神經(jīng)細胞神經(jīng)核:神經(jīng)細胞呈核狀的處理機構(gòu)。軸索(神經(jīng)軸):神經(jīng)細胞成軸索狀的輸送機構(gòu)。樹突(神經(jīng)樹):神經(jīng)細胞成樹枝狀的輸出入機構(gòu)。突觸(神經(jīng)節(jié)):神經(jīng)細胞神經(jīng)樹上乘點狀的連結(jié)機構(gòu)。神經(jīng)細胞神經(jīng)核:神經(jīng)細胞呈核狀的處理機構(gòu)。58神經(jīng)核(soma)神經(jīng)軸突(axon)神經(jīng)突觸(synapses)(synapses)神經(jīng)樹突(dendrites)(dendrites)神經(jīng)核(soma)神經(jīng)軸突(axon)神經(jīng)突觸(synaps59人工神經(jīng)元模型(1)類神經(jīng)網(wǎng)路:由許多的人工神經(jīng)細胞(artificialneuron)所組成。又稱類神經(jīng)元、人工神經(jīng)元、處理單元(processingelement)。每一個處理單元的輸出以扇形送出,成為其它許多處理單元的輸入。人工神經(jīng)元模型(1)類神經(jīng)網(wǎng)路:由許多的人工神經(jīng)細胞(art60人工神經(jīng)元模型(2)其中Yj=模仿生物神經(jīng)元模型的輸出訊號。處理單元輸出值與輸入值的關(guān)係式:一般用輸入值的加權(quán)乘積和之函數(shù)來表示人工神經(jīng)元模型(2)其中處理單元輸出值與輸入值的關(guān)係式:61人工神經(jīng)元模型(3)f=模仿生物神經(jīng)元模型的轉(zhuǎn)移函數(shù)(transferfunction)。Wij=模仿生物神經(jīng)元模型的神經(jīng)鏈結(jié)強度,又稱鏈結(jié)加權(quán)值。人工神經(jīng)元模型(3)f=模仿生物神經(jīng)元模型的轉(zhuǎn)移函數(shù)(tr62人工神經(jīng)元模型(4)Xi=模仿生物神經(jīng)元模型的輸入訊號(inputsignal)。θ=模仿生物神經(jīng)元模型的閥值(thresholdvalue)。人工神經(jīng)元模型(4)Xi=模仿生物神經(jīng)元模型的輸入訊號(63泛朦第三系神經(jīng)系課件64人工神經(jīng)元模型(5)鏈結(jié)(connection):介於處理單元間的訊號傳遞路徑。每一個鏈結(jié)上有一個數(shù)值的加權(quán)值Wij,用以表示第i處理單元對第j處理單元之影響程度。人工神經(jīng)元模型(5)鏈結(jié)(connection):介於處理65人工神經(jīng)元模型(6)一個類神經(jīng)網(wǎng)路:由許多個人工神經(jīng)元所組成,並且可以組成不同的網(wǎng)路模式(networkmodel)或網(wǎng)路典範(networkparadigm)。人工神經(jīng)元模型(6)一個類神經(jīng)網(wǎng)路:由許多個人工神經(jīng)元所組成66類神經(jīng)網(wǎng)路模型(1)倒傳遞網(wǎng)路(back-propagationnetwork,BPN):應用最普遍。BPN:包含許多層(含若干個處單元)類神經(jīng)網(wǎng)路模型(1)倒傳遞網(wǎng)路(back-propagat67類神經(jīng)網(wǎng)路模型(2)輸入層單元:輸入訊息。輸出層單元:輸出訊息。隱藏層單元:提供類神經(jīng)網(wǎng)路表現(xiàn)處理單元間的交互作用與問題的內(nèi)在結(jié)構(gòu)的能力。類神經(jīng)網(wǎng)路模型(2)輸入層單元:輸入訊息。68泛朦第三系神經(jīng)系課件69網(wǎng)路分類(1)目前著名類神經(jīng)網(wǎng)路不下數(shù)十種,主要分為四類1.監(jiān)督式學習網(wǎng)路:從問題領(lǐng)域中取得訓練範例(有輸入變數(shù)值,也有輸出變數(shù)),並從中學習輸入變數(shù)與輸出變數(shù)內(nèi)在對映規(guī)則,以應用於新的案例(只有輸入變數(shù)值,而需推論輸出變數(shù)值的應用)如BP。網(wǎng)路分類(1)目前著名類神經(jīng)網(wǎng)路不下數(shù)十種,主要分為四類70網(wǎng)路分類(2)2.無監(jiān)督式學習網(wǎng)路:從問題領(lǐng)域中取得訓練範例(只有輸入變數(shù)值),並從中學習範例的內(nèi)在聚類規(guī)則,以應用於新的案例。3.聯(lián)想式學習網(wǎng)路:從問題領(lǐng)域中取得訓練範例(狀態(tài)變數(shù)值),並從中學習範例的內(nèi)在記憶規(guī)則,以應用於新的案例,如霍普菲爾網(wǎng)路。網(wǎng)路分類(2)2.無監(jiān)督式學習網(wǎng)路:從問題領(lǐng)域中取得訓練範例71網(wǎng)路分類(2)4.最適化應用網(wǎng)路:對一問題決定其設(shè)計變數(shù)值,使其在滿足設(shè)計變數(shù)下,使設(shè)計目標達最佳狀態(tài)的應用,如退火神經(jīng)網(wǎng)路。網(wǎng)路分類(2)4.最適化應用網(wǎng)路:對一問題決定其設(shè)計變數(shù)值,72類神經(jīng)網(wǎng)路運作(1)類神經(jīng)網(wǎng)路的運作過程分成兩個階段:學習過程:從範例學習,以調(diào)整網(wǎng)路連節(jié)加權(quán)值的過程。回想過程:網(wǎng)路依回想演算法,以輸入資料決定網(wǎng)路輸出資料的過程。類神經(jīng)網(wǎng)路運作(1)類神經(jīng)網(wǎng)路的運作過程分成兩個階段:73類神經(jīng)網(wǎng)路運作(2)1.訓練範例:藉此調(diào)整網(wǎng)路連結(jié)加權(quán)值。訓練範例型式依所使用的網(wǎng)路模式之不同而異。2.測試範例:用以評估網(wǎng)路學習成果所使用的範例。(1.2)差異:前者只用回想演算法得到推論輸出值,並與目標輸出值比較,以評估網(wǎng)路學習精度。類神經(jīng)網(wǎng)路運作(2)1.訓練範例:藉此調(diào)整網(wǎng)路連結(jié)加權(quán)值。訓74類神經(jīng)網(wǎng)路運作(3)3.待推案例:網(wǎng)路學習過程完後,可用網(wǎng)路推論待推案例的結(jié)果。(2.3)差異:前者沒有目標輸出變數(shù)向量類神經(jīng)網(wǎng)路運作(3)3.待推案例:網(wǎng)路學習過程完後,可用網(wǎng)75優(yōu)點高速計算能力高容記憶能力學習能力容錯能力優(yōu)點高速計算能力76應用監(jiān)督式學習應用:分類、預測。非監(jiān)督式學習應用:聚類。聯(lián)想式學習應用:雜訊過濾、資料擷取。最佳化問題應用:設(shè)計、排程。應用監(jiān)督式學習應用:分類、預測。77基本架構(gòu)(1)處理單元:類神經(jīng)網(wǎng)路基本單位作用可用三個函數(shù)來說明:1)集成函數(shù)2)作用函數(shù)3)轉(zhuǎn)換函數(shù)基本架構(gòu)(1)處理單元:類神經(jīng)網(wǎng)路基本單位78基本架構(gòu)(2)層:若干個具相同作用的處理單元集合成。層的三種作用:1)正規(guī)化輸出2)競爭化輸出3)競爭化學習

基本架構(gòu)(2)層:若干個具相同作用的處理單元集合成。79基本架構(gòu)(3)網(wǎng)路:若干個具不同作用的層集合成網(wǎng)路網(wǎng)路兩種作用:1)學習過程2)回想過程基本架構(gòu)(3)網(wǎng)路:若干個具不同作用的層集合成網(wǎng)路80泛朦第三系神經(jīng)系課件81C:實數(shù)型常數(shù)。單調(diào)(monotonic)遞增、平滑且可微分的函數(shù)。採用:倒傳遞類神經(jīng)網(wǎng)路、連續(xù)型霍普菲爾網(wǎng)路,都是此種活化函數(shù)。C:實數(shù)型常數(shù)。單調(diào)(monotonic)遞增、平82倒傳遞網(wǎng)路倒傳遞類神網(wǎng)路模式是目前類神網(wǎng)路學習模式中最具代表性,應用最普遍的模式。倒傳遞類神經(jīng)網(wǎng)路屬於監(jiān)督式學習網(wǎng)路,因而適合診斷、預測等應用。倒傳遞網(wǎng)路倒傳遞類神網(wǎng)路模式是目前類神網(wǎng)路學習模式中最具代表83???????????????輸出向量輸入向量輸出層:表示輸出變數(shù)隱藏層:表示輸

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論