《BP神經(jīng)網(wǎng)絡(luò)bp設(shè)計(jì)》PPT課件

1、第三章 前饋人工神經(jīng)網(wǎng)絡(luò)誤差反傳（BP）算法的改進(jìn)與BP網(wǎng)絡(luò)設(shè)計(jì)1醫(yī)學(xué)PPT3.4 基于BP算法的多層前饋網(wǎng)絡(luò)模型三層BP網(wǎng)絡(luò)輸入層隱層輸出層2醫(yī)學(xué)PPT數(shù)學(xué)表達(dá)模型的數(shù)學(xué)表達(dá)輸入向量： X=(x1,x2,xi,xn)T隱層輸出向量： Y=(y1,y2,yj,ym)T輸出層輸出向量： O=(o1,o2,ok,ol)T期望輸出向量：d=(d1, d2,dk,dl)T輸入層到隱層之間的權(quán)值矩陣：V=(V1,V2,Vj,Vm)隱層到輸出層之間的權(quán)值矩陣：W=(W1,W2,Wk,Wl)各個(gè)變量之間如何建立聯(lián)系，來(lái)描述整個(gè)網(wǎng)絡(luò)？3醫(yī)學(xué)PPT神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)學(xué)習(xí)的過(guò)程：神經(jīng)網(wǎng)絡(luò)在外界輸入樣本的刺激下不斷改變

2、網(wǎng)絡(luò)的連接權(quán)值乃至拓?fù)浣Y(jié)構(gòu)，以使網(wǎng)絡(luò)的輸出不斷地接近期望的輸出。學(xué)習(xí)的本質(zhì)：對(duì)可變權(quán)值的動(dòng)態(tài)調(diào)整學(xué)習(xí)規(guī)則：權(quán)值調(diào)整規(guī)則，即在學(xué)習(xí)過(guò)程中網(wǎng)絡(luò)中各神經(jīng)元的連接權(quán)變化所依據(jù)的一定的調(diào)整規(guī)則。BP算法是一種學(xué)習(xí)規(guī)則4醫(yī)學(xué)PPTBP算法的基本思想學(xué)習(xí)的類型：有導(dǎo)師學(xué)習(xí)核心思想：將輸出誤差以某種形式通過(guò)隱層向輸入層逐層反傳學(xué)習(xí)的過(guò)程：信號(hào)的正向傳播 誤差的反向傳播將誤差分?jǐn)偨o各層的所有單元各層單元的誤差信號(hào)修正各單元權(quán)值5醫(yī)學(xué)PPTBP算法的學(xué)習(xí)過(guò)程正向傳播：輸入樣本輸入層各隱層輸出層判斷是否轉(zhuǎn)入反向傳播階段：若輸出層的實(shí)際輸出與期望的輸出（教師信號(hào)）不符誤差反傳誤差以某種形式在各層表示修正各層單元的權(quán)值

3、網(wǎng)絡(luò)輸出的誤差減少到可接受的程度進(jìn)行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止6醫(yī)學(xué)PPT建立權(quán)值變化量與誤差之間的關(guān)系輸出層與隱層之間的連接權(quán)值調(diào)整隱層和輸入層之間的連接權(quán)值調(diào)整j=0,1,2,m; k=1,2,l (3.4.9a)i=0,1,2,n; j=1,2,m (3.4.9b)式中負(fù)號(hào)表示梯度下降，常數(shù)(0,1)表示比例系數(shù)，反映了訓(xùn)練速率?？梢钥闯鯞P算法屬于學(xué)習(xí)規(guī)則類，這類算法常被稱為誤差的梯度下降(Gradient Descent)算法。 7醫(yī)學(xué)PPTBP算法的程序?qū)崿F(xiàn)(1)初始化； (4)計(jì)算各層誤差信號(hào)； (5)調(diào)整各層權(quán)值； (6)檢查是否對(duì)所有樣本完成一次 輪訓(xùn)； (7)檢查網(wǎng)絡(luò)總誤差是

4、否達(dá)到精 度要求。 (2)輸入訓(xùn)練樣本對(duì)X Xp、d dp計(jì)算各層輸出；(3)計(jì)算網(wǎng)絡(luò)輸出誤差；8醫(yī)學(xué)PPTBP算法的程序?qū)崿F(xiàn) 然后根據(jù)總誤差計(jì)算各層的誤差信號(hào)并調(diào)整權(quán)值。 另一種方法是在所有樣本輸入之后，計(jì)算網(wǎng)絡(luò)的總誤差：9醫(yī)學(xué)PPT多層前饋網(wǎng)的主要能力(1)非線性映射能力 多層前饋網(wǎng)能學(xué)習(xí)和存貯大量輸入-輸出模式映射關(guān)系，而無(wú)需事先了解描述這種映射關(guān)系的數(shù)學(xué)方程。只要能提供足夠多的樣本模式對(duì)供BP網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)訓(xùn)練，它便能完成由n維輸入空間到m維輸出空間的非線性映射。10醫(yī)學(xué)PPT多層前饋網(wǎng)的主要能力(2)泛化能力 當(dāng)向網(wǎng)絡(luò)輸入訓(xùn)練時(shí)未曾見(jiàn)過(guò)的非樣本數(shù)據(jù)時(shí)，網(wǎng)絡(luò)也能完成由輸入空間向輸出空間的

5、正確映射。這種能力稱為多層前饋網(wǎng)的泛化能力。(3)容錯(cuò)能力 輸入樣本中帶有較大的誤差甚至個(gè)別錯(cuò)誤對(duì)網(wǎng)絡(luò)的輸入輸出規(guī)律影響很小。11醫(yī)學(xué)PPT誤差曲面與BP算法的局限性 誤差函數(shù)的可調(diào)整參數(shù)的個(gè)數(shù)nw等于各層權(quán)值數(shù)加上閾值數(shù)，即： 誤差E是nw+1維空間中一個(gè)形狀極為復(fù)雜的曲面，該曲面上的每個(gè)點(diǎn)的“高度”對(duì)應(yīng)于一個(gè)誤差值，每個(gè)點(diǎn)的坐標(biāo)向量對(duì)應(yīng)著nw個(gè)權(quán)值，因此稱這樣的空間為誤差的權(quán)空間。12醫(yī)學(xué)PPT誤差曲面的分布BP算法的局限性曲面的分布特點(diǎn)-算法的局限性(1)存在平坦區(qū)域-誤差下降緩慢，影響收斂速度(2)存在多個(gè)極小點(diǎn)-易陷入局部最小點(diǎn) 13醫(yī)學(xué)PPT曲面分布特點(diǎn)1：存在平坦區(qū)域平坦誤差的梯

6、度變化小 接近于零14醫(yī)學(xué)PPT存在平坦區(qū)域的原因分析 接近于零的情況分析造成平坦區(qū)的原因： 各節(jié)點(diǎn)的凈輸入過(guò)大對(duì)應(yīng)著誤差的某個(gè)谷點(diǎn) 平坦區(qū) 15醫(yī)學(xué)PPT曲面分布特點(diǎn)2：存在多個(gè)極小點(diǎn) 誤差梯度為零多數(shù)極小點(diǎn)都是局部極小，即使是全局極小往往也不是唯一的。單權(quán)值雙權(quán)值16醫(yī)學(xué)PPT曲面分布特點(diǎn)2：存在多個(gè)極小點(diǎn)BP算法以誤差梯度下降為權(quán)值調(diào)整原則誤差曲面的這一特點(diǎn)使之無(wú)法辨別極小點(diǎn)的性質(zhì)導(dǎo)致的結(jié)果：因而訓(xùn)練經(jīng)常陷入某個(gè)局部極小點(diǎn)而不能自拔，從而使訓(xùn)練無(wú)法收斂于給定誤差。17醫(yī)學(xué)PPT標(biāo)準(zhǔn)BP算法的改進(jìn)引言誤差曲面的形狀固有的算法的作用是什么？調(diào)整權(quán)值，找到最優(yōu)點(diǎn)那么如何更好地調(diào)整權(quán)值？利用算法

7、使得權(quán)值在更新的過(guò)程中，走合適的路徑，比如跳出平坦區(qū)來(lái)提高收斂速度，跳出局部最小點(diǎn)等等如何操作？需要在進(jìn)入平坦區(qū)或局部最小點(diǎn)時(shí)進(jìn)行一些判斷，通過(guò)改變某些參數(shù)來(lái)使得權(quán)值的調(diào)整更為合理。18醫(yī)學(xué)PPT標(biāo)準(zhǔn)的BP算法內(nèi)在的缺陷： 易形成局部極小而得不到全局最優(yōu)； 訓(xùn)練次數(shù)多使得學(xué)習(xí)效率低，收斂速度慢； 隱節(jié)點(diǎn)的選取缺乏理論指導(dǎo)； 訓(xùn)練時(shí)學(xué)習(xí)新樣本有遺忘舊樣本的趨勢(shì)。 針對(duì)上述問(wèn)題，國(guó)內(nèi)外已提出不少有效的改進(jìn)算法，下面僅介紹其中3種較常用的方法。19醫(yī)學(xué)PPT3.5 標(biāo)準(zhǔn)BP算法的改進(jìn)改進(jìn)1 ：增加動(dòng)量項(xiàng)改進(jìn)2：自適應(yīng)調(diào)節(jié)學(xué)習(xí)率改進(jìn)3： 引入陡度因子20醫(yī)學(xué)PPT改進(jìn)1 ：增加動(dòng)量項(xiàng)提出的原因：標(biāo)準(zhǔn)B

8、P算法只按t時(shí)刻誤差的梯度降方向調(diào)整，而沒(méi)有考慮t時(shí)刻以前的梯度方向從而常使訓(xùn)練過(guò)程發(fā)生振蕩，收斂緩慢。方法：為動(dòng)量系數(shù)，一般有(0，1)21醫(yī)學(xué)PPT實(shí)質(zhì)：從前一次權(quán)值調(diào)整量中取出一部分迭加到本次權(quán)值調(diào)整量中作用：動(dòng)量項(xiàng)反映了以前積累的調(diào)整經(jīng)驗(yàn)，對(duì)于t時(shí)刻的調(diào)整起阻尼作用。當(dāng)誤差曲面出現(xiàn)驟然起伏時(shí)，可減小振蕩趨勢(shì)，提高訓(xùn)練速度。改進(jìn)1 ：增加動(dòng)量項(xiàng)22醫(yī)學(xué)PPT改進(jìn)2：自適應(yīng)調(diào)節(jié)學(xué)習(xí)率提出的原因：標(biāo)準(zhǔn)BP算法中，學(xué)習(xí)率也稱為步長(zhǎng)，確定一個(gè)從始至終都合適的最佳學(xué)習(xí)率很難。平坦區(qū)域內(nèi)，太小會(huì)使訓(xùn)練次數(shù)增加；在誤差變化劇烈的區(qū)域，太大會(huì)因調(diào)整量過(guò)大而跨過(guò)較窄的“坑凹”處，使訓(xùn)練出現(xiàn)振蕩，反而使迭代

9、次數(shù)增加。23醫(yī)學(xué)PPT改進(jìn)2：自適應(yīng)調(diào)節(jié)學(xué)習(xí)率基本思想：自適應(yīng)改變學(xué)習(xí)率，使其根據(jù)環(huán)境變化增大或減小?；痉椒ǎ涸O(shè)一初始學(xué)習(xí)率，若經(jīng)過(guò)一批次權(quán)值調(diào)整后使總誤差，則本次調(diào)整無(wú)效，且=(1 )。24醫(yī)學(xué)PPT改進(jìn)3： 引入陡度因子提出的原因：誤差曲面上存在著平坦區(qū)域。權(quán)值調(diào)整進(jìn)入平坦區(qū)的原因是神經(jīng)元輸出進(jìn)入了轉(zhuǎn)移函數(shù)的飽和區(qū)?；舅枷耄喝绻谡{(diào)整進(jìn)入平坦區(qū)后，設(shè)法壓縮神經(jīng)元的凈輸入，使其輸出退出轉(zhuǎn)移函數(shù)的不飽和區(qū)，就可以改變誤差函數(shù)的形狀，從而使調(diào)整脫離平坦區(qū)。25醫(yī)學(xué)PPT改進(jìn)3： 引入陡度因子基本方法：在原轉(zhuǎn)移函數(shù)中引入一個(gè)陡度因子當(dāng)發(fā)現(xiàn)E接近零而d-o仍較大時(shí)，可判斷已進(jìn)入平坦區(qū)，此時(shí)令1

10、；當(dāng)退出平坦區(qū)后，再令=1。26醫(yī)學(xué)PPT改進(jìn)3： 引入陡度因子 作用分析：1 ：net坐標(biāo)壓縮了倍，神經(jīng)元的轉(zhuǎn)移函數(shù)曲線的敏感區(qū)段變長(zhǎng)，從而可使絕對(duì)值較大的net退出飽和值。=1：轉(zhuǎn)移函數(shù)恢復(fù)原狀，對(duì)絕對(duì)值較小的net具有較高的靈敏度。應(yīng)用結(jié)果表明該方法對(duì)于提高BP算法的收斂速度十分有效。27醫(yī)學(xué)PPT基于BP算法的多層前饋網(wǎng)絡(luò)模型BP算法的實(shí)現(xiàn)基本思想推導(dǎo)過(guò)程程序?qū)崿F(xiàn)BP學(xué)習(xí)算法的功能BP學(xué)習(xí)算法的局限性BP學(xué)習(xí)算法的改進(jìn)總 結(jié)28醫(yī)學(xué)PPT3.6 BP網(wǎng)絡(luò)設(shè)計(jì)基礎(chǔ)一 、訓(xùn)練樣本集的準(zhǔn)備1.輸入輸出量的選擇2.輸入量的提取與表示3.輸出量的表示二、輸入輸出數(shù)據(jù)的歸一化三、網(wǎng)絡(luò)訓(xùn)練與測(cè)試29

11、醫(yī)學(xué)PPT1 輸出量的選擇 輸出量:代表系統(tǒng)要實(shí)現(xiàn)的功能目標(biāo)系統(tǒng)的性能指標(biāo)分類問(wèn)題的類別歸屬非線性函數(shù)的函數(shù)值一 、訓(xùn)練樣本集的準(zhǔn)備30醫(yī)學(xué)PPT輸入量的選擇輸入量選擇的兩條基本原則必須選擇那些對(duì)輸出影響大且能夠檢測(cè)或提取的變量各輸入變量之間互不相關(guān)或相關(guān)性很小一 、訓(xùn)練樣本集的準(zhǔn)備31醫(yī)學(xué)PPT輸入輸出量的性質(zhì)從輸入、輸出量的性質(zhì)來(lái)看，可分為兩類：一類是數(shù)值變量，一類是語(yǔ)言變量。數(shù)值變量的值是數(shù)值確定的連續(xù)量或離散量。語(yǔ)言變量是用自然語(yǔ)言表示的概念，其“語(yǔ)言值”是用自然語(yǔ)言表示的事物的各種屬性。當(dāng)選用語(yǔ)言變量作為網(wǎng)絡(luò)的輸入或輸出變量時(shí)，需將其語(yǔ)言值轉(zhuǎn)換為離散的數(shù)值量。一 、訓(xùn)練樣本集的準(zhǔn)備3

12、2醫(yī)學(xué)PPT2. 輸入量的提取與表示XC=(111100111)T XI=(111100111)T XT=(111100111)T(1)文字符號(hào)輸入一 、訓(xùn)練樣本集的準(zhǔn)備33醫(yī)學(xué)PPT（2）曲線輸入p=1,2,P一 、訓(xùn)練樣本集的準(zhǔn)備34醫(yī)學(xué)PPT(3)函數(shù)自變量輸入一般有幾個(gè)輸入量就設(shè)幾個(gè)分量，1個(gè)輸入分量對(duì)應(yīng)1個(gè)輸入層節(jié)點(diǎn)。(4)圖象輸入在這類應(yīng)用中，一般先根據(jù)識(shí)別的具體目的從圖象中提取一些有用的特征參數(shù)，再根據(jù)這些參數(shù)對(duì)輸入的貢獻(xiàn)進(jìn)行篩選，這種特征提取屬于圖象處理的范疇。一 、訓(xùn)練樣本集的準(zhǔn)備35醫(yī)學(xué)PPT3. 輸出量的表示(1)“n中取1”表示法 “n中取1”是令輸出向量的分量數(shù)等于類

13、別數(shù)，輸入樣本被判為哪一類，對(duì)應(yīng)的輸出分量取1，其余 n-1 個(gè)分量全取0。例如，用 0001、0010、0100 和 1000可分別表示優(yōu)、良、中、差4個(gè)類別。(2)“n-1”表示法 如果用n-1個(gè)全為0的輸出向量表示某個(gè)類別，則可以節(jié)省一個(gè)輸出節(jié)點(diǎn)。例如，用000、001、010和100也可表示優(yōu)、良、中、差4個(gè)類別。(3)數(shù)值表示法 對(duì)于漸進(jìn)式的分類，可以將語(yǔ)言值轉(zhuǎn)化為二值之間的數(shù)值表示。數(shù)值的選擇要注意保持由小到大的漸進(jìn)關(guān)系，并要根據(jù)實(shí)際意義拉開(kāi)距離。一 、訓(xùn)練樣本集的準(zhǔn)備36醫(yī)學(xué)PPT二、輸入輸出數(shù)據(jù)的歸一化 歸一化也稱為或標(biāo)準(zhǔn)化，是指通過(guò)變換處理將網(wǎng)絡(luò)的輸入、輸出數(shù)據(jù)限制在0，1或

14、-1，1區(qū)間內(nèi)。 進(jìn)行歸一化的主要原因： 歸一化的方法：37醫(yī)學(xué)PPT進(jìn)行歸一化的主要原因：網(wǎng)絡(luò)的各個(gè)輸入數(shù)據(jù)常常具有不同的物理意義和不同的量綱，歸一化給各輸入分量以同等重要的地位；BP網(wǎng)的神經(jīng)元均采用Sigmoid轉(zhuǎn)移函數(shù)，變換后可防止因凈輸入的絕對(duì)值過(guò)大而使神經(jīng)元輸出飽和，繼而使權(quán)值調(diào)整進(jìn)入誤差曲面的平坦區(qū)；Sigmoid轉(zhuǎn)移函數(shù)的輸出在01或-11之間。教師信號(hào)如不進(jìn)行歸一化處理，勢(shì)必使數(shù)值大的輸出分量絕對(duì)誤差大，數(shù)值小的輸出分量絕對(duì)誤差小。二、輸入輸出數(shù)據(jù)的歸一化38醫(yī)學(xué)PPT歸一化的方法：將輸入輸出數(shù)據(jù)變換為0，1區(qū)間的值常用以下變換式其中，xI代表輸入或輸出數(shù)據(jù)，xmin代表數(shù)據(jù)變

15、化的最小值，xman代表數(shù)據(jù)的最大值。將輸入輸出數(shù)據(jù)變換為-1，1區(qū)間的值常用以下變換式其中，xmid代表數(shù)據(jù)變化范圍中間值。二、輸入輸出數(shù)據(jù)的歸一化39醫(yī)學(xué)PPT三、網(wǎng)絡(luò)訓(xùn)練與測(cè)試 網(wǎng)絡(luò)的性能好壞主要看其是否具有很好的泛化能力，對(duì)泛化能力的測(cè)試不能用訓(xùn)練集的數(shù)據(jù)進(jìn)行，而要用訓(xùn)練集以外的測(cè)試數(shù)據(jù)來(lái)進(jìn)行檢驗(yàn)。三、網(wǎng)絡(luò)訓(xùn)練與測(cè)試40醫(yī)學(xué)PPT 在隱節(jié)點(diǎn)數(shù)一定的情況下，為獲得好的泛化能力，存在著一個(gè)最佳訓(xùn)練次數(shù)。三、網(wǎng)絡(luò)訓(xùn)練與測(cè)試三、網(wǎng)絡(luò)訓(xùn)練與測(cè)試41醫(yī)學(xué)PPT MATLAB是一個(gè)功能十分強(qiáng)大的工程計(jì)算及數(shù)值分析軟件在20世紀(jì)70年代末期，線性代數(shù)領(lǐng)域頗有名望的Cleve Moler博士利用Fort

16、ran語(yǔ)言、基于特征值計(jì)算的軟件包EISPACK和線性代數(shù)軟件包LINPACK，開(kāi)發(fā)了集命令、解釋、科學(xué)計(jì)算于一身的交互式軟件MATLAB.1983年，工程師John Little接觸到Matlab并深受其影響，于是與Cleve Moler、Stev Bangert合作用C開(kāi)發(fā)了第二代Matlab專業(yè)版，增加了數(shù)據(jù)可視化功能。1984年MathWorks公司成立，MATLAB被推向市場(chǎng)，經(jīng)過(guò)多年發(fā)展，在數(shù)值性軟件市場(chǎng)占據(jù)了主導(dǎo)地位，已經(jīng)發(fā)展成為多學(xué)科多種工作平臺(tái)的功能強(qiáng)大的工程計(jì)算及數(shù)值分析軟件軟件，被譽(yù)為“巨人肩上的工具” MATLAB基礎(chǔ)2.1 MATLAB概述 一、MATLAB的發(fā)展歷程

17、和影響力42醫(yī)學(xué)PPTMATLAB 即 Matrix Laboratory（矩陣實(shí)驗(yàn)室），主要用于矩陣運(yùn)算，具有豐富的矩陣運(yùn)算函數(shù)，使之在求解諸如信號(hào)處理、系統(tǒng)識(shí)別、自動(dòng)控制、非線性系統(tǒng)、模糊控制、優(yōu)化技術(shù)等、神經(jīng)網(wǎng)絡(luò)、小波分析等領(lǐng)域的問(wèn)題時(shí)，顯得簡(jiǎn)捷、高效、方便。有大量事先定義的數(shù)學(xué)函數(shù)，并且有很強(qiáng)的用戶自定義函數(shù)的能力；有強(qiáng)大的繪圖功能，可方便地輸出復(fù)雜的二維、三維圖圖形；能與其它語(yǔ)言編寫(xiě)的程序結(jié)合，具有輸入輸出格式化數(shù)據(jù)的能力；有在多個(gè)應(yīng)用領(lǐng)域解決難題的工具箱；Simulink是一個(gè)基于圖形界面的動(dòng)態(tài)系統(tǒng)建模與仿真工具；具有符號(hào)運(yùn)算能力。 二、MATLAB的主要特點(diǎn)43醫(yī)學(xué)PPT三、MA

18、TLAB 界面簡(jiǎn)介 變量瀏覽器歷史命令記錄窗MATLAB 工作窗 當(dāng)前目路sumlink快捷按鈕1、MATLAB 的主界面44醫(yī)學(xué)PPT2、MATLAB 的程序編輯器45醫(yī)學(xué)PPT學(xué)習(xí) MATLAB什么是 MATLAB?MATLAB 能干什么?掌握 MATLAB 應(yīng)用實(shí)例46醫(yī)學(xué)PPT什么是 MATLAB?1 .MATLAB 代表MATrix LABoratory它的首創(chuàng)者是美國(guó)新墨西哥大學(xué)計(jì)算機(jī)系的系主任Cleve Moler博士，他在教授線性代數(shù)課程發(fā)現(xiàn)其他語(yǔ)言很不方便，篇構(gòu)思開(kāi)發(fā)了MATLAB。最初采用FORTRAN語(yǔ)言編寫(xiě)，20世紀(jì)80年代后出現(xiàn)了MATLAB的第二版，全部采用C語(yǔ)言編

19、寫(xiě).1984年Moler博士和一批數(shù)學(xué)家及軟件專家創(chuàng)建了MathWorks公司，專門開(kāi)發(fā)MATLAB。1993年出現(xiàn)了微機(jī)版，到2003年是6.5版47醫(yī)學(xué)PPT2 .一種演草紙式的科學(xué)計(jì)算語(yǔ)言3 .MATLAB 是一高性能的技術(shù)計(jì)算語(yǔ)言. 強(qiáng)大的數(shù)值計(jì)算和工程運(yùn)算功能符號(hào)計(jì)算功能強(qiáng)大的科學(xué)數(shù)據(jù)可視化能力 多種工具箱 48醫(yī)學(xué)PPTMATLAB 能干什么？MATLAB可以進(jìn)行：數(shù)學(xué)計(jì)算、算法開(kāi)發(fā)、數(shù)據(jù)采集建模、仿真、原型 數(shù)據(jù)分析、開(kāi)發(fā)和可視化科學(xué)和工程圖形應(yīng)用程序的開(kāi)發(fā)，包括圖形用戶界面的創(chuàng)建。MATLAB廣泛應(yīng)用于：數(shù)值計(jì)算、圖形處理、符號(hào)運(yùn)算、數(shù)學(xué)建模、系統(tǒng)辨識(shí)、小波分析、實(shí)時(shí)控制、動(dòng)態(tài)

20、仿真等領(lǐng)域。49醫(yī)學(xué)PPTMATLAB開(kāi)發(fā)環(huán)境：進(jìn)行應(yīng)用研究開(kāi)發(fā)的交互式平臺(tái)MATLAB 數(shù)學(xué)與運(yùn)算函數(shù)庫(kù)：用于科學(xué)計(jì)算的函數(shù)MATLAB 語(yǔ)言：進(jìn)行應(yīng)用開(kāi)發(fā)的編程工具圖形化開(kāi)發(fā)：二維、三維圖形開(kāi)發(fā)的工具應(yīng)用程序接口 (API)：用于與其他預(yù)言混編面向?qū)ｉT領(lǐng)域的工具箱：小波工具箱、神經(jīng)網(wǎng)絡(luò)工具箱、信號(hào)處理工具箱、圖像處理工具箱、模糊邏輯工具箱、優(yōu)化工具箱、魯棒控制工具箱等幾十個(gè)不同應(yīng)用的工具箱。MATLAB的構(gòu)成50醫(yī)學(xué)PPT開(kāi)發(fā)環(huán)境 包括：命令窗口、圖形窗口、編輯窗口、幫助窗口51醫(yī)學(xué)PPTThe MATLAB Language MATLAB 語(yǔ)言的特點(diǎn)Matlab的基本數(shù)據(jù)單元是不需指定維

21、數(shù)的矩陣。Matlab的所有計(jì)算都是通過(guò)雙精度進(jìn)行的，在內(nèi)存中的數(shù)都是雙精度的。double 是一個(gè)雙精度浮點(diǎn)數(shù)，每個(gè)存儲(chǔ)的雙精度數(shù)用64位。char用于存儲(chǔ)字符，每個(gè)存儲(chǔ)的字符用16位。 52醫(yī)學(xué)PPT程序M文件與m函數(shù)圖形顯示流程控制其它輸出函數(shù)語(yǔ)句變量各種運(yùn)算符MATLAB的程序構(gòu)成：53醫(yī)學(xué)PPT常變量及其命名規(guī)則變量名可以有數(shù)字、字母、下劃線構(gòu)成；變量的首字符必須是字母；區(qū)分變量名的大小寫(xiě)每個(gè)變量名最長(zhǎng)只能包含19個(gè)字符。54醫(yī)學(xué)PPTMatlab中預(yù)定義變量Ans 分配最新計(jì)算表達(dá)式的值，這個(gè)表達(dá)式并沒(méi)有給定一個(gè)名字Eps 返回機(jī)器精度Realmax 返回計(jì)算機(jī)能處理的最大浮點(diǎn)數(shù)R

22、ealmin 返回計(jì)算機(jī)能處理的最小的非零浮點(diǎn)數(shù)Pi ,3.14159265Inf 定義為1/0 。當(dāng)出現(xiàn)被零除時(shí)，Matlab就返回inf，并不中斷執(zhí)行而繼續(xù)計(jì)算NaN 定義為“Not a Number”，這個(gè)非數(shù)值要么是類型，要么是inf/inf55醫(yī)學(xué)PPT向量的創(chuàng)建在matlab的命令窗口鍵入以下字符 a = 1 2 3 4 5 6 9 8 7 a = 1 2 3 4 5 6 9 8 7 希望得到元素從0到20，步距為2的一個(gè)向量，只需鍵入以下命令即可 t = 0:2:20 t = 2 4 6 8 10 12 14 16 18 20 56醫(yī)學(xué)PPT矩陣的創(chuàng)建 輸入矩陣時(shí)每一行元素有分號(hào)

23、或者回車鍵分隔。例如： B = 1 2 3 4;5 6 7 8;9 10 11 12 B = 1 2 3 4 5 6 7 8 9 10 11 1257醫(yī)學(xué)PPT各種運(yùn)算符58醫(yī)學(xué)PPTMatlab語(yǔ)言最基本的賦值語(yǔ)句結(jié)構(gòu)為：變量名列表=表達(dá)式注1：整個(gè)賦值語(yǔ)句以；結(jié)束，則不在屏幕上返回結(jié)果，否則立即返回結(jié)果。注2：多個(gè)語(yǔ)句可在同一行，用逗號(hào)分開(kāi)。注3：表達(dá)是太長(zhǎng)可以用續(xù)行符號(hào)語(yǔ)句59醫(yī)學(xué)PPT函數(shù) Matlab由包括許多標(biāo)準(zhǔn)函數(shù)，每個(gè)函數(shù)都完成某一特定功能的代碼組成。 Matlab也允許用戶編寫(xiě)自己所需的函數(shù)，其擴(kuò)展名為.m，其中必須以關(guān)鍵字function開(kāi)頭.60醫(yī)學(xué)PPT流程控制循環(huán)語(yǔ)句

24、 for, while條件轉(zhuǎn)移 if end, if elseif else end開(kāi)關(guān)語(yǔ)句 switch case注是語(yǔ)句 %中斷語(yǔ)句 break暫停語(yǔ)句 pause回顯語(yǔ)句 echo on/off61醫(yī)學(xué)PPT1、for循環(huán)語(yǔ)句基本格式for 循環(huán)變量起始值：步長(zhǎng)：終止值 循環(huán)體 end步長(zhǎng)缺省值為1，可以在正實(shí)數(shù)或負(fù)實(shí)數(shù)范圍內(nèi)任意指定。對(duì)于正數(shù)，循環(huán)變量的值大于終止值時(shí)，循環(huán)結(jié)束；對(duì)于負(fù)數(shù)，循環(huán)變量的值小于終止值時(shí)，循環(huán)結(jié)束。循環(huán)結(jié)構(gòu)可以嵌套使用。62醫(yī)學(xué)PPT2、while循環(huán)語(yǔ)句基本格式while 表達(dá)式 循環(huán)體 end若表達(dá)式為真，則執(zhí)行循環(huán)體的內(nèi)容，執(zhí)行后再判斷表達(dá)式是否為真，若

25、不為真，則跳出循環(huán)體，向下繼續(xù)執(zhí)行。While循環(huán)和for循環(huán)的區(qū)別在于，while循環(huán)結(jié)構(gòu)的循環(huán)體被執(zhí)行的次數(shù)不是確定的，而for結(jié)構(gòu)中循環(huán)體的執(zhí)行次數(shù)是確定的。63醫(yī)學(xué)PPT3、if，else，elseif語(yǔ)句（1）if 邏輯表達(dá)式 執(zhí)行語(yǔ)句 end（2）if 邏輯表達(dá)式 （3） if 邏輯表達(dá)式1 執(zhí)行語(yǔ)句1 執(zhí)行語(yǔ)句1 else elseif 邏輯表達(dá)式2 執(zhí)行語(yǔ)句2 執(zhí)行語(yǔ)句2 end end 64醫(yī)學(xué)PPT4、switch語(yǔ)句 switch 表達(dá)式（可以是標(biāo)量或字符串） case 值1 語(yǔ)句1 case 值2 語(yǔ)句2 . otherwise 語(yǔ)句3 end 65醫(yī)學(xué)PPTMATLA

26、B程序的基本組成結(jié)構(gòu)說(shuō)明清除命令：清除workspace中的變量和圖形（clear,close）定義變量：包括全局變量的聲明及參數(shù)值的設(shè)定逐行執(zhí)行命令：指MATLAB提供的運(yùn)算指令或工具箱 提供的專用命令控制循環(huán) ： 包含for,if then,switch,while等語(yǔ)句 逐行執(zhí)行命令 end繪圖命令：將運(yùn)算結(jié)果繪制出來(lái)當(dāng)然更復(fù)雜程序還需要調(diào)用子程序，或與simulink以及其他應(yīng)用程序結(jié)合起來(lái)。66醫(yī)學(xué)PPT2、程序M文件以.m格式進(jìn)行存取，包含一連串的MATLAB指令和必要的注解。需要在工作空間中創(chuàng)建并獲取變量，也就是說(shuō)處理的數(shù)據(jù)為命令窗口中的數(shù)據(jù)，沒(méi)有輸入?yún)?shù)，也不會(huì)返回參數(shù)。程序運(yùn)

27、行時(shí)只需在工作空間中鍵入其名稱即可。MATLAB的程序類型MATLAB的程序類型有三種，一種是在命令窗口下執(zhí)行的腳本M文件；另外一種是可以存取的M文件，也即程序文件；最后一種是函數(shù)（function）文件。1、腳本M文件在命令窗口中輸入并執(zhí)行，它所用的變量都要在工作空間中獲取，不需要輸入輸出參數(shù)的調(diào)用，退出MATLAB后就釋放了。67醫(yī)學(xué)PPT（1）函數(shù)定義行（關(guān)鍵字function）functionout1,out2,. = filename(in1,in2,.)輸入和輸出（返回）的參數(shù)個(gè)數(shù)分別由nargin和nargout兩個(gè)MATLAB保留的變量來(lái)給出。（2）第一行幫助行，即H1行以（%

28、）開(kāi)頭，作為lookfor指令搜索的行（3）函數(shù)體說(shuō)明及有關(guān)注解以（%）開(kāi)頭，用以說(shuō)明函數(shù)的作用及有關(guān)內(nèi)容（4）函數(shù)體語(yǔ)句函數(shù)體內(nèi)使用的除返回和輸入變量這些在function語(yǔ)句中直接引用的變量以外的所有變量都是局部變量，即在該函數(shù)返回之后，這些變量會(huì)自動(dòng)在MATLAB的工作空間中清除掉。如果希望這些中間變量成為在整個(gè)程序中都起作用的變量，則可以將它們?cè)O(shè)置為全局變量。 3、函數(shù)文件 與在命令窗口中輸入命令一樣，函數(shù)接受輸入?yún)?shù)，然后執(zhí)行并輸出結(jié)果。用help命令可以顯示它的注釋說(shuō)明。68醫(yī)學(xué)PPTGraphicsMATLAB提供了豐富的繪圖功能help graph2d可得到所有畫(huà)二維圖形的命令

29、help graph3d可得到所有畫(huà)三維圖形的命令69醫(yī)學(xué)PPT1、基本的繪圖命令plot（x1,y1,option1,x2,y2,option2,）x1,y1給出的數(shù)據(jù)分別為x,y軸坐標(biāo)值，option1為選項(xiàng)參數(shù)，以逐點(diǎn)連折線的方式繪制1個(gè)二維圖形；同時(shí)類似地繪制第二個(gè)二維圖形。這是plot命令的完全格式，在實(shí)際應(yīng)用中可以根據(jù)需要進(jìn)行簡(jiǎn)化。比如：plot(x,y)；plot(x,y,option)選項(xiàng)參數(shù)option定義了圖形曲線的顏色、線型及標(biāo)示符號(hào)，它由一對(duì)單引號(hào)括起來(lái)。70醫(yī)學(xué)PPT2、選擇圖像 figure（1）；figure（2）；figure(n) 打開(kāi)不同的圖形窗口，以便繪制

30、不同的圖形。3、grid on：在所畫(huà)出的圖形坐標(biāo)中加入柵格 grid off：除去圖形坐標(biāo)中的柵格4、hold on：把當(dāng)前圖形保持在屏幕上不變，同時(shí) 允許在這個(gè)坐標(biāo)內(nèi)繪制另外一個(gè)圖形。 hold off：使新圖覆蓋舊的圖形5、設(shè)定軸的范圍 axis（xmin xmax ymin ymax） axis(equal)：將x坐標(biāo)軸和y坐標(biāo)軸的單位刻度大小調(diào)整為一樣。71醫(yī)學(xué)PPT6、文字標(biāo)示text(x,y,字符串)在圖形的指定坐標(biāo)位置(x,y)處，標(biāo)示單引號(hào)括起來(lái)的字符串。title(字符串)在所畫(huà)圖形的最上端顯示說(shuō)明該圖形標(biāo)題的字符串。xlabel(字符串)，ylabel(字符串)設(shè)置x，y

31、坐標(biāo)軸的名稱。輸入特殊的文字需要用反斜杠（）開(kāi)頭。7、legend(字符串1,字符串2,字符串n)在屏幕上開(kāi)啟一個(gè)小視窗，然后依據(jù)繪圖命令的先后次序，用對(duì)應(yīng)的字符串區(qū)分圖形上的線。 72醫(yī)學(xué)PPT8、subplot（m，n，k）：分割圖形顯示窗口m:上下分割個(gè)數(shù)，n:左右分割個(gè)數(shù)，k:子圖編號(hào)9、semilogx：繪制以x軸為對(duì)數(shù)坐標(biāo)（以10為底），y軸為線性坐標(biāo)的半對(duì)數(shù)坐標(biāo)圖形。 semilogy：繪制以y軸為對(duì)數(shù)坐標(biāo)（以10為底），x軸為線性坐標(biāo)的半對(duì)數(shù)坐標(biāo)圖形。10、了解應(yīng)用型繪圖指令：可用于數(shù)值統(tǒng)計(jì)分析或離散數(shù)據(jù)處理bar（x,y）；hist（y,x）stairs（x,y）；stem（

32、x,y）73醫(yī)學(xué)PPT三維的繪圖命令基本與二維的相同，稍有差別，不再詳述。74醫(yī)學(xué)PPTExamples繪圖實(shí)例函數(shù)分析矩陣運(yùn)算線性方程組曲線擬合微分方程75醫(yī)學(xué)PPT繪圖實(shí)例76醫(yī)學(xué)PPT函數(shù)分析fplot(func,-1 1.5) %作圖result = func(0) %求函數(shù)值xsolve = fzero(func,3) %求解Xmin = fminbnd(func,0.5,1)%求最小值77醫(yī)學(xué)PPT矩陣運(yùn)算A = 1 2 3 ; 4 5 6 ; 7 8 9;B = 1 2 3 ; 4 5 6;C = 1 0 1 ; 0 2 3 ; 4 5 0;expC = exp(C)expM =

33、 expm(C)logM = logm(expM)detA = det(A)traceA = trace(A)BT = BinvA = inv(A)rankA = rank(A)EigenVectors,EigenValues = eig(A)78醫(yī)學(xué)PPT線性方程組與特征值A(chǔ) = 3 1 -1 ; 1 2 4 ; -1 4 5 ;b = 3.6 ; 2.1 ; -1.4 ;X = AbEigenVectors,EigenValues = eig(A)79醫(yī)學(xué)PPT曲線擬合%一次多項(xiàng)是擬合%已知離散點(diǎn)x = 1 1.5 3 4 5 6 6.5 7 8;y = 1.2 1 1.7 2.5 2 2

34、.3 2.5 3 3.1;%最小二乘擬合p1 = polyfit(x,y,1);y1 = polyval(p1,x);plot(x,y1);hold onplot(x,y,ro)grid on%7次多項(xiàng)是擬合%已知離散點(diǎn)x = 1 1.5 3 4 5 6 6.5 7 8;y = 1.2 1 1.7 2.5 2 2.3 2.5 3 3.1;%最小二乘擬合p7 = polyfit(x,y,7);xi = 1:0.25:8;yi = polyval(p7,xi);plot(x,y,*r,xi,yi);grid on80醫(yī)學(xué)PPT微分方程Van der Pol Equation81醫(yī)學(xué)PPT標(biāo)準(zhǔn)形式改

35、寫(xiě)82醫(yī)學(xué)PPT程序?qū)崿F(xiàn)function dydt = DifferentialCoe(t,y)dydt = y(2);(1-y(1)2)*y(2)-y(1);83醫(yī)學(xué)PPT感知器的神經(jīng)網(wǎng)絡(luò)工具箱1 感知器的創(chuàng)建感知器生成函數(shù) newp 用于創(chuàng)建一個(gè)感知器網(wǎng)絡(luò)net=newpnet=newp(pr,s,tf,lf)其中：net-函數(shù)返回值，表示生成的感知器網(wǎng)絡(luò) pr-一個(gè)RX2 的矩陣，由R組輸入向量的最大值和最小值組成； s-神經(jīng)原數(shù)； tf-感知器的傳遞函數(shù);可選參數(shù)為hardlim,hardlims lf-感知器的學(xué)習(xí)函數(shù)，可選參數(shù)為learnp,learmpn84醫(yī)學(xué)PPT網(wǎng)絡(luò)初始化n

36、et=newp(-2 5;-5 +2,1);wts=net.IW1,1wts=0 0 bias=net.b1bias=0net.IW1,1=3,4;Net.b1=5;再輸入net=init(net) 可將網(wǎng)絡(luò)權(quán)值和閾值重新初始化為085醫(yī)學(xué)PPT感知器實(shí)例分析p1=2 2;t1=0; p2=1 -2;t2=1;p3=-2 2;t3=0; p2=-1 1;t4=1;net=newp(-2 2;-2 +2,1)p=2;2;t=0;net,traniParam.epochs=1;net=train(net,p,t)w=net.IW1,1w=-2 -2b=net.b1b=-1訓(xùn)練兩個(gè)輸入和一個(gè)神經(jīng)元的

37、感知器net=newp(-2 2;-2 +2,1)net,traniParam.epochs=1;p=2;2 1;-2 -2 2 -1;1;t=0 1 0 1;net=train(net,p,t)w=net.IW1,1w=-3 -1b=net.b1b=0a=sim(net p)a=0 0 1 186醫(yī)學(xué)PPT感知器訓(xùn)練net=newp(-2 2;-2 +2,1)net,traniParam.epochs=10;p=2 2;1 -2;-2 2;-1 1;t=0 1 0 1;net=train(net,p,t)w=net.IW1,1w=-2 -3b=net.b1b=1a=sim(net p)a=0

38、 1 0 187醫(yī)學(xué)PPT88醫(yī)學(xué)PPT89醫(yī)學(xué)PPTclcclear;P=0 0 0.62 0 0 0 0; 0.3915 0.4741 0.77 0.5 0.5 1 0.3158; 0.2835 0.5402 0.68 0 0.5 1 0.3158; 0.6210 1.0 0.63 1 0.5 1 1.0; 0.4158 0.4183 0.67 0.5 0 1 0.7368; 0.2160 0.4948 0.71 0 0 1 0.2632; 0.999 0.0383 0.75 0.5 1 1 0.9474; 0.5805 0.4925 0.71 0 0 0 0.3684; 0.0810 0

39、.0692 0.76 0 0 0 0.0526; 0.3915 0.123 0.98 0.5 0 0 0.8974; 0.0270 0.0742 0.62 0 0 0 0.2105; 0.1755 0.3667 0.77 0 0.5 1 0.7368; 0.4320 0.3790 0.68 0.5 0 1 0.2632;T=0 0.5313 0.5938 0.9375 0.4375 0.5 1.0 0.3750 0.3125 0.6563 0.1875 0.4062 0.4375;net=newff(minmax(P),12,1,logsig,purelin);net.trainParam.e

40、pochs=200;net=train(net,P,T);Y=sim(net,P)T-YPP=0.4995 0.4347 0.63 0 0 1 0.6842; 0.6885 0.5842 0.67 0.5 0.5 1 0.4211; 0.5400 0.8038 0.71 0.5 0.5 1 0.5789; 0.1620 0.2565 0.75 0 0 1 0.4737;Ysim=sim(net,PP)Tsim=0.5938 0.6250 0.7187 0.3750Ysim-TsimBP網(wǎng)絡(luò)預(yù)測(cè)地震MATLAB程序90醫(yī)學(xué)PPT基于BP網(wǎng)絡(luò)的地震預(yù)測(cè)91醫(yī)學(xué)PPT 由四個(gè)過(guò)程組成：輸入模式由輸入

41、層經(jīng)隱含層向輸出層的“模式順傳播” 過(guò)程，網(wǎng)絡(luò)的希望輸出與實(shí)際輸出之差的誤差信號(hào)由輸出層向輸入層逐層修正連接權(quán)的“誤差逆?zhèn)鞑ァ边^(guò)程，由“模式順傳播”與“誤差逆?zhèn)鞑ァ钡姆磸?fù)交替進(jìn)行的網(wǎng)絡(luò)“記憶訓(xùn)練” 過(guò)程，網(wǎng)絡(luò)趨向收斂即網(wǎng)絡(luò)的全局誤差趨向極小值的“學(xué)習(xí)收斂”過(guò)程。歸結(jié)起來(lái)為，“模式順傳播”“誤差逆?zhèn)鞑ァ薄坝洃浻?xùn)練” “學(xué)習(xí)收斂”過(guò)程。BP 網(wǎng)絡(luò)的學(xué)習(xí)92醫(yī)學(xué)PPT (1)網(wǎng)絡(luò)實(shí)質(zhì)上實(shí)現(xiàn)了一個(gè)從輸入到輸出的映射功能，而數(shù)學(xué)理論已證明它具有實(shí)現(xiàn)任何復(fù)雜非線性映射的功能。這使得它特別適合于求解內(nèi)部機(jī)制復(fù)雜的問(wèn)題； (2)網(wǎng)絡(luò)能通過(guò)學(xué)習(xí)帶正確答案的實(shí)例集自動(dòng)提取“合理的”求解規(guī)則，即具有自學(xué)習(xí)能力； (

42、3)網(wǎng)絡(luò)具有一定的推廣、概括能力。BP網(wǎng)絡(luò)的優(yōu)點(diǎn)93醫(yī)學(xué)PPT 地震預(yù)測(cè)是地理問(wèn)題研究領(lǐng)域中的一個(gè)重要課題，準(zhǔn)確的地震預(yù)測(cè)可以幫助人們即使采取有效措施，降低人員傷亡和經(jīng)濟(jì)損失。引發(fā)地震的相關(guān)性因素很多，其產(chǎn)生機(jī)理的復(fù)雜性、孕育過(guò)程的非線性和認(rèn)識(shí)問(wèn)題的困難性使得人們很難建立較完善的物理理論模型。對(duì)有關(guān)物理參數(shù)加以精確的描述，只能借助一些觀測(cè)到的相關(guān)現(xiàn)象進(jìn)行分析、總結(jié)和推理。二背景描述94醫(yī)學(xué)PPT 傳統(tǒng)的非線性系統(tǒng)辨識(shí)在理論研究和實(shí)際應(yīng)用方面都存在著極大的困難，而網(wǎng)絡(luò)具有通過(guò)學(xué)習(xí)逼近任意非線性影射的能力， 將網(wǎng)絡(luò)應(yīng)用于非線性系統(tǒng)的建模與辨識(shí)，可以不受非線性模型的限制，易于實(shí)現(xiàn)學(xué)習(xí)算法。網(wǎng)絡(luò)在非線

43、性系統(tǒng)的預(yù)測(cè)方面有著廣泛的應(yīng)用。相對(duì)于傳統(tǒng)的預(yù)測(cè)方法，神經(jīng)網(wǎng)絡(luò)在處理這方面問(wèn)題中有著獨(dú)特的優(yōu)勢(shì)。三、問(wèn)題的提出95醫(yī)學(xué)PPT 以我國(guó)西南某地震常發(fā)地區(qū)的地震資料作為樣本來(lái)源，實(shí)現(xiàn)基于神經(jīng)網(wǎng)絡(luò)的地震預(yù)測(cè)。根據(jù)這些地震資料，提取出7個(gè)預(yù)測(cè)因子和實(shí)際發(fā)生的震級(jí)M作為輸入和目標(biāo)向量。預(yù)測(cè)因子為：（1）半年內(nèi)M大于等于3的地震累計(jì)頻度；（2）半年內(nèi)能量釋放積累值；（3）b值；（4）異常地震帶個(gè)數(shù)；（5）地震條帶個(gè)數(shù)；（6）是否處于活動(dòng)期內(nèi)；（7）相關(guān)地震區(qū)地震震級(jí)。四、實(shí)際應(yīng)用96醫(yī)學(xué)PPT一共收集10個(gè)學(xué)習(xí)樣本，如表1所示地震累計(jì)頻度累計(jì)釋放能量b值異常地震群個(gè)數(shù)地震條帶個(gè)數(shù)活動(dòng)周期相關(guān)區(qū)震級(jí)實(shí)際震級(jí)000.62000000.39150.47410.770.50.510.31580.53130.28350.54020.6800.510.31580.59380.62101.00000.6310.511.00000.93750.415841830.670.5010.73680.43750.21600.49480.710010.26320.50000.99900.03830.750.5110.94741.00000.58050.49250.710000.36840.37500.08100.06920.760000.05260.31250.39150.12300.98