-s模糊遞歸神經(jīng)網(wǎng)絡(luò)的混沌優(yōu)化算法

-s模糊遞歸神經(jīng)網(wǎng)絡(luò)的混沌優(yōu)化算法

1混沌dna遺傳算法神經(jīng)網(wǎng)絡(luò)具有動(dòng)態(tài)逼近器的特點(diǎn)，在描述各種復(fù)雜的非線性系統(tǒng)[1.3]。然而，如果按照神經(jīng)網(wǎng)絡(luò)模型進(jìn)行控制和求解，結(jié)構(gòu)將復(fù)雜，計(jì)算將大量復(fù)雜。對(duì)于模糊回歸神經(jīng)網(wǎng)絡(luò)（frrn）的后部分，使用局部線性化模型。與神經(jīng)網(wǎng)絡(luò)模型相比，在處理多變量系統(tǒng)時(shí)，模型規(guī)則的數(shù)量可以減少，這有利于非線性優(yōu)化問題[4.6]。一般，t-s模糊回歸神經(jīng)網(wǎng)絡(luò)的參數(shù)包括模糊規(guī)則的數(shù)量、下屬函數(shù)參數(shù)等?，F(xiàn)有的T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)參數(shù)的辨識(shí)方法主要有聚類算法和遺傳算法等方法.其中,聚類算法如K-均值算法,對(duì)初始聚類中心十分敏感,并且只考慮輸入數(shù)據(jù),據(jù)此建立的模型不能很好反映系統(tǒng)特性.遺傳算法是一種模擬生物進(jìn)化過程的仿生算法,具有很強(qiáng)的易操作性和全局優(yōu)化性能,被廣泛用于非線性規(guī)劃問題、組合優(yōu)化問題、參數(shù)辨識(shí)、控制器優(yōu)化等領(lǐng)域中.近年來(lái),很多學(xué)者使用遺傳算法優(yōu)化模糊模型的結(jié)構(gòu)和參數(shù),取得了較好的結(jié)果[11～13].然而面對(duì)復(fù)雜系統(tǒng),特別是非線性系統(tǒng)時(shí),遺傳算法仍存在著不足,如算法局部搜索能力較低,易早熟收斂等.傳統(tǒng)的遺傳算法采用0-1編碼,這種編碼方式不能表達(dá)豐富的遺傳信息,也不能反映遺傳信息對(duì)生物體生長(zhǎng)、發(fā)育的調(diào)控作用.為了更好的發(fā)揮遺傳算法的仿生性能,近年來(lái),基于堿基編碼的遺傳算法得到了人們的關(guān)注.這類遺傳算法使用DNA分子和RNA分子的基本組成單位-堿基,對(duì)問題的潛在解編碼,使算法中的個(gè)體可以攜帶更豐富的遺傳信息,方便引入更為復(fù)雜的遺傳算子操作,從而在一定程度上提高了遺傳算法的全局搜索能力,但在小區(qū)域內(nèi)搜索效率的提高并不顯著.而混沌是一種非線性現(xiàn)象,具有隨機(jī)性、遍歷性,同時(shí)又存在著一定的內(nèi)在規(guī)律性.一般而言,混沌優(yōu)化過程首先遍歷搜索可行點(diǎn),然后以當(dāng)前最優(yōu)點(diǎn)為中心,附加混沌擾動(dòng),在初始點(diǎn)周圍尋找更好的點(diǎn).混沌優(yōu)化方法在搜索空間小時(shí)效果顯著,但當(dāng)搜索空間大時(shí)其效果不一定讓人滿意.鑒于以上分析,本文受生物DNA分子遺傳機(jī)制的啟發(fā),結(jié)合混沌動(dòng)力學(xué)特性,提出了一種混沌DNA遺傳算法(CDNA-GA).混沌DNA遺傳算法的基本思想是利用堿基對(duì)個(gè)體編碼,并引入DNA分子操作概念來(lái)改進(jìn)遺傳算子,同時(shí)對(duì)于部分較差的個(gè)體引入混沌細(xì)搜索方法.應(yīng)用CDNA-GA來(lái)辨識(shí)T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)的前件參數(shù),同時(shí)采用遞推最小二乘法(RLS)整定網(wǎng)絡(luò)的后件參數(shù).最后采用基于CDNA-GA的T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)對(duì)pH中和過程進(jìn)行建模,仿真結(jié)果表明所建模型有較好的預(yù)測(cè)精度.2t-s模糊遞歸神經(jīng)網(wǎng)絡(luò)模型的t-s-n一個(gè)典型的單輸入單輸出系統(tǒng)的T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)模型由兩部分組成:前件部分網(wǎng)絡(luò)和后件部分網(wǎng)絡(luò),其規(guī)則如下:規(guī)則j:如果x(k)是Aj,則其中:X(k)=[1,u(k-d),···,u(k-d-m+1),y(k-1),···,y(k-n)],u為被控對(duì)象的輸入,y為被控對(duì)象的輸出,yj(k)為第j條規(guī)則所對(duì)應(yīng)的模糊模型輸出預(yù)測(cè)值,而m,n為被控對(duì)象的階次,Bj=[bj,0bj,1···bj,m+n]T為后件部分參數(shù),M為模糊規(guī)則數(shù),Aj為模糊神經(jīng)網(wǎng)絡(luò)的第j個(gè)輸入模糊集.對(duì)于單輸入單輸出系統(tǒng),x(k)=y(k).若模糊神經(jīng)網(wǎng)絡(luò)模型的前件部分采用高斯型隸屬度函數(shù),則前件部分輸出為其中αj為第j條規(guī)則的適用度:其中cj和σj為神經(jīng)網(wǎng)絡(luò)輸入模糊集Aj的高斯隸屬度函數(shù)的中心點(diǎn)和寬度值.T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)模型的后件部分使用遞歸神經(jīng)元來(lái)表示.在后件部分中,前件部分的每一條規(guī)則對(duì)應(yīng)一個(gè)局部線性化模型.經(jīng)解模糊后,可以得到T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)模型的輸出為:從以上分析中可以發(fā)現(xiàn),上述模糊神經(jīng)網(wǎng)絡(luò)模型需要整定的參數(shù)包括:前件部分的隸屬度函數(shù)的中心點(diǎn)cj,寬度σj及后件部分的局部線性化參數(shù)Bj,j=1,2,···,M.本文采用混沌DNA遺傳算法來(lái)辨識(shí)前件部分參數(shù),并利用遞推最小二乘法確定后件部分參數(shù).3采用混合遺傳傳記算法法識(shí)別前件參數(shù)遺傳傳遞容量3.1堿基串編碼原則眾所周知,DNA分子的基本組成元素是核苷酸.而核苷酸的區(qū)別僅在于堿基的不同.其中,腺嘌呤(A)、鳥嘌呤(G)、胞嘧啶(C)和胸腺嘧啶(T)是4種最常見的堿基.因此,核苷酸可以分為腺嘌呤核苷酸、鳥嘌呤核苷酸、胞嘧啶核苷酸和胸腺嘧啶核苷酸.這4種核苷酸按照一定的排列順序,以磷酸二脂鍵相連,可以形成一條核苷酸序列,也稱堿基序列.同時(shí),一個(gè)核苷酸上的堿基可以與另一個(gè)核苷酸上的堿基通過氫鍵相結(jié)合,形成堿基對(duì).遵守WatsonCrick互補(bǔ)性原則:A和T配對(duì),C和G配對(duì).這樣,一條核苷酸單鏈序列可以與另一條特定的核苷酸單鏈序列結(jié)合,從而構(gòu)成一條DNA雙鏈.根據(jù)生物DNA分子的構(gòu)成過程,DNA分子可以抽象為4個(gè)字母A,T,C,G的集合.受生物DNA分子結(jié)構(gòu)的啟發(fā),混沌DNA遺傳算法采用A,T,C,G這4種堿基對(duì)問題的潛在解進(jìn)行編碼.由于這種編碼不能直接用于計(jì)算機(jī)處理,數(shù)字0/1/2/3被用來(lái)對(duì)這4種堿基進(jìn)行編碼.其采用的映射形式為:0123/CGAT.同時(shí)這種映射也繼承了堿基的互補(bǔ)原則,即這4個(gè)數(shù)字按照01/23的原則配對(duì)互補(bǔ).基于上述編碼原則,對(duì)模糊神經(jīng)網(wǎng)絡(luò)的前件部分參數(shù)進(jìn)行編碼.設(shè)前件部分有M條規(guī)則,每條規(guī)則包含一個(gè)高斯隸屬度函數(shù)中心點(diǎn)參數(shù)和一個(gè)寬度參數(shù),則需要優(yōu)化的參數(shù)有2M個(gè).設(shè)每一個(gè)參數(shù)均使用長(zhǎng)度為l的堿基串編碼.遺傳算法中某一個(gè)體i的編碼結(jié)構(gòu)如下:其中:Mi為個(gè)體i所對(duì)應(yīng)的模糊神經(jīng)網(wǎng)絡(luò)模型的模糊規(guī)則數(shù),在初始化種群時(shí)隨機(jī)產(chǎn)生,D為最大規(guī)則數(shù).3.2模糊系統(tǒng)適應(yīng)度函數(shù)在混沌DNA遺傳算法中,經(jīng)解碼后,每一個(gè)個(gè)體對(duì)應(yīng)一個(gè)網(wǎng)絡(luò)的前件部分,與之相應(yīng)的網(wǎng)絡(luò)的后件部分可以通過遞推最小二乘法得到,從而構(gòu)造一個(gè)模糊神經(jīng)網(wǎng)絡(luò).而對(duì)于一個(gè)模糊神經(jīng)網(wǎng)絡(luò)而言,不僅要考慮網(wǎng)絡(luò)的擬合精度,還要考慮網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜度,即模糊規(guī)則數(shù).因此本文定義第i個(gè)個(gè)體的適應(yīng)度函數(shù)如下:其中:λ為權(quán)重因子,Ei為第i個(gè)個(gè)體對(duì)應(yīng)的模糊神經(jīng)網(wǎng)絡(luò)的輸入值與給定值的誤差:其中:y為模型輸出預(yù)測(cè)值,yd為過程實(shí)際輸出值,Ns為訓(xùn)練樣本數(shù).據(jù)式(4)和式(5),f值即適應(yīng)度值越小,該個(gè)體越優(yōu)秀.3.3遺傳操作算子genticprotos受生物DNA分子操作的啟發(fā),混沌DNA遺傳算法采用了更為復(fù)雜的遺傳操作,主要包括:選擇、交叉、變異.1精英保留機(jī)制本文采用的選擇操作是錦標(biāo)賽選擇操作和精英保留策略.錦標(biāo)賽選擇是從當(dāng)前群體中隨機(jī)選擇兩個(gè)個(gè)體,將其中適應(yīng)度值較小的個(gè)體保存到下一代群體中.精英保留機(jī)制指將當(dāng)前群體中適應(yīng)度值最小的個(gè)體直接保存到下一代種群中,這種保留機(jī)制可以保證算法的收斂性.通過這兩種選擇方法,可以在原種群中選擇一定數(shù)量的個(gè)體來(lái)形成新的種群.2子父體的編碼在種群中隨機(jī)挑選兩個(gè)個(gè)體,作為交叉操作的父體,交叉過程如圖1所示.首先將每個(gè)父體按照編碼參數(shù)的不同分成2D個(gè)子序列,并將編碼同一參數(shù)的子序列配對(duì)組成子父體,如圖1中均編碼cM的兩段子序列即配對(duì)為一對(duì)子父體.在每對(duì)子父體間,均執(zhí)行兩點(diǎn)交叉,將交叉點(diǎn)間的內(nèi)容互換,從而生成兩個(gè)新的個(gè)體:子代1和子代2.在交叉操作中,交叉點(diǎn)的位置是隨機(jī)決定的.交叉操作的執(zhí)行概率為pc.32突變操作變異操作是一種重要的遺傳操作,用來(lái)產(chǎn)生新的個(gè)體.本文采用的變異操作由3種變異算子組成:反密碼子變異算子與交叉操作相似,將執(zhí)行反密碼子變異的個(gè)體分成2D個(gè)序列片段,操作過程如圖2所示.首先在每一個(gè)序列片段中隨機(jī)選取一小段序列定義為密碼子,如112(密碼子的長(zhǎng)度和位置是隨機(jī)決定的).隨后依據(jù)Watson-Crick互補(bǔ)性原則可生成一段與密碼子中的堿基互補(bǔ)的序列003,稱之為反密碼子.然后將反密碼子序列中的堿基進(jìn)行倒位處理,得到倒轉(zhuǎn)的反密碼子序列300.最后將倒轉(zhuǎn)的反密碼子300代替密碼子112的位置,從而形成了一個(gè)新的個(gè)體.反密碼子變異算子的執(zhí)行概率為pIA.大最小變異操作將個(gè)體中出現(xiàn)頻率最高的堿基用個(gè)體中出現(xiàn)頻率最低的堿基來(lái)代替,這種變異方法稱為最大最小變異,操作過程如圖3所示.在個(gè)體中,堿基1的使用頻率最高,而堿基0的使用概率最低.這樣在新個(gè)體中,堿基1的位置就被堿基0所代替.這里要注意的是,最大最小變異操作將個(gè)體視為一個(gè)整體操作,而不需將個(gè)體按參數(shù)分塊,它的執(zhí)行概率為pMM.個(gè)體堿基以概率pm變異為例,與最大最小變異普通變異算子與普通二進(jìn)制遺傳算法中的翻轉(zhuǎn)變異類似,它的操作方法為將個(gè)體中的每一位堿基以概率pm變異為另一種堿基.普通變異與最大最小變異相同,也是個(gè)體視為一個(gè)整體操作,而不需將個(gè)體按參數(shù)分塊.3.4混沌細(xì)搜索非小細(xì)胞為了增強(qiáng)算法跳出局部最優(yōu)解的能力,本文引入了混沌優(yōu)化方法.混沌狀態(tài)具有對(duì)初始值極其敏感的特點(diǎn):取不同的初值,可得到不同軌跡的混沌變量.根據(jù)混沌狀態(tài)這一特點(diǎn),本文對(duì)于種群中的適應(yīng)度值較大的個(gè)體,即較差的個(gè)體,采用混沌細(xì)搜索的方法,在原個(gè)體的周圍搜尋更優(yōu)秀的個(gè)體.這里采用Logistic映射形式生成混沌變量:其中:0<X0<1(且X0=0.25,0.5,0.75),取μ=4,則Xn在(0,1)內(nèi)遍歷.對(duì)于需要進(jìn)行混沌細(xì)搜索的個(gè)體,首先將其對(duì)應(yīng)的各部分參數(shù)值映射到混沌變量區(qū)間,進(jìn)行混沌迭代.若最后得到的新個(gè)體的適應(yīng)度值小于原有個(gè)體,則原有個(gè)體被新的個(gè)體代替;否則仍使用原有個(gè)體.3.5種群進(jìn)化操作Step1設(shè)置算法運(yùn)行參數(shù),種群大小size,編碼長(zhǎng)度l,最大規(guī)則數(shù)D,最大進(jìn)化代數(shù)Glim,遺傳算子操作概率pc,pIA,pMM,pm,并初始化群體.取當(dāng)前進(jìn)化代數(shù)t=0.Step2計(jì)算群體中每個(gè)個(gè)體的適應(yīng)度值,并且t=t+1.Step3對(duì)種群中的個(gè)體執(zhí)行交叉操作,并將新生成的個(gè)體插入原有種群中,不刪除原個(gè)體.Step4對(duì)種群中的每個(gè)個(gè)體(包括Step3中新生成的個(gè)體)依次按照變異概率執(zhí)行3種變異操作,新產(chǎn)生的個(gè)體將代替原有個(gè)體在種群中的位置.Step5對(duì)于種群中適應(yīng)度值較大的一半個(gè)體執(zhí)行混沌細(xì)搜索,若得到的新個(gè)體的適應(yīng)度值小于原個(gè)體,則新個(gè)體將代替原個(gè)體在種群中的位置;否則仍使用原有個(gè)體.Step6對(duì)種群中的所有個(gè)體執(zhí)行錦標(biāo)賽選擇,直到Size-1個(gè)個(gè)體被選出進(jìn)入下一代種群,并且將上一代群體中的最優(yōu)個(gè)體作為精英保留到下一代種群中.Step7判斷是否滿足進(jìn)化原則:當(dāng)前進(jìn)化代數(shù)t等于最大進(jìn)化代數(shù)Glim或者當(dāng)前代數(shù)t的最優(yōu)個(gè)體與t-1代的最優(yōu)個(gè)體之間的差距小于閾值?.若滿足則將最優(yōu)結(jié)果輸出;否則回到Step2.4基于最小二乘估計(jì)的參數(shù)辨識(shí)當(dāng)?shù)玫揭唤M模糊神經(jīng)網(wǎng)絡(luò)模型的前件參數(shù)后,需要對(duì)后件參數(shù)進(jìn)行辨識(shí)才能構(gòu)造一個(gè)完整的神經(jīng)網(wǎng)絡(luò).最小二乘法是最常用的估計(jì)方法,但由于使用最小二乘算法,不僅占用內(nèi)存量大,而且當(dāng)遇到奇異矩陣或近似奇異矩陣時(shí),該算法無(wú)法實(shí)現(xiàn)參數(shù)辨識(shí).為了減少計(jì)算量,減少數(shù)據(jù)在計(jì)算機(jī)中所占的存儲(chǔ)量,并保證系統(tǒng)參數(shù)的可辨識(shí)性,本文采用遞推最小二乘算法來(lái)辨識(shí)后件參數(shù)Bj,設(shè)辨識(shí)過程如下:5混沌dna遺傳算法優(yōu)化的模糊遞歸神經(jīng)網(wǎng)絡(luò)模型pH中和過程通過反應(yīng)物(堿液或酸液)來(lái)對(duì)流入物(酸液或堿液)來(lái)進(jìn)行中和.一個(gè)典型的pH中和過程機(jī)理模型及過程正常操作參數(shù)見文獻(xiàn).此過程模型中,堿液q3為控制量來(lái)控制pH輸出值.定義堿液q3為被控對(duì)象輸入u,pH輸出值pH4為被控對(duì)象輸出y.隨機(jī)產(chǎn)生500組數(shù)據(jù)(q3及相應(yīng)的pH4)作為T-S模糊神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和測(cè)試數(shù)據(jù).其中300組用于模糊遞歸神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,200組用于所建模型的測(cè)試.設(shè)混沌DNA遺傳算法的參數(shù)為:最大進(jìn)化代數(shù)Glim=200,種群數(shù)size=30,每個(gè)參數(shù)的編碼長(zhǎng)度l=10,交叉概率pc=0.6,變異概率pIA=0.5,pMM=0.5,pm=0.001,目標(biāo)函數(shù)權(quán)重因子λ=0.8.經(jīng)混沌DNA遺傳算法優(yōu)化整定后,得到的T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)模型的前件部分中各輸入模糊集對(duì)應(yīng)的隸屬度函數(shù)如圖4所示.對(duì)應(yīng)的后件部分參數(shù)由遞推最小二乘法辨識(shí)得到:如果pH4(k)是A1,則如果pH4(k)是A2,則如果pH4(k)是A3,則如果pH4(k)是A4,則如果pH4(k)是A5,則因此,據(jù)式(1)～(3)可以得到本文所建立的T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)模型的輸出.A1到A5為模型的5個(gè)輸入模糊集.其中:A1代表輸出液酸性最強(qiáng),A2代表輸出液酸性較強(qiáng),A3代表輸出液酸性中,A4代表輸出液酸性較弱,A5代表輸出液酸性最弱.為了測(cè)試建立模型的有效性,使用未參與訓(xùn)練的200組數(shù)據(jù)作為測(cè)試數(shù)據(jù)代入所建立的模型.建模誤差如圖5(a)所示.為了說明本文方法的有效性,將同樣的測(cè)試數(shù)據(jù)帶入基于遺傳算法得到的模型和模糊聚類法得到的模型,得到的建模誤差如圖5(b)和圖5(c)所示.這些不同建模方法的最大建模誤差和誤差平均值列于表1.由圖5及表1可見,基于同樣的測(cè)試數(shù)據(jù),采用混沌DNA遺傳算法優(yōu)化的模糊遞歸神經(jīng)網(wǎng)絡(luò)模型較好擬合