最優(yōu)高斯核多誤差信息梯度算法及其在電廠建模中的應(yīng)用

1、最優(yōu)高斯核多誤差信息三度算法及其在電廠建模中的應(yīng)用摘 要：傳統(tǒng)的信息梯度算法雖具有計算量小的優(yōu)點，但收斂速度較慢。為加速算法收斂，提出一種多誤差信息梯度算法。該算法 將信息梯度中使用的標量誤差更換為多個誤差組成的誤差向量，使得收斂速度大為加快；同時，為獲得更準確的誤差概率密度函 數(shù),引入最優(yōu)高斯核寬度。數(shù)值仿真和案例建模表明了算法的有效性。關(guān)鍵詞：參數(shù)辨識；高斯核；核寬；信息梯度；多誤差；收斂速度The Optimal Gaussian Kernel Multi-error Information Gradient Algorithm andIts Application in Power P

2、lant ModellingAbstract： Although the traditional information gradient algorithm costs small computation, its convergences is more slowly. To accelerate the algorithm, a multi-error information gradient algorithm is proposed. In this algorithm, the scalar error used in the information gradient is rep

3、laced by an error vector, which is composed of multi-errors. The convergence speed is accelerated greatly; At the same time, to obtain a more accurate probability density function of error, an optimal Gaussian kernel width is introduced. Numerical simulation and case study are shown the effectivenes

4、s of the algorithm. Keywords： parameter identification;gaussion kernel; kernel width; informatiion gradient;multi-error; convergence speed0引言系統(tǒng)辨識就是利用觀測到的輸入輸出數(shù)據(jù)對動態(tài)系統(tǒng) 進行建模，也就是按一個準則在一組模型類中選一個與數(shù) 據(jù)擬合得最好的模型1。近幾十年來，系統(tǒng)辨識引起世界各 地研究人員的密切關(guān)注，一大批研究成果得以發(fā)表2，。作 為現(xiàn)代控制理論的三大支柱之一，系統(tǒng)辨識在工農(nóng)業(yè)生產(chǎn) 中獲得了廣泛應(yīng)用4偵。作為一種計算量較小的參數(shù)估計算法，隨

5、機梯度算法 獲得大量運用。如，為辨識Box-Jenkins系統(tǒng)的參數(shù)，提出一 種基于輔助模型的多新息廣義增廣隨機梯度算法7；為建 模永磁同步電機，提出一種基于遺忘因子的多新息隨機梯度 算法8；為辨識一類雙采樣率系統(tǒng)的參數(shù)，提出了一種改進 的隨機梯度算法9；為辨識一類非線性Hammerstein系統(tǒng)，提 出一種極大似然隨機梯度算法10；為辨識一類ARX模型的 參數(shù),提出一種遞推形式的隨機梯度算法11。眾所周知，隨機梯度算法用當(dāng)前的梯度乘以步長來更 新參數(shù)。雖然計算量較小，但收斂較慢。為提高隨機梯度算 法，動量法使用梯度的滑動平均來更新參數(shù)12;NAG法使 用投影梯度的滑動平均更新參數(shù)13;Ada

6、Grad算法通過同時 更新步長和梯度以加速算法14;AdaDelta將步長和梯度都進 行了指數(shù)滑動平均g;Adam算法將動量法的梯度計算方法 與RMSProp算法的步長計算方法進行了結(jié)合16o 2003年，為 了在線辨識，一種基于信息理論的隨機信息梯度(SIG)算法 被提出叫?；谠撍惴?，本文提出一種多誤差方法用于加速 SIG算法，并引入最優(yōu)高斯核寬度以提高辨識精度。本文的其余部分安排如下：第1節(jié)中，在簡要回顧隨機 信息梯度算法的基礎(chǔ)上，為加速算法的收斂速度和提高估 計的精度，提出一種最優(yōu)高斯核多誤差信息梯度算法，接 著第2節(jié)利用一個數(shù)值仿真和一個發(fā)電廠數(shù)據(jù)集對所提算 法進行了驗證，最后在第3

7、節(jié)作出一些結(jié)論。1辨識算法1.1隨機信息三度算法對式(1)所示的參數(shù)化系統(tǒng)，(1)定義瞬時誤差如下：e(A-) = _v*(A-)-(pr(A-)0(2)其中，自然數(shù)P其中，自然數(shù)P為堆積長度，并且e(k)e(Sl)其中未知參數(shù)向量e可用前一個時刻的估計值(jM-n代 替,這樣式(2)變?yōu)椋篹(k) =1).(3)根據(jù)申農(nóng)嫡的定義，概率密度函數(shù)為/(的誤差。的申 農(nóng)嫡為：g = -e) log E)dy = -log /(e).(4)一般情況下，/(曰是未知的，可用Parzen窗估計,/( d: /(e)= 2X(e-e(i), 其中/-()為一個寬度為的核函數(shù)。 于是e /、)的一個Parz

8、en窗估計為： /國) = ：X 匕0),L i=k-L其中,A,L表示窗的寬度。那么，k時刻誤差嫡的一個估計為：(15)(5)(6)gk) = E Tog修如 0)e(k-p + V) q =廊(人)，p(L -1),，取s p +1) G 于是，式(11)改寫為A-1咻)=,i=k-L由于式(16)使用由多個誤差組成的誤差向量取代了式 (11)中的誤差標量，原來的隨機信息梯度算法變?yōu)槎嗾`差 隨機信息梯度(ME-SIG)算法，該算法由式(12)-(16)組成。(16)(7)仿照參考文獻17的做法，去掉上式等號右邊的期望符號得到:i=k-LJ (8)于是k時刻申農(nóng)嫡對參數(shù)向量e的梯度g(Q為：

9、1.3最優(yōu)高斯核多誤差隨機信息三度算法核寬度對概率密度函數(shù)的估計有重要影響，小的可 體現(xiàn)更多細節(jié)但常導(dǎo)致密度函數(shù)曲線尾部欠平滑，大的容 易丟失細節(jié)，導(dǎo)致密度函數(shù)曲線變化劇烈部分過于平滑。要得 到高精度的參數(shù)估計，必須獲得高精度的概率密度估計。為此, 在式(10)和(11)中引入了最優(yōu)高斯核(0GK)618。首先定義平g(幻=-其中K，)表示核函數(shù)的導(dǎo)數(shù)。 使用方差為。2的高斯核函數(shù):(9)均積分平方誤差(MISE)為E I，小，其中/ 為真 實的概率密度函數(shù)函數(shù)為用公式(5)估計到的密度函數(shù)； 接著最小化并考慮采用高斯核函數(shù)，可得到高斯核最優(yōu) 核寬度6為：則公式(9)變?yōu)椋?10)1.063/

10、2(17)E匕0)&如 咻)=尸2%0)， i=k-L其中。，=(p(Q (p(，)。 這樣就得到估計參數(shù)e的更新公式：儂)=6儂-1)+儂)g(幻,(11)(12)和其中#表示樣本的標準差。于是式(10)和(11)分別改寫為:k-電(龐)毒A如 部)=上-1i=k-L(18)(19)其中(k)是步長,為減小計算量，采用如下的步長計算方法: 這樣，式(12)-(15)和式(17)-(19)組成了最優(yōu)高斯核(尸=尸伉l) + |(p伉)，1(13)以)=疝，尸(0) = 1.式(10)-(13)組成了隨機信息梯度(SIG)算法。1.2多誤差隨機信息三度算法信息梯度算法的計算量較小，但收斂速度慢。

11、觀察 (11)式知，適當(dāng)增加式(11)中分子部分的值，可以增加梯 度的大小，從而有助于提高算法的收斂速度。基于此，提出 一種多誤差(Multi-error)策略，用堆積誤差取代式(11)中的 標量誤差，即分別用堆積信息矩陣&小和堆積誤差向量矩 陣&代替中(11)相應(yīng)變量：多誤差隨機信息梯度(OGK-ME-SIG)算法。2實驗結(jié)果2.1數(shù)值仿真為了驗證所提算法的有效性，采用如下的ARX模型：A(zT)y(k) = B(z1)u(k) + v(k)IZ(z i) = l-1.512z 1+0.7006z 2貝zT) = -0.2606zT + 1.664z2(20)以幻口 N(0, f ), v(

12、幻口 N(0,0. f)TV = 1000輸入 (/、)和輸出.E)的波形如圖1所示：使用所提出的OGK-ME-SIG算法，得到的參數(shù)估計值如表 1所示，其中算法中各個參量的設(shè)置為L = 3,p = l,a0 = 0.7069 ,估計誤差的定義為L表1 OGK-ME-SIG辨識結(jié)果參數(shù)20501004001000真值q-1.9926-1.3900-1.5790-1.5553-1.51201.74600.93480.77560.74110.73060.7006房-2.2017-0.7887-0.7324-0.3847-0.3083-0.2606b22.49022.41472.15511.8929

13、1.80131.6640S(%)88.322940.307731.320511.47706.52601000OGK-ME-SIG 1000OGK-ME-SIG 一 ME-SIG SIG400600k2.2電廠數(shù)據(jù)建模本案例來自系統(tǒng)辨識數(shù)據(jù)庫Stadius中的發(fā)電廠數(shù)據(jù)。 該數(shù)據(jù)集有200組數(shù)據(jù)，采樣周期是1228.8秒，為5輸入 （氣體流量、渦輪閥門開度、過熱器棉淋流量、氣體阻尼器 開度和氣流量）3輸出（蒸汽壓力、主閥溫度和再熱蒸汽溫 度）的數(shù)據(jù)集，采用多輸入單輸出ARX模型對第1個輸出 （即蒸汽壓力）進行建模。模型結(jié)構(gòu)為：出二）.（）二恥t）+ , m）tMk）+】（k），（21）多項式出L

14、）和）（/ = L2.5 ）的階次分別是6和2， 得到的辨識結(jié)果為：屈死-0.9524, -0.0556,0.0462, -0.0951,0.0509,0.0588-婦&，如=310, -0.0275,0.0751, -0.0558, -0.0778,0.0866（ 22 ）I 垢島，婦，婦=00293, -0.0292, -0.0242,0.0383系統(tǒng)的實際輸出和預(yù)測輸出如圖3所示，可見模型的 預(yù)測效果較好。圖3輸出觀測值和預(yù)測值對比3結(jié)論為了提高傳統(tǒng)信息梯度算法的收斂速度和辨識精度， 本文提出了一種最優(yōu)高斯核多誤差信息梯度算法。該算法 首先用多個誤差組成的誤差向量取代傳統(tǒng)算法中使用的標 量誤差，大大提高了算法的收斂速度；其次，引入最優(yōu)高斯 核寬度，提高對誤差概率密度函數(shù)的估計精度，從而間接 提高了辨識算法的精度。數(shù)值仿真和電廠數(shù)據(jù)建模驗證了 算法的有效性。圖2三種算法的參數(shù)估計誤差根據(jù)上述