基于非線(xiàn)性降維特征映射的煤與瓦斯突出序貫最小優(yōu)化算法

基于非線(xiàn)性降維特征映射的煤與瓦斯突出序貫最小優(yōu)化算法

煤和嚴(yán)肅的風(fēng)險(xiǎn)預(yù)測(cè)受到煤和氣的嚴(yán)重威脅，制約著礦山經(jīng)濟(jì)效益的提高。預(yù)測(cè)阿德?tīng)柡兔汉蛧?yán)肅的風(fēng)險(xiǎn)是確保煤和硬件安全生產(chǎn)的重要前提。煤和嚴(yán)肅的發(fā)生是由多因素引起的。例如，地應(yīng)力、高壓氧和壞煤結(jié)構(gòu)性能、地質(zhì)結(jié)構(gòu)、煤厚變化、煤結(jié)構(gòu)和圍巖特征。它的生成機(jī)制是復(fù)雜的、模糊性和不確定性，這給煤炭和莊重的預(yù)測(cè)帶來(lái)了很大困難。1煤與瓦斯突出危險(xiǎn)性預(yù)測(cè)模型的改進(jìn)隨著現(xiàn)代科技的發(fā)展,特別是數(shù)學(xué)方法和計(jì)算機(jī)技術(shù)的應(yīng)用,煤與瓦斯突出的分析方法有了長(zhǎng)足的發(fā)展,目前已有許多先進(jìn)理論和復(fù)合方法如灰色系統(tǒng)理論、支持向量機(jī)、層次分析、模糊識(shí)別理論和神經(jīng)網(wǎng)絡(luò)等應(yīng)用于其分析與預(yù)測(cè)中,并取得了一定的研究成果.不同預(yù)測(cè)方法使用的參數(shù)不同,有的只有幾個(gè),有的多達(dá)十幾個(gè),甚至更多.高維特性帶來(lái)的維數(shù)災(zāi)難問(wèn)題和非線(xiàn)性特征引起的線(xiàn)性模型失效問(wèn)題,使得現(xiàn)有的煤與瓦斯突出預(yù)測(cè)方法在實(shí)際應(yīng)用中受到限制,預(yù)測(cè)結(jié)果的準(zhǔn)確性存在一定的偏差.等距特征映射(Isometricfeaturemapping,Isomap)是一種新的非線(xiàn)性降維技術(shù),它從樣本局部出發(fā),用標(biāo)準(zhǔn)多維尺度變換算法獲得保持樣本間測(cè)地距離不變的低維流型.序貫最小優(yōu)化(SequentialMinimalOptimization,SMO)算法是一種改進(jìn)的SVM訓(xùn)練算法,能夠快速有效地解決二次規(guī)劃問(wèn)題.本文在前人研究的基礎(chǔ)上,提出一種將Isomap和SMO相結(jié)合的方法,記為Isomap-SMO,并利用該方法對(duì)煤與瓦斯突出危險(xiǎn)性預(yù)測(cè)研究做了一些有益的探索.該方法先對(duì)煤與瓦斯突出的各影響因素進(jìn)行Isomap變換,降低其維數(shù)并突出有效特征信息,然后再利用SMO算法建立煤與瓦斯突出的危險(xiǎn)性狀態(tài)預(yù)測(cè)的數(shù)學(xué)模型,并通過(guò)該模型對(duì)煤與瓦斯突出的危險(xiǎn)性狀態(tài)進(jìn)行預(yù)測(cè),取得了較好的效果.實(shí)驗(yàn)同時(shí)將所得的結(jié)果和廣泛使用的線(xiàn)性降維主成份分析(PrincipalComponentAnalysis,PCA)方法降維后的預(yù)測(cè)結(jié)果相比較,發(fā)現(xiàn)Isomap具有更好的降維能力,這說(shuō)明了非線(xiàn)性降維技術(shù)在地學(xué)數(shù)據(jù)分析中具有一定的應(yīng)用潛力.2自主模式算法2.1多—Isomap算法2000年Tenenbaum等學(xué)者首次在science提出Isomap算法,它是針對(duì)非線(xiàn)性數(shù)據(jù)的一種新的無(wú)監(jiān)督降維方法,來(lái)源于傳統(tǒng)的降維算法多—維標(biāo)度法(multi-dimensionalscaling,MDS),結(jié)合了PCA和MDS算法的主要特征:計(jì)算有效性、全局的優(yōu)化性和漸近收斂性,且比較靈活地學(xué)習(xí)到數(shù)據(jù)點(diǎn)的非線(xiàn)性結(jié)構(gòu).用測(cè)量距離代替?zhèn)鹘y(tǒng)方法的歐式距離,較好地揭示了高維數(shù)據(jù)集的自由度.該算法核心是估計(jì)兩點(diǎn)間的測(cè)地距離:距離近的點(diǎn)間測(cè)地距離用歐氏距離代替,距離較遠(yuǎn)的點(diǎn)間測(cè)地距離用最短路徑來(lái)逼近,這種方法更有效地在低維空間表達(dá)高維空間的數(shù)據(jù),減少降維后損失的數(shù)據(jù)信息.2.2采用了二次規(guī)劃優(yōu)化方法SMO算法基本思想是將工作樣本集的規(guī)模減到最小,僅有兩個(gè)樣本.由于子問(wèn)題的優(yōu)化只涉及兩個(gè)變量,它在每一步迭代過(guò)程中選擇兩個(gè)變量進(jìn)行調(diào)整,固定其他變量,通過(guò)求解最優(yōu)化問(wèn)題,得到這兩個(gè)變量的最優(yōu)值,來(lái)更新相應(yīng)的Lagrange乘子,所以迭代過(guò)程中每一步子問(wèn)題的最優(yōu)解可以直接用解析的方法求出來(lái),而不用在算法的迭代中求解二次規(guī)劃問(wèn)題.SMO算法設(shè)計(jì)一個(gè)兩層嵌套循環(huán):外層循環(huán)首先遍歷非邊界樣本,確定哪些樣本違反Karush-Kuhn-Tucker(KKT)條件并以此來(lái)進(jìn)行調(diào)整,當(dāng)所有的非邊界樣本都滿(mǎn)足KKT條件后,再在整個(gè)樣本空間循環(huán)一遍,來(lái)檢驗(yàn)所有的樣本是否都滿(mǎn)足KKT條件,直到所有的樣本點(diǎn)都滿(mǎn)足該條件.而內(nèi)層循環(huán)則是針對(duì)以上違反KKT條件的樣本來(lái)選擇另一個(gè)樣本與它配對(duì)優(yōu)化,其選擇的準(zhǔn)則是使所選擇的樣本能夠?qū)Q策函數(shù)得到最大的優(yōu)化步長(zhǎng).SMO算法最大特色在于它采用的解析方法避免了二次規(guī)劃數(shù)值解法的迭代過(guò)程,因此避開(kāi)了復(fù)雜的數(shù)值求解優(yōu)化問(wèn)題,大大減少了計(jì)算復(fù)雜度,在速度和精度方面都得以保證,在內(nèi)存方面它也頗具特色,SMO使用的內(nèi)存是和樣本集大小成線(xiàn)性增長(zhǎng),這使存儲(chǔ)空間問(wèn)題不再是瓶頸.2.3自主模式算法的結(jié)構(gòu)本文提出的Isomap-SMO算法框架描述如下:2.4煤與瓦斯突出的預(yù)測(cè)模型煤與瓦斯突出是一種典型的復(fù)雜非線(xiàn)性動(dòng)力系統(tǒng),受到很多因素的影響,給煤與瓦斯突出預(yù)測(cè)帶來(lái)極大的困難.控制煤與瓦斯突出的因素眾多,其中地質(zhì)構(gòu)造因素是控制瓦斯突出發(fā)生的主導(dǎo)地質(zhì)因素.地質(zhì)構(gòu)造類(lèi)型、規(guī)模、性質(zhì)、疏密程度、排列組合以及構(gòu)造部位等的差異,對(duì)瓦斯突出均有不同程度的影響.煤層因素包括煤層厚度、煤層傾角、軟分層厚度和煤層埋藏深度,煤層越厚特別是軟分層越厚突出越頻繁,突出次數(shù)和突出強(qiáng)度也相應(yīng)增多.受煤自重影響,傾角越大的煤層越容易發(fā)生突出,突出的次數(shù)隨著煤層傾角增大有增多的趨勢(shì).強(qiáng)烈破壞的松軟煤層,由于強(qiáng)度低,極易發(fā)生煤與瓦斯突出.地應(yīng)力由巖層自重應(yīng)力和構(gòu)造應(yīng)力組成,構(gòu)造應(yīng)力在突出中起重要作用,是構(gòu)造帶發(fā)生瓦斯突出能量的重要組成部分.煤與瓦斯突出前總是伴隨一些特征,這些特征是預(yù)測(cè)煤與瓦斯突出的依據(jù)之一.突出特征主要有巷道頂板來(lái)壓、掉渣、片幫、響煤炮、悶雷聲、瓦斯壓力增大、噴孔、頂鉆、卡鉆等.發(fā)生突出前并非所有特征同時(shí)出現(xiàn),而是出現(xiàn)其中一種或某幾種預(yù)兆.人們提出了很多假說(shuō)來(lái)探討煤與瓦斯突出的機(jī)理,但大都認(rèn)為:煤與瓦斯突出是地應(yīng)力、瓦斯和煤層因素以及地質(zhì)構(gòu)造因素等綜合作用的結(jié)果.從上述影響因素中取n個(gè)因素研究,把每一個(gè)因素看作一個(gè)向量的元素,那么,n個(gè)因素就組成一個(gè)n維向量,n個(gè)因素的每一種組合就是一個(gè)n維向量樣本,在n維特征(即影響因素)空間唯一對(duì)應(yīng)一個(gè)位置.理論上同類(lèi)樣本在特征空間相距較近,不同類(lèi)的樣本相距較遠(yuǎn).如果用某種方法分割空間,使得同一類(lèi)樣本大體在特征空間的同一個(gè)區(qū)域中,則可實(shí)現(xiàn)類(lèi)別劃分.用SMO方法劃分特征空間,使得煤與瓦斯突出危險(xiǎn)類(lèi)與非突出危險(xiǎn)類(lèi)的樣本位于兩個(gè)不同的區(qū)域.對(duì)于預(yù)測(cè)樣本,就可根據(jù)它的特征向量位于特征空間的哪一個(gè)區(qū)域而判定它屬于突出危險(xiǎn)類(lèi)或非突出危險(xiǎn)類(lèi).由于影響煤與瓦斯突出的因素眾多,突出機(jī)理和各因素之間的相互制約關(guān)系錯(cuò)綜復(fù)雜,影響因素具有高度的不確定性,若直接將這些影響因素作為模型的輸入,必然包含大量的冗余信息,所以本文先將這些影響因素用Isomap方法進(jìn)行壓縮,然后再將壓縮后的變量作為SMO模型的輸入.結(jié)合前文介紹的Isomap和SMO算法,即可建立Isomap-SMO的煤與瓦斯突出危險(xiǎn)性狀態(tài)預(yù)測(cè)模型.建模原理如圖1所示.本文以降維后的I1,I2,…,Im來(lái)代替樣本中的原始輸入變量x1,x2,…,xn,進(jìn)行支持向量機(jī)SMO的訓(xùn)練,降低了樣本空間的維數(shù),且消除了原樣本空間的自相關(guān)性.3自主模式算法和smo3.1輸入?yún)?shù)選取本模型采用與文獻(xiàn)相同的數(shù)據(jù)進(jìn)行建模和預(yù)測(cè),該數(shù)據(jù)選取礦井歷年煤與瓦斯突出記載資料,該資料來(lái)源于1995年的漣邵礦務(wù)局煤與瓦斯突出評(píng)價(jià).包括突出點(diǎn)地質(zhì)特征、突出預(yù)兆、突出位置(煤巷、上山、石門(mén)揭煤)、預(yù)測(cè)指標(biāo)值等.輸入?yún)?shù)是指影響突出的主要因素,由于突出本身是一個(gè)復(fù)雜的動(dòng)力學(xué)過(guò)程,影響因素多且因地區(qū)而異,為了減少系統(tǒng)規(guī)模,使系統(tǒng)學(xué)習(xí)難度和復(fù)雜性減小,在建立預(yù)測(cè)模型時(shí),先剔除一些不可靠的數(shù)據(jù)源,采用煤層地質(zhì)特征、鉆孔瓦斯動(dòng)力特征、突出敏感性指標(biāo)等來(lái)綜合判斷,最終選取地質(zhì)構(gòu)造、煤層傾角變化、K1、Smax、D、K等17個(gè)指標(biāo)作為本模型的輸入,建模數(shù)據(jù)如表1.3.2基于smo算法的數(shù)據(jù)降維優(yōu)化本實(shí)驗(yàn)使用平臺(tái)是PC(PentiumⅣ,3.06GHz中央處理器,512Mb內(nèi)存),操作系統(tǒng)是WindowsXP.Isomap程序用Matlab語(yǔ)言編制,在Matlab7.0平臺(tái)上運(yùn)行,SMO程序在WEKA平臺(tái)上運(yùn)行.在煤與瓦斯突出影響因素屬性進(jìn)行數(shù)據(jù)降維處理過(guò)程中,Isomap算法近鄰點(diǎn)k的選取起了關(guān)鍵的作用,k值過(guò)小,會(huì)使圖不連通,過(guò)大會(huì)使Isomap算法趨于MDS算法,k值的選取直接影響預(yù)測(cè)精度的高低.近鄰點(diǎn)k的最優(yōu)值是能夠保證圖連通的最小值,本實(shí)驗(yàn)經(jīng)過(guò)參數(shù)選擇,最終確定用k=6構(gòu)造近鄰圖.SMO算法選擇多項(xiàng)式核函數(shù):K(x,xi)=[(x·xi)+c]q,c取1.0,其它參數(shù)都選擇默認(rèn)參數(shù).3.3實(shí)驗(yàn)結(jié)果及分析如果對(duì)訓(xùn)練數(shù)據(jù)不做降維預(yù)處理,用SMO算法訓(xùn)練樣本實(shí)例1—12條數(shù)據(jù),并用樣本實(shí)例13—15來(lái)測(cè)試煤與瓦斯突出危險(xiǎn)性,實(shí)驗(yàn)結(jié)果預(yù)測(cè)錯(cuò)誤2個(gè),預(yù)測(cè)正確1個(gè),當(dāng)對(duì)原始輸入數(shù)據(jù)進(jìn)行非線(xiàn)性降維,只剩下七維輸入變量屬性時(shí),再對(duì)測(cè)試數(shù)據(jù)重新進(jìn)行預(yù)測(cè),分類(lèi)的結(jié)果如下:預(yù)測(cè)值的詳細(xì)分類(lèi)結(jié)果如表2所示,13、14工作面為有突出危險(xiǎn),15工作面無(wú)突出危險(xiǎn).分類(lèi)結(jié)果的預(yù)測(cè)值與實(shí)際情況完全一致,可見(jiàn)該模型識(shí)別與實(shí)際是完全符合的.為客觀地比較PCA降維和Isomap降維后SMO的分類(lèi)結(jié)果,再對(duì)表1的所有數(shù)據(jù)采用十折交叉驗(yàn)證法進(jìn)行實(shí)驗(yàn),即將表1數(shù)據(jù)隨機(jī)分成10份,從一組數(shù)據(jù)中取出一份作為測(cè)試集,其余的樣本作為訓(xùn)練集,然后取下一份作為測(cè)試集,剩余的作為訓(xùn)練集,重復(fù)運(yùn)算直至計(jì)算完所有的數(shù)據(jù)樣本,本文對(duì)表1的數(shù)據(jù)重復(fù)做十次實(shí)驗(yàn),取十次實(shí)驗(yàn)預(yù)測(cè)精度的平均值做為最終預(yù)測(cè)精度.采用SMO算法對(duì)Isomap和PCA兩種降維的結(jié)果分別進(jìn)行預(yù)測(cè),實(shí)驗(yàn)結(jié)果如圖2所示.圖2的橫軸表示對(duì)原始數(shù)據(jù)經(jīng)過(guò)Isomap非線(xiàn)性降維和PCA線(xiàn)性降維的維數(shù),縱軸表示對(duì)降維后的數(shù)據(jù)用SMO算法進(jìn)行十折交叉驗(yàn)證后的分類(lèi)精度.由圖2可知,原始數(shù)據(jù)用SMO算法經(jīng)過(guò)十折交叉驗(yàn)證后,分類(lèi)的精確度是89%.當(dāng)經(jīng)Isomap算法將煤與瓦斯突出的影響因素降維后,分類(lèi)精度有了較大的變化,隨著主分量的增加,經(jīng)過(guò)Isomap-SMO方法降維后十折交叉驗(yàn)證后的分類(lèi)精度從3維變量的85%增加到5維變量的93%,至7個(gè)變量時(shí),分類(lèi)精度高達(dá)96%.隨著次分量的增加所引入的噪聲會(huì)反映到某些獨(dú)立分量中,使識(shí)別性能下降,分類(lèi)精度略有下降.當(dāng)特征值較小的主分量(即次分量)增加到接近未降維的原始數(shù)據(jù)時(shí),Isomap-SMO方法的分類(lèi)識(shí)別率反而要略低于PCA-SMO方法.根據(jù)圖2比較可以得出Isomap-SMO的分類(lèi)預(yù)測(cè)結(jié)果大都高于PCA-SMO的預(yù)測(cè)結(jié)果,其預(yù)測(cè)精度明顯優(yōu)于PCA-SMO方法,從而檢驗(yàn)了在煤與瓦斯突出預(yù)測(cè)方面Isomap非線(xiàn)性降維的有效性與可適性.4基于isomak的煤與瓦斯突出危險(xiǎn)狀態(tài)識(shí)別方法目前有很多降維方法,但大部分是基于線(xiàn)性的方法,這些方法并不能很好地保證樣本的非線(xiàn)性特征.Isomap來(lái)源于傳統(tǒng)的MDS,該方法利用樣本向量之間的最短距離計(jì)算出用于取代傳統(tǒng)歐式距離的測(cè)地線(xiàn)距離,然后運(yùn)用經(jīng)典的MDS算法構(gòu)造新的低維空間,最大限度地保證樣本之間的距離,以達(dá)到降維的目的.該方法真實(shí)地再現(xiàn)了高維數(shù)據(jù)內(nèi)在的非線(xiàn)性幾何特征,是一種十分有效的降維方法.對(duì)于煤與瓦斯突出的各種影響因素這種高維數(shù)據(jù),Isomap非線(xiàn)性降維算法具有獨(dú)特的優(yōu)點(diǎn),它將樣本向量之間的歐式距離轉(zhuǎn)換為測(cè)地距離,重現(xiàn)樣本空間內(nèi)在的幾何結(jié)構(gòu).筆者提出的基于Isomap的SMO煤與瓦斯突出危險(xiǎn)狀態(tài)識(shí)別方法,利用了Isomap在特征提取方面的非線(xiàn)性?xún)?yōu)勢(shì),能很好地保留各類(lèi)煤與瓦斯突出影響狀態(tài)的拓?fù)浣Y(jié)構(gòu),減小了識(shí)別誤差.在識(shí)別方法方面,筆