第十五講非線性反演

1、第七章 非線性反演計(jì)算地球物理學(xué)講義非線性反演概論地球物理學(xué)家研究地球所依據(jù)的物性參數(shù)不同，方法各異，但就工作程序而言，一般都可分為數(shù)據(jù)采集，資料處理和反演解釋數(shù)據(jù)采集，資料處理和反演解釋等三個(gè)階段。數(shù)據(jù)采集就是按照一定的觀測(cè)系統(tǒng)、一定的測(cè)線、測(cè)網(wǎng)布置,在現(xiàn)場(chǎng)獲得第一手、真實(shí)可靠的原始資料。所以數(shù)據(jù)采集是地球物理工作的基礎(chǔ)，是獲得高質(zhì)量地質(zhì)成果的前提和條件。資料處理的目的是通過(guò)各種手段，去粗取精，去偽存真，壓制干擾，提高信噪比，使解釋人員能從經(jīng)過(guò)處理的資料(異常,或響應(yīng)) 中、較準(zhǔn)確的提取出測(cè)區(qū)的地質(zhì)、地球物理信息。資料處理是從原始觀測(cè)數(shù)據(jù)到地球物理模型之間的必不可少的手段和過(guò)渡階段。反演解釋

2、的目的反演解釋的目的，用地球物理的術(shù)語(yǔ)來(lái)說(shuō)，就是實(shí)現(xiàn)從地球物理異常(或響應(yīng))到地球物理模型的映射，使解釋人員能從經(jīng)過(guò)處理的地球物理資料(異?；蝽憫?yīng))中提取出獲得最接近真實(shí)情況的地提取出獲得最接近真實(shí)情況的地質(zhì)、地球物理模型質(zhì)、地球物理模型，圓滿的完成提出的地質(zhì)任務(wù)。引自：王家映，地球物理反演問(wèn)題概述，工程地球物理學(xué)報(bào)，4（1），2007非線性反演概論 資料處理的基礎(chǔ)是時(shí)間（空間）序列分析。 反演解釋的基礎(chǔ)是反演理論。 地球物理觀測(cè)數(shù)據(jù)和地球物理模型參數(shù)之間的數(shù)學(xué)表達(dá)式，只有線性和非線性兩大類。以d表示觀測(cè)數(shù)據(jù)向量，m表示模型參數(shù)向量，f表示聯(lián)系d和m的函數(shù)或泛函表達(dá)式。線性反演問(wèn)題滿足：不滿足

3、上面兩個(gè)條件之一的所有問(wèn)題都統(tǒng)稱為非線性問(wèn)題。引自：王家映，地球物理反演問(wèn)題概述，工程地球物理學(xué)報(bào)，4（1），2007非線性反演概論 從模型參數(shù)m 到觀測(cè)數(shù)據(jù)d 的變換(或映射) ，統(tǒng)稱為正演或正問(wèn)題,并記為：由觀測(cè)數(shù)據(jù)d，反推模型參數(shù)m的變換(或映射) ，叫反演或反問(wèn)題。引自：王家映，地球物理反演問(wèn)題概述，工程地球物理學(xué)報(bào)，4（1），2007 解決非線性問(wèn)題有兩種辦法，一是把非線性問(wèn)題線性化，按線性問(wèn)題解決，然后通過(guò)迭代的辦法，逐次逼近，求得反演問(wèn)題的近似解；一是不走線性化的路子，而按非線性的辦法進(jìn)行反演。 非線性問(wèn)題線性化的辦法，簡(jiǎn)單、易行，在許多情況下也可以取得較好的結(jié)果，但是在目標(biāo)函數(shù)

4、具多極值的情況下，在反演迭代中，容易陷入局部極小，而且反演結(jié)果極大的取決于初始模型，也可能使反演出現(xiàn)不穩(wěn)定，甚至無(wú)解。引自：王家映，地球物理反演問(wèn)題概述，工程地球物理學(xué)報(bào)，4（1），2007非線性反演概論非線性反演概論一般說(shuō)來(lái)，地球物理反演的目標(biāo)函數(shù)都是高次非線性函數(shù)，有多個(gè)極值。反演時(shí)，如初始模型選取不當(dāng)，不靠近目標(biāo)函數(shù)的全局極小，因而在迭代過(guò)程中,只能在局部極小點(diǎn)附近搜索，很難跳出局部極小的阱，這時(shí)，只能獲得局部最優(yōu)解局部最優(yōu)解；有的反演方法，由于初始模型選取和參數(shù)修改的隨機(jī)性，在搜索的過(guò)程中，可能在模型空間全局尋優(yōu)，其解就是全局最優(yōu)解全局最優(yōu)解。引自：王家映，地球物理反演問(wèn)題概述，工程地

5、球物理學(xué)報(bào)，4（1），2007非線性反演概論非線性反演概論 反演理論家R. L . Parker 在其著名的論文Understanding Inverse Theory中提出，地球物理反演理論必須回答以下4 個(gè)問(wèn)題： 1) 解的存在性（Existence）。即給定一組地球物理觀測(cè)數(shù)據(jù)： di ， i = 1 , 2 , 3 , , M 之后，是否存在一個(gè)能擬和觀測(cè)數(shù)據(jù)的地球物理模型m？ 2) 解的非唯一性（Non-uniqueness）。如能求得能擬合觀測(cè)數(shù)據(jù)的地球物理模型，解是唯一的還是非唯一的？ 3) 模型構(gòu)制（Model Construction）。如何求得能擬和觀測(cè)數(shù)據(jù)的一個(gè)地球物理模

6、型？ 4) 解的評(píng)價(jià)（Appraisal） 。既然解是非唯一，地球物理反演所獲得的任一解又有何意義？引自：王家映，地球物理反演問(wèn)題概述，工程地球物理學(xué)報(bào)，4（1），2007非線性反演概論非線性反演概論 理論嚴(yán)格證明，給定一組地球物理觀測(cè)數(shù)據(jù)以后，總可以找到一個(gè)能擬合它的地球物理模型。由于觀測(cè)數(shù)據(jù)的個(gè)數(shù)并非無(wú)限，不構(gòu)成一個(gè)數(shù)據(jù)的完備群，加之每一個(gè)觀測(cè)數(shù)據(jù)均有誤差，這就決定了地球物理反問(wèn)題的解是非惟一的。雖然，反演問(wèn)題的解是非惟一的，但這個(gè)非惟這個(gè)非惟一解仍然是有意義的一解仍然是有意義的。引自：王家映，地球物理反演問(wèn)題概述，工程地球物理學(xué)報(bào)，4（1），2007非線性反演概論非線性反演概論蒙特卡洛法

7、(Monte-Carlo Method) ,模擬退火法( Simulated Annealing) , 人工神經(jīng)元法(Artificial Neural Network) ,遺傳算法( Genetic Algorit hm) ,多尺度反演法(Multi-Scale Inversion) ,同倫反演法( Homotopy Method ) ,非線性共軛梯度法( Non-Linear Conjugate Gradient Method) ,原子躍遷法(Atomic Transition Algorithm) ,量子退火法(Quantum Annealing) ,量子遺傳法(Quant um Gen

8、etic Algorithm) ,螞蟻覓食法(Ant Colony Optimization Algorithm) ,免疫算法( Immune algorithm) , 離子群算法( ParticleSwarm Optimization) ,演化博弈算法( Evolutionary Game)引自：王家映，地球物理反演問(wèn)題概述，工程地球物理學(xué)報(bào)，4（1），2007非線性反演概論非線性反演概論 1) 原子躍遷法 (Atomic Transition Algorithm, ATA) 2) 模擬退火法 （Simulated Annealing, SA） 3) 量子退火法 (Quantum SA) 4

9、) 量子遺傳算法 (Quantum GA)1、物理類物理類1) 貝葉斯法 (Bayesian Inversion) 2) 同倫算法 (Homotopy Algorithm) 3) 多尺度非線性反演法 (Multi-Scale Algorithm) 4) 蒙特卡羅法 (Monte-Carlo) 2、數(shù)學(xué)類、數(shù)學(xué)類1) 粒子群算法 (Particle Swarm Optimization, PSO) 2) 免疫算法 (Immune Algorithm, IA) 3) 人工神經(jīng)元法 (ANN) 4) 遺傳算法 (GA) 5) 螞蟻算法 (Ant Colony Optimization, ACO）3、

10、仿生類、仿生類 和線性反演一樣，大多數(shù)非線性反演法都是基于最優(yōu)化的原理。即從大量大量已知模型的正演正演結(jié)果中，選出方差方差（或其它范數(shù)規(guī)則）為最小最小的那個(gè)模型作為待求模型的解。因此，正演是反演的前提和瓶頸，成了提高反演速度的關(guān)鍵。引自：王家映，地球物理反演問(wèn)題概述，工程地球物理學(xué)報(bào)，4（1），2007目標(biāo)函數(shù)極小對(duì)應(yīng)的解，就是反演問(wèn)題的解。非線性反演概論非線性反演概論1、梯度法-Gradient method/the steepest descent/the steepest ascent,是一種傳統(tǒng)的非線性反演法，它是從一個(gè)初始模型出發(fā)，沿梯度方向搜索求取目標(biāo)函數(shù)極小點(diǎn)的一種最優(yōu)化方法。2

11、、試湊法-嘗試法，從一個(gè)初始模型出發(fā)，反復(fù)計(jì)算比較，直到找到最合適的模型。3、蒙特卡路法-賭博法，將反演過(guò)程中任何一個(gè)階段，用隨機(jī)發(fā)生器產(chǎn)生模型的方法通稱為蒙特卡路法，它可以用來(lái)解決高次非線性的、多參數(shù)、具有多個(gè)局部極小的非線性反演問(wèn)題。蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法在反演過(guò)程中的任何一個(gè)階段，用隨機(jī)（或偽隨機(jī)）發(fā)生器產(chǎn)生模型、以實(shí)現(xiàn)模型全空間搜索的方法統(tǒng)稱蒙特卡洛反演法。假如我們已知待求模型的參數(shù)的上下界限，infsupmmm式中，infm代表第個(gè)參數(shù)的下限supm代表第個(gè)參數(shù)的上限有兩種方法對(duì)模型空間進(jìn)行搜索，一種是徹底地搜索，把模型空間允許的范圍都搜索到，看哪一個(gè)模型，

12、或哪一組模型的計(jì)算值d(m)和觀測(cè)數(shù)據(jù)d擬合最好，這種方法叫窮舉法窮舉法；另一種搜索法是在模型空間允許的范圍內(nèi)隨機(jī)地搜索，對(duì)每一個(gè)隨機(jī)產(chǎn)生的模型計(jì)算其理論值并把它與觀測(cè)值進(jìn)行比較，看其是否可以接受，這就是傳統(tǒng)的蒙特蒙特卡洛算法卡洛算法。蒙特卡洛算法的主要步驟蒙特卡洛算法的主要步驟王家映，2007目標(biāo)函數(shù)兩者等價(jià)兩者等價(jià)蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法 一些人進(jìn)行了實(shí)驗(yàn)，其結(jié)果列于下表 ：實(shí)驗(yàn)者年份投計(jì)次數(shù)的實(shí)驗(yàn)值沃爾弗(Wolf)185050003.1596斯密思(Smith)185532043.1553福

13、克斯(Fox)189411203.1419拉查里尼(Lazzarini)190134083.1415929蒙特卡洛算法蒙特卡洛算法 優(yōu)點(diǎn)1) 能夠比較逼真地描述具有隨機(jī)性質(zhì)的事物的特點(diǎn)及物理實(shí)驗(yàn)過(guò)程。2) 受幾何條件限制小。3) 收斂速度與問(wèn)題的維數(shù)無(wú)關(guān)。4) 具有同時(shí)計(jì)算多個(gè)方案與多個(gè)未知量的能力。5) 誤差容易確定。6) 程序結(jié)構(gòu)簡(jiǎn)單，易于實(shí)現(xiàn)。 缺點(diǎn)1) 收斂速度慢。2) 誤差具有概率性。3) 計(jì)算結(jié)果與系統(tǒng)大小有關(guān)。蒙特卡洛算法的特點(diǎn)蒙特卡洛算法的特點(diǎn)23個(gè)不同深度，共23*3=69個(gè)參數(shù)，隨機(jī)生成500萬(wàn)個(gè)模型，在滿足一定先驗(yàn)條件的基礎(chǔ)上，進(jìn)行正演計(jì)算，挑出可以接受的模型。w算法的提

14、出算法的提出 模擬退火算法最早的思想由模擬退火算法最早的思想由Metropolis等（等（1953）提出，提出，1983年年Kirkpatrick等將其應(yīng)用于組合優(yōu)化。等將其應(yīng)用于組合優(yōu)化。w算法的目的算法的目的 解決解決NP復(fù)雜性復(fù)雜性問(wèn)題；問(wèn)題； 克服優(yōu)化過(guò)程陷入局部極小；克服優(yōu)化過(guò)程陷入局部極?。?克服初值依賴性?？朔踔狄蕾囆?。模擬退火算法模擬退火算法w物理退火過(guò)程物理退火過(guò)程 什么是退火：什么是退火： 退火是指將固體加熱到足夠高的溫度，使分子呈隨退火是指將固體加熱到足夠高的溫度，使分子呈隨機(jī)排列狀態(tài)，然后機(jī)排列狀態(tài)，然后逐步降溫逐步降溫使之冷卻，最后分子以使之冷卻，最后分子以低能狀態(tài)

15、排列，固體達(dá)到某種穩(wěn)定狀態(tài)。低能狀態(tài)排列，固體達(dá)到某種穩(wěn)定狀態(tài)。 物理退火過(guò)程物理退火過(guò)程w物理退火過(guò)程物理退火過(guò)程 加加溫過(guò)程溫過(guò)程增強(qiáng)粒子的熱運(yùn)動(dòng)，消除系統(tǒng)原先可增強(qiáng)粒子的熱運(yùn)動(dòng)，消除系統(tǒng)原先可能存在的非均勻態(tài)；能存在的非均勻態(tài)； 等溫過(guò)程等溫過(guò)程對(duì)于與環(huán)境換熱而溫度不變的封閉系對(duì)于與環(huán)境換熱而溫度不變的封閉系統(tǒng)，系統(tǒng)狀態(tài)的自發(fā)變化總是朝自由能減少的方向統(tǒng)，系統(tǒng)狀態(tài)的自發(fā)變化總是朝自由能減少的方向進(jìn)行，當(dāng)自由能達(dá)到最小時(shí)，系統(tǒng)達(dá)到平衡態(tài)；進(jìn)行，當(dāng)自由能達(dá)到最小時(shí)，系統(tǒng)達(dá)到平衡態(tài)； 冷卻過(guò)程冷卻過(guò)程使粒子熱運(yùn)動(dòng)減弱并漸趨有序，系統(tǒng)使粒子熱運(yùn)動(dòng)減弱并漸趨有序，系統(tǒng)能量逐漸下降，從而得到低能的晶

16、體結(jié)構(gòu)。能量逐漸下降，從而得到低能的晶體結(jié)構(gòu)。物理退火過(guò)程物理退火過(guò)程 熱力學(xué)中的退火現(xiàn)象指物體逐漸降溫時(shí)發(fā)生的物理熱力學(xué)中的退火現(xiàn)象指物體逐漸降溫時(shí)發(fā)生的物理現(xiàn)象：現(xiàn)象： 溫度越低，物體的能量狀態(tài)越低，到達(dá)足夠的低點(diǎn)溫度越低，物體的能量狀態(tài)越低，到達(dá)足夠的低點(diǎn)時(shí)，液體開(kāi)始冷凝與結(jié)晶，在結(jié)晶狀態(tài)時(shí)，系統(tǒng)的時(shí)，液體開(kāi)始冷凝與結(jié)晶，在結(jié)晶狀態(tài)時(shí)，系統(tǒng)的能量狀態(tài)最低。緩慢降溫（能量狀態(tài)最低。緩慢降溫（退火退火，annealing）時(shí)，）時(shí)，可達(dá)到最低能量狀態(tài)；但如果快速降溫（可達(dá)到最低能量狀態(tài)；但如果快速降溫（淬火淬火，quenching），會(huì)導(dǎo)致不是最低能態(tài)的非晶形。），會(huì)導(dǎo)致不是最低能態(tài)的非晶形

17、。 大自然知道大自然知道慢工出細(xì)活慢工出細(xì)活： 緩緩降溫，使得物體分子在每一溫度時(shí)，能夠有足緩緩降溫，使得物體分子在每一溫度時(shí)，能夠有足夠時(shí)間找到安頓位置，則逐漸地，到最后可得到最夠時(shí)間找到安頓位置，則逐漸地，到最后可得到最低能態(tài)，系統(tǒng)最穩(wěn)定。低能態(tài)，系統(tǒng)最穩(wěn)定。物理退火過(guò)程物理退火過(guò)程 模仿自然界退火現(xiàn)象而得，利用了物理中固體物質(zhì)模仿自然界退火現(xiàn)象而得，利用了物理中固體物質(zhì)的的退火過(guò)程退火過(guò)程與一般與一般優(yōu)化優(yōu)化問(wèn)題的相似問(wèn)題的相似性。性。 從某一初始從某一初始溫度溫度開(kāi)始，伴隨溫度的不斷下降，結(jié)合開(kāi)始，伴隨溫度的不斷下降，結(jié)合概率突跳概率突跳特性在解空間中特性在解空間中隨機(jī)隨機(jī)尋找尋找全局

18、最優(yōu)全局最優(yōu)解解。物理退火過(guò)程物理退火過(guò)程w數(shù)學(xué)表述數(shù)學(xué)表述 在溫度在溫度T，分子停留在狀態(tài)，分子停留在狀態(tài)r滿足滿足Boltzmann概率分概率分布布DsBBBTksETZTZkrrEETkrETZrEEP)(exp)()(Boltzmann0)()(exp)(1)(子：為概率分布的標(biāo)準(zhǔn)化因常數(shù)。為的能量，表示狀態(tài)機(jī)變量，表示分子能量的一個(gè)隨模擬退火算法模擬退火算法w數(shù)學(xué)表述數(shù)學(xué)表述 在在同一個(gè)溫度同一個(gè)溫度T，選定兩個(gè)能量，選定兩個(gè)能量E1E2，有，有TkEETkETZEEPEEPBB12121exp1exp)(10模擬退火算法基本思想模擬退火算法基本思想：在一定溫度下，搜索從一個(gè)狀態(tài)：在

19、一定溫度下，搜索從一個(gè)狀態(tài)隨機(jī)地變化到另一個(gè)狀態(tài)；隨著溫度的不斷下降直到最低溫度，隨機(jī)地變化到另一個(gè)狀態(tài)；隨著溫度的不斷下降直到最低溫度，搜索過(guò)程以概率搜索過(guò)程以概率1停留在最優(yōu)解停留在最優(yōu)解模擬退火算法模擬退火算法wBoltzman概率分布告訴我們：概率分布告訴我們： （1）在同一個(gè)溫度，分子停留在能量小狀態(tài)的概率）在同一個(gè)溫度，分子停留在能量小狀態(tài)的概率大于大于停留在能量大狀態(tài)的概停留在能量大狀態(tài)的概率。率。 （2）溫度越高，不同能量狀態(tài)對(duì)應(yīng)的概率相差越??；）溫度越高，不同能量狀態(tài)對(duì)應(yīng)的概率相差越?。粶囟茸銐蚋邥r(shí)，各狀態(tài)對(duì)應(yīng)溫度足夠高時(shí)，各狀態(tài)對(duì)應(yīng)概率基本相同概率基本相同。 （3）隨著溫度

20、的下降，能量最低狀態(tài)對(duì)應(yīng)概率越來(lái)）隨著溫度的下降，能量最低狀態(tài)對(duì)應(yīng)概率越來(lái)越大；溫度趨于越大；溫度趨于0時(shí)，其狀態(tài)趨于時(shí)，其狀態(tài)趨于1。模擬退火算法模擬退火算法wMetropolis準(zhǔn)則（準(zhǔn)則（1953）以概率接受新?tīng)顟B(tài)以概率接受新?tīng)顟B(tài) 若在溫度若在溫度T，當(dāng)前狀態(tài)，當(dāng)前狀態(tài)i 新?tīng)顟B(tài)新?tīng)顟B(tài)j 若若EjEi，則接受，則接受 j 為當(dāng)前狀態(tài)；為當(dāng)前狀態(tài)； 否則，若概率否則，若概率 p=exp-(Ej-Ei)/kBT 大于大于0,1)區(qū)間的區(qū)間的隨機(jī)數(shù)，則仍接受狀態(tài)隨機(jī)數(shù)，則仍接受狀態(tài) j 為當(dāng)前狀態(tài)；若不成立則為當(dāng)前狀態(tài)；若不成立則保留狀態(tài)保留狀態(tài) i 為當(dāng)前狀態(tài)。為當(dāng)前狀態(tài)。 01-(Ej-E

21、i)/kTp只有小于等于零的區(qū)間wMetropolis準(zhǔn)則（準(zhǔn)則（1953）以概率接受新?tīng)顟B(tài)以概率接受新?tīng)顟B(tài) p=exp-(Ej-Ei)/kBT 在高溫下，可接受與當(dāng)前狀態(tài)能量差較大的新?tīng)顟B(tài)；在高溫下，可接受與當(dāng)前狀態(tài)能量差較大的新?tīng)顟B(tài)； 在低溫下，只接受與當(dāng)前狀態(tài)能量差較小的新?tīng)顟B(tài)。在低溫下，只接受與當(dāng)前狀態(tài)能量差較小的新?tīng)顟B(tài)。實(shí)際地球物理反演，如何應(yīng)用模擬退火算法？實(shí)際地球物理反演，如何應(yīng)用模擬退火算法？T()()()obsobsFF mdmdm將待求反演模型的每個(gè)參數(shù)看作是熔化物體的每一個(gè)分子，將目標(biāo)函數(shù)看作是熔化物體的能量函數(shù)，通過(guò)緩慢減小一個(gè)模擬溫度的控制參數(shù)來(lái)進(jìn)行迭代反演，使目標(biāo)函

22、數(shù)最終達(dá)到全局極小值。將非線性地球物理反演問(wèn)題的每一個(gè)模型參數(shù)向量mi等效為物體的某種狀態(tài)ri，將地球物理反演問(wèn)題的目標(biāo)函數(shù)等效為物體的能量函數(shù)Ei，引入隨迭代次數(shù)變化而變化的控制參數(shù)T模擬物體的溫度，就可以得到地球物理反演問(wèn)題的Metropolis接收準(zhǔn)則。1 ()()()()()exp ()()jiijijjibifmmPifmmk T mmmm若在溫度若在溫度T，當(dāng)前狀態(tài)，當(dāng)前狀態(tài)i 新?tīng)顟B(tài)新?tīng)顟B(tài)j 若若EjEi，則接受，則接受 j 為當(dāng)前狀態(tài)；為當(dāng)前狀態(tài)； 否則，若概率否則，若概率 p=exp-(Ej-Ei)/kBT 大于大于0,1)區(qū)間的隨機(jī)數(shù)，則仍接受區(qū)間的隨機(jī)數(shù)，則仍接受狀態(tài)狀態(tài) j 為當(dāng)前狀態(tài)；若不成立則保留狀態(tài)為當(dāng)前狀態(tài)；若不成立則保留狀態(tài) i 為當(dāng)前狀態(tài)。為當(dāng)前狀態(tài)。 在模擬退火反演中，要求溫度T隨著迭代次數(shù)的增加而緩慢降溫。常用的溫