隨機(jī)過(guò)程簡(jiǎn)史

1、HarbinInstituteofTechnology6/6課程設(shè)計(jì)（論文）課程名稱設(shè)計(jì)題目院系班級(jí)設(shè)計(jì)者學(xué)號(hào)指導(dǎo)教師設(shè)計(jì)時(shí)間應(yīng)用隨機(jī)過(guò)程隨機(jī)過(guò)程簡(jiǎn)史電氣工程學(xué)院11S0104孫延博11S001070田波平2011-10-23隨機(jī)過(guò)程簡(jiǎn)史摘要本文簡(jiǎn)要地介紹了隨機(jī)過(guò)程從20世紀(jì)初創(chuàng)立至今，100年的發(fā)展歷程考察了導(dǎo)致隨機(jī)過(guò)程產(chǎn)生的歷史契機(jī)，以及早期數(shù)學(xué)家在這方面作出的杰出工作。并簡(jiǎn)要介紹了隨機(jī)過(guò)程的概念，研究方法和研究?jī)?nèi)容，在現(xiàn)代工程技術(shù)領(lǐng)域的應(yīng)用。關(guān)鍵詞：隨機(jī)過(guò)程平穩(wěn)隨機(jī)過(guò)程平穩(wěn)隨機(jī)序列1. 隨機(jī)過(guò)程的概念研究方法及研究?jī)?nèi)容隨機(jī)過(guò)程是現(xiàn)代概率論研究的一個(gè)重要分支。數(shù)學(xué)上的隨機(jī)過(guò)程是由實(shí)際隨機(jī)過(guò)

2、程概念引起的一種數(shù)學(xué)結(jié)構(gòu)。人們研究這種過(guò)程，是因?yàn)樗菍?shí)際隨機(jī)過(guò)程的數(shù)學(xué)模型，或者是因?yàn)樗膬?nèi)在數(shù)學(xué)意義以及它在概率論領(lǐng)域之外的應(yīng)用。數(shù)學(xué)上的隨機(jī)過(guò)程可以簡(jiǎn)單的定義為一組隨機(jī)變量，即指定一參數(shù)集，對(duì)于其中每一參數(shù)點(diǎn)t指定一個(gè)隨機(jī)變量x(t)。如果回憶起隨機(jī)變量自身就是一個(gè)函數(shù)，以®表示隨機(jī)變量x(t)的定義域中的一點(diǎn)，并以x(t，)表示隨機(jī)變量在®的值，則隨機(jī)過(guò)程就由剛才定義的點(diǎn)偶(t，®)的函數(shù)以及概率的分配完全確定。如果固定t,這個(gè)二元函數(shù)就定義一個(gè)®的函數(shù)，即以x(t)表示的隨機(jī)變量。如果固定®，這個(gè)二元函數(shù)就定義一個(gè)t的函數(shù)，這是過(guò)程的

3、樣本函數(shù)。由于物理學(xué)生物學(xué)，通訊和控制管理科學(xué)等學(xué)科的需要隨機(jī)過(guò)程逐步發(fā)展起來(lái)的。馬爾柯夫最早研究了隨機(jī)過(guò)程。研究隨機(jī)過(guò)程的方法多種多樣，主要可以分為兩大類：一類是概率方法，其中用到軌道性質(zhì)、停時(shí)和隨機(jī)微分方程等；另一類是分析的方法，其中用到測(cè)度輪、微分方程、半群理論、函數(shù)堆和希爾伯特空間等。實(shí)際研究中常常兩種方法并用。另外組合方法和代數(shù)方法在某些特殊隨機(jī)過(guò)程的研究中也有一定作用。研究的主要內(nèi)容有：多指標(biāo)隨機(jī)過(guò)程、無(wú)窮質(zhì)點(diǎn)與馬爾可夫過(guò)程、概率與位勢(shì)及各種特殊過(guò)程的專題討論等。中國(guó)學(xué)者在平穩(wěn)過(guò)程、馬爾科夫過(guò)程、鞅論、極限定理、隨機(jī)微分方程等方面做出了較好的工作。2. 隨機(jī)過(guò)程的歷史1900年，B

4、achelier在分析股票市場(chǎng)波動(dòng)時(shí)發(fā)現(xiàn)了隨機(jī)過(guò)程的一個(gè)重過(guò)程獨(dú)立增量過(guò)程的特惻。1905年，物理學(xué)家Einstein在研究Brown運(yùn)動(dòng)時(shí)，也遇到了相同的過(guò)程.1923年，Wiener給出了Brown運(yùn)動(dòng)的數(shù)學(xué)描述-wiener過(guò)程。Lunbderg在1903年研究一個(gè)保險(xiǎn)公司所承擔(dān)索賠累計(jì)數(shù)的變化規(guī)律時(shí).導(dǎo)出了另一類型的隨機(jī)過(guò)程一一Lundberg過(guò)程。而眾所周知、應(yīng)用甚廣的Poisson過(guò)程是當(dāng)所有得付出的索賠總數(shù)中每一筆數(shù)目都相同時(shí)的Lundberg過(guò)程。1909年，Erlang在研究電話業(yè)務(wù)時(shí)引入了Poisson過(guò)程，并被物理學(xué)家Rutherford和Geiger用于分析放射性蛻變。

5、這些早期對(duì)隨機(jī)過(guò)程的研究都是同實(shí)際問(wèn)題緊密聯(lián)系在一起的。雖然在數(shù)學(xué)上用了不太嚴(yán)密的方法，卻表現(xiàn)出了直觀處理這些概念和方法的絕妙能力。系統(tǒng)地嚴(yán)密地研究隨機(jī)過(guò)程始于本世紀(jì)30年代。1931年，柯爾莫哥洛夫發(fā)表了一篇極有影響的論文概率論的解析方法，他進(jìn)行了一般性的馬氏過(guò)程的研究。馬氏過(guò)程為經(jīng)典的馬爾柯夫鏈概念的自然推廣，得到著名的向前方程。這一工作為揭示概率論同二階偏微分方程之間的聯(lián)系莫定了基礎(chǔ)。在這之前，物理學(xué)家Plank曾建立過(guò)拋物型方程同馬氏鏈及直線上的馬爾柯夫游動(dòng)的聯(lián)系，得到部分的結(jié)果?？聽柲缏宸虻慕Y(jié)論更完善，并廣泛地應(yīng)用于物理生物，化學(xué)以及工程技術(shù)方面。時(shí)齊獨(dú)立增量過(guò)程是拇爾莫哥格夫在1

6、932年的工作中得到的。它使得wiener過(guò)程和Lunbdberg風(fēng)險(xiǎn)過(guò)程成為特例。1934年，蘇聯(lián)數(shù)學(xué)家辛欣發(fā)表了平穩(wěn)過(guò)程的奠基性文章，而且指出當(dāng)系統(tǒng)的過(guò)去的歷史對(duì)未來(lái)發(fā)展有本質(zhì)影響的情況下。馬氏過(guò)程是不能描述的。平穩(wěn)過(guò)程的發(fā)現(xiàn)為統(tǒng)計(jì)力學(xué)，氣象和經(jīng)濟(jì)學(xué)等領(lǐng)域找到一個(gè)臺(tái)適的數(shù)學(xué)模型，特別是為顯示出周期性行為趨向的現(xiàn)象的研究以及應(yīng)用于信息論開辟了前景。1944年柯爾莫哥洛夫?qū)﹄x散時(shí)問(wèn)的平穩(wěn)過(guò)程進(jìn)行了研究發(fā)現(xiàn)具有二階矩的所有隨機(jī)變量組成一個(gè)Hilbert空間，而離散時(shí)間的隨機(jī)過(guò)程就成為其中的一個(gè)點(diǎn)序列。對(duì)于隨機(jī)變量的平穩(wěn)序列，柯爾莫哥洛夫運(yùn)用Hilbert空間理論，以一種簡(jiǎn)單的方法導(dǎo)出過(guò)去所有已知

7、的結(jié)果。這一開創(chuàng)性的工作首次把Hilbert空間這種抽象理論用于隨機(jī)變量和隨機(jī)過(guò)程的研究.在實(shí)際中遇到的很多隨機(jī)現(xiàn)象有如下的共同特性：它的未來(lái)的演變，在已知它目前狀態(tài)的條件下與以往的狀況無(wú)關(guān)。描述這種隨時(shí)間推進(jìn)的隨機(jī)現(xiàn)象的演變模型就是馬爾可夫過(guò)程。20世紀(jì)50年代以前，研究馬爾可夫過(guò)程的主要工具是微分方程和半群理論（即分析方法）；1936年前后就開始探討馬爾可夫過(guò)程的軌道性質(zhì)，直到把微分方程和半群理論的分析方法同研究軌道性質(zhì)的概率方法結(jié)合運(yùn)用，才使這方面的研究工作進(jìn)一步深化，并形成了對(duì)軌道分析必不可少的強(qiáng)馬爾可夫性概念。1942年，伊藤清用他創(chuàng)立的隨機(jī)積分和隨機(jī)微分方程理論來(lái)研究一類特殊而重要

8、的馬爾可夫過(guò)程一-散過(guò)程，開辟了研究馬爾可夫過(guò)程的又一重要途徑。近年來(lái)，鞅論方法也已滲透到馬爾可夫過(guò)程的研究中，它與隨機(jī)微分方程結(jié)合在一起，已成為目前處理多維擴(kuò)散過(guò)程的工具。此外，馬爾可夫過(guò)程與分析學(xué)中的位勢(shì)論有密切的聯(lián)系。對(duì)馬爾可夫過(guò)程的研究，推動(dòng)了位勢(shì)理論的發(fā)展，并為研究偏微分方程提供了概率論的方法。最近十多年發(fā)展起來(lái)的吉布斯隨機(jī)場(chǎng)和無(wú)窮粒子隨機(jī)系統(tǒng)，是由于統(tǒng)計(jì)物理的需要而提出的。許多自然的和生產(chǎn)過(guò)程中的隨機(jī)現(xiàn)象表現(xiàn)出某種平穩(wěn)性。一種平穩(wěn)性是過(guò)程在任意一些時(shí)刻上的聯(lián)合概率分布隨時(shí)間推移不變，這種平穩(wěn)性稱為嚴(yán)平穩(wěn)性。嚴(yán)平穩(wěn)過(guò)程的研究與遍歷理論有密切的聯(lián)系。如果上述對(duì)概率分布的要求放寬為僅對(duì)二

9、階相關(guān)矩的要求，即過(guò)程在任意兩時(shí)刻上的協(xié)方差隨時(shí)間推移不變，則稱這種平穩(wěn)性為寬平穩(wěn)性。關(guān)于寬平穩(wěn)過(guò)程的研究，辛欽、柯爾莫哥洛夫和維納等人運(yùn)用傅里葉分析和泛函分析的工具，在40年代已經(jīng)找出了過(guò)程的相關(guān)函數(shù)及過(guò)程本身的譜分解式，并且較完滿地解決了有應(yīng)用意義的預(yù)測(cè)問(wèn)題。許多應(yīng)用問(wèn)題還要求根據(jù)觀測(cè)數(shù)據(jù)去建立這些數(shù)據(jù)所來(lái)自的隨機(jī)過(guò)程的模型。為此產(chǎn)生了時(shí)間序列分析這一課題，提出了寬平穩(wěn)序列的自回歸滑動(dòng)平均(ARMA)模型以及一些非線性模型。鞅是另一類重要的隨機(jī)過(guò)程。從20世紀(jì)30年代起，萊維等人就開始研究鞅序列，把它作為獨(dú)立隨機(jī)變量序列的部分和的推廣。40年代到50年代初，杜布對(duì)鞅進(jìn)行了系統(tǒng)的研究，得到有

10、名的鞅不等式、停止定理和收斂定理等重要結(jié)果。1962年，pa邁耶解決了杜布提出的連續(xù)時(shí)間的上鞅分解為鞅及增過(guò)程之差的問(wèn)題。在解決這個(gè)問(wèn)題的過(guò)程中，出現(xiàn)了很多新鮮而深刻的概念，使鞅和隨機(jī)過(guò)程一般理論的內(nèi)容大大豐富起來(lái)。鞅的研究豐富了概率論的內(nèi)容，并引起人們用它所提供的新方法新概念對(duì)概率論中許多經(jīng)典的內(nèi)容重新審議，把以往認(rèn)為是復(fù)雜的東西納入鞅論的框架而加以簡(jiǎn)化。此外，利用上鞅的分解定理，可以把伊藤清的對(duì)布朗運(yùn)動(dòng)的隨機(jī)積分推廣到對(duì)一般鞅乃至半鞅的隨機(jī)積分；因而，更一般的隨機(jī)微分方程的研究也隨之發(fā)展。隨機(jī)微分方程理論不僅可以用來(lái)研究馬爾可夫過(guò)程，它還是解決濾波問(wèn)題的必要工具。最近出現(xiàn)的流形上的隨機(jī)微分

11、方程又和微分幾何及分析力學(xué)的研究發(fā)生了密切的聯(lián)系。鞅論還對(duì)本學(xué)科以外的位勢(shì)理論、調(diào)和分析及復(fù)變函數(shù)論等提供了有用的工具。點(diǎn)過(guò)程是從所謂計(jì)數(shù)過(guò)程發(fā)展出來(lái)的，它們的特點(diǎn)是，可用落在不相重疊的集合上的隨機(jī)點(diǎn)數(shù)目的聯(lián)合概率分布來(lái)刻畫整個(gè)過(guò)程的概率規(guī)律。最基本的計(jì)數(shù)過(guò)程是泊松過(guò)程，1943年，c.帕爾姆將它作為最簡(jiǎn)單的輸入流應(yīng)用于研究電話業(yè)務(wù)問(wèn)題；1955年，辛欽又以嚴(yán)密的數(shù)學(xué)觀點(diǎn)作了整理和發(fā)展。隨機(jī)分析是概率論中又一獨(dú)立分支。對(duì)于隨機(jī)變量和躚機(jī)過(guò)程的分析性質(zhì)的研究始于Wiener1923年的工作.他將Brown運(yùn)動(dòng)的平方可積泛函按Hermit多項(xiàng)式展開，討論了Brown運(yùn)動(dòng)的非線性泛函。1931年，柯

12、爾莫哥洛夫在前面提到的文章中首次研究了馬氏過(guò)程同二階偏微分方程的聯(lián)系。1942年，日率數(shù)學(xué)家Ito發(fā)表了一篇重要的論文，他首次研究了微分方積的隨機(jī)積分理論。他從分析經(jīng)典的熱擴(kuò)散過(guò)程給出了拋物型偏微分方程的一個(gè)路徑積分表示”。1947年，物理學(xué)家Feynman在研究量子力學(xué)中的微分方程時(shí)，提出了一種“路徑積分“理論。后來(lái)數(shù)學(xué)家MarkKao在這一方面做了大量出色的工怍，建立了概率理論同微分方程新的聯(lián)系。50年代，Ito討論了一維擴(kuò)散過(guò)程。他的學(xué)生Ikede和Watanabe在隨機(jī)微分方程和擴(kuò)散過(guò)程方面作出了重要的工作。在60年代以前，點(diǎn)過(guò)程的研究主要限于泊松過(guò)程及其推廣的過(guò)程。以后，由于大量實(shí)際

13、問(wèn)題的需要以及隨機(jī)測(cè)度論和現(xiàn)代鞅論的推動(dòng)，進(jìn)一步把實(shí)軸上的點(diǎn)過(guò)程（即計(jì)數(shù)過(guò)程）推廣到一般的可分完備度量空間上，在內(nèi)容和方法上都有根本性的進(jìn)展。3. 隨機(jī)過(guò)程在工程技術(shù)的應(yīng)用隨機(jī)過(guò)程的發(fā)展史說(shuō)明了理論與實(shí)際之間的密切關(guān)系。許多研究方向的提出，歸根到底是有其實(shí)際背景的。反過(guò)來(lái)，當(dāng)這些方向被深入研究后，又可指導(dǎo)實(shí)踐，進(jìn)一步擴(kuò)大和深化應(yīng)用范圍。概率論作為數(shù)理統(tǒng)計(jì)學(xué)的理論基礎(chǔ)是盡人皆知的。下面簡(jiǎn)略介紹一下概率論本身在各方面的應(yīng)用情況。在物理學(xué)方面，高能電子或核子穿過(guò)吸收體時(shí)，產(chǎn)生級(jí)聯(lián)（或倍增）現(xiàn)象,在研究電了-光子級(jí)聯(lián)過(guò)程的起伏問(wèn)題時(shí)，要用到隨機(jī)過(guò)程，常以泊松過(guò)程、弗瑞過(guò)程或波伊亞過(guò)程作為實(shí)際級(jí)聯(lián)的近似

14、，有時(shí)還要用到更新過(guò)程（見點(diǎn)過(guò)程）的概念。當(dāng)核子穿到吸收體的某一深度時(shí)，則可用擴(kuò)散方程來(lái)計(jì)算核子的概率分布。物理學(xué)中的放射性衰變，粒子計(jì)數(shù)器，原子核照相乳膠中的徑跡理論和原子核反應(yīng)堆中的問(wèn)題等的研究，都要用到泊松過(guò)程和更新理論。湍流理論以及天文學(xué)中的星云密度起伏、輻射傳遞等研究要用到隨機(jī)場(chǎng)的理論。探討太陽(yáng)黑子的規(guī)律及其預(yù)測(cè)時(shí)，時(shí)間序列方法非常有用。化學(xué)反應(yīng)動(dòng)力學(xué)中，研究化學(xué)反應(yīng)的時(shí)變率及影響這些時(shí)變率的因素問(wèn)題,自動(dòng)催化反應(yīng)，單分子反應(yīng),雙分子反應(yīng)及一些連鎖反應(yīng)的動(dòng)力學(xué)模型等，都要以生滅過(guò)程（見馬爾可夫過(guò)程）來(lái)描述。隨機(jī)過(guò)程理論所提供的方法對(duì)于生物數(shù)學(xué)具有很大的重要性，許多研究工作者以此來(lái)構(gòu)造

15、生物現(xiàn)象的模型。研究群體的增長(zhǎng)問(wèn)題時(shí)，提出了生滅型隨機(jī)模型，兩性增長(zhǎng)模型，群體間競(jìng)爭(zhēng)與生尅模型，群體遷移模型，增長(zhǎng)過(guò)程的擴(kuò)散模型等等。有些生物現(xiàn)象還可以利用時(shí)間序列模型來(lái)進(jìn)行預(yù)報(bào)。傳染病流行問(wèn)題要用到具有有限個(gè)狀態(tài)的多變量非線性生滅過(guò)程。在遺傳問(wèn)題中，著重研究群體經(jīng)過(guò)多少代遺傳后，進(jìn)入某一固定類和首次進(jìn)入此固定類的時(shí)間，以及最大基因頻率的分布等。許多服務(wù)系統(tǒng)，如電話通信，船舶裝卸，機(jī)器損修，病人候診，紅綠燈交換，存貨控制，水庫(kù)調(diào)度，購(gòu)貨排隊(duì)，等等，都可用一類概率模型來(lái)描述。這類概率模型涉及的過(guò)程叫排隊(duì)過(guò)程，它是點(diǎn)過(guò)程的特例。排隊(duì)過(guò)程一般不是馬爾可夫型的。當(dāng)把顧客到達(dá)和服務(wù)所需時(shí)間的統(tǒng)計(jì)規(guī)律研究清楚后，就可以合理安排服務(wù)點(diǎn)。在通信、雷達(dá)探測(cè)、地震探測(cè)等領(lǐng)域中，都有傳遞信號(hào)與接收信號(hào)的問(wèn)題。傳