建模課件-馬爾科夫鏈

馬氏鏈模型若表示質(zhì)點在時刻n所處的位置，求一步轉(zhuǎn)移概率。

直線上帶吸收壁的隨機游動（醉漢游動）設(shè)一質(zhì)點在線段[1，5]上隨機游動，每秒鐘發(fā)生一次隨機游動，移動的規(guī)則是：（1）若移動前在2，3，4處，則均以概率向左或向右移動一單位；（2）若移動前在1，5處，則以概率1停留在原處。質(zhì)點在1，5兩點被“吸收”12345首頁有兩個吸收壁的隨機游動其一步轉(zhuǎn)移矩陣為狀態(tài)空間I={1，2，3，4，5}，參數(shù)集T={1，2，3，………}，分析賭徒輸光問題賭徒甲有資本a元，賭徒乙有資本b元，兩人進行賭博，每賭一局輸者給贏者1元，沒有和局，直賭至兩人中有一人輸光為止。設(shè)在每一局中，甲獲勝的概率為p，乙獲勝的概率為，求甲輸光的概率。這個問題實質(zhì)上是帶有兩個吸收壁的隨機游動。從甲的角度看，他初始時刻處于a，每次移動一格，向右移（即贏1元）的概率為p，向左移（即輸1元）的概率為q。如果一旦到達0（即甲輸光）或a+b（即乙輸光）這個游動就停止。這時的狀態(tài)空間為{0，1，2，…，c}，c=a+b，。現(xiàn)在的問題是求質(zhì)點從a出發(fā)到達0狀態(tài)先于到達c狀態(tài)的概率。首頁考慮質(zhì)點從j出發(fā)移動一步后的情況解同理根據(jù)全概率公式有這一方程實質(zhì)上是一差分方程，它的邊界條件是首頁于是設(shè)則可得到兩個相鄰差分間的遞推關(guān)系于是欲求先求需討論r首頁當而兩式相比首頁故當而因此故首頁用同樣的方法可以求得乙先輸光的概率由以上計算結(jié)果可知首頁馬氏鏈模型

系統(tǒng)在每個時期所處的狀態(tài)是隨機的.

從一時期到下時期的狀態(tài)按一定概率轉(zhuǎn)移.

下時期狀態(tài)只取決于本時期狀態(tài)和轉(zhuǎn)移概率.已知現(xiàn)在，將來與過去無關(guān)（無后效性）描述一類重要的隨機動態(tài)系統(tǒng)(過程)的模型.馬氏鏈(MarkovChain)——時間、狀態(tài)均為離散的隨機轉(zhuǎn)移過程通過有實際背景的例子介紹馬氏鏈的基本概念和性質(zhì).例1.

人的健康狀況分為健康和疾病兩種狀態(tài)，設(shè)對特定年齡段的人，今年健康、明年保持健康狀態(tài)的概率為0.8,而今年患病、明年轉(zhuǎn)為健康狀態(tài)的概率為0.7.

健康與疾病

人的健康狀態(tài)隨著時間的推移會隨機地發(fā)生轉(zhuǎn)變.保險公司要對投保人未來的健康狀態(tài)作出估計,以制訂保險金和理賠金的數(shù)額

.若某人投保時健康,問10年后他仍處于健康狀態(tài)的概率.Xn+1只取決于Xn和pij,與Xn-1,

…無關(guān)狀態(tài)與狀態(tài)轉(zhuǎn)移狀態(tài)轉(zhuǎn)移具有無后效性

0.80.20.30.712n0a2(n)0a1(n)1設(shè)投保時健康給定a(0),預(yù)測a(n),n=1,2,…設(shè)投保時疾病a2(n)1a1(n)0n時狀態(tài)概率趨于穩(wěn)定值,穩(wěn)定值與初始狀態(tài)無關(guān).3…

0.778…

0.222…

∞

7/9

2/9

0.70.770.777…0.30.230.223…

7/9

2/9

狀態(tài)與狀態(tài)轉(zhuǎn)移10.80.220.780.220.80.20.30.7121230.10.0210.80.250.180.65例2.

健康和疾病狀態(tài)同上，Xn=1~健康,Xn=2~疾病p11=0.8,p12=0.18,p13=0.02死亡為第3種狀態(tài)，記Xn=3健康與疾病

p21=0.65,p22=0.25,p23=0.1p31=0,p32=0,p33=1n0123a2(n)00.180.1890.1835

a3(n)00.020.0540.0880

a1(n)10.80.7570.7285設(shè)投保時處于健康狀態(tài)，預(yù)測a(n),n=1,2,…

不論初始狀態(tài)如何，最終都要轉(zhuǎn)到狀態(tài)3；一旦a1(k)=a2(k)=0,a3(k)=1,則對于n>k,a1(n)=0，

a2(n)=0,a3(n)=1,即從狀態(tài)3不會轉(zhuǎn)移到其他狀態(tài).狀態(tài)與狀態(tài)轉(zhuǎn)移00150

0.12930.0326

0.8381

馬氏鏈的基本方程基本方程馬氏鏈的兩個重要類型1.正則鏈

~從任一狀態(tài)出發(fā)經(jīng)有限次轉(zhuǎn)移能以正概率到達另外任一狀態(tài)(如例1).w~穩(wěn)態(tài)概率馬氏鏈的兩個重要類型2.吸收鏈

~存在吸收狀態(tài)（一旦到達就不會離開的狀態(tài)i,pii=1）,且從任一非吸收狀態(tài)出發(fā)經(jīng)有限次轉(zhuǎn)移能以正概率到達吸收狀態(tài)(如例2).有r個吸收狀態(tài)的吸收鏈的轉(zhuǎn)移概率陣標準形式R有非零元素yi~從第i個非吸收狀態(tài)出發(fā)，被某個吸收狀態(tài)吸收前的平均轉(zhuǎn)移次數(shù).

鋼琴銷售的存貯策略

鋼琴銷售量很小，商店的庫存量不大以免積壓資金.

一家商店根據(jù)經(jīng)驗估計，平均每周的鋼琴需求為1架.存貯策略：每周末檢查庫存量，僅當庫存量為零時，才訂購3架供下周銷售；否則，不訂購.

估計在這種策略下失去銷售機會的可能性有多大?

以及每周的平均銷售量是多少?背景與問題問題分析

顧客的到來相互獨立，需求量近似服從泊松分布，其參數(shù)由需求均值為每周1架確定，由此計算需求概率.存貯策略是周末庫存量為零時訂購3架周末的庫存量可能是0,1,2,3，周初的庫存量可能是1,2,3.用馬氏鏈描述不同需求導致的周初庫存狀態(tài)的變化.動態(tài)過程中每周銷售量不同，失去銷售機會（需求超過庫存）的概率不同.

可按穩(wěn)態(tài)情況（時間充分長以后）計算失去銷售機會的概率和每周的平均銷售量.

模型假設(shè)鋼琴每周需求量服從泊松分布，平均每周1架.存貯策略：當周末庫存量為零時，訂購3架，周初到貨；否則，不訂購.以每周初的庫存量作為狀態(tài)變量，狀態(tài)轉(zhuǎn)移具有無后效性.在穩(wěn)態(tài)情況下計算失去銷售機會的概率和每周的平均銷售量,作為該存貯策略的評價指標.模型建立

Dn~第n周需求量，均值為1的泊松分布

Sn~第n周初庫存量(狀態(tài)變量)狀態(tài)轉(zhuǎn)移規(guī)律

Dn0123>3P0.3680.3680.1840.0610.019狀態(tài)轉(zhuǎn)移陣

……模型建立

狀態(tài)概率

馬氏鏈的基本方程正則鏈

穩(wěn)態(tài)概率分布w滿足wP=w已知初始狀態(tài)，可預(yù)測第n周初庫存量Sn=i的概率n,狀態(tài)概率

第n周失去銷售機會的概率

n充分大時

模型求解

從長期看，失去銷售機會的可能性大約10%。1.估計失去銷售機會的可能性D

0123>3P0.3680.3680.1840.0610.019存貯策略的評價指標0.105模型求解

第n周平均售量從長期看，每周的平均銷售量為

0.857(架)

n充分大時

需求不超過存量,需求被售需求超過存量,存量被售思考：為什么每周的平均銷售量略小于平均需求量?2.估計每周的平均銷售量存貯策略的評價指標每周平均需求量1架0.857敏感性分析

當平均需求在每周1(架)附近波動時，最終結(jié)果有多大變化。

設(shè)Dn服從均值的泊松分布

狀態(tài)轉(zhuǎn)移陣

0.80.91.01.11.2P0.0730.0890.1050.1220.139第n周(n充分大)失去銷售機會的概率

當平均需求(=1.0)增長(或減少)10%時，失去銷售機會的概率P將增長(或減少)約15%

。鋼琴銷售的存貯策略

存貯策略(周末庫存為0則訂購3架,否則不訂購)已定,計算兩個指標(失去銷售的概率和每周平均銷售量).給出其他存貯策略(如周末庫存為0或1則訂購使下周初庫存為3架,否則不訂購),討論這兩個指標(習題1).動態(tài)隨機存貯策略是馬氏鏈的典型應(yīng)用.關(guān)鍵是在無后效性的前提下恰當?shù)囟x系統(tǒng)的狀態(tài)變量(本例是每周初的庫存量).市場占有率預(yù)測設(shè)某地有1600戶居民，某產(chǎn)品只有甲、乙、丙3廠家在該地銷售。經(jīng)調(diào)查，8月份買甲、乙、丙三廠的戶數(shù)分別為480，320，800。9月份里，原買甲的有48戶轉(zhuǎn)買乙產(chǎn)品，有96戶轉(zhuǎn)買丙產(chǎn)品；原買乙的有32戶轉(zhuǎn)買甲產(chǎn)品，有64戶轉(zhuǎn)買丙產(chǎn)品；原買丙的有64戶轉(zhuǎn)買甲產(chǎn)品，有32戶轉(zhuǎn)買乙產(chǎn)品。用狀態(tài)1、2、3分別表示甲、乙、丙三廠，試求（1）轉(zhuǎn)移概率矩陣；（