M7馬氏模型課件

第七章馬氏鏈模型7.1健康與疾病7.2鋼琴銷售的存貯策略7.3基因遺傳7.4等級結(jié)構(gòu)7.5資金流通馬氏鏈模型系統(tǒng)在每個時期所處的狀態(tài)是隨機(jī)的.從這個時期到下時期的狀態(tài)按一定概率轉(zhuǎn)移.下時期狀態(tài)只取決于本時期狀態(tài)和轉(zhuǎn)移概率.與以前各時期的狀態(tài)無關(guān)，這種性質(zhì)稱為無后效性。即已知現(xiàn)在，將來與過去無關(guān)描述一類重要的隨機(jī)動態(tài)系統(tǒng)(過程)的模型.馬氏鏈(MarkovChain)——時間、狀態(tài)均為離散的隨機(jī)轉(zhuǎn)移過程通過有實際背景的例子介紹馬氏鏈的基本概念和性質(zhì).例1.人的健康狀況分為健康和疾病兩種狀態(tài)，設(shè)對特定年齡段的人，今年健康、明年保持健康狀態(tài)的概率為0.8,而今年患病、明年轉(zhuǎn)為健康狀態(tài)的概率為0.7.7.1健康與疾病

人的健康狀態(tài)隨著時間的推移會隨機(jī)地發(fā)生轉(zhuǎn)變.保險公司要對投保人未來的健康狀態(tài)作出估計,以制訂保險金和理賠金的數(shù)額.若某人投保時健康,問10年后他仍處于健康狀態(tài)的概率.Xn+1只取決于Xn和pij,與Xn-1,

…無關(guān)狀態(tài)與狀態(tài)轉(zhuǎn)移狀態(tài)轉(zhuǎn)移具有無后效性

120.80.20.30.7全概率公式：n0a2(n)0a1(n)1設(shè)投保時健康給定a(0),預(yù)測a(n),n=1,2…設(shè)投保時疾病a2(n)1a1(n)0n時狀態(tài)概率趨于穩(wěn)定值,穩(wěn)定值與初始狀態(tài)無關(guān).3…

0.778…

0.222…

∞

7/9

2/9

0.70.770.777…0.30.330.333…

7/9

2/9

狀態(tài)與狀態(tài)轉(zhuǎn)移120.80.20.30.710.80.220.780.221230.10.0210.80.250.180.65例2.健康和疾病狀態(tài)同上，Xn=1~健康,Xn=2~疾病p11=0.8,p12=0.18,p13=0.02死亡為第3種狀態(tài)，記Xn=3健康與疾病

p21=0.65,p22=0.25,p23=0.1p31=0,p32=0,p33=1n0123a2(n)00.180.1890.1835

a3(n)00.020.0540.0880

a1(n)10.80.7570.7285設(shè)投保時處于健康狀態(tài)，預(yù)測a(n),n=1,2…不論初始狀態(tài)如何，最終都要轉(zhuǎn)到狀態(tài)3；一旦a1(k)=a2(k)=0,a3(k)=1,則對于n>k,a1(n)=0，a2(n)=0,a3(n)=1,即從狀態(tài)3不會轉(zhuǎn)移到其它狀態(tài).狀態(tài)與狀態(tài)轉(zhuǎn)移00150

0.12930.0326

0.8381

馬氏鏈的基本方程基本方程馬氏鏈的兩個重要類型1.正則鏈~從任一狀態(tài)出發(fā)經(jīng)有限次轉(zhuǎn)移能以正概率到達(dá)另外任一狀態(tài)(如例1).w~穩(wěn)態(tài)概率馬氏鏈的兩個重要類型2.吸收鏈~存在吸收狀態(tài)（一旦到達(dá)就不會離開的狀態(tài)i,pii=1）,且從任一非吸收狀態(tài)出發(fā)經(jīng)有限次轉(zhuǎn)移能以正概率到達(dá)吸收狀態(tài)(如例2).有r個吸收狀態(tài)的吸收鏈的轉(zhuǎn)移概率陣標(biāo)準(zhǔn)形式R有非零元素yi~從第i個非吸收狀態(tài)出發(fā)，被某個吸收狀態(tài)吸收前的平均轉(zhuǎn)移次數(shù).7.2鋼琴銷售的存貯策略

鋼琴銷售量很小，商店的庫存量不大以免積壓資金.

一家商店根據(jù)經(jīng)驗估計，平均每周的鋼琴需求為1架.存貯策略：每周末檢查庫存量，僅當(dāng)庫存量為零時，才訂購3架供下周銷售；否則，不訂購.

估計在這種策略下失去銷售機(jī)會的可能性有多大，以及每周的平均銷售量是多少.

背景與問題問題分析

顧客的到來相互獨(dú)立，需求量近似服從泊松分布，其參數(shù)由需求均值為每周1架確定，由此計算需求概率.存貯策略是周末庫存量為零時訂購3架周末的庫存量可能是0,1,2,3，周初的庫存量可能是1,2,3.用馬氏鏈描述不同需求導(dǎo)致的周初庫存狀態(tài)的變化.動態(tài)過程中每周銷售量不同，失去銷售機(jī)會（需求超過庫存）的概率不同.

可按穩(wěn)態(tài)情況（時間充分長以后）計算失去銷售機(jī)會的概率和每周的平均銷售量.

模型假設(shè)鋼琴每周需求量服從波松分布，平均每周1架.存貯策略：當(dāng)周末庫存量為零時，訂購3架，周初到貨；否則，不訂購.以每周初的庫存量作為狀態(tài)變量，狀態(tài)轉(zhuǎn)移具有無后效性.在穩(wěn)態(tài)情況下計算失去銷售機(jī)會的概率和每周的平均銷售量,作為該存貯策略的評價指標(biāo).模型建立

Dn~第n周需求量，均值為1的波松分布

Sn~第n周初庫存量(狀態(tài)變量)狀態(tài)轉(zhuǎn)移規(guī)律

Dn0123>3P0.3680.3680.1840.0610.019狀態(tài)轉(zhuǎn)移陣

……模型建立

狀態(tài)概率

馬氏鏈的基本方程正則鏈

穩(wěn)態(tài)概率分布w滿足wP=w已知初始狀態(tài)，可預(yù)測第n周初庫存量Sn=i的概率n,狀態(tài)概率

第n周失去銷售機(jī)會的概率

n充分大時

模型求解

從長期看，失去銷售機(jī)會的可能性大約10%。1.估計失去銷售機(jī)會的可能性D

0123>3P0.3680.3680.1840.0610.019存貯策略的評價指標(biāo)模型求解

第n周平均售量從長期看，每周的平均銷售量為0.857(架)

n充分大時

需求不超過存量,需求被售需求超過存量,存量被售思考：為什么每周的平均銷售量略小于平均需求量?2.估計每周的平均銷售量存貯策略的評價指標(biāo)每周平均需求量1架敏感性分析

當(dāng)平均需求在每周1(架)附近波動時，最終結(jié)果有多大變化。

設(shè)Dn服從均值的波松分布

狀態(tài)轉(zhuǎn)移陣

0.80.91.01.11.2P0.0730.0890.1050.1220.139第n周(n充分大)失去銷售機(jī)會的概率

當(dāng)平均需求(=1.0)增長(或減少)10%時，失去銷售機(jī)會的概率P將增長(或減少)約15%。鋼琴銷售的存貯策略

存貯策略(周末庫存為0則訂購3架,否則不訂購)已定,計算兩個指標(biāo)(失去銷售的概率和每周平均銷售量).給出其它存貯策略(如周末庫存為0或1則訂購使下周初庫存為3架,否則不訂購),討論這兩個指標(biāo)動態(tài)隨機(jī)存貯策略是馬氏鏈的典型應(yīng)用.關(guān)鍵是在無后效性的前提下恰當(dāng)?shù)囟x系統(tǒng)的狀態(tài)變量(本例是每周初的庫存量).7.3基因遺傳背景生物的外部表征由內(nèi)部相應(yīng)的基因決定.基因分優(yōu)勢基因d

和劣勢基因r

兩種.每種外部表征由兩個基因決定,每個基因可以是d,r中的任一個.形成3種基因類型：dd~優(yōu)種D,dr~混種H,rr~劣種R.基因類型為優(yōu)種和混種,外部表征呈優(yōu)勢；基因類型為劣種,外部表征呈劣勢.生物繁殖時后代隨機(jī)地（等概率地）繼承父、母的各一個基因，形成它的兩個基因.父母的基因類型決定后代基因類型的概率.完全優(yōu)勢基因遺傳父母基因類型決定后代各種基因類型的概率父母基因類型組合后代各種基因類型的概率DDRRDHDRHHHRDRH1000011/21/200101/41/21/401/21/23種基因類型：dd~優(yōu)種D,dr~混種H,rr~劣種R完全優(yōu)勢基因遺傳P(DDH)=P(dddd,dr)=P(ddd)P(ddr)P(RHH)=P(rrdr,dr)=P(rdr)P(rdr)=11/2=1/2=1/21/2=1/4隨機(jī)繁殖設(shè)群體中雄性、雌性的比例相等，基因類型的分布相同（記作D:H:R）每一雄性個體以D:H:R的概率與一雌性個體交配，其后代隨機(jī)地繼承它們的各一個基因設(shè)初始一代基因類型比例D:H:R=a:2b:c（a+2b+c=1),記p=a+b,q=b+c,則群體中優(yōu)勢基因和劣勢基因比例d:r=p:q(p+q=1)假設(shè)建模狀態(tài)Xn=1,2,3~第n代的一個體屬于D,H,R狀態(tài)概率ai(n)~第n代的一個體屬于狀態(tài)i(=1,2,3)的概率.討論基因類型的演變情況基因比例d:r=p:q轉(zhuǎn)移概率矩陣狀態(tài)轉(zhuǎn)移概率隨機(jī)繁殖馬氏鏈模型自然界中通常p=q=1/2穩(wěn)態(tài)分布D:H:R=1/4:1/2:1/4基因類型為D和H,優(yōu)勢表征——綠色，基因類型為R,劣勢表征——黃色。解釋“豆科植物的莖，綠色:黃色=3:1”(D+H):R=3:1隨機(jī)繁殖近親繁殖在一對父母的大量后代中,雄雌隨機(jī)配對繁殖，討論一系列后代的基因類型的演變過程。狀態(tài)定義為配對的基因類型組合Xn=1,2,3,4,5,6~配對基因組合為DD,RR,DH,DR,HH,HR狀態(tài)轉(zhuǎn)移概率馬氏鏈模型I0RQ狀態(tài)1(DD),2(RR)是吸收態(tài)，馬氏鏈?zhǔn)俏真湣徽摮跏既绾?，?jīng)若干代近親繁殖，將全變?yōu)閮?yōu)種或劣種.計算從任一非吸收態(tài)出發(fā)，平均經(jīng)過幾代被吸收態(tài)吸收。純種(優(yōu)種和劣種)的某些品質(zhì)不如混種，近親繁殖下大約5~6代就需重新選種.近親繁殖7.4等級結(jié)構(gòu)社會系統(tǒng)中需要適當(dāng)且穩(wěn)定的等級結(jié)構(gòu).描述等級結(jié)構(gòu)的演變過程，預(yù)測未來的結(jié)構(gòu).確定為達(dá)到某個理想結(jié)構(gòu)應(yīng)采取的策略.引起等級結(jié)構(gòu)變化的因素：系統(tǒng)內(nèi)部等級間的轉(zhuǎn)移：提升和降級.系統(tǒng)內(nèi)外的交流：調(diào)入和退出(退休、調(diào)離等).用馬氏鏈模型描述確定性的轉(zhuǎn)移問題(將轉(zhuǎn)移比例視為概率)基本模型a(t)~等級結(jié)構(gòu)等級i=1,2,k（如助教、講師、教授）數(shù)量分布n(t)=(n1(t),n2(t),,nk(t))ni(t)~t年屬于等級i的人數(shù)，t=0,1,比例分布a(t)=(a1(t),a2(t),ak(t))轉(zhuǎn)移矩陣Q={pij}kk,pij是每年從等級i轉(zhuǎn)至等級j的成員（在等級i

中占的）比例基本模型基本模型~基本模型基本模型等級結(jié)構(gòu)a(t)~狀態(tài)概率P~轉(zhuǎn)移概率矩陣用調(diào)入比例進(jìn)行穩(wěn)定控制問題：給定Q,哪些等級結(jié)構(gòu)可以用合適的調(diào)入比例將理想等級機(jī)構(gòu)保持不變a為穩(wěn)定結(jié)構(gòu)用調(diào)入比例進(jìn)行穩(wěn)定控制求穩(wěn)定結(jié)構(gòu)a=(a1,a2,a3)(a1+a2+a3=1)(0.5,0.5,0)a2=a1a3=1.5a2(0,0.4,0.6)a*穩(wěn)定域BB(0,0,1)(0,1,0)(1,0,0)A可行域A例大學(xué)教師(助教、講師、教授)等級i=1,2,3，已知每年轉(zhuǎn)移比例用調(diào)入比例進(jìn)行穩(wěn)定控制研究穩(wěn)定域B的結(jié)構(gòu)尋求aaQ的另一種形式用調(diào)入比例進(jìn)行穩(wěn)定控制穩(wěn)定域B是k維空間中以si

為頂點(diǎn)的凸多面體研究穩(wěn)定域B的結(jié)構(gòu)用調(diào)入比例進(jìn)行穩(wěn)定控制例(0,1,0)(1,0,0)(0,0,1)0.2860.286S1S2S3B穩(wěn)定域B是以si為頂點(diǎn)的三角形用調(diào)入比例進(jìn)行動態(tài)調(diào)節(jié)問題：給定Q和初始結(jié)構(gòu)a(0),求一系列的調(diào)入比例r,使盡快達(dá)到或接近理想結(jié)構(gòu)逐步法：對于Q和a(0),求r使a(1)達(dá)到或盡量接近a*,如果沒有達(dá)到a*,再將a(1)作為新的a(0),繼續(xù)下去。模型例(0,1,0)(1,0,0)(0,0,1)a(0)0.2860.286a*a(1)用調(diào)入比例進(jìn)行動態(tài)調(diào)節(jié)求r使a(1)盡量接近a*7423560.6390.36100.1650.1650.6700.7470.25300.2070.2070.5860.8270.17300.2350.2350.5310.8830.11700.2530.2530.4950.9220.07800.2640.2640.4720.9490.05100.2720.2720.457r(t),a(t)的計算結(jié)果a(7)已接近a*觀察r(t)的特點(diǎn)用調(diào)入比例進(jìn)行動態(tài)調(diào)節(jié)10.50.500.10.10.8r(t)a(t)t等級結(jié)構(gòu)等級結(jié)構(gòu)的演變、預(yù)測和控制在社會系統(tǒng)中有廣泛應(yīng)用.討論總?cè)藬?shù)和內(nèi)部轉(zhuǎn)移比例不變情況下,用調(diào)入比例控制級結(jié)構(gòu)的變化.建立等級結(jié)構(gòu)演變過程的基本方程,預(yù)測未來結(jié)構(gòu).討論各種推廣情況：總?cè)藬?shù)按照一定比例增長；調(diào)入比例有界；調(diào)入比例固定而用內(nèi)部轉(zhuǎn)移比例控制級結(jié)構(gòu)的變化.7.5資金流通背景各地區(qū)之間資金每年按一定比例相互流通.各地區(qū)每年有資金流出并不再回來.銀行計劃每年向各地區(qū)投放或收回一定資金,使各地區(qū)的資金分布趨向穩(wěn)定.建立模型描述各地區(qū)資金分布的變化規(guī)律.討論什么情況下分布趨向穩(wěn)定.確定銀行應(yīng)投放或收回多少資金.問題問題分析資金流通與“等級結(jié)構(gòu)”進(jìn)行類比等級結(jié)構(gòu)地區(qū)間的資金流通等級間的成員轉(zhuǎn)移資金流出地區(qū)成員退出系統(tǒng)銀行向地區(qū)投放資金從外部向系統(tǒng)調(diào)入成員銀行投放資金可為負(fù)值（收回資金）調(diào)入成員數(shù)量不能為負(fù)值各地區(qū)資金總和每年變化系統(tǒng)總?cè)藬?shù)每年不變相似點(diǎn)不同點(diǎn)基本模型資金分布c(t)=(c1(t),c2(t),ck(t))，ci(t)~第t年地區(qū)i的資金，t=0,1,2,，i=1,2,,