應(yīng)用數(shù)理統(tǒng)計-概率知識

概

率

知

識0隨機(jī)變量分布函數(shù)的定義

對隨機(jī)變量X,稱x的函數(shù)為X的概率分布函數(shù),簡稱為分布函數(shù)

定義設(shè)X是離散型隨機(jī)變量，它的分布律為:

P(X=xk)=pk,k=1,2,…如果絕對收斂，則稱它為X的數(shù)學(xué)期望

或均值，記為E(X),即

若發(fā)散，則稱X的數(shù)學(xué)期望不存在。1

離散型隨機(jī)變量的數(shù)學(xué)期望定義設(shè)X是離散型隨機(jī)變量，它的分布律為:

P(X=xk)=pk,k=1,2,…如果絕對收斂，則g(X)的數(shù)學(xué)期望存在，且注：數(shù)學(xué)期望是一個實數(shù)，體現(xiàn)了隨機(jī)變量取值的概率平均（即數(shù)學(xué)期望是平均值）設(shè)二維離散型隨機(jī)變量(X,Y)的聯(lián)合分布律為

絕對收斂若則g(X,Y)的數(shù)學(xué)期望存在，而且有定義設(shè)X是連續(xù)型隨機(jī)變量，其密度函數(shù)為f(x),如果有限,定義X的數(shù)學(xué)期望為若則稱X的數(shù)學(xué)期望不存在2連續(xù)型隨機(jī)變量的數(shù)學(xué)期望定義設(shè)X是連續(xù)型隨機(jī)變量，其密度函數(shù)為f(x),絕對收斂則g(X)的數(shù)學(xué)期望存在，且如果

設(shè)二維連續(xù)型隨機(jī)變量(X,Y)的聯(lián)合密度為

f(x,y),且Z=g(X,Y)也是連續(xù)型隨機(jī)變量，

絕對收斂則Z的數(shù)學(xué)期望存在，而且有若3.方差定義

設(shè)隨機(jī)變量X的數(shù)學(xué)期望為E(X),若E(X-E(X))2存在,則稱它為X的方差（此時，也稱X的方差存在），記為D(X)或Var(X),即

D(X)=E(X-E(X))2

稱D(X)的算術(shù)平方根為X的標(biāo)準(zhǔn)差或均方差，記為(X).注：方差是刻化隨機(jī)變量取值的分散程度的一個特征值。4.協(xié)方差

對于二維隨機(jī)變量(X,Y)，設(shè)其分量的數(shù)學(xué)期望為E(X),E(Y)，若E[(XE(X))(Y

E(Y))]存在，則稱它為X,Y的協(xié)方差，記為Cov(X,Y),即

Cov(X,Y)=E[(X

E(X))(Y

E(Y))]

=E(XY)

E(X)E(Y)5.相關(guān)系數(shù)為隨機(jī)變量X和Y的相關(guān)系數(shù).

若二維隨機(jī)變量(X,Y)的分量的方差D(X),D(Y)都存在，且D(X)>0,D(Y)>0,則稱

若XY=0則稱X,Y不相關(guān)；若XY0稱X,Y正相關(guān)；若XY0則稱X,Y負(fù)相關(guān)。相關(guān)系數(shù)的性質(zhì)：存在常數(shù)a,b，使P{Y=a+bX}=1，

XY=1的充要條件是，P(Y=a+bX)=1(b>0)

這時稱X與Y完全正相關(guān)；

XY=1的充要條件是，P(Y=a+bX)=1(b<0)這時稱X與Y完全負(fù)相關(guān)。

相關(guān)系數(shù)的意義

若|XY

|的值越接近于1,X與Y之間越近似有線性關(guān)系；我們說X與Y的線性相關(guān)程度越高。

若|XY|的值越接近于0,越不能認(rèn)為X與Y之間有近似線性關(guān)系；我們說X與Y的線性相關(guān)程度越弱。Y與X之間以概率1有嚴(yán)格線性關(guān)系;當(dāng)XY=0時,X,Y之間的關(guān)系較復(fù)雜；可能X,Y相互獨(dú)立；可能(X,Y)在平面上的某個區(qū)域內(nèi)服從均勻分布；可能X,Y之間有某種非線性的函數(shù)關(guān)系。

6.矩

若E(Xk)存在，則稱它為X的k階原點(diǎn)矩，記為k

若E(X-E(X))k存在,則稱它為X的k階中心矩，記為vk

E(X)=1，它為X的1階原點(diǎn)矩

D(X)=E(X-E(X))2=v2，它為X的2階中心矩

7.變異系數(shù)

若X的2階矩存在，則比值稱為X分布的變異系數(shù)。容易看出，變異系數(shù)是以數(shù)學(xué)期望為單位去度量隨機(jī)變量取值波動程度的特征數(shù)。它是一個無單位的量。一般說來，取值較大的隨機(jī)變量的方差與標(biāo)準(zhǔn)差也較大，這時僅看方差大小就不合理。比如用定位儀測量兩個城市的距離，測量值X是隨機(jī)變量，若EX=1463公里=1463000公尺，標(biāo)準(zhǔn)差(X)=500公尺，則變異系數(shù)Cv=0.00034

。而用一般標(biāo)尺測量一個跑道，測量值Y也是隨機(jī)變量，若EY=100公尺，標(biāo)準(zhǔn)差(X)=0.05公尺，則變異系數(shù)Cv=0.0005

。相比之下，還是用定位儀測量兩城市的距離較為精確。8.偏度

若X的3階矩存在，則比值

正態(tài)分布N(,2)的三階中心矩E(XEX)3=0，故其偏度為0。一般，若X的概率密度函數(shù)f(x)關(guān)于其數(shù)學(xué)期望EX對稱，則其三階中心矩E(XEX)3必為0，從而1=0稱為X的偏度系數(shù)，簡稱偏度。表明：關(guān)于EX對稱的概率分布，其偏度為零.若偏度1不為零，則其分布不是對稱的，且|1|愈大，其分布與對稱分布偏離愈大，特別，若1>0，稱概率分布為正偏；若1<0，稱概率分布為負(fù)偏。Positivevs.NegativeSkewnessExhibitThesegraphsillustratethenotionofskewness.BothPDFshavethesameexpectationandvariance.Theoneontheleftispositivelyskewed.Theoneontherightisnegativelyskewed.9.峰度

若X的4階矩存在，則稱為X分布的峰度系數(shù)，簡稱峰度。由概率論知識知，對于正態(tài)分布N(,

2)，Var(X)=

2，E(XEX)4=3

4,故按上述定義可知2=0，這意味著，不論均值方差

2是多少，任一正態(tài)分布的峰度2永遠(yuǎn)為零。其中E(X

*)=0,D(X*)=1。由于標(biāo)準(zhǔn)化正態(tài)變量(記為U)的四階原點(diǎn)距E(U4)=3。故峰度實際上是任一標(biāo)準(zhǔn)化變量與標(biāo)準(zhǔn)化正態(tài)變量的四階原點(diǎn)矩之差。

這里談?wù)摰摹胺宥取辈皇侵敢话忝芏群瘮?shù)的峰值高低，那么這里的“峰值”含義是什么呢?假如在峰度定義中，對分子和分母各除以(DX)2=

4，并記X的標(biāo)準(zhǔn)化變量為X*=(XEX)/，則2可改寫為

以單峰分布為例，當(dāng)2>0時，即E(X*)4>E(U4)，這意味著

X*在零附近集中取值的概率要大于標(biāo)準(zhǔn)化正態(tài)變量，從而其密度在零附近的峰要比標(biāo)準(zhǔn)化正態(tài)分布的峰高；對2<0也可作類似解釋。

通過計算可以得到:均勻分布的密度函數(shù)很平坦，其峰度比正態(tài)分布峰度低，呈現(xiàn)負(fù)值。指數(shù)分布的密度函數(shù)為尖峭，其峰度比正態(tài)分布峰度高，呈現(xiàn)正值。10.

p分位數(shù)

對于給定的p(0<p<1)，如下定義的xp稱為X分布的p分位數(shù)。當(dāng)p=0.5時，x0.5稱為X分布的中位數(shù)。當(dāng)X為連續(xù)型隨機(jī)變量時，x0.5滿足當(dāng)X為連續(xù)型隨機(jī)變量時，xp

滿足分位數(shù)在實際中也經(jīng)常使用。比如，軸承的壽命是較長的，經(jīng)常用x0.1刻劃該種軸承的質(zhì)量，表示有10%的軸承在x0.1之前損壞。11.

眾

數(shù)

眾數(shù)是指使得頻率函數(shù)或密度函數(shù)達(dá)到極大值的點(diǎn)。更詳細(xì)的說，當(dāng)X為離散型隨機(jī)變量時，若pj≥pi,對一切i≠j成立，則稱xj

為X的眾數(shù)；當(dāng)X為連續(xù)型隨機(jī)變量時,若f(x0)=maxf(x),則稱x0為X的眾數(shù).或該分布的均值和方差為(1)(兩點(diǎn)分布).

隨機(jī)變量X

服從B(1,p)，其分布律為12常用分布族又稱為貝努利(Bernoulli)分布該分布的均值和方差為(2)(二項分布).隨機(jī)變量X

服從B(n,p)，其分布律為[1]、當(dāng)(n+1)p=整數(shù)時，在

k=[(n+1)p]與

[(n+1)p]–1處的概率取得最大值[2]、當(dāng)(n+1)p

整數(shù)時，在

k=[(n+1)p]處的概率取得最大值二項分布的最有可能取值當(dāng)n,x給定時,分布函數(shù)是p的單調(diào)下降函數(shù)若X1,…,Xm

,獨(dú)立,且Xi

~B(ni,p),i=1,…,m

則X=X1+…+Xm

~B(n,p),其中n=n1+…+nm

該分布的均值和方差為(3)(泊松分布).隨機(jī)變量X

服從P()，其分布律為當(dāng)不是整數(shù)時,分布率在k=[]達(dá)到極大值;當(dāng)

是整數(shù)時,分布率在k=及-1處達(dá)到極大值.當(dāng)x固定時,分布函數(shù)是的非增函數(shù).若X1,…,Xn

,獨(dú)立,且Xi

~P(

i

),i=1,…,n

則X=X1+…+Xm

~P(),其中=

1+…+

n

(1)定義:設(shè)每次試驗出現(xiàn)k個可能結(jié)果A1,….,Ak之一，且出現(xiàn)Ai的概率為pi。在n次獨(dú)立試驗中，令Yi表示第i個結(jié)果出現(xiàn)的次數(shù)，Y=(Y1,…,Yk)，則Y

服從多項分布，即(4).多項分布

-----k＝2對應(yīng)二項分布X的概率密度為其期望和方差分別為

(5).隨機(jī)變量X在區(qū)間(a,b)上服從均勻分布U(a,b)均勻分布U(0,1)在

隨機(jī)模擬中起著特殊的作用.若Y有嚴(yán)格單調(diào)上升的分布函數(shù)F(y),令X=F(Y),則X~U(0,1)若Z~U(0,1),F為任一嚴(yán)格單調(diào)上升的分布函數(shù),F-1為其反函數(shù),令W=F-1(Z),則W的分布函數(shù)為F(w)利用上述關(guān)系,可以產(chǎn)生各種常見分布的隨機(jī)數(shù).在Bayes統(tǒng)計中，均勻分布常用做無先驗信息時未知參數(shù)先驗分布.X的概率密度為其期望和方差分別為

(6).隨機(jī)變量X服從指數(shù)分布E()X的概率密度為其期望和方差分別為

(7).隨機(jī)變量X服從正態(tài)分布N(,2)(8).Cauchy分布(1)定義:具有下列概率密度的隨機(jī)變量稱為Cauchy分布，注：上述Cauchy分布關(guān)于m是對稱的，但它不存在均值和方差。Cauchy分布也因此而聞名。則

X的分布稱為k維正態(tài)分布，記為Nk(,

)，此時k階方陣

為正定矩陣，并有(1)定義:對于

k維隨機(jī)變量X=(X1,…,Xk

)T，若其具有如下概率密度：(9).多維正態(tài)分布多元正態(tài)分布的性質(zhì)

多元正態(tài)分布的隨機(jī)變量的線性組合服從正態(tài)分布，即若X~Nk(,

),A為kk的矩陣，則AX~Nk(A,AAT

);它的邊緣分布仍為正態(tài)分布；該隨機(jī)變量可以通過正交變換得到新的變量，該變量的各個分量是相互獨(dú)立