概率論與數理統(tǒng)計基礎公式大全

1、概率論與數理統(tǒng)計基礎公式大全第一章 隨機事件和概率 （1）排列組合公式從m個人中挑出n個人進行排列的可能數。從m個人中挑出n個人進行組合的可能數。（2）加法和乘法原理加法原理（兩種方法均能完成此事）：m+n某件事由兩種方法來完成，第一種方法可由m種方法完成，第二種方法可由n種方法來完成，則這件事可由m+n 種方法來完成。乘法原理（兩個步驟分別不能完成這件事）：mn某件事由兩個步驟來完成，第一個步驟可由m種方法完成，第二個步驟可由n 種方法來完成，則這件事可由mn 種方法來完成。（3）一些常見排列重復排列和非重復排列（有序）對立事件（至少有一個）順序問題（4）隨機試驗和隨機事件如果一個試驗在相同

2、條件下可以重復進行，而每次試驗的可能結果不止一個，但在進行一次試驗之前卻不能斷言它出現哪個結果，則稱這種試驗為隨機試驗。試驗的可能結果稱為隨機事件。（5）基本事件、樣本空間和事件在一個試驗下，不管事件有多少個，總可以從其中找出這樣一組事件，它具有如下性質：每進行一次試驗，必須發(fā)生且只能發(fā)生這一組中的一個事件；任何事件，都是由這一組中的部分事件組成的。這樣一組事件中的每一個事件稱為基本事件，用 來表示?；臼录娜w，稱為試驗的樣本空間，用 表示。一個事件就是由 中的部分點（基本事件 ）組成的集合。通常用大寫字母A，B，C，表示事件，它們是 的子集。為必然事件，為不可能事件。不可能事件（）的概率

3、為零，而概率為零的事件不一定是不可能事件；同理，必然事件（）的概率為1，而概率為1的事件也不一定是必然事件。（6）事件的關系與運算關系：如果事件A的組成部分也是事件B的組成部分，（A發(fā)生必有事件B發(fā)生）：如果同時有 ， ，則稱事件A與事件B等價，或稱A等于B：A=B。A、B中至少有一個發(fā)生的事件：A B，或者A+B。屬于A而不屬于B的部分所構成的事件，稱為A與B的差，記為A-B，也可表示為A-AB或者 ，它表示A發(fā)生而B不發(fā)生的事件。A、B同時發(fā)生：A B，或者AB。A B=，則表示A與B不可能同時發(fā)生，稱事件A與事件B互不相容或者互斥?；臼录腔ゲ幌嗳莸摹?A稱為事件A的逆事件，或稱A的對

4、立事件，記為 。它表示A不發(fā)生的事件。互斥未必對立。運算：結合率：A(BC)=(AB)C A(BC)=(AB)C分配率：(AB)C=(AC)(BC) (AB)C=(AC)(BC)德摩根率： ， （7）概率的公理化定義設 為樣本空間， 為事件，對每一個事件 都有一個實數P(A)，若滿足下列三個條件：1 0P(A)1，2 P() =13 對于兩兩互不相容的事件 ， ，有常稱為可列（完全）可加性。則稱P(A)為事件 的概率。（8）古典概型1 ，2 。設任一事件 ，它是由 組成的，則有P(A)= =（9）幾何概型若隨機試驗的結果為無限不可數并且每個結果出現的可能性均勻，同時樣本空間中的每一個基本事件可

5、以使用一個有界區(qū)域來描述，則稱此隨機試驗為幾何概型。對任一事件A，。其中L為幾何度量（長度、面積、體積）。（10）加法公式P(A+B)=P(A)+P(B)-P(AB)當P(AB)0時，P(A+B)=P(A)+P(B)（11）減法公式P(A-B)=P(A)-P(AB)當B A時，P(A-B)=P(A)-P(B)當A=時，P( )=1- P(B)（12）條件概率定義 設A、B是兩個事件，且P(A)0，則稱 為事件A發(fā)生條件下，事件B發(fā)生的條件概率，記為 。條件概率是概率的一種，所有概率的性質都適合于條件概率。例如P(/B)=1 P( /A)=1-P(B/A)（13）乘法公式乘法公式：更一般地，對事

6、件A1，A2，An，若P(A1A2An-1)0，則有 。（14）獨立性兩個事件的獨立性設事件 、 滿足 ，則稱事件 、 是相互獨立的。若事件 、 相互獨立，且 ，則有若事件 、 相互獨立，則可得到 與 、 與 、 與 也都相互獨立。必然事件 和不可能事件與任何事件都相互獨立。與任何事件都互斥。多個事件的獨立性設ABC是三個事件，如果滿足兩兩獨立的條件，P(AB)=P(A)P(B)；P(BC)=P(B)P(C)；P(CA)=P(C)P(A)并且同時滿足P(ABC)=P(A)P(B)P(C)那么A、B、C相互獨立。對于n個事件類似。（15）全概公式設事件 滿足1 兩兩互不相容， ，2 ，則有。（1

7、6）貝葉斯公式設事件 ， ， 及 滿足1 ， ， 兩兩互不相容， 0， 1，2， ，2 ， ，則，i=1，2，n。此公式即為貝葉斯公式。，（ ， ， ），通常叫先驗概率。 ，（ ， ， ），通常稱為后驗概率。貝葉斯公式反映了“因果”的概率規(guī)律，并作出了“由果朔因”的推斷。（17）伯努利概型我們作了 次試驗，且滿足u 每次試驗只有兩種可能結果， 發(fā)生或 不發(fā)生； u 次試驗是重復進行的，即 發(fā)生的概率每次均一樣；u 每次試驗是獨立的，即每次試驗 發(fā)生與否與其他次試驗 發(fā)生與否是互不影響的。這種試驗稱為伯努利概型，或稱為 重伯努利試驗。用 表示每次試驗 發(fā)生的概率，則 發(fā)生的概率為 ，用 表示 重

8、伯努利試驗中 出現 次的概率， 。第二章 隨機變量及其分布 （1）離散型隨機變量的分布律設離散型隨機變量 的可能取值為Xk(k=1,2,)且取各個值的概率，即事件(X=Xk)的概率為P(X=xk)=pk，k=1,2,，則稱上式為離散型隨機變量 的概率分布或分布律。有時也用分布列的形式給出：。顯然分布律應滿足下列條件：（1） ， ， （2） 。（2）連續(xù)型隨機變量的分布密度設 是隨機變量 的分布函數，若存在非負函數 ，對任意實數 ，有，則稱 為連續(xù)型隨機變量。 稱為 的概率密度函數或密度函數，簡稱概率密度。密度函數具有下面4個性質：1 。2 。（3）離散與連續(xù)型隨機變量的關系積分元 在連續(xù)型隨機

9、變量理論中所起的作用與 在離散型隨機變量理論中所起的作用相類似。（4）分布函數設 為隨機變量， 是任意實數，則函數稱為隨機變量X的分布函數，本質上是一個累積函數?？梢缘玫絏落入區(qū)間 的概率。分布函數 表示隨機變量落入區(qū)間（ ，x內的概率。分布函數具有如下性質：1 ；2 是單調不減的函數，即 時，有 ；3 ， ；4 ，即 是右連續(xù)的；5 。對于離散型隨機變量， ；對于連續(xù)型隨機變量， 。（5）八大分布0-1分布P(X=1)=p, P(X=0)=q二項分布在 重貝努里試驗中，設事件 發(fā)生的概率為 。事件 發(fā)生的次數是隨機變量，設為 ，則 可能取值為 。， 其中 ，則稱隨機變量 服從參數為 ， 的二

10、項分布。記為 。當 時， ， ，這就是（0-1）分布，所以（0-1）分布是二項分布的特例。泊松分布設隨機變量 的分布律為， ， ，則稱隨機變量 服從參數為 的泊松分布，記為 或者P( )。泊松分布為二項分布的極限分布（np=，n）。超幾何分布隨機變量X服從參數為n,N,M的超幾何分布，記為H(n,N,M)。幾何分布，其中p0，q=1-p。隨機變量X服從參數為p的幾何分布，記為G(p)。均勻分布設隨機變量 的值只落在a，b內，其密度函數 在a，b上為常數 ，即axb其他，則稱隨機變量 在a，b上服從均勻分布，記為XU(a，b)。分布函數為axb0， xb。當ax1x2b時，X落在區(qū)間（ ）內的概

11、率為。指數分布,0, ,其中 ，則稱隨機變量X服從參數為 的指數分布。X的分布函數為,x0。記住積分公式：正態(tài)分布設隨機變量 的密度函數為， ，其中 、 為常數，則稱隨機變量 服從參數為 、 的正態(tài)分布或高斯（Gauss）分布，記為 。具有如下性質：1 的圖形是關于 對稱的；2 當 時， 為最大值；若 ，則 的分布函數為。參數 、 時的正態(tài)分布稱為標準正態(tài)分布，記為 ，其密度函數記為， ，分布函數為。是不可求積函數，其函數值，已編制成表可供查用。(-x)1-(x)且(0) 。如果 ，則 。（6）分位數下分位表： ；上分位表： 。（7）函數分布離散型已知 的分布列為，的分布列（ 互不相等）如下：

12、，若有某些 相等，則應將對應的 相加作為 的概率。連續(xù)型先利用X的概率密度fX(x)寫出Y的分布函數FY(y)P(g(X)y)，再利用變上下限積分的求導公式求出fY(y)。第三章 二維隨機變量及其分布（1）聯合分布離散型如果二維隨機向量 （X，Y）的所有可能取值為至多可列個有序對（x,y），則稱 為離散型隨機量。設 =（X，Y）的所有可能取值為 ，且事件 = 的概率為pij,稱為 =（X，Y）的分布律或稱為X和Y的聯合分布律。聯合分布有時也用下面的概率分布表來表示：YXy1y2yjx1p11p12p1jx2p21p22p2jxipi1這里pij具有下面兩個性質：（1）pij0（i,j=1,2,

13、）；（2）連續(xù)型對于二維隨機向量 ，如果存在非負函數 ，使對任意一個其鄰邊分別平行于坐標軸的矩形區(qū)域D，即D=(X,Y)|axb,cyx1時，有F（x2,y）F(x1,y);當y2y1時，有F(x,y2) F(x,y1);（3）F（x,y）分別對x和y是右連續(xù)的，即（4）（5）對于.（4）離散型與連續(xù)型的關系（5）邊緣分布離散型X的邊緣分布為；Y的邊緣分布為。連續(xù)型X的邊緣分布密度為Y的邊緣分布密度為（6）條件分布離散型在已知X=xi的條件下，Y取值的條件分布為在已知Y=yj的條件下，X取值的條件分布為連續(xù)型在已知Y=y的條件下，X的條件分布密度為；在已知X=x的條件下，Y的條件分布密度為（7

14、）獨立性一般型F(X,Y)=FX(x)FY(y)離散型有零不獨立連續(xù)型f(x,y)=fX(x)fY(y)直接判斷，充要條件：可分離變量正概率密度區(qū)間為矩形二維正態(tài)分布0隨機變量的函數若X1,X2,Xm,Xm+1,Xn相互獨立， h,g為連續(xù)函數，則：h（X1，X2,Xm）和g（Xm+1,Xn）相互獨立。特例：若X與Y獨立，則：h（X）和g（Y）獨立。例如：若X與Y獨立，則：3X+1和5Y-2獨立。（8）二維均勻分布設隨機向量（X，Y）的分布密度函數為其中SD為區(qū)域D的面積，則稱（X，Y）服從D上的均勻分布，記為（X，Y）U（D）。例如圖3.1、圖3.2和圖3.3。y1D1O1 x圖3.1yD2

15、11O 2 x圖3.2yD3dcO a b x圖3.3（9）二維正態(tài)分布設隨機向量（X，Y）的分布密度函數為其中 是5個參數，則稱（X，Y）服從二維正態(tài)分布，記為（X，Y）N（由邊緣密度的計算公式，可以推出二維正態(tài)分布的兩個邊緣分布仍為正態(tài)分布，即XN（但是若XN（ ，(X，Y)未必是二維正態(tài)分布。（10）函數分布Z=X+Y根據定義計算：對于連續(xù)型，fZ(z)兩個獨立的正態(tài)分布的和仍為正態(tài)分布（ ）。n個相互獨立的正態(tài)分布的線性組合，仍服從正態(tài)分布。，Z=max,min(X1,X2,Xn)若 相互獨立，其分布函數分別為 ，則Z=max,min(X1,X2,Xn)的分布函數為：分布設n個隨機變量

16、 相互獨立，且服從標準正態(tài)分布，可以證明它們的平方和的分布密度為我們稱隨機變量W服從自由度為n的 分布，記為W ，其中所謂自由度是指獨立正態(tài)隨機變量的個數，它是隨機變量分布中的一個重要參數。分布滿足可加性：設則t分布設X，Y是兩個相互獨立的隨機變量，且可以證明函數的概率密度為我們稱隨機變量T服從自由度為n的t分布，記為Tt(n)。F分布設 ，且X與Y獨立，可以證明 的概率密度函數為我們稱隨機變量F服從第一個自由度為n1，第二個自由度為n2的F分布，記為Ff(n1, n2).第四章 隨機變量的數字特征（1）一維隨機變量的數字特征離散型連續(xù)型期望期望就是平均值設X是離散型隨機變量，其分布律為P(

17、)pk，k=1,2,n，（要求絕對收斂）設X是連續(xù)型隨機變量，其概率密度為f(x)，（要求絕對收斂）函數的期望Y=g(X)Y=g(X)方差D(X)=EX-E(X)2，標準差，矩對于正整數k，稱隨機變量X的k次冪的數學期望為X的k階原點矩，記為vk,即k=E(Xk)= , k=1,2, .對于正整數k，稱隨機變量X與E（X）差的k次冪的數學期望為X的k階中心矩，記為 ，即= ， k=1,2, .對于正整數k，稱隨機變量X的k次冪的數學期望為X的k階原點矩，記為vk,即k=E(Xk)=k=1,2, .對于正整數k，稱隨機變量X與E（X）差的k次冪的數學期望為X的k階中心矩，記為 ，即=k=1,2,

18、 .切比雪夫不等式設隨機變量X具有數學期望E（X）=，方差D（X）=2，則對于任意正數，有下列切比雪夫不等式切比雪夫不等式給出了在未知X的分布的情況下，對概率的一種估計，它在理論上有重要意義。（2）期望的性質（1） E(C)=C（2） E(CX)=CE(X)（3） E(X+Y)=E(X)+E(Y)，（4） E(XY)=E(X) E(Y)，充分條件：X和Y獨立；充要條件：X和Y不相關。（3）方差的性質（1） D(C)=0；E(C)=C（2） D(aX)=a2D(X)； E(aX)=aE(X)（3） D(aX+b)= a2D(X)； E(aX+b)=aE(X)+b（4） D(X)=E(X2)-E2

19、(X)（5） D(XY)=D(X)+D(Y)，充分條件：X和Y獨立；充要條件：X和Y不相關。D(XY)=D(X)+D(Y) 2E(X-E(X)(Y-E(Y)，無條件成立。而E(X+Y)=E(X)+E(Y)，無條件成立。（4）常見分布的期望和方差期望方差0-1分布p二項分布np泊松分布幾何分布超幾何分布均勻分布指數分布正態(tài)分布n2nt分布0(n2)（5）二維隨機變量的數字特征期望函數的期望方差協(xié)方差對于隨機變量X與Y，稱它們的二階混合中心矩 為X與Y的協(xié)方差或相關矩，記為 ，即與記號 相對應，X與Y的方差D（X）與D（Y）也可分別記為 與 。相關系數對于隨機變量X與Y，如果D（X）0, D(Y)

20、0，則稱為X與Y的相關系數，記作 （有時可簡記為 ）。| |1，當| |=1時，稱X與Y完全相關：完全相關而當 時，稱X與Y不相關。以下五個命題是等價的： ；cov(X,Y)=0;E(XY)=E(X)E(Y);D(X+Y)=D(X)+D(Y);D(X-Y)=D(X)+D(Y).協(xié)方差矩陣混合矩對于隨機變量X與Y，如果有 存在，則稱之為X與Y的k+l階混合原點矩，記為 ；k+l階混合中心矩記為：（6）協(xié)方差的性質(i) cov (X, Y)=cov (Y, X);(ii) cov(aX,bY)=ab cov(X,Y);(iii) cov(X1+X2, Y)=cov(X1,Y)+cov(X2,Y)

21、;(iv) cov(X,Y)=E(XY)-E(X)E(Y).（7）獨立和不相關（i） 若隨機變量X與Y相互獨立，則 ；反之不真。（ii） 若（X，Y）N（ ），則X與Y相互獨立的充要條件是X和Y不相關。第五章 大數定律和中心極限定理（1）大數定律切比雪夫大數定律設隨機變量X1，X2，相互獨立，均具有有限方差，且被同一常數C所界：D（Xi）C(i=1,2,),則對于任意的正數，有特殊情形：若X1，X2，具有相同的數學期望E（XI）=，則上式成為伯努利大數定律設是n次獨立試驗中事件A發(fā)生的次數，p是事件A在每次試驗中發(fā)生的概率，則對于任意的正數，有伯努利大數定律說明，當試驗次數n很大時，事件A發(fā)生

22、的頻率與概率有較大判別的可能性很小，即這就以嚴格的數學形式描述了頻率的穩(wěn)定性。辛欽大數定律設X1，X2，Xn，是相互獨立同分布的隨機變量序列，且E（Xn）=，則對于任意的正數有（2）中心極限定理列維林德伯格定理設隨機變量X1，X2，相互獨立，服從同一分布，且具有相同的數學期望和方差： ，則隨機變量的分布函數Fn(x)對任意的實數x，有此定理也稱為獨立同分布的中心極限定理。棣莫弗拉普拉斯定理設隨機變量 為具有參數n, p(0p1)的二項分布，則對于任意實數x,有（3）二項定理若當 ，則超幾何分布的極限分布為二項分布。（4）泊松定理若當 ，則其中k=0，1，2，n，。二項分布的極限分布為泊松分布。

23、第六章 樣本及抽樣分布（1）數理統(tǒng)計的基本概念總體在數理統(tǒng)計中，常把被考察對象的某一個（或多個）指標的全體稱為總體（或母體）。我們總是把總體看成一個具有分布的隨機變量（或隨機向量）。個體總體中的每一個單元稱為樣品（或個體）。樣本我們把從總體中抽取的部分樣品 稱為樣本。樣本中所含的樣品數稱為樣本容量，一般用n表示。在一般情況下，總是把樣本看成是n個相互獨立的且與總體有相同分布的隨機變量，這樣的樣本稱為簡單隨機樣本。在泛指任一次抽取的結果時， 表示n個隨機變量（樣本）；在具體的一次抽取之后， 表示n個具體的數值（樣本值）。我們稱之為樣本的兩重性。樣本函數和統(tǒng)計量設 為總體的一個樣本，稱（ ）為樣本

24、函數，其中 為一個連續(xù)函數。如果 中不包含任何未知參數，則稱 （ ）為一個統(tǒng)計量。常見統(tǒng)計量及其性質樣本均值樣本方差樣本標準差樣本k階原點矩樣本k階中心矩， ， ,其中 ，為二階中心矩。（2）正態(tài)總體下的四大分布正態(tài)分布設 為來自正態(tài)總體 的一個樣本，則樣本函數t分布設 為來自正態(tài)總體 的一個樣本，則樣本函數其中t(n-1)表示自由度為n-1的t分布。設 為來自正態(tài)總體 的一個樣本，則樣本函數其中 表示自由度為n-1的 分布。F分布設 為來自正態(tài)總體 的一個樣本，而 為來自正態(tài)總體 的一個樣本，則樣本函數其中表示第一自由度為 ，第二自由度為 的F分布。（3）正態(tài)總體下分布的性質與 獨立。第七章

25、 參數估計（1）點估計矩估計設總體X的分布中包含有未知數 ，則其分布函數可以表成 它的k階原點矩 中也包含了未知參數 ，即 。又設 為總體X的n個樣本值，其樣本的k階原點矩為這樣，我們按照“當參數等于其估計量時，總體矩等于相應的樣本矩”的原則建立方程，即有由上面的m個方程中，解出的m個未知參數 即為參數（ ）的矩估計量。若 為 的矩估計， 為連續(xù)函數，則 為 的矩估計。極大似然估計當總體X為連續(xù)型隨機變量時，設其分布密度為 ，其中 為未知參數。又設 為總體的一個樣本，稱為樣本的似然函數，簡記為Ln.當總體X為離型隨機變量時，設其分布律為 ，則稱為樣本的似然函數。若似然函數 在 處取到最大值，則

26、稱 分別為 的最大似然估計值，相應的統(tǒng)計量稱為最大似然估計量。若 為 的極大似然估計， 為單調函數，則 為 的極大似然估計。（2）估計量的評選標準無偏性設 為未知參數 的估計量。若E （ ）= ，則稱 為 的無偏估計量。E（ ）=E（X）， E（S2）=D（X）有效性設 和 是未知參數 的兩個無偏估計量。若 ，則稱 有效。一致性設 是 的一串估計量，如果對于任意的正數 ，都有則稱 為 的一致估計量（或相合估計量）。若 為 的無偏估計，且 則 為 的一致估計。只要總體的E(X)和D(X)存在，一切樣本矩和樣本矩的連續(xù)函數都是相應總體的一致估計量。（3）區(qū)間估計置信區(qū)間和置信度設總體X含有一個待估的未知參數 。如果我們從樣本 出發(fā)，找出兩個統(tǒng)計量 與 ，使得區(qū)間 以 的概率包含這個待估參數 ，即那么稱區(qū)間 為 的置信區(qū)間， 為該區(qū)間的置信度（或置信水平）。單正態(tài)總體的期望和方差的區(qū)間估計設 為總體 的一個樣本，在置信度為 下，我們來確定 的置信區(qū)間 。具體步驟如下：（i）選擇樣本函數；（ii）由置信度 ，查表找分位數；（iii）導出置信區(qū)間 。已知方差，估計均值（i）選擇樣本函數(ii) 查表找分位數（iii）導出置信區(qū)間未知方差，估計均值（i）選擇樣本函數(ii)查表找分