數理統(tǒng)計復習總結

1、1統(tǒng)計量與抽樣分布基本概念：統(tǒng)計量、樣本矩、經驗分布函數總體X的樣本X1,T(Xi,X，X)即為統(tǒng)計量樣本均值樣本方差s2修正樣本方差樣本k階原點矩Ak樣本k階中心矩Bk(Xi2X)n(Xi1Xik,(k2X)1,2,.)(XiX)k,(k1,2,.)x出現的次數F(x)經驗分布函數Fn(x)vn空,(x)其中Vn(x)表示隨機事件Xn,，-1顯然Vn(x)B(n,F(x)，則有EFn(x)F(x)DFn(x)-F(x)1n補充：_2n1*222ESnDXESnDXEXDX(EX)n21n2-2Sn-XiXni1項分布 B(n,p): PXkC：pk(1p)nk,(k0,1,.,n)EX=np

2、DX=np(1-p)k泊松分布P():PXke,(k0,1,.)k!EXDX1，、均勻分布U(a,b):f(x),(axb)baEXabDX(ba)2212指數分布：f(x)ex,(x0)F(x)1ex,(x0)11EX-DX正態(tài)分布N(2、1.)：f(x) exp,2(x)212 2EXDX 2nS2ET) n 12 n 1 2nS：ESn DT 2(n 1) nDS22(n 1) 42n0時，EX0EX22EX434EXJ-DX(1-)2統(tǒng)計量：充分統(tǒng)計量、因子分解定理、完備統(tǒng)計量、指數型分布族T是。的充分統(tǒng)計量f(x),x2，,xnTt)與。無關T是。的完備統(tǒng)計量要使Eg(T)=0,必有

3、g(T)=0nL()f(xi；)h(x1,x2,.,xn)g(T(x1,x2,.,xn)；Mh非負T是9的充分統(tǒng)計量i1nf(x;)C()expb()T(Xi,x2,.,xn)h(x1，x2,.,xn)T是。的充分完備統(tǒng)計量i1nf(Xi;)C()expbl()T1(X1,X2,.,Xn)b?()T2(Xi,X2,.,Xn)h(。X2,.,Xn)i1(Ti,T2)是(1,2)的充分完備統(tǒng)計量抽樣分布：2分布，t分布，F分布,分位數，正態(tài)總體樣本均值和方差的分布，非正態(tài)總體樣本均值的分布2分布:2 X12 X2X2212(n) f(x) 2"x n .一 一 1e 2x2 (x 0)9

4、T分布:F分布:D 2 2nb X "、 T i t(n)當 n>2 時, . Y/nnET=0 DT n 2L MR L. 、1 L,、F y F(n1，n2) F(n2,n1)補充:Z=X+Y的概率密度fz(z)f(x, z x)dxf (zy,y)dy f(x,y)是X和Y的聯合概率密度Y -、，、Z的概率密度fz(z)Xf (x, xz) xdxy g (x)的概率密度fy(y)fx(g 1(y)g1(y)函數：()1)(n) (n 1)!,B函數：B(,111)0 x (1 x) dxB()4次序統(tǒng)計量及其分布:次序統(tǒng)計量、樣本中位數° X、樣本極差Xk)的

5、分布密度:fx(k)(x)(riF(x)k11 F(x)nkf(x),(k1,2,，n)%)的分布密度:fx(x)nf(x)1 F(x)n1Xn)的分布密度:fx(x)n 1nf(x)F(x)2參數估計點估計與優(yōu)良性：概念、無偏估計、均方誤差準則、相合估計(一致估計)、漸近正態(tài)估計$的均方誤差：MSE($, ) E($)2 D$ (E$)2若$是無偏估計，則MSE($, ) D$ * *對于的任意一個無偏估計量$，有D$D相合估計(一致彳t計)：limEnlimD$nnn點估計量的求法：矩估計法、最大似然估計法矩估計法：求出總體的k階原點矩：akEXk1n解方程組ak-Xik(k=1,2,.,

6、m)、則$是的最小方差無偏估計，記MVUE0xkdF(x;1,2,，m),得$k$k(X1,X2,.,Xn)即為所求最大似然估計法:寫出似然函數L( ) f(X；)求出InL及似然方程_nLi=1,2,m解似然方程得到$i(x1,x2,.,xn),即最大似然估計$i(X1,X2,.,Xn)i=1,2,m補充：似然方程無解時，求出的定義域中使得似然函數最大的值，即為最大似然估計和有效估計：最小方差無偏估計、有效估計*T是的充分完備統(tǒng)計量，$是的一個無偏估計$E($|T)為的惟一的MVUE最小方差無偏估計的求解步驟：求出參數的充分完備統(tǒng)計量T 求出ETg(),則$g1(T)是的一個無偏估計或求出一

7、個無偏估計，然后改寫成用T表示的函數一.11 綜合，Eg(T)Tg(T)是的MVUE'2g() nI()或者：求出的矩估計或ML估計，再求效率，為1則必為MVUET是g()的一個無偏估計，則滿足信息不等式DT(X).,、.、22.，、.、0, f(X; )為樣本的聯合分布。I()E1r1f(X;)或I()E1n?)最小方差無偏估計達到羅-克拉姆下界有效估計量效率為1無偏估計$的效率：e($)1/d$nI()$是的最大似然估計，且$是的充分統(tǒng)計量$是的有效估計區(qū)間估計：概念、正態(tài)總體區(qū)間估計(期望、方差、均值差、方差比)及單側估計、非正態(tài)總體參數和區(qū)間估計一個總體的情況：XN(,2)2.

8、已知，求的置信區(qū)間:X0-nN(0，1)0,nU,2.未知，求的置信區(qū)間:sn-nt(n1)Snt(n:/n”1)已知，求2的置信區(qū)間:n2(Xi)2i12(n)2(Xi)2i1n2(Xi)2i1未知，求2的置信區(qū)間:2(n)2(n)2n(Xii1X)2n(XiX)22(n1)兩個總體的情況:XN(12)2(n1)2YN(I)I2)22n2N(0,1)2)2,乙.未知時,2的區(qū)間估計:2)(n12未知時,*2S2n21端(n21)S*n221_2,2*22Sn12F(n21,n1)非正態(tài)總體的區(qū)間估計:XL時，一N(0,1)S,nn(XiX)2J2(n1)12nin2n1n2(n112)t(n

9、1n2n1n22)*2%*2S2n2_(n21,n21)21萬2*2*2S2n2(n221,n11)SIlimnSSn1,故用S代替Sn-1Xmnm1mdmnN(0,1)u1：1m1mn2,nnnnnn3統(tǒng)計決策與貝葉斯估計統(tǒng)計決策的基本概念：三要素、統(tǒng)計決策函數及風險函數三要素：樣本空間和分布族、行動空間(判決空間)、損失函數L(,d)統(tǒng)計決策函數d(X):本質上是一個統(tǒng)計量，可用來估計未知參數風險函數：R(,d)EL(,d(X)是關于的函數貝葉斯估計：先驗分布與后驗分布、貝葉斯風險、貝葉斯估計n 求樣本X=(X1,X2，,Xn)的分布：q(x|)f(x|)i1 樣本X與的聯合概率分布：f(

10、x,)h(|x)m(x)q(x|)() 求f(x,)關于x的邊緣密度m(x)f(x,)d的后驗密度為:h(|x)f(x,)m(x)一2取L(,d)(d)時的貝葉斯估計為：$E(|x)h(|x)dR(,d)E(d)2貝葉斯風險為:q(d)ER(,d)E(d)2h(|x)d2取L(,d)()(d)時，貝葉斯估計為:$E()|xE()|x補充:C()的貝葉斯估計：取損失函數L(,d)(C()d)2,則貝葉斯估計為C()EC()|xC()h(|x)dE(|x)h(|x)d3dm(x)f(x,)df(x,)d估計對決策空間中白決策函數d1(X),d2(X),.,分別求出在上的最大風險值maxR(,d)在

11、所有的最大風險值中選取相對最小值，此值對應的決策函數就是最小最大決策函數。4假設檢驗基本概念：零假設(H0)與備選假設(Hi)、檢驗規(guī)則、兩類錯誤、勢函數零假設通常受到保護，而備選假設是當零假設被拒絕后才能被接受。檢驗規(guī)則：構造一個統(tǒng)計量T(X1,X 2,.,X3),當H0服從某一分布，當H0不成立時，T的偏大偏小特征。據此，構造拒絕域W第一類錯誤(棄真錯誤):PTW|Ho為真第二類錯誤(存?zhèn)五e誤):PTW|Ho為假勢函數:(X)PXW(X)1,XW.0,XW.0時,)為犯第一類錯誤的概率1時,()為犯第二類錯誤的概率正態(tài)總體均值與方差的假設檢驗：tF檢驗、單邊檢驗一個總體的情況：XN(,2)

12、2已知，檢驗Ho：Hi：0：U0-nN(0,1)Ho：Hi：0：Tt(n1)已知，檢驗H0:Hi：n(Xi2i12)22(；).,.22未知，檢驗Ho：oHi：2(XiX)2i1(n1)兩個總體的情況：XN(1,12)N(1)2未知時，檢驗Ho：1H1：12：n1n2(n1n22)(ni1)Si；81)琉2未知時，檢驗H0：22212H1：1單邊檢驗：舉例說明,2已知，檢驗Ho：n1n2t(nin22)*2S1n1F(n32n21,n21)H1：X構造U1o尸N(o,1),給定顯著性水平<n，有PU1°當件成立XXdef時U1尸言U,因此PUuono.nPU1u。故拒絕域為WU

13、u非參數假設檢驗方法:22擬合優(yōu)度檢驗、科爾莫戈羅夫檢驗、斯米爾諾夫檢驗2.擬合優(yōu)度檢驗：Ho：PiPioH,：PiPioW：*叫2(mr1)其中N表示樣本中取值為i的個數，r表示分布中未知參數的個數科爾莫戈羅夫檢驗:Ho：F(x)Fo(x)H1：F(x)Fo(x)實際檢驗的是Fn(x)Fo(x)斯米爾諾夫檢驗:似然比檢驗WlimHo：F(x)WlimnsupFn(x)Fo(x)xDn,G(x)H1：F(x)G(x)實際檢驗的是Fn(x)Gn(x)supFm(x)Gn2(x)Dn-x明確零假設和備選假設：Ho：構造似然比:L1(X1，Xn)Lo(X1，Xn)SUpL(Xi，Xn；)SUpL(X

14、1，Xn；)0拒絕域：W(Xi，Xn)5方差分析單因素方差分析:數學模型、離差平方和分解、顯著性檢驗、參數估計數學模型2N(0,)相互獨立,(i=1,2，,m;j=1,2，,ni)H0：12ni總離差平方和Qt2(XijX)2j1QtQeQa組內離差平方和Qeni2(XijXi)j1QeE()nr組間離差平方和Qa-2ni(XiX)當H0成立時,構造統(tǒng)計量Qa(rQe1)(nr)itF(r1,nr),當H)不成立時，有偏大特征XiXkN(ik,Jni-)2)且QEnk2(nr)TXiXk(i：11)Qeninkt(nr)應用:若原始數據比較大而且集中，可減去同一數值XijXijk再解題口1輔助

15、量：P-(nmniXij)2,Q1m1niQaQP,QeRi1nij1Xj)2,RniX2ijj1Q,Qtrp兩因素方差分析：數學模型、離差平方和分解、顯著性檢驗數學模型X八ijN(0,2),(i=1,2,r;j=1,2,s)各°相互獨立H01:H02:總離差平方和QT(Xijj12X)2QTQeQbQa組內離差平方和qeni2(XijXi?X?jXi)2j1E(Qe(r1)(s1)因素B引起的離差平方和QBsr(X?jj1X)2QBE(B-s1因素A引起的離差平方和Qa”?X)2哈)輔助量：psX八jj1,QiXij,QiirX八iji1,RXij2QaQiP,QbQiiP,QeQ

16、iQii構造統(tǒng)計量:FbQa(r1)Qe(r1)(s1)Qb(s1)Qe(r1)(s1)QAF(rQe1,(r1)(s1)QaYAF(sQe1,(r1)(s1)6回歸分析元線性回歸：回歸模型、未知參數的估計(3、b 2)、參數估計量的分布(3aY0(r 2(r*2)Yxii回歸模型：iN(0,2)i=1,2,n.各i相互獨立n_(xx)(YY)n (xi X)2(,)分布: 1M-N(,-)(xx)2i1"N(/n(x)_2)n(xix)2_21n_021n_2_的估計：M_(YY)M(_(xx)SnYMSnxniinii二,n22*22EREM多元線性回歸：回歸模型、參數估計、分布YXii回歸模型：iN(0,2In)i=1,2,n.各i相互獨立參數估計：XTY(XTX)小仙(XTX)1XTY7多元