完整版數(shù)理統(tǒng)計(jì)復(fù)習(xí)總結(jié)

1、1統(tǒng)計(jì)量與抽樣分布1.1根本概念：統(tǒng)計(jì)量、樣本矩、經(jīng)驗(yàn)分布函數(shù)總體X的樣本Xi, X2,Xn,那么 T(X1,X2,Xn即為統(tǒng)計(jì)量樣本均值樣本方差s2(Xi2X)修正樣本方差n(Xi1X)樣本k階原點(diǎn)矩AkXik,(k1,2,.)樣本k階中央矩Bk(Xi X)k,(k1,2,.)經(jīng)驗(yàn)分布函數(shù)Fn (X) v3,(X )其中Vn(x)表示隨機(jī)事件X X出現(xiàn)的次數(shù)n1 _顯然 Vn(x)B(n,F(x),那么有 EFn(x) F(x) DFn(x) -F(x)1 F(x) n補(bǔ)充：2 n 1*2_22ESnDX ESnDX EX DX (EX)n21 n 2-2SnXiXn i 1二項(xiàng)分布 B(n

2、,p): PX k C：pk(1 p)nk,(k 0,1,., n)EX=np DX=np(1 -p)k泊松分布 P( )： PX k e ,(k 0,1,.) k!EX DX1,、均勻分布 U(a,b): f (x) , (a x b)b aa b12EXDX (b a)212指數(shù)分布：f(x) e x,(x 0) F(x) 1 e x,(x 0)11EX - DX 正態(tài)分布N (2)：1(x )2f(x)exo二,22 2EXDXE(吟)n 12ESn2 = 2 D(nSn) 2(n 1)n0 時(shí),EX 0 EX22 EX 4 3 4 EX J- D X (1 -) 21.2 統(tǒng)計(jì)量：充分

3、統(tǒng)計(jì)量、因子分解定理、完備統(tǒng)計(jì)量、指數(shù)型分布族T是.的充分統(tǒng)計(jì)量f(x1,x2,.,xnT t)與.無(wú)關(guān)T是0的完備統(tǒng)計(jì)量要使Eg(T)=0,必有g(shù)(T)=0nL( ) f(x.) h(x1,x2,.,xn)g(T(x1,x2,xn); Mh非負(fù) T 是 9 的充分統(tǒng)計(jì)量 i 1nf(x; ) C( )exo b( )T(Xi, x2,., xn)h(x1,x2,., xn)T 是.的充分完備統(tǒng)計(jì)量i 1 nf(Xi; ) C( )exp bi( )T1(X1,X2,.,Xn) b?( )TXi , X2,., Xn) h(.X2,., Xn)i 1(Ti,T2)是(1, 2)的充分完備統(tǒng)計(jì)量

4、1.3 抽樣分布：2分布,t分布,F分布,分位數(shù),正態(tài)總體樣本均值和方差的分布,非正態(tài)總體樣本均值的分布2 分布： 2 Xi2 x|X22 ,、 一(n) f(x)/x n11 e 2x2 (x 0)2萬(wàn)成)_2_2_E n D 2n_ XT 分布：T , t(n)當(dāng) n>2 時(shí),ET=0 DT.Y/nX1n1F 分布：F -F (01,02) F(n2,n1)YF出補(bǔ)充：f (z y, y)dy f(x,y)是 X 和 Y 的聯(lián)Z=X+Y 的概率密度 fz(z)f (x, z x)dx合概率密度f(wàn) (x, xz) xdxr Y -、 一、Z一的概率留度f(wàn)z(z)Xy g(x)的概率密度

5、 fy(y) fx(g 1(y)g 1(y)'()(n) (n 1)!, (1) 1)()()()° X、樣本極差R11 F(x)n kf(x),(k 1,2,., n)函數(shù)：()°x 1e xdx(1)一1 iiB 函數(shù)：B(,)0x 1(1 x)1dxB(,1.4 次序統(tǒng)計(jì)量及其分布：次序統(tǒng)計(jì)量、樣本中位數(shù)n!kX(k)的分布密度：fx(Jx) F(x)kx(k)(k 1)!(n k)!X(1)的分布密度：fx(x) nf(x)1 F(x)n 1X(n)的分布密度：fX(n)(x) nf(x)F(x)n 12參數(shù)估計(jì)2.1點(diǎn)估計(jì)與優(yōu)良性：概念、無(wú)偏估計(jì)、均方誤差

6、準(zhǔn)那么、相合估計(jì)(一致估計(jì))、漸近正態(tài)估計(jì)$的均方誤差：MSE($, ) E($)2D$ (E$)2假設(shè)$是無(wú)偏估計(jì),那么MSE($, ) D$*對(duì)于 的任意一個(gè)無(wú)偏估計(jì)量 $,有D$ D$,那么$是 的最小方差無(wú)偏估計(jì),記MVUE相合估計(jì)(一致估計(jì)):lim E n lim D $n 0 nn2.2點(diǎn)估計(jì)量的求法：矩估計(jì)法、最大似然估計(jì)法 矩估計(jì)法： 求出總體的k階原點(diǎn)矩：ak EXkxkdF(x; 1, 2,m)1 解萬(wàn)程組 ak X： (k=1,2,.,m),得 $k$k(X1,X2,.,Xn)即為所求n i 1最大似然估計(jì)法：nln I寫出似然函數(shù)L( ) f(xi;),求出InL及似

7、然方程上10 i=1,2,.,mi 1i $ 解似然方程得到 (為2,.,4),即最大似然估計(jì)$i(X1,X2,.,Xn)i=1,2,.,m補(bǔ)充:似然方程無(wú)解時(shí),求出的定義域中使得似然函數(shù)最大的值,即為最大似然估計(jì)2.3MVUE和有效估計(jì)：最小方差無(wú)偏估計(jì)、有效估計(jì)T是 的充分完備統(tǒng)計(jì)量, $是 的一個(gè)無(wú)偏估計(jì)$E($|T)為的惟一的MVUE最小方差無(wú)偏估計(jì)的求解步驟：求出參數(shù)的充分完備統(tǒng)計(jì)量 T求出ET g(),那么$ g 1(T)是的一個(gè)無(wú)偏估計(jì)或求出一個(gè)無(wú)偏估計(jì),然后改寫成用T表示的函數(shù)-.、._ 1 _ _1 綜合,Eg (T)T g (T)是的MVUE或者:求出 的矩估計(jì)或ML估計(jì),

8、再求效率,為1貝U必為MVUET是g()的一個(gè)無(wú)偏估計(jì),那么滿足信息不等式 DT(X)g'( )2 甘.,其中nI()I( ) Elnf(X;)() E21n f(X;)0, f (X;)為樣本的聯(lián)合分布.最小方差無(wú)偏估計(jì)到達(dá)羅-克拉姆下界有效估計(jì)量效率為1無(wú)偏估計(jì)$的效率：e($)1nI ()D$是 的最大似然估計(jì),且 $是 的充分統(tǒng)計(jì)量$是的有效估計(jì)2.4區(qū)間估計(jì)：概念、正態(tài)總體區(qū)間估計(jì)(期望、方差、均值差、方差比態(tài)總體參數(shù)和區(qū)間估計(jì))及單側(cè)估計(jì)、非正一個(gè)總體的情況：XN(2)2.,求的置信區(qū)間:2 -.未知,求的置信區(qū)間:X ,t(n 1)Sn/衣*Sltjn、n 21),求2的

9、置信區(qū)間:n 2(Xi)2i 1(n)2(Xi)2i 1n 2(Xi)2i 1未知,求2的置信區(qū)間:(Xi X)2n(XiX)22(n1)2(n 1)：(n)2n(XiX)2i 12 (n 1)1 -12-(n)2兩個(gè)總體的情況:21, 1), YN(；)12 的 區(qū) 間 估 計(jì) N(0,1)2)21n12 ,.未知時(shí),2的區(qū)間估計(jì):2)1扁(n2 1)除n1n2(ni 2)t(n1n22未知時(shí),2 1 "22nin22)2S2nn 2_*2S1nlF(n21,n1)2 Sim _*2 S2 n2_(n2 1,n21)2 1 萬(wàn)22Gn一2- F 1,n1 1)S2n2 飛非正態(tài)總體

10、的區(qū)間估計(jì):當(dāng)n 時(shí),N(0,1)lim -S- 1n S1,故用Sn代替Sn-1X m n1 m / 1n n= N(0,1) m3統(tǒng)計(jì)決策與貝葉斯估計(jì)3.1統(tǒng)計(jì)決策的根本概念：三要素、統(tǒng)計(jì)決策函數(shù)及風(fēng)險(xiǎn)函數(shù)三要素：樣本空間和分布族、行動(dòng)空間(判決空間)、損失函數(shù)L( ,d)統(tǒng)計(jì)決策函數(shù)d(X):本質(zhì)上是一個(gè)統(tǒng)計(jì)量,可用來(lái)估計(jì)未知參數(shù)風(fēng)險(xiǎn)函數(shù)：R( ,d) E L( ,d(X)是關(guān)于 的函數(shù)3.2貝葉斯估計(jì)：先驗(yàn)分布與后驗(yàn)分布、貝葉斯風(fēng)險(xiǎn)、貝葉斯估計(jì) 求樣本X=(X 1,X2,.,Xn)的分布：q(x |f(Xi| 樣本X與 的聯(lián)合概率分布：f (x,)h(|x)m(x) q(x| )()

11、求f(x,)關(guān)于x的邊緣密度m(x) f (x, )d的后驗(yàn)密度為：h( |x) f(x, )m(x)取 L( ,d) (d)2 時(shí)的貝葉斯估計(jì)為：$ E( |x) h( |x)d2R( ,d) E ( d)2貝葉斯風(fēng)險(xiǎn)為：2&(d) ER( ,d) E (d)2h( |x)d取L( ,d)( )(d)2時(shí),貝葉斯估計(jì)為：$ E ()|xE ( )|x補(bǔ)充：C()的貝葉斯估計(jì)：取損失函數(shù)L( ,d) (C( ) d)2,那么貝葉斯估計(jì)為C( ) EC( )|x C( )h( |x)df(x, )d$f(x,)$ E( |x) h( |x)dd m(x)f (x, )d3.3minima

12、x 估計(jì)對(duì)決策空間中白決策函數(shù) d1(X),d2(X),.,分別求出在上的最大風(fēng)險(xiǎn)值 maxR( ,d)在所有的最大風(fēng)險(xiǎn)值中選取相對(duì)最小值,此值對(duì)應(yīng)的決策函數(shù)就是最小最大決策函數(shù).4假設(shè)檢驗(yàn)4.1根本概念：零假設(shè)(Ho)與備選假設(shè)(Hi)、檢驗(yàn)規(guī)那么、兩類錯(cuò)誤、勢(shì)函數(shù) 零假設(shè)通常受到保護(hù),而備選假設(shè)是當(dāng)零假設(shè)被拒絕后才能被接受.檢驗(yàn)規(guī)那么：構(gòu)造一個(gè)統(tǒng)計(jì)量 T(X1,X2,.,X3),當(dāng)H0服從某一分布,當(dāng) Ho不成立時(shí),T的偏大 偏小特征.據(jù)此,構(gòu)造拒絕域W第一類錯(cuò)誤(棄真錯(cuò)誤)：PT W| H 0為真第二類錯(cuò)誤(存?zhèn)五e(cuò)誤)：PT W|Ho為假1. X W勢(shì)函數(shù)：()E ( (X) PX W

13、(X)'0, X W.當(dāng) 0時(shí),()為犯第一類錯(cuò)誤的概率1時(shí),1()為犯第二類錯(cuò)誤的概率4.2正態(tài)總體均值與方差的假設(shè)檢驗(yàn):t檢驗(yàn)、X2檢驗(yàn)、F檢驗(yàn)、單邊檢驗(yàn)一個(gè)總體的情況：XN(2)2,檢驗(yàn)H0：Hi :0： U N(0,1)H0：Hi：0： TS：；n1),檢驗(yàn)H0：Hi：n(Xii 12)22(n)未知,檢驗(yàn)H0：Hi：n 2(Xi X) i 1(n 1)兩個(gè)總體的情況:N(12),N(I)2 .未知時(shí),檢驗(yàn)H 0： 1H1：n1n2(必 n2 2)(必 1)S；21 (n2 1)乳2未知時(shí),檢驗(yàn)H0：2 H1：12單邊檢驗(yàn)：舉例說(shuō)明,2,檢驗(yàn)H0：t(n1n22)構(gòu)造U1立時(shí)U

14、1X0 >n為W U u 4.3非參數(shù)假設(shè)檢驗(yàn)方法:22擬合優(yōu)度檢驗(yàn)：H ° ： R*2S1n1H F(nS2n21,n21)H1： N(0,1),給定顯著性水平X def止U ,因此PU0 n,有 PU1u PU12 .擬合優(yōu)度檢驗(yàn)、科爾莫戈羅夫檢驗(yàn)、斯米爾諾夫檢驗(yàn)m (Ni np0)22 /Pi0H1: pa.W (mnPi0當(dāng)H0成故拒絕域r 1)其中Ni表示樣本中取值為i的個(gè)數(shù),r表示分布中未知參數(shù)的個(gè)數(shù)科爾莫戈羅夫檢驗(yàn)：Ho：F(x) Fo(x)Hi: F(x) Fo(x)實(shí)際檢驗(yàn)的是 Fn(x) F0(x)W 眄 sup Fn(x) Fo(x)Dn, 斯米爾諾夫檢驗(yàn)

15、:Ho： F(x) G(x) Hi： F(x) G(x)實(shí)際檢驗(yàn)的是 Fn(x) Gn(x)W lim sup Fni(x) Gn2(x)Dni,n2, nx4.4似然比檢驗(yàn)明確零假設(shè)和備選假設(shè)：Ho :o H1:| (x x )SUpL(xi,xn；)構(gòu)造似然比:L1 (x1,., xn )Lo(xi,.,xn)SUpL(xi,., xn；)o拒絕域：W (xi,., xn)5方差分析5.i單因素方差分析：數(shù)學(xué)模型、離差平方和分解、顯著性檢驗(yàn)、參數(shù)估計(jì)X iji ij數(shù)學(xué)模型ijN(o, 2),(i=i,2,.,m;j各j相互獨(dú)立m ni總離差平方和qt(Xj X)2i i j im ni組

16、內(nèi)離差平方和qe (Xj Xj2 i i j i m 組間離差平方和QAni(XiX)2i iQA構(gòu)造統(tǒng)計(jì)量F (ri)Q- F(rQeQe(n r)ii2(Xi XkN( i k,()且- nink,2,.,n i) Ho：i 2Qt Qe QAQ 2E(,)2 n r當(dāng)Ho成立時(shí),E(2)2r ii,n r),當(dāng)Ho不成立時(shí),有偏大特征T XiXk( i 衛(wèi)t(n r)i i )Qe ni nk應(yīng)用: 、 , 假設(shè)原始數(shù)據(jù)比較大而且集中,可減去同一數(shù)值Xj Xj k再解題m HimHim %輔助量：P 1(Xj)2,Q-( Xj)2,RXj2n i i j ii i ni j ii i j

17、 iQa Q P,Qe R Q,Qt5.2兩因素方差分析：數(shù)學(xué)模型、離差平方和分解、顯著性檢驗(yàn)數(shù)學(xué)模型x八ij2N(0,),(i=i,2,.,r;j=i,2,.,s)H0i :各j相互獨(dú)立H02 :總離差平方和qt(Xjj iX)2Qt QeQbQa組內(nèi)離差平方和Qeni _(XjXi? X?j Xi)2j iE(Qe(r i)(si)s 因素B引起的離差平方和 Qbr(X X)2j i,Qb當(dāng)Ho成立時(shí),E() s i因素A引起的離差平方和Qas( Xi?X)2當(dāng)Ho成立時(shí),E(Qa輔助量：PsX八ij j i,QiX八ij,QiiX八ij,RsX 2八ijj iQaQiP,QbQiiP,Q

18、e R QiQii P構(gòu)造統(tǒng)計(jì)量:FaFbQa (r i)Qe (r i)(s i)Qb (s i)Qe (r i)(s i)Qa= F(r i,(r i)(s i) QeQaQaF(s i,(r i)(s i) Qe6回歸分析6.1 一元線性回歸：回歸模型、未知參數(shù)的估計(jì)(3、a、(T 2)、參數(shù)估計(jì)量的分布(3“丫0(T 2 (T *2)丫xii2回歸模型：iN(0,)i=i,2,.,n.各/目互獨(dú)立)的估計(jì):(x X)(Y Y)m jjn(Xi x)2i 1N(,-), 一、2(X x)、i 1)分布：_ 2"N( ,1 - 2)n (Xi X)2i 12的估計(jì):21 n - 2M (Y Y) n i i2 1 n(-(X_ cc2 cX) )SnYM SnX*2E N6.2 多元線性回歸：回歸模型、參數(shù)估計(jì)、分布YXii回歸模型：N(0, 2|n) i=1,2,.,n.各i相互獨(dú)立參數(shù)估計(jì)：XtY (XtX) N ( (XTX) 1xty7多元分析初步7.1 定義及性質(zhì)：定義、性質(zhì)XNp(,)其中 為X的均值向量, 為X的協(xié)方差矩陣Y=CX+b ,那么 Y Np(C b,C CT)def假設(shè) 0 ,剛 (