自動(dòng)化學(xué)院學(xué)習(xí)概率論統(tǒng)計(jì)學(xué)

南京航空航天大學(xué)目錄

隨機(jī)樣本

抽樣分布

點(diǎn)估計(jì)

估計(jì)量的評(píng)選標(biāo)準(zhǔn)

區(qū)間估計(jì)

正態(tài)總體均值與方差的區(qū)間估計(jì)

(0-1)分布參數(shù)的區(qū)間估計(jì)

單側(cè)置信區(qū)間

假設(shè)檢驗(yàn)

正態(tài)總體均值的假設(shè)檢驗(yàn)

正態(tài)總體方差的假設(shè)檢驗(yàn)

分布的擬合檢驗(yàn)

秩和檢驗(yàn)第六章 樣本及抽樣分布§1.

隨機(jī)樣本一.定義:在統(tǒng)計(jì)學(xué)中,我們把所研究的全部元素組成的集合稱作母體或總體,總體中的每一個(gè)元素稱為個(gè)體.(可分為有限總體和無(wú)限總體).可以把總體看成隨機(jī)變量.研究總體,就是要研究總體的分布.二.定義:設(shè)X是具有分布函數(shù)F的總體,若X1,X2,…,Xn是具有同一分布函數(shù)F的相互獨(dú)立的r.v.,則稱為從分布函

數(shù)F(或總體F或總體X)得到的容量為n的簡(jiǎn)單隨機(jī)樣本,簡(jiǎn)稱樣本,它們的觀察值x1,x2,…,xn稱為樣本值,又稱為

X的n個(gè)獨(dú)立的觀察值.根據(jù)定義:若總體X是離散型r.v.其分布律為pk={X=ak},i=11

2

n

iF*(x

,

x

,x

)

=

F(x

)k=1,

2,…,則樣本X1,X2,…,Xn的聯(lián)合分布:P{X1=ai1,X2=ai2,…,Xn=ain}=pi1pi2…pin.若X是連續(xù)型r.v.X1

,X

2

,

Xn為F的一個(gè)樣本,則X1

,X

2

,

X

n的聯(lián)合分布函數(shù)為:nn1

2

n

ii=1密度為f

*

(x

,

x

,x

)

=

f(x

)又若X具有概率密度f(wàn),則X1

,X2

,Xn的聯(lián)合概率§2.

抽樣分布一.定義:設(shè)X1,X2,…,Xn是來(lái)自總體X的一個(gè)樣本,又設(shè)

g(X1,X2,…,Xn)是一個(gè)連續(xù)函數(shù),如果g中不含有未知參數(shù),則稱g(X1,X2,…,Xn)為統(tǒng)計(jì)量.由定義可知,統(tǒng)計(jì)量也是一個(gè)隨機(jī)變量,如果x1,x2,…,xn是一組樣本值,則g(x1,x2,…,

xn)是統(tǒng)計(jì)量g(X1,X2,…,Xn)的一個(gè)觀察值.n2i則g不是統(tǒng)計(jì)量.(X

-m

)

若m已知,則g為統(tǒng)計(jì)量,若m未知,i=1=

1n例子

:

設(shè)總體X

~

N(m,

s

2

),

考慮g(X ,

X ,

,

X

)1

2

nX

;n1nii=1二.常用的統(tǒng)計(jì)量:1.樣本均值X

=n

-

112n

ii=1(X

-

X)

;2.

樣本方差

S

2

=n

-

112nii=1(X

-

X)

;3.標(biāo)準(zhǔn)樣本方差S

=1nnkiX

,

k

=

1,

2,

;i=14.

樣本k階原點(diǎn)矩

Ak

=1nn

ki(X

-

X)

,

k

=

2,

3,

.i=15.

樣本k階中心矩

Bk

=統(tǒng)計(jì)量是樣本的函數(shù),它是一個(gè)隨機(jī)變量.統(tǒng)計(jì)量的分布稱為抽樣分布.三.幾種常用的抽樣分布:1

2

n~

c2

(n).布,記作c2統(tǒng)計(jì)量c2

=

X2

+

X2

+

+

X

2

服從自由度為n的c2分1.定義:設(shè)X1

,X2

,,Xn來(lái)自總體N(0,1)的樣本,則稱.c2

(n)的概率密度為y

￡

0,G(

n

2

)0,1f(y)

=

2e

2

, y

>

0,-

yy

2n

-1n

21~

c

2

(n ),

c

21

1

2有

c

2

+

c

2

~

c

(n

+

n

).1

2

1

1

2~

c

2

(n

),并且c

2

,c

2獨(dú)立,2

2

1

22.若c

2~

c2

(n),則有E(c2

)=n,D(c2

)=2n.3.若c2i(

X ~

N(0,

1),E(X

2

)

=

D(X )

=

1,i

ii

i

iD(X2

)

=

E(X

4

)

-

(E(X

2

))2

=

3

-

1

=

2,

i

=

1,2,n.X2in

n2i2E(X )

=

n,)

=i=1i=1于是有E(c

)=E()Xn2in2i2D(X )

=

2n.)

=D(c

)

=

D(i=1i=10yf(y)a2ca

(n)2的點(diǎn)c2

(n)為c2

(n)分布的上a分位點(diǎn).f(y)dy

=

aP{

c2

>

c2

(n)}

=a4.

c2分布的上a分位點(diǎn):對(duì)于給定的正數(shù)a,0

<a<1,稱滿足條件+￥aca

(n)21(n)

?c(Z

+

2n

-

1)2

.a2a其值可由附表5給出(n

￡

45),當(dāng)n充分大時(shí),(二) t-分布:n222-t

2,-￥

<

t

<

+￥.pnG(

)G(

n

+

1)h(t)

=

n

(1

+

)n+1定義:

設(shè)X~

N(0,

1),

Y

~

c2

(n),并且X,

Y

相互獨(dú) 立,

則稱t

=

X

Y/n

服從自由度為n的t

-

分布, 記作t

~

t(n).t(n)分布的概率密度函數(shù),12-t

2即當(dāng)n充分大時(shí),有t-分布近似N(0,1)分布.2p利用G函數(shù)的性質(zhì)可得lim

h(t)

=

enfi

￥h(t)at

(n)0h(t)dt

=

at

(n)P{t

>

t (n)}

=3.t(n)分布的上a分位點(diǎn):對(duì)于給定的a,0

<a<1,

稱滿足條件:+￥aata

(n)

?

Za

.的點(diǎn)t

a

(n)為t(n)分布的上a分位點(diǎn).由t分布的上a分位點(diǎn)的定義及h(t)的對(duì)稱性知

t

1-a

(n)=-t

a

(n).t分布的上a分位點(diǎn)可由附表4查出,在n

>45時(shí),四.正態(tài)總體樣本的均值與樣本方差的分布:設(shè)總體X(不管服從什么樣的分布,

只要均值和方差存在)

的均值為m,

方差為s

2

,

X ,

X ,

,

X1

2

n是X的一個(gè)樣本,則總有E(

X)

=

m,

D(X)

=

s

2

n

,n).n12ni2X ~

N(m,

si=1進(jìn)一步,若X

~

N(m,s

),則X

=對(duì)于正態(tài)總體N(m,s

2

)的樣本方差S

2

,我們有以下幾個(gè)定理:1

.2(n

-

1)S

20~

c2

(n-1),

20.

X與S

2獨(dú)立.s定理一.設(shè)X1

,X2

,,Xn是總體N(m,s

2

)的一個(gè)樣本,X,S

2分別是樣本均值和樣本方差,則:定理二.設(shè)X1

,X2

,,Xn是總體N(m,s

2

)的一個(gè)樣本,X,S

2分別是樣本均值和樣本方差,則:X

-

m

~

t(n-

1).S

nF分布：12U

/

nV

/

nF

=U

~

c2

(n

),V

~

c2

(n

),并且U

,V

相互獨(dú)立，則稱隨機(jī)變量1

2服從自由度為(n1,n2

)的F分布，記作F

~

F

(n1,n2

).第六章習(xí)題課例

設(shè)X1

,

X

2

,

,

X

5是來(lái)自正態(tài)總體X～N（0，22）的一個(gè)樣本,Y

=C1

(X1

-2

X

2

)2

+C

2

(X

3

+2

X

4

-X

5

)2

,當(dāng)C1

=______,C

2

=_____時(shí),Y服從c

2分布,自由度為_(kāi)_______.的兩個(gè)獨(dú)立樣本,則統(tǒng)計(jì)量3

42132Y

2

+

Y

2

+

Y

2

+

Y

2X1

+

X

2

+

X

3T

=

服從_______分布.2.設(shè)X1

,X

2

,X

3

;Y1

,Y2

,Y3

,Y4是來(lái)自總體X

~

N(0,s

2

)例

設(shè)總體X~N(m,4)分布,

X1

,,

Xn是來(lái)自總體X的一個(gè)樣本,

要使E[|

X

-

m

|2

]

￡

0.1,

n至少應(yīng)取多少?24.設(shè)X1,,Xn是來(lái)自總體X的樣本，E(X

)=m,D(X

)=s

.求E(X

),D(X

),E(S

2

),D(S

2

).第七章 參數(shù)估計(jì)§1.點(diǎn)估計(jì)一.問(wèn)題的提法:設(shè)總體X的分布函數(shù)F(x;q

)的形式為已知,q是待估參數(shù),X1

,X

2

,,X

n是X的一個(gè)樣本,x1

,x

2

,,xn是相應(yīng)的一個(gè)樣本值,點(diǎn)估計(jì)問(wèn)題就是要構(gòu)造一個(gè)適當(dāng)?shù)慕y(tǒng)計(jì)量q(X1

,X

2

,

X

n

),用它的觀察值q?(x1

,x2

,

xn

)來(lái)估計(jì)未知參數(shù)q,我們稱q(X1

,X

2

,,X

n

)為q的估計(jì)量,稱q?(x1

,x2

,,xn

)為q的估計(jì)值.二.

矩估計(jì)法:1

2

k

1

2

k(g為連續(xù)函數(shù)).1.理論依據(jù)用k階樣本原點(diǎn)矩來(lái)近似總體X的k階原點(diǎn)矩.結(jié)論:若總體X的k階矩E(X

k

)=m

存在,k則當(dāng)n

fi

￥

時(shí),

A

Pfi

m

.k

k進(jìn)一步由依概率收斂的序列的性質(zhì)知g(A ,

A

,

,

A

)

Pfi

g(m

,

m

,

,

m

)設(shè)總體X的分布函數(shù)為F(x;q1

,q2

,qk

),則X的k階原點(diǎn)矩m

=E(X

l

)也是q

,q

,q

的函數(shù),l

1

2

k當(dāng)n比較大時(shí),Al

與ml

接近的可能性很大,于是令A(yù)l

=

ml

,

l

=

1,2,3,......k稱為矩估計(jì)量,其觀察值稱為矩估計(jì)值.....=

gk

(

A1

,

A2,....Ak

)qkq2

=

g

2

(

A1

,

A2

,....Ak

)q1

=

g1

(

A1

,

A2

,....Ak

)

它是包含k個(gè)未知參數(shù)(q1

,q2

,....qk

)的方程組,解得:

之所以可用樣本矩作為相應(yīng)的總體矩的

估計(jì)量,用樣本矩的連續(xù)函數(shù)作為相應(yīng)的總體矩的連續(xù)函數(shù)的估計(jì)量,其原因在于樣本矩Ak依概率收斂于相應(yīng)的總體矩,而樣本矩的連續(xù)函數(shù)依概率收斂于相應(yīng)的總體矩的連續(xù)函數(shù).例1.設(shè)總體X的均值m及方差s

2都存在,

且s

2

>

0但m,

s

2均未知,又設(shè)X

1

,X

2

,

X

n是一個(gè)樣本,求m,s

2的矩估計(jì).m

2解:

m1

=

E(X)

=

m,=

E(X

2

)

=

D(X)

+[E(X)]2

=

s

2

+

m2

,11?.2222

2=

A2-A1

=

nni=1

(

Xi-

X

)ni=1Xi

-

X

=

nsm?

=

A1

=

X

,2

2令m1

=

A1

,σ

+μ

=

A

2

,\m和s

2的估計(jì)量例2。設(shè)總體X在[a,b]上服從均勻分布，a,b未知。

X1

,X

2

,,Xn是一個(gè)樣本。試求a,b的矩估計(jì)量。三.最大似然估計(jì)方法:設(shè)連續(xù)型的總體X它的密度函數(shù)為f(x;q1,q2

,qn

),i=1其中q1,q2

,ql是待估計(jì)的參數(shù),X1,X

2

,

X

n是X的一個(gè)樣本,則X1

,X

2

,

X

n的聯(lián)合密度函數(shù)為nf(x

i

;q1

,

q2

,

qn

)i=1對(duì)于給定的一組樣本值x1

,x2

,xn

,我們把nL(

x1

,

x2

,xn

;q1

,

q2

,

qn

)

=

f(x

i

;q1

,

q2

,

qn

)稱為樣本的似然函數(shù).i=1L(

x1

,

x

2

,

xn

;q1

,

q2

,

,

ql

)

=

p(xi

;q1

,

q2

,

,ql

)稱為樣本的似然函數(shù).對(duì)于離散型的總體X,設(shè)它的分布律為P{X

=x}=p{x;q1

,q2

,

,ql

)對(duì)于給定的一組樣本值x1

,x

2

,

xn

,我們把n似然函數(shù)是待估參數(shù)q1

,q2

,,ql的函數(shù).根據(jù)經(jīng)驗(yàn),

概率大的事件比概率小的事件易于發(fā)生,

x1

,

x

2

,

,

xn是一組樣本值,

它是已經(jīng)發(fā)生的隨機(jī)事件,可以認(rèn)為取到這組值的概率比較大,即似然函數(shù)的值比較大,可是對(duì)似然函數(shù)而言,x1

,x2

,,xn是常數(shù),它是參數(shù)q1

,q2

,,ql的函數(shù),因而是參數(shù)值使得L較大,我們將使得L取到最大值的參數(shù)q?

1

,q?

2

,,q?

l作為q1

,q2

,,ql的估計(jì)值.定義:如果似然函數(shù)L(x1

,x

2,xn

;q1

,q2,,ql

)在q?

1

,q?

2

,,q?

l取最大值,則稱q?

1

,q?

2

,,q?

l分別

為q1,q2,,ql的極大似然估計(jì)值而相應(yīng)的統(tǒng)計(jì)量q?(X1

,X2

,,Xn

)稱為參數(shù)q的極大似然估計(jì)量.

?

?

?q從上式中解方程組求解出q?

1

,q?

2

,

,q?

l

.極大似然估計(jì)的求解方法:由微積分的知識(shí)有,q?

1

,q?

2

,

,q?

l

必須滿足:(

7.1

)L

=

0,

L

=

0,

?

L

=

0,

?ql

?q21由于lnL

與L同時(shí)達(dá)到最大值也可用下面方程組來(lái)代替上式.(7.2)1

?ql?

?q2

?lnL

=

0,

?q

?lnL

=

0,lnL

=

0,例2.設(shè)X服從[a,b]區(qū)間上的均勻分布,求a和b的極大似然估計(jì)和矩估計(jì)量.解:1)極大似然估計(jì):x1

,x

2

,xn

(不全相等)是一組樣本值,似然函數(shù)為

1

,

a

￡

x

￡

b,0,

其它,X的密度函數(shù)為f(x)=b-a1i(b

-

a)nL(x1

,

x

2

,

xn

;a,

b)

=

,

a

￡

x

￡

b,

i

=

1,2,無(wú)解,不存在駐點(diǎn),由于方程組

?a

?

L

=

-

n

(b

-

a)n+1

=

0,

?

L

=

n

(b

-

a)n+1

=

0,

?b考慮在邊界上的點(diǎn),由于a

￡

xi

￡

b,

應(yīng)該有a

￡

min{X

i

}, b

?

max{X

i

},而L取到最大值當(dāng)且僅當(dāng)b-a取到最小值,故當(dāng)a

=min{X

i

},b

=max{X

i

}時(shí)L取最大值,a?

=

min{X

i

},

b?

=

max{X

i

}.于是我們得到2.矩估計(jì)：,122(b

-

a)2a

+

b已知E(X)

=

,

D(X)

=,2a

+

b\

m1

=

E(X)

=4122(b

+

a)2+(b

-

a)2m

=

D(X)

+[E(X)]2

=2n

i=1n令a

+

b

=

A

=

11

i=1i2X2nn=

1

=

A2

2Xi

,

(b

-

a)

+

(b

+

a)12

412(A2

-

A1

)即a

+b

=2A1

,b

-a

=\

?

3n3n?ni=12

(Xi

-

X)

,23(A

2

-

A1

)

=

X

+b

=

A1

+ni=12

(Xi

-

X)

,23(A

2

-

A1

)

=

X

-a

=

A1

-1

2

n極大似然估計(jì)量和矩估計(jì)量不一定相同,但正態(tài)分布的是相同的,例如(P163例5)例1(續(xù)).

設(shè)總體X的均值m及方差s

2都存在,

且s

2

>

0但m,

s

2均未知,又設(shè)X ,

X ,

X

是一個(gè)樣本,

求m,

s

2的極大似然估計(jì).(2

)222sexp

-

(x

-

m)

1

2ps(解:X的概率密度為f(x;m,s

)=n222-

m)

2s2ps1似然函數(shù)為L(zhǎng)(m,

s

)

=

exp

-

(xini=12i(x

-

m)2s

21lns

2

-i=1n2ln(2p)

-n2而lnL

=-+?ss?m

?=

0,(x

-

m)lnL

=

-x

-

nm]

=

0,1lnL

=

[ni=12i

n

1

2s

2

2(s

2

)22ni=1i2令

?11n2?

2ni=1i=1(xi

-

X)

.m

=

n

?xi

=X,代入后一式可得s=n極大似然估計(jì)的性質(zhì):設(shè)q的函數(shù)u

=u(q),q?

Q

具有單值反函數(shù)q=q(u),

u

?

m,又設(shè)q?是X的概率密度函數(shù)f(x;q)(f形式已知)中參數(shù)q的極大似然估計(jì),則u?

=u(q?

)是u(q)的極大似然估計(jì).§2.估計(jì)量的評(píng)選標(biāo)準(zhǔn)1n2

2對(duì)于同一個(gè)參數(shù)可以有不同的估計(jì)量,例如可以用樣本方差S

,也可以用二階中心矩B2

=

n

(Xi

-

X)i=1作為s

2的估計(jì)量,既然同一參數(shù)有不同的估計(jì)量,就存在比較估計(jì)量的好壞問(wèn)題,三個(gè)常用標(biāo)準(zhǔn)是:無(wú)偏性,有效性和一致性.10無(wú)偏性:(1)定義:

若估計(jì)量q? =

q?(X1

,

X2

,,

Xn

)的數(shù)學(xué)期望E(q?

)存在,

且對(duì)于"

q?

Q

,

有E(q?

)

=

q,

則稱q?

是q的無(wú)偏估計(jì)量.(2)直觀解釋:無(wú)偏估計(jì)量是沒(méi)有"系統(tǒng)誤差"的估計(jì)量,它的值在q附近擺動(dòng),當(dāng)E(q?

)>q時(shí),說(shuō)明q?

有偏大的傾向;當(dāng)E(q?

)<q時(shí),說(shuō)明q?有偏小的傾向,而當(dāng)E(q?

)=q時(shí),q?與q無(wú)系統(tǒng)偏差,故稱q?是q的無(wú)偏估計(jì)量.(3)例子1.X是E(X)的無(wú)偏估計(jì):[E(X

)1nn1

2n1

2)

=+

E(X

)

+

+X

+

X

+

+

X實(shí)際上,E(X)=E(E(Xn

)]而Xi與總體X同分布,E(Xi

)=E(X),從而E(X)=E(X).結(jié)論:無(wú)論X服從何種分布,只要E(X)存在,就可以用X作為它的無(wú)偏估計(jì)量,因而在正態(tài)總體中,X是參數(shù)m的無(wú)偏估計(jì)量.2.

S2是D(X)的無(wú)偏估計(jì)量:E[nii=1(X

-

X)2

]n

22ii=1X

-

nX

]=

E[=ni=122iE(X

)

-

nE(X)=

n[D(X)

+

E2

(X)]

-

n[D(X)

+

E2

(X)]E[而E(X)

=

E(X),

D(X)

=

D(X)

/

n,

故有n2i=

(n

-

1)D(X),(X

-

X)

]i=1D(X),22n

-

1n從而E(S )

=

D(X),

E(B )

=可見(jiàn)S2是D(X)的估計(jì)量,

而B(niǎo)

是D(X)的偏小的估計(jì)量.2CC1

1

?n估計(jì)量.乘以用就可化為無(wú)偏估計(jì),即

q為q的無(wú)偏一般地,若q?是q的無(wú)偏估計(jì)量,且有E(q?

)=Cq,(C

?0為常數(shù)),將其化為無(wú)偏估計(jì)時(shí)只需將q?乘以s?

2即可(這種方法稱為一般化).n

-

1nD(X)的估計(jì)量時(shí),若使其變?yōu)闊o(wú)偏估計(jì)時(shí),只需由E(B2

)

=

n

-

1

D(X)知若用s?

2

=

E(B2

)來(lái)作為20有效性:設(shè)q?

1和q?

2都是q的無(wú)偏估計(jì)量,它們都在q附近擺動(dòng),如果q?

1的擺動(dòng)比q?

2的擺動(dòng)小,當(dāng)然應(yīng)該認(rèn)為q?

1比q?

2好,通常用q?的方差D(q?

)=E(q?

-q)2

來(lái)衡量q?的偏離程度.(1)定義:

設(shè)q?

1

=

q?

1

(X1

,

X2

,,

Xn

)與q?

2

=

q?

2

(X1

,

X2

,

,

Xn

)都是q的無(wú)偏估計(jì)量,若有D(q?

1)<D(q?

2

),則稱q?

1較q?

2有效.1

20,

其它,

1

exp(-x/q),

x

>

0,f

(x;q)

=

q例:設(shè)總體X服從參數(shù)為q的指數(shù)分布,概率密度為其中參數(shù)q

>

0未知,

又設(shè)X ,

X

,Xn是來(lái)自X的一個(gè)樣本,試證:X和nZ=n[min(X1

,X2

,Xn

)]都是q的無(wú)偏估計(jì)量且當(dāng)n

>1時(shí),X較nZ有效.解:

(1)

E(X)

=

E(X)

=

q,

\

X是q的無(wú)偏估計(jì)量,

而nZ

=n[min(X1

,X2

,Xn

)]是服從參數(shù)為q/n的指數(shù)分布即n

qexp{-x/q},

x

>

0,0,

其它,具有概率密度f(wàn)min

(x;q)=n參數(shù)q的無(wú)偏估計(jì).故知E(Z)=q

,E(nZ)=q,即nZ也是(2)由于D(X)=q2

,nq2故D(X)

=

,q2又由D(Z)

=

,n22故D(nZ)=q

,當(dāng)n

>1時(shí)D(nZ)>D(X),故X較nZ有效.30一致性:q?依概率收斂于q,即對(duì)"e>0,lim

=P{q?

-q<e}=1,則稱q?為q的一致估計(jì)量.(1)定義:設(shè)q?是q的估計(jì)量,如果當(dāng)樣本的容量n

fi

￥

時(shí),nfi

￥(2)結(jié)論:由大數(shù)定律,如果D(X)存在,則X是E(X)的一致估計(jì)量,還可以證明,S2和B2都是D(X)的一致估計(jì)量.一致性是大樣本所呈現(xiàn)的性質(zhì),

如果q?是q的一致估計(jì)量,

那么,當(dāng)樣本容量很大時(shí),

q?接近q的可能性很大,

而當(dāng)樣本容量不是很大時(shí),

無(wú)偏性是基本要求,它保證估計(jì)量除隨機(jī)誤差外,不會(huì)有系統(tǒng)誤差.§3.區(qū)間估計(jì)一.問(wèn)題引入:對(duì)于一個(gè)量a,如某工件的長(zhǎng)度,通過(guò)測(cè)量和計(jì)算得到它的一個(gè)近似值a?,在工程技術(shù)上還要同時(shí)給出這個(gè)近似值的誤差e,也就是說(shuō)給出一個(gè)區(qū)[間a?

-e,a?

+e],量a一定落入這個(gè)區(qū)間內(nèi).對(duì)于參數(shù)的估計(jì)也有類似的問(wèn)題,點(diǎn)估計(jì)僅僅給出了參數(shù)的一個(gè)估計(jì)值,有時(shí)還需要知道它的可靠性程度,這就需要給出一個(gè)區(qū)間,并且說(shuō)明這個(gè)區(qū)間以多大的概率包含參數(shù)的真值,這就是區(qū)間估計(jì).二.定義:設(shè)總體X的分布中含有未知參數(shù)q,若對(duì)于給定的值a(0

<a<1)統(tǒng)計(jì)量q=q(X1

,X2

,,Xn

)和q=

q(X1

,X2

,,Xn

)滿足:P{q

<

q

<

q}

=

1

-

a則稱隨機(jī)區(qū)間(q,q)是q的置信度為1

-a的置信區(qū)間,q和q分別稱為置信度為1

-a的置信上限和置信下限,1

-a稱為置信度.置信區(qū)間不同于一般的區(qū)間,它是隨機(jī)區(qū)間,對(duì)于不同的樣本值取到不同的區(qū)間.在這些區(qū)間中有的包含參數(shù)的真值,有的則不包含.當(dāng)置信度為1

-a時(shí),這個(gè)區(qū)間包含

q的真值的概率為1

-a.如a=0.05,置信度為0.95,說(shuō)明(q,q)以0.95的概率包含q的真值,粗略地說(shuō),在隨機(jī)區(qū)間(q,q)的100個(gè)觀察值中,有95個(gè)包含q的真值.例1.

設(shè)總體X ~

N(

m,s2

),

s2已知,

m未知,

設(shè)X ,

X

,1

2,Xn是來(lái)自X的樣本,求m的置信度為1

-a的置信區(qū)間.解:由X是m的無(wú)偏估計(jì),

且

X

-

m

~

N(0,1)且不依賴于任何其s

n它參數(shù),按標(biāo)準(zhǔn)正態(tài)分布的上a分位點(diǎn)的定義,有P{|

X

-

m

|<

z }

=

1

-

a,即a

2n

n<

m

<

X

+

s

z }

=

1

-

a.s

nP{X

-

s

za

/

2

a

/

2故我們得到m的一個(gè)置信度為1

-a的置信區(qū)間a

/2a

/

2a

/

2(X

-

s

z

,

X

+

s

z

)或(X

–

s

z

).n

n

n如a

=

0.05,

若s

=

1,

n

=

16,

有za

/

2

=

1.96,于是有一個(gè)置信度為0.95的區(qū)間(X

–

1 16

·1.96)

=

(X

–

0.49).若由一個(gè)樣本值算得樣本均值的觀察值x

=5.20,則得(4.71,

5.69).10.(4.71,5.69)已不是一個(gè)隨機(jī)區(qū)間,但仍稱它為置信度為0.95的置信區(qū)間,其直觀含義:若反復(fù)抽樣多次,每個(gè)樣本值(n=16)均確定一個(gè)區(qū)間,在這么多的區(qū)間中,包含m的約占

95%,

不包含m的約占5%,現(xiàn)抽樣得到的區(qū)間(4.71,

5.69),

則該區(qū)間屬于那些包含m的區(qū)間的可信度為95%,或“該區(qū)間包含m”這一事實(shí)的可信度為95%.n0.010.040.010.0420置信區(qū)間是不唯一的,如上例中,取z

)也是m的置信度為0.95可得(X

-

s

z}

=

0.95,s

nX

+

sn<

X

-

m

<

zP{-z的置信區(qū)間.30

對(duì)于同一置信區(qū)間,可以有各種不同的置信區(qū)間,顯然,置信度相同時(shí),置信區(qū)間越短越好,一般地,對(duì)于密度函數(shù)為單峰對(duì)稱的r.v.如正態(tài)分布,t分布,取雙側(cè)分位點(diǎn)時(shí),置信區(qū)間最短.三.求置信區(qū)間的一般思路:設(shè)法構(gòu)造一個(gè)隨機(jī)變量Z=Z(X1,X2,…,Xn;q),除參數(shù)q外,Z不包含其他任何未知參數(shù),Z的分布已知(或可求出),并且不依賴于參數(shù)q,也不依賴于其他任何未知參數(shù).對(duì)于給定的置信度1

-a,求出a,b,使得P{a

<

Z(X1

,

X2

,,

Xn

;q)

<

b}

=

1

-

a由不等式a

<Z(X1

,X2

,,Xn

;q)<b解得q(X1

,

X2

,,

Xn

;a,b)

<

q<

q(X1

,

X2

,,

Xn

;a,b)這樣就得到了q的置信區(qū)間.§4.正態(tài)總體均值與方差的區(qū)間估計(jì)na

/

2置信區(qū)間(X

–

s

z

).一.單個(gè)正態(tài)總體的均值與方差的區(qū)間估計(jì):設(shè)總體X

~

N(m,

s

2

),

X ,

X

,

,

X

是一個(gè)樣本.1

2

n1.當(dāng)s

2已知時(shí),求m的置信區(qū)間.選取Z

=

X

-

m

,由例1可得m的置信度為1

-

a的s

n2.當(dāng)s

2未知時(shí),求m的置信區(qū)間.由s

2未知,考慮S

2是s

2的無(wú)偏估計(jì),構(gòu)造r.v.Z=X

-m

,S

n而Z

~

t(n

-1)不依賴于任何未知參數(shù),S

na

/

2a

/

2有P{-t

(n

-

1)

<

X

-

m

<

t

(n

-

1)}

=

1

-

a2a2anS t(n

-

1)).a

/

2可得m的置信度為1

-a的置信區(qū)間(X

–-

ta

/

2

(n

-

1)

ta

/

2

(n

-1)3.求s

2的置信區(qū)間:考慮r.v.Z

=n

-

1

S2

,由定理一知Z

~

c2

(n

-1),不依賴于s

2任何參數(shù).對(duì)于給定的置信度1

-a,注意到s

2P{n

-

1

S2c2

(n

-

1)}

=

a

/

2,a

/

2a

/

2a

/

2a

/

2(n

-

1)c21-a

/2(n

-

1)

c2P{2S

<

cn

-

1s

221-a

/2c2

(n

-

1)}s

2(n

-

1)}=

1

-

P{n

-

1

S21-a

/

2=

a

/

2(n

-

1)}

=

1

-

aS

<

c2a

/

22n

-

1s

21-a

/

2故P{c2

(n

-

1)

<\s

2的置信度為1

-a的置信區(qū)間為,

)((n

-

1)(n

-

1)

cc(n

-

1)S

2

(n

-

1)S

221-a

/22a

/

2第七章習(xí)題課例

設(shè)總體X的概率密度為q,0

<

x

<

1其它(q

+

1

)x0,f

(

x;q

)

==其中q

>-1,為未知參數(shù).求q的矩估計(jì)量和最大似然估計(jì)量.+￥E(

X

)

=

xf

(

x

)dx-￥1

-

X則q?

=2

X

-1

為q的矩估計(jì)量.q

+

2令q

+1

=Xq

+

1q

+

2(q

+

1

)x

dx

=解

(

1

)10q

+1ndqd

ln

L(q

)

n0,

其它q?

=

-= +

ln

xi

=

0q

+

1(2

)

似然函數(shù)為L(zhǎng)(q

)=n

ln

xii

=1i

=1-1

為q的最大似然估計(jì)量.n有l(wèi)n

L(q

)=n

ln(q

+1

)+q

ln

xii

=1n當(dāng),0

<

xi

<

1,

i

=

1,

,

k時(shí),i

=

1,

,

k(q

+

1

)n

(

x1

xn

)q

,0

<

xi

<

1,求q的矩估計(jì)值和最大似然估計(jì)值.31

-

2q23,

1,

3,

0,

3,

1,

2,

32q

2例

設(shè)總體X的概率分布為X

0p

q

2其中q（0

<q

<1

)是未知參數(shù),利用總體X的如下樣本值12q（1

-

q）4q的矩估計(jì)值q?

=1解(

1

)E(

X

)

=

0

·q

2

+

1

·

2q(

1

-

q

)

+

2

·q

2

+

3

·

(

1

-

2q

)=

3

-

4q而x

=2,則3

-4q

=2,得q

1-q

1-2qdq=

(1

-

2q

)4

[

2q(

1

-

q

)]

2q

2q

2=

4q

6

(

1

-

q

)2

(1

-

2q

)4ln

L(q

)

=

ln

4

+

6

lnq

+

2

ln(

1

-

q

)

+

4

ln(

1

-

2q

)dln

L(q

)

=

6

-

2

-

8

=

0P(

X

=

0

)

P(

X

=

2

)解得

q1,2

=

7

–

13

,因

7

+

13

>

1

,故舍去,12

12

2則有q?

=7

-1312(2

)似然函數(shù)L(q

)=[P(X

=3

)]4

[P(X

=1

)]2第八章假設(shè)檢驗(yàn)§1.

假設(shè)檢驗(yàn)定義：提出總體的分布的假設(shè)，根據(jù)樣本對(duì)

所提出的假設(shè)作出是接受，還是拒絕的決策，此過(guò)程就是假設(shè)檢驗(yàn)。原理：1。給出假設(shè)；2。由此假設(shè)經(jīng)過(guò)樣本可推出某個(gè)結(jié)論3。若這個(gè)結(jié)論是小概率事件，則否認(rèn)假設(shè)，否則接受假設(shè)例1.

某車間用一臺(tái)包裝機(jī)包裝葡萄糖,包得的袋裝糖重是一個(gè)隨機(jī)變量,它服從正態(tài)分布.當(dāng)機(jī)器正常時(shí),其均值為0.5公斤,標(biāo)準(zhǔn)差為0.015公斤.今日開(kāi)工后為檢驗(yàn)包裝機(jī)是否正常,隨機(jī)地抽取它所包裝的9袋,稱得凈重為(公斤)0.4970.5060.5180.5240.4980.5110.5200.5150.512問(wèn)機(jī)器是否正常?首先提出假設(shè)H

0

:

m

=

m0

=

0.5,與H1

:

m

?

m0

,如果假設(shè)成立,那么X~

N(0.5,0.0152

),考慮統(tǒng)計(jì)量Z

=

X

-

0.5

,

根據(jù)假設(shè)知Z

~

N(0,1).0.015

9

0.015

9

其中0

<a<1,當(dāng)a很小時(shí),比如取a=0.05,則

X

-

0.5于是P

>

za/

2

=

a.

0.015

9

z

是一個(gè)小概率事件

X

-

0.5

a/

20.025,

查表可知z

=

1.96.對(duì)于所給的樣本值,計(jì)算得到x

=0.511,=

1.96, x

-

0.5

=

2.2>

z0.015

9a/

2X

-

0.5這說(shuō)明小概率事件

>

za/

2

居然發(fā)生了,

0.015

9

根據(jù)實(shí)際推斷原理:"小概率事件在一次試驗(yàn)中是很難發(fā)生的",因而有理由認(rèn)為原假設(shè)m=0.5不成立,即機(jī)器不正常.假設(shè)檢驗(yàn)所采用的方法是一種反正法:先假設(shè)結(jié)論成立,然后在這個(gè)結(jié)論成立的條件下進(jìn)行推導(dǎo)和運(yùn)算,如果得到矛盾,則推翻原來(lái)的假設(shè),結(jié)論不成立,這里的矛盾是與實(shí)際推斷原理的矛盾,即如果“小概率事件在一次試驗(yàn)中發(fā)生了”,則認(rèn)為原假設(shè)不成立,

因此,

假設(shè)檢驗(yàn)是一種帶有概率性質(zhì)的反證法.二.基本概念與術(shù)語(yǔ):稱給定的a(0<

a<1)為顯著性水平.統(tǒng)計(jì)量Z

=

X

-

m0

稱為檢驗(yàn)統(tǒng)計(jì)量.s

n一般地檢驗(yàn)問(wèn)題可敘述為:在顯著性水平a下,檢驗(yàn)假設(shè)H0

:m=m0

;H1

:m?m0

,或"在顯著性水平a下,針對(duì)H1檢驗(yàn)H0

",H0稱為原假設(shè)(零假設(shè)),H1稱為備擇假設(shè)(備選假設(shè)).當(dāng)檢驗(yàn)統(tǒng)計(jì)量取某個(gè)區(qū)域C中的值時(shí),我們拒絕原假設(shè)H

0

,則稱區(qū)域C為拒絕域,拒絕域的邊界點(diǎn)稱為臨界點(diǎn),如上例中|

Z

|?za/2

,而Z

=-za/2和Z

=za/2為臨界點(diǎn).拒絕域的大小與顯著性水平a的大小有關(guān).對(duì)于同一組樣本值,

在不同的顯著性水平a下,

可能得到截然相反的結(jié)論,

如上例中,

取a

/

2=

0.01,

z

0.005

=

2.58,2.2

<

2.58,則應(yīng)接受H

0

,可見(jiàn)a的選擇是很重要的.5.

假設(shè)檢驗(yàn)的一般步驟：=

0.5;1)

提出原假設(shè)H

0

及備擇假設(shè)H1

,如H

0

:m=m0H1

:

m

?

m0

;選擇統(tǒng)計(jì)量,

如Z

=

X

-

0.5

;0.015

9求出在原假設(shè)H

0成立的條件下,該統(tǒng)計(jì)量服從的概率分布,如假設(shè)m=0.5,Z

~

N(0.5,1);選擇顯著性水平a,確定拒絕域;根據(jù)樣本值計(jì)算統(tǒng)計(jì)量的觀察值,看觀察值是否落入拒絕域內(nèi),作出拒絕或接受H

0的結(jié)論.三.假設(shè)檢驗(yàn)的兩類錯(cuò)誤:b拒絕域拒絕域-ma/2

接受域ma/2第一類錯(cuò)誤:如果原假設(shè)H0成立,而觀察值落入拒絕域,從而作

出拒絕H0的結(jié)論,稱作第一類錯(cuò)誤,又稱“棄真”的錯(cuò)誤.由定義知,顯著性水平a恰好是犯第一類錯(cuò)誤的概率.第二類錯(cuò)誤:如果原假設(shè)H0不成立,而觀察值未落入拒絕域,從而作出接受H0的結(jié)論,稱作第二類錯(cuò)誤,又稱“取偽”的錯(cuò)誤,通常記作b.N(

m

-

m0

,

s

2

)s

na

/

2在確定檢驗(yàn)法則時(shí),我們應(yīng)盡可能使犯兩類錯(cuò)誤的概率都較小.

但是,

當(dāng)容量n一定時(shí),

a變小,b變大;相反地,a變大,b變小.不能同時(shí)使兩者都很小,

要使a,

b同時(shí)很小時(shí),則必須增加樣本容量.在實(shí)際使用時(shí),通常人們只控制第一類錯(cuò)誤,而不考慮犯第二類錯(cuò)誤,

這種檢驗(yàn)問(wèn)題,稱為顯著性檢驗(yàn)問(wèn)題.四.雙邊假設(shè)檢驗(yàn)和單邊假設(shè)檢驗(yàn):1.雙邊假設(shè)檢驗(yàn):在例1中給出的原假設(shè)是H

0

:m=m0

,備擇假設(shè)是

H1

:m?m0的形式,這類假設(shè)檢驗(yàn)的拒絕域分布接受域的兩側(cè),這類假設(shè)檢驗(yàn)稱為雙邊假設(shè)檢驗(yàn).2.單邊檢驗(yàn):1

2

n設(shè)總體X

~

N(m,

s

2

),

s為已知X ,

X

,,

X

是來(lái)自X的樣本,形如H0

:m

￡

m0

,H1

:m

>m0的假設(shè)檢驗(yàn),稱為右邊檢驗(yàn);形如H0

:m

￡

m0

,H1

:m

<m0的假設(shè)檢驗(yàn),稱為左邊檢驗(yàn);左邊檢驗(yàn)和右邊檢驗(yàn)統(tǒng)稱單邊檢驗(yàn).3.單邊檢驗(yàn)的拒絕域:給定顯著性水平a,我們先求檢驗(yàn)問(wèn)題:H

0

:m=m0

,H1

:m>m0的拒絕域.00s

nX

-

m取統(tǒng)計(jì)量Z

=

,當(dāng)H

為真時(shí),

Z不應(yīng)太大,而在H1為真時(shí),

Z往往偏大

?k,k待定.因而拒絕域的形式為Z

=X

-m0s

nX

-

m0故拒絕域?yàn)?/p>

?

za

.當(dāng)H

0為真時(shí),Z

~

N(0,1),?

k}

=

a,{

X

-

m0s

n由P{拒絕H0

|

H0為真}

=

Pm0得到k

=za

,s

n類似地,

左邊檢驗(yàn)問(wèn)題H

0

:

m

=

m0

,

H1

:

m

<

m0它的拒絕域的形式為￡

k其中k由下式確定s

n

X

-

m0￡

k}

=

a,s

n{

X

-

m0P{拒絕H

0

|

H0為真}

=

Pm0￡

-za

.s

nX

-

m0可得拒絕域?yàn)椤?

正態(tài)總體均值的假設(shè)檢驗(yàn)s

n設(shè)總體X

~

N(m,

s

2

),

X ,

X

,,

X

是來(lái)自X的樣1

2

n本,均值和方差分別為X和S2

.一.已知s2,檢驗(yàn)m:i)H

0

:

m

=

m0

,

H1

:

m

?

m0

,取統(tǒng)計(jì)量Z

=X

-m0

,對(duì)于給定的a(0

<a<1),當(dāng)H

0成立時(shí),Z

~

N(0,1),當(dāng)H1成立時(shí),若m>m0時(shí),Z偏小,反之,Z偏大,故Z的拒絕域的形式為Z

<k

1或Z

>k

2

,而當(dāng)H

0成立時(shí)有P{|

Z

|>za/2

}=a,a/2s

n|

X

-

m0從而拒絕域?yàn)?/p>

|>

z

.ii)H

0

:

m

￡

m0

,

H1

:

m

>

m0取統(tǒng)計(jì)量Z

=

X

-

m0

,

對(duì)于給定的a(0

<

a

<

1),s

n0當(dāng)H0成立時(shí),￡

X

-m

,故s

n

s

nX

-

ma

as

nX

-

m0s

nz

蘊(yùn)含X

-

m

>

z

,而X

-m

~

N(0,1),s

ns

nP{

X

-

m

>

z }

=

a,az }

￡

a,\

P{

X

-

m0s

naaz

.X

-

m0s

n從而拒絕域?yàn)楫?dāng)H

成立時(shí),00?X

-m

,故s

n

s

nX

-

miii

)H

0

:

m

?

m0取統(tǒng)計(jì)量Z

=X

-m0

,對(duì)于給定的a(0

<a<1),s

na

aX

-

m0s

n

s

n<

-z

蘊(yùn)含X

-

m

<

-z

,s

n

s

na而

X

-

m

~

N(0,1),

P{

X

-

m

<

-z }

=

a,<

-z }

￡

a,\

P{

X

-

m0s

naa<

-z

.X

-

m0s

n從而拒絕域?yàn)槎?未知s2,檢驗(yàn)m:關(guān)于單側(cè)假設(shè)檢驗(yàn)(m

￡

m0和m?m0仍取統(tǒng)計(jì)量T

=

X

-

m0

,

可類似地推出拒絕域.(在這不再詳述)S

ni)H

0

:

m

=

m0

,

H1

:

m

?

m0取統(tǒng)計(jì)量T

=

X

-

m0

,

對(duì)于給定的a(0

<

a

<

1),S

n當(dāng)H0成立時(shí),T

~

t(n

-1),P{|

T

|>

ta/2

(n

-

1)}

=

a,S

n|

X

-

m0a/2從而拒絕域?yàn)?/p>

|>

t (n

-

1).159280101212224379179264222362168250149260485170例1.某種電子產(chǎn)品的壽命x(以小時(shí)記)服從正態(tài)分布,m,

s2均未知,

現(xiàn)測(cè)得16只元件的壽命如下:問(wèn)：是否有理由認(rèn)為元件的平均壽命大于225小時(shí)?解:

按題意需檢驗(yàn)H

0

:

m

￡

m0

=

225,

H1

:

m

>

225.取a=0.05.統(tǒng)計(jì)量T

=X

-m

,S

nS

n

S

n00當(dāng)H

成立時(shí),由￡

X

-m

知,X

-

mS

nX

-

m0S

na

a>

t (n

-

1)蘊(yùn)含

X

-

m

>

t (n

-

1),當(dāng)H0成立時(shí),T

~

t(n

-1),P{T

>

ta

(n

-

1)}

=

aX

-

m0所以拒絕域?yàn)?/p>

>

ta

(n

-

1),S

n現(xiàn)n

=16,t

0.05

(15)=1.7531,又算得X

=241.5,s

=98.7259,即有T

=

X

-

m0

=

0.6685

<

1.7531,S

nT不落在拒絕域中,故接受H

0

,即認(rèn)為元件的平均壽命不大于225小時(shí).三.兩個(gè)正態(tài)總體均值差的檢驗(yàn)(t-檢驗(yàn)):21.已知s

2

=

s

2

,

但其值未知,

檢驗(yàn)m

-

m

=

d1

2

12設(shè)X1

,X2

,,Xn

是來(lái)自正態(tài)總體N(m1

,s

)的樣本,1Y,Y ,,Y

是來(lái)自正態(tài)總體N(m

,s

2)的樣本,且1

2

n2

2設(shè)兩樣本獨(dú)立,又分別記它們的樣本均值為X,Y,記樣本方差S2

,S2

,設(shè)m

,m

,s

2均未知.1

2

1

2n1

11

20

1

2+

nSwi)H

:

m

=

m

,

取統(tǒng)計(jì)量T

=

X

-

Y

-

d

,21n

+

n

-

2(n

-

1)S

2

+

(n

-

1)S

2=

1

1

2 2

,w其中S

2當(dāng)H

0成立時(shí),

T

~

t(n1

+

n

2

-

2),對(duì)于給定的a,

P{|

T

|>

ta/2

(n1

+

n

2

-

2)}

=

a,故拒絕域?yàn)閨

T

|>

ta/2

(n1

+

n2

-

2).對(duì)于單側(cè)檢驗(yàn)“H0:m1≤m2+d”和“H0:m1≥m2+d”,可以類似地推出.常用的是d=0.對(duì)于s12,s22已知時(shí),可用“u-檢驗(yàn)方法”檢驗(yàn).例2.在平爐上進(jìn)行一項(xiàng)試驗(yàn)以確定改變操作方法的建議是否會(huì)增加鋼的得率,試驗(yàn)是在同一只平爐上進(jìn)行的.每煉一爐鋼時(shí)除操作方法外,其它條件都盡可能做到相同.先用標(biāo)準(zhǔn)方法煉一爐,然后手建議的方法煉一爐,以后交替進(jìn)行,各煉了10爐,其得率分別為:標(biāo)準(zhǔn)方法:78.1

72.4

76.274.377.478.476.075.576.777.3新方法:79.1

81.0

77.379.180.079.179.177.380.282.1設(shè)這兩個(gè)樣本相互獨(dú)立,且分別來(lái)自正態(tài)總體N(m1,s2)和N(m2,s2),m1,m2,s2均未知.問(wèn)建議的新的操作方法能否提高得率?解:

需要檢驗(yàn)假設(shè)H

0

:

m1

-

m2

=

0,

H1

:

m1

-

m2

<

0.0.052

2(18)

=

1.7341,10

+

10

-

2(10

-

1)S

2

+

(10

-

1)S

2n

=

10,

Y

=

79.43,

S

2

=

2.225,分別求出在標(biāo)準(zhǔn)方法和新方法下的樣本均值和樣本方差如下:n

=

10,

X

=

76.23,

S

2

=

3.3251

1w又S

2

=

1 2

=

2.775,

t10

101

10.05(18)

=

-1.7341.+Sw故拒絕域?yàn)門(mén)=

X

-

Y

￡

-t現(xiàn)由樣本觀察值T=-4.295

<-1.7341,所以拒絕