第一章：概率統(tǒng)計基礎

1、12( )XE0t ()( )() 4.1XP XttE( ),tkXm m= E()1XkkmP1 k01kPP3Markov 不等式證明：X 為非負隨機變量，對任何 t0，有()( )XXttEP 證明： 0X 0 Xxfx dxE （x 非負，所以積分區(qū)間從 0 開始） 0ttxfx dxxfx dx （分成兩段積分） txfx dx （ 00,0,0txtxfx dx，求和部分去掉正的一部分，不等號成立） ttfx dx （將 t 放到積分符號外面，相當于令,xt由于,xt不等號成立） tXtP XXttEP 4( )()22Xr Xms-=( )()( )()r Xr XttEP5(

2、 )( )2,XXms=EV()()2221 XtZktksm-常常PP()ZXms=-()()21 4,31 9.ZZPP2s2s2s6Chebyshev 不等式證明：令( )( )2,XXms=EV，則()22Xttsm-常P 證明：()()()22XtXtmm-=-PP （兩邊同時平方） ()()22Xtm-E （Markov 不等式） 22ts 當tk，則()( )2221XXkkkkmsmsss驏-常=桫PP 7()21Xkkms-常P2s()20.25Xms-常P()30.11Xms-常P()222222111222txxttxeZtxedxedxttppp-=蝌P()()2222

3、teZtZttp-常PP()0,1ZNMills inequality81iX =0iX =-11nniiXnX=iXnXnX( )( )()()( )()12221,11=.4nnnXXnppnXppXpnneeee=-常VVVP= 0.2,100 ne=()141pp-90t 1nYY,.( )0,iiiiYaYb=且E0e()22811 iinntbatiiiYeeee-=驏常 桫P( )1,.nXXBernoulli p:0e()222nnXpeee-P-11nniiXnX=()1iiYXpn=-10Hoeffding 不等式證明： 證明：1111nniiiinntYtYttiiiiY

4、tYteeeeeeee=-=驏驏鼢邋驏驏瓏鼢瓏鼢瓏鼢常鼢瓏瓏鼢鼢瓏瓏鼢鼢桫桫瓏鼢鼢瓏桫桫邋PPPE （Markov 不等式） ( )1itntiYeee-=E （1） , 1, iiiiiiiiiiaYbYbaYaba 由于tye為凸函數(shù)，所以iiitYtbtaiiiiiiiiYabYeeebaba iiitbtaiiiYiiig utabeeabeebaE （ 0iYE） 其中 ,log 1,uiiiiiiut bag uaea ba 000,1 4, 0gggufor u 根據(jù) Talayor 展開， 222221100288iiug ugugu ggutba 所以( )( )()228i

5、iig ubYtateee-E，代入（1） ，不等式得證。 11( )1,.nXXBernoulli p:100,0.2 ne=()0.0625.nXpe-P()() ( )22 100 .2.220.00067.nXpe-=P()( )2nnXpXee-常PV()222nnXpeee-常P120a1a-1212log2nnea禳驏镲镲=睚镲桫镲鉿()222nnnnXpeeea-=P(),nnCXXee=-+()()nCpXpea=-PP()1Cpa緯-P13()() ( )22 XYXYEEE()()()()()()()22,XYXYXYCov X YXYXYmmmms s輊=-=臌EEE(

6、)()222,XYCov X Ys s()Cov,11XYX Yrs s-=14( )( )()g XgX g EgE( )( )()g XgXEEg( )()()222g xxXX=蕹 EE( )111g xxXX驏=蕹桫EE( )()()logloglogg xxXX=蓿 EE15 l xabxaXE g xa證明： ( )g x為凸函數(shù)，則( )()g XgXEE 證明：令在點xX= E處，函數(shù)( )g x的切線為( )l xabx=+ 由于 ( )g x為凸函數(shù)，( )g x位于其切線之上，即 ( )( )g xl xabx=+ 所以 ( )()g XabX+EE （兩邊同區(qū)期望，不等式仍然成立） ab X=+E （期望的線性性質） ()lX=E （l 的定義） ()gX=E （在切點xXE處，l 等于函數(shù)值）