（概率論與數(shù)理統(tǒng)計專業(yè)論文）相依bootstrap均值的幾個大數(shù)律.pdf

摘要 摘要 本文是在攻讀碩士學(xué)位期間完成的，全文共分三章，主要討論了相依 b o o t s t r a p 樣本均值的幾個大數(shù)律。 第一章簡單地介紹了s m i t h 等( 2 0 0 1 ) 引入的相依b o o t s t r a p 的概念和其他與定 理證明有關(guān)的一些定義和性質(zhì)等。 e i n m a h l 等( 2 0 0 5 ) 證明了與e f r o n 非參數(shù)b o o t s t r a p 樣本有關(guān)的弱大數(shù)定理。 第二章主要利用了相依b o o t s t r a p 樣本的性質(zhì)，在胡同的條件下，得到了掘依 b o o t s t r a p 樣本對應(yīng)的結(jié)果。 在第三章中，我們結(jié)合了同分布隨機(jī)變量序列已有的強(qiáng)大數(shù)律，在假定1 + j 階矩存在的條件下，建立了關(guān)于同分布隨機(jī)變量序列其相依b o o t s t r a p 樣本均值的 強(qiáng)大數(shù)律，從而推廣了s m i t h 等( 2 0 0 1 a ) 關(guān)于i i d 隨機(jī)變量序列的結(jié)果。 關(guān)鍵詞：負(fù)相依隨機(jī)變量，強(qiáng)大數(shù)定律，完全收斂佳，相依b o o t s t r a p ，弱大數(shù)定 律 a b s t r a c t t h i sd i s s e r t a t i o nc o n s i s t so ft h r e ec h a p t e r s ，w h i c hi sc o m p l e t e dd u r i n gm ym a s t e r d e g r e eo fs c i e n c e w et r yt od e r i v es o m el a w so fl a r g en u m b e r sf o rt h ed e p e n d e n tb o o t - s t r a ps a m p l em e a n i nc h a p t e ro n e ，w ei n t r o d u c et h ec o n c e p to ft h ed e p e n d e n tb o o t s t r a pp r o p o s e db y s m i t ha n dt a y l o r , a n do t h e rd e f i n i t i o n sa n dp r o p e r t i e sr e l a t e dt oo u rr e s u l t s i n 2 0 0 5 ，e i n m a h l a n d r o s a l s k y e s t a b l i s h e d v e r y g e n e r a l w e a k l a w s o f l a r g e n u m b e r s f o re f r o n sn o n p a r a m e t r i eb o o t s t r a ps a m p l em e a n i nc h a p t e rt w ow ed e r i v et h es i m i 1 a rw e a kl a wo fl a r g en u m b e r sf o rt h ed e p e n d e n tb o o t s t r a ps a m p l eu n d e rt h et h es a m e c o n d i t i o n i nc h a p t e rt h r e e ，u t i l i z i n ga l le x i s t i n gr e s u l tf o ri d e n t i c a l l yd i s t r i b u t e dr a n d o mv a r i a b l e s ，a n da s s u m i n gt h a tt h em o m e n to fl + jo r d e ri sf i n i t e ，w ed e r i v et h es t r o n gl a wo f l a r g en u m b e r sf o r t h ed e p e n d e n tb o o t s t r a ps a m p l eg e n e r a t e df r o mi d e n t i c a l l yd i s t r i b u t e d r a n d o mv a r i a b l e s ，a n dt h e r e f o r eb r o a d e nt h er e s u l t sw h i c hs m i t ha n d t a y l o re s t a b l i s h e d f o ri i dr a n d o mv a r i a b l e s k e yw o r d s ：n e g a t i v e l yd e p e n d e n tr a n d o mv a r i a b l e s ，s t r o n gl a wo fl a r g en u m b e r s ， c o m p l e t ec o n v e r g e n c e ，d e p e n d e n tb o o t s t r a p ，w e a kl a wo fl a r g en u m b e r s 一一 主要符號對照表 a s p ( a ) e x v a r ( x ) c o v ( x , y 1 t n i ( a ) 4 ( n a n d 主要符號對照表 幾乎必然( a l m o s ts u r e l y ) 依概率收斂( c o n v e r g e n c e i np r o b a b i l i t y ) 完全收斂( c o m p l e t ec o n v e r g e n c e ) 事件a 發(fā)生的概率( p r o b a b i l i t yo fo c c u r r e n c ea ) 隨機(jī)變量x 的期望( e x p e c t a t i o no f r a n d o mv a r i a b l ex ) 隨機(jī)變量x 的方差 隨機(jī)變量x 與y 的協(xié)方差 ( c o v a r i a n c e o f r a n d o m v a r i a b l e s x a n d y ) 實(shí)數(shù)集( s e t o f r e a l n u m b e r s ) 自然數(shù)集( s e to f p o s i t i v ei n t e g e r s ) 事件a 的示性函數(shù)( i n d i c a t o rf u n c t i o no f e v e n ta ) 集合a 的元素個數(shù)( t h e n u m b e r o f e l e m e n t s o f s e t a ) 負(fù)相伴( n e g a t i v e l ya s s o c i a t e d ) 負(fù)相依( n e g a t i v e l yd e p e n d e n t ) 一 第章緒論 第一章緒論 b o o t s t r a p 最初由e f r o n ( 1 9 7 9 ) 引入，自誕生以來，b o o t s t r a p 就廣受關(guān)注。對于b o o t s t r a p 樣本，學(xué)者們得到了許多相應(yīng)于隨機(jī)變量類似的極限定理，諸如b o o t s t r a p 樣本均值 的中心極限定理、大數(shù)律和重對數(shù)律等。更詳細(xì)的論述，可以參考c s 6 r 9 6 等( 2 0 0 3 ) 。本文 考慮的是s r r f i t h 等( 2 0 0 1 ) 提出的相依b o o t s t r a p 其有關(guān)的大數(shù)律。在證明結(jié)論前，我們先 介紹幾個相關(guān)的概念。 1 1 d 隨機(jī)變量 a l m 等( 1 9 8 1 ) 和j o a g - d e v 等( 1 9 8 3 ) 在上個世紀(jì)8 0 年代初提出了a 的概念。 定義1 1 1 【2 1 i 稱隨機(jī)變量噩，弱扣2 ) 是負(fù)相伴( a ) 的，如果對于集合 1 ，竹) 的任意兩個不交的非空子集a l 和a 2 ，都有 c o v ( ac x ， a 1 ) ，丘( ，j a 2 ) ) 0 其中 與，2 是任意兩個使得協(xié)方差存在且對每個變元均非降( 或同時為對每個變元均非 升) 的函數(shù)稱隨機(jī)變量族 瑪，j t ) 為a 族，如果它的任何有限的子族五l i 一，五。 都是 的協(xié)2 ) 。 l c h m a n n ( 1 9 6 6 ) 提出t - - - 元情形下關(guān)于n d 隨機(jī)變量等概念。 定義1 1 2 2 2 1 稱隨機(jī)變量x 和y 是負(fù)相依( d ) 的，如果 p x z ，y 掣) p x s z ) p y ) ，甘疊，剪r( 1 1 ) 成立。稱一族隨機(jī)交量為兩兩負(fù)相依( p d ) ，如果其中每兩個隨機(jī)變量滿足( 1 1 ) 。 注：事實(shí)上，( 1 1 ) 與 p x 茗，y v ) p x z p y ) ，、幻，f r 等價但對多于2 個以上的隨機(jī)變量，兩者并不等價，見e b r a h i m i 等( 1 9 8 1 ) 。 定義1 1 3 1 1 2 j 稱隨機(jī)變量弱，五。22 ) 是 ( a ) 下負(fù)相依( l d ) 的，若對v n ，有 n p x 1 。l ，一，x i z 。) 5 p 噩s ) ，忱l ，z 。r ； ( 1 2 ) = 1 第一章緒論 ( b ) 上負(fù)相依( u n 吩的，若對v n ，有 n p 蜀 z 1 ，矗 z n ) s 1 i p 五 戤，坳1 ，j ，x e r ； ( 1 3 ) t = l ( c ) 負(fù)相依( n d ) 的，若( 1 2 ) 和( 1 3 ) 均成立。 注：定義中的“”或“ ”能用“ 0 ，有 p ( i 一c l s ) 1 ) 為一正整 數(shù)序列。若m ( n ) to 。，那么 之墜。0 。 儷 一5 一 莖三蘭塑墮呈型翌望堡絲塹盔鍪，俸 等價于 p i x n l g 廁 0 件魯1 引理2 1 3 剛設(shè) 五。，n 1 ) 為一兩兩獨(dú)立且同分布的隨機(jī)變量序列。那么，存在一 常數(shù)b ，使得 娶煎。， 幾 成立的充要條件為 e l x lj 0 j = l 成立，則 r e ( n ) v a r ( 碭“l(fā) 確 1 ) ) 一0 j = 1 m ( n )r e ( n ) 確一e + ( 囂j i i x ：j l 0 p l 鬈h l 霹，i l 卜p ( 蜀r t x ：j i 1 ) ) i j = 】j 5 l 。m ( n ) 去v a r ( x ：j i l x t j l l ) ，m ( n ) = 壺 v a r + ( h l 弼一 1 ) ) 。 j = l + c o v ( x c , t x l l x ：。i 1 ) ，x ：f f l x c o l 1 ) ) 】 j = 1 圣k q l ，( 由性質(zhì)1 3 1 )= 乙( 確h i 確i 1 ) ) ( 1 k k 、。一1 ，( 由性質(zhì)1 3 1 ) 1r e ( n ) s 壺v a r ( x ：j x i x ：j l 1 ) ) 一o m ( n )m ( 帕 x ： i x ：j l 1 卜e ( x c , # z i x ：j l 1 ) ) 三0 ( 2 2 = 1 j = l 另一方面，由于 則有 m ( n )m ( n ) p - x ：j x i x ：j l 1 ) 確 ，= lj = 1 m ( 們 r i x ：j l 1 ) 一0 ， m ( n )m ( n ) 確一p ( x * j i i x ：j l 0 v a t ( 鬈1 h i x ：1 1 m ( n ) ) ) r e ( n ) 0 紫口( 礎(chǔ)刪 0 ，由( 2 1 ) 和引理2 1 1 知，對于充分大的缸( 依賴于“和s ) ， i 碥fs m a 。x 。i x d 而麗m ( 竹) 口s ( 2 4 ) j l 【u m ( n ) p i 端1 i e m c n ) = 0n s 另一方面 v a t ( x ：1 - r ( i 霹1 i m o o ) ，p ( ( 弼1 ) 2 h i 端l f m ( ) ) ) m ( n )一m ( t ) 竺警霉o 。囊 m l nj 所以，由命題2 2 2 ，我們有 寫李( 砌，i 喇 三?？? ， ( 2 5 ) 在( 2 4 ) 中，令= 1 ，則對充分大的， p ( j 1 “i x ：1 l m ( n ) ) ) = 0 s 由( 2 5 ) 和( 2 6 ) ，我們最終有 證畢。 彎摯一學(xué)：萼孚磷。三s m i nj n m i n l 一8 一 推論2 2 1 設(shè) 墨。，n 1 ) 為一兩兩獨(dú)立且同分布的隨機(jī)變量序列， m ( n ) ，n 1 ) 是一正整數(shù)序列，且m ( n ) to 。若 成立。那么，存在一隨機(jī)變量y ，使得 成立的充要條件為 墼三y 。 m ( n ) e 阮i 0 ，s u p 。e i j o k l 2 + 6 0 時，其相依b o o t s t r a p 均值滿足如下的強(qiáng)大數(shù)律 擊確一岫s ，= 1 s m i t h 等( 2 0 0 1 a ) 在證明相依b o o t s t r a p 均值的強(qiáng)大數(shù)律時，主要利用了以下引理： 引理3 1 1 1 3 0 l 設(shè) 矗，1 k m ，n21 ) 為一行內(nèi)同分布口隨機(jī)變量構(gòu)成的陣 列，且使 ( ) e 五。1 = 0 ，v n ； ( i i ) e l 溉l f r ，v n ； ) 差掣 0 時，有 一 去0 另外，k u c z m a s z e w s k a ( 2 0 0 6 ) 又推廣了t a y l o r - 等( 2 0 0 2 ) 關(guān)于行內(nèi)d 隨機(jī)變霉陣列的 完全收斂性，并有如下結(jié)果： 菊三章相依b o o t s t r a p 均值的強(qiáng)大數(shù)律 引理3 1 2 f 1 8 1 設(shè) ，1 ，n 1 ) 為一行內(nèi)d 隨機(jī)變量構(gòu)成的陣列，對每一 ，l 1 ，1 和某一r l ，e k = 0 ，且e i x 。k l 1 時，有 o on p i x , , kl e n 。， 0 n = l = 1 對于同分布隨機(jī)變量序列，我們有如下的結(jié)果： 引理3 1 3 1 2 4 j 設(shè) 蜀。，n 1 ) 為一同分布隨機(jī)變量序列， n 。，n 1 ) 是一正常數(shù)序 列，且滿足a n t 和 若 成立，則有 薹去刊a p i x d ) 。o n ；l 至釜! 墊o 。 n “ ( 3 1 ) ( 3 2 ) ( 3 3 ) 引理3 1 4 3 0 1 設(shè) j o k ) 為一隨機(jī)變量構(gòu)成的陣列，被一隨機(jī)變量x 控制，且滿足 e l x l 2 ， 0 ，e i x l l l + 6 m a x 2 + i ，3 ) 時，則尚= 1 + 矗 1 + 5 ，因此 p ( i x d 4 艫。) e i x l i 南 n = l 莖l + e l x l l l + 6 ( 3 7 ) 即引理3 ，1 3 條件滿足，( 3 7 ) 得證。因此，存在q 1 q ，且p ( n 1 ) = 1 ，和一定義在q 1 上的有限隨機(jī)變量m ( ，使得對v u q 1 ，有 s u p 擊砉阻( 訓(xùn)4 m ) m a x 2 + ；，3 ) ，一r ( o ，1 ) 時，我們有 0 ，e i x l l l + 6 0 ，e i x , 1 1 + 6 0 ，a l x l l 2 + 5 1 ，e j l | 7 m “ 芒；，3 ) 有 嘉耋i 掣一o o ； 一1 7 一 ( 3 1 i ) 辮 在引理3 1 3 中，?。籲 q 。( 3 1 ) 顯然。對于( 3 2 ) ，有 剛疋z 鏟卵一2 ) = p 1 墨一l 舟n n = 1 n = 1 e l 1 i 南 當(dāng)q m a x 苦，3 ) 時，則6 = 1 + 去 r 因此 p i x ，| 口印一2 ) e i x 。l 舟 t ；= l l + e i 弱i i 7 1 ，e 矗b = ，腳一p ，且s u p 。e x 。k l o 。若還 滿足五。l ，墨。2 ，墨mn 1 ，k 1 為某一隨機(jī)變量 的正則覆蓋，其中e 0 時，其相依b o o t s t r a p 均值滿足 如下的強(qiáng)大數(shù)律 1 三 二m 確4 弘o s 一1 8 證明由引理1 1 ，蜘， 一e ) ， 一e ) 和 碼一e 碥) 為d 隨機(jī) 變量序列，且易驗(yàn)證滿足引理3 1 2 的條件，取口= 1 ，我們有 和 成立由后兩式，我們有 ；薹c 矗t e - ，三。， e ) l 0 ；耋( 確一e 碣) 。 ( i 蜀j i - e i x j 1 ) j o 七= 1 又盧。p ，則 ；耋墨t p = ；薹c 矗t e 矗t ，+ c e 以t 一腳一。s 所m ( 3 8 ) 滿足。另一方面，由( 3 1 2 ) 和性質(zhì)1 4 1 知，對v r i ，有 ；薈ni 刈2 ：蚤( f 卜e l 蜀t i ) + e i 矗z ， n = e i x 1 i 口，8 ss u p ( e i x n b l 7 ) ， 即( 3 9 ) 成立，定理3 2 3 條件滿足。證畢。 一】9 一 f 3 1 2 ) 一w x 。 1 一n 參考文獻(xiàn) 參考文獻(xiàn) 1 a h m e d ，s e ，h u ，t c ，v o l o d i n a o nt h er a t eo fc o n v e r g e n c eo fb o o t s t r a p p e d m e a n si nab a n a c hs p a c e i n t j m a t h & m a t h s c i 2 0 0 1 2 5 ：6 2 9 6 3 5 2 烈a m , k ，s a x e n a ，l p o s i t i v ed e p e n d e n c ei nm u l 曲a r i a t ed i s t r i b u t i o n s c o m m u n s t a r t h e o r ym e t h 1 9 8 1 1 0 ：1 1 8 3 1 1 9 6 3 a r e n a l - g u t i & r e z ，e ，m a t r f m ，c ，c u e s t a - a l b e r t o s ，j a o nt h eu n c o n d i t i o n a l s t r o n gl a wo fl a r g en u m b e r sf o rt h eb o o t s t r a pm e a n s t a t i s t p r o b a b l c t t 1 9 9 6 2 7 ：4 9 6 0 4 a t h r c y a , k b ，s l r o n g l a w f o r t h e b o o l s n a p s t a t i s t p r o b a b l e f t 1 9 8 3 。l ：1 4 一1 5 0 5 b i e k e l ，p - j ，f r e e d m a n ，d a s o m ea s y m p t o t i ct h e o r yf o rt h eb o o t s t r a p a n n s t a t i s t 1 9 8 1 9 ：1 1 9 6 - 1 2 1 7 6 b o o t h ，j g ，b u f f e r , r w ，h a l l ，p b o o t s t r a pm e t h o d sf o rf i n i t ep o p u l a t i o n s j a m c r s t a t a s s o e 1 9 9 4 ，8 9 ：1 2 8 2 1 2 8 9 7 c h a o ，m t ，l o ，s h ab o o t s t r a pm e t h o df o rf i n i t ep o p t d a t i o n s s a n k h y a 。s e r a 1 9 8 5 4 7 ：3 9 9 - 4 0 5 8 c h o w , ys t e i c h e r , h p r o b a b i l i t yt h e o r y ：i n d e p e n d e n c e , i n t e r c h a n g e a b i l i l y , m a r t i n g a l e s ，3 r de d s p d n g e r - v e r l a g 。n e wy o r k 1 9 9 7 9 c s i s r 9 6 ，s o nt h el a wo fl a r g en u m b e r sf o rt h eb o o t s t r a pm e a n s t a t i s t p r o b a b l e t t 1 9 9 2 ，1 4 ：1 - 7 1 0 c s 6 r 9 6 ，s r a t e si nt h ec o m p l e t ec o n v e r g e n c eo fb o o t s t r a pm e a n s s t a t i s t p r o b a b l c t t 2 0 0 3 6 4 ：3 5 9 3 6 8 1 1 c 蚶r 9 6 。s ，r o s a l s k y , a as u r v e y o f l i m i t l a w s f o r b o o t s t r a p p e ds u n l s h a t j m a t h m a t h s c i 2 0 0 3 6 4 ：2 8 3 5 - 2 8 6 1 】2 e b r a h i m i ，n ，g h o s h ，m m u l t i v a r i a t e n e g a t i v e d e p e n d e n c e c o m m u n s t a t t h e o r y m e t h 1 9 8 1 1 0 ：3 0 7 3 3 7 一 1 3 e f r o n ，b b o o t s t r a pm e t h o d s ：a n o t h e rl o o ka tt h ej a c k k n i f e a n n s t a t i s t 1 9 7 9 7 ： 1 2 6 一2 0 一 參考文獻(xiàn) 1 4 e i n m a h l ，j h j ，r o s a l s k y , a g e n e r a lw e a kl a w so fl a r g en u m b e r sf o rb o o t s t r a p s a m p l e 把椰s t o c h a n a l & a p p l 2 0 0 5 。2 3 ：8 5 3 8 6 9 1 5 e t e m a d i 。n a ne l e m e n t a r yp r o o fo ft h es t r o n gl a wo fl a r g en u m b e r s z w a h r s c h v e r w g e b i e t e 1 9 8 1 ，5 5 ：11 9 1 2 2 1 6 e t e m a d i ，n o nt h em a x i m a li n e q u a l i t i e sf o rt h ea v e r a g eo fp a i r w i s ei i d r a n d o m v a r i a b l e s c o m m s t a t i s t a - t h e o r r m e t h 1 9 8 4 ，1 3 ：2 7 4 9 2 7 5 6 1 7 g i n 6 ，e ，z i n n ，j n e c e s s a r yc o n d i t i o n sf o rt h eb o o t s t r a po ft h em e a n a n n s t a t i s t 1 9 8 9 1 7 ：6 8 4 6 9 1 1 8 k u c z m a s z e w s k a , a o n8 0 i n ec o n d i t i o n sf o rc o m p l e t ec o n v e r g e n c ef o ra r r a y so f r o w w i s en e g a t i v e l yd e p e n d e n tr a n d o mv a r i a b l e s ，s t o c h a n a l a p p l 2 0 0 6 2 4 ： 1 0 8 3 1 0 9 5 1 9 h s u ，el ，r o b b i n s ，h c o m p l e t ec o n v e r g e n c ea n dt h el a wo fl a r g en u m b e r s p r o c n a i l a c a d s c i u s a 1 9 4 7 。3 3 ：2 5 3 1 2 0 h u ，t c ，c a b r e r a , m 0 ，v o l o d i n ，a a l m o s ts u r el i ms u pb e h a v i o ro fd e p e n d e n t b o o t s t r a pm e a n s s t e c h a n a l a p p l 2 0 0 6 2 4 ：9 3 9 9 5 2 2 1 j o a g d e v , k ，p r o s c h a n , en e g a t i v ea s s o c i a t i o no f r a n d o mv a r i a b l e sw i t ha p p l i c a - t i n n s a n n s t a t i s t 1 9 8 3 1l ：2 8 6 - 2 9 5 2 2 l e h m a n n ，l s o m ec o n c e p t so fd e p e n d e n c e a n n m a t h s t a t i s t 1 9 6 6 ，3 7 ：11 3 7 一 1 1 5 3 2 3 “，d ，r o s a l s k y , a ，v o l o d i n ，a i o nt h es 口o n gl a wo fl a r g en u m b e r sf o rs o - q u e n c e so fp a i r w i s en e g a t i v eq u a d r a n td e p e n d e n tr a n d o mv a r i a b l e s b u l l i n s t m a t h a c a d s i n i c a , n e ws e r i e s 2 0 0 6 1 ：2 8 1 3 0 5 2 4 p e 仃i 眥vv l i m i tt h e o r e m so fp r o b a b i l i t yt h e o r y ：s e q u e n c e so fi n d e p e n d e n t r a n d o mv a r i a b l e s o x f o r du n i v e r s i t yp r e s s ，n e wy o r k 1 9 9 5 2 5 p r u s s ，a r r a n d o m l ys a m p l e dr i e m a n ns u n l sa n dc o m p l e t ec o n v e r g e n c ei nt h e l a wo fl a r g en u m b e r sf o rac a s ew i t h o u ti d e n t i c a ld i s t r i b u t i o n p r o e a i r i e r m a t h s o c 1 9 9 6 ，1 2 4 ：9 1 9 9 2 9 2 6 s i n g h ，k b r e a k d o w nt h e o r yf o r b o o t s t r a pq u a n t i l e s a n n s t a t i s t 1 9 9 8 ，2 6 ：1 7 1 9 2 1 參考文獻(xiàn) 一1 7 3 2 2 7 s l n i m w ，t a y l 倪, r lc o n s i s t e n c yo fd e p e n a 咖b o o t s t r a pe s t i m a t o r s 知n 甌j m a t h m a n a g e m e n ts c i 2 0 0 1 a ，2 1 ：3 5 9 3 8 2 2 8 s m i t h ，w ，t a y l o r , r l d e p e n d e n tb o o t s u a pc o n f i d e n c ei n t e r v a l s s e l e c t e dp r o