Nguyên lý độ chệch lớn và áp dụng

DAI HOC QC GIÀ HA NĨI TRirỊNG DAI HOC KHOA HOC TlT NHIÉN NGUYÉN THI TRAM NGUYÉN LY DÒ CHÉCH LON VA AP DUNG • • • Chuyén ngành: Ly thut xàc st va thịng ké tồn hoc Ma so: 60 46 15 LN VÀN THAC SÌ KHOA HOC NGI HNG DAN KHOA HOC GS.TSKH DÀNG HÙNG THÀNG Ha Nói-Nàm 2011 M u c lue Bang ky hiéu viét tat ni Lịi nói dàu i Chi^dng Càc kién thi^c chuan bi 1.1 Hàm toc 1.2 Ky thuàt to hdp cho bang chù cài hùu han 1.3 Phép bién dói Fenchel-Legrendre Chu'dng N g u y é n ly chéch lón 2.1 Giói thi^u ngun ly dị chéch lón 11 11 2.1.1 Dị chéch lón 11 2.1.2 Ngun ly dị chéch lón 12 2.2 Dinh ly Sanov 16 2.2.1 Dinh ly Sanov 16 2.2.2 Dị chéch lón cho phudng phàp lay màu khịng hoàn lai 19 ^3 Dinh ly Cramer's R 24 1.4 Dinh ly Cramer's R*^ 31 !.5 Dinh ly Gartncr-Ellis 37 i Chifdng Àp dung 43 3.1 Kiém dinh già thiét 43 3.2 Kiem dinh ty so hdp ly tóng quàt cho bang cM cài hiJu han 47 3.3 Do dai hiém càc di dòng ngau nhién 50 Ket luan 54 Tài liéu tham khào 55 n Bang ky hieu viét t t R" khòng gian R" ^ khòng gian topo B;;^ o"-trirịng Borei r mot tap hdp r bao dóng cùa tap hdp F r° phàn cùa tàp hdp T P phan bìi cùa tap hdp F /(•) hàm toc dò I^{-) [0; oo] (tue vói moi a e [0, CXD) tàp mùc ìpi{a) := {x : I(x) < a} tàp dóng cùa X) (ii) Mot hàm toc dò tòt mot hàm tèe dị ma vói moi tàp mùc v/(a) tàp compact cùa i^ Mièn xàc dinh cùa /, ki hiéu P ; , tàp càc diém cùa A' co toc hùu han, cu thè P / = {x : I{x) < oc} Chù y ràng ncu A" mot khịng gian metrìc thi tinh chit nùa lién tue duói eó the duóc kiém tra trén day Tue là, / nùa lién tue duói néu va chi néu lim inf/(xn) > /(x), Xfi "ixeX ^x D i n h nghia 1.1.2 Cho hàm toc / va vói moi > 0, (5-hàm toc dị dUdc dinh nghla l\x):=mm!^T{x)-6,^y (1.1.1) Trong truòng hdp tong quàt nói chung I^ khịng hàm toc dị, trù nị dudc su dung tu trng hdp Vói moi tàp F, liminf/'^(x) = inf/(x) (1.1.2) D i n h nghla 1.1.3 Già su vói mpi tap compact cùa X ^ B Mot hp càc dò xàc suàt {fie} trén X chat mù néu vói mpi a < oc, ton tai mot tap compact K^ C X cho limsup^log^f(/^^) < - a (1.1.3) e—>0 1.2 K y t h u t t ò h d p cho bang chiJ cài hù'u han Trong suót phàn này, tàt cà càc bién ngàu nhién già su nhàn già tri tap hù'u han E = {ai, a2, , a/v}- S dildc gpi bang chù cài ed bàn thịa man |E| = A^ day vói moi tàp Ti, |.4| kì hiéu cho lue ludng hồc so phàn tu cùa A Già su A/i(E) ki hiéu cho khòng gian cùa t i t cà càc dò xàc suit (luàt xàc suit) trén bang chù cài E day A/i(E) dUdc xàc dinh vói xàc suit tiéu chuan ddn gian trén R'^', tàp hdp cùa t i t cà càc vector thuc |E| chièu vói càc thành phàn khòng àm va co tòng bang Càc tàp mò A/i(E) rò ràng cho bòi càc tàp mị Rl^l Cho Fi, V2, •••, K day càc bién ngàu nhién dòc làp phàn phói vói luàt n e A/i(E) Cho E^ ki hiéu cho già cùa luàt /i, tue E^ = {a, : /i(a,) > 0} Nói chung, E^ co the tàp thuc su cùa E Khi xem xét dò riéng p, khòng giàm tong quàt ta co thè già su E^ = E bang càch bò qua nhùng ki hiéu cho ràng xàc suit bang Dinh nghia 1.2.1 Kièu L^ cùa mot day hùu han y = (yi, ?/2, ••, ^n) thc E" dị thuc nghiem càm sinh bòi day Rò ràng L^ = (L^(ai), ,L^(a|^,)) càc phàn tu cùa Afi(E), ò day Ll{ar) = -J2Kiyj), i = l,2, ,|El Tue là, L^(ai) tàn so xuit bién cùa aj day yi, ,?/„• Cho Cn kì hiéu tàp t i t cà càc kiéu cùa day co dò dai n Do dò Cn-{iy-.1^ = 11 Vy}cRl^l va do thuc nghiém L^ két vói day T = ("Ki, Yn) day càc phàn tu ngàu nhién cùa £„ "^ _ N Bò de 1.2.2 (a) \Cn\ < (n + 1)1^1 (h) Vói moi vector xàc suàt G A/i(E), ci,(7;£,)-inf(i,(7,7') Trong trUòng hdp dàc biét, hm lim inf-log/7;^(i?j/,,5) = F^JXi] = x^ ton tai (có the xT = oc) Dinh nghia 3.1.2 Mot phép kiém dinh Neymann-Pearson mot phép kiém dinh ma vói moi TI Z+, tv só hdp Iv chuàn hóa quan sàt dirdc n Sn '•= — y Xj dUdc so sành vói ngiróng 7^^ Hi dildc chàp nhàn (hav n ^-^ bi tu chói) Sn > 7n (tUdng ùng Sn < 7n)Dinh ly 3.1.3 Phép kiém dinh Neymann-Pearson vói ngitdng khịng dịi G (xo, XT) thòa man lim - l o g a n = - A o ( ) < (3.1.1 n—^oc Ti va hm i l o g / ? = - A S ( ) < i—•oc TI Jl n—»oo dị A^-) phép hién dèi Fenchel-Legende cùa Ao(A):=logF^[e^^' 44 (3.1.2) Chùng minh Chù y ràng a , = P ^ ^ ( e (7,00)) Hdn nùa, theo càch xàc dinh bòi tu ddn diéu x ^ = limA'o(A), x r = limA;(A) A-»0 x->ì ' Do dị, x^ < = M^irf) vói mpi j] G (0,1), giói han (3.1.1) dude xày Thep càch xàc dinh cùa Xj, Loga cùa hàm sinh moment lién két vói /il Ao(A + 1) Do dò, Hi dùng, Sn thòa man LDP vói hàm toc dị AI(x) = A*(.x)-x Vi G ( - 0 , xT), theo he qua 2.3.3 tình dịn diéu cùa A;(X) trén (—oo,xY) ràng hm -logPn = lim -logP^^iSn n—»oo n n—•oc n G (-00,7]) = ^ ' -A;(7) '• Tù dó suy (3.1.2) D H e qua 3.1.4 (Giói han Chernoff s) Néu < P{Ho) < l, dó inf lim inf(-^-]ogP(^)| = -Ao(0) S n-^oc In J dò infzmum dùac lày trén càc phép kiém dinh Chù y: (a) Chù y ràng theo bàt dang thùc Jensen's, x^ < log E^,le^'] = xT > - log E^, [e"^'] - (b) AS(0) dUdc gpi thòng tin Chernoffs éa dị fio vk pi Chùng minh Dó dièu kién dù phép kiém dinh Neymann-Pearson Cho a* vk P* xàc suàt màc sai làm cùa phép kiem dinh Neymann-Pearson ngng Vói mpi phép kiém dinh Neymann-Pearson khàc, a^ > < (khi 7„ < 0) hoàc Pn > Pn (khi 7n > 0) Do vày vói mpi phép kiém dinh - log Pi'^ > - log[min{P(//o), PiBi)}] TI 71 + m i n i - l o g ^ , - log 3;} Kfi 45 li ^ Dodo, k h i O < P(i/o) < 1, ¥il^^^^^°g^n^^^^liminfmin{ilog - A : ( ) n—»oo Jl u\ / Dàu " = " phép kiém dinh Neymann-Pearson ngng n BĨ de 3.1.5 (BĨ de Stein's) Cho /?; infimum cùa Pn so tàt cà càc phép kiém djnh vói an < e Khi dó, vói moi e < ì, lim - log /?; = x^ n—»oo Jl Chùng minh Dó dièu kién dù cùa phép kiem dinh Neymann-Pearson Khidó /?„ = P.ASn < 7n) = BM,|1S„ x^, theo lt u cùa lt sĨ lón, lim supa^ - 1- Két qua, néu an < e, theo n—»oo luàt yéu cùa luàt só lón, lim i n f P ^ ( „ G [ x ^ - / , u ] ) > - ^ n—»oo 46 V r; > (3.1.5) Do dó, theo dàng thùc (3.1.3), - log Pn > -log En \ln , p""^^] _ >xo-77-f-logP^„(5,G[x^-r;,7j) (3.1.6) Két hdp (3.1.5) (3.1.6), tacó két qua cùa phép kiém dinh NeymannPearson: lim inf - log/?; > x^ - ry n—»oo V r; > n (3.1.7) ^ ' Theo dinh ly 3.1.3, an < e vói mpi phép kiém dinh Neymann-Pearson vói ngng có dinh > x^ Do dó, theo (3.1.4): lim sup - log /?! < x^ + 77 n—•oo V 7? > V £ > n Tù dó két hdp vói càn duói dùng cùa (3.1.7) T] tùy y, ta suy dièu phài chùng minh D 3.2 K i é m d i n h t y só hcfp ly tóng quàt cho b a n g chu* cài hù'u han Dinh nghla 3.2.1 Mot kiém dinh S tói Uu (vói 77 > dà cho) néu só càc phép kiém dinh thòa man hm s u p - l o g Q n < -1 n—>oc (3.2.1) n phép kiém dinh có - hm supn ^ log Pn cuc dai dói vói tàt cà càc n—>oo dị xàc st pL\ BĨ d e 3.2.2 Vói moi phép kiém dinh Sji xàcjuat sai làm{an 3n}^^i, co tèn taijnịt phép kiém dinh S cùa S^iy) = ( L ; \ n) ma xàc suàt sai làm {a^, Pn}'^=i thòa man lim sup - log ; < lim sup - log On, n—•oo Jl n—•oo n lim sup - log Pn < lim sup - log Pnn—•oo Jl n—oo 47 U Chùng minh Cho S^ := (5")-i(0) S- := iS-)-\l) kì hiéu cho tàp :on cùa E" ma ành xa " : //Q - H^ Vói moi z = 0,1 G £„, eho \ ' := 5f n T„(7), ị dó Tni^f) kiéu lóp cùa Ta dinh nghla càc trng hdp khàc Dièu dó chi ràng ành xa S^iy) = 5(L^, n) cùa phép kiém dinh :hòa man bó de Cho Y = (Kj, ,Yn), Y^ phàn phói Khi dó vói npi /i G Mi(E) vói mpi G Cn, P^^iY\Ll = 7) làjdị thóng nhàt Tén kiéu lóp T„(7) Trong trng hdp dàc biét, néu 5(7,n) = 0, dó Do dó, {7:5(7,n)=0}n£„ 0 {7://(7|Mo) r Do dó, theo hdp cùa càc bién co bi chàn, oo PiTr *X Thep bó2 de Bprel-Cantclli, suy lim i n f - l o g Tr > ^A r—•oc hc.c r SÙ dung tình dói ngàu cùa bién hiém {Pm > ^} = {Tr < 777} Khi dó 1- hm sup:; m—00 ^ ^ ^ L < — n.c.c l o g 777 JA Chù y ràng LA = oc, chùng minh cùa dinh ly dUde hoàn thành Thiét làp bàt dàng thùc (khi IA < oc), phàn du ve phài cùa phàn phói cùa Tr càn thiét bi chàn Cho Bl -[-iSir - S^l_,y) e Ay Chù y ràng, {/?z}/^i càc bién có dịc làp xàc dinh bịi P(P/) = PriA) Khidó U BiC{Tr< 1=1 m} suy PiTr > m) < - P('"u'''5/) = (1 - T(/?i))["/'"' < g-lm/r]P(5,) ^ 52 g-[m/r]Mr(>l)_ Két bop bàt dàng thùc (cho m = [e'-(^^+^)]) vói (3.3.1), suy vói mpi e > 0, oo oo 00 < J]exp(-C2e^3r^ m}, ta có lim infm—00 l o g 777 = lim inf-—— > — h.c.c r-00 Tù dó suy dièu phài chùng minh 53 l o g Tr IA D Ket luàn Nhu vày thòng qua ba chudng cùa luàn vàn, tòi dà trình bay nhùng két qua ed bàn nhàt ve ngun ly dị chéch lón càc trng hdp bién ngàu nhién dịc làp phàn phói, mị rịng trng hdp khịng phàn phói Àp dung vàn de kiém dinh già thiét, kiém dinh ty só hdp ly tong quàt cho bang chù cài hùu han dò dai hiém càc di dòng ngàu nhién Luàn vàn có thè tiép tue dUdc phàt trien hdn nùa, nhùng két qua trén day se ed so cho buóc nghién cùu tiép theo Nhùng vàn de dude trình bay ị day, tịi dà nghién cùu, tịng hdp soan thào di su hng dàn tàn tình cùa thày GS TSKH Dàng Hùng Thàng Tịi biét xoay quanh vàn de nhièu dièu thù vi nhung vi khà nàng han che nén khòng di sàu vào càc vàn de Dù dà có gang nhung sé khịng trành khịi nhùng sai sót, rat mong nhàn dUdc su chi bào cùa thày co, dèng nghiép ban bè Xin chàn thành càm dn! 54 Tài Héu t h a m khào Amir Dembo and Ofer Zeitouni (August 1997), Large deviations techniques and applications M Alanyah and B Hack (1998), On large deviations of Markov processes with discontinuous statistics, To appear, Ann Appi Probab P.H Algoet and B M.Marcus (1992), Large deviations theorems far empincal types of Markov chains constramed to thin sets, IEEE Trans Inf Theory R Arratia, P morris and M S Watermam (1998), Stochastic scrabhle: Large deviations jor sequences with scores, J Appi Prop S Asmussen (1982), Conditional limit theorems relating the random walk to its associate, with applications to nsk processes and the GI/G/1 queue Advances in Applied Probabihty 55 ... J{a^)] Hdn nùa i=l òdày / := (/(ai), ,/(a|i;|)) Do vày, vói mpi tàp A vàvói mpi só nguyén n G /l e A} := F (2.3.1) Do vày, dang cùa dinh ly Cramer's sau day he qua truc tiép... mot day b.n.n Vàn de kiem dinh già thiét gèm quyét dinh, dua trén ed so day Vi, ,Yn ma day luàt tóng quàt P ^ hoàc P^j Ta càn tap trung vào trng hdp ddn giàn nhàt Trong tồn hpe, vàn de dUde mò... bang — Do vày, vói moi 0, ta co n P{Sn > ^) -^ n -^ oc (2.1.1) va vói mpi A PiV^Sn e A ) ^ ^ f e~^dx n ^ oc V 27r J A Ma ta lai co P(|5„| > ^) ^ - - i = / 11 e - f rfx (2.1.2) Do vày -^