Nguyên lý độ chênh lệch lớn và áp dụng

DAI HOC QUÓC GIÀ HA NÓI TRirÒNG DAI HOC KHOA HOC TlT NHIÉN NGUYÉN THI TRAM NGUYÉN LY DÒ CHÉCH LON VA AP DUNG • • • Chuyén ngành: Ly thuyét xàc suàt va thòng ké toàn hoc Ma so: 60 46

DAI HOC QUÓC GIÀ HA NÓI

TRirÒNG DAI HOC KHOA HOC TlT NHIÉN

NGUYÉN THI TRAM

NGUYÉN LY DÒ CHÉCH LON VA AP DUNG

• • •

Chuyén ngành: Ly thuyét xàc suàt va thòng ké toàn hoc

Ma so: 60 46 15

LUÀN VÀN THAC SÌ KHOA HOC

NGUÒI HUÓNG DAN KHOA HOC GS.TSKH DÀNG HÙNG THÀNG

M u c lue

Lòi nói dàu i

Chi^dng 1 Càc kién thi^c chuan bi 3

1.1 Hàm toc do 3 1.2 Ky thuàt to hdp cho bang chù cài hùu han 4

1.3 Phép bién dói Fenchel-Legrendre 7

2.2.2 Dò chéch lón cho phudng phàp lay màu khòng hoàn lai 19

^ 3 Dinh ly Cramer's trong R 24

1.4 Dinh ly Cramer's trong R*^ 31

!.5 Dinh ly Gartncr-Ellis 37

Chifdng 3 Àp dung 43

3.1 Kiém dinh già thiét 43

3.2 Kiem dinh ty so hdp ly tóng quàt cho bang cM cài hiJu han 47

3.3 Do dai hiém trong càc di dòng ngau nhién 50

Ket luan 54 Tài liéu tham khào 55

F, G, K tiTdng ùng là tàp dóng, tàp mò va tap compact

\A\ lue lirdng cùa tap hdp A

E bang chij' cài

M\{Ti) khòng gian t i t cà càc dò do xàc suàt trén bang chù

cài E

E^ già cùa luat ji

C-n tap t i t cà càc kiéu xàc suit eó dò dai n

d{-, •), d{x, A) metric va khoàng càch tu x dén tàp A

Tn(-) lóp kiéu cùa luàt xàc suit

//(•) entropy cùa mot vector xàc suit

//(•|-) entropy tiTdng dói cùa mot mot vector xàc suit vói

mot vector xàc suit khàc

Pfi luàt xàc suit /i^+

A(-) hàm sinh thòi diém Ioga

A*(-) bién dèi Fenchel-Legrender

LDP nguyén ly dò chéch lón ( Farge Deviation Principle)

1A, l{a} hàm chi tiéu trén tap A, trén tàp {a}

log logarit tu nhién

b.n.n bién ngàu nhién

f '•— g f dinh nghla là g

V/ gradient cùa /

Lòi nói dàu

Fy thuyét xàc s u i t ra dói vào nùa cuoi cùa the ky thii 17 ò nuóc

Phàp 0 nuóc ta, xàc s u i t dude day dau tién tai truòng Dai Hoc Tòng Hdp Ha Noi tir nhiìng nàm dàu 1960 cùa thè ky 20, va ngày nay dà dudc giàng day tai bau hét càc truòng dai hoc Ngày nay ly thuyét xàc suit

va thóng ké toàn hoc là llnh vUe toàn hoc co ed so ly thuyét chat che

va eó nhièu ùng dung trong càc llnh vUc boat dóng khàc nhau cùa con

nguòi tu àm nbac tói vat ly, t\l vàn hoc tói thóng ké xà bòi, tu ed hoc tói thi truòng chùng khoàn, tu du bào thòi tiét tói kinh té, t\ì nòng hoc

tói y hoc

Fy thuyét dò chéch lón là llnh vUc dang phàt trien rat manh ve ly thuyét va eó nhièu ùng dung trong ky thuàt Dò chéch lón dà dude chiing minh là còng cu càn thiét de xù ly nhièu càu bòi ve thóng ké, ky thuàt, toàn thóng ké va àp dung trong xàc suit

Fuàn vàn gom ba chudng:

Chu'dng 1 Càc kién thiic chuàn bi: ChiTòng này trình bay nhiJng

kién thijfc ccJ bàn nhàt ve hàm toc dò nhir dinh nghla hàm toc dò ò^-hàm toc dp, ky thuat tò hdp cho bang chil cài hiìu han, dinh nghla kiéu, lóp kiéu, entropy, entropy tirong dói, phép bién dòi Fenchel-Legrendre, de àp dung chùng minh cho càc chUdng sau

Chiidng 2 N g u y é n ly dò chéch lón: Noi dung cùa chudng này

là giói thiéu nguyén ly dò chéch lón, trình bay nguyén ly dò chéch lón trong truòng hdp bién ngàu nhién dòc làp, cùng phàn phói va nhàn già

tri trong bang chiJ cài hCu han, trong truòng hdp nhàn già tri trong R,

trong R*^, va mò ròng trong truòng hdp càc bién ngàu nhién khòng cùng phàn bo

Chu'dng 3 A p dung: ChUdng này trình bay nhUng àp dung cùa

nguyén ly dò chéch lón trong vin de kiem dinh già thiét, kiem dinh ty

so hdp ly tong quàt cho bang chù: cài hùu han va dò dai hiém trong càc

di dóng ngàu nhién

Dù dà co gang, nhung vi kién thùc va khà nàng con nhièu han che nén chic chàn luan vàn con nhièu thiéu sót Tòi r i t mong nhàn dudc nhiìng y kién phé bình, dóng góp va chi bào cùa càc thày co, dong nghiép

va ban bè

Fuàn vàn này dUdc hoàn thành là nhò su chi bào, huóng dàn tàn tình cùa thày GS TSKH Dang Hùng Thàng Vói thày em xin bay tò long biét dn chàn thành Em xin chàn thành càm dn càc thày co giào trong khoa Toàn-Cd-Tin dà truyèn dat cho em nhùng kién thùc quy bau va tao dièu kién de em hoàn thành luàn vàn này Cuòi cùng, tòi xin càm dn truòng Dai Hoc Nòng Fàm Bac Giang, càc thành vién trong lóp cao hoc toàn 2009-2011, dóng nghiép, ban bè va nguòi thàn dà luòn dóng vién, giùp dò tòi trong qua trình hoc tàp va hoàn thành luan vàn này

Ha Nói ngày thàng nàm 2011

Hoc vién Nguyén Thi Tram

Chifcfng 1

C à c kién thi^c c h u à n bi

Trong suót luan vàn này luòn già thiét X là mot khòng gian Tòpo ma tren do càc tap dóng, tap mò dildc djnh nghla se là càc phàn tu cùa B^,

dò là cr-triròng Borei tren X Va ta luòn già thiét B;^ là cr-trilòng Borei

Càc ki hieu sau day diTdc sii dung trong suót luan vàn này: F là mot tap hdp, F là bao dóng cùa F, F^ là phàn trong cùa F, F^ là phàn bù cùa

F Infimum cùa mot hàm trén mot tap ròng là oc

1.1 H à m toc dò

D i n h n g h l a 1.1.1 (i) Mot hàm toc dò / là mot ành xa nùa lién tue

duói / : X —> [0; oo] (tue là vói moi a e [0, CXD) tàp mùc

ìpi{a) := {x : I(x) < a}

là tàp con dóng cùa X)

(ii) Mot hàm toc dò tòt là mot hàm tèe dò ma vói moi tàp mùc v / ( a )

là tàp con compact cùa i^

Mièn xàc dinh cùa / , ki hiéu là P ; , là tàp càc diém trong cùa A' co

toc do hùu han, cu thè P / = {x : I{x) < oc}

Chù y ràng ncu A" là mot khòng gian metrìc thi tinh chit nùa lién tue duói eó the duóc kiém tra trén day Tue là, / nùa lién tue duói néu

va chi néu

lim inf/(xn) > /(x), "ixeX

Xfi ^x

D i n h n g h i a 1.1.2 Cho hàm toc do / va vói moi 6 > 0, (5-hàm toc dò

dUdc dinh nghla là

l\x):=mm!^T{x)-6,^y (1.1.1)

Trong truòng hdp tong quàt nói chung I^ khòng là hàm toc dò, trù

khi nò dudc su dung tu truòng hdp Vói moi tàp F,

liminf/'^(x) = i n f / ( x ) (1.1.2)

D i n h n g h l a 1.1.3 Già su vói mpi tap con compact cùa X ^ B Mot

hp càc dò do xàc suàt {fie} trén X là chat mù néu vói mpi a < oc, ton

tai mot tap compact K^ C X sao cho

limsup^log^f(/^^) < - a (1.1.3)

e—>0

1.2 K y t h u à t t ò h d p cho b a n g chiJ cài hù'u

h a n

Trong suót phàn này, tàt cà càc bién ngàu nhién già su nhàn già tri

trong tap hù'u han E = {ai, a2, , a/v}- S cùng dildc gpi là bang chù cài

ed bàn thòa man |E| = Ậ 0 day vói moi tàp Ti, |.4| kì hiéu cho lue ludng

hoàc so phàn tu cùa Ạ Già su A/i(E) là ki hiéu cho khòng gian cùa t i t

cà càc dò do xàc s u i t (luàt xàc suit) trén bang chù cài Ẹ 0 day A/i(E)

dUdc xàc dinh vói xàc s u i t tiéu chuan đn gian trén R ' ^ ' , tàp hdp cùa

t i t cà càc vector thuc |E| chièu vói càc thành phàn khòng àm va co tòng

bang 1 Càc tàp mò trong A/i(E) là rò ràng cho bòi càc tàp mò trong

Rl^l

Cho Fi, V2, •••, K là day càc bién ngàu nhién dòc làp cùng phàn phói

vói luàt n e A/i(E) Cho Ê là ki hiéu cho già cùa luàt /i, tue là

Ê = {a, : /i(a,) > 0}

Nói chung, E^ co the là tàp con thuc su cùa E Khi xem xét dò do

riéng p, khòng giàm tong quàt ta co thè già su E^ = E bang càch bò

qua nhùng ki hiéu cho ràng xàc suit bang 0

Dinh nghia 1.2.1 Kièu L^ cùa mot day hùu han y = (yi, ?/2, ••, ^n)

thuòc E" là dò do thuc nghiem càm sinh bòi day này Rò ràng

L^ = (L^(ai), ,L^(a|^,))

là càc phàn tu cùa Afi(E), ò day

Ll{ar) = -J2Kiyj), i = l,2, ,|El

Tue là, L^(ai) là tàn so xuit bién cùa aj trong day yi, ,?/„•

Cho Cn kì hiéu tàp t i t cà càc kiéu cùa day co dò dai n Do dò

Cn-{iy-.1^ = 11 Vy}cRl^l

va do do thuc nghiém L^ hén két vói day T = ("Ki, Yn) là day càc

phàn tu ngàu nhién cùa £„

Chiùng minh Chù y ràng moi thành phàn cùa vector V^ thuòc vào tàp

1^, ^, , ^ | Fuc luóng cùa tàp này bang (n + 1)

Phàn (a) cùa bó de dude suy ra tu dièu sau day: vi vector l'^ dUdc

quy dinh bòi it nhàt so ludng cùa |E|

De chùng minh phàn (b) ta thày ràng £„ chùa tàt cà càc vector xàc

s u i t thành phàn cùa |E| thiét làp tìf tàp ( - , ^, , ^ 1 Do dò vói moi

7 e A/i(E), ton tai 7' € £ „ vói \j{a^) - y{ai)\ < J Vi = 1,2, , |E|

Chàn cùa (1.2.1) dUdc suy ra tu tình hùu han cùa E

1 ""

1=1

D Chù y:

(a) Vi L^ là mot vector xàc suàt dUdc quy dinh bòi |E| - 1 thành phàn

va do vày

| > C | < ( n - f 1)1^1-1

(b) Bó de 1.2.2 biéu dién lue ludng cùa tap £„, già cùa dò do thuc

nghiem ngàu nhién L^ Cà hai tình chit dèu sai khi |E| = 00

Dinh nghla 1.2.3 Fóp kiéu Tni'y) eùa luàt xàc suit 7 6 £„ là tàp

Tnii) = {y e r^ : L^ = ^}

Chù y ràng mot lóp kiéu bao gom càc hoàn vi cùa càc vector trong tap

dinh nghla sau day, quy iróc OlogO := 0 va Olog - := 0

Dinh nghla 1.2.4 (a) Entropy cùa mot vector xàc suàt 7 là

^ ( 7 ) : = - ^ 7 ( ^ 2 ) log 7(^1)

(b) Entropy tirdng dói cùa mot vector xàc suàt 7 vói mot vector xàc

suàt khàc fi là

Chù y: Bang càch àp dung b i t dàng thùc Jensen's dói vói hàm lèi

a:Ioga:, ta ehi ra rang H{-\ÌL) là khòng àm Chù y ràng / / ( » là hùu han

va lién tue trén tàp compact {7 G A/i(E) : E^ C E^} Bòi vi xlogx là lién tue vói 0 < r < 1 Hdn nùa //(-[/i) là hàm toc dò tòt

1.3 P h é p bién dói Fenchel-Legrendre

Cho Xi, X2, , Xn là day bién ngàu nhién dòc làp, cùng phàn phói

d-chièu, vói Xi cùng phàn phói vói p e A^i(R^) //„ kì hieu cho luàt cùa

1 "

Sn := — y Xj

Foga cùa hàm sinh moment lién quan dén luàt xàc suit fi dudc dinh

nghia là

A(A) :=logAf(A) : = l o g E <A,A:I> (1.3.1)

Òday < X,x >:= Yl ^^^^ là tìch vò huóng trong R^, x^ là toa dò thù

j cùa X Tén goi chung cho A(-) là hàm sinh tìch lùy, |x| = >/< x,x >

là chuàn Euclide Chù y ràng A(0) = 0, trong khi A(A) > - 0 0 vói mgi

A, eó thè già su A(A) = 00 Cho /in ki hi^u cho dò do xàc suit cùa S^

va X := ^'[Xi] Khi x tèn tai va huu han, va E[\Xi — xp] < 00 Khi dò

D i n h n g h i a 1.3.1 Bién dòi Fenchel-Fegendre cùa A(A) là:

A*(x) := sup{< A,x > -A(A)}

BÓ d e 1.3.2 (a) A là hàm lèi va A* là hàm toc dò lèi

(h) Néu D^ = {0}, khi dò A* dèng nhàt 0 Néu A(A) < 00 vói moi

A > 0, khi dò X < 00 (ed thèx — -00y) va vói mgi x > x,

A*(x) = s u p | A x - A ( A ) ]

A>0

(1.3.2)

vói moi X > X, là hàm khòng giàm Tuang tu néu A (A) < ce vói moi

A < 0, khi dóx> - o o (co thèx = oô, vói moi x <x,

A*(x) = sup[Ax-ĂA)] (1.3.3)

À<0

vói moi X <x, là hàm khòng tàng Khi x là hUu han, A*(x) = 0 va

luòn co inf A*(x) = 0

(c) Ă-) là khà vi tren Dj vói Áirj) = — ^ E [ X i e " ^ ^ ] va Á{r]) = y suy

ra

A*{y) = ny-A{r]) (1.3.4) Chtìng minh (a) Tình lèi eùa A sau day suy ra tu bit dàng thùc Holder's

vi

Ă^Ai 4- (1 - e)X2) = \ogE{{ế^'f{ế^'Y^-^^]

< \oglElế^'fE[ế^'f-^A = 6'ĂAi) + (1 - ^)ĂA2)

vói moi 9 G [0,1] Tình lèi eùa A* suy ra tu dinh nghla vi

OA*{xi) + (1 - 6')A*(x2) - sup{^Axi - ^ĂA)}+

+ s u p { ( l - ^ ) A x 2 - ( l - ^ ) A ( A ) }

> sup{(^xi + (1 - ^)X2)A - ĂA)}

XeR

= A*{exi + {ì-9)x2)

ma Ă0) = logE[l] = 0, do vày A*(x) > Ox - Ă0) = 0 là khòng àm

Ta chùng minh A* là nùa lién tue duói va do dò là hàm tèe dò Co dinh

mOt day {xn} -^ x Khi dò vói moi A G R,

lim inf A*(x„) > lim inf[Axn - ĂA)] = A*(x)

x„—»I Xn—•X

(b) Néu DA = {0}, khi dò A*(x) = Ă0) = 0 vói mpi x G R Néu

ĂA) = log A/(A) < oo vói moi A > 0

A(A) = log£;[e^^^] > £;[loge^^^] = Xx

Néu X = - o c , khi do A(A) = oc Cho A < 0 va (1.3.2) hién nhién dung Khi X là hùu han, theo bàt dàng thùc triróc day suy ra A*(x) = 0 Trong triròng hdp này, vói mpi x >x vk vói mpi A < 0

Xx - A(A) <Xx- A(A) < A*(x) = 0

suy ra (1.3.2) Tu do suy ra tình ddn dieu cùa A*(x) trén (x, oc), vi vói mpi A > 0, Ax — A(A) là hàm khòng giàm nhir mot hàm so cùa x

Khi A(A) < oc vói mpi A < 0, khi do cà (1.3.3) va tinh ddn dieu cùa A* trén (—oo,x) difdc xem xét tu Ioga cùa hàm sinh moment cùa —X,

àp dung cho mot triròng hdp ddn giàn triróc

Cuòi cùng ta chùng minh inf A*(x) = 0 Dièu nàv thòa man cho

xeR D\ = {0}, X 6 M trong triròng hdp A* = 0 va khi x là hùu han, trong

Truòng bop x = CXD trong khi A (A) < oo vói moi A < 0 là òn dinh

theo Ioga eùa hàm sinh moment cùa —X

(c) Ta co fe{x) = hòi tu diém tói xe'^'' khi e ^ 0, vk

fe{x) < —^ := h(x)

vói mpi e e (-6,6), trong khi £;[|/i(Xi)|] < oo vói moi J > 0 dù nhò

Cho A'{rj) ^ y vk xem xét hàm ^(A) := \y - A(A) VI g{-) là hàm lòm

va g'{r)) = 0, g{r]) = sup^(A) va (1.3.4) là thòa man D

XeR

BÓ de 1.3.3 Néu 0 G D^, khi do A* là mot hàm toc dò tot Han nùa

néu DA — R, khi dò

hm —~^ = oo (1.3.5)

Chiing minh 0 e D^, khi dò tèn tai A_ < 0 va A+ > 0 sao cho cà hai

nàm trong DA- Vi vói moi A G R

Ixl-oo X'

Trong truòng hdp dàc biét A*(x) —> 0 khi |x| ^ oo va tàp mùc là

dóng, bi chàn nén suy ra là tàp compact Do dò A' là hàm toc dò tòt

Chù y ràng (1.3.5) trén day DA — R duòe xem xét — A_ = A-|_ —>• oo D

do, Sn lai là mot bién ngàu nhién co phàn phòi chuàn vói k}^ vpng bang

0 va phifdng sai bang — Do vày, vói moi <5 > 0, ta co

n P{\Sn\ > ^) -^ 0 khi n -^ oc (2.1.1)

Ta co (2.1.3) là mot vi du cùa dò chéch lón Hòn nùa, cà (2.1.1) va

(2.1.2) van eó già tri khi ma càc bién ngàu nhién {Xi} dòc làp, cùng

phàn phói vói ky vong bang 0 va phudng sai bang 1 Vày (2.1.3) con

dùng hay khòng khi ma {X^} khòng eó phàn phói chuan? Va càu tra

lòi là lim - log P{\Sn\ > ó) luòn tèn tai va già tri cùa nò phu thuòc vào

n—»oo n

phàn phói cùa Xi

Dò chéch lón nham nghién cùu chình xàc toc dò bòi tu dén 0 cùa

biéu thùc P{\Sn\ > 6)

2.1.2 N g u y é n ly dò chéch lón

Nguyén ly dò chéch lón (ki hiéu là LDP) dàc trUng cho toc dò hòi

tu khi £: ^ 0 cùa mot ho dò do xàc suit {^^} trén (A', B) thòng qua mot

hàm tèe dò Dàc trUng này thòng qua tiém càn trén va tiém càn duói

cùa giói h^n mù ma /ie giao vói càc tap con cùa X

D i n h nghla 2.1.1 {/le} thòa man nguyén ly dò chéch lón vói hàm toc

dò / néu vói moi F G ^

— inf I(x) < lim inf £ log//e (r) < Hmsup£:log/X£(r) < - i n f / ( x )

(2.1.4) Ben phài va ben trai cùa (2.1.4) tUdng ùng dUdc goi là càn trén dùng

va càn duói dùng

Chù y: 1 Chù y ràng trong (2.1.4) B khòng nhat thiét là a-truòng

Borei Nhu vày ò day eó su tàch biét giùa tàp trén dò co dò do xàc suit

va tàp già tri bi chàn

2 Càc càu " /Xe thòa man LDP " dude su dung de viét tàt cho > £

thòa man LDP vói hàm toc do I"

Rò ràng là néu fi^ thòa man LDP vkT e B sao cho

i n f / ( x ) = inf/(x) = / r (2.1.5)

Khi dò

l i m e l o g / i , ( r ) = -Ir (2.1.6)

Tap r thòa man (2.1.5) dUdc gpi là tap / lién tue Nói chung, nguyén

ly dò chéch lón bao hàm dò chinh xàc giói han trong (2.1.6) cho tap /

lién tue

Già su / là mot hàm toc dò va ipj{a) là tàp mùc cùa no Khi do

(2.1.4) tifdng dudng vói giói han sau day:

(a) (Càn trén dùng) Vói mpi a < oc va vói mpi tàp do diTdc F vói

Khi B;^: e B, LDP tiTdng diTdng vói càc giói han sau:

(a) (Càn trén dùng) Vói mpi tap dóng F C X:

lìmsupe log fie{F) < - i n f / ( x ) (2.1.9)

e—»0 xeF

(b) (Càn duói dùng) Vói mpi tàp mò G C ;\:':

liminf £log/i,(G) > - inf / ( x ) (2.1.10)

£—•0 xeG

Trong nhicu truòng bop, mot hp dém dUdc càc dò do fin dUde xem

xét (vi du khi /in là luàt trung bình thuc nghiém cùa n bién ngàu nhién)

Khi dò LDP tUdng ùng dUdc phàt bieu nhu sau

- inf /(x) < lim infanlpg/in(r) < lim supanlog/i„(r)

(2.1.11)

< - i n f / ( x ) V {an},an ^ 0 khi n —^ oo

Chù y ràng ò day a„ thay thè cho e cùa (2.1.4) va tUdng ùng vói càc

phàt bieu tu (2.1.7) dén (2.1.10) dUde sua dói cho thich hdp

Ta thóng n h i t quy Uóe a^ = - va /z^ = Ma-M - J • Ò day, a~^ ki hiéu

n \n/

nghich dào cùa n i—>• a„

B ò d e 2.1.2 Cho N là mot so nguyén co dmh Khi dò vói moi a^ > 0

N

limsup£:log( > a^) = max hmsupeloga!.- (2.1.12)

Chùng minh Truóc hét ta chù y rang vói mpi e:

N

0 < £ log( V ^ al) — max e log al < e log A'"

^^-^ \<i<N

1=1

Vi N co dinh, e log A'" ^ 0 khi £ -^ 0 va do dò

limsup max slogai = max Hmsups Ioga!

£ ^ 0 l<i<7V \<i<N e-^Q

D

D i n h nghla 2.1.3 Già su rang mpi tàp con compact cùa X thuòc B

Mot hp càc dò do xàc s u i t {//J dudc gpi là thòa man LDP yéu vói hàm

toc dò / néu càn trén dùng cùa (2.1.7) dùng vói mpi a < oc va mpi tàp

con cpmpact cùa ipi{aY, va càn duói dùng cùa (2.1.8) dùng vói mpi tàp

dp dUdc

Dò là dièu quan trpng de nhàn ra ràng hp càc dò do xàc suit do dUde

thòa man LDP yéu vói hàm tèe dò tòt nhung nò khòng thòa man LDP

dù Vi du fie là dò do xàc s u i t suy bién tai - Hp này thòa man LDP

yéu trong R vói hàm toc dò tòt /(x) = oo, mat khàc nò khòng khó de

chùng minh ràng /x^ khòng thòa man LDP vói hàm này hay vói mpi hàm

toc dò khàc

7

Chù y: 1 0 day néu /le thòa man LDP yéu hoàc /ie là chat mù néu nò

sé dUóc mac nhién già dinh ràng càc tàp con compact cùa X thuòc B

2 Rò ràng, cho {//J là chat mù, nò phài thòa man K^ compact dùng

cho (1.1.3)

B ò d e 2.1 A Cho {fie} là mot ho chat mù

(a) Néu càn trén dùng cùa (2.1.7) dùng vói moi a < oo va vói moi tap

con compact cùa '^/(a)^, khi do no cùng dùng cho mot tap do duac T

vói r C ì}ji{ay Dàc biét néu B^ ^ B va càn tren dùng cùa (2.1.9)

dùng cho moi tàp compact, khi dò no cùng dùng cho moi tap dóng

(h) Néu càn duói dùng cùa (2.1.8) (càn duói dùng cùa (2.1.10) trong

truòng hóp B^ C B) dùng cho moi tàp do duac (moi tàp mò) Khi

dò /(•) là hàm toc dò tòt

Do vày, khi mot ho chat mù cùa ho càc do do xàc suàt thòa man LDP

yéu vói hàm toc do /(•) thi I là hàm toc do tòt va LDP dùng,

Chùng minh Chùng ta xem xét tnròng hdp tòng quàt, bao gòm cà

B^CB

(a) De thiét làp (2.1.7) ta eó dinh mot tàp T e B vk a < oc sao cho

F C Ì^[{aY Cho Ka là mot tàp compact trong (1.1.3) Chù y ràng

T n Ka e B vk Ka' e B RÒ ràng

/ie{r) < /is{T n Ka) + M^al

TnKaC i)i(aY do inf /(x) > a Két hdp vói b i t dàng thùc (1.1.3),

(b) Ap dung càn duói dùng (2.1.8) cho tàp mò Ka' G B két luàn tu

(1.1.3) ràng \ni J(x) > a Do dò ^pi(a) C Ka ticn hành tu tàp khòng

compact cùa tàp dóng mùc ipi{a) Làp luàn này dùng cho a < oo va sau

dò /(•) là hàm toc dò tòt •

2.2 D i n h ly S a n o v

2.2.1 Dinh ly Sanov

Cho P^ kì hieu cho luàt xàc suit /i^+ lién két vói mot day hùu han càc

bién ngàu nhién (b.n.n) cùng phàn phói {Yj}, /i e A/i(E)

» _ V

B ò d e 2.2.1 Néu y G Tn{j) vói moi 7 G Cn, khi dò

p^((yi, ,yn) = ?/) = e-"i^w^^(^í^)ị

Chiìng minh Dò do thue nghiém ngàu nhién L^ tàp trung trén kiéu

j E Cn ma E-y C Ê, nghla là Ili-yl/i) < 00 Do dò khòng giàm tòng

quàt già su ràng L^ = 7 va E-^ C Ệ Khi dò

Bó de 2.2.2 VÓI moi 7 G £„; (n + l)-l^le"^(^) < 1T,(7)| < e"^^^)

Chicng minh Theo P^ kiéu lóp co xàc suit tai moi diém là bang nhaụ

Do vay vói mpi 7 G Cn, theo (2.2.1)

1 > P,{Ll = 7) = Ă(Vi K.) e T„(7)) = e-""'^* • |7;(7)|

Tu dò suy ra càn trén dùng cùa |Tn(7)| Bay giò, ta chuyén sang

chùng minh càn duói dùng Cho 7' G Cn sao cho Ey C E^, va de thuàn

tién ve ki hiéu ta giàm E sao cho Ey = E Khi dò

Do do, tién hành dàng thùc triróc

Chù y ràng P^(Ll = 7') > 0 chi khi Ey C E va -r' G £,, Do vày

va càn duói dùng cùa \Tn{-r)\ suy ra tu phàn (a) cùa bò de 1.2.2 D

BÓ de 2.2.3 (Xàc suàt d ò chéch lón) Vói moi -j e Cn ta co

(n + i)-lsie-'^(-i^) < P^{Ll = 7) < e-"^^^!'^)

DAI HOC Q U ^ ' ' - ' ^ ' ^ ^ ' ^ ^

Chùng minh Theo bo de 2.2.1

P,iLl = 7) = \Tnh)\PMYu ,Yn) ^y.Ll = 7)

= |T„(7)| e-"[^(^)+-^(^l'^)]

Ap dung bp de 2.2.2 suy ra dièu phài chùng minh D

Dinh ly 2.2.4 (Sanov) Vói moi tap F cùa vector xàc suàt trong i\/i(E),

- inf //(7|/i) < lim inf i l o g P ^ ( L ^ G F)

76ro n^oo n ^

< lim sup - log P^(Ll G F) < - inf H{-Ì\/Ì)

n->oo n 7er

0 day, F° là phàn trong cùa F dùdc xem nhu mot tap con cùa R'^L

Chùng minh Truóc hét tu Bo de 2.2.3, càn trén dùng va càn duói dùng

cho n hùu han dUòe suy ra Theo càn trén dùng cùa Bo de 2.2.3,

P.iLler)^ Yl PÀLl = i)< E <^""''*'

, „ ^ , - ^ inf H{'^\u) ,|T-| —n inf //(7|/i)

<\VV\Cn\-e ^ernz:„ ''"^^ < (n + l)l^le -^^-^"

Tu dò suy ra càn trén dùng cùa (2.2.2) vi F D £„ C F vói moi n Bàv

giò ta chùng minh cho càn duói dùng cùa (2.2.2) Ta eó dinh mot diém

7 tùy y trong phàn trong cùa F sao cho Ẹ^ C Ệ Khi dò, vói (5 > 0 dù

nhò {V : d^(-f,i) < 6} dUdc chùa trong F Do vày theo phàn (b) cùa

Bo de 1.2.2, ton tai mot day 7^ G F n >C^ sao cho 7^ -^ 7 khi n ^ 00

Hdn nùa khòng giàm tong quàt, ta co thè già su ràng Ê^ C Ê, va do

dò

n •oo ^ 7 t i I IJL„ J n—*oc

Nhàc lai ràng H{j\/i) = 00, vói mpi i G {1, 2, , |E|}, 7(0,) > 0 trong

khi ii{ai) = 0 Do vày theo bit dàng thùc truóc, ta eó

- Hm supl inf Hh\ii)\ > - inf Nhìa) n oo 17ern£n ^ i*"^ j - ^^po ^ ^^^

va càn duói dùng cùa (2.2.2) suy ra bòi (2.2.6) D

2.2.2 D ò chéch lón cho phúdng p h à p lày m à u khòng

h o à n lai

Pham vi cùa phudng phàp kiéu khòng dUde giói han cho dò chéch

lón cùa dò do thuc nghiém eùa b.n.n cùng phàn phóị Vi dụ khi xem

xét càc thiét làp cùa phUdng phàp liy màu khòng hoàn laị mot thù

tue pho bién trong nhièu vin de thóng ké Tu màu ban dàu, góp lai m

so bang phàn biét, y = (?/i, ,ym)- Mot n-bò y := (yt,, •••, ?/iJ là mot

phudng phàp liy màu khòng hoàn lai, cu thè là, chi so {zi, ,in} d^óc

chpn ngàu nhién sao cho mòi tàp n phàn tu phàn biét cùa {1.2, ,m}

eó khà nàng bang nhaụ

Già su ràng, vói mpi 77?, {YÍ^\ ,?/L^^) là càc phàn tu cùa tàp hùu

han E - {ai, ••., a|E|}- Hdn nùa, già su ràng m = m{n) va khi n ^ 00

vector

hòi t u ve do do xàc suàt fi e Mi (E) Nhàc lai ràng

Mot dièu t r a dUde làm tiép eùa LDP cho dò do thue nghiém ngàu nhién

L^ lién két vói vector Y Dàc biét, tUdng t u dinh ly Sanov dUde thành làp cho m = m{n) va

Nhàn thày ràng, khi /? -> 0, hàm toc dò l{-\0,ii) tiép càn tói hàm

//(•|/i), trong khi /? ^ 1, mièn xàc dinh cùa 7 cho /(7I/?,/i) < oc de dò

do ddn 7 = /i Dièu này phàn ành viéc giàm so lUdng ngàu nhién nhung

P tàng Chù y ràng L^ thuòc t à p £„, co nhóm xàc suàt bang n theo Bò

de 2.1.2 Hdn nùa, du doàn sau day cùa dò chéch lón cho L^ thu dUde

bòi tó hdp càc phàn tu

B ò d e 2.2.5 Vói moi vector xàc suàt -y e Cn-'

(a) Néu l(j —, L ^ ) < oc, khi dò

P(Ll = 7) = 0 (2.2.8)

Chùng mmh Theo phUdng phàp liy màu khòng hoàn lai, xàc suit cùa

bién eó {L^ = 7} cho 7 G £„ là só chình xàc cùa n-bò ii ^ 12^" • • • ^ in

log

L ) - " ^ ( S I = ^ 2 ' ° S ( " + ^ ) (2.2.10)

ò day H(p) :— —plogp— (1 — p) log(l — p) Càch khàc, (2.2.10) sau day

bòi còng thùc Stirling's Két hdp (2.2.9) va càn trén dùng (2.2.10) diTdc két qua

l(^ —, Ll^ = oo <^ n^{a^) > m[Zia^), Va, G E

/(7n|/?n, fJ'n) < OO VÓI mpi n dù lón và theo phàn (a) già su ràng E^ = E,

nhung già sù (2.2.14) khòng dùng Khi dò, vi /? < 1 và /(7|/3,/x) < oo!

khi dò ton tai 7^ ^ 7 sao cho (2.2.14) dùng vói mpi k Theo dièu già sù

truóc, tèn tai {7n,fc}^=i sao cho vói mpi k, jn,k G Cn, jn,k -* 7 và

\ìmI{^n,k\Pn,lin) = Ihk\P,li)

T t ' O O

Theo tiéu chuàn Cantor, tèn tai 7^ G Cn sao cho 7^ ^ 7 và

lim I{jn\Pn,kin) = Hm I{'yk\P,fi) = HlìP.li)

n—>00 /c—•OO

0 day dàng thùc cuoi cùng dùng vói phàn (a) cùa bo de Cuoi cùng,

tham chi néu E^ ^ E, no vàn dùng Già sù ràng E^ C E^, vi

/(7|/?,/i) < 00

Do do theo lì luan triróc day vói E^ thay vi E, tèn tai 7^ € Cn sao

cho E^^ C E^, 7n —*• 7 và /(7n|/?n, /^n) < OC vói moi n dù lón Theo phàn

(a) suy ra dièu phài chùng minh D

D i n h ly 2.2.8 Già sù LY, hòi tu dén fi và • /3 G ( 0 , 1 ) khi ri —• o c

m

Khi do, dò do thuc nghiem ngàu nhièn L^ thòa man LDP vói hàm toc dò

tot I{j\P,fi) Cu the, vói moi tàp F cùa vector xàc suàt trong A/i(E) C

- inf IhW.fi) < lim i n f - l o g P ( L ; ^ € T)

^£1^0 n — 0 0 n

< l i m s u p i l o g P ( L ^ G F ) (2.2.15)

n—•OO n

< - i n f / ( 7 | / ? , / i )

Chùng minh Theo phàn (a) eùa Bò de 2.2.7, I{-f\P,fi) dóng thòi là nùa

lién tue duói vói P G (0,1) vói /i và 7 Vi nò là hàm khòng àm và ddn

hinh xàc suàt là mot tap compact, I{-\P,n) là hàm toc dò tòt

Ta chùng minh càn trén dùng cùa (2.2.15), tu (2.2.12) ràng vói mpi

day vò han {n^} ton tai mot day {7it} C F sao cho

lim s u p i l o g P ( L r G F) = - lim lU ^ , L Q := - / * (2.2.16)

»_ /v^ n AC—•oo \ Tflic •'

n—»oo U fc—•oo

ò day cój;hé /* = oo Day {7;^} eó mot diém giói han 7' trong tàp

compact F Day này bòi tu và dua vào / là nùa hén tue duói theo /3, fi

và 7 nghla là

r > / ( 7 l ^ , / / ) > i n f / ( 7 | / 3 , M )

7er Két hdp bàt dàng thùc trén và (2.2.12) suy ra dièu phài chùng minh Cuòi cùng, ta chùng minh cho càn duói dùng Xét mot phàn tu tùy

y 7 G F° sao cho I{^\P,fi) < 00 Khi dò theo phàn (b) cùa Bò de 2.2.7, tèn tai 7„ G Cn sao cho 7n -^ 7 và

Day là mot ùng dung cùa dinh ly Sanov's, mot dang cùa dinh

ly Cramer's ve dò chéch lón thue nghiém cùa càc b.n.n cùng phàn phói dUdc chùng minh Dàc biét trong suót muc này day thuc nghiém

5„ := i y Xj là dièu kién, ò day X, - f(Yj), / : E - R và y, G E là

Chù y ràng vói càc dièu kién néu trén, bién ngàu nhién Sn nhàn già

tri trén tap compact K := [f {ai) J{a\^)] Hdn nùa

lim - log P^(Sn eA) = - inf I{x)

Chùng minh Khi tàp A là mò, dò cùng là tàp F cùa (2.3.1) và giói han

cùa (2.3.2) là giói han ddn giàn cùa (2.2.2) cho F Theo bàt dàng thùc