Moment và kỳ vọng có điều kiện của các đại lượng ngẫu nhiên

Lời mở đầuTrong lý thuyết xác suất, khái niệm và tính chất về moment của cácđại lượng ngẫu nhiên đóng vai trò quan trọng.. Dựa trên khái niệm này, người ta xây dựng được kháiniệm Marting

TRƯỜNG ĐẠI HỌC VINH

Lời mở đầuTrong lý thuyết xác suất, khái niệm và tính chất về moment của cácđại lượng ngẫu nhiên đóng vai trò quan trọng Đặc biệt, khi nghiêncứu các định lý giới hạn, người ta thường đặt ra các điều kiện của cácmoment Mặt khác, khái niệm kỳ vọng có điều kiện cũng là một kháiniệm rất cơ bản Dựa trên khái niệm này, người ta xây dựng được kháiniệm Martingale và một số khái niệm liên quan khác.

Khóa luận này trình bày các khái niệm moment và kỳ vọng có điềukiện của đại lượng ngẫu nhiên cùng các tính chất của chúng Với mụcđích như vậy, khóa luận chia làm ba phần:

Phần 1 Các kiến thức chuẩn bị Trong phần này chúng tôi giớithiệu các khái niệm cơ bản của lý thuyết xác suất phục vụ cho phần saunhư không gian xác suất, hàm phân phối của đại lượng ngẫu nhiên.Phần 2 Tính chất của các moment Trong phần này, chúng tôitrình bày các tính chất của kỳ vọng và các moment của đại lượng ngẫunhiên và chứng minh một số mệnh đề liên quan đến kỳ vọng và mở rộngcủa nó

Phần 3 Kỳ vọng điều kiện Trong phần này, chúng tôi giới thiệukhái niệm kỳ vọng điều kiện và nghiên cứu các tính chất của kỳ vọngđiều kiện, đồng thời chỉ ra sự khác nhau giữa kỳ vọng điều kiện và kỳvọng thông thường

Khóa luận được hoàn thành dưới sự hướng dẫn nhiệt tình, chu đáocủa PGS TS Nguyễn Văn Quảng Nhân dịp này, em xin bày tỏ lòngbiết ơn sâu sắc đến thầy Em xin gửi lời cảm ơn đến các thầy giáo, cô

2

giáo trong khoa Toán và bạn bè đã giúp đỡ em trong suốt quá trình họctập tại khoa.

Cuối cùng, vì sự hạn chế thời gian cũng như tài liệu nên khóa luận

sẽ không tránh khỏi những thiếu sót Tác giả mong nhận được sự đónggóp, giúp đỡ của quý thầy cô và các bạn

Vinh, tháng 4 năm 2006

Tác giả

3

§1 Các kiến thức chuẩn bị1.1 Định nghĩa Giả sử Ω 6= ∅, F là các tập con của Ω F được gọi làmột σ-đại số nếu:

1.3 Định nghĩa Giả sử Ω 6= ∅, F là một σ-đại số các tập con của Ω

và P : F → R là độ đo xác suất Khi đó bộ ba (Ω, F, P ) được gọi là mộtkhông gian xác suất

h) Nếu {An} ⊂ F sao cho A1 ⊂ A2 ⊂ ⊂ An ⊂ thì

P (AB) = P (A).P (B)

1.6 Định nghĩa Giả sử (Ω, F , P ) là không gian xác suất Khi đó ánh

xạ đo được X : Ω → R được gọi là một đại lượng ngẫu nhiên (ĐLNN)

1.7 Định nghĩa Giả sử (Ω, F , P ) là không gian xác suất, X : Ω → R

là ĐLNN Ta gọi hàm PX : B(R) → R xác định bởi

PX(B) = P (X−1(B)), với mọi B ∈ B(R)

là phân phối xác suất của X

1.8 Định nghĩa Giả sử X là ĐLNN, hàm số F (x) = P (X < x) được

gọi là hàm phân phối của X

1.9 Định lý Giả sử (Ω, F , P ) là không gian xác suất, X : Ω → R là

ĐLNN Đặt FX = {A = X−1(B) : B ∈ B(R)} Khi đó FX là một σ-đại

số

1.10 Định nghĩa (i) FX được gọi là σ-đại số sinh bởi X

(ii) Hai σ-đại số F1, F2 được gọi là độc lập nếu với mọi A1 ∈ F1,

A2 ∈ F2 thì P (A1A2) = P (A1)P (A2)

(iii) Hai ĐLNN X, Y gọi là độc lập nếu FX, FY độc lập Tổng quát,

dãy ĐLNN X1, X2, , Xn, gọi là độc lập nếu với mọi n ≥ 1, thì

F (X1, X2, , Xn) và F (Xn+1, Xn+2, , ) độc lập (Trong đó F (X1, X2, , Xn)

5

( tương ứng F (Xn+1, Xn+2, , )) là σ- đại số bé nhất mà X1, X2, , Xn(tương ứng Xn+1, Xn+2, ,) đo được).

1.11 Bổ đề (Bất đẳng thức Markov) Giả sử X là ĐLNN, khi đó vớimọi  > 0 ta có

P (|X| > ) ≤ E|X|

r

r ,với mọi r > 0

1.12 Định nghĩa Giả sử µ là độ đo, ν là hai hàm tập cộng tính xácđịnh trên không gian đo (Ω, F ) Ta nói ν liên tục tuyệt đối đối với µ,nếu với mọi A ∈ F mà µ(A) = 0 thì ν(A) = 0 Ký hiệu ν  µ

1.13 Định lý (Radon - Nikodym) Giả sử ν  µ Khi đó, tồn tại duynhất hàm đo được khả tích X : Ω → R sao cho với mọi A ∈ F thì

ν(A) =

Z

A

Xdµ

1.14 Định nghĩa Giả sử (Ω, F , P ) là không gian xác suất, X : Ω → R

là đại lượng ngẫu nhiên Kỳ vọng của X, ký hiệu EX là một số xác địnhbởi công thức

1.16 Ý nghĩa Kỳ vọng của đại lượng ngẫu nhiên X là giá trị trungbình theo xác suất của đại lượng ngẫu nhiên đó Trong trường hợp Xnhận các giá trị với xác suất như nhau thì kỳ vọng chính là trung bìnhcộng của nó

6

1.17 Các tính chất a) Nếu X ≥ 0 thì EX ≥ 0;

b) Nếu X = c = const thì EX = c;

c) Nếu tồn tại EX thì với mọi c ∈ R ta có E(cX) = cEX;

d) Cho X, Y là ĐLNN, ta có E(X ± Y ) = EX ± EY

e) Cho X, Y là các ĐLNN, thì với mọi a, b ∈ R, ta có:

E(aX + bY ) = aEX + bEYf) Cho X, Y là các ĐLNN, nếu X, Y độc lập thì EXY = EX.EY Tổng quát, Nếu X1, X2, , Xn là họ các ĐLNN độc lập thì

E(X1.X2 Xn) = EX1.EX2 EXng) Nếu X rời rạc có bảng phân phối

X x1 x2 xn

P p1 p2 pn thì

EX = x1p1 + x2p2 + + xnpn + h) Nếu X là ĐLNN liên tục có hàm mật độ p(x) thì

được gọi là moment trung tâm cấp r của X.

1.19 Nhận xét i) Moment bậc nhất chính là kỳ vọng.ii) Moment trung tâm bậc hai chính là phương sai

8

§2 Tính chất của kỳ vọng và moment2.1 Mệnh đề Giả sử X và Y là hai ĐLNN Khi đó nếu tồn tạiE(max{X, Y }) và E(min{X, Y }), thì

a) Tồn tại E|X|, E|Y |;

E|X| ≤ E(max{X, Y }) + E(min{X, Y })E|Y | ≤ E(max{X, Y }) + E(min{X, Y })Theo giả thiết, tồn tại E(max{X, Y }) và E(min{X, Y }) nên từ bất đẳngthức trên, suy ra tồn tại E|X|, E|Y |

b) Ta có

X + Y = max{X, Y } + min{X, Y }nên

0 ≤ (E|X| − 1)2 = E|X|2 − 2E|X| + 1

= DX + 1 − 2E|X|

Suy ra

DX + 1 − 2E|X| ≥ 0hay

E|X| ≤ 1

2(DX + 1).

10

E|X| ≤ 1

2(DX + 1)2.4 Mệnh đề Giả sử X, Y là các ĐLNN độc lập nhận các giá trịnguyên không âm và E|X| < ∞ Khi đó

DX = min

a∈R E(X − a)2Chứng minh Với mọi a ∈ R ta có E(X − a)2 = E(X2 − 2aX + a2) và

|E(X − EX)(Y − EY )| ≤√DX.DY

Do đó

DX + DY − 2

√DX.DY ≤ D(X + Y ) ≤ DX + DY + 2

√DX.DY Hay

E|X1 + X2+ X3|r ≤ E|X1+ X2|r + E|X3|r

≤ E|X1|r + E|X2|r + E|X3|r

Do đó, bằng quy nạp ta chứng minh được

E|X1+ , Xn|r ≤ E|X1|r + + E|Xn|r

13

2.9 Mệnh đề Giả sử X là ĐLNN dương, không suy biến có kỳ vọnghữu hạn Khi đó

E XY

r

≥ EX

r

EYrChứng minh Theo Mệnh đề 2.9, ta có:

§3 Kỳ vọng điều kiện3.1 Định nghĩa Giả sử (Ω, F , P ) là không gian xác suất, X : Ω → R

là ĐLNN khả tích (E|X| < ∞) và G là σ-đại số con của F Khi đó,ĐLNN Y gọi là kỳ vọng có điều kiện của X đối với Y nếu

Ta thường ký hiệu là Y = E(X/G) hay Y = EGX

3.2 Chú ý 1) Nếu X, Y là các ĐLNN đã cho trên (Ω, F , P ) và G làσ-đại số sinh bởi Y thì E(X/G) được ký hiệu là E(X/Y ) và gọi là kỳvọng điều kiện của ĐLNN X đối với ĐLNN Y

2) Nếu X1, X2, là các ĐLNN được xác định trên (Ω, F , P ) và G làσ-đại số sinh bởi chúng thì E(X/G) được ký hiệu là E(X/X1, X2, ).3) Nếu X = IA, A ∈ G, thì E(X/G) được ký hiệu là P (A/G) và được gọi

là xác xuất điều kiện của biến cố A đối với σ-đại số G E(IA/X1, X2, )được ký hiệu là P (A/X1, X2, ) và được gọi là xác suất điều kiện củabiến cố A đối với các ĐLNN X1, X2,

3.3 Các tính chất của kỳ vọng điều kiện Giả sử (Ω, F , P ) là khônggian xác suất, các ĐLNN đều có kỳ vọng (khả tích hoặc nửa khả tích)

G ⊂ F là σ-đại số con nào đó Khi đó ta có các tính chất sau:

3.3.1 Mệnh đề Nếu E|X| < ∞ thì tồn tại duy nhất Y = E(X/G).Chứng minh Xét hàm tập ν : G → R cho bởi công thức:

Do E|X| < ∞ suy ra ν  P Theo Định lý Radon-Nikodym suy ra tồntại duy nhất ĐLNN Y là G-đo được sao cho

17

3.3.4 Mệnh đề Với mọi a, b là hằng số và aX + bY xác định ta có

E(aX + bY /G) = aE(X/G) + bE(Y /G)

Chứng minh Đặt Z = E(X/G), T = E(Y /G) khi đó Z, T là G-đo được

ii) E[E(X/G)] = EX

Chứng minh i)Ta có Y = EX là G-đo được vì:

Y−1(B) = ∅, nếu EX /∈ B

Ω, nếu EX ∈ BMặt khác, với mọi A ∈ G, ta có X và IA độc lập, do đó

Tương tự ta có Y = E(Z/G1) Vậy, ta có

E(X/G1) = E[E(X/G1)/G2] = E[E(X/G2)/G1]ii) Ta có theo giả thiết Y = X là G-đo được Mặt khác, với mọi A ∈ G,

19

3.3.7 Mệnh đề Nếu E|XY | < ∞, E|Y | < ∞, Xlà G-đo được thì

E(XY /G) = XE(Y /G) (∗)Chứng minh Ta có X.E(Y /G) là G-đo được Hơn nữa, với mọi A ∈ G,trước hết ta sẽ chứng minh đẳng thức (*) đúng với X = IA, A ∈ G Thậtvậy, từ X = IA ta có

Vậy, E(XY /G) = XE(Y /G), tức là (∗) đúng với X = IA Từ đây suy

ra (∗) đúng với các hàm đơn giản Bây giờ nếu X đo được thì X = lim hn,với {hn} là dãy các hàm đơn giản, do đó Mệnh đề được chứng minh

3.3.8 Định lý hội tụ đơn điệu B-Levi i) Nếu dãy Xn ↑ X(h c c)

và tồn tại n ∈ N sao cho E(Xn) < ∞ thì E(Xn/G) ↑ E(X/G)(h.c.c)ii) Nếu dãy Xn ↓ X(h c c) và tồn tại n ∈ N sao cho E(Xn) < ∞ thìE(Xn/G) ↓ E(X/G)(h.c.c)

Chứng minh Ta chứng minh cho tính chất thứ nhất Giả sử tồn tại n0

để EXn0 < ∞ Khi đó, ta có 0 ≤ Xn + Xn0 ↑ X + Xn0 Theo Định lýLơbe về hội tụ đơn điệu, ta có

Từ đó, kết hợp với tính tuyến tính của tích phân, ta có

3.3.9 Bổ đề Fatou Giả sử tồn tại Y khả tích, khi đó

i) Nếu Xn ≤ Y (h c c) với mọi n ≥ 1 thì

E(lim Xn/G) ≤ lim E(Xn/G)(h.c.c)ii) Nếu Xn ≥ Y (h c c) thì

lim E(Xn/G) ≤ E(lim Xn/G)(h.c.c)Chứng minh hai tính chất này tương tự như chứng minh Định lý hội

tụ đơn điệu B-Levi

3.3.10 Định lý hội tụ bị chặn Lebesgue Giả sử Y khả tích và |Xn| <

Y (h c c) Khi đó, nếu Xn → X(h c c), thì

E(lim

n Xn/G) = lim

n E(Xn/G)(h.c.c)3.3.11 Mệnh đề Giả sử G = {A,A, Ω, ∅}, 0 < P (A) = p < 1 và

Hơn nữaY IA = b1IA suy ra E(Y IA) = b1P (A) Kết hợp với trên ta có

b2 = a2

P (A) =

a2

1 − p.Vậy

Y = E(X/G) = a1

p IA +

a2

1 − pIA.3.3.12 Mệnh đề Giả sử (Ω, F , P ) là không gian xác suất, G là σ-đại sốcon của F , X là ĐLNN có phương sai hữu hạn, khi đó DE(X/G) ≤ DX.Chứng minh Ta có DX = EX2 − (EX)2 do đó

DE(X/G) = E[E(X/G)]2− [E(E(X/G))]2 = E[E(X/G)]2 − (EX)2.Mặt khác lại có

0 ≤ E[X − E(X/G)]2 = EX2 − E[E(X/G)]2suy ra EX2− E[E(X/G)]2 ≥ 0 Vậy DE(X/G) ≥ EX2− (EX)2 = DX

3.3.13 Mệnh đề Giả sử G1, G2, là dãy không giảm các σ-đại số, X

là ĐLNN có kỳ vọng hữu hạn, khi đó với mọi  > 0 ta có

Khi đó vì Aj∩ Ai = ∅ với mọi i 6= j, A =

n

S

j=1

Aj, Aj ∈ Gj, j = 1, , , nnên

Ngược lại, giả sử với mọi hàm Borel ϕ(X) mà E(ϕ(X)) < ∞ ta luôn

có E(ϕ(X)/G) = E(ϕ(X)) Khi đó với mọi tập Borel A bất kỳ, xétϕ(X) = IA.X = IX∈A Khi đó với mọi B ∈ G ta có:

Đối với kỳ vọng có điều kiện ta cũng có các khái niệm liên quan tương

tự Chúng được định nghĩa như sau:

3.3.15 Định nghĩa Cho X, Y là các ĐLNN xác định trên (Ω, F , P )sao cho EX2 < ∞, EY2 < ∞ và G là σ-đại số con nào đó của F Tađịnh nghĩa

D(X/G) := E(X − E(X/G)2)Cov[(X, Y )/G] := E[(X − E(X/G))(Y − E(Y /G))]

D(X/G) được gọi là phương sai (hay variance) có điều kiện của X đốivới σ -đại số G và cũng được ký hiệu V ar(X/G)

Cov[(X, Y )/G] được gọi là covariance có điều kiện của X, Y đối với σ -đại

số G Mối liên hệ giữa phương sai và covarian của kỳ vọng và kỳ vọngđiều kiện được thể hiện thông qua hai Mệnh đề sau:

3.3.16 Mệnh đề Với các điều kiện trang bị trong Định nghĩa 3.3.15,

ta có

DX = ED(X/G) + DE(X/G)Chứng minh Ta có

ED(X/G) + DE(X/G)

= E[E(X − E(X/G))2/G] + E[E(X/G)]2 − [E(E(X/G))]2

= E[(X2 − 2XE(X/G) + E(X/G))/G] + E[E(X/G)]2 − (EX)2

= EX2 + 2E{E(X/G)[E(X/G) − X]} − (EX)2

24

Vì E(X/G) là G-đo dược nên kết hợp với tính chất 3.3.5 ta được

3.3.17 Mệnh đề Với các điều kiện như trong Định nghĩa 3.3.15, ta có

Cov(X, Y ) = ECov[(X, Y )/G] + Cov[E(X/G), E(Y /G)]

Chứng minh Ta có

ECovG(X, Y ) + Cov[E(X/G), E(Y /G)]

= E[(X − E(X/G))(Y − E(Y /G))] + E[(E(X/G) − EX)(E(Y /G) − EY )]

= E{XY − Y E(X/G) − XE(Y /G) + E(X/G)E(Y /G)

+ E(X/G)E(Y /G) − E(X/G)EY − EXE(Y /G) + EXEY }

= E{(X − EX)(Y − EY )

+ [E(Y /G) − EX][E(X/G) − EY ] + [E(Y /G) − Y ][E(X/G) − EX]}

= Cov(X, Y ) + E[E(X/G) − X][E(Y /G) − EY ]

+ E[E(Y /G) − Y ][E(X/G) − EX]

Ta có

E[E(X/G) − X][E(Y /G) − EY ]

= E{E[E(X/G) − X][E(Y /G) − EY ]/G}

= E{[E(Y /G) − EY ]E[(E(X/G) − X)/G]}

= E{[E(Y /G) − EY ][E(E(X/G))/G − E(X/G)]}

= E{[E(Y /G) − EY ][E(X/G) − E(X/G)]} = 0

25

Tương tự ta cũng chứng minh được:

E[E(X/G) − Y ][E(X/G) − EX] = 0

Từ đó ta suy ra

Cov(X, Y ) = ECov[(X, Y )/G] + Cov[E(X/G), E(Y /G)]

26

Kết luậnKhóa luận đã nêu được những vấn đề sau:

1) Nhắc lại một số khái niệm và tính chất cơ bản của lý thuyết xácsuất cần thiết như không gian xác suất, đại lượng ngẫu nhiên, hàm phânphối của đại lượng ngẫu nhiên

2) Giới thiệu các tính chất về các moment của đại lượng ngẫu nhiên,mối liên hệ giữa moment và phương sai

3) Chứng minh các tính chất của kỳ vọng điều kiện, đồng thời chỉ ra

sự khác nhau căn bản giữa kỳ vọng điều kiện và kỳ vọng

27

Tài liệu

[1] David Williams, Probability with martingales, Cambridge University, Press 1991 1999.

[2] Đào Hữu Hồ, Xác suất thống kê, Nxb Đại học Quốc gia Hà Nội, 1999.

[3] Đào Văn Phong, Hàm số thực, Nxb Giáo dục, 1976.

[4] Nguyễn Duy Tiến, Vũ Viết Yên, Lý thuyết xác suất, Nxb Giáo dục, 2001.

28