Về luật số lớn và một số ứng dụng

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC  - BÙI THỊ LAN ANH VỀ LUẬT SỐ LỚN VÀ MỘT SỐ ỨNG DỤNG Chuyên ngành: Toán ứng dụng Mã số : 46 01 12 LUẬN VĂN THẠC SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC TS Trần Xuân Quý TS Đỗ Thị Phương Quỳnh THÁI NGUYÊN - 2021 Tai ngay!!! Ban co the xoa dong chu nay!!! Mục lục Danh sách kí hiệu viết tắt Mở đầu Chương Một số kiến thức chuẩn bị 1.1 Biến cố xác suất 1.2 Biến ngẫu nhiên 1.3 Xác suất có điều kiện tính độc lập 13 1.4 Các dạng hội tụ dãy biến ngẫu nhiên 15 1.4.1 Hội tụ theo xác suất 16 1.4.2 Hội tụ theo bình phương trung bình 16 1.4.3 Hội tụ theo phân bố 17 Chương Về luật số lớn số áp dụng 2.1 19 Luật số lớn 19 2.1.1 Luật yếu số lớn 19 2.1.2 Luật mạnh số lớn 21 2.2 Bất đẳng thức Martingale 24 2.3 Phân phối thực nghiệm 28 2.4 Định lý giới hạn trung tâm 30 2.5 Bất đẳng thức Berry-Esseen 32 Kết luận 39 Tài liệu tham khảo 40 Danh sách kí hiệu viết tắt A, F σ-đại số B(X) σ-đại số Borel X P Độ đo xác suất (Ω, F , P) Không gian xác suất Leb Độ đo Lebesgue ξ Hàm F -đo hay biến ngẫu nhiên (BNN) hay đại lượng ngẫu nhiên (ĐLNN) Fξ Hàm phân phối ξ fξ Hàm mật độ ξ E(ξ) Kỳ vọng ξ D(ξ) Phương sai ξ 1A Hàm tiêu tập A L2 Họ biến ngẫu nhiên bình phương khả tích C Phép thử ngẫu nhiên n(A) Số lần xảy phép thử A P → Hội tụ theo xác suất L1 Không gian hàm đo L(X) Luật X ϕF Phép biến đổi Fourier F Sn Tổng riêng dãy biến ngẫu nhiên ϕ∗n (t) Hàm đặc trưng S n h.c.c Hầu chắn Mở đầu P.S Laplace (1812) nói “Phần lớn vấn đề quan trọng sống thực tốn xác suất” Xác suất hay giải tích ngẫu nhiên nhánh toán học nghiên cứu tượng ngẫu nhiên, nghĩa nghiên cứu tượng khơng thể nói trước xảy hay khơng xảy thực lần quan sát, tiến hành quan sát nhiều lần ta rút kết luận khoa học tượng Do yếu tố ngẫu nhiên mà lý thuyết xác suất ứng dụng, từ văn học, vật lý, thị trường chứng khoán, dự báo thời tiết, kinh tế y học, Luật số lớn kết xác suất có nhiều ứng dụng sở cho nhiều tượng thống kê thực tiễn Trong thực tế, để xác định giá trị biến ngẫu nhiên người ta thường tiến hành n lần quan sát (đo đạc) cách độc lập lấy trung bình cộng kết đo làm giá trị ước lượng cho giá trị cần biết Câu hỏi đặt sở để khẳng định việc xấp xỉ chấp nhận (hay nói cách khác sai số việc xấp xỉ cần thực tối thiểu phép thử để thu sai số không vượt giá trị cho trước) Câu trả lời luật số lớn, hay cụ thể bất đẳng thức Chebysev Tuy nhiên, vấn đề đặt là: Nếu áp dụng bất đẳng thức Chebysev toán chọn cỡ mẫu số phép thử lớn Lý đánh giá sai số toán cỡ mẫu dựa bất đẳng thức Chebysev chưa đủ chặt, từ tốc độ hội tụ thu chưa thật xác Vậy tốc độ hội tụ luật số lớn nào? Bất đẳng thức martingale giải vấn đề Nói cách khác, chọn cỡ mẫu theo bất đẳng thức ước lượng mũ tối ưu theo bất đẳng thức Chebysev Trong thực tế thường gặp số biến ngẫu nhiên có phân phối đặc biệt phân phối nhị thức, phân phối Poisson, phân phối mũ, Đặc biệt biến ngẫu nhiên có phân phối chuẩn xấp xỉ chuẩn Ví dụ: Xét quần thể Chọn ngẫu nhiên nhóm gồm n cá thể (mẫu có kích thước n) Giả sử X số thể có đặc tính A mẫu Khi đó, người ta thấy n lớn X có phân phối xấp xỉ chuẩn Cơ sở lí thuyết tượng định lý giới hạn trung tâm Áp dụng định lý giới hạn trung tâm cho toán chọn cỡ mẫu ta thấy cách chọn cỡ mẫu theo bất đẳng thức ước lượng mũ theo định lý giới hạn trung tâm tương đương Với mục đích hệ thống lại kiến thức xác suất, trình bày lại luật số lớn, bất đẳng thức Chebysev, bất đẳng thức Martingale, định lý giới hạn trung tâm áp dụng cho toán chọn cỡ mẫu thống kê, hướng dẫn TS Trần Xuân Quý TS Đỗ Thị Phương Quỳnh, chọn đề tài “Về luật số lớn số ứng dụng” để làm đề tài luận văn thạc sĩ Ngoài phần Mở đầu, Kết luận Tài liệu tham khảo, luận văn gồm hai chương Chương Một số kiến thức chuẩn bị Chương nhắc lại số định nghĩa lý thuyết xác suất biến cố xác suất, biến ngẫu nhiên, xác suất có điều kiện, ba dạng hội tụ dãy biến ngẫu nhiên Chương Về luật số lớn số áp dụng Chương trình bày luật số lớn, bất đẳng thức Chebysev, bất đẳng thức martingale định lý giới hạn trung tâm, so sánh ba cách chọn cỡ mẫu ưu điểm, nhược điểm cách chọn cỡ mẫu Luận văn hoàn thành trường Đại học Khoa học - Đại học Thái Nguyên hướng dẫn TS Trần Xuân Quý, Trường Đại học Khoa học - Đại học Thái Nguyên Tôi xin bày tỏ lòng biết ơn sâu sắc tới - TS Trần Xuân Quý TS Đỗ Thị Phương Quỳnh, người định hướng chọn đề tài tận tình hướng dẫn để tơi hồn thành luận văn Tơi xin bày tỏ lòng biết ơn chân thành tới Phòng Đào tạo, thầy cô giáo dạy cao học chuyên ngành Toán ứng dụng, trường Đại học Khoa học - Đại học Thái Nguyên giúp đỡ suốt q trình học tập hồn thành luận văn tốt nghiệp Tôi xin gửi lời cảm ơn chân thành tới gia đình, bạn bè, người thân ln động viên, cổ vũ, tạo điều kiện thuận lợi cho tơi q trình học tập hồn thành luận văn Thái Nguyên, ngày 05 tháng 11 năm 2020 Tác giả Bùi Thị Lan Anh Chương Một số kiến thức chuẩn bị Trong chương nhắc lại vài định nghĩa lý thuyết xác suất Cụ thể ta nhắc lại số vấn đề sau: (i) Không gian xác suất, σ− đại số độ đo; (ii) Biến ngẫu nhiên hàm phân phối chúng; (iii) Kì vọng phương sai; (iv) σ− đại số sinh biến ngẫu nhiên; (v) Tính độc lập, xác suất có điều kiện; (vi) Các dạng hội tụ dãy biến ngẫu nhiên 1.1 Biến cố xác suất Định nghĩa 1.1.1 Cho Ω tập khác rỗng Một σ− đại số F Ω họ tập hợp Ω cho 1) Tập ∅ ∈ F ; 2) Nếu A ∈ F phần bù A ∈ F ; 3) Nếu A1 , A2 , dãy đếm tập hợp F hợp chúng A1 ∪ A2 ∪ · · · thuộc F Ví dụ 1.1.2 R định nghĩa tập hợp số thực Họ tập Borel F = B(R) σ− đại số R B(R) σ− đại số chứa tất đoạn R Định nghĩa 1.1.3 Cho F σ− đại số Ω Độ đo xác suất P hàm P : F −→ [0, 1] cho 1) P(Ω) = 1; 2) Nếu A1 , A2 , tập rời đôi (nghĩa Ai ∩ A j = ∅ với i , j) ⊂ F P(A1 ∪ A2 ∪ ) = P(A1 ) + P(A2 ) + · · · (Ω, F , P) gọi không gian xác suất Tập hợp thuộc F gọi biến cố Biến cố A xảy hầu chắn P(A) = Ví dụ 1.1.4 Chúng ta đưa khoảng cách có độ dài đơn vị Ω = [0, 1] với σ− đại số F = B([0, 1]) tập hợp tập Borel B ⊂ [0, 1] độ đo Lebesgue P = Leb [0, 1] Khi (Ω, F , P) không gian xác suất Nhắc lại Leb độ đo định nghĩa tập Borel cho với [a, b] Leb[a, b] = b − a Định lý 1.1.5 Nếu A1 , A2 , dãy tăng biến cố, nghĩa A1 ⊂ A2 ⊂ · · · P(A1 ∪ A2 ∪ · · · ) = lim P(An ) n→∞ Tương tự, A1 , A2 , dãy giảm biến cố, nghĩa A1 ⊃ A2 ⊃ · · · P(A1 ∩ A2 ∩ ) = lim P(An ) n→∞ Chứng minh Nếu A1 ⊂ A2 ⊂ A1 ∪ A2 ∪ = A1 ∪ (A2 \ A1 ) ∪ (A3 \ A2 ) ∪ Trong đó, tập A1 , A2 \ A1 , A3 \ A2 , rời đơi Do đó, theo định nghĩa độ đo xác suất P(A1 ∪ A2 ∪ · · · ) = P(A1 ∪ (A2 \ A1 ) ∪ (A3 \ A2 ) ∪ · · · ) = P(A1 ) + P(A2 \ A1 ) + P(A3 \ A2 ) + · · · = lim P(An ) n→∞ Ta có P(A1 ∪ A2 ∪ · · · + An ) = P(A1 ∪ (A2 \ A1 ) ∪ (A3 \ A2 ) ∪ · · · + P(An \ An−1 ) = P(A1 ) + P(A2 ) − P(A1 ) + · · · + P(An ) − P(An−1 ) = P(An ) Nếu A1 ⊃ A2 ⊃ · · · P(A1 ∩ A2 ∩ · · · ) = lim P(An ) n→∞ Áp dụng luật De Morgan ta có Ω \ (A1 ∩ A2 ∩ · · · ) = (Ω \ A1 ) ∪ (Ω \ A2 ) ∪ · · ·  Bổ đề 1.1.6 (Borel- Cantelli) Cho A1 , A2 , dãy biến cố cho P(A1 ) + P(A2 ) + · · · < ∞ đặt Bn = An ∪ An+1 ∪ · · · P(B1 ∩ B2 ∩ · · · ) = Chứng minh Vì Bn dãy giảm biến cố, theo kết Định lý 1.1.5 suy P(B1 ∩ B2 ∩ · · · ) = lim P(Bn ) = lim P(An ∪ An+1 ∪ · · · ) n→∞ n→∞   ≤ lim P(An ) + P(An+1 ) + · · · = n→∞ Đẳng thức cuối chuỗi ∞ P n=1 P(An ) hội tụ Bất đẳng thức tính chất cộng tính P(An ∪ An+1 ∪ ) ≤ P(An ) + P(An+1 ) + · · · Suy P(B1 ∩ B2 ∩ · · · ) = 1.2  Biến ngẫu nhiên Định nghĩa 1.2.1 Nếu F σ− đại số Ω hàm ξ : Ω −→ R gọi F − đo {ξ ∈ B} ∈ F với tập Borel B ∈ B(R) Nếu (Ω, F , P) khơng gian xác suất hàm ξ gọi biến ngẫu nhiên Chú ý 1.2.2 Để cho ngắn gọn, ta ký hiệu {ξ ∈ B} thay viết {ω ∈ Ω : ξ(ω) ∈ B} Định nghĩa 1.2.3 σ− đại số σ(ξ) sinh biến ngẫu nhiên ξ : Ω −→ R định nghĩa lớp tất tập có dạng {ω ∈ Ω : ξ(ω) ∈ B}, B tập Borel R Định nghĩa 1.2.4 σ− đại số σ({ξi : i ∈ I}) sinh họ biến ngẫu nhiên {ξi : i ∈ I} định nghĩa σ− đại số nhỏ chứa tất biến cố có dạng {ω ∈ Ω : ξi (ω) ∈ B} B tập Borel R i ∈ I Nhận xét 1.2.5 Ta gọi f : R −→ R hàm Borel nghịch ảnh f −1 (B) với tập Borel B R tập Borel Nếu f hàm Borel ξ biến ngẫu nhiên f (ξ) σ(ξ)− đo Thật vậy, B tập Borel R f : R −→ R hàm Borel f −1 (B) tập Borel Do { f (ξ) ∈ B} = {ξ ∈ f −1 (B)} thuộc σ− đại số σ(ξ) sinh ξ Vậy f (ξ) σ(ξ)− đo Bổ đề 1.2.6 (Doob - Dynkin) Cho ξ biến ngẫu nhiên Khi biến ngẫu nhiên σ(ξ)− đo η viết η = f (ξ) với f : R −→ R hàm Borel Định nghĩa 1.2.7 Giả sử ξ : Ω −→ R biến ngẫu nhiên, xác định độ đo xác suất sau Pξ (B) = P{ω ∈ Ω : ξ(ω) ∈ B} Trên R xác định σ− đại số tập Borel B ∈ B(R) Ta định nghĩa Fξ hàm phân phối ξ, ký hiệu Fξ : R −→ [0, 1] xác định Fξ (x) = P{ω ∈ Ω : ξ(ω) ≤ x} Nhận xét cho ta biết số tính chất hàm phân phối biến ngẫu nhiên Nhận xét 1.2.8 Hàm phân phối Fξ không giảm, liên tục phải thỏa mãn lim Fξ (x) = 0, x→−∞ lim Fξ (x) = x→+∞ Thật vậy, x ≤ y {ω ∈ Ω : ξ(ω) ≤ x} ⊂ {ω ∈ Ω : ξ(ω) ≤ y} Do Fξ (x) = P{ω ∈ Ω : ξ(ω) ≤ x} ≤ P{ω ∈ Ω : ξ(ω) ≤ y} = Fξ (y) Điều có nghĩa Fξ khơng giảm Tiếp theo, ta lấy dãy x1 ≥ x2 ≥ đặt lim xn = x n→∞ Khi đó, ta có dãy biến cố {ω ∈ Ω : ξ(ω) ≤ x1 } ⊃ {ω ∈ Ω : ξ(ω) ≤ x2 } ⊃ · · · Lấy giao ta {ω ∈ Ω : ξ(ω) ≤ x} = {ω ∈ Ω : ξ(ω) ≤ x1 } ∩ {ω ∈ Ω : ξ(ω) ≤ x2 } ∩ · · · Từ Định lý 1.1.5 ta suy Fξ (x) = P{ω ∈ Ω : ξ(ω) ≤ x} = lim P{ω ∈ Ω : ξ(ω) ≤ xn } = lim Fξ (xn ) n→∞ n→∞ Điều chứng tỏ Fξ liên tục giảm Do biến cố {ω ∈ Ω : ξ(ω) ≤ −1} ⊃ {ω ∈ Ω : ξ(ω) ≤ −2} ⊃ · · · dãy giảm với giao ∅ {ω ∈ Ω : ξ(ω) ≤ 1} ⊂ {ω ∈ Ω : ξ(ω) ≤ 2} ⊂ · · · dãy tăng với hợp Ω Theo Định lý 1.1.5 ta có lim Fξ (x) = lim Fξ (−n) = lim P{ω ∈ Ω : ξ(ω) ≤ −n} = P(∅) = 0, x→∞ n→∞ n→∞ lim Fξ (x) = lim Fξ (n) = lim P{ω ∈ Ω : ξ(ω) ≤ n} = P(Ω) = x→∞ n→∞ n→∞ Vì Fξ hàm không giảm Định nghĩa 1.2.9 Nếu hàm Borel fξ : R −→ R cho với tập Borel B ∈ R Z P{ω ∈ Ω : ξ(ω) ∈ B} = fξ (x)dx B > ε = ∀ε, lim P − n→∞ n n (ii) Cho dãy biến ngẫu nhiên X, X1 , X2 , độc lập phân phối, c ∈ R Khi hai khẳng định sau tương đương n 1P P Xk → c, n k=1 (b) rP{|X| > r} → E[X; |X| r] → r, r → ∞ (a) 21 2.1.2 Luật mạnh số lớn Định lý 2.1.4 (Luật mạnh số lớn Kolmogorov) Giả sử (Xn ) dãy biến ngẫu nhiên độc lập phân phối Khi đó, ta có Sn → a h.c.c, a ∈ R E|X1 | < ∞ a = EX1 n Định lý 2.1.5 (Luật mạnh số lớn Marcinkiewicz-Zygmund) Giả sử (Xn ) dãy biến ngẫu nhiên độc lập phân phối, S n = X1 + · · · + Xn p ∈ (0; 2) Khi ∃c cho (S n − nc)/n1/p → h.c.c E|X1 | p < ∞ Đồng thời, c = EX1 p < c tùy ý < p < Bây ta tìm mối quan hệ hai luật số lớn cách lấy trung bình hóa Ta xét khái niệm hội tụ Ryszard Jajte: Định nghĩa 2.1.6 Xét hai hàm h, g Đặt φ(y) = h(y)g(y) thỏa mãn: (i) h, g > 0, g tăng (ii) ∃d > cho φ tăng thực [d, ∞), miền giá trị (0, ∞) (iii) ∃C, k0 > cho φ(y + 1)/φ(y) C, ∀y > k0 (iv) ∃a, b cho φ(s)2 Khi đó, ∞ Z s dx as + b, ∀s > d φ(x)2 n X ξk σn (x) := g(n) k=1 h(k) gọi (h, g)-biến đổi dãy x = (ξk ) Nếu σn (x) → ξ ta kí hiệu (h, g)−lim ξk = ξ Gần người ta tìm định lý sau, chứng minh đơn giản ngắn gọn luật mạnh số lớn Định lý 2.1.7 (Ryszard Jajte) Cho h, g hàm xác định trên, X, X1 , X2 , dãy biến ngẫu nhiên độc lập phân phối Khi đó, hai điều kiện sau tương đương: (i) (h, g) − lim(Xk − mk ) = 0, với mk = E[X; |X| φ(k)] (ii) E[φ−1 (|X|)] < ∞ 22 Chứng minh (i) ⇒ (2): Giả sử n X Xk − mk → g(n) k=1 h(k) (2.1) Trước hết, ta chứng minh Xk = h.c.c k→∞ φ(k) lim Theo định lý Stolz, n X Xk − mk k→∞ g(n) h(k) k=1 = lim Xn − mn Xn − mn > lim n→∞ h(n)(g(n) − g(n − 1)) n→∞ h(n)g(n) = lim Từ (2.2) có limn→∞ Xn − mn = h.c.c nên h(n)g(n) Xn mn = lim h.c.c n→∞ φ(n) n→∞ φ(n) n Xn o  |Xn |  Mặt khác, P > ε = P(|X| > εφ(n)) < ε, suy P → = 1, nên φ(n) φ(n) lim Xk = h.c.c k→∞ φ(k) lim Do lim Xn = h.c.c, suy φ(n) ∞ X P{|X| > φ(k)} = k=1 ∞ X P{φ(|X|)−1 > k} < ∞ k=1 Mà ta có n X P{|X| > φ(k)} = k=1 n X P{φ(|X|)−1 > k} k=1 n ∞ X n[ o = P (i φ(|X|)−1 < i + 1) k=1 = n X i=k kP{k φ(|X|)−1 < k + 1}, k=1 E[φ(|X|) ] = Z −1 ∞ φ(|X|) dP = −1 ∞ Z X k=0 nên ∞ X k=1 kP{k φ(|X|)−1 < k + 1} < E[φ(|X|)−1 ] k k+1 φ(|X|)−1 dP, (2.2) 23 φ(k)} = ∞ X P{φ(|X|)−1 > k} E[φ(|X|)−1 ] < ∞ k=1 k=1 Đặt X k = Xk 1(|X|6φ(k)) , ta có P∞ k=1 P(Xk , X n ) < ∞ Theo bổ đề Borel-Cantelli ta có ∞ X X k − mk (i) ⇔ → h.c.c g(n) k=1 h(k)  Xét chuỗi ∞ ∞ X X EX k X2 = E 1(|X|6φ(k)) φ(k)2 φ(k)2 k=1 k=1 Do |X| = φ(φ(|X|)−1 ) nên ∞ ∞ X X X2 X2 k + C 1(|X|6φ(k)) (|X|6φ(k)) φ(k)2 φ(k + 1)2 k=1 k=k0 +1 Z ∞ 2 dx k0 + C X φ(|X|)−1 φ(x) k0 + C aφ(|X|)−1 + C b Lấy kì vọng hai vế, suy ∞ X Xk E < ∞ φ(k)2 k=1 Vì E ∞ h X X k − mk i2 φ(k) k=1 nên ta có E ∞ X X − m2 E k k, φ(k) k=1 ∞ h X X k − mk i2 k=1 Do = φ(k) ∞ X X k − mk k=1 φ(k) < ∞ hội tụ h.c.c 24 Với x, dãy (ξ j (x)) độc lập, (X j ) độc lập Hơn nữa, chúng có phân phối Bernoulli, nhận giá trị với xác suất p = F(x) nhận giá trị với xác suất q = − F(x) Rõ hơn, gọi A biến cố thành công phép thử thứ j A = (X j (ω) x) hay {X j (ω) x}, ta có      1 ξ j (x) =     0 A xuất phép thử thứ j, ngược lại Nghĩa là, P(ξ j = 1) = p, P(ξ j = 0) = − p = q Khi đó, số lần xảy biến cố A P n(A) = n1 ξ j (x, ω) ta có Fn (x, ω) = n(A) , F(x) = P(X j (ω) x) = P(A) = p n Sử dụng luật yếu (mạnh) số lớn ta có n(A) P(h.c.c) → P(A) = F(x) n Xét toán chọn cỡ mẫu Cho trước sai số ε, độ tin cậy − α Tìm cỡ mẫu n cho  n(A)   n(A)