Bất đẳng thức đuôi trong xác suất

ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC SƯ PHẠM KHOA TOÁN −−− −−− NGUYỄN THỊ NGỌC TRÂM BẤT ĐẲNG THỨC ĐI TRONG XÁC SUẤT Chun ngành: Cử nhân Tốn ứng dụng KHÓA LUẬN TỐT NGHIỆP Người hướng dẫn: T.S.LÊ VĂN DŨNG Đà Nẵng - 05/ 2015 LỜI CẢM ƠN! Trong suốt q trình học tập hồn thành luận văn này, nhận hướng dẫn, giúp đỡ tận tình q Thầy Cơ, gia đình bạn bè Với lịng kính trọng biết ơn sâu sắc xin bày tỏ lời cảm ơn chân thành tới : - Ban chủ nhiệm Khoa Toán, thầy cán khoa Tốn, trường Đại học Sư Phạm, Đại học Đà Nẵng nhiệt tình giảng dạy giúp đỡ tơi suốt q trình học tập trường - Đặc biệt, xin bày tỏ lòng biết ơn sâu sắc đến thầy T.S Lê Văn Dũng người hết lòng giúp đỡ, dạy bảo, động viên, tạo điều kiện thuận lợi để tơi hồn thành luận văn tốt nghiệp - Nhân xin gởi lời cảm ơn đến gia đình, bạn bè giúp đỡ động viên vật chất lẫn tinh thần suốt trình làm luận văn tốt nghiệp Mặc dù luận văn hoàn thành thời gian qui định điều kiện thời gian kiến thức hạn chế nên luận văn không tránh khỏi thiếu sót Vì vậy, tơi mong nhận đóng góp ý kiến thầy bạn để tạo điều kiện cho luận văn tơi hồn thiện Đà Nẵng, tháng 05 năm 2015 Sinh viên Nguyễn Thị Ngọc Trâm MỤC LỤC Lời cảm ơn! Lời mở đầu Kiến Thức Cơ Sở 1.1 Không gian xác suất 1.2 Biến ngẫu nhiên 1.3 Các tham số đặc trưng Biến ngẫu nhiên 1.4 Định lý Rollie, Định lý giá trị trung bình, Định lý Taylor Bất đẳng thức đuôi 12 2.1 Bất đẳng thức đuôi yếu 12 2.2 Bất đẳng thức đuôi mạnh 20 Kết luận 30 Tài liệu tham khảo 31 LỜI MỞ ĐẦU Lí chọn đề tài Lý thuyết xác suất thống kê phận toán học nghiên cứu tượng ngẫu nhiên ứng dụng chúng vào thực tế Ngày nay, lý thuyết xác suất thống kê sử dụng để nghiên cứu tìm qui luật chi phối đưa phương pháp tính tốn xác suất tượng ngẫu nhiên Nó cơng cụ khơng thể thiếu ta nói đến dự báo, bảo hiểm, cần đánh giá may, nguy rủi ro, Nhà toán học Pháp Laplace kỉ 19 tiên đốn : "Mơn khoa học hứa hẹn trở thành đối tượng quan trọng tri thức nhân loại Rất nhiều vấn đề quan trọng đời sống thực tế thuộc toán lý thuyết xác suất" Và "Bất đẳng thức đuôi xác suất" tốn Mục đích nghiên cứu • Hệ thống lại kiến thức sở lý thuyết xác suất học • Tìm hiểu mở rộng thêm kiến thức bất đẳng thức đuôi xác suất Phương pháp nghiên cứu • Nghiên cứu lí luận: Trước tiên đọc tài liệu liên quan đến nội dung đề tài • Hệ thống hóa kiến thức sở không gian xác suất biến ngẫu nhiên học để áp dụng vào tìm hiểu bất đẳng thức xác suất • Hỏi,trao đổi tham khảo ý kiến giáo viên hướng dẫn,nghiên cứu bất đẳng thức đuôi xác suất Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm • Đưa khái niệm, định lý, hệ quả, chứng minh rõ ràng bất đẳng thức đuôi xác suất Cấu trúc luận văn Bố cục bao gồm chương : • Chương Kiến thức sở,hệ thống hóa kiến thức liên quan để hổ trợ cho việc tìm hiểu bất đẳng thức xác suất • Chương Bất đẳng thức đuôi Do thời gian thực khóa luận khơng nhiều, kiến thức cịn hạn chế nên làm khóa luận khơng tránh khỏi hạn chế sai sót Tơi mong nhận góp ý ý kiến phản biện quý thầy cô bạn đọc Tôi xin chân thành cảm ơn! Đà Nẵng, tháng 05 năm 2015 Sinh viên Nguyễn Thị Ngọc Trâm CHƯƠNG KIẾN THỨC CƠ SỞ 1.1 Không gian xác suất 1.1.1 Phép thử Trong tốn học có khái niệm khơng có định nghĩa mà mơ tả chúng hình ảnh tư trực quan Chẳng hạn hình học khái niệm điểm, đường thẳng, mặt phẳng khái niệm khơng có định nghĩa Trong xác suất, khái niệm phép thử khái niệm khơng có định nghĩa Ta hiểu phép thử việc thực nhóm điều kiện để quan sát tượng có xảy hay khơng Phép thử gọi ngẫu nhiên ta dự báo trước xác kết xảy ta thực phép thử 1.1.2 Không gian mẫu Tập hợp tất kết xảy phép thử ngẫu nhiên gọi khơng gian mẫu Ta thường kí hiệu Ω Cho không gian mẫu Ω Ta xét lớp F tập Ω thoã mãn điều kiện: +∅∈F + Nếu A ∈ F Ac ∈ F + Nếu A1 , A2 , , An , ∈ F ∞ n=1 An ∈F Lớp F gọi σ -đại số tập Ω 1.1.3 Độ đo xác suất Một hàm tập hợp P : F → R gọi độ đo xác suất thoã mãn điều kiện sau: Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm + Với A ∈ F , ≤ P(A) ≤ + P(Ω) = + Nếu A1 ,A2 , ,An , ∈ F đôi không giao nhau(Ai ∩ Ai = ∅ với i = j) ∞ P( ∞ An ) = n=1 P (An ) n=1 Khi phần tử F gọi biến cố P(A) gọi xác suất xảy biến cố A Bộ ba (Ω, F, P ) gọi không gian xác suất 1.2 Biến ngẫu nhiên Định nghĩa 1.1 Cho không gian xác suất (Ω, F, P ) Ánh xạ X : Ω → R gọi Biến ngẫu nhiên X hàm đo được, tức với a ∈ R, {ω ∈ Ω : X(ω) < a} ∈ F 1.2.1 Hàm phân phối xác suất Định nghĩa 1.2 Cho biến ngẫu nhiên X , hàm số F (x) = P (X < x), x ∈ R gọi hàm phân phối xác suất X 1.2.2 Biến ngẫu nhiên độc lập Cho n Biến ngẫu nhiên X1 , , Xn xác định khơng gian mẫu có hàm phân phối xác suất F1 (x), , Fn (x) Ta nói biến ngẫu nhiênX1 , , Xn độc lập với x1 , , xn ∈ R ta có P (X1 < x1 , , Xn < xn ) = F1 (x1 ) Fn (xn ) 1.2.3 Biến ngẫu nhiên rời rạc biến ngẫu nhiên liên tục Ta gọi X biến ngẫu nhiên rời rạc, có miền giá trị hữu hạn vô hạn đếm Nếu biến ngẫu nhiên X có miền giá trị x1 , x2 , , xn bảng số X P x1 P (X = x1 ) x2 P (X = x2 ) xn P (X = xn ) gọi bảng phân phối xác suất biến ngẫu nhiên X Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm Biến ngẫu nhiên X gọi biến ngẫu nhiên liên tục tồn hàm số f : R → R khả tích không âm cho với y ∈ R, y F (y) = f (x)dx, −∞ : F (y) hàm phân phối X Khi đó, f (x) gọi hàm mật độ X 1.3 1.3.1 Các tham số đặc trưng Biến ngẫu nhiên Kỳ vọng toán Cho biến ngẫu nhiên X xác định không gian xác suất (Ω; F; P ), khả tích Lebesgue Kì vọng X , kí hiệu E(X), xác định E(X) = XdP Ω + Nếu Biến ngẫu nhiên rời rạc X có bảng phân phối xác suất X P E(X) = x1 p1 x2 p2 xn pn xk p k k + Nếu Biến ngẫu nhiên liên tục X có hàm mật độ f (x) thì: +∞ E(X) = xf (x)dx −∞ 1.3.2 Phương sai Cho Biến ngẫu nhiên X , số D(X) = E(X − E(X))2 gọi phương sai Biến ngẫu nhiên X + Nếu Biến ngẫu nhiên rời rạc X có bảng phân phối xác suất X P x1 p1 x2 p2 xn pn Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm 2 x k pk − V ar(X) = xk p k k k + Nếu Biến ngẫu nhiên liên tục X có hàm mật độ f (x) :  +∞ +∞ x2 f (x)dx −  V ar(X) = −∞ 1.3.3 2 xf (x)dx −∞ Độ lệch tiêu chuẩn Độ lệch tiêu chuẩn biến ngẫu nhiên X , kí hiệu σ (X) xác định công thức: σ (X) = 1.3.4 V ar(X) Trung vị Số thực m gọi trung vị biến ngẫu nhiên X thỏa mãn P (X < m) ≤ 0.5 P (X > m) ≤ 0.5 Kí hiệu med(X) = m 1.4 1.4.1 Định lý Rollie, Định lý giá trị trung bình, Định lý Taylor Định lý Rollie Cho f (x) hàm liên tục khả vi [a, b], giả sử f (a) = f (b) tồn c ∈ [a, b] mà f (c) = 1.4.2 Định lý giá trị trung bình Cho hàm liên tục f (x) khả vi [a, b] , tồn c ∈ [a, b] cho (2.11) f (c) = f (b) − f (a) b−a Vế phải phương trình gọi độ dốc trung bình Chứng minh Chúng ta xác định g(x) = f (x) − rx, bắt đầu chứng minh Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm (x + A)2 n V ar[X ] k k=1 P ( max |Sk | > x) ≥ − 1≤k≤n Chứng minh Dãy {Ak , ≤ k ≤ n} cho chứng minh trước, ta có Bk = { max |Sj | > x}, với k = 1, 2, , n, 1≤j≤k Chú ý, với k k Ak Aj = Bkc Bk = ∅ j=1 Do (2.4) Sk−1 I{Bk−1 } + Xk I{Bk−1 } = Sk I{Bk−1 } = Sk I{Bk } + Sk I{Ak } Bình phương lấy kỳ vọng vế trái đẳng thức, ta có E[Sk I{Bk−1 }]2 = E[Sk−1 I{Bk−1 } + Xk I{Bk−1 }]2 = E[Sk−1 I{Bk−1 }]2 + E[Xk I{Bk−1 }]2 + 2E[Sk−1 I{Bk−1 }Xk I{Bk−1 }] = E[Sk−1 I{Bk−1 }]2 + V ar[Xk P (Bk−1 )] (2.5) Do tính độc lập, ta tiến hành tương tự cho vế phải đẳng thức E[Sk I{Bk−1 }]2 = E[Sk I{Bk } + Sk I{Ak }]2 = E[Sk I{Bk }]2 + E[Sk I{Ak }]2 + 2E[Sk I{Bk }Sk I{Ak }] = E[Sk I{Bk }]2 + E[Sk−1 I{Ak } + Xk I{Ak }]2 ≤ E[Sk I{Bk }]2 + (x + A)2 P (Ak ), (2.6) Bất đẳng thức cuối có |Sk−1 |I{Ak } < x (2.3) Từ (2.5) (2.6), nhận thấy Bk ⊃ Bn với k, ta có P (Bn )V ar[Xk ] ≤ E[Sk I{Bk }]2 − E[Sk−1 I{Bk−1 }]2 + (x + A)2 P (Ak ), 17 Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm Vì vậy, sau tổng kết lồng vào ta có n n 2 V ar[Xk ] ≤ E[Sn I{Bn }] + (x + A) P P (Bn ) Ak k=1 k=1 ≤ x P (Bn ) + (x + A) P (Bnc ) ≤ (x + A)2 Ta kết luận Chú ý 2.10 Nếu E[Xn ] = supn |Xn − E[Xn ]| ≤ 2A Vì (x + 2A)2 n k=1 V ar[Xk ] P ( max |Sk − E[Sk ]| > x) ≥ − 1≤k≤n Kết xác suất ước tính mơmen tổng phương sai Một kết hội tụ điều kiện cần đủ giúp đỡ nhiều cho bất đẳng thức đảo Viết lại kết luận Định lý 2.9 cho kết Tuy nhiên, chọn lọc ta bỏ qua bất đẳng thức cuối chứng minh Do n V ar[Xk ] ≤ x2 P ( max |Sk | ≤ x) P ( max |Sk | ≤ x) 1≤k≤n 1≤k≤n k=1 +(x + A)2 P ( max |Sk | > x) 1≤k≤n Ta cải tổ lại thành ước lượng tổng phương sai ghi lại kết riêng biệt Hệ 2.11 Cho X1 , X2 , , Xn biến ngẫu nhiên độc lập với E[Xn ] = , với số A > sup |Xn | ≤ A (2.7) n n V ar[Xk ] ≤ x2 + k=1 (x + A)2 P (max1≤k≤n |Sk | > x) , P (max1≤k≤n |Sk | ≤ x) Đặc biệt, P (max1≤k≤n |Sk | > x) < δ với δ ∈ (0, 1) n V ar[Xk ] ≤ x2 + (x + A)2 k=1 δ 1−δ Sau tổng quát bất đẳng thức Kolmogorov để tính tổng 18 Bất đẳng thức xác suất SVTH: Nguyễn Thị Ngọc Trâm Định lý 2.12 (Bất đẳng thức Hájek-Resnyi) Cho X1 , X2 , , Xn biến ngẫu nhiên độc lập với E[Xn ] = {ck , ≤ k ≤ n} số thực dương khơng tăng, n k=1 ck V ar[Xk ] ,x x2 P ( max |Sk | ≤ x) ≤ 1≤k≤n > Chú ý 2.13 Nếu ck = với k , bất đẳng thức quy bất đẳng thức Kolmogorov Chú ý 2.14 Lưu ý khác biệt n max ck |Sk | 1≤k≤n cj |Xj |, max 1≤k≤n j=1 Và ứng dụng trực tiếp bất đẳng thức Kolmogorov cung cấp cực đại gần giống cận Chứng minh Chứng minh dựa theo chứng minh Định lý 2.8 Do với k = 1, 2, , n , ta có Ak = { max |cj Sj | ≤ x, |ck Sk | > x}, 1≤j≤k−1 Cho nên n { max |ck Sk | > x} = 1≤k≤n Ak , k=1 Với Ak dãy rời Bởi tổng riêng tính độc lập, nên ta có n n c2k V ar[Xk ] c2k (V ar[Sk ] − V ar[Sk−1 ]) = k=1 k=1 n−1 (c2k − c2k+1 )V ar[Sk ] + c2n V ar[Sn ] = k=1 n−1 (c2k − c2k+1 )E[Sk2 ] + c2n E[Sn2 ] = k=1 Hơn nữa, E[Sk2 {Aj }] ≥ E[Sj2 {Aj }] với k ≥ j , xác chứng minh Định lý 2.8 Quay lại chứng minh với thay đổi nhỏ, ta đến với 19 Bất đẳng thức đuôi xác suất n n n c2k V ar[Xk ] SVTH: Nguyễn Thị Ngọc Trâm c2k V ar[Xk I{Aj }] ≥ j=1 k=1 k=1 n n−1 n (c2k = j=1 j=1 k=1 n n−1 n (c2k ≥ j=1 n−1 n (c2k ≥ j=1 (c2k n x2 x2 − ck+1 ) E[I{Aj }] + c2n E[I{Aj }] cj cj j=1 (c2k n x2 x2 − ck+1 ) P (Aj ) + c2n P (Aj ) cj cj j=1 n−1 ≥ j=1 k=j n n−1 = j=1 k=j n =x n P (Aj ) = x P j=1 2.2 c2n E[Sj2 I{Aj }] − c2k+1 )E[Sj2 I{Aj }] + j=1 k=j n c2n E[Sn2 I{Aj }] − c2k+1 )E[Sk2 I{Aj }] + j=1 k=j n c2n E[Sn2 I{Aj }] − c2k+1 )E[Sk2 I{Aj }] + Aj = x2 P ( max |ck Sk | > x) 1≤k≤n j=1 Bất đẳng thức đuôi mạnh Định lý 2.15 (Chặn đuôi Chernoff) Giả sử X tổng n biến ngẫu nhiên Xi độc lập, Xi ∈ {0, 1} biến ngẫu nhiên Bernoulli với xác suất P (Xi = 1) = p P (Xi = 0) = − p Cho E[X] = n i=1 E[Xi ] = np = µ, τ ∈ [0, 1] Khi ta có (2.8) P (X < (1 − τ )µ) < exp − τ 2µ < exp − τ 2µ Chứng minh Khi hàm mũ đơn điệu, có biến t ∈ R chứng minh sau P (X < (1 − τ )µ) = P (tX < t(1 − τ )µ) = P (−tX > −t(1 − τ )µ) = P (e−tX > e−t(1−τ )µ ) < E[e−tX ] = E[e−tX ]et(1−τ )µ −t(1−τ )µ e 20 Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm Hàm cuối bất đẳng thức ta thu cách áp dụng bất đẳng thức Markov(2.1) Khi Xi ∈ {0, 1} trung bình mẫu đồng độc lập, giá trị kỳ vọng e−tX n n −tX E[e −tXi E[e ]= (1 − p)e0 + pe−t ]= i=1 i=1 n p(e−t − 1) + < exp(np(e−t − 1)) = i=1 = exp(µ(e−t − 1)) Dòng thứ hai ta thu cách sử dụng định lý taylor khai triển cho hàm exp(et − 1), exp(p(e−t − 1)) = + p(e−t − 1) p2 (e−t − 1)2 + + > p(e−t − 1) + 1! 2! Từ phía trên, ta có P (X < (1 − τ )µ) < exp(µ(e−t − 1))et(1−τ )µ = exp(µ(e−t − 1) + t(1 − τ )µ) Để ràng buộc chặt chẽ, lấy đạo hàm exp(µ(e−t − 1) + t(1 − τ )µ) tối ưu hóa t ∂µ(e−t − 1) + t(1 − τ )µ ∂exp(µ(e−t − 1) + t(1 − τ )µ) −t = exp(µ(e − 1) + t(1 − τ )µ) ∂t ∂t −t −t = exp(µ(e − 1) + t(1 − τ )µ)(−µe + µ(1 − τ )) = Ta thu nghiệm cách Cho −e−t + (1 − τ ) = ⇒ e−t = (1 − τ ) ⇒ t∗ = −ln(1 − τ ) = ln 1−τ ta có t∗ = ln 1−τ = −ln(1 − τ ) Thay t∗ vào exp(µ(e−t − 1) + t(1 − τ )µ) ta ∗ exp(µ(e−t − 1) + t∗ (1 − τ )µ) = exp(µ[(1 − τ ) − 1] − ln(1 − τ )(1 − τ )µ) = exp(−µτ − ln(1 − τ )(1 − τ )µ) Áp dụng định lý Taylor ta khai triển ln(1 − τ ) = (1 − τ − 1) − (1 − τ − 1)2 (1 − τ − 1)3 τ2 τ3 + − = −τ − − − 3 21 Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm ta có −(1 − τ )ln(1 − τ ) ≤ −(1 − τ ) −τ − τ2 − ≤τ− τ2 τ2 + số âm < τ − 2 Thế bất đẳng thức vào exp(µ(e−t − 1) + t(1 − τ )µ) ta ∗ exp(µ(e−t − 1) + t∗ (1 − τ )µ) = exp(−µτ − ln(1 − τ )(1 − τ )µ) < exp −µτ + µ τ − = exp − τ2 µτ 2 Đặt tất bất đẳng thức lại với nhau, ta có P (X < (1 − τ )µ < exp − µτ 2 Định lý 2.16 (Chặn đuôi Chernoff) Giả sử X tổng n biến ngẫu nhiên Xi độc lập, Xi ∈ {0, 1} biến ngẫu nhiên Bernoulli với xác suất P (Xi = 1) = p P (Xi = 0) = − p Cho E[X] = n i=1 E[Xi ] = np = µ, τ ∈ [0, 1] Khi ta có P (X > (1 + τ )µ) < exp − (2.9) τ 2µ Chứng minh Cho biến t ∈ R, ta chứng minh sau P (X > (1 + τ )µ) = P (tX > t(1 + τ )µ) = P (etX > et(1+τ )µ ) < E[etX ] = E[etX ]e−t(1+τ )µ et(1+τ )µ Hàm cuối bất đẳng thức ta thu cách áp dụng bất đẳng thức Markov(2.1) Khi Xi ∈ {0, 1} trung bình mẫu đồng độc lập, giá trị kỳ vọng etX n E[etX ] = n E[etXi ] = i=1 n (1 − p)e0 + pet i=1 p(et − 1) + < exp(np(et − 1)) = i=1 = exp(µ(et − 1)) 22 Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm Dòng thứ hai ta thu cách sử dụng định lý taylor khai triển cho hàm exp(et − 1), exp(p(et − 1)) = + p(et − 1) p2 (et − 1)2 + + > p(et − 1) + 1! 2! Từ phía trên, ta có P (X > (1 + τ )µ) < exp(µ(et − 1))e−t(1+τ )µ = exp(µ(et − 1) − t(1 + τ )µ) Để ràng buộc chặt chẽ, lấy đạo hàm exp(µ(et − 1) − t(1 + τ )µ) tối ưu hóa t ∂exp(µ(et − 1) − t(1 + τ )µ) ∂µ(et − 1) − t(1 + τ )µ = exp(µ(et − 1) − t(1 + τ )µ) ∂t ∂t t t = exp(µ(e − 1) − t(1 + τ )µ)(µe − µ(1 + τ )) = Ta thu nghiệm cách Cho et − (1 + τ ) = ⇒ et = (1 + τ ) ⇒ t∗ = ln(1 + τ ) ta có t∗ = ln(1 + τ ) Thay t∗ vào exp(µ(et − 1) − t(1 + τ )µ) ta ∗ exp(µ(et − 1) − t∗ (1 + τ )µ) = exp(µ[(1 + τ ) − 1] − ln(1 + τ )(1 + τ )µ) = exp(µτ − ln(1 + τ )(1 + τ )µ) Khai triển ln(1 + τ ) = (1 + τ − 1) − (1 + τ − 1)2 (1 + τ − 1)3 τ2 τ3 + − = τ − + − 3 ta có (1 + τ )ln(1 + τ ) = (1 + τ ) τ − τ2 τ3 + − =τ+ τ2 τ3 τ4 − + − 12 Thế bất đẳng thức vào ∗ exp(µ(e−t − 1) − t∗ (1 − τ )µ) = exp(µτ − ln(1 + τ )(1 + τ )µ) = exp µτ − µ τ + µτ µτ ≤ exp − + 23 τ2 τ3 τ4 − + − 12 Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm Bất đẳng thức cố định τ ∈ [0, 1] chuỗi đan dấu trội số hạng âm (sau bậc 4) Lưu ý − µτ µτ µτ µτ µτ + ≤− ⇒ exp − + 6 ≤ exp − µτ Đặt tất bất đẳng thức lại với nhau, ta có µτ P (X > (1 + τ )µ) < exp − Định lý 2.17 (Chặn hai phía Chernoff) Cho ≤ τ ≤ 1, phía giới hạn P (|X − µ| > τ µ) < 2e− (2.10) µτ Chứng minh P (|X − µ| > τ µ) = P ((X − µ) > τ µ) + P ((X − µ) < −τ µ) = P (X > τ µ + µ) + P (X > −τ µ + µ) = P (X > µ(1 + τ )) + P (X > µ(1 − τ )) < exp − µτ + exp − µτ 2 < exp − µτ + exp − µτ = 2exp − µτ Bất đẳng thức thu cách sử dụng phương trình (2.8) (2.9) Ta có P (|X − µ| > τ µ) < 2exp − µτ mong muốn Ứng dụng: Tìm cỡ mẫu Trong thực tế ta thường quan tâm đến tốn: cho trước α Tìm n cho P | n(A) − p| < n 24 ≥1−α Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm gọi sai số, − α độ tin cậy, n cỡ mẫu Theo bất đẳng thức Chebyshev cần chọn n= 2α +1 Theo định lý giới hạn trung tâm cần chọn x2 (α) +1 42 n= Theo bất đẳng thức mũ cần chọn n= ln(2/α) +1 22 Đặt n1 (α) = 2α , n2 (α) = x2 (α) ln(2/α) , n3 (α) = 22 (|x| phần nguyên x) Người ta chứng minh lim n1 (α) =∞ n2 (α) lim n2 (α) =1 n3 (α) α↓0 α↓0 Định lý 2.18 (Bất đẳng thức đuôi Hoeffding) Cho X tổng n biến ngẫu nhiên độc lập X = n i=1 Xi , Xi bị chặn [li , ui ] E[Xi ] = Khi ta có (2.13) P (X − E[X] > θ) ≤ e − 2θ n (u −li)2 i=1 i Chứng minh Ta bắt đầu với vế trái phương trình cho biến t > 0, ta phép thừa nhận điều phát biểu trước hàm mũ đơn điệu Ta sử dụng bất đẳng thức Markov sau P (X − E[X] > θ) = P (et(X−E[X]) > etθ ) E[et(X−E[X]) ] etθ −tθ = e E[et(X−E[X]) ] < n −tθ E[et(Xi −E[Xi ]) ] =e i=1 25 Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm (2.14) Khi Xi bị chặn [li , ui ], ta có li ≤ Xi ≤ ui Cho λi ∈ [0, 1] định nghĩa λi = ui − Xi ui − li Chú ý λi = u i − Xi ⇒ λi (ui − li ) = ui − Xi ⇒ λli + (1 − λi )ui = Xi ui − li Và − λi = Xi − li ui − li ui − Xi − = ui − li ui − li ui − li Ở ta nhắc lại bất đẳng thức Jensen: Cho hàm lồi f, với λ ∈ [0, 1] ta có f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y) Tiếp theo, ta áp dụng bất đẳng thức Jensen et(Xi −E[Xi ]) = (e−E[Xi ] eXi )t = (e−E[Xi ] e(λli +(1−λi )ui ) )t ≤ e−tE[Xi ] (λi etli + (1 − λi )etui ) u i − Xi ui − li = e−tE[Xi ] etli + Xi − li ui − li etui Lấy giá trị kỳ vọng phương trình trên, ta E[et(Xi −E[Xi ]) ] = E e−tE[Xi ] = e−tE[Xi ] E = e−tE[Xi ] = ui ui − li u i − Xi ui − li etli + Xi − li ui − li etui ui − Xi ui − li etli + Xi − li ui − li etui ui − E[Xi ] ui − li etli + E[Xi ] − li ui − li etli − 26 li ui − li etui etui Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm Sắp xếp lại số hạng ta có ui ui − li etli − li ui − li etui = 1+ li ui − li li ui − li etui = 1− −li t(ui −li ) −li + e ui − li ui − li etli etli − = (1 − θ + θet(ui −li ) )etli , cho θ = −li t = (1 − θ + θet(ui −li ) )e −li ui − li −(ui −li ) ui −li = (1 − θ + θet(ui −li ) )e−θt(ui −li ) = (1 − θ + θevi )e−θvi , cho vi = t(ui − li ) = eφ(vi ) , Tại φ(vi ) = ln(1 − θ + θevi ) − θ(vi ) Đặt đẳng thức lại với ta (2.15) E[e(Xi −E[Xi ]) ] = (1 − θ + θevi )e−θ(vi ) = eφ(vi ) Tiếp theo, sử dụng Định lý phần dư chuỗi Taylor (2.12) thứ tự từ tới xấp xỉ hàm φ(vi ) sau φ(vi ) = φ(0) + φ (0) + vi2 φ (ω) ω ∈ [0, vi ] Rất dễ dàng để thử lại φ(0) = 0, φ (0) = phần dư hàm tính sau φ (ω) = = d dω θeω −θ − θ + θeω (1 − θ + θeω )θeω − θ2 e2ω (1 − θ + θeω )2 θeω − θ + θeω θeω − θ + θeω θeω = p(1 − p), p = − θ + θeω = 1− Giá trị tối đa p = 1/2 p(1 − p) = 1/4 Xấp xỉ Taylor φ(vi ) = u2 t2 (ui − li )2 = 8 27 Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm Thay phương trình vào (2.15) để có t2 (ui − li )2 E[e(Xi −E[Xi ]) ] = eφ(vi ) = exp Xác định lại (2.14) thay phương trình vào(2.14) có n E[et(Xi −E[Xi ]) ] −tθ P (X − E[X] > θ) < e i=1 n = e−tθ t2 (ui − li )2 exp i=1 − li )2 n i=1 (ui t2 = exp n i=1 (ui t2 = e−tθ exp − li )2 − tθ (2.16) Đạo hàm phương trình cuối theo t ta ∂ exp ∂t = exp = exp t2 n i=1 (ui − li )2 t2 n i=1 (ui − li )2 t2 n i=1 (ui − li )2 − tθ ∂ ∂t − tθ 2t − tθ n i=1 (ui t2 − li )2 n i=1 (ui − li )2 − tθ −θ =0 Chú ý có nghiệm, ta quan tâm đến nghiệm hữu hạn Nghiệm tối ưu 2t n i=1 (ui − li )2 = ⇒ t∗ = −θ θ n i=1 (ui − li )2 Để có kết mong muốn, thay t = t∗ vào (1.12) ta P (X − E[X] > θ) < exp t∗2 n i=1 (ui − li )2 P (X − E[X] > θ) < exp ĐPCM 28 − t∗ θ = exp −2θ2 − li )2 n i=1 (ui −2θ2 − li )2 n i=1 (ui Bất đẳng thức đuôi xác suất SVTH: Nguyễn Thị Ngọc Trâm Định lý 2.19 (Bất đẳng thức đuôi Hoeffding)Cho X tổng n biến ngẫu nhiên độc lập X = n i=1 Xi , Xi bị chặn [li , ui ] E[Xi ] = Khi ta có (2.17) −2θ2 − li )2 P (E[X] − X > θ) < exp n i=1 (ui Chứng minh bất đẳng thức tương tự Đuôi thay t < cho t > Định lý 2.20 (Bất đẳng thức Hoeffding (Hai đuôi)) Cho X tổng n biến ngẫu nhiên độc lập với X = n i=1 Xi , Xi bị chặn [li , ui ] E[Xi ] = Bất đẳng thức Hoeffding phát biểu P (|X − E[X]| > θ) < 2exp −2θ2 − li )2 n i=1 (ui Chứng minh Sử dụng phần chứng minh đuôi dưới, ta có P (|X − E[X]| > θ) = P (X − E[X] > θ) + P (X − E[X] < −θ) = P (X − E[X] > θ) + P (E[X] − X > θ) < 2exp −2θ2 n i=1 (ui − li ) 29 KẾT LUẬN Sau thời gian tìm hiểu, học hỏi từ tài liệu thầy T.S Lê Văn Dũng cung cấp, hướng dẫn, tơi hồn thành đề tài Kết đạt được: Tổng hợp kiến thức sở không gian xác suất, biến ngẫu nhiên, đại lượng đặc trưng biến ngẫu nhiên Trình bày bất đẳng thức đuôi, đưa định lý giá trị trung bình, khai triển Taylor, định lý Rollie Từ chứng minh bất đẳng thức đưa hệ quả, ý, ứng dụng Do thời gian thực khơng nhiều, kiến thức cịn hạn chế nên khóa luận cịn nhiều thiếu sót, mong nhận ý kiến đóng góp q thầy bạn đọc! 30 TÀI LIỆU THAM KHẢO [1] Abramowitz, M Stegun, I (1970), Handbook of Mathematical Functions, Dover, New York [2] Nguyễn Viết Phú Nguyễn Duy Tiến (2007), Cơ sở lý thuyết xác suất, NXB ĐHQG Hà Nội [3] Nguyễn Duy Tiến Vũ Viết Yên (2009), Lý thuyết xác suất, NXB Giáo dục [4] Feller, W (1968), Introduction to Probability Theory and Its Applications (Volume 1), Wiley, New York [5] Feller, W (1971), Introduction to Probability Theory and Its Applications (Volume 2), Wiley, New York [6] Patel, J Read, C (1996), Handbook of the normal distribution, Marcel Dekker, New York [7] Pitman, J (1992), Probability, Springer, New York [8] Allan Gut (2005), Probability: A Graduate Course, Springer, New York [9] Lê Cam, L (1986), Định lý giới hạn trung tâm khoảng năm 1935, người thống kê Sci., 1, 78-91 31 ... gian xác suất biến ngẫu nhiên học để áp dụng vào tìm hiểu bất đẳng thức xác suất • Hỏi,trao đổi tham khảo ý kiến giáo viên hướng dẫn,nghiên cứu bất đẳng thức đuôi xác suất Bất đẳng thức đuôi xác. .. Định lý giá trị trung bình, Định lý Taylor Bất đẳng thức đuôi 12 2.1 Bất đẳng thức đuôi yếu 12 2.2 Bất đẳng thức đuôi mạnh 20 Kết luận 30... Calculus Stewart 11 CHƯƠNG BẤT ĐẲNG THỨC ĐUÔI Chương chứng minh chi tiết bất đẳng thức đuôi, phương pháp phổ biến sử dụng để tìm giá trị ngoại lai 2.1 Bất đẳng thức đuôi yếu Bổ đề 2.1 Giả sử g