(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng

(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng(Luận văn thạc sĩ) Độ lệch lớn cho dãy các biến ngẫu nhiên Bernoulli và áp dụng

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC  - TẠ THỊ THẮM ĐỘ LỆCH LỚN CHO DÃY CÁC BIẾN NGẪU NHIÊN BERNOULLI VÀ ÁP DỤNG LUẬN VĂN THẠC SĨ TOÁN HỌC THÁI NGUYÊN - 2021 ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC  - TẠ THỊ THẮM ĐỘ LỆCH LỚN CHO DÃY CÁC BIẾN NGẪU NHIÊN BERNOULLI VÀ ÁP DỤNG Chuyên ngành: Toán ứng dụng Mã số : 46 01 12 LUẬN VĂN THẠC SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC TS Trần Xuân Quý TS Đỗ Thị Phương Quỳnh THÁI NGUYÊN - 2021 Mục lục Danh sách kí hiệu Mở đầu Chương Luật số lớn cho dãy biến ngẫu nhiên có phân phối Bernoulli 1.1 Một số khái niệm kết liên quan 1.2 Entropi 11 1.3 Áp dụng Luật số lớn cho dãy biến ngẫu nhiên có phân phối Bernoulli 15 Chương Các định lý giới hạn, độ lệch lớn toán đánh giá xác suất thành cơng cho dãy biến ngẫu nhiên có phân phối Bernoulli 17 2.1 Một số định lý quan trọng 18 2.1.1 Định lý giới hạn địa phương 18 2.1.2 Định lý khả tích De Moivre - Laplace 21 2.1.3 Định lý Poisson 26 2.2 Quan hệ định lý De Moivre với Luật số lớn 29 2.3 Độ lệch lớn cho dãy biến ngẫu nhiên có phân phối Bernoulli 32 2.4 Đánh giá xác suất thành cơng dãy biến ngẫu nhiên có phân phối Bernoulli 35 Kết luận 42 Tài liệu tham khảo 43 Danh sách kí hiệu N Tập hợp số tự nhiên R Tập hợp số thực R+ Tập hợp số thực dương n! đọc n giai thừa, ký hiệu cho tích 1.2 .n max Cực đại Cực tiểu sup Cận lớn (Ω, A, P) Không gian xác suất 2X Họ tập hợp khác rỗng X a1 + a2 + + an P Độ đo xác suất ξi Biến ngẫu nhiên ξi {ξ } Biến cố {ω ∈ Ω : ξ(ω) } E(X) Kỳ vọng hay giá trị trung bình biến ngẫu nhiên X p-lim Giới hạn hội tụ theo xác suất h.c.c Hầu chắn exp(x) ex n k Số tổ hợp chập k n, hay n k = Cnk = n! k!(n−k)! Mở đầu Lý thuyết xác suất thống kê phận toán học, nghiên cứu tượng ngẫu nhiên ứng dụng chúng vào thực tế Là tượng ngẫu nhiên nên nói trước xảy hay khơng xảy thực quan sát Tuy nhiên, tiến hành quan sát nhiều lần tượng ngẫu nhiên phép thử nhau, ta rút kết luận khoa học tượng Trong lý thuyết xác suất, độ lệch lớn liên quan tới dáng điệu đuôi dãy phân phối xác suất, cho phép đánh giá tốc độ hội tụ họ biến cố với xác suất lớn Luật số lớn phần Lý thuyết xác suất thống kê Trong thực tế, tượng ngẫu nhiên nhiều nguyên nhân ngẫu nhiên gây Việc tìm hiểu kiện để tượng xảy theo quy luật ý nghĩa nội dung “luật số lớn” Với khuôn khổ đề tài luận văn thạc sĩ, tác giả tập trung trình bày “Độ lệch lớn cho dãy biến ngẫu nhiên Bernoulli áp dụng” Mục đích đề tài luận văn trình bày ý nghĩa thực nghiệm luật số lớn, địnhlý giới hạn, độ lệch lớn cho dãy biến ngẫu nhiên Bernoulli đánh giá xác suất thành cơng dãy Bernoulli Ngồi phần Mở đầu, phần Kết luận, luận văn trình bày hai chương, gồm nội dung: Chương Luật số lớn cho dãy biến ngẫu nhiên có phân phối Bernoulli Chương Các định lý giới hạn, độ lệch lớn, tốn đánh giá xác suất thành cơng cho dãy biến ngẫu nhiên có phân phối Bernoulli Trong q trình học tập nghiên cứu trường Đại học Khoa học, Đại học Thái Nguyên, em nhận quan tâm giúp đỡ động viên thầy Ban Giám hiệu, Phịng Đào tạo Khoa Toán -Tin Qua đây, em gửi lời tri ân tới tập thể thầy cô giảng viên trường Đại học Khoa học – Đại học Thái Nguyên nói chung Khoa Tốn - Tin nói riêng, truyền thụ cho em nhiều kiến thức khoa học quý báu thời gian em học viên trường Tác giả xin chân thành cảm ơn Ban Giám hiệu trường THPT Nam Khối Châu, Hưng n, tồn thể anh chị em đồng nghiệp tạo điều kiện tốt cho tác giả thời gian học Cao học; cảm ơn anh chị em học viên lớp Cao học Toán K13 bạn bè đồng nghiệp trao đổi, động viên khích lệ tác giả trình học tập làm luận văn trường Đại học Khoa học, Đại học Thái Nguyên Đặc biệt em xin bày tỏ lòng biết ơn sâu sắc tới giáo viên hướng dẫn - TS Trần Xuân Quý TS Đỗ Thị Phương Quỳnh quan tâm ân cần bảo, động viên khích lệ, giúp đỡ tận tình góp ý sâu sắc cho em suốt trình học tập thực đề tài Chặng đường vừa qua kỉ niệm đáng nhớ đầy ý nghĩa anh chị em học viên lớp K13 nói chung với thân em nói riêng Dấu ấn hiển nhiên thiếu hỗ trợ, sẻ chia đầy yêu thương tất người thân gia đình Xin chân thành cảm ơn tất người thân yêu giúp đỡ, đồng hành em chặng đường vừa qua Một lần nữa, em xin trân trọng cảm ơn! Thái Nguyên, ngày 25 tháng 01 năm 2021 Học viên Tạ Thị Thắm Chương Luật số lớn cho dãy biến ngẫu nhiên có phân phối Bernoulli 1.1 Một số khái niệm kết liên quan Trong mục giới thiệu vế dãy biến ngẫu nhiên có phân phối Bernoulli, bất đẳng thức Chebysev sử dụng cho đánh giá chương sau Cho ba (Ω, A, P) với Ω = {ω : ω = (a1 , , an )}; A = {A : A ⊂ Ω}; p(ω) = p · qn− ; gọi sơ đồ Bernoulli Trong phần phần ta nghiên cứu số tính chất giới hạn sơ đồ Bernoulli Xét dãy biến ngẫu nhiên {ξ1 ; ; ξn } xác định sau: ξi (ω) := ; i := 1; ; n; ω = (a1 , , an ) Các biến ngẫu nhiên Bernoulli ξi (ω)i độc lập với có phân phối xác suất: P{ξi = 1} := p; P{ξi = 0} := q; i = 1, , n Khi đó, biến ngẫu nhiên ξi coi kết phép thử thứ i (hoặc lần thứ i) Ta đặt S := 0; S k (ω) := ξ1 + · · · + ξk ; với k = 1, , n Từ suy ES n = E(ξ1 + · · · + ξn ) = E(ξ1 ) + · · · + E(ξn ); ⇒E Sn = p n Mặt khác, giá trị trung bình số lần thử thành cơng (nghĩa (1.1) Sn ) n trùng với xác suất thành công p Trước hết, lưu ý, ta cho rằng: với ε > đủ nhỏ với n đủ lớn độ lệch Sn n với p bé ε, ∀ω Nghĩa S n (ω) − p < ε, ∀ω ∈ Ω n (1.2) Thực vậy, với < p < 1: Sn := = P{ξ1 = 1, , ξn = 1} := pn ; n Sn P := = P{ξ1 = 0, , ξn = 0} := qn n P Từ cho thấy rằng, (1.2) không thỏa mãn với ε đủ nhỏ Tuy nhiên, với n đủ lớn ta thu xác suất biến cố Sn n = Sn n = nhỏ Do đó, cách tự nhiên cho xác suất biến cố Sn −p >ε n nhỏ với n đủ lớn Từ đó, ta đánh giá xác suất biến cố ω: Sn −p >ε n Với mục đích đó, ta phải sử dụng bất đẳng thức sau: Mệnh đề 1.1.1 (Bất đẳng thức Chebysev) Cho (Ω, A, P) không gian xác suất ξ = ξ(ω) biến ngẫu nhiên không âm P{ξ ε} Eξ , ∀ε > ε (1.3) Chứng minh Ta có ξ = ξ · I{ξ ε} + ξ · I{ξ < ε} ξ · I{ξ ε} ξ · I{ξ ε}, I(A) hàm tiêu A Lấy kỳ vọng toán hai vế: ε · P{ξ Eξ ε} Hệ 1.1.2 Nếu ξ biến ngẫu nhiên bất kỳ, với ε, ta có E|ξ| ε P{|ξ| ε} P{|ξ| ε} = P{|ξ|2 Trong bất đẳng thức cuối (1.4) thay ξ = Sn P −p n (1.4) Dξ ε2 ε} P{|ξ − Eξ| E|ξ|2 ε2 ε2 } D ε Sn , n Sn n ε ta = pq nε2 Do P Sn −p n ε Từ cho thấy rằng: với n đủ lớn, xác suất để Với n k pq nε2 Sn n 4nε2 (1.5) lệch so với xác suất p lớn ε nhỏ n, ta viết Pn (k) = n · pk · q(n−k) k P Sn −p n ε = Pn (k) {k:| nk −p| ε} Từ ta thu Pn (k) {k:| nk −p| ε} pq nε2 4nε2 (1.6) Từ (1.6) ta thấy Pn (k) → 0, (n → ∞) {k:| nk −p| ε} Ta phân tích hình vẽ sau (1.7) Hình 1.1 Ta biểu diễn phân phối nhị thức {Pn (k), k n} Hình 1.1 Khi n tăng hình vẽ mở rộng trở nên phẳng hơn, thời điểm Pn (k) → {k:| nk −p| ε} với np − nε k np + nε Xét dãy biến ngẫu nhiên: S , , S n đường riêng không ổn định (1.7) giải thích sau: Khi n đủ lớn, điểm S n xác định vị trí phần tử thời điểm n nằm khoảng [n(p − ε), n(p + ε)] với xác suất tương đối lớn (xấp xỉ 1) Xem Hình 1.2 Ta viết lại dạng sau: P Sn −p n ε → 0, (n → ∞) (1.8) Ta thấy, biểu thức (1.8) thực xác định P xác suất khơng gian (Ω, A), có nhiều dãy vơ hạn biến ngẫu nhiên độc lập có phân phối Bernoulli: ξ1 , ξ2 , định nghĩa Các không gian xây dựng (1.8) xác định theo ý nghĩa xác suất hồn tồn chặt chẽ Theo trên, ta thấy ngồi cơng cụ giải tích sử dụng ngơn ngữ lý thuyết xác suất, ta chứng minh sau: Cho (Ω(n) , A(n) , P(n) ), n dãy có phân phối Bernoulli cho (n) (n) Ω(n) = {ω(n) : ω(n) = (a(n) , , a − n ); := 0, 1}, 29 Fk = B(p1 ) ∗ · · · ∗ B(pk−1 ) ∗ Π(pk+1 ) ∗ · · · ∗ Π(pk ), k n−1 Fn = B(p1 ) ∗ B(p2 ) ∗ · · · ∗ B(pn−1 ) B(pk ) − Π(pk ) Từ (2.34) ta suy Rk n B(pk ) − Π(pk ) ⇒ B−Π k=1 Áp dụng Hệ 2, trang 362, A N Shiryaev (xem [6]), ta có B(pk ) − Π(pk ) = |(1 − pk ) − e−pk | + |pk − pk e−pk | + j pkj e−pk j! = |(1 − pk ) − e−pk | + |pk − pk e−pk | + − e−pk − pk e−pk = 2pk (1 − e−pk ) 2p2k Từ ta điều phải chứng minh n k=1 Hệ 2.1.7 Từ bất đẳng thức 2.2 p2k λ · max1 k n pk ta thu (2.31) Quan hệ định lý De Moivre với Luật số lớn Ta có P Sn −p n ε =P S n − np √ npq ε n pq Từ định lý giới hạn trung tâm ta có ε − √ · 2π Sn P −p n ε −ε √n pq x2 − √ n e → 0, (n → ∞) (2.35) pq với ε > P Sn −p n ε → 1, (n → ∞) Đây kết luận Luật số lớn Từ (2.35) suy ε ∼ √ · 2π Sn P −p n ε −ε √n pq x2 − √ n e , (n → ∞) pq Theo bất đẳng thức Chebysev P Sn −p n ε 1− pq nε2 (2.36) 30 ta thu đánh giá n 4αε2 Đó số quan sát cần thực để xảy bất đẳng thức sau P Sn −p n ε − α Ta giải tốn cách sử dụng (2.36) Khi đó, ta định nghĩa số k(α) √ · 2π Từ bất đẳng thức ε n pq k(α) x2 e− dx = − α −k(α) √ 2ε n, ta định nghĩa n số nguyên nhỏ thỏa mãn √ 2ε n k(α), (2.37) ε (2.38) ta tìm P Sn −p n Từ (2.37) ta tìm số n nhỏ n − α k2 (α) , 4ε2 (2.39) thỏa mãn (2.38) Với ví dụ xét ε = 0, 05, α = 0, 02 Trên thực tế cần thực 2.500 phép thử đủ, cịn sử dụng bất đẳng thức Chebysev phải cần tới 12.500 phép thử! Các giá trị k(α) lập bảng Sau ta trích dẫn số giá trị k(α) cho số giá trị α α k(α) 0,5 0,675 0,3173 1,000 0,10 1,645 0,05 1,960 0,0454 2,000 0,01 2,576 0,0027 3,000 31 Phân phối chuẩn Trong định lý Khả tích De Moivre-Laplace ta biết hàm số Φ(x) = √ 2π x t2 e− dt, (2.40) −∞ hàm đóng vai trò quan trọng lý thuyết xác suất, người ta gọi phân phối chuẩn phân phối Gaussian đường thẳng thực với hàm mật độ: x2 ϕ(x) = √ e− , x ∈ R1 2π Ta gặp phân phối rời rạc nhận tập hợp hữu hạn đếm được, phân phối chuẩn thuộc lớp phân phối quan trọng phát sinh lý thuyết xác suất Ở đây, ta nói vai trò khác thường phân phối chuẩn Ta biết tổng dãy biến ngẫu nhiên độc lập (không thiết phải dãy Bernoulli) xấp xỉ phân phối chuẩn Ta đề cập tới số tính chất đơn giản ϕ(x) Φ(x) mà đồ thị rõ Hình 2.3 Hình 2.4 Hình 2.3: Đồ thị hàm mật độ phân phối chuẩn ϕ(x) Hàm ϕ(x) đường cong hình chng đối xứng, với x > hàm giảm nhanh x tăng ϕ(1) = 0, 24197, ϕ(2) = 0.0533991, ϕ(3) = 0, 004432, ϕ(4) = 0.000134, ϕ(5) = 0, 000016 Nó đạt max x = max ϕ(x) = √ = 0, 399 2π 32 Hình 2.4: Đồ thị hàm phân phối chuẩn Φ(x) Đường cong Φ(x) = x t2 √1 e− dt 2π −∞ tiến tới nhanh x tăng: Φ(1) = 0, 84135, Φ(2) = 0977250, Φ(3) = 0, 998650, rΦ(4) = 0, 99968, Φ(4, 5) = 0, 99997 Việc lập bảng hàm Φ(x) ϕ(x) số hàm quan trọng khác sử dụng lý thuyết xác suất thống kê toán 2.3 Độ lệch lớn cho dãy biến ngẫu nhiên có phân phối Bernoulli Trong Chương 1, ta thu Pω: Sn −p n ε 4nε2 từ bất đẳng thức Chebysev Tuy nhiên, đánh giá khơng chặt, ta sử dụng bất đẳng thức Chebysev dạng sau: P{X ε} = P{X 2k ε2k } EX 2k ε2k (2.41) 33 Nhưng ta đánh giá mạnh dạng mũ P{X λX ε} = P{e EeλX = Eeλ(X−ε) λε e λε e } (2.42) Từ với ε > ta có inf Eeλ(X−ε) ε} P{X (2.43) λ>0 Ta có đánh giá xấp xỉ cho dãy biến ngẫu nhiên {ξi } độc lập có phân phối Bernoulli sau: P{ξi = 1} = p P{ξi = 0} = q = − p, i S n = ξ1 + ξ2 + · · · + ξn Đặt X = Sn n ϕ(λ) = Eeλξ1 ⇒ ϕ(λ) = peλ·1 + qeλ·0 = peλ + − p Vì ξi ξ j độc lập nên EeλS n = [ϕ(λ)]n Do đó, < a < 1: P Sn n a Sn λa λ inf Eeλ( n −a) = inf Ee n (λS n −na) = inf e−n( n −ln ϕ( n )) λ>0 λ>0 = inf e−n(as−ln ϕ(s)) , s = s>0 λ>0 λ = e−n sups>0 (as−ln ϕ(s)) n Tương tự, ta P Sn n a e−n sups0 34 = a ln Ở đây, H(a) = a ln a p a 1−a + (1 − a) ln = H(a) p 1− p + (1 − a) ln 1−a 1−p hàm sử dụng từ trước chứng minh định lý giới hạn địa phương Do đó, với p a p ε e−2nε (2.46) Sn n e−nH a (2.47) P Sn −p n −ε e−2nε ε e−2nε ε − ε (2.48) Do Sn −p n Sn P −p n P (2.49) ⇒ Số n3 (α) nhận từ bất đẳng thức n3 (α) = ln(2/α) , 2ε (2.50) đó, [x] phần nguyên x Nếu ta không ý tới phần nguyên so sánh n3 (α) với n1 (α) = , 4αε2 ta có n1 (α) = → ∞, (ε → 0) n3 (α) 2α · ln(2/α) Các đánh giá từ (2.46) → (2.49) xác so với đánh giá ban đầu bất đẳng thức Chebysev 35 Áp dụng công thức gần √ 2π +∞ t2 e− dt ∼ √ x2 2πx x e− , (x → +∞) ⇒ k2 (α) ∼ ln(2/α), (α → 0) với k(α) định nghĩa theo biểu thức √ 2π Với n2 (α) = k2 (α) 4ε2 k(α) x2 e− dx = − α −k(α) (được xác định từ (2.39)) ⇒ n2 (α) k2 (α) = → 1, (α → 0) n3 (α) ln(2/α) Các bất đẳng thức gọi bất đẳng thức độ lệch lớn cho dãy biến ngẫu nhiên có phân phối Bernoulli Tên gọi giải thích theo cách sau: Định lý Khả Tích De √ Moivre-Laplace đánh giá đơn giản xác suất biến cố: {|S n − np| x n} đặc trưng √ cho độ lệch tiêu chuẩn (bằng bậc n) S n so với np Còn bất đẳng thức (2.46) → (2.49) cung cấp đánh giá xác suất biến cố {ω : |S n − np| √ n 2.4 xn} mô tả độ lệch có bậc lớn Đánh giá xác suất thành cơng dãy biến ngẫu nhiên có phân phối Bernoulli Cho không gian xác suất (Ω, A, P) với sơ đồ Bernoulli Ω = {ω : ω = (x1 , , xn ), xi := 0, 1} A = {A : A ⊂ Ω} p(ω) = p xi n− q xi , với p xác suất thành công Bây giờ, ta giả sử p chưa biết cần phải xác định p số lần xảy phép thử thứ n tương ứng với n biến ngẫu nhiên ξ1 , ξ2 , , ξn ξi (ω) = xi Đây tốn điển hình thống kê tốn biểu diễn cơng thức theo cách khác Ta xem xét hai công thức biểu diễn là: tốn đánh giá toán khoảng tin cậy 36 Bài toán đánh giá Giống thống kê toán, tham số chưa biết ký hiệu θ Giả sử a số cho trước cho θ ∈ [0, 1] Ta giả sử rằng, tập hợp (Ω, A, Pθ , θ ∈ [0, 1]) mẫu thống kê (tương ứng với n phép thử độc lập với xác suất thành công θ ∈ [0, 1]) hàm T n = T n (ω) với giá trị [0, 1] gọi ước lượng Đặt S n = ξ1 + · · · + ξn T n∗ = Sn n Theo Luật số lớn: Pθ {|T n∗ − θ| ε} → 0, (n → ∞) (2.51) Hơn nữa, ước lượng không lệch với ∀θ: Eθ T n∗ = θ, (2.52) đó, Eθ kỳ vọng ứng với xác suất Pθ Tính khơng lệch tự nhiên: Nó biểu thị đánh giá hợp lý lượng trung bình để đạt kết mong muốn Tuy nhiên, dễ nhận thấy T n∗ không ước lượng khơng lệch mà ước lượng có dạng T n := b1 x1 + · · · + bn xn n b1 + b2 + · · · + bn = b, ước lượng không lệch Hơn nữa, Luật số lớn (2.51) thỏa mãn ước lượng giống (ít với |bi | K < ∞) Từ đó, có câu hỏi nảy sinh so sánh khác hai ước lượng khơng lệch số chúng ước lượng tốt Gọi T˜ ước lượng hiệu (trong lớp ước lượng không lệch T n ) Dθ T˜ n = inf Dθ T n , θ ∈ [0, 1], Tn (2.53) Dθ T n phân tán T n , nghĩa Eθ (T n − θ)2 Ta chứng minh ước lượng T n∗ , xem xét trên, ước lượng hiệu Ta có Dθ T n∗ = Dθ Sn 1 θ(1 − θ) = Dθ S n = · nθ(1 − θ) = n n n n Từ đó, để đánh giá T n∗ ước lượng hiệu cần phải inf Dθ T n Tn θ(1 − θ) n (2.54) 37 Với θ = θ = (2.54) ln Với θ ∈ (0, 1) pθ (xi ) = θ xi · (1 − θ)(1−xi ) n pθ (ω) = θ xi · (1 − θ)(1−xi ) = Pθ (xi ) i Đặt Lθ (ω) = ln pθ (ω) n n xi + ln − θ · Lθ (ω) = ln θ · 1 ∂Lθ (ω) ⇒ = · ∂θ θ n (1 − xi ) n n xi − θ · n − xi − θ) θ(1 − θ) n (xi = ω n xi − · 1−θ = (1 − θ) · θ(1 − θ) Ta có = Eθ = (1 − xi ) pθ (ω) Vì T n ước lượng không lệch θ = ET n = T n (ω) · pθ (ω) ω Lấy vi phân hai biểu thức theo θ ta 0= ω ∂pθ (ω) = ∂θ ω 1= ω = ∂pθ (ω) · pθ (ω) = pθ (ω)∂θ ∂pθ (ω) = T n (ω) ∂θ T n (ω) · ω = E Tn · ω ∂Lθ (ω) ∂Lθ (ω) · pθ (ω) = Eθ ∂θ ∂θ T n (ω) · ω ∂pθ (ω) ∂θ pθ (ω) · pθ (ω) ∂Lθ (ω) · pθ (ω) ∂θ ∂Lθ (ω) ∂θ Trừ vế hai đẳng thức ta = E (T n − θ) · ∂Lθ (ω) ∂θ Theo bất đẳng thức Cauchy-Buniacovski ta có X, Y ∈ L2 E|XY| X2 · Y2 X2 = [E|X|2 ]1/2 38 với chuẩn L2 12 = Eθ (T n − θ) · E(T n − θ)2 với In (θ) = Eθ ∂Lθ (ω) ∂θ ∂Lθ (ω) ∂θ θ (ω) Eθ ∂L∂θ ∂Lθ (ω) ∂θ E(T n − θ)2 · Eθ = In (θ) (2.55) cịn gọi lượng thơng tin Fisher Từ theo bất đẳng thức Cramer-Rao suy inf Dθ (T n ) Tn In (θ) Ta có ∂Lθ (ω) (ξi − θ) = Eθ i ∂θ θ(1 − θ) = (ξ − θ) · E i θ θ (1 − θ)2 i In (θ) = Eθ = θ2 (1 n · nθ(1 − θ) = − θ) θ(1 − θ) θ(1 − θ) ⇒ Dθ T˜ n = inf Dθ (T n ) = Tn n Từ ta điều kiện đủ cho ước lượng không lệch: T n∗ = Sn n cho đại lượng chưa biết θ Bài toán khoảng tin cậy Ta xem T n∗ ước lượng điểm cho θi để giới thiệu biến cố chắn không xảy Số giá trị T n∗ tính từ n quan sát x1 , , xn khác nhiều so với giá trị thực θ Do đó, thích hợp để xác định giá trị sai số Theo Luật số lớn: ∀δ > 0, với n đủ lớn P{|θ − T n∗ (ω)| > δ} nhỏ Từ bất đẳng thức Chebysev P |θ − T n∗ | > δ Dθ T n∗ θ(1 − θ) = δ2 nδ2 λ θ(1 − θ) >1− n λ Do đó, ∀λ > P |θ − T n∗ | với λ2 = θ(1−θ) nδ2 ⇒ δ2 = λ2 · θ(1−θ) n Chẳng hạn, với λ = ⇒ − ( 13 )2 = = 0, 8889 với Pθ lớn 0, 8889 biến cố thỏa mãn bất đẳng thức |θ − T n∗ | θ(1 − θ) n 39 thực với θ(1 − θ) 1/4 |θ − T n∗ | √ n Do √ = Pθ T n∗ − √ n n Pθ |θ − T n∗ | θ T n∗ + √ n 0, 8889 Trong trường hợp khác, ta nói với xác suất lớn 0, 8889 giá trị xác λ nằm khoảng 3 T n∗ − √ , T n∗ + √ n n Khoảng 3 T n∗ − √ , T n∗ + √ n n gọi khoảng tin cậy cho tham số chưa biết Khoảng [ψ1 (ω), ψ2 (ω)] ψ1 (ω) ψ2 (ω) hàm điểm mẫu gọi khoảng tin cậy độ tin cậy − δ (hoặc mức ý nghĩa δ) Pθ {ψ1 (ω) θ ψ2 (ω)} − δ, ∀θ Trong phần ta khoảng 3 T n∗ − √ , T n∗ + √ n n có độ tin cậy − λ2 Trong thực tế, độ tin cậy cao hơn, từ suy bất đẳng thức Chebysev cho đánh giá chưa hoàn chỉnh xác suất biến cố: ω : |θ − T n∗ | λ θ(1 − θ) = {ω : ψ1 (T n∗ , n) n θ ψ2 (T n∗ , n)} Trong đó, ψ1 = ψ1 (T n∗ , n) ψ2 = ψ2 (T n∗ , n) nghiệm phương trình bậc hai: (θ − T n∗ )2 = λ2 θ(1 − θ) n mà miêu tả ellip hình vẽ sau: Đặt Fθn (x) = Pθ S −nθ √ n nθ(1−θ) x Từ (2.24) ta suy sup |Fθn (x) − θ(x)| x √ nθ(1 − θ) Do đó, tiên đoán 0