Phương pháp xấp xỉ stein và một số ứng dụng

ĐẠI HỌC QUỐC GIA TP HỒ CHÍ MINH TRƯỜNG ĐẠI HỌC BÁCH KHOA KHOA KHOA HỌC ỨNG DỤNG ————oOo———— BÙI GIA HIẾU PHƯƠNG PHÁP XẤP XỈ STEIN VÀ MỘT SỐ ỨNG DỤNG Chuyên ngành: TOÁN ỨNG DỤNG Mã số: 604636 LUẬN VĂN THẠC SĨ TP HỒ CHÍ MINH: tháng 06 năm 2014 i LUẬN VĂN ĐƯỢC HOÀN THÀNH TẠI TRƯỜNG ĐẠI HỌC BÁCH KHOA –ĐHQG -HCM Cán hướng dẫn khoa học: GS.TSKH Nguyễn Văn Thu Cán chấm nhận xét 1: Cán chấm nhận xét 2: Luận văn thạc sĩ bảo vệ Trường Đại học Bách Khoa, ĐHQG Tp HCM ngày tháng năm Thành phần Hội đồng đánh giá luận văn thạc sĩ gồm: CHỦ TỊCH HỘI ĐỒNG TRƯỞNG KHOA KHOA HỌC ỨNG DỤNG ii ĐH QUỐC GIA TP.HCM CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM TRƯỜNG ĐẠI HỌC BÁCH KHOA Độc lập - Tự - Hạnh phúc NHIỆM VỤ LUẬN VĂN THẠC SĨ Họ tên học viên: Bùi Gia Hiếu Ngày, tháng, năm sinh: 26/10/1985 Chuyên ngành: Tốn ứng dụng MSHV: 10240510 Nơi sinh: Thái Bình Mã số: 604636 I TÊN ĐỀ TÀI: Phương pháp xấp xỉ Stein số ứng dụng II NHIỆM VỤ VÀ NỘI DUNG: Trình bày lý thuyết phương pháp Stein sử dụng phương pháp để xấp xỉ luật phân phối chuẩn chứng minh bất đẳng thức Berry-Esseen Từ đó, luận văn đưa số ứng dụng thống kê phi tuyến III NGÀY GIAO NHIỆM VỤ: ngày 20 tháng 01 năm 2010 IV NGÀY HOÀN THÀNH NHIỆM VỤ: ngày 20 tháng 06 năm 2014 V CÁN BỘ HƯỚNG DẪN: GS.TSKH Nguyễn Văn Thu TP.Hồ Chí Minh, ngày tháng năm 2014 CÁN BỘ HƯỚNG DẪN (Họ tên chữ ký) CHỦ NHIỆM BỘ MÔN ĐÀO TẠO (Họ tên chữ ký) TRƯỞNG KHOA KHOA HỌC ỨNG DỤNG (Họ tên chữ ký) iii LỜI CẢM ƠN Lời tơi xin trân trọng kính gửi đến thầy hướng dẫn, GS.TSKH Nguyễn Văn Thu - người Thầy đáng kính, hết lịng học trị - lịng biết ơn chân thành sâu sắc Thầy ân cần tận tình hướng dẫn, giúp tơi nắm bước nghiên cứu giải đáp thắc mắc gặp phải Từ Thầy, ngày hiểu thêm ý nghĩa, hứng thú lòng say mê việc nghiên cứu mơn tốn tưởng chừng khơ khan ứng dụng Tơi xin khắc ghi lời dạy, bảo ân cần Thầy suốt q trình học tập hồn thành luận văn Tơi xin bày tỏ lịng biết ơn sâu sắc đến q Thầy, Cơ ngồi Bộ mơn Tốn ứng dụng trường Đại học Bách Khoa TP Hồ Chí Minh tận tình truyền đạt kiến thức kinh nghiệm quý báu cho suốt trình học tập trường Chân thành cảm ơn Ban chủ nhiệm Khoa Khoa học Ứng dụng, quý Thầy, Cô thuộc phòng Quản lý Sau đại học, thư viện trường Đại học Bách khoa TP Hồ Chí Minh tạo điều kiện thuận lợi để tơi hồn thành chương trình học trình làm thủ tục bảo vệ luận văn tốt nghiệp Cảm ơn anh Trần Văn San có nhiều bảo kiến thức Xin cảm ơn anh chị lớp Cao học Toán Ứng dụng khóa 2010, khóa 2011, đồng nghiệp nhiệt tình động viên giúp đỡ tơi suốt thời gian qua Tôi không quên gửi lời biết ơn đến gia đình nhỏ tơi, người hết lịng lo lắng bên tơi lúc khó khăn Sau cùng, kiến thức thân cịn hạn chế nên luận văn khó tránh khỏi thiếu sót Tơi mong bảo q Thầy, Cơ góp ý chân thành bạn bè đồng nghiệp Tôi xin chân thành cảm ơn! TP.Hồ Chí Minh, tháng 06 năm 2014 Học viên Bùi Gia Hiếu iv Mục lục LỜI CẢM ƠN iv DANH MỤC CÁC TỪ VIẾT TẮT / KÍ HIỆU vi PHẦN MỞ ĐẦU vii Phương pháp Stein 1.1 Các khoảng cách xác suất 1.2 Một số khái niệm trình Markov 1.3 Phương pháp Stein tổng quát 1.3.1 Cách tiếp cận phương pháp Stein theo hướng toán tử 1.3.2 Phương pháp Stein tổng quát 1.4 Phương pháp Stein cho xấp xỉ chuẩn 1.4.1 Đặc trưng phân phối chuẩn tắc 1.4.2 Phương trình Stein 1.4.3 Tính chất nghiệm 1.4.4 Ý tưởng phương pháp Stein 1 3 6 14 Cận Berry-Esseen 17 2.1 Cận Berry-Esseen 17 2.1.1 Bất đẳng thức Berry-Esseen cho biến ngẫu nhiên bị chặn 18 2.1.2 Bất đẳng thức Berry-Esseen cho biến không bị chặn 20 2.1.3 Cận Berry-Esseen 23 2.2 Cận Berry-Esseen không 26 2.2.1 Bất đẳng thức tập trung không 26 2.2.2 Cận Berry-Esseen không 29 Một số ứng dụng thống kê phi tuyến tính 3.1 Bất đẳng thức tập trung ngẫu nhiên 3.2 U -thống kê 3.3 L-Thống kê 3.4 Tổng ngẫu nhiên biến ngẫu nhiên 34 35 38 39 43 KẾT LUẬN 46 TÀI LIỆU THAM KHẢO 47 v MỤC LỤC DANH MỤC CÁC TỪ VIẾT TẮT / KÍ HIỆU (Ω, F, P ) d Khơng gian xác suất sở Hàm tiêu → N (µ, σ ) Z φ(z) Nh ∥f ∥ Hội tụ theo phân phối Phân phối chuẩn có trung bình µ phương sai σ Biến ngẫu nhiên chuẩn tắc Hàm phân phối chuẩn tắc Eh(Z) sup ∣f (x)∣ a∧b a∨b min(a, b) max(a, b) γ ∑ E∣ξi ∣3 x∈R n i=1 n β2 ∑ Eξi2 1{∣ξi ∣>1} i=1 n β3 ∑ E∣ξi ∣3 1{∣ξi ∣≤1} i=1 vi PHẦN MỞ ĐẦU Trong nửa đầu thề kỉ 20, lý thuyết xác suất gặt hái nhiều thành tựu to lớn thiết lập chứng minh định lý giới hạn cổ điển luật số lớn, định lý giới hạn trung tâm, luật loga lặp cho biến ngẫu nhiên độc lập Đặc biệt, định lý giới hạn trung tâm kết bật xác suất thống kê Định lý có nhiều ứng dụng cụ thể thống kê làm sở cho lý thuyết phân phối nhiều thống kê kiểm định Tuy nhiên, phương pháp tiếp cận cổ điển cho định lý giới hạn trung tâm lại dựa nhiều vào phương pháp Fourier, phương pháp khơng thích hợp để cung cấp ước lượng cách xác Các lý thuyết liên quan đến tổng biến ngẫu nhiên độc lập Tuy nhiên, thực tế, quan hệ phụ thuộc biến ngẫu nhiên thường xuất nhiều bắt đầu nghiên cứu từ năm 1950 Phương pháp Fourier gặp khó khăn áp dụng cho biến ngẫu nhiên phụ thuộc việc đánh giá sai số xấp xỉ trở nên khó khăn nhiều Trong hồn cảnh đó, Stein giới thiệu kĩ thuật áp dụng cho xấp xỉ, có xấp xỉ chuẩn, mà gọi phương pháp Stein Kĩ thuật dựa phương pháp tiếp cận gián tiếp, bao gồm toán tử vi phân cặp hoán đổi lựa chọn khéo léo biến ngẫu nhiên kết hợp lại để có ước lượng rõ ràng Phương pháp Stein có phát triển đáng kể từ xuất vào năm 1972 cho thấy dấu hiệu phạm vi lý thuyết xác suất ứng dụng mở rộng Stein phát triển phương pháp để cung cấp cách chứng minh cho định lý giới hạn trung tâm ứng dụng đưa đánh giá cận cách xác định lý giới hạn trung tâm cho trường hợp độc lập phụ thuộc biến Năm 1975, Louis H.Y.Chen áp dụng phương pháp Stein cho xấp xỉ Poisson Từ thời điểm này, phạm vi nghiên cứu liên quan đến phương pháp tăng lên nhanh chóng Đồng thời từ đó, phương pháp Stein gọi phương pháp Chen-Stein Việc đánh giá tốc độ hội tụ điểm thuận lợi phương pháp Stein so với phương pháp sử dụng hàm đặc trưng phương pháp sử dụng hàm sinh vii MỤC LỤC Mục đích phương pháp Stein xấp xỉ phân phối phân phối khác đánh giá sai số ước lượng Phương pháp mang lại ước lượng tường minh cho sai số xấp xỉ trường hợp độc lập lẫn phụ thuộc Vì ưu điểm mà phương pháp Stein ngày áp dụng rộng rãi thực tế Năm 1988 Barbour giải thích tính tổng quát phương pháp Stein mở rộng xấp xỉ phân phối cho toàn q trình ngẫu nhiên, Thơng qua phép biến đổi đạo hàm phương trình Stein ban đầu cho xấp xỉ chuẩn, Aldous (1989) chứng minh biểu thức vế phương trình tốn tử trình khuếch tán Ornstein-Uhlenbeck Quá trình có phân phối dừng phân phối chuẩn Q trình Markov chìa khóa cho việc tổng qt hóa Người ta chứng minh trình Markov đặc trưng toán tử sinh Đồng thời phân phối phân phối dừng trình Markov kỳ vọng tốn tử sinh q trình tác động phân phối dừng không Như vậy, để xác định xấp xỉ phân phối ta cần xác định chặn kỳ vọng tốn tử sinh q trình Markov tương ứng Nhờ phạm vi ứng dụng rộng nên phương pháp Stein đóng vai trị quan trọng phát triển lý thuyết xác suất lý thuyết lẫn ứng dụng: thống kê, khoa học tính tốn, lý thuyết đồ thị ngẫu nhiên, sinh học phân tử, bảo hiểm tốn tài chính, Hiện nay, phương pháp Stein vấn đề thu hút quan tâm nghiên cứu nhiều nhà toán học giới Vì lý nên tơi định chọn đề tài: “Phương pháp xấp xỉ Stein số ứng dụng” Đề tài luận văn chọn với mục đích tìm hiểu xấp xỉ phân phối phương pháp Stein, đặc biệt xấp xỉ chuẩn số ứng dụng thống kê phi tuyến tính Luận văn chia thành ba chương với bố cục sau: Chương 1: Phương pháp Stein Chương trình bày kiến thức sở: khoảng cách xác suất, số khái niệm trình Markov, tiếp cận phương pháp Stein theo hướng toán tử, phương pháp Stein cho xấp xỉ chuẩn: đặc trưng phân phối chuẩn tắc, phương trình Stein, tính chất nghiệm ý tưởng phương pháp Stein Chương 2: Cận Berry-Esseen Nghiên cứu ứng dụng phương pháp Stein để chứng minh bất đẳng thức tập trung khơng mà sở để chứng minh bất đẳng thức Berry-Esseen không Chương 3: Một số ứng dụng thống kê phi tuyến tính Ở đây, kết Chương ứng dụng cụ thể U -Thống kê, L-Thống kê tổng ngẫu nhiên viii Chương Phương pháp Stein 1.1 Các khoảng cách xác suất Phương pháp Stein phương pháp dùng để ước lượng cách xác xấp xỉ phân phối phân phối khác để ước lượng xấp xỉ hai phân phối người ta dựa vào khoảng cách hai phân phối Cho P, Q hai độ đo xác suất, với H họ hàm kiểm tra, khoảng cách xác suất định nghĩa sau: dH (P, Q) ∶= sup ∣∫ hdP − ∫ hdQ∣ h∈H Với X Y hai biến ngẫu nhiên tương ứng với hai độ đo P Q Khi ta dùng kí hiệu dH (X, Y ) Thơng thường ta có khoảng cách sau: Khoảng cách biến phân toàn phần dT V (X, Y ) (khi họ hàm kiểm tra hàm tiêu tất tập đo được) dT V (X, Y ) ∶= sup ∣P (A) − Q (A)∣ A họ hàm kiểm tra H = {1A , A đo } Để đơn giản, ta kí hiệu khoảng cách biến phân toàn phần d (X, Y ) Ta thường sử dụng khoảng cách biến phân toàn phần cho xấp xỉ phân phối rời rạc Khoảng cách Kolmogorov dK (X, Y ) (khi phân phối xác dịnh R họ hàm kiểm tra hàm tiêu xác dịnh tập tất nửa đường thẳng) dK (X, Y ) ∶= sup ∣P (−∞, z] − Q (−∞, z]∣ z∈R họ hàm kiểm tra H = {1(−∞,z] , z ∈ R} Khoảng cách Kolmogorov khoảng cách lớn phân phối Khoảng cách Wasserstein dW (X, Y ) (khi họ hàm kiểm tra hàm Lipschitz bị chặn 1) dW (X, Y ) ∶= sup ∣∫ hdP − ∫ hdQ∣ h∈H CHƯƠNG PHƯƠNG PHÁP STEIN họ hàm kiểm tra H = {h ∶ R → R ; ∥h′ ∥ ⩽ 1} = Lip (1) g ∶ R → R, ∥g∥ = sup ∣g (x)∣ Khoảng cách Wasserstein khoảng cách phổ biến x∈R khoảng cách sử dụng để tính xấp xỉ phân phối liên tục Khoảng cách Wasserstein bị chặn dBW (X, Y ) (khi họ hàm kiểm tra hàm Lipschitz bị chặn đều) dBW (X, Y ) ∶= sup ∣∫ hdP − ∫ hdQ∣ h∈H họ hàm kiểm tra H = {h ∶ R → R ; ∥h∥ ⩽ ; ∥h′ ∥ ⩽ k} = Lip (1) g ∶ R → R, ∥g∥ = sup ∣g (x)∣ x∈R Phương pháp Stein áp dụng cho tất khoảng cách Tính chất: Cho biến ngẫu nhiên X Y Khi ta có dK (X, Y ) ⩽ dT V (X, Y ) Nếu biến ngẫu nhiên X có mật độ Lebesgue bị chặn C với biến ngẫu nhiên Y bất kỳ, ta có: √ dK (X, Y ) ⩽ CdW (X, Y ) Với X Y biến ngẫu nhiên nhận giá trị không gian rời rạc Ω Khi đó: dT V (X, Y ) = ∑ ∣P (X = w) − P (Y = w)∣ w∈Ω 1.2 Một số khái niệm q trình Markov Cho khơng gian xác suất (Ω, F, P ) , (S, S) không gian metric compact địa phương với sở đếm được, S σ− trường Borel S, I khoảng R với t ∈ I Xt ∶ (Ω, F, P ) → (S, S) đo Ta gọi (S, S) không gian trạng thái X = (Xt )t∈I trình ngẫu nhiên Định nghĩa 1.2.1 P ∶ (S, S) → [0, 1] gọi xác suất chuyển P (x, ) độ đo xác suất S P ( , B) đo với (x, B) ∈ (S, S) Định nghĩa 1.2.2 Một hàm chuyển họ Ps,t , (s, t) ∈ I , s < t thỏa mãn phương trình Chapman-Kolmogorov Ps,u (x, B) = ∫ Pt,u (y, B) Ps,t (x, dy), với s < t < u Một hàm chuyển gọi Ps,t = Ps′ ,t′ t − s = t′ − s′ Khi đó, ta kí hiệu Pt−s thay cho Ps,t Định nghĩa 1.2.3 Giả sử Ft ⊂ F họ tăng σ− đại số X trình ngẫu nhiên tương thích với F Khi đó, X gọi trình Markov với hàm chuyển Ps,t với độ đo Borel không âm m ∶ S → R (s, t) ∈ I , s < t E [m (X − t) ∣Ft ] = ∫ m (y) Ps,t (Xs , dy) Chương Một số ứng dụng thống kê phi tuyến tính Trong phần ta xét cận Berry-Esseen ứng dụng cho thống kê phi tuyến tính mà xem thống kê tuyến tính cộng với thành phần sai số Ta áp dụng kết thu cho U -thống kê, L-thống kê tổng ngẫu nhiên biến ngẫu nhiên Gọi X1 , X2 , , Xn biến ngẫu nhiên độc lập đặt T ∶= T (X1 , X2 , , Xn ) thống kê thực hiên mẫu Trong nhiều trường hợp T xem thống kê tuyến tính cộng với thành phần sai số, tức T = W + ∆ n W = ∑ gn,i (Xi ) ∆ ∶= ∆ (X1 , X2 , , Xn ) = T − W i=1 Đặt ξi = gn,i (Xi ) Ta giả sử n Eξi = 0, với i = 1, 2, , n ∑ V ar (ξi ) = (3.1) i=1 Và ∆ phụ thuộc vào Xi qua ξi = gn,i (Xi ) , nghĩa ta ký hiệu ∆ ∶= ∆ (ξ1 , ξ2 , , ξn ) Rõ ràng ∆ → theo xác suất n → ∞ định lý giới hạn trung tâm với W miễn điều kiện Lindeberg thỏa mãn Nếu có p cách áp dụng bất đẳng thức Chebyshev ta suy cận sau đây: p sup ∣P (T ≤ z) − Φ (z)∣ ≤ sup ∣P (W ≤ z) − Φ (z)∣ + 2(E∣∆∣ ) p+1 z∈R (3.2) z∈R số hạng thứ vế phải (3.2) dễ dàng ước lượng bất đẳng thức Berry-Esseen, cụ thể: sup ∣P (T ≤ z) − Φ (z)∣ z∈R n n ≤ 4.1 (∑ Egi2 (Xi ) 1{∣gi (Xi )∣>1} + ∑ E∣gi (Xi )∣ 1{∣gi (Xi )∣≤1} ) i=1 (3.3) i=1 Tuy nhiên, số hạng thứ hai cận có khơng tổng qt cho nhiều thống kê sử dụng phổ biến Bằng phương pháp bất đẳng thức tập trung ta thiết lập cận Berry-Esseen T với mức độ xấp xỉ tốt 34 CHƯƠNG MỘT SỐ ỨNG DỤNG TRONG THỐNG KÊ PHI TUYẾN TÍNH 3.1 Bất đẳng thức tập trung ngẫu nhiên Trong phần trước ta biết bất đẳng thức tập trung ngẫu nhiên công cụ hiệu để thu cận Berry-Esseen cho biến ngẫu nhiên độc lập Trong phần này, ta xây dựng bất đẳng thức tập trung ngẫu nhiên nhằm xác định cận P (W + ∆ ≤ z) − P (W ≤ z) Gọi ξ1 , ξ2 , , ξn biến ngẫu nhiên n độc lập thỏa mãn (3.1), đặt W = ∑ ξi T = W + ∆ n Đặt β = ∑ i=1 Egi2 (Xi ) 1{∣gi (Xi )∣>1} i=1 n + ∑ E∣gi (Xi )∣ 1{∣gi (Xi )∣≤1} δ > thỏa i=1 n ∑ E ∣ξi ∣ (δ, ∣ξi ∣) ≥ i=1 (3.4) Bất đẳng thức đơn giản sau đây: −P (z − ∣∆∣ ≤ W ≤ z) ≤ P (T ≤ z) − P (W ≤ z) ≤ P (z ≤ W ≤ z + ∣∆∣) (3.5) cung cấp cận cận cho hiệu hai hàm phân phối T với xấp xỉ W bao gồm xác suất để W nằm khoảng có độ dài ngẫu nhiên Định lý 3.1.1 Giả sử ξi , , ξn biến ngẫu nhiên độc lập thỏa mãn (3.1), W = ∑ni=1 ξi T = W + ∆ Với a ≤ ≤ n , giả sử ∆i biến ngẫu nhiên cho ξi W − ξi , ∆i độc lập Khi n sup ∣P (T ≤ z) − P (W ≤ z)∣ ≤ 4δ + E ∣W ∆∣ + ∑ E ∣gi (Xi ) (∆ − ∆i )∣ z∈R (3.6) i=1 với δ thỏa mãn (3.4) Đặc biệt, ta có: n sup ∣P (T ≤ z) − P (W ≤ z)∣ ≤ 2β + E ∣W ∆∣ + ∑ E ∣gi (Xi ) (∆ − ∆i )∣ z∈R (3.7) i=1 n sup ∣P (T ≤ z) − Φ (z)∣ ≤ 6.1β + E ∣W ∆∣ + ∑ E ∣gi (Xi ) (∆ − ∆i )∣ z∈R (3.8) i=1 Chú ý 3.1.1 i Nếu E ∣gi (Xi )∣ < ∞ với p > Khi p−2 p−2 n 2(p − 2) p δ=( ∑ E∣gi (Xi )∣ ) (p − 1) p−1 i=1 Khi (3.4) thỏa mãn Điều có bất đẳng thức sau: p−2 (p − 2) ap−1 (a, b) ≥ a − với a ≥ 0, b > (p − 1) p−1 ba−2 Thật vậy, với x, y ≥ 0, α, γ > cho α + γ = , ta có: xα y γ ≤ αx + γy 35 (3.9) CHƯƠNG MỘT SỐ ỨNG DỤNG TRONG THỐNG KÊ PHI TUYẾN TÍNH Thay α = p−2 ,γ = p−1 p−1 , x = p − p−2 ap−1 b (p − 1) , y = (( ) ) , ta được: p−2 p−1 bp−2 p−2 a = xα y γ ≤ αx + γy = b + (p − 2) ap−1 (p − 1) p−1 ba−2 Hay p−2 b≥a− (p − 2) ap−1 (p − 1) p−1 ba−2 a≥a− (p − 2) ap−1 (p − 1) p−1 ba−2 Dễ thấy: p−2 p−2 Vậy (a, b) ≥ a − (p − 2) ap−1 (p − 1) p−1 ba−2 β ii Nếu β ≤ (3.4) thỏa mãn với δ = Chú ý δ ≤ 2 p = ta suy β ≤ 14 Áp dụng (3.9) với n ∑ E ∣gi (Xi )∣ (δ, ∣gi (Xi )∣) i=1 n ≥ ∑ E ∣gi (Xi )∣ 1{∣gi (Xi )∣≤1} (δ, ∣gi (Xi )∣) i=1 n ≥ ∑ {Egi2 (Xi ) 1{∣gi (Xi )∣≤1} − E∣gi (Xi )∣ 1{∣gi (Xi )∣≤1} } 4δ i=1 = − (4δEgi2 (Xi ) 1{∣gi (Xi )∣>1} + E∣gi (Xi )∣ 1{∣gi (Xi )∣≤1} ) 4δ β ≥1− = 4δ iii Gọi δ > cho Khi (3.4) Đặc biệt, X1 , X2 , , Xn biến ngẫu nhiên độc lập c0 có phân phối gi = g1 (3.4) thỏa mãn với δ = √ số n √ thỏa E( ng1 (X1 )) 1{√n∣g1 (X1 )∣>c0 } ≤ Chứng minh (3.6) suy từ (3.5) Khi β > 12 (3.7) hiển nhiên Với β ≤ 12 , (3.6) hệ (3.5) ii ý 3.1.1 Do ta cần chứng minh (3.5) Chú ý Egi2 (Xi ) 1{∣gi (Xi )∣>δ} ≤ −P (z − ∣∆∣ ≤ W ≤ z) ≤ P (T ≤ z) − P (W ≤ z) ≤ P (z ≤ W ≤ z + ∣∆∣) (3.10) Ta cần chứng minh: n P (z ≤ W ≤ z + ∣∆∣) ≤ 4δ + E ∣W ∆∣ + ∑ E ∣gi (Xi ) (∆ − ∆i )∣ (3.11) i=1 n P (z − ∣∆∣ ≤ W ≤ z) ≤ 4δ + E∣W ∆∣ + ∑ E∣gi (Xi )(∆ − ∆i )∣ i=1 36 (3.12) CHƯƠNG MỘT SỐ ỨNG DỤNG TRONG THỐNG KÊ PHI TUYẾN TÍNH Trong δ thỏa (3.4) Đặt ⎧ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ f∆ (w) = ⎨ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎩ − ∣∆∣ w ≤ z − δ 2−δ w − (2z + ∣∆∣) z − δ ≤ w ≤ z + ∣∆∣ + δ ∣∆∣ w ≥ z + ∣∆∣ + δ 2−δ Đặt ⌢ ξi = gi (Xi ) , K i (t) = ξi (1{−ξi ≤t≤0} − 1{0 thì: √ nUn 2σ 4E∣g(X1 )∣3 sup ∣P ( ≤ z) − Φ(z)∣ ≤ + (3.19) 1 2σ1 z∈R (n − 1) σ1 n σ13 Chứng minh Đặt n W=√ ∑ g (Xi ) nσ1 i=1 √ n ∆= ∑ {h (Xi , Xj ) − g (Xi ) − g (Xj )} n (n − 1) σ1 1≤i≤j≤n √ n ∆l = {h (Xi , Xj ) − g (Xi ) − g (Xj )} ∑ n (n − 1) σ1 1≤i≤j≤n,i≠l,j≠l Dễ thấy √ nUn =W +∆ 2σ1 38 CHƯƠNG MỘT SỐ ỨNG DỤNG TRONG THỐNG KÊ PHI TUYẾN TÍNH ∆l hàm đo (Xj , ≤ j ≤ n, j ≠ l) Theo định lý 3.1.1, để chứng minh (3.19) ta cần chứng minh E∆2 ≤ σ2 (n − 1) σ12 ∣∆ − ∆l ∣ ≤ (3.20) σ2 n (n − 1) σ12 (3.21) j−1 Ta có { ∑ (h (Xi , Xj ) − g (Xi ) − g (Xj )) , ≤ j ≤ n} dãy martingale Do i=1 E∆2 = n n(n − 1) σ1 j=2 = = ≤ i=1 2 ⎧ j−1 ⎫ ⎪ ⎛ ⎪ ⎪ ⎪⎞ ∑ E E ⎨( ∑ {h (Xi , Xj ) − g (Xi ) − g (Xj )}) ∣Xj ⎬ ⎪ ⎠ n(n − 1) σ12 j=2 ⎝ ⎪ ⎪ ⎪ ⎩ i=1 ⎭ 2 ⎧ ⎫ ⎪ n ⎛ ⎪ ⎪ j−1 ⎪⎞ ∑ (j − 1) E E ⎨( ∑ {h (X1 , X2 ) − g (X1 ) − g (X2 )}) ∣Xj ⎬ ⎪ ⎝ ⎪ ⎠ n(n − 1) σ12 j=2 ⎪ ⎪ ⎩ i=1 ⎭ {Eh2 (X2 , X2 ) − 2Eg (X1 )} (n − 1) σ12 σ2 (n − 1) σ12 = j−1 ∑ E ( ∑ {h (Xi , Xj ) − g (Xi ) − g (Xj )}) n Suy (3.20) Chú ý ∆ − ∆l , ≤ l ≤ n có phân phối Do E∣∆ − ∆l ∣ = E∣∆ − ∆1 ∣ n E( E {h (X , X ) − g (X ) − g (X )}) = ∑ j j n(n − 1) σ12 j=2 {Eh2 (X1 , X2 ) − 2Eg (X1 )} = n(n − 1) σ12 σ2 ≤ n (n − 1) σ12 Suy (3.21) 3.3 L-Thống kê Giả sử ta muốn ước lượng độ phân tán phân phối chưa biết F dựa mẫu quan sát độc lập X1 , X2 , , Xn Dưới giả định moment cấp tồn tại, ta sử dụng ước lượng không chệch phương sai F : σ̂2 = n n ¯ , với X ¯ = ∑ Xi ∑ (Xi − X) n − i=1 n i=1 Hay biến đổi với dạng đối xứng σ̂2 = ∑ (Xi − Xj ) n(n − 1) i 44 (3.33) CHƯƠNG MỘT SỐ ỨNG DỤNG TRONG THỐNG KÊ PHI TUYẾN TÍNH Ta biểu diễn √ √ (Nn − nν) µ τ µ σ ν Nn σ √ Tn (Z1 ) = √ Z1 + = (W + ∆ + Z1 ) b τµ nb nb √ √ ( N − nν) σZ1 n Nn − nν √ W = √ ∆ = nτ nτ µ Khi Yi độc lập với Nn − Yi với i = 1, 2, , n , ta áp dụng định lý 3.1.1 cho W + ∆ cách đặt √ √ ( Nn − Yi + ν − nν) σZ1 √ với n = 1, 2, , n (3.34) ∆i = nτ µ Đánh giá số hạng thứ hai (3.8) định lý 3.1.1 với điều kiện Z1 áp dụng đồng thức √ √ x−y x+ y = √ √ x− y suy σ ∣Z1 ∣ ⎛ ∣W (Nn − nν)∣ ⎞ σ ∣Z1 ∣ √ E (∣W ∆∣ ∣Z1 ) ≤ √ E ≤√ √ nτ µ ⎝ nν nµ ν ⎠ Đối với số hạng thứ ba, ta áp dụng √ √ 2σ ∣Z1 ∣ 2σ ∣Z1 ∣ √ E (∣(Yi − ν) (∆ − ∆i )∣ ∣Zi ) ≤ √ E(Yi − µ) = √ nτ n2 τ µ ν n2 µ ν √ νσ τµ Bằng cách đặt Tn (Z1 , Z2 ) = (Z2 + Z1 ) áp dụng định lý 3.1.1 với Z1 b τµ cho trước suy sup ∣P (Tn (Z1 ) ≤ z) − P (Tn (Z1 , Z2 ) ≤ z)∣ z∈R ≤ P (∣Nn − nν∣ > 0.5nν) + sup ∣P (Tn (Z1 ) ≤ z) − P (Tn (Z1 , Z2 ) ≤ z)∣ z∈R EY σE (Z1 ) 4τ ≤ +C( 1 + √ ) nν n2 τ3 n2 µ ν EY τ σ ≤ Cn− ( + 31 + √ ) ν τ µ ν (3.35) Khi Tn (Z1 , Z2 ) có phân phối chuẩn tắc từ (3.33) (3.35) suy (3.32) 45 KẾT LUẬN Luận văn thu kết sau: Trình bày phương pháp Stein tổng quát theo hướng tiếp cận toán tử Đây sở cho phép ta nghiên cứu xấp xỉ khác xấp xỉ chuẩn như: xấp xỉ Poisson, xấp xỉ trình Poisson, xấp xỉ mũ, Trình bày khái niệm phương pháp Stein cho xấp xỉ chuẩn: phương trình Stein, nghiệm phương trình ý tưởng phương pháp Stein Đưa kết xấp xỉ chuẩn cho hàm trơn trường hợp biến ngẫu nhiên độc lập Đưa kết cận Berry-Esseen trường hợp bị chặn, trường hợp độc lập cận Berry-Esseen không trường hợp độc lập Ứng dụng cho thống kê phi tuyến: U –thống kê, L-thống kê tổng ngẫu nhiên, Các vấn đề nghiên cứu xấp xỉ chuẩn đa dạng, phong phú Hướng mở rộng cho luận văn ứng dụng phương pháp Stein cho xấp xỉ chuẩn độ lệch trung bình, xấp xỉ chuẩn nhiều chiều Với kiến thức có hạn, tác giả hy vọng với giúp đỡ thầy tiếp tục nghiên cứu sâu để thu kết tốt hơn, vấn đề xấp xỉ chuẩn nghiên cứu thêm lý thuyết lẫn ứng dụng Xin chân thành cảm ơn! 46 TÀI LIỆU THAM KHẢO Tài liệu tiếng Việt [ ] Đinh Văn Gắng (2007), Lý thuyết xác suất thống kê, Nhà xuất Giáo dục [ ] Nguyễn Viết Phú - Nguyễn Duy Tiến (2004), Cơ sở lý thuyết xác suất, Nhà xuất ĐHQG Hà Nội [ ] Nguyễn Duy Tiến - Vũ Viết Yên (2001), Lý thuyết xác suất, Nhà xuất Giáo dục [ ] Đặng Hùng Thắng (2010), Mở đầu lý thuyết xác suất ứng dụng, Nhà xuất Giáo dục Việt Nam Tài liệu tiếng Anh [ ] Chen, L.H.Y - Goldstein Larry - Shao, Q.M (2011), Normal Approximation by Stein’s Method, Spinger, Verlag Berlin Heidelberg [ ] Chen, L.H.Y - Shao, Q.M (2007) Normal approximation for nonlinear statisticsusing a concertration inequality approach Bernoulli, 13, 581-599 [ ] Chen, L.H.Y - Shao, Q.M (2005), Stein’s method for normal approximation, An introduction to Stein’s method, Singapore University, Singapore, 4, 1-60 [ ] Chen, L.H.Y - Shao, Q.M (2005) Three general approaches to Stein’s method, An introduction to Stein’s method, Singapore University, Singapore, 4, 183-222 [ ] Chen, L.H.Y - Shao, Q.M (2004), Normal approximation under local dependence, The annals of probability, 32, 1985-2028 [ 10 ] Chatterjee, S (2007) Stein’s method for concentration inequalities, Probability Theory and Related Fields, 138, 305-321 [ 11 ] Chaterjee, S (2008), A new method of normal approximation, The Annals of Probability, 36, 1584-1610 [ 12 ] Dembo, A - Rinott, Y.(1996) Some examples of normal approximations by Stein’s method The IMA Volumns in Mathematics and its Applications, 76, 25-44 47 CHƯƠNG MỘT SỐ ỨNG DỤNG TRONG THỐNG KÊ PHI TUYẾN TÍNH [ 13 ] Helmers, R - Van Zwet, W (1982) The Berry - Esseen bound for Ustatistics Statistical decision theory and related topics, 1, 497-512 [ 14 ] Ross, N (2011), Fundamentals of Stein’s method, Probability Surveys, 8, 210-293 48 ... Toán ứng dụng MSHV: 10240510 Nơi sinh: Thái Bình Mã số: 604636 I TÊN ĐỀ TÀI: Phương pháp xấp xỉ Stein số ứng dụng II NHIỆM VỤ VÀ NỘI DUNG: Trình bày lý thuyết phương pháp Stein sử dụng phương pháp. .. đến phương pháp tăng lên nhanh chóng Đồng thời từ đó, phương pháp Stein cịn gọi phương pháp Chen -Stein Việc đánh giá tốc độ hội tụ điểm thuận lợi phương pháp Stein so với phương pháp sử dụng. .. trưng phương pháp sử dụng hàm sinh vii MỤC LỤC Mục đích phương pháp Stein xấp xỉ phân phối phân phối khác đánh giá sai số ước lượng Phương pháp mang lại ước lượng tường minh cho sai số xấp xỉ trường