Bài toán giải chập trong thống kê phi tham số

ĐẠI HỌC QUỐC GIA TP HỒ CHÍ MINH TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN CAO XUÂN PHƯƠNG BÀI TOÁN GIẢI CHẬP TRONG THỐNG KÊ PHI THAM SỐ LUẬN ÁN TIẾN SĨ TỐN HỌC TP Hồ Chí Minh – Năm 2018 ĐẠI HỌC QUỐC GIA TP HỒ CHÍ MINH TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN CAO XUÂN PHƯƠNG BÀI TOÁN GIẢI CHẬP TRONG THỐNG KÊ PHI THAM SỐ Chuyên ngành: LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN HỌC Mã số chuyên ngành: 62460106 Phản biện 1: GS TSKH NGUYỄN HỮU DƯ Phản biện 2: PGS TS LÊ SĨ ĐỒNG Phản biện 3: TS NGUYỄN TIẾN DŨNG Phản biện độc lập 1: GS TSKH NGUYỄN HỮU DƯ Phản biện độc lập 2: TS VÕ VĂN TÀI NGƯỜI HƯỚNG DẪN KHOA HỌC: GS TS ĐẶNG ĐỨC TRỌNG Tp Hồ Chí Minh – Năm 2018 Lời cam đoan Tôi xin cam đoan kết luận án trung thực chưa công bố cơng trình khác Nghiên cứu sinh Cao Xn Phương i Lời cảm ơn Trong dòng luận án, xin cảm ơn công lao giảng dạy Thầy Cơ Khoa Tốn-Tin học, Trường Đại học Khoa học Tự nhiên-Đại học Quốc gia Tp Hồ Chí Minh Các Thầy Cơ dành cho tơi tất lòng “người thầy” năm học bậc đại học, cao học nghiên cứu sinh Chính kiến thức mà tơi tiếp thu từ Thầy Cô suốt năm qua tảng quan trọng để tơi hồn thành luận án Tơi kính gửi tình cảm tốt đẹp lòng biết ơn chân thành đến Thầy GS TS Đặng Đức Trọng, Trưởng Khoa Toán-Tin học, Trường Đại học Khoa học Tự nhiên-Đại học Quốc gia Tp Hồ Chí Minh, tận tình hướng dẫn, dạy Thầy tơi suốt q trình học tập, nghiên cứu hồn thành luận án Tơi xin bày tỏ lịng biết ơn đến Ban giám hiệu, Thầy Cơ thuộc Phịng Sau đại học Trường Đại học Khoa học Tự nhiên-Đại học Quốc gia Tp Hồ Chí Minh tạo điều kiện thuận lợi giúp tơi hồn thành chương trình nghiên cứu sinh Kính gửi đến Ban giám hiệu, Ban chủ nhiệm Khoa Toán-Thống kê Trường Đại học Tôn Đức Thắng anh chị đồng nghiệp trường lời cảm ơn sâu sắc hỗ trợ nhiều mặt để tơi hồn thành chương trình nghiên cứu sinh Cuối cùng, xin gửi tất lời thân thương đến thành viên gia đình tơi, người ln bên tơi lúc khó khăn, ln động viên, hỗ trợ tạo điều kiện thuận lợi để học tập Tp Hồ Chí Minh, ngày 13 tháng 05 năm 2018 Cao Xuân Phương ii Mục lục Danh mục ký hiệu Mở đầu Kiến thức chuẩn bị 10 1.1 Ước lượng vững rủi ro minimax 10 1.2 Một số kiến thức Xác suất 11 1.3 Không gian Lp 12 1.4 Tích chập R 14 1.5 Giá hàm số 14 1.6 Đạo hàm suy rộng 15 1.7 Biến đổi Fourier 15 1.8 Hàm mật độ trơn thường siêu trơn 17 1.9 Hàm giải tích 17 1.10 Bài toán đặt khơng chỉnh sơ đồ chỉnh hóa 24 1.11 Chỉnh hóa Tikhonov 25 Chỉnh hóa Tikhonov cho toán giải chập 26 2.1 Giới thiệu 26 2.2 Ước lượng Tikhonov 28 2.3 Các kết xấp xỉ 29 2.4 Các chứng minh 33 Chỉnh hóa tham số chóp cho tốn giải chập với phân phối sai số chưa biết 42 3.1 Giới thiệu 42 3.2 Phương pháp ước lượng 43 3.3 Các kết xấp xỉ 44 iii 3.4 Các chứng minh Bài toán giải chập với sai số không phân phối 48 58 4.1 Giới thiệu 58 4.2 Phương pháp ước lượng 60 4.3 Các kết xấp xỉ 62 4.4 Các thử nghiệm số 66 4.5 Các chứng minh 72 Kết luận 81 Danh mục cơng trình khoa học tác giả 82 Tài liệu tham khảo 83 iv Danh mục ký hiệu N Tập hợp số tự nhiên Z Tập hợp số nguyên Z+ Tập hợp số nguyên dương R Tập hợp số thực C Tập hợp số phức B(z0 , r) {z ∈ C : |z − z0 | < r} supp(f ) Giá hàm f , supp (f ) = {x : f (x) = 0} f (k) Đạo hàm (suy rộng) cấp k hàm f f ft Biến đổi Fourier hàm f , f ft (t) = f ∗g Tích chập hàm f g , (f ∗ g) (x) = IA Hàm tiêu tập A, IA (x) = x ∈ A IA (x) = x ∈ /A P(A) Xác suất kiện A an = O(bn ) an ≤ const ·bn , với n đủ lớn ∞ −∞ f (x) eitx dx ∞ −∞ f (x − u) g (u) du an,m = O(bn,m )an,m ≤ const ·bn,m , với n, m đủ lớn an bn λ(A) an = O(bn ) bn = O(an ) Độ đo Lebesgue tập Lebesgue đo A ⊂ R ·, · Tích vơ hướng L2 (R) a Số nguyên nhỏ lớn hay a Z(φ) {t ∈ R : φ(t) = 0} Bφ;R,ρ {t ∈ R : |t| ≤ R, |φ (t)| ≤ ρ} Fq,C hàm mật độ f : f ∈ L2 (R), f ft (t) ∞ −∞ ≤ C(1 + t2 )−q f ft (t) β + t2 dt Sβ,C hàm mật độ f : f ∈ L2 (R), Fβ,C,L hàm mật độ f : Gs0 ,γ,M,T hàm mật độ g : Gc1 ,c2 ,γ hàm mật độ g : GD,d,η hàm mật độ g : g ∈ L (R), g (t) GS hàm mật độ g : g ∈ L2 (R), supp(g) ⊂ [−S, S] GS hàm mật độ g : supp(g) ⊂ [−S, S] ∀t ∈ R ≤C β ∞ ∞ ft + t2 dt ≤ C, −∞ |x| f (x)dx ≤ L −∞ f (t) ∞ s0 |x|γ dx ≤ M , g ≤ T g (x) e −∞ −γ −γ g ∈ L2 (R), c1 + t2 ≤ g ft (t) ≤ c2 + t2 2 ft −d|t|η ≥ De ∀t ∈ R ∀t Mở đầu Ước lượng hàm mật độ toán thống kê phi tham số Bài toán bắt đầu nghiên cứu báo Rosenblatt [43], Parzen [41] Từ đến nay, nhiều cơng trình nghiên cứu đề cập đến tốn nhiều khía cạnh khác Chúng ta xem tổng hợp tương đối đầy đủ v bi toỏn ny cỏc ti liu Devroye-Gyoărfi [11], Wasserman [51], Tsybakov [50] nhiều tài liệu khác Giả sử X dấu hiệu định lượng tổng thể mà mơ biến số ngẫu nhiên liên tục Ta mong muốn ước lượng hàm mật độ f X Về nguyên tắc, việc ước lượng f dựa mẫu quan trắc (X1 , , Xn ) dấu hiệu X Các quan trắc thường giả sử độc lập phân phối (xác suất) Tính độc lập suy từ giả thiết quan trắc không ảnh hưởng lẫn nhau, giả sử tính phân phối hợp lý quan trắc đo hoàn cảnh giống Trong thực tế, quan trắc trực tiếp X khơng có sẵn sai số đo xuất q trình đo Các sai số đo xuất từ nhiều nguyên nhân, chẳng hạn dụng cụ đo, phương pháp đo Nói khác đi, quan trắc nhận khơng phải thể X Trong Meister [37], mục 2.1, ta tìm thấy số ví dụ thực tế phép đo có sai số khơng thể bỏ qua Điều đặt vấn đề nghiên cứu tốn ước lượng hàm mật độ mơ hình thống kê có sai số đo Trong luận án này, chúng tơi khảo sát mơ hình thống kê có sai số đo ứng dụng nhiều thực tế, mơ hình sai số đo cộng tính (additive measurement error model) Mơ hình có dạng Yj = Xj + Zj , j = 1, , n, (1) (Yj )1≤j≤n , (Xj )1≤j≤n (Zj )1≤j≤n tương ứng dãy hữu hạn biến số ngẫu nhiên liên tục độc lập Ta giả thiết biến số X1 , , Xn có phân phối, nữa, véc tơ (X1 , , Xn ) độc lập với véc tơ (Z1 , , Zn ) Trong mơ hình này, X1 , , Xn biến số quan tâm không quan trắc, Y1 , , Yn quan trắc (dữ liệu), Z1 , , Zn sai số đo (nhiễu) liệu Bài toán tìm ước lượng cho hàm mật độ chung f biến số Xj dựa sở quan trắc Y1 , , Yn Bài toán gọi toán giải chập (deconvolution problem) thuộc loại toán ngược (inverse problems) thống kê phi tham số Luận án nghiên cứu toán giải chập ba trường hợp sau sai số đo Z1 , , Zn : (i) Z1 , , Zn độc lập phân phối Hàm mật độ chung g biến số Zj giả thiết biết trước thỏa mãn ∞ γ g (x) es0 |x| dx ≤ M, g −∞ 2 ≤ T, s0 > 0, γ > 1, M > T > (ii) Z1 , , Zn độc lập phân phối Hàm mật độ chung g biến số Zj chưa biết thỏa mãn g ∈ L2 (R), supp(g) ⊂ [−S, S] với S > Ở ký hiệu supp(g) biểu thị giá (support) hàm g (iii) Z1 , , Zn độc lập, nhiên sai số đo khác phân phối Hàm mật độ gj (j = 1, , n) biến số Zj giả thiết biết trước thỏa mãn supp (gj ) ⊂ [−S, S] , j = 1, , n, S số dương độc lập với n Sau chúng tơi giới thiệu phần tổng quan tốn giải chập nhằm mục đích khơng trùng lặp trường hợp (i), (ii) (iii) với trường hợp sai số đo nghiên cứu lịch sử Về mặt lịch sử, toán giải chập bắt đầu quan tâm khảo sát vào khoảng thập niên 80 kỷ 20 với nghiên cứu tiên phong tiêu biểu MendelsohnRice [32], Carroll-Hall [6], Liu-Taylor [26], Stefanski-Carroll [46] Bài toán ứng dụng vào số lĩnh vực, khơi phục ảnh tín hiệu, thống kê y học, kinh tế lượng, Với toán giải chập, cơng cụ tốn học sử dụng phổ biến phép biến đổi Fourier Biến đổi Fourier hàm φ ∈ L1 (R) xác định ∞ ft φ (x) eitx dx, φ (t) = t ∈ R −∞ Lưu ý φ hàm mật độ biến số ngẫu nhiên liên tục U biến đổi Fourier φft hàm đặc trưng ϕU U , ϕU (t) = E(eitU ) Bài toán giải chập với sai số đo Z1 , , Zn phân phối loại toán giải chập nghiên cứu rộng rãi Trong đa số nghiên cứu loại toán này, hàm mật độ chung g biến số Zj giả thiết biết trước gọi hàm mật độ sai số Độc giả tham khảo Carroll-Hall [6], Devroye [12], Liu-Taylor [26], Taylor-Zhang [49], Stefanski [48], Fan [16, 17], Pensky-Vidakovic [42], Fan-Koo [19], Lee-Taylor [28], Comte cộng [7], Hall-Meister [23], Butucea-Tsybakov [3], Lounici-Nickl [30] nhiều nghiên cứu khác Đây xem giả thiết cổ điển cho loại toán Với giả thiết này, cách tiếp cận chung việc xây dựng ước lượng cho f sau: từ độc lập Xj Zj , hàm mật độ h Yj liên hệ với hàm mật độ f, g thông qua đẳng thức h = f ∗ g, (2) hàm f ∗ g tích chập f g , ∞ f (x − u) g (u) du, (f ∗ g) (x) = x ∈ R −∞ Sau đó, áp dụng biến đổi Fourier, ta đưa phương trình (2) dạng tương đương hft (t) = f ft (t) g ft (t) , hft (t) f (t) = ft g (t) ft t ∈ R, với g ft (t) = Để hàm f ft xác định R, ta cần giả thiết Z g ft ≡ t ∈ R : g ft (t) = = ∅ (3) Từ đó, áp dụng cơng thức biến đổi Fourier ngược, ta thu f (x) = ∞ 2π −∞ hft (t) −itx e dt g ft (t) (4) Tuy nhiên, ta chưa thể sử dụng cơng thức (4) để xác định f hàm hft khơng biết xác, nữa, hàm g ft ∈ / L1 (R) ∪ L2 (R) Ý tưởng để khắc phục điều thay hft (t) xấp xỉ thực nghiệm Φ(t; Y1 , , Yn ) dựa sở mẫu quan trắc (Y1 , , Yn ) thay hàm cho G(t) ≈ g ft (t) g ft hàm G thích hợp GΦ ∈ L1 (R) ∪ L2 (R) Khi đó, ước lượng cho f đề xuất dạng fˆ (x; Y1 , , Yn ) = 2π ∞ G(t)Φ(t; Y1 , , Yn )e−itx dt −∞ Tiếp theo ta đánh giá Q2 Thật vậy, quan trắc ngẫu nhiên Y1 , , Yn độc lập nên với x ∈ [−M, M ], ta có Var fˆ (x) = Var 4π n2 n ∞ gjft (−t) eit(Yj −x) j=1 −∞ δ|t|a + |gjft (t)| ∞ gjft (−t) eit(Yj −x) −∞ δ|t|a + |gjft (t)| n = 2 4π n Var j=1 dt dt Sử dụng bất đẳng thức Var (U ) ≤ E|U |2 , ta suy Var fˆ (x) ≤ 2 4π n = 2 4π n = 2 4π n n ∞ gjft (−t) eit(Yj −x) −∞ δ|t|a + |gjft (t)| E j=1 2 dt n ∞ ∞ gjft (−t) eit(u−x) j=1 −∞ −∞ δ|t|a + |gjft (t)| n ∞ ∞ gjft (−t) eitv j=1 −∞ −∞ δ|t|a + |gjft (t)| ∞ ≤ f Kết hợp với bất đẳng thức f ∗ gj 2 dt (f ∗ gj ) (u) du dt (f ∗ gj ) (v + x) dv (xem Định lý 1.4.1) đẳng thức ∞ Parseval, ta f Var fˆ (x) ≤ ∞2 4π n f ∞ = 2πn2 n ∞ ∞ gjft (−t) eitv j=1 −∞ −∞ δ|t|a + |gjft (t)| n ∞ j=1 −∞ dt dv |gjft (t)| a δ|t| 2 + |gjft (t)| dt Nếu 1/(2c0 ) ≤ t0 f ∞ Var fˆ (x) ≤ 2πn2 ≤ ≤ ≤ f ∞ 2πn2 f ∞ 2πn2 f ∞ 2π n j=1 n j=1 n dt + |t|≤ 2c1 |gjft (t)| |t|≤ 2c1 dt + − c0 |t| |t|> 2c1 0 2dt + j=1 + c0 |t|> 2c1 |t|≤ 2c1 |t|> 2c1 0 |t|> 2c1 73 1 a dt nδ |t| dt δ|t|a dt δ|t|a dt δ|t|a Ngược lại, 1/(2c0 ) > t0 f ∞ Var fˆ (x) ≤ 2πn2 f ∞ 2πn2 ≤ n dt + j=1 n |t|≤t0 |gjft (t)| j=1 |t|≤t0 dt + − c0 |t| f ∞ 4t0 + 2π ≤ |t|>t0 |t|>t0 dt δ|t|a dt δ|t|a 1 a dt nδ |t| |t|>t0 Vậy ta có đánh giá Var fˆ (x) ≤ f ∞ max 2π + c0 |t|> 2c1 dt; 4t0 + |t|a |t|>t0 dt |t|a nδ Đánh giá dẫn đến Q2 ≤ 2M |x|≤M = f π ∞ Vì f (x) = (2π)−1 f ∞ max 2π + c0 dt; 4t0 + |t|a |t|> 2c1 |t|>t0 2t1−a 2(2c0 )a−1 + ; 4t0 + c0 a−1 a−1 max ∞ ft −itx dt −∞ f (t) e dt |t|a dx nδ M ·√ nδ với hầu hết x ∈ R, nên f (4.10) ∞ ≤ (2π)−1 f ft Khi đó, từ (4.10) ta suy Q2 ≤ π f ft 2t1−a 2(2c0 )a−1 + ; 4t0 + c0 a−1 a−1 max M ·√ nδ (4.11) Kết hợp đánh giá (4.8), (4.9) (4.11), ta nhận kết luận bổ đề Chứng minh Định lý 4.3.2 Giả sử f ∈ Fβ,C,L Trước tiên ta có M f (x)dx ≤ |x|>M |x|f (x) dx = O |x|>M M (4.12) Với ε > phát biểu định lý, ta định nghĩa Rε công thức (1.15) nhắc lại Bgjft ;Rε ,ε = {t ∈ R : |t| ≤ Rε , |gjft (t)| ≤ ε}, j = 1, , n Ta có J := n n ∞ δ|t|a f ft (t) j=1 −∞ δ|t|a + |gjft (t)| J1 = n n j=1 dt = J1 + J2 + J3 , δ|t|a f ft (t) a Bgft ;Rε ,ε δ|t| j 74 + |gjft (t)| dt, J2 = n n δ|t|a f ft (t) |t|≤Rε ,|gjft (t)|>ε j=1 J3 = n n δ|t|a + |gjft (t)| δ|t|a f ft (t) |t|>Rε j=1 δ|t|a + |gjft (t)| dt, dt Áp dụng đánh giá (1.16) Bổ đề 1.9.7(b), bất đẳng thức Cauchy bất đẳng thức Cauchy-Schwarz, ta có n J1 ≤ n λ Bgjft ;Rε ,ε j=1 n ≤ n 2γ γ+3 2γ − γ+3 ln ε−1 =O n δ|t|a f ft (t) j=1 2|gjft (t)| |t|≤Rε ,|gjft (t)|>ε √ δ ln ε−1 ε a γ+3 dt ≤ n n j=1 f ft (t) + t2 |t|>Rε β + t2 −β β (1 + t2 ) dt ≤ |t|>Rε 1−2β γ+3 Kết hợp Bổ đề 4.3.1 với đánh giá (4.12), (4.13), ta √ min{2γ;2β−1} δ − γ+3 + E fˆ − f = O M ln ε−1 ln ε−1 ε n−1/2 ε ln ε−1 =O M dt 2C Rε1−2β 2β − Từ đánh giá J1 , J2 J3 , ta suy √ 2γ a δ − γ+3 + ln ε−1 γ+3 + ln ε−1 J = O ln ε−1 ε √ min{2γ;2β−1} a δ −1 − γ+3 = O ln ε + ln ε−1 γ+3 ε Bây ta chọn δ − β2 |t|>Rε f ft (t) (1 + t2 ) dt · ln ε−1 , f ft (t) dt = |t|>Rε E fˆ − f , δRεa ft f 2ε j=1 n ≤ =O 2γ − γ+3 ln ε−1 =O j=1 J2 ≤ n J3 ≤ n √ 2eS 15e3 ln ε−1 −a/(γ+3) (4.13) 1 +√ + M nδ Khi đó, − min{2γ;2β−1} γ+3 75 a γ+3 − 2β−1 γ+3 1 + n− ε− ln ε−1 a 2(γ+3) + M Bằng cách chọn − min{2γ;2β−1} γ+3 ln ε−1 M √ áp dụng bất đẳng thức E fˆ − f u+v ≤ u+ √ ε − 12 ln ε−1 a 2(γ+3) − 12 v (u, v ≥ 0), ta nhận − min{2γ;2β−1} 2(γ+3) ln ε−1 =O √ +n − 41 1 + n− ε− ln ε−1 a 4(γ+3) Đánh giá với f ∈ Fβ,C,L , sup f ∈Fβ,C,L E fˆ − f ln ε−1 =O − min{2γ;2β−1} 2(γ+3) 1 + n− ε− ln ε−1 a 4(γ+3) (4.14) Trong trường hợp ε = n−(γ+3)/(a+2γ+6+2 min{2γ;2β−1}) , từ bất đẳng thức ln x ≤ √ x (x > 0), ta có ε − 14 ln ε a 4(γ+3) −1 ln ε min{2γ;2β−1} 2(γ+3) −1 ≤ ε − 41 a 1+ 2(γ+3) + min{2γ;2β−1} γ+3 = n8 , 1 n− ε− ln ε−1 a 4(γ+3) ≤ ln ε−1 − min{2γ;2β−1} 2(γ+3) (4.15) Sau đó, kết hợp (4.14) (4.15), ta sup f ∈Fβ,C,L E fˆ − f =O − min{2γ;2β−1} 2(γ+3) ln ε−1 = O (ln n)− min{2γ;2β−1} 2(γ+3) Lưu ý với ε = n−(γ+3)/(a+2γ+6+2 min{2γ;2β−1}) , ta có M ln ε −1 − min{2γ;2β−1} γ+3 +n − 14 − 12 ε ln ε −1 a 2(γ+3) − 12 (ln n) min{2γ;2β−1} 2(γ+3) Định lý chứng minh Chứng minh Định lý 4.3.3 Cho ψ1 : R → R hàm thỏa điều kiện: ψ1 ∈ C ∞ (R), ≤ ψ1 ≤ 1, ψ1 (x) = với |x| ≤ S/2, ψ1 (x) = với |x| > S Với n ∈ N, đặt f1;n = Cψ1 −1 ψ1 , Cψ1 = ∞ −∞ ψ1 (x) dx Tiếp theo, cho ψ2 : R → R hàm thỏa điều kiện: ψ2 ∈ L1 (R), ψ2 supp (ψ2 ) ⊂ [−S/2, S/2], ψ2 (−x) = ψ2 (x) với x ∈ R, ψ2ft (t) = > 0, η O(e−l|t| ) |t| → ∞, với l > (xem Định lý 1.7.7) Cho Tn = (ln n) / min{2−η l; k} đặt an = (Tn )−2β/η , bn = (Tn )−1/η , Ta định nghĩa f2;n = f1;n + Ψn , 76 cn = (Tn )1/η x bn Ψn (x) = an ψ2 cn x bn sin , x ∈ R Bây ta chứng minh hàm fj;n (j = 1, 2) thuộc lớp hàm Fβ,C,L với L ≥ 2S /Cψ1 + S ψ2 /2 với C > đủ lớn Đầu tiên, ta thấy f1;n hàm mật độ với supp (f1;n ) ⊂ [−S, S] Với |x| > Sbn /2, ta có f2;n (x) = f1;n (x) ≥ Với hầu hết |x| ≤ Sbn /2, ta có f1;n (x) = Cψ1 −1 |Ψn (x)| ≤ an ψ2 ∞ ≤ (2π)−1 ψ2ft a , n f2;n (x) ≥ Cψ1 −1 − (2π)−1 ψ2ft a n ≥0 với n đủ lớn, an → n → ∞ Do đó, n đủ lớn, f2;n (x) ≥ với hầu hết x ∈ R Bên cạnh đó, Ψn hàm lẻ nhận giá trị thực nên ∞ −∞ f2;n (x) dx ∞ −∞ Ψn (x) dx = 0, = Tóm lại, f2;n hàm mật độ n đủ lớn Tiếp theo, với n đủ lớn, ta có j∈{1;2} −∞ ∞ ∞ ∞ max |x| |Ψn (x)| dx |x| |f1;n (x)| dx + |x| fj;n (x) dx ≤ −∞ 2S ≤ Cψ + −∞ 2S S S + ψ2 an b2n ≤ ψ2 C ψ1 ≤ L Vì ψ1 hàm trơn, có giá com-pắc [−S, S] nên tồn số dương Cψ1 ,β −β cho ψ1ft (t) ≤ Cψ1 ,β + t2 ∞ −∞ ft f1;n (t) 1+t β với t ∈ R Điều dẫn đến dt = Cψ1 −2 ∞ −∞ ≤ C ψ1 −2 ψ1ft (t) Cψ1 ,β + t2 β + t2 −β ∞ dt dt −∞ Tiếp theo, tính tốn trực tiếp, ta nhận an bn ft Ψft ψ2 (bn t + cn ) − ψ2ft (bn t − cn ) , t ∈ R (4.16) n (t) = 2i Do đó, dựa bất đẳng thức |z1 − z2 |2 ≤ 2|z1 |2 + 2|z2 |2 với z1 , z2 ∈ C, ta ∞ −∞ Ψft n (t) + t2 β dt ∞ = O(a2n b2n ) · = O(a2n b2n ) · −∞ ∞ ψ2ft (bn t + cn ) + ψ2ft (bn t − cn ) η e−2l|bn t+cn | + e−2l|bn t−cn | −∞ ∞ η e−2l|bn t−cn | + t2 = O(a2n b2n ) · 77 β η + t2 + t2 β dt dt =: O(a2n b2n ) · Jn β dt Hơn nữa, ta có 2cn bn Jn = β η e−2l|bn t−cn | + t2 ∞ η e−2l|bn t−cn | + t2 dt + β dt 2cn bn 2cn bn =O 4c2 + 2n bn β ∞ dt + −2l|bn t−cn |η e 2β |t| dt =O 2cn bn c2β+1 n b2β+1 n Do đó, ∞ −∞ Ψft n (t) β + t2 a2n c2β+1 n dt = O = O(1) b2β−1 n Áp dụng bất đẳng thức |z1 + z2 |2 ≤ 2|z1 |2 + 2|z2 |2 với z1 , z2 ∈ C, ta ∞ −∞ ft (t) f2;n + t2 β ∞ ft (t) f1;n dt ≤ −∞ −2 β ∞ dt + −∞ Cψ1 ,β ≤ 2(CΨ1 ) + t2 ∞ + t2 −β Ψft n (t) + t2 β dt dt + O(1) −∞ Như vậy, ta chọn số C > đủ lớn ∞ ft −∞ |fj;n (t)| + t2 α dt ≤ C với j = 1, Nói tóm lại, ta chứng minh n đủ lớn, fj;n ∈ Fβ,C,L với C, L > đủ lớn với j = 1, Giả sử fˆn (·; Y1 , , Yn ) ước lượng f dựa quan trắc Y1 , , Yn Đặt hj;1;n = f1;n ∗ gj hj;2;n = f2;n ∗ gj Với n đủ lớn, ta có Qn := sup f ∈Fβ,C,L E fˆn − f ≥ E fˆn − f1;n + E fˆn − f2;n Với l = 1, 2, E fˆn − fl;n ∞ = ∞ ··· −∞ −∞ ∞ ∞ ··· ≥ −∞ n fˆn − fl;n hj;l;n (yj )dy1 · · · dyn j=1 n fˆn − fl;n {hj;1;n (yj ) ; hj;2;n (yj )}dy1 · · · dyn −∞ j=1 Từ đó, sử dụng bất đẳng thức u − v 1+ u−w ≥ v−w với u, v, w ∈ L1 (R), ta có Qn ≥ f1;n − f2;n = f1;n − f2;n = f1;n − f2;n ∞ n ··· {hj;1;n (yj ) ; hj;2;n (yj )}dy1 · · · dyn −∞ n ∞ −∞ j=1 ∞ {hj;1;n (yj ) ; hj;2;n (yj )} dyj j=1 −∞ n 1− j=1 ∞ |(Ψn ∗ gj ) (yj )| dyj −∞ 78 Hơn nữa, với n đủ lớn, ta có ∞ f1;n − f2;n ∞ = an b n |ψ2 (u)| |sin (cn u)|2 du |ψ2 (u) sin (cn u)| du ≥ an bn −∞ −∞ ∞ 1 = an b n |ψ2 (u)| [1 − cos (2cn u)] du ≥ ψ2 an bn −∞ 2β+1 2β+1 = ψ2 (Tn )− η = const ·(ln n)− η , Qn ≥ const ·(ln n)− n 2β+1 η 1− j=1 ∞ |(Ψn ∗ gj ) (yj )| dyj (4.17) −∞ Tiếp theo, ta đặt Pj;n = ∞ |(Ψn ∗ gj ) (yj )| dyj , j = 1, , n −∞ Vì supp (Ψn ) ⊂ [−Sbn /2, Sbn /2] ⊂ [−S/2, S/2] với n đủ lớn, supp (gj ) ⊂ [−S, S], nên supp (Ψn ∗ gj ) ⊂ [−3S/2, 3S/2] Do đó, Pj;n = 3S/2 |(Ψn ∗ gj ) (yj )| dyj −3S/2 Áp dụng bất đẳng thức Cauchy-Schwarz, đẳng thức Parseval giả sử (4.5), ta có 3S/2 3S ≤ 3S 2π Pj;n ≤ ≤ |(Ψn ∗ gj ) (yj )|2 dyj −3S/2 3Sc2 2π ∞ −∞ Ψft n (t) ∞ gjft (t) dt η −2k|t| dt Ψft n (t) e −∞ Kết hợp đánh giá với đẳng thức (4.16) bất đẳng thức |z1 − z2 |2 ≤ 2(|z1 |2 +|z2 |2 ) với z1 , z2 ∈ C, ta ∞ Pj;n = O (an bn ) · −∞ ψ2ft (bn t + cn ) + ψ2ft (bn t − cn ) ∞ η η e−2l|bn t+cn | + e−2l|bn t−cn | = O (an bn ) · −∞ ∞ η η e−2l|bn t−cn | e−2k|t| dt = O (an bn ) · 79 η η e−2k|t| dt e−2k|t| dt Vì ∞ −2l|bn t−cn |η −2k|t|η e e bn dt = η −2l( c2n ) e e −2k|t|η −2k(bn )−η ∞ η e−2l|bn t−cn | dt dt + e bn −21−η l(cn )η =O e e−2k(bn ) +O bn −η nên Pj;n = O a2n bn e−2 1−η l(c η n) −η + e−2k(bn ) = O n−1 (4.18) Từ (4.17) (4.18), ta suy Qn ≥ const ·(ln n) − 2β+1 η n − O n−1 · j=1 điều hoàn tất chứng minh định lý 80 ≥ const ·(ln n)− 2β+1 η , Kết luận Trong luận án này, nghiên cứu trình bày số kết cho toán giải chập ba trường hợp sau liên quan đến sai số đo Z1 , , Zn : - Trường hợp 1: Các sai số đo Z1 , , Zn độc lập, phân phối Hàm mật độ chung g biến Zj giả thiết biết trước thỏa g 2 ∞ s0 |x|γ dx −∞ g (x) e ≤ M, ≤ T , s0 > 0, γ > 1, M > T > Trong trường hợp này, luận án giới thiệu ước lượng giải chập xây dựng theo phương pháp chỉnh hóa Tikhonov, chứng minh ước lượng vững theo trung bình tương ứng với sai số-L2 λ(Z(g ft )) = 0, thiết lập chặn chặn tốc độ hội tụ sai số-L2 trung bình lớp hàm mật độ mục tiêu Fq,C - Trường hợp 2: Các sai số đo Z1 , , Zn độc lập, phân phối Hàm mật độ chung g biến Zj chưa biết thỏa mãn g ∈ L2 (R) supp(g) ⊂ [−S, S] với S > Trong trường hợp này, luận án giới thiệu ước lượng giải chập hiệu chỉnh từ ước lượng tham số chóp Hall-Meister [23], chứng minh ước lượng vững theo trung bình tương ứng với sai số-L2 λ(Z(g ft )) = 0, thiết lập chặn tốc độ hội tụ sai số-L2 trung bình lớp hàm mật độ mục tiêu Sβ,C - Trường hợp 3: Các sai số đo Z1 , , Zn độc lập, khơng phân phối Hàm mật độ gj biến số Zj (j = 1, , n) giả thiết biết trước thỏa mãn supp(gj ) ⊂ [−S, S], S > độc lập với n Trong trường hợp này, luận án giới thiệu ước lượng giải chập loại chặt cụt xây dựng theo phương pháp chỉnh hóa Tikhonov, thiết lập chặn chặn tốc độ hội tụ sai số-L1 trung bình lớp hàm mật độ mục tiêu Fβ,C,L Trên sở kết thu luận án, chúng tơi xin nêu vấn đề nghiên cứu, phát triển tiếp sau: - Mở rộng kết Chương cách sử dụng sai số bình phương trung bình (mean squared error) thay cho sai số-L2 trung bình - Nghiên cứu tốn ước lượng phiếm hàm tuyến tính (hoặc phi tuyến) f tương ứng với trường hợp sai số đo xét luận án 81 Danh mục cơng trình khoa học tác giả [P1] Đặng Đức Trọng, Cao Xuân Phương, Trương Trung Tuyến, Đinh Ngọc Thanh (2014), Tikhonov’s regularization to the deconvolution problem, Communications in Statistics-Theory and Methods, 43(20), pp 4384–4400 [P2] Đặng Đức Trọng, Cao Xuân Phương (2015), Ridge-parameter regularization to deconvolution problem with unknown error distribution, Vietnam Journal of Mathematics, 43(2), pp 239–256 [P3] Cao Xuân Phương, Estimation of a fold convolution in additive noise model with compactly supported noise density, Journal of Science and Technology Development (Được chấp nhận cho xuất vào ngày 07/04/2017) [P4] Cao Xuân Phương, Đặng Đức Trọng, Trần Quốc Việt, On the mean L1 -error in the heteroscedastic deconvolution problem with compactly supported noises, Communications in Statistics-Theory and Methods, DOI: 10.1080/03610926.2017.1364389 (Được chấp nhận cho xuất vào ngày 01/08/2017) 82 Tài liệu tham khảo [1] Bailey, D.H., Swarztrauber, P.N (1994), A fast method for the numerical evaluation of continuous Fourier and Laplace transforms, SIAM Journal on Scientific Computing, 15(5), pp 1105–1110 [2] Billingsley, P (1986), Probability and measure, Second edition, John Wiley & Sons, New York [3] Butucea, C., Tsybakov, A.B (2008), Sharp optimality in density deconvolution with dominating bias I, Theory of Probability and Its Applications, 52(1), pp 111–128 [4] Brezis, H (2011), Functional analysis, Sobolev spaces and Partial differential equations, Springer, New York [5] Belov, Y., Havin, V (2015), The Beurling-Malliavin multiplier theorem and its analogs for the de Branges spaces, Operator Theory, 1, pp 581–607 [6] Carroll, R.J., Hall, P (1988), Optimal rates of convergence for deconvolving a density, Journal of American Statistical Association, 83(404), pp 1184–1186 [7] Comte, F., Rozenholc, Y., Taupin, M.L (2006), Penalized contrast estimator for adaptive density deconvolution, The Canadian Journal of Statistics, 34(3), pp 431–452 [8] Comte, F., Lacour, C (2010), Pointwise deconvolution with unknown error distribution, Comptes Rendus Mathematique Academie des Sciences Paris, Ser I, 348, pp 323–326 [9] Comte, F., Lacour, C (2011), Data-driven density estimation in the presence of additive noise with unknown distribution, Journal of the Royal Statistical Society-Series B, 73(4), pp 601–627 83 [10] Chesneau, C., Fadili, J (2013), Wavelet-based density estimation in a heteroscedastic convolution model, Communications in Statistics-Theory and Methods, 42(17), pp 30853099 [11] Devroye, L., Gyoărfi, L (1985), Nonparametric Density Estimation: The L1 View, Wiley, New York [12] Devroye, L (1989), Consistent deconvolution in density estimation, The Canadian Journal of Statistics, 17(2), pp 235–239 [13] Diggle, P.J., Hall, P (1993), A Fourier approach to nonparametric deconvolution of a density estimate, Journal of the Royal Statistical Society-Series B, 55(2), pp 523–531 [14] Delaigle, A., Meister, A (2008), Density estimation with heteroscedastic error, Bernoulli, 14(2), pp 562–579 [15] Delaigle, A., Meister, A (2011), Nonparametric function estimation under Fourier-oscillating noise, Statistica Sinica, 21(3), pp 1065–1092 [16] Fan, J (1991), On the optimal rates of convergence for nonparametric deconvolution problems, The Annals of Statistics, 19(3), pp 1257–1272 [17] Fan, J (1992), Deconvolution with supersmooth distributions, The Canadian Journal of Statistics, 20(2), pp 155–169 [18] Fan, J (1993), Adaptively local one-dimensional subproblems with application to a deconvolution problem, The Annals of Statistics, 21(2), pp 600–610 [19] Fan, J., Koo, J.Y (2002), Wavelet Deconvolution, IEEE Transactions on Information Theory, 48(3), pp 734–747 [20] Feuerverger, A., Kim, P.T., Sun, J (2008), On optimal uniform deconvolution, Journal of Statistical Theory and Practice, 2(3), pp 433–451 [21] Groeneboom, P., Longbloed, G (2003), Density estimation in the uniform deconvolution, Statistica Neerlandica, 57(1), pp 136–157 [22] Holland, A.S.B (1973), Introduction to the theory of entire functions, Academic Press, New York and London 84 [23] Hall, P., Meister, A (2007), A ridge-parameter approach to deconvolution, The Annals of Statistics, 35(4), pp 1535–1558 [24] Johannes, J (2009), Deconvolution with unknown error distribution, The Annals of Statistics, 37(5A), pp 2301–2323 [25] Kirsch, A (2011), An Introduction to the Mathematical Theory of Inverse Problems, Second edition, Springer, New York [26] Liu, M.C., Taylor, R.L (1989), A consistent nonparametric density estimator for the deconvolution problem, The Canadian Journal of Statistics, 17(4), pp 427–438 [27] Levin, B.Y (1996), Lectures on Entire Functions, Translations of Mathematical Monographs, Vol 150, AMS, Providence, Rhode Island [28] Lee, S., Taylor, R.L (2004), On an L1 consistent wavelet density estimator for the deconvolution problem, Communications in Statistics-Theory and Methods, 33(8), pp 1917–1929 [29] Lacour, C (2006), Rates of convergence for nonparametric deconvolution, Comptes Rendus Mathematique Academie des Sciences Paris, 342(11), pp 877– 882 [30] Lounici, K., Nickl, R (2011), Global uniform risk bounds for wavelet deconvolution estimators, The Annals of Statistics, 39(1), pp 201–231 [31] Marsaglia, G., Bray, T.A (1964), A convenient method for generating normal variables, SIAM Review, 6(3), pp 260–264 [32] Mendelsohn, J., Rice, J (1982), Deconvolution of microfluorometric histograms with B splines, Journal of American Statistical Association, 77, pp 748–753 [33] Marsaglia, G., Tsang, W.W (2004), The 64-bit universal RNG, Statistics and Probability Letters, 66(2), pp 183–187 [34] Meister, A (2005), Non-estimability in spite of identifiability in density deconvolution, Mathematical Methods of Statistics, 14(4), pp 479–487 [35] Meister, A (2007), Deconvolving compactly supported densities, Mathematical Methods of Statistics, 16(1), pp 63–76 85 [36] Meister, A (2008), Deconvolution from Fourier-oscillating error densities under decay and smoothness restrictions, Inverse Problems, 24(1), 015003 [37] Meister, A (2009), Deconvolution problems in nonparametric statistics, Lecture notes in statistics, Springer, New York [38] McIntyre, J., Stefanski, L.A (2011), Density estimation with replicate heteroscedastic measurements, Annals of the Institute of Statistical Mathematics, 63(1), pp 81–99 [39] Neumann, M.H (1997), On the effect of estimating the error density in nonparametric deconvolution, Journal of Nonparametric Statistics, 7(4), pp 307–330 [40] Johnson, S G (2015), Saddle-point integration of C∞ “bump” functions, arXiv:1508.04376v1 [41] Parzen, E (1962), On estimation of a probability density function and mode, Annals of Mathematical Statistics, 33(3), pp 1065–1076 [42] Pensky, M., Vidakovic, B (1999), Adaptive wavelet estimator for nonparametric density deconvolution, The Annals of Statistics, 27(6), pp 2033–2053 [43] Rosenblatt, M (1956), Remarks on some nonparametric estimates of a density function, Annals of Mathematical Statistics, 27(3), pp 832–837 [44] Rudin, W (1987), Real and complex analysis, 3rd edition, McGraw-Hill, New York [45] Ross, S (1998), A first course in probability, 5th edition, Prentice-Hall, New Jersey [46] Stefanski, L.A., Carroll, R.J (1990), Deconvoluting kernel density estimators, Statistics, 21(2), pp 169–184 [47] Swarztrauber, P.N (1982), Vectorizing the FFTs In Parallel Computation (G Rodrigue, ed.), Academic Press, New York, pp 51–83; http://www.netlib.org/fftpack/ [48] Stefanski, L.A (1990), Rates of convergence of some estimators in a class of deconvolution problems, Statistics and Probability Letters, 9, pp 229–235 86 [49] Taylor, R.L., Zhang, H.M (1990) On a strongly consistent nonparametric density estimator for the deconvolution problem, Communications in StatisticsTheory and Methods, 19(9), pp 3325–3342 [50] Tsybakov, A.B (2008), Introduction to Nonparametric Estimation, Springer, New York [51] Wasserman, L (2006), All of Nonparametric Statistics, Springer, New York [52] Wang, X., Fan, Z., Wang, B (2010), Estimating smooth distribution function in the presence of heteroscedastic measurement errors, Computational Statistics and Data Analysis, 54(1), pp 25–36 [53] Wang, X., Ye, D (2012), The effects of error magnitude and bandwidth selection for deconvolution with unknown error distribution, Journal of Nonparametric Statistics, 24(1), pp 153–167 [54] Wang, J., Zhang, Q., Kou, J (2017), Wavelet estimators for the derivatives of the density function from data contaminated with heteroscedastic measurement errors, Communications in Statistics-Theory and Methods, 46(15), pp 7337–7354 87 ... TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN CAO XUÂN PHƯƠNG BÀI TOÁN GIẢI CHẬP TRONG THỐNG KÊ PHI THAM SỐ Chuyên ngành: LÝ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN HỌC Mã số chuyên ngành: 62460106 Phản biện 1: GS TSKH... số ngẫu nhiên liên tục U biến đổi Fourier φft hàm đặc trưng ϕU U , ϕU (t) = E(eitU ) Bài toán giải chập với sai số đo Z1 , , Zn phân phối loại toán giải chập nghiên cứu rộng rãi Trong đa số. .. độ Y1 hàm f ∗ g tích chập f g Bài toán ước lượng f dựa vào mẫu quan trắc (Y1 , , Yn ) phương trình (2.2) gọi toán giải chập (deconvolution problem) thống kê phi tham số Sử dụng biến đổi Fourier,