Thuật toán cực tiểu hóa ước lượng Lasso

L ỜI CẢM ƠN

3.2.2. Thuật toán cực tiểu hóa ước lượng Lasso

Quy trình của phương pháp Lasso được tóm tắt qua các bước như sau: 1. Tính βˆk ,∀ =k 1,.., K (ước lượng không chệch của βk)

2. Tính σˆ1,k2 , σˆ2,k2 , σ1,k2 và σ2,k2 (đã định nghĩa trong (3.6), (3.7), (3.8) và (3.9)) 3. Tính η1,k và η2,k (đã định nghĩa trong (3.10) và (3.11)) với γ =1.01

4. Tính hệ số λˆL bằng phương pháp cực tiểu hóa Lasso (được định nghĩa trong (3.3)). 5. Chọn giá ˆJL của ước lượng λˆL, với ˆJL là tập con của bộ hàm ϒ mà hàm mật độ f

bị thu hẹp. ( ) L ( ) L L L ' 1 ˆ k J ˆ ˆ J J ˆ G ˆ λ = − β

trong đó GˆJL là ma trận con của ma trận Gram G tương ứng với tập con ˆJL. Các giá trị của

L '

ˆ

λ bên ngoài tập ˆJL là bằng 0.

6. Tính ước lượng cuối cùng ( )L

K L L ˆ k k k 1 ˆ ˆ f f ′ ′ ′ =   = ℜ = ℜ  ∑  λ λ ϕ .

Ma trận Gram đã được tính toán trước, các tích vô hướng giữa các hàm của bộ hàm sẽ được tính nhờ công thức phép cầu phương hình cầu xem [8]. Bước 5 là bước làm bình phương sai số bé nhất như đã được đề cập bởi Candès và Tao [3], nó làm giảm độ chênh lệch đã giới thiệu bởi phương pháp Lasso.

KẾT LUẬN VÀ KIẾN NGHỊ

Luận văn đã giới thiệu mô hình tổng quát của bài toán nhân chập trên  và bài toán nhân chập trên quả cầu 2 trong thống kê phi tham số, đồng thời đưa ra các phương pháp ước lượng cụ thể để giải các bài toán này. Luận văn cũng đã trình bày cơ sở lý thuyết cho từng phương pháp đó. Tuy nhiên, do hạn chế về nhiều mặt nên luận văn chỉ tập trung vào phương pháp và lý thuyết, chưa trình bày được các kĩ thuật tính toán để chúng ta thấy được tính ưu của các phương pháp trên. Nếu được tiếp tục tạo điều kiện nghiên cứu, chúng tôi sẽ phát triển đề tài này về mặt thực hành nhiều hơn, như lập trình (trên máy vi tính) các phương pháp giải chập, nghiên cứu các ứng dụng của nó (lọc ảnh, xử lý tín hiệu,….).

TÀI LIỆU THAM KHẢO

1. Alexander Meister (2009), Deconvolution Problems in Nonparametric Statistics, Springer, Berlin.

2. Bickel P., Ritov Y., Tsybakov A. (2009), “Simultaneous analysis of Lasso and Dantzig”,

Annal of Statistics 37(4), pp.1705-1732.

3. Candès E. J., Tao T. (2007), “The Dantzig selector : statistical estimation when p is much larger than n”, Annal of Statistics 35(6), pp.2313-2351.

4. Dalayan A., Salmon J. (2011), “Sharp Oracle Inequalities for Aggregation of Afine Estimators”, Preprint.

5. Healy D. M., Hendriks H., Kim P. T. (1998), “Spherical Deconvolution”, Journal of Multivariate Analysis 67, pp.1-22.

6. Kerkyacharian G., Pham Ngoc T. M., Picard D. (2011), “Localized spherical deconvolution”, Annal of Statistics 39(2), pp.1042-1068.

7. Massart P. (2007), Concentration inequalities and model selection, Springer, Berlin, pp.24-26.

8. Narcowich F. J., Petrushev P., Ward J. (2006), “Localized tight frames on spheres”, SIAM J. Math. Anal. 38(2), pp.574-594.

9. Pensky M., Vidakovic (1999), “Adaptive wavelet estimator for nonparametric density deconvolution”, Annals of Statistics 27, pp.2033-2053.

10. Peter T. Kim, Ja-Yong Koo (2002), “Optimal Spherical Deconvolution”, Journal of Multivariate Analysis 80, pp.21-42.

11. Phạm Ngọc Thanh Mai, Vincent Rivoirard (2013), “The dictionary approach for spherical deconvolution”, Journal of Multivariate Analysis 115, pp.138-156.