4 Phương pháp biến phụ trợ MCMC
4.4 Thuật toán trao đổi
Giống như thuật toán Moller thuật toán trao đổi này được dành riêng cho việc lấy mẫu từ phân phối f (θ|x) như trong (4.5). Thuật toán trao đổi có thể được mô tả như sau: Xét phân phối bổ sung:
f (y1, ..., ym, θ|x) = π(θ)f (x|θ)
m
Y
j=1
f (yj |θj) (4.10)
trong đó θ0i cố định, và y1, ..., ym là các biến phụ trợ độc lập với cùng không gian trạng thái như x. và phân phối đồng thời
m
Q
j=1
f (yj|θj). Giả sử rằng một thay thế cho θ là đề nghị với xác suất q(θi|θ). Chắc chắn rằng yi = x ta có thể tráo đổi việc đặt x và yi. Kết quả tỷ số MH cho sự thay thế này là: r(θ, θi, yi|x) = π(θi)f (x|θi)f (yi|θ)Q j6=i f (yj|θj)q(θ|θi) π(θ)f (x|θ)f (yi|θi) Q j6=i f (yj|θj)q(θi|θ)
Tức là:
r(θ, θi, yi|x) = π(θi)f (x|θi)f (yi|θ)q(θ|θi)
π(θ)f (x|θ)f (yi|θi)q(θi|θ) (4.11) Định nghĩa 4.4. Thuật toán trao đổi:
1. Đề nghị θ0 ∼ q(θ0|θ, x)
2. Sinh ra một biến phụ trợy ∼ f (y|θ0)với xác suất min{1, r(θ, θ0, y|x)}
trong đó:
r(θ, θ0, y|x) = π(θ
0)f (x|θ0)f (y|θ)q(θ|θ0)
π(θ)f (x|θ)f (y|θ0)q(θ0|θ) (4.12) Vì thuật toán này tập trung vào hoán vị giữa (θ, x) và (θ0, y) do vậy thuật toán này được gọi là thuật toán trao đổi. Thuật toán này giúp cải thiện hiệu quả của thuật toán Moller, nó thay thế sự cần thiết phải ước lượng tham số trước khi bắt đầu lấy mẫu.Thuật toán trao đổi dẫn tới một xác suất chấp nhận cao hơn cho các mẫu chính xác so với thuật toán Moller. Thuật toán trao đổi cũng có thể xem như thuật toán biến phụ trợ MCMC với việc bổ sung phân phối đề nghị , khi đó phân phối đề nghị được viết lại như sau:
Kết luận
Luận văn "Phương pháp MCMC và một số ứng dụng" đã trình bày được một số nội dung sau:
• Nêu các khái niệm cơ bản về phương pháp MCMC như suy luận Bayes, tích phân Monte Carlo, xích Markov.
• Trình bày một số phương pháp lấy mẫu quan trọng của phương pháp MCMC: phương pháp lấy mẫu Gibbs và thuật toán Metropolis - Hast- ing.
• Ứng dụng các thuật toán lấy mẫu Gibbs và thuật toán Metropolis - Hastings đối với các biến ngẫu nhiên nhiều chiều.
Tài liệu tham khảo
[1] Đào Hữu Hồ (1998), Xác suất thống kê, NXB Đại học Quốc gia Hà nội.
[2] Nguyễn Duy Tiến, Vũ Viết Yên (2006),Lý thuyết xác suất, NXB Giáo dục.
[3] Nguyễn Duy Tiến, Đặng Hùng Thắng (2001), Các mô hình xác suất và ứng dụng, Phần II: Quá trình dừng và ứng dụng, NXB Đại học Quốc gia Hà Nội
[4] Nguyễn Duy Tiến (2000), Các mô hình xác suất và ứng dụng, Phần I: Xích Markov và ứng dụng, NXB Đại học Quốc gia Hà nội.
[5] Đặng Hùng Thắng (2012), Xác suất nâng cao, NXB Đại học Quốc gia Hà nội.
[6] Faming Liang, Chuanhai Liu, Raymond J.Carroll(2010), Advanced Markov chain Monte Carlo methods.
[7] Dani Gamerman, Hedibert F. Lopez (2009), Markov chain Monte Carlo stochastic simulation for Bayesian inference(2nd edition).
[8] Mark Steyvers,2011, Computational statistics with Matlab
[9] Jean-Michel Marin,Christian P.Robert,2007A practical approach to computational Bayesian statistics.