Luận văn thạc sĩ phương pháp MCMC và một số ứng dụng

ĐAI HOC QUOC GIA HÀ N®I TRƯèNG ĐAI HOC KHOA HOC TU NHIÊN TRAN TH± BÍCH NGOC PHƯƠNG PHÁP MCMC V MđT SO NG DUNG LUẳN VN THAC SY KHOA HOC Chuyên ngành : LÝ THUYET XÁC SUAT VÀ THONG KÊ TOÁN HOC Mã so : 60 46 01 06 NGƯèI HƯéNG DAN KHOA HOC: TS NGUYEN TH±NH HÀ N®I, 2014 Mnc lnc LèI Me ĐAU BANG KÝ HIfiU TONG QUAN 1.1 Suy lu¾n Bayes .8 1.1.1 Đ¾c điem mơ hình Bayes 1.1.2 Các tiên nghi¾m Jeffreys 1.2 Tích phân Monte Carlo 10 1.2.1 Bài toán 10 1.2.2 Xap xi Monte Carlo 11 1.2.3 Monte Carlo thông qua lay mau theo TRQNG so 12 1.3 Phương pháp sinh bien ngau nhiên 13 1.3.1 Phương pháp bien đői 13 1.3.2 Phương pháp chap nh¾n - bác bo 14 1.3.3 Phương pháp ty so đeu 15 1.4 Xích Markov 16 1.4.1 Các đ%nh nghĩa kí hi¾u 18 1.4.2 Sn h®i tu cna phân phoi 19 1.4.3 Giói han cna giá tr% trung bình 19 MAU GIBBS 21 2.1 Mau Gibbs 21 2.2 Thuắt toỏn mo rđng du li¾u .24 THU¾T TỐN METROPOLIS-HASTINGS 27 3.1 Thu¾t tốn Metropolis – Hastings 27 3.1.1 Khái ni¾m 27 3.1.2 Mau đc lắp 29 3.1.3 Xích bưóc ngau nhiên 30 3.2 Thu¾t tốn Metropolis- Hasting cho phân phoi nhieu chieu 30 3.2.1 C¾p nh¾t tùng khoi 30 3.2.2 C¾p nh¾t tùng thành phan 34 3.3 Các dang khác cna thu¾t tốn Metropolis - Hastings 36 3.3.1 Thu¾t tốn cham chay 36 3.3.2 Thu¾t tốn Langevin 37 3.3.3 Thu¾t tốn đa phép thu MH 38 3.4 Thu¾t tốn bưóc nhay ngưoc MCMC cho tốn lna cHQN mơ hình Bayes .39 3.4.1 Thu¾t tốn bưóc nhay ngưoc MCMC 39 3.4.2 Xác đ%nh điem thay đői 43 Phương pháp bien phn tra MCMC 46 4.1 Mơ phong nhi¾t luy¾n 48 4.2 Mơ phong đieu hồ nhi¾t 49 4.3 Thu¾t tốn Moller 51 4.4 Thu¾t tốn trao đői .53 Tài li¾u tham khao 56 LèI CAM ƠN Lu¾n văn đưoc hồn thành vói sn hưóng dan t¾n tình het súc nghiêm khac cna TS Nguyen Th%nh Thay dành nhieu thịi gian q báu cna đe hưóng dan giai đáp thac mac cna tơi suot ca q trình làm lu¾n văn Tơi muon to lòng biet ơn chân thành sâu sac nhat tói ngưịi thay cna Tơi muon gui tói tồn the thay Khoa Tốn - Cơ - Tin HQc trưòng Đai HQc Khoa HQc Tn nhiên, Đai HQc Quoc gia Hà N®i, thay đam nh¾n giang day khóa Cao HQc 2011 - 2013, đ¾c bi¾t thay tham gia giang day nhóm Xác suat thong kê 2011 - 2013 lịi cám ơn chân thành đoi vói cơng lao day suot thịi gian cna khóa HQc Tơi xin cám ơn gia đình, ban bè, đong nghi¾p anh ch% em nhóm Xác suat thong kê 2011 - 2013 ó quan tõm, giỳp ừ, tao ieu kiắn v đng viên tinh than đe tơi có the hồn thành đưoc khóa HQc LèI Me ĐAU Lu¾n văn vói muc đích trình bày ve phương pháp MCMC mđt so ỳng dung cna nú.Luắn oc xõy dnng dna lý thuyet ve suy lu¾n Bayes,tích phân Monte Carlo xích Markov Lu¾n văn gom có chương: Chương Tőng quan Suy lu¾n Bayes: giói thi¾u ve suy lu¾n Bayes, đ¾c điem cna mơ hình Bayes, tiên nghi¾m Jeffreys Tích phan Monte Carlo: Bài tốn tích phân Monte Carlo, xap xi Monte Carlo, Monte Carlo thông qua lay mau theo TRQNG so Phương pháp sinh bien ngau nhiên: Phương pháp bien đői, phương pháp chap nh¾n - bác bo, phương pháp ty so đeu Xích Markov: Cỏc %nh ngha v kớ hiắu, Sn hđi tu cna phân phoi, giói han cna giá tr% trung bình Chương Mau Gibbs Giói thi¾u ve phương pháp lay mau Gibbs ví du cho trưịng hop bien ngau nhiờn nhieu chieu Thuắt toỏn mo rđng du liắu:mụ ta thuắt toỏn v mđt so vớ du tng ỳng Chương Thu¾t tốn Metropolis- Hastings Thu¾t tốn Metropolis- Hasting: Khỏi niắm, mau đc lắp, xớch búc ngau nhiờn Thuắt tốn Metropolis - Hasting đoi vói phân phoi nhieu chieu: giói thi¾u úng dung cna thu¾t tốn Metropolis - Hasting đoi vói bien ngau nhiên nhieu chieu bang c¾p nh¾t tùng khoi, c¾p nh¾t tùng thành phan Các dang khác cna thu¾t tốn Metropolis - Hasting: Thu¾t tốn cham chay, thu¾t tốn Langevin, thu¾t tốn đa phép thu MH Chương Phương pháp bien phn tra MCMC Giúi thiắu ve mắt lý thuyet mđt vi thuắt tốn cna phương pháp MCMC có su dung bien phu tro: Phương pháp mơ phong nhi¾t luy¾n, mơ phong đieu chinh nhi¾t,Moller, thu¾t tốn trao đői, phương pháp lay mau MH kép Do thòi gian gap rút kien thúc cịn han che nên lu¾n văn khơng the tránh khoi nhung thieu sót, v¾y, rat mong nh¾n đưoc nhung ý kien đóng góp cna thay ban bè đong nghi¾p, xin trân TRQNG cám ơn Hà N®i, tháng 11 năm 2014 BANG KÝ HIfiU MCMC: Xích Markov Monte Carlo AD: Thuắt toỏn mo rđng du liắu AR: Thu¾t tốn chap nh¾n - bác bo h.c.c: hau chac chan MTH: thu¾t tốn đa phép thu Metropolis Hastings MTM: thu¾t tốn đa phép thu Metropolis RJMCMC: Thu¾t tốn bưóc nhay ngưoc MCMC Chương TONG QUAN 1.1 Suy luắn Bayes Suy luắn Bayes l mđt cụng thỳc suy lu¾n xác suat Vói ưu điem tính tốn đơn gian vói nhung phát trien gan cna phương pháp xích Markov Monte Carlo(MCMC) cho vi¾c tính xap xi tích phân có so chieu cao mà suy luắn Bayes ngy cng oc su dung rđng rói Suy lu¾n Bayes đưoc bat nguon tù Thomas Bayes (1764), ngưịi rút xác suat ngh%ch đao cna xác suat thành cơng θ m®t dãy phép thu đ®c l¾p Bernoulli, θ đưoc lay tù phân phoi đeu khoang (0,1) Ví dn 1.1 (Mơ hình Bernoulli vái tiên nghi¾m biet) x1,{0,1} x2, ,Gia xn tù Bernoulli (θ) không X = sumau ranglay θ ∼ Unif (0, 1) vái phân phoigian đeu mau khoang (0,1),và hàm khoi xác suat Pr (X = |θ ) = θ; Pr (X = |θ ) = − θ (1.1) X bien ngau nhiên Bernoulli vái X = neu thành công, X = neu that bai Σn Ta viet N = i= xi so quan sát thành công n phép thu Bernoulli công Xác ngh%ch cua báiphoi x1, nh% x2, thúc , x n đưac hieu nhưθ phân Khisuat N |θ ∼ đao B (n, θ)θlàcho phân vái cã n xác suat thành phoi h¾u nghi¾m,đưac xem phân phoi Beta, Beta(1+N,1+n-N) vỏi hm mắt đ xỏc suat (1+nN )1 (1+N )−1 (0 θ 1) (1.2) (1 θ) B(1 + N, + n −θN ) ≤ − ≤ B (◦,◦) kí hi¾u cua hàm Beta 1.1.1 Đ¾c điem mơ hình Bayes Theo nhung nghiên cúu tốn hQc biet đe xác đ%nh mơ hình Bayes ta can : (i) Chi rõ m®t mơ hình lay mau tù du li¾u quan sát X, có đieu ki¾n m®t đai lưong chưa biet θ X ∼ f (X |θ ) (X ∈ X , θ ∈ Θ) (1.3) o f (X |θ ) hàm m¾t đ® xác suat, (ii) Chi rõ m®t phân phoi biên,đưoc GQI phân phoi tiên nghi¾m hay đơn gian tiên nghi¾m π (θ) cna θ: θ ∼ π (θ) (θ ∈ Θ) (1.4) Phân tích du li¾u dna ket qua nhung suy lu¾n o nham muc đích rút GQn tính tốn tích phân đoi vói phân phoi h¾u nghi¾m, hay nói GQN h¾u nghi¾m, π (θ) L (|θ X ) π (θ |X ) ∫ π (θ) L (θ |X ) dθ = Θ) (1.5) (θ ∈ o L (θ |X ) ∝ f (X |θ ) δ đưoc 1.1.2 GQi thong kê hop lý cna δ vói X cho Cỏc tiờn nghiắm Jeffreys Mđt cỏch tn nhiờn ta thay rang vi¾c chi rõ mơ hình Bayes chang khác vi¾c tőng hop thơng tin có the thnc te theo quan điem xác suat xác Đong thịi, vi¾c chi rõ mơ hình xác suat đoi vói du li¾u quan sát X vi¾c làm tat yeu Thêm vào xét mơ hình lay mau cna du li¾u quan sát X đoi vói đai lưong chưa biet θ suy lu¾n Bayes yêu cau tiên nghi¾m cho θ phai đưoc xác đ%nh rõ ràng Trong trưịng hop thơng tin tiên nghi¾m cna θ san có có the biet m®t cách xác boi m®t phân phoi xác suat đieu hien nhiên Tuy nhiên, đoi vói trưịng hop thơng tin khơng san có ho¾c khơng de xác đ %nh bang mđt phõn phoi xỏc suat chớnh xỏc, ắc biắt l đoi vói tốn vói so chieu cao, phương pháp thưịng đưoc su dung phương pháp Jeffreys, vói vi¾c gia thiet tiên nghi¾m có dang: πJ (θ) ∝ |I (θ)| (θ ∈ Θ) (1.6) Trong I (θ) lưong thơng tin Fisher Ví dn 1.2 Gia su rang ta xét m®t mau đưac lay tù phân phoi N (µ, 1) Thơng tin Fisher thu đưac sau: I (µ) =∫ φ (x − µ) dx = −∞ + Trong φ (x − µ) = (2π ) exp − (x − à)2 1 l hm mắt đ cua N (à, 1) Đieu dan đen2tien nghi¾m Jeffreys cua θ πJ (θ) ∝ (−∞ < µ < +∞) (1.7) Ta thu đưac phân phoi h¾u nghi¾m tương úng cua θ cho bái X sau: πJ (µ |X ) = N (X, 1) 1.2 1.2.1 (1.8) Tích phân Monte Carlo Bài tốn Cho ν đ® đo xác suat σ - trưịng Borel X vói khơng gian mau X ⊆ Rd, Rd khơng gian Euclide d-chieu Mđt khú khn thũng gắp bi toỏn l ưóc tính tích phân dang: ∫ Eν [h (X)] = h (x) ν (dx) (1.9) X M®t van đe chn yeu đoi vói mau hang so chuan hóa rat khó su dung Van đe có the đưoc mơ ta sau: gia su ta có t¾p du li¾u X lay tù mau thong kê có hàm thong kê hop lý: f (x |θ ) = exp {−U (x, θ)} , x ∈ X , θ ∈ Θ Z (θ) (4.4) θ tham so, Z (θ) hang so chuan hóa phu thu®c θ khơng the su dung dang úng f () l hm mắt đ tiờn nghiắm cna θ Phân phoi h¾u nghi¾m cna θ vói x cho đưoc xác đ %nh sau: f (θ |x) ∝ exp {−U (x, θ)} f (θ) (4.5) Z (θ) Thu¾t tốn MH khơng the áp dung trnc tiep cho mô phong tù f (θ | x) (θ) boi xác suat chap nh¾n địi hoi phai tính ty so khó ZZ(θ θJ giá tr% đe ngh% Moller c®ng sn có m®t bưóc tien quan TRQNG đe xuat bő sung phân phoi f (θ |x ) bang bien ngau nhiên phu tro cho J ty so hang so chuan hóa Z(θ) Z(θ có the đưoc thay đői mơ phong Thu¾t tốn Moller có the đưoc mơ ta sau: Đ¾t y bien phu tro, có khơng gian trang thái vói x Đ¾t J f (θ, y |x) = f (x |θ ) f (θ) f (y |θ, x) (4.6) phân phoi noi cna θ có đieu ki¾n x, f (y |θ, x) phân phoi cna bien ngau nhiên phu tro y Đe mô phong tù (4.6) bang cách su dung thu¾t tốn MH, ta có the su dung phân phoi đe ngh% q (θJ , y J |θ, y ) = q (θJ |θ, y ) q (y J |θJ ) (4.7) vói tương úng bien đői thơng thưịng vector tham so θ → θJ qua m®t bưóc lay mau xác tiep theo cna lay mau y J tù q ( |θJ ) Neu q (y J |θJ ) đưoc đ¾t f (y J |θ ) ty so MH có the đưoc viet sau: f (x |θJ ) f (θJ ) f (y J |θJ , x) q (θ |θJ , y J ) f (y |θ ) r (θ, y, θ , y x) | = J f (x |θ ) f (θ) f (y |θ, x) q (θ |θ, y ) f (y J |θJ ) J J (4.8) hang so chuan hóa chưa biet Z (θ) có the đưoc thay đői Đe tính tốn đưoc de dàng, Moller đe ngh% đ¾t thêm phân phoi đe ngh% q (θJ |θ, y ) = q (θJ |θ ) q (θ |θJ , y J ) = q (θ |θJ ) phân phoi phu tro: f (y |θ, x) = f y θ^Σ ; f (y J |θJ , x) = f y J θ^Σ (4.9) θ^ m®t ưóc lưong cna θ, ví du có the thu đưoc bang cách cnc (0) m®t điemhàm tùy thong ý θ(0) mau rúttoán tùMoller f y θ đai m®t kê m®t hop lý gia.chính Tóm xác lai, y thu¾t Σkhoi đau vói bưóc l¾p giua bưóc đưoc the hi¾n sau: ^ Đ%nh nghĩa 4.3 Thu¾t tốn Moller Sinh θJ tù phân phoi đe ngh% q (θJ |θt ) Sinh m®t mau xác yJtù phân phoi f (y |θJ ) Chap nh¾n (θJ, yJ) vái xác suat (1, r) đó: f (x |θJ ) f (θJ ) f y J θ^Σ q (θt |θJ Σ r = ) f) f (y(θt) |θt )f y θ^ q (θJ |θt ) f (y J |θJ ) f (x |θt Neu ki¾n ,trên thóa mãn đ¾t (θt+1 , yt+1) = (θJ , y J ), ngưac lai tađieu đ¾t (θ y ) = (θ , y ) t+1 t+1 t t 4.4 Thu¾t tốn trao đoi Giong thu¾t tốn Moller thu¾t tốn trao đői đưoc dành riêng cho vi¾c lay mau tù phân phoi f (θ |x) (4.5) Thu¾t tốn trao đői có the đưoc mơ ta sau: Xét phân phoi bő sung: m Y f (y1, , ym, θ |x) = π (θ) f (x |θ ) ) f (yj |θj (4.10) j=1 θJ i co đ%nh, y1, , ym l cỏc bien phu tro đc lắp vói khơng gian trang thái x phân phoi đong f (yj |θj ) Gia j= su thòi Qm rang m®t thay the cho θ đe ngh% vói xác suat q (θi |θ ) Chac chan rang yi = x ta có the tráo đői vi¾c đ¾t x yi Ket qua ty so MH cho sn thay the là: Q π (θi) f (x |θi ) f (yi |θ ) f (yj |θj ) q (θ |θi ) rx)(θ, = θi, yi | Qjƒ π (θ) f (x |θ ) | ) f f (yi θi (yj |θj jƒ=i ) q (θi |θ ) Túc là: r (θ, θ i , yi π (θi) f (x |θi ) f (yi |θ ) q (θ |θi ) x) | = π (θ) f (x |θ ) f (yi |θi ) q (θi | θ) (4.11) Đ%nh nghĩa 4.4 Thu¾t tốn trao đői: Đe ngh% θJ ∼ q (θJ |θ, x) Sinh m®t bien phn tra y ∼ f (y |θJ ) vái xác suat {1, r (θ, θJ, y |x)} đó: π (θJ ) f (x |θJ ) f (y |θ ) q (θ |θJ ) r (θ, θ , y x) = π| (θ) f (x |θ ) f (y |θJ ) q (θJ |θ ) J (4.12) Vì thu¾t tốn t¾p trung vào hốn v% giua (θ, x) (θJ , y) v¾y thu¾t tốn đưoc GQI thu¾t tốn trao đői Thu¾t tốn giúp cai thi¾n hi¾u qua cna thu¾t tốn Moller, thay the sn can thiet phai ưóc lưong tham so trưóc bat đau lay mau.Thu¾t tốn trao đői dan túi mđt xỏc suat chap nhắn cao hn cho cỏc mau xác so vói thu¾t tốn Moller Thu¾t tốn trao đői có the xem thu¾t tốn bien phu tro MCMC vói vi¾c bő sung phân phoi đe ngh% , phân phoi đe ngh% đưoc viet lai sau: T (θ → (θJ , y)) = q (θJ |θ ) f (y |θJ ) ; T (θ → (θJ , y)) = q (θ |θJ ) f (y |θ ) Ket lu¾n Lu¾n văn "Phương pháp MCMC m®t so úng dung" trình bày đưoc mđt so nđi dung sau: ã Nờu cỏc khỏi niắm ban ve phương pháp MCMC suy lu¾n Bayes, tớch phõn Monte Carlo, xớch Markov ã Trỡnh by mđt so phương pháp lay mau quan TRQNG cna phương pháp MCMC: phương pháp lay mau Gibbs thu¾t tốn Metropolis - Hast- ing ã ng dung cỏc thuắt toỏn lay mau Gibbs thu¾t tốn Metropolis - Hastings đoi vói cỏc bien ngau nhiờn nhieu chieu ã Giúi thiắu s lưoc ve phương pháp bien phu tro MCMC Tài li¾u tham khao [1] Đào Huu Ho (1998), Xác suat thong kê, NXB Đai n®i HQc Quoc gia Hà [2] Nguyen Duy Tien, Vũ Viet Yên (2006), Lý thuyet xác suat, NXB Giáo duc [3] Nguyen Duy Tien, Đ¾ng Hùng Thang (2001), Các mơ hình xác suat úng dnng, Phan II: Quá trình dùng úng dnng, NXB Đai HQc Quoc gia Hà N®i [4] Nguyen Duy Tien (2000), Các mơ hình xác suat úng dnng, Phan I: Xích Markov úng dnng, NXB Đai HQc Quoc gia H nđi [5] ắng Hựng Thang (2012), Xỏc suat nõng cao, NXB Đai gia Hà n®i HQc Quoc [6] Faming Liang, Chuanhai Liu, Raymond J.Carroll(2010), Advanced Markov chain Monte Carlo methods [7] Dani Gamerman, Hedibert F Lopez (2009), Markov chain Monte Carlo stochastic simulation for Bayesian inference(2nd edition) [8] Mark Steyvers,2011, Computational statistics with Matlab [9] Jean-Michel Marin,Christian P.Robert,2007A practical approach to computational Bayesian statistics t ... qua lay mau theo TRQNG so 12 1.3 Phương pháp sinh bien ngau nhiên 13 1.3.1 Phương pháp bien đői 13 1.3.2 Phương pháp chap nh¾n - bác bo 14 1.3.3 Phương pháp ty so đeu 15 1.4 Xích... Carlo, Monte Carlo thông qua lay mau theo TRQNG so Phương pháp sinh bien ngau nhiên: Phương pháp bien đői, phương pháp chap nh¾n - bác bo, phương pháp ty so đeu Xích Markov: Các %nh ngha v kớ hiắu,... 1.3.3 Phương pháp ty so đeu Phương pháp ty so đeu phương pháp thông dung đe sinh so ngau nhiên cna nhieu phân phoi thông dung phân phoi Gamma, chuan, student-t Ý tưong tőng quát cna phương pháp