4 Phương pháp biến phụ trợ MCMC
4.2 Mơ phỏng điều hồ nhiệt
Giả sử rằng ta muốn lấy mẫu từ phân phối f (x) ∝ exp (−H (x)), x ∈ X. Giống như mơ phỏng nhiệt luyện, mơ phỏng điều hồ nhiệt bổ sung phân phối mục tiêu cho f (x) ∝ exp (−H(x)|T) qua việc bao bổ sung một biến ngẫu nhiên phụ trợ T, được gọi là nhiệt độ, với các giá trị là hữu hạn và được chỉ sẵn bởi người dùng. Mơ phỏng điều hồ nhiệt thu được từ mô phỏng nhiệt luyện qua việc xử lý nhiệt độ T như một biến ngẫu nhiên phụ trợ cho mơ phỏng đồng thời của x:
• Mơ phỏng điều hồ nhiệt cập nhật miền nối (x, T) trong cấu thành mẫu Gibbs, nghĩa là cập nhật x và T trong phương pháp lựa chọn.
• Trong mơ phỏng điều hồ nhiệt, nhiệt độ thấp nhất được đặt là 1, bởi mục đích là lấy mẫu từ f (x).
Giả sử rằng nhiệt độ T thu được m giá trị khác nhau
T1 > T2 > ... > Tm
Đặt
f (x, Ti) = exp (−H (x)|Ti)/Zi
là phân phối thử nghiệm được xác định trên mức nhiệt độ Ti, trong đó Zi
là hằng số chuẩn hóa của phân phối.Đặt qij chỉ xác suất truyền đề nghị từ mức Ti tới Tj.
Đặt
qi,i+1 = qi,i−1 = qi,i = 1 3
với 1 < i < m,q1,2 = 13, qm,m−1 = 13, q1,1 = 23, qm,m = 23. Bắt đầu với i0 = 1
và mẫu ban đầu x0 ∈ X, mơ phỏng điều hồ nhiệt lặp lại giữa 3 bước sau:
Định nghĩa 4.2. Mơ phỏng điều hồ nhiệt
1. Sinh ra một số ngẫu nhiên U ∼ U nif orm[0,1] và xác định giá trị của j theo ma trận truyền đề nghị (qij)
2. Nếu j = it đặt it+1 = it được sinh ra từ một hạch MH Kit(x, y) với thừa nhận f (x, Tit) là phân phối dừng.
3. Nếu j 6= it, đặt xt+1 = xt và chấp nhận đề nghị với xác suất :
min ( 1, Zbj b Zit exp −H(x) 1 Tj − 1 Tit qj,it qit,j )
trong đó Zib chỉ ước lượng củaZi. Nếu nó được chấp nhận đặt it+1 = j.
Ngược lại, đặt it+1 = it.
Cơ sở trực quan của mô phỏng điều hồ nhiệt là mơ phỏng tại các mức nhiệt cao cung cấp một khảo sát vùng năng lượng tốt cho phân phối mục tiêu, và các mẫu năng lượng thấp sinh ra bằng cách truyền tới mức nhiệt độ mục tiêu qua một dãy nhiệt độ cập nhật các phép toán. Theo báo cáo bởi nhiều nhà nghiên cứu, mơ phỏng điều hồ nhiệt về thực chất có thể hội tụ nhanh hơn so với thuật toán MH, đặc biệt là đối với các phân phối mà vùng năng lượng là giao nhau. Bởi vì sự bổ sung hữu hiệu của mơ phỏng điều hoà nhiệt, hai vấn đề cần thiết phải xem xét như sau:
• Lựa chọn thang nhiệt độ: Nhiệt độ cao nhất T1 được cài đặt sao cho hầu hết các dịch chuyển dốc có thể được chấp nhận tại mức đó. Nhiệt
độ trung gian có thể được thiết lập một cách tuần tự, bắt đầu với T1, tuần tự thiết lập mức nhiệt độ thấp hơn tiếp theo sao cho thỏa mãn:
V ari(H(x))δ2 = O(1) (4.3) trong đó δ = Ti+11 − 1
Ti, và V ari(.) là phương sai của H (x) với mối liên quan f (x, Ti). Điều kiện này là tương đương yêu cầu là các phân
phối f (x, Ti) và f (x, Ti+1) có sự chồng lấp đáng kể.Trong thực hành
V ari(H (x)) có thể ước lượng đại khái qua tính tốn sơ bộ mẫu tại mức Ti
• Ước lượng Zi: Đây là chìa khóa của tính hiệu quả của mơ phỏng điều hoà nhiệt. Nếu hằng số chuẩn hóa giả định của Zi là ước lượng tốt, mơ phỏng điều hồ nhiệt sẽ trình bày giống như đối với "bước ngẫu nhiên đối xứng" dọc theo thang nhiệt độ(nếu không biết các bước cập nhật x). Ngược lại nó có thể mắc kẹt tại một mức nhiệt độ đã biết.
Sự biểu diễn mơ phỏng này là thất bại. Trong tính tốn thực tế, Zi
có thể được ước lượng khi sử dụng cơng thức xấp xỉ xác suất.
Ta chú ý rằng sự pha trộn mơ phỏng điều hồ nhiệt cho phép từ thời gian chờ đợi song để tạo mơ phỏng điều hồ nhiệt làm việc tốt, các phân phối kề f (x, Ti) và f (x, Ti+1) sẽ có sự chồng lấp đáng kể, yêu cầu phải sử dụng nhiều mức nhiệt độ trung gian. Nói một cách khác, thậm chí trong trường hợp lý tưởng mà các mơ phỏng điều hồ nhiệt thực hiện giống như "bước ngẫu nhiên đối xứng" theo các thang nhiệt độ, thời gian chờ đợi được kỳ vọng cho sự giao nhau của các thang nhiệt độ sẽ có dần đến
O m2. Điều này đặt một giới hạn khắt khe về số lượng các mức nhiệt độ mà ta có thể đủ khả năng để sử dụng trong các mô phỏng. Mô phỏng điều hồ nhiệt có ứng dụng thành cơng trong nhiều hệ thống phức tạp, như xếp protein và thiết kế mặt bằng sàn.