MỘT SỐ MÔ HÌNH XÁC SUẤT TRONG KHOA HỌC MÁY TÍNH

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN - PHẠM THỊ THU HẰNG MỘT SỐ MÔ HÌNH XÁC SUẤT TRONG KHOA HỌC MÁY TÍNH Chuyên ngành: Lý thuyết Xác suất Thống kê toán học Mã số: 60406106 TÓM TẮT LUẬN VĂN THẠC SĨ KHOA HỌC Hà Nội - Năm 2016 Mục lục Lời nói đầu Xác suất lý thuyết tổ hợp đồ thị 1.1 Các ví dụ 1.1.1 Đồ thị ngẫu nhiên 1.1.2 Thuật toán Tìm kiếm Sắp xếp nhanh 1.1.3 Mô hình danh sách tự tổ chức 1.1.4 Sinh hoán vị ngẫu nhiên 1.2 Phương pháp xác suất 1.2.1 Lời giới thiệu 1.2.2 Ứng dụng xác suất để chứng minh tồn 1.2.3 Xác định cận từ kỳ vọng 1.2.4 Bài toán tập hợp độc lập có trọng số tối đa: Thuật toán cận biên ngẫu nhiên 1.2.5 Bài toán phủ tập hợp 1.2.6 Phản xích 1.2.7 Bổ đề rút gọn Lovasz 1.2.8 Thuật toán ngẫu nhiên để tính phân hoạch cực tiểu đồ thị Xích Markov mô MCMC 2.1 Xích Markov 2.1.1 Giới thiệu 2.1.2 Phương trình Chapman-Kolmogorov 2.1.3 Phân loại trạng thái 2.1.4 Xác suất giới hạn xác suất dừng 2.1.5 Ứng dụng 6 9 10 10 10 11 11 12 12 13 13 13 13 14 14 15 Luận văn tốt nghiệp 2.2 2.3 Phạm Thị Thu Hằng 2.1.6 Xích Markov với thời gian đảo ngược Mô 2.2.1 Mô Monte Carlo 2.2.2 Tạo biến ngẫu nhiên rời rạc 2.2.3 Tạo biến ngẫu nhiên liên tục: Phương pháp nghịch Mô MCMC biến đổi Quá trình Poisson 3.1 Quá trình Poisson không dừng 3.2 Quá trình Poisson dừng 3.3 Một số tính toán trình Poisson 3.4 Phân loại biến cố trình Poisson không dừng 3.5 Phân phối có điều kiện thời điểm đến 16 17 17 18 18 19 21 21 22 22 22 22 Luận văn tốt nghiệp Phạm Thị Thu Hằng Công trình hoàn thành tại: Trường Đại học Khoa hoc Tự nhiên - Đại học Quốc gia Hà Nội Người hướng dẫn khoa học: GS.TSKH Đặng Hùng Thắng Hội đồng chấm luận văn: • Chủ tịch: PGS.TS Trần Hùng Thao - Viện Toán học - Viện Hàn lâm KH CN Việt Nam • Phản biện 1: TS Nguyễn Thịnh - Đại học Khoa học Tự Nhiên - ĐHQGHN • Phản biện 2: TS Ngô Hoàng Long - Đại học Sư phạm Hà Nội • Thư ký: TS Lê Vỹ - Đại học Khoa học Tự Nhiên - ĐHQGHN • Ủy viên: TS Trần Mạnh Cường - Đại học Khoa học Tự Nhiên - ĐHQGHN Luận văn bảo vệ trước Hội đồng chấm luận văn thạc sĩ họp tại: Khoa Toán-Cơ-Tin học Trường Đại học Khoa học Tự nhiên (ĐHQGHN) vào 15h 30 ngày 28 tháng 12 năm 2016 Có thể tìm đọc luận văn tại: - Trung tâm thư viện Đại học Quốc gia Hà Nội LỜI NÓI ĐẦU Trong năm gần đây, xác suất phát triển đa dạng có nhiều ứng dụng quan trọng lĩnh vực khoa học máy tính Ví dụ, chủ đề liên quan đến thuật toán thuật toán ngẫu nhiên, thuật toán ước lượng phân tích xác suất thuật toán sử dụng phương pháp xác suất Trong luận văn này, muốn giới thiệu loại mô hình phân tích xác suất hữu dụng khoa học máy tính Giả sử với hàm mở đầu xác suất, trình bày số đề tài quan trọng phương pháp xác suất, xích Markov, mô MCMC trình Poisson không dừng Luận văn cung cấp nhiều ví dụ tập mô tả đề tài thuật toán xếp, thuật toán tìm kiếm biểu đồ ngẫu nhiên, toán tự xếp theo danh sách, phản xích, phân hoạch cực đại cực tiểu đồ thị nhiều đề tài khác Cấu trúc luận văn chia làm chương chính: • Chương đưa ví dụ hay khoa học máy tính, đồng thời trình bày phương pháp xác suất số cách ứng dụng phương pháp • Chương viết xích Markov không gian trạng thái rời rạc, phương pháp Monte Carlo xích Markov Monte Carlo (MCMC) • Chương giới thiệu số lớp trình Poisson, từ nghiên cứu toán phân loại biến cố trình Poisson không dừng toán xác định phân phối có điều kiện thời điểm đến Trong khuôn khổ luận văn này, hạn hẹp thời gian lực thân, tránh khỏi hạn chế nội dung việc trình bầy Tôi nhận thấy xác suất khoa học máy tính nhiều điều thú vị khác mong có dịp trình bầy đầy đủ Luận văn hoàn thành hướng dẫn tận tâm GS.TSKH Đặng Hùng Thắng Tôi xin bày tỏ lòng biết ơn kính trọng sâu sắc đến thầy Qua xin chân thành gửi lời cảm ơn tới thầy cô Tổ Luận văn tốt nghiệp Phạm Thị Thu Hằng môn Xác suất thống kê Ban Chủ nhiệm khoa Toán - Cơ - Tin học Trường Đại học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội bảo hướng dẫn tận tình giúp hoàn thành luận văn này! Rất mong nhận ý kiến đóng góp thầy cô bạn! Hà Nội, tháng 11/2015 Phạm Thị Thu Hằng Chương Xác suất lý thuyết tổ hợp đồ thị 1.1 Các ví dụ 1.1.1 Đồ thị ngẫu nhiên Giờ xem xét đồ thị với tập hợp đỉnh V = {1, 2, , n} tập hợp cạnh A = {(i, X(i)), i = 1, , n} X(i) biến ngẫu nhiên độc lập thỏa mãn n P {X(i) = j} = Pj , Pj = j=1 Đồ thị vừa xây dựng đồ thị ngẫu nhiên Chúng ta tính xác suất để đồ thị ngẫu nhiên đồ thị liên thông Để tìm xác suất này, ta chọn đỉnh, giả sử đỉnh lần theo chuỗi đỉnh 1, X(1), X (1), , X n (1) = X(X n−1 (1)) để xác định giá trị biến ngẫu nhiên N số k nhỏ cho X k (1) không đỉnh Tức là, N = min(k : X k (1) ∈ {1, X(1), , X k−1 (1)}) Đồng thời, gọi N −1 W = P1 + PX i (1) i=1 Nói cách khác, N số đỉnh tiếp xúc chuỗi 1, X(1), X (1), trước đỉnh xuất hai lần W tổng xác suất đỉnh Luận văn tốt nghiệp Phạm Thị Thu Hằng Bổ đề 1.1.1 Xét đồ thị ngẫu nhiên gồm đỉnh 0, 1, , r, cạnh (i, Yi ), i = 1, , r, Yi biến ngẫu nhiên độc lập r P {Yi = j} = Qj , Qj = j = 0, , r, j=0 Đồ thị ngẫu nhiên bao gồm r đỉnh thông thường (đánh số từ đến r) đỉnh đặc biệt (đánh số 0); đỉnh thông thường có cạnh độc lập qua đỉnh j với xác suất Qj ; cạnh xuất phát từ đỉnh đặc biệt Khi đó, P {đồ thị liên thông} = Q0 Mệnh đề 1.1.1 P{đồ thị liên thông} = E[W] Trường hợp đặc biệt cạnh xuất phát từ đỉnh đến đỉnh đồ thị với xác suất Pj = , j = 1, , n n Hệ sau cho ta công thức tính xác suất đồ thị liên thông trường hợp đặc biệt Hệ 1.1.1 Khi Pj = 1/n, (n − 1)! P {đồ thị liên thông} = nn Hệ 1.1.2 Với n lớn, P {đồ thị liên thông} 1.1.2 n−1 j=0 nj j! π/2n Thuật toán Tìm kiếm Sắp xếp nhanh Gọi X số phép so sánh cần sử dụng Để tính E[X], trước hết ta biểu diễn X thành tổng biến ngẫu nhiên khác theo cách sau Đầu tiên, ta đánh dấu cho giá trị xếp: biểu thị giá trị nhỏ nhất, biểu thị giá trị nhỏ nhì, hết Khi đó, với ≤ i < j ≤ n, lấy I(i, j) 1, i j so sánh trực tiếp i j không so sánh trực tiếp Tính tổng biến với i < j cho ta tổng số phép so sánh Đó n j−1 X= I(i, j) j=2 i=1 Luận văn tốt nghiệp Phạm Thị Thu Hằng tức n j−1 P { i j so sánh } E[X] = j=2 i=1 1.1.3 Mô hình danh sách tự tổ chức Xem xét n phần tử e1 , , en ban đầu xếp theo trật tự Tại thời điểm có yêu cầu số phần tử này; ei yêu cầu độc lập với trước đó, xác suất Pi Sau đáp ứng yêu cầu, phần tử chuyển lên đầu danh sách Chúng ta xác định vị trí kỳ vọng phần tử yêu cầu với giả thiết trình diễn thời gian dài Đặt R vị trí phần tử yêu cầu, ta tìm E[R] phần tử chọn cách kiểm tra điều kiện với Y Ta có n E[ vị trí ei ]Pi E[R] = i=1 Dấu cuối dựa sở vị trí ei biến cố ei yêu cầu độc lập với Điều có xác suất để ei yêu cầu Pi cho dù ei có vị trí Tuy nhiên, ta thấy vị trí ei = + Ii,j j=i Ii,j = 1, 0, ej đứng trước ei ngược lại ta thu E[vị trí ei ] = + E[Ii,j ] j=i P {ej đứng trước ei } =1+ (1.1) j=i Để xác định P {ej đứng trước ei }, ta thấy ej đứng trước ei lần yêu cầu cuối với hai phần tử lần yêu cầu với ej Tuy nhiên, biết lần yêu cầu yêu cầu ei ej nên xác suất để ej yêu cầu P (ej | ei ej ) = Pj Pi + Pj Luận văn tốt nghiệp Phạm Thị Thu Hằng Do đó, P {ej đứng trước ei } = Pj /(Pi + Pj ) Từ kết (??) (1.1) ta có n Pi E[R] = + i=1 1.1.4 j=i Pj P i + Pj Sinh hoán vị ngẫu nhiên Ta nói vec-tơ X(1), , X(n) ngẫu nhiên hoán vị ngẫu nhiên giá trị 1, , n P {(X(1), , X(n)) = (i1 , in )} = 1/n! cho tất n! hoán vị i1 , , in 1, , n Khi đó, hoán vị ngẫu nhiên hoán vị n! hoán vị 1, , n Giả sử phần X(1), , X(n) hoán vị ngẫu nhiên Hệ 1.1.3 n N= Ij j=1 I1 , , In biến ngẫu nhiên độc lập cho P {Ij = 1} = = − P {Ij = 0}, n−j+1 j = 1, , n Từ Hệ 1.1.3 , có n E[N ] = i=1 i n Var(N ) = i=1 i−1 i2 Ngoài ra, n lớn, từ Hệ 1.1.3 định lý giới hạn trung tâm, N có hàm phân phối xấp xỉ chuẩn 1.2 Phương pháp xác suất 1.2.1 Lời giới thiệu Phương pháp xác suất kỹ thuật phân tích thuộc tính phần tử tập hợp cách đưa không gian xác suất cho tập hợp khảo sát phần tử ngẫu nhiên Phương pháp chủ yếu ứng dụng để giải toán lý thuyết tổ hợp đồ thị Luận văn tốt nghiệp 1.2.2 Phạm Thị Thu Hằng Ứng dụng xác suất để chứng minh tồn Giả sử muốn chứng minh phần tử tập hợp S có tính chất Ta nghiên cứu phần tử ngẫu nhiên X tập hợp S chứng minh xác suất biến cố đối ,biến cố mà X tính chất này, nhỏ 1.2.3 Xác định cận từ kỳ vọng Gọi f hàm phần tử s thuộc tập hợp hữu hạn S , giả sử ta muốn tìm m = max f (s) s∈S Cận hữu ích xác định cách sau: gọi X phần tử ngẫu nhiên S có giá trị kỳ vọng f (X) tính được, với m ≥ f (X) ta có m ≥ E[f (X)] Bất đẳng thức mạnh f (X) đại lượng ngẫu nhiên không đổi 1.2.4 Bài toán tập hợp độc lập có trọng số tối đa: Thuật toán cận biên ngẫu nhiên Giả sử đỉnh i, i = 1, , n có trọng số wi dương liên hợp với Với tập hợp đỉnh A w (A) = wi i∈A m = max w (A) A lấy cực đại tập hợp A độc lập m gọi số độc lập đồ thị Gọi Xi , i = 1, , n biến ngẫu nhiên lũy thừa độc lập với hệ số λi , i = 1, , n Mệnh đề 1.2.1 Với số dương λi , i = 1, , n, n m≥ wi λi /∧i i=1 10 Luận văn tốt nghiệp Phạm Thị Thu Hằng ∧i = λj j∈D(j) Đây thuật toán xếp ngẫu nhiên để ước lượng m tập hợp độc lập có trọng số tối ưu Thuật toán ước lượng ngẫu nhiên hóa Đặt λi = (wi /d(i))b với tất đỉnh i tập hợp đỉnh V Tạo giá trị cho biến ngẫu nhiên I theo λj P {I = j} = , j∈V λi i∈V Đặt đỉnh I vào tập hợp độc lập, loại bỏ I đỉnh kề khỏi tập hợp đỉnh đồ thị Tính lại bậc đỉnh lại quay lại bước Lặp lại bước thu tập hợp độc lập có trọng số lớn ước lượng tập hợp độc lập có trọng số tối đa Ta chạy lại thuật toán với giá trị b thay giá trị khác sau lần chạy 1.2.5 Bài toán phủ tập hợp Gọi Si , i = 1, , m, tập S = {1, 2, , s}, Gọi ni số tập hợp chứa i, giả sử ni > với i = 1, , s Bài toán phủ tập hợp toán tìm số tập nhỏ hợp lại thành tập S Gọi r số tập nhỏ nhất, sử dụng phương pháp xác suất, chứng minh với số nguyên k s r≤k+ i=1 1.2.6 m−ni k m k m−k+1 ni + (1.2) Phản xích Tập hợp A1 , A2 , , Ar tập hợp {1, 2, , n}, gọi phản xích tập hợp tập hợp tập hợp tập khác, tức Ai ∈ / Aj với tất cặp i = j Định lý Sperner n số tập hợp lớn phản xích [n/2] [n/2] số nguyên lớn nhỏ n/2 Do đó, tập hợp tất tập hợp {1, 2, , n} kích thước [n/2] tạo thành phản xích lớn 11 Luận văn tốt nghiệp 1.2.7 Phạm Thị Thu Hằng Bổ đề rút gọn Lovasz Xem xét tập hợp biến cố {Ai , i = 1, , n} với < P (Ai ) < 1, giả sử ta muốn chứng minh không biến cố xảy Rõ ràng trường hợp biến cố độc lập với chúng không độc lập kết xảy biến cố “độc lập lẫn nhau” với tập hợp chứa hầu hết biến cố khác định nghĩa sau Định nghĩa 1.2.1 Biến cố A độc lập lẫn với tập hợp biến cố {B1 , , Br } xác suất có điều kiện A, với điều kiện để Bi xảy ra, xác suất không điều kiện P (A) Bổ đề 1.2.1 Bổ đề rút gọn Lovasz Cho biến cố A1 , , An , với i, i = 1, , n, Ai độc lập lẫn với tập hợp chứa tất biến cố ngoại trừ nhiều d biến cố Aj khác, j = i P (Ai ) ≤ e(d + 1) n Acj > P j=1 1.2.8 Thuật toán ngẫu nhiên để tính phân hoạch cực tiểu đồ thị Giả sử ta muốn tìm cách phân hoạch có sức chứa nhỏ Tức ta đặt m0 = c(X, X c ) toán trở thành tìm m0 với phân hoạch sức chứa m0 Với X0 , X0c phân hoạch có sức chứa nhỏ Xây dựng thuật toán xác suất phân hoạch mà sức chứa c(X0 , X0c ) với xác suất lớn 2/n2 Thuật toán cho ta phân hoạch cực tiểu với xác suất cao tùy ý 12 Chương Xích Markov mô MCMC 2.1 Xích Markov 2.1.1 Giới thiệu Xét trình ngẫu nhiên thời gian rời rạc Nếu Xn = i trình gọi “trong trạng thái i thời điểm n” Giả sử trình trạng thái i, có xác suất cố định Pi,j để trạng thái trạng thái j Tức P {Xn+1 = j|Xn = i, Xn−1 = in−1 , , X0 = i0 } = Pi,j Pi,j≥0 , (2.1) Pi,j = j Gọi P ma trận xác suất chuyển tiếp bước Pi,j   P0,0 P0,1  P1,0 P1,1 P=  Pi,0 Pi,1 2.1.2 P0,j P1,j Pi,j    Phương trình Chapman-Kolmogorov n xác suất để xích chuyển từ trạng thái i sang trạng thái j sau n bước Pi,j Phương trình Chapman – Kolmogorov giúp ta tính xác suất n bước Phương trình sau: ∞ n+m Pi,j n m Pi,k Pk,j = k=0 13 (2.2) Luận văn tốt nghiệp 2.1.3 Phạm Thị Thu Hằng Phân loại trạng thái n > với n ≥ 0, Ta nói trạng thái i đến trạng thái j tồn Pi,j kí hiệu i → j Hai trạng thái i j gọi liên thông i → j j → i, kí hiệu i ↔ j Quan hệ liên thông quan hệ tương đương Một Xích Markov gọi tối giản hai trạng thái liên thông với Với trạng thái i, gọi fi xác suất để trạng thái i, trình trở lại trạng thái Trạng thái i gọi hồi quy fi = trạng thái i gọi trans fi < Mệnh đề 2.1.1 Trạng thái i ∞ n Pi,i =∞ hồi quy n=0 ∞ n Pi,i Pi,j = , i−1 j = 1, , i − Gọi Ti số lần chuyển tiếp cần thiết để từ trạng thái i đến trạng thái Ta viết hàm đệ quy cho E[Ti ] cách lấy xác suất điều kiện với trạng thái ban đầu: E[Ti ] = + i−1 i−1 E[Tj ] j=1 i−1 Chứng minh phương pháp quy nạp, ta có E[Ti ] = 1/j j=1 Để biểu thị TN cách hoàn chỉnh hơn, ta sử dụng biểu thức N −1 TN = Ij j=1 Ij = 1, 0, xích trạng thái j ngược lại 15 (2.11) Luận văn tốt nghiệp Phạm Thị Thu Hằng Mệnh đề 2.1.3 Dãy biến ngẫu nhiên I1 , , IN −1 độc lập, P {Ij = 1} = 1/j, N −1 Hệ 2.1.2 (a) E[TN ] = j=1 N −1 (b) V ar(TN ) = j=1 j = 1, , N − 1 j 1 (1 − ) j j (c) Với n lớn, TN có phân phối xấp xỉ chuẩn với trị số trung bình phương sai ln N Tổng quát, để mô hình hóa số lần lặp thuật toán chuyển tới trạng tối ưu ta sử dụng xích Markov có xác suất chuyển thỏa mãn điều kiện: Pi,j = nếu0 ≤ i < j (2.12) Gọi Di lượng trạng thái giảm chuyển tiếp từ trạng thái i, P {Di = k} = Pi,i−k Mệnh đề 2.1.4 Đặt Nn số chuyển tiếp cần để xích Markov có xác suất chuyển tiếp thỏa mãn điều kiện (2.12) từ trạng thái n sang trạng thái Nếu tồn hàm không tăng d(i), i > 0, thoả mãn E[Di ] ≥ d(i) n E[Nn ] ≤ i=1 2.1.6 d(i) (2.13) Xích Markov với thời gian đảo ngược Xem xét xích Markov dừng có xác suất chuyển tiếp Pi,j xác suất dừng πi Giả sử thời điểm n, ta thấy xích trạng thái quay ngược lại trình tự trước Tức với xích trạng thái Xn , Xn−1 , Xn−2 , thân xích xích Markov với xác suất chuyển tiếp Qi,j Qi,j πj Pj,i πi Nếu Qi,j = Pi,j xích Markov gọi đảo ngược thời gian 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng Định lí 2.1.2 Điều kiện Kolmogorov để đảo ngược thời gian Một xích Markov có Pi,j = Pj,i = có tính đảo ngược thời gian trạng thái i, đường từ i có xác suất với đường từ hướng ngược lại Tức xích có tính đảo ngược thời gian Pi,i1 Pi1 ,i2 Pik ,i = Pi,ik Pik ,ik−1 Pi1 ,i (2.3) với k trạng thái i, i1 , , ik Khái niệm xích nghịch đảo hữu dụng xích Markov ban đầu tính đảo ngược thời gian Để mô tả điều này, ta cần sử dụng Mệnh đề sau Mệnh đề 2.1.5 Xem xét xích Markov tối giản có xác suất chuyển tiếp Pi,j Nếu tìm số dương πi , i ≥ có tổng ma trận xác suất chuyển tiếp Q = [Qi,j ] thỏa mãn Pi,j = πj Qj,i (2.4) Qi,j xác suất chuyển tiếp xích nghịch đảo πi xác suất dừng xích ban đầu xích nghịch đảo 2.2 Mô 2.2.1 Mô Monte Carlo Đặt X = (X1 , , Xn ) véc tơ ngẫu nhiên có hàm mật độ chung f (x1 , , xn ), giả sử ta cần xác định θ = E[g(X) = g(x1 , , xn )f (x1 , , xn )dx1 dxn với hàm n chiều g Trong nhiều trường hợp, ta tính cụ thể tích phân hay chí ước lượng khoảng xác Ta ước lượng θ cách mô Để ước lượng θ phương pháp mô phỏng, trước hết ta tạo vec tơ ngẫu nhiên X(1) có hàm mật độ f, tìm giá trị Y1 = g(X(1) ) Sau tạo thứ ngẫu nhiên vector X(2) , độc lập đầu tiên, với mật độ f, sau tính Y2 = g(X(2) ) Tiếp tục bạn có tạo giá trị r, 17 Luận văn tốt nghiệp Phạm Thị Thu Hằng số xác định trước, biến ngẫu nhiên Yi = g(X(i) ), i = 1, , r Theo luật số lớn mạnh ta có: Y1 + + Yr = E[g(X(1) )] = θ r→∞ r lim Do đó, ta sử dụng trung bình giá trị tạo Yi ước lượng θ Phương pháp ước lượng E[g(X)] gọi phương pháp mô Monte Carlo 2.2.2 Tạo biến ngẫu nhiên rời rạc Giả sử ta cần tạo giá trị biến ngẫu nhiên X có hàm phân bố xác suất pi = P {X = xj }, Ta thực cách  x0 ,       x1 , X =    xj ,    j = 0, 1, tạo số ngẫu nhiên U thiết lập U < p0 p0 ≤ U < p0 + p1 j−1 i=1 pi j i=1 pi ≤U < Vì P {a ≤ U < b} = b − a với < a < b < 1, ta có j−1 P {X = xj } = P j pi ≤ U < i=1 2.2.3 pi = pj i=1 Tạo biến ngẫu nhiên liên tục: Phương pháp biến đổi nghịch Xem xét biến ngẫu nhiên liên tục X có hàm phân phối F Một phương pháp tổng quát để tạo X , gọi phương pháp biến đổi nghịch, dựa mệnh đề sau Mệnh đề 2.2.1 Gọi U biến ngẫu nhiên (0, 1) Với hàm phân phối liện tục F , biến ngẫu nhiên X xác định sau X = F −1 (U ) Có phân phối F F −1 (u) giá trị x thỏa mãn F (x) = u 18 Luận văn tốt nghiệp 2.3 Phạm Thị Thu Hằng Mô MCMC Gọi X véc tơ ngẫu nhiên rời rạc có tập hợp giá trị xj , j ≥ Đặt P {X = xj }, j ≥ hàm phân bố xác suất X giả sử ta cần tính h(xj )P {X = xj } θ = E[h(X)] = j Với hàm h cho trước Trong nhiều trường hợp việc tính tất h(xj ) phức tạp nên ta thường chuyển sang mô để ước lượng θ Một phương pháp Mô Monte Carlo, dùng số ngẫu nhiên để tạo dãy véc tơ ngẫu nhiên độc lập {X1 , X2 , , Xn } có phân bố P {X = xj } Theo luật mạnh số lớn lim n→∞ n i=1 h(Xi ) n =θ Nên ta ước lượng θ cách chọn n đủ lớn dùng trung bình giá trị h(Xi ) làm ước lượng Tuy nhiên, thông thường khó để tạo véc tơ ngẫu nhiên có hàm phân bố xác suất cho trước, đặc biệt X véc tơ biến ngẫu nhiên phụ thuộc Hơn nữa, có nhiều ứng dụng hàm phân bố xác suất X biết sai khác số nhân, tức hàm cho theo dạng P {X = xj } = Cbj , j≥1 bj cho trước phải tính C Tuy nhiên, có phương pháp khác bên cạnh phương pháp Monte Carlo thông thường sử dụng mô để ước lượng θ Bằng cách tạo xích gồm véc tơ ngẫu nhiên độc lập mà trạng thái liên tiếp xích Markov mang giá trị véc tơ Xn , n ≥ 1,ở xác suất dừng P {X = xj }, j ≥ Khi điều thực hiện, ta áp dụng Mệnh đề 2.1.2 sử dụng ni=1 h(Xi )/n để ước lượng θ Để hiểu cách tạo xích Markov với xác suất dừng ngẫu nhiên cho dạng hàm hệ số bội, gọi b(j), j ≥ 1, số dương có tổng ∞ B = j=1 b(j) hữu hạn Thuật toán sau đây, gọi thuật toán Hastings Metropolis, sử dụng để tạo xích Markov đảo ngược thời gian có xác suất dừng: π(j) = b(j)/B, 19 j ≥ Luận văn tốt nghiệp Phạm Thị Thu Hằng Gọi Q ma trận xác suất chuyển xích Markov tối giản có không gian trạng thái tập số nguyên, với q(i, j) biểu diễn giá trị hàng i cột j Giờ ta xác định xích Markov {Xn } sau: Khi Xn = i, tạo biến Y ngẫu nhiên cho P {Y = j} = q(i, j) Nếu Y = j đặt Xn+1 j với xác suất α(i, j) đặt i với xác suất − α(i, j), giá trị α(i, j) cho Với điều kiện này, dãy trạng thái xích Markov có xác suất chuyển tiếp Pi,j thỏa mãn cho Pi,j = q(i, j)α(i, j), j=i q(i, k)[1 − α(i, k)] Pi,i = q(i, i) + k=i xích Markov có tính khôi phục ngươc thời gian có xác suất dừng π(j) π(i)Pi,j = π(j)Pj,i điều tương đương với π(i)q(i, j)α(i, j) = π(j)q(j, i)α(j, i) (2.5) Tuy nhiên, ta chọn π(j) = b(j)/B đặt α(i, j) = π(j)q(j, i) ,1 π(i)q(i, j) (2.6) đẳng thức (2.5) dễ dàng thỏa mãn (vì π(j)q(j, i)/π(i)q(i, j) ≤ α(i, j) tỉ lệ α(j, i) 1; với kết nghịch đảo tỉ lệ lớn 1.) Do vậy, xích Markov khả nghịch với xác suất dừng π(j) = b(j)/B Hơn nữa, từ đẳng thức (2.6) ta thấy α(i, j) = b(j)q(j, i) ,1 b(i)q(i, j) tức để xác định xích Markov không cần biết giá trị B mà cần biết giá trị b(j), j ≥ đủ Hơn nữa, thường π(j) không xác suất dừng mà xác suất giới hạn xích Markov tìm Một điều kiện đủ để đảm bảo điều pi,i > với i 20 Chương Quá trình Poisson 3.1 Quá trình Poisson không dừng Một trình ngẫu nhiên {N (t), t ≥ 0} gọi trình đếm biến cố xuất ngẫu nhiên thời gian N (t) số biến cố xảy khoảng thời gian từ đến t Định nghĩa 3.1.1 Quá trình đếm N (t), t ≥ gọi trình Poisson không dừng có hàm cường độ λ(t), t ≥ 0, N (0) = N (t), t ≥ có gia số độc lập P {N (t + h) − N (t) = 1} = λ(t)h + o(h) P {N (t + h) − N (t) ≥ 2} = o(h) Nếu ta đặt λ(y)dy m(t) = ta có kết sau Định lí 3.1.1 n −[m(s+t)−m(s)] [m(s + t) − m(s)] P {N (s + t) − N (s) = n} = e n! Nghĩa N (s + t) − N (s) biến Poisson ngẫu nhiên có trị số trung bình m(s + t) − m(s) 21 Luận văn tốt nghiệp 3.2 Phạm Thị Thu Hằng Quá trình Poisson dừng Một trình Poisson không dừng có λ(t) ≡ λ gọi trình Poisson dừng có tham số λ Với trình Poisson có tham số λ, gọi T1 thời gian xảy biến cố Tn , n > 1, thời gian biến cố thứ (n − 1) biến cố thứ n Dãy Tn , n ≥ gọi dãy thời gian lần đến liên tiếp Mệnh đề 3.2.1 Thời gian lần đến liên tiếp Tn , n ≥ 1, độc lập biến lũy thừa ngẫu nhiên có tham số λ phân phối giống hệt 3.3 Một số tính toán trình Poisson Một phương pháp thường sử dụng để tính giá trị kỳ vọng biến ngẫu nhiên X(t), t thời gian giá trị X(t) phần xác định trình Poisson, tìm phương trình vi phân Ví dụ 3.3.1 3.3.2 mô tả phương pháp 3.4 Phân loại biến cố trình Poisson không dừng Quan sát trình Poisson không dừng {N (t), t ≥ 0} có hàm cường độ λ(t) Giả sử biến cố xảy thời điểm s độc lập với biến cố trước biến cố loại với xác suất p(s) loại với xác suất − p(s), s ≥ Gọi Ni (t) số biến cố loại i xảy tính đến thời điểm t Mệnh đề sau thường áp dụng toán Mệnh đề 3.4.1 {N1 (t), t ≥ 0} {N2 (t), t ≥ 0} trình Poisson không dừng độc lập có hàm cường độ tương ứng λ(t)p(t) λ(t)(1 − p(t)) 3.5 Phân phối có điều kiện thời điểm đến Với biến cố riêng trình Poisson không dừng xảy trước thời điểm t, ta tìm phân phối có điều kiện thời điểm xảy biến cố Gọi S1 thời điểm xảy biến cố, với ≤ s ≤ t, 22 Luận văn tốt nghiệp Phạm Thị Thu Hằng Mệnh đề 3.5.1 Biết N (t) = n, n thời điểm biến cố < S1 < S2 < < Sn < t phân phối theo thống kê thứ tự từ tập hợp n biến ngẫu nhiên độc lập phân phối có hàm mật độ F (s) = λ(s) , m(t) 23 0≤s≤t Tài liệu tham khảo Tiếng Việt [1] Đặng Hùng Thắng (2012), Mở đầu lý thuyết xác suất ứng dụng, NXB Giáo dục Việt nam [2] Nguyễn Duy Tiến, Vũ Viết Yên (2013), Lý Thuyết Xác suất, NXB Giáo dục Việt Nam Tiếng Anh [3] Barbour, A.,Holst, L., and Jansen, S (1992),Poisson Approximations Oxford University Press [4] Bollobas, B (1999), Random Graphs 2nd ed., San Diego: Academic Press [5] Ross, S (1996), Stochastic Processes 2nd ed., NY: Wiley [6] Sheldon M.Ross (2002), Probability Models for Computer science, Harcourt/ Academic Press 24 [...]... trị số trung bình và phương sai đều bằng ln N Tổng quát, để mô hình hóa số lần lặp của một thuật toán luôn chuyển tới một trạng tối ưu hơn ta có thể sử dụng một xích Markov có xác suất chuyển thỏa mãn điều kiện: Pi,j = 0 nếu0 ≤ i < j (2.12) Gọi Di là lượng trạng thái giảm khi chuyển tiếp từ trạng thái i, khi đó P {Di = k} = Pi,i−k Mệnh đề 2.1.4 Đặt Nn là số chuyển tiếp cần để một xích Markov có xác suất. .. gian Để mô tả điều này, ta cần sử dụng Mệnh đề sau Mệnh đề 2.1.5 Xem xét một xích Markov tối giản có xác suất chuyển tiếp Pi,j Nếu có thể tìm được các số dương πi , i ≥ 0 có tổng bằng 1 và ma trận xác suất chuyển tiếp Q = [Qi,j ] thỏa mãn Pi,j = πj Qj,i (2.4) thì Qi,j là xác suất chuyển tiếp của xích nghịch đảo và πi là xác suất dừng của cả xích ban đầu và xích nghịch đảo 2.2 Mô phỏng 2.2.1 Mô phỏng... tìm một cách phân hoạch có sức chứa nhỏ nhất Tức là nếu ta đặt m0 = min c(X, X c ) thì bài toán trở thành tìm m0 cùng với một phân hoạch sức chứa m0 Với X0 , X0c là một phân hoạch có sức chứa nhỏ nhất Xây dựng một thuật toán xác suất để cho ra một phân hoạch mà sức chứa của nó bằng c(X0 , X0c ) với xác suất lớn hơn hoặc bằng 2/n2 Thuật toán này còn có thể cho ta một phân hoạch cực tiểu với xác suất. ..Luận văn tốt nghiệp 1.2.2 Phạm Thị Thu Hằng Ứng dụng xác suất để chứng minh sự tồn tại Giả sử chúng ta muốn chứng minh một phần tử của tập hợp S có một tính chất nào đó Ta có thể nghiên cứu một phần tử ngẫu nhiên X trong tập hợp S rồi chứng minh xác suất của biến cố đối ,biến cố mà X không có tính chất này, nhỏ hơn 1 1.2.3 Xác định cận từ kỳ vọng Gọi f là hàm của phần tử s thuộc tập hợp... = j thì đặt Xn+1 bằng j với xác suất α(i, j) và đặt bằng i với xác suất 1 − α(i, j), trong đó giá trị của α(i, j) sẽ được cho dưới đây Với những điều kiện này, dãy các trạng thái là một xích Markov có xác suất chuyển tiếp Pi,j thỏa mãn cho bởi Pi,j = q(i, j)α(i, j), j=i q(i, k)[1 − α(i, k)] Pi,i = q(i, i) + k=i xích Markov này có tính khôi phục ngươc thời gian và có xác suất dừng π(j) nếu π(i)Pi,j... 1} là xích Markov tối giản với xác suất dừng πj và gọi r là hàm giới hạn không gian trạng thái Khi đó, với xác suất 1, lim N →∞ N n=1 r(Xn ) N = r(j)πj j 14 Luận văn tốt nghiệp 2.1.5 Phạm Thị Thu Hằng Ứng dụng Mô hình cho hiệu suất thuật toán Bài toán tối ưu hóa sau đây được gọi là quy hoạch tuyến tính: cực tiểu biểu thức cx với điều kiện: Ax = b, x ≥ 0 trong đó A là một ma trận hằng có kích thước... Phạm Thị Thu Hằng Mô phỏng MCMC Gọi X là véc tơ ngẫu nhiên rời rạc có tập hợp các giá trị là xj , j ≥ 1 Đặt P {X = xj }, j ≥ 1 là hàm phân bố xác suất của X và giả sử ta cần tính h(xj )P {X = xj } θ = E[h(X)] = j Với mọi hàm h cho trước Trong nhiều trường hợp việc tính tất cả các h(xj ) là rất phức tạp nên ta thường chuyển sang mô phỏng để ước lượng θ Một trong các phương pháp như vậy là Mô phỏng Monte... nhiên phụ thuộc Hơn nữa, có nhiều ứng dụng trong đó hàm phân bố xác suất của X chỉ được biết sai khác một hằng số nhân, tức là hàm được cho theo dạng P {X = xj } = Cbj , j≥1 trong đó bj được cho trước nhưng phải tính C Tuy nhiên, vẫn có một phương pháp khác bên cạnh phương pháp Monte Carlo thông thường là sử dụng mô phỏng để ước lượng θ Bằng cách tạo ra một xích không phải gồm các véc tơ ngẫu nhiên... 1 d(i) (2.13) Xích Markov với thời gian đảo ngược Xem xét một xích Markov dừng có xác suất chuyển tiếp là Pi,j và xác suất dừng πi Giả sử bắt đầu từ thời điểm n, ta thấy xích trạng thái quay ngược lại trình tự trước đó Tức là với một xích các trạng thái Xn , Xn−1 , Xn−2 , bản thân xích này là một xích Markov với xác suất chuyển tiếp Qi,j trong đó Qi,j πj Pj,i πi Nếu Qi,j = Pi,j thì xích Markov được... độc lập mà là các trạng thái liên tiếp của một xích Markov mang giá trị véc tơ Xn , n ≥ 1,ở đó xác suất dừng là P {X = xj }, j ≥ 1 Khi điều này được thực hiện, ta có thể áp dụng Mệnh đề 2.1.2 và sử dụng ni=1 h(Xi )/n để ước lượng θ Để hiểu cách tạo một xích Markov với xác suất dừng ngẫu nhiên chỉ được cho dưới dạng một hàm hệ số bội, gọi b(j), j ≥ 1, là các số dương có tổng ∞ B = j=1 b(j) hữu hạn Thuật