MỘT SỐ MÔ HÌNH XÁC SUẤT TRONG KHOA HỌC MÁY TÍNH

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN - PHẠM THỊ THU HẰNG MỘT SỐ MÔ HÌNH XÁC SUẤT TRONG KHOA HỌC MÁY TÍNH LUẬN VĂN THẠC SĨ KHOA HỌC Hà Nội - Năm 2015 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN - PHẠM THỊ THU HẰNG MỘT SỐ MÔ HÌNH XÁC SUẤT TRONG KHOA HỌC MÁY TÍNH Chuyên ngành: Lý thuyết Xác suất Thống kê toán học Mã số: 60406106 LUẬN VĂN THẠC SĨ KHOA HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: GS.TSKH ĐẶNG HÙNG THẮNG Hà Nội - Năm 2015 Mục lục Lời nói đầu Xác suất lý thuyết tổ hợp đồ thị 1.1 Các ví dụ 1.1.1 Đồ thị ngẫu nhiên 1.1.2 Thuật toán Tìm kiếm Sắp xếp nhanh 1.1.3 Mô hình danh sách tự tổ chức 1.1.4 Sinh hoán vị ngẫu nhiên 1.2 Phương pháp xác suất 1.2.1 Lời giới thiệu 1.2.2 Ứng dụng xác suất để chứng minh tồn 1.2.3 Xác định cận từ kỳ vọng 1.2.4 Bài toán tập hợp độc lập có trọng số tối đa: Thuật toán cận biên ngẫu nhiên 1.2.5 Bài toán phủ tập hợp 1.2.6 Phản xích 1.2.7 Bổ đề rút gọn Lovasz 1.2.8 Thuật toán ngẫu nhiên để tính phân hoạch cực tiểu đồ thị Xích Markov mô MCMC 2.1 Xích Markov 2.1.1 Giới thiệu 2.1.2 Phương trình Chapman-Kolmogorov 2.1.3 Phân loại trạng thái 2.1.4 Xác suất giới hạn xác suất dừng 2.1.5 Ứng dụng 5 11 16 18 26 26 26 28 31 36 38 39 43 46 46 46 48 49 58 65 Luận văn tốt nghiệp 2.2 2.3 Phạm Thị Thu Hằng 2.1.6 Xích Markov với thời gian đảo ngược Mô 2.2.1 Mô Monte Carlo 2.2.2 Tạo biến ngẫu nhiên rời rạc 2.2.3 Tạo biến ngẫu nhiên liên tục: Phương pháp nghịch Mô MCMC biến đổi Quá trình Poisson 3.1 Quá trình Poisson không dừng 3.2 Quá trình Poisson dừng 3.3 Một số tính toán trình Poisson 3.4 Phân loại biến cố trình Poisson không dừng 3.5 Phân phối có điều kiện thời điểm đến 75 85 85 88 90 92 98 98 101 104 110 113 LỜI NÓI ĐẦU Trong năm gần đây, xác suất phát triển đa dạng có nhiều ứng dụng quan trọng lĩnh vực khoa học máy tính Ví dụ, chủ đề liên quan đến thuật toán thuật toán ngẫu nhiên, thuật toán ước lượng phân tích xác suất thuật toán sử dụng phương pháp xác suất Trong luận văn này, muốn giới thiệu loại mô hình phân tích xác suất hữu dụng khoa học máy tính Giả sử với hàm mở đầu xác suất, trình bày số đề tài quan trọng phương pháp xác suất, xích Markov, mô MCMC trình Poisson không dừng Luận văn cung cấp nhiều ví dụ tập mô tả đề tài thuật toán xếp, thuật toán tìm kiếm biểu đồ ngẫu nhiên, toán tự xếp theo danh sách, phản xích, phân hoạch cực đại cực tiểu đồ thị nhiều đề tài khác Cấu trúc luận văn chia làm chương chính: • Chương đưa ví dụ hay khoa học máy tính, đồng thời trình bày phương pháp xác suất số cách ứng dụng phương pháp • Chương viết xích Markov không gian trạng thái rời rạc, phương pháp Monte Carlo xích Markov Monte Carlo (MCMC) • Chương giới thiệu số lớp trình Poisson, từ nghiên cứu toán phân loại biến cố trình Poisson không dừng toán xác định phân phối có điều kiện thời điểm đến Trong khuôn khổ luận văn này, hạn hẹp thời gian lực thân, tránh khỏi hạn chế nội dung việc trình bầy Tôi nhận thấy xác suất khoa học máy tính nhiều điều thú vị khác mong có dịp trình bầy đầy đủ Luận văn hoàn thành hướng dẫn tận tâm GS.TSKH Đặng Hùng Thắng Tôi xin bày tỏ lòng biết ơn kính trọng sâu sắc đến thầy Qua xin chân thành gửi lời cảm ơn tới thầy cô Tổ Luận văn tốt nghiệp Phạm Thị Thu Hằng môn Xác suất thống kê Ban Chủ nhiệm khoa Toán - Cơ - Tin học Trường Đại học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội bảo hướng dẫn tận tình giúp hoàn thành luận văn này! Rất mong nhận ý kiến đóng góp thầy cô bạn! Hà Nội, tháng 11/2015 Phạm Thị Thu Hằng Chương Xác suất lý thuyết tổ hợp đồ thị 1.1 Các ví dụ 1.1.1 Đồ thị ngẫu nhiên Mỗi đồ thị bao gồm hai yếu tố: tập V tập hợp đỉnh (hay nút) A tập hợp cặp đỉnh gọi cạnh (hoặc cung) Ta thường khoanh tròn số hiệu đỉnh nối đỉnh đường thẳng cong có cạnh tạo hai đỉnh Ví dụ, đồ thị có V = {1, 2, 3, 4, 5, 6} A={(1, 2), (1, 4), (1, 5), (2, 3), (2, 5), (3, 5), (5, 6)} mô tả Hình 1.1 Ở ta xét đồ thị hướng, tức ta không định hướng cạnh đồ thị Một chuỗi đỉnh i, i1 , i2 , , ik , j (i, i1 ), (i1 , i2 ), , (ik−1 , ik ), (ik , j) cạnh gọi đường từ đỉnh i tới đỉnh j Hình 1.2 biểu thị đường từ đỉnh tới đỉnh Một đồ thị coi liên thông có đường cặp đỉnh đồ thị Đồ thị Hình 1.1 1.2 đồ thị liên thông đồ thị Hình 1.3 đồ thị liên thông Giờ xem xét đồ thị với tập hợp đỉnh V = {1, 2, , n} tập hợp cạnh A = {(i, X(i)), i = 1, , n} X(i) biến ngẫu nhiên độc lập thỏa mãn n P {X(i) = j} = Pj , Pj = j=1 Nói cách khác, từ đỉnh i ta chọn ngẫu nhiên đỉnh số n đỉnh lại đồ thị (bao gồm i), xác suất để đỉnh j chọn Pj , Luận văn tốt nghiệp Phạm Thị Thu Hằng Hình 1.1: Đồ thị Hình 1.2: Đường từ tới 6: 1, 2, 3, 5, Hình 1.3 sau ta nối đỉnh i với đỉnh vừa chọn cung Đồ thị vừa xây dựng đồ thị ngẫu nhiên Chúng ta tính xác suất để đồ thị ngẫu nhiên Luận văn tốt nghiệp Phạm Thị Thu Hằng đồ thị liên thông Để tìm xác suất này, ta chọn đỉnh, giả sử đỉnh lần theo chuỗi đỉnh 1, X(1), X (1), , X n (1) = X(X n−1 (1)) để xác định giá trị biến ngẫu nhiên N số k nhỏ cho X k (1) không đỉnh Tức là, N = min(k : X k (1) ∈ {1, X(1), , X k−1 (1)}) Đồng thời, gọi N −1 PX i (1) W = P1 + i=1 Nói cách khác, N số đỉnh tiếp xúc chuỗi 1, X(1), X (1), trước đỉnh xuất hai lần W tổng xác suất đỉnh (xem Hình 1.4) Hình 1.4 Để tính toán xác suất đồ thị liên thông, ta lấy điều kiện với N : n P (đồ thị liên thông|N = k)P (N = k) Xác suất đồ thị liên thông = k=1 Bây giờ, với điều kiện N = k , đỉnh 1, X(1), , X k−1 (1) liên thông với không cạnh khác xuất phát từ đỉnh tới đỉnh lại đồ thị Nói cách khác, ta hợp k đỉnh lại làm siêu đỉnh Không có cạnh xuất phát từ siêu đỉnh xác suất để đỉnh vào siêu đỉnh W Ta cần đến kết sau Bổ đề 1.1.1 Xét đồ thị ngẫu nhiên gồm đỉnh 0, 1, , r, cạnh (i, Yi ), i = 1, , r, Yi biến ngẫu nhiên độc lập r P {Yi = j} = Qj , j = 0, , r, Qj = j=0 Khi đó, Luận văn tốt nghiệp Phạm Thị Thu Hằng P {đồ thị liên thông} = Q0 Đồ thị ngẫu nhiên bao gồm r đỉnh thông thường (đánh số từ đến r) đỉnh đặc biệt (đánh số 0); đỉnh thông thường có cạnh độc lập qua đỉnh j với xác suất Qj ; cạnh xuất phát từ đỉnh đặc biệt Chứng minh : Để chứng minh, ta sử dụng phương pháp quy nạp theo r, bổ đề hiển nhiên r = 1, giả sử bổ đề với giá trị nhỏ r Xem xét Y1 Y1 = dễ thấy đồ thị không liên thông Nếu Y1 = đỉnh coi đỉnh đơn lẻ trường hợp không thay đổi ta có r − đỉnh thông thường đỉnh đặc biệt, đỉnh thông thường có cạnh qua đỉnh đặc biệt với xác suất Q0 + Q1 Nếu Y1 = j = 0, cách coi đỉnh j đỉnh đơn lẻ, kết không thay đổi ta có r − đỉnh thông thường đỉnh đặc biệt, đỉnh thông thường có cạnh qua đỉnh đặc biệt với xác suất Q0 Do vậy, từ giả thiết quy nạp, thấy:  j = 0, P {đồ thị liên thông|Y1 = j} = Q0 + Q1 , j =  Q0 , j = 0, Lấy xác suất với điều kiện với Y1 ta có: r P {đồ thị liên thông} = P {đồ thị liên thông|Y1 = j}Qj j=0 = (Q0 + Q1 )Q0 + Q0 (1 − Q0 − Q1 ) = Q0 giả thiết quy nạp Trở lại với đồ thị ngẫu nhiên ban đầu, coi tập hợp đỉnh 1, , X N −1 (1) đỉnh đặc biệt Bổ đề 1.1.1 ta có: P {đồ thị liên thông|N, 1, , X N −1 (1)} = W Lấy kỳ vọng thu kết sau: Mệnh đề 1.1.1 P{đồ thị liên thông} = E[W] Từ lập luận ta nhận thấy thực dãy phép thử đa thức độc lập với xác suất P1 , , Pn với điều kiện kết ban đầu 1, kỳ vọng Luận văn tốt nghiệp Phạm Thị Thu Hằng theo gia số dừng, có phân phối với trình ban đầu Nói cách khác, trình Poisson khả nhớ nên thời gian lần đến liên tiếp kỳ vọng biến lũy thừa Một số liệu khác cần tìm Sn tức thời gian xảy biến cố thứ n biểu diễn thành n Sn = Ti i=1 Phân phối Sn dễ dàng tìm thời gian xảy biến cố thứ n nhỏ t số biến cố thời điểm t lớn n Điều có nghĩa Sn ≤ t ⇐⇒ N (t) ≥ n Do đó, ∞ e−λt FSn (t) = P {Sn ≤ t} = P {N (t) ≥ n} = j=n (λt)j j! Lấy vi phân ta hàm mật độ xác suất Sn : ∞ fSn (t) = − j −λt (λt) λe j! j=n = λe−λt ∞ λe−λt + j=n (λt)j−1 (j − 1)! (λt)n−1 (n − 1)! Khi đó, Sn biến gamma ngẫu nhiên có tham số n λ, từ Mệnh đề 3.1.2 chứng tỏ tổng n biến lũy thừa có tham số λ độc lập phân phối giống có phân phối gamma n, λ Nhận xét Thời gian lần đến liên tiếp trình Poisson không dừng không độc lập phân phối giống Tuy nhiên, ta tìm phân phối thời gian xảy biến cố thứ n Sn cách lập luận tương tự cách sau P {t < Sn < t + h} = P {N (t) = n − 1, N (t + h) − N (t) = 1} + o(h) = P {N (t) = n − 1}P {N (t + h) − N (t) = 1} + o(h) m(t)n−1 = e−m(t) [λ(t)h + o(h)] + o(h) (n − 1)! m(t)n−1 = λ(t)e−m(t) h + o(h) (n − 1)! 103 Luận văn tốt nghiệp Phạm Thị Thu Hằng đẳng thức có xác suất nhiều biến cố khoảng thời gian h o(h) Nếu ta chia hai vế cho h đặt h → thu fSn (t) = λ(t)e−m(t) m(t)n−1 (n − 1)! Trong trường hợp đặc biệt, m(t) = λt chứng tỏ Sn biến ngẫu nhiên gamma có tham số n λ 3.3 Một số tính toán trình Poisson Một phương pháp thường sử dụng để tính giá trị kỳ vọng biến ngẫu nhiên X(t), t thời gian giá trị X(t) phần xác định trình Poisson, tìm phương trình vi phân Ví dụ 3.3.1 3.3.2 mô tả phương pháp Ví dụ 3.3.1 Giả sử hành khách đến ga tàu theo trình Poisson tham số λ Nếu tàu yêu cầu xuất phát thời điểm t tính tổng thời gian chờ kỳ vọng tất hành khách lên chuyến tàu Lời giải Nếu Si thời gian đến người thứ i, i ≥ N (t) số người đến tinh tới thời điểm t tổng thời gian chờ W (t) biểu diễn theo N (t) (t − Si ) W (t) = i=1 Để tính E[W (t)], ta đặt M (t) = E[W (t)] tìm phương trình vi phân M (t) Vì tổng thời gian chờ tính đến thời điểm t + h tổng thời gian chờ tính đến thời điểm t cộng với h lần số người có mặt thời điểm t cộng với tổng thời gian chờ tất người đến vào thời điểm t t + h Ta có W (t + h) = W (t) + hN (t) + W (t, t + h) (3.3) W (t, t + h) thời gian chờ thời điểm t + h tất người đến vào thời điểm t t + h Vì W (t, t + h) ≤ h[N (t + h) − N (t)] 104 Luận văn tốt nghiệp Phạm Thị Thu Hằng ta thấy ≤ E[W (t, t + h)] ≤ λh2 chứng tỏ E[W (t, t + h)] = o(h) Lấy kỳ vọng từ (3.3) , ta M (t + h) = M (t) + λth + o(h) hay o(h) M (t + h) − M (t) = λt + h h Lấy h → có M (t) = λt chứng tỏ M (t) = λt2 /2 + c Tính giá trị thời điểm t = chứng tỏ c = 0, ta kết E[W (t)] = λt2 /2 Một cách khác để viết phương trình vi phân áp dụng W (t + h) = Wh (t + h) + W (h, t + h) (3.4) Trong Wh (t + h) tổng thời gian chờ tính tới thời điểm t + h tất hành khách đến trước thời điểm h W (h, t + h) tổng thời gian chờ tính tới thời điểm t + h tất hành khách đến vào thời điểm h t + h Điều suy từ giả thiết gia số dừng trình Poisson W (h, t + h) có phân phối W (t) từ giả thiết gia số độc lập Wh (t + h) W (h, t + h) độc lập Vì N (h)t ≤ Wh (t + h) ≤ N (h)(t + h) (3.5) nên E[Wh (t + h)] = λht + o(h) Do vậy, lấy kỳ vọng từ (3.4) M (t + h) = λth + M (t) + o(h) cho phương trình vi phân Đặt V (t) = V ar(W (t)) 105 (3.6) Luận văn tốt nghiệp Phạm Thị Thu Hằng Vì Wh (t + h) W (h, t + h) độc lập nên áp dụng (3.4) để tìm phương trình vi phân cho V (t) (Áp dụng kết (3.3) không hiệu phụ thuộc N (t) W (t).) Trước hết ta có V ar(Wh (t + h)) = E[Wh2 (t + h)] − E [Wh (t + h)] = E[(N (h)t)2 ] + o(h) + o(h) theo (3.5) (3.6) = t2 E[N (h)] + o(h) = t2 λh + o(h) dấu cuối có N (h) trình Poisson với trị số trung bình λh tức E[N (h)] = V ar(N (h)) + E [N (h)] = λh + (λh)2 = λh + o(h) Do đó, từ (3.4) kết ta V (t + h) = λht2 + V (t) + o(h) suy V (t + h) − V (t) o(h) = λt2 + h h Lấy h → V (t) = λt2 tức V (t) = λt3 /3 + c ♦ Với V (0) = chứng tỏ c = Ví dụ 3.3.2 Giả sử xung điện có biên độ ngẫu nhiên đến theo chiều ngược so với trình Poisson tham số λ Các biên độ xung điện giảm theo thời gian theo biến lũy thừa tham số α, tức xung điện có biên độ ban đầu A có giá trị Ae−αt sau khoảng thời gian t Giả sử biên độ ban đầu xung điện đến biến độc lập ngẫu nhiên từ phân phối chung có trị số trung bình E[A] Tìm tổng biên độ kỳ vọng hệ thống thời điểm t Lời giải Nếu gọi Si , i ≥ thời gian lần xung điện đến Ai , i ≥ biên độ ban đầu chúng N (t) Ai e−α(t−Si ) S(t) = i=1 106 Luận văn tốt nghiệp Phạm Thị Thu Hằng biểu thị tổng biên độ thời điểm t Để tìm phương trình vi phân, ta áp dụng đồng thức sau: (3.7) S(t + h) = Sh (t + h) + S(h, t + h) Sh (t + h) tổng biên độ thời điểm t + h tất xung điện đến trước thời điểm h S(h, t + h) tổng biên độ xung điện đến vào thời điểm h t + h thời điểm t + h Theo giả thiết gia số dừng gia số độc lập trình Poisson Sh (t + h) với S(h, t + h) độc lập S(h, t + h) có phân phối với S(t) Vì thời điểm t + h, xung điện đến trước thời điểm h hệ thống khoảng thời gian t t + h nên N (h) −α(t+h) N (h) Ai ≤ Sh (t + h) ≤ e e −αt i=1 Ai i=1 Dễ dàng suy từ kết N (h) E[Sh (t + h)] = E e −αt Ai + o(h) i=1 =e −αt (3.8) λhE[A] + o(h) N (h) −αt V ar(Sh (t + h)) = V ar e −2αt =e Ai + o(h) i=1 (3.9) λhE[A ] + o(h) N (h) kết cho phép ta tính kỳ vọng phương sai Ai i=1 biến Poisson ngẫu nhiên đa hợp Khi đó, đặt M (t) = E[S(t)], V (t) = V ar(S(t)) ta thấy từ (3.7) (3.8) M (t + h) = e−αt λhE[A] + M (t) + o(h) hay M (t + h) − M (t) o(h) = e−αt λE[A] + h h 107 Luận văn tốt nghiệp Phạm Thị Thu Hằng Lấy h → M (t) = e−αt λE[A] tương đương với λE[A] −αt e +c α Tính giá trị thời điểm t = chứng tỏ c = λE[A]/α, ta M (t) = − M (t) = λE[A] (1 − e−αt ) α Tương tự, từ (3.7) (3.9) cho thấy V (t + h) = V ar(Sh (t + h)) + V ar(S(h, t + h)) = e−2αt λhE[A2 ] + V (t) + o(h) chứng tỏ V (t) = e−2αt λE[A2 ] hay V (t) = − Áp dụng V (0) = chứng tỏ c = λE[A2 ] −2αt e +c 2α λE[A2 ] 2α V (t) = cho ta kết λE[A2 ] (1 − e−2αt ) 2α Một phương pháp khác bên cạnh tìm phương trình vi phân sử dụng để tính giá trị kỳ vọng biến ngẫu nhiên X(t) phần xác định dạng trình Poisson phân chia khoảng thời gian từ đến t thành nhiều khoảng nhỏ cộng phần thêm có từ khoảng nhỏ vào X(t) ♦ Ví dụ 3.3.3 Ta phân tích mô hình Ví dụ 3.3.2 cách chia khoảng (0, t) thành n khoảng nhỏ có độ dài h = t/n Đặt Si phần thêm vào S(t) tất xung điện đến khoảng nhỏ thứ i với i = 1, , n Ta đặt Ni = N (ih) − N (ih − h) số xung điện đến khoảng nhỏ thứ i Ai,j biểu diễn biên độ chúng với j = 1, , Ni Vì xung điện đến khoảng nhỏ thứ i thời điểm t có hệ thống khoảng thời gian từ (n − i)h (n − i + 1)h nên: Ni Ni Ai,j e −α(n−i+1)h Ai,j e−α(n−i)h ≤ Si ≤ j=1 j=1 108 Luận văn tốt nghiệp Phạm Thị Thu Hằng Phương trình hệ đơn giản từ bất đẳng thức trên: Ni Ai,j e−α(n−i)h + o(h) E[Si ] = E j=1 Và (do V ar(Si ) = E[Si2 ] − E [Si ]) có Ni Ai,j e−α(n−i)h + o(h) V ar(Si ) = V ar j=1 Vì Ni j=1 Ai,j biến Poisson ngẫu nhiên đa hợp nên E[Si ] = λhE[A]e−α(n−i)h + o(h) V ar(Si ) = λhE[A2 ]e−2α(n−i)h + o(h) Tính tổng E[Si ] từ i = n E[S(t)] = E[Si ] i=1 n e−α(n−i)h + no(h) = λhE[A] i=1 n e−αjh + no(h) = λhE[A] j=0 = λhE[A] − e−αt o(h) +t −αh h 1−e Lấy h → ta có λE[A] (1 − e−αt ) α E[S(t)] = Vì theo giả thiết gia số độc lập trình Poisson Si độc lập, tính tổng V ar(Si ) từ i = đến n ta n V ar(S(t)) = V ar(Si ) i=1 n e−2α(n−i)h + no(h) = λhE[A ] i=1 − e−2αt o(h) = λhE[A ] +t −2αh h 1−e Lấy h → thu kết V ar(S(t)) = λE[A2 ] (1 − e−2αt ) 2α 109 Luận văn tốt nghiệp 3.4 Phạm Thị Thu Hằng Phân loại biến cố trình Poisson không dừng Quan sát trình Poisson không dừng {N (t), t ≥ 0} có hàm cường độ λ(t) Giả sử biến cố xảy thời điểm s độc lập với biến cố trước biến cố loại với xác suất p(s) loại với xác suất − p(s), s ≥ Gọi Ni (t) số biến cố loại i xảy tính đến thời điểm t Mệnh đề sau thường áp dụng toán Mệnh đề 3.4.1 {N1 (t), t ≥ 0} {N2 (t), t ≥ 0} trình Poisson không dừng độc lập có hàm cường độ tương ứng λ(t)p(t) λ(t)(1 − p(t)) Chứng minh Để chứng minh {N1 (t), t ≥ 0} trình Poisson không dừng có hàm cường độ λ(t)p(t), ta phải chứng minh thỏa mãn đặc điểm trình Poisson không dừng sau (i) N (0) = =⇒ N1 (0) = (ii) Vì số biến cố loại xảy khoảng thời gian phụ thuộc vào trình ban đầu qua số lần xuất tất biến cố xảy khoảng thời gian nên đặc điểm gia số độc lập {N (t), t ≥ 0} số biến cố loại xuất khoảng thời gian độc lập với số biến cố xuất khoảng thời gian phân chia Do đó, {N1 (t), t ≥ 0} có gia số độc lập (iii) Cố định t, gọi N (t, t + h) = N (t + h) − N (t) N1 (t, t + h) = N1 (t + h) − N1 (t) P {N1 (t, t + h) = 1} = P {N1 (t, t + h) = | N (t, t + h) = 1}P {N (t, t + h) = 1} + P {N1 (t, t + h) = | N (t, t + h) ≥ 2}P {N (t, t + h) ≥ 2} = p(t)λ(t)h + o(h) (iv) P {N1 (t, t + h) ≥ 2} ≤ P {N (t, t + h) ≥ 2} = o(h) Từ công thức trên, {N1 (t), t ≥ 0} trình Poisson không dừng có hàm cường độ λ(t)p(t) lập luận tương tự ta thấy {N2 (t), t ≥ 0} trình Poisson không dừng có hàm cường độ λ(t)(1 − p(t)) Nó chứng tỏ hai trình Poisson độc lập Gọi Ht diễn biến trình trước thời điểm t Khi 110 Luận văn tốt nghiệp Phạm Thị Thu Hằng đó, Ht biểu diễn chi tiết tất thời gian xảy biến cố loại loại thời điểm t Do đặc điểm gia số độc lập {N (t), t ≥ 0} nên P {N1 (t + h) − N1 (t) = | Ht } = P {N1 (t + h) − N1 (t) = 1} Vì {N (t), t ≥ 0} trình Poisson không dừng nên thông tin biến cố xảy trước thời điểm t ảnh hưởng tới xác suất số biến cố xảy khoảng thời gian từ t tới t + h Do đó, xuất biến cố loại (hoặc loại 1) đoạn [0, t] không thay đổi phân phối xác suất số biến cố loại xảy thời điểm t t + h, qua chứng tỏ {N1 (t), t ≥ 0} {N2 t), t ≥ 0} độc lập với Ví dụ 3.4.1 Quan sát n phép thử độc lập phép thử cho kết 1, , k với xác suất tương ứng p1 , , pk , ki=1 pi = Giả sử thêm n > k Ta cần tính xác suất p để kết xảy lần n phép thử Thay tìm số p cụ thể, ta xem xét phương pháp ước lượng p n lớn sau Giả sử phép thử không xảy thời điểm cố định mà thời điểm chọn theo trình Poisson tham số Khi đó, suy rộng từ Mệnh đề 3.4.1 tới trường hợp biến cố có k loại mà xuất kết loại i trình Poisson có tham số tương ứng pi , i = 1, , k Do đó, Ti lần xuất biến cố loại i ta kết luận T1 , , T − k biến lũy thừa ngẫu nhiên độc lập có tham số tương ứng p1 , , pk Đặt T = max Ti thời điểm sau tất kết xuất lần Khi P {T ≤ t} = P {Ti ≤ t, i = 1, , k} k P {Ti ≤ t} = i=1 k (1 − e−pi t ) = i=1 Tuy nhiên, N (t) số phép thử xảy thời điểm t P {T ≤ t} = E[P {T ≤ t | N (t)}] 111 Luận văn tốt nghiệp Phạm Thị Thu Hằng √ Vì N (t) biến Poisson ngẫu nhiên có trị số trung bình t độ lệch chuẩn t; √ nên với t lớn, N (t) tiến tới gần t (trong khoảng t ± t ) với xác suất lớn Do đó, ta thấy n lớn P {T ≤ n} ≈ P {T ≤ n | N (n) = n} Vì P {T ≤ n | N (n) = n} p, xác suất để kết k kết xảy lần n phép thử, ta thấy k (1 − e−npi ) p≈ i=1 Ta áp dụng phương pháp trên, giả sử phép thử xảy thời điểm chọn theo trình Poisson có tham số để tìm biểu thức tính E[N ] N số phép thử cần để thu loại kết Trước hết, E[T ] thời gian kỳ vọng để tất phép thử xảy cho ∞ P {T > t}dt E[T ] = ∞ (1 − P {T > t})dt = k ∞ (1 − e−pi t ) dt 1− = i=1 Để tìm mối quan hệ E[T ] E[N ], gọi Xi thời gian lần đến thứ i trình Poisson đếm số phép thử Khi N T = Xi i=1 Do N chuỗi Xi , i ≥ độc lập nên kiểm tra điều kiện với N , ta có E[T ] = E[E[T | N ]] = E[N E[Xi ]] = E[N ] Do k ∞ (1 − e−pi t ) dt 1− E[N ] = i=1 112 Luận văn tốt nghiệp Phạm Thị Thu Hằng Ví dụ 3.4.2 Chuỗi Poison tiếp diễn vô hạn với lượt đến theo trình Poisson không dừng Giả sử khách hàng đến trạm xăng theo trình Poisson không dừng có hàm cường độ λ(t) Khi đến, khách hàng sử dụng vô số bình xăng Tất thời gian đổ xăng biến độc lập ngẫu nhiên có hàm phân phối G Tìm phân phối chung X(t) số khách hàng hệ thống thời điểm t Y (t) số khách hàng đổ xăng thời điểm t Lời giải Cố định t, giả sử người đến vào thời điểm s, s ≤ t người đến loại người hệ thống thời điểm t người đến loại người đổ xăng thời điểm t Vì người đến vào thời điểm s loại thời gian đổ xăng lớn t − s tất thời gian đổ xăng có phân phối G nên độc lập với khứ, người đến thời điểm s người đến loại với xác suất G(t − S) Do đó, từ Mệnh đề 3.4.1, ta kết luận X(t) Y (t) biến Poisson ngẫu nhiên độc lập có trị số trung bình tương ứng t λ(s)G(t − s)ds E[X(t)] = t λ(s)G(t − s)ds E[Y (t)] = Trong trường hợp đặc biệt, trình đến trình Poisson với tham số λ X(t) Y (t) biến ngẫu nhiên Poisson độc lập có t E[X(t)] = λ t G(y)dy, E[Y (t)] = λ G(y)dy ♦ 3.5 Phân phối có điều kiện thời điểm đến Với biến cố riêng trình Poisson không dừng xảy trước thời điểm t, ta tìm phân phối có điều kiện thời điểm xảy biến cố 113 Luận văn tốt nghiệp Phạm Thị Thu Hằng Gọi S1 thời điểm xảy biến cố, với ≤ s ≤ t, P {S1 ≤ s, N (t) = 1} P {N (t) = 1} P {N (s) = 1, N (t) − N (s) = 0} = m(t)e−m(t) P {N (s) = 1}P {N (t) − N (s) = 0} = m(t)e−m(t) P {S1 ≤ s | N (t) = 1} = m(s)e−m(s) e−(m(t)−m(s)) m(t)e−m(t) m(s) = m(t) = Do đó, với N (t) = 1, mật độ có điều kiện S1 fS1 |N (t)=1 (s) = λ(s) , m(t) 0≤s≤t (3.10) Điều chứng tỏ tùy thuộc vào điều kiện n biến cố trước thời điểm t, tập hợp chưa xếp n thời điểm xảy biến cố độc lập phân phối giống hệt theo hàm mật độ (3.10) Để điều chỉnh phương trình xác hơn, ta cần hiểu khái niệm thống kê thứ tự Gọi Y1 , , Yn n biến ngẫu nhiên Ta nói Y(i) , i = 1, , n thống kê thứ tự tương ứng chúng Y (i) số nhỏ thứ i Giả sử Y1 , , Yn biến ngẫu nhiên liên tục độc lập phân phối có hàm mật độ f Có thể tính mật độ chung Y(i) , i = 1, , n (Y(1) , Y(2) , , Y(n) (y1 , y2 , , yn ) (Y1 , Y2 , , Yn ) n! hoán vị (y1 , y2 , , yn ); mật độ xác suất để (Y1 , Y2 , , Yn ) (yi1 , yi2 , , yin ) n n f (yij ) = j=1 f (yj ) j=1 (yi1 ), yi2 , , yin ) hoán vị (y1 , y2 , , yn ) Thực vậy, từ phương trình trên, mật độ chung Y(i) , i = 1, , n cho n f (y1 , y2 , , yn ) = n! f (yj ), n=1 114 y1 < y2 < < yn (3.11) Luận văn tốt nghiệp Phạm Thị Thu Hằng Mệnh đề 3.5.1 Biết N (t) = n, n thời điểm biến cố < S1 < S2 < < Sn < t phân phối theo thống kê thứ tự từ tập hợp n biến ngẫu nhiên độc lập phân phối có hàm mật độ F (s) = λ(s) , m(t) 0≤s≤t Chứng minh Gọi X(s) thời gian xảy biến cố trình Poisson không dừng sau thời điểm s Với s < y , P {X(s) > y} = P { biến cố (s, t]} y = exp − λ(x)dx s Do vậy, hàm mật độ X(s) y fX(s) (y) = λ(y)exp − = λ(y)e−(m(y)−m(s)) λ(x)dx s Lưu ý < t1 < t2 < < tn < t, S1 = t1 , , Sn = tn , N (t) = n ⇐⇒ X(0) = t1 X(t1 ) = t2 , , X(tn−1 ) = tn , X(tn ) > t Vì gia số độc lập nên X(ti ) độc lập với tất biến cố xảy thời điểm ti coi mật độ hàm phân phối xác suất, ta thấy P {X(0) = t1 , X(t1 ) = t2 , , X(tn−1 ) = tn , X(tn ) > t} = P {X(0) = t1 }P {X(t1 ) = t2 } P {X(tn−1 ) = tn }P {X(tn ) > t} = λ(t1 )e−m(t1 ) λ(t2 )e−(m(t2 )−m(t1 )) λ(tn )e−(m(tn )−m(tn−1 )) e−(m(t)−m(tn )) = λ(t1 ) λ(tn )e−m(t) Từ đó, ta có, với < t1 < t2 < < tn < t, P {Si = ti , i = 1, , n | N (t) = n} = P {Si = ti , i = 1, , n, N (t) = n} P {N (t) = n} λ(t1 ) λ(tn )e−m(t) = e−m(t) m(t)n /n! n = n! i=1 115 λ(ti ) m(t) Luận văn tốt nghiệp Phạm Thị Thu Hằng Công thức hàm mật độ chung thống kê thứ tự từ mẫu kích thước n với hàm mật độ f (s) = λ(s) , m(t) 0≤s≤t Ta kết Nhận xét Ta chứng minh Mệnh đề 3.5.1 chặt chẽ cách thay P {Si = ti , } P {Si ∈ (ti , ti + ), }, chia cho n đặt tiến tới 116 Tài liệu tham khảo Tiếng Việt [1] Đặng Hùng Thắng (2012), Mở đầu lý thuyết xác suất ứng dụng, NXB Giáo dục Việt nam [2] Nguyễn Duy Tiến, Vũ Viết Yên (2013), Lý Thuyết Xác suất, NXB Giáo dục Việt Nam Tiếng Anh [3] Barbour, A.,Holst, L., and Jansen, S (1992),Poisson Approximations Oxford University Press [4] Bollobas, B (1999), Random Graphs 2nd ed., San Diego: Academic Press [5] Ross, S (1996), Stochastic Processes 2nd ed., NY: Wiley [6] Sheldon M.Ross (2002), Probability Models for Computer science, Harcourt/ Academic Press 117 [...]... cách đưa ra một không gian xác suất cho tập hợp này và khảo sát một phần tử ngẫu nhiên Phương pháp này chủ yếu được ứng dụng để giải quyết các bài toán lý thuyết tổ hợp và đồ thị 1.2.2 Ứng dụng xác suất để chứng minh sự tồn tại Giả sử chúng ta muốn chứng minh một phần tử của tập hợp S có một tính chất nào đó Ta có thể nghiên cứu một phần tử ngẫu nhiên X trong tập hợp S rồi chứng minh xác suất của biến... (1 − α) log(1 − α)] Do đó, số phép so sánh trung bình thuật toán tìm kiếm cần là công thức tuyến tính của số giá trị 1.1.3 Mô hình danh sách tự tổ chức Xem xét n phần tử e1 , , en ban đầu được sắp xếp theo một trật tự Tại mỗi thời điểm có một yêu cầu đối với một trong số các phần tử này; ei được yêu cầu 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng độc lập với trước đó, xác suất Pi Sau khi đáp ứng được... Sk k=1 n k k! Một dãy số con tăng dần không phải là một phần riêng biệt của một dãy số con tăng dần lớn hơn được gọi là dãy số con tăng dần tối đa Ví dụ hoán vị 3, 5, 1, 2, 4, 6 có hai dãy số con tăng dần tối đa là 3, 5, 6 và 1, 2, 4, 6 ♦ Ví dụ 1.1.5 Tìm E[M ] với M là số dãy số con tăng dần tối đa Lời giải Coi Ij bằng 1 nếu có một dãy số con tăng dần tối đa bắt đầu bằng j và bằng 0 trong trường hợp... có một dãy số con tăng dần tối đa bắt đầu bằng j khi và chỉ khi j là giá trị đầu tiên trong số các giá trị 1, , j xuất hiện trong hoán vị, ta thu được : n E[M ] = 1/j j=1 Một chuỗi tăng của hóa vị là một dãy số con tăng dần của các giá trị liên tiếp không phải là một phần của một dãy số con lớn hơn Ví dụ hoán vị 4, 3, 5, 1, 2, 6 ♦ Có ba chuỗi tăng là 4, 5, 6 3 1, 2 Ví dụ 1.1.6 Tìm E[R] với R là số. .. thành phần phải chứa đúng một chu trình, trong đó chu trình là một cạnh của cặp 10 Luận văn tốt nghiệp Phạm Thị Thu Hằng (i, i) hoặc một chuỗi của cạnh của cặp (i, i1 ), (i1 , i2 ), , (ik , i) với các đỉnh riêng biệt i, i1 , i2 , , ik Ví dụ, đồ thị trong Hình 1.5 là một chu trình Dễ dàng thấy một đồ thị liên thông có số cạnh bằng số đỉnh chỉ chứa duy nhất một chu trình Vì trong đồ thị ngẫu nhiên... bằng 1 khi có một chuỗi tăng bắt đầu với j và bằng 0 trong các trường hợp khác thì n R= Ij j=1 25 Luận văn tốt nghiệp Phạm Thị Thu Hằng Vì Ij bằng 1 nếu j đứng trước j − 1 trong hoán vị nên P {I1 = 1} = 1/2, j>1 Vì P {Ij = 1} = 1 ta được kết quả E[R] = 1 + n+1 n−1 = 2 2 ♦ 1.2 Phương pháp xác suất 1.2.1 Lời giới thiệu Phương pháp xác suất là một kỹ thuật phân tích thuộc tính của phần tử trong một tập hợp... là một chu trình 18 Luận văn tốt nghiệp Phạm Thị Thu Hằng Nếu X(i) = i ta nói rằng i là một điểm cố định của hoán vị Trong bài toán đối sánh, i là điểm cố định nếu người i chọn đúng chiếc mũ của mình Bây giờ chúng ta sẽ tính toán hàm phân phối xác suất số điểm cố định của một hoán vị ngẫu nhiên Trước hết chúng ta phải tìm xác suất để không có điểm cố định nào Gọi En là biến cố không có điểm cố định trong. .. thấy nếu X là một biến Poisson ngẫu nhiên với trị số trung bình n thì n−1 −n P {X < n} = e i=0 ni i! Tuy nhiên, vì một biến Poisson ngẫu nhiên có trị số trung bình n có thể được coi là tổng của n biến Poisson ngẫu nhiên độc lập với trị số trung bình bằng 1, điều này được suy ra từ định lý giới hạn trung tâm rằng một biến ngẫu nhiên có một phân phối xấp xỉ chuẩn với trị số trung bình n Xác suất của biến... tổng các xác suất của các kết quả thu được cho đến trước khi có một kết quả lặp lại là độc lập với kết quả đầu tiên Đây là một phát hiện không hiển nhiên chút nào Trong phần còn lại của mục này, chúng ta sẽ tập trung phân tích trường hợp đặc biệt trong đó cạnh xuất phát từ mỗi đỉnh có thể đến mọi đỉnh của đồ thị với cùng xác suất Pj = 1 , j = 1, , n n Hệ quả sau cho ta công thức tính xác suất đồ thị... chắc chắn là một đỉnh thuộc tập A nếu nó xuất hiện trong hoán vi trước các đỉnh kề với nó Từ đó, ta có mệnh đề sau Mệnh đề 1.2.2 Với mỗi số dương λi , i = 1, , n, n m≥ wi λi /∧i i=1 trong đó ∧i = λj j∈D(j) Nhận xét Rõ ràng từ đồ thị Hình 1.6, bỏ qua trọng số của đỉnh (coi các trọng số là hằng số) , ta có thể thu được một tập hợp độc lập lớn hơn nếu các đỉnh trước đó của hoán vị có bậc nhỏ, trong đó bậc