Một số mô hình xác suất trong khoa học máy tính

Header Page of 16 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN - PHẠM THỊ THU HẰNG MỘT SỐ MÔ HÌNH XÁC SUẤT TRONG KHOA HỌC MÁY TÍNH LUẬN VĂN THẠC SĨ KHOA HỌC Hà Nội - Năm 2015 Footer Page of 16 Header Page of 16 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN - PHẠM THỊ THU HẰNG MỘT SỐ MÔ HÌNH XÁC SUẤT TRONG KHOA HỌC MÁY TÍNH Chuyên ngành: Lý thuyết Xác suất Thống kê toán học Mã số: 60406106 LUẬN VĂN THẠC SĨ KHOA HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: GS.TSKH ĐẶNG HÙNG THẮNG Hà Nội - Năm 2015 Footer Page of 16 Header Page of 16 Mục lục Footer Page of 16 Header Page of 16 LỜI NÓI ĐẦU Trong năm gần đây, xác suất phát triển đa dạng có nhiều ứng dụng quan trọng lĩnh vực khoa học máy tính Ví dụ, chủ đề liên quan đến thuật toán thuật toán ngẫu nhiên, thuật toán ước lượng phân tích xác suất thuật toán sử dụng phương pháp xác suất Trong luận văn này, muốn giới thiệu loại mô hình phân tích xác suất hữu dụng khoa học máy tính Giả sử với hàm mở đầu xác suất, trình bày số đề tài quan trọng phương pháp xác suất, xích Markov, mô MCMC trình Poisson không dừng Luận văn cung cấp nhiều ví dụ tập mô tả đề tài thuật toán xếp, thuật toán tìm kiếm biểu đồ ngẫu nhiên, toán tự xếp theo danh sách, phản xích, phân hoạch cực đại cực tiểu đồ thị nhiều đề tài khác Cấu trúc luận văn chia làm chương chính: • Chương đưa ví dụ hay khoa học máy tính, đồng thời trình bày phương pháp xác suất số cách ứng dụng phương pháp • Chương viết xích Markov không gian trạng thái rời rạc, phương pháp Monte Carlo xích Markov Monte Carlo (MCMC) • Chương giới thiệu số lớp trình Poisson, từ nghiên cứu toán phân loại biến cố trình Poisson không dừng toán xác định phân phối có điều kiện thời điểm đến Trong khuôn khổ luận văn này, hạn hẹp thời gian lực thân, tránh khỏi hạn chế nội dung việc trình bầy Tôi nhận thấy xác suất khoa học máy tính nhiều điều thú vị khác mong có dịp trình bầy đầy đủ Luận văn hoàn thành hướng dẫn tận tâm GS.TSKH Đặng Hùng Thắng Tôi xin bày tỏ lòng biết ơn kính trọng sâu sắc đến thầy Qua xin chân thành gửi lời cảm ơn tới thầy cô Tổ Footer Page of 16 Header Page of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng môn Xác suất thống kê Ban Chủ nhiệm khoa Toán - Cơ - Tin học Trường Đại học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội bảo hướng dẫn tận tình giúp hoàn thành luận văn này! Rất mong nhận ý kiến đóng góp thầy cô bạn! Hà Nội, tháng 11/2015 Phạm Thị Thu Hằng Footer Page of 16 Header Page of 16 Chương Xác suất lý thuyết tổ hợp đồ thị 1.1 Các ví dụ 1.1.1 Đồ thị ngẫu nhiên Mỗi đồ thị bao gồm hai yếu tố: tập V tập hợp đỉnh (hay nút) A tập hợp cặp đỉnh gọi cạnh (hoặc cung) Ta thường khoanh tròn số hiệu đỉnh nối đỉnh đường thẳng cong có cạnh tạo hai đỉnh Ví dụ, đồ thị có V = {1, 2, 3, 4, 5, 6} A={(1, 2), (1, 4), (1, 5), (2, 3), (2, 5), (3, 5), (5, 6)} mô tả Hình 1.1 Ở ta xét đồ thị hướng, tức ta không định hướng cạnh đồ thị Một chuỗi đỉnh i, i1 , i2 , , ik , j (i, i1 ), (i1 , i2 ), , (ik−1 , ik ), (ik , j) cạnh gọi đường từ đỉnh i tới đỉnh j Hình 1.2 biểu thị đường từ đỉnh tới đỉnh Một đồ thị coi liên thông có đường cặp đỉnh đồ thị Đồ thị Hình 1.1 1.2 đồ thị liên thông đồ thị Hình 1.3 đồ thị liên thông Giờ xem xét đồ thị với tập hợp đỉnh V = {1, 2, , n} tập hợp cạnh A = {(i, X(i)), i = 1, , n} X(i) biến ngẫu nhiên độc lập thỏa mãn n P {X(i) = j} = Pj , Pj = j=1 Nói cách khác, từ đỉnh i ta chọn ngẫu nhiên đỉnh số n đỉnh lại đồ thị (bao gồm i), xác suất để đỉnh j chọn Pj , Footer Page of 16 Header Page of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng Hình 1.1: Đồ thị Hình 1.2: Đường từ tới 6: 1, 2, 3, 5, Hình 1.3 sau ta nối đỉnh i với đỉnh vừa chọn cung Đồ thị vừa xây dựng đồ thị ngẫu nhiên Chúng ta tính xác suất để đồ thị ngẫu nhiên Footer Page of 16 Header Page of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng đồ thị liên thông Để tìm xác suất này, ta chọn đỉnh, giả sử đỉnh lần theo chuỗi đỉnh 1, X(1), X (1), , X n (1) = X(X n−1 (1)) để xác định giá trị biến ngẫu nhiên N số k nhỏ cho X k (1) không đỉnh Tức là, N = min(k : X k (1) ∈ {1, X(1), , X k−1 (1)}) Đồng thời, gọi N −1 PX i (1) W = P1 + i=1 Nói cách khác, N số đỉnh tiếp xúc chuỗi 1, X(1), X (1), trước đỉnh xuất hai lần W tổng xác suất đỉnh (xem Hình 1.4) Hình 1.4 Để tính toán xác suất đồ thị liên thông, ta lấy điều kiện với N : n P (đồ thị liên thông|N = k)P (N = k) Xác suất đồ thị liên thông = k=1 Bây giờ, với điều kiện N = k , đỉnh 1, X(1), , X k−1 (1) liên thông với không cạnh khác xuất phát từ đỉnh tới đỉnh lại đồ thị Nói cách khác, ta hợp k đỉnh lại làm siêu đỉnh Không có cạnh xuất phát từ siêu đỉnh xác suất để đỉnh vào siêu đỉnh W Ta cần đến kết sau Bổ đề 1.1.1 Xét đồ thị ngẫu nhiên gồm đỉnh 0, 1, , r, cạnh (i, Yi ), i = 1, , r, Yi biến ngẫu nhiên độc lập r P {Yi = j} = Qj , j = 0, , r, Qj = j=0 Khi đó, Footer Page of 16 Header Page of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng P {đồ thị liên thông} = Q0 Đồ thị ngẫu nhiên bao gồm r đỉnh thông thường (đánh số từ đến r) đỉnh đặc biệt (đánh số 0); đỉnh thông thường có cạnh độc lập qua đỉnh j với xác suất Qj ; cạnh xuất phát từ đỉnh đặc biệt Chứng minh : Để chứng minh, ta sử dụng phương pháp quy nạp theo r, bổ đề hiển nhiên r = 1, giả sử bổ đề với giá trị nhỏ r Xem xét Y1 Y1 = dễ thấy đồ thị không liên thông Nếu Y1 = đỉnh coi đỉnh đơn lẻ trường hợp không thay đổi ta có r − đỉnh thông thường đỉnh đặc biệt, đỉnh thông thường có cạnh qua đỉnh đặc biệt với xác suất Q0 + Q1 Nếu Y1 = j = 0, cách coi đỉnh j đỉnh đơn lẻ, kết không thay đổi ta có r − đỉnh thông thường đỉnh đặc biệt, đỉnh thông thường có cạnh qua đỉnh đặc biệt với xác suất Q0 Do vậy, từ giả thiết quy nạp, thấy:  j = 0, P {đồ thị liên thông|Y1 = j} = Q0 + Q1 , j =  Q0 , j = 0, Lấy xác suất với điều kiện với Y1 ta có: r P {đồ thị liên thông} = P {đồ thị liên thông|Y1 = j}Qj j=0 = (Q0 + Q1 )Q0 + Q0 (1 − Q0 − Q1 ) = Q0 giả thiết quy nạp Trở lại với đồ thị ngẫu nhiên ban đầu, coi tập hợp đỉnh 1, , X N −1 (1) đỉnh đặc biệt Bổ đề 1.1.1 ta có: P {đồ thị liên thông|N, 1, , X N −1 (1)} = W Lấy kỳ vọng thu kết sau: Mệnh đề 1.1.1 P{đồ thị liên thông} = E[W] Từ lập luận ta nhận thấy thực dãy phép thử đa thức độc lập với xác suất P1 , , Pn với điều kiện kết ban đầu 1, kỳ vọng Footer Page of 16 Header Page 10 of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng tổng xác suất tất kết riêng biệt thu đến trước có kết bị lặp lại với xác suất để đồ thị ngẫu nhiên liên thông Điều ta thay kết bân đầu kết ban đầu khác (khi phân tích đồ thị ngẫu nhiên, bắt đầu chuỗi đỉnh i, X(i), X (i), nào), thế, với dãy phép thử đa thức ta có kì vọng tổng xác suất kết thu trước có kết lặp lại độc lập với kết Đây phát không hiển nhiên chút Trong phần lại mục này, tập trung phân tích trường hợp đặc biệt cạnh xuất phát từ đỉnh đến đỉnh đồ thị với xác suất Pj = , j = 1, , n n Hệ sau cho ta công thức tính xác suất đồ thị liên thông trường hợp đặc biệt Hệ 1.1.1 Khi Pj = 1/n, P {đồ thị liên thông} = (n − 1)! nn n−1 j=0 Chứng minh Vì W = N/n, ta có: E[W ] = E[N ] n = n = = n n n−1 P (N > i) i=0 n−1 i=0 n−1 i=0 (n − 1) (n − i) ni (n − 1)! (n − i − 1)!ni (n − 1)! = nn = (n − 1)! nn Footer Page 10 of 16 n−1 i=0 n−1 j=0 nn−1−i (n − i − 1)! nj j! nj j! Header Page 104 of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng theo gia số dừng, có phân phối với trình ban đầu Nói cách khác, trình Poisson khả nhớ nên thời gian lần đến liên tiếp kỳ vọng biến lũy thừa Một số liệu khác cần tìm Sn tức thời gian xảy biến cố thứ n biểu diễn thành n Sn = Ti i=1 Phân phối Sn dễ dàng tìm thời gian xảy biến cố thứ n nhỏ t số biến cố thời điểm t lớn n Điều có nghĩa Sn ≤ t ⇐⇒ N (t) ≥ n Do đó, ∞ e−λt FSn (t) = P {Sn ≤ t} = P {N (t) ≥ n} = j=n (λt)j j! Lấy vi phân ta hàm mật độ xác suất Sn : ∞ fSn (t) = − j −λt (λt) λe j! j=n = λe−λt ∞ λe−λt + j=n (λt)j−1 (j − 1)! (λt)n−1 (n − 1)! Khi đó, Sn biến gamma ngẫu nhiên có tham số n λ, từ Mệnh đề 3.1.2 chứng tỏ tổng n biến lũy thừa có tham số λ độc lập phân phối giống có phân phối gamma n, λ Nhận xét Thời gian lần đến liên tiếp trình Poisson không dừng không độc lập phân phối giống Tuy nhiên, ta tìm phân phối thời gian xảy biến cố thứ n Sn cách lập luận tương tự cách sau P {t < Sn < t + h} = P {N (t) = n − 1, N (t + h) − N (t) = 1} + o(h) = P {N (t) = n − 1}P {N (t + h) − N (t) = 1} + o(h) m(t)n−1 = e−m(t) [λ(t)h + o(h)] + o(h) (n − 1)! m(t)n−1 = λ(t)e−m(t) h + o(h) (n − 1)! 102 Footer Page 104 of 16 Header Page 105 of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng đẳng thức có xác suất nhiều biến cố khoảng thời gian h o(h) Nếu ta chia hai vế cho h đặt h → thu fSn (t) = λ(t)e−m(t) m(t)n−1 (n − 1)! Trong trường hợp đặc biệt, m(t) = λt chứng tỏ Sn biến ngẫu nhiên gamma có tham số n λ 3.3 Một số tính toán trình Poisson Một phương pháp thường sử dụng để tính giá trị kỳ vọng biến ngẫu nhiên X(t), t thời gian giá trị X(t) phần xác định trình Poisson, tìm phương trình vi phân Ví dụ 3.3.1 3.3.2 mô tả phương pháp Ví dụ 3.3.1 Giả sử hành khách đến ga tàu theo trình Poisson tham số λ Nếu tàu yêu cầu xuất phát thời điểm t tính tổng thời gian chờ kỳ vọng tất hành khách lên chuyến tàu Lời giải Nếu Si thời gian đến người thứ i, i ≥ N (t) số người đến tinh tới thời điểm t tổng thời gian chờ W (t) biểu diễn theo N (t) (t − Si ) W (t) = i=1 Để tính E[W (t)], ta đặt M (t) = E[W (t)] tìm phương trình vi phân M (t) Vì tổng thời gian chờ tính đến thời điểm t + h tổng thời gian chờ tính đến thời điểm t cộng với h lần số người có mặt thời điểm t cộng với tổng thời gian chờ tất người đến vào thời điểm t t + h Ta có W (t + h) = W (t) + hN (t) + W (t, t + h) (3.3) W (t, t + h) thời gian chờ thời điểm t + h tất người đến vào thời điểm t t + h Vì W (t, t + h) ≤ h[N (t + h) − N (t)] 103 Footer Page 105 of 16 Header Page 106 of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng ta thấy ≤ E[W (t, t + h)] ≤ λh2 chứng tỏ E[W (t, t + h)] = o(h) Lấy kỳ vọng từ (??) , ta M (t + h) = M (t) + λth + o(h) hay o(h) M (t + h) − M (t) = λt + h h Lấy h → có M (t) = λt chứng tỏ M (t) = λt2 /2 + c Tính giá trị thời điểm t = chứng tỏ c = 0, ta kết E[W (t)] = λt2 /2 Một cách khác để viết phương trình vi phân áp dụng W (t + h) = Wh (t + h) + W (h, t + h) (3.4) Trong Wh (t + h) tổng thời gian chờ tính tới thời điểm t + h tất hành khách đến trước thời điểm h W (h, t + h) tổng thời gian chờ tính tới thời điểm t + h tất hành khách đến vào thời điểm h t + h Điều suy từ giả thiết gia số dừng trình Poisson W (h, t + h) có phân phối W (t) từ giả thiết gia số độc lập Wh (t + h) W (h, t + h) độc lập Vì N (h)t ≤ Wh (t + h) ≤ N (h)(t + h) (3.5) nên E[Wh (t + h)] = λht + o(h) Do vậy, lấy kỳ vọng từ (??) M (t + h) = λth + M (t) + o(h) cho phương trình vi phân Đặt V (t) = V ar(W (t)) 104 Footer Page 106 of 16 (3.6) Header Page 107 of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng Vì Wh (t + h) W (h, t + h) độc lập nên áp dụng (??) để tìm phương trình vi phân cho V (t) (Áp dụng kết (??) không hiệu phụ thuộc N (t) W (t).) Trước hết ta có V ar(Wh (t + h)) = E[Wh2 (t + h)] − E [Wh (t + h)] = E[(N (h)t)2 ] + o(h) + o(h) theo (??) (??) = t2 E[N (h)] + o(h) = t2 λh + o(h) dấu cuối có N (h) trình Poisson với trị số trung bình λh tức E[N (h)] = V ar(N (h)) + E [N (h)] = λh + (λh)2 = λh + o(h) Do đó, từ (??) kết ta V (t + h) = λht2 + V (t) + o(h) suy V (t + h) − V (t) o(h) = λt2 + h h Lấy h → V (t) = λt2 tức V (t) = λt3 /3 + c ♦ Với V (0) = chứng tỏ c = Ví dụ 3.3.2 Giả sử xung điện có biên độ ngẫu nhiên đến theo chiều ngược so với trình Poisson tham số λ Các biên độ xung điện giảm theo thời gian theo biến lũy thừa tham số α, tức xung điện có biên độ ban đầu A có giá trị Ae−αt sau khoảng thời gian t Giả sử biên độ ban đầu xung điện đến biến độc lập ngẫu nhiên từ phân phối chung có trị số trung bình E[A] Tìm tổng biên độ kỳ vọng hệ thống thời điểm t Lời giải Nếu gọi Si , i ≥ thời gian lần xung điện đến Ai , i ≥ biên độ ban đầu chúng N (t) Ai e−α(t−Si ) S(t) = i=1 105 Footer Page 107 of 16 Header Page 108 of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng biểu thị tổng biên độ thời điểm t Để tìm phương trình vi phân, ta áp dụng đồng thức sau: (3.7) S(t + h) = Sh (t + h) + S(h, t + h) Sh (t + h) tổng biên độ thời điểm t + h tất xung điện đến trước thời điểm h S(h, t + h) tổng biên độ xung điện đến vào thời điểm h t + h thời điểm t + h Theo giả thiết gia số dừng gia số độc lập trình Poisson Sh (t + h) với S(h, t + h) độc lập S(h, t + h) có phân phối với S(t) Vì thời điểm t + h, xung điện đến trước thời điểm h hệ thống khoảng thời gian t t + h nên N (h) −α(t+h) N (h) Ai ≤ Sh (t + h) ≤ e e −αt i=1 Ai i=1 Dễ dàng suy từ kết N (h) E[Sh (t + h)] = E e −αt Ai + o(h) i=1 =e −αt (3.8) λhE[A] + o(h) N (h) −αt V ar(Sh (t + h)) = V ar e −2αt =e Ai + o(h) i=1 (3.9) λhE[A ] + o(h) N (h) kết cho phép ta tính kỳ vọng phương sai Ai i=1 biến Poisson ngẫu nhiên đa hợp Khi đó, đặt M (t) = E[S(t)], V (t) = V ar(S(t)) ta thấy từ (??) (??) M (t + h) = e−αt λhE[A] + M (t) + o(h) hay M (t + h) − M (t) o(h) = e−αt λE[A] + h h 106 Footer Page 108 of 16 Header Page 109 of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng Lấy h → M (t) = e−αt λE[A] tương đương với λE[A] −αt e +c α Tính giá trị thời điểm t = chứng tỏ c = λE[A]/α, ta M (t) = − M (t) = λE[A] (1 − e−αt ) α Tương tự, từ (??) (??) cho thấy V (t + h) = V ar(Sh (t + h)) + V ar(S(h, t + h)) = e−2αt λhE[A2 ] + V (t) + o(h) chứng tỏ V (t) = e−2αt λE[A2 ] hay V (t) = − Áp dụng V (0) = chứng tỏ c = λE[A2 ] −2αt e +c 2α λE[A2 ] 2α V (t) = cho ta kết λE[A2 ] (1 − e−2αt ) 2α Một phương pháp khác bên cạnh tìm phương trình vi phân sử dụng để tính giá trị kỳ vọng biến ngẫu nhiên X(t) phần xác định dạng trình Poisson phân chia khoảng thời gian từ đến t thành nhiều khoảng nhỏ cộng phần thêm có từ khoảng nhỏ vào X(t) ♦ Ví dụ 3.3.3 Ta phân tích mô hình Ví dụ 3.3.2 cách chia khoảng (0, t) thành n khoảng nhỏ có độ dài h = t/n Đặt Si phần thêm vào S(t) tất xung điện đến khoảng nhỏ thứ i với i = 1, , n Ta đặt Ni = N (ih) − N (ih − h) số xung điện đến khoảng nhỏ thứ i Ai,j biểu diễn biên độ chúng với j = 1, , Ni Vì xung điện đến khoảng nhỏ thứ i thời điểm t có hệ thống khoảng thời gian từ (n − i)h (n − i + 1)h nên: Ni Ni Ai,j e −α(n−i+1)h j=1 j=1 107 Footer Page 109 of 16 Ai,j e−α(n−i)h ≤ Si ≤ Header Page 110 of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng Phương trình hệ đơn giản từ bất đẳng thức trên: Ni Ai,j e−α(n−i)h + o(h) E[Si ] = E j=1 Và (do V ar(Si ) = E[Si2 ] − E [Si ]) có Ni Ai,j e−α(n−i)h + o(h) V ar(Si ) = V ar j=1 Vì Ni j=1 Ai,j biến Poisson ngẫu nhiên đa hợp nên E[Si ] = λhE[A]e−α(n−i)h + o(h) V ar(Si ) = λhE[A2 ]e−2α(n−i)h + o(h) Tính tổng E[Si ] từ i = n E[S(t)] = E[Si ] i=1 n e−α(n−i)h + no(h) = λhE[A] i=1 n e−αjh + no(h) = λhE[A] j=0 = λhE[A] − e−αt o(h) +t −αh h 1−e Lấy h → ta có λE[A] (1 − e−αt ) α E[S(t)] = Vì theo giả thiết gia số độc lập trình Poisson Si độc lập, tính tổng V ar(Si ) từ i = đến n ta n V ar(S(t)) = V ar(Si ) i=1 n e−2α(n−i)h + no(h) = λhE[A ] i=1 − e−2αt o(h) = λhE[A ] +t −2αh h 1−e Lấy h → thu kết V ar(S(t)) = λE[A2 ] (1 − e−2αt ) 2α 108 Footer Page 110 of 16 Header Page 111 of 16 Luận văn tốt nghiệp 3.4 Phạm Thị Thu Hằng Phân loại biến cố trình Poisson không dừng Quan sát trình Poisson không dừng {N (t), t ≥ 0} có hàm cường độ λ(t) Giả sử biến cố xảy thời điểm s độc lập với biến cố trước biến cố loại với xác suất p(s) loại với xác suất − p(s), s ≥ Gọi Ni (t) số biến cố loại i xảy tính đến thời điểm t Mệnh đề sau thường áp dụng toán Mệnh đề 3.4.1 {N1 (t), t ≥ 0} {N2 (t), t ≥ 0} trình Poisson không dừng độc lập có hàm cường độ tương ứng λ(t)p(t) λ(t)(1 − p(t)) Chứng minh Để chứng minh {N1 (t), t ≥ 0} trình Poisson không dừng có hàm cường độ λ(t)p(t), ta phải chứng minh thỏa mãn đặc điểm trình Poisson không dừng sau (i) N (0) = =⇒ N1 (0) = (ii) Vì số biến cố loại xảy khoảng thời gian phụ thuộc vào trình ban đầu qua số lần xuất tất biến cố xảy khoảng thời gian nên đặc điểm gia số độc lập {N (t), t ≥ 0} số biến cố loại xuất khoảng thời gian độc lập với số biến cố xuất khoảng thời gian phân chia Do đó, {N1 (t), t ≥ 0} có gia số độc lập (iii) Cố định t, gọi N (t, t + h) = N (t + h) − N (t) N1 (t, t + h) = N1 (t + h) − N1 (t) P {N1 (t, t + h) = 1} = P {N1 (t, t + h) = | N (t, t + h) = 1}P {N (t, t + h) = 1} + P {N1 (t, t + h) = | N (t, t + h) ≥ 2}P {N (t, t + h) ≥ 2} = p(t)λ(t)h + o(h) (iv) P {N1 (t, t + h) ≥ 2} ≤ P {N (t, t + h) ≥ 2} = o(h) Từ công thức trên, {N1 (t), t ≥ 0} trình Poisson không dừng có hàm cường độ λ(t)p(t) lập luận tương tự ta thấy {N2 (t), t ≥ 0} trình Poisson không dừng có hàm cường độ λ(t)(1 − p(t)) Nó chứng tỏ hai trình Poisson độc lập Gọi Ht diễn biến trình trước thời điểm t Khi 109 Footer Page 111 of 16 Header Page 112 of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng đó, Ht biểu diễn chi tiết tất thời gian xảy biến cố loại loại thời điểm t Do đặc điểm gia số độc lập {N (t), t ≥ 0} nên P {N1 (t + h) − N1 (t) = | Ht } = P {N1 (t + h) − N1 (t) = 1} Vì {N (t), t ≥ 0} trình Poisson không dừng nên thông tin biến cố xảy trước thời điểm t ảnh hưởng tới xác suất số biến cố xảy khoảng thời gian từ t tới t + h Do đó, xuất biến cố loại (hoặc loại 1) đoạn [0, t] không thay đổi phân phối xác suất số biến cố loại xảy thời điểm t t + h, qua chứng tỏ {N1 (t), t ≥ 0} {N2 t), t ≥ 0} độc lập với Ví dụ 3.4.1 Quan sát n phép thử độc lập phép thử cho kết 1, , k với xác suất tương ứng p1 , , pk , ki=1 pi = Giả sử thêm n > k Ta cần tính xác suất p để kết xảy lần n phép thử Thay tìm số p cụ thể, ta xem xét phương pháp ước lượng p n lớn sau Giả sử phép thử không xảy thời điểm cố định mà thời điểm chọn theo trình Poisson tham số Khi đó, suy rộng từ Mệnh đề 3.4.1 tới trường hợp biến cố có k loại mà xuất kết loại i trình Poisson có tham số tương ứng pi , i = 1, , k Do đó, Ti lần xuất biến cố loại i ta kết luận T1 , , T − k biến lũy thừa ngẫu nhiên độc lập có tham số tương ứng p1 , , pk Đặt T = max Ti thời điểm sau tất kết xuất lần Khi P {T ≤ t} = P {Ti ≤ t, i = 1, , k} k P {Ti ≤ t} = i=1 k (1 − e−pi t ) = i=1 Tuy nhiên, N (t) số phép thử xảy thời điểm t P {T ≤ t} = E[P {T ≤ t | N (t)}] 110 Footer Page 112 of 16 Header Page 113 of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng √ Vì N (t) biến Poisson ngẫu nhiên có trị số trung bình t độ lệch chuẩn t; √ nên với t lớn, N (t) tiến tới gần t (trong khoảng t ± t ) với xác suất lớn Do đó, ta thấy n lớn P {T ≤ n} ≈ P {T ≤ n | N (n) = n} Vì P {T ≤ n | N (n) = n} p, xác suất để kết k kết xảy lần n phép thử, ta thấy k (1 − e−npi ) p≈ i=1 Ta áp dụng phương pháp trên, giả sử phép thử xảy thời điểm chọn theo trình Poisson có tham số để tìm biểu thức tính E[N ] N số phép thử cần để thu loại kết Trước hết, E[T ] thời gian kỳ vọng để tất phép thử xảy cho ∞ P {T > t}dt E[T ] = ∞ (1 − P {T > t})dt = k ∞ (1 − e−pi t ) dt 1− = i=1 Để tìm mối quan hệ E[T ] E[N ], gọi Xi thời gian lần đến thứ i trình Poisson đếm số phép thử Khi N T = Xi i=1 Do N chuỗi Xi , i ≥ độc lập nên kiểm tra điều kiện với N , ta có E[T ] = E[E[T | N ]] = E[N E[Xi ]] = E[N ] Do k ∞ (1 − e−pi t ) dt 1− E[N ] = i=1 111 Footer Page 113 of 16 Header Page 114 of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng Ví dụ 3.4.2 Chuỗi Poison tiếp diễn vô hạn với lượt đến theo trình Poisson không dừng Giả sử khách hàng đến trạm xăng theo trình Poisson không dừng có hàm cường độ λ(t) Khi đến, khách hàng sử dụng vô số bình xăng Tất thời gian đổ xăng biến độc lập ngẫu nhiên có hàm phân phối G Tìm phân phối chung X(t) số khách hàng hệ thống thời điểm t Y (t) số khách hàng đổ xăng thời điểm t Lời giải Cố định t, giả sử người đến vào thời điểm s, s ≤ t người đến loại người hệ thống thời điểm t người đến loại người đổ xăng thời điểm t Vì người đến vào thời điểm s loại thời gian đổ xăng lớn t − s tất thời gian đổ xăng có phân phối G nên độc lập với khứ, người đến thời điểm s người đến loại với xác suất G(t − S) Do đó, từ Mệnh đề 3.4.1, ta kết luận X(t) Y (t) biến Poisson ngẫu nhiên độc lập có trị số trung bình tương ứng t λ(s)G(t − s)ds E[X(t)] = t λ(s)G(t − s)ds E[Y (t)] = Trong trường hợp đặc biệt, trình đến trình Poisson với tham số λ X(t) Y (t) biến ngẫu nhiên Poisson độc lập có t E[X(t)] = λ t G(y)dy, E[Y (t)] = λ G(y)dy ♦ 3.5 Phân phối có điều kiện thời điểm đến Với biến cố riêng trình Poisson không dừng xảy trước thời điểm t, ta tìm phân phối có điều kiện thời điểm xảy biến cố 112 Footer Page 114 of 16 Header Page 115 of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng Gọi S1 thời điểm xảy biến cố, với ≤ s ≤ t, P {S1 ≤ s, N (t) = 1} P {N (t) = 1} P {N (s) = 1, N (t) − N (s) = 0} = m(t)e−m(t) P {N (s) = 1}P {N (t) − N (s) = 0} = m(t)e−m(t) P {S1 ≤ s | N (t) = 1} = m(s)e−m(s) e−(m(t)−m(s)) m(t)e−m(t) m(s) = m(t) = Do đó, với N (t) = 1, mật độ có điều kiện S1 fS1 |N (t)=1 (s) = λ(s) , m(t) 0≤s≤t (3.10) Điều chứng tỏ tùy thuộc vào điều kiện n biến cố trước thời điểm t, tập hợp chưa xếp n thời điểm xảy biến cố độc lập phân phối giống hệt theo hàm mật độ (??) Để điều chỉnh phương trình xác hơn, ta cần hiểu khái niệm thống kê thứ tự Gọi Y1 , , Yn n biến ngẫu nhiên Ta nói Y(i) , i = 1, , n thống kê thứ tự tương ứng chúng Y (i) số nhỏ thứ i Giả sử Y1 , , Yn biến ngẫu nhiên liên tục độc lập phân phối có hàm mật độ f Có thể tính mật độ chung Y(i) , i = 1, , n (Y(1) , Y(2) , , Y(n) (y1 , y2 , , yn ) (Y1 , Y2 , , Yn ) n! hoán vị (y1 , y2 , , yn ); mật độ xác suất để (Y1 , Y2 , , Yn ) (yi1 , yi2 , , yin ) n n f (yij ) = j=1 f (yj ) j=1 (yi1 ), yi2 , , yin ) hoán vị (y1 , y2 , , yn ) Thực vậy, từ phương trình trên, mật độ chung Y(i) , i = 1, , n cho n f (y1 , y2 , , yn ) = n! f (yj ), n=1 113 Footer Page 115 of 16 y1 < y2 < < yn (3.11) Header Page 116 of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng Mệnh đề 3.5.1 Biết N (t) = n, n thời điểm biến cố < S1 < S2 < < Sn < t phân phối theo thống kê thứ tự từ tập hợp n biến ngẫu nhiên độc lập phân phối có hàm mật độ F (s) = λ(s) , m(t) 0≤s≤t Chứng minh Gọi X(s) thời gian xảy biến cố trình Poisson không dừng sau thời điểm s Với s < y , P {X(s) > y} = P { biến cố (s, t]} y = exp − λ(x)dx s Do vậy, hàm mật độ X(s) y fX(s) (y) = λ(y)exp − = λ(y)e−(m(y)−m(s)) λ(x)dx s Lưu ý < t1 < t2 < < tn < t, S1 = t1 , , Sn = tn , N (t) = n ⇐⇒ X(0) = t1 X(t1 ) = t2 , , X(tn−1 ) = tn , X(tn ) > t Vì gia số độc lập nên X(ti ) độc lập với tất biến cố xảy thời điểm ti coi mật độ hàm phân phối xác suất, ta thấy P {X(0) = t1 , X(t1 ) = t2 , , X(tn−1 ) = tn , X(tn ) > t} = P {X(0) = t1 }P {X(t1 ) = t2 } P {X(tn−1 ) = tn }P {X(tn ) > t} = λ(t1 )e−m(t1 ) λ(t2 )e−(m(t2 )−m(t1 )) λ(tn )e−(m(tn )−m(tn−1 )) e−(m(t)−m(tn )) = λ(t1 ) λ(tn )e−m(t) Từ đó, ta có, với < t1 < t2 < < tn < t, P {Si = ti , i = 1, , n | N (t) = n} = P {Si = ti , i = 1, , n, N (t) = n} P {N (t) = n} λ(t1 ) λ(tn )e−m(t) = e−m(t) m(t)n /n! n = n! i=1 114 Footer Page 116 of 16 λ(ti ) m(t) Header Page 117 of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng Công thức hàm mật độ chung thống kê thứ tự từ mẫu kích thước n với hàm mật độ f (s) = λ(s) , m(t) 0≤s≤t Ta kết Nhận xét Ta chứng minh Mệnh đề 3.5.1 chặt chẽ cách thay P {Si = ti , } P {Si ∈ (ti , ti + ), }, chia cho n đặt tiến tới 115 Footer Page 117 of 16 Header Page 118 of 16 Tài liệu tham khảo Tiếng Việt [1] Đặng Hùng Thắng (2012), Mở đầu lý thuyết xác suất ứng dụng, NXB Giáo dục Việt nam [2] Nguyễn Duy Tiến, Vũ Viết Yên (2013), Lý Thuyết Xác suất, NXB Giáo dục Việt Nam Tiếng Anh [3] Barbour, A.,Holst, L., and Jansen, S (1992),Poisson Approximations Oxford University Press [4] Bollobas, B (1999), Random Graphs 2nd ed., San Diego: Academic Press [5] Ross, S (1996), Stochastic Processes 2nd ed., NY: Wiley [6] Sheldon M.Ross (2002), Probability Models for Computer science, Harcourt/ Academic Press 116 Footer Page 118 of 16 ... ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN - PHẠM THỊ THU HẰNG MỘT SỐ MÔ HÌNH XÁC SUẤT TRONG KHOA HỌC MÁY TÍNH Chuyên ngành: Lý thuyết Xác suất Thống kê toán học Mã số: ... pháp xác suất Trong luận văn này, muốn giới thiệu loại mô hình phân tích xác suất hữu dụng khoa học máy tính Giả sử với hàm mở đầu xác suất, trình bày số đề tài quan trọng phương pháp xác suất, ... Page of 16 Luận văn tốt nghiệp Phạm Thị Thu Hằng môn Xác suất thống kê Ban Chủ nhiệm khoa Toán - Cơ - Tin học Trường Đại học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội bảo hướng dẫn tận tình giúp