Bài TRI THỨC KHÔNG CHẮC CHẮN 8.1 Tri thức khơng chắn xác suất Tri thức khơng chắn, ví dụ: mệnh đề “hút thuốc bị ung thư” khơng chắn Xác suấtcủa mệnh đề khả mệnh đề ký hiệu p (0 ≤p ≤1) Ví dụ xác suất “hút thuốc bị ung thư” p=0,63 Xác suất dựa vào: - thống kê,ví dụtheo thống kê 100 người hút thuốc có 63 người bị ung thư, xác suất “hút thuốc bị ung thư” 0,63 - dựa vào hiểu biết, kinh nghiệm, ví dụ xác suất “Real Madrid thắng Valencia trận tới” 0,58 Các ký hiệu xác suất: Pr (probability): xác suất Pr(X): xác suất mệnh đề X Pr(¬X): xác suất mệnh đề X sai Pr(X∧Y) Pr(X, Y): xác suất hai mệnh đề X Y Pr(X∨Y): xác suất mệnh đề X mệnh đề Y Các tính chất o Mệnh đề chắncó xác suất 1,mệnh đề khơng thoả có xác suất o Pr(X∨Y) = Pr(X) + Pr(Y) – Pr(X∧Y) o Pr (¬X) = – Pr(X) Cm: Pr(X∨¬X) = Pr(X) + Pr(¬X) – Pr(X∧¬X) => Pr (¬X) = – Pr(X) Xác suất có điều kiện Xác suất có điều kiện X cho trước Y ký hiệu Pr(X|Y) Ta có:Pr(X,Y) = Pr(X|Y) Pr(Y) Biến ngẫu nhiên phân phối xác suất Biến ngẫu nhiênlà biến nhận giá trị cách ngẫu nhiên từ tập giá trị,tập giá trịnày gọi miền giá trị (hay không gian mẫu) biếnngẫu nhiên Ta xét biến ngẫu nhiên rời rạc,tức miền giá trị tập giá trị rời rạc cu u du o ng th an co ng c om Giả sử X biến ngẫu nhiên với miền giá trị Ωvà x∈Ω Mệnh đề“X = x” viết tắt mệnh đề “biến X nhận giá trị x”và gọi mệnh đề phân tử Phân phối xác suất X hàm Pr(X) xác định miền giá trị Ω, ứngvới x ∈Ωvới xác suất Pr(X = x) Hàm Pr(X) cần thoả mãn điều kiện: Ví dụ: Phân phối xác suất biến ngẫu nhiên Weather ∈ Ω=(sunny, Rain,Cloudy) cho bảngsau: Weather Sunny Rain Cloudy Pr(Weather) 0,6 0,3 0,1 Phân phối xác suất có điều kiện CuuDuongThanCong.com https://fb.com/tailieudientucntt Giả sử X Y hai biến ngẫu nhiên với miền giá trị tương ứng ΩX ΩY.Phân phối xác suất có điều kiện X cho giá trị Y hàm Pr(X|Y)ứng cặp giá trị x ∈ΩX y ∈ΩY với xác suất có điều kiện Pr(X = x|Y =y) Hàm Pr(X|Y) cần thoả mãn điều kiện: Ví dụ Phân phối xác suất Pr (X|Y) với ΩX = ΩY={true,false} đượccho bảng sau: Y=true Pr (X|Y=true) Y=false Pr (X|Y=false) X = true 0,8 0,3 X = false 0,2 0,7 Cần lưu ý rằng, tổng tất số dòng cần Phân phối xác suất kết hợp c om Xét tập biến ngẫu nhiên{X1, X2, …, Xn} với Xinhận giá trị trongmiền giá trị Ωi(i = 1, …, n) tương ứng Giả sử xi(i = 1, …, n) giá trị thuộc Ωi,xác suất mệnh đề (X1= x1) ∧(X2= x2) ∧…∧(Xn= xn) ký hiệu Pr(X1= x1, X2= x2, …, Xn= xn) th an co ng Phân phối xác suất kết hợp tập {X1, …, Xn} hàm Pr(X1, X2, …, Xn)ứng mệnh đề (X1= x1) ∧(X2= x2) ∧…∧(Xn= xn) với xácsuất Pr(X1= x1, X2= x2,…, Xn= xn) HàmPr(X1, X2, …, Xn) cần thoả mãn điều kiện sau: du o ng Ví dụ.Giả sử X Y hai biến ngẫu nhiên boolean Phân phối xácsuất kết hợp Pr(X,Y) cho bảng sau: X = true X = false Y = true 0,1 0,2 Y = false 0,3 0,4 cu u Cần lưu ý rằng, tổng tất số bảng phân phối xác suấtkết hợp cần Nếu biến ngẫu nhiên X nhận giá trịlà vectơ (x1, …, xn), với xi ∈ Ωi, nghĩa X nhận giá trị miền giá trị Ω= Ω1 ×… ×Ωn, phân phối xác suất kết hợp Pr(X1, …, Xn) phân phối xác suấtcủa X 8.2 Các công thức tính xác suất Luật tập con: Nếu biết phân phối xác suất kết hợp Pr(X1,…,Xn)của tập biến ngẫu nhiên {X1, …, Xn}, ta tính phânphối xác suất kết hợp tổ hợp biến {X1, …,Xn} Ví dụ: Giả sử biết phân phối xácsuất Pr (X,Y,Z), X, Y, Z biến thuộc miền giá trịΩX, ΩY, ΩZtương ứng Khi ta tính phân phối xác suất kết hợp củahai biến Pr(X,Y) cơng thức sau: tính phân phối xác suất biến Pr(X) theo công thức sau: CuuDuongThanCong.com https://fb.com/tailieudientucntt Ví dụ: Giả sử X Y hai biến ngẫu nhiên boolean vàphân phối xác suất kết hợp Pr(X,Y) cho bảng sau: Y = true Y = false X = true 0,1 0,2 X = false 0,3 0,4 Suy phân phối xác suất X Pr(X) phân phối xác suất Y Pr(Y) cho bảng sau: X true false Y True False Pr(Y) 0,4 0,6 c om Luật tổng Từ cơng thức ng Pr(X) 0,3 0,7 th Luật tích Ta có: Pr(Y,Z) = Pr(Y|Z) Pr(Z) Pr(X,Y,Z) = Pr(X|Y,Z) Pr(Y,Z) Suy ra: Pr(X,Y,Z) = Pr(X|Y,Z) Pr(Y|Z) Pr(Z) du o ng an co Suy luật tổng: cu u Tổng qt ta có luật tích: Pr(X1, X2, …, Xn) = Pr(X1|X2, …, Xn) Pr(X2|X3, …, Xn) …Pr(Xn-1|Xn) Pr(Xn) Do thứ tự biến phân phối xác suất kết hợp khơng quan trọng nênsẽ có n! cách phân tích xác suất kết hợp thành tích xác suất có điều kiện Cơng thức bayes Theo cơng thức tính xác suất có điều kiện ta có: Mặt khác, Pr(X,Y) = Pr(Y|X)Pr(X) => công thức Bayes: Để tính Pr(X|Y) theocơng thức Bayes, ta cần biết Pr(Y|X) vàPr(X), biết xác suất theo luật tổng tínhđược Pr(Y) CuuDuongThanCong.com https://fb.com/tailieudientucntt Ví dụ: Giả sử xác suất bệnh nhân sâu (cavity) bịđau (toothache) 0,65=> Pr(Toothache|Cavity) = 0,65 xác suất người sâu 0,05 => Pr(Cavity) = 0,05 xácsuất người đau 0,04 => Pr(Toothache) = 0,04 Cần tính xác suất để người đau bị sâu Theocông thức Bayes: Như vậy, xác suất để người đau bị sâu 0,81 .c om 8.3 Sự độc lập có điều kiện biến ngẫu nhiên Biến X gọi độc lập vớibiến Y nếu: Pr(X|Y) = Pr(X) Biến X gọi độc lập có điều kiện với biến Y cho trước Z, nếu: Pr(X|Y,Z) = Pr(X|Z) ng Nếu X độc lập có điều kiện với Y cho trước Z Ta có cơng thức: Pr(X,Y,Z) = Pr(X|Z) Pr(Y|Z) Pr(Z) an co 8.4 Mạng xác suất Nếu biết phân phối xác suất Pr(X1,…,Xn)thì áp dụng luật tập ta tính xác suất biến Xi (i=1,…,n) áp dụng luật tích ta tính xác suất có điều kiện biến Xi th Thường khó xác định Pr(X1, …, Xn) để lưu Pr(X1, …, Xn) ta cần bảng n chiều.Chỉ với n biến boolean bảng chứa 2n số! du o ng Mạng xác suất mơ hình thích hợp để biểu diễn tri thức khơng chắn Mơ hình giúp tagiảm bớt số xác suất ban đầu cần biết trước đơn giản tính tốn để tìm câu trả lời cho câu hỏi cu u 8.4.1 Định nghĩa Mạng xác suất đồ thị có hướng, khơng có chu trình thoả mãn điều kiện sau: • Các đỉnh đồ thị biến ngẫu nhiên • Mỗi cung từ đỉnh X đến đỉnh Y biểu diễn Y phụ thuộc trực tiếp vào X, X gọi đỉnh cha Y • Nếu X1, …, Xn đỉnh cha đỉnh Y đỉnh Y cần biết Pr(Y|X1, …, Xn) • Nếu Y khơng có cha đỉnh Y cần biết Pr(Y) Ví dụ:Nhà bạn có lắp đặt hệ thống báo động trộm Nó kêu phát trộm có động đất nhẹ Khi bạn làm, bạndặn hai người hàng xóm Lan Mai gọi cho bạn nghe thấy chuông báo trộm kêu Lan nhầm lẫn chuông điện thoại với chuông báo trộm gọi cho bạn Mai hay nghe nhạc to nên không nghe thấy chuông báo trộm Đặt: B: “có trộm” E: “có động đất nhẹ” A: “chng báo trộm kêu” L: “Lan gọi cho bạn” M: “Mai gọi cho bạn” Ta có mạng xác suất báo động trộm hình E B A M CuuDuongThanCong.com L https://fb.com/tailieudientucntt Hình 1: mạng xác suất báo trộm Trong mạng trên, ta đưa vào quan hệ trực tiếp kiện,sự kiện cịn Lan đơi nhầm lẫn chuông điện thoại với chuông báo trộm Mai nghe nhạc to mà khơng nghe thấy chng báo trộm, thìchưa xét Thực cịn vơ số nguyên nhân làm cho chuông báo trộm kêu không kêu (chẳng hạn, nguyên nhân thời tiết, điện …) Cũng vậy, cịn có nhiều ngun nhân khác làm cho Lan Mai gọi không gọi cho bạn (chẳng hạn, Lan tình cờ nghe thấy tiếng kêu giống tiếng chng báo trộm gọi cho bạn, có lúc chng báo trộm Mai vừa khỏi nhà khơng gọi cho bạn được, …) du o ng th an co ng c om Ta cần bảng phân phối xác suấtgiả sử cho sau: cu u 8.4.2 Lập luận mạng xác suất Cho tập biến biết giá trị E (tập biến chứng) ta cần tínhphân phối xác suất có điều kiện biến X (biến hỏi) đó, nghĩa tính Pr(X|E) Xét lại ví dụ trên, giả sửLan Mai gọi đótập biến chứng E ={L = true, M = true} giả sử muốn biết khả có trộm, biến hỏi B vàcần tính Pr(B = true| L = true, M = true) Có hai dạng lập luận: • Lập luận chẩn đốn: biến chứng hậu biến hỏi Ví dụ Lan gọi cho bạn, tính khả có trộm Ta có biến chứng L, biến hỏi B B->A>L.Cầntính Pr(B|L) = 0,016 • Lập luận tiên đoán: biến chứnglà tiền thân biến hỏi Ví dụbiết có trộm, tính khả Lan Mai gọi điệncho bạn.Ta cóbiến chứng B, biến hỏi L M Cần tính Pr(L|B) = 0,86 Pr(M|B) = 0,67 CuuDuongThanCong.com https://fb.com/tailieudientucntt Trong trường hợp tổng qt, biến chứng khơng phải làtiền thân hậu biến hỏi Chẳng hạn, biếttrước khơng có động đất Lan gọi Chúng ta cần đánh giá khả năngcó trộm biết thơng tin Có thể tính được: Pr(B = true|E = false, L = true) = 0,03 cu u du o ng th an co ng c om Vấn đề tính xác phân phối xác suất Pr(X|E) biến hỏi X khiđược cho tập chứng E vấn đề NP khó Tuy nhiên, sốtrường hợp đặc biệt người ta tính Pr(X|E) thời gian đa thức Trong mục sau trình bày thuật tốn cho phép ta tính xác Pr(X|E) với thời gian tỷ lệ với số đỉnh mạng, trongtrường hợp mạng xác suất có kết nối đơn Sau trình bày cácthuật tốn cho phép ta tính xấp xỉ Pr(X|E) trường hợp tổng quát CuuDuongThanCong.com https://fb.com/tailieudientucntt ... xét Thực cịn vơ số nguyên nhân làm cho chuông báo trộm kêu không kêu (chẳng hạn, nguyên nhân thời tiết, điện …) Cũng vậy, cịn có nhiều ngun nhân khác làm cho Lan Mai gọi không gọi cho bạn (chẳng... xác suất có điều kiện Cơng thức bayes Theo cơng thức tính xác suất có điều kiện ta có: Mặt khác, Pr(X,Y) = Pr(Y|X)Pr(X) => công thức Bayes: Để tính Pr(X|Y) theocơng thức Bayes, ta cần biết Pr(Y|X)... hình thích hợp để biểu diễn tri thức khơng chắn Mơ hình giúp tagiảm bớt số xác suất ban đầu cần biết trước đơn giản tính tốn để tìm câu trả lời cho câu hỏi cu u 8. 4.1 Định nghĩa Mạng xác suất