NHậP MÔN TRÍ TUệ NHÂN TạO

Phạm Việt Hưng - TTNT NHậP MƠN TRÍ TUệ NHÂN TạO 16/12/22 Chương 4: Mạng Bayes Mạng Bayes Bayes network Phạm Việt Hưng - TTNT 16/12/22 Vấn đề biểu diễn xác suất  Bài toán suy diễn      Cho chứng E1, E2, …,En Cần xác định yêu cầu Q cách tính P(Q|E1,E2, …,En) Nếu có tất xác suất đồng thời tính xác suất điều kiện Bảng xác suất đồng thời có kích thước tăng theo hàm mũ số biến => lớn thực tế Cần có cách biểu diễn suy diễn thực tế Phạm Việt Hưng - TTNT 16/12/22 Ví dụ:  Một người làm về, cần đốn nhà có người khơng Biết rằng:     Nếu người nhà vắng thường (nhưng khơng ln ln) bật đèn ngồi sân Khi khơng có người nhà thường buộc chó bên ngồi Nếu chó bị ốm bị buộc bên ngồi Nếu chó ngồi nghe tiếng sủa Phạm Việt Hưng - TTNT 16/12/22 Biến ngẫu nhiên  Xác định biến ngẫu nhiên sau      O : nhà khơng có người L : đèn ngồi sân sáng D : chó buộc ngồi B : chó bị ốm (đau bụng) H : nghe thấy tiếng sủa Phạm Việt Hưng - TTNT 16/12/22 Quan hệ nút Phạm Việt Hưng - TTNT 16/12/22 Mạng Bayes Phạm Việt Hưng - TTNT 16/12/22 Định nghĩa mạng Bayes  Định nghĩa: Mạng Bayes bao gồm phần   Phần thứ đồ thị có hướng, khơng chu trình, nút ứng với biến ngẫu nhiêu, cạnh (có hướng) biểu diễn cho quan hệ nút gốc nút đích Phần thứ hai bảng xác suất điều kiện chứa xác suất điều kiện nút biết tổ hợp giá trị nút bố mẹ Phạm Việt Hưng - TTNT 16/12/22 Tính độc lập xác suất mạng Bayes  Mạng Bayes cho phép biểu diễn ngắn gọn toàn xác suất đồng thời  Việc rút gọn nhờ sử dụng tính độc lập xác suất mạng  Độc lập xác suất:  Mỗi nút V độc lập với tất nút hậu duệ V, biết giá trị nút bố mẹ V  Ví dụ: H độc lập có điều kiện với L,O,B biết D Phạm Việt Hưng - TTNT 16/12/22 Tính xác suất đồng thời cho mang Bayes P(H,~L,D,~O,B) = = P(H | ~L,D,~O,B) * P(~L,D,~O,B) = P(H|D) * P(~L,D,~O,B) = P(H|D) P(~L | D,~O,B) P(D,~O,B) = P(H|D) P(~L|~O) P(D,~O,B) = P(H|D) P(~L|~O) P(D | ~O,B) P(~O,B) = P(H|D) P(~L|~O) P(D|~O,B) P(~O) P(B) = (.3)(1 - 6)(.1)(1 - 6)(.3) Phạm Việt Hưng - TTNT 16/12/22 Suy diễn nhân (tiếp theo)  Ví dụ: tính P(D|B) P(D|B) = P(D,B)/P(B) = P(D,B,O)/P(B) + P(D,B,~O)/P(B) = P(D,O|B) + P(D,~O|B) = P(D|O,B)P(O|B) + P(D|~O,B)P(~O|B) Phạm Việt Hưng - TTNT 16/12/22 Suy diễn nhân (tiếp theo)  Ví dụ: tính P(D|B) P(D|B) = P(D,B)/P(B) = P(D,B,O)/P(B) + P(D,B,~O)/P(B) = P(D,O|B) + P(D,~O|B) = P(D|O,B)P(O|B) + P(D|~O,B)P(~O|B) = P(D|O,B)P(O) + P(D|~O,B)P(~O) Phạm Việt Hưng - TTNT 16/12/22 Suy diễn nhân (tiếp theo)  Ví dụ: tính P(D|B) P(D|B) = P(D,B)/P(B) = P(D,B,O)/P(B) + P(D,B,~O)/P(B) = P(D,O|B) + P(D,~O|B) = P(D|O,B)P(O|B) + P(D|~O,B)P(~O|B) = P(D|O,B)P(O) + P(D|~O,B)P(~O) = (.05)(.6) + (.1)(1 - 6) = 0.07 Phạm Việt Hưng - TTNT 16/12/22 Suy diễn nhân quả: quy tắc  Ví dụ: tính P(D|B) P(D|B) = P(D,B)/P(B) = P(D,B,O)/P(B) + P(D,B,~O)/P(B) = P(D,O|B) + P(D,~O|B) = P(D|O,B)P(O|B) + P(D|~O,B)P(~O|B) Bước 1: biểu diễn truy vấn Q dạng x/s điều kiện Q bố mẹ Q (không thuộc E) điều kiện theo E Bước 2: viết lại x/s đồng thời dạng xác suất Q biết giá trị bố mẹ = P(D|O,B)P(O) + P(D|~O,B)P(~O) = (.05)(.6) + (.1)(1 - 6) = 0.07 Bước 3: sử dụng giá trị xác suất từ bảng xác suất điều kiện Phạm Việt Hưng - TTNT 16/12/22 Suy diễn chẩn đốn  Ví dụ: tính P(~B|~D) Phạm Việt Hưng - TTNT 16/12/22 Suy diễn chẩn đoán (tiếp theo)  Ví dụ: tính P(~B|~D) P(~B|~D) = P(~D|~B)P(~B)/P(~D) //Bayes tính P(~D|~B) phần trước Phạm Việt Hưng - TTNT 16/12/22 Suy diễn chẩn đốn (tiếp theo)  Ví dụ: tính P(~B|~D) P(~B|~D) = P(~D|~B)P(~B) / P(~D) //Bayes tính P(~D|~B) phần trước P(~D|~B) = P(~D|O,~B)P(O) + P(~D|~O,~B)P(~O) = (.9)(.6) + (.8)(.4) = 0.86 Phạm Việt Hưng - TTNT 16/12/22 Suy diễn chẩn đốn (tiếp theo)  Ví dụ: tính P(~B|~D) P(~B|~D) = P(~D|~B)P(~B) / P(~D) //Bayes tính P(~D|~B) phần trước P(~D|~B) = P(~D|O,~B)P(O) + P(~D|~O,~B)P(~O) = (.9)(.6) + (.8)(.4) = 0.86 P(~B|~D) = (.86)(.7)/P(~D) = 602/P(~D) Để tính P(~D), ta tính P(B|~D) sau dùng P(~B|~D)+P(B|~D) = Phạm Việt Hưng - TTNT 16/12/22 Suy diễn chẩn đoán (tiếp theo)  Ví dụ: tính P(~B|~D) P(~B|~D) = P(~D|~B)P(~B) / P(~D) //Bayes tính P(~D|~B) phần trước P(~D|~B) = P(~D|O,~B)P(O) + P(~D|~O,~B)P(~O) = (.9)(.6) + (.8)(.4) = 0.86 P(~B|~D) = (.86)(.7)/P(~D) = 602/P(~D) Để tính P(~D), ta tính P(B|~D) sau dùng P(~B|~D)+P(B|~D) = P(B|~D) = (.93)(.3)/P(~D) = 279/P(~D) Phạm Việt Hưng - TTNT 16/12/22 Suy diễn chẩn đoán (tiếp theo) P(B|~D) = (.93)(.3)/P(~D) = 279/P(~D) P(~B|~D) + P(B|~D) = hay 602/P(~D) + 279/P(~D) = suy P(~D) = 881 thay vào trên: P(~B|~D) = 602/.881 = 683 Phạm Việt Hưng - TTNT 16/12/22 Suy diễn chẩn đốn: quy tắc  Ví dụ: tính P(~B|~D) P(~B|~D) = P(~D|~B)P(~B) / P(~D) //Bayes tính P(~D|~B) phần trước P(~D|~B) = P(~D|O,~B)P(O) + P(~D|~O,~B)P(~O) = (.9)(.6) + (.8)(.4) = 0.86 P(~B|~D) = (.86)(.7)/P(~D) = 602/P(~D) Để tính P(~D), ta tính P(B|~D) sau dùng P(D|~B)+P(~D|~B) = P(B|~D) = (.93)(.3)/P(~D) = 279/P(~D) Bước 1: biến đổi suy diễn nhân sử dụng quy tắc bayes Bước 2: thực giống suy diễn nhân Phạm Việt Hưng - TTNT 16/12/22 Suy diễn cách lấy mẫu    Trong trường hợp tổng quát: suy diễn mạng Bayes NP-đầy đủ (rất phức tạp) Có thể suy diễn xấp xỉ cách lấy mẫu Sinh giá trị biến có xác suất đồng thời mạng Phạm Việt Hưng - TTNT 16/12/22 Lấy mẫu P(s)=0.3 P(LM^S)=0.05 P(LM^~S)=0.1 P(L~M^S)=0.1 P(L~M^~S)=0.2 M S P(M)=0.6 P(RM)=0.3 P(R~M)=0.6 L P(TL)=0.3 P(T~L)=0.8 R T  Chọn ngẫu nhiên S: S = true với xác suất 0.3  Chọn ngẫu nhiên M: M = true với xác suất 0.6  Chọn ngẫu nhiên L: xác suất L = true phụ thuộc vào giá trị S, M Giả sử bước sinh M=true, S=false => L=true với xác suất 0.1  Chọn ngẫu nhiên R với xác suất phụ thuộc giá trị M  Chọn ngẫu nhiên T với xác suất phụ thuộc giá trị L Phạm Việt Hưng - TTNT 16/12/22 Lấy mẫu (tiếp theo)     Giả sử cần tính: P(R = True  T = True , S = False ) Lấy mẫu nhiều lần theo cách trên, giá trị sinh gọi mẫu Tính số lần xẩy kiện sau:  Nc: số mẫu có T=True S=False  Ns: số mẫu có R=True, T=True S=False  N: tổng số mẫu Nếu N đủ lớn:  Nc/N: (xấp xỉ) xác suất P(T=True and S=False)  Ns/N: (xấp xỉ) xác suất P(R = True , T = True , S = False )  P(R|T,~S) = P(R,T,~S)/P(T,~S)  Ns/Nc Phạm Việt Hưng - TTNT 16/12/22 Lấy mẫu tổng quát    Cần tính P(E1 | E2) Lấy mẫu số lượng đủ lớn Tính số lượng:     Nc: số mẫu có E2 Ns: số mẫu có E1 E2 N: Tổng số mẫu Nếu N đủ lớn, ta có: P(E1 | E2) = Ns / Nc Phạm Việt Hưng - TTNT 16/12/22