Bài giảng Nhập môn trí tuệ nhân tạo: Chương 4 - Văn Thế Thành

Bài giảng Nhập môn trí tuệ nhân tạo - Chương 4: Một số ví dụ về máy học giới thiệu các kiến thức cơ bản về máy học, một số ví dụ về máy học, học bằng cách xây dựng cây định danh. Mời các bạn cùng tham khảo nội dung chi tiết

2/19/2014 NHẬP MƠN TRÍ TUỆ NHÂN TẠO CHƯƠNG 4: MỘT SỐ VÍ DỤ VỀ MÁY HỌC 1 GIỚI THIỆU Một số phương pháp máy học để tiếp thu tri thức hay tạo tri thức Học vẹt Học cách đề xuất Học cách thu thập trường hợp Học cách xây dựng định danh Học không giám giám sát tóm gom nhóm liệu Học giám sát toán phân lớp liệu 2/19/2014 GIỚI THIỆU (tt) Học vẹt Hệ tiếp nhận khẳng định định Khi hệ tạo định không đúng, hệ đưa luật hay quan hệ mà hệ sử dụng Hình thức học vẹt nhằm cho phép chuyên gia cung cấp tri thức theo kiểu tương tác Học cách dẫn Thay đưa luật cụ thể cần áp dụng vào tình cho trước, hệ thống cung cấp dẫn tổng quát Ví dụ: "gas bị từ van thay từ ống dẫn" Hệ thống phải tự đề cách biến đổi từ trừu tượng đến luật khả dụng GIỚI THIỆU (tt) Học qui nạp Hệ thống cung cấp tập ví dụ kết luận rút từ ví dụ Hệ liên tục lọc luật quan hệ nhằm xử lý ví dụ Học tương tự Hệ thống cung cấp đáp ứng cho tác vụ tương tự không giống Hệ thống cần làm thích ứng đáp ứng trước nhằm tạo luật có khả áp dụng cho tình 2/19/2014 GIỚI THIỆU (tt) Học dựa giải thích Hệ thống phân tích tập lời giải ví dụ ( kết quả) nhằm ấn định khả sai tạo giải thích dùng để hướng dẫn cách giải tốn tương lai Học dựa tình Bấy kỳ tính hệ thống lập luận lưu trữ với kết cho dù hay sai Khi gằp tình hướng mới, hệ thống làm thích nghi hành vi lưu trữ với tình Khám phá hay học khơng giám sát Thay có mục tiêu tường minh, hệ khám phá liên tục tìm kiếm mẫu quan hệ liệu nhập Các ví dụ học khơng giám sát bao gồm gom cụm liệu, học để nhận dạng đặc tính cạnh từ điểm ảnh Một số ví dụ: Học qua logic: Bongard (1970) người ứng dụng toán tử logic để học nhận dạng đối tượng hình ảnh Ý tưởng: Tìm quan hệ đơn giản số quan hệ sử dụng để học nhận dạng hình ảnh 2/19/2014 Một số ví dụ (tt) Lớp A Lớp B Chúng ta quan sát thấy hình vẽ thuộc lớp A có vịng trắng ln ln nằm đường thẳng Một số ví dụ (tt) Vấn đề đặt ra: -Tìm quan hệ đơn giản phân biệt hình ảnh Bongard dùng bảng logic “mô tả – quan hệ” để dẫn xuất mệnh đề logic: φ = ∨(ϕ ∧ ϕ ∧ ∧ ϕn ) φ dùng để phân biệt lớp E E’ φ(E) φ(E’) đối ngẫu 2/19/2014 Một số ví dụ (tt) P1 P2 P3 P4 P5 10 Một số ví dụ (tt) Các đối tượng mẫu: P1 P2 P3 P4 P5 P1 P2 P3 P4 P5 0 0 0 P1 P2 P3 P4 P5 P1 P2 P3 P4 P5 0 1 0 1 P1 P2 P3 P4 P5 ⇒ P1 P2 P3 P4 P5 P1 P2 P3 P4 P5 1 0 0 0 P1 P2 P3 P4 P5 P1 P2 P3 P4 P5 10 1 0 0 P1 P2 P3 P4 P5 P1 P2 P3 P4 P5 10 2/19/2014 Một số ví dụ (tt) Sau tính tổng rút gọn lại được: P1 P2 + P1 (P2 P3 + P2 P3 )  P1.P2 Không có phải có hình (3,4,5)  (1) x ∈ ϕ( A)  P1.P2 P3 Có phải có hình hình  (1)  P1.P2 P3 Có hình hình 11 HỌC BẰNG CÁCH XÂY DỰNG CÂY ĐỊNH DANH Thử Bảng liệu Xây dựng Cây định danh Luật Cây định danh: Là dạng định, tập kết luận xảy thiết lập cách ngầm định danh sách mẫu mà chúng phân vào lớp biết 12 2/19/2014 HỌC BẰNG CÁCH XÂY DỰNG CÂY ĐỊNH DANH (tt) Ví dụ có bảng liệu quan sát Tên Tóc Ch.Cao Cân Nặng Dùng kem? Kết Sarah Vàng T.Bình Nhẹ Khơng Cháy Dana Vàng Cao T.Bình Có Khơng Alex Nâu Thấp T.Bình Có Khơng Annie Vàng Thấp T.Bình Khơng Cháy Emilie Đỏ T.Bình Nặng Khơng Cháy Peter Nâu Cao Nặng Khơng Khơng John Nâu T.Bình Nặng Khơng Khơng Kartie Vàng Thấp Nhẹ Có Khơng 13 HỌC BẰNG CÁCH XÂY DỰNG CÂY ĐỊNH DANH (tt) •Thuộc tính mục tiêu: thuộc tính quan tâm (tính chất cháy nắng hay khơng cháy nắng) R = {"cháy nắng", "bình thường"} •Thuộc tính dẫn xuất: Chúng ta quan sát tượng cháy nắng dựa thuộc tính sau : chiều cao (cao, trung bình, thấp), màu tóc (vàng, nâu, đỏ), cân nặng (nhẹ, TB, nặng), dùng kem (có, khơng) thuộc tính dẫn xuất P tất người liệt kê bảng (8 người) 14 2/19/2014 3.1.Đâm chồi Đỏ Vàng Nâu 15 3.1 Đâm chồi (tt) 16 2/19/2014 3.2 Phương án chọn thuộc tính phân hoạch Vấn đề mà gặp phải tương tự tốn tìm kiếm : "Đứng trước ngã rẽ, ta cần phải vào hướng nào?" Hai phương pháp đánh giá giúp ta chọn thuộc tính phân hoạch bước xây dựng định danh 17 3.2.1 Thuật tốn Quinlan (1) •Quinlan định thuộc tính phân hoạch cách xây dựng vector đặc trưng cho giá trị thuộc tính dẫn xuất thuộc tính mục tiêu •Cách tính vectơ đặc trưng: Với thuộc tính dẫn xuất A cịn sử dụng để phân hoạch, tính : VA(j) = ( T(j , r1), T(j , r2) , …, T(j , rn) ) *T(j, ri) = (tổng số phần tử phân hoạch có giá trị thuộc tính dẫn xuất A j có giá trị thuộc tính mục tiêu ri ) / ( tổng số phần tử phân hoạch có giá trị thuộc tính dẫn xuất A j ) 18 * r1, r2, … , rn giá trị thuộc tính mục tiêu 2/19/2014 3.2.1 Thuật toán Quinlan (2) Vector đơn vị vector có thành phần có giá trị thành phần khác có giá trị Thuộc tính chọn để phân hoạch thuộc tính có nhiều vector đơn vị 19 3.2.1 Thuật tốn Quinlan Cháy nắng = Tổng số quan sát cháy nắng có tóc vàng Tổng số quan sát có tóc vàng Khơng cháy nắng = Tổng số quan sát không cháy nắng có tóc vàng Tổng số quan sát có tóc vàng 20 10 2/19/2014 3.2.1 Thuật tốn Quinlan(tt) VTóc (vàng) = (T(vàng,cháy nắng),T(vàng, khơng cháy nắng)) Số người tóc vàng : Số người tóc vàng cháy nắng : Số người tóc vàng khơng cháy nắng : Do VTóc(vàng) = (2/4 , 2/4) = (0.5, 0.5) Tương tự VTóc(nâu) = (0/3, 3/3) = (0,1) (vector đơn vị) VTóc(đỏ) = (1/1, 0/1) = (1,0) (vector đơn vị) Tổng số vector đơn vị thuộc tính tóc 21 3.2.1 Thuật tốn Quinlan (tt) Các thuộc tính khác tính tương tự, kết sau : VC.Cao(Cao) = (0/2,2/2) = (0,1) VC.Cao(T.B) = (2/3,1/3) VC.Cao(Thấp) = (1/3,2/3) VC.Nặng (Nhẹ) = (1/2,1/2) VC.Nặng (T.B) = (1/3,2/3) VC.Nặng (Nặng) = (1/3,2/3) VKem (Có) = (3/3,0/3) = (1,0) VKem (Khơng) = (3/5,2/5) Như thuộc tính màu tóc có số vector đơn vị nhiều nên chọn để phân hoạch 22 11 2/19/2014 3.2.1 Thuật toán Quinlan (tt) Sau phân hoạch theo màu tóc xong, có phân hoạch theo tóc vàng (Pvàng) cịn chứa người cháy nắng không cháy nắng nên ta tiếp tục phân hoạch tập Ta thực thao tác tính vector đặc trưng tương tự thuộc tính cịn lại (chiều cao, cân nặng, dùng kem) Trong phân hoạch Pvàng, tập liệu lại : Tên Ch.Cao Cân Nặng Dùng kem? Kết Sarah T.Bình Nhẹ Khơng Cháy Dana Cao T.Bình Có Khơng Annie Thấp T.Bình Khơng Cháy Kartie Thấp Nhẹ Có Khơng 23 3.2.1 Thuật tốn Quinlan (tt) VC.Cao(Cao) = (0/1,1/1) = (0,1) VC.Cao(T.B) = (1/1,0/1) = (1,0) VC.Cao(Thấp) = (1/2,1/2) VC.Nặng (Nhẹ) = (1/2,1/2) VC.Nặng (T.B) = (1/2,1/2) VC.Nặng (Nặng) = (0,0) VKem (Có) = (0/2,2/2) = (0,1) VKem (Khơng) = (2/2,0/2) = (1,0) thuộc tính dùng kem chiều cao có vector đơn vị Ta chọn phân hoạch theo thuộc tính dùng kem 24 12 2/19/2014 3.2.1 Thuật toán Quinlan (tt) Kết Cây định danh cuối : Vàng Đỏ Nâu 25 3.2.2 Phương pháp độ đo hỗn loạn Với thuộc tính dẫn xuất ta cần tính độ đo hỗn loạn lựa chọn thuộc tính có độ đo hỗn loạn thấp Cơng thức tính sau : : • bt tổng số phần tử có phân hoạch • bj tổng số phần tử có thuộc tính dẫn xuất A có giá trị j • bri : tổng số phần tử có thuộc tính dẫn xuất A có giá trị j thuộc tính mục tiêu có giá trị i 26 13 2/19/2014 Ví dụ: STT Kích cỡ Màu sắc Hình dáng Quyết định Trung bình Đỏ Cầu Mua Lớn Vàng Hộp Mua Trung bình Xanh Trụ Khơng mua Nhỏ Xanh Cầu Mua Trung bình Xanh Nón Khơng mua Nhỏ Xanh Nón Khơng mua Trung bình Đỏ Trụ Mua 27 Ví dụ (tt) Kích cỡ Lớn Nhỏ √1 √7 Xanh Đỏ Cầu Vàng Trung bình √4 Hình dáng Màu sắc √2 √1 √7 √2 √4 √1 √4 Hộp √2 Nón Trụ √7 28 14 2/19/2014 Ví dụ (tt) Độ hỗn loạn TB kích cỡ: = 2 1 1 4 2 2 1 1   − × log − × log  +  − × log − × log  +  − × log −  = + = 7 2 2 7 4 4 7 1  7 Độ hỗn loạn TB màu sắc: 4 1 3 = + +  − × log − × log  ≈ 0.46 7 4 4 Độ hỗn loạn TB hình dáng: 2 1 = + +  − × log − × log 7 2 1 +0 = 2 29 Ví dụ (tt) Chọn thuộc tính hình dáng có độ hỗn loạn trung bình nhỏ nhất: Hình dáng Nón Cầu Hộp Mua Mua Trụ ? Khơng mua 30 15 2/19/2014 Ví dụ (tt) Sau test lần xong, ta loại mẫu ổn định => có bảng nhỏ hơn: STT Kích cỡ Màu sắc Quyết định Trung bình Xanh Khơng mua Trung bình Đỏ Mua Kích cỡ Trung bình √7 Màu Xanh sắc Đỏ √7 Độ hỗn loạn trung bình kích cỡ:=1 Độ hỗn loạn trung bình màu sắc:=0 31 Ví dụ (tt) Chọn thuộc tính màu sắc có độ hỗn loạn TB nhỏ nhất: Màu sắc Xanh Đỏ Khơng mua Mua Cây định: Hình dáng Nón Cầu Hộp Mua Trụ Mua Màu sắc Đỏ Mua Không mua Xanh Không mua 32 16 ... 2/19/20 14 Một số ví dụ (tt) P1 P2 P3 P4 P5 10 Một số ví dụ (tt) Các đối tượng mẫu: P1 P2 P3 P4 P5 P1 P2 P3 P4 P5 0 0 0 P1 P2 P3 P4 P5 P1 P2 P3 P4 P5 0 1 0 1 P1 P2 P3 P4 P5 ⇒ P1 P2 P3 P4 P5 P1... 0 1 0 1 P1 P2 P3 P4 P5 ⇒ P1 P2 P3 P4 P5 P1 P2 P3 P4 P5 1 0 0 0 P1 P2 P3 P4 P5 P1 P2 P3 P4 P5 10 1 0 0 P1 P2 P3 P4 P5 P1 P2 P3 P4 P5 10 2/19/20 14 Một số ví dụ (tt) Sau tính tổng rút gọn lại được:... √1 √7 Xanh Đỏ Cầu Vàng Trung bình ? ?4 Hình dáng Màu sắc √2 √1 √7 √2 ? ?4 √1 ? ?4 Hộp √2 Nón Trụ √7 28 14 2/19/20 14 Ví dụ (tt) Độ hỗn loạn TB kích cỡ: = 2 1 1 4? ?? 2 2 1 1   − × log − × log  +