Bài giảng Trí tuệ nhân tạo: Chương 8 - Nguyễn Văn Hòa

Bài giảng Trí tuệ nhân tạo: Chương 8 cung cấp cho người học các kiến thức:Các khái niệm về máy học, các kỹ thuật học của máy, cây quyết định, mạng neuron, giải thuật di truyền (Genetic),...Mời các bạn cùng tham khảo để nắm chi tiết nội dung của bài giảng.

Chương 8: Máy học Nội dụng Các khái niệm máy học Các kỹ thuật học máy Cây định Mạng neuron Giải thuật di truyền (Genetic) Học Máy (Machine Learning) Học (learning) thay đổi hệ thống cho phép tiến hành tốt lần thứ hai lặp lại nhiệm vụ với nhiệm vụ khác từ quần thể (Herbert Simon) Học liên quan đến vấn đề khái quát hóa từ kinh nghiệm (dữ liệu rèn luyện) => toán quy nạp (induction) Vì liệu rèn luyện thường hạn chế, nên thường khái qt hóa theo số khía cạnh (heuristic) => tính thiên lệch quy nạp (inductive bias) Có ba tiếp cận học: Các phương pháp học dựa ký hiệu (symbol-based): ID3 Tiếp cận kết nối: Các mạng neuron sinh học Tiếp cận di truyền hay tiến hóa: giải thuật genetic Cây định (ID3) Là giải thuật học đơn giản thành công Cây định (QĐ) cách biểu diễn cho phép xác định phân loại đối tượng cách kiểm tra giá trị số thuộc tính Giải thuật có: Đầu vào: Một đối tượng hay tập hợp thuộc tính mơ tả tình Đầu ra: thường định yes/no, phân loại Trong định: Mỗi nút biểu diễn kiểm tra thuộc tính đó, giá trị tương đương với nhánh Các nút thể phân loại Kích cỡ QĐ tùy thuộc vào thứ tự kiểm tra thuộc tính Ví dụ Cây QĐ: Chơi Tennis Mục đích: học để xem có chơi Tennis khơng? Cây định: nắng Quang cảnh Âm u Độ ẩm cao No mưa Yes Trung bình Yes Gió mạnh No nhẹ Yes Quy nạp QĐ từ ví dụ Ví dụ (hay liệu rèn luyện cho hệ thống) gồm: Giá trị thuộc tính + Phân loại ví dụ Ngày Quang cảnh Nhiệt độ Độ ẩm Gió Chơi Tennis D1 Nắng Nóng Cao nhẹ Khơng D2 Nắng Nóng Cao Mạnh Khơng D3 Âm u Nóng Cao Nhẹ Có D4 Mưa ấm áp Cao nhẹ Có D5 Mưa Mát TB nhẹ Có D6 Mưa Mát TB Mạnh Khơng D7 Âm u Mát TB Mạnh Có D8 Nắng ấm áp Cao nhẹ Khơng D9 Nắng Mát TB nhẹ Có D10 Mưa ấm áp TB nhẹ Có D11 Nắng ấm áp TB Mạnh Có D12 Âm u ấm áp Cao Mạnh Có D13 Âm u Nóng TB nhẹ Có D14 Mưa ấm áp Cao Mạnh không Làm để học QĐ Tiếp cận đơn giản Học mà có cho ví dụ Học thuộc lòng cách hồn tồn ví dụ Có thể không thực tốt trường hợp khác Tiếp cận tốt hơn: Học nhỏ xác phù hợp với ví dụ Occam’s razor – đơn giản thường tốt nhất! Giả thuyết có khả giả thuyết đơn giản thống với tất quan sát Xây dựng QĐ: Trên - xuống Vòng lặp chính: A = t -1 if ∑i wixi < t ∆wi = c(d-f(∑i wixi)) xi c: số tốc độ học d: đầu mong muốn Nếu kết thực kết mong muốn giống nhau, khơng làm Nếu kết thực -1 kết mong muốn 1, tăng trọng số đường thứ i lên 2cxi Nếu kết thực kết mong muốn -1, giảm trọng số đường thứ i xuống 2cxi 29 Phân loại hệ thống Học Học có hướng dẫn (Supervised learning) Cho hệ thống tập ví dụ câu trả lời cho ví dụ Rèn luyện hệ thống đưa câu trả lời cho ví dụ Học khơng có hướng dẫn (Unsupervised learning) Cho hệ thống tập hợp ví dụ cho tự khám phá mẫu thích hợp ví dụ Mạng neuron sử dụng hình thức học có hướng dẫn 30 Sử dụng perceptron toán phân loại Fig 14-4: Một hệ thống phân loại đầy đủ 31 Ví dụ Perceptron Cho trước: tập liệu vào Yêu cầu: rèn luyện perceptron cho phân loại đầu vào cách đắn 32 Ví dụ Perceptron: giải pháp tín hiệu vào x1 x2 Một tín hiệu vào thứ ba sử dụng thiên vị có giá trị cố định 1, cho phép dịch chuyển đường phân cách Mức kích hoạt: Hàm ngưỡng: w1x1 + w2x2 + w3 hàm dấu, >0 = +1, kết tốt 38 Figure 10.12: A backpropagation net to solve the exclusive-or problem The Wij are the weights and H is the hidden node Sử dụng mẫu ví dụ để luyện tập: (0,0) -> 0; (1,0) ->1; (0,1) -> 1; (1,1) ->0 Sau 1400 lượt: WH1 = -7.0 WHB = 2.6 WO1 = -5.0 WH2 = -7.0 WOB = 7.0 WO2 = -4.0 WHO = -11.0 39 Các vấn đề liên quan sử dụng Neural Networks Các mạng đa tầng đầy đủ mặt tính tốn, nhiên: Làm để chọn số nút ẩn số tầng ẩn Khi sử dụng nút thiên lệch Cách chọn tập rèn luyện Điều chỉnh trọng số hay tốc độ học nên n.t.n? … 40 Giải thuật Genetic Nắm bắt ý tưởng từ thuyết tiến hóa Học xem cạnh tranh quần thể giải pháp tiến hóa tốn Thành phần: Quần thể giải pháp Hàm đánh giá Các phép toán tạo mới: giao (crossover) Đột biến (mutation) Giải thuật: Điều kiện kết thúc: #vònglặp, Trung bình ‘độ tốt’ quần thể Khởi tạo quần thể Y ĐK thỏa N •Gọi hàm đánh giá •Chọn thành viên tốt •Tạo •Thay thành viên Chọn giải pháp từ quần thể 41 ... D11, D13 -: D1, D2, D8, D14 -: D6 10 +: D3, D4, D5, D7, D9, D10, D11, D12, D13 -: D1, D2, D6, D8, D14 Quang cảnh? Nắng Âm u +: D9, D11 +: D3, D7, D12, D13 -: D1, D2, D8 -: +: -: D1, D2, D8 -: Gió?... D12, D13 -: D1, D2, D6, D8, D14 Quang cảnh? Nắng Âm u +: D9, D11 +: D3, D7, D12, D13 -: D1, D2, D8 -: Mưa +: D4, D5, D10 -: D6, D14 +: D3, D4, D5, D7, D9, D10, D11, D12, D13 -: D1, D2, D6, D8, D14... xác định thuộc tính cho khả chia tốt Thuộc tính tốt hơn? [29+, 3 6-] [21+, 6-] A1 = ? [29+, 3 6-] A2 = ? [8+ , 3 0-] [ 18+ , 3 4-] [11+, 2-] 14 Entropy Entropy(S) = số lượng mong đợi bit cần thiết để mã