Chương 14.2 giúp người học hiểu về "Các phương pháp tìm kiếm có sử dụng thông tin". Nội dung trình bày cụ thể gồm có: Thuật toán Gen, các thành phần cơ bản của thuật toán gen, các khuyến cáo khi sử dụng thuật toán gen, ưu và nhược điểm của thuật toán gen.
Nhập mơn Trí tuệ nhân tạo Chương 4-2 Các phương pháp tìm kiếm có sử dụng thơng tin Biên soạn: TS Ngơ Hữu Phúc Bộ mơn Khoa học máy tính ĐT: 098 56 96 580 eMail: ngohuuphuc76@gmail.com Chương 4-2: Giải thuật Gene Nội dung Thuật toán Gen Các thành phần thuật toán gen Các khuyến cáo sử dụng thuật toán gen Ưu nhược điểm thuật toán gen Chương 4-2: Giải thuật Gene 10.4.1 Thuật Toán Gene (GAs) GAs (John Holland, 1975) mơ tiến hóa tự nhiên (Darwinian Evolution) mức gen sử dụng tư tưởng chọn lọc tự nhiên (survival of the fittest) Một cá thể (nhiễm sắc thể) (chromosome) mô tả lời giải ứng viên toán Một tập cá thể “alive”, gọi quần thể (population) tiến hóa từ hệ tới hệ khác phụ thuộc vào thích nghi cá thể Kỳ vọng (Hope): Thế hệ sinh chứa lời giải tốt toán Chương 4-2: Giải thuật Gene 10.4.2 Mơ tả thuật tốn Gene Ban đầu, sinh hệ khởi tạo với quần thể 𝐏(𝟎), số i hệ thứ i Lặp quần thể hội tụ tiêu chuẩn kết thúc đạt Đánh giá độ thích nghi cá thể 𝐏(𝐢) Lựa chọn cha từ 𝐏(𝐢) dựa độ thích nghi chúng 𝐏(𝐢) Áp dụng toán tử Gen (crossover, mutation) từ cha chọn để sinh (offspring) Đạt hệ 𝐏(𝐢 + 𝟏) từ cá thể hệ 𝐏(𝐢) Chương 4-2: Giải thuật Gene 10.4.3 Cài đặt GA Procedure GA Step : Initialization begin t := ; Step : Selection initialize P(t) ; evaluate P(t) ; Step 3-1 : Crossover while (not termination-condition) Step 3-2 : Mutation begin t := t + ; select P(t) from P(t-1) ; Step : Evaluation alter P(t) ; evaluate P(t) ; Step : Termination Test end; end; Step : End Chương 4-2: Giải thuật Gene 10.4.4 Các thành phần GAs Giới thiệu số tốn Mã hóa (encoding) Khởi tạo quần thể (innitial population generation ) Hàm thích nghi (fitness function) Phương pháp lựa chọn (Selection for recombination) Lai ghép (Crossover) Đột biến (Mutation) Chiến lược thay (Replacement Strategy) Tiêu chuẩn kết thúc (Termination Criteria) Chương 4-2: Giải thuật Gene 10.4.4.1 Một số tốn áp dụng Bài tốn Knapsack 01: Mơ tả toán: Bạn chuẩn bị picnic Và bạn có số vật mà bạn cầm theo Mỗi vật có trọng lượng giá trị Có túi giới hạn trọng lượng bạn cầm theo Mỗi vật chọn tối đa lần Bạn muốn cầm vật mang theo với max giá trị Chương 4-2: Giải thuật Gene 10.4.4.1 Ví dụ tốn Knapsack 01 Ví dụ: Đồ vật: Giá trị: T.lượng: 10 Khối lượng tối đa mang 22 đơn vị Xếp đồ vật để có giá trị lớn nhất??? Chương 4-2: Giải thuật Gene 10.4.4.1 Bài toán TSP (người bán hàng) Bài toán: Một người bán hàng cần ghé qua tất thành phố, thành phố lần trở lại thành phố ban đầu Có chi phí di chuyển tất thành phố Tìm hành trình có tổng chi phí nhỏ 14 12 10 Chương 4-2: Giải thuật Gene 11 23 10.4.4.2 Mã hóa (Encoding) Mã hóa nhị phân (Binary encoding) kiểu thơng dụng : nghiên cứu thuật toán Gen sử dụng kiểu mã hóa đơn giản Trong mã hóa nhị phân, nhiễm sắc thể chuỗi bits - Cá thể (Chromosome) A: 101100101100101011100101 Cá thể (Chromosome) B: 111111100000110000011111 Mã hóa nhị phân đưa nhiều khả nhiễm sắc thể với số lượng nhỏ gen đẳng vị Các mã hóa thường khơng tự nhiên cho nhiều tốn đơi có sai sau thực phép toán crossover, mutation 10 Chương 4-2: Giải thuật Gene 10.4.4.6.3 Mutation for Value Encoding Cộng vào trừ số nhỏ từ giá trị chọn Ví dụ: (1.29 5.68 2.86 4.11 5.55) => (1.29 5.68 2.73 4.22 5.55) 39 Chương 4-2: Giải thuật Gene 10.4.4.6.4 Crossover for Tree Encoding Tree crossover – Một điểm đột biến chọn hai cha, cha phân chia điểm đột biến phần sau điểm đột biến thay đổi để tạo 40 Chương 4-2: Giải thuật Gene 10.4.4.6.4 Mutation for Tree Encoding 41 Chương 4-2: Giải thuật Gene 10.4.4.6.5 Crossover and Mutation Probability Có hai tham số thuật toán gen - xác suất crossover xác suất mutation Crossover probability: mức độ thường xuyên crossover thực Nếu khơng có crossover, hệ chép xác từ cha mẹ Nếu có crossover, cá thể tạo từ phần NST cha Nếu xác suất 100%, tất cá thể tạo crossover Nếu 0%, hệ tạo cách chép nguyên NST hệ cũ Crossover hy vọng tạo NST chứa phần tốt NST cũ NST tốt 42 Chương 4-2: Giải thuật Gene 10.4.4.6.6 Mutation Probability Mutation probability: Mức độ thường xuyên phần đột biến Nếu khơng có mutation, cá thể sinh giống sau crossover (or directly copied) Nếu mutation thực hiện, hay nhiều phần NST thay đổi Nếu xác suất 100%, NST thay đổi, 0%, khơng có thay đổi Mutation sinh để tránh thuật toán gen rơi vào cực trị địa phương Mutation khơng nên xẩy thường xun, khơng GA thành phương pháp tính tốn ngẫu nhiên (random search) 43 Chương 4-2: Giải thuật Gene 10.4.4.7 Các thành phần GAs Mã hóa (encoding) Khởi tạo quần thể(innitial population generation ) Hàm thích nghi (fitness Function) Lựa chọn cho kết hợp lại (Selection for recombination) Lai ghép (Crossover) Đột biến (Mutation) Chiến lược thay (Replacement Strategy) Tiêu chuẩn kết thúc (Termination Criteria) 44 Chương 4-2: Giải thuật Gene 10.4.4.8 Tiêu chuẩn kết thúc Thuật toán dừng quần thể hội tụ, i.e cá thể tốt quần thể giống với kết mong muốn Kết thúc số hệ sinh đạt đến số vòng lặp xác định trước Kết thúc thể trở lên giống Kết thúc cá thể tốt quần thể không thay đổi theo thời gian 45 Chương 4-2: Giải thuật Gene 10.4.4.9 Một số gợi ý cho GENs Thử nghiệm thuật toán gen cho toán cụ thể, khơng có lý thuyết chung làm hợp tham số thuật toán gen cho tốn Q trình có kết việc học kinh nghiệm thuật tốn gen, thơng thường, phương pháp mã hóa nhị phân sử dụng 46 Chương 4-2: Giải thuật Gene 10.4.4.9 Một số gợi ý cho GENs Crossover rate Tốc độ lai ghép thường cao, khoảng 80%-95% (Mặc dù vài kết cho vài toán, tốc độ lai ghép khoảng 60% tốt nhất.) Mutation rate Xác suất đột biến thường thấp Tỷ lệ tốt khoảng 0.5%-1% Population size Kích thước quần thể lớn thường không cải tiến tốc độ thuật tốn gen Kích thước tốt khoảng 20-30, vài trường hợp khoảng 50-100 tốt Nhiều nghiên cứu cho thấy kích thước quần thể phụ thuộc vào kích thước chuỗi mã hóa (chromosomes) Nếu có NST 32 bits, kích thước quần thể nên cao 16 47 Chương 4-2: Giải thuật Gene 10.4.4.9 Một số gợi ý cho GENs Lựa chọn (Selection): roulette wheel selection sử dụng, rank selection tốt Có số phương pháp phức tạp khác cho phép thay đổi tham số chọn thực GA Elitism chọn không sử dụng cách khác để lưu thông tin cá thể tốt Encoding: Phụ thuộc vào toán Kiểu Crossover mutation: Phụ thuộc vào mã hóa tốn 48 Chương 4-2: Giải thuật Gene 10.4.4.10 Ưu điểm Ưu điểm khả song song thuật toán Gas duyệt qua khơng gian tìm kiếm sử dụng nhiều cá thể (and with genotype rather than phenotype) mắc phải cực trị địa phương thuật toán khác Dễ thể Khi có thuật tốn gen bản, cần viết NST (just one object) để xử lý toán khác Với cách mã hóa, thay đổi hàm thích nghi Mặc dù vậy, số trường hợp chọn thể mã hóa gặp khó khăn 49 Chương 4-2: Giải thuật Gene 10.4.4.11 Nhược điểm Nhược điểm Gas thời gian tính tốn GAs chậm thuật tốn khác Có thể kết thúc tính tốn lúc 50 Chương 4-2: Giải thuật Gene 10.4.4.12 Tại Sao GAs Tốt? • Building blocks hypothesis and schema theorem (Holland, 1975) *0010**0*001110****0 00010110100111010010 • “GAs operator set a bias towards short, low order and highly fit building blocks” 51 Chương 4-2: Giải thuật Gene 10.4.4.12 Tại Sao GAs Tốt? Ví dụ cho biểu diễn phi nhị phân Fitness function: số lượng hậu không ăn (min = 0, max = × 7/2 = 28) 24/(24+23+20+11) = 31% 23/(24+23+20+11) = 29% etc 52 Chương 4-2: Giải thuật Gene 10.4.4.12 Tại Sao GAs Tốt? Minh họa 53 Chương 4-2: Giải thuật Gene ... 0100011 17 Chương 4-2 : Giải thuật Gene 10.4.4.3 Khởi tạo quần thể - Bài toán TSP 4 5 Population 18 Chương 4-2 : Giải thuật Gene Population size a individual length 10.4.4.4 Hàm thích nghi - Bài tốn... => We select Chromosomes b & c 19 Chương 4-2 : Giải thuật Gene 10.4.4.4 Hàm thích nghi - Bài tốn TSP 58 56 55 57 f(indiv)=S d i (i+1) +dn1 1i < n 20 Chương 4-2 : Giải thuật Gene 10.4.4.5 Phương... phép lai ghép đột biến kiểu mã hóa tương đối dễ thực 16 Chương 4-2 : Giải thuật Gene 10.4.4.3 Khởi tạo quần thể - Bài toán Knapsack 01 Khởi tạo: Encoding: = not exist, = exist in the Knapsack