Cơ sở Toán học của giải thuật di truyền

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC VŨ THỊ THU HÀ CƠ SỞ TOÁN HỌC CỦA GIẢI THUẬT DI TRUYỀN LUẬN VĂN THẠC SỸ TOÁN HỌC THÁI NGUYÊN - NĂM 2010 Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC VŨ THỊ THU HÀ CƠ SỞ TOÁN HỌC CỦA GIẢI THUẬT DI TRUYỀN Chuyên ngành: TOÁN ỨNG DỤNG Mã số: 60.46.36 LUẬN VĂN THẠC SĨ TOÁN HỌC Người hướng dẫn khoa học: TS VŨ MẠNH XUÂN THÁI NGUYÊN - NĂM 2010 Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn i Mục lục Mở đầu 1 Tổng quan giải thuật di truyền 1.1 Khái quát chung 1.2 Các vấn đề giải thuật di truyền 1.2.1 Mã hoá - mô tả di truyền cho lời giải toán 1.2.2 Tạo lập lời giải ban đầu (khởi tạo quần thể) 1.2.3 Xây dựng hàm phù hợp 1.2.4 Các toán tử di truyền 1.3 Giải thuật di truyền kinh điển 1.3.1 Mã hoá - Biểu diễn biến véc tơ nhị phân 1.3.2 Toán tử chọn lọc 1.3.3 Toán tử lai ghép 1.3.4 Toán tử đột biến 1.3.5 Hàm phù hợp 1.3.6 Giải thuật di truyền cổ điển 1.4 Giải thuật di truyền mã hóa số thực (RCGA) 1.4.1 Giới thiệu RCGA 1.4.2 Các toán tử RCGA 1.4.3 Một số mô hình tiến hóa 3 8 9 11 11 12 14 16 16 18 20 20 20 23 Cơ sở toán học giải thuật di truyền 2.1 Định lý sơ đồ Holland 2.1.1 Một số khái niệm 26 27 27 Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ii 2.2 Mô hình Markov giải thuật di truyền 2.2.1 Tính Markov 2.2.2 Một số kết 2.2.3 Xích Markov GA 2.3 Một số vấn đề khác 2.3.1 Dạng biểu diễn ma trận toán tử lai ghép RCGA 2.3.2 Điều kiện thành công toán tử lai ghép 2.3.3 Toán tử lai ghép SBX Kết luận Tài liệu tham khảo Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 31 32 35 36 40 40 44 45 48 49 Mở đầu Ngày phát triển mạnh vũ bão máy tính điện tử làm thay đổi sâu sắc đến nhiều lĩnh vực sống, với tốc độ tính toán nhanh xác, nhiều toán tính toán phức tạp trước giải trọn vẹn Hơn nữa, nhiều kỹ thuật tính toán dựa mô hoạt động tự nhiên hay bắt chước suy nghĩ người phát triển tạo nhiều công cụ tính toán có hiệu cao Giải thuật di truyền (GA – Genetic Algorithm) công cụ hệ thống tính toán mềm hay gọi trí tuệ tính toán GA đề xuất từ khoảng năm 70 kỷ trước dựa mô trình tiến hoá tự nhiên GA chủ yếu giải vấn đề tìm nghiệm lớp toán tối ưu có độ phức tạp tính toán lớn GA tìm kiếm lời giải toán dựa quần thể hiểu tập lời giải tiến hoá quần thể dựa toán tử di truyền chọn lọc, lai ghép, đột biến Sau giới thiệu, GA nhà toán học tin học nghiên cứu phát triển nhanh, nhiều dạng biến thể vấn đề cải tiến toán tử đề xuất kết thử nghiệm cho thấy tính hiệu rõ rệt giải thuật Tuy vậy, GA giải thuật xác suất, hầu hết đưa lời giải chấp nhận thời gian ngắn mà chưa đạt lời giải tối ưu Kết trình tiến hoá để chọn lời giải tốt phụ thuộc vào nhiều yếu tố ngẫu nhiên: quần thể khởi tạo ngẫu nhiên, chọn cá thể để tiến hoá ngẫu nhiên, việc sinh cá thể ngẫu nhiên, Vì việc nghiên cứu sở toán học giải thuật để đảm Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn bảo chắn đạt lời giải tối ưu toàn cục toán việc làm khó khăn điều hợp với quy luật tự nhiên thử nghiệm cho kết tốt Cho tới người ta đạt số kết sơ hội tụ giải thuật chủ yếu dựa định lý sơ đồ Hollan dựa mô hình Markov Đề tài nhằm tập trung nghiên cứu sở toán học GA, tìm hiểu trình bày cách có hệ thống số kết nghiên cứu mô hình toán học GA đánh giá hội tụ giải thuật Do điều kiện nghiên cứu khả lập trình hạn chế nên chưa đặt việc thử nghiệm toán cụ thể Đề tài gồm nội dung sau: Chương trình bày vấn đề tổng quan giải thuật di truyền, nguyên lý chung, giải thuật di truyền kinh điển dựa mã hoá nhị phân giải thuật di truyền mã hoá số thực Mô tả tường minh giải thuật số dạng toán tử di truyền tiêu biểu Chương trình bày vấn đề nghiên cứu sở toán giải thuật bao gồm định lý sơ đồ Hollan, mô hình Markov giải thuật số phân tích toán học toán tử Như nêu trên, GA thuật toán xác suất không tiền định nên việc phân tích mô hình toán học khó khăn Luận văn đặt mục tiêu tìm hiểu trình bày lại cách hệ thống nội dung nêu Dù cố gắng song nhiều hạn chế thời gian, kiến thức, nên luận văn không tránh khỏi thiếu sót Em mong góp ý thầy cô bạn học viên để hoàn thiện thác triển tiếp đề tài Trong suốt trình làm đề tài em nhận giúp đỡ nhiều thầy cô giáo Đại học Thái Nguyên bạn học viên lớp CHTK2, đặc biệt hướng dẫn tận tình thầy giáo TS.Vũ Mạnh Xuân Em xin chân thành cảm ơn Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Chương Tổng quan giải thuật di truyền 1.1 Khái quát chung Giải thuật di truyền (Gennetic algorithims - GA) kỹ thuật chung giúp giải vấn đề - toán cách mô tiến hoá người hay sinh vật nói chung điều kiện quy định sẵn môi trường Giải thuật di truyền thuật toán tiến hoá nói chung hình thành dựa quan niệm cho rằng, trình tiến hoá tự nhiên trình hoàn hảo nhất, hợp lý tự mang tính tối ưu Quan niệm xem tiên đề không chứng minh phù hợp với thực tế khách quan Quá trình tiến hoá thể tính tối ưu chỗ, hệ sau tốt (phát triển hơn, hoàn thiện hơn) hệ trước Tiến hoá tự nhiên trì nhờ trình bản: sinh sản chọn lọc tự nhiên Xuyên suốt trình tiến hoá tự nhiên hệ sinh để bổ sung, thay thế hệ cũ Cá thể không thích ứng với môi trường bị đào thải Sự thay đổi môi trường động lực thúc đẩy trình tiến hoá Ngược lại, tiến hoá tác động trở lại góp phần làm thay đổi môi trường Các cá thể sinh trình tiến hoá nhờ lai ghép hệ cha mẹ Một cá thể mang tính trạng cha mẹ (di Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn truyền), mang tính trạng hoàn toàn khác (đột biến) Di truyền đột biến chế có vai trò quan trọng trình tiến hoá Dù đột biến xảy xác suất nhỏ nhiều so với tượng di truyền Giải thuật di truyền sử dụng thuật ngữ vay mượn di truyền học Ta nói cá thể (hay kiểu gen, cấu trúc) quần thể, cá thể gọi chuỗi hay Nhiễm sắc thể (NST) Trong GA, ta nói cá thể có NST; NST tạo thành từ đơn vị - gen - biểu diễn chuỗi tuyến tính, gen kiểm soát (số) đặc trưng Gen với đặc trưng định có vị trí định NST Bất đặc trưng cá thể tự biểu cách phân biệt, gen nhận số giá trị khác (các giá trị tính năng) Một vấn đề - toán đặt mã hoá thành chuỗi bit với chiều dài cố định Nói cách xác thông số toán chuyển đổi biểu lại dạng chuỗi bit Các thông số biến hàm hệ số biểu thức toán học Người ta gọi chuỗi bit mã genome (gen) ứng với cá thể, gen có chiều dài Nói ngắn gọn, lời giải biểu diễn chuỗi bit giống cá thể quy định gen cá thể Đối với thuật giải di truyền cá thể có gen gen phục vụ cho cá thể Mỗi kiểu (nhóm) gen (ta gọi 1NST) biểu diễn lời giải toán giải (ý nghĩa NST cụ thể người sử dụng xác định trước), tiến trình tiến hoá thực quần thể NST tương ứng với trình tìm kiếm lời giải không gian lời giải Tìm kiếm cần cân đối hai mục tiêu (có vẻ mâu thuẫn nhau) Khai thác lời giải tốt khảo sát không gian tìm kiếm GA phương pháp tìm kiếm (độc lập miền) tạo cân đối đáng kể việc khai thác khảo sát không gian tìm kiếm Thực ra, GA thuộc lớp giải thuật xác suất, lại khác Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn giải thuật ngẫu nhiên chúng kết hợp phần tử tìm kiếm trực tiếp ngẫu nhiên Khác biệt quan trọng tìm kiếm GA phương pháp tìm kiếm khác GA trì xử lý tập lời giải (ta gọi quần thể) - tất phương pháp khác phần lớn xử lý điểm không gian tìm kiếm Chính vậy, GA mạnh phương pháp tìm kiếm có nhiều GA thực tiến trình tìm kiếm lời giải tối ưu theo nhiều hướng cách trì quần thể lời giải thúc đẩy thành hình trao đổi thông tin hướng Quần thể trải qua tiến trình tiến hoá, hệ lại tái sinh lời giải tương đối "tốt"; lời giải tương đối "xấu" chết Để phân biệt lời giải khác nhau; hàm mục tiêu dùng để đóng vai trò môi trường Các thuật toán, có điểm khác biệt, mô trình bản: lai ghép, đột biến, sinh sản chọn lọc tự nhiên * Quá trình lai ghép (Crossover): Phép lai trình hình thành nhiễm sắc thể sở nhiễm sắc thể cha - mẹ, cách ghép hay nhiều đoạn gen, hai (hay nhiều) nhiễm sắc thể cha - mẹ với Phép lai xảy xác suất Pc mô sau: • Chọn ngẫu nhiên hai (hay nhiều) cá thể quần thể Giả sử nhiễm sắc thể cha - mẹ có m gen • Tạo số ngẫu nhiên khoảng từ đến m − (ta gọi điểm lai) Điểm lai chứa chuỗi cha - mẹ dài m thành hai nhóm chuỗi dài m1 m2 Hai chuỗi nhiễm sắc thể m11 + m22 m21 + m12 • Đưa hai cá thể vào quần thể để tham gia trình tiến hoá * Quá trình đột biến (Mutation) Đột biến tượng cá thể mang (số) tính trạng mã di truyền cha - mẹ Phép đột biến xảy với xác suất Pm , nhỏ nhiều so với xác suất lai Pc Phép đột biến mô sau: Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn • Chọn ngẫu nhiên cá thể cha - mẹ quần thể • Tạo số ngẫu nhiên k khoảng từ đến m, ≤ k ≤ m • Thay đổi gen thứ k trả cá thể quần thể để tham gia trình tiến hoá * Quá trình sinh sản chọn lọc (Selection) Phép tái sinh trình đó, cá thể chép sở độ thích nghi Độ thích nghi hàm gán giá trị thực cho cá thể quần thể Quá trình mô sau: • Tính độ thích nghi cá thể quần thể hành, lập bảng cộng dồn giá trị thích nghi (theo số thứ tự gán cho cá thể) Giả sử quần thể có n cá thể Gọi độ thích nghi cá thể thứ i Fi, tổng dồn thứ i Fti , tổng độ thích nghi toàn quần thể Fm • Tạo số ngẫu nhiên F đoạn từ đến Fm • Chọn cá thể thứ k thoả mãn F ≥ Ftk đưa vào quần thể hệ Phép chọn trình loại bỏ cá thể xấu quần thể để giữ lại quần thể cá thể tốt Phép chọn mô sau: • Sắp xếp quần thể theo thứ tự độ thích nghi giảm dần • Loại bỏ cá thể cuối dãy để giữ lại n cá thể tốt (Ta giả sử quần thể có kích thước cố định n) Một giải thuật di truyền, giải toán cho phải có thành phần sau: + Một cấu trúc liệu I biểu diễn không gian lời giải toán + Phương pháp khởi tạo quần thể ban đầu P (0) + Hàm định nghĩa độ thích nghi eval (.) đóng vai trò môi trường + Các phép toán di truyền mô + Và tham số giải thuật di tryền sử dụng (kích thước quần thể, xác suất lai, đột biến, ) * Cấu trúc giải thuật di truyền tổng quát Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read ...ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC VŨ THỊ THU HÀ CƠ SỞ TOÁN HỌC CỦA GIẢI THUẬT DI TRUYỀN Chuyên ngành: TOÁN ỨNG DỤNG Mã số: 60.46.36 LUẬN VĂN THẠC SĨ TOÁN HỌC Người hướng dẫn khoa học: ... chung, giải thuật di truyền kinh điển dựa mã hoá nhị phân giải thuật di truyền mã hoá số thực Mô tả tường minh giải thuật số dạng toán tử di truyền tiêu biểu Chương trình bày vấn đề nghiên cứu sở toán. .. tả di truyền cho lời giải toán 1.2.2 Tạo lập lời giải ban đầu (khởi tạo quần thể) 1.2.3 Xây dựng hàm phù hợp 1.2.4 Các toán tử di truyền 1.3 Giải thuật di truyền