Bài giảng Tính toán tiến hóa: Bài 1 - TS. Huỳnh Thị Thanh Bình

Evolutionary Computing PGS.TS Huỳnh Thị Thanh Bình Email: binhht@soict.hust.edu.vn Nội dung Tổng quan toán tối ưu  Tổng quan Tính tốn tiến hóa  Tổng quan Bài toán tối ưu Tổng quan toán tối ưu Tất toán thực tế phát biểu dạng tốn tối ưu  Bài toán tối ưu tốn mà cần tìm kiếm lời tốt (min max) tập lời giải  Mỗi tốn tối ưu gồm thành phần (X,f)   X: tập lời giải khả thi (khơng gian tìm kiếm) f hàm mục tiêu toán cần tối thiểu (minimize)  Mục tiêu tìm tốn tìm cho  Tổng quan toán tối ưu : Giá trị tối ưu  : Tập lời giải tối ưu  Phân loại toán tối ưu theo số lượng hàm mục tiêu     Bài toán có 01 hàm mục tiêu: => Bài tốn tối ưu đơn mục tiêu (single-objective problem) Bài tốn có hai ba hàm mục tiêu => Bài toán tối ưu đa mục tiêu (multi-objective problem) Bài tốn có số mục tiêu >= => Bài toán tối ưu nhiều mục tiêu (many-objective problem) Tổng quan toán tối ưu  Phân loại toán tối ưu theo lý thuyết tính tốn     P: Tồn thuật tốn giải thời gian đa thức NP: Có thể kiểm tra lời giải thời gian đa thức NP Khó: Chưa có khơng tồn thuật tốn giải xác thời gian đa thức NP đầy đủ: Các toán vừa thuộc NP, vừa thuộc NP-Khó Tổng quan tốn tối ưu  Tại tốn tối ưu khó?   Kích thước khơng gian tìm kiếm : LỚN Khơng gian tìm kiếm phức tạp Tổng quan toán tối ưu  Tại tốn tối ưu khó?    Constraints không gian lời giải Hàm mục tiêu thay đổi theo thời gian (dynamic, non-stationary optimization problems) Conflict nhiều mục tiêu- Pareto optimality Tổng quan toán tối ưu  Các hướng tiếp cận giải toán tối ưu    Sử dụng thuật tốn xác Sử dụng thuật tốn xấp xỉ gần Hầu hết toán tối thực tế tốn NP-Khó => hướng sử dụng thuật tốn xác khơng khả thi => Khóa học trình bày kỹ thuật tìm kiếm xấp xỉ thơng minh dựa q trình tự nhiên để giải tốn tối ưu khó! Tổng quan Tính tốn tiến hóa Mã hóa biểu diễn 26  Phân biệt kiểu hình (phenontype) kiểu di truyền (genontype)   Kiểu di truyền biểu diễn mã hóa lời giải tốn khơng gian kiểu di truyền Kiểu hình lời giải tốn tương ứng kiểu di truyền Q trình mã hóa: kiểu hình => kiểu di truyền (1-n)  Quá trình giải mã: kiểu di truyền => kiểu hình (1-1)  Để tìm tối ưu tồn cục, phải đảm bảo ln tồn mã hóa có kiểu hình biểu diễn  Hàm đánh giá 27 Hàm đánh giá cho biết mức độ thích nghi cá thể mơi trường  Giá trị độ thích nghi cao, cá thể có khả sinh tồn hội tham gia vào trình sinh sản lớn  Độ thích nghi cho biết mức độ tốt lời giải tương ứng với biểu diễn cá thể  Thông thường, hàm thích nghi tính thơng qua hàm chi phí lời giải toán  VD fitness(individual) = – cost(individual) Hoặc fitness(individual) = 1/ cost(individual)  Quần thể 28 Quần thể tập hợp cá thể  Số lượng cá thể quần thể thường cố định  Sự đa dạng quần thể thể qua:      Sự đa dạng giá trị thích nghi Đa dạng kiểu di truyền Đa dạng kiểu hình Quá trình chọn lọc cá thể sinh tồn hệ thực quần thể Cơ chế chọn lọc cha mẹ 29 Xác suất lựa chọn cá thể làm cha mẹ dựa giá trị độ thích nghi chúng  Một số chế chọn lựa cha mẹ:      Lựa Lựa Lựa Lựa chọn ngẫu nhiên chọn theo thứ hạng chọn theo thể thức giao đấu họn theo bánh xe roulete Toán tử lai ghép 30 Là trình hình thành NST cá thể dựa NST cha mẹ  Các NST cá thể sinh cách ghép hay nhiều đoạn gene hai hay nhiều NST cha mẹ với  Các cá thể lai ghép với xác suất  Ví dụ: Tốn tử lai ghép cắt  Toán tử đột biến 31 Là tượng cá thể mang (số) tính trạng khơng có mã di truyền cha mẹ  Xác suất xảy đột biến nhỏ nhiều xác suất lai ghép  Toán tử đột biến giúp đảm bảo tính đa dạng quần thể  Cơ chế đấu tranh sinh tồn 32 Là chế chọn cá thể mang sinh tồn hệ  Các chế đấu tranh sinh tồn:        Chọn lọc dựa vào tuổi: Loại bỏ cá thể tồn lâu quần thể => đảm bảo tính đa dạng, tránh tư tưởng “cổ hủ” Chọn lọc theo thứ hạng, giữ lại cá thể ưu tú=> giữ xu hướng tăng trưởng quần thể ổn định Nạp lại hoàn toàn Nạp lại ngẫu nhiên Nạp lại phần Có thể sử dụng phương thức bước lựa chọn bố mẹ Điều kiện dừng 33  Điều kiện dừng thuật toán thường thỏa mãn sau:    Sau số hệ định, thuật tốn khơng cải thiện chất lượng lời giải Sau số hệ định Thuật toán sử dụng hết lượng phép tính đánh giá cố định Các biến thể EAs phổ biến 34       Giải thuật di truyền – Genetic Algorithm Tiến hóa sai phân – Different Evolutionary Algorithm Chiến lược tiến hóa – Evolution Strategies Lập trình tiến hóa – Evolution Programming Lập trình di truyền – Genetic Programming Tiến hóa đa nhiệm – Multifactorial Evolutionary Algorithm Giải thuật di truyền 35  Đối tượng: - Tối ưu hóa rời rạc  Đặc điểm: Representation Recombination Binary strings v.v N-point or uniform Mutation Parent selection Bitwise bit-flipping with fixed probability Fitness-Proportionate Survivor selection All children replace parents Speciality Emphasis on crossover Lập trình di truyền 36  Đối tượng: - Học máy ( Xây dựng cơng thức, dự đốn v.v)  Đặc điểm: Representation Tree structures Recombination Exchange of subtrees Mutation Random change in trees Parent selection Fitness proportional Survivor selection Generational replacement Representation Tree structures Chiến lược tiến hóa 37 Đối tượng: - Tối tham số thực  Đặc điểm:  Representation Real-valued vectors Recombination Discrete or intermediary Mutation Gaussian perturbation Parent selection Uniform random Survivor selection ( , ) or ( + ) Specialty Self-adaptation of mutation step sizes Lập trình tiến hóa 38 Đối tượng:  Học máy - sử dụng máy trạng thái xác định  Tối ưu số - numercial optimization  Đặc điểm:  Representation Recombination Real-valued vectors None Mutation Gaussian perturbation Parent selection Deterministic Survivor selection Probabilistic ( + ) Specialty Self-adaptation of mutation step sizes (in meta-EP) So sánh biến thể 39 Lập trình tiến hóa (EP) Chiến lược tiến hóa (EG) Lập trình di truyền (GP) Giải thuật di truyền (GA) Áp dụng Học máy, tối ưu số Tối ưu số CT học máy Tối ưu hóa rời rạ Mã hóa NST Véc tơ giá trị thực Véc tơ giá trị thực Cây Xâu nhị phân v.v Lai ghép Không Riêng biệt trung gian Trao đổi N-point, đồn v.v Đột biến Phân phối Gauss Phân phối Gauss Thay đổi nút Đảo bít v.v Chọn lọc cha mẹ cha sinh Ngẫu nhiên hay cố định Dựa fitness Dựa fitness Đấu tranh sinh tồn ( + ) ( , ) or ( + ) Thay tồn Nhiều cách Đặc biệt Tự thích nghi Tự thích nghi Cây Lai ghép 40 Thanks for your attention