Bài giảng Tính toán tiến hóa - Bài 1: Evolutionary computing

Bài giảng Tính toán tiến hóa - Bài 1: Evolutionary computing. Bài này cung cấp cho học viên những nội dung về: tổng quan bài toán tối ưu; tổng quan tính toán tiến hóa; các track trong tính toán tiến hóa; ứng dụng của tính toán tiến hóa;... Mời các bạn cùng tham khảo chi tiết nội dung bài giảng!

Evolutionary Computing PGS.TS Huỳnh Thị Thanh Bình Email: binhht@soict.hust.edu.vn Nội dung   Tổng quan toán tối ưu Tổng quan Tính tốn tiến hóa Tổng quan Bài toán tối ưu Tổng quan toán tối ưu    Tất tốn thực tế phát biểu dạng toán tối ưu Bài toán tối ưu tốn mà cần tìm kiếm lời tốt (min max) tập lời giải Mỗi tốn tối ưu gồm thành phần (X,f) X: tập lời giải khả thi (khơng gian tìm kiếm)  f hàm mục tiêu toán cần tối thiểu (minimize) 𝑓: 𝑋 → 𝑅 ∗  Mục tiêu tìm tốn tìm 𝑥 ∈ 𝑋 cho 𝑓 𝑥 ∗ ≤ 𝑓 𝑥 ∀𝑥 ∈ 𝑋  Tổng quan toán tối ưu    𝑓(𝑥 ∗ ) : Giá trị tối ưu 𝑆 = { 𝑥 ∈ 𝑋| 𝑓(𝑥) = 𝑓(𝑥 ∗ )} : Tập lời giải tối ưu Phân loại toán tối ưu theo số lượng hàm mục tiêu Bài tốn có 01 hàm mục tiêu: => Bài toán tối ưu đơn mục tiêu (single-objective problem)  Bài tốn có hai ba hàm mục tiêu => Bài toán tối ưu đa mục tiêu (multi-objective problem)  Bài tốn có số mục tiêu >= => Bài toán tối ưu nhiều mục tiêu (many-objective problem)  Tổng quan toán tối ưu  Phân loại toán tối ưu theo lý thuyết tính tốn P: Tồn thuật tốn giải thời gian đa thức  NP: Có thể kiểm tra lời giải thời gian đa thức  NP Khó: Chưa có khơng tồn thuật tốn giải xác thời gian đa thức  NP đầy đủ: Các toán vừa thuộc NP, vừa thuộc NP-Khó  Tổng quan tốn tối ưu  Tại tốn tối ưu khó? Kích thước khơng gian tìm kiếm : LỚN  Khơng gian tìm kiếm phức tạp  Tổng quan toán tối ưu  Tại tốn tối ưu khó? Constraints không gian lời giải  Hàm mục tiêu thay đổi theo thời gian (dynamic, nonstationary optimization problems)  Conflict nhiều mục tiêu- Pareto optimality  Tổng quan toán tối ưu  Các hướng tiếp cận giải toán tối ưu Sử dụng thuật toán xác  Sử dụng thuật tốn xấp xỉ gần   Hầu hết toán tối thực tế tốn NP-Khó => hướng sử dụng thuật tốn xác khơng khả thi => Khóa học trình bày kỹ thuật tìm kiếm xấp xỉ thơng minh dựa q trình tự nhiên để giải tốn tối ưu khó! Tổng quan Tính tốn tiến hóa Mã hóa biểu diễn 26  Phân biệt kiểu hình (phenontype) kiểu di truyền (genontype) Kiểu di truyền biểu diễn mã hóa lời giải tốn khơng gian kiểu di truyền  Kiểu hình lời giải tốn tương ứng kiểu di truyền     Quá trình mã hóa: kiểu hình => kiểu di truyền (1-n) Q trình giải mã: kiểu di truyền => kiểu hình (1-1) Để tìm tối ưu tồn cục, phải đảm bảo ln tồn mã hóa có kiểu hình biểu diễn lời giải khả thi toán Hàm đánh giá 27     Hàm đánh giá cho biết mức độ thích nghi cá thể mơi trường Giá trị độ thích nghi cao, cá thể có khả sinh tồn hội tham gia vào trình sinh sản lớn Độ thích nghi cho biết mức độ tốt lời giải tương ứng với biểu diễn cá thể Thơng thường, hàm thích nghi tính thơng qua hàm chi phí lời giải tốn VD fitness(individual) = – cost(individual) Hoặc fitness(individual) = 1/ cost(individual)  Quần thể 28    Quần thể tập hợp cá thể Số lượng cá thể quần thể thường cố định Sự đa dạng quần thể thể qua: Sự đa dạng giá trị thích nghi  Đa dạng kiểu di truyền  Đa dạng kiểu hình   Quá trình chọn lọc cá thể sinh tồn hệ thực quần thể Cơ chế chọn lọc cha mẹ 29   Xác suất lựa chọn cá thể làm cha mẹ dựa giá trị độ thích nghi chúng Một số chế chọn lựa cha mẹ: Lựa chọn ngẫu nhiên  Lựa chọn theo thứ hạng  Lựa chọn theo thể thức giao đấu  Lựa họn theo bánh xe roulete  Toán tử lai ghép 30     Là trình hình thành NST cá thể dựa NST cha mẹ Các NST cá thể sinh cách ghép hay nhiều đoạn gene hai hay nhiều NST cha mẹ với Các cá thể lai ghép với xác suất 𝑝𝑐 Ví dụ: Tốn tử lai ghép cắt Tốn tử đột biến 31    Là tượng cá thể mang (số) tính trạng khơng có mã di truyền cha mẹ Xác suất xảy đột biến 𝑝𝑚 nhỏ nhiều xác suất lai ghép 𝑝𝑐 Tốn tử đột biến giúp đảm bảo tính đa dạng quần thể Cơ chế đấu tranh sinh tồn 32   Là chế chọn cá thể mang sinh tồn hệ Các chế đấu tranh sinh tồn: Chọn lọc dựa vào tuổi: Loại bỏ cá thể tồn lâu quần thể => đảm bảo tính đa dạng, tránh tư tưởng “cổ hủ”  Chọn lọc theo thứ hạng, giữ lại cá thể ưu tú=> giữ xu hướng tăng trưởng quần thể ổn định  Nạp lại hoàn toàn  Nạp lại ngẫu nhiên  Nạp lại phần  Có thể sử dụng phương thức bước lựa chọn bố mẹ  Điều kiện dừng 33  Điều kiện dừng thuật toán thường thỏa mãn sau: Sau số hệ định, thuật tốn khơng cải thiện chất lượng lời giải  Sau số hệ định  Thuật tốn sử dụng hết lượng phép tính đánh giá cố định  Các biến thể EAs phổ biến 34       Giải thuật di truyền – Genetic Algorithm Tiến hóa sai phân – Different Evolutionary Algorithm Chiến lược tiến hóa – Evolution Strategies Lập trình tiến hóa – Evolution Programming Lập trình di truyền – Genetic Programming Tiến hóa đa nhiệm – Multifactorial Evolutionary Algorithm Giải thuật di truyền 35  Đối tượng: - Tối ưu hóa rời rạc  Đặc điểm: Representation Binary strings v.v Recombination N-point or uniform Mutation Bitwise bit-flipping with fixed probability Parent selection Fitness-Proportionate Survivor selection All children replace parents Speciality Emphasis on crossover Lập trình di truyền 36  Đối tượng: - Học máy ( Xây dựng công thức, dự đoán v.v)  Đặc điểm: Representation Tree structures Recombination Exchange of subtrees Mutation Random change in trees Parent selection Fitness proportional Survivor selection Generational replacement Representation Tree structures Chiến lược tiến hóa 37   Đối tượng: - Tối tham số thực Đặc điểm: Representation Real-valued vectors Recombination Discrete or intermediary Mutation Gaussian perturbation Parent selection Uniform random Survivor selection (,) or (+) Specialty Self-adaptation of mutation step sizes Lập trình tiến hóa 38   Đối tượng:  Học máy - sử dụng máy trạng thái xác định  Tối ưu số - numercial optimization Đặc điểm: Representation Real-valued vectors Recombination None Mutation Gaussian perturbation Parent selection Deterministic Survivor selection Probabilistic (+) Specialty Self-adaptation of mutation step sizes (in meta-EP) So sánh biến thể 39 Lập trình tiến hóa (EP) Chiến lược tiến hóa (EG) Lập trình di truyền (GP) Giải thuật di truyền (GA) Áp dụng Học máy, tối ưu số Tối ưu số CT học máy Tối ưu hóa rời rạ Mã hóa NST Véc tơ giá trị thực Véc tơ giá trị thực Cây Xâu nhị phân v.v Lai ghép Không Riêng biệt trung gian Trao đổi N-point, đồn v.v Đột biến Phân phối Gauss Phân phối Gauss Thay đổi nút Đảo bít v.v Chọn lọc cha mẹ cha sinh Ngẫu nhiên hay cố định Dựa fitness Dựa fitness Đấu tranh sinh tồn (+) (,) or (+) Thay toàn Nhiều cách Đặc biệt Tự thích nghi Tự thích nghi Cây Lai ghép 40 Thanks for your attention ...Nội dung   Tổng quan toán tối ưu Tổng quan Tính tốn tiến hóa Tổng quan Bài toán tối ưu Tổng quan toán tối ưu    Tất tốn thực tế phát biểu dạng toán tối ưu Bài toán tối ưu tốn mà cần tìm... => Khóa học trình bày kỹ thuật tìm kiếm xấp xỉ thơng minh dựa q trình tự nhiên để giải tốn tối ưu khó! Tổng quan Tính tốn tiến hóa Tổng quan Tính tốn tiến hóa 11        Tính tốn tiến hóa. .. Algorithm Tiến hóa sai phân – Different Evolutionary Algorithm Chiến lược tiến hóa – Evolution Strategies Lập trình tiến hóa – Evolution Programming Lập trình di truyền – Genetic Programming Tiến hóa