Một lớp thuật toán phỏng tiến hóa sinh học dựa trên thông tin định hướng giải bài toán đa cực trị

BỘ GIÁO DỤC VÀ ĐÀO TẠO BỘ QUỐC PHÒNG HỌC VIỆN KỸ THUẬT QUÂN SỰ Vũ Chí Cường MỘT LỚP THUẬT TOÁN PHỎNG TIẾN HÓA SINH HỌC DỰA TRÊN THÔNG TIN ĐỊNH HƯỚNG GIẢI BÀI TOÁN ĐA CỰC TRỊ LUẬN ÁN TIẾN SỸ TOÁN HỌC Chuyên ngành: Cơ sở toán học tin học Mã số: 62.46.01.10 Hà Nội - Năm 2016 BỘ GIÁO DỤC VÀ ĐÀO TẠO BỘ QUỐC PHÒNG HỌC VIỆN KỸ THUẬT QUÂN SỰ Vũ Chí Cường MỘT LỚP THUẬT TOÁN PHỎNG TIẾN HÓA SINH HỌC DỰA TRÊN THÔNG TIN ĐỊNH HƯỚNG GIẢI BÀI TOÁN ĐA CỰC TRỊ Chuyên ngành: Cơ sở toán học tin học Mã số: 62.46.01.10 LUẬN ÁN TIẾN SỸ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS.TS BÙI THU LÂM Hà Nội - Năm 2016 LỜI CAM ĐOAN Tôi xin cam đoan công trình nghiên cứu riêng tác giả hướng dẫn khoa học PGS.TS Bùi Thu Lâm Các kết công bố với tác giả khác đồng ý đồng tác giả trước đưa vào luận án Các kết nêu luận án trung thực chưa công bố công trình khác Hà Nội, tháng năm 2016 Nghiên cứu sinh Vũ Chí Cường LỜI CẢM ƠN Luận án thực Bộ môn Công nghệ phần mềm, Khoa Công nghệ thông tin, Học viện Kỹ thuật Quân sự hướng dẫn khoa học PGS.TS Bùi Thu Lâm Lời đầu tiên, tác giả xin bày tỏ kính trọng cảm ơn chân thành đến thầy giáo hướng dẫn: PGS.TS Bùi Thu Lâm, người định hướng để tác giả tiếp cận lĩnh vực nghiên cứu mẻ, khó khăn đầy tiềm Thầy cung cấp đầy đủ kiến thức kinh nghiệm nghiên cứu khoa học vô quý báu, thầy người động viên, khích lệ tác giả suốt trình nghiên cứu để tác giả hoàn thành luận án Tác giả xin chân thành cảm ơn tập thể cán bộ, giảng viên Bộ môn Công nghệ phần mềm, Khoa Công nghệ thông tin Phòng Đào tạo Sau đại học, Học viện Kỹ thuật Quân tạo điều kiện thuận lợi, giúp đỡ tác giả trình học tập nghiên cứu Học viện Tác giả xin cảm ơn tập thể cán bộ, giảng viên Khoa Công nghệ thông tin Trung tâm Công nghệ thông tin, Trường Đại học Vinh tạo điều kiện thời gian để tác giả thực kế hoạch nghiên cứu hoàn thành luận án tiến độ Cuối cùng, tác giả xin bày tỏ lòng biết ơn sâu sắc đến bậc sinh thành kính mến người thân gia đình, đặc biệt người vợ thủy chung hai thân thương dành tình cảm nồng ấm, sẻ chia ủng hộ tác giả suốt thời gian học tập nghiên cứu xa nhà Luận án quà quý giá tác giả xin đáp lại ân tình bạn bè, đồng nghiệp niềm tin tưởng, yêu thương tất người Một lần xin chân thành cảm ơn Hà Nội, tháng năm 2016 Nghiên cứu sinh Vũ Chí Cường Mục lục Trang Danh sách ký hiệu, chữ viết tắt Danh sách bảng Danh sách hình vẽ 10 Lời mở đầu 11 CƠ SỞ LÝ THUYẾT 15 1.1 Mở đầu 15 1.2 Tối ưu hóa 15 1.3 Thuật toán tiến hóa 1.3.1 1.3.2 1.3.3 1.3.4 1.3.5 Cách biểu diễn di truyền lời giải toán Cách khởi tạo quần thể ban đầu Cách đánh giá cá thể Các phép toán tiến hóa Điều kiện dừng thuật toán 19 20 21 22 22 23 1.4 Kết luận 25 NHỮNG NỘI DUNG NGHIÊN CỨU LIÊN QUAN 27 2.1 Mở đầu 27 2.2 Các thuật toán tìm kiếm dựa thông 2.2.1 Thuật toán tìm kiếm đơn hình (Simplex Search) 2.2.2 Thuật toán tìm kiếm phân tán (Scatter Search) 2.2.3 Tối ưu bầy đàn (Particle Swarm Optimization) 2.2.4 Tiến hóa vi phân (Differential Evolution) tin định hướng 28 28 30 32 34 2.3 Phương pháp niching 38 2.3.1 Phương pháp chia sẻ giá trị đánh giá (Fitness sharing) 38 2.3.2 2.3.3 2.3.4 40 Phương pháp dựa vào loài (Species-based) 42 Phương pháp phân cụm (Clustering-based) 44 Phương pháp đám đông (Crowding) 2.4 Kỹ thuật song song 2.4.1 Mô hình master/slave 2.4.2 Mô hình island 2.4.3 Mô hình tế bào (cellular) 2.4.4 Mô hình lai (hybrid) 2.4.5 hóa thuật toán tiến hóa Kỹ thuật đồng tiến hóa hợp tác (cooperation co-evolution) 47 47 48 49 50 51 2.5 Kết luận 52 THUẬT TOÁN TIẾN HÓA DỰA TRÊN THÔNG TIN ĐỊNH HƯỚNG 54 3.1 Mở đầu 54 3.2 Thuật toán DEAL 3.2.1 Độ phức tạp tính toán 3.2.2 Các tùy chọn bước nhảy định hướng 3.2.3 Các chiến lược lai ghép 3.3 Song song DEAL với kỹ thuật đồng 3.3.1 Mô hình song song 3.3.2 Thuật toán song song 3.3.3 Thời gian thực thi hệ số tăng tốc tiến 56 59 60 60 hóa hợp tác 61 61 63 65 3.4 Đánh giá thực nghiệm 69 3.4.1 Thực nghiệm DEAL MDEAL 69 3.4.2 Thực nghiệm DEAL song song 76 3.5 Kết luận 81 THUẬT TOÁN TIẾN HÓA DỰA TRÊN THÔNG TIN ĐỊNH HƯỚNG VỚI BÀI TOÁN TỐI ƯU ĐA CỰC TRỊ 83 4.1 Mở đầu 83 4.2 DEAL với phương pháp Fitness Sharing 84 4.3 DEAL với phương pháp Crowding 85 4.4 DEAL với phương pháp Species-based 86 4.5 DEAL với phương pháp Clustering-based 88 4.6 Thực nghiệm 4.6.1 Môi trường thực nghiệm 4.6.2 Thực nghiệm 1: Hiệu SharingDEAL 4.6.3 Thực nghiệm 2: Hiệu CrowdingDEAL 4.6.4 Thực nghiệm 3: Hiệu SpeciesDEAL 4.6.5 Thực nghiệm 4: Hiệu NBCDEAL 4.6.6 So sánh thuật toán đề xuât 91 91 93 96 101 106 111 4.7 Kết luận 116 Kết luận 117 Danh sách công trình tác giả 119 Tài liệu tham khảo 120 Phụ lục 131 A CÁC SƠ ĐỒ THUẬT TOÁN 131 A.1Thuật toán Simplex Search 132 A.2Thuật toán Scatter Search 133 A.3Thuật toán Particle Swarm Optimization 134 B CÁC BÀI TOÁN THỰC NGHIỆM MẪU 135 B.1Các toán tối ưu 135 B.2Các toán tối ưu đa cực trị 139 Danh sách ký hiệu, chữ viết tắt Ký hiệu Diễn giải ACO Thuật toán tối ưu hóa đàn kiến AIS Hệ miễn nhiễm nhân tạo CC Kỹ thuật đồng tiến hóa hợp tác (Cooperative Coevolution) CF Tham số Crowding Factor phương pháp Crowding CrowdingDEAL Thuật toán DEAL với phương pháp Crowding D Số chiều hàm mục tiêu (hàm đánh giá) DE Thuật toán tiến hóa vi phân DEAL Thuật toán tiến hóa dựa thông tin định hướng Thuật toán tiến hóa (Evolutionary Algorithm) EA EDA Thuật toán ước lượng thuật toán phân phối EP Quy hoạch tiến hóa (Evolutionary Programming) Chiến lược tiến hóa (Evolution Strategies) ES ETS Tập cá thể ưu tú (Elite Set) GA Giải thuật di truyền (Genetic Algorithm) GP Lập trình di truyền (Genetic Programming) M axGens Số hệ tối đa M axF Es Số lần tính giá trị hàm đánh giá tối đa (Maximum Fitness Evaluations) Thuật toán DEAL theo chiến lược lai ghép cải tiến MDEAL N , P opSize Kích thước quần thể NBC Kỹ thuật phân cụm Nearest-better Clustering NBCDEAL Thuật toán DEAL với phương pháp Clustering-based PCCDEAL Thuật toán song song hóa DEAL theo kỹ thuật CC PSO Thuật toán tối ưu bầy đàn SharingDEAL Thuật toán DEAL với phương pháp Fitness Sharing SpeciesDEAL Thuật toán DEAL với phương pháp Species-based SSS Tập cá thể hạt giống (Species Seed Set) Danh sách bảng 3.1 3.2 3.3 Danh sách toán thực nghiệm cho DEAL Thời gian thực thi thuật toán DEAL (Đơn vị tính: giây) So sánh giá trị tối ưu trung bình theo tùy chọn bước nhảy định hướng 3.4 So sánh hai chiến lược lai ghép 3.5 So sánh DEAL với thuật toán khác 3.6 Danh sách toán thực nghiệm cho DEAL song song 3.7 Thời gian thực thi với Evolution_Cycle = (ĐVT: giây) 3.8 Thời gian thực thi với Evolution_Cycle = (ĐVT: giây) 3.9 Thời gian thực thi với Evolution_Cycle = 10 (ĐVT: giây) 3.10 Giá trị tối ưu trung bình PCCDEAL 4.1 4.2 4.3 4.4 4.5 4.6 4.7 4.8 4.9 4.10 4.11 4.12 4.13 4.14 4.15 4.16 70 70 Danh sách toán thực nghiệm Kết thực nghiệm SharingDEAL So sánh SharingDEAL với thuật toán khác Kết thực nghiệm CrowdingDE Kết thực nghiệm CDE Kết thực nghiệm CrowdingDEAL Thống kê số trường hợp xếp hạng theo độ đo PR SR Kết thực nghiệm SpeciesDEAL_Op1 Kết thực nghiệm SpeciesDEAL_Op2 Kết thực nghiệm SpeciesDEAL_Op3 Kết thực nghiệm SpeciesDEAL_Op4 So sánh độ đo PR SpeciesDEAL thuật toán khác Kết thực nghiệm NBCDEAL_Op1 Kết thực nghiệm NBCDEAL_Op2 Kết thực nghiệm NBCDEAL_Op3 Kết thực nghiệm NBCDEAL_Op4 74 74 76 77 78 79 79 81 92 94 95 98 98 99 99 102 102 103 103 105 106 107 107 108 4.17 4.18 4.19 4.20 4.21 4.22 4.23 4.24 4.25 4.26 4.27 Tổng hợp xếp hạng theo tùy chọn NBCDEAL 108 So sánh độ đo PR NBCDEAL điều chỉnh φ 110 So sánh độ đo PR NBCDEAL thuật toán khác 111 Giá trị độ đo PR độ xác = 1.0E − 01 thuật toán112 Giá trị độ đo PR độ xác = 1.0E − 02 thuật toán113 Giá trị độ đo PR độ xác = 1.0E − 03 thuật toán113 Giá trị độ đo PR độ xác = 1.0E − 04 thuật toán114 Giá trị độ đo PR độ xác = 1.0E − 05 thuật toán114 Kiểm định Friedman thuật toán 115 Thứ hạng thuật toán theo kiểm định Friedman 115 Kiểm định Wilcoxon thuật toán 116 [108] Yin, X and Germay, N (1993) A fast genetic algorithm with sharing scheme using cluster analysis methods in multimodal function optimization In Proceedings of the International Conference on Artificial Neural Networks and Genetic Algorithms (ANNGA’93), pages 450– 457 Springer-Verlag [109] Yu, X and Gen, M (2010) Introduction to Evolutionary Algorithms Springer-Verlag London [110] Zhang, W.-J and Xie, X.-F (2003) DEPSO: hybrid particle swarm with differential evolution operator In IEEE International Conference on Systems, Man and Cybernetics, volume 4, pages 3816–3821 130 131 Phụ lục A CÁC SƠ ĐỒ THUẬT TOÁN A.1 Thuật toán Simplex Search Simplex Search [66] Input: Hàm đánh giá f : Rn −→ R, khối đơn hình khởi tạo {xi }ni=0 , α, β, γ Output: x∗ phương án tối ưu Algorithm A.1 1: 2: 3: 4: 5: 6: 7: 8: 9: 10: 11: 12: 13: 14: 15: 16: 17: 18: 19: 20: 21: t ←− 0; while (t < tmax ) h ←− argmaxi f (xi ); l ←− argmini f (xi ); x ←− (1 + α)x − αxl ; where α > is the reflection coefficient if f (x ) > f (xh ) then x” ←− (1 + γ)x − γx; where γ > is the expansion coefficient if f (x” ) > f (xh ) then xl ←− x” ; expansion else xl ←− x ; reflection end if else if f (x ) < f (xi ), ∀i = l then if f (x) ≥ f (xl ) then xl ←− x ; reflection end if x” ←− βxl + (1 − β)x; where < β < is the contraction coefficient 132 if f (x” ) < f (xl ) then h xi ←− xi +x ; ∀i ∈ [0, n] else xl ←− x” ; end if 22: 23: 24: 25: 26: 27: multiple contraction contraction else xl ←− x ; end if end if t ←− t + 1; end while return x∗ = best(x); reflection 28: 29: 30: 31: 32: A.2 Thuật toán Scatter Search Scatter Search [30, 47] Input: P Size - Kích thước tập thử nghiệm, b - kích thước tập Ref Set Output: x∗ phương án tối ưu Algorithm A.1 1: 2: 3: 4: 5: 6: 7: 8: 9: 10: 11: 12: 13: 14: 15: 16: 17: 18: 19: 20: 21: 22: Khởi tạo P = ∅; while | P |< P Size x ←− Diversif icationGeneration();) Improvement(x); if x = P then P =P ∪x end if end while Ref erenceSetU pdate(Ref Set); Sort(Ref Set); N ewSolutions = T RU E; while N ewSolutions N ewSubsets ←− SubsetGeneration; N ewSolutions = F ALS; while N ewSubset = ∅ s ←− N ewSubsets; x ←− SolutionCombination(s); Improvement(x); Ref erenceSetU pdate(Ref Set); if Ref Set has changed then N ewSolutions = T RU E; end if 133 Delete s from N ewSubsets; end while end while return x∗ = best(); 23: 24: 25: A.3 Thuật toán Particle Swarm Optimization Particle Swarm Optimization [43] Input: N, D, w, c1 , c2 Output: x∗ phương án tối ưu Algorithm A.1 t ←− 0; 2: P (t) ←− initialize(N ); 3: while (t < maxgen) 4: for each xi in P (t) 5: F (xi ) ←− evaluate(xi ); 6: if F (xi ) > P best then 7: P best = F (xi ); 8: end if 9: end for 10: if P best > Gbest then 11: Gbest = P best; 12: end if 13: for each xi in P (t) 14: vi ←− recalc; 15: xi ←− recalc; 16: end for 17: t ←− t + 1; 18: end while return x∗ = Gbest; 1: 134 Phụ lục B CÁC BÀI TOÁN THỰC NGHIỆM MẪU B.1 Các toán tối ưu Đây toán tối ưu thường sử dụng nghiên cứu thuật toán tiến hóa Các toán giới thiệu [107, 94, 97, 96, 54] toán cực tiểu hóa với nhiều đặc trưng khác đơn cực trị (uni-modal) đa cực trị (multi-modal), dịch chuyển (shifted) không dịch chuyển (non-shifted), khả tách (separable) không khả tách (non-separable), linh hoạt (scalable) không linh hoạt (non-scalable) Phương án tối ưu giá trị tối ưu toán xác định Nhiệm vụ thuật toán tiến hóa tìm cách xác định lại giá trị từ quần thể khởi tạo cách ngẫu nhiên không gian tìm kiếm (tập ràng buộc) toán Tất nhiên tham số thực nghiệm, đặc biệt hạn ngạch điều kiện dừng thuật toán phải lựa chọn phù hợp tương tự Sphere Problem D x2i f (x) = i=1 135 • Uni-modal • Shifted • Separable • Scalable • xi ∈ [−100, 100], i = {1, 2, , D} • min(f ) = f (0, 0, , 0) = Schwefel’s Problem 2.21 f (x) = maxi {|xi |, ≤ i ≤ D} • Uni-modal • Shifted • Non-separable • Scalable • xi ∈ [−100, 100], i = {1, 2, , D} • min(f ) = f (0, 0, , 0) = Rosenbrock’s Function D−1 100(x2i − xi+1 )2 + (xi − 1)2 f (x) = i=1 • Multi-modal • Shifted • Non-separable • Scalable • xi ∈ [−100, 100], i = {1, , D} • min(f ) = f (1, 1, , 1) = 136 Generalized Schwefel 2.26 D f (x) = − (xi sin( |xi |)) i=1 • Multi-modal • Shifted • Rotated • Non-separable • Scalable • xi ∈ [−500, 500], i = {1, , D} • min(f ) = f (420.9687, , 420.9687) = −12569.5 Rastrigin’s Problem D x2i − 10 cos(2πxi ) + 10 f (x) = i=1 • Multi-modal • Shifted • Separable • Scalable • xi ∈ [−5.12, 5.12], i = {1, , D} • min(f ) = f ((0, 0, , 0) = Ackley’s Problem  f (x) = −20 exp −0.2 D D  x2i  − exp i=1 137 D D cos(2πxi ) + 20 + e i=1 • Multi-modal • Shifted • Rotated • Non-separable • Scalable • xi ∈ [−32, 32], i = {1, , D} • min(f ) = f (0, 0, , 0) = Griewank’s Problem f (x) = 4000 D D x2i i=1 − i xi cos √ + i • Multi-modal • Shifted • Rotated • Non-separable • Scalable • xi ∈ [−600, 600], i = {1, , D} • min(f ) = f (0, 0, , 0) = Penalized Problem π f (x) = D D−1 (yi − 1)2 [1 + 10 sin2 (πyi+1 )] + (yD − 1)2 10 sin (πy1 ) + i=1 n + u(xi , 10, 100, 4) i=1 138 đó: yi = + 41 (xi + 1)  xi > a  k(xi − a)m , otherwise u(xi , a, k, m) = 0,  m k(−xi − a) , xi < −a xi ∈ [−50, 50], i = {1, , D} min(f ) = f (1, 1, , 1) = • Multi-modal • Shifted • Rotated • Non-separable • Scalable Penalized Problem D−1 (xi − 1)2 [1 + sin2 (3πxi+1 )] + (xD − 1)2 [1 + sin2 (2πxD )] f (x) = 0.1 sin (3πx1 ) + i=1 D u(xi , 5, 100, 4) + i=1 • Multi-modal • Shifted • Rotated • Non-separable • Scalable B.2 đó: yi = + 41 (xi + 1)  xi > a  k(xi − a)m , otherwise u(xi , a, k, m) = 0,  m k(−xi − a) , xi < −a xi ∈ [−50, 50], i = {1, , D} min(f ) = f (1, 1, , 1) = Các toán tối ưu đa cực trị Gồm 12 toán cực đại hóa giới thiệu [54] Các toán có nhiều phương án tối ưu (toàn cục địa phương), phương án tối ưu toàn cục xác định có giá trị tối ưu Nhiệm vụ thuật toán tiến hóa tìm cách xác định lại nhiều tốt phương án tối ưu toàn cục từ quần thể cá thể khởi tạo ngẫu nhiên không gian tìm kiếm toán Điều kiện dừng thuật toán sử dụng tổng số lần tính giá trị đánh giá lớn cho phép (MaxFEs) 139 Five-Uneven-Peak Trap f (x) =          80(2.5 − x) 64(x − 2.5) 64(7.5 − x) 28(x − 7.5) 28(17.5 − x) 32(x − 17.5) 32(27.5 − x) 80(x − 27.5) ≤ x < 2.5, 2.5 ≤ x < 5.0, 5.0 ≤ x < 7.5, 7.5 ≤ x < 12.5, 12.5 ≤ x < 17.5, 17.5 ≤ x < 22.5, 22.5 ≤ x < 27.5, 27.5 ≤ x < 30 Đặc điểm • Số chiều: • Tập ràng buộc: x ∈ [0, 30] • Số phương án tối ưu toàn cục: • Số phương án tối ưu địa phương: Equal Maxima f (x) = sin6 (5πx) Đặc điểm • Số chiều: • Tập ràng buộc: x ∈ [0, 1] • Số phương án tối ưu toàn cục: • Số phương án tối ưu địa phương: Uneven Decreasing Maxima x − 0.08 f (x) = exp −2 log(2) 0.854 Đặc điểm • Số chiều: • Tập ràng buộc: x ∈ [0, 1] • Số phương án tối ưu toàn cục: • Số phương án tối ưu địa phương: 140 sin6 (5π(x3/4 − 0.05)) Himmelblau f (x, y) = 200 − (x2 + y − 11)2 − (x + y − 7)2 Đặc điểm • Số chiều: • Tập ràng buộc: x, y ∈ [−6, 6] • Số phương án tối ưu toàn cục: • Số phương án tối ưu địa phương: Six-Hump Camel Back f (x, y) = −4 x4 − 2.1x + x2 + xy + 4y − y Đặc điểm • Số chiều: • Tập ràng buộc: x ∈ [−1.9, 1.9]; y ∈ [−1.1, 1.1] • Số phương án tối ưu toàn cục: • Số phương án tối ưu địa phương: Shubert D f (x) = − j cos[(j + 1)xi + j] i=1 j=1 Đặc điểm • Số chiều: D tùy ý • Tập ràng buộc: xi i=1, 2, , D ∈ [−10, 10], • Số phương án tối ưu toàn cục: D.3D • Số phương án tối ưu địa phương: many 141 Vincent D f (x) = sin(10 log(xi )) D i=1 Đặc điểm • Số chiều: D tùy ý • Tập ràng buộc: xi i=1, 2, , D; ∈ [0.25, 10], • Số phương án tối ưu toàn cục: 6D • Số phương án tối ưu địa phương: Modified Rastrigin D f (x) = − (10 + cos(2πki xi )) i=1 Đặc điểm • Số chiều: D tùy ý • Tập ràng buộc: xi ∈ [0, 1], i=1, 2, , D; • Số phương án tối ưu toàn cục: D i=1 ki • Số phương án tối ưu địa phương: Composition Function n f i ((x − oi /λi × Mi + biasi + fbias f (x) = − i=1 đó: n = 6, f − f hàm Grienwank, f − f hàm Weierstrass, f − f hàm Sphere, σi = 1, λ = [1, 1, 8, 8, 1/5, 1/5], Mi ma trận đường chéo i ∈ {1, 2, , n} 142 Đặc điểm • Số chiều toán fi : D • Tập ràng buộc: i=1, 2, , D; xi ∈ [−5, 5], • Số phương án tối ưu toàn cục: • Số phương án tối ưu địa phương: nhiều 10 Composition Function n f (x) = − f i ((x − oi /λi × Mi + biasi + fbias i=1 đó: n = 8, f − f hàm Rastrigin, f − f hàm Weierstrass, f − f hàm Griewank, f − f hàm Sphere, σi = 1, λ = [1, 1, 10, 10, 1/10, 1/10, 1/7, 1/7], Mi ma trận đường chéo i ∈ {1, 2, , n} Đặc điểm • Số chiều toán fi : D • Tập ràng buộc: i=1, 2, , D; xi ∈ [−5, 5], • Số phương án tối ưu toàn cục: • Số phương án tối ưu địa phương: nhiều 11 Composition Function n f (x) = − f i ((x − oi /λi × Mi + biasi + fbias i=1 đó: n = 6, f − f hàm EF8F2 , f − f hàm Weierstrass, f − f hàm Griewank, σ = [1, 1, 2, 2, 2, 2], λ = [1/4, 1/10, 2, 1, 2, 5], Mi ma trận xoay tuyến tính 143 Đặc điểm • Số chiều toán fi : D • Tập ràng buộc: xi ∈ [−5, 5], i=1, 2, , D; • Số phương án tối ưu toàn cục: • Số phương án tối ưu địa phương: nhiều 12 Composition Function n f i ((x − oi /λi × Mi + biasi + fbias f (x) = − i=1 đó: n = 8, f − f hàm Rastrigin, f − f hàm EF8F2, f − f hàm Weierstrass, f − f hàm Griewank, σ = [1, 1, 1, 1, 1, 2, 2, 2], λ = [4, 1, 4, 1, 1/10, 1/5, 1/10, 1/40], Mi ma trận xoay tuyến tính Đặc điểm • Số chiều toán fi : D • Tập ràng buộc: xi ∈ [−5, 5], i=1, 2, , D; • Số phương án tối ưu toàn cục: • Số phương án tối ưu địa phương: nhiều 144 [...]... hình trong việc sử dụng thông tin định hướng để giải quyết các bài toán tối ưu Trong các mô hình thuật toán tiến hóa mới, lớp các thuật toán tiến hóa vi phân (Differential Evolution) [75] là một ví dụ khác về những lợi ích đạt được khi sử dụng thông tin định hướng để chỉ dẫn quá trình tìm kiếm lời giải Tuy nhiên, trong các thuật toán này, thông tin định hướng chỉ được xác định một cách cục bộ trong từng... rằng một quần thể các cá thể có thể bao hàm các thông tin định hướng, các thông tin định hướng này hoàn toàn có thể được xác định một cách có hệ thống và hỗ trợ quá trình tìm kiếm tiến hóa 2 Đóng góp của luận án Đóng góp của luận án là phương pháp xác định và sử dụng thông tin định hướng hỗ trợ các thuật toán tiến hóa Chi tiết các đóng góp cụ thể bao gồm: 1 Đề xuất thuật toán tiến hóa dựa trên thông tin. .. quả của thuật toán và mô hình 2 Đề xuất thuật toán tiến hóa dựa trên thông tin định hướng nhằm giải quyết các bài toán đa cực trị: Gồm 4 thuật toán SharingDEAL, CrowdingDEAL, SpeciedDEAL và NBCDEAL là giải pháp kết hợp giữa DEAL và các phương pháp niching phổ biến Kết quả thực nghiệm của các thuật toán này đều cho thấy sự khả quan của hướng nghiên cứu khi so sánh được với các thuật toán nổi tiếng được... bài toán tối ưu cỡ lớn bằng thuật toán tiến hóa Hy vọng rằng việc kết hợp CC với mô hình song song truyền thống master/slave là một tiếp cận trong luận án nhằm nâng cao hiệu năng tính toán của thuật toán tiến hóa mới sẽ được đề xuất 2.2 2.2.1 Các thuật toán tìm kiếm dựa trên thông tin định hướng Thuật toán tìm kiếm đơn hình (Simplex Search) Là phương pháp tìm kiếm dựa vào thông tin định hướng nổi tiếng... phương pháp niching, song song hóa, đồng tiến hóa hợp tác Đối với mỗi phương pháp, luận án 13 trình bày rõ ý tưởng, các bước thực hiện của phiên bản đề xuất, sau đó khảo sát một số các nghiên cứu gần đây có liên quan Chương 3: Thuật toán tiến hóa dựa trên thông tin định hướng Chương này tập trung trình bày một cách chi tiết nội dung thuật toán tiến hóa dựa trên thông tin định hướng (gọi tắt là DEAL) do... chung Thuật toán phỏng tiến hóa sinh học hay gọi ngắn gọi là thuật toán tiến hóa (Evolutionary Algorithms - EAs) là một lớp các thuật toán heuristic trong tối ưu hóa và học máy EAs đã được áp dụng rộng rãi và thu được nhiều thành công trong việc giải quyết các bài toán tối ưu số và tối ưu tổ hợp Về nguyên tắc, EA là một thuật toán lấy ý tưởng từ quá trình chọn lọc tự nhiên trong thuyết tiến hóa của... quần thể gồm nhiều cá thể thông qua một quá trình tiến hóa Quá trình tiến hóa được chọn lọc, tuy nhiên cũng diễn ra một cách ngẫu nhiên Bởi vậy, việc đưa các thông tin định hướng vào quá trình tiến hóa có thể giúp cho quá trình tìm kiếm được diễn ra một cách đúng hướng hơn, nhanh chóng hơn Nói cách khác bài toán tối ưu hóa sẽ được giải quyết hiệu quả hơn Do một bài toán tìm cực tiểu (min) có hàm mục... nhiên, đối với các thuật toán tiến hóa tham số thực, hàm đánh giá thường dựa trên hàm mục tiêu của bài toán tối ưu với tham số là giá trị biểu diễn của cá thể 1.3.4 Các phép toán tiến hóa Trong quá trình tiến hóa, các cá thể con cái được sinh ra một cách ngẫu nhiên thông qua các phép toán tiến hóa cơ bản là đột biến và lai ghép Phép toán lai ghép Lai ghép là quá trình trao đổi thông tin (trao đổi gen)... nhất của Ackley’ problem trong 100 lần chạy Độ đa dạng quần thể của bài toán đơn cực trị Sphere’s Problem Độ đa dạng quần thể của các bài toán đa cực trị Giá trị tối ưu trung bình đạt được khi D = 30 của các bài toán 59 60 62 62 66 69 71 72 73 73 77 4.1 4.2 Thuật toán SpeciesDEAL với bài toán Himmelblau 89 Thuật toán NBCDEAL với bài toán Himmelblau 90 9 ... tưởng, bố cục thuật toán, các tùy chọn và chiến lược tiến hóa, độ phức tạp tính toán Các thực nghiệm được tổ chức cho thấy thuật toán DEAL làm việc hiệu quả đối với lớp các bài toán tối ưu đơn cực trị và lớp bài toán tối ưu đa cực trị nhưng chỉ có một phương án tối ưu toàn cục Trong phần thứ hai của chương, tác giả đã trình bày phương án mở rộng nhằm nâng cao hiệu năng tính toán của thuật toán DEAL bằng