(Luận văn) nghiên cứu về thuật toán tiến hóa đa nhân tố giải quyết bài toán tối ưu

HỌC VIỆN CƠNG NGHỆ BƢU CHÍNH VIỄN THƠNG —————————— Nguyễn Dƣơng Kiên NGHIÊN CỨU VỀ THUẬT TỐN TIẾN HĨA ĐA NHÂN TỐ GIẢI QUYẾT BÀI TOÁN TỐI ƢU LUẬN VĂN THẠC SĨ KỸ THUẬT (Theo định hướng ứng dụng) Hà Nội - 2020 HỌC VIỆN CƠNG NGHỆ BƢU CHÍNH VIỄN THƠNG —————————— Nguyễn Dƣơng Kiên NGHIÊN CỨU VỀ THUẬT TỐN TIẾN HĨA ĐA NHÂN TỐ GIẢI QUYẾT BÀI TỐN TỐI ƢU Chuyên ngành: Hệ thống thông tin Mã số: 8.48.01.04 LUẬN VĂN THẠC SĨ KỸ THUẬT (Theo định hướng ứng dụng) NGƢỜI HƢỚNG DẪN KHOA HỌC: TS Trần Quý Nam Hà Nội - 2020 i LỜI CẢM ƠN Luận văn đƣợc hoàn thành dƣới hƣớng dẫn bảo nhiệt tình TS Trần Quý Nam giảng viên học viện bƣu viễn thơng Trong q trình làm việc, em khơng tích lũy đƣợc nhiều kiến thức kinh nghiệm quý báu mà đƣợc học hỏi Thầy tinh thần làm việc khoa học, đầy tinh thần trách nhiệm Qua đây, em xin bày tỏ lòng biết ơn chân thành sâu sắc tới Thầy Nhân dịp này, em xin bày tỏ lòng biết ơn tới tồn thể thầy giáo học viện Cơng nghệ Bƣu Viễn thơng ngƣời dạy bảo em tận tình suốt trình học tập tạo điều kiện sở vật chất để em hồn thành tốt luận văn Cuối cùng, em xin đƣợc gửi lời cảm ơn chân thành tới gia đình, bạn bè cổ vũ, động viên tạo điều kiện cho em trình học tập thực luận văn Dù cố gắng với tận tâm thầy giáo hƣớng dẫn nhiên trình độ cịn hạn chế nên khó tránh khỏi thiếu sót, em mong nhận đƣợc đóng góp ý kiến thầy bạn Hà Nội, ngày tháng năm 2020 Học viên cao học Nguyễn Dƣơng Kiên ii MỤC LỤC LỜI CẢM ƠN i DANH SÁCH BẢNG iv DANH SÁCH HÌNH VẼ v LỜI NÓI ĐẦU Chƣơng 1.1 TỔNG QUAN Bài toán tối ƣu 1.1.1 Tối ƣu hóa tổ hợp 1.1.2 Giải bải toán tối ƣu 1.2 Chƣơng Thuật tốn tiến hóa 26 TIẾN HÓA ĐA NHÂN TỐ 28 2.1 Các khái niệm liên quan 28 2.2 Giải thuật tiến hóa đa nhân tố 31 2.3 Khởi tạo quần thể 31 2.4 Kỹ thuật di truyền 33 2.5 Đánh giá có chọn lọc 35 2.6 Sự lựa chọn 37 Chƣơng ÁP DỤNG THUẬT TỐN TIẾN HĨA ĐA NHÂN TỐ ĐỂ GIẢI CÁC BÀI TOÁN TỐI ƢU ĐƠN MỤC TIÊU 3.1 39 Bài toán Knapsack toán Quadratic Assignment Problem 40 3.1.1 Bài toán Knapsack 40 3.1.2 Bài toán Quadratic Assignment 40 3.2 Áp dụng thuật tốn tiến hóa đa nhân tố để giải đồng thời hai toán Knapsack toán Quadratic Assignment Problem 41 iii 3.3 Kết mô 43 3.3.1 Dữ liệu 43 3.3.2 Tham số thực nghiệm 44 3.3.3 Kết thực nghiệm 44 KẾT LUẬN VÀ HƢỚNG PHÁT TRIỂN 46 TÀI LIỆU THAM KHẢO 47 iv DANH SÁCH BẢNG Bảng 3-1: Kích thƣớc tốn kết hợp giải 43 Bảng 3-2: Tham số thực nghiệm 44 v DANH SÁCH HÌNH VẼ Hình 1-1: Ví dụ khung đồ thị Hình 1-2: Sơ đồ khối cấu trúc thuật toán di truyền 17 Hình 1-3: Sơ đồ khối thuật toán PSO 23 Hình 1-4: Lời giải nhận đƣợc nhờ thay cạnh (2,3), (1,6) (1,3), (2,6) 25 Hình 1-5: Mơ tả bƣớc tổng thể EA 26 Hình 2-1:Nổi bật khác biệt tối ƣu hóa đa mục tiêu đa yếu tố 31 Hình 2-2: Mơ tả bƣớc tổng thể EA(thuật toán 1) .32 Hình 2-3: Mơ tả bƣớc tổng thể EA (thuật toán 2) 34 Hình 2-4: Mơ tả bƣớc tổng thể EA (thuật toán 3) 36 Hình 3-1: Sự biểu diễn tác vụ khơng gian tìm kiếm khác đƣợc chuyển khơng gian tìm kiếm hợp 39 Hình 3-2: So sánh kết cảu MFGA với GA lời giải tối ƣu tốn QAP 44 Hình 3-3: So sánh kết MFGA với GA lời giải tối ƣu tốn KP 45 LỜI NĨI ĐẦU Trong năm vừa qua, thuật tốn tiến hóa đƣợc áp dụng để giải nhiều toán tối ƣu khoa học máy tính thực tế Tuy nhiên, việc thiết kế thuật tốn tiến hóa tập trung vào việc giải có hiệu toán tối ƣu thời điểm, chƣa có thuật tốn tiến hóa giải đồng thời tốn tối ƣu hóa sử dụng quần thể Do vậy, luận văn tìm hiểu mơ hình tiến hóa tính tốn tiến hóa: mơ hình tiến hóa đa nhân tố (Multifactorial Optimization) cho phép giải đồng thời nhiều toán tối ƣu mà dựa quần thể tiến hóa Thuật tốn tiến hóa (Evolutionary Algorithms - EAs) dựa theo học thuyết Darwin nói chung đƣợc hình thành quan niệm cho rằng, q trình tiến hóa q trình hồn hảo tự mang tính tối ƣu [1] Tính tối ƣu đƣợc thể chỗ, cá thể sau đƣợc sinh tốt hơn, hoàn hảo cá thể cha-mẹ, chúng có khả thích nghi với thay đổi mơi trƣờng cao cá thể cha-mẹ Thuật tốn tiến hóa đƣợc áp dụng tốn tối ƣu Bài tốn tối ƣu tốn tìm giá trị cực đại cực tiểu hàm q trình Cơ chế đƣợc sử dụng nhiều lĩnh vực nhƣ vật lý, hóa học, kinh tế, Trong thuật tốn tiến hóa, nhóm cá thể (giải pháp toán) đƣợc khởi tạo ngẫu nhiên Trong hệ, cá thể tốt, thích nghi với mơi trƣờng (bài tốn) đƣợc giữ lại Quá trình tiếp tục gặp điều kiện dừng tốn Có nhiều thuật tốn tiến hóa khác nhƣ: thuật tốn di truyền (Genetic Algorithm – GA), thuật tốn tối ƣu hóa bầy đàn (Particle Swarm Optimization – PSO), thuật toán đàn kiến (Ant Colony Optimization ACO), Trong đó, thuật tốn di truyền đƣợc xây dựng dựa quy luật tiến hóa sinh học hay phát triển tự nhiên quần thể sống Các cá thể trải qua trình phát triển sinh sản để tạo cá thể cho hệ Trong trình tăng trƣởng phát triển cá thể xấu tức cá thể khơng thích nghi đƣợc với mơi trƣờng bị đào thải, ngƣợc lại, cá thể tốt đƣợc giữ lại (đây q trình chọn lọc) đƣợc lai ghép (quá trình lai ghép) để tạo cá thể cho hệ sau Những cá thể đƣợc sinh mang tính trạng cá thể cha-mẹ (còn gọi tƣợng di truyền) Thuật toán tối ƣu bầy đàn đƣợc xây dựng dựa vào q trình mơ sinh học đàn chim Để hiểu rõ thuật toán, xem ví dụ q trình tìm kiếm thức ăn đàn chim Tại thời điểm tìm kiếm đàn bay theo hƣớng đó, ngẫu nhiên Tuy nhiên, sau thời gian tìm kiếm số cá thể đàn bắt đầu tìm đƣợc nơi có chứa thức ăn Tùy vào số lƣợng thức ăn vừa tìm đƣợc mà cá thể gửi tín hiệu đến cá thể tìm kiếm vùng lân cận Tín hiệu đƣợc lan truyền tồn quần thể Dựa vào thơng tin nhận đƣợc, cá thể điều chỉnh hƣớng bay vận tốc bay theo hƣớng nơi có nhiều thức ăn Cơ chế truyền tin nhƣ thƣờng đƣợc xem kiểu hình trí tuệ bầy đàn Cơ chế giúp đàn chim tìm nơi có nhiều thức ăn khơng gian tìm kiếm [2] Các thuật tốn tiến hóa dừng lại việc giải toán tối ƣu thời điểm Tuy nhiên, hầu hết ứng dụng thực tế yêu cầu phải giải nhiều toán tối ƣu lúc, ví dụ nhƣ ứng dụng tính tốn đám mây Do đó, luận văn tìm hiểu mơ hình tiến hóa mới: mơ hình tiến hóa đa nhân tố (Multifactorial Optimization - MFO) Mơ hình tiến hóa đa nhân tố mơ hình tiến hóa tổng hợp để giải đồng thời nhiều toán tối ƣu Mỗi toán tối ƣu đƣợc coi nhƣ nhân tố ảnh hƣởng đến q trình tiến hóa Ƣu điểm phƣơng pháp chuyển vật liệu di truyền từ toán tối ƣu đơn giản đến toán tối ƣu phức tạp Điều đẩy nhanh q trình tối ƣu hóa, giảm thời gian thực Cấu trúc luận văn đƣợc tổ chức nhƣ sau Chƣơng 1: Luận văn trình bày tổng quan tốn tối ƣu hóa phƣơng pháp để giải tốn tối ƣu hóa Chƣơng 2: Luận văn trình bày mơ hình tiến hóa đa nhân tố giải thuật tiến hóa đa nhân tố để giải tốn tối ƣu hóa Chƣơng 3: Áp dụng thuật tốn tiến hóa đa nhân tố để giải toán tối ƣu đơn mục tiêu Chƣơng TỔNG QUAN 1.1 Bài toán tối ƣu Giải thuật di truyền (Di truyền - Genetic Algorithm (GA)) Tối ƣu hóa chế tìm giá trị cực tiểu cực đại hàm q trình Cơ chế đƣợc sử dụng nhiều lĩnh vực nhƣ vật lý, hóa học, kinh tế để đạt đƣợc mục đích tối đa hóa hiệu quả, sản xuất thƣớc đo khác Tối ƣu hóa liên quan đến hai khái niệm cực tiểu cực đại hàm f Đây hai tốn đối lập nhau, đó, tìm cực tiểu hàm f tƣơng đƣơng với tìm cực đại hàm −f Về mặt tốn học, tốn tìm cực đại đƣợc định nghĩa nhƣ sau: n f : R → R, Tìm X∗ ∈ Rn để f(X∗) > f(X), ∀X ∈ Rn n n Miền R đƣợc gọi khơng gian tìm kiếm Mỗi phần tử thuộc R đƣợc gọi giải pháp ∗ khơng gian tìm kiếm, X đƣợc gọi giải pháp tối ưu Hàm f đƣợc gọi hàm mục tiêu, hàm xác định không gian n chiều nhận giá trị thực Bài toán tối ƣu hóa đƣợc chia làm hai loại Tối ƣu rời rạc hay gọi tối ƣu tổ hơp (TƢTH) Tối ƣu liên tục Trong chƣơng tác giả tập trung vào tối ƣu hóa tổ hợp • Dựa vào số lƣợng mục tiêu: đơn mục tiêu, đa mục tiêu • Dựa vào ràng buộc: có ràng buộc, khơng có ràng buộc • Dựa vào miền giá trị biến: tối ƣu liên tục hay gọi tối ƣu tổ hợp (TƢTH), tối ƣu rời rạc Trong chƣơng tác giả tập trung vào tối ƣu hóa tổ hợp 1.1.1 Tối ưu hóa tổ hợp Một cách tổng quát, tốn TƢTH phát biểu nhƣ sau: Cho ba (S,f,Ω), ), S tập hữu hạn trạng thái (lời giải tiềm hay phƣơng án), f hàm mục tiêu xác định S, cịn Ω), tập ràng buộc Mỗi phƣơng án s (1.1)