ÁP DỤNG GIẢI THUẬT DI TRUYỀN GIẢI BÀI TOÁN CỰC TIỂU HOÁ ĐỘ TRỄ TẠP CHÍ KHOA HỌC & CÔNG NGHỆ CÁC TRƯỜNG ĐẠI HỌC KỸ THUẬT SỐ 71 2009 6 GIẢI THUẬT DI TRUYỀN GIẢI BÀI TOÁN CỰC TIỂU HOÁ ĐỘ TRỄ GENETIC A[.]
TẠP CHÍ KHOA HỌC & CƠNG NGHỆ CÁC TRƯỜNG ĐẠI HỌC KỸ THUẬT SỐ 71 - 2009 GIẢI THUẬT DI TRUYỀN GIẢI BÀI TOÁN CỰC TIỂU HOÁ ĐỘ TRỄ GENETIC ALGORITHM FOR SOLVING THE MINIMUM LATENCY PROBLEM Ban Hà Bằng, Nguyễn Đức Nghĩa Trường Đại học Bách Khoa Hà Nội TĨM TẮT Bài tốn cực tiểu hố độ trễ (Minimum Latency Problem – MLP) – hay gọi toán thợ sửa chữa lưu động – lớp tốn tối ưu tổ hợp có nhiều ứng dụng thực tế Trong trường hợp tổng qt, MLP chứng minh tốn NP–khó Hiện nay, có nhiều thuật tốn giải gần toán MLP đề xuất, song chất lượng lời giải thu chưa cao Bài báo trình bày thuật tốn phát triển dựa sơ đồ thuật toán di truyền (Genetic Algorithm – GA – thuật toán áp dụng hiệu cho lớp toán tối ưu tổ hợp) để giải toán MLP Kết thực nghiệm cho thấy, thuật toán đề xuất đưa lời giải với chất lượng tốt so với lời giải thuật toán gần tốt biết ABSTRACT Minimum Latency Problem (MLP) - also known as traveling repairman problem - is a class of combinatiorial optimization problems that have many practical applications In general case, MLP is proved to be NP-hard Recently, there are several efficient approximation algorithms for solving MLP, however the quality of the provided solution is not actually high This paper presents a new algorithm based on the scheme of the genetic algorithm for solving MLP The experimental result on the proposed algorithm shows that it gives a better solution than the best one of the approximation algorithms - Một máy chủ phải phục vụ tập yêu cầu Cần tìm lịch thực yêu cầu máy chủ cho thời gian chờ đợi trung bình yêu cầu cực tiểu I ĐẶT VẤN ĐỀ Bài toán MLP phát biểu dạng đồ thị sau: Cho đồ thị đầy đủ có trọng số Kn với tập đỉnh V = {1, 2, …, n} ma trận trọng số không âm đối xứng C = {cij | i, j = 1, 2, …, n} Giả sử P = u1, u2, …, un đường Kn Ta gọi độ trễ đỉnh uk (1 < k ≤ n) đường P tổng (uk ) - Một ứng dụng khác toán MLP toán cực tiểu hoá thời gian tìm kiếm thơng tin mạng k 1 c(u , u i 1 i i 1 Trong số trường hợp đặc biệt, tốn MLP giải thời gian đa thức [3] Thế tình tổng quát MLP chứng minh thuộc lớp NP-khó [1], nghĩa ngoại trừ P=NP, khơng có thuật tốn thời gian đa thức để giải Vì vậy, việc xây dựng thuật tốn gần hiệu cách tiếp cận tự nhiên để phát triển thuật toán giải toán MLP trường hợp tổng quát Blum đưa thuật toán gần với cận tỷ lệ 144 [2], Gemans Klein Berg giảm cận xuống 21.55 [4], Grag tiếp tục giảm xuống 10.78 [5] Aaron Archer, Asaf Levin, David Williamson đưa thuật toán gần với cận tỷ lệ 3.01 [6] – cận nhỏ ), c(ui, ui+1) trọng số cạnh (ui, ui+1) Độ trễ đường P định nghĩa tổng độ trễ tất đỉnh đường đi: n (uk ) (uk ) k 2 Bài toán MLP yêu cầu tìm đường đơn đỉnh xuất phát cố định u1 qua tất đỉnh lại đồ thị với độ trễ cực tiểu Một số ứng dụng tốn (có thể xem chi tiết [1, 2]): Một lớp thuật toán khác áp dụng cho toán lớp thuật tốn heuristic [7] TẠP CHÍ KHOA HỌC & CÔNG NGHỆ CÁC TRƯỜNG ĐẠI HỌC KỸ THUẬT SỐ 71 - 2009 Lớp thuật toán tập trung tìm kiếm lời giải cực trị địa phương - Tốn tử lai ghép lai ghép hai cá thể cha mẹ với xác suất lai ghép (kí hiệu: Pc) cho trước để tạo cá thể Do đỉnh xuất phát cố định nên toán tử lai ghép cá thể cha mẹ từ n-1 đỉnh lại sau: Lựa chọn ngẫu nhiên số vị trí cá thể cha Sao chép đỉnh vị trí lựa chọn cá thể cha vào vị trí tương ứng cá thể Các đỉnh ứng với vị trí khơng lựa chọn cá thể cha, điền vào vị trí cịn khuyết từ trái qua phải cá thể con, theo thứ tự mà đỉnh xuất cá thể mẹ Toán tử lai ghép giống với toán tử lai ghép trình bày [9] Tốn tử lai ghép giúp cho GA nâng cao chất lượng trung bình cá thể lời giải quần thể Bài báo trình bày thuật tốn phát triển dựa sơ đồ thuật toán di truyền với kết thực nghiệm đạt tốt so với kết đạt [6] [7] II GIẢI THUẬT DI TRUYỀN GIẢI BÀI TOÁN MLP GA dựa thuyết chọn lọc tự nhiên Darwin Holland đề xuất vào năm 1970 Hiện nay, GA áp dụng vào việc giải toán nhiều lĩnh vực Sơ đồ chung thuật tốn mô tả sau [8]: Khởi tạo quần thể ban đầu; - Toán tử đột biến đột biến cá thể với xác suất đột biến cho trước (kí hiệu: Pm) Toán tử đột biến giúp cho GA hạn chế hội tụ sớm Ta xét hai toán tử đột biến Toán tử đột biến thứ thực việc đột biến cá thể u = (u1, u2, …, un) sau: Chọn ngẫu nhiên hai vị trí i, j (1 i < j < n), sau đột biến u thành u* = (u1, u2, …, ui, uj+1, uj+2, …, un, ui+1, ui+2,…, uj), nghĩa u* thu từ u cách di chuyển toàn đoạn từ vị trí j+1 đến n vào sau vị trí i Tốn tử đột biến thứ hai thực đột biến cá thể theo toán tử đột biến thứ nhất, sau đó, áp dụng thuật tốn tìm kiếm địa phương 2opt (trong [7]) cho cá thể LOOP Lựa chọn cá thể cha mẹ quần thể toán tử lựa chọn; Lai ghép cá thể cha mẹ chọn để tạo cá thể cháu toán tử lai ghép; Đột biến cá thể cháu toán tử đột biến; Loại bỏ cá thể cha mẹ khỏi quần thể; Bổ sung cá thể cháu vào quần thể; IF thoả mãn điều kiện dừng THEN exit LOOP; END LOOP - Kỹ thuật mã hoá thực việc mã hoá cá thể lời giải toán Với toán MLP, cá thể biểu diễn danh sách đỉnh Chẳng hạn, cá thể đường đi: 1, 3, 4, 2, biểu diễn danh sách P = (1, 3, 4, 2, 5) Ưu điểm kỹ thuật mã hoá đơn giản, dễ cài đặt cho lớp toán MLP - Sau hệ, cá thể cha mẹ bị loại bỏ khỏi quần thể Trong đó, cá thể cháu bổ sung đóng vai trị cá thể cha mẹ hệ - Điều kiện dừng thuật toán: Thuật toán dừng sau 10 hệ lời giải tốt không cải thiện - Khởi tạo quần thể ban đầu với kích thước quần thể k: Chọn đỉnh đỉnh xuất phát, cố định đỉnh Sinh ngẫu nhiên k hốn vị n-1 đỉnh cịn lại Mỗi hoán vị kết hợp với đỉnh xuất phát cho ta cá thể đường III TÍNH TỐN THỰC NGHIỆM 3.1 Dữ liệu thực nghiệm - Toán tử lựa chọn: Chọn ngẫu nhiên nhóm cá thể lời giải với kích thước nhóm cho trước (kí hiệu: N) Sau đó, chọn hai cá thể có độ trễ nhỏ làm cá thể cha mẹ Ưu điểm toán tử lực lựa chọn thay đổi cách dễ dàng cách thay đổi kích thước nhóm Chẳng hạn: Khi giá trị N nhỏ, cá thể có độ thích nghi thấp có nhiều hội lựa chọn giá trị N lớn Dữ liệu thực nghiệm lấy từ liệu TSPLIB95 [10] Bộ liệu gồm số file, file chứa toạ độ n điểm Gọi Xmax, Ymax hoành độ tung độ lớn nhất; Xmin, Ymin hoành độ tung độ nhỏ điểm file, đặt ∆x = (Xmax - Xmin)/n ∆y = (Ymax - Ymin)/n Ta phân liệu thành ba nhóm dựa giá trị ∆x, ∆y Nhóm với ∆x, ∆y nhỏ (∆x, ∆y ≤ 3, điểm phân bố gần nhau), nhóm với ∆x, ∆y lớn TẠP CHÍ KHOA HỌC & CÔNG NGHỆ CÁC TRƯỜNG ĐẠI HỌC KỸ THUẬT SỐ 71 - 2009 (∆x, ∆y ≥ 9, điểm phân bố thưa), nhóm điểm phân bố đặc biệt (chẳng hạn, nhiều điểm cách nhau, nằm đường thẳng) Đối với liệu TSPLIB95, chọn nhóm liệu đại diện để tiến hành làm thực nghiệm xác định giá trị tham số cho thuật tốn Sau đó, với giá trị tham số tìm được, tiến hành thực nghiệm với liệu TSPLIB95 Do có nhiều tham số đầu vào, tiến hành thực nghiệm xác định tham số, thay đổi giá trị tham số chọn cố định giá trị tham số cịn lại, từ xem xét ảnh hưởng tham số chọn đến kết Nhận xét: Pc = 0.6, Pm = 0.02, GA cho kết lời giải với f / f * ∆f thấp ( f / f * = 2.33, ∆f = 0.00025) Chúng ta sử dụng giá trị tham số Thực nghiệm chọn k Tham số cố định: N = 5, Pc = 0.6, Pm = 0.02; tham số thay đổi: k/n = (5, 10, 20, 40) Kết thực nghiệm cho hình Nhận xét: Khi tăng k, chất lượng lời giải tăng theo Tuy nhiên, k tăng đến giá trị đủ lớn, chất lượng lời giải gần không cải thiện (giá trị f/f* gần không cải thiện tăng k lên từ k/n = 20 đến k/n = 40) Như vậy, việc tăng k lúc tăng chất lượng lời giải, chí cịn làm tăng thời gian chạy chương trình Vậy, chọn k/n = 20 phù hợp Dữ liệu đầu vào giải thuật n điểm cho toạ độ mặt phẳng Tham số GA, GAH gồm: k, Pc, Pm N (các ký hiệu giải thích trên) 2.55 Chọn file liệu: St70 (nhóm 1), Berlin52 (nhóm 2), Pr76 (nhóm 3) Chúng ta chọn giá trị tham số mà thuật toán cho giá trị f / f * ∆f nhỏ nhất, f độ trễ lời giải f* độ trễ tối ưu, f / f * ∆f trung bình cộng độ lệch chuẩn f/f* ứng với file liệu thực nghiệm Ký hiệu: GA thuật toán sử dụng toán tử đột biến thứ nhất, GAH thuật toán sử dụng toán tử đột biến thứ hai k/n tỷ số k n 2.5 f/f* 2.45 2.3 2.25 2.2 k/n = k/n = 20 k/n = 40 Trên nhìn vẽ, đường gấp khúc ứng với kết lời giải với tỷ số k/n khác Thực nghiệm chọn N Tham số cố định k/n = 20, Pc = 0.6, Pm = 0.02; tham số thay đổi: N = (5, 10, 15) Hình trình bày kết thực nghiệm chọn N Thực nghiệm lựa chọn giá trị tham số cho thuật toán 2.7 2.6 Berlin52 f/f* 2.5 Thực nghiệm chọn Pc, Pm Tham số cố định: N = 5, k/n = 20; tham số thay đổi: Pc (0.6, 0.8), Pm (0.01, 0.02) Kết thực nghiệm diễn tả hình St70 Pr76 2.4 2.3 2.2 2.1 Nk = Nk = 10 Nk = 15 Hình So sánh kết lời giải với Nk khác 2.44 Pm = ; Pc = Trên nhìn vẽ, đường gấp khúc ứng với kết lời giải với N khác 2.4 Pm = ; Pc = 2.38 f/f* k/n = 10 Hình So sánh kết lời giải với k khác 3.2 Kết thực nghiệm 2.42 Berlin52 St70 Pr76 2.4 2.35 Pm = 7; Pc = 2.36 2.34 Nhận xét: N lớn, lực lựa chọn lớn dẫn đến GA hội tụ sớm, kết lời giải đạt không cao Thực nghiệm cho thấy với N = 5, kết lời giải đạt tốt Pm = 7; Pc = 2.32 Pm = ; Pc = 2.3 2.28 Pm = ; Pc = 2.26 Berlin52 St70 Pr76 Thực nghiệm so sánh kết lời giải GAH GA (hình 4) Tham số cố định: N = 5, Pc = 0.6, Pm = 0.02, k/n = 20 Hình So sánh kết lời giải với Pc, Pm khác Trên nhìn vẽ, đường gấp khúc ứng với kết lời giải với Pc, Pm khác TẠP CHÍ KHOA HỌC & CÔNG NGHỆ CÁC TRƯỜNG ĐẠI HỌC KỸ THUẬT SỐ 71 - 2009 thực nghiệm trước Thực nghiệm tiến hành sau: Mỗi file chạy lần với GA GAH Kết tốt ứng với cột Best, kết tồi ứng với cột Worst, kết trung bình lần chạy ứng với cột Aver Bảng trình bày kết thực nghiệm Các kết bảng diễn tả trực quan hình – 2.36 2.34 2.32 f/f* 2.3 GAH GA 2.28 2.26 2.24 2.22 2.2 Berlin52 St70 Pr76 Hình So sánh kết lời giải GA GAH Nhận xét: Khi áp dụng phép toán đột biến thứ hai, chất lượng lời giải GAH cải thiện so với GA Tuy nhiên, cải thiện thấp ( f / f * = 2.27 so với f / f * = 2.33) Nguyên nhân chủ yếu GAH GA hội tụ sớm Kí hiệu: Các ký hiệu số trục hồnh hình 5–9 tương ứng với file liệu thứ tự bảng AA thuật toán gần Archer, Levin, Williamson [6] LS thuật toán heuristic 2-opt kết hợp với thuật toán k-láng giềng [7] Ng số hệ khảo sát thuật toán Thực nghiệm với liệu TSPLIP95 Tiến hành thực nghiệm thuật toán liệu TSPLIB95 với giá trị tham số tìm 2.7 2.6 f/f* 2.5 Worst 2.4 Aver 2.3 Best 2.2 2.1 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 Hình So sánh kết lời giải GA ứng với kết tốt nhất, tồi nhất, trung bình f/f* 2.55 2.5 2.45 2.4 2.35 Worst Aver 2.3 2.25 2.2 Best 2.15 2.1 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 Hình So sánh kết lời giải GAH ứng với kết tốt nhất, tồi nhất, trung bình 300 250 Ng 200 Worst 150 Best 100 50 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 Hình So sánh tổng số lượng hệ GA ứng với lời giải tồi tốt 300 250 Ng 200 Worst 150 Best 100 50 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 Hình So sánh tổng số lượng hệ GAH ứng với lời giải tồi tốt f/f* GA GAH AA LS 2 10 11 12 13 14 15 16 17 18 19 20 21 22 23 Hình So sánh kết lời giải với thuật toán khác 24 25 26 TẠP CHÍ KHOA HỌC & CÔNG NGHỆ CÁC TRƯỜNG ĐẠI HỌC KỸ THUẬT SỐ 71 - 2009 trung bình cịn lớn cỡ 2.37 lần giá trị tối ưu Nguyên nhân GA, GAH hội tụ sớm đến cực trị địa phương Nhận xét: Hình 5, hình cho thấy chênh lệch kết thực nghiệm lời giải tốt nhất, tồi trung bình GA, GAH thấp Điều chứng tỏ kết GA, GAH với liệu khác có độ ổn định tương đối cao Hình 7, hình cho thấy GA, GAH hội tụ sớm đến lời giải cực trị địa phương (tổng số hệ hai trường hợp liệu TSPLIB95 dao động ổn định khoảng từ 95 đến 252 hệ) Kết thực nghiệm từ bảng cho thấy, chất lượng lời giải khơng hồn tồn phụ thuộc vào số lượng hệ (ví dụ: Pr76 áp dụng GA: f/f* = 2.37 với Ng = 120, khi, f/f* = 2.33 với Ng = 95) Điều cho thấy việc tránh hội tụ sớm, nâng cao chất lượng lời giải không đơn nâng cao số lượng hệ Hình chứng tỏ kết thu GA GAH tốt so với AA LS Tuy nhiên, chất lượng lời giải đạt thấp: Giá trị tốt đạt GA GAH IV KẾT LUẬN Kết thực nghiệm đạt áp dụng thuật toán di truyền giải tốn MLP trình bày báo tốt so với kết đạt từ thuật tốn gần tốt biết Có thể thấy thuật tốn di truyền hướng có triển vọng để giải toán MLP Tuy nhiên, kết thực nghiệm đạt thấp (giá trị tốt trung bình tìm cịn lớn cỡ 2.37 giá trị tối ưu) Điều cho thấy GA, GAH đề xuất hội tụ sớm Việc khắc phục hội tụ sớm tổng quát hoá kết thực nghiệm đạt để nâng cao chất lượng lời giải bàn đến cơng trình Bảng So sánh chất lượng lời giải thuật toán Dữ liệu (1) Berlin52 (2) Eil101 (3) Eil76 (4) Eil51 (5) KroA100 (6) KroA150 (7) KroB100 (8) KroB150 (9) KroC100 (10) KroD100 (11) KroE100 (12) Lin105 (13) Pr107 (14) Pr124 (15) Pr136 (16) Pr144 (17) Pr76 (18) Rat195 (19) Rat99 (20) Rd100 (21) Rd400 (22) St70 (23) U195 (24) U574 (25) Ts225 (26) Vm1084 Worst f/f* Ng 2.37 104 2.57 184 2.49 120 2.41 123 2.49 184 2.51 154 2.54 164 2.55 187 2.53 165 2.50 145 2.47 214 2.57 195 2.50 242 2.40 214 2.48 212 2.50 214 2.37 120 2.59 241 2.56 154 2.44 167 2.46 242 2.35 117 2.52 215 2.59 251 2.57 210 3.20 242 GA Aver f/f* 2.35 2.55 2.47 2.37 2.45 2.48 2.52 2.53 2.52 2.47 2.45 2.53 2.47 2.37 2.45 2.47 2.35 2.57 2.55 2.43 2.43 2.33 2.47 2.56 2.56 3.16 Best f/f* Ng 2.34 84 2.53 168 2.45 110 2.35 135 2.43 170 2.45 126 2.47 187 2.49 186 2.50 174 2.45 174 2.44 221 2.50 225 2.45 202 2.35 214 2.44 220 2.45 201 2.33 95 2.56 230 2.54 197 2.39 195 2.41 220 2.32 110 2.44 234 2.54 252 2.54 217 3.12 228 Worst f/f* Ng 2.37 91 2.51 164 2.42 179 2.36 110 2.41 165 2.39 179 2.43 135 2.42 172 2.38 123 2.39 167 2.40 178 2.35 210 2.40 221 2.32 198 2.38 214 2.41 210 2.30 110 2.50 223 2.46 186 2.35 167 2.37 212 2.30 134 2.50 221 2.48 241 2.48 184 3.18 235 10 GAH Aver f/f* 2.34 2.47 2.39 2.34 2.36 2.37 2.38 2.40 2.36 2.36 2.37 2.32 2.38 2.28 2.36 2.36 2.27 2.48 2.44 2.32 2.34 2.26 2.44 2.46 2.45 3.13 Best f/f* Ng 2.32 100 2.43 152 2.36 173 2.32 114 2.34 124 2.35 214 2.36 154 2.38 167 2.35 142 2.33 176 2.36 184 2.30 210 2.35 214 2.26 214 2.34 213 2.32 212 2.25 121 2.46 231 2.43 186 2.30 158 2.32 232 2.25 124 2.42 231 2.44 224 2.43 185 3.10 241 Worst LS Aver Best AA 3.83 3.45 3.56 2.72 4.21 4.52 4.29 4.25 4.51 4.63 4.85 4.18 3.68 4.37 4.68 3.21 3.58 3.48 3.65 4.17 4.20 4.12 4.63 4.54 3.96 4.64 3.51 3.42 3.52 2.65 4.01 4.21 3.92 4.14 4.41 4.42 4.75 4.05 3.56 4.21 4.53 3.17 3.46 3.42 3.48 4.05 4.15 4.05 4.36 4.51 3.79 4.61 3.42 3.39 3.44 3.02 3.87 3.89 3.84 3.98 4.35 4.35 4.73 3.91 3.21 4.12 4.45 3.14 3.34 3.31 3.27 3.97 4.13 4.01 4.23 4.48 3.54 4.58 3.36 3.17 3.24 3.34 3.02 3.07 2.88 2.89 2.79 3.14 3.01 2.84 2.40 3.28 3.01 2.89 2.97 2.73 2.89 2.97 3.19 2.94 2.94 3.10 2.86 3.66 TẠP CHÍ KHOA HỌC & CƠNG NGHỆ CÁC TRƯỜNG ĐẠI HỌC KỸ THUẬT SỐ 71 - 2009 TÀI LIỆU THAM KHẢO S Sahni, T Gonzalez; P-complete approximation problems, Journal of the ACM 23 (1976) 555– 565 A Blum, P Chalasani, D Coppersmith, B Pulleyblank, P Raghavan and M Sudan; The minimum latency problem Proceedings of 26th ACM Sympon Theory Of Computing(STOC), pp 163{171, 1994} B.Y Wu, Z N Huang and F.-J Zhan (2004/12); Exact algorithms for the minimum latency problem; Information Processing Letters, vol 92(6), pp 303-309 M Goemans and J Kleinberg; An improved approximation ratio for the minimum latency problem; Proc 7th ACMSIAM Symposium on Discrete Algorithms (SODA), pp 152-158, 1996 N Garg; A 3-approximation for the minimum tree spanning k vertices Proc 37th IEEE Symp; On Foundations of Computer Science (FOCS), pp.302 {309, 1996} Aaron Archer, Asaf Levin, David Williamson; A Faster, Better Approximation Algorithm for the Minimum Latency Problem; Proceedings of the 14th Annual ACM-SIAM Symposium on Discrete Algorithms, 2003 http://www.postech.ac.kr/~bkim/tsp_report.doc Melanie Mitchel; An introduction to genetic algorithms; MIT Press Cambridge, MA, USA, 1996 P Larranaga, C.M.H, Kuijpers, R.H.Murga I Inza and S Dizdarevic; A review of representations and operators; Department of Computer science and Atificial Intelligence, P.O Box 649, University of Basque, spain 10 http://www.iwr.uni-heidelberg.de/groups/comopt/software/TSPLIB95/ Địa liên hệ: Nguyễn Đức Nghĩa - Tel: 0903.210.111, email: nghiand@it-hut.edu.vn Ban Hà Bằng – Tel: 0985.819.467, email: bangbh_bkit@yahoo.com Khoa Công nghệ thông tin, Trường Đại học Bách khoa Hà Nội 11