Bài toán tối ưu hóa tổ hợp có thể xem như bài toán tìm kiếm giải pháp tốt nhấttrong không gian vô cùng lớn các giải pháp.. Giải thuật di truyền là một kỹ thuật của khoa học máy tính nhằm
Trang 1MỤC LỤC
MỤC LỤC 1
LỜI NÓI ĐẦU 2
CHƯƠNG I - TỔNG QUAN VỀ GIẢI THUẬT DI TRUYỀN 3
1 Khái niệm 3
2 Các bước của giải thuật di truyền 6
2.1 Khởi tạo quần thể (initialize) 6
2.2 Tính toán độ thích nghi(evaluate) 6
2.3 Chọn lọc(select) 6
2.4 Quá trình sinh sản 7
CHƯƠNG II- BÀI TOÁN XẾP BA LÔ 10
1 Giới thiệu 10
2 Nội dung bài toán 10
3 Bài toán xếp ba lô dạng 0-1 11
4 Ví dụ 11
CHƯƠNG III - ỨNG DỤNG GIẢI THUẬT DI TRUYỀN TRONG BÀI TOÁN XẾP BA LÔ 12
1 Tiếp cận giải thuật di truyền trong bài toán ba lô 12
2 Sử dụng giải thuật di truyền để giải bài toán xếp ba lô 13
2.1 Khởi tạo dữ liệu 14
2.2 Mã hóa dữ liệu Khởi tạo số lượng dân số ngẫu nhiên 16
2.3 Tính độ thích nghi của mỗi NST 16
2.4 Chọn lọc 18
2.5 Lai ghép 21
2.6 Đột biến 25
KẾT LUẬN 27
TÀI LIỆU THAM KHẢO 28
Trang 2LỜI NÓI ĐẦU
Với khả năng hiện nay, máy tính đã giúp giải được rất nhiều bài toán khó màtrước đây thường bó tay Mặc dù vậy vẫn có một số lớn các bài toán thú vị mà chưa
có giải thuật hợp lý để giải chúng Trong đó các bài toán tối ưu là những bài toánthường gặp trong thực tiễn
Bài toán tối ưu hóa tổ hợp có thể xem như bài toán tìm kiếm giải pháp tốt nhấttrong không gian vô cùng lớn các giải pháp Khi không gian tìm kiếm nhỏ, nhữngphương pháp cổ điển như trên cũng đủ thích hợp, nhưng khi không gian tìm kiếm lớnphải dùng kỹ thuật trí tuệ nhân tạo đặc biệt Thuật giải di truyền (GA) là một trongnhững kỹ thuật đó
Giải thuật di truyền là một kỹ thuật của khoa học máy tính nhằm tìm kiếm giải
pháp thích hợp cho các bài toán tối ưu tổ hợp (combinatorial optimization) Giải thuật
di truyền là một phân ngành của giải thuật tiến hóa vận dụng các nguyên lý của tiếnhóa như di truyền, đột biến, chọn lọc tự nhiên, và trao đổi chéo
Ngày nay, giải thuật di truyền được dùng phổ biến trong một số ngành như tin sinhhọc, khoa học máy tính, trí tuệ nhân tạo, tài chính và một số ngành khác
Bài toán xếp ba lô (một số sách ghi là bài toán cái túi) là một bài toán tối ưu hóa tổhợp Bài toán được đặt tên từ vấn đề chọn những gì quan trọng có thể nhét vừa vàotrong một cái túi (với giới hạn khối lượng) để mang theo trong một chuyến đi Các bàitoán tương tự thường xuất hiện trong kinh doanh, toán tổ hợp, lý thuyết độ phức tạptính toán, mật mã học và toán ứng dụng
Chính vì ứng dụng lớn của giải thuật di truyền( GA) và bài toán xếp ba lô, với sự
giúp đỡ của thầy Trần Thanh Hùng giáo viên bộ môn Giải thuật di truyền, chúng
em tiến hành đi tìm hiểu về giải thuật di truyền và ứng dụng của giải thuật di truyềntrong bài toán xếp ba lô với đề tài “Tìm hiều và ứng dụng của thuật giải di truyền trongbài toán xếp ba lô”
Sinh viên thực hiện:
Trang 3CHƯƠNG I - TỔNG QUAN VỀ GIẢI THUẬT DI TRUYỀN
Tư tưởng của thuật toán di truyền là mô phỏng các hiện tượng tự nhiên: Kế thừa
và đấu tranh sinh tồn để cái tiến lời giải và khảo sát không gian lời giải khái niệm kếthừa và đấu tranh sinh tồn được giải thích qua thí dụ về sự tiến hóa của một quần thểthỏ như sau:
Có một quần thể thỏ, trong đó có một số con nhanh nhẹn và thông minh hơnnhững con khác Những chú thỏ nhanh nhẹn và thông minh có xác suất bị chồn cáo
ăn thịt nhỏ hơn, do đó cũng tồn tại dể làm những gì tốt nhất có thể : Tạo thêmnhiều thỏ tốt Dĩ nhiên, một số thỏ chậm chạp đần độn cũng sống sót vì may mắn.Quần thể những chú thỏ còn sống sót sẽ bắt đầu sinh sản Việc sinh sản này sẽ tạo
ra một hỗn hợp tốt về "nguyên liệu di truyền thỏ" Một số thỏ chậm chạp có con
với những con thỏ nhanh, một số nhanh nhẹn có con với thỏ nhanh nhẹn, một sốthông minh với thỏ đần độn… Và trên tất cả thiên nhiên lại ném vào một con thỏ
"hoang dã" bằng cách làm đột biến nguyên liệu di truyền thỏ Những chú thỏ con dokết quả này sẽ nhanh hơn và thông minh hơn những con thỏ trong quần thể gốc vì cónhiều bố mẹ nhanh nhẹn và thông minh hơn đã thoát chết khỏi chồn cáo
Khi tìm kiếm lời giải tối ưu , thuật toán di truyền cũng thực hiện các bước tương ứng với câu chuyện đấu tranh sinh tồn của loài thỏ.
Thuật toán di truyền sử dụng các thuật ngữ vay mượn của di truyền học Ta có
thể nói về các cá thể (hay kiểu gen, cấu trúc) trong một quần thể, những cá thể này cũng còn được gọi là chuỗi hay các nhiễm sắc thể.
Mỗi kiểu gen (ta gọi là một nhiễm sắc thể) sẽ biểu diễn một lời giải của bài toánđang giải (ý tưởng của một nhiễm sắc thể cụ thể được người sử dụng xác định trước),một tiến trình tiến hóa được thực hiện trên một quần thể các nhiễm sắc thể tương ứngvới một quá trình tìm kiếm lời giải trong không gian lời giải Tìm kiếm đó cần cânđối hai mục tiêu: Khai thác những lời giải tốt nhất và khảo sát không gian tìm kiếm.Leo đồi là một ví dụ về chiến lược cho phép khai thác và cải thiện lời giải tốt nhấthiện hành nhưng leo đồi lại bỏ qua việc khảo sát không gian tìm kiếm Ngược lại, tìmkiếm ngẫu nhiên là một ví dụ điển hình của chiến lược khảo sát không gian tìm
Trang 4kiếm mà không chú ý đến việc khai thác những vùng đầy hứa hẹn của không gian.
Thuật toán di truyền (GA) là phương pháp tìm kiếm (độc lập miền) tạo được sự cân
đối đáng kể giữa việc khai thác và khảo sát không gian tìm kiếm
Thực ra, GA thuộc lớp các thuật giải xuất sắc, nhưng lại rất khác những thuật giảingẫu nhiên vì chúng kết hợp các phần tử tìm kiếm trực tiếp và ngẫu nhiên Khác biệtquan trọng giữa tìm kiếm của GA và các phương pháp tìm kiếm khác là GA duy trì
và xử lý một tập các lời giải (ta gọi là một quần thể)
Theo đề xuất của giáo sư John Holland, một vấn đề bài toán đặt ra sẽ được mã hóathành các chuỗi với chiều dài bit cố định Nói một cách chính xác là các thông số củabài toán sẽ được chuyển đổi và biểu diễn lại dưới dạng các chuỗi nhị phân Các thông
số này có thể là các biến của một hàm hoặc hệ số của một biểu thức toán học Người
ta gọi các chuỗi bít này là mã genome ứng với mỗi cá thể, các genome đều có
cùng chiều dài Nói ngắn gọn, một lời giải sẽ được biểu diễn bằng một chuỗi bít,cũng như mỗi cá thể đều được quy định bằng gen của cá thể đó vậy Như vậy, đốivới thuật giải di truyền, một cá thể chỉ có một gen duy nhất và mọt gen cũng chỉphục vụ cho một cá thể duy nhât Do đó, gen chính là cá thể và cá thể chính là gen Ban đầu, ta sẽ phát sinh một số lượng lớn, giới hạn các cá thể có gen ngẫu nhiên -nghĩa là phát sinh một tập hợp các chuỗi bit ngẫu nhiên Tập các cá thể này được gọi
là quần thể ban đầu (initial population) Sau đó, dựa trên một hàm nào đó, ta sẽ xác định được một giá trị có độ thích nghi - Fitness Giá trị này, để đơn giản cho đơn giản
chính là độ "tốt" của lời giải hay đọ cao trong tìm kiếm theo kiểu leo đồi Vì phát sinhngẫu nhiên nên độ "tốt" của lời giải hay tính thích nghi của cá thể trong quần thể banđầu là không xác định
Để cải thiện tính thích nghi của quần thể người ta tìm cách tạo ra quần thể mới Cóhai cách thao tác thực hiện trên thế hệ hiện tại để tạo ra một thế hệ khác với độ thíchnghi tốt hơn
Thao tác đầu tiên là sao chép nguyên mẫu một nhóm các cá thể tốt từ thế hệ trước rồi đưa sang thế hệ sau (selection) Thao tác này đảm bảo độ thích nghi của thế hệ
sau luôn được giữ ở một mức độ hợp lý Các cá thể được chọn thông thường là các cáthể có độ thích nghi cao nhất
Thao tác thứ hai là tạo ra cá thể mới bằng cách thực hiện các thao tác sinh sản
trên một số cá thể được chọn từ thế hệ trước, thông thường cũng là những cá thể có độ
thích cao Có hai loại thao tác sinh sản: một là thao tác lai tạo (crossover), hai là đột biến (mutalion) Trong thao tác lai tạo, từ gen của hai cá thể được chọn trong thế hệ
trước sẽ được phối hợp với nhau (theo một quy tác nào đó) để tạo thành hai gen mới.Thao tác chọn lọc và lai tạo giúp tạo ra thế hệ sau Tuy nhiên, nhiều khi do thế
hệ khởi tạo ban đầu có đặc tính chưa phong phú và chưa phù hợp nên các cá thểkhông rải đều được không gian của bài toán (tương tự như trường hợp leo đồi, các
Trang 5người leo đồi tập trung dồn vào một góc trên vùng đất) Từ đó, khó có thể tìm ra lờigiải tối ưu cho bài toán Thao tác đột biến sẽ giúp giải quyết được vấn đề này Đó là
sự biến đổi ngẫu nhiên một hoặc nhiều thành phần gen của một cá thể ở thế hệtrước tạo ra một cá thể hoàn toàn mới ở thế hệ sau Nhưng thao tác này chỉ đượcphép xảy ra với tần suất rất thấp (thường dưới 0.01), vì thao tác này có thể gây xáotrộn và làm mất đi những cá thể chọn lọc và lai tạo có tính thích nghi cao, dẫn đếnthuật toán không còn hiệu quả
Thế hệ mới được tạo ra lại được xử lý như thế hệ trước cho đến khi có một cá thểđạt được giải pháp mong muốn hoặc đạt đến thời gian giới hạn
Hình 1 Sơ đồ giải thuật di truyền Cấu trúc của giải thuật di truyền như sau:
Trang 6Recombine structures in C(t) forming C'(t)
Mutate structures in C' (t) forming C'' (t)
Evaluate structures in C''(t)
Replace P(t) from C''(t) and/or P (t - 1)
2 Các bước của giải thuật di truyền
2.1 Khởi tạo quần thể (initialize )
Quần thể đầu tiên được khởi tạo một cách ngẫu nhiên từ tập hợp những cá thểriêng lẻ Kích cỡ của quần thể đầu tiên phụ thuộc vào yếu tố tự nhiên của bài toán,nhưng nhìn chung thì một bài toán có đến hàng trăm hay hàng nghìn giải pháp hợp lý
Tập hợp những giải pháp hợp lý cho vấn đề được gọi là không gian tìm kiếm (search space) Trước một bài toán áp dụng thuật toán di truyền, ta cần phải xác định rõ
nhiễm sắc thể và cá thể cho vấn đề, và thông thường đó sẽ là kết quả cuối cùng
Việc phân tích sẽ dựa trên kết quả cơ bản tốt nhất.
Các quá trình tiến hóa diễn ra trong vòng lặp While, tại thế hệ thứ t, thuật toán di
truyền duy trì một tập lời giải P(t) = {xt1, xt2, ,…, xtn } Mỗi lời giải xti được đánh
giá "độ thích nghi ", hay độ "tốt" của lời giải.
2.3 Chọn lọc(select)
Phép chọn là quá trình loại bỏ các cá thể xấu trong quần thể để chỉ dữ lại trongquần thể các cá thể tốt
Phép chọn được mô phỏng:
Sắp xếp quần thể theo thứ tự độ thích nghi giảm dần
Loại bỏ các cá thể cuối dãy để chỉ giữ lại n cá thể tốt nhất Giả sử ở đây quần thể cókích thước cố định n
Có nhiều phương pháp chọn lọc nhiễm sắc thể:
Chọn lọc Roulette (Roulett Wheel Selection)
Trang 7Chọn lọc xếp hạng (Rank Selection).
Chọn lọc cạnh tranh (Tournament Selection)
Ví dụ về Chọn lọc Roulette (Roulett Wheel Selection)
Có hai loại thao tác sinh sản
- Phép lai tạo (Crossover): là quá trình hình thành nhiễm sắc thể mới trên cơ sở
nhiễm sắc thể cha mẹ bằng cách ghép một hay nhiều đoạn gen của hai hay nhiềunhiễm sắc thể cha mẹ với nhau
Có những phương pháp lai ghép sau:
- Lai ghép ánh xạ từng phần (PMX Partial Mapped Crossover)
- Lai ghép có trật tự (OX order Crossover)
- Lai ghép dựa trên vị trí (Position Based Crossover)
- Lai ghép dựa trên thứ tự (Order Base Crossover)
- Lai ghép có chu trình (CX cycle Crossover)
- Lai ghép thứ tự tuyến tính (LOX Linear order Crossover)
Phép lai tạo xảy ra với xác suất pc, được mô phỏng như sau:
Trang 8Chọn ngẫu nhiên một hay nhiều cá thể bất kỳ trong quần thể Giả sử các nhiễm sắcthể của cha mẹ đều có m gen.
Tạo một số ngẫu nhiên trong khoảng từ 1 đến m - 1 (được gọi là điểm lai) Điểmlai chia các chuỗi cha mẹ có độ dài m thành hai nhóm chuỗi con với độ dài m1, m2hai chuỗi nhiễm sắc thể mới là m11 + m12 và m21 + m22
Đưa hai cá thể mới vào quần thể để tham gia các quá trình tiến hóa tiếp theo
Ví dụ : Hai nhiễm sắc thể cha mẹ :
Thì việc trao đổi chéo các nhiễm sắc thể sau gen thứ năm sẽ tạo ra hai con:
- Phép đột biến (mutalion): Phép đột biến là hiện tượng cá thể con mang một
(hoặc một số) tính trạng có trong mã di truyền của cha mẹ, tức là sự sửa đổi một hoặcmột vài gen của một nhiễm sắc thể chọn bằng cách thay đổi ngẫu nhiên với xác suất là
tỷ lệ đột biến
Không ai có thể đánh giá được phương pháp đột biến nào tốt hơn, do đó có mộtvài phương pháp đơn giản, cũng có vài trường hợp khá phức tạp Người ta thườngchọn một trong những phương pháp sau :
- Đột biến đảo ngược (Inversion Mutation)
- Đột biến chèn (Insertion Mutation)
- Đột biến thay thế (Displacement Mutation)
Trang 9- Đột biến tương hỗ (Reciprocal Exchange).
- Đột biến chuyển dịch (Shift Mutation)
Phép đột biến xảy ra với xác suất pm nhỏ hơn rất nhiều so với xác suất lai pc.Phép đột biến có thể được mô phỏng:
- Chọn ngẫu nhiên một cá thể bất kỳ cha mẹ trong quần thể
- Tạo một số ngẫu nhiên k trong khoảng từ 1 đến m với 1≤ k ≤ m
- Thay đổi gen thứ k và trả cá thể này về quần thể để tham gia vào quá trìnhtiến hóa tiếp theo
Một thuật giải di truyền, giải một bài toán được cho phải có năm thành phần:
- Một cấu trúc dữ liệu biểu diễn không gian lời giải của bài toán
- Phương pháp khởi tạo quần thể ban đầu P(0)
- Hàm định nghĩa độ thích nghi evaluate đóng vai trò môi trường
- Các phép toán di truyền như đã mô phỏng trên
- Và các tham số thuật toán di truyền sử dụng (kích thước, quần thể, xác suấtlai, đột biến…)
Điều kiện kết thúc
Thoát ra quá trình tiến hóa quần thể, dựa vào bài toán mà có các cách kết thúcvấn đề khác nhau, một khi đã đạt đến mức yêu cầu Một vài trường hợp thông thườngnhư sau:
- Kết thúc theo kết quả: một khi đạt đến mức giá trị yêu cầu thì chấm dứt ngayquá trình thực hiện
- Kết thúc dựa vào số thế hệ: chọn số thế hệ, quá trình sẽ dừng lại đúng ngay
số thế hệ đã qui định trước, không cần biết kết quả như thế nào
- Tính theo thời gian: Không cần biết đã bao nhiêu thế hệ hay kết quả thế nào,chỉ cần dựa vào số giờ qui định mà kết thúc
- Tổ hợp: dung nhiều phương án khác nhau cho vấn đề, chẳng hạn như: chạytheo số thế hệ xong sau đó đánh giá cho chạy theo kết quả, hoặc ngược lại
Trang 10CHƯƠNG II - BÀI TOÁN XẾP BA LÔ
1 Giới thiệu
Bài toán xếp ba lô (một số sách ghi là bài toán cái túi) là một bài toán tối ưu hóa
tổ hợp Bài toán được đặt tên từ vấn đề chọn những gì quan trọng có thể nhét vừa vàotrong một cái túi (với giới hạn khối lượng) để mang theo trong một chuyến đi Các bàitoán tương tự thường xuất hiện trong kinh doanh, toán tổ hợp, lý thuyết độ phức tạptính toán, mật mã học và toán ứng dụng
Bài toán xếp ba lô thường được giải bằng quy hoạch động, tuy chưa có một thuậttoán thời gian đa thức cho bài toán tổng quát Cả bài xếp ba lô tổng quát và bài toántổng con đều là các bài NP-khó, và điều này dẫn đến các cố gắng sử dụng tổng conlàm cơ sở cho các hệ thống mật mã hóa khóa công khai, chẳng hạn Merkle-Hellman.Các cố gắng này thường dùng nhóm thay vì các số nguyên Merkle-Hellman và một sốthuật toán tương tự khác đã bị phá, do các bài toán tổng con cụ thể mà họ tạo ra thực ralại giải được bằng các thuật toán thời gian đa thức
Phiên bản bài toán quyết định của bài xếp ba lô được mô tả ở trên là NP-đầy đủ vàtrong thực tế là một trong 21 bài toán NP-đầy đủ của Karp
Bài toán có thể được giải bởi khá nhiều thuật toán như thuật toán tham lam, giảithuật di truyền,…
2 Nội dung bài toán
Một kẻ trộm đột nhập vào một cửa hiệu tìm thấy có n mặt hàng có trọng lượng vàgiá trị khác nhau, nhưng hắn chỉ mang theo một cái túi có sức chứa về trọng lượng tối
đa là M Vậy kẻ trộm nên bỏ vào ba lô những món nào và số lượng bao nhiêu để đạtgiá trị cao nhất trong khả năng mà hắn có thể mang đi được
Trang 11Hình 3 Ba lô
3 Bài toán xếp ba lô dạng 0-1
Đồ vật nào được cho vào ba lô sẽ là loại 1 (được chọn), còn không được cho vào ba
lô sẽ là loại 0( không được chọn)
Bài toán dạng 0-1 sẽ được phát biểu như sau:
Khối lượng tối đa của túi là: 26
Nếu biểu diễn 1 lần nhặt đồ vào túi v1 dưới dạng 0-1 ta sẽ có:
Trang 12- Khối lượng:
5x1+ 3x0 +10x0 +6x1 +5x1 +5x0 +5x1 +4x1 +4x0 = 25 (thỏa mãn)
BÀI TOÁN XẾP BA LÔ
1 Tiếp cận giải thuật di truyền trong bài toán ba lô
Có 3 mặt hàng tiềm năng: A, B, C có khối lượng và giá trị tương ứng
Từ 3 đồ vật được đưa ra ta có 8 trạng thái của ba lô như sau:
Trang 13Để tìm được giải pháp tốt nhất, ta liệt kê các tập con đáp ứng các khối lượng tối đa(=13) của ba lô
Vấn đề đặt ra:
Nếu bài toán nếu ra có 4 đồ vật trở lên , thì số lượng phương án cũng sẽ nhiều lên.Ứng với mỗi đồ vật số lượng phương án sẽ tăng lên 2 lần Số lượng này sẽ ra vô cùngnhiều với số đồ vật lớn Thời gian máy tính thực hiện sẽ rất lớn để đưa ra kết quả.Vậy đòi hỏi 1 thuật toán để giải quyết những bài toán loại này Trong nội dung bàitập lớn này, chúng ta đi giải quyết nó theo giải thuật di truyền tiến hóa, sẽ được trìnhbày ở chương sau
Thay vì tìm kiếm rộng rãi như ví dụ ở trên để tìm được kết quả đúng nhất, giảithuật di truyền sử dụng trình tự các bước của quá trình tiến hóa, chọn 1 khoảng nhỏcủa các trạng thái(nhiễm sắc thể) ở trong các tập con trạng thái(quần thể) để đưa ra cáccặp tốt nhất, có độ thích nghi cao nhất, ở đây là có giá trị cao nhất Từ đó lai ghép đểtạo ra các thế hệ con cái mang đặc tính tốt của cả bố và mẹ Giải thuật di truyền không
cố gắng tìm phương án đúng nhất mà đi tìm các phương án gần đúng với phương ánđúng nhất, nhưng vẫn đảm bảo về thời gian thực hiện
2 Sử dụng giải thuật di truyền để giải bài toán xếp ba lô
Để hiểu việc áp dụng giải thuật di truyền để giải bài toán ba lô như thế nào? Ta tiếnhành giải ví dụ về bài toán ba lô dưới đây:
2.1 Khởi tạo dữ liệu
Bài toán:
Cho bảng các đồ vật có khối lượng và giá trị tương ứng như sau:
Trang 141 2 3 4 5 6 7
Khối lượng tối đa của ba lô có thể chứa là 22
Sơ đồ bài toán xếp ba lô giải theo giải thuật di truyền như sau:
Điều kiện chấm dứt của sơ đồ là:
- 90% các NST của dân số có cùng độ thích nghi