Một trong những lĩnh vực đó là kỹ thuật tính toán thông minh Computational Intelligent trong đó có Thuật giải di truyền Geneic Algorithms - GA đã đem lại những phương pháp mới để giải c
Trang 1ĐẠI HỌC QUỐC GIA TP.HCM
TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN
Bài thu hoạch môn
THUẬT TOÁN VÀ PHƯƠNG PHÁP GIẢI QUYẾT VẤN
MSHV: CH1301089
TP HCM, Tháng 10 năm 2014
Mục Lục
Trang 3Đặt vấn đề
Hiện nay và trong tương lai, trí tuệ nhân tạo (Artificial Intelligent) đã, đang và sẽ được nghiên cứu, phát triển rất mạnh mẽ và được ứng dụng rộng rãi Đây là một mảng chuyên môn rất lớn trong khoa học máy tính, bao gồm nhiều lĩnh vực khác nhau
Một trong những lĩnh vực đó là kỹ thuật tính toán thông minh (Computational Intelligent) trong đó có Thuật giải di truyền (Geneic Algorithms - GA) đã đem lại những
phương pháp mới để giải các bài toán mà nếu áp dụng phương pháp truyền thống sẽ gặp nhiều khó khăn
Trong lĩnh vực lập lịch (hay lập thời khóa biểu), giải thuật di truyền đã thu hút được rất nhiều các nghiên cứu và đề xuất Lý do cho xu hướng này có thể thấy là bài toán lập lịch nhìn chung thuộc lớp các bài toán NP-khó (NP hard) và vì vậy, rất cần các giải thuật xấp xỉ
Về cơ bản, bài toán lập lịch được coi như là việc gán các mốc thời gian (time slots) thực hiện cho các công việc (tasks) sao cho phù hợp với khả năng về tài nguyên (resources) Tuy nhiên, sự đa dạng thể hiện ở các thể loại ràng buộc khác nhau và mỗi một bài toán thực tế sẽ
có những ràng buộc đặc trưng riêng
Các nghiên cứu đề xuất giải thuật di truyền cho bài toán lập lịch luôn luôn là một chủ đề nóng Mục đích chính của chuyên đề này là tìm hiểu Thuật giải di truyền, từ đó đưa ra các phân tích, mô hình toán học, và cuối cùng là cài đặt cụ thể cho bài toán xếp lịch ở tổng đài điện thoại
Tôi xin chân thành cảm ơn thầy PGS.TS Đỗ Văn Nhơn đã tận tình giảng dạy, truyền đạt những kiến thức liên quan tới môn học, cung cấp thông tin, tư liệu cho chúng em để hoàn thành được bài tiểu luận này Tuy có nhiều cố gằng, nhưng với lượng kiến thức còn hạn hẹp không tránh khỏi thiếu sót trong quá trình thực hiện, mong nhận được ý kiến đóng góp của thầy để em có thể hoàn thiện hơn
Em xin chân thành cảm ơn!
Học viên
Vũ Thị Hường
Trang 4PHẦN 1 Tổng quan về Thuật giải di truyền và các ứng dụng.
1 Thuật giải di truyền
Giải thuật di truyền (GA) là một trong những mô hình tính toán phổ biến và thành công nhất trong lĩnh vực tính toán thông minh Cùng với các kỹ thuật tính toán thông minh khác như tính toán mờ (fuzzy computing), mạng Nơ-ron (neural networks), hệ đa tác tử (multi- agent systems), trí tuệ bầy đàn (swarm intelligence), giải thuật di truyền ngày càng phát triển, được áp dụng rộng rãi trong các lĩnh vực của cuộc sống Có thể nói, GA
đã bước đầu được áp dụng thành công trong các trường hợp, mà việc mô tả toán học cho bài toán gặp rất nhiều khó khăn Ví dụ: các hệ thống phức hợp (complex systems) với các hàm mục tiêu ẩn và các mối ràng buộc phức tạp, các bài toán thiết kế với các hàm mục tiêu quá phức tạp không tuyến tính, hay các bài toán lập kế hoạch/lập lịch với không gian tìm kiếm NP-khó (NP-hard) [2]
Thuật giải di truyền (GA) là kỹ thuật chung giúp giải quyết vấn đề bài toán bằng cách
mô phỏng sự tiến hóa của con người hay của sinh vật nói chung (dựa trên thuyết tiến hóa muôn loài của Darwin) trong điều kiện qui định sẵn của môi trường GA là một thuật giải, nghĩa là mục tiêu của GA không nhằm đưa ra lời giải chính xác tối ưu mà là đưa ra lời giải
tương đối tối ưu.
Các nguyên lý cơ bản của Thuật giải di truyền được tác giả J.H.Holland công bố lần đầu tiên vào năm 1962 Sau đó, các nền tảng toán học của giải thuật lần đầu tiên được công
bố vào năm 1975 trong cuốn sách “Adaptation in Natural and Artificial System” cũng của
tác giả J.H.Holland Có thể nói Holland là người đi tiên phong nghiên cứu trong lĩnh vực Thuật giải di truyền cùng với những tác giả Goldbeg, Beglay…
Thuật giải di truyền là một giải thuật dựa trên cơ chế của chọn lọc tiến hoá trong tự nhiên: “Trong mọi thế hệ, một tập mới các sinh vật được tạo ra bằng cách lai ghép những nhân tố thích nghi nhất với môi trường của những sinh vật trong thế hệ cũ cùng với sự xuất hiện đột biến ngẫu nhiên của các cá thể trong thế hệ mới” Vận dụng cơ chế đó, Thuật giải di truyền được bắt đầu với một quần thể ngẫu nhiên có n chuỗi , rồi sao chép các chuỗi theo khuynh hướng đến cái tốt, ghép cặp và đổi các chuỗi con thành phần, thỉnh thoảng làm đột biến giá trị bit để có số đo tốt
2 Các yếu tố của thuật toán di truyền đơn giản
Representation (sự biểu diễn): trong thuật giải di truyền (GA), giải pháp tiềm ẩn
được mã hóa thành chuỗi các ký tự từ bảng chữ cái, A=a1a2 aL Thường thì nó là các ký
tự nhị phân tuy nhiên cũng có thể là các ký tự mở rộng của bảng chữ cái, thỉnh thoảng
sử dụng đọc số
Trang 5Thuật toán di truyền sử dụng ngôn ngữ riêng để mô tả, chuỗi A được gọi là nhiễm sắc thể, những thành phần của chuỗi như a1, a2, được gọi là gen, giá trị mà gen nhận được gọi là thuộc tính gen, trong hầu hết các chuỗi nhị phân phổ biến là 0 hoặc 1, ví dụ như trong nhiễm sắc thể A= 11110000 thì 4 gen đầu có thuộc tính 1 còn 4 gen sau có thuộc tính 0
Fitness Function (hàm mục tiêu): Fitness Function có nhiệm vụ tìm ra chuỗi tối ưu
Tính chất tốt của chuỗi được đặc trưng trong GA ở chức năng của nó, các tính chất này được gọi là chức năng mục tiêu (objective function) và số lượng sẽ được tối ưu hóa
Một chức năng cần thiết được dùng gọi là chức năng thích hợp (Fitness Function) Trong GA, Fitness Function là 1 chức năng chính đơn lẻ của objective function, nó có
nhiệm vụ quyết định chuỗi nào được dùng để nhân lên hoặc chuỗi nào là không cần thiết
và sẽ bị loại bỏ Fitness Function thường xuyên được xác định để tăng chuỗi thích hợp
từ đó có những kết quả tương ứng phù hợp hơn Kiểu di truyền (genotype) là sự biểu diễn lại chuỗi, kết quả tạo ra gọi là phenotype Thường thì trong thuật giải di truyền, có
sự khác nhau lớn giữa một sinh vật sinh học (phenotype) và DNA (kiểu di truyền) của nó Objective function là một loại của phenotype, trong GA, Objective function và fitness function thường được thay thế cho nhau, fitness được tăng phụ thuộc vào quá trình chọn lọc
Population Dquainter (sự biến động quần thể): Thuật giải di truyền cung cấp một
phương pháp học được thúc đẩy bởi sự tương tự với sự tiến hóa sinh học Thay vì tìm kiếm các giả thuyết từ tổng quát đến cụ thể hoặc từ đơn giản đến phức tạp, GA tạo ra các giả thuyết kế tiếp bằng cách lặp việc đột biến và việc tái hợp các phần của giả thuyết được biết hiện tại là tốt nhất Ở mỗi bước, một tập các giả thuyết được gọi là quần thể hiện tại được cập nhật bằng cách thay thế vài phần nhỏ quần thể bởi cá thể con của các giả thuyết tốt nhất
ở thời điểm hiện tại Có nhiều cách thực hiện một giải thuật di truyền học, ở đây chúng ta xét giải thuật di truyền học đơn giản với một quần thể có kích thước N với 3 hoạt động chính của thuật giải:
Quá trình chọn lọc: quá trình này chọn ra một giả thuyết (cá thể) được cho là tốt
nhất trong số các lời giải (quần thể), quá trình này không sinh ra bất kỳ cá thể mới nào, quá trình này lặp lại nhiều lần sẽ chọn ra được ngày càng nhiều những cá thể phù hợp và làm giảm đi những cá thể không cần thiết
Quá trình lai ghép: quá trình này sinh ra hai hay nhiều hơn cá thể mới từ một cặp cá thể
trước đó (gọi là cha mẹ) bằng việc kết hợp một phần chuỗi của cha mẹ
Quá trình đột biến: quá trình này đơn giản thay đổi những đặc tính trong chuỗi con một
cách ngẫu nhiên Mỗi đặc tính được thay đổi với một xác suất nhỏ
3 Sơ đồ thực hiện Thuật giải di truyền
Trang 6Hình 1 –
Sơ đồ thực hiện Thuật giải di truyền
Đây là sơ đồ chung nhất áp dụng cho rất nhiều lớp bài toán sử dụng Thuật giải di truyền Một số khái niệm có thể rất mới mẻ đối với người bắt đầu tìm hiểu về Thuật giải di truyền
Thuật toán cụ thể cho bài toán
GA (Fitness, Fitness_threshold, p, r, m)
{
// Fitness: hàm gán thang điểm ước lượng cho một giả thuyết.
// Fitness_threshold: Ngưỡng xác định tiêu chuẩn dừng giải thuật tìm kiếm.
// p: Số cá thể trong quần thể giả thuyết.
Trang 7// r: Phân số cá thể trong quần thể được áp dụng toán tử lai ghép ở mỗi bước.
// m: Tỉ lệ cá thể bị đột biến.
• Khởi tạo quần thể: P ← Tạo ngẫu nhiên p cá thể giả thuyết
• Ước lượng: Ứng với mỗi h trong P, tính Fitness(h)
• while [max Fitness(h)] < Fitness_threshold do
3 Đột biến: Chọn m% cá thể của PS với xác suất cho mỗi cá thể là như nhau Ứng với mỗi cá thể biến đổi một bit được chọn ngẫu nhiên trong cách thể hiện của nó
4 Cập nhật: P ← PS
5 Ước lượng: Ứng với mỗi h trong P, tính Fitness(h)
Trả về giả thuyết trong P có độ thích nghi cao nhất
}
4 Mở rộng Thuật giải di truyền
Có nhiều cách để thực thi thuật giải tùy theo bài toán cụ thể, tuy nhiên cách tìm kiếm thì hiếm khi sử dụng hình thức đơn giản như mô tả trên Dưới đây là một số mở rộng cho thuật toán:
Phương pháp chọn loại trừ: hầu hết các phương pháp chọn loại trừ đều được thiết lập lại
để tránh sự hội tụ yếu Chẳng hạn như:
• Cá thể tốt nhất được giữ lại để đưa vào quá trình tiến hóa cho bước tiếp theo, cá thể này được dùng làm mẫu để chọn các cá thể khác trong quần thể nhằm duy trì tính đa dạng
Trang 8• Hai cá thể trong quần thể được chọn ngẫu nhiên, đoạn nào xấu thì được loại bỏ
và thay thế bằng đoạn khác tốt hơn
• Các cá thể trong quần thể hầu như không thay đổi trạng thái mà chỉ có một vài cá thể có sự thay đổi trong mỗi bước
• Để duy trì được tính đa dạng trong quần thể thì Fitness của mỗi cá thể được chia
sẻ lẫn nhau giữa các cá thể có cùng kiểu di truyền Vì thế những cá thể khác nhiều so với các cá thể còn lại sẽ được tăng cường Fitness trong khi các cá thể tương tự nhau trong quẩn thể sẽ bị giảm Fitness
• Thao tác lai ghép thay thế: việc cắt một phần giả thuyết và đem ghép lại với nhau không phải là cách tốt để tạo ra cá thể mới ví dụ bài toán người du lịch, trong trường hợp này lời giải tiềm ẩn là sự hoán vị, ví dụ kết quả là 362154, thì có nghĩa là đi tới thành phố 3 trước rồi tới thành phố 6, kế đến là 2, nếu áp dụng lai ghép điểm đơn giữa 2 danh sách thì sẽ không đưa ra được một hành trình hợp
lệ
• Sử dụng toàn bộ quần thể: trong hầu hết các giải thuật di truyền thì đáp án cho
bài toán chính là một cá thể tốt nhất trong quần thể còn những cá thể khác được
sử dụng nhằm giúp cho quá trình tìm kiếm nhưng bị loại bỏ khi kết thúc thuật toán Điều này không hoàn toàn tốt Trong thuật toán đầu tiên được đưa ra bởi Holland [5] thì mỗi cá thể của quần thể là một lớp – một luật IF-THEN, quần thể
là một hệ thống các lớp, trong quá trình chọn thì mỗi cá thể là một giả thuyết hoàn hảo Một tiến trình khác mà cũng sử dụng toàn bộ quần thể đó là tiến trình
do Yao và Liu đề xuất sử dụng chuỗi hạt mạng Neural Nó được sử dụng khi tồn
tại một số lớp mà để giải quyết cùng một bài toán Một lớp phổ biến được cho
rằng tốt hơn cho tiến trình so với các lớp khác Yao và Liu đề xuất sử dụng 4
phương pháp khác nhau để kết hợp kết quả của mạng Neural Họ sử dụng sự chia
sẻ Fitness tuyệt đối để kích thích quá trình học với các mẫu khác nhau
Phần tiếp theo sau đây sẽ phân tích cách hoạt động của giải thuật, so sánh và giải thích tại sao nó tốt hơn so với các phương pháp truyền thống
5 Thuật giải di truyền so với các phương pháp truyền thống
Chúng ta xét bài toán đơn giản sau đây: tối ưu hoá hàm y = f(x) trên khoảng xác định D.Khi dùng phương pháp truyền thống có một số cách giải sau đây:
• Phương pháp liệt kê: Duyệt tất cả các điểm nằm trong vùng khảo sát D để tìm
ra điểm cực trị của nó Phương pháp này không thích hợp khi dữ liệu đầu vào quá lớn Trong trường hợp này miền D có không gian quá lớn để có thể đếm được
• Phương pháp giải tích: Tìm điểm cực trị bằng cách giải tập các phương trình khi
cho Gradient bằng 0 Để xét được Gradient phải tính đạo hàm của hàm số Điều
Trang 9này không giải quyết được trong trường hợp hàm số không liên tục hoặc không
có đạo hàm Ngoài ra đối với hàm nhiều cực trị thì có thể phương pháp này bỏ mất cực trị, cực trị tìm được chỉ mang tính chất địa phương
• Phương pháp tìm kiếm ngẫu nhiên: là phương pháp kết hợp giữa phương pháp
tính toán giải tích và sơ đồ liệt kê Tuy nhiên những việc làm ngẫu nhiên cùng với giải thuật tìm kiếm ngẫu nhiên cũng phải bị suy yếu bởi thiếu tính hiệu quả
Đối với Thuật giải di truyền, các thông số của bài toán tìm kiếm phải được mã hoá
thành một chuỗi hữu hạn các ký tự trên một tập hữu hạn các ký tự Chuỗi này tương tự như các chuỗi gen của các cơ thể sinh vật Có rất nhiều cách để mã hóa tập thông số Một cách đơn giản là chúng ta có thể mã hoá thành các chuỗi bit trên tập ký tự {0,1} Mỗi một chuỗi đại diện cho một điểm tìm kiếm trong không gian GA xuất phát với một quần thể các chuỗi được khởi tạo một cách ngẫu nhiên sau đó sẽ sản sinh các quần thể tiếp theo thông qua việc
sử dụng lựa chọn ngẫu nhiên như một công cụ Nhờ đó Thuật giải di truyền tìm kiếm trên nhiều điểm song song có khả năng leo lên nhiều cực trị cùng một lúc Thông qua các toán tử của mình, giải thuật trao đổi thông tin giữa các cực trị với nhau, từ đó làm giảm thiểu khả năng giải thuật kết thúc tại các cực trị địa phương và bỏ qua mất cực trị toàn cục
Đây là các đặc trưng của Thuật giải di truyền so với các phương pháp truyền thống:
• Các Thuật giải di truyền làm việc với sự mã hoá của tập thông số chứ không làm việc với các giá trị của các thông số
• Các Thuật giải di truyền tìm kiếm từ một quần thể các điểm chứ không phải từ một điểm
• Các Thuật giải di truyền chỉ sử dụng thông tin về các tiêu chuẩn tối ưu của hàm mục tiêu chứ không dùng các thông tin hỗ trợ nào khác
• Các Thuật giải di truyền sử dụng các luật chuyển đổi mang tính xác suất chứ không phải là các luật chuyển đổi mang tính xác định
• Các Thuật giải di truyền thường dễ cài đặt, áp dụng Tuy nhiên không phải lúc nào cũng cho lời giải chính xác Một số Thuật giải di truyền có thể cung cấp lời giải tiềm năng cho một bài toán xác định để người sử dụng lựa chọn
6 Các ứng dụng của Thuật giải di truyền.
Ban đầu Thuật giải di truyền ra đời được áp dụng cho tối ưu hoá và học máy là chủ yếu Đến nay nó đã phát triển mạnh và có nhiều ứng dụng thực tế, đặc biệt là các bài toán về trí tuệ nhân tạo Ví dụ: ta có thể tối ưu công việc dự báo thời tiết sao cho chính xác nhất dựa trên các thông số khí tượng do được Năm 1967 Beglay xây dựng máy chơi cờ Hexapawn dựa trên Thuật giải di truyền và nhận ra rằng Thuật giải di truyền có thể thực hiện tốt mà không phụ thuộc độ phức tạp của trò chơi
6.1 Tối ưu hoá và máy học:
Trang 10Trong lĩnh vực tối ưu hóa có nhiều bài toán được áp dụng Thuật giải di truyền và đã
thành công như tối ưu hoá hàm một biến, tối ưu hóa hàm nhiều biến, hay như bài toán người
du lịch, bài toán hộp đen, các bài toán kinh doanh, nhận dạng điều khiển hệ thống Sau đây sẽ giới thiệu một số bài toán tối ưu hóa:
David E.Golderg đã ứng dụng GA để tối ưu hóa bài toán điều khiển hệ thống đường ống dẫn khí thiên nhiên [5] Trong bài toán này, mục tiêu là cực tiểu hóa năng lượng do quá trình nén, phụ thuộc vào áp suất tối đa và áp suất tối thiểu và các ràng buộc tỉ lệ áp suất
Tối ưu hoá kết cấu: Mục tiêu của bài toán này là cực tiểu hóa trọng lượng của kết cấu, phụ thuộc vào các ràng buộc về ứng suất lớn nhất và ứng suất nhỏ nhất của mỗi thanh Một
bộ mã cho khung kết cấu theo ma trận tiêu chuẩn được dùng để phân tích mỗi thiết kế tạo ra bởi Thuật giải di truyền
Trong lĩnh vực máy học, Thuật giải di truyền được sử dụng cho việc tìm hiểu các quy
luật có cấu trúc như cấu trúc IF-THEN trong môi trường nhân tạo
6.2 Ghi ảnh y học với Thuật giải di truyền
Thuật giải di truyền đơn giản đã được sử dụng để thực hiện ghi hình ảnh, như là bộ phận
của hệ thống lớn có tên là Digital Subtraction Angiography (DSA) Trong DSA, bác sĩ sẽ cố
gắng xem xét bên trong của một động mạch khả nghi bằng cách so sánh hình ảnh x-quang, một được chụp trước khi tiêm thuốc đã nhuộm màu vào động mạch, một và một được chụp sau khi tiêm thuốc Cả hai hình được số hóa và được trừ nhau theo từng điểm một, với kết quả mong muốn cuối cùng nhận được một hình ảnh sai khác phác họa rõ ràng hình ảnh bên trong động mạch chủ Tuy nhiên sự chuyển động nhẹ của bệnh nhân có thể tạo ra hai hình ảnh kế nhau, làm rối loạn phần hình ảnh sai khác Kết quả là, các hình ảnh phải được xếp kế nhau, để tính toán phần hình ảnh sai khác
Thuật giải di truyền được dùng để tìm kiếm các hệ số biến đổi để tìm kiếm các hệ số giúp cực tiểu hóa sự sai biệt hình ảnh trước và sau khi tiêm, trên cơ sở các sai khác hình ảnh tuyệt đối
6.3 Bài toán sắp xếp lịch trực
Trong lĩnh vực lập lịch (hay lập thời khóa biểu), giải thuật di truyền đã thu hút được rất nhiều các nghiên cứu và đề xuất Lý do cho xu hướng này có thể thấy là bài toán lập lịch nhìn chung thuộc lớp các bài toán NP-khó (NP hard) và vì vậy, rất cần các giải thuật xấp xỉ [1] Tính đến nay có rất nhiều các đề xuất sử dụng giải thuật di truyền cho bài toán lập lịch [3], [4] Tuy nhiên, một điều cần phải chỉ rõ ở đây là bài toán lập lịch là một trong những bài toán mà có nhiều thể loại đa dạng, mỗi một thể loại cần có thiết kế giải thuật di truyền đặc biệt Về cơ bản, bài toán lập lịch được coi như là việc gán các mốc thời gian (time slots) thực hiện cho các công việc (tasks) sao cho phù hợp với khả năng về tài