3. ðột biến (Mutation)
1.5.3. Kết hợp mạng nơ-ron và giải thuật di truyền
Kết hợp mạng nơ-ron với giải thuật di truyền
Giải thuật di truyền địi hỏi ta phải xác định các hàm thích nghi. Tuy nhiên, đơi khi việc xác định hàm thích nghi hợp lý là một điều khơng thể. Ví dụ khi dùng giải thuật di truyền để chỉnh định thơng số cho bộ điều khiển của một hệ thống phức tạp. Khi đĩ, hàm thích nghi chính là chất lượng điều khiển của tồn hệ thống. Thơng số này chỉ cĩ thể đạt được bằng cách thử nghiệm từng bộ điều khiển (từng cá thể) trên hệ thống thực. ðiều này gây tốn kém về mặt thời gian và kinh tế.
Trong những trường hợp như vậy, mạng nơ-ron cĩ thể được dùng để xây dựng hàm thích nghi cho giải thuật di truyền. Thế mạnh của mạng nơ-ron là khả năng nhận dạng do nĩ cĩ thể xấp xỉ bất kỳ hàm phi tuyến nào. Sau khi nhận dạng được mơ hình hệ thống, mạng nơ-ron cĩ thể thay thế việc thử nghiệm trên hệ thống thực bằng việc mơ phỏng trên máy tính. ðiều này khiến giải thuật di truyền thực thi nhanh hơn do việc mơ phỏng trên máy tính được thực hiện hồn tồn tự động và cho kết quả nhanh chĩng.
Một ứng dụng của kỹ thuật này là trong ngành cơng nghiệp thép. Việc dự báo đặc tính cơ của hợp kim thép khi được cung cấp các thơng số về thành phần kim loại và nhiệt độ tơi là một việc khơng dễ dàng. Các nhà nghiên cứu tại đại học Sheffield đã huấn luyện một mạng nơ-ron dựa trên những thơng tin này và đặc tính cơ đo đạt được để xây dựng mơ hình dự báo đặc tính hợp kim. Mạng nơ-ron này sau đĩ được dùng như một hàm thích nghi trong giải thuật di truyền để phát triển các thiết kế hợp kim mới với những đặc tính mong muốn.
Kết hợp giải thuật di truyền với mạng nơ-ron
Ví dụ: Ta sẽ xem xét việc ứng dụng GA để huấn luyện mạng nơron truyền
thẳng đa lớp nhằm giải quyết bài tốn XOR quen thuộc.
Ở đây, ta sử dụng hàm kích hoạt trong mạng là hàm sigmoid vơ cực.
Chuỗi nhiễm sắc thể (NST) được mã hĩa dưới dạng (w1, w2 , …, w9 ). Trong đĩ, mỗi phần tử là một trọng số cĩ giá trị thực. Phần tử nhỏ nhất mà quá trình lai ghép và đột biến điều khiển chính là các trọng số.
Giả sử, tốn tử lai ghép được dùng là lai ghép đều. Ta thực hiện quá trình theo các bước sau:
Trước tiên, ta chọn ngẫu nhiên nc vị trí của phần tử trong NST. Sau đĩ thực hiện việc trao đổi lẫn nhau giữa các phần tử tại những vị
trí đã chọn ở trên.
Thơng thường số lượng các phần tử được trao đổi nc được chọn bằng một phần hai tổng số các phần tử trong NST.
Tốn tử đột biến xảy ra với xác suất bằng 1.0 trên các cá thể chọn lựa khi các cá thể đĩ khơng tham gia vào hoạt động lai ghép. Như vậy, nếu xác suất lai ghép của một cặp cá thể là pc thì xác suất đột biến sẽ là (1 - pc ).
Tốn tử đột biến sẽ làm tăng các phần tử thêm một giá trị bằng ∆w, giá trị này sẽ được chọn ngẫu nhiên trong khoảng xác định cho trước.
Cĩ hai kiểu chọn lọc cĩ thể được sử dụng:
Chọn ra các cặp để ứng dụng những tốn tử di truyền (giống như giải thuật chuẩn hĩa.
Chọn ra những cá thể tồn tại cho lần tạo sinh kế tiếp. Sau khi các tốn tử di truyền tạo ra những cá thể mới, những cá thể tồn tại sẽ được chọn từ những cá thể mới được tạo ra và những cá thể hiện tại. Giá trị thích nghi sẽ được tính tốn và gán đến tất cả các cá thể. Sau đĩ, các cá thể dùng cho lần tạo sinh kế sẽ được chọn với xác suất tương ứng với giá trị thích nghi của chúng. Kích cỡ quần thể của những lần tạo sinh sau đĩ cũng được giữ cố định (bằng một phần hai quần thể thử nghiệm).
Các kỹ thuật điều chỉnh và phân chia cũng được dùng: f ’ = af + b
Trong đĩ:
f là giá trị thích nghi gốc; f ’ là giá trị thích nghi đã điều chỉnh Hệ số a và b được chọn sao cho:
'
avg avg
f = f
và fmax' =Cmult avgf
Ở đây, Cmult là số lượng con cháu dự tính tạo ra từ cá thể thích nghi nhất (giả sử ta chọn bằng 2).
Bây giờ, ta sẽ ứng dụng GA được mơ tả như trên vào mạng nơron (như hình) để giải quyết bài tốn XOR.
Giả sử rằng:
x1, x2 và y chỉ nhận hai giá trị là 0.1 hoặc 0.9 tương ứng với TRUE hoặc FALSE. Kích cỡ quần thể là 20.
Giá trị khởi tạo ban đầu là các số nguyên trong khoảng [ -10, 10 ]. Xác suất lai ghép pc = 0.7 và số vị trí lai ghép nc = 4.
Giá trị đột biến ∆w là một số nguyên ngẫu nhiên trong miền [-3, 3]. Tốn tử đột biến được điều chỉnh sao cho từng trong số khơng vượt quá miền giới hạn [-10, 10] và bảo quản được kích cỡ của khơng gian tìm kiếm. Giá trị thích nghi được tính dựa vào hàm lỗi, chính là trị tuyệt đối của tổng các sai lệch ngõ ra trên 4 mẫu XOR.
Sau 30 lần tạo sinh, ta sẽ cĩ một mạng nơrơn hợp lý với giá trị hàm lỗi nhỏ hơn 0.05 (giá trị thích nghi lớn hơn 20).