J TT (3.21) với là m ột ngưỡng nhỏ nào đó Theo cách này sẽ đạt được K v ùng siêu hình
3.10.5 Ứng dụng của GA trong học máy
Học máy là một trong những lĩnh vực ứng dụng chủ yếu của GA. GA có thể
kết hợp với mạng nơron theo ba cách cơ bản. Thứ nhất nó có thể hiệu chỉnh
thông số, chẳng hạn trọng số và độ phi tuyến của mạng nơron, khi được cung
cấp những ví dụ huấn luyện. Ở đây nó được dùng như thuật toán học mạng nơron. Vì thế, chúng ta có thể thay thế thuật toán lan truyền ngược bởi giải
thuật GA. Thứ hai, GA có thể được dùng để xác định cấu trúc của một mạng nơron. Do đó, khi số lượng nơron trong một hay nhiều lớp ẩn không thể được
dự đoán hoàn hảo, chúng ta có thể dùng GA để giải quyết vấn đề này. Thứ ba,
GA có thể được dùng để hiệu chỉnh tự động những thông số của phương trình học. Điều này có nhiều ứng dụng hữu ích trong điều khiển thích nghi, khi mà thích nghi luật điều khiển được thực hiện với GA.
GA:một giải pháp thay thế cho học lan truyền ngược
Học lan truyền ngược hiệu chỉnh những trọng số của mạng nơron truyền
thẳng bằng cách áp dụng nguyên tắc học giảm độ dốc lớn nhất. Một nhược điểm
chính của thuật toán kinh điển này là rơi vào những điểm cực tiểu cục bộ. Do sự
hoán chuyển trong GA, nó có những đặc tính toàn cục và vì thế có thể giải
quyết những khó khăn của những điểm cực tiểu cục bộ.
Hình 4.5 và 4.6 minh hoạ việc tìm cực tiểu của hàm Rastrigin. Đây là hàm có
rất nhiều điểm cực tiểu cục bộ và được dùng để kiểm tra khả năng của GA.
Với hàm Rastrigin, việc tìm điểm cực tiểu bằng phương pháp giảm độ dốc lớn
nhất là hầu như không thể vì những điểm cực tiểu cục bộ của nó. Hàm này chỉ
có duy nhất một điểm cực tiểu toàn cục tại (0;0). Và GA dễ dàng tìm ra điểm
cực tiểu này.
Ở đây, chúng ta có thể xem xét một mạng nơron ba lớp với các trọng số (hình 4.7). Những mẫu vào và ra là [X1 X2 X3]T và [Y1 Y2]T. Những trọng số của lớp
thứ nhất và thứ hai là [W1 W2 W3 W4 W5 W6]T và [G1 G2 G3 G4]T. Hàm phi tuyến cho mỗi nơron là F. Véctơ ngõ ra mong muốn là [d1 d2]T. Hàm thể hiện sự
ràng buộc là tối thiểu Z với
212 2 2 2 1 1 Y d Y d Z
Nhiễm sắc thể chứa 10 gen gồm W1 ,W2 ,W3 ,W4 ,W5 ,W6 ,G1 ,G2 ,G3 và G4. Những toán hạng trao đổi chéo và hoán chuyển được sử dụng để tính trọng số.
Giải thuật kết thúc khi Z không còn giảm nữa. Với những cặp huấn luyện vào- ra, chúng ta sẽ tìm được một tập những trọng số nơron. Phần mô phỏng sẽ trình bày một ví dụ dùng GA để tìm những trọng số của mạng nơron cho một hệ
Hình 3.14. Hàm Rastrigin
Hình 3.15. Đường viền của hàm Rastrigin
Nguyên tắc sử dụng GA cho học mạng nơron được thể hiện bên dưới.
Hình 3.16. Minh hoạ việc dùng GA trong học mạng nơron
Thích nghi luật học/Luật điều khiển bởi GA
Đây là ứng dụng chính của thuật giải di truyền trong luận văn này. Và nó cũng là vấn đề được tập trung giải quyết nhiều nhất.
Hệ học có giám sát phải tạo một ngõ ra mong muốn từ ngõ vào được cho.
Chúng ta giả sử rằng một mạng nơron truyền thẳng nhiều lớp được dùng. Gọi
Ok là ngõ ra tại nút ok trong lớp ngõ ra, It là ngõ vào tại nút thứ t trong lớp ngõ vào và Wij là trọng số kết nối từ nút i đến nút j. Luật học được viết như sau:
t j ijij f I O W