Lần thử nghiệm 1
Cấu trúc mạng và kết quả: Số vòng lặp =28171
Trọng số nối lớp vào và lớp ẩn:
Số hóa bởi Trung tâm Học liệu - ĐHTN http://www.lrc-tnụedụvn/
-4.5138; -3.6295; 7.0462; 3.7394; 2.9330; 3.6868; Trọng số nối lớp ẩn và lớp ra:
-13.1193; 11.6113; -13.1117; 6.5330; Các kết quả xấp xỉ:
Bảng 3.8. Kết quả xấp xỉ hàm XOR-XOR sử dụng phương pháp lan truyền ngược sai số lần 1
TT Mẫu Kết quả Kết quả xấp xỉ Độ lệch 1 0,0,0 0.000000 0.017237 0.017237 2 0,0,1 1.000000 0.990006 0.009994 3 0,1,0 1.000000 0.996158 0.003842 4 0,1,1 0.000000 0.003412 0.003412 5 1,0,0 1.000000 0.989994 0.010006 6 1,0,1 0.000000 0.001985 0.001985 7 1,1,0 0.000000 0.003404 0.003404 8 1,1,1 1.000000 0.999880 0.000120 Sai số = 0.050000 Lần thử nghiệm 2
Số hóa bởi Trung tâm Học liệu - ĐHTN http://www.lrc-tnụedụvn/ Cấu trúc mạng và kết quả: Số vòng lặp=42774 Trọng số nối lớp vào và lớp ẩn: -5.0718; -4.9291; 7.2390; -7.9202; 5.4066; 5.6653; -3.9506; 4.5609; -4.0060; 3.8011; -5.6406; 4.0070; Trọng số nối lớp ẩn và lớp ra: -17.9348; 17.6400; -13.0473; 5.2703; Các kết quả xấp xỉ:
Bảng 3.9. Kết quả xấp xỉ hàm XOR-XOR sử dụng phương pháp lan truyền ngược sai số lần 2
TT Mẫu Kết quả Kết quả xấp xỉ Độ lệch 1 0,0,0 0.000000 0.017364 0.017364
Số hóa bởi Trung tâm Học liệu - ĐHTN http://www.lrc-tnụedụvn/ 2 0,0,1 1.000000 0.990049 0.009951 3 0,1,0 1.000000 0.989427 0.010573 4 0,1,1 0.000000 0.002231 0.002231 5 1,0,0 1.000000 0.991865 0.008135 6 1,0,1 0.000000 0.000106 0.000106 7 1,1,0 0.000000 0.001640 0.001640 8 1,1,1 1.000000 1.000000 0.000000 Sai số = 0.050000
3.4.2 Huấn luyện bằng giải thuật di truyền Lần thử nghiệm 1: Lần thử nghiệm 1:
Số hóa bởi Trung tâm Học liệu - ĐHTN http://www.lrc-tnụedụvn/ Cấu trúc mạng và kết quả xấp xỉ: Trọng số nối lớp vào và lớp ẩn: -5.6162; 4.0340; 3.2334; -5.0049; -4.9609; 8.0635; 7.2351; -13.2947; 4.7033; -6.6923; 9.3657; -5.2643; Trọng số nối lớp ẩn và lớp ra: 13.4032; -12.4144; 3.7364; -9.7347; Các kết quả xấp xỉ:
Bảng 3.10. Kết quả xấp xỉ hàm XOR-XOR sử dụng giải thuật di truyền lần 1
TT Mẫu Kết quả Kết quả xấp xỉ Độ lệch 1 0,0,0 0.000000 0.075524 0.075524 2 0,0,1 1.000000 0.984282 0.015718 3 0,1,0 1.000000 0.966097 0.033903 4 0,1,1 0.000000 0.000315 0.000315 5 1,0,0 1.000000 0.975579 0.024421 6 1,0,1 0.000000 0.000921 0.000921 7 1,1,0 0.000000 0.001098 0.001098 8 1,1,1 1.000000 0.999940 0.000060 Sai số = 0.151961 Lần thử nghiệm 2:
Số hóa bởi Trung tâm Học liệu - ĐHTN http://www.lrc-tnụedụvn/ Cấu trúc mạng và kết quả xấp xỉ: Trọng số nối lớp vào và lớp ẩn: -9.9758; 5.2061; 5.9228; -3.8144; -5.6591; 7.8712; 7.5191; 18.3072; 19.3022; -8.9224; 18.3472; -10.7797; Trọng số nối lớp ẩn và lớp ra: 12.7463; -14.8163; 7.0871; -14.2979; Các kết quả xấp xỉ:
Bảng 3.11. Kết quả xấp xỉ hàm XOR-XOR sử dụng giải thuật di truyền lần 2
TT Mẫu Kết quả Kết quả xấp xỉ Độ lệch 1 0,0,0 0.000000 0.009562 0.009562 2 0,0,1 1.000000 0.993231 0.006769 3 0,1,0 1.000000 0.995569 0.004431
Số hóa bởi Trung tâm Học liệu - ĐHTN http://www.lrc-tnụedụvn/ 4 0,1,1 0.000000 0.000405 0.000405 5 1,0,0 1.000000 0.998845 0.001155 6 1,0,1 0.000000 0.000703 0.000703 7 1,1,0 0.000000 0.000822 0.000822 8 1,1,1 1.000000 0.999988 0.000012 Sai số = 0.023859
Đánh giá: Kết quả huấn luyện và xấp xỉ khá tốt, có trường hợp tốt hơn
mạng nơ ron với phương pháp huấn luyện lan truyền ngược sai số.
Kết luận chƣơng 3
Trong chƣơng này luận văn đã nghiên cứu ứng dụng giải thuật di truyền trong huấn luyện mạng nơ ron. Kết quả thử nghiệm trên các bài toán bằng cả hai phƣơng pháp là giải thuật huấn luyện lan truyền ngƣợc sai số và ứng dụng giải thuật di truyền trong huấn luyện mạng nơ ron thì kết quả cho thấy giải thuật di truyền cho kết quả tốt hơn đồng thời khắc phục đƣợc tình trạng mạng bị liệt mà giải thuật huấn luyện lan truyền ngƣợc sai số thƣờng gặp phảị Kết quả này cho thấy sử dụng giải thuật di truyền trong huấn luyện mạng nơ ron là một giải pháp thay thế tiềm năng hiệu quả và có thể phát triển rộng rãi khi đã có nghiên cứu cụ thể đến một phạm vi nào đó của bài toán cần giải quyết.
Số hóa bởi Trung tâm Học liệu - ĐHTN http://www.lrc-tnụedụvn/
KẾT LUẬN
Luận văn đã đạt đƣợc một số kết quả nhƣ sau:
Nghiên cứu hệ thống đƣợc các kiến thực về mạng nơ ron, giải thuật di truyền.
Đi sâu nghiên cứu mạng nơ ron truyền thẳng và giải thuật huấn luyện lan truyền ngƣợc sai số.
Nghiên cứu sâu về giải thuật di truyền mã hóa số thực làm cơ sở xây dựng giải thuật di truyền huấn luyện mạng nơ ron.
Đề xuất phƣơng pháp huấn luyện mạng nơ ron bằng sử dụng giải thuật di truyền thay thế giải thuật lan truyền ngƣợc sai số truyền thống.
Thực nghiệm trên một số bài toán, kết quả thực nghiệm đã khẳng định phƣơng pháp huấn luyện sử dụng giải thuật di truyền cho kết quả không thua kém giải thuật lan truyền ngƣợc sai số truyền thống.
Đƣa giải thuật di truyền vào huấn luyện mạng nơ ron MLP. Các phân tích, tính toán và cài đặt đã cho đƣợc kết quả huấn luyện nhƣ mong muốn.
Ngoài ra các kết quả thực nghiệm cho thấy giải thuật di truyền huấn luyện mạng nơ ron luôn cho hội tụ, khắc phục đƣợc tình trạng mạng bị liệt mà giải thuật huấn luyện lan truyền ngƣợc sai số và giải thuật khác không thực hiện đƣợc.
Tuy nhiên chúng tôi cũng nhận thức đƣợc các kết quả nghiên cứu mới là bƣớc đầu, việc thực nghiệm mới dừng lại ở một số bài toán logic và bài toán xấp xỉ hàm hình chuông, các bài toán này chƣa thể đại diện đƣợc cho các bài toán khác. Trong thời gian tới chúng tôi sẽ tiến hành lựa chọn một số lớp bài toán đủ rộng để tiến hành thực nghiệm và đánh giá kết quả nhằm khẳng định thêm tính khả dụng của giải pháp đề xuất.
Số hóa bởi Trung tâm Học liệu - ĐHTN http://www.lrc-tnụedụvn/
TÀI LIỆU THAM KHẢO TIẾNG VIỆT
[1] Đinh Mạnh Tƣờng, Trí tuệ nhân tạo, Nhà xuât bản Khoa học kỹ thuật, 2000
[2] Nguyễn Đình Thúc, Trí tuệ nhân tạo - Lập trình tiến hoá, Nhà xuất bản giáo dục, 2001
[3] Hoàng Kiếm,Giải thuật di truyền – Cách giải tự nhiên các bài toán trên máy tính, Nhà xuất bản khoa học kỹ thuật, 2000
[4] Nguyễn Đình Thúc, Mạng nơ ron - Kỹ thuật lan truyền ngƣợc, Nhà xuất bản khoa học kỹ thuật, 2000
TIẾNG ANH
[5] Cheng Teng Lin, C. S. George Lee, Neural Fuzzy Systems, Prentice – Hall International, Inc ((1996)).
[6] Randy L. Haupt, Sue Ellen Haupt, Practical Genetic Algorithms, Second Edition, Copyright © 2004 John Wiley & Sons, Inc.
[7] Rustem Popa, Genetic Algorithms in Applications, Publisher: IN-TECH (March, 2012)