Backpropagation...giải thuật lan truyền ngược sai số BXMT...Bức Xạ Mặt Trời Chromosome...nhiễm sắc thể Cross-Over...tạp lai (giải thuật di truyền) Delta...quy tắc học giảm dốc nhất Delta-Bar-Delta...quy tắc học thích nghi Feed Forward NN...mạng nơron lan truyền tiến FIFO...First-In-First-Out (hàng đợi) GA...Genetic Algorithm Gene...gen di truyền Genetic Algorithm...giải thuật di truyền JOONE...Java Object Oriented Neural Engine JVM...Java Virtual Machine Learning rate...hằng số học Momemtum...hằng số quán tính Mutation...đột biến (giải thuật di truyền) Neural Network...mạng nơron Neuron...nơron thần kinh Percepton...mạng nơron không có lớp ẩn Population...quần thể Reprodution...tái tạo (giải thuật di truyền) RMSE...Root Mean Square Error Sigmoid...hàm xích ma Steepest-descent...quy tắc học giảm dốc nhất Synapse...khớp thần kinh Transfer function...hàm truyền (hàm kích hoạt)
Cấu trúc cơ bản của nơron thần kinh sinh học...3
Mô hình một nơron nhõn tạo...4
Mô hình một mạng nơron nhân tạo...5
Mạng nơron nhõn tạo tiến kết nối đầy đủ...5
Hàm xích ma (sigmoid)...9
Sơ đồ hiệu chỉnh trọng số...13
Luồng dữ liệu truyền trong mạng lan truyền ngược sai số...14
Mặt lỗi trong không gian trọng số [11]...15
Mặt cắt của mặt lỗi trên một mặt phẳng song song với trục một trọng số....16
Độ dốc mặt lỗi...17
Đạo hàm riêng hàm lỗi của từng mẫu theo một trọng số...22
Đạo hàm riêng hàm lỗi theo hai trọng và hướng giảm dốc...22
Giá trị hằng số học tốt...24
Giá trị hằng số học cao...24
Giá trị hằng số học quá cao...25
Hàm một cực trị, phương pháp đạo hàm áp dụng tốt [11]...30
Hàm nhiều cực trị, khó khăn khi áp dụng phương pháp đạo hàm [11]...31
Hàm không phù hợp với các phương pháp truyền thống...31
Vòng tròn Rulet...34
Sơ đồ giải thuật lai...44
Mô hình kết nối giữa các nơron...46
Mô hình xử lý tín hiệu trên một lớp nơron...47
Sơ đồ dữ liệu truyền trong mạng nơron lan truyền ngược sai số...47
Mô hình mạng nơron truyền tiến trong JOONE...48
Sự liên hệ giữa đối tượng Monitor và các lớp nơron...51
Mô hình mạng nơron đặc trưng được thiết kế trong JOONE...51
Tiến trình xử lý trong mạng nơron (1)...52
Tiến trình xử lý trong mạng nơron (2)...52
Tiến trình xử lý trong mạng nơron (3)...53
Biểu đồ lớp của gói chính (core engine)...53
Đoạn mã chính của lớp nơron Layer...54
Mô hình chi tiết xử lý tín hiệu trong lớp nơron Layer...55
Đoạn mã chính của lớp Synapse...56
Các khoá chuyển nguồn dữ liệu vào ra của JOONE...57
Mô hình cấu trúc của lớp TeachingSynapse...59
Sơ đồ lớp của gói org.joone.egine.learning...59
Giao diện chính của JOONE Editor...61
Biểu đồ lớp của gói vn.edu.joone.egine.learningMethod...67
Biểu đồ tuần tự của bước khởi tạo phương pháp học...68
Biểu đồ tuần tự của bước cập nhật trọng số và ngưỡng...70
Kết quả đạt được của giải thuật lai di truyền – lan truyền ngược...70
Biểu đồ thực thi của giải thuật lai di truyền – lan truyền ngược...71
Biểu đồ tuần tự của giải thuật di truyền...72
Lớp vn.edu.hut.joone.ga.BinaryGene...73
Biểu đồ thực thi của bước tính giá trị sức khoẻ cho các cá thể...74
Biểu đồ thực thi của bước tính tổng chạy sức khoẻ cho các cá thể...75
Biểu đồ thực thi của toán tử tái tạo...76
Biểu đồ thực thi của toán tử tạp lai...77
Biểu đồ thực thi của toán tử đột biến...78
Lớp Population...79
Lớp GAMonitor...80
Biểu đồ thực thi của tiến trình xử lý trong lớp BPMonitor...81
Dấu hiệu quá khít của mạng nơron trên đồ thị lỗi kiểm tra và lỗi học...82
Đoạn mã thực hiện tách một phần dữ liệu học thành dữ liệu kiểm tra...83
Mô hình cấu trúc bên trong của lớp TeachingSynapse sau khi hiệu chỉnh...84
Đoạn mã cho chức năng phát hiện tình trạng quá khít...85
Form Control Panel...86
Biểu đồ tuần tự tiến trình xử lý bên trong Form control panel...87
Giao diện tab điều khiển giải thuật di truyền...88
Biểu đồ tuần tự tiến trình xử lý của tab điều khiển giải thuật di truyền...89
Giao diện của tab điều khiển giải thuật lan truyền ngược sai số...90
Biểu đồ tuần tự tiến trình của tab điều khiển giải thuật lan truyền ngược...91
Biểu đồ tuần tự liên kết hai giải thuật di truyền – lan truyền ngược...92
Giao diện form hiển thị các cá thể trong quần thể...93
Đồ thị hàm y = x2...95
Biểu đồ so sánh sai số kiểm tra của các quy tắc học trên 10 cá thể...99
Biểu đồ so sánh các quy tắc học theo tổng sai số học...101
Biểu đồ so sánh sai số học của các quy tắc học trên 10 cá thể...102
Sai số theo quy tắc học delta...103
Sai số theo quy tắc học quán tính...103
Sai số theo quy tắc học thích nghi...103
Sai số theo quy tắc học thích nghi – quán tính...103
Kết xuất của mạng tốt nhất cho bài toán hàm bậc hai...105
...107
Sai số học và sai số kiểm tra của các mạng...114
Các sai số của mạng tốt nhất trong quá trình học...114
Giao diện chương trình BXMT ver 3.0...115
PHỤ LỤC E – Danh sách các bảng