Khái niệm về học on-line:
ðây là một quá trình học cĩ giám sát. Ban đầu, cấu trúc mạng là hồn tồn “rỗng”, chỉ cĩ các nơ-ron lớp vào và lớp ra (đây là những nơ-ron cố định trong suốt quá trình học). Học on-line, cĩ nghĩa là mạng sẽ khơng được cung cấp trước một tập mẫu dữ liệu vào- ra, các mẫu dữ liệu vào ra này sẽ đến với mạng ngay trong quá trình học, từng mẫu từng mẫu một. Do đĩ, mạng buộc phải hồn tất một quá trình tính tốn (chỉnh định cấu trúc và thơng số) trước khi lại tiếp tục nhận được một mẫu dữ liệu vào ra mới. Quá trình học on-line là quá trình tiếp diễn khơng ngừng, từ mẫu dữ liệu vào ra đầu tiên cho đến khi hệ thống ngừng hoạt động hoặc mạng được lệnh ngừng học. Vì vậy, thuật tốn học on-line phải thỏa mãn các yêu cầu sau: tốc độ hội tụ nhanh, cấu trúc mạng tinh gọn (số thơng số ít) và cĩ thể vận hành trong điều kiện tài nguyên tính tốn hạn chế.
Thuật tốn học on-line cho mạng DFNN:
Khi mẫu dữ liệu vào ra đầu tiên vào mạng sẽ xác lập một cấu trúc ban đầu cho mạng – mạng cĩ 1 nơ-ron luật.
Khi mạng nhận được mẫu dữ liệu tiếp theo, quá trình chỉnh định thơng số sẽ được tiến hành trong mỗi chu kỳ lấy mẫu thơng qua thuật tốn bình phương tối thiểu đệ quy. Quá trình chỉnh định cấu trúc chỉ xảy ra khi:
• sai số ngõ ra của mạng tương đối lớn
• khả năng đặc trưng dữ liệu đầu vào của mạng kém – mạng sẽ được bổ sung thêm nơ-ron luật.
Sau một thời gian, các nơ-ron luật mới thêm vào do khả năng đặc trưng tốt hơn sẽ vơ hiệu hĩa sự ảnh hưởng của các nơ-ron luật cũ trước đĩ. Các nơ- ron luật cũ này sẽ bị xĩa bỏ khỏi mạng bằng kỹ thuật giản lược để giữ cho cấu trúc mạng được tinh gọn. Quá trình này cứ tiếp tục cho đến mẫu dữ liệu vào ra cuối cùng mà mạng nhận được.
Thuật tốn học cho mạng DFNN bao gồm 2 quá trình chính: quá trình chỉnh định cấu trúc và quá trình chỉnh định thơng số