CHƯƠNG 4 KẾT QUẢ NGHIÊN CỨU
4.4. Phân tích mơ hình mạng neural
4.4.1.4. Điều kiện dừng huấn luyện
Trong thực tế, mạng neural được huấn luyện theo tiêu chí cực tiểu giá trị hàm lỗi của tập huấn luyện. Hàm lỗi được xây dựng là một hàm số phụ thuộc vào độ lớn các trọng số liên kết giữa các neural (wij). Mục tiêu của việc huấn luyện mạng là tìm ra tập các trọng số wij sao cho hàm lỗi tiến đến giá trị cực tiểu tồn cục (Hình 4.8).
Hình 4. 8. Giá trị trọng số và hàm lỗi
Các thuật toán huấn luyện mạng sẽ đảm bảo giá trị hàm lỗi của tập huấn luyện sẽ luôn giảm sau mỗi lần lặp của quá trình huấn luyện. Tuy nhiên, giá trị hàm lỗi của tập kiểm tra không phải lúc nào cũng giảm vì các mẫu của tập kiểm tra không tham gia vào quá trình huấn luyện (Hình 4.9). Khi số lần lặp của quá trình huấn luyện cực lớn thì mạng sẽ rơi vào tình trạng bị huấn luyện quá độ, nghĩa là mơ hình mạng sẽ cho kết quả dự báo ăn khớp một cách hoàn hảo với kết quả thực tế ứng với các mẫu tập huấn luyện nhưng sai số trong tập kiểm tra lại rất lớn. Do đó mơ hình mạng xây dựng được rất tốt đối với các mẫu trong tập huấn luyện nhưng hoàn toàn
khơng có ý nghĩa về mặt hồi quị Để tránh tình trạng huấn luyện quá độ quá trình huấn luyện sẽ được dừng lại ngay khi hàm lỗi của tập kiểm tra có dấu hiệu tăng lên. Thông thường điều kiện dừng huấn luyện bao gồm:
Số lần lặp tối đa cho phép.
Giá trị hàm lỗi cực tiểu của tập dữ liệu huấn luyện. Giá trị hàm lỗi của tập kiểm tra bắt đầu tăng.
Thực tế trong bài toán hồi qui, điều kiện thứ 3 là điều kiện quan trọng nhất vì thực tế ta thường gán cho số lần lặp tối đa rất lớn và giá trị hàm lỗi của tập huấn luyện rất nhỏ nên điều kiện 1 và 2 sẽ hiếm khi đạt
đến.