6. Cấu trúc của luận văn
2.3.6.Huấn luyện mạng
Huấn luyện mạng học các dữ liệu bằng cách lần lƣợt đƣa các mẫu cùng với các giá trị đích mong muốn. Mục tiêu cảu việc huấn luyện là tìm ra tập các trọng số cho ta giá trị nhỏ nhất toàn cục của chỉ số hiệu năng hay hàm lỗi. Vậy vấn đề đặt ra, khi nào thì ngừng huấn luyện. Có hai quan điểm về vấn đề này:
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn
Thứ nhất, chỉ ngừng huấn luyện khi nào không có tiến triển của hàm lỗi đối với bộ dữ liệu dựa trên một số tập các tham số của mạng đƣợc chọn ngẫu nhiên. Hay nói cách khác là phải đạt đến đƣợc điểm cực tiểu toàn cục lớn nhất. Quan điểm thứ hai cho rằng cần xem xét thƣờng xuyên khả năng tổng quát hoá của mạng bằng cách sau một số chu kỳ nào đó thực hiện kiểm tra và kiểm tra sự tổng quát hoá của mạng, sau đó tiếp tục quá trình huấn luyện. Hai quan điểm này đều thống nhất cho rằng kết quả kiểm tra trên tập kiểm định là chính xác nhất bởi nó thể hiện trực tiếp kết quả trả lời của mạng sau khi huấn luyện
Việc thực hiện huấn luyện mạng còn cần xem xét khả năng mạng nơron với một số nào đó lần thực hiện huấn luyện mạng trên các tập khởi tạo ban đầu của các tham số. Sau khi thực hiện huấn luyện trên tất cả các tham số cần đánh giá lại kết quả, từ đó đƣa ra kết luận về số lần thực hiện huấn luyện tối đa.
Một phƣơng pháp khác là thực hiện vẽ đồ thị để có thể theo dõi trạng thái lỗi của mạng, từ đó có thể quan sát đƣợc các vùng mà mạng có trạng thái không thay đổi đối với bộ dữ liêuj vào. Thông thƣờng, số lần tối đa thực hiện huấn luyện cho mạng thƣờng là khoảng biến thiên khá lớn: từ vài nghìn cho đến vài chục nghìn chu kỳ, việc theo dõi đƣợc trạng thái của mạng đối với tập huấn luyện và khả năng tổng quát hoá để có thể ngừng khi cần là khá quan trọng. Có thể thực hiện cập nhật đồ thị sau mỗi chu kỳ để có thể theo dõi đƣợc các tham số này.