QUAN ĐIỂM VÀ BẰNG CHỨNG THỰC NGHIỆM VIỆC ỨNG DỤNG MƠ HÌNH MẠNG THẦN KINH NHÂN TẠO TRONG
1.2.3. Cách thức huấn luyện một mơ hình mạng thần kinh
Mạng thần kinh được huấn luyện bằng cách liên tục đưa các cặp tín hiệu đầu vào và tín hiệu đầu ra vào mạng, mạng nhanh chóng học hỏi mối quan hệ giữa các biến đầu vào và đầu ra. Quá trình huấn luyện mạng thực chất là việc điều chỉnh các trọng số synapse wk,i kết nối các neuron trong mạng. Trong quá trình huấn luyện, các trọng số wk,i được điều chỉnh cho đến khi đạt được các giá trị đầu ra mong muốn (Tt) gần với giá trị đầu ra thực sự của mạng (Yt). Nói cách khác, sai số giữa giá trị đầu ra mong muốn và giá trị đầu ra của mạng là nhỏ nhất (et).
et = Tt Yt
Thuật toán truyền ngược BackPropagation là một thuật toán điều chỉnh các trọng số synapse được sử dụng rất phổ biến. Thuật ngữ truyền ngược đề cập đến chiều truyền của sai số. Mục tiêu quan trọng nhất là thực hiện điều chỉnh những trọng số và độ lệch của mạng nhằm tối thiểu hóa sai số trong hàm mục tiêu.
Mạng ANN tạo ra các giá trị đầu ra dựa vào các trọng số. Giá trị đầu ra này được so sánh với giá trị đầu ra mong muốn cho trước và sai số bình phương trung bình (MSE – Mean Square Error) được tính tốn dựa trên sự so sánh này. Giá trị sai số được truyền ngược trở lại qua mạng thần kinh, và những trọng số synapse tiếp tục được tính tốn và điều chỉnh trong mỗi lớp nhằm làm giảm sai số trên. Quá trình này được lặp lại cho mỗi giá trị đầu vào đầu ra cho đến khi sai số cục bộ giảm xuống dưới ngưỡng cho trước. Tại kết quả này, mơ hình mạng ANN được huấn luyện tốt nhất.
Có nhiều ngun tắc và thuật tốn thể hiện q trình điều chỉnh các trọng số synapse. Một trong những thuật toán điều chỉnh trọng số này là nguyên tắc giảm độ dốc (Gradient) thể hiện trong hình 1.3. Nghĩa là các trọng số được di chuyển theo hướng ngược với đường cong, do đó nó sẽ dịch chuyển đến điểm có bề mặt phẳng hơn.
Hình 1.3: Phương pháp điều chỉnh các trọng số synapse theo nguyên tắc giảm độ dốc Gradient
Nguồn: Neural Networks in Finance gaining predictive edge in the market của Paul D. Mc Nelis.
Các trọng số liên tục thay đổi độ dốc để sau mỗi vịng lặp thì các trọng số cũ hướng tới vị trí các trọng số mới có giá trị tối ưu hơn; từ đó, sai số của mơ hình cũng sẽ được cải thiện. Đáy của bề mặt là một vùng phẳng nơi có độ cong ít nhất. Các trọng số ứng với sai số tối thiểu là các trọng số tối ưu của một cấu trúc mạng ANN.