QUAN ĐIỂM VÀ BẰNG CHỨNG THỰC NGHIỆM VIỆC ỨNG DỤNG MƠ HÌNH MẠNG THẦN KINH NHÂN TẠO TRONG
1.2.2. Những yếu tố tạo nên một mô hình mạng thần kinh nhân tạo
Cũng như các mơ hình tuyến tính hoặc đa thức khác, mơ hình ANN xác lập mối quan hệ giữa một tập hợp các biến đầu vào {xi}, i = 1, 2,…, k với một hoặc nhiều biến đầu ra, {yj}, j = 1, 2,…, k*. Hai thành phần chính cấu tạo nên ANN là các neuron (mô phỏng các tế bào thần kinh) và các synapse (mô phỏng các khớp nối thần kinh). Trong kiến trúc của một mơ hình kết nối, các neuron chính là các nút mạng, được liên kết với nhau thông qua các synpase, là các cung mạng.
Neuron là một đơn vị tính tốn có nhiều đầu vào và một đầu ra, mỗi đầu vào đến từ một synapse. Đặc trưng của neuron là một hàm kích hoạt phi tuyến chuyển đổi một tổ hợp tuyến tính của tất cả các tín hiệu đầu vào thành tín hiệu đầu ra. Hàm kích hoạt này đảm bảo tính chất phi tuyến cho tính tốn của ANN. Phụ lục 1 sẽ trình bày một số hàm kích hoạt này.
Synapse là một thành phần liên kết giữa các neuron, nó nối đầu ra của neuron này với đầu vào của neuron khác. Đặc trưng của synapse là một trọng số mà mỗi tín hiệu đi qua đều được nhận với trọng số này. Các trọng số synapse chính là các tham số tự do cơ bản của ANN, có thể thay đổi được nhằm thích nghi với mơi trường xung quanh. Mạng tiến đa mức là một trong những kiến trúc mạng căn bản nhất, ở đó các neuron được chia thành từng mức. Có ba loại mức: mức đầu vào bao gồm các nút nguồn (khơng phải neuron) cung cấp các tín hiệu đầu vào chung nhận được từ môi trường; mức ẩn bao gồm các neuron không quan hệ trực tiếp với mơi trường; mức đầu ra đưa ra các tín hiệu đầu ra cho mơi trường. Lần lượt từ mức đầu vào tới mức đầu ra, cứ tín
hiệu đầu ra của một nút mạng thuộc mức trước sẽ là tín hiệu đầu vào cho nút mạng thuộc mức tiếp sau. Từ kiến trúc này ta có thể hình dung mạng neuron như một bộ xử lý thơng tin có nhiều đầu vào và nhiều đầu ra.
Hệ số hiệu chỉnh bk x1 w k1 Hàm kích Các tín x2 wk2 hoạt v k
hiệu đầu Đầu ra yk
vào Bộ tổ hợp tuyến tính x n wkm Các trọng số
Hình 1.2: Mơ hình phi tuyến của một neuron
Nguồn: Neural Networks in Finance gaining predictive edge in the market của Paul D. Mc Nelis
Q trình tích luỹ mạng (học) là một q trình mà trong đó các tham số tự do (các trọng số synapse) được điều chỉnh nhằm mục đích thích nghi với mơi trường. Đối với vấn đề học cho ANN người ta quan tâm tới ba yếu tố sau:
· Quy tắc học: Phương thức nền tảng cho việc thay đổi trọng số synapse (ví dụ: Quy tắc học hiệu chỉnh lỗi, Quy tắc học kiểu Heb,...).
· Mơ hình học: Cách thức mạng neuron quan hệ với môi trường trong q trình học (ví dụ: Mơ hình học với một người dạy, ...).
· Thuật toán học: Các bước tiến hành cụ thể cho một q trình học.
Thuật tốn BackPropagation là thuật toán học kinh điển nhất và cũng được áp dụng một cách phổ biến nhất cho các mạng tiến đa mức. Nó được xây dựng trên cơ sở Quy tắc học hiệu chỉnh lỗi và Mơ hình học với một người dạy. Thuật tốn bao gồm hai giai đoạn tính tốn: giai đoạn tiến mà các tín hiệu chức năng đi từ mức đầu vào tới mức đầu ra của mạng nhằm tính tốn các tín hiệu lỗi; giai đoạn lùi trong đó các tín
hiệu lỗi quay trở lại từ mức đầu ra lần lượt qua các mức để tính các độ dốc (gradient) cục bộ tại mỗi neuron.
Các mạng hồi quy trễ là một lớp kiến trúc mở rộng tích hợp quan điểm về các synapse trễ và kiến trúc hồi quy dựa trên cơ sở mạng tiến đa mức. Một synapse trễ bao gồm nhiều nhánh, mỗi nhánh có trọng số riêng và đặc biệt là có một tốn tử trễ theo thời gian (zn) nhằm quan tâm tới sự ảnh hưởng lẫn nhau giữa các neuron tại những thời
điểm khác nhau. Lớp kiến trúc này được đưa ra để xử lý các tín hiệu có đặc tính thống kê biến thiên theo thời gian.
Như vậy, điều khác biệt giữa mơ hình ANN này với các mơ hình ước lượng khác chính là ở sự tồn tại của các “lớp ẩn” (hidden layer). Tại đó, các biến đầu vào sẽ được nén lại hoặc chuyển đổi bởi một hàm số đặc biệt nào đó, thường là hàm logistic hoặc logsigmoid. Mặc dù việc sử dụng các “lớp ẩn” này trơng có vẻ lạ, nhưng đó là một cách rất tốt để mơ hình hóa các quan hệ thống kê phi tuyến. Sau đây là tóm tắt một số đặc trưng của một mơ hình ANN.