3.3. Thuật toán lan truyền ngược (the backpropagation algorithms)
3.3.3. Bài toán xấp xỉ hàm
Ngoài việc phân lớp, chúng ta có thể huấn luyện mạng nơron để xấp xỉ hàm. Ví dụ trong các hệ điều khiển mục tiêu là tìm một hàm hồi quy thích hợp để ánh xạ từ những đầu ra đo được tới các đầu vào điều khiển. Trong việc lọc thích nghi mục tiêu là tìm một hàm để ánh xạ từ những giá trị trễ của một tín
hiệu đầu vào tới một tín hiệu đầu ra thích hợp. Ví dụ sau cho thấy sự mềm dẻo của mạng perceptron
nhiều lớp cho việc thực hiện các hàm.
Xét mạng 2 lớp gồm 1-2-1 như hình vẽ sau. Hàm chuyển ở lớp thứ nhất là log-sigmoid và hàm chuyển
lớp thứ 2 là linear, biểu diễn bằng công thức như sau:
Hình 3.82- Ví dụ mạng nơron xấp xỉ hàm
Giả sử rằng những giá trị của các trọng số và độ lệch cho mạng này là: (3.83)
Phản ứng của mạng với các tham số này được thể hiện trong hình sau, trong đó nét vẽ đầu ra a2 khi
đầu vào p thay đổi trong khoảng [-2,2].
Chú ý phản ứng của mạng gồm có 2 bước, mỗi bước cho một nơron log-sigmoid ở lớp thứ nhất. Bằng
cách điều chỉnh các tham số của mạng chúng ta có thể thay đổi hình trạng và vị trí của mỗi bước, như
chúng ta sẽ thấy ở sau đây:
Các tâm của các bước xẩy ra nơi tổng đầu vào tới một nơron trong lớp thứ nhất là không: (3.84)
(3.85)
Độ dốc của mỗi bước có thể được điều chỉnh bởi việc thay đổi các trọng số liên kết của mạng.
Hình 3.86- Sự phản ứng của mạng theo đầu vào
Hình vẽ sau minh hoạ những tác động của các tham số khi thay đổi trên sự phản ứng của mạng. Đường nét xanh thể hiện phản ứng bình thường. Các đường nét khác thể hiện sự phản ứng khi thay
đổi một tham số tại một thời điểm trong khoảng sau:
Ví dụ này cho chúng ta thấy sự mềm dẻo của mạng nhiều lớp. Nó có thể xuất hiện với vai trò để xấp xỉ
bất kz một hàm số nào, nếu chúng ta có số lượng nơron đủ lớn trong lớp ẩn. Thực tế nó được xuất hiện dưới dạng 3 lớp, với hàm chuyển sigmoid trong lớp ẩn và hàm linear ở lớp ra, mạng này có thể
xấp xỉ gần nhất mọi hàm với độ chính xác bất kz.