Trong phần này mô tả hai kiểu huấn luyện khác nhau.
• Incremental training : trọng số và ngưỡng của mạng được cập nhập mỗi khi có dữ liệu
vào mạng. Kiểu này ứng dụng trong cả hai mạng tĩnh và động, tuy nhiên thường dùng trong mạng động nhiều hơn, như là những bộ lọc thích ứng.
• Batch training : trọng số và ngưỡng của mạng chỉ được cập nhập sau khi tất cả dữ liệu
đã vào mạng, dùng trong cả hai mạng tĩnh và động.
4. KẾT LUẬN
Đầu vào của một neuron gồm ngưỡng b và tổng các trọng số vào. Ngõ ra của neuron phụ thuộc vào đầu vào và hàm truyền.
Neuron đơn rất ít sử dụng. Tuy nhiên một vài neuron có thể kết hợp thành một lớp hay nhiều lớp thì khả năng xử lý cao hơn. Vấn đề đơn giản có thể trình bày bằng một lớp đơn. Tuy nhiên, nó không giải quyết được nhiều vấn đề phức tạp. Mạng đa lớp feedforward có khả năng giải quyết lớn hơn.
Cấu trúc một mạng có thể mô tả bằng số lớp, số neuron trong một lớp, hàm truyền của mỗi lớp và kết nối giữa các lớp. Tùy thuộc vấn đề mạng cần giải quyết mà có cấu trúc khác nhau. Nếu một ánh xạ tuyến tính cần mô tả nên sử dụng neuron tuyến tính. Tuy nhiên, mạng tuyến tính không thể thực hiện bất cứ tính toán phi tuyến nào. Sử dụng hàm truyền phi tuyến để tạo cho mạng có khả năng thực hiện mối quan hệ phi tuyến giữa đầu vào và đầu ra. Mạng có ngưỡng b có thể mô tả mối quan hệ giữa đầu vào và đầu ra dễ dàng hơn mạng không có ngưỡng b. Ví dụ một neuron không có ngưỡng sẽ luôn tạo ra ngõ vào zero cho hàm truyền (khi tất cả ngõ vào neuron là zero). Tuy nhiên một neuron với ngưỡng có thể học để tạo ra một ngõ nhập cho bất kỳ hàm truyền nào trong cùng một điều kiện bằng cách học tập những giá trị gần đúng của ngưỡng.