Trong mơ hình:
xj là đầu vào của nơ-ron wij là trọng số của nơ-ron yi là đầu ra của nơ-ron thứ i
3.2. Mơ hình mạng nơ-ron nhân tạo
Mạng nơ-ron nhân tạo (Artificial Neural network - ANN), gọi tắt là mạng nơ-ron được xây dựng dựa trên cơ sở mạng nơ-ron sinh học. Mạng nơ-ron nhân tạo
∑ a ┘ ┌ 0 x1 x2 xm yi Wi1 Wi2 Wim . . .
là hệ thống bao gồm nhiều tế bào thần kinh (nơ-ron) liên kết chặt chẽ với nhau bởi các liên kết nơ-ron. Mỗi liên kết kèm theo một trọng số nào đó đặc trưng cho đặc tính kích hoạt hoặc ức chế giữa các nơ-ron. Có thể xem các trọng số là phương tiện để lưu thơng tin dài hạn trong mạng nơ-ron, cịn nhiệm vụ của quá trình huấn luyện là cập nhật các trọng số khi có thêm thơng tin về các mẫu học hay nói cách khác, các trọng số được điều chỉnh sao cho dáng điệu vào ra của nó mơ phỏng hồn tồn phù hợp môi trường đang xem xét.
Trong mạng nơ-ron, các nơ-ron nhận tín hiệu vào gọi là nơ-ron vào, các nơ- ron đưa thông tin ra gọi là nơ-ron ra. Các thông số cấu trúc mạng nơ-ron bao gồm:
Số tín hiệu vào, số tín hiệu ra. Số lớp nơ-ron.
Số nơ-ron trên mỗi lớp ẩn
Số lượng liên kết của mỗi nơ-ron Các trọng số liên kết.
3.3. Phân loại mạng nơ-ron
Tùy theo cấu trúc mạng, người ta chia ra các loại mạng sau đây:
Mạng một lớp: là mạng chỉ gồm một lớp tế bào thần kinh xử lý. Mạng nhiều lớp: là mạng gồm nhiều lớp tế bào thần kinh xử lý.
Mạng truyền thẳng: là mạng mà trong đó tín hiệu chỉ truyền theo một chiều từ ngõ vào đến ngõ ra.
Mạng hồi quy: là mạng mà trong đó có tín hiệu hồi tiếp từ ngõ ra trở về ngõ vào.
3.4. Các phương pháp huấn luyện mạng thần kinh nhân tạo
Mạng thần kinh nhân tạo phải được huấn luyện trước khi sử dụng. Có hai kiểu học:
Học cấu trúc (Structure Learning): để thay đổi cấu trúc mạng, bao gồm số tế bào thần kinh và cách liên kết giữa chúng.
Học thông số (Parameter Learning): để cập nhập các trọng số liên kết giữa các tế bào thần kinh trong mạng. Có ba phương pháp học thơng số:
Học có giám sát (supervised learning)
Mạng được cung cấp một tập mẫu học {(xk,dk)}, trong đó xk là các tín hiệu vào và dk là tín hiệu ra mong muốn. Sai lệch giữa tín hiệu ra thật sự và tín hiệu vào được giám sát trong bộ tạo tín hiệu sai lệch. Hệ số trọng lượng kết nối giữa các nơ- ron trong mạng sẽ được cập nhật sử dụng tín hiệu sai lệch này sao cho tín hiệu ra thật sự của mạng sẽ tiến gần đến tín hiệu ra mong muốn của mạng.