Trong mạng neural truyền thẳng nhiều lớp, lớp nhận tín hiệu vào của mạng gọi là lớp vào (Input layer), nó thường không thực hiện việc chuyển đổi thông tin mà chỉ làm chức năng nhận tín hiệu. Tín hiệu ra của mạng được đưa ra từ lớp ra (Output layer). Các lớp ở giữa lớp vào và lớp ra gọi là các lớp ẩn. Trong mạng truyền thẳng (Feed– forward network) không có nút nào mà đầu ra của nó là đầu vào của một nút khác trên cùng lớp với nó hoặc lớp trước [9].
19 Hình 2.6. Mạng perceptron nhiều lớp
Ở đây, chúng ta xác định ba thành phần cơ bản của một mô hình neural:
Một tập hợp các trọng số hay các kết nối, mà mỗi một trong chúng được đặc trưng bởi một trọng số của riêng nó. Tức là một tín hiệu tại đầu vào của trọng số j nối với neural k sẽ được nhân với trọng số wkj. Ở đó k là chỉ số của neural tại đầu ra của trọng số đang xét, còn j chỉ điểm đầu vào của trọng số. Các trọng số của một neural nhân tạo có thể nhận cả các giá trị âm và các giá trị dương.
Một bộ cộng để tính tổng các tín hiệu đầu vào của neural, đã được nhân với các trọng số tương ứng; phép toán được mô tả ở đây tạo nên một bộ tổ hợp tuyến tính.
Một hàm kích hoạt (Activation function) để giới hạn biên độ đầu ra của neural. Hàm kích hoạt cũng được xem xét như là một hàm nén, nó nén (Giới hạn) phạm vi biên độ cho phép của tín hiệu đầu ra trong một khoảng giá trị hữu hạn. Có nhiều loại hàm kích hoạt:
Hàm truyền Đồ thị Định nghĩa
Symmetrical Hard Limit
(Hardlims) y = {−1 nếu x < 0
20
Linear (Purelin) y = x
Saturating Linear (Satlin) y = {
0 với x < 0 x với 0 ≤ x ≤ 1 1 với x > 1 Log–Sigmoid (Logsig) y = 1 1+ e−x Bảng 2.2. Một số hàm kích hoạt
Có thể mô tả kiến trúc của mạng neural perceptoron nhiều lớp như sau:
- Đầu vào là các vector (x1, x2,..., xn) trong không gian n chiều, đầu ra là các vector (y1, y2,..., ym) trong không gian m chiều. Đối với các bài toán phân loại, n chính là kích thước của mẫu đầu vào, m chính là số lớp cần phân loại. - Mỗi neural thuộc tầng sau liên kết với tất cả các neural thuộc tầng liền trước
nó.
- Đầu ra của neural tầng trước là đầu vào của neural thuộc tầng liền sau nó Hoạt động của mạng như sau: Tại tầng đầu vào các neural nhận tín hiệu vào xử lý (Tính tổng trọng số, gửi tới hàm kích hoạt) rồi cho ra kết quả (Là kết quả của hàm kích hoạt), kết quả này sẽ được truyền tới các neural thuộc tầng ẩn thứ nhất; các neural tại đây tiếp nhận như là tín hiệu đầu vào, xử lý và gửi kết quả đến tầng ẩn thứ 2, thứ 3,…, quá trình tiếp tục cho đến khi các neural thuộc tầng ra cho kết quả.