Hình 2.4a: Hàm tổng của một nơ-ron đối với n input được tính theo cơng thức:
Hình 2.4b: Hàm tổng đối với nhiều nơ-ron trong cùng một Layer được tính theo cơng thức:
uk là tổng các giá trị kích hoạt lên nơ-ron thứ k, giá trị này chính là đầu ra của hàm tổng.
bk là ngưỡng (cịn gọi là hệ số bias) của nơ-ron thứ k, giá trị này được dùng
như một thành phần phân ngưỡng trên hàm truyền và cũng được cập nhật liên tục trong quá trình học của mạng.
(.) là hàm chuyển, cịn gọi là hàm kích hoạt (activation function). Hàm
chuyển được dùng để giới hạn phạm vi đầu ra của mỗi nơ-ron. Đối số của hàm là giá trị hàm tổng và ngưỡng bk. Thơng thường, phạm vi đầu ra của mỗi nơ-ron được giới hạn trong đoạn [0,1] hoặc [-1,1]. Như vậy miền giá trị của các hàm kích hoạt cũng là một trong hai đoạn trên. Cĩ rất nhiều hàm chuyển thường được dùng, việc lựa chọn hàm chuyển nào cho phù hợp tuỳ thuộc vào từng bài tốn.
yk là tín hiệu đầu ra của nơ-ron thứ k, mỗi nơ-ron thường cĩ một đầu ra và tối đa là một đầu ra. Giá trị yk được tính theo cơng thức:
yk = (uk + bk) với uk = p j j kjx w 1
Như vậy, sau quá trình xử lý của nơ-ron trên tập tín hiệu đầu vào ta sẽ thu được một đầu ra duy nhất.
Cấu trúc và hoạt động của mạng nơ-ron
Một mạng nơ-ron bao gồm các nơ-ron được tổ chức thành các layer. Lớp đầu tiên
được gọi là lớp đầu vào (input layer) bao gồm các nơ-ron đầu vào của mạng. Lớp cuối cùng (lớp đầu ra – output layer) của mạng chứa các nơ-ron đầu ra là các dự đốn của
mạng tương ứng với nơ-ron đầu vào.
Một mạng nơ-ron cĩ thể cĩ một hoặc nhiều lớp, trong đĩ ít nhất phải cĩ lớp đầu ra. Mỗi lớp cĩ thể cĩ một hoặc nhiều nơ-ron. Cấu trúc tổng quát của mạng nơ-ron được thể hiện trong hình vẽ sau: