Trong mạng nơ-ron truyền thẳng nhiều lớp, các liên kết đi theo một hƣớng nhất định từ lớp vào tới lớp ra. Chúng khơng tạo thành đồ thị cĩ chu trình với các đỉnh là các nơ-ron, các cung là các liên kết giữa chúng.
Hình 2.2: Mạng nơ ron nhiều lớp
Một mạng truyền thẳng nhiều lớp bao gồm một lớp vào (Input layer), một lớp ra (Output layer) và một hoặc nhiều lớp ẩn (Hidden layer) nằm giữa lớp vào và lớp ra. Các nơ-ron đầu vào thực chất khơng phải là các nơ-ron theo đúng nghĩa bởi chúng chƣa thực hiện bất kỳ một tính tốn nào trên dữ liệu vào mà chỉ đơn giản là nhập dữ liệu từ bên ngồi đƣa vào và chuyển cho các lớp kế tiếp. Các nơ-ron lớp ẩn và lớp ra mới thực sự thực hiện tính tốn, kết quả đƣợc tính tốn thơng qua hàm chuyển. Cụm từ “truyền thẳng”( feed forword) (khơng phải là trái nghĩa với lan
truyền ngƣợc) liên quan đến một thực tế là mỗi nơ-ron của lớp này chỉ đƣợc kết nối với các nơ-ron ở lớp kế tiếp theo một hƣớng, khơng cho phép các liên kết giữa các nơ-ron cùng một lớp hoặc các liên kết ngƣợc giữa nơ-ron lớp vào và lớp ra.
Luồng thơng tin trong mạng nơ-ron đi từ trái qua phải, các giá trị đầu vào x đƣợc truyền tới các nơ-ron lớp ẩn thơng qua trọng số kết nối sau đĩ đƣa tới lớp ra. Trọng số kết nối từ nơ-ron ẩn thứ j tới nơ-ron ra thứ k đƣợc kí hiệu là vjk.
Mỗi nơ-ron tính tốn đầu ra của nĩ dựa trên mức độ kích thích nhận về từ đầu vào. Cụ thể, đầu vào của nơ-ron đƣợc tính bằng tổng các trọng số đầu vào của nĩ, đầu ra của nơ-ron đƣợc tính dựa trên hàm kích hoạt.
Với lớp nơ-ron ẩn thứ j:
k j k k k j kj j v y z f a a 1 , (2-3) Trong đĩ:
aj, ak: là tổng (Summing function) tất cả các đầu vào mơ tả tồn bộ thế năng tác
động ở thân nơ-ron thứ j thuộc lớp ẩn và nơ-ron thứ k thuộc lớp ra.
xi, yj: là các đầu vào (input signals), i=1,2,...n là số lƣợng đầu vào của nơ ron thứ j trong lớp ẩn. Và j=1, 2, ...k là số lƣợng đầu vào của nơ-ron thứ k trong lớp ra.
wji, vkj: là trọng số liên kết (Synaptic weight) giữa các đầu vào của nơ-ron thứ j thuộc lớp ẩn và nơ-ron thứ k thuộc lớp ra.
θj, θk: là ngƣỡng (cịn gọi là một độ lệch - bias), đƣợc đƣa vào nhƣ một thành
phần của hàm truyền xác định ngƣỡng kích thích hay ức chế.