Khi xét mạng nơ ron sinh học người ta nhận thấy: các tín hiệu do các nơ ron tạo ra rất giống nhau và hầu như không thể phân biệt được cho dù đó là nơ ron của loại sinh vật nào. Rõ ràng cường độ tín hiệu được tạo ra bởi các nơ ron có thể khác nhau phụ thuộc vào cường độ kích thích nhưng bề ngoài của các tín hiệu lại rất giống nhau. Điều đó chứng tỏ rằng việc thực hiện chức năng của bộ não không phụ thuộc quá nhiều vào vai trò của một nơ ron đơn lẻ mà phụ thuộc vào toàn bộ hệ thống nơ ron. Nghĩa là phụ thuộc vào cách liên kết giữa các nơ ron, hay có thể nói việc thực hiện các chức năng phụ thuộc vào cấu trúc của mạng nơ ron.
Trong mô hình mạng nơ ron nhân tạo, các nơ ron được nối với nhau bởi các liên kết nơ ron, mỗi liên kết có một trọng số đặc trưng cho đặc tính kích hoạt hay ức chế giữa các nơ ron. Đồng thời, các nơ ron được nhóm lại với nhau theo cấu trúc phân lớp, bao gồm: lớp vào (input layer), lớp ra (output layer) và lớp ẩn (hidden layer).
- Lớp vào: các nút trong lớp vào gọi là các nút vào, chúng mã hoá mẫu được đưa vào mạng xử lý. Các nơ ron vào không xử lý thông tin, chỉ phân tán thông tin cho nút khác (trên biểu đồ chúng được vẽ khác các nút ẩn và các nút ra để phân biệt giữa các nút có xử lý và không xử lý thông tin).
- Lớp ẩn: các nơ ron trong lớp ẩn gọi là các nút ẩn vì chúng không thể quan sát được trực tiếp. Chúng tạo thành các mô hình toán học phi tuyến cho mạng.
- Lớp ra: các nơ ron trong lớp này gọi là các nút ra, chúng có nhiệm vụ đưa thông tin ra thích nghi mẫu mã người sử dụng cần.
Một mạng được gọi là kết nối đầy đủ nếu tất cả các nút của một lớp được nối với tất cả các nút của lớp kề liền nó. Có nhiều loại kết nối khác nhau:
- Kết nối liên lớp là kết nối giữa các nút trong các lớp khác nhau. - Kết nối trong lớp là kết nối giữa các nút trong cùng một lớp. - Tự kết nối là kết nối từ một nút tới chính nó.
- Kết nối siêu lớp là kết nối giữa các lớp cách nhau (không kề nhau). Một kết nối bậc cao là một kết nối với nhiều nút đầu vào. Số các nút đầu vào xác định bậc kết nối và bậc kết nối của mạng là bậc của kết nối bậc cao nhất.