Hình 1 .1 Minh họa bài toán nội suy hàm một biến
Hình 1. 2 Cấu tạo của nơron sinh học
Có thể tóm tắt hoạt động của một nơron như sau: nơron lấy tổng tất cả các điện thế vào mà nó nhận được, và phát ra một xung điện thế nếu tổng ấy lớn hơn một ngưỡng nào đó. Các nơron nối với nhau ở các synapses. Synapse được gọi là mạnh khi nó cho phép truyền dẫn dễ dàng tín hiệu qua các nơron khác. Ngược lại, một synapse yếu sẽ truyền dẫn tín hiệu rất khó khăn.
Các synapses đóng vai trị rất quan trọng trong sự học tập. Khi chúng ta học tập thì hoạt động của các synapses được tăng cường, tạo nên nhiều liên kết mạnh giữa các nơron. Có thể nói rằng người nào học càng giỏi thì càng có nhiều synapses và các synapses ấy càng mạnh mẽ, hay nói cách khác, thì liên kết giữa các nơron càng nhiều, càng nhạy bén. Đây cũng là nguyên tắc chính để ứng dụng nó trong việc học của các mạng nơron [28].
Mặc dù W. Mculloch và W.Pitts (1940) đề xuất mơ hình nơron khá sớm nhưng định đề Heb (1949) mới là nền tảng lý luận cho mạng nơron.
Định đề Heb. Khi một tế bào A ở gần tế bào B, kích hoạt thường xuyên
hoặc lặp lại việc làm cháy nó thì phát triển một q trình sinh hố ở các tế bào làm tăng tác động này.
1.2.2. Mạng nơron nhân tạo
a) Mô phỏng các nơron sinh học
Các nơron nhân tạo (sẽ gọi gọn lại là nơron) là mô phỏng kiến trúc của nơron sinh học, chúng được mơ tả trong hình 1.3. Mỗi nơron nhận các giá trị từ các nơron khác như là tín hiệu vào hay từ đầu vào để xử lý. Nếu giá trị tổng hợp các tín hiệu nhận được vượt quá một ngưỡng nào đó, nơron này sẽ gửi tín hiệu đến các nơron khác.
Hình 1.3. Mơ phỏng một nơron sinh học
b) Cấu tạo của một nơron
Mỗi nơron là một đơn vị xử lý thơng tin có kiến trúc như hình 1.4.