Năm 1982 nhà vật lý người Mỹ J.J. Hopfield đã đề xuất mô hình mạng neural một lớp NN cho phép tạo ánh xạ dữ liệu từ tín hiệu vào sang tín hiệu ra theo kiểu tự kết hợp (auto-association) tức là nếu tín hiệu vào là X thuộc miền giá trị D nào đó thì kết quả ra V:
V = Tinh (X, NN) cũng thuộc vào miền D đó.
Nhờ vậy, một véc tơ tín hiệu vào X bị thiếu thông tin hoặc biến dạng có thể được phục hồi dạng nguyên bản của mình.
Trong ứng dụng, mạng Hopfield đã mô phỏng được khả năng tự kết hợp (hồi tưởng) của bộ não người, nhận ra người quen sau khi nhận thấy những nét quen thuộc trên khuôn mặt. Ngoài ra, với một số cải biên mạng Hopfield còn được dùng để giải quyết các bài toán tối ưu, bài toán xử lý dữ liệu trong điều khiển tự động.
Xem xét trên quan điểm lý thuyết điều khiển thì mạng Neural Hopfield là một hệ tự trị và nó cần phải được ổn định. Để xét tính ổn định của nó bằng cách xem xét các hàm năng lượng.
Mỗi mô hình mạng Neural với những ưu điểm và nhược điểm riêng của mình, chúng thích hợp với những bài toán, lớp bài toán cụ thể xác định. Với những bài toán thuộc lớp bài toán NP, mô hình toán tối ưu tổ hợp, bài toán điều
tắc. Một mô hình mạng có thể khắc phục được những nhược điểm của mạng truyền thẳng mà vẫn giải quyết được yêu cầu của các bài toán trên đó là mô hình mạng hồi quy một lớp. Một trong những công trình nghiên cứu về mạng hồi quy một lớp tìm thấy được nhiều ứng dụng trong thực tế nhất đó là công trình của Hopfield vào những năm 1980. Trong phần này ta sẽ nghiên cứu về mạng Hopfield.
+ Mạng hồi quy một lớp: Mô hình mạng hồi quy một lớp là mô hình các neural tổ chức lại với nhau tạo thành một lớp, các tín hiệu ra của một neural có thể được truyền ngược lại làm tín hiệu vào của các neural trong lớp mà không là tín hiệu vào của chính nó.
+ Mạng Hopfield: Mạng Hopfield là mạng thuộc loại mạng hồi quy một lớp- mạng feedback tầng đơn (Single-layer feedback network).
Kiến trúc mạng
Mạng Hopfield có một lớp ra, với số neural bằng số tín hiệu vào. Các liên kết neural là đầy đủ.Mạng thực hiện một tiến trình cập nhật tuần tự, một mẫu đầu vào trước tiên được cung cấp cho mạng và theo đó đầu ra của mạng được khởi tạo. Sau đó, mẫu khởi tạo được xóa đi, đầu ra được cập nhật thông qua các kết nối phản hồi. Đầu vào được cập nhật lần thứ nhất sẽ có đầu ra được cập nhật lần thứ nhất, hoạt động này tái diễn, đầu vào được cập nhật lần thứ hai thông qua các liên kết phản hồi và cung cấp đầu ra được cập nhật lần thứ hai. Quá trình chuyển tiếp tiếp tục cho đến khi không có sự biến đổi, các đáp ứng cập nhật được cung cấp và mạng đã đạt được trạng thái cân bằng của nó.