tin về đầu ra mong muốn. Đối với luật học có giám sát thì phƣơng trình là:
wij new
= wij old
+ tiq pjq (2.2.5)
trong đó tiq là thành phần thứ i của vec tơ mẫu thứ q, tq
Do đó:
W new = W old + tqpTq (2.2.6) Giả sử W đƣợc khởi tạo bằng không và mỗi cặp đầu vào/đầu ra đƣợc đƣa Giả sử W đƣợc khởi tạo bằng không và mỗi cặp đầu vào/đầu ra đƣợc đƣa vào mạng một lần thì:
W = t1p1T + t2p2T + … + tQpQT = Σ tQpQT
hay W = T. PT (2.2.7)
Trong đó T = [t1 t2 … tQ], P = [p1 p2 …pQ]
b2) Phân tích hoạt động:
Nếu tập các vec tơ mẫu pq trực chuẩn với nhau (trực giao và có độ dài
đơn vị) thì khi pk đƣợc đƣa vào mạng:
a = Wpk = (Σ tqpqT T ) pk = Σ tq (pq T pk) (q =1,…,Q) Vì các pq là trực chuẩn nên: (pq T pk) = 1 với q = k = 0 với q ≠ k Vì vậy: a = Wpk = tk
Đầu ra của mạng bằng đầu ra mong muốn. Nghĩa là nếu tập các vec tơ mẫu trực chuẩn với nhau thì luật Hebb sẽ cho đầu ra mong muốn với mỗi đầu vào.
Nếu tập các vec tơ mẫu pq không trực giao với nhau: giả sử mỗi vec tơ pq đã có độ dài đơn vị thì:
a = Wpk = tk + Σ tq(pqT pk)(với q ≠ k) = tk + Error
Vì các vec tơ không trực giao, mạng sẽ không cho đầu ra đúng. Sai số phụ thuộc vào hệ số tƣơng quan của các vec tơ mẫu.
Trƣờng hợp này ta có thể dùng luật giả nghịch đảo (Pseudo Inverse Rule) để tính W:
W = T. P+ (2.2.8)
P+ = (PTP)-1PT (2.2.9)
Tuy nhiên trong thực tế thì việc tính ma trận nghịch đảo rất mất nhiều thời gian nếu ma trận lớn và có thể không tính đƣợc.
c. Ứng dụng:
c1) Bộ nhớ tự kết hợp (Autoassociative Memory)
Trong bộ nhớ tự kết hợp, vec tơ đầu ra mong muốn chính là vec tơ đầu vào (tq = pq). Chúng ta sử dụng bộ nhớ tự kết hợp để lƣu trữ một tập các mẫu và nhớ lại chính các mẫu này, ngay cả khi đầu vào bị khiếm khuyết.
W = p1p1T + p2p2T + … + pQpQT (2.2.10)
c2) Ứng dụng bộ nhớ tự kết hợp để nhớ các ký tự
Hình 2.3. Nhớ ký tự bằng bộ kết hợp tuyến tính
Trong [2], mỗi ký tự nằm trong một lƣới 6x5, mỗi ô trắng đƣợc biểu diễn bằng -1, ô đen đƣợc biểu diễn bằng 1.
p2 ứng với số “1”, p3 – số “2”. Sử dụng luật Hebb: W = p1p1 T + p2p2 T + p3p3 T
Hàm chuyển a = hardlims(Wp) để đầu ra nhận các giá trị -1 hoặc 1 Kiến trúc mạng nhƣ sau:
Hình 2.4. Mạng tự kết hợp để nhận dạng chữ số
Với mạng nhƣ trên, ta có thể nhớ lại chính xác các chữ số ngay cả khi nó bị hỏng một phần.
Hình 2.5. Phục hồi mẫu bị hỏng 50%