a. Mạng nơron một lớp a1. Mạng Hopfield (HF)
- Kiến trúc mạng
Hình 2.4: Mô hình mạng Hopfield
- Huấn luyện mạng
Mạng Hopfield học dựa trên nguyên tắc học có giám sát. Giả sử có p mẫu học tƣơng ứng với các véctơ tín hiệu vào Xs, s=1...p.
Mạng sẽ xác đinh bộ trọng số W sao cho: Xs=Tinh(Xs, W) với mọi s=1…p - Sử dụng mạng
Giả sử đƣa vào vectơ tín hiệu X, sử dụng mạng để tính đầu ra tƣơng ứng với tín hiệu vào X. Điểm chú ý quan trọng là ma trận W không thay đổi trong quá trình sử dụng mạng.
- Một số điểm về mạng HF:
+ Mạng HF cho phép tạo ánh xạ tự kết hợp trên các tập dữ liệu. + Giá trị vào ta có giá trị lƣỡng cực.
+ Học có giám sát.
+ Mạng cho phép phục hồi dữ liệu.
+ Khả năng nhớ mẫu phụ thuộc vào số nơron của mạng. a2. Mạng ABAM (Adaptive Bidirectional Associative Memory)
Nghĩa là có thể dùng mạng để biến đổi tín hiệu vào thành tín hiệu ra và ngƣợc lại: Y = Tính(X, WT
) và X = Tính(Y,W) Ở đây WT
Số hóa bởi Trung tâm Học liệu - ĐHTN http://www.lrc-tnu.edu.vn/
số phù hợp với dáng điệu của môi trƣờng.
Ở các bƣớc tiếp theo trong quá trình học, ma trận trọng số WT
đƣợc thay đổi cho phù hợp sao cho tạo ra sự kết hợp thực sự hai chiều giữa tín hiệu vào và tín hiệu ra trong tập mẫu học.
-Kiến trúc mạng
-Huấn luyện mạng
Giả sử có tập mẫu học {(Xs, Ys)}.
Sơ đồ quá trình học đƣợc thể hiện nhƣ sau: Lặp {(Xs, Ys)} ma trận W(0) Xs W(0)T Ys(1),Ys,W(0) Xs(1) (Xs(1),Ys(1))} ma trận W(1) Xs W(1)T Ys (2) ,YsW(1) Xs (2) Cho đến khi {(Xs (t) , Ys (t) )} = {(Xs,Ys)} -Sử dụng mạng
Giả sử đã luyện tập mạng với tập mẫu {(Xs,Ys)} và quá trình hội tụ đến ma trận trọng số Ws (t) sao cho XsWs (t)T = Ys và YsWs (t) = Xs. Khi đó, ta có thể sử dụng nhƣ bảng tra 2 chiều.
nơron ym xm x1 y1 Lớp vào Lớp ra
a) Cấu trúc mạng b) Biểu diễn ma trận
Số hóa bởi Trung tâm Học liệu - ĐHTN http://www.lrc-tnu.edu.vn/
a3. Mạng Perceptron
- Kiến trúc mạng
Đây là mạng truyền thẳng một lớp có một hoặc nhiều đầu ra. - Huấn luyện mạng
Mạng học dựa trên nguyên tắc có giám sát với tập mẫu {(Xs,Ys)}.
Ý tƣởng cơ bản của quá trình huấn luyện mạng là xác định bộ trọng số W sao cho outs = Tinh(Xs,W) = Ys đối với mọi mẫu học s.
- Sử dụng mạng và khả năng biểu diễn của mạng
Các hàm có thể đƣợc tính nhờ mạng Perceptron tƣơng đối phong phú. Sau đây là một số hàm tiêu biểu:
- Hàm “đa số” - Hàm “thiểu số” b. Mạng nơron nhiều lớp
b1. Mạng lan truyền ngƣợc sai số (Back Propagation Network)
sj
out
Lớp vào
Lớp ra
wj
Số hóa bởi Trung tâm Học liệu - ĐHTN http://www.lrc-tnu.edu.vn/ outt aj wjị wjk Ik Lớp ra(0) Lớp ra(1) Lớp ra(2)
Hình 2.8: Mô hình mạng nơron ngược hướng
Các nơron lớp thứ t đƣợc nối đầy đủ với các nơron lớp thứ t+1. Trong nhiều ứng dụng, để đơn giản ngƣời ta thƣờng sử dụng mạng có một lớp ẩn. b2. Mạng nơron ngƣợc hƣớng (Counter Propagation Neural Network)
Mạng ngƣợc hƣớng có 2 lớp: Lớp Kohonen và lớp ra. Các nơron của lớp vào đƣợc nối đầy đủ với các nơron lớp Kohonen. Tại mỗi bƣớc, chỉ có một số nơron láng giềng với nơron trung tâm đƣợc chọn để nối với các nơron ra và chỉ các trọng số liên kết tƣơng ứng đƣợc hiệu chỉnh.
Số hóa bởi Trung tâm Học liệu - ĐHTN http://www.lrc-tnu.edu.vn/