Chương 4 MẠNG NƠ-RON NHÂN TẠO VÀ CÁC THUẬT TOÁN HUẤN LUYỆN 21
4.2. Các thành phần cơ bản của nạng Neural nhân tạo
4.2.2. Mô hình kết nối (Connections)
Cấu trúc mà tổ chức các phần tử xử lý này và sự kết nối hình học giữa chúng nên được chỉ rõ cho mỗi yếu tố xử lý trong một ANN. Một mạng neuron đơn giản với một nút xử lý như được mô tả trên. Tùy theo dạng kết nối mà phân thành 5 loại mạng neural cơ bản khác nhau:
a. Mạng neural phản hồi dương một lớp (Single layer feedforward network)
Mạng neural phản hồi dương một lớp là mạng bao gồm các phần tử xử lý trên cùng mức, mỗi phần tử xử lý thứ j được kết nối với các đầu vào x1, x2,…, xI, thông qua các hệ số trọng lượng w11, w21, …, wIJ và đầu ra thứ j như được mô tả ở Hình 4.2.
x 1
x 2
x I
1Y1
2Y2
JYJ
Hình 4.2. Mạng Feedforward 1 lớp
b. Mạng neural phản hồi dương đa lớp (Multi layer feedforward network)
Có thể kết nối nhiều mạng phản hồi dương một mức lại nhau để tạo thành một mạng đa mức phản hồi dương như được mô tả ở Hình 4.3:
X1
X2
XI
Y1
Y2
YJ
Lớp Các lớp Lớp
nhập ẩn xuất
Hình 4.3. Mạng Feedforward đa lớp
c. Các mạng neuron phản hồi âm (Feedback network):
Khi các đầu ra có thể được định hướng lùi về như các đầu vào cùng lớp hoặc các nút ở lớp đứng trước, một mạng neuron như vậy được gọi là mạng neural phản hồi âm. Các mạng phản hồi âm mà có vòng kín (closed loop) thì được gọi là mạng đệ qui (recurrent network).
Một mạng neural đệ qui đơn giản nhất là vòng phản hồi âm (feedback loop) tức là chỉ một phần tử xử lý với phản hồi âm chính nó như được dẫn chứng ở Hình 4.4. Hình 4.5 trình bày mạng đệ qui (hồi tiếp) một lớp (single recurrent network) và Hình 4.6 mô tả mạng neural đệ quy (hồi tiếp) đa lớp (multilayer recurrent network).
x1
x2
w
I2
Vòng lặp phản hồi
Hình 4.4. Neural có hồi tiếp về chính nó Hình 4.5. Mạng neural hồi tiếp một lớp
x1
1
w
J
x2 21
w
2
w
J
w I2
Thành phần quan trọng thứ ba của mạng neural là phương pháp huấn luyện (training) hay còn gọi là các qui tắc học (learning rules). Có hai loại học trong các mạng neural nhân tạo: học thông số (patameter learning) và học cấu trúc (structure learning). Học thông số là phương pháp học bằng cách cập nhập các hệ số trọng lượng kết nối
và học cấu trúc là phương pháp học bằng cách thay trong cấu trúc mạng bao gồm số của các phần tử xử lý và các kiểu kết nối mạng. Học cấu trúc sẽ được thăm dò về sau này và ở đây chúng ta chỉ trình bày các phương pháp học thông số.
a) Học giám sát (Supervised learning)
Trong cách học giám sát, mạng neural nhân tạo được cung cấp với một chuỗi của các cặp đầu vào đầu ra mong muốn:(x(1). d(1)); (x(2). d(2));………;(x(k), d(k)). Khi mỗi đầu vào x(k) đặt vào mạng thì đầu ra mong muốn tương ứng d(k) cũng được cung cấp đến mạng. Sự khác nhau giữa đầu ra thực sự y(k) và đầu ra mong muốn d(k) được
23
đo trong bộ phát sinh tín hiệu sai (error signal generator) cả bộ mà sản xuất ra các tín hiệu lỗi cho mạng để điều chỉnh các hệ số trọng lượng của nó như thế nào đó để đầu ra thực sự
sẽ tiến đến đầu ra mong muốn. Hình sau mô tả cách học giám sát của một mạng neural.
X Đầu vào Mạng neuron
W (Input)
hieọu loói Cỏc tớn
Y Đầu ra thật sự (Actual output)
Hình 4.7. Học có gíám sát b) Học củng cố (hay còn gọi là học có tăng cường - Reinforcement learning):
Học củng cố là một dạng học có giám sát bởi vì mạng vẫn nhận một vài phản hồi âm từ môi trường của nó.
X Đầu vào Mạng neuron
W (Input)
đỏnh giaự Cỏc tớn hieọu
Y Đầu ra thật sự (Actual output)
Hình 4.8. Học củng cố c) Học không giám sát (Unsupervised learning):
Trong cách học không giám sát, không có phản hồi âm từ môi trường để bảo các đầu nên điều chỉnh hay là không. Mạng phải khám phá cho các mẫu của nó, các đặc trưng,các quan hệ, hoặc các loại trong dữ liệu nhập và mã cho chúng trong đầu ra. Trong khi đang khám phá các đặc trưng, mạng phải trải qua nhiều sự thay đổi trong các thông số của nó; việc xử lý này được gọi là tự tổ chức.