Mạng RBF dùng hàm truyền Gauss thay vì dạng S. Lợi điểm của mạng RBF là : đối với bài toán có số biến nhập hạn chế, mạng học nhanh hơn so với mạng NN 3 lớp lan truyền ngược.
Hàm ánh xạ được xây dựng từ mạng RBF khác với ánh xạ được xây dựng ở mạng 3 lớp. Khác biệt chính là ở đơn vị ẩn . Ở đây ta có thể coi như 2 lớp vì giá trị tại lớp ẩn có thể được tính từ lớp nhập mà không cần thay đổi bộ trọng từ lớp nhập đến lớp xuất.
Mỗi đơn vị ẩn có một tham số cho mỗi đầu vào. Các tham số này không phải là các trọng, mà chúng là tọa độ của tâm hàm kết xuất trong không gian nhập. Hàm kết xuất là một hình dạng chuông có chiều cao 1 ở tâm và có chiều rộng được điều khiển bởi 1 tham số bổ sung.
Giả sử mạng có I nút nhập, H nút ẩn và O nút xuất với bộ trọng W1 nối từ lớp nhập đến lớp ẩn. W2 nối từ lớp ẩn đến lớp xuất.
Giả trị tại nốt ẩn thứ j : yj = exp (-δj2 / σ j2)
Với σj là bề rộng của hàm Gauss tại noron ẩn thứ j (chọn cố định). Kết quả thu được tại nốt xuất thứ k :
Với j chạy từ 1 đến H trên lớp ẩn. k chạy từ 1 đến O trên lớp xuất. * Quá trình học :
Mạng RBF học nhanh vì chúng tách một bài toán khó thành hai mảnh dễ. Trước tiên chúng sắp xếp các đơn vị ẩn để phủ các mẫu một cách thích hợp.Rồi đặt tham số của các đơn vị xuất để cực tiểu hóa độ đo sai số bậc 2 đơn giản.
Ta có thể dùng phương pháp giảm gradient để học. * Đánh giá :
Vì mạng RBF có thể học một hàm ánh xạ bất kì nên chúng có thể quá khớp trên dữ liệu có nhiễu. Vì thế khi ứng dụng mạng RBF cơ bản vào bài toán chứng thực mặt người với bộ huấn luyện lớn sẽ không tốt vì lượng ảnh nhiễu nhiều.
Mạng RBF có thể được ứng dụng vào các bài toán có ít tập mẫu và ít có nhiễu như nhận dạng kí số, nhận dạng chữ in hoa…
A.6.4 Mạng lan truyền thẳng ba lớp và thuật giải lan truyền ngược [25]:
A.6.4.1 Mạng truyền thẳng ba lớp:
Mạng Nơron truyền thẳng được xem là thiết bị ánh xạ giữa tập các giá trị đầu vào và tập các giá trị đầu ra: Nó đóng vai trò như một ánh xạ f từ tập đầu vào I sang tập đầu ra O:
f : I->O hoặc
y=f(x) trong đó y∈O và x∈I.
Xét một mạng Nơron ba lớp với T Nơron trong lớp nhập, H Nơron trong lớp ẩn, và C Nơron trong lớp xuất, H là một số được chọn tương ứng. Mạng sẽ liên kết đầy đủ các lớp kề nhau.
Hình A.6.4.1-1: Minh họa mạng lan truyền thẳng ba lớp