Một số mô hình FAM

Một phần của tài liệu Cải tiến quá trình học của một số mạng nơ ron ghi nhớ luận văn ths công nghệ thông tin (Trang 84 - 88)

Các FAM có đặc điểm là cả quá trình học và nhớ lại chỉ thực hiện trong một lần lặp bằng việc dùng các phép thao tác của toán học, logic mờ và toán học hình thái.

Giả sử các FAM lƣu p cặp mẫu (Ak, Bk) với Akn phần tử và Bkm phần tử.

Mô hình của Kosko và Kong [43]

Mô hình FAM này sử dụng các phép toán lấy cực tiểu để học các liên kết giữa mỗi cặp mẫu và dùng phép toán giãn nở để tổng quát hóa các liên kết và tính toán mẫu ra.

Các ma trận trọng số kết nối Wk của cặp mẫu (Ak, Bk) đƣợc tính bằng công thức:

𝑊𝑖𝑗𝑘 = min(𝐴𝑘𝑖, 𝐵𝑗𝑘) (5.1)

Ma trận trọng số kết nối W lƣu tất cả các cặp mẫu đƣợc tính bằng công thức:

𝑊𝑖𝑗 = 𝑊𝑖𝑗𝑘

𝑝

𝑘=1

(5.2) Với mẫu vào X, mẫu ra Y đƣợc tính bằng hàm đầu ra:

𝑌𝑗 = max⁡ (𝑋𝑖, 𝑊𝑖𝑗)

𝑚

𝑖=1

85

Mô hình của Junbo, Fan, và Yan [40]

Mô hình FAM này sử dụng thao tác gợi ý mờ đƣợc dùng để trình bày liên kết giữa các mẫu. Ma trận trọng số lƣu các liên kết đƣợc tính toán bởi thao tác co rút và sử dụng lại hàm đầu ra của Kosko.

Các ma trận trọng số kết nối Wk của cặp mẫu (Ak, Bk) đƣợc tính bằng công thức:

𝑊𝑖𝑗𝑘 = 𝐼𝑀(𝐴𝑖𝑘, 𝐵𝑗𝑘) (5.4) Ma trận trọng số kết nối W lƣu tất cả các cặp mẫu đƣợc tính bằng công thức:

𝑊𝑖𝑗 = 𝑊𝑖𝑗𝑘

𝑝

𝑘=1

(5.5) Với mẫu vào X, mẫu ra Y đƣợc tính bằng hàm đầu ra:

𝑌𝑗 = max⁡ (𝑋𝑖, 𝑊𝑖𝑗)

𝑚

𝑖=1

(5.6)

Mô hình của Chung và Lee [14]

Hai mô hình FAM này thiết kế giống nhƣ mô hình của Junbo nhƣng hàm đầu ra sử dụng một thao tác t-norm để tính toán.

Các ma trận trọng số kết nối Wk của cặp mẫu (Ak, Bk) đƣợc tính bằng công thức:

𝑊𝑖𝑗𝑘 = 𝐼𝑀(𝐴𝑖𝑘, 𝐵𝑗𝑘) (5.7) Ma trận trọng số kết nối W lƣu tất cả các cặp mẫu đƣợc tính bằng công thức: (adsbygoogle = window.adsbygoogle || []).push({});

𝑊𝑖𝑗 = 𝑊𝑖𝑗𝑘

𝑝

𝑘=1

(5.8) Với mẫu vào X, mẫu ra Y đƣợc tính bằng hàm đầu ra:

𝑌𝑗 = 𝜑(𝑋𝑖, 𝑊𝑖𝑗)

𝑚

𝑖=1

(5.9) với 𝜑 là một t-norm

86

Mô hình của Xiao, Yang, và Yu [71]

Các tác giả thiết kế một mô hình mới có sử dụng tỷ lệ giữa các mẫu vào và các mẫu ra để lƣu các liên kết giữa các mẫu và dùng phép toán co rút để tổng quát hóa.

Các ma trận trọng số kết nối Wk của cặp mẫu (Ak, Bk) đƣợc tính bằng công thức: 𝑊𝑖𝑗𝑘 = 𝜑(𝐴𝑖𝑘, 𝐵𝑗𝑘) (5.10) với 𝜑 đƣợc tính nhƣ sau: φ x, y = 1, x = y min⁡(𝐴𝑖𝑘, 𝐵𝑗𝑘) max(𝐴𝑖𝑘, 𝐵𝑗𝑘), x ≠ y (5.11) Ma trận trọng số kết nối W lƣu tất cả các cặp mẫu đƣợc tính bằng công thức:

𝑊𝑖𝑗 = 𝑊𝑖𝑗𝑘

𝑝

𝑘=1

(5.12) Với mẫu vào X, mẫu ra Y đƣợc tính bằng hàm đầu ra:

𝑌𝑗 = 𝑋𝑖. 𝑊𝑖𝑗

𝑚

𝑖=1

(5.13)

Tập các mô hình của S.T. Wang và Lu [65]

Tập các FAM này lƣu trữ liên kết của các cặp giống nhƣ Fulai nhƣng việc tổng quát hóa các liên kết và tính toán mẫu ra lại có thể làm bằng một trong hai phép toán là co rút hay giãn nở.

Các ma trận trọng số kết nối Wk của cặp mẫu (Ak, Bk) đƣợc tính bằng công thức:

𝑊𝑖𝑗𝑘 = 𝐵𝑖𝑘/𝐴𝑗𝑘 (5.14)

Ma trận trọng số kết nối W lƣu tất cả các cặp mẫu đƣợc tính bằng công thức:

𝑊𝑖𝑗 = 𝑊𝑖𝑗𝑘 𝑝 𝑘=1 (5.15) hoặc 𝑊𝑖𝑗 = 𝑊𝑖𝑗𝑘 𝑝 𝑘=1 (5.16)

87

Với mẫu vào X, mẫu ra Y đƣợc tính bằng hàm đầu ra:

𝑌𝑗 = 𝑋𝑖 + 𝑊𝑖𝑗 𝑚 𝑖=1 (5.17) hoặc 𝑌𝑗 = 𝑋𝑖 + 𝑊𝑖𝑗 𝑚 𝑖=1 (5.18)

Họ các FAM gợi ý của Sussner và Valle [58] (adsbygoogle = window.adsbygoogle || []).push({});

Hai tác giả dùng phép toán gợi ý mờ để học các liên kết giữa các mẫu. Sau đó các liên kết đƣợc tổng quát hóa bằng một trong hai thao tác là co rút hay giãn nở. Để tính toán mẫu ra, một thao tác s-norm đã đƣợc sử dụng và một ngƣỡng đƣợc thêm vào để cải thiện mẫu ra của FAM.

Các ma trận trọng số kết nối Wk của cặp mẫu (Ak, Bk) đƣợc tính bằng công thức:

𝑊𝑖𝑗𝑘 = 𝜑(𝐴𝑖𝑘, 𝐵𝑗𝑘) (5.19)

với 𝜑 là thao tác IM, IP, IL

Ma trận trọng số kết nối W lƣu tất cả các cặp mẫu đƣợc tính bằng công thức:

𝑊𝑖𝑗 = 𝑊𝑖𝑗𝑘 𝑝 𝑘=1 (5.20) hoặc 𝑊𝑖𝑗 = 𝑊𝑖𝑗𝑘 𝑝 𝑘=1 (5.21)

Với mẫu vào X, mẫu ra Y đƣợc tính bằng hàm đầu ra:

𝑌𝑗 = 𝜓(𝑋𝑖, 𝑊𝑖𝑗 ) ⋁ 𝜃𝑗 (5.22)

với 𝜓 là thao tác DM, DP, DL và θ đƣợc tính bằng công thức:

𝜃𝑗 = 𝐵𝑗𝑘

𝑝

𝑘 =1

(5.23) Các mô hình FAM ở trên chỉ thể hiện tốt nội dung hoặc liên kết giữa các cặp mẫu nên không thể hiện tốt cả nội dung và liên kết của các mẫu.

88

Một phần của tài liệu Cải tiến quá trình học của một số mạng nơ ron ghi nhớ luận văn ths công nghệ thông tin (Trang 84 - 88)