Các cách thức học

Một phần của tài liệu Cải tiến quá trình học của một số mạng nơ ron ghi nhớ luận văn ths công nghệ thông tin (Trang 47)

Có hai chiến lƣợc học đƣợc phát triển gồm học một lần và học nhiều lần. BAM với học một lần đƣợc thực hiện rất nhanh trong một lần lặp duy nhất. Một số mô hình học lần lƣợt từng cặp mẫu trong một lần lặp với các phép toán cơ bản của ma trận nhƣ các mô hình của Zhuang và đồng nghiệp [76], Xu và He [72], và Leung [46]. Eom và đồng nghiệp [20] học lần lƣợt từng cặp mẫu và ma trận đƣờng chéo của các mẫu trong một lần lặp với các phép toán cơ bản của ma trận. Acevedo- mosqueda và đồng nghiệp [2] đƣa ra Alpha-Beta BAM với thao tác nhị phân α, β cùng với hai phép biến đổi véc tơ (mở rộng và rút gọn). Vázquez và đồng nghiệp [64] đƣa ra một BAM mới với sự mã hóa các mẫu huấn luyện bằng cách phép toán cơ bản của toán học. Sau đó, các mẫu đã mã hóa đƣợc học bằng các phép tính của ma trận và phép lấy phần tử trung gian của dãy số.

Các chiến lƣợc học nhiều lần đƣợc đƣa ra để cải thiện khả năng nhớ lại (khả năng phục hồi mẫu đã lƣu từ các mẫu vào nhiễu). Y.F Wang và đồng nghiệp [69] thể hiện chiến lƣợc huấn luyện nhiều lần thông qua MNTP. T. Wang và đồng nghiệp [67] đƣa ra thuật toán học có trọng số dựa vào giá trị trung bình của các cực tiểu cục bộ. Tập các mẫu đƣợc học lần lƣợt trong nhiều lần lặp. Shi và đồng nghiệp [57] học nhiều lần các mẫu và các biến thể của mẫu bằng các phép tính với véc tơ. Chartier and Boukadoum [11] đƣa ra một thuật toán học ngẫu nghiên từng cặp mẫu cho đến khi ma trận trọng số hội tụ.

Các mô hình thực hiện học một lần có độ phức tạp tính toán nhỏ nhƣng khả năng chịu nhiễu lại thấp. Ngƣợc lại, các mô hình thực hiện học nhiều lần có khả năng chịu nhiễu cao nhƣng độ phức tạp lại cao.

Một phần của tài liệu Cải tiến quá trình học của một số mạng nơ ron ghi nhớ luận văn ths công nghệ thông tin (Trang 47)

Tải bản đầy đủ (PDF)

(105 trang)