Thức – Ngủ (Wake – Sleep)

Một phần của tài liệu Chương 4 numerical computation chương 19 approximate inference (Trang 37 - 38)

Một trong những khó khăn chính khi huấn luyện một mô hình để suy luận từ đó là chúng ta không có một tập huấn luyện có giám sát. Với một giá trị chúng ta không biết phù hợp. Sự ánh xạ từ đến phụ thuộc vào họ mô hình được lựa chọn, và phát triển thông qua quá trình học khi thay đổi. Thuật toán thức-ngủ (Hinton cùng cộng sự, 1995b; Frey cùng cộng sự 1996) giải quyết vấn đề này bằng việc định ra các mẫu của cả và từ phân phối mô hình. Ví dụ, trong một mô hình trực tiếp, công việc này có thể được thực hiện một cách rẻ tiền bằng biểu diễn lấy mẫu di truyền từ và kết thúc ở Mạng suy luận sau đó có thể được huấn luyện để biểu diễn đảo ngược ánh xạ: dự đoán hh khi có Hạn chế duy nhất của phương pháp này là chúng ta chỉ có khả năng huấn luyện mạng suy luận trên những giá trị của mà có xác suất cao chịu tác động bởi mô hình. Khi quá trình học mới bắt đầu, phân phối mô hình sẽ không giống phân phối dữ liệu, mạng suy luận vì vậy sẽ không có cơ hội để học trên những mẫu giống với dữ liệu.

Trong phần 18.2, chúng ta đã thấy một cách giải thích khả dĩ cho vai trò của ngủ mơ đối với con người và động vật, đó là các giấc mơ có thể cung cấp những mẫu pha âm mà các thuật toán huấn luyện Monte Carlo sử dụng để xấp xỉ hoá số dối gradient của logarit hàm phân hạnh trong các mô hình không trực tiếp. Một cách giải thích khả dĩ khác cho giấc mơ sinh học đó là nó đang được cung cấp từ các mẫu có thể được sử dụng cho huấn luyện một mô hình mạng suy luận để dự đoán h khi có v. Cách giải thích này trên khía

Monte Carlo thường không hiệu quả nếu chúng chỉ chạy trên pha gradient dương và sau đó là trên pha âm cho mọi bước. Con người và động vật đều có thể thức hay ngủ trong nhiều giờ liên tục. Chưa rõ liệu nhịp sinh hoạt này có thể hỗ trợ việc học Monte Carlo của một mô hình gián tiếp hay không. Những thuật toán học dựa trên cực đại hóa có thể chạy được trên những giai đoạn kéo dài để cải thiện q cũng như những giai đoạn kéo dài để cải thiện q và θ. Nếu vai trò của giấc mơ sinh học là huấn luyện những mạng để dự đoán q, thì điều này giải thích tại sao các loài động vật trong nhiều giờ đồng hồ có khả năng thức (thời gian thức càng thức lâu thì khoảng cách giữa và logp(v) càng lớn, tuy nhiên sẽ duy trì ở cận dưới) và để duy trì giấc ngủ ( một mô hình sinh mẫu sẽ không tự điều chỉnh trong khi ngủ) mà không gây hại đến các mô hình nội bộ. Tất nhiên, đây chỉ là trên lý thuyết, đồng thời không có một minh chứng rõ ràng nào về việc giấc mơ hoàn thành một trong những mục tiêu này. Giấc mơ ngoài ra có thể giúp học tăng cường hơn là mô hình hóa bằng xác xuất, bằng việc lấy mẫu kinh nghiệm tổng hợp từ những mô hình chuyển giao của động vật để huấn luyện nguyên tắc của động vật. Hoặc giấc ngủ có lẽ phục vụ những hoạch định khác còn chưa được tiên liệu bởi cộng đồng học máy.

Một phần của tài liệu Chương 4 numerical computation chương 19 approximate inference (Trang 37 - 38)