2 ỨNG DỤNG MÔ HÌNH HỌC SÂU VÀO
2.2 Mô hình khuyến nghị tin tức NRMS
Sau khi trình bày, những khái niệm và ứng dụng quan trọng của điện toán xã hội nói chung cũng như bài toán khuyến nghị tin tức nói riêng. Trong bài luận văn này tác giả sẽ phân tích và thử nghiệm một mô hình ứng dụng học sâu để giải quyết bài toán khuyến nghị tin tức đó là mô hình NRMS [15] (viết tắt của cụm từ Neural News Recommendation with Multi-Head Self-Attention).
Mô hình NRMS là một mô hình khuyến nghị tin tức có phương pháp tiếp cận dựa trên nội dung, tức là dựa trên nội dung của dữ liệu lịch sử người dùng để đưa ra khuyến nghị. Ngoài ra mô hình này sử dụng cơ chế multi-head self-attention để tập trung giải quyết bài toán khuyến nghị. Bộ phận cốt lõi của mô hình NRMS này là sử dụng 2 bộ mã hóa: bộ mã hóa tin tức (News Encoder) và bộ mã hóa người dùng (User Encoder) được mô tả chi tiết trong hình 2.5.
• Đối với bộ mã hóa tin tức, chúng ta sẽ biểu diễn các tin tức thông qua tiêu đề (title) và tóm tắt nội dung (abstract) của tin tức bằng cách sử dụng multi-head self-attention để thể hiện sự tương tác giữa các từ trong tiêu đề.
• Đối với bộ mã hóa người dùng, chúng ta sẽ biểu diễn người dùng thông qua các bài viết mà người dùng đã đọc trong lịch sử bằng cách sử dụng
multi-head self-attention để thể hiện mối liên quan giữa các bài viết với nhau.
Ở đây việc sử dụng cơ chế multi-head self-attention ở cả 2 bộ mã hóa có mục đích để chọn ra được những từ quan trọng và những bài viết quan trọng mang lại nhiều thông tin khi biểu diễn một bài viết hay một người dùng. Ngoài ra, trong mô hình này còn chứa bộ phận dự đoán kết quả khuyến nghị, bộ phận này sử dụng kết quả của 2 bộ mã hóa trên để tính toán đưa ra xác suất mà người dùng quan tâm đến tin tức để khuyến nghị.
Hình 2.5: Mô hình khuyến nghị tin tức NRMS
Sau khi có cái nhìn tổng quan về mô hình NRMS ta sẽ đi vào phân tích chi tiết từng bộ phận.