Nghiên Cứu Xây Dựng Hệ Thống Khuyến Nghị Sản Phẩm Trong Thƣơng Mại Điện Tử Với Deep Learning (LV thạc sĩ)

Nghiên Cứu Xây Dựng Hệ Thống Khuyến Nghị Sản Phẩm Trong Thƣơng Mại Điện Tử Với Deep Learning (LV thạc sĩ)Nghiên Cứu Xây Dựng Hệ Thống Khuyến Nghị Sản Phẩm Trong Thƣơng Mại Điện Tử Với Deep Learning (LV thạc sĩ)Nghiên Cứu Xây Dựng Hệ Thống Khuyến Nghị Sản Phẩm Trong Thƣơng Mại Điện Tử Với Deep Learning (LV thạc sĩ)Nghiên Cứu Xây Dựng Hệ Thống Khuyến Nghị Sản Phẩm Trong Thƣơng Mại Điện Tử Với Deep Learning (LV thạc sĩ)Nghiên Cứu Xây Dựng Hệ Thống Khuyến Nghị Sản Phẩm Trong Thƣơng Mại Điện Tử Với Deep Learning (LV thạc sĩ)Nghiên Cứu Xây Dựng Hệ Thống Khuyến Nghị Sản Phẩm Trong Thƣơng Mại Điện Tử Với Deep Learning (LV thạc sĩ)Nghiên Cứu Xây Dựng Hệ Thống Khuyến Nghị Sản Phẩm Trong Thƣơng Mại Điện Tử Với Deep Learning (LV thạc sĩ)Nghiên Cứu Xây Dựng Hệ Thống Khuyến Nghị Sản Phẩm Trong Thƣơng Mại Điện Tử Với Deep Learning (LV thạc sĩ)Nghiên Cứu Xây Dựng Hệ Thống Khuyến Nghị Sản Phẩm Trong Thƣơng Mại Điện Tử Với Deep Learning (LV thạc sĩ)Nghiên Cứu Xây Dựng Hệ Thống Khuyến Nghị Sản Phẩm Trong Thƣơng Mại Điện Tử Với Deep Learning (LV thạc sĩ)

HỌC VIỆN CƠNG NGHỆ BƢU CHÍNH VIỄN THƠNG - NGUYỄN NGỌC TUYÊN NGHIÊN CỨU XÂY DỰNG HỆ THỐNG KHUYẾN NGHỊ SẢN PHẨM TRONG THƢƠNG MẠI ĐIỆN TỬ VỚI DEEP LEARNING LUẬN VĂN THẠC SĨ KỸ THUẬT (Theo định hướng ứng dụng) TP.HỒ CHÍ MINH - 2017 HỌC VIỆN CƠNG NGHỆ BƢU CHÍNH VIỄN THƠNG - NGUYỄN NGỌC TUYÊN NGHIÊN CỨU XÂY DỰNG HỆ THỐNG KHUYẾN NGHỊ SẢN PHẨM TRONG THƢƠNG MẠI ĐIỆN TỬ VỚI DEEP LEARNING Chuyên ngành: Mã số: HỆ THỐNG THÔNG TIN 60.48.01.04 LUẬN VĂN THẠC SĨ KỸ THUẬT (Theo định hướng ứng dụng) NGƢỜI HƢỚNG DẪN KHOA HỌC: TS PHẠM TRẦN VŨ TP.HỒ CHÍ MINH - 2017 i LỜI CAM ĐOAN Tôi xin cam đoan luận văn cơng trình nghiên cứu hồn tồn thân Trong toàn nội dung luận văn, điều đƣợc trình bày cá nhân tơi đƣợc tổng hợp từ nhiều nguồn tài liệu Tất tài liệu tham khảo có xuất xứ rõ ràng đƣợc trích dẫn hợp pháp Các số liệu, kết nêu luận văn trung thực chƣa đƣợc công bố công trình khác Tơi xin chịu hồn tồn trách nhiệm chịu hình thức kỉ luật theo quy định cho lời cam đoan TP.Hồ Chí Minh, ngày 25 tháng 05 năm 2017 Học viên thực luân văn Nguyễn Ngọc Tuyên ii LỜI CẢM ƠN Đầu tiên, xin phép đƣợc gửi lời cảm ơn chân thành đến thầy Phạm Trần Vũ Thầy ngƣời hƣớng dẫn ln theo sát tơi q trình làm luận văn Thầy ln tận tình bảo, hƣớng dẫn đƣa vấn đề trọng tâm vấn đề cần giải giúp cố thêm kiến thức quan trọng, đƣa định hƣớng đắn, ln tạo điều kiện để tơi hồn thành ln văn Tơi xin chúc Thầy ln thành công đƣờng giảng dạy, với gia đình đƣợc nhiều sức khỏe hạnh phúc Tiếp đến, xin đƣợc gửi lời cảm ơn đến tất Thầy, Cô giảng dạy Trƣờng Học Viện Cơng Nghệ Bƣu Chính Viễn Thơng truyền đạt cho thêm kiến thức để hồn thành luận văn Tơi xin chúc q Thầy, Cô nhiều sức khỏe, hạnh phúc thành đạt Cuối cùng, tơi xin cảm ơn gia đình, bạn bè, đồng nghiệp quan tâm, giúp đỡ, động viên thực luận văn tốt nghiệp cao học TP.Hồ Chí Minh, ngày 25 tháng 05 năm 2017 Học viên thực luân văn Nguyễn Ngọc Tuyên iii MỤC LỤC LỜI CAM ĐOAN i LỜI CẢM ƠN .ii MỤC LỤC iii DANH SÁCH HÌNH VẼ v MỞ ĐẦU 1 Tính cấp thiết đề tài Tổng quan vấn đề nghiên cứu 3 Mục tiêu nhiệm vụ nghiên cứu Đối tƣợng phạm vi nghiên cứu 5 Phƣơng pháp nghiên cứu .6 Bố cục luận văn .6 CHƢƠNG – TỔNG QUAN VỀ THƢƠNG MẠI ĐIỆN TỬ 1.1 Giới thiệu Error! Bookmark not defined 1.2 Các đặc điểm sở phát triển 1.3 Hệ thống khuyến nghị sản phẩm thƣơng mại điện tử 1.4 Kết luận chƣơng 13 CHƢƠNG – MƠ HÌNH HỌC SÂU – DEEP LEARNING .15 2.1 Giới thiệu 15 2.2 Mạng nơ ron nhân tạo deep learning 17 2.3 Huấn luyện mạng nơ ron nhân tạo 23 2.5 Một số mơ hình mạng học sâu 25 2.6 Kết luận chƣơng 33 CHƢƠNG – XÂY DỰNG HỆ THỐNG KHUYẾN NGHỊ SẢN PHẨM VỚI DEEP LEARNING .34 3.1 Giới thiệu toán phƣơng pháp tiếp cận 34 3.2 Hệ thống khuyến nghị sản phẩm với deep learning 37 3.3 Tiêu chuẩn đánh giá 45 iv 3.4 Kết luận chƣơng 47 CHƢƠNG – XÂY DỰNG HỆ THỐNG VÀ THỬ NGHIỆM 48 4.1 Môi trƣờng thực nghiệm 48 4.2 Dữ liệu thực nghiệm 48 4.3 Cài đặt toán 49 4.4 Kết luận chƣơng 56 KẾT LUẬN 57 Kết đạt đƣợc 57 Hƣớng nghiên cứu luận văn 57 DANH MỤC CÁC TÀI LIỆU THAM KHẢO 58 v DANH SÁCH HÌNH VẼ Hình 1.1 Hệ thống khuyến nghị ngƣời dùng Amazon.com 10 Hình 2.1 Minh họa nơ ron sinh học 17 Hình 2.2 Mạng nơ ron sinh học mạng nơ ron nhân tạo 18 Hình 2.3 Cấu tạo nơ ron nhân tạo 19 Hình 2.4 Cấu tạo mạng nơ ron nhân tạo đơn giản 21 Hình 2.5 Kiến trúc mạng nơ ron truyền thẳng 22 Hình 2.6 Kiến trúc mạng nơ ron phản hồi 23 Hình 2.7 Mơ hình mạng MPL lớp ẩn lớp output 26 Hình 2.8 Cấu trúc mạng Hopfield 28 Hình 2.9 Mạng nơ - ron hồi quy lớp 30 Hình 2.10 Một Boltzmann Machine 30 Hình 2.11 Một Restricted Boltzmann Machine 32 Hình 3.1 Quy trình hệ thống khuyến nghị sản phẩm cho ngƣời dùng 34 Hình 3.2 Minh họa ma trận đánh giá R ( Rating maxtrix) 35 Hình 3.3 Giảm số chiều vector 37 Hình 3.4 Một ví dụ giảm số chiều vector 38 Hình 3.5 Kiến trúc mạng toán 39 Hình 3.6 Lan truyền tín hiệu q trình học theo lan truyền ngƣợc 41 Hình 3.7 Lƣu đồ hoạt động hàm huấn luyện 44 Hình 4.1 Kiến trúc mạng xây dựng cho toán 50 Hình 4.2 Bảng kết độ lỗi sau 20 epochs biểu đồ 54 Hình 4.3 MAE validation 65 Hình 4.4 MAE training 65 Hình 4.5 RMSE training validation 65 Hình 4.6 Kết phƣơng pháp khác 56 MỞ ĐẦU Tính cấp thiết đề tài Trong năm gần đây, thƣơng mại điện tử [1] phát triển nhanh theo xu tồn cầu hố Thơng qua thƣơng mại điện tử nhiều hình thức giao dịch kinh doanh đƣợc hình thành Với hình thức ngƣời dùng tiếp cận với hàng hóa, dịch vụ cách dễ dàng nhanh chóng nhiều so với phƣơng pháp giao dịch truyền thống Với lợi ích mạnh mình, website mua bán hàng hóa, dịch vụ dần thay gian hàng hay siêu thị truyền thống Nhƣng thực tế ngƣời tiêu dùng ƣa chuộng với phƣơng pháp mua bán cũ Một phần hình thức mua bán cũ bƣớc chuyển từ thói quen thành nếp văn hóa, văn hóa mua sắm Khi ngƣời tiêu dùng xem hoạt động mua sắm hoạt động thiếu đời sống ngày Mặt khác website thƣơng mại điện tử dù đƣợc phát triển nhiều nhƣng thực chƣa thể thay đƣợc gian hàng thực Một nguyên nhân dẫn đến thua yếu tố ngƣời, yếu tố khác dẫn tới thua nằm hệ thống website thƣơng mại điện tử Các hệ thống mua bán trực tuyến muốn ngƣời dùng tiếp cận nhiều mặt hàng lúc Tuy nhiên với đa dạng hàng hóa khả tiếp cận chọn mặt hàng ngƣời dùng bị hạn chế, họ phải xem qua nhiều sản phẩm, tới nhiều liên kết để tìm sản phẩm mong muốn Vậy để hỗ trợ khách hàng việc mua bán đƣợc thuận lợi hơn? Cụ thể sản phẩm đƣợc đề xuất tới khách hàng sau khách hàng đặt mua đánh giá sản phẩm trƣớc đó? Nên đề xuất sản phẩm tốt cho khác hàng? Để hình thức mua bán qua mạng thực phát triển bên cạnh lợi vốn có việc có thêm hệ thống trợ giúp cần thiết Hệ thống khuyến nghị sản phẩm (recommendation system [6]) đƣợc hình thành phát triển khơng nằm ngồi mục đích đáp ứng yêu cầu Một hệ thống tƣ vấn tốt đóng vai trị nhƣ ngƣời trung gian hỗ trợ khách hàng đƣa định chọn hàng Tiện ích đóng vai trị nhƣ ngƣời bán hàng có khả thu thập thơng tin sở thích khách hàng, sau tìm kho hàng vơ tận mặt hàng thích hợp với sở thích Thực chất hệ thống khuyến nghị sản phẩm trình hỗ trợ khách hàng đƣa định Các hệ thống khuyến nghị sản phẩm tính phổ biến website ứng dụng di động nhằm mục đích tƣ vấn cho khách hàng mặt hàng thích hợp Những doanh nghiệp lớn nhƣ Netflix, Amazon, Google, Facebook, Twitter truy cập vào nguồn liệu dồi ngƣời dùng phát sinh Việc truy cập vào liệu cho phép doanh nghiệp triển khai hệ thống khuyến nghị nhằm cung cấp nhiều giá trị cho ngƣời dùng họ Theo thống kê đƣợc cơng bố số cơng ty lớn hệ thống khuyến nghị giúp tăng lƣợt giao dịch đáng kể Ví dụ nhƣ công ty Netflix, 2/3 phim mà ngƣời dùng xem Netflix đƣợc khuyến nghị Hệ thống khuyến nghị Google News làm tăng số lƣợng kích chuột vào đƣờng dẫn lên đến 38%, 35% mặt hàng Amazon hệ thống khuyến nghị cung cấp Lọc cộng tác (Collaborative filtering [6]) lọc dựa nội dung (contentbased filtering [6]) hai hƣớng tiếp cận truyền thống để thiết kế hệ thống khuyến nghị Những phƣơng pháp thông thƣờng dựa vào đánh giá mục làm nguồn thơng tin để đƣa khuyến nghị mà thực tế có nhiều ứng dụng đánh giá ít, khắc phục đƣợc điều cách lấy nội dung thông tin mục để làm nguồn thông tin phụ trợ nhƣng nguồn thơng tin khơng đủ lớn làm ảnh hƣởng tới kết mong muốn đạt đƣợc Deep learning [10] hƣớng nghiên cứu phát triển lĩnh vực trí tuệ nhân tạo năm gần Các mơ hình học sâu (Deep learning) tạo nên đột phá lớn việc giải tốn phức tạp Nó thuật toán dựa số ý tƣởng từ não với việc tiếp thu nhiều tầng biểu đạt, cụ thể lẫn trừu tƣợng, qua làm rõ nghĩa loại liệu Điều đặc biệt cơng nghệ Deep Learning xác cao nguồn liệu khổng lồ, không bị hạn chế q tải liệu Chính vậy, chọn đề tài nghiên cứu “ Nghiên cứu xây dựng hệ thống khuyến nghị sản phẩm thƣơng mại điện tử với Deep learning” làm đề tài nghiên cứu Tổng quan vấn đề nghiên cứu Với tốc độ phát triển thƣơng mại điện tử nhƣ ngày nay, để thúc đẩy giao dịch thơng qua mạng máy tính việc xây dựng hệ thống khuyến nghị sản phẩm công việc thiếu Đã có nhiều hệ thống khuyến nghị sản phẩm đƣợc xây dựng Tuy nhiên, để lựa chọn đƣợc phƣơng pháp phù hợp công việc cần nghiên cứu Mơ hình xây dựng hệ thống khuyến nghị dựa tăng trƣởng Hotmail mơ hình tính tốn tốc độ tăng trƣởng Email Mơ hình có tác dụng dự đốn xem có cá nhân thời điểm chấp nhận sản phẩm tổng số cá nhân đƣợc mời sản phẩm Mơ hình xây dựng hệ thống khuyến nghị dựa phƣơng pháp lọc cộng tác hiểu cách đơn giản phƣơng pháp tập hợp đánh giá khách hàng, phân biệt khách hàng sở đánh giá họ tƣ vấn sản phẩm cho khách hàng Báo cáo luận văn thạc sĩ “Movies recommendation system using collaborative filtering technique supplemented by content with goal programming” tác giả Emrah İNAN, tháng 7, 2012 Nội dung tác giả nghiên cứu xây dựng hệ 48 CHƢƠNG – XÂY DỰNG HỆ THỐNG VÀ THỬ NGHIỆM 4.1 Môi trƣờng thực nghiệm Tôi tiến hành thực nghiệm dựa sở sau: - Cấu hình máy: Chip Intel(R) Core i5, Ram 4GB, windows 10 64-bit - Ngơn ngữ lập trình: Python - Phần mềm hỗ trợ: Python 3,5 Miniconda, cmd Windows 10 - Tập liệu sử dụng để thực nghiệm: liệu Movielens : http://files.grouplens.org/datasets/movielens/ml-1m.zip với 1000.000 đánh giá đƣợc thực 6000 ngƣời dùng 4000 phim 4.2 Dữ liệu thực nghiệm Để thực nghiệm sử dụng liệu đƣợc đăng tải trang Movielens nhóm nghiêm cứu GroupLens GroupLens nhóm nghiên cứu Khoa Khoa học Máy tính Kỹ thuật Đại học Minnesota, chuyên hệ thống khuyến nghị, cộng đồng trực tuyến, công nghệ di động, thƣ viện kỹ thuật số, hệ thống thông tin địa lý địa phƣơng Các thành viên dự án nghiên cứu GroupLens đƣợc tham gia vào nhiều dự án nghiên cứu liên quan đến lĩnh vực lọc thông tin, lọc cộng tác, hệ thống khuyến nghị Dự án đƣợc dẫn dắt giáo sƣ John Riedl Joseph Konstan Dự án bắt đầu để khám phá lọc cộng tác tự động vào năm 1992, nhƣng tiếng toàn giới cho thử nghiệm hệ thống lọc cộng tác tự động cho Usenet News năm 1996 Kể từ dự án mở rộng phạm vi nghiên cứu tổng thể giải pháp lọc thơng tin, tích hợp phƣơng pháp dựa nội dung nhƣ cải tiến công nghệ lọc cộng tác Bộ liệu sử dụng Movielens cụ thể đƣợc tải từ liên kết http://files.grouplens.org/datasets/movielens/ml-1m.zip chứa liệu đánh giá rõ ràng cho phim, có đặc điểm sau: 49 - Với 1000.000 đánh giá đƣợc thực 6000 ngƣời dùng 4000 phim Các phim nhận giá trị đánh giá khoảng từ đến - Mỗi ngƣời sử dụng đánh giá 20 phim - Thơng tin cá nhân đơn giản cho ngƣời sử dụng (tuổi, giới tính, nghề nghiệp, zip code - mã bƣu chính) - Các liệu đƣợc thu thập thông qua trang web MovieLens (Movielens.umn.edu) Trong liệu này, ngƣời sử dụng có 20 xếp hạng khơng có thơng tin cá nhân hồn chỉnh bị loại bỏ khỏi liệu Chi tiết liệu ml-1m Movielens - Users.dat: chứa thông tin ngƣời dùng : userid, giới tính, tuổi, nghề nghiệp, zip code - Movies.dat: chứa thông tin: movieid, tên phim, thể loại phim - Ratings.dat: chứa đánh giá ngƣời dùng lên phim: userid, movieid, rating 4.3 Cài đặt tốn 4.3.1 Bài tốn Dƣới góc nhìn kỹ thuật toán nhƣ sau: Cho tập hữu hạn gồm có m ngƣời dùng U ={u1, u2, … , um} danh sách n sản phẩm I = {i1, i2,…, in} Mỗi ngƣời dùng ui có danh sách sản phẩm Su mà ngƣời dùng đánh giá sản phẩm Chú ý Su tập I Iui rỗng (nghĩa ngƣời dùng u khơng có đánh giá cho sản phẩm i) Nhiệm vụ toán: - Dự đoán: cho giá trị Raj thể đánh giá ngƣời dùng a lên tài nguyên i 50 - Tƣ vấn: cho danh sách N tài nguyên {TiN} mà a thích Trong phạm vi luận văn tập trung vào phần sử dụng mơ hình học sâu deep learning để dự đốn giá trị Raj đánh giá độ hiệu thuật toán qua MAE ( Mean absolute error) RMSE (Root mean square error) 4.3.2 Thư viện sử dụng, sơ đồ khối cài đặt Để cài đặt toán sử dụng số thƣ viện python :numpy, sklearn, keras, tensorflow, matplotlib, jupyter notbook Kiến trúc mạng xây dựng cho tốn: Hình 4.1: Kiến trúc mạng xây dựng cho toán 51 Chi tiết code cài đặt tốn nhƣ sau: • Import thư viện cần thiết  Đọc liệu data set: users.dat, movies.dat ratings.dat  Đưa users movies vào vector 52  Hợp vectors đưa vào mạng nơ ron  Chia tập liệu thành training validation  Huấn luyện vẽ biểu đồ  Tính MAE, RMSE tập training validation 53 4.3.3 Kết đánh giá Sau cài đặt chạy thu đƣợc kết nhƣ sau: Thứ nhất: Biểu đồ độ lỗi loss training loss validation huấn luyện 20 lần Train on 750156 samples, validate on 250053 samples Epoch 1/20 173s - loss: 1.3321 - val_loss: 1.2420 Epoch 2/20 177s - loss: 1.2620 - val_loss: 1.2277 Epoch 3/20 177s - loss: 1.2491 - val_loss: 1.2195 Epoch 4/20 176s - loss: 1.2419 - val_loss: 1.2148 Epoch 5/20 182s - loss: 1.2374 - val_loss: 1.2142 Epoch 6/20 182s - loss: 1.2348 - val_loss: 1.2146 Epoch 7/20 182s - loss: 1.2322 - val_loss: 1.2126 Epoch 8/20 181s - loss: 1.2304 - val_loss: 1.2124 Epoch 9/20 181s - loss: 1.2292 - val_loss: 1.2095 Epoch 10/20 181s - loss: 1.2280 - val_loss: 1.2089 Epoch 11/20 181s - loss: 1.2275 - val_loss: 1.2123 Epoch 12/20 181s - loss: 1.2257 - val_loss: 1.2171 Epoch 13/20 180s - loss: 1.2256 - val_loss: 1.2100 Epoch 14/20 180s - loss: 1.2240 - val_loss: 1.2257 Epoch 15/20 180s - loss: 1.2233 - val_loss: 1.2161 Epoch 16/20 180s - loss: 1.2220 - val_loss: 1.2127 Epoch 17/20 180s - loss: 1.2224 - val_loss: 1.2136 Epoch 18/20 182s - loss: 1.2214 - val_loss: 1.2134 54 loss Epoch 19/20 175s - loss: 1.2217 - val_loss: 1.2173 Epoch 20/20 171s - loss: 1.2205 - val_loss: 1.2127 epoch Hình 4-2: Bảng kết độ lỗi sau 20 epochs biểu đồ Trong đó: - epoch : số lần mạng đƣợc huấn luyện - loss: độ lỗi - Đƣờng màu xanh dƣơng: thể loss tập training - Đƣờng màu xanh lá: thể loss tập validation Nhận thấy chạy với 20 lần huấn luyện (20 epochs) độ lỗi có xu hƣớng giảm tập training validation Thứ 2: Chỉ số Mean absolute error (MAE) : sai số tuyệt đối trung bình sau 20 epochs 55 Hình 4.3: MAE validation - MAE validation 0.678 Hình 4.4: MAE training - MAE train 0.652 Thứ 3: Chỉ số Root mean square error (RMSE): sai số toàn phƣơng trung bình tập training validation Hình 4.5: RMSE training validation - RMSE Training - RMSE Validation 0.999 1.012 56 Kết phƣơng pháp khác sử dụng liệu sử dụng nghiên cứu đƣợc công bố website : http://www.mymedialite.net/examples/datasets.html Hình 4.6: Kết phƣơng pháp khác (Nguồn: website www.mymedialite.net – Internet) Ta nhận thấy số MAE thu đƣợc từ mơ hình tốt so với phƣơng pháp trƣớc đây, số RMSE mức chấp nhận đƣợc 4.4 Kết luận chƣơng Trong chƣơng cài đặt thử nghiệm mơ hình liệu Movielens Nhìn chung sử dụng deep learning cho hệ thống khuyến nghị sản phẩm cho kết tốt so với phƣơng pháp khác áp dụng liệu nhƣ sử dụng Điều cho thấy hiệu phƣơng pháp nghiên cứu 57 KẾT LUẬN Kết đạt đƣợc - Nghiên cứu tổng quát thƣơng mại điện tử hệ thống khuyến nghị thƣơng mại điện tử, mơ hình deep learning, luận văn tập trung nghiên cứu ứng dụng deep learning cho hệ thống khuyến nghị sản phẩm - Trình bày mơ hình deep learning, phƣơng pháp đánh giá - Trình bày phƣơng pháp sử dụng ma trận thừa số kỹ thuật embedding - Sau đó, tiến hành thực nghiệm liệu có sẵn Movielens gói liệu gồm 1000000 đánh giá 6000 ngƣời dùng 4000 phim - Cuối từ kết thu đƣợc phân tích so sánh đánh giá Hƣớng nghiên cứu luận văn Trong luận văn sử dụng kỹ thuật embedding mơ hình mạng truyền thẳng nhiều tầng (Multi layer Perceptron – MPL) Kết thu đƣợc tốt so với kết dùng phƣơng pháp khác liệu Tiếp theo chúng tơi tập trung nghiên cứu để áp dụng vào thực tế, nghiên cứu với mơ hình mạng khác nhƣ: RBM, Hopfield… để nhận xét, so sánh đánh giá cách đầy đủ 58 DANH MỤC CÁC TÀI LIỆU THAM KHẢO [1] TS Nguyễn Đăng Hậu (2007), Kiến thức Thương mại điện tử, Viện đào tạo công nghệ quản lý quốc tế [2] Trƣơng Chí Tín (2003), Các seminar mạng nơ ron lan truyền ngược, Đại học Đà Lạt, Đà Lạt [3] TS Vũ Đức Lung (2012), Giáo trình Học máy mạng neural, Đại học quốc gia thành phố Hồ Chí Minh, Trƣờng Đại học Công nghệ thông tin [4] Nguyễn Đình Thúc (2000), Mạng nơron phương pháp ứng dụng, Nhà xuất giáo dục [5] Ruslan Salakhutdinov, Andriy Mnih, Geoffrey Hinton (2007) “Restricted Boltzmann Machines for Collaborative Filtering”, ICML '07 Proceedings of the 24th international conference on Machine learning, pp 791-798 [6] Emrah İNAN (2012), Movies recommendation system using collaborative filtering technique supplemented by content with goal programming, Ege University Rectorate Genỗlik Caddesi No:12 35040 Bornova /Izmir / Turkey [7] Ghazanfar, Mustansar and Prugel-Bennett, Adam (2010), An Improved Switching Hybrid Recommender System Using Naie Bayes Classifier and Collaborative Filtering, The 2010 IAENG International Conference on Data Mining and Applications [8] Xiaoyuan Su, Taghi M Khoshgoftaar (2009), “A Survey of Collaborative Filtering Techniques, Department of Computer Science and Engineering”, Advances in Artificial Intelligence [9] Shameem Ahamed Puthiya Parambath (2013), Matrix Factorization Methods for Recommender Systems, Umeå University, Faculty of Science and Technology, Department of Computing Science [10] X.-W Chen (2014) Big Data Deep Learning: Challenges and Perspectives , Wayne State University, USA 59 [11] Tomas Mikolov, Ilya Sutskever, Kai Chen, Greg Corrado, Jeffrey Dean (2013), Distributed representations of words and phrases and their compositionality, Curran Associates Inc , USA [12] J J Hopfield (1982), "Neural networks and physical systems with emergent collective computational abilities", Proceedings of the National Academy of Sciences of the USA [13] Ackley, D., Hinton, G., and Sejnowski, T (1985), “A Learning Algorithm for Boltzmann Machines”, Cognitive Science [14] X Glorot, A Bordes, and Y Bengio (2011), Deep sparse rectifier neural networks, Universit´e de Montr´eal Montr´eal, QC, Canada [15] https://grouplens.org/datasets/movielens/ , truy cập ngày 03/08/2016 [16] http://colah.github.io/posts/2014-07-NLP-RNNs-Representations/ , truy cập ngày 10/05/2016 [17] https://github.com/fchollet/keras/issues/3110/ , truy cập ngày 12/03/2017 ... tài nghiên cứu “ Nghiên cứu xây dựng hệ thống khuyến nghị sản phẩm thƣơng mại điện tử với Deep learning? ?? làm đề tài nghiên cứu Tổng quan vấn đề nghiên cứu Với tốc độ phát triển thƣơng mại điện tử. .. toán hệ thống khuyến nghị sản phẩm thƣơng mại điện tử, mơ hình học sâu deep learning Phạm vi nghiên cứu: - Nghiên cứu lý thuyết hệ thống khuyến nghị sản phẩm thƣơng mại điện tử, mơ hình học sâu deep. .. Chƣơng - Hệ thống khuyến nghị sản phẩm thƣơng mại điện tử - Chƣơng - Mơ hình học sâu – Deep learning - Chƣơng - Xây dựng hệ thống khuyến nghị sản phẩm với deep learning - Chƣơng - Xây dựng hệ thống