Xây dựng ứng dụng chatbot tư vấn khách hàng sử dụng các kỹ thuật học sâu

TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI LUẬN VĂN THẠC SĨ Xây dựng ứng dụng Chatbot tư vấn khách hàng sử dụng kỹ thuật học sâu NGUYỄN ĐẮC HIẾU Ngành Công nghệ thông tin Giảng viên hướng dẫn: PGS.TS Cao Tuấn Dũng Viện: Công nghệ thông tin truyền thông HÀ NỘI, 2021 TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI LUẬN VĂN THẠC SĨ Xây dựng ứng dụng Chatbot tư vấn khách hàng sử dụng kỹ thuật học sâu NGUYỄN ĐẮC HIẾU Ngành Công nghệ thông tin Giảng viên hướng dẫn: PGS.TS Cao Tuấn Dũng Chữ ký GVHD Viện: Công nghệ thông tin truyền thông HÀ NỘI, 2021 CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập – Tự – Hạnh phúc BẢN XÁC NHẬN CHỈNH SỬA LUẬN VĂN THẠC SĨ Họ tên tác giả luận văn : Nguyễn Đắc Hiếu Đề tài luận văn: Xây dựng ứng dụng Chatbot tư vấn khách hàng sử dụng kỹ thuật học sâu Chuyên ngành: Công nghệ thông tin Mã số HV: CB190157 Tác giả, Người hướng dẫn khoa học Hội đồng chấm luận văn xác nhận tác giả sửa chữa, bổ sung luận văn theo biên họp Hội đồng ngày 30/10/2021 với nội dung sau: Sửa Chương 4: Kết luận thành phần không đánh số (trang 58) Giản lược nội dung Chương 2: Cơ sở lý thuyết Việt hóa từ tiếng Anh (Mục 2.3 – trang 17-24, Mục 2.4 – trang 25-31) Bổ sung khái niệm học chuyển giao (Mục 2.4.2 – trang 27) Bổ sung mơ hình tổng qt quy trình hoạt động Chatbot (Mục 3.3.2 – trang 40), thống kê kết (Hình 3.18-3.21 – trang 53-56) Đánh số cơng thức, sửa lỗi trình bày ngơn ngữ, tả cho hợp lý, ví dụ sửa “đào tạo mơ hình” thành “huấn luyện mơ hình” Ngày Giáo viên hướng dẫn CHỦ TỊCH HỘI ĐỒNG tháng năm 2021 Tác giả luận văn LỜI CAM ĐOAN Tôi xin cam đoan: Luận văn “Xây dựng ứng dụng Chatbot tư vấn khách hàng sử dụng kỹ thuật học sâu” cơng trình nghiên cứu khoa học, độc lập tơi Kiến thức trình bày luận văn tổng hợp cá nhân, thông qua kiến thức từ thầy hướng dẫn, tài liệu tham khảo mạng internet báo khoa học khác Đây đề tài luận văn Thạc sỹ ngành Công nghệ Thông tin Kết nghiên cứu trình bày luận văn chưa công bố hình thức Hà Nội, ngày tháng năm 2021 Tác giả luận văn Nguyễn Đắc Hiếu LỜI CẢM ƠN Trước tiên, xin chân thành cảm ơn thầy, cô Viện Công nghệ thông tin Truyền thông - Trường Đại học Bách Khoa Hà Nội tận tình giảng dạy suốt thời gian tơi học tập trường Để hồn thành Luận văn thạc sĩ, tơi nhận nhiều quan tâm, giúp đỡ từ q thầy cơ, gia đình bạn bè Đặc biệt tơi bày tỏ lịng biết ơn sâu sắc tới thầy PGS.TS Cao Tuấn Dũng tận tình bảo, hướng dẫn trực tiếp tơi để tìm hướng nghiên cứu hồn thiện luận văn tốt nghiệp Cuối cùng, tơi xin cảm ơn gia đình bạn bè tập thể lớp CNTT 2019B ủng hộ, giúp đỡ thời gian học tập, nghiên cứu thực luận văn tốt nghiệp Trong trình làm luận văn tốt nghiệp chắn khơng tránh khỏi sai sót, tơi hoan nghênh chân thành cảm ơn ý kiến đóng góp quý thầy cô bạn đọc Tác giả luận văn Nguyễn Đắc Hiếu MỤC LỤC DANH MỤC CÁC HÌNH VẼ iii DANH MỤC BẢNG v MỞ ĐẦU CHƯƠNG 1: TỔNG QUAN VỀ CHATBOT 1.1 Khái niệm Chatbot 1.2 Các thành phần Chatbot 1.3 Các loại Chatbot 1.3.1 Rule-based Chatbot 1.3.2 AI-based Chatbot 1.4 Các tảng xây dựng Chatbot 1.5 Một số ứng dụng Chatbot 11 CHƯƠNG 2: CƠ SỞ LÝ THUYẾT 13 2.1 Cơ Deep learning 13 2.2 Mạng nơ-ron hồi quy RNN 14 2.3 Mơ hình Transformer 17 2.3.1 Tổng quan mơ hình Transformer 17 2.3.2 Thành phần mã hóa 18 2.3.3 Thành phần giải mã 23 2.3.4 Ưu điểm mơ hình Transformer so với mơ hình RNN 24 2.4 Mơ hình DIET 25 2.4.1 Đặc trưng hóa câu đầu vào (Featurization) 27 2.4.2 Học chuyển giao (Transfer Learning) 27 2.4.3 Thành phần Transformer 29 2.4.4 Huấn luyện mơ hình 29 2.4.5 Đánh giá mơ hình DIET 31 CHƯƠNG 3: XÂY DỰNG VÀ CÀI ĐẶT ỨNG DỤNG CHATBOT 33 3.1 Giới thiệu Rasa Framework 33 3.2 Cấu trúc Chatbot Nhất Nam 35 i 3.2.1 Thiết kế tổng quát 35 3.2.2 Sơ đồ quy trình hoạt động Chatbot Nhất Nam 37 3.3 Xây dựng liệu Chatbot 39 3.3.1 Xây dựng ý định (intent) 39 3.3.2 Xây dựng thực thể (entity) 40 3.3.3 Xây dựng câu trả lời cho Chatbot 41 3.3.4 Cấu hình thành phần 44 3.4 Cài đặt chương trình 46 3.5 Thử nghiệm đánh giá chương trình 51 KẾT LUẬN 58 TÀI LIỆU THAM KHẢO 59 ii DANH MỤC CÁC HÌNH VẼ Hình 1.1 Minh họa thành phần Chatbot [3] Hình 1.2 Chatbot hỗ trợ nút bấm để thao tác Domino’s Pizza Hình 1.3 Giao diện tảng Chatbot FPT.AI Conversation Hình 1.4 Giao diện tảng Chatbot Harafunnel 10 Hình 1.5 Chatbot Messenger trang CNN 12 Hình 2.1 Mạng nơ-ron hồi quy [5] 14 Hình 2.2 Sơ đồ mơ hình Transformer [8] 18 Hình 2.3 Minh họa biểu đồ nhiệt Positional Encoding 20 Hình 2.4 Minh họa mức độ liên kết từ [10] 21 Hình 2.5 So sánh Transformer với mơ hình khác dựa kết đánh giá báo [8] 25 Hình 2.6 Sơ đồ mơ hình DIET [13] 26 Hình 2.7 Minh họa so sánh sử dụng không sử dụng học chuyển giao 28 Hình 2.8 So sánh mơ hình DIET mơ hình HERMIT [13] 32 Hình 2.9 Đánh giá biến thể mơ hình DIET [13] 32 Hình 3.1 Sơ đồ thành phần Rasa Framework 33 Hình 3.2 Cấu trúc hệ thống Chatbot Nhất Nam 36 Hình 3.3 Sơ đồ quy trình hoạt động Chatbot Nhất Nam 37 Hình 3.4 Giao diện Rasa X sử dụng tạo kịch 39 Hình 3.5 Khai báo intent file nlu.yml 40 Hình 3.6 Khai báo entity file domain.yml 41 Hình 3.7 Khai báo intent có chứa entity file nlu.yml 41 Hình 3.8 Khai báo Rule policy file rules.yml 42 Hình 3.9 Khai báo kịch file stories.yml 43 Hình 3.10 Hàm xử lý sau hoàn thành nhập Form liên hệ 44 Hình 3.11 Khai báo cấu hình file config.yml 46 Hình 3.12 Giao diện hỗ trợ nút bấm để thao tác 47 iii Hình 3.13 Người dùng bấm nút để trả lời (hình bên trái) nhập tin nhắn (hình bên phải) 48 Hình 3.14 Trường hợp nhập form liên hệ 49 Hình 3.15 Trường hợp form bị gián đoạn (hình bên trái) Trường hợp từ chối nhập form (hình bên phải) 50 Hình 3.16 Trường hợp Chatbot không hiểu ý người dùng 51 Hình 3.17 Biểu đồ thống kê mức độ tin cậy dự đoán ý định (intent) 53 Hình 3.18 Biểu đồ thống kê mức độ tin cậy dự đoán thực thể (entity) 53 Hình 3.19 Biểu đồ ma trận nhầm lẫn (Confusion matrix) nhãn dự đoán nhãn tác vụ phân loại ý định 54 Hình 3.20 Biểu đồ ma trận nhầm lẫn (Confusion matrix) nhãn dự đoán nhãn tác vụ trích xuất thực thể 55 Hình 3.21 Thang đo so sánh điểm intent cấu hình 56 Hình 3.22 Thang đo so sánh điểm entity cấu hình 56 iv DANH MỤC BẢNG Bảng 3.1 Thông số đo intent 52 Bảng 3.2 Thông số đo entity 52 Bảng 3.3 Kết so sánh điểm intent cấu hình 56 Bảng 3.4 Kết so sánh điểm entity cấu hình 57 v Chatbot tiếp cận với cách thao tác với nút bấm (Menu/button based) cho phép người dùng nhập nội dung yêu cầu, với việc cung cấp giao diện nút bấm giúp người dùng lựa chọn xác nhanh Thử nghiệm thực liệu gồm 36 intent với 1024 câu mẫu entity Chatbot xây dựng kịch để giải toán cụ thể doanh nghiệp giải trường hợp gián đoạn người dùng, ví dụ thử nghiệm Kịch hỏi giá Hỏi giá câu hỏi thường gặp người dùng trang web bán hàng, Chatbot Nhất Nam có khả chào hỏi trích xuất thực thể liên quan đến sản phẩm, giả sử câu hỏi người dùng không bao gồm entity sản phẩm Chatbot đưa lựa chọn sản phẩm, người dùng bấm nút để trả lời nhập tin nhắn Hình 3.12 Giao diện hỗ trợ nút bấm để thao tác 47 Hình 3.13 Người dùng bấm nút để trả lời (hình bên trái) nhập tin nhắn (hình bên phải) Kịch form nhập liệu Sau cung cấp thông tin giá sản phẩm đến khách hàng, Chatbot thực yêu cầu người dùng nhập form bao gồm họ tên số điện thoại để nhân viên hỗ trợ liên hệ trực tiếp tư vấn Form sử dụng nhiều Chatbot hỏi người dùng Ultraview gặp trường hợp cần truy cập trực tiếp máy khách hàng form nhập thông tin doanh nghiệp để tra cứu hóa đơn thời hạn bảo trì, bảo hành Dữ liệu người dùng nhập trích xuất entity để lưu vào slot, slot action server xử lý gửi đến hỗ trợ viên thông qua mail, socket Google Drive 48 Hình 3.14 Trường hợp nhập form liên hệ Trường hợp form nhập liệu bị gián đoạn người dùng hỏi câu hỏi khác Chatbot trả lời người dùng sau tiếp tục yêu cầu người dùng hồn thành form Hoặc người dùng khơng muốn điền form liên hệ ý định từ chối Chatbot khơng u cầu người dùng nhập 49 Hình 3.15 Trường hợp form bị gián đoạn (hình bên trái) Trường hợp từ chối nhập form (hình bên phải) Kịch không hiểu câu hỏi người dùng Trong thực tế Chatbot gặp tình khơng thể giải câu hỏi mập mờ câu hỏi khó, để giải toán ta dựa vào ngưỡng dự đoán, cụ thể 0.6, nguyên nhân ngưỡng thấp ý định người dùng khơng rõ ràng câu hỏi chưa có tập liệu huấn luyện, Chatbot trả lời lại người dùng sau 50 Hình 3.16 Trường hợp Chatbot không hiểu ý người dùng 3.5 Thử nghiệm đánh giá chương trình Thử nghiệm tiến hành tập liệu training bao gồm 36 intent với 1024 câu mẫu entity, việc đánh giá chất lượng Chatbot dựa độ xác câu trả lời hỏi câu đơn lẻ tập liệu Để thực trình kiểm thử chia ngẫu nhiên liệu huấn luyện ban đầu thành 768 câu mẫu dùng để huấn luyện 256 câu mẫu dùng để kiểm thử entity, huấn luyện dựa theo cấu hình trình bày 3.3.4 Cấu hình thành phần Kết đánh giá dựa vào thông số Precision, Recall F1-score - Precision: tỉ lệ số câu (TP) số câu phân loại (TP + FP) Với TP true positive câu dự đoán kết đúng, FP false positive câu dự đoán sai kết Precision cao độ xác câu dự đốn cao 𝑃𝑟𝑒𝑐𝑖𝑠𝑖𝑜𝑛 = 𝑇𝑃 𝑇𝑃 + 𝐹𝑃 (3.1) - Recall: tỉ lệ số câu (TP) tổng số câu thực (TP + FN) Với FN false negative câu dự đoán sai kết Recall cao tỉ lệ bỏ sót câu thực thấp 𝑅𝑒𝑐𝑎𝑙𝑙 = 𝑇𝑃 𝑇𝑃 + 𝐹𝑁 (3.2) 51 - F1-score: điểm trung bình điều hịa (harmonic mean) Precision Recall Điểm F1-score cao mơ hình dự đốn xác tin cậy 𝐹1−𝑠𝑐𝑜𝑟𝑒 = 𝑃𝑟𝑒𝑐𝑖𝑠𝑖𝑜𝑛  𝑅𝑒𝑐𝑎𝑙𝑙 𝑃𝑟𝑒𝑐𝑖𝑠𝑖𝑜𝑛 + 𝑅𝑒𝑐𝑎𝑙𝑙 (3.3) Dưới bảng kết thử nghiệm cho intent entity: Bảng 3.1 Thông số đo intent Ý định (Intents) Số câu test Thông số đo Precision Recall F1-score chao_hoi 1.00 0.83 0.91 bao_gia 1.00 1.00 1.00 loi_font_chu 1.00 0.86 0.92 bao_cao_ton_kho 0.90 1.00 0.95 nhap_tu_dien 0.80 0.80 0.80 tao_lai_so_phieu 1.00 1.00 1.00 cai_dat_phan_mem 14 0.82 1.00 0.90 doi_mat_khau 1.00 0.86 0.92 tao_du_lieu_moi 17 0.93 0.82 0.87 hoa_don_dien_tu 1.00 1.00 1.00 in_nhieu_phieu 0.88 1.00 0.93 copy_du_lieu 0.89 1.00 0.93 … … … … 256 0.92 0.91 0.91 … Trọng số trung bình Bảng 3.2 Thông số đo entity Thông số đo Số câu test Precision Recall F1score tu_dien_tai_khoan 23 0.85 1.00 0.92 so_dien_thoai 1.00 1.00 1.00 san_pham 1.00 1.00 1.00 ten_khach_hang 13 1.00 0.62 0.76 Trọng số trung bình 44 0.92 0.89 0.89 Thực thể (Entities) 52 Hình 3.17 Biểu đồ thống kê mức độ tin cậy dự đoán ý định (intent) Hình 3.18 Biểu đồ thống kê mức độ tin cậy dự đoán thực thể (entity) 53 Nhãn Nhãn dự đốn Hình 3.19 Biểu đồ ma trận nhầm lẫn (Confusion matrix) nhãn dự đoán nhãn tác vụ phân loại ý định 54 Hình 3.20 Biểu đồ ma trận nhầm lẫn (Confusion matrix) nhãn dự đốn nhãn tác vụ trích xuất thực thể Kết Chatbot dự đốn xác khoảng 90% Để lưa chọn cấu hình tốt ổn định tơi so sánh biến thể cấu hình khác nhau, với cấu hình cấu hình mặc định cung cấp Rasa đặt tên default-config, cấu hình thứ hai sử dụng mơ hình DIET với thành phần tokenizer tùy biến sử dụng thư viện Underthesea [25] tác giả Vũ Anh, cấu hình thứ cấu hình sử dụng cho ứng dụng dùng pretrained-model spaCy hỗ trợ Tiếng Việt [15] tác giả Trần Việt Trung huấn luyện dựa 18GB báo Tiếng Việt đặt tên spaCyconfig Kết thu sau: 55 Hình 3.21 Thang đo so sánh điểm intent cấu hình Bảng 3.3 Kết so sánh điểm intent cấu hình Cấu hình Precision Recall F1-score spaCy-config 0.9191 0.9102 0.9086 custom-tokenizer 0.8945 0.8867 0.8843 default-config 0.8657 0.8555 0.8520 Hình 3.22 Thang đo so sánh điểm entity cấu hình 56 Bảng 3.4 Kết so sánh điểm entity cấu hình Cấu hình Precision Recall F1-score spaCy-config 0.9226 0.8864 0.8878 customtokenizer 0.8328 0.8333 0.8208 default-config 0.8028 0.8103 0.8028 Ở cấu hình mặc định Rasa default-config đạt điểm thấp nhiệm vụ phân loại ý định trích chọn thực thể, lý cấu hình phù hợp với ngơn ngữ chữ Latinh khơng thể xác ngơn ngữ cụ thể ví dụ Tiếng Việt Cấu hình custom-config thể kết vượt trội default-config tác vụ, điều chứng minh lựa chọn tokenizer phù hợp với ngôn ngữ tăng đáng kể khả dự đốn Chatbot Ở cấu hình spaCy-config ta thu kết tốt nhất, với việc sử dụng tính tokenizer pretrain-model spaCy sử dụng cho Tiếng Việt giúp Chatbot có đủ thơng tin ngữ cảnh từ vựng dù chưa huấn luyện trước Với kết tốt nhất, tơi chọn cấu hình spaCyconfig để xây dựng Chatbot Nhất Nam Từ trình tìm hiểu nghiệp vụ, xây dựng kết từ thực nghiệm tơi có đánh giá sau: Dữ liệu huấn luyện kịch xây dựng yếu tố vô quan trọng xây dựng Chatbot, liệu kịch cung cấp nhiều tỉ mỉ Chatbot linh hoạt thông minh Việc định nghĩa xây dựng ý định, thực thể đóng vai trị quan trọng Nếu liệu huấn luyện nhiều phân loại cách mập mờ, khơng có hoạch định rõ ràng, ví dụ câu mẫu ý định lại đặt vào intent khác khó cho Chatbot biết ý định người hỏi Khơng thể có tốn cụ thể để quy hoạch hết trường hợp xảy phiên hỏi người dùng, cần xây dựng kịch cho trường hợp chưa huấn luyện để Chatbot khơng bị tình cảnh đưa câu trả lời cho người dùng đưa câu trả lời sai lệch 57 KẾT LUẬN Trong luận văn tơi tìm hiểu tổng quan hệ thống Chatbot, thành phần cấu trúc nhiệm vụ thành phần Chatbot, tìm hiểu mơ hình Transformer mơ hình DIET để ứng dụng vào Chatbot giải toán bán hàng, tư vấn hỗ trợ khách hàng Chatbot xây dựng dựa cơng cụ Rasa tích hợp triển khai website doanh nghiệp Các vấn đề mà luận văn đạt Xây dựng phương pháp phân loại ý định trích xuất thực thể giúp Chatbot có khả trả lời tự động câu hỏi khách hàng cách xác Những câu hỏi khó khơng có liệu huấn luyện chuyển đến chuyên viên tư vấn Xây dựng Chatbot cơng cụ Rasa sử dụng mơ hình DIET q trình huấn luyện tích hợp thành cơng vào Website công ty sử dụng Wordpress Tùy chỉnh mô hình để xử lý Tiếng Việt tốt Đánh giá độ xác mơ hình nhiệm vụ phân loại ý định trích xuất thực thể So sánh với tùy chỉnh cấu hình để đưa cấu hình tốt ứng dụng cho Chatbot Định hướng phát triển Mở rộng thêm ý định thực thể phục vụ nghiệp vụ doanh nghiệp Xây dựng Chatbot hỗ trợ multi intent – người dùng hỏi nhiều câu hỏi kép với intent Xây dựng Chatbot có khả phân tích cảm xúc để đánh giá đưa câu trả lời phù hợp hoàn cảnh 58 TÀI LIỆU THAM KHẢO [1] Moussiades, E Adamopoulou and Lefteris, "An Overview of Chatbot Technology" [2] P Suta, X Lan, B Wu, P Mongkolnam and J H Chan, "An Overview of Machine Learning in Chatbots," 2020 [3] Kompella and Ravindra, 2018 [Online] Available: https://towardsdatascience.com/architecture-overview-of-aconversational-ai-chat-bot-4ef3dfefd52e [4] R Vargas, A Mosavi and R Ruiz, "DEEP LEARNING: A REVIEW," 2018 [5] "WildML," 2015 [Online] Available: http://www.wildml.com/2015/09/recurrent-neural-networks-tutorialpart-1-introduction-to-rnns/ [6] Ruder and Sebastian, "An overview of gradient descent optimization algorithms," 2017 [7] R Pascanu, T Mikolov and Y Bengio, "On the difficulty of training recurrent neural networks" [8] A Vaswani, N Shazeer, N Parmar, J Uszkoreit, L Jones, A N Gomez, L Kaiser and I Polosukhin, Attention is all you need, 2017 [9] F Chaubard, M Fang, G Genthial, R Mundra and R Socher, "Natural Language Processing with Deep Learning," 2019 [10] L Google, "Tensor2Tensor," 2018 [Online] Available: https://colab.research.google.com/github/tensorflow/tensor2tensor/blob/ master/tensor2tensor/notebooks/hello_t2t.ipynb#scrollTo=OJKU36Qafq OC 59 [11] J L Ba, J R Kiros and G E Hinton, "Layer Normalization," 2016 [12] K He, X Zhang, S Ren and J Sun, "Deep Residual Learning for Image Recognition," 2015 [13] T Bunk, D Varshneya, V Vlasov and A Nichol, "DIET: Lightweight Language Understanding for Dialogue Systems," 2020 [14] X.-S Vu, T Vu, S N Tran and L Jiang, "https://github.com/sonvx/word2vecVN," [Online] [15] T V Trung [Online] Available: https://gitlab.com/trungtv/vi_spacy [16] D Q Nguyen and A T Nguyen, "PhoBERT: Pre-trained language models for Vietnamese," [Online] Available: https://github.com/VinAIResearch/PhoBERT [17] Y Liu, M Ott, NamanGoyal, J Du, M Joshi, D Chen, OmerLevy, MikeLewis, L Zettlemoyer and V Stoyanov, "RoBERTa: ARobustly Optimized BERT Pretraining Approach," 2019 [18] J Lafferty, A McCallum and F Pereira, "Conditional Random Fields: Probabilistic Models for Segmenting and Labeling Sequence Data," 2001 [19] M Korobov, "sklearn-crfsuite," 2015 [Online] Available: https://sklearn-crfsuite.readthedocs.io/ [20] Ledell, A Fisch, S Chopra, K Adams, A Bordes and J Westom, "Emed All The Things!," 2017 [21] X Liu, A Eshghi, P Swietojanski and V Rieser, "Benchmarking Natural Language Understanding Services for building Conversational Agents," 2019 [22] A Vanzo, E Bastianelli and O Lemon, Hierarchical multi-task natural language understanding for cross-domain conversation ai: Hermit nlu, 2019, pp 254-263 60 [23] T Bocklisch, J Faulkner, N Pawlowski and A Nichol, "Rasa: Open Source Language Understanding and Dialogue Management," 2017 [24] V Vlasov, J E M Mosig and A Nichol, "Dialogue Transformers," 2020 [25] V Anh, "Underthesea - Vietnamese NLP Toolkit," 2018 [Online] Available: https://underthesea.readthedocs.io/en/latest/readme.html [26] A Sherstinsky, "Fundamentals of Recurrent Neural Network (RNN) and Long Short-Term Memory (LSTM) Network," 2021 [27] M.-W C K L K T Jacob Devlin, "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding," 2019 [28] O V Q V L Ilya Sutskever, "Sequence to Sequence Learning with Neural Networks" [29] "Michael Phi," 25 2018 [Online] Available: https://towardsdatascience.com/illustrated-guide-to-lstms-and-gru-s-astep-by-step-explanation-44e9eb85bf21 [30] M Sonali, B Maind and M P Wankar, "Research Paper on Basic of Artificial Neural Network," 2014 [31] Mavuduru and Amol, 12 2020 [Online] Available: https://towardsdatascience.com/what-are-transformers-and-how-canyou-use-them-f7ccd546071a [32] J Alammar, "The Illustrated Transformer," [Online] Available: https://jalammar.github.io/illustrated-transformer/ [33] J Mosig and V Vlasov, "Why Rasa uses Sparse Layers in Transformers," 19 2021 [Online] Available: https://rasa.com/blog/why-rasa-usessparse-layers-in-transformers/ 61 ...TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI LUẬN VĂN THẠC SĨ Xây dựng ứng dụng Chatbot tư vấn khách hàng sử dụng kỹ thuật học sâu NGUYỄN ĐẮC HIẾU Ngành Công nghệ thông tin... phúc BẢN XÁC NHẬN CHỈNH SỬA LUẬN VĂN THẠC SĨ Họ tên tác giả luận văn : Nguyễn Đắc Hiếu Đề tài luận văn: Xây dựng ứng dụng Chatbot tư vấn khách hàng sử dụng kỹ thuật học sâu Chuyên ngành: Công... nghiệp tiết kiệm chi phí Hiểu tầm quan trọng đó, tơi chọn đề tài ? ?Xây dựng ứng dụng Chatbot tư vấn khách hàng sử dụng kỹ thuật học sâu? ?? kiến thức tìm hiểu với tinh thần hăng say, nghiêm túc Mục