Xây dựng hệ tư vấn tuyển sinh tự động cho trường đại học phan thiết

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÀ RỊA - VŨNG TÀU LÊ VĂN SÁNG XÂY DỰNG HỆ TƯ VẤN TUYỂN SINH TỰ ĐỘNG CHO TRƯỜNG ĐẠI HỌC PHAN THIẾT LUẬN VĂN THẠC SĨ Bà Rịa - Vũng Tàu, tháng năm 2023 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÀ RỊA - VŨNG TÀU LÊ VĂN SÁNG XÂY DỰNG HỆ TƯ VẤN TUYỂN SINH TỰ ĐỘNG CHO TRƯỜNG ĐẠI HỌC PHAN THIẾT LUẬN VĂN THẠC SĨ Chuyên ngành: Công nghệ thông tin Mã số ngành: 8480201 CÁN BỘ HƯỚNG DẪN KHOA HỌC TS BÙI THỊ THU TRANG Bà Rịa - Vũng Tàu, tháng năm 2023 i LỜI CAM ĐOAN Tôi tên Lê Văn Sáng – Học viên cao học chuyên ngành Công nghệ thông tin khóa năm 2020 - Trường Đại học Bà rịa - Vũng Tàu Tôi xin cam đoan luận văn tơi tìm hiểu, nghiên cứu xây dựng dẫn dắt TS Bùi Thị Thu Trang Nội dung luận văn tơi có tham khảo, sử dụng thông tin tài liệu từ nguồn sách, tạp chí, báo trích dẫn, liệt kê danh mục tài liệu tham khảo Tôi xin chịu trách nhiệm lời cam đoan HỌC VIÊN THỰC HIỆN LÊ VĂN SÁNG ii LỜI CẢM ƠN Tôi chân thành cảm ơn Quý Thầy/Cô Trường Đại học Bà Rịa - Vũng Tàu tận tình giảng dạy, truyền đạt kiến thức suốt khóa học Đồng thời, xin gửi lời cảm ơn chân thành đến Viện đào tạo Sau đại học & Phát triển nguồn nhân lực nhiệt tình hỗ trợ, giúp đỡ tơi q trình học tập trường thực luận văn Tôi xin biết ơn sâu sắc cảm ơn chân thành đến TS Bùi Thị Thu Trang Người định hướng, giúp đỡ, trực tiếp hướng dẫn tận tình bảo tơi suốt q trình nghiên cứu, xây dựng hồn thiện luận văn Qua đây, xin chân thành cảm ơn Trường Đại học Phan Thiết tạo điều kiện, hỗ trợ tơi nhiều q trình tơi thu thập liệu thực nghiệm Nhà trường góp phần giúp thực tốt luận văn Trân trọng cảm ơn ! LÊ VĂN SÁNG iii MỤC LỤC DANH MỤC CÁC TỪ VIẾT TẮT v DANH MỤC CÁC BẢNG BIỂU vi DANH MỤC CÁC HÌNH vii CHƯƠNG GIỚI THIỆU CHUNG, TỔNG QUAN VỀ CÔNG TÁC TƯ VẤN TUYỂN SINH VÀ ĐƯA RA HƯỚNG NGHIÊN CỨU, GIẢI QUYẾT BÀI TOÁN THỰC TẾ TẠI TRƯỜNG ĐẠI HỌC PHAN THIẾT 1.1 Mở đầu 1.2 Giới thiệu đề tài 1.2.1 Lý chọn đề tài 1.2.2 Mục tiêu đề tài 1.3 Đối tượng phạm vi nghiên cứu 1.4 Phương pháp nghiên cứu 1.4.1 Phương pháp lý thuyết 1.4.2 Phương pháp thực nghiệm 1.5 Cấu trúc luận văn TÓM TẮT CHƯƠNG CHƯƠNG TỔNG QUAN HỆ THỐNG CHATBOT, KIẾN TRÚC VÀ NHIỆM VỤ CỦA CÁC THÀNH PHẦN BÊN TRONG CHATBOT 2.1 Tổng quan 2.1.1 Khái niệm 2.1.2 Lịch sử đời 2.2 Các kiểu Chatbot 2.3 Kiến trúc Chatbot nhiệm vụ thành phần Chatbot 13 2.3.1 Kiến trúc 13 2.3.2 Nhiệm vụ thành phần Chatbot 15 2.3.3 Dialogue Manager 16 2.3.4 Natural Language Generation 17 TÓM TẮT CHƯƠNG 19 CHƯƠNG TÌM HIỂU CƠ SỞ LÝ THUYẾT LÀM NỀN TẢNG ĐỂ XÂY DỰNG ỨNG DỤNG CHATBOT VỚI RASA FRAMEWORK 20 3.1 Các kỹ thuật sử dụng Chatbot 20 3.1.1 Mạng nơron nhân tạo 20 3.1.2 Mạng nơron hồi quy 21 3.1.3 Mạng nhớ dài-ngắn LSTM 24 3.1.4 Mạng GRU 27 3.2 Framework Chatbot 28 3.2.1 Các Framework Chatbot phổ biến 28 iv 3.2.2 Ưu nhược điểm Framework Chatbot 28 3.3 Rasa Framework 29 3.3.1 Tổng quan Rasa 29 3.3.2 Các thành phần Rasa 30 3.3.3 Kiến trúc Rasa 31 TÓM TẮT CHƯƠNG 35 CHƯƠNG XÂY DỰNG CHATBOT HỖ TRỢ TƯ VẤN TUYỂN SINH 36 4.1 Giới thiệu toán 36 4.2 Xây dựng chương trình 36 4.2.1 Xây dựng liệu 36 4.2.2 Áp dụng dụng Rasa để xây dựng Chatbot tư vấn tuyển sinh 43 4.3 Kết thực nghiệm 47 4.3.1 Môi trường thực nghiệm 47 4.3.2 Kết thực nghiệm 47 4.3.3 Phương pháp đánh giá 52 4.4 Đánh giá 56 TÓM TẮT CHƯƠNG 57 KẾT LUẬN 58 DANH MỤC TÀI LIỆU THAM KHẢO 60 PHỤ LỤC 65 v DANH MỤC CÁC TỪ VIẾT TẮT STT Từ viết tắt Từ đầy đủ Ý nghĩa AI Artificial Intelligence Trí tuệ nhân tạo CSDL Database Cơ sở liệu DL Deep Learning Học sâu DM Dialogue Manager Quản lý hội thoại DT Decision Tree Cây định FN False Negative Số lượng dự đoán sai lệch cách gián tiếp FP False Positive Giá trị nhầm lẫn sai GRU Gated Recurrent Unit Kiến trúc mạng nơron truyền thống sử dụng cho việc xử lý chuỗi liệu ICM Intent Confusion Matrix Ma trận nhầm lẫn 10 LSTM Long Short-Term Memory Một loại kiến trúc mạng nơron thần kinh nhân tạo 11 ML Machine Learning Máy học 12 NLG Sinh ngôn ngữ tự nhiên 13 NLP 14 NLU Natural Language Generation Natural Language Processing Natural Language Understanding 15 RNN Recurrent Neural Network Mạng nơron hồi quy 16 SL Supervised Learning Học có giám sát 17 SVM Support Vector Machine Máy vector hỗ trợ 18 TN True Negative Số lượng dự đốn xác cách gián tiếp 19 TP True Positive Giá trị nhầm lẫn 20 UPT University of Phan Thiet Trường Đại học Phan Thiết Xử lý ngôn ngữ tự nhiên Hệ thống hiểu ngôn ngữ tự nhiên vi DANH MỤC CÁC BẢNG BIỂU Bảng 2.1: So sánh ưu nhược điểm kiểu Chatbot 12 Bảng 2.2: Kỹ thuật Template-Base NLG 18 Bảng 3.1: Phép toán luồng xử lý kiến trúc mạng LSTM tầng 27 Bảng 3.2: Ưu nhược điểm Framework Chatbot phổ biến 29 Bảng 4.1: Một số Intent quan trọng Chatbot trường Đại học Phan Thiết 38 Bảng 4.2: Bảng mô tả tệp UPT BOT 46 vii DANH MỤC CÁC HÌNH Hình 2.1: Minh họa Chatbot [12] Hình 2.2: Lịch sử đời phát triển Chatbot [13] Hình 2.3: Các kiểu Chatbot 10 Hình 2.4: Kiến trúc Chatbot[12] 13 Hình 2.5: Kiến trúc Chatbot sử dụng NLP công nghệ học máy [12] 14 Hình 2.6: Rule Based [26] 18 Hình 2.7: Data-driven Chatbot [29] 19 Hình 3.9: Kiến trúc mạng nơron nhân tạo [40] 21 Hình 3.1: Mạng nơron hồi quy RNN [12] 21 Hình 3.2: Mạng RNN hai chiều [12] 22 Hình 3.3: Mạng RNN hai chiều sâu [35] 23 Hình 3.4: Mạng LSTM [36] 24 Hình 3.5: RNN phụ thuộc short-term [36] 25 Hình 3.6: Kiến trúc LSTM tầng [36] 25 Hình 3.7: Kiến trúc mạng LSTM tầng [38] 26 Hình 3.8: Mạng GRU [39] 27 Hình 3.10: Các thành phần Rasa [14] 30 Hình 3.11: Kiến trúc Rasa [45] 31 Hình 4.1: Intent Chatbot tư vấn tuyển sinh 37 Hình 4.2: Một số Entities UPT_BOT 40 Hình 4.3: Mẫu trả lời cho intent hỏi phương thức xét tuyển 40 Hình 4.4: Trả lời ý định hỏi ngành tuyển sinh (utter_hoinganhtuyensinh) 40 Hình 4.5: Chatbot phản hồi học sinh thông qua Action 41 Hình 4.6: Default Action UPT BOT 42 Hình 4.7: Kịch trò chuyện người dùng với Chatbot 42 Hình 4.8: Kiến trúc Chatbot tư vấn tuyển sinh UPT 43 Hình 4.9: Cài đặt Rasa cho UPT BOT 45 Hình 4.10: Khởi tạo Project Chatbot UPT_BOT với Rasa 45 Hình 4.11: Cấu trúc thư mục tệp UPT_BOT 45 Hình 4.12: Thực nghiệm huấn luyện UPT BOT 47 Hình 4.13: Thực nghiệm Chatbot với ý định hỏi phương thức xét tuyển 48 Hình 4.14: Thực nghiệm Chatbot với ý định hỏi điều kiện xét tuyển 48 Hình 4.15: Thực nghiệm Chatbot với ý định hỏi học phí 49 Hình 4.16: Thực nghiệm Chatbot với ý định hỏi tổ hợp môn xét tuyển 49 Hình 4.17: Thực nghiệm Chatbot với ý định hỏi đường link xét tuyển trực tuyến 50 Hình 4.18: Thực nghiệm Chatbot với ý định hỏi hồ sơ xét tuyển 50 viii Hình 4.19: Thực nghiệm Chatbot với ý định hỏi sách học bổng tuyển sinh 51 Hình 4.20: Thực nghiệm Chatbot với ý định hỏi điều kiện xét tuyển học bạ Chatbot trả lời điều kiện xét tuyển chung 51 Hình 4.21: Thực nghiệm Chatbot với ý định hỏi điều kiện xét tuyển học bạ sau huấn luyện lại 52 Hình 4.22: Độ xác UPT BOT lần thử nghiệm 53 Hình 4.23: Ma trận nhầm lẫn ý định (Intent) thực nghiệm Chatbot 53 Hình 4.24: Biểu đồ đo tin cậy cho dự đoán 54