(LUẬN văn THẠC sĩ) xây dựng mô hình khuyến cáo khả năng nghỉ học của sinh viên trường cao đẳng kỹ thuật công nghệ bà rịa vũng tàu

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÀ RỊA-VŨNG TÀU LÊ VIẾT HUẤN Xây dựng mơ hình khuyến cáo khả nghỉ học sinh viên Trường cao đẳng Kỹ thuật Công nghệ Bà Rịa Vũng Tàu LUẬN VĂN THẠC SĨ Chuyên ngành: Công nghệ thông tin Mã số: 8480201 CÁN BỘ HƯỚNG DẪN KHOA HỌC TS Phan Ngọc Hoàng Bà Rịa-Vũng Tàu, tháng năm 2021 download by : skknchat@gmail.com MỤC LỤC DANH MỤC CÁC TỪ VIẾT TẮT .IV DANH MỤC CÁC BẢNG V DANH MỤC CÁC HÌNH VI MỞ ĐẦU 1 Lý chọn đề tài Tính cấp thiết đề tài Mục tiêu đề tài Nội dung nghiên cứu Phương pháp luận phương pháp nghiên cứu 5.1 Phương pháp luận 5.2 Phương pháp nghiên cứu CHƯƠNG I GIỚI THIỆU TRÍ TUỆ NHÂN TẠO 1.1 Giới thiệu trí tuệ nhân tạo 1.2 Các lĩnh vực thuộc trí tuệ nhân tạo 1.3 Các tốn sử dụng trí tuệ nhân tạo 13 1.3.1 Phân nhóm 13 1.3.2 Phân cụm 17 1.3.3 Nhận dạng 17 1.4 Thuật toán sử dụng hàm 17 CHƯƠNG II GIỚI THIỆU VỀ MẠNG NƠRON 22 2.1 Giới thiệu mạng Nơron 22 2.1.1 Lịch sử phát triển mạng Nơron 22 2.1.2 Ứng dụng 23 I download by : skknchat@gmail.com 2.1.3 Căn nguyên sinh học mạng 24 2.2 Nơron nhân tạo 25 2.3 Hàm xử lý 27 2.3.1 Hàm kết hợp 27 2.3.2 Hàm kích hoạt mạng (hàm chuyển) 27 2.3.2.1 Hàm tuyến tính (Linear function): 27 2.3.2.2 Hàm ranh giới cứng mạng (Hard limiter function) 28 2.3.2.3.Hàm Sigmoid (Sigmoid function) 28 2.3.2.4 Hàm Sigmoid lưỡng cực(Bipolar Sigmoid function) 29 2.3.2.5 Hàm TanH 30 2.3.2.6 Hàm ReLU 30 2.3.2.6 Hàm Leaky ReLU 31 2.4 Cấu trúc mạng nơron 33 2.4.1 Phương pháp mạng truyền thẳng 33 2.4.2 Mạng hồi qui 34 2.4.3 Luật học 34 2.4.4 Hàm mục tiêu 36 2.5 Huấn luyện mạng Nơron 36 2.5.1 Phương pháp mạng Nơron truyền thẳng 37 2.5.1.1 Các kiến trúc 37 2.5.1.2 Khả biểu diễn 38 2.5.2 Số lớp ẩn 39 2.5.3 Số nơron lớp ẩn 39 2.6 Thuật toán lan truyền ngược (Back-Propagation Algorithm) 41 II download by : skknchat@gmail.com 2.6.1 Phương pháp mô tả thuật toán 41 2.6.1.1 Chỉ số hiệu (performance index) 41 2.6.1.2 Luật xích (Chain Rule) 42 2.6.1.3 Lan truyền ngược độ nhạy cảm 44 2.6.2 Sử dụng thuật toán lan truyền ngược mạng 46 2.6.3 Một số loại biến thể thuật toán lan truyền ngược 49 CHƯƠNG III ỨNG DỤNG MẠNG NƠRON TRONG VIỆC KHUYẾN CÁO KHẢ NĂNG NGHỈ HỌC CỦA HỌC SINH, SINH VIÊN 52 3.1 Các bước thực mơ hình 52 3.2 Thu thập liệu cho mơ hình 53 3.3 Phân tích, lựa chọn đặc trưng 54 3.4 Tiền xử lý liệu cho mơ hình 57 3.5 Xây dựng mạng Nơron 59 3.5.1 Cấu trúc mạng Nơron 59 3.5.2 Huấn luyện mạng Nơron cho mơ hình 61 3.5.3 Kiểm thử mạng nơron 64 3.6 Kết toán khuyến cáo 66 CHƯƠNG IV KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN 67 4.1 Các kết đạt 67 4.2 Hướng phát triển 67 TÀI LIỆU THAM KHẢO 68 PHỤ LỤC 70 III download by : skknchat@gmail.com DANH MỤC CÁC TỪ VIẾT TẮT TT TÊN VIẾT TÊN ĐẦY ĐỦ TẮT DIỄN GIẢI Genetic Algorithm Giải thuật di truyền ANN Artificial Neural Network Mạng nơron nhân tạo MLP Multi Layer Perceptron BRVT NƠRON BP MFNN GA LMS Bà Rịa Vũng Tàu Mạng nơron nhiều lớp Tỉnh Bà rịa – Vũng tàu Neural Tế bào thần kinh Back Propagation Lan truyền nguợc Multi Feedforward Neural Mạng truyền thẳng nhiều lớp Network Least Mean Square Bình IV download by : skknchat@gmail.com phương nhỏ DANH MỤC CÁC BẢNG Bảng 3.1: Bảng liệu kết học tập rèn luyện 55 Bảng 3.2: Bảng điều kiện phân loại học lực 56 Bảng 3.3: Bảng liệu tính chất đặc trưng mơ hình 57 Bảng 3.4: Dữ liệu mạng nơron với số đầu vào 58 Bảng 3.5: Giá trị loss sau epoch 62 V download by : skknchat@gmail.com DANH MỤC CÁC HÌNH Hình 1.1:Quan hệ AI, Machine Learning Deep Learning Hình 1.2: Dữ liệu phân chia làm hai tập điểm Hình 1.3: Dữ liệu phức tạp, không phân chia 10 Hình 1.4: Thuật tốn học có giám sát 14 Hình 1.5: MNIST sở liệu chữ số viết tay 15 Hình 1.6: Học không giám sát 16 Hình 1.7: Học bán giám sát 16 Hình 1.8: Thuật tốn Nơron nhân tạo 18 Hình 1.9: Thuật toán học sâu 19 Hình 1.10: Thuật tốn giảm kích thước 20 Hình 1.11: Thuật toán tổng hợp 21 Hình 2.1: Đơn vị xử lý tín hiệu thứ j 26 Hình 2.2: Mơ hình mạng Nơron nhân tạo 27 Hình 2.3: Hàm tuyến tính d mạng (Linear function) 28 Hình 2.4: Hàm ranh giới cứng e x 28 Hình 2.5: Hàm – Sigmoid 29 Hình 2.6: Hàm Sigmoid lưỡng cực g(x) 29 Hình 2.7: Hàm TanH 30 Hình 2.8: Đồ thị hàm ReLU 31 Hình 2.9: Đồ thị hàm Leaky ReLU 32 Hình 2.10: Mơ hình Softmax Regression dạng Neural network 33 Hình 2.12: Mạng hồi qui 34 Hình 2.13: Mơ hình học có giám sát j 35 Hình 2.14: Mạng nơron truyền thẳng nhiều lớp k 37 Hình 3.1: Các bước xây dựng mơ hình 52 Hình 3.2: Mơ hình cấu trúc mạng Nơron MLP 60 Hình 3.3: Đồ thị thể mức độ học MLP 63 Hình 3.4: Các thơng số huấn luyện mạng 64 VI download by : skknchat@gmail.com Hình 3.5: Các thơng số kiểm thử mạng 66 VII download by : skknchat@gmail.com MỞ ĐẦU XÂY DỰNG MƠ HÌNH KHUYẾN CÁO KHẢ NĂNG NGHỈ HỌC CỦA SINH VIÊN TRƯỜNG CAO ĐẲNG KỸ THUẬT CÔNG NGHỆ TỈNH BÀ RỊA VŨNG TÀU Lý chọn đề tài Hiện tượng nghỉ học ngày phổ biến bạn học sinh, sinh viên năm trường Cao Đẳng Kỹ Thuật Công Nghệ tỉnh Bà Rịa Vũng Tàu Vấn đề nhận quan tâm đặc biệt Ban giám hiệu nhà trường thầy cô giáo Qua số liệu khảo sát từ năm 2016-2019 trường Cao Đẳng Kỹ Thuật Công Nghệ tỉnh Bà Rịa Vũng Tàu, cho thấy số khó khăn nhà trường sau: Chủ yếu vào thời điểm sau tết nguyên đán hàng năm học sinh, sinh viên nhà trường thường hay nghỉ học nhiều Theo số liệu thống kê chưa đầy đủ, từ đầu năm học 2016-2017 đến nay, tồn trường có gần 458 học sinh, sinh viên bỏ học chừng, chủ yếu học sinh hệ trung cấp 380 em, chiếm tỷ lệ 83% tổng số học sinh, sinh viên hệ cao đẳng nghề 78 em chiếm tỷ lệ 17% Một số ngành nghề có học sinh bỏ học nhiều như: Điện công nghiệp, Công nghệ thông tin… Một thực tế chứng minh việc bỏ học liên quan chặt chẽ đến kết học tập bạn sinh viên, giảm sút điểm số, chán nản học Nguyên nhân bỏ học đến từ yếu tố khách quan yếu tố chủ quan bạn học sinh, sinh viên chẳng hạn như: bạn bè rủ rê, lôi kéo, điểm số thấp nên chán nản, khơng có kế hoạch học tập rõ ràng… Tính cấp thiết đề tài Kết việc nghỉ học học sinh, sinh viên không nỗi lo ngày hôm mà gánh nặng đến cộng đồng xã hội mai sau download by : skknchat@gmail.com Việc em bỏ học sớm em làm tăng thêm lực lượng lao động khơng có tay nghề, khơng đào tạo, hiệu lao động thấp, chưa kể việc em dễ bị lôi kéo vào tệ nạn xã hội phổ biến Nhằm khắc phục khó khăn trên, phía nhà Trường, cố gắng nâng cao chất lượng đào tạo, đổi phương pháp giảng dạy tạo sân chơi lành mạnh kèm theo hoạt động ngoại khóa hay buổi học tập, trao đổi phương pháp phân bổ thời gian học tập hợp lý…cho bạn học sinh, sinh viên, kết chưa khả quan Để góp phần xác định tượng nghỉ học nhiều nhà trường, định chọn đề tài "Xây dựng mơ hình khuyến cáo khả nghỉ học sinh viên Trường Cao Đẳng Kỹ Thuật Công Nghệ tỉnh Bà Rịa Vũng Tàu " nhằm hỗ trợ công tác tư vấn định hướng học tập khuyến cáo đến bạn học sinh, sinh viên kết học tập từ chấn chỉnh lại ý thức học tập có phương pháp học tập hợp lý để kết học tập ngày tốt hơn, đồng thời giúp người học tự định hướng xác nghề nghiệp phù hợp với Cùng với phương pháp sử dụng mạng Nơron năm gần đây, quan tâm sử dụng nhiều lĩnh vực nhận dạng phân lớp Dự đoán mơ hình việc quan trọng học máy, khai phá liệu, phát trí thức hệ thống mạng Nơron Kỹ thuật (MLP - Multi Layer Perceptron) mạng Nơron đánh giá công cụ mạnh phù hợp cho toán phân lớp phi tuyến Dựa kỹ thuật MLP có nhiều ứng dụng xây dựng hiệu Các giải pháp phân loại dự đoán nắm xây dựng tốt phương pháp tạo tảng giúp việc phát triển, xây dựng ứng dụng quan trọng thực tế Đặc biệt toán dự báo, điều khiển, lọc liệu, xử lý… Việc xây dựng mơ hình dự báo khả nghỉ học bạn học sinh, sinh viên năm trường Cao Đẳng Kỹ Thuật Công Nghệ tỉnh Bà Rịa Vũng Tàu dựa vào download by : skknchat@gmail.com Bảng 3.3: Bảng liệu tính chất đặc trưng mơ hình 3.4 Tiền xử lý liệu cho mơ hình Tiền xử lý liệu bước quan trọng việc xây dựng mô hình huấn luyện mạng Nơron Hầu hết liệu sử dụng mạng Nơron cần xử lý biến đổi trước mạng Nơron huấn luyện liệu Ở mơ hình mạng Nơron xử lý tín hiệu đầu vào tốt biến đổi liệu dạng thập phân nằm khoảng [0, 1] cụ thể sau Từ bảng phân tích lựa chọn đặc trưng cho liệu Bảng 3.3 ta tiếp tục biến đổi thông tin đặc trưng sau: - Sinh viên tỉnh: sinh viên tỉnh 0, tỉnh - Nợ học phí học kỳ 2: học phí chưa hồn thành 1, hoàn thành - Số lần cảnh cáo kỷ luật học kỳ 1,2: cảnh cáo 1, không cảnh cáo - Bảo lưu: không bảo lưu 0, bảo lưu - Số môn đạt điểm giỏi: Là tất số môn đạt điểm giỏi tổng số môn học kỳ - Số môn đạt điểm khá: Là tất số môn đạt điểm tổng số môn học kỳ 57 download by : skknchat@gmail.com - Số môn đạt điểm trung bình: Là tất số mơn đạt điểm trung bình tổng số mơn học kỳ - Số môn đạt điểm yếu: Là tất số môn đạt điểm yếu tổng số môn học kỳ - Tỉ lệ yếu năm: tổng số tỉ lệ yếu học kỳ học kỳ Vì số mơn đạt điểm giỏi chiếm tỉ lệ nhỏ ta thực chia lấy giá trị trung bình nên tỉ lệ giỏi cộng lại với - Tùy theo ngành nghề mà số lượng môn học học kỳ khác nhau, hệ cao đẳng số lượng môn học nhiều hệ trung cấp Ví dụ: Ngành cơng nghệ ô tô học kỳ năm 10 môn, điện công nghiệp 7, công nghệ thông tin 9, kế tốn doanh nghiệp 8… Đối với hệ ngành cơng nghệ ô tô hệ trung cấp môn, cao đẳng 10 mơn Vì để thuận tiện cho việc xây dựng liệu cho mơ hình đưa dạng tỷ lệ để liệu gom giới hạn từ đến Bảng 3.4: Dữ liệu mạng nơron với số đầu vào Trong Bảng 3.4 tỉ lệ khá, giỏi chiếm tỉ lệ nhỏ nên ta cộng lại thực sau: Tỷ lệ khá, giỏi HK1 = số môn đạt điểm HK1 + số môn đạt điểm giỏi HK1 ∑ số mơn có học kỳ 58 download by : skknchat@gmail.com Tỷ lệ trung bình học kỳ 1, tỷ lệ yếu học kỳ 1, tỷ lệ khá, giỏi học kỳ 2, tỷ lệ trung bình học kỳ 2, tỷ lệ yếu học kỳ 2, tỉ lệ yếu năm thực tương tự công thức Dữ liệu đầu vào cho việc huấn luyện từ khối liệu ban đầu 2432 học sinh, sinh viên thuộc nhóm với nhiều thơng tin đặc trưng, sau tiền xử lý ta lựa chọn 12 thơng tin đặc trưng có ảnh hưởng lớn tới dự báo mơ hình loại bỏ học sinh, sinh viên khơng đầy đủ thơng tin cịn lại 583 học sinh, sinh viên Và đầu vào cho việc huấn luyện mơ hình khuyến cáo 3.5 Xây dựng mạng Nơron 3.5.1 Cấu trúc mạng Nơron Cấu trúc mạng nơron nhân tạo gồm thành phần là: Input Layer, Hidden Layer Output Layer Trong đó, lớp ẩn (Hidden Layer) gồm Nơron nhận liệu Input từ Nơron lớp (Layer) trước chuyển đổi input cho nhiều lớp xử lý Đối với toán khuyến cáo lựa chọn cấu trúc mạng nơron sau: Số nơron lớp vào Trong luận văn lựa chọn 12 Nơron lớp vào tương ứng với 12 đặc trưng liệu Số nơron lớp ẩn Để lựa chọn xác số nơron cho lớp ẩn khó số nơron lớp ẩn lựa chọn qua thực nghiệm toán Qua thực nghiệm toán lựa chọn số nơron lớp ẩn 1.5 lần số đầu vào cụ thể 18 nơron Số nơron lớp Bài toán đặt khuyến cáo số lượng học sinh có kết học tập thấp dẫn đến khả nghỉ học cao Do có đầu là: Khuyến cáo khơng 59 download by : skknchat@gmail.com + Mơ hình mạng Nơron sau: Hình 3.2: Mơ hình cấu trúc mạng Nơron MLP Trong trình huấn luyện mạng ta sử dụng số thuật toán: model = Sequential() model.add(Dense(18, input_dim=12, activation='relu')) model.add(Dense(12, activation='relu')) model.add(Dense(2, activation='softmax')) model.summary() có số hàm như: + Các hàm kích hoạt lớp Mỗi nơron nhận tất đầu vào từ nơron tầng trước sử dụng hàm kích hoạt ReLU để tính tốn đầu 𝒁(𝑙+1) = 𝑾(𝑙+1) 𝒂(𝑙) 𝒂(𝑙+1) = 𝑓(𝒛(𝑙+1) ) Quá trình suy luận từ tầng vào tới tầng mạng Nơron trình lan truyền tiến (feedforward), tức đầu vào nơron tầng lấy từ kết nơron tầng trước mà khơng có q trình suy luận ngược lại Hàm kích hoạt sử dụng lớp vào lớp ẩn hàm ReLU, hàm thuận lợi sử dụng cho mạng huấn luyện thuật toán lan truyền ngược BP, dễ lấy đạo hàm + Hàm ReLu 60 download by : skknchat@gmail.com Hàm ReLU sử dụng mơ hình lí sau: 𝑦 = 𝑓(𝑁𝑒𝑡𝑖 ) = 1 + 𝑒 −𝑁𝑒𝑡𝑖 - Trong hàm Relu tốc độ hội tụ nhanh - Tính toán nhanh so với hàm khác - ReLU giúp cho việc training Model nhanh nhiều 3.5.2 Huấn luyện mạng Nơron cho mơ hình Sử dụng tập liệu đầu vào sau tiền xử lý Hình 3.5 cho tốn nên phương án giải toán khuyến cáo dạng hồi quy Tức sử dụng liệu năm trước để dự báo cho năm Trong mơ hình mạng Nơron với đầu nên ta sử dụng số hàm cơng cụ đo để có độ xác sau: + Hàm Softmax Hàm Softmax sử dụng mơ hình nhằm đánh giá xác suất phân loại liệu đầu vào Ngoài ra, hàm Softmax thường sử dụng để tính tốn trọng số cho liệu + Hàm tối ưu adam Adam sử dụng chọn cách thích nghi tỷ lệ học tập riêng cho tham số Các thông số thường nhận cập nhật nhỏ thường xuyên nhận cập nhật lớn với Adam Điều tăng tốc độ học tập trường hợp tỷ lệ học tập phù hợp khác tham số Các lợi ích thuật tốn Adam - Khơng khó khăn để triển khai thực cho mơ hình - Dùng để xử lý độ phức tạp hiệu - Ít nhớ u cầu - Thích hợp với tốn có độ biến thiên không ổn định liệu traning phân mảnh 61 download by : skknchat@gmail.com - Các siêu tham số biến thiên cách hiệu yêu cầu điều chỉnh + Hàm mát loss: Hàm loss mơ hình đốn sai so với giá trị thực tế Dựa phản hồi, mơ hình sửa lỗi sai trước Q trình lặp lặp lại mơ hình đạt đến độ xác định + Công cụ đo: metrics Khi xây dựng mô hình khuyến cáo muốn biết cách khái quát tỷ lệ trường hợp khuyến cáo tổng số trường hợp Tỷ lệ gọi độ xác Độ xác giúp ta đánh giá hiệu dự báo mơ hình liệu Độ xác cao mơ hình chuẩn xác Trong metrics đánh giá mơ hình phân loại độ xác metric ưa chuộng có cơng thức tường minh dễ diễn giải ý nghĩa Sau khởi tạo tham số huấn luyện MLP 200 lần epoch với batch_size =10 Giá trị loss lưu sau 200 epoch Một số thơng tin huấn luyện MLP mơ sau Bảng 3.5: Giá trị loss sau epoch 62 download by : skknchat@gmail.com Ở Learning_rate Epoch 198/200 583/583 [==============================] - 0s 132us/sample - loss: 0.114 - acc: 0.9640 gán 0.9640 Nhìn vào đồ thị Hình 3.3 cho thấy độ phù hợp mơ hình dự báo có giá trị huấn luyện 0.9640, biến động từ Epoch đến Epoch 20 theo phương thẳng đứng lại từ Epoch 20 đến Epoch 200 tương đối giá trị mức tương đối cao, điều cho thấy kết dự báo mang tính xác, cho kết có độ tin cậy cao Hình 3.3: Đồ thị thể mức độ học MLP Với liệu kiểm tra quan sát đồ thị thể mức độ học MLP, đầu mạng xấp xỉ đầu yêu cầu (tức đầu thực liệu học) Chúng ta dễ dàng nhận thấy mạng nơron MLP học tốt Tuy nhiên số điểm cịn lỗi nhỏ mơ hình + Precision: trả lời cho câu hỏi trường hợp dự báo tốt có trường hợp Và tất nhiên độ xác cao mơ hình tốt việc khuyến cáo Precision cho biết mức độ chuẩn xác mơ hình mơ hình dự báo xấu [17] Precision = 𝑇𝑃 𝑇𝑃 = total predicted positive 𝑇𝑃 + 𝐹𝑃 63 download by : skknchat@gmail.com + Recall: đo lường tỷ lệ dự báo xác trường hợp positive tồn mẫu thuộc nhóm positive Để tính recall phải biết trước nhãn liệu Do recall dùng để đánh giá tập train validation biết trước nhãn Trên tập test liệu coi hồn tồn chưa biết nhãn sử dụng precision [18] Recall = 𝑇𝑃 𝑇𝑃 = total actual positive 𝑇𝑃 + 𝐹𝑁 + F1 score: trung bình điều hịa precision recall Do đại diện việc đánh gía độ xác đồng thời precision recall Nó sử dụng để đánh giá hiệu suất mơ hình phân loại khuyến cáo F1 = precision −1 + recall−1 Hình 3.4: Kết huấn luyện mạng Trong Hình 3.4 cho thấy giá trị mức cảnh báo học sinh, sinh viên đưa 96/583 không cảnh báo 487/583 Và công cụ đo Accuracy, Precision, Recall, f1-Score đặt mức khoảng 85%-96%, mức tương đối cao với toán dự báo 3.5.3 Kiểm thử mạng nơron Dữ liệu dùng để kiểm thử thông tin học sinh, sinh viên nhà trường lấy từ năm 2018 đến năm 2019 với tổng số 411 học sinh, sinh viên khóa T19,T20 hệ trung cấp CD9, CD10, hệ cao đẳng thuộc khoa Điện, Cơ khí, Cơng nghệ thông tin, May thời trang chế biến thực phẩm, chọn lựa 64 download by : skknchat@gmail.com Tập liệu kiểm thử qua bước trích xuất đặc trưng tiền xử lý giống liệu huấn luyện với 12 Nơron lớp vào 02 Nơron lớp Đưa vào mơ hình xử lý với giá trị trung bình đặc trưng bao gồm 411 hàng Sau Test tập với đầu Sử dụng hàm mát Loss để kiểm thử tập liệu với 411 dòng với 156us/sample 0.2060, mạng nơron chạy tốt với tỉ lệ lên tới 95.62 % 65 download by : skknchat@gmail.com Hình 3.5: Kết kiểm thử mạng Kết kiểm thử mạng Noron với tập liệu 411 mẫu đạt mức cảnh báo 24/411 đạt 0.06% mức khơng cảnh báo 387/411 đạt 0.94% Độ xác mơ hình đạt mức 96% ngồi cịn thơng số hiệu xuất tính trung bình mơ hình tương đối cao điều cho thấy mơ hình hoạt động tốt 3.6 Kết tốn khuyến cáo Như kết dự báo cho toán nghỉ học học sinh, sinh viên nhà trường sử dụng công cụ mạng nơron truyền thẳng với thuật toán lan truyền ngược sai số cho kết khuyến cáo xác lên tới 95,62% sai số chấp nhận + Qua kết thực nghiệm thu q trình thử nghiệm cơng cụ khuyến cáo điều sau: - Mạng nơron nhân tạo có tính ứng dụng đa dạng với thực tiễn, hiệu tốn khuyến cáo - Mức độ xác mơ hình phụ thuộc vào nhiều thơng số, nhiên lại chưa có phương pháp để xác định xác định tính định lượng thông số Ta phải thông qua phương pháp thực nghiệm để xác định giá trị thông số tối ưu - Số liệu học sinh, sinh viên có đặc trưng riêng thơng số tối ưu thay đổi theo mức độ đặc trưng số liệu - Mơ hình áp dụng thực tế nhà trường 66 download by : skknchat@gmail.com CHƯƠNG IV KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN Luận văn nghiên cứu mạng nơron nhân tạo, mơ hình mạng nơron truyền thẳng huấn luyện với giải thuật lan truyền ngược cho toán xây dựng mơ hình khuyến cáo khả nghỉ học sinh viên Trường cao đẳng kỹ thuật công nghệ tỉnh Bà rịa Vũng tàu 4.1 Các kết đạt - Luận văn nghiên cứu tổng quan mạng nơron nhân tạo, sâu vào nghiên cứu mạng hệ thống mạng nơron lan truyền thẳng huấn luyện thuật toán lan truyền ngược sai số chấp nhận nhằm đạt tới kết tốt cho toán tối ưu trọng số mạng nơron nhân tạo - Luận văn xây dựng phần mềm khuyến cáo khả nghỉ học sinh viên Trường cao đẳng kỹ thuật công nghệ tỉnh Bà rịa Vũng tàu năm 4.2 Hướng phát triển Việc sử dụng MLP Mạng Nơron nhân tạo việc phân tích liệu đưa dự báo kết học tập cho học sinh, sinh viên phương pháp hiệu quả, khách quan khoa học nhằm nhằm hỗ trợ công tác tư vấn định hướng học tập khuyến cáo đến bạn học sinh, sinh viên kết học tập từ chấn chỉnh lại ý thức học tập có phương pháp học tập hợp lý để kết học tập ngày tốt hơn, Những kết thực nghiệm khả quan dựa nghiên cứu ứng dụng mạng nơron nhân tạo với thuật toán học lan truyền ngược sai số toán khuyến cáo khả nghỉ học sinh viên Trường cao đẳng kỹ thuật công nghệ tỉnh Bà rịa Vũng tàu năm tới cho thấy mơ hình hiệu Vì vậy, hướng phát triển luận văn cải tiến phương pháp dự báo kết hợp với việc sử dụng thuật tốn tối ưu để có kết xác Ngồi ra, sử dụng kết hợp với số lĩnh vực khác như: logic mờ giải thuật di truyền để dự báo kết xác 67 download by : skknchat@gmail.com TÀI LIỆU THAM KHẢO [1] https://technicalvnplus.com/article/tri-tue-nhan-tao-ai [2] https://machineLearningcoban.com/2016/12/26/introduce/ [3] Nguyễn Xuân Khánh Machine Learning book for Vietnamese, University of Maryland [4]https://vietnambiz.vn/hoc-sau-deep-Learning-la-gi-hoc-sau-va-hoc-may-2020041 0165603552.htm [5] Phạm Thọ Hồn, Phạm Thị Anh Lê (2011), Giáo trình Trí tuệ nhân tạo Đại học sư phạm hà nội [6] https://www.phamduytung.com/blog/2019-04-19-deep-Learning-view/#ixzz%2 06f%20%20Qeq16QR [7] Nordic Coder, (2019) Phân nhóm thuật toán Machine Learning điều bạn cần phải biết [8] Nguyễn Quang Hoan (2005), Giáo trình mạng nơron nhân tạo, Học viện cơng nghệ bưu viễn thơng [9] Nguyễn Quang Hoan (2005), Giáo trình mạng nơron nhân tạo, Học viện cơng nghệ bưu viễn thơng [10] Fico Corporation (2009), Understanding Predictive Analytics [11] https://missinglink.ai/guides/neural-network-concepts/7-types-neural-networkactiva tion-functions-right/ [12] vũ hữu tiệp, 2018 Machine Learning bản, nhà xuất Khoa học Kỹ thuật [13] https://machineLearningcoban.com/2017/02/17/softmax/ 68 download by : skknchat@gmail.com [14] Robert J Schallkoff (1997), Artificial Neural Networks, The McGraw – Hill Companies, Inc 1997 [15] Đinh Mạnh Tường(2002), Trí tuệ nhân tạo, NXB Khoa học Kỹ thuật [16] Nguyễn Đình Thúc (2000), Mạng nơron nhân tạo – phương pháp ứng dụng, nhà xuất giáo dục [17] https://phamdinhkhanh.github.io/2020/08/13/ModelMetric.html#5-recall [18] http://naebolo.com/gioi-thieu-ve-accuracy-precision-recall-va-f1/ [19] Fico Corporation (2009), Understanding Predictive Analytics [20] https://missinglink.ai/guides/neural-network-concepts/7-types-neural-networkactivation-functions-right/ [21] https://aicurious.io/posts/2019-09-23-cac-ham-kich-hoat-activation-functiontrong-neural-networks/#3-relu [22] https://machineLearningcoban.com/2017/02/17/softmax/ [23] http://www.rubylab.io/2015/03/18/simple-neural-network-implenentation-inruby/ 69 download by : skknchat@gmail.com PHỤ LỤC MỘT SỐ MÃ NGUỒN TRONG MƠ HÌNH Huấn luyện mạng model = Sequential() model.add(Dense(18, input_dim=12, activation='relu')) model.add(Dense(12, activation='relu')) model.add(Dense(2, activation='softmax')) model.summary() Kiểm thử mạng 70 download by : skknchat@gmail.com 71 download by : skknchat@gmail.com ... ĐẦU XÂY DỰNG MƠ HÌNH KHUYẾN CÁO KHẢ NĂNG NGHỈ HỌC CỦA SINH VIÊN TRƯỜNG CAO ĐẲNG KỸ THUẬT CÔNG NGHỆ TỈNH BÀ RỊA VŨNG TÀU Lý chọn đề tài Hiện tượng nghỉ học ngày phổ biến bạn học sinh, sinh viên. .. bạn học sinh, sinh viên, kết chưa khả quan Để góp phần xác định tượng nghỉ học nhiều nhà trường, tơi định chọn đề tài "Xây dựng mơ hình khuyến cáo khả nghỉ học sinh viên Trường Cao Đẳng Kỹ Thuật. .. Việc xây dựng mơ hình dự báo khả nghỉ học bạn học sinh, sinh viên năm trường Cao Đẳng Kỹ Thuật Công Nghệ tỉnh Bà Rịa Vũng Tàu dựa vào download by : skknchat@gmail.com đặc trưng như: điểm số môn học,