BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC QUY NHƠN NGUYỄN NGỌC HƯNG ỨNG DỤNG MẠNG MOBILENET PHÁT HIỆN HỌC SINH KHÔNG ĐEO KHẨU TRANG KHI ĐẾN TRƯỜNG LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Bình Định – Năm 2022 B[.]
BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC QUY NHƠN NGUYỄN NGỌC HƯNG ỨNG DỤNG MẠNG MOBILENET PHÁT HIỆN HỌC SINH KHÔNG ĐEO KHẨU TRANG KHI ĐẾN TRƯỜNG LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Bình Định – Năm 2022 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC QUY NHƠN NGUYỄN NGỌC HƯNG ỨNG DỤNG MẠNG MOBILENET PHÁT HIỆN HỌC SINH KHÔNG ĐEO KHẨU TRANG KHI ĐẾN TRƯỜNG Chuyên ngành: Khoa học máy tính Mã số: 8480101 Người hướng dẫn: TS LÊ XUÂN VINH LỜI CAM ĐOAN Tơi xin cam đoan cơng trình nghiên cứu riêng hướng dẫn khoa học TS Lê Xuân Vinh; Các nội dung nghiên cứu, kết đề tài trung thực chưa cơng bố hình thức trước Những số liệu, hình ảnh bảng biểu phục vụ cho việc phân tích, nhận xét, đánh giá tác giả thu thập từ nguồn khác có ghi rõ phần tài liệu tham khảo Ngồi ra, luận văn cịn sử dụng số nhận xét, đánh số liệu tác giả khác, quan tổ chức khác có trích dẫn thích nguồn gốc Nếu phát có gian lận tơi xin hồn toàn chịu trách nhiệm nội dung luận văn Trường Đại học Quy Nhơn khơng liên quan đến vi phạm tác quyền, quyền gây q trình thực (nếu có) Bình Định, ngày 25 tháng 09 năm 2022 Tác giả luận văn Nguyễn Ngọc Hưng LỜI CẢM ƠN Em xin chân thành cảm ơn Thầy, Cô Khoa Công nghệ Thông tin Trường Đại học Quy Nhơn tận tình dạy dỗ, truyền đạt cho em nhiều kiến thức quý báu Em xin tỏ lòng biết ơn sâu sắc đến thầy TS Lê Xuân Vinh, người tận tình giúp đỡ truyền đạt nhiều kinh nghiệm để đề tài thực hoàn thành Xin chân thành cảm ơn bạn lớp Cao học Khoa học máy tính K23, bạn Khoa Cơng Nghệ Thơng Tin, Trường Đại học Quy Nhơn giúp đỡ, động viên tơi nhiều q trình thực đề tài Em xin chân thành cảm ơn! Bình Định, ngày 25 tháng 09 năm 2022 Tác giả luận văn Nguyễn Ngọc Hưng MỤC LỤC Trang MỞ ĐẦU 1 Lý chọn đề tài Tổng quan tình hình nghiên cứu đề tài 3 Mục đích nhiệm vụ nghiên cứu 4 Đối tượng phạm vi nghiên cứu Phương pháp nghiên cứu CHƯƠNG 1: CƠ SỞ LÝ THUYẾT VÀ KỸ THUẬT CHO DEEP LEARNING 1.1 Tổng quan học máy 1.1.1 Một số khái niệm chung 1.1.2 Các thuật toán học máy 1.2 Mạng nơ-ron (Neural Network) 1.2.1 Tổng quan mạng nơ-ron 1.2.2 Các thành phần mạng nơ-ron nhân tạo 1.2.3 Kiến trúc mạng ANN 13 1.2.4 Hoạt động mạng ANN 14 1.3 Mạng nơ-ron tích chập (CNN) 14 1.4 Cấu trúc mạng CNN 16 1.4.1 Lớp tích chập (Convolution layer) 17 1.4.2 Lớp Pooling 18 1.4.3 Lớp hiệu chỉnh 20 1.4.4 Lớp chuẩn hóa 20 1.4.5 Lớp kết nối đầy đủ (Fully connected – FC) 21 1.4.6 Lớp đầu 21 1.5 Tổng kết chương 22 CHƯƠNG 2: MƠ HÌNH MOBILENET 23 2.1 Giới thiệu mơ hình MobileNet 23 2.2 Kiến trúc mạng MobileNet 23 2.3 Tích chập sâu phân tách (Depthwise Separable Convolution – DSC) 25 2.3.1 Tích chập sâu 28 2.3.2 Tích chập điểm 28 2.3.3 Hệ số nhân chiều rộng (Width Multiplier) 30 2.3.4 Hệ số phân giải (Resolution Multiplier) 30 2.3.5 MobileNetV2 31 2.3.6 MobileNetV3 33 2.4 Tổng kết chương 35 CHƯƠNG 3: ỨNG DỤNG PHÁT HIỆN HỌC SINH KHÔNG ĐEO KHẨU TRANG 36 3.1 Giới thiệu toán 36 3.2 Lựa chọn mơ hình MobileNet 37 3.3 Dữ liệu huấn luyện 37 3.4 Xây dựng mạng cho mơ hình 39 3.5 Huấn luyện mơ hình 42 3.6 Đánh giá mơ hình 44 3.7 Xây dựng back-end ứng dụng (camera thu hình, phát hiện, phát âm cảnh báo) 46 3.8 Tổng kết chương 47 KẾT LUẬN 48 TÀI LIỆU THAM KHẢO 49 PHỤ LỤC 51 DANH MỤC CÁC THUẬT NGỮ VIẾT TẮT CNN Convolution Neural Networks ANN Artificial Neural Network Conv Convolution ReLU Rectifier Layer Units SVM Support Vetor Machines BN Batch Normalization DSC Depthwise Separable Convolution CPU Central Processing Unit LR Label Binarizer DANH MỤC CÁC BẢNG Trang Bảng 2.1 Mơ hình kiến trúc mạng MobileNet 24 Bảng 2.2 Các lớp Layer mạng MobileNetV2 33 Bảng 2.3 Các lớp Layer mạng MobileNetV3 large 34 Bảng 2.4 Các lớp Layer mạng MobileNetV3 small 34 Bảng 3.1 Các Lớp layer mơ hình 40 Bảng 3.2 Hiệu suất Accuracy Loss qua 20 lần lặp 44 Bảng 3.3 Hiệu suất thử nghiệm 45 DANH MỤC CÁC HÌNH Trang Hình 1.1 Mơ hình mạng nơ-ron Hình 1.2 Đơn vị xử lý (Processing Unit) Hình 1.3 Hàm đồng (Identity function) 10 Hình 1.4 Hàm bước nhị phân (Binary step function) 11 Hình 1.5 Hàm Sigmoid 11 Hình 1.6 Hàm sigmoid lưỡng cực 12 Hình 1.7 Đồ thị hàm ReLU 12 Hình 1.8 Một số hàm truyền phổ biến 12 Hình 1.9 Kiến trúc phần mạng ANN 13 Hình 1.10 Mạng nơ-ron nhiều lớp 13 Hình 1.11 Tế bào mạng nơ-ron nhân tạo 14 Hình 1.12 Cấu trúc mạng Nơ-ron Tích chập (Lecun, 1989) 15 Hình 1.13 Kiến trúc mạng tích chập tiêu biểu 16 Hình 1.14 Minh họa việc áp dụng phép tính Conv 17 Hình 1.15 Minh họa hoạt động lớp pooling 19 Hình 1.16 Minh hoạ hoạt động hàm hiệu chỉnh 20 Hình 2.1 Kiến trúc mạng MobileNet 24 Hình 2.2 Kiến trúc mơ hình MobileNet 25 Hình 2.3 Cách thức làm việc Convolution 26 Hình 2.4 Tích chập thơng thường kernel 26 Hình 2.5 Bộ lọc chuyển đổi tiêu chuẩn 27 Hình 2.6 Cấu trúc tích chập sâu phân tách 27 Hình 2.7 Tích chập sâu 28 Hình 2.8 Tích chập điểm 28 Hình 2.9 Ví dụ cấu trúc mạng MobileNet với ảnh đầu vào 224 x 224 x 29 Hình 2.10 Residual learning: a building block 31 Hình 2.11 Tổng quan Kiến trúc MobileNetV2 32 Hình 2.12 Đồ thị hàm ReLu6 32 Hình 3.1 Sơ đồ thuật toán phát trang 37 Hình 3.2 (a) Hình ảnh mặt có đeo trang 38 Hình 3.2 (b) Hình ảnh mặt khơng đeo trang 38 Hình 3.3 Sơ đồ trình tiền xử lý liệu 39 Hình 3.4 Sơ đồ phát trang ảnh 40 Hình 3.5 Hệ thống kiến trúc mơ hình 40 Hình 3.6 Sơ đồ huấn luyện mơ hình 42 Hình 3.7 Sử dụng mơ hình 43 Hình 3.8 Đồ thị độ xác giá trị lỗi 44 Hình 3.9 Hình ảnh thực mơ hình 46 Hình 3.10 Sơ đồ tổng qt phát khơng đeo trang phát âm cảnh báo 46 Hình 3.11 Sơ đồ phát khơng đeo trang phát âm cảnh báo sau cải tiến 47 ... sử dụng mạng MobileNet để xây dựng mơ hình phát học sinh không đeo trang, đưa cảnh báo, nhắc nhở học sinh thực quy định đeo trang đến trường Với phân tích chọn đề tài ? ?Ứng dụng mạng MobileNet phát. ..BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC QUY NHƠN NGUYỄN NGỌC HƯNG ỨNG DỤNG MẠNG MOBILENET PHÁT HIỆN HỌC SINH KHÔNG ĐEO KHẨU TRANG KHI ĐẾN TRƯỜNG Chuyên ngành: Khoa học máy tính Mã số: 8480101... phát học sinh không đeo trang đến trường? ?? Tổng quan tình hình nghiên cứu đề tài Các nghiên cứu liên quan học sâu việc phát người đeo trang công bố nhiều thời gian gần Nghiên cứu việc phát người không