Ứng dụng mạng Noron nhân tạo dự báo số học sinh tuyển sinh vào Trung tâm GDNN GDTX quận Đống Đa (Luận văn thạc sĩ)

Ứng dụng mạng Noron nhân tạo dự báo số học sinh tuyển sinh vào Trung tâm GDNN GDTX quận Đống Đa (Luận văn thạc sĩ)Ứng dụng mạng Noron nhân tạo dự báo số học sinh tuyển sinh vào Trung tâm GDNN GDTX quận Đống Đa (Luận văn thạc sĩ)Ứng dụng mạng Noron nhân tạo dự báo số học sinh tuyển sinh vào Trung tâm GDNN GDTX quận Đống Đa (Luận văn thạc sĩ)Ứng dụng mạng Noron nhân tạo dự báo số học sinh tuyển sinh vào Trung tâm GDNN GDTX quận Đống Đa (Luận văn thạc sĩ)Ứng dụng mạng Noron nhân tạo dự báo số học sinh tuyển sinh vào Trung tâm GDNN GDTX quận Đống Đa (Luận văn thạc sĩ)Ứng dụng mạng Noron nhân tạo dự báo số học sinh tuyển sinh vào Trung tâm GDNN GDTX quận Đống Đa (Luận văn thạc sĩ)Ứng dụng mạng Noron nhân tạo dự báo số học sinh tuyển sinh vào Trung tâm GDNN GDTX quận Đống Đa (Luận văn thạc sĩ)Ứng dụng mạng Noron nhân tạo dự báo số học sinh tuyển sinh vào Trung tâm GDNN GDTX quận Đống Đa (Luận văn thạc sĩ)Ứng dụng mạng Noron nhân tạo dự báo số học sinh tuyển sinh vào Trung tâm GDNN GDTX quận Đống Đa (Luận văn thạc sĩ)

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƢỜNG ĐẠI HỌC CÔNG NGHỆ DƢƠNG THU TRANG ỨNG DỤNG MẠNG NƠRON NHÂN TẠO DỰ BÁO SỐ HỌC SINH TUYỂN VÀO TRUNG TÂM GDNN – GDTX QUẬN ĐỐNG ĐA LUẬN VĂN THẠC SĨ NGÀNH CÔNG NGHỆ THÔNG TIN HÀ NỘI - 2017 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƢỜNG ĐẠI HỌC CÔNG NGHỆ DƢƠNG THU TRANG ỨNG DỤNG MẠNG NƠRON NHÂN TẠO DỰ BÁO SỐ HỌC SINH TUYỂN VÀO TRUNG TÂM GDNN – GDTX QUẬN ĐỐNG ĐA Ngành : Công nghệ thông tin Chuyên ngành : Quản lý hệ thống thông tin Mã số : LUẬN VĂN THẠC SĨ NGÀNH CÔNG NGHỆ THÔNG TIN Ngƣời hƣớng dẫn khoa học: PGS.TS NGUYỄN QUANG HOAN HÀ NỘI - 2017 LỜI CAM ĐOAN Em xin cam đoan: Những nội dung luận văn em thực dƣới hƣớng dẫn thầy giáo PGS.TS Nguyễn Quang Hoan Mọi tham khảo dùng luận văn đƣợc trích dẫn rõ ràng tác giả, tên cơng trình, thời gian, địa điểm cơng bố Mọi chép không hợp lệ, vi phạm quy chế đào tạo hay gian lận em xin chịu hoàn toàn trách nhiệm Hà Nội, ngày tháng năm 2017 Học viên ` Dƣơng Thu Trang LỜI CẢM ƠN Em xin bày tỏ lòng biết ơn sâu sắc đến PGS.TS Nguyễn Quang Hoan, thầy hƣớng dẫn, bảo tận tình để em hoàn thành luận văn Em xin chân thành cảm ơn thầy, cô giáo khoa Công nghệ thông tin – Trƣờng Đại học Công nghệ - Đại học Quốc gia Hà Nội truyền thụ kiến thức, hỗ trợ em suốt trình học tập vừa qua Em xin chân thành cảm ơn bạn bè đồng nghiệp, gia đình ngƣời thân chia sẻ, giúp đỡ, động viên, tạo điều kiện thuận lợi để em hoàn thành nhiệm vụ học tập luận văn Hà Nội, ngày tháng năm 2017 Học viên Dƣơng Thu Trang MỤC LỤC LỜI CAM ĐOAN LỜI CẢM ƠN MỤC LỤC DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT DANH MỤC CÁC BẢNG BIỂU DANH MỤC CÁC HÌNH VẼ MỞ ĐẦU Lý chọn đề tài .9 Mục tiêu nhiệm vụ luận văn Đối tƣợng phạm vi nghiên cứu Phƣơng pháp nghiên cứu Ý nghĩa khoa học thực tiễn luận văn Bố cục luận văn .9 CHƢƠNG 11 TỔNG QUAN VỀ BÀI TOÁN DỰ BÁO 11 1.1 Lịch sử trình dự báo 11 1.1.1 Khái niệm dự báo 11 1.1.2 Mục đích dự báo 11 1.1.3 Những thách thức phân tích dự báo 12 1.1.4 Các phƣơng pháp dự báo .12 1.1.5 Quy trình thực dự báo 13 1.2 Phƣơng pháp dự báo sử dụng mạng nơron theo đề xuất luận văn .16 1.3 Đánh giá mơ hình dự báo 16 1.4 Kết luận chƣơng .16 CHƢƠNG 17 TỔNG QUAN VỀ MẠNG NƠRON NHÂN TẠO 17 2.1 Mạng nơron nhân tạo gì? 17 2.2 Sự tƣơng đƣơng nơron nhân tạo với nơron sinh học 18 2.3 Lịch sử phát triển mạng nơron nhân tạo 18 2.4 Nơron sinh vật 18 2.5 Nơron nhân tạo 19 2.5.1 Cấu tạo nơron nhân tạo 19 2.5.2 Phân loại mạng nơron nhân tạo 20 2.6 Luật học 22 2.6.1 Học tham số (Parameter Learning) 22 2.6.2 Học cấu trúc 23 2.7 Mạng truyền thẳng nhiều lớp thuật toán lan truyền ngƣợc 23 2.7.1 Kiến trúc mạng 23 2.7.2 Xác định cấu trúc mạng tối ƣu 24 2.7.3 Cấu trúc luật học lan truyền ngƣợc .25 2.7.4 Luật học lan truyền ngƣợc 26 2.7.5 Một số vấn đề mạng nơron nhiều lớp 31 2.7.6 Ƣu nhƣợc điểm mạng truyền thẳng 31 2.8 Kết luận chƣơng .32 CHƢƠNG 33 ỨNG DỤNG MẠNG NƠRON TRONG DỰ BÁO SỐ HỌC SINH 33 TUYỂN VÀO TRUNG TÂM GDNN-GDTX ĐỐNG ĐA 33 3.1 Giới thiệu Trung tâm GDNN-GDTX Đống Đa .34 3.2 Dữ liệu tuyển sinh Trung tâm 36 3.3 Các phƣơng án chọn cấu trúc liệu 37 3.4 Phát biểu toán .38 3.5 Thiết kế mạng nơron 39 3.5.1 Số lớp nơron 39 3.5.2 Cấu trúc mạng .39 3.5.3 Hàm tƣơng tác đầu 40 3.5.4 Giá trị trọng khởi đầu 40 3.6 Công cụ mơ tốn dự báo tuyển sinh 41 3.7 Chạy thử nghiệm 41 3.8 So sánh phƣơng pháp dự báo 44 3.9 Kết luận chƣơng 48 KẾT LUẬN 49 TÀI LIỆU THAM KHẢO 50 PHỤ LỤC A 52 GIỚI THIỆU CÔNG CỤ VÀ KẾT QUẢ DỰ BÁO 52 Giao diện phần mềm 52 Giao diện huấn luyện 53 Giao diện Kiểm tra mạng 54 Chức Dự báo .54 Chức Giới thiệu vào Thoát .55 PHỤ LỤC B .56 MỘT SỐ MÃ NGUỒN CỦA CÔNG CỤ 56 Huấn luyện mạng .56 Chuẩn hóa liệu 59 Kiểm tra mạng 60 Dự báo .61 PHỤ LỤC C 63 BÀI BÁO KHOA HỌC 63 DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT STT TÊN VIẾT TẮT TÊN ĐẦY ĐỦ DIỄN GIẢI ANN Artificial Neural Network Mạng nơron nhân tạo AR Autoregressive Tự hồi quy BP Back Propagation Lan truyền ngƣợc HIDDENNODE Hidden Node Số nơron lớp ẩn INPUTNODE Input Node Số nơron lớp vào LEARNING RATE Learning Rate Tốc độ học MA Moving Average Đƣờng trung bình di động MAE Mean Absolute Error Sai số tuyệt đối MSE Mean Square Error Sai số trung bình 10 MFNN Multi Feedforward Neural Network Mạng truyền thẳng nhiều lớp 11 MLP Multilayer Neural Network Mạng nơron nhiều lớp 12 NƠRON Neural Tế bào thần kinh 13 OUTPUTNODE Output Node Số nơron lớp 14 GA Genetic Algorithm Giải thuật di truyền 15 EP Evolutionary Programming Lập trình tiến hóa DANH MỤC CÁC BẢNG BIỂU Bảng 2.1 Một số hàm phi tuyến thƣờng đƣợc sử dụng mơ hình nơron 20 Bảng 3.1 Cơ sở vật chất Trung tâm .34 Bảng 3.2 Dữ liệu tuyển sinh Trung tâm 36 Bảng 3.3 Dữ liệu tuyển sinh từ năm 1988 đến 2017 Trung tâm 38 Bảng 3.4 Bảng liệu học 38 Bảng 3.5 Bảng trọng số 40 Bảng 3.6 Kết thử nghiệm dự báo tuyển sinh 43 Bảng 3.7 Kết huấn luyện dự báo tuyển sinh 44 Bảng 3.8 Kết dự báo phƣơng pháp trung bình dài hạn 45 Bảng 3.9 Kết dự báo phƣơng pháp trung bình động .45 Bảng 3.10 Kết dự báo phƣơng pháp hồi quy tƣơng quan .46 Bảng 3.11 Kết dự báo phƣơng pháp san mũ 47 DANH MỤC CÁC HÌNH VẼ Hình 1.1.Quy trình thực dự báo .14 Hình 1.2.Quy trình lựa chọn mơ hình dự báo 15 Hình 2.1 Cấu trúc nơron sinh vật 19 Hình 2.2 Mơ hình nơron nhân tạo 19 Hình 2.3 Phân loại mạng nơron 21 Hình 2.4.Các dạng học 22 Hình 2.5.Mạng truyền thẳng nhiều lớp 24 Hình 2.6 Cấu trúc mạng lan truyền ngƣợc 26 Hình 2.7 Tối thiểu cục (Local Minimum) .30 Hình 2.8 Tốc độ học số học η .31 Hình 3.1 Kết huấn luyện mạng 42 Hình 3.2 Kết kiểm tra mạng 43 Hình 3.3 Kết dự báo cho năm 2018, 2019, 2020 44 Hình 3.4 Sơ đồ kết dự báo trung bình động 48 Hình 3.5 Kết dự báo san mũ 50 ... 33 ỨNG DỤNG MẠNG NƠRON TRONG DỰ BÁO SỐ HỌC SINH 33 TUYỂN VÀO TRUNG TÂM GDNN- GDTX ĐỐNG ĐA 33 3.1 Giới thiệu Trung tâm GDNN- GDTX Đống Đa .34 3.2 Dữ liệu tuyển sinh Trung tâm ...ĐẠI HỌC QUỐC GIA HÀ NỘI TRƢỜNG ĐẠI HỌC CÔNG NGHỆ DƢƠNG THU TRANG ỨNG DỤNG MẠNG NƠRON NHÂN TẠO DỰ BÁO SỐ HỌC SINH TUYỂN VÀO TRUNG TÂM GDNN – GDTX QUẬN ĐỐNG ĐA Ngành : Công nghệ... TỔNG QUAN VỀ MẠNG NƠRON NHÂN TẠO 17 2.1 Mạng nơron nhân tạo gì? 17 2.2 Sự tƣơng đƣơng nơron nhân tạo với nơron sinh học 18 2.3 Lịch sử phát triển mạng nơron nhân tạo