Xây dựng mô hình kết hợp arima và mạng nơron cho bài toán dự báo

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC QUY NHƠN LÊ HỒNG QUANG XÂY DỰNG MƠ HÌNH KẾT HỢP ARIMA •• VÀ MẠNG NƠRON CHO BÀI TỐN DỰ BÁO •• Chuyên ngành: Khoa học máy tính Mã số: 8.48.01.01 Người hướng dẫn: TS LÊ XUÂN VIỆT LỜI CAM ĐOAN Em xin cam đoan: Những nội dung luận văn em nghiên cứu thực hướng dẫn thầy giáo TS.Lê Xuân Việt Mọi tài liệu tham khảo dùng luận văn trích dẫn rõ ràng tác giả, tên cơng trình, thời gian, địa điểm cơng bố số liệu thu thập hồn tồn trung thực Mọi chép khơng hợp lệ, vi phạm quy chế em xin chịu hoàn toàn trách nhiệm Bình Định, ngày 17 tháng 10 năm 2020 Học viên Lê Hoàng Quang LỜI CẢM ƠN Em xin bày tỏ lòng biết ơn chân thành đến thầy TS Lê Xuân Việt, thầy hướng dẫn, bảo tận tình để em hồn thành luận văn Em xin gởi lời cảm ơn đến thầy, cô giáo khoa Công nghệ thông tin Trường Đại học Quy Nhơn truyền đạt kiến thức, hỗ trợ em suốt trình học tập vừa qua Em xin chân thành cảm ơn bạn bè đồng nghiệp, gia đình người thân động viên, chia sẻ tạo điều kiện thuận lợi để em hoàn thành nhiệm vụ học tập luận văn Bản thân nỗ lực nhiều, chắn khơng tránh khỏi thiếu sót, tồn tại, em mong nhận cảm thông, dẫn, đóng góp ý kiến q thầy cơ, bạn đồng nghiệp Bình Định, ngày 17 tháng 10 năm 2020 Học viên Lê Hồng Quang MỤC LỤC •• LỜI CAM ĐOAN LỜI CẢM ƠN DANH MỤC CHỮ VIẾT TẮT, CÁC KÍ HIỆU DANH MỤC CÁC BẢNG BIỂU DANH MỤC CÁC HÌNH VẼ MỞ ĐẦU 1 Lý chọn đề tài Tổng quan tài liệu tình hình nghiên cứu đề tài Mục đích nghiên cứu Đối tượng phạm vi nghiên cứu Phương pháp nghiên cứu Ý nghĩa khoa học thực tiễn luận văn Bố cục luận văn CHƯƠNG DỰ BÁO DỮ LIỆU CHUỖI THỜI GIAN .4 1.1 Lịch sử trình dự báo 1.2 Khái niệm dự báo 1.3 Mục đích dự báo 1.4 Các phương pháp dự báo 1.5 Những thách thức phân tích dự báo 1.6 Một số mơ hình ứng dụng 1.6.1 Mơ hình tuyến tính 1.6.2 Mơ hình phi tuyến tính 1.7 Quy trình thực dự báo 1.8 Kết luận chương 12 CHƯƠNG MƠ HÌNH DỰ BÁO KẾT HỢP ARIMA VÀ MẠNG NƠRON 13 2.1 Mô hình Arima 13 2.2 Tổn g quan mạng nơron nhân tạo 15 2.2.1 Mạng nơron nhân tạo 15 2.2.2 Đặc trưng mạng nơron 15 2.2.3 Các hình trạng mạng nơron 16 2.2.4 Mạng truyền thẳng thuật toán lan truyền ngược 17 2.3 Tổng quan FFNN 21 2.4 Mơ hình dự báo kết hợp Arima mạng nơron 23 2.5 Kết luận chương 25 CHƯƠNG ỨNG DỤNG VÀO BÀI TOÁN .26 3.1 Giới thiệu sơng tỉnh Bình Định 26 3.2 Phát biểu toán .28 3.3 Cơng cụ mơ tốn 29 3.4 Thử nghiệm chương trình 30 3.4.1 Tập liệu thực nghiệm 30 3.4.2 Đánh giá mô hình dự báo 31 3.4.3 Dự báo mơ hình Arima 31 3.4.4 Dự báo mô hình FFNN .35 3.4.5 Kết kết hợp mơ hình Arima FFNN 42 3.5 Kết luận Chương .44 KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN .45 DANH MỤC TÀI LIỆU THAM KHẢO 46 PHỤ LỤC QUYẾT ĐỊNH GIAO ĐỀ TÀI LUẬN VĂN THẠC SĨ (bản sao) DANH MỤC CHỮ VIẾT TẮT, CÁC KÍ HIỆU •7• Stt Tên Viết Tắt ANN NƠRON HIDDENNOD E DSP BP Tên đầy đủ Diễn giải Artificial Neural Network Mạng nơron nhân tạo Neural Tế bào thần kinh Back Propagation Lan truyền ngược Hidden Node Số nơron lớp ẩn Digital Signal Processing Xử lý tín hiệu số MAE Mean Absolute Error Sai số tuyệt đối MSE Mean Square Error Sai số trung bình MFNN MultiFeedforward Neural Mạng truyền thẳng nhiều lớp Network MLP RNN OUTPUTNOD E INPUTNODE MultilayerNeural Network Mạng nơron nhiều lớp Recurrent neural network Mạng hồi quy Output Node Số nơron lớp Input Node Số nơron lớp vào HMM Hidden Markov Model Mơ hình Markov ẩn AR Autoregressive Tự hồi quy MA Moving Average Trung bình trượt ARMA Autoregressive-Moving Tự hồi quy trung bình trượt Average DANH MỤC CÁC BẢNG BIỂU • Bảng 2.1 Các dạng đồ thị mơ hình ARIMA 14 Bảng 3.1 Độ lỗi dự báo mô hình ARIMA 35 Bảng 3.2 Độ lỗi dự báo mơ hình FFNN 42 Bảng 3.3 Bảng so sánh độ lỗi dự báo mơ hình A-FFNN 43 Bảng 3.4 Bảng so sánh độ lỗi dự báo mơ hình 43 DANH MỤC CÁC HÌNH VẼ Hình 1.1 Quy trình thực dự báo 10 Hình 2.1 Mạng nơron truyền thẳng nhiều lớp (Feed-forward neural network) 16 Hình 2.2 Mạng nơron hồi quy (Recurrent neural network) 17 Hình 2.3 Mạng nơron truyền thẳng nhiều lớp 18 Hình 2.4 Mạng nơron truyền thẳng nhiều lớp FFNN 22 Hình 3.1 Hệ thống sơng ngịi Bình Định (thuộc Chi cục thủy lợi Bình Định) 28 Hình 3.2 Mực nước sơng năm 2016, 2017, 2018, 2019 .29 Hình 3.3 Dữ liệu mực nước sông 30 Hình 3.4 Hàm ACF xác định giá trị p, q 32 Hình 3.5 Hàm PACF xác định giá trị p, q 33 Hình 3.6 Chạy nơ ron lớp node 35 Hình 3.7 Chạy nơ ron lớp node 36 Hình 3.8 Chạy nơ ron lớp node 37 Hình 3.9 Chạy nơ ron lớp node 38 Hình 3.10 Chạy nơ ron lớp node 39 Nội dung luận văn chia làm chương cụ thể sau: Chương 1: Tổng quan dự báo liệu chuỗi thời gian: Giới thiệu dự báo liệu chuỗi thời gian, số mơ hình đặc điểm ứng dụng phương pháp để áp dụng cho tốn dự báo mực nước sơng tỉnh Bình Định Chương 2: Mơ hình dự báo kết hợp mạng Arima nơron: Tìm hiểu mơ hình Arima, tổng quan mạng nơron nhân tạo, cấu tạo phương thức làm việc mạng kết hợp với Chương 3: Cài đặt thử nghiệm: Ứng dụng kết hợp Arima mạng nơron để giải toán dự báo mực nước sơng An Hồ thuộc sơng Bình Định Chương giới thiệu số liệu thu thập được, phương pháp đánh giá kết dự báo tiến tới thử nghiệm, từ đánh giá khả ứng dụng phương pháp vào dự báo chuỗi thời gian tối ưu so với phương pháp riêng lẻ ## Ml.to.llayhidl ## Intercept.to.Ilayhid2 0.3839543 31 4.729280200 - ## L2.to.llayhid2 ## L3.to.llayhid2 4.093167821 1.607987010 0.6193312 ## Ml.to.llayhỉd2 80 3.4926128 ## L3.to.llayhidl ## Intercept.to.Ilayhid3 ## L2.to.llayhid3 ## L3.to.Ilayhid3 ## Ml.to.llayhỉdỉ ## Intercept.to.Ilayhid4 ## L2.to.llayhid4 ## L3.to.llayhid4 ## Ml.to.llayhid4 ## Intercept.to.Y ## llayhỉdl.to.Y ## Ĩlayhỉd2.to.Y ## Hayhid3.to.Y ## Hayhid4.to.Y plot(nntap4J rep="best") -80 0.622878674 -1.188835613 0.466842479 3.3726706 58 1.648269805 -1.204496732 0.835626452 3.2848546 91 -1.009218699 4.835242416 3.8997988 66 0.6396037 18 0.5920599 38 PL-11 Error: 0.147544 Steps: 410 uocluong4