(Luận văn thạc sĩ) xây dựng mô hình kết hợp arima và mạng nơron cho bài toán dự báo

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƢỜNG ĐẠI HỌC QUY NHƠN LÊ HỒNG QUANG XÂY DỰNG MƠ HÌNH KẾT HỢP ARIMA VÀ MẠNG NƠRON CHO BÀI TOÁN DỰ BÁO h Chuyên ngành: Khoa học máy tính Mã số: 8.48.01.01 Ngƣời hƣớng dẫn: TS LÊ XUÂN VIỆT LỜI CAM ĐOAN Em xin cam đoan: Những nội dung luận văn em nghiên cứu thực dƣới hƣớng dẫn thầy giáo TS.Lê Xuân Việt Mọi tài liệu tham khảo dùng luận văn đƣợc trích dẫn rõ ràng tác giả, tên cơng trình, thời gian, địa điểm cơng bố số liệu thu thập hồn tồn trung thực Mọi chép không hợp lệ, vi phạm quy chế em xin chịu hồn tồn trách nhiệm Bình Định, ngày 17 tháng 10 năm 2020 Học viên h ` Lê Hoàng Quang LỜI CẢM ƠN Em xin bày tỏ lòng biết ơn chân thành đến thầy TS Lê Xuân Việt, thầy hƣớng dẫn, bảo tận tình để em hồn thành luận văn Em xin gởi lời cảm ơn đến thầy, cô giáo khoa Công nghệ thông tin – Trƣờng Đại học Quy Nhơn truyền đạt kiến thức, hỗ trợ em suốt trình học tập vừa qua Em xin chân thành cảm ơn bạn bè đồng nghiệp, gia đình ngƣời thân động viên, chia sẻ tạo điều kiện thuận lợi để em hoàn thành nhiệm vụ học tập luận văn Bản thân nỗ lực nhiều, nhƣng chắn khơng tránh khỏi thiếu sót, tồn tại, em mong nhận đƣợc cảm thông, dẫn, đóng góp ý kiến q thầy cơ, nhƣ bạn đồng nghiệp h Bình Định, ngày 17 tháng 10 năm 2020 Học viên Lê Hoàng Quang MỤC LỤC LỜI CAM ĐOAN LỜI CẢM ƠN DANH MỤC CHỮ VIẾT TẮT, CÁC KÍ HIỆU DANH MỤC CÁC BẢNG BIỂU DANH MỤC CÁC HÌNH VẼ MỞ ĐẦU 1 Lý chọn đề tài 2.Tổng quan tài liệu tình hình nghiên cứu đề tài Mục đích nghiên cứu Đối tƣợng phạm vi nghiên cứu Phƣơng pháp nghiên cứu h Ý nghĩa khoa học thực tiễn luận văn Bố cục luận văn CHƢƠNG DỰ BÁO DỮ LIỆU CHUỖI THỜI GIAN 1.1 Lịch sử trình dự báo 1.2 Khái niệm dự báo 1.3 Mục đích dự báo 1.4 Các phƣơng pháp dự báo 1.5 Những thách thức phân tích dự báo 1.6 Một số mơ hình ứng dụng 1.6.1 Mô hình tuyến tính 1.6.2 Mơ hình phi tuyến tính 1.7 Quy trình thực dự báo 1.8 Kết luận chƣơng 12 CHƢƠNG MƠ HÌNH DỰ BÁO KẾT HỢP ARIMA VÀ MẠNG NƠRON 13 2.1 Mô hình Arima 13 2.2.Tổng quan mạng nơron nhân tạo 15 2.2.1 Mạng nơron nhân tạo 15 2.2.2 Đặc trƣng mạng nơron 15 2.2.3 Các hình trạng mạng nơron 16 2.2.4 Mạng truyền thẳng thuật toán lan truyền ngƣợc 17 2.3 Tổng quan FFNN 21 2.4 Mơ hình dự báo kết hợp Arima mạng nơron 23 2.5 Kết luận chƣơng 25 CHƢƠNG ỨNG DỤNG VÀO BÀI TOÁN 26 3.1 Giới thiệu sơng tỉnh Bình Định 26 3.2 Phát biểu toán 28 3.3 Công cụ mô toán 29 3.4 Thử nghiệm chƣơng trình 30 h 3.4.1 Tập liệu thực nghiệm 30 3.4.2 Đánh giá mơ hình dự báo 31 3.4.3 Dự báo mơ hình Arima 31 3.4.4 Dự báo mơ hình FFNN 35 3.4.5 Kết kết hợp mơ hình Arima FFNN 42 3.5 Kết luận Chƣơng 44 KẾT LUẬN VÀ HƢỚNG PHÁT TRIỂN 45 DANH MỤC TÀI LIỆU THAM KHẢO 46 PHỤ LỤC QUYẾT ĐỊNH GIAO ĐỀ TÀI LUẬN VĂN THẠC SĨ (bản sao) DANH MỤC CHỮ VIẾT TẮT, CÁC KÍ HIỆU Stt Tên Viết Tắt ANN NƠRON BP Tên đầy đủ Artificial Neural Network Diễn giải Mạng nơron nhân tạo Tế bào thần kinh Neural Back Propagation HIDDENNODE Hidden Node Digital Signal Processing Lan truyền ngược Số nơron lớp ẩn Xử lý tín hiệu số DSP MAE Mean Absolute Error Sai số tuyệt đối MSE Mean Square Error Sai số trung bình MFNN MultiFeedforward Neural Mạng truyền thẳng nhiều lớp Network MLP 10 RNN MultilayerNeural Network Recurrent neural network h 11 OUTPUTNODE Output Node 12 INPUTNODE Input Node Hidden Markov Model Mạng nơron nhiều lớp Mạng hồi quy Số nơron lớp Số nơron lớp vào Mơ hình Markov ẩn 13 HMM 14 AR Autoregressive Tự hồi quy 15 MA Moving Average Trung bình trượt 16 ARMA Autoregressive-Moving Tự hồi quy trung bình trượt Average DANH MỤC CÁC BẢNG BIỂU Bảng 2.1 Các dạng đồ thị mơ hình ARIMA 14 Bảng 3.1 Độ lỗi dự báo mơ hình ARIMA 35 Bảng 3.2 Độ lỗi dự báo mơ hình FFNN 42 Bảng 3.3 Bảng so sánh độ lỗi dự báo mơ hình A-FFNN 43 Bảng 3.4 Bảng so sánh độ lỗi dự báo mô hình 43 h DANH MỤC CÁC HÌNH VẼ Hình 1.1 Quy trình thực dự báo 10 Hình 2.1 Mạng nơron truyền thẳng nhiều lớp (Feed-forward neural network) 16 Hình 2.2 Mạng nơron hồi quy (Recurrent neural network) 17 Hình 2.3 Mạng nơron truyền thẳng nhiều lớp 18 Hình 2.4 Mạng nơron truyền thẳng nhiều lớp FFNN 22 Hình 3.1 Hệ thống sơng ngịi Bình Định (thuộc Chi cục thủy lợi Bình Định) 28 Hình 3.2 Mực nƣớc sơng năm 2016, 2017, 2018, 2019 29 Hình 3.3 Dữ liệu mực nƣớc sông 30 Hình 3.4 Hàm ACF xác định giá trị p, q 32 Hình 3.5 Hàm PACF xác định giá trị p, q 33 Hình 3.6 Chạy nơ ron lớp node 35 h Hình 3.7 Chạy nơ ron lớp node 36 Hình 3.8 Chạy nơ ron lớp node 37 Hình 3.9 Chạy nơ ron lớp node 38 Hình 3.10 Chạy nơ ron lớp node 39 MỞ ĐẦU LÝ DO CHỌN ĐỀ TÀI Chuỗi thời gian đƣợc sử dụng nhƣ công cụ hữu ích để phân tích số liệu kinh tế, xã hội nhƣ nghiên cứu lĩnh vực khoa học ngày Chính vậy, nhiều tác giả đề xuất cơng cụ phân tích chuỗi thời gian để trích xuất thơng tin quan trọng từ dãy số liệu Phƣơng pháp chủ yếu để phân tích chuỗi thời gian sử dụng cơng cụ thống kê nhƣ hồi quy, phân tích Fourie vài công cụ khác Nhƣng hiệu có lẽ phƣơng pháp sử dụng mơ hình Arima BoxJenkins Mơ hình cho kết tốt phân tích liệu đƣợc sử dụng rộng rãi ứng dụng thực tế Và bên cạnh mơ hình Arima kết hợp mạng nơron để tăng độ xác dự báo nhƣ h nào, lí tơi tìm hiểu đề tài: “ Xây dựng mơ hình kết hợp Arima mạng nơron cho toán dự báo.” 2.TỔNG QUAN TÀI LIỆU VÀ TÌNH HÌNH NGHIÊN CỨU ĐỀ TÀI 2.1 Tổng quan tài liệu nghiên cứu Nguồn tài liệu để nghiên cứu luận văn bao gồm: luận văn, luận án, báo khoa học, tạp chí khoa học cơng nghệ nƣớc nƣớc ngồi liên quan đến mơ hình Arima, mạng nơron mơ hình dự báo chuỗi thời gian khác 2.2 Tình hình nghiên cứu đề tài Mơ hình kết hợp Arima mạng nơron đƣợc đề xuất với kì vọng giúp tăng độ xác dự báo ứng dụng thực tế, ý tƣởng mơ hình dựa việc xem xét liệu chuỗi thời gian kết hợp thành phần tuyến tính phi tuyến tính Kết thực nghiệm cho thấy mơ hình kết hợp có độ lỗi dự báo đáng kể so với mơ hình Arima mạng nơron riêng lẻ MỤC ĐÍCH NGHIÊN CỨU Đề tài tập trung vào mơ hình Arima, mạng nơron, áp dụng phƣơng pháp học máy mạng nơron ứng dụng vào toán dự báo Tìm hiểu mơ hình kết hợp Arima mạng nơron với kỳ vọng tăng độ xác dự báo toán thực tế ĐỐI TƢỢNG VÀ PHẠM VI NGHIÊN CỨU - Đối tƣợng nghiên cứu: Mơ hình Arima, hệ thống mạng nơron kết hợp Arima mạng nơron dự báo - Phạm vi nghiên cứu: Sự kết hợp Arima mạng nơron dự báo PHƢƠNG PHÁP NGHIÊN CỨU - Tiếp cận theo hƣớng lý thuyết: h + Tìm hiểu, thu thập phân tích tài liệu thơng tin có liên quan đến luận văn + Phân tích, thiết kế hệ thống chƣơng trình + Kiểm thử đƣa nhận xét đánh giá kết - Tiếp cận theo hƣớng thực nghiệm: + Nghiên cứu xây dựng hệ thống cho toán dự báo + Cài đặt, chạy, thử nghiệm so sánh với mơ hình dự báo độc lập khác Ý NGHĨA KHOA HỌC VÀ THỰC TIỄN CỦA LUẬN VĂN Luận văn kết hợp mạng nơron Arima toán dự báo để thấy đƣợc độ chuẩn xác kết hợp hai phƣơng pháp cụ thể toán dự báo mực nƣớc trạm sơng An Hịa tỉnh Bình Định BỐ CỤC LUẬN VĂN Nội dung luận văn đƣợc chia làm chƣơng cụ thể nhƣ sau: