(LUẬN văn THẠC sĩ) xây dựng mô hình kết hợp arima và mạng nơron cho bài toán dự báo

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƢỜNG ĐẠI HỌC QUY NHƠN LÊ HỒNG QUANG XÂY DỰNG MƠ HÌNH KẾT HỢP ARIMA VÀ MẠNG NƠRON CHO BÀI TOÁN DỰ BÁO Chuyên ngành: Khoa học máy tính Mã số: 8.48.01.01 Ngƣời hƣớng dẫn: TS LÊ XUÂN VIỆT download by : skknchat@gmail.com LỜI CAM ĐOAN Em xin cam đoan: Những nội dung luận văn em nghiên cứu thực dƣới hƣớng dẫn thầy giáo TS.Lê Xuân Việt Mọi tài liệu tham khảo dùng luận văn đƣợc trích dẫn rõ ràng tác giả, tên cơng trình, thời gian, địa điểm công bố số liệu thu thập hồn tồn trung thực Mọi chép khơng hợp lệ, vi phạm quy chế em xin chịu hoàn toàn trách nhiệm Bình Định, ngày 17 tháng 10 năm 2020 Học viên ` Lê Hoàng Quang download by : skknchat@gmail.com LỜI CẢM ƠN Em xin bày tỏ lòng biết ơn chân thành đến thầy TS Lê Xuân Việt, thầy hƣớng dẫn, bảo tận tình để em hoàn thành luận văn Em xin gởi lời cảm ơn đến thầy, cô giáo khoa Công nghệ thông tin – Trƣờng Đại học Quy Nhơn truyền đạt kiến thức, hỗ trợ em suốt trình học tập vừa qua Em xin chân thành cảm ơn bạn bè đồng nghiệp, gia đình ngƣời thân động viên, chia sẻ tạo điều kiện thuận lợi để em hoàn thành nhiệm vụ học tập luận văn Bản thân nỗ lực nhiều, nhƣng chắn không tránh khỏi thiếu sót, tồn tại, em mong nhận đƣợc cảm thơng, dẫn, đóng góp ý kiến quý thầy cô, nhƣ bạn đồng nghiệp Bình Định, ngày 17 tháng 10 năm 2020 Học viên Lê Hoàng Quang download by : skknchat@gmail.com MỤC LỤC LỜI CAM ĐOAN LỜI CẢM ƠN DANH MỤC CHỮ VIẾT TẮT, CÁC KÍ HIỆU DANH MỤC CÁC BẢNG BIỂU DANH MỤC CÁC HÌNH VẼ MỞ ĐẦU 1 Lý chọn đề tài 2.Tổng quan tài liệu tình hình nghiên cứu đề tài Mục đích nghiên cứu Đối tƣợng phạm vi nghiên cứu Phƣơng pháp nghiên cứu Ý nghĩa khoa học thực tiễn luận văn Bố cục luận văn CHƢƠNG DỰ BÁO DỮ LIỆU CHUỖI THỜI GIAN 1.1 Lịch sử trình dự báo 1.2 Khái niệm dự báo 1.3 Mục đích dự báo 1.4 Các phƣơng pháp dự báo 1.5 Những thách thức phân tích dự báo 1.6 Một số mơ hình ứng dụng 1.6.1 Mơ hình tuyến tính 1.6.2 Mơ hình phi tuyến tính 1.7 Quy trình thực dự báo 1.8 Kết luận chƣơng 12 CHƢƠNG MƠ HÌNH DỰ BÁO KẾT HỢP ARIMA VÀ MẠNG NƠRON 13 download by : skknchat@gmail.com 2.1 Mơ hình Arima 13 2.2.Tổng quan mạng nơron nhân tạo 15 2.2.1 Mạng nơron nhân tạo 15 2.2.2 Đặc trƣng mạng nơron 15 2.2.3 Các hình trạng mạng nơron 16 2.2.4 Mạng truyền thẳng thuật toán lan truyền ngƣợc 17 2.3 Tổng quan FFNN 21 2.4 Mơ hình dự báo kết hợp Arima mạng nơron 23 2.5 Kết luận chƣơng 25 CHƢƠNG ỨNG DỤNG VÀO BÀI TOÁN 26 3.1 Giới thiệu sông tỉnh Bình Định 26 3.2 Phát biểu toán 28 3.3 Công cụ mơ tốn 29 3.4 Thử nghiệm chƣơng trình 30 3.4.1 Tập liệu thực nghiệm 30 3.4.2 Đánh giá mô hình dự báo 31 3.4.3 Dự báo mơ hình Arima 31 3.4.4 Dự báo mơ hình FFNN 35 3.4.5 Kết kết hợp mơ hình Arima FFNN 42 3.5 Kết luận Chƣơng 44 KẾT LUẬN VÀ HƢỚNG PHÁT TRIỂN 45 DANH MỤC TÀI LIỆU THAM KHẢO 46 PHỤ LỤC QUYẾT ĐỊNH GIAO ĐỀ TÀI LUẬN VĂN THẠC SĨ (bản sao) download by : skknchat@gmail.com DANH MỤC CHỮ VIẾT TẮT, CÁC KÍ HIỆU Stt Tên Viết Tắt ANN NƠRON BP Tên đầy đủ Artificial Neural Network Neural Back Propagation HIDDENNODE Hidden Node Digital Signal Processing Diễn giải Mạng nơron nhân tạo Tế bào thần kinh Lan truyền ngược Số nơron lớp ẩn Xử lý tín hiệu số DSP MAE Mean Absolute Error Sai số tuyệt đối MSE Mean Square Error Sai số trung bình MFNN MultiFeedforward Neural Mạng truyền thẳng nhiều lớp Network MLP 10 RNN MultilayerNeural Network Recurrent neural network 11 OUTPUTNODE Output Node 12 INPUTNODE Input Node Hidden Markov Model Mạng nơron nhiều lớp Mạng hồi quy Số nơron lớp Số nơron lớp vào Mô hình Markov ẩn 13 HMM 14 AR Autoregressive Tự hồi quy 15 MA Moving Average Trung bình trượt 16 ARMA Autoregressive-Moving Tự hồi quy trung bình trượt Average download by : skknchat@gmail.com DANH MỤC CÁC BẢNG BIỂU Bảng 2.1 Các dạng đồ thị mơ hình ARIMA 14 Bảng 3.1 Độ lỗi dự báo mơ hình ARIMA 35 Bảng 3.2 Độ lỗi dự báo mô hình FFNN 42 Bảng 3.3 Bảng so sánh độ lỗi dự báo mô hình A-FFNN 43 Bảng 3.4 Bảng so sánh độ lỗi dự báo mơ hình 43 download by : skknchat@gmail.com DANH MỤC CÁC HÌNH VẼ Hình 1.1 Quy trình thực dự báo 10 Hình 2.1 Mạng nơron truyền thẳng nhiều lớp (Feed-forward neural network) 16 Hình 2.2 Mạng nơron hồi quy (Recurrent neural network) 17 Hình 2.3 Mạng nơron truyền thẳng nhiều lớp 18 Hình 2.4 Mạng nơron truyền thẳng nhiều lớp FFNN 22 Hình 3.1 Hệ thống sơng ngịi Bình Định (thuộc Chi cục thủy lợi Bình Định) 28 Hình 3.2 Mực nƣớc sơng năm 2016, 2017, 2018, 2019 29 Hình 3.3 Dữ liệu mực nƣớc sông 30 Hình 3.4 Hàm ACF xác định giá trị p, q 32 Hình 3.5 Hàm PACF xác định giá trị p, q 33 Hình 3.6 Chạy nơ ron lớp node 35 Hình 3.7 Chạy nơ ron lớp node 36 Hình 3.8 Chạy nơ ron lớp node 37 Hình 3.9 Chạy nơ ron lớp node 38 Hình 3.10 Chạy nơ ron lớp node 39 download by : skknchat@gmail.com MỞ ĐẦU LÝ DO CHỌN ĐỀ TÀI Chuỗi thời gian đƣợc sử dụng nhƣ cơng cụ hữu ích để phân tích số liệu kinh tế, xã hội nhƣ nghiên cứu lĩnh vực khoa học ngày Chính vậy, nhiều tác giả đề xuất công cụ phân tích chuỗi thời gian để trích xuất thơng tin quan trọng từ dãy số liệu Phƣơng pháp chủ yếu để phân tích chuỗi thời gian sử dụng công cụ thống kê nhƣ hồi quy, phân tích Fourie vài cơng cụ khác Nhƣng hiệu có lẽ phƣơng pháp sử dụng mơ hình Arima BoxJenkins Mơ hình cho kết tốt phân tích liệu đƣợc sử dụng rộng rãi ứng dụng thực tế Và bên cạnh mơ hình Arima kết hợp mạng nơron để tăng độ xác dự báo nhƣ nào, lí tơi tìm hiểu đề tài: “ Xây dựng mơ hình kết hợp Arima mạng nơron cho tốn dự báo.” 2.TỔNG QUAN TÀI LIỆU VÀ TÌNH HÌNH NGHIÊN CỨU ĐỀ TÀI 2.1 Tổng quan tài liệu nghiên cứu Nguồn tài liệu để nghiên cứu luận văn bao gồm: luận văn, luận án, báo khoa học, tạp chí khoa học cơng nghệ nƣớc nƣớc ngồi liên quan đến mơ hình Arima, mạng nơron mơ hình dự báo chuỗi thời gian khác 2.2 Tình hình nghiên cứu đề tài Mơ hình kết hợp Arima mạng nơron đƣợc đề xuất với kì vọng giúp tăng độ xác dự báo ứng dụng thực tế, ý tƣởng mơ hình dựa việc xem xét liệu chuỗi thời gian kết hợp thành phần tuyến tính phi tuyến tính Kết thực nghiệm cho thấy mơ hình kết hợp có độ lỗi dự báo đáng kể so với mơ hình download by : skknchat@gmail.com Arima mạng nơron riêng lẻ MỤC ĐÍCH NGHIÊN CỨU Đề tài tập trung vào mơ hình Arima, mạng nơron, áp dụng phƣơng pháp học máy mạng nơron ứng dụng vào tốn dự báo Tìm hiểu mơ hình kết hợp Arima mạng nơron với kỳ vọng tăng độ xác dự báo toán thực tế ĐỐI TƢỢNG VÀ PHẠM VI NGHIÊN CỨU - Đối tƣợng nghiên cứu: Mơ hình Arima, hệ thống mạng nơron kết hợp Arima mạng nơron dự báo - Phạm vi nghiên cứu: Sự kết hợp Arima mạng nơron dự báo PHƢƠNG PHÁP NGHIÊN CỨU - Tiếp cận theo hƣớng lý thuyết: + Tìm hiểu, thu thập phân tích tài liệu thơng tin có liên quan đến luận văn + Phân tích, thiết kế hệ thống chƣơng trình + Kiểm thử đƣa nhận xét đánh giá kết - Tiếp cận theo hƣớng thực nghiệm: + Nghiên cứu xây dựng hệ thống cho toán dự báo + Cài đặt, chạy, thử nghiệm so sánh với mơ hình dự báo độc lập khác Ý NGHĨA KHOA HỌC VÀ THỰC TIỄN CỦA LUẬN VĂN Luận văn kết hợp mạng nơron Arima toán dự báo để thấy đƣợc độ chuẩn xác kết hợp hai phƣơng pháp cụ thể tốn dự báo mực nƣớc trạm sơng An Hịa tỉnh Bình Định BỐ CỤC LUẬN VĂN Nội dung luận văn đƣợc chia làm chƣơng cụ thể nhƣ sau: download by : skknchat@gmail.com PL-12 download by : skknchat@gmail.com PL-13 download by : skknchat@gmail.com PL-14 download by : skknchat@gmail.com PL-15 download by : skknchat@gmail.com PL-16 Chạy Arima kết hợp FFNN download by : skknchat@gmail.com PL-17 download by : skknchat@gmail.com PL-18 download by : skknchat@gmail.com PL-19 download by : skknchat@gmail.com PL-20 download by : skknchat@gmail.com PL-21 download by : skknchat@gmail.com PL-22 download by : skknchat@gmail.com PL-23 download by : skknchat@gmail.com PL-24 download by : skknchat@gmail.com PL-25 download by : skknchat@gmail.com download by : skknchat@gmail.com ... đầu vào cho dự báo lƣu lƣợng giao thông ngày mai Kết thực nghiệm cho thấy mô hình mạng nơron xây dựng đƣợc sử dụng cho dự báo giao thông thành phố Monroe Tuy nhiên, vài trƣờng hợp có kết dự báo. .. (2-13) Mơ hình kết hợp Arima mạng nơron theo hƣớng tiếp cận xây dựng mơ hình kết hợp ARIMA_ FFNN Mơ hình kết hợp giống với ý tƣởng G Peter Zhang đề xuất, tức áp dụng mơ hình ARIMA để dự báo thành... Sau kết hợp Arima FFNN huấn luyện tập liệu Arima nơron, ta sử dụng nơron để dự báo độ lỗi cho Arima kết đo đƣợc tổng giá trị chúng Kết thực nghiệm cho thấy mơ hình kết hợp AFFNN cho kết dự báo