(Luận văn) xây dựng mô hình kết hợp arima và mạng nơron cho bài toán dự báo

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƢỜNG ĐẠI HỌC QUY NHƠN LÊ HOÀNG QUANG lu an n va XÂY DỰNG MƠ HÌNH KẾT HỢP ARIMA p ie gh tn to VÀ MẠNG NƠRON CHO BÀI TOÁN DỰ BÁO d oa nl w Chuyên ngành: Khoa học máy tính Mã số: 8.48.01.01 ll u nf va an lu m oi Ngƣời hƣớng dẫn: TS LÊ XUÂN VIỆT z at nh z m co l gm @ an Lu n va ac th si LỜI CAM ĐOAN Em xin cam đoan: Những nội dung luận văn em nghiên cứu thực dƣới hƣớng dẫn thầy giáo TS.Lê Xuân Việt Mọi tài liệu tham khảo dùng luận văn đƣợc trích dẫn rõ ràng tác giả, tên cơng trình, thời gian, địa điểm cơng bố số liệu thu thập hoàn toàn trung thực lu Mọi chép không hợp lệ, vi phạm quy chế em xin chịu hồn tồn an Bình Định, ngày 17 tháng 10 năm 2020 n va trách nhiệm tn to p ie gh Học viên w Lê Hoàng Quang d oa nl ` ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si LỜI CẢM ƠN Em xin bày tỏ lòng biết ơn chân thành đến thầy TS Lê Xuân Việt, thầy hƣớng dẫn, bảo tận tình để em hoàn thành luận văn Em xin gởi lời cảm ơn đến thầy, cô giáo khoa Công nghệ thông tin – Trƣờng Đại học Quy Nhơn truyền đạt kiến thức, hỗ trợ em suốt trình học tập vừa qua Em xin chân thành cảm ơn bạn bè đồng nghiệp, gia đình lu ngƣời thân động viên, chia sẻ tạo điều kiện thuận lợi để em hoàn an Bản thân nỗ lực nhiều, nhƣng chắn không tránh khỏi n va thành nhiệm vụ học tập luận văn gh tn to thiếu sót, tồn tại, em mong nhận đƣợc cảm thơng, dẫn, đóng góp p ie ý kiến quý thầy cô, nhƣ bạn đồng nghiệp oa nl w Bình Định, ngày 17 tháng 10 năm 2020 d Học viên ll u nf va an lu m oi Lê Hoàng Quang z at nh z m co l gm @ an Lu n va ac th si MỤC LỤC LỜI CAM ĐOAN LỜI CẢM ƠN DANH MỤC CHỮ VIẾT TẮT, CÁC KÍ HIỆU DANH MỤC CÁC BẢNG BIỂU DANH MỤC CÁC HÌNH VẼ MỞ ĐẦU lu Lý chọn đề tài an va 2.Tổng quan tài liệu tình hình nghiên cứu đề tài n Mục đích nghiên cứu gh tn to Đối tƣợng phạm vi nghiên cứu ie Phƣơng pháp nghiên cứu p Ý nghĩa khoa học thực tiễn luận văn nl w Bố cục luận văn d oa CHƢƠNG DỰ BÁO DỮ LIỆU CHUỖI THỜI GIAN an lu 1.1 Lịch sử trình dự báo va 1.2 Khái niệm dự báo u nf 1.3 Mục đích dự báo ll 1.4 Các phƣơng pháp dự báo oi m z at nh 1.5 Những thách thức phân tích dự báo 1.6 Một số mơ hình ứng dụng z 1.6.1 Mơ hình tuyến tính @ gm 1.6.2 Mơ hình phi tuyến tính l 1.7 Quy trình thực dự báo m co 1.8 Kết luận chƣơng 12 an Lu CHƢƠNG MƠ HÌNH DỰ BÁO KẾT HỢP ARIMA VÀ MẠNG NƠRON 13 n va ac th si 2.1 Mơ hình Arima 13 2.2.Tổng quan mạng nơron nhân tạo 15 2.2.1 Mạng nơron nhân tạo 15 2.2.2 Đặc trƣng mạng nơron 15 2.2.3 Các hình trạng mạng nơron 16 2.2.4 Mạng truyền thẳng thuật toán lan truyền ngƣợc 17 2.3 Tổng quan FFNN 21 2.4 Mơ hình dự báo kết hợp Arima mạng nơron 23 2.5 Kết luận chƣơng 25 lu an CHƢƠNG ỨNG DỤNG VÀO BÀI TOÁN 26 n va 3.1 Giới thiệu sơng tỉnh Bình Định 26 3.3 Công cụ mô toán 29 gh tn to 3.2 Phát biểu toán 28 p ie 3.4 Thử nghiệm chƣơng trình 30 w 3.4.1 Tập liệu thực nghiệm 30 oa nl 3.4.2 Đánh giá mơ hình dự báo 31 d 3.4.3 Dự báo mô hình Arima 31 lu va an 3.4.4 Dự báo mơ hình FFNN 35 u nf 3.4.5 Kết kết hợp mơ hình Arima FFNN 42 ll 3.5 Kết luận Chƣơng 44 m oi KẾT LUẬN VÀ HƢỚNG PHÁT TRIỂN 45 z at nh DANH MỤC TÀI LIỆU THAM KHẢO 46 PHỤ LỤC z m co l gm @ QUYẾT ĐỊNH GIAO ĐỀ TÀI LUẬN VĂN THẠC SĨ (bản sao) an Lu n va ac th si DANH MỤC CHỮ VIẾT TẮT, CÁC KÍ HIỆU Tên Viết Tắt Stt ANN NƠRON BP Tên đầy đủ Diễn giải Mạng nơron nhân tạo Artificial Neural Network Tế bào thần kinh Neural Lan truyền ngược Back Propagation Số nơron lớp ẩn HIDDENNODE Hidden Node Xử lý tín hiệu số lu an va DSP Digital Signal Processing MAE Mean Absolute Error Sai số tuyệt đối MSE Mean Square Error Sai số trung bình MFNN MultiFeedforward Neural Mạng truyền thẳng nhiều lớp n Network to MLP 10 RNN Mạng nơron nhiều lớp MultilayerNeural Network Mạng hồi quy Recurrent neural network Số nơron lớp p ie gh tn 11 OUTPUTNODE Output Node nl HMM 16 ARMA Tự hồi quy Moving Average Trung bình trượt Tự hồi quy trung bình trượt an lu MA Autoregressive va d AR 15 Mô hình Markov ẩn Hidden Markov Model oa 14 Số nơron lớp vào INPUTNODE Input Node w 13 12 Autoregressive-Moving u nf ll Average oi m z at nh z m co l gm @ an Lu n va ac th si DANH MỤC CÁC BẢNG BIỂU Bảng 2.1 Các dạng đồ thị mơ hình ARIMA 14 Bảng 3.1 Độ lỗi dự báo mơ hình ARIMA 35 Bảng 3.2 Độ lỗi dự báo mô hình FFNN 42 Bảng 3.3 Bảng so sánh độ lỗi dự báo mô hình A-FFNN 43 Bảng 3.4 Bảng so sánh độ lỗi dự báo mơ hình 43 lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si DANH MỤC CÁC HÌNH VẼ Hình 1.1 Quy trình thực dự báo 10 Hình 2.1 Mạng nơron truyền thẳng nhiều lớp (Feed-forward neural network) 16 Hình 2.2 Mạng nơron hồi quy (Recurrent neural network) 17 Hình 2.3 Mạng nơron truyền thẳng nhiều lớp 18 Hình 2.4 Mạng nơron truyền thẳng nhiều lớp FFNN 22 Hình 3.1 Hệ thống sơng ngịi Bình Định (thuộc Chi cục thủy lợi Bình Định) 28 lu Hình 3.2 Mực nƣớc sông năm 2016, 2017, 2018, 2019 29 an Hình 3.3 Dữ liệu mực nƣớc sơng 30 va n Hình 3.4 Hàm ACF xác định giá trị p, q 32 gh tn to Hình 3.5 Hàm PACF xác định giá trị p, q 33 ie Hình 3.6 Chạy nơ ron lớp node 35 p Hình 3.7 Chạy nơ ron lớp node 36 nl w Hình 3.8 Chạy nơ ron lớp node 37 d oa Hình 3.9 Chạy nơ ron lớp node 38 ll u nf va an lu Hình 3.10 Chạy nơ ron lớp node 39 oi m z at nh z m co l gm @ an Lu n va ac th si MỞ ĐẦU LÝ DO CHỌN ĐỀ TÀI Chuỗi thời gian đƣợc sử dụng nhƣ cơng cụ hữu ích để phân tích số liệu kinh tế, xã hội nhƣ nghiên cứu lĩnh vực khoa học ngày Chính vậy, nhiều tác giả đề xuất công cụ phân tích chuỗi thời gian để trích xuất thơng tin quan trọng từ dãy số liệu Phƣơng pháp chủ yếu để phân tích chuỗi thời gian sử dụng lu công cụ thống kê nhƣ hồi quy, phân tích Fourie vài cơng cụ khác an n va Nhƣng hiệu có lẽ phƣơng pháp sử dụng mơ hình Arima Box- tn to Jenkins Mơ hình cho kết tốt phân tích liệu gh đƣợc sử dụng rộng rãi ứng dụng thực tế Và bên cạnh p ie mơ hình Arima kết hợp mạng nơron để tăng độ xác dự báo nhƣ w nào, lí tơi tìm hiểu đề tài: oa nl “ Xây dựng mơ hình kết hợp Arima mạng nơron cho toán dự báo.” d 2.TỔNG QUAN TÀI LIỆU VÀ TÌNH HÌNH NGHIÊN CỨU ĐỀ TÀI lu an 2.1 Tổng quan tài liệu nghiên cứu u nf va Nguồn tài liệu để nghiên cứu luận văn bao gồm: ll luận văn, luận án, báo khoa học, tạp chí khoa học cơng nghệ nƣớc m oi nƣớc ngồi liên quan đến mơ hình Arima, mạng nơron mơ hình 2.2 Tình hình nghiên cứu đề tài z at nh dự báo chuỗi thời gian khác z gm @ Mơ hình kết hợp Arima mạng nơron đƣợc đề xuất với kì vọng l giúp tăng độ xác dự báo ứng dụng thực tế, ý tƣởng m co mơ hình dựa việc xem xét liệu chuỗi thời gian kết hợp an Lu thành phần tuyến tính phi tuyến tính Kết thực nghiệm cho thấy mơ hình kết hợp có độ lỗi dự báo đáng kể so với mơ hình n va ac th si Arima mạng nơron riêng lẻ MỤC ĐÍCH NGHIÊN CỨU Đề tài tập trung vào mơ hình Arima, mạng nơron, áp dụng phƣơng pháp học máy mạng nơron ứng dụng vào tốn dự báo Tìm hiểu mơ hình kết hợp Arima mạng nơron với kỳ vọng tăng độ xác dự báo tốn thực tế ĐỐI TƢỢNG VÀ PHẠM VI NGHIÊN CỨU - Đối tƣợng nghiên cứu: Mơ hình Arima, hệ thống mạng nơron kết lu hợp Arima mạng nơron dự báo an - Phạm vi nghiên cứu: Sự kết hợp Arima mạng nơron dự va n báo - Tiếp cận theo hƣớng lý thuyết: p ie gh tn to PHƢƠNG PHÁP NGHIÊN CỨU + Tìm hiểu, thu thập phân tích tài liệu thơng tin có liên nl w quan đến luận văn d oa + Phân tích, thiết kế hệ thống chƣơng trình an lu + Kiểm thử đƣa nhận xét đánh giá kết u nf va - Tiếp cận theo hƣớng thực nghiệm: + Nghiên cứu xây dựng hệ thống cho toán dự báo ll z at nh độc lập khác oi m + Cài đặt, chạy, thử nghiệm so sánh với mơ hình dự báo Ý NGHĨA KHOA HỌC VÀ THỰC TIỄN CỦA LUẬN VĂN z Luận văn kết hợp mạng nơron Arima toán @ l gm dự báo để thấy đƣợc độ chuẩn xác kết hợp hai phƣơng pháp BỐ CỤC LUẬN VĂN m co cụ thể toán dự báo mực nƣớc trạm sơng An Hịa tỉnh Bình Định an Lu Nội dung luận văn đƣợc chia làm chƣơng cụ thể nhƣ sau: n va ac th si PL-12 lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si PL-13 lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si PL-14 lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si PL-15 lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si PL-16 lu an n va p ie gh tn to Chạy Arima kết hợp FFNN d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si PL-17 lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si PL-18 lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si PL-19 lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si PL-20 lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si PL-21 lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si PL-22 lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si PL-23 lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si PL-24 lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si PL-25 lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si lu an n va p ie gh tn to d oa nl w ll u nf va an lu oi m z at nh z m co l gm @ an Lu n va ac th si