1. Trang chủ
  2. » Thể loại khác

ỨNG DỤNG MƠ HÌNH ĐA BIẾN BỘ NHỚ DÀI - NGẮN HẠN TRONG DỰ BÁO NHIỆT ĐỘ VÀ LƯỢNG MƯA

9 2 0

Đang tải... (xem toàn văn)

THÔNG TIN TÀI LIỆU

Tạp chí Khoa học Trường Đại học Cần Thơ Tập 58, Số 4A (2022): 8-16 DOI:10.22144/ctu.jvn.2022.158 ỨNG DỤNG MƠ HÌNH ĐA BIẾN BỘ NHỚ DÀI - NGẮN HẠN TRONG DỰ BÁO NHIỆT ĐỘ VÀ LƯỢNG MƯA Dương Thị Hà1 Nguyễn Thái Nghe2* Học viên Cao học Trường Đại học Sư phạm Kỹ thuật Vĩnh Long Khoa Công nghệ Thông tin và Truyền thông, Trường Đại học Cần Thơ *Người chịu trách nhiệm bài viết: Nguyễn Thái Nghe (email: ntnghe@cit.ctu.edu.vn) Thông tin chung: ABSTRACT Ngày nhận bài: 20/01/2022 Ngày nhận bài sửa: 21/02/2022 Ngày duyệt đăng: 14/03/2022 Forecasting temperature and rainfall are issues of concern in the agricultural sector, which could assist farmers in appropriate cropping Several techniques have previously been proposed for forecasting temperature and precipitation based on statistical analysis, machine learning and deep learning techniques This work proposed a method of building a model to forecast monthly temperature and precipitation using multivariate long short-term memory (MLSTM) model The parameters of the model were adjusted to suit the proposed problem The model was evaluated using RMSE and MAE error measures Besides, other forecasting models (such as LSTM, MLP, and SVR) were also used to compare the effectiveness of the proposed model Experimental results on the data set of average monthly temperature and rainfall in Vietnam from 1901 to 2015 showed that the MLSTM model was quite effective with the error RMSE on the temperature set was 1.311 and the MAE was 1.051, respectively on the rainfall data set were 2.299 and 2.450 Title: Using multivariate long shortterm memory model to forecast temperature and rainfall Từ khóa: Dự báo nhiệt độ và lượng mưa, máy học, học sâu, mơ hình Multivariate LSTM Keywords: Deep learning, MLSTM, machine learning, temperature and rainfall forecasting TÓM TẮT Dự báo nhiệt độ và lượng mưa là số quan tâm lĩnh vực nông nghiệp nhằm hỗ trợ người dân có kế hoạch gieo trồng phù hợp Một số kỹ thuật trước đề xuất để dự báo nhiệt độ và lượng mưa dựa phân tích thống kê, học máy và kỹ thuật học sâu Trong bài viết này, phương pháp xây dựng mơ hình dự báo nhiệt độ và lượng mưa hàng tháng mơ hình đa biến nhớ dài-ngắn hạn (Multivariate long short-term memory - MLSTM) đề xuất Các tham số mơ hình điều chỉnh cho phù hợp với bài tốn đặt Mơ hình đánh giá thông qua độ đo lỗi RMSE và MAE Bên cạnh, mơ hình dự báo khác LSTM, MLP và SVR sử dụng nhằm so sánh hiệu mơ hình đề xuất Kết thực nghiệm tập liệu nhiệt độ và lượng mưa trung bình hàng tháng tại Việt Nam từ 1901 đến 2015 cho thấy mơ hình MLSTM đạt hiệu tốt với độ lỗi RMSE tập nhiệt độ là 1.311 và MAE là 1.051, tương ứng tập liệu lượng mưa là 2.299 và 2.450 Tạp chí Khoa học Trường Đại học Cần Thơ Tập 58, Số 4A (2022): 8-16 liệu chuỗi thời gian, Lim and Zohren (2020) nghiên cứu mơ hình học sâu kết hợp mơ hình thống kê thành phần mạng nơ-ron để cải thiện phương pháp dự báo chuỗi thời gian Ikram et al (2019) trình bày nghiên cứu sử dụng mạng nơ-ron tuần hoàn (RNN) với kiến trúc LSTM để dự đốn nhiệt độ mơi trường xung quanh (TA) Nghiên cứu Poornima et al (2019) sử dụng mạng lưới thần kinh nhân tạo dựa nhớ ngắn hạn tăng cường (LSTM tăng cường) để dự đoán lượng mưa cho kết đánh giá theo phương pháp so sánh có độ xác 87,99% Một nghiên cứu khác Xingjian et al (2015) đề xuất LSTM tích hợp (ConvLSTM) sử dụng để xây dựng mơ hình huấn luyện cho tốn dự báo lượng mưa tiếp cận máy học Ngoài ra, cịn có nghiên cứu khác Kratzert et al (2018), tác giả dùng nhiều lưu vực liệu CAMELS đề xuất mơ hình dự báo lượng mưa theo phương pháp LSTM đạt độ xác tương tự mơ hình SAC-SMA Zhang et al (2017) sử dụng mạng lưới thần kinh lặp lại nhớ dài - ngắn hạn dự đoán nhiệt độ bề mặt nước biển cho kết mang lại độ xác cao GIỚI THIỆU Biến đổi khí hậu ảnh hưởng đến mặt đời sống kinh tế - xã hội người Dự báo yếu tố khí hậu ngày quan trọng cần thiết, trở thành mối quan tâm lớn tất quốc gia giới có Việt Nam Nhiệt độ lượng mưa hai yếu tố chịu tác động lớn hệ thống khí hậu, chúng ảnh hưởng trực tiếp đến hệ sinh thái, nước, tài nguyên, hoạt động nông nghiệp nuôi trồng thủy sản đồng sơng Cửu Long nói riêng nước nói chung Theo Chính (2020), miền Trung nước ta bị thiệt hại khoảng 30.000 tỷ đồng thiên tai dị thường Các trận mưa bão lũ năm 20202021 gây nhiều hậu nặng nề cho người dân miền Trung với lượng mưa 3.000 mm, có nơi lên đến 4.526 mm, nhiều nhà bị sập, hư hỏng nặng; nông nghiệp, nhiều héc-ta lúa, hoa màu bị thiệt hại nặng nề; hạ tầng đê điều, thủy lợi, giao thông nhiều ki-lô-mét đường bộ, sông, bị hư hỏng nặng; giáo dục, y tế nhiều trường học bị thiệt hại nặng nề Tổng thiệt hại kinh tế khoảng 30.000 tỷ đồng Từ nguyên nhân trên, việc dự báo nhiệt độ lượng mưa vấn đề cần thiết nhằm hỗ trợ người dân ứng phó biến đổi khí hậu kịp thời PHƯƠNG PHÁP ĐỀ XUẤT Trong viết này, kỹ thuật học sâu với mơ hình đa biến nhớ dài-ngắn hạn (Multivariate long short-term memory- MLSTM) đề xuất để dự báo số nhiệt độ lượng mưa trung bình hàng tháng Việt Nam Mơ hình dự báo dựa mạng nhớ dài-ngắn hạn (long - short term memory- LSTM) Mô hình cải tiến từ mạng nơron thơng thường với nhiều thuộc tính làm đầu vào mạng huấn luyện Đầu tiên liệu xếp thứ tự theo thời gian, chúng xem chuỗi thời gian liệu Kế đến bước biến đổi liệu từ chuỗi thành đa biến đầu vào cho mơ hình Sau cùng, mơ hình huấn luyện kiểm thử nhằm đánh giá độ tin cậy Trong nghiên cứu này, phương pháp tiếp cận dựa mơ hình máy học như: mạng nơ-ron đa tầng (MLP), hồi quy vector hỗ trợ (SVR), nhớ dài-ngắn hạn Ngồi ra, mơ hình đa biến nhớ dài - ngắn hạn đề xuất với chuỗi thời gian có nhiều biến làm liệu đầu vào cho mạng LSTM nhằm giải vấn đề phương pháp dự báo cũ (phụ thuộc xa liệu chuỗi thời gian mạng nơ-ron thơng thường, nâng cao độ xác dự báo) Với nghiên cứu này, nhớ dài - ngắn hạn sử dụng làm mạng để dự báo nhiệt độ lượng mưa tháng với phương pháp đề xuất đánh giá hai tập liệu, tập liệu dự báo theo tuần, theo tháng ICRISAT_Weather.csv từ năm 1978 đến năm 2018 tập liệu Temper_Rainfall.csv thể hiển liệu lịch sử nhiệt độ lượng mưa hàng tháng Việt Nam từ năm 1901 đến năm 2015 Hình trình bày mơ hình tổng quan phương pháp đề xuất Những năm gần tốn dự báo khí hậu toán nhận nhiều ý cộng đồng nghiên cứu khoa học nước Nghiên cứu tài liệu liên quan đến phương pháp dự báo tập trung xem xét Các công trình trước cho thấy học sâu với LSTM phương pháp thích hợp cho Tạp chí Khoa học Trường Đại học Cần Thơ Tập 58, Số 4A (2022): 8-16 Hình Mơ hình tổng quan phương pháp đề xuất − Dữ liệu: Bao gồm tập liệu nhiệt độ lượng mưa số thuộc tính liên quan khác, chia thành tập gồm tập huấn luyện (training set) tập kiểm tra (testing set) tính mặc định chúng, nên khơng cần phải huấn luyện mà nhớ được; tức nội ghi nhớ mà khơng cần can thiệp − Dữ liệu huấn luyện: liệu để huấn luyện mơ hình máy học Điểm khác biệt xây dựng mơ hình LSTM với MLSTM liệu đầu vào mạng Ở đây, giá trị thời gian (t-1) trước sử dụng để dự báo cho giá trị thời gian t Dữ liệu đơn biến đầu vào mạng LSTM mơ tả ví dụ Hình Trong đó, var1(t) thuộc tính cần dự báo var1(t-1) giá trị thuộc tính var1 thời điểm t-1 trước dùng để làm thuộc tính đầu vào cho mơ hình − Dữ liệu kiểm tra: dùng để đánh giá hiệu mơ hình với nhau; từ xác định mơ hình hiệu − Huấn luyện mơ hình MLSTM, LSTM, MLP, SVR − Kết quả: Để so sánh kết mơ hình với nhau, hai độ đo phổ biến RMSE (Root Mean Square Error) MAE (Mean Absolute Error) sử dụng 2.1 Xây dựng mơ hình dự báo 2.1.1 Xây dựng mơ hình dự báo LSTM Trong kỹ thuật học sâu (deep learning - DL) Mạng nơ-ron hồi quy (Recurrent Neural Network RNN), mở rộng LSTM, thuật toán ý nhiều thời gian gần chúng cho kết tốt Hình Dữ liệu đơn biến Kiến trúc mạng LSTM đơn biến sử dụng liệu đầu vào luồng liệu bước thời gian có trình tự, tầng LSTM có 50 nút lớp ẩn có nút Kết dự báo sử dụng kỹ thuật Early Stopping cho epoch liên tục huấn luyện tối đa 100 epochs 2.1.2 Xây dựng mơ hình dự báo MLSTM Mạng nhớ dài - ngắn hạn dạng đặc biệt RNN, có khả học phụ thuộc xa LSTM giới thiệu Hochreiter and Schmidhuber (1997) sau cải tiến phổ biến nhiều người ngành cơng nghệ thơng tin LSTM hoạt động hiệu nhiều tốn khác nên dần trở nên phổ biến LSTM thiết kế để tránh vấn đề phụ thuộc xa (long-term dependency) Việc nhớ thông tin suốt thời gian dài đặc Việc xây dựng mơ hình thực sau chuẩn hóa liệu đầu vào Chuẩn hóa liệu đầuvào thực qua bước mơ tả Mơ hình đa biến đầu vào LSTM sử dụng chuỗi thời gian có nhiều biến làm liệu đầu vào 10 Tạp chí Khoa học Trường Đại học Cần Thơ Tập 58, Số 4A (2022): 8-16 cho mạng LSTM Phương pháp dự báo chuỗi thời gian sử dụng quan sát có độ trễ (t-1) làm biến đầu vào để dự báo bước thời gian (t) Với quan sát có nhiều thuộc tính, ta sử dụng tất giá trị thuộc tính có độ trễ (t-1) để làm đầu vào Ví dụ sử dụng giá trị var1(t1) var2(t-1) để dự báo cho giá trị var1(t), với t bước thời gian Hình mơ tả ví dụ với biến đầu vào cho mạng LSTM (cột cần dự báo đóng khung) từ liệu đầu vào Việc chuẩn hóa liệu đầu vào minh hoạ Hình Trong toán dự báo lượng mưa nhiệt độ, liệu trước đưa vào mơ hình chuẩn hóa Bước 1: Chuyển đổi liệu dạng liệu theo tuần Hình Đa biến đầu vào cho mạng LSTM Hình Dữ liệu theo tuần giá trị thời gian (t-1, t-2, t-3) kết hợp với thuộc tính khác bước thời gian t sử dụng để dự báo thuộc tính đích (target/class attribute) thời gian t Trong ví dụ này, cột liệu cần dự báo var9(t) Hình Bước 2: Dữ liệu sau chuẩn hóa chuyển thành liệu đa biến đầu vào, sử dụng bước thời gian (việc lựa chọn dựa phương pháp tìm kiếm siêu tham số cho tập liệu) Nghĩa Hình Dữ liệu chuẩn hóa Sau bước chuẩn hóa liệu, mơ hình MLSTM xây dựng với hỗ trợ thư viện Keras Kiến trúc mạng MLSTM gồm có liệu đầu vào (Input data) luồng liệu bước thời gian có trình tự (Sequences of time steps), tầng LSTM (LSTM layer) có 50 nút (node) tầng ẩn (Dense layer) có nút cho kết dự báo mơ tả Hình 11 Tạp chí Khoa học Trường Đại học Cần Thơ Tập 58, Số 4A (2022): 8-16 Hình Kiến trúc mạng MLSTM Để đảm bảo mơ hình khơng học vẹt (overfiting), kỹ thuật early stopping sử dụng huấn luyện Kỹ thuật sử dụng hàm gọi lại (callback) sau xem xét kỳ huấn luyện (epochs) Trong epochs liên tiếp, độ lỗi loss val_loss không biến động (theo chiều hướng giảm dần) 0.01 mơ hình dừng việc huấn luyện Nếu overfitting khơng xảy q trình huấn luyện chạy tối đa 100 epoch Ngoài ra, kỹ thuật giúp giảm đáng kể thời gian huấn luyện mô hình 2.1.3 Xây dựng mơ hình dự báo MLP thêm vào Thư viện Keras sử dụng để xây dựng mơ hình MLP kiến trúc chi tiết gồm liệu đầu vào tầng ẩn Tầng ẩn có 18 node sử dụng hàm kích hoạt ReLU (rectified linear unit) Tầng ẩn thứ có 54 node, sử dụng hàm kích hoạt Sigmoid Tầng ẩn thứ có 18 node, sử dụng hàm kích hoạt ReLU Tầng thứ tầng output có node cho giá trị đầu Do khơng có quy định chuẩn việc chọn số tầng ẩn, mơ hình thiết kế bắt đầu với tầng ẩn chạy thử nghiệm để tìm số tầng ẩn phù hợp Kết thích hợp tầng ẩn Cũng giống phương pháp MLSTM, kỹ thuật Early Stopping sử dụng huấn luyện Kiến trúc mạng MLP mơ tả Hình MLP phiên cải tiến Perceptron để làm việc hiệu với liệu phi tuyến tính giới thực, nhiều nơ-ron nhiều tầng ẩn Hình Kiến trúc mạng MLP hợp với liệu đa biến phi tuyến tính liệu thực nghiệm 2.2 Phương pháp đánh giá kết 2.1.4 Xây dựng mơ hình dự báo SVR SVR là dạng máy học véc tơ hỗ trợ dành cho việc dự đoán giá trị liên tục Với hỗ trợ thư viện học máy Scikit-learn1, xây dựng model SVR sử dụng hàm nhân Radial Basis Function (RBF), khơng truyền tham số trực tiếp vào mơ hình nên tham số lấy mặc định từ thư viện, thông số (kernel) định kiểu hạt nhân sử dụng thuật toán, hệ số (gamma), tham số (C) điều chỉnh độ mạnh yếu mơ hình, tham số (epsilon) kiểm sốt chức tập luyện để so sánh với giá trị thực, tham số (cache_size) định kích thước nhớ đệm hạt nhân số tham số khác,… Hàm phù Để đánh giá kết phương pháp, hai độ đo lỗi RMSE MAE sử dụng nghiên cứu Đây hai số số liệu phổ biến sử dụng để đo độ xác cho biến liên tục 𝑛 RMSE = √ ∑( 𝑦𝑗 − ŷ𝑗 ) 𝑛 𝑗=1 MAE = ∑𝑛𝑗=1|𝑦𝑗 − ŷ𝑗 | 𝑛 12 Tạp chí Khoa học Trường Đại học Cần Thơ Tập 58, Số 4A (2022): 8-16 năm từ năm 1978 đến 2018, tập liệu gốc theo ngày với 14.852 dịng Mỗi dịng có thuộc tính nhiệt độ (MaxT, MinT), lượng mưa (rainfall), độ ẩm cao, thấp (RH1, RH2), hướng gió (wind), bốc (evaporation), số tính lượng mưa (SSH), xạ mặt trời (radiation), lượng nước bốc lên (FAO56_ET) Tập liệu thứ hai Temper_Rainfall tập liệu nhiệt độ lượng mưa trung bình hàng tháng Việt Nam, gồm 115 năm từ năm 1901 đến 2015, trích từ tập liệu chuẩn công khai trang OpenDevelopment Mê Kông bao gồm 1.380 dịng có thuộc tính nhiệt độ (temperature) lượng mưa (rainfall) Chi tiết hai tập liệu mô tả Bảng Trong đó: yj giá trị thực mẫu thứ j, 𝑦̂𝑗 giá trị dự đoán mẫu thứ j, n số mẫu dùng để đánh giá Để tiến hành đánh giá mơ hình dự báo nhiệt độ lượng mưa, ngơn ngữ lập trình Python chạy Google Colab gói thư viện mã nguồn mở Keras Sklearn sử dụng Chương trình bao gồm mơ hình: đa biến nhớ dài - ngắn hạn, nhớ dài - ngắn hạn, mạng nơ-ron đa tầng Hồi quy vector hỗ trợ dự báo nhiệt độ lượng mưa Để đánh giá mơ hình, phương pháp tính độ lỗi phổ biến RMSE MAE sử dụng, minh hoạ hai công thức KẾT QUẢ THỬ NGHIỆM 3.1 Dữ liệu thực nghiệm Hai tập liệu sử dụng thực nghiệm Tập liệu thứ ICRISA tập liệu nhiệt độ lượng mưa Ấn Độ (gồm 41 Bảng Mô tả liệu Tập liệu gốc Số mẫu Tập liệu xử lý tin gốc ICRISAT_Weather_Week Số mẫu tin Mô tả Chuyển liệu chuỗi thời gian theo tuần ICRISAT_Weather 14852 Chuyển liệu chuỗi thời ICRISAT_Weather_Month 488 gian theo tháng Dữ liệu có cột nhiệt độ Temper_Rainfall 1380 Temperature_Rain_Month 1380 lượng mưa Tập liệu ICRISAT_Weather dạng chuỗi thời lấy tất liệu tháng năm gian theo ngày, có nhiều thuộc tính ảnh hưởng đến chia trung bình liệu theo tháng (ví dụ lấy tất dự báo phù hợp cho mơ hình MLSTM đa biến liệu tháng năm 2018 chia trung bình Dữ liệu tiền xử lý cách tính sao: liệu tháng), liệu sau xử lý mơ tả tuần có ngày, lấy trung bình ngày để chuyển Bảng dạng chuỗi thời gian theo tuần, tương tự Bước Dữ liệu sau tiền xử lý Tập liệu ICRISAT_Weather_Week 2122 Số mẫu Số cột Mô tả tin 1.Nhiệt độ tối đa, tối thiểu (MaxT, - Các thuộc tính ngữ MinT) cảnh liên quan đến dự Lượng mưa (rainfall) báo, giúp tăng độ Độ ẩm cao (RH1) xác Độ ẩm thấp (RH2) - Đánh giá ảnh Hướng gió (wind) hưởng thuộc Bốc (Evaporation) tính mơi trường xung 7.Chỉ số tính lượng mưa (SSH) quanh đến kết dự Bức xạ mặt trời (radiation) báo 9.Lượng nước bốc lên (FAO56_ET) Nhiệt độ (temperature) Lượng mưa (rainfall) 2122 ICRISAT_Weather_Month 488 Temperature_Rain_Month 1380 Mục đích 13 Tạp chí Khoa học Trường Đại học Cần Thơ Tập 58, Số 4A (2022): 8-16 Riêng tập liệu Temperature_Rain_Month nhiệt độ lượng mưa trung bình hàng tháng từ tháng năm 1901 đến tháng 12 năm 2015 Ví dụ: tổng liệu nhiệt độ lượng mưa trung bình hàng tháng cho năm 1901 2883872oC 17237291 mm, biểu đồ thể nhiệt độ lượng mưa trung bình hàng tháng năm 1901 Việt Nam thể Hình Hình Biểu đồ thể nhiệt độ lượng mưa trung bình hàng tháng Bảng so sánh kết dự báo tập liệu từ mơ hình MLP, SVR, LSTM MLSTM, kết tốt cho tập liệu in đậm Dữ liệu lấy ngẫu nhiên 80% mẫu tin đầu cho huấn luyện 20% mẫu tin cuối cho kiểm tra (theo trình tự thời gian) Mục đích việc Bảng Kết dự báo mô hình Tập liệu Tổng số dịng/cột Dịng Cột MLP chia liệu nhằm bám sát theo thực tế, dựa thuộc tính học để dự báo cho thuộc tính Vì tính ngẫu nhiên giải thuật nên phương pháp MLP khơng cần trình tự thời gian, huấn luyện lần tập liệu RMSE MAE SVR LSTM MLSTM MLP Nhiệt độ ICRISAT_weather_week 2122 1.566 1.544 ICRISAT_weather_month 488 3.386 1.907 Temperature_rain_month 1380 1.696 1.634 Lượng mưa ICRISAT_weather_week 2122 4.371 4.546 ICRISAT_weather_month 488 2.475 2.496 Temperature_rain_month 1380 67.023 70.427 Từ tập liệu ICRISAT_weather_week gồm chín thuộc tính liên quan đến nhiệt độ lượng mưa cho thấy mơ hình MLSTM đạt hiệu với độ lỗi RMSE 1.335 MAE 1.012, tương ứng tập liệu lượng mưa 4.190 2.493 Trên tập liệu ICRISAT_weather_month cho thấy mơ hình MLSTM đạt hiệu tốt với độ lỗi RMSE tập nhiệt độ 1.311 MAE 1.051, tương ứng tập liệu lượng mưa 2.299 1.450 Với kết thu từ tập liệu dự báo bước thời gian theo tuần, theo tháng từ năm (1978-2018) mơ hình dự báo MLSTM ln cho kết tốt Tuy nhiên, độ lỗi MAE lượng mưa lại chưa tốt mơ hình MLP Từ cho thấy lượng mưa phân bố khơng đồng đều, biến động liên tục năm 14 1.506 1.731 1.634 1.335 1.311 1.133 1.215 2.645 1.207 SVR LSTM MLSTM 1.143 1.493 1.235 1.143 1.446 1.275 1.012 1.051 0.863 4.418 4.190 2.002 2.080 2.688 2.493 2.504 2.299 1.359 1.417 1.786 1.450 76.922 54.291 47.011 55.324 59.296 40.495 ảnh hưởng đến kết dự báo Bên cạnh, sử dụng mô hình đa biến với thuộc tính ngữ cảnh có ảnh hưởng đến kết dự báo Vì vậy, việc xác định thuộc tính, ngữ cảnh, liệu liên quan đưa vào huấn luyện quan trọng tốn dự báo thời gian với mơ hình MLSTM Tập liệu TEMPER_Rain_Month gồm hai thuộc tính Nhiệt độ trung bình tháng lượng mưa, năm 1901 2883872oC 17237291 mm trình bày Hình cho thấy nhiệt độ cao lượng mưa phổ biến thời gian năm Vào tháng Giêng tháng Hai, lượng mưa quan sát thấp Mặt khác, nhiệt độ trung bình tháng dao động quanh năm 38oC Dữ liệu thời Tạp chí Khoa học Trường Đại học Cần Thơ Tập 58, Số 4A (2022): 8-16 tiết 115 năm sử dụng lấy ngẫu nhiên 80% mẫu tin đầu cho huấn luyện 20% mẫu tin cuối cho kiểm tra (theo trình tự thời gian) Do độ chênh lệch nhiệt độ lượng mưa lớn nên dẫn đến độ lỗi dự báo lượng mưa qua mơ hình MLSTM cao RMSE 54.2909 MAE 40.4946 so với nhiệt độ có RMSE 1.133 MAE 0.863 Với kết thu từ tập liệu dự báo bước thời gian theo tháng từ năm (19012015), mơ hình dự báo MLSTM chiếm độ lỗi thấp so với mơ hình LSTM, SVR, MLP Từ cho thấy mơ hình đa biến đầu vào mạng LSTM sử dụng chuỗi thời gian có nhiều biến làm liệu đầu vào cho kết dự báo tốt Tuy nhiên, thử nghiệm cho thấy độ lệch chuẩn liệu lớn thuộc tính dự báo ảnh hưởng đến độ lỗi dự báo Kết so sánh độ lỗi tập liệu ICRISAT_Weather_Month cho thấy mơ hình LSTM MLSTM đạt kết tốt mô hình khác tập liệu Có thể thấy mạng LSTM hoạt động tốt luồng liệu bước thời gian có trình tự Để kiểm tra hiệu suất dự báo, đồ thị thiết lập với trục tung loss, trục hoành epoch, xem xét tổn thất huấn luyện số kỷ nguyên mơ hình để đánh giá hiệu suất mơ hình dự báo Tổn thất huấn luyện mơ hình dự báo nhiệt độ lượng mưa trình bày Hình 10 Tổn thất dự báo nhiệt độ hội tụ sau 10 kỷ nguyên, tương ứng với lượng mưa hội tụ sau 25 kỷ nguyên Hình Train loss với epoch dự báo nhiệt độ Đồ thị kết dự báo nhiệt độ lượng mưa theo tháng với tập liệu ICRISAT_Weather_Month mơ hình MLSTM trình bày Hình 11 Quan sát biểu đồ Hình 10 Train loss với epoch dự báo lượng mưa này, ta thấy mơ hình MLSTM dự báo tốt theo tiêu chí RMSE so với mơ hình khác Hình 11 So sánh kết dự báo nhiệt độ lượng mưa Dữ liệu sau thu thập xử lý tiến hành huấn luyện kiểm tra với mơ hình đa biến nhớ dài - ngắn hạn Kết thực nghiệm so sánh với mơ hình dự báo khác LSTM, MLP, SVR cho thấy phương pháp tiếp cận đề xuất tạo dự báo xác, áp dụng vào hệ thống thực tế KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN Phương pháp dự báo nhiệt độ lượng mưa kỹ thuật học sâu đề xuất nhằm hỗ trợ người dân có kế hoạch gieo trồng phù hợp, góp phần thúc đẩy ngành nơng nghiệp Việt Nam nói chung khu vực đồng sơng Cửu Long nói riêng 15 Tạp chí Khoa học Trường Đại học Cần Thơ Tập 58, Số 4A (2022): 8-16 Nghiên cứu tiếp tục cải tiến nhằm nâng cao độ xác mơ hình dự báo phát triển mơ hình để dự báo cho nhiều bước thời gian đầu vào, đầu hình thành cơng cụ để thuận tiện cho người dùng cuối sử dụng Bên cạnh, so sánh với nghiên cứu liên quan thực tương lai TÀI LIỆU THAM KHẢO Chính, H (2020) Thiệt hại 30.000 tỷ đồng thiên tai dị thường miền Trung https://baochinhphu.vn/thiet-hai-30000-ty-dongdo-thien-tai-di-thuong-o-mien-trung102283633.htm Lim, B., & Zohren, S (2020) Time Series Forecasting With Deep Learning: A Survey https://doi.org/10.1098/rsta.2020.0209 Ikram, B A O., Abdelhakim, B A., Abdelali, A., Zafar, B., & Mohammed, B (2019, March) Deep Learning architecture for temperature forecasting in an IoT LoRa based system In Proceedings of the 2nd International Conference on Networking, Information Systems & Security (pp 1-6) https://doi.org/10.1145/3320326.3320375 Poornima, S., & Pushpalatha, M (2019) Prediction of rainfall using intensified LSTM based recurrent neural network with weighted linear units Atmosphere, 10(11), 668 https://doi.org/10.3390/atmos10110668 Wang, L., Xu, L., Xu, M., Liu, G., Xing, J., Sun, C., & Ding, H (2015) Obesity-associated MiR-3423p promotes adipogenesis of mesenchymal stem cells by suppressing CtBP2 and releasing C/EBPα from CtBP2 binding Cellular Physiology and Biochemistry, 35(6), 2285-2298 Hochreiter, S., & Schmidhuber, J (1997) Long short-term memory Neural Computation, 9(8), 1735-1780 Kratzert, F., Klotz, D., Brenner, C., Schulz, K., & Herrnegger, M (2018) Rainfall–runoff modelling using long short-term memory (LSTM) networks Hydrology and Earth System Sciences, 22(11), 6005-6022 https://doi.org/10.5194/hess-22-6005-2018 Zhang, Q., Wang, H., Dong, J., Zhong, G., & Sun, X (2017) Prediction of sea surface temperature using long short-term memory IEEE Geoscience and Remote Sensing Letters, 14(10), 1745-1749 https://doi.org/10.1109/LGRS.2017.2733548 16

Ngày đăng: 01/12/2022, 11:20

Xem thêm:

HÌNH ẢNH LIÊN QUAN

Hình 3. Đa biến đầuvào cho mạng LSTM Bước 1: Chuyển đổi dữ liệu về dạng dữ liệu theo  - ỨNG DỤNG MƠ HÌNH ĐA BIẾN BỘ NHỚ DÀI - NGẮN HẠN TRONG DỰ BÁO NHIỆT ĐỘ VÀ LƯỢNG MƯA
Hình 3. Đa biến đầuvào cho mạng LSTM Bước 1: Chuyển đổi dữ liệu về dạng dữ liệu theo (Trang 4)
Hình 6. Kiến trúc mạng MLSTM - ỨNG DỤNG MƠ HÌNH ĐA BIẾN BỘ NHỚ DÀI - NGẮN HẠN TRONG DỰ BÁO NHIỆT ĐỘ VÀ LƯỢNG MƯA
Hình 6. Kiến trúc mạng MLSTM (Trang 5)
Để đảm bảo mơ hình không học vẹt (overfiting), kỹ  thuật  early  stopping  được  sử  dụng  khi  huấn  luyện - ỨNG DỤNG MƠ HÌNH ĐA BIẾN BỘ NHỚ DÀI - NGẮN HẠN TRONG DỰ BÁO NHIỆT ĐỘ VÀ LƯỢNG MƯA
m bảo mơ hình không học vẹt (overfiting), kỹ thuật early stopping được sử dụng khi huấn luyện (Trang 5)
Bảng 1. Mô tả dữ liệu - ỨNG DỤNG MƠ HÌNH ĐA BIẾN BỘ NHỚ DÀI - NGẮN HẠN TRONG DỰ BÁO NHIỆT ĐỘ VÀ LƯỢNG MƯA
Bảng 1. Mô tả dữ liệu (Trang 6)
Hình 8. Biểu đồ thể hiện nhiệt độ và lượng mưa trung bình hàng tháng - ỨNG DỤNG MƠ HÌNH ĐA BIẾN BỘ NHỚ DÀI - NGẮN HẠN TRONG DỰ BÁO NHIỆT ĐỘ VÀ LƯỢNG MƯA
Hình 8. Biểu đồ thể hiện nhiệt độ và lượng mưa trung bình hàng tháng (Trang 7)
Bảng 3 so sánh kết quả dự báo trên các tập dữ  liệu  từ  các  mơ  hình  MLP,  SVR,  LSTM  và  MLSTM, kết quả tốt nhất cho từng tập dữ liệu được  in đậm - ỨNG DỤNG MƠ HÌNH ĐA BIẾN BỘ NHỚ DÀI - NGẮN HẠN TRONG DỰ BÁO NHIỆT ĐỘ VÀ LƯỢNG MƯA
Bảng 3 so sánh kết quả dự báo trên các tập dữ liệu từ các mơ hình MLP, SVR, LSTM và MLSTM, kết quả tốt nhất cho từng tập dữ liệu được in đậm (Trang 7)
Hình 11. So sánh kết quả dự báo nhiệt độ và lượng mưa 4.  KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN  - ỨNG DỤNG MƠ HÌNH ĐA BIẾN BỘ NHỚ DÀI - NGẮN HẠN TRONG DỰ BÁO NHIỆT ĐỘ VÀ LƯỢNG MƯA
Hình 11. So sánh kết quả dự báo nhiệt độ và lượng mưa 4. KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN (Trang 8)
này, ta có thể thấy rằng mơ hình MLSTM dự báo khá  tốt  theo  tiêu  chí  RMSE  so  với  các  mơ  hình  khác - ỨNG DỤNG MƠ HÌNH ĐA BIẾN BỘ NHỚ DÀI - NGẮN HẠN TRONG DỰ BÁO NHIỆT ĐỘ VÀ LƯỢNG MƯA
n ày, ta có thể thấy rằng mơ hình MLSTM dự báo khá tốt theo tiêu chí RMSE so với các mơ hình khác (Trang 8)

TÀI LIỆU CÙNG NGƯỜI DÙNG

  • Đang cập nhật ...

TÀI LIỆU LIÊN QUAN