Tối Ưu Thứ Tự Các Block Cho Mô Hình AN BEATS Trong Dự Báo Phụ Tải Điện Ngắn Hạn Ở Việt Nam Hà Mai Huyền Trang 1, Nguyễn Anh Tuấn 2, Nguyễn Thị Thanh Tân 3, Lương Trung Kiên 4, Lê Anh Ngọc 5 1 Cục Công[.]
Hội nghị Quốc gia lần thứ 25 Điện tử, Truyền thông Công nghệ Thông tin (REV-ECIT2022) Tối Ưu Thứ Tự Các Block Cho Mơ Hình ANBEATS Trong Dự Báo Phụ Tải Điện Ngắn Hạn Ở Việt Nam Hà Mai Huyền Trang 1, Nguyễn Anh Tuấn 2, Nguyễn Thị Thanh Tân 3, Lương Trung Kiên 4, Lê Anh Ngọc Cục Công nghệ thông tin, Bộ Công an Đại học Bách khoa Hà Nội Đại học Điện Lực Đại học FPT Swinburne Vietnam, Đại học FPT Email: hamaihuyen91@gmail.com, anhtuannguyen280798@gmail.com, tanntt@epu.edu.vn, kienlt6@fe.edu.vn, ngocla2@fe.edu.vn Zheng cộng [5] nghiêm cứu mơ hình dựa lọc Kalman thực nghiệm thu kết có sai số dự đoán nhỏ Tuy nhiên mức độ dự báo mức độ chi tiết theo thời gian mơ hình Kalman giới hạn bước với bước nhảy tính theo ngày Ngồi ra, Wuyong Qian cộng [6] đề xuất phương pháp dự báo tải điện theo mùa dựa tên tích hợp lọc HP vào mơ hình GM (1,1) Mơ hình đề xuất sau áp dụng để thực phân tích thực nghiệm dựa liệu sản xuất điện gió theo mùa từ năm 2013 đến năm 2019 Trung Quốc Phương pháp áp dụng cho liệu tải với xu hướng tăng trưởng theo cấp số nhân Các phương pháp truyền thống xử lý phân tích chuỗi tuyến tính, khơng áp dụng cho chuỗi phi tuyến liệu tải điện cần chuyển liệu gốc thành chuỗi thời gian tĩnh Mơ hình GM (1,1) có u cầu cao xu hướng biến đổi liệu thực tế xu hướng biến đổi hầu hết liệu tải chưa đạt yêu cầu Trong [3], Yi Wang công đề xuất phương pháp dự báo phụ tải sử dụng mạng LSTM với hàm lỗi Pinball Các thí nghiệm thực tập liệu phụ Ireland cho kết vượt trội so với phương pháp truyền thống Tuy nhiên, mô hình có thời gian chạy chậm N-BEATS [4] mơ hình học sâu xây dựng lớp kết nối đầy đủ để giải vấn đề dự báo chuỗi thời gian đơn biến hoạt động tốt với liệu chuỗi thời gian nhiều lĩnh vực cạnh tranh Ưu điểm quan trọng mơ hình đào tạo nhanh, diễn giải tính xu hướng, tính mùa từ liệu từ kết đầu AN-BEATS với khối theo mùa điều chỉnh tối ưu hóa thứ tự khối Bài báo nhằm nâng cao độ xác dự báo phụ tải điện mơ hình AN-BEATS Chúng thực số thay đổi với Biến đổi Fourier rời rạc khối theo mùa mơ hình N-BEATS, đồng thời xem xét ảnh hưởng thứ tự khối đến độ xác dự báo phụ tải điện Cụ thể, tạo kết hợp sáu khối Abstract- Dự báo phụ tải điện việc quan trọng vận hành hệ thống điện Nghiên cứu tập trung vào giải vấn đề tối ưu hóa thứ tự block mơ hình dự báo N-BEATS Đồng thời, khối theo mùa NBEATS điều chỉnh cách Biến đổi Fourier rời rạc Do đó, mơ hình AN-BEATS tối ưu thứ tự block đề xuất để dự báo phụ tải điện ngắn hạn Việt Nam Thử nghiệm cho thấy mơ hình đề xuất hoạt động tốt mơ hình LSTM thứ tự khối có ảnh hưởng đến kết dự đốn mơ hình Keywords- Dự báo phụ tải ngắn hạn, AN-BEATS, tính xu hướng, tính mùa, chuỗi thời gian, học sâu I TỔNG QUAN VỀ TÌNH HÌNH NGHIÊN CỨU Dự báo nhu cầu phụ tải điện hệ thống điện quốc gia ngày trở nên quan trọng, làm sở để lập kế hoạch đầu tư phát triển hệ thống điện quốc gia, kế hoạch phương thức vận hành hệ thống điện vận hành thị trường điện Nhiều mơ hình dự báo truyền thống mơ hình học máy đề xuất để dự báo phụ tải điện đạt kết định Các mơ hình chủ yếu chia thành hai loại: phương pháp dự báo truyền thống kỹ thuật dự báo đại, đề xuất dựa trí tuệ nhân tạo Trước mơ hình tốn học truyền thống hay áp dụng như: hồi quy tuyến tính, phương pháp tự hồi quy… để dự báo phụ tải điện Tuy nhiên, mơ hình đề xuất đơn giản, sai số dự đoán cao tăng lên mở rộng khoảng dự đoán Học sâu học giả lựa chọn để dự báo phụ tải điện ngắn hạn lợi ích khác chúng liệu thực nghiệm Yaoyao He et al [1] trình bày mơ hình để xử lý vấn đề dự báo mật độ xác suất phụ tải điện ngắn hạn Hồi quy lượng tử vector hỗ trợ dựa hạt nhân (KSVQR) lý thuyết Copula sử dụng mơ hình Dự báo phụ tải điện ngắn hạn giải báo [2] cách tích hợp máy học cực trị (ELM) với thuật toán PSO trễ chuyển mạch ISBN 978-604-80-7468-5 193 Hội nghị Quốc gia lần thứ 25 Điện tử, Truyền thông Công nghệ Thông tin (REV-ECIT2022) bao gồm ba khối xu hướng ba khối theo mùa Sau đó, với cách xếp block, chúng tơi huấn luyện mơ hình đánh giá kết mơ hình để tìm mơ hình tốt Cấu trúc báo sau: - Phần giải thích phương pháp luận mơ hình NBEATS, khối seasionality AN-BEATS mơ hình Đề xuất - Phần trình bày thí nghiệm kết - Phần cuối báo kết luận thảo luận Từ đó, ta có biểu thức dự báo theo mùa sau: =S , (3) , Trong đó: ]T hàm dự báo mạng FC , =[ , , , , , ,…, , , lớp l ngăn xếp s , …, cos[ -1] Ma trận S= [1, cos sin[ -1] , sin , …, ] = điều hịa thứ i với tần số Ta thấy N lẻ (2) có (N-1) số hạng bị sót thành phần: MƠ HÌNH DỰ BÁO AN-BEATS TỐI ƯU THỨ TỰ CÁC BLOCK Dữ liệu đầu vào Xét toán dự báo đơn chuỗi thời gian : Từ chuỗi thời gian có độ dài =[ - + , - + ,… , ] ∈ ta cần dự báo giá trị bước = Ta kí hiệu dự đốn [ + , + , … , +N] ∈ mô hình cho vectơ Kích thước liệu đầu vào = N ( thường nằm khoảng từ [2; 7]) gọi khoảng thời gian xem lại (lookback period) Mơ hình N-BEATS (Ký hiệu F) học tìm hiểu chuỗi thời gian từ khoảng thời gian xem lại để dự đoán giá trị N điểm tiếp theo: (1) , …, = F( , , … , ) , N-BEATS Mơ hình N-BEATS đưa báo [4] bao gồm block xếp chồng lên Đầu vào block đầu vào tổng thể mơ hình hay gọi khoảng thời gian xem lại Mỗi block có hai đầu Một đầu (backcast) làm đầu vào cho block II -1] cos[ = cos[ t] (4) N chẵn, phương trình (2) có đủ N số hạng, bị thành phần cos[ -1] = cos[ t] (5) Điều dẫn đến độ xác mơ hình dự báo giảm xuống Vì vậy, chúng tơi thực biến đổi Fourier rời rạc, thu sau: Với N lẻ: , = +∑ [ ,, ] ,, cos (2 )+ ,, [ ] sin (2 ) (6) ) (7) Với N chẵn: , =∑ ,, cos (2 )+∑ ,, sin (2 Đề xuất phương thức dự đoán Để giải vấn đề phụ tải điện với mơ hình ANBEATS, chúng tơi đề xuất mơ sau (xem Hình 2): • Bước 1: Dữ liệu chuỗi thời gian xử lý trước chia thành tập huấn luyện, xác nhận thử nghiệm • Bước 2: Huấn luyện mơ hình AN-BEATS tập huấn luyện • Bước 3: Đánh giá mơ hình xác nhận để chọn tham số tối ưu ( )! cách xếp block (trong a,b Ta có: M= ! ! số lượng trend block, số lượng seasonality block) Với cách xếp, quay trở lại bước Vịng lặp đến đạt M mơ hình ứng với M cách xếp • Bước 4: Chọn mơ hình có hiệu suất tốt Mơ hình cuối với thứ tự khối tối ưu hóa sử dụng để dự báo tập thử nghiệm Hình 1: Mơ hình N-BEATS AN-BEATS Mơ hình AN-BEATS đưa cách điều chỉnh seasonality block Để mơ hình tính mùa, hàm , , hàm tuần hoàn Với độ dài N, theo báo [4], biểu diễn Fourier thể sau: , =∑ [ ] ,, cos (2 ISBN 978-604-80-7468-5 )+ ,, [ ] sin (2 ) (2) 194 Hội nghị Quốc gia lần thứ 25 Điện tử, Truyền thông Công nghệ Thơng tin (REV-ECIT2022) với kích thước + = 288 để trượt với bước trượt tập liệu Mỗi lần trượt ta thu ghi liệu Với ghi thu từ cửa sổ trượt, đầu vào mơ hình tương ứng = 240 cửa sổ đầu giá trị phụ tải = 48 cửa sổ trượt Ví dụ cửa sổ trượt tập huấn luyện thu = [ (1), (2), , (240)] ( ) thơng tin quan sát thứ bao gồm giá trị phụ tải, nhiệt độ, độ ẩm, Giá trị đầu tương ứng thu từ ] cửa sổ trượt = [ 241 , 242 , … , giá trị phụ tải cần dự đoán thứ Tương tự, cửa sổ trượt thứ hai thu được: ] = [ (2), (3), … , (241)] = [ 242, 243, … , Kịch Để chứng minh hiệu mơ hình đề xuất, báo tác giả xây dựng kịch thử nghiệm: Kịch 1: Mơ hình N-BEATS đơn giản cấu tạo trend block, seasonality block generic block Kịch 2: Mơ hình N-BEATS gồm trend block (a=3), seasonality block (b=3) generic block Kịch 3: Mơ hình LSTM tham số Kịch 4: Mơ hình đề xuất Mơ hình AN-BEATS với số khối thứ tự thay đổi tương tự N-BEATS kịch Các kịch huấn luyện sử dụng phương pháp tối ưu Adam, tốc độ học khởi tạo 0.004, hàm mát hàm MSE huấn luyện 100 epoch, kích thước batch size 512 Bộ tham số tối ưu mơ hình kich chọn thông qua hàm mát tập kiểm định đạt giá trị tối ưu Kết RMSE, MAPE thời gian suy luận ghi thu bảng Hình Sơ đồ thuật tốn III THÍ NGHIỆM VÀ KẾT QUẢ Mơ tả liệu Dữ liệu sử dụng cho thí nghiệm liệu phụ tải điện Quốc gia Việt Nam từ ngày 01/01/2015 to 05/09/2020 với 58560 điểm liệu (bước nhảy thời gian: giờ) Bảng mô tả cách phân chia tập liệu để đào tạo kiểm tra Trong thử nghiệm đó, chúng tơi dự đoán giá trị tải hai ngày (N = 48) từ mười ngày trước (T = 240) Bảng Dữ liệu Dữ liệu Từ Đến Số lượng điểm Tập huấn luyện 01/2/2018 26/10/2019 15169 Tập tối ưu 23/11/2019 05/4/2020 Tập kiểm tra 05/01/2020 03/6/2020 2400 3600 Từ quan sát = 240 để dự đoán giá trị phụ tải = 48 tiếp theo, cần tạo liệu để phù hợp với đầu vào mô hình Các metric đánh giá Để đánh giá hiệu suất dự báo, sử dụng hai tiêu chí đánh giá Mean absolute percentage error (MAPE) Root mean square error (RMSE) = ℎự ế( )− ựđ Bảng Kết thử nghiệm ( ) ( ) Tiêu chí thứ hai, RMSE độ lệch chuẩn sai số dự đoán (phần dư) RMSE thước đo mức độ phân tán phần dư Cơng thức tính sai số RMSE: = ự ế( )− ựđ RMSE MAPE Thời gian (ms) Kịch 1733.10 4.48% 0.22 Kịch 1657.35 4.10% 0.44 Kịch 1701.28 4.19% 115 Kịch 1589.30 4.09% 0.42 Từ bảng trên, chúng tơi có số thảo luận sau: - Mơ hình kịch có thời gian suy luận ghi nhanh độ xác thấp mơ hình đơn giản (chỉ gồm trend block, seasonality block, generic block) nên dự đốn tốt liệu Mơ hình đề xuất kịch đạt kết tốt so với kịch - Từ đây, thấy thứ tự block ảnh hưởng đến hiệu suất mơ hình ( ) Tiền xử lý liệu Từ liệu quan sát = 240 để dự đoán giá trị phụ tải = 48 tiếp theo, nghiên cứu cần tạo liệu để phù hợp với đầu vào mơ hình Hình 3.3 mô tả cách tạo liệu đầu vào đầu để huấn luyện kiểm thử mơ hình Cụ thể, ta sử dụng cửa sổ trượt ISBN 978-604-80-7468-5 Kịch 195 Hội nghị Quốc gia lần thứ 25 Điện tử, Truyền thông Công nghệ Thông tin (REV-ECIT2022) - Ngoài ra, nghiên cứu cho thấy mơ hình kịch đạt kết tốt so với mơ hình LSTM kịch Các mơ hình N-BEATS chạy nhanh nhiều lần so với mơ hình LSTM (115 ms) Mơ hình ANBEATS đạt kết tốt N-BEATS support vector quantile regression and copula theory Applied Energy 185, 254–266 (2017) IV KẾT LUẬN Bài báo trình bày phương pháp đề xuất dựa mơ hình học sâu AN-Beats tối ưu thứ tự block để dự đoán phụ tải điện ngắn hạn Việt Nam Mơ hình có số ưu điểm khả tính tốn nhanh, diễn giải tính xu hướng, tính mùa từ liệu, thứ tự block tối ưu so với mơ hình cũ Điều thể thơng qua thực nghiệm TÀI LIỆU THAM KHẢO [1] He, Y., Liu, R., Li, H., Wang, S., Lu, X.: Short-term power load probability density forecasting method using kernel-based ISBN 978-604-80-7468-5 196 [2] Zeng, N., Zhang, H., Liu, W., Liang, J., Alsaadi, F.E.: A switching delayed pso optimized extreme learning machine for short-term load forecasting Neurocomputing (2017) [3] [3]Song, L., Lalit, G., Peng, W.: An ensemble approach for short-term load forecasting by extreme learning machine Applied Energy 170, 22–29 (2016) [4] Oreshkin, B.N., Carpov, D., Chapados, N., Bengio, Y.: N-beats: Neural basis expansion analysis for interpretable time series forecasting In: International Conference on Learning Representations (2020) [5] Zheng, Zhuang & Chen, Hainan & Luo, Xiaowei: A Kalman filter-based bottom-up approach for household short-term load forecast”, Applied Energy, Elsevier (2019) [6] WuyongQian, JueWang: An improved seasonal GM(1,1) model based on the HP filter for forecasting wind power generation in China, Applied Energy (2020) ... and copula theory Applied Energy 185, 254–266 (2017) IV KẾT LUẬN Bài báo trình bày phương pháp đề xuất dựa mơ hình học sâu AN- Beats tối ưu thứ tự block để dự đoán phụ tải điện ngắn hạn Việt Nam. .. số hạng bị sót thành phần: MƠ HÌNH DỰ BÁO AN- BEATS TỐI ƯU THỨ TỰ CÁC BLOCK Dữ liệu đầu vào Xét toán dự báo đơn chuỗi thời gian : Từ chuỗi thời gian có độ dài =[ - + , - + ,… , ] ∈ ta cần dự báo. .. trở lại bước Vòng lặp đến đạt M mơ hình ứng với M cách xếp • Bước 4: Chọn mơ hình có hiệu suất tốt Mơ hình cuối với thứ tự khối tối ưu hóa sử dụng để dự báo tập thử nghiệm Hình 1: Mơ hình N-BEATS