ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC BÁCH KHOA NGÔ HỒNG HÂN XÂY DỰNG MƠ HÌNH MẠNG NƠRON NHÂN TẠO DỰ BÁO NĂNG LƯỢNG BỨC XẠ MẶT TRỜI TẠI NHÀ MÁY ĐIỆN MẶT TRỜI MỘ ĐỨC, QUẢNG NGÃI LUẬN VĂN THẠC SĨ KỸ THUẬT ĐIỀU KHIỂN VÀ TỰ ĐỘNG HÓA Đà Nẵng – Năm 2018 ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC BÁCH KHOA NGÔ HỒNG HÂN XÂY DỰNG MÔ HÌNH MẠNG NƠRON NHÂN TẠO DỰ BÁO NĂNG LƯỢNG BỨC XẠ MẶT TRỜI TẠI NHÀ MÁY ĐIỆN MẶT TRỜI MỘ ĐỨC, QUẢNG NGÃI Chuyên ngành: Kỹ thuật Điều khiển Tự động hóa Mã số: 8520216 LUẬN VĂN THẠC SĨ NGƯỜI HƯỚNG DẪN KHOA HỌC: Tiến sĩ Nguyễn Quốc Định Đà Nẵng – Năm 2018 i LỜI CAM ĐOAN Tơi xin cam đoan cơng trình nghiên cứu riêng hướng dẫn Tiến sĩ Nguyễn Quốc Định – Giảng viên môn Tự động hóa, khoa Điện, trường Đại học Bách khoa Đà Nẵng Các số liệu, kết nêu luận văn trung thực sản phẩm riêng cá nhân, không chép người khác Nội dung luận văn có tham khảo sử dụng số thơng tin, tài liệu từ nguồn sách, tạp chí liệt kê danh mục tài liệu tham khảo Tác giả luận văn Ngô Hồng Hân ii LỜI CẢM ƠN Được phân công Trường Đại học Bách khoa Đà Nẵng đồng ý thầy hướng dẫn, Tiến sĩ Nguyễn Quốc Định, em thực đề tài: “Xây dựng mơ hình mạng nơron nhân tạo dự báo lượng xạ mặt trời nhà máy điện mặt trời Mộ Đức, Quảng Ngãi” Để hoàn thành luận văn này, em xin chân thành cảm ơn thầy giáo tận tình giảng dạy, hướng dẫn, truyền đạt cho em nhiều kiến thức quý giá suốt trình học tập, nghiên cứu rèn luyện, đặc biệt thầy cô môn Tự động hóa – khoa Điện – trường Đại học Bách khoa Đà Nẵng Em xin tỏ lòng biết ơn sâu sắc đến thầy hướng dẫn, Tiến sĩ Nguyễn Quốc Định, tận tình giúp đỡ truyền đạt nhiều kinh nghiệm để em thực luận văn Em xin chân thành cảm ơn thành viên gia đình, đồng nghiệp, bạn bè ln hỗ trợ, động viên em suốt q trình hồn thiện đề tài Em xin chân thành cảm ơn! Đà Nẵng, ngày tháng năm 2018 Học viên Ngô Hồng Hân iii MỤC LỤC Lời cam đoan………………………………………………………………………… i Tóm tắt luận văn………………………………………………………………………v Danh mục từ viết tắt……….……………………………………………………… vi Danh mục hình…… ……………………………………………………………vii Danh mục bảng………………………………………………………………….viii MỞ ĐẦU …………………………………………………………………………… CHƯƠNG I: TỔNG QUAN VỀ NĂNG LƯỢNG BỨC XẠ MẶT TRỜI VÀ CÁC ỨNG DỤNG 1.1 Năng lượng xạ mặt trời 1.2 Ứng dụng lượng xạ mặt trời 1.2.1 Các ứng dụng lượng xạ mặt trời 1.2.2 Ứng dụng quang điện mặt trời 1.3 Tiềm năng lượng mặt trời Việt Nam 13 1.4 Tổng quan nhà máy điện mặt trời Mộ Đức, Quảng Ngãi [4] .15 1.4.1 Giới thiệu chung 15 1.4.2 Điều kiện khí hậu 15 1.4.3 Điều kiện địa hình .15 1.4.4 Đặc điểm khí tượng 15 1.4.5 Nguồn quang 16 1.4.6 Số nắng bình quân từ năm 2010 đến năm 2017 17 1.4.7 Phương án công nghệ nhà máy điện mặt trời Thiên Tân .17 1.4.8 Mơ hình kết lưới nhà máy 18 1.5 Sự cần thiết phải dự báo lượng xạ mặt trời cho nhà máy quang điện 19 CHƯƠNG II: TỔNG QUAN CÁC PHƯƠNG PHÁP DỰ BÁO NĂNG LƯỢNG BỨC XẠ MẶT TRỜI 21 2.1 Các mơ hình dự báo 21 2.1.1 Mơ hình vật lý khí 21 2.1.2 Mơ hình thống kê theo chuỗi thời gian .21 2.2 Tổng quan cơng trình sử dụng hệ thống ANN dự báo lượng xạ mặt trời công bố 23 iv 2.3 Sự cần thiết phải xây dựng mơ hình ANN để dự báo lượng xạ mặt trời cho nhà máy quang điện Mộ Đức 27 CHƯƠNG III: XÂY DỰNG MƠ HÌNH MẠNG NƠRON NHÂN TẠO DỰ BÁO NĂNG LƯỢNG BỨC XẠ MẶT TRỜI .28 3.1 Lý thuyết mạng nơron nhân tạo .28 3.1.1 Giới thiệu 28 3.1.2 Nơron nhân tạo 29 3.1.3 Các loại mạng nơron nhân tạo thường gặp 31 3.1.4 Các phương pháp huấn luyện mạng nơron nhân tạo .32 3.1.5 Thuật toán huấn luyện lan truyền ngược 34 3.1.6 Thuật toán Levenberg – Marquardt 35 3.1.7 Vấn đề “quá khớp” (overfitting) 36 3.2 Xây dựng mơ hình mạng ANN dự báo xạ mặt trời nhà máy điện mặt trời Mộ Đức, Quảng Ngãi .37 3.2.1 Xác định liệu cho mơ hình ANN 37 3.2.2 Lựa chọn cấu trúc mạng nơron nhân tạo dự báo xạ mặt trời nhà máy điện mặt trời Mộ Đức, Quảng Ngãi 39 3.2.3 Thuật toán huấn luyện mạng .40 3.2.4 Chỉ tiêu đánh giá 40 CHƯƠNG IV: MÔ PHỎNG VÀ KẾT QUẢ 42 4.1 Xây dựng chương trình lựa chọn mơ hình ANN tối ưu 42 4.1.1 Lựa chọn cấu trúc mơ hình ANN 42 4.1.2 Dữ liệu đầu vào 43 4.1.3 Huấn luyện mạng 44 4.1.4 Chỉ tiêu đánh giá 44 4.1.5 Thực nghiệm lựa chọn mơ hình 44 4.2 Kết thực nghiệm 47 4.3 Nhận xét 52 KẾT LUẬN VÀ KIẾN NGHỊ……………………………………………………… 53 Danh mục tài liệu tham khảo……………………………………………………… 55 Phụ lục……………………………………………………………………………… 58 Quyết định giao đề tài luận văn, biên bản, nhận xét….………………………… 108 v XÂY DỰNG MƠ HÌNH MẠNG NƠRON NHÂN TẠO DỰ BÁO NĂNG LƯỢNG BỨC XẠ MẶT TRỜI TẠI NHÀ MÁY ĐIỆN MẶT TRỜI MỘ ĐỨC, QUẢNG NGÃI Học viên: Ngô Hồng Hân Chuyên ngành: Kỹ thuật Điều khiển Tự động hóa Mã số: Khóa: K34.TĐH.QNg Trường Đại học Bách khoa - ĐHĐN Tóm tắt – Lượng điện tiêu thụ tăng đáng kể thập kỷ gần Năng lượng truyền thống, chẳng hạn dầu, than hạt nhân có tác động tiêu cực đến mơi trường Vì lý này, nhà nghiên cứu chuyển hướng sang nguồn tái tạo lượng mặt trời, gió biển Năng lượng tái tạo có đặc điểm nguồn lượng bền vững Sản lượng lượng mặt trời tăng đáng kể năm qua Tuy nhiên, điện sản xuất hệ thống quang điện không ổn định, gây ảnh hưởng đến độ tin cậy cung cấp điện Bởi lượng xạ mặt trời phụ thuộc vào vị trí, điều kiện thời tiết nhiệt độ, độ ẩm, ánh nắng mặt trời đặc biệt cấu trúc đám mây chu kỳ ngày/đêm Đề tài nghiên cứu tính khả thi việc xây dựng mơ hình mạng nơron nhân tạo (ANN) để dự báo lượng xạ mặt trời Vị trí nghiên cứu nhà máy điện mặt trời Mộ Đức, Quảng Ngãi Mơ hình ANN lựa chọn để nghiên cứu mạng nơron truyền thẳng lớp huấn luyện thuật toán Levenberg-Marquardt (LM) Các tham số đầu vào huấn luyện mạng ngày, tháng, thơng số vị trí địa lý khí tượng thu thập nơi thực Từ khóa – Bức xạ mặt trời, mơ hình dự báo, Năng lượng mặt trời, mạng nơron nhân tạo, MAPE BUILDING ARTIFICIAL NEURAL NETWORK MODEL TO FORECAST SOLAR RADIATION AT MO DUC, QUANG NGAI SOLAR POWER PLANT Abstract - Electricity consumption has significantly increased in recent decades Traditional energy, such as fossil fuel or nuclear power has negative impacts on the environment For these reasons, researchers have turned to renewable sources such as solar, wind and marine energy Renewable energy is characterized as clean and sustainable one Solar energy production has dramatically increased over the years However, electricity produced by the photovoltaic system is unstable, affecting the reliability of the power providing That is because solar radiation hight depends on location, weather conditions such as temperature, humidity, sunshine especially cloud structure and day/night cycles This topic explores the feasibility of constructing an artificial neural network (ANN) model for predicting solar radiation The research location is Mo Duc, Quang Ngai solar power plant The ANN model selected for study was a 4-layer feedforward neural network trained with the Levenberg-Marquardt (LM) algorithm The network inputs parameters are the date, location and meteorological parameters collected at the place of implementation Key words - Solar irradiance, forecast models, Artificial Neural Network, Solar Radiation, Mean Absolute Percentage Error vi DANH MỤC CÁC TỪ VIẾT TẮT ANN Cl CSP FL H Lat LM Lon MAE MAPE ME NLMT NWP OPF P PV r RMSE S STC T TSI Wd Ws Mạng nơron nhân tạo (Artificial Neural Network) Mây Nhà máy nhiệt điện NLMT (Concentrated solar power) Logic mờ (Fuzzy Logics) Độ ẩm tương đối Kinh độ Thuật toán Levenberg-Marquardt Vĩ độ Sai số tuyệt đối trung bình (Mean Absolute Error), Sai số phần trăm tuyệt đối trung bình (Mean Absolute Percentage Error), Sai số trung bình (Mean Error) Năng lượng mặt trời Mơ hình dự báo số trị (Numerical Weather Prediction) Tối ưu trào lưu công suất (Optimal Power Flow) Áp suất khí Quang điện (PhotoVoltaic) Hệ số tương quan (Correlation coefficient) Sai số bình phương trung bình quân phương (Root mean square Error) Số nắng Điều kiện thử nghiệm tiêu chuẩn (Standard Test Conditions) Nhiệt độ khơng khí Hình ảnh tổng thể bầu trời (Total Sky Imager) Hướng gió Tốc độ gió vii DANH MỤC CÁC HÌNH Hình I -1: Dải xạ điện từ Hình I-2: Quá trình truyền lượng xạ mặt trời qua lớp khí trái đất Hình I-3: Máy nước nóng NLMT Hình I-4: Bếp nấu NLMT Hình I-5: Nhà máy nhiệt điện NLMT (Concentrated solar power: CSP) .8 Hình I -6: Cơng śt điện mặt trời tồn giới bổ sung hàng năm từ 2007 – 2017 Hình I -7: Hệ hai mức lượng Hình I-8: Các vùng lượng .10 Hình I-9: Cấu tạo pin quang điện 11 Hình I-10: Mơ hình kết lưới hệ thống quang điện 12 Hình I-11: Bản đồ xạ ngang trung bình ngày năm Việt Nam [3] 14 Hình II-1 Mối quan hệ RMSE, MAPE, r với số lượng nơron khác với đầu vào độ che phủ mây .26 Hình III-1: Tế bào nơron sinh học 28 Hình III-2: Tế bào nơron nhân tạo .29 Hình III-3: Hàm nấc Hình III-4: Hàm dấu 30 Hình III-5: Hàm dốc bão hịa Hình III-6: Hàm tuyến tính bão hịa 30 Hình III-7: Hàm S dạng đơn cực Hình III-8: Hàm S dạng lưỡng cực 30 Hình III-9: Mạng nơron truyền thẳng lớp 31 Hình III-10: Mạng nơron truyền thẳng nhiều lớp 31 Hình III-11: Mạng nơron hồi quy lớp 31 Hình III-12: Mạng nơron hồi quy nhiều lớp 32 Hình III-13: Học có giám sát 32 Hình III-14: Học cố 33 Hình III-15: Học khơng có giám sát 33 Hình III-16: Sơ đồ tổng quát huấn luyện tế bào nơron nhân tạo 34 Hình III-17: Mặt nhà máy điện mặt trời Thiên Tân, Mộ Đức, Quảng Ngãi 37 Hình III-18: Cấu trúc ANN lớp tổng quát 39 Hình IV-1: Sơ đồ xây dựng mơ hình ANN dự báo lượng mặt trời 42 Hình IV-2: Cấu trúc mơ hình ANN dự báo lượng mặt trời Matlab 43 Hình IV-3: Thuật toán thực dự báo lượng xạ mặt trời 45 Hình IV-4: Quá trình huấn luyện mơ hình ANN 45 Hình IV-5: Đồ thị hàm mục tiêu (MSE) 46 Hình IV-6: Biểu đồ hồi quy giá trị dự báo thực tế 47 Hình IV-7: Mơ hình ANN tối ưu 48 Hình IV-8: Hình kết thực nghiệm 51 Hình IV-9: Đồ thị liệu dự báo quan trắc 51 viii DANH MỤC CÁC BẢNG Bảng I-1: Tổng xạ GHI trung bình khu vực dự án 16 Bảng I-2: Số nắng trung bình hàng tháng khu vực dự án 17 Bảng I-3: Thông số kỹ thuật module quang điện nhà máy .18 Bảng I-4: Thông số kỹ thuật biến đổi điện DC/AC (inverter) nhà máy 18 Bảng II-1: Các tham số đầu vào mô hình ANN độ xác [5] 25 Bảng III-1: Một số thuật toán tối ưu 35 Bảng IV-1: Kết tính tốn tiêu đánh giá mơ hình (rút gọn) 48 103 Neurons Neurons hidden hidden MAE_val RMSE_val layer layer MAE_ver RMSE_ver r_val r_ver MAPE_val MAPE_ver 89 89 89 89 89 1,732 3,136 1,603 2,017 1,937 2,420 3,891 2,256 2,700 2,596 3,900 4,577 3,879 4,096 4,255 5,084 5,759 5,124 5,229 5,382 0,936 0,800 0,945 0,921 0,922 0,775 0,713 0,772 0,762 0,763 3,317 6,088 2,993 3,856 3,765 7,751 9,372 7,832 8,048 8,263 89 89 89 89 89 89 10 11 12 1,971 1,813 2,028 2,704 1,800 1,732 2,554 2,514 2,597 3,542 2,403 2,442 4,155 3,756 3,995 4,693 4,073 3,807 5,349 4,970 5,241 6,011 5,278 4,947 0,920 0,933 0,926 0,848 0,925 0,935 0,753 0,785 0,757 0,712 0,766 0,793 3,803 3,477 3,914 5,262 3,543 3,321 8,290 7,630 8,052 9,397 8,217 7,678 89 89 89 89 89 89 13 14 15 16 17 18 2,839 1,690 1,981 2,978 1,835 1,633 3,680 2,317 2,676 3,709 2,564 2,321 4,593 3,987 3,869 4,388 3,742 4,463 5,846 5,174 5,245 5,660 4,992 5,538 0,814 0,938 0,918 0,849 0,930 0,938 0,689 0,775 0,771 0,711 0,784 0,735 5,573 3,249 3,835 5,731 3,497 3,134 9,027 8,013 7,979 8,730 7,419 8,896 89 89 90 90 90 90 19 20 2,168 1,923 1,565 1,969 1,937 2,054 2,861 2,734 2,196 2,641 2,571 2,734 4,218 3,887 3,529 4,110 3,789 4,023 5,317 5,077 4,754 5,331 5,072 5,123 0,910 0,912 0,943 0,917 0,934 0,919 0,754 0,785 0,809 0,753 0,775 0,778 4,100 3,729 3,013 3,763 3,756 3,935 8,310 7,784 7,123 8,137 7,568 8,029 90 90 90 90 90 90 10 11 12 1,874 2,768 2,306 2,591 2,759 2,522 2,452 3,598 3,030 3,251 3,610 3,176 4,328 4,353 4,244 4,419 4,127 3,789 5,555 5,530 5,438 5,538 5,336 5,048 0,925 0,860 0,902 0,862 0,848 0,874 0,743 0,726 0,751 0,724 0,748 0,779 3,593 5,352 4,511 5,026 5,391 4,772 8,890 8,918 8,559 8,863 8,351 7,568 90 90 90 90 90 90 13 14 15 16 17 18 2,376 2,794 2,981 2,042 1,909 1,916 3,094 3,554 3,795 2,642 2,512 2,597 4,200 3,865 4,876 4,231 3,889 3,902 5,538 5,114 6,047 5,472 5,063 5,035 0,886 0,846 0,856 0,916 0,929 0,923 0,736 0,772 0,660 0,735 0,783 0,785 4,492 5,421 5,643 3,849 3,652 3,698 8,215 7,653 9,872 8,476 7,779 7,688 90 90 91 91 91 91 91 19 20 1,742 2,662 1,885 1,913 2,124 2,041 2,386 2,507 3,409 2,380 2,483 2,861 2,655 3,111 4,094 4,042 3,758 3,711 3,991 4,109 4,421 5,347 5,262 5,011 4,794 5,144 5,174 6,075 0,927 0,892 0,932 0,926 0,908 0,909 0,875 0,757 0,756 0,781 0,810 0,771 0,774 0,683 3,373 5,131 3,571 3,652 4,186 3,908 4,659 8,337 8,095 7,489 7,294 8,091 8,077 8,729 91 91 1,731 1,854 2,399 2,445 3,904 4,198 5,285 5,406 0,930 0,931 0,759 0,739 3,323 3,538 8,012 8,305 104 Neurons Neurons hidden hidden MAE_val RMSE_val layer layer MAE_ver RMSE_ver r_val r_ver MAPE_val MAPE_ver 91 91 91 91 91 10 11 12 13 2,345 3,258 1,954 2,690 1,998 2,946 3,971 2,717 3,252 2,520 4,915 4,490 3,669 4,636 4,197 6,479 5,804 4,961 5,924 5,300 0,895 0,788 0,921 0,875 0,922 0,703 0,690 0,790 0,675 0,761 4,564 6,257 3,731 5,109 3,883 9,950 9,039 7,441 9,216 8,415 91 91 91 91 91 91 14 15 16 17 18 19 2,011 1,865 2,247 2,454 1,811 1,593 2,546 2,539 2,860 3,115 2,528 2,187 4,122 3,938 4,234 4,314 4,053 4,110 5,193 5,166 5,606 5,452 5,265 5,325 0,916 0,922 0,899 0,888 0,939 0,940 0,778 0,777 0,724 0,744 0,767 0,750 3,865 3,561 4,425 4,709 3,486 3,037 8,250 7,881 8,686 8,680 8,068 8,227 91 92 92 92 92 92 20 3,017 1,890 2,406 2,671 2,109 1,926 3,704 2,461 3,024 3,276 2,678 2,524 4,527 4,125 4,020 4,135 3,855 4,179 5,750 5,402 5,324 5,368 5,262 5,317 0,810 0,923 0,911 0,865 0,912 0,925 0,701 0,747 0,753 0,744 0,769 0,756 5,853 3,652 4,615 5,196 4,071 3,638 9,065 8,333 7,965 8,241 7,569 8,253 92 92 92 92 92 92 10 11 12 1,743 2,502 1,830 1,802 2,997 1,759 2,340 3,218 2,461 2,380 3,871 2,472 3,973 4,220 4,115 4,032 4,381 4,162 5,247 5,413 5,322 5,159 5,673 5,395 0,940 0,868 0,928 0,930 0,826 0,931 0,757 0,739 0,750 0,777 0,717 0,746 3,328 4,826 3,537 3,442 5,860 3,360 7,913 8,525 8,148 8,043 8,733 8,216 92 92 92 92 92 92 13 14 15 16 17 18 2,027 2,079 2,921 1,955 1,775 1,861 2,741 2,845 3,668 2,459 2,381 2,601 4,257 4,095 4,388 4,254 3,900 4,100 5,437 5,201 5,587 5,412 5,025 5,280 0,911 0,897 0,851 0,928 0,932 0,929 0,744 0,762 0,718 0,768 0,791 0,760 3,923 4,166 5,636 3,680 3,387 3,612 8,455 8,301 8,722 8,529 7,705 8,095 92 92 93 93 93 93 19 20 2,011 1,889 2,052 2,939 2,058 2,670 2,715 2,659 2,678 3,727 2,648 3,239 3,800 3,946 4,120 4,750 4,233 4,379 4,954 5,308 5,410 5,902 5,409 5,682 0,915 0,913 0,914 0,823 0,911 0,879 0,789 0,768 0,753 0,689 0,751 0,708 3,876 3,651 3,957 5,656 4,044 5,152 7,601 8,030 8,201 9,667 8,314 8,716 93 93 93 93 93 93 93 10 11 12 2,863 2,675 2,704 1,997 1,876 2,497 2,050 3,474 3,411 3,206 2,484 2,384 3,329 2,654 4,204 4,452 4,108 4,216 3,561 4,332 4,168 5,436 5,619 5,236 5,390 4,678 5,566 5,339 0,847 0,853 0,869 0,923 0,936 0,858 0,912 0,735 0,715 0,761 0,743 0,817 0,723 0,753 5,540 5,189 5,176 3,809 3,541 4,815 3,941 8,485 9,064 8,283 8,464 7,013 8,640 8,367 93 93 13 15 3,035 2,438 3,890 2,976 4,797 4,406 6,045 5,569 0,818 0,891 0,659 0,724 5,689 4,675 9,709 8,926 105 Neurons Neurons hidden hidden MAE_val RMSE_val layer layer MAE_ver RMSE_ver r_val r_ver MAPE_val MAPE_ver 93 93 93 93 93 16 17 18 19 20 2,198 2,464 2,296 1,909 2,973 2,737 3,176 2,983 2,609 3,775 4,153 4,525 4,384 4,458 4,173 5,444 5,634 5,397 5,721 5,387 0,906 0,876 0,890 0,930 0,807 0,746 0,717 0,759 0,732 0,743 4,248 4,745 4,402 3,707 5,912 8,452 8,910 8,485 9,128 8,351 94 94 94 94 94 94 2,143 1,909 2,001 2,967 1,670 3,098 2,643 2,381 2,645 3,756 2,268 3,777 3,900 4,014 3,944 4,702 3,820 4,132 5,283 5,240 5,210 5,750 5,000 5,390 0,917 0,928 0,917 0,810 0,935 0,849 0,753 0,757 0,768 0,699 0,785 0,748 4,075 3,670 3,864 5,733 3,172 5,894 7,719 7,969 7,899 9,265 7,553 8,143 94 94 94 94 94 94 10 11 12 13 3,505 2,568 2,571 2,928 1,956 2,769 4,389 3,435 3,336 3,771 2,579 3,524 4,328 4,270 4,473 4,646 3,809 4,257 5,589 5,312 5,635 5,808 4,927 5,463 0,766 0,855 0,861 0,843 0,923 0,867 0,718 0,786 0,733 0,704 0,792 0,735 6,629 4,904 5,079 5,705 3,804 5,366 8,719 8,237 8,700 9,194 7,618 8,598 94 94 94 94 94 94 14 15 16 17 18 19 1,982 2,239 2,741 2,120 2,741 1,883 2,591 2,830 3,516 2,718 3,474 2,498 3,976 4,201 3,806 3,923 4,147 3,681 4,994 5,330 5,041 5,052 5,375 4,908 0,915 0,906 0,834 0,926 0,851 0,926 0,795 0,753 0,784 0,780 0,745 0,803 3,777 4,178 5,335 4,112 5,290 3,669 7,781 8,190 7,453 7,778 8,232 7,427 94 95 95 95 95 95 20 2,633 1,837 2,236 2,158 1,851 2,403 3,549 2,407 2,744 2,717 2,633 3,198 4,666 3,890 3,993 4,249 3,929 4,718 5,884 5,135 5,368 5,483 5,130 5,877 0,859 0,929 0,902 0,916 0,923 0,884 0,684 0,769 0,757 0,750 0,771 0,694 5,059 3,492 4,310 4,098 3,573 4,609 9,273 7,736 8,176 8,718 7,948 9,655 95 95 95 95 95 95 10 11 12 1,709 2,006 1,952 2,051 3,029 2,435 2,333 2,683 2,666 2,612 3,769 3,099 3,723 3,972 3,985 4,342 4,625 4,421 4,885 5,224 5,171 5,741 5,866 5,602 0,939 0,913 0,919 0,913 0,820 0,882 0,796 0,763 0,768 0,735 0,687 0,722 3,308 3,879 3,773 4,108 5,858 4,744 7,423 7,974 7,854 8,910 9,316 8,776 95 95 95 95 95 95 95 13 14 15 16 17 18 19 1,938 2,244 2,344 2,396 1,908 1,902 1,957 2,439 2,888 3,104 2,951 2,528 2,730 2,806 4,171 4,067 3,991 4,257 4,217 3,920 4,384 5,328 5,272 5,390 5,510 5,364 5,282 5,705 0,928 0,899 0,900 0,895 0,919 0,912 0,919 0,755 0,758 0,744 0,728 0,756 0,772 0,735 3,711 4,329 4,557 4,605 3,706 3,694 3,748 8,106 8,192 7,907 8,574 8,501 7,964 8,815 95 96 20 1,804 1,810 2,555 2,513 3,882 3,799 5,097 5,041 0,927 0,930 0,782 0,786 3,563 3,535 7,766 7,519 106 Neurons Neurons hidden hidden MAE_val RMSE_val layer layer MAE_ver RMSE_ver r_val r_ver MAPE_val MAPE_ver 96 96 96 96 96 10 1,938 2,292 1,781 2,144 2,215 2,356 3,010 2,403 2,771 2,998 4,178 3,846 4,534 3,740 4,124 5,351 5,067 5,760 5,058 5,379 0,929 0,914 0,934 0,908 0,906 0,761 0,778 0,726 0,791 0,747 3,767 4,436 3,376 4,127 4,269 8,476 7,622 9,106 7,451 8,164 96 96 96 96 96 96 11 12 13 14 15 16 1,868 2,045 1,788 2,471 2,345 2,609 2,577 2,710 2,431 3,113 3,016 3,298 4,049 3,963 4,449 4,069 3,904 3,942 5,196 5,107 5,713 5,475 4,987 5,382 0,927 0,915 0,929 0,883 0,891 0,877 0,764 0,778 0,721 0,732 0,784 0,744 3,654 3,917 3,422 4,808 4,570 4,965 8,085 7,941 8,903 8,155 7,725 7,793 96 96 96 96 97 97 17 18 19 20 2,442 2,952 2,759 1,752 1,981 1,750 3,210 3,745 3,503 2,503 2,605 2,411 4,179 4,305 4,000 4,355 3,785 4,346 5,400 5,572 5,093 5,530 5,158 5,835 0,906 0,812 0,840 0,926 0,918 0,942 0,758 0,720 0,787 0,760 0,769 0,728 4,777 5,761 5,360 3,363 3,766 3,396 8,437 8,683 7,900 8,859 7,701 8,551 97 97 97 97 97 97 2,962 2,912 1,928 1,912 1,759 3,544 3,647 3,571 2,637 2,669 2,297 4,305 4,500 4,322 3,926 3,913 4,333 4,828 5,558 5,561 5,078 5,044 5,500 6,198 0,822 0,846 0,922 0,924 0,937 0,738 0,727 0,725 0,778 0,787 0,741 0,640 5,784 5,644 3,686 3,722 3,446 6,951 9,072 8,642 7,789 7,970 8,425 9,714 97 97 97 97 97 97 10 11 12 13 14 15 1,861 1,994 2,117 1,917 2,732 1,951 2,610 2,750 2,754 2,433 3,370 2,744 4,391 3,851 4,154 4,082 4,906 4,024 5,829 5,125 5,437 5,319 7,933 5,198 0,926 0,914 0,912 0,925 0,855 0,930 0,736 0,781 0,744 0,750 0,604 0,774 3,634 3,845 4,024 3,672 5,246 3,819 8,966 7,738 8,190 8,224 9,731 8,236 97 97 97 97 97 98 16 17 18 19 20 2,791 2,275 2,343 2,707 1,876 1,957 3,458 3,007 2,974 3,321 2,596 2,512 4,661 4,246 4,227 4,461 4,471 3,997 5,946 5,478 5,530 5,710 5,596 5,350 0,845 0,895 0,896 0,856 0,914 0,925 0,674 0,747 0,732 0,703 0,748 0,755 5,429 4,367 4,451 5,235 3,591 3,709 9,194 8,513 8,351 8,896 8,941 7,882 98 98 98 98 98 98 98 10 1,936 1,839 2,041 2,820 2,845 2,001 2,104 2,548 2,461 2,639 3,693 3,561 2,575 2,659 3,846 4,013 4,610 4,383 5,016 4,011 3,399 5,105 5,151 6,058 5,665 6,193 5,317 4,582 0,919 0,926 0,910 0,844 0,826 0,920 0,919 0,775 0,770 0,687 0,711 0,658 0,751 0,823 3,719 3,561 3,926 5,427 5,588 3,846 4,065 7,721 7,938 9,263 8,867 9,815 7,949 6,670 98 98 11 12 1,791 1,966 2,506 2,622 3,993 3,815 5,273 5,013 0,924 0,924 0,756 0,782 3,453 3,764 7,968 7,566 107 Neurons Neurons hidden hidden MAE_val RMSE_val layer layer MAE_ver RMSE_ver r_val r_ver MAPE_val MAPE_ver 98 98 98 98 98 13 14 15 16 17 2,308 1,932 1,796 2,171 1,910 3,105 2,564 2,575 2,860 2,720 4,327 3,953 3,871 4,219 4,365 5,554 5,038 5,153 5,311 5,694 0,890 0,927 0,914 0,893 0,919 0,730 0,783 0,769 0,774 0,739 4,463 3,700 3,454 4,087 3,645 8,536 7,913 7,810 8,247 8,669 98 98 98 99 99 99 18 19 20 2,878 2,264 1,967 2,020 2,246 2,163 3,704 3,107 2,610 2,660 2,726 2,882 4,198 4,142 4,431 3,540 4,068 4,157 5,349 5,326 5,632 4,771 5,263 5,354 0,835 0,914 0,916 0,909 0,909 0,905 0,758 0,751 0,721 0,808 0,755 0,754 5,580 4,314 3,866 3,883 4,293 4,201 8,276 8,336 8,850 7,263 8,116 8,282 99 99 99 99 99 99 10 2,888 3,001 1,761 2,407 1,838 2,883 3,614 3,885 2,406 3,108 2,510 3,715 4,486 4,891 4,122 3,909 4,278 4,680 5,717 6,267 5,266 5,230 5,429 5,927 0,830 0,832 0,928 0,886 0,936 0,824 0,704 0,627 0,756 0,759 0,761 0,679 5,534 5,709 3,392 4,645 3,538 5,638 9,014 9,980 8,197 7,867 8,618 9,371 99 99 99 99 99 99 11 12 13 14 15 16 2,551 2,670 2,806 1,945 2,093 2,457 3,290 3,392 3,510 2,529 2,734 3,235 4,364 4,005 4,672 4,191 3,777 4,231 5,642 5,086 6,081 5,331 4,912 5,454 0,866 0,850 0,849 0,924 0,910 0,872 0,722 0,774 0,666 0,753 0,792 0,736 4,856 5,228 5,398 3,699 4,034 4,703 8,587 8,032 9,573 8,336 7,590 8,355 99 99 99 99 100 100 17 18 19 20 2,127 1,913 1,879 1,901 1,983 2,129 2,851 2,572 2,614 2,658 2,630 2,756 4,340 3,761 4,037 3,800 4,066 3,498 5,540 5,071 5,327 5,252 5,349 4,808 0,910 0,918 0,918 0,919 0,918 0,907 0,738 0,784 0,762 0,778 0,751 0,802 4,060 3,678 3,607 3,650 3,826 4,173 8,588 7,597 8,247 7,789 8,065 6,939 100 100 100 100 100 100 10 12 2,839 3,006 2,492 2,735 1,991 2,759 3,484 3,818 3,080 3,590 2,755 3,511 4,212 4,853 4,364 4,477 3,936 4,810 5,600 6,035 5,680 5,707 5,114 6,103 0,834 0,806 0,891 0,825 0,911 0,836 0,723 0,664 0,706 0,705 0,781 0,655 5,596 5,855 4,821 5,411 3,873 5,265 8,626 9,714 8,825 8,811 7,896 9,629 100 100 100 100 14 15 16 17 2,884 2,156 1,818 1,877 3,562 2,781 2,493 2,635 4,395 4,453 4,091 3,728 5,586 5,463 5,253 4,865 0,863 0,907 0,924 0,926 0,718 0,734 0,763 0,800 5,553 4,141 3,509 3,629 8,722 8,864 8,195 7,516 100 19 1,942 2,616 3,955 5,073 0,919 0,786 3,747 7,851 108 109 110 111 112 113 114 115 116 117