1. Trang chủ
  2. » Giáo án - Bài giảng

Ứng dụng mạng neuron để dự báo mưa kết hợp mạng cảm biến không dây

11 21 0

Đang tải... (xem toàn văn)

Tài liệu hạn chế xem trước, để xem đầy đủ mời bạn chọn Tải xuống

THÔNG TIN TÀI LIỆU

Cấu trúc

  • 1. TỔNG QUAN

  • 2. CƠ SỞ LÝ THUYẾT

    • 2.1 Mạng cảm biến không dây

    • 2.2 Công nghệ truyền thông không dây Zigbee

      • 2.3 Mạng thần kinh nhân tạo

  • 3. THIẾT KẾ HỆ THỐNG

    • 3.1 Tổng quan hệ thống

    • 3.2 Sơ đồ phần cứng hệ thống và lưu đồ hoạt động

    • 3.3 Xây dựng mô hình dự báo

    • 3.4 Huấn luyện mô hình mạng

  • 4. THỰC NGHIỆM VÀ ĐÁNH GIÁ

    • 4.1 Tiền xử lý dữ liệu

    • 4.2 Lựa chọn dữ liệu

    • 4.3 Thực nghiệm thuật toán

    • 4.4 Kiểm thử thuật toán

    • 4.5 So sánh thuật toán

  • 5. KẾT LUẬN

  • TÀI LIỆU THAM KHẢO

  • [1] National strategy on climate change. Internet: Strategies details (chinhphu.vn), 23/12/2020.

  • [2] S. Ray. A Quick Review of Machine Learning Algorithms. 2019 International Conference on Machine Learning, Big Data, Cloud and Parallel Computing (COMITCon), 2019, pp. 35-39.

  • [3] M. J. Kennedy. Review of applications of artificial neural networks in biotechnology, Proceedings 1993 The First New Zealand International Two-Stream Conference on Artificial Neural Networks and Expert Systems, 1993, pp. 252-254.

  • [4] T. Schmidt, H. Rahnama and A. Sadeghian. A review of applications of artificial neural networks in cryptosystems, 2008 World Automation Congress, 2008, pp. 1-6.

  • [5] Y. Li and W. Ma. Applications of Artificial Neural Networks in Financial Economics: A Survey, 2010 International Symposium on Computational Intelligence and Design, 2010, pp. 211-214.

  • [6] B. Milovanovic, M. Agatonovic, Z. Stankovic, N. Doncov and M. Sarevska. Application of neural networks in spatial signal processing (invited paper), 11th Symposium on Neural Network Applications in Electrical Engineering, 2012, pp. 5-14.

  • [7] R. Meenal and A. I. Selvakumar, Review on artificial neural network based solar radiation prediction, 2017 2nd International Conference on Communication and Electronics Systems (ICCES), 2017, pp. 302-305.

  • [8] T. Truong, A. Dinh and K. Wahid. An IoT environmental data collection system for fungal detection in crop fields, 2017 IEEE 30th Canadian Conference on Electrical and Computer Engineering (CCECE), 2017, pp. 1-4.

  • [9] V. F. Silva, D. F. Macedo and J. L. Leoni. Spectrum Decision in Wireless Sensor Networks Employing Machine Learning, 2014 Brazilian Symposium on Computer Networks and Distributed Systems, 2014, pp. 386-393.

  • [10] H. Ahmadi and R. Bouallegue. Comparative study of learning-based localization algorithms for Wireless Sensor Networks: Support Vector regression, Neural Network and Naïve Bayes, 2015 International Wireless Communications and Mobile Computing Conf...

  • [11] S. K. and V. Vaidehi. Clustering and Data Aggregation in Wireless Sensor Networks Using Machine Learning Algorithms, 2018 International Conference on Recent Trends in Advance Computing (ICRTAC), 2018, pp. 109-115.

  • [12] T. Hemalatha, M. V. Ramesh and V. P. Rangan. Effective and Accelerated Forewarning of Landslides Using Wireless Sensor Networks and Machine Learning, in IEEE Sensors Journal, vol. 19, no. 21, pp. 9964-9975, 1 Nov.1, 2019.

  • [13] J. K. Roy, D. Gupta and S. Goswami. An improved flood warning system using WSN and Artificial Neural Network. 2012 Annual IEEE India Conference, 2012, pp. 770-774.

  • [14] I. R. Widiasari, L. E. Nugroho and Widyawan. Deep learning multilayer perceptron (MLP) for flood prediction model using wireless sensor network based hydrology time series data mining. 2017 International Conference on Innovative and Creative Info...

  • [15] S. Madan, P. Kumar, S. Rawat and T. Choudhury. Analysis of Weather Prediction using Machine Learning & Big Data, 2018 International Conference on Advances in Computing and Communication Engineering (ICACCE), 2018, pp. 259-264.

  • [16] G. Verma, P. Mittal and S. Farheen. Real Time Weather Prediction System Using IOT and Machine Learning, 2020 6th International Conference on Signal Processing and Communication (ICSC), 2020, pp. 322-324.

  • [17] R. K. Grace and B. Suganya. Machine Learning based Rainfall Prediction, 2020 6th International Conference on Advanced Computing and Communication Systems (ICACCS), 2020, pp. 227-229.

  • [18] Mohsen Hayati, Zahra Mohebi. Application of Artificial Neural Networks for Temperature Forecasting. World Academy of Science, Engineering and Technology, Vol 4, Issue 1, pp. 662-666, 2007.

  • [19] A. Molano-Jimenez, A. D. Orjuela-Cañón and W. Acosta-Burbano. Temperature and Relative Humidity Prediction in Swine Livestock Buildings, 2018 IEEE Latin American Conference on Computational Intelligence (LA-CCI), 2018, pp. 1-4.

  • [20] L. P. Dinesh Kumar, S. Shakena Grace, A. Krishnan, V. M. Manikandan, R. Chinraj and M. R. Sumalatha. Data filtering in wireless sensor networks using neural networks for storage in cloud, 2012 International Conference on Recent Trends in Informat...

  • [21] H. Sharma and S. Sharma. A review of sensor networks: Technologies and applications, 2014 Recent Advances in Engineering and Computational Sciences (RAECS), 2014, pp. 1-4.

  • [22] Ian F. Akyildiz and Mehmet Can Vuran. Wireless Sensor Network. John Wiley & Sons Ltd, 2010, pp. 10-15.

  • [23] Jose A. Gutierrez; Edgar H. Callaway; Raymond L. Barrett. IEEE Std 802.15.4 Technical Overview. Low-Rate Wireless Personal Area Networks: Enabling Wireless Sensors with IEEE 802.15.4, 2007.

  • [24] C. M. Ramya, M. Shanmugaraj and R. Prabakaran. Study on ZigBee technology. 2011 3rd International Conference on Electronics Computer Technology, 2011, pp. 297-301.

  • [25] A. Sperduti. An overview on supervised neural networks for structure. Proceedings of International Conference on Neural Networks, 1997, pp. 2550-2554.

  • [26] M. Chen, U. Challita, W. Saad, C. Yin and M. Debbah. Artificial Neural Networks-Based Machine Learning for Wireless Networks: A Tutorial. IEEE Communications Surveys & Tutorials, vol. 21, no. 4, pp. 3039-3071, 2019.

  • [27] A. Menon, S. Singh and H. Parekh. A Review of Stock Market Prediction Using Neural Networks, 2019 IEEE International Conference on System, Computation, Automation and Networking (ICSCAN), 2019, pp. 1-6.

  • [28] M. Verhelst and B. Moons, Embedded Deep Neural Network Processing: Algorithmic and Processor Techniques Bring Deep Learning to IoT and Edge Devices. IEEE Solid-State Circuits Magazine, vol. 9, no. 4, pp. 55-65, Fall 2017.

  • [29] S. C. Sreenivasa, S. K. Agarwal and R. Kumar. Short term wind forecasting using logistic regression driven hypothesis in artificial neural network. 2014 6th IEEE Power India International Conference (PIICON), 2014, pp. 1-6.

  • Word Bookmarks

    • OLE_LINK1

Nội dung

Mục đích nghiên cứu mà tác giả muốn hướng đến là thiết kế hệ thống dự báo mưa dựa trên mạng nơron nhân tạo kết hợp với mạng cảm biến không dây. Mạng nơron nhân tạo sẽ xử lý các thông số môi trường được thu thập từ mạng cảm biến để đưa ra dự báo về sự kiện mưa.

10 Tạp Chí Khoa Học Giáo Dục Kỹ Thuật Số 65 (08/2021) Trường Đại Học Sư Phạm Kỹ Thuật TP Hồ Chí Minh ỨNG DỤNG MẠNG NEURON ĐỂ DỰ BÁO MƯA KẾT HỢP MẠNG CẢM BIẾN KHÔNG DÂY APPLYING NEURAL NETWORK FOR RAIN FORECAST WITH WIRELESS SENSOR NETWORK Trần Kim Toại, Dương Cao Trọng Nhân, Võ Minh Huân Trường Đại học Sư phạm Kỹ thuật TP.HCM, Việt Nam Ngày soạn nhận 12/5/2021, ngày phản biện đánh giá 31/5/2021, ngày chấp nhận đăng 28/6/2021 TÓM TẮT Trong thời gian gần đây, thuật toán máy học ứng dụng rộng rãi cho việc giải toán dự đốn phức tạp có dự báo thời tiết Với ưu điểm vượt trội tính linh hoạt, độ xác cao, đa dạng ứng dụng, xử lý liệu có tính biến động theo thời gian, thuật tốn máy học mang tính khách quan đáp ứng nhiều yêu cầu thực tiễn so với phương pháp trước Mục đích nghiên cứu mà tác giả muốn hướng đến thiết kế hệ thống dự báo mưa dựa mạng nơron nhân tạo kết hợp với mạng cảm biến không dây Mạng nơron nhân tạo xử lý thông số môi trường thu thập từ mạng cảm biến để đưa dự báo kiện mưa Mơ hình mạng nơron xây dựng lựa chọn thông số phù hợp sai số dự đoán Hiệu suất hệ thống dự báo thời tiết với mô hình mạng nơron xây dựng kiểm chứng thơng qua q trình thực nghiệm với lượng liệu thu thập từ thực tế Hệ thống cập nhật liên tục thông số môi trường nhiều địa điểm Cơ sở liệu cập nhật liên tục với thông số thu thập theo thời gian thực đa dạng liệu thu thập nhiều địa điểm lắp đặt nút cảm biến khu vực lớn triển khai mạng cảm biến không dây để tăng thêm độ tin cậy cho kết dự báo Đồng thời, sở liệu dựa thông số lấy từ website lưu trữ lịch sử thời tiết làm sở cho tập huấn luyện mơ hình hệ thống Ngồi ra, kết dự báo hệ thống kiện thời tiết tới theo mơ hình phân loại (mưa hay khơng mưa) thay thơng số thời tiết, dễ dàng cho người dùng hệ thống tự động kết dự báo thơng số thời tiết ta phải phân tích thơng số dự đốn sau gửi đến người dùng Với kết dự báo kiện mưa mà tác giả hướng đến, từ phía người dùng hay hệ thống tự động đưa định thực thi hay không tác vụ tưới tiêu, phun sương, để đảm bảo nơng sản ứng dụng nơng nghiệp Từ khóa: Mạng thần kinh nhân tạo; Mạng cảm biến khơng dây; Máy học; Dự báo thời tiết; nông nghiệp thông minh ABSTRACT In recent times, machine learning algorithms are widely applied to solve complex nonlinear problems including weather forecasting With outstanding advantages such as flexibility, high accuracy, variety of applications, data processing with time fluctuations, machine learning algorithms are objective and meet many practical requirements than the previous methods The research aims to design a rain forecasting system based on artificial neural networks combined with wireless sensor networks The neural network processes the environmental parameters collected from the sensor network to make the rain event forecast A neural network model will be built and selected suitable parameters based on prediction errors Predictive error is the difference between the real value and the forecasted value to assess the quality or suitability of the forecasting model The performance of the weather forecasting Doi: https://doi.org/10.54644/jte.65.2021.132 Tạp Chí Khoa Học Giáo Dục Kỹ Thuật Số 65 (08/2021) Trường Đại Học Sư Phạm Kỹ Thuật TP Hồ Chí Minh 11 system with the built neural network model will be verified through an experimental process with the amount of data collected from reality The system can continuously update the environmental parameters in many locations The database will always be constantly updated with various real-time and diverse parameters as data will be collected at multiple sensor nodes installed in a large network deployment area to added reliability for forecast results At the same time, the database will also be based on parameters taken from weather history storage websites as the basis for the training set of the system model In addition, the forecast results of the system will be of upcoming weather events according to the classification model (rain or no rain) instead of weather parameters, so it will be easier for users or systems to make a decision because if the forecast results are weather parameters, we have to analyze these predictive parameters before sending them to the user From the user side, the automated systems can make decisions based on forecasting the rain event whether to execute tasks such as irrigation or misting and assurance of agro-products in agricultural applications Keywords: Neural Network; Wireless Sensor Network; Machine Learning; Weather Forecasting; smart agriculture TỔNG QUAN Ngày nay, sản xuất nông nghiệp Việt Nam phụ thuộc nhiều vào thời tiết Sự thay đổi thất thường yếu tố thời tiết ảnh hưởng trực tiếp đến hoạt động sản xuất nông nghiệp, trồng trọt Vậy nên thay đổi thời tiết dự đốn với độ xác đáng tin cậy sử dụng dự đốn để giúp người nơng dân hệ thống nông nghiệp tự động đưa định điều chỉnh phù hợp giúp cho sản phẩm nông nghiệp môi trường tốt để phát triển, tránh ảnh hưởng giảm thiểu thiệt hại từ thời tiết xấu [1] Mặc dù khoa học dự báo thời tiết đời đời từ lâu chất lượng công tác dự báo thời tiết không ngừng nhà khoa học nghiên cứu cải thiện Có nhiều phương pháp triển khai Các thuật toán máy học sử dụng rộng rãi để giải toán dự đoán khắp nơi giới Được biết đến ứng dụng nhiều phải kể đến thuật toán Neural Network, Support Vector Machine (SVM), Naive Bayes, Linear Regression v.v [2] Trong thuật tốn Neural Network sử dụng phổ biến dự đốn nhiễm mơi trường, dự đốn thời tiết, dự đốn mơi trường gây hại cho trồng, v.v [3-7] Có nhiều nghiên cứu khai thác vấn đề cho thấy đa dạng ứng dụng thuật toán để giải toán thực tế Ref [8] cho thấy hiệu mạng cảm biến máy học để xử lý thông tin, thực dự đốn Ngồi ra, nghiên cứu sau đề cấp nhiều đến kết hợp mạng cảm biến khơng dây mơ hình máy học [9-12] Bên cạnh đó, nghiên cứu dự đốn sử dụng nhiều vấn đề thiên tai, lũ lụt Có thể kể đến vài đề tài sử dụng mạng cảm biến kết hợp với mô hình Neural Network để giải tốn dự báo lũ lụt, thiên tai [13-17] Ngoài ứng dụng dự báo lũ lụt, dự báo thông số thời tiết ngày thời gian gần với mơ hình mạng Neural Network áp dụng từ lâu Ref [18-19] Ngoài ứng dụng dự báo, thuật tốn máy học cịn sử dụng để lọc liệu giảm thiểu liệu lưu trữ khơng cần thiết [20] Thuật tốn máy học ứng dụng để xử lý nhiều vấn đề thực tế với nhiều lĩnh vực khác Bên cạnh đó, nghiên cứu dự báo đa phần sử dụng sở liệu lấy từ website lưu trữ lịch sử thời tiết từ nhiều năm trước kết dự báo từ hệ thống mà nghiên 12 Tạp Chí Khoa Học Giáo Dục Kỹ Thuật Số 65 (08/2021) Trường Đại Học Sư Phạm Kỹ Thuật TP Hồ Chí Minh cứu xây dựng thông số thời tiết (nhiệt độ, độ ẩm, tốc độ gió, số nắng …) Xây dựng hệ thống cập nhật liên tục thông số môi trường nhiều địa điểm cần thiết Cơ sở liệu cập nhật liên tục với thông số thu thập theo thời gian thực đa dạng liệu thu thập nhiều địa điểm lắp đặt nút cảm biến khu vực lớn triển khai mạng cảm biến khơng dây Ngồi ra, kết dự báo hệ thống kiện thời tiết tới theo mơ hình phân loại (mưa hay khơng mưa) thay thơng số thời tiết Như dễ dàng cho người dùng hệ thống tự động kết dự báo thơng số thời tiết hệ thống phải phân tích thơng số dự đốn sau gửi đến người dùng Với kết dự báo kiện mưa mà nghiên cứu hướng đến, từ phía người dùng hay hệ thống tự động đưa định thực thi hay không tác vụ tưới tiêu, phun sương, để đảm bảo nông sản ứng dụng nông nghiệp Hệ thống dự báo mưa mà tác giả đề xuất bao gồm thiết bị cập nhật liệu môi trường theo thời gian thực thuật toán máy học để dự đoán kiện mưa tương lai Các liệu môi trường bao gồm nhiệt độ, độ ẩm thu thập từ xa sau xử lý máy tính Mơ hình máy học Neural Network với thuật toán Back Propagation triển khai để xử lý liệu môi trường, từ đưa dự đốn kiện mưa vào ngày Với kiện dự đoán sở để đưa định tức thời cách thuận tiện nhiều lĩnh vực nơng nghiệp (điều khiển tưới tiêu, bón phân, điều chỉnh nhiệt độ), công nghiệp (điều khiển động cơ, vận hành hệ thống làm mát), v.v Bên cạnh đó, đánh giá hiệu áp dụng mô hình Neural Network vào hệ thống dự báo hiệu mơ hình so với mơ hình thuật toán dự đoán phổ biến khác như: SVM, Logistic Regression, Naive Bayes, v.v thể Nghiên cứu thực hệ thống dự báo thời tiết với độ xác cao, cung cấp cơng cụ hữu hiệu cho nông dân hệ thống nông nghiệp tự động để giảm thiểu tác động tiêu cực từ thời tiết với môi trường phát triển sản phẩm nông nghiệp CƠ SỞ LÝ THUYẾT Hệ thống thu thập phân tích liệu bao gồm mạng cảm biến không dây dùng để thu thập liệu sử dụng chuẩn truyền liệu không dây Zigbee đề cập mục 2.1 2.2 Mạng thần kinh nhân tạo xử lý liệu đưa định dự báo phân tích mục 2.3 2.1 Mạng cảm biến không dây Mạng cảm biến không dây hệ thống nút cảm biến kết nối với sóng vơ tuyến từ hình thành mạng lưới liên kết, nút thường thiết bị nhỏ gọn, giá thành thấp có khả thu thập thông số môi trường xung quanh khu vực lắp đặt Các điểm cảm biến lắp đặt số lượng lớn phân bố cách khơng có hệ thống diện tích rộng, có thời gian hoạt động lâu dài sử dụng nguồn lượng hạn chế [21] Một nút cảm biến cấu tạo thành phần sau : xử lý, cảm biến, thu phát khơng dây nguồn cung cấp Tuỳ theo mục đích ứng dụng, nút cảm biến cịn có thành phần bổ sung hệ thống định vị thiết bị di động [22] 2.2 Công nghệ truyền thông không dây Zigbee Công nghệ ZigBee xây dựng dựa tiêu chuẩn 802.15.4 tổ chức IEEE Tiêu chuẩn 802.15.4 sử dụng tín hiệu radio có tần sóng ngắn [23] Mục tiêu công nghệ ZigBee nhắm tới việc truyền tin với mức tiêu hao lượng nhỏ công suất thấp cho thiết bị có thời gian hoạt động từ vài tháng đến vài năm mà không yêu cầu cao tốc độ truyền tin [24] 2.3 Mạng thần kinh nhân tạo Mạng thần kinh nhân tạo (Artificial Neural Network) mơ hình xử lý thơng tin Tạp Chí Khoa Học Giáo Dục Kỹ Thuật Số 65 (08/2021) Trường Đại Học Sư Phạm Kỹ Thuật TP Hồ Chí Minh mơ dựa hoạt động hệ thống thần kinh sinh vật, bao gồm số lượng lớn Neuron gắn kết để xử lý thông tin kết nối với thông qua liên kết (gọi trọng số liên kết), làm việc thể thống để giải vấn đề cụ thể [25-26] Mạng nơron nhân tạo hệ thống bao gồm nhiều nơron nhân tạo kết hợp với Mỗi nơron có đặc tính đầu vào, đầu thực số chức tính tốn cục Mạng nơron có khả học, khái quát hóa tập liệu học thông qua việc gán hiệu chỉnh trọng số liên kết [27-29] THIẾT KẾ HỆ THỐNG 3.1 Tổng quan hệ thống Các liệu thời tiết để cập nhật cho tập liệu đầu vào mơ hình đo lường trực tiếp cảm biến nhiệt độ, độ ẩm Tuy nhiên, vị trí khác thơng số thời tiết có thay đổi định, nhiều nút cảm biến Prediction result – No rain 1- rain Nhiệt độ, Độ ẩm khơng khí Hình Sơ đồ hoạt động hệ thống đặt nhiều vị trí khác Hình trình bày sơ đồ hoạt động thống thu thập xử lý diệu Các thông số nhiệt độ, độ ẩm nút cảm biến gửi đến xử lý trung tâm, việc truyền nhận liệu thông qua thiết bị phần cứng giao chuẩn khơng dây với khoảng cách phù hợp Bộ xử lý trung tâm đưa liệu đến máy chủ – nơi thực q trình huấn luyện thuật tốn lan truyền ngược Dữ liệu máy chủ đầu vào 13 mơ hình mạng nơron truyền thẳng nhiều lớp Sau huấn luyện, kết đầu mô hình kết dự báo kiện mưa 3.2 Sơ đồ phần cứng hệ thống lưu đồ hoạt động Sơ đồ chi tiết hệ thống phần cứng gồm khối thể hình sau: Thuật toán dự đoán UART ZIGBEE Nút CB Nút CB WiFi KHỐI TRUYỀN NHẬN DỮ LIỆU KHỐI ĐIỀU KHIỂN KHỐI NGUỒN Hình Sơ đồ phần cứng hệ thống Chức thành phần hệ thống trình bày hình 2: Khối nguồn có chức cung cấp nguồn cho tất mạch hệ thống Khối xử lý trung tâm liên lạc khối truyền nhận liệu thông qua chuẩn truyền thông UART với máy chủ thông qua WiFi Tập hợp giá trị thu thập từ cảm biến sau gửi máy chủ Đồng thời, khối trung tâm gửi tín hiệu đến khối điều khiển sau máy chủ đưa dự đoán Khối truyền nhận nhận liệu trạm trung gian để nhận liệu từ nút cảm biến truyền liệu đến khối xử lý trung tâm Nút cảm biến có chức thu thập giá trị nhiệt độ, độ ẩm khơng khí nhiều khu vực khác Máy chủ xử lý liệu nhận từ khối xử lý trung tâm đưa tới đầu vào mơ hình thuật tốn dự đốn huấn luyện mơ hình dựa liệu cung cấp Đồng thời đưa kết dự đoán sau hồn thành huấn luyện mơ hình Khối điều khiển nhận tín hiệu từ khối xử lý trung tâm để thực thi đóng mở thiết 14 Tạp Chí Khoa Học Giáo Dục Kỹ Thuật Số 65 (08/2021) Trường Đại Học Sư Phạm Kỹ Thuật TP Hồ Chí Minh bị sau thuật toán đưa kết dự báo kiện mưa tới Lưu đồ hệ thống gồm bước thể hình Bắt đầu Thu thập liệu Huấn luyện mơ hình Kiểm thử mơ hình Mơ hình dự đốn với sai số nhỏ nhât Kết thúc Hình Lưu đồ hệ thống 3.3 Xây dựng mơ hình dự báo Các bước xây dựng mạng Neuron bao gồm: Bước 1: Chuẩn hóa liệu đầu vào phân chia tập liệu Bước 2: Thiết kế cấu trúc mạng Bước 3: Khởi tạo giá trị ngẫu nhiên cho trọng số Bước 4: Thực giai đoạn lan truyền tiến qua toàn lớp mạng Bước 5: Tính sai số học đầu định xem có học tiếp hay khơng, học tiếp chuyển đến bước khơng dừng vịng lặp Bước 6: Tính sai số nút lớp để cập nhật trọng số tiếp tục lặp lại bước Hình cấu trúc mạng nơron truyền thẳng với lớp (1 lớp vào, lớp ẩn, lớp ra) sau lựa chọn: 1000 nơron tương ứng với 1000 thông số nhiệt độ độ ẩm 500 thời điểm khác Nơron 1: Nhiệt độ T1 Nơron Nơron 2: Độ ẩm T1 Nơron Số lượng nơron lớp ẩn xác định thực nhiệm Nơron 999: Nhiệt độ T500 Nơron n -1 Nơron 1000: Độ ẩm T500 Nơron n Giá trị nơron lớp kết dự báo mơ hình tương ứng với khơng mưa, có mưa Nơron 1: Giá trị Hình Mơ hình Neural Network thực nghiệm 3.4 Huấn luyện mơ hình mạng Lưu đồ huấn luyện mơ hình mạng neuron trình bày hình Bắt đầu Đọc liệu từ file JSON, CSV chuẩn hóa Tách liệu thành phần trainning dataset testing dataset Sử dụng training data đầu vào mơ hình mạng Neural Network Xử lý huấn luyện mơ hình mạng thuật toán Back Probagation Sử dụng testing dataset để kiểm tra độ xác mơ hình liệu thực tế dự đốn Kết thúc Hình Lưu đồ huấn luyện Neural Network Tập liệu ban đầu chia thành tập liệu thành phần, liệu thứ dùng làm liệu đầu vào cho toán dự báo, liệu thứ hai dùng để kiểm tra kết phương pháp dự báo Trong toán dự báo sử dụng mạng nơron nhân tạo, số liệu thứ đưa vào mạng để huấn luyện Sau lần lặp trình huấn luyện, mạng lưu lại ma trận trọng số đối chiếu sai số mạng với sai số cho phép ban đầu Tạp Chí Khoa Học Giáo Dục Kỹ Thuật Số 65 (08/2021) Trường Đại Học Sư Phạm Kỹ Thuật TP Hồ Chí Minh 15 Kết q trình huấn luyện mơ hình mạng huấn luyện với tập liệu ma trận trọng số có sai số nhỏ THỰC NGHIỆM VÀ ĐÁNH GIÁ 4.1 Tiền xử lý liệu Dữ liệu cần thiết để làm đầu vào cho mơ hình dự đốn nhiệt độ: đơn vị ºC độ ẩm khơng khí: đơn vị % Để kết dự đốn có độ tin cậy cao tác giả sử dụng hai nguồn liệu để xây dựng sở liệu cho mơ hình mạng huấn luyện Bên cạnh liệu từ website lưu trữ lịch sử thời tiết Cơ sở liệu cập nhật liên tục với liệu thu thập theo thời gian thực từ nút cảm biến triển khai mơ hình mạng cảm biến không dây Hai nút cảm biến đặt khu vực cách xa khoảng 500m thu thập liệu liên tục với thời gian cách phút lần đo, sau gửi đến khối xử lý trung tâm, liệu lưu trữ lên máy chủ dạng file json trình bày hình sẵn sàng để đưa đến đầu vào mơ hình huấn luyện dự báo Hình Thơng số thời tiết csv file Các giá trị hai thông số tương đối chênh lệch Sự chênh lệch yêu cầu phải chuẩn hóa liệu đầu vào để thơng số đầu vào mạng có vai trị chúng ảnh hưởng đến kết đầu mức độ định 4.2 Lựa chọn liệu Các liệu nhiệt độ, độ ẩm chia thành tập liệu bao gồm Training dataset Testing dataset biểu diễn Bảng Training dataset dùng để làm đầu vào để thực thi thuật toán huấn luyện mơ hình mạng Testing dataset dùng để đánh giá độ xác mơ hình mạng sau huấn luyện Bảng Bảng phân chia liệu huấn luyện kiểm thử Dataset Training Testing dataset dataset Hình Thơng số thời tiết json file Ngồi ra, liệu nhiệt độ độ ẩm khơng khí website dự báo thời tiết thành phố Hồ Chí Minh đầu vào mơ hình huấn luyện dự báo Các liệu thu thập với thời gian cách tiếng lưu dạng file csv hình Website 5000 data (70%) 2000 data (30%) Sensor 65000 data (70%) 28000 data (30%) Hai tập liệu tập hợp liệu lấy từ nguồn sau: Dữ liệu nhiệt độ, độ ẩm từ sở liệu website dự báo thời tiết thành phố Hồ Chí Minh (từ 0h 1/4/2020 đến 0h 1/9/2020) lưu trữ máy chủ dạng file csv Dữ liệu nhiệt độ, độ ẩm từ nút cảm biến thu thập khu vực đặt nút 16 Tạp Chí Khoa Học Giáo Dục Kỹ Thuật Số 65 (08/2021) Trường Đại Học Sư Phạm Kỹ Thuật TP Hồ Chí Minh cảm biến (từ 0h 20/4/2020 đến 0h 25/7/2020) lưu trữ máy chủ dạng file json học diễn lâu dẫn đến việc tiêu tốn tài nguyên phần cứng 4.3 Thực nghiệm thuật toán Với kết trên, ta thực huấn luyện mơ hình 100 noron ẩn với 100 vòng lặp để quan sát trình huấn luyện mạng Đồng thời theo dõi kết lần lặp để đánh giá trình học Tập liệu training dataset bảng chia thành mảng liệu Mỗi tập có 1000 liệu nhiệt độ, độ ẩm 500 thời điểm khác phân chia vào nhóm Các tập liệu đưa vào để huấn luyện cho mạng bao gồm 70 tập liệu để tăng khả học mạng với nhiều trường hợp thời tiết khác Đầu mong muốn mơ hình (khơng mưa) (có mưa) so sánh với đầu huấn luyện mơ hình sau vịng lặp để tính tốn sai số mạng lần lặp Sai số hàm lỗi đầu huấn luyện cập nhật sau vòng lặp huấn luyện ma trận trọng số thay đổi lần lặp trước Ma trận trọng số khởi tạo ngẫu nhiên lần lặp Bảng Huấn luyện mơ hình mạng với số nơron lớp ẩn khác Số liệu mơ hình mạng Số liệu dự báo ứng với số lượng nơron lớp ẩn Đầu mơ hình (rain node) 0.988663 0.988876 0.988851 0.988048 0.987697 09 55 99 23 83 10 50 100 200 500 Đầu mô 0.013191 0.012658 0.012153 0.012960 0.013509 hình (no rain 32 71 56 66 node) Sai số hàm mát Sai số MSE 0.048 0.047 0.046 0.049 0.05 0.000102 0.000096 0.000093 0.000105 0.000112 Sai số MAE 0.0101 0.0098 0.0096 0.0102 0.0106 Sai số RMSE 0.0101 0.0098 0.0097 0.0103 0.0106 Thực nghiệm bảng cho thấy, số nơron lớp ẩn 100 nơron dự báo tốt với sai số thấp phương pháp đánh giá sai số MSE, RMSE MAE Trong phương pháp phương pháp tính sai số MSE cho sai số thấp Từ bảng 2, ta thấy số lượng nơron lớp ẩn q nhiều mạng cho độ xác không cao Đặc biệt số lượng nơron lớp ẩn lớn sai số giảm khơng đáng kể q trình Hình Hàm mát Cross Entropy với 100 vịng lặp Với kết hình 8, ta thấy hàm mát giảm từ 2.77287201 xuống 0.05124195 sau 100 lần lặp trình huấn luyện Hàm mát mơ hình dần tiến đến cực tiểu lý tưởng qua lần lặp huấn luyện Với đầu dự đoán lý tưởng nút dự đoán mưa nút dự đốn khơng mưa Sau 100 lần lặp trình huấn luyện, ta thấy đầu mạng giảm từ 0.518 xuống 0.013 với nút đầu dự đốn khơng mưa tăng từ 0.519 lên 0.987 với nút đầu dự đốn có mưa Với kết hình 9, ta thấy nút đầu mạng tiến dần đến dự đoán lý tưởng sau vịng lặp huấn luyện Tạp Chí Khoa Học Giáo Dục Kỹ Thuật Số 65 (08/2021) Trường Đại Học Sư Phạm Kỹ Thuật TP Hồ Chí Minh Hình Đầu mơ hình với 100 vịng lặp 4.4 Kiểm thử thuật toán Tập liệu testing dataset chia thành 30 tập test với tập test 1000 liệu nhiệt độ độ ẩm 500 thời điểm khác Ta thực 30 lần kiểm thử tương ứng với 30 tập test mơ hình mạng huấn luyện để đánh giá khả dự đoán mạng sau huấn luyện Bảng Kiểm thử với tập liệu testing dataset Confusion Predict: Predict: matrix No Yes Actual: No 13 Actual: Yes 14 Với bảng 3, ta có 27 lần dự đốn tổng số 30 lần kiểm thử Trong đó, 13 đại diện cho số lần dự đốn mưa khơng xảy 14 số dự đoán mưa xảy Ngược lại, ta có dự đốn sai tổng số 30 lần kiểm thử Trong đó, số lần dự đốn khơng mưa thực tế mưa xảy số lần dự đốn có mưa thực tế mưa khơng xảy 4.5 So sánh thuật tốn Để chứng minh tính hiệu thuật tốn lan truyền ngược với mơ hình mạng nơron nhiều lớp, tác giả tiến hành huấn luyện kiểm thử so sánh với thuật tốn khác Nạve Bayes, Support Vector Machine, K – Nearest Neighbor, Decision Tree, Random Forest, Logistic Regression [2] với tập liệu huấn luyện Kết đánh giá so sánh trình bày Bảng với so sánh thời gian huấn luyện Bảng với phần trăm độ xác Bảng Thời gian huấn luyện thuật toán Algorithm Training time (s) Neural Network 0.57 Naive Bayes 0.007 Support Vector Machine 0.005 K – Nearest Neighbor Decision Tree Random Forest Logistic Regression 0.003 0.008 0.028 0.048 17 So sánh kết độ xác thuật toán bảng với thời gian huấn luyện bảng 4, ta thấy thuật tốn có thời gian huấn luyện dài cho kết dự đoán tốt so với mơ hình thuật tốn có thời gian huấn luyện ngắn Mơ hình thuật tốn Neural Network với thời gian huấn luyện 0.57 giây tương ứng với độ xác 90% Kế tiếp Logistic Regression với 0.048 tương ứng với 86.6% Các thuật toán Naive Bayes, SVM, KNN, Decision Tree có tỉ lệ thấp hơn, dao động từ 76.6% đến 83.3% có thời gian huấn luyện ngắn so với mơ hình thuật tốn trước, dao động từ 0.003 – 0.008 giây Điều cho ta thấy thời gian huấn luyện mơ hình tỷ lệ nghịch với độ xác mơ hình thuật toán Bảng Phần trăm dự đoán thuật toán Algorithm Accuracy (%) Neural Network 90 Naive Bayes 76.6 Support Vector Machine 80 K – Nearest Neighbor 76.6 Decision Tree 83.3 Random Forest 60 Logistic Regression 86.6 Tuy nhiên, mơ hình thuật tốn Random Forest có thời gian huấn luyện lâu thuật toán Naive Bayes, SVM, KNN, Decision Tree độ xác dự đốn lại thấp với 60% Điều chứng tỏ Random Forest chưa huấn luyện hiệu với thông số chọn mơ hình chưa thích hợp để xử lý thông số liệu thời tiết 18 Tạp Chí Khoa Học Giáo Dục Kỹ Thuật Số 65 (08/2021) Trường Đại Học Sư Phạm Kỹ Thuật TP Hồ Chí Minh KẾT LUẬN Trong báo này, tác giả đa xây dựng mơ hình thu thập liệu ổn định, tiêu tốn lượng, điểm thu thập hoạt động nhiều khu vực khác Các thực nghiệm cho thấy, huấn luyện tốt tập liệu đầy đủ hoàn thiện với tham số lựa chọn cẩn thận kết dự báo đạt độ xác cao tới 90% với mơ hình sử dụng mạng neuron so với mơ hình khác Logistic Regression với 86.6% Các thuật tốn Naive Bayes, SVM, KNN, Decision Tree có tỉ lệ thấp hơn, dao động từ 76.6% đến 83.3% LỜI CÁM ƠN Bài báo thực với hỗ trợ kinh phí từ dự án số: T2020-48TĐ, Trường Đại học Sư phạm Kỹ thuật TP.HCM, Việt Nam TÀI LIỆU THAM KHẢO [1] [2] [3] [4] [5] [6] [7] [8] [9] [10] [11] [12] [13] National strategy on climate change Internet: Strategies details (chinhphu.vn), 23/12/2020 S Ray A Quick Review of Machine Learning Algorithms 2019 International Conference on Machine Learning, Big Data, Cloud and Parallel Computing (COMITCon), 2019, pp 35-39 M J Kennedy Review of applications of artificial neural networks in biotechnology, Proceedings 1993 The First New Zealand International Two-Stream Conference on Artificial Neural Networks and Expert Systems, 1993, pp 252-254 T Schmidt, H Rahnama and A Sadeghian A review of applications of artificial neural networks in cryptosystems, 2008 World Automation Congress, 2008, pp 1-6 Y Li and W Ma Applications of Artificial Neural Networks in Financial Economics: A Survey, 2010 International Symposium on Computational Intelligence and Design, 2010, pp 211-214 B Milovanovic, M Agatonovic, Z Stankovic, N Doncov and M Sarevska Application of neural networks in spatial signal processing (invited paper), 11th Symposium on Neural Network Applications in Electrical Engineering, 2012, pp 5-14 R Meenal and A I Selvakumar, Review on artificial neural network based solar radiation prediction, 2017 2nd International Conference on Communication and Electronics Systems (ICCES), 2017, pp 302-305 T Truong, A Dinh and K Wahid An IoT environmental data collection system for fungal detection in crop fields, 2017 IEEE 30th Canadian Conference on Electrical and Computer Engineering (CCECE), 2017, pp 1-4 V F Silva, D F Macedo and J L Leoni Spectrum Decision in Wireless Sensor Networks Employing Machine Learning, 2014 Brazilian Symposium on Computer Networks and Distributed Systems, 2014, pp 386-393 H Ahmadi and R Bouallegue Comparative study of learning-based localization algorithms for Wireless Sensor Networks: Support Vector regression, Neural Network and Naïve Bayes, 2015 International Wireless Communications and Mobile Computing Conference (IWCMC), 2015, pp 1554-1558 S K and V Vaidehi Clustering and Data Aggregation in Wireless Sensor Networks Using Machine Learning Algorithms, 2018 International Conference on Recent Trends in Advance Computing (ICRTAC), 2018, pp 109-115 T Hemalatha, M V Ramesh and V P Rangan Effective and Accelerated Forewarning of Landslides Using Wireless Sensor Networks and Machine Learning, in IEEE Sensors Journal, vol 19, no 21, pp 9964-9975, Nov.1, 2019 J K Roy, D Gupta and S Goswami An improved flood warning system using WSN and Artificial Neural Network 2012 Annual IEEE India Conference, 2012, pp 770-774 Tạp Chí Khoa Học Giáo Dục Kỹ Thuật Số 65 (08/2021) Trường Đại Học Sư Phạm Kỹ Thuật TP Hồ Chí Minh 19 [14] I R Widiasari, L E Nugroho and Widyawan Deep learning multilayer perceptron (MLP) for flood prediction model using wireless sensor network based hydrology time series data mining 2017 International Conference on Innovative and Creative Information Technology (ICITech), 2017, pp 1-5 [15] S Madan, P Kumar, S Rawat and T Choudhury Analysis of Weather Prediction using Machine Learning & Big Data, 2018 International Conference on Advances in Computing and Communication Engineering (ICACCE), 2018, pp 259-264 [16] G Verma, P Mittal and S Farheen Real Time Weather Prediction System Using IOT and Machine Learning, 2020 6th International Conference on Signal Processing and Communication (ICSC), 2020, pp 322-324 [17] R K Grace and B Suganya Machine Learning based Rainfall Prediction, 2020 6th International Conference on Advanced Computing and Communication Systems (ICACCS), 2020, pp 227-229 [18] Mohsen Hayati, Zahra Mohebi Application of Artificial Neural Networks for Temperature Forecasting World Academy of Science, Engineering and Technology, Vol 4, Issue 1, pp 662-666, 2007 [19] A Molano-Jimenez, A D Orjuela-Cón and W Acosta-Burbano Temperature and Relative Humidity Prediction in Swine Livestock Buildings, 2018 IEEE Latin American Conference on Computational Intelligence (LA-CCI), 2018, pp 1-4 [20] L P Dinesh Kumar, S Shakena Grace, A Krishnan, V M Manikandan, R Chinraj and M R Sumalatha Data filtering in wireless sensor networks using neural networks for storage in cloud, 2012 International Conference on Recent Trends in Information Technology, 2012, pp 202-205 [21] H Sharma and S Sharma A review of sensor networks: Technologies and applications, 2014 Recent Advances in Engineering and Computational Sciences (RAECS), 2014, pp 1-4 [22] Ian F Akyildiz and Mehmet Can Vuran Wireless Sensor Network John Wiley & Sons Ltd, 2010, pp 10-15 [23] Jose A Gutierrez; Edgar H Callaway; Raymond L Barrett IEEE Std 802.15.4 Technical Overview Low-Rate Wireless Personal Area Networks: Enabling Wireless Sensors with IEEE 802.15.4, 2007 [24] C M Ramya, M Shanmugaraj and R Prabakaran Study on ZigBee technology 2011 3rd International Conference on Electronics Computer Technology, 2011, pp 297-301 [25] A Sperduti An overview on supervised neural networks for structure Proceedings of International Conference on Neural Networks, 1997, pp 2550-2554 [26] M Chen, U Challita, W Saad, C Yin and M Debbah Artificial Neural Networks-Based Machine Learning for Wireless Networks: A Tutorial IEEE Communications Surveys & Tutorials, vol 21, no 4, pp 3039-3071, 2019 [27] A Menon, S Singh and H Parekh A Review of Stock Market Prediction Using Neural Networks, 2019 IEEE International Conference on System, Computation, Automation and Networking (ICSCAN), 2019, pp 1-6 [28] M Verhelst and B Moons, Embedded Deep Neural Network Processing: Algorithmic and Processor Techniques Bring Deep Learning to IoT and Edge Devices IEEE Solid-State Circuits Magazine, vol 9, no 4, pp 55-65, Fall 2017 [29] S C Sreenivasa, S K Agarwal and R Kumar Short term wind forecasting using logistic regression driven hypothesis in artificial neural network 2014 6th IEEE Power India International Conference (PIICON), 2014, pp 1-6 Tác giả chịu trách nhiệm viết: Võ Minh Huân 20 Tạp Chí Khoa Học Giáo Dục Kỹ Thuật Số 65 (08/2021) Trường Đại Học Sư Phạm Kỹ Thuật TP Hồ Chí Minh Trường Đại học Sư phạm Kỹ thuật TP.HCM Email: huanvm@hcmute.edu.vn ... sử dụng mạng cảm biến kết hợp với mơ hình Neural Network để giải toán dự báo lũ lụt, thiên tai [13-17] Ngoài ứng dụng dự báo lũ lụt, dự báo thông số thời tiết ngày thời gian gần với mơ hình mạng. .. liệu sử dụng chuẩn truyền liệu không dây Zigbee đề cập mục 2.1 2.2 Mạng thần kinh nhân tạo xử lý liệu đưa định dự báo phân tích mục 2.3 2.1 Mạng cảm biến khơng dây Mạng cảm biến không dây hệ thống... hiệu mạng cảm biến máy học để xử lý thơng tin, thực dự đốn Ngồi ra, nghiên cứu sau đề cấp nhiều đến kết hợp mạng cảm biến khơng dây mơ hình máy học [9-12] Bên cạnh đó, nghiên cứu dự đốn sử dụng

Ngày đăng: 17/01/2022, 10:09

TỪ KHÓA LIÊN QUAN

w