Mô hình dự báo nhiệt độ môi trường sử dụng mạng nơ rôn nhân tạo

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI VŨ QUANG NGỌC MƠ HÌNH DỰ BÁO NHIỆT ĐỘ MÔI TRƯỜNG SỬ DỤNG MẠNG NƠ-RÔN NHÂN TẠO LUẬN VĂN THẠC SĨ KHOA HỌC CHUYÊN NGÀNH: KỸ THUẬT ĐIỀU KHIỂN VÀ TỰ ĐỘNG HÓA HÀ NỘI - 2016 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI VŨ QUANG NGỌC MƠ HÌNH DỰ BÁO NHIỆT ĐỘ MÔI TRƯỜNG SỬ DỤNG MẠNG NƠ-RÔN NHÂN TẠO LUẬN VĂN THẠC SĨ KHOA HỌC CHUYÊN NGÀNH: KỸ THUẬT ĐIỀU KHIỂN VÀ TỰ ĐỘNG HÓA NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS.TSKH: TRẦN HOÀI LINH HÀ NỘI - 2016 LỜI CẢM ƠN Trƣớc tiên, xin chân thành cảm ơn đến Thầy, Cô Viện Điện Viện Sau Đại học - Trƣờng Đại học Bách khoa Hà Nội trang bị cho nhiều kiến thức quý báu thời gian qua Tôi xin chân thành cảm ơn PGS TSKH Trần Hoài Linh, ngƣời hƣớng dẫn khoa học luận văn tận tình giúp đỡ tơi hồn thành luận văn Sau cùng, tơi xin cảm ơn bạn bè, đồng nghiệp ngƣời thân tận tình góp ý giúp đỡ tơi suốt thời gian nghiên cứu Hà Nội, ngày tháng năm 2016 TÁC GIẢ LUẬN VĂN Vũ Quang Ngọc i LỜI CAM ĐOAN Luận văn thạc sĩ khoa học chun ngành Đo lƣờng với đề tài “Mơ hình dự báo nhiệt độ môi trường sử dụng mạng nơ-rôn nhân tạo” tác giả viết dƣới hƣớng dẫn PGS.TSKH Trần Hoài Linh Luận văn đƣợc viết sở nghiên cứu tổng quan lý thuyết việc ứng dụng mạng nơ-rôn nhân tạo để dự báo nhiệt độ mơi trƣờng khu vực Thị xã Chí Linh, Hải Dƣơng Khi viết luận văn này, tác giả có tham khảo kế thừa số kết nghiên cứu tác giả trƣớc sử dụng thơng tin số liệu từ tạp chí, sách, mạng internet… theo danh mục tham khảo Tác giả cam đoan khơng có chép ngun văn từ luận văn hay nhờ ngƣời khác viết Tác giả xin hoàn toàn chịu trách nhiệm cam đoan chấp nhận hình thức kỷ luật theo quy định Trƣờng Đại học Bách khoa Hà Nội Hà Nội, ngày tháng năm 2016 TÁC GIẢ LUẬN VĂN Vũ Quang Ngọc ii MỤC LỤC LỜI CẢM ƠN i LỜI CAM ĐOAN ii MỤC LỤC iii DANH MỤC HÌNH VẼ v DANH MỤC BẢNG BIỂU vi CÁC TỪ VIẾT TẮT vii MỞ ĐẦU viii CHƢƠNG I: TỔNG QUAN VỀ ĐO VÀ DỰ BÁO NHIỆT ĐỘ MÔI TRƢỜNG 1.1 Giới thiệu chung 1.2 Một số mô hình dự báo nhiệt độ mơi trƣờng ứng dụng mạng nơ-ron nhân tạo 1.3 Kết luận chƣơng I CHƢƠNG II: MƠ HÌNH LAI VÀ ỨNG DỤNG TRONG ƢỚC LƢỢNG PHI TUYẾN 2.1 Mơ hình lai [5, 6, 7] 2.2 Chọn đặc tính đầu vào mơ hình dự báo [8, 9, 10] 14 2.2.1 Phƣơng pháp phân tích thành phần – PCA 17 2.2.2 Phƣơng pháp phân tích khác biệt tuyến tính LDA 18 2.2.3 Phƣơng pháp phân tích giá trị kỳ dị (SVD) 18 2.3 Ứng dụng giải thuật SVD xây dựng khối tuyến tính [10] 19 2.4 Ứng dụng mạng MLP xây dựng khối phi tuyến [6, 11, 12, 13] 22 2.5 Kết luận chƣơng II 30 CHƢƠNG III: LỰA CHỌN ĐẶC TÍNH ĐẦU VÀO VÀ ỨNG DỤNG MƠ HÌNH LAI CHO DỰ BÁO NHIỆT ĐỘ NGÀY 31 3.1 Mơ hình dự báo nhiệt độ [6, 11, 12, 13] 31 3.1.1 Các số liệu đầu vào 31 3.1.2 Mơ hình đề xuất luận văn 31 3.2 Quy trình xây dựng mơ hình dự báo luận văn [13, 14] 31 3.2.1 Xây dựng mơ hình dự báo nhiệt độ Tmax 32 3.2.2 Xây dựng mơ hình dự báo nhiệt độ Tmin 36 3.3 Kết luận chƣơng III 39 CHƢƠNG IV CÁC KẾT QUẢ TÍNH TỐN, MƠ PHỎNG 40 4.1 Bộ số liệu đầu vào sử dụng cho mơ hình dự báo 40 4.2 Kết mơ hình dự báo nhiệt độ Tmax 40 4.3 Kết mơ hình dự báo nhiệt độ Tmin 49 iii 4.4 So sánh đánh giá kết 54 4.5 Kết luận chƣơng IV 55 KẾT LUẬN VÀ HƢỚNG NGHIÊN CỨU TIẾP THEO 57 Kết đạt đƣợc 57 Hƣớng phát triển 57 Tài liệu tham khảo 59 iv DANH MỤC HÌNH VẼ Hình 1.1 Sơ đồ khối hệ dự báo thời tiết với ứng dụng mạng nơ-rôn Hình 1.2 Sơ đồ khối mơ hình dự báo nhiệt độ Hình 2.1: Sơ đồ khối tổng thể mơ hình lai Hình 2.2: Khối phi tuyến dạng tổng quát 10 Hình 2.3: Khối phi tuyến kết hợp với sai số đầu khối tuyến tính 10 Hình 2.4: Mơ hình mạng nơ-rơn truyền thẳng với hai lớp ẩn 12 Hình 2.5: Mơ hình mạng nơ-rơn truyền thẳng với lớp ẩn 13 Hình 2.7: Cấu trúc khối trích chọn đặc tính 15 Hình 2.8: Cấu trúc tổng quát bƣớc thực trích chọn đặc tính 15 Hình 2.9: Cấu trúc mơ hình theo hƣớng Filter 16 Hình 2.10: Cấu trúc mơ hình theo hƣớng Wrapper 16 Hình 2.11: Khơng gian đƣợc tạo qua phép biến đổi PCA 17 Hình 2.12: Xác định mạng MLP xấp xỉ hàm truyền đối tƣợng 23 Hình 4.1: Đồ thị thể thể ngày có ảnh hƣởng đến giá trị Tmax ngày dự báo d 42 Hình 4.2: Kết ƣớc lƣợng khối tuyến tính số liệu học xác định Tmax 44 Hình 4.3: Kết kiểm tra khối tuyến tính việc ƣớc lƣợng Tmax 45 Hình 4.4: Sai số khối tuyến tính mơ hình ƣớc lƣơng Tmax đƣợc sử dụng làm đầu vào khối phi tuyến 47 Hình 4.5: Tín hiệu đầu mạng MLP sau q trình học 47 Hình 4.6: Tín hiệu đầu mạng MLP qua q trình kiểm tra 48 Hình 4.7: Kết ƣớc lƣợng khối tuyến tính số liệu học xác định Tmin 51 Hình 4.8: Kết kiểm tra khối tuyến tính việc ƣớc lƣợng Tmin 51 Hình 4.9: Sai số khối tuyến tính mơ hình ƣớc lƣơng Tmin đƣợc sử dụng làm đầu vào khối phi tuyến 52 Hình 4.10: Tín hiệu đầu mạng MLP sau q trình học 53 Hình 4.11: Tín hiệu đầu mạng MLP qua q trình kiểm tra 53 v DANH MỤC BẢNG BIỂU Bảng 4.1 Kết hệ số phụ thuộc tuyến tính ( có giá trị ảnh hƣởng lớn ngày d-1, d-5,d-8, d-12 tới Tmax ngày dự báo d 41 Bảng 4.2 Sai số mẫu gốc tín hiệu tái tạo mơ hình tuyến tính xác định Tmax 45 Bảng 4.4 Kết sai số tổng hợp mơ hình phi tuyến xác định Tmax 48 Bảng 4.5 Sai số mẫu gốc tín hiệu tái tạo mơ hình tuyến tính xác định Tmin 52 Bảng 4.6 Sai số tổng hợp mẫu gốc tín hiệu tái tạo mơ hình phi tuyến xác định Tmin 53 Bảng 4.8 Một số kết theo số liệu học toán ƣớc lƣợng Tmax 54 Bảng 4.9 Một số kết số liệu kiểm tra toán ƣớc lƣợng Tmax 54 Bảng 4.10 Một số kết số liệu học toán ƣớc lƣợng Tmin 54 Bảng 4.11 Một số kết số liệu kiểm tra toán ƣớc lƣợng Tmin 55 vi CÁC TỪ VIẾT TẮT Viết tắt Tiếng Anh Tiếng Việt SST Sea Surface Temperature Nhiệt độ bề mặt biển K-NN K-Nearest Neighbors K láng giềng gần MLP Multi Layer Perceptron Mạng nhiều lớp truyền thẳng SVD Singular Value Decomposition Phƣơng pháp phân tích giá trị kỳ dị LDA Linear Discriminant Analysis MDA Multiple Discriminat Analysis Phân tích đa đặc tính PCA Principal Component Analysis Phƣơng pháp phân tích thành phần Phƣơng pháp phân tích khác biệt tuyến tính TMax Nhiệt độ cao ngày Tmin Nhiệt độ thấp ngày MRE Mean Relative Error Trung bình sai số tƣơng đối MAE Mean Absolute Error Trung bình sai số tuyệt đối Giá trị lớn sai số tuyệt đối MaxAE Maximum Absolute Error vii MỞ ĐẦU Lý chọn đề tài Môi trƣờng vấn đề không Việt Nam mà quốc gia giới quan tâm tới Hiện nay, môi trƣờng bị ảnh hƣởng nghiêm trọng phát triển nhanh cơng nghiệp tất quốc gia giới tàn phá môi trƣờng ngƣời Các nhà máy, cơng trình, xƣởng sản xuất đƣợc xây dựng hàng ngày thải lƣợng khí thải, chất thải nguy hại dẫn đến môi trƣờng bị ô nhiễm Theo thống kê nhiệt độ toàn giới kỷ XIX tăng 0,8C Thế kỷ XX tăng 0,6  0, 2C Theo mơ hình nghiên cứu dự báo nhiệt độ Trái Đất kỷ XXI tăng thêm 1,1  6, 4C [15] Nhiệt độ môi trƣờng thay đổi dẫn tới tƣợng thời tiết cực đoan nhƣ hạn hán, thiên tai, lũ lụt… Dự báo thời tiết nói chung nhiệt độ mơi trƣờng nói riêng có ý nghĩa lớn tới sản xuất, đời sống sinh hoạt ngƣời Trong luận văn này, tác giả sử dụng mơ hình mạng lai gồm khối tuyến tính mạng nơ-ron phi tuyến mắc song song để thử nghiệm dự báo nhiệt độ khu vực Thị xã Chí Linh, Hải Dƣơng Mục đích nghiên cứu luận văn, đối tƣợng phạm vi nghiên cứu Nghiên cứu thực hai vấn đề mơ hình thu thập, xử lý dự báo nhiệt độ môi trƣờng:  Xây dựng mơ hình dự báo thơng số nhiệt độ dựa kết đo khứ từ số liệu trạm khí tƣợng địa phƣơng đặt thiết bị đo  Nghiên cứu, áp dụng mạng nơ-ron xây dựng mơ hình dự báo phi tuyến  Đề xuất mơ hình dự báo nhiệt độ cho khu vực Thị xã Chí Linh, Hải Dƣơng Nhiệm vụ nghiên cứu  Nghiên cứu xây dựng mơ hình ƣớc lƣợng thông số môi trƣờng dựa kết đo khứ khu vực lân cân  Xây dựng mơ hình dự báo nhiệt độ mơi trƣờng dựa kết đo khứ  Nghiên cứu số mơ hình dự báo thơng số mơi trƣờng từ đề xuất mơ hình dự báo thơng số nhiệt độ viii Hình 4.4: Sai số khối tuyến tính mơ hình ước lương Tmax sử dụng làm đầu vào khối phi tuyến Hình 4.5: Tín hiệu đầu mạng MLP sau q trình học 47 Hình 4.6: Tín hiệu đầu mạng MLP qua trình kiểm tra load Data_CL_SVD_max BigBigA_Tmax = [BigA_Tmax(:,[1 12]) BigA_Tmin(:,[1 9]) BigA_RHmax(:,[1 10]) BigA_RHmin(:,[1 9])]; whos BigBigA_Tmax;TestNr = 691; BigBigA_Tmax_Learn = BigBigA_Tmax(1:(end-TestNr),:); B_Tmax_Learn = B_Tmax(1:(end-TestNr)); BigBigA_Tmax_Test = BigBigA_Tmax((end-TestNr+1):end,:); B_Tmax_Test = B_Tmax((end-TestNr+1):end); maxLinearCoeff_Learn = BigBigA_Tmax_Learn\B_Tmax_Learn; ErrorLearnAfterLinear_Tmax = B_Tmax_Learn BigBigA_Tmax_Learn*TmaxLinearCoeff_Learn; % Sai so lai sau thuc hien SVD ErrorTestAfterLinear_Tmax = B_Tmax_Test BigBigA_Tmax_Test*TmaxLinearCoeff_Learn; % Tim so lop an N % results = []; BestResultError = inf; for HiddenNeuron = 30:10:50 TmaxNN = feedforwardnet(HiddenNeuron,'trainlm'); RepeatCount = 5; for i = 1:RepeatCount net2 = configure(TmaxNN, BigBigA_Tmax_Learn', ErrorLearnAfterLinear_Tmax'); net2.divideParam.trainRatio =1; net2.divideParam.valRatio =0; net2.divideParam.testRatio =0; net2.trainParam.min_grad=1e-10; NumberEpoch = 500; net2.trainParam.epochs = NumberEpoch; [net3,tr] = train(net2, BigBigA_Tmax_Learn', ErrorLearnAfterLinear_Tmax'); 48 ytest_MLP=sim(net3, BigBigA_Tmax_Test'); err_test = sum((ytest_MLP - ErrorTestAfterLinear_Tmax').^2); if (err_test