Ứng dụng lý thuyết mạng nơron trong dự báo lưu lượng nước đến hồ hoà bình

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI -*** - LUẬN VĂN THẠC SỸ KHOA HỌC ỨNG DỤNG LÝ THUYẾT MẠNG NƠRON TRONG DỰ BÁO LƯU LƯỢNG NƯỚC ĐẾN HỒ HỊA BÌNH NGÀNH: KỸ THUẬT ĐIỆN TỬ MÃ SỐ: TRỊNH HỒNG CƯỜNG NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS TS NGUYỄN THỊ VIỆT HƯƠNG HÀ NỘI 2007 Luận văn cao học i MỤC LỤC MỞ ĐẦU CHƯƠNG TỔNG QUAN VỀ CÁC MƠ HÌNH DỰ BÁO THỦY VĂN 1.1 Dự báo lưu lượng sử dụng phương pháp truyền thống 1.2 Dự báo lưu lượng sử dụng mạng nơ-ron nhân tạo (ANNs) 1.3 Một số nghiên cứu sử dụng mạng nơ-ron nhân tạo dự báo lưu lượng 1.4 Áp dụng dự báo lưu lượng nước vào hồ Hòa Bình CHƯƠNG GIỚI THIỆU VỀ MẠNG NƠ-RON NHÂN TẠO 2.1 Khái niệm mạng nơ-ron nhân tạo 2.2 Mơ hình mạng nơ-ron nhân tạo 11 2.2.1 Khái niệm 11 2.2.2 Các phần tử xử lý (Processing Elements) 11 2.2.3 Liên kết mạng nơ-ron nhân tạo 13 2.2.4 Các luật học mạng nơ-ron nhân tạo 15 CHƯƠNG MẠNG NƠ-RON LAN TRUYỀN NGƯỢC SAI SỐ 23 3.1 Mạng perceptron lớp 23 3.2 Mạng perceptron nhiều lớp 28 3.2.1 Khái niệm 28 3.2.2 Giải toán XOR với mạng MLP 28 3.2.3 Thuật toán học theo phương pháp lan truyền ngược sai số 29 3.2.4 Một số yếu tố ảnh hưởng đến phương pháp lan truyền ngược sai số 35 3.3 Một số vấn đề cần ý sử dụng mạng MLP 38 3.3.1 Vấn đề chuẩn hoá số liệu đầu vào 38 3.3.2 Vấn đề học chưa đủ học thuộc mạng 40 3.3.3 Vấn đề ngoại suy mạng nơ-ron nhân tạo MLP 42 3.3.4 Lựa chọn đầu vào cho mạng 49 3.3.5 Vấn đề lựa chọn cấu trúc mạng phù hợp 51 CHƯƠNG ỨNG DỤNG MƠ HÌNH MẠNG NƠ-RON NHÂN TẠO TRONG DỰ BÁO LƯU LƯỢNG ĐẾN HỒ HỊA BÌNH 56 4.1 Đặt vấn đề 56 4.2 Ứng dụng ANNs dự báo lưu lượng đến hồ Hịa Bình 57 4.2.1 Phương hướng áp dụng 57 4.2.2 Mô hình mạng Nơ ron ứng dụng cho dự báo 57 4.2.3 Dữ liệu đầu vào cho mạng nơ-ron 58 4.2.4 Công cụ phần mềm ứng dụng cho mơ hình ANN 59 4.2.5 Các số đánh giá kết dự báo 60 4.2.6 Triển khai phương án đánh giá nhằm đưa mô hình tối ưu 62 CHƯƠNG KẾT LUẬN VÀ ĐỊNH HƯỚNG PHÁT TRIỂN 67 TÀI LIỆU THAM KHẢO 68 PHỤ LỤC 69 Trịnh Hồng Cường Luận văn cao học MỞ ĐẦU Tầm quan trọng ý nghĩa công tác dự báo thủy văn Dự báo thuỷ văn dự báo trước cách có khoa học trạng thái biến đổi yếu tố thuỷ văn Đây ngành khoa học có nhiệm vụ báo trước xuất yếu tố thủy văn sở nghiên cứu quy luật chúng Hiện có nhiều toán đặt dự báo thuỷ văn nói chung như: dự báo dịng chảy, dự báo mực nước, dự báo lưu lượng nước sông, dự báo lũ, tượng khác sông ngịi hồ Thuỷ văn q trình tự nhiên phức tạp, chịu tác động nhiều yếu tố Tính biến động yếu tố phụ thuộc vào không gian thời gian nên gây khó khăn lớn cho q trình dự báo, tìm mối liên quan yếu tố Thêm vào đó, liệu quan trắc thực tế lại khơng đầy đủ, khơng mang tính chất đại diện thiếu trạm quan trắc cần thiết thiếu kết hợp ngành liên quan Hiện nay, có nhiều phương pháp dự báo đưa dựa mơ hình vật lý mơ hình toán học Kết dự báo đạt thành tựu đáng kể số trường hợp Tuy nhiên, phương pháp đủ tốt để giải toán dự báo thuỷ văn, đáp ứng yêu cầu thực tế tiếp tục nghiên cứu Dự báo lưu lượng nước hồ Hịa Bình vấn đề dự báo thủy văn, có vai trị quan trọng việc xây dựng khu vực thủy lợi nông nghiệp ổn định vùng đồng sơng Hồng Với lợi ích kinh tế thủy điện, tưới tiêu vấn đề khai thác, quản lý nguồn tài nguyền nước trữ lượng nước hồ Hịa Bình vấn đề liên quan ln quan tâm Với mục đích đó, luận văn gồm nội dung sau: Chương 1: TỔNG QUAN VỀ CÁC MƠ HÌNH DỰ BÁO THỦY VĂN Phân tích nêu đặc điểm so sánh mơ hình dự báo Nêu lên vấn đề cần quan tâm phương thức áp dụng mơ hình dự báo Trịnh Hồng Cường Luận văn cao học truyền thống, đưa hướng tiếp cận mơ hình dự báo sử dụng mạng nơron nhân tạo Chương 2: GIỚI THIỆU VỀ MẠNG NƠ-RON NHÂN TẠO Nêu lên khái niệm cách tiếp cận xây dựng mơ hình tốn học mơ mạng nơron não người Các mơ hình sở cho việc xây dựng mạng nơron nhân tạo Một số hình thái mạng nơron nhân tạo áp dụng lĩnh vực dự báo Chương 3: MẠNG NƠ-RON LAN TRUYỀN NGƯỢC SAI SỐ Chương trình bày mạng nơ-ron truyền thẳng (còn gọi mạng perceptron nhiều lớp – MLP ), sử dụng phương pháp học cách lan truyền ngược sai số Đây loại mạng nơ-ron thông dụng dùng để giải nhiều toán kỹ thuật Chương phân tích để làm rõ yếu tố ảnh hưởng đến hiệu làm việc loại mạng này, từ đề xuất xử lý cần thiết áp dụng giải tốn thực tế Chương 4: ỨNG DỤNG MƠ HÌNH ANNs TRONG DỰ BÁO LƯU LƯỢNG HỒ HỊA BÌNH Chương trình bày phân tích kết nghiên cứu việc ứng dụng mạng nơ-ron nhân tạo lan truyền ngược sai số dự báo lưu lượng đến hồ Hịa Bình Đề tài phân tích đặc điểm địa lý tự nhiên hình thái lưu lượng đến hồ Hịa Bình từ xây dựng phương án ứng dụng mạng nơ-ron nhân tạo lan truyền ngược sai số để dự báo lưu lượng đến hồ Hòa Bình theo mơ hình dự báo trung hạn Chương 5: KẾT LUẬN VÀ ĐỊNH HƯỚNG PHÁT TRIỂN Chương nêu lên vấn đề khác nên tiếp cận xây dựng mơ hình dự báo, phương pháp áp dụng nhằm tăng độ xác tính khả thi mơ hình dự báo Trịnh Hồng Cường Luận văn cao học CHƯƠNG TỔNG QUAN VỀ CÁC MƠ HÌNH DỰ BÁO THỦY VĂN 1.1 Dự báo lưu lượng sử dụng phương pháp truyền thống Quá trình hình thành lưu lượng trình phức tạp Nó chịu tác động nhiều yếu tố mưa, nhiệt độ, độ ẩm, lượng nước trữ lưu vực, yếu tố địa hình, thổ nhưỡng, thảm thực vật bề mặt lưu vực v.v Các yếu tố nhiều độc lập với mà chúng có mối quan hệ phụ thuộc lẫn phức tạp phụ thuộc vào nhiều yếu tố khác Các phương pháp dự báo lưu lượng truyền thống dựa việc nghiên cứu chất vật lý trình hình thành lưu lượng lưu vực dịng chảy sơng Q trình thường biểu diễn phương trình vi phân Tuy nhiên, phương trình thường phức tạp Hiện tượng sóng lưu lượng tuân theo quy luật chuyển động không ổn định thường biểu diễn hệ phương trình Saint – Vernant: id  h v  v v   v  s g t g s c R  q  q t s Trong đó:  id : độ dốc đáy sông  v : vận tốc nước chảy qua mặt cắt ngang sông  s : chiều dài đoạn sông  t : thời gian  c: hệ số Chezi  R: bán kính thuỷ lực  : diện tích mặt cắt ướt  : hệ số động Trịnh Hồng Cường (1.1) (1.2) Luận văn cao học  q: lượng nước gia nhập khu đơn vị dài bê sông Về nguyên tắc, phương trình vi phân giải Tuy nhiên mối quan hệ phụ thuộc phức tạp yếu tố nên đến chưa tìm nghiệm giải tích tổng qt hệ phương trình người ta phải tìm cách giải gần cho trường hợp cụ thể riêng biệt Có hai nhóm giải pháp để giải gần phương trình là:  Phương pháp tính thuỷ lực lưới sơng, phương pháp cố gắng mô tả gần trình hình thành lưu lượng để tính tốn dự báo Tuy nhiên, hạn chế chủ yếu phương pháp cần sử dụng nhiều tham số chi tiết địa hình lịng sơng tự nhiên mà thực tế tài liệu cho hệ thống sông Việt nam thường thiếu khơng xác Do đó, phương pháp địi hỏi khối lượng tính toán lớn kết phụ thuộc nhiều vào độ xác đầy đủ số liệu đầu vào  Phương pháp đơn giản hoá, phương pháp tìm cách đơn giản hố hệ phương trình Saint - Vernant tuỳ theo trường hợp tính tốn cụ thể Phương pháp khắc phục nhược điểm cần nhiều tham số khó thu thập phương pháp Các mơ hình truyền thống thường gọi mơ hình nhận thức (conceptual model) mơ hình vật lý (physically - base model) Các mơ hình xuất phát từ việc tìm hiểu trình vật lý tạo nên tượng diễn tả phương trình tốn học Loại mơ hình giúp hiểu chất trình vật lý tạo nên tượng tự nhiên Tuy vậy, địi hỏi phải giải nhiều phương trình phức tạp với nhiều ẩn số đặc tả q trình vật lý Nếu mơ hình hố khơng phù hợp dẫn đến kết dự báo khơng xác Trịnh Hồng Cường Luận văn cao học 1.2 Dự báo lưu lượng sử dụng mạng nơ-ron nhân tạo (ANNs) Một phương pháp khác để mơ hình hố q trình mưa rào - dòng chảy sử dụng mạng nơ-ron nhân tạo (Artificial Neural Network - ANN) Năm 1996, tạp chí Hydrological Science Journal số 41, hai tác giả Minns A.W Hall M.J nêu vấn đề sử dụng mạng nơ-ron nhân tạo để mơ hình hố q trình mưa rào - dịng chảy Tiếp đó, năm 1998 tác giả Solomatine Yonas thuộc Viện nghiên cứu IHE-Delft Hà Lan ứng dụng thành công mạng nơ-ron nhân tạo để dự báo dịng chảy cho sơng Apure miền tây nam Venezuela Năm 2002, hội nghị quốc tế lần thứ Hydroinformatics Cardiff Anh, tác giả Solomatine khẳng định khả sử dụng mơ hình hướng liệu (data-driven model) để giải nhiều toán lĩnh vực tài ngun nước có tốn dự báo lũ Các mơ hình khơng sâu đặc tả trình vật lý cách lập giải hệ phương trình mơ tả q trình mà dựa sở liệu thực tế đủ lớn áp dụng kỹ thuật tính tốn đại dùng nhiều lĩnh vực công nghệ thông tin năm gần logic mờ lập luận xấp xỉ, mạng nơ-ron nhân tạo, giải thuật di truyền, định v.v chúng thường nói tới với thuật ngữ “tính tốn mềm” (soft computing) hay “tính tốn thơng minh” (computational intelligence) Các phương pháp nhằm theo chế tính tốn suy luận não người Hướng tiếp cận mở phương pháp để mơ hình hố q trình tự nhiên phức tạp, phi tuyến mà việc đặc tả trình vật lý gặp nhiều khó khăn mơ hình hố q trình mưa rào - dịng chảy (rainfall runoff), dự báo lưu lượng, dự báo hạn hán, mơ hình hố dịng chảy ngầm, phân loại đất, dự báo nhu cầu sử dụng nước,… Trịnh Hồng Cường Luận văn cao học 1.3 Một số nghiên cứu sử dụng mạng nơ-ron nhân tạo dự báo lưu lượng Trong xu phát triển mạnh ứng dụng mạng nơ-ron nhân tạo để giải toán thuộc nhiều lĩnh vực khác có lĩnh vực dự báo lưu lượng, năm gần có nhiều tác giả nước quan tâm nghiên cứu vấn đề Đã có nghiên cứu áp dụng dự báo lưu lượng cho số hệ thống sông Việt Nam Một số nghiên cứu là: Nghiên cứu Ths Lê Xuân Cầu Ks Nguyên Văn Chương, [Trung tâm tư liệu khí tượng thuỷ văn quốc gia] năm 2000, dự báo lưu lượng sông Cầu, sông Trà Khúc sông Vệ sử dụng mạng nơ-ron nhân tạo Trong nghiên cứu này, tác giả sử dụng mạng nơ-ron truyền thẳng có lớp ẩn để làm mơ hình dự báo số kết đạt sau:  Bài toán dự báo lưu lượng sơng Cầu Trong tốn này, tác giả dùng 1776 mẫu, 1408 mẫu để luyện mạng 368 mẫu để kiểm tra Kết mơ hình dự báo tốt, 86% giá trị dự báo giai đoạn kiểm thử đạt số cho phép  Bài tốn dự báo đỉnh lưu lượng sơng Trà Khúc trạm Sơn Giang Trong nghiên cứu này, tác giả sử dụng 36 mẫu (từ năm 1995 đến 1999) gồm số liệu mực nước đỉnh lưu lượng mưa tương ứng hai trạm Gia Vực Sơn Giang Mơ hình sử dụng mực nước chân lưu lượng Hsg_ch lượng mưa trung bình lưu vực X để dự báo mực nước đỉnh lưu lượng Hsg_max Mơ hình mạng nơ-ron nhân tạo sử dụng cho hiệu dự báo khả quan Năm 2003, nghiên cứu GS.TS Huỳnh Ngọc Phiên, Viện nghiên cứu công nghệ châu Á [AIT] ứng dụng mạng nơ-ron nhân tạo để dự báo mực nước trạm Tạ Bú sông Đà, Yên Bái sông Thao Trịnh Hồng Cường Luận văn cao học Gềnh Đá sông Lô với thời gian dự báo Theo đánh giá tác giả, mơ hình mạng nơ-ron nhân tạo sử dụng cho kết tốt với thời gian dự báo 6h, nhiên tăng lên 18h hiệu mơ hình giảm nhiều Những nghiên cứu tác giả nước ứng dụng mạng nơ-ron nhân tạo cho dự báo lưu lượng thu kết khả quan chứng tỏ mơ hình cần quan tâm nghiên cứu, phát triển để áp dụng cách phù hợp Các cơng trình nghiên cứu khác dự báo lưu lượng cho thấy muốn áp dụng có hiệu mơ hình dự báo cần phải có điều chỉnh thích hợp, phải phối hợp mơ hình khác để tăng hiệu dự báo Từ phân tích trên, nhiệm vụ đặt luận văn là:  Nghiên cứu tổng quan mạng nơ-ron nhân tạo, tìm hiểu mạnh hạn chế mơ hình áp dụng giải tốn thực nói chung tốn dự báo lưu lượng nói riêng  Nghiên cứu áp dụng mơ hình mạng nơ-ron nhân tạo để dự báo lưu lượng đến hồ Hịa Bình mơ hình dự báo trung hạn, tìm giải pháp tính tốn khác kết hợp với mơ hình để nâng cao hiệu dự báo 1.4 Ứng dụng dự báo lưu lượng nước vào hồ Hịa Bình Cùng với phát triển dự báo thuỷ văn, dự báo lưu lượng nước đến hồ chứa (nói riêng hồ Hồ Bình) trở nên vơ quan trọng ý nghĩa thực tiễn Dự báo xác lưu lượng nước đến hồ có ý nghĩa đặc biệt quan trọng hoạch định kế hoạch đảm bảo tốt chức mà cơng trình phải thực Đối với hồ Hồ Bình, phịng lũ cho hạ du cho cơng trình, phịng tránh hạn hán ổn định lượng điện cho nước Dự báo lưu lượng chịu tác động nhiều nhân tố mưa, nhiệt độ, độ ẩm, khí hậu, địa chất thổ nhưỡng, thảm phủ thực vật hoạt động Trịnh Hồng Cường Luận văn cao học người lưu vực… Trong nhân tố đó, nhân tố địa chất, thổ nhưỡng, thảm phủ thực vật thay đổi Sự thay đổi chế độ dòng chảy, nguồn nước theo thời gian chủ yếu nhân tố khí hậu định, đặc biệt nhân tố mưa, sau tác động nguồn nước dự trữ tầng chứa nước lưu vực Thời gian dự báo cơng trình u cầu trước 1-2 ngày (dự báo ngắn hạn), 5-10 ngày (dự báo trung hạn), tháng (dự báo dài hạn) mùa (dự báo siêu dài hạn) Hiện nay, dự báo thủy văn ngắn hạn đạt thành công đáng kể phương pháp dự báo lẫn kết dự báo Phương pháp dự báo dài hạn cho kết tin cậy vấn đề nghiên cứu nhận quan tâm đặc biệt giới1 Việc áp dụng mơ hình dự báo lưu lượng vào dự báo cho hồ Hịa Bình triển khai từ trước đây, mơ hình dự báo truyền thống đạt kết khả quan Tuy nhiên hướng tiếp cận sử dụng mơ hình mạng nơron nhân tạo giải số đặc điểm mà dự báo dựa mơ hình truyền thống gặp hạn chế Proceeding of the AGU Hydrology Days 2007, March 19 - March 21, 2007, Colorado State University, Fort Collins, Colorado, USA http://hydrologydays.colostate.edu/Proceeding_2007.htm Trịnh Hồng Cường Luận văn cao học 55  pr r   Etest   chọn làm hàm giá giải  p   p kiểm tra Giá trị E  Etrain  thuật di truyền, đó: Sai số q trình học tính sau: p r n Etrain   ( yi (k ) k 1 i 1  di (k ) ) (3.28) (k ) (3.29) Sai số trình kiểm thử mạng là: r n Etest   ( y i k 1 i 1 (k )  di ) Như vậy, nhiệm vụ giải thuật tối thiểu hoá hàm giá E  Các tham số giải thuật di truyền Các tham số xác suất lai tạp, xác suất đột biến, số cá thể quần thể số hệ chọn theo phương pháp thử sai Để tăng khả hội tụ giải thuật di truyền xác suất lai tạp chọn lớn xác suất đột biến nhỏ Số cá thể quần thể thường chọn mức trung bình phụ thuộc độ dài chuỗi mã hoá Trịnh Hồng Cường Luận văn cao học 56 CHƯƠNG ỨNG DỤNG MƠ HÌNH MẠNG NƠ-RON NHÂN TẠO TRONG DỰ BÁO LƯU LƯỢNG ĐẾN HỒ HỊA BÌNH 4.1 Đặt vấn đề Hồ Hịa Bình hồ trữ nước phục vụ mục đích thủy điện với lưu lượng hình thành từ Sơng Đà Lưu lượng chủ yếu hình thành từ nguồn nước sơng Đà thơng qua hình thức như: lưu lượng thực có sơng, lượng mưa diện tích thượng nguồn đến phần cửa ngõ hồ Diện tích lịng hồ Hịa Bình đạt gần 9.000ha, vào mùa mưa mực nước hồ vào khoảng 86m tăng lên 90m lưu lượng trung bình đến hồ 2600m3/s – 3000m3/s tăng lên 4500m3/s - 5000 m3/s sông đà S Nậm Na Nậm Giàng Mường Tè S Ngòi Thia Ngòi Thia Nậm Mu Lai Châu Bản Củng Quỳnh Nhai TĐ Huôi Quảng TĐ Sơn La Tạ Bú Chú thích : Trạm thuỷ văn : Hồ chứa Thủy điện Hồ Bình Bến Ngọc Hình 4.1 Sơ đồ lưu lượng sơng trạm thủy văn cửa hồ Hịa Bình Trịnh Hồng Cường Luận văn cao học 57 Nhìn vào sơ đồ trạm thủy văn lưu lượng ta thấy, tham số lưu lượng trạm Tạ Bú lưu lượng dịng chảy vào hồ Hịa Bình Lượng mưa tồn lưu vực sơng Đà sông nhánh nhân tố ảnh hưởng đến dòng chảy qua trạm Tạ Bú vào hồ Hịa Bình Với số liệu thủy văn trạm Tạ Bú có mơ hình phụ thuộc trực tiếp lưu lượng cửa hồ vào số liệu 4.2 Ứng dụng ANNs dự báo lưu lượng đến hồ Hịa Bình 4.2.1 Phương hướng áp dụng Qua trình tìm hiểu phương thức nghiên cứu đánh giá tham số, cho tham số ảnh hưởng trực tiếp đến lưu lượng đến hồ Hịa Bình xem xét với số liệu thủy văn trạm Tạ Bú trạm nằm trước cửa ngõ hồ Hòa bình Các tham số xem xét tham số bản: lưu lượng (Q) lượng mưa (X) Phương pháp mà chúng tơi áp dụng mơ hình Mạng nơ ron với phương pháp lan truyền ngược sai số 4.2.2 Mơ hình mạng Nơ ron ứng dụng cho dự báo Y Bias W11 Wj1 Wp1 Zj Z Z p Vịj Vi1 Vip Bias X1 Xi Xn Hình 4.2 Mơ hình mạng nơron lớp ẩn nhiều đầu vào, đầu Mỗi nút đầu vào đại diện cho tham số xem xét cho toán dự báo Các đầu vào (Xi) giá trị mà mạng Nơ ron học liệu, Trịnh Hồng Cường Luận văn cao học 58 việc thiết lập mơ hình tham số đầu vào định đến tính xác mơ hình dự báo khả học mạng Vì hệ thống cần giá trị dự báo lưu lượng vào hồ Hịa Bình nên mạng bao gồm nút đầu (Y) Số Nơ ron lớp ẩn chọn tham số phép thử sai tối ưu Hình 4.3 Hàm sigmoid Hàm kích hoạt sử dụng cho q trình kích hoạt nơron hàm sigmoid, lý sử dụng hàm kích hoạt đáp ứng ba đặc tính kích hoạt nơ ron là:  Liên tục  Khả vi (tức có độ cong trơn)  Đơn điệu tăng Một lý với cơng thức đơn giản, việc tính tốn giá trị hàm thực cách dễ dàng Giá trị trọng số thể ma trận: ma trận trọng số đầu Wkl ma trận trọng số đầu vào Vij Các giá trị khởi tạo ngẫu nhiên khoảng (-3,3) Trong q trình thực tính tốn học của mạng, phần tử ma trận thay đổi cập nhật liên tục theo bước học Ngồi số qn tính (momentum) sử dụng nhằm tăng tốc độ học tránh cực tiểu cục 4.2.3 Dữ liệu đầu vào cho mạng nơ-ron Số liệu thủy văn từ năm 1964 đến năm 2002 trạm đo Tạ Bú sông Đà, trạm đo lưu lượng gần hồ Hồ Bình nhất, sử dụng để huân luyện Trịnh Hồng Cường Luận văn cao học 59 mạng Số liệu năm đo mùa cạn từ tháng 12 năm trước đến tháng năm sau Để đảm bảo tính kiểm tra đánh giá độ tin cậy phương pháp áp dụng, liệu chia làm hai phần: Phần liệu học (training set): Từ cuối năm 1964 đến đầu năm 1995 Phần liệu kiểm tra (test set): Từ cuối năm 1995 đến đầu năm 2002 LƯU LƯỢNG TRUNG BÌNH NGÀY – TRẠM TẠ BÚ Năm 1987 Tháng Ngày I II III IV V VI VII VIII IX X XI XII 560 394 292 254 278 268 1300 4940 2190 2610 869 813 0 0 0 0 0 0 801 394 296 268 271 410 1260 4250 2800 2620 840 790 0 0 0 0 0 0 742 390 318 261 271 454 1290 4360 2830 2530 812 771 0 0 0 0 0 0 603 390 385 268 281 801 1490 4580 2740 2210 1100 760 0 0 0 0 0 0 550 412 509 296 264 869 2450 4070 2560 2000 1200 744 0 0 0 0 0 0 Bảng 4.1 Ví dụ liệu gốc lưu lượng đo trạm Tạ Bú Để tăng tính tin cậy việc học liệu xây dựng mối quan hệ dự liệu mang tính quy luật hơn, chúng tơi tách liệu giá trị đo lưu lượng Qi lượng mưa Xj thành “chuỗi” liệu với khoảng thời gian cách T ngày Trong mơ hình dự báo trung hạn, T giá trị từ đến 10 số ngầm định dự liệu áp dụng cho ứng dụng ANNs mà xây dựng 4.2.4 Công cụ phần mềm ứng dụng cho mơ hình ANN Một phần mềm xây dựng nhằm ứng dụng mơ hình mạng nơron triển khai Phần mềm với giao diện trực quan cho phép thiết lập động tham số, từ cho phép xây dựng mơ hình tính tốn cho mạng nơ ron nhân tạo với đặc điểm đặc trưng nêu Một số đặc điểm yêu cầu môi trường làm việc phần mềm này: Trịnh Hồng Cường Luận văn cao học 60  Chạy hệ điều hành Windows 98, XP  Xử lý mơ hình mạng nơ-ron có khơng q 180 trọng số  Tập mẫu dùng để luyện mạng không 8192 mẫu  Sử dụng thuật toán lan truyền ngược sai số để luyện mạng cung cấp tham số để điều chỉnh hiệu thuật toán  Cung cấp biểu đồ thể kết luyện mạng kiểm thử Hình 4.4 Giao diện phần mềm 4.2.5 Các số đánh giá kết dự báo Các số dự báo sử dụng để đánh giá chất lượng phương pháp dự báo Dưới số số dự báo thông dụng [1]:  Sai số quân phương (Mean Square Error): MSE   n  Qi  Qˆi n i 1  (4.1)  Sai số quân phương (Root Mean Square Error): RMSE  Trịnh Hồng Cường  n Qi  Qˆ i  n i 1  (4.2) Luận văn cao học 61  Sai số tuyệt đối (Mean Absolute Error): MAE  n  Qi  Qˆi n i 1 (4.3) Trong đó:  Qˆ i : Giá trị tính tốn thời điểm i  Qi : Giá trị thực đo thời điểm i Tuy số trực quan tính tốn dễ dàng song nhiều trường hợp dung lượng liệu lớn hay liệu có độ biến động cao số trở nên q thơ sơ D.R Legates G.J McCabe Jr trình bày số hiệu - E (Coefficient of Efficiency) số định - R2 (Coefficient of Determination) có độ phức tạp tính tốn cao song khắc phục hạn chế số MSE, RMSE, MAE:  Chỉ số hiệu quả:   Q  Qˆ  n E  1 i 1 n i i  Q  Q  (4.4) i i 1  Chỉ số định:   Q  Q   Qˆ  Qˆ  n R  i i 1 i   Q  Q    Qˆ  Qˆ  n i 1 i n i 1 (4.5) i Các số E R2 dùng theo cách kết hợp riêng rẽ Các số có giới hạn Phương pháp tốt phương pháp nhận giá trị số lớn Lekkas D.F Onof C trình bày số phương pháp cập nhật mạng nơron dự báo lưu lượng để nâng cao hiệu dự báo Ibrahim Can đồng tác giả trình bày việc ứng dụng hai mơ hình mạng nơ-ron mơ hình one-hidden layer feed forward backpropagation (FFBP) mơ hình Generalized Regression Neural Networks (GRNN) vào dự báo tháng lưu lượng nước sông Trịnh Hồng Cường Luận văn cao học 62 Karasu Thổ Nhĩ Kỳ Các tác giả mô hình GRNN cho kết tốt (chỉ số R2 đạt tới 0.8572) Trong nghiên cứu mình, chúng tơi dùng mạng nơ-ron nhiều lớp lan truyền thẳng làm công cụ cho dự báo lưu lượng nước đến hồ Hoà Bình với giải thuật học lan truyền ngược sai số - Back Propagation of Errors (hình 2) Chỉ số sai số quân phương - RMSE số xác định - R2 sử dụng để đánh giá độ xác dự báo 4.2.6 Triển khai phương án đánh giá nhằm đưa mơ hình tối ưu a Xây dựng mơ hình liệu đầu vào Với mục đích làm rõ đặc tính phụ thuộc kết dự báo vào tham số thiết lập sẵn mơ hình đầu vào mạng, phương án nhập liệu thể liệu triển khai để quan sát kết dự báo Các phương án trình bày với quy trình sau:  Bổ xung tham số loại (lưu lượng Q hay lượng mưa X), phân biệt giá trị theo thời gian đo  Bổ xung yếu tố khác loại (kết hợp thêm lượng mưa X hay độ bay Z vào giá trị lưu lượng Q), xét thời gian đo Thời gian t-4.T t-3.T t-2.T t-T Tham số QTB XTB Q Ngày (Thực đo) Hình 4.5 Các phương án xây dựng theo tập thời gian tập loại tham số Trịnh Hồng Cường t Luận văn cao học 63 b Phương án Trong phương án việc dự báo lưu lượng nước tương lai trước 10 ngày Q(t+10) dựa vào lưu lượng nước thời điểm khứ Ba tham số sử dụng làm giá trị lưu lượng làm đầu vào mạng gồm:  Lưu lượng nước tại: Q(t)  Lưu lượng nước trước 10 ngày: Q(t-10)  Lưu lượng nước trước 20 ngày: Q(t-20) Q(t  10)  f  Q(t ), Q(t 10), Q(t  20)  (4.6) Mạng nơ-ron thiết lập để học mối quan hệ Lúc này, số đầu vào mạng 3, Kết sau học, số dự báo với liệu kiểm tra (test set):  Sai số quân phương RMSE = 110.49 m3/s  Chỉ số R2 = 0.7509 1200 Lưu lượng (m /s) 1000 800 Thực tế 600 Dự báo 400 200 11 16 21 26 31 36 41 46 51 56 61 66 71 76 81 86 Mẫu thử Hình 4.6 Kết dự báo với liệu kiểm tra theo phương án Trong phương án này, giá trị lưu lượng dự báo mơ tả đầu mơ hình dự báo dựa giá trị lưu lượng theo chu kỳ định Có ý việc đưa giá trị lưu lượng chu kỳ trước 20 ngày (tức 30, 40,…) ảnh hưởng chí làm giảm tính hội tụ Trịnh Hồng Cường Luận văn cao học 64 kết dự báo, điều trình bày phần nói học mạng c Phương án Theo nghiên cứu thuỷ văn, liệu mưa lưu vực ảnh hưởng lớn đến lưu lượng nước tương lai Việc dự báo cần thông số lượng mưa thời điểm lượng mưa khứ (do ảnh hưởng đến trữ lượng nước ngầm) Trong phương án này, dự báo lưu lượng nước tương lai trước 10 ngày Q(t+10) dựa vào lưu lượng nước khứ Q(t ), Q(t 10), Q(t  20)  phương án mà phụ thuộc vào lượng mưa khứ tại lưu vực đó: X(t), X(t-10), X(t-20) Q(t  10)  f  Q(t ), Q(t 10), Q(t  20), X (t ), X (t 10), X (t  20)  (4.7) Tiến hành cho mạng nơ-ron học mối quan hệ cho kết dự báo xác phương án Kết với liệu kiểm thử:  Sai số quân phương RMSE = 103.22 m3/s  Chỉ số R2 = 0.7866 1200 Lưu lượng (m 3/s) 1000 800 Thực tế 600 Dự báo 400 200 11 16 21 26 31 36 41 46 51 56 61 66 71 76 81 86 Mẫu thử Hình 4.7 Kết dự báo với liệu kiểm tra theo phương án Với mơ hình học có đưa thêm tham số đầu vào cặp giá trị lưu lượng (Q) lượng mưa (X) Rõ ràng có thêm tham số học có Trịnh Hồng Cường Luận văn cao học 65 liên quan chặt chẽ với làm liệu đầu vào mơ hình học mạng nơron cho kết đáng tin cậy d Phương án Ngoài yếu tố nêu phương án 2, lưu lượng nước tương lai ảnh hưởng trực tiếp từ giá trị thực đo ngày tức phụ thuộc vào lưu lượng nước ngày Qng(t) lượng mưa ngày Xng(t) (khác với Q(t) X(t) giá trị lưu lượng lượng mưa trung bình 10 ngày) Do đó: Q(t  10)  f  Q(t ), Q(t  10), Q(t  20), Qng (t ), X (t ), X (t  10), X (t  20), X ng (t )  (4.8) Kết với liệu kiểm tra:  Sai số quân phương RMSE = 76.10 m3/s  Chỉ số R2 = 0.8737 1200 Lưu lượng (m 3/s) 1000 800 Thực tế 600 Dự báo 400 200 11 16 21 26 31 36 41 46 51 56 61 66 71 76 81 86 Mẫu thử Hình 4.8 Kết dự báo với liệu kiểm tra theo phương án Độ xác phương án dự báo cao nhiều so với hai phương án chứng tỏ nhận xét Lưu lượng nước ngày Qng(t) lượng mưa ngày Xng(t) ảnh hưởng nhiều đến lưu lượng nước 10 ngày tới e Nhận xét đúc rút Như vậy, qua q trình kiểm thử với mơ hình tham số đầu vào, ta rút mơ hình dự báo lưu lượng mà kết dự báo đánh giá khả Trịnh Hồng Cường Luận văn cao học 66 quan với số R2 = 0.8737, số cao Phương án chấp nhận phương án áp dụng cho mơ hình mạng Nơron dự báo lưu lượng với thời gian 10 ngày (dự báo trung hạn) Sự liên hệ đầu vào đầu thể biểu thức: Q(t  10)  f  Q(t ), Q(t  10), Q(t  20), Qng (t ), X (t ), X (t  10), X (t  20), X ng (t )  (4.9) Với giá trị đầu vào kết hợp giá trị lưu lượng (Q) lượng mưa (X), giá trị trung bình, giá trị thực đo vào thời điểm đầu vào ảnh hưởng lớn đến kết dự báo Trong mô hình dự báo này, đại lượng khơng nằm mơ hình tương đồng thời gian, giá trị trung bình 10 ngày - Q(t) giá trị thực đo ngày Qng(t), song mô hình mạng nơ ron cho phép học mối liên quan thành phần ko cần có ràng buộc chặt chẽ Với phương pháp thử sai, mơ hình đưa cần thử nghiệm với số tham số số quán tính số lượng nơron lớp ẩn Thời gian học tập giá trị huấn luyện máy không đáng kể Tuy nhiên, tính bất biến mơ hình dự báo khơng áp dụng cho khoảng thời gian, có nghĩa thời gian mơ hình cịn xác thời gian ví dụ năm tiếp giá trị học trở nên “lỗi thời” Tuy nhiên, lúc cần xây dựng lại tập huấn luyện tập kiểm thử song giữ ngun mơ hình học lại có kết có độ xác Trịnh Hồng Cường Luận văn cao học 67 CHƯƠNG KẾT LUẬN VÀ ĐỊNH HƯỚNG PHÁT TRIỂN Mạng nơ-ron nhân tạo ứng dụng nhiều lĩnh vực: nhận dạng, điều khiển, tối ưu hoá,… Luận văn đưa mơ hình ứng dụng mạng nơ-ron nhân tạo vào việc dự báo lưu lượng nước đến hồ Hồ Bình mơ hình dự báo trung hạn Kết thu khả quan chạy chương trình thực nghiệm Tính thực tiễn khả ứng dụng luận văn xem xét với số liệu thực tế Việc ứng dụng mạng nơ-ron vào xây dựng toán dự báo lưu lượng xem xét từ khía cạnh phân tích tương quan tham số đầu vào, phương pháp lan truyền ngược sai số ứng dụng mơ hình mang lại kết tốt cho vấn đề dự báo khác Tuy nhiên, luận văn đưa việc áp dụng mơ hình mạng nơ-ron nhân tạo cho việc dự báo, việc đánh giá tham số đầu vào tác động lên tính xác mơ hình được thực thơng qua mơ hình thử sai Vì vậy, thời gian gian tới, việc phát triển mơ hình dự báo có mục tiêu xây dựng mơ hình đánh giá tự động tương quan đầu vào, đầu sai số nhằm điều chỉnh cách thích nghi tham số mạng nơ-ron, từ đưa mơ hình có tính tối ưu cao LỜI CẢM ƠN: Tôi xin chân thành cảm ơn GS TS Nguyễn Việt Hương, khoa Điện tử viễn thông, Trường Đại học Bách Khoa, người trực tiếp hướng dẫn tôi, đưa thông tin định hướng quý giá mang đến hoàn thành luận văn đồng thời động viên tơi nhiều q trình thực mơ hình thử nghiệm Tôi xin gửi lời cảm ơn đến giảng viên Phạm Thị Hoàng Nhung, khoa CNTT trường đại học Thủy Lợi hỗ trợ nhiều việc cung cấp tài liệu xây dựng chương trình thử nghiệm Trịnh Hồng Cường Luận văn cao học 68 TÀI LIỆU THAM KHẢO [1] Chin-Teng Lin, C.S George Lee (1996) Neural fuzzy systems: a neuro-fuzzy synergism to intelligent systems, Prentice-Hall Inc [2] Cristiane Medina Finzi Quintao, Walmir Matos Caminhas, Selenio Rocha Silva, Bruno Rabelo Versiani (2004) Neo Fuzzy Neuron and its applications to Prediction flood and wind in Brazil Workshop on Modelling and Control for Participatory Planning and Managing Water Systems, September 29-October 1, 2004 (Poster), Venice, Italia [3] D.R Legates, G.J McCabe Jr (1998) Evaluating the Use of "Goodness-of-Fit" Measures in Hydrologic and Hydroclimatic Model Validation; Water Resour Res 1998WR900018, 35 (1): 233 [4] Demetris F Lekkas (2002) Development and Comparison of Data-Based Flow Forecasting Methods, PhD Thesis, Department of Civil and Environmental Engineering, Imperial College of Science, Technology and Medicine, London, March 2002 [5] Ibrahim Can, Cahit Yerdelen, Ercan Kahya1 (2007) Stochastic modeling of Karasu River (Turkey) using the methods of Artificial Neural Networks, Proceeding of the AGU Hydrology Days 2007, March 19 - March 21, 2007, Colorado State University, Fort Collins, Colorado, USA, 138-144 [6] Ismail Kilinş, Kerem Ciğizouğlu (2005) Reservoir Management Using Artificial Neural Networks, 14th Reg Directorate of DSI (State Hydraulic Works), Istanbul, Turkey, (http://balwois.mpl.ird.fr/balwois/administration/full_paper/ffp-471.pdf) [7] Laurence Fausett, Fundamentals of Neural Networks architectures, algorithms, and applications Florida Institute of Technology Prentice-Hall, Inc 1994 [8] Lekkas D.F., Onof C (2005) Improved flow forecasting using artificial neural networks 9th International Conference on Environmental and Technology, Rhodes Island, Greece, 1-3 September 2005, 877-884 [9] Lê Văn Nghinh, Bùi Cơng Quang, Hồng Thanh Tùng (2006) Mơ hình tốn thuỷ văn, Nhà xuất xây dựng [10] Oscar R Dolling, Eduardo A Varas (2002) Artificial neural networks for stream flow prediction Journal of Hydraaulic research, 40(5), 547-554 [11] Paulin Coulibaly, Francois Anctil, and Bernard Bobee (2001) Multivariate Reservoir Inflow Forecasting Using Temporal Neural Networks Journal of Hydrologic Engineering, 6(5), 367-376 [12] Viện Khí tượng Thủy văn Danh sách đề tài, dự án nghiên cứu khoa học công nghệ http://www.imh.ac.vn/c_tt_chuyen_nganh/ce_detai_duan/ Trịnh Hồng Cường Luận văn cao học 69 PHỤ LỤC Danh sách thuật ngữ Thuật ngữ Ý nghĩa Error threshole Ngưỡng sai số Momentum Hằng số quán tính Multil-layer feedforward network Mạng lan truyền thẳng nhiều lớp Overfitting Parameter learning Học chưa đủ Single-layer feedforward network Mạng lan truyền thẳng lớp Structure learning Học theo cấu trúc Threshole Ngưỡng Underfitting Học Universal approximator Hàm xấp xỉ tổng quát Học theo tham số Danh sách từ viết tắt Viết tắt Tiếng Anh Nghĩa tiếng Việt ANN Artificial Neural Network Mạng nơ-ron nhân tạo FFBP forward backpropagation Lan truyền ngược GRNN Generalized Regression Neural Networks Mạng nơ-ron đánh giá sai lệch tổng quát MAE Mean Absolute Error Sai số trung bình tuyệt đối MLP Multi-Layer Perceptons mạng perceptron nhiều lớp MSE Mean Square Error Sai số trung bình quân phương RMSE Root Mean Square Error Sai số trung bình quân phương Trịnh Hồng Cường ... 4: ỨNG DỤNG MƠ HÌNH ANNs TRONG DỰ BÁO LƯU LƯỢNG HỒ HỊA BÌNH Chương trình bày phân tích kết nghiên cứu việc ứng dụng mạng nơ-ron nhân tạo lan truyền ngược sai số dự báo lưu lượng đến hồ Hịa Bình. .. điểm địa lý tự nhiên hình thái lưu lượng đến hồ Hịa Bình từ xây dựng phương án ứng dụng mạng nơ-ron nhân tạo lan truyền ngược sai số để dự báo lưu lượng đến hồ Hịa Bình theo mơ hình dự báo trung... với phát triển dự báo thuỷ văn, dự báo lưu lượng nước đến hồ chứa (nói riêng hồ Hồ Bình) trở nên vơ quan trọng ý nghĩa thực tiễn Dự báo xác lưu lượng nước đến hồ có ý nghĩa đặc biệt quan trọng