Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

53 8 0
Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Đang tải... (xem toàn văn)

Tài liệu hạn chế xem trước, để xem đầy đủ mời bạn chọn Tải xuống

Thông tin tài liệu

Chương 1: tổng quan 1.1 Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo (TKNT) Các công nghệ mới trong kỹ thuật, vật lý, đặc biệt là vật lý khí quyển, sinh học... đã làm nảy sinh một loạt các vấn đề phi tuyến, bất ổn định và phức tạp. Để giải được các bài toán đó đòi hỏi phải có các công cụ xử lý, tính toán phi tuyến, trong số các công cụ đó, mạng thần kinh nhân tạo (TKNT) tỏ ra có ưu thế vượt trội. Mạng TKNT đáp ứng được nhu cầu vì nó được luyện trên các mẫu, sử dụng các công cụ thống kê và giả thuyết tối ưu. Có nhiều loại mạng TKNT khác nhau, trong đó có mạng truy hồi, mạng nhận thức đa lớp và mạng thời gian trễ. Việc sử dụng mạng truy hồi như một công cụ dự báo ngày càng thể hiện nhiều ưu điểm trên nhiều lĩnh vực nhờ vào khả năng liên kết giữa các lớp, các phần tử hoạt động trong mạng. Quá trình phát triển của mạng TKNT trải qua nhiều giai đoạn khác nhau, được đánh dấu bằng các mốc quan trọng: những năm 40 của thế kỷ 20 đánh dấu những phát triển đỉnh cao đầu tiên với các nghiên cứu của McCulloch và Pitts (1943); nhưng mãi đến năm 1949, Hebb đưa ra thuật toán học đầu tiên của mạng, gọi là thuật toán Hebb, mạng TKNT chính thức ra đời và khẳng định khả năng tính toán trong các bài toán phi tuyến. Dấu mốc thứ hai xuất hiện những năm 60 với giả thuyết hội tụ của mạng nhận thức của Rosenbatt (1960), thành công đầu tiên trong lĩnh vực mạng TKNT là nơron thích ứng tuyến tính – ADALINE và nơron thích ứng tuyến tính đa biến - MADALINE do Widrow và Hoff (1960) phát triển; sau đó, Minsky cùng Papert chỉ ra hạn chế của mạng nhận thức đơn giản (1969). Kết quả của Minsky và Papert đã làm thất vọng nhiều nhà khoa học, đặc biệt là các nhà khoa học trong ngành khoa học tính toán lúc bấy giờ. Chính những công bố này đã làm chậm tiến trình phát triển của mạng TKNT gần 20 năm. Mãi đến những năm 80, mạng TKNT mới có được những thành tựu đáng chú ý mới. Đó là công trình của Hopfield với cách tiếp cận dưới khía cạnh năng lượng và thuật toán học lan truyền ngược cho mạng nhận thức đa lớp. Nhiều người nhắc đến công trình này của Hopfield như một sự khởi đầu thứ hai cho mạng TKNT. Sau đó công trình được tiếp tục phát triển và công bố rộng rãi năm 1986 trong bài viết của Rumelhart và cộng sự. Từ đó đến nay, cùng với sự phát triển của công nghệ thông tin và truyền thông, cộng đồng người sử dụng mạng TKNT tăng lên đáng kể và được mở rộng trên nhiều lĩnh vực. Trong khí tượng học, đã có nhiều nhà khí tượng học trên thế giới và Việt Nam sử dụng mạng TKNT như những công cụ thống kê cho các bài toán phức tạp giúp hiệu chỉnh sản phẩm mô hình số, tái tạo và bổ xung số liệu, tính toán tổng lượng ozon trong khí quyển ... 1.2. Nhiệt độ tối cao. Nhiệt độ nói chung và nhiệt độ tối cao nói riêng được sử dụng nhiều trong các mô hình thủy văn và mô hình khí tượng nông nghiệp. Gần đây, dự báo nhiệt độ và đặc biệt là nhiệt độ tối cao rất có ý nghĩa trong việc đánh giá sự nóng lên của khí hậu toàn cầu. Cùng với bức xạ, nhiệt độ tối cao còn có ý nghĩa quan trọng đối với các ngành như: nông nghiệp, công nghiệp năng lượng, công nghiệp máy móc và xây dựng... Nhiệt độ có ảnh hưởng rất lớn đến hoạt động của các công trình thủy điện, các công trình giao thông, vận tải, công nghiệp chế biến thực phẩm, ... Trên thế giới đã có nhiều nghiên cứu dự báo nhiệt độ tối cao sử dụng đầu ra của các mô hình số trị như trong các tài liệu tham khảo của Bin Li, Darel R. Massie, Eric J. Alfaro,... Khu vực đồng bằng phía bắc bao gồm các tỉnh thuộc vùng đồng bằng Bắc Bộ và 3 tỉnh Thanh Hóa, Nghệ An, Hà Tĩnh (đồng bằng Thanh Nghệ Tĩnh). Chế độ nhiệt ở các tỉnh thuộc khu vực này không hoàn toàn đồng nhất. Tiêu biểu cho chế độ nhiệt mùa lạnh là nhiệt độ tháng I và cho mùa nóng là nhiệt độ tháng VII. Khu vực đồng bằng Bắc Bộ chịu ảnh hưởng nhiều hơn của hệ thống gió mùa đông bắc nên có mùa đông lạnh hơn (Hà Nội: 16.60C so với Thanh Hóa: 17.30C, Vinh: 17.90C), dao động nhiệt trong mùa đông cũng lớn hơn so với khu vực Thanh Nghệ Tĩnh. Vào mùa hè, dưới tác động của vị trí địa lý, địa hình, do hiệu ứng phơn cùng với gió mùa tây nam hoạt động mạnh nên khu vực Thanh Nghệ Tĩnh có nền nhiệt độ cao hơn rõ rệt. Các tháng có khả năng xuất hiện nhiệt độ lạnh nhất có thể rơi vào các tháng từ tháng XII năm trước đến tháng II năm sau trong đó lớn nhất là tháng I với xác suất 60%; còn xác suất xuất hiện nhiệt độ tối cao cực đại lớn nhất là vào tháng VII (45%) và tháng VI (40%), còn lại có thể xuất hiện vào các tháng V, và tháng VIII. Mùa đông trên khu vực đồng bằng Thanh Nghệ Tĩnh cũng rất ẩm ướt do không khí cực đới đã được bổ xung ẩm từ bề mặt biển và do front lạnh thường dừng lại và mờ dần trên khu vực này. Tình trạng thời tiết nồm ẩm, mưa phùn cũng xuất hiện ở khu vực đồng bằng Bắc Bộ vào cuối mùa đông (khoảng tháng II, tháng III). Những đặc điểm quan trọng nhất của khu vực diễn ra vào mùa hè đó là sự xuất hiện của thời kỳ gió Tây khô nóng. Dạng thời tiết này ảnh hưởng rõ rệt hơn đối với khu vực Thanh Nghệ Tĩnh. Tháng VII là tháng nóng nhất đồng thời cũng là tháng khô nhất đối với khu vực Thanh Nghệ Tĩnh. Nhiệt độ tối cao cực đại trên khu vực này có thể đạt tới 42 – 430C, cao hơn khu vực đồng bằng Bắc Bộ (khoảng 400C). Một vài đặc trưng về nhiệt độ của khu vực nghiên cứu có thể được tóm tắt như sau: Đối với khu vực đồng bằng Bắc Bộ, nhiệt độ trung bình năm vào khoảng 23 – 240C. Hàng năm có 4 tháng nhiệt độ trung bình dưới 200C (rét) là từ tháng XII đến tháng III. Tháng lạnh nhất là tháng I có nhiệt độ trung bình vào khoảng 16 – 170C và tối thấp trung bình là 13 – 140C. Trừ các tháng chuyển tiếp, còn lại 5 tháng từ tháng V đến tháng IX nhiệt độ trung bình vượt quá 270C và tối cao trung bình trên 300C. Hai tháng nóng nhất là VII và tháng VI. Nhiệt độ tối cao tuyệt đối phần lớn các nơi vượt quá 400C, riêng ven biển không quá 37 – 380C. Biên độ dao động ngày đêm của nhiệt độ trung bình vào khoảng 6 – 70C, tổng số giờ nắng cả năm thường vào khoảng 1600-1700 giờ. Đối với khu vực đồng bằng Thanh Nghệ Tĩnh, nhiệt độ trung bình năm cũng khoảng 23 – 240C, tổng nhiệt độ cả năm vào khoảng 8600-87000C. Khu vực phía bắc (khu vực Thanh Hóa) có 4 tháng nhiệt độ trung bình dưới 200C (từ tháng XII đến III), ở phần phía nam (Nghệ An – Hà Tĩnh) chỉ còn 3 tháng (từ tháng XII đến tháng II). Tháng lạnh nhất là tháng I có nhiệt độ trung bình khoảng 17 – 180C và nhiệt độ tối thấp trung bình khoảng 150C. Trong 4 tháng đầu và giữa mùa hè (từ tháng V đến tháng VIII), nhiệt độ trung bình trên 270C và tối cao trung bình trên 330C. nhiệt độ tối cao tuyệt đối có thể lên tới 42 - 430C. Biên độ dao động nhiệt ngày đêm vào khoảng 6 – 70C, tổng số giờ nắng cả năm thường vào khoảng 1600 - 1700 giờ; vào mùa đông là mùa ít nắng. 1.3. Nhiệt độ tối thấp. Đối với nhiệt độ tối thấp, vai trò nổi bật của điều kiện địa lý là vị trí và địa hình thuận lợi đối với các quá trình xâm nhập, lan tràn và tích tụ của không khí lạnh. Không vùng thấp nào có nhiệt độ thấp như Lạng Sơn, một trong những cửa ngõ đón gió lạnh vào nước ta. Các vùng thấp nhất ở Lai Châu, phía tây của Hoàng Liên Sơn, không lạnh bằng các vùng thấp ở Lào Cai, phía đông Hoàng Liên Sơn, cũng với lý do đó. Cũng có thể nhận định là ở các hải đảo, nhiệt độ không thấp như các vùng đất liền kế cận. Ta có bảng đặc trưng về nhiệt độ tối thấp ở một số trạm như dưới đây: Bảng 1.1. Một số đặc trưng về nhiệt độ thấp nhất tuyệt đối (00C) Trạm Nhiệt độ thấp nhất quan trắc được Nhiệt độ thấp nhất ước lượng cho các chu kỳ (năm) Trị số Ngày 5 10 20 30 50 100 Hà Nội 2.7 12 - I – 55 5.2 4.3 3.5 3.1 2.5 1.7 Phủ Liễn 4.5 14 – II – 68 5.9 5.2 5.1 4.2 3.7 3.0 Vinh 5.2 24 – XII – 99 6.7 5.8 5.1 4.6 4.1 3.3 Vùng đồng bằng phía Bắc có mùa đông lạnh, ít nắng, có năm có sương muối, có nhiều mưa phùn. Mùa hè nóng, ít gió tây khô nóng, chịu ảnh hưởng trực tiếp của xoáy thuận nhiệt đới, mùa mưa gần như trùng với mùa nóng. Nhiệt độ tối thấp trung bình tháng thấp nhất là tháng I: 140C, Mùa đông, tiểu vùng đồng bằng xa biển có lạnh hơn ven biển, trung bình hàng năm đến gần 10 ngày có nhiệt độ dưới 100C và xấp xỉ 70 ngày nhiệt độ thấp dưới 150C. Những giá trị nhiệt độ tối thấp tuyệt đối bé hơn ven biển 1 – 40C. Trị số nhiệt độ tối thấp tuyệt đối ở tiểu vùng này đã quan sát được trung bình năm 1 – 40C. Do đó khả năng an toàn sương muối ở đây kém hơn duyên hải một ít, ở một và nơi có mức độ rất nhẹ. Chương 2: cơ sở lý thuyết mạng thần kinh nhân tạo (TKNT) 2.1. Các khái niệm cơ bản về mạng thần kinh nhân tạo Các loại mạng thần kinh nhân tạo (TKNT) là một trong số những kỹ thuật xử lý tín hiệu mới nhất hiện nay, và đã được ứng dụng trên rất nhiều lĩnh vực khác nhau. Trong khoa học kỹ thuật, mạng TKNT phục vụ hai chức năng quan trọng chính, đó là bài toán phân loại và bài toán xấp xỉ hàm phi tuyến. Đã có rất nhiều công trình trong lĩnh vực khí tượng thủy văn có sử dụng mạng TKNT, trong số các công trình đó phải kể đến hai công trình của Ricardo và Bin Li. Công trình của Ricardo tập chung vào dự báo tổng xạ cho nam Brazil sử dụng mạng TKNT và đầu ra của mô hình quy mô vừa Êta. Luận văn thạc sỹ khoa học của Bin Li lại đưa ra một ứng dụng mới của mạng TKNT trong việc thay thế các công cụ nội suy truyền thống nhằm đưa các biến khí tượng của mô hình khí hậu về trạm. Kết quả từ cả hai công trình trên đều cho thấy mạng TKNT đã cho kết quả tốt hơn các dự báo của mô hình khí hậu được nội suy về trạm theo các phương pháp truyền thống. Về bản chất, mạng TKNT là một hệ thống thích ứng, và thường là phi tuyến (trừ mạng có hai lớp, một nhập và một xuất), mạng được học để xấp xỉ một hàm từ tập số liệu nguồn (nhân tố dự báo) đến tập số liệu đích (yếu tố dự báo). Thích ứng có nghĩa là các tham số của mạng được thay đổi trong suốt quá trình vận hành, và thường được gọi là pha luyện mạng. Sau khi luyện, các tham số của mạng được cố định và hệ thống được kiểm nghiệm giải một vấn đề sắp xảy ra (pha kiểm tra). Mạng TKNT được thiết kế từng bước sao cho tối ưu hóa những điều kiện cho trước hoặc theo một trình tự xác định trước, được biết đến như những quy tắc học. Số liệu đầu vào và đầu ra của tập mẫu luyện rất quan trọng đối với các phương pháp dự báo nói chung và mạng TKNT nó riêng, bởi chúng bao gồm những thông tin cần thiết để "khám phá" ra các quy luật, và đối với mạng TKNT là điểm "tối ưu". Bản chất phi tuyến của các nhân tố mạng thần kinh đã cung cấp cho hệ thống nhiều khả năng để biểu diễn được chính xác bất kỳ ánh xạ nào. Một trong những loại mạng TKNT được mô phỏng trong hình vẽ dưới đây: Hình 2.1. Mô phỏng tính toán của mạng TKNT Mạng bao gồm một tập hợp các giá trị nhập (input – xi) được nối với mạng và một tập hợp các kết quả mong muốn (desired – di) để so sánh, tính sai số (e) giữa các giá trị đầu ra của mạng (yi) và giá trị thực (do đó loại mạng này được gọi là mạng học có điều kiện). Sai số này được truyền lại mạng để điều chỉnh các tham số theo một quy tắc thống nhất (quy tắc học). Quá trình này được lặp lại cho đến khi kết xuất của mạng là chấp nhận được. Từ đây ta có thể thấy, hiệu quả của mạng phụ thuộc rất nhiều vào số liệu, nếu số liệu có nhiễu hoặc không phủ được vùng giá trị cần thiết thì mạng sẽ cho kết xuất sai. Mặt khác, nếu có nhiều số liệu và bài toán không rõ được xác định như thế nào thì mạng TKNT là một lựa chọn thích hợp. Vấn đề cốt lõi của mạng TKNT là phải có nhiều số liệu, phải lựa chọn được thuật toán, hàm tác động, quy tắc học và các điều kiện ngừng quá trình luyện thích hợp. 2.2. Các thành phần của mạng thần kinh nhân tạo (TKNT) Mạng lan truyền là một hàm phi tuyến có thể xấp xỉ gần đúng nhất một hàm đích được cho qua một số mẫu trong tập mẫu. Hình dưới đây minh hoạ một mạng lan truyền. Hình 2.2. Sơ đồ mạng thần kinh nhân tạo với 3 lớp Trong hình 2.2, mạng gồm 3 lớp: lớp nhập, lớp ẩn và lớp xuất. Mỗi nút trong lớp nhập nhận giá trị của một biến độc lập và chuyển vào mạng (Do đó, số lượng nút nhập bị quy định bởi số lượng biến đầu vào). Dữ liệu từ tất cả các nút trong lớp nhập được tích hợp - hay còn gọi là tổng trọng hoá - và chuyển kết quả cho các nút trong lớp ẩn. Gọi là lớp ẩn vì các nút trong lớp này chỉ liên lạc với các nút trong lớp nhập và xuất; và chỉ người thiết kế mạng mới biết sự tồn tại của chúng (ẩn đối với người sử dụng mạng). Tương tự, các nút trong lớp xuất cũng nhận tín hiệu tổng trọng hoá từ các nút ẩn. Mỗi nút trong lớp xuất tương đương với một biến phụ thuộc. Phần lớn các bài toán chỉ có một biến phụ thuộc (như biểu diễn trong hình 2), nhưng với mô tả như trên, mạng nơron cho phép số biến phụ thuộc là tuỳ ý. Ví dụ, nếu ta xây dựng mạng với mục đích nhận biết các chữ số thì ta dùng 10 nút xuất, dùng để nhận biết chữ viết thì dùng 26 nút xuất (tương ứng với 26 ký tự chữ cái), và dĩ nhiên, ta vẫn có thể sử dụng mạng một nút xuất cho 2 bài toán này nhưng hiệu quả sẽ thấp hơn. Một mạng lan truyền tổng quát có n (n?2) lớp; lớp đầu là lớp nhập, lớp thứ n là lớp xuất, và n-2 lớp trung gian là các lớp ẩn. Cũng trong mạng lan truyền, mỗi nút của lớp thứ i liên kết với mọi nút của lớp thứ i + 1, các nút trong cùng một lớp không liên kết với nhau. Ngoài ra cũng có thể xuất hiện các cung liên kết trực tiếp giữa lớp nhập và lớp xuất, ta gọi mạng loại này là mạng lan truyền có nối trực tiếp (mạng có 2 lớp (nhập và xuất) thuộc loại này). Mạng lan truyền chỉ có thể ở một trong hai trạng thái: trạng thái ánh xạ và trạng thái học. Trong trạng thái ánh xạ, thông tin lan truyền từ lớp nhập đến lớp xuất và mạng thực hiện ánh xạ để tính giá trị các biến phụ thuộc dựa vào các giá trị biến độc lập được cho: Y = f(X). Trong trạng thái học, thông tin lan truyền theo hai chiều nhiều lần để học các trọng số còn trong trạng thái ánh xạ, mạng xử lý mỗi lần một mẫu để tính Y = f(X). Trước tiên, giá trị của các biến độc lập được chuyển cho lớp nhập của mạng. Các nút nhập không tính toán gì cả. Mỗi nút nhập chuyển giá trị của nó cho tất cả nút ẩn thứ nhất. Mỗi nút ẩn tính tổng trọng hoá của tất cả các dữ liệu nhập bằng cách cộng dồn tất cả các tích giữa giá trị nút ẩn (vừa nhận được từ nút nhập) với trọng số của cung liên kết giữa nút nhập và nút ẩn. Kế tiếp, một hàm truyền được áp dụng trên tổng trọng hoá này cùng với một ngưỡng của nút ẩn để cho ra giá trị thực của nút ẩn. Hàm truyền đơn giản chỉ nén giá trị vào một miền giới hạn nào đó, như minh hoạ trong hình dưới đây với hàm truyền tang hypebol (tanh). Hình 2.3. Hàm truyền tanh Sau khi nén tổng trọng hoá của nó, đến lượt nó, mỗi nút ẩn sẽ gửi kết quả đến tất cả các nút ẩn trong lớp ẩn tiếp theo (nếu có) và mỗi nút ẩn trong lớp ẩn cuối cùng sẽ truyền kết quả cho tất cả các nút xuất trong lớp xuất. Mỗi nút xuất thực hiện thao tác tương tự như đã thực hiện ở nút ẩn để cho ra giá trị kết xuất của nút xuất. Giá trị của nút xuất chính là giá trị thực, hay giá trị của biến phụ thuộc. Bản chất ánh xạ do mạng thực hiện tuỳ thuộc vào giá trị trọng số trong mạng. Lan truyền ngược là một phương pháp cho phép xác định tập trọng số tốt nhất của mạng để giải bài toán đã cho. Việc áp dụng phương pháp lan truyền ngược là quá trình lặp đi lặp lại nhiều lần hai tiến trình chính: ánh xạ và lan truyền ngược sai số. Quá trình luyện mạng được bắt đầu với các giá trị trọng số tuỳ ý và tiến hành lặp đi lặp lại. Mỗi lần lặp được gọi là một thế hệ. Trong mỗi thế hệ, mạng hiệu chỉnh các trọng số sao cho sai số giảm dần. Tiến trình điều chỉnh nhiều lần giúp cho trọng dần dần đạt được tập hợp các giá trị tối ưu. Đối với từng mẫu, mạng thực hiện các bước sau đây: trước tiên, mạng thực hiện lan truyền tiến, nghĩa là mạng ánh xạ các biến nhập hiện hành thành các giá trị xuất, sử dụng giá trị các trọng hiện thời. Kế tiếp, sai số của bước lặp lần trước sẽ được truyền cho bước lặp lần sau như một tham số, có nhiều thuật toán khác nhau giúp xử lý những thông tin này như: quy tắc giảm gradient, quy tắc giảm dốc nhất (delta), quy tắc quán tính (hay mômen)... Quá trình luyện mạng kết thúc khi mạng có dấu hiệu "quá khớp", hoặc mạng đạt được một giá trị sai số xác định trước... Mạng nơron có sức mạnh đáng kể, theo Rumelhart, McClelland (1986), Haykin (1994), Bishop (1995)... thì với một mạng hai lớp ẩn và số nút ẩn thích hợp cho từng lớp (tùy thuộc bài toán cụ thể) có khả năng xấp xỉ một hàm đích bất kỳ. Nhưng cùng với khả năng tuyệt vời đó, nó cũng chứa những nguy cơ tiềm ẩn: nếu nhiễu trong số liệu nhiều, mạng càng phức tạp sẽ mô phỏng toàn bộ dữ liệu nhiễu đó và mất đi khả năng tổng quát hóa, điều luôn cần cho các bài toán thống kê, đặc biệt là bài toán dự báo. Để hạn chế điều này, ta có thể bắt đầu luyện mạng với số nút ẩn nhỏ, sau đó tăng dần. Cách thứ hai là ngừng quá trình luyện khi xuất hiện dấu hiệu "quá khớp". Trong phần trên, ta đã biết là giá trị các nút (phần tử hoạt động) trong lớp ẩn và trong lớp xuất là giá trị của hàm truyền với tham số là tổng trọng hoá. Về mặt hình học, đồ thị của hàm truyền có dạng chữ S - còn được gọi là hàm dạng S. Một hàm s(u) là một hàm truyền dạng S nếu nó thoả mãn:

Chơng 1: tổng quan 1.1 Tình hình nghiên cứu ứng dụng mạng thần kinh nhân tạo (TKNT) Các công nghệ kỹ thuật, vật lý, đặc biệt vật lý khí quyển, sinh học đà làm nảy sinh loạt vấn đề phi tuyến, bất ổn định phức tạp Để giải đợc toán đòi hỏi phải có công cụ xử lý, tính toán phi tuyến, số công cụ đó, mạng thần kinh nhân tạo (TKNT) tỏ có u vợt trội Mạng TKNT đáp ứng đợc nhu cầu đợc luyện mẫu, sử dụng công cụ thống kê giả thuyết tối u Có nhiều loại mạng TKNT khác nhau, có mạng truy hồi, mạng nhận thức đa lớp mạng thời gian trƠ ViƯc sư dơng m¹ng truy håi nh mét công cụ dự báo ngày thể nhiều u điểm nhiều lĩnh vực nhờ vào khả liên kết lớp, phần tử hoạt động mạng Quá trình phát triển mạng TKNT trải qua nhiều giai đoạn khác nhau, đợc đánh dấu mốc quan trọng: năm 40 kỷ 20 đánh dấu phát triển đỉnh cao với nghiên cứu McCulloch Pitts (1943); nhng mÃi đến năm 1949, Hebb đa thuật toán học mạng, gọi thuật toán Hebb, mạng TKNT thức đời khẳng định khả tính toán toán phi tuyến Dấu mốc thứ hai xuất năm 60 với giả thuyết hội tụ mạng nhận thức Rosenbatt (1960), thành công lĩnh vực mạng TKNT nơron thích ứng tuyến tính ADALINE nơron thích ứng tuyến tính đa biến - MADALINE Widrow Hoff (1960) phát triển; sau đó, Minsky Papert hạn chế mạng nhận thức đơn giản (1969) Kết Minsky Papert đà làm thất vọng nhiều nhà khoa học, đặc biệt nhà khoa học ngành khoa học tính toán lúc Chính công bố đà làm chậm tiến trình phát triển mạng TKNT gần 20 năm MÃi đến năm 80, mạng TKNT có đợc thành tựu đáng ý Đó công trình Hopfield với cách tiếp cận dới khía cạnh lợng thuật toán học lan truyền ngợc cho mạng nhận thức đa lớp Nhiều ngời nhắc đến công trình Hopfield nh khởi đầu thứ hai cho mạng TKNT Sau công trình đợc tiếp tục phát triển công bố rộng rÃi năm 1986 viết Rumelhart cộng Từ đến nay, với phát triển công nghệ thông tin truyền thông, cộng đồng ngời sử dụng mạng TKNT tăng lên đáng kể đợc mở rộng nhiều lĩnh vực Trong khí tợng học, đà có nhiều nhà khí tợng học giới Việt Nam sử dụng mạng TKNT nh công cụ thống kê cho toán phức tạp giúp hiệu chỉnh sản phẩm mô hình số, tái tạo bổ xung số liệu, tính toán tổng lợng ozon khí 1.2 Nhiệt ®é tèi cao NhiƯt ®é nãi chung vµ nhiƯt ®é tối cao nói riêng đợc sử dụng nhiều mô hình thủy văn mô hình khí tợng nông nghiệp Gần đây, dự báo nhiệt độ đặc biệt nhiệt độ tối cao có ý nghĩa việc đánh giá nóng lên khí hậu toàn cầu Cùng với xạ, nhiệt độ tối cao có ý nghĩa quan trọng ngành nh: nông nghiệp, công nghiệp lợng, công nghiệp máy móc xây dựng Nhiệt độ có ảnh hởng lớn đến hoạt động công trình thủy điện, công trình giao thông, vận tải, công nghiệp chế biến thực phẩm, Trên giới đà có nhiều nghiên cứu dự báo nhiệt độ tối cao sử dụng đầu mô hình số trị nh tài liệu tham khảo Bin Li, Darel R Massie, Eric J Alfaro, Khu vùc ®ång b»ng phÝa bắc bao gồm tỉnh thuộc vùng đồng Bắc Bé vµ tØnh Thanh Hãa, NghƯ An, Hµ TÜnh (đồng Thanh Nghệ Tĩnh) Chế độ nhiệt tỉnh thuộc khu vực không hoàn toàn đồng Tiêu biểu cho chế độ nhiệt mùa lạnh nhiệt độ tháng I cho mùa nóng nhiệt độ tháng VII Khu vực đồng Bắc Bộ chịu ảnh hởng nhiều hệ thống gió mùa đông bắc nên có mùa đông lạnh (Hà Nội: 16.6 0C so víi Thanh Hãa: 17.30C, Vinh: 17.90C), dao ®éng nhiệt mùa đông lớn so với khu vực Thanh Nghệ Tĩnh Vào mùa hè, dới tác động vị trí địa lý, địa hình, hiệu ứng phơn với gió mùa tây nam hoạt động mạnh nên khu vực Thanh Nghệ Tĩnh có nhiệt độ cao rõ rệt Các tháng có khả xuất nhiệt độ lạnh rơi vào tháng từ tháng XII năm trớc đến tháng II năm sau lớn tháng I với xác suất 60%; xác suất xuất nhiệt độ tối cao cực đại lớn vào tháng VII (45%) tháng VI (40%), lại xuất vào tháng V, tháng VIII Mùa đông khu vùc ®ång b»ng Thanh NghƯ TÜnh cịng rÊt Èm ớt không khí cực đới đà đợc bổ xung ẩm từ bề mặt biển front lạnh thờng dừng lại mờ dần khu vực Tình tr¹ng thêi tiÕt nåm Èm, ma phïn cịng xt hiƯn khu vực đồng Bắc Bộ vào cuối mùa đông (khoảng tháng II, tháng III) Những đặc điểm quan träng nhÊt cđa khu vùc diƠn vµo mïa hÌ xuất thời kỳ gió Tây khô nóng Dạng thời tiết ảnh hởng rõ rệt khu vực Thanh Nghệ Tĩnh Tháng VII tháng nóng đồng thời tháng khô nhÊt ®èi víi khu vùc Thanh NghƯ TÜnh NhiƯt ®é tối cao cực đại khu vực đạt tới 42 43 0C, cao khu vực đồng Bắc Bộ (khoảng 400C) Một vài đặc trng nhiệt độ khu vực nghiên cứu đợc tóm tắt nh sau: Đối với khu vực đồng Bắc Bộ, nhiệt độ trung bình năm vào khoảng 23 24 0C Hàng năm có tháng nhiệt độ trung bình dới 200C (rét) từ tháng XII đến tháng III Tháng lạnh tháng I có nhiệt độ trung bình vào khoảng 16 17 0C tối thấp trung bình 13 14 0C Trừ tháng chuyển tiếp, lại tháng từ tháng V đến tháng IX nhiệt độ trung bình vợt 270C tối cao trung bình 30 0C Hai tháng nóng VII tháng VI Nhiệt độ tối cao tuyệt đối phần lớn nơi vợt 400C, riêng ven biển không 37 38 0C Biên độ dao động ngày đêm nhiệt độ trung bình vào khoảng 0C, tổng số nắng năm thờng vào khoảng 1600-1700 §èi víi khu vùc ®ång b»ng Thanh NghƯ TÜnh, nhiƯt độ trung bình năm khoảng 23 24 0C, tổng nhiệt độ năm vào khoảng 8600-87000C Khu vực phía bắc (khu vực Thanh Hóa) có tháng nhiệt độ trung bình dới 200C (từ tháng XII đến III), phần phía nam (Nghệ An Hà Tĩnh) tháng (từ tháng XII đến tháng II) Tháng lạnh tháng I có nhiệt độ trung bình khoảng 17 180C nhiệt độ tối thấp trung bình khoảng 150C Trong tháng đầu mùa hè (từ tháng V đến tháng VIII), nhiệt độ trung bình 270C tối cao trung bình 33 0C nhiệt độ tối cao tuyệt đối lên tới 42 - 43 0C Biên độ dao động nhiệt ngày đêm vào khoảng 70C, tổng số nắng năm thờng vào khoảng 1600 - 1700 giờ; vào mùa đông mùa nắng 1.3 Nhiệt độ tối thấp Đối với nhiệt độ tối thấp, vai trò bật điều kiện địa lý vị trí địa hình thuận lợi trình xâm nhập, lan tràn tích tụ không khí lạnh Không vùng thấp có nhiệt độ thấp nh Lạng Sơn, cửa ngõ đón gió lạnh vào nớc ta Các vùng thấp Lai Châu, phía tây Hoàng Liên Sơn, không lạnh vùng thấp Lào Cai, phía đông Hoàng Liên Sơn, với lý Cũng nhận định hải đảo, nhiệt độ không thấp nh vùng đất liền kế cận Ta có bảng đặc trng nhiệt độ tối thấp số trạm nh dới đây: Bảng 1.1 Một số đặc trng vỊ nhiƯt ®é thÊp nhÊt tut ®èi (00C) NhiƯt ®é thấp Nhiệt độ thấp ớc quan trắc đợc lợng Trạm cho chu kỳ (năm) 5 10 Trị số Ngày 2.7 12 - I – 55 3 14 – II – 68 5 5 24 – XII – 99 5 7 Hµ Néi Phđ LiƠn Vinh 4.5 5.2 Vùng đồng phía Bắc có mùa đông lạnh, nắng, có năm có sơng muối, có nhiều ma phùn Mùa hè nóng, gió tây khô nóng, chịu ảnh hởng trực tiếp xoáy thuận nhiệt đới, mùa ma gần nh trùng với mùa nóng Nhiệt độ tối thấp trung bình tháng thấp tháng I: 14 0C, Mùa đông, tiểu vùng đồng xa biển có lạnh ven biển, trung bình hàng năm đến gần 10 ngày có nhiệt độ dới 100C xấp xỉ 70 ngày nhiệt độ thấp dới 150C Những giá trị nhiệt ®é tèi thÊp tut ®èi bÐ h¬n ven biĨn 40C Trị số nhiệt độ tối thấp tuyệt đối tiểu vùng đà quan sát đợc trung bình năm 0C Do khả an toàn sơng muối duyên hải ít, nơi có mức độ nhẹ Chơng 2: sở lý thuyết mạng thần kinh nhân tạo (TKNT) 2.1 Các khái niệm mạng thần kinh nhân tạo Các loại mạng thần kinh nhân tạo (TKNT) số kỹ thuật xử lý tín hiệu nay, đà đợc ứng dụng nhiều lĩnh vực khác Trong khoa häc kü tht, m¹ng TKNT phơc vơ hai chức quan trọng chính, toán phân loại toán xấp xỉ hàm phi tuyến Đà có nhiều công trình lĩnh vực khí tợng thủy văn có sử dụng mạng TKNT, số công trình phải kể đến hai công trình Ricardo Bin Li Công trình Ricardo tập chung vào dự báo tổng xạ cho nam Brazil sử dụng mạng TKNT đầu mô hình quy mô vừa Êta Luận văn thạc sỹ khoa học Bin Li lại đa ứng dụng mạng TKNT việc thay công cụ nội suy truyền thống nhằm đa biến khí tợng mô hình khí hậu trạm Kết từ hai công trình cho thấy mạng TKNT đà cho kết tốt dự báo mô hình khí hậu đợc nội suy trạm theo phơng pháp truyền thống Về chất, mạng TKNT hƯ thèng thÝch øng, vµ thêng lµ phi tun (trõ mạng có hai lớp, nhập xuất), mạng đợc học để xấp xỉ hàm từ tập số liệu nguồn (nhân tố dự báo) đến tập số liệu đích (yếu tố dự báo) Thích ứng có nghĩa tham số mạng đợc thay đổi suốt trình vận hành, thờng đợc gọi pha luyện mạng Sau luyện, tham số mạng đợc cố định hệ thống đợc kiểm nghiệm giải vấn đề xảy (pha kiểm tra) Mạng TKNT đợc thiết kế bớc cho tối u hóa điều kiện cho trớc theo trình tự xác định trớc, đợc biết đến nh quy tắc học Số liệu đầu vào đầu tập mẫu luyện quan trọng phơng pháp dự báo nói chung mạng TKNT riêng, chúng bao gồm thông tin cần thiết để "khám phá" quy luật, mạng TKNT điểm "tối u" Bản chất phi tuyến nhân tố mạng thần kinh đà cung cấp cho hệ thống nhiều khả để biểu diễn đợc xác ánh xạ 10 Một loại mạng TKNT đợc mô hình vẽ dới đây: Hình 2.1 Mô tính toán mạng TKNT Mạng bao gồm tập hợp giá trị nhập (input xi) đợc nối với mạng tập hợp kết mong muốn (desired di) để so sánh, tính sai số (e) giá trị đầu mạng (yi) giá trị thực (do loại mạng đợc gọi mạng học có điều kiện) Sai số đợc truyền lại mạng để điều chỉnh tham số theo quy tắc thống (quy tắc học) Quá trình đợc lặp lại kết xuất mạng chấp nhận đợc Từ ta thấy, hiệu mạng phụ thuộc nhiều vào số liệu, số liệu có nhiễu không phủ đợc vùng giá trị cần thiết mạng cho kết xuất sai Mặt khác, có nhiều số liệu toán không rõ đợc xác định nh mạng TKNT lựa chọn thích hợp Vấn đề cốt lõi mạng TKNT phải có nhiều số liệu, phải lựa chọn đợc thuật toán, hàm tác động, quy tắc học điều kiện ngừng trình luyện thích hợp 2.2 Các thành phần mạng thần kinh nhân tạo (TKNT) Mạng lan truyền hàm phi tuyến xấp xỉ gần hàm ®Ých ®ỵc cho qua mét sè mÉu tËp mÉu Hình dới minh hoạ mạng lan truyền 11 Lớp nhập Lớp ẩn Lớp xuất Hình 2.2 Sơ đồ mạng thần kinh nhân tạo với lớp Trong hình 2.2, mạng gồm lớp: lớp nhập, lớp ẩn lớp xuất Mỗi nút lớp nhập nhận giá trị biến độc lập chuyển vào mạng (Do đó, số lợng nút nhập bị quy định số lợng biến đầu vào) Dữ liệu từ tất nút lớp nhập đợc tích hợp - hay gọi tổng trọng hoá - chuyển kết cho nút lớp ẩn Gọi lớp ẩn nút lớp liên lạc với nút lớp nhập xuất; ngời thiÕt kÕ m¹ng míi biÕt sù tån t¹i cđa chóng (ẩn ngời sử dụng mạng) Tơng tự, nót líp xt cịng nhËn tÝn hiƯu tỉng träng hoá từ nút ẩn Mỗi nút lớp xuất tơng đơng với biến phụ thuộc Phần lớn toán có biến phụ thuộc (nh biểu diễn hình 2), nhng với mô tả nh trên, mạng nơron cho phép số biến phụ thuộc tuỳ ý Ví dụ, ta xây dựng mạng với mục đích nhận biết chữ số ta dùng 10 nút xuất, dùng để nhận biết chữ viết dùng 26 nút xuất (tơng ứng với 26 ký tự chữ cái), dĩ nhiên, ta sử dụng mạng nút xuất cho toán nhng hiệu thấp Một mạng lan truyền tổng quát có n (n2) lớp; lớp đầu lớp nhập, líp thø n lµ líp xt, vµ n-2 líp trung gian lớp ẩn Cũng 12 mạng lan truyền, nút lớp thứ i liên kết với mäi nót cđa líp thø i + 1, c¸c nót lớp không liên kết với Ngoài xuất cung liên kết trực tiếp lớp nhập lớp xuất, ta gọi mạng loại mạng lan truyền có nối trực tiếp (mạng có lớp (nhập xuất) thuộc loại này) Mạng lan truyền hai trạng thái: trạng thái ánh xạ trạng thái học Trong trạng thái ánh xạ, thông tin lan truyền từ lớp nhập đến lớp xuất mạng thực ánh xạ để tính giá trị biến phụ thuộc dựa vào giá trị biến độc lập đợc cho: Y = f(X) Trong trạng thái học, thông tin lan truyền theo hai chiều nhiều lần để học trọng số trạng thái ánh xạ, mạng xử lý lần mẫu để tính Y = f(X) Trớc tiên, giá trị biến độc lập đợc chuyển cho lớp nhập mạng Các nút nhập không tính toán Mỗi nút nhập chuyển giá trị cho tất nút ẩn thứ Mỗi nút ẩn tính tổng trọng hoá tất liệu nhập cách cộng dồn tất tích giá trị nút ẩn (vừa nhận đợc từ nút nhập) với trọng số cung liên kết nút nhập nút ẩn Kế tiếp, hàm truyền đợc áp dụng tổng trọng hoá với ngỡng nút ẩn giá trị thực nút ẩn Hàm truyền đơn giản nén giá trị vào miền giới hạn đó, nh minh hoạ hình dới với hàm truyền tang hypebol (tanh) 13 Hình 3.10 Trạm Thanh hoá tháng 4-5-6 với mạng nút ẩn Hình 3.11 Trạm Vinh tháng 4-5-6 với mạng1 lớp nút ẩn 42 Hình 3.12 Trạm Láng tháng 7-8-9 với mạng lớp nút ẩn Hình 3.13 Trạm Phủ liễn tháng 7-8-9 với mạng lớp nút ẩn 43 Hình 3.14 Trạm Thanh hoá tháng 7-8-9 với mạng lớp nút ẩn Hình 3.15 Vinh tháng 7-8-9 với mạng lớp nút ẩn 44 Hình 3.16 Trạm Láng tháng 10-11-12 với mạng lớp nút ẩn Hình 3.17 Trạm Phủ liễn tháng 10-11-12 với mạng lớp nút ẩn 45 Hình 3.18 Trạm Thanh hoá tháng 10-11-12 với mạng lớp nút ẩn Hình 3.19 Trạm Vinh tháng 10-11-12 lớp nút ẩn Qua kết thu đợc ta thấy chất lợng dự báo nhiệt độ tối cao mô hình mạng lớp ẩn với nút ẩn ổn định, phù hợp với nhiệt độ quan trắc đợc Ta thấy năm nhiệt độ cao đạt đợc vào tháng 7, 8, lên tới gần 40 độ, nh Vinh Thanh Hoá vào tháng 7, 8, nhiệt độ 46 lên tới (38- 39) độ (Hình3.14,3.15), vào tháng 1, 2, nhìn chung trạm cho ta thấy nhiệt độ tối cao tơng đối thấp vào khoảng (25- 30) độ Bảng 3.2 Chỉ số đánh giá sai số trạm (n v: MAE, RMSE: MJ/m2/ngy) Tháng 1-2- Tháng 4-5- Tháng 7-8- Tháng 10- Trạm MAE RMS 11-12 MAE RMSE 1.83 E 2.50 1.54 E 1.94 1.49 1.782 1.80 1.64 2.08 1.30 1.65 1.56 1.951 Thanh 1.86 2.43 1.78 2.42 1.37 1.80 1.35 1.685 Ho¸ Vinh 1.56 2.06 2.06 2.83 1.40 1.80 1.85 1.920 6 MAE RMS 1.67 E 2.20 Phđ LiƠn 1.42 L¸ng MAE RMS NhËn xÐt: - Trạm Láng: sai số nhỏ vào tháng 10, 11, 12 lớn vào tháng 4, 5, - Tr¹m Phđ LiƠn: sai sè nhá nhÊt vào tháng 7, 8, lớn vào tháng 4, 5, - Trạm Thanh Hoá: sai số nhỏ vào tháng 10, 11, 12 lớn vào tháng 1, 2, - Trạm Vinh: sai số nhỏ vào tháng 7, 8, lớn vào tháng 4, 5, Vậy, theo kết trên, ta thấy trạm Vinh, Phủ Liễn Láng mạng dự báo không tốt vào tháng 4, 5, 6; Thanh Hoá vào tháng 1, 2, Mạng dự báo tốt vào tháng 10, 11, 12 trạm Thanh Hoá Láng; vào tháng 7, 8, trạm Phủ Liễn Vinh Dự báo nhiệt độ tối thấp 47 Cũng nh với toán dự báo nhiệt độ tối cao để giải toán nhiệt độ tối thấp ta chọn trạm Láng làm chuẩn đánh giá chất lợng dự báo mô hình đa đợc mô hình dự báo phù hợp Ta có bảng nh sau: 48 Bảng 3.3 Đánh giá chất lợng mạng nhận thức đa lớp dự báo nhiệt độ tối thấp (Đơn vị: MAE, RMSE: MJ/m2/ngày) ChØ sè M¹ng líp M¹ng líp M¹ng líp nót Èn 10 nút ẩn MAE 1.138 1.156 lớp nút ẩn 1.164 MAE % 5.246% 5.330% 5.378% MSE 2.514 2.529 2.544 RMSE 1.585 1.590 1.595 RMSE % 7.310% 7.333% 7.354% Qua bảng 3.3 ta thấy với mạng lớp nút ẩn cho ta sai số nhỏ ta tăng lên 10 nút ẩn sai số tăng lên Ví dụ nh RMSE tăng từ 1.585 với mạng lớp nót Èn tíi 1.590 víi m¹ng mét líp 10 nút ẩn tăng lên lớp ẩn với lớp ẩn nút ẩn sai số tăng lên 1.595 nói chung ta tăng số lớp ẩn số nút ẩn mổi lớp sai số không giảm mà ngợc lại lại tăng lên nh minh hoạ Nh vậy, tợng khớp đà bắt đầu xuất có nghĩa tăng số lớp nh số nút mạng sai số nhận đợc lớn Do đó, lựa chọn mạng lớp với nút ẩn ®Ĩ dù b¸o nhiƯt ®é tèi thÊp Ta dù b¸o nhiêt độ tối thấp cho trạm tiêu biểu khu vực đồng bắc với mạng lớp nút ẩn kết thu đợc nh sau: 49 Hình 3.20 Trạm Láng với mạng lớp nút ẩn Hình 3.21 Trạm Phủ liễn với mạng lớp nút ẩn 50 Hình 3.22 Trạm Vinh với mạng lớp nút ẩn Hình 3.23 Trạm Thanh hoá víi m¹ng mét líp nót Èn Ta thÊy kÕt mạng dự báo khả quan sát với thực tế, mạng dự báo khả quan, tháng 1, 2, 12 nhiệt độ tối thấp 51 thất nhât xuống tới 10 độ có nơi dới 10 độ nh Phủ liễn (hình 3.21) Vào tháng mùa hè 7, 8, mạng cho dự báo nhiệt độ tối thấp cao so với tháng khác năm, mùa hè nhiệt độ tối thấp lên tới 250 đến 270 Bảng 3.4 Các số đánh giá sai số trạm (n v: MAE, RMSE: MJ/m2/ngy) Trạm Láng Phủ Liễn Vinh Thanh Hoá MAE 1.141 1.095 1.066 1.098 RMSE 1.588 1.567 1.557 1.487 Qua bảng 3.4 ta thấy mạng dự báo nhiệt độ tối thấp tốt trạm Thanh Hoá (các số đánh giá sai số nhỏ nhất) trạm Láng, mạng dự báo cho sai số lớn 52 Kết luận Nhiệt độ yếu tố khí tợng đợc ngêi c¶m nhËn trùc tiÕp, nã cịng cã ý nghĩa lớn sản xuất nông nghiệp công nghiệp Dự báo nhiệt độ tối cao nh nhiệt độ tối thấp toán đơn giản Kết dự báo với mạng TKNT cho thấy: - Sai số dự báo nhiệt độ tối cao tháng mùa đông nh nhiệt độ tối thấp tháng mùa hè sử dụng mạng TKNT chấp nhận đợc nghiệp vụ (RMSE ~ 0C) tháng chuyển tiếp, đầu cuối mùa hè nh mùa đông có sai số lớn - Do tính động sức mạnh mạng TKNT nên loại mạng khác khác biệt đáng kể sai số kiểm tra Có thể nói, mạng TKNT có khả tìm đợc ánh xạ tốt cho số liệu đà cho Do đó, khác biệt loại mạng thời gian luyện mạng, thớc đo tính hiệu loại mạng TKNT, đợc đa vào ứng dụng nghiệp vụ - Vấn đề khớp mạng có cấu tạo phức tạp với nhiều lớp ẩn nút ẩn đáng đợc lu ý lựa chọn mạng nghiên cứu ứng dụng nghiệp vụ Từ kết thu đợc ta thấy hiệu đáng kể việc kết hợp u điểm mô hình với phơng pháp khác Đây công cụ hữu hiệu tơng lai Cùng với nghiên cứu trớc tác giả nớc nớc ngoài, kết đạt đợc luận văn đà cho thấy tiềm lớn mạng TKNT toán khí tợng Mạng 53 TKNT đà thể đợc khả vợt trội toán mà trớc bị bỏ ngỏ 54 Tài liệu tham khảo Tiếng Việt Nguyễn Hớng Điền, Hoàng Phúc Lâm (2006), "Dự báo tổng lợng xạ ngày cho khu vực đồng phía bắc Việt Nam phơng pháp sử dụng mạng thần kinh nhân tạo", Tạp chí khoa häc §H QGHN, KHTN&CN, tËp 22, sè 2B PT, pp919 Nguyễn Hớng Điền (2002), Khí tợng vật lý, NXB ĐHQG Hoàng Phúc Lâm (2007), ứng dụng mạng thần kinh HN nhân tạo dự báo số yếu tố khí tợng cho khu vực đồng phía bắc Việt Nam, luận văn cao học Phan Văn Tân (2003), Các phơng pháp thống kê khí hậu, NXB Đại học Quốc gia Hà Nội Nguyễn Đình Thúc, Hoàng Đức Hải (2000), Mạng nơron: Quy tắc ứng dụng, NXB GD Phạm Ngọc Toàn, Phan Tất Đắc (1993), KhÝ hËu ViÖt Nam, NXB KHKT GS TSKH Nguyễn Đức Ngữ, GS TS Nguyễn Trọng Hiếu(2004), Khí hậu tài nguyên môi trờng Việt Nam, NXB Nông Nghiệp Hồ Thị Minh Hà, Nguyễn Hớng Điền, (2006) "Thử nghiệm dự báo lợng ma ngày quy tắc dùng mạng thần kinh nhân tạo hiệu chỉnh sản phẩm mô hình số", Tạp chí khoa học - Đại học Quốc gia Hµ néi, tËp 22, sè 1, tr 1-10 Lê Xuân Cầu (2004), "Khả ứng dụng mạng TKNT vào dự báo lũ sông Trà Khúc sông Vệ", Tạp chí KTTV, số (481) năm 2004, tr.26-35 55 TiÕng Anh 10 Bin Li (2002), Spatial interpolation of weather variables using artificial neural network, Master of Science, University of Georgia, Greece 56 ... víi M¹ng líp víi ME ME % MAE MAE % MSE nót Èn -3 .74E-01 -1 .802% 1.660 7.994% 4.802 10 nót Èn -5 .56E-01 -2 .680% 1.682 8.102% 4.968 vµ nót Èn -6 .23E-01 -3 .000% 1.71 8.258% 5.204 RMSE RMSE % 2.191... nhiệt độ tối cao tháng năm với trạm ta tiến hành chạy mô hình dự báo cho tháng 1-2 -3 , tháng 4-5 -6 , tháng 7-8 -9 tháng1 0-1 1-1 2 vòng 10 năm từ năm 1981 đến năm 1990 Để tìm mô hình mạng với cấu hình tối... Láng tháng 1-2 -3 với mạng lớp nút ẩn Hình 3.5 Trạm Phủ Liễn tháng 1-2 -3 với mạng 1lớp nút ẩn 39 Hình 3.6 Trạm Thanh Hóa tháng 1-2 -3 với mạng lớp nút ẩn Hình 3.7 Trạm Vinh với tháng 1-2 -3 với mạng

Ngày đăng: 25/06/2021, 03:25

Hình ảnh liên quan

Bảng 1.1. Một số đặc trng về nhiệt độ thấp nhất tuyệt đối (00C) - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Bảng 1.1..

Một số đặc trng về nhiệt độ thấp nhất tuyệt đối (00C) Xem tại trang 5 của tài liệu.
Hình 2.2. Sơ đồ mạng thần kinh nhân tạo với 3 lớp - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 2.2..

Sơ đồ mạng thần kinh nhân tạo với 3 lớp Xem tại trang 9 của tài liệu.
Hình 2.3. Hàm truyền tanh - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 2.3..

Hàm truyền tanh Xem tại trang 11 của tài liệu.
Hình 2. 5. Hớng giảm trong không gian trọng số. a) Tốc độ học nhỏ; b) Tốc độ học lớn và c) Tốc độ học có thêm yếu tố quán tính - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 2..

5. Hớng giảm trong không gian trọng số. a) Tốc độ học nhỏ; b) Tốc độ học lớn và c) Tốc độ học có thêm yếu tố quán tính Xem tại trang 17 của tài liệu.
Hình 2.7. Phần tử hoạt động và các toán tử phi tuyến dạng S thông dụng - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 2.7..

Phần tử hoạt động và các toán tử phi tuyến dạng S thông dụng Xem tại trang 24 của tài liệu.
Hình 2.8. Mạng nhận thức đa lớp với một lớp ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 2.8..

Mạng nhận thức đa lớp với một lớp ẩn Xem tại trang 24 của tài liệu.
Hình 2.12. Sai số luyện và kiểm tra trung bình là một hàm của số nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 2.12..

Sai số luyện và kiểm tra trung bình là một hàm của số nút ẩn Xem tại trang 29 của tài liệu.
Hình 3.1. Thông tin về phần mềm NeuroSolutions và một ví dụ về mạng nhận thức đa lớp - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.1..

Thông tin về phần mềm NeuroSolutions và một ví dụ về mạng nhận thức đa lớp Xem tại trang 31 của tài liệu.
Hình 3.2. Công cụ hỗ trợ xây dựng mạng TKNT NeuroExpert - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.2..

Công cụ hỗ trợ xây dựng mạng TKNT NeuroExpert Xem tại trang 32 của tài liệu.
Hình 3.3. Cửa sổ hiển thị biến thiên sai số trong quá trình luyện - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.3..

Cửa sổ hiển thị biến thiên sai số trong quá trình luyện Xem tại trang 33 của tài liệu.
Hình 3.4. Trạm Láng tháng 1-2-3 với mạng1 lớp 3 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.4..

Trạm Láng tháng 1-2-3 với mạng1 lớp 3 nút ẩn Xem tại trang 36 của tài liệu.
Hình 3.5. Trạm Phủ Liễn tháng 1-2-3 với mạng 1lớp 3 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.5..

Trạm Phủ Liễn tháng 1-2-3 với mạng 1lớp 3 nút ẩn Xem tại trang 36 của tài liệu.
Hình 3.6. Trạm Thanh Hóa tháng 1-2-3 với mạng1 lớp 3 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.6..

Trạm Thanh Hóa tháng 1-2-3 với mạng1 lớp 3 nút ẩn Xem tại trang 37 của tài liệu.
Hình 3.7. Trạm Vinh với tháng 1-2-3 với mạng1 lớp 3 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.7..

Trạm Vinh với tháng 1-2-3 với mạng1 lớp 3 nút ẩn Xem tại trang 37 của tài liệu.
Hình 3.8. Trạm Láng tháng4-5-6 với mạng1 lớp 3 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.8..

Trạm Láng tháng4-5-6 với mạng1 lớp 3 nút ẩn Xem tại trang 38 của tài liệu.
Hình 3. 9. Trạm Phủ liễn tháng4-5-6 với mạng1 lớp 3 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3..

9. Trạm Phủ liễn tháng4-5-6 với mạng1 lớp 3 nút ẩn Xem tại trang 38 của tài liệu.
Hình 3.10. Trạm Thanh hoá tháng4-5-6 với mạng1 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.10..

Trạm Thanh hoá tháng4-5-6 với mạng1 nút ẩn Xem tại trang 39 của tài liệu.
Hình 3.12. Trạm Láng tháng7-8-9 với mạng1 lớp 3 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.12..

Trạm Láng tháng7-8-9 với mạng1 lớp 3 nút ẩn Xem tại trang 40 của tài liệu.
Hình 3.13. Trạm Phủ liễn tháng7-8-9 với mạng1 lớp 3 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.13..

Trạm Phủ liễn tháng7-8-9 với mạng1 lớp 3 nút ẩn Xem tại trang 40 của tài liệu.
Hình 3.14. Trạm Thanh hoá tháng7-8-9 với mạng1 lớp 3 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.14..

Trạm Thanh hoá tháng7-8-9 với mạng1 lớp 3 nút ẩn Xem tại trang 41 của tài liệu.
Hình 3.15. Vinh tháng7-8-9 với mạng1 lớp 3 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.15..

Vinh tháng7-8-9 với mạng1 lớp 3 nút ẩn Xem tại trang 41 của tài liệu.
Hình 3.17. Trạm Phủ liễn tháng10-11-12 với mạng1 lớp 3 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.17..

Trạm Phủ liễn tháng10-11-12 với mạng1 lớp 3 nút ẩn Xem tại trang 42 của tài liệu.
Hình 3.16. Trạm Láng tháng10-11-12 với mạng1 lớp 3 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.16..

Trạm Láng tháng10-11-12 với mạng1 lớp 3 nút ẩn Xem tại trang 42 của tài liệu.
Hình 3.19. Trạm Vinh tháng10-11-12 1lớp 3 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.19..

Trạm Vinh tháng10-11-12 1lớp 3 nút ẩn Xem tại trang 43 của tài liệu.
Hình 3.18. Trạm Thanh hoá tháng10-11-12 với mạng1 lớp 3 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.18..

Trạm Thanh hoá tháng10-11-12 với mạng1 lớp 3 nút ẩn Xem tại trang 43 của tài liệu.
Bảng 3.3. Đánh giá chất lợng của mạng nhận thức đa lớp trong dự báo nhiệt độ tối thấp (Đơn vị: MAE, RMSE: MJ/m2/ngày) - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Bảng 3.3..

Đánh giá chất lợng của mạng nhận thức đa lớp trong dự báo nhiệt độ tối thấp (Đơn vị: MAE, RMSE: MJ/m2/ngày) Xem tại trang 46 của tài liệu.
Hình 3.20. Trạm Láng với mạng một lớp 5 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.20..

Trạm Láng với mạng một lớp 5 nút ẩn Xem tại trang 47 của tài liệu.
Hình 3.21. Trạm Phủ liễn với mạng một lớp 5 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.21..

Trạm Phủ liễn với mạng một lớp 5 nút ẩn Xem tại trang 47 của tài liệu.
Hình 3.22. Trạm Vinh với mạng một lớp 5 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.22..

Trạm Vinh với mạng một lớp 5 nút ẩn Xem tại trang 48 của tài liệu.
Hình 3.23. Trạm Thanh hoá với mạng một lớp 5 nút ẩn - Khoá luận tốt nghiệp: Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo

Hình 3.23..

Trạm Thanh hoá với mạng một lớp 5 nút ẩn Xem tại trang 48 của tài liệu.

Từ khóa liên quan

Mục lục

  • Chương 1: tổng quan

    • 1.1 Tình hình nghiên cứu và ứng dụng mạng thần kinh nhân tạo (TKNT)

    • 1.2. Nhiệt độ tối cao.

    • Đối với nhiệt độ tối thấp, vai trò nổi bật của điều kiện địa lý là vị trí và địa hình thuận lợi đối với các quá trình xâm nhập, lan tràn và tích tụ của không khí lạnh. Không vùng thấp nào có nhiệt độ thấp như Lạng Sơn, một trong những cửa ngõ đón gió lạnh vào nước ta. Các vùng thấp nhất ở Lai Châu, phía tây của Hoàng Liên Sơn, không lạnh bằng các vùng thấp ở Lào Cai, phía đông Hoàng Liên Sơn, cũng với lý do đó. Cũng có thể nhận định là ở các hải đảo, nhiệt độ không thấp như các vùng đất liền kế cận.

    • Chương 2: cơ sở lý thuyết mạng thần kinh nhân tạo (TKNT)

      • 2.1. Các khái niệm cơ bản về mạng thần kinh nhân tạo

        • 2.2. Các thành phần của mạng thần kinh nhân tạo (TKNT)

        • 2.3. Các quy tắc và phương pháp xây dựng mạng TKNT

          • a. Các quy tắc luyện mạng

          • c. Vấn đề quá khớp

          • 2.4. Các loại mạng TKNT và ứng dụng

            • a. Mạng nhận thức đa lớp

            • Chương 3: ứng dụng mạng tknt dự báo nhiệt độ cực trị cho khu vực đồng bằng phía bắc việt nam

              • 3.1 Giới thiệu phần mềm NeuroSolutions

              • 3.2. Các chỉ số đánh giá, so sánh

                • a. Sai số trung bình

                • b. Sai số tuyệt đối trung bình

                • c. Sai số quân phương

                • Tài liệu tham khảo

Tài liệu cùng người dùng

  • Đang cập nhật ...

Tài liệu liên quan