1. Trang chủ
  2. » Luận Văn - Báo Cáo

Mạng nơron nhân tạo và ứng dụng trong dự báo thời tiết

76 2,6K 30

Đang tải... (xem toàn văn)

Tài liệu hạn chế xem trước, để xem đầy đủ mời bạn chọn Tải xuống

THÔNG TIN TÀI LIỆU

Thông tin cơ bản

Định dạng
Số trang 76
Dung lượng 1,1 MB

Nội dung

Hiện nay trên thế giới các hệ thống dự báo thời tiết nghiệp vụ được thực hiện bởi 3 phương pháp chính: phương pháp Synôp, phương pháp thống kê và phương pháp số trị.Trong mỗi phương pháp

Trang 1

MỤC LỤC

LỜI NÓI ĐẦU 3

Chương 1: NGHIÊN CỨU CHUNG VỀ BÀI TOÁN DỰ BÁO THỜI TIẾT 5

1.1 Mở đầu 5

1.2 Quy trình thực hiện dự báo 6

1.3 Phân loại các phương pháp dự báo 9

1.3.1 Phương pháp ngoại suy 9

1.3.2 Mô hình ứng dụng mạng nơron 11

1.3.3 Phương pháp dựa luật 11

1.3.4 Mô hình kinh tế lượng 11

1.3.5 Mô hình chuyên gia 12

1.3.6 Mô hình tương tự 12

1.4 Một số phương pháp với bài toán dự báo thời tiết 13

1.4.1 Phương pháp quán tính 13

1.4.2 Phương pháp dự báo theo xu hướng 13

1.4.3 Phương pháp khí hậu học 13

1.4.4 Phương pháp tương tự 14

1.4.5 Phương pháp dự báo sử dụng văn bản 14

1.4.6 Phương pháp Synôp 15

1.4.7 Phương pháp tổng hợp 15

1.4.8 Phương pháp số trị 15

1.4.9 Phương pháp thống kê 16

1.5 Phương pháp giải với mạng nơron nhân tạo 16

1.6 Đánh giá dự báo 19

1.7 Kết luận 21

Chương 2: LÝ THUYẾT VÀ ỨNG DỤNG MẠNG NƠRON NHÂN TẠO 22

2.1 Giới thiệu 22

2.2 Nơron sinh vật 23

2.3 Mạng nơron nhân tạo 25

2.3.1 Mô hình một nơron nhân tạo 25

Trang 2

2.3.2 Cấu trúc mạng nơron nhân tạo 26

2.3.3 Thuật toán học trong mạng nơron 28

2.4 Kết hợp mạng nơron với lý thuyết mờ 30

2.4.1 Lý do 30

2.4.2 Một số khái niệm cơ bản trong lý thuyết mờ 32

2.4.2.1 Tập mờ 32

2.4.2.2 Số mờ 32

2.4.2.3 Tập mức 32

2.4.2.4 Một số phương pháp mờ hóa mạng nơron 32

2.5 Mạng lan truyền ngược 33

2.5.1 Cấu trúc mạng 33

2.5.2 Thuật toán 35

2.5.3 Ứng dụng của mạng nơron nhân tạo 40

Chương 3: CHƯƠNG TRÌNH THỬ NGHIỆM 43

3.1 Mô tả bài toán 43

3.2.1 Khởi tạo trọng số 47

3.2.2 Hằng số học 48

3.2.3 Số lượng nơron lớp ẩn 49

3.2.4 Cách thức cập nhật trọng số 49

3.2.5 Vấn đề xác định lỗi 50

3.2.6 Mẫu vào 50

3.3 Kết quả thực nghiệm 50

3.3.1 Lựa chọn công cụ phát triển 50

3.3.2 Cấu trúc chương trình 51

KẾT LUẬN 59

TÀI LIỆU THAM KHẢO 60

PHỤ LỤC 61

Trang 3

LỜI NÓI ĐẦU

Dự báo thời tiết ra đời từ xa xưa, từ khi có sự xuất hiện của con người và càngngày càng gắn bó với cuộc sống của chúng ta Từ thủa ban đầu, con người đã có thể “dựđoán ” trước được các hiện tượng tự nhiên sẽ xảy ra trong khoảng thời gian gần Dần dầnkinh nghiệm quan sát được tích lũy, cộng thêm những tư duy sâu xa đã giúp họ có đượccác dự báo chính xác hơn cho các hiện tượng khí tượng trong tương lai Những phân tích,kinh nghiệm tích lũy dần được đúc kết thành các bài toán dự báo, cho phép tính toán kháchính xác hiện tượng thời tiết sắp xảy ra

Hiện nay trên thế giới các hệ thống dự báo thời tiết nghiệp vụ được thực hiện bởi

3 phương pháp chính: phương pháp Synôp, phương pháp thống kê và phương pháp số trị.Trong mỗi phương pháp đó lại có rất nhiều phương pháp và các mô hình dự báo cụ thể.Mỗi phương pháp đều có những ưu điểm và nhược điểm riêng Việc ứng dụng phươngpháp nào là tùy thuộc vào tài nguyên của hệ thống, trình độ của người dự báo, yêu cầu vàmục đích của người xây dựng hệ thống,

Ở Việt Nam hiện nay sử dụng chủ yếu phương pháp Synôp Trong phương phápnày các nhà khí tượng thu thập số liệu tại các trạm khí tượng trên diện rộng ở cả lãnh thổViệt Nam và nước ngoài để xây dựng thành các bản đồ, rồi căn cứ vào các bản đồ đó đểsuy ra trạng thái thời tiết ở các thời điểm tương lai Phương pháp này có hạn chế là dựanhiều vào kinh nghiệm của người dự báo, họ phân tích tình huống tương tự để đưa ra dựbáo và điều này gặp khó khăn vì dữ liệu thời tiết rất lớn, đa chiều và biến đổi mạnh vềkhông gian và thời gian

Ứng dụng mạng nơron nhân tạo là một trong những phương pháp thống kê Đó làmột phương pháp mới, có nhiều ưu thế vượt trội trong việc giải quyết các vấn đề phituyến Các phương pháp thống kê nói chung và ứng dụng mạng nơron nhân tạo nói riêngmang tính khách quan hơn dự báo Synôp và đáp ứng được nhiều yêu cầu của thực tiễn

mà dự báo Synôp không đáp ứng được

Khái niệm mạng nơron được bắt đầu vào cuối những năm 1890 khi người ta cốgắng mô tả hoạt động của trí tuệ con người Từ đó, lý thuyết mạng nơron được phát triển

để áp dụng trong nhiều lĩnh vực trong đó có dự báo Trên thế giới, mạng nơron đã và

Trang 4

đang được áp dụng trong nhiều lĩnh vực trong đó có thủy văn từ nhiều năm trước và đãthu được nhiều thành tựu.

Với những ưu thế vượt trội của việc ứng dụng mạng nơron nhân tạo như tínhmềm dẻo, khả năng dung thứ lỗi cao, giải quyết được các vấn đề phi tuyến thích hợptrong việc xử lý dữ liệu có tính biến động lớn,… Đó là những lý do để em chọn đề tài:

Mạng nơron nhân tạo và ứng dụng trong dự báo thời tiết, đề tài mong muốn ứng dụng

phương pháp này để đóng góp những cải tiến mới trong công tác dự báo thời tiết

Bố cục đề tài:

Chương 1: Nghiên cứu chung về bài toán dự báo thời tiết.

Chương 2: Lý thuyết và ứng dụng của mạng nơron nhân tạo.

Chương 3: Chương trình thử nghiệm dự báo thời tiết ứng dụng của mạng nơron lan truyền ngược.

Mặc dù đã cố gắng song đề tài khó tránh khỏi những thiếu sót Em rất mong nhậnđược những ý kiến đóng góp của Thầy Cô giáo cũng như của các bạn sinh viên để em cóthể hoàn thiện hơn đề tài của mình

Em xin chân thành cảm ơn sự giúp đỡ của các thầy cô trong khoa, sự ủng hộ của gia

đình bạn bè và đặc biệt là sự hướng dẫn, chỉ bảo tận tình của Cô giáo - Thạc sĩ Nguyễn Hiền Trinh đã giúp em trong quá trình thực tập để hoàn thành đề tài này.

Em xin chân thành cảm ơn!

Sinh viên

Nguyễn Thị Oanh

Trang 5

Chương 1 NGHIÊN CỨU CHUNG VỀ BÀI TOÁN DỰ BÁO THỜI TIẾT

1.1 Mở đầu

Dự báo là một phát biểu về tương lai Mỗi phát biểu như vậy có một cơ sở chắc chắnnhất định Các dự báo được xây dựng bằng nhiều phương pháp, kiểm chứng qua biểuthức đánh giá Vì vậy, dự báo là một lĩnh vực có tiềm năng rộng lớn

Để nói về vai trò của dự báo thời tiết, chúng ta xem những hậu quả của thiên taikhông được dự báo về kịp thời gây ra

Trên thế giới, năm 2008 là một trong những năm thế giới phải hứng chịu nhiều thảmhoạ thiên nhiên nhất Thiệt hại từ thảm hoạ thiên nhiên năm 2008 lên tới 200 tỷUSD.Trong đó, có khoảng 220 nghìn người chết trong những thảm hoạ thiên nhiên nhưlốc xoáy, động đất và lũ lụt Châu Á chịu tác động mạnh nhất của thảm hoạ thiên nhiên.Siêu bão Nargis tại Myanmar đã giết chết 130 nghìn người và phá huỷ phần lớn khu vựcđồng bằng thấp Irrawaddy.Tính tổng số, có khoảng 1700 cơn lốc xoáy đã phá huỷ nước

Mỹ trong năm qua, gây thiệt hại tới hàng tỷ USD

Ở Việt Nam, Tổng cục Thống kê vừa tổng kết năm 2008, thiên tai đã làm 550 ngườichết và mất tích, 440 người bị thương; gần 350 nghìn ha mạ, lúa và hoa màu bị mất trắng,hơn 1 triệu con gia súc và gia cầm bị chết; 68 nghìn ha diện tích nuôi trồng thủy sản bịthiệt hại, gần 5 nghìn ngôi nhà bị sập và cuốn trôi… Tổng thiệt hại do thiên tai gây ra năm

2008 lên tới gần 12.000 tỉ đồng Nguyên nhân chính là sự gia tăng những cơn bão mạnh,

kỳ dị và sự xuất hiện của nhiều hiện tượng thời tiết nguy hiểm

Để phòng tránh và giảm nhẹ những tác hại do thời tiết gây ra, việc dự báo thời tiết có

ý nghĩa rất quan trọng Nhiều khi chỉ cần dự báo trước một vài tiếng đồng hồ cũng đủ để

sơ tán người và của ra khỏi vùng nguy hiểm, cứu được nhiều sinh mạng và tài sản chính

vì vậy, đã từ lâu con người đã quan tâm đến việc theo dõi và tìm cách dự báo thời tiết

Dự báo thời tiết là một công việc hết sức phức tạp Mặc dù khoa học dự báo thời tiết

ra đời đã trên 100 năm và hiện nay hàng trăm ngàn nhà khoa học ở nhiều nước đang nỗ

Trang 6

lực nghiên cứu để tìm cách nâng cao chất lượng công tác dự báo thời tiết nhưng cho đếnnay người ta vẫn chưa khẳng định được chính xác thời tiết của ngày hôm sau sẽ ra sao.

Dự báo thời tiết cần có một hệ thống thu nhập và trao đổi số liệu trên toàn cầu cùngvới các công cụ để xử lý làm căn cứ cho việc dự báo Hệ thống quan trắc là cơ sở đầu tiêncủa hệ thống dự báo thời tiết Bên cạnh đó, hệ thống thông tin liên lạc có vai trò cực kỳquan trọng Khâu cuối cùng trong hệ thống dự báo thời tiết là chỉnh lý các số liệu đã thunhập và sử dụng các phương pháp khác nhau đưa ra kết quả dự báo

Như vậy, các phương pháp dự báo thời tiết được đề cập đến trong đề tài chỉ nhữngmắt xích cuối cùng trong hệ thống dự báo thời tiết

1.2.Quy trình thực hiện dự báo

Dự báo là một quá trình phức tạp nhưng về cơ bản có thể thực hiện theo các bước sau:

Hình 1.1: Quy trình dự báo

1 Xác định mục tiêu

2 Xác định dự báo cái gì

3 Xác định khía cạnh thời gian

4 Xem xét dữ liệu

5 Lựa chọn mô hình

6 Đánh giá mô hình

7 Chuẩn bị dự báo

8 Trình bày kết quả dự báo

9 Theo dõi kết quả dự báo

Mô hình không thích hợp

Mô hình thích hợp

Trang 7

Bước 1: Xác định mục tiêu

Bước đầu tiên trong quy trình dự báo là xác định mục tiêu Xác định mục tiêu là xácđịnh xem kết quả dự báo sẽ được sử dụng như thế nào Mục tiêu chung của dự báo là đểlập kế hoạch và có những quyết định hành động hợp lý Mục tiêu của dự báo thời tiết là

để người dân có những chuẩn bị cho các hoạt động trong tương lai và chính phủ có những

kế hoạch phòng chống rủi ro kịp thời

Bước 2: Xác định dự báo cái gì

Khi các mục tiêu tổng quát đã rõ, ta phải xác định chính xác dự báo cái gì Ví dụ, khimục tiêu chung là dự báo thời tiết nhưng một hệ thống có thể dự báo thiên tai gồm có:bão, lũ lụt, mưa đá, sóng thần, hạn hán,… hay dự báo các thông số thời tiết hàng ngàygồm có: nhiệt độ, độ ẩm, lượng mưa, các yếu tố về gió,… Đề tài này xây dựng hệ thốngthử nghiệm dự báo thời tiết hàng ngày với 6 thông số: nhiệt độ, độ ẩm, mưa, hướng gió,tốc độ gió, mây

Bước 3: Xác định khía cạnh thời gian

Có 2 loại khía cạnh thời gian cần xem xét

Thứ nhất là độ dài dự báo: dự báo dài hạn hoặc dự báo ngắn hạn Ví dụ trong dự báo

thời tiết hiện nay Trung tâm KTTV Quốc gia đưa ra các bản tin dự báo thời tiết hàngngày, dự báo hạn vừa 1-3 ngày và dự báo dài hạn 3-5 ngày và nhận định xu thế thời tiếtmùa Các hiện tượng thời tiết nguy hiểm khác như: tố, lốc, vòi rồng, lũ quét chỉ cảnh báotrước từ 30 phút đến 1 giờ hoặc 2 giờ

Thứ hai là người sử dụng và người làm dự báo phải thống nhất tính cấp thiết của dự

báo, ví dụ, thời gian hệ thống sẽ được xây dựng, thời gian để hệ thống thực hiện một dựbáo Trong đề tài này tác giả thử nghiệm dự báo trước 24h, thời gian huấn luyện mạngvới dữ liệu của một mùa (90 ngày) là 9 giờ nhưng thời gian dự báo cho từng ngày gầnnhư là tức thời

Bước 4: Xem xét dữ liệu

Cần phải xem xét đên dữ liệu mà hệ thống sẽ sử dụng nguồn dữ liệu, cách phân loạichọn lọc, xử lý dữ liệu làm đầu vào hệ thống Trong hệ thống dự báo thời tiết, nguồn dữliệu có thể được lấy từ các trạm khí tượng, vệ tinh, rađa, tầu thời tiết, máy bay thời tiết,

Trang 8

các phương tiện truyền thông,… Tùy theo loại dữ liệu mà có cách phân loại và xử lý phùhợp, ví dụ như dữ liệu ảnh, dữ liệu âm thanh hay số liệu có đơn vị đo khác nhau thì sẽkhác nhau Trong đề tài tác giả sử dụng dữ liệu được quy về các đơn vị thống nhất: nhiệt

độ °C, độ ẩm: %, mưa: %, tốc độ gió: km/h, hướng gió: °, mây: % (tùy theo nhiều mâyhay ít mây)

Bước 5: Lựa chọn mô hình

Việc quyết định xem mô hình dự báo nào là thích hợp liên quan đến nhiều yếu tố dữliệu đầu vào, các yêu cầu về thời gian, yêu cầu và kết quả đầu ra, tài nguyên sẵn có,…Quy trình lựa chọn mô hình dự báo có thể được lựa chọn dựa trên một số chiến lược dựbáo như sau:

Tiền định: Dựa trên mối quan hệ mật thiết giữa hiện tại và tương lai Các mô hình

chuỗi thời gian thích hợp với chiến lược này

1 Triệu chứng: Dựa trên những dấu hiệu hiện tại để dự báo cho tương lai.

2 Hệ thống: Dựa trên ý tưởng cho rằng xu hướng phát triển trong tương lai sẽ tuân

thủ theo một quy tắc nào đó, chẳng hạn các lý thuyết kinh tế - xã hội

Đề tài này sử dụng chiến lược dự báo tiền định, với các điều kiện hiện tại của nước tanhư: cơ sở hạ tầng còn hạn chế, trang bị chưa đủ hiện đại, hệ thống quan trắc và thông tinliên lạc chưa đáp ứng được đầy đủ các yêu cầu của công tác dự báo, phương pháp Synôpthường dùng chưa mang lại độ chính xác dự báo cao,… phương pháp ứng dụng mạngnơron nhân tạo đã chứng tỏ được nhiều ưu việt như: khả năng dung thứ lỗi cao, phù hợpvới các hệ thống có độ phức tạp tính toán lớn, đảm bảo được tính cấp thiết về mặt thờigian,… hơn thế nữa, dữ liệu thống kê về thời tiết có thu thập được một cách đầy đủ nêntác giả đã lựa chọn mô hình dự báo Chuỗi thời gian với ứng dụng của mạng nơron nhântạo

Bước 6: Đánh giá mô hình

Đối với các phương pháp tất định thì bước này ít quan trọng hơn nhưng đối với cácphương pháp định lượng thì cần phải đánh giá mức độ phù hợp của mô hình (trong phạm

vi mẫu dữ liệu) Nếu mô hình không phù hợp thì quay lại bước 5 Đề tài sử dụng 2 tiêu

Trang 9

chí ME (Sai số trung bình) và MAPE (Sai số trung bình phần trăm tuyệt đối) để đánh giá

độ chính xác của dự báo thì thấy kết quả chấp nhận được

Bước 7: Chuẩn bị dự báo

Sau khi đã đánh giá và lựa chọn được mô hình dự báo phù hợp thì chuẩn bị các sốliệu phục vụ cho việc dự báo

Bước 8: Trình bày kết quả dự báo

Có nhiều cách để trình bày kết quả dự báo, có thể thông qua bảng biểu, đồ thị hayhình ảnh minh họa, có thể trình bày ở dạng nói, trình bày tại một vị trí hoặc trên phươngtiện thông tin đại chúng,… Dù bằng cách này hay cách kia thì những kết quả dự báo phảingắn gọn, rõ ràng, thể hiện được sự tin cậy của dự báo và phải bằng ngôn ngữ người nghehiểu được

Bước 9: Theo dõi kết quả dự báo

Độ lệch giữa giá trị dự báo và giá trị thực phải được thỏa thuận một cách tích cực,khách quan và cởi mở Mục tiêu của việc thảo luận là để hiểu tại sao có các sai số và xácđịnh độ lớn của các sai số, qua đó bảo trì và nâng cấp hệ thống dự báo Trao đổi và hợptác giữa người sử dụng và người làm dự báo có vai trò rất quan trọng trong việc xây dựng

và duy trì quy trình dự báo thành công

1.3 Phân loại các phương pháp dự báo

Dự báo bao gồm các phương pháp dựa trên đánh giá và các phương pháp dựa trênthống kê Các phương pháp và các mối quan hệ giữa các phương pháp như sau:

1.3.1 Phương pháp ngoại suy

Phương pháp ngoại suy là một trong những phương pháp đơn giản để dự báo

Phương pháp ngoại suy là phương pháp sử dụng các số liệu thống kê trong quá khứ làm đầu vào Trong phương pháp ngoại suy chỉ có số liệu quá khứ của đối tượng cần dự báo

là cần thiết Các số liệu quá khứ này sẽ được khớp theo một hàm nào đó hoặc sử dụngmạng nơron thông minh với một trục x là trục thời gian, một trục y là các số liệu quá khứ.Các giá trị trong tương lai sẽ được dự báo bằng cách tính giá trị của hàm tại các thời điểmtrong tương lai Tùy theo hàm được lựa chọn để khớp số liệu mà ta có các mô hình dự

Trang 10

báo khác nhau Các hàm dự báo tiêu biểu nhất là hàm tuyến tính, mô hình dự báo hàm

mũ và hàm Logistic tương ứng với các mô hình dự báo tuyến tính, mô hình dự báo hàm

mũ và mô hình dự báo hàm Logistic

- Mô hình tuyến tính

Là mô hình đơn giản nhất với hàm được dùng để khớp số liệu là hàm tuyến tính

y=mx + b Phương pháp thông dụng nhất để khớp n số liệu quá khứ vào hàm tuyến tính

là phương pháp bình phương tối thiểu Trong đó, y là hàm tuyến tính của x (trục x là trục thời gian, trục y là các số liệu quá khứ) Theo phương pháp này thì hệ số m, b sẽ được

tính:

2 2

2

2 2

) ( )) ( (

) )(

( ) ( )(

(

) ( ) ( (

) )(

n

xy x

x y

b

x x

n

y x xy n m

Đối với mô hình tuyến tính, một đại lượng r gọi là hệ số tương quan có thể được tính

để đánh giá độ chính xác của các số liệu thống kê Hệ số r chạy từ 0 đến 1 Hệ số cànggần 1 thì các số liệu quá khứ càng được khớp tốt vào hàm tuyến tính Nếu giá trị quá nhỏ

có nghĩa là đại lượng dự báo không phụ thuộc tuyến tính vào thời gian, vì thế dùng môhình tuyến tính là không hợp lý Giá trị r được tính như sau:

2 2

) )(

( ) (

y y

n x x

n

y x xy

n r

- Mô hình hàm mũ

Mô hình hàm mũ phổ biến để tính các đại lượng tăng trưởng như dân số,… Phương

trình của hàm mũ được biểu diễn: y=b.m x Nếu lấy log cả hai vế ta sẽ có:

ln(y) = x.ln(m) + ln(b)

Khi đó, dùng phương pháp bình phương tối thiểu để khớp hàm trên với số liệu quá

khứ đã được biến đổi tương ứng, ta sẽ tìm được các hệ số a=ln(m) và c = ln(b) Và m, b

sẽ được tính:

m = e a và b=e c

1.3.2 Mô hình ứng dụng mạng nơron

Trang 11

Là mô hình có khả năng “học” từ các dữ liệu quá khứ, có thể cập nhật các tham số.Nếu lựa chọn được các tham số tối ưu thì đó là mô hình xấp xỉ rất tốt đường cong dịchchuyển của đối tượng cần dự báo Kết quả cũng có độ lệch chính xác cao Đây là mô hìnhđược lựa chọn cho bài toán dự báo thời tiết của đề tài, cụ thể các vấn đề liên quan đếnmạng nơron sẽ được trình bày trong chương 2.

1.3.3 Phương pháp dựa luật

Các phương pháp ngoại suy truyền thống có giới hạn chính là bỏ qua tri thức củangười quản lý về các tình huống Dự báo dựa trên luật là một kiểu của hệ thống chuyêngia, đưa ra các vấn đề bằng cách chuyển các tri thức về dự báo thành một tập các luật.Các luật này sử dụng tri thức chuyên gia và các đặc trưng của dữ liệu cùng với một sốphương pháp ngoại suy đơn giản để thực hiện dự báo

Phương pháp dự báo dựa trên luật kết hợp phương pháp đánh giá tri thức theo miền

Ưu điểm cơ bản của dự báo luật là kết hợp được các tri thức một cách dễ dàng

1.3.4 Mô hình kinh tế lượng

Là mô hình với nhiều biến mô tả sự phụ thuộc của các đại lượng cần dự báo trên cơ

sở các thông số kinh tế xã hội như: thu nhập tổng sản lượng nội địa, khả năng mua, giá cả,

… Mô hình kinh tế lượng được biểu diễn bởi hàm sau:

y = a 1 x 1 + a 2 x 2 + … + a n x n + b Trong đó y là đại lượng cần dự báo, x 1 , x 2 , …, x n là các thông số kinh tế xã hội có liên

quan

Các tham số a 1 , a 2 , …, a n xác định sự phụ thuộc của đại lượng dự báo vào các thông

số kinh tế - xã hội Các tham số này có thể được xác định dựa trên các nghiên cứu kinh tế

về thị trường và giá cả, … Nếu các số liệu quá khứ có thể thu thập được cho nhiều thông

số kinh tế cũng như đại lượng cần dự báo, các tham số a 1 , a 2 , …, a n có thể được tính toándựa trên việc khớp các số liệu quá khứ vào các hàm tuyến tính

1.3.5 Mô hình chuyên gia

Trang 12

Khi các số liệu quá khứ không có hoặc không thu thập được thì mô hình đánh giáthường được sử dụng Mô hình đánh giá dựa trên các ý kiến đánh giá của các chuyên gialĩnh vực này Một mô hình tiêu biểu cho loại này là mô hình ý kiến chuyên gia.

Mô hình chuyên gia là mô hình dựa trên đánh giá của các chuyên gia trong lĩnh vựccần dự báo hoặc có liên quan Các số liệu dự báo của các chuyên gia đưa ra sẽ được xemxét, đánh giá, tổng hợp để đưa ra kết quả dự báo cuối cùng

Một trong các phương pháp dự báo này là để các chuyên gia tranh luận và đưa ra kếtquả dự báo Phương pháp này dễ thất bại vì mỗi chuyên gia đều muốn bảo vệ ý kiến củamình một cách thuyết phục

Một phương pháp tốt hơn được biết đến là kỹ thuật Delphi Kỹ thuật này tránh sự đốiđầu, giáp mặt trong một nhóm, do đó các ý kiến và người đưa ra ý kiến đều được giấutên Kỹ thuật này được tiến hành lần lượt Trong vòng đầu tiên, những người tham giađược yêu cầu viết ra các yêu cầu của mình Các kết quả đó được gom lại và được saochép ra để đưa cho các thành viên khác Những người tham gia được yêu cầu đưa ranhững nhận xét để bảo vệ hay thay đổi ý kiến gốc của mình dựa trên những gì mà ngườikhác viết ra Một lần nữa, những câu trả lời được gom lại và được đưa cho những ngườitham gia,… Trong lần cuối cùng, những người tham gia được yêu cầu đánh giá lại ý kiếnban đầu của họ trên quan điểm được thể hiện bởi các thành viên khác Hệ thống chuyêngia sử dụng các luật của chuyên gia Các mô hình: ý kiến chuyên gia, phân tích kết hợp,

tự mồi và kinh tế lượng có thể giúp cho quá trình phát triển của hệ chuyên gia

1.3.6 Mô hình tương tự

Dễ thấy rằng, không có kỹ thuật dự báo nào là thích hợp cho mọi tình huống Dự báokết hợp cung cấp cho chúng ta cách thức để bù đắp những thiếu sót của một phương pháp

dự báo cụ thể nào đó Bằng cách chọn những phương pháp bổ sung, sự thiếu sót của một

kỹ thuật có thể được đền bù bằng ưu điểm của những kỹ thuật khác

Một mô hình kết hợp giữa ngoại suy và các ý kiến chuyên gia là mô hình tương quan

Mô hình này cho phép so sánh, đánh giá theo phương pháp ngoại suy đối với các đạilượng dự báo được kiểm chứng là có xu hướng phát triển theo đường ngoại suy Các hệ

số cho phương trình ngoại suy sẽ được chỉ định dựa trên các ý kiến chuyên gia, so sánh,

Trang 13

đánh giá và hiệu chỉnh Phương pháp này khác với phương pháp ngoại suy ở chỗ: ởphương pháp ngoại suy, các hệ số sẽ được tính toán dựa trên các số liệu quá khứ, trongkhi đó các hệ số của phương pháp này có được hoàn toàn là do đánh giá, so sánh tươngquan của một đối tượng khác.

1.4 Một số phương pháp với bài toán dự báo thời tiết

Dự báo thời tiết là một khoa học và là một nghệ thuật Rất nhiều phương pháp đãđược ứng dụng cho dự báo thời tiết Phương pháp cụ thể nàp được áp dụng phụ thuộcvào một số các yếu tố như số lượng thông tin được sử dụng, mức độ phức tạp mà ứngdụng dự báo thể hiện và kinh nghiệm của người dự báo,…

1.4.2 Phương pháp dự báo theo xu hướng

Một kỹ thuật dự báo thời tiết quan trọng khác là thông qua bản đồ thời tiết Phươngpháp xu hướng yêu cầu xác định hướng, tốc độ di chuyển của các khối khí, hệ thống ápsuất và các vùng mây, lượng mưa Dựa vào các thông tin trên mà người dự báo sẽ dự báocác đặc tính thời tiết trong tương lai Các khác biệt trong miền, sự tăng tốc hay giảm tốc

có thể của hệ thống bão, các tác động cục bộ như địa hình, khối nước và độ nóng của đảoảnh hưởng đến dự báo, do đó các yếu tố trên cũng được xem xét

1.4.3 Phương pháp khí hậu học

Phương pháp khí hậu học cũng là một phương pháp đơn giản khác để dự báo thời tiết.Điều đầu tiên được biết đến về dự báo của một vùng là khí hậu của nó (nhiệt độ cao, thấp,trung bình hoặc lượng mưa) Phương pháp này cần đến thống kê thời tiết trung bình đượctính qua nhiều năm để thực hiện dự báo

Khí hậu học hiếm khi là một dự báo đúng cho một ngày đã cho, vì dự báo có thể biếnđổi cao hoặc thấp so với trung bình Phương pháp khí hậu học chỉ làm việc được tốt khi

Trang 14

mẫu thời tiết tương tự nahu ở cùng thời điểm trong năm Nếu mẫu thời tiết quá bấtthường với một thời điểm đã cho trong năm thì phương pháp này thất bại.

1.4.4 Phương pháp tương tự

Phương pháp tương tự là phương pháp hơi phức tạp hơn để tạo nên một dự báo Nóliên quan đến việc xác định kịch bản dự báo của một ngày và nhớ đến một ngày trong quákhứ khi kịch bản thời tiết là khá tương tự Người dự báo có thể dự báo rằng thời tiết trong

dự báo rất giống như trong quá khứ

Ví dụ, hôm nay rất ấm nhưng có khối khí lạnh đang đến gần khu vực này Ta đếnđiều kiện thời tiết tương tự một tuần trước đó, cũng một ngày ấm nhưng có khối khí lạnhđang đến gần Vào ngày đó cũng nhớ có sấm sét, mưa to vào buổi chiều khi khối khí lạnhtràn vào khu vực Do đó, sử dụng phương pháp tương tự, ta có thể dự báo rằng khối khílạnh cũng sẽ tạo ra sấm sét và mưa to vào buổi chiều

Phương pháp tương tự là khó sử dụng vì không thể tìm được sự tương tự hoàn toàn.Hiện tượng thời tiết đa dạng hiếm khi lặp lại ở cùng một địa phương nơi mà chúng đãtừng xảy ra Tuy nhiên qua thời gian dài, khi nhiều dữ liệu thời tiết được thu thập thì cơhội tìm được một sự tương tự tốt cho tình huống thời tiết hiện tại có thể khá hơn và dựbáo tương tự có thể được cải thiện

1.4.5 Phương pháp dự báo sử dụng văn bản

Văn bản đưa ra một cách tổng quan về các thông tin thời tiết quan trọng trong 24 giờ

đã qua cũng như là các biểu thị quan trọng của thời tiết trong 24 giờ tới Tổng kết dữ liệungày trước của thành phố để biết lượng mưa cũng như nhiệt độ cao thấp Sau đó, đồ thịđược vẽ trên bản đồ trong một số giờ để tìm xu hướng chuyển động của các khối khí, hệthống thời tiết Những bản đồ này được phân tích và thời tiết trong tương lai sẽ được dự

báo Dự báo sử dụng văn bản là khó thực hiện dự báo chỉ sử dụng duy nhất thông tin văn bản về thời tiết.

Hầu hết các phương pháp trình bày ở trên được sử dụng từ vài thập kỷ trước khi máytính chưa phát triển đủ mạnh để thực hiện các dự báo số trị Ngày nay, chúng được sửdụng để đánh giá mức độ hiệu quả của các dự báo thời tiết: so sánh với dự báo quán tínhhoặc với chuẩn khí hậu

Trang 15

Sau đây xin giới thiệu một số phương pháp dự báo thời tiết nghiệp vụ (những phươngpháp mới, được ứng dụng trong những hệ thống lớn, chuyên nghiệp).

1.4.6 Phương pháp Synôp

Đây là phương pháp dự báo thời tiết cổ điển được sử dụng chủ yếu trong hơn 100năm qua và cho đến nay vẫn được các nhà khí tượng ở nhiều nước sử dụng, trong đó có

Việt Nam, dựa trên việc thiết lập các bản đồ thời tiết Việc dự báo phụ thuộc rất lớn vào

kinh nghiệm phân tích và đánh giá chủ quan của người làm dự báo bên cạnh các thông tin

bổ trợ từ các sản phẩm của mô hình dự báo số và phân tích ảnh mây vệ tinh,… Dự báotheo phương pháp này cho kết quả tương đối tốt trong phần lớn các trường hợp, riêng vớimưa, sản phẩm dự báo mang tính định tính như mưa vừa, mưa to, mưa rất to,…mà không

có con số định lượng cụ thể Hiện nay bản tin dự báo thời tiết đưa trên đài truyền hìnhViệt Nam là kết quả của phương pháp này Dự báo theo phương pháp này đòi hỏi người

dự báo có kiến thức về kỹ thuật dự báo còn phải có những kinh nghiệm và hiểu biết vềkhí hậu thời tiết ở địa phương Đây cũng là một hạn chế của phương pháp Synôp, cũng

do đặc điểm này mà dẫn đến những hạn chế khác như không thể dự báo trước nhiềungày, không thể dự báo cho nhiều vùng khác nhau,…

1.4.7 Phương pháp tổng hợp

Dự báo tổng hợp là một hướng mới đang được phát triển mạnh tại các trung tâm dựbáo khí tượng nghiệp vụ trên thế giới Với việc coi khí quyển được cảm nhận và mô

phỏng (bởi quan trắc và các mô hình số trị) là một hệ thống tập hợp thống kê thay vì là

một hệ xác định, đặc trưng thống kê của tập hợp các dự báo khác nhau sẽ cho kết quả tincậy hơn của từng dự báo riêng biệt Nghiên cứu ứng dụng phương pháp dự báo tổng hợp

ở Việt Nam đã nhận được một số kết quả ban đầu rất khả quan tại trung tâm Khí tượngThủy văn quốc gia

1.4.8 Phương pháp số trị

Phương pháp dự báo số trị - dự báo bằng mô hình thủy động lực học hiện đại có độ

phân giải cao áp dụng cho từng khu vực đã được sử dụng ở nhiều quốc gia trên thế giới,đặc biệt là các nước phát triển Phương pháp này sử dụng sức mạnh của máy tính điện tử,bằng rất nhiều cách khác nhau để giải hệ phương trình mô tả khí quyển để suy ra các biếnkhí quyển như áp suất, nhiệt độ, vận tốc gió,… Chất lượng dự báo mưa lớn cao hơn hẳn

Trang 16

các phương pháp trên và sản phẩm số của mô hình dự báo có thể đảm bảo những yêu cầucủa mô hình dự báo thủy văn đối với lũ lụt, lũ quét Một trong những nhân tố quyết địnhgây nên sự hình thành và phát triển mưa lớn trong các hiện tượng thời tiết nguy hiểm nhưxoáy thuận nhiệt đới,… là đối lưu mây tích Các quá trình đối lưu này đóng vai trò quantrọng trong chu trình vận chuyển năng lượng của khí quyển và do đó phân bố lại sự đốtnóng không đồng đều trên bề mặt trái đất Ngoài phụ thuộc vào độ hội tụ ẩm mực thấp,đối lưu mạnh còn phụ thuộc vào tính bất ổn định của khí quyển,…Các quá trình quy môvừa này chỉ có thể tính được bằng các mô hình số trị Với các phương pháp số trị, hiênnay những trung tâm khí tượng lớn trên thế giới có thể đưa ra những dự báo thời tiết trênphạm vi toàn cầu trước hàng tuần mà phương pháp Synôp cổ điển không thể nào thựchiện được.

1.4.9 Phương pháp thống kê

Phương pháp thống kê lấy số liệu quá khứ làm đầu vào Phương pháp này có ưu

điểm mang tính chất khách quan, đơn giản và dễ xây dựng mô hình cũng như sử dụngtrong nghiệp vụ Độ chính xác của mô hình phụ thuộc rất nhiều vào việc lựa chọn cáctham số dự báo và quá trình xử lý số liệu Bên cạnh đó, do đặc điểm cơ bản của phươngpháp thống kê là coi những quá trình xảy ra ở hiện tại và tương lai đều tuân theo các quyluật thu được từ số liệu trong quá khứ, dẫn tới kết quả của mô hình dự báo phụ thuộc vào

độ dài tập mẫu Chuỗi số liệu tập mẫu quá ngắn sẽ chứa trong nó những quy luật mà hiệntại không có, còn chuỗi số liệu quá dài có thể gây mất ổn định hệ thống

1.5 Phương pháp giải với mạng nơron nhân tạo

Trong những năm gần đây, nhiều phương pháp như mô hình mờ, mạng nơron mờ,mạng nơron thời gian hồi quy,… được áp dụng rộng rãi cho việc giải quyết các bài toánphi tuyến phức tạp trong đó có dự báo thời tiết

Đề tài nghiên cứu phương pháp dựa trên mạng nơron vì:

- Mạng nơron là các bộ xấp xỉ đa năng, có thể nhận biết được nhiều mối quan hệtrong dữ liêu

Trang 17

- Ứng dụng mạng nơron đang tỏ ra có nhiều ưu thế vượt trội và nhiều triển vọngtrong việc giải quyết các vấn đề phi tuyến, bất ổn định và phức tạp.

- Mạng nơron cung cấp một cách chuyển đổi linh hoạt hơn các kỹ thuật truyềnthống thường bị giới hạn bởi các giả thuyết nghiêm ngặt về chuẩn tắc, tuyến tính, hay

sự độc lập các biến,…

- Khả năng miễn nhiễu và chịu sai hỏng cao, chẳng hạn mạng có thể nhận các dữliệu bị sai lệch hoặc không đầy đủ mà vẫn hoạt động được, đây là điểm đáng chú ý nhấtcủa mạng nơron trong ứng dụng dự báo

- Khả năng thích ứng, mạng có thể học và hiệu chỉnh trong quá trình hoạt động, đặcđiểm này của mạng cho phép ta hi vọng một hệ có thể học tập để nâng cao khả năngphân tích và dự báo trong khi hoạt động

- Khả năng tổng quát hoá tốt và phân lớp mạng

Do đó, ứng dụng mạng nơron phù hợp vào bài toán dự báo thời tiết vì quy luật biếnđổi của dữ liệu thời tiết phức tạp và khó có thể xác định dựa trên các công thức toán họchay ý kiến chủ quan của các chuyên gia

Trong khí tượng học, đã có nhiều nhà khí tượng trên thế giới và Việt Nam sử dụngmạng nơron nhân tạo như công cụ thống kê cho bài toán phức tạp giúp hiệu chỉnh sảnphẩm mô hình số, tái tạo và bổ sung số liệu, tính toán tổng lượng ozon trong khí quyển,…Kết hợp mạng nơron với lý thuyết mờ là một hướng nghiên cứu mới trong nhiều nămgần đây và đã có những kết quả cụ thể trong nhiều lĩnh vực ứng dụng trong đó có dự báothời tiết

Về mặt lý thuyết, mạng nơron và hệ thống mờ là các hệ thống tương đương theonghĩa chúng có khả năng chuyển đổi được, tuy nhiên trong thực tế mỗi hệ thống lại cónhững ưu, nhược điểm riêng Ví dụ, đối với mạng nơron, tri thức có thể tự động thu đượcbởi thuật toán hồi quy nhưng quá trình luyện lại tương đối chậm và việc phân tích mạng

đã luyện là khó khăn trong khi các hoạt động của các hệ thống mờ có thể giải thích đượcdựa trên các luật mờ và như vậy tốc độ thực thi của chúng có thể điều chỉnh được

Lý thuyết mờ thích hợp với bài toán dự báo thời tiết ở chỗ:

Trang 18

Thứ nhất, trong dữ liệu thời tiết đã có sẵn tính mờ Ví dụ, ta thường bắt gặp những

mệnh đề sau: càng về đêm trời càng lạnh, gió chuyển về hướng tây, xu hướng bớt tuyết,đôi chỗ có mưa, mưa rải rác trên diện rộng,… Tất cả các giá trị này, cùng với các đặcđiểm như “đang tăng”, “hầu như”,… đều là những đặc tính của tập mờ

Thứ hai, lý thuyết mờ đã từng được ứng dụng trong lĩnh vực này Ví dụ, Bjarne

Hansen đã từng xây dựng hai hệ thống thời tiết mờ, một hệ thống dự báo chính xác độcao tối đa và tầm nhìn của mây, và một hệ thống khác dự báo thời tiết biển GottfriedShaffar xây dựng hệ thống mờ, HS4Cast, dự báo lượng đá trên đường dựa trên việc đánhgiá nhiệt độ mờ, chính xác đến thấp hơn 0.75 độ

Cuối cùng, Dự báo thời tiết là một lĩnh vực mà với các yêu cầu của nó, một hệ thống

mờ có thể đáp ứng được vì:

- Đó là lĩnh vực mà các giải pháp xấp xỉ được chấp nhận Giá trị và khoảng giá trịcủa các biến (ví dụ hướng gió, lượng bao phủ mây, nhiệt độ) có thể biểu diễn số được.Một số hoặc tất cả các biến này đều có các biên mờ vì có lỗi do đo đạc, do quan sát, hoặc

do xấp xỉ một cách chú ý

- Đó là lĩnh vực mà mối quan hệ giữa đầu vào và đầu ra chắc chắn tồn tại nhưngkhông được rõ ràng Tùy theo mùa và tùy theo địa lý khu vực, cùng điều kiện thời tiết đầuvào có thể dẫn đến các điều kiện thời tiết đầu ra khác nhau Do đó:

+ Không có công thức toán học nào thích hợp để tạo ra các kết quả mong muốnhoặc:

+ Có thể có những công thức tính toán nhưng nó phức tạp đến mức là khi nó chạytrên bộ vi xử lý đích, sẽ không thể tạo ra được kết quả mong muốn trong thời giancần thiết

Do vậy, đặt hộp đen mờ giữa những đầu vào và đầu ra của hệ thống sẽ giải quyếtđược những yếu tố phức tạp trên, làm tăng thêm mức độ linh hoạt của mô hình

Các phương pháp cộng tác giữa mạng nơron và hệ mờ có nhiều triển vọng tận dụngđược những ưu thế của mạng nơron cũng như khắc phục những hạn chế của mạng nơronthông qua những ưu thế của mờ

Trang 19

1.6 Đánh giá dự báo

Nội dung chính của việc đánh giá dự báo là so sánh giữa kết quả dự báo và số liệu đobằng lý thuyết xác suất và thống kê toán học Có rất nhiều cách đánh giá khác nhau, dướiđây là một số phương pháp thường được sử dụng

Giả sử Y t là giá trị quan trắc, Y t ’ là giá trị dự báo, m là tổng số mẫu để đánh giá,

những giá trị trung bình có thêm gạch ngang trên đầu ( , ' )

ME

11

Thông số ME giúp đo sai số trung bình giữa dự báo và quan trắc Nếu ME=0 cónghĩa rằng, xét về trung bình, dự báo là hoàn toàn chính xác ME càng gần 0 càng tốt

b Sai số trung bình tổng bình phương:

MSE

1 21

1 2

' '

t t t

t

t t t t

Y Y Y

Y

Y Y Y Y R

Thông số R cho ta ước lượng về sự tương đồng giữa giá trị dự báo và giá trị quantrắc Nếu R=1 có nghĩa là mọi điểm trong hệ trục tọa độ quan trắc – dự báo đều nằmtrên đường chéo chính

e Sai số trung bình phần trăm:

MPE

1

100

Trang 20

Giả sử rằng MPE bằng 5%, khi đó ta có thể đánh giá mô hình với sai số thống kêkhoảng 5% đối với các giá trị dự báo trong tương lai gần Phương pháp này tuy nhiên

sẽ cho kết quả không tốt nếu như Yt gần 0 Trong trường hợp đó không nên dùngphương pháp này để đánh giá

f Sai số căn bậc 2 trung bình tổng bình phương:

m t t

e m

RMSE

1 2

1

RMSE là phương pháp đánh giá hay được sử dụng nhất để đánh giá độ chính xáccủa dự báo Thông số RMSE cho ta ước lượng về cường độ của sai số Sai số nàycàng lớn khi có nhiều dự báo có độ lệch lớn Giá trị lý tưởng là RMSE = 0

g Sai số trung bình tuyệt đối:

m t t e m

MAE

11

Sai số trung bình tuyệt đối cho ta ước lượng về cường độ trung bình của sai số giữa

dự báo và quan trắc Giá trị lý tưởng là MAE = 0

h Sai số trung bình phần trăm tuyệt đối:

e m

i Chỉ số kỹ năng

Để so sánh dự báo A với dự báo B dựa trên một chỉ số đánh giá nào đó (ME, RMSE,

R, …ký hiệu chung là S), ta sử dụng chỉ số kỹ năng:

B P

B A

S S

S S B A Skill

 ,

Trong đó SP là giá trị lý tưởng cho chỉ số S, ví dụ với ME, RMSE là 0, với R là 1 Chỉ

số Skill(A, B) càng lớn thì mô hình A càng tốt hơn mô hình B và ngược lại.

Trang 21

Ngoài các chỉ số đánh giá được nói trên, người ta còn sử dụng một số chỉ số khác, ví

dụ số dự báo có sai số lần lượt nhỏ hơn 1 và 2 đơn vị, số cặp dự báo – quan trắc chính xác

hoàn toàn,…

Trong đề tài này, tác giả sử dụng 2 tiêu chí ME, MAPE để đánh giá tính khách quan

và độ chính xác tương đối của mô hình

để đánh giá kết quả dự báo mà tùy theo mô hình dự báo, tùy theo lĩnh vực ứng dụng của

mô hình mà chọn chỉ số hoặc nhóm chỉ số để đánh giá.Việc tích hợp lý thuyết mờ vàmạng nơron là cần thiết Điều đó làm tăng tính mềm dẻo, linh hoạt của mô hình và làmtăng tính hợp lý của kết quả dự báo

Trang 22

Cơ sở xây dựng mạng nơron nhân tạo chính là cố gắng mô phỏng lại các quá trìnhdiễn ra trong các nơron sinh vật.

Quá trình nghiên cứu và phát triển mạng nơron nhân tạo có thể được chia thành 4 giaiđoạn như sau:

- Giai đoạn một: Giai đoạn một có thể tính từ nghiên cứu của William (1980) về tâm

lý học với sự liên kết các nơron thần kinh Từ năm 1940 Mc.Colloch và Pitts đã cho biết:nơron có thể được mô hình hóa như thiết bị ngưỡng (giới hạn) để thực hiện các phép tínhlogic Cũng thời gian đó Wiener đã xét các mối liên hệ giữa các nguyên lý phản hồi vàchức năng bộ não

- Giai đoạn hai: Giai đoạn hai vào những năm 1960, gần như đồng thời một số môhình nơron hoàn hảo hơn đã được đưa ra, đó là mô hình Perceptron của Rosenblatt hayAdaline của Widrow

Trong đó mô hình Perceptron rất được quan tâm vì nguyên lý đơn giản, nhưng nócũng có hạn chế vì không dùng được cho các hàm logic phức tạp Còn Adaline là môhình tuyến tính, tự chỉnh, được dùng rộng rãi trong điều khiển thích nghi, tách nhiễu, môhình này vẫn đang được phát triển và ứng dụng cho đến ngày nay

- Giai đoạn ba: Giai đoạn ba có thể được tính là khoảng đầu của những năm 80 củathế kỷ 20 Những đóng góp lớn cho mạng nơron trong giai đoạn này phải kể đếnGrossberg, Kohonen và Hopfield Đóng góp lớn của Hopfield là hai mạng phản hồi:mạng rời rạc năm 1983 và mạng liên tục năm 1984 Đặc biệt, ông đã dự kiến nhiều khảnăng tính toán lớn của mạng nơron mà một nơron không có khả năng đó Cảm nhận củaHopfield đã được Rumelhart, Hinton đề xuất thuật toán truyền ngược sai số nổi tiếng đểhuấn luyện mạng nơron nhiều lớp nhằm giải quyết nhiều lớp bài toán phức tạp

Trang 23

- Giai đoạn bốn: Giai đoạn bốn là từ năm 1987 đến nay Hàng năm thế giới đều mở

hộ nghị toàn cầu chuyên ngành nơron Các công trình nghiên cứu để hoàn thiện thêm về

lý thuyết mạng nơron như: mở rộng hoàn thiện các lớp mạng, phân tích tính ổn định củamạng, kết hợp lý thuyết mạng nơron với các lý thuyết khác Hàng loạt các lĩnh vực khácnhư: kỹ thuật tính, tối ưu, sinh học, y học, thống kê, giao thông, hóa học, truyền thông, khítượng, …đã đóng góp nhiều công trình nghiên cứu, ứng dụng mạng nơron vào lĩnh vựccủa mình và đem lại những kết quả đáng khích lệ

Ở trong nước, mạng nơron được nghiên cứu từ những năm 1980, đi vào ứng dụngtrong các lĩnh vực tin học, viễn thông, đo lường, điều khiển, khí tượng, … Một số chipnơron đã được dùng trong kỹ thuật lọc và một số ứng dụng khác Trong ngành khí tượngthủy văn, mạng nơron đã và đang được áp dụng cho dự báo lũ, dự báo trường nhiệt độ,

dự báo bức xạ mặt trời

2.2 Nơron sinh vật

Nơron sinh vật có nhiều dạng khác nhau như dạng hình tháp, dạng tổ ong, dạng dễcây Tuy khác nhau về hình dạng, nhưng chúng có cấu trúc và nguyên lý hoạt độngchung Một tế bào nơron gồm bốn phần cơ bản như hình 2.1 dưới đây

Các nhánh và rễ: Các nhánh và rễ là các bộ phận nhận thông tin, các đầu nhận và

các đầu ra của các nơron khác bám vào rễ hoặc nhánh của một nơron Khi các đầu vào từngoài này có sự chênh lệch về nồng độ K+, Na+ hay Cl- so với nồng độ bên trong của nóthì xảy ra hiện tượng thấm từ ngoài vào trong thông qua một cơ chế màng thấm đặc biệt.Hiện tượng thẩm thấu như vậy tạo nên một cơ chế truyền đạt thông tin với hàng nàn hàngvạn nối vào trên một nơron sinh vật, ứng với hàng nghìn hàng vạn liên kết khác nhau,mức độ thẩm thấu đặc trưng bởi cơ chế màng tượng trưng bằng một tỷ lệ Tỷ lệ đó đượcgọi là tỷ trọng hay đơn giản gọi là trọng số

Trang 24

Hình 2.1: Cấu trúc nơron sinh vật

Thân thần kinh: Thân thần kinh chứa các nhân và cơ quan tổng hợp protein Các ion

vào được tổng hợp và biến đổi Khi nồng độ các ion đạt đến một giá trị nhất định, xảy raquá trình phát xung (hay kích thích) Xung đó được phát ra ở đầu ra của nơron Dây dẫnđầu ra của nơron được gọi là dây thần kinh

Dây thần kinh: Dây thần kinh là đầu ra Đó là phương tiện truyền dẫn tín hiệu Dây

thần kinh được cấu tạo gồm các đốt và có thể dài từ vài micro mét đến vài mét tùy từngkết cấu cụ thể Đầu ra này có thể truyền tín hiệu đến các nơron khác

Khớp thần kinh: Khớp thần kinh là bộ phận tiếp xúc của đầu ra nơron với rễ, nhánh

của các nơron khác Chúng có cấu trúc màng đặc biệt để tiếp nhận các tín hiệu khi có sựchênh lệch về nồng độ ion giữa bên trong và bên ngoài Nếu độ lệch về nồng độ càng lớnthì việc truyền các ion càng nhiều và ngược lại Mức độ thẩm thấu của các ion có thể coi

là một đại lượng thay đổi tùy thuộc vào nồng độ như một giá trị đo thay đổi được gọi làtrọng số

Trang 25

2.3 Mạng nơron nhân tạo

2.3.1 Mô hình một nơron nhân tạo

Trên cơ sở mô hình nơron sinh vật tổng quát, người ta đề xuất mô hình nơron nhântạo gồm 2 thành phần chính: bộ tổng các liên kết đầu vào và bộ kích hoạt

Hình 2.2: Mô hình nơron nhân tạo

Mô hình nơron nhân tạo

Để mô phỏng một nơron ta có thể coi nó như một hệ thống nhiều đầu vào và một đầu

v(t) là tổng tất cả đầu vào mô tả toàn bộ thế năng tác động ở thân nơron.

x(t) là các đầu vào ngoài; k = 1, 2,…, m; m là số lượng đầu vào tín hiệu vào từ các

đầu nhạy thần kinh hoặc từ các nơron khác đưa vào

w k : Trọng số liên kết ngoài, là hệ số mô tả mức độ liên kết giữa các đầu vào ngoài tới

nơron hiện tại; k= 1, … m; m là số đầu vào

θ: là hằng số, còn gọi là ngưỡng, xác định ngưỡng kích thích hay ức chế.

.

v(t) -1

Trang 26

Tên hàm Công thức tương ứngBước nhảy đơn vị

Với u(t)= v(t) và y(t) là đầu ra nơron mô tả tín hiệu đưa ra.

Hàm f(.) ở đây được chia thành hai nhóm: nhóm hàm bước nhảy và nhóm hàm liêntục Đặc điểm chung của các hàm này thường tiến tới một giá trị cố định với các giá trịđược gán [0, 1] hoặc [-1, 1] Những dạng hàm kích hoạt hay dùng cung cấp ở bảng trên.Một số dạng hàm khác cũng được sử dụng như: dạng hàm Gauss, hàm logarit, hàm mũ,hàm arctg

2.3.2 Cấu trúc mạng nơron nhân tạo

Có thể xây dựng cấu trúc mạng nơron dựa theo những yếu tố sau:

 Số lớp có trong mạng và số nơron trong từng lớp

1 if x0

0 if x<0

1 if x0-1 if x<0

f(x)=

1 if x0

x if -1x1-1 if x<0

f(x)=

f(x)=

Trang 27

 Mạng một lớp là tập hợp các phần tử nơron mà mỗi nơron có đầu vào và đầu

ra của mạng cùng ở trên phần tử nơron đó Nếu mạng nối các đầu ra của phầnnày với đầu vào của phần tử kia gọi là mạng tự liên kết

 Mạng nhiều lớp gồm một lớp đầu vào và một lớp đầu ra riêng biệt Các lớpnằm giữa lớp vào và lớp đầu ra gọi là các lớp ẩn

 Đường truyền tín hiệu trong mạng

 Mạng truyền thẳng là mạng hai hay nhiều lớp mà quá trình truyền tín hiệu từđầu này đến đầu kia theo một hướng

Hình 2.3: Mạng nơron truyền thẳng nhiều lớp (Feed-forward neural network)

 Mạng phản hồi là mạng trong đó một hay nhiều đầu ra của các phần tử lớpsau truyền ngược tới đầu vào lớp trước

Hình 2.4: Mạng hồi quy

Trang 28

 Mạng tự tổ chức là mạng có khả năng sử dụng những kinh nghiệm quá khứ

để thích ứng với những biến đổi của môi trường (không dự báo trước) Loại mạngnày thuộc nhóm tự học, thích nghi không cần có tín hiệu chỉ đạo từ ngoài

Trong mỗi lớp mạng lại có nhiều mạng với các tên gọi và các đặc trưng khác nhau.Một số mô hình mạng nơron cơ bản được mô tả trong hình trên

Như vậy, mạng nơron nhân tạo có cấu trúc khác nhau tùy theo số lớp, số nơron trongmỗi lớp và cách tổ chức đường truyền tín hiệu trong mạng

2.3.3 Thuật toán học trong mạng nơron

Thuật toán học là phần trí tuệ thông minh của mạng nơron mà các công trình nghiêncứu chiếm số lượng lớn trong mấy chục thập kỷ qua Thuật toán học được chia làm 2loại: Học theo tham số và học theo cấu trúc

Học theo tham số:

Tư tưởng của việc học theo tham số là thay đổi, cập nhật các trọng số liên kết Hầu hếtcác luật học tồn tại thuộc kiểu học theo tham số Trong chương này, các kiến trúc mạngđiển hình đưa ra cũng thuộc dạng học theo tham số Thông thường, thuật toán học theotham số được chia làm 3 loại chính: học có giám sát, học không giám sát và học củng cố

Trang 29

Hình 2.5: Học có giám sát

- Học không giám sát

Trong dạng học này không có bất kỳ một thông tin phản hồi nào từ môi trường Mạngphải tự tìm ra các mẫu, đặc tính, tính quy tắc, sự tương quan trong dữ liệu đầu vào và tậphợp lại để tạo đầu ra Khi tự tìm ra các đặc điểm này, mạng đã trải qua các thay đổi vềtham số của nó Quá trình này gọi là tự tổ chức

Các thuật toán theo tham số có thể được khái quát thành dạng chung với lượng điềuchỉnh trọng số như sau:

Đối với các trọng số biến đổi liên tục, có thể sử dụng dạng sau:

Trang 30

thông tin củng cố Luật học củng cố là một dạng của luật học có giám sát vì mạng vẫn cóđược một vài thông tin phản hồi từ môi trường Tuy nhiên thông tin phản hồi này chỉmang tính chất đánh giá chứ không phải mang tính chất dạy Tín hiệu củng cố ngày đượcmạng sử dụng để điều chỉnh trọng số với hy vọng là có được đánh giá phản hồi tốt hơntrong lần học tiếp theo.

Học theo cấu trúc:

Tư tưởng của học theo cấu trúc là thay đổi số lớp, số nơron trong từng lớp, kiểu liênkết để làm cấu trúc mạng thay đổi Đối với học theo tham số, chúng ta giả sử cấu trúcmạng đã có, sau đó đưa ra các thuật toán học cho các tham số mạng để huấn luyện mạngthực hiện được nhiệm vụ như mong muốn Còn việc học theo cấu trúc có thể sử dụng kỹthuật liên quan đến thuật toán gen và lập trình tiến hóa Các cách tìm kiếm trong lập trìnhtiến hóa là khá tiêu tốn thời gian ngay cả đối với mạng có kích thước trung bình Do đó,còn có thể sử dụng các kỹ thuật sửa đổi hay xây dựng mạng dần dần từ một cấu trúcmạng ban đầu Các kỹ thuật này bao gồm cắt xén bớt mạng nơron, phát triển mạng và kếthợp cả hai cách cắt xén và phát triển mạng nơron

2.4 Kết hợp mạng nơron với lý thuyết mờ

2.4.1 Lý do

Hai công nghệ mạng nơron và lý thuyết mờ đều có những mục đích gần gũi Hơn nữanhững thành đạt cũng có những điểm tương tự Do đó sự kết hợp với nhau là lẽ rất tựnhiên

Sau đây là mấy điểm tương đồng giữa 2 hệ thống trên cơ sở lý thuyết mờ và mạngnơron nhân tạo

- Cả hai đều nhằm tăng thêm tri thức, tăng độ thông minh cho các hệ thống với sựgiúp đỡ của các hệ thống kỹ thuật (đặc biệt với máy tính), trong môi trường bấtđịnh, có nhiễu, thông tin và tri thức thiếu chính xác

- Cả hai đều là hệ động, là công cụ ước lượng bằng số, không dùng mô hình sốchọn trước

- Cả hai khi ước lượng hàm số không đòi hỏi mô tả bằng dạng toán học y=f(x),thường học được từ mẫu dữ liệu, tiệm cận với các số liệu

Trang 31

- Cả hai loại hệ thống và công nghệ đều rất thành công, đã được ứng dụng trongnhiều hệ thống và thiết bị dùng trong đời sống hàng ngày.

Họ các mạng nơron với một số đủ lớn các nơron trong lớp ẩn cũng có thể xấp xỉ mộthàm bất kỳ Nếu thu hẹp hơn nữa các hệ suy diễn mờ và mạng nơron ta có kết quả nhưsau: Các hệ suy diễn mờ sử dụng suy diễn tích, phép giải mờ trọng tâm, hàm thuộc dạngGauss tương ứng với họ các mạng nơron RBF với một lớp ẩn và sử dụng hàm kích hoạtdạng Gauss

Về lý thuyết, mạng nơron và các hệ thống mờ là các hệ thống tương đương theonghĩa chúng có khả năng chuyển đổi được nhưng trong thực tế, mỗi hệ thống lại cónhững ưu nhược điểm riêng

Đối với các mạng nơron, tri thức có thể tự động thu được bởi thuật toán hồi quynhưng quá trình luyện lại tương đối chậm và việc phân tích mạng đã luyện là khá khókhăn Ngoài ra chúng ta không có khả năng rút ra được tri thức có dạng cấu trúc (các luật)

từ mạng nơron đã luyện cũng như không thể đưa thêm các thông tin đặc thù vào trongmạng nơron để đơn giản hóa quá trình học

Các hệ thống mờ tốt hơn theo nghĩa cách hoạt động của các hệ thống mờ có thể giảithích được dựa trên các luật mờ và như vậy tốc độ thực thi của chúng có thể điều chỉnhđược bằng cách chỉnh định các luật Tuy nhiên, thông thường việc thu được tri thức là khákhó khăn và việc xem xét ngôn từ của mỗi biến vào cần phải được chia thành nhiềukhoảng nên các ứng dụng của hệ thống mờ bị giới hạn trong các vùng mà ở đó phải cóđược tri thức chuyên gia cũng như số lượng biến đầu vào nhỏ

Từ mong muốn có được ưu điểm của cả nguyên lý mờ và mạng nơron trong một bộđiều khiển, người ta đã ghép chung bộ điều khiển mờ và mạng nơron thành bộ điều khiển

mờ - nơron Có thể kể ra ba hướng chính khi tích hợp mạng nơron và hệ mờ:

1 Các hệ mờ nơron sử dụng công cụ mạng nơron trong mô hình mờ

2 Các mạng nơron mờ nhằm mờ hóa các mô hình nơron và mạng nơron truyềnthống

3 Các hệ lai

Trang 32

2.4.2 Một số khái niệm cơ bản trong lý thuyết mờ

Một số mờ là một tập mờ lồi được chuẩn hóa ~AR, hàm thành viên của tập này có

tính chất liên tục ít nhất tại từng giai đoạn, và hàm có giá trị μ A(x) =1 tại đúng một phần tử.

Có 3 dạng số mờ thường gặp là dạng tam giác, dạng hình thang và dạng Gauss

2.4.2.3 Tập mức

Cho 0<α1, A là tập mờ thuộc X; μ A : X →[μ0, 1];

Tập Aα = {xxX: μ A(x) α}, gọi là tập mức Rõ ràng Aα là tập rõ

2.4.2.4 Một số phương pháp mờ hóa mạng nơron

Gần đây, những nhà nghiên cứu đề xuất rất nhiều các phương pháp mờ hóa mạngnơron nhân tạo Một cách tiếp cận là mờ hóa trực tiếp bằng cách mở rộng các đầu vàothực và các giá trị đích thực, các trọng số thực trong kiến trúc mạng nơron truyền thốngthành các số mờ Sự mở rộng này được tổng kết trong bảng:

Kiểu mạng Trọng số Đầu vào Đầu raMạng nơron truyền thống Số thực Số thực Số thực

Mạng nơron mờ: trường hợp 1 Số thực Số mờ Số thực

Mạng nơron mờ: trường hợp 2 Số thực Số mờ Số mờ

Mạng nơron mờ: trường hợp 3 Số mờ Số thực Số mờ

Mạng nơron mờ: trường hợp 4 Số mờ Số mờ Số mờ

Trang 33

Mạng nơron mờ: trường hợp 5 Số thực Số thực Số mờ

Mạng nơron mờ: trường hợp 6 Số mờ Số thực Số thực

Mạng nơron mờ: trường hợp 7 Số mờ Số mờ Số thực

Bảng 2.2:Một số phương pháp mờ hóa mạng nơron truyền thống

Trong các trường hợp mở rộng ở bảng trên, các trường hợp 1, 2, 3, 4 đã được nghiêncứu ứng dụng trong nhiều bài toán Trường hợp 5, 6, 7 không thực tế Trong trường hợp

5, đầu ra luôn là số thực vì cả đầu vào và trọng số đều là số thực Do đó, trọng số cầnđược mờ hóa để tạo đầu ra mờ trong trường hợp thứ 5 Trong các trường thứ 6 và thứ 7,việc mờ hóa trọng số là không cần thiết vì các giá trị đầu ra là những số thực

2.5 Mạng lan truyền ngược

2.5.1 Cấu trúc mạng

Kiến trúc mạng lan truyền ngược là kiến trúc được dùng phổ biến bởi vì chúng cungcấp khả năng xấp xỉ tốt các hàm phi tuyến và tổng quát hóa, hơn nữa lại dễ tổ chức và càiđặt vì các tín hiệu được truyền thẳng để thực thi Với những ưu điểm trên, tác giả đã lựachọn mạng này để cài đặt cho bài toán dự báo thời tiết Mặc dù đã được chứng minh:mạng nơron truyền thẳng với ít nhất một lớp ẩn là công cụ xấp xỉ vạn năng nhưng về cấutrúc tối ưu của mạng: số lớp ẩn và số nơron trong mỗi lớp ẩn và số nơron cần thiết trongmỗi lớp ẩn là khá khó do tính phức tạp của mạng, nên thường được xác định bằng thựcnghiệm Trong chương trình thực nghiệm, mạng nơron có 3 lớp: lớp vào, lớp ẩn và lớp ra

Số nơron lớp vào là 6, chính là số thông số thời tiết cần dự báo, số nơron lớp ra bằng sốnơron lớp vào bằng 6 Số nơron lớp ẩn được chọn dựa trên thực nghiệm

Mỗi nút trong lớp đầu vào nhận giá trị của một biến độc lập và được chuyển vàomạng Dữ liệu từ tất cả các nút trong lớp đầu vào được chuyển cho lớp ẩn Gọi là ẩn vìcác nút trong lớp này chỉ liên lạc với các nút trong lớp đầu vào và đầu ra, và chỉ ngườithiết kế mới biết lớp này Tương tự, các nút trong lớp ra cũng nhận tín hiệu từ các nút ẩn.Mỗi nút trong lớp ra tương ứng một biến phụ thuộc

Mạng lan truyền ngược chỉ có thể ở một trong hai trạng thái: trạng thái ánh xạ vàtrạng thái học Trong trạng thái ánh xạ, thông tin lan truyền từ lớp vào tới lớp ra và mạng

Trang 34

thực hiện ánh xạ để tính giá trị các biến phụ thuộc vào các biến độc lập được cho Trongtrạng thái học, thông tin được lan truyền theo hai chiều nhiều lần để học các trọng số.

Hình 2.7: Cấu trúc mạng nơron lan truyền ngược

Quá trình ánh xạ thông tin trong mạng có thể được mô tả như sau:

- Trước hết, giá trị của các biến độc lập được chuyển vào cho lớp của mạng Cácnút đầu vào không tính toán gì cả Mỗi nút vào chuyển giá trị của nó cho tất cả các nút ẩn.Mỗi nút ẩn tính tổng trọng hóa của tất cả dữ liệu nhập bằng cách cộng tất cả các tích giữagiá trị nút vào với trọng số của cung liên kết giữa nút đầu vào và nút ẩn

- Tiếp theo, một hàm truyền (hay hàm kích họat) được áp dụng trên tổng trọng hóanày cùng với một ngưỡng của nút ẩn đó để cho ra giá trị thực của nút ẩn Hàm truyền chỉđơn giản nén giá trị vào một miền giới hạn nào đó Trong đề tài này, hàm kích hoạt đốivới lớp ẩn là hàm Sigmoid, còn đối với lớp ra cũng là hàm Sigmoid Sau khi nén tổngtrọng hóa của nó, đến lượt mình, mỗi nút ẩn sẽ gửi kết quả đến tất cả các nút đầu ra

- Mỗi nút đầu ra thực hiện các thao tác tương tự như đã thực hiện trong nút ẩn đểcho ra giá trị kết xuất của nút đầu ra Giá trị của đầu ra chính là giá trị thực, có nghĩa là giátrị của các biến phụ thuộc cần xác định

1

j

m

Y1

Yi

Yn

Trang 35

Hình 2.6: Minh họa thuật toán lan truyền ngược cho mạng nơron

Bản chất ánh xạ do mạng thực hiện tùy thuộc vào giá trị các trọng số trong mạng Lantruyền ngược là một phương pháp cho phép xác định tập trọng số tốt nhất của mạng Việc

áp dụng phương pháp lan truyền ngược là một quá trình lặp đi lặp lại nhiều lần hai tiếntrình chính: ánh xạ và lan truyền ngược sai số Hai tiến trình này được áp dụng trên mộttập mẫu xác định Ta gọi chung tiến trình này là huấn luyện mạng hay còn gọi là học.Huấn luyện mạng liên quan đến việc chuyển từ tập huấn luyện tới một tập các trọng

số Thực tế, mạng học những cái mà tập huấn luyện phải dậy nó và với thuật toán luyệnhiệu quả thì mạng có thể dự báo đúng với đầu vào không thuộc tập huấn luyện Hiệntượng này được gọi là tính tổng quát hóa Do đó chúng ta xem xét ứng dụng của mạngnơron đối với bài toán dự báo gồm hai pha riêng biệt Trong pha huấn luyện mạng, cáctrọng số được sửa đổi để phản ánh quy luật thời tiết trong quá khứ Trong pha hoạt động,các trọng số được giữ ổn định và khi đưa dữ liệu kiểm tra vào, mạng sẽ dự báo số liệutương lai với quy ước rằng quy luật biến đổi thời tiết trong tương lai cũng tương tự nhưmột trong những quy luật mạng đã được học trong quá khứ Tiếp theo đây sẽ là trình bàychi tiết hơn về quá trình luyện mạng lan truyền ngược cũng như xây dựng các công thứctính toán cho việc sử dụng mạng vào bài toán dự báo

2.5.2 Thuật toán

Mạng lan truyền ngược cần một tập mẫu tham chiếu để huấn luyện Giả sử tập huấnluyện gồm p mẫu (cặp đầu vào, đầu ra mong muốn) là {x(x(k), y(k))}, k = 1, 2, …, p Quátrình luyện mạng được bắt đầu với các trọng số tùy ý, được khởi tạo ngẫu nhiên xungquanh giá trị 0 và tiến hành lặp đi lặp lại trên tập mẫu huấn luyện tới khi đạt được lỗimong muốn Mỗi lần lặp được gọi là một thế hệ Trong mỗi thế hệ, mạng điều chỉnh cáctrọng số sao cho sai số giảm dần Tiến trình điều chỉnh nhiều lần giúp cho bộ trọng số dần

Trang 36

dần đạt được các trọng số tối ưu Mạng thường cần thực hiện nhiều thế hệ trước khi việcluyện mạng hoàn tất.

Việc cập nhật trọng số có thể được thực hiện ngay khi xử lý từng mẫu hoặc khi đã xử

lý tất cả các mẫu trong tập Việc thực hiện theo mỗi cách đều có những ưu nhược điểmriêng Trong đề tài này, phương thức cập nhật trọng số ngay sau khi xử lý từng mẫu được

sử dụng

Như vậy, đối với từng mẫu, mạng thực hiện các bước như sau:

Trước tiên, mạng thực hiện quá trình lan truyền tiến, nghĩa là mạng ánh xạ các biếnvào của mẫu hiện hành thành các giá trị ra với việc sử dụng các giá trị của trọng số hiệnhành

Kế tiếp, sai số được tính dựa trên giá trị đầu ra thực và giá trị đích Trên cơ sở sai sốtính được, mạng sẽ cập nhật lại các trọng số theo nguyên tắc lan truyền ngược sai số - gọi

là giai đoạn lan truyền ngược

Tóm lại, để học mỗi mẫu, mạng thi hành hai bước: lan truyền tiến – thực hiện ánh xạ,

và lan truyền ngược sai số - cập nhật các trọng số Vì thế phương pháp này được gọi tắt làlan truyền ngược

- Xây dựng công thức cho quá trình lan truyền tiến:

Xét một cặp mẫu huấn luyện đầu vào – đầu ra mong muốn (x, d) với mẫu đầu vào x,nơron thứ q của lớp ẩn nhận tổng đầu vào là:

m j j qj

net

1 (2.10)Với m là số nơron của lớp vào và tạo đầu ra:

) (

) (

q

e net

1

1)

Trang 37

Đầu ra của các nơron lớp ẩn lại được đưa tới lớp ra Tổng lớp vào của nơron thứ i lớp

l q

m j j qj q

iq q

iq

net

Trong đó i= 1, …, n; n là số nơron lớp ra.

Các nơron này tính toán tạo ra đầu ra thực sự của mạng nơron Với f i (.) là hàm kích họat của lớp ra, đầu ra của lớp nơron thứ i của lớp ra là:

m j j qj q iq i

l q q iq i

i i

y

1)

Hàm kích hoạt của các nơron lớp ra trong bài toán dự báo thời tiết được chọn là hàmSigmoid

Đó là toàn bộ quá trình lan truyền tiến của các nơron trong quá trình huấn luyện

- Xây dựng công thức cho quá trình lan truyền ngược

Khi đã có giá trị đầu ra thực sự, các tín hiệu lỗi được tính toán để lan truyền ngược trởlại, cập nhật các trọng số liên kết Các tính toán đó được thực hiện dựa trên hàm chi phítoàn cục Hàm chi phí được sử dụng cho bài toán dự báo thời tiết được xây dựng như sau:

Trang 38

ti iq i

Thuật toán lan truyền ngược:

Ngày đăng: 30/12/2015, 18:34

TỪ KHÓA LIÊN QUAN

TÀI LIỆU CÙNG NGƯỜI DÙNG

TÀI LIỆU LIÊN QUAN

w