Hệ số tương quan là đại lượng đặc trưng đơn thuần về sự liên hệ giữa các đại lượng , . Hệ số tương quan được tính theo cơng thức:
=∑ ( − )( − ) (2.12)
Trong đó: , , , lần lượt là các giá trị trung bình và độ lệch bình phương trung bình của và :
=∑ , =∑ , = ∑ , = ∑
Hệ số tương quan đặc trưng không phải cho sự phụ thuộc bất kỳ mà chỉ cho sự phụ thuộc tuyến tính.
Hệ số tương quan luôn nằm trong khoảng giá trị: -1 ≤ ≤ 1
Mối liên hệ được xem là đáng tin cậy khi trị số của hệ số tương quan khá lớn ( ≥ 0.8).Trong trường hợp nghiên cứu sự phụ thuộc tuyến tính giữa các đại
lượng ngẫu nhiên trong hệ các đại lượng được quan trắc, người ta thường dùng ma trận tương quan. Ma trận tương quan là ma trận thể hiện sự liên hệ thống kê với nhau của các yếu tố quan trắc. Mỗi phần tử của ma trận gọi là hệ số tương quan giữa hai yếu tố quan trắc cùng hàng và cùng cột. Các hệ số tương quan có giá trị tuyệt đối lớn thể hiện sự liên hệ chặt chẽ về mặt thống kê, hệ số nhỏ thể hiện sự liên hệ yếu.
Bảng 2.2: Ma trận tương quan giữa các yếu tố nhiệt độ nước biển , nhiệt độ khơng khí , độ ẩm tuyệt đối , độ ẩm tương đối và khí áp của trạm Hòn
Dấu năm 1980 H 1.00 0.96 0.88 0.04 -0.75 1.00 0.93 0.12 -0.80 H 1.00 0.42 -0.87 1.00 -0.41 1.00
Từ ma trận tương quan của trạm Hòn Dấu, thấy rằng nhiệt độ nước biển liên hệ chặt chẽ nhất với nhiệt độ khơng khí, sau đó với độ ẩm tuyệt đối và cuối cùng là với khí áp, trong đó liên hệ giữa nhiệt độ nước và khí áp là liên hệ nghịch, thể hiện bởi hệ số tương quan dấu âm (-0.75). Giữa nhiệt độ nước biển với độ ẩm tương đối hầu như khơng có liên hệ, biểu hiện ở hệ số tương quan rất nhỏ (0.04). Nhiệt độ khơng khí và áp suất khí quyển liên hệ với nhau bằng mối phụ thuộc nghịch khá chặt chẽ [5].
CHƯƠNG 3 – CƠ SỞ DỮ LIỆU 3.1 Cơ sở dữ liệu mực nước
Tại khu vực nghiên cứu có 5 trạm mực nước là: Cô Tô, Hòn Dấu, Ba Lạt, Hòn Ngư và Cồn Cỏ - vị trí các trạm và khu vực nghiên cứu (xem hình 3.1).
Hình 3.1: Vị trí các trạm mực nước khu vực vịnh Bắc Bộ
Bảng 3.1: Tình hình số liệu quan trắc mực nước tại các trạm khu vực vịnh Bắc Bộ
STT Trạm Tọa độ Năm quan trắc Quan trắc mực nước Tình hình số liệu
Kinh độ Vĩ độ
1 Cô Tô 107o46' 20o59' 1986-2007 4 ốp chính: 1,7,13,19 h Khuyết 169983 h số liệu
2 Hòn Dấu 106o48' 20o40' 1960-2012 Từng giờ trong ngày Khuyết 1849 h số liệu
3 Ba Lạt 106o31' 20o19' 2002-2006 Từng giờ trong ngày Khuyết 2 h số liệu
4 Hòn Ngư 105o46' 18o48' 1961-2008 Từng giờ trong ngày Khuyết 114286 h số liệu
Trong luận văn này tác giả sử dụng chuỗi số liệu mực nước từng giờ tại trạm Hòn Dấu – Hải Phòng (106o48’E, 20o40’N) và trạm Hòn Ngư – Nghệ An (105o46’E, 18o48’N)
Đây là chuỗi số liệu từng giờ, thời gian quan trắc từ năm 1980 đến nay, chất lượng số liệu tốt, ổn định. Đảm bảo yêu cầu cho việc nghiên cứu.
Để phục vụ công tác nghiên cứu, số liệu mực nước cần phải được xử lí trước khi đưa vào phân tích. Các bước xử lí bao gồm như sau:
Bước 1: Xử lí thơ số liệu, lọc bỏ (hiệu chỉnh những số liệu sai), đánh giá thực trạng số liệu.
Bước 2: Dựa trên chuỗi số liệu phân tích thủy triều tìm ra bộ hằng số điều hòa đặc trưng cho trạm.
Bước 3: Dự báo lại mực nước thủy triều
Bước 4: Tách chuỗi dư phục vụ quá trình nghiên cứu tìm tương quan giữa các tham số bão và và mực nước dư.
Trong thực tế, với bất kỳ một bộ số liệu nào, trước khi phân tích số liệu chúng ta đều phải đánh giá thực trạng, kiểm tra độ chính xác của chúng. Những nguyên nhân gây sai số thường gặp là do sai số của máy móc, hoặc do những nhầm lẫn trong quá trình quan trắc, nhập số liệu, tệp số hóa số liệu.
Chính vì vậy, những số liệu mực nước quan trắc của hai trạm này đã được kiểm tra kỹ, xóa bỏ những lỗi thơ, hồn tồn có thể tin cậy để đưa vào nghiên cứu.
Trong luận văn này, tác giả đã sử dụng phương pháp loại triều theo dự tính thủy triều để tách lấy chuỗi dư (chuỗi phi tuần hồn) và sử dụng chuỗi đó cho mục đích nghiên cứu của luận văn.
Cơng thức tính mực nước dư:
Tác giả đã thực hiện tính mực nước thủy triều theo cơng thức (2.6) (ở trang 21) cho chuỗi số liệu mực nước quan trắc từng giờ của thời kỳ 1980-2012.
Sau đó, tác giả tiến hành xác định các đợt nước dâng, nước rút và ứng với từng đợt nước dâng rút, tác giả tìm trong cơ sở dữ liệu bão rồi xác định cơn bão hoạt động trên biển Đông liên quan đến đợt nước dâng rút đó (xem file kết quả ở bảng 3.2, 3.3)
Bảng 3.2: Trích file kết quả thống kê các cơn bão liên quan đến các đợt nước dâng tại trạm Hòn Dấu
HON DAU 20.40N 106.48E
289296 -999 = vmising Rise/Fall Mean Max StormF No Year …………………………............ 13 23 7 1980 325 249 76.5 7 rise 14 23 7 1980 324 254 70.3 8 rise 15 23 7 1980 318 254 63.7 9 rise 16 23 7 1980 307 250 57.3 10 rise 17 23 7 1980 295 240 55.1 11 rise 18 23 7 1980 271 226 45.5 12 rise 19 23 7 1980 241 208 32.6 13 rise 20 23 7 1980 214 190 23.6 14 rise 21 23 7 1980 196 173 23.2 15 rise 22 23 7 1980 177 156 20.6 16 rise 23 23 7 1980 163 142 21.2 17 rise 0 24 7 1980 155 129 26 18 rise 1 24 7 1980 137 118 18.8 19 rise 2 24 7 1980 133 110 22.7 20 rise 3 24 7 1980 140 107 32.9 21 rise 4 24 7 1980 140 110 29.8 22 rise 5 24 7 1980 137 120 16.6 23 rise 6 24 7 1980 145 137 8 24 rise 7 24 7 1980 162 158 3.8 25 rise 8 24 7 1980 183 182 1.3 26 rise 9 24 7 1980 216 204 11.5 27 rise 10 24 7 1980 251 225 26.1 28 rise 11 24 7 1980 270 243 27.5 29 rise 12 24 7 1980 281 257 23.7 30 rise 13 24 7 1980 295 269 26.4 31 rise 14 24 7 1980 283 276 7.5 32 rise 42.2 125.2 Bao0002 09 1980 …………………………………
File kết quả ở trên có định dạng như sau: Dịng đầu tiên: tên trạm, vĩ độ, kinh độ trạm. Dòng thứ hai: tổng số giờ trong file, giá trị khuyết
Dòng thứ ba trở đi: lần lượt ghi các giá trị giờ, ngày, tháng, năm, mực nước quan trắc, thủy triều, mực nước dâng, fall (nếu nước rút) hoặc rise (nếu nước dâng), số đếm lần lượt theo thứ tự số giờ nước dâng hoặc rút trong từng đợt dâng rút, tiếp theo là giá trị trung bình, giá trị lớn nhất khi kết thúc một đợt dâng rút, tên bão lần lượt theo sắp xếp trong file (nếu nước dâng lớn hơn 50 cm hoặc nước rút nhỏ hơn - 50 cm), tên bão trong thực tế của cơn bão đó và cuối cùng là năm xuất hiện cơn bão đó.
Tương tự ta cũng có bảng kết quả thống kê các cơn bão trong đợt nước rút.
Bảng 3.3: Trích file kết quả thống kê các cơn bão liên quan đến các đợt nước rút tại trạm Hòn Dấu
HON DAU 20.40N 106.48E
289296 -999 = vmising Rise/Fall Mean Max StormF No Year …………………………............ 19 26 5 1980 160 206 -46.5 18 fall 20 26 5 1980 152 205 -53.2 19 fall 21 26 5 1980 159 203 -44.1 20 fall 22 26 5 1980 152 199 -46.7 21 fall 23 26 5 1980 139 192 -53.4 22 fall 0 27 5 1980 135 185 -50 23 fall 1 27 5 1980 142 177 -34.8 24 fall 2 27 5 1980 142 168 -25.8 25 fall 3 27 5 1980 143 159 -16.1 26 fall 4 27 5 1980 140 152 -12.4 27 fall 5 27 5 1980 135 149 -14 28 fall 6 27 5 1980 137 149 -12 29 fall 7 27 5 1980 139 153 -14 30 fall 8 27 5 1980 147 162 -14.7 31 fall 9 27 5 1980 164 174 -9.8 32 fall 10 27 5 1980 183 187 -3.6 33 fall 11 27 5 1980 195 199 -3.7 34 fall -26.9 -53.4 Bao0001 05 1980 ………………………………………………
Từ chuỗi số liệu từng giờ của mực nước từ năm 1980 đến năm 2012, tác giả đã thống kê được tổng số đợt nước dâng của trạm Hòn Dấu là 12175 đợt, số đợt nước rút là 12177 đợt. Như vậy tổng số đợt nước dâng và rút tại trạm Hòn Dấu khá là tương đương nhau.
Dưới đây là bảng thống kê chi tiết về số đợt nước dâng, rút theo cường độ và theo từng tháng của mực nước tại trạm Hòn Dấu.
Bảng 3.4: Số đợt nước dâng theo cấp độ tại trạm Hòn Dấu (1980-2012)
Độ dâng 1 2 3 4 5 6 7 8 9 10 11 12 Tổng 0-20cm 553 529 641 757 751 754 782 779 651 577 649 656 8079 20-50cm 413 350 391 320 341 344 337 277 277 354 238 312 3954 50-100cm 12 8 3 5 8 11 16 13 14 22 11 6 129 100-150cm 0 0 0 0 0 0 5 3 1 2 0 0 11 150-200cm 0 0 0 0 0 0 1 1 0 0 0 0 2 Tổng đợt 978 887 1035 1082 1100 1109 1141 1073 943 955 898 974 12175 Trung bình 30.2 27.4 32.0 33.4 34.0 34.3 35.2 33.1 29.1 29.5 27.7 30.1 TB (cm) 13.8 13.9 13.1 11.8 12.4 12.5 12.5 11.6 13.6 15.0 13.1 12.9 CĐ (cm) 73.3 63.6 67.7 53.3 56.2 99.7 159.3 161.1 117.7 122.4 62.9 61.9
Bảng 3.5: Số đợt nước rút theo cấp độ tại trạm Hòn Dấu (1980-2012)
Độ rút 1 2 3 4 5 6 7 8 9 10 11 12 Tổng 0-20cm 657 622 690 641 714 790 829 717 522 630 571 618 8001 20-50cm 311 262 328 427 382 319 300 353 401 321 320 339 4063 50-100cm 8 6 14 13 9 3 0 2 22 12 10 14 113 Tổng đợt 976 890 1032 1081 1105 1112 1129 1072 945 963 901 971 12177 Trung bình 30.1 27.5 31.9 33.4 34.1 34.3 34.9 33.1 29.2 29.7 27.8 30.0 TB (cm) 12.1 11.7 12.5 13.2 13.0 11.0 10.3 11.8 14.3 13.2 13.6 13.1 CĐ (cm) 64.7 58.6 74.2 80.8 68.3 70.4 48.6 62.9 72.7 68.0 91.5 82.0
Tương tự với trạm Hòn Ngư, ta cũng thống kê được các đợt nước dâng rút theo cường độ và theo từng tháng với chuỗi số liệu quan trắc mực nước từ năm 1980 đến 2008.
Bảng 3.6: Số đợt nước dâng theo cấp độ tại trạm Hòn Ngư (1980-2008) Độ dâng 1 2 3 4 5 6 7 8 9 10 11 12 Tổng 0-20cm 408 364 393 453 457 429 488 531 395 336 297 362 4913 20-50cm 246 194 197 188 254 246 212 154 225 219 222 226 2583 50-100cm 24 15 24 14 29 20 22 12 37 48 29 46 320 100-150cm 0 11 1 0 0 1 1 1 2 4 1 4 26 150-200cm 0 0 0 0 0 0 0 2 0 0 0 0 2 Tổng đợt 678 584 615 655 740 696 723 700 659 607 549 638 7844 Trung bình 29.2 25.1 26.5 28.2 31.8 30.0 31.1 30.1 28.4 26.1 23.6 27.5 TB (cm) 16.3 17.4 15.0 15.4 16.2 15.6 13.8 14.9 18.3 23.2 21.1 19.0 CĐ (cm) 65.2 136.2 102 67.8 84.2 104 124.4 198.2 133.3 130.8 114.6 113
Bảng 3.7: Số đợt nước rút theo cấp độ tại trạm Hòn Ngư (1980-2008)
Độ rút 1 2 3 4 5 6 7 8 9 10 11 12 Tổng 0-20cm 386 325 346 349 448 442 473 391 327 354 322 368 4531 20-50cm 256 212 229 265 253 241 237 291 288 220 189 227 2908 50-100cm 38 42 37 44 33 12 10 17 44 37 33 36 383 100-150cm 2 3 2 0 5 0 0 0 3 0 7 1 23 Tổng đợt 682 582 614 658 739 695 720 699 662 611 551 632 7845 Trung bình 29.3 25.0 26.4 28.3 31.8 29.9 31.0 30.1 28.5 26.3 23.7 27.2 TB (cm) 15.3 16.1 17.7 16.9 14.9 14.5 15.3 17.8 19.1 15.9 15.8 15.0 CĐ (cm) 100.9 111.3 108.6 98.3 143.5 83.3 69.8 80.7 113.9 92.8 107.3 100.6
Như vậy với chuỗi số liệu mực nước ở trạm Hòn Ngư, ta nhận được tổng số đợt nước dâng rút so với trạm Hịn Dấu là ít hơn do chuỗi số liệu mực nước có được ở trạm Hòn Ngư là ngắn hơn. Nhưng nhìn chung về số đợt nước dâng và số đợt nước rút ở hai trạm là tương đương nhau.
Số đợt nước dâng, rút đáng kể (>50cm) ở trạm Hòn Dấu lần lượt là 142 và 113 đợt, chỉ chiếm 1.2 % và 0.9% tổng số đợt nước dâng, rút tại trạm. Tương ứng với các đợt nước dâng rút đáng kể đó thì cũng chỉ có từng đó cơn bão. Như vậy cơ sở dữ liệu về mực nước cũng như về bão là tương đối nghèo nàn.
Với trạm Hịn Ngư thì tổng số đợt dâng rút đáng kể lần lượt là 352 và 457 đợt, so với trạm Hòn Dấu là cao hơn. Tỷ lệ so với tổng số đợt nước dâng, rút tại trạm cũng cao hơn, đạt 4.5 % (đợt nước dâng) và 5.8% (đợt nước rút). Tuy nhiên, dù là chuỗi số liệu có nhiều hơn trạm Hịn Dấu nhưng đó vẫn chưa là một chuỗi số liệu đủ dài để phục vụ cho công tác nghiên cứu đạt kết quả mỹ mãn.
3.2 Cơ sở dữ liệu về bão
Với tính chất đặc thù của bão: quy mô của bão nhỏ hơn quy mô synôp, cấu trúc bão lại rất phức tạp. Mặt khác, quá trình hình thành, phát triển của bão đều nằm trên đại dương, nơi có điều kiện khơng thuận lợi cho việc quan trắc và đo đạc nên có rất ít số liệu về bão. Bởi vậy, có thể thu thập được nhiều số liệu về bão để nghiên cứu một cách đầy đủ cũng như chính xác về bão là một việc vơ cùng khó khăn.
Số liệu về bão được khai thác trong giai đoạn từ năm 1960 đến năm 2009 từ trang web http://weather.unisys.com của cơ quan dự báo bão, áp thấp nhiệt đới của Mỹ [7].
File số liệu mà tác giả khai thác được là file số liệu quan trắc trong vịng 50 năm, trong mỗi năm đều có số cơn bão tương ứng, mỗi cơn bão là một file số liệu. Để thuận tiện cho việc tính tốn và thống kê bằng chương trình Fortran, tác giả đã đưa từng file số liệu đó về định dạng như sau (xem bảng 3.4):
-Cột đầu và cột thứ hai ghi tọa độ tâm từng 6h một (độ kinh vĩ) -Cột thứ ba ghi lần quan trắc thứ mấy
-Cột thứ tư ghi thời gian quan trắc (giờ, ngày, tháng, năm)
-Cột thứ năm ghi tên giai đoạn của bão (TD: áp thấp nhiệt đới, TS: bão tố nhiệt đới, STS: bão tố nhiệt đới mạnh, TY: bão…)
-Cột thứ sáu ghi tốc độ gió (hải lý/giờ) -Cột thứ bảy ghi giá trị khí áp (mb) -Cột thứ tám ghi tên cơn bão
Bảng 3.8: Trích file số liệu cơn bão thứ 89 trong số các cơn bão tương ứng với các đợt nước dâng rút tại trạm Hòn Dấu
116.9 20.4 1:00 18h22/09/2007 DB 20 1000 INVEST 115.8 19.7 2:00 00h23/09/2007 TD 25 996 NONAME 114.9 19.2 3:00 06h23/09/2007 TD 30 998 NONAME 114 19.4 4:00 12h23/09/2007 TS 35 996 NONAME 112.8 19.6 5:00 18h23/09/2007 TS 40 993 FRANCISCO 111.5 19.8 6:00 00h24/09/2007 TS 45 989 FRANCISCO 110.3 19.9 7:00 06h24/09/2007 TS 40 993 FRANCISCO 109.4 19.8 8:00 12h24/09/2007 TS 35 996 FRANCISCO 108.9 19.7 9:00 18h24/09/2007 TD 30 1000 FRANCISCO 108.4 19.4 10:00 00h25/09/2007 TD 25 999 FRANCISCO 107.7 19.7 11:00 06h25/09/2007 TD 25 1004 106.9 20 12:00 12h25/09/2007 DB 20 1007
Trong đó, các cột thứ nhất, thứ hai, thứ sáu là các giá trị tham số bão mà tác giả sử dụng để tính tốn, thống kê và lập mối liên hệ thực nghiệm với dao động mực nước tại trạm Hòn Dấu và trạm Hòn Ngư.
Cơ sở dữ liệu về bão mà tác giả thu thập dùng trong luận văn này chỉ là đường đi bão khả dĩ nhất do Mỹ đã phân tích ra (Best track).
Nhiều cơn bão có thể mạnh nhưng lại khơng có thơng tin về gió cực đại hoặc áp suất cực tiểu hoặc tên bão hoặc khơng có cả các đặc trưng đó (xem bảng 3.9).
Bảng 3.8 ở trên là bảng dẫn file số liệu về bão mà có đầy đủ các đặc trưng về