Phương pháp xử lý số liệu

Chương 3: MỤC TIÊU, NỘI DUNG VÀ PHƯƠNG PHÁP NGHIÊN CỨU

3.4. Phương pháp nghiên cứu

3.4.3. Phương pháp xử lý số liệu

Mục đích: Việc sàng lọc và xử lý số liệu thô nhằm thu được nguồn số liệu có độ chính xác cao, phản ánh khách quan quy luật của tổng thể

Trước khi đưa lý số liệu vào phân tích, toàn bộ phần tử quan sát bị nghi ngờ trong quá trình thu thập số liệu sẽ bị loại bỏ. Cách làm như sau:

Gọi X là trị số quan sát bình quân; S là sai tiêu chuẩn mẫu; Xi là giá trị quan sát thứ i trong mẫu: X3.S

Toàn bộ các giá trị quan sát Xi X3.SvàXi X3.S sẽ bị loại bỏ

Trong phạm vi của đề tài, việc sàng lọc và xử lý số liệu thô được tiến hành khi nghiên cứu các quy luật phân bố số cây theo cỡ kính và chiều cao.

3.4.3.2. Nghiên cứu đặc điểm trạng thái rừng, cấu trúc và đa dạng loài a. Phân loại trạng thái rừng hiện có

Đề tài sử dụng tiêu chuẩn phân loại trạng thái rừng của Loestchau (1960) [24] được Viện điều tra quy hoạch rừng sửa đổi, bổ sung để phân chia trạng thái rừng ngoài thực tế và quy định về hệ thống phân chia các kiểu trạng thái rừng và đất không có rừng ở hai khu vực nghiên cứu.

b. Tổ thành tầng cây gỗ

Đề tài sử dụng hai phương pháp xác định tổ thành tầng cây gỗ sau:

- Tổ thành loài cây theo tỷ lệ % số cây

100

*

% N

N Ni (3.1) Trong đó: N% là tỷ lệ tổ thành của loài i

Ni là số cá thể của loài i trong QXTV rừng N là tổng số cá thể của QXTV rừng

- Tổ thành loài cây theo mức độ quan trọng (Important Value – VI%) của Daniel Marmillod:

2

%

% N% G1

IVi  i  (3.2) Trong đó: IVi% là tỷ lệ tổ thành của loài i

Ni% là % số cây của loài i trong QXTV rừng

Gi% là % theo tổng tiết diện ngang của loài i trong QXTV rừng.

Theo Daniel M, loài cây có IVi%  5% mới thực sự có ý nghĩa về mặt sinh thái trong QXTV rừng và tham gia vào công thức tổ thành. Trong một quần xã, nếu một nhóm dưới 10 loài có tổng IVi%  40%, chúng được coi là nhóm loài ưu thế và tên của QXTV rừng được xác định theo tên các loài đó theo công thức tổ thành sau:

i

i L

IV L

IV L IV L

IV1%. 1 2%. 2 3%. 3.... %. (3.3)

Trong đó: IVi% là tỷ lệ tổ thành của loài i

Li là tên loài cây thứ i trong QXTV rừng c. Mật độ

Công thức xác định mật độ như sau:

000 . 10 /

0

S x ha n

N  (3.4) Trong đó: n: Số lượng cá thể của loài hoặc tổng số cá thể trong ÔTC S0: Diện tích OTC (m2)

d. Chỉ số đa dạng về loài

Đề tài sử dụng một số phương pháp xác định chỉ số đa dạng loài sau:

- Simpson (1939): 





 n

i

Pi

D

1 2

1 1 (3.5) - Magalef (1958):

N d S

log 1

1

  (3.6) - Shannon – Wiener: HPilog(Pi) (3.7) - Odum, Cantlon và Kornieker (1960):

3 1000

d  S (3.8) - Trong đó, S: tổng số loài

N: Tổng số cá thể điều tra Pi: Phần tử so sánh (Pi = ni/N) ni: Số cá thể của loài thứ i e. Chỉ số phong phú

n

R s (3.9) R: Mức độ phong phú

n: số cá thể của tất cả các loài s: số loài trong quần xã

f. Xác định mức độ thường gặp (Mtg)

Mức độ thường gặp (Mtg) được xác định như sau: (%) x100 R

Mtg  r (3.10)

Trong đó: r: Số cá thể của loài trong QXTV rừng R: Tổng số cá thể điểu tra trong QXTV rừng

Mtg(%) > 50%: Rất hay gặp Mtg(%) 25 - 50%: Thường gặp Mtg(%) < 25%: Ít gặp

3.4.3.3. Quy luật phân bố tần số và tương quan

a. Quy luật phân bố số cây theo cỡ kính (N/D1.3), phân bố số cây theo cỡ chiều cao (N/HVN)

Bao gồm quy luật phân bố số cây theo cỡ đường kính và chiều cao.

Phương pháp mô phỏng theo các bước: thiết lập dãy phân bố thực nghiệm, căn cứ vào dạng phân bố cụ thể lựa chọn hàm phân bố lý thuyết hợp lý để mô phỏng cấu trúc rừng. Các hàm lý thuyết được đề tài thử nghiệm và có sự kiểm tra gồm theo phân bố: Phân bố theo hàm Weibull, Phân bố theo hàm Khoảng cách và việc kiểm tra giả thuyết về luật phân bố được tiến hành theo tiêu chuẩn khi bình phương (2). Cụ thể các phương pháp này được Nguyễn Hải Tuất trình bày chi tiết trong các tài liệu của ông ([44], [45], [46]).

b. Quy luật tương quan giữa chiều cao vút ngọn và đường kính ngang ngực (HVN/ D1.3)

Để mô tả quy luật tương quan giữa chiều cao vút ngọn và đường kính ngang ngực (HVN – D1.3) của các QXTV rừng đề tài tiến hành thử nghiệm với 4 dạng phương trình hồi quy sau:

Logarit: HVN = a+ b*log(D1.3) (3.11)

Compound: Ln(HVN) = a + b*D1.3 (3.12)

Power: Ln(HVN) = a + b*ln(D1.3) (3.13)

Chữ S: Ln(HVN) = a+b/D1.3 (3.14)

3.4.3.4. Nghiên cứu mạng hình phân bố không gian tại khu vực nghiên cứu a. Chỉ số khoảng cách đến cây gần nhất (Average Nearest Neighbor Distance Index)

Chỉ số khoảng cách đến cây gần nhất (Average Nearest Neighbor Distance - ANN) là một công cụ để xem xét, đo lường khoảng cách ngẫu nhiên giữa một

cây với cây gần nhất trong cùng khu vực nghiên cứu. Khi đó, kết quả là số trung bình cộng khoảng cách của điểm đó với các điểm gần nhất. Nếu số trung bình khoảng cách này nhỏ hơn số trung bình khoảng cách ngẫu nhiên kỳ vọng giữa các loài cây thì phân bố của cây là phân bố cụm. Nếu số trung bình cộng này lớn hơn giá trị lý thuyết thì phân bố của cây là phân bố đều (phân tán). Chỉ số được diễn tả như tỷ lệ khoảng cách quan sát chia cho khoảng cách dự kiến.

Công thức tính như sau:

DE

ANN D



 0 (3.16)

n d D

n

i

 i

 

 1

0

(3.17)

A DE n

/ 5 ,

 0

 (3.18)

SE D zANN D E





 0 (3.19)

A n

SE 2

26136 ,

 0

(3.20) Trong đó:

di: khoảng cách từ 1 cây quan sát đến các cây gần nhất n: Tổng số điểm (cây) nghiên cứu

A: Diện tích nghiên cứu zANN: hệ số kiểm tra phân bố

0



D : khoảng cách gần nhất trung bình

DE



: khoảng cách kỳ vọng trung bình SE: Sai số

ANN: Chỉ số trung bình gần nhất

Sử dụng chỉ số ANN để phân tích mối quan hệ giữa cây đến cây gần nhất trong QXTV rừng với giải thuyết như sau:

H0: Phân bố của các cây là phân bố ngẫu nhiên với nhau Nếu Z Score < - 1,96 : Phân bố cụm

Nếu Z Score > 1,96: Phân bố phân tán Thông thường:

Nếu ANN < 1: Phân bố cụm Nếu ANN > 1: Phân bố phân tán

Phân bố dạng này được thể hiện theo hình dưới đây.

Hình 3.4: Mô hình phân tích phân bố không gian chỉ số ANN

b. Chỉ số nghiên cứu quy luật phân bố ở các khoảng cách khác nhau (Ripley’s K Function)

Ripley’s K Function là một hàm toán học để xác định quy luật phân bố không gian của các loài cây theo khoảng cách. Mô hình phân tích như sau:

Hình 3.5: Mô hình phân tích mạng hình phân bố không gian theo chỉ số K – function

Kết quả đầu ra được biểu thị bằng đồ họa. Đó là một đồ thị các giá trị quan sát và kết quả kỳ vọng của mỗi lần lặp trong các khoảng cách nhất định.

Trên đó thể hiện:

- Đường màu xanh: Đường kỳ vọng

- Đường màu đỏ: Đường quan sát được (thực nghiệm) - Đường màu nâu, nét đứt: Đường bao giới hạn

Khi độ lệch của đường quan sát dưới mức đường kỳ vọng thì các giá trị phân bố phân tán ở khoảng cách đó.

Khi độ lệch của đường quan sát trên mức đường kỳ vọng thì các giá trị phân bố cụm ở khoảng cách đó.

Khi đường quan sát nằm trùng lên đường kỳ vọng thì các giá trị phân bố ngẫu nhiên ở khoảng cách đó.

Công thức toán học có dạng như sau:

(3.21) Trong đó:

L(d) sẽ xác định tổng tích luỹ về khoảng cách giữa 2 điểm trong một khoảng cách biết trước.

A là diên tích của khu vực quan sát N là số điểm,

d là khoảng cách

K(i, j) là trọng số: K(i, j) = 1 nếu khoảng cách giữa 2 điểm i và j nhỏ hơn 1 khoảng cách cho trước (<d), ngược lại K(i, j) = 0.

Như vậy, Multi-Distance Spatial Cluster Analysis: Ripley's K-function (Spatial Statistics) được sử dụng như một công cụ xác định xem phân bố của các đại lượng phân tích có phân bố như thế nào ở các khoảng cách khác nhau.

Các công cụ đầu ra được kết quả như là một bảng, và được minh họa như là một cửa sổ đồ họa với biểu đồ phân bố ở các khoảng cách xem xét khác nhau.

Đây là một cách khác để phân tích các mô hình không gian của dữ liệu điểm sự cố, nó tóm tắt sự phụ thuộc không gian (các đại lượng phân nhóm hoặc phân tán) trên một loạt các khoảng cách khác nhau.

3.4.3.5. Nghiên cứu quy luật phân hóa đường kính và chiều cao a. Chỉ số phân hóa cụm giá trị cao/ thấp (Getis-Ord General G)

Getis-Ord General G là một công cụ phân tích sự tập trung các cây cùng cao, cùng thấp phân bố như thế nào trong một khu vực nghiên cứu. Mô hình nghiên cứu phân bố thể hiện cụ thể ở hình 3.6 phía dưới:

Hình ảnh thể hiện các ô có cùng giá trị cao (cùng màu hồng) đứng tập trung với nhau khi chúng có phân bố cụm và Z > 1,96 (Highs Cluster) và các màu thể hiện giá trị thấp (xanh cốm) có xu hướng đứng tập trung với nhau khi chúng có phân bố cụm và Z < -1,96 (Lows Cluster). Khoảng ở giữa các màu xếp ngẫu nhiên, đan xen không theo quy luật thể hiện phân bố ngẫu nhiên.

Công thức tính của chỉ số này như sau:

i j x x

x x w

G n

i n

j j i n

i n

j

j i j i





 



 

 

,

1 1

1 1

,

(3.22) Hệ số thống kê để kiểm tra Z được tính bằng

] [

[ G V

G E

zGG (3.23) Trong đó:

i n j

n w G

E

n

i n

j j i



 

 

 

) , 1 ] (

[ 1 1

,

(3.24)

2

2] [ ]

[ ]

[G EG EG

V   (3.25) xi và xj : Là những giá trị đặc trưng cho đại lượng i và j

wi,j: trọng số giữa hai đại lượng i và j. wi,j = 1 nếu khoảng cách giữa 2 điểm i và j nhỏ hơn 1 khoảng cách cho trước (<d), ngược lại wi,j = 0.

Giả thuyết: Ho: “Phân bố của các loài cây là phân bố ngẫu nhiên Kiểm tra giả thuyết bằng hệ số Z Score hoặc giá trị p- value

Nếu - 1.96 < Z < 1.96 với mức ý nghĩa p- value = 0.05: H+

Nếu 1.96 < Z và Z < -1.96 với mức ý nghĩa p- value = 0.05: H- + Khi Z > 1.96: Các giá trị lớn tập trung cụm lại với nhau + Khi Z < -1.96: Các giá trị nhỏ tập trung cụm lại với nhau Mô hình phân bố như sau:

Hình 3.6: Mô hình phân tích phân bố không gian theo chỉ số General G b. Chỉ số phân tích phân bố cho các đối tượng có tính năng tương tự nhau (Morans I)

Chỉ số này thể hiện được xu hướng phân bố của các giá trị có tính năng tương tự nhau (chúng có xu hướng tác rời hay cụm lại với nhau). Mô hình phân bố được thể hiện trên hình 3.7:

Hình 3.7: Mô hình phân tích phân bố không gian theo chỉ số Morans I

Trên hình thì các ô có cùng giá trị (cùng màu hồng, xanh đậm, xanh cốm) đứng tập trung với nhau khi chúng có phân bố cụm (clustered) và các màu này có xu hướng tách nhau ra khi phân bố xem xét là phân bố phân tán (Dispersed).

Công thức tính như sau:

i j z

z z w S

I n n

i i n

i n

j

j i j i





 





 

,

1 2

1 1

,

0

(3.25)

 

 n

i n

j

j

wi

S

1 1

,

0 (3.26)

] [

] [ I V

I E

zI  I  (3.27)

1 ] 1

[ 

  I n

E (3.28)

2 2] [ ] [

]

[I E I E I

V   (3.29)

xi và xj : Là những giá trị đặc trưng cho đại lượng i và j



 j ivàX

X : Giá trị trung bình của xi và xj

zi và zj : Là những giá trị chênh lệch của xi và xj với giá trị trung bình của chúng



  



 i i j j j

i x X vàz x X

z

wi,j: trọng số giữa hai đại lượng i và j. wi,j = 1 nếu khoảng cách giữa 2 điểm i và j nhỏ hơn 1 khoảng cách cho trước (<d), ngược lại wi,j = 0.

n: Số điểm điều tra;

S0: Tổng các trọng số ZI: Hệ số kiểm tra phân bố

Kết quả biểu thị thông qua giả thuyết thống kê Giả thuyết: H0: "Phân bố ngẫu nhiên"

Nếu - 1.96 < Z < 1.96 với mức ý nghĩa p - value = 0.05: H+

Nếu 1.96 < Z và Z < -1.96 với mức ý nghĩa p - value = 0.05: H-

+ Khi Z > 1.96: Các cây có giá trị giống nhau (cao/thấp) cụm lại với nhau + Khi Z < -1.96: Các cây có giá trị giống nhau (cao/thấp) có xu hướng phân tán (tách nhau)

c. Chỉ số Morans I cục bộ (khu vực (Anselin Local Morans I)

Đây là một chỉ số cho chúng ta xác định được vị trí của các khu vực có cụm hay không? Cụm ở đâu và vị trí của những giá trị bất thường so với những cây xung quanh?

Công thức tính của chúng được xác định như sau:

) (

1 , 1 2 ,









 

 x S X  w x X

I i

n

j j

j i i

i

i (3.31)

1 2 , 1

, 2

1 X

n w S

n

j j

j i

i 

  



 (3.32)

] [

] [

i i i

Ii V I

I E

z  I  (3.33)

] 1

[ 1, 1

,

 

 





n w I

E

n

j j

j i i

(3.34)

2 2

] [ ] [ ]

[Ii E Ii E Ii

V   (3.35)

xi : giá trị đặc trưng cho đại lượng i

X : Giá trị trung bình của xi

wi,j: trọng số giữa hai đại lượng i và j. wi,j = 1 nếu khoảng cách giữa 2 điểm i và j nhỏ hơn 1 khoảng cách cho trước (<d), ngược lại wi,j = 0.

n: Số điểm điều tra;

ZIi: Hệ số kiểm tra cho giả thuyết thống kê.

Đầu vào của chỉ số là vị trí không gian của các cây cùng với giá trị sinh trưởng tương ứng. Dưới quá trình phân tích của công cụ này kết quả đạt được là giá trị I cục bộ của từng điểm, hệ số kiểm tra và bản đồ thể hiện chi tiết được trong khu vực các cụm phân bố ở đâu? Có các cây bất thường không và nó đứng như thế nào trong đó. Mô hình phân tích thể hiện trong hình 3.8

Hình 3.8: Mô hình phân tích phân bố không gian chỉ số Morans I cục bộ d. Hot post Analysis (Getis-Ord Gi*)

Đây là một chỉ số cho chúng ta xác định được vị trí của các khu vực có cụm hay không? Cụm của những giá trị cao ở đâu và cụm những giá trị thấp ở đâu trên khu vực nghiên cứu? Mô hình phân tích cụ thể hình 3.9

Hình 3.9: Mô hình phân tích phân bố không gian chỉ số Getis-Ord Gi*

Công thức tính của chúng được xác định như sau:

1 ) (

1 1

2 2

,

1 1

, ,

*





 



 





 

 

 

 

n w w

n S

w X x w G

n

j

n

j j j

i n

j

n

j j i j

j i

i (3.31)

n x X

n

j

 j

 1 (3.32)

1 2 2

) (X n

x S

n

j j



 

 (3.33)

xi, xj : giá trị đặc trưng cho đại lượng i, j

: Giá trị trung bình của x; w : trọng số giữa i và j; n: Số điểm điều tra

Chương 4