CHƯƠNG 3 Xử lý số liệu thực nghiệm bằng thống kê CHƯƠNG 3 XỬ LÝ SỐ LIỆU THỰC NGHIỆM BẰNG TOÁN HỌC THỐNG KÊ 3 1 CÁC SỐ CÓ Ý NGHĨA Số các số có ý nghĩa là số cực tiểu các chữ số cần thiết để biểu diễn m[.]
CHƯƠNG XỬ LÝ SỐ LIỆU THỰC NGHIỆM BẰNG TOÁN HỌC THỐNG KÊ 3.1 CÁC SỐ CÓ Ý NGHĨA Số số có ý nghĩa số cực tiểu chữ số cần thiết để biểu diễn giá trị cho khoa học mà không làm độ xác phép đo Biểu diễn số phép đo tuân theo quy tắc sau: Số “0” phần phép đo, số hệ thập phân, hay nói cách khác số số có nghĩa phép đo khơng phụ thuộc vào vị trí điểm hệ thập phân Thí dụ 92,067mm biểu diễn 92067 µm 9,2067 cm 0,92067 dm 0,092067 m Tất số hạng có số có ý nghĩa Trong hai trường hợp sau cùng, số “0” khơng có ý nghĩa, dùng để hệ thập phân, trường hợp cịn lại, số “0” có ý nghĩa Khi số “0” đứng cuối cùng, có ý nghĩa, thí dụ 727,0 ; 100,0 … Thí dụ 3.1 Tìm số số có ý nghĩa số sau: 0,216 (có số có ý nghĩa) 90,7 (có số có ý nghĩa) 800,0 (có số có ý nghĩa) 0,0670 (có số có ý nghĩa) Con số chìa khóa phép đo định số số có ý nghĩa Trong tốn có nhiều phép tính, số hạng có giá trị tuyệt đối thấp số chìa khố Trong tốn có nhiều phép tính, số lẻ giữ phép tính cuối trước làm tròn Quy tắc làm tròn: chữ số cuối cần làm trịn > số trước +1, số cần làm trịn < bỏ số số trước khơng thay đổi 3.2 CÁC LOẠI SAI SỐ 3.2.1 Sai số tuyệt đối Sai số tuyệt đối hiệu số giá trị trung bình giá trị thực e = x -µ x trung bình số học giá trị thực nghiệm, µ giá trị thực Sai số tuyệt đối không cho ta thấy độ phép phân tích, muốn biết ta phải xét sai số tương đối 3.2.2 Sai số tương đối Sai số tương đối tỷ số sai số tuyệt đối giá trị thực µ S= ε x -μ G -Đ ; = = μ Đ x (3.1) Thông thường sai số tương đối biểu diễn S% = G-Đ ε 100 Sai số tương 100 = Đ μ đối cho ta biết độ phép xác định Thí dụ nhìn vào hai phép xác định sau ta nhận độ phép xác định dùng sai số tương đối Bảng 3.1: Sai số tương đối Thí nghiệm Giá trị đo Giá trị thực e S% 45,8 216 45,2 215,4 0,6 0,6 1,3% 0,3% 3.2.3 Sai số hệ thống Là sai số nguyên nhân cố định gây ra, thường lặp lặp lại thí nghiệm Các giá trị thường lệch phía ln mang dấu ”+” dấu “-“ Sai số hệ thống thường phương pháp sai, dụng cụ đo không đúng.v.v 3.2.4 Sai số ngẫu nhiên Là sai số ngun nhân khơng cố định, khách quan gây ra, phản ánh sai lệch giá trị riêng lẻ giá trị trung bình, ngồi cịn phản ánh độ lặp lại phương pháp 3.3 CÁC ĐẠI LƯỢNG TRUNG BÌNH 3.3.1 Trung bình số học trung bình cộng giá trị riêng lẻ Zả sử có n thí nghiệm thu n giá trị thí nghiệm x1 , x2 xn x= x1 + x + + x n = n åx (3.2) i n 3.3.2 Trung bình bình phương Là bậc hai tổng giá trị bình phương chia cho n x bp 2 x + x + + x n = = n åx n i (3.3) 3.4 CÁC ĐẠI LƯỢNG ĐẶC TRƯNG CHO ĐỘ PHÂN TÁN 3.4.1 Độ lệch trung bình d Độ lệch chênh lệch giá trị riêng lẻ giá trị trung bình cịn Độ lệch trung bình trung bình cộng giá trị riêng lẻ giá trị trung bình có lấy giá trị tuyệt đối åx d= i -x n (3.4) 3.4.2 Phương sai Phương sai đại lượng đặc trưng cho sai lệch số liệu thực nghiệm so với giá trị trung bình Phương sai đặc tính thống kê quan trọng sai số ngẫu nhiên Theo định luật phân bố chuẩn phương sai giảm, phân bố tốt hơn, cận giảm, phép phân tích xác Phương sai trung bình cộng bình phương hiệu số giá trị riêng lẻ giá trị trung bình: S2 = s å (x i - x) n -1 å (x = i - x) n n < 20 (3.5) n > 20 (3.6) S2 s2 gọi phương sai, n-1 số bậc tự 3.4.3 Độ lệch chuẩn Độ lệch chuẩn phương sai đặc trưng cho dao động số liệu độ phân tán kết so với giá trị trung bình Độ lệch chuẩn bậc hai tổng bình phương độ lệch số liệu khỏi giá trị trung bình chia cho số bậc tự S= S = å (x s= s = å (x 2 - x) i n -1 - x) n (3.7) (3.8) 3.4.4 Độ lệch chuẩn trung bình S x Độ lệch chuẩn trung bình độ lệch chuẩn chia cho bậc hai n lần thí nghiệm Sx = S n = å (x i - x) n(n - 1) (3.9) 3.4.5 Độ lệch chuẩn tương đối hệ số biến động (Relative standard deviation, RSD and coefficient of variation, CV) Độ lệch chuẩn tương đối xác định cách chia độ lệch chuẩn cho giá trị trung bình số liệu thực nghiệm Nó thường biểu diễn phần ngàn hay phần trăm RSD = S 1000 phần ngàn x Độ lệch chuẩn tương đối nhân với 100% gọi hệ số biến động CV = S 100 phần trăm x Thí dụ 3.2 Phân tích Pb máu cho biết hàm lượng tính theo ppm sau: x : 0,752; 0,756; 0,752; 0,751; 0,760 ppm S= RSD = (0,752 - 0,754) + + (0,760 - 0,754) =0,0038 -1 0,0038 0,0038 100 = 0,5 % 1000 = 5,0 phần ngàn; CV = 0,754 0,754 Độ lệch chuẩn tương đối rõ mức độ sai số kiện thực nghiệm rõ độ lệch chuẩn tuyệt đối 3.5 CÁC LOẠI PHÂN BỐ 3.5.1 Phân bố chuẩn hay phân bố Gauxơ (Gauss) Khi sai số phép phân tích sai số ngẫu nhiên kết gần với giá trị thực, phân bố xung quanh giá trị thực Số thí nghiệm nhiều, x tiến tới giá trị thực µ Theo lý thuyết tốn học hàm số phân bố chuẩn y phụ thuộc biến số x có dạng: y= e s 2p ỉ x-à - , 5ỗ ữ ố 2s ứ (3.10) Hàm số đạt giá trị cực đại x=µ ; y= s 2p Đường phân bố có dạng: y Hình 3.1: Phân bố chuẩn (GAUSS) Như đề cập trên, s đại lượng đặc trưng cho phân tán sai lệch gữa giá trị riêng lẻ giá trị trung bình (trong trường hợp giá trị thực) Khi s nhỏ, y lớn Sự xuất giá trị thực nghiệm tương ứng diện tích parabol xác lập đường cong trục hoành từ -¥ đến +¥ Khi chọn khoảng ± s có nghĩa độ tin cậy giá trị thực nghiệm đạt 68,3%, ± 2s 95,46%, ± 3s 99,9% Thơng thường để có độ tin cậy cao, người ta áp dụng quy tắc ± 3s 3.5.2 Phân bố thực nghiệm Giả sử nghiên cứu xác suất xuất mặt đồng xu cách tung nhiều lần, giả sử tung 1000 lần, chia làm đợt, thấy xuất nửa số lần mặt phải nửa số lần mặt trái chiếm giá trị cao nhất, số lần xuất mặt cao giảm dần tiến hai phía giá trị Bảng 3.2: Xác suất xuất mặt phải (trái) đồng xu STT Mặt phải/ trái Xác xuất xuất 6 (1/9) (2/8) (3/7) (4/6) (5/5) (6/4) 0.01 0.05 0.32 0.65 0.84 0.62 8 (7/3) (8/2) 0.38 0.04 9 (9/1) 0.01 Biểu diễn kết đồ thị ta thấy dạng đường parabol xuất (hình 3.2) B ### 0.8 Sac xuat 0.6 0.4 0.2 0.0 Thi nghiem Hình 3.2: Phân bố thực nghiệm Như vậy, nối giá trị thực nghiệm lại ta thấy xuất đường cong dạng parabol có cực đại xuất mặt phải mặt trái 50% 3.6 BIÊN GIỚI TIN CẬY Biên giới tin cậy khoảng giá trị chứa giá trị thực µ Nếu sai số ngẫu nhiên tn theo phân bố chuẩn xác định biên giới tin cậy µ = x ± 0,67 s với xác suất 50% n µ = x ± 1,96 s với xác suất 95% n µ = x ± 2,58 s với xác suất 99% n Tuy nhiên số thí nghiệm thường nhỏ, phải dùng chuẩn Student để xác định biên giới tin cậy Chuẩn Student tính theo cơng thức: t= x-µ Sx μ=x± = x-µ S n ; từ rút ra: tS hay : μ = x ± ε n e biên giới tin cậy Bảng 3.3: Giá trị t với xác suất P số bậc tự K K=n-1 Xác xuất P 90% 95% 99% 6,31 2,92 12,7 4,3 63,7 9,92 10 15 20 2,35 2,13 2,01 1,94 1,89 1,86 1,83 1,81 1,75 1,73 3,18 2,78 2,57 2,45 2,36 2,31 2,26 2,23 2,13 2,06 5,84 4,60 4,03 3,71 3,5 3,36 3,25 3,17 2,95 2,79 3.7 SỬ DỤNG CÁC CÔNG CỤ CHUẨN ĐỂ XỬ LÝ CÁC SỐ LIỆU 3.7.1 Chuẩn Đisơn (loại bỏ số liệu sai thô): Trong thực tế, số liệu thực nghiệm thu lúc tuân theo ý muốn Những sai số ngẫu nhiên không theo quy luật nào, điều trở ngại mhất số liệu sai lệch so với số liệu lại Các số liệu ta gọi số liệu sai thơ Nếu để số liệu dãy số liệu thu mà dem xử lý kết khơng phản ánh giá trị thực phép đo Để loại trừ số liệu sai thô, Dison đưa cơng thức sau để tìm giá trị Q thực nghiệm, viết tắt QTN: QTN = xn - xn+1 (3.11) xmax - xmin xn giá trị cần kiểm tra Sau có giá trị QTN, đem so với giá trị Q lý thuyết (QLT) tính theo bảng sau: Bảng 3.4: Giá trị Q với xác suất P n Xác suát P 90% 95% 99% 0,98 0,68 0,56 0,48 0,94 0,77 0,64 0,56 0,99 0,89 0,76 0,70 0,43 0,40 0,51 0,48 0,64 0,58 Nếu QTN> QLT, ta nói giá trị đo thu (xn) sai lệch hay sai thô, phải loại bỏ, ngược lại QTN < QLT, ta nói số liệu thu chấp nhận Thí dụ 3.3: Phân tích hàm lượng Pb mẫu, có dãy số liệu Bảng 3.5: Phân tích Pb TN Các giá trị x 2,11 2,19 2.25 2,32 2,38 3,21 xmax= 3,21; xmin= 2,11 Q= 3,21 - 2,38 = 0,85 3,21 - 2,11 Theo bảng n=6; P=95% Q=0,56 Như Qtn>Qlt phải loại giá trị 3,21 Còn số liệu sử dụng 3.7.2 Chuẩn Fisơ Một kết phân tích mang ý nghĩa lớn, thí dụ tiêu phân tích cho một hợp đồng kinh tế lớn, vụ trọng án hay kỳ thi thể thao lớn Như kết phân tích cần phải xem xét kỹ, kết phải xác Thơng thường, người ta dùng hai phương pháp để so sánh, đơi dùng hai hay nhiều phịng thí nghiệm để so sánh Chuẩn Fisơ dựa việc so sánh phương sai hai tập số liệu hay hai phương pháp tiêu thí nghiệm Hai phương sai trùng hiếm, trường hợp lệch nhau, mức độ cho phép? Tiêu chuẩn Fisơ đưa giá trị định tương ứng với số bậc tự tương ứng với độ tin cậy P=0,95 Biểu thức Fisơ: S F = 12 S2 (3.12) S12 , S22 phương sai phương pháp phương pháp Bảng 3.6: Giá trị F lý thuyết với P=0,95 bậc tự phương pháp k1 k2 10 12 19 19,16 19,25 19,3 19,33 19,37 19,39 19,41 9,55 6,94 9,28 6,59 9,12 6,39 9,01 6,26 8,94 6,16 8,84 6,04 8,78 5,96 8,74 5,91 5,79 5,14 5,41 4,76 5,19 4,53 5,05 4,39 4,95 4,28 4,82 4,15 4,74 4,06 4,68 4,00 4,74 4,46 4,35 4,07 4,12 3,84 3,97 3,69 3,87 3,57 3,73 3,44 3,63 3,34 3,57 3,28 10 11 12 15 20 4,26 4,10 3,98 2,88 3,98 3,49 3,86 3,71 3,59 3,49 3,29 3,10 3,63 3,48 3,36 3,26 3,06 2,87 3,48 3,33 3,20 3,11 2,90 2,71 3,37 3,22 3,09 3,00 2,79 2,60 3,23 3,07 2,95 2,85 2,64 2,45 3,13 2,97 2,86 2,76 2,55 2,35 3,07 2,91 2,79 2,69 2,48 2,28 Nếu Ftn < Flt phương pháp đồng Nếu Ftn > Flt phương pháp không đồng 3.7.3 Dùng chuẩn Student để kiểm đánh giá phương pháp Một ứng dụng chuẩn Student đánh giá sai số hệ thống Khi sử dụng công cụ này, dựa vào độ lệch giá trị trung bình giá trị thực so sánh giá trị trung bình phương pháp ta biết phương pháp có mắc sai số hệ thống khơng có đồng khơng Có ba kiểu đánh giá theo chuẩn student: a) So sánh dãy số thí nghiệm có giá trị trung bình độ lệch chuẩn với giá trị thực, tìm giá trị “t” thực nghiệm Tra bảng để có giá trị “t” lí thuyết từ rút kết luận sai số phương pháp Chuẩn student có cơng thức: t= x-µ Sx = x-µ S n (3.13) Nếu ttn>tlt có nghĩa x µ khác nhiều nên mắc sai số hệ thống Nếu ttn 0,99 xem hệ số tương quan tốt Thí dụ 3.7: Khi phân tích ure máu hai phương pháp quang thu dãy số liệu, dãy A phương pháp A dãy B phương pháp tiêu chuẩn, có số liệu sau: Bảng 3.8: Phân tích ure máu Mẫu PP A PP (chuẩn) 10,2 12,7 8,6 17,5 11,2 11,5 10,5 11,9 8,7 16,9 10,9 11,1 -0,3 0,8 -0,1 0,6 0,3 0,4 x = 12,0 y = 11,7 S= 0,17 S(xi)2 = 903,2; B Di S(yi)2 = 855,2 ; Di- D -0,6 0,5 -0,4 0,3 0,0 0,1 ( Di - D) 0,36 0,25 0,16 0,09 0,00 0,01 S = 0,87 S(xi yi) = 878,5 Áp dụng phương trình 3.19 có r= 878,5 - (6).(12,0).(11,7) [903,2 - (6).(12,0) ].[855,2 - (6).11,7) ] = 0,99 Kết luận hai phương pháp A B đồng hay phương pháp A tương đương phương pháp tiêu chuẩn 3.7.5 Phương pháp bình phương tối thiểu để biểu diễn phương trình đường chuẩn Khi lập dãy số liệu biểu diễn phụ thuộc tuyến tính tín hiệu đo vào nồng độ chất, ta có phương trình: yi = axi + b Để tìm hệ số a,b cho có nghĩa làm để tìm đường thẳng phù hợp với tất điểm đường chuẩn (mỗi điểm có sai số)? Phương trình có dạng: yt = axi + b Nói cách khác, đường thẳng phù hợp đường biểu diễn liên hệ giá trị y giá trị riêng lẻ x (xi) cho tổng độ lệch nhỏ Vì số độ lệch có giá trị dương âm nên tối thiểu hoá theo tổng bình phương số dư Do dùng thuật ngữ phương pháp bình phương tối thiểu S = S (yi -yt)2 = S yi - (axi + b)]2 Theo phương pháp bình phương tối thiểu, hệ số a, b phương trình tính theo cơng thức: a= å ( x - x)( y - y) ; å ( x - x) i i b= y - a x i Phương trình tương đương sau dễ áp dụng a= åx y i i åx i (å xi å y i ) - n (å xi ) n Thí dụ 3.8 Vitamin B2 xác định phương pháp đo quang cho dãy số liệu sau: Bảng 3.9: Số liệu phân tích vitamin B12 xi (µg/ml) yi xi xi yi 0,000 0,0 0,0000 0,00 0,100 5,8 0,0100 0,58 0,200 12,2 0,0400 2,44 0,400 22.3 0,1600 8,92 0,800 43,3 0,6400 34,64 Sxi = 1,500 Syi = 83,6 Sxi2 = 0,850 Sxiyi = 46,5 x = 0,300 y =16,72 (Sxi)2 = 2,250 Giải: a= 1,500 - 83,6 = 53,75 ; b = 16,72 - (53,75 0,300) = 0,60 2,250 0,850 46,58 - Phương trình tìm được: y = 53,8 x + 0,6 Trường hợp mẫu phân tích có y = 15,4 ; nồng độ B2 15,4 = 53,8 x + 0,6 x = 0,275 µg/ml 3.7.6 Đánh giá biểu diễn kết thực nghiệm theo phương pháp thống kê Từ số liệu thí dụ 11.1 sau loại giá trị thơ có có Bảng 3.10: Số liệu phân tích Pb TN Các giá trị x 2,11 2,19 2.25 2,32 2,38 x = 2,25 S = S2 = S= å (x i - x) n -1 (2,11 - 2,25) + (2,19 - 2,25) + (2,32 - 2,25) + (2,38 - 2,25) S 0,1 tS S = 0,1 vậy: = = 0,047 Từ biểu thức e = n n Tra bảng t n=5, P=95%, có tlt = 2,78, e = 2,78x0,047= 0,13 Kết thực nghiệm là: µ = 2,25 ± 0,13 (3.20)