xử lý số liệu thực nghiệm

xử lý số liệu thực nghiệm

MỤC LỤC 1 1. CÁC ĐẠI LƯỢNG THỐNG KÊ CƠ BẢN 1.1. Các giá trị sai số 1.1.1. Sai số cơ bản Sai số là sự chênh lệch của giá trị thực tế đo đạt được với giá trị chuẩn. Sự chênh lệch này được biểu diễn theo hai cấp độ: _ Sai số tuyệt đối: _ Để biết mức độ chính xác người ta dùng sai số tương đối: 1.1.2. Giá trị trung bình (mean, average) Số trung bình số học đơn giản là giá trị chia tổng tất cả các lượng biến quan sát được cho số quan sát. 1.2. Phương sai (dispersion, variance) Phương sai là trung bình của các độ lệch giữa các lượng biến và số trung bình số học của lượng biến đó đượ tính bằng bình phương những hiệu số các giá trị riêng lẻ và giá trị trung bình: n là số thí nghiệm (n < 20); n - 1 là bậc tự do. n là số thí nghiệm (n > 10); μlà giá trị thực. 1.3. Độ lệch chuẩn (standard deviation) Độ lệch chuẩn là căn bậc hai của phương sai, và đây cũng là chỉ tiêu hoàn thiện nhất của thống kê để tính trung bình phương các độ lệch. Hay còn gọi là sai số bình phương trung bình đặc trung cho độ phân tán dữ liệu thực nghiệm: hoặc 2 1.4. Độ lệch chuẩn tương đối (RSD) hay hệ số biến thiêng (CV) Là hệ số tương đối so sánh độ lệch tuyệt đối trung bình (hoặc độ lệch chuẩn với trung bình số học hay độ phân tán của số liệu so với giá trị trung bình: 1.5. Giới hạn tin cậy Giới hạn tin cậy sử dụng chuẩn t-Student để làm biên giới tin cậy thông qua hệ số e. Hệ số e còn được gọi là biên độ tối đa và tối thiểu của giá trị trung bình: Như vậy khoảng tin cậy là: VD: Một phương pháp mới để định lượng nhanh lưu huỳnh trong dầu hỏa được kiểm tra trên một mẫu có thành phần đã biết từ phương pháp chuẩn bị mẫu chứa 0,123% S. Kết quả phân tích như sau: 0,112; 0,118; 0,115; 0,119 %S. Các số liệu này chứng tỏ phương pháp phân tích có sai lệch không? Bài giải: Σx = 0,112 + 0,118 + 0,115 + 0,119 = 0,464 Σx i 2 = 0,012544 + 0,013924 + 0,13225 + 0,014161 = 0,053854 Ở mức độ tin cậy 95%, t = 3,18 ứng với bậc tự do là 3, như vậy: VD: Gây nhiễm bia bằng cách thêm OTA vào 5 ml bia lượng đã biết trước các hàm lượng, cho qua cột IAC, mỗi lượng thực hiện 2 lần. Tiến hành định lượng bằng huỳnh quang kế lượng OTA trước khi qua cột và sau khi thu hồi được cho trong bảng sau: Lượng OTA nhiễm vào 5 ml bia (ng) n Lượng OTA thu hồi trung bình (ng) SD 3 4,42 10,33 22,9 48,67 2 2 2 2 4,86 10,52 20,89 37 0,3 0,13 1,42 8,2 Ta có thể tính giá trị trung bình () và độ phân tán (CV) qua bảng thực nghiệm trên: => => => => 2.PHÂN BỐ THỰC NGHIỆM 2.1. Phân bố chuẩn Định nghĩa: X là biến ngẫu nhiên liên tục, được gọi là phân bố chuẩn nếu hàm mật độ xác suất có dạng: Trong đó: e=2,71828 µ: Trung bình tổng thể. π= 3,1415 σ: Độ lệch chuẩn. Ký hiệu: N (µ, σ 2 ) Tính chất: E(x) = µ; Var(x) = σ 2 Nếu biến ngẫu nhiên X có phân phối chuẩn với E(x)= µ, Var(x) = σ 2 Ký hiệu: X~N(µ,σ 2 ) 4 Điều này được thể hiện ở phân phối chuẩn hóa. 2.2. Phân bố chuẩn hóa Biến ngẫu nhiên Z có phân phối chuẩn với E(x)=0, Var(z)=1, tức là Z~N(µ,σ 2 ), thì Z được gọi là tuân theo quy luật chuẩn hóa F z (z) đối xứng qua trục tung, được thể hiện qua: P z (Z ≥ z 0 ) = 1 – P z (Z ≤ z o ) = 1 – F z (z o ) Giá trị Z o : P x (0 ≤ Z < Z α ) = α được cho trong bảng phân phối, cho phép tính xác suất của biến ngẫu nhiên phân bố chuẩn hóa, phân bố chuẩn một cách dễ dàng. Quan hệ giữa phân phối N(µ,σ 2 ) và N(0,1) Nếu Z~ N (µ,σ 2 ) => ~N(0,1) 2.3. Phân bố Student (t) Phân phối student (t) là phân phối xác suất liên hệ gần với phân phối chuẩn. Trong trườngh ợp phương sai của tổng thể chưa biết, ta có thể thay thế độ chuẩn của tổng thể (σ) bằng độ lệch chuẩn của mẫu (s), lúc này ta tính biến ngẫu nhiên t thay cho biến chuẫn Z: Biến ngẫu nhiên t không theo phân phối chuẩn mà theo phân phối khác, Phân phối student t là phân phối đối xứng qua trung bình bằng 0 và có độ tự do bằng (n – 1). Độ tự do càng lớn (nghĩa là n lớn) thì phân phối t sẽ tiếp cận phân phối chuẩn.Trường hợp tổng quát, một biến ngẫu nhiên có phân phối (t) với độ tự do (df): P (t v > t v, α ) = α Bảng giá trị t ứng với độ tin cậy α và bậc tự do f = n - 1 f P = 0,90 P = 0,95 P = 0,99 5 1 2 3 4 5 6 7 8 9 10 15 20 6,31 2,92 2,35 2,13 2,01 1,94 1,89 1,86 1,83 1,81 1,75 1,73 12,7 4,3 3,18 2,78 2,57 2,45 2,36 2,31 2,26 2,23 2,13 2,06 63,7 9,92 5,84 4,6 4,03 3,71 3,50 3,36 3,25 3,17 2,95 2,79 2.4. Phân bố F (Fisher) Trong thực tế, khi sử dụng phương pháp so sánh trung bình 2 tập hợp thì có thể có trường hợp giả định 2 tập hợp có phương sai bằng nhau hoặc tương đương nhau, tuy nhiên cũng có trường hợp giả định phương sai không bằng nhau, trong những trường hợp như thế, các nghiệm thức có thể làm ảnh hưởng đến phương sai cũng như trung bình. Ta phải dựa vào tỉ số chênh lệch 2 độ lệch chuẩn: F = S 2 /S 1 < 1,5 _ Nếu tỉ số trên F = S 2 /S 1 < 1,5 cho thấy phương sai 2 tập hợp gần bằng nhau; _ Nếu tỉ số trên F = S 2 /S 1 > 1,5 cho thấy phương sai 2 tập hợp không bằng nhau; Giả sử có hai mẫu A và B có cỡ mẫu n 1 và n 2 và hai phương sai s 1 và s 2 , chúng ta muốn biết phương sai của 2 mẫu thuộc cùng một tập hợp hay là hai tập hợp khác nhau. Chúng ta phải thực hiện kiểm định sự khác biệt giữa hai phương sai và dựa vào tỉ số F, còn gọi là tỉ số của phương sai. F = S 1 2 /S 1 2 F (n 1 – 1), (n 2 – 1) là phân phối F (fisher’s) với độ tự do n 1 – 1 và n 2 – 1 Vậy: là phân phối Fisher’s Để so sánh 2 phương sai ta dùng tỉ số: 6 , trong đó tử số có giá trị lớn hơn. Bảng giá trị F tương ứng với xác suất 95%(P=0,95) với các bậc tự do k 1 = n-1 và k 2 =n 2 -2 Giá trị f ở v 1 V 2 2 3 4 5 6 ∞ 2 19,00 19,16 19,25 19,30 19,33 19,50 3 9,55 9,28 9,12 9,01 8,94 8,53 4 6,94 6,59 6,39 6,26 6,16 5,63 5 5,79 5,41 5,19 5,05 4,95 4,36 6 5,14 4,76 4,53 4,39 4,28 3,67 ∞ 3,00 2,60 2,37 2,29 2,10 1,00 2.5. Phân bố Poisson Trong một số phương pháp phân tích hiện đại, kết quả phép đo là các đại lượng nguyên rời rạc, như đếm xung vi phân trong hóa phóng xạ, đếm lượng tử trong phân tích phổ Rơnghen… Số liệu thực nghiệm trong các phương pháp này có đặc điểm như sau: _ Kết quả trong tập số liệu là những số đếm các xự kiện xảy ra trong một khoảng thời gian. _ Xác suất sự kiện xảy ra trong một đơn vị thời gian là như nhau với các khoảng thời gian khác nhau. _ Số sự kiện xảy ra trong khoảng thời gian này độc lập với khoảng thời gian khác. Nếu lặp lại nhiều lần cùng một thí nghiệm thì mối quan hệ giữa giá trị đo và tần suất được biểu diễn bằng hàm phân bố xác suất như sau: Với: x = 0, 1, 2, 3… và là trung bình của số các sự kiện trong khoảng thời gian xét. � là trung bình số lần biến cố nào đó mà ta quan tâm. 7 3. KIỂM TRA CÁC GIÁ TRỊ THỰC NGHIỆM 3.1. Chuẩn Dixon Chuẩn Dixon dùng để kiểm tra các giá trị thực nghiệm còn nghi ngờ, hoặc loại trừ sai số thô bạo, khi số thí nghiệm nhỏ (n < 10). x n là giá trị nghi ngờ, nó là giá trị lớn nhất x max hoặc nhỏ nhất x min . Giá trị x n+1 là giá trị lân cận của x n . Nếu Q tn >Q lt (bảng 3.1) cần bỏ giá trị x n. Bảng 3.1: Bảng kiểm định Dixon N 90% 95% 99% 3 0,941 0,970 0,994 4 0,765 0,829 0,926 5 0,642 0,710 0,821 6 0,560 0,625 0,740 7 0,507 0,568 0,680 8 0,468 0,526 0,634 9 0,437 0,493 0,598 10 0,412 0,466 0,568 VD: Những kết quả xác định hàm lượng % Fe 2 O 3 trong một mẫu là: 2,25; 2,19; 2,11; 3,21; 2,38; 2,32. Có giá trị sai số thô bạo nào không? Ta có: x max = 3,21; x min =2,11. Q lt = 0,625. Vậy Q > Q lt , giá trị x max = 3,21 là sai số thô bạo bị loại bỏ. Vậy Q min < Q lt , giá trị x min không phải là sai số thô bạo nên giữ lại. 8 3.2. Chuẩn Grubb: Chuẩn Grubb dùng để kiểm tra các giá trị thực nghiệm còn nghi ngờ, hoặc loại trừ sai số thô bạo, khi số thí nghiệm nhỏ (n < 10). x n là giá trị nghi ngờ, nó là giá trị lớn nhất x max hoặc nhỏ nhất x min . Giá trị x n+1 là giá trị lân cận của x n . Nếu Q tn >Q lt (bảng) cần bỏ giá trị x n . 9 3.3. Chuẩn t-Test: Các sai số thô bạo thường rơi vào các giá trị cực đại hay cực tiểu, dùng công thức sau để loại trừ: T tn = (x max – x)/ SD hay T tn = (x – x min )/ SD. Nếu T tn < T lt => Số liệu được giữ lại và ngược lại. Bảng 2.3: Bảng kiểm định t-Test n n 3 1,414 1,412 12 2,633 2,387 4 1,723 1,689 13 2,714 2,426 5 1,955 1,869 14 2,759 2,426 6 2,130 1,996 15 2,800 2,493 7 2,625 2,093 16 2,837 2,523 8 2,374 2,172 17 2,871 2,551 9 2,464 2,237 18 2,903 2,577 10 2,540 2,292 19 2,932 2,600 11 2,606 2,343 20 2,959 2,623 VD1: Đề bài giống VD trên Ta có: n = 6; P = 0,95 => t α = 1,996 T tn = (x max - ) / SD = (3,21 – 2,41) / 0,4 = 2 T tn > t lt (2 > 1,996) => x max là sai số thô bạo cần loại bỏ. T tn = ( - x min ) / SD = (2,41 – 2,11) / 0,4 = 0,75 T tn < t lt (0,75 < 1,996) => x min không phải là sai số thô bạo nên giữ lại. 10 [...]... và các số liệu cần được làm tròn để chỉ mức độ không chắc chắn của nó (uncertanly) Nói cách khác, số liệu chỉ được chứa các số có ý nghĩa Số có ý nghĩa trong một dãy số là tất cả các số chắc chắn đúng và số không chắc chắn đúng đầu tiên 4.5.1 Số có nghĩa Gồm các chữ số tự nhiên 1,2,…9 Số “không” có thể là số có nghĩa hoặc không phải là số có nghĩa phụ thuộc vào vị trí của nó trong dãy số • Nếu số “không”... số 5 thì làm tròn số trước đó về số chẵn gần nhất 4.5.2 Cách lấy giá trị gần đúng Đại lượng đo trực tiếp: Đại lượng đo được phải đọc hoặc đo, đếm được Số liệu thí nghiệm được ghi theo nguyên tắc số cuối cùng là số gần đúng và số trước số cuối cùng là số chính xác Đại lượng đo gián tiếp: • Phép tính cộng vả trừ: làm tròn số thành số chính xác và ghi số có nghĩa theo giá trị nào có ít số có nghĩa nhất... giữa các số khác là số có nghĩa • Nếu số “không” nằm ở cuối dãy số thì thì chỉ là số có nghĩa nếu đứng sau dấu phẩy • Nếu số “không” nằm trước dấu thập phân thì không phải là số có nghĩa Làm tròn số: Là loại bỏ các số không có nghĩa trong kết quả • Nếu bỏ các số 6,7,8,9, thì tăng giá trị trước nó lên 1 đơn vị • Nếu loại bỏ các số 1,2,3,4, thì không thay đổi con số đứng trước nó • Nếu loại bỏ số 5 thì... tròn số sao cho nó chứa số có nghĩa như là giá trị có ít số có nghĩa nhất (khi tính độ bất ổn tuyệt đối không tính đến dấu thập phân) Phép tính logrit và ngược logrit: • Logrit: lấy các chữ số sau dấu phẩy bằng tổng các số có nghĩa trong số ban đầu • Ngược logrit: lấy các số có nghĩa bằng số các chữ số sau dấu phẩy 4.6 Sự lan truyền sai số Tất cả các kết quả phân tích định lượng thu được từ thực nghiệm. .. tố B b-1 BSS BMS FB=BMS/EMS AxB (a-1)(b-1) ABSS ABMS FAB=ABMS/EMS Sai số ab(r-1) ESS EMS Tổng cộng Rab - 1 TSS 4.4 Phân tích tương quan Công cụ này có thể chỉ ra một tập số liệu có liên quan tới một tập số liệu khác hay không Công cụ correlation kiểm tra từng dữ liệu thực nghiệm với những điểm dữ liệu tương ứng trong một tập dữ liệu khác Trong phân tích tương quan người ta đề cập đến cường độ của mối... sai số tuyệt đối của phép đo Đại lượng gọi là sai số tương đối VD: Tính giá trị biểu thức:(65,06± 0,07) + (16,13 ± 0,01) – (22,68 ± 0,02)=58,51± SDx Ta có: Biểu diễn: x = 58,51 ± 0,073 KẾT LUẬN Môn học này cung cấp cho chúng ta một số công cụ rất qun trọng trong việc đánh giá và xử lý số liệu hóa thực nghiệm, đặc biệt là torng lĩnh vực hóa phân tích Ta có thể sử dụng phương pháp tính các giá trị sai số. .. xử lý số liệu và quy hoạch hóa thực nghiệm, trường ĐHCN Tp.HCM [2] Nguyễn Phú Vinh-Giáo trình xác suất thống kê, trường ĐHCN Tp.HCM [3] Lê Đức Ngọc- Xử lý số liệu và kế hoạch hóa thực nghiệm, NXB ĐHQGHN-2001 [4] Huỳnh Văn Trung- Xử lý thống kê và các số liệu trong hóa phân tích, NXB ĐHQGHN2005 [5].Huỳnh Kim Liên-Thống kê hóa học và tin học trong hóa học-ĐH Cần Thơ-2006 ... pháp loại bỏ sai số bất thường và thiết lập giới hạn tin cậy hay sử dụng phương pháp kiểm định các giả thuyết thống kê để so sánh và đánh giá các lần đo đạc ở các phương pháp hay mẫu khác nhau và cũng là để giúp người đo đạc xác định được chính xác số lần cần đo với một mẫu xác định trong nhiều nghành của hóa học TÀI LIỆU THAM KHẢO [1] Giáo trình xử lý số liệu và quy hoạch hóa thực nghiệm, trường ĐHCN... hai hệ số Bo và B1 của phương trình Y = 44,25 + 0,25X1 đều có ý nghĩa thống kê Hay phương trình hồi quy tương ứng vối thực nghiệm trên => Yếu tố nhiệt độ tương quan tuyến tính với hiệu suất của phản ứng 4.5 Điều kiện có nghĩa của chữ số Một giá trị số học dùng biểu diễn kết quả phân tích sẽ không có nghĩa nếu không biết độ chính xác của nó Do vậy, khi biểu diễn cần phải ghi rõ độ tin cậy của số liệu. .. thu được từ thực nghiệm đều có chứa sai số ngẫu nhiên Vì vậy, các giá trị được báo cáo thường là giá trị trung bình viết đúng số có nghĩa kèm theo sai số ngẫu nhiên của giá trị đó Thông thường chúng được viết: (SD độ lệch chuẩn) Ngoài ra, khi số thí nghiệm lặp lại lớn, kết quả phân tích còn được trình bày dưới dạng: Tuy nhiên, kết quả định lượng thu được từ thực nghiệm trong rất nhiều phép đo không phải . và số trung bình số học của lượng biến đó đượ tính bằng bình phương những hiệu số các giá trị riêng lẻ và giá trị trung bình: n là số thí nghiệm (n < 20); n - 1 là bậc tự do. n là số thí nghiệm. lệch. Hay còn gọi là sai số bình phương trung bình đặc trung cho độ phân tán dữ liệu thực nghiệm: hoặc 2 1.4. Độ lệch chuẩn tương đối (RSD) hay hệ số biến thiêng (CV) Là hệ số tương đối so sánh độ. trung bình số lần biến cố nào đó mà ta quan tâm. 7 3. KIỂM TRA CÁC GIÁ TRỊ THỰC NGHIỆM 3.1. Chuẩn Dixon Chuẩn Dixon dùng để kiểm tra các giá trị thực nghiệm còn nghi ngờ, hoặc loại trừ sai số thô bạo,