Xử lý số liệu, thống kê trong hóa phân tích

Giáo trình này nhằm phục vụ cho công tác giảng dạy và nghiên cứu khoa học củasinh viên và học viên cao học chuyên ngành hóa phân tích. Qua giáo trình này sinh viên có thể áp dụng để phục vụ cho việc xử lý số liệu trong quá trình làm khóa luận tốt nghiệp, luận văn thạc sĩ, luận án tiến sĩ. Ngoài ra các cán bộ ở các phòng thí nghiệm phân tích có thể tham khảo phục vụ cho công việc phân tích số liệu, việc công nhận và đảm bảo chất lượng PTN theo tiêu chuẩn ISO 17025Nội dung của giáo trình gồm 7 chương: Chương 1 đề cập đến các khái niệm cơ bản về các đại lượng thống kê và các nguồn sai số thường gặp trong Hóa phân tích. Chương 2 trình bày về cách tính các đại lượng thống kê và ứng dụng trong xử lý số liệu trong phân tích. Chương 3 đề cập về lý thuyết các hàm thống kê và khả năng ứng dụng trong xử lý thống kê trong Hóa phân tích. Chương 4 về các phương pháp so sánh thống kê về đánh giá các kết quả phân tích. Chương 5 về phân tích phương sai nhằm đánh giá ảnh hưởng của các yếu tố đến kết quả thí nghiệm. Chương 6 về phân tích tương quan hồi qui và cách đánh giá các kết quả thí nghiệm trong phân tích công cụ. Chương 7 về đảm bảo chất lượng và kiểm soát chất lượng trong phòng thí nghiệm, các nội dung về tính toán độ không đảm bảo đo và xác nhận giá trị sử dụng của phương pháp phân tích theo yêu cẩu của ISOIEC 17025. Mỗi chương có các ví dụ minh họa để có thể dễ áp dụng.

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN KHOA HÓA HỌC -***** - PGS TS Tạ Thị Thảo Giáo trình mơn học THỐNG KÊ TRONG HĨA PHÂN TÍCH Hà Nội – 2010 MỤC LỤC DANH MỤC CÁC KÝ HIỆU VIẾT TẮT VÀ CÁC ĐẠI LƯỢNG THỐNG KÊ a- ( intercept) giá trị điểm cắt trục tung phương trình hồi qui dạng y= a+bx : độ không tin cậy thống kê b- Slope: độ dốc đường thẳng ( hay gradient phương trình hồi qui) c- Số cột phân tích phương sai hai yếu tố d- Độ chệch (bias) EA: sai số tuyệt đối ER - sai số tương đối F- tỷ số hai phương sai, giá trị chuẩn Fisher f- bậc tự (degree of freedom) h- số mẫu phân tích phương sai yếu tố -giá trị thực hay giá trị chấp nhận giá trị trung bình mẫu tổng thể n- số thí nghiệm lặp lại gọi kích thước mẫu (sample size) N: tổng số thí nghiệm lặp lại mẫu tổng thể N- tổng số thí nghiệm phân tích phương sai hai yếu tố P() mật độ xác suất đại lượng đo, độ tin cậy thống kê Q- chuẩn Dixon dùng để kiểm tra giá trị bất thường r- hệ số tương quan (momen tích) hai đại lượng r- số dòng phân tích phương sai hai yếu tố R: khoảng biến thiên R2 hệ số tương quan bình phương xác định R’2 hệ số tương quan bình phương hiệu chỉnh S- độ lệch chuẩnmẫu thống kê Sy/x- độ lệch chuẩn sai khác y (từ độ lệch giá trị y tính theo phương trình hồi qui thực nghiệm) Sa độ lệch chuẩn hệ số a phương trình hồi qui dạng y= a+bx Sb độ lệch chuẩn hệ số b phương trình hồi qui dạng y= a+bx S(y/x) w độ lệch chuẩn sai khác giá trị y (từ độ lệch giá tị y tính theo phương trình hồi qui khối thực nghiệm) Sxo độ lệch chuẩn giá trị x tính dùng phương trình hồi qui có giá trj y SB độ lệch chuẩn thí nghiệm đo mẫu trắng (nền) SxE độ lệch chuẩn giá itrj x ngoại suy từ đồ thị Sxow độ lệch chuẩn giá tị x tính sử dụng phươgn tình hồi qui khối (có trọng số) -độ lệch chuẩn tập số liệu mẫu tổng thể 20- phương sai phép phân tích lặp lại 21- phương sai mẫu t- giá trị chuẩn student dùng tính độ tin cậy thống kê kiểm tra khác có nghĩa giá trị trung bình T- tổng chung ANOVA w- khoảng gía trị đo x giá trung bình số học tập số liệu mẫu thống kê xo- gía trị x mẫu phân tích tính theo phương trình hồi qui xE - giá trị x ngoại suy từ đường chuẩn yˆ - gía trị y tính từ phương trình hồi qui yB tín hiệu đo mẫu trắng z- phân bố chuẩn MỞ ĐẦU Lâu nay, hố học phân tích xem lĩnh vực hố học liên quan đến phân tích định tính định lượng chất Tuy nhiên, thực tế định nghĩa chưa phản ánh đầy đủ chất q trình phân tích Mấu chốt q trình phân tích khơng hồn tồn gói gọn việc phân tích mẫu đưa số liệu phân tích mà bao gồm q trình nghiên cứu tạo quy trình phân tích xử lý số liệu thu từ phép phân tích nhằm đem lại thơng tin có ích Theo thời gian phương pháp phân tích đời đáp ứng nhu cầu phân tích trước mắt dần trở nên phổ biến, bộc lộ dần hạn chế phân tích đối tượng phức tạp Do vậy, nhà phân tích nỗ lực cải tiến phương pháp phân tích sẵn có, xây dựng phát triển phương pháp phân tích cho đối tượng phân tích rộng với việc xây dựng cơng cụ phân tích số liệu mạnh để đáp ứng u cầu thực tế Vậy thực chất hố phân tích gì? Có thể chấp nhận định nghĩa xác sau: “Hố phân tích khoa học phép đo hoá học.” Trong thực tế phân tích gặp nhiều vấn đề cần giải từ đơn giản hàm lượng Ca, Mg nước uống bao nhiêu, khơng khí có bị nhiễm oxit nito hay không? … đến vấn đề gây tranh chấp Hai mẫu quặng đồng phải có hàm lượng sắt, kết phân tích hai phòng thí nghiệm với mẫu phân tích lại khác Vậy kết khác nói khác khơng có nghĩa? Làm để biết kết phân tích hàm lượng asen máu bệnh nhân có xác khơng? Thiết bị phân tích khơng phát Cd nước uống ghi kết phân tích bao nhiêu? Báo cáo kết phân tích với chữ số dấu phảy thập phân… Có nhiều câu hỏi cần trả lời thực tế phân tích Vì vậy, việc ứng dụng thống kê xử lý số liệu thực nghiệm thu trình phân tích giúp cho kết luận thu từ phân tích có độ xác cao độ tin cậy mong muốn Sự phát triển phần mềm máy tính giúp cho việc tính tốn xử lý số liệu đơn giản kết hợp thống kê tin học ứng dụng Với mục tiêu ứng dụng kiến thức thống kê phần mềm máy tính vào cơng việc xử lý số liệu thực nghiệm thu sau phân tích nên không sâu vào kiến thức lý thuyết thống kê, cố gắng diễn giải theo cách thức hướng tới ứng dụng có ích cho nhà hóa phân tích sử dụng Để giúp cho việc xử lý số liệu, giáo trình chúng tơi hướng dẫn cách giải ví dụ cụ thể phần mềm MINITAB Đây phần mềm thống kê thơng dụng nay, cơng cụ phân tích trình bày số liệu hiệu quả, dễ cho người sử dụng Đối với việc sử dụng Excel phần mềm thống kê khác, độc gỉa tìm thấy tài liệu tham khảo Trong giáo trình bên cạnh diễn giải ứng dụng có đề cập đến nhiều ví dụ, hầu hết lấy từ báo tạp chí phân tích cơng bố ngồi nước Các tập cuối chương giúp cho sinh viên hiểu vận dụng vào mục đích cụ thể Hóa phân tích Về phần khái niệm thống kê thuật ngữ, giáo trình cố gắng Việt hóa cho mang nghĩa xác tuân theo tài liệu tiêu chuẩn phổ biến qui định từ TCVN 6910-1:2001 nhằm mục đich thống sử dụng, song có trích dẫn từ tiếng Anh để hiểu nghĩa tiện cho sinh viên sử dụng phần mềm máy tính Nội dung giáo trình gồm chương Chương đề cập đến khái niệm đại lượng thống kê nguồn sai số thường gặp Hóa phân tích Chương trình bày cách tính đại lượng thống kê ứng dụng xử lý số liệu phân tích Chương đề cập lý thuyết hàm thống kê khả ứng dụng xử lý thống kê Hóa phân tích Chương phương pháp so sánh thống kê đánh giá kết phân tích Chương phân tích phương sai nhằm đánh giá ảnh hưởng yếu tố đến kết thí nghiệm Chương phân tích tương quan hồi qui cách đánh giá kết thí nghiệm phân tích cơng cụ Chương đảm bảo chất lượng kiểm sốt chất lượng phòng thí nghiệm, nội dung tính tốn độ khơng đảm bảo đo xác nhận giá trị sử dụng phương pháp phân tích theo yêu cẩu ISO/IEC 17025 Mỗi chương có ví dụ minh họa để dễ áp dụng Giáo trình nhằm phục vụ cho công tác giảng dạy nghiên cứu khoa học sinh viên học viên cao học chuyên ngành hóa phân tích Qua giáo trình sinh viên áp dụng để phục vụ cho việc xử lý số liệu q trình làm khóa luận tốt nghiệp, luận văn thạc sĩ, luận án tiến sĩ Ngoài cán phòng thí nghiệm phân tích tham khảo phục vụ cho cơng việc phân tích số liệu, việc cơng nhận đảm bảo chất lượng PTN theo tiêu chuẩn ISO 17025 Giáo trình chỉnh sửa hoàn chỉnh nhiều năm sử dụng làm giáo trình giảng dạy chuyên đề cho sinh viên mơn Hóa phân tích Chúng tơi xin cảm ơn đồng nghiệp, sinh viên, học viên cao học cán phân tích đọc, ứng dụng góp ý, gợi ý nội dung giáo trình Chương 1: MỘT SỐ THUẬT NGỮ VÀ KHÁI NIỆM TRONG XỬ LÝ SỐ LIỆU PHÂN TÍCH 1.1 Q trình phân tích Một q trình phân tich phải trải qua bước sau: Bước Xác định vấn đề cần phân tích: Trước bắt đầu thực phép phân tích, cần phải hiểu xác định đại lượng nào, định tính hay định lượng, kết dùng làm gì, sử dụng thơng tin cần thơng tin đó, độ độ xác cần đạt bao nhiêu, giá thành phân tích ? Đơi khi, người phân tích cần khuyến cáo khách hàng cách lấy mẫu hiệu cho phù hợp với phương pháp phân tích Bước Chọn phương pháp phân tích: Tiêu chí chọn phương pháp phân tích dựa yếu tố sau: - Loại mẫu phân tích: chất rắn, lỏng hay chất khí, dạng hòa tan, cặn lơ lửng… ? - Số lượng mẫu cần phân tích khối lượng mẫu cần lấy để phân tích bao nhiêu? - Có cần làm giàu (nếu hàm lượng chất phân tích nhỏ) trước tiến hành phân tích khơng? - Độ chọn lọc phương pháp phân tích nào, chất gây gây cản trở phép xác định, cách loại trừ…? - Phương pháp phân tích có đáp ứng u cầu độ chụm, độ (độ xác) hay khơng ? - Thiết bị máy móc dùng cho phương pháp phân tích có sẵn có khơng? - Tay nghề đội ngũ kỹ thuật viên? - Giá thành phép phân tích thời gian phân tích? - Qui trình phân tích có tự động hóa để phân tích nhiều mẫu, tiết kiệm thời gian hay không? - Phương pháp phân tích có sẵn tài liệu tham khảo qui trình tiêu chuẩn hay khơng để tiện cho việc công bố việc xác nhận giá trị sử dụng phương pháp Bước Lấy mẫu : Trước lấy mẫu cần xác định xem -Loại mẫu - Lấy mẫu đại diện hay mẫu ngẫu nhiên - Kích thước mẫu (số lượng lượng mẫu) - Mẫu thống kê hay mẫu tổng thể dùng để phân tích - Sai số mắc phải lấy mẫu bao nhiêu? Bước Chuẩn bị mẫu phân tích : qui trình bảo quản xử lý mẫu tùy thuộc vào: - Mẫu chất rắn, lỏng hay chất khí - Chất phân tích dạng tan hay khơng tan nước - Tro hóa khơ hay xử lý mẫu theo phương pháp ướt - Tách chất phương pháp hóa học hay che chất cản trở cần? - Có cần làm giàu chất phân tích khơng? - Cần chuyển dạng chất phân tích để xác định khơng? - Cần điều chỉnh mơi trường mẫu phân tích? ( pH, thêm thuốc thử…) Bước Tách chất phương pháp hóa học cần thiết Các phương pháp tách chất phân tích khỏi chất cản trở kèm mẫu phức tạp gồm: - Chưng cất - Kết tủa - Chiết dung môi - Chiết pha rắn - Tách sắc ký - Điện di Trong hai q trình sắc ký điện di thường ghép nối với detector để phát chất Vì hai phương pháp cho kết phân tích Bước Phân tích Đối với phân tích định lượng người ta chia thành hai loại phương pháp là: - Phân tích phương pháp hóa học: dùng để xác định lượng lớn chất dựa loại cân hóa học xảy dung dịch gồm: - phương pháp phân tích trọng lượng - phương pháp phân tích thể tích (với kỹ thuật chuẩn độ) Trong phân tích hóa học, lượng chất phân tích xác định trực tiếp thông qua chất chuẩn hay chất tạo thành theo phương trình hóa học - Phân tích cơng cụ với thiết bị đo dựa tín hiệu điện thơng qua việc đo đại lượng quang phổ, cường độ dòng điện thế, số đếm…dùng để xác định lượng vết siêu vết chất Theo phương pháp xác định lượng chất phân tích có định chuẩn (tức tìm mối quan hệ tuyến tính dạng phương trình hồi qui đại lượng đo tín hiệu phân tích nồng độ chất phân tích dãy dung dịch chuẩn Do vậy, để định lượng cần trải qua bước sau: - Dựng đường chuẩn (tìm quan hệ tuyến tính tín hiệu phân tích nồng độ chất phân tích, xác lập phương trình hồi qui) - Phân tích mẫu chưa biết dựa phương trình hồi qui thu - Phân tích mẫu hiệu chỉnh/mẫu chuẩn kiểm tra mẫu trắng để đánh giá độ phương pháp phân tích - Phân tích mẫu lặp mẫu thêm chuẩn để kiểm tra độ lặp lại hiệu suất thu hồi Bước Xử lý số liệu phân tích báo cáo kết Từ số liệu phân tích thu q trình thí nghiệm, cần tiến hành xử lý thống kê số liệu thực nghiệm báo cáo kết phân tích Như để có số liệu phân tích định lượng, nhà phân tích phải tra nhiều bước q trình phân tích, xử số liệu thực nghiệm khâu cuối Tuy nhiên, số liệu thu muốn xác tất khâu q trình phân tích phải đảm bảo chất lượng giống chất lượng sản phẩm xuất xưởng phụ thuộc vào nhiều khâu trình sản xuất Do độ tin cậy kết phân tích cuối phụ thuộc vào độ tin cậy tất bước q trình phân tích 1.2 Sai số cách biểu diễn sai số phân tích định lượng Bởi phân tích định lượng gồm nhiều bước qui trình phân tích bước q trình phép đo q trình kèm theo không chắn kết đo hay gọi độ không đảm bảo đo (uncertainty) Do vậy, kết phân tích có độ tin cậy định (cao thấp) mà độ tin cậy 100% khơng phải khơng có độ khơng đảm bảo Ví dụ nhà phân tích tiến hành xác định tổng hàm lượng sắt mấu nước ngầm phương pháp trắc quang với thuốc thử o- phenantrolin sau khử Fe3+ có mẫu thành Fe2+ tạo phức màu Giả sử kết qủa đo lần thí nghiệm 20,1 ppm Tuy nhiên, nhà phân tích nghi ngờ thí nghiệm bị ảnh hưởng ngẫu nhiên nhiều yếu tố xảy q trình thí nghiệm nên tiến hành thí nghiệm lại từ mẫu ban đầu Kết phân tích lại 21,0 ppm Vậy giá trị đúng? Trong trường hợp khơng có sở để khẳng định kết thu xác chưa khơng có số liệu làm mốc để so sánh Và khơng thể khẳng định giá trị 20,1 ppm có xác khơng hay kèm theo độ khơng chắn Một trường hợp khác, nhà hóa học tiến hành tổng hợp thuốc thử hữu dùng cho phân tích trắc quang theo qui trình tham khảo tài liệu Kết xác định bước sóng cực đại phổ hấp thụ max= 610 nm, tài liệu tham khảo công bố 605 nm phương pháp điều kiện thí nghiệm Vậy lại có sai khác Nếu tài liệu cơng bố kết đo dao động nm, có nghĩa (605  2) nm kết thí nghiệm đạt có độ dao động (610 nm) hai giá trị thí nghiệm có khác hay giống nhau? Ngun nhân làm cho kết khác khác có chấp nhận khơng? Vậy hiểu sai số? Sai số (error) sai khác giá trị thực nghiệm thu so với giá trị mong muốn Tất số liệu phân tích thu từ thực nghiệm mắc sai số Sai số phép đo dẫn đến độ không chắn hay độ không đảm bảo đo số liệu phân tích Hai cách biểu diễn sai số thực nghiệm dùng chủ yếu Hóa phân tích sai số tuyệt đối sai số tương đối 1.2.1.Sai số tuyệt đối (EA) (Absolute error) Sai số tuyệt đối sai khác giá trị đo (xi) với giá trị thật hay giá trị qui chiếu chấp nhận (kí hiệu ) EA = xi -   Sai số tuyệt đối có giá trị âm dương, thứ nguyên với đại lượng đo không cho biết độ xác phép đo Chú ý: - Giá trị đo giá trị đơn lẻ giá trị trung bình nhiều lần đo lặp lại - Theo TCVN 6910-1:2001 giá trị qui chiếu chấp nhận (accepted refrence value) giá trị chấp nhận làm mốc để so sánh, nhận từ: a) giá trị lý thuyết giá trị thiết lập sở nguyên lý khoa học; 10 0 9 8 77 74 71 68 65 62 4 8 6 4 1 44 59 70 77 81 81 1 8 5 5 4 4 4 4 8 7 6 4 4 4 9 5 7 52 49 46 43 39 36 72 57 38 14 85 50 3 5 4 4 4 4 3 4 3 7 3 8 9 0 0 9 9 8 3 3 3 84 80 77 73 70 66 15 82 43 98 47 89 4 3 3 3 3 7 6 7 6 3 3 3 41 37 34 30 26 22 05 58 04 43 74 98 4 0 7 7 5 4 3 3 3 3 3 5 3 2 3 3 2 8 8 11 07 04 00 96 92 7 0 8 52 94 28 53 69 76 1 3 3 3 3 3 2 2 1 0 2 2 2 9 7 90 86 82 78 74 70 3 6 05 37 59 72 75 67 5 9 230 4 3 3 3 2 2 6 7 2 1 9 2 2 2 73 69 66 62 58 53 8 8 5 72 96 09 11 01 79 3 3 3 2 2 2 8 0 9 8 2 2 2 60 57 53 49 44 40 8 90 05 09 01 80 45 3 6 6 4 3 3 2 2 2 2 9 7 6 2 2 2 9 50 46 42 38 34 29 6 55 63 59 42 10 62 3 4 3 3 2 2 2 2 7 6 2 2 2 7 42 38 33 29 25 20 5 3 02 03 92 66 24 64 9 3 2 2 2 2 6 2 2 2 4 34 30 26 22 17 13 8 87 82 64 29 78 07 9 2 7 2 3 2 2 2 2 2 2 2 7 5 4 28 24 20 16 11 06 8 78 68 43 01 41 58 7 231 6 3 2 2 2 2 5 4 2 2 2 3 5 9 23 19 15 10 05 00 7 54 38 07 58 89 96 9 7 3 2 2 2 2 2 6 4 3 2 2 2 9 9 18 14 10 05 01 96 1 8 98 77 40 84 07 04 7 3 7 4 3 2 2 2 2 2 5 4 2 2 1 5 7 14 10 06 01 96 91 6 97 71 29 66 81 68 9 7 6 3 2 2 2 2 2 4 3 2 2 1 2 4 7 11 07 02 97 93 87 8 41 12 64 95 02 80 1 3 2 2 2 2 2 5 3 2 2 1 1 9 9 08 03 99 94 89 84 7 25 91 38 64 63 32 0 2 3 2 2 2 2 2 2 1 1 4 3 05 01 96 91 86 81 8 40 02 45 65 57 17 232 6 8 0 3 2 2 2 2 2 0 4 6 3 9 2 5 0 1 1 02 98 93 88 83 78 83 42 80 94 80 31 9 8 3 2 2 2 2 2 2 3 2 1 1 2 4 7 00 96 91 86 81 75 5 0 7 2 8 50 05 39 48 28 70 3 2 2 2 2 2 2 3 1 1 1 1 0 2 5 98 93 89 84 78 73 8 38 90 20 24 96 30 8 7 7 2 2 2 2 2 2 9 4 3 2 6 8 1 1 1 96 91 87 82 76 71 43 92 18 17 84 10 2 2 2 2 2 2 3 2 1 1 1 6 8 94 90 85 80 74 69 9 64 10 33 27 88 06 2 5 2 2 2 2 2 1 1 1 2 1 91 86 82 76 71 65 233 4 5 9 47 87 03 89 38 41 0 3 0 1 2 2 2 1 1 1 0 8 1 1 1  9 7 51 45 39 31 22 00 4 9 73 91 40 80 14 00 9 6 234 235 236 237 238 CÁC NGUỒN CƠ BẢN VÀ CÁC GIÁ TRỊ CỦA ĐỘ KĐB 239 240 241 242 243 244 ... nguồn sai số thường gặp Hóa phân tích Chương trình bày cách tính đại lượng thống kê ứng dụng xử lý số liệu phân tích Chương đề cập lý thuyết hàm thống kê khả ứng dụng xử lý thống kê Hóa phân tích. .. hồi Bước Xử lý số liệu phân tích báo cáo kết Từ số liệu phân tích thu q trình thí nghiệm, cần tiến hành xử lý thống kê số liệu thực nghiệm báo cáo kết phân tích Như để có số liệu phân tích định... Mấu chốt q trình phân tích khơng hồn tồn gói gọn việc phân tích mẫu đưa số liệu phân tích mà bao gồm q trình nghiên cứu tạo quy trình phân tích xử lý số liệu thu từ phép phân tích nhằm đem lại