Quy tắc làm tròn số đo gián tiếp

Một phần của tài liệu Giáo trình xử lý số liệu và quy hoạch thực nghiệm hóa học p4 (Trang 27 - 28)

Kết quả trong thực nghiệm và đo lường thường là giá trị gián tiếp được tính toán từ nhiều lần đo lặp hoặc từ nhiều đại lượng đo khác nhau. Điều đó dẫn tới việc làm tròn số của kết quả thường xuyên được sử dụng. Để đảm bảo tính đúng đắn và độ tin cậy khi biểu diễn kết quả, cần lưu ý những quy tắc sau:

(1)Khi làm tròn số không được làm tăng cấp độ chính xác của phép đo lường và cần đảm bảo tính chắc chắn của kết quả được công bố.

(2)Không nên làm tròn số nhiều lần nếu kết quả được thực hiện qua nhiều phép tính trung gian, tốt nhất chỉ thực hiện làm tròn số cho kết quả cuối cùng.

(3)Trong trường hợp chung nhất khi làm tròn, chữ số có nghĩa sau cùng tăng lên 1 đơn vị nếu chữ số vô nghĩa bị bỏ đi lớn hơn hoặc bằng 5 (làm tròn lên), hoặc giữ nguyên khi chữ số vô nghĩa nhỏ hơn 5 (làm tròn xuống).

Ví dụ: 10.458 = 10.46; 10.453 = 10.45

Lưu ý: Một số trường hợp đặc biệt trong phân tích và đo lường, kết quả chỉ được làm tròn lên (chữ số có nghĩa tăng thêm 1 đơn vị) mặc dù chữ số vô nghĩa nhỏ hơn 5.

Ví dụ 4.6: Tính giới hạn phát hiện của một phương pháp phân tích (LOD) biết độ lệch chuẩn (SD) có giá trị là 4.4 ppb.

Áp dụng công thức tính LOD ta có: LOD = 3.SD = 3×4.4 = 13.2 (ppb)

LOD của phương pháp này có thể làm tròn lên là 14 ppb hoặc giữ nguyên (13.2 ppb), không thể làm tròn xuống thành 13 ppb.

Ví dụ 4.7: Độ sai chuẩn (Sx̅) tính được từ phép phân tích lặp có giá trị là 0.026. Biểu diễn kết quả của phép phân tích với khoảng biến thiên ở độ tin cậy 99.5 % (k = 2), biết giá trị trung bình thu được là 1.39.

Khoảng biến thiên ε = k.Sx̅ = 2×0.026 = 0.052.

Kết quả được làm tròn lên biểu diễn là 1.39 ± 0.06 (có độ tin cậy cao hơn) mà không phải theo quy tắc làm tròn xuống (kết quả là 1.39 ± 0.05).

Một phần của tài liệu Giáo trình xử lý số liệu và quy hoạch thực nghiệm hóa học p4 (Trang 27 - 28)

Tải bản đầy đủ (PDF)

(60 trang)