phan tich thong ke c khang

13.10 PHÂN TÍCH THỐNG KÊ KẾT QUẢ ĐỊNH LƯỢNG SINH HỌC Mở đầu Chuyên luận hướng dẫn cách bố trí thí nghiệm phương pháp phân tích thống kê kết định lượng sinh học có Dược điển Việt Nam Có thể dùng kiểu bố trí thí nghiệm cách tính tốn kết khác với phương pháp mô tả chuyên luận này, phương pháp có độ tin cậy tương đương Phương pháp sinh học dùng để định lượng hợp chất hay chế phẩm mà hoạt lực chúng khơng thể xác định cách xác phương pháp phân tích Hóa - Lý Ngun tắc phương pháp so sánh chế phẩm cần định lượng với chất chuẩn để xác định lượng chế phẩm cần định lượng cho tác động sinh học với lượng biết trước, tính đơn vị, chất chuẩn Để đảm bảo độ xác kết định lượng, thử nghiệm tiến hành với chế phẩm chuẩn chế phẩm cần định lượng phải thực đồng thời điều kiện thí nghiệm Định lượng sinh học luôn mắc phải sai số ngẫu nhiên tính biến thiên vốn có đáp ứng sinh học, có thể, tính kết định lượng phải tính sai số định lượng, kể dùng phương pháp thức Vì vậy, chun luận có hướng dẫn phương pháp bố trí thí nghiệm cách tính sai số cho kiểu bố trí thí nghiệm tương ứng Các phương pháp tính tốn trình bày tính đến sai số ngẫu nhiên gây thị sinh học giả định sai số hệ thống, ví dụ sai số cân, pha lỗng, … nhỏ không ảnh hưởng đáng kể đến kết định lượng (do phải có biện pháp thích hợp để giảm sai số hệ thống đến mức chấp nhận được) Trong trường hợp, trước áp dụng phương pháp thống kê bất kỳ, phải tiến hành định lượng sơ số lần thích hợp để bảo đảm chắn tính khả dụng phương pháp Độ xác kết định lượng sinh học xác định giới hạn tin cậy, gọi khoảng tin cậy Giới hạn tin cậy xác suất 95 % thường sử dụng định lượng sinh học, chọn chuyên luận Khoảng tin cậy tính phương pháp tốn thống kê giới thiệu có khả chứa hoạt lực thật chế phẩm cần định lượng với xác suất 95 % Một số chuyên luận Dược điển qui định giới hạn tin cậy phải không vượt ngưỡng định, ví dụ phải nằm khoảng từ 95 % đến 105 % so với hoạt lực tính được, trường hợp vậy, phải lặp lại định lượng hai hay nhiều lần để đạt giới hạn tin cậy cho phép Các thuật ngữ dùng chuyên luận trình bày phần cuối chuyên luận Ngẫu nhiên hóa Sự định liều khác chế phẩm chuẩn chế phẩm cần định lượng cho đơn vị thí nghiệm (ví dụ động vật thí nghiệm, ống nghiệm, …) phải thực cách hoàn toàn ngẫu nhiên Những điều kiện thí nghiệm khác, khơng bắt buộc phải chuẩn hóa nhằm giảm chênh lệch đáp ứng sinh học đơn vị thí nghiệm (ví dụ chọn lựa cân nặng, tuổi động vật thí nghiệm, điều kiện mơi trường thí nghiệm, …), phải lựa chọn ngẫu nhiên tốt Chọn vị trí chuồng ni động vật thí nghiệm phòng thí nghiệm, trình tự phân liều, … ví dụ cho q trình phải thực cách ngẫu nhiên Ngẫu nhiên hóa thực cách ném xúc xắc, xào có đánh số, dùng bảng số ngẫu nhiên hay phần mềm vi tính thích hợp Các định lượng dựa đáp ứng định lượng 3.1 Mơ hình thống kê 3.1.1 Ngun tắc chung Hai mơ hình thống kê thường dùng định lượng sinh học mơ hình đường thẳng song song mơ hình tỷ lệ độ dốc Trong chuyên luận giới thiệu mơ hình đường thẳng song song, để tìm hiểu thêm mơ hình lại, xin tham khảo Dược điển Châu Âu IV hay tài liệu thống kê khác Chỉ áp dụng mơ hình thống kê đường thẳng song song định lượng hội đủ điều kiện sau: 1) Các liều khác chế phẩm chuẩn chế phẩm cần định lượng định cho đơn vị thí nghiệm cách ngẫu nhiên; 2) Các đáp ứng đo liều tuân theo phân phối chuẩn; 3) Độ lệch chuẩn đáp ứng nhóm xử lý chế phẩm chuẩn chế phẩm cần định lượng khơng khác có ý nghĩa Sau tiến hành định lượng lặp lại nhiều lần, nhà phân tích phải kiểm tra số liệu thu thập phép kiểm tra thống kê thích hợp để đảm bảo định lượng thỏa mãn điều kiện nói trên: - Điều kiện thỏa mãn thực theo hướng dẫn trình bày mục (Ngẫu nhiên hóa) - Điều kiện thường chấp nhận luôn thỏa mãn thực tế Trong định lượng mà xử lý bao gồm số đáp ứng lặp lại, lệch nhỏ khỏi tính chuẩn khơng gây ảnh hưởng lớn đến kết - Kiểm tra điều kiện thông qua việc kiểm tra tính đồng phương sai, ví dụ phép kiểm tra Bartlett phép kiểm tra Hartley (xem ví dụ mục 3.2.8) Nếu điều kiện và/hoặc điều kiện không thỏa mãn, thay đáp ứng y ln(y), cho kết tốt y hay y2 Phép biến đổi y thành ln(y) hữu ích trường hợp tính đồng phương sai không thỏa mãn Phép biến đổi giúp cải thiện tính chuẩn phân phối bị lệch bên phải Biến đổi y thành y thường dùng quan sát tuân theo phân phối Poisson, ví dụ quan sát thu phương pháp đếm 3.1.2 Các định lượng thường nhật Trong định lượng thường nhật, khó kiểm tra cách hệ thống điều kiện lý thuyết mô tả mục 3.1.1, thực tế số quan sát định lượng thường nhỏ ảnh hưởng đến độ nhạy phép kiểm tra thống kê Tuy nhiên, định lượng cân xứng (là định lượng có số liều chế phẩm chuẩn với số liều chế phẩm cần định lượng, ví dụ: định lượng + 2, + 3, …) lệch nhỏ khỏi tính chuẩn hay khỏi tính đồng phương sai khơng ảnh hưởng lớn đến kết định lượng Do đó, cần kiểm tra lại điều kiện lý thuyết nói loạt định lượng liên tục không thỏa mãn phép kiểm tra tính có giá trị (xem mục 3.2.4) Ngồi điều kiện lý thuyết nói trên, mơ hình thống kê đường thẳng song song u cầu định lượng phải thỏa mãn điều kiện sau: 4) Đường biểu diễn mối quan hệ logarithm liều đáp ứng phải tuyến tính khoảng liều dùng định lượng 5) Đường thẳng ln(liều) – đáp ứng chế phẩm cần định lượng phải song song với đường ln(liều) – đáp ứng chế phẩm chuẩn Chỉ kiểm tra điều kiện định lượng tiến hành với nồng độ pha loãng chế phẩm (định lượng liều hay lớn hơn) Tuy nhiên, tính tuyến tính đường logarithm liều – đáp ứng, khoảng liều định, chứng minh số lượng đủ lớn định lượng có liều trở lên, tiến hành định lượng với liều chế phẩm (định lượng liều) định lượng hàng ngày, dùng khoảng liều cho Trước tính hoạt lực giới hạn tin cậy, cần phải tiến hành phân tích phương sai để kiểm tra xem định lượng có đáp ứng điều kiện hay không Các định lượng dựa mơ hình thống kê đường thẳng song song trình bày mục 3.2 Nếu có điều kiện điều kiện nói khơng thỏa mãn, phương pháp tính tốn giới thiệu khơng có giá trị Khi đó, phải tiến hành rà soát lại kỹ thuật định lượng để tìm nguyên nhân Nếu phép kiểm tra thống kê cho thấy hay vài điều kiện điều kiện nói khơng thỏa mãn số định lượng hàng ngày, không chuyển sang phép biến đổi khác trừ có đủ chứng ngun nhân gây tượng khơng phải ngẫu nhiên mà kết thay đổi có hệ thống điều kiện thí nghiệm Trước áp dụng phép biến đổi vào định lượng thường nhật phải lặp lại phép kiểm tra thống kê trình bày mục 3.1.1 Để thu kết định lượng đáng tin cậy, phải tiến hành vài định lượng độc lập, sau phối hợp kết định lượng lại với (xem mục 4) Nhằm mục đích kiểm sốt chất lượng định lượng hàng ngày, nên ghi chép lại kết tính độ dốc hồi qui sai số dư dạng biểu đồ kiểm tra Nếu sai số dư lớn cách bất thường, nguyên nhân phải nghĩ đến sai sót kỹ thuật định lượng Nếu khảo sát khẳng định điều đúng, phải lặp lại định lượng Sai số dư lớn dãy số liệu đo có giá trị bất thường Chỉ loại bỏ giá trị nghi ngờ bất thường phép kiểm tra thống kê thích hợp cho thấy giá trị khác có ý nghĩa với giá trị lại Sai số dư nhỏ bất thường số định lượng hàng ngày làm cho tỷ số F vượt giá trị tới hạn Trong trường hợp vậy, thay sai số dư tính định lượng sai số dư trung bình định lượng trước biểu đồ kiểm tra 3.1.3 Cách tính tốn số hạn chế Dưới hạn chế áp đặt cho định lượng nhằm làm đơn giản hóa cơng thức tính tốn làm tăng độ xác định lượng: a) số nồng độ pha loãng chế phẩm định lượng phải nhau; b) tỷ lệ liều phải số tất xử lý định lượng, ví dụ: S2/S1 = S3/S2 = … = Z3/Z2; c) số đơn vị thí nghiệm xử lý phải Các cơng thức tính tốn áp dụng cho định lượng có bố trí thí nghiệm tuân thủ hạn chế nêu giới thiệu mục 3.2 Đối với định lượng có bố trí thí nghiệm khơng tn theo hạn chế nêu cơng thức tính tốn phức tạp không giới thiệu chuyên luận Trong mục 3.2.8 có trình bày số ví dụ để minh họa cho phần lý thuyết thống kê Có thể dùng số liệu ví dụ để kiểm tra phần mềm dùng phân tích thống kê kết định lượng sinh học 3.2 Mô hình đường thẳng song song 3.2.1 Giới thiệu Mơ hình đường thẳng song song dựa quan hệ tuyến tính đáp ứng Y logarithm X liều D Y = a + bX Trong đó: Y = đáp ứng mong đợi X = ln(liều) = ln(D) a b số Mơ hình đường thẳng song song minh họa đồ thị hình 3.2.1.-I Trên đồ thị, trục hồnh biểu diễn logarithm liều, trục tung biễu diễn đáp ứng đo Các đáp ứng riêng xử lý biểu thị chấm đen Hai đường đồ thị biểu diễn mối quan hệ logarithm liều đáp ứng đo chế phẩm chuẩn chế phẩm cần định lượng Từ trục tung kẻ đường thẳng song song với trục hoành, cắt hai đường ln(liều) – đáp ứng hai điểm Giá trị tương ứng hai diểm trục hoành ZS ZU , hai nồng độ chế phẩm chuẩn chế phẩm cần định lượng cho đáp ứng sinh học Vì pha dung dịch thử chế phẩm chuẩn chế phẩm cần định lượng ta giả định ZS = ZU, đó, đoạn thẳng ln(ZS) – ln(ZU) chênh lệch nồng độ thật nồng độ giả định chế phẩm cần định lượng thang logarithm Đó logarithm tỷ lệ hoạt lực chế phẩm chuẩn chế phẩm cần định lượng Z ln ( Z S ) − ln( ZU ) = ln S  ZU Vì ZS biết, ta tính ZU    Đáp ứng (y) Mẫu thử Chất chuẩn ZU ZS lnD Hình 3.2.1.-I – Mơ hình đường thẳng song song định lượng + Chú ý: logarithm tự nhiên ln (hay loge) sử dụng xuyên suốt chuyên luận này, đó, antilogarithm tương đương với ex Tuy nhiên, muốn, hoàn tồn dùng logarithm số 10 ( hay log10 ) thay cho ln, đó, antilogarithm tương ứng với 10x Trong định lượng, đoạn thẳng ln(ZS) – ln(ZU) nhỏ, tức hoạt lực giả định chế phẩm cần định lượng gần với hoạt lực thật nó, kết định lượng xác 3.2.2 Bố trí thí nghiệm Các định lượng sinh học bố trí theo số cách khác trình bày 3.2.2.1 Bố trí thí nghiệm ngẫu nhiên hồn tồn Nếu tồn đơn vị thí nghiệm (động vật, ống nghiệm,…) tương đối đồng nhất, việc định đơn vị thí nghiệm cho xử lý khác phải tiến hành cách ngẫu nhiên, ví dụ dùng bảng hốn vị ngẫu nhiên Nếu chia đơn vị thí nghiệm thành phân nhóm, ví dụ theo vị trí vật lý hay ngày thí nghiệm, mà đáp ứng đo có độ phân tán nhỏ hơn, ta tăng độ xác định lượng cách áp dụng số hạn chế cách bố trí thí nghiệm Sự xếp đơn vị thí nghiệm theo hạn chế cho phép loại bỏ số nguồn gây sai số không liên quan 3.2.2.2 Bố trí thí nghiệm ngẫu nhiên theo khối Trong kiểu bố trí thí nghiệm này, giảm sai số định lượng cách tách độ phân tán khối, ví dụ độ phân tán hộp Petri định lượng vi sinh vật phương pháp khuếch tán, khỏi sai số tồn phần Bố trí thí nghiệm ngẫu nhiên theo khối đòi hỏi khối phải có số xử lý thích hợp khối (ví dụ hộp Petri) đủ lớn để chứa tất xử lý định lượng Bảng 3.2.3.-V trình bày cơng thức tính tốn áp dụng cho định lượng có bố trí thí nghiệm ngẫu nhiên theo khối, xử lý xuất lần khối (Bố trí thí nghiệm ngẫu nhiên theo khối khơng lặp) Ví dụ minh họa cho kiểu bố trí thí nghiệm trình bày ví dụ 3.2.8.2 3.2.2.3 Bố trí thí nghiệm hình vng Latin Kiểu bố trí thí nghiệm thích hợp với định lượng mà đáp ứng chịu ảnh hưởng nguồn gây sai số khác nhau, nguồn sai số có k mức hay k vị trí khác Ví dụ, định lượng kháng sinh phương pháp khuếch tán xử lý thành k × k dãy khay lớn, xử lý xuất lần hàng cột Chỉ áp dụng kiểu bố trí thí nghiệm hình vng Latin số hàng với số cột số xử lý chế phẩm phải Các đáp ứng đo được ghi vào bảng hình vng gọi hình vng Latin Sai số chênh lệch đáp ứng k hàng k cột tách khỏi sai số tồn phần, làm giảm sai số định lượng Bảng 3.2.3.-V trình bày cơng thức tính tốn áp dụng cho định lượng có bố trí thí nghiệm hình vng Latin, xử lý xuất lần hàng cột Ví dụ minh họa cho kiểu bố trí thí nghiệm trình bày ví dụ 3.2.8.3 3.2.2.4 Bố trí thí nghiệm chéo Kiểu bố trí thí nghiệm áp dụng trường hợp đơn vị thí nghiệm chia thành khối khác nhau, khối nhận hai xử lý, ví dụ khối gồm đơn vị thí nghiệm thử hai lần vào hai thời điểm khác Mục đích kiểu bố trí chéo làm tăng độ xác định lượng cách loại trừ ảnh hưởng khác biệt đơn vị thí nghiệm Nếu định lượng tiến hành với liều chế phẩm chuẩn chế phẩm cần định lượng, ta có kiểu thí nghiệm chéo đơi Bảng 3.2.2.-I – Cách xếp liều bố trí thí nghiệm chéo Nhóm đơn vị thí nghiệm Giai đoạn I Giai đoạn II s1 s2 u1 u2 u2 u1 s2 s1 Trong thí nghiệm chéo đơi, định lượng chia thành hai giai đoạn, giai đoạn tiến hành vào thời điểm khác Các đơn vị thí nghiệm chia thành bốn nhóm, nhóm nhận bốn xử lý giai đoạn đầu thí nghiệm Đơn vị nhận chế phẩm giai đoạn đầu nhận chế phẩm khác giai đoạn sau, đơn vị nhận liều thấp giai đoạn đầu nhận liều cao giai đoạn sau Cách xếp liều cho Bảng 3.2.2.-I Ví dụ minh họa cho kiểu bố trí thí nghiệm trình bày ví dụ 3.2.8.4 3.2.3 Phân tích phương sai Mục trình bày cơng thức cần thiết để phân tích phương sai Người đọc dễ hiểu tham khảo thêm ví dụ mục 3.2.8 ký hiệu thuật ngữ mục Các cơng thức trình bày áp dụng cho định lượng đối xứng hay nhiều chế phẩm cần thử (U, …, Z) so sánh với chế phẩm chuẩn S, với điều kiện định lượng phải đáp ứng điều kiện sau: 1) tỷ lệ liều tất chế phẩm phải số, 2) số xử lý chế phẩm 3) số đơn vị thí nghiệm xử lý phải (xem mục 3.1.3) Ngoại trừ vài khác biệt nhỏ cách tính sai số dư, phương pháp phân tích số liệu định lượng sinh học giống kiểu bố trí thí nghiệm ngẫu nhiên hồn tồn, ngẫu nhiên theo khối hình vng Latin Bố trí thí nghiệm chéo có cơng thức tính hồn tồn khác trình bày trực tiếp ví dụ 3.2.8.4 Để chuẩn bị số liệu cho phân tích phương sai, phải tính tổng đáp ứng liều, tổng đáp ứng tương phản tuyến tính (linear contrast) chế phẩm, định lượng có nhiều hai liều chế phẩm, cần tính thêm tương phản bậc hai (quadratic contrast) Các Bảng 3.2.3.-I, 3.2.3.-II 3.2.3.-III trình bày cơng thức tính Bảng 3.2.3.-I – Cơng thức tính tốn cho định lượng chế phẩm có hai liều Tổng đáp ứng liều thấp Tổng đáp ứng liều cao Tổng đáp ứng chế phẩm Tương phản tuyến tính Chế phẩm chuẩn S Chế phẩm thử thứ U Chế phẩm thử thứ (h – 1) Z S1 U1 Z1 S2 U2 Z2 S1 + S2 = S U1 + U2 = U Z1 + Z2 = Z S2 – S1 = LS U2 – U1 = LU Z2 – Z1 = LZ Bảng 3.2.3.-II – Công thức tính tốn cho định lượng chế phẩm có ba liều Tổng đáp ứng liều thấp Tổng đáp ứng liều trung bình Tổng đáp ứng liều cao Tổng đáp ứng chế phẩm Tương phản tuyến tính Tương phản bậc hai Chế phẩm chuẩn S Chế phẩm thử thứ U Chế phẩm thử thứ (h – 1) Z S1 U1 Z1 S2 U2 Z2 S3 U3 Z3 S1 + S2 + S3 = S U1 + U2 + U3 = U Z1 + Z2 + Z3 = Z S3 – S1 = LS U3 – U1 = LU Z3 – Z1 = LZ S1 – 2S2 + S3 = QS U1 – 2U2 + U3 = QU Z1 – 2Z2 + Z3 = QZ Bảng 3.2.3.-III – Cơng thức tính tốn cho định lượng chế phẩm có bốn liều Tổng đáp ứng liều thấp Tổng đáp ứng liều thứ hai Tổng đáp ứng liều thứ ba Tổng đáp ứng liều cao Tổng đáp ứng chế phẩm Tương phản tuyến tính Tương phản bậc hai Tương phản bậc ba Chế phẩm chuẩn S Chế phẩm thử thứ U Chế phẩm thử thứ (h – 1) Z S1 U1 Z1 S2 U2 Z2 S3 U3 Z3 S4 U4 Z4 S1 + S2 + S3 + S4 = S U1 + U2 + U3 + U4 = U Z1 + Z2 + Z3 + Z4 = Z 3U4 + U3 – U2 – 3U1 = LU U1 – U2 – U3 + U4 = QU 3Z4 + Z3 – Z2 – 3Z1 = LZ Z1 – Z2 – Z3 + Z4 = QZ 3U2 – U1 + U4 – 3U3 = JU 3Z2 – Z1 + Z4 – 3Z3 = JZ 3S4 + S3 – S2 – 3S1 = LS S1 - S2 - S3 + S4 = QS 3S2 – S1 + S4 – 3S3 = JS Trong bước kế tiếp, sai số toàn phần định lượng, gọi sai số chung, phân tích thành sai số riêng phần trình bày Bảng 3.2.3.-IV, tổng bình phương tính từ giá trị thu Bảng 3.2.3.-I, 3.2.3.-II 3.2.3.-III Bảng 3.2.3.-IV Kiểm tra tính có giá trị định lượng Nguồn gây sai số Bậc tự (f) Chế phẩm h-1 Hồi qui tuyến tính Tính khơng song song h-1 Tổng bình phương liều/chế phẩm S + U + + Z −K 2n ( LS + LU + + LZ ) 2nh =E L2S + LU2 + + L2Z −E 2n liều/chế phẩm S + U + + Z −K 3n ( LS + LU + + LZ ) 2nh =E L2S + LU2 + + L2Z −E 2n liều/chế phẩm S + U + + Z −K 4n ( LS + LU + + LZ ) 20nh =E L2S + LU2 + + L2Z −E 20n Tính khơng tuyến tính (Độ cong) h (3 liều) 2h (4 liều) QS2 + QU2 + + QZ2 6n - QS2 + QU2 + + QZ2 + 4n J S2 + JU2 + + J Z2 20n Tính sai số dư (residual error) cách lấy sai số toàn phần định lượng trừ sai số riêng nguồn gây sai số khác (Bảng 3.2.3.-V), nguồn gây sai số nhận dạng khác tùy theo kiểu bố trí thí nghiệm Trong Bảng 3.2.3.-V, ∑y2 tổng bình phương tất đáp ứng đo định lượng, K số hiệu chỉnh: ( y) K= ∑ N Kết thúc phân tích phương sai cách chia tổng bình phương tính từ Bảng 3.2.3.IV cho bậc tự tương ứng để bình phương trung bình Bình phương trung bình sai số dư tính theo cách tương tự, dùng số liệu tương ứng Bảng 3.2.3.-V Bình phương trung bình biến số cần kiểm tra biểu diễn dạng tỷ số với sai số dư s2, gọi tỷ số F Đánh giá mức ý nghĩa tỷ số F cách so sánh F tính (viết tắt Fcal.) với giá trị F tới hạn (viết tắt Fcrit.) tra từ Bảng 3.2.4.-I hay cách dùng phần mềm vi tính thích hợp Nếu dùng bảng tra cứu, đọc Fcrit từ Bảng 3.2.4.-I giao điểm cột tương ứng với bậc tự bình phương trung bình biến số cần kiểm tra (f1) hàng tương ứng với bậc tự s2 (f2) Biến số cần kiểm tra coi có ý nghĩa Fcal > Fcrit xác suất P = 0,05 hay có ý nghĩa Fcal > Fcrit xác suất P = 0,01 Bảng 3.2.3.-V – Tính sai số dư Nguồn gây sai số Bậc tự (f) Giữa xử lý Tổng bình phương Ngẫu nhiên hồn tồn Ngẫu nhiên theo khối k–1 S12 + S 22 + + Z d2 −K n S12 + S22 + + Z d2 −K n S12 + S 22 + + Z d2 −K n Giữa khối (hàng) n–1 - R12 + R22 + + Rn2 −K k R12 + R22 + + Rn2 −K k Giữa khối (cột) n–1 - - C12 + C22 + + Cn2 −K k Hiệu số * * * N–1 ∑ y2 − K ∑ y2 − K ∑ y2 − K Sai số dư Sai số tồn phần Hình vng Latin * Lấy sai số toàn phần trừ tổng bình phương tương ứng phương pháp bố trí thí nghiệm 3.2.4 Kiểm tra tính có giá trị định lượng Một định lượng coi có giá trị thống kê (statistically valid) nếu: 1) Đại lượng hồi qui tuyến tính có ý nghĩa, Fcal > Fcrit xác suất P = 0,01 (P < 0,01), chứng tỏ độ dốc đường ln(liều) – đáp ứng khác 2) Đại lượng khơng tuyến tính (non-linearity) phải khơng có ý nghĩa, Fcal < Fcrit xác suất 0,05 (P > 0,05), chứng tỏ thoả mãn điều kiện 4, tức đường ln(liều) – đáp ứng chế phẩm chuẩn S chế phẩm thử (U,…,Z) thẳng 3) Đại lượng không song song (non-parallelism) phải khơng có ý nghĩa, Fcal < Fcrit xác suất 0,05 (P > 0,05), chứng tỏ định lượng đáp ứng điều kiện 5, hay nói cách khác đường ln(liều) – đáp ứng chế phẩm thử (U,…,Z) song song với đường ln(liều) – đáp ứng chế phẩm chuẩn S Nếu đại lượng không song song có ý nghĩa định lượng có h chế phẩm, kể chế phẩm chuẩn, số chế phẩm cần thử có độ dốc đường ln(liều) – đáp ứng khác với chế phẩm lại Tính t’ (phép kiểm tra Dunnett) chế phẩm cần định lượng (U, …, Z) theo công thức: t′ = LS − LU (3.2.4.-I) ns Đối với định lượng có bốn liều chế phẩm, tính t’ theo cơng thức: t′ = LS − LU 10ns So sánh t’ tính với giá trị tới hạn đọc từ Bảng 3.2.4.-II, với f1 = h – 1, f2 bậc tự s2 Nếu t’ có ý nghĩa với chế phẩm bất kỳ, loại bỏ tất số liệu liên quan đến chế phẩm lặp lại từ đầu phép kiểm tra tính có giá trị với chế phẩm lại Sai số chế phẩm khơng dùng để kiểm tra tính có giá trị định lượng, nhiên, định lượng mà sai số dư lớn cách bất thường tỷ số F nguồn gây sai số chế phẩm có ý nghĩa, hoạt lực giả định chế phẩm cần định lượng khác với hoạt lực thật nó, cần phải lặp lại định lượng dùng hoạt lực tính làm hoạt lực giả định Bảng 3.2.4.-I – Mức ý nghĩa tỷ số F f2 f1 20 ∞ 12 4,75 3,89 3,49 3,26 3,11 3,00 2,91 2,85 2,54 2,30 9,33 6,93 5,95 5,41 5,06 4,82 4,64 4,50 3,86 3,36 15 4,54 3,68 3,29 3,06 2,90 2,79 2,71 2,64 2,33 2,07 8,68 6,36 5,42 4,89 4,56 4,32 4,14 4,00 3,37 2,87 20 4,35 3,49 3,10 2,87 2,71 2,60 2,51 2,45 2,12 1,84 8,10 5,85 4,94 4,43 4,10 3,87 3,70 3,56 2,94 2,42 25 4,24 3,39 2,99 2,76 2,60 2,49 2,40 2,34 2,01 1,71 7,77 5,57 4,68 4,18 3,85 3,63 3,46 3,32 2,70 2,17 30 4,17 3,32 2,92 2,69 2,53 2,42 2,33 2,27 1,93 1,62 7,56 5,39 4,51 4,02 3,70 3,47 3,30 3,17 2,55 2,01 40 4,08 3,23 2,84 2,61 2,45 2,34 2,25 2,18 1,84 1,51 7,31 5,18 4,31 3,83 3,51 3,29 3,12 2,99 2,37 1,80 60 4,00 3,15 2,76 2,53 2,37 2,25 2,17 2,10 1,75 1,39 7,08 4,98 4,13 3,65 3,34 3,12 2,95 2,82 2,20 1,60 ∞ 3,84 3,00 2,60 2,37 2,21 2,10 2,01 1,94 1,57 1,00 6,63 4,61 3,78 3,32 3,02 2,80 2,64 2,51 1,88 1,00 * Nếu F tính > F tới hạn, biến số cần kiểm tra coi có ý nghĩa (dòng trên, p = 0,05), hay có ý nghĩa (dòng dưới, p = 0,01) f1 bậc tự tử số, f2 bậc tự mẫu số Bảng 3.2.4.-II – Mức ý nghĩa t’ f2 2,57 2,45 2,36 2,31 f1 = (h – 1) = số chế phẩm cần định lượng 3,03 3,29 3,48 3,62 3,73 3,82 2,86 3,10 3,26 3,39 3,49 3,57 2,75 2,97 3,12 3,24 3,33 3,41 2,67 2,88 3,02 3,13 3,22 3,29 3,90 3,64 3,47 3,35 3,97 3,71 3,53 3,41 10 11 12 13 14 15 16 17 18 19 20 24 30 40 60 120 ∞ 2,26 2,23 2,20 2,18 2,16 2,14 2,13 2,12 2,11 2,10 2,09 2,09 2,06 2,04 2,02 2,00 1,98 1,96 2,61 2,57 2,53 2,50 2,48 2,46 2,44 2,42 2,41 2,40 2,39 2,38 2,35 2,32 2,29 2,27 2,24 2,21 2,81 2,76 2,72 2,68 2,65 2,63 2,61 2,59 2,58 2,56 2,55 2,54 2,51 2,47 2,44 2,41 2,38 2,35 2,95 2,89 2,84 2,81 2,78 2,75 2,73 2,71 2,69 2,68 2,66 2,65 2,61 2,58 2,54 2,51 2,47 2,44 3,05 2,99 2,94 2,90 2,87 2,84 2,82 2,80 2,78 2,76 2,75 2,73 2,70 2,66 2,62 2,58 2,55 2,51 3,14 3,07 3,02 2,98 2,94 2,91 2,89 2,87 2,85 2,83 2,81 2,80 2,76 2,72 2,68 2,64 2,60 2,57 3,20 3,14 3,08 3,04 3,00 2,97 2,95 2,92 2,90 2,89 2,87 2,86 2,81 2,77 2,73 2,69 2,65 2,61 3,26 3,19 3,14 3,09 3,06 3,02 3,00 2,97 2,95 2,94 2,92 2,90 2,86 2,82 2,77 2,73 2,69 2,65 3,32 3,24 3,19 3,14 3,10 3,07 3,04 3,02 3,00 2,98 2,96 2,95 2,90 2,86 2,81 2,77 2,73 2,69 Nếu định lượng thỏa mãn phép kiểm tra tính có giá trị, hay nói cách khác, định lượng có giá trị thống kê, tiếp tục tính hoạt lực giới hạn tin cậy phương pháp mơ tả mục 3.2.5 Tính hoạt lực giới hạn tin cậy Để tính hoạt lực giới hạn tin cậy, trước hết phải tính đáp ứng trung bình chế phẩm ( yS , yU , , yZ ) : yS = S NS (3.2.5.-1) Tiến hành tương tự với chế phẩm khác Gọi I khoảng cách ln liều chế phẩm (I số định lượng), ví dụ I = ln(S2) – ln(S1), độ dốc chung (b) định lượng bao gồm h chế phẩm, chế phẩm có d liều khác tính theo công thức: b= LS + LU + + LZ ( d − 1) Inh (3.2.5.-2) Đối với định lượng chế phẩm có bốn liều, tính b theo công thức: b= LS + LU + + LZ 10 Inh ln(tỷ lệ hoạt lực) chế phẩm cần định lượng U tính theo cơng thức: M U' = yU − y S b (3.2.5.-3) Gọi AU hoạt lực giả định chế phẩm U, logarithm hoạt lực U (MU) bằng: M U = M U' + ln ( AU ) (3.2.5.-4) Hoạt lực tính ước lượng hoạt lực thật chế phẩm cần định lượng Các giới hạn tin cậy hoạt lực tính khoảng có khả chứa hoạt lực thật chế phẩm cần định lượng với xác suất 95 % Logarithm giới hạn tin cậy tính theo cơng thức sau: ln ( AU ) + CM U' ± st C b (y − y ) 1 + + S 2U N S NU E−s t (3.2.5.-5) Độ cong = QS2 + QU2 32 + 12 = = 0,278 6n 36 Giữa xử lý = S12 + S 22 + S32 + U12 + U 22 + U 32 − K = 21.085,137 Giữa khối = R12 + R22 + R32 + R42 + R52 + R62 − K = 75,805 Toàn phần = ∑ y − K = 21.188,97 Sai số dư = Toàn phần – Giữa xử lý – Giữa khối = 28,03 Bảng 3.2.8.2.-IV – Phân tích phương sai Nguồn gây sai số Bậc tự Chế phẩm Hồi qui tuyến tính Khơng song song Độ cong Giữa xử lý Giữa khối (hộp Petri) Sai số dư Sai số tồn phần 1 Tổng bình phương 78,03 21.004,17 Bình phương trung bình Tỷ số F Xác suất 78,03 21.004,17 18.737 < 0,01 2,67 2,67 2,4 > 0,05 5 0,28 21.085,14 75,80 0,16 0,1 > 0,05 15,16 13,5 < 0,01 25 35 28,03 21.188,97 1,121 Kết phân tích phương sai cho thấy khác có ý nghĩa (P < 0,01) kích thước đường kính vòng vơ khuẩn hộp Petri Nếu thí nghiệm bố trí theo kiểu ngẫu nhiên hồn tồn, sai số khối không tách khỏi sai số tồn phần, sai số dư s2 lớn hơn, dẫn đến khoảng tin cậy rộng Đây ưu điểm bố trí thí nghiệm ngẫu nhiên theo khối so với bố trí thí nghiệm kiểu ngẫu nhiên hoàn toàn Kiểm tra giá trị định lượng Hồi qui tuyến tính có ý nghĩa (P < 0,01), đại lượng không song song độ cong khơng có ý nghĩa (P > 0,05), định lượng có giá trị thống kê Tính hoạt lực giới hạn tin cậy yU − yS = U − S − 53 = 3n 18 Tỷ lệ nồng độ 2,0, đó: I = ln ( 2) = 0,69315 Với P = 0,95 f = 25, t = 2,06 (Bảng 5.1) b= LS + LU 710 = = 42,6797 Inh 24 I M′ = yU − yS = −0,0690 b M = M ′ + ln ( AU ) = −0,0690 + ln (1.500) = 7,2442 Hoạt lực chế phẩm U R = antiln(M) = 1.400 IU/ml C= E 21.004,17 = = 1,0002 2 E−s t 21.004,17 − 1,121× 2,06 H= E 21.004,17 = = 0,640605 b dn (42,6797) × × ( C − 1) (CM ′2 + H ) = (1,0002 − 1) (1,0002 × ( − 0,0690) + × 0,640605) = 0,00026 Các ln(giới hạn tin cậy) bằng: ln ( AU ) + CM ′ ± 0,00026 = ln(1.500 ) + 1,0002 × ( − 0,0690 ) ± 0,00026 = 7,2442 ± 0,0160 Các giới hạn tin cậy 1.378 1.423 IU/ml Nếu phân tích máy tính, kết là: C = 1,000227 ( C − 1) (CM ′2 + H ) = 0,00029128 Khoảng tin cậy: 1.376,3 – 1.424,1 IU/ml Ví dụ 3.2.8.3 Định lượng liều với chế phẩm thử, bố trí thí nghiệm theo hình vng Latin không lặp Định lượng kháng sinh phương pháp khuếch tán, dùng khay vng Chế phẩm chuẩn có hoạt lực biết trước 4.855 IU/mg Chế phẩm thử có hoạt lực giả định 5.600 IU/mg Pha dung dịch gốc cách hòa tan 25,2 mg chế phẩm chuẩn 21,4 mg chế phẩm thử lượng vừa đủ dung mơi pha lỗng để 25 ml Sau đó, pha loãng dung gốc đến nồng độ pha loãng 1/20 tiếp tục pha loãng xa với tỷ lệ pha loãng 1:1,5 để dung dịch thử cuối chuẩn mẫu Các dung dịch thử chuẩn mẫu bố trí khay theo bố trí thí nghiệm hình vng Latin Bảng 3.2.8.3.-I Các đường kính vòng vơ khuẩn định lượng trình bày Bảng 3.2.8.3.-II Trung bình đường kính vòng vơ khuẩn, phương sai (vari) ln(vari) nhóm dung dịch thử trình bày Bảng 3.2.8.3.-III Bảng 3.2.8.3.-I Cách bố trí dung dịch thử khay s1 u1 u2 s3 s2 u3 u1 u3 s3 s2 u2 s1 u2 s1 s2 u3 s3 u1 s3 s2 s1 u1 u3 u2 s2 u2 u3 s1 u1 s3 u3 s3 u1 u2 s1 s2 Kiểm tra tính đồng phương sai Đối với nhóm gồm k phương sai, phương sai có f = ( n – 1) bậc tự do, công thức tính sau:   var   3kf k ln ∑ i  − ∑ ln vari    k   χ2 = 3kf + k + Với k = 6, bậc tự f = 5, công thức rút gọn thành: χ2 = =  450   ∑ vari  × 6 ln  − ∑ ln vari  97     450  209,20  ×  ln − 20,494  = 3,78 97   Giá trị tính nhỏ giá trị tới hạn 11,07 đọc từ Bảng 5.2 với P = 0,95 f = (k – 1) = Do đó, khác biệt phương sai nhóm dung dịch thử khơng có ý nghĩa thống kê Bảng 3.2.8.3.-II Đáp ứng y – đường kính vòng vơ khuẩn ( mm × 10 ) 161 160 178 187 171 194 151 192 150 172 170 192 162 195 174 161 193 151 194 184 199 160 163 171 176 181 201 202 154 151 193 166 161 186 198 182 C1 = 1.037 C2 = 1.078 C3 = 1.063 C4 = 1.068 C5 = 1.049 C6 = 1.041 Tổng cột Tổng hàng R1 = 1.051 R2 = 1.027 R3 = 1.036 R4 = 1.071 R5 = 1.065 R6 = 1.086 Bảng 3.2.8.3.-III Trung bình đường kính vòng vơ khuẩn phương sai nhóm dung dịch thử Trung bình Phương sai (vari) ln (vari) Chế phẩm chuẩn S s1 s2 s3 161 171 187 150 172 192 161 174 195 163 184 194 151 176 201 166 182 198 158,67 176,5 194,50 Chế phẩm thử U u1 u2 u3 160 178 194 151 170 192 151 162 193 160 171 199 154 181 202 161 186 193 156,1 174,6 195,50 7 Tổng số 43,47 28,70 23,50 22,17 75,07 16,30 ∑ vari = 209,20 3,772 3,357 3,157 3,099 4,318 2,791 ∑ ln ( vari ) = 20,494 Bảng 3.2.8.3.-IV – Các tổng đáp ứng tương phản tuyến tính (xem cơng thức tính Bảng 3.2.3.II) Chế phẩm chuẩn S Liều thấp Liều trung bình Liều cao Tổng đáp ứng chế phẩm Tương phản tuyến tính S1 = 952 S2 = 1.059 S3 = 1.167 Chế phẩm thử Tổng số U U1 = 937 U2 = 1.048 U3 = 1.173 S = 3.178 U = 3.158 ∑ y = 6.336 LS = 215 LU = 236 ∑ L = 451 Tương phản bậc hai QS = ∑ Q = 15 QU = 14 ( y ) = 6.336 = 1.115 136 K= ∑ N 36 2 ∑ y = 1.124.692 Các tổng bình phương tính công thức Bảng 3.2.3.-IV 3.2.3.-V với giá trị Bảng 3.2.8.3.-II Bảng 3.2.8.3.-IV Chế phẩm = S2 +U 3.1782 + 3.1582 −K = − 1.115 136 = 11,1111 3n 18 Hồi qui tuyến tính = Không song song = ( LS + LU ) 2nh = 4512 = 8.475,0417 = E 24 L2S + LU2 2152 + 236 −E = − 8.475,0417 = 18,3750 2n 12 Độ cong (khơng tuyến tính) = QS2 + QU2 152 = = 5,4722 6n 36 Giữa xử lý = S12 + S 22 + S32 + U12 + U 22 + U 32 952 + 1.059 + + 1.1732 −K = − 1.115 136 = 8.510 n Giữa hàng = R12 + R22 + R32 + R42 + R52 + R62 1.0512 + 1.027 + + 1.086 −K = − 1.115 136 = 412 k Giữa cột = C12 + C22 + C32 + C42 + C52 + C62 1.037 + 1.0782 + + 1.0412 −K = − 1.115 136 = 218,6667 k Toàn phần = ∑ y − K = 1.124.692 − 1.115 136 = 9.556 Sai số dư = Toàn phần – Giữa xử lý – Giữa hàng – Giữa cột = 415,3333 Bảng 3.2.8.3.-V – Phân tích phương sai Nguồn gây sai số Bậc tự Chế phẩm Hồi qui tuyến tính Khơng song song Độ cong Giữa xử lý Giữa hàng Giữa cột Sai số dư Sai số toàn phần 1 Tổng bình phương 11,1111 8.475,0417 5 20 35 Bình phương trung bình Tỷ số F Xác suất 11,1111 8.475,0417 408,1 < 0,01 18,3750 18,3750 0,885 > 0,05 5,4722 8510 412 218,6667 415,3333 9.556 2,7361 0,132 > 0,05 82,40 43,73 20,7667 3.968 2,106 < 0,05 > 0,05 Phân tích phương sai cho thấy khác có ý nghĩa (P < 0,05) hàng chứng tỏ bố trí thí nghiệm hình vng Latin cho độ xác cao bố trí thí nghiệm ngẫu nhiên hồn tồn Kiểm tra tính có giá trị định lượng Hồi qui tuyến tính có ý nghĩa (P < 0,01), độ lệch khỏi tính tuyến tính tính song song đường ln(liều) – đáp ứng ý nghĩa (P > 0,05), định lượng thỏa mãn phép kiểm tra tính có giá trị Tính hoạt lực giới hạn tin cậy Tỷ lệ nồng độ 1,5, I = ln(1,5) = 0,405465 Với P = 0,95 f = 20, t = 2,09 (Bảng 5.1) yS = S 3.178 = = 176,556 NS 18 yU = U 3.158 = = 175,444 NU 18 b= LS + LU 451 = = 46,346 Inh 24 I M′ = yU − yS 175,444 − 176,556 = = −0,023974 b 46,346 M = M ′ + ln ( AU ) = −0,023974 + ln ( 5.600 ) = 8,606548 Hoạt lực chế phẩm U R = antiln(M) = 5.467,3 IU/mg C= E 8.475,0417 = = 1,0108 2 E−s t 8.475,0417 − 20,7667 × 2,09 H= E 8.475,0417 = = 0,2192 b dn 46,346 × × Các ln(giới hạn tin cậy) tính theo cơng thức: ln ( AU ) + CM ′ ± ( C − 1) (CM ′2 + H ) = = ln ( 5.600 ) + 1,0108 × ( − 0,023974 ) ± 0,0108 × 1,0108 × ( − 0,023974 ) + × 0,2192 = 8,60629 ± 0,06878 Các giới hạn tin cậy 5.102,6 5.855,1 IU/mg Vì dung dịch gốc chế phẩm chuẩn chế phẩm thử khơng hồn tồn nhau, cần hiệu chỉnh hoạt lực tính giới hạn tin cậy cách nhân với hệ số hiệu chỉnh: 4.855 × 25,2 / 25 = 1,02091 5.600 × 21,4 / 25 Sau hiệu chỉnh, hoạt lực tính 5.582 IU/mg với giới hạn tin cậy từ 5.209 đến 5.977 IU/mg xác suất 95 % Ví dụ 3.2.8.4 Định lượng chéo đơi Định lượng insulin phương pháp tiêm da thỏ Các dung dịch thử chế phẩm chuẩn có nồng độ IU/ml Hoạt lực giả định chế phẩm thử 40 IU/ml pha loãng thành dung dịch thử có nồng độ tương đương với dung dịch thử chế phẩm chuẩn Tiêm da thỏ thí nghiệm với liều 0,5 ml dung dịch thử theo sơ đồ Bảng 3.2.8.4.-I Các kết thí nghiệm trình bày Bảng 3.2.8.4.-II Phương sai lớn cho thấy đáp ứng không đồng thỏ thí nghiệm với hoạt chất cần định lượng giải thích cho cần thiết phải dùng bố trí thí nghiệm chéo Bảng 3.2.8.4.-I – Cách xếp xử lý Ngày thí Nhóm thỏ nghiệm Ngày I Ngày II s1 u2 s2 u1 u1 s2 u2 s1 Kiểm tra tính đồng phương sai phép kiểm tra Hartley Tính tỷ số F theo công thức: F= varmax 1.215,1 = = 5,3 varmin 230,6 Trong varmax phương sai lớn varmin phương sai nhỏ k phương sai cần kiểm tra F tính nhỏ F tới hạn 12,7 đọc từ Bảng 5.3 với P = 0,95, k = bậc tự f = Do đó, khác phương sai nhóm dung dịch thử khơng có ý nghĩa thống kê Nếu dùng phép kiểm tra Bartlett với số liệu, giá trị tính 6,4 so với giá trị tới hạn 14,1 Trong định lượng bố trí thí nghiệm chéo, tổng đáp ứng tương phản tuyến tính tính riêng rẽ cho giai đoạn thí nghiệm Kết tính tốn trình bày Bảng 3.2.8.4.-III Bảng 3.2.8.4.-II – Đáp ứng y: glucose huyết (mg/100 ml) 1½ Nhóm Trung bình Phương sai s1 u2 112 126 62 86 52 110 116 101 95,6 104 112 58 63 53 113 91 68 82,8 709,7 627,9 Nhóm Tổng số 216 238 120 149 105 223 207 169 s2 u1 65 116 73 47 88 63 50 55 69,6 72 160 72 93 113 71 65 100 93,3 525,1 1.012,5 Nhóm Tổng số 137 276 145 140 201 134 115 155 u1 s2 105 83 125 56 92 101 66 91 89,9 91 67 67 45 84 56 55 68 66,6 479,6 230,6 Bảng 3.2.8.4.-III – Các tổng đáp ứng tương phản tuyến tính Chế phẩm chuẩn S Chế phẩm thử U Tổng số Ngày I Nồng độ thấp Nồng độ cao Tổng số S1I = 765 S2I = 557 SI = 1.322 U1I = 719 U2I = 579 UI = 1.298 DI = 2.620 Ngày II Nồng độ thấp Nồng độ cao Tổng số S1II = 854 S2II = 533 SII = 1.387 U1II = 746 U2II = 662 UII = 1.408 DII = 2.795 Tổng chế phẩm S = 2.709 U = 2.706 ∑ y = 5.415 Tương phản tuyến tính Ngày I Ngày II LSI = -208 LSII = -321 LUI = -140 LUII = -84 LI = -348 LII = -405 Nhóm Tổng số 196 150 192 101 176 157 121 159 u2 s1 118 119 42 64 93 73 39 31 72,4 144 149 51 107 117 128 87 71 106,8 1.214,3 1.215,1 Tổng số 262 268 93 171 210 201 126 102 Tổng số LS = -529 LU = -224 ∑ L = −753 Phân tích phương sai định lượng bố trí thí nghiệm chéo phức tạp kiểu bố trí thí nghiệm khác độ phân tán, biểu diễn tổng bình phương, gây tính song song khơng độc lập với độ phân tán đơn vị thí nghiệm (trong ví dụ thỏ) Tính song song đường hồi qui kiểm tra đại lượng sai số bình phương trung bình phụ, tính cách lấy tổng bình phương thỏ thí nghiệm trừ thành phần song song hai thành phần tương tác Ba thành phần tương tác đưa thêm vào phân tích phương sai gây lặp lại nhóm thỏ thí nghiệm, gồm: ngày × chế phẩm; ngày × hồi qui; ngày × tính song song Ba đại lượng biểu thị khuynh hướng biến thiên từ ngày thí nghiệm sang ngày thí nghiệm khác nguồn gây sai số chế phẩm, hồi qui tính song song Giá trị thống kê định lượng phụ thuộc vào mức ý nghĩa tỷ số F tương ứng ba đại lượng nói Nếu F tính có ý nghĩa, Fcal > Fcrit P = 0,01, cần phải thận trọng suy diễn kết định lượng, có thể, phải lặp lại định lượng ( y ) = 5.415 = 458.159,77 K= ∑ N 64 2 ∑ y = 511 583 Tính giá trị tổng bình phương chế phẩm, hồi qui không song song theo công thức Bảng 3.2.3.-IV với số liệu Bảng 3.2.8.4.-III Chú ý định lượng n = 16, tổng số đáp ứng xử lý qua hai ngày thí nghiệm Chế phẩm = S2 +U 2.709 + 2.706 −K = − 458.159,77 = 0,14 2n 32 Hồi qui tuyến tính = ( LS + LU ) 2nh = ( − 753) 64 = 8.859,52 = E ( − 529) + ( − 224) − 8.859,52 = 1.453,51 L2S + LU2 −E = 2n 32 Không song song = B2 216 + 2382 + 102 Giữa khối (thỏ) = ∑ i − K = − 458.159,77 = 39.794,73 2 Bi tổng đáp ứng thỏ thí nghiệm Bảng 3.2.8.4.-II Giữa ngày = DI2 + DII2 2.620 + 2.7952 −K = − 458.159,77 = 478,51 2n 32 DI DII tổng đáp ứng ngày thí nghiệm ( S − S II − U I + U II ) = 1.3222 − 1.387 − 1.2982 + 1.4082 = 31,64 Giữa ngày × Chế phẩm = I N 64 SI, SII, UI UII tổng đáp ứng chế phẩm ngày ( L − LSI + LUII − LUI ) = [ ( − 321) − ( − 208) + ( − 84) − ( − 140) ] = 50,77 Giữa ngày × hồi qui = SII N 64 Giữa ngày × Khơng song song = ( LSII − LSI − LUII + LUI ) = [ ( − 321) − ( − 208) − ( − 84) + ( − 140) ] = 446,27 N 64 LSI, LSII, LUI LUII tương phản tuyến tính ngày thí nghiệm Tồn phần = ∑ y − K = 511 583 − 458.159,77 = 53.423,23 Sai số dư thỏ = Giữa khối – Không song song – (giữa ngày × chế phẩm) – (giữa ngày × hồi qui) = 39.794,73 – 1.453,51 – 31,64 – 50,76 = 38.258,81 Sai số dư thỏ = Toàn phần – Giữa khối – Giữa ngày – Chế phẩm – Hồi qui – (giữa ngày × khơng song song) = 53.423,23 – 39.794,73 – 478,51 – 0,14 – 8.859,52 – 446,27 = 3.844,06 Tính có giá trị định lượng Phân tích phương sai cho thấy định lượng thỏa mãn phép kiểm tra tính có giá trị: 1) Hồi qui tuyến tính có ý nghĩa: tỷ số F đại lượng hồi qui tính dựa sai số bình phương trung bình thỏ, Fcal = 64,5 > Fcrit = 7,63 với P = 0,01, f1 = f2 = 28 2) Tính song song đường hồi qui: phép kiểm tra tính song song định lượng chéo dựa sai số bình phương trung bình thỏ, Fcal = 1,06 < F(P = 0,05, f1 = 1, f2 = 28) = 4,19, chứng tỏ đường ln(liều) – đáp ứng chuẩn mẫu song song với 3) Ba thành phần tương tác khơng có ý nghĩa, tỷ số F tính 0,02, 0,04 3,25 nhỏ Fcrit = 4,19 Bảng 3.2.8.4.-IV – Phân tích phương sai Nguồn gây sai số 1 Tổng bình phương 1.453,5 31,6 28 31 1 1 28 63 Bậc tự Khơng song song Giữa ngày × chế phẩm Giữa ngày × hồi qui Sai số dư thỏ Giữa khối (thỏ) Chế phẩm Hồi qui Giữa ngày Giữa ngày × khơng song song Sai số dư thỏ Tồn phần Bình phương trung bình Tỷ số F Xác suất 1.453,5 31,6 1,06 0,02 > 0,05 > 0,05 50,8 38.258,8 39.794,7 0,1 8.859,5 478,5 446,3 50,8 1.366,4 1.283,7 0,1 8.859,5 478,5 446,3 0,04 > 0,05 0,00 64,5 3,48 3,25 > 0,05 < 0,01 > 0,05 > 0,05 3.844,1 53.423,2 137,3 847,9878472 Tính hoạt lực giới hạn tin cậy Tỷ lệ pha loãng 2, I = ln(2) = 0,69315 Với P = 0,95 f = 28, t = 2,05 (Bảng 5.1) yU − yS = b= U − S 2.706 − 2.709 − = = 2n 32 32 LS + LU − 753 = = −33,948 2nI 32 I M′ = yU − yS −3 = = 0,00276 b 32 × ( − 33,948) M = M ′ + ln ( AU ) = 0,00276 + ln ( 40) = 3,6916 Hoạt lực R = antiln(M) = antiln(0,00276) = 40,1 IU/ml C= E 8.859,5 = = 1,0697 2 E−s t 8.859,5 − 137,3 × 2,052 H= E 8.859,5 = = 0,24023 b dn ( − 33,948) × × 16 ( C − 1) (CM ′2 + H ) = 0,0697(1,0697 × 0,002762 + × 0,24023) = 0,033488 Logarithm giới hạn tin cậy bằng: ln ( AU ) + CM ′ ± 0,033488 = 3,6918 ± 0,1830 Giới hạn tin cậy hoạt lực từ 33,4 đến 48,2 IU/ml Phối hợp kết định lượng 4.1 Mở đầu Để đáp ứng yêu cầu Dược điển, ví dụ u cầu độ xác, phải lặp lại hai hay nhiều định lượng độc lập phối hợp kết định lượng để kết cuối xác đáng tin cậy Hai định lượng coi độc lập với q trình thực định lượng khơng gây ảnh hưởng đến kết định lượng khác Điều có nghĩa sai số ngẫu nhiên yếu tố chủ yếu ảnh hưởng đến kết định lượng (ví dụ: chuẩn bị dung dịch thử chuẩn mẫu thử, độ nhạy thị sinh học) định lượng phải độc lập với sai số ngẫu nhiên tương ứng định lượng Các định lượng thực vào ngày dùng dung dịch gốc chế phẩm chuẩn định lượng độc lập Có nhiều phương pháp phối hợp kết định lượng độc lập, nhiên, trình bày ba phương pháp gần tính đơn giản dễ áp dụng chúng Trước phối hợp, hoạt lực phải hiệu chỉnh với hoạt lực giả định chế phẩm thử (xem ví dụ 3.2.8.3) phải biểu diễn dạng logarithm 4.2 Phối hợp cân chỉnh kết định lượng (weighted combination) Phương pháp áp dụng thỏa mãn điều kiện sau: 1) định lượng phải độc lập với nhau; 2) đại lượng C định lượng phải nhỏ 1,1 (xem cơng thức 3.2.5-6 để biết cơng thức tính ý nghĩa C); 3) bậc tự sai số dư định lượng phải lớn 6, tốt lớn 15; 4) khác hoạt lực cần phối hợp phải ý nghĩa thống kê (xem mục 4.2.2) Nếu điều kiện không thỏa mãn, dùng phương pháp giới thiệu mục 4.3 để tính hoạt lực trung bình lấy kết tính làm hoạt lực giả định cho lần định lượng 4.2.1 Tính hệ số cân chỉnh W Giả sử kết đo n’ định lượng phân tích để n’ giá trị logarithm hoạt lực M giới hạn tin cậy tương ứng Đối với định lượng, tính logarithm khoảng giới hạn tin cậy L cách lấy logarithm giới hạn tin cậy trừ logarithm giới hạn tin cậy Tính hệ số W cho giá trị M theo phương trình 4.2.1.-1, với t số Student dùng tính giới hạn tin cậy W= 4t L2 4.2.2 Tính đồng hoạt lực (4.2.1.-1) Để kiểm tra tính đồng dãy hoạt lực, thành lập biểu thức có phân phối xấp xỉ phân phối χ sau: ( χ = ∑ W ( M − M ) = ∑ WM 2 n′ với: n′ )  (WM )  ∑  − n′ ∑W (4.2.2.-1) n′ WM M =∑ ∑W Nếu χ tính nhỏ giá trị tương ứng với bậc tự f = (n’ – 1) tra từ Bảng 5.2, khác hoạt lực khơng có ý nghĩa thống kê và, đó, tiếp tục tính hoạt lực trung bình giới hạn tin cậy theo công thức mục 4.2.3 Nếu χ tính lớn giá trị tới hạn tương ứng đọc từ Bảng 5.2, hoạt lực tính khơng đồng khơng thể sử dụng công thức mục 4.2.3, thay vào đó, dùng cơng thức mục 4.2.4 4.2.3 Tính hoạt lực trung bình có cân chỉnh (weighted mean) giới hạn tin cậy Logarithm hoạt lực trung bình tính theo cơng thức: WM M =∑ ∑W (4.2.3.-1) Độ lệch chuẩn logarithm hoạt lực trung bình bậc hai nghịch đảo tổng hệ số W: sM = ∑W (4.2.3.-2) logarithm giới hạn tin cậy hoạt lực trung bình tính theo phương trình sau: M ± tsM (4.2.3.-3) t số Student đọc từ Bảng 5.2 với bậc tự tổng số bậc tự sai số dư định lượng 4.2.4 Hoạt lực trung bình có cân chỉnh giới hạn tin cậy dựa độ phân tán định lượng định lượng Khi phối hợp kết số định lượng lặp lại, giá trị χ có ý nghĩa Độ phân tán hoạt lực phân tích thành hai thành phần, gồm: 1) Phương sai định lượng sM2 = / W 2) Phương sai định lượng sM2 (M − M ) =∑ n′( n′ − 1) với M trung bình chưa cân chỉnh (trung bình số học) M Phương sai đầu thay đổi từ định lượng đến định lượng khác, phương sai sau chung cho tất M Đối với M tính hệ số cân chỉnh theo cơng thức: W′ = sM2 + sM2 Dùng W’ thay cho W công thức mục 4.2.3, với t = 4.3 Phối hợp không cân chỉnh kết định lượng (unweighted combination) Phương pháp phối hợp kết định lượng đơn giản tính trung bình số học n’ logarithm hoạt lực M sau tính độ lệch chuẩn theo cơng thức: (M − M ) sM2 = ∑ n′(n′ − 1) (4.3.-1) logarithm giới hạn tin cậy bằng: M ± tsM (4.3.-2) t có (n’ – 1) bậc tự Vì số định lượng cần phối hợp thường nhỏ nên giá trị t lớn 4.4 Ví dụ Bảng 4.4.-1 liệt kê kết sáu định lượng độc lập với giới hạn tin cậy bậc tự sai số dư tương ứng Tất định lượng đáp ứng điều kiện 1, mục 4.2 Các hệ số W tính theo cơng thức mục 4.2 Kiểm tra tính đồng hoạt lực ( χ = ∑ W ( M − M ) = ∑ WM 2 n′ n′ )  (WM )  ∑  = 2.123.323,8792 − 216.478,4988 = 4,42 − n′ 22.070,6028 ∑W n′ χ tính nhỏ giá trị tới hạn 11,07 đọc từ Bảng 5.2 với bậc tự f = Do đó, khác hoạt lực khơng có ý nghĩa thống kê Bảng 4.4.-I – Hoạt lực giới hạn tin cậy sáu định lượng độc lập Lần định lượng Tổng số Hoạt lực R (IU/lọ) 18.367 18.003 18.064 17.832 18.635 18.269 Các giới hạn tin cậy (IU/lọ) Giới hạn Giới hạn 17.755 19.002 17.415 18.610 17.319 18.838 17.253 18.429 17.959 19.339 17.722 18.834 Bậc tự DF 20 20 20 20 20 20 120 Bảng 4.4.-II Tổng số M= ln(R) 9,8183 9,7983 9,8017 9,7887 9,8328 9,8130 58,8528 L* 0,0679 0,0664 0,0841 0,0659 0,0740 0,0609 W MW 3.777,8301 37.091,9101 3.951,6825 38.719,7456 2.462,5579 24.137,1950 4.003,1116 39.185,4586 3.175,7400 31.226,4061 4.699,6807 46.117,7833 22.070,6028 216.478,4988 WM2 364.179,9033 379.387,4392 236.584,9721 383.576,6531 307.042,9060 452.552,0054 2.123.323,8792 * L = ln(giới hạn tin cậy trên) – ln(giới hạn tin cậy dưới) Hoạt lực trung bình giới hạn tin cậy Hoạt lực trung bình giới hạn tin cậy tính công thức mục 4.2.3 số liệu Bảng 4.4.-I 4.4.-II WM 216.478,4988 M =∑ = = 9,8085 22.070,6028 ∑W sM = ∑W = = 0,00673 22.070,6028 Với số bậc tự f = 120, P = 0,95, t = 1,98 M ± tsM = 9,8085 ± 1,98 × 0,00673 = 9,7951 9,8218 Bằng cách lấy antilogarithm giá trị tính được, hoạt lực trung bình 18.187 IU/lọ với khoảng tin cậy xác suất 95 % từ 17.946 đến 18.431 IU/lọ Các Bảng tra cứu 5.1 Bảng mức ý nghĩa t (giá trị tuyệt đối) P f 10 11 12 13 14 15 0,95 12,71 4,30 3,18 2,78 2,57 2,45 2,36 2,31 2,26 2,23 2,20 2,18 2,16 2,14 2,13 P 0,99 63,66 9,92 5,84 4,60 4,03 3,71 3,50 3,36 3,25 3,17 3,11 3,05 3,01 2,98 2,95 f 18 19 20 21 22 23 24 25 26 27 28-29 30 40-43 57-63 102126 600-∞ 0,95 2,10 2,09 2,09 2,08 2,07 2,07 2,06 2,06 2,06 2,05 2,05 2,04 2,02 2,00 1,98 0,99 2,88 2,86 2,85 2,83 2,82 2,81 2,80 2,79 2,78 2,77 2,76 2,75 2,7 2,66 2,26 16 2,12 2,92 1,96 2,58 17 2,11 2,90 Nếu giá trị quan sát lớn giá trị bảng, coi có ý nghĩa (P = 0,95) hay có ý nghĩa (P = 0,99) 5.2 Bảng mức ý nghĩa χ P f 10 0,05 3,84 5,99 7,81 9,49 11,07 12,59 14,07 15,51 16,92 18,31 P 0,01 6,63 9,21 11,34 13,28 15,09 16,81 18,48 20,09 21,67 23,21 f 11 12 13 14 15 16 20 25 30 40 0,05 19,68 21,03 22,36 23,68 25,00 26,30 31,41 37,65 43,77 55,76 0,01 24,73 26,22 27,69 29,14 30,58 32,00 37,57 44,31 50,89 63,69 Nếu giá trị quan sát lớn giá trị bảng, coi có ý nghĩa (P = 0,95) hay có ý nghĩa (P = 0,99) 5.3 Mức ý nghĩa tỷ số F = varmax/varmin k phương sai nhóm xử lý, phương sai có f bậc tự (Hartley’s test) k f 4 20,6 49 29,5 69 37,5 89 41,1 97 10 44,6 106 12 51,4 120 13,7 28 18,7 38 22,9 46 24,7 50 26,5 54 29,9 60 10,4 19,1 13,7 25 16,3 30 17,5 32 18,6 34 20,7 37 8,44 14,5 10,8 18,4 12,7 22 13,5 23 14,3 24 15,8 27 7,18 11,7 9,03 14,5 10,5 16,9 11,1 17,9 11,7 18,9 12,7 21 6,31 9.9 7,80 12,1 8,95 13,9 9,45 14,7 9,91 15,3 10,7 16,6 10 5,67 6,92 7,87 8,28 8,66 9,34 8,6 10,4 11,8 12,4 12,9 13,9 Nếu F tính lớn giá trị bảng, biến số cần kiểm tra coi có ý nghĩa (dòng trên, P = 0,05), hay có ý nghĩa (dòng dưới, P = 0,01) Các ký hiệu thuật ngữ Ký hiệu b Định nghĩa Độ dốc hồi qui tuyến tính đường thẳng liều – đáp ứng hay ln(liều) – đáp ứng tất chế phẩm định lượng d Số liều chế phẩm định lượng đối xứng e số logarithm tự nhiên e = 2,718281828… f số bậc tự h số chế phẩm định lượng, bao gồm chế phẩm chuẩn k số xử lý định lượng, k = dh n số đáp ứng hay số lần lặp lại xử lý n’ số ước lượng hoạt lực s độ lệch chuẩn, s = s s1,s2,s3 Nồng độ thấp, trung bình cao chế phẩm S, định lượng có nồng độ chế phẩm s2 đại diện cho nồng độ cao s2 ước lượng sai số dư tính từ sai số bình phương trung bình s M phương sai logarithm hoạt lực M t thống kê Student (Bảng 5.1) t’ thống kê Dunnett (Bảng 3.2.4.-II) u1…z3 Nồng độ dung dịch thử chế phẩm cần định lượng U … Z y đáp ứng riêng hay đáp ứng riêng biến đổi y’ đáp ứng tính dùng để thay cho giá trị bị y S y Z đáp ứng trung bình chế phẩm chuẩn chế phẩm thử AU…AZ hoạt lực giả định chế phẩm cần định lượng, hoạt lực dùng để tính lượng chế phẩm cần lấy pha dung dịch thử B1…B2n tổng đáp ứng đơn vị thí nghiệm (1 đến n) định lượng chéo đơi B’ tổng đáp ứng khối hay hàng có chứa giá trị bị C đại lượng biểu thị ý nghĩa hồi qui, dùng tính tốn giới hạn tin cậy (phương trình 3.2.5-5) Trong số tài liệu thống kê định lượng sinh học, ý nghĩa hồi qui biểu thị g: C= 1− g C1…Cn tổng đáp ứng cột (1 đến n) bố trí thí nghiệm hình vng Latin C’ tổng đáp ứng cột có chứa giá trị bị bố trí thí nghiệm hình vng Latin D liều DI,DII tổng đáp ứng giai đoạn I giai đoạn II định lượng chéo đôi E tổng bình phương đại lượng hồi qui (Bảng 3.2.3.-IV) F tỷ số hai ước lượng phương sai độc lập (Bảng 3.2.4.-I) G’ tổng đáp ứng định lượng có giá trị bị I khoảng cách ln(liều) nhau, ví dụ I = ln(S2) – ln(S1) K đại lượng dùng để tính tổng bình phương phân tích phương sai K= (∑ y)2 N L độ rộng logarithm giới hạn tin cậy, L = ln(giới hạn tin cậy trên) – ln(giới hạn tin cậy dưới) LS…LZ tương phản tuyến tính chế phẩm chuẩn chế phẩm thử (Bảng 3.2.3.-I, 3.2.3.-II 3.2.3.-III) M ước lượng logarithm hoạt lực, định lượng đa chế phẩm M dùng kèm với ký tự U…Z , ví dụ MU, để phân biệt chế phẩm M trung bình vài M độc lập M’ logarithm tỷ lệ hoạt lực hay ước lượng hoạt lực trước hiệu chỉnh với hoạt lực giả định N tổng số đáp ứng định lượng NS,NU tổng số đáp ứng chế phẩm S U P xác suất QS…QZ tương phản bậc hai chế phẩm chuẩn chế phẩm thử R hoạt lực tính – dùng với ký tự đại diện cho chế phẩm thử để phân biệt chế phẩm định lượng đa chế phẩm R1…Rn tổng đáp ứng hàng (1 đến n) bố trí thí nghiệm hình vng Latin, hay khối bố trí thí nghiệm ngẫu nhiên theo khối S chế phẩm chuẩn S tổng đáp ứng chế phẩm chuẩn S1,S2,S3 tổng đáp ứng liều thấp, trung bình cao chế phẩm S, định lượng có nồng độ chế phẩm S2 đại diện cho nồng độ cao T’ tổng đáp ứng xử lý có giá trị bị U…Z tổng đáp ứng chế phẩm thử U…Z U…Z chế phẩm cần định lượng U1,U2,U3 tổng đáp ứng liều thấp, trung bình cao chế phẩm U, định lượng có nồng độ chế phẩm U2 đại diện cho nồng độ cao X ln(liều) W hệ số dùng phối hợp kết định lượng độc lập (phương trình 4.2.1.-1) ... contrast) chế phẩm, định lượng c nhiều hai liều chế phẩm, c n tính thêm tương phản b c hai (quadratic contrast) C c Bảng 3.2.3.-I, 3.2.3.-II 3.2.3.-III trình bày c ng th c tính Bảng 3.2.3.-I – C ng... ( AU ) (3.2.5 .-4 ) Hoạt l c tính ư c lượng hoạt l c thật chế phẩm c n định lượng C c giới hạn tin c y hoạt l c tính khoảng c khả chứa hoạt l c thật chế phẩm c n định lượng với x c suất 95 % Logarithm... pháp khuếch tán, dùng khay vng Chế phẩm chuẩn c hoạt l c biết trư c 4.855 IU/mg Chế phẩm thử c hoạt l c giả định 5.600 IU/mg Pha dung dịch g c cách hòa tan 25,2 mg chế phẩm chuẩn 21,4 mg chế phẩm