Báo cáo Xử lý số liệu trong xác định hoạt lực kháng sinh bằng phương pháp vi sinh

Xử lý số liệu trong xác định hoạt lực kháng sinh bằng phương pháp vi sinhThS. Phạm Thị Minh TâmKhoa Vi sinhViện Kiểm nghiệm Thuốc TP Hồ Chí Minh*1Mô hình thống kêMô hình đường thẳng song song (the parallel-line model)Mô hình tỷ lệ dốc (the slope-ratio model)Date2Điều kiện áp dụng chung cho 2 mô hình thống kêCác liều khác nhau của mẫu chuẩn và thử đã được phân chia cho từng đơn vị thí nghiệm một cách ngẫu nhiên.Các đáp ứng của mỗi liều tuân theo phân phối chuẩn.Độ lệch chuẩn của các đáp ứng trong mỗi nhóm xử lý là độc lập với mức độ đáp ứng, nghĩa là bằng hằng số cho mỗi xử lý.Date3Điều kiện áp dụng cho mô hình đường thẳng song song Đường biểu diễn mối quan hệ logarithm liều và đáp ứng phải tuyến tính trong khoảng liều cần định lượng.Đường thẳng ln(liều)-đáp ứng của mẫu thử cần phải song song với đường ln(liều)-đáp ứng của mẫu chuẩn.Date4Để đơn giản hóa công thức tính toán, phải tuân theo những giới hạn bắt buộc sauSố liều (nồng độ pha loãng) trong mỗi mẫu phải như nhau.Trong mô hình đường thẳng song song, tỷ lệ giữa các liều kế tiếp phải là hằng số.Số đơn vị thí nghiệm của mỗi nhóm xử lý phải bằng nhau.Date5Bố trí thí nghiệmBố trí thí nghiệm ngẫu nhiên hoàn toàn.Bố trí thí nghiệm ngẫu nhiên theo khối.Bố trí thí nghiệm hình vuông Latin.Bố trí thí nghiêm chéo.Phạm vi bài học : Mô hình đường thẳng song songBố trí thí nghiệm ngẫu nhiên theo khốiPhương pháp 3+3Date6Phân tích phương sai :Định lượng 3 liều, một chế phẩm thử (3+3)Chế phẩm chuẩnSChế phẩm thửTTổng đáp ứng liều thấpS1T1Tổng đáp ứng liều trung bìnhS2T2Tổng đáp ứng của liều caoS3T3Tổng đáp ứng của chế phẩmS = S1+S2+S3T = T1+T2+T3Tương quan đường thẳngLS = S3-S1LT=T3-T1Tương quan toàn phầnQS= S1-2S2+S3QT= T1-2T2+T3Date7Phân tích phương sai :Định lượng 3 liều, một chế phẩm thử (3+3)Date8Phân tích phương sai :Định lượng 3 liều, một chế phẩm thử (3+3)Chế phẩm chuẩnSChế phẩm thửTTổng đáp ứng liều thấpS1T1Tổng đáp ứng liều trung bìnhS2T2Tổng đáp ứng của liều caoS3T3Tổng đáp ứng của chế phẩmS = S1+S2+S3T = T1+T2+T3Tương quan đường thẳngLS = S3-S1LT=T3-T1Tương quan toàn phầnQS= S1-2S2+S3QT= T1-2T2+T3Date9Bảng 2 : Kiểm tra tính giá trị định lượng (3+3)Nguồn gây sai sốBậc tự doTổng các bình phươngChế phẩmh-1Hồi qui 1Song songh-1Date10Bảng 2 (tt) :Kiểm tra tính giá trị định lượng (3+3)Nguồn gây sai sốBậc tự doTổng các bình phươngĐộ cong1Hiệu độ congh-1Date11Bảng 3 :Tính sai số dư (3+3 / ngẫu nhiên theo khối)Nguồn sai sốBậc tự doTổng các bình phươngGiữa các xử lýk-1Giữa các hàngn-1Sai số dưHiệu số*Tổng sốN-1∑y2-KDate12Kiểm tra tính có giá trị của định lượngMột định lượng được coi là có giá trị thống kê nếu : Đại lượng hồi qui rất có ý nghĩa, F cal > F crit ở xác suất P=0,01 ,chứng tỏ độ dốc của đường ln(liều)-đáp ứng là thỏa mãn.Độ cong toàn phần phải không có ý nghĩa, Fcal < Fcrit ở P= 0,05, chứng tỏ điều kiện 4 thỏa.3. Tính song song phải có ý nghĩa,Fcal<Fcrit ở P= 0,05, chứng tỏ định lượng đáp ứng điều kiện 5, tức là đường ln(liều)-đáp ứng của chế phẩm thử song song với đường ln(liều)-đáp ứng của chế phẩm chuẩn.Date13Tính hoạt lực và giới hạn tin cậyĐáp ứng trung bình của mỗi chế phẩm Date14Tính hoạt lực và giới hạn tin cậyDate15Tính hoạt lực và giới hạn tin cậyDate16Tính hoạt lực và giới hạn tin cậyLn(giới hạn tin cậy) bằngDate17Tính hoạt lực và giới hạn tin cậyDate18Tính các giá trị bị mấtCông thức tính các giá trị bị mấtDate19Tính các giá trị bị mấtTrong đó y là giá trị tìm lại đượcB’ là tổng hàng mà có giá trị bị mấtT’ Tổng cột có giá trị bị mấtG’ là tổng các đáp ứngk=6n=6Date20Ví dụ :Tính giá trị bị mấtDate21Tính các giá trị bị mấtDate22Ví dụ : 3+3, ngẫu nhiên theo khối không lặpDate23Ví dụ minh họa: 3+3, ngẫu nhiên theo khối không lặpÁp dụng công thức tính Bảng 1 S1 =176+178+...+174=1057S2 =205+208+...+204=1235...T5 =232+234+...+229=1394R1 =176+205+...+232=1224R2 =178+208+...+234=1239...Date24Ví dụ minh họa: 3+3, ngẫu nhiên theo khối không lặpÁp dụng công thức tính Bảng 1 S=S1+S2+S3=1057+1235+1416=3708T=T1+T2+T3=1043+1218+1394=3655 LS=S3-S1=1416-1057=359LT=T3-T1=1349-1043=351QS=S1-2S2+S3=1057-2*1235+1416=3QT=T1-2T2+T3=1043-2*1218+1349=1Date25Ví dụ minh họa: 3+3, ngẫu nhiên theo khối không lặpChuẩn SThử TTổng sốLiều thấpS1=1057T1=1043Liều trung bìnhS2=1235T2=1218Liều caoS3=1416T3=1394Tổng đáp ứngS=3708T=3655∑y=S+T=7363Tương quan đường thẳngLS=359LT=351∑L=LS+LT=710Tương quan toàn phầnQS=3QT=1∑Q=QS+QT=4Date26Ví dụ minh họa: 3+3, ngẫu nhiên theo khối không lặpK=(∑y)2/N=73632/36=1.505.938,03∑y2=(1762+1782+..2292)=1.527.127Chế phẩm (S2+T2)/18-K=78,026Hồi qui (LS+LT)2/24= 21.004,167= ESong song (L2S+L2T)/12-E=2,666Date27Ví dụ minh họa: 3+3, ngẫu nhiên theo khối không lặpĐộ congDate28Ví dụ minh họa: 3+3, ngẫu nhiên theo khối không lặpHiệu độ congDate29Ví dụ minh họa: 3+3, ngẫu nhiên theo khối không lặpGiữa các xử lýDate30Ví dụ minh họa: 3+3, ngẫu nhiên theo khối không lặpGiữa các khốiDate31Ví dụ minh họa: 3+3, ngẫu nhiên theo khối không lặpSai số toàn phần ∑y2-K=1.527.127-1.505.938,03=21.188,97Sai số dư Sai số dư=Sai số toàn phần - Giữa các xử lý - Giữa các hộp=21.188,97-21.085,14-75,80=28,03 Date32Ví dụ minh họa: 3+3, ngẫu nhiên theo khối không lặpTrung bình bình phương = Tổng bình phương: bậc tự doChế phẩm 78,026 : 1 = 78,026Hồi qui 21.004,17: 1 = 21.004,17....Sai số dư 28,03: 25 = 1,121Date33Ví dụ minh họa: 3+3, ngẫu nhiên theo khối không lặpFcal = trung bình bình phương : sai số dưChế phẩm 78,026 : 1,121 = 18.737Hồi qui 21.004,17: 1,121 = 2,4....Giữa các khối : 15,16: 1,121 = 13,5Date34Mức ý nghĩa của FHàng trên p=0,05Hàng dưới p=0,01f12...20∞204,358,103,495,852,122,941,842,42254,247,773,395,572,012,701,172,17304,177,563,325,391,932,551,622,01Date35Phân tích phương sai Date36Tính hoạt lực và các giới hạn tin cậyDate37Tính hoạt lực và các giới hạn tin cậyVới P=0,95 và f=25, t=2,06Date38Tính hoạt lực và các giới hạn tin cậyHọat lực của chế phẩmR=antiln(M)= anti ln(7,2442)=1.400IU/ml Date39Tính hoạt lực và các giới hạn tin cậyCác ln(giới hạn tin cậy) :Các giới hạn tin cậy bằng 1378IU/ml và 1423IU/mlDate40Tính hoạt lực và các giới hạn tin cậyDate41Hiệu chỉnh kết quảTuy nhiên, vì các dung dịch của mẫu chuẩn và mẫu thử pha loãng không hoàn toàn bằng nhau nên phải hiệu chỉnh hoạt lực tính được và các giới hạn tin cậy với hệ số hiệu chỉnh (phụ thuộc vào số lượng cân và tỷ lệ pha loãngDate42Hiệu chỉnh kết quảHoạt lực chế phẩm là1400 x 1,036673 = 1451,34 IU/mlGiới hạn tin cậy dưới1378 x 1,036673 = 1428,54 IU/mlGiới hạn tin cậy trên1423 x 1,036673 = 1475,19 IU/mlDate43Kết quả hiệu chỉnh theo máy tinhDate44