(Luận văn thạc sĩ) nghiên cứu một số thuật toán học máy và ứng dụng trong phân loại bệnh

HỌC VIỆN CƠNG NGHỆ BƯU CHÍNH VIỄN THƠNG - PHẠM XUÂN THU NGHIÊN CỨU MỘT SỐ THUẬT TOÁN HỌC MÁY VÀ ỨNG DỤNG TRONG PHÂN LOẠI BỆNH LUẬN VĂN THẠC SĨ KỸ THUẬT (Theo định hướng ứng dụng) HÀ NỘI – 2021 Luan van HỌC VIỆN CƠNG NGHỆ BƯU CHÍNH VIỄN THÔNG - PHẠM XUÂN THU NGHIÊN CỨU MỘT SỐ THUẬT TOÁN HỌC MÁY VÀ ỨNG DỤNG TRONG PHÂN LOẠI BỆNH CHUYÊN NGÀNH: HỆ THỐNG THÔNG TIN MÃ SỐ: 8.48.01.04 LUẬN VĂN THẠC SĨ KỸ THUẬT (Theo định hướng ứng dụng) NGƯỜI HƯỚNG DẪN KHOA HỌC: TS VŨ VĂN THỎA HÀ NỘI – 2021 Luan van i LỜI CAM ĐOAN Tôi cam đoan cơng trình nghiên cứu riêng tơi Nội dung luận văn có tham khảo sử dụng tài liệu, thông tin đăng tải tạp chí khoa học trang web liệt kê danh mục tài liệu tham khảo Tất tài liệu tham khảo có xuất xứ rõ ràng trích dẫn hợp pháp Tơi xin hồn tồn chịu trách nhiệm chịu hình thức kỷ luật theo quy định cho lời cam đoan Hà nội, ngày tháng Người cam đoan Phạm Xuân Thu Luan van năm 2021 ii LỜI CẢM ƠN Được đồng ý Học Viện Cơng Nghệ Bưu Chính Viễn Thông, thầy giáo hướng dẫn TS Vũ Văn Thỏa, học viên thực đề tài luận văn tốt nghiệp Thạc sĩ: “Nghiên cứu số thuật toán học máy ứng dụng phân loại bệnh” Để hoàn thành luận văn này, học viên xin chân thành cảm ơn thầy giáo tận tình hướng dẫn, giảng dạy suốt trình học tập, nghiên cứu rèn luyện Học Viện Công Nghệ Bưu Chính Viễn Thơng Học viên xin đặc biệt gửi lời cảm ơn đến TS Vũ Văn Thỏa, người thầy trực tiếp hướng dẫn trình thực luận văn tốt nghiệp Nhờ động viên bảo tận tình thầy thời gian qua giúp học viên vượt qua khó khăn nghiên cứu để luận văn hoàn thành Học viên xin gửi lời cảm ơn tới gia đình, bạn bè đồng nghiệp, người bên cổ vũ tinh thần, tạo điều kiện thuận lợi để học viên học tập hồn thành tốt luận văn Học viên có nhiều cố gắng để thực luận văn cách hoàn chỉnh Tuy nhiên, nhiều hạn chế kiến thức kinh nghiệm nên khơng thể tránh khỏi thiếu sót định mà học viên chưa thấy Học viên mong nhận góp ý quý Thầy, Cô giáo bạn đồng nghiệp để luận văn hoàn chỉnh Học viên xin trân trọng cám ơn! Hà Nội, ngày tháng năm 2021 Học viên Phạm Xuân Thu Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh iii MỤC LỤC LỜI CAM ĐOAN i LỜI CẢM ƠN .ii MỤC LỤC iii DANH MỤC CÁC THUẬT NGỮ VIẾT TẮT v DANH MỤC BẢNG vi DANH MỤC HÌNH vii MỞ ĐẦU CHƯƠNG TỔNG QUAN VỀ BÀI TOÁN PHÂN LOẠI BỆNH VÀ HỌC MÁY 1.1 Giới thiệu toán phân loại bệnh vấn đề liên quan 1.1.1 Khái niệm phân lớp liệu toán phân loại bệnh 1.1.2 Quy trình thực phân loại bệnh 1.1.3 Các độ đo đánh giá mơ hình phân loại bệnh 1.1.4 Các ứng dụng toán phân loại bệnh 1.2 Tổng quan học máy 1.2.1 Khái niệm học máy phân loại kỹ thuật học máy 1.2.2 Ứng dụng học máy xây dựng mơ hình phân loại bệnh 1.3 Tổng quan học sâu 1.3.1 Khái niệm học sâu 1.3.2 Hướng tiếp cận học sâu 10 1.4 Kết luận chương 11 CHƯƠNG NGHIÊN CỨU THUẬT TOÁN CÂY QUYẾT ĐỊNH VÀ THUẬT TOÁN MÁY VECTOR HỖ TRỢ 13 2.1 Khảo sát thuật toán định vấn đề liên quan 13 2.1.1 Giới thiệu phương pháp 13 2.1.2 Khảo sát nội dung phương pháp 14 2.1.3 Đánh giá phương pháp 15 2.2 Khảo sát thuật toán máy vectơ hỗ trợ vấn đề liên quan 15 2.2.1 Giới thiệu phương pháp 15 2.2.2 Kỹ thuật SVM tuyến tính với tập liệu phân tách 18 (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh iv 2.2.3 Kỹ thuật SVM tuyến tính với tập liệu không phân tách 21 2.2.4 Kỹ thuật SVM phi tuyến phân lớp nhị phân 24 2.2.5 Kỹ thuật tối thiểu SMO 27 2.2.6 Kỹ thuật SVM phân lớp đa lớp 27 2.2.7 Đánh giá phương pháp 29 2.3 Kết luận chương 29 CHƯƠNG THỰC NGHIỆM VÀ ĐÁNH GIÁ KẾT QUẢ 31 3.1 Tổng quan xét nghiệm hóa nghiệm 31 3.1.1 Giới thiệu chung xét nghiệm hóa nghiệm 31 3.1.1 Đặc điểm liệu xét nghiệm hóa nghiệm 33 3.1.2 Thu thập liệu nghiên cứu 34 3.2 Bài toán phân loại bệnh dựa kết xét nghiệm hóa nghiệm 36 3.2.1 Đặt toán 36 3.2.2 Tiền xử lý liệu 36 3.2.3 Các kịch thử nghiệm 38 3.2.4 Công cụ thực nghiệm 39 3.3 Kết thực nghiệm đánh giá 40 3.3.1 Chuẩn bị liệu thực thử nghiệm 40 3.3.2 Kết thực nghiệm 43 3.3.3 Phân tích đánh giá kết thực nghiệm 49 3.4 Kết luận chương 53 DANH MỤC TÀI LIỆU THAM KHẢO 55 Tiếng Việt 55 Tiếng Anh 55 PHỤ LỤC 57 (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh v DANH MỤC CÁC THUẬT NGỮ VIẾT TẮT Viết tắt Tiếng Anh Tiếng việt ANN Artificial Neural Network Mạng nơ-ron nhân tạo CNTT Information Technology Công nghệ thông tin CSDL Database Cơ sở liệu FN False Negative Số mẫu âm phân loại sai FP False Positive Số mẫu dương phân loại sai HL Training Huấn luyện KC Test Kiểm chứng KDD Knowledge Discovery and Data Phát tri thức khai phá Mining liệu SVM Support Vector Machines Máy véc tơ hỗ trợ SMO Sequential Minimal Optimization Tối thiểu TN True Negative Số mẫu âm phân loại TP True Positive Số mẫu dương phân loại WEKA Waikato Environment for Công cụ kiểm thử học máy Knowledge Acquisition (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh vi DANH MỤC BẢNG Bảng 3.1: Số lượng bệnh nhân 35 Bảng 3.2: Phân bố số lượng mẫu nhóm theo kích cỡ mẫu 40 Bảng 3.3: Cơ cấu nhóm bệnh với số mẫu HL KC tương ứng 41 Bảng 3.4: Chi tiết tập tin liệu 42 Bảng 3.5: Kết phân lớp phương pháp SVM theo chiến lược 1/k với nhóm mẫu 43 Bảng 3.6: Kết phân lớp phương pháp SVM theo chiến lược 1/1 với nhóm mẫu 44 Bảng 3.7: Kết phân lớp theo định 44 Bảng 3.8: Bảng kết huấn luyện thuật tốn theo nhóm mẫu 44 Bảng 3.9: Bảng kết kiểm chứng thuật tốn theo nhóm mẫu 45 Bảng 3.10: Kết phân lớp phương pháp SVM theo chiến lược 1/k với nhóm mẫu 45 Bảng 3.11: Kết phân lớp phương pháp SVM theo chiến lược 1/1 với nhóm mẫu 46 Bảng 3.12: Kết phân lớp theo j48 .46 Bảng 3.13: Bảng kết huấn luyện thuật tốn theo nhóm mẫu 46 Bảng 3.14: Bảng kết kiểm chứng thuật tốn theo nhóm mẫu 47 Bảng 3.15: Kết phân lớp phương pháp SVM theo chiến lược 1/k với nhóm mẫu 47 Bảng 3.16: Kết phân lớp phương pháp SVM theo chiến lược 1/1 với nhóm mẫu 48 Bảng 3.17: Kết phân lớp theo j48 .48 Bảng 3.18: Bảng kết huấn luyện thuật toán theo nhóm mẫu 48 Bảng 3.19: Bảng kết kiểm chứng thuật tốn theo nhóm mẫu 49 (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh vii DANH MỤC HÌNH Hình 1.1 Bài tốn phân loại bệnh .4 Hình 1.2 Quy trình phân loại bệnh .5 Hình 1.3 Mơ tả học sâu Hình 1.4 Quá trình học tăng cường 11 Hình 2.1 Mơ hình dạng định .14 Hình 2.2 Sự quan trọng biên siêu phẳng phân tách .16 Hình 2.3 Ví dụ biên tối ưu siêu phẳng phân tách 17 Hình 2.4 Ảnh hưởng C đến độ rộng biên 22 Hình 2.5 Khơng gian chiều ánh xạ từ không gian chiều 25 Hình 2.6 Phân lớp đa lớp sử dụng chiến lược OAA OAO 28 Hình 3.1: Kết xét nghiệm BN lần xét nghiệm khác 36 Hình 3.2: Dữ liệu xét nghiệm BN tách thành dòng liệu min, max 37 Hình 3.3: Dữ liệu xét nghiệm có ý nghĩa BN xác định .37 Hình 3.4: Dữ liệu xét nghiệm chuẩn hóa với miền [0.0;10.0] 38 Hình 3.5: Màn hình WEKA 40 Hình 3.6: Biểu đồ so sánh độ xác phân loại thử nghiệm theo thuật tốn nhóm 50 Hình 3.7: Biểu đồ so sánh độ xác phân loại thử nghiệm theo thuật tốn nhóm 51 Hình 3.8 Biểu đồ so sánh độ xác phân loại thử nghiệm theo thuật tốn nhóm 51 Hình 3.9: Biểu đồ so sánh thời gian thuật toán thử nghiêm tập HL .52 Hình 3.10: Biểu đồ so sánh thời gian thuật toán thử nghiêm tập KC 53 (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh MỞ ĐẦU Trên giới Việt Nam, công tác y tế chăm sóc sức khỏe tồn dân có vị trí to lớn quan trọng phát triển xã hội Đặc biệt, thời kỳ đại dịch Covid-19, công tác khám, chữa bệnh cho bệnh nhân có ý nghĩa quan trọng Q trình điều trị bệnh nhân phụ thuộc nhiều vào kết xét nghiệm cận lâm sàng (bao gồm xét nghiệm định, chẩn đốn hình ảnh thăm dị chức năng) Các kết xét nghiệm đóng vai trị quan trọng định bác sĩ, điều dưỡng nhân viên y tế toàn q trình điều trị, chăm sóc bệnh nhân Trong giai đoạn nay, tình trạng bệnh tật có xu hướng gia tăng đại dịch diễn với quy mơ tồn giới Do đó, việc đảm bảo chất lượng khám điều trị thách thức sở khám, chữa bệnh phải đối mặt với tình trạng tải Một yêu cầu cấp bách đặt phải có hệ thống hỗ trợ việc phân loại bệnh nhanh chóng, xác để kịp thời cứu chữa bệnh nhân Cùng với phát triển mạnh mẽ công nghệ thông tin, kỹ thuật học máy học sâu nghiên cứu triển khai ứng dụng nhiều lĩnh vực, giải hiệu tốn phân lớp (Classification) liệu Phân lớp liệu việc xếp liệu vào lớp khác Ví dụ: Phân lớp sinh viên theo kết học tập, phân lớp lồi thực vật, … Bài tốn phân lớp liệu thường giải cách sử dụng số kỹ thuật học máy như: Cây định (Decision Tree), Máy vector hỗ trợ (Support Vector Machine), Mạng Nơ-ron nhân tạo (Artificial Neural Network), Thuật toán Bayes (Naive Bayes), … Bài toán phân loại bệnh dựa kết xét nghiệm thuộc lớp tốn phân lớp liệu Do áp dụng kỹ thuật học máy khác để giải (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh 46 Bảng 3.11: Kết phân lớp phương pháp SVM theo chiến lược 1/1 với nhóm mẫu Kết thử nghiệm đối phương pháp định bảng 3.12 Bảng 3.12: Kết phân lớp theo j48 Kết độ đo thuật toán thử nghiệm bước huấn luyện theo kịch tổng hợp bảng 3.13 Bảng 3.13: Bảng kết huấn luyện thuật toán theo nhóm mẫu Các độ đo đánh giá Độ nhạy (%) SVM 1/k 1/1 96,2 96,5 (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van J48 90,2 (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh 47 Độ đặc hiệu (%) 99,5 98,8 97,6 Độ xác dự đốn (%) 96,4 96,6 90,6 Thời gian xây dựng mơ hình (s) 0,3 0,11 0,06 Kết kiểm chứng mơ hình tổng hợp bảng 3.14 Bảng 3.14: Bảng kết kiểm chứng thuật tốn theo nhóm mẫu Các độ đo đánh giá SVM J48 1/k 1/1 Độ nhạy (%) 95,9 96,7 91,8 Độ đặc hiệu (%) 99,9 98,5 98,2 Độ xác dự đốn (%) 96,5 96,9 93 Thời gian xây dựng mơ hình (s) 0,06 0,05 0,06 3) Kết thử nghiệm với nhóm mẫu (n = 3863) Kết thử nghiệm đối phương pháp SVM xây dựng mơ hình theo chiến lược 1/k bảng 3.15 Bảng 3.15: Kết phân lớp phương pháp SVM theo chiến lược 1/k với nhóm mẫu Kết thử nghiệm đối phương pháp SVM xây dựng mơ hình theo chiến lược 1/k bảng 3.16 (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh 48 Bảng 3.16: Kết phân lớp phương pháp SVM theo chiến lược 1/1 với nhóm mẫu Kết thử nghiệm đối phương pháp định bảng 3.17 Bảng 3.17: Kết phân lớp theo j48 Kết độ đo thuật toán thử nghiệm bước huấn luyện theo kịch tổng hợp bảng 3.18 Bảng 3.18: Bảng kết huấn luyện thuật tốn theo nhóm mẫu Các độ đo đánh giá Độ nhạy (%) SVM 1/k 1/1 96,6 97,1 (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van J48 94,6 (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh 49 Độ đặc hiệu (%) 98,1 98,6 98,6 Độ xác dự đốn (%) 96,7 97,2 94,6 Thời gian xây dựng mơ hình (s) 0,67 0,33 0,28 Kết kiểm chứng mô hình tổng hợp bảng 3.19 Bảng 3.19: Bảng kết kiểm chứng thuật tốn theo nhóm mẫu Các độ đo đánh giá SVM J48 1/k 1/1 Độ nhạy (%) 96,4 98 95,7 Độ đặc hiệu (%) 99,3 98,7 98,5 Độ xác dự đốn (%) 96,7 98 95,7 Thời gian xây dựng mơ hình (s) 0,19 0,13 0,09 3.3.3 Phân tích đánh giá kết thực nghiệm Dựa vào kết thử nghiệm trình bày trên, mục luận văn thực phân tích đánh giá kết Kết độ xác thuật tốn thử nghiệm theo nhóm mẫu tập huấn luyện tập kiểm chứng biểu diễn dạng biểu đồ hình 3.6 (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh 50 100 96,4 97,3 95,3 94,6 97 88,5 90 80 70 60 50 40 30 20 10 Huấn luyện Kiểm chứng 1/k 1/1 j48 Hình 3.6: Biểu đồ so sánh độ xác phân loại thử nghiệm theo thuật toán nhóm Quan sát biểu đồ hình 3.6 nhận thấy rằng, thuật toán thử nghiệm cho kết có tỉ lệ phân loại xác cao tập huấn luyện (từ 94% trở lên) Trong đó, mơ hình SVM theo chiến lược 1/1 có tỉ lệ phân loại xác cao (97,3%) mơ hình định (j48) có tỉ lệ phân loại xác thấp (94,6%) Tuy nhiên, thực kiểm thử tỷ lệ phân loại xác bị sụt giảm Trong đó, mơ hình SVM theo chiến lược 1/1 có tỉ lệ phân loại xác cao (97%) mơ hình định (j48) có tỉ lệ phân loại xác thấp (88,5%) Lý sụt giảm tập huấn luyện nhỏ, cần phải có kích thước lớn để đảm bảo kết kiểm chứng Tương tự, ta so sánh kết phân loại thử nghiệm theo nhóm theo biểu đồ hình 3.7 3.8 (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh 51 100 96,4 96,6 96,5 96,9 90,6 93 90 80 70 60 50 40 30 20 10 Huấn luyện Kiểm chứng 1/k 1/1 j48 Hình 3.7: Biểu đồ so sánh độ xác phân loại thử nghiệm theo thuật tốn nhóm 100 96,7 97,2 96,7 94,6 98 95,7 90 80 70 60 50 40 30 20 10 Huấn luyện Kiểm chứng 1/k 1/1 j48 Hình 3.8 Biểu đồ so sánh độ xác phân loại thử nghiệm theo thuật tốn nhóm (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh 52 Quan sát hình 3.7 3.8 nhận thấy kết mơ hình thực kiểm chứng tệp có kích thước lớn cho xác cao (>=93%) Hình 3.9 trình bày biểu đồ thống kê thời gian thực thuật toán theo nhóm mơ hình thử nghiệm tập huấn luyện 0,8 0,7 0,67 0,6 0,5 0,4 0,3 0,2 0,22 0,1 0,11 0,33 0,28 0,3 0,11 0,06 0,03 Nhóm Nhóm 1/k 1/1 Nhóm j48 Hình 3.9: Biểu đồ so sánh thời gian thuật toán thử nghiêm tập HL Hình 3.10 trình bày biểu đồ thống kê thời gian thực thuật toán theo nhóm mơ hình thử nghiệm tập kiểm chứng (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh 53 0,2 0,19 0,18 0,16 0,14 0,13 0,12 0,1 0,09 0,08 0,06 0,04 0,02 0,06 0,05 0,05 0,03 Nhóm Nhóm 1/k 1/1 Nhóm j48 Hình 3.10: Biểu đồ so sánh thời gian thuật toán thử nghiêm tập KC 3.4 Kết luận chương Trong chương luận văn tiến hành thực nghiệm thuật toán học máy nghiên cứu chương cho toán phân loại bệnh với liệu trích xuất từ Bệnh viện Trung ương Quân đội 108 Kết thử nghiệm bước đầu cho thấy thuật toán học máy triển khai thực tế phù hợp với yêu cầu đề cho toán phân loại bệnh (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh 54 KẾT LUẬN Các kết đạt luận văn Qua nghiên cứu lý thuyết tiến hành thực nghiệm, luận văn đạt kết sau: - Nghiên cứu tổng quan toán phân loại vấn đề liên quan - Khảo sát tổng quan kỹ thuật học máy nhằm giải toán phân bênh - Khảo sát tổng quan học sâu - Khảo sát chi tiết hai thuật toán học máy bao gồm thuật toán định thuật toán máy vector hỗ trợ SVM - Thu thập xử lý liệu kết xét nghiệm hóa nghiêm gồm 98 số xét nghiệm với 3863 mẫu 06 nhóm bệnh - Thực thử nghiệm hai thuật toán học máy j48 SMO để phân loại bệnh liệu kết xét nghiệm hóa nghiêm Luận văn tiến hành phân tích đánh giá kết thực nghiệm Hướng nghiên cứu Tuy đạt số kết nêu trên, luận văn số hạn chế điều kiện mặt thời gian trình độ học viên Vì vậy, hướng nghiên cứu luận văn là: - Mở rộng thêm mặt bệnh phân loại phân loại mặt bệnh chi tiết Ví dụ lớp mặt bệnh tiêu hóa phân lớp thành lớp chi tiết hơn: lớp bệnh gan, mật tụy - Phát triển thành chương trình ứng dụng để hỗ trợ định hướng chẩn đốn bệnh bệnh viện (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh 55 DANH MỤC TÀI LIỆU THAM KHẢO Tiếng Việt [1] Nguyễn Đạt Anh (2013) - Các xét nghiệm thường quy áp dụng thực hành lâm sàng - Nhà xuất Y học [2] Văn phịng cơng nhận chất lượng, Bộ Khoa học Công nghệ (2011), Hướng dẫn phân loại xét nghiệm y tế Tiếng Anh [3] E L Allwein, R E Schapire, and Y Singer (2001) – “Reducing multiclass to binary: A unifying approach for margin classifiers” - The Journal of Machine Learning Research, V.1, pp 113–141 [4] Tapan Bagchi, Rahul Samant, Milan Joshi (2013) – “SVM Classifiers Built Using Imperfect Training Data” - International Conference on Mathematical Techniques In Engineering Applications, ICMTEA 2013-BM-003 [5] Christopher J.C Burges (2000) – “A Tutorial on Support Vector Machines for Pattern Recognition” – Kluwer Academic Publishers, Boston [6] Ruben D Canlas Jr (2009) - “Data mining in healthcare: Current applications and issues”, MSc of Science inInformation Technology, Carnegie Mellon University, Australia [7] Han J., Kamber M (2011) – “Data mining: Concepts and Techniques” - 3nd Edition, Morgan Kaufman Publishers [8] Krzysztof J Cios, G William Moore (2002), “Uniqueness of medical data mining”, Artificial Intelligence in Medicine 26, p 1–24 [9] T M Mitchell [1997] – “Machine Learning”, McGraw-Hill [10] J Milgram, M Cheriet and R Sabourin (2006) – ““One Against One” or “One Against All”: Which One is Better for Handwriting Recognition with SVMs?” - In Tenth International Workshop on Frontiers in Handwriting Recognition Suvisoft (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh 56 [11] O’Sullivan, Dympna, et al (2008) - “Using Secondary Knowledge to Support Decision Tree Classification of Retrospective Clinical Data” - Mining Complex Data (2008), pp 238-251 [12] A.S Unal, M Hacibeyoglu (2018)-“ Detection of DDoS Attacks in Network Traffic Using Deep Learning”, ICATCES 18, pp 722-726 [13] David Taniar (2007), Data Mining and Knowledge Discovery Technologies, Idea Group Publishing Trang WEB [14] https://en.wikipedia.org/wiki/Precision_and_recal [15] https://sourceforge.net/projects/weka/ [16] https://vi.wikipedia.org (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh 57 PHỤ LỤC Bảng xét nghiệm trích chọn xử lý luận văn Tên xét nghiệm TT Tên xét nghiệm TT AFP 26 GOT (AST) Albumin máu 27 GPT (ALT) Amoniac máu 28 GGT (Gamma GT) Amylase máu 29 Glucose máu Amylase niệu 30 HDL-C Anti TG 31 Homocysteine Anti-CCP 32 LDH Apolipoprotein A1 33 LDL-C ASLO 34 Máu lắng 10 Axit Uric máu 35 Microalbumin niệu 11 Acid Uric niệu 36 Pre-Albumin2 12 Bilirubin Total 37 Protein máu 13 Bilirubin Direct 38 Protein niệu 24h 14 BNP 39 CRP (định lượng) 15 Ca TP 40 RF 16 CK 41 Sắt 17 CK-MB 42 TSH 18 C peptide 43 Thyroglobulin 19 Creatinin máu 44 Triglycerid 20 Creatinin niệu 45 Troponin I 21 HS-CRP 46 Ure máu 22 Cholesterol 23 Ferritin 47 BIL (Bilirubin) 24 FT3 48 BLD (Hồng cầu) 25 FT4 49 GLU (Glucose) Nước tiểu (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh 58 Tên xét nghiệm TT Tên xét nghiệm TT Công thức máu 50 KET (Ketone) 51 LEU (Bạch cầu) 74 BA% 52 NIT (Nitrit) 75 EO# 53 pH 76 EO% 54 PRO (Protein) 77 HCT 55 SG (Tỷ trọng) 78 HGB 56 UBG (Urobilinogen) 79 LY# 57 ALB 80 LY% 58 BLO 81 MCV 59 URO 82 MCH 60 CRE 83 MCHC 61 A:C 84 MO# 62 P:C 85 MO% Cặn nước tiểu: 86 MPV 63 Trụ BC: 87 NE% 64 Trụ hình hạt: 88 PLT 65 Bạch cầu 89 RBC 66 Hồng cầu 90 RDW Điện giải máu: 91 WBC 67 Cl- 92 %NEUT 68 K+ 93 %LYMPH 69 Na+ 94 %MONO 70 APTT (s) 95 #EOS 71 FIB (Fibrinogen) 96 #BASO 72 PT (%) 97 Định lượng Creatinin 73 PT (s) 98 Định lượng Ure Nguồn: Bệnh viện Trung ương Quân đội 108 (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh 59 BẢN CAM ĐOAN Tôi xin cam đoan thực việc kiểm tra mức độ tương đồng nội dung luận văn/luận án qua phần mềm DoIT cách trung thực đạt kết mức độ tương đồng 18% toàn nội dung luận văn/luận án Bản luận văn/luận án kiểm tra qua phần mềm cứng luận văn/luận án nộp để bảo vệ trước hội đồng Nếu sai tơi xin chịu hình thức kỷ luật theo quy định hành Học Viện Hà Nội, ngày 31 tháng 12 năm 2021 HỌC VIÊN CAO HỌC/NCS (Ký ghi rõ họ tên) (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh Luan van (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh (Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh(Luan.van.thac.si).nghien.cuu.mot.so.thuat.toan.hoc.may.va.ung.dung.trong.phan.loai.benh