(Luận văn thạc sĩ) kết hợp pca và kmeans với hồi quy logistic trong ứng dụng tiên lượng bệnh tiểu đường

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC QUY NHƠN LÊ THỊ DƯ KẾT HỢP PCA VÀ KMEANS VỚI HỒI QUY LOGISTIC TRONG ỨNG DỤNG TIÊN LƯỢNG BỆNH TIỂU ĐƯỜNG h Chuyên ngành : Khoa học máy tính Mã số: 8.48.01.01 NGƯỜI HƯỚNG DẪN: TS LÊ XUÂN VINH LỜI CẢM ƠN Trước tiên, xin gửi lời biết ơn sâu sắc đến thầy TS Lê Xuân Vinh dành nhiều thời gian tâm huyết hướng dẫn thực luận văn tốt nghiệp Sự tận tình hướng dẫn thầy nguồn động viên lớn tơi suốt thời gian tìm hiểu, nghiên cứu hồn thành luận văn Tơi xin bày tỏ lịng biết ơn đến q thầy khoa cơng nghệ thông tin trường Đại học Quy Nhơn giảng dạy chia sẻ kinh nghiệm học tập, nghiên cứu đến với tập thể lớp thân Trong suốt q trình học tập nghiên cứu, góp ý, chia sẻ, động viên tất thành viên tập thể lớp giúp tơi hồn thành tốt khóa học, tơi xin cảm ơn tất anh chị bạn Tôi xin gửi lời biết ơn đến hội đồng sư phạm trường THPT Số Tuy Phước tạo điều kiện thuận lợi cho tơi có thời gian học tập bồi dưỡng nâng h cao kiến thức chun mơn Cuối cùng, tơi gửi lịng biết ơn tới thành viên gia đình tạo điều kiện tốt để lựa chọn phát triển đường học tập Một lần nữa, tơi xin chân thành cảm ơn! Quy Nhơn, ngày tháng Học viên Lê Thị Dư năm 2020 MỤC LỤC LỜI CẢM ƠN DANH MỤC HÌNH VẼ VÀ CÁC BẢNG MỞ ĐẦU 1 Lý chọn đề tài Đối tượng phạm vi nghiên cứu 3 Phương pháp nghiên cứu Mục tiêu nội dung luận văn Ý nghĩa khoa học thực tiễn Bố cục luận văn: Chương 1: MỘT SỐ KIẾN THỨC LÝ THUYẾT CƠ SỞ 1.1 Giới hiệu Machine learning h 1.1.1 Khái niệm Machine learning 1.1.2 Phân loại kỹ thuật học máy: 1.1.3 Các ứng dụng Machine learning 1.1.4Các bước thực học máy 1.2 Bài toán phân lớp liệu 10 1.2.1 Phân lớp liệu 10 1.2.2 Một số ứng dụng phân lớp tiêu biểu: 11 1.2.3 Tiến trình phân lớp liệu 12 1.3 Giới thiệu toán phân lớp cho bệnh tiểu đường 14 1.3.1 Giới thiệu bệnh tiểu đường 14 1.3.2 Những kết nghiên cứu phân lớp cho liệu bệnh tiểu đường 15 1.3.3 Phương pháp luận nghiên cứu: 16 1.3.4 Công cụ hỗ trợ khai phá liệu 16 1.3.5 Giới thiệu liệu tiểu đường 17 KẾT LUẬN CHƯƠNG 18 Chương 2: THUẬT TOÁN HỒI QUY LOGISTIC, PCA, K-MEANS 19 2.1 Thuật toán hồi quy Logistic( Logistic Regression) 19 2.1.1 Định nghĩa 19 2.1.2 Ứng dụng thuật toán hồi quy Logistic 20 2.1.3 Hàm Sigmoid sử dụng hồi quy Logistic 21 2.1.4 Xây dựng thuật toán hồi quy Logistic nhị phân 22 2.1.5 Ví dụ ứng dụng thuật toán hồi quy logistic 26 2.2 Thuật toán Principal Component Analysis (PCA) 29 2.2.1 Vai trị thuật tốn PCA tốn phân lớp 29 2.2.2 Bài toán giảm chiều liệu 30 2.2.3 Cơ sở toán học PCA 30 2.2.4 Các bước thực phương pháp PCA 31 2.2.5 Ví dụ áp dụng thuật tốn mơ ứng dụng 32 h 2.3 Thuật toán phân cụm liệu K-Means 38 2.3.1 Phân cụm liệu 38 2.3.2 Ứng dụng phân cụm: 40 2.3.3 Thuật toán phân cụm K-Means 40 2.3.4 Các bước thực thuật toán K-Means 42 2.3.5 Ví dụ minh họa triển khai thuật toán K-Means 42 KẾT LUẬN CHƯƠNG 45 Chương 3: SỰ KẾT HỢP BA THUẬT TOÁN PCA, K-MEANS VÀ HỒI QUY LOGISTIC ỨNG DỤNG TIÊN LƯỢNG BỆNH TIỂU ĐƯỜNG 46 3.1 Chuẩn bị liệu tiểu đường 46 3.2 Tiền xử lí liệu 47 3.3 Ứng dụng thuật toán hồi quy Logistic Regression Classifier phần mềm python để dự đoán bệnh tiểu đường cho bệnh nhân 48 3.4 Kết hợp thuật toán PCA hồi quy logistic vào ứng dụng tiên lượng bệnh tiểu đường 51 3.4.1 Thuật toán PCA 51 3.4.2 Kết hợp hai thuật toán PCA-Logistic 57 3.5 K_Means hồi quy Logistic 59 3.5.1 Phát loại bỏ liệu ngoại lai(outliers) bỡi thuật toán phân cụm K-Means 59 3.5.2 Thực thuật toán hồi quy Logistic tập liệu K-Means 63 3.6 Cải thiện thuật toán hồi quy Logistic kết hợp PCA K-Means 64 KẾT LUẬN CHƯƠNG 67 KẾT LUẬN 69 DANH MỤC TÀI LIỆU THAM KHẢO 71 PHỤ LỤC QUYẾT ĐỊNH GIAO ĐỀ TÀI LUẬN VĂN THẠC SĨ (bản sao) h DANH MỤC CÁC BẢNG Bảng 3.1: Thống kê độ xác kết thuật toán 67 DANH MỤC CÁC HÌNH Hình 2.1: Phân ảnh phân loại đối tượng thành hai nhóm 20 Hình 2.2: Đồ thị hàm sigmoid biểu diễn python 22 Hình 2.3: Hình ảnh ví dụ phân cụm liệu thuật tốn K- Means 39 Hình 3.1: Hình ảnh mơ tả trực quan biểu diễn giá trị ma trận nhầm lẫn 50 Hình 3.2: Đồ thi phân tích thàn phần PCA 57 Hình 3.3 Mô tả outlier liệu chiều 59 Hình 3.4: Đồ thị cluster 62 Hình 3.5: Đồ thị biểu diễn liệu thuật toán PCA 65 Hình 3.6: Đồ thị cluster để xác định ngưỡng outliers 66 h Hình 3.7: Hình vẽ kết loại bỏ outliers dùng K-Means 66 Pl-1 MỞ ĐẦU Lý chọn đề tài Tiểu đường bệnh biểu tăng đường máu mãn tính thiếu insulin, bệnh khơng truyền nhiễm có ảnh hưởng nghiêm trọng sống người Nó xem bệnh hàng đầu có khả gây chết cho người Nhiều quốc gia phải đối mặt với phát triển nhanh chóng trẻ hóa bệnh tiểu đường Khi mắc bệnh tiểu đường làm cho số đường huyết cao mức bình thường Nguyên nhân tiết insulin bị khiếm khuyết ảnh hưởng sinh học bị suy yếu hai Bệnh tiểu đường dẫn đến tổn thương mãn tính rối loạn chức mô khác nhau, đặc biệt mắt, thận, tim, mạch máu dây thần kinh tim mạch, hạ đường huyết, nhiễm trùng dẫn đến hoại tử tử vong Theo tổ chức Y tế giới (WHO) gọi bệnh tiểu đường "Cơn sóng h thần tàn phá sức khỏe toàn cầu" tỷ lệ mắc bệnh biến chứng bệnh ngày tăng cao Nếu biện pháp ngăn chặn hiệu dự báo đến năm 2040, tồn giới có 642 triệu người mắc bệnh tiểu đường, có triệu người mắc bệnh nước ta [7] Ngoài ra, 46.5% người mắc bệnh tiểu đường chưa chẩn đốn Điều nói lên 10 người trưởng thành tương lai có người mắc bệnh tiểu đường Vậy, bệnh tiểu đường ngày trẻ hóa tình trạng báo động nên cần phải ý nhiều đến Nguyên nhân kết hầu hết người bệnh không nhận tình trạng sức khỏe họ thời điểm sớm Trong buổi gặp trao đổi thông tin với báo chí Hội trại dinh dưỡng đái tháo đường tên gọi “Chung tay kiểm soát đẩy lùi bệnh đái tháo đường” lần III - năm 2018 (Diabetes Camp - 2018) diễn vào chiều 23/10, PGS.TS Tạ Văn Bình - Nguyên giám đốc Bệnh viện Nội tiết Trung ương, nguyên Viện trưởng Viện Đái tháo đường Rối loạn chuyển hóa (Đại học Y Hà Nội), Chủ Pl-2 tịch Hội người giáo dục bệnh đái tháo đường Việt Nam nhấn mạnh: “Đái tháo đường thực bệnh có nhiều biến chứng nguy hiểm, việc tầm sốt, phát sớm bệnh đái tháo đường giúp cho trình điều trị đạt hiệu cao nhất, kiểm soát, ngăn ngừa biến chứng nguy hiểm” [8] Người mắc bệnh tiểu đường có sống khỏe mạnh hạnh phúc họ kiểm sốt bệnh cách thông qua dùng thuốc kết hợp với chế độ ăn uống lành mạnh giám sát bác sỹ Vì vậy, phát sớm đóng vai trị quan trọng chẩn đốn bệnh tiểu đường giảm đáng kể bệnh biến chứng tiểu đường mang lại Trong khoa học y tế, chẩn đốn tình trạng sức khỏe nhiệm vụ khó khăn Đặc biệt, chẩn đoán bệnh tiểu đường thách thức quan trọng nước phát triển phát triển Thực tế cho thấy, lịch sử khám bệnh bệnh nhân kết xét nghiệm cần thiết để chẩn h đoán bệnh cụ thể chẩn đoán dựa kinh nghiệm bác sĩ Tuy nhiên, chẩn đoán bệnh bác sĩ kinh nghiệm chẩn đốn có kết khơng xác tình trạng sức khỏe bệnh nhân Do đó, làm để chẩn đốn phân tích bệnh tiểu đường nhanh chóng xác chủ đề đáng để nghiên cứu Chẩn đốn sớm hơn, kiểm sốt dễ dàng nhiều Để có kết chẩn đốn mong muốn, ngồi việc dựa vào kinh nghiệm cao bác sỹ cần phải sử dụng công nghệ thông tin tiên tiến ứng dụng khai thác liệu lĩnh vực phù hợp cho việc Khai thác liệu cung cấp khả trích xuất khám phá mẫu chưa biết, ẩn từ kho lưu trữ liệu lớn Những mẫu hỗ trợ y tế chẩn đoán định Với phát triển phương pháp Machine Learning, khả vận dụng phương pháp để tìm giải pháp cho vấn đề khả thi, khai thác liệu hỗ trợ dự đoán tiên lượng bệnh nhân bị tiểu đường Hơn nữa, Pl-3 dự đoán bệnh sớm, điều trị cho tích cực cho bệnh nhân trước trở nên nguy kịch Khai thác liệu có khả trích xuất kiến thức ẩn từ lượng lớn liệu liên quan đến bệnh tiểu đường Gần đây, có nhiều nhà nghiên cứu giới phát triển mơ hình dự đốn khác cách sử dụng khai thác liệu để dự đoán chẩn đoán cho bệnh nhân tiểu đường Tuy nhiên, hầu hết nghiên cứu họ gặp trở ngại bước tiền xử lí liệu bị giới hạn số liệu có sẵn cho dự đốn kết phân loại cuối Để khắc phục hạn chế này, đề xuất nghiên cứu với đề tài: “Kết hợp PCA K-Means với hồi quy Logistic ứng dụng tiên lượng bệnh tiểu đường” Đối tượng phạm vi nghiên cứu 2.1 Đối tượng nghiên cứu lý thuyết: Tìm hiểu nội dung thuật tốn PCA, K-Means hồi quy Logistic từ h xây dựng mơ hình kết hợp ba thuật tốn để tiên lượng kết dự đoán bệnh tiểu đường cho bệnh nhân 2.2 Đối tượng nghiên cứu thực tiễn: Các số sinh hóa xét nghiệm bệnh nhân khám bệnh tiểu đường 2.3 Phạm vi nghiên cứu: Dữ liệu bệnh nhân Bệnh viện đa khoa tỉnh Bình Định từ tháng năm 2019 đến tháng năm 2020 Phương pháp nghiên cứu 3.1 Phương pháp nghiên cứu tài liệu, tổng hợp hệ thống hóa: Tìm kiếm, thu thập tài liệu từ cơng trình nghiên cứu khoa học công bố báo đăng hội nghị, tạp chí thơng tin từ website ứng dụng thuật toán học máy tốn phân lớp liệu Phân tích, tổng hợp rút trích nội dung cần thiết để giải yêu cầu 3.2 Phương pháp thực nghiệm khoa học: Pl-4 Sử dụng liệu thu thập từ Bệnh Viện Đa Khoa Tỉnh Bình Định số sinh hóa xét nghiệm bệnh nhân tiểu đường cho trình thử nghiệm, đánh giá Thực việc thử nghiệm, đánh giá thuật toán đề xuất luận văn nhằm đánh giá tính hiệu độ xác q trình dự đốn đề xuất so với kết thực nghiệm cơng trình nghiên cứu có trước Mục tiêu nội dung luận văn Mục tiêu nghiên cứu chúng tơi phân tích mơ hình, chứng tỏ kết dự báo xác kết hợp thuật toán phân cụm K-Means hồi quy Logistic Vai trị phân tích thành phần (PCA) nhằm giảm chiều kích thước tập liệu bảo tồn thơng tin Sau thuật tốn KMeans sử dụng để loại bỏ liệu ngoại lai Sau sử dụng hồi quy Logistic để xây dựng mô hình phân lớp dự báo Sự kết hợp thuật tốn h cải thiện hiệu mơ hình phân lớp Ý nghĩa khoa học thực tiễn 5.1 Ý nghĩa khoa học: Với kết hợp ứng dụng ngành khoa học máy tính y khoa, đề tài đóng góp phương pháp thực nghiệm hỗ trợ ngành y học việc chẩn đoán bệnh cho bệnh nhân Kết thu thực đề tài hỗ trợ cho cán y tế chẩn đoán bệnh tiểu đường cho bệnh nhân 5.2 Ý nghĩa thực tiễn: Chẩn đoán phát bệnh q trình, địi hỏi cán y tế phải có trình độ chun mơn cao cần phải có đầy đủ trang thiết bị y tế hỗ trợ chẩn đốn xác tình trạng bệnh bệnh nhân Việc phát sớm xác bệnh đưa hướng điều trị đúng, khắc phục biến chứng bệnh gây cho bệnh nhân Điều góp phần giảm thiệt hại tinh thần kinh tế cho người bệnh, góp phần thúc đẩy kinh tế