Phân lớp nhanh hình ảnh tế bào bạch cầu dựa vào đặc trưng sâu và tối ưu hóa bầy đàn

ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH TRƯỜNG ĐẠI HỌC BÁCH KHOA KHOA KHOA HỌC & KỸ THUẬT MÁY TÍNH BK TP.HCM LUẬN VĂN TỐT NGHIỆP ĐẠI HỌC PHÂN LỚP NHANH HÌNH ẢNH TẾ BÀO BẠCH CẦU DỰA VÀO ĐẶC TRƯNG SÂU VÀ TỐI ƯU HÓA BẦY ĐÀN NGÀNH: KHOA HỌC MÁY TÍNH HỘI ĐỒNG: KHOA HỌC MÁY TÍNH GVHD: TS LÊ HỒNG TRANG GVPB: THS LÊ THỊ BẢO THU SVTH 1: THÁI TIỂU PHƯƠNG 1710250 SVTH 2: NGUYỄN BÌNH N 1714074 TP Hồ Chí Minh, tháng 10/2021 ĐẠI HỌC QUỐC GIA TP.HCM -TRƯỜNG ĐẠI HỌC BÁCH KHOA KHOA: KH & KT Máy tính _ BỘ MƠN: HTTT CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập - Tự - Hạnh phúc NHIỆM VỤ LUẬN ÁN TỐT NGHIỆP Chú ý: Sinh viên phải dán tờ vào trang thuyết trình HỌ VÀ TÊN: Thái Tiểu Phương MSSV: 1710250 HỌ VÀ TÊN: Nguyễn Bình Yên MSSV: 1714047 HỌ VÀ TÊN: _ MSSV: _ NGÀNH: Khoa học máy tính _ LỚP: Đầu đề luận án: Phân lớp nhanh hình ảnh tế bào bạch cầu dựa vào đặc trưng sâu tối ưu bầy đàn _ Nhiệm vụ (yêu cầu nội dung số liệu ban đầu): - Tìm hiểu tổng quan tốn phân lớp tế bào bạch cầu - Tìm hiểu trích xuất dùng mạng nơ-ron sâu lựa chọn đặc trưng dùng tối ưu hoá bầy đàn - Đề xuất cải thiện mơ hình phân loại hình ảnh tế bào bạch cầu dùng đặc trưng sâu cải tiến lựa chọn đặc trưng - Hiện thực, thực nghiệm đánh giá kết _ _ _ Ngày giao nhiệm vụ luận án: 01/03/2021 Ngày hoàn thành nhiệm vụ: 28/06/2021 Họ tên giảng viên hướng dẫn: TS Lê Hồng Trang Phần hướng dẫn: Toàn 1) 2) 3) Nội dung yêu cầu LVTN thông qua Bộ môn Ngày 15 tháng 08 năm 2021 CHỦ NHIỆM BỘ MƠN GIẢNG VIÊN HƯỚNG DẪN CHÍNH (Ký ghi rõ họ tên) (Ký ghi rõ họ tên) PGS TS Trần Minh Quang TS Lê Hồng Trang PHẦN DÀNH CHO KHOA, BỘ MÔN: Người duyệt (chấm sơ bộ): Đơn vị: _ Ngày bảo vệ: _ Điểm tổng kết: _ Nơi lưu trữ luận án: _ TRƯỜNG ĐẠI HỌC BÁCH KHOA KHOA KH & KT MÁY TÍNH CỘNG HỊA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập - Tự - Hạnh phúc -Ngày 10 tháng 08 năm 2021 PHIẾU CHẤM BẢO VỆ LVTN (Dành cho người hướng dẫn/phản biện) Họ tên SV: Thái Tiểu Phương Nguyễn Bình Yên MSSV: 1710250 1714074 Ngành (chuyên ngành): KHMT Đề tài: Phân lớp nhanh hình ảnh tế bào bạch cầu dựa vào đặc trưng sâu tối ưu hoá bầy đàn Họ tên người hướng dẫn/phản biện: Lê Hồng Trang Tổng quát thuyết minh: Số trang: Số chương: Số bảng số liệu Số hình vẽ: Số tài liệu tham khảo: Phần mềm tính tốn: Hiện vật (sản phẩm) Tổng qt vẽ: - Số vẽ: Bản A1: Bản A2: Khổ khác: - Số vẽ vẽ tay Số vẽ máy tính: Những ưu điểm LVTN: -! Luận văn xét khó khăn tốn phân lớp hình ảnh tế bào sử dụng kính hiển vi, hình thái tế bào ác tính lành tính giống nhìn mắt thường -! Phương pháp đề xuất trọng vào hai yếu tố quan trọng Việc trích xuất dựa vào mạng VGG19 Các đặc trưng sau lựa chọn việc áp dụng tối ưu bầy đàn Đây kỹ thuật thú vị Nhóm khơng sử dụng lại mơ hình tối ưu có mà cịn đề xuất cải tiến thơng qua hàm fitness -! Mơ hình đề xuất giải thuật cải tiến thực, thực nghiệm với tập liệu ALLIDB C-NMC -! Nhóm tiến hành thực nghiệm để phân tích/đánh giá chi tiết thành phần mơ hình đề xuất, ảnh hưởng tham số khác tác động lên hiệu mơ hình Cuối nhóm thực nghiệm nhiều phân lớp để đánh giá mơ hình trích xuất, lựa chọn đặc trưng đề xuất Các thực nghiệm mơ tả rõ ràng Những thiếu sót LVTN: -! Một số nội dung phần đầu, nhóm bổ sung thêm số thơng tin để luận văn hoàn thiện đầy đủ Đề nghị: Được bảo vệ R Bổ sung thêm để bảo vệ o câu hỏi SV phải trả lời trước Hội đồng: a 10 Đánh giá chung (bằng chữ: giỏi, khá, TB): Giỏi Không bảo vệ o Điểm: 10/10 Ký tên (ghi rõ họ tên) TS Lê Hồng Trang KHOA KH & KT MÁY TÍNH -Ngày 12 tháng 08 2021 ên SV1: Thái Ti Nguy Bình Yên MSSV: 1710250 MSSV: 1714074 Ngành (chuyên ngành): n ThS Lê Th Thu hu - - - - n A2: tay máy tính: tìm hi nghiêm c ên quan v toán phân l t b cách ti : h máy h âu, l ên gi b xu án trích xu m (VGGNet) sau ó l b (thêm tr quán tính nâng cao ch s ng transfer function) Ti ành th , ánh giá t d ALL-IDB , C-NMC cho th u phân l h tài ngun tính tốn h (gi tr ) ính xác phân lo cao h so v ác nghiên c ó Báo cáo chi ti - Th ánh giá m dataset khác a b c á, TB): gi 10 /10 ThS Lê Th , áp LỜI CAM ĐOAN Chúng xin cam đoan cơng trình nghiên cứu chúng tơi thực hướng dẫn TS Lê Hồng Trang Ngoại trừ kết tham khảo từ cơng trình khác có liên quan ghi rõ luận văn, nội dung nghiên cứu kết trung thực chưa có phần nội dung nộp để lấy cấp trường khác Các số liệu sử dụng cho trình phân tích, nhận xét chúng tơi tìm hiểu thu thập từ nhiều nguồn khác ghi rõ phần tài liệu tham khảo Tất có trích dẫn thích nguồn gốc TP HCM, NGÀY 26 THÁNG 07 NĂM 2021 LỜI CẢM ƠN Đầu tiên, xin gửi lời cảm ơn chân thành đến TS Lê Hồng Trang, thầy giúp đỡ chúng tơi q trình chuẩn bị đề cương hoàn thành luận văn suốt năm học vừa qua Xin cảm ơn hướng dẫn tận tình thầy, nhờ kiến thức kinh nghiệm mà thầy truyền đạt giúp chúng tơi có nhìn tổng quan đề tài, định hướng đắn hoàn thành tốt luận văn Xin gửi lời cảm ơn đến thầy cô trường Đại học Bách Khoa Thành phố Hồ Chí Minh, đặc biệt thầy cô môn khoa Khoa học Kỹ thuật Máy tính truyền đạt kiến thức quý báu bốn năm học qua Cuối cùng, chúng tơi xin cảm ơn gia đình, bạn bè, người giúp đỡ, hỗ trợ chúng tơi suốt thời gian hồn thành chương trình bậc Đại học TÁC GIẢ iii TÓM TẮT Phân loại tế bào thơng qua xử lý hình ảnh gần thu hút quan tâm dựa quan điểm xây dựng cơng cụ chẩn đốn với hỗ trợ máy tính bệnh rối loạn máu bệnh bạch cầu Để đến kết luận chẩn đoán bệnh mức độ tiến triển, việc xác định tế bào ác tính với độ xác cao quan trọng Thách thức đặt phải chẩn đoán bệnh sớm để tăng khả chữa khỏi bệnh đối tượng mắc bệnh ung thư Mặc dù thực tiễn tồn phương pháp tiên tiến kỹ thuật đếm tế bào dòng chảy, chúng đắt tiền không cung cấp rộng rãi phịng thí nghiệm giải phẫu bệnh viện, đặc biệt vùng nông thôn Mặt khác, giải pháp dựa máy tính triển khai dễ dàng với chi phí thấp nhiều Do đó, đề tài nỗ lực nhằm xây dựng phương pháp phân loại hình ảnh tế bào bạch cầu hiệu sử dụng học sâu giải thuật tối ưu hóa bầy đàn, khắc phục vấn đề liên quan đến việc triển khai máy móc phức tạp, hỗ trợ nhà nghiên cứu bệnh lý học ung thư học đưa suy luận nhanh dựa liệu MỤC LỤC Tóm tắt iii Danh mục hình ảnh vi Danh mục bảng biểu vii Danh mục chữ viết tắt viii Chương TỔNG QUAN 1.1 Giới thiệu đề tài 1.2 Mục tiêu phạm vi đề tài 1.3 Cấu trúc luận văn Chương NHỮNG NGHIÊN CỨU LIÊN QUAN 2.1 Phân lớp hình ảnh tế bào bạch cầu 2.2 Tổng quan cách tiếp cận toán phân lớp tế bào bạch cầu 2.2.1 Những phương pháp truyền thống dựa học máy 2.2.2 Một số hướng tiếp cận dựa học sâu 2.2.3 Đánh giá tổng quan cách tiếp cận toán 2.3 Lựa chọn đặc trưng dựa giải thuật tối ưu hóa bầy đàn 2.3.1 PSO toán phân lớp 2.3.2 ACO toán phân lớp 2.4 Những thách thức phổ biến phương pháp Chương KIẾN THỨC NỀN TẢNG 3.1 Học sâu đặc trưng sâu 3.2 Mạng nơ-ron tích chập - Convolutional Neural Network (CNN) 3.3 Transfer learning 3.4 Kiến trúc mạng VGG19 3.5 Một số phân lớp dùng để chẩn đoán ALL 3.6 Tổng quan tối ưu hóa bầy đàn 3.7 Một số phương pháp bật tối ưu hóa bầy đàn 3.7.1 Particle Swarm Optimization (PSO) 3.7.2 Ant Colony Optimization (ACO) 3.7.3 Salp Swarm Algorithm (SSA) 2 6 9 10 11 12 13 13 14 15 16 18 19 19 19 21 Chương PHƯƠNG PHÁP THỰC HIỆN 4.1 Tổng quan phương pháp phân lớp tế bào bạch cầu đề xuất 4.2 Trích xuất đặc trưng (Feature Extraction) 4.3 Lựa chọn đặc trưng (Feature Extraction) sử dụng Salp Swarm Algorithm (SSA) 4.3.1 Biểu diễn toán phân lớp giải thuật SSA cho công đoạn lựa chọn đặc trưng 4.3.2 Những cải tiến giải thuật SSA để tăng hiệu lựa chọn đặc trưng 26 27 27 29 29 31 v MỤC LỤC Chương KẾT QUẢ HIỆN THỰC 5.1 Tập liệu 5.1.1 Đặc điểm hình thái phơi bào ALL 5.1.2 Tập liệu ALL-IDB 5.1.3 Tập liệu C-NMC 5.2 Một số tiêu chuẩn đánh giá hệ thống phân lớp 5.3 Phương pháp thực nghiệm 5.4 Đánh giá kết đạt 5.4.1 Đánh giá đặc trưng trích xuất từ VGGNet 5.4.2 Đánh giá ảnh hưởng số α β hàm mục tiêu 5.4.3 Thống kê ảnh hưởng phiên Transfer Function thuật SSA 5.4.4 Đánh giá độ hiệu thực lựa chọn đặc trưng 5.4.5 Đánh giá độ hiệu ISSA so với SSA 5.5 Nhận xét chung 35 36 36 36 37 37 38 38 38 39 giải 40 41 42 43 Chương TỔNG KẾT 6.1 Các kết đạt 6.2 Những hạn chế, khó khăn 6.3 Định hướng tương lai 44 45 45 46 Tài liệu tham khảo 46 DANH MỤC HÌNH ẢNH 2.1 2.2 Mẫu WBCs lành tính ác tính Sơ đồ khối phương pháp phát bệnh bạch cầu dựa trình end-toend learning 3.1 3.2 3.3 3.4 3.5 3.6 3.7 So sánh học máy truyền thống transfer learning Biểu diễn kiến trúc mạng VGG19 Chuỗi Salp Đồ thị hàm số C1 Mã giả thuật toán Salp Swarm Algorithm Mô bước lặp thuật tốn khơng gian chiều Mơ vị trí chuỗi salp qua 100 lần lặp thuật tốn khơng gian chiều Mô bước lặp thuật tốn khơng gian chiều Mơ vị trí chuỗi salp qua 100 lần lặp thuật tốn khơng gian chiều 3.8 3.9 14 15 21 22 22 24 24 25 25 4.1 4.2 4.3 4.4 4.5 4.6 4.7 Flowchart tổng quan phương pháp phân lớp Cấu trúc tầng VGGNet thông số tương ứng Flowchart lựa chọn đặc trưng SSA Một ví dụ tập đặc trưng Biểu diễn toán học hàm transfer function Đồ thị hàm transfer function Phương pháp sử dụng transfer function để đưa SSA dạng nhị phân 27 28 30 33 33 34 34 5.1 5.2 Biến đổi hình thái phơi bào theo FAB Thời gian trích xuất đặc trưng độ xác 36 39 CHƯƠNG KẾT QUẢ HIỆN THỰC 5.1 Tập liệu 5.1.1 Đặc điểm hình thái phôi bào ALL 36 Việc phân lớp tế bào lympho hình ảnh hiển vi phức tạp chun gia gặp khó khăn phân loại số loại tế bào lympho Trên thực tế, khía cạnh đặc biệt hình thái phơi bào ALL tế bào lympho bình thường không khác nhiều Tất nhiên ngày công cụ chẩn đốn xác có sẵn (ví dụ: phân loại miễn dịch học) chúng yêu cầu mẫu máu, phương pháp khơng dựa hình ảnh nên khả sử dụng công cụ ứng dụng y tế từ xa hạn chế Theo phân tích thị giác chẩn đốn ALL (phương pháp FAB), đặc trưng mà kỹ thuật viên phịng lab xem xét q trình quan sát hình ảnh là: • L1: Các phơi bào ALL nhỏ đồng Các hạt nhân trò, đặn với khe hở khơng dễ thấy Ít tế bào chất thường khơng có khơng bào • L2: Các phôi bào ALL lớn không đồng Các hạt nhân không thường bị tách Một nhiều có nhân lớn Thể tích tế bào chất thay đổi, thường lớn chứa khơng bào • L3: Các phơi bào ALL có kích thước lớn vừa phải đồng Hạt nhân đặn có hình bầu dục trịn Có nhiều nhân bật Thể tích tế bào chất vừa phải chứa không bào bật Hình 5.1: Sự biến đổi hình thái phơi bào theo phương pháp phân loại FAB: (a) tế bào lympho người bình thường, (b-d) nguyên bào lympho từ bệnh nhân theo thứ tự L1, L2 L3 5.1.2 Tập liệu ALL-IDB Bộ liệu cung cấp Khoa Công nghệ thông tin trường Đại học Milano Hình ảnh tế bào bạch cầu chụp kính hiển vi quang học kết hợp với máy ảnh kỹ thuật số Canon PowerShot G5 Tập ảnh có định dạng JPG với độ sâu màu 24 bit Độ phóng đại kính hiển vi từ 300 đến 500 lần Cơ sở liệu ALL-IDB bao gồm hai tập liệu khác IDB1 IDB2 Ta kiểm tra thuật toán tập ALL-IDB2 xây dựng để kiểm tra hiệu suất hệ thống phân lớp Tập liệu chứa vùng ảnh tế bào bạch cầu lành tính ác tính, cắt từ tập ALL-IDB1 ALL-IDB2 dùng để phát phân đoạn toán phân lớp 37 CHƯƠNG KẾT QUẢ HIỆN THỰC Tập liệu chứa 260 hình ảnh, 50% lành tính 50% ác tính Phương pháp phân lớp đề xuất xây dựng phân lớp nhị phân tập liệu chứa hai lớp (tế bào lành tính tế bào ác tính) Chú thích tên ảnh tập liệu: Các tệp hình ảnh ALL-IDB2 đặt tên với ký hiệu ImXXX_Y.jpg XXX số nguyên có chữ số (số thứ tự ảnh) Y chữ số boolean tế bào đặt ảnh tế bào bình thường tế bào phơi bào Tất hình ảnh có nhãn Y = người khỏe mạnh tất hình ảnh có nhãn Y = bệnh nhân ALL 5.1.3 Tập liệu C-NMC Để khắc phục hạn chế việc sử dụng tập liệu để mở rộng phạm vi công việc, mở rộng nghiên cứu thêm tập liệu thứ hai, độc lập gần hơn, C-NMC Bộ liệu dùng để phân loại tế bào bình thường tế bào ác tính B-ALL IEEE ISBI-2019, bao gồm lượng lớn hình ảnh dán nhãn tế bào bình thường ác tính Hình ảnh tế bào trích xuất từ hình ảnh hiển vi phết máu sau bình thường hóa vết bẩn Kích thước tập liệu huấn luyện 10.661 hình ảnh từ 76 đối tượng, bao gồm 7.272 hình ảnh tế bào 47 bệnh nhân ALL 3.389 hình ảnh 29 đối tượng có tế bào bạch cầu khỏe mạnh 5.2 Một số tiêu chuẩn đánh giá hệ thống phân lớp Để kiểm tra hiệu suất phương pháp đề xuất, ta sử dụng độ xác (accuracy), độ nhạy (sensitivity), độ đặc trưng (specificity), precision, recall, độ đo F1 (F-measure), root mean square error (RMSE) hệ số xác định (R2) thời gian tính tốn để chọn lọc đặc trưng Công thức độ đo: Accuracy = TP+TN TP+TN+FP+FN Recall = TP TP+FN Precision = TP TP+FP Precision×Recall F1 = × Precision+Recall đó: “TP” (true positives) số mẫu tế bào ác tính gán nhãn xác phân lớp, “TN” (true negatives) số mẫu lành tính gán nhãn xác phân lớp “FP” (false positives) số mẫu lành tính lại bị gán nhãn sai ác tính, “FN” (false negatives) số mẫu ác tính bị gán nhãn lành tính CHƯƠNG KẾT QUẢ HIỆN THỰC 5.3 38 Phương pháp thực nghiệm Trong phần này, tiến hành nghiên cứu tham số giải thuật SSA mà nhóm chúng tơi đề xuất để đánh giá hành vi thăm dị khai thác cơng đoạn lựa chọn đặc trưng toán phân lớp tế bào bạch cầu Biến thể cải tiến SSA thực thấy độ hiệu giải thuật việc giảm tỷ lệ lỗi phân loại sử dụng phân loại SVM với kernel linear Để chứng minh tính tối ưu giải thuật, sử dụng chiến lược chia ngẫu nhiên tập liệu thành tập huấn luyện tập kiểm thử sau: 80% để huấn luyện (tách 80% để huấn luyện 20% để kiểm tra nội sử dụng kiểm tra chéo 5-fold) 20% để kiểm tra sau Hai tập tách biệt hoàn toàn với Đối với tập ALL-IDB2, tỷ lệ tương ứng với 208 52 ảnh, tập C-NMC 8529 2132 ảnh Để đảm bảo tính thống kê kết quả, việc chia tập liệu thực 20 lần chạy độc lập Vì kết thống kê thu dựa 20 lần chạy độc lập lấy trung bình Phương pháp phân loại thực ngôn ngữ Python hệ điều hành Windows 10 64 bit sử dụng CPU Core i5-8250U GB RAM Phần trích xuất đặc trưng liệu hình ảnh bạch cầu sử dụng thư viện Keras dùng GPU Google Colab Kích thước quần thể chuỗi salp sử dụng nghiên cứu 20 số vòng lặp tối đa giải thuật 100 Các kết thống kê dựa tập kiểm thử Các tham số giải thuật trình bày bảng 5.1 Tham số Giá trị Ý nghĩa α 0.99 Trọng số hàm mục tiêu NIters 100 Số vịng lặp tối đa NAgents 10 Kích thước quần thể chuỗi salp NRuns 20 Số lần chạy Khơng gian tốn Số lượng đặc trưng dataset Khơng gian tìm kiếm Vector nhị phân [0, 1] ω 0.7 Trọng số quán tính Bảng 5.1: Danh sách tham số giải thuật 5.4 Đánh giá kết đạt 5.4.1 Đánh giá đặc trưng trích xuất từ VGGNet Trong phần này, hiệu suất phương pháp phân loại hình ảnh tế bào bạch cầu dựa đặc trưng chọn lọc sau trích xuất từ mạng VGG19 so sánh với kiến trúc mạng CNN đại khác phương diện độ xác phân loại (sử dụng Linear Support Vector Machine) thời gian trích xuất đặc trưng Tất mạng nơ-ron học sâu so sánh phức tạp mặt cấu trúc so với mạng VGG19 mà chúng tơi đề xuất sử dụng Ví dụ, Resnet11 Xception15 tạo khoảng 100 nghìn đặc trưng, Inception14 tạo 51 nghìn đặc CHƯƠNG KẾT QUẢ HIỆN THỰC 39 trưng Mobilenet13 tạo 50 nghìn đặc trưng, VGGNet sử dụng luận văn trích xuất 25 nghìn đặc trưng từ liệu hình ảnh bạch cầu Hình 5.2: Thời gian trích xuất đặc trưng độ xác Từ hình 5.2, ta thấy tập liệu ALL-IDB2, phương pháp mà nhóm chúng tơi đề xuất vượt trội mơ hình mạng nơ-ron phức tạp ResNet50, Inception V3, Xception V3, MobileNet độ xác phân loại, xác mạng VGG19 Mặc dù số lượng đặc trưng dùng để phân lớp mà chọn nhỏ nhiều so với đặc trưng trích xuất từ mạng phức tạp hiệu phân loại tốt, điều cho thấy ta đạt hiệu suất phân lớp tốt với mức tài nguyên tiêu thụ hơn, chứng minh tính đóng góp đặc trưng chọn giải thuật phân lớp vượt trội so với đặc trưng có kích thước lớn Tuy nhiên, thời gian trích xuất đặc trưng phương pháp thể không tốt so với việc sử dụng mạng khác Điều VGG19 phức tạp với 550MB kích thước tham số dẫn đến thời gian suy luận lâu 5.4.2 Đánh giá ảnh hưởng số α β hàm mục tiêu Các số α β hàm mục tiêu phản ánh trọng số tương ứng với hai tiêu chí để đánh giá độ tốt đặc trưng, là: tối đa độ xác phân loại (tỷ lệ lỗi thấp nhất) tối thiểu số lượng đặc trưng chọn Trong đó, α xác định trọng số độ xác phân loại β cho biết trọng số tỷ lệ giảm số lượng đặc trưng Phần lớn cơng trình trước thực tế đặt giá trị tùy ý cho tham số Thông thường, α gán với giá trị lớn (nghĩa α ≥ 0.9) β gán với giá trị nhỏ (β ≤ 0.5) Ta tiến hành thử nghiệm để nghiên cứu ảnh hưởng α β đến hiệu suất giải thuật SSA nhị phân với transfer function (hàm chuyển đổi) khác Độ xác 40 CHƯƠNG KẾT QUẢ HIỆN THỰC phân lớp tỷ lệ giảm số lượng đặc trưng đo dựa kết hợp giá trị khác α β Ta quan sát thấy thay đổi đáng kể hiệu suất phân lớp tương ứng với thay đổi nhỏ giá trị tham số α β ISSA_S1 ISSA_S2 ISSA_S3 ISSA_S4 0.5 0.5 0.8077 0.8510 0.8995 0.8942 0.7 0.3 0.8173 0.875 0.9135 0.9086 0.9 0.1 0.8654 0.9038 0.9230 0.9183 0.99 0.01 0.8894 0.9087 0.9375 0.9230 Bảng 5.2: Ảnh hưởng α β đến độ xác phân loại α β ISSA_S1 ISSA_S2 ISSA_S3 ISSA_S4 0.5 0.5 0.1985 0.1882 0.1096 0.1350 0.7 0.3 0.1775 0.1773 0.1258 0.1355 0.9 0.1 0.1790 0.1780 0.1270 0.1486 0.99 0.01 0.1523 0.1354 0.1573 0.1562 Bảng 5.3: Ảnh hưởng α β đến tỷ lệ giảm số lượng đặc trưng Độ xác phân lớp tỷ lệ giảm số lượng đặc trưng thể bảng 5.2 5.3 Ta thấy, độ xác tăng lên với việc tăng giá trị α , tỷ lệ giảm số lượng đặc trưng giảm giảm giá trị β Trong nghiên cứu này, chọn giá trị α = 0.99 β = 0.01 để vừa giảm số lượng đặc trưng tối đa độ xác phân lớp 5.4.3 Thống kê ảnh hưởng phiên Transfer Function giải thuật SSA Giải thuật tối ưu hóa bầy đàn SSA từ dạng liên tục chuyển dạng nhị phân cách sử dụng transfer function (TF) dạng S-shaped V-shaped khác bảng Để tìm phiên hàm TF tốt việc lựa chọn đặc trưng liệu hình ảnh bạch cầu, ta đánh giá dựa tiêu chí: trung bình độ xác phân loại, kích thước đặc trưng lựa chọn giá trị trung bình hàm mục tiêu Giá trị trung bình 10 lần chạy độc lập SSA cho hàm TF với 25088 đặc trưng thể bảng Algorithm ISSA_S1 ISSA_S2 ISSA_S3 ISSA_S4 Fitness 0.088 0.082 0.047 0.100 Accuracy 91.14 91.81 95.38 89.96 Features 1895 2039 2508 1553 Bảng 5.4: Ảnh hưởng phiên TF giải thuật SSA 41 CHƯƠNG KẾT QUẢ HIỆN THỰC Như ta thấy, trung bình giá trị hàm mục tiêu, Binary SSA sử dụng S3 vượt trội so với hàm S1, S2, S4 Tương tự, SSA với hàm chuyển đổi S3 cho trung bình độ xác phân loại tốt nhất; số lượng đặc trưng chọn, hàm S1 tạo đặc trưng có kích thước nhỏ nhiều lần chạy thực nghiệm Từ đó, chúng tơi chọn hàm S3 làm transfer function cho SSA để sử dụng cho đánh giá 5.4.4 Đánh giá độ hiệu thực lựa chọn đặc trưng Để đánh giá tính hiệu đặc trưng chọn từ ma trận vector đặc trưng trích xuất tập liệu hình ảnh tế bào bạch cầu việc phân lớp, phương pháp mà nhóm đề xuất thực 10 lần chạy độc lập để tạo 10 đặc trưng khác Những đặc trưng đánh giá cách sử dụng sáu thuật toán phân loại phổ biến chứng minh tính hiệu quả, bao gồm: Linear SVM, KNN (K = 5), Decision Tree, Naive Bayes, Adaboost Multi Layer Perceptron (MLP) Giá trị trung bình, giá trị tốt giá trị xấu số Accuracy, Recall, Precision, F1 Score 10 lần chạy chọn làm tiêu chí đánh giá tính hiệu phân lớp Kết khác lần chạy chất chế ngẫu nhiên giải thuật tối ưu hóa bầy đàn, chế phụ thuộc vào q trình khám phá khơng gian tìm kiếm để tìm đặc trưng tốt Giá trị trung bình số đánh giá thống kê bảng 5.5 Trong bảng 5.5, đặc trưng trích xuất từ VGGNet so sánh với đặc trưng chọn lọc cải tiến giải thuật tối ưu Chỉ với khoảng 8% số lượng đặc trưng giải thuật ISSA lựa chọn sử dụng phân loại chứng minh hiệu phân loại vượt trội nhiều tiêu chí Điều cho thấy giải thuật phân lớp học khoảng nghìn đặc trưng lại cho kết tốt so với việc học từ tập đặc trưng 25 nghìn đặc trưng VGGNet Ngồi ra, nhiều lần chạy độc lập, nhận thấy phân loại SVM với kernel linear cho kết phân loại tốt ổn định liệu hình ảnh bạch cầu Algorithm Linear SVM KNN Decision Tree Naive Bayes Adaboost MLP Method VGG VGG + ISSA VGG VGG + ISSA VGG VGG + ISSA VGG VGG + ISSA VGG VGG + ISSA VGG VGG + ISSA Features 25088 2007 25088 2007 25088 2007 25088 2007 25088 2007 25088 2007 Reduction 100% 8% 100% 8% 100% 8% 100% 8% 100% 8% 100% 8% Accuracy 94.23 95.72 82.69 84.62 71.15 80.77 75.00 81.03 88.46 90.38 94.23 94.23 Recall 92.30 95.00 69.23 73.07 73.08 88.46 96.15 88.72 92.31 84.62 96.15 96.15 Precision 96.00 96.12 94.73 95.00 70.37 76.67 67.57 77.15 85.71 95.65 92.59 92.59 F1 94.12 95.57 80.00 82.61 71.70 82.14 79.37 82.53 88.89 89.80 94.34 94.34 Bảng 5.5: Thống kê số đánh giá tính hiệu đặc trưng dựa giải thuật phân lớp 42 CHƯƠNG KẾT QUẢ HIỆN THỰC 5.4.5 Đánh giá độ hiệu ISSA so với SSA Trong phần này, đánh giá mức độ hiệu thuật toán SSA ISSA Để đánh giá mức độ hiệu chúng, ta dựa kết độ xác, số lượng đặc trưng lựa chọn, thời gian chạy, giá trị hàm fitness Sau bảng thống kê kết trung bình sau 10 lần chạy Algorithm SSA ISSA Fitness 0.085 0.047 Accuracy 94.58 95.82 Features 5608 2792 Time 7200 5400 Bảng 5.6: So sánh SSA với ISSA cải tiến Như ta thấy, cải thiện tham số phương pháp chuyển đổi dạng nhị phân thuật toán ISSA giúp hướng thuật tốn có khả rơi vào vùng tối ưu tốt giúp kết phân lớp tốt Ngồi ra, thuật tốn cho phép thay đổi trọng số hàm fitness giúp ta điều chỉnh số feature phù hợp loại bỏ feature gây nhiễu giúp tăng tốc độ tính tốn CHƯƠNG KẾT QUẢ HIỆN THỰC 5.5 43 Nhận xét chung Bằng cách sử dụng 208 (80%) mẫu để training VGGNet giữ lại 52 (20%) mẫu khác để testing hiệu suất mơ hình cho thấy thách thức mơ hình lượng lớn liệu để tạo trọng số xác Cải thiện SSA cách thêm trọng số quán tính để cân q trình thăm dị tồn cục sàng lọc cục cho thấy hiệu việc nâng cao chất lượng hội tụ giải thuật tối ưu Đồng thời, để giải toán lựa chọn đặc trưng, việc sử dụng transfer function (TF) S-shaped V-shaped chuyển đổi giá trị liên tục giải thuật SSA sang dạng nhị phân cách hiệu Để tìm hàm TF tốt cho giải thuật SSA với liệu hình ảnh bạch cầu, tiêu chí độ xác, số lượng đặc trưng giá trị hàm mục tiêu thống kê nghiên cứu Phương pháp kết hợp sử dụng luận văn để phân lớp hình ảnh tế bào bạch cầu tạo hai mục tiêu quan trọng học máy: độ xác cao số lượng đặc trưng nhỏ Việc giảm số lượng 25 nghìn đặc trưng trích xuất từ VGGNet xuống khoảng nghìn giải thuật SSA cải tiến giúp tiêu thụ thời gian tài ngun tính tốn Ngoài ra, độ xác từ giải thuật phân loại tốt so với việc dùng đặc trưng ban đầu số ưu điểm ISSA nhiệm vụ tối ưu hóa hội tụ nhanh, khả cân giai đoạn thăm dị khai thác, khả khỏi nghiệm tối ưu cục Việc sử dụng giải thuật tối ưu hóa để lựa chọn đặc trưng cho thấy tiềm việc giải toán phân loại phức tạp Hướng tiếp cận tiết kiệm tài nguyên tiêu thụ đồng thời tăng hiệu suất phân lớp Hơn nữa, không thiết mơ hình sâu hoạt động tốt hơn, điều nhận thấy so sánh với mơ hình phức tạp cao Mobilenet Thay vào đó, việc lựa chọn kiến trúc mơ hình phù hợp với liệu hình ảnh tốn ảnh hưởng tích cực đến hiệu suất TỔNG KẾT Trong chương này, xin trình bày kết đạt được, hạn chế khó khăn q trình làm luận văn hướng phát triển tương lai đề tài sau kết thúc luận văn Mục lục 6.1 Các kết đạt 45 6.2 Những hạn chế, khó khăn 45 6.3 Định hướng tương lai 46 CHƯƠNG TỔNG KẾT 6.1 45 Các kết đạt Sau thời gian nghiên cứu thử nghiệm, nhóm chúng tơi đạt kết tương đối việc phân lớp hiệu hình ảnh tế bào bạch cầu • Nghiên cứu tốn phân lớp hình ảnh tế bào bạch cầu nắm cách tiếp cận toán dựa học máy • Đề xuất sử dụng kiến trúc CNN mạng VGG19 trích xuất đặc trưng phù hợp với việc phân lớp hình ảnh tế bào bạch cầu • Tăng chất lượng đặc trưng phương pháp lựa chọn đặc trưng đóng gói sử dụng SSA dựa trí thơng minh bầy đàn làm giải thuật tìm kiếm • Cải thiện giải thuật SSA gốc để phù hợp với toán lựa chọn đặc trưng • Thay đổi tham số, hàm chuyển đổi giải thuật SSA sang dạng nhị phân để tìm phiên SSA cho kết tốt • Hiện thực phương pháp thống kê kết phân lớp từ đặc trưng chọn • Đánh giá phương pháp phân lớp tập liệu dựa nhiều tiêu chí • Phương pháp phân lớp tế bào bạch cầu nhóm có độ xác tương đối tốt sử dụng số lượng đặc trưng giảm nhiều so với đặc trưng trích xuất từ VGG19, giúp giảm thiểu tài ngun tính tốn tăng độ hiệu phân lớp 6.2 Những hạn chế, khó khăn Phương pháp phân lớp hình ảnh tế bào bạch cầu nhóm cịn gặp phải hạn chế để đạt hiệu tốt • Việc thiếu liệu hình ảnh tế bào bạch cầu chuẩn thực tế khiến cho việc huấn luyện mơ hình đánh giá phương pháp trở nên khó khăn khơng tồn diện • Vì giải thuật SSA khởi tạo từ giá trị ngẫu nhiên dẫn đến nghiệm tốn rơi vào vùng tối ưu cục bộ, từ khiến cho kết tối ưu khơng tốt số trường hợp • Độ xác đạt tập kiểm thử sử dụng đặc trưng chọn lọc không cao phân loại số phân lớp • Vì cách tiếp cận cho toán phân lớp nên khơng có nhiều nghiên cứu liên quan, đặc biệt liệu phức tạp hình ảnh tế bào bạch cầu • Để cho kết tốt, trình chạy thử nghiệm giải thuật nhiều thời gian khơng gian tìm kiếm tốn tương đối lớn • Phương pháp thử nghiệm tập liệu sẵn có chưa dùng để phân lớp ảnh chụp thực tế tế bào bạch cầu CHƯƠNG TỔNG KẾT 6.3 46 Định hướng tương lai Phương pháp phân lớp chúng tơi có hiệu tương đối lâu dài cần cải thiện sửa đổi để phù hợp với ứng dụng thực tiễn Sau số định hướng phát triển mà nhóm chúng tơi đề xuất: • Thu thập gán nhãn liệu thật để cải thiện độ xác • Sử dụng mạng đại EfficientNet • Nghiên cứu phát triển phương pháp cải tiến SSA cách sử dụng phương pháp kết hợp dùng hàm thống kê để đánh giá mức độ tốt đậc trưng • Thêm cơng đoạn phân đoạn phát tế bào bạch cầu từ hình ảnh phết máu để phát triển hệ thống end-to-end áp dụng vào thực tế BIBLIOGRAPHY [1] M Sajjad, S Khan, Z Jan, and K Muhammad, “Leukocytes classification and segmentation in microscopic blood smear: A resource-aware healthcare service in smart cities,” IEEE Access 2016, vol 5, pp 3475–3489, [2] S Kumar, S Mishra, and P A Asthana, “Detection of acute leukemia using k-mean clustering algorithm.,” Advances in Computer and Computational Sciences; Springer: Berlin/Heidelberg, Germany, pp 655–670, 2018 [3] N Z Supardi, M Y Mashor, and N H Harun, “Classification of blasts in acute leukemia blood samples using k-nearest neighbour,” IEEE Conference Publication, [4] M Madhukar, S Agaian, and A Chronopoulos, “Deterministic model for acute myelogenous leukemia classification,” Proceedings of the 2012 IEEE International Conference on Systems, Man, and Cybernetics (SMC), pp 433–438, 2012 [5] A Setiawan, A Harjoko, and T Ratnaningsih, “Classification of cell types in acute myeloid leukemia (aml) of m4, m5 and m7 subtypes with support vector machine classifier,” Proceedings of the 2018 International Conference on Information and Communications Technology (ICOIACT), pp 45–49, 2018 [6] L Faivdullah, F Azahar, and Z Htike, “Leukemia detection from blood smears,” pp 488– 491, 2015 [7] J Laosai and K Chamnongthai, “Acute leukemia classification by using svm and kmeans clustering,” Proceedings of the 2014 IEEE International Electrical Engineering Congress (iEECON), pp 1–4, 2014 [8] A Dwivedi, “Artificial neural network model for effective cancer classification using microarray gene expression data,” Neural Comput Appl., vol 24, pp 1545–1554, 2018 [9] A Abdeldaim, A Sahlol, and M Elhoseny, “Computer-aided acute lymphoblastic leukemia diagnosis system based on image analysis,” Advances in Soft Computing and Machine Learning in Image Processing, pp 131–147, 2018 [10] W Yu, J Chang, and C Yang, “Automatic classification of leukocytes using deep neural network,” Proceedings of the 2017 IEEE 12th International Conference on ASIC (ASICON), pp 1041–1044, 2017 [11] T Thanh, C Vununu, and S Atoev, “Leukemia blood cell image classification using convolutional neural network,” Int J Comput Theory Eng., vol 10, pp 54–58, 2018 [12] L Vogado and R Veras, “Leukemia diagnosis in blood slides using transfer learning in cnns and svm for classification.,” Eng Appl Artif Intell., vol 72, pp 415–422, 2018 CHƯƠNG BIBLIOGRAPHY 48 [13] J Zhao, M Zhang, Z Zhou, J Chu, and F Cao, “Automatic detection and classification of leukocytes using convolutional neural networks,” Med Biol Eng Comput., pp 1287– 1301, 2017 [14] M Habibzadeh and M Jannesari, “Automatic white blood cell classification using pretrained deep learning models: Resnet and inception,” 2017 [15] L Lin, W Wang, and B Chen, “Leukocyte recognition with convolutional neural network,” J Algorithms Comput Technol, vol 13, pp 1–8, 2018 [16] A Rehman, N Abbas, and T Saba, “Classification of acute lymphoblastic leukemia using deep learning,” 2018 [17] S Shafique and S Tehsin, “Acute lymphoblastic leukemia detection and classification of its subtypes using pretrained deep convolutional neural networks,” Technol Cancer Res Treat., vol 17, pp 1–7, 2018 [18] J Wang, A Li, M Huang, and A Ibrahim, “Classification of white blood cells with patternnet-fused ensemble of convolutional neural networks (pecnn),” ISSPIT, pp 325– 330, 2018 [19] T Pansombut, S Wikaisuksakul, and K Khongkraphan, “Convolutional neural networks for recognition of lymphoblast cell images,” Comput Intell Neurosci., 2019 [20] Y Sawada, Y Sato, and T Nakada, “Improvement in classification performance based on target vector modification for all-transfer deep learning,” Appl Sci., vol 9, p 128, 2019 [21] S Banka Dara, “A hamming distance based binary particle swarm optimization (hdbpso) lgorithm for high dimensional feature selection, classification and validation,” 2015 [22] Y e a Chen, “An effective feature selection scheme for healthcare data classification using binary particle swarm optimization,” 2018 9th International Conference on Information Technology in Medicine and Education (ITME) IEEE, 2018 [23] M Tran Zhang and Xue, “A pso based hybrid feature selection algorithm for highdimensional classification,” In Evolutionary Computation (CEC), 2016 IEEE Congress on (pp 3801-3808) [24] B Gupta S and Iqbal, “Threshold controlled binary particle swarm optimization for high dimensional feature selection, international journal of intelligent systems and applications(ijisa),” 2018 [25] S S Kannan and N Ramaraj, “A novel hybrid feature selection via symmetrical uncertainty ranking based local memetic search algorithm.,” Knowledge-Based Systems 23.6 (2010): 580-585 CHƯƠNG BIBLIOGRAPHY 49 [26] P GaneshKumar, “Hybrid ant bee algorithm for fuzzy expert system based sample classification,” IEEE/ACM transactions on computational biology and bioinformatics 11.2 (2014): 347-360 [27] A Rouhi and H Nezamabadi-pour, “A hybrid method for dimensionality reduction in microarray data based on advanced binary ant colony algorithm,” 2016 1st Conference on Swarm Intelligence and Evolutionary Computation (CSIEC) IEEE, 2016 [28] I U R Khan, “A novel deep learning based framework for the detection and classification of breast cancer using transfer learning pattern recognition letters,” 2019 [29] J Laosai and K Chamnongthai, “Acute leukemia classification by using svm and kmeans clustering,” in Proceedings of the 2014 International Electrical Engineering Congress, iEECON 2014, Thailand, March 2014 [30] P M Gumble and S V Rode, “Analysis classification of acute lymphoblastic leukemia using knn algorithm,” International Journal on Recent and Innovation Trends in Computing and Communication, vol 5, no 2, pp 94–98, 2017 [31] M Saraswat and K V Arya, “Feature selection and classification of leukocytes using random forest,” Medical Biological Engineering Computing, vol 52, no 12, pp 1041–1052, 2014 [32] J Prinyakupt and C Pluempitiwiriyawej, “Segmentation of white blood cells and comparison of cell morphology by linear and naăve bayes classifiers,” Biomedical Engineering Online, vol 14, no 1, article 63, 2015 [33] A Abdul Nasir, M Mashor, and H Rosline, “Detection of acute leukaemia cells using variety of features and neural networks,” June 2011 [34] R E J Kennedy, “Particle swarm optimization, in: The proceedings of the ieee international conference on neural networks,” Washington, DC,1995, pp 1942–1948 [35] S Mirjalili, A Gandomi, S Saremi, and H Faris, “Salp swarm algorithm: A bio-inspired optimizer for engineering design problems,” Adv Eng Softw., vol 114, pp 163–191, 2017 [36] S Mirjalili and A Lewis, “S-shaped versus v-shaped transfer functions for binary particle swarm optimization,” Swarm and Evolutionary Computation, vol 9, pp 1–14, 2013, ISSN : 2210-6502 CHƯƠNG BIBLIOGRAPHY 50 ... tốn phân lớp hình ảnh tế bào bạch cầu Mục lục 2.1 Phân lớp hình ảnh tế bào bạch cầu 2.2 Tổng quan cách tiếp cận toán phân lớp tế bào bạch cầu 2.3 Lựa chọn đặc. .. tốn phân lớp tế bào bạch cầu - Tìm hiểu trích xuất dùng mạng nơ-ron sâu lựa chọn đặc trưng dùng tối ưu hoá bầy đàn - Đề xuất cải thiện mơ hình phân loại hình ảnh tế bào bạch cầu. .. tính _ LỚP: Đầu đề luận án: Phân lớp nhanh hình ảnh tế bào bạch cầu dựa vào đặc trưng sâu tối ưu bầy đàn _ Nhiệm vụ (yêu cầu nội dung số