Luận án tiến sĩ toán học nghiên cứu phát triển một số thuật toán phân cụm bán giám sát sử dụng mạng nơ ron min max mờ và ứng dụng

i BỘ GIÁO DỤC VÀ ĐÀO TẠO BỘ QUỐC PHÒNG VIỆN KHOA HỌC VÀ CÔNG NGHỆ QUÂN SỰ - VŨ ĐÌNH MINH NGHIÊN CỨU PHÁT TRIỂN MỘT SỐ THUẬT TOÁN PHÂN CỤM BÁN GIÁM SÁT SỬ DỤNG MẠNG NƠ-RON MIN-MAX MỜ VÀ ỨNG DỤNG LUẬN ÁN TIẾN SĨ TOÁN HỌC Hà Nội – 2019 BỘ GIÁO DỤC VÀ ĐÀO TẠO ii BỘ QUỐC PHÒNG VIỆN KHOA HỌC VÀ CÔNG NGHỆ QUÂN SỰ VŨ ĐÌNH MINH NGHIÊN CỨU PHÁT TRIỂN MỘT SỐ THUẬT TOÁN PHÂN CỤM BÁN GIÁM SÁT SỬ DỤNG MẠNG NƠ-RON MIN-MAX MỜ VÀ ỨNG DỤNG Chuyên ngành: Cơ sở toán học cho tin học Mã số: 46 01 10 LUẬN ÁN TIẾN SĨ TOÁN HỌC NGƢỜI HƢỚNG DẪN KHOA HỌC: PGS TS LÊ BÁ DŨNG TS NGUYỄN DOÃN CƢỜNG Hà Nội - 2019 i LỜI CAM ĐOAN Tôi xin cam đoan cơng trình nghiên cứu riêng tơi Các kết nghiên cứu số liệu sử dụng luận án trung thực, chƣa đƣợc cơng bố cơng trình khác, liệu tham khảo đƣợc trích dẫn đầy đủ Tác giả luận án Vũ Đình Minh ii LỜI CẢM ƠN Trƣớc hết, tơi xin bày tỏ lòng biết ơn chân thành sâu sắc tới Thầy giáo hƣớng dẫn, PGS.TS Lê Bá Dũng TS Nguyễn Doãn Cƣờng Sự hƣớng dẫn bảo trách nhiệm, nhiệt tình Thầy với nỗ lực thân giúp tơi hồn thành đề tài Tơi xin cảm ơn Viện Công nghệ Thông tin - Viện Khoa học Công nghệ quân sự, nơi tạo cho môi trƣờng làm việc thuận lợi Xin chân thành cảm ơn cán nghiên cứu Viện Công nghệ Thông tin - Viện Khoa học Công nghệ quân sự, ngƣời không thƣờng xuyên động viên dạy bảo, mà có nhắc nhở nghiêm khắc giúp tơi hồn thành công việc nghiên cứu đề tài Tôi xin chân thành cảm ơn lãnh đạo Trƣờng Cao đẳng Công nghiệp Thái Nguyên động viên tạo điều kiện mặt giúp tập trung vào công việc nghiên cứu Tôi xin gửi lời cảm ơn đến tất đồng nghiệp bạn bè, ngƣời động viên, chia sẻ kinh nghiệm nghiên cứu khoa học nhƣ giúp đỡ công tác để tơi có thời gian học tập Cuối cùng, luận án khơng thể hồn thành nhƣ khơng có động viên hỗ trợ mặt gia đình Tơi xin gửi tới cha mẹ, anh chị em ngƣời thân gia đình lời cảm ơn chân thành với lòng biết ơn sâu sắc Xin chân thành cảm ơn Hà Nội, ngày 13 tháng năm 2019 Vũ Đình Minh iii MỤC LỤC Trang DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT VI DANH MỤC CÁC BẢNG X DANH MỤC CÁC HÌNH VẼ XII MỞ ĐẦU 1 Tính cấp thiết luận án Mục tiêu nghiên cứu Đối tƣợng phạm vi nghiên cứu Phƣơng pháp nghiên cứu 5 Đóng góp luận án 6 Bố cục luận án CHƢƠNG TỔNG QUAN VỀ MẠNG NƠRON MIN-MAX MỜ 1.1 Cơ mạng nơron min-max mờ 1.1.1 Giới thiệu mạng nơron min-max mờ 1.1.2 Khái niệm siêu hộp 10 1.1.3 Hàm thuộc siêu hộp 10 1.1.4 Cấu trúc mạng nơron min-max mờ 12 1.1.5 Kiểm tra điều chỉnh chồng lấn siêu hộp 14 1.1.6 Thuật toán học mạng nơron min-max mờ 16 1.2 Một số nghiên cứu nâng cao chất lƣợng FMNN 18 1.2.1 Điều chỉnh giới hạn kích thƣớc siêu hộp 18 1.2.2 Sửa đổi cấu trúc FMNN quản lý khu vực chồng lấn 21 1.2.2.1 Mơ hình FMCN 21 1.2.2.2 Mơ hình DCFMN 23 1.2.3 Bổ sung thêm trƣờng hợp chồng lấn FMNN 25 1.2.4 Cải tiến phƣơng pháp học mạng nơron min-max mờ 26 1.3 Đặc điểm chung phƣơng thức cải tiến FMNN 28 1.4 Một số vấn đề cần tiếp tục nghiên cứu FMNN cho phân cụm liệu 30 1.5 Kết luận chƣơng 30 iv CHƢƠNG PHÁT TRIỂN THUẬT TOÁN PHÂN CỤM BÁN GIÁM SÁT SỬ DỤNG MẠNG NƠRON MIN-MAX MỜ 32 2.1 Thuật toán phân cụm bán giám sát mờ SS-FMM 32 2.1.1 Ý tƣởng thuật toán 32 2.1.2 Thuật toán học SS-FMM 34 2.1.3 Đánh giá độ phức tạp thuật toán SS-FMM 41 2.2 Thuật toán phân cụm bán giám sát mờ kết hợp SCFMN 42 2.2.1 Ý tƣởng thuật toán 42 2.2.2 Thuật toán học SCFMN 46 2.2.3 Đánh giá độ phức tạp thuật toán SCFMN 49 2.3 Thuật toán phân cụm mờ dựa tâm cụm liệu CFMNN 50 2.3.1 Ý tƣởng thuật toán 50 2.3.2 Thuật toán học CFMNN 53 2.3.3 Đánh giá độ phức tạp thuật toán CFMNN 55 2.4 Thực nghiệm đánh giá 56 2.4.1 Phƣơng pháp thực nghiệm 56 2.4.1.1 Tập liệu thực nghiệm 56 2.4.1.2 Mục tiêu phƣơng pháp thực nghiệm 57 2.4.1.3 Độ đo tiêu chí đánh giá kết 57 2.4.2 Kết thực nghiệm 58 2.4.2 So sánh mơ hình đề xuất với số phƣơng thức khác 71 2.4.2.1 So sánh SS-FMM với GFMM RFMN 71 2.4.2.2 So sánh SCFMN, CFMNN với FMNN MFMM 72 2.4.2.3 So sánh SCFMN với FMM, FMM-CF FMM-GA 74 2.4.2.4 So sánh SCFMN, CFMNN với số phƣơng thức khác 75 2.5 Kết luận chƣơng 76 CHƢƠNG ỨNG DỤNG MẠNG NƠRON MIN-MAX MỜ HỖ TRỢ CHẨN ĐOÁN BỆNH GAN 78 3.1 Bài toán chẩn đoán xơ gan 78 3.1.1 Bệnh viêm gan mạn đánh giá xơ gan 78 v 3.1.2 Các phƣơng pháp đánh giá xơ gan 79 3.2 Ứng dụng mạng nơron min-max mờ chẩn đoán bệnh gan 81 3.2.1 Mơ hình hóa tốn 82 3.2.2 Phân tích mơ hình 83 3.2.3 Cắt tỉa siêu hộp 84 3.2.4 Rút trích luật định 84 3.3 Thực nghiệm đánh giá 85 3.3.1 Tập liệu thực nghiệm 85 3.3.2 Mục tiêu phƣơng pháp thực nghiệm 86 3.3.3 Độ đo tiêu chí đánh giá 87 3.3.4 Kết thực nghiệm 89 3.3.4.1 Kết tập sở liệu Cirrhosis 89 3.3.4.2 Kết tập sở liệu LiverDisease 96 3.3.5 So sánh kết thuật toán đề xuất với số thuật toán khác 100 3.4 Kết luận chƣơng 103 KẾT LUẬN 104 TÀI LIỆU THAM KHẢO 106 DANH MỤC CÁC CƠNG TRÌNH KHOA HỌC ĐÃ CƠNG BỐ 114 vi DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT B lj Nhãn siêu hộp Bj |B| Lực lƣợng tập B b(A,B) Hàm xác định độ thuộc mẫu A vào siêu hộp B f(x,y) Hàm ngƣỡng hai tham số x, y max(x,y) Hàm chọn giá trị max min(x,y) Hàm chọn giá trị Không gian Euclide n-chiều V Đỉnh siêu hộp W Đỉnh max siêu hộp α Tham số chọn β Tham số ngƣỡng γ Tham số mờ ε Tham số nhiễu θ Kích thƣớc siêu hộp θ(A,B) Kích thƣớc siêu hộp B kết nạp thêm mẫu A θmax Kích thƣớc tối đa siêu hộp φ Tham số giảm ngƣỡng A2M Protein huyết tƣơng phân tử lớn (Alpha-2-Macroglobulin) AIS Hệ thống miễn dịch nhân tạo (Artificial Immune System) ALP Phosphatase kiềm (Alkaline Phosphatase) ALT Men Aspartate AminoTransferase ANN Mạng nơron nhân tạo (Artificial Neural Network) APRI Phƣơng pháp phân loại xơ hóa gan dựa vào tiểu cầu (Aspartate aminotransferase to Platelet Ratio Inde) ART Lý thuyết cộng hƣởng thích nghi (Adaptive Resonance Theory) vii AST Men Aspartat transaminase CCH Siêu hộp bù chứa (Containment Compensation Hyperbox) CDS Hệ thống chẩn đoán xơ gan (Cirrhosis Diagnosis System) CF Hệ số đóng góp CF (Contribution Factor) CFMN Thuật tốn FMNN cải tiến dựa hệ số CF (Contribution-factor based Fuzzy Min-max Neural network) CFMNN FMNN dựa tâm cụm (Centroid-based Fuzzy Min-max Neural Netwwork) CN Siêu hộp khơng có chồng lấn (Classifying Neurons) CSPA Phân cụm dựa thuật toán phân vùng tƣơng tự (Cluster-based Similarity Partitioning Algorithm) DCFMN Mạng FMNN dựa tâm cụm liệu (Data-Core-Based Fuzzy Min–Max Neural Network) ECT Cây phân cụm (Ensemble of Clustering Trees) EGWCA Thuật toán phân cụm dựa hàm khoảng cách Euclidean (Euclidean distance Generalized Weighted Cluster Aggregation) EFMN Mạng nơron FMNN tăng cƣờng (Enhanced Fuzzy Min–max Neural) eGWCA Thuật toán phân cụm dựa hàm khoảng cách Exponential (exponential distance Generalized Weighted Cluster Aggregation) eSFCM Thuật toán phân cụm bán giám sát mờ sử dụng quy tắc Entropy (Semi-supervised Entropy regularized Fuzzy Clustering) FART Lý thuyết cộng hƣởng thích nghi mờ (Fuzzy Adaptive Resonance Theory) FIB-4 Phƣơng pháp phân loại xơ hóa gan dựa vào tuổi, số AST, số ALT tiểu cầu (FIBrosis-4) FMCN Thuật toán FMNN cải tiến sử dụng nút chồng lấn (Fuzzy Min-max viii neural network classifier with Compensatory Neurons) FMM Lý thuyết min-max mờ (Fuzzy Min-Max) FMNN Mạng nơron min-max mờ (Fuzzy Min-max Neural Network) GFMM Mạng nơron FMNN cải tiến (General Fuzzy Min-Max) GGT Hoạt độ men GGT máu (Gamma Glutamyl Transferase) GSOM Mạng nơron đồ tự tổ chức (Growing Self-Organizing Map) HCF Hệ số CF siêu hộp (Hyperbox Confidence Factor) HE Hệ số Entropy (Hyperbox Entropy) ID3 Thuật toán xây dựng định (Itemized Dichotomozer 3) INR Tỉ số bình thƣờng hóa quốc tế (International Normalized Ratio) IT Kỹ thuật thơng minh (Intelligent Techniques) LCA Thuật tốn nhóm dẫn đầu (Leader-Cluster Algorithm) MLF Mạng nơron FMNN đa lớp (Multi-Level Fuzzy min-max neural network) MLP Mạng nơron đa lớp (Multi-Layer Perceptron) MRI Chụp hình cộng hƣởng từ trƣờng (Magnetic Resonance Imaging) NAFLD Bệnh gan nhiễm mỡ không rƣợu (Non-Alcoholic Fatty Liver Disease) NMFC Thuật toán gom cụm NMFC (Non-negative Matrix Factorization based Consensus) NoH Số siêu hộp (Number of Hyperbox) OCH Siêu hộp chồng lấn bù (Overlapped Compensation Hyperbox) OLN Nút chồng lấn (OverLapping Neurons) PLT Tiểu cầu (Platelet Counts) PT Thời gian đông máu (Prothrombin Time) RFMN FMNN phản xạ (Reflex Fuzzy Min-max Neural network) 100 kết thử nghiệm tập liệu LiverDisease Các kết cột cuối sáu chín trƣờng hợp đƣợc đề cập gan bị ảnh hƣởng (gan bị ảnh hƣởng xơ gan viêm gan) Bảng 3.13 Kết chẩn đoán dựa thơng tin mẫu bệnh đƣợc trích xuất từ kết thử nghiệm tập liệu LiverDisease SCFMN If A1 A2 A3 A4 A5 A6 Then A7 A8 A9 A10 (C) 81 97.1 104.1 3.1 154.4 36.7 27.3 10.1 37 53 94.1 100.9 3.1 266.4 25.2 37.6 10.7 28 53 87.9 94.3 3.1 249.0 23.5 35.1 10.0 28 81 86.1 92.3 3.1 136.9 32.5 24.2 9.0 37 24 592.3 200.6 3.0 195.6 38.3 359.5 139.3 39 37 568.6 208.7 2.7 82.6 27.5 65.3 15.3 23 46 60.4 57.0 1.1 87.8 37.4 19.0 3.5 18 57 60.5 45.4 1.3 196.2 39.2 12.1 3.5 29 57 60.5 45.4 1.3 196.4 39.2 12.1 3.5 29 3.3.5 So sánh kết thuật toán đề xuất với số thuật toán khác FMM-GA [72] mơ hình Jin Wang phát triển từ FMNN [63] ứng dụng dự báo Y tế FMM-GA sử dụng giải thuật di truyền để cắt tỉa siêu hộp có số sử dụng thấp tối ƣu hóa mơ hình mạng nơron min-max mờ Bảng 3.14 thống kê giá trị bao gồm: giá trị dự đoán, độ nhạy, độ đặc hiệu, giá trị dự đoán dƣơng, giá trị dự đoán âm thời gian huấn luyện SS-FMM, SCFMN với FMM-GA tập liệu Cirrhosis Các độ đo SSFMM tƣơng đƣơng với FMM-GA cao so với SCFMN, nhiên chênh lệnh không lớn 101 Bảng 3.14 Các giá trị dự đoán SS-FMM, SCFMN, FMM-GA tập liệu Cirrhosis APRI Độ đo FIB-4 SCFMN SS-FMM FMM-GA SCFMN SS-FMM FMM-GA Accuracy (%) 93.71 94.38 94.61 96.63 97.30 97.30 AccSe (%) 95.50 95.82 95.82 97.43 98.07 98.07 AccSp (%) 89.55 91.04 91.79 94.78 95.52 95.52 PPV (%) 95.50 96.28 96.30 97.87 98.12 97.98 NPV (%) 89.27 90.07 90.67 94.28 95.23 95.25 Time (s) 1.086 1.005 0.876 1.234 1.147 0.895 Bảng 3.15 so sánh tổng số siêu hộp SS-FMM, SCFMN FMM-GA, theo APRI với tham số max = 0.01 SCFMN có số siêu hộp hẳn so với FMM-GA Nguyên nhân SCFMN sử dụng cấu trúc siêu hộp lớn trung tâm cụm với max lớn siêu hộp bé với max nhỏ vùng biên cụm Bảng 3.15 So sánh NoH FMM-GA, SCMFN SS-FMM theo APRI Thuật toán NoH Trƣớc cắt tỉa Sau cắt tỉa FMM-GA 144 76 SS-FMM 145 78 SCFMN 87 53 Từ Hình 3.7 đến Hình 3.10 biểu đồ so sánh hiệu SSFMM, SCFMN FMM-GA Hình 3.7 so sánh kết giá trị dự đoán đƣợc thực SS-FMM, SCFMN, FMM-GA theo APRI Hình 3.8 so sánh kết giá trị dự đoán đƣợc thực SS-FMM, SCFMN, FMM-GA theo FIB-4 Hình 3.9 so sánh thời gian tính tốn SS-FMM, SCFMN, FMM-GA, Hình 3.10 so sánh tổng số siêu hộp SS-FMM, SCFMN, FMM-GA Từ kết cho thấy, SCFMN có số siêu hộp tạo thấp SS-FMM 102 FMM-GA Giá trị dự đoán thời gian tính tốn SS-FMM tƣơng đƣơng với FMM-GA Giá trị dự đoán (%) SCFMN SS-FMM FMM-GA 100 98 96 94 92 90 88 86 84 82 80 Accuracy AccSe AccSp Độ đo PPV NPV Hình 3.7 So sánh giá trị dự đoán SS-FMM, SCFMN, FMM-GA theo APRI Giá trị dự đoán (%) SCFMN SS-FMM FMM-GA 100 98 96 94 92 90 88 86 84 82 80 Accuracy AccSe AccSp PPV NPV Độ đo Hình 3.8 So sánh giá trị dự đoán SS-FMM, SCFMN, FMM-GA theo FIB-4 1,4 SCFMN SS-FMM FMM-GA Time (s) 1,2 0,8 0,6 0,4 0,2 APRI FIB-4 Hình 3.9 So sánh thời gian tính tốn SS-FMM, SCFMN, FMM-GA 103 FMM-GA SS-FMM SCFMN 160 140 NoH 120 100 80 60 40 20 Trước cắt tỉa Sau cắt tỉa Hình 3.10 So sánh NoH SS-FMM, SCFMN, FMM-GA 3.4 Kết luận chƣơng Kết nghiên cứu chƣơng luận án bao gồm nội dung: - Xây dựng mơ hình CDS cho tốn chẩn đốn bệnh gan - Cài đặt thực nghiệm liệu thực tế số liệu kết xét nghiệm men gan bệnh nhân với kết xuất luật định if then mờ Thực nghiệm mơ hình đề xuất tập liệu số liệu kết xét nghiệm bệnh nhân cho kết tốt với giá trị dự đoán - So sánh kết mơ hình đề xuất với số phƣơng pháp khác có, kết phƣơng pháp đề xuất tốt so với phƣơng pháp trƣớc, đặc biệt khả kết xuất với số luật định if then mờ hẳn 104 KẾT LUẬN Với mục tiêu nghiên cứu cải tiến cấu trúc, thuật toán học nhằm khắc phục số hạn chế tồn mạng nơron min-max mờ Từ nâng cao chất lƣợng mạng nơron min-max mờ ứng dụng chẩn đoán xơ gan Luận án đạt đƣợc số kết đóng góp sau đây: * Kết chính: - Đề xuất cải tiến thuật toán với học bán giám sát sử dụng thông tin bổ trợ nhãn phần liệu tập huấn luyện phƣơng pháp lan truyền nhãn (SS-FMM) Nó bƣớc hình thành hiệu chỉnh siêu hộp (cụm) trình huấn luyện Các mẫu có nhãn đƣợc đƣa vào trƣớc để hình thành siêu hộp, sau lan truyền nhãn sang mẫu khơng có nhãn để hình thành siêu hộp từ mẫu huấn luyện khơng có nhãn Học SS-FMM cách học sử dụng thông tin chứa liệu gán nhãn liệu chƣa đƣợc gán nhãn để huấn luyện SS-FMM có hiệu tốt với tỉ lệ mẫu đƣợc gán nhãn thấp Đề xuất đƣợc công bố cơng trình - Đề xuất mơ hình phân cụm bán giám sát mờ kết hợp SS-FMM FMNN Mơ hình đề xuất sử dụng phƣơng pháp học bán giám sát với thông tin bổ trợ thuật tốn tự động xác định dựa theo thuộc tính tập liệu Thuật toán sử dụng cấu trúc với siêu hộp có kích thƣớc lớn tâm cụm để giảm thiểu số siêu hộp siêu hộp bé vùng ranh giới cụm để tăng hiệu suất phân cụm Đề xuất đƣợc cơng bố cơng trình - Đề xuất thuật tốn học cải tiến CFMNN có tính đến yếu tố phân bố liệu Trong giai đoạn dự báo điều chỉnh siêu hộp khơng hồn tồn lệ thuộc vào độ thuộc, đặc biệt mẫu rời xa siêu hộp Ngoài ra, CFMNN sử dụng tập 10 luật để hiệu chỉnh siêu hộp trình huấn luyện Đề xuất đƣợc công bố cơng trình cơng trình - Đề xuất mơ hình ứng dụng mạng nơron min-max mờ với kết xuất luật định if then mờ thiết kế hệ hỗ trợ chẩn đoán bệnh gan từ liệu số liệu kết xét nghiệm men gan bệnh nhân Các luật if then mờ 105 đƣợc kết xuất từ tập siêu hộp sau loại bỏ siêu hộp có số sử dụng thấp Thực nghiệm mơ hình đề xuất cho kết tốt tập liệu Benchmark từ kho liệu học máy UCI, CS liệu số liệu thu thập kết xét nghiệm men gan bệnh nhân Đặc biệt khả rút trích luật định if…then mờ đơn giản với giá trị định lƣợng điểm min-max siêu hộp mờ Kết đƣợc đánh giá thông qua độ đo, đồng thời thông qua kết thực nghiệm kiểm nghiệm lại lần tính đắn đề xuất xây dựng mơ hình lý thuyết * Các đóng góp mới: 1) Xây dựng thuật toán SS-FMM cải tiến phân cụm bán giám sát mờ dựa lan truyền nhãn 2) Đề xuất mơ hình phân cụm bán giám sát mờ kết hợp FMNN SS-FMM, thuật toán học tự xác định thơng tin bổ trợ cho thuật tốn phân cụm bán giám sát mờ 3) Phát triển thuật toán phân cụm mờ có tính đến yếu tố phân bố liệu * Kiến nghị hƣớng nghiên cứu tiếp theo: Bên cạnh kết đạt đƣợc, luận án mở số hƣớng nghiên cứu nâng cao chất lƣợng khả ứng dụng mạng nơron min-max mờ: • Cải tiến phƣơng pháp cắt tỉa siêu hộp mạng nơron min-max mờ nhằm giảm số luật • Tiếp tục nghiên cứu toán chẩn đoán bệnh gan dựa triệu chứng lâm sàng chẩn đốn hình ảnh 106 TÀI LIỆU THAM KHẢO Tiếng việt [1] Phạm Văn Lình, Trần Thị Minh Diễm, Trần Đình Hậu, Ngơ Viết Lộc (2006), “Nghiên cứu tình hình nhiễm virus viêm gan B tỉnh Thừa Thiên Huế”, Tạp chí Y học Thực hành, 3(536), Bộ Y tế, Tr 82-85 [2] Lê Đình Vĩnh Phúc, Phạm Thị Thu Thủy (2015), “Tổng quan ứng dụng số FIB-4 chẩn đốn xơ hóa gan”, Tạp chí Gan mật Việt Nam no 31, Tr 11-13 [3] Trần Thị Khánh Tƣờng, (2012), “Đánh giá giá trị APRI FIB-4 dự đốn xơ gan”, Tạp chí Y học thành phố Hồ Chí Minh, (11), Tr 12-16 [4] Trần Thị Khánh Tƣờng, Hoàng Trọng Thảng (2014), “Các phƣơng pháp đánh giá xơ hóa gan khơng xâm nhập”, Tạp chí Gan mật Việt Nam, no.28, Tr 48-56 Tiếng Anh [5] Agrawal, P., Madaan, V., & Kumar, V (2015) “Fuzzy rule-based medical expert system to identify the disorders of eyes, ENT and liver.”, International Journal of Advanced Intelligence Paradigms, 7(3-4), pp.352-367 [6] Allahyar, A., Yazdi, H S., Harati, A (2015), "Constrained SemiSupervised Growing Self-Organizing Map.", Neurocomputing, 147, pp.456–471 [7] Alpern, B., & Carter, L (1991, October) "The hyperbox.", Visualization’91, Proceedings., IEEE Conference on (pp.133-139) IEEE [8] Ansari, S., Shafi, I., Ansari, A., Ahmad, J and Shah, S.I (2011), "Diagnosis of liver disease induced by hepatitis virus using artificial neural networks.", IEEE 14th International Multitopic Conference (INMIC), 22–24 December, Karachi, pp.8–12 [9] Batista, G E., & Monard, M C (2003) “An analysis of four missing data treatment methods for supervised intelligence,17(5-6), pp.519-533 learning.”, Applied artificial 107 [10] Bedossa, P., & Poynard, T (1996) "An algorithm for the grading of activity in chronic hepatitis C.", Hepatology, 24(2), pp.289-293 [11] Bezdek J.C., Ehrlich, R., Full, W., (1984) "FCM: The fuzzy c-Means clustering algorithm.", Computers & Geosciences, vol 10, no 2-3, pp.191-203 [12] Bezdek, J C (2013) "Pattern recognition with fuzzy objective function algorithms" Springer Science & Business Media [13] Bucak, I.O and Baki, S (2010), "Diagnosis of liver disease by using CMAC neural network approach.", Expert Systems with Applications, Vol 37, No 9, pp.6157–6164 [14] Carpenter, G A., & Grossberg, S (1987) "A massively parallel architecture for a self-organizing neural pattern recognition machine.", Computer vision, graphics, and image processing, 37(1), pp.54-115 [15] Carpenter, G A., & Grossberg, S (1987) "ART 2: Self-organization of stable category recognition codes for analog input patterns.", Applied optics, 26(23), pp.4919-4930 [16] Carpenter, G A., & Tan, A H (1995) "Rule extraction: From neural architecture to symbolic representation.", Connection Science, 7(1), pp.3-27 [17] Chou, R.,& Wasson, N (2013) "Blood Tests to Diagnose Fibrosis or Cirrhosis in Patients With Chronic Hepatitis C Virus InfectionA Systematic Review.", Annals of internal medicine, 158(11), pp.807-820 [18] Chuang, C L (2011) "Case-based reasoning support for liver disease diagnosis.", Artificial intelligence in medicine, 53(1), 15-23 [19] Darne, K S., & Panicker, S S (2013) "Use of fuzzy C-mean and fuzzy min-max neural network in lung cancer detection.", Int J Soft Comput Eng.(IJSCE), 3(3), pp.265-269 [20] Davtalab, R., Parchami, M., Dezfoulian, M H., Mansourizade, M., & Akhtar, B (2012, February) “M-FMCN: modified fuzzy min-max classifier using compensatory neurons.”, In Proceedings of the 11th 108 WSEAS international conference on Artificial Intelligence, Knowledge Engineering and Data Bases World Scientific and Engineering Academy and So ciety (WSEAS), (pp 77-82) [21] Davtalab, R., Dezfoulian, M H., & Mansoorizadeh, M (2014) “Multilevel fuzzy min-max neural network classifier.”, IEEE transactions on neural networks and learning systems, 25(3), pp.470-482 [22] Duda, R O., Hart, P E., & Stork, D G (1973) “Pattern classification and scene analysis.”, A Wiley interscience publication, New York [23] Gabrys, B., & Bargiela, A (2000) "General fuzzy min-max neural network for clustering and classification.", IEEE transactions on neural networks, 11(3), pp.769-783 [24] Guido, M., Mangia, A., & Faa, G (2011) "Chronic viral hepatitis: the histology report.", Digestive and Liver Disease, 43, pp.331-343 [25] Hou, P., Yue, J., Deng, H., Liu, S., & Sun, Q (2018) “Contribution-Factor based Fuzzy Min-Max Neural Network: Order-Dependent Clustering for Fuzzy System Identification.”, Int J Comput Intell Syst., 11(1), pp.737-756 [26] Icer, S., Kara, S and Guven, A (2006), "Comparison of multilayer perceptron training algorithms for portal venous Doppler signals in the cirrhosis disease.", Expert Systems with Applications, Vol 31, No 2, pp.406–413 [27] Jay, H H (2007), “Chronic hepatitis.”, Goldman: Cecil Medicine, 23rd edit, Saundes Elsevier, pp.336-356 [28] Jeon, J.H., Choi, J.Y., Lee, S and Ro, Y.M (2013), "Multiple ROI selection based focal liver lesion classification in ultrasound images.", Expert Systems with Applications, Vol 40, No 2, pp.450–457 [29] Jules, L D (2012), “Chronic Hepatitis.”, Harrison’s Gastroenterology and Hepatology, 17 th edit: Mc Graw Hill Medical, pp.390-414 [30] Kumar, V., Garg, D K., & Kher, V (2013) "Early Diagnosis of Lung Cancer with ANN, FCM and FMNN.", International Journal of Advanced 109 Research in Computer Science and Software Engineering, 3(12), pp.378-383 [31] Kumar, D S., Sathyadevi, G., & Sivanesh, S (2011) “Decision support system for medical diagnosis using data mining.”, International Journal of Computer Science Issues, 8(3), pp.147-153 [32] Lee, C.C., Chung, P.C and Chen, Y.J (2005), "Classification of liver diseases from CT images using BP-CMAC neural network.", Proceeding of the 9th IEEE International Workshop on Cellular Neural Networks and their Applications (CNNA), 28–30 May, pp.118–121 [33] Leski, J (2003) "Towards a robust fuzzy clustering.", Fuzzy Sets and Systems, 137(2), pp.215-233 [34] Li, B N., Chui, C K., Chang, S., & Ong, S H (2012) "A new unified level set method for semi-automatic liver tumor segmentation on contrast-enhanced CT images.", Expert Systems with Applications, 39(10), pp.9661-9668 [35] Li, F., Yue, P., & Su, L (2006, September) "Research on the convergence of fuzzy genetic algorithm based on rough classification.", In International Conference on Natural Computation Springer Berlin Heidelberg, pp.792-795 [36] Lin, Z H., Xin, Y N., Dong, Q J., Wang, Q., Jiang, X J., Zhan, S H., & Xuan, S Y (2011) "Performance of the aspartate aminotransferasetoplatelet ratio index for the staging of hepatitis C-related fibrosis: An updated meta-analysis.", Hepatology, 53(3), pp.726-736 [37] Liu, J., Ma, Y., Zhang, H., Su, H., & Xiao, G (2017) “A modified fuzzy min–max neural network for data clustering and its application on pipeline internal inspection data.” Neurocomputing, 238, pp.56-66 [38] Luo, C., Li, T., Chen, H., & Liu, D (2013) "Incremental approaches for updating approximations in set-valued ordered information systems.", Knowledge-Based Systems, 50, pp.218-233 110 [39] Ma, D., Liu, J., & Wang, Z (2012, July) “The pattern classification based on fuzzy min-max neural network with new algorithm.”, In International Symposium on Neural Networks, Springer, Berlin, Heidelberg pp.1-9 [40] Martínez-Rego, D., Fontenla-Romero, O., & Alonso-Betanzos, A (2012) "Nonlinear single layer neural network training algorithm for incremental, nonstationary and distributed learning scenarios.", Pattern Recognition, 45(12), pp.4536-4546 [41] Mohammed, M F., & Lim, C P (2015) "An enhanced fuzzy min–max neural network for pattern classification.", IEEE transactions on neural networks and learning systems, 26(3), pp.417-429 [42] Mohammed, M F., & Lim, C P (2017) “Improving the Fuzzy Min-Max neural network with a K-nearest hyperbox expansion rule for pattern classification.”, Applied Soft Computing, 52, pp.135-145 [43] Mohammed, M F., & Lim, C P (2017) “A new hyperbox selection rule and a pruning strategy for the enhanced fuzzy min–max neural network” Neural Networks, 86, pp.69-79 [44] Nandedkar, A V., & Biswas, P K (2005, September) "A General fuzzy min-max neural network with compensatory neuron architecture.", In International Conference on Knowledge-Based and Intelligent Information and Engineering Systems (pp.1160-1167) Springer, Berlin, Heidelberg [45] Nandedkar, A V., & Biswas, P K (2007) "A fuzzy min-max neural network classifier with compensatory neuron architecture.", IEEE transactions on neural networks, 18(1), pp.42-54 [46] Nandedkar, A V., & Biswas, P K (2008) "Reflex Fuzzy Min-max Neural Network for Semi-supervised Learning.", Journal of Intelligent Systems, 17(1-3), pp.5-18 [47] OZKARA, S., & KURDAfi-ă OVă UNCá , A O (2012) "AST-platelet ratio index in the prediction of significant fibrosis and cirrhosis in patients with chronic hepatitis B.", Turk J Gastroenterol, 23(4), pp.353-358 111 [48] Ozyilmaz, L., & Yildirim, T (2003, July) “Artificial neural networks for diagnosis of hepatitis disease” In Neural Networks Proceedings of the International Joint Conference on (Vol 1, pp.586-589) IEEE [49] Pal, N R., Pal, K., & Bezdek, J C (1997, July)."A mixed c-means clustering model.", In Fuzzy Systems, 1997., Proceedings of the Sixth IEEE International Conference on (Vol 1, pp.11-21) IEEE [50] Pedrycz, W., & Waletzky, J (1997) "Fuzzy clustering with partial supervision.", IEEE Transactions on Systems, Man, and Cybernetics, Part B (Cybernetics), 27(5), pp.787-795 [51] Poynard, T., Ratziu, V., Benmanov, Y., Di Martino, V., Bedossa, P., & Opolon, P (2000) "Fibrosis in patients with chronic hepatitis C: detection and significance.", In Seminars in liver disease (Vol 20, No 01, pp.0047-0056) [52] Poynard, T., Imbert-Bismut, F., Munteanu, M., & Ratziu, V (2005) "FibroTest-FibroSURETM: towards a universal biomarker of liver fibrosis?.", Expert review of molecular diagnostics, 5(1), pp.15-21 [53] Poynard, T., Morra, R., Halfon, P., Castera, L., Ratziu, V., Imbert-Bismut, F., & Bourliere, M (2007) “Meta-analyses of FibroTest diagnostic value in chronic liver disease.”, BMC gastroenterology, 7(1), 40 [54] Quteishat, A., & Lim, C P (2008, September) "Application of the fuzzy min-max neural networks to medical diagnosis.", In International Conference on Knowledge-Based and Intelligent Information and Engineering Systems (pp.548-555) Springer, Berlin, Heidelberg [55] Quteishat, A., & Lim, C P (2008) “A modified fuzzy min–max neural network with rule extraction and its application to fault detection and classification.”, Applied Soft Computing, 8(2), pp.985-995 [56] Quteishat, A., Lim, C P., & Tan, K S (2010) “A modified fuzzy min–max neural network with a genetic-algorithm-based rule extractor for pattern classification” IEEE transactions on systems, man, and cybernetics-part a: systems and humans, 40(3), pp.641-650 112 [57] Rajakumar, B R., & George, A (2013, July) "On hybridizing fuzzy max neural network and firefly algorithm for automated heart disease diagnosis.", In Computing, Communications and Networking Technologies (ICCCNT), 2013 Fourth International Conference on (pp.1-5) IEEE [58] Seera, M., Lim, C P., Loo, C K., & Singh, H (2015) "A modified fuzzy min–max neural network for data clustering and its application to power quality monitoring.", Applied Soft Computing, 28, pp.19-29 [60] Seera, M., Randhawa, K., & Lim, C P (2018) “Improving the Fuzzy Min–Max neural network performance with an ensemble of clustering trees” Neurocomputing, 275, pp.1744-1751 [61] Shinde, S., Waghole, S D., Bare, M M., Patil, P P., & Humnabade, P M (2014) "Diabetes Diagnosis using Fuzzy Min-Max Neural Network with Rule Extraction and Apriori Algorithm.", The International Journal of Science and Technoledge, 2(4), 369 [62] Simpson, P (1990) "Fuzzy adaptive resonance theory." In Southern Illinois University Neuroengineering Workshop [63] Simpson, P K (1992) "Fuzzy min-max neural networks I Classification.", IEEE transactions on Neural Networks, 3(5), pp.776-786 [64] Simpson, P K (1993) "Fuzzy min-max neural networks-part 2: Clustering" IEEE Transactions on Fuzzy systems, 1(1), 32 [65] Singh, A., & Pandey, B (2014) "Intelligent techniques and applications in liver disorders: a survey.", International Journal of Biomedical Engineering and Technology, 16(1), pp.27-70 [66] Sonule, P M., & Shetty, B S (2017) “An enhanced fuzzy min–max neural network with ant colony optimization based-rule-extractor for decision making” Neurocomputing, 239, pp.204-213 [67] Sterling, R K., Lissen, E., Clumeck, N., Sola, R., Correa, M C., Montaner, J., & Messinger, D (2006) "Development of a simple noninvasive index to predict significant fibrosis in patients with HIV/HCV coinfection.", Hepatology, 43(6), pp.1317-1325 113 [68] Vallet-Pichard, A., Mallet, V., Nalpas, B., Verkarre, V., Nalpas, A., Dhalluin-Venier, V., & Pol, S (2007) “FIB-4: an inexpensive and accurate marker of fibrosis in HCV infection.”, Comparison with liver biopsy and FibroTest Hepatology, 46(1), pp.32-36 [69] Vu, D M., Nguyen, T V H., Chu, T T G & Le, B D (2016) "An Increased Fuzzy Min-Max Neural Network for Data Clustering.", Journal of Science & Technology Technical Universities,113, pp.125-129 [70] Wai, C T., Greenson, J K., Fontana, R J., Kalbfleisch, J D., Marrero, J A., Conjeevaram, H S., & Lok, A S F (2003) "A simple noninvasive index can predict both significant fibrosis and cirrhosis in patients with chronic hepatitis C.", Hepatology, 38(2), pp.518-526 [71] Wang, F., Wang, X., & Li, T (2009, July) “Generalized Cluster Aggregation.” In IJCAI (pp 1279-1284) [72] Wang, J., Lim, C P., Creighton, D., Khorsavi, A., Nahavandi, S., Ugon, J., & Freischmidt, A (2015) "Patient admission prediction using a pruned fuzzy min–max neural network with rule extraction.", Neural Computing and Applications, 26(2), pp.277-289 [73] Yasunori, E., Yukihiro, H., Makito, Y., & Sadaaki, M (2009), “On semi-supervised fuzzy c-means clustering.”, Proceeding of FUZZ-IEEE 2009, 1119-1124 [74] Zaki, M J., & Meira Jr, W (2014) Data mining and analysis: fundamental concepts and algorithms, Cambridge University Press [75] Zhang, H., & Lu, J (2009), “Semi-supervised fuzzy clustering: A kernelbased approach.”, Knowledge-Based Systems, 22(6), pp.477-481 [76] Zhang, H., Liu, J., Ma, D., & Wang, Z (2011) "Data-core-based fuzzy min-max neural network for pattern classification.", IEEE transactions on neural networks, 22(12), pp.2339-2352 [77] https://archive.ics.uci.edu/ml/datasets.html [78] https://cs.joensuu.fi/sipu/datasets/ [79] https://sourceforge.net/projects/weka/ 114 DANH MỤC CÁC CƠNG TRÌNH KHOA HỌC ĐÃ CƠNG BỐ Vũ Đình Minh, Nguyễn T.Việt Hƣơng, Lê Bá Dũng (2015) Mạng nơron phân cụm mờ max dựa tâm khoảng cách Euclidean Tạp chí Khoa học Cơng nghệ Đại học Thái Ngun, 14(144), Tr.11-16 Vu, D M., Nguyen, T V H., Chu, T T G & Le, B D (2016) An increased fuzzy min-max neural network for data clustering Journal of Science & Technology Technical Universities,113, Tr.125-129 Vu, D M., Nguyen, V H., & Le, B D (2016) Semi-supervised clustering in fuzzy min-max neural network In International Conference on Advances in Information and Communication Technology (pp.541550), Springer International Publishing Vũ Đình Minh, Nguyễn Dỗn Cƣờng, Nguyễn Thị Lan Hƣơng (2017) Mạng nơron phân cụm min-max mờ dựa tâm cụm liệu Tạp chí Nghiên cứu Khoa học Công nghệ Quân sự, Tr.20-32 Tran, T N., Vu, D M., Tran, M T., & Le, B D (2018) The combination of fuzzy min–max neural network and semi-supervised learning in solving liver disease diagnosis support problem Arabian Journal for Science and Engineering, pp.1-12 DOI: 10.1007/s13369-018-3351 -7 Vũ Đình Minh, Nguyễn Doãn Cƣờng (2018) Học bán giám sát mạng nơron max mờ cho phân cụm liệu với rút trích luật định Tạp chí Nghiên cứu Khoa học Công nghệ Quân sự, Tr.17-26 Vu, D M., Tran, T N., Tran, M T., Le, B D., & Nguyen D C (2018) Fuzzy Min Max Neural Network and Genetic Algorithm in Diagnosing Liver Related Diseases Proceedings of International Conference on Frontiers of Intelligent Computing: Theory and Applications (FICTA 2018), In Springer Link ... (Fuzzy Min- max viii neural network classifier with Compensatory Neurons) FMM Lý thuyết min- max mờ (Fuzzy Min- Max) FMNN Mạng n ron min- max mờ (Fuzzy Min- max Neural Network) GFMM Mạng n ron FMNN... Bố cục luận án CHƢƠNG TỔNG QUAN VỀ MẠNG N RON MIN- MAX MỜ 1.1 Cơ mạng n ron min- max mờ 1.1.1 Giới thiệu mạng n ron min- max mờ 1.1.2 Khái niệm siêu hộp 10 1.1.3... trình đƣợc cơng bố luận án 8 CHƢƠNG TỔNG QUAN VỀ MẠNG N RON MIN- MAX MỜ 1.1 Cơ mạng n ron min- max mờ 1.1.1 Giới thiệu mạng n ron min- max mờ Mơ hình FMNN giáo sƣ Patrick K Simpson đề xuất, cho