Tóm tắt những kết quả mới của luận án: Luận án đã đạt được một số kết quả mới cụ thể như sau: Đề xuất thuật toán phân cụm mờ cải tiến FCOCM dựa trên thuật toán đồng phân cụm mờ FCoC và thuật toán tối ưu bầy đàn PSO để cải thiện chất lượng phân loại dữ liệu nhiều đặc trưng. Đề xuất thuật toán phân cụm mờ MSFCoC dựa trên cơ chế trao đổi thông tin giữa các mô đun phân cụm cơ sở để nâng cao hiệu suất phân cụm dữ liệu đa nguồn. Đề xuất thuật toán phân cụm mờ đa hàm mục tiêu theo nhóm FOMOCE dựa trên tích hợp các hàm mục tiêu và tri thức ẩn.
BỘ GIÁO DỤC VÀ ĐÀO TẠO BỘ QUỐC PHÒNG VIỆN KHOA HỌC VÀ CÔNG NGHỆ QUÂN SỰ - LÊ THỊ CẨM BÌNH MỘT SỐ PHƯƠNG PHÁP PHÂN CỤM MỜ THEO NHĨM CHO BÀI TỐN DỮ LIỆU ĐA NGUỒN, NHIỀU ĐẶC TRƯNG LUẬN ÁN TIẾN SĨ TOÁN HỌC Hà Nội – 2023 BỘ GIÁO DỤC VÀ ĐÀO TẠO BỘ QUỐC PHỊNG VIỆN KHOA HỌC VÀ CƠNG NGHỆ QN SỰ - LÊ THỊ CẨM BÌNH MỘT SỐ PHƯƠNG PHÁP PHÂN CỤM MỜ THEO NHĨM CHO BÀI TỐN DỮ LIỆU ĐA NGUỒN, NHIỀU ĐẶC TRƯNG Ngành: Cơ sở toán học cho tin học Mã số: 46 01 10 LUẬN ÁN TIẾN SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS.TS NGÔ THÀNH LONG TS LÊ XUÂN ĐỨC Hà Nội - 2023 i LỜI CAM ĐOAN Tôi xin cam đoan cơng trình nghiên cứu tơi Các số liệu, kết trình bày luận án hoàn toàn trung thực chưa cơng bố cơng trình khác, liệu tham khảo trích dẫn đầy đủ Hà Nội, ngày 15 tháng năm 2023 Nghiên cứu sinh Lê Thị Cẩm Bình ii LỜI CẢM ƠN Luận án thực hoàn thành Viện Công nghệ thông tin, Viện Khoa học Công nghệ quân Trước hết, nghiên cứu sinh xin bày tỏ lịng biết ơn sâu sắc tới PGS.TS Ngơ Thành Long TS Lê Xuân Đức định hướng, bảo giúp đỡ trình nghiên cứu hồn thành luận án Tơi xin bày tỏ lời cảm ơn sâu sắc tới lãnh đạo, tập thể cán giảng viên Viện Khoa học Công nghệ quân sự, Phịng Đào tạo, Viện Cơng nghệ thơng tin tạo điều kiện thuận lợi, hỗ trợ, chia sẻ giúp đỡ thời gian học tập nghiên cứu Viện Tôi xin gửi lời cảm ơn tới thành viên nhóm nghiên cứu seminar phân cụm liệu tạo môi trường trao đổi học thuật thường xuyên chia sẻ ý tưởng có giá trị cho nghiên cứu luận án Tôi xin phép gửi lời cảm ơn chân thành tới lãnh đạo Trường Đại học Văn hóa, đồng nghiệp Khoa Khoa học Cơ bản, Khoa Thông tin, Thư viện tạo điều kiện thuận lợi trình nghiên cứu làm việc Trường Cuối cùng, xin cảm ơn tới gia đình hỗ trợ, động viên giúp đỡ nhiều tinh thần, vật chất thời gian để hồn thành luận án Nghiên cứu sinh Lê Thị Cẩm Bình iii MỤC LỤC Trang LỜI CAM ĐOAN i LỜI CẢM ƠN ii MỤC LỤC iii DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT vi DANH MỤC CÁC BẢNG xiii DANH MỤC CÁC HÌNH VẼ xv MỞ ĐẦU Chương TỔNG QUAN VỀ PHÂN CỤM DỮ LIỆU 1.1 Giới thiệu chung phân cụm liệu 1.1.1 Định nghĩa 1.1.2 Phân cụm mờ 1.1.3 Phương pháp đánh giá phân cụm 10 1.2 Cơ sở toán học luận án 13 1.2.1 Thuật toán tối ưu bầy đàn 14 1.2.2 Thuật toán đồng phân cụm mờ 17 1.2.3 Mơ hình phân cụm mờ theo nhóm 19 1.2.4 Tri thức ẩn phân cụm liệu 23 1.2.5 Dữ liệu đa nguồn 24 1.2.6 Dữ liệu nhiều đặc trưng 28 1.3 Kết luận chương 29 Chương MỘT SỐ CẢI TIẾN KỸ THUẬT PHÂN CỤM DỮ LIỆU 30 2.1 Đề xuất thuật toán đồng phân cụm mờ sử dụng PSO tối ưu tâm cụm với lớp toán liệu nhiều đặc trưng .30 2.1.1 Mơ hình toán học tối ưu bầy đàn MPSO 31 iv 2.1.2 Mơ hình tâm cụm tối ưu OCM 35 2.1.3 Kết thực nghiệm 45 2.2 Thuật toán đồng phân cụm mờ liệu đa nguồn MSFCoC 54 2.2.1 Mơ hình tốn học MSFCoC 55 2.2.3 Chia sẻ tri thức phân cụm liệu đa nguồn 58 2.2.4 Phương pháp tính tốn điều kiện dừng 60 2.2.5 Thuật toán MSFCoC 61 2.2.6 Kết thực nghiệm 62 2.3 Kết luận chương 75 Chương MƠ HÌNH CẢI TIẾN PHÂN CỤM MỜ THEO NHĨM ĐA HÀM MỤC TIÊU 77 3.1 Mơ hình toán học FOMOCE .77 3.1.1 Dữ liệu đầu vào 79 3.1.2 Bộ phân loại liệu đầu vào 80 3.1.3 Tập phân cụm sở 81 3.1.4 Bộ liên kết phân cụm sở 82 3.1.5 Mô đun đồng thuận 83 3.1.6 Mô đun đánh giá kết phân cụm 84 3.1.7 Sơ đồ mơ hình phân cụm theo nhóm FOMOCE 84 3.2 Tri thức ẩn mơ hình FOMOCE .86 3.2.1 Tri thức ẩn mơ hình FOMOCE 86 3.2.2 Các quy tắc dẫn xuất mơ hình FOMOCE 91 3.3 Thuật toán FOMOCE 97 3.4 So sánh mơ hình phân cụm theo nhóm .99 3.5 Một số kết thực nghiệm 100 3.5.1 Kết thực nghiệm mơ hình phân cụm đơn hàm mục tiêu 100 v 3.5.2 Kết thực nghiệm mơ hình phân cụm đa hàm mục tiêu 111 3.6 Kết luận chương 120 KẾT LUẬN 122 DANH MỤC CÁC CƠNG TRÌNH KHOA HỌC ĐÃ CÔNG BỐ 124 TÀI LIỆU THAM KHẢO 125 vi DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT Hệ số giới hạn chất lượng giải pháp thơng qua hàm thích ứng thuật tốn PSO Không gian hoạt động bầy đàn thuật tốn PSO M Mơ hình tốn học FOMOCE Số vịng lặp Hệ số qn tính sử dụng để điều khiển hành vi bầy đàn thuật toán PSO Hệ số đại diện cho loại liệu đa nguồn Phân cụm sở thuật tốn phân cụm theo nhóm u,m entropy hàm thuộc đối tượng v,m entropy hàm thuộc đặc trưng Im Chỉ số chất lượng phân cụm trung bình phân cụm sở thứ m m ̅ Chỉ số phân cụm sở tốt A Tập hàm mục tiêu sử dụng cho M phân cụm sở mơ hình FOMOCE A* Hàm đồng thuận mơ hình FOMOCE Am Vận tốc phần tử bầy đàn thuật toán PSO B Số số đánh giá chất lượng phân cụm cuối mơ hình FOMOCE C Số cụm liệu C* Tập tâm cụm kết cuối mô hình FOMOCE vii Cm Vị trí phần tử bầy đàn thuật toán PSO CGB Giải pháp tâm cụm tối ưu D Tập đặc trưng liệu d Phương pháp đo khoảng cách phân cụm E Bộ điều kiện dừng phân cụm sở mơ hình FOMOCE F Mơ đun đồng thuận mơ hình FOMOCE f Hàm thích nghi G Tập tâm cụm gc Tâm cụm thứ c I Dữ liệu đầu vào bầy đàn thuật toán PSO I* Tập số đánh giá chất lượng phân cụm cuối mơ hình FOMOCE Im Tập số đánh giá chất lượng phân cụm phân cụm sở thứ m J Hàm mục tiêu kỹ thuật xử lý liệu K Số đặc trưng liệu L Bộ liên kết phân cụm sở mơ hình FOMOCE M Số nguồn liệu đa nguồn N Số đối tượng liệu O Giải pháp tiềm toàn cục thuật toán PSO O G Kết phân cụm tối ưu toàn cục bước lặp phân cụm sở mơ hình FOMOCE viii O i Kết phân cụm sở mơ hình FOMOCE P Tập phần tử bầy đàn thuật toán PSO Pcj Đặc trưng thứ j tâm cụm c PGB Phần tử đại diện cho phần tử tiềm tốt toàn tiến trình hoạt động bầy đàn PPB Phần tử đại diện cho phần tử tiềm tốt cục bước di chuyển bầy đàn Q Bộ phân loại liệu đầu vào mơ hình FOMOCE q1, q2 Hệ số kiểm soát tốc độ hội tụ phần từ theo hướng tốt cục tồn cục thuật tốn PSO ℝ Trường số thực r1 , r2 Số ngẫu nhiên phân bố đồng khoảng từ đến RGB Quy tắc xác định giải pháp tiềm toàn cục sau trình bầy đàn di chuyển RL Quy tắc xác định trao đổi tri thức ẩn mơ hình FOMOCE RPB Quy tắc xác định giải pháp tiềm cục bước di chuyển bầy đàn Rs điều kiện dừng mơ hình OCM S Bầy đàn thuật toán PSO Tu, Tv Các trọng số xác định mức độ mờ U Ma trận hàm thuộc uci Độ thuộc đối tượng đối tượng liệu thứ i với cụm c 123 - Đề xuất thuật toán phân cụm mờ MSFCoC dựa chế trao đổi thông tin đồng phân cụm sở để nâng cao hiệu suất phân cụm liệu đa nguồn - Đề xuất thuật toán phân cụm mờ đa hàm mục tiêu theo nhóm FOMOCE dựa tích hợp hàm mục tiêu tri thức ẩn Hướng nghiên cứu Luận án tiếp tục phát triển theo hướng sau: - Nghiên cứu cài đặt, thực nghiệm so sánh hiệu suất thuật toán phân cụm liệu đa nguồn, phân cụm liệu theo nhóm - Nghiên cứu phân cụm loại liệu có kích thước lớn phức tạp - Cải tiến chất lượng tốc độ thực phân cụm ứng dụng lĩnh vực tiền xử lý liệu đa nguồn 124 DANH MỤC CÁC CƠNG TRÌNH KHOA HỌC ĐÃ CƠNG BỐ [CT1] Le Thi Cam Binh, Ngo Thanh Long, Pham Van Nha, Pham The Long, (2021), An ensemble model approach for many-feature data clustering, Journal of Science and Technology on Information and Communications, pp.4-12 [CT2] Le Thi Cam Binh, Pham Van Nha, (2022), Optimal centroids model approach for many-feature data structure prediction, Evolutionary Intelligence (ESCI, Q2) [CT3] Le Thi Cam Binh, Pham Van Nha, Long Thanh Ngo, Pham The Long, (2018), A new ensemble approach for hyper-spectral image segmentation, 5th NAFOSTED Conference on Information and Computer Science (NICS), pp 288- 293 [CT4] Le Thi Cam Binh, Pham Van Nha, (2020), Multi-view fuzzy coclustering algorithm for high-dimensional data classification, The 23th National Symposium of Selected ICT Problems - Ha Long, pp 277-283 [CT5] Le Thi Cam Binh, Pham Van Nha, Pham The Long, (2021), Fuzzy coclustering algorithm for multi-source data mining, The 19th World Congress of the International Fuzzy Systems Association - IFSAEUSFLAT 2021 (Rank B1), Bratislava, September 19-24, pp 117-124 [CT6] Le Thi Cam Binh, Pham Van Nha, Ngo Thanh Long, (2021), Fuzzy optimization multi-objective clustering ensemble model for multi-source data analysis, The 19th World Congress of the International Fuzzy Systems Association - IFSA-EUSFLAT 2021 (Rank B1), Bratislava, pp 125-133 125 TÀI LIỆU THAM KHẢO Tiếng Anh [1] A Bagherinia, B Minaei-Bidgoli, M Hosseinzadeh, H Parvin, (2021), “Reliability-based fuzzy clustering ensemble”, Fuzzy Sets and Systems”, Volume 413, pp 1-28 [2] A Strehl, J Ghosh, (2002), “Cluster ensembles - a knowledge reuse framework for combining multiple partitions”, J Mach Learn Res (3) pp 583–617 [3] B Ayerdi, I Marqués, M Graña, (2015), “Spatially regularized semisupervised Ensembles of Extreme Learning Machines for hyperspectral image segmentation”, Neurocomputing, Vol 149, Part A, pp 373-386 [4] Bezdek, J.C., (1974),“Cluster validity with fuzzy sets”, Journal of Cybernetics 3, 58–73 [5] Byung-In Choi, Frank Chung-Hoon Rhee (2009) “Interval type-2 fuzzy membership function generation methods for pattern recognition”, Information Sciences 179, pp 2102–2122 [6] C Hwang, FCH Rhee (2007), “Uncertain fuzzy clustering: interval type-2 fuzzy approach to C-means” IEEE Trans Fuzzy Syst 15(1):107–120 [7] C Li, J Zhou, P Kou, J Xiao, (2012), “A novel chaotic particle swarm optimization based fuzzy clustering algorithm”, Neurocomputing, Vol 83, pp 98-109 [8] C Zhang, H Fu, Q Hu, X Cao, Y Xie, D Tao, D Xu, (2020), “Generalized latent multi-view subspace clustering”, IEEE Trans Pattern Anal Mach Intell., Vol 42 (1), pp 86-99 126 [9] C.B Le, L.T Ngo, V.N Pham, L.T Pham, (2018), “A new ensemble approach for hyper-spectral image segmentation”, Conference on Information and Computer Science (NICS) [10] D.L Olson, D Delen, (2008), “Advanced Data Mining Techniques”, Springer ISBN 3-540-76916-1, 1st edition, page 138, [11] Darius Pfitzner, Richard Leibbrandt, David M W Powers, (2009),“Characterization and evaluation of similarity measures for pairs of clusterings,” Knowl Inf Syst, pp 361-394 [12] Davies, D.L., Bouldin, D.W., (1979), “A Cluster Separation Measure”, IEEE Transactions on Pattern Analysis and Machine Intelligence 1(2), pp 224 - 227 [13] F Nie, G Cai, X Li, (2017), “Multi-view clustering and semisupervised classification with adaptive neighbours”, in: Proceedings of the Thirty-First AAAI Conference on Artificial Intelligence, in: AAAI’17, AAAI Press, pp 2408–2414 [14] G Cleuziou, M Exbrayat, L Martin, J.H Sublemontier, (2009), “CoFKM: a centralized method for multiple-view clustering”, Proceedings of the IEEE International Conference on Data Mining (ICDM’09), pp 752-757, 2009 [15] H Cevikalp, B Triggs, R Polikar, (2008), “Nearest hyperdisk methods for high-dimensional classification”, ICML [16] H Izakian, A Abraham (2011), Fuzzy C-Means and fuzzy swarm for fuzzy clustering problem, Expert Systems with Applications, Vol 38(3), pp 1835-1838 [17] H Xiong, B Qiu, J Liu, (2020), “An improved multi-swarm particle swarm optimizer for optimizing the electric field distribution of 127 multichannel transcranial magnetic stimulation,” Artificial Intelligence in Medicine, Vol 104, Article 101790 [18] H Yu, Y Chen, P Lingras, G Wang, (2019), “A three-way cluster ensemble approach for large-scale data”, International Journal of Approximate Reasoning, Vol 115, pp 32-49 [19] I Khosravi, S.K Alavipanah, (2019), “A random forest-based framework for crop mapping using temporal, spectral, textural and polarimetric observations”, International Journal of Remote Sensing, Vol 40(18), pp 7221-7251 [20] Imad Afyouni et al., (2022), “Multi-feature, multi-modal, and multisource social event detection: A comprehensive survey”, Information Fusion, Volume 79, pp 279-308 [21] J Kennedy, R Eberhart, (1995), “Particle swarm optimization,” IEEE International Conference on Neural Networks, Vol 4, pp 1942–1948 [22] J.A Hartigan, M.A Wong, (1979), “A K-Means clustering algorithm”, J Roy Stat Soc 28 (1), pp 100–108 [23] J.C Bezdek, R Ehrlich, W Full (1984), “The fuzzy C-Means clustering algorithm”, Computers & Geosciences, Vol 10(2–3), pp 191–203 [24] Jing-Hua YangChuan ChenHong-Ning DaiLe-Le FuZibin Zheng, (2022), “A structure noise-aware tensor dictionary learning method for high-dimensional data clustering”, Information Sciences 612, pp 87-106 [25] Jingjing He et al., (2021), “An asymptotic stochastic response surface approach to reliability assessment under multi-source heterogeneous uncertainties”, Reliability Engineering & System Safety, Volume 215, 107804 128 [26] Kalia, H., Dehuri, S., Ghosh, A., (2013), “A Survey on Fuzzy Association Rule Mining” Int J Data Warehous Min 9(1), 1–27 [27] L Kaufmann, P.J Rousseeuw, (1987), “Clustering by means of medoids”, in: Statistical Data Analysis Based on the L1-norm and Related Methods, pp 405–416 [28] Liang Baia, Jiye Lianga, Fuyuan Cao, (2013), “A multiple K-Means clustering ensemble algorithm to find nonlinearly separable clusters”, Information Fusion, Volume 61, pp 36-47 [29] M Hanmandlua, O P Verma, S Susan, V Madasu, (2013), “Color segmentation by fuzzy coclustering of chrominance color features”, Neurocomputing, Vol 120, pp 235-249 [30] M.S Yang, Y Nataliani, (2018), “A feature-reduction fuzzy clustering algorithm based on feature-weighting entropy”, IEEE Transactions on Fuzzy Systems, Vol 26, pp 817-835 [31] M.V Breukelen, R.P.W Duin, D.M.J Tax, J.E den Hartog, (1998), “Handwritten digit recognition by combined classifiers”, Kybernetika, Vol 34(4), pp 381-386 [32] M.W.P David, (2011), “Evaluation: From Precision, Recall, and FMeasure to ROC”, Informedness, Markedness \& Correlation, Machine Learning Technologies, Vol 2(1), pp 37-63 [33] Mai D.S, Ngo T.L, Trinh L.H, (2018) “A hybrid approach of fuzzy clustering and Particle Swarm Optimization method for Landcover classification” Journal of Science and Technology, Section on Information and Communication Technology, Le Quy Don Technical University, No 12, pp.48–63 129 [34] Miin-ShenYang, Kristina P.Sinaga, (2021), “Collaborative featureweighted multi-view Fuzzy C-Means clustering”, Pattern Recognition, Volume 119, 108064 [35] N Zeng, D Song, H Li, Y You, Y Liu, F.E Alsaadic, (2021), “A competitive mechanism integrated multi-objective whale optimization algorithm with differential evolution,” Neurocomputing, Vol 432, pp 170-182 [36] N Zeng, Z Wang, W Liu, H Zhang, K Hone, X Liu, (2020), “A dynamic neighborhood-based switching particle swarm optimization algorithm,” IEEE Transactions on Cybernetics, pp 1-12 [37] N.V Pham et al., (2021), “Feature-reduction fuzzy co-clustering approach for hyperspectral image analysis”, Knowledge-Based Systems, Vol 216, 106549 [38] Nha Van Pham, Long The Pham, Thao Duc Nguyen, Ngo Thanh Long, (2018), “A new cluster tendency assessment method for fuzzy coclustering in hyperspectral image analysis”, Neurocomputing, Volume 307, 13, pp 213-226 [39] O Okun, G Valentini, M Re, (2011), “Ensembles in Machine Learning Applications”, Springer: Studies in Computational Intelligence, Vol 373 [40] P Fränti, O Virmajoki, V Hautamäki, (2006), “Fast agglomerative clustering using a k-nearest neighbor graph”, IEEE Trans on Pattern Analysis and Machine Intelligence, 28 (11), pp 1875-1881 [41] P Fränti, R Mariescu-Istodor, C Zhong, (2016), “XNN graph”, IAPR Joint Int Workshop on Structural, Syntactic, and Statistical Pattern Recognition, LNCS 10029, pp.207-217 130 [42] P Panwong, T Boongoen, N Iam-On, (2020), “Improving consensus clustering with noise-induced ensemble generation”, Expert Systems with Applications, Vol 14615, Article 113138 [43] P.J Rousseeuw, (1987), "Silhouettes: A graphical aid to the interpretation and validation of cluster analysis”, Journal of Computational and Applied Mathematics, Vol 20, pp 53–65 [44] P.V Nha, P.T Long, W Pedryczc, N.T Long, (2021), “Featurereduction fuzzy co-clustering approach for hyper-spectral image analysis”, Knowledge-Based Systems, Vol 216, 106549 [45] Pan, Q., Cheng, Y M., Liang, Y., Yang, F., & Wang, X, (2013), “Multi-Source Information Fusion”, Theory and Its Applications, Tsinghua University publisher [46] Patcharaporn Panwong, Tossapon Boongoen, Natthakan Iam-On, (2020), “Improving consensus clustering with noise-induced ensemble generation”, Expert Systems with Applications, Vol 146, pp 113138 [47] Pengfei Zhang et al., (2021), “Multi-source information fusion based on rough set theory: A review, Information Fusion”, Volume 68, pp 85-117 [48] P.V.Nha, Ngo Thanh Long, W Pedrycz, (2016), “Interval-valued fuzzy set approach to fuzzy coclustering for data classification”, Knowledge-Based Systems, Vol 107, pp 1-13 [49] Piero Baraldi, Roozbeh Razavi-Far, Enrico Zio, (2011), “Bagged ensemble of Fuzzy C-Means classifiers for nuclear transient identification”, Annals of Nuclear Energy, Volume 38, Issue 5, pp 1161-1171 (FCME) 131 [50] Puneet Mishra et al., (2021), “Recent trends in multi-block data analysis in chemometrics for multi-source data integration”, TrAC Trends in Analytical Chemistry, Volume 137, 116206 [51] R Gupta, SK Muttoo, SK Pal, (2017), “Fuzzy C-Means Clustering and Particle Swarm Optimization based scheme for Common Service Center location allocation,” Applied Intelligence, Vol 47(3), pp 624643 [52] R Janani, S Vijayarani, (2019), “Text document clustering using Spectral Clustering algorithm with Particle Swarm Optimization,” Expert Systems with Applications, Vol 13415, pp 192-200 [53] R Xu, D Wunsch (2005), “Survey of Clustering Algorithms”, IEEE Transactions on Neural Networks, Vol 16(3), pp 645-678 [54] S Luo, C Zhang, W Zhang, X Cao, (2018), “Consistent and specific multi-view subspace clustering”, Thirty-Second AAAI Conference on Artificial Intelligence [55] S Miyamoto, H Ichihashi, K Honda, (2008), “Algorithms for Fuzzy Clustering”, Springer: Studies in Fuzziness and Soft Computing, Vol 229 [56] S Sun, S Wang, G Zhang, J Zheng, (2018) “A decompositionclustering-ensemble learning approach for solar radiation forecasting”, Solar Energy, Vol 163, pp 189-199 [57] S Zeng, X Wang, H Cui, C Zheng, D Feng, (2018) “A unified collaborative multikernel fuzzy clustering for multiview data”, IEEE Transactions on Fuzzy Systems, pp 1671-1687 [58] S.S Rayala, N.A Kumar, (2020), “Particle Swarm Optimization for robot target tracking application,” Materials Today: Proceedings 132 [59] Sara I.R.Rodríguez, Francisco de A.T.de Carvalho, (2021), “Soft subspace clustering of interval-valued data with regularizations”, Knowledge-Based Systems, Volume 227, 107191 [60] Shaojun Shi, Feiping Nie, Rong Wang, Xuelong Li, (2020), “Autoweighted multi-view clustering via spectral embedding”, Neurocomputing, Vol 399, pp 369-379 (AMCSE) [61] Shi-Xun Lin, Guo Zhong, Ting Shu, (2020), “Simultaneously learning feature-wise weights and local structures for multi-view subspace clustering”, Knowledge-Based Systems, Vol 205, https://doi.org/10.1016/j.knosys.2020.106280 [62] Shizhe HuRuobin WangYangdong Ye, (2021), “Interactive information bottleneck for high-dimensional co-occurrence data clustering”, Apply soft computing [63] Shuwei Zhu, Lihong Xu, Erik, D Goodman, (2020), “Evolutionary multi-objective automatic clustering enhanced with quality metrics and ensemble strategy”, Knowledge-Based Systems, Vol 188, 105018 [64] T Boongoen, N Iam-On, (2018), “Cluster ensembles: A survey of approaches with recent extensions and applications”, Computer Science Review, Vol 28, pp 1-25 [65] T.R Farshi, J.H Drake, E Ozcan, (2020), “A multimodal particle swarm optimization-based approach for image segmentation,” Expert Systems with Applications, Vol 1491, Article 113233 [66] TM Silva, BA Pimentel, RMCR Souza, ALI Oliveira, (2015), “Hybrid methods for fuzzy clustering based on Fuzzy C-Means and improved particle swarm optimization,” Expert Systems with Applications, Vol 42(17-18), pp 6315-6328 133 [67] V.N Pham, L T Ngo, V H Vu, (2015), Speedup of Fuzzy Co-Clustering algorithm for image segmentation on Graphic Processing Unit, SoICT 15, pp 83-89 [68] W C Tjhi, L Chen, (2008), “A heuristic-based fuzzy co-clustering algorithm for categorization of high-dimensional data”, Fuzzy Sets and Systems, Vol 159, pp 371-389 [69] W C Tjhi, L Chen, (2007), “Possibilistic fuzzy co-clustering of large document collections”, Pattern Recognition 40 (12), pp 3452-3466 [70] W Gao, C Su, (2020), “Analysis of earnings forecast of blockchain financial products based on particle swarm optimization,” Journal of Computational and Applied Mathematics, Vol 372, Article 112724 [71] W Pedrycz, (2002), “Collaborative fuzzy clustering”, Pattern Recognition Letter, Vol 23, pp 1675-1686 [72] W Ye, H Wang, S Yan, T Li, Y Yang, (2019), “Nonnegative matrix factorization for clustering ensemble based on dark knowledge”, Knowledge-Based Systems, Vol 163, pp 624-631 [73] W Yiping et al., (2021), “An improved multi-view collaborative fuzzy C-means clustering algorithm and its application in overseas oil and gas exploration”, Journal of Petroleum Science and Engineering, Vol 197 [74] Wang H et al, (2017), “Firefly algorithm with neighborhood attraction” Information Sciences, pp 374-387 [75] Williams, P., Soares, C., Gilbert, J.E., (2012), “A Clustering Rule Based Approach for Classification Problems” Int J Data Warehous Min 8(1), pp 1–23 [76] X Dong, Z Yu, W Cao, Y Shi, Q Ma, (2020), “A survey on ensemble learning”, Frontiers of Computer Science, Vol 14, pp 241-258 134 [77] X Li, X Wu, S Xu, S Qing, P Chang, (2019), “A novel complex network community detection approach using discrete particle swarm optimization with particle diversity and mutation,” Applied Soft Computing, Vol 81, Article 105476 [78] X Luo, Y Yuan, S Chen, N Zeng, Z Wang, (2020), “Positiontransitional particle swarm optimization-incorporated latent factor analysis,” IEEE Transactions on Knowledge and Data Engineering, pp 1-13 [79] X Wu, T Ma, J Cao, Y Tian, A Alabdulkarim, (2018), “A comparative study of clustering ensemble algorithms”, Computers & Electrical Engineering, Vol 68, pp 603-615 [80] X Zhao, F Cao, J Liang, (2018), “A sequential ensemble clusterings generation algorithm for mixed data”, Applied Mathematics and Computation, Vol 33515, pp 264-277 [81] X Zhao, J Liang, C Dang, (2017), “Clustering ensemble selection for categorical data based on internal validity indices”, Pattern Recognition, Vol 69, pp 150-168 [82] Xiaoyan Tang et al., (2015), “An adaptive RV measure based fuzzy weighting subspace clustering (ARV-FWSC) for MRI data analysis”, Biomedical Signal Processing and Control, Volume 22, pp 146-154 [83] Xin-she Yang, (2014), “Nature-Inspied optimization Algorithms”, Elsevier [84] Y Jiang, F.L Chung, S Wang, Z Deng, J Wang, P Qian, (2015), “Collaborative fuzzy clustering from multiple weighted views”, IEEE Transactions on Cybernetics, Vol 45, pp 688-701 135 [85] Y Kazemi, S Abolghasem, Mirroshandel (2018), “A novel method for predicting kidney stone type using ensemble learning”, Artificial Intelligence in Medicine, Vol 84, pp 117-126 [86] Y Li, X Chu, D Tian, J Feng, W Mu, (2021), “Customer segmentation using K-Means clustering and the adaptive particle swarm optimization algorithm,” Applied Soft Computing, Vol 113, Part B, 107924 [87] Y Song, F Zhang, C Liu, (2020), “The risk of block chain financial market based on particle swarm optimization,” Journal of Computational and Applied Mathematics, Vol 37015, Article 112667 [88] Y Song, S Pan, S Liu, F Wei, M.X Zhou, W Qian, (2010), “Constrained co-clustering for textual documents”, Association for the Advancement of Artificial intelligence, pp 581-586 [89] Y Song, S Zhang and et al., (2018), “Gaussian derivative models and ensemble extreme learning machine for texture image classification”, Neurocomputing, Vol 277, pp 53-64 [90] Y Wang, L Chen, (2017), “Multi-view fuzzy clustering with minimax optimization for effective clustering of data from multiple sources”, Expert Systems With Applications, Vol 72, pp 457-466 [91] Y Yan, L Chen, W C Tjhi, (2013), “Fuzzy semi-supervised coclustering for text documents”, Fuzzy Sets and Systems, Vol 215, pp 74-89 [92] Y.Y Yang, D.A Linkeos, A.J Trowsdale, J Tenner, (2000), “Ensemble neural network model for steel properties prediction”, Metal Processing, pp 401-406 [93] Yingcheng Zhou, Zheng Zhao, Daojian Cheng, (2020), “Cluster structure prediction via revised particle-swarm optimization 136 algorithm,” Computer Physics Communications, Vol 247, Article 106945 [94] Yongjian SunShaohui LiXiaohong Wang, (2021), “Bearing fault diagnosis based on EMD and improved Chebyshev distance inSDP image”, Measurement Volume 176, pp 100-109 [95] YueyangTeng et al., (2021), “Two graph-regularized fuzzy subspace clustering methods”, Applied Soft Computing, Volume 100, 106981 [96] Z Feng, W Niu, R Zhang, S Wang, C Chenge, (2019), “Operation rule derivation of hydropower reservoir by K-Means clustering method and extreme learning machine based on particle swarm optimization”, Journal of Hydrology, Vol 576, pp 229-238 [97] Z Tang, D Wang, Z Zhang, (2016), “Recurrent neural network training with dark knowledge transfer”, in: IEEE International Conference on Acoustics, Speech and Signal Processing, pp 5900– 5904 [98] Z Wang, A.C Bovik, (2002), “A universal image quality index”, IEEE signal processing letters, Vol 9(3), pp 81-84 [99] ZH, Wu, ZC Wu, J Zhang, (2017), “An improved FCM algorithm with adaptive weights based on SA-PSO,” Neural Computing and Applications, Vol 28(10), pp 3113-3118 [100] Zhao, Y., Karypis, G., (2004), “Empirical and theoretical comparisons of selected criterion functions for document clustering” Mach Learn 55(3), pp 311–331 [101] Zhihua Cui, Jiangjiang Zhang, Di Wu, Xingjuan Cai, Jinjun Chen, (2020), “Hybrid manyobjective particle swarm optimization algorithm for green coal production problem,” Information Sciences, Vol 518, pp 256-271 137 [102] Zongmo Huang et al., (2021), “Dual self-paced multi-view clustering”, Neural Networks, Vol 140, pp 184-192 [103] Z Yu Hong, Yun Chen a, Pawan Lingras b, Guoyin Wang, (2019), “A three-way cluster ensemble approach for large-scale data”, International Journal of Approximate Reasoning 115, pp 32–49