Phát Triển Một Số Thuật Toán Phân Cụm Mờ Viễn Cảnh Và Ứng Dụng Trong Dự Báo

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN PHẠM HUY THÔNG PHÁT TRIỂN MỘT SỐ THUẬT TOÁN PHÂN CỤM MỜ VIỄN CẢNH VÀ ỨNG DỤNG TRONG DỰ BÁO LUẬN ÁN TIẾN SĨ TOÁN HỌC Hà Nội, 2020 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN PHẠM HUY THÔNG PHÁT TRIỂN MỘT SỐ THUẬT TOÁN PHÂN CỤM MỜ VIỄN CẢNH VÀ ỨNG DỤNG TRONG DỰ BÁO Chuyên ngành: Cơ sở toán học cho tin học Mã số: 9460117.02 LUẬN ÁN TIẾN SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS TS Lê Hoàng Sơn PGS TS Nguyễn Thị Hồng Minh Hà Nội, 2020 LỜI CAM ĐOAN Tôi xin cam đoan cơng trình nghiên cứu riêng tơi hoàn thành hướng dẫn khoa học PGS TS Lê Hoàng Sơn PGS TS Nguyễn Thị Hồng Minh Các kết nghiên cứu viết chung với tác giả khác trí đồng tác giả đưa vào luận án Tôi xin cam đoan kết nêu luận án trung thực chưa công bố cơng trình trước thời gian cơng bố Tác giả luận án Phạm Huy Thông i LỜI CẢM ƠN Trước hết, tác giả xin gửi lời cảm ơn chân thành sâu sắc tới tập thể giáo viên hướng dẫn, PGS TS Lê Hoàng Sơn PGS TS Nguyễn Thị Hồng Minh Thầy, Cô trực tiếp hướng dẫn, định hướng chuyên môn, giúp đỡ tận tình, ân cần dạy giúp cho tác giả hồn thành luận án Tơi xin chân thành gửi lời cảm ơn đến quý thầy cô, anh chị em đồng nghiệp Trung tâm Tính tốn Hiệu Năng Cao khoa Toán – Cơ – Tin học, Trường Ðại học Khoa học Tự nhiên quan tâm giúp đỡ, tạo điều kiện nhiều mặt, bảo tận tình trình tác giả thực luận án Nhờ tác giả tiếp thu nhiều ý kiến đóng góp nhận xét q báu thơng qua buổi thảo luận seminar để hồn chỉnh luận án Xin chân thành cảm ơn Viện Công nghệ Thông tin, Đại học Quốc gia Hà Nội tạo điều kiện thời gian công việc để tác giả tập trung hồn thành q trình học tập, nghiên cứu hồn thiện luận án Cuối xin cảm ơn gia đình, bạn bè cổ vũ động viên tác giả công việc học tập trình thực luận án Xin chúc người mạnh khoẻ, đạt nhiều thành tích cao cơng tác, học tập nghiên cứu khoa học! Hà Nội, ngày … tháng … năm 2020 Tác giả luận án Phạm Huy Thông ii MỤC LỤC LỜI CAM ĐOAN i LỜI CẢM ƠN ii DANH MỤC THUẬT NGỮ VÀ TỪ VIẾT TẮT DANH MỤC BẢNG BIỂU DANH MỤC HÌNH VẼ MỞ ĐẦU .9 CHƯƠNG CƠ SỞ LÝ THUYẾT 20 Tập mờ 20 Độ đo tương tự đánh giá chất lượng cụm 21 Thuật toán phân cụm mờ 24 Một số thuật toán khác .27 1.4.1 Thuật toán tối ưu bầy đàn 27 1.4.2 Thuật toán DifFuzzy 28 1.4.3 Thuật toán Dissimilarity 30 1.4.4 Phương pháp FCM-STAR .32 Bộ liệu thực nghiệm 33 Kết luận chương .34 CHƯƠNG THUẬT TOÁN PHÂN CỤM MỜ VIỄN CẢNH 35 2.1 Ý tưởng thuật toán 35 2.2 Thuật toán phân cụm mờ viễn cảnh 35 2.2.1 Hàm mục tiêu 35 2.2.2 Chi tiết thuật toán 39 2.3 Khảo sát tính chất hội tụ thuật toán 39 2.4 Kết thực nghiệm 42 2.4.1 Ví dụ minh họa cho FC-PFS 43 2.4.2 So sánh chất lượng phân cụm 46 2.4.3 Đánh giá thuật toán qua tham số .50 2.5 Kết luận chương .52 CHƯƠNG MỘT SỐ CẢI TIẾN CỦA THUẬT TOÁN PHÂN CỤM MỜ VIỄN CẢNH ……… 53 3.1 Thuật toán phân cụm mờ tự động xác định số cụm 53 3.1.1 Ý tưởng thuật toán 53 3.1.2 Chi tiết thuật toán 54 3.1.3 Kết thực nghiệm 62 3.2 Thuật toán phân cụm mờ với liệu phức tạp .72 3.2.1 Độ đo cho thuộc tính kiểu loại .73 3.2.2 Thuật toán phân cụm với liệu phức tạp (PFCA-CD) 73 3.2.3 Kết thực nghiệm 77 3.3 Kết luận chương .84 CHƯƠNG ỨNG DỤNG CỦA THUẬT TOÁN PHÂN CỤM MỜ VIỄN CẢNH 86 4.1 Phương pháp PFC-STAR 87 4.2 Phương pháp PFC-PFR 89 4.2.1 Số mờ viễn cảnh tam giác 90 4.2.2 Số mờ viễn cảnh hình thang 91 4.2.3 Chi tiết thuật toán 92 4.3 Kết thực nghiệm 99 4.4 Kết luận chương .107 KẾT LUẬN .108 DANH MỤC CÁC CƠNG TRÌNH KHOA HỌC CỦA TÁC GIẢ ĐÃ CÔNG BỐ 110 TÀI LIỆU THAM KHẢO .111 DANH MỤC THUẬT NGỮ VÀ TỪ VIẾT TẮT STT Từ viết tắt Từ tiếng anh Automatic AFC-PFS Clustering Ý nghĩa Fuzzy Thuật toán phân cụm mờ tự on Picture động xác định số cụm tập Fuzzy Set mờ viễn cảnh Chỉ số Silhouette thay ASWC Alternative Silhouette CCE Cluster Count Extraction DB Davies–Bouldin index FCM Fuzzy C-means FC-PFS Fuzzy Phương pháp ước lượng số cụm tiền xử lý liệu Chỉ số chất lượng cụm Davies– Bouldin Thuật toán phân cụm mờ Clustering on Thuật toán phân cụm mờ viễn Picture Fuzzy Set cảnh GA Genetic algorithm Thuật toán di truyền IFS Intuitionistics Fuzzy Set Tập mờ trực cảm KFCM Kernel Fuzzy C-means Phân cụm mờ với hàm nhân 10 KIFCM 11 Kernel Intuitionistic Phân cụm mờ trực cảm với Fuzzy C-means hàm nhân MA Mean Accuracy Độ xác trung bình 12 NPM Non-Parametric Method Phương pháp phi tham số 13 PCC Picture Composite Cardinality Picture Fuzzy Clustering 14 PFCA-CD Algorithm for Complex Data 15 PFC-PFR Chỉ số viễn cảnh tổng hợp Thuật toán phân cụm mờ viễn cảnh cho liệu phức tạp Picture Fuzzy Clustering Phân cụm mờ viễn cảnh kết with Picture Fuzzy Rule hợp luật mờ viễn cảnh Picture Fuzzy Clustering 16 PFC-STAR with Spatio-temporal Autoregressive 17 PFS 18 PSO 19 T2FS 20 TPFN 21 TpPFN 22 WGLI Picture Fuzzy Set Particle Phân cụm mờ viễn cảnh kết hợp hồi quy không-thời gian Tập mờ viễn cảnh Swarm Optimization Type Fuzzy Set Thuật toán tối ưu bầy đàn Tập mờ loại Triangular Picture Fuzzy Number Trapezoidal Picture Fuzzy Number Số mờ viễn cảnh tam giác Số mờ viễn cảnh hình thang Weighted Global – Local Chỉ số dựa giá trị trọng số validity-based index toàn cục – địa phương DANH MỤC BẢNG BIỂU Bảng 1.1 Mô tả tập liệu thử nghiệm 33 Bảng 2.1 Thuật toán phân cụm mờ viễn cảnh 39 Bảng 2.2 So sánh chất lượng cụm thời gian chạy thuật toán ( = 0.6).46 Bảng 2.3 Các miền phân lớp thuật toán 49 Bảng 2.4 Thống kê kết tốt thuật toán với hệ số khác 50 Bảng 3.1 Mô tả chi tiết thuật toán AFC-PFS 57 Bảng 3.2 Giá trị phần tử ví dụ 60 Bảng 3.3 Giá trị phần tử sau loại bỏ cụm ví dụ 61 Bảng 3.4 Số cụm trung bình thuật tốn với số đánh giá khác (giá trị in đậm có nghĩa giá trị gần với số lớp định sẵn cột) 63 Bảng 3.5 Giá trị STD thuật toán nhận cách sử dụng số đánh giá khác giá trị fitness 63 Bảng 3.6 Các giá trị đầu trung bình PBM, WGLI ASWC thuật toán cách sử dụng ASWC giá trị fitness (các giá trị bơi đậm có nghĩa tốt hàng) 67 Bảng 3.7 Các giá trị đầu độ lệch chuẩn (STD) PBM, WGLI ASWC thuật toán sử dụng ASWC giá trị fitness 67 Bảng 3.8 Các giá trị trung bình PBM, WGLI ASWC thuật toán sử dụng WGLI giá trị fitness (các giá trị bơi đậm có nghĩa tốt hàng) .67 Bảng 3.9 Các giá trị đầu độ lệch chuẩn PBM, WGLI ASWC thuật toán sử dụng WGLI giá trị fitness .68 Bảng 3.10 Các giá trị đầu trung bình PBM, WGLI ASWC của thuật tốn cách sử dụng PBM giá trị fitness (các giá trị bơi đậm có nghĩa tốt hàng) 68 Bảng 3.11 Các giá trị đầu chuẩn PBM, WGLI ASWC của thuật toán sử dụng PBM giá trị fitness giá trị bơi đậm có nghĩa tốt hàng) 69 Bảng 3.12 Thời gian tính tốn thuật toán (giây) 72 Bảng 3.13 Cách chọn tâm cụm 74 Bảng 3.14 Thuật toán phân cụm mờ viễn cảnh cho liệu phức tạp 76 Bảng 3.15 Các giá trị số đánh giá trung bình thuật tốn (Giá trị đậm có nghĩa tốt tập liệu số đánh giá) .80 Bảng 3.16 Thời gian để đạt giá trị tốt thuật toán (Giá trị đậm có nghĩa tốt nhất) 82 Bảng 3.17 Giá trị STD cho số đánh giá thuật toán 83 Bảng 3.18 Thời gian tính tốn (với giá trị STD) thuật toán theo giây 84 Bảng 4.1 Thuật toán huấn luyện tham số dựa PSO 98 Bảng 4.2 So sánh giá trị RMSE thuật toán 100 Bảng 4.3 So sánh giá trị RMSE thuật toán 103 Bảng 4.4 STD giá trị RMSE thuật toán 104 ... phân cụm tập mờ viễn cảnh cho toán phân cụm mờ tự động xác định số cụm Đây thuật toán lai ghép thuật toán phân cụm mờ viễn cảnh thuật toán tối ưu bầy đàn PSO Thực nghiệm kiểm chứng cho thây thuật. .. thuật toán phân cụm mờ viễn cảnh với thuật toán hồi quy không thời gian STAR kết hợp với luật mờ viễn cảnh Luật mờ viễn cảnh luật mờ trình bày luận án sinh kết phân cụm mờ viễn cảnh, dựa số mờ tam... NHIÊN PHẠM HUY THÔNG PHÁT TRIỂN MỘT SỐ THUẬT TOÁN PHÂN CỤM MỜ VIỄN CẢNH VÀ ỨNG DỤNG TRONG DỰ BÁO Chuyên ngành: Cơ sở toán học cho tin học Mã số: 9460117.02 LUẬN ÁN TIẾN SĨ TOÁN HỌC NGƯỜI HƯỚNG