Phát triển một số phương pháp thiết kế hệ phân lớp trên cơ sở lý thuyết tập mờ và đại số gia tử

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ PHẠM ĐÌNH PHONG PHÁT TRIỂN MỘT SỐ PHƯƠNG PHÁP THIẾT KẾ HỆ PHÂN LỚP TRÊN CƠ SỞ LÝ THUYẾT TẬP MỜ VÀ ĐẠI SỐ GIA TỬ LUẬN ÁN TIẾN SĨ KHOA HỌC MÁY TÍNH Hà Nội - 2017 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ Phạm Đình Phong PHÁT TRIỂN MỘT SỐ PHƯƠNG PHÁP THIẾT KẾ HỆ PHÂN LỚP TRÊN CƠ SỞ LÝ THUYẾT TẬP MỜ VÀ ĐẠI SỐ GIA TỬ Chuyên ngành: Khoa học máy tính Mã số: 62 48 01 01 LUẬN ÁN TIẾN SĨ KHOA HỌC MÁY TÍNH NGƯỜI HƯỚNG DẪN KHOA HỌC: GS TS Nguyễn Thanh Thủy PGS TSKH Nguyễn Cát Hồ Hà Nội – 2017 LỜI CAM ĐOAN Tôi xin cam đoan rằng, ngoại trừ nội dung trích từ tài liệu tham khảo cơng trình khác ghi rõ luận án, kết trình bày luận án cơng trình nghiên cứu tơi hồn thành hướng dẫn GS TS Nguyễn Thanh Thủy PGS TSKH Nguyễn Cát Hồ Các kết nghiên cứu trung thực, chưa công bố trước Các kết viết chung với tác giả khác đồng ý đồng tác giả trước đưa vào luận án Tác giả luận án Phạm Đình Phong ii LỜI CẢM ƠN Với lòng biết ơn sâu sắc, tơi xin chân thành cảm ơn thầy GS TS Nguyễn Thanh Thủy PGS TSKH Nguyễn Cát Hồ trực tiếp bảo tận tình hướng dẫn tơi hồn thành luận án Tôi chân thành cảm ơn thầy TS Trần Thái Sơn có nhiều hỗ trợ q trình nghiên cứu có nhận xét, đánh giá trình hồn thiện luận án Tơi xin bày tỏ lòng biết ơn thầy giáo, giáo Bộ mơn Khoa học máy tính, Khoa Cơng nghệ thơng tin, Phòng đào tạo, Ban giám hiệu Trường Đại học Cơng nghệ tận tình bảo, giảng dạy tạo điều kiện thuận lợi suốt thời gian học tập, nghiên cứu hồn thành luận án Tơi xin cảm ơn tất người thân, bạn bè đồng nghiệp tạo điều kiện, động viên hỗ trợ mặt Cuối cùng, xin được bày tỏ tình cảm lòng biết ơn vô hạn tới bố mẹ người thân gia đình, đặc biệt vợ tơi – Phan Thị Quế Anh, người ln động viên, khích lệ, chia sẻ gánh vác cơng việc để tơi có thời gian học tập, nghiên cứu hoàn thành luận án MỤC LỤC LỜI CAM ĐOAN i LỜI CẢM ƠN iii MỤC LỤC iv DANH MỤC CÁC KÝ HIỆU VÀ CHỮ VIẾT TẮT vii DANH MỤC CÁC BẢNG ix DANH MỤC CÁC HÌNH VẼ, BIỂU ĐỒ xiii MỞ ĐẦU .1 CHƯƠNG TỔNG QUAN VỀ HỆ DỰA TRÊN LUẬT NGÔN NGỮ MỜ 1.1 MỘT SỐ KHÁI NIỆM CƠ BẢN 1.1.1 Tập mờ 1.1.2 Biến ngôn ngữ .9 1.1.3 Phân hoạch mờ 10 1.1.4 Luật ngôn ngữ mờ hệ luật ngôn ngữ mờ 11 1.1.5 Bài toán phân lớp liệu 12 1.2 HỆ DỰA TRÊN LUẬT NGÔN NGỮ MỜ 12 1.2.1 Cấu trúc hệ dựa luật ngôn ngữ mờ 13 1.2.2 Bài toán thiết kế hệ phân lớp dựa luật ngôn ngữ mờ 14 1.2.3 Những vấn đề tồn 19 1.3 ĐẠI SỐ GIA TỬ 19 1.3.1 Đại số gia tử biến ngôn ngữ 20 1.3.2 Lượng hóa đại số gia tử .22 1.3.3 Ý nghĩa ứng dụng đại số gia tử .25 1.3.4 Những vấn đề tồn 28 1.4 KẾT LUẬN CHƯƠNG 29 CHƯƠNG LÕI NGỮ NGHĨA VÀ NGỮ NGHĨA HÌNH THANG CỦA KHUNG NHẬN THỨC NGƠN NGỮ VÀ ỨNG DỤNG GIẢI BÀI TOÁN PHÂN LỚP .30 2.1 MỞ RỘNG ĐẠI SỐ GIA TỬ CHO VIỆC MƠ HÌNH HĨA LÕI NGỮ NGHĨA CỦA CÁC TỪ NGƠN NGỮ 30 2.2 MỞ RỘNG KHÁI NIỆM ĐỘ ĐO TÍNH MỜ 37 2.3 HỆ KHOẢNG TÍNH MỜ LIÊN KẾT VỚI ĐỘ ĐO TÍNH MỜ CỦA CÁC TỪ NGÔN NGỮ 40 2.4 ÁNH XẠ ĐỊNH LƯỢNG NGỮ NGHĨA KHOẢNG 44 2.5 MỞ RỘNG ĐỘ ĐO TÍNH MỜ CỦA CÁC PHẦN TỬ VÀ 46 2.6 ỨNG DỤNG LÕI NGỮ NGHĨA VÀ NGỮ NGHĨA HÌNH THANG TRONG THIẾT KẾ HỆ PHÂN LỚP DỰA TRÊN LUẬT NGÔN NGỮ MỜ 49 2.6.1 Thiết kế ngữ nghĩa tính tốn dựa tập mờ từ ngôn ngữ 50 2.6.2 Sinh tập luật khởi đầu từ liệu dựa ngữ nghĩa ĐSGT mở rộng 56 2.6.3 Tối ưu tham số ngữ nghĩa tìm kiếm hệ luật tối ưu 59 2.6.4 Đánh giá kết ứng dụng lõi ngữ nghĩa ngữ nghĩa hình thang thiết kế hệ phân lớp dựa luật ngôn ngữ mờ 61 2.6.4.1 Dữ liệu phương pháp thực nghiệm 61 2.6.4.2 So sánh đánh giá hai cấu trúc phân hoạch mờ đơn đa thể hạt 63 2.6.4.3 So sánh đánh giá hai phương pháp lập luận single winner rule weigted vote 69 2.6.4.4 So sánh đánh giá phương pháp thiết kế hệ phân lớp theo tiếp cận đại số gia tử 71 2.6.4.5 So sánh đánh giá với số phương pháp theo tiếp cận lý thuyết tập mờ 73 2.6.4.6 So sánh đánh giá với số tiếp cận khác .77 2.6.5 Biểu diễn ngữ nghĩa tính tốn dựa tập mờ hình thang đảm bảo tính giải nghĩa khung nhận thức ngôn ngữ .79 2.7 KẾT LUẬN CHƯƠNG 84 CHƯƠNG THIẾT KẾ HIỆU QUẢ HỆ PHÂN LỚP DỰA TRÊN LUẬT NGÔN NGỮ MỜ SỬ DỤNG KỸ THUẬT TÍNH TỐN MỀM 85 3.1 THIẾT KẾ HIỆU QUẢ HỆ PHÂN LỚP DỰA TRÊN LUẬT NGÔN NGỮ MỜ SỬ DỤNG CÁC THUẬT TOÁN TỐI ƯU 85 3.1.1 Đánh giá tính hiệu thuật toán MOPSO so với thuật toán GSA .88 3.1.1.1 Thuật toán tối ưu bầy đàn đa mục tiêu .88 3.1.1.2 Ứng dụng thuật toán MOPSO tối ưu tham số ngữ nghĩa tìm kiếm hệ luật tối ưu .92 3.1.1.3 Thực nghiệm so sánh thuật toán MOPSO so với thuật toán GSA 94 3.1.2 Đánh giá tính hiệu thuật toán MOPSO-SA so với thuật toán MOPSO 96 3.1.2.1 Thuật toán tối ưu đa mục tiêu lai MOPSO-SA 96 3.1.2.2 Ứng dụng thuật toán MOPSO-SA tối ưu tham số ngữ nghĩa tìm kiếm hệ luật tối ưu 99 3.1.2.3 Thực nghiệm so sánh thuật toán MOPSO-SA so với thuật toán MOPSO 101 3.2 NÂNG CAO HIỆU QUẢ SINH LUẬT MỜ VỚI NGỮ NGHĨA DỰA TRÊN ĐẠI SỐ GIA TỬ SỬ DỤNG KỸ THUẬT LỰA CHỌN ĐẶC TRƯNG103 3.2.1 Một số khái niệm lý thuyết thông tin 104 3.2.2 Kỹ thuật lựa chọn đặc trưng sử dụng trọng số động 105 3.2.3 Ứng dụng thuật DWFS thiết kế FLRBC sở ĐSGT .107 3.2.4 Kết thực nghiệm thảo luận 109 3.3 KẾT LUẬN CHƯƠNG 113 KẾT LUẬN CỦA LUẬN ÁN .115 DANH MỤC CƠNG TRÌNH KHOA HỌC CỦA TÁC GIẢ LIÊN QUAN ĐẾN LUẬN ÁN .117 TÀI LIỆU THAM KHẢO .119 PHỤ LỤC A DANH MỤC CÁC KÝ HIỆU VÀ CHỮ VIẾT TẮT Các ký hiệu Đại số gia tử tuyến tính AX AX mp Đại số gia tử mở rộng AX mrtp Đại số gia tử mở rộng toàn phần μ(h) Độ đo tính mờ gia tử h fm(x) Độ đo tính mờ từ ngơn ngữ x f(x) Hàm định lượng khoảng từ ngôn ngữ x μA(x) Hàm xác định độ thuộc giá trị x vào tập mờ A |x| Độ dài từ ngôn ngữ x Xk Tập các từ có độ dài k X(k) Tập các từ có độ dài nhỏ k X Biến ngôn ngữ H Tập gia tử |H| Số lượng gia tử H mr Tập gia tử mở rộng (bổ sung thêm gia tử h0) + Tập gia tử dương H - Tập gia tử âm H(x) Tập từ cảm sinh từ x tác động gia tử k(x) Khoảng tính mờ mức k x RMSR Root mean squared residual H H Các từ viết tắt ĐSGT Đại số gia tử DB Database (Cơ sở liệu) FLRBC Fuzzy linguistic rule-based classifier (Hệ phân lớp dựa luật ngôn ngữ mờ) vii FLRBS fuzzy linguistic rule-based system (Hệ dựa luật ngôn ngữ mờ) FURIA Fuzzy unordered rules induction algorithm (Giải thuật cảm sinh luật mờ khơng có thứ tự) GSA Genetic simulated annealing (Tơi luyện mô di truyền) KB Knowledge base (Cơ sở tri thức) LFoC Linguistic frames of cognition (Khung nhận thức ngôn ngữ) MOO Multi-objective optimization (Tối ưu đa mục tiêu) MOPSO Multi-objective particle swarm optimization (Giải thuật tối ưu bầy đàn đa mục tiêu) PAES Pareto archived evolution strategy (Chiến lược tiến hóa lưu trữ Pareto) PI Power set of intervals (Tập khoảng có thể) PSO Particle swarm optimization (Tối ưu bầy đàn) RCS Rule and condition selection (Lựa chọn luật điều kiện luật) RIPPER Repeated incremental pruning to produce error reduction (Giảm lỗi lặp lại cắt tỉa gia tăng) SVM Support vector machine (Máy véc-tơ hỗ trợ) SWR Single winner rule (Luật thắng đơn) WV Weighted vote (Bầu cử có trọng số) 119 Tripathi P K., Bandyopadhyay S., Pal S K (2007), “Multi-Objective Particle Swarm Optimization with time variant inertia and acceleration coefficients”, Information Sciences 177, pp 5033–5049 120 Vuorimaa P (1994), “Fuzzy self-organizing map”, Fuzzy Sets and Systems 66 (2), pp 223–231 121 Wang L X., Mendel J M (1992), “Generating fuzzy rules by learning from examples”, IEEE Trans on Systems, Man and Cybernetics 22 (6), pp 1414–1427 122 Wu C., Lin C J., Lee C Y (2011), “A functional neural fuzzy network for classification applications”, Expert Systems with Applications 38 (5), pp 6202–6208 123 Zadel L A (1965), “Fuzzy sets”, Information and Control 8, pp 338–353 124 Zadeh L A (1975), “The concept of a linguistic variable and its application to approximate reasoning – I–III”, Inf Sci (3), pp 199–249; Zadeh L A (1975), “The concept of a linguistic variable and its application to approximate reasoning – I–III”, Inf Sci (4), pp 301–357; Zadeh L A (1975), “The concept of a linguistic variable and its application to approximate reasoning – I–III”, Inf Sci (1), pp 43–80 125 Zhang Y., Lu Z., Li J (2010), “Fabric defect classification using radial basis function network”, Pattern Recognition Letters 31 (13), pp 2033–2042 126 Zhao Z., Wang G., Zhao W., Chen H., Zhao W., Li L (2011), “A Fuzzy Adaptive Multi-Population Parallel Genetic Algorithm for Spam Filtering”, Journal of Convergence Information Technology (2), pp 172–182 127 Zhou E., Khotanzad A (2007), “Fuzzy classifier design using genetic algorithms”, Pattern Recognition 40 (12), pp 3401–3414 128 http://sci2s.ugr.es/keel/datasets.php PHỤ LỤC PHỤ LỤC Thuật toán sinh tập luật khởi đầu Thuật toán 2.2 E_IFRG [57, CT4] //Thuật toán sinh tập luật khởi đầu Input: Tập mẫu liệu D = {(dl, Cl) | l = 1, …, mt}, M lớp kết luận, n thuộc tính Các tham số ngữ nghĩa Л, NR số luật khởi đầu, K giới hạn độ dài từ ngôn ngữ, λ độ dài tối đa luật Output: Tập luật khởi đầu S0 = {R1, …, RNR} Begin //Bước 1: Xây dựng tập từ ngơn ngữ, khoảng tính mờ, giá trị định lượng khoảng tập mờ hình thang Xj,(kj) For j = to n begin Sinh tập từ ngơn ngữ có độ dài tối đa kj ≤ K; For k = to kj begin For each x  Xj,k begin // Xj,k theo thứ tự ngữ nghĩa Tính độ đo tính mờ fm(x); //Tính chất (2) Mệnh đề 2.1 Xây dựng khoảng tính mờ j,k(x) x; Tính ánh xạ định lượng khoảng f(x) x; // Định lý 2.6 End; End; For each x  ,( ) Xây dựng tập mờ hình thang cho x; //Mục 2.6.1 End; //Bước 2: Xây dựng tập luật ứng viên từ D dựa khoảng tính mờ mức kj Rcnd = Ø; //Khởi tạo tập luật ứng viên rỗng For each pl = (dl, Cl)  D begin Atn = Ø;//Khởi tạo tập tiền đề luật rỗng For j = to n begin A Tìm từ ngơn ngữ , ∈ , mà , ∈ ℑ,  , ; Sinh điều kiện tiền đề luật aj,i = “Xj is xj,i”; Atn = Atn  aj,i ; //Thêm aj,i vào tập tiền đề Atn; End; Sinh luật sở Rb:  ⇒  ; //Rb có độ dài n For k = to λ begin Sinh tất k-tổ hợp n phần tử lưu vào tập Comb; For each Combq  Comb begin Sinh luật r: Aq ⇒ Cl có tiền đề luật tổ hợp Combq từ tiền đề Rb; Tính độ tin cậy độ hỗ trợ luật r; //công thức (1.3), (1.4); Xác định lại nhãn lớp luật r: Aq ⇒ Cq;//cơng thức (1.6); Tính trọng số luật r; //công thức (1.7), (1.8), (1.9), (1.10); Rcnd = Rcnd  r; End; End; End; //Bước 3: Sàng luật theo tiêu chuẩn sàng S0 = Ø; //Khởi tạo tập luật khởi tạo rỗng For i =1 to M begin Ri = {Rcnd: Aq  Cq, Cq = Ci}; //Nhóm luật ứng viên theo nhãn lớp Sắp xếp Ri giảm dần theo tiêu chuẩn sàng; Thêm NR/M luật Ri vào S0; End; Return S0; End B PHỤ LỤC Mô tả tập liệu thực nghiệm Bảng 2.1 Các tập liệu mẫu sử dụng thực nghiệm S TK S T Aậ ý Aố pA pA uB uB a aB B uC uC l l 6D D e eG 7G l lH H aH aH aH aH 01 eH H e 11 eI eI o oI 12 Ir is M r 13 M a aN 14 N 51 eP eP 61 iS iS 71 aS a S 81 oT oT 92 aV V a e W e 20 W d dW 21 W 22 iW iW is i S S ố ố 106 2 6 2 3 2 690 365 345 297 358 214 306 160 270 351 150 830 215 768 462 208 151 846 569 178 683 Sau mô tả ngắn gọn đặc điểm tập liệu bảng trên: - Tập liệu Appendicitis có thuộc tính (có giá trị từ 0,0 đến 1,0) biểu diễn tiêu chuẩn y tế thực qua 106 bệnh nhân, nhãn lớp tương ứng biểu thị bệnh nhân bị không bị việm ruột thừa - Australian tập liệu ứng dụng thẻ tín dụng Tất thuộc tính chuyển thành ký hiệu khơng có nghĩa nhằm bảo vệ liệu mật - Tập liệu Bands liên quan đến in quay với nhiệm vụ xác định phần định có phải dải hình trụ hay không C - Tập liệu Bupa liên quan đến việc phân tích số rối loạn chức gan phát sinh từ uống rượu mức Năm thuộc tính đầu tất xét nghiệm máu cho nhạy cảm với rối loạn chức gan Thuộc tính cuối số lượng panh (tương đương với nửa lít) rượu uống ngày - Tập liệu Cleveland liên quan đến bệnh tim gồm 14 thuộc tính với nhiệm vụ dò xét diện bệnh tim bệnh nhân Nhãn lớp số nguyên từ (không diện) đến - Dermatology tập liệu chẩn đoán bệnh vảy ban đỏ Bệnh nhân trước tiên đánh giá lâm sàng với 12 thuộc tính sau mẫu da lấy để đánh giá với 22 thuộc tính mơ học Thuộc tính lịch sử gia đình có giá trị bệnh quan sát thấy gia đình có giá trị trường hợp ngược lại Ngồi thuộc tính tuổi, tất thuộc tính khác có mức độ khoảng từ đến Giá trị thuộc tính khơng diện, giá trị lớn 1, giá trị trung gian tương đối - Tập liệu Glass dùng để phân lớp loại kính tìm thấy trường tội phạm xác định theo hàm lượng ơxít (K, Na, Fe, Al, …) - Tập liệu Haberman bao gồm ca từ nghiên cứu thực từ năm 1958 đến năm 1970 Đại học Chicago's Billings Hospital sống sót bệnh nhân sau phẫu thuật ung thư vú Việc phân lớp liệu nhằm xác định bệnh nhân sống thêm từ năm trở lên (“positive”) hay năm (“negative”) - Hayes-roth tập liệu nhân tạo có thuộc tính dùng để thử nghiệm hệ phân lớp dựa nguyên mẫu (prototype classifier) - Tập liệu Heart có 13 thuộc tính dùng để phát bệnh nhân bị bệnh tim (nhãn 2) hay không bị bệnh tim (nhãn 1) - Tập liệu Hepatitis có 19 thuộc tính chứa đựng thông tin bệnh nhân bị ảnh hưởng bệnh viêm gan - Ionosphere tập liệu đa thu thập hệ Goose Bay, Labrador Hệ bao gồm dàn 16 ăng ten mảng pha tần số cao với tổng công suất phát 6,4KW Mục tiêu electron tự tầng điện ly Ra đa trả lại nhãn “Good” cho chứng vài cấu trúc tầng điện ly, ngược lại nhãn “Bad” khơng, tức tín hiệu xuyên qua tầng điện ly D - Iris tập liệu phân loại hoa diên vĩ bao qua thuộc tính độ dài độ rộng đài hoa cánh hoa Mỗi nhãn lớp ứng với loại hoa Iris Setosa, Iris Versicolour Iris Virginica - Mammographic tập liệu sử dụng để dự đốn mức độ nghiêm trọng (lành tính ác tính) khối X quang vú dựa thuộc tính BI-RADS tuổi bệnh nhân - Newthyroid tập liệu tuyến giáp sử dụng để phát bệnh nhân bình thường (nhãn 1), có hoạt động mức (nhãn 2) hay giảm hoạt động (nhãn 3) tuyến giáp - Pima tập liệu cho phép phân phụ nữ có độ tuổi 21 thành hai nhóm: bị đái tháo đường (tested_positive) chưa bị đái tháo đường (tested_negative) - Saheart tập liệu giúp xác định người có bị mắc bệnh tim mạch vành (postive) hay không (negative) - Sonar tập liệu chứa tín hiệu thu từ nhiều góc độ khác nhau, trải 90 độ cho mỏ quặng 180 độ cho đá Mỗi mẫu liệu gồm 60 thuộc tính có giá trị từ 0,0 đến 1,0, đó, giá trị số biểu thị lượng bên dài tần số định, tích hợp với qua quãng thời gian định Nhãn R M thể đối tượng phát đá khối kim loại - Tae tập liệu đánh giá hiệu suất giảng dạy qua học kỳ bình thường kỳ hè 151 trợ lý giảng dạy Khoa thống kê, Đại học Wisconsin-Madison Kết đánh giá gồm loại ứng với nhãn: low (1), medium (2) high (3) - Vehicle tập liệu dùng để phân loại hình bóng cụ thể cho bốn loại xe (van, saab, bus, opel) sử dụng tập đặc trưng trích xuất từ hình bóng Xe nhìn từ góc độ khác - Wdbc tập liệu bao gồm 30 thuộc tính tính tốn từ ảnh số hút kim nhỏ khối vú Chúng mô tả đặc điểm nhân tế bào xuất ảnh nhằm phát khối u lành tính (B) hay ác tính (M) - Wine tập liệu dùng để phân loại rượu qua việc phân tích định lượng 13 thành phần tìm thấy trong ba loại rượu - Wisconsin bao gồm liệu ca phẫu thuật ung thư vú nghiên cứu tiến hành Đại học Wisconsin Hospitals, Madison nhằm xác định khối u phát lành tính (nhãn 2) hay ác tính (nhãn 4) E PHỤ LỤC Một số bảng kết thực nghiệm Bảng 2.2 Các kết thực nghiệm so sánh hai cấu trúc đa thể hạt đơn thể hạt thiết kế sở ĐSGT ĐaTHAX Tập ĐơnTHAX liệu Ap p Au sBa nBu pCle Der Gla Ha b Ha yHe aHe pIon Iri Ma m Ne w Pi m Sah Son Tae Veh Wd bWi nWi s TB # C 13 65 12 86 51 93 41 10 21 22 69 02 69 24 56 08 67 29 62 43 73 57 Pt Pt r 92 ,2 88 ,0 76 ,1 78 ,1 72 ,4 98 ,0 80 ,4 76 ,9 90 ,1 89 ,6 95 ,8 95 ,3 98 ,4 86 ,0 97 ,0 78 ,2 76 ,3 88 ,3 72 ,1 70 ,3 97 ,6 99 ,8 97 ,8 86 ,7 e 87, 55 86, 38 72, 80 68, 09 62, 19 96, 07 72, 09 75, 76 84, 17 84, 44 88, 44 90, 22 96, 00 84, 20 94, 42 76, 18 69, 33 76, 80 59, 47 67, 62 96, 96 98, 30 96, 74 81, 92 # Pt C r 91, 89 48, 87, 0, 76, 76 55 1, 76, 18 5,1 77 33 70, 4,2 81 21 97, 9,4 42 19 80, 9,69 76, 48 , 12 62 90, 3,8 88, 23 14 4,0 15 94, 117, 08 95, 0,2 35 98, 5, 85, 72 57 48, 97, 0, 76, 04 77 77, 75, 5, 87, 90 66 4, 74, 25 9,7 27 00 68, 9,6 31 96, 88 52, 98, 4, 77 98, 2, 17 13 86, 9,7 23 mr Đa THAX ĐơnTHAX Pt e 85, 09 85, 65 72, 85 66, 30 54, 92 93, 93 71, 76 75, 78 83, 33 77, 28 83, 64 90, 33 95, 33 82, 32 96, 45 73, 36 69, 70 73, 37 57, 96 64, 39 94, 21 93, 97 96, 21 79, 92 # Pt C r 91 64 87 ,3 17 ,7 76 ,2 18 77 76 ,5 69 ,8 41 96 84 ,8 80 82 77 ,2 ,6 89 31 88 ,9 22 ,0 94 58 ,4 94 33 98 ,6 48 ,3 85 23 96 ,3 05 ,3 78 ,5 05 74 85 ,5 86 ,8 13 68 62 ,3 71 12 ,6 97 ,1 34100 25,00 97 ,2 86 ,0 Pte 88, 09 86, 86 72, 10 69, 41 63, 40 95, 52 72, 78 77, 43 83, 33 84, 57 89, 17 90, 98 96, 67 84, 46 95, 03 76, 66 70, 27 77, 29 59, 46 68, 12 95, 96 98, 52 96, 51 82, 29 # C 44, 4, 111, 2,2 66 7,8 22 2,5 32 2,2 6, 9, 10 1,4 3, 1, 4, 4, 4, 1, 0, 2, 16 0,8 21 9,0 9,4 68 3, 11 3,8 Pt Pt r 89, 45 87, 32 75, 12 75, 70 68, 32 91, 62 77, 99 76, 33 84, 07 86, 54 93, 79 94, 02 97, 75 85, 17 96, 86 77, 17 74, 94 85, 56 65, 49 70, 75 95, 83 98, 79 95, 07 84, 51 e 85, 82 85, 07 67, 97 70, 53 57, 47 88, 25 69, 41 76, 65 76, 46 77, 41 85, 38 91, 08 96, 89 83, 94 94, 75 75, 01 69, 32 71, 78 54, 19 65, 96 94, 26 94, 95 92, 99 79, 37 # C 46 65 18 84 61 84 71 10 11 22 58 83 07 33 95 65 94 29 11 92 54 06 1 Pt Pt r 92 ,3 88 ,5 78 ,1 79 ,7 66 ,6 96 ,3 78 ,7 77 ,6 89 ,4 89 ,1 93 ,6 94 ,6 98 ,2 85 ,4 96 ,7 78 ,6 75 ,5 87 ,5 68 ,9 70 ,7 97 ,0 99 ,6 97 ,7 86 ,1 e 88, 15 87, 15 73, 46 72, 38 62, 39 94, 40 72, 24 77, 40 84, 17 84, 57 89, 28 91, 56 97, 33 84, 20 95, 67 77, 01 70, 05 78, 61 61, 00 68, 20 96, 78 98, 49 96, 95 82, 67 # Pt C r 92 83 87 ,3 95 ,7 74 ,8 74 14 0, 74 ,2 70 9, ,1 19 95 6, 78 36 ,5 ,6 4, 76 , 86 ,8 ,9 88 10 0,2 ,5 93 18 ,4 93 ,3 36 98 55 ,4 84 ,6 46 97 14 ,1 77 ,0 55 75 74 ,3 84 ,7 70 22 3, 22 ,3 69 8,3 ,0 95 ,4 45 98 17 ,1 97 ,2 12 85 0, ,2 mr ĐơnTHAX mrtp ĐaTHAX Pt e 88, 42 86, 23 71, 27 67, 08 56, 84 93, 46 70, 33 76, 74 77, 08 80, 49 87, 13 87, 65 97, 11 81, 95 95, 19 74, 58 69, 84 76, 05 55, 93 65, 17 92, 91 95, 34 95, 72 80, 11 Số có chữ đậm thể kết tốt cấu trúc đa thể hạt đơn thể hạt thiết kế phương pháp luận ĐSGT F mrtp Bảng 2.5 Các kết thực nghiệm so sánh hệ phân lớp thiết kế sở ĐSGT AXmr AXmrtp sử dụng phương pháp lập luận SWR WV Tập liệu # P C tr Ap p Au 64 1, sBa 71 77, n Bu 18 6, pCle 67 67, Der 41 9, Gla 84 6, Ha 82 70, b Ha 10 7, yHe 13 89, a 22 8, He pIon 85 94, 33 4, Iri Ma 84 88, m 23 5, Ne w 05 6, Pi m 05 8, Sah Son 4, Tae 13 66, Veh 62 8, Wd 12 91, b 7, 34 10 Wi nWi 52 0,0 s 7, TB 6, SWR_AXmr Pt e 88, 09 86, 86 72, 10 69, 41 63, 40 95, 52 72, 78 77, 43 83, 33 84, 57 89, 17 90, 98 96, 67 84, 46 95, 03 76, 66 70, 27 77, 29 59, 46 68, 12 95, 96 98, 52 96, 51 82, 29 # Pt C r 93, 7, 43 88, 33 88, 74, 3, 18 55 75, 5,4 84 82 70, 5,1 94, 20 79 5,1 76, 44 81 28 5,69 74, , 84, 17 28 78, 88, 3, 96, 70 24 71, 94, 2, 98, 11 94 63, 85, 6, 11 98, 7, 09 78, 41 62, 75, 4, 86, 12 04 2, 68, 16 5,5 25 09 70, 9,2 39 97, 4, 62 99, 56 69, 97, 5, 42 12 85, 9,0 49 mr AX WV_ Pt e 90, 03 86, 57 67, 71 65, 50 57, 09 92, 74 66, 32 73, 42 77, 92 83, 83 91, 35 90, 89 94, 44 83, 34 97, 09 74, 58 69, 76 76, 69 57, 75 67, 41 95, 20 94, 74 95, 43 80, 43 # Pt C r 192, 6438 88, 56 5678, 19 79, 78 48 66, 61 64 96, 84 37 78, 7177, 78 60 89, 40 11 89, 2219 93, 68 8594, 8369 98, 25 7085, 96, 49 9576 78, 75, 69 9451 87, 59 2968, 11 97 70, 74 9297, 5408 99, 60 6097, 78 86, 16 Pt e 88, 15 87, 15 73, 46 72, 38 62, 39 94, 40 72, 24 77, 40 84, 17 84, 57 89, 28 91, 56 97, 33 84, 20 95, 67 77, 01 70, 05 78, 61 61, 00 68, 20 96, 78 98, 49 96, 95 82, 67 # C 0, 68, 0, 13 6,8 83 6,7 19 7,7 44 3,8 5, 2, 4, 9, 10 0,8 2, 3, 8, 4, 6, 7, 21 9,9 22 3,6 7, 6, 7, 13 0,7 Pt Pt r 92, 70 88, 32 76, 36 77, 15 70, 55 96, 05 75, 59 78, 96 91, 27 89, 29 94, 58 94, 60 98, 59 85, 81 98, 07 79, 16 76, 58 88, 12 70, 59 68, 74 97, 32 99, 73 97, 86 86, 35 e 86, 85 86, 57 69, 41 66, 32 57, 49 93, 75 66, 20 74, 35 85, 21 84, 07 86, 84 88, 71 94, 89 83, 16 96, 15 75, 61 71, 87 76, 87 57, 26 65, 25 95, 20 96, 03 96, 22 80, 62 Số có chữ đậm thể kết tốt hai phương pháp lập luận SWR WV G mrtpSWR_AX mrtp WV_AX Bảng 2.8 Các kết thực nghiệm so sánh hệ phân lớp FRBC_AXmrtp, FRBC_AXmr, FRBC_AX, All Granularities Product-1-ALL TUN mrtp mr Tập liệu # Pt Cr Ap 92 pAu ,3 46 88 s 65 ,5 Ba 78 nBu ,1 18 79 pCle 84 ,7 66 Der 61 ,6 96 ,3 Gla 48 78 71 ,7 Ha 77 bHa ,6 10 89 y 11 ,4 He 89 aHe 22 93 ,1 p 58 ,6 Ion 94 ,6 Iri 38 98 07 ,2 Ma 85 m 33 ,4 Ne 96 w ,7 Pi 59 78 m Sah ,6 75 ,5 Son 49 87 Tae 29 ,5 68 ,9 Veh 11 70 Wd 92 ,7 97 bWi ,0 45 99 n 06 ,6 Wi 97 s TB ,7 86 ,1 FRBC_AX Pt e 88 ,1 87 ,1 73 ,4 72 ,3 62 ,3 94 ,4 72 ,2 77 ,4 84 ,1 84 ,5 89 ,2 91 ,5 97 ,3 84 ,2 95 ,6 77 ,0 70 ,0 78 ,6 61 ,0 68 ,2 96 ,7 98 ,4 96 ,9 82 ,6 # C 46 17 178 0, 64 0, 18 9, 48 8,2 13 9, 12 0,2 58 33 48 23 05 05 85 16 3, 21 6,2 34 25 12 3, Pt Pt r 91 ,3 87 ,7 76 ,2 77 ,5 69 ,8 96 ,8 80 ,2 77 ,6 89 ,9 88 ,0 94 ,4 94 ,6 98 ,3 85 ,3 96 ,3 78 ,5 74 ,5 86 ,8 68 ,3 71 ,6 97 ,1 10 0, 97 ,2 86 ,0 e 88 ,0 86 ,8 72 ,1 69 ,4 63 ,4 95 ,5 72 ,7 77 ,4 83 ,3 84 ,5 89 ,1 90 ,9 96 ,6 84 ,4 95 ,0 76 ,6 70 ,2 77 ,2 59 ,4 68 ,1 95 ,9 98 ,5 96 ,5 82 ,2 FRBC_AX # C 31 65 18 7, 65 7, 19 8, 34 3,1 12 2, 12 2,2 69 02 69 24 56 08 67 26 1, 24 2,3 73 57 12 6, Pt Pt r 92, 28 88, 06 76, 17 78, 13 72, 44 98, 03 80, 45 76, 91 90, 11 89, 63 95, 83 95, 35 98, 40 86, 05 97, 02 78, 28 76, 35 88, 39 72, 11 70, 30 97, 62 99, 88 97, 81 86, 77 e 87 ,5 86 ,3 72 ,8 68 ,0 62 ,1 96 ,0 72 ,0 75 ,7 84 ,1 84 ,4 88 ,4 90 ,2 96 ,0 84 ,2 94 ,4 76 ,1 69 ,3 76 ,8 59 ,4 67 ,6 96 ,9 98 ,3 96 ,7 81 ,9 # Pt C r 91, 86 4, 85, ,5 51 71, 36 17 69, 11 50 73, 32, 11 99, 07 42 78, 09 65 79, 46 10 90, 41 88 90, 19 03 96, 10 95, 42 99, 64 11 83, 04 07 96, 19 99 77, 57 80 76, 70 76 86, 66, 54 55 44 69, 95 34 97, 12 35 10 27 0,0 98, 22 85, 74 Pt e 87, 91 85, 51 68, 73 63, 99 55, 11 94, 12 60, 48 71, 89 78, 03 83, 46 90, 44 88, 62 95, 11 81, 04 91, 78 74, 92 71, 14 78, 88 54, 57 62, 81 94, 90 96, 08 96, 07 79, 37 # C 60 12 02 101 20, 85 32 11 51 62 08 61 18 05 65 17 14 27 13 84 45 86 FRBC_AX Pt Pt r 93 ,4 89 ,1 71 ,1 78 ,5 77 ,2 99 ,2 83 ,6 76 ,8 90 ,9 91 ,8 97 ,8 96 ,2 98 ,3 83 ,9 98 ,0 79 ,0 77 ,7 87 ,9 71 ,2 71 ,1 97 ,3 99 ,9 98 ,3 87 ,3 e 87, 30 85, 65 65, 80 67, 19 58, 80 94, 48 71, 28 71, 88 78, 88 82, 84 88, 53 90, 79 97, 33 80, 49 94, 60 77, 05 70, 13 78, 90 60, 78 66, 16 94, 90 93, 03 96, 35 80, 57 Số có chữ đậm thể kết tốt phương pháp (trên dòng) H All Granularities Product /1-ALL TUN Bảng 2.13 Các kết thực nghiệm so sánh hệ phân lớp FRBC_AXmrtp, FRBC_AXmr, PAES-RCS, FURIA C4.5 Tậ # Pt p C e Ap 88 p 64 ,1 Au 87 sBa ,1 56 73 nBu 18 ,4 72 pCle 1, 46 ,3 62 Der 8, 94 18 ,3 Gla 2, 72 47 ,4 ,2 Ha 4,1 77 b Ha 11 ,4 84 yHe 12 4, 84 ,1 a 3,2 ,5 He 89 pIon 85 91 ,2 83 ,5 Iri 97 ,3 Ma 70 84 m 33 ,2 Ne 95 w 95 ,6 Pi 77 m ,0 Sah 56 70 Son ,0 78 ,6 61 Tae 21 Veh 0, 68 19 ,0 ,2 Wd 5,2 96 b 54 ,7 Wi 98 nWi 60 96 ,4 s TB 11 ,9 82 4, ,6 mrtp FRBC_AX # C 64 71 17 0, 64 0, 18 9, 48 8,2 13 9, 12 0,2 58 33 48 23 05 05 85 16 3, 21 6,2 34 25 12 3, Pt e 88 ,0 86 ,8 72 ,1 69 ,4 63 ,4 95 ,5 72 ,7 77 ,4 83 ,3 84 ,5 89 ,1 90 ,9 96 ,6 84 ,4 95 ,0 76 ,6 70 ,2 77 ,2 59 ,4 68 ,1 95 ,9 98 ,5 96 ,5 82 ,2 # C 35 72 52 115 403 84 82 01 23 03 06 76 19 39 27 75 25 23 25 51 81 73 Pt e 85 ,0 85 ,8 67 ,5 68 ,6 59 ,0 95 ,4 72 ,1 72 ,6 84 ,0 83 ,2 83 ,2 90 ,4 95 ,3 83 ,3 95 ,3 74 ,6 70 ,9 77 ,0 60 ,8 64 ,8 95 ,1 93 ,9 96 ,4 80 ,6 FRBC_AX # C 98 59 33 21 33 04 72 12 81 95 32 73 11 16 01 25 30 04 213 25, 58 50 2 Pt e 85 ,1 85 ,2 64 ,6 69 ,0 56 ,2 95 ,2 72 ,4 75 ,4 83 ,1 80 ,0 84 ,5 91 ,7 94 ,6 83 ,8 96 ,3 74 ,6 69 ,6 82 ,1 43 ,0 71 ,5 96 ,3 96 ,6 96 ,3 80 ,3 mr PAES-RCS # Pt C e 85 55 ,8 84 ,0 108 63 603 ,2 67 136 ,8 48 932 ,4 95 58 ,2 69 61 71 ,1 57 ,5 83 ,1 28 77 02 ,4 86 ,2 11 90 84 ,5 95 ,2 75 83 03 ,9 92 24 ,0 74 ,6 12 70 11 ,7 72 ,1 78 59 89 ,6 75 965 94 ,5 86 ,0 93 ,8 40 95 ,6 79 ,5 Số có chữ đậm thể kết tốt phương pháp (trên dòng) I FURIA C4.5 Bảng 3.4 Các kết thực nghiệm so sánh hai hệ phân lớp MOPSO-SAAX MOPSOAX, MOPSO-SAAX mrtp MOPSOAX mrtp Tập l # P i C tr Ap pAu 47 82 s 66 87 Ba nBu 31 87 p 86 07 Cle 81 93 Der 74 78 Gla 09, 27 Ha bHa 71 96 y 21 09 He aHe 23 90 p 11 69 Ion 14 95 Iri 08 88 Ma m 75 95 Ne w 36 97 Pi m 19 97 Sah 66 87 Son 42 87 Tae 72 73 Veh 33 19 Wd bWi 93 97 n 75 99 Wi s TB 7, MOPSO-SAAX Pt e 88 ,2 86 ,4 73 ,5 70 ,0 60 ,6 96 ,0 72 ,2 76 ,7 85 ,0 84 ,2 90 ,3 91 ,6 96 ,6 84 ,1 97 ,8 76 ,3 71 ,1 77 ,0 59 ,0 68 ,0 96 ,3 98 ,3 97 ,2 82 ,4 # P P t C t 31, 82 87, 6, 87 6, 2, 76 62, 86 87 8, 51 92 92, 93 88 6, 41 07 2, 0, 96 85, 21 08 4, 22 99 84, 6, 9 59 8, 0, 95 90, 6, 88 6, 24 99 94, 5, 77 4, 0, 87 6, 6, 86 79, 9, 87 6, 62 72 69, 43 09 7, 7, 97 96, 5, 99 8, 4, 6, 8 6, 1, mrtp MOPSOAX # P t 19,5 82 41,8 77 656,0 77 113 ,65 56 0, 98 16 4, 44 67 67 2, 10,5 86 12 0, 88 86,1 98 19,8 39 172,7 94 25,7 88 763,3 95 35,0 87 744,9 77 124,8 38 037,6 815 56 7, 68 14 99 8, 30,6 97 34,4 99 871,8 108 7, 5, P t 89, 7, 3, 1, 1, 4, 2, 7, 5, 4, 9, 1, 7, 4, 7, 6, 1, 9, 1, 8, 6, 8, 7, 2, # P C t 46, 82 6, 87 8, 78 84 96 61 96 84 67 71 87 0, 87 11 98 22 99 5, 39 8, 94 0, 88 3, 95 9, 67 6, 87 9, 85 9, 76 11 78 92 09 5, 97 0, 99 9, 6, MOPSO-SAAX P t 8 77 37 26 29 47 27 78 48 48 99 19 78 49 57 77 07 86 16 89 69 89 Số có chữ đậm thể kết tốt hai thuật toán tối ưu MOPSO-SA MOPSO J mrtp MOPSOAX ...ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ Phạm Đình Phong PHÁT TRIỂN MỘT SỐ PHƯƠNG PHÁP THIẾT KẾ HỆ PHÂN LỚP TRÊN CƠ SỞ LÝ THUYẾT TẬP MỜ VÀ ĐẠI SỐ GIA TỬ Chuyên ngành:... đại số gia tử Dựa phân tích ưu nhược điểm phương pháp thiết kế FLRBC để đặt vấn đề cần nghiên cứu giải luận án 1.1 MỘT SỐ KHÁI NIỆM CƠ BẢN 1.1.1 Tập mờ Lý thuyết tập mờ Zadeh giới thiệu vào năm... CÁC KÝ HIỆU VÀ CHỮ VIẾT TẮT Các ký hiệu Đại số gia tử tuyến tính AX AX mp Đại số gia tử mở rộng AX mrtp Đại số gia tử mở rộng toàn phần μ(h) Độ đo tính mờ gia tử h fm(x) Độ đo tính mờ từ ngơn