Lý thuyết tập thô ứng dụng

LÝ THUYẾT TẬP THÔ & ỨNG DỤNG Introduction to Rough Set Theory & Application Ts Nguyễn Đức Thuần BM Hệ Thống Thơng Tin- ĐH Nha Trang NỘI DUNG MƠN HỌC  1: Giới thiệu  2: Một số khái niệm Tập thô  3: Bảng định  4: Cấu trúc Khái niệm Xấp xỉ  5: Lập luận tri thức  6: Một số mở rộng lý thuyết tập thô  7: Các hướng nghiên cứu & ứng dụng Page  Tài liệu tham khảo [1] Z Pawlak, Rough Sets - Theoretical Aspect of Reasoning about Data, Kluwer Academic Pubilishers (1991) [2] J.Komorowski, Z.Pawlak, L Polkowski, A Skowron, Rough Sets: Tutorial, bioinf.icm.uu.se/kbib/RoughSets-Tutorial.pdf [3] https://webpages.uncc.edu/ras/RS/rs-kdd.PPT [4] Q.Zhang, Q.Xie, G Wang, A survey on rough set theory and its applications, http://www.journals.elsevier.com/caai-transactions-on-intelligence-technology/ [5] Jaroslaw Stepaniuk, Rough – Granular Computing in Knowledge Discovery and Data Mining, Studies in Computational Intelligence, Springer, ISSN 1860949X, (2008) [6] Transaction on Rough Sets I –XIX Page  Giới thiệu Lý thuyết tập thô đề xuất & phát triển Gs Zdzislaw Pawlak vào đầu năm (19)80 Lý thuyết công bố đầu tiên: Z Pawlak, “Rough Sets”, International Journal of Computer and Information Sciences, Vol.11, 341356 (1982) Z Pawlak, Rough Sets - Theoretical Aspect of Reasoning about Data, Kluwer Academic Pubilishers (1991) Zdzislaw I Pawlak (10-11-1926 – 07-04-2006) Page  Giới thiệu  Lý thuyết tập thô cung cấp cơng cụ để:  Phân tích, trích chọn liệu từ liệu khơng xác để phát mối quan hệ đối tượng tiềm ẩn liệu  Lựa chọn/ khai thác tính chất đặc trưng  Rút gọn liệu  Tạo quy tắc định, khai thác mẫu (mẫu, luật kết hợp)  Tiếp cận đến giá trị null, thiếu liệu, kiểu liệu khác  Mơ tả, phân tích thao tác liệu cách tiếp cận tính khơng chắn khơng xác liệu Page  Giới thiệu  Sự mở rộng gần lý thuyết tập thô nhằm phát triển phương pháp để:  Phân rã liệu lớn  Khai thác liệu hệ thống phân tán đa tác tử (multi-agent)  Tính tốn hạt (granular) Bài trình bày thể phương pháp tiếp cận thô (cổ điển) cho toán nêu trên, số chủ đề nâng cao mở rộng tâp thô hướng nghiên cứu Page  Một số khái niệm Tập thô  Hệ thống Thông tin/ Quyết định (Information/Decision Systems) (Tables)  Không phân biệt (Indiscernibility)  Xấp xỉ Tập (Set Approximation)  Rút gọn & Nhân (Reducts and Core)  Thành viên Thô (Rough Membership)  Phụ thuộc thuộc tính (Dependency of Attributes)  Kiến thức bổ sung: Quan hệ tương đương (Equivalence Relation) Page  Một số khái niệm Tập thô Hệ thống thông tin/Bảng IS Information Systems/Tables  IS cặp (U, A) x１ x2 x3 x4 x5 x6 x7 Page  Age LEMS 16-30 16-30 31-45 31-45 46-60 16-30 46-60 50 1-25 1-25 26-49 26-49 26-49  U tập hữu hạn khác rỗng đối tượng U= {x1,x2,x3,x3,x4,x5,x6,x7}  A tập hữu hạn khác rỗng thuộc tính A={Age, LEMS} thỏa: aA  a : U  Va Va gọi tập giá trị thuộc tính a Một số khái niệm Tập thô Hệ định DS Decision Systems/Tables Age x１ x2 x3 x4 x5 x6 x7 16-30 16-30 31-45 31-45 46-60 16-30 46-60 LEMS Walk 50 yes no 1-25 no 1-25 yes 26-49 no 26-49 yes 26-49 no  DS: T  (U , A  {d })  d  A thuộc tính định (có thể có nhiều thuộc tính định)  Các phần tử A gọi thuộc tính điều kiện (condition attributes)  Các đối tượng tương tự khơng phân biệt được thể nhiều lần  Một số thuộc tính không cần thiết Page  Một số khái niệm Tập thô Không phân biệt Indiscernibility  Cho IS = (U, A) Hệ thống thông tin, với B A xác định với quan hệ tương đương: IND ( B)  {( x, x ')  U | a  B, a ( x )  a ( x ')} IS IND ( B ) gọi B- quan hệ không phân biệt (B-indiscernibility relation) IS  Nếu ( x, x ')  IND ( B ), đối tượng x x’ khơng phân biệt với IS thuộc tính B  Các lớp tương đương x ứng với B-quan hệ không phân biệt ký hiệu [ x]B Page  10 Một số mở rộng lý thuyết Tập thơ Một số mở rộng mơ hình Tập thơ (8) Several Extentions of Rough Set Model Page  118 Một số mở rộng lý thuyết Tập thô Một số mở rộng mơ hình Tập thơ (9) Several Extentions of Rough Set Model  Định nghĩa: Cho hệ thống thông tin không đầy đủ S=(U,A), phép xấp xỉ xấp xỉ tập hợp X xác định sau: Page  119 Một số mở rộng lý thuyết Tập thơ Một số mở rộng mơ hình Tập thơ (10) Several Extentions of Rough Set Model  Mơ hình tập thô đa hạt (Multi-granulation rough set model) - Do Qian đề xuất năm 2010 - Các tập xấp xỉ tập đích X xây dựng từ quan hệ tương đương  Định nghĩa: Cho hệ thống thông tin đầy đủ S=(U,A) P,QA XU Các tập xấp xỉ dưới, xấp xỉ X xác định sau: Nhận xét: Các tập xấp xỉ X xác định nhiều quan hệ tương đương U Page  120 Một số mở rộng lý thuyết Tập thơ Một số mở rộng mơ hình Tập thơ (11) Several Extentions of Rough Set Model  Định nghĩa: Cho hệ thống thông tin đầy đủ S=(U,A) P1,P2, ,PmA m tập thuộc tính XU Các tập xấp xỉ dưới, xấp xỉ X xác định sau:  Nếu mơ hình tập thô đa hạt xây dựng, so sánh với mô hình tập thơ cổ điển: xấp xỉ nhỏ xấp xỉ lơn Từ quan điểm tạo định đinh tối ưu thực luật  Mơ hình gọi mơ hình tập thơ tối ưu (Optimistic rough set model) dựa mơ hình tập thơ đa hạt Page  121 Một số mở rộng lý thuyết Tập thô Một số mở rộng mơ hình Tập thơ (12) Several Extentions of Rough Set Model  Mơ hình tập thơ đa hạt bi quan (pessimistic multi-granualation rough set theory)  Định nghĩa: Cho hệ thống thông tin đầy đủ S=(U,A) P,QA tập thuộc tính XU Các tập xấp xỉ dưới, xấp xỉ bi quan X xác định sau:  Định nghĩa: Cho hệ thống thông tin đầy đủ S=(U,A) P1,P2, ,PmA m tập thuộc tính XU Các tập xấp xỉ dưới, xấp xỉ bi quan X xác định sau: Page  122 Một số mở rộng lý thuyết Tập thô Một số mở rộng mơ hình Tập thơ (13) Several Extentions of Rough Set Model Nhận xét: Sự khác biệt mô hình tập thơ cổ điển MGRS Miền gạch chéo: tập xấp xỉ X bao gồm hạt đơn PQ, biểu diễn lớp tương đương tập thương U/(PQ) Miền bóng mờ: tập xấp xỉ X suy dẫn hạt P+Q, đăc trưng lớp tương đương thuộc U/P với tập thương U/Q Page  123 Một số mở rộng lý thuyết Tập thô Một số mở rộng mơ hình Tập thơ (14) Several Extentions of Rough Set Model  Mơ hình Tập thơ Lý thuyết Trị chơi (Game-theoretic rough set model) - Trong mơ hình lý thuyết xác suất thô, vùng xác định dương, phủ định vùng biên kết hợp với ba mức độ không chắn định Mức độ không chắn xác định cặp giá trị ngưỡng - Bài toán quan trọng vấn đề việc xác định giá trị tối ưu ngưỡng - Giải pháp: xem xét mối quan hệ thay đổi xác suất ngưỡng tác động chúng đến mức độ khơng chắn vùng - Mơ hình tập hợp lý thuyết trò chơi (GTRS) điều tra khám phá mối quan hệ - Ý tưởng mơ hình: Để tính ngưỡng xác suất với bối cảnh với tập thơ xác suất, mơ hình GTRS sử dụng lý thuyết trò chơi (gametheoretic) Đối với người chơi trò chơi: Mỗi người chơi xây dựng chiến lược xác định ngưỡng nhằm tối đa hố lợi ích Kết hợp chiến lược người chơi để có cặp ngưỡng cần thiết Page  124 Các hướng nghiên cứu & ứng dụng Lý thuyết & ứng dụng tập thô (1) Theory and application on rough set  Các nghiên cứu ứng dụng chính:  Rút gọn tập thuộc tính, Rút trich luật, Xây dựng thuật tốn thơng minh  Rút gọn thuộc tính tốn NP-khó nghiên cứu cách hệ thống  Lý thuyết rút gọn dựa lý thuyết tập thô cung cấp nhiều phương pháp cho Khai phá liệu Tương ứng với lý thuyết entropy (entropy theory), dàn khái niệm (concept lattice), Lý thuyết tập thô thu nhiều thành tựu tương ứng  Hiện nay, nghiên cứu chủ yếu tập trung vào ba khía cạnh: lý thuyết, ứng dụng thuật toán Page  125 Các hướng nghiên cứu & ứng dụng Lý thuyết & ứng dụng tập thô (2) Theory and application on rough set  Nghiên cứu lý thuyết: o Nghiên cứu cấu trúc đại số tập thô dựa đại số trừu tượng o Mô tả không gian xấp xỉ thô topo o Kết hợp lý thuyết tập thô với phương pháp tính tốn mềm khác (with other soft computing methods) hay phương pháp trí tuệ nhân tạo o Mở rông lý thuyết tập thô cổ điển để sinh mơ hình tập thơ: mở rộng quan hệ tương đương thành quan hệ tương tự hay quan hệ nhị phân tổng qt o Các mơ hình tập thơ dựa sở liệu phân tán như: Mô hình tập thơ xác suất, Mơ hình tập thơ lý thuyết định, Mơ hình tập thơ đám mây o Các mơ hình tập thơ đa hạt o Tối ưu tập xấp xỉ Page  126 Các hướng nghiên cứu & ứng dụng Lý thuyết & ứng dụng tập thô (3) Theory and application on rough set  Nghiên cứu ứng dụng: o Ứng dụng tập thô chẩn đốn lỗi • Chẩn đốn y học • Chẩn đốn lỗi cơng nghiệp hệ thống điện • Dự báo & điều khiển • Nhận dạng mẫu & phân lớp o Ứng dụng tập thô xử lý ảnh • Nhận dạng cảm xúc thơng minh • Xử lý ảnh viễn thám • Phân đoạn (segmentation), nâng cấp phân loại hình ảnh Page  127 Các hướng nghiên cứu & ứng dụng Lý thuyết & ứng dụng tập thô (4) Theory and application on rough set  Nghiên cứu ứng dụng: o Ứng dụng tập thơ xử lý liệu lớn (massive data) • Phân tích liệu biểu gen • Phát xâm nhập • Phân tích tình báo o Áp dụng tập thô hệ thống điều khiển thông minh • Gửi thông minh (intelligent dispatching) • Lọc e-mail (E-mail filtering)  Nghiên cứu thuật toán o Các thuật toán heuristic nhằm rút gọn tập thuộc tính rút trích luật • Nghiên cứu dựa tính chất đặc trưng thuộc tính ( Att Significance) • Kết hợp thuật tốn heuristic dựa metric thơng tin • Tích hợp với tính tốn song song Page  128 Các hướng nghiên cứu & ứng dụng Lý thuyết & ứng dụng tập thô (5) Theory and application on rough set  Nghiên cứu ứng dụng: o Kết hợp tập thơ với thuật tốn tính tốn thơng minh • Kết hợp với thuật tốn mạng neuron Là cơng cụ để xử lý liệu cải thiện tốc độ hội tụ mạng neuron • Kết hợp với Support Vector Machine (SVM) • Suy dẫn mơ hình tập thơ từ mơ hình đám mây • Kết hợp với thuật toán di truyền thuật toán tối ưu hóa Page  129 Cám ơn theo dõi Page  130 Một số khái niệm Tập thô Quan hệ tương đương (1) Equivalence Relation Tính phản xạ (Reflexive Property) xX: xRx Tính đối xứng (Symmetric Property) x,yX: xRy  yRx Tính bắc cầu (Transitive Property) x,y,zX: xRy, yRz  xRz Lớp tương đương [x]R = {yX | xRy} Tập thương X/R= {[x] | xX } Ví dụ: Xét quan hệ R tập số nguyên mRn  “m tính chất chẵn lẻ với n” Page  131 z định nghĩa: m,n z, Một số khái niệm Tập thô Quan hệ tương đương 2) Equivalence Relation Tính phản xạ (Reflexive Property) xZ: xRx Tính đối xứng (Symmetric Property) x,yZ: xRy  yRx Tính bắc cầu (Transitive Property) x,y,zZ: xRy, yRz  xRz Lớp tương đương [x]R = {yX | xRy} - Nếu x lẻ: [x] = {2k+1|kZ} - Nếu x chẵn: [x]={2k|kZ} - Tập thương: Z/R = { [1], [2] }  Page  132 ...  2: Một số khái niệm Tập thô  3: Bảng định  4: Cấu trúc Khái niệm Xấp xỉ  5: Lập luận tri thức  6: Một số mở rộng lý thuyết tập thô  7: Các hướng nghiên cứu & ứng dụng Page  Tài liệu tham... T(U,A,C,D), A: Tập tất thuộc tính, C: Tập thuộc tính điều kiện, D: Tập thuộc tính định A=CD, CD=  Các tập thường quan tâm tập có giá trị với tập thuộc tính định Page  12 Một số khái niệm Tập thô Xấp... số khái niệm Tập thô Bốn lớp Tập thô Four Basic Classes of Rough Sets  Mệnh đề: a Tập X B-xác định thô (roughly B-definable hay B- khơng xác định hồn tồn- totally B-undefinable ), tập bù –X có