Phát triển phương pháp luận trích rút hệ luật ngôn ngữ mờ giải bài toán phân lớp, hồi quy dựa trên đại số gia tử

BỘGIÁODỤCVÀĐÀOTẠO BỘQUỐCPHỊNG VIỆNKHOAHỌCVÀCƠNGNGHỆQNSỰ NGUYỄNĐỨCDƯ PHÁTTRIỂNPHƯƠNGPHÁPLUẬNTRÍCHRÚT HỆLUẬTNGƠNNGỮMỜGIẢIBÀITỐNPHÂNLỚP,HỒIQUY DỰA TRÊN ĐẠI SỐ GIA TỬ LUẬNÁNTIẾNSĨTỐNHỌC HàNội –2022 BỘGIÁODỤCVÀĐÀOTẠO 3393333 BỘQUỐCPHỊNG VIỆNKHOAHỌCVÀCƠNGNGHỆQNSỰ NGUYỄNĐỨCDƯ PHÁTTRIỂNPHƯƠNGPHÁPLUẬNTRÍCHRÚT HỆLUẬTNGƠNNGỮMỜGIẢIBÀITỐNPHÂNLỚP,HỒIQUY DỰA TRÊN ĐẠI SỐ GIA TỬ Chunngành:Cơsởtốnhọcchotinhọc Mã số: 9.46.01.10 LUẬNÁNTIẾNSĨTOÁNHỌC NGƯỜIHƯỚNGDẪNKHOAHỌC: PGS.TSKH.NGUYỄNCÁTHỒ TS.NGUYỄNĐỨCTHẢO HàNội –2022 LỜICAMĐOAN Tơicamđoanđâylàcơngtrìnhnghiêncứucủariêngtơi.Cáckếtquảnghiêncứu số liệu trình bày luận án trung thực, chưa công bố cơng trình khác, liệu tham khảo trích dẫn đầy đủ HàNội,ngày4tháng1năm2022 Tácgiảluậnán NguyễnĐứcDư LỜICẢMƠN NCSxinbàytỏlòngbiếtơnsâusắctớicácthầyPGS.TSKH.NguyễnCátHồvà TS Nguyễn Đức Thảo trực tiếp bảo tận tình hướng dẫn NCS hồn thành luận án NCS xin gửi lời cảm ơn đặc biệt tới TS Hồng Văn Thơng, TS Phạm ĐìnhPhongvàcácthànhviêntrongnhómnghiêncứuĐạisốgiatửđãlnbêncạnh động viên có nhiều hỗ trợ q trình nghiên cứu NCStrântrọngcảmơnThủtrưởngViệnKH-CNqnsự;Thủtrưởngvàcánbộ, nhânviênPhịngĐàotạo,ViệnKH-CNqnsự;Thủtrưởng,cácthầy,cácnhànghiên cứu thuộc Viện Cơng nghệ thơng tin, Viện KH-CN quân tận tình giảng dạy, hướngdẫntạođiềukiệntrongsuốtquá trìnhhọctập,nghiêncứuvàhồnthànhluậnán NCStrântrọngcảmơnBanGiámhiệuTrườngĐạihọcGiaothơngvậntải,Khoa Cơng nghệ thơng tin, đơn vị chức Trường, đồng nghiệp ln tạođiềukiệntrongsuốtthờigianvừaquađểtơicóthểhồnthànhcácnhiệmvụcơng tác nghiên cứu Cảm ơn gia đình, người thân, bạn bè bên cạnh, động viên, hỗ trợ NCS mặt sống Tácgiảluậnán NguyễnĐứcDư MỤCLỤC Trang DANHMỤCCÁCKÝHIỆU,CÁCCHỮVIẾTTẮT vi DANHMỤCCÁCBẢNG ix DANHMỤCCÁCHÌNHVẼ xi MỞĐẦU Chương1:TỔNGQUANVỀTRÍCHRÚTHỆLUẬTNGƠNNGỮMỜGIẢIBÀITỐN HỒIQUYVÀBÀITỐNPHÂNLỚPDỰATRÊNĐẠISỐGIATỬ 1.1 Mộtsốkháiniệmcơbản 1.1.1 Tậpmờ 1.1.2 Biếnngônngữ 1.1.3 Phânhoạchmờ 1.1.4 Khungnhậnthứcngônngữ 1.2 Đạisốgiatử 1.2.1 Miềngiátrịcủabiếnngônngữlàcấutrúcđạisố 1.2.2 MộtsốtínhchấtcơbảncủaĐạisốgiatử 1.2.3 ĐịnhlượngĐạisốgiatử 10 1.2.4 Hệkhoảngtươngtự 12 1.2.5 Đạisốgiatửmởrộng .13 1.3 Hệmờdựatrênluật 19 1.3.1 Cácthànhphầncủahệmờ 19 1.3.2 CácmụctiêukhixâydựngFRBS .22 1.4 Tổngquanvềgiảibàitoánphânlớp,hồiquydựatrênhệluậtmờ .25 1.4.1 Bàitoánphânlớp 25 1.4.2 Bàitoánhồiquy 26 1.4.3 Cáchướngtiếpcậngiảibàitoánphânlớp,hồiquybằnghệluậtmờ .26 1.4.4 PhươngphápsinhluậtdựatrêndữliệuvàĐSGT 29 1.5 Nhữngvấnđềcòntồntạivàhướngnghiêncứu 33 1.5.1 Nhữngvấnđềtồntạicủalýthuyếttậpmờ 34 1.5.2 HướngtiếpcậnĐạisốgiatửvànhữngvấnđềcòntồntại .34 1.5.3 Đềxuấthướngnghiêncứu 37 1.6 Kếtluậnchương1 37 Chương2:PHÁTTRIỂNTHUẬTTỐNNÂNGCAOĐỘCHÍNHXÁC 38 CỦACÁCHỆPHÂNLỚPVÀHỒIQUYDỰATRÊNĐẠISỐGIATỬ 38 2.1 Thiếtkếngữnghĩatínhtốncủacáctừcủabiếnngơnngữvàứngdụng 38 2.1.1 ThiếtkếngữnghĩatínhtốncủacáctừngơnngữdựatrênhàmS 38 2.1.2 Ứngdụngt hiếtkếphânhoạchmờdựatrênhàmSgiảibàitoánhồiquy 42 2.1.3 ỨngdụngthiếtkếphânhoạchmờdựatrênhàmSgiảibàitoánphânlớp 51 2.2 Pháttriểnthuậttoánsinhluậtdựatrêncâyquyếtđịnhxâydựnghệluậtmờgiảibàitoá nhồiquy 57 2.2.1 Thuậttoánxâydựngcâyquyếtđịnh 58 2.2.2 Thuậttoánsinhhệluậtứngcửtừcâyquyếtđịnh .59 2.2.3 XâydựngFRBSgiảibàitoánhồiquy 60 2.2.4 Thựcnghiệmvàđánhgiá 65 2.3 Nângcaođộchínhxáccủahệphânlớpdựatrênluậtmờbằngthuậttốnđồngtốiưu 68 2.3.1 ThuậttốnđồngtốiưuPSOchohệphânlớpdựatrênluậtmờ 68 2.3.2 Thựcnghiệmvàthảoluận 74 2.4 Kếtluậnchương2 77 Chương 3:PHÁT TRIỂN THUẬT TỐN THIẾT KẾ HỆ LUẬT NGƠNNGỮMỜGIẢINGHĨAĐƯỢCVÀCĨKHẢNĂNGMỞRỘNG 78 GIẢIBÀITỐNHỒIQUYDỰATRÊNĐẠISỐGIATỬ 78 3.1 Biểudiễnngữnghĩatậpmờgiảinghĩađượccủatậptừngônngữ .80 3.1.1 Kháiniệmtínhgiảinghĩađượccủamộtcấutrúctốnhọctrongcấutrúckhác 80 3.1.2 Biểudiễntậpmờhìnhthangcủacáctừcủamiềntừcủabiếnngơnngữvàtínhgiảinghĩađược củachúng 81 3.2 KhảnăngmởrộngcủaLFoCvàcấutrúctr-MGrcủabiến .87 3.2.1 KháiniệmkhảnăngmởrộngcủaLFoC .87 3.2.2 KhảnăngmởrộngcủaLFoC 87 3.2.3 Khảnăngmởrộngcủacáccấutrúctr-MGrcủaLFoC .90 3.3 PháttriểnthuậttoánthiếtkếLRBSgiảinghĩađượcvàmởrộngđượcgiảibàitoánhồiq uy 93 3.3.1 CácnhiệmvụchínhcủathuậttốnAthiếtkếIS-LRBS .94 3.3.2 ThuậttốntiếnhóađamụctiêuthiếtkếcácIS-LRBS 97 3.4 Nghiêncứuthựcnghiệmvàthảoluận 101 3.4.1 Càiđặtthựcnghiệm 101 3.4.2 Cácthựcnghiệm 102 3.5 Kếtluậnchương3 .113 KẾTLUẬN .114 DANHMỤCCÁCCƠNGTRÌNHKHOAHỌCĐÃCƠNGBỐ 116 TÀILIỆUTHAMKHẢO 117 PHỤLỤC:CÁCTẬPDỮLIỆUTHỰCNGHIỆM P.1 PL1.Cáctậpdữliệuthựcnghiệmchobàitoánhồiquy P.1 PL2.Cáctậpdữliệuthựcnghiệmchobàitốnphânlớp P.5 DANHMỤCCÁCKÝHIỆU,CÁCCHỮVIẾTTẮT A Biếnngơnngữ(thuộctínhngơnngữ) 𝓐𝐴 ĐạisốgiatửtuyếntínhcủabiếnngơnngữA 𝐴 𝓐𝑒𝑛 Đạisốgiatử mởrộngcủabiếnngơnngữA A MộtthuậttốntiếnhóađamụctiêuIS-LRBS-Design-MOEA 𝔅𝐴 CấutrúcbụingữnghĩacủabiếnngơnngữA 𝐹𝐴 𝐴 𝐹(𝑘 KhungnhậnthứcngơnngữcủabiếnA KhungnhậnthứcngơnngữcủabiếnAvớimứcđặctảk fm(x) Độđotínhmờcủax H Tậpcácgiatử |H| SốlượnggiatửtrongH Hen Tậpcácgiatửmởrộng(bổsungthêmgiatửh0) H+ Tậpcácgiatửdương H- Tậpcácgiatửâm H(x) Tậpcáctừđượcsinhratừxbởitácđộngcủacácgiatử ) 𝑀𝐺𝐴 CấutrúcđathểhìnhthangcủabiếnA 𝐴 𝑀𝐺𝑟, CấutrúcđathểhìnhthangcủabiếnAvớimứcđặctảk ℙ MặtParetocácLRBSđượcthiếtkếbằngthuậttốnMOEA SA 𝑺𝐴 CấutrúcngữnghĩacủamiềntừngơnngữXAcủabiếnA k-sectioncủa𝔅𝐴củacấutrúcngữnghĩa𝒮A 𝕊(𝑘) Khoảngtươngtựmứck S(kj) TậpcáckhoảngmờtươngtựcủaAj (x) Khoảngtínhmờcủax k(x) Khoảngtínhmờmứckcủax XA TậpcáctừngơnngữcủabiếnngơnngữA 𝜿 𝐴 𝑋𝑒𝑛 𝑘 TậpcáctừngơnngữcủabiếnngơnngữAtrongđạisốgiatửmởrộng 𝑋𝑘𝐴 TậpcáccáctừcóđộdàiđúngbằngkcủabiếnA 𝐴 𝑋(𝑘) TậpcáctừcóđộdàinhỏhơnhoặcbằngkcủabiếnA |x| Độdàicủatừx v(x) ÁnhxạđịnhlượngngữnghĩacủabiếnngơnngữA (h) Độđotínhmờcủagiatửh AI Trítuệnhântạo(ArtificialIntelligence)Comp Độ phức tạp (Complexity) DB Cơ sở liệu (Database)ĐSGT Đạisốgiatử(HedgeAlgebra) FRBC Hệ phân lớp dựa luật mờ (Fuzzy rule-based classifier)FRBS Hệdựatrênluậtmờ,Hệluậtmờ(Fuzzyrule-basedsystem)HA Đại số gia tử (Hedge Algebra) enHA Đạisốgiatửmởrộng(EnlargeHedgeAlgebra) IVQM Ánhxạngữnghĩađịnhlượnggiátrịkhoảng(Interval-valued Quantifying Mapping) IS Giảin g h ĩ a đ ợ c v c ó k h ả n ă n g m r ộ n g ( I n t e r p r e t a b l e & Scalable) KB Cơsởtrithức(Knowledgebase) LR Luậtngônngữ(Linguisticrule) LRB Cơsởluậtngônngữ(Linguisticrule-based) LRBS Hệluậtmờngônngữ(Linguisticrule-basedsystem) LFoC Khungnhậnthứcngônngữ(Linguisticframesofcognition)MG/ MGr Đa thể hạt (Multi Granularity) MOGA Thuậtt o n d i t r u y ề n đ a m ụ c t i ê u ( M u l t i O b j e c t G e n e t i c Algorithm) MOEA Thuậttốntiếnhóađamụctiêu(MultiObjectiveEvolutionaryAlgorithm) MOO Tốiưuđamụctiêu(Multi-objectiveoptimization) MOPSO Tốiưubầyđànđamụctiêu(Multi-objectiveparticleswarmoptimization) MSE Saisốbìnhphươngtrungbình(MeanSquareError) NPGA-II ThuậttốnditruyềnsắpxếpkhơngtrộiII(TheNondominated Sorting Genetic Algorithm II) PAES ChiếnlượctiếnhóalưutrữPareto(Paretoarchivedevolution strategy) PSO Tốiưubầyđàn(Particleswarmoptimization) RCS Lựachọnluậtvàđiềukiệnluật(Ruleandconditionselection)RB Cơ sở luật (Rule Base) SPEA2 Thuật tốn tiến hóa Pareto mạnh (Strength ParetoEvolutionary Algorithm 2) SQM Ánhx đ ị n h l ợ n g n g ữ n g h ĩ a ( S e m a n t i c a l l y Q u a n t i f y i n g Mapping) SWR Luậtthắngđơn(Singlewinnerrule)Tg/ Tri Tam giác (Triangle) Tr/Tz Hìnhthang(Trapezoid) WV Bầucửcótrọngsố(Weightedvote)