(Luận án) Nghiên cứu ngữ nghĩa tính toán của từ ngôn ngữ và ứng dụng vào việc xây dựng hệ mờ tối ưu dựa trên luật

BỘGIÁODỤCVÀĐÀOTẠO 49 VIỆN HÀN LÂM KHOA HỌC VÀCÔNGNGHỆVIỆTNAM HỌCVIỆNKHOAHỌCVÀCÔNGNGHỆ r HỒNGVĂNTHƠNG NGHIÊNCỨUNGỮNGHĨATÍNHTỐNCỦA TỪNGƠNNGỮVÀỨNGDỤNGVÀOVIỆCXÂYDỰN GHỆMỜTỐIƯUDỰATRÊNLUẬT Chunngành:CƠSỞTỐNHỌCCHOTINHỌCMãsố: 62.46.01.10 LUẬNÁNTIẾNSĨTỐNHỌC NGƯỜIHƯỚNGDẪNKHOAHỌC: PGS.TSKH.NGUYỄNCÁTHỒ PGS.TS.NGUYỄNVĂNLONG HÀNỘI-2016 LỜICAMĐ O A N Tôi xin cam đoan cơng trình nghiên cứu riêng Các kết quảđược viết chung với tác giả khác đồng ý đồng tác giả trướckhi đưa vào luận án Các kết trongluận án trung thực chưa đượccơngbốtrongbấtkỳcơngtrìnhnàokhác Tácgiả HồngVănThơng LỜICẢMƠ N Luận án hoàn thành hướng dẫn tận tình PGS.TSKH.Nguyễn Cát Hồ PGS.TS Nguyễn Văn Long Lời đầu tiên, tác giả xin bày tỏlịngkínhtrọngvàbiếtơnsâusắcnhất tớihai thầy Tác giả xingửi lời cảm ơn chân thành đến Ban lãnh đạo Học viện Khoa họcvà Công nghệ, Viện Công nghệ thông tin, Khoa công nghệ thông tin truyềnthơng,PhịngCáchệchungiavàtínhtốnmềmđãtạođiềukiệnthuậnlợitrongqtr ìnhhọctập,nghiêncứuvàhồnthànhluậnán Xin cảm ơn Ban giám hiệu Trường Đại học Giao thông Vận tải, Ban chủnhiệm khoa Công nghệ thơng, Bộ mơn Khoa học máy tính quan tâm giúp đỡ,tạođiều kiện tốtnhấttrongcơngviệcđể tácgiảcóthờigiantậptrungnghiêncứu CảmơncácanhchịPhịngCáchệchungiavàtínhtốnmềm-ViệnCơngnghệthơngtin,các đồng nghiệp thuộc Khoa Cơng nghệ thơng tin – Trường ĐạihọcGiaothơngVậntải,cácanhchịtrongnhómnghiêncứuđạisốgiatửđãkhíchlệ, động viên, trao đổinhững kiến thức kinh nghiệm trình hoàn thànhluậnán Cuối cùng, tác giả xin chân thành cảmơn Bố mẹ, anh chị em đặc biệt làvợvàcáccon,nhữngngườilndànhchotácgiảnhữngtìnhcảmvàchiasẻnhững lúc khó khăn sống, ln động viên giúp đỡ tác giả qtrìnhnghiêncứu.Luậnánnàylàmónqtinhthầnmàtácgiảtrântrọnggửitặngđếncácth ànhviêntronggiađình MỤCLỤC LỜICAMĐOAN i LỜICẢMƠN .ii MỤCLỤC iii DANHMỤCCÁCBẢNGBIỂU viii DANHMỤCCÁCHÌNHVẼ x MỞĐẦU CHƯƠNG1.MỘTSỐKIẾNTHỨCCƠSỞ 1.1 Mộtsốkiếnthứccơbảnvềlýthuyếttậpmờ .9 1.1.1 Địnhnghĩatậpmờ 1.1.2 Xâydựnghàmthuộc 10 1.1.3 Biếnngônngữ 10 1.1.4 Phânhoạchmờ 11 1.2 Mộtsốkiếnthứcvềđạisốgiatử 12 1.2.1 Kháiniệmđạisốgiatử 13 1.2.2 Mộtsốtínhchất củađạisốgiatửtuyếntính 14 1.2.3 Độđotínhmờcủacácgiátrị ngơnngữ 14 1.2.4 Địnhlượngngữnghĩacủagiátrịngônngữ 16 1.2.5 Khoảngtínhmờ 18 1.2.6 Hệkhoảngtươngtự 19 1.3 Hệmờdựatrênluật 20 1.3.1 Cácthànhphầncủahệmờ 20 1.3.2 CácmụctiêukhixâydựngFRBS 23 1.4 Kếtluậnchương1 .26 CHƯƠNG2.P H Á T T R I Ể N CÁCT H U Ậ T T O Á N XÂYDỰNGC Á C L R B S GIẢIBÀITOÁNPHÂNLỚP,HỒIQUY 28 2.1 Pháttriểnthuậttoángiảibàitoánphânlớp .28 2.1.1 Bàitoánphânlớpvàcácphươngphápgiải .28 2.1.2ThuậttoánOPHA-SGERD 32 2.1.3.Kếtquảthửnghiệm 43 2.2 Pháttriển thuậttoán giảibàitoán hồiquy 47 2.2.1 Bàitoánhồiquyvàphươngphápgiải 47 2.2.2 Thuật toánHA-PAES-SG 50 2.2.3 ThuậttoánHA-PAES-MG 65 2.3 Kếtluậnchương2 .71 CHƯƠNG3.TÍNHGIẢINGHĨAĐƯỢCCỦACÁCKHUNGN H Ậ N THỨCNGƠ NNGỮVÀBIỂUDIỄNNGỮNGHĨATÍNHTỐNCỦACHÚNG 74 3.1 Vấn đềtính giảinghĩađượccủaFRBS .74 3.2 Kháiniệmkhungnhậnthứcvàkhungnhậnthứcngônngữ 75 3.2.1 Khungnhậnthứcvàtínhgiảinghĩađượccủanó 75 3.2.2 Khungnhậnthứcngơnngữ 77 3.3 ĐềxuấtcácràngbuộctínhgiảinghĩađượctrêncácLFoC .80 3.3.1 Ràngbuộcngữnghĩa vốncó từ .80 3.3.2 Ràngbuộcphươngphápxácđịnhngữ nghĩatínhtốncủatừ 82 3.3.3 Ràngbuộcngữnghĩakhoảngcủatừ .83 3.3.4 Ràngbuộcngữnghĩathứtựcủatừ 85 3.4 Biểudiễnngữ nghĩatínhtốndựatrêntậpmờcủacáctừ trongLFoC 87 3.4.1 Biểudiễnđơnthểhạt củaLFoC 88 3.4.2 Biểudiễnđathểhạt củaLFoC .91 3.5 Phát triểnthuật tốnxâydựngLRBSgiảibàitốnhồiquy .97 3.5.1 Thiết kếngữnghĩatínhtốn(phânhoạchmờ) .97 3.5.2 Mãhóacáccáthể 98 3.5.3 Thuậttốntiếnhóa .99 3.5.4 Kếtquảthửnghiệm 99 3.6 Kếtluậnchương3 105 KẾTLUẬNCỦALUẬNÁN 107 CÁCCƠNGTRÌNHKHOAHỌCCỦATÁCGIẢ .111 LIÊNQUANĐẾNLUẬNÁN 111 TÀILIỆUTHAMKHẢO 112 PHỤLỤC 118 DANHMỤCCÁCKÝHIỆUVÀTỪVIẾTTẮT Cáckýhiệu: AX Đạisốgiatửtuyếntính AX* Đạisốgiatửtuyếntínhđầyđủ (h) Độđotínhmờcủagiatửh fm(x) Độđotínhmờcủa hạngtừx 𝔳𝔛 Hàmđịnhlượngngữnghĩacủatừngơnngữcủabiến𝔛 A(x) HàmxácđịnhđộthuộccủagiátrịxvàotậpmờAl(x) Độdàicủatừngơnngữx fm Khoảngtínhmờcủagiátrịngơnngữ Xk Tậpcáchạng từcóđộdàiđúngbằngk X(k) Tậptấtcảcáchạng từcóđộdàik Ik Hệkhoảngtínhmờmứckcủacácgiátrịngơnngữ I(k) Hệkhoảngtínhmờtừmức1đếnmứckcủacácgiátrịngơnngữ Comp Độphứctạpcủahệluật MSE Saisốbìnhphươngtrungbình Cáctừviếttắt: DB Database ĐSGT Đạisốgiatử FoC FrameofCognition FRBS FuzzyRule-basedSystem FRB FuzzyRuleBase RB RuleBase HA-PAES-MG MultiGranularity HedgeAlgebra- ParetoArchiveEvolutionStrategy– HA-PAES-SG SingleG r a n u l a r i t y HedgeAlgebra-ParetoArchiveEvolutionStrategy– KB KnowledgeBase LRBS LinguisticRule-basedSystem LRB LinguisticRuleBase LFoC LinguisticFrameof Cognition MF MembershipFunction M-PAES Modify- ParetoArchiveEvolutionStrategyPAES ParetoArchive EvolutionStrategy PAES(I) Pareto ArchiveEvolutionStrategy (Interpretability)PAES(C) Pareto Archive EvolutionStrategy(Complexity)PSO ParticleSwarmOptimization SGERD Steady-State Genetic Algorithm for Extracting FuzzyClassificationRulesFr om Data SPEA StrengthParetoEvolutionaryAlgorithmSQM SemanticallyQ u a n t i f y i n g M a p p i n g DANHMỤCCÁCBẢNGBIỂU Bảng2.1Cáctậpdữ liệudùngđểthử nghiệm 45 Bảng2.2CácgiátrịcủaNrmaxtrongquátrìnhtốiưuhệluật 45 Bảng2.3S o sánhkếtquảthửn g h i ệ m thuậttoánOPHASGERDvàthuậtt o n SGERDvớitiêu chuẩn(2.3) 45 Bảng2.4S o sánhkếtquảthửn g h i ệ m thuậttoánOPHASGERDvàthuậtt o n SGERDvớitiêu chuẩn(2.4) 45 Bảng2.5S o sánhkếtquảthửnghiệmthuậttoánOPHA-SGERDvới tiêuchuẩn(2.5) vàthuậttoánSGERDvớitiêuchuẩn(2.4) 46 Bảng2.6SosánhkếtquảthửnghiệmthuậttoánOPHA-SGERDvớibatiểuchuẩn(2.3),(2.4), (2.5) 46 Bảng2.7Cáctậpdữliệuđượcsửdụngthửnghiệmtrong[14] 62 Bảng2.8Cácthamsốthử nghiệm 62 Bảng2.9SosánhkếtquảthửnghiệmthuậttoánHA-PAES-SGvớicácthuậttoán(2+2)MPAES(I)và(2+2)M-PAES(C)trong[14]tạiđiểmFIRST 63 Bảng2.10Cáctậpdữliệuđượcsửdụngthửnghiệmtrong[10] 68 Bảng2.11KếtquảtrungbìnhđạtđượcbởiHA-PAES-MG(MG),HA-PAESSG(SG)vàPAESKB(KB)tạiđiểmFIRST 69 Bảng2.12Sosánhđộphứctạp(Comp)củahệluậtbằngphươngphápkiểmđịnhgiảthuyếtW ilcoxon-testvớimứcα=0.05tạibađiểmđạidiện .71 Bảng 2.13 So sánh sai số bình phương trung bình tập kiểm tra (MSE ts) bằngphươngphápkiểmđịnhgiảthuyếtWilcoxon-testvớimứcα=0.05tạibađiểmđạidiện 71 Bảng3.1Cácgiátrị𝖛𝖃củacáctừcủaX(2) 89 Bảng3 K ế t quảtrungbìnhđ t đượcb i HA-PAES-MG-KmaxvàH A - P A E S SG-KmaxtạiđiểmFIRST .100 Bảng 3.3So sánh độ phức tạp (Comp) hệ luật phương pháp kiểm địnhgiảthuyếtWilcoxon-test vớimứcα=0.05tạibađiểmđạidiện 101 Bảng3.4SosánhMSEtstrêntậpkiểmtrabằngphươngphápkiểmđịnhgiảthuyếtWilcoxontestvớimứcα=0.05tạibađiểmđạidiện 101 Bảng3 K ế t q u ả t r u n g b ì n h đ t đ ợ c b i H A - P AE S - M G Kmax( Kmax),H A - PAES-MG-Kopt(Kopt)vàPAESKB(KB)tạiđiểmFIRST 103 Bảng3.6Sosánhđộphứctạpcủahệ luật(Comp) bằngphươngphápkiểmđịnhgiảthuyết Wilcoxon-test vớimứcα=0.05tạibađiểmđạidiện .105 Bảng3.7SosánhMSEtstrêntậpkiểmtrabằngphươngphápkiểmđịnhgiảthuyếtWilcoxontestvớimứcα=0.05tạib a điểmđạidiện 105 BảngA.1S o s n h kếtquả thửnghiệmthuậttoán HA-PAESSGv i cáct h u ậ t toán(2+2)M-PAES(I)và(2+2)MPAES(C)trong[14]tạiđiểmMEDIAN 118 BảngA.2S o s n h kếtquả thửnghiệmthuậttoán HA-PAESSGv i cáct h u ậ t toán(2+2)M-PAES(I)và(2+2)M-PAES(C)trong[14]tạiđiểmLAST 118 BảngA.3Kếtquảtrungbìnhđạt đượcbởiHA-PAES-MG(MG),HA-PAESSG(SG)vàPAESKB(KB)tạiđiểmMEDIAN 119 BảngA.4Kếtquả trungbìnhđạtđượcbởiHA-PAES-MG(MG),HAPAESSG(SG)vàPAESKB(KB)tạiđiểmLAST .119 BảngA.5K ế t quảtrungbìnhđạtđượcbởi HA-PAES-MG-KmaxvàHA-PAESSG-KmaxtạiđiểmMEDIAN 119 BảngA.6K ế t quảtrungbìnhđạtđượcbởi HA-PAES-MG-KmaxvàHA-PAESSG-KmaxtạiđiểmLAST .120 BảngA K ế t q u ả t r u n g b ì n h đạtđ ợ c b i HA- PAE S- MGKmax( Kmax),H A - PAES-MG-Kopt(Kopt)vàPAESKB(KB)tạiđiểmMEDIAN .120 BảngA K ế t q u ả t r u n g b ì n h đạtđ ợ c b i HA- PAE S- MGKmax( Kmax),H A - PAES-MG-Kopt(Kopt)vàPAESKB(KB)tạiđiểmLAST 120