Các hệ thống dựa trên tri thức

HỌC VIỆN CƠNG NGHỆ BƯU CHÍNH VIỄN THƠNG  KHOA CÔNG NGHỆ THÔNG TIN BÀI GIẢNG IT CÁC HỆ THỐNG PT DỰA TRÊN TRI THỨC NGUYỄN QUANG HOAN HàNội 2017 MỤC LỤC BẢNG KÝ HIỆU VIẾT TẮT/GIẢI NGHĨA LỜI NÓI ĐẦU CHƯƠNG 1: CƠ BẢN VỀ HỆ THỐNG DỰA TRÊN TRI THỨC 1.1 Khái niệm tri thức 1.2 Biểu diễn tri thức 1.2.1 Mô tả tri thức mạng ngữ nghĩa 10 1.2.2 Các vấn đề mạng tính toán 11 1.2.3 Ví dụ minh họa mạng tính toán Thuật toán vết dầu loang 11 Mục đích xây dựng hệ thống dựa tri thức 14 1.4 Các thành phần hệ thống dựa tri thức 15 1.5 Phân loại hệ thống dựa tri thức 15 1.6 Các khó khăn xây dựng hệ thống dựa tri thức 16 PT IT 1.3 1.6.1 Xây dựng hệ dựa tri thức 16 1.6.2 Đặc tính tri thức 16 1.6.3 Độ lớn sở tri thức 17 1.6.4 Thu thập tri thức 17 1.6.5 Học chậm phân tích 17 1.7 Lập trình thơng minh 17 1.8 Các ngôn ngữ, công cụ sử dụng cho hệ sở tri thức 17 CHƯƠNG 2: 19 CÁC HỆ THỐNG TRI THỨC DỰA TRÊN XÁC SUẤT 19 2.1 Thuật toán độ hỗn loạn 19 2.1.2 Thuật toán độ lộn xộn 20 2.2 Thuật toán Bayes 22 2.2.1 Định lý Bayes 22 2.2.2 Bài toán thuật toán Bayes đơn giản 22 CHƯƠNG 3: 26 HỆ MỜ 26 3.1 Tập mờ 27 3.2 Các khái niệm liên quan đến tập mờ 28 3.3 Hàm thuộc (hàm thành viên) 30 3.4 Hệ mờ gì? 31 3.5 Các phép tính mờ 32 3.6 Mờ hóa 33 3.7 Giải mờ 34 CHƯƠNG 4: 41 MẠNG NƠ-RON NHÂN TẠO 41 4.1 Nguồn gốc mạng nơ ron 41 IT 4.1.1 Quá trình phát triển nghiên cứu mạng nơ ron 41 4.1.2 Mơ hình tổng quát nơ ron sinh vật 42 4.2 Mơ hình mạng nơ ron nhân tạo luật học 44 PT 4.2.1 Mơ hình tổng quát nơ ron nhân tạo 44 4.2.2 Mạng nơ ron nhân tạo 46 4.3 Các mạng truyền thẳng 50 4.3.1 Mạng lớp truyền thẳng - Mạng Perceptron 50 4.3.2 Mạng nơ ron Adaline (Adaptive Linear Element) 52 4.3.3 Mạng nhiều lớp lan truyền ngược (Back Propagation) 53 4.4 Các mạng phản hồi 55 4.4.1 Mạng Hopfield rời rạc 56 4.4.2 Mơ hình mạng Hopfield liên tục chuẩn 57 4.4.3 4.5 Mạng liên kết hai chiều 61 Mạng nơ ron tự tổ chức 67 4.5.1 Mơ hình cấu trúc mạng Kohonen 67 4.5.2 Học ganh đua 69 4.5.3 Thuật toán SOM 71 4.5.4 SOM với toán phân cụm 74 CHƯƠNG 5: 78 GIẢI THUẬT DI TRUYỀN 78 5.1 Khái niệm giải thuật di truyền 78 5.2 Các toán tử giải thuật di truyền 79 5.3 Giải thuật di truyền 80 5.4 Ví dụ giải thuật di truyền 84 CHƯƠNG 6: 92 CÁC HỆ CƠ SỞ TRI THỨC LAI 92 Đặc tính hệ tính tốn mềm 92 6.2 Hệ lai nơ ron mờ 95 6.3 Biểu diễn luật If-Then theo cấu trúc mạng nơ ron 97 6.4 Nơ ron mờ 98 6.5 Huấn luyện mạng nơ ron mờ 100 6.6 Phân loại kết hợp mạng nơ ron và logic mờ 102 6.7 Hệ lai tiến hóa mờ 107 6.8 Hệ lai tiến hóa nơ ron 113 PT IT 6.1 BẢNG KÝ HIỆU VIẾT TẮT/GIẢI NGHĨA VIẾT TẮT/ TÊN RIÊNG NGHĨA THEO TIẾNG ANH Adaptive Linear Element A/D AI ANFIS Analog to Digital Conveter Artificial Intelligence Adaptive Neuro Fuzzy Inference System Bidirectional Associative Memory Best Matching Unit Boltzmann Content Addressable Memory Computer-Based Information Systems Genetic Algorithm BAM GA CLIPS Hopfield Bộ nhớ liên kết hai chiều: tên mạng nơ ron hồi quy hai lớp (Roselblatt) Đơn vị (nơ ron) khớp tốt Mạng nơ ron lấy tên Boltzmann Bộ nhớ nội dung địa hố Hệ thống thơng tin dựa máy tính Giải thuật di truyền C Language Integrated Hệ thống sản xuất (nhân quả) tích hợp theo ngôn ngữ C Production System PT BMU Boltzmann CAM CBIS Phần tử (nơ ron) tuyến tính thích nghi, tên mạng nơ ron Widrow đề xuất năm 1960 Bộ chuyển đổi tương tự/số Trí tuệ nhân tạo Hệ thống nơ ron-mờ thích nghi IT ADALINE DỊCH RA TIẾNG VIỆT/GIẢI NGHĨA Hopfield KBS LMS NFS NST MISO OAV Perceptron Knowledge Base System Least Mean Square Neuro-Fuzzy Systems (Chromosome) Multi Input Single Output Object Atribute Value Perceptron VLSI RBF SISO SVM Very Large Scale Integration Radian Basic Function Single Input Single Output Support Vector Machine Tên mạng nơ ron truy hồi (mạng rời rạc, 1982; liên tục, 1984) Hopfield đề xuất Hệ thống dự tri thức Trung bình bình phương nhỏ nhất: Các hệ thống nơ ron-mờ Nhiễm sắc thể Hệ thống nhiều đầu vào đầu Giá trị thuộc tính đối tượng Bộ cảm nhận: tên mạng nơ ron truyền thẳng Rosenblatt đề xuất năm 1960 Mạch tích hợp mật độ cao Hàm xuyên tâm Hệ thống đầu vào đầu Máy vec tơ hỗ trợ LỜI NĨI ĐẦU Giáo trình “Các hệ thống dựa tri thức” là hệ thống chuyên ngành Hệ thống Thơng tin Giáo trình này là hệ thống ứng dụng cụ thể và mở rộng lĩnh vực Trí tuệ Nhân tạo Nói cách khác, hệ thống dựa trí thức xây dựng dựa nguyên lý nào trí tuệ nhân tạo để xây dựng hệ thống ứng dụng riêng Các hệ thống dựa tri thức có nguồn gốc xuất xứ từ số hệ thống hệ chuyên gia Hệ thống sử dụng tính toán mềm là hệ gần gũi với hệ thông dựa tri thức chủ yếu gồm hệ mờ, mạng nơ ron, giải tḥt di truyền và lập trình tiến hóa, hệ thống dựa theo xác suất Hệ thống dựa theo trí thức có quy mơ rộng miễn là tri thức PT IT Giáo trình gồm sáu chương Chương mang tính giới thiệu, cho số khái niệm bản, phân loại hệ dựa tri thức, số công cụ hỗ trợ thực hệ thống dựa tri thức Những khái niệm giới thiệu trí tuệ nhân tạo, để tránh trùng lặp, giáo trình khơng nhắc lại nhiều Chương hai, giới thiệu tḥt tốn mang tính xác suất điển hình Một số hệ thống khác có tính xác suất hệ mờ, sử dụng nhiều nguyên tắc khác tập hợp, logic, tính toán mờ tách thành hệ riêng Chương ba là hệ mờ, chủ yếu trình bày có tính hệ thống và quy trình hướng tới giải bài tốn, khơng q sâu lý thút Chương bốn đề cập tới mạng nơ ron gồm cấu trúc và luật học và vài ứng dụng mạng nơ ron cụ thể Chương năm giới thiệu thuyết tiến hóa và giải thuật di truyền Chương sáu nêu số hệ lai hệ mờ với nơ ron, mờ với hệ tiến hóa, hệ tiến hóa với mạng nơ ron Một số hệ thống khác hệ thống dựa theo trí thức không giới thiệu khn khổ giáo trình có hạn Những vấn đề hệ thống dựa trí thức là tiên tiến và tiến trình phát triển, hoàn thiện Nhiều quan điểm phân loại hay định nghĩa cịn bàn ḷn Do vậy, giáo trình khơng tránh khỏi thiếu sót chưa đủ cập nhật Mong đóng góp từ tất bạn đồng nghiệp và độc giả CHỦ BIÊN CHƯƠNG 1: CƠ BẢN VỀ HỆ THỐNG DỰA TRÊN TRI THỨC Tri thức hệ sở tri thức 1.1 1.1.1 Khái niệm tri thức iii) kiện (Events hay Facts); mối quan hệ, quy tắc, quy luật liên quan kiện hay gọi tắt luật (Rules) kiện đó; tri thức có tính heuristic Heuristic xuất phát từ thuật ngữ ơ-ric-ca thuật ngữ khó dịch tiếng Việt; hàm ý rút từ kinh nghiệm, từ suy diễn mang tính may rủi (không hoàn toàn chính xác, dùng tốt theo số nghĩa nào đó) Heuristic tạm dịch tìm ra, phát (to Find hay to Discovery) PT i) ii) IT Tri thức (Knowdge) là hiểu biết lý thuyết hay thực tế đối tượng, việc, hoàn cảnh, kiện hay lĩnh vực định Tri thức là tổng tất hiểu biết thời, là khái niệm trừu tượng đời thường Chuyên gia (ExpertS) là người tập hợp nhiều tri thức người bình thường khác Để đưa tri thức vào máy tính (giống ta mô tả liệu cho máy tính để máy tính giúp ta giải quyết bài tốn), khái niệm tri thức trừu tượng càn phải phải mô tả cụ thể Trong cách cụ thể hóa tri thức, người ta thơng chia tri thức làm phần, là: Ví dụ kiện Giả sử có hai kiện “trời mưa” (ký hiệu (hay gán) là biến A); kiện “đất ướt” (ký hiệu (hay gán) là biến B) Những tượng đó, người trưởng thành nhận thức được, gọi là kiện Các kiện tương đương với liệu mà ta biết và là dạng đơn giản trí thức Nhưng chưa hoàn toàn đủ để gọi là tri thức, tương đương với kiện (hay liệu) Ở mức tri thức, người rút mối liên quan kiện qua đúc rút kinh nghiệm, qua thực tế Giữa kiện đó, người muốn hiểu sâu hơn, tìm hiểu kiện có mối quan hệ nào khơng? Mối quan hệ kiện có tồn khơng? Gắn hai kiên vừa nêu, ta thấy: có “trời mưa” dẫn tới (kéo theo) kiện “đất ướt”, chúng có mối liên hệ, mối liên hệ A→B Đây là mối quan hệ mà mơ tả logic mệnh đề Ta mơ tả A→B quy tắc hay là luật IF…THEN (NẾU…THÌ) sau: NẾU “trời mưa” NẾU A IF “trời mưa” IF A THÌ “đất ướt” THÌ B THEN “đất ướt” THEN B Trong ngơn ngữ lập trình, “IF…THEN” là cấu trúc Trong trí tuệ nhân tạo gọi luật “IF…THEN” hay luật nhân quả, hay luật sinh (tiếng Anh: Production Rule) Các mối quan hệ này chính là quy luật (Rule) thể mối liên hệ kiện 1.1.2 Tháp liệu hệ thống dựa máy tính Hệ thống dựa tri thức (Knowledge-Based Systems) PT IT Các hệ thống thông minh nhân tạo sử dụng kỹ thuật trí tuệ nhân tạo, thơng qua kỹ tḥt đó, hệ thống thơng minh có khả giải tốn lĩnh vực riêng Những hệ thống vậy sử dụng kiến thức nhiều chuyên gia gọi hệ thống dựa tri thức (Knowledge-Based Systems) hay hệ chuyên gia (Expert System) [1] Các hệ thống giải bài toán máy tính truyền thống từ trước tới dựa liệu (Data) và/hoặc thông tin (Information) gọi là hệ thống thông tin dựa máy tính (Computer-Based Information Systems: CBIS) Mơ hình Uyên thâm Quy luật Tri thức Khái niệm Dữ liệu Sáng tạo (Novelty) Thông tin Làm (Experience) Dữ liệu Hiểu (Understading) Nghiên cứu Hấp thụ Tương tác Tác động lại Hình 1.1 Biểu đồ mơ tả từ liệu đến trí tuệ Hình 1.1 mơ tả đồ thị phát triển trí tuệ từ liệu, thơng tin, tri thức đến thông minh (hay uyên thâm) mối quan hệ giữ bốn khái niệm Khi thực hoạt động: nghiên cứu, tiếp thu (hấp thụ), tương tác (trao đổi), phản ảnh (tương tác lại) mô tả trục x người đạt (kết quả) hiểu biết, thực hành được, tiến tới làm sáng tạo sản phẩm trình tư Trục y coi mức (hội tụ) mô tả: từ liệu (nguyên liệu thô), xử lý (xác định hay không xác định từ liệu để có thơng tin) thành khái niệm, sau rút thành quy luật (ḷt) tiếp theo mơ hình mơ tả IT Hình 1.2 cho thấy phát triển tháp (quản lý) liệu Mức thấp nhất: mức thao tác liệu hoạt động với môi trường sử dụng thủ tục (chương trình), ví dụ hệ thơng xử lý giao tác (Transaction Processing System: TPS) nhằm tạo chương trình giao tác với hoạt động (kinh doanh) PT Các nhà chiến lược tạo sách Quản lý mức cao tạo tri thức Quản lý mức dùng thông tin Thao tác xử lý liệu Độ lớn WBS KBS Uyên thâm: thực Tri thức: tổng hợp DSS, MIS Thơng tin: phân tích TPS Dữ liệu; chế biến thô Độ thông minh và phức tạp Hình 1.2 Tháp quản lý liệu, thơng tin, tri thức trí tuệ (un thâm) Các thơng tin từ mức thao tác phân tích, chế biến, tạo báo cáo giúp nhà quản lý quyết định (Decision Support System: DSS) mức thứ hai (mức quản lý trung gian: Management Information System: MIS) Ở mức cao (quản lý), từ kết tiến hành qua quyết định mức hai, kết hợp với định mức, ḷt lệ để khái qt hóa, chuyển thơng tin thành trí thức Các hệ thống thực chức này là hệ dựa tri thức (KnowledgeBased Systems: KBS) hệ dựa kiến thức uyên thâm (Wisdom-Based Systems) 1.3 Hệ sở tri thức gì? Hệ CSTT là hệ thống dựa tri thức (một tập hợp tri thức và tập quan hệ), cho phép mơ hình hóa tri thức chuyên gia, dùng tri thức này để giải quyết vấn đề phức tạp lĩnh vực Hai yếu tố quan trọng hệ sở tri thức là: kiện và lập luận hay suy diễn) Sự kiện Lập luận (suy diễn) Sự kiện Lập luận Sự kiện Lập luận …… ……… 1.2 Biểu diễn tri thức Lập luận m IT Sự kiện n Tri thức phân làm hai nhóm chính:  Mô tả tri thức theo kiện (Factual Knowledge Representation) PT ▪ Hằng (Constant) ▪ Biến (Variables) ▪ Hàm (Functions) ▪ Vị từ (Predicates) ▪ Các công thức (Well-Formed Formulas) ▪ Logic vị từ cấp (First Order Logic)  Mô tả tri thức theo thủ tục (Procedural Knowledge Representation) Trong chương trình trí tuệ nhân tạo, ta biết số phương pháp mô tả tri thức theo kiện như: - Phương pháp kinh điển: mô tả tri thức logic hình thức: Logic mệnh đề Ví dụ: A B; Logic vị từ (xem giáo trình trí tuệ nhân tạo) - Phương pháp mô tả luật IF…THEN hay luật nhân - Mô tả tri thức cặp ba: OAV (Object Atribute Value); - Mô tả tri thức băng khung (Frame) - Mô tả tri thức mạng ngữ nghĩa Đây là phương pháp mô tả có nhiều ứng dụng và thành cơng; biến thể là mạng tính tốn, mạng Bayes, mạng nơ-ron nhân tạo… Bởi vậy, tìm hiểu IT Hình 6.6 cho ví dụ phân vùng mờ không gian đầu vào 3x3 không gian mờ Chấm đen và trắng biểu thị mơ hình huấn luyện lớp và lớp 2, tương ứng Hình 6.9 : Phân vùng mờ lưới mờ × PT Hình 6.6 cho biết chu kỳ tiến hóa cấu trúc mạng nơ ron phân vùng xem bảng luật Các giá trị ngôn ngữ đầu vào x1 ( 1, 3) tạo trục ngang, giá trị ngôn ngữ đầu vào x2 ( 1, 3) tạo trục dọc Giao hàng và cột cho kết luật Trong bảng luật, không gian mờ có quy luật mờ IF- THEN, tổng số luật tạo lưới là K×K Luật mờ tương ứng với K phân vùng mờ K đại diện dạng chung là: Luật : IF x1pis Ai i = 1, 2,…, k AND x2pis Bj j = 1, 2,…, k THEN xp 𝜖𝐶n {CF𝐶𝐹𝐶𝑛𝐴𝑖𝐵𝑗 } xp = (x1p , x2p ), p = 1, 2,…, p; Trong đó, K là số khoảng mờ trục, là mơ hình huấn luyện đầu vào khơng gian 1×2, P là tổng số mơ hình đào tạo, là hệ luật (trong ví dụ, là hai loại loại 2), và là độ chắn hay khả mô hình khơng gian mờ thuộc lớp 108 Để xác định hệ luật và độ chắn, sử dụng thủ tục sau đây: Bước 1:Phân hoạch khơng gian đầu vào K×K mờ, và tính độ mạnh mơ hìnhhuấn luyện mọi không gian mờ Mỗi lớp huấn luyện không gian mờ định đại diện mơ hình huấn luyện Hình 6.6 là phân vùng mờ lưới mờ 3x3 từ, không gian mờ, ḷt xác định mơ hình lớp huấn luyện đặc biệt xuất thường xuyên mô hình lớp khác Độ mạnh lớp Cn khơng gian mờ xác định: 𝑝 Cn AiBj = =1,xp Cn(àAi (x1p ) ì àBj (x2p ) ) xp = (x1p , x2p ) (6.28) đó, 𝜇𝐴𝑖(𝑥1𝑝) 𝜇𝐵𝑖(𝑥2𝑝) là hàm thành viên mơ hình xp tập mờ Ai và tập Bj, tương ứng Trong hình 6.6, ví dụ, thế mạnh loại loại không gian mờ 𝐴2𝐵1 tính sau: IT 𝛽𝐴2𝐵1 𝐶𝑙𝑎𝑠𝑠1=𝜇𝐴2(𝑥4) × 𝜇𝐵1(𝑥4)+𝜇𝐴2(𝑥6) × 𝜇𝐵1(𝑥6)+𝜇𝐴2(𝑥8) × 𝜇𝐵1(𝑥8)+𝜇𝐴2(𝑥15) × 𝛽𝐴2𝐵1 𝐶𝑙𝑎𝑠𝑠1=𝜇𝐴2(𝑥4) × 𝜇𝐵1(𝑥4)+𝜇𝐴2(𝑥6) × 𝜇𝐵1(𝑥6)+𝜇𝐴2(𝑥8) × 𝜇𝐵1(𝑥8)+𝜇𝐴2(𝑥15) × 𝜇𝐵1(𝑥15)= 0.75 × 0.89 + 0.92 × 0.34 + 0.87 × 0.12 + 0.11 × 0.09 + 0.75 × 0.89 = 1.09 PT 𝛽𝐴2𝐵1 𝐶𝑙𝑎𝑠𝑠2 = 𝜇𝐴2(𝑥1) × 𝜇𝐵1(𝑥1) + 𝜇𝐴2(𝑥5) × 𝜇𝐵1(𝑥5) + 𝜇𝐴2(𝑥7) × 𝜇𝐵1(𝑥7) = 0.42 × 0.38+ 0.54 × 0.81 + 0.65 × 0.21 = 0.73 Bước 2:Xác định hậu luật và yếu tố chắn không gian mờcon Khi kết luật xác định lớp mạnh, cần tìm lớp Cm C1 βCm AiBj = 𝑚𝑎𝑥 [βAiBj , βCm AiBj ,…… , βCN AiBj ] (6.29) Nếu lớp huấn luyện đặc biệt có giá trị tối đa, hậu luật xác định là Ví dụ, không gian mờ 1, luật hậu là lớp Sau đó, yếu tố chắn tính: Cm CFAiBj = βCm AiBj − βAiBj Cn ∑𝑁 𝑛=1 βAiBj Với : ∑Nn=1 βCn AiBj βAiBj = n≠m N−2 109 (6.30) Ví dụ, độ chắn (Certainty Factor) luật ứng với không gian mờ tính sau: Class2 CFA2B1 = 21 1.09 − 0.73 = 0.20 1.09 + 0.73 Hình 6.10 : Bảng các luật mờ Làm để giải thích yếu tố chắn đây? PT IT Nếu tất mơ hình huấn luyện không gian mờ thuộc lớp C, sau yếu tố chắn đạt tối đa; chắn mơ hình khơng gian thuộc lớp Tuy nhiên, nếu mơ hình huấn luyện thuộc lớp khác và lớp này có thế mạnh tương tự, sau độ chắn đạt tối thiểu và khơng đảm bảo mơ hình thuộc lớp Điều này có nghĩa là mơ hình khơng gian mờ dễ bị phân loại nhầm Hơn nữa, nếu không gian mờ khơng có mơ hình đào tạo, xác định luật nào Trong thực tế, nếu phân vùng mờ là thô, nhiều mơ hình phân loại sai Mặt khác, nếu phân vùng mờ tốt, nhiều luật mờ khơng thể có thiếu họcmẫu khơng gian mờ tương ứng Như vậy, chọn mật độ mạng mờ là quan trọng cho phân loại mơ hình đầu vào Trong đó, hình 6.10, mẫu huấn luyện không cần phân bố không gian đầu vào Kết quả, khó chọn mật độ thích hợp cho lưới mờ Để khắc phục khó khăn này, sử dụng nhiều luật mờ Một ví dụ cho hình 6.10 Số lượng bảng phụ thuộc vào độ phức tạp phân loại Luật mờ IF-THEN tạo cho không gian mờ nhiều tập mờ loại trừ bảng, luật hoàn chỉnh quy định như: SALL = ∑LK=2 SK , với K = 2,3, … , L (6.31) đó, là tập hợp luật tương ứng với bảng luật mờ K Các luật tạo nhiều bảng luật mờ Hình 6.10 chứa: 110 22 + 33 + 44 + 55 = 90 luật Khi ḷtSALL tạo ra, mơ hình mới, phân loại theo thủ tục sau đây: Bước 1: Trongmỗi không gian mờ,tính độ tương thích mơ hình cho lớp: { }(x1) x µK{Bj } αCn K{Ai Bj } = µK Ai (x2) Cn x CFK{A i Bj } (6.32) n = 1,2, … , N; K = 2,3, … , L; i = 1,2, … K; j = 1,2, … , K Bước 2:Xác định độ tương thích tối đa mơ hình cho lớp: Cn Cn Cn αCn = max[α1{A , αCn K{Ai B2 } , αK{A2 B1 } , αK{A2 B2 } , i B1 } 𝛼𝐶𝑛 = max [𝛼1{𝐴1𝐵1} 𝐶𝑛 , 𝛼1{𝐴1𝐵2} 𝐶𝑛 , 𝛼1{𝐴2𝐵1} 𝐶𝑛 ,𝛼1{𝐴2𝐵2} 𝐶𝑛 , IT 𝛼2{𝐴1𝐵1} 𝐶𝑛 ,…,𝛼2{𝐴1𝐵𝐾} 𝐶𝑛 , 𝛼2{𝐴2𝐵1} 𝐶𝑛 ,…,𝛼2{𝐴2𝐵𝐾} 𝐶𝑛 ,…,𝛼2{𝐴𝐾𝐵1} 𝐶𝑛 ,…,𝛼2{𝐴𝑘𝐵𝑘} 𝐶𝑛 ,…, 𝛼𝐿{𝐴1𝐵1} 𝐶𝑛 ,…,𝛼𝐿{𝐴1𝐵𝐾} 𝐶𝑛 ,𝛼𝐿{𝐴2𝐵1} 𝐶𝑛 ,…, 𝛼𝐿{𝐴2𝐵𝐾} 𝐶𝑛 ,…, 𝛼𝐿{𝐴𝐾𝐵1} 𝐶𝑛 ,𝛼1{𝐴𝐾𝐵𝐾} 𝐶𝑛 ] ; N=1, 2,…, N PT Bước 3: Xác định lớp C mà mơ hình có độ tính tương thích cao nhất, là: αCm = max[αC1 , αC2 , … , αCN , Assign pattern x = (x1, x2)to class Cm Số lượng bảng ḷt mờ cần cho mơ hình phân loại lớn; đó, luật hoàn chỉnh là lớn Mặt khác, luật có khả phân loại khác nhau, chọn luật với tiềm cao để phân loại nhằm giảm kích thước luật Vấn đề chọn luật mờ IF-THEN xem tổ hợp bài toán tối ưu với hai mục tiêu Mục tiêu đầu tiên: tối đa hóa số lượng mơ hình phân loại; thứ hai giảm thiểu số lượng luật Trong thuật toán di truyền, giải pháp coi là cá thể; giải pháp cần đại diện cho tập hợp có tính khả thi luật IF- THEN là NST có chiều dài cố định Mỗi gen NST vậy đại diện cho luật mờ SAll SAll =22+33+44+55+66 Mục tiêu là thiết lập tập luật mờ S cách chọn luật thích hợp từ luật Nếu luật đặc biệt thuộc S, bit tương ứng NST thừa nhận giá trị 1, nếu khơng thuộc S, bit giả định giá trị -1 Luật Dummy đại diện số không 111 Luật giả Một luật giả tạo kết luật này không xác định Điều này xảy không gian mờ mơ hình huấn luyện Ḷt giả khơng ảnh hưởng đến hiệu suất hệ phân loại, loại trừ khỏi luật S Làm để định luật mờ thuộc cai trị đặt S? Trong quần thể khởi tạo, quyết định này dựa 50% hội Nói cách khác, luật mờ có xác suất 0,5 và nhận giá trị nhiễm sắc thể, đại diện quần thể khởi tạo Một thuật toán di truyền để chọn luật IF-THEN gồm bước: IT Bước 1: Tạo ngẫu nhiên quần thể gồm nhiều nhiễm sắc thể.Quy mơ q̀n thể cóthể tương đối nhỏ, ví dụ 10 20 nhiễm sắc thể Mỗi gen NST tương ứng với luật mờ IF-THEN thiết lập Các gen tương ứng với luật giả nhận giá trị 0, tất gen khác phân chia ngẫu nhiên là -1 PT Bước 2: Tính toán hiệu suất NST quần thể tại.Vấn đề chọn luật mờcó hai mục tiêu: để tối đa hóa tính chính xác việc phân loại mơ hình và để giảm thiểu kích thước luật Điều đạt cách huấn luyện cho hai trọng số tương ứng, 𝑊𝑃 𝑊𝑁 chức huấn luyện: f(S) = 𝑊𝑝 -𝑃𝑠 Ps PALL − 𝑊𝑁 Ns (6.33) NALL là số mẫu phân loại thành công, -𝑃𝐴𝐿𝐿 tổng số mẫu mô tả cho hệ phân loại, 𝑁𝑠 - 𝑁𝐴𝐿𝐿 số lượng luật mờ IF-THEN tập S 𝑆𝐴𝐿𝐿 tương ứng Độ xác phân loại quan trọng so với kích thước luật Điều này thể cách gán trọng số: