Xây dựng hệ luật mờ từ cơ sở dữ liệu cách tiếp cận theo lý thuyết đại số gia tử

LỜI CAM ĐOAN Tên : Đặng Thị Thu Sinh ngày 05 tháng năm 1983 Học viên cao học lớp: CK11G - trường Đại học CNTT&TT Thái Nguyên Xin cam đoan : Đề tài luận văn “Xây dựng hệ luật mờ từ sở liệu - cách tiếp cận theo lý thuyết Đại số gia tử” TS.Trần Thái Sơn hướng dẫn cơng trình nghiên cứu riêng Tất tài liệu tham khảo có nguồn gốc, xuất xứ rõ ràng Tơi xin cam đoan tất nội dung luận văn nội dung đề cương yêu cầu thầy giáo hướng dẫn Nếu sai tơi xin hồn tồn chịu trách nhiệm trước Hội đồng khoa học trước pháp luật Thái Nguyên, ngày 25 tháng năm 2014 Người cam đoan Đặng Thị Thu LỜI CẢM ƠN Trong trình làm luận văn vừa qua, giúp đỡ bảo nhiệt tình TS Trần Thái Sơn - Viện Công nghệ thông tin - Viện khoa học Việt Nam, luận văn tơi hồn thành Mặc dù cố gắng không ngừng với tận tâm thầy hướng dẫn thời gian khả hạn chế nên luận văn khó tránh khỏi thiếu sót Để hồn thành luận văn này, em xin bày tỏ lòng biết ơn sâu sắc đến TS Trần Thái Sơn - Người thầy tận tình giúp đỡ em suốt trình làm luận văn Em xin bày tỏ lòng biết ơn đến ban lãnh đạo thầy giáo, cô giáo Trường Đại học Công Nghệ Thông Tin & Truyền Thông Đại học Thái Nguyên giúp đỡ, tạo điều kiện tốt cho em học tập thực luận văn Thái Nguyên, ngày 25 tháng năm 2014 Tác giả Đặng Thị Thu i MỤC LỤC MỤC LỤC i DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT iii DANH MỤC CÁC HÌNH iv PHẦN MỞ ĐẦU Chương 1: NHỮNG KIẾN THỨC CƠ BẢN VỀ LÝ THUYẾT TẬP MỜ 1.1 Lý thuyết tập mờ 1.1.1 Kiến thức sở tập mờ ([5]) 1.1.2 Biến ngôn ngữ 1.2 Lý thuyết Đại số gia tử ([1-3]) 14 1.2.1 Những khái niệm đại số gia tử 14 1.2.2 Vấn đề định lượng ngữ nghĩa đại số gia tử 17 Chương 2: GIẢI THUẬT DI TRUYỀN 25 2.1 Những khái niệm giải thuật di truyền 25 2.2 Các tính chất đặc thù thuật giải di truyền 28 2.3 Các bước quan trọng việc áp dụng giải thuật di truyền 29 2.4 Các phương thức biến hoá giải thuật di truyền 29 Chương 3: XÂY DỰNG HỆ LUẬT MỜ VÀ GIẢI BÀI TOÁN HỒI QUY MỜ THEO CÁCH TIẾP CẬN CỦA ĐẠI SỐ GIA TỬ 32 3.1 Bài toán hồi quy mờ 32 3.1.1 Bài toán hồi quy mờ 32 3.1.2 Chuyển đổi CSDL số sang hệ luật mờ dựa lý thuyết tập mờ cổ điển 36 3.1.3 Xây dựng hệ luật mờ theo cách tiếp cận ĐSGT 40 3.2 Bài toán thiết kế tối ưu hệ luật mờ 56 3.2.1 Đặt toán 56 3.2.2 Tìm kiếm hệ luật tối ưu dựa giải thuật di truyền lai 57 ii 3.3 Chương trình thử nghiệm 60 3.3.1 Cài đặt chương trình 60 3.3.2 Giao diện chương trình 60 KẾT LUẬN CHUNG 69 TÀI LIỆU THAM KHẢO 70 iii DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT Các kí hiệu, chữ viết tắt ĐSGT Ý nghĩa Đại số gia tử Α Tổng độ đo tính mờ gia tử âm Β Tổng độ tính mờ gia tử dương AX Đại số gia tử AX Đại số gia tử tuyến tính đầy đủ µ(h) fm(x) Độ đo tính mờ gia tử h hạng từ x Ỹ Là đầu mờ, Ṽ Là hệ số mờ CSDL GA Cơ sở liệu Giải thuật di truyền Khoảng tính mờ giá trị ngơn ngữ Xk Tập hạng từ có độ dài k Ik Hệ khoảng tính mờ mức k giá trị ngôn ngữ IFRG1 Initial Fuzzy Rules Generation IFRG2 Initial Fuzzy Rules Generation HAFRG Hedge Algebras based Fuzzy Rules Generation FPO-SGA Fuzzy Parameters Optimization - SGA RBO-SGA Rule base Optimization - SGA iv DANH MỤC CÁC HÌNH Hình Mơ tả Hình Đồ thị biểu diễn hàm thuộc tập mờ “già” (old) Hình Độ đo tính mờ biến TRUTH Hình Khoảng tính mờ hạng từ biến TRUTH Hình Mã hóa cá thể từ khơng gian lời giải tốn Hình Hàm định lượng dạng tam giác hạng từ Hình 6: Sơ đồ mã hóa cá thể chọn hệ luật cho thuật toán SGA PHẦN MỞ ĐẦU Trong sống hàng ngày hay công việc giảng dạy trường, thường xuyên phải đưa định Chẳng hạn, với học sinh kém, ta cần có chế độ bồi dưỡng kiến thức sở mà thông thường học sinh bị rỗng Với học sinh giỏi, ta cần bồi dưỡng kiến thức, kiến thức mới, đòi hỏi phải tư tốt tính sáng tạo suy nghĩ Nói chung, cách tiến hành cụ thể phụ thuộc vào học sinh vào kinh nghiệm giảng dạy kinh nghiệm sống giáo viên kinh nghiệm học đồng nghiệp, người xung quanh Các kinh nghiệm này, tư người, khái quát dạng mệnh đề kiểu “ Nếu ” Thí dụ “Nếu Học lực học sinh Kém Ý thức học tập học sinh trung bình Thì Dạy kèm theo phương án C1”; Thí dụ “Nếu Học lực học sinh Khá Ý thức học tập học sinh Tốt Thì Dạy kèm theo phương án C2” Hiện tại, người ta nhận thấy, mệnh đề dạng bắt gặp nhiều lĩnh vực nghiên cứu khác điều khiển tối ưu, phân loại tự động, hồi quy Và hướng nghiên cứu, thuộc khai phá liệu, liên quan đến việc xây dựng mệnh đề vậy, mà người ta gọi luật, để giải toán khác nhau, phát triển mạnh mẽ Cụ thể, vấn đề đặt từ Cơ sở liệu số (CSDL số), sử dụng thuật toán để sinh tự động hệ luật tối ưu (theo nghĩa gọn đạt độ xác theo yêu cầu đặt ra) Nếu hệ M luật tạo ra, có dạng: Rm: THEN XF+1 IF is X1 is AND AND XF is ; m = 1, ,M, Xi biến ngôn ngữ (như “tuổi”, “học lực” ) Ai,j giá trị biến ngôn ngữ (như “khá”, “kém” ) người ta gọi hệ luật mờ Mamdani (Mamdani fuzzy rule-based system: MFRBS) MFRBS có đặc điểm khác mơ hình khác biến đầu vào mờ dạng từ ngơn ngữ tự nhiên Đặc điểm mang lại tính “thân thiện” với người suy luận từ ngôn ngữ tự nhiên đặc điểm người Các luật biểu diễn dạng quen thuộc với suy nghĩ lập luận người Ngồi ra, việc có số liệu xác để xây dựng hệ luật (không mờ) thời gian tính tốn chấp nhận điều khơng dễ dàng Để xây dựng MFRBS có nhiều cách tiếp cận khác Trong luận văn sử dụng cách tiếp cận Đại số gia tử (ĐSGT), cách tiếp cận tương đối hứa hẹn cho kết khả quan so với số cách tiếp cận khác Được đồng ý trường Đại học Công nghệ thông tin Truyền thông với hướng dẫn Thầy giáo em xin mạnh dạn nhận đề tài: “Xây dựng hệ luật mờ từ sở liệu - cách tiếp cận theo lý thuyết Đại số gia tử” làm đề tài luận văn Luận văn có bố cục sau: Chương 1: Tổng quan tập mờ đại số gia tử Trong chương trình bày kiến thức lý thuyết tập mờ lý thuyết Đại số gia tử Chương 2: Giải thuật di truyền Trong chương nêu khái niệm giải thuật di truyền, tính chất đặc thù thuật giải di truyền Chương 3: Xây dựng hệ luật mờ giải toán hồi quy mờ theo cách tiếp cận đại số gia tử Trong chương trình bày việc chuyển đổi CSDL số sang hệ luật mờ áp dụng giải toán hồi quy Chương NHỮNG KIẾN THỨC CƠ BẢN VỀ LÝ THUYẾT TẬP MỜ 1.1 Lý thuyết tập mờ 1.1.1 Kiến thức sở tập mờ ([5]) Là người nghiên cứu lý thuyết tập mờ, L A Zadeh có nhiều cơng trình nghiên cứu cho phát triển ứng dụng Ý tưởng bật Zadeh từ khái niệm trừu tượng ngữ nghĩa thông tin mờ, khơng chắn trẻ-già, nhanh-chậm, cao-thấp,… Ơng tìm cách biểu diễn chúng khái niệm toán học, gọi tập mờ định nghĩa sau Định nghĩa Cho tập vũ trụ U với phần tử ký hiệu x, U={x} Một tập mờ A U tập đặc trưng hàm A(x) mà liên kết phần tử x∈U với số thực đoạn [0,1] Giá trị hàm A(x) biểu diễn mức độ thuộc x A A(x) ánh xạ từ U vào [0,1] gọi hàm thuộc tập mờ A Như vậy, giá trị hàm A(x) gần tới mức độ thuộc x A cao Khi A tập hợp kinh điển, hàm thuộc nó, A(x), nhận giá trị 0, tương ứng với x có nằm A hay không Rõ ràng, tập mờ mở rộng khái niệm tập hợp kinh điển Các khái niệm, phép toán lý thuyết tập kinh điển mở rộng cho tập mờ Họ tất tập mờ miền sở U không gian hàm từ U vào đoạn [0,1], tức F (U,[0,1]) = {A : U[0,1]}, không gian tương đối giàu cấu trúc tính tốn mà nhiều nhà nghiên cứu sử dụng cho việc mô phương pháp suy luận người Chúng ta biểu diễn tập mờ cách sau, tùy theo tập U hữu hạn, đếm hay vô hạn liên tục: - Trường hợp U hữu hạn, U={ui : 1 i  n}, ta viết A = A(u1)/u1 + A(u2)/u2 + … + A(un)/un = 1 i n A(ui)/ui - Trường hợp U vô hạn đếm được, U={ui : i=1,2,… }, ta viết: A = 1 i 0 RkS* } (3.4) Rõ ràng hệ SiS*, thỏa điều kiện (3.2) (3.3) S* R1 R2 R3 pi g1 g2 Ri R|S*| gj=0 gNmax Si không chọn luật Hình 6: Sơ đồ mã hóa cá thể chọn hệ luật cho thuật toán SGA Các phép toán di truyền chọn lọc, lai ghép, đột biến thay áp dụng theo thuật toán tối ưu tham số mờ (phần 3.1.2) Chúng ta có sơ đồ thuật toán sau, ký hiệu RBO-SGA (rules base optimization - SGA): Inputs: - Tập liệu mẫu D = { (pi; ci) | i=1, , N }, pi = (di,1, , di,n) P,ciC = {C1, , Cm}, n số thuộc tính, m số lớp, N số mẫu liệu; - Hệ luật S* sinh trình HAFRG dựa tham số mờ gia tử mức phân hoạch cho trước; - Giới hạn ràng buộc số luật tối đa cần chọn tối ưu: Nmax; - Trọng số cho mục tiêu hàm thích nghi: