Nghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướngNghiên cứu đề xuất hệ học chuyển giao mờ phức dựa trên kỹ thuật lấy mẫu không gian con và cấu trúc đồ thị có hướng
BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN HÀN LÂM KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ Triệu Thu Hương NGHIÊN CỨU ĐỀ XUẤT HỆ HỌC CHUYỂN GIAO MỜ PHỨC DỰA TRÊN KỸ THUẬT LẤY MẪU KHÔNG GIAN CON VÀ CẤU TRÚC ĐỒ THỊ CÓ HƯỚNG TÓM TẮT LUẬN ÁN TIẾN SĨ NGÀNH KHOA HỌC MÁY TÍNH Mã số: 48 01 01 Hà Nội - 2023 Cơng trình hồn thành tại: Học viện Khoa học Công nghệ, Viện Hàn lâm Khoa học Công nghệ Việt Nam Người hướng dẫn khoa học: Người hướng dẫn….: PGS.TS Nguyễn Long Giang, Viện Công nghệ thông tin Phản biện 1: Phản biện 2: Phản biện 3: Luận án bảo vệ trước Hội đồng đánh giá luận án tiến sĩ cấp Học viện họp Học viện Khoa học Công nghệ, Viện Hàn lâm Khoa học Công nghệ Việt Nam vào hồi … …, ngày … tháng … năm 2024 Có thể tìm hiểu luận án tại: Thư viện Học viện Khoa học Công nghệ Thư viện Quốc gia Việt Nam DANH MỤC CÁC BÀI BÁO ĐÃ XUẤT BẢN LIÊN QUAN ĐẾN LUẬN ÁN Triệu Thu Hương, Lương Thị Hồng Lan, Nguyễn Long Giang, Phạm Ngọc Đức,Lê Minh Tuấn and Phùng Thế Huân (2020) “Hệ hỗ trợ định dựa trêntập mờ phức ứng dụng chấm điểm tín dụng” Kỷ yếu Hội thảo quốc gia lầnthứ XXIII Một số vấn đề chọn lọc công nghệ thông tin & truyền thông,125-130 Lương Thị Hồng Lan, Triệu Thu Hương, Nguyễn Long Giang, Lê Hoàng Sơn,Vũ Thị Khánh Trình (2022) Một mơ hình học chuyển giao mờ ứng dụng Kỷyếu Hội thảo Quốc gia lần thứ XXV - VNICT 2022, Hà Nội, tr 87-91 Trieu Thu Huong, Luong Thi Hong Lan, Nguyen Long Giang, Nguyen MyBinh, Bay Vo, Le Hoang Son (2023) A novel transfer learning model on complexfuzzy inference system Journal of Intelligent & Fuzzy Systems, vol 44, no 3, p3733-3750 (ISSN: 1064-1246, SCIE, 2023, IF=2.0),DOI = https: //doi.org/10.3233/JIFS-222582) Chu Thi Hong Hai, Trieu Thu Huong (2022) Research Complex Fuzzy Infer-ence System in Early Warning Credit Risk at Commercial Banks in Viet Nam.Intelligent Systems and Networks: Selected Articles from ICISN 2022, Vietnam(pp 519-525) Singapore: Springer Nature Singapore Triệu Thu Hương, Lương Thị Hồng Lan, Lê Trường Giang, Nguyễn Long Giang, Phạm Huy Thơng, Nguyễn Thị Mỹ Bình (2021) Về mơ hình học chuyểngiao hệ suy diễn mờ phức Kỷ yếu Hội thảo Quốc gia lần thứ XXIV - VNICT2021, Thái Nguyên, tr 616-621 Trieu Thu Huong, Luong Thi Hong Lan (2023) The Novel Tree - Based Complex Fuzzy Transfer Learning System Journal of Computer Science and Cybernetics Accepted MỞ ĐẦU Tính cấp thiết luận án Suy diễn q trình nhằm mục đích đưa kết luận định giải vấn đề dựa việc sử dụng thông tin có sẵn Suy diễn ln có vai trị quan trọng áp dụng rộng rãi sống hàng ngày nhiều lĩnh vực khác Trong sống hàng ngày, suy diễn giúp người đưa định dựa thơng tin có, định rõ phương án giải tình phức tạp Trong kinh doanh, hỗ trợ lớn hoạt động dự đoán xu hướng thị trường, nhờ đưa định sản xuất tiếp thị Với lĩnh vực khoa học nghiên cứu, suy diễn giúp xây dựng kiểm tra lý thuyết, đồng thời giúp nhà khoa học đưa kết luận dựa liệu thơng tin có sẵn Trong lĩnh vực trí tuệ nhân tạo (AI), máy tính sử dụng suy diễn để làm việc với liệu, học từ liệu từ giúp đưa dự đốn định Để giải vấn đề không chắn mơ hồ tính chu kỳ tần suất có liệu, Ramot cộng [1] bổ sung thêm yếu tố pha nhằm mục đích biểu diễn tượng thời gian tính chu kỳ liệu đề xuất khái niệm tập mờ phức (CFS) Trên sở đó, tác giả đề xuất hệ suy diễn mờ phức (CFIS) sở hệ suy diễn mờ (FIS) nhằm giải vấn đề định Rất nhiều nghiên cứu phát triển mở rộng từ hệ suy diễn mờ phức mơ hình ANCFIS (Hệ thống suy luận mờ phức thần kinh thích nghi) [2] đề xuất mở rộng ANCFIS-ELM, FANCFIS [3, 4] kết hợp hệ thống mờ phức với mạng nơ ron Gần nhất, hệ suy luận mờ phức Mamdani (M-CFIS) [5] giới thiệu với cấu trúc suy luận dựa tập mờ phức ứng dụng hệ hỗ trợ định Dựa mơ hình M-CFIS, hai cải tiến bao gồm: giảm luật cho hệ M-CFIS [6] M-CFIS cho đồ thị tri thức [7], đề xuất nhằm cải thiện trình huấn luyện kiểm thử M-CFIS Theo hiểu biết tôi, nghiên cứu đề cập hệ suy luận mờ phức điển hình xử lý liệu có yếu tố chu kỳ hệ thống tri thức Học chuyển giao (TL) q trình sử dụng tri thức có cho nhiệm vụ học tập liên quan hướng tới mục tiêu: • Tận dụng tri thức có, giải vấn đề thiếu hụt tri thức liệu nhiệm vụ học tập • Giảm thiểu thời gian học tập nhiệm vụ Kỹ thuật học chuyển giao áp dụng học máy trí tuệ nhân tạo mang lại hiệu suất tốt tình thiếu hụt liệu tri thức [8–11] TL đạt kết ấn tượng phân loại văn [12], xử lý ảnh [13, 14], chẩn đoán y tế [15? –18], phát đối tượng nhận diện hành vi [19? –22], mơ hình mạng [23] dự báo thị trường chứng khoán [24] v.v TL phát triển mạnh mẽ, nhiên thông tin không chắn mơ hồ toán hạn chế không nhỏ việc huấn luyện xây dựng mơ hình [24] Để giải vấn đề này, Jethro Simon [25] giới thiệu mơ hình học chuyển giao mờ (FTL), khung cho TL kết hợp với lý thuyết mờ để nhằm chuyển giao thơng tin khơng chắn, có tính mơ hồ Lý thuyết tập mờ (FS) trở thành công cụ phổ biến hiệu để xử lý liệu có tính mơ hồ khơng chắn Việc kết hợp lý thuyết mờ với học chuyển giao giải tình thiếu hụt thông tin, kèm theo mơ hồ không chắn [24, 26, 27] Mặc dù có tiến hệ thống suy diễn mờ phức học chuyển giao mờ, số hạn chế chưa giải quyết, bao gồm: - Mơ hình M-CFIS mơ hình điển hình cho xử lý liệu có yếu tố khơng chắn tính chu kỳ Tuy nhiên, nhược điểm mơ hình sở luật tạo trực tiếp từ toàn liệu mà chưa thực học Các mơ thường có khả thích ứng kém, khó khăn xử lý thơng tin phức tạp, nơi mà mối quan hệ liệu không rõ ràng thay đổi theo thời gian - Ngoài ra, khả xử lý liệu có yếu tố khơng chắn mang tính chu kỳ tần suất hệ M-CFIS làm cho bị hạn chế mặt thời gian xử lý Chính thành phần pha sinh q trình mơ tả yếu tố chu kỳ/định kỳ làm thời gian xử lý tăng lên - Trong trường hợp, liệu ngày nhiều cập nhật liên tục việc xây dựng mơ hình M-CFIS theo phương án cập nhật luật truyền thống không khả thi tốn nhiều thời gian - Hầu hết hệ thống FTL dừng lại việc kết hợp kỹ thuật TL với logic mờ truyền thống Trong nghiên cứu gần đây, có chí khơng có nghiên cứu FTL tập mờ mở rộng, đặc biệt tập mờ phức Lý thuyết suy diễn mờ phức có ý nghĩa giải tốn có tính chất mờ hồ, khơng chắn chu kỳ/định kỳ Nhưng hạn chế phạm vi ứng dụng yếu tố thời gian Trong đó, kỹ thuật học chuyển giao lại có khả giảm thiểu thời gian học tập Chính vậy, luận án đặt nhiệm vụ Nghiên cứu giải hạn chế hệ suy diễn mờ phức mặt thời gian (hoàn thiện nghiên cứu hệ suy diễn mờ phức) dựa kỹ thuật học chuyển giao Cụ thể cải thiện hiệu suất mặt thời gian cho việc xây dựng mơ hình suy diễn mờ phức cho miền mục tiêu/miền đích (miền liệu cần xây dựng hệ suy diễn mờ phức) thời gian suy siễn hệ suy diễn mờ phức Mục tiêu nghiên cứu: Mục tiêu chung luận án Mục tiêu chung luận án, nghiên cứu phát triển hệ học chuyển giao mơ hình suy diễn mờ phức nhằm tận dụng tri thức có mơ hình trước giảm thiểu thời gian xây dựng hệ suy diễn mờ phức cho miền mục tiêu Mục tiêu cụ thể Xuất phát từ mục tiêu tổng quát, mục tiêu cụ thể luận án bao gồm: • Mục tiêu : Đề xuất mơ hình học chuyển giao dựa hệ suy diễn mờ phức Mamdani (M-CFIS), ứng dụng xây dựng hệ suy diễn mờ phức cho miền mục tiêu • Mục tiêu : Đề xuất cách biểu diễn tri thức (luật mờ phức) cấu trúc liệu nhằm mục đích cải tiến hoạt động suy diễn mặt thời gian hỗ trợ hoạt động chuyển giao kiến thức nhanh chóng hiệu Nội dung nghiên cứu: Để đạt mục tiêu nghiên cứu, luận án tập trung vào số nội dung sau: • Nghiên cứu phát triển hệ suy diễn mờ phức dựa kỹ thuật học chuyển giao • Nghiên cứu cấu trúc đồ thị biểu diễn luật mờ phức cho việc hợp nhất, suy diễn q trình thích nghi luật hệ học chuyển giao mờ phức Đối tượng phạm vi nghiên cứu: Đối tượng nghiên cứu Đối tượng nghiên cứu luận án hệ suy diễn theo tiếp cận tập mờ phức kỹ thuật học chuyển giao Phạm vi nghiên cứu Dựa mục tiêu nội dung nghiên cứu, phạm vi nghiên cứu luận án xác định sau: • Lý thuyết: Nghiên cứu mơ hình học chuyển giao hệ suy diễn mờ phức ngữ cảnh nhiệm vụ nguồn nhiệm vụ đích giống nhau, nhiệm vụ nguồn nhiệm vụ đích phân phối, số lượng thuộc tính khác khoảng miền giá trị thuộc tính • Thực nghiệm: Thực nghiệm học chuyển giao hệ suy diễn mờ phức trường hợp nhiệm vụ nguồn nhiệm vụ đích giống nhau, nhiệm vụ nguồn nhiệm vụ đích phân phối, số lượng thuộc tính khác khoảng miền giá trị thuộc tính Phương pháp nghiên cứu: Phương pháp nghiên cứu luận án nghiên cứu lý thuyết nghiên cứu thực nghiệm - Nghiên cứu lý thuyết: Nghiên cứu tổng quan lý thuyết tập mờ phức, hệ suy diễn mờ phức, kỹ thuật mơ hình học chuyển giao, phân tích ưu điểm, nhược điểm vấn đề tồn nghiên cứu liên quan Tổng hợp nghiên cứu liên quan tập mờ, tập mờ phức, hệ suy diễn mờ, hệ suy diễn mờ phức kỹ thuật học chuyển giao, học chuyển giao mờ Trên sở đề xuất mơ hình học chuyển giao hệ suy diễn mờ phức kỹ thuật cải tiến nhằm thực mục tiêu đề - Nghiên cứu thực nghiệm: Các mô hình thuật tốn đề xuất cài đặt, chạy thử nghiệm, so sánh, đánh giá với mơ hình tương ứng theo phương pháp truyền thống tập liệu mẫu từ kho liệu UCI tập liệu thực tế Bệnh viện Gang thép Thái Nguyên nhằm minh chứng tính hiệu nghiên cứu lý thuyết Các đóng góp luận án bao gồm nội dung sau: • Đề xuất mơ hình học chuyển giao hệ suy diễn mờ phức - Mơ hình học chuyển giao đề xuất thực tái sử dụng tri thức thu từ CFIS miền có liên quan (gọi miền nguồn) Bằng cách kết hợp kỹ thuật học chuyển giao chế suy diễn hệ CFIS nhằm làm giảm thời gian xây dựng hệ CFIS cho miền khác (gọi miền đích) - Mơ hình đề xuất bao gồm giai đoạn 1) lựa chọn liệu thích nghi miền đích, 2) hiệu chỉnh miền đầu vào, 3) thích nghi luật 4) tổng hợp luật - Các kết lý thuyết thực nghiệm cho thấy khả cải thiện mặt thời gian xây dựng hệ suy diễn mờ phức cho miền đích kỹ thuật học chuyển giao chế hệ suy diễn mờ phức Điều góp phần khơng nhỏ mở rộng phạm vi ứng dụng mô hình suy diễn mờ phức trường hợp ràng buộc hạn chế mặt thời gian hay trường hợp liệu lớn cập nhật liên tục - Các đóng góp trình bày nội dung Chương2 luận án • Đề xuất cấu trúc liệu - CFRG biểu diễn tập luật mờ phức ứng dụng cho mơ hình học chuyển giao hệ suy diễn mờ phức - Cấu trúc CFRG đề xuất nhằm biểu diễn tập luật mờ phức cho nhiệm vụ suy diễn mờ phức, giúp giảm thời gian trình suy diễn mờ phức Tăng khả ứng dụng mơ hình suy diễn mờ phức cho toán thực tế, đặc biệt tốn có liệu lớn, liệu cập nhật liên tục - Cấu trúc CFRG biểu diễn thành phần biên độ pha luật nút giúp dễ dàng lựa chọn giá trị chỉnh sửa luật q trình thích nghi luật, đẩy nhanh thời gian thích nghi tăng tính xác mơ hình - Các đóng góp trình bày chi tiết Chương luận án Bố cục luận án: Luận án “NGHIÊN CỨU ĐỀ XUẤT HỆ HỌC CHUYỂN GIAO MỜ PHỨC DỰA TRÊN KỸ THUẬT LẤY MẪU KHÔNG GIAN CON VÀ CẤU TRÚC ĐỒ THỊ CÓ HƯỚNG ” gồm có phần mở đầu, chương nội dung, phần kết luận danh mục tài liệu tham khảo với nội dung sau: • Mở đầu: Giới thiệu ngữ cảnh nghiên cứu đánh giá vai trò khả hệ suy diễn, hệ suy diễn mờ phức, kỹ thuật học chuyển giao hạn chế nó; vấn đề nghiên cứu; mục tiêu nghiên cứu; hướng tiếp cận phương pháp nghiên cứu; nội dung nghiên cứu; phạm vi giới hạn nghiên cứu; đóng góp bố cục luận án • Chương 1: Trình bày kiến thức sở cho luận án nghiên cứu bao gồm: Khái niệm tập mờ, tập mờ phức, hệ suy diễn mờ phức, mơ hình học chuyển giao, học chuyển giao mờ Bài tốn nghiên cứu, liệu mơi trường thực nghiệm giới thiệu chương • Chương 2: Trình bày chi tiết trình xây dựng mơ hình học chuyển giao hệ suy diễn mờ phức (gồm giai đoạn) kết thực nghiệm liệu UCI liệu thực với phân tích đánh giá mơ hình đề xuất • Chương 3: Trình bày đề xuất cấu trúc CFRG ứng dụng cho suy diễn mờ phức thích nghi luật mơ hình học chuyển giao đề xuất chương 2, kết thực nghiệm với phân tích đánh giá hiệu suất • Kết luận hướng phát triển: Trình bày kết thực luận án, điểm hạn chế hướng phát triển Chương TỔNG QUAN NGHIÊN CỨU VÀ CƠ SỞ LÝ THUYẾT Trong chương này, luận án trình bày lý thuyết tổng quan hệ suy diễn, hệ suy diễn mờ hệ suy diễn mờ phức - đối tượng nghiên cứu luận án Tiếp đó, luận án trình bày kỹ thuật học chuyển giao sử dụng trình nghiên cứu giải hạn chế hệ suy diễn mờ phức Đồng thời, chương giới thiệu khái quát liệu, môi trường, kịch thực nghiệm thước đo đánh giá thực nghiệm 1.1 Suy diễn hệ suy diễn mờ phức Suy diễn coi công cụ, kỹ thuật quan trọng khoa học sống Suy diễn trình rút thông tin mới, kết luận từ thông tin biết nguyên tắc logic Qua suy diễn, ta kết nối kiện, quy tắc thơng tin để tạo nhìn tồn diện chi tiết vật tượng Suy diễn sở cho việc tạo lập luận logic hợp lý Đặc biệt trí tuệ nhân tạo học máy, suy diễn trọng tâm Máy tính hệ thống thơng minh lập trình để suy luận từ liệu nhằm mục đích thực dự báo phân tích xu hướng, hiểu tự động hóa định, hỗ trợ định v.v Hệ suy diễn đóng vai trị quan trọng hệ thống thơng minh lĩnh vực học máy trí tuệ nhân tạo (AI) khả xử lý thông tin không chắn thực định dựa luật suy diễn Hệ suy diễn sử dụng rộng rãi hệ thống gợi ý để đề xuất sản phẩm, dịch vụ nội dung dựa lịch sử hành vi người dùng [28, 29] Hệ suy diễn có khả xử lý thông tin mờ không rõ ràng, giúp cải thiện trải nghiệm người dùng tăng khả tương tác Không vậy, hệ suy diễn thành phần quan trọng hệ thống hỗ trợ định, giúp người định xử lý thông tin phức tạp đưa định dựa quy tắc xác định trước [5, 30, 31] Hiệu suy diễn dựa vào thơng tin, liệu lịch sử Trong đó, thông tin, liệu biến đổi không ngừng ngày chứa nhiều đặc tính Những đặc tính liệu tính mơ hồ, tần suất/chu kỳ làm cho logic truyền thống gặp phải khó khăn hay khơng hiệu q trình suy luận Các nghiên cứu dựa suy diễn mờ [32] có khả giải tình mà thơng tin, liệu có tính mơ hồ, khơng chắn; hệ suy diễn mờ phức [1, 33] kèm với tính chu kỳ/định kỳ Các phương pháp suy diễn khác sử dụng phụ thuộc vào toán khác Hệ suy diễn mờ phức [33], gọi hệ logic mờ phức (CFLS), dựa sở hệ suy diễn mờ biết đến với khả xử lý khái niệm ngôn ngữ liên quan đến tri thức có tính chất tần suất chu kỳ Tức hệ suy diễn mờ phức phù hợp với các toán liên quan đến liệu không chắn, mơ hồ, lại có tính tần suất chu kỳ [5, 7] 1.2 1.2.1 Tổng quan nghiên cứu liên quan Các mô hình suy diễn mờ Logic mờ ln đề cập công cụ để mô tả thơng tin khơng chắn, mơ hồ Nó áp dụng phổ biến việc giải vấn đề liên quan đến dự báo, điều khiển, phát mẫu hệ hỗ trợ định với thơng tin khơng chắn Nó coi mơ hình tính tốn mà có khả xử lý đồng thời tri thức ngôn ngữ liệu số Logic mờ giúp máy tính hiểu bắt chước suy nghĩ người, với mục tiêu làm tăng hiệu trình định tri thức mờ hồ, không chắn Lý thuyết logic mờ tạo loạt hệ thống suy diễn mờ [2, 3, 5, 34, 35] Mỗi hệ suy diễn mờ mô tả ánh xạ phi tuyến để đưa kết dựa lập luận mờ tập luật mờ dạng IF-THEN 1.2.2 Học chuyển giao học chuyển giao mờ TL học máy lấy cảm hứng từ khả học tập chuyển giao người tận dụng kiến thức có miền liên quan (được gọi miền nguồn) nhằm cải thiện hiệu suất học tập giảm thiểu số lượng mẫu gán nhãn bắt buộc phải có miền đích [11, 36] Phân loại học chuyển giao Các nghiên cứu TL dựa sở khác tốn đặt ra, nhãn liệu, dựa mơ hình Tuy nhiên, trình học chuyển giao xem xét đến vấn đề chuyển giao Có câu hỏi đặt học chuyển giao là: Chuyển giao gì? Chuyển giao nào? Chuyển giao nào? Theo [11] trả lời câu hỏi “Chuyển giao gì?” “Chuyển giao nào?” tạo thành số hướng nghiên cứu TL khác như: phân loại học chuyển giao theo mức độ gán nhãn, theo miền theo giải pháp chuyển giao Ngoài cách phân loại học chuyển giao trên, có cách phân loại học chuyển giao khác học chuyển giao theo chiến lược mơ hình, học chuyển giao cơng nghệ học sâu, học chuyển giao mờ v.v Học chuyển giao mờ Dữ liệu sở hầu hết kỹ thuật học máy, đó, thơng tin liệu giới thực thường có tính khơng chắn có tính chất mơ hồ Khi thơng tin, liệu không chắn, mờ hồ Những phương pháp học thêm vào kỹ thuật khác để biểu diễn nhằm lấy tri thức cần thiết cho giai đoạn học FTL kết hợp lý thuyết mờ kỹ thuật học chuyển giao nhằm giải toán khan liệu liệu không chắn, mơ hồ Trong khi, kỹ thuật học chuyển giao giải vấn đề thiếu hụt kiến thức miền đích cách tận dụng kiến thức miền nguồn có liên quan Thì lý thuyết mờ giúp mơ tả kiến thức có tính chất khơng chắn, mơ hồ Với ưu điểm này, kỹ thuật học chuyển giao mờ nghiên cứu ứng dụng nhiều toán khác từ phân lớp, đến hồi quy nhiều lĩnh vực nhận dạng hình ảnh [27], y tế [37], [38] [15], giáo dục, xử lý ngơn ngữ tự nhiên [27], tài [39], [24], mơi trường thơng minh [25] v.v Mục đích FTL chuyển giao kiến thức có sẵn môi trường không chắn, mơ hồ Về bản, FTL đề xuất sở kết hợp phương pháp học chuyển giao với lý thuyết mờ Do vậy, nghiên cứu học chuyển giao mờ phân vào nhóm học chuyển giao chuyển giao quy nạp, chuyển giao không giám sát, chuyển giao đặc trưng v.v học chuyển giao truyền thống Tuy nhiên, học chuyển giao lý thuyết tập mờ lại kết hợp mạnh theo chiều hướng dựa hệ suy diễn mờ, nhằm tạo hệ suy diễn mờ cho miền mục tiêu trường hợp thiếu hụt thông tin liệu [24, 26, 40, 41] Chính vậy, phân loại học chuyển giao mờ dựa mơ hình suy diễn 1.2.3 Lấy mẫu phương pháp lấy mẫu Các phương pháp học máy phổ biến học từ liệu, liệu "tốt" đem lại hiệu suất tốt cho mơ hình học máy [36] Tuy nhiên, việc thu thập đầy đủ liệu cho trình học bất khả thi mặt thời gian, chi phí Chính vậy, nghiên cứu phương pháp lấy mẫu - lấy liệu với kích thước nhỏ hơn, đặc trưng giảm nhiễu vấn đề quan tâm nghiên cứu [42–45] Phương pháp lấy mẫu phân thành hai loại lấy mẫu xác suất lấy mẫu phi xác suất [46, 47] Các phương pháp lấy mẫu xác suất (Probability sampling - PS) phương pháp mẫu mà cá thể lựa chọn ngẫu nhiên, cá thể quần thể nghiên cứu có hội lựa chọn ngang không phụ thuộc vào ý kiến chủ quan người nghiên cứu Trong đó, lấy mẫu phi xác xuất (Non-probability sampling - NPS) người nghiên cứu chọn đối tượng tham gia nghiên cứu cách chủ định, dựa cá thể có sẵn thu thập số liệu khơng tính cỡ mẫu Chọn mẫu khơng xác suất chọn mẫu thuận tiện, chọn mẫu tiêu hay chọn mẫu có mục đích; nhằm thăm dị hay tìm hiểu sâu vấn đề vào quần thể (kiến thức, thái độ, niềm tin ) Các phương pháp lấy mẫu phải có tính hệ thống xác định cho rút suy luận có giá trị từ mẫu 1.3 Hạn chế hệ suy diễn mờ phức toán nghiên cứu Các hệ suy diễn mờ phức tỏ hiệu giải toán suy diễn với liệu không chắn, mơ hồ có yếu tố chu kỳ/định kỳ Các ứng dụng hệ suy diễn mờ phức định, dự đốn, dự báo v.v có đóng góp lĩnh vực nghiên cứu, xử lý tri thức [2, 5–7] Tuy nhiên, trình xem xét thành phần pha liệu miền luật làm cho thời gian thực thi 10 vấn đề gặp phải thực tế Khi xem xét học chuyển giao, người ta đề cập đến vấn đề miền chuyển giao, nhiệm vụ miền nguồn miền đích, kỹ thuật chuyển giao yếu tố định đến phương pháp, kỹ thuật học chuyển giao sử dụng Định nghĩa 1.2 [36] Miền xác định ζ = {G, T (L)}, G biểu diễn đặc trưng miền T (L) mô tả phân phối xác suất phần tử L = {l1 , , lm ∈ G} Định nghĩa 1.3 [36] Một nhiệm vụ E cho E = {W, ϱ}, với khơng gian nhãn W hàm dự đốn ϱ, hàm ẩn học từ liệu mẫu Đầu nhãn phân phối có điều kiện dự đoán học máy: ϱ (li ) = {T (wk |li ) |wk ∈ W ; k = 1, , |W |} (1.4) Trong thực tế, miền bao gồm liệu gán nhãn liệu khơng gán nhãn Ví dụ, cho miền nguồn ζO nhiệm vụ nguồn EO miền nguồn thường quan sát thông qua cặp (phần tử, nhãn) là: ζO = {(l, w) |li ∈ GO }; wk ∈ WO ; i = 1, , miO ; and k = 1, , mkO Cùng với miền đích, bao gồm vài mẫu liệu có khơng gán nhãn Định nghĩa 1.4 [36] Cho ζO , EO , ζψ Eψ miền nguồn nhiệm vụ nguồn, miền đích nhiệm vụ đích tương ứng Học chuyển giao sử dụng kiến thức thu từ miền nguồn cho việc tái sử dụng cho hàm dự đốn ϱ miền đích ζψ ζO ̸= ζψ EO ̸= Eψ 1.5 Thực nghiệm Trong luận án này, liệu thực nghiệm sử dụng gồm liệu từ kho liệu chuẩn UCI liệu bệnh viêm gan thu thập từ Bệnh viện Gang thép Bệnh viện Đa khoa Thái Nguyên (Bảng 1.1) Việc chọn lọc liệu sở tiêu chí thời gian thu thập thành phần bổ sung liệu đảm bảo vai trò thành phần pha liệu Điều nhấn mạnh quan trọng việc phân tích thành phần cụ thể bổ sung thuộc tính Bảng 1.1: Danh sách liệu thực nghiệm Số thứ tự Bộ liệu Bộ liệu ung thư vú - BreastCancer Bộ liệu tiểu đường - Diabetes Bộ liệu Thẻ tín dụng - Creditcard Bộ liệu Bệnh gan - Liver Số thuộc tính 16 Số ghi 680 390 8636 4156 Số nhãn 2 Đối với ghi đầu vào, với giá trị thuộc tính, việc sinh phần thực ảo cho liệu thực theo suy tắc sau: Phần thực lấy giá trị gốc đầu vào thuộc tính; phần ảo tính cách tính tổng phương sai theo cột theo hàng (Var.R(bản ghi) + var.A(thuộc tính)) [48] Kết q trình tập liệu Tập liệu gốc gọi liệu phần thực, tập liệu tạo gọi liệu ảo Hai tập liệu sử dụng làm liệu đầu vào cho thí nghiệm 11 1.6 Kết chương Trong khn khổ nội dung chương 1, luận án trình bày nghiên cứu liên quan suy diễn hệ suy diễn mờ phức với trọng tâm hệ suy diễn mờ phức Mamdani - cho việc giải vấn đề suy diễn dựa thông tin không chắn, mờ hồ có tính chu kỳ Đồng thời luận án hạn chế hướng nghiên cứu tính đến Cũng chương này, luận án trình bày kỹ thuật học chuyển giao, phương pháp học chuyển giao, học chuyển giao mờ Với đặc trưng kỹ thuật học chuyển giao sử dụng để giải vấn đề thiếu hụt kiến thức rút ngắn thời gian học tập Đây kiến thức tảng, sử dụng chương tiếp sau luận án cho việc đề xuất mơ hình giải khoảng trống nghiên cứu nêu Kết nghiên cứu cơng bố cơng trình [1, 2] luận án Chương MƠ HÌNH HỌC CHUYỂN GIAO TRÊN HỆ SUY DIỄN MỜ PHỨC Để giải toán nghiên cứu nêu chương 1, chương luận án đề xuất mơ hình học chuyển giao dựa hệ suy diễn mờ phức Cụ thể sau: - Đề xuất mơ hình CFTL, dựa FTL M-CFIS, cho nhiệm vụ rút ngắn thời gian xây dựng hệ suy diễn mờ phức Mamdani - Giới thiệu mơ hình CFTL gồm bước: Điều chỉnh miền nguồn; Lựa chọn tập miền đích; Thích nghi luật; Tổng hợp luật cho tập luật thích nghi cuối - Đề xuất định nghĩa luật thích nghi luật ứng cử để chọn luật quan trọng sở luật cho q trình thích nghi luật với liệu miền đích - Kiểm chứng khả mơ hình CFTL việc xử lý tình chuyển giao tri thức với ngữ cảnh thiếu thông tin miền mục tiêu, thông qua việc thực kịch thử nghiệm - Chứng minh hiệu suất mơ hình đề xuất qua thử nghiệm thực liệu từ UCI [49] tập liệu thực tế, đánh giá độ xác, số lượng luật, thời gian thực thi Bản chất mô hình CFTL đề xuất nằm chế suy luận theo mơ hình suy luận mờ phức Mamdani Điểm hệ thống CFTL bổ sung tính học chuyển giao mờ Bên cạnh đó, theo hiểu biết NCS, hầu hết hệ thống CFIS không thực tận dụng yếu tố pha Ngược lại, mơ hình CFTL đề xuất thực tính toán hai phần biên độ pha tồn q trình định 12 2.1 Một số khái niệm định nghĩa Trong lý thuyết học chuyển giao, mối quan hệ tương đồng liệu miền nguồn miền đích đóng vai trị quan trọng Nó giúp xác định khả xảy chuyển giao tiêu cực sở định phương pháp, kỹ thuật chuyển giao Lợi dụng yếu tố tương đồng này, nhà nghiên cứu xây dựng kỹ thuật học chuyển giao nhằm thu lợi điểm mặt thời gian Nghiên cứu này, với ngữ cảnh đặt mối quan hệ miền nguồn miền đích miền nguồn miền đích có số lượng thuộc tính nhiệm vụ đầu tương ứng giống khác phân phối liệu Đây câu trả lời cho câu hỏi "Khi chuyển giao?" mơ hình đề xuất Định nghĩa 2.1 Học chuyển giao hệ suy diễn mờ phức Cho ζO , EO , ζψ Eψ miền nguồn nhiệm vụ nguồn, miền đích nhiệm vụ đích tương ứng Học chuyển giao hệ suy diễn mờ phức sử dụng kiến thức thu từ miền nguồn, tái sử dụng cho hàm dự đốn ϱ miền đích ζψ Với ràng buộc miền nguồn miền đích sau: - ζO , ζψ giống phân phối, số lượng thuộc tính khác khoảng miền giá trị thuộc tính - EO = Eψ , giống nhiệm vụ Định nghĩa 2.2 Độ tương tự hai miền cho CFTL Giả sử ζU ζV hai miền, độ tương tự miền ζV với miền ζU xác định công thức sau: Pm Si DI (ζU , ζV ) = i=1 (2.1) m Trong đó: V U V U 1, if x ≥ L and x ≤ R i i V U , if x < L i Si = (2.2) |LU −xVi | V U |xi V −RU | , if xi > R với xi V giá trị phần tử thứ i miền ζV , LU = xUi ; RU = max xUi ; m, j=1,n j=1,n n số lượng dòng liệu ζV , ζU tương ứng Bổ đề 1: Với độ tương tự DI hai miền ζU ζV , giá trị DI thỏa mãn yêu cầu sau: DI(ζU , ζV ) ∈ [0, 1] DI(ζU , ζV ) = 1, IF ζV ⊆ ζU DI(ζU , ζV ) → IF ∀xVi > RU Để xem xét luật chuyển giao sang miền đích, định nghĩa luật phù hợp (bao gồm luật thích nghi luật ứng cử) trình bày Nhưng trước hết, việc xác định dựa chế suy diễn hệ M-CFIS trình đánh giá độ mạnh đề xuất (Định nghĩa 2.3) Định nghĩa 2.3 Độ mạnh luật mờ phức cho lựa chọn luật chuyển giao 13 Độ mạnh luật mờ phức xác định hàm sau: q ωu = (FA cos(FP ))2 + (FA sin(FP ))2 k=1,n k ∈ 1, n, FA = ϑH (luk ) (2.3) biên độ cháy, FP = wH (luk ) pha cháy Định nghĩa 2.4 Luật thích nghi luật ứng cử Cho luật mờ phức R dòng liệu t (i) Luật R luật thích nghi liệu t khi: - R.lable = t.label - ωR > ε (ii) Luật R gọi luật ứng cử dòng liệu t thỏa mãn: - R.lable = t.label A >ε) - n(F n(FA ) ≥ α - Với ∀(FA ≤ ε) (FP ≥ β) Trong đó: - R.label nhãn đầu luật; - t.label nhãn dòng liệu t; - FA độ mạnh thành phần biên độ; - FP độ mạnh thành phần pha; - ωR độ mạnh luật; - n(FA > ε) số lượng phần biên độ lớn ϵ; - n(FA ) số lượng phần biên độ; - ε, α, β ∈ [0, 1]: tham số xác định trước 2.2 Mơ hình học chuyển giao mờ phức Hình 2.1: Mơ hình học chuyển giao hệ suy diễn mờ phức Mơ hình CFTL đề xuất thiết kế mô hình chuyển giao tri thức miền nguồn miền đích có mối quan hệ chuyển giao (Định nghĩa 2.1) 14 Trong mơ hình này, nhiệm vụ miền nguồn đích có kích thước có phân phối khác CFTL cố gắng thu hẹp khoảng cách khác biệt phân phối suốt trình học tập điều chỉnh việc học từ ngữ cảnh sang ngữ cảnh khác Sự thay đổi bối cảnh thay đổi miền, thiếu thơng tin, tình huống, v.v CFTL đề xuất chuyển kiến thức từ không gian sang không gian khác để giảm thời gian xử lý nhằm tạo sở luật với chất lượng dự đoán chấp nhận Thiết kế CFTL (Hình 2.1) bao gồm giai đoạn Đầu tiên, giai đoạn điều chỉnh khoảng miền thay đổi thông tin CFS miền nguồn để phù hợp với khoảng liệu miền đích Tiếp theo, quy trình để chọn tập hợp Dsub(k) dựa nhãn liệu trường thuộc tính đích giới thiệu Sau đó, ghi liệu tập Dsub(k) sử dụng để thích ứng nghi luật Cuối cùng, CFR thích nghi kết hợp tạo tập luật thích nghi cuối cùng- Rad(Final), tập luật mờ phức sử dụng suy luận miền đích 2.2.1 Điều chỉnh tập mờ phức miền nguồn Do khoảng miền liệu khác miền nguồn miền đích, phần đưa phương pháp điều chỉnh để chuyển giao tập mờ miền nguồn sang miền đích.Để điều chỉnh miền đầu vào nguồn cho phù hợp với miền đầu vào đích, cần thay đổi khoảng đầu vào nguồn thành khoảng đầu vào đích Các thành phần biên độ pha thuộc tính miền nguồn miền đích so sánh Biên khoảng miền thuộc tính miền nguồn mở rộng thu hẹp liệu từ khoảng thuộc tính miền đích Mỗi thành phần biên độ pha đầu vào miền đích so sánh tương ứng với khoảng biên độ pha miền nguồn Nếu nhỏ biên bên trái, biên trái bị thu hẹp; mặt khác, biên phải mở rộng lớn biên phải Kết thu tập hợp trung tâm thích ứng với đầu vào miền đích 2.2.2 Lựa chọn tập liệu Việc chọn tập liệu đích điều cần thiết để giảm thơng tin vơ ích mẫu đích cần có quy trình thích nghi luật Mỗi tập hợp Dsub lựa chọn có kích thước K riêng biệt, tách rời Quá trình lựa chọn tập Dsub mơ tả sau: Với liệu miền đích, ta cần chọn Nd (Nd = η ∗ Nψ , η tỷ kệ học) ghi chia thành NDsub (NDsub =Nd /K) tập liệu có kích thước K Các ghi chọn ngẫu nhiên, khơng chọn lại 2.2.3 Thích nghi luật mờ phức Mỗi tập Dsub chọn sử dụng để tạo tập luật thích nghi (gọi Rad ) thông qua điều chỉnh luật mờ phức Việc điều chỉnh CFR dựa chế suy luận M-CFIS, sử dụng CFR miền nguồn làm sở luật khởi tạo cho Rad Cơ sở luật kiểm tra lặp lặp lại để tìm luật thích nghi nhiều với độ mạnh lớn Điều giúp cải thiện tốt cho miền mục tiêu Mỗi ghi liệu t tập Dsub tạo thích nghi tập luật mờ phức Rad , tức tạo trình hiệu chỉnh hay thêm luật nhằm 15 mục đích thích nghi với ghi liệu t Tham số Maxfire, gọi tốc độ học Số lượng luật thích nghi ứng với ghi phụ thuộc vào tham số Với mơ hình đề xuất, q trình chọn ngẫu nhiên liệu Nd thay lấy tồn liệu miền mục tiêu để tạo luật Điều có nghĩa Nd ghi liệu đại diện cho Nψ ghi liệu miền đích Giả sử ghi liệu tạo luật, Nψ liệu, tạo Nψ luật Trong Nd sử dụng để đại diện cho Nψ nhằm giúp tạo sở luật miền mục tiêu Do đó, với liệu Nd sau thích nghi tối đa tạo Nψ luật ghi tạo Nψ /Nd luật Đây ý tưởng để xác định Maxfire thích nghi sở luật 2.2.4 Kết hợp sở luật mờ phức Sau có tập CFR thích nghi Rad(1), Rad(2), , Rad(k), chúng tổng hợp cách loại bỏ CFR giống CFR yếu để có tập hợp CFR thích nghi cuối (được đặt tên Rad (Final)) làm tập CFR cho liệu đích 2.3 2.3.1 Thực nghiệm Kịch thực nghiệm Với mục đích đánh giá hiệu CFTL, CFTL sử dụng cho việc tạo mơ hình suy diễn mờ phức cho miền mục tiêu phần liệu nhỏ thay sử dụng tồn liệu miền đích Kịch thực nghiệm CFTL thực sau: - Từ tập liệu ban đầu sau tách nhẫu nhiên lượng liệu kiểm thử (20%), liệu lại (80%), tiếp tục tách phần coi miền nguồn phần coi miền đích Để đảm bảo ngữ cảnh giống với toán đặt (chương 1), thực nghiệm, lấy lượng liệu nhỏ (10%) miền nguồn lại (90%) miền đích Việc tách liệu coi miền nguồn thực theo phương pháp lấy mẫu ngẫu nhiên đơn giản đảm bảo liệu miền nguồn đích có phân bố khác giá trị khoảng miền thuộc tính - Trong q trình thực học chuyển giao mơ hình CFTL lượng liệu miền đích tiếp tục lấy cho q trình thích nghi luật theo tỉ lệ học (20%), phần liệu lấy ngẫu nhiên chia thành tập Dsub cho trình học chuyển giao mơ hình đề xuất Mơ hình CFTL so sánh với phương pháp mơ hình M-CFIS truyền thống (nơi mà toàn 80% liệu sử dụng để sinh luật cho hệ suy diễn miền đích), kết thực nghiệm đánh giá dựa ba số: thời gian tính tốn, độ xác số lượng luật Tóm lại, kết thực nghiệm hai loại liệu: liệu chuẩn liệu thực tế cho thấy tính hiệu ý nghĩa mặt thời gian thực CFTL 16 Hình 2.2: Kết thực nghiệm tập Diabetes Breast-Cancer Hình 2.3: Kết thực nghiệm tập CreditCard Liver 17 2.4 Kết Chương Trong chương này, mơ hình FTL hệ Mamdani CFIS đề xuất nhằm làm giảm thời gian xây dựng mơ hình cho miền mục tiêu thơng qua việc học kiến thức từ miền liên quan Hệ thống đề xuất chọn liệu từ miền đích để điều chỉnh sở luật miền nguồn theo chế hệ suy diễn Mamdani CFIS Kích thước liệu chọn nhiều so với tồn liệu miền đích để giảm thời gian tính tốn Kỹ thuật học chuyển giao mờ áp dụng để chuyển giao hệ suy diễn mờ phức miền nguồn (tập luật mờ phức, sở luật mờ phức) sang miền đích giai đoạn điều chỉnh thích nghi miền nguồn thích nghi luật mờ phức Kết thực nghiệm liệu UCI liệu thực tế cho thấy CFTL đem mang lại kết mong muốn với tình cần xây dựng CFIS miền đích (với liệu lớn) khoảng thời gian hạn chế cách tái sử dụng hệ thống suy luận mờ phức miền tương tự có sẵn (miền nguồn) Kết nghiên cứu cơng bố cơng trình [3] luận án Mặc dù mơ hình đề xuất rút ngắn thời gian tạo hệ Mamdani CFIS cho miền mục tiêu nhờ khả chuyển giao luật, kết hợp với liệu hạn chế miền đích Tuy nhiên, mơ hình học chuyển giao CFTL đề xuất chưa tận dụng thành phần Pha trình chỉnh sửa luật Bên cạnh đó, rút ngắn thời gian tạo sở luật mờ phức cho hệ suy diễn mờ phức miền đích, thời gian suy diễn mờ phức lại chưa xem xét đến Đây hạn chế mơ hình CFTL đề xuất vấn đề nghiên cứu đặt cho nghiên cứu chương Chương HỆ HỌC CHUYỂN GIAO MỜ PHỨC DỰA TRÊN CẤU TRÚC CFRG 3.1 Giới thiệu Giảm thời gian suy diễn hệ suy diễn mờ thực nhiều phương pháp khác tối ưu hóa luật suy diễn, sử dụng biểu đồ quan hệ, chia nhỏ hệ thống v.v Việc giảm thời gian suy diễn hệ suy diễn mờ phức cần thiết, thành phần pha làm tăng thời gian suy diễn hệ suy diễn mờ phức lên đáng kể Bên cạnh đó, việc giảm thời gian suy diễn hệ suy diễn mờ phức làm giảm thời gian cho mơ hình học chuyển giao CFTL đề xuất chương 2, trình thích nghi luật mơ hình CFTL xây dựng dựa chế suy diễn mờ phức Ngoài ra, chế gợi ý lựa chọn giá trị phần biên độ pha chỉnh sửa luật giai đoạn thích nghi luật dễ dàng hơn, giúp giảm thời gian tìm kiếm giá trị biên độ hay pha Và tổng thể giúp thời gian học chuyển giao hệ suy diễn mờ phức cải tiến mặt thời gian Cấu trúc liệu cấu trúc liệu tốt nhằm biểu diễn liệu