Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Nghiên cứu phát triển mô hình đồ thị tri thức mờ dạng cặp và ứng dụng trong hỗ trợ chẩn đoán bệnh.Microsoft Word 02 Tom tat LATS bao ve cap DHBK docx BỘ GIÁO DỤC VÀ ĐÀO TẠO ĐẠI HỌC BÁCH KHOA HÀ NỘI Cù Kim Long NGHIÊN CỨU PHÁT TRIỂN MÔ HÌNH ĐỒ THỊ TRI THỨC MỜ DẠNG CẶP VÀ ỨNG DỤNG TRONG HỖ TRỢ CHẨN.
BỘ GIÁO DỤC VÀ ĐÀO TẠO ĐẠI HỌC BÁCH KHOA HÀ NỘI Cù Kim Long NGHIÊN CỨU PHÁT TRIỂN MÔ HÌNH ĐỒ THỊ TRI THỨC MỜ DẠNG CẶP VÀ ỨNG DỤNG TRONG HỖ TRỢ CHẨN ĐOÁN BỆNH Ngành: Hệ thống thơng tin Mã số: 9480104 TĨM TẮT LUẬN ÁN TIẾN SĨ HỆ THỐNG THƠNG TIN Hà Nội - 2023 Cơng trình hồn thành tại: Đại học Bách Khoa Hà Nội NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS.TS Phạm Văn Hải PGS.TS Hà Quốc Trung Phản biện 1: Phản biện 2: Phản biện 3: Luận án bảo vệ Hội đồng đánh giá luận án tiến sĩ cấp Đại học Bách khoa Hà Nội họp Đại học Bách khoa Hà Nội Vào hồi … … ngày … tháng … năm … Có thể tìm hiểu luận án tại: Thư viện Tạ Quang Bửu - Đại học Bách khoa Hà Nội Thư viện Quốc gia Việt Nam MỞ ĐẦU Tổng quan Chẩn đoán bệnh hiểu trình định nhằm xác định bệnh nguyên tạo triệu chứng người bệnh Chẩn đoán bệnh y học đại việc hỏi bệnh, khai thác tiền sử bệnh, thăm khám thực thể, cần thiết định làm xét nghiệm cận lâm sàng, thăm dò chức để chẩn đoán định phương pháp điều trị phù hợp cơng nhận Chẩn đốn bệnh y học cổ truyền tổng hợp kiến thức, kỹ thực hành dựa lý thuyết, niềm tin kinh nghiệm địa văn hóa khác nhau, dù giải thích hay khơng, sử dụng để chẩn đoán bệnh thể chất lẫn tinh thần Trong năm gần đây, đội ngũ lương y, bác sĩ thường sử dụng kết hợp phác đồ điều trị y học cổ truyền với kết khám, xét nghiệm y học đại nhằm nâng cao chất lượng chẩn đoán bệnh Điều thúc đẩy mạnh mẽ công tác nghiên cứu y học áp dụng công nghệ thông tin vào q trình khám chẩn đốn bệnh nhằm mục đích hỗ trợ đội ngũ lương y, bác sĩ bệnh viện địa phương Gần đây, hướng nghiên cứu suy diễn dựa đồ thị tri thức mờ (FKG) với ưu điểm cho phép thực suy diễn trường hợp liệu thu thập chưa đầy đủ thiếu tri thức kho liệu nhận nhiều quan tâm ý nhà nghiên cứu nước FKG lần đầu giới thiệu vào năm 2020 mơ hình M-CFIS-FKG Nó giải hạn chế đồ thị tri thức (KG) giải toán chẩn đoán bệnh dựa liệu có tính chất chu kỳ, thông tin đầu vào không chắn FKG sử dụng nhãn ngơn ngữ cho thuộc tính tập liệu huấn luyện Đầu tiên, đồ thị tri thức mờ xây dựng sau giai đoạn tiền xử lý (hay gọi biểu diễn đồ thị tri thức mờ) Sau đó, q trình suy diễn xấp xỉ áp dụng để tìm nhãn đầu ghi tập liệu kiểm tra Đồ thị tri thức mờ suy diễn dựa tập luật IF-THEN (hay gọi sở luật mờ), tác động nhãn ngơn ngữ có khả tạo nhãn đầu tương ứng Hơn nữa, mơ hình M-CFIS-FKG vượt qua hạn chế mơ hình dựa hệ suy diễn mờ phức dạng Mamdani (chẳng hạn M-CFIS-R) việc tìm nhãn đầu mẫu chưa có sở luật mờ cách áp dụng thuật toán FISA sử dụng chế suy diễn xấp xỉ Lấy ví dụ tốn chẩn đoán dấu hiệu tiền sản giật, việc bác sĩ đưa định kết luận chẩn đoán bệnh (hay nhãn đầu ra) “Bình thường”, “Tiền sản giật”, hay “Tiền sản giật nặng” phụ thuộc vào nhãn ngôn ngữ “Cao”, “Bình thường” hay “Thấp” thuộc tính đầu vào “Huyết áp”, nhãn ngơn ngữ “Cao” hay “Bình thường” thuộc tính đầu vào “LDH” (axit lactic dehydrogenase), với độ xác khoảng 90% Trong trường hợp này, luật mờ biểu diễn sau: IF “Huyết áp” “Cao” “LDH” “Cao” THEN “Tiền sản giật nặng”, với độ tin cậy 90% Bằng cách tích lũy kiện đơn lẻ (hoặc cặp đơn đồ thị tri thức mờ), kết xác định nhãn đầu ghi Tuy nhiên, mô hình M-CFIS-FKG sử dụng cặp đơn (single pairs) trình suy diễn nên chưa xử lý vấn đề trường hợp thông tin tập liệu đầu vào chưa đầy đủ Hơn nữa, số trường hợp cực đoan, phương pháp suy diễn mờ chưa giải toán phân loại, hỗ trợ định liệu đầu vào lớn sở luật mờ nhỏ (chẳng hạn toán chẩn đoán bệnh lĩnh vực y tế) Đây động luận án tập trung nghiên cứu phát triển mơ hình nhằm giải toán hỗ trợ định trường hợp cực đoan hiệu hơn, đáp ứng yêu cầu thực tế đặt Trong phạm vi nghiên cứu luận án tiến sĩ này, hai câu hỏi nghiên cứu thực cần thiết cấp bách tập trung nghiên cứu nhằm giúp hệ hỗ trợ định hoạt động hiệu hơn, đáp ứng yêu cầu thực tế, cụ thể là: Làm để nghiên cứu phát triển đề xuất mơ hình định dựa đồ thị tri thức mờ dạng cặp trường hợp thông tin tập liệu đầu vào chưa đầy đủ? Làm để nghiên cứu phát triển đề xuất mô hình định dựa đồ thị tri thức mờ dạng cặp trường hợp cực đoan với tập liệu lớn tập liệu huấn luyện nhỏ, thiếu tri thức? Mục tiêu nghiên cứu Mục tiêu luận án nghiên cứu phát triển mơ hình đồ thị tri thức mờ dạng cặp ứng dụng cho hệ hỗ trợ định cách hiệu Mục tiêu cụ thể sau: - Nghiên cứu phát triển mơ hình đồ thị tri thức mờ dạng cặp (FKG-Pairs) hỗ trợ định trường hợp thông tin liệu đầu vào thu thập chưa đầy đủ - Nghiên cứu phát triển mơ hình đồ thị tri thức mờ dạng cặp hỗ trợ định trường hợp cực đoan (FKG-Extreme) nhằm cải thiện hiệu hệ thống mặt độ xác so với mơ hình tin cậy Phương pháp nghiên cứu Trong khuôn khổ phạm vi nghiên cứu đề tài, để hoàn thành mục tiêu đề ra, số phương pháp nghiên cứu sử dụng để thực hoàn thành luận án tiến sĩ này, cụ thể là: - Phương pháp tiếp cận theo kỹ thuật mờ, suy diễn mờ, phương pháp học máy tiếp cận theo suy diễn mờ nghiên cứu phát triển mơ hình hỗ trợ định - Phương pháp khảo sát áp dụng để thu thập, tổng hợp phân tích cơng trình nghiên cứu cơng bố số nguồn sở liệu học thuật thống (chẳng hạn: IEEE, ScienceDirect, Google Scholar, v.v.) có liên quan đến đề tài nhằm xác định khoảng trống đưa câu hỏi nghiên cứu - Phương pháp so sánh sử dụng nhằm so sánh, đánh giá mô hình đề xuất so với mơ hình truyền thống khác - Phương pháp kiểm chứng áp dụng để mô phương pháp đề xuất dựa liệu kho liệu học máy chuẩn UCI liệu triệu chứng y học - Các kỹ thuật, công cụ phần mềm sử dụng để cài đặt thực nghiệm chủ yếu mô công cụ phần mềm Matlab, Microsoft Excel, Python Kivy Những đóng góp luận án Luận án có hai đóng góp cho khoa học mặt lý thuyết đóng góp mặt ứng dụng Các đóng góp luận án tóm tắt cách ngắn gọn sau: Thứ nhất, luận án có đóng góp mặt lý thuyết mơ hình hỗ trợ định dựa đồ thị tri thức mờ dạng cặp FKG-Pairs đề xuất để giải toán định trường hợp tập liệu đầu vào chưa đầy đủ, với hai giai đoạn biểu diễn FKG-Pairs suy diễn xấp xỉ dựa FKG-Pairs Thứ hai, luận án đề xuất mơ hình định dựa đồ thị tri thức mờ dạng cặp trường hợp cực đoan FKG-Extreme với tập liệu đầu vào lớn sở tri thức q nhỏ Ngồi ra, mơ hình lý thuyết nghiên cứu, cài đặt dựa liệu triệu chứng thu thập thực tế để mô toán chẩn đoán bệnh lĩnh vực y tế Tóm lại, luận án có đóng góp mặt lý thuyết ứng dụng, cụ thể sau: • Mơ hình hỗ trợ định dựa đồ thị tri thức mờ dạng cặp (FKG-Pairs) trình bày chương 2 • Mơ hình hỗ trợ định dựa đồ thị tri thức mờ dạng cặp trường hợp cực • đoan (FKG-Extrme) trình bày chương Ứng dụng hỗ trợ chẩn đốn bệnh y học trình bày cuối chương chương Bố cục luận án Luận án gồm ba chương mô tả Hình Ngồi nội dung phần mở đầu, kết luận, danh mục cơng trình cơng bố luận án tài liệu tham khảo, phần lại luận án tiến sĩ bố cục sau: - Chương giới thiệu sở lý thuyết thực nghiệm nhằm mục tiêu giải hai câu hỏi nghiên cứu nêu mục chương - Chương trình bày mơ hình đồ thị tri thức mờ dạng cặp FKG-Pairs hỗ trợ định nhằm giải lớp toán phân loại trường hợp tập liệu đầu vào thu thập thông tin chưa đầy đủ - Chương đề xuất mơ hình đồ thị tri thức mờ dạng cặp trường hợp cực đoan FKGExtreme nhằm xử lý lớp toán phân loại, hỗ trợ định trường hợp tập liệu đầu vào lớn sở tri thức nhỏ Nội dung trình bày chương xem kết nghiên cứu luận án Trước trình bày chi tiết kết nghiên cứu đóng góp cho khoa học luận án, sở lý thuyết tảng liệu thực nghiệm giới thiệu để làm sở nghiên cứu phát triển đề xuất mô hình lý thuyết mơ ứng dụng hỗ trợ chẩn đốn bệnh Hình Cấu trúc luận án Chương CƠ SỞ LÝ THUYẾT Để giải hai câu hỏi nghiên cứu trình bày mục phần mở đầu, nội dung chương trình bày khái niệm, kỹ thuật liên quan đến tập mờ, hệ suy diễn mờ, đồ thị tri thức, đồ thị tri thức mờ, kỹ thuật Q-learning phân tích liệu sử dụng trình tiến hành thực nghiệm Đây sở lý thuyết tảng để nghiên cứu phát triển mơ hình lý thuyết cho tốn hỗ trợ định trình bày chi tiết chương 1.1 Tập mờ Định nghĩa 1.1 Một tập mờ (FS) = 〈 , gọi độ thuộc khơng gian 〉|∀ ∈ , tập có dạng: ∈ 0,1 , 1.4 Định nghĩa 1.3 Một tập mờ viễn cảnh (PFS) dạng: = , , , tập khơng rỗng khơng gian | ∈ có (1.7) , ∈ 0,1 độ tích cực (positive degree) phần tử ∈ , ∈ 0,1 độ trung lập (neutral degree), ∈ 0,1 độ tiêu cực (negative degree), thỏa mãn điều kiện ràng buộc: + + ≤ , ∀ ∈ Độ từ chối (refusal degree) phần tử ∈ ký hiệu ! xác định là: ! =1− + + 1.8 1.2 Các hệ suy diễn mờ Hệ suy diễn mờ (FIS) khung tính toán phổ biến dựa khái niệm lý thuyết tập mờ, thường áp dụng xây dựng hệ thống hỗ trợ định trường hợp thông tin đầu vào không rõ ràng Sơ đồ tổng quát hệ suy diễn mờ Hình 1.1 tóm tắt gồm ba phần chính: Bộ mờ hóa, sở tri thức, giải mờ Hình 1.1 Sơ đồ tổng quát hệ suy diễn mờ 1.3 Đồ thị tri thức mờ Gần đây, đồ thị tri thức mờ (FKG) đề xuất vào năm 2020 nhằm giải hạn chế đồ thị tri thức việc biểu diễn tri thức suy diễn xấp xỉ dựa tập liệu đầu vào có thơng tin khơng rõ ràng chưa đầy đủ cách sử dụng nhãn ngôn ngữ cho thuộc tính tập huấn luyện kết nối với nhãn đầu FKG sử dụng cặp đơn cách áp dụng thuật tốn FISA để tìm nhãn đầu mẫu dựa vào kết tính tốn trọng số cạnh nối nhãn thuộc tính (∑ '%& ) trọng số cạnh nối từ nhãn thuộc tính đến nhãn đầu (∑ (%)' ) cách áp dụng công thức (1.10) ' %& trong = 1, ;, 3, +,- ℎệ 1ớ3 ℎã 456.7 8,ậ4 4| |:| (1.10 1.11 1, D Sau tính tốn trọng số , (, thuật tốn FISA áp dụng để tìm nhãn đầu tương ứng với luật mờ theo bước sau: Đầu tiên, giá trị ngôn ngữ tương ứng với nhãn luật đồ thị tri thức mờ tính tốn theo cơng thức (1.12) D%) 1, ;, 3, @ (%)' 1, D 1.12 ' Sau đó, với giá trị (%)' biểu diễn mối quan hệ thuộc tính -% với nhãn đầu Ý tưởng gán nhãn thuật toán FISA dựa khái niệm suy diễn xấp xỉ, điều có nghĩa giá trị ngôn ngữ ghi tập liệu kiểm tra tính tốn suy diễn theo thuộc tính tương ứng đồ thị FKG, với mục đích tìm nhãn tương ứng phù hợp Với ghi nhãn tương ứng với luật tính tốn tử MAX-MIN cơng thức (1.13) sau: F) G KKKK %HI,J D%) GLM%HI,J KKKK D%) 1.13 Cuối cùng, nhãn đầu cuối ghi xác định toán tử MAX theo quy tắc công thức (1.14) đây: Nhãn đầu p ⟺ DZ G KKKK )HI,[ F) 1.14 Với việc áp dụng thuật tốn FISA, mơ hình M-CFIS-FKG cải thiện hiệu hệ thống thời gian tính tốn so với mơ hình M-CFIS-R Như vậy, FKG tích hợp thành cơng với hệ suy diễn mờ phức dạng Mamdani (MCFIS) để giải toán định với liệu đầu vào biến thiên (chẳng hạn, liệu thay đổi theo biên độ theo chu kỳ thời gian) Mơ hình M-CFIS-FKG kế thừa từ M-CFIS giới thiệu vào năm 2019 mơ hình M-CFIS-R giới thiệu vào năm 2020 Trong mơ hình (M-CFIS, M-CFIS-R, M-CFIS-FKG), liệu tập kiểm tra kiểm tra việc khớp luật sở luật mờ Trong trường hợp sở luật mờ thiếu luật để khớp với mẫu cần kiểm tra, FKG sử dụng để suy diễn xấp xỉ Tuy nhiên, FKG đề xuất mơ hình M-CFIS-FKG sử dụng cặp thuộc tính đơn lẻ nên khơng thể giải hiệu toán định trường hợp tập liệu có thơng tin thuộc tính đầu vào chưa đầy đủ sở luật mờ thiếu tri thức 1.4 Kỹ thuật Q-learning học tăng cường Khung Q-learning chuẩn bao gồm bốn thành phần: môi trường, nhiều tác nhân, không gian trạng thái không gian hành động Giá trị Q-value thể độ tốt xấp xỉ hành động có liên quan đến mục tiêu tác nhân Một tác nhân lựa chọn hành động theo sách giá trị Q-value Sau thực hành động, tác nhân điều chỉnh sách đến đạt mục tiêu Giá trị Q-value cập nhật cách áp dụng phương trình Bellman theo cơng thức (1.15) \ ]' , ' ← − _ \ ]' , ' + _ :' + ` max \ ]'dI , - − \ ]' , ' 1.15 c đó: \ ]' , ' giá trị Q-value hành động ' trạng thái ]' cho :' phần thưởng nhận thực hành động ' trạng thái ]' Hơn nữa, max \ ]'dI , - c giá trị Q-value lớn trạng thái ]'dI tất hành động - Các tham số _ ` gọi tốc độ học hệ số phần thưởng tương lai Giá trị chúng nằm khoảng (0,1) 1.5 Bộ liệu thực nghiệm a) Bộ liệu chuẩn UCI Trong trình thực nghiệm, sáu liệu lấy từ kho liệu học máy UCI sử dụng b) Bộ liệu thực Bộ liệu sử dụng để thực nghiệm mô phương pháp FKG-Pairs gồm 210 sản phụ đến khám định kì theo dõi thai nhi với 19 số kiểm tra, theo dõi Bên cạnh đó, để tiến hành mơ tốn phân loại, trợ giúp định trường hợp cực đoan theo cách tiếp cận FKG-Extreme, liệu từ 3652 bệnh nhân Bệnh viện Đa khoa tỉnh Điện Biện tổng hợp với 15 số kiểm tra c) Phương pháp đánh giá thực nghiệm Để đánh giá hiệu mơ hình đề xuất, tiêu chí sử dụng gồm có độ xác thời gian tính tốn 1.6 Kết luận Chương Chương trình bày số khái niệm lý thuyết tập mờ hệ suy diễn mờ Các kiến thức đồ thị mờ, cấu trúc đồ thị mờ, đồ thị tri thức, đồ thị tri thức mờ, kỹ thuật Qlearning phân tích ANOVA làm sở tảng để nghiên cứu phát triển đề xuất hai mơ hình lý thuyết nhằm giải toán phân loại, hỗ trợ định trình bày chi tiết chương Ngoài ra, liệu sử dụng thực nghiệm phịng thí nghiệm, xây dựng ứng dụng mô thực tế phương pháp đánh giá thực nghiệm trình bày chương Trên sở kiến thức lý thuyết tảng liệu nghiên cứu chuẩn bị sẵn sàng trình bày chương này, kết nghiên cứu luận án trình bày chi tiết chương Chương MƠ HÌNH ĐỒ THỊ TRI THỨC MỜ DẠNG CẶP FKG-PAIRS TRONG HỖ TRỢ RA QUYẾT ĐỊNH Chương tập trung giải câu hỏi nghiên cứu thứ nhất: Làm để nghiên cứu phát triển đề xuất mơ hình định dựa đồ thị tri thức mờ dạng cặp trường hợp thông tin tập liệu đầu vào chưa đầy đủ? Theo đó, nội dung chương trình bày chi tiết kết nghiên cứu, đề xuất mơ hình đồ thị tri thức mờ dạng cặp (FKG-Pairs) để giải tốn phân loại trường hợp thơng tin tập liệu đầu vào chưa đầy đủ, với hai giai đoạn biểu diễn FKG-Pairs suy diễn xấp xỉ dựa FKG-Pairs Ngoài ra, kết cài đặt thử nghiệm kiểm chứng mơ hình đề xuất FKG-Pairs dựa sáu liệu chuẩn UCI liệu bệnh nhân tiền sản giật trình bày chương Phần nội dung lại chương bao gồm phát biểu tốn, mơ hình thuật tốn FKG-Pairs, phân tích cặp, kết cài đặt thực nghiệm sáu liệu chuẩn UCI ứng dụng mơ mơ hình lý thuyết FKG-Pairs cho toán hỗ trợ chẩn đoán tiền sản giật 2.1 Phát biểu toán Các yêu cầu cụ thể tốn tổng qt trình bày phần phát biểu sau: Đầu vào: Giả sử có sở luật mờ đưa sau áp dụng chế sinh luật (chẳng hạn FIS M-CFIS) Bảng 2.1, -fI , -fg , … , -fijI , -fi thuộc tính tập liệu Bảng 2.1 Cơ sở luật mờ Luật R1 R2 … Rn-1 Rn Nhãn thuộc tính lm k p37ℎ Grt3,> … Grt3,> u6v {p37ℎ, Grt3,>, u6v ln k p37ℎ Grt3,> … Grt3,> Grt3,> p37ℎ, Grt3,> l ojm k … qr5s p37ℎ Grt3,> … Grt3,> u6v {qr5s p37ℎ, p37ℎ, Grt3,>, u6v} … … … … … … lo k p37ℎ u6v … Grt3,> u6v p37ℎ, Grt3,>, u6v Nhãn đầu … {1, 2, 3, …, C} Ngồi ra, mẫu biểu diễn theo dạng luật sau: lm "u6v" k l n "u6v” k lx "p37ℎ" k ly "qr5s p37ℎ" k lz "u6v" … IF k lojm "p37ℎ" k lo "u6v" THEN nhãn đầu gì? k Đầu ra: Nhãn đầu mẫu Để giải toán phát biểu trên, ý tưởng mơ hình đề xuất trình bày tóm tắt sau: Xuất phát từ tập liệu sẵn sàng sau thực hồn thành giai đoạn tiền xử lý, mơ hình đề xuất biểu diễn đồ thị FKG-Pairs tập liệu huấn luyện gán nhãn cho mẫu tập liệu kiểm tra Do vậy, mô hình đề xuất chia thành số bước sau: • Đầu tiên, chế sinh luật áp dụng để thu sở luật mờ từ tập liệu huấn luyện • Tiếp theo, đồ thị FKG-Pairs biểu diễn sau tính tốn trọng số cạnh nối nhãn thuộc tính trọng số cạnh nối từ siêu đỉnh đến nhãn đầu luật tập liệu huấn luyện • Cuối cùng, thuật toán FKG-Pairs áp dụng để gán nhãn cho mẫu tập liệu kiểm tra 2.2 Mô hình FKG-Pairs Trong phần này, mơ hình đề xuất trình bày để minh họa giai đoạn từ nhận mẫu đến gán nhãn cho Mơ hình đề xuất chia thành ba giai đoạn, bao gồm: giai đoạn tiền xử lý, giai đoạn biểu diễn đồ thị FKG-Pairs, giai đoạn suy diễn xấp xỉ Mơ hình đề xuất FKG-Pairs minh họa Hình 2.1 2.2.1 Giai đoạn tiền xử lý Giai đoạn tiền xử lý ba giai đoạn mô hình đề xuất Sau thu thập liệu, liệu đầu vào tiến hành mờ hóa cách sử dụng biến ngơn ngữ Sau đó, chế sinh luật áp dụng để sinh luật (chẳng hạn FIS M-CFIS) Kết giai đoạn sở luật mờ hiển thị Bảng 2.1 sử dụng để xây dựng đồ thị tri thức mờ dạng cặp giai đoạn 2.2.2 Giai đoạn xây dựng đồ thị FKG-Pairs Từ sở luật mờ trình bày Bảng 2.1, số bước thực để tính trọng số cạnh biểu diễn đồ thị FKG-Pairs, cụ thể là: | €}~…• Bước Tính tốn trọng số { Từ sở luật mờ tập huấn luyện, công thức (2.1) áp dụng để tính trọng số cạnh nối đỉnh nhãn thuộc tính •'%&…J luật t :' •'%&…J *cf‚ → cf„ → ⋯→ cf†‡ˆ '‰Š‹Œ )•ậ' '* |Ž| , 2.1 đó, 1, , ≤ < = < ⋯ < ; ≤ > − | €}~…•• xác định giá trị cận • Bước Tính tốn trọng số • Sau tìm trọng số cạnh nối đỉnh nhãn thuộc tính •'%&…JdI , trọng số cạnh nối từ siêu đỉnh (đỉnh kết hợp ; thuộc tính đầu vào) đến đỉnh nhãn đầu luật t :' tính tốn cách áp dụng cơng thức (2.2) 2.3 Thuật tốn FKG-Pairs Thuật tốn FKG-Pairs mơ tả chi tiết sau Thuật toán FKG-Pairs Đầu vào: (‘, ; ; KKKKKK 2, > >: Số thuộc tính luật .: Số luật tập liệu D: Số nhãn đầu tập liệu _ J : Trọng số tham số độ xác ¡¡ ; £ J : Trọng số tham số thời gian tính tốn ¤3>r ; Tập liệu kiểm tra Đầu ra: Tìm nhãn đầu mẫu tập kiểm tra giá trị cặp tốt ; ∗ , độ xác ( ¡¡ ; ∗ thời gian tớnh toỏn Ô3>r ; 1: 2: 3: 4: 5: 6: 7: 8: 9: 10: 11: 12: 13: 14: 15: 16: 17: 18: 19: 20: 21: BEGIN ' Nhận trọng số (‘%&…J) sau thực xong giai đoạn biểu diễn đồ thị tri thức mờ dạng cặp (FKG-Pairs) Nhận tập liệu kiểm tra sau tách liệu đầu vào Tiến hành mờ hóa tập liệu kiểm tra giá trị biến ngôn ngữ áp dụng chế sinh luật ý kiến chuyên gia For ; ” to ; For = to For = to D While ≤ < = < ⋯ < ; ” ≤ ; Begin Tính tốn: D•%&…J “ ) = ∑' (‘ ' “ |) = GTính tốn: F %&…J ) I—%˜&˜⋯˜J “ —J D•%&…J “ ) + G3.I—%˜&˜⋯˜J “ —J D•%&…J “ ) End |œ = Xác định nhãn đầu ghi thứ 4: Mℎã đầ, 5- = š ế, F |) G- )HI,[ F End For Gán nhãn đầu cho ghi thứ phương pháp FKG cặp ; ” End For Ước lượng giá tr cỏc tham s ĂĂ ; v Ô3>r ; ” Tính tốn: ℱ J “ = _ J B ƠƠ J IƯƯ% +ÊJ B Đ%iă J â ê Đ%iă J End For Tỡm giỏ tr cặp phù hợp ; ” cách lấy giá trị G ℱ J “ Gán ; ∗ = ; ” (; ∗ lựa chọn tốt để khuyến nghị xây dựng ứng dụng giới thực dựa phương pháp FKG-Pairs cặp ; ∗ ) Kiểm tra hiệu mơ hình FKG-Pairs cặp ; ∗ dựa độ đo Precision, Recall F1-Score END 11 2.3.1 Độ phức tạp thuật toán Độ phức tạp thời gian tính tốn thuật tốn đề xuất c xỏc nh l ô B B • B ¬•o , đó: • số luật tập liệu; • D nhãn tập liệu; • ; số thuộc tính cặp; • > số thuộc tính luật tập liệu 2.3.2 Phân tích cặp thuật tốn đề xuất Trong tiểu mục này, phân tích cặp mơ hình đề xuất (FKG-Pairs) tiến hành Trước hết, vấn đề cặp ; xem xét để tính tốn trọng số •'%&…J theo cơng thức (2.1) Vì ; KKKKKKKKKKK 1, > − 1, ta có: đó, •'%&…J = *-f% → -f& → ⋯ → -fJdI 456.7 8,ậ4 4* |:| 1, , ≤ < = < ⋯ < ; ≤ > − (viết tắt •'J ) Hơn nữa, tồn giá trị ;¦ KKKKKKKKKKK 1, > − , •'J- I |Ž| Giá trị •'J- ln giá trị nhỏ tham số •'J Điều thực hiệu mặt thời gian tính tốn bối cảnh liệu lớn số lượng thuộc tính ' > liệu lớn Trong trường hợp này, trọng số (‘ tính tốn theo (‘%&…J “) ' thay (‘%&…J) ' Thứ hai, trường hợp cặp ; phân tích để tính tốn trọng số (‘%&…J) dựa vào kết trọng số •'J theo cơng thức (2.2) sau: ' (‘%&…J) |-f% → 456.7 8,ậ4 4| , |:| |-fJ → 456.7 8,ậ4 4| |:| ?@ ã'%&JdI A B GLM đ *-f& 456.7 8,ậ4 4* ,⋯ , |:| đó, 1, , ≤ < = < ⋯ < ; ≤ > − 1, = 1, D ' Với ; 1, tham số (‘%&…J) trở thành (‘%)' (tương ứng với cặp đơn mơ hình M-CFIS-FKG) Khi tốn tử MIN cơng thức (2.2) khơng cịn Như vậy, FKG-Pairs xem ' mở rộng FKG mơ hình M-CFIS-FKG Với trường hợp ; ≥ 2, tham số (‘%&…J) tính tốn cơng thức (2.2) Tóm lại, mơ hình đề xuất FKG-Pairs, cơng thức trình bày để tính toán trọng số cạnh nối nhãn thuộc tính •'J trọng số cạnh nối từ đỉnh kết hợp cặp thuộc tính (hay gọi siêu đỉnh) đến nhãn đầu (‘ 'J Đặc biệt, nhằm giảm thiểu số bước lặp tính tốn trọng số •'J , công thức (2.3) đề xuất để xác định điều kiện dừng tính tốn giá trị trọng số •'J KKKKK •J " ≤ ’ |:| 12 Hơn nữa, làm xác định giá trị ; ∗ để lựa chọn cặp ; ∗ tốt (ở ; ∗ = KKKKK 1, ;) từ mơ hình đề xuất? Trong phạm vi cơng trình nghiên cứu này, hàm giá trị Ÿ • đề xuất cơng thức (2.7) để tìm giá trị ; ∗ hợp lý 2.4 Kết thực nghiệm Các kết cài đặt ví dụ số kết thực nghiệm liệu UCI để minh họa mơ hình đề xuất FKG-Pairs trình bày chi tiết chương luận án tiến sĩ đầy đủ Với kết cài đặt liệu UCI, có hai điểm phát sau tiến hành thực thực nghiệm: Thứ nhất, cách áp dụng chế sinh luật FIS, độ xác phương pháp đề xuất với trường hợp FKG-Pairs2 (FKG-Pairs cặp đôi phương pháp tốt thứ hai số phương pháp dựa vào FKG-Pairs thực nghiệm) cao chút so với phương pháp FIS truyền thống (về tổng thể độ xác trung bình cao khoảng 2.33%), thời gian tính tốn tốt nhiều (về tổng thể thời gian tính tốn trung bình tốt gấp lần) Thứ hai, cách áp dụng chế sinh luật M-CFIS, độ xác phương pháp đề xuất tốt chút so với phương pháp đại (về tổng thể độ xác trung bình cao khoảng 0.68%), không tốt mặt thời gian tính tốn (về tổng thể thời gian tính tốn trung bình cao khoảng 1.76 lần) Từ kết thực nghiệm kịch thứ hai, phương pháp M-CFIS-FKG2 áp dụng giải toán thực tế bối cảnh cần cải thiện độ xác 2.5 Ứng dụng FKG-Pairs hỗ trợ chẩn đoán bệnh tiền sản giật Kết thực nghiệm dựa liệu thực tế chứng minh khả áp dụng đồ thị tri thức mờ dạng cặp để hỗ trợ chẩn đoán dấu hiệu tiền sản giật sản phụ y học hoàn toàn khả thi Độ xác phương pháp FKG-Pairs3 đạt 89.74% với kịch sử dụng phương pháp lấy mẫu ngẫu nhiên hệ thống phương pháp chia liệu truyền thống (70% cho tập huấn luyện 30% cho tập kiểm tra) Tuy nhiên, phương pháp FKG-Pairs3 bộc lộ hạn chế mặt thời gian tính tốn kịch độ xác kịch Để khắc phục hạn chế phương pháp dựa mơ hình FKG-Pairs, mơ hình FKGExtreme đề xuất trình bày chi tiết chương 2.6 Kết luận Chương Trong chương này, kết nghiên cứu phát triển mô hình trình bày để giải câu hỏi nghiên cứu thứ nêu mục phần mở đầu góp phần phân loại mẫu hệ thống thơng tin có liệu đầu vào chưa đầy đủ Từ kết phân tích cặp trình bày tiểu mục 2.3.2, khẳng định mơ hình đề xuất FKG-Pairs mở rộng mơ hình M-CFIS-FKG Đồ thị tri thức mờ dạng cặp kỹ thuật hoàn toàn nhằm giải triệt để lớp toán phân loại, hỗ trợ định dựa liệu đầu vào chưa đầy đủ Trong phạm vi luận án tiến sĩ này, mơ hình FKG-Pairs nghiên cứu phát triển đề xuất để suy diễn xấp xỉ tìm nhãn mẫu bối cảnh liệu đầu vào có nhiều thuộc tính thơng tin mẫu chưa đầy đủ Hơn nữa, chương trình bày kết cài đặt mơ hình đề xuất liệu UCI để so sánh phương pháp dựa mơ hình FKG-Pairs với phương pháp khác Các kết cài 13 đặt cho thấy mơ hình FKG-Pairs có số ưu điểm sau: phương pháp dựa FKG-Pairs có kết thực nghiệm liệu lĩnh vực y tế cho thấy suy diễn xấp xỉ đạt hiệu cao so với phương pháp khác mặt thời gian tính tốn; FKG-Pairs phù hợp để giải vấn đề suy diễn xấp xỉ hệ thống mờ dựa liệu có thơng tin đầu vào chưa đầy đủ; FKG-Pairs suy diễn tìm nhãn mẫu chưa có sở luật mờ Mơ hình đề xuất FKG-Pairs thực hiệu áp dụng để giải toán phân loại, hỗ trợ định hệ thống mờ so với mơ hình tin cậy khác (chẳng hạn phương pháp FIS), mơ hình (M-CFIS-R, MCFIS-FKG) Mặc dù mơ hình FKG-Pairs cho thấy ưu việt so với mơ hình đại (M-CFISR, M-CFIS-FKG) việc xử lý toán suy diễn phân loại kho liệu chứa mẫu thiếu thông tin đầu vào Tuy nhiên, thách thức lớn đặt thực tế hệ thống thơng tin có liệu đầu vào chứa mẫu chưa đầy đủ thông tin sở luật mờ nhỏ so với liệu sinh ra, mơ hình FKG-Pairs bộc lộ hạn chế, chí khơng thể giải trường hợp thiếu sở luật mờ (đặc biệt với hệ thống hồn tồn) Điều động thúc đẩy việc nghiên cứu cải tiến mơ hình FKG-Pairs cách tiếp cận dựa kỹ thuật Q-learning học tăng cường tiếp tục thực nhằm vượt qua thách thức toán suy diễn phân loại thực tế đặt Mô hình đề xuất kết hợp FKG-Pairs Q-learning trình bày chi tiết chương Chương MƠ HÌNH ĐỒ THỊ TRI THỨC MỜ DẠNG CẶP RA QUYẾT ĐỊNH TRONG TRƯỜNG HỢP CỰC ĐOAN FKG-EXTREME Chương tập trung giải câu hỏi nghiên cứu thứ hai: Làm để nghiên cứu phát triển đề xuất mơ hình định dựa đồ thị tri thức mờ dạng cặp trường hợp cực đoan với tập liệu lớn tập liệu huấn luyện nhỏ, thiếu tri thức? Để giải câu hỏi nghiên cứu này, nội dung chương trình bày mơ hình đề xuất FKGExtreme hỗ trợ định cho toán phân loại, định trường hợp cực đoan (với liệu đầu vào lớn tập liệu huấn luyện nhỏ) theo cách tiếp cận kết hợp đồ thị tri thức mờ dạng cặp (FKG-Pairs) với kỹ thuật Q-learning học tăng cường Phần lại chương trình bày nội dung phát biểu tốn, mơ hình thuật tốn FKG-Extreme, kết thực nghiệm dựa liệu chuẩn UCI, phân tích ANOVA hai yếu tố khơng thay thực nhằm kiểm chứng mơ hình đề xuất Ngồi ra, mơ hình lý thuyết FKG-Extreme mô dựa liệu bệnh thận mạn để kiểm chứng khả ứng dụng hỗ trợ chẩn đốn bệnh thực tế Trước trình bày phát biểu tốn, bối cảnh tư tưởng mơ hình đề xuất tóm tắt sau: Như trình bày mục 2.6 chương 2, mơ hình FKGPairs cho thấy ưu việt so với mơ hình M-CFIS-R [35] mơ hình M-CFIS-FKG [3] việc xử lý toán phân loại, hỗ trợ định với tập liệu đầu vào 14 chưa đầy đủ Tuy nhiên, thách thức lớn đặt thực tế hệ thống với liệu đầu vào chứa mẫu chưa đầy đủ thông tin sở luật mờ nhỏ so với liệu sinh ra, FKG-Pairs bộc lộ hạn chế Điều thúc đẩy việc nghiên cứu cải tiến mơ hình FKG-Pairs cách tiếp cận dựa kỹ thuật Qlearning học tăng cường để vượt qua thách thức toán phân loại, hỗ trợ định trường hợp cực đoan đáp ứng yêu cầu thực tế đặt Một câu hỏi đặt là: Thế xem toán phân loại, hỗ trợ định trường hợp cực đoan? Để hiểu rõ bối cảnh toán phân loại trường hợp cực đoan, Hình 3.1 minh họa cách tiếp cận sử dụng đồ thị tri thức mờ dạng cặp dựa kỹ thuật Q-learning học tăng cường Ở đây, bước thi gian Ô% , h thng quyt nh s tiếp nhận kho liệu lớn Tuy nhiên, bc thi gian ÔƯ , c s lut m rt nhỏ, chí chưa có hệ thống hoàn toàn Điều dẫn đến hai trường hợp gây ảnh hưởng đến hiệu hệ thống hỗ trợ định, cụ thể là: Hình 3.1 Cách tiếp cận đồ thị tri thức mờ dạng cặp dựa kỹ thuật Q-learning Trường hợp thứ nhất, sử dụng phương pháp học máy truyền thống để huấn luyện mơ hình da trờn mt d liu F(% bc Ô% với cách chia liệu theo phương pháp hold-out (với tỷ lệ chia 10 - 90%) Trong trường hợp này, thời gian tính tốn chấp nhận được, hiệu suất mặt độ xác lại thấp có số lượng lớn mẫu sinh chưa có sở luật mờ, khó đáp ứng yêu cầu thực tiễn toàn đặt (chẳng hạn, hệ thống thương mại điện tử, hệ thống chứng khoán hệ thống chẩn đốn bệnh y tế có đợt dịch bùng phát với nhiều biến thể khác nhau) Trường hợp thứ hai, sử dụng phương pháp học sâu để huấn luyện mơ hình dựa tập liệu F(% cỏc bc Ô% vi cỏch chia b d liu theo phương pháp hold-out (với tỷ lệ chia 80 - 20% 70 - 30%) phương pháp k-fold (với k = k = 10) Điều làm cho hiệu tính tốn mặt thời gian hệ thống hỗ trợ định giảm, gây hệ thống chạy chậm, khó đáp ứng yêu cầu thực tiễn toán đặt 15 Câu hỏi đặt là: Làm để nghiên cứu phát triển mơ hình định nhằm cải thiện hiệu hệ thống mặt độ xác trường hợp cực đoan với tập liệu huấn luyện nhỏ? Với cách tiếp cận sử dụng đồ thị tri thức mờ dạng cặp dựa kỹ thuật Q-learning học tăng cường, mơ hình đề xuất để giải toán hỗ trợ định trường hợp cực đoan (gọi tắt mơ hình FKG-Extreme) 3.1 Phát biểu tốn Như trình bày trên, tốn phân loại bối cảnh trường hợp cực đoan nêu trường hợp thứ cho thấy việc huấn luyện mơ hình dựa tập liệu F(% bc Ô% vi cỏch chia b d liu theo phương pháp hold-out (với tỷ lệ chia 10 - 90% - 95%) thời gian tính tốn chấp nhận được, hiệu suất mặt độ xác lại thấp có số lượng lớn mẫu sinh chưa có sở luật mờ Vì vậy, mục tiêu cụ thể mơ hình đề xuất FKG-Extreme cải thiện hiệu hệ thống mặt độ xác xác định hành động tốt để khuyến nghị áp dụng cho ứng dụng thực tế Các yêu cầu cụ thể tốn trình bày phần phát biểu sau: Đầu vào: Từ tập liệu gốc ban đầu, giả sử sau trình tiền xử lý sở luật mờ đưa Bảng 3.1 sau áp dụng phương pháp lấy mẫu cách chia liệu, sử dụng chế sinh luật (chẳng hạn FIS) Bảng 3.1 thể có ™ luật {:I , :g , … , :‹ ; luật có o thuộc tính {-fI , -fg , … , -fijI , -fi ; nhãn đầu luật ¬ nhãn {1, 2, 3, … , D Luật lm k R1 p37ℎ R2 … Rn-1 Rn Nhãn thuộc tính Bảng 3.1 Cơ sở luật mờ (fuzzy rule base) ln k … lojm k lo k Nhãn đầu p37ℎ … qr5s p37ℎ p37ℎ … … … … … Grt3,> Grt3,> Grt3,> Grt3,> {p37ℎ, Grt3,>, u6v p37ℎ, Grt3,> … u6v Grt3,> Grt3,> … … Grt3,> Grt3,> {qr5s p37ℎ, p37ℎ, Grt3,>, u6v} {p37ℎ, Grt3,>, u6v u6v … … u6v u6v 1 1, 2, 3, …,D có ± mẫu với cấu trúc IF-THEN tương tự luật Bảng 3.1, ± ≫ ™, lm "u6v" k ln "u6v” … k l ojm "p37ℎ" k lo "qr5s u6v" chẳng hạn: IF k THEN nhãn đầu gì? Đầu ra: Tìm nhãn đầu mẫu khuyến nghị hành động tốt (phương pháp lấy mẫu cách chia liệu) để áp dụng cho ứng dụng thực tế 16 3.2 Mơ hình FKG-Extreme Trong phần này, mơ hình thuật tốn đề xuất trình bày với mơ tả tóm tắt sau: Đầu tiên, hành động phải định nghĩa trước Mỗi hành động kết hợp hai tham số (phương pháp lấy mẫu cách chia liệu) Có nhiều phương pháp lấy mẫu khác (chẳng hạn phương pháp lấy mẫu thuận tiện, lấy mẫu theo chủ đích, lấy mẫu bơng tuyết, lấy mẫu ngẫu nhiên đơn giản, lấy mẫu ngẫu nhiên có hệ thống, lấy mẫu theo cụm, lấy mẫu phân tầng, v.v.) Tuy nhiên, để đảm bảo tính khách quan, phương pháp lấy mẫu cần thỏa mãn yêu cầu tính đại diện tính dự báo nên lựa chọn Tiếp đó, từ tập liệu sẵn có F( thời điểm tách thành hai tập liu (F(' v :Đă' ) vi t l theo hnh động xác định trước (chẳng hạn 10 - 90% - 95%), sau áp dụng chế sinh luật (FIS) Tập liệu (F(' ) tiếp tục tách thành hai tập liệu nhỏ gồm d liu hun luyn (:àảÃá ) v d liu kim th (:ạả ) Sau ú, c s lut m :[ãă' c tng cng cỏc lut mnh t liệu huấn luyện cách sử dụng phương pháp tính trọng số luật nhằm giảm thời gian huấn luyn mụ hỡnh Trng hp hun luyn :àảÃá nh thỡ tng cng ton b s lut ca :àảÃá vo :[ãă' Cui cựng, th tri thc m dng cặp (FKG-Pairs) xây dựng dựa sở luật m :[ãă' v c lng chớnh xỏc, thi gian tính tốn tập liệu kiểm thử (:»c) ) v d liu kim tra (:Đă' ) Cỏc giá trị hàm phần thưởng Q-values tính tốn, sau giá trị Q-values cập nhật vào bảng Q-table Áp dụng toán tử MAX với giá trị bảng Qtable, hành động tốt khuyến nghị để áp dụng cho ứng dụng thực tế để tìm nhãn cho mẫu Nội dung chi tiết mơ hình thuật tốn đề xuất (FKG-Extreme) trình bày tiểu mục 3.2.1 3.2.2 3.2.1 Mơ hình FKG-Extreme Tiểu mục trình bày mơ hình đề xuất FKG-Extreme mơ tả Hình 3.3 với số bước sau: Bước 1: Sau thu thập liệu, phương pháp lấy mẫu phương pháp chia liệu lựa chọn Các phương pháp lấy mẫu đảm bảo hai yêu cầu tính đại diện tính dự báo để trích xuất tập liệu nhỏ từ tập liệu gốc cho việc huấn luyện, kiểm thử kiểm tra Bước 2: Áp dụng chế sinh luật FIS với ba tập liệu huấn luyện (:àảÃá ), d liu kim th (:ạả ), v d liu kim tra (:Đă' ) Bc 3: Tớnh toán trọng số luật tập liệu hun luyn (:àảÃá ) bng cỏch ỏp dng cụng thc (3.1) Sau ú, mt cỏc lut mnh :ă%ẳƠă , bao gồm luật có trọng số ½% ≥ |Ž¿ÀÁ‚ | %HI % qắ ẵ% , c b sung vo c s lut m :[ãă' @ @ I%| | I—&—ijI |-f% → -f& | |-f& → -f&dI | |-fi → 8| |u-Är8 | B + B |:§‰c%‹ | |:§‰c%‹ | |:§‰c%‹ | |:§‰c%‹ | 3.1 Trường hợp d liu hun luyn (:àảÃá ) nh, ton b s lut :àảÃá s c tng cng cho c sở luật, khơng cần tính trọng số luật 17 Hình 3.2 Mơ hình đề xuất FKG-Extreme 18