Ứng dụng logic mô tả trong phân tích câu trong ngôn ngữ tự nhiên Ứng dụng logic mô tả trong phân tích câu trong ngôn ngữ tự nhiên Ứng dụng logic mô tả trong phân tích câu trong ngôn ngữ tự nhiên luận văn tốt nghiệp,luận văn thạc sĩ, luận văn cao học, luận văn đại học, luận án tiến sĩ, đồ án tốt nghiệp luận văn tốt nghiệp,luận văn thạc sĩ, luận văn cao học, luận văn đại học, luận án tiến sĩ, đồ án tốt nghiệp
BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI LUẬN VĂN THẠC SĨ KHOA HỌC NGÀNH: CÔNG NGHỆ THÔNG TIN ỨNG DỤNG LOGIC MÔ TẢ TRONG PHÂN TÍCH CÂU TRONG NGƠN NGỮ TỰ NHIÊN NGUYỄN VIỆT ANH HÀ NỘI 2006 Mục lục Mục lục Danh sách bảng Phần mở đầu Chương Logic mô tả 1.1 Giới thiệu 1.2 Ngôn ngữ mô tả 1.3 Kiến trúc hệ logic mô tả 10 1.3.1 Bộ thuật ngữ - TBox 12 1.3.2 Bộ khẳng định – ABox 17 1.4 Các tốn định logic mơ tả 18 1.5 Thuật toán .21 1.5.1 Thuật toán bao hàm cấu trúc 21 1.5.2 Thuật toán tableau 24 1.6 Ví dụ khai triển sở tri thức logic mô tả .29 1.6.1 Loại bỏ bao hàm khái niệm .30 1.6.2 Loại bỏ Tbox 31 1.6.3 Tính toán Abox 32 1.7 Kết luận 35 Chương Xử lý ngôn ngữ tự nhiên 36 2.1 Giới thiệu 36 2.2 Đặc điểm ngôn ngữ tự nhiên 38 2.3 Các bước xử lý ứng dụng xử lý ngôn ngữ tự nhiên 38 2.3.1 Tiền xử lý văn (text pre-processing) .39 2.3.2 Phân tích hình thái (Morphology) 39 2.3.3 Phân tích cú pháp (Syntax) 40 2.3.4 Phân tích ngữ nghĩa (Semantics) 40 2.3.5 Phân tích ngữ dụng (Pragmatics) 40 2.4 Các ứng dụng xử lý ngôn ngữ tự nhiên 41 2.4.1 Dịch tự động (Machine Translation) .41 2.4.2 Hiểu văn (tóm tắt văn bản) .41 2.4.3 Bắt lỗi tả / văn phạm (Spelling/ grammar checker) .41 2.4.4 Nhận dạng chữ viết (Character recognition) 42 2.4.5 Nhận dạng tiếng nói (voice recognition) .42 2.4.6 Tổng hợp tiếng nói (voice synthesis) 42 2.4.7 Giao tiếp với hệ CSDL (DBMS) .43 2.5 Khái niệm Câu 43 2.5.1 Phân loại theo cấu tạo ngữ pháp 45 2.5.2 Cấu tạo chủ ngữ vị ngữ 49 2.6 Xây dựng tập luật cấu thành nên câu .52 2.7 Kết luận 53 Chương Khai triển sở tri thức 54 3.1 Đặt vấn đề .54 3.2 Khai triển Tbox 54 3.2.1 Mục đích 54 3.2.2 Áp dụng thuật toán 55 3.3 Khai triển ABox .64 3.3.1 Mục đích 64 3.3.2 Áp dụng thuật toán 64 3.4 Kết luận .66 Chương Ứng dụng toán xử lý câu 67 4.1 Giới thiệu 67 4.2 Ứng dụng 67 4.2.1 Ví dụ .68 4.2.2 Ví dụ .73 4.3 Kết luận 76 Các thuật ngữ .77 Tài liệu tham khảo 79 Tóm tắt luận văn 80 Danh sách bảng Bảng 1.1: Luật cú pháp ngôn ngữ mô tả AL Bảng 1.2: Các luật bổ sung Bảng 1.3: Kiến trúc hệ logic mô tả 11 Bảng 1.4 : Các khái niệm gia đình 13 Bảng 1.5: Các khẳng định khái niệm gia đình 18 Bảng 1.6: TBox sau loại bỏ bao hàm khái niệm 31 Bảng 1.7: TBox sau khai triển .32 Bảng 1.8: ABox sau khai triển .33 Bảng 2.1: Lược đồ hoá tổ chức câu .44 Bảng 2.2: Các tập luật sở .53 Phần mở đầu Logic mô tả (Description Logic) thời gian gần đề cập nhiều coi loại hình biểu diễn tri thức hiệu Ứng dụng logic mô tả ngày nhiều, đặc biệt lĩnh vực xử lý ngơn ngữ tự nhiên Trong q trình làm luận văn, em nghiên cứu logic mô tả, hướng phát triển ứng dụng logic mô tả hướng sử dụng logic mơ tả để phân tích ngơn ngữ tự nhiên Nội dung luận văn gồm phần sau : • Logic mơ tả : giới thiệu kiến thức logic mô tả, ngôn ngữ logic mô tả, kiến trúc logic mơ tả, tốn định logic mơ tả, thuật tốn tableau • Xử lý ngơn ngữ tự nhiên : giới thiệu đặc điểm ngôn ngữ tự nhiên, bước xử lý ứng dụng xử lý ngôn ngữ tự nhiên, khái niệm câu ngôn ngữ tiếng Việt, tập luật cấu tạo thành câu • Khai triển sở tri thức: phần sâu vào việc khai triển sở tri thức ABox TBox từ tập luật cấu tạo câu phần Từ áp dụng cho tốn xử lý câu • Ứng dụng tốn xử lý câu : Với ABox TBox xây dựng chương 3, ta áp dụng vào tốn : “Xác định chuỗi đầu vào có phải câu hay khơng” Sử dụng tốn logic mô tả, ta chứng minh mệnh đề hay sai, từ rút kết luận : “Chuỗi đầu vào câu hay không?” Trên phần em trình bầy luận văn thạc sĩ Trên thực tế, việc áp dụng logic mô tả vào việc xử lý ngơn ngữ tự nhiên cịn gặp nhiều khó khăn, đa dạng vấn đề ngơn ngữ, nhiên luận văn trình bầy chứng minh việc áp dụng logic mô tả việc giải tốn phân tích câu ngơn ngữ tự nhiên Cuối cùng, em xin gửi lời cảm ơn chân thành tới thầy hướng dẫn Tiến sĩ Trần Đình Khang, thầy hỗ trợ, đóng góp ý kiến quý báu, giúp đỡ em hoàn thành luận văn thạc sĩ Em xin chân thành cảm ơn thầy cô khoa Công nghệ thông tin trường đại học Bách Khoa Hà Nội dạy dỗ, giúp đỡ em suốt năm học tập bậc đại học năm học tập bậc cao học Học viên Nguyễn Việt Anh Chương Logic mô tả 1.1 Giới thiệu Logic mô tả phát triển nhằm cung cấp ý nghĩa cho mạng ngữ nghĩa, đưa biểu diễn cấu trúc biểu diễn kết hợp với cơng cụ lập luận cho hiệu cao Logic mô tả ứng dụng đặc biệt hiệu hệ thống thông minh, gần với ý tưởng xây dựng hệ thống web hệ mới: web ngữ nghĩa, với mục đích tăng khả liên kết trang web khả hiểu nội dung tài liệu web máy tính, logic mơ tả đóng vai trị tảng logic để bổ sung ngữ nghĩa thu hút quan tâm nhiều nhà nghiên cứu lĩnh vực Logic mô tả cung cấp khả biểu diễn tri thức suy diễn để rút tri thức đắn miền ứng dụng Việc biểu diễn tri thức xây dựng từ khái niệm, quan hệ nguyên thuỷ luật xây dựng khái niệm Các luật gọi ngôn ngữ xây dựng khái niệm Bên cạnh khái niệm quan hệ có khẳng định, thể mối quan hệ khái niệm, quan hệ với cá thể hay cá thể với Logic mô tả cung cấp khả lập luận suy diễn tri thức biểu diễn Khả biểu diễn tri thức tỉ lệ thuận với độ phức tạp tính tốn dịch vụ suy diễn hệ logic mô tả tương ứng Để xây dựng hệ thống logic mô tả người ta tổng kết lại ba bước quan trọng sau: - Xác định khái niệm từ khái niệm nguyên thuỷ, quan hệ nguyên thuỷ cá thể ban đầu - Sử dụng ngôn ngữ xây dựng khái niệm để hình thành khái niệm phức tạp - Sử dụng thủ tục suy luận để rút tri thức đắn khái niệm cá thể Chủ yếu quan hệ bao hàm hai khái niệm quan hệ cá thể khái niệm hay cặp cá thể quan hệ Chương ta tìm hiểu vấn đề liên quan đên logic mô tả Đầu tiên ngôn ngữ định nghĩa khái niệm, sở tri thức xây dựng logic mô tả kiến trúc, thủ tục suy diễn cho tốn định 1.2 Ngơn ngữ mơ tả Các thành phần mô tả khái niệm nguyên thuỷ, quan hệ nguyên thuỷ Chúng ta quy ước ký hiệu sử dụng A, B cho khái niệm nguyên thuỷ, R cho quan hệ nguyên thuỷ, C D khái niệm mô tả Những khái niệm phức tạp logic mô tả xây dựng ngôn ngữ thuộc tính AL (Attributive Language) ngơn ngữ mở rộng nó, ta gọi chung ngơn ngữ “ngôn ngữ mô tả” Xuất phát từ “mô tả sở”, ta sử dụng luật xây dựng khái niệm mà ngơn ngữ hỗ trợ để hình thành nên khái niệm Thông thường, khái niệm viết lại cách đơn giản cách sử dụng “tên” Cịn “mơ tả sở” mà ta vừa đề cập tới khái niệm nguyên thuỷ hay quan hệ nguyên thuỷ Các khái niệm xây dựng từ mô tả sở thông qua luật cú pháp Ngơn ngữ AL ngơn ngữ có luật cú pháp đơn giản Các ngơn ngữ cịn lại sử dụng logic mô tả điều ngôn ngữ mở rộng từ ngôn ngữ Những luật cú pháp ngôn ngữ mô tả AL liệt kê sau: C, D → A | (Khái niệm nguyên thuỷ) ┬ | (Khái niệm đỉnh) ┴ | (Khái niệm đáy) ¬A | (Phủ định khái niệm) C∩D | (Giao khái niệm) ∀ R.C | (Lượng từ với mọi) ∃ R.T | (Lượng từ tồn tại) Bảng 1.1: Luật cú pháp ngôn ngữ mô tả AL Để mở rộng khả xây dựng khái niệm phức tạp, người ta thực việc mở rộng ngôn ngữ AL mà chủ yếu tăng cường luật cú pháp Các luật bổ xung Tên Dạng viết CUD Hợp khái niệm ∃ R.C Lượng từ tồn đầy đủ Giới hạn số ≥ nR ≤ nR Phủ định ¬C Bảng 1.2: Các luật bổ sung Ký hiệu U E Ν C Các ngôn ngữ mở rộng từ ngôn ngữ mô tả AL ký hiệu dạng chuỗi sau AL [U][E][N][C] Mỗi chữ nằm ngoặc vuông xuất mà luật cú pháp tương ứng với có mặt ngơn ngữ mô tả mà ta sử dụng Ta gọi chung ngôn ngữ họ ngôn ngữ AL Ngữ nghĩa khái niệm logic mơ tả có nhờ vào phép thông dịch Định nghĩa: Mỗi phép thơng dịch I, cặp (∆I,.I) Trong đó, ∆I tập khác rỗng, thành tập AI I hàm dịch Hàm dịch I biến khái niệm A ∆I, biến quan hệ (hai ngôi) R thành quan hệ RI ∆I × ∆I Đối với khái niệm phức tạp xây dựng từ ngôn ngữ xây dựng từ họ ngôn ngữ mô tả AL, hàm dịch định nghĩa: I = I I = ị ( A)I = ∆I \ AI (C D )I = CI DI 66 Thay vào TBox khai triển trên, ta thu kết tập ABox lớn Dưới số ví dụ khai triển ABox Liên trẻ : Xe đạp cũ: Ngày hơm qua Liên : Nếu Nam Liên đi: Ngày hôm qua Liên đến trường: 3.4 Kết luận Như trình bầy, với việc xây dựng TBox với tập luật liên quan đến cấu tạo câu, việc xây dựng tập ABox dạng đơn giản, áp dụng logic mô tả vào việc xử lý ngôn ngữ tự nhiên Đây tập luật cấu tạo câu, thực tế ngơn ngữ đa dạng, phát triển ứng dụng lên, ta phải phân tích sâu cấu tạo câu, áp dụng xác Ở chương 4, trình bầy tốn cụ thể áp dụng tập ABox TBox 67 Chương Ứng dụng toán xử lý câu 4.1 Giới thiệu Câu tập hợp từ, ngữ, kết hợp với theo quan hệ cú pháp xác định tạo trình tư duy, giao tiếp, có giá trị thơng báo, gắn liền với mục đích giao tiếp định Hiệu mà hệ logic mang lại khả cung cấp dịch vụ suy diễn Nếu xét khía cạnh đó, ta hiểu khả cung cấp khả hệ trả lời câu hỏi từ phía người sử dụng Trong luận văn khơng đề cập sâu đến việc phân tích cú pháp, ngôn ngữ Luận văn đề cập đến việc xử lý ngôn ngữ tự nhiên logic mô tả Cụ thể : “Xác định chuỗi đầu vào có phải câu hay khơng ??” việc phân tích chuỗi, cú pháp, sử dụng tập ABox định nghĩa sẵn, để xác định cấu tạo chuỗi đầu vào có nằm tập luật TBox hay khơng Nếu có luật tương ứng, chuỗi đầu vào câu Còn ngược lại, chuỗi đầu vào câu 4.2 Ứng dụng Sau xây dựng xong ABox, TBox chương 3, ta ứng dụng tập luật từ điển để phân tích tốn : “Xác định chuỗi đầu vào có phải câu hay khơng” 68 Trong khuôn khổ luận văn, ABox TBox xây dựng với số luật, với mục đích chứng minh việc ứng dụng logic mô tả xử lý ngôn ngữ tự nhiên Trên thực tế, việc xây dựng tập ABox TBox lên tới hàng nghìn, trăm nghìn luật, định nghĩa, ta phải xây dựng chương trình, để máy tính hỗ trợ Cũng tương tự vậy, có chuỗi đầu vào, với tính đa dạng ngơn ngữ, từ vừa danh từ, vừa đại từ, đứng nhiều vị trí câu Để chứng minh tốn chuỗi có câu hay khơng, ta phải khai triển với nhiều nhánh thực thi Dưới trình bầy ví dụ đơn giản cách chứng minh 4.2.1 Ví dụ Đầu tiên chuỗi đầu vào : “Ngày hơm qua, tơi ” Bài tốn đặt chứng minh chuỗi đầu vào câu Giả sử chuỗi đầu vào câu Như vậy, phủ định chuỗi đầu vào câu ¬ (Ngày hơm qua tơi đi) câu Bộ khẳng định ABox (ký hiệu A) triển khai từ chương sau : 69 ’ Tập ABox Từ tập sở tri thức ABox, ta dùng số khẳng định sau để chứng minh: 70 Tập sở tri thức A phục vụ chứng minh ¾ Khai triển (5) ta có ặ (6) a) Xét luật TBox khai triển bên : Câu Ỉ Trạng từ Đại từ Động từ Và (1)(2)(5)(6) ta có : (6) ặ t t (6) Theo luật biến đổi thuật toán Tableau Luật →t Điều kiện : A chứa (C1 t C2 )(x) , không chưa khẳng định C1(x) khẳng định C2(x) Hành động : A’ = A t {C1(x)}, A’’ = A t {C2(x)} (6) thoả điều kiện luật t thuật tốn Tableau Ta có hướng suy diễn: 71 Ỉ A’ = A t (*) A’1 = A t (**) A’2 = A t (***) Xét (*) : A’ = A t A’ : A’ Ta thấy có mâu thuẫn xảy ra: 72 Xét (**) A’1 = A t A’ : A’ Ta thấy có mâu thuẫn xảy ra: Xét (***) A’2 = A t A’ : A’ Ta thấy có mâu thuẫn xảy ra: v (*)(**)(***) u mõu thun ặ ¬ (Ngày hôm qua đi) câu : sai Ỉ chuỗi đầu vào : “Ngày hơm qua đi” câu b) Xét luật TBox khai triển bên : Tương tự với luật Câu Æ Trạng từ Danh từ Động từ 73 Và (1)(3)(5)(6) ta có : ặ t t (6) Cũng chứng minh trên, nhánh khai triển xảy mâu thuẫn Ỉ Chuỗi đầu vào câu 4.2.2 Ví dụ Chuỗi đầu vào thứ ta lấy làm ví dụ cho việc ứng dụng logic mô tả xử lý ngôn ngữ tự nhiên : “Xe đạp cũ” Bài tốn đặt chứng minh chuỗi đầu vào câu Giả sử chuỗi đầu vào câu Như vậy, phủ định chuỗi đầu vào câu ¬ (Xe đạp cũ) câu 74 ặ [(Xe p)(c) : cõu] (1) T sở tri thức ABox, ta dùng số khẳng định sau để chứng minh: 1. 2. Và luật TBox : Câu Ỉ Từ (1) Ỉ [(Xe đạp)(cũ) : ¬ (Danh từ Tính từ) ] Ỉ [(Xe đạp)(cũ) : ¬ Danh từ t ¬ Tính t) ] ặ (Xe ap: Danh t) t (C : ¬ Tính từ) (1) Theo luật biến đổi thuật toán Tableau Luật →t Điều kiện : A chứa (C1 t C2 )(x) , không chưa khẳng định C1(x) khẳng định C2(x) Hành động : A’ = A t {C1(x)}, A’’ = A t {C2(x)} (1) thoả điều kiện luật t thuật toán Tableau Ta có hướng suy diễn: 75 Ỉ A’ = A t (Xe đap: ¬ Danh từ) (*) A’1 = A t (Cũ : ¬ Tính từ) (**) Xét (*): A’ : A’ (Xe đap: Danh từ) (Xe đap: ¬ Danh từ) Ta thấy xảy mâu thuẫn: (Xe đap: Danh từ) (Xe đap: ¬ Danh từ) Xét (**): A’ : A’ (Xe đap: Danh từ) (Cũ: ¬ Tính từ) Ta thấy xảy mâu thuẫn: (Cũ: Tính từ) (C: Tớnh t) (*)(**) mõu thun ặ (Xe đạp cũ) khơng phải câu Ỉ Chuỗi đầu vào (Xe đạp cũ) làm câu 76 4.3 Kết luận Muốn việc ứng dụng logic mô tả xử lý ngôn ngữ tự nhiên hiệu quả, trước tiên ta phải xây dựng tập ABox TBox đầy đủ, đủ mạnh để xử lý tất trường hợp ngơn ngữ tự nhiên đa dạng Sau cần xây dựng giải thuật để xử lý việc diễn giải suy diễn nhanh nhất, tập luật, từ điển lớn Việc xây dựng sở tri thức TBox ABox đóng vai trị quan trọng Cơ sở tri thức lớn, ứng dụng xử lý, phân tích câu xác Như vậy, áp dụng logic mô tả mức việc xử lý ngơn ngữ tự nhiên Nhưng khẳng định việc ứng dụng logic mô tả phân tích câu ngơn ngữ tự nhiên có sở, hướng nghiên cứu phát triển tốt 77 Các thuật ngữ Tiếng Việt Logic mô tả Ngôn ngữ khái niệm Khái niệm Quan hệ Khái niệm nguyên thuỷ Quan hệ nguyên thuỷ Ngôn ngữ thuộc tính Khái niệm đỉnh Khái niệm đáy Phủ định Giao Hợp Giới hạn số Lượng từ với Lượng từ tồn Bù Phép thông dịch Hàm dịch Ngữ nghĩa Khẳng định Thuật ngữ Cơ sở tri thức Bộ khẳng định Bộ thuật ngữ Mơ hình Định nghĩa khái niệm Bao hàm khái niệm Tiếng Anh Description Logic Concept languages Concept Role Primitive concept Primitive role Attributed language Top concept Bottom concept Negation Conjunction Disjunction Number restriction Universal quantification Existential quantification Complement Interpretation Interpretation function Semantics Assertion Terminology Knowledge base Assertional box Terminological box Model Terminological axiom Concept specialization 78 Mở rộng Expansion Chuẩn hoá Normalization Dạng chuẩn bù Negation Normal Form Bài tốn thoả Satisfiability Bài tốn khơng thoả Unsatisfiability Bài toán bao hàm Subsumtion Bài toán tương đương Equivalence Bài tốn khơng giao Disjointness Thuật tốn cấu trúc Structural algorithm Tập mờ Fuzzy set Hàm thuộc Membership function Mâu thuẫn Clash Không chứa mâu thuẫn Clash-free Cặp liên hợp Conjugated pair Bộ đầy đủ Completion Thủ tục định Decision Procedure Bài toán suy Entailment Problem Bài tốn tìm biên Best Truth-Value Bound Problem Biên lớn Greatest Lower Bound Biên nhỏ Least Upper Bound Đại số gia tử Hedge algebra Toán tử biến đổi khái niệm Concept modifier Hàm ánh xạ dấu The mapping sign Bảng danh sách thuật ngữ 79 Tài liệu tham khảo [1] Franz Baader, Diego Calvanese, Deborah McGuinness, Daniele Nardi, and Peter Patel-Schneider The Description Logic HandBook.Theory, Implementation and Applications Hardback, 2003 [2] Diệp Quang Ban Ngữ pháp tiếng Việt, 2004 [3] Jeff Z.Pan (Zhiming Pan) Description Logics Reasoning Support For The Semanticweb [4] Nguyễn Hoàng Ngà Luận văn tốt nghiệp 2004 “Logic mơ tả mờ có sử dụng đại số gia tử làm toán tử biến đổi khái niệm” [5] Website cộng đồng logic mô tả toàn giới http://dl.kr.org/ [6] Websites giới thiệu logic mơ tả http://www.ida.liu.se/labs/iislab/people/patla/DL/index.html 80 Tóm tắt luận văn Luận văn với đề tài : “Ứng dụng logic mô tả phân tích câu ngơn ngữ tự nhiên” trình bầy lý thuyết logic mơ tả, kiến trúc hệ logic mơ tả, tốn định logic mô tả, đặc điểm ngôn ngữ tiếng Việt, xây dựng tập luật cấu thành câu, từ khai triển sở tri thức ABox TBox Tiếp theo, luận văn áp dụng logic mô tả vào việc xử lý, phân tích câu ngơn ngữ tự nhiên, cụ thể vào việc xác định chuỗi đầu vào có phải câu hay khơng Chứng minh toán đưa việc áp dụng luật biến đổi thuật toaá Tableau, mâu thuẫn khai triển, đưa kết luận cần chứng minh ... Logic mô tả : giới thiệu kiến thức logic mô tả, ngôn ngữ logic mô tả, kiến trúc logic mơ tả, tốn định logic mơ tả, thuật tốn tableau • Xử lý ngôn ngữ tự nhiên : giới thiệu đặc điểm ngôn ngữ tự. .. lĩnh vực xử lý ngôn ngữ tự nhiên Trong trình làm luận văn, em nghiên cứu logic mô tả, hướng phát triển ứng dụng logic mơ tả hướng sử dụng logic mơ tả để phân tích ngơn ngữ tự nhiên Nội dung luận... chóng xác Trong luận văn đưa đề xuất việc sử dụng logic mô tả cho việc xử lý ngôn ngữ tự nhiên, phân biệt, nhận dạng ngôn ngữ tự nhiên 37 Kể từ ngày đầu hệ thống Kl-One, ứng dụng logic mô tả thông