ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN —————————— Hà Mỹ Linh PHÂN TÍCH CÚ PHÁP PHỤ THUỘC TIẾNG VIỆT LUẬN VĂN THẠC SĨ KHOA HỌC Hà Nội 2015 z ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHO[.]
ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN —————————— Hà Mỹ Linh PHÂN TÍCH CÚ PHÁP PHỤ THUỘC TIẾNG VIỆT LUẬN VĂN THẠC SĨ KHOA HỌC Hà Nội - 2015 z ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN —————————— Hà Mỹ Linh PHÂN TÍCH CÚ PHÁP PHỤ THUỘC TIẾNG VIỆT Chuyên ngành: Cơ sở toán cho tin học Mã số: 60460110 LUẬN VĂN THẠC SĨ KHOA HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: TS Lê Hồng Phương Hà Nội - 2015 z Lời cảm ơn Em xin gửi lời cảm ơn tới thầy giáo, cô giáo, cán khoa Toán - Cơ Tin học, trường Đại học Khoa học tự nhiên, Đại học Quốc gia Hà Nội tận tình dạy dỗ giúp đỡ em suốt thời gian học cao học làm việc Bộ môn Tin học Trong trình thực luận văn suốt năm học vừa qua, em nhận bảo hướng dẫn nhiệt tình TS Lê Hồng Phương TS Nguyễn Thị Minh Huyền Em xin gửi tới Thầy Cô lời cảm ơn chân thành Em xin gửi lời cảm ơn tới gia đình, bạn bè động viên, khuyến khích tạo điều kiện cho em q trình học tập thực luận văn Mặc dù cố gắng để hoàn thành luận văn, hạn chế kinh nghiệm thời gian, nên luận văn khơng thể tránh khỏi thiếu sót Em mong nhận cảm thơng ý kiến đóng góp thầy bạn Hà Nội, tháng năm 2015 Học viên Hà Mỹ Linh i z Mục lục Danh sách bảng iv Danh sách hình vẽ v Lời mở đầu 1 Tổng quan cú pháp phụ thuộc 1.1 1.2 Cú pháp phụ thuộc 1.1.1 Định nghĩa cú pháp phụ thuộc 1.1.2 Biểu diễn cú pháp phụ thuộc Các thuật tốn phân tích cú pháp phụ thuộc 1.2.1 Phân tích cú pháp phụ thuộc dựa đồ thị 1.2.2 Phân tích cú pháp phụ thuộc dựa bước chuyển 11 Xây dựng tập nhãn phụ thuộc cho tiếng Việt 16 2.1 Kho ngữ liệu tiếng Việt - Viettreebank 16 2.2 Tập nhãn quan hệ phụ thuộc đa ngôn ngữ 19 2.3 Tập nhãn quan hệ phụ thuộc cho tiếng Việt 23 Thực nghiệm 3.1 3.2 33 Các cơng cụ phân tích cú pháp phụ thuộc 33 3.1.1 MSTParser 33 3.1.2 MaltParser 35 Thuật toán xây dựng tài nguyên tiếng Việt tự động 39 3.2.1 40 Tập luật tìm phần tử trung tâm ii z 3.2.2 3.3 Thuật toán chuyển tự động từ Viettreebank sang cú pháp phụ thuộc 41 Kết thực nghiệm 45 Kết luận 48 Các cơng trình cơng bố liên quan đến luận văn 49 Tài liệu tham khảo 50 Phụ lục 54 iii z Danh sách bảng 1.1 Kết phân tích cú pháp phụ thuộc hai mơ hình cho hệ thống CoNLL-X (Buchholz Marsi 2006) 1.2 Các đặc trưng dùng MSTParser 10 1.3 Các đặc trưng dùng MaltParser 14 1.4 Ví dụ phân tích cú pháp dựa vào bước chuyển 15 2.1 Tập nhãn từ loại tiếng Việt 18 2.2 Tập nhãn cụm từ tiếng Việt 19 2.3 Tập nhãn mệnh đề tiếng Việt 19 2.4 Tập nhãn chức cú pháp tiếng Việt 20 2.5 So sánh tập nhãn phụ thuộc tiếng Việt với tập nhãn phụ thuộc đa ngôn ngữ (UD) tập nhãn phụ thuộc tiếng Anh (SD) 32 3.1 Kết MSTParser 35 3.2 Kết MaltParser 39 3.3 Tập quy tắc xác định phần tử trung tâm 40 3.4 Câu tiếng Việt theo định dạng CoNLL-X chưa phân tích 45 3.5 Câu tiếng Việt theo định dạng CoNLL-X phân tích phụ thuộc 46 3.6 Kết phân tích cú pháp phụ thuộc với tập liệu 2700 46 3.7 Kết phân tích cú pháp phụ thuộc với tập liệu 6546 câu 47 iv z Danh sách hình vẽ 1.1 Cấu trúc cụm từ 1.2 Đồ thị phụ thuộc câu tiếng Anh 1.3 Ví dụ phân tích cú pháp dựa đồ thị 11 3.1 Cú pháp thành phần câu tiếng Việt 41 v z Lời mở đầu Xử lí ngơn ngữ tự nhiên (Natural Language Processing - NLP) nhánh trí tuệ nhân tạo, tập trung ứng dụng nhằm giúp hệ thống máy tính hiểu xử lí ngơn ngữ người Xử lí ngơn ngữ tự nhiên vấn đề khó thu hút nhiều nhóm nghiên cứu liên quan đến việc phải hiểu ý nghĩa ngôn ngữ - cơng cụ hồn hảo tư giao tiếp Phân tích cú pháp vấn đề quan trọng lĩnh vực xử lí ngơn ngữ tự nhiên Với phân tích cú pháp tốt, tích hợp vào nhiều ứng dụng xử lí ngơn ngữ tự nhiên dịch máy, tóm tắt văn bản, hệ thống hỏi đáp, trích chọn thơng tin, để tăng tính xác ứng dụng Trong phân tích cú pháp, phân tích cú pháp phụ thuộc nghiên cứu phụ thuộc từ câu dựa ngữ nghĩa Gần đây, phân tích cú pháp phụ thuộc thu hút quan tâm nhiều nhóm nghiên cứu ngơn ngữ tự nhiên giới quan hệ phụ thuộc hai từ câu nghiên cứu khử nhập nhằng ngữ nghĩa câu cú pháp có khả mơ hình hóa ngơn ngữ có trật tự từ tự Đối với nhiều ngôn ngữ tiếng Anh, tiếng Pháp, tiếng Trung, có nhiều nghiên cứu cơng cụ phân tích cú pháp phụ thuộc với hiệu cao Tuy nhiên, tiếp cận cho toán hầu hết dựa học máy đòi hỏi kho ngữ liệu với nhiều thông tin từ loại quan hệ phụ thuộc nên có cơng bố nghiên cứu phân tích cú pháp phụ thuộc tiếng Việt Hiện nay, cơng cụ phân tích cú pháp phụ thuộc cho tiếng Việt đạt số kết định Nhóm tác giả Nguyễn Lê Minh cộng [1] sử dụng thuật tốn phân tích cú pháp dựa vào đồ thị, thực nghiệm với công cụ z MSTParser liệu hạn chế gồm 450 câu làm tay với độ xác 63.11% Nhóm tác giả Lê Hồng Phương cộng [20] nghiên cứu phân tích cú pháp phụ thuộc dựa vào văn phạm kết nối từ vựng hóa, thực nghiệm huấn luyện với 8637 câu kho ngữ liệu cú pháp thành phần tiếng Việt, phân tích 441 câu có độ dài nhỏ 30 từ đạt độ xác 73.21% Gần cơng bố nhóm nghiên cứu tác giả Nguyễn Quốc Đạt cộng [7], tác giả chuyển tự động kho ngữ liệu cú pháp thành phần sang kho ngữ liệu cú pháp phụ thuộc, với tập 33 nhãn quan hệ phụ thuộc với độ xác 71.66% Tuy nhiên, hầu hết nghiên cứu tiếng Việt chưa thống tập nhãn phụ thuộc, nhãn phụ thuộc chưa mô tả cách rõ ràng hiệu phân tích cịn hạn chế Luận văn trình bày vấn đề phân tích cú pháp phụ thuộc, tập trung vào việc xây dựng tập nhãn phụ thuộc cho tiếng Việt thử nghiệm hai cơng cụ phân tích cú pháp MaltParser MSTParser Nội dung luận văn gồm có chương: • Chương Tổng quan: Chương trình bày vấn đề liên quan tới cú pháp phụ thuộc, khái niệm phân tích cú pháp phụ thuộc Và số thuật tốn phân tích cú pháp phụ thuộc tốt • Chương Xây dựng tập nhãn phụ thuộc cho tiếng Việt: Chương trình bày việc nghiên cứu xây dựng tập nhãn phụ thuộc cho tiếng Việt có đối sánh với tập nhãn phụ thuộc đa ngôn ngữ nhóm nghiên cứu trường Đại học Stanford Ngồi ra, Chương so sánh khác hai nhãn để thấy đặc trưng tiếng Việt • Chương 3: Thực nghiệm: Chương trình bày số cơng cụ phân tích cú pháp phụ thuộc hiệu nay: MSTParser MaltParser Tiếp theo thuật toán chuyển tự động từ kho ngữ liệu cú pháp thành phần Viettreebank sang kho ngữ liệu cú pháp phụ thuộc Tiến hành thực nghiệm phân tích cú pháp phụ thuộc cho tiếng Việt với hai công cụ trên, sau so sánh kết đạt tập liệu khác đưa kết luận z Chương Tổng quan cú pháp phụ thuộc Chương trình bày kiến thức sở sử dụng phần sau, đặc biệt khái niệm liên quan tới phân tích cú pháp phụ thuộc thuật tốn phân tích cú pháp phụ thuộc điển hình 1.1 Cú pháp phụ thuộc Cú pháp chủ đề nghiên cứu hai cộng đồng gồm người làm ngôn ngữ người làm tin học Cú pháp vừa đối tượng nghiên cứu, vừa cấp độ cần mô tả cộng đồng người làm ngôn ngữ Đối với cộng đồng người làm tin học, cần làm cho máy tính phân tích cú pháp với hai mục tiêu xây dựng ứng dụng, giải số toán thực tế, đối tượng nghiên cứu họ hệ hình thức thuật toán 1.1.1 Định nghĩa cú pháp phụ thuộc Kiến thức ví dụ phần trình bày theo tài liệu tác giả Joakim Nivre Johan Hall cộng [9] Cú pháp quy tắc dùng tiếng để đặt câu văn cho xác Để sử dụng ngôn ngữ linh hoạt, ta phải hiểu rõ cú pháp Muốn hiểu rõ cú pháp, ta phải hiểu câu, loại câu, mệnh đề, loại mệnh đề, cấu trúc chúng Với câu có hai cách phân tích cú pháp: phân tích cú pháp thành z ... Bài tốn phân tích cú pháp phụ thuộc z Phân tích cú pháp phụ thuộc đưa mơ tả quan hệ vai trị ngữ pháp từ câu, đồng thời đưa hình thái câu Bài tốn phân tích cú pháp phụ thuộc tìm đồ thị phụ thuộc. .. [21], [22] Có hai phương pháp phân tích cú pháp phụ thuộc sau: z • Phân tích cú pháp phụ thuộc dựa vào đồ thị: phân tích cú pháp phụ thuộc thơng qua tham số hóa mơ hình phụ thuộc dựa vào đồ thị huấn... phân tích cú pháp phụ thuộc 1.2.1 Phân tích cú pháp phụ thuộc dựa đồ thị 1.2.2 Phân tích cú pháp phụ thuộc dựa bước chuyển 11 Xây dựng tập nhãn phụ thuộc cho tiếng Việt 16 2.1