Chương 4: Tìm kiếm DL ĐPT P1: Dữ liệu văn Nguyễn Thị Oanh Bộ môn HTTT – Viện CNTT & TT oanhnt@soict.hut.edu.vn Nội dung Giới thiệu chung Biểu diễn văn – Chất lượng từ – Trọng số từ Đánh mục (chỉ số hóa) (indexing) Tìm kiếm văn (retrieving) Phản hồi thích đáng (relevance feedback) Đánh giá hiệu Văn Dữ liệu văn bản: – tài liệu văn chuỗi từ Giây phút cận kề chết Nhật Vẫn biết động đất chuyện cơm bữa Tokyo năm có khoảng 200 trận Vẫn biết động đất lớn phải thật bình tĩnh việc phải chui xuống gầm bàn đừng có chạy Vậy mà! – Từ đồng nghĩa: coi – xem (hát), coi – giữ - trông (nhà) – Từ đa nghĩa: mũi (người), mũi (thuyền, dao, mác) – Thứ tự từ: – Tập văn bản: tập chuỗi Tìm kiếm thơng tin văn ? Cho: (tập) tài liệu văn (từ, câu, đoạn, văn bản, …) Mục tiêu: tìm tài liệu liên quan đến tài liệu truy vấn (tài liệu tương tự) Biểu diễn tìm kiếm tài liệu văn chuỗi từ, có thể: – tiêu đề – tóm tắt – tồn nội dung tài liệu CSDL văn bản: tập chuỗi số hóa cách hợp lý Tìm kiếm: tìm văn CSDL có chứa từ văn truy vấn Bài toán khớp xâu (string-matching, substring-finding) Ví dụ Document ID d1 d2 d3 d4 d5 d6 d7 d8 d9 d10 String Jose Orojuelo’s Operations in Bosnia The Medellin Cartel’s Financial Organization The Cali Cartel’s Distribution Network Banking Operation and Money Laundering Profile of Hector Gomez Connection between Terrorism and Asian Dope Operations Hector Gomez: How He Gave Agents the Slip in Cali Sex, Drugs, and Videotape The Iranian Connection Boating and Drugs: Slips Owned by the Cali Cartel Vấn đề khớp xâu VD truy vấn 1: tìm tài liệu liên quan đến chủ đề « money laundering » – Tìm d4, khơng có d2 VD truy vấn 2: tìm tài liệu liên quan đến vấn đề « drugs » – Tìm d8,d10, khơng có d6 dù « dope » ~~ « drugs » – d2, d3 bị bỏ qua hai phối hợp hành động chung chống ma tuý (drug cartel) Vấn đề khớp xâu Xử lý vấn đề ngữ nghĩa: – Từ đồng nghĩa: buy/purchase – Từ đa nghĩa: present : a gift, the current moment, to show or display Xử lý trật tự từ Kiến trúc tổng thể hệ thống IR Biểu diễn văn 10