Khái quát về hệ thống lập chỉ mục

Một phần của tài liệu KỸ THUẬT PHÂN CỤM DỮ LIỆU VÀ ỨNG DỤNG (Trang 41 - 42)

Trong các hệ thống tìm kiếm thông tin văn bản (Text Information Retrieval System), tiến trình quan trọng nhất là tiến trình phân tích nội dung văn bản để xác định tập chỉ mục biểu diễn tốt nhất nội dung của văn bản (tiến trình lập chỉ mục - indexing). Để có thể phân tích và rút trích được các chỉ mục (index term / term) tốt người ta thường ứng dụng các kết quả của lĩnh vực xử lý ngôn ngữ tự nhiên vào tiến trình này.

Chỉ mục có thể là từ (word) hay là một cấu trúc phức tạp hơn như cụm danh từ (noun phrase), khái niệm (concept)... Vấn đề xác định chỉ mục cho văn bản tiếng Việt phức tạp hơn đối với ngôn ngữ châu Âu do việc xác định giới hạn của một từ (word segmentation) trong tếi ng Việt không đơn giản là chỉ dựa vào các khoảng trắng giữa chúng. Hơn nữa ngữ pháp tiếng Việt vẫn còn nhiều vấn đề tranh luận giữa các nhà ngôn ngữ học nên cũng còn nhiều khó khăn trong việc tự động hóa việc phân tích tiếng Việt.

Tuy nhiên, việc lập chỉ mục có một nhược điểm lớn, đó là khi thêm một tài liệu mới, phải cập nhật lại tập tin chỉ mục. Nhưng đối với hệ thống tìm kiếm thông tin, chỉ cần cập nhật lại tập tin chỉ mục vào một khoảng thời gian định kỳ. Do đó, chỉ mục là một công cụ rất có giá trị.

Lập chỉ mục bao gồm các công việc sau:

 Xác định các từ có khả năng đại diện cho nội dung của tài liệu

 Đánh trọng số cho các từ này, trọng số phản ánh tầm quan trọng của từ trong một tài liệu.

Một phần của tài liệu KỸ THUẬT PHÂN CỤM DỮ LIỆU VÀ ỨNG DỤNG (Trang 41 - 42)

Tải bản đầy đủ (DOC)

(92 trang)
w