... Luận văn tốt nghiệp Nghiên cứu giải thuật NB toán TC CHƯƠNG TỔNG QUAN VỀ BÀITOÁNPHÂNLOẠIVĂNBẢN 1.1 SỰ CẦN THIẾT CỦA VIỆC PHÂNLOẠIVĂNBẢN 1.1.1 Phânloạivăn với ứng dụng Quá trình phânloại ... trình phânloạivăn tăng cường tri thức hệ thống phân loại, hỗ trợ cho phânloại say Trang Luận văn tốt nghiệp Nghiên cứu giải thuật NB tốn TC 1.2 BÀI TỐN PHÂNLOẠIVĂNBẢN 1.2.1 Định nghĩa Phânloại ... phương pháp giải toán, phần luận văn đưa cách phát biểu toánPhânloạivăn thực tế xây dựng hàm phânloại sau: Trong đó: ● D(Documents) tập hợp văn cần phân loại, (với n số lượng văn bản) ● C (Categories)...
... 87 Bảng Bốn trường hợp phânloạivăn .90 Bảng Kết phânloạivăn cho chủ đề 94 Bảng Bảng kho liệu viết chưa đăng 102 Bảng Bảng mô tả ô xử lý mơ hình DFD hành .103 Bảng Bảng ... Kết luận Chương CÁC PHƯƠNG PHÁP PHÂNLOẠIVĂNBẢN TIẾNG ANH 2.1 Bối cảnh phương pháp phânloạivănPhânloạivăn tự động lĩnh vực ý năm gần Để phânloại người ta sử dụng nhiều cách tiếp cận khác ... Phần mềm phânloại tin tức báo điện tử bán tự động 1.4.4 Đóng góp luận văn Chương CÁC PHƯƠNG PHÁP PHÂNLOẠIVĂNBẢN TIẾNG ANH 2.1 Bối cảnh phương pháp phânloạivăn 2.2 Các phương...
... 87 Bảng Bốn trường hợp phânloạivăn .90 Bảng Kết phânloạivăn cho chủ đề 94 Bảng Bảng kho liệu viết chưa đăng 102 Bảng Bảng mô tả ô xử lý mơ hình DFD hành .103 Bảng Bảng ... Kết luận Chương CÁC PHƯƠNG PHÁP PHÂNLOẠIVĂNBẢN TIẾNG ANH 2.1 Bối cảnh phương pháp phânloạivănPhânloạivăn tự động lĩnh vực ý năm gần Để phânloại người ta sử dụng nhiều cách tiếp cận khác ... Phần mềm phânloại tin tức báo điện tử bán tự động 1.4.4 Đóng góp luận văn Chương CÁC PHƯƠNG PHÁP PHÂNLOẠIVĂNBẢN TIẾNG ANH 2.1 Bối cảnh phương pháp phânloạivăn 2.2 Các phương...
... nghĩa văn 34 Khóa luận tốt nghiệp Nguyễn Việt Cường Chương CÁC PHƯƠNG PHÁP PHÂN LỚP VĂNBẢNTrong chương này, chúng tơi trình bày toánphân lớp văn thuật tốn áp dụng vào tốn 4.1 Tổng quan toánphân ... agent) 1.2.2 Phân lớp văn Nội dung Phân lớp văn [3][5][8][11][12] xem trình gán văn vào hay nhiều lớp văn xác định từ trước Người ta phân lớp văn cách thủ công, tức đọc nội dung văn gán vào lớp ... khác phân lớp văn lĩnh vực hiểu vănPhân lớp văn sử dụng để lọc vănphầnvăn chứa liệu cần tìm mà khơng làm tính phức tạp ngơn ngữ tự nhiên Khóa luận tốt nghiệp Nguyễn Việt Cường Trongphân lớp văn...
... tự của vănbản đó với vănbản cần phân lớp. Sau khi đã có mảng các giá trị lưu độ tương tự của vănbản cần phân lớp với cácvănbảntrong tập huấn luyện, ta sắp xếp độ tương tự cácvănbản theo ... ích trong việc tổ chức cũng như tìm kiếm thơng tin trên nguồn tài ngun lớn này. Bài tốn phânloạivăn bản, thực chất, có thể xem là bài tốn phân lớp (Text Classification). Phânloạivănbản tự động là việc gán các nhãn phânloại lên một vănbản mới dựa trên mức độ tương tự của vănbản đó so với cácvănbản đã được ... văn Khi cần phânloại một vănbản mới, thuật tốn sẽ tính khoảng cách (khoảng cách Euclidean, Cosine…) của tất cả cácvănbảntrong tập huấn luyện đến vănbản này để tìm ra k vănbản gần nhất (gọi là k “láng giềng”), sau đó dùng các khoảng ...
... Nguồn gốc Naïve Bayes Naïve Bayes phânloạivăn Hai mơ hình kiện phânloạivăn Nạve Bayes Bài tốn phânloại tin tức điện tử tiếng Việt Kết 62 Chương BÀITOÁNPHÂNLOẠI TIN TỨC ĐIỆN TỬ Nhằm tận dụng ... chuyên biệt Với ưu điểm thuật toán đơn giản, dễ hiểu, dễ cài đặt, phương pháp IGATEC cho kết tách từ chấp nhận được, dùng phânloạivăn 61 Chương BÀITOÁNPHÂNLOẠI TIN TỨC ĐIỆN TỬ Lý chọn phương ... luận Dựa phân tích ưu khuyết điểm phương pháp, chúng em chọn hướng tiếp cận dựa “tiếng” (character-based) cho mục tiêu phânloạivăn Bởi vì, mục tiêu luận vănphânloại tin tức báo điện tử, loại...
... với chủ đề văn Chủ đề xét SAI với chủ đề văn a b c d Phânloại ĐÚNG với chủ đề vănPhânloại SAI với chủ đề văn Bảng Bốn trường hợp phânloạivăn Như vậy, với kết phânloại cho văn bản, ta có ... phânloạivăn tử phân tích hợp vào hệ thống thực tin tức tự tử phânloại tự động tin tức loại động vừa lấy Bảng Bảng mô tả ô xử lý phânloại tin tức tự động 7.4 Triển khai DLL Chương trình phânloại ... hiệu phânloạivăn bản, thông thường người ta dùng số độ thu về-recall độ xác-precision [Yang, 2000] Cho phương pháp phânloạivăn bản, đầu vào văn bản, kết trả danh sách chủ đề gán cho văn đó,...
... tự của vănbản đó với vănbản cần phân lớp. Sau khi đã có mảng các giá trị lưu độ tương tự của vănbản cần phân lớp với cácvănbảntrong tập huấn luyện, ta sắp xếp độ tương tự cácvănbản theo ... Bài tốn phânloạivăn bản, thực chất, có thể xem là bài tốn phân lớp (Text Classification). Phânloạivănbản tự động là việc gán các nhãn phânloại lên một vănbản mới dựa trên mức độ tương tự của vănbản đó so với cácvănbản đã được ... văn Khi cần phânloại một vănbản mới, thuật tốn sẽ tính khoảng cách (khoảng cách Euclidean, Cosine…) của tất cả cácvănbảntrong tập huấn luyện đến vănbản này để tìm ra k vănbản gần nhất (gọi là k “láng giềng”), sau đó dùng các khoảng ...
... DỰNG BỘ PHÂN LỚP VĂNBẢN Sau có tập luật phân lớp, thơng điệp rút trích tạo vector đặc trưng Qui trình phân lớp thực thơng qua thuật toán [2],[8] 1.1.1.1.1.1.1 Thuật toán – Tạo phânloạivăn Ứng ... đánh giá độ xác luật phân lớp Nếu CF(r) dần 1,0 độ xác phân lớp tăng Khi CF( r) =1 ρ(S)⊆ρ({c)), lúc luật phân lớp có độ xác phân lớp 100% Khi áp dụng vào toánphân lớp văn bản, văn tương ứng với ... phụ_thuộc_hàm}⊆ {khố, phụ_thuộc_hàm, dạng-chuẩn} Trong q trình tạo luật phân lớp, ta gặp nhiều luật phân lớp Do cần tiến hành rút gọn luật phân lớp cách loại bỏ luật phân lớp thừa Định nghĩa Cho hai luật...
... luyện chọn - Thêm vănphân loại: chọn đưa văn cần phânloại vào phân loại, thêm nhiều văn lúc - Xóa văn bản: ta chọn nhầm văn đưa vào phân loại, hay mục đích phânloại cho văn mà ta đưa vào khơng ... mục phânloại Hình 4.3: Giao diện chức PhânloạiPhầnphânloại gồm có thơng tin chức để lấy văn đưa vào phânloại chúng Các chức bao gồm chọn liệu huấn luyện để thực phân loại, thêm, xóa văn ... Size 100 100 NULL N N N Y Y Diễn giải Mã văn Tên văn Nơi chứa Mã lĩnh vực Loại Bảng 3.4: Bảng VănBản 21 • Bảng Lĩnh Vực Chứa lĩnh vực mà ta cần phânloại .Các thơng tin gồm có: Cột id linhvuc link...
... dẫn văn bản, kỹ thuật sử dụng lợi nội dụng nguyên mẫu văn Kỹ thuật gọi “trích văn nguyên mẫu” 2.2 Bàitoánphânloạivăn (Text categorization) 2.2.1 Khái niệm phânloạivănPhânloạivăn ... tới hai toán đại diện, hai toán quan tâm nhiều Đó tốn phânloạivăn tiếng Việt thu thập thông tin từ văn tiếng Việt 3.2.1 Bài toán phânloạivăn tiếng Việt Cần xây dựng hệ thống phânloại tài ... Mining phânphân thành nhiệm vụ mà chúng thực xử lý khai phá văn bản: loại thơng tin mà chúng trích loạiphân tích thực chúng Cácloại thơng tin trích là: - Các nhãn: Giả sử, liên kết với mỗi văn...
... conic đối tượng mặt phẳng Bàitoán cổ điển Jakob Steiner đưa vào năm 1848 : "Trong mặt phẳng cho năm đường conic, có đường conic tiếp xúc với tất năm đường conic cho" Một toán tổng quát hơn: "Có ... Cácvấn đề yêu cầu mặt số lượng đối tượng hình học có chung tính chất định, hình học đại số gọi vấn đề đếm Trong luận văn này, nghiên cứu vấn đề đếm liên quan đến đường conic mặt phẳng Luận văn ... điểm điểm C ∩ D khơng phải điểm kì dị C D tiếp tuyến C D điểm phân biệt Các kết trường hợp định lý mang tên nhà toán học Bézout, nhà toán học người Pháp Để chứng minh kết tổng quát số giao điểm...
... để phânloạitoánphân lớp văn Nhìn chung phân biệt toánphân lớp theo hai cách sau: - Phân lớp văn nhị phân / đa lớp: Bàitoánphân lớp văn gọi nhị phân |C|=2, gọi đa lớp |C|>2 - Phân lớp văn ... Chương BÀITOÁNPHÂN LỚP VĂNBẢN 1.1 Khái niệm 1.2 Phânloạitoánphân lớp văn .5 1.3 Mơ hình phân lớp văn .5 1.3.1 Mô hình phân lớp văn .5 1.3.2 ... vector văn bản) - Học phân lớp: sử dụng thuật toánphân lớp để xây dựng mơ hình từ liệu qua tiền xử lý 1.3.3.1 Phương pháp biểu diễn tài liệu Trongtoánphân lớp văn bản, cách biểu diễn văn đóng...
... để phânloạitoánphân lớp văn Nhìn chung phân biệt toánphân lớp theo hai cách sau: - Phân lớp văn nhị phân / đa lớp: Bàitoánphân lớp văn gọi nhị phân |C|=2, gọi đa lớp |C|>2 - Phân lớp văn ... Chương BÀITOÁNPHÂN LỚP VĂNBẢN 1.1 Khái niệm 1.2 Phânloạitoánphân lớp văn .5 1.3 Mơ hình phân lớp văn .5 1.3.1 Mơ hình phân lớp văn .5 1.3.2 ... nhãn: Bàitoánphân lớp văn gọi đơn nhãn tài liệu gán vào xác lớp Bàitoánphân lớp văn gọi đa nhãn tài liệu gán nhiều nhãn Trên thực tế, phân lớp hai lớp (phân lớp nhị phân) trường hợp đặc biệt toán...
... Bayes cơng thức phânloạivăn CXCIII • Phân lớp văn (classify): CXCIV Để tiến hành phânloạivăn bản, người dùng nhập văn cần phânloại thông qua giao diện chương trình Văn đưa vào phân tích từ ... X phân vào lớp n (khơng chơi bóng đá) Áp dụng thuật tốn Nạve Bayes tốn phân lớp văn CLXII Phương pháp phânloại Bayes thực việc phânloại bắt đầu với việc phân tích văn cách trích từ chứa văn ... Xử lý văn CCV Để tiến hành huấn luyện hay phânloạivăn bản, trước hết văn cần phải đưa qua xử lý văn Nhiệm vụ chủ yếu xử lý văn tách từ riêng biệt văn đưa vào danh sách Những từ tách văn từ...
... thác văn sau: - Phânloạivăn (Text Categorization - Text Classification): Cho tập vănphânloại theo chủ đề cho trước (VD: kinh tế, triết học, thể thao, văn hoá, ….) Xuất văn chưa phân loại, ... xác cao ứng dụng cho tốn phân nhóm đoạn vănvăn tốn có điều kiện liệu đầu vào nhỏ Thuật toán K-Means Đây thuật toán kinh điển Phân nhóm văn Thuật tốn thực phân hoạch tập vănban đầu thành K nhóm ... Bước 1: Tiền xử lý văn Đầu vào: văn gốc Đầu ra: biểu diễn đoạn vănvăn theo mơ hình véc tơ thưa Mỗi đoạn văn biểu diễn dạng véc tơ Bước 2: Áp dụng phân nhóm văn để phân nhóm đoạn văn Đầu vào: biểu...