ỨNG DỤNG ONTOLOGY XÂY DỰNG HỆ THỐNG RÚT TRÍCH THÔNG TIN TỰ ĐỘNG

Xây dựng hệ thống tra cứu thông tin một số loại nông sản trong đó giá các loại nông sản được thu thập tự động từ các nguồn tin cậy. Mục tiêu cụ thể: Xây dựng công cụ rút trích tự động thông tin các loại nông sản từ các nguồn (trang Web) liên quan và tin cậy sử dụng kỹ thuật nhận dạng thực thể có tên (NER Name entity recognition). Đề xuất kiến trúc cơ sở dữ liệu Ontology thể hiện mối quan hệ giữa các loại nông sản và cho phép lưu trữ thông tin các loại nông sản theo thời gian. Cập nhật cơ sở dữ liệu Ontology giá các loại nông sản theo thời gian dựa trên dữ liệu thu thập được từ công cụ rút trích tự động giá nông sản. Xây dựng công cụ cho phép người dùng tra cứu thông tin về các loại nông sản.

BỘ LAO ĐỘNG THƯƠNG BINH VÀ XÃ HỘI TRƯỜNG ĐẠI HỌC SƯ PHẠM KỸ THUẬT VĨNH LONG - ỨNG DỤNG ONTOLOGY XÂY DỰNG HỆ THỐNG RÚT TRÍCH THƠNG TIN TỰ ĐỘNG CÔNG NGHỆ THÔNG TIN LUẬN VĂN THẠC SĨ Vĩnh Long – Năm 2022 MỤC LỤC LỜI CAM ĐOAN i LỜI CẢM ƠN ii MỤC LỤC iii TÓM TẮT LUẬN VĂN .v DANH MỤC BẢNG BIỂU vi DANH MỤC HÌNH ẢNH vii DANH MỤC TỪ VIẾT TẮT viii MỞ ĐẦU CHƯƠNG 1: CƠ SỞ KHOA HỌC CỦA ĐỀ TÀI 1.1 TỔNG QUAN VỀ ONTOLOGY 1.1.1 Thành phần Ontology 1.1.2 Phân loại 1.1.3 Phương thức xây dựng Ontology 1.1.4 Ngôn ngữ Ontology 1.1.5 Công cụ phát triển Ontology .15 1.1.6 Phương pháp xây dựng ontology 17 1.2 TỔNG QUAN VỀ SEMANTIC WEB 18 1.2.1 Những đặc trưng Sematic Web .19 1.2.2 Kiến trúc 20 1.2.3 Khung Mô tả Tài nguyên 22 1.2.4 Một số ứng dụng Ontology Web ngữ nghĩa 23 1.3 NHẬN DẠNG THỰC THỂ CÓ TÊN ( NER – Named Entity Recognition) .26 1.3.1 Tổng quan nhận dạng thực thể có tên .26 1.3.2 Ứng dụng nhận dạng thực thể 27 1.4 TỔNG QUAN VỀ RÚT TRÍCH THƠNG TIN 28 1.4.1 Giới thiệu rút trích thơng tin 29 1.4.2 Hệ thống rút trích thơng tin từ trang web 30 1.5 TÌNH HÌNH CÁC LOẠI CÂY ĂN TRÁI Ở NƯỚC TA .31 1.6 CƠ SỞ THỰC TIỄN CỦA ĐỀ TÀI .32 1.7 TỔNG QUAN CÁC CƠNG TRÌNH NGHIÊN CỨU CĨ LIÊN QUAN .33 CHƯƠNG 2: XÂY DỰNG HỆ THỐNG RÚT TRÍCH THƠNG TIN TỰ ĐỘNG .35 2.1 ĐẶC ĐIỂM ĐỊA BÀN NGHIÊN CỨU .35 2.2 MÔ TẢ HỆ THỐNG 36 2.2.1 Đặt vấn đề 36 2.2.2 Mô tả hệ thống 37 2.3 PHƯƠNG PHÁP ĐỀ XUẤT .39 2.3.1 Phương pháp rút trích thơng tin (IE – Information Extraction) 39 2.3.2 Phương pháp nhận dạng thực thể có tên 40 2.4 MƠ TẢ THUẬT TỐN TỔNG QT 42 2.4.1 Giai đoạn huấn luyện 43 2.4.2 Giai đoạn nhận dạng 47 2.4.3 Xây dựng Ontology loại trái 48 2.4.4 Chức tìm kiếm 50 2.4.5 Kết nghiên cứu 51 2.4.6 Đánh giá kết .56 CHƯƠNG 3: KẾT LUẬN VÀ KIẾN NGHỊ 57 3.1 KẾT QUẢ ĐẠT ĐƯỢC 57 3.2 HƯỚNG PHÁT TRIỂN 58 TÀI LIỆU THAM KHẢO 59 KẾ HOẠCH THỰC HIỆN LUẬN VĂN 62 TÓM TẮT LUẬN VĂN ỨNG DỤNG ONTOLOGY XÂY DỰNG HỆ THỐNG RÚT TRÍCH THƠNG TIN TỰ ĐỘNG Học viên: Lê Tiến Lộc Chun nghành: Cơng nghệ thơng tin Mã số: 22004011 Khóa: 03 Trường Đại học SPKT Vĩnh Long Tóm tắt - Trong tiến trình phát triển khơng tránh khỏi khó khăn lớn, thị trường tiêu thụ Giá loại ăn trái coi vấn đề trọng yếu thị trường nông sản Việc xây dựng hệ thống tra cứu thông tin nông sản giá loại nơng sản thu thập tự động từ nguồn tin cậy thị trường yêu cầu cấp thiết giai đoạn Tác giả ứng dụng công nghệ thông tin góp phần giải vấn đề tìm kiếm thơng tin loại trái nước ta Xây dựng hệ thống tìm kiếm thơng tin web, dựa thơng tin rút trích với kỹ thuật NER góp phần nâng cao kết tìm kiếm nhanh, tăng độ xác đỡ tốn thời gian người dân, giúp người dân hiểu biết đầy đủ thông tin thị trường loại trái cây, từ đưa phương án sản xuất hợp lí đem lại thu nhập cao Từ khóa: trích xuất thơng tin tự động; ứng dụng Ontology; nhận dạng thực thể có tên; web ngữ nghĩa; BERT ONTOLOGY APP BUILDS AUTOMATIC INFORMATION EXTRACT SYSTEM Abstract - In the development process, it is inevitable that great difficulties, especially the consumption market The price of fruit trees is considered one of the key issues in the agricultural market Building a system to look up agricultural product information in which prices of agricultural products are automatically collected from reliable sources in the market is an urgent requirement in the current period In the development process, it is inevitable that great difficulties, especially the consumption market The price of fruit trees is considered one of the key issues in the agricultural market Building a system to look up agricultural product information in which prices of agricultural products are automatically collected from reliable sources in the market is an urgent requirement in the current period Key words - Automatic information extraction; Application Ontology; Named Entity Recognition; Semantic Web; Bidirectional Encoder Representations from Transformers DANH MỤC BẢNG BIỂU Số hiệu bảng 1.1 2.1 Tên bảng Danh mục loại thực thể Kết sau gán nhãn Trang 27 52 DANH MỤC HÌNH ẢNH Số hiệu hình vẽ 1.1 1.2 1.3 1.4 1.5 1.6 1.7 1.8 1.9 1.10 1.6 2.1 2.2 2.3 2.4 2.5 2.6 2.7 2.8 2.9 2.10 2.11 2.12 2.13 2.14 2.15 2.16 2.17 2.18 Tên hình vẽ Trang Ví dụ mơ hình phân lớp nơng sản trái Mơ hình phân loại Ontology So sánh RDF RDFS Giao diện phần mềm Protégé Giao diện đồ họa phần mềm Protég 12 15 16 16 17 19 Protégé tích hợp cơng cụ OWL Viz Xây dựng ontology với phàn mềm Protégé Kiến trúc phân tầng Semantic Web hoàn thiện năm 2006 Mối quan hệ thành phần triple Mơ hình ba triple Mơ hình phương pháp kết hợp Web service Mơ hình tổng qt tốn rút trích thơng tin tự động Khái qt hệ thống trích rút thông tin Kết đánh giá hiệu gán nhãn sử dụng mơ hình BERT Thu thập liệu thơ Ví dụ bước làm text Mơ hình huấn luyện Quá trình training Kiến trúc xử lý Gán nhãn liệu Ontology tổng quát Xây dựng sở sữ liệu cho Ontology Kết tìm kiếm nơng sản bưởi da xanh Các entity gán nhãn Kết phân loại nhãn Cấu trúc liệu ontology Giao diện tìm kiếm thơng tin nơng sản chơm chơm Giao diện tìm kiếm thông tin cho nông sản chanh leo Giao diện không tồn nơng sản cần tìm 22 22 24 38 39 42 42 43 45 46 47 48 49 49 51 52 53 54 54 55 56 DANH MỤC TỪ VIẾT TẮT CÁC KÝ HIỆU PER Tên người ORG Tên tổ chức LOC Tên địa danh NUM Số PCT Phần trăm CUR Tiền tệ TIME Ngày tháng, thời gian MISC Những loại thực thể khác loại O Không phải thực thể CÁC CHỮ VIẾT TẮT CSDL Cơ sở liệu ĐBSCL Đồng sông Cửu long WebNN Web ngữ nghĩa XACML Extensible Access Control Markup Language NER Name entity recognition RDF Resource Description Framework URI Uniform Resource Identifier XML Extensible Markup Language MỞ ĐẦU Tính cấp thiết đề tài Cây ăn trái loại trồng nhiều nước ta, ăn trái mang lại nguồn lợi lớn cho nông dân năm Cây ăn trái nguồn cung cấp dinh dưỡng quý cho người, cung cấp nhiều chất đường dễ tiêu Bởi vậy, loại thực phẩm ưu chuộng, thị trường tiêu thụ lớn Diện tích ăn trái nước ta khoảng 910.000 ha, với sản lượng đạt 9.5 triệu tấn/năm Là mặt hàng xuất quan trọng ngành nông nghiệp với kim ngạch xuất đạt tỷ USD năm 20181 Ở nước ta nay, hình thành nhiều vùng ăn trái đặc sản có suất cao, chất lượng tốt xồi cát Hịa Lộc Tiền Giang, nhãn lồng Hưng Yên, vải thiều Thanh Hà, Sầu riêng Bến Tre, nho Ninh Thuận, … Cây ăn trái đem lại nguồn thu nhập lớn, giúp người dân cải thiện sống Tuy nhiên tiến trình phát triển khơng tránh khỏi khó khăn lớn, thị trường tiêu thụ, mùa giá thành thấp cung vượt cầu, vào vụ nghịch giá lại bị đẩy lên cao cung nhỏ cầu Giá loại ăn trái coi vấn đề trọng yếu thị trường nông sản, chi phối mối quan hệ trao đổi nội trao đổi liên ngành nông nghiệp dịch vụ, công nghiệp, truyền thơng, … Việc xây dựng hệ thống tìm hiểu thông tin thị trường ăn trái yêu cầu cấp thiết giai đoạn Qua đó, người dân tiếp cận cập nhật thơng tin đầy đủ thị trường loại ăn trái, từ đưa phương án trồng trọt để đạt thu nhập cao Công nghệ thông tin thay đổi giới tạo nên cách mạng thực lĩnh vực khoa học đời sống Hiện nay, hàng triệu người giới sử dụng Internet xem nơi lý tưởng để tìm kiếm thơng tin, mua sắm hàng hóa, dịch vụ, … Mọi thơng tin Web cập nhật nhanh chóng kịp thời Với thơng tin có sẵn tỉ lệ gia tăng người dùng, khẳng định Web công nghệ thành công gây ấn tượng Năm 1998, Tim Berners-Lee đề xuất Web ngữ nghĩa (Semantic Web), phát triển Web Một lĩnh vực mạnh Web Semantic xử lý tìm kiếm thơng tin Việc phân tích định hướng nội dung lưu trữ cho phép xây dựng sở liệu phục vụ tìm kiếm xác tinh gọn Cũng theo ông, tảng Web ngữ nghĩa Ontology Ontology xem hình thức biểu diễn tri thức lĩnh vực ứng dụng khác có bước tiến quan trọng Ontology mơ tả khơng khái niệm thuộc tính mà cịn cung cấp quan hệ tiên đề phục vụ cho việc suy luận Ontology có nhiều lợi cho phép thêm ngữ nghĩa vào liệu, Nguồn: Hùng Chaetomium Tình hình canh tác ăn trái Lấy từ: https://nongnghiepthuanthien.vn/ [Truy cập ngày 30 tháng 11 năm 2021] quản lý cập nhật tri thức, tích hợp liệu tái sử dụng thành phần dễ dàng Nhờ đó, Ontology mơ tả thức số từ vựng chun mơn Chính lý trên, chọn đề tài: “Ứng dụng Ontology xây dựng hệ thống rút trích thơng tin tự động” nhằm xây dựng hệ thống tìm kiếm thơng tin Web, dựa vào kỹ thuật Ner để rút trích thơng tin loại ăn trái, kết hợp với Ontology tạo sở liệu Qua giúp cho nhu cầu tìm hiểu thị trường ăn trái cách nhanh nhất, dễ hiểu, tiết kiệm thời gian có độ xác cao Mục tiêu nghiên cứu Xây dựng hệ thống tra cứu thông tin số loại nông sản giá loại nơng sản thu thập tự động từ nguồn tin cậy Mục tiêu cụ thể: - Xây dựng cơng cụ rút trích tự động thông tin loại nông sản từ nguồn (trang Web) liên quan tin cậy sử dụng kỹ thuật nhận dạng thực thể có tên (NER Name entity recognition) - Đề xuất kiến trúc sở liệu Ontology thể mối quan hệ loại nông sản cho phép lưu trữ thông tin loại nông sản theo thời gian - Cập nhật sở liệu Ontology giá loại nông sản theo thời gian dựa liệu thu thập từ công cụ rút trích tự động giá nơng sản - Xây dựng công cụ cho phép người dùng tra cứu thông tin loại nông sản Đối tượng nghiên cứu - Kỹ thuật nhận dạng thực thể có tên NER - Ontology tìm kiếm theo ngữ nghĩa - Hệ thống tìm kiếm thơng tin Web Phạm vi nghiên cứu - Thông tin loại nông sản bao gồm: giá bán, giá thu mua, đơn vị thu mua, thời gian - Các loại nông sản thu thập như: Bưởi da xanh, bưởi năm roi, quýt đường, cam xồn, cam sành, chơm chơm nhãn, dưa hấu sọc, xồi cát hòa lộc, gạo tẻ thường, gạo nàng thơm chợ đào, gạo thơm thái, bơ - Nguồn cung cấp thông tin loại trái lấy tự động trang Web tin cậy như: + Bản tin kinh tế thị trường, kinh doanh, tài ngân hàng, tài marketing, cập nhật thơng tin tài kinh tế thị trường có địa trang Web: https://baokinhte.net + Website GiaNongSan.org sản phẩm ResMart Lương thực phẩm tươi sống công ty ResHP Việt Nam + Và số trang web nông sản đáng tin cậy khác như: https://Webtraicay.com https://traicay141.vn http://www.viettropfruit.com https://vinfruits.com http://www.hoaquasach.vn Dữ liệu mở: Các chức hệ thống hoạt động độc lập với liệu CSDL Ontology mà phụ thuộc kiến trúc CSDL Ontology Phương pháp nghiên cứu Tác giả sử dụng phương pháp nghiên cứu kết hợp nghiên cứu lý thuyết cách tổng hợp tài liệu nghiên cứu thực nghiệm - Nghiên cứu lý thuyết: + Phương pháp tổng hợp lý thuyết: tổng hợp sở lý luận liên quan đến ontology, semantic web, nhận dạng thực thể có tên, rút trích thơng tin tự động từ nguồn tài liệu giáo trình, giảng, internet, chuyên đề, luận văn luận án để nghiên cứu phát biểu toán cố vấn học tập cần giải + Phương pháp hệ thống: hệ thống hóa lý thuyết thu thập từ nguồn tài liệu khác thành hệ thống sở lý thuyết chặt chẽ, hoàn chỉnh - Nghiên cứu thực nghiệm: + Nghiên cứu phương pháp rút trích thơng tin tự động với nhận dạng thực thể có tên (NER) + Sử dụng Bộ liệu thu thập, lấy thông tin từ trang Website mua bán mặt hàng nông sản loại trái đáng tin cậy có dạng chuẩn HTML + Dựa vào tốn rút trích thông tin tự động phát biểu, chọn phương pháp giải, huấn luyện nhận dạng liệu thu thập thành liệu phù hợp với kỹ thuật lựa chọn toán phát biểu Sau có liệu tiến hành bước xây dựng Ontology tạo sở liệu Ontology + Mô tả kết thu có ý nghĩa thực tiễn phù hợp với toán phát biểu Những đóng góp mới, ý nghĩa khoa học  Những đóng góp mới: - Tiếp cận với cơng nghệ xử lý thơng tin Semantic Web - Rút trích thông tin tự động loại trái với kỹ thuật NER - Xây dựng hệ thống tìm kiếm Web ngữ nghĩa với Ontology - Đề xuất hướng phát triển ứng dụng đảm bảo tính xác thơng tin  Ý nghĩa khoa học: - Ứng dụng công nghệ thơng tin góp phần giải vấn đề tìm kiếm thông tin loại nông sản trái nước ta - Xây dựng hệ thống tìm kiếm thơng tin Web, dựa thơng tin rút trích với kỹ thuật Ner Góp phần nâng cao kết tìm kiếm nhanh, tăng độ xác đỡ tốn thời gian người dân, giúp người dân hiểu biết đầy đủ thông tin thị trường loại trái cây, từ đưa phương án sản xuất hợp lí đem lại thu nhập cao  Ý nghĩa thực tiễn Hình 2.9 Gán nhãn liệu File liệu huấn luyện chứa văn tách từ bổ sung thơng tin từ loại nhãn phân cụm Mỗi từ đặt dịng riêng biệt có dịng trống sau câu Lưu ý phân đoạn từ không sử dụng để khớp với pretrain BERT (bert – base – multilingual - cased) Sử dụng Bộ công cụ Underthesea NLP để phân đoạn câu, xử lý trước văn thô đầu vào Bước 3: Nhận diện loại nông sản Tiến hành đưa thông tin đầu vào để nhận diện loại nông sản thông qua việc áp dụng mơ hình huấn luyện giai đoạn đưa kết 2.4.3 Xây dựng Ontology loại trái Ontology tảng để xây dựng liệu cho ứng dụng Dữ liệu Ontology nội dung thơng tin liên kết đến Ontology khác có chung kết nối Luận văn chủ yếu tập trung vào xây dựng Ontology cho loại trái có thị trường Việt Nam Hình 2.10 Ontology tổng quát Dựa thông tin từ trang Web giới thiệu trái mua bán trái uy tín Tri thức biểu diễn loại trái chia sẻ theo cách cho phép người dùng tìm 50 thơng tin tên loại nông sản trái cây, giá bán, địa chỉ, thời gian thu mua loại nông sản trái Hình 2.11 Xây dựng sở sữ liệu cho Ontology + Mơ hình phân cấp lớp Ontology: Tiến hành xây dựng đối tượng phân chia thành lớp, cá thể mối quan hệ Trong Ontology tất thông tin nông sản phân rã lưu trữ dạng khác Sau mơ hình phân cấp lớp ứng dụng: + Thực xây dựng HignOnt: Vấn đề xây dựng Ontology tương tự cách người dùng nhập liệu vào sở liệu Ở đây, tất liệu cấu trúc phân tách khai báo thơng qua cơng cụ Các đối tượng Ontology class, properties, individuals xem xét điền đầy đủ thơng tin cách cụ thể khả khai thác sau thuận tiện + Các lớp Ontology rút trích thơng tin giá nơng sản: - Lớp tìm tên nơng sản - Lớp chọn vùng nơng sản + Thuộc tính: Các thuộc tính thể mối quan hệ lớp, đối tượng liệu (individual) với quan hệ với liệu Ngôn ngữ Ontology chia thuộc tính thành hai loại khác thuộc tính quan hệ thuộc tính liệu Thuộc tính liệu: loại ( tên trái cây, vùng miền, màu sắc, thời gian) Thuộc tính quan hệ: giá bán 51 Cá thể: trái nhập, trái nội 2.4.4 Chức tìm kiếm Chức tìm kiếm chức chương trình thực thao tác sau: - Tổ chức lưu trữ Ontology theo quan hệ, thuộc tính Ontology để hiển thị thông tin theo dạng phân cấp - Thực truy vấn yêu cầu người dùng Ontology trả kết cho Web UI địa điểm theo yêu cầu người dùng Chức tìm kiếm dựa vào từ khóa nhập từ bàn phím ( tên thơng tin loại nơng sản) để tìm kiếm nơng sản cần tra Việc tìm kiếm dựa đối chiếu, so khớp thông tin từ từ khóa nhập vào người dùng Các bước thực hiện: Bước 1: Duyệt tìm tất địa liên quan đến từ khóa sản phẩm yêu cầu truy vấn Bước 2: Nếu có sản phẩm thỏa mãn bước thực hiện: Đọc Object Properties Bước 3: Xác định lớp có Properties nằm bước Duyệt qua individual lớp vừa xác định Kiểm tra tính quan hệ cá thể để đưa giá trị liên quan Bước 4: Hiển thị kết Hệ thống hiển thị lên tất kết thu thập liên quan đến nơng sản tìm kiếm Hình 2.12 Kết tìm kiếm nơng sản bưởi da xanh 52 Từ kết tìm kiếm hình 2.12, thấy hệ thống hiển thị thành cơng nông sản bưởi với thông tin địa chỉ, giá bán thời gian 2.4.5 Kết nghiên cứu 2.4.5.1 Kịch áp dụng Tôi tận dụng lại tri thức từ pretrained-model với tác vụ phân loại để giúp mơ hình huấn luyện dự báo tốt với liệu mơ hình học nguồn tri thức (đó liệu huấn luyện liệu mà học trước đó) Sau cách sử dụng trọng số học tiếp tục huấn luyện tập liệu thực Sau q trình huấn luyện tơi tiến hành kiểm tra độ xác thực tế mơ hình huấn luyện tập liệu đầu vào 2.4.5.2 Môi trường cài đặt Hệ thống cài đặt ngôn ngữ Python Chạy môi trường Node.js với Windows10, Ram 8Gb, CPU @ 2.40 GHz Để đánh giá phương pháp đề xuất sử dụng liệu tập thông tin lấy từ trang Web bán trái đáng tin cậy có dạng chuẩn HTML 2.4.5.3 Tập liệu thực nghiệm Nghiên cứu này, tác giả tiến hành thực nghiệm tập liệu thô lấy từ trang Web bán trái đáng tin cậy có dạng chuẩn HTML như: https://baokinhte.net Website GiaNongSan.org https://Webtraicay.com https://traicay141.vn http://www.viettropfruit.com https://vinfruits.com http://www.hoaquasach.vn Sau thông tin tập liệu trái đưa qua xử lý (xác định thông tin nông sản) để đưa tập liệu tối ưu để huấn luyện 2.4.5.4 Giai doạn huấn luyện Giai đoạn huấn luyện chia làm bước chính: tiền xử lý liệu , trích chọn đặc trưng huấn luyện mơ hình Tiền xử lý liệu: Đầu vào hệ thống trang Web bán trái đáng tin cậy có dạng chuẩn HTML, ảnh minh họa Sau chọn lọc thơng tin có chứa đối tượng cần nhận dạng để thực xử lý liệu pre-train model, cho file có chứa thơng tin đối tượng có độ tin cậy cao Trích chọn đặc trưng: Dựa vào tập liệu, tiến hành tìm xác định nhãn cho thực thể có chứa tập câu thu bước tiền xử lý 53 Hình 2.13 Các entity gán nhãn Huấn luyện mơ hình: Tận dụng lại tri thức từ pretrained-model với tác vụ phân loại để giúp mơ hình huấn luyện dự báo tốt hơn, tối ưu hóa với liệu mơ hình học nguồn tri thức Hệ thống đào tạo cách áp dụng thuật tốn tập liệu, tất thơng tin liên quan trích xuất từ liệu kết thu được, 80-85% liệu liệu lấy cho liệu đào tạo 20% liệu liệu sử dụng để thử nghiệm Dữ liệu thử nghiệm sử dụng để đo lường độ xác hệ thống 2.4.5.5 Giai đoạn nhận dạng Trong phạm vi nghiên cứu luận văn này, tác giả tiến hành nhận dạng thực thể có tên sau: tên loại nông sản trái cây, địa danh (địa xuất sứ nông sản), giá thời gian Giai đoạn nhận dạng chia làm bước chính: Tiền xử lý liệu, rút trích điểm quan trọng nhận diện loại nơng sản Tiền xử lý liệu: Tiến hành trích xuất thông tin nông sản từ kết nhận sau liệu qua xử lý giai đoạn huấn luyện Trích chọn đặc trưng gán nhãn: Sử dụng pretrained model BERT để nhận diện phân loại loại trái tên trái , giá bán, địa chỉ, thời gian thu mua,… ghi lại file nhãn Word POS Tag sentence Word_labels Sentence Thousands NNS O Gía hoa O,O,O,O,O,O,Bđồng sơng cửu geo,O,O,B long loại long geo,O,O,O,O,O,B-… 54 có giá 45.000d Giá cam Sành Sentence Thousands NNS O O,fruitO,B-geo-… Hà Nội Các sở bán Xoài O,O,O,O,O,fruit,BSentence Thousands NNS O sài gòn geo… Dâu tây đà lạt có Fruit,O,O,O,O,O,O Sentence Thousands NNS O giá … Bảng 2.1 Kết sau gán nhãn Sử dụng Bộ công cụ Underthesea NLP để phân đoạn câu, xử lý trước văn thô đầu vào Kết phân loại nhãn hình 2.14 đây: Hình 2.14 Kết phân loại nhãn 55 2.4.5.6 Xây dựng Ontology Hình 2.15 Cấu trúc liệu ontology Dựa thông tin thô lấy từ trang Web giới thiệu trái mua bán trái uy tín như: Báo kinh tế, Giá nơng sản, web trái cây, trái 141, vinfruits, Hoa sạch, dùng để thu thông tin tên loại nông sản trái cây, giá bán, địa chỉ, thời gian thu mua, vùng miền, màu sắc, trọng lượng loại nơng sản trái 2.4.5.7 Demo kết tìm kiếm nơng sản Một số hình ảnh giao diện tìm kiếm nơng sản 56 Hình 2.16 Giao diện tìm kiếm thơng tin nơng sản chơm chơm Hình 2.17 Giao diện tìm kiếm thơng tin cho nơng sản chanh leo 57 Hình 2.18 Giao diện khơng tồn nơng sản cần tìm 2.4.6 Đánh giá kết Trong thời gian khơng nhiều, nên luận văn nghiên cứu cịn số hạn chế Tuy nhiên luận văn đạt yêu cầu đề - Nhiệm vụ luận văn ứng dụng Ontology phục vụ cho xây dựng hệ thống rút trích thơng tin tự động Ontology xây dựng để tạo thành kho sở liệu - Sau trình triển khai, cài đặt chạy thử nghiệm Kết nghiên cứu là: + Đưa ontology có khả lưu trữ thơng tin loại nông sản trái vùng Đồng sông Cửu Long + Ontology hệ thống chủ yếu thể mối quan hệ loại nông sản cho phép lưu trữ thông tin loại nông sản theo thời gian, đồng thời cung cấp cho người dùng thông tin nông sản cho phép người dùng tìm kiếm thơng tin nơng sản - Một số đánh giá hệ thống: + Thiết kế xây dựng liệu: Tác giả thiết kế xây dựng liệu ontology thông qua công cụ hỗ trợ protégé Tác giả sử dụng phương pháp rút trích thơng tin ( IE – Information Extraction) kết hợp mơ hình BERT, liệu sau rút trích sử dụng trình bày trực tiếp cho người dùng, lưu trữ thông tin vào ontology để xử lý sau sử dụng cho hệ thống tìm kiếm thông tin liệu bước qua tiền xử lý + Khả tra cứu thông tin: Kết tìm kiếm nơng sản theo u cầu tìm kiếm người dùng 58 CHƯƠNG 3: KẾT LUẬN VÀ KIẾN NGHỊ 3.1 KẾT QUẢ ĐẠT ĐƯỢC Sau nghiên cứu thực đề tài “Ứng dụng Ontology xây dựng hệ thống rút trích thơng tin tự động”, đề tài chưa đạt kết tốt mong đợi số chức đạt ý tưởng hệ thống cần thiết Các nội dung mà đề tài đạt được: - Về mặt lý thuyết: + Tác giả tiến hành tìm hiểu nghiên cứu nội dung kiến thức liên quan đến ontology, semantic web, NER, rút trích thơng tin + Tìm hiểu phương pháp cơng cụ để xây dựng ontology, trọng vào phương pháp rút trích ontology với nguồn liệu thơ lấy từ trang web nông sản đáng tin cậy - Về mặt thực tiễn: + Qua trình nghiên cứu tìm hiểu, tác giả tiến hành xây dựng Ontology dựa thuộc tính rút trích để tạo thành kho sở liệu Kho sở liệu áp dụng vào nhiều ngữ cảnh khác có độ tùy biến cao tùy thuộc vào người sử dụng + Xây dựng thành cơng cơng cụ rút trích tự động thông tin loại trái từ nguồn (trang Web) liên quan tin cậy + Xây dựng thành công Ontology, thể mối quan hệ loại trái cho phép lưu trữ thông tin loại trái theo thời gian + Kiến trúc xây dựng ứng dụng việc tìm kiếm tổng hợp thơng tin đưa hình ảnh minh họa + Góp phần giúp người nơng dân người có nhu cầu tìm hiểu có công cụ hỗ trợ tra cứu thông tin liên quan đến tình hình nơng sản loại trại Cùng với kết đạt đề tài tồn số hạn chế sau: - Do khn khổ có hạn thời gian lượng kiến thức có gặp khó khăn trình thu thập liệu thử nghiệm nên số vấn đề mà luận văn phải tiếp tục hoàn thiện phát triển thời gian tới hướng phát triển cho tương lai - Chức tìm kiếm cịn đơn giản Phần mềm ứng dụng chủ yếu hỗ trợ cộng đồng kế thừa phát triển ontology nơng sản, chức tìm kiếm đơn giản, cần đưa phương pháp tìm kiếm hiệu - Ontology quy mô nhỏ, chưa thực lớn phong phú Tác giả cần có liệu ontology đầy đủ để đánh giá mức độ xử lý tìm kiếm xác mức độ đáp ứng người dùng truy cập ứng dụng lúc 3.2 HƯỚNG PHÁT TRIỂN Dự định tương lai tác giả phát triển hệ thống rút trích thơng tin tự động theo hướng: 59 + Trong thời gian tiếp theo, tác giả tiếp tục nghiên cứu hướng giải cho hạn chế tồn luận văn tiếp tục triển khai đề xuất để hoàn thiện kỹ thuật nâng cấp, làm giàu ontology + Tiếp tục xây dựng hoàn thiện ontology, làm phong phú liệu loại nông sản Tiếp tục nghiên cứu chọn lựa thêm ontology lĩnh vực khác để nang cấp ontology có + Dựa kinh nghiệm có để phát triển làm giàu ontology cho ứng dụng Rút trích thông tin loại nông sản trái giọng nói thơng qua video giới thiệu nơng sản trái + Với vốn kiến thức hạn chế nên tác giả hy vọng tương lai, nghiên cứu có góp mặt chuyên gia để phát triển hệ thống hoàn thiện 60 TÀI LIỆU THAM KHẢO Tiếng Việt [1] Nguyễn Thanh Triều, “ Kỹ thuật trồng đa niên”, Khoa Nông nghiệp & TNTN [2] Tạp chí khoa học & cơng nghệ trường đại học kỹ thuật số 74 – 2009 [3] Nguyễn Vũ Chi Loan (2017), “Ngiên cứu phương pháp trích rút từ khóa từ trang Web ứng dụng” Luận văn thạc sĩ, Trường đại học Công Nghệ, Đại Học Quốc Gia Hà Nội [4] Nguyễn Cẩm Tú (2005) , “Nhận biêt loại thực thể văn tiếng việt nhằm hỗ trợ Web ngữ nghĩa tìm kiếm hướng thực thể ” Luận văn thạc sĩ, Trường đại học Công Nghệ, Đại Học Quốc Gia Hà Nội [5] Nguyễn Ngọc Phú (2013), “Nghiên cứu Web ngữ nghĩa khai phá liệu Web xây dựng hệ thống tra cứu, thống kê cơng trình nghiên cứu khoa học” Luận văn thạc sĩ, Trường đại học Đà Nẵng [6] Cao Hoàng Trụ, “Nghiên cứu xây dựng khai thác thơng tin Web có ngữ nghĩa (VN-KIM)” , Kỷ yếu Hội nghị Khoa học & Công nghệ lần thứ 9, ĐH Bách Khoa Tp HCM, Phân ban CNTT [7] Cao Hoàng Trụ, Đỗ Thanh Hải, Phạm Trần Ngọc Bảo, Huỳnh Ngọc Tuyên, Vũ Quang Duy Conceptual graphs for knowledge querying in VN-KIM Trong kỷ yếu hội nghị quốc tế lần thứ 13 “Conceptual Structures”, 18-22/7/2005, Kassel, Đức [8] Trần Đình Khang, Vũ Tuyết Trinh, Đỗ Đức Thành, Đỗ Thị Ngọc Quỳnh Một phương pháp tìm kiếm dựa Ontology phục vụ quản lý thông tin khoa học công nghệ Bộ môn Hệ thống Thông tin, Trường Đại Học Bách Khoa Hà Nội [9] Trần Đình Khang, Vũ Tuyết Trinh, Đỗ Đức Thành, Đỗ Thị Ngọc Quỳnh, Một phương pháp tìm kiếm dựa Ontology phục vụ quản lý thông tin khoa học công nghệ, Bộ môn Hệ thống Thông tin, Trường Đại Học Bách Khoa Hà Nội, 2007 [10] Hoàng Hữu Hạnh , Lê Mạnh Thạch, Giáo trình Web ngữ nghĩa, Nhà xuất Giáo Dục Việt Nam Tiếng Anh [1] Berners-Lee T Semantic Web roadmap, Bản thảo viết, 9/1998 [2] Information Extraction: Methodologies and Applications “Jie Tang, Mingcai Hong, Duo Zhang, Bangyong Liang, and Juanzi Li” [3] Information Extraction and Named Entity Recognition: Getting simple structured information out of text Elena Cabrio and Serena Villata “CREDITS (for the slides): C Manning and D Jurafsky (Stanford University), A Lavelli and B Magnini (FBK), Andrew McCallum (University of Massachussets Amherst” [4] VnCoreNLP: A Vietnamese Natural Language Processing Toolkit “Thanh Vu1 , Dat Quoc Nguyen2 , Dai Quoc Nguyen3 , Mark Dras4 and Mark Johnson4 1Newcastle University, United Kingdom; 2The University of Melbourne, Australia; 3Deakin University, Australia; 4Macquarie University, Australia” 61 [5] FoodIE: A Rule-based Named-entity Recognition Method for Food Information Extraction “Gorjan Popovski1 , Stefan Kochev1 , Barbara Korousiˇ c Seljak ´ and Tome Eftimov2 1Faculty of Computer Science and Engineering, Ss Cyril and Methodius University, Rugjer Boshkovikj 16, 1000 Skopje, Macedonia 2Computer Systems Department, Jozef Stefan Institute, Jamova cesta 39, 1000 Ljubljana, Slovenia” [6] Information Extraction Lecture – Rule-based Named Entity Recognition CIS, LMU München Winter Semester 2015-2016 Dr Alexander Fraser, CIS [7] Faatz Andreas and Steinmetz Ralf, "Ontology Enrichment with Texts from the WWW," in Semantic Web Mining, Helsinski, 2002 [8] Agirre Eneko, Ansa Olatz, Hovy H Eduard, and Martínez David, "Enriching very large ontologies using the WWW," in ECAI'2000 Workshop on Ontology Learning, Proceedings of the First Workshop on Ontology Learning OL'2000, Berlin, 2000 [9] Shamsfard Mehrnoush and Barforoush Abdollahzadeh Ahmad, "Learning ontologies from natural language texts," Int J Hum.-Comput Stud., vol 60, pp 1763, 2004 [10] Faure David and Poibeau Thierry, "First experiences of using semantic knowledge learned by ASIUM for information extraction task using INTEX," in ECAI'2000 Workshop on Ontology Learning, Proceedings of the First Workshop on Ontology Learning OL'2000, Berlin, 2000 [11]Natalya F Noy and Deborah L McGuinness Ontology Development 101: A Guide to Creating Your First Ontology Stanford University, Stanford, CA, 94305 [12] A W P Fok and H H S Ip; Education Ontologies Constructions for Personalized Learning on the Web; Studies in Computational Intelligence (SCI) 62, 47-82, Springer, 2007 [13] Devlin, Jacob; Chang, Ming-Wei; Lee, Kenton; Toutanova, Kristina (ngày 11 tháng 10 năm 2018) “BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding”.[Truy cập ngày tháng 11 năm 2021] [14] Jacob Devlin Ming-Wei Chang Kenton Lee Kristina Toutanova (ngày 24 tháng năm 2019) “BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding” [Truy cập ngày tháng 11 năm 2021] Trang Web [1] http://www.cs.nyu.edu/cs/faculty/grishman/muc6.html [2] http://www.clips.uantwerpen.be/conll2002/ner/ [3] http://www.cnts.ua.ac.be/conll2003/ner/ [4] http://www.cnts.ua.ac.be/conll2003/ner/annotation.txt [5] https://sites.google.com/site/germeval2014ner/ [6] http://www.cs.nyu.edu/cs/faculty/grishman/NEtask20.book7.html [7] https://github.com/dat821168/bert_vn_ner 62 [8] https://phamdinhkhanh.github.io/2020/04/15/TransferLearning.html [9] https://arxiv.org/abs/2002.08155 [10] https://nlv.gov.vn [11]https://blog.google/products/search/search-language-understanding-bert/ 63 STT KẾ HOẠCH THỰC HIỆN LUẬN VĂN Nội dung Thời gian dự kiến Khảo sát, thu thập, tổ chức lưu trữ liệu tuần Máy học (machine learning) tháng Triển khai hạ tầng hệ thống thiết bị tuần Phân tích liệu từ trang Web mua bán nông sản với liệu máy học cho kết tháng nhận dạng khuôn mặt Kiểm thử hệ thống tuần Hoàn chỉnh hệ thống viết báo cáo tháng Giáo viên hướng dẫn Học Viên TS Trương Quốc Định Lê Tuyến Lộc 64 ... tác giả xây dựng hệ thống rút trích thơng tin tự động Chương 2: Xây dựng hệ thống rút trích thơng tin tự động Trong chương tác giả phân tích đặc điểm địa bàn nghiên cứu, mơ tả hệ thống rút trích. .. sử dụng thành phần dễ dàng Nhờ đó, Ontology mơ tả thức số từ vựng chuyên mơn Chính lý trên, tơi chọn đề tài: ? ?Ứng dụng Ontology xây dựng hệ thống rút trích thơng tin tự động? ?? nhằm xây dựng hệ thống. .. 1.4.2.2.Phân loại hệ thống rút trích thơng tin từ web Ngày nay, có nhiều hệ thống rút trích thơng tin từ web nhà phát triển nghiên cứu xây dựng Các tiêu để phân loại hệ thống rút trích thơng tin từ web