Phân giải đồng tham chiếu đối tượng cho phân tích cảm xúc

ĐẠI HỌC QUỐC GIA TP HỊ CHÍ MINH TRƯỜNG ĐẠI HỌC BÁCH KHOA LÊ THỊ THỦY PHÂN GIẢI ĐÒNG THAM CHIÉU ĐỐI TƯỢNG CHO PHÂN TÍCH CẢM xủc LUẬN ÁN TIẾN SĨ KĨ THUẬT TP HỊ CHÍ MINH - NĂM 2022 ĐẠI HỌC QUÓC GIA TP HCM TRƯỜNG ĐẠI HỌC BÁCH KHOA LÊ THỊ THỦY PHÂN GIẢI ĐÒNG THAM CHIẾU ĐĨI TƯỢNG CHO PHÂN TÍCH CÃM xức Chun ngành: KHOA HỌC MÁY TÍNH Mã số chuyên ngành: 62.48.01.01 Phan biện độc lập: PGS TS Nguyễn Tuấn Đăng Phản biện độc lập: PGS TS Lê Hoàng Thái Phân biện: PGS TS Đinh Điền Phản biện: PGS TS Đỗ Văn Nhơn Phản biện: PGS TS Phạm Trần Vũ NGƯỜI HƯỚNG DẢN: GS TS PHAN THỊ TƯƠI LỜI CAM ĐOAN Tác gia xin cam đoan công trinh nghiên cứu cua ban thân tác giá Các kết quà nghiên cứu kết luận luận án trung thực, không chép từ nguồn hình thức Việc tham khảo nguồn tài liệu (nếu có) thực trích dẫn ghi nguồn tài liệu tham kháo quy định Tác giả luận án Chừ ký Lê Thị Thủy i TÓM TẮT LUẬN ÁN Phân giải đồng tham chiếu phân tích cảm xúc hai tốn phố biến xứ lý ngôn ngừ tự nhiên, nhiều nhà nghiên cứu quan tâm với cách tiếp cận khác Đến đà cỏ nhiều cơng trình kết hợp tốn phân giải đồng tham chiếu với tốn phân tích cảm xúc nhằm nâng cao độ xác Đe tốn phân tích cam xúc có kết đầy đủ, chi tiết mang lại lợi ích thực tiễn, luận án đề xuất giải toán phân giãi đồng tham chiếu đoi tượng cho phân tích cám xúc Đây mục tiêu luận án Kốt cùa toán đề xuất ba đối tượng, khía cạnh cảm xúc san phấm hay dịch vụ miền chuyên biệt Giới hạn cúa luận án áp dụng vãn bàn cảm xúc tiếng Anh Dẻ giải toán phán giải đồng tham chiếu đối tượng cho phân tích cảm xúc, luận án đe xuất xây dựng hệ thống với cách tiếp cận sớ tri thức - ontology cám xúc, kết hợp giải thuật xử lý ngôn ngữ tự nhiên phương pháp học máy, học sâu kho ngừ liệu văn có cám xúc, có ngừ cảnh Dựa đặc điểm văn bàn cam xúc mục tiêu toán, luận án cần giải vấn đe sau Thứ nhất, đề xuất ontology cám xúc đo thị đong tham chiếu hỗ trợ giãi toán cua luận án Thứ hai, đề xuất mơ hình phân giải đồng tham chiếu đối tượng cho phân tích cảm xúc có đối tượng Thứ ba, đề xuất mơ hình làm giàu ontology cảm xúc cho miền chun biệt Thứ tư, đề xuất mơ hình xác định khía cạnh an văn bán cám xúc Thứ năm, đề xuất mơ hình phân giải đồng tham chiếu đối tượng cho phân tích cảm xúc có nhiều đối tượng Phần thực nghiệm cùa luận án thực kho ngừ liệu văn cảm xúc bình luận sàn phẩm, dịch vụ trang web Amazon YouNetMedia Các kết thực nghiệm phan ánh tính khả thi giai thuật, mơ hình đề xuất luận án ii ABSTRACT Coreference resolution and aspect-based sentiment analysis are popular problems in natural language processing (NLP) and are going under research by the NLP community with different approaches Up to now, many works combine co-referencing resolution into the sentiment analysis problem to improve accuracy In order for the sentiment analysis problem to have complete and detailed results that bring practical benefits, the thesis proposes to solve the object coreference resolution problem for sentiment analysis This is the aim of the thesis Results of the problem are triplets of object-aspcct-sentiment, which belong to special products or services on a domain The limit of the thesis is applied to English sentiment texts To build object coreference resolution in sentiment analysis, the thesis proposes a fairly popular knowledge-based approach, sentiment ontology, combining natural language processing algorithms, machine learning, and deep learning on contextual sentiment corpus Based on the characteristics of the sentiment text and the goal of the problem, the thesis must solve the following problems Firstly, the thesis proposes sentiment ontology and the coreference graph to support the problem of object coreference resolution in sentiment analysis Secondly, the thesis proposes the model of object coreference resolution on texts with one object Thirdly, the thesis proposes the instance-based enrichment of the sentiment ontology model depending on the special domain Fourthly, the thesis proposes the implicit aspect identification model in sentiment texts Finally, the thesis proposes object coreference resolution in sentiment analysis with more than one object The experiments of the thesis are carried out on the corpus of sentiment texts commenting on products and services on the Amazon website and the YouNelMedia Company The experimental results reflect the feasibility of the proposed algorithms and models in the thesis iii LỜI CẢM ƠN Trong trinh hoàn thành luận án, Thầy Cô nưi sở đào tạo giúp đờ tận tình, quan nơi cơng tác tạo điều kiện thuận lợi gia đình bạn bè thường xuyên động viên khích lệ Luận án hoàn thành với hướng dẫn tận tình, giúp đỡ động viên quý báu nhiều từ GS.TS Phan Thị Tươi, cán hướng dẫn mà tơi tơn trọng bày tỏ lịng biết ơn sâu sắc Qua đây, tơi bày tỏ lịng biết ơn thầy cô khoa Khoa học Kỹ thuật Máy tính trường Đại học Bách Khoa Tp.Hồ Chí Minh dã tạo điều kiện thuận lợi cho tơi trinh học tập nghiên cứu Khoa Lời cảm ơn cua tơi xin gưi đốn Phịng Quan lý Sau Đại học hỗ trự thii tục q trình hồn thành luận án Đồng thời, muốn cảm ơn Ban Giám Hiệu trường Đại học Bách Khoa Tp.HCM, Phịng Khoa học Cơng nghệ & Dự án, Phòng Quản lý Sau Đại học tài trợ cho thực đề tài cấp trường năm 2016 Cuối cám ơn tất bạn bè người thân góp nhiều ý kiến lời động viên khích lệ q báu giúp tơi vượt qua khó khăn để hồn thành tốt luận án Tác giả luận án Lê Thị Thủy iv MỤC LỤC DANH MỤC CÁC HÌNH ẢNH .vii DANH MỤC BẢNG BIẾU ix DANH MỤC CÁC TỪ VIẾT TẨT X CHƯƠNG I GIỚI THIỆU I 1.1 Động nghiên cứu 1.2 Mục tiêu phạm vi nghiên cứu 1.3 Mơ hình đề xuất 1.4 Đóng góp cùa luận án 10 1.5 Cấu trúc cùa luận án 13 CHƯƠNG CÁC NGHIÊN cửu LIÊN ỌUAN VÀ CÁC KIẺN THỨC NÈN TẢNG 14 2.1 Phân giải đồng tham chiếu 14 2.2 Phân tích cảm xúc 15 2.3 Phân giải đồng tham chiếu đối tượngvà khía cạnh cho phân tích cảm xúc 19 2.4 Xác định khía cạnh ẩn 25 2.5 Ontology cảm xúc làm giàu ontology 27 2.6 Các kiến thức tang 33 2.6.1 Mạng nơ-ron nhân tạo - ANN 33 2.6.2 Mơ hình ngơn ngữ - Tiền huấn luyện 35 2.7 Kết luận 38 CHƯƠNG PHÂN GIẢI ĐỒNG THAM CHIẾU ĐỐI TƯỢNG CHO PHÂN TÍCH CÁM XÚC CÓ MỘT ĐỐI TƯỢNG 39 3.1 Mơ hình xác định khía cạnh ân - IAI 39 3.1.1 Giới thiệu 39 3.1.2 Tiền xứ lý liệu 41 3.1.3 Mơ hình xác định khía cạnh ẩn 42 3.1.4 Thực nghiệm 46 3.2 Mơ hình phàn giải đồng tham chiếu đối tượng cho phân tích cảm xúc có đối tượng 53 3.2.1 Parse - Phân tích cú pháp 54 3.2.2 Anaphora & Entity CR - Phân giái dồng tham chiếu đại từ thực 55 V 3.2.3 Aspect-based sentiment analysis - Phân tích cảm xúc mức khía cạnh 56 3.2.4 Ontology cảm xúc 56 3.2.5 Đồ thị đồng tham chiếu (CoRcfcrcncc Graph - CRG) 59 3.2.6 Mô-đun OBASCore 60 3.2.7 Kết thực nghiệm 63 3.2.8 Đánh giá thực nghiệm 65 3.3 Kết luận 66 CHƯƠNG LÀM GIÀU ONTOLOGY CAM xúc HÒ TRỢ PHÂN GIAI ĐỎNG THAM CHIÉƯ CHO PHÂN TÍCH CÁM xúc 67 4.1 Giới thiệu 67 4.2 Mơ hình làm giàu ontology cảm xúcESO (Enriched Sentiment Ontology) 68 4.3 Thực nghiệm đánh giá 75 4.4 Kết luận 79 CHƯƠNG PHÂN GIAI ĐÒNG THAM CHIẾU ĐỐI TƯỢNG CHO PHÂN TÍCH CÁM XÚC CĨ NHIỀU ĐỐI TƯỢNG 80 5.1 Đặt vấn đề 80 5.2 Mơ hình phân giải đồng tham chiểu cho phân tích cảm xúc có nhiều đối tượng CRO AS .81 5.2.1 Giai đoạn huấn luyện 81 5.2.2 Giai đoạn thử nghiệm 86 5.2.3 Đánh giá thực nghiệm 90 5.3 Kết luận 97 CHƯƠNG KẾT LUẬN 99 6.1 Kết đạt 99 6.2 Hướng phát triển 102 CÁC TÀI LIỆU CỊNG BĨ CUA TÁC GIA LIÊN QUAN ĐẾN LUẬN ÁN 103 TÀI LIỆU THAM KHẢO 104 PHỤ LỤC 118 vi DANH MỤC CÁC HÌNH ẢNH Hình I I Mơ hình phân giải đồng tham chiếu đốitượng cho phân tích cảm xúc Hinh 2.1 Kiến trúc mơ hình 0AC2 hướng tri thức [87] 22 Hình 2.2 Ví dụ ontology tổng qt [8] 28 Hình 2.3 T-Box ontology cơng nghiệp [8] .29 Hình 2.4 A-Box cùa ontology công nghiệp [8] 29 Hình 2.5 Tống quan OntoSenticNet [104] 31 Hình 2.6 Kiến trúc làm giàu ontology [113] 32 Hình 2.7 Một nơ-ron nhân tạo - Perceptron 34 Hình 2.8 Kiến trúc mạng nơ-ron nhân tạo ANN 34 Hình 2.9 Word embedding từ “king” “queen” 36 Hình 2.10 Word embeddings từ “bank” không ngữ cánh 36 Hình 2.11 Biểu diễn đầu vào mơ hình BERT [92] 37 Hình 3.1 Kho ngừ liệu có chứa dấu hiệu xác định khía cạnh ân “beautiful” 40 Hình 3.2 Kiến trúc mơ hình xác định khía cạnh an IAI 43 Hình 3.3 Kiến trúc mạng nơ ron nhân tạo tang ẩn - mô-đun Training 45 Mơ-đun Training có 69.905 mẫu dừ liệu trích xuất từ Corpus 12 với 389.103 vãn cảm xúc điện thoại thơng minh (smartphone), đó: dừ liệu huấn luyện có 64.374 mầu dừ liệu thư nghiệm có 5.598 mầu độ xác 0,82 Dịnh dạng Corpus 12 mơ tả chi tiết Hình 3.4, đó: 47 Hình 3.5 Minh họa định dạng dừ liệu cùa Corpus 12 47 Hình 3.6 So sánh mơ hình 1AI với phương pháp ML-KB* 53 Hình 3.7 Mơ hình phân giải đồng tham chiếu cho phân tích cãm xúc có đối tượng 55 Hình 3.8 Kiến trúc Ontology cảm xúc 58 Hình 3.9 Đồ thị CRG Ví dụ 3.8 62 Hình 3.10 Giải thuật mô-đun OBASCore 61 Hình 3.11 Đồ thị CRG cùa Ví dụ 3.8 sau bước giãi thuật Hình 3.10 62 Hình 3.12 CRG Ví dụ 3.8 thực giải thuật Hình 3.10 63 Hình 4.1 Mơ hình đề xuất ESO làm giàu ontology cảm xúc 69 Hình 4.2 Quan hệ văn phạm “compound” [146] 69 Hình 4.3 Tập từ đồng nghĩa danh từ “quality” WordNet 70 Hình 4.4 Cấu trúc phân cấp cùa từ “quality” với nghĩa 70 Hình 4.5 Cấu trúc phân cấp WordNet 72 Hình 4.6 Cấu trúc phân cấp WordNet 74 Hình 4.7 Cấu trúc Opinion Lexicon (OL) [138] 74 Hình 4.8 Hiệu mơ hình ESO 614 câu 78 Hình 5.1 Kiến trúc mơ hình CROAS 81 Hình 5.2 Mơ-đun Training mơ hình CROAS 82 vii Hình 5.3 Mạng nơ-ron xác định trọng số W2 83 Hình 5.4 Kết q phân lớp Ví dụ 5.1 89 Hình 5.5 CRG Ví dụ 5.1 90 Hình 5.6 Mối quan hệ khoảng cách Euclid trung bình số buớc lặp mô-đun huấn luyện với 300.000 500.000 bước tiền huấn luyện 93 Hình 5.7 Kết q mơ-đun phân lớp DI D2 với (a) 300.000 (b) 500.000 bước tiền huấn luyện 94 Hình 5.8 Kết q mơ-đun phàn lóp ví dụ với (a) 300.000 (b) 500.000 bước tiền huấn luyện 94 Hình 5.9 Đánh giá kết CROAS 1.000 văn cảm xúc 97 viii Conference on intelligent Systems: Theories anil Applications (SITA), October 19-20, Mohammedia, Morocco, pp 1-5, 2016 [1001 J Feng, s Cai and X Ma, "Enhanced sentiment labeling and implicit aspect identification by integration of deep convolution neural network and sequential algorithm," Cluster Computing, vol 22, no 3, pp 5839-5857, 2019 [101] A Bagheri, M Saraee and F De Jong, "Care more about customers: Unsupervised domain-independent aspect detection for sentiment analysis of customer reviews," Knowledge-Based Systems, vol 52, pp 201-213, 2013 [102] z Yan, M Xing, D Zhang and B Ma, "EXPRS: An extended pagerank method for product feature extraction from online consumer reviews," Information & Management, vol 52, no 7, pp 850-858, 2015 [103] T A Rana, Y.-N Cheah and T Rana, "Multi-level knowledge-based approach for implicit aspect identification," Applied Intelligence, vol 50, no 12, pp 46164630, 2020 [104] D Mauro, p Soujanya and c E, "OntoSenticNet: A Commonsense Ontology for Sentiment Analysis," IEEE Intelligent Systems, vol 33, pp 77-85, 2018 [105] A Maedche and s Staab, "Ontology Learning," in Handbook on Ontologies, Berlin, Heidelberg, Springer, 2004, pp 173-190 [106] E Morin, "Automatic acquisition of semantic relations between terms from technical corpora," in Proc, of the Fifth International Congress on Terminology and Knowledge Engineering-TKE’99, August 23-27, Innsbruck, Austria, pp 268-279, 1999 [107] D Faure and T Poibeau, "First Experiments of Using Semantic Knowledge Learned by ASIUM for Information Extraction Task Using INTEX," in Proceedings of the First International Conference on Ontology Learning, August 25, Berlin, Germany, pp 7-12, 2000 [108] M A Hearst, "Automatic Acquisition of Hyponyms from Large Text Corpora," in Proceedings of the 14th Conference on Computational Linguistics, August 2328, Nantes, France, pp 539-545, 1992 [109] J Jannink and G Wiederhold, "Ontology maintenance with an algebraic methodology: A case study," in Proceedings of AAAI workshop on Ontology Management, July 18-19, Orlando, Florida, pp 40-47, 1999 [1101 H Suryanto and p Compton "Discovery of Ontologies from Knowledge Bases," in Proceedings of the 1st International Conference on Knowledge Capture, October 22-23, Victoria, British Columbia, Canada, pp 171-178, 2001 [Ill] c H Hwang, "Incompletely and imprecisely speaking: using dynamic ontologies for representing and retrieving information," in Proceedings of the 6th 113 International Workshop on Knowledge Representation meets Databases (KRDB), July 29-30, Linkoping, Sweden, pp 14-20, 1999 [112] p Johannesson, "A method for transforming relational schemas into conceptual schemas," in Proceedings of 1994 IEEE 10th International Conference on Data Engineering, February 14-18, Houston, TX, USA, pp 190-201, 1994 [113] G Petasis, V Karkaletsis, G Paliouras, A Krithara and E Zavitsanos, "Ontology population and enrichment: State of the art," in Knowledge-driven multimedia information extraction and ontology evolution: bridging the semantic gap, LNCS 6065, Berlin, Heidelberg, Springer-Verlag, 2011, pp 134-166 [114] D Celjuska and M Vargas-Vera, "Ontosophie: A semi-automatic system for ontology population from text," in international Conference on Natural Language Processing (ICON), December 19-22, Hyderabad, India, 2004 [115] o Etzioni, M Cafarella, D Downey, A.-M Popescu, T Shaked, s Soderland, D s Weld and A Yates, "Unsupervised named-entity extraction from the web: An experimental study," Artificial intelligence, vol 165, no 1, pp 91-134, 2005 [116] H.-W Chun, Y Tsuruoka, J.-D Kim, R Shiba, N Nagata, T Hishiki and J Tsujii, "Extraction of gene-disease relations from Medline using domain dictionaries and machine learning," in Proceedings of the Pacific Symposium on Biocomputing 11, January 3-7, Hawaii, USA, pp 4-15, 2006 [117] M Jiang, Y Chen, M Liu, s T Rosenbloom, s Mani, J c Denny and H Xu, "A study of machine-learning-based approaches to extract clinical entities and their assertions from discharge summaries," Journal of the American Medical Informatics Association, vol 18, no 5, pp 601-606, 2011 [118] A Souili, D Cavallucci and F Rousselot, "Natural language processing (NLP)-a solution for knowledge extraction from patent unstructured data," Procedia engineering, Elsevier, vol 131, pp 635-643, 2015 [119] D Zeng, K Liu s Lai, G Zhou and J Zhao, "Relation classification via convolutional deep neural network," in Proceedings of COLING 2014, the 25th International Conference on Computational Linguistics: Technical Papers, August 23-29, Dublin, Ireland, pp 2335-2344, 2014 [120] Y Chen, w Li, Y Liu, D Zheng and T Zhao, "Exploring deep belief network for Chinese relation extraction," in CIPS-SỈGHAN Joint Conference on Chinese Language Processing, August 28-29, Beijing, China, pp 113-120, 2010 [121] c Liu, w Sun, w Chao and w Che, "Convolution neural network for relation extraction," in International Conference on Advanced Data Mining and Applications, December 14-16, Hangzhou, China, pp 231-242, 2013 114 [122] A Ayadi, A Samet, F d B de Beuvron and c Zanni-Merk, "Ontology population with deep learning-based NLP: a case study on the Biomolecular Network Ontology," Procedia Computer Science, vol 159, pp 572-581, 2019 [123] M Finkelstein-Landau and E Morin, "Extracting semantic relationships between terms: Supervised vs unsupervised methods," in International Workshop on Ontological Engineering on the Global Information Infrastructure, May 13, Dagstuhl Castle, Germany, pp 71-80, 1999 [124] R Yangarber and R Grishman, "NYU: Description of the Proteus/PET system as used for MUC-7 ST," in Seventh Message Understanding Conference (MUC7), April 29 - May 1, Fairfax, United States, 1998 [125] z Ibrahim, s A Noah and M M Noor, "Rules for ontology population from text of Malaysia medicinal herbs domain," in International Conference on Rough Sets and Knowledge Technology, October 15-17, Beijing, China, pp 386-394, 2010 [126] A Harith, K Sanghee, E M David, J w w H Mark, J w Mark, H Wendy, H L Paul and R S Nigel, "Automatic Ontology-based Knowledge Extraction and Tailored Biography Generation from the Web," IEEE Intelligent Systems, vol 18, pp 14-21,2002 [127] J Makki, A.-M Alquier and V Prince, "Ontology population via NLP techniques in risk management," International Journal of Humanities and Social Science (IJHSS), vol 3, no 3, pp 212-217, 2009 [128] s Ananiadou, s Pyysalo, J Tsujii and D B Kell, "Event extraction for systems biology by text mining the literature," Trends in biotechnology, vol 28, no 7, pp 381-390, 2010 [129] K Ravikumar, K B Wagholikar and H Liu, "Towards pathway curation through literature mining—a case study using PharmGKB," in Biocomputing, January 37, Kokala Coast, Hawaii, USA, pp 352-363, 2014 [130] T Eftimov, s B Korousic and p Korosec, "A rule-based named-entity recognition method for knowledge extraction of evidence-based dietary recommendations," PloS one, vol 12, no 6, p eOl 79488, 2017 [131] H.-G Yoon, Y.-J Han, S.-B Park and S.-Y Park, "Ontology population from unstructured and semi-structured texts," in Sixth International Conference on Advanced Language Processing and Web Information Technology (ALPIT 2007), August 22-24, Luoyang, China, pp 135-139, 2007 [132] D Maynard, Y Li and w Peters, "NLP Techniques for Tenn Extraction and Ontology Population," in Proceedings of the 2008 Conference on Ontology Learning and Population: Bridging the Gap between Text and Knowledge, June 16, Van Dicmenstraat, CN Amsterdam, Netherlands, pp 107-127, 2008 115 [1331 H Tanev and B Magnini, "Weakly supervised approaches for ontology population," in J J th Conference of the European Chapter of the Association for Computational Linguistics (EACL), April 3-7, Trento, Italy, pp 17-24, 2006 [134] M Torii, z Hu, c H Wu and H Liu, "BioTaggcr-GM: a gcnc/protcin name recognition system," Journal of the American Medical Informatics Association, vol 16, no 2, pp 247-255, 2009 [135] L Specia and E Motta, "A hybrid approach for extracting semantic relations from texts," in Proceedings of the 2nd Workshop on Ontology Learning and Population: Bridging the Gap between Text and Knowledge, July, Sydney, Australia, pp 57-64, 2006 [136] G A Miller, "WordNet: a lexical database for English," Communications of the ACM, vol 38, no 11, pp 39-41, 1995 [137] c Fellbaum, "WordNet: An electronic lexical resource," in The Oxford handbook of cognitive science, Oxford, Oxford University Press, 2017, pp 301314 [138] M Hu and B Liu, "Mining and summarizing customer reviews," in Proceedings of the tenth ACM SỈGKDD international conference on Knowledge discovery and data mining, August 22-25, Seattle, Washington, USA, pp 168-177, 2004 [139] B Widrow and M A Lehr, "30 years of adaptive neural networks: perceptron, madaline, and backpropagation," Proceedings of the IEEE, vol 78 no 9, pp 1415-1442, 1990 [140] o Mikel, "A Sociological Study of the Official History of the Perceptrons Controversy," Social Studies of Science, vol 26, no 3, pp 611-659, 1996 [141] H Simon, Neural Networks and Learning Machines, Upper Saddle River, New Jersey: Pearson Education, 2009 [142] J Schmidhuber "Deep learning in neural networks: An overview," Neural Networks, vol 61, pp 85-117, 2015 [143] M Tomas, c Kai, c Greg and D Jeffrey, "Efficient Estimation of Word Representations in Vector Space," in 1st International Conference on Learning Representations, ICLR (Workshop Poster), May 2-4, Scottsdale, Arizona, USA, 2013 [144] J Pennington, R Socher and c D Manning, "Glove: Global vectors for word representation," in Proceedings of the 2014 conference on empirical methods in natural language processing (EMNLP), Octocr 25-29, Doha, Qatar, pp 15321543, 2014 [145] Y Zhu, R Kiros R Zemel, R Salakhutdinov, R Urtasun, A Torralba and s Fidler, "Aligning books and movies: Towards story-like visual explanations by watching movies and reading books," in Proceedings of the IEEE international 116 conference on computer vision, December 7-13, Santiago, Chile, pp 19-27, 2015 [146] M.-C de Marneffe and c D Manning, "The Stanford Typed Dependencies Representation," in Coling 2008: Proceedings of the workshop on Cross­ Framework and Cross-Domain Parser Evaluation, August 23, Manchester, UK, pp 1-8, 2008 [147] Y Li, D McLean, z A Bandar, J D O'shea and K Crockett, "Sentence similarity based on semantic nets and corpus statistics," IEEE transactions on knowledge and data engineering, vol 18, no 8, pp 1138-1150, 2006 [148] Y Li, z Bandar and D Mclean, "An approach for measuring semantic similarity between words using multiple information sources," IEEE Transactions on Knowledge and Data Engineering, vol 15, no 4, pp 871-882, 2003 [149] J s Golan, Foundations of linear algebra, Switzerland: Springer Dordrecht, 2013 117 PHU LUC Phụ lục A Danh sách thê lớp ontology cảm xúc vê smartphone STT 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 Thể Lớp consistent Positive fashionable Positive pretty_strong Positive stronger Positive larger Positive efficient Positive light Positive appreciate Positive sturdy Positive convenient Positive light-weight Positive Positive best nice Positive powerful Positive Great Positive affordable Positive super-awesome Positive smooth Positive strong Positive fantastic Positive comfort Positive smallest Positive fairly Positive loved Positive good Positive well Positive beautiful Positive liked Positive perfectly Positive better Positive cheap Positive stylish Positive easy Positive ease Positive enjoy Positive long Positive quality Positive reliable Positive loud Positive 118 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 Positive Positive Positive Positive Positive Positive Positive Positive Positive Positive Positive Positive Positive Positive Positive Positive Positive Negative Negative Negative Negative Negative Negative Negative Negative Negative Negative Negative Negative Negative Negative Negative Negative Negative Negative Negative Negative Negative Neutral Neutral Neutral Neutral Neutral big Neutral Neutral bigger normal Neutral love useful great slim pleased attractive Fine heigh durable superb pretty reasonably ok thin like amazing clear warm expensive worst bad useless weakest not_amazing less hate haled low heavier overextending terrible awful slow intricate not overheats annoying uncomfortability working fast daily simple overmuch 119 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 Neutral Neutral Neutral Neutral Application Application Application Application Application Application Application Application Application Application Application Application Application Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute Attribute work faster slight old wcb_browser network bluetooth ios wi-fi setup browser wireless internet apps web apple_ios wifi design storage clarity configure weight processing charging price volume photo performance technology controls resolution call run waterproofing control picture size use speed voice looks capacity surfaces color looking game 120 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 optimization calibration life image front_camera pen displays holster home_button gb_ram m p_fr0 n t_c amera flash chipset adapter RAM 3d_touch display sim fi ngerpri n t_se n sor amoled_display cpu battery cameras speaker cable screen microphone dual_sim charge 3000mah_battery camera device 2_gb_ram sound headphone power A117 A127 A167 A177 A200 A5 a5 a5_duos a5_phone 177 A500 Attribute Attribute Attribute Attribute Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Device Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung 121 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 A517 a7 A711 A717 A727 A737 A746 A767_Propel A777 A797_Flight a8 A800 Galaxy_10.1 Galaxy_5 Galaxy _551 Galaxy_A galaxy_a3 Galaxy_A3 Galaxy_A3_Duos galaxy_a5 Galaxy_A5 galaxy_a5_duos Galaxy_A5_Duos galaxy_a7 Galaxy_A7 Galaxy_A7_Duos galaxy_a8 Galaxy_A8 Galaxy_A8_Duos Galaxy_Ace_2_I8160 Galaxy_Ace_3 Galaxy_Ace_4 Galaxy_Ace_4_LTE_G313 Galaxy_Ace_Advance_S6800 Galaxy_Ace_Duos_I589 Galaxy_Acc_Duos_S6802 Galaxy_Ace_II_X_S7560M Galaxy_Ace_NXT Galaxy_Ace_Plus_S7500 Galaxy_Ace_S5830 Galaxy_Ace_S5830I Galaxy_Ace_Style Galaxy_Ace_Style_LTE_G357 Galaxy_Alpha Galaxy_Appeal_I827 Galaxy_Attain_4G Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung 122 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 Galaxy_Avant Galaxy_Axiom_R830 Galaxy_Beam2 Galaxy_J5_Prime galaxyJ Galaxy_J7 galaxy_i7_max galaxy_j7_prime Galaxy_J7_Prime galaxy_|7_v Galaxy_K_zoom Galaxy_Light Galaxy_MlPro_B7800 Galaxy_M_Style_M340S Galaxy_Mega_2 Galaxy_Mega_5.8_I9150 Galaxy_Mcga_6.3_I9200 Galaxy_mini_2_S6500 Galaxy_Mini_S5570 Galaxy_Music_Duos_S6012 Galaxy_Music_S6010 Galaxy_Nexus Galaxy_Nexus_4 Galaxy_Nexus_i515 Galaxy_Nexus_I925O Galaxy_Nexus_I925OM Galaxy_Nexus_LTSamsung_E_L700 galaxy_node_edge galaxy_node4 Galaxy_Note_10 Galaxy_Note_10.1 Galaxy_Note_10.1_N8000 Galaxy_Note_10.1-N80I0 Galaxy_Note_l OJPlus Galaxy_Note_2 galaxy_note_3 Galaxy_Note_3 Galaxy_Note_3_Neo Galaxy_Note_3_Neo_Duos galaxy_note_4 Galaxy_note_4 Galaxy_Note_4 Galaxy_Note_4_Duos Galaxy_note_5 Galaxy_Note_8.0 Galaxy_Note_8.0_Wi-Fi 123 Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 Galaxy_Note_9 Galaxy_Note_Edge galaxy_nole_edge galaxy_note_fe Galaxy_Note_I717 Galaxy_Note_II_CDMA Galaxy_Note_lI_N7100 Galaxy_Note_LTE_10.1_N8O2O Galaxy_Note_N7000 Galaxy_Note_Pro_l 2.2 Galaxy_Note_Pro_ 12.2_3G Galaxy_Note_Pro_l 2.2_LTE Galaxy_Note_T879 galaxy_note3 galaxy_nole4 Galaxy_Note5 Galaxy_Notc5_Duos galaxy note7 Galaxy_Note7 Galaxy_On5 galaxy on5_pro Galaxy_S6 Galaxy_s6 Galaxy_S6_active Galaxy_S6_Duos Galaxy_S6_edge Galaxy_S6_edge+ Galaxy_S6_Plus Galaxy_S7 G al a X y_s _ac ti ve Galaxy_S7_edge Galaxy_S7_mini galaxy_s8 galaxy_s8_active galaxy_s8_plus galaxy_s 8+ Galaxy _SII Galaxy_Star_2 Galaxy _Star_2_Plus Galaxy_Star_Pro_S7260 Galaxy_Slar_S5280 Galaxy _s tar_Tr ios_S5283 Gal a X y_s tc 11 ar_4G_ 1200 Galaxy_Stratosphere_II_I415 GalaxyNotelO.l GalaxyNote2 124 Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung GalaxyNote3 GalaxyS2 GalaxyS3 GalaxyS4 GalaxyS4Active s8 s8_active s8_plus s8+ S8000_Jet S8300_UltraTOUCH S8500_Wave S853O_Wave_II S86OO_Wave_3 S9110 S9402_Ego Samsung_Al 17 Samsung_A 127 Samsung_A 167 Samsung_A 177 Samsung-A 200 Samsung_A200K_Nori_F Samsung_A220_F_Nori Samsung_A237 Samsung_A257_Magnet Samsung_A3 samsung_a3 Samsung_A300 Samsung-A400 Samsung_A411 Samsung_A437 Samsung_A500 Samsung_A517 Samsung_A637 Samsung_A657 Samsung_A667_Evergrcen Samsung_A687_Strive Samsung_A697_Sunburst Samsung_A711 Samsung_A717 Samsung_A727 Samsung_A737 Samsung_A746 Samsung_A767_Propel Samsung_A777 s amsung_A797_Flight 125 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395 396 397 398 399 400 401 402 403 404 405 406 407 Samsung_A800 Samsung_A817_Solstice_II Samsung_A827_Access Samsung_A837_Rugby Samsung_A847_Rugby_II Samsung_A867_Etemity Samsung_A877_Impression Samsung_A886_Forever Samsung_A887_Solstice Samsung_A897_Mythic Samsung_A927_Flight_II Samsung_A997_Rugby_l 11 Samsung_Acclaim Samsung_Armani s am s u ng_A rray _M 90 Samsung_Ativ_Odyssey_I930 Samsung_Ativ_S_I8750 Samsung_ATIV_S_Neo Samsung_ATlV_SE Samsung_Ativ_Tab_P851O Samsung_B 100 Samsung_Bl 10 Samsung_B 130 Samsung_B200 Samsung_B210 Samsung_B2100_xplorer Samsung_B2700 Samsung_B300 Samsung_B320 Samsung_B3210_CorbyTXT Samsung_B331O Samsung_B3410 Samsung_B3410W_Chat Samsung_B500 Samsung_B510 Samsung_B520 Samsung_B5310_CorbyPRO Samsung_B5702 Samsung_B5722 Samsung_B6520_Omnia_PRO_5 Samsung_B7300_OmniaLlTE SamsungJB7320_OmniaPRO Samsung_B7330_OmniaPRO Samsung_B7350_Omnia_PRO_4 Samsung_B7610_OmniaPRO s amsung_B 7620_Giorgio_Armani 126 Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung 408 409 410 411 412 413 414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431 432 433 434 435 436 437 438 439 440 441 442 443 444 445 446 447 448 449 450 451 452 Samsung_B7722 Samsung_Breeze_B209 Samsung_C100 Samsung_Cl 10 Samsung_C120 Samsung_c 130 Samsung_C140 Samsung_C160 Samsung_c 170 Samsung_C180 Samsung_C200 Samsung_C210 Samsung_C23O Samsung_C240 Samsung_C250 Samsung_C260 Samsung_C270 Samsung_C275 Samsung_C300 Samsung_C3010 Samsung_C3050_Stratus Samsung_C3060R Samsung_C3110 Samsung_C3200_Montc_Bar Samsung_C3212 Samsung_C33OOK_Champ Samsung_C3312_Duos Samsung_C3322 s amsung_c3330_C hanip_2 Samsung_C3350 Samsung_C3510_Genoa Samsung_C3520 Samsung_C3530 Samsung_C3560 Samsung_C3590 Samsung_C3630 Samsung_C3730C Samsung_C3750 Samsung_C3752 Samsung_C3780 Samsung_C3782_Evan Samsung_C400 Samsung_C414 Samsung_C450 Samsung_C510 Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung Samsung 127