Tự động đánh giá quan điểm người dùng

Tài liệu tham khảo công nghệ thông tin Tự động đánh giá quan điểm người dùng

ĐẠI HỌC CÔNG NGHỆĐẠI HỌC QUỐC GIA HÀ NỘI--------Kiều Thanh BìnhTỰ ĐỘNG ĐÁNH GIÁ QUAN ĐIỂM NGƯỜI DÙNGKHÓA LUẬN TỐT NGHIỆP HỆ CHÍNH QUYNgành: Công Nghệ Thông TinHà Nội – 2010 ĐẠI HỌC CÔNG NGHỆĐẠI HỌC QUỐC GIA HÀ NỘI--------Kiều Thanh BìnhTỰ ĐỘNG ĐÁNH GIÁ QUAN ĐIỂM NGƯỜI DÙNGKHÓA LUẬN TỐT NGHIỆP HỆ CHÍNH QUY Ngành: Công Nghệ Thông Tin GV hướng dẫn: TS. Phạm Bảo SơnHà Nội – 2010 Tự động đánh giá ý kiến người dùng Kiều Thanh BìnhLời mở đầuVới sự bùng nổ của nguồn dữ liệu trên Internet, những bài toán về xử lý thông tin như: trích chọn thông tin, tóm tắt nội dung văn bản v.v… ra đời như một nhu cầu tất yếu. Thông tin trên mạng thường gồm 2 loại: sự việc và quan điểm. Ngược với loại quan điểm, thông tin về sự việc được rất nhiều công cụ giải quyết như máy tìm kiếm, lọc thông tin, … Với thông tin loại quan điểm thì khó và ít hướng tới hơn tuy nhiên xét về mức độ quan trọng thì thông tin loại này cần thiết hơn, nhất là với những công ty buôn bán sản phẩm. Đối với họ, ý kiến đánh giá về sản phẩm mà người dùng đưa ra là quan trọng nhất trong việc điều chỉnh và đưa ra những chiến lược buôn bán hiệu quả. Ra đời như một thiết yếu, hệ thống đánh giá quan điểm người dùng đã được nghiên cứu mạnh mẽ trong mấy năm gần đây và cũng đưa ra được nhiều kết quả đáng mong đợi. Trong đó có phương pháp đưa ra được kết quả khá khả quan như phương pháp sử dụng kết hợp phân lớp dựa trên luật, học giám sát và học máy.i Tự động đánh giá ý kiến người dùng Kiều Thanh BìnhLời cảm ơnTrước tiên, em xin gửi lời cảm ơn sâu sắc nhất đến thầy Phạm Bảo Sơn, người đã không quản vất vả hướng dẫn em trong suốt thời gian làm khóa luận tốt nghiệp vừa qua. Em cũng chân thành cảm ơn mọi người ở phòng HMI lab đặc biệt là anh Nguyễn Bá Đạt đã luôn chỉ bảo mỗi khi em có những vấn đề vướng mắc.Em xin bày tỏ lời cảm ơn sâu sắc đến các thầy cô giáo trong Trường Đại Học Công Nghệ đã tận tình dạy dỗ em suốt bốn năm học qua.Con xin cảm ơn bố, mẹ và gia đình đã luôn bên con, cho con động lực để làm việc tốt hơn. Cảm ơn tất cả bạn bè đã luôn sát cánh cùng tôi. Hà Nội, ngày 20 tháng 5 năm 2010Kiều Thanh Bìnhii Tự động đánh giá ý kiến người dùng Kiều Thanh BìnhMục lục ĐẠI HỌC CÔNG NGHỆ 1 ĐẠI HỌC QUỐC GIA HÀ NỘI .1 ---- ---- 1 .1 Kiều Thanh Bình 1 TỰ ĐỘNG ĐÁNH GIÁ 1 QUAN ĐIỂM NGƯỜI DÙNG 1 KHÓA LUẬN TỐT NGHIỆP HỆ CHÍNH QUY 1 Ngành: Công Nghệ Thông Tin 1 Hà Nội – 2010 .1 ĐẠI HỌC CÔNG NGHỆ 1 ĐẠI HỌC QUỐC GIA HÀ NỘI .1 ---- ---- 1 .1 Kiều Thanh Bình 1 TỰ ĐỘNG ĐÁNH GIÁ 1 QUAN ĐIỂM NGƯỜI DÙNG 1 KHÓA LUẬN TỐT NGHIỆP HỆ CHÍNH QUY 1 Ngành: Công Nghệ Thông Tin 1 GV hướng dẫn: TS. Phạm Bảo Sơn 1 Hà Nội – 2010 .1 Lời mở đầu i Lời mở đầu i Tự động đánh giá ý kiến người dùng Kiều Thanh Bình iiii Tự động đánh giá ý kiến người dùng Kiều Thanh Bình Với sự bùng nổ của nguồn dữ liệu trên Internet, những bài toán về xử lý thông tin như: trích chọn thông tin, tóm tắt nội dung văn bản v.v… ra đời như một nhu cầu tất yếu. Thông tin trên mạng thường gồm 2 loại: sự việc và quan điểm. Ngược với loại quan điểm, thông tin về sự việc được rất nhiều công cụ giải quyết như máy tìm kiếm, lọc thông tin, … Với thông tin loại quan điểm thì khó và ít hướng tới hơn tuy nhiên xét về mức độ quan trọng thì thông tin loại này cần thiết hơn, nhất là với những công ty buôn bán sản phẩm. Đối với họ, ý kiến đánh giá về sản phẩm mà người dùng đưa ra là quan trọng nhất trong việc điều chỉnh và đưa ra những chiến lược buôn bán hiệu quả. Ra đời như một thiết yếu, hệ thống đánh giá quan điểm người dùng đã được nghiên cứu mạnh mẽ trong mấy năm gần đây và cũng đưa ra được nhiều kết quả đáng mong đợi. Trong đó có phương pháp đưa ra được kết quả khá khả quan như phương pháp sử dụng kết hợp phân lớp dựa trên luật, học giám sát và học máy i 65 i Lời cảm ơn .ii Lời cảm ơn .ii Trước tiên, em xin gửi lời cảm ơn sâu sắc nhất đến thầy Phạm Bảo Sơn, người đã không quản vất vả hướng dẫn em trong suốt thời gian làm khóa luận tốt nghiệp vừa qua. Em cũng chân thành cảm ơn mọi người ở phòng HMI lab đặc biệt là anh Nguyễn Bá Đạt đã luôn chỉ bảo mỗi khi em có những vấn đề vướng mắc ii Em xin bày tỏ lời cảm ơn sâu sắc đến các thầy cô giáo trong Trường Đại Học Công Nghệ đã tận tình dạy dỗ em suốt bốn năm học qua ii Con xin cảm ơn bố, mẹ và gia đình đã luôn bên con, cho con động lực để làm việc tốt hơn. Cảm ơn tất cả bạn bè đã luôn sát cánh cùng tôi. .ii Hà Nội, ngày 20 tháng 5 năm 2010 ii Kiều Thanh Bình ii Mục lục .iii Mục lục .iii Danh sách hình vẽ .lii Danh sách hình vẽ .lii Hình 1 - Giao diện của GATE 16 .lii Hình 2 - Mô hình kiến trúc của GATE [6] 17 .lii Hình 3 - Giao diện thêm một thành phần tích hợp vào GATE. 20 .lii Hình 4 - Chọn các thành phần cho ứng dụng GATE 21 lii Hình 5 - Giao diện của Annotation Diff 27 .lii Hình 6 - Giao diện của Corpus Benchmark tool 28 .liiiv Tự động đánh giá ý kiến người dùng Kiều Thanh Bình Hình 7 - Minh họa giao diện hệ thống 31 lii Hình 8 - Những reviews do người dùng đánh giá ở trang tinvadung.vn 33 .lii Hình 9 - Gán nhãn dữ liệu 34 .lii Hình 10 - Mô tả chi tiết hệ thống đánh giá quan điểm người dùng trên GATE 36 .lii Hình 11 - GATE sau khi POS Tag và Lookup 40 .lii Hình 12 - Lỗi do POS Tag ảnh hưởng đến nhận dạng từ 54 lii Hình 13 - Lỗi do POS tag ảnh hưởng đến tách câu 55 .lii Hình 14 - Lỗi do viết luật ảnh hưởng đến nhận dạng từ 56 .lii Hình 15 – Lỗi do tách câu 57 .lii Danh sách bảng liii Danh sách bảng liii Chương 1Giới thiệu 1 Chương 1Giới thiệu 1 Chương 1. Giới thiệu bài toán đánh giá quan điểm Kiều Thanh Bình 1 Hiện nay nền công nghệ càng ngày càng phát triển, đặc biệt với sự ra đời của Web, lượng thông tin trên Web là một kho tàng đồ sộ và nhiệm vụ của chúng ta là làm thế nào để khai thác kho tàng to lớn đó. Chính vì nó quá khổng lồ cho nên lượng thông tin rác cũng rất nhiều, vậy làm thế nào để biết được cái gì là cần thiết và cái gì là dư thừa. Các chuyên ngành như Web mining, NLP (Nature Language Processing), hay Machine Learning đều đi tìm câu trả lời cho câu hỏi đó tuy nhiên chúng cũng chỉ tìm được câu trả lời cho những phần nhỏ của câu hỏi mà thôi. Mỗi người quan tâm một số lĩnh vực, mỗi người cần biết thông tin về một vài thứ mà trên Web thì bao gồm vô vàn thông tin thế nhưng lĩnh vực mà đa số người đều quan tâm, từ những nhà doanh nghiệp đến khách hàng - những người dùng đều quan tâm đó chính là sản phẩm. Người dùng thì quan tâm sản phẩm này có tốt không, sản phẩm kia tốt ở chỗ nào và chỗ nào không tốt. Còn doanh nghiệp thì lại thường quan tâm đến sản phẩm của họ được mọi người tiếp đón thế nào, những điểm nào chưa tốt để họ bổ sung sửa chữa, hay phát huy thêm những điểm người dùng quan tâm … Câu trả lời cho những câu hỏi này nằm trong nghiên cứu về “Opinion Mining” hay còn gọi “phân tích quan điểm người dùng”. Nghiên cứu này của chúng tôi xuất phát từ sự cần thiết của doanh nghiệp và người dùng, sử dụng những công cụ có ích nhất để đánh giá một cách chính xác nhất về sản phẩm. Với mỗi sản phẩm sẽ có những điểm tính năng riêng (Features) và nhiệm vụ của chúng tôi là từ những review, comment, Feedback,… trên nguồn dữ liệu khổng lồ Web để đánh giá xem tính năng của sản phẩm này được mọi người tiếp đón thế nào. 1v Tự động đánh giá ý kiến người dùng Kiều Thanh Bình Hệ thống của chúng tôi sử dụng dữ liệu từ trên trang Web http//tinvadung.vn làm dữ liệu chuẩn để phát triển và kiểm thử hệ thống. Chúng tôi giải quyết bài toán dựa trên hướng tiếp cận về luật và phân lớp ở mức câu. Ở đây chúng tôi tạm thời chia thành 2 loại đánh giá của người dùng là hướng tích cực (positive) và hướng tiêu cực (negative). Hệ thống của chúng tôi được xây dựng trên nền GATE [3] – là một framework giúp phát triển các thành phần xử lý ngôn ngữ tự nhiên, và được sử dụng với dữ liệu về máy tính (laptop & desktop). Trong tương lai chúng tôi sẽ phát triển hệ thống để đưa ra một thước đo chính xác hơn về những đánh giá và mở rộng thêm với các lĩnh vực khác 1 65 .1 Phần còn lại của khóa luận được chia thành 5 chương: .2 Chương 2: Chúng tôi giới thiệu về những hướng tiếp cận cho bài toán tự động đánh giá quan điểm người dùng, những công trình nghiên cứu hiện tại và những thách thức sẽ giải quyết trong tương lai. 2 Chương 3: Chúng tôi giới thiệu một cách tổng quan về khung làm việc GATE, và cách xây dựng một hệ thống tích hợp trong GATE 2 Chương 4: Chúng tôi mô tả chi tiết hệ thống tự động đánh giá quan điểm người dùng trong văn bản tiếng Việt được xây dựng trên khung làm việc GATE .2 Chương 5: Chúng tôi đưa ra những kết quả thực nghiệm và phân tích những lỗi vẫn còn tồn tại .2 Chương 6: Chúng tôi đưa ra những kết luận về hệ thống và hướng phát triển hệ thống trong tương lai 2 Chương 2Các hướng tiếp cận cho bài toán đánh giá quan điểm 3 Chương 2Các hướng tiếp cận cho bài toán đánh giá quan điểm 3 Chương 2. Hướng tiếp cận cho bài toán đánh giá quan điểm Kiều Thanh Bình 3 Với sự phát triển nhanh chóng của tài nguyên mạng, đặc biệt là những quan điểm trực tuyến (quan điểm sản phẩm, quan điểm phim ảnh,…) nhiều nghiên cứu hiện đang chú trọng vào mảng phân tích ý kiến, cũng được biết đến như mảng đánh giá quan điểm. Đó là một chuyên ngành học mới bao gồm: trích xuất thông tin (IR), xử lý ngôn ngữ tự nhiên (NLP) và ngôn ngữ học máy tính. Hệ thống đánh giá quan điểm thường cố gắng tìm ra những từ, cụm từ chỉ ý kiến, xác định chiều hướng của những từ, cụm từ, sau đó phân lớp câu, đoạn hay toàn bộ tài liệu dựa trên những xu hướng quan điểm đó. Bởi vậy, nhiệm vụ thông thường của hệ thống đánh giá quan điểm bao gồm nhận biết từ, cụm từ chỉ quan điểm và phân loại tài liệu hoặc câu theo các chiều hướng quan điểm. Khác với việc phân loại thể loại hay chủ đề, việc phân loại quan điểm đòi hỏi sự am hiểu về chiều hướng cảm xúc trong bài viết. Một số khía cạnh mang tính thách thức trong đánh giá quan điểm tồn tại trong việc sử dụng những loại từ khác, việc xây dựng thuật ngữ quan điểm, những mức vi [...]... Chương 4 Hệ thống đánh giá quan điểm người dùng 30 Chương 4 Hệ thống đánh giá quan điểm người dùng 30 Chương 4 Hệ thống đánh giá quan điểm người dùng Kiều Thanh Bình 30 Như ở chương 2 chúng tôi đã đưa ra một số hướng tiếp cận cho bài toán đánh giá quan điểm Có rất nhiều hướng tiếp cận để tìm ra một hướng phù hợp với ngôn ngữ và những văn bản về đánh giá sản phẩm là điều... làm là phân loại câu đơn này theo 5 hướng: .44 Câu đánh giá positive (PosSen): chỉ gồm những từ đánh giá positive 44 Câu đánh giá negative (NegSen): chỉ gồm những từ đánh giá negative 44 Câu đánh giá cả hai hướng (MixSen): có cả hai loại từ đánh giá quan điểm positive và negative 44 Câu thông thường: câu không mang từ đánh giá quan điểm nào 44 Câu so sánh (CompSen): câu thông... đổi lớp cho những từ như vậy .11 2.2.4 Cấp độ quan điểm 11 xi Tự động đánh giá ý kiến người dùng Kiều Thanh Bình Như trong Esuli và Sebastiani (2006) [9], một vài nhiệm vụ liên quan đến cấp độ quan điểm trong hệ thống đánh giá quan điểm Nhiệm vụ thứ nhất được gọi là SO-polarity, nhằm xác định ý kiến mang tính khách quan hay chủ quan (Pang và Lee, 2004 [18]; Yu và Hatzivassiloglou,... từ và phó từ, thì các động từ cũng có thể diễn tả quan điểm trong hệ thống đánh giá quan điểm của họ Họ phân loại các động từ có liên quan đến quan điểm thành 2 loại Loại thứ nhất trực tiếp thể hiện quan điểm tích cực hay tiêu cực, theo lý giải của họ thì “beat” trong “X beats Y” Loại thứ hai không thể hiện quan điểm trực tiếp nhưng dẫn đến những quan điểm , giống như “is” trong “X is good” ... đó họ xác định những dấu hiệu ở quan điểm về sản phẩm vì phương pháp của họ tập trung vào việc phân loại quan điểm dựa trên vii Tự động đánh giá ý kiến người dùng Kiều Thanh Bình những dấu hiệu Họ định nghĩa một câu mà chứa một hay nhiều dấu hiệu sản phẩm và từ chỉ quan điểm được xem là một câu chỉ quan điểm .5 Sau đó với mỗi một câu trong dữ liệu chỉ quan điểm, họ rút ra tất cả những tính... xác định luôn từ giá trong đánh giá là Feature giá cả” Những nhãn (annotation) như vậy bị chúng tôi loại bỏ vì nó sẽ mang lại những sai lầm trong quá trình nhận dạng 42 xxvii Tự động đánh giá ý kiến người dùng Kiều Thanh Bình Đây được coi như là nhiệm vụ quan trọng có ảnh hưởng trực tiếp đến kết quả của hệ thống Do vậy nếu như càng đánh giá được chính xác những từ chỉ quan điểm hệ thống càng... là theo quan điểm tích cực (hay tiêu cực) Trong trường hợp bằng nhau, xu hướng trung bình của từ chỉ quan điểm sát nhất về đặc trưng sản phẩm hoặc xu hướng của câu chỉ quan điểm trước đó được sử dụng để phân loại Độ chính xác của họ là 84,2% 7 ix Tự động đánh giá ý kiến người dùng Kiều Thanh Bình Turney (2002) [22] đã sử dụng một thuật toán phi giám sát đơn giản để phân loại quan điểm trong... F-measure) Còn về đánh giá Features chúng tôi sẽ đưa ra một phương pháp mà theo chúng tôi là hợp lý cho hệ thống của chúng tôi 47 xxx Tự động đánh giá ý kiến người dùng Kiều Thanh Bình 5.2.1 Kết quả thực nghiệm đánh giá ở mức từ 47 Ở mức từ chúng tôi chỉ dùng những nhãn từ cần thiết quyết định cho cả hệ thống đó là: PosWord (từ quan điểm mang nghĩa tích cực), NegWord (từ quan điểm mang nghĩa... liệu 34 4.3 Xây dựng hệ thống đánh giá quan điểm 34 4.3 Xây dựng hệ thống đánh giá quan điểm 34 Như trong chương 2 chúng tôi đã nói đến những hệ thống gần đây, hệ thống của chúng tôi cũng được xây dựng dựa trên 3 thành phần chính: xác định từ, cụm từ chỉ quan điểm; xác định xu hướng quan điểm; và phân lớp câu chỉ quan điểm Những phần trên được chúng tôi tách ra... quan điểm .4 2.1.2 Xác định chiều hướng từ, cụm từ quan điểm 4 Trong phân tích quan điểm, xu hướng của những từ, cụm từ trực tiếp thể hiện quan điểm, cảm xúc của người viết bài Phương pháp chính để nhận biết xu hướng quan điểm của những từ, cụm từ chỉ cảm nghĩ là dựa trên thống kê hoặc dựa trên từ vựng Hệ thống của chúng tôi dùng luật để xác định chiều hướng và từ quan điểm . trong đánh giá quan điểm tồn tại trong việc sử dụng những loại từ khác, việc xây dựng thuật ngữ quan điểm, những mức vi Tự động đánh giá ý kiến người dùng. từ, thì các động từ cũng có thể diễn tả quan điểm trong hệ thống đánh giá quan điểm của họ. Họ phân loại các động từ có liên quan đến quan điểm thành 2