Luận văn: Mô hình khai phá ý kiến dựa trên đặc trưng trong đánh giá sản phẩm tiếng Việt

Luận văn thạc sĩ: Mô hình khai phá ý kiến dựa trên đặc trưng từ đánh giá sản phẩm tiếng Việt. Tìm hiểu phương pháp và ứng dụng thực tế.

• Tác giả: Vu
• Người hướng dẫn: Assoc. Ha Quang Thuy
• Trường học: Vietnam National University, Hanoi University Of Engineering And Technology
• Chuyên ngành: Computer Science
• Đề tài: A Feature-Based Opinion Mining Model On Product Reviews In Vietnamese
• Loại tài liệu: Master Thesis Of Information Technology
• Năm xuất bản: 2012
• Địa điểm: Hanoi

Mục lục chi tiết

• ORIGINALITY STATEMENT
• ABSTRACT
• ACKNOWLEDGEMENTS
• Table of Contents
• List of Figures
• List of Tables
• List of Abbreviations
• 1. Chapter 1 Introduction
• 2. Chapter 2 Literature review
• 2.1. The demand of opinion mining
• 2.2. The basic concepts in the opinion mining field
• 2.3. Opinion mining problems
• 3. Chapter 3 Our Feature-based Opinion Mining Model
• 3.1. Phase 1: Pre-processing
• 3.2. Token Segmenting and POS Tagging
• 3.3. Phase 2: Product Features and Opinion Words Extraction
• 3.3.1. Explicit Product Features Extraction
• 3.3.2. Opinion word Extraction
• 3.3.3. Implicit Features identification
• 3.3.4. Grouping Synonym Features
• 3.3.5. Frequent Features Identification
• 3.4. Phase 3: Determining the opinion orientation
• 4. Chapter 4 Evaluation
• 4.1. Environment and Experimental Data
• 4.2. Product Features Extraction Evaluation
• 4.3. Opinion Words Extraction Evaluation
• 4.4. The Whole System Evaluation
• 5. Chapter 5 Conclusion

Tóm tắt

I. Tổng Quan Khai Phá Ý Kiến Sản Phẩm từ Đánh Giá Tiếng Việt

Sự phát triển nhanh chóng của thương mại điện tử ở Việt Nam đã tạo ra một lượng lớn đánh giá sản phẩm trực tuyến. Điều này mang đến cơ hội lớn để khai phá ý kiến khách hàng, giúp doanh nghiệp cải thiện sản phẩm và người tiêu dùng đưa ra quyết định mua hàng thông minh hơn. Tuy nhiên, việc xử lý khối lượng lớn đánh giá này đòi hỏi các phương pháp tự động hiệu quả. Khai phá ý kiến (Opinion Mining) và tóm tắt ý kiến dựa trên đặc trưng (Feature-based Opinion Mining and Summarization - FOMS) đã trở thành một lĩnh vực nghiên cứu quan trọng. Bài viết này tập trung vào việc khai phá ý kiến sản phẩm từ đánh giá tiếng Việt, một lĩnh vực có nhiều thách thức do đặc thù ngôn ngữ. Theo nghiên cứu của Vu Tien Thanh, “Feature-based opinion mining and summarizing (FOMS) of reviews is a very in- teresting and attracting issue in the opinion mining field.” Điều này nhấn mạnh tầm quan trọng của việc phát triển các mô hình FOMS hiệu quả cho tiếng Việt. Các công cụ và kỹ thuật khai phá ý kiến giúp phân tích cảm xúc (sentiment), đánh giá và ý kiến của người dùng về sản phẩm một cách có hệ thống. Điều này hỗ trợ doanh nghiệp hiểu rõ hơn về điểm mạnh, điểm yếu của sản phẩm, cũng như cải thiện chiến lược marketing và chăm sóc khách hàng. Việc áp dụng mô hình khai phá ý kiến (opinion mining model) vào đánh giá tiếng Việt mang lại giá trị to lớn trong bối cảnh thị trường cạnh tranh ngày càng gay gắt.

1.1. Tầm Quan Trọng của Khai Phá Ý Kiến trong Thương Mại Điện Tử

Trong môi trường thương mại điện tử, đánh giá sản phẩm đóng vai trò quan trọng trong việc xây dựng uy tín và ảnh hưởng đến quyết định mua hàng. Khai phá ý kiến giúp tự động hóa quá trình phân tích đánh giá, tiết kiệm thời gian và công sức cho cả doanh nghiệp và người tiêu dùng. Việc hiểu rõ ý kiến khách hàng giúp doanh nghiệp cải thiện sản phẩm (product improvement), nâng cao chất lượng dịch vụ và xây dựng lòng trung thành của khách hàng. Đối với người tiêu dùng, khai phá ý kiến cung cấp thông tin tổng quan và khách quan về sản phẩm, giúp họ đưa ra quyết định mua hàng sáng suốt hơn.

1.2. Thách Thức trong Khai Phá Ý Kiến từ Văn Bản Tiếng Việt

Tiếng Việt có nhiều đặc điểm ngôn ngữ phức tạp, gây khó khăn cho việc khai phá ý kiến. Cụ thể, tính đa nghĩa (ambiguity) của từ ngữ, sự xuất hiện của các từ lóng, tiếng địa phương và cách diễn đạt cảm xúc khác nhau đòi hỏi các mô hình khai phá ý kiến phải được điều chỉnh và tối ưu hóa cho phù hợp. Hơn nữa, việc thiếu các bộ dữ liệu và tài nguyên ngôn ngữ tiếng Việt, như từ điển cảm xúc (sentiment lexicon), cũng là một thách thức lớn. Theo luận văn của Vu Tien Thanh, việc xây dựng VietSentiWordNet là một nỗ lực quan trọng để giải quyết vấn đề này.

II. Vấn Đề và Bài Toán Khai Phá Ý Kiến Sản Phẩm Tiếng Việt

Việc khai phá ý kiến sản phẩm từ đánh giá tiếng Việt đối mặt với nhiều vấn đề phức tạp. Một trong những vấn đề chính là xác định đặc trưng sản phẩm (product feature) được đề cập trong đánh giá. Điều này đòi hỏi các phương pháp xử lý ngôn ngữ tự nhiên (Natural Language Processing - NLP) mạnh mẽ để trích xuất thông tin chính xác. Vấn đề tiếp theo là xác định hướng ý kiến (opinion orientation) - liệu ý kiến về đặc trưng sản phẩm là tích cực, tiêu cực hay trung tính. Điều này đòi hỏi việc phân tích cảm xúc (sentiment) trong văn bản, một nhiệm vụ không hề dễ dàng do sự đa dạng trong cách diễn đạt của người dùng. Cuối cùng, việc tóm tắt ý kiến một cách hiệu quả là một thách thức lớn. Cần phải tổng hợp thông tin từ nhiều đánh giá khác nhau để tạo ra một bản tóm tắt ngắn gọn, dễ hiểu và phản ánh chính xác ý kiến chung của khách hàng. Giải quyết các vấn đề này đòi hỏi sự kết hợp giữa các kỹ thuật NLP, khai phá dữ liệu và học máy.

2.1. Xác Định Đặc Trưng Sản Phẩm trong Đánh Giá Tiếng Việt

Xác định đặc trưng sản phẩm là bước quan trọng đầu tiên trong khai phá ý kiến. Điều này đòi hỏi việc trích xuất các danh từ (noun) và cụm danh từ (noun phrase) liên quan đến sản phẩm từ văn bản đánh giá. Các phương pháp dựa trên quy tắc ngữ pháp, học máy và khai phá luật kết hợp có thể được sử dụng để thực hiện nhiệm vụ này. Tuy nhiên, việc xử lý các biểu thức ngôn ngữ phức tạp và các cách diễn đạt khác nhau đòi hỏi sự tinh chỉnh và tối ưu hóa các phương pháp này cho phù hợp với đặc thù của tiếng Việt.

2.2. Phân Tích Cảm Xúc và Xác Định Hướng Ý Kiến

Phân tích cảm xúc là quá trình xác định cảm xúc (tích cực, tiêu cực, trung tính) được thể hiện trong văn bản. Các phương pháp dựa trên từ điển cảm xúc, học máy và mạng nơ-ron sâu (Deep Learning) có thể được sử dụng để thực hiện nhiệm vụ này. Việc xây dựng và mở rộng từ điển cảm xúc tiếng Việt (VietSentiWordNet) là một yếu tố quan trọng để nâng cao độ chính xác của phân tích cảm xúc. Hơn nữa, cần phải xem xét ngữ cảnh và các yếu tố ngôn ngữ khác để hiểu rõ hơn ý nghĩa thực sự của các biểu thức cảm xúc.

2.3. Tóm Tắt Ý Kiến và Trình Bày Thông Tin Hiệu Quả

Tóm tắt ý kiến là quá trình tổng hợp thông tin từ nhiều đánh giá khác nhau để tạo ra một bản tóm tắt ngắn gọn, dễ hiểu và phản ánh chính xác ý kiến chung của khách hàng. Các phương pháp dựa trên trích xuất đặc trưng, mô hình hóa chủ đề (Topic Modeling) và sinh văn bản (Text Generation) có thể được sử dụng để thực hiện nhiệm vụ này. Việc trình bày thông tin một cách trực quan, như sử dụng biểu đồ và đồ thị, cũng là một yếu tố quan trọng để giúp người dùng dễ dàng nắm bắt thông tin.

III. Hướng Dẫn Chi Tiết Mô Hình Khai Phá Ý Kiến Sản Phẩm FOMS

Mô hình Khai Phá Ý Kiến dựa trên Đặc trưng (FOMS) là một phương pháp hiệu quả để phân tích đánh giá sản phẩm. Mô hình này bao gồm nhiều bước, từ tiền xử lý dữ liệu đến tóm tắt kết quả. Tiền xử lý dữ liệu (data preprocessing) bao gồm chuẩn hóa văn bản, phân đoạn từ và gán nhãn từ loại (Part-of-Speech Tagging - POS Tagging). Tiếp theo là trích xuất đặc trưng sản phẩm và từ ngữ ý kiến. Các đặc trưng sản phẩm có thể được trích xuất bằng cách sử dụng quy tắc ngữ pháp, học máy hoặc kết hợp cả hai. Từ ngữ ý kiến có thể được trích xuất từ từ điển cảm xúc hoặc bằng cách sử dụng các phương pháp học máy. Sau khi trích xuất đặc trưng và từ ngữ ý kiến, cần xác định hướng ý kiến (tích cực, tiêu cực, trung tính) về mỗi đặc trưng sản phẩm. Cuối cùng, kết quả được tóm tắt và trình bày một cách dễ hiểu.

3.1. Tiền Xử Lý Dữ Liệu Đánh Giá Sản Phẩm Tiếng Việt

Tiền xử lý dữ liệu là bước quan trọng đầu tiên trong mô hình FOMS. Bước này bao gồm chuẩn hóa văn bản, loại bỏ các ký tự đặc biệt, chuyển đổi chữ hoa thành chữ thường, và sửa lỗi chính tả. Sau đó, văn bản được phân đoạn thành các từ và gán nhãn từ loại. Các công cụ phân đoạn từ và gán nhãn từ loại tiếng Việt có thể được sử dụng để thực hiện nhiệm vụ này. Bước tiền xử lý giúp cải thiện độ chính xác của các bước tiếp theo trong mô hình FOMS.

3.2. Trích Xuất Đặc Trưng Sản Phẩm và Từ Ngữ Ý Kiến

Trích xuất đặc trưng sản phẩm và từ ngữ ý kiến là bước quan trọng tiếp theo trong mô hình FOMS. Đặc trưng sản phẩm là các thuộc tính của sản phẩm được đề cập trong đánh giá, ví dụ như “màn hình”, “pin”, “camera”. Từ ngữ ý kiến là các từ ngữ thể hiện cảm xúc hoặc ý kiến về đặc trưng sản phẩm, ví dụ như “đẹp”, “tốt”, “tệ”. Các quy tắc ngữ pháp, học máy và từ điển cảm xúc có thể được sử dụng để trích xuất đặc trưng sản phẩm và từ ngữ ý kiến.

3.3. Xác Định Hướng Ý Kiến và Tóm Tắt Kết Quả Phân Tích

Xác định hướng ý kiến là bước quan trọng để hiểu rõ ý kiến của khách hàng về sản phẩm. Hướng ý kiến có thể là tích cực, tiêu cực hoặc trung tính. Các phương pháp phân tích cảm xúc, học máy và từ điển cảm xúc có thể được sử dụng để xác định hướng ý kiến. Cuối cùng, kết quả phân tích được tóm tắt và trình bày một cách dễ hiểu, ví dụ như sử dụng biểu đồ và đồ thị.

IV. Cách Ứng Dụng Kết Quả Khai Phá Ý Kiến trong Thực Tế Doanh Nghiệp

Kết quả khai phá ý kiến từ đánh giá sản phẩm mang lại giá trị lớn cho doanh nghiệp. Doanh nghiệp có thể sử dụng kết quả này để cải thiện sản phẩm (product improvement), nâng cao chất lượng dịch vụ, xây dựng chiến lược marketing hiệu quả và chăm sóc khách hàng tốt hơn. Ví dụ, nếu kết quả khai phá ý kiến cho thấy khách hàng không hài lòng với thời lượng pin của sản phẩm, doanh nghiệp có thể tập trung vào việc cải thiện pin cho các phiên bản sản phẩm tiếp theo. Hoặc, nếu kết quả cho thấy khách hàng đánh giá cao thiết kế của sản phẩm, doanh nghiệp có thể tận dụng điều này trong chiến dịch marketing.

4.1. Cải Thiện Sản Phẩm và Nâng Cao Chất Lượng Dịch Vụ

Thông tin từ khai phá ý kiến cung cấp cho doanh nghiệp cái nhìn sâu sắc về điểm mạnh và điểm yếu của sản phẩm. Điều này giúp doanh nghiệp tập trung vào việc cải thiện các đặc trưng sản phẩm mà khách hàng không hài lòng và phát huy các đặc trưng mà khách hàng đánh giá cao. Ngoài ra, doanh nghiệp có thể sử dụng thông tin này để nâng cao chất lượng dịch vụ, ví dụ như cải thiện quy trình hỗ trợ khách hàng hoặc giảm thời gian giao hàng.

4.2. Xây Dựng Chiến Lược Marketing và Chăm Sóc Khách Hàng

Thông tin từ khai phá ý kiến giúp doanh nghiệp hiểu rõ hơn về nhu cầu và mong muốn của khách hàng. Điều này giúp doanh nghiệp xây dựng chiến lược marketing hiệu quả, nhắm mục tiêu đúng đối tượng khách hàng và truyền tải thông điệp phù hợp. Ngoài ra, doanh nghiệp có thể sử dụng thông tin này để chăm sóc khách hàng tốt hơn, ví dụ như chủ động giải quyết các vấn đề mà khách hàng gặp phải hoặc cung cấp các chương trình khuyến mãi đặc biệt cho khách hàng trung thành.

4.3. Giám Sát Danh Tiếng Thương Hiệu và Ứng Phó Khủng Hoảng

Khai phá ý kiến giúp doanh nghiệp theo dõi và đánh giá danh tiếng thương hiệu một cách liên tục. Việc phân tích ý kiến của khách hàng về thương hiệu, sản phẩm và dịch vụ giúp doanh nghiệp nhận diện sớm các vấn đề tiềm ẩn và có biện pháp can thiệp kịp thời. Đặc biệt, trong trường hợp xảy ra khủng hoảng truyền thông, khai phá ý kiến cho phép doanh nghiệp đánh giá mức độ ảnh hưởng của khủng hoảng, xác định các yếu tố gây bất lợi và đưa ra các phản ứng phù hợp để giảm thiểu thiệt hại.

V. Kết Quả Nghiên Cứu và Đánh Giá Mô Hình Khai Phá Ý Kiến FOMS

Nghiên cứu của Vu Tien Thanh đã chứng minh tính hiệu quả của mô hình FOMS trong việc khai phá ý kiến sản phẩm từ đánh giá tiếng Việt. Kết quả cho thấy mô hình có độ chính xác cao trong việc trích xuất đặc trưng sản phẩm, từ ngữ ý kiến và xác định hướng ý kiến. Tuy nhiên, nghiên cứu cũng chỉ ra một số hạn chế của mô hình, ví dụ như khả năng xử lý các biểu thức ngôn ngữ phức tạp và các cách diễn đạt khác nhau còn hạn chế. Do đó, cần phải tiếp tục nghiên cứu và phát triển các phương pháp khai phá ý kiến tiên tiến hơn để giải quyết các thách thức này.

5.1. Độ Chính Xác và Hiệu Quả của Mô Hình trong Thực Nghiệm

Các thực nghiệm được thực hiện trên tập dữ liệu đánh giá sản phẩm tiếng Việt cho thấy mô hình FOMS có độ chính xác cao trong việc trích xuất đặc trưng sản phẩm và từ ngữ ý kiến. Mô hình cũng có khả năng xác định hướng ý kiến (tích cực, tiêu cực, trung tính) với độ chính xác tương đối cao. Tuy nhiên, độ chính xác của mô hình có thể bị ảnh hưởng bởi sự phức tạp của ngôn ngữ và các cách diễn đạt khác nhau của người dùng.

5.2. Hạn Chế và Hướng Phát Triển của Mô Hình Khai Phá Ý Kiến

Mặc dù mô hình FOMS đã cho thấy tính hiệu quả trong việc khai phá ý kiến sản phẩm từ đánh giá tiếng Việt, nhưng vẫn còn một số hạn chế cần được giải quyết. Ví dụ, mô hình còn hạn chế trong việc xử lý các biểu thức ngôn ngữ phức tạp, các cách diễn đạt khác nhau và các ý kiến ẩn ý. Do đó, cần phải tiếp tục nghiên cứu và phát triển các phương pháp khai phá ý kiến tiên tiến hơn, như sử dụng mạng nơ-ron sâu (Deep Learning) và các kỹ thuật xử lý ngôn ngữ tự nhiên tiên tiến khác.

VI. Kết Luận và Hướng Phát Triển Tương Lai Của Chủ Đề Nghiên Cứu

Khai phá ý kiến sản phẩm từ đánh giá tiếng Việt là một lĩnh vực nghiên cứu đầy tiềm năng. Các phương pháp khai phá ý kiến giúp doanh nghiệp hiểu rõ hơn về ý kiến khách hàng, cải thiện sản phẩm, nâng cao chất lượng dịch vụ và xây dựng chiến lược marketing hiệu quả. Tuy nhiên, lĩnh vực này vẫn còn nhiều thách thức cần được giải quyết. Trong tương lai, cần phải tiếp tục nghiên cứu và phát triển các phương pháp khai phá ý kiến tiên tiến hơn, đặc biệt là các phương pháp có khả năng xử lý ngôn ngữ tự nhiên tiếng Việt một cách hiệu quả.

6.1. Tóm Lược Những Thành Tựu và Thách Thức Hiện Tại

Khai phá ý kiến đã đạt được những thành tựu đáng kể trong việc phân tích ý kiến sản phẩm từ đánh giá tiếng Việt. Tuy nhiên, vẫn còn nhiều thách thức cần được giải quyết, như xử lý các biểu thức ngôn ngữ phức tạp, xây dựng từ điển cảm xúc tiếng Việt đầy đủ và phát triển các phương pháp tóm tắt ý kiến hiệu quả.

6.2. Hướng Nghiên Cứu và Phát Triển Trong Tương Lai Gần

Trong tương lai, cần tập trung vào việc phát triển các phương pháp khai phá ý kiến tiên tiến hơn, đặc biệt là các phương pháp dựa trên mạng nơ-ron sâu (Deep Learning) và các kỹ thuật xử lý ngôn ngữ tự nhiên tiên tiến khác. Ngoài ra, cần tiếp tục xây dựng và mở rộng từ điển cảm xúc tiếng Việt (VietSentiWordNet) để cải thiện độ chính xác của phân tích cảm xúc.

Trích đoạn nội dung tài liệu

VIETNAM NATIONAL UNIVERSITY, HANOI UNIVERSITY OF ENGINEERING AND TECHNOLOGY VU TIEN THANH A FEATURE-BASED OPINION MINING MODEL ON PRODUCT REVIEWS IN VIETNAMESE MASTER THESIS OF INFORMATION TECHNOLOGY Hanoi – 2012 TIEU LUAN MOI download : [e-mail] VIETNAM NATIONAL UNIVERSITY, HANOI UNIVERSITY OF ENGINEERING AND TECHNOLOGY VU TIEN THANH A FEATURE-BASED OPINION MINING MODEL ON PRODUCT REVIEWS IN VIETNAMESE Major : Computer Science Code : 60 48 01 MASTER THESIS OF INFORMATION TECHNOLOGY Supervisor: Assoc. Ha QuangThuy Hanoi – 2012 TIEU LUAN MOI download : [e-mail] ORIGINALITY STATEMENT ‘I hereby declare that this submission is my own work and to the best of my knowledge it contains no materials previously published or written by another person, or substan- tial proportions of material which have been accepted for the award of any other degree or diploma at University of Engineering and Technology (UET/Coltech) or any other educational institution, except where due acknowledgement is made in the thesis. Any contribution made to the research by others, with whom I have worked at UET/Coltech or elsewhere, is explicitly acknowledged in the thesis. I also declare that the intellectual content of this thesis is the product of my own work, except to the extent that assistance from others in the project’s design and conception or in style, presentation and linguistic expression is acknowledged.’ Hanoi, November 25th , 2012 Signed.

i TIEU LUAN MOI download : [e-mail] ii TIEU LUAN MOI download : [e-mail] iii ABSTRACT Feature-based opinion mining and summarizing (FOMS) of reviews is a very in- teresting and attracting issue in the opinion mining field. With the development of e-commerce in Vietnam, there are more and more commercial sites and technical forums where people can review or express their opinions on the products which they have used. As a result, the number of reviews has been increasing rapidly to hun- dreds or even thousands for a hot-product in recent years. Not only is it difficult for the customer to read in order to make a decision whether to buy product but hard for the producer to handle customer opinions to improve their products as well.

In this thesis, we describe a Feature-based opinion mining and summarizing model on Vietnamese product reviews. Our model performs four following steps:(1)Pre- processing the input customer reviews by standardizing reviews, segmenting Token, and POS tagging(2) extracting explicit product features and opinion-words by using Vietnamese syntax rules, identifying implicit product features by using relationships with opinion words,and automatically grouping synonym product features by combin- ing HAC clustering method and semi-supervised SVM-kNN classification method; (3) identifying opinion sentences in each review and deciding whether each opinion sen- tence is positive, negative or neutral by using a VietSentiWordNet extended from an initial SentiWordNet 3.0; (4) summarizing the results which is different from the tra- ditional text summarization because we only focus on product-features on which the customers reviewed and whether opinions are positive, negative or neutral. Experi- mental results on Vietnamese reviews of mobile phone product domain demonstrate the effectiveness of the model. Publications: ? Huyen-Trang Pham, Tien-Thanh Vu, Mai-Vu Tran and Quang-Thuy Ha.

A Solution for Grouping Vietnamese Synonym Feature Words in Product Reviews. In Proceedings of the 6th international conference on Asia-Pacific Services Computing (APSCC 2011). ? Quang-Thuy Ha, Tien-Thanh Vu, Huyen-Trang Pham and Cong-To Luu. An Upgrading Feature- based Opinion Mining Model on Vietnamese Product Reviews.

In Proceedings of the 7th interna- tional conference on Active media technology (AMT 2011), pp. ? Tien-Thanh Vu, Huyen-Trang Pham, Cong-To Luu and Quang-Thuy Ha. A Feature-Based Opin- ion Mining Model on Product Reviews in Vietnamese. In Semantic Methods for Knowledge Man- agement and Communication (SCI 381), pp.

TIEU LUAN MOI download : [e-mail] ACKNOWLEDGEMENTS First and foremost, I would like to express my deepest gratitude to my supervi- sor, Assoc. Ha Quang Thuy, for his patient guidance and continuous support throughout the years. He always appears when I need help, and responds to queries so helpfully and promptly. I would like to give my honest appreciation to my col- leagues at the Knowledge and Technology laboratory for their great support.

I also would like to thank my friend, Nguyen Quoc Dat, for his kindly help. I sincerely acknowledge the Vietnam National University, Hanoi, NAFOSTED Vietnam and especially, QG.TN04/11-15 projects for supporting finance to my master study. Finally, this thesis would not have been possible without the support and love of my parents and my wife. Thank you! iv TIEU LUAN MOI download : [e-mail] To my family ♥ v TIEU LUAN MOI download : [e-mail] Table of Contents 1 Introduction 1 2 Literature review 4 2.1 The demand of opinion mining .2 The basic concepts in the opinion mining field .3 Opinion mining problems .2 Feature-based Opinion Mining .3 Opinion Orientation Identification .4 Feature-based Opinion Mining System on Vietnamese Product Reviews.

14 3 Our Feature-based Opinion Mining Model 15 3.2 Phase 1: Pre-processing .2 Token Segmenting and POS Tagging .3 Phase 2: Product Features and Opinion Words Extraction .1 Explicit Product Features Extraction .2 Opinion word Extraction .3 Implicit Features identification .4 Grouping Synonym Features .5 Frequent Features Identification .4 Phase 3: Determining the opinion orientation. 28 vi TIEU LUAN MOI download : [e-mail] TABLE OF CONTENTS vii 4 Evaluation 29 4.1 Environment and Experimental Data .2 Product Features Extraction Evaluation .3 Opinion Words Extraction Evaluation .4 The Whole System Evaluation. 32 5 Conclusion 36 TIEU LUAN MOI download : [e-mail] List of Figures 1.1 An example summarization of Samsung Galaxy Tab.1 OM documents on Google Scholars (In title) .2 OM documents on Google Scholars (In anywhere) .3 The tree of Nokia N72 object .1 Model for Feature-based Opinion Mining and Summarizing in Viet- namese Product Reviews.1 (Precision values (%))A comparison between our method in (Vu et al., 2011) and in this thesis .2 (Recall values (%))A comparison between our method in (Vu et al., 2011) and in this thesis .3 (F1 values (%))A comparison between our method in (Vu et al., 2011) and in this thesis .4 A summarization of Nokia C5-03 .5 A summarization of LG Wink Touch T300. 35 viii TIEU LUAN MOI download : [e-mail] List of Tables 3.1 Some examples of using opinion words to identify implicit features .2 Experimental result on HAC algorithm with 5 α threshold value .3 Samples in VietSentiWordnet .1 Total of crawled reviews .2 Results of frequent product features extraction (MF: Number of man- ual product feature; SF: Number of product features found by the system; CSF: Number of correct product features found by the system) 30 4.3 Results of opinion words extraction (MO: Number of manual opinion words; SO: Number of opinion words found by the system; CSO: Number of correct opinion words found by the system) .4 Precision, Recall and F1 of Feature-based Opinion Mining Model on Vietnamese mobile phones Reviews.

33 ix TIEU LUAN MOI download : [e-mail] List of Abbreviations OM Opinion Mining FOM Feature-based Opinion Mining FOMS Feature-based Opinion Mining and Summarizing NLP Natural Language Processing PMI Pointwise Mutual Information SVM Support Vector Machine HAC Hierarchical Agglomerative Clustering kNN k-Nearest Neighbor VNNIG Vietnam Internet Center POS Part Of Speech NP Noun Phrase N Noun A Adjective V Verb O Object prep Preposition x TIEU LUAN MOI download : [e-mail] Chapter 1 Introduction With rapid development of e-commerce in the world in general and Vietnam in particular, there are more and more commercial websites, technical forums, etc not only bringing to their potential customers a new way of purchasing products online, but also enabling their customers to review and to express their opinions on the products that they have purchased. So the number of customer reviews has been increasing sharply in recent years. Especially, some hot-products can get hundreds or even thousands of reviews at some popular commercial websites. It is not only difficult for customers to read in order to make a decision whether to buy product but also hard for product manufactures to handle customer opinions to improve their products.

As a results, feature-based opinion mining and summarizing (FOMS) of customer reviews of product sold online is a very interesting and attracting issue in the opinion mining field (Hu and Liu, 2004; Popescu and Etzioni, 2005; Qiu et al., 2011; Stoyanov and Cardie, 2008; Zhai et al., 2010; Zhang et al., 2010; Vu et al., 2011; Ha et al. There are many research have done to improve FOMS systems (Scaffidi et al., 2007; Kim and Hovy, 2006; Qiu et al., 2011, 2009; Vu et al., 2011; Stoyanov and Cardie, 2008; Zhai et al., 2010; Zhang et al. There are two important tasks which are extracting product features and opinion words task and grouping synonym product features task to improve FOMS systems. The former task depends on syntax rules, which means that different languages have different ways to resolve the task.

Most of researches using to resolve the later task focus on using dictionaries, supervised or semi-supervised machine learning methods which require users to build features synonym dictionaries, and to annotate training set. Sentiment lexical resources are very useful for Opinion Mining, especially for 1 TIEU LUAN MOI download : [e-mail] 2 FOMS system (Baccianella et al., 2010; Das and Bandyopadhyay, 2010; Esuli and Sebastiani, 2006; Esuli, 2008) to decide the opinion orientation. Stefano Baccianella et al (Baccianella et al., 2010) described the evolution of SentiWordNet, a remarkable English sentiment lexical resource. In this thesis, we propose a Feature-based opinion mining and summarizing model on Vietnamese product reviews (customer reviews)overcoming some drawbacks of the recent FOMS systems.

With an input customer reviews set of products, our model performs four following steps:(1)Pre-processing the input customer reviews by standardizing reviews, segmenting Token, and POS tagging(2) extracting ex- plicit product features and opinion-words as well by using Vietnamese syntax rules, identifying implicit product features by using relationships with opinion words,and automatically grouping synonym product features by combining HAC clustering method and semi-supervised SVM-kNN classification method; (3) identifying opin- ion sentences in each review and deciding whether each opinion sentence is positive, negative or neutral by using a VietSentiWordNet extended from an initial Senti- WordNet 3.0; (4) summarizing the results which integrates the results of previous steps and presents them in the column diagram; figure 1.1 is an example to illustrate a summarizing the results of FOMS system on Samsung Galaxy Tab. The rest of this thesis is organized as following. In the second chapter, we pro- vide some literature reviews. In the next chapter, the FOMS model with four steps is described.

Experiment results and remarks are described in the fourth chapter. Conclusions are showed in the last chapter. TIEU LUAN MOI download : skknchat@gmail.1: An example summarization of Samsung Galaxy Tab. TIEU LUAN MOI download : [e-mail] Chapter 2 Literature review In this chapter, we introduce opinion mining overview in section 2.1 and feature- based opinion mining (FOM) in section 2.

In the first section (2.1), firstly, we introduce the demand of opinion mining in 2. Secondly, the basic concepts in the opinion mining field such as Object, Opinion passage on a feature, etc. are described in 2. Finally, opinion mining problems are defined in 2.

In the second section (2.2), firstly, we define FOM problem in 2. Secondly, some related works extracting features are described in 2.3, we introduce related works extracting opinion words and aggregating opinions. Finally, some FOM systems in Vietnamese are introduced in 2.1 The demand of opinion mining In (Liu, 2010), textual information in the world can be split into two main cate- gories: facts and opinions. Facts are objective expressions about entities, events and their properties.

Opinions are usually subjective expressions that describe people’s sentiments, assessments or feelings toward entities, events and their prop- erties. The concept of opinion is very broad. In this thesis, we only focus on opinion expressions expressing people’s positive, negative sentiments, or neutrals.