Chương 1: GIỚI THIỆU 1. Lý do chọn đề tài: Các phản hồi, bình luận được chia sẻ bởi người dùng trên các trang mạng xã hội là một nguồn dữ liệu phong phú, cung cấp nhiều thông tin hữu ích về ưu khuyết điểm của các sản phẩm, dịch vụ mà họ đã sử dung. Các thông tin này góp phan không nhỏ vào việc quyết định mua sắm của người tiêu dùng và là cơ sở để nhà sản suất xác định hướng phát triên, cải tiên các sản phâm. Tuy nhiên, với sự phát triên ngày càng mạnh của các mạng xã hội, sô lượng các phản hoi được chia sẻ ngày càng nhiêu, việc rút trích ra các thông tin hữu ích là một vân đê khó khăn, tôn nhiêu thời gian và công sức.
Đề giải quyết vấn đề này, nhiều hướng nghiên cứu mới đã được đưa ra, một trong số đó là Sentiment Classification (phan loại văn bản theo cảm xúc). Phân loại văn bản theo cảm xúc là một trường hợp đặc biệt của bài toán phân loại văn bản, các văn bản được phân loại dựa vào xu hướng cảm xúc của chúng. Đối tượng phân loại trong lĩnh vực này thường là các câu bình luận, phản hồi trên các mạng xã hội hoặc các bài đánh giá, phê bình về một sản phẩm, dịch vụ. Các văn bản này thường được phân loại làm hai lớp chính là tích cực và tiêu cực.
Một trong những thách thức cân giải quyết trong lĩnh vực phân loại văn bản theo cảm xúc là vẫn đề Domain Dependence (phụ thuộc miền). Các bộ phân lớp được xây dựng chỉ đạt được kết quả phân loại tốt trên miền dữ liệu được huấn luyện, khi áp dụng sang miễn dữ liệu khác thì kết quả đạt được có độ chính xác rất thấp. Nguyên nhân là do có những từ chỉ xuất hiện ở một số miền dữ liệu nhất định, ví dụ như từ “delicious” thường được dùng để thé hiện cảm xúc tích cực khi đánh giá các món ăn nhưng lại hiém khi được sử dụng trong các nhận xét về sách. Như vậy một bộ phân lớp được huấn luyện trên tập dữ liệu là các nhận xét về sách sẽ không có trọng số được học về từ “delicious”, do đó rất khó dé dùng bộ phân lớp này để phân loại các nhận xét vê các món ăn.
Ngoài ra, xu hướng tình cảm của một sô từ có thê thay đôi tùy theo ngữ cảnh mà nó được sử dung. Ví dụ, từ “unpredictable” mang ý nghĩa tích cực khi được dùng để | đánh giá các bộ phim nhưng lại có ý nghĩa tiêu cực khi nói về kha năng vận hành ôn định cua một chiéc xe. Hiện nay việc xây dựng một bộ phân lớp có khả năng phân loại tốt dữ liệu thuộc nhiều miền khác nhau là một van dé dang được quan tâm giải quyết. Muc tiêu và giới hạn của đề tài: Mục tiêu của dé tài là nghiên cứu hiện thực một bộ phân lớp có thể phân loại hiệu quả các phản hồi thuộc nhiều miền dữ liệu khác nhau, sử dụng kỹ thuật nhận dạng các f khoá phân loại độc láp miễn (domain-independent keywords).
Đề tài nay chi tập trung xử ly các phản hồi bang ngôn ngữ tiếng Anh va phương pháp đẻ xuất chưa ứng dụng được các yếu tô của mạng xã hội dé nâng cao độ chính xác của bộ phân lớp. Đóng gop của đề tài: Với mục tiêu đề ra và kết quả thu được, những đóng góp mà đề tài mang lại là: e Xây dựng được bộ phân lớp cho dữ liệu thuộc nhiều miền dữ liệu. Độ chính xác của bộ phân lớp cao hơn so với một sô công trình nghiên cứu khác. e Tìm hiểu và áp dụng kỹ thuật nhận dạng các tir khoá phân loại độc lap miễn (domain-independent keywords) dựa trên trọng số DeltaTFIDF dé phát hiện thành công các từ khóa độc lập miền va phụ thuộc miền.
Cho thay VIỆC su dụng trọng số DeltaTFIDF trong phân loại văn bản theo cảm xúc cho kết quả phân loại tốt hơn so với trọng số TFIDE. e Góp phần chứng minh được việc kết hợp thêm thông tin về xu hướng tinh cảm của các từ trong feature vector cũng góp phan nâng cao hiệu quả trong lĩnh vực phân loại văn bản theo cảm xúc. Chương 2: TONG QUAN Trong chương này ta sẽ khảo sát một sô công trình nghiên cứu có liên quan mật thiết đến dé tài. Các phương pháp phân loại văn ban theo cảm xúc Phân loại văn bản theo cảm xúc là một trường hợp đặc biệt của bài toán phân loại văn bản.
Đên nay, nhiêu nghiên cứu đã được tiên hành nhăm xây dựng các bộ phân lớp trong lĩnh vực này, trong đó nhìn chung có hai loại phương pháp chính: > Dựa trên các giải thuật học máy (machine learning): Với phương pháp này, bộ phân lớp được xây dựng dựa trên các giải thuật học máy và tập dữ liệu huấn luyện gồm các văn bản đã được gán nhãn sẵn. Độ chính xác của bộ phân lớp phụ thuộc khá nhiều vào quá trình gán nhãn cho các văn bản. Các giải thuật học máy thường được sử dụng là Support Vector Machine (SVM), Naive Bayes, maximum entropy,. Phương pháp dựa trên các giải thuật học may đã đạt được độ chính xác khá cao với bài toán phân loại văn bản truyền thông theo chu dé.
Pang et al. [10] đã khảo sát hiệu qua của phương pháp nay với bài toán phân loại văn bản cảm xúc. Các giải thuật học may Naive Bayes, maximum entropy và support vector machines (SVMs) được áp dụng trên tập dữ liệu là những nhận xét về phim ảnh. Kết quả thực nghiệm cho thay độ chính xác dat được thấp hơn so với phân loại văn bản theo chủ để truyền thống.
Nguyên nhân dẫn đến điều này là do trong một số nhận xét về phim ảnh, người nhận xét cố ý đưa ra đánh giá tong quát trái ngược với các phân tích được trình bày trước đó. Ví dụ xét các câu nhận xét vê một bộ phim như sau: “This film should be brilliant. It sounds like a great plot, the actors are first grade, and the supporting cast is good as well, and Stallone is attempting to deliver a good performance. However, it can't hold up” Tuy trong văn ban có sử dung nhiều từ mang xu hướng tích cực như “brilliant”, “great”, “first grade”, “good” nhưng day lại là một nhận xét tiêu cực.
32 ce Với những trường hợp này, xu hướng tình cảm của văn bản thường trái ngược với xu hướng tình cam của hau hêt các từ trong văn ban, do đó các bộ phân lớp khó đưa ra kết quả phân loại chính xác. > Dựa trên xu hướng tình cảm của các từ vựng Với phương pháp này, việc phân loại được thực hiện chỉ dựa trên xu hướng tình cảm của các từ vựng, ta không cân sử dụng tập dữ liệu đã gan nhãn dé huân luyện. Turney [14] đã dé ra một giải thuật tiêu biểu cho phương pháp này. Một nhận xét đầu vào sẽ được phân loại là tích cực hay tiêu cực qua một giải thuật đơn giản gom ba bước như sau: a.
Từ nhận xét đầu vào, áp dụng bộ gan nhãn từ loại (part-of-speech tagger) dé xác định trong đó các cum từ có chứa các từ mang nhiều xu hướng tình cảm như tính từ, phó từ. Ước lượng xu hướng tình cảm của các cụm từ đã được xác định. Chon hai từ “exellent” và “poor” làm đại diện cho các từ tích cực và tiêu cực, dựa trên độ liên kết ngữ nghĩa của các cụm từ với hai từ này để xác định xu hướng tình cảm của chúng. Cụm từ có mối liên kết với từ “excellent” nhiều hơn từ “poor” thì mang nghĩa tích cực, ngược lại sẽ mang nghĩa tiêu cực.
Tinh trung bình xu hướng tình cảm của tat cả các cụm từ, từ đó phân loại câu nhận xét là tích cực hay tiêu cực. Turney đã khảo sát trên tập dữ liệu gôm các câu nhận xét về sản phâm và phim ảnh. Tương tự với kêt quả cua Pang et al. [10], xu hướng cảm xúc của các nhận xét vê phim anh có thê không phụ thuộc vào xu hướng cảm xúc của các cụm từ trong câu, độ chính xác của bộ phân lớp chỉ đạt khoảng 66%.
Dé gia tăng độ chính xác của các phương pháp nay, ta có thé áp dụng thêm các kỹ thuật xử lý ngôn ngữ tự nhiên như các từ phủ định, từ tăng cường hoặc giảm nhẹ mức độ. Ví dụ như bộ phân lớp SO-CAL (the Semantic Orientation CALculator) của Taboada et al. SO-CAL đã được khảo sát trên một vài tập dữ liệu khác nhau và cho kết quả phân loại khá tốt, ôn định, không phụ thuộc nhiều vào một miên dữ liệu cụ thê nào. Tóm lại, có hai loại phương pháp chính để xây dựng bộ phân lớp trong lĩnh vực phân loại văn bản theo cảm xúc.
Trong đó, một loại dựa trên các giải thuật học máy để tạo ra các bộ phân lớp sử dụng các tập dữ liệu huấn luyện. Loại thứ hai không cần sử dụng các tập dữ liệu huấn luyện, các bộ phân lớp được tạo ra dựa trên tính toán xu hướng tình cảm của các từ và các kỹ thuật xử lý ngôn ngữ tự nhiên. Vẫn đề được chú ý gần đây: Cross-domain classification Nhiều nghiên cứu đã được thực hiện để so sánh giữa hai loại phương pháp trên. Chaovalit và Zhou [3] đã áp dụng cả hai loại phương pháp để phân loại các nhận xét về phim ảnh.
Kết quả cho thay phương pháp dựa trên giải thuật học máy cho kết qua tốt hơn nhưng can có thời gian huấn luyện dài và yêu cau tập dữ liệu huan luyện phải đủ lớn. Hau hết các nghiên cứu được thực hiện trên tập dữ liệu là các nhận xét về phim ảnh và các sản phẩm thu từ các trang web đánh giá. Các văn bản loại này thường có nội dung dài và chỉ tập trung vào một loại đối tượng, sản phẩm cụ thể. Tuy nhiên, trên các trang mạng xã hội, các nhận xét, đánh giá thường mang tính tương tác xã hội nhiều hon.
Các văn bản được viết ngắn gọn, không tuân theo một chuẩn nào và có thé đề cập đến các đối tượng thuộc nhiều miền dữ liệu khác nhau. Vậy với các nhận xét loại này, phương pháp phân loại nào sẽ cho kết quả tốt hơn? Để trả lời câu hỏi này, Paltoglou et al. [11] đã khảo sát hiệu quả của hai phương pháp phân loại với tập dữ liệu là các đoạn đối thoại, phản hồi của người dùng trên các trang mạng xã hội. Kết quả thực nghiệm cho thấy, trong trường hợp này, các phương pháp dựa trên xu hướng tình cảm của từ vựng đạt hiệu quả cao hơn, đặc biệt là với các văn bản có nội dung ngan, chi gom một hoặc hai câu.
Trong khi đó, các bộ phân lớp dựa trên giải thuật học máy cho kết quả với độ chính xác rất thấp.