Chương 1 Tổng quan: Giới thiệu về bài toán phân tích cảm xúc dựa trên khía cạnh và tính ứng dụng thực tiễn. Chương 2 Các công trình nghiên cứu liên quan: Giới thiệu một số công trình nghiên cứu nồi bật trên thế giới và trong nước liên quan đến các quy trình xây dựng dữ liệu ABSA. Trong chương này cũng trình bày và phân tích mô hình tiếp cận liên quan đến luận văn. Chương 3 Xây dựng bộ dữ liệu: Trình bày quy trình xây dựng nghiêm ngặt bộ dữ liệu tai nghe.
Sau đó phân tích và thống kế các số liệu của bộ dữ liệu để hiểu rõ hơn về bộ dữ liệu. Chương 4 Phương pháp thir nghiệm: Trình bày quá trình tiền xử lý dữ liệu nhằm nâng cao chất lượng bộ dit liệu trước khi đưa vào mô hình máy học. Tôi đề cập đến phương pháp thực nghiệm là mô hình PhoBERT Vv Chương 5 Cài đặt và kết quả thứ nghiệm: Trình bày cách cài đặt và đánh giá kết quả thu được từ các thử nghiệm trên đồng thời so sánh 2 miền dữ liệu Tai nghe và Điện thoại. Chương 6 Phân tích và thảo luận: Trình bày phương pháp tăng cường dữ liệu Chương 7 Xây dựng hệ thống: Xây dựng ứng dụng hỗ trợ khảo sát sản phẩm có tích hợp kỹ thuật phân tích cảm xúc theo khía cạnh và đánh giá hiệu quả hệ thống.
Chương 8 Triển khai hệ thống trên nền tang đám mây: Trình bày kiến trúc hệ thống trên nền tảng AWS và Azure. Chương 9 Kết luận và hướng phát triển: Tổng hợp lại các kết quả đạt được từ đó đưa ra hướng phát triển trong tương lai. Chương 2 CÁC CÔNG TRÌNH LIÊN QUAN Tom tắt chương: Nội dung của chương này trình bày tổng quát tổng quát các nội dung về mặt lý thuyết cũng như các nghiên cứu có liên quan đến việc Phân tích cảm xúc theo khía cạnh. Trong chương này cũng trình bày và phân tích mô hình tiếp cận liên quan đền luận văn.1 Giới thiệu bài toán Bài toán “Phân tích cảm xúc theo khía cạnh” hay Aspect-based Sentiment Analysis ( ABSA) là một bài toán mở rộng của bài toán “Phan tích cảm xúc”.
Đối với bài toán “Phân tích cảm xúc” thì mỗi câu hoặc đoạn bình luận sẽ được gán nhãn theo 3 mức cảm xúc khác nhau là “tích cực”, “tiêu cực” hay “trung tính” hoặc theo 5 mức như thang điểm từ 1 đến 5. Còn với bài toán phân tích cảm xúc theo khía cạnh, tôi cần xác định ra các khía cạnh được đề cập trong bình luận và mỗi khía cạnh sẽ được gán một loại cảm xúc khác nhau. Và từ số lượng nhãn cảm xúc của một sản phẩm, tôi tính ra điểm số cho từng khía cạnh và điểm số cho tổng quan sản phẩm đó. Mô tả ví dụ đầu vào là câu bình luận của người dùng “Dt dùng ok, mượt ma, không nóng”, kết quả nhãn được nhắc đến trong bình luận này là PERFORMANCE#Positive, GENERAL#Positive.
Hay bình luận: “Camera chụp xấu, bị bể hình” và nhãn được đề cập đến là CAMERA#Negative. Qua quá trình tong kết số lượng c ic nhãn trên từng khía cạnh của m an phẩm, dau ra cuối cùng của tôi là điểm số của từng khía cạnh và điểm của mỗi sản phẩm. Đầu ra trong ví dụ dưới là khía cạnh PEREORMANCE đạt 9 điểm, khía cạnh GENERAL đạt 9 điểm, khía cạnh CAMERA chỉ 2 điểm và tổng điêm của sản phâm sẽ được tính dựa trên điểm của từng khía cạnh là 6. 10 Gi GENERAL:9 CAMERA:2 Hình 2-1 Mô tả bài toán AIReview 2.2 Nghiên cứu liên quan 2.1 Tình hình nghiên cứu trên thế giới Đã có rất nhiều bài nghiên cứu về phân tích cảm xúc dựa trên khía cạnh áp dụng những phương pháp khác nhau.
Trong đó, có các bài báo đưa ra kết quả chứng minh áp dụng phương pháp mới, cùng với thuật toán mới hay xây dựng mô hình mới có hiệu suất vượt trội đáng kể hơn so một loạt các phương pháp cơ sở khác. Theo đó, một số phương pháp cơ bản được cải tiền thêm phần mở rộng trong thuật toán, tác vụ nhằm cải thiện độ chính xác của mô hình được xây dựng cho bài toán phân tích cảm xúc dựa trên khía cạnh. Xây dựng bộ dữ liệu là một trong những bước quan trọng trong phân tích cảm xúc, tập dữ liệu chất lượng được gán nhãn và huấn luyện nhằm giúp mô hình máy học tăng khả năng dự đoán cao sẽ mang lại kết quả tốt trong các lĩnh vực liên quan. Vào năm 2014 SemEval [21] (SE-ABSA14) đã giới thiệu đến cộng đồng một mô hình phân tích cảm xúc dựa trên khía cạnh (ABSA), với mục tiêu là xác định các khía cạnh của đối tượng cụ thể nhất định và phân loại tình cảm đối với từng khía cạnh đó.
Đồng thời, SE-ABSA14 cung cắp hai tập dữ liệu dành riêng cho 2 lĩnh vực: máy tính xách tay và nhà hàng, bao gồm hơn 6000 câu đánh giá được gán nhãn thủ công. Tiếp nối thành công đó, SemEval ABSA năm 2015 [22] tiếp tục tập trung trong lĩnh vực máy tính xách tay và nhà hàng, nhưng bộ dữ liệu là toàn loạn văn bản đánh giá. Nhiệm vụ SemEval ABSA năm 2016 [23] đã nâng cấp bộ dữ liệu cho người tham gia ll trải nghiệm tinh năng mới, phân tích cảm xúc bằng các ngôn ngữ khác ngoài tiếng Anh trong các lĩnh vực máy tính xách tay, nhà hàng và khách sạn. Sự xuất hiện của bộ dữ liệu SemEval 2014 [21] đã hỗ trợ cho rất nhiều công trình nghiên cứu và áp dụng mô hình để phát triển nhiệm vụ phân loại cảm xúc theo khía cạnh.
Sun và các cộng sự [7] xây dựng một câu bổ trợ từ khía cạnh và chuyển đôi ABSA thành một nhiệm vụ phân loại theo cặp câu, chẳng hạn như trả lời câu hỏi (QA) và suy luận ngôn ngữ tự nhiên (NLI). Tác giả tinh chỉnh mô hình BERT và đạt được kết quả hiện đại vào thời điểm bài báo được công bó trên bộ dữ liệu SentiHood và SE-ABSAI4. Với SE-ABSAI4, công trình đạt được 92.18% Fl-score cho phát hiện khía cạnh. Với bộ dữ liệu SentiHood, công trình đạt được 87.90 % Fl-score cho phát hiện khía cạnh.
'Wang và các cộng sự [9] đề xuất sử dụng mô hình LSTM có chú ý để phân loại tình cảm ở cấp độ khía cạnh. Ý tưởng chính của những đề xuất này là học cách nhúng khía cạnh và dé các khía cạnh tham gia vào tính toán trọng số chú ý. Các mô hình được đề xuất của tập trung vào các phần khác nhau của một câu khi các khía cạnh khác nhau được đưa ra để chúng phù hợp hơn cho việc phân loại ở cấp độ khía cạnh. Nghiên cứu này được thực hiện trên dữ liệu SE-ABSA 14 và đã đạt được kết quả phân loại cảm xúc khía cạnh 84% accuracy, với nhiệm vụ phân loại cảm xúc cho các thuật ngữ khía cạnh (aspect term) mô hình đạt kết quả 77.20% trên dữ liệu nhà hàng và 68.90% accuracy trên dữ liệu laptop.
Một trong những phương pháp cơ bản của phân tích cảm xúc theo khía cạnh là dựa vào việc gắn thẻ thủ công lên các đánh giá của người dùng theo các khía cạnh được xác định trước thành dữ liệu đầu vào cho các mô hình mạng lưới thần kinh, tuy nhiên đây là một quá trình tốn nhiều thời gian và công sức. Hơn nữa, phương pháp này không trình bày cách thức và lý do tại sao một phân cực mức khía cạnh đối lập trong đánh giá của người dùng lại dẫn đến phân cực tổng thẻ. Để tìm ra câu trả lời, Qiang và các cộng sự [2] đã thiết kế và thực hiện một phương pháp mới, Mạng lưới Multiple-Attention (MAN), một mô hình phân tích cảm xúc theo khía cạnh vượt trội mà không cần thẻ khía cạnh, họ chỉ cần hai bộ dữ liệu không thể được lấy trực tiếp trên hệ thống. Trong khi đó, Ghadery và các cộng sự [17] đề xuất một phương pháp học không giám sát để giải quyết nhiệm vụ phát hiện danh mục khía cạnh mà không 12 cần bất kỳ kỹ thuật tính năng nào.
Phương pháp của họ sử dụng các cụm đánh giá không được gắn nhãn và thước đo độ tương đồng cosine mềm dé hoàn thành nhiệm vụ phát hiện danh mục khía cạnh. Sự đa dạng của các phương pháp áp dụng giúp cho việc phân tích cảm xúc dựa trên khía cạnh có nhiều sự lựa chọn môn hình phù hợp với yêu cầu của doanh nghiệp, người dùng, thé loại ngôn ngữ. Nhưng cũng không kém phan phức tạp, gây khó khăn cho những nhà phân tích, nghiên cứu tìm được câu trả lời cũng như kết quả mong muốn. Từ đó, xuất hiện những bài báo cáo đã hỗ trợ trong việc trình bày cơ chế của phương pháp, mô hình một cách cụ thể, đặc biệt họ còn cải tiến thêm từ phương pháp cơ bản nhằm đạt hiệu suất tốt một cách đáng kể.
Theo Yan và các cộng sự [16] cho rằng trong phân tích cảm xúc theo khía cạnh bao gồm bảy nhiệm vụ phụ. Hầu hết các nghiên cứu chỉ tập trung vào các tập hợp con trong những nhiệm vụ phụ, sẽ dẫn đến nhiều mô hình ABSA phức tạp gây khó khăn trong việc giải quyết các nhiệm vụ phụ trong khung thống nhất. Họ đã xác định lại mục tiêu của các nhiệm vụ phụ như các dãy số hỗn hợp bởi các chỉ số chỉ dẫn và chỉ số cảm xúc, là chuyên đổi các nhiệm vụ phụ của ABSA thành một công thức tổng hợp thống nhất. Dựa trên công thức thống nhất, họ khai thác mô hình BART nối tiếp trình tự đảo tạo trước để giải quyết tất cả các nhiệm vụ phụ của ABSA trong một khuôn khô end-to-end.
Các nghiên cứu trong nước Tiếng Việt là ngôn ngữ phong phú về từ vựng, ngữ cảnh và mang nhiều ý nghĩa, nhưng lại khan hiếm nguồn dữ liệu chuẩn có thể đa dạng hóa ngôn ngữ. Với sự phát triển vượt trội của E-commerce và Thương mại điện tử đã sinh ra một lượng lớn dữ liệu về ý kiến, đánh giá của khách hàng. Việc phân tích các dữ liệu đó sẽ mang lại lợi ích và góc nhìn cho doanh nghiệp hướng đến quyết định kinh doanh tốt hơn. Đồng thời xuất hiện các bài nghiên cứu xây dựng một mô hình phân tích cảm xúc dựa trên khía cạnh dành cho tiếng Việt, cũng như xây dựng bộ dữ liệu lớn dành cho nghiên cứu.
Góp phần cho nguồn tài nguyên nghiên cứu NLP trên tiếng Việt ngày càng phong phú và dồi dào hơn. Áp dụng kĩ thuật Deep Learning đạt được kết quả cao trong quá trình phân tích cảm xúc. Nguyễn và các cộng sự [18] đề xuất một phương pháp kết hợp mô hình 13 truyền thống và học sâu với 3 bộ dữ liệu chuân của Việt Nam. Kết quả thử nghiệm khẳng định những phương pháp này mang lại độ chính xác cao.