Chương 1.--e2:xccetreeetrreetrrertrtrrerrirrrtrtrtrrrerrrirrrrrirerre 2 BA, ca. Đối tượng và phạm vi nghiên cứu. Cac công trình nghiên cứu liên quan.c-ccsc5csccs+sreerveereereeerxerrerree 3 1. Thách thức của bài toán.
Hướng giải quyẾt.-c-rceeccerrrreeeerrrirerrerrrrirrrrtrrirrrrrrrrrirrrrerrrree 5 Chương 2. CO’ SỞ LÝ THUYẾT. Mô tả bài toán.sHHnHHHHHH HH HH 6 2. _ Nguồn gốc chủ thể (Source/Holder).
Biểu thức cực chứa cảm xúc (Expression/Polar_Expression). Phân loại cảm xúc dựa vào quan điểm(Polarity). Bai toán nhận diện cảm xúc của đối TƯỢNG. Mô hình ngôn ngữ máy hỌC.
Mô hình sentiment graph.-c-cxethhnHHHHHHHH 15 Chương 3. BO DU’ LIEU CHO BÀI TOÁN. Nguồn dit liệu và thu thập.-----c-e-++ceeccctrrreevvrrrrrerrrrrrrrrrrrrrrre 17 E “An Co can. Quy trình gan nhãn dữ liệu.
Người gan nhãn và yêu cầu gam nhãn. Hướng dẫn gam nhãn. Đánh giá đồng thuận. Phân tích dữ liệu.----c-cccxscestretrtertstrrtrtrtrrtrrtrrrrrrrirtkrrrrrrsrrrrrrkee 26 Chương 4.
THU’C NGHIEM QUA MÔ HÌNH NGÔN NGỮ. Mô hình ngôn ngtl wc eeesssssssecssesssesssesseessesesesssessseeseesseeseeseeesseeseeessessneeseeesseeseeesses 36 4. _ Kiến trúc mô hình. Kết quả, đánh giá phân tích.
_ Kết quả thực nghiệm. _ Phân tích kết quả. Phân tích lỗi và đánh giá.----ccieierireeerreeervverrrrrrrrre 43 Chương 5. KET LUẬN VÀ HƯỚNG PHÁT TRIỂN.
_ Kết quả, đóng góp của khóa luận. Hướng phát triỂn.e--:-eecccriieeeeeerriirreetrriirrertrriirrerrrrrre 49 DANH MỤC HÌNH Isf10108) 01017.2 Minh họa Target .--ss-csxs the rrierhirrree 8 Hình 2.3 Minh hoa EXT€SSIOH.4 Minh hoa POÏATIfy.---sss-csxsS kh grrrinrrieg 10 Hình 2.5 Minh họa về đồ thị.6 Đồ thị cảm xúc cau trúc head — first.7 Đồ thị cảm xúc cấu trúc Head — final.1 Quy trình gan nhãn dữ liệu .2 Hướng dan gam nhãn.---++cc222t++evvEEEErvvvEEEttrrrvrrrrrrrrvrrrrrrrerre 22 Hình 3.3 Kết quả bộ nhãn thiếu Source.4 Kết quả bộ nhãn đầy đủ đa cảm xúc.5 Kết quả bộ nhãn đa cảm xúc .7 Số lượng dữ liệu từng tp .8 Thống kê thực thé độc lập trên các tập đữ liệu.9 Thống kê số lượng cảm xúc phân cực trên các tập dữ liệu.10 Wordcloud của Source/ TaT€(.----sc-cssestktetrrkxerrrrktrrrkrrtrrkerrrrkierrriree 34 Hình 3.11 Wordcloud của EXT€SSIOT.1 Kiến trúc mô hình ngôn ngữ.--:+cccc+titreeEvEtrrrerrvrrrrrrrrrrrrrrerrre 36 DANH MỤC BANG Bảng 2.1 Minh hoa output và output của bài toán .1 Hướng dan gan nhãn dành cho người gắn .2 Độ đồng thuận của người gán .----ccs+eeceetrereerrrrrerrrrrerrre 26 Bảng 3.3 Ví dụ sự khác nhau của bộ dữ liệu UIT-VSMEC và dữ liệu được gán lại {rong bài fOÁ.«- xxx HH HH HH TH KH HH.4 Độ phân bồ thực thé và phân cực trên các tập dữ liệu.5 Ngữ liệu thống kê tiếng Việt trích từ bộ đữ liệu.6 Ngữ liệu thống kê tiếng Anh trích từ tập Open-ES.7 Bảng thống kê về khuyết chủ thé hoặc đối tượng.1 Giá trị thông số Graph từ Kurtz et al.2 Kết quả thực nghiệm (đo theo đơn vị %) .3 Ví dụ dự đoán lệch thực thé và thiếu thực thẻ.4 Ví dụ dự đoán nhằm thực thé Source và Target .5 Vi dụ về dat sai gốc (root) và nhầm lẫn giữa các cảm xúc. 46 TOM TAT KHÓA LUẬN Nghiên cứu này hướng đến nhận diện cảm xúc cho đối tượng là xác định đối tượng và nhận điện được mối liên hệ cảm xúc của đối tượng trong bình luận nhằm phát hiện những tác nhân nguồn gốc hay sự việc gây tác động đến cảm xúc của đối tượng. Nghiên cứu này tập trung vào phân tích những mối quan hệ “nguồn gốc tạo ra cảm xúc — đối tượng bị tác động đến cảm xúc”.
Do nghiên cứu nay rat quan trọng trong việc phân tích cảm xúc người dùng mạng xã hội nhằm mục đích đánh giá tạo giá trị đữ liệu vàng cho doanh nghiệp phát triển. Nghiên cứu nay đã giải quyết được van dé dữ liệu phục vụ cho nghiên cứu tiếng Việt được gán bởi các người chú thích có đủ kiến thức về Tiếng Việt và khả năng đọc hiểu ngôn ngữ mang xã hội. Ngoài ra, nghiên cứu còn mở rộng được van đề mối quan hệ giữa chủ thể nguồn (Source) và đối tượng (Target) khi tăng lượng kết nối lên đa quan hệ (nSource — nTarget) và giải quyết được mối liên kết đa quan hệ chứ không còn là mỗi quan hệ đơn, bên cạnh đó còn mở rộng ra đa cảm xúc chứ không chỉ là cảm xúc chung như truyền thống. Quá trình và nội dung nghiên cứu chính: Thu thập dữ liệu (UIT-VSMEC và dữ liệu mang xã hội) và tạo lập hướng dan gan nhãn dir liệu (Anotation Guideline).
Sau đó tính đồng thuận, gán nhãn, kiểm chứng chéo. Sau khi hoàn thành tập dữ liệu thì tiễn hành chia dữ liệu liệu thành ba tập: Train — Test — Valid. Rồi tiến hành phân tích so bộ trên các tập dữ liệu để so sánh tìm những điểm tương đồng hoặc khác nhau so với bộ dữ liệu tiếng Anh. Từ đó huấn luyện mô hình ngôn ngữ phù hợp và tinh chỉnh mô hình.
Kết quả tốt đạt được khi chạy mô hình VisoBERT và CafeBERT. Dat van dé Mô hình ngôn ngữ phat triển đến ngày hôm nay đã có sự phát triển vượt bậc khi ra đời nhiều mô hình ngôn ngữ lớn xử lí đa tác vụ. Nhưng tiếng Việt vẫn còn nhiều hạn chế, chưa khai phá hết vì tiếng Việt nhiều tiếng lóng và ý nghĩa cảm xúc ngữ điệu khác nhau. Việc phát hiện vấn đề cảm xúc trong bình luận không còn xa lạ với mô hình ngôn ngữ lớn, tuy nhiên mô hình ngôn ngữ lớn vẫn còn hạn chế trong việc phân tích cảm xúc theo đối tượng trong câu [1] [2].
Nhận dạng cảm xúc theo đối tượng là vấn đề liên quan đến phân tích bình luận đa cảm xúc trong một câu hoặc nhiều câu. Vấn đề phát hiện ra nhiều thực thê đối tượng và các mối quan hệ cảm xúc giữa các đối tượng trong cùng một câu nói của người bình luận trong phi ngữ cảnh khá phức tạp và cần phương pháp điều chỉnh phù hợp dé có thé cải thiện được hiệu suất của dit liệu. Do đó trong nghiên cứu này đã sử dụng biểu thức đồ thị phụ thuộc giữa các đối tượng trong cùng một bộ cấu trúc để tăng chính xác nhờ vào các mô hình ngôn ngữ nhúng vào ngữ cảnh để tăng cường độ hiệu quả. Nhận dạng cảm xúc theo đối tượng không chỉ là tìm hiểu xem cảm xúc của từng đối tượng mà còn xem nguồn góc chủ thê bày tỏ và việc kết nối những cảm xúc với chủ thé hay kết nối cảm xúc đến đối tượng sẽ tạo nên một mối quan hệ ý kiến giúp cho việc khai thác ý kiên quan điêm người dùng mạng xã hội chính xác và có giá trị.
Đối tượng và phạm vi nghiên cứu Xây dựng bộ dữ liệu phân tích cảm xúc của bình luận theo cấu trúc cho tiếng Việt. Đánh giá đồng thuận và điều chỉnh hướng dẫn gán nhãn cho phù hợp với người gán. Dữ liệu được tái sử dụng va gan nhãn lại toàn bộ từ bộ dữ liệu UIT-VSMEC. Bên cạnh đó thu thập dữ liệu từ trang mạng xã hội Facebook và Youtube.
Mô hình nghiên cứu: Thực nghiệm trên mô hình BERT, PhoBERT, XLM-R, VIsoBERT, CafeBERT. So sánh và đánh giá độ chính xác, tìm nguyên nhân gây sai khi dự đoán và tinh chỉnh mô hình. Các công trình nghiên cứu liên quan Phân tích cảm xúc có cấu trúc bao gồm các tác vụ trích xuất biểu thức của cảm xúc, trích xuất đối tượng cảm xúc, trích xuất nguồn gốc cảm xúc, xác định mối quan hệ giữa các yếu tố, phân loại cảm xúc. Các nghiên cứu quốc tế: Structured Sentiment Analysis as Dependency Graph Parsing [1]: trước đây đã giải quyết bài toán phân tích cảm xúc theo biểu đồ phụ thuộc bang các ngôn ngữ chính là tiếng Anh (DS_ Unit, MPQA) , tiếng Na Uy (NoReCFine), tiếng Catalan (MutilBookedCA), tiếng Basque (MultiBookedEU).
Nghiên cứu cũng chỉ ra rằng sử dụng biểu đồ cảm xúc giúp xác định được mối quan hệ giữa các thành phần thực thể và dễ dàng phân loại cảm xúc, rất phù hợp với bài toán nhận diện cảm xúc theo thực thể. Structured Sentiment Analysis [2]: Trước đó đã giải quyết tương tự được van dé phân tích cảm xúc theo đồ thị phụ thuộc bằng 6 ngôn ngữ là ngôn ngữ tiếng Anh (DS_Unit, MPQA, OpeNER_EU), tiếng Tây Ban Nha (OpeNER_ES), tiếng Na Uy (NoReCFine), tiếng Catalan (MutilBookedCA), tiếng Basque (MultiBookedEU). Nghiên cứu chủ yếu sử dung nhiều ngôn ngữ dé tạo nên tinh đặc trưng từng bộ ngôn ngữ và tim ra mô hình tốt nhất dé chạy trên mô hình đa ngôn ngữ từ nhiều đội thi, từ nghiên cứu này có thê cải thiện hiệu suât mô hình từ nhiêu baseline khác nhau. A Fine-grained Sentiment Dataset for Norwegian [3]: Nghiên cứu nay là phat triển bộ đữ liệu phân loại tinh cảm chi tiết bằng tiếng Na Uy và được chú thích bằng các biểu thức cảm xúc, đối tượng, chủ thể và phân loại cảm xúc.
Nguồn dữ liệu được lấy từ các đánh giá từ các tin tức trên nhiều lĩnh vực khác nhau như trò chơi, âm nhạc, văn học, phim ảnh,. Nghiên cứu nảy cung câp chú thích gán nhãn và báo cáo các thử nghiệm trên tập dir liệu làm tiên đê cho các dữ liệu nghiên cứu sau nay. Nghiên cứu này tương tự với nghiên cứu trong Khóa luận này vì vậy có kê thừa một phan về chi tiết xây dựng chú thích gan nhãn. MultiBooked: A Corpus of Basque and Catalan Hotel Reviews Annotated for Aspect-level Sentiment Classification [4]: Đây là nghiên cứu về xây dựng dt liệu phân loại khía cạnh cảm xúc được xây dựng bằng 2 ngôn ngữ là tiếng Basque và Catalan.
Nghiên cứu cung cấp những chú thích và cách tính đồng thuận chỉ tiết giúp cho các bộ dữ liệu khác có thể kế thừa và xây dựng phục vụ cho nghiên cứu tình cảm chỉ tiết. Nghiên cứu này cũng chú thích các cảm xúc, đối tượng và chủ thé, do đó có thé xem nghiên cứu nay là nên tang cho việc nghiên cứu hướng dẫn gan nhãn. Các nghiên cứu trong nước: Emotion recognition for vietnamese social media text [5]: Nghiên cứu này đã giải quyết vẫn đề phân loại cảm xúc ở các bình luận mạng xã hội đã mang hiệu quả và độ chính xác khá cao ở bộ đữ liệu UIT-VSMEC. Nghiên cứu này cung cấp các tác vụ xử lí cho bài toán phân loại cảm xúc với độ chính xác khá cao.
Bên cạnh đó còn cung cấp hướng dẫn quy trình gán nhãn chỉ tiết, phù hợp để nghiên cứu cho quá trình gán nhãn. Span Detection for Aspect-Based Sentiment Analysis in Vietnamese [6]: Trong bai toán này tập trung vào việc nhận diện các đoạn văn ban tương ứng với các khía cạnh cụ thể và phân loại cảm xúc liên quan. Dữ liệu thường là các đánh giá sản phẩm, dịch vụ từ người dùng. Bai toán giải quyết việc xác định chính xác các khía cạnh và cảm xúc trong văn bản, giúp hiểu rõ hơn ý kiến của người dùng.
Bài toán cung cấp hướng dẫn gan nhãn và các quy trình gan nhãn chi tiết, phù hợp dé nghiên cứu cho bài toán nhận diện cảm xúc. A corpus for aspect-based sentiment analysis in Vietnamese [7]: Bài toán nay tập trung vào việc thu thập va gán nhãn các đánh giá sản phẩm, dich vụ từ người dùng.