Tổng quan luận án

Sự bùng nổ của mạng toàn cầu Web 2.0 đã thúc đẩy sự gia tăng của khối lượng dữ liệu số do người dùng tạo ra trên các trang mạng xã hội, diễn đàn và hệ thống thương mại điện tử. Theo các số liệu được trích dẫn trong luận án, đến năm 2020 khối lượng dữ liệu toàn cầu đạt 50 ngàn tỉ GB; mỗi ngày Facebook sản sinh 4×10¹⁵ byte dữ liệu mới và 500 triệu thông điệp được gửi qua Twitter. Trên nền tảng du lịch TripAdvisor, tính đến tháng 7/2019 đã có hơn 760 triệu nhận xét cho hơn 8 triệu thực thể dịch vụ. Khảo sát của PowerReviews (2018) trên 1.000 người tiêu dùng tại Hoa Kỳ chỉ ra rằng 97% người dùng tham khảo nhận xét trước khi mua hàng, 85% chủ động tìm kiếm các đánh giá tiêu cực, và hơn một phần ba người mua từ chối sản phẩm chưa có phản hồi. Tuy nhiên, khối lượng thông tin khổng lồ và tính phi cấu trúc của dữ liệu ý kiến khiến hơn 50% người tiêu dùng trực tuyến cảm thấy bối rối khi tiếp cận; khảo sát năm 2012 của Michael trên Social Media Examiner cũng ghi nhận 75% trong số 2.100 tổ chức không nắm bắt rõ giá trị kỳ vọng của khách hàng.

Khoảng trống nghiên cứu được luận án chỉ ra là các hệ thống phân tích cảm xúc (Sentiment Analysis) hiện hữu cho tiếng Việt có hiệu năng chưa cao do bản chất phức tạp của ngôn ngữ tự nhiên. Cụ thể, các mô hình phân tích gặp khó khăn khi xử lý các hiện tượng dịch chuyển cảm xúc theo ngữ cảnh (Contextual Valence Shifting) như phủ định, quán ngữ tương phản, động từ khiếm khuyết, từ chỉ thang độ và các câu mang ý kiến hỗn hợp. Nguồn tài nguyên từ vựng cảm xúc chuẩn hóa cho tiếng Việt còn hạn chế về số lượng và chưa phản ánh đầy đủ đặc trưng ngữ pháp tiếng Việt.

Luận án xác định hai câu hỏi nghiên cứu:

  1. Làm thế nào để xác định được giá trị cảm xúc của một từ và cụm từ mang sắc thái tình cảm trong các văn bản nhận xét tiếng Việt?
  2. Làm thế nào để phân lớp cảm xúc một cách hiệu quả các ý kiến nhận xét tiếng Việt trong một số lượng lớn các đánh giá về sản phẩm và dịch vụ?

Để trả lời hai câu hỏi trên, luận án đặt ra hai mục tiêu nghiên cứu cụ thể:

  • Mục tiêu 1: Xây dựng từ điển cảm xúc tiếng Việt (VNSD - Vietnamese Sentiment Dictionary) phục vụ phân tích cảm xúc mức từ, cụm từ và mức khía cạnh thông qua việc kết hợp từ điển SentiWordNet, công cụ dịch Vdict.com, phương pháp Hồi quy Logistic (Logistic Regression) và hệ quy tắc mờ (Fuzzy Logic) thích ứng với đặc trưng cú pháp tiếng Việt.
  • Mục tiêu 2: Xây dựng mô hình học tổ hợp (Classifier Ensemble Model - CEM) kết hợp phương pháp định hướng ngữ nghĩa, kỹ thuật học máy truyền thống và mạng học sâu (Deep Learning) tích hợp cơ chế tập trung (Attention Mechanism) để phân lớp cảm xúc nhị phân ở mức văn bản.

Đối tượng nghiên cứu của luận án là các hiện tượng ngôn ngữ gây chuyển dịch cảm xúc và các phương pháp biểu diễn ngữ nghĩa, phân lớp ý kiến trong văn bản tiếng Việt. Phạm vi nghiên cứu tập trung vào ngữ liệu nhận xét tiếng Việt thuộc ba lĩnh vực: dịch vụ khách sạn (nguồn mytour.vn, agoda.com, bộ dữ liệu HOTEL-Reviews), ẩm thực (nguồn foody.vn, bộ dữ liệu FOODY-Reviews), và đánh giá môn học của sinh viên đại học (bộ dữ liệu UIT-VSFC và cơ sở dữ liệu sinh viên). Đối với phân lớp mức văn bản, luận án giới hạn ở tác vụ phân loại nhị phân (tích cực hoặc tiêu cực).

Tổng quan tài liệu và vị trí của luận án

Luận án hệ thống hóa các hướng tiếp cận chính trong phân tích cảm xúc từ năm 2001 đến nay, phân thành ba nhóm phương pháp:

Hướng tiếp cận Tác giả, công trình tiêu biểu Phương pháp và dữ liệu sử dụng
Hướng ngữ nghĩa dựa trên kho ngữ liệu Hatzivassiloglou và McKeown (1997) [14]; Turney (2001) [1]; Turney và Littman (2003) [16]; Rice và Zorn (2002) [22]; Ding và cộng sự (2008) [21]. Dự đoán cực tính tính từ qua liên từ trong kho 21 triệu từ (đạt độ chính xác 82%); tính điểm tương hỗ PMI trên công cụ tìm kiếm AltaVista với 2 từ hạt giống excellent và poor (sau mở rộng lên 14 từ); thử nghiệm trên bộ Cornell Movie Review (đạt 72,5%).
Hướng ngữ nghĩa dựa trên từ điển Hu và Liu (2004) [15]; Valitutti và cộng sự (2004) [24]; Kamps và cộng sự (2004) [26]; Kim và Hovy (2004) [25]; Esuli và Sebastiani (2005) [11]; Baccianella và cộng sự (2010) [4]; Ohana và Tierney (2009) [31]; Jain và Pandey (2013) [32]. Mở rộng tập từ hạt giống qua WordNet bằng quan hệ đồng nghĩa/trái nghĩa; gán nhãn A-Labels; đo khoảng cách đồ thị WordNet trong đoạn [-1, 1]; phân loại định nghĩa (gloss); SentiWordNet 3.0 dùng thuật toán Random Walk gán bộ ba Pos(s), Neg(s), Obj(s) (độ chính xác 65,85% trên review phim và 69,1% ở mức câu).
Tiếp cận theo học máy và học sâu Pang và cộng sự (2002) [23]; Go và cộng sự (2009) [48]; Pak và Paroubek (2010) [49]; Lin và cộng sự (2011) [51]; Dhande và Patnaik (2014) [52]; Zhou và cộng sự (2016) [56]; Yin và cộng sự (2017) [55]; Ying và cộng sự (2017) [58]. So sánh Naïve Bayes (81,0%), SVM (82,9%), Maximum Entropy (80,4%) với đặc trưng unigram; phân tích Twitter đạt 82,2% với SVM; phân loại 4 miền hàng hóa (đạt 88% trên thiết bị nhà bếp); kết hợp Mạng nơ-ron và Naïve Bayes đạt 80,65%; ứng dụng LSTM phân cấp và Attention.
Tiếp cận lai (Ngữ nghĩa - Học máy) Khan và Bashir (2017) [60]; Chikersal và cộng sự (2015) [61]; Adrian và cộng sự (2013) [62]; Filho và cộng sự (2013) [63]. Tích hợp từ điển cảm xúc (SentiWordNet, Liu lexicon) với thuật toán phân lớp có giám sát trên dữ liệu SemEval và Twitter.
Nghiên cứu tiếng Việt Vũ và cộng sự [64]; Nguyễn và cộng sự [65]; Trịnh và cộng sự [66]. Xây dựng SentiWordNet tiếng Việt (~1.000 từ); xây dựng từ điển cho miền sản phẩm bằng dịch máy và thống kê; xây dựng 5 từ điển nhánh nhưng tính điểm cụm từ dựa hoàn toàn vào công thức tiếng Anh.

Khoảng trống nghiên cứu được luận án xác định và tập trung giải quyết bao gồm:

  1. Các từ điển cảm xúc tiếng Việt hiện có có dung lượng từ vựng hạn chế, phụ thuộc vào miền ứng dụng hẹp, hoặc áp dụng trực tiếp các quy tắc tính điểm cụm từ của tiếng Anh mà chưa tính đến đặc trưng ngữ pháp của phó từ chỉ mức độ và cấu trúc cú pháp của cụm danh từ, tính từ, động từ tiếng Việt.
  2. Phương pháp học máy đơn lẻ không thể nắm bắt đầy đủ các trường hợp dịch chuyển cảm xúc do ngữ cảnh (phủ định, khiếm khuyết, đối lập, câu tường thuật, câu không đồng nhất).
  3. Thiếu một mô hình học tổ hợp đa tầng có khả năng kết hợp đồng thời các đặc trưng bề mặt rút trích theo phương pháp ngữ nghĩa và các biểu diễn đặc trưng tiềm ẩn từ mô hình học sâu có cơ chế tập trung.

Cơ sở lý thuyết và phương pháp nghiên cứu

Luận án dựa trên các cơ sở lý thuyết và khung phân tích sau:

  • Định nghĩa quan điểm theo Bing Liu (2012): Một ý kiến được mô hình hóa bằng bộ 5 thành phần $(e_i, a_{ij}, h_k, t_l, s_{ijkl})$, trong đó $e_i$ là thực thể, $a_{ij}$ là khía cạnh của thực thể, $h_k$ là chủ thể phát biểu, $t_l$ là thời điểm phát biểu, và $s_{ijkl}$ là giá trị/hướng cảm xúc.
  • Thuyết tập mờ và biến ngôn ngữ của Zadeh (1965, 1975): Ứng dụng để mô hình hóa sự thay đổi cường độ và sắc thái của từ mang cảm xúc khi kết hợp với các phó từ chỉ thang độ trong tiếng Việt.
  • Mô hình Hồi quy Tuyến tính và Hồi quy Logistic (David Cox, 1958): Sử dụng hàm truyền Sigmoid $f(x) = \frac{1}{1 + e^{-x}}$ hoặc Tanh $f(x) = \frac{e^x - e^{-x}}{e^x + e^{-x}}$, tối ưu hóa bằng thuật toán giảm độ dốc (Gradient Descent) để ước lượng trọng số đóng góp của từng từ vào nhãn phân lớp.
  • Lý thuyết văn phạm phụ thuộc (Dependency Grammar) và Văn phạm mệnh đề xác định (Definite Clause Grammar - DCG): Khai thác các mối quan hệ cú pháp giữa các từ (danh từ - động từ, danh từ - tính từ, động từ - tính từ, động từ - động từ) nhằm rút trích đồng thời cặp khía cạnh và từ cảm xúc.
  • Mô hình nhúng từ và học sâu: Ứng dụng không gian vector từ Word2Vec (Mikolov và cộng sự, 2013), mạng bộ nhớ dài-ngắn hai chiều (BiLSTM) và cơ chế tập trung (Attention Mechanism).

Phương pháp nghiên cứu kết hợp giữa phân tích ngôn ngữ học định tính và thực nghiệm tính toán định lượng:

  • Định tính: Khảo sát và phân loại các trường hợp chuyển dịch trị cảm xúc trong tiếng Việt, bao gồm 6 hiện tượng chính:
    1. Phủ định: Các từ như "không", "chẳng", "chả", "chẳng khi nào" làm đảo cực tính từ đi kèm (ngoại trừ cấu trúc liên kết "chẳng những... mà còn...").
    2. Động từ khiếm khuyết: Các từ thể hiện nghĩa vụ, đề xuất như "nên", "cần", "phải" làm thay đổi hướng cảm xúc của câu so với hành động thực tế (ví dụ: "Trường nên giảm học phí").
    3. Từ tăng cường và giảm nhẹ: Các phó từ làm thay đổi cường độ cảm xúc theo thang độ mờ (ví dụ: "rất", "khá", "hơi", "quá").
    4. Hiện tượng tương phản: Các liên từ đối lập như "nhưng", "tuy nhiên", "mặc dù" làm dịch chuyển trọng tâm cảm xúc sang một vế câu nhất định.
    5. Cảm xúc trong câu tường thuật: Phân biệt cảm xúc của người viết và ý kiến của bên thứ ba được trích dẫn (ví dụ: "Cô ấy nói rằng xe đó rất tệ").
    6. Hiện tượng không đồng nhất/không tương thích: Các câu mở đầu bằng chuỗi từ tích cực nhưng kết thúc bằng một từ tiêu cực làm đảo ngược toàn bộ ý nghĩa của đoạn văn.
  • Định lượng:
    • Thu thập và tiền xử lý kho ngữ liệu gồm 14.618 nhận xét từ mytour.vn và foody.vn.
    • Gán nhãn thủ công bởi hai chuyên gia, thu được 10.420 nhận xét tích cực và 4.198 nhận xét tiêu cực.
    • Biểu diễn văn bản bằng mô hình túi từ (Bag-of-Words) kết hợp trọng số TF-IDF:

$$\text{TF-IDF}(t, d) = \frac{\text{tf}(t, d)}{\sum_k \text{tf}(t_k, d)} \times \log\left(\frac{n}{\text{df}(t)}\right)$$

  • Xây dựng giải thuật tối ưu hóa sai khác giữa trị cảm xúc tra cứu từ SentiWordNet ($w_i$) và trọng số huấn luyện từ Hồi quy Logistic ($w_{LR}$): chọn $w_{\text{final}} = w_i$ sao cho $|w_i - w_{LR}|$ đạt giá trị nhỏ nhất.

Nội dung chính theo từng chương

Chương 1: Giới thiệu

Chương 1 thiết lập cơ sở thực tiễn và tính cấp thiết của đề tài trong bối cảnh dữ liệu ý kiến người dùng gia tăng nhanh chóng trên môi trường số. Tác giả phân tích các số liệu thống kê về hành vi người tiêu dùng từ báo cáo của PowerReviews và khảo sát của Pew Internet, chỉ ra rằng việc nắm bắt cảm xúc người dùng đóng vai trò quyết định trong việc ra quyết định mua hàng của cá nhân cũng như định hướng kinh doanh của doanh nghiệp. Chương này xác định mục đích, phạm vi, 2 câu hỏi nghiên cứu, 2 mục tiêu chính, 2 đóng góp học thuật của luận án, và cấu trúc tổng thể gồm 6 chương.

Chương 2: Phân tích cảm xúc và sự dịch chuyển cảm xúc

Chương 2 trình bày tổng quan lý thuyết về bài toán phân tích quan điểm, kiến trúc tổng quát của một hệ thống phân tích cảm xúc (tiền xử lý, phân tích văn bản, đánh giá trọng số cảm xúc), và định nghĩa 5 thành phần của Liu (2012). Tác giả phân tích sâu hai hướng tiếp cận chính:

  1. Tiếp cận theo định hướng ngữ nghĩa (Semantic Orientation): Khảo sát phương pháp dựa trên kho ngữ liệu (phương pháp PMI của Turney, các mẫu nhãn từ loại POS 2 từ) và phương pháp dựa trên từ điển (WordNet, nhãn A-Labels của Valitutti, SentiWordNet 3.0 với thuật toán Random Walk).
  2. Tiếp cận theo học máy: Khảo sát các kỹ thuật trích chọn đặc trưng (unigram, n-gram, nhãn từ loại POS, văn phạm phụ thuộc, từ phủ định) và các thuật toán phân lớp (Naïve Bayes, SVM, Maximum Entropy, Mạng nơ-ron).

Chương này đi sâu phân tích hiện tượng dịch chuyển cảm xúc theo ngữ cảnh trong tiếng Việt thông qua 6 trường hợp ngôn ngữ học cụ thể và chỉ ra khoảng trống nghiên cứu làm tiền đề cho các đóng góp ở chương tiếp theo.

+-----------------------------------------------------------------------------------+
|               HIỆN TƯỢNG DỊCH CHUYỂN CẢM XÚC TRONG TIẾNG VIỆT                     |
+------------------------------------+----------------------------------------------+
| Hiện tượng ngôn ngữ                | Ví dụ minh họa trong luận án                 |
+------------------------------------+----------------------------------------------+
| 1. Phủ định                        | "Cô ấy không thích cái laptop này"           |
| 2. Động từ khiếm khuyết            | "Trường nên giảm học phí"                    |
| 3. Từ tăng cường / giảm nhẹ        | "khá chăm chỉ" < "chăm chỉ" < "rất chăm chỉ" |
| 4. Hiện tượng tương phản           | "Cái laptop này thì đẹp nhưng giá quá đắt"   |
| 5. Câu tường thuật                 | "Cô ấy nói rằng xe đó rất tệ"                |
| 6. Hiện tượng không tương thích    | Chuỗi khen ngợi + "...ai ngờ lại rất chuối!" |
+------------------------------------+----------------------------------------------+

Chương 3: Xác định sự dịch chuyển trị cảm xúc của từ và cụm từ

Chương 3 trình bày quy trình xây dựng từ điển cảm xúc tiếng Việt VNSD (Vietnamese Sentiment Dictionary). Quy trình xác định trị cảm xúc lõi của từ được thực hiện qua các giai đoạn:

  1. Chuyển ngữ các từ mang cảm xúc tiếng Anh từ SentiWordNet sang tiếng Việt thông qua từ điển Vdict.com.
  2. Gán giá trị cảm xúc ban đầu dựa trên điểm số tương ứng trong SentiWordNet.
  3. Huấn luyện mô hình Hồi quy Logistic trên tập 14.618 nhận xét tiếng Việt (10.420 tích cực, 4.198 tiêu cực) đã được gán nhãn thủ công và biểu diễn bằng TF-IDF để thu được trọng số hồi quy $w_{LR}$ cho từng từ.
  4. Lựa chọn giá trị cảm xúc cuối cùng $w_{\text{final}}$ từ tập các nghĩa chuyển ngữ sao cho khoảng cách $|w_i - w_{LR}|$ đạt giá trị cực tiểu.

Đối với việc tính toán trị cảm xúc của cụm từ, luận án áp dụng lý thuyết biến ngôn ngữ mờ của Zadeh, phân loại các phó từ tiếng Việt thành các thang độ mờ (Tag) tương ứng để điều chỉnh điểm số cảm xúc của cụm tính từ và cụm động từ. Kết quả xây dựng được từ điển VNSD gồm khoảng 5.000 động từ, 300 danh từ và hơn 200 trạng từ tiếng Việt mang điểm số cảm xúc chuẩn hóa.

Chương 4: Phát hiện khía cạnh và trị cảm xúc trong các nhận xét tiếng Việt

Chương 4 tập trung giải quyết bài toán phân tích cảm xúc mức khía cạnh (Aspect-Based Sentiment Analysis - ABSA). Tác giả đề xuất mô hình tích hợp ba thành phần: từ điển cảm xúc VNSD, ontology phân cấp và tập luật rút trích cú pháp.

Nội dung triển khai bao gồm:

  • Xây dựng tập luật rút trích đồng thời khía cạnh và từ cảm xúc dựa trên văn phạm phụ thuộc (Dependency Grammar), khai thác các mối quan hệ: Chủ ngữ (SUB), Bổ nghĩa cho danh từ (NMOD), Bổ nghĩa cho tính từ (AMOD), Bổ nghĩa cho động từ (VMOD), Tân ngữ trực tiếp (DOB), Liên từ kết hợp (CONJ, COORD).
  • Xây dựng cơ sở tri thức Ontology tổ chức theo cấu trúc cây phân cấp cho hai miền: Ontology trường đại học (gom nhóm các khía cạnh về giảng viên, cơ sở vật chất, học phí...) và Ontology khách sạn (gom nhóm các khía cạnh về phòng ốc, dịch vụ, giá cả, vị trí...).
  • Phát triển hệ thống ứng dụng tra cứu thông tin nhận xét khách sạn bằng ngôn ngữ tự nhiên tiếng Việt: Chuyển đổi cây biểu diễn ngữ nghĩa của câu truy vấn người dùng thành câu lệnh SQL tương ứng (ánh xạ 1:1) để truy vấn dữ liệu từ cơ sở dữ liệu nhận xét khách sạn.

Chương 5: Đề xuất phương pháp học tổ hợp cho phân lớp cảm xúc các nhận xét tiếng Việt

Chương 5 đề xuất mô hình học tổ hợp CEM (Classifier Ensemble Model) cho bài toán phân lớp cảm xúc mức văn bản. Mô hình kết hợp nhiều bộ học thành phần được huấn luyện trên các không gian đặc trưng đa dạng:

  • Nhóm đặc trưng bề mặt: Túi từ (Bag-of-Words), TF-IDF, n-gram, nhãn từ loại (POS), thông tin từ phủ định và từ liên kết tương phản.
  • Nhóm đặc trưng sâu tiềm ẩn: Vector nhúng từ Word2Vec (Mikolov và cộng sự, 2013).
  • Bộ học phân lớp Meta Classifier kết hợp trọng số tuyến tính WLLR: Mô hình CEM(6C-WLLR).
  • Mở rộng mô hình học tổ hợp hướng ngữ cảnh: Tích hợp bộ học thành phần sử dụng mạng học sâu BiLSTM kết hợp cơ chế tập trung (Attention Mechanism), cho phép mô hình tự động gán trọng số lớn hơn cho các từ mang tải trọng cảm xúc chủ đạo trong câu.

Luận án thực hiện thực nghiệm đánh giá mô hình trên ba bộ dữ liệu tiếng Việt (HOTEL-Reviews, UIT-VSFC, FOODY-Reviews) và bốn bộ dữ liệu tiếng Anh chuẩn đa miền (Electronics, DVD, Books, Kitchen).

Chương 6: Kết luận

Chương 6 tổng kết các kết quả đạt được của luận án, khẳng định việc khai thác hiện tượng dịch chuyển cảm xúc và kết hợp phương pháp định hướng ngữ nghĩa với học sâu, học tổ hợp giúp nâng cao hiệu năng phân lớp cảm xúc tiếng Việt. Tác giả cũng chỉ ra các giới hạn hiện tại và đề xuất các định hướng nghiên cứu tiếp theo.

Kết quả và những đóng góp mới

Đóng góp về lý luận và phương pháp

  1. Xây dựng phương pháp tính toán trị cảm xúc cho từ và cụm từ tiếng Việt dựa trên việc kết hợp từ điển SentiWordNet, Hồi quy Logistic và giải thuật làm mịn mờ (Fuzzy Logic). Luận án đã điều chỉnh các hàm mờ thích ứng với cấu trúc ngữ pháp và trật tự cú pháp của phó từ chỉ thang độ trong tiếng Việt.
  2. Đề xuất kiến trúc học tổ hợp đa tầng CEM(6C-WLLR) kết hợp các bộ phân lớp học trên đặc trưng bề mặt (ngữ pháp, từ vựng, hiện tượng dịch chuyển cảm xúc) với các bộ phân lớp học sâu (BiLSTM tích hợp Attention Mechanism) trên không gian đặc trưng nhúng từ Word2Vec.
  3. Đề xuất khung trích xuất khía cạnh và cảm xúc đồng thời dựa trên các luật văn phạm phụ thuộc kết hợp ontology phân cấp miền, cho phép ánh xạ ngữ nghĩa trực tiếp từ câu hỏi tự nhiên sang câu lệnh SQL.

Đóng góp về thực tiễn và dữ liệu

  • Xây dựng từ điển cảm xúc tiếng Việt VNSD với khoảng 5.000 động từ, 300 danh từ và hơn 200 trạng từ được gán trọng số phân cực.
  • Xây dựng kho ngữ liệu nhận xét tiếng Việt gồm 14.618 mẫu được tiền xử lý và gán nhãn thủ công (10.420 nhãn tích cực, 4.198 nhãn tiêu cực).
  • Xây dựng hai Ontology miền ứng dụng (khách sạn và trường đại học) và hoàn thiện phần mềm thử nghiệm tra cứu thông tin nhận xét khách sạn bằng tiếng Việt tự nhiên.
  • Đạt kết quả thực nghiệm ổn định trên các tập dữ liệu tiếng Việt (HOTEL-Reviews, UIT-VSFC, FOODY-Reviews) và kiểm chứng tính tổng quát trên 4 tập dữ liệu tiếng Anh (Electronics, DVD, Books, Kitchen).

Kiến nghị và giải pháp đề xuất

  • Ứng dụng mô hình học tổ hợp và từ điển VNSD vào các hệ thống quản trị quan hệ khách hàng (CRM), hệ thống tự động theo dõi danh tiếng thương hiệu trên mạng xã hội và sàn thương mại điện tử.
  • Mở rộng ứng dụng cơ chế trích xuất khía cạnh dựa trên ontology vào các bài toán hỏi đáp tự động (QA) và trợ lý ảo hỗ trợ tìm kiếm dịch vụ bằng tiếng Việt.

Hạn chế và hướng nghiên cứu tiếp

Hạn chế

  • Luận án mới chỉ tập trung xử lý bài toán phân lớp cảm xúc mức văn bản ở dạng nhị phân (tích cực hoặc tiêu cực), chưa xử lý phân lớp đa mức cảm xúc (ví dụ: thang đo 5 mức hoặc thang điểm từ 1 đến 5 sao).
  • Dữ liệu thực nghiệm tiếng Việt chủ yếu giới hạn trong ba lĩnh vực: dịch vụ khách sạn, ẩm thực và phản hồi của sinh viên đại học.
  • Hệ thống luật rút trích khía cạnh dựa trên văn phạm phụ thuộc và ontology vẫn phụ thuộc vào việc xây dựng thủ công các cấu trúc tri thức cho từng miền cụ thể.

Hướng nghiên cứu tiếp

  • Mở rộng quy mô từ điển cảm xúc VNSD và tự động hóa quá trình xây dựng ontology cho nhiều lĩnh vực dịch vụ và sản phẩm khác.
  • Nghiên cứu mô hình phân lớp cảm xúc đa nhãn và đa mức thang đo chi tiết cho tiếng Việt.
  • Khai thác các mô hình ngôn ngữ lớn dựa trên kiến trúc Transformer hai chiều (như BERT) kết hợp sâu hơn vào mô hình tổ hợp để nâng cao khả năng nắm bắt ngữ cảnh phức tạp và hiện tượng mỉa mai (sarcasm) trong văn bản tiếng Việt.

Giá trị tham khảo

Luận án là tài liệu tham khảo trong các lĩnh vực:

  • Đối với nghiên cứu sinh, học viên cao học và giảng viên chuyên ngành Khoa học máy tính, Xử lý ngôn ngữ tự nhiên (NLP) và Trí tuệ nhân tạo:
    • Chương 2 và Chương 3 cung cấp cơ sở phương pháp luận chi tiết về việc xây dựng tài nguyên từ điển cảm xúc cho ngôn ngữ đơn lập (tiếng Việt) bằng cách kết hợp học máy hồi quy và lý thuyết mờ.
    • Chương 5 cung cấp kiến trúc mô hình học tổ hợp (Ensemble Learning) kết hợp mạng BiLSTM và cơ chế Attention Mechanism.
  • Đối với các kỹ sư phát triển phần mềm và doanh nghiệp công nghệ:
    • Chương 4 cung cấp giải pháp kỹ thuật xây dựng ứng dụng tra cứu thông tin nhận xét dựa trên Ontology và bộ phân tích cú pháp DCG ánh xạ sang cơ sở dữ liệu quan hệ SQL.
  • Đối với các nhà quản lý và doanh nghiệp dịch vụ:
    • Phương pháp phân tích mức khía cạnh giúp tự động phân loại điểm mạnh, điểm yếu của sản phẩm/dịch vụ từ phản hồi của khách hàng trên các nền tảng trực tuyến.

Câu hỏi thường gặp

1. Luận án giải quyết những hiện tượng ngôn ngữ nào gây dịch chuyển cảm xúc trong tiếng Việt?

Luận án chỉ ra và xử lý 6 hiện tượng ngôn ngữ học chính:

  1. Phủ định (từ phủ định "không", "chẳng", "chả" làm đảo cực tính từ đi kèm).
  2. Động từ khiếm khuyết ("nên", "cần", "phải" làm thay đổi giá trị cảm xúc của câu thành hàm ý tiêu cực hoặc yêu cầu chỉnh sửa).
  3. Từ tăng cường và giảm nhẹ (phó từ "rất", "khá", "hơi", "quá" làm thay đổi cường độ cảm xúc theo thang đo mờ).
  4. Hiện tượng tương phản (liên từ "nhưng", "tuy nhiên", "mặc dù" chuyển hướng cảm xúc chủ đạo sang vế đối lập).
  5. Câu tường thuật (phân tách ý kiến của chủ thể được trích dẫn với quan điểm của người viết).
  6. Hiện tượng không tương thích (câu hoặc đoạn chứa nhiều từ khen ngợi nhưng kết luận bằng từ chê bai làm đảo chiều toàn bộ nhận xét).

2. Trị cảm xúc lõi của từ trong từ điển VNSD được xác định qua quy trình nào?

Quy trình xác định trị cảm xúc lõi gồm 3 bước:

  • Bước 1: Dùng từ điển Vdict.com chuyển ngữ các mục từ cảm xúc tiếng Anh từ SentiWordNet sang tiếng Việt.
  • Bước 2: Gán giá trị cảm xúc ban đầu của từ tiếng Việt bằng giá trị tương ứng trong SentiWordNet ($w_i$).
  • Bước 3: Huấn luyện Hồi quy Logistic trên 14.618 nhận xét tiếng Việt để thu được hệ số đóng góp $w_{LR}$ của từng từ. Nếu một từ tiếng Việt có nhiều nghĩa hoặc nhiều trị cảm xúc ứng với các synset khác nhau, hệ thống sẽ chọn giá trị $w_i$ sao cho $|w_i - w_{LR}|$ đạt giá trị nhỏ nhất.

3. Những nguồn ngữ liệu và tập dữ liệu nào được sử dụng trong thực nghiệm của luận án?

Luận án sử dụng các tập dữ liệu sau:

  • Tập ngữ liệu nhận xét tiếng Việt thu thập từ mytour.vn và foody.vn: 14.618 nhận xét được gán nhãn thủ công (10.420 tích cực, 4.198 tiêu cực).
  • Bộ dữ liệu nhận xét tiếng Việt: HOTEL-Reviews, FOODY-Reviews, và UIT-VSFC (dữ liệu nhận xét môn học của sinh viên).
  • Cơ sở dữ liệu nhận xét của sinh viên đại học phục vụ bài toán ABSA.
  • 4 bộ dữ liệu tiếng Anh chuẩn đa miền: Electronics, DVD, Books và Kitchen.

4. Mô hình học tổ hợp (Ensemble Learning) ở Chương 5 có cấu trúc như thế nào?

Mô hình CEM(6C-WLLR) kết hợp nhiều bộ phân lớp thành phần được huấn luyện trên các nhóm đặc trưng khác nhau:

  • Nhóm đặc trưng bề mặt: Vector túi từ TF-IDF, n-gram, nhãn từ loại POS, đặc trưng phủ định và liên từ tương phản.
  • Nhóm đặc trưng sâu: Vector biểu diễn nhúng từ Word2Vec.
  • Bộ học thành phần mở rộng: Mạng BiLSTM kết hợp cơ chế tập trung (Attention Mechanism) để ghi nhận ngữ cảnh và gán trọng số cho các từ quan trọng.
  • Bộ học tổng hợp: Sử dụng mô hình Meta Classifier kết hợp hồi quy logistic tuyến tính có trọng số (WLLR) để đưa ra quyết định phân lớp nhị phân cuối cùng.

5. Hệ thống tra cứu thông tin nhận xét ở Chương 4 hoạt động dựa trên cơ chế nào?

Hệ thống sử dụng mô hình ABSA kết hợp ba thành phần:

  1. Bộ xử lý ngôn ngữ tự nhiên tiếng Việt dựa trên văn phạm phụ thuộc để trích xuất cặp khía cạnh và từ cảm xúc.
  2. Cơ sở tri thức Ontology (khách sạn/trường đại học) để chuẩn hóa và gom nhóm các khái niệm khía cạnh thành cấu trúc cây phân cấp.
  3. Bộ phân tích cú pháp DCG (Definite Clause Grammar) thiết lập ánh xạ 1:1 giữa cây biểu diễn ngữ nghĩa của câu truy vấn tiếng Việt tự nhiên và câu lệnh SQL tương ứng để truy xuất trực tiếp từ cơ sở dữ liệu.

Kết luận

Luận án của tác giả Trần Khải Thiện đã nghiên cứu toàn diện bài toán phân tích cảm xúc tiếng Việt có xét đến hiện tượng dịch chuyển trị cảm xúc theo ngữ cảnh. Công trình đã xây dựng thành công từ điển cảm xúc tiếng Việt VNSD dựa trên SentiWordNet, Hồi quy Logistic và tính toán mờ; đồng thời đề xuất mô hình phân tích khía cạnh ABSA kết hợp ontology và mô hình học tổ hợp đa tầng CEM(6C-WLLR) tích hợp mạng BiLSTM cùng cơ chế Attention. Các kết quả thực nghiệm trên các bộ dữ liệu nhận xét dịch vụ khách sạn, ẩm thực và giáo dục đại học đã chứng minh tính hiệu quả của phương pháp tiếp cận kết hợp giữa định hướng ngữ nghĩa và học sâu trong xử lý ngôn ngữ tự nhiên tiếng Việt.