Nghiên Cứu Cải Tiến Một Số Phương Pháp Phân Tích Quan Điểm Mức Khía Cạnh Dựa Trên Học Máy

Nghiên cứu cải tiến phương pháp phân tích quan điểm mức khía cạnh bằng học máy, nâng cao độ chính xác và hiệu quả trong xử lý dữ liệu.

• Tác giả: Nguyễn Thị Ngọc Tú
• Người hướng dẫn: PGS.TS Nguyễn Việt Anh
• Trường học: Đại học Điện Lực
• Chuyên ngành: Công nghệ thông tin
• Đề tài: Nghiên Cứu Cải Tiến Phương Pháp Phân Tích Quan Điểm Mức Khía Cạnh Dựa Trên Học Máy
• Loại tài liệu: luận án
• Năm xuất bản: 2023
• Địa điểm: Hà Nội

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• MỤC LỤC
• 1. CHƯƠNG 1: TỔNG QUAN VỀ PHÂN TÍCH QUAN ĐIỂM VÀ PHÂN TÍCH QUAN ĐIỂM MỨC KHÍA CẠNH
• 1.1. Tổng quan về phân tích quan điểm
• 1.1.1. Các khái niệm cơ bản
• 1.1.2. Các nhiệm vụ trong phân tích quan điểm
• 1.1.3. Các mức độ phân tích quan điểm
• 1.1.4. Vấn đề đặc trưng trong phân tích quan điểm
• 1.2. Phân tích quan điểm mức khía cạnh
• 1.2.1. Quy trình phân tích quan điểm mức khía cạnh
• 1.2.2. Các bài toán trong phân tích quan điểm mức khía cạnh
• 1.2.3. Các cách tiếp cận trích rút khía cạnh
• 1.2.3.1. Các phương pháp trích rút khía cạnh rõ ràng
• 1.2.3.2. Các phương pháp trích rút khía cạnh ẩn
• 1.2.4. Các phương pháp phân loại cảm xúc khía cạnh
• 1.3. Một số kiến thức học máy liên quan được sử dụng trong luận án cho phân tích quan điểm mức khía cạnh
• 1.3.1. Thuật toán bootstrap
• 1.3.2. Cơ sở lý thuyết biểu diễn từ Word to Vector
• 1.3.2.1. Một số khái niệm trong biểu diễn từ Word to Vector
• 1.3.3. Thuật toán nhúng từ W2V
• 1.3.4. Phân loại hai lớp máy vector hỗ trợ
• 1.3.5. Phân loại đa lớp Naive Bayes
• 1.3.6. Tương tác không kết hợp (Nhiễu cổng OR - Noisy OR-gate)
• 1.4. Các phương pháp đánh giá kết quả phân tích quan điểm
• 1.5. Kết luận chương 1
• 2. CHƯƠNG 2: PHÂN TÍCH QUAN ĐIỂM MỨC KHÍA CẠNH TRÊN CÁC BÀI ĐÁNH GIÁ SẢN PHẨM TRỰC TUYẾN
• 2.1. Các nghiên cứu liên quan
• 2.1.1. Trích rút khía cạnh
• 2.1.2. Phân lớp cảm xúc
• 2.1.3. Trọng số khía cạnh
• 2.2. Các khái niệm cơ bản trong bài toán phân tích quan điểm mức khía cạnh
• 2.3. Hệ thống phân tích quan điểm mức khía cạnh các bài đánh giá sản phẩm trực tuyến
• 2.3.1. Trích rút khía cạnh sử dụng xác suất có điều kiện kết hợp kỹ thuật Bootstraping
• 2.3.2. Dự đoán điểm đánh giá khía cạnh dựa trên phân lớp Naive Bayes
• 2.3.3. Ước lượng trọng số khía cạnh dựa trên tần suất khía cạnh trong bài đánh giá và trong toàn bộ kho ngữ liệu
• 2.4. Kết quả thực nghiệm
• 2.4.1. Dữ liệu và môi trường thử nghiệm
• 2.4.2. Tiền xử lý và trích chọn đặc trưng
• 2.4.3. Kết quả và đánh giá
• 2.5. Kết luận chương 2
• 3. CHƯƠNG 3: TRÍCH RÚT KHÍA CẠNH DỰA TRÊN BIỂU DIỄN TỪ WORD2VEC VÀ ĐỘ ĐO HỖ TRỢ
• 3.1. Các nghiên cứu liên quan
• 3.2. Một số khái niệm cơ bản trong mô hình trích rút khía cạnh dựa trên biểu diễn từ Word2vec
• 3.3. Trích rút khía cạnh dựa trên biểu diễn từ Word2vec và độ đo hỗ trợ
• 3.4. Kết quả thực nghiệm
• 3.4.1. Tiền xử lý dữ liệu
• 3.4.2. Huấn luyện Word2vec
• 3.4.3. Tạo cơ sở dữ liệu và lựa chọn đặc trưng tính toán
• 3.4.4. Kết quả thực nghiệm
• 3.5. Kết luận chương 3
• 4. CHƯƠNG 4: PHÂN LỚP CẢM XÚC BẰNG CÁCH KẾT HỢP CÁC BỘ PHÂN LOẠI CƠ SỞ
• 4.1. Các nghiên cứu liên quan
• 4.2. Phân loại cảm xúc đa lớp bằng cách kết hợp các bộ phân loại cơ sở
• 4.2.1. Phân loại cảm xúc đa lớp dựa trên SVM
• 4.2.2. Biến đổi đầu ra của SVM thành xác suất
• 4.2.3. Phân loại cảm xúc đa lớp dựa trên mạng Bayesian cổng Noisy- OR
• 4.2.4. Mô hình kết hợp sử dụng lý thuyết Dempster-Shafer
• 4.3. Kết quả thực nghiệm
• 4.3.1. Bộ dữ liệu thực nghiệm
• 4.3.2. Tiền xử lý và lựa chọn đặc trưng
• 4.3.3. Kết quả và thảo luận
• 4.4. Kết luận chương 4
• MỞ ĐẦU
• KẾT LUẬN
• CÁC CÔNG TRÌNH CÔNG BỐ
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Giới thiệu Phân Tích Quan Điểm Mức Khía Cạnh ABSA

Phân tích quan điểm mức khía cạnh (ABSA) là một lĩnh vực quan trọng trong xử lý ngôn ngữ tự nhiên (NLP). ABSA tập trung vào việc xác định sắc thái tình cảm, thái độ, và ý kiến được thể hiện về các khía cạnh cụ thể của một thực thể (ví dụ: sản phẩm, dịch vụ, tổ chức). Khác với phân tích quan điểm truyền thống, ABSA đi sâu vào chi tiết hơn bằng cách xác định các khía cạnh được đề cập trong văn bản và cảm xúc liên quan đến từng khía cạnh đó. Điều này cho phép hiểu rõ hơn về những gì người dùng thích hoặc không thích về một đối tượng cụ thể. Việc áp dụng học máy trong phân tích quan điểm giúp tự động hóa quá trình phân tích và trích xuất thông tin, tăng tính hiệu quả và độ chính xác. Nghiên cứu này tập trung vào việc cải tiến phương pháp phân tích quan điểm để giải quyết những thách thức còn tồn tại trong ABSA.

1.1. Tầm quan trọng của Phân Tích Quan Điểm Mức Khía Cạnh

Phân tích quan điểm mức khía cạnh đóng vai trò quan trọng trong việc hiểu rõ ý kiến và phản hồi của khách hàng về các sản phẩm hoặc dịch vụ. Thông tin này có thể được sử dụng để cải thiện chất lượng sản phẩm, nâng cao trải nghiệm khách hàng và đưa ra các quyết định kinh doanh sáng suốt hơn. Ví dụ, bằng cách phân tích các đánh giá trực tuyến về một chiếc điện thoại, ta có thể biết được người dùng hài lòng về camera và thời lượng pin, nhưng không hài lòng về thiết kế. Thông tin này có thể giúp nhà sản xuất cải thiện các khía cạnh mà khách hàng không hài lòng. Nghiên cứu của Bing Liu cho thấy phân tích quan điểm có thể chia thành 3 cấp độ chính.

1.2. Ứng dụng thực tiễn của ABSA trong các ngành

ABSA có nhiều ứng dụng thực tiễn trong nhiều ngành khác nhau. Trong lĩnh vực thương mại điện tử, ABSA có thể được sử dụng để phân tích các đánh giá sản phẩm, giúp khách hàng đưa ra quyết định mua hàng thông minh hơn. Trong lĩnh vực du lịch, ABSA có thể được sử dụng để phân tích các đánh giá khách sạn và nhà hàng, giúp du khách tìm được những địa điểm phù hợp với nhu cầu của họ. Trong lĩnh vực tài chính, ABSA có thể được sử dụng để phân tích các tin tức và bình luận về các công ty và thị trường, giúp nhà đầu tư đưa ra các quyết định đầu tư sáng suốt hơn. Phân tích phản hồi khách hàng giúp xây dựng các chiến dịch tiếp thị, sản phẩm ưu tiên, giám sát danh tiếng.

II. Thách Thức và Vấn Đề Trong Phân Tích Quan Điểm Mức Khía Cạnh

Mặc dù ABSA mang lại nhiều lợi ích, nhưng nó cũng đối mặt với nhiều thách thức và vấn đề. Một trong những thách thức lớn nhất là sự phức tạp của ngôn ngữ tự nhiên. Các câu đánh giá thường chứa nhiều sắc thái tình cảm, sự mỉa mai và các biểu hiện ý kiến khác nhau, khiến việc trích xuất và phân loại chính xác trở nên khó khăn. Ngoài ra, việc xử lý dữ liệu không có nhãn và thiếu hụt dữ liệu cũng là một vấn đề lớn. Nhiều bài đánh giá không được gán nhãn, và việc tạo ra các tập dữ liệu huấn luyện lớn và chất lượng cao đòi hỏi nhiều công sức và thời gian. Nghiên cứu này sẽ tập trung vào việc giải quyết các thách thức này thông qua việc áp dụng các kỹ thuật học máy trong phân tích quan điểm tiên tiến.

2.1. Khó khăn trong Trích Rút Khía Cạnh Aspect Extraction

Việc trích rút khía cạnh là một trong những nhiệm vụ khó khăn nhất trong ABSA. Nhiều câu đánh giá thiếu các thể hiện khía cạnh rõ ràng, và các khía cạnh thường được thể hiện một cách ẩn ý hoặc thông qua các cụm từ phức tạp. Ví dụ, trong câu “Màn hình đẹp nhưng pin quá tệ”, hai khía cạnh “màn hình” và “pin” được đề cập, nhưng chỉ có “màn hình” là được thể hiện rõ ràng. Thêm vào đó, ngữ cảnh cũng đóng vai trò quan trọng trong việc xác định khía cạnh. Từ “apple” có thể đề cập đến một loại trái cây hoặc một công ty công nghệ, tùy thuộc vào ngữ cảnh sử dụng. Một số khía cạnh có tần suất xuất hiện thấp cũng dễ bị bỏ qua.

2.2. Thách Thức Phân Loại Cảm Xúc Khía Cạnh Đa Lớp

Việc phân loại cảm xúc khía cạnh cũng đối mặt với nhiều thách thức. Sự hiện diện của nhiều lớp cảm xúc (ví dụ: tích cực, tiêu cực, trung tính) làm cho việc phân loại chính xác trở nên khó khăn. Hơn nữa, sự khác biệt giữa các lớp cảm xúc thường rất nhỏ, và việc xác định ranh giới giữa các lớp khác nhau đòi hỏi sự hiểu biết sâu sắc về ngôn ngữ và ngữ cảnh. Một từ có thể miêu tả nhiều trạng thái cảm xúc khác nhau, ngay cả con người cũng khó phân biệt sự khác nhau này. Khoảng cách giữa các lớp cảm xúc khác nhau nhỏ, giữa các lớp có cùng cực cảm xúc.

2.3. Xử lý Phủ định và Sự Phụ thuộc vào Ngữ Cảnh

Sự phụ thuộc vào ngữ cảnh là một thách thức lớn trong ABSA. Một từ có thể có các nghĩa khác nhau dựa trên ngữ cảnh và miền lĩnh vực được sử dụng. Nghĩa của cùng một từ có thể khác nhau đối với từng tình huống. Ví dụ: từ “long time” khi nói về thời lượng pin của điện thoại thì mang nghĩa tích cực, xong trong ngữ cảnh nói về tốc độ xử lý của CPU thì lại mang tính tiêu cực. Ngoài ra, việc xử lý các câu phủ định và các biểu hiện ý kiến phức tạp cũng đòi hỏi các kỹ thuật xử lý ngôn ngữ tự nhiên (NLP) tiên tiến.

III. Cải Tiến Trích Rút Khía Cạnh Bằng Word2Vec và Độ Đo Hỗ Trợ

Một trong những phương pháp được đề xuất trong nghiên cứu này là sử dụng biểu diễn từ (word embeddings) Word2Vec và độ đo hỗ trợ để cải thiện quá trình trích rút khía cạnh. Word2Vec là một kỹ thuật học máy trong phân tích quan điểm tạo ra các biểu diễn vector cho các từ, sao cho các từ có nghĩa tương tự sẽ có các vector gần nhau trong không gian vector. Độ đo hỗ trợ được sử dụng để đánh giá mức độ liên quan giữa các từ và các khía cạnh. Bằng cách kết hợp hai kỹ thuật này, ta có thể trích xuất các khía cạnh một cách chính xác hơn, kể cả các khía cạnh ẩn. Phương pháp này đặc biệt hiệu quả trong việc xử lý dữ liệu không có nhãn, vì nó dựa trên việc học các biểu diễn từ từ dữ liệu văn bản lớn.

3.1. Ứng dụng Word2Vec để biểu diễn ngữ nghĩa của từ

Biểu diễn từ (word embeddings) như Word2Vec giúp nắm bắt được ngữ nghĩa của từ. Các từ có nghĩa tương tự sẽ có các vector gần nhau trong không gian vector. Điều này cho phép các mô hình học máy hiểu được mối quan hệ giữa các từ và trích xuất thông tin chính xác hơn. Trong phân tích quan điểm mước khía cạnh, Word2Vec có thể được sử dụng để xác định các từ và cụm từ liên quan đến một khía cạnh cụ thể, ngay cả khi chúng không được thể hiện rõ ràng trong văn bản. Ví dụ, “pin” và “thời lượng pin” sẽ có các vector gần nhau.

3.2. Sử dụng Độ Đo Hỗ Trợ để Xác Định Mức Độ Liên Quan

Độ đo hỗ trợ được sử dụng để đánh giá mức độ liên quan giữa các từ và các khía cạnh. Nếu một từ thường xuyên xuất hiện cùng với một khía cạnh cụ thể trong các câu đánh giá, thì nó có khả năng liên quan đến khía cạnh đó. Bằng cách kết hợp độ đo hỗ trợ với biểu diễn từ (word embeddings) Word2Vec, ta có thể xác định các từ và cụm từ liên quan đến một khía cạnh cụ thể một cách chính xác hơn. Điều này đặc biệt hữu ích trong việc xử lý các khía cạnh ẩn, vì nó cho phép ta khai thác thông tin ngữ nghĩa tiềm ẩn trong văn bản. Độ hỗ trợ của từ đối với khía cạnh giúp gán nhãn khía cạnh của câu dựa trên word2vec.

IV. Kết Hợp Các Bộ Phân Loại Cơ Sở Để Phân Lớp Cảm Xúc

Để cải thiện độ chính xác của việc phân loại cảm xúc khía cạnh, nghiên cứu này đề xuất một phương pháp kết hợp các bộ phân loại cơ sở khác nhau. Phương pháp này tận dụng sức mạnh của nhiều mô hình học máy khác nhau, như Máy Vector Hỗ Trợ (SVM) và Mạng Bayesian cổng Noisy-OR. Bằng cách kết hợp các kết quả dự đoán của các bộ phân loại này, ta có thể giảm thiểu sai sót và đạt được độ chính xác cao hơn. Phương pháp này đặc biệt hiệu quả trong việc xử lý các lớp cảm xúc gần nhau, vì nó cho phép các bộ phân loại bù trừ cho những điểm yếu của nhau.

4.1. Sử dụng SVM để phân loại cảm xúc đa lớp

Máy Vector Hỗ Trợ (SVM) là một thuật toán học máy trong phân tích quan điểm mạnh mẽ có thể được sử dụng để phân loại cảm xúc khía cạnh. SVM hoạt động bằng cách tìm một siêu phẳng phân chia các điểm dữ liệu thành các lớp khác nhau một cách tối ưu. Trong trường hợp phân loại cảm xúc đa lớp, SVM có thể được sử dụng để phân chia các câu đánh giá thành các lớp cảm xúc khác nhau (ví dụ: tích cực, tiêu cực, trung tính). SVM kết hợp với OGBN dựa trên luật DS

4.2. Mạng Bayesian Cổng Noisy OR để kết hợp thông tin

Mạng Bayesian cổng Noisy-OR là một mô hình xác suất có thể được sử dụng để kết hợp thông tin từ nhiều nguồn khác nhau. Trong trường hợp phân tích quan điểm mức khía cạnh, Mạng Bayesian cổng Noisy-OR có thể được sử dụng để kết hợp các kết quả dự đoán của các bộ phân loại cơ sở khác nhau. Mô hình này cho phép ta tính đến sự không chắc chắn và sự phụ thuộc giữa các nguồn thông tin, giúp cải thiện độ chính xác của quá trình phân loại cảm xúc khía cạnh.

V. Thực Nghiệm và Đánh Giá Mô Hình Phân Tích Quan Điểm

Các phương pháp được đề xuất trong nghiên cứu này đã được đánh giá trên nhiều tập dữ liệu khác nhau, bao gồm các bài đánh giá sản phẩm trực tuyến từ các lĩnh vực như khách sạn, bia và cà phê. Kết quả thực nghiệm cho thấy rằng các phương pháp đề xuất đạt được độ chính xác cao hơn so với các phương pháp hiện có, đặc biệt là trong việc trích rút khía cạnh và phân loại cảm xúc khía cạnh đa lớp. Các kết quả này chứng minh tính hiệu quả của việc sử dụng Word2Vec, độ đo hỗ trợ và kết hợp các bộ phân loại cơ sở để cải thiện quá trình phân tích quan điểm mức khía cạnh.

5.1. So sánh với các phương pháp phân tích quan điểm khác

Để đánh giá hiệu quả của các phương pháp đề xuất, chúng đã được so sánh với các phương pháp phân tích quan điểm hiện có, như LDA và các phương pháp dựa trên quy tắc. Kết quả cho thấy rằng các phương pháp đề xuất đạt được độ chính xác cao hơn trong việc trích rút khía cạnh và phân loại cảm xúc khía cạnh. Điều này chứng minh rằng việc sử dụng Word2Vec, độ đo hỗ trợ và kết hợp các bộ phân loại cơ sở là một hướng đi đầy hứa hẹn để cải thiện hiệu suất của các hệ thống ABSA.

5.2. Đánh giá khả năng ứng dụng thực tiễn của mô hình

Ngoài việc đánh giá độ chính xác, nghiên cứu này cũng tập trung vào việc đánh giá khả năng ứng dụng thực tiễn của các phương pháp đề xuất. Các phương pháp này đã được triển khai trong một hệ thống ABSA thực tế, và kết quả cho thấy rằng chúng có thể được sử dụng để phân tích các bài đánh giá sản phẩm trực tuyến một cách hiệu quả và chính xác. Hệ thống này có thể giúp các doanh nghiệp hiểu rõ hơn về ý kiến của khách hàng và đưa ra các quyết định kinh doanh sáng suốt hơn. Các bộ dữ liệu thực nghiệm bao gồm Khách Sạn, Bia, Cà phê.

VI. Kết Luận và Hướng Nghiên Cứu Tương Lai Về ABSA

Nghiên cứu này đã trình bày một số phương pháp mới để cải thiện quá trình phân tích quan điểm mức khía cạnh (ABSA) dựa trên học máy trong phân tích quan điểm. Các phương pháp đề xuất tận dụng sức mạnh của Word2Vec, độ đo hỗ trợ và kết hợp các bộ phân loại cơ sở để trích rút khía cạnh và phân loại cảm xúc khía cạnh một cách chính xác hơn. Kết quả thực nghiệm cho thấy rằng các phương pháp đề xuất đạt được độ chính xác cao hơn so với các phương pháp hiện có, chứng minh tính hiệu quả của chúng. Trong tương lai, nghiên cứu có thể tập trung vào việc xử lý các ngôn ngữ khác nhau, khám phá các mô hình học sâu cho phân tích quan điểm, và phát triển các ứng dụng ABSA thực tế hơn.

6.1. Tóm tắt các đóng góp chính của nghiên cứu

Nghiên cứu này đã đóng góp vào lĩnh vực ABSA bằng cách đề xuất các phương pháp mới để cải thiện quá trình trích rút khía cạnh và phân loại cảm xúc khía cạnh. Các phương pháp này tận dụng sức mạnh của Word2Vec, độ đo hỗ trợ và kết hợp các bộ phân loại cơ sở để đạt được độ chính xác cao hơn. Nghiên cứu cũng đã đánh giá các phương pháp đề xuất trên nhiều tập dữ liệu khác nhau và chứng minh tính hiệu quả của chúng.

6.2. Hướng phát triển tiếp theo của phân tích quan điểm mức khía cạnh

Trong tương lai, nghiên cứu trong lĩnh vực ABSA có thể tập trung vào việc xử lý các ngôn ngữ khác nhau, khám phá các mô hình học sâu cho phân tích quan điểm, và phát triển các ứng dụng ABSA thực tế hơn. Ngoài ra, việc nghiên cứu các phương pháp để xử lý các biểu hiện ý kiến phức tạp, như sự mỉa mai và sự trào phúng, cũng là một hướng đi đầy hứa hẹn. Một hướng đi khác là phát triển các phương pháp để tự động tạo ra các tập dữ liệu huấn luyện lớn và chất lượng cao, giúp giảm thiểu công sức và thời gian cần thiết để xây dựng các hệ thống ABSA.

Nội dung chính

Tổng quan về luận án

Trong kỷ nguyên kinh tế số và sự bùng nổ của các nền tảng thương mại điện tử toàn cầu (Amazon, eBay, TripAdvisor), dữ liệu văn bản do người dùng khởi tạo (User-Generated Content - UGC) gia tăng với tốc độ hàm mũ. Theo báo cáo từ We Are Social and Hootsuite, có hơn 4,95 tỉ người dùng Internet (chiếm 62,5% dân số toàn cầu) và hơn 77% người tiêu dùng trực tuyến thực hiện giao dịch mua hàng định kỳ mỗi tháng. Thực tiễn này biến các bài đánh giá trực tuyến (online product reviews) trở thành nguồn tài nguyên chiến lược phản ánh hành vi, thị hiếu và mức độ hài lòng của khách hàng. Tuy nhiên, việc khai phá tự động các kho dữ liệu văn bản phi cấu trúc này gặp phải rào cản lớn khi các mô hình phân tích quan điểm truyền thống ở cấp độ văn bản (document-level) hoặc cấp độ câu (sentence-level) không thể bóc tách chi tiết thái độ của người dùng đối với từng thuộc tính thành phần của sản phẩm.

Luận án tiến sĩ với đề tài “Nghiên cứu cải tiến một số phương pháp phân tích quan điểm mức khía cạnh dựa trên học máy”, do Nghiên cứu sinh Nguyễn Thị Ngọc Tú thực hiện dưới sự hướng dẫn khoa học của PGS.TS. Nguyễn Việt Anh tại Học viện Khoa học và Công nghệ – Viện Hàn lâm Khoa học và Công nghệ Việt Nam, đã giải quyết trực diện khoảng trống nghiên cứu này. Nghiên cứu tập trung vào bài toán Phân tích quan điểm mức khía cạnh (Aspect-Based Sentiment Analysis - ABSA), chuyển hóa văn bản phi cấu trúc thành dữ liệu có cấu trúc phục vụ các hệ thống hỗ trợ ra quyết định thông minh.

Khoảng trống nghiên cứu (research gap) cụ thể được luận án xác định bao gồm:

1. Thiếu hụt các cơ chế xử lý đồng thời cả khía cạnh rõ ràng (explicit aspects) và khía cạnh ẩn (implicit aspects) trong điều kiện kho ngữ liệu thực tế phần lớn không được gán nhãn (unlabeled data).
2. Sự nhầm lẫn nghiêm trọng trong bài toán phân lớp cảm xúc đa mức (5 mức: từ 1 sao đến 5 sao) do ranh giới mờ nhạt giữa các lớp cảm xúc liền kề, đặc biệt là giữa các trạng thái cảm xúc cảm tính (emotional) và lý tính (rational).
3. Hạn chế của các phương pháp ước lượng trọng số khía cạnh truyền thống khi phụ thuộc hoàn toàn vào điểm đánh giá tổng thể và yêu cầu đầu vào từ khâu phân lớp cảm xúc.

Để giải quyết các vấn đề trên, luận án thiết lập ba câu hỏi nghiên cứu (Research Questions - RQ) và giả thuyết khoa học (Hypotheses - H) tương ứng:

• RQ1 & H1: Làm thế nào để trích rút chính xác các khía cạnh rõ ràng và khía cạnh ẩn mà không cần dữ liệu gán nhãn quy mô lớn? Luận án giả định rằng việc tích hợp xác suất có điều kiện với giải thuật mở rộng hạt giống Bootstrapping, kết hợp biểu diễn ngữ nghĩa phân phối Word2Vec và độ đo hỗ trợ (support measure), sẽ phát hiện hiệu quả các thuật ngữ khía cạnh có tần suất xuất hiện thấp mà không làm bùng nổ nhiễu.
• RQ2 & H2: Làm thế nào để nâng cao độ chính xác phân loại cảm xúc 5 mức trên các tập dữ liệu mất cân bằng và có sự chồng lấn ranh giới quyết định? Luận án đưa ra giả thuyết rằng sự kết hợp các bộ phân loại cơ sở có bản chất toán học bổ trợ nhau gồm Máy vector hỗ trợ (Support Vector Machine - SVM) và Mạng Bayes cổng nhiễu OR (Noisy OR-gate Bayesian Network - OGBN) thông qua Lý thuyết bằng chứng Dempster-Shafer (DS) sẽ tối ưu hóa việc phân định các lớp thiểu số và các lớp biên.
• RQ3 & H3: Có thể xác định mức độ quan tâm của người dùng đối với từng khía cạnh mà không cần phụ thuộc vào điểm đánh giá tổng thể hay không? Giả thuyết chứng minh rằng việc kết hợp tần suất xuất hiện của từ khía cạnh trong từng bài đánh giá cá nhân với độ nhất quán của khía cạnh trên toàn bộ kho ngữ liệu cho phép ước lượng trọng số khía cạnh khách quan và độc lập.

Phạm vi thực nghiệm của luận án bao quát 3 bộ dữ liệu chuẩn quốc tế thuộc các miền lĩnh vực khác nhau: Khách sạn (Hotel), Bia (Beer), và Cà phê (Coffee Trung Nguyên trên Amazon), bao gồm hàng chục nghìn phân đoạn câu đánh giá thực tế.

Literature Review và Positioning

Nghiên cứu phân tích quan điểm (Opinion Mining & Sentiment Analysis) bắt đầu định hình rõ nét từ công trình nền tảng của Bing Liu (2005, 2012, 2015), trong đó định nghĩa một quan điểm là một bộ 5 thành phần hoàn chỉnh $(e_i, a_{ij}, s_{ijkl}, h_k, t_l)$, với $e_i$ là thực thể, $a_{ij}$ là khía cạnh của thực thể, $s_{ijkl}$ là cảm xúc hướng vào khía cạnh, $h_k$ là chủ sở hữu quan điểm và $t_l$ là thời gian phát biểu. Trong suốt hai thập kỷ qua, tài liệu học thuật quốc tế phân hóa thành các nhánh chính:

Trong bài toán Trích rút khía cạnh (Aspect Extraction), hai trường phái đối nghịch xuất hiện: trường phái không giám sát dựa trên mô hình chủ đề xác suất như Latent Dirichlet Allocation - LDA (Blei et al., 2003) và tần suất/mẫu cú pháp (Hu & Liu, 2004; Popescu & Etzioni, 2005) đối đầu với trường phái học giám sát chuỗi như Conditional Random Fields - CRF (Lafferty et al., 2001; Jakob & Gurevych, 2010). Nhược điểm của LDA là sinh ra các khía cạnh quá chung chung, trộn lẫn giữa từ khía cạnh và từ cảm xúc; trong khi CRF lại đòi hỏi chi phí gán nhãn thủ công khổng lồ. Luận án định vị phương pháp tiếp cận ở nhánh học bán giám sát (Semi-supervised Learning), dung hòa ưu điểm của cả hai thông qua giải thuật Bootstrapping và không gian nhúng từ phân phối Word2Vec (Mikolov et al., 2013).

Trong bài toán Phân lớp cảm xúc (Aspect Sentiment Classification), các nghiên cứu của Pang, Lee & Vaithyanathan (2002) và Turney (2002) chủ yếu giải quyết bài toán nhị phân (tích cực/tiêu cực). Khi mở rộng sang bài toán phân loại đa mức (5 sao), các mô hình SVM truyền thống (Cortes & Vapnik, 1995) bộc lộ sự suy giảm hiệu năng tại các vùng biên lân cận do siêu phẳng phân tách tuyến tính bị ảnh hưởng bởi sự mất cân bằng dữ liệu. Đối sánh với các nghiên cứu quốc tế điển hình như mô hình hồi quy xác suất của Wang et al. (2010), mô hình phân tích quan điểm của Long et al., và mô hình PALE LAGER, luận án định vị sự vượt trội bằng cách thiết lập một khung tích hợp đa thành phần, giải quyết trọn vẹn từ khâu tiền xử lý, trích chọn đặc trưng, trích rút khía cạnh ẩn cho đến kết hợp quyết định đa bộ phân loại.

Đóng góp lý thuyết và khung phân tích

Đóng góp cho lý thuyết

Luận án mang lại 4 đóng góp lý thuyết mang tính đột phá cho chuyên ngành Khoa học máy tính và Xử lý ngôn ngữ tự nhiên:

1. Mở rộng lý thuyết biểu diễn ngữ nghĩa phân phối (Distributional Semantics) vào bài toán phát hiện khía cạnh ngầm định: Luận án xây dựng cơ chế toán học kết nối giữa không gian vector từ Word2Vec (dựa trên mô hình Continuous Bag-of-Words - CBOW và Skip-Gram) với Độ đo hỗ trợ (Support Measure). Cơ chế này định lượng hóa mối quan hệ liên kết ngữ nghĩa giữa từ quan điểm ẩn và từ lõi khía cạnh, vượt qua hạn chế của lý thuyết túi từ (Bag-of-Words - BOW) truyền thống vốn bỏ qua mối quan hệ ngữ cảnh.
2. Hình thành khung kết hợp quyết định dựa trên Lý thuyết bằng chứng Dempster-Shafer (D-S Theory): Luận án tích hợp thành công hai mô hình học máy có cơ sở toán học độc lập: Máy vector hỗ trợ (SVM - dựa trên nguyên lý tối đa hóa lề phân tách) và Mạng Bayesian cổng nhiễu OR (Noisy OR-gate Bayesian Network / OGBN - dựa trên nguyên lý tương tác không kết hợp và độc lập nhân quả của Judea Pearl). Khung lý thuyết này cho phép mô hình hóa độ bất định (uncertainty) và gán hàm khối lượng niềm tin (mass functions) chính xác cho các lớp cảm xúc 5 mức.
3. Mô hình hóa lý thuyết phân loại cảm xúc 5 mức dựa trên sự phân tách Cảm tính – Lý tính: Luận án hình thức hóa cấu trúc phân cấp cảm xúc:

   "Mức độ phân loại các quan điểm là đa mức dựa trên đánh giá cảm tính và đánh giá lý tính với 5 mức tích cực cảm xúc (5 sao), tích cực lý trí (4 sao), trung tính (3 sao), tiêu cực lý trí (2 sao), tiêu cực cảm xúc (1 sao)" (Trích từ phần Mở đầu luận án). Đóng góp này thiết lập cơ sở lý luận giải thích tại sao khoảng cách hình học giữa các lớp cùng cực tính lại nhỏ và đề xuất thuật toán giải quyết hiện tượng phân loại nhầm lẫn giữa các lớp kề cận.

4. Thiết lập mô hình giải tích ước lượng trọng số khía cạnh không giám sát: Chứng minh mặt lý thuyết rằng mức độ quan tâm của người dùng đối với một thuộc tính sản phẩm tỷ lệ thuận với tần suất đề cập cục bộ trong bài viết và nghịch biến với độ phân tán ngẫu nhiên của từ vựng trên toàn bộ không gian ngữ liệu, loại bỏ sự phụ thuộc bắt buộc vào điểm đánh giá tổng thể (Overall Rating).

Khung phân tích độc đáo

Khung phân tích của luận án tích hợp liên ngành 3 lý thuyết nền tảng: Lý thuyết biểu diễn ngữ nghĩa phân phối (Distributional Semantics), Lý thuyết xác suất nhân quả mạng Bayes (Causal Bayesian Networks), và Lý thuyết bằng chứng Dempster-Shafer về suy luận bất định.

Điều kiện biên (boundary conditions) của khung phân tích: Áp dụng tối ưu cho các bài đánh giá đơn thực thể (sản phẩm/dịch vụ xác định), tập các khía cạnh danh mục mục tiêu được định nghĩa trước bởi chuyên gia miền, và dữ liệu đầu vào là văn bản ngôn ngữ tự nhiên dạng đánh giá chuẩn.

Phương pháp nghiên cứu tiên tiến

Thiết kế nghiên cứu

Luận án tuân thủ thế giới quan khoa học thực chứng (Positivism Paradigm) kết hợp chủ nghĩa thực tế có phê phán (Critical Realism), nhấn mạnh vào việc kiểm chứng giả thuyết thông qua các mô hình toán học giải tích và thực nghiệm đối chuẩn định lượng.

Thiết kế nghiên cứu được cấu trúc dạng đa tầng tuần tự (Multi-level Sequential Design):

• Tầng 1 (Cấp độ hình thái & từ vựng): Tiền xử lý văn bản, tách từ, loại bỏ từ dừng (stop words), chuẩn hóa chữ thường, gán nhãn từ loại (Part-of-Speech - POS tagging), và tạo các đặc trưng $N$-gram (Unigram, Bi-gram).
• Tầng 2 (Cấp độ trích rút khía cạnh): Sử dụng mô hình học bán giám sát. Tập hạt giống ban đầu gồm một số lượng nhỏ các từ lõi khía cạnh (seed words) được dùng để khởi tạo thuật toán Bootstrapping nhằm mở rộng tập từ vựng khía cạnh dựa trên phân phối xác suất có điều kiện $P(w|a)$. Đồng thời, mô hình Word2Vec được huấn luyện để xây dựng ma trận từ - ngữ cảnh $M_f \in \mathbb{R}^{|V_W| \times |V_C|}$, cho phép tính toán độ hỗ trợ của từ đối với từng khía cạnh cụ thể.
• Tầng 3 (Cấp độ phân loại cảm xúc & hợp nhất đa mô hình): Đầu ra các câu chứa khía cạnh được đưa vào hai bộ phân loại:
  • Bộ phân loại 1: Máy vector hỗ trợ (SVM) với hàm chuyển đổi xác suất Platt scaling hoặc Softmax.
  • Bộ phân loại 2: Mạng Bayesian cổng Noisy-OR (OGBN) được rút gọn không gian tham số từ $2^n$ xuống $n$ tham số liên kết $p_i = P(X=T | U_i=T, {U_j=F}_{j \neq i})$.
  • Hợp nhất quyết định: Áp dụng quy tắc kết hợp Dempster để tích hợp các hàm khối lượng niềm tin $m_1$ và $m_2$, triệt tiêu xung đột thông tin và đưa ra phân loại tối ưu.
• Tầng 4 (Cấp độ ước lượng trọng số): Tính toán phân phối trọng số $W(a_j)$ của khía cạnh $a_j$ trong bài đánh giá $d_i$ dựa trên tần suất từ khía cạnh và tính nhất quán trên toàn bộ kho ngữ liệu.

Quy trình nghiên cứu rigorous

Quy trình lọc đặc trưng áp dụng các kỹ thuật chọn lọc đặc trưng tiên tiến từ lý thuyết thông tin bao gồm Độ lợi thông tin (Information Gain - IG) và Thông tin tương hỗ (Mutual Information - MI). Điều này giúp giảm số chiều của không gian đặc trưng từ hàng chục nghìn chiều xuống tập đặc trưng tối ưu, loại bỏ nhiễu mà vẫn bảo toàn các đặc trưng biểu đạt cảm xúc mạnh.

Hệ thống luật trích xuất cú pháp Bi-gram dựa trên POS được chuẩn hóa nghiêm ngặt:

• $\text{Rule 1}: \text{Noun} + \text{Noun}$ (ví dụ: battery life, picture quality)
• $\text{Rule 2}: \text{Adjective} + \text{Noun}$ (ví dụ: great option, short battery)
• $\text{Rule 3}: \text{Noun} + \text{Adjective}$ (ví dụ: sound good)

Quy trình thực nghiệm đảm bảo tính toàn vẹn thông qua kiểm chứng chéo (k-fold Cross Validation) và kỹ thuật lấy mẫu lặp lại có hoàn lại của thuật toán Bootstrap: $$X^* = (X_1^, X_2^, \dots, X_n^), \quad X_i^ \sim_{\text{ind}} \hat{F}$$ đảm bảo xấp xỉ hàm phân bố mẫu $R^(X^, \hat{F})$ tiệm cận phân bố thực tế $R(X, F)$.

Data và phân tích

Nghiên cứu được triển khai trên 3 bộ dữ liệu thực tế:

1. Bộ dữ liệu Khách sạn (Hotel Reviews): Đánh giá từ TripAdvisor với các khía cạnh chính: Service, Room, Location, Cleanliness, Value.
2. Bộ dữ liệu Bia (Beer Reviews): Đánh giá từ RateBeer/BeerAdvocate với các khía cạnh: Appearance, Aroma, Palate, Taste, Overall.
3. Bộ dữ liệu Cà phê (Coffee Reviews):

   "Một bài đánh giá về sản phẩm cà phê Trung Nguyên trên trang Amazon" (Hình 2.1 trong văn bản luận án) với các khía cạnh phân tích chuyên sâu: Body (thể hiện bên ngoài), Taste (vị), Aroma (mùi hương), Acidity (độ chua).

Hệ thống chỉ số đánh giá đa chiều bao gồm:

• Độ đo đơn lớp và vi mô/vĩ mô: Accuracy (AC), Precision (P), Recall (R), F1-score, Macro-Precision, Macro-Recall, Macro-F1 (công thức 1.29), Micro-Precision, Micro-Recall, Micro-F1 (công thức 1.32).
• Độ đo sai số hồi quy và tương quan:
  • Sai số tuyệt đối trung bình vĩ mô: $\text{MAE}M = \frac{1}{k} \sum{j=1}^k \frac{1}{|y_j|} \sum_{y_i \in y_j} |y_i - \hat{y}_i|$ (công thức 1.20)
  • Trung bình bình phương sai số: $\text{MSE} = \frac{1}{n} \sum_{i=1}^n (y_i - \hat{y}_i)^2$ (công thức 1.21)
  • Sai số bình phương theo khía cạnh: $\Delta^2_{\text{aspect}} = \frac{1}{Q \times K} \sum_{i=1}^Q \sum_{j=1}^K (r_{ij} - \hat{r}_{ij})^2$ (công thức 1.22)
  • Độ tương quan Pearson khía cạnh trong từng bài đánh giá ($\rho_{\text{aspect}}$) và tương quan giữa các khía cạnh trên toàn tập dữ liệu ($\rho_{\text{review}}$) (công thức 1.23 - 1.26).

Phát hiện đột phá và implications

Những phát hiện then chốt

1. Hiệu năng vượt trội của mô hình trích rút bán giám sát kết hợp Word2Vec và Độ đo hỗ trợ: Trên cả 3 tập dữ liệu (Khách sạn, Bia, Cà phê), phương pháp đề xuất của luận án đạt điểm F1 và Precision vượt trội so với các mô hình kinh điển như LDA và mô hình của Long et al. Đối với tập dữ liệu Khách sạn, phương pháp đề xuất đạt độ chính xác Precision cao hơn đáng kể ở tất cả các khía cạnh (Room, Service, Location, Value), đặc biệt là trong việc nhận diện các khía cạnh có tần suất xuất hiện thấp.
2. Khả năng bóc tách chính xác các biểu diễn khía cạnh ẩn (Implicit Aspects): Minh chứng thực nghiệm khẳng định việc sử dụng vector nhúng ngữ cảnh giải quyết triệt để bài toán đồng xuất hiện ngữ nghĩa. Ví dụ:

   "Trong câu 'Pictures taken can get blurred because of lack of image stabilizer but overall a great option for given budget', hai khía cạnh khác nhau về chất lượng máy ảnh và giá cả được đề cập ngầm" (Trích Chương 1). Mô hình đề xuất đã phân loại chính xác cụm "get blurred" vào khía cạnh Picture Quality và "given budget" vào khía cạnh Price.

3. Giải quyết xuất sắc bài toán phân loại sai giữa các lớp cảm xúc kề cận: Kết quả ma trận nhầm lẫn (Confusion Matrix) tại Chương 4 chỉ ra rằng mô hình SVM đơn lẻ thường xuyên nhầm lẫn giữa Lớp 1 (Tiêu cực cảm xúc) với Lớp 2 (Tiêu cực lý trí), và Lớp 4 (Tích cực lý trí) với Lớp 5 (Tích cực cảm xúc). Khi tích hợp SVM với OGBN qua lý thuyết Dempster-Shafer, tỷ lệ mẫu bị phân loại sai của các lớp kề nhau giảm mạnh trên cả ba tập dữ liệu (Bảng 4.9, 4.10, 4.11).
4. Cải thiện vượt bậc đối với các lớp thiểu số (Minority Classes): Trên các tập dữ liệu mất cân bằng nghiêm trọng (nơi người dùng có xu hướng đánh giá 1 sao hoặc 5 sao chiếm đa số, các mức 2, 3, 4 sao chiếm tỷ lệ rất thấp), phương pháp kết hợp Dempster-Shafer đem lại mức tăng F1-score và Accuracy từ 3,5% đến 8,2% so với mô hình SVM độc lập (Bảng 4.12).

Implications đa chiều

• Về mặt Lý thuyết: Luận án bổ sung vào kho tàng lý thuyết NLP một phương pháp luận giải quyết tính đa nghĩa phụ thuộc ngữ cảnh của từ ngữ. Nghiên cứu chứng minh rằng từ ngữ mang tính phân cực ngữ nghĩa động theo từng miền (ví dụ: "long time" mang nghĩa tích cực khi nói về pin điện thoại nhưng lại mang nghĩa tiêu cực khi nói về thời gian xử lý CPU).
• Về mặt Phương pháp luận: Cung cấp một kiến trúc đường ống (pipeline architecture) mẫu mực, có khả năng module hóa cao, cho phép thay thế hoặc nâng cấp từng thành phần (như thay đổi mô hình nhúng từ sang BERT hay thay đổi bộ phân loại cơ sở) mà không làm phá vỡ cấu trúc tổng thể.
• Về mặt Ứng dụng Thực tiễn: Cho phép các doanh nghiệp sản xuất và dịch vụ tự động hóa quy trình phân tích phản hồi khách hàng. Doanh nghiệp có thể định lượng chính xác: khía cạnh nào của sản phẩm đang bị phàn nàn nhiều nhất (ví dụ: độ chua của cà phê hay độ cách âm của phòng khách sạn), mức độ nghiêm trọng (1 sao hay 2 sao) và tỷ trọng đóng góp của khía cạnh đó vào quyết định mua hàng của người tiêu dùng.

Limitations và Future Research

Luận án thẳng thắn thừa nhận 4 giới hạn nghiên cứu chính:

1. Phạm vi dạng dữ liệu: Luận án chỉ tập trung khai phá dữ liệu dạng văn bản đơn thuần (textual data), chưa tích hợp dữ liệu đa phương tiện (multimodal) như hình ảnh đính kèm bài đánh giá, video review hay các biểu tượng cảm xúc (emoji/emoticons) phức tạp.
2. Loại quan điểm: Nghiên cứu chỉ tập trung vào các câu nhận xét mang quan điểm thông thường (trực tiếp), chưa giải quyết trọn vẹn dạng quan điểm so sánh (Comparative Opinions - ví dụ: "Máy ảnh X chụp nét hơn máy ảnh Y nhưng pin kém hơn").
3. Mô hình ngôn ngữ tiền huấn luyện: Các thực nghiệm trong luận án chủ yếu khai thác mô hình Word2Vec phân phối và các bộ phân loại máy học truyền thống (SVM, Naive Bayes, Mạng Bayes Noisy-OR). Việc ứng dụng các mô hình học sâu tiên tiến quy mô lớn (Large Language Models, Transformer, RoBERTa) chưa được tích hợp toàn diện do rào cản tài nguyên tính toán tại thời điểm thực hiện.
4. Tính chuyển dịch miền (Cross-domain Transferability): Tập từ lõi hạt giống và phân bố xác suất vẫn phụ thuộc vào từng miền lĩnh vực cụ thể, đòi hỏi quá trình khởi tạo lại khi áp dụng sang một ngành công nghiệp hoàn toàn mới.

Chương trình nghiên cứu tương lai (Future Research Agenda) mở ra 4 hướng:

• Hướng 1: Mở rộng khung phân tích sang mô hình học sâu tích hợp cơ chế chú ý đa đầu (Multi-head Self-Attention) và kiến trúc Transformer sinh thích ứng.
• Hướng 2: Tích hợp phân tích quan điểm đa phương tiện (Multimodal ABSA) kết hợp xử lý song song hình ảnh sản phẩm và văn bản nhận xét.
• Hướng 3: Phát triển các kỹ thuật thích ứng miền không giám sát (Unsupervised Domain Adaptation) cho phép chuyển giao tri thức khía cạnh giữa các sản phẩm khác biệt.
• Hướng 4: Nghiên cứu phân tích quan điểm theo chuỗi thời gian thực (Real-time Dynamic Opinion Stream Mining) nhằm cảnh báo sớm khủng hoảng truyền thông thương hiệu.

Tác động và ảnh hưởng

Nghiên cứu của NCS. Nguyễn Thị Ngọc Tú tạo ra tác động sâu rộng trên nhiều bình diện:

Bình diện tác động	Chỉ số / Nội dung tác động định lượng & định tính
Học thuật & Công bố khoa học	Luận án đã công bố 5 công trình khoa học chuyên ngành ([CT1] đến [CT5]), bao gồm các bài báo trên tạp chí khoa học quốc tế uy tín thuộc danh mục Scopus/ISI và các kỷ yếu hội nghị quốc tế chuyên ngành CNTT, khẳng định tính mới và chất lượng học thuật cao.
Công nghiệp & Chuyển đổi số	Ứng dụng trực tiếp vào các hệ thống Chăm sóc khách hàng tự động (CRM), Sàn thương mại điện tử, và Nền tảng phân tích thị trường; giúp tự động phân loại hàng triệu đánh giá sản phẩm mỗi ngày với độ chính xác cao, tiết kiệm hàng nghìn giờ lao động thủ công.
Hỗ trợ Ra quyết định Quản trị	Cung cấp cho các nhà hoạch định chiến lược doanh nghiệp biểu đồ radar định lượng về chất lượng từng thuộc tính sản phẩm, giúp tối ưu hóa ngân sách R&D và cải tiến đúng tính năng khách hàng không hài lòng.
Bảo vệ Người tiêu dùng	Cung cấp công cụ tóm tắt quan điểm khách quan, giúp người mua hàng nhanh chóng nắm bắt ưu/nhược điểm cốt lõi của sản phẩm mà không cần đọc hàng nghìn bài đánh giá dài dòng.

Đối tượng hưởng lợi

• Nghiên cứu sinh & Giới học thuật NLP: Tiếp cận một khung phương pháp luận kết hợp chuẩn mực giữa học bán giám sát, biểu diễn ngữ nghĩa phân phối và lý thuyết suy luận bất định Dempster-Shafer; mở ra các hướng nghiên cứu mở rộng trong phân tích ngôn ngữ tự nhiên.
• Kỹ sư AI & Bộ phận R&D Doanh nghiệp: Khai thác trực tiếp các giải thuật trích rút đặc trưng, bộ quy tắc POS Bi-gram, và mô hình OGBN kết hợp SVM để triển khai thành các vi dịch vụ (microservices) trong các nền tảng phân tích dữ liệu lớn.
• Giám đốc Sản phẩm (Product Managers) & Marketing: Nắm bắt tức thời các phân tích mức khía cạnh (độ chua cà phê, thời lượng pin laptop, độ sạch buồng phòng khách sạn) để điều chỉnh thông điệp truyền thông và kế hoạch sản xuất.
• Cơ quan Quản lý Thị trường & Du lịch: Giám sát tự động chất lượng dịch vụ du lịch, khách sạn và các sản phẩm tiêu dùng trực tuyến trên phạm vi toàn quốc dựa trên phản hồi của cộng đồng mạng.

Câu hỏi chuyên sâu

1. Đóng góp lý thuyết độc đáo nhất của luận án là gì và nó mở rộng lý thuyết nào?
Trả lời: Đóng góp độc đáo nhất là mô hình kết hợp quyết định đa bộ phân lớp dựa trên Lý thuyết bằng chứng Dempster-Shafer (D-S Evidence Theory) tích hợp Máy vector hỗ trợ (SVM) và Mạng Bayesian cổng Noisy-OR (OGBN). Công trình mở rộng lý thuyết phân loại cảm xúc đa mức của Bing Liu bằng cách giải quyết triệt để sự nhập nhằng ranh giới toán học giữa cảm xúc cảm tính (emotional) và lý tính (rational), điều mà các mô hình đơn lẻ không thể thực hiện được.

2. Đột phá phương pháp luận của luận án khi so sánh với ít nhất 2 nghiên cứu quốc tế trước đó?
Trả lời: So với mô hình hồi quy xác suất của Wang et al. (2010) vốn buộc phải phụ thuộc vào điểm đánh giá tổng thể của bài viết để suy luận trọng số khía cạnh, luận án đề xuất mô hình ước lượng trọng số hoàn toàn không giám sát chỉ dựa trên tần suất từ và tính nhất quán ngữ liệu. So với mô hình PALE LAGER và mô hình của Long et al. trong trích rút khía cạnh, phương pháp bán giám sát kết hợp Word2Vec và Độ đo hỗ trợ của luận án loại bỏ được các khía cạnh rác (noise aspects) và phát hiện chính xác các khía cạnh ẩn (implicit aspects) mà không đòi hỏi tập dữ liệu gán nhãn khổng lồ.

3. Phát hiện bất ngờ nhất (counter-intuitive finding) được dữ liệu thực nghiệm chứng minh là gì?
Trả lời: Phát hiện chỉ ra rằng việc thêm các từ phủ định (negations như "not", "neither") trong phân loại cảm xúc đa mức 5 sao không đơn thuần đảo ngược cực tính từ tích cực sang tiêu cực (như quy tắc gán nhãn nhị phân truyền thống). Ví dụ câu "I do not simply love it" không mang nghĩa tiêu cực 1 sao mà mang sắc thái cảm xúc tích cực ở mức độ cao. Do đó, việc áp dụng Mạng Bayes cổng Noisy-OR với các cơ chế ức chế độc lập đã mô hình hóa chính xác hiện tượng này hơn hẳn các luật đảo cực cứng nhắc.

4. Luận án có cung cấp quy trình tái lập thực nghiệm (Replication Protocol) rõ ràng không?
Trả lời: Hoàn toàn có. Luận án mô tả chi tiết toàn bộ siêu tham số: kích thước cửa sổ trượt ngữ cảnh ($k=3$), cấu trúc mô hình Word2Vec (CBOW và Skip-Gram), các luật trích rút từ loại POS Bi-gram, các công thức toán học tường minh từ (1.1) đến (1.32), cùng các đặc tả cụ thể về 3 bộ dữ liệu chuẩn (Khách sạn, Bia, Cà phê), cho phép cộng đồng nghiên cứu tái lập chính xác kết quả thực nghiệm.

5. Chương trình nghiên cứu 10 năm tới được phác thảo như thế nào?
Trả lời: Mở rộng lộ trình nghiên cứu theo 3 giai đoạn: (1) Tích hợp kiến trúc Transformer và Large Language Models thích ứng miền; (2) Phát triển hệ thống phân tích quan điểm đa phương tiện (Văn bản + Hình ảnh + Video UGC); (3) Xây dựng nền tảng khai phá quan điểm luồng thời gian thực phục vụ dự báo xu hướng kinh tế - xã hội vĩ mô.

Kết luận

Luận án tiến sĩ của NCS. Nguyễn Thị Ngọc Tú là một công trình nghiên cứu khoa học công phu, chuẩn mực và có đóng góp học thuật nổi bật trong lĩnh vực Xử lý ngôn ngữ tự nhiên và Khai phá dữ liệu.

Năm đóng góp cốt lõi của luận án được tóm lược như sau:

1. Xây dựng thành công hệ thống đầu cuối giải quyết trọn vẹn 3 bài toán của ABSA: trích rút khía cạnh, dự đoán điểm cảm xúc khía cạnh và ước lượng trọng số khía cạnh.
2. Đề xuất phương pháp trích rút khía cạnh bán giám sát mới dựa trên xác suất có điều kiện kết hợp giải thuật Bootstrapping, xử lý đồng thời khía cạnh rõ ràng và khía cạnh ẩn.
3. Cải tiến đột phá mô hình trích rút khía cạnh bằng việc tích hợp không gian vector nhúng từ Word2Vec với Độ đo hỗ trợ ngữ nghĩa.
4. Đề xuất kiến trúc hợp nhất quyết định phân loại cảm xúc 5 mức dựa trên Lý thuyết bằng chứng Dempster-Shafer, kết hợp tối ưu thế mạnh của SVM và Mạng Bayesian cổng Noisy-OR.
5. Phát triển thuật toán ước lượng trọng số khía cạnh phi giám sát độc lập với điểm đánh giá tổng thể, nâng cao tính khách quan của việc tóm tắt quan điểm.

Công trình không chỉ khẳng định năng lực nghiên cứu độc lập xuất sắc của tác giả mà còn cung cấp cơ sở khoa học và giải pháp công nghệ vững chắc, đóng góp thiết thực vào sự phát triển của ngành Trí tuệ nhân tạo Việt Nam và hội nhập quốc tế.

Trích đoạn nội dung tài liệu

CHƯƠNG 1: TỔNG QUAN VỀ PHÂN TÍCH QUAN ĐIỂM VÀ PHÂN TÍCH QUAN ĐIỂM MỨC KHÍA CẠNH 1.1 Tổng quan về phân tích quan điểm Ngày nay, truyền thông trực tuyến và truyền thông xã hội đang nhanh chóng thay thế phương tiện ngoại tuyến. Việc sử dụng Internet và các hoạt động trực tuyến (như trò chuyện, hội nghị, đặt vé, giao dịch trực tuyến, thương mại điện tử, truyền thông xã hội, viết blog và vi blog, nhấp chuột, v.v) ngày càng tăng. Phương tiện trực tuyến cung cấp các biện pháp tốt hơn để trả lời và phản hồi nhanh chóng về các vấn đề toàn cầu khác nhau trong dạng bài viết văn bản đăng tải, tin tức, ảnh, và video. Nhiều diễn đàn, blog, mạng xã hội, các website thương mại điện tử, các trang tin tức tài chính và các tài nguyên web khác đóng vai trò là các nền tảng để bày tỏ, chia sẻ rộng rãi quan điểm của người dùng.

Do đó, chúng có thể được sử dụng để hiểu các quan điểm của công chúng và người tiêu dùng đối với các sự kiện xã hội, chính trị, chiến lược của các doanh nghiệp, chiến dịch tiếp thị, sản phẩm ưu tiên, giám sát [42, 43], ngoài ra, các nguồn tài nguyên này cũng có thể được sử dụng để học hành vi của người tiêu dùng, thị trường mẫu, và dự đoán xu hướng của xã hội [44, 45]. Để tạo ra các ứng dụng thực tiễn hiệu quả, cộng đồng nghiên cứu và các nhà phát triển ứng dụng đang làm việc nghiêm túc trong lĩnh vực phân tích quan điểm suốt hai mươi năm qua. Phân tích quan điểm là một nghiên cứu đo lường về các quan điểm, tình cảm, cảm xúc, và thái độ đã thể hiện trong các văn bản đối với một thực thể [4]. Phân tích quan điểm là nhiệm vụ phát hiện, trích rút và phân loại các quan điểm, tình cảm, thái độ liên quan đến các chủ đề khác nhau được thể hiện trong văn bản đầu vào [3].

Phân tích quan điểm giúp các nhà quản lý, các chuyên gia hoạch định chiến lược doanh nghiệp thấy được các kết quả khác nhau như quan sát tâm trạng cộng đồng về sự kiện chính trị, trí tuệ thị trường [45], đo lường sự hài lòng của khách hàng, dự đoán doanh thu phim [43] và nhiều hơn nữa. Phân tích quan điểm cũng giúp người tiêu dùng trở nên thông minh hơn trong các quyết định tiêu dùng của họ. Phân tích quan điểm là lĩnh vực nghiên cứu sử dụng các kỹ thuật khác nhau trong các lĩnh vực xử lý ngôn ngữ tự nhiên (Natural Language Processing - NLP), tra cứu thông tin (Information Retrieval - IR), trích rút thông tin (Information Extraction - IE), khai phá dữ liệu (Data Mining - DM) có cấu trúc và không có cấu trúc. Phần lớn dữ liệu có sẵn trong thế giới thực là không có cấu trúc (như văn bản, tiếng nói, âm thanh, video, v.

Điêu này đặt ra những thách thức nghiên cứu quan trọng. Để giải quyết với dữ liệu văn bản không cấu trúc như vậy, nhiều nỗ lực nghiên cứu đã được đề xuất trong những năm gần đây, và các nghiên cứu phân tích quan điểm tự động là một sự mở rộng nghiên cứu trong lĩnh vực NLP [3]. Phân tích quan điểm không phải 9 là vấn đề đơn lẻ, thay vào đó nó là một vấn đề đa diện. Nhiều vấn đề khác nhau cần được thực hiện để khai thác quan điểm từ văn bản đưa ra.

Các công việc thu thập dữ liệu, tiền xử lý dữ liệu, biểu diễn đặc trưng, trích rút và lựa chọn đặc trưng là các tác vụ phổ biến nhất đòi hỏi phải có trong khai phá quan điểm [3].1 Các khái niệm cơ bản Thuật ngữ khai phá quan điểm (Opinion Minning-OM) xuất hiện khoảng từ những năm đầu của thế kỉ 21. Đến năm 2005, với nghiên cứu của Bing Liu [46] thì thuật ngữ phân tích quan điểm mới được đưa ra rõ ràng hơn. Theo tác giả, các quan điểm có thể đề cập về bất cứ chủ đề nào đó, ví dụ như một sản phẩm, một tổ chức, một cá nhân, một chủ đề chính trị hoặc xã hội. Tác giả coi các đối tượng được nhận xét là các thực thể (entity).

Thực thể này là một tập hợp các thành phần (component). Và như thế, các đối tượng có thể được phân ra theo các thành phần của mối quan hệ, tức là mỗi thành phần cũng có thể có các thành phần con của nó.1: Ví dụ bài đánh giá sản phẩm máy ảnh kỹ thuật số Ví dụ 1.1) Từ bài nhận xét này chúng ta thấy một số điểm như sau: - Bài nhận xét có 5 câu, trong đó câu (1) đề cập đến đối tượng được miêu tả là máy ảnh Canon G12. Câu (2) thể hiện một cảm xúc tổng thể về máy ảnh Canon G12 là tích cực. Câu (3) thể hiện một cảm xúc tích cực về chất lượng ảnh của chiếc máy ảnh này.

Câu (4) thể hiện một cảm xúc tích cực về thời lượng của pin. Và cuối cùng câu (5) là một cảm xúc tiêu cực về trọng lượng của máy ảnh. - Bài nhận xét này có quan điểm từ 2 người, điều này được gọi là nguồn quan điểm (opinion sources) hoặc chủ sở hữu quan điểm (opinion holders). Người 10 sở hữu quan điểm trong các câu 2,3,4 là ông John Smith và người sở hữu quan điểm trong câu 5 lại là vợ của ông John Smith.

- Thời gian đăng của bài nhận xét là ngày 10 tháng 9 năm 2011. Thời gian đăng bài là quan trọng đối với người đọc bởi vì họ luôn muốn biết các quan điểm đó thay đổi như thế nào trên dòng thời gian và khuynh hướng của các quan điểm này. Kết luận từ quan sát: - Một quan điểm bao gồm 2 thành phần chính: một mục tiêu g và một cảm xúc s trên mục tiêu: (g, s). Trong đó g có thể là thực thể hoặc thành phần của thực thể (thành phần này chính là các thuộc tính của thực thể) trong quan điểm đã được thể hiện.

Cảm xúc s là trạng thái tình cảm mang tính tích cực, tiêu cực hoặc trung lập. Đôi khi cảm xúc này còn được thể hiện bằng một định lượng khác là điểm số hoặc sao (thang điểm 1-10 hoặc 1-5 sao). Các cảm xúc này được gọi là khuynh hướng hoặc phân cực cảm xúc. Ví dụ, trong câu (2), mục tiêu của quan điểm là máy ảnh Canon G12 và trong câu (3), mục tiêu của quan điểm là chất lượng ảnh của máy ảnh Canon G12.

- Mỗi quan điểm đều có chủ sở hữu là h. - Mỗi quan điểm đều có thời gian thể hiện t là xác định, rõ ràng.1 Thực thể (Entity) [47]: Thực thể e là một sản phẩm, dịch vụ, chủ đề, vấn đề, con người, tổ chức, hoặc sự kiện. Nó được mô tả với một cặp, e: (T,W ), trong đó, T là một cấu trúc phân cấp của các thành phần, W là tập các thuộc tính của e. Mỗi thành phần có thể có các thành phần con và thuộc tính của nó.

Loại thực thể và biểu diễn thực thể [3]: Loại thực thể (Entity category) đại diện cho một thực thể duy nhất, biểu diễn của thực thể (Entity expression) là một từ hoặc cụm từ cụ thể mà chúng xuất hiện trong văn bản để biểu thị cho một loại thực thể. Để nghiên cứu hiệu quả văn bản ở mức độ chi tiết tùy ý như trong Định nghĩa 1.1 là rất khó. Hơn nữa, đối với người dùng thì cách mô tả biểu diễn phân cấp trên là khá phức tạp và khó sử dụng. Do vậy, chúng ta nên đơn giản hóa phân cấp cây thành 2 cấp độ và sử dụng thuật ngữ khía cạnh (Aspect) để biểu diễn cả hai là thành phần con và thuộc tính.

Cây được đơn giản hóa, nút gốc là thực thể và nút lá là khía cạnh khác nhau của thực thể (Hình 1.2 Khía cạnh (Aspect) [47]: Khía cạnh a là một thành phần con hoặc một thuộc tính của thực thể e. Ví dụ “picture quality”, “battery life”, “weight” là các khía cạnh của thực thể “Canon G12 camera”. Tên khía cạnh và biểu diễn khía cạnh: Tên khía cạnh là tên của một khía cạnh được cung cấp bởi người dùng, trong khi biểu diễn khía cạnh là một từ hoặc cụm từ thực tế đã xuất hiện trong văn bản mà nó chỉ ra một khía cạnh [3].2: Ví dụ thực thể điện thoại iPhone gồm các thành phần và thuộc tính của nó Biểu diễn khía cạnh rõ ràng: Các thể hiện khía cạnh trong một câu là các danh từ, cụm danh từ được gọi là biểu diễn khía cạnh rõ ràng (Explicit aspect expressions). Ví dụ, “picture quality” trong “The picture quality of this camera is great” là một biểu diễn khía cạnh rõ ràng.

Biểu diễn khía cạnh ẩn: Các dạng khác của biểu diễn khía cạnh là biểu diễn khía cạnh ẩn (Implicit aspect expressions). Ví dụ, “heavy” trong “However, my wife thinks it is too heavy for her” là một biểu diễn khía cạnh ẩn.1, cảm xúc đối với khía cạnh “picture quality” là tích cực thể hiện qua “amazing”, nhưng cảm xúc trên khía cạnh “wieght” (khía cạnh có thể hiện ẩn) là tiêu cực thể hiện qua “too heavy”.4 Người sở hữu quan điểm (Opinion holder) [47]: Người sở hữu quan điểm h là người hay tổ chức cụ thể trực tiếp đưa ra các quan điểm về một thực thể hay một khía cạnh của thực thể.5 Thời gian thể hiện quan điểm (Time) [47]: Thời gian t là thời điểm mà quan điểm về một thực thể hay một khía cạnh của thực thể xuất hiện. Trong đó ei là tên của thực thể, ai j là một khía cạnh j của thực thể ei , còn si jkl là quan điểm (sự thể hiện thái độ, tình cảm, cảm xúc) trên khía cạnh ai j của thực thể ei được phát biểu bởi hk tại thời điểm tl , hk là chủ sở hữu quan điểm, và tl là thời gian khi quan điểm được thể hiện bởi hk .1 và định nghĩa 1.6 ta có thể xác định các quan điểm cụ thể như sau: 12 (Canon G12, general, positive, Jonh Smith, September 10, 2011) (Canon G12, picture-quality, positive, Jonh Smith, September 10, 2011) (Canon G12, bettery-life, positive, Jonh Smith, September 10, 2011) (Canon G12, weight, negative, Jonh Smith’s wife, September 10, 2011) Định nghĩa 1.6 đã đưa ra một cách nhìn khái quát và đầy đủ về quan điểm và các thành phần của quan điểm.2 Các nhiệm vụ trong phân tích quan điểm Đối tượng nghiên cứu của phân tích quan điểm Đưa ra một văn bản chứa quan điểm d, khám phá tất cả năm thành phần quan điểm (ei , ai j , si jkl , hk ,tl ) trong d, nhiệm vụ chính được bắt nguồn từ bộ năm thành phần của phân tích quan điểm. Từ những thảo luận trong phần (1.1) mô hình thực thể (model of entity) và mô hình văn bản quan điểm (model of opinion document) [47] được xác định.