Bối cảnh và vấn đề nghiên cứu
Trong bối cảnh thương mại điện tử (TMĐT) phát triển mạnh mẽ, hành vi mua sắm trực tuyến của người tiêu dùng ngày càng trở nên phổ biến trên các nền tảng như Shopee, Tiki, Lazada. Việc nắm bắt tâm lý, thái độ và phản hồi của khách hàng qua các bình luận sau mua giúp người bán cải thiện chất lượng sản phẩm, dịch vụ và tối ưu hóa chiến lược kinh doanh; đồng thời hỗ trợ người mua đưa ra quyết định mua hàng dựa trên trải nghiệm của người dùng trước.
Tuy nhiên, các bình luận thực tế thường có cấu trúc phức tạp, chứa nhiều khía cạnh đánh giá khác nhau trong cùng một câu với các sắc thái cảm xúc trái ngược (ví dụ: khen chất son nhưng chê khâu giao hàng). Bài toán Phân tích cảm xúc truyền thống (Sentiment Analysis) trên toàn bộ câu không đáp ứng được yêu cầu phân tích chi tiết từng thuộc tính. Điều này dẫn đến sự cần thiết của bài toán Phân tích cảm xúc theo khía cạnh (Aspect-Based Sentiment Analysis - ABSA).
Mục tiêu và nhiệm vụ nghiên cứu của đề tài được xác định cụ thể như sau:
- Xây dựng một bộ dữ liệu tiếng Việt chuẩn hóa phục vụ bài toán phân tích cảm xúc theo khía cạnh cho bình luận về sản phẩm son môi trên sàn TMĐT Shopee.
- Thiết kế, thực nghiệm và so sánh hiệu suất của 5 cấu trúc mô hình học sâu (BiLSTM, BiGRU, BiLSTM+Conv1D, BiGRU+Conv1D, BiLSTM+BiGRU+Conv1D) theo 2 hướng tiếp cận: Học đơn nhiệm vụ (Single-task Learning - STL) và Học đa nhiệm vụ (Multi-task Learning - MTL).
- Thiết kế và triển khai một hệ thống tự động hóa hoàn chỉnh bao gồm pipeline thu thập - tiền xử lý dữ liệu, lưu trữ cơ sở dữ liệu và trực quan hóa kết quả phân tích trên dashboard để hỗ trợ theo dõi, đánh giá sản phẩm.
Đối tượng và phạm vi nghiên cứu:
- Đối tượng nghiên cứu: Các bình luận, đánh giá bằng văn bản của khách hàng về sản phẩm son môi trên sàn TMĐT.
- Phạm vi không gian: Nền tảng thương mại điện tử Shopee Việt Nam.
- Phạm vi dữ liệu: 9 dòng sản phẩm son môi có lượng đánh giá lớn và phân bổ số sao trải dài từ 1 đến 5 sao tại thời điểm năm 2022.
Cơ sở lý thuyết và phương pháp
Khóa luận kết hợp giữa nghiên cứu thực nghiệm mô hình học sâu Xử lý ngôn ngữ tự nhiên (NLP) và thiết kế hệ thống kỹ thuật dữ liệu:
- Khung lý thuyết và mô hình học máy/học sâu:
- Bi-directional Long Short-Term Memory (BiLSTM) và Bi-directional Gated Recurrent Unit (BiGRU): Mạng nơ-ron hồi quy hai chiều giúp nắm bắt ngữ cảnh từ cả hai hướng trước và sau của chuỗi văn bản.
- Convolutional Neural Network 1D (Conv1D): Lớp tích chập một chiều kết hợp cùng hai cơ chế pooling gồm Global Max Pooling và Global Average Pooling nhằm trích xuất các đặc trưng chuỗi cục bộ sau khi qua các lớp tuần hoàn.
- Lớp biểu diễn từ (Embedding Layer): Sử dụng mô hình ngôn ngữ tiền huấn luyện ELMo (Embeddings from Language Models) với vector nhúng 1024 chiều.
- Chiến lược học: So sánh giữa Single-task Learning (tách rời bài toán phát hiện khía cạnh và các bài toán phân loại cảm xúc cho từng khía cạnh) và Multi-task Learning (chia sẻ các tầng biểu diễn ẩn và phân nhánh nhiều đầu ra dự đoán đồng thời).
- Phương pháp thu thập và gán nhãn:
- Thu thập dữ liệu tự động bằng công cụ lập trình với thư viện Selenium kết hợp BeautifulSoup.
- Gán nhãn thủ công thông qua công cụ mã nguồn mở Doccano.
- Kiểm soát chất lượng và đo độ đồng thuận gán nhãn giữa các annotator bằng hệ số Cohen’s Kappa qua 5 giai đoạn huấn luyện (ngưỡng chấp nhận $\kappa > 0.65$).
- Phương pháp đánh giá hiệu năng:
- Đánh giá trên tập kiểm tra độc lập thông qua ma trận nhầm lẫn (Confusion Matrix) cùng các thang đo: Precision, Recall, Micro F1-score và Macro F1-score cho cả 2 bài toán con ($F1_{ad}$ cho Aspect Detection và $F1_{sc}$ cho Sentiment Classification).
Nội dung chính theo từng chương
Chương 1. Giới thiệu tổng quan
Chương 1 trình bày lý do chọn đề tài, tính cấp thiết của bài toán ABSA đối với dữ liệu đánh giá sản phẩm TMĐT tiếng Việt, đặc biệt là ngành hàng mỹ phẩm (son môi). Tác giả định nghĩa cấu trúc bài toán gồm 2 bài toán con: phát hiện khía cạnh (Aspect Detection - bài toán multi-label) và phân loại cảm xúc theo khía cạnh (Sentiment Classification với 3 nhãn: Positive, Neutral, Negative). Chương này cũng xác định phạm vi nghiên cứu, đối tượng sử dụng hệ thống và tóm tắt bố cục 7 chương của khóa luận.
Chương 2. Các công trình nghiên cứu liên quan
Chương 2 tổng hợp các nghiên cứu trong và ngoài nước về phân tích cảm xúc và phân tích cảm xúc theo khía cạnh. Tác giả khảo sát các công trình quốc tế tiêu biểu trên tập dữ liệu SemEval 2014 Task 4 (Wang et al. với Attention-based LSTM, Ruidan He et al. với mô hình IMN theo hướng MTL). Ở trong nước, tác giả phân tích các bộ dữ liệu chuẩn như ABSA-VLSP 2018 (nhà hàng, khách sạn), UIT-ViSD4SA, UIT-VSFC, UIT-VSMEC, UIT-ViSFD.
| STT |
Tên bộ dữ liệu |
Năm |
Bài toán |
Kích cỡ (câu) |
Lĩnh vực |
| 1 |
SA-VLSP2016 |
2016 |
Phân tích cảm xúc |
12.196 |
Đa lĩnh vực |
| 2 |
ABSA-VLSP2018 |
2018 |
Phân tích cảm xúc theo khía cạnh |
10.351 |
Nhà hàng và khách sạn |
| 3 |
UIT-VSFC |
2018 |
Phân tích cảm xúc |
16.175 |
Giáo dục |
| 4 |
UIT-VSMEC |
2019 |
Nhận diện cảm xúc |
6.927 |
Đa lĩnh vực |
| 5 |
ReINTEL2020 |
2020 |
Nhận diện thông tin liên quan |
10.007 |
Đa lĩnh vực |
| 6 |
UIT-ViCTSD |
2021 |
Phát hiện bình luận độc hại/xây dựng |
10.000 |
Đa lĩnh vực |
| 7 |
ViHSD |
2021 |
Phát hiện lời văn độc hại |
33.400 |
Đa lĩnh vực |
| 8 |
UIT-ViSFD |
2021 |
Phân tích cảm xúc theo khía cạnh |
11.122 |
Công nghệ |
| 9 |
UIT-ViOCD |
2021 |
Phát hiện lời phàn nàn |
5.485 |
Đa lĩnh vực |
| 10 |
Bộ dữ liệu của đề tài |
2022 |
Phân tích cảm xúc theo khía cạnh |
16.227 |
Sản phẩm làm đẹp (Son) |
Chương 3. Xây dựng bộ dữ liệu
Chương này mô tả chi tiết quy trình xây dựng bộ dữ liệu tiếng Việt cho sản phẩm son môi từ Shopee:
- Thu thập dữ liệu: Thu thập 16.227 bình luận từ 9 sản phẩm son thuộc các gian hàng chính hãng (Perfect Diary, Bbia, Focallure, Merzy, Romand, Hero Orange).
- Hệ thống nhãn: Gồm 8 khía cạnh (SMELL, COLOUR, TEXTURE, PRICE, STAYINGPOWER, SHIPPING, PACKING, OTHERS) và 3 nhãn cảm xúc (Positive, Neutral, Negative). Tổng cộng có 32.775 cặp khía cạnh - cảm xúc.
- Quy trình gán nhãn: 6 người gán nhãn được chia làm 2 nhóm (mỗi nhóm 3 người), trải qua 5 giai đoạn huấn luyện trên 1.000 câu để hiệu chỉnh hướng dẫn gán nhãn. Hệ số Cohen's Kappa giữa các annotator đều đạt trên 0.65 sau huấn luyện. Ở giai đoạn chính thức, nhãn được chọn theo nguyên tắc đa số (2/3 người) hoặc có sự can thiệp của 2 giám sát viên nếu có bất đồng thuận.
- Phân chia dữ liệu: Tỷ lệ phân chia Train : Dev : Test là 8:1:1.
| Thuộc tính thống kê |
Tập Huấn luyện (Train) |
Tập Đánh giá (Dev) |
Tập Kiểm tra (Test) |
| Số lượng bình luận |
12.981 |
1.623 |
1.623 |
| Số từ trung bình / bình luận |
21,71 |
21,93 |
21,43 |
| Cảm xúc Tích cực (Positive) |
18.694 |
2.336 |
2.298 |
| Cảm xúc Trung tính (Neutral) |
3.822 |
462 |
511 |
| Cảm xúc Tiêu cực (Negative) |
3.715 |
466 |
471 |
| Số khía cạnh trung bình / câu |
2,02 |
2,01 |
2,02 |
| Tổng số cặp khía cạnh - cảm xúc |
26.231 |
3.264 |
3.280 |
Chương 4. Phương pháp thực nghiệm
Chương 4 trình bày chi tiết về mặt toán học và cấu trúc của các mô hình:
- Hướng tiếp cận Single-task Learning: Xây dựng 1 mô hình phân loại đa nhãn phát hiện 8 khía cạnh (hàm kích hoạt sigmoid ở đầu ra) và 7 mô hình riêng biệt phân loại 3 cảm xúc cho từng khía cạnh (hàm softmax).
- Hướng tiếp cận Multi-task Learning: Xây dựng 1 mô hình duy nhất nhận đầu vào và chia sẻ các tầng ẩn, có 8 đầu ra đồng thời (1 đầu ra phát hiện khía cạnh và 7 đầu ra phân loại 4 nhãn cảm xúc gồm Positive, Neutral, Negative, Null).
- Chi tiết 5 kiến trúc thực nghiệm: BiLSTM, BiGRU, BiLSTM+Conv1D, BiGRU+Conv1D, và BiLSTM+BiGRU+Conv1D (kết hợp song song 2 nhánh BiLSTM và BiGRU trước khi tích chập 1D).
Chương 5. Kết quả thực nghiệm
Chương 5 trình bày quy trình làm sạch dữ liệu nhiễu (loại bỏ ký tự xuống dòng \n, chuyển chữ thường, chuyển đổi emoji qua mô tả tiếng Anh bằng thư viện emoji, loại bỏ mã HTML, chuẩn hóa ký tự lặp kéo dài, tách từ tiếng Việt, loại bỏ dấu câu) và thiết lập siêu tham số:
- Vector ELMo kích thước 1024; số units trong BiLSTM/BiGRU là 400; Conv1D có kernel size = 2, filter = 128; optimizer Adam với learning rate = 0.0001; batch size = 128; epoch = 50 kết hợp Early Stopping.
- Kết quả thực nghiệm khẳng định phương pháp Single-task Learning cho hiệu quả vượt trội so với Multi-task Learning.
Chương 6. Xây dựng hệ thống
Chương này mô tả thiết kế và cài đặt hệ thống phân tích tự động ứng dụng trong thực tế, tích hợp mô hình học sâu tốt nhất vào quy trình xử lý dữ liệu đầu cuối.
Chương 7. Kết luận và hướng phát triển
Chương cuối tóm tắt toàn bộ kết quả nghiên cứu, những đóng góp thực tiễn của bộ dữ liệu và hệ thống phân tích, đồng thời nêu rõ các giới hạn còn tồn đọng và đề xuất định hướng phát triển trong tương lai.
Thiết kế và triển khai hệ thống
Hệ thống được thiết kế theo kiến trúc module hóa nhằm tự động hóa quá trình thu thập, xử lý, dự đoán và trực quan hóa dữ liệu bình luận từ Shopee:
- Pipeline thu thập và tiền xử lý dữ liệu với Apache Airflow:
- Hệ thống sử dụng Apache Airflow để lập lịch và điều phối quy trình làm việc thông qua biểu đồ luồng công việc có hướng không chu trình (Directed Acyclic Graph - DAG).
- DAG thực hiện tuần tự các tác vụ: kích hoạt kịch bản cào dữ liệu bình luận mới từ Shopee qua Selenium/BeautifulSoup, chuyển dữ liệu qua khâu làm sạch và tiền xử lý, đưa qua mô hình học sâu để dự đoán khía cạnh và cảm xúc, cuối cùng nạp dữ liệu đã xử lý vào cơ sở dữ liệu.
- Hệ quản trị cơ sở dữ liệu PostgreSQL:
- Lưu trữ toàn bộ dữ liệu thô và dữ liệu đã được gán nhãn/dự đoán qua bảng dữ liệu
son_review_v2.
- Các trường thông tin lưu trữ bao gồm: ID bình luận, tên sản phẩm, tên shop, nội dung bình luận, loại phân loại hàng, ngày giờ đánh giá, giá tiền, số sao đánh giá, cùng các cột nhãn dự đoán cho 8 khía cạnh và cảm xúc tương ứng.
- Dashboard phân tích dữ liệu với Tableau:
- Kết nối trực tiếp với PostgreSQL để xây dựng 5 giao diện báo cáo chuyên sâu (dashboards):
- Dashboard Tổng quát Story và thống kê dữ liệu: Báo cáo tổng thể về số lượng bình luận thu thập, phân bổ số sao, và tiến độ dữ liệu.
- Dashboard Phân tích tổng quan: Thống kê tỷ lệ các nhóm cảm xúc chung và xu hướng phản hồi theo thời gian.
- Dashboard Phân tích cảm xúc theo khía cạnh: Trực quan hóa tỷ lệ tích cực/tiêu cực/trung tính trên từng khía cạnh (chất son, mùi hương, độ lì, giá cả, vận chuyển...).
- Dashboard Phân tích sản phẩm: So sánh chi tiết hiệu năng và đánh giá của người dùng giữa 9 sản phẩm son khác nhau.
- Dashboard Các bình luận gần nhất: Hiển thị danh sách các đánh giá mới nhất kèm nhãn phân tích phục vụ việc kiểm tra chi tiết theo thời gian thực.
Kết quả và đóng góp
Kết quả thực nghiệm chính
Khóa luận đã so sánh chi tiết hiệu năng của 5 mô hình học sâu trên cả 2 hướng tiếp cận STL và MTL:
| Mô hình |
STL - Micro $F1_{ad}$ |
STL - Macro $F1_{ad}$ |
STL - Micro $F1_{sc}$ |
STL - Macro $F1_{sc}$ |
MTL - Micro $F1_{ad}$ |
MTL - Macro $F1_{ad}$ |
MTL - Micro $F1_{sc}$ |
MTL - Macro $F1_{sc}$ |
| BiLSTM |
97,3% |
- |
- |
- |
- |
- |
- |
- |
| BiGRU |
- |
- |
- |
- |
- |
- |
- |
- |
| BiLSTM+Conv1D |
- |
97,36% |
- |
69,13% |
- |
- |
- |
- |
| BiGRU+Conv1D |
- |
97,36% |
- |
69,13% |
- |
- |
- |
- |
| BiLSTM+BiGRU+Conv1D |
- |
- |
- |
- |
- |
- |
- |
- |
(Ghi chú: Theo kết quả tổng hợp trong văn bản, các mô hình kết hợp mạng tích chập 1D theo hướng tiếp cận Single-task Learning đạt kết quả cao nhất với Macro $F1_{ad}$ đạt 97,36% ở bài toán phát hiện khía cạnh và Macro $F1_{sc}$ đạt 69,13% ở bài toán phân loại cảm xúc).
- Đánh giá theo từng khía cạnh: Khía cạnh SMELL (mùi hương) đạt Micro F1 phát hiện khía cạnh cao nhất lên tới 99,4% nhờ các từ khóa đặc trưng rõ ràng. Khía cạnh COLOUR chiếm tỷ trọng lớn nhất trong tập dữ liệu (46,33% tổng số bình luận).
- Đánh giá theo cảm xúc: Cảm xúc tích cực (Positive) chiếm 71% toàn bộ dữ liệu và đạt F1-score vượt trội (ví dụ trên khía cạnh SMELL đạt 94%), trong khi cảm xúc trung tính (Neutral) và tiêu cực (Negative) có kết quả thấp hơn do số lượng mẫu ít hơn (chiếm lần lượt 15% và 14%).
Đóng góp của đề tài
- Đóng góp học thuật và dữ liệu: Xây dựng thành công bộ dữ liệu chuẩn ABSA tiếng Việt đầu tiên dành riêng cho sản phẩm son môi trên sàn TMĐT với 16.227 bình luận và 32.775 cặp khía cạnh - cảm xúc, được gán nhãn theo quy trình chặt chẽ có đánh giá hệ số Cohen’s Kappa.
- Đóng góp về mặt phương pháp: Cung cấp nghiên cứu thực nghiệm có hệ thống so sánh giữa Single-task Learning và Multi-task Learning trên 5 kiến trúc nơ-ron hồi quy kết hợp tích chập 1D và tầng nhúng ELMo cho tiếng Việt.
- Đóng góp ứng dụng: Xây dựng hoàn chỉnh hệ thống thu thập tự động qua Airflow, lưu trữ chuẩn hóa trên PostgreSQL và hiển thị trực quan qua 5 dashboard Tableau, có khả năng ứng dụng trực tiếp cho các nhà bán hàng và chuyên viên phân tích thị trường.
Hạn chế và hướng nghiên cứu tiếp
Khóa luận tự chỉ ra một số hạn chế và hướng mở rộng như sau:
Giá trị tham khảo
Khóa luận là tài liệu tham khảo có giá trị học thuật và kỹ thuật thực tiễn cho các nhóm đối tượng:
- Sinh viên và học viên ngành Khoa học Dữ liệu, Trí tuệ Nhân tạo, CNTT: Tham khảo phương pháp xây dựng bộ dữ liệu NLP tiếng Việt chuẩn hóa, quy trình huấn luyện người gán nhãn và đo lường hệ số Cohen's Kappa, cũng như kỹ thuật kết hợp BiLSTM/BiGRU với Conv1D và ELMo embedding.
- Kỹ sư dữ liệu (Data Engineers / MLOps): Tham khảo kiến trúc triển khai pipeline xử lý dữ liệu tự động đầu cuối kết hợp giữa Apache Airflow, PostgreSQL và Tableau.
- Nhà nghiên cứu về ABSA tiếng Việt: Sử dụng bảng hướng dẫn gán nhãn và các phân tích so sánh giữa STL và MTL làm cơ sở đối sánh cho các nghiên cứu tiếp theo trong lĩnh vực thương mại điện tử.
Câu hỏi thường gặp
1. Bộ dữ liệu của khóa luận gồm bao nhiêu bình luận và được gán nhãn theo những khía cạnh nào?
Bộ dữ liệu gồm 16.227 bình luận tiếng Việt từ 9 sản phẩm son môi trên Shopee, bao gồm 32.775 cặp khía cạnh - cảm xúc. Hệ thống nhãn gồm 8 khía cạnh: SMELL (mùi), COLOUR (màu sắc), TEXTURE (chất son), PRICE (giá cả), STAYINGPOWER (độ lì/bền màu), SHIPPING (giao hàng), PACKING (đóng gói), OTHERS (khác/spam) và 3 sắc thái cảm xúc: Positive, Neutral, Negative.
2. Quy trình gán nhãn được kiểm soát chất lượng như thế nào?
Nhóm tác giả sử dụng công cụ Doccano với 6 người gán nhãn chia làm 2 nhóm. Quá trình gồm giai đoạn huấn luyện (5 pha nhỏ, mỗi pha 200 câu) được đánh giá mức độ đồng thuận bằng hệ số Cohen’s Kappa (yêu cầu $\kappa > 0.65$). Ở giai đoạn gán nhãn chính thức, những câu bất đồng thuận sẽ được lấy theo quyết định của đa số (2/3 người) hoặc có sự can thiệp phân xử của 2 người giám sát xây dựng hướng dẫn.
3. Khác biệt cấu trúc cơ bản giữa mô hình Single-task Learning và Multi-task Learning trong nghiên cứu này là gì?
Mô hình STL chia bài toán thành 1 mô hình phát hiện khía cạnh (đầu ra 8 units, sigmoid) và 7 mô hình riêng dự đoán cảm xúc cho từng khía cạnh (đầu ra 3 units: Positive, Neutral, Negative, softmax). Ngược lại, mô hình MTL dùng một mạng chia sẻ duy nhất với 8 tầng đầu ra song song (1 tầng phát hiện khía cạnh và 7 tầng dự đoán cảm xúc cho 7 khía cạnh với 4 units: Positive, Neutral, Negative, Null).
4. Mô hình nào đạt hiệu năng tốt nhất trong các thực nghiệm?
Mô hình kết hợp BiLSTM+Conv1D / BiGRU+Conv1D theo hướng tiếp cận Single-task Learning cho kết quả tốt nhất, đạt F1-score macro 97,36% cho bài toán phát hiện khía cạnh và 69,13% cho bài toán phân loại cảm xúc.
5. Hệ thống hoàn chỉnh được xây dựng bằng những công nghệ nào?
Hệ thống tích hợp 3 thành phần kỹ thuật chính: Apache Airflow (điều phối DAG tự động cào dữ liệu Shopee bằng Selenium/BeautifulSoup, tiền xử lý và chạy mô hình suy luận), PostgreSQL (lưu trữ dữ liệu vào bảng son_review_v2), và Tableau (xây dựng 5 dashboard trực quan hóa phục vụ theo dõi sản phẩm).
Kết luận
Khóa luận tốt nghiệp của tác giả Trần Quang Linh và Lê Phan Thành Đạt đã giải quyết trọn vẹn bài toán phân tích cảm xúc theo khía cạnh cho bình luận sản phẩm son môi trên nền tảng TMĐT Shopee. Đề tài đã xây dựng thành công bộ dữ liệu tiếng Việt chuẩn hóa gồm 16.227 bình luận, thực nghiệm và chứng minh tính ưu việt của mô hình kết hợp mạng hồi quy hai chiều với tích chập 1D theo hướng tiếp cận Single-task Learning. Đồng thời, nghiên cứu đã hiện thực hóa một hệ thống tự động hóa hoàn chỉnh từ khâu thu thập dữ liệu bằng Airflow, lưu trữ PostgreSQL đến trực quan hóa đa chiều trên Tableau, mang lại giá trị thực tiễn cao cho bài toán phân tích thị trường TMĐT.