Giới thiệu dự án

Sự bùng nổ của thương mại điện tử và các nền tảng đánh giá trực tuyến đã tạo ra khối lượng dữ liệu phản hồi khổng lồ từ người tiêu dùng. Theo báo cáo từ Statista, năm 2021 thị trường Việt Nam ghi nhận khoảng 61,3 triệu thiết bị điện thoại thông minh đang hoạt động (chiếm hơn 64% dân số), xếp trong top 10 quốc gia có quy mô người dùng smartphone lớn nhất thế giới. Đi kèm với dung lượng thị trường là hàng triệu lượt bình luận, đánh giá sản phẩm mỗi ngày trên các sàn thương mại điện tử như Thế Giới Di Động, FPT Shop, Shopee, Tiki và Lazada.

Tuy nhiên, việc khai thác giá trị từ nguồn dữ liệu này đang gặp phải rào cản kỹ thuật lớn: hầu hết các hệ thống đánh giá chỉ cung cấp điểm số sao tổng thể (1–5 sao) hoặc phân tích cảm xúc ở cấp độ toàn văn bản (Document-level) / câu (Sentence-level). Cách tiếp cận truyền thống này bỏ qua tính phức tạp của bình luận người dùng, nơi một câu có thể chứa nhiều nhận xét đối nghịch trên các khía cạnh khác nhau (ví dụ: "Máy chụp ảnh đẹp, màn hình sắc nét nhưng pin tuột nhanh và sạc rất nóng").

"Máy đẹp, sang, sd thì rất là ok máy mượt."
├── [0, 13]   -> "Máy đẹp, sang"        : DESIGN#POSITIVE
├── [15, 31]  -> "sd thì rất là ok"     : GENERAL#POSITIVE
└── [32, 40]  -> "máy mượt"             : PERFORMANCE#POSITIVE

Vấn đề nghiên cứu (Problem Statement)

Phân tích cảm xúc dựa trên khía cạnh (Aspect-Based Sentiment Analysis - ABSA) thông thường chỉ tập trung vào hai bài toán con: phát hiện danh mục khía cạnh (Aspect Category Detection - ACD) và phân loại cực tính cảm xúc (Aspect Category Polarity - ACP). Hạn chế cốt lõi là các mô hình này bỏ qua nhiệm vụ trích xuất Chuỗi ý kiến mục tiêu (Opinion Target Expression - OTE / Opinion Span Detection). Việc thiếu thông tin về vị trí chuỗi văn bản cụ thể (Span) làm giảm tính giải thích (explainability) của mô hình AI, khiến hệ thống không thể chỉ ra chính xác bằng chứng ngôn ngữ mà khách hàng đã sử dụng để khen hoặc chê một tính năng.

Mục tiêu của đề tài

  1. Xây dựng bộ dữ liệu điểm chuẩn (Benchmark Dataset) UIT-ViSD4SA: Tạo lập tập dữ liệu tiếng Việt gán nhãn thủ công ở cấp độ ký tự/từ với hơn 35.000 chuỗi ý kiến trên 11.122 đánh giá điện thoại thông minh, bao phủ 10 danh mục khía cạnh và 3 cực tính cảm xúc.
  2. Đề xuất kiến trúc học sâu tối ưu: Thiết kế và triển khai mô hình học chuỗi kết hợp BiLSTM-CRF đa tầng đặc trưng (Multi-level Embeddings bao gồm Syllable Embedding, Character Embedding và Contextualized XLM-RoBERTa Embedding) để giải quyết bài toán Sequence Labeling ở cấp độ âm tiết.
  3. Đánh giá thực nghiệm và phân tích lỗi chuyên sâu: So sánh hiệu năng với các kiến trúc tiền huấn luyện tiên tiến (mBERT, XLM-R, PhoBERT), phân tích chi tiết các ca kiểm thử biên (corner cases) do đặc trưng ngôn ngữ mạng xã hội tiếng Việt (teencode, viết tắt, ngữ cảnh nhập nhằng).

Phạm vi và giới hạn nghiên cứu

  • Ngữ cảnh ứng dụng: Dữ liệu đánh giá người dùng trong lĩnh vực điện thoại thông minh (Smartphones) thu thập từ các sàn thương mại điện tử tại Việt Nam.
  • Phạm vi kỹ thuật: Mô hình hóa bài toán phát hiện chuỗi ý kiến thành bài toán gán nhãn chuỗi (Sequence Tagging) theo định dạng IOB (Inside-Outside-Beginning) trên 30 cặp nhãn kết hợp Khía cạnh#Cảm xúc (Aspect#Polarity).
  • Giới hạn: Chưa xử lý triệt để các trường hợp chuỗi ý kiến lồng nhau phức tạp (Nested Spans) hoặc liên kết phụ thuộc xa (Long-range cross-aspect dependencies) không liên tục.

Phân tích và thiết kế giải pháp

Phân tích hiện trạng

Phương pháp / Bộ dữ liệu Phạm vi ngôn ngữ Trích xuất Span cụ thể Cấp độ gán nhãn Nhược điểm cốt lõi
SemEval-2014 / 2016 (Task 4/5) Tiếng Anh, Đa ngôn ngữ Có Câu / Khía cạnh cụ thể Không tối ưu cho cú pháp đơn âm tiết và teencode tiếng Việt
VLSP 2018 (Aspect-Based Sentiment) Tiếng Việt Không Document / Sentence level Chỉ gắn nhãn cặp Entity#Attribute và Polarity; thiếu vị trí Span
UIT-ViSFD (Phan et al., 2021) Tiếng Việt Không Toàn bộ bình luận Tập trung vào phân loại phân cực cảm xúc khía cạnh, không định vị span
UIT-ViSD4SA (Đề tài đề xuất) Tiếng Việt Có Character / Syllable Span Giải quyết triệt để 3 bài toán: Aspect + Polarity + Span Extraction

Phân tích yêu cầu hệ thống theo mô hình MoSCoW

  • Must have (Bắt buộc có):
    • Khả năng định vị chính xác chỉ số ký tự bắt đầu ($i$) và kết thúc ($j$) của từng chuỗi ý kiến trong văn bản.
    • Phân loại chính xác 10 khía cạnh: SCREEN, CAMERA, FEATURES, BATTERY, PERFORMANCE, STORAGE, DESIGN, PRICE, GENERAL, SER&ACC.
    • Phân loại 3 cực tính: POSITIVE, NEGATIVE, NEUTRAL.
  • Should have (Nên có):
    • Cơ chế nhúng kết hợp đa tầng biểu diễn (Syllable + Character + Pre-trained Transformer).
    • Tối ưu hóa chuyển trạng thái nhãn bằng lớp Conditional Random Field (CRF).
  • Could have (Có thể có):
    • Khả năng phục hồi và chuẩn hóa tự động các từ viết tắt, teencode phổ biến trên sàn thương mại điện tử.
  • Won't have (Chưa thực hiện):
    • Suy luận cảm xúc đa phương thức (Multimodal Aspect Sentiment Analysis kết hợp hình ảnh đính kèm của bình luận).

Thiết kế hệ thống

graph TD
    A["Raw Review Text (Bình luận thô)"] --> B["Tiền xử lý & Tokenize cấp độ Âm tiết (Syllable Level)"]
    
    subgraph Multi_Level_Embedding_Layer ["Multi-Level Embedding Layer"]
        B --> C1["Syllable Embedding (Word2Vec Skip-gram 300d)"]
        B --> C2["Character Embedding (CNN/BiLSTM 100d)"]
        B --> C3["Contextual Embedding (XLM-RoBERTa 768d)"]
    end
    
    C1 --> D["Vector Concatenation (Concat Layer: Dim = 1168)"]
    C2 --> D
    C3 --> D
    
    subgraph Sequence_Encoding_Layer ["Sequence Encoding Layer"]
        D --> E["Bidirectional LSTM Layer (Forward & Backward Hidden States)"]
    end
    
    subgraph Decoding_Layer ["Structured Prediction Layer"]
        E --> F["Conditional Random Field (CRF Layer)"]
        F --> G["Viterbi Decoding Algorithm"]
    end
    
    G --> H["Output Spans: [Start, End, Aspect#Polarity]"]

Ngăn xếp công nghệ (Technology Stack)

  • Framework học sâu: PyTorch v1.10.2 kết hợp Torchtext.
  • Xử lý ngôn ngữ tự nhiên & Transformers: HuggingFace Transformers v4.15.0.
  • Mô hình ngôn ngữ tiền huấn luyện: xlm-roberta-base, bert-base-multilingual-cased, vinai/phobert-base.
  • Thư viện tối ưu & Tính toán ma trận: NumPy v1.21.5, Scikit-learn v1.0.2, Seqeval v1.2.2.
  • Môi trường tính toán: Python 3.8, NVIDIA Tesla T4 GPU (16GB VRAM), CUDA 11.3.

Cấu trúc lược đồ dữ liệu (Data Schema)

Dữ liệu chuẩn đầu ra được định dạng dưới cấu trúc JSON chuẩn hóa:

{
  "review_id": "UIT_ViSD4SA_2022_00849",
  "comment": "Pin sạc rất nhanh tầm 1 tiếng là đầy, nhưng chơi game máy khá nóng và tụt pin nhanh.",
  "spans": [
    {
      "start_idx": 0,
      "end_idx": 36,
      "aspect": "BATTERY",
      "polarity": "POSITIVE",
      "opinion_text": "Pin sạc rất nhanh tầm 1 tiếng là đầy"
    },
    {
      "start_idx": 44,
      "end_idx": 68,
      "aspect": "PERFORMANCE",
      "polarity": "NEGATIVE",
      "opinion_text": "chơi game máy khá nóng"
    },
    {
      "start_idx": 72,
      "end_idx": 85,
      "aspect": "BATTERY",
      "polarity": "NEGATIVE",
      "opinion_text": "tụt pin nhanh"
    }
  ]
}

Phương pháp luận (Methodology)

Quy trình xây dựng dữ liệu và gán nhãn tuân thủ kiểm định chất lượng chặt chẽ qua 4 vòng lặp độc lập giữa các chuyên viên gán nhãn. Độ đồng thuận giữa hai người gán nhãn $i$ và $j$ được đo lường bằng hệ số $F_1\text{-score}$:

$$F_1 = \frac{2 \times |A_i \cap A_j|}{|A_i| + |A_j|}$$

Trong đó $A_i, A_j$ là tập hợp các bộ ba $(d, l, o)$ bao gồm: mã tài liệu $d$, nhãn khía cạnh kèm cảm xúc $l$, và chỉ số vị trí ký tự đầu-cuối $o$. Quy trình chỉ chuyển sang giai đoạn gán nhãn độc lập quy mô lớn khi $F_1\text{-score} > 80%$.

Vòng đo độ đồng thuận gán nhãn (Inter-Annotator Agreement):
Iteration 1: 58.42% ──> Iteration 2: 69.15% ──> Iteration 3: 76.80% ──> Iteration 4: 82.35% (Passed)

Implementation và kết quả

Quy trình phát triển và thuật toán cốt lõi

Bài toán trích xuất chuỗi được chuyển đổi thành bài toán phân loại chuỗi theo sơ đồ gán nhãn IOB2. Với 10 khía cạnh và 3 cực tính cảm xúc, tập nhãn đầu ra bao gồm $10 \times 3 \times 2 + 1 = 61$ nhãn (B-ASPECT#POLARITY, I-ASPECT#POLARITY, O).

1. Cơ chế tính toán tế bào BiLSTM (Long Short-Term Memory)

Tại mỗi bước thời gian $t$, trạng thái ẩn xuôi $\overrightarrow{h_t}$ và ẩn ngược $\overleftarrow{h_t}$ được tính toán qua hệ thống cổng:

$$\begin{aligned} f_t &= \sigma(W_f \cdot [h_{t-1}, x_t] + b_f) \ i_t &= \sigma(W_i \cdot [h_{t-1}, x_t] + b_i) \ \tilde{C}t &= \tanh(W_c \cdot [h{t-1}, x_t] + b_c) \ C_t &= f_t \odot C_{t-1} + i_t \odot \tilde{C}t \ o_t &= \sigma(W_o \cdot [h{t-1}, x_t] + b_o) \ h_t &= o_t \odot \tanh(C_t) \end{aligned}$$

Vector biểu diễn ngữ cảnh hai chiều tại vị trí $t$ là sự kết hợp: $H_t = [\overrightarrow{h_t}; \overleftarrow{h_t}] \in \mathbb{R}^{2d_h}$.

2. Lớp giải mã có cấu trúc CRF (Conditional Random Field)

CRF mô hình hóa phân phối xác suất có điều kiện của toàn bộ chuỗi nhãn $y = (y_1, y_2, \dots, y_n)$ dựa trên chuỗi đầu vào $X$:

$$s(X, y) = \sum_{i=0}^n A_{y_i, y_{i+1}} + \sum_{i=1}^n P_{i, y_i}$$

Trong đó $P \in \mathbb{R}^{n \times k}$ là ma trận điểm phát xạ (emission score) từ đầu ra của BiLSTM, và $A \in \mathbb{R}^{(k+2) \times (k+2)}$ là ma trận chuyển trạng thái (transition score) giữa các nhãn liền kề. Hàm mất mát cực đại hóa log-likelihood:

$$\mathcal{L}{CRF} = -\log p(y|X) = -\left( s(X, y) - \log \sum{\tilde{y} \in Y_X} \exp(s(X, \tilde{y})) \right)$$

import torch
import torch.nn as nn
from TorchCRF import CRF
from transformers import AutoModel

class BiLSTM_CRF_AspectSpan(nn.Module):
    def __init__(self, vocab_size, char_vocab_size, num_tags, 
                 syllable_dim=300, char_dim=100, hidden_dim=256, 
                 transformer_model='xlm-roberta-base'):
        super(BiLSTM_CRF_AspectSpan, self).__init__()
        
        # 1. Multi-level Embedding Layers
        self.syllable_embedding = nn.Embedding(vocab_size, syllable_dim)
        self.char_embedding = nn.Embedding(char_vocab_size, char_dim)
        self.char_lstm = nn.LSTM(char_dim, char_dim // 2, bidirectional=True, batch_first=True)
        self.transformer = AutoModel.from_pretrained(transformer_model)
        
        # 2. Sequence Encoder
        total_input_dim = syllable_dim + char_dim + self.transformer.config.hidden_size
        self.dropout = nn.Dropout(0.3)
        self.bilstm = nn.LSTM(total_input_dim, hidden_dim // 2, 
                              num_layers=2, bidirectional=True, batch_first=True)
        
        # 3. Emission & Structured Decoder
        self.hidden2tag = nn.Linear(hidden_dim, num_tags)
        self.crf = CRF(num_tags, batch_first=True)

    def forward(self, syllable_ids, char_ids, transformer_ids, attention_mask, tags=None):
        # Extract contextual, syllable and character representations
        xlmr_feats = self.transformer(input_ids=transformer_ids, attention_mask=attention_mask)[0]
        syl_feats = self.syllable_embedding(syllable_ids)
        
        batch_sz, seq_len, char_len = char_ids.size()
        char_emb = self.char_embedding(char_ids.view(-1, char_len))
        _, (char_hn, _) = self.char_lstm(char_emb)
        char_feats = char_hn.permute(1, 0, 2).contiguous().view(batch_sz, seq_len, -1)
        
        # Concatenate multi-level features
        combined_feats = torch.cat([syl_feats, char_feats, xlmr_feats], dim=-1)
        bilstm_out, _ = self.bilstm(self.dropout(combined_feats))
        emissions = self.hidden2tag(bilstm_out)
        
        if tags is not None:
            log_likelihood = self.crf(emissions, tags, mask=attention_mask.byte())
            return -log_likelihood
        else:
            return self.crf.decode(emissions, mask=attention_mask.byte())

Thử nghiệm và đánh giá định lượng

Tập dữ liệu UIT-ViSD4SA bao gồm 11.122 nhận xét với 35.396 chuỗi ý kiến được phân chia theo tỷ lệ chuẩn 7:1:2.

Tập dữ liệu UIT-ViSD4SA (Tổng cộng: 35.396 Spans / 11.122 Reviews)
├── Train Set (70%) : 7.784 Reviews ── 24.195 Opinion Spans
├── Dev Set   (10%) : 1.112 Reviews ──  3.467 Opinion Spans
└── Test Set  (20%) : 2.226 Reviews ──  7.734 Opinion Spans

Phân bố dữ liệu theo cực tính cảm xúc và khía cạnh

  • Cực tính cảm xúc: POSITIVE chiếm đa số với 61,68% (21.832 spans), NEGATIVE chiếm 32,07% (11.352 spans), và NEUTRAL chiếm tỷ lệ thấp nhất 6,25% (2.212 spans).
  • Phân bố khía cạnh nổi bật: GENERAL (22,76%), PERFORMANCE (19,51%), BATTERY (15,91%), FEATURES (11,28%), CAMERA (8,81%), STORAGE thấp nhất (0,41%).

Kết quả thực nghiệm mô hình trên tập kiểm thử (Test Set)

Mô hình thử nghiệm Lớp nhúng (Embeddings) Precision (Macro) Recall (Macro) F1-Score (Macro) F1-Score (Micro)
mBERT (Baseline Fine-tuning) Contextual Wordpiece 54.12% 52.80% 53.45% 66.89%
PhoBERT (Fine-tuning) Contextual BPE Token 58.74% 56.32% 57.50% 70.12%
XLM-RoBERTa (Fine-tuning) Contextual SentencePiece 61.20% 59.85% 60.52% 73.40%
BiLSTM-CRF Syllable (Word2Vec) 52.30% 50.15% 51.20% 64.15%
BiLSTM-CRF Syllable + Character 55.40% 53.25% 54.30% 67.80%
BiLSTM-CRF (Đề xuất) Syllable + Char + XLM-R 63.85% 61.72% 62.76% 75.82% 
Hiệu năng F1-Score (Macro) giữa các kiến trúc:
BiLSTM-CRF (Syllable)              : 51.20%  [██████████████░░░░░░░░]
mBERT Fine-tuning                  : 53.45%  [███████████████░░░░░░░]
BiLSTM-CRF (Syllable+Char)         : 54.30%  [███████████████▍░░░░░░]
PhoBERT Fine-tuning                : 57.50%  [████████████████▍░░░░░]
XLM-RoBERTa Fine-tuning            : 60.52%  [█████████████████▍░░░░]
BiLSTM-CRF + Multi-Emb (Đề xuất)   : 62.76%  [██████████████████▌░░░]

Đổi mới và đóng góp

  1. Đóng góp bộ dữ liệu chuẩn quy mô lớn đầu tiên cho ABSA Span Detection tiếng Việt: Xây dựng hoàn chỉnh bộ ngữ liệu UIT-ViSD4SA với 35.396 spans được gán nhãn thủ công nghiêm ngặt. Đây là tài nguyên tiên phong cho phép nghiên cứu bài toán trích xuất chuỗi ý kiến có giải thích tại Việt Nam, khắc phục triệt để khoảng trống nghiên cứu của các tập dữ liệu trước đó (như VLSP chỉ phân loại mức độ câu).

  2. Kiến trúc mạng kết hợp biểu diễn đa tầng (Tri-level Feature Fusion): Chứng minh thực nghiệm rằng việc kết hợp đồng thời ba tầng biểu diễn: Syllable Embedding (ngữ nghĩa đơn vị âm tiết tiếng Việt), Character Embedding (bắt đặc trưng teencode/lỗi chính tả), và XLM-RoBERTa Contextualized Embedding (ngữ cảnh sâu rộng) giúp tăng 8.46% F1-score so với mô hình BiLSTM-CRF cơ sở.

  3. Cơ chế phân giải nhãn chuỗi có cấu trúc với CRF: Khác với việc dự đoán nhãn độc lập tại từng token bằng softmax thông thường của các mô hình Transformer (dễ dẫn đến lỗi vi phạm cú pháp nhãn IOB như nhãn I- xuất hiện trước B-), lớp CRF áp đặt ma trận chuyển đổi hợp lệ giữa các nhãn liền kề, giúp cải thiện độ chính xác phân ranh giới chuỗi (boundary detection) thêm 2.24% Macro F1.

Ứng dụng thực tế và triển khai

Tình huống ứng dụng thực tế (Use Cases)

  • Hệ thống lọc đánh giá thông minh cho sàn TMĐT: Cho phép khách hàng tìm kiếm trực tiếp các phản hồi theo từng khía cạnh chi tiết. Ví dụ: Người dùng chỉ cần nhấp vào bộ lọc "Pin" để xem toàn bộ các đoạn văn bản khen/chê thời lượng pin mà không cần đọc hết các đánh giá dài.
  • Nền tảng lắng nghe mạng xã hội (Social Listening & Business Intelligence): Tự động tổng hợp và vẽ biểu đồ phân tích điểm mạnh/yếu của các dòng điện thoại đối thủ cạnh tranh theo thời gian thực dựa trên luồng thảo luận từ diễn đàn và mạng xã hội.
flowchart LR
    Client["Client App / Web"] --> API["FastAPI Gateway (/v1/extract-spans)"]
    API --> Preprocess["Text Normalizer (Teencode/Regex)"]
    Preprocess --> Engine["Triton Inference Server (BiLSTM-CRF + XLM-R)"]
    Engine --> Aggregator["Aspect-Sentiment Aggregator"]
    Aggregator --> DB[("PostgreSQL / Elasticsearch")]
    Aggregator --> Response["JSON Response (Spans & Analytics)"]

Yêu cầu triển khai hệ thống (Deployment Architecture)

  • Hạ tầng tối thiểu:
    • CPU: 4 Cores (Intel Xeon / AMD EPYC).
    • RAM: 8 GB.
    • GPU: 1x NVIDIA T4 hoặc GPU hỗ trợ TensorRT để tối ưu hóa độ trễ suy luận.
    • Lưu trữ: 20 GB SSD.
  • Độ trễ suy luận (Inference Latency): Đạt $\approx 45\text{ms}$ trên mỗi bình luận văn bản có độ dài trung bình 50 từ khi chạy với Triton Inference Server (Batch size = 16).

Hạn chế và hướng phát triển

Hạn chế kỹ thuật hiện tại

  • Mất cân bằng dữ liệu nghiêm trọng: Tỷ lệ mẫu của khía cạnh STORAGE (0,41%) và cực tính NEUTRAL (6,25%) quá thấp dẫn đến F1-score của các lớp thiểu số này chỉ đạt mức 28–35%.
  • Chưa giải quyết triệt để ranh giới nhập nhằng: Các chuỗi nhận xét đa nghĩa hoặc nói mỉa (sarcasm) như "Máy dùng mùa đông không cần lò sưởi" mô hình có xu hướng nhận dạng nhầm sang FEATURES#POSITIVE thay vì PERFORMANCE#NEGATIVE.
  • Hiện tượng phân mảnh chuỗi (Span Fragmentation): Các ý kiến có liên kết phụ thuộc xa bị ngắt quãng bởi mệnh đề quan hệ chưa được nhóm thành một thực thể trích xuất thống nhất.

Hướng phát triển trong tương lai

  • Ứng dụng mô hình Đọc hiểu tự động (Machine Reading Comprehension - MRC): Chuyển đổi bài toán gán nhãn chuỗi sang bài toán trả lời câu hỏi dạng Span Extraction (ví dụ: truy vấn "Khía cạnh pin của máy như thế nào?" $\rightarrow$ Answer span).
  • Áp dụng kỹ thuật sinh sinh chuỗi có điều kiện với LLM: Tinh chỉnh (Fine-tuning) các mô hình ngôn ngữ lớn như Llama-3-8B-Instruct hoặc Qwen-2.5 bằng phương pháp LoRA / QLoRA cho tác vụ trích xuất cấu trúc quan hệ bộ 4 (Aspect, Category, Opinion Span, Sentiment Polarity).

Đối tượng hưởng lợi

+-----------------------------------------------------------------------------------+
|                            ĐỐI TƯỢNG HƯỞNG LỢI TRỰC TIẾP                          |
+--------------------------+--------------------------------------------------------+
| 1. Sinh viên & Học viên  | Nguồn tài liệu tham khảo chuẩn mực về phương pháp      |
|    Khoa học Dữ liệu      | gán nhãn dữ liệu NLP và kỹ thuật Sequence Tagging.    |
+--------------------------+--------------------------------------------------------+
| 2. Kỹ sư NLP             | Khung mã nguồn PyTorch hoàn chỉnh kết hợp Transformer  |
|    & Nhà phát triển AI   | với CRF để giải quyết các bài toán trích xuất thực thể |
+--------------------------+--------------------------------------------------------+
| 3. Doanh nghiệp TMĐT     | Tích hợp hệ thống phân tích phản hồi khách hàng tự     |
|    & Bán lẻ Công nghệ    | động, tăng tỷ lệ chuyển đổi mua hàng (Conversion Rate).|
+--------------------------+--------------------------------------------------------+
| 4. Cộng đồng Nghiên cứu  | Bộ dữ liệu điểm chuẩn UIT-ViSD4SA công khai, thúc đẩy  |
|    Xử lý Ngôn ngữ VN     | nghiên cứu sâu hơn về ABSA giải thích được.            |
+--------------------------+--------------------------------------------------------+

Câu hỏi thường gặp

1. Cần cấu hình phần cứng tối thiểu nào để huấn luyện lại mô hình BiLSTM-CRF + XLM-R?

Để tái huấn luyện toàn bộ kiến trúc trên tập dữ liệu UIT-ViSD4SA, cấu hình khuyến nghị tối thiểu là GPU có VRAM từ 12GB trở lên (như NVIDIA RTX 3060, T4 hoặc V100), RAM hệ thống tối thiểu 16GB, và thời gian huấn luyện dao động khoảng 3–4 giờ cho 30 epochs với batch size 32.

2. Làm thế nào để giải quyết vấn đề mất cân bằng dữ liệu giữa các nhãn khía cạnh?

Có thể áp dụng hai kỹ thuật chính:

  1. Loss Function Weighting: Áp dụng trọng số nghịch đảo tần suất xuất hiện nhãn vào hàm mất mát Focal Loss hoặc Weighted Cross-Entropy Loss.
  2. Data Augmentation: Tăng cường dữ liệu cho các nhãn hiếm (STORAGE, NEUTRAL) thông qua kỹ thuật dịch ngược (Back-translation), thay thế từ đồng nghĩa bằng từ điển ngữ nghĩa tiếng Việt, hoặc sử dụng GPT-4 để sinh thêm các mẫu tổng hợp (Synthetic Data).

3. Tại sao không sử dụng trực tiếp mô hình PhoBERT hoặc XLM-RoBERTa nguyên bản mà phải kết hợp BiLSTM-CRF?

Các mô hình Transformer nguyên bản sử dụng lớp Linear + Softmax để phân loại độc lập từng token. Cách tiếp cận này bỏ qua mối tương quan chuyển tiếp giữa các nhãn liền kề trong sơ đồ IOB (ví dụ: sau nhãn B-CAMERA#POSITIVE chỉ có thể là I-CAMERA#POSITIVE hoặc O, tuyệt đối không thể là I-BATTERY#NEGATIVE). Lớp CRF giải quyết triệt để ràng buộc cú pháp này thông qua ma trận chuyển đổi nhãn $A$.

4. Hệ thống xử lý các từ viết tắt và teencode tiếng Việt như thế nào?

Kiến trúc tích hợp tầng Character Embedding thông qua mạng nơ-ron tích chập (CNN) hoặc BiLSTM cấp độ ký tự. Bộ mã hóa ký tự trích xuất được hình thái học của các biến thể từ ngữ (ví dụ: "ko", "hok", "k" $\rightarrow$ mang đặc trưng tương đồng với "không"), giúp mô hình duy trì hiệu năng nhận dạng cao mà không bị phụ thuộc hoàn toàn vào từ điển tĩnh.

5. Chi phí vận hành API trích xuất chuỗi ý kiến trên môi trường Production là bao nhiêu?

Khi triển khai mô hình đã được lượng tử hóa (Quantization INT8) trên dịch vụ điện toán đám mây (Cloud Serverless hoặc GPU Spot Instance như AWS g4dn.xlarge chạy NVIDIA T4), chi phí ước tính khoảng 0,00015 USD trên mỗi 1.000 bình luận, đảm bảo thời gian hoàn vốn đầu tư (ROI) nhanh chóng cho các sàn thương mại điện tử quy mô vừa và lớn.

Kết luận

Đồ án tốt nghiệp "Nhận dạng chuỗi ý kiến cho phân tích cảm xúc dựa trên khía cạnh bình luận điện thoại thông minh trên tiếng Việt" đã giải quyết trọn vẹn bài toán trích xuất chi tiết quan điểm người dùng ở cấp độ chuỗi văn bản cụ thể. Với việc công bố bộ dữ liệu chuẩn UIT-ViSD4SA gồm 35.396 spans và đề xuất kiến trúc BiLSTM-CRF kết hợp đa tầng biểu diễn nhúng đạt điểm số 62,76% Macro F1, nghiên cứu không chỉ mang lại giá trị học thuật đóng góp cho cộng đồng Xử lý Ngôn ngữ Tự nhiên tiếng Việt mà còn mở ra tiềm năng thương mại hóa lớn trong việc nâng cao trải nghiệm người dùng trên các nền tảng thương mại điện tử hiện đại.