Giới thiệu dự án

Sự bùng nổ của Trí tuệ nhân tạo (AI) và Học sâu (Deep Learning - DL) trong thập kỷ qua đã định hình lại các ngành công nghiệp từ tài chính, thương mại điện tử đến chăm sóc sức khỏe. Các mô hình mạng nơ-ron phức tạp như BiLSTM, CNN-LSTM hay Transformer liên tục thiết lập kỷ lục mới về độ chính xác (State-of-the-Art - SOTA). Tuy nhiên, rào cản lớn nhất ngăn cản việc triển khai AI trên quy mô diện rộng trong các nghiệp vụ quan trọng chính là bản chất "hộp đen" (Black-box model). Theo các báo cáo từ Gartner và Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST), hơn 80% doanh nghiệp gặp khó khăn trong việc tin tưởng và tuân thủ pháp lý khi sử dụng các mô hình AI không thể giải thích được lý do đưa ra quyết định.

Vấn đề cốt lõi nảy sinh trong bài toán Phân tích cảm xúc (Sentiment Analysis) và Xử lý ngôn ngữ tự nhiên (NLP): một mô hình có thể phân loại chính xác câu đánh giá là "Tích cực" hay "Tiêu cực", nhưng các kỹ sư và chuyên viên nghiệp vụ không thể biết từ ngữ hay cụm từ ngữ cảnh nào đã kích hoạt quyết định đó. Điều này tạo ra rủi ro nghiêm trọng về độ thiên vị (bias), ảo giác dữ liệu và lỗ hổng bảo mật dạng tấn công đối kháng (adversarial attacks).

Đồ án tốt nghiệp chuyên ngành Kỹ thuật Dữ liệu tại Trường Đại học Sư phạm Kỹ thuật TP.HCM với đề tài "Tìm hiểu về Explainable AI và ứng dụng" do sinh viên Lại Hữu Trác và Nguyễn Duy Phước thực hiện dưới sự hướng dẫn của ThS. Quách Đình Hoàng tập trung giải quyết triệt để bài toán mở hộp đen AI. Đề tài xây dựng khung nghiên cứu lý thuyết chuyên sâu và phát triển ứng dụng thực nghiệm giải thích các mô hình phân loại cảm xúc văn bản dựa trên các kỹ thuật XAI tiên tiến.

flowchart LR
    A[Dữ liệu văn bản đầu vào] --> B[Mô hình phân loại Black-Box: BiLSTM / CNN-LSTM]
    B --> C[Kết quả dự đoán Cảm xúc]
    A --> D[Module Explainable AI: LIME / SHAP / Anchors]
    B --> D
    D --> E[Trực quan hóa trọng số từ ngữ & Quy tắc giải thích]
    E --> F[Người dùng / Chuyên gia đánh giá độ tin cậy]

Mục tiêu dự án

  1. Hệ thống hóa cơ sở lý thuyết XAI: Nghiên cứu toàn diện các phương pháp giải thích cục bộ (Local Explanations) và toàn cục (Global Explanations) bao gồm LIME, SHAP, Anchors, ICE, PDP và Feature Interaction (H-statistic).
  2. Xây dựng Pipeline phân loại cảm xúc: Triển khai và tối ưu hóa 4 kiến trúc học máy và học sâu: Logistic Regression, Support Vector Machine (SVM), CNN-LSTM và Bi-directional LSTM (BiLSTM) trên dữ liệu văn bản.
  3. Phát triển ứng dụng tương tác Explainable Dashboard: Xây dựng hệ thống trực quan hóa tương tác dựa trên Streamlit, cho phép người dùng nhập văn bản tùy ý, quan sát dự đoán của mô hình và bóc tách trực tiếp mức độ đóng góp của từng token thông qua LIME và SHAP.
  4. Đánh giá và so sánh thực nghiệm: Định lượng độ trung thực cục bộ (local fidelity), tính ổn định và thời gian phản hồi của từng phương pháp giải thích trên các kiến trúc mô hình khác nhau.

Phạm vi và giới hạn

  • Phạm vi dữ liệu: Tập trung vào dữ liệu văn bản phân tích cảm xúc (Sentiment Analysis) ở cấp độ câu (Sentence Level) và khía cạnh (Aspect Level).
  • Phạm vi kỹ thuật: Áp dụng các phương pháp giải thích hậu nghiệm độc lập mô hình (Post-hoc Model-Agnostic) gồm LIME, KernelSHAP, TreeSHAP kết hợp đối soát với Anchors và PDP/ICE.
  • Giới hạn: Nghiên cứu chưa đi sâu vào việc tinh chỉnh trực tiếp trọng số nội tại của mô hình (Intrinsic Explainability) mà tập trung vào phương pháp xấp xỉ hành vi bên ngoài (Surrogate Modeling).

Phân tích và thiết kế giải pháp

Phân tích hiện trạng

Trước khi XAI trở thành tiêu chuẩn bắt buộc, việc đánh giá mô hình học máy chủ yếu dựa vào các chỉ số toàn cục như Accuracy, Precision, Recall và F1-Score. Các phương pháp diễn giải truyền thống (như độ quan trọng đặc trưng dựa trên hoán vị - Permutation Feature Importance) không thể chỉ ra nguyên nhân cho từng trường hợp dự đoán cá lẻ.

Phương pháp Loại giải thích Cơ chế hoạt động Ưu điểm Nhược điểm
Permutation Importance Toàn cục (Global) Hoán vị ngẫu nhiên giá trị của từng feature và đo lường độ giảm hiệu năng Đơn giản, dễ cài đặt trên mọi mô hình Bỏ qua tương tác phức tạp giữa các feature, không giải thích được từng dự đoán đơn lẻ
LIME Cục bộ (Local) Sinh mẫu xáo trộn lân cận (perturbation), gắn trọng số theo khoảng cách và huấn luyện mô hình tuyến tính đại diện Độc lập mô hình, trực quan hóa từ ngữ cực kỳ rõ ràng, tốc độ xử lý nhanh Tính ổn định mẫu phụ thuộc vào kích thước lân cận ($\pi_x$), thiếu nền tảng lý thuyết trò chơi
SHAP (Kernel/Tree) Toàn cục & Cục bộ Dựa trên giá trị Shapley từ lý thuyết trò chơi liên minh, tính đóng góp cận biên của feature Chặt chẽ về toán học, đảm bảo tính cộng tính (additivity) và tính nhất quán Chi phí tính toán cao đối với KernelSHAP ($O(2^{
Anchors Cục bộ (Rule-based) Sử dụng thuật toán Multi-Armed Bandit và Beam Search để tìm tập quy tắc IF-THEN bao phủ vùng dự đoán Cung cấp điều kiện đủ rõ ràng, có khái niệm độ phủ (Coverage) Độ phức tạp tăng nhanh khi không gian đặc trưng lớn, thời gian tìm kiếm lâu

Ma trận ưu tiên yêu cầu hệ thống (MoSCoW)

  • Must Have (Bắt buộc):
    • Module tiền xử lý văn bản, Word Embedding (TF-IDF, Tokenizer vectorization).
    • Khả năng huấn luyện và lưu trữ các mô hình phân loại: Logistic Regression, SVM, BiLSTM, CNN-LSTM.
    • Tích hợp thành công thuật toán LIME Text Explainer và SHAP Text Explainer.
    • Giao diện web trực quan hiển thị highlight màu sắc theo trọng số dương/tiêu cực của từ.
  • Should Have (Nên có):
    • Khả năng chuyển đổi linh hoạt giữa các mô hình và phương pháp giải thích thông qua UI.
    • Biểu đồ phân bổ giá trị Shapley (Force Plot / Waterfall Plot) cho từng câu đầu vào.
    • Đánh giá thời gian thực thi (Latency Benchmark) giữa LIME và SHAP.
  • Could Have (Có thể có):
    • Mở rộng hỗ trợ quy tắc Anchors IF-THEN trên giao diện Streamlit.
    • Đồ thị phụ thuộc riêng phần (PDP) và kiểm định tương tác Friedman's H-statistic cho các thuộc tính văn bản.
  • Won't Have (Chưa thực hiện):
    • Tự động điều chỉnh siêu tham số mô hình học sâu theo thời gian thực trực tiếp trên Web UI.

Thiết kế hệ thống

Kiến trúc hệ thống được thiết kế theo mô hình phân tầng mô-đun hóa cao (Modular Multi-tier Architecture), tách biệt giữa tầng xử lý mô hình, tầng động cơ XAI và tầng giao diện người dùng.

graph TD
    subgraph UI_Layer [Tầng Giao Diện - Streamlit Engine]
        A1[Text Input Box] --> A2[Model Selector]
        A2 --> A3[XAI Method Selector: LIME / SHAP]
        A3 --> A4[Interactive Visualizer Component]
    end

    subgraph Service_Layer [Tầng Nghiệp Vụ & Suy Luận]
        B1[Text Preprocessing & Tokenizer]
        B2[Inference Engine]
        B3[XAI Controller]
    end

    subgraph Core_Models [Tầng Mô Hình Học Máy & Học Sâu]
        C1[Logistic Regression - Scikit-learn]
        C2[SVM Classifier - Scikit-learn]
        C3[BiLSTM Network - TensorFlow/Keras]
        C4[CNN-LSTM Hybrid - TensorFlow/Keras]
    end

    subgraph XAI_Engines [Tầng Thuật Toán Giải Thích]
        D1[LIME Text Explainer]
        D2[SHAP Kernel/Tree Explainer]
        D3[Anchors / PDP Analysis Module]
    end

    UI_Layer --> Service_Layer
    Service_Layer --> Core_Models
    Service_Layer --> XAI_Engines
    Core_Models -.-> B2
    XAI_Engines -.-> B3

Technology Stack và Phiên bản

  • Ngôn ngữ nền tảng: Python 3.9.16 (đảm bảo tính tương thích cao với các thư viện nơ-ron và giải thích).
  • Thư viện Máy học & Học sâu:
    • tensorflow / keras (v2.12.0): Xây dựng kiến trúc CNN-LSTM và BiLSTM.
    • scikit-learn (v1.2.2): Triển khai Logistic Regression, Linear/RBF SVM, TfidfVectorizer.
    • numpy (v1.23.5) & pandas (v1.5.3): Xử lý ma trận dữ liệu và cấu trúc bảng.
  • Thư viện Explainable AI:
    • lime (v0.2.0.1): Cung cấp module LimeTextExplainer cho dữ liệu chuỗi.
    • shap (v0.42.1): Cung cấp KernelExplainer, TreeExplainer và shap.plots.text.
    • alibi (v0.9.3): Tích hợp thuật toán Anchors và Counterfactuals.
  • Giao diện & Trực quan hóa:
    • streamlit (v1.24.0): Xây dựng dashboard tương tác ứng dụng web SPA (Single Page Application).
    • matplotlib (v3.7.1) & seaborn (v0.12.2): Xuất biểu đồ phân tích ICE/PDP tĩnh.

Phương pháp nghiên cứu (Methodology)

Dự án áp dụng quy trình phát triển theo chuẩn nghiên cứu khoa học dữ liệu kết hợp mô hình Agile:

  1. Giai đoạn 1 (Khảo sát lý thuyết & Tiền xử lý dữ liệu): Nghiên cứu toán học đằng sau các hàm mất mát XAI, thu thập bộ dữ liệu phân tích cảm xúc tiếng Anh/tiếng Việt, chuẩn hóa văn bản (Lowercasing, Tokenization, Stopwords removal, Vectorization).
  2. Giai đoạn 2 (Xây dựng mô hình Baseline & Deep Learning): Huấn luyện mô hình từ tuyến tính (Logistic Regression, SVM) đến mạng nơ-ron sâu (CNN-LSTM, BiLSTM), tối ưu hóa hàm mất mát categorical_crossentropy với thuật toán Adam.
  3. Giai đoạn 3 (Tích hợp động cơ XAI): Thiết lập pipeline xấp xỉ cục bộ với LIME (Loss function optimization) và tính toán liên minh Shapley với SHAP.
  4. Giai đoạn 4 (Phát triển giao diện & Đánh giá): Đóng gói hệ thống vào dashboard Streamlit, tiến hành kiểm thử thực nghiệm (Functional Testing & User Acceptance Testing).

Implementation và kết quả

Quy trình phát triển và Thuật toán cốt lõi

1. Toán học và Thuật toán LIME

LIME tìm kiếm mô hình giải thích $g \in G$ (ví dụ: mô hình hồi quy tuyến tính) bằng cách tối thiểu hóa độ lệch so với mô hình gốc $f$ trên vùng lân cận $\pi_x$, đồng thời kiểm soát độ phức tạp $\Omega(g)$:

$$\xi(x) = \arg\min_{g \in G} \mathcal{L}(f, g, \pi_x) + \Omega(g)$$

Trong đó:

  • $f(x)$: Dự đoán từ mô hình nơ-ron phân loại cảm xúc gốc.
  • $g(z') = w_g \cdot z'$: Mô hình tuyến tính giải thích cục bộ.
  • $\pi_x(z) = \exp(-D(x,z)^2 / \sigma^2)$: Hàm khoảng cách hàm mũ định nghĩa phạm vi lân cận của mẫu $x$.
import numpy as np
from lime.lime_text import LimeTextExplainer

class SentimentExplanationService:
    def __init__(self, model_pipeline, class_names=['Negative', 'Positive']):
        self.pipeline = model_pipeline
        self.class_names = class_names
        self.explainer = LimeTextExplainer(
            class_names=self.class_names,
            bow=False,
            mode='classification'
        )

    def explain_instance(self, text_instance: str, num_features: int = 6):
        """
        Tạo lời giải thích LIME cho một câu văn bản đầu vào.
        """
        predict_fn = self.pipeline.predict_proba
        exp = self.explainer.explain_instance(
            text_instance=text_instance,
            classifier_fn=predict_fn,
            num_features=num_features,
            num_samples=1000
        )
        return exp

2. Toán học và Thuật toán SHAP (Shapley Additive Explanations)

SHAP phân bổ giá trị đóng góp $\phi_j$ cho từng thuộc tính $j$ thông qua giá trị Shapley trung bình trên tất cả các tập liên minh $S \subseteq M \setminus {j}$:

$$\phi_j(x) = \sum_{S \subseteq M \setminus {j}} \frac{|S|!(|M| - |S| - 1)!}{|M|!} \left[ f_x(S \cup {j}) - f_x(S) \right]$$

Biểu diễn mô hình giải thích cộng tính:

$$g(z') = \phi_0 + \sum_{j=1}^M \phi_j z'_j$$

import shap

def explain_with_shap(model_predict_fn, tokenizer, sample_text: str):
    """
    Sinh giá trị SHAP cho phân loại văn bản sử dụng Partition/Kernel Explainer.
    """
    # Khởi tạo explainer độc lập cho text
    explainer = shap.Explainer(model_predict_fn, tokenizer)
    shap_values = explainer([sample_text])
    
    # shap_values[0, :, 'Positive'] chứa giá trị phân bổ Shapley cho nhãn Positive
    return shap_values

3. Cấu trúc mô hình Deep Learning (CNN-LSTM & BiLSTM)

Mô hình kết hợp lớp Convolution 1D để trích xuất đặc trưng cụm từ (n-grams), theo sau bởi lớp Bidirectional LSTM để nắm bắt phụ thuộc ngữ cảnh hai chiều:

import tensorflow as tf
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Embedding, Conv1D, MaxPooling1D, Bidirectional, LSTM, Dense, Dropout

def build_cnn_bilstm_model(vocab_size=10000, embedding_dim=128, max_len=100, num_classes=2):
    model = Sequential([
        Embedding(input_dim=vocab_size, output_dim=embedding_dim, input_length=max_len),
        Conv1D(filters=64, kernel_size=3, padding='same', activation='relu'),
        MaxPooling1D(pool_size=2),
        Bidirectional(LSTM(64, return_sequences=False, dropout=0.2, recurrent_dropout=0.2)),
        Dense(64, activation='relu'),
        Dropout(0.5),
        Dense(num_classes, activation='softmax')
    ])
    model.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])
    return model

Thử nghiệm và Đánh giá (Testing & Validation)

Hệ thống được thử nghiệm trên bộ dữ liệu đánh giá cảm xúc chuẩn, phân chia theo tỷ lệ 80% Training - 20% Testing.

1. Hiệu năng phân loại của các mô hình cơ sở

Mô hình phân loại Kiến trúc / Đặc trưng Train Accuracy Test Accuracy F1-Score (Macro) Inference Latency (Batch=1)
Logistic Regression TF-IDF (Max Features=5000) 88.4% 85.2% 0.851 1.8 ms
SVM (Linear Kernel) TF-IDF (Max Features=5000) 91.2% 86.8% 0.867 2.4 ms
CNN-LSTM Embedding(128) + Conv1D + LSTM 94.6% 88.5% 0.884 14.2 ms
BiLSTM Embedding(128) + 2x LSTM(64) 96.1% 89.7% 0.896 18.6 ms

2. Đánh giá độ tin cậy và hiệu năng của các phương pháp XAI

Phương pháp XAI Mô hình giải thích Độ ổn định giải thích (Stability Score) Thời gian sinh giải thích trung bình Độ trung thực cục bộ ($R^2$ Score)
LIME BiLSTM (Black-box) 86.4% 0.38 giây / câu 0.912
KernelSHAP BiLSTM (Black-box) 95.8% 3.45 giây / câu 0.968
TreeSHAP Random Forest / XGBoost 98.2% 0.04 giây / câu 0.991
Anchors BiLSTM (Black-box) 89.1% 1.82 giây / câu 0.935 (Precision $\ge 0.95$) 
[Biểu đồ phân tích thực nghiệm]
BiLSTM Accuracy: 89.7% | CNN-LSTM: 88.5% | SVM: 86.8% | Logistic Regression: 85.2%
LIME Execution Latency: ~380ms/sample (Phù hợp cho Real-time UI)
SHAP Execution Latency: ~3450ms/sample (Phù hợp cho Deep Audit & Batch Reporting)

Kết quả đạt được

  • Về tính năng: Xây dựng thành công ứng dụng Streamlit cho phép nhập câu đánh giá trực tiếp (ví dụ: "Màn hình máy tính rất sắc nét nhưng thời lượng pin quá tệ"), trả về dự đoán cảm xúc (Negative 68%) và hiển thị trực quan:
    • Token "sắc nét" đóng góp +0.42 vào nhãn Positive.
    • Token "quá tệ" đóng góp -0.78 nghiêng hẳn về nhãn Negative.
    • Token "nhưng" đóng vai trò liên từ nghịch hướng làm suy giảm tác động của cụm từ đứng trước.
  • Về độ chính xác & minh bạch: Đạt tỷ lệ giải thích tương quan chính xác 100% với các trường hợp kiểm thử biên (edge cases) và kiểm định được hiện tượng học vẹt (spurious correlations) trong tập dữ liệu.

Đổi mới và đóng góp

  1. Khung giải thích đa cấp độ (Multi-level Explainability Framework): Thay vì chỉ áp dụng một kỹ thuật đơn lẻ, nghiên cứu đã tích hợp cả phương pháp cộng tính (LIME, SHAP) và phương pháp quy tắc logic (Anchors), mang lại góc nhìn đa chiều từ trọng số token đến biểu thức quyết định IF-THEN.
  2. Khắc phục điểm yếu tính toán của KernelSHAP trên NLP: Đề xuất cơ chế tối ưu hóa số lượng mẫu xáo trộn (perturbation sampling) trong LIME và cấu hình phân vùng token trong SHAP, giúp giảm thời gian sinh giải thích từ 8.5 giây xuống còn 3.45 giây trên môi trường CPU tiêu chuẩn mà vẫn duy trì độ hội tụ $R^2 > 0.90$.
  3. Cầu nối giữa Kỹ thuật Dữ liệu và Trải nghiệm Người dùng: Thiết kế giao diện giải thích đạt chuẩn 4 nguyên tắc của NIST (Explanation, Meaningful, Explanation accuracy, Knowledge limits), hỗ trợ cả chuyên gia AI lẫn người dùng phổ thông hiểu cặn kẽ hành vi phân loại.

Ứng dụng thực tế và triển khai

Kịch bản ứng dụng thực tế

  • Giám sát chất lượng dịch vụ khách hàng (Customer Sentiment Intelligence): Tự động phân loại hàng triệu đánh giá sản phẩm trên sàn thương mại điện tử, đồng thời bóc tách nguyên nhân khiến khách hàng bức xúc (như "giao hàng trễ", "hư hỏng bao bì") để phản hồi tự động.
  • Hệ thống đánh giá tín dụng và phòng chống gian lận (FinTech & Banking): Khi mô hình học máy từ chối hồ sơ vay, hệ thống XAI cung cấp chính xác tiêu chí dẫn đến quyết định (thu nhập không ổn định, dư nợ quá hạn), đáp ứng trực tiếp quy định của Ngân hàng Nhà nước và quyền được giải thích của khách hàng (Right to Explanation - GDPR).
  • Hỗ trợ phân tích bệnh án điện tử (Healthcare NLP): Trích xuất cảm xúc và trạng thái triệu chứng của bệnh nhân từ ghi chép lâm sàng của bác sĩ, hiển thị rõ cụm từ y khoa làm cơ sở cho chẩn đoán nguy cơ cao.

Chiến lược triển khai (Deployment Architecture)

  • Containerization: Đóng gói toàn bộ ứng dụng, pipeline và trọng số mô hình vào Docker Image tối ưu hóa dung lượng (<1.5 GB).
  • Microservices Deployment: Tách biệt API suy luận (FastAPI chạy trên GPU/CPU clusters) và Dashboard giao diện (Streamlit).
  • Caching Layer: Sử dụng Redis Cache để lưu kết quả giải thích cho các mẫu câu tương đồng, giảm thiểu 85% tải tính toán lặp lại cho module SHAP.

Hạn chế và hướng phát triển

Hạn chế kỹ thuật

  • Chi phí tính toán của SHAP: Việc tính toán tổ hợp tất cả các liên minh từ ngữ trong câu dài (>150 từ) đối với KernelSHAP vẫn tốn nhiều tài nguyên xử lý.
  • Xử lý từ ghép tiếng Việt: Việc phân tách từ (Tokenization) tiếng Việt đa âm tiết (ví dụ: "thời lượng pin", "dịch vụ khách hàng") đôi khi bị phân mảnh nếu không có từ điển chuyên biệt trước khi đưa vào mô hình XAI.

Hướng phát triển tương lai

  • Tích hợp XAI cho Mô hình Ngôn ngữ Lớn (LLMs): Mở rộng các kỹ thuật Attention Rollout, Integrated Gradients và Prompt Attribution cho các mô hình Transformer SOTA như RoBERTa, PhoBERT, Llama 3.
  • Tối ưu hóa phần cứng: Biên dịch động cơ tính toán Shapley sang C++/CUDA để đạt tốc độ giải thích thời gian thực (<50ms/request).
  • Phát triển cơ chế Counterfactual Explanation tự động: Gợi ý cho người dùng cách chỉnh sửa văn bản tối thiểu để đảo ngược quyết định phân loại của mô hình.

Đối tượng hưởng lợi

mindmap
  root((Hệ Sinh Thái XAI))
    Sinh viên & Nghiên cứu sinh
      Hiểu rõ cơ chế toán học LIME & SHAP
      Nền tảng thực nghiệm đồ án tốt nghiệp chuẩn mực
    Kỹ sư AI & Data Scientists
      Công cụ debug mô hình học sâu
      Phát hiện bias và overfitting dữ liệu
    Doanh nghiệp & Quản lý
      Tuân thủ pháp lý AI quốc tế
      Tăng độ tin cậy từ khách hàng và đối tác
    Chuyên gia nghiệp vụ & Người dùng cuối
      Hiểu lý do đằng sau quyết định tự động
      Tương tác hai chiều minh bạch với AI
  • Sinh viên & Nghiên cứu sinh: Tiếp cận tài liệu tổng quan toàn diện về toán học XAI, nắm vững phương pháp so sánh thực nghiệm giữa LIME, SHAP, Anchors, PDP/ICE và quy trình triển khai ứng dụng thực tế.
  • Kỹ sư AI & Lập trình viên: Sở hữu framework mẫu để tích hợp khả năng giải thích vào các dự án sản phẩm thực tế; tối ưu hóa quy trình kiểm thử và phát hiện lỗi dữ liệu.
  • Doanh nghiệp: Đảm bảo hệ thống AI tuân thủ các quy chuẩn đạo đức và pháp lý (EU AI Act, ISO/IEC 42001), hạn chế rủi ro kiện tụng do quyết định sai lệch.
  • Người dùng cuối: Được minh bạch hóa quyền lợi, nhận được câu trả lời thuyết phục thay vì chỉ nhận kết quả phân loại thô từ hệ thống.

Câu hỏi thường gặp

1. Cần cấu hình phần cứng như thế nào để triển khai hệ sinh thái này?

Hệ thống có thể chạy mượt mà trên môi trường CPU tiêu chuẩn:

  • Tối thiểu: CPU 4 Cores, RAM 8GB, ổ cứng 5GB dung lượng trống (đáp ứng chạy mô hình Logistic Regression, SVM, BiLSTM và LIME).
  • Khuyến nghị cho Production: CPU 8 Cores, RAM 16GB, kèm NVIDIA GPU (T4 hoặc RTX 3060 trở lên) để tăng tốc độ huấn luyện mô hình Deep Learning và tính toán SHAP phân vùng lớn.

2. Sự khác biệt cốt lõi giữa LIME và SHAP trong phân tích văn bản là gì?

  • LIME tập trung vào việc tạo ra một mặt phẳng tuyến tính cục bộ quanh điểm dữ liệu bằng cách xáo trộn (thay thế hoặc xóa từ). LIME chạy rất nhanh và trực quan nhưng kết quả có thể thay đổi nhẹ giữa các lần chạy do yếu tố ngẫu nhiên trong lấy mẫu.
  • SHAP dựa trên lý thuyết trò chơi hợp tác của Lloyd Shapley, đảm bảo phân bổ duy nhất và công bằng toàn bộ điểm số dự đoán cho từng từ. SHAP có độ ổn định tuyệt đối nhưng đòi hỏi chi phí tính toán cao hơn LIME.

3. Có thể tích hợp pipeline XAI này vào hệ thống microservices có sẵn không?

Hoàn toàn khả thi. Toàn bộ logic giải thích (LIME/SHAP Engine) được đóng gói độc lập dưới dạng Python Class. Doanh nghiệp có thể tích hợp trực tiếp vào RESTful API (FastAPI/Flask) hoặc gRPC Service để trả về kết quả JSON chứa danh sách token kèm theo trọng số (weight score).

4. Chi phí vận hành và bảo trì hệ thống này trên Cloud như thế nào?

Nhờ vào thiết kế tối ưu hóa bộ nhớ và khả năng suy luận nhanh trên CPU, chi phí duy trì hệ thống trên các dịch vụ đám mây (AWS EC2 t3.large, GCP e2-standard-4) dao động từ $30 - $70 USD/tháng, tiết kiệm hơn 80% so với việc phải duy trì các cụm GPU đắt tiền liên tục.

5. Làm thế nào để mở rộng hệ thống cho các bài toán phân loại nhiều hơn 2 nhãn (Multi-class)?

Cả LIME và SHAP đều hỗ trợ tự nhiên cho bài toán phân loại đa lớp. Đối với $K$ nhãn dự đoán, LIME huấn luyện $K$ mô hình hồi quy tuyến tính cục bộ tương ứng với hàm xác suất predict_proba, trong khi SHAP tính toán ma trận ma trận giá trị Shapley có kích thước $(\text{num_tokens} \times K)$, giúp trực quan hóa lý do văn bản thuộc về từng nhãn cụ thể.

Kết luận

Đề tài "Tìm hiểu về Explainable AI và ứng dụng" của nhóm tác giả Lại Hữu Trác và Nguyễn Duy Phước (Trường ĐH Sư phạm Kỹ thuật TP.HCM) đã giải quyết thành công một trong những thách thức lớn nhất của AI hiện đại: biến các mô hình học sâu "hộp đen" thành các hệ thống minh bạch, đáng tin cậy và có thể giải thích được. Bằng cách kết hợp nền tảng toán học vững chắc của LIME, SHAP, Anchors và PDP với sức mạnh xử lý ngôn ngữ của BiLSTM và CNN-LSTM, dự án đã xây dựng một giải pháp hoàn chỉnh từ lý thuyết đến ứng dụng thực tiễn.

Công trình không chỉ đóng góp giá trị học thuật quan trọng cho lĩnh vực Kỹ thuật Dữ liệu mà còn mở ra hướng đi thực tế cho các doanh nghiệp đang tìm kiếm giải pháp ứng dụng AI an toàn, minh bạch và tuân thủ pháp lý.

Khám phá ngay mã nguồn và tài liệu chi tiết của dự án để nâng cao độ tin cậy cho các mô hình Trí tuệ nhân tạo của bạn ngay hôm nay!