Tổng quan về luận án

Sự bùng nổ của dữ liệu văn bản phi cấu trúc trên Internet đặt ra thách thức lớn cho các hệ thống khai phá tri thức tự động. Trong khi các mô hình phân lớp đơn nhãn truyền thống (Single-Label Classification) chỉ gán mỗi đối tượng vào một danh mục duy nhất, thực tiễn văn bản ngôn ngữ tự nhiên thường mang bản chất đa nghĩa và thuộc về nhiều chủ đề đồng thời. Luận án tiến sĩ hệ thống thông tin với đề tài "Nghiên cứu cải tiến phân lớp đa nhãn văn bản và ứng dụng" do nghiên cứu sinh Phạm Thị Ngân thực hiện dưới sự hướng dẫn của PGS.TS. Hà Quang Thụy và PGS.TS. Phan Xuân Hiếu tại Trường Đại học Công nghệ – Đại học Quốc gia Hà Nội (2017) là một công trình tiên phong giải quyết bài toán phân lớp đa nhãn (Multi-Label Classification - MLC) trên ngữ liệu tiếng Việt.

Khoảng trống nghiên cứu (research gap) cốt lõi xuất phát từ thực trạng: phần lớn các nghiên cứu MLC quốc tế (Boutell et al., 2004; Tsoumakas & Katakis, 2007; Zhang & Zhou, 2014) tập trung vào dữ liệu tiếng Anh và học có giám sát đầy đủ; trong khi tại Việt Nam, phân lớp đa nhãn còn rất sơ khai (thống kê của luận án ghi nhận chỉ có 29 công bố liên quan đến từ khóa "multi-label classification" + "Vietnamese" trên Google Scholar tính đến tháng 12/2016). Đặc biệt, việc gán nhãn đa lớp thủ công cực kỳ tốn kém, dẫn đến sự khan hiếm nghiêm trọng của tập dữ liệu huấn luyện chuẩn. Luận án đặt ra 3 câu hỏi nghiên cứu trọng tâm:

  1. RQ1: Làm thế nào để biểu diễn ngữ nghĩa ẩn và quan hệ cấu trúc không gian giữa các từ trong văn bản tiếng Việt nhằm khắc phục hiện tượng thưa thớt đặc trưng mà không làm bùng nổ số chiều?
  2. RQ2: Làm thế nào để tận dụng nguồn tài nguyên văn bản tiếng Việt chưa gán nhãn khổng lồ thông qua phương pháp học bán giám sát kết hợp khai thác tương quan giữa các nhãn?
  3. RQ3: Hiệu năng của các mô hình đề xuất cải tiến đạt mức độ tối ưu hóa ra sao khi ứng dụng vào bài toán phân tích danh tiếng và sắc thái đánh giá thực tế trong ngành dịch vụ?

Khung lý thuyết của nghiên cứu dựa trên lý thuyết không gian vector ngữ nghĩa, mô hình chủ đề sinh xác suất LDA (Blei et al., 2003), lý thuyết tối ưu hóa phân cụm bán giám sát (TESC - Nigam et al., 2000; Nguyen & Caruana, 2007) và không gian đặc trưng riêng biệt theo nhãn LIFT (Zhang & Zhou, 2014). Phạm vi nghiên cứu bao quát từ xử lý tiền xử lý ngôn ngữ học tiếng Việt, thiết kế thuật toán phân lớp bán giám sát MULTICS, đến kiểm chứng thực nghiệm trên bộ dữ liệu đánh giá danh tiếng của 1.000 khách sạn tại Việt Nam.

Literature Review và Positioning

Nghiên cứu học đa nhãn (Multi-Label Learning - MLL) phát triển qua hai nhánh tiếp cận chính: Chuyển đổi bài toán (Problem Transformation) và Thích nghi thuật toán (Algorithm Adaptation) (Tsoumakas & Katakis, 2007; Zhang & Zhou, 2014).

                             Tiếp cận Phân lớp Đa nhãn (MLC)
    Chuyển đổi bài toán (Problem Transformation)          Thích nghi thuật toán (Algorithm Adaptation)

Trong nhánh chuyển đổi bài toán:

  • Thuật toán Binary Relevance (BR) (Boutell et al., 2004) chia bài toán $q$ nhãn thành $q$ bộ phân lớp nhị phân độc lập. Ưu điểm của BR là tốc độ tính toán song song $O(q \cdot T(m, d))$, nhưng nhược điểm chí mạng là bỏ qua hoàn toàn tương quan giữa các nhãn (label correlation) và dễ rơi vào tình trạng mất cân bằng dữ liệu nghiêm trọng.
  • Để khắc phục BR, Read et al. (2009, 2011) đề xuất Classifier Chains (CC) và mô hình kết hợp chuỗi phân lớp xác suất Ensemble of Classifier Chains (ECC), đưa nhãn dự đoán trước đó vào không gian thuộc tính của bộ phân lớp kế tiếp theo một hoán vị $\pi$. Tuy nhiên, CC có hạn chế là phụ thuộc thứ tự chuỗi và không thể thực thi song song.
  • Đối với hướng xếp hạng nhãn, Fürnkranz et al. (2008) phát triển Calibrated Label Ranking (CLR) dựa trên so sánh cặp đôi (Pairwise Comparison) với độ phức tạp huấn luyện $O(q^2 \cdot T(m, d))$, biến đổi không gian nhãn thành các cặp đối kháng để xác định ngưỡng phân tách.
  • Tsoumakas & Vlahavas (2007, 2011) giới thiệu Random k-Labelsets (RakEL), phá vỡ tập lũy thừa nhãn (Label Powerset - LP) thành các tập con kích thước $k$ ngẫu nhiên để cân bằng chi phí tính toán và độ chính xác phân lớp.

Trong nhánh thích nghi thuật toán:

  • Zhang & Zhou (2007) đề xuất ML-kNN, tận dụng nguyên lý láng giềng gần nhất kết hợp ước lượng hậu nghiệm Maximum A Posteriori (MAP) theo quy tắc Bayes.
  • Clare & King (2001) xây dựng ML-DT dựa trên công thức Entropy đa nhãn có khả năng phân rã.
  • Elisseeff & Weston (2002) đưa ra Rank-SVM cực đại hóa biên phân cách (Margin Maximization) giữa các nhãn liên quan và không liên quan bằng bài toán quy hoạch toàn phương.
  • Ghamrawi & McCallum (2005) đề xuất Collective Multi-Label (CML) áp dụng nguyên lý cực đại hóa Entropy với các ràng buộc phân phối nhãn đồng thời.

So sánh với hai nghiên cứu quốc tế tiêu biểu: Nghiên cứu của Read et al. (2009) tập trung vào quy mô lớn trên ngữ liệu đa phương tiện tiếng Anh nhưng chưa tối ưu cho cấu trúc ngữ nghĩa ngữ cảnh phương Đông; nghiên cứu của Zhang & Zhou (2014) về LIFT (Learning with Label-specIfic FeaTures) giải quyết đặc trưng riêng biệt nhưng thuần túy là mô hình học có giám sát.

Luận án định vị tại điểm giao thoa đột phá: kết hợp mô hình hóa chủ đề ngữ nghĩa ẩn, cấu trúc không gian đồ thị khoảng cách và học bán giám sát cho phân lớp đa nhãn văn bản tiếng Việt, lấp đầy khoảng trống thiếu hụt dữ liệu gán nhãn quy mô lớn trong xử lý ngôn ngữ tự nhiên (NLP) bản địa.

Đóng góp lý thuyết và khung phân tích

Đóng góp cho lý thuyết

Luận án mở rộng và làm phong phú hệ thống lý thuyết học máy đa nhãn qua 4 đóng góp nền tảng:

  1. Mở rộng lý thuyết biểu diễn ngữ nghĩa tiềm ẩn (Latent Semantic Representation Theory): Chứng minh rằng việc tích hợp phân bố chủ đề Dirichlet ẩn (LDA) với giải thuật chọn lọc đặc trưng bằng Thông tin tương hỗ (Mutual Information - MI) giải quyết triệt để nghịch lý bùng nổ số chiều (Curse of Dimensionality) trong phân lớp văn bản tiếng Việt phức hợp.
  2. Hình thức hóa cấu trúc tô-pô từ vựng qua Đồ thị khoảng cách chủ đề ẩn (Distance Graph of Latent Topics): Mở rộng mô hình túi từ (Bag-of-Words) truyền thống và n-gram bằng cách thiết lập đồ thị vô hướng có trọng số, biểu diễn khoảng cách vật lý và liên kết ngữ nghĩa giữa các từ khóa chủ đạo trong câu.
  3. Phát triển khung lý thuyết Phân lớp đa nhãn bán giám sát (Semi-Supervised Multi-Label Learning Paradigm): Thiết lập mô hình thuật toán MULTICS dựa trên nguyên lý phân cụm cưỡng bức (Constrained Clustering), mở rộng thuật toán đơn nhãn TESC (Nguyen & Caruana, 2007) sang không gian đa nhãn, kết hợp chiến thuật tham lam (Greedy Strategy) và ánh xạ đặc trưng riêng biệt nhãn LIFT.
  4. Chuẩn hóa hệ thống độ đo đánh giá đa chiều cho văn bản tiếng Việt: Hệ thống hóa sự tương quan giữa các độ đo dựa trên mẫu (Subset Accuracy, Hamming Loss, One-error, Coverage, Ranking Loss, Average Precision) và độ đo dựa trên nhãn (Macro-averaging, Micro-averaging) trong các điều kiện mật độ nhãn (Label Density - LDens) và số lượng nhãn trung bình (Label Cardinality - LCard) biến thiên.
       LÝ THUYẾT BIỂU DIỄN VĂN BẢN TRUYỀN THỐNG (Bag-of-Words / N-gram)
                 (Hạn chế: Bùng nổ số chiều & Thiếu liên kết ngữ cảnh xa)

Khung phân tích độc đáo

Khung phân tích của luận án tích hợp đồng thời 3 lý thuyết:

  • Lý thuyết phân bổ xác suất chủ đề (Topic Modeling Framework - Blei et al., 2003);
  • Lý thuyết đồ thị khoảng cách văn bản (Graph-based Text Representation);
  • Lý thuyết phân cụm bán giám sát ràng buộc nhãn (Constraint-based Semi-Supervised Clustering).

Trong đó, tài liệu $d$ ban đầu được biến đổi từ không gian từ vựng gốc sang vector phân bố xác suất chủ đề $z = [p(z_1|d), p(z_2|d), \dots, p(z_K|d)]$. Tiếp theo, các câu mang chủ đề được dựng thành đồ thị khoảng cách $G = (V, E, W)$, với đỉnh $V$ là tập từ vựng chủ đề, cạnh $E$ thể hiện sự đồng xuất hiện trong cửa sổ trượt, và trọng số $W$ tỷ lệ nghịch với khoảng cách giữa hai từ trong câu. Cuối cùng, thuật toán MULTICS thực hiện phân cụm bán giám sát trên tập dữ liệu kết hợp $D = D_L \cup D_U$ ($D_L$ là tập có nhãn, $D_U$ là tập chưa có nhãn) để suy diễn tập nhãn tối ưu $Y^* \subseteq L$.

Phương pháp nghiên cứu tiên tiến

Thiết kế nghiên cứu

Nghiên cứu tuân thủ thế giới quan thực chứng khoa học (Positivism) kết hợp phương pháp nghiên cứu tính toán thực nghiệm (Design Science & Computational Experimental Paradigm). Hệ thống tiếp cận đa tầng:

                            QUY TRÌNH THỰC THI THỰC NGHIỆM
Tập mẫu có nhãn ($D_L$)                                           Tập mẫu chưa gán nhãn ($D_U$)
                      Tiền xử lý văn bản tiếng Việt & Gán thẻ POS
                         Mô hình hóa chủ đề ẩn LDA + MI
                       Biểu diễn Đồ thị khoảng cách ngữ cảnh
                        Huấn luyện bán giám sát MULTICS
            Đánh giá kiểm thử chéo 10-fold Cross-Validation (Hamming Loss, Micro-F1)

Quy trình kết hợp linh hoạt giữa phương pháp nghiên cứu lý thuyết (hình thức hóa bài toán, phân tích độ phức tạp thuật toán) và kiểm chứng thực nghiệm quy mô lớn.

Quy trình nghiên cứu rigorous

  1. Giao thức thu thập và tiền xử lý dữ liệu:
    • Thu thập dữ liệu phản hồi thực tế từ các cổng thông tin du lịch và mạng xã hội đối với 1.000 khách sạn tại Việt Nam.
    • Thực hiện tách từ tiếng Việt (Vietnamese Word Segmentation), lọc bỏ từ dừng (Stopwords Removal), và gán nhãn từ loại (Part-of-Speech Tagging - POS).
  2. Chiết xuất và lựa chọn thuộc tính:
    • Áp dụng mô hình LDA sinh ra $K$ chủ đề ẩn.
    • Lọc bỏ các từ dư thừa thông qua độ đo Thông tin tương hỗ: $$MI(t, c) = \log \frac{p(t, c)}{p(t)p(c)}$$
  3. Phân chia tập thực nghiệm chuẩn hóa:
    • Áp dụng chiến lược đánh giá kiểm thử chéo (10-fold Cross-Validation).
    • Kiểm soát nghiêm ngặt các tham số: số lượng chủ đề $K \in [10, 100]$, kích thước cửa sổ khoảng cách đồ thị, tỷ lệ dữ liệu chưa gán nhãn trong tập huấn luyện bán giám sát ($20%, 40%, 60%, 80%$).
  4. Triệt tiêu độ lệch (Bias Mitigation) và Kiểm định độ tin cậy:
    • Sử dụng thuật toán T-Criterion để xử lý triệt để bài toán dự đoán tập nhãn rỗng (Empty Label Prediction) trong tiếp cận Binary Relevance: $$Y = {y_j | f_j(x) > 0} \cup \arg\max_{y_j} f_j(x)$$

Data và phân tích

Đặc trưng tập dữ liệu thực nghiệm được đo lường qua các chỉ số chuẩn hóa đa nhãn:

  • Số lượng mẫu ($n$): 1.000 văn bản nhận xét khách sạn đa chiều.
  • Không gian nhãn ($q$): Bao quát các khía cạnh dịch vụ du lịch (Vị trí, Giá cả, Phục vụ, Vệ sinh, Tiện nghi, Ẩm thực,...).
  • Độ đo Label Cardinality (LCard): $$LCard(D) = \frac{1}{|D|} \sum_{i=1}^{|D|} |Y_i|$$
  • Độ đo Label Density (LDens): $$LDens(D) = \frac{LCard(D)}{q}$$
  • Tỷ lệ kết hợp nhãn duy nhất (PUniq) và Tỷ lệ tập nhãn cực đại (PMax): $$PUniq(D) = \frac{|{Y | \exists x: (x, Y) \in D}|}{|D|}, \quad PMax(D) = \max_{Y} \frac{|{(x, Y) \in D}|}{|D|}$$

Phân tích hiệu năng sử dụng hệ thống phần mềm và thư viện chuyên sâu: C++ Native Code cho thuật toán MULTICS, Toolkit GibbsLDA++ cho sinh chủ đề LDA, và SVM-light làm bộ phân lớp cơ sở (Base Classifier).

Phát hiện đột phá và implications

Những phát hiện then chốt

      HIỆU NĂNG PHÂN LỚP ĐA NHÃN TRÊN NGỮ LIỆU ĐÁNH GIÁ KHÁCH SẠN TIẾNG VIỆT
             TF-IDF (Gốc)   LDA+MI    Đồ thị KC  LIFT Super.  MULTICS (Bán GS)
  1. Biểu diễn dữ liệu theo Chủ đề ẩn kết hợp MI vượt trội so với TF-IDF truyền thống: Không gian đặc trưng vector hóa qua LDA và lọc MI giúp giảm hơn 75% số chiều từ vựng nhưng tăng độ chính xác phân lớp Macro-F1 từ 8% đến 13% trên các lớp mất cân bằng.
  2. Biểu diễn Đồ thị khoảng cách chủ đề ẩn nắm bắt vượt trội ngữ cảnh tiếng Việt: Việc mô hình hóa khoảng cách từ vựng giúp phân biệt chính xác các liên kết phủ định hoặc bổ nghĩa ở khoảng cách xa (ví dụ: "nhân viên phục vụ không thực sự nhiệt tình"), giảm chỉ số One-error xuống dưới mức 0.18 và hạ thấp đáng kể Ranking Loss so với mô hình n-gram truyền thống.
  3. Thuật toán bán giám sát MULTICS giải quyết triệt để bài toán thiếu dữ liệu gán nhãn: Khi chỉ có 20% dữ liệu huấn luyện được gán nhãn kết hợp với 80% dữ liệu chưa gán nhãn, MULTICS đạt hiệu năng tương đương 92.4% so với mô hình học có giám sát đầy đủ (Supervised LIFT) trên toàn bộ dữ liệu.
  4. Khai thác đặc trưng riêng biệt theo nhãn (Label-Specific Features) tạo bước ngoặt hiệu năng: Thay vì sử dụng chung một không gian đặc trưng toàn cục, việc ánh xạ sang các tập đặc trưng riêng biệt cho từng nhãn giúp giảm thiểu xung đột phân loại và triệt tiêu ảnh hưởng của nhiễu nhãn.

Implications đa chiều

  • Về mặt Lý thuyết: Luận án khẳng định vai trò quyết định của cấu trúc tô-pô ngữ nghĩa và tương quan nhãn trong bài toán MLL; chứng minh rằng học bán giám sát không chỉ tiết kiệm tài nguyên gán nhãn mà còn đóng vai trò là một cơ chế chính quy hóa (Regularization) ngăn ngừa hiện tượng quá khớp (Overfitting).
  • Về mặt Phương pháp luận: Đưa ra quy trình mẫu về xử lý văn bản tiếng Việt phức hợp, có thể tái sử dụng cho các ngôn ngữ đơn lập và có tính ghép từ cao trong khu vực Đông Nam Á.
  • Về mặt Thực tiễn: Mô hình đánh giá danh tiếng khách sạn cung cấp giải pháp khai phá phản hồi người dùng tự động cho các nền tảng thương mại điện tử du lịch, tự động hóa quá trình giám sát chất lượng dịch vụ theo thời gian thực.

Limitations và Future Research

Mặc dù đạt được những kết quả đột phá, luận án thẳng thắn chỉ ra các giới hạn nghiên cứu:

  1. Độ phức tạp tính toán của việc sinh đồ thị khoảng cách: Quá trình xây dựng ma trận khoảng cách trên toàn bộ tập câu đòi hỏi tài nguyên bộ nhớ lớn khi áp dụng cho các tài liệu văn bản siêu dài (như sách, báo cáo phân tích tài chính).
  2. Giả định tham số trong mô hình LDA: Việc xác định số lượng chủ đề ẩn $K$ tối ưu hiện tại vẫn phụ thuộc vào quá trình tinh chỉnh tham số thực nghiệm (Empirical Grid Search) chứ chưa có cơ chế tự động thích ứng hoàn toàn.
  3. Phạm vi miền ứng dụng thực nghiệm: Dữ liệu kiểm chứng chủ yếu tập trung vào miền phân tích nhận xét khách sạn/du lịch và tin tức; chưa kiểm thử trên các miền dữ liệu y sinh, pháp lý hoặc đa phương tiện phức hợp.

Chương trình nghiên cứu tương lai (Future Agenda):

  • Mở rộng thuật toán MULTICS sang khung phân lớp đa nhãn đa thể hiện (Multi-Instance Multi-Label - MIML) nhằm giải quyết văn bản chứa nhiều đoạn mang ngữ nghĩa độc lập.
  • Tích hợp các kiến trúc mạng nơ-ron sâu (Deep Learning) như Graph Neural Networks (GNN) và cơ chế tự chú ý (Self-Attention) để tự động học biểu diễn đồ thị khoảng cách chủ đề ẩn.
  • Phát triển kỹ thuật học trực tuyến (Online Multi-Label Learning) cho phép cập nhật mô hình liên tục từ các luồng dữ liệu mạng xã hội quy mô lớn.

Tác động và ảnh hưởng

  • Ảnh hưởng học thuật: Đóng góp luận điểm nghiên cứu nền tảng cho chuyên ngành Hệ thống thông tin tại Việt Nam; mở ra hướng nghiên cứu phân lớp đa nhãn bán giám sát cho cộng đồng xử lý ngôn ngữ tự nhiên tiếng Việt.
  • Chuyển đổi công nghiệp: Cung cấp kiến trúc lõi cho các hệ thống Social Listening (lắng nghe mạng xã hội), Brand Monitoring (theo dõi thương hiệu), và phân tích phản hồi khách hàng trong các doanh nghiệp chuyển đổi số.
  • Ý nghĩa xã hội: Hỗ trợ các cơ quan quản lý du lịch và dịch vụ công tự động tổng hợp, phân loại ý kiến phản ánh của người dân trên các cổng dịch vụ công trực tuyến một cách khách quan và chính xác.

Đối tượng hưởng lợi

                                  ĐỐI TƯỢNG HƯỞNG LỢI
   Nghiên cứu sinh                   Doanh nghiệp CNTT &              Cơ quan Quản lý
  & Giới Học thuật                      R&D Solution                      & Dịch vụ
   khoảng cách văn bản              nhãn dữ liệu thực tế              người dân tự động
  • Nghiên cứu sinh & Giảng viên: Tiếp cận tài liệu toàn diện về sự tiến hóa từ phân lớp đơn nhãn đến đa nhãn đa thể hiện, khung thuật toán chuyển đổi bài toán và thích nghi thuật toán.
  • Kỹ sư AI & Doanh nghiệp công nghệ: Sở hữu giải pháp học bán giám sát tối ưu hóa chi phí dán nhãn dữ liệu thực tế lên tới 70-80%.
  • Chuyên gia phân tích thị trường: Ứng dụng mô hình khai phá ý kiến đa chiều để đánh giá sức khỏe thương hiệu và hành vi người tiêu dùng.

Câu hỏi chuyên sâu

1. Đóng góp lý thuyết độc đáo nhất của luận án là gì và đã mở rộng lý thuyết nào?

Đóng góp độc đáo nhất là khung lý thuyết biểu diễn đồ thị khoảng cách các chủ đề ẩn kết hợp thuật toán bán giám sát MULTICS. Luận án đã mở rộng:

  • Lý thuyết phân bổ Dirichlet ẩn (LDA) của Blei et al. (2003) từ dạng phân bố xác suất độc lập sang mô hình đồ thị bảo toàn trật tự không gian từ vựng.
  • Mở rộng thuật toán phân cụm bán giám sát đơn nhãn TESC (Nguyen & Caruana, 2007) và lý thuyết đặc trưng riêng biệt LIFT của Zhang & Zhou (2014) thành một giải thuật bán giám sát đa nhãn hoàn chỉnh có khả năng khai thác tối đa tài nguyên văn bản chưa gán nhãn.

2. Phương pháp nghiên cứu của luận án có điểm đổi mới nào so với các nghiên cứu trước đây?

So với nghiên cứu của Boutell et al. (2004) và Read et al. (2009):

  • Khắc phục giả định độc lập nhãn: Khác với Binary Relevance giả định các nhãn độc lập, mô hình của luận án nắm bắt tương quan giữa các nhãn qua phân cụm ràng buộc.
  • Bảo toàn ngữ cảnh tiếng Việt: Khác với mô hình túi từ truyền thống, biểu diễn đồ thị khoảng cách xử lý được hiện tượng phụ thuộc xa và các từ bổ nghĩa đặc thù trong tiếng Việt.
  • Tiếp cận bán giám sát: Trong khi đa phần các nghiên cứu MLC quốc tế đòi hỏi tập huấn luyện được gán nhãn toàn bộ, thuật toán MULTICS hoạt động hiệu quả ngay cả khi tập nhãn bị thiếu hụt nghiêm trọng.

3. Phát hiện thực nghiệm nào bất ngờ nhất và được giải thích ra sao?

Phát hiện bất ngờ nhất là việc tăng số lượng thuộc tính trong phân lớp đa nhãn không đồng nghĩa với việc tăng độ chính xác, mà ngược lại gây suy giảm nghiêm trọng do hiện tượng nhiễu nhãn chéo (Cross-label Noise).

Bằng chứng thực nghiệm cho thấy khi sử dụng tập từ vựng gốc (hơn 10.000 từ), hiệu năng phân lớp kém hơn rõ rệt so với khi trích xuất qua 50 chủ đề ẩn kết hợp lọc Thông tin tương hỗ (MI). Lý do lý thuyết: không gian đặc trưng quá lớn làm phân tán các biên quyết định của các nhãn thiểu số, trong khi biểu diễn chủ đề ẩn cô đọng mật độ thông tin và làm nổi bật các mối tương quan nhãn tiềm năng.

4. Luận án có cung cấp giao thức tái lập nghiên cứu (Replication Protocol) không?

Có. Luận án mô tả chi tiết:

  • Toàn bộ công thức toán học và mã giả của các thuật toán BR, CC, CLR, RakEL, ML-kNN, ML-DT, Rank-SVM, CML và thuật toán đề xuất MULTICS.
  • Thiết kế hệ thống ràng buộc phân lớp bán giám sát và quy trình trích xuất đặc trưng LIFT.
  • Quy chuẩn thiết lập tham số thực nghiệm (số láng giềng $k$, ngưỡng hội tụ phân cụm, số lượng chủ đề LDA) và định dạng dữ liệu kiểm chứng 1.000 khách sạn.

5. Chương trình nghiên cứu 10 năm tiếp theo được định hình như thế nào?

Lộ trình nghiên cứu mở rộng trong thập kỷ tiếp theo tập trung vào:

  • Chuyển đổi từ phân lớp đa nhãn đơn thể hiện sang Phân lớp đa nhãn đa thể hiện (MIML) cho văn bản đa đoạn và đa phương tiện (ảnh - văn bản - video).
  • Tích hợp kiến trúc Transformer và Large Language Models (LLMs) vào việc khởi tạo đồ thị tri thức ngữ nghĩa phục vụ phân lớp đa nhãn không cần mẫu (Zero-shot Multi-label Learning).
  • Phát triển các hệ thống phân lớp đa nhãn thời gian thực với khả năng thích ứng trôi dạt khái niệm (Concept Drift) trên luồng dữ liệu mạng xã hội.

Kết luận

  1. Luận án "Nghiên cứu cải tiến phân lớp đa nhãn văn bản và ứng dụng" của tác giả Phạm Thị Ngân là công trình tiên phong tại Việt Nam nghiên cứu toàn diện và có hệ thống về bài toán phân lớp đa nhãn trên ngữ liệu văn bản tiếng Việt.
  2. Đề xuất thành công hai mô hình biểu diễn dữ liệu mới: Biểu diễn dữ liệu theo chủ đề ẩn kết hợp lọc Thông tin tương hỗ và Biểu diễn dữ liệu theo đồ thị khoảng cách các chủ đề ẩn, giải quyết triệt để vấn đề thưa thớt dữ liệu và bảo toàn ngữ nghĩa ngữ cảnh.
  3. Phát triển thành công thuật toán phân lớp đa nhãn bán giám sát đột phá MULTICS, mở rộng giới hạn của các mô hình phân cụm bán giám sát và khai thác hiệu quả các đặc trưng riêng biệt theo nhãn (LIFT).
  4. Đóng góp hai mô hình phân lớp đơn nhãn nền tảng: Mô hình nhận diện thực thể có tên tiếng Việt sử dụng Trường ngẫu nhiên có điều kiện (CRFs) với Tiêu chuẩn kỳ vọng tổng quát, và Mô hình hệ tư vấn xã hội tiếng Việt tích hợp thông tin người dùng từ mạng xã hội.
  5. Kiểm chứng thực nghiệm thành công trên bộ dữ liệu thực tế 1.000 khách sạn tại Việt Nam, khẳng định tính đúng đắn khoa học, hiệu năng vượt trội và tiềm năng ứng dụng thực tiễn to lớn của các đóng góp lý thuyết trong công cuộc chuyển đổi số và khai phá dữ liệu ngôn ngữ tự nhiên.