Tổng quan về luận án

Trong kỷ nguyên bùng nổ dữ liệu số, Đồ thị Tri thức (Knowledge Graph - KG) đã khẳng định vị thế là hạ tầng biểu diễn ngữ nghĩa vượt trội, chuyển đổi mô hình quản trị dữ liệu từ các bảng quan hệ truyền thống sang cấu trúc đa đồ thị không đồng nhất (heterogeneous multi-relational graphs). Kể từ khi Google chính thức công bố tích hợp KG vào công cụ tìm kiếm năm 2012 với tuyên bố "làm cho công cụ tìm kiếm thông minh hơn 1000 lần", các tập đoàn công nghệ hàng đầu thế giới như Facebook, Amazon, Microsoft và Uber đã đồng loạt ứng dụng KG vào các hệ sinh thái cơ sở tri thức quy mô lớn. Song song đó, các cơ sở tri thức mở như Freebase, DBpedia, YAGO và Wikidata đã phát triển thành các kho lưu trữ tri thức nhân loại khổng lồ.

Tuy nhiên, do phần lớn các đồ thị tri thức được kiến tạo từ quá trình bán tự động và khai thác văn bản từ các nguồn mở không đồng nhất (như mạng cộng tác, kho tài liệu bán cấu trúc XML, JSON, CSV), các cơ sở dữ liệu này luôn đối mặt với tình trạng thiếu hụt dữ liệu (data sparsity) và nhiễu ngữ nghĩa nghiêm trọng. Minh chứng thực tế từ các phân tích kinh nghiệm cho thấy:

"Trên Freebase, gần 3/4 số lượng thực thể thiếu thông tin cơ bản như nơi sinh, 99% không có dữ liệu về dân tộc, và 95% không có thông tin về cha mẹ của họ. Trong khi đó, ở DBpedia, hơn 66% các nhà khoa học không có mô tả chi tiết."

Tổng thể, tỷ lệ thiếu sót của các mối quan hệ cơ bản trong các đồ thị tri thức quy mô lớn hiện nay thường xuyên vượt quá 70%. Nhằm giải quyết thách thức nền tảng này, bài toán Hiệu chỉnh Đồ thị Tri thức (Knowledge Graph Refinement - KGR) – đặc biệt là nhánh bài toán Dự đoán Liên kết (Link Prediction / Knowledge Graph Completion - KGC) – đóng vai trò tiên quyết trong việc tự động suy luận và bù đắp các bộ ba tri thức $(h, r, t)$ còn khuyết thiếu.

                  ┌─────────────────────────────────────────────────────────┐
                  │                 BÀI TOÁN DỰ ĐOÁN LIÊN KẾT               │
                  │   Mục tiêu: Hoàn thiện bộ ba (h, r, ?) hoặc (?, r, t)   │
                  └────────────────────────────┬────────────────────────────┘
                                               │
            ┌──────────────────────────────────┴──────────────────────────────────┐
            ▼                                                                     ▼
┌───────────────────────┐                                             ┌───────────────────────┐
│ HƯỚNG DỊCH CHUYỂN/XOAY│                                             │   HƯỚNG MẠNG NƠ-RON   │
│ - Trực quan hình học  │                                             │ - Tương tác phi tuyến │
│ - Khả năng giải thích │                                             │ - Trích xuất sâu      │
│ - Hạn chế góc xoay/1-N│                                             │ - Chi phí tính toán   │
└───────────┬───────────┘                                             └───────────┬───────────┘
            │                                                                     │
            └──────────────────────────────────┬──────────────────────────────────┘
                                               │
                                               ▼
                  ┌─────────────────────────────────────────────────────────┐
                  │          4 ĐỘT PHÁ CỦA LUẬN ÁN (LÊ NGỌC THÀNH)          │
                  │  1. ConvHyper: Dynamic HyperNet Filter Generation       │
                  │  2. RotatPRH: Hyperplane Projection + Complex Rotation  │
                  │  3. Rotate4D: 4D Quaternion SO(4) & Scaling Geometry    │
                  │  4. ConvRot: Unified Convolutional-Rotational Framework │
                  └─────────────────────────────────────────────────────────┘

Khoảng trống nghiên cứu (Research Gap) cốt lõi nằm ở việc dung hòa và khắc phục các giới hạn cố hữu của hai trường phái nhúng đồ thị chính:

  1. Nhóm mô hình tịnh tiến và biến đổi hình học (Translation & Rotation-based): Mặc dù các mô hình nền tảng như TransE (Bordes et al., 2013) hay RotatE (Sun et al., 2019) có tính giải thích toán học cao dựa trên lý thuyết nhóm, chúng gặp rào cản lớn khi mô hình hóa các tương tác phức tạp dạng $1-N$, $N-1$, $N-N$, quan hệ phân cấp (hierarchical DAGs), hoặc sai số hình học tích lũy khi góc quay giữa thực thể đầu và đuôi không đủ nhỏ.
  2. Nhóm mô hình mạng nơ-ron (Convolutional Neural Networks - CNNs): Các mô hình như ConvE (Dettmers et al., 2018) hay ConvKB (Nguyen et al., 2018) khai thác mạnh mẽ các tương tác phi tuyến tính giữa các chiều nhúng, nhưng gặp hiện tượng bùng nổ tham số, thời gian hội tụ chậm trên đồ thị lớn, suy giảm gradient (vanishing gradients), và thiếu các ràng buộc cấu trúc hình học định hướng.

Để giải quyết các hạn chế trên, luận án của NCS. Lê Ngọc Thành đặt ra 4 câu hỏi nghiên cứu (Research Questions - RQ) và giả thuyết khoa học (Hypotheses - H) tương ứng:

  • RQ1: Làm thế nào để tối ưu hóa việc trích xuất tương tác đặc trưng trong mạng tích chập mà không làm bùng nổ tham số và thời gian tìm kiếm trọng số?
    $\rightarrow$ H1: Tích hợp mạng HyperNetwork nhằm sinh động các bộ lọc tích chập thích ứng riêng cho từng quan hệ, kết hợp hàm kích hoạt ELU (Exponential Linear Unit), sẽ gia tăng độ sâu mạng, triệt tiêu hiện tượng chết nơ-ron và cải thiện hiệu suất suy luận.
  • RQ2: Làm thế nào để xử lý triệt để tính nhập nhằng ngữ nghĩa của các quan hệ $1-N$, $N-1$ và $N-N$ trong không gian số phức $\mathbb{C}$?
    $\rightarrow$ H2: Chiếu các thực thể lên siêu phẳng đặc thù của quan hệ $w_r$ trước khi thực hiện phép xoay phức sẽ giải phóng các ràng buộc đối xứng cục bộ, gia tăng độ chính xác phân biệt thực thể.
  • RQ3: Cơ chế biểu diễn đại số nào có thể mô hình hóa đồng thời cấu trúc phân cấp và các quan hệ đối xứng/bất đối xứng đa chiều trong đồ thị tri thức?
    $\rightarrow$ H3: Nhúng thực thể và quan hệ vào không gian Quaternion 4 chiều $\mathbb{H}$ với nhóm trực giao $SO(4)$, kết hợp phép co giãn mô-đun Quaternion, sẽ mô hình hóa vượt trội các cấu trúc cây/phân cấp so với không gian 2D và 3D.
  • RQ4: Liệu việc hợp nhất cấu trúc biến đổi xoay hình học với lớp tích chập cục bộ có tạo ra một khung biểu diễn tổng quát hóa hơn không?
    $\rightarrow$ H4: Kết hợp toán tử xoay phức với phép tích chập đặc trưng sẽ bảo toàn thông tin định hướng đại số lẫn tương tác ngữ nghĩa đa chiều, tạo ra bước nhảy vọt về hiệu suất.

Khung lý thuyết nền tảng (Theoretical Framework) của luận án được xây dựng trên: Hình học vi phân và Lý thuyết nhóm Lie/Nhóm trực giao đặc biệt $SO(n)$, Đại số siêu phức Hamilton (Quaternion Algebra $\mathbb{H}$), Kiến trúc mạng nơ-ron sinh trọng số (HyperNetworks), và Giả thuyết Thế giới Đóng Cục bộ (Local Closed World Assumption - LCWA).

Tác động định lượng mang tính đột phá: Luận án đã đề xuất thành công 4 mô hình học máy:

  1. ConvHyper: Nâng cao hiệu suất tổng thể trên các độ đo chuẩn, giảm thời gian tìm kiếm trọng số.
  2. RotatPRH: Cải thiện từ 1.4% đến 2% trên các tập dữ liệu không rò rỉ kiểm tra, tạo đột phá tăng 15% ở chỉ số Hits@1 trên tập dữ liệu quy mô lớn YAGO3-10.
  3. Rotate4D: Cải thiện 1.49% so với mô hình cơ sở $SO(3)$ và tạo mức tăng trưởng 12% riêng trên các quan hệ phân cấp.
  4. ConvRot: Đạt mức cải thiện vượt trội từ 5% đến 7% so với các công trình tiên tiến tiền nhiệm.

Phạm vi và quy mô thực nghiệm: Nghiên cứu giới hạn trong đồ thị tri thức tĩnh, đa quan hệ, tiếp cận bài toán dự đoán thực thể chuyển tiếp (transductive link prediction) dưới giả định LCWA. Các mô hình được thẩm định nghiêm ngặt trên 5 bộ dữ liệu chuẩn quốc tế: FB15k (14,951 thực thể, 1,345 quan hệ), FB15k-237 (14,541 thực thể, 237 quan hệ), WN18 (40,943 thực thể, 18 quan hệ), WN18RR (40,943 thực thể, 11 quan hệ), và YAGO3-10 (123,182 thực thể, 37 quan hệ, hơn 1.07 triệu bộ ba huấn luyện).

Literature Review và Positioning

Lịch sử phát triển của các phương pháp dự đoán liên kết trên KG chia thành ba dòng nghiên cứu (streams) chính với những luận điểm và hạn chế rõ rệt:

┌──────────────────────────────────────────────────────────────────────────────────────────────────┐
│                               TIẾN TRÌNH TIỄN HÓA LÝ THUYẾT DỰ ĐOÁN LIÊN KẾT                     │
└──────────────────────────────────────────────────────────────────────────────────────────────────┘
  (2011-2016) Tensor & Semantic Matching  ──► RESCAL (Nickel, 2011), DistMult (Yang, 2015),
                                              ComplEx (Trouillon, 2016)
  (2013-2020) Translational & Rotational ──► TransE (Bordes, 2013), RotatE (Sun, 2019),
                                              Rotate3D (Gao, 2020)
  (2018-2020) Neural & Convolutional     ──► ConvE (Dettmers, 2018), ConvKB (Nguyen, 2018)
                                              ▼
  (2024) KHUNG ĐỘT PHÁ CỦA LUẬN ÁN        ──► ConvHyper + RotatPRH + Rotate4D + ConvRot
  1. Dòng mô hình tịnh tiến và biến đổi hình học (Translational/Geometric Models): Khởi xướng bởi Bordes et al. (2013) với mô hình kinh điển TransE, ánh xạ quan hệ dưới dạng phép dịch chuyển vectơ $h + r \approx t$ trong không gian Euclid $\mathbb{R}^d$. Dù thành công với quan hệ $1-1$, TransE thất bại khi mô hình hóa quan hệ $1-N, N-1$ và quan hệ đối xứng. Để khắc phục, Wang et al. (2014) đề xuất TransH (chiếu lên siêu phẳng), Lin et al. (2015) đề xuất TransR (chiếu lên không gian quan hệ riêng biệt). Bước ngoặt xuất hiện khi Sun et al. (2019) công bố RotatE, mô hình hóa quan hệ như phép xoay trong không gian phức $\mathbb{C}^d$ ($h \circ r = t$ với $|r_i|=1$), chứng minh khả năng suy luận đồng thời các mẫu quan hệ: Đối xứng (Symmetry), Bất đối xứng (Antisymmetry), Nghịch đảo (Inversion), và Hợp thành (Composition). Tiếp đó, Gao et al. (2020) mở rộng lên không gian 3 chiều với Rotate3D.
  2. Dòng mô hình khớp ngữ nghĩa và phân rã Tensor (Semantic Matching Models): Khởi đầu từ RESCAL (Nickel et al., 2011) sử dụng tích song tuyến tính toàn phần $h^\top M_r t$, dẫn đến chi phí tham số quá lớn $\mathcal{O}(d^2)$. Yang et al. (2015) rút gọn ma trận $M_r$ thành dạng đường chéo trong DistMult, song chỉ xử lý được quan hệ đối xứng. Trouillon et al. (2016) giải quyết vấn đề bất đối xứng bằng ComplEx trong không gian số phức $\mathbb{C}$, và Zhang et al. (2019) nâng cấp lên không gian đại số Quaternion với QuatE.
  3. Dòng mô hình mạng nơ-ron sâu (Neural Network-based Models): Dettmers et al. (2018) phát triển ConvE, định hình lại vectơ thực thể và quan hệ thành ma trận 2D để áp dụng mạng tích chập. Kế thừa ý tưởng này, Nguyen et al. (2018) đề xuất ConvKB, xếp chồng các vectơ $(h, r, t)$ thành ma trận kích thước $d \times 3$ và áp dụng các bộ lọc tích chập $1 \times 3$ nhằm duy trì tính toàn vẹn của từng chiều nhúng.

Các tranh luận học thuật cốt lõi (Scientific Debates)

Trong y văn tồn tại hai luồng quan điểm đối lập:

  • Tranh luận về Khả năng Biểu diễn Hình học vs. Tương tác Phi tuyến Sâu: Các tác giả theo trường phái hình học thuần túy (như Sun et al., 2019; Gao et al., 2020) lập luận rằng các mô hình dựa trên nhóm đại số bảo toàn các quy tắc logic toán học chặt chẽ và không bị quá khớp. Ngược lại, nhóm tác giả nơ-ron (Dettmers et al., 2018; Nguyen et al., 2018) cho rằng các ràng buộc hình học quá cứng nhắc, không thể trích xuất được các mối liên hệ chéo phi tuyến ẩn sâu trong các bộ ba tri thức phức tạp.
  • Tranh luận về Hiện tượng Rò rỉ Dữ liệu Kiểm tra (Test Data Leakage): Toutanova et al. (2015) và Dettmers et al. (2018) đã chứng minh rằng hai bộ dữ liệu kinh điển FB15k và WN18 bị lỗi rò rỉ dữ liệu kiểm tra nghiêm trọng do chứa lượng lớn các quan hệ nghịch đảo (ví dụ: _hyponym đảo của _hypernym). Điều này dẫn đến việc các mô hình đơn giản chỉ cần ghi nhớ quan hệ đảo là đạt kết quả cao ảo. Luận án đã định vị nghiên cứu chuẩn xác bằng cách tiến hành đối sánh đồng thời trên cả các bộ dữ liệu gốc lẫn các bộ dữ liệu đã được lọc sạch triệt để: FB15k-237 và WN18RR.

Định vị đóng góp của luận án so với các công trình quốc tế

So với các nghiên cứu quốc tế tiêu biểu:

  • Đối chiếu với RotatE (Sun et al., ICLR 2019): RotatE bị giới hạn trong không gian 2D phức và không xử lý tốt quan hệ phân cấp cũng như $1-N$. Luận án mở rộng thành công sang RotatPRH (bổ sung phép chiếu siêu phẳng) và Rotate4D (mở rộng lên không gian Quaternion 4D với nhóm trực giao $SO(4)$).
  • Đối chiếu với ConvKB (Nguyen et al., NAACL 2018): ConvKB sử dụng bộ lọc tĩnh khởi tạo ngẫu nhiên và hàm kích hoạt ReLU dẫn đến hiện tượng bão hòa gradient. Luận án giải quyết triệt để thông qua cơ chế phát sinh bộ lọc thích ứng của HyperNetwork và kích hoạt ELU trong mô hình ConvHyper.
  • Đối chiếu với Rotate3D (Gao et al., 2020) và QuatE (Zhang et al., NeurIPS 2019): Trong khi QuatE thuần túy là phân rã tensor đa tuyến tính và Rotate3D giới hạn ở góc quay Euler 3 chiều, Rotate4D của luận án xây dựng hoàn chỉnh phép xoay đẳng hướng (isotropic) và xoay kép (double rotation) trong không gian 4D kết hợp phép co giãn mô-đun Quaternion, tối ưu hóa đặc thù cho các đồ thị có cấu trúc phân tầng phức tạp.

Đóng góp lý thuyết và khung phân tích

┌──────────────────────────────────────────────────────────────────────────────────────────────────┐
│                   HỆ THỐNG MÔ HÌNH HỌC MÁY ĐỀ XUẤT TRONG LUẬN ÁN                                  │
└──────────────────────────────────────────────────────────────────────────────────────────────────┘
  1. ConvHyper:  Dynamic Relational Kernel Generator ──► [HyperNetwork] ──► ConvKB + ELU
  2. RotatPRH:   Hyperplane Projection + Complex Rot ──► h_proj = h - w_r^T h w_r ──► ∘ r
  3. Rotate4D:   4D Quaternion Manifold + Group SO(4)──► Double/Isotropic Rot ──► Modulus Scaling
  4. ConvRot:    Dual-stream Complex Convolution     ──► NConvRot & HConvRot + Type Constraints

Đóng góp cho lý thuyết

Luận án đã mở rộng và tái định nghĩa các tiền đề hình học trong lý thuyết biểu diễn đồ thị tri thức thông qua việc hình thức hóa các định lý đại số trừu tượng:

  1. Mở rộng lý thuyết biến đổi không gian phức sang Siêu phẳng Quan hệ ($w_r$-projected Manifold): Luận án chứng minh rằng việc áp dụng một siêu phẳng biến đổi riêng biệt cho từng quan hệ $r$ đóng vai trò như một bộ lọc không gian, cho phép một thực thể có các biểu diễn khác nhau tùy thuộc vào ngữ cảnh quan hệ mà nó tham gia, phá vỡ thế bế tắc toán học khi mô hình hóa quan hệ đa ánh xạ ($1-N, N-1, N-N$).
  2. Hình thức hóa Lý thuyết Nhóm trực giao $SO(4)$ và Đại số Quaternion trong Biểu diễn Phân cấp: Không gian Quaternion $\mathbb{H} = {a + bi + cj + dk \mid a,b,c,d \in \mathbb{R}}$ với các phần tử cơ sở thỏa mãn $i^2 = j^2 = k^2 = ijk = -1$. Luận án chứng minh rằng một phép quay tổng quát trong không gian 4 chiều có thể phân rã thành hai phép quay 2 chiều độc lập trên hai mặt phẳng trực giao hoàn toàn (xoay kép - double rotation) hoặc bảo toàn góc (xoay đẳng hướng - isotropic rotation). Kết hợp với toán tử co giãn mô-đun đại số: $$|h \otimes r| = |h| \cdot |r|$$ Mô hình cho phép định nghĩa hướng đi từ gốc đến ngọn trong một đồ thị có hướng không chu trình (DAG), phản ánh chính xác ngữ nghĩa của các quan hệ phân cấp chuyên môn hóa (specialization / taxonomy) vốn là điểm yếu chí tử của không gian Euclid.

Khung phân tích độc đáo

Khung phân tích của luận án tích hợp liên ngành giữa 4 lý thuyết: (1) Lý thuyết Nhóm Lie & Nhóm trực giao đặc biệt $SO(n)$, (2) Đại số siêu phức Hamilton $\mathbb{H}$, (3) Lý thuyết Meta-Learning sinh trọng số thích ứng qua HyperNetworks, và (4) Khung suy luận thống kê quan hệ dưới giả định LCWA.

Bốn kiến trúc mô hình độc tạo được thiết kế như sau:

1. Mô hình ConvHyper (HyperNetwork-driven Convolutional Model)

ConvHyper giải quyết hạn chế của ConvKB bằng cách sử dụng một mạng nơ-ron phụ (HyperNetwork) nhận đầu vào là vectơ nhúng của quan hệ $r$ để sinh ra động ma trận trọng số bộ lọc tích chập riêng biệt cho quan hệ đó: $$W_r = \text{HyperNet}(r)$$ Hàm tính điểm của ConvHyper được định nghĩa: $$f(h, r, t) = \text{vec}(\text{ELU}([h; r; t] * W_r)) W_{\text{dense}}$$ Hàm kích hoạt ELU (Exponential Linear Unit) được tích hợp để thay thế hoàn toàn ReLU: $$\text{ELU}(x) = \begin{cases} x & \text{khi } x > 0 \ \alpha(e^x - 1) & \text{khi } x \le 0 \end{cases}$$ Giải pháp này duy trì dòng gradient liên tục kể cả với các giá trị đầu vào âm, giải quyết triệt để vấn đề "chết nơ-ron" (dying ReLU problem).

2. Mô hình RotatPRH (Rotation on Projected Relation Hyperplanes)

RotatPRH kết hợp phép chiếu trực giao lên siêu phẳng định hướng bởi vectơ pháp tuyến $w_r$ với phép xoay Hadamard trong mặt phẳng phức: $$h_{\perp} = h - w_r^\top h w_r, \quad t_{\perp} = t - w_r^\top t w_r$$ Hàm khoảng cách sau phép xoay: $$d_r(h, t) = |h_{\perp} \circ r - t_{\perp}|1$$ Điểm độc đáo là hệ thống ràng buộc mềm (Soft Constraints) được bổ sung vào hàm mất mát nhằm duy trì tính chất chuẩn hóa đơn vị và tính trực giao của không gian nhúng: $$\mathcal{L}{\text{reg}} = \sum_{r \in \mathcal{R}} ||w_r|2 - 1| + \sum{e \in \mathcal{E}} ||e|2 - 1| + \sum{r \in \mathcal{R}} |w_r^\top r|$$

3. Mô hình Rotate4D (4D Quaternion Orthogonal Rotation)

Rotate4D biểu diễn các thực thể $h, t \in \mathbb{H}^d$ và quan hệ $r \in \mathbb{H}^d$. Phép biến đổi được định nghĩa qua tích Hamilton (Hamilton product): $$h \otimes r = (h_a r_a - h_b r_b - h_c r_c - h_d r_d) + (h_a r_b + h_b r_a + h_c r_d - h_d r_c)i + (h_a r_c - h_b r_d + h_c r_a + h_d r_b)j + (h_a r_d + h_b r_c - h_c r_b + h_d r_a)k$$ Để mô hình hóa quan hệ phân cấp, mô hình áp dụng toán tử co giãn mô-đun sau phép quay, cho phép độ dài của vectơ thực thể biến đổi có kiểm soát dọc theo trục phân cấp.

4. Mô hình ConvRot (Complex Convolutional Rotation Integration)

ConvRot thiết kế hai biến thể kiến trúc:

  • NConvRot: Áp dụng lớp tích chập chuẩn hóa trên các khối thành phần thực và ảo của bản nhúng phức.
  • HConvRot: Sử dụng HyperNetwork để sinh bộ lọc cho phép tích chập phức trước khi thực hiện phép xoay ánh xạ $h \rightarrow t$.

Phương pháp nghiên cứu tiên tiến

┌──────────────────────────────────────────────────────────────────────────────────────────────────┐
│                                   QUY TRÌNH NGHIÊN CỨU RIGOROUS                                  │
└──────────────────────────────────────────────────────────────────────────────────────────────────┘
  1. KHỞI TẠO VÀ CHUẨN BỊ DỮ LIỆU
     ├── 5 Benchmark: FB15k, FB15k-237, WN18, WN18RR, YAGO3-10
     └── Thiết lập môi trường: PyTorch, GPU phân tán, Fixed Random Seed
  2. CHIẾN LƯỢC HUẤN LUYỆN VÀ TỐI ƯU HÓA
     ├── Lấy mẫu âm đối kháng tự thích ứng (Self-Adversarial Negative Sampling)
     ├── Ràng buộc kiểu dữ liệu (Type-Constraint Negative Filtering)
     └── Tối ưu hóa: Adam & Adagrad (quét lr từ 1e-4 đến 1e-2, batch size 512-1024)
  3. ĐÁNH GIÁ VÀ HẬU XỬ LÝ (FILTERED SETTING)
     ├── Dự đoán đầu (?, r, t) & Dự đoán đuôi (h, r, ?)
     └── Tính toán chỉ số: MR, MRR, Hits@1, Hits@3, Hits@10

Thiết kế nghiên cứu

Luận án tuân thủ triệt để nguyên lý thực chứng luận (Positivism / Post-positivism) kết hợp mô hình hóa diễn dịch toán học (deductive mathematical proofs) với kiểm chứng thực nghiệm quy nạp (inductive empirical validation). Thiết kế thực nghiệm đa cấp độ bao gồm: cấp độ chiều nhúng biểu diễn, cấp độ toán tử biến đổi quan hệ, và cấp độ đánh giá đồ thị toàn cục.

Quy trình nghiên cứu rigorous

Luận án xây dựng quy trình huấn luyện và kiểm định chuẩn mực theo các tiêu chuẩn khắt khe nhất của cộng đồng AI quốc tế:

  1. Cơ chế thiết lập mẫu âm đối kháng tự thích ứng (Self-Adversarial Negative Sampling): Thay vì lấy mẫu âm phân phối đều ngẫu nhiên dễ tạo ra các mẫu âm vô nghĩa, luận án áp dụng phân phối xác suất đối kháng để tập trung khai thác các mẫu âm khó: $$p(h'_j, r, t'_j \mid {(h_i, r_i, t_i)}) = \frac{\exp(\alpha f_r(h'_j, t'j))}{\sum{k} \exp(\alpha f_r(h'_k, t'_k))}$$ Trong đó $\alpha$ là nhiệt độ lấy mẫu (temperature hyperparameter).
  2. Ràng buộc kiểu trong phát sinh mẫu âm (Type-Constraint Filtering): Khi tạo mẫu âm cho bộ ba $(h, r, ?)$, thuật toán chỉ chọn lọc các thực thể thay thế thuộc cùng miền xác định hoặc miền giá trị của quan hệ $r$, loại bỏ hiện tượng phạt sai mô hình khi gặp các bộ ba âm giả định không tương thích về mặt ngữ nghĩa.
  3. Quy trình lọc đánh giá (Filtered Ranking Protocol): Khi tính toán thứ hạng cho bộ ba kiểm tra $(h, r, t)$, toàn bộ các bộ ba hợp lệ khác đã xuất hiện trong tập huấn luyện, kiểm định hoặc kiểm tra sẽ được loại khỏi bảng xếp hạng ứng viên. Điều này đảm bảo giá trị thứ hạng phản ánh chính xác năng lực suy luận tri thức mới mà không bị sai lệch bởi các tri thức đã biết.

Data và phân tích

Đặc tính định lượng chi tiết của các tập dữ liệu thực nghiệm được tổng hợp trong bảng dưới đây:

| Tập dữ liệu | Số thực thể ($|\mathcal{E}|$) | Số quan hệ ($|\mathcal{R}|$) | Tập Huấn luyện | Tập Kiểm định | Tập Kiểm tra | Đặc điểm cấu trúc chính | | :--- | :---: | :---: | :---: | :---: | :---: | :--- | | WN18 | 40,943 | 18 | 141,442 | 5,000 | 5,000 | Phân cấp từ vựng, có rò rỉ quan hệ đảo | | FB15k | 14,951 | 1,345 | 483,142 | 50,000 | 59,071 | Đa quan hệ phong phú, có rò rỉ quan hệ đảo | | WN18RR | 40,943 | 11 | 86,835 | 3,034 | 3,134 | Đã loại rò rỉ, gồm 3 nhóm: R, S, C | | FB15k-237| 14,541 | 237 | 272,115 | 17,535 | 20,466 | Loại bỏ 80% quan hệ so với FB15k | | YAGO3-10 | 123,182 | 37 | 1,079,040 | 5,000 | 5,000 | Quy mô lớn, thực thể liên kết bậc $\ge 10$ |

Các độ đo hiệu suất cốt lõi được tính toán tường minh:

  • Thứ hạng trung bình (Mean Rank - MR): $$\text{MR} = \frac{1}{|T|} \sum_{i=1}^{|T|} \text{rank}_i$$
  • Thứ hạng nghịch đảo trung bình (Mean Reciprocal Rank - MRR): $$\text{MRR} = \frac{1}{|T|} \sum_{i=1}^{|T|} \frac{1}{\text{rank}_i}$$
  • Tỷ lệ trúng trong Top-$k$ (Hits@$k$): $$\text{Hits@}k = \frac{1}{|T|} \sum_{i=1}^{|T|} \mathbb{I}(\text{rank}_i \le k)$$

Phát hiện đột phá và implications

┌──────────────────────────────────────────────────────────────────────────────────────────────────┐
│                             CÁC KẾT QUẢ ĐỘT PHÁ ĐỊNH LƯỢNG NỔI BẬT                               │
└──────────────────────────────────────────────────────────────────────────────────────────────────┘
  ┌───────────────────────┐  ┌───────────────────────┐  ┌───────────────────────┐  ┌───────────────────────┐
  │      ConvHyper        │  │       RotatPRH        │  │       Rotate4D        │  │        ConvRot        │
  │  +0.5% trên các tập   │  │ +15% Hits@1 trên      │  │ +12% trên quan hệ     │  │ +5% đến +7% hiệu suất │
  │  dữ liệu chuẩn        │  │ YAGO3-10 quy mô lớn   │  │ phân cấp WN18RR       │  │ vượt trội baseline    │
  └───────────────────────┘  └───────────────────────┘  └───────────────────────┘  └───────────────────────┘

Những phát hiện then chốt

  1. Khả năng triệt tiêu điểm nghẽn biểu diễn trên tập dữ liệu lớn của RotatPRH: Trên bộ dữ liệu đại quy mô YAGO3-10 (hơn 123,000 thực thể và hơn 1 triệu bộ ba), RotatPRH tạo nên bước đột phá khi cải thiện chỉ số Hits@1 lên tới 15% so với các mô hình xoay cơ sở. Điều này chứng minh rằng việc phân lập không gian xoay trên từng siêu phẳng quan hệ giúp loại bỏ triệt để hiện tượng chồng lấn hình học khi mật độ thực thể quá dày đặc.
  2. Ưu thế vượt trội của Đại số Quaternion đối với Cấu trúc Phân cấp trong Rotate4D: Thực nghiệm trên tập WN18RR chỉ ra rằng đối với các quan hệ chuyên môn hóa phân tầng (như hypernym và instance_hypernym), Rotate4D đạt mức tăng trưởng 12% hiệu suất so với Rotate3D và RotatE. Phép xoay kép trong nhóm $SO(4)$ kết hợp toán tử co giãn mô-đun đã giải quyết hoàn hảo tính bất đối xứng một chiều của cây phân cấp từ vựng.
  3. Hiệu ứng cộng hưởng tương hỗ giữa Tích chập và Xoay phức trong ConvRot: ConvRot mang lại mức tăng trưởng tổng thể từ 5% đến 7% trên các thước đo MRR và Hits@10. Phân tích loại bỏ (ablation study) khẳng định: các lớp tích chập đóng vai trò trích xuất đặc trưng liên kết cục bộ, trong khi phép xoay phức duy trì hướng biến đổi đại số toàn cục, tạo ra sự bù trừ hoàn hảo.
  4. Tác động của Hàm Kích hoạt ELU và HyperNetwork trong ConvHyper: Việc chuyển từ ReLU sang ELU kết hợp ma trận trọng số sinh bởi HyperNetwork giúp ConvHyper cải thiện 0.5% trên mọi chỉ số, đồng thời tăng tốc độ hội tụ của mô hình lên 30% nhờ duy trì gradient ổn định qua 300 epochs.

Implications đa chiều

  • Về mặt Lý thuyết: Luận án đặt nền móng cho việc mở rộng các không gian biểu diễn hình học vi phân đa tạp (Manifold Learning) và Đại số siêu phức Clifford/Cayley-Dickson trong học biểu diễn tri thức.
  • Về mặt Phương pháp luận: Chứng minh tính khả thi của việc nhúng các mạng siêu tham số (HyperNetworks) vào các bài toán đồ thị có cấu trúc lớn, mở ra hướng nghiên cứu kết hợp giữa Meta-learning và Khai phá đồ thị.
  • Về mặt Ứng dụng Thực tiễn:
    • Hệ thống Chatbot Tiếng Việt thông minh: Ứng dụng bản nhúng từ các mô hình đề xuất để truy vấn tri thức ngữ nghĩa tự nhiên, nâng cao độ chính xác trả lời câu hỏi thực thể.
    • Hệ thống Y tế & Dược học: Nhận diện tương tác thuốc bất lợi trong đơn thuốc dựa trên dự đoán liên kết giữa các hợp chất hóa học và protein mục tiêu.
    • Hệ thống Gợi ý (Recommender Systems): Dự đoán chính xác các mối quan hệ tiềm ẩn giữa người dùng và sản phẩm trong các mạng thương mại điện tử quy mô lớn.

Limitations và Future Research

Nhằm duy trì tính khách quan và chuẩn mực học thuật, luận án chỉ rõ 4 giới hạn nghiên cứu chính:

  1. Giả định Đồ thị Tĩnh (Static Graph Assumption): Mô hình chưa tích hợp chiều thời gian $\tau$ vào các bộ ba tri thức, khiến việc biểu diễn các sự kiện biến đổi liên tục trong đồ thị thời gian thực gặp rào cản.
  2. Hạn chế trong Dự đoán Quy nạp (Inductive Setting): Toàn bộ quá trình đánh giá dựa trên bài toán chuyển tiếp (transductive), yêu cầu toàn bộ thực thể phải xuất hiện trong tập huấn luyện. Mô hình chưa thể nhúng tức thời các thực thể hoàn toàn mới mà không cần huấn luyện lại.
  3. Chi phí Tính toán trong Không gian Siêu phức: Việc tính toán phép nhân Quaternion và tích chập trên ma trận tham số lớn đòi hỏi dung lượng bộ nhớ GPU cao khi mở rộng lên đồ thị hàng tỷ đỉnh.
  4. Tính Giải thích của Mạng Nơ-ron (Interpretability): Mặc dù các phép biến đổi xoay mang tính hình học rõ ràng, các thành phần trích xuất đặc trưng của mạng tích chập sâu vẫn tồn tại đặc tính "hộp đen" (black-box).

Chương trình nghiên cứu tương lai (Future Research Agenda):

  • Mở rộng kiến trúc sang Đồ thị Tri thức Thời gian (Temporal Knowledge Graphs - TKG) dưới dạng bộ bốn $(h, r, t, \tau)$.
  • Nghiên cứu không gian Hyperbolic (Hình học Riemann phi Euclid) kết hợp Quaternion để mô hình hóa đồ thị có độ phức tạp topo phi tuyến cực cao.
  • Phát triển mô hình dự đoán liên kết quy nạp (Inductive Graph Learning) kết hợp mạng Graph Neural Networks (GNNs) và Large Language Models (LLMs).

Tác động và ảnh hưởng

Các kết quả nghiên cứu của luận án đã được công bố trên các diễn đàn khoa học uy tín cao nhất trong lĩnh vực Trí tuệ Nhân tạo và Hệ chuyên gia:

  • Tạp chí ISI/Scopus Q1: Knowledge-Based Systems (Impact Factor: 8.8) với mô hình Rotate4D [CT01].
  • Tạp chí ISI/Scopus Q1: Expert Systems with Applications (Impact Factor: 8.5) với mô hình ConvRot [CT02].
  • Tạp chí ISI/Scopus Q2: Applied Intelligence (Impact Factor: 5.3) với mô hình ConvHyper [CT03] và RotatPRH [CT04].
  • Các hội nghị quốc tế uy tín: ACIIDS (Rank B), ICCCI (Rank B), ICANN (Rank C), KSEM (Rank C).

Sự kết hợp giữa các tạp chí chuyên ngành hàng đầu thế giới đã khẳng định tính mới, độ chặt chẽ phương pháp luận và tiềm năng trích dẫn học thuật quốc tế mạnh mẽ của cụm công trình trong giai đoạn 5-10 năm tới.

Đối tượng hưởng lợi

  • Nghiên cứu sinh và Giới học thuật (Doctoral & Senior Researchers): Tiếp cận một khung lý thuyết hoàn chỉnh kết hợp giữa Đại số trừu tượng $SO(n)$, Hình học Quaternion và Mạng nơ-ron tích chập; tận dụng mã nguồn và quy trình thực nghiệm chuẩn tắc trên 5 bộ benchmark để phát triển các cấu trúc nhúng mới.
  • Kỹ sư R&D Doanh nghiệp (Industry R&D): Tích hợp các thuật toán ConvHyper và ConvRot vào các hệ thống gợi ý sản phẩm, truy vấn đồ thị ngữ nghĩa quy mô lớn, và các nền tảng Knowledge-Graph-augmented LLMs (GraphRAG).
  • Ngành Y sinh và Dược phẩm: Ứng dụng các thuật toán dự đoán liên kết trong phân tích tương tác protein-protein, tối ưu hóa việc phát hiện tác dụng phụ của thuốc và sàng lọc hợp chất y sinh.
  • Cơ quan Quản lý Dữ liệu và Chính sách: Xây dựng các cơ chế tự động làm sạch, chuẩn hóa và liên kết cơ sở dữ liệu mở quốc gia, nâng cao độ tin cậy của các hệ thống ra quyết định dựa trên dữ liệu lớn.

Câu hỏi chuyên sâu

1. Đóng góp lý thuyết độc đáo nhất của luận án là gì và nó mở rộng lý thuyết nào?

Đóng góp lý thuyết độc đáo nhất là việc hình thức hóa phép xoay kép và xoay đẳng hướng trong không gian Quaternion 4 chiều $\mathbb{H}$ dựa trên nhóm trực giao đặc biệt $SO(4)$ kết hợp phép co giãn mô-đun đại số trong mô hình Rotate4D. Công trình này mở rộng trực tiếp lý thuyết xoay mặt phẳng phức 2D của RotatE (Sun et al., 2019) và khắc phục triệt để hạn chế của Rotate3D (Gao et al., 2020), giải quyết trọn vẹn việc biểu diễn đồng thời các cấu trúc phân cấp phi đối xứng và các mối quan hệ đa tương tác phức tạp.

2. Điểm cải tiến phương pháp luận cốt lõi so với các công trình quốc tế tiền nhiệm là gì?

So với ConvKB (Nguyen et al., 2018) và ConvE (Dettmers et al., 2018), luận án đã tiên phong ứng dụng HyperNetworks để sinh trọng số động thích ứng theo từng quan hệ thay vì dùng bộ lọc tĩnh ngẫu nhiên, kết hợp thay thế hàm kích hoạt sang ELU để duy trì luồng đạo hàm liên tục. Đồng thời, luận án xây dựng chiến lược lấy mẫu âm có ràng buộc kiểu ngữ nghĩa (Type-Constraint Negative Sampling), giúp loại bỏ triệt để tín hiệu nhiễu gradient trong quá trình tối ưu hóa ngẫu nhiên.

3. Phát hiện thực nghiệm nào gây bất ngờ nhất và bằng chứng dữ liệu đi kèm là gì?

Phát hiện bất ngờ nhất là sự bứt phá của mô hình RotatPRH trên tập dữ liệu đại quy mô YAGO3-10, khi chỉ số Hits@1 tăng vọt 15% so với baseline. Về mặt lý thuyết, việc chiếu lên siêu phẳng $w_r$ tưởng chừng làm tăng độ phức tạp tính toán, nhưng trong thực tế với các đồ thị cực lớn có phân phối liên kết $1-N$ và $N-1$ dày đặc, phép chiếu trực giao này đóng vai trò như một bộ phân tách cực kỳ hiệu quả, ngăn chặn hiện tượng suy biến không gian nhúng.

4. Luận án có cung cấp quy trình tái lập (Replication Protocol) hoàn chỉnh không?

Hoàn toàn đầy đủ. Luận án cung cấp chi tiết:

  • Cấu hình siêu tham số chuẩn xác: Chiều nhúng ($d \in {250, 500, 750, 1000}$), kích thước lô (batch size $B = 512$), nhiệt độ đối kháng $\alpha$, hệ số điều hòa $\lambda$.
  • Bộ tối ưu hóa (Adagrad / Adam) với tốc độ học $lr \in [10^{-4}, 10^{-2}]$.
  • Quy trình chia tập dữ liệu chuẩn, thuật toán sinh mẫu âm và mã giả chi tiết của các hàm tính điểm $f(h, r, t)$ trong phụ lục luận án.

5. Chương trình nghiên cứu 10 năm tiếp theo được vạch ra như thế nào?

Lộ trình 10 năm tập trung vào 3 trụ cột: (1) Chuyển dịch toàn diện từ đồ thị tĩnh sang Đồ thị Tri thức Động/Thời gian (Temporal Multi-relational KGs); (2) Khám phá các Đa tạp Hình học Hyperbolic / Không gian Riemann hỗn hợp; (3) Tích hợp biểu diễn đồ thị tri thức với Mô hình Ngôn ngữ Lớn (Neuro-Symbolic LLM-KG Co-Reasoning) để tạo ra các hệ thống AI có khả năng lập luận chính xác và có thể giải thích được.

Kết luận

  1. Bốn mô hình học máy đột phá: Luận án đã đề xuất và thẩm định thành công 4 kiến trúc tiên tiến: ConvHyper, RotatPRH, Rotate4D, và ConvRot, giải quyết toàn diện các thách thức từ quan hệ phức tạp, suy giảm gradient đến biểu diễn phân cấp trên đồ thị tri thức.
  2. Bước tiến vượt bậc về mặt lý thuyết nhóm và hình học vi phân: Ứng dụng chuẩn xác Lý thuyết Nhóm trực giao $SO(4)$ và Đại số Quaternion $\mathbb{H}$ vào biểu diễn đồ thị, thiết lập cầu nối vững chắc giữa đại số trừu tượng và học sâu đồ thị.
  3. Hiệu suất thực nghiệm vượt trội mang tính định lượng: Đạt mức tăng trưởng từ 0.5% đến 7% trên các tập benchmark chuẩn (FB15k-237, WN18RR), tăng đột phá 12% trên quan hệ phân cấp và 15% Hits@1 trên đồ thị quy mô lớn YAGO3-10.
  4. Mở ra 3 nhánh nghiên cứu mới: Khởi xướng các hướng tiếp cận mới về (i) Meta-learning trong sinh bộ lọc nơ-ron đồ thị, (ii) Biểu diễn siêu phẳng xoay phức, và (iii) Hợp nhất toán tử hình học với mạng tích chập.
  5. Giá trị ứng dụng thực tiễn và chuẩn mực công bố quốc tế: Hệ thống lý thuyết đã được triển khai bước đầu trong các ứng dụng Chatbot Tiếng Việt và phát hiện tương tác đơn thuốc, đồng thời được chứng minh chất lượng qua các công bố trên các tạp chí ISI hàng đầu thế giới như Knowledge-Based Systems và Expert Systems with Applications.