Tổng quan luận án

Luận án tiến sĩ chuyên ngành Công nghệ thông tin (mã số: 62 48 02 01) của nghiên cứu sinh Phạm Thế Anh Phú, được thực hiện dưới sự hướng dẫn khoa học của PGS.TS. Đỗ Phúc tại Trường Đại học Công nghệ Thông tin, Đại học Quốc gia Thành phố Hồ Chí Minh (năm 2022), tập trung vào đề tài: "Nghiên cứu mô hình khai thác mạng thông tin không đồng nhất và ứng dụng" (tên tiếng Anh: Researches on heterogeneous information networks mining model and applications).

Tính cấp thiết và khoảng trống nghiên cứu

Sự gia tăng khối lượng dữ liệu trong kỷ nguyên số gắn liền với ba đặc tính cơ bản của Dữ liệu lớn (Big Data): Quy mô (Volume), Tốc độ sinh trưởng (Velocity), và Tính đa dạng (Variety). Phần lớn các cấu trúc dữ liệu thực tế (mạng xã hội, mạng học thuật, đồ thị tri thức, mạng liên kết web) tồn tại dưới dạng mạng thông tin liên kết gồm nhiều loại thực thể (nút) và nhiều loại quan hệ (cung) khác nhau.

Các mô hình khai phá mạng thông tin truyền thống ban đầu chủ yếu tiếp cận theo hướng mạng thông tin đồng nhất (Homogeneous Information Network - HoIN) như PageRank, SimRank, SCAN, coi tất cả các nút và liên kết có cùng một vai trò. Khi chuyển đổi mạng không đồng nhất về mạng đồng nhất (HIN2HoIN), hệ thống bị mất mát ngữ nghĩa cấu trúc, triệt tiêu thông tin loại thực thể và tiêu tốn chi phí tính toán lưu trữ.

Bên cạnh đó, các nghiên cứu khai phá mạng thông tin không đồng nhất (Heterogeneous Information Network - HIN) dựa trên đường đi ngữ nghĩa (meta-path) như PathSim, HeteSim hầu như chỉ khai thác cấu trúc liên kết đồ thị (link-based) mà bỏ qua thuộc tính văn bản phi cấu trúc phong phú bên trong các nút. Trong thực tế, nhiều mạng thông tin chứa lượng lớn ngữ liệu văn bản (Content-based HIN - C-HIN) như bài báo khoa học, tóm tắt nội dung, bài đăng hoặc bình luận. Sự tương đồng về chủ đề giữa các nút văn bản giàu nội dung có tác động trực tiếp đến mức độ liên kết ngữ nghĩa giữa các thực thể trong mạng, tạo ra khoảng trống nghiên cứu cần giải quyết bằng các mô hình kết hợp đồng thời cấu trúc liên kết và ngữ liệu nội dung.

Mục tiêu và các bài toán nghiên cứu

Mục tiêu chính của luận án là phát triển và cải tiến các mô hình tính toán tương đồng, nhúng mạng thông tin và dự đoán liên kết cho mạng thông tin không đồng nhất giàu nội dung (C-HIN) thông qua việc tích hợp phân tích ngữ liệu chủ đề tiềm ẩn với cấu trúc đồ thị dạng meta-path. Luận án cụ thể hóa mục tiêu thành ba bài toán:

  1. Bài toán 1 (Tính toán tương đồng theo meta-path có trọng số chủ đề): Xây dựng cơ sở lý thuyết khám phá phân bố chủ đề trong mạng C-HIN; kết hợp tương đồng chủ đề với quan hệ cấu trúc giữa các thực thể để xác định trọng số liên kết ngữ nghĩa. Đề xuất mô hình W-PathSim và các mô hình mở rộng DW-PathSim, TopCPathSim, ComRank.
  2. Bài toán 2 (Học biểu diễn mạng thông tin giàu nội dung theo tiếp cận nhúng mạng - INE/NRL): Chuyển đổi các thực thể trong mạng C-HIN sang không gian vector số thực liên tục; kết hợp bước đi ngẫu nhiên định hướng chủ đề dọc theo meta-path (topic-driven meta-path-based random walk) với kiến trúc mạng nơ-ron Skip-gram. Đề xuất mô hình W-MetaPath2Vec và W-MetaGraph2Vec.
  3. Bài toán 3 (Dự đoán liên kết trên mạng C-HIN theo tiếp cận nhúng mạng): Xây dựng mô hình nhúng mạng phục vụ dự đoán sự hình thành của các liên kết mới dựa trên hình mẫu liên kết sẵn có và sự tương quan chủ đề giữa các cặp nút. Đề xuất mô hình W-MMP2Vec và mô hình mở rộng W-Com2Vec.

Đối tượng và phạm vi nghiên cứu

  • Đối tượng nghiên cứu: Mạng thông tin không đồng nhất giàu nội dung (C-HIN), các mô hình biểu diễn tri thức dạng đồ thị, cấu trúc meta-path, mô hình chủ đề Latent Dirichlet Allocation (LDA), mô hình nhúng mạng thông tin (Information Network Embedding - INE / Network Representation Learning - NRL), bài toán đo lường độ tương đồng (similarity measurement) và bài toán dự đoán liên kết (link prediction).
  • Phạm vi dữ liệu thực nghiệm: Dữ liệu học thuật DBLP (gồm tập dữ liệu DAC-Dataset và DONG-8AREA-Dataset), mạng thông tin phim ảnh IMDb và MovieLens (MovieLens100K), mạng tương tác xã hội BlogCatalog.
Thuộc tính phân loại Mạng thông tin đồng nhất (HoIN) Mạng thông tin không đồng nhất truyền thống (HIN) Mạng thông tin không đồng nhất giàu nội dung (C-HIN)
**Số loại thực thể ($ \mathcal{A} $)** $
**Số loại quan hệ ($ \mathcal{R} $)** $
Đặc trưng xem xét Mật độ liên kết Cấu trúc liên kết meta-path Kết hợp cấu trúc meta-path & chủ đề văn bản
Mô hình tiêu biểu PageRank, SimRank PathSim, HeteSim W-PathSim, W-Metapath2Vec, W-MMP2Vec

Tổng quan tài liệu và vị trí của luận án

Các hướng nghiên cứu trước

Luận án tiến hành tổng thuật các công trình nghiên cứu thuộc ba giai đoạn phát triển chính của lĩnh vực phân tích và khai phá mạng thông tin (INAM):

  1. Hướng tiếp cận trên mạng thông tin đồng nhất (HoIN): Các nghiên cứu nền tảng gồm PageRank của Larry Page & Sergey Brin (1995), thuật toán HITS của Kleinberg (1999), Personalized PageRank (P-PageRank), thuật toán đo độ tương đồng SimRank của Jeh & Widom (2002), và thuật toán gom cụm cấu trúc SCAN của Xu & cộng sự (2007). Nhược điểm cốt lõi là không phân biệt được bản chất khác nhau giữa các loại thực thể và quan hệ trong thế giới thực.
  2. Hướng tiếp cận khai phá HIN dựa trên Meta-path: Tang J. và cộng sự trong dự án AMiner (2008) đưa ra khái niệm kết hợp phân tích cấu trúc và nội dung nhưng chưa mô hình hóa tổng quát nhiều loại thực thể. Ni Lao & cộng sự (2010) đề xuất mô hình Path-Constrained Random Walk (PCRW) thiết lập đường đi có ràng buộc quan hệ. Yizhou Sun & Jiawei Han (2011) chuẩn hóa lý thuyết HIN và đề xuất thuật toán PathSim dựa trên cấu trúc meta-path đối xứng. Tiếp sau đó, các mô hình mở rộng xuất hiện gồm: HeteSim của Chuan Shi & cộng sự (2014) đánh giá sự tương đồng qua lân cận chuyển tiếp; AvgSim của X. Meng & cộng sự (2014) tính trung bình bước đi sóng đôi hai chiều; NetSim của M. Zhang & cộng sự (2015) bổ sung thuộc tính trọng số trên mạng. Ngoài ra, các bài toán gom cụm (RankClus, NetClus), phân lớp (GNetMine, HetPathMine), dự đoán liên kết (PathPredict) và khuyến nghị (HeteRecom, SemRec) trên HIN cũng lần lượt được phát triển.
  3. Hướng tiếp cận nhúng mạng thông tin (INE/NRL): Chuyển đổi đồ thị sang không gian vector gồm các mô hình trên mạng đồng nhất như DeepWalk của Perozzi & cộng sự (2014), LINE của Tang & cộng sự (2015), Node2Vec của Grover & Leskovec (2016); và các mô hình trên mạng không đồng nhất như Metapath2Vec và Metapath2Vec++ của Yuxiao Dong & cộng sự (2017), Metagraph2Vec (2018), HIN2Vec (2017).

Khoảng trống luận án lựa chọn giải quyết

Mặc dù các mô hình INE và meta-path trên HIN đã giải quyết được tính không đồng nhất về kiểu thực thể, các mô hình này vẫn gặp phải hạn chế khi áp dụng vào mạng C-HIN:

  • PathSim, HeteSim, Metapath2Vec giả định xác suất chuyển dịch giữa các nút trung gian dọc theo meta-path là đồng đều hoặc chỉ phụ thuộc vào bậc của nút, không phản ánh mức độ tương đồng nội dung văn bản giữa các nút giàu dữ liệu.
  • Quá trình lấy mẫu bước đi ngẫu nhiên (random walk) trong Metapath2Vec chưa được định hướng bởi ngữ cảnh chủ đề, dẫn đến việc các thực thể có cùng mẫu liên kết cấu trúc nhưng thuộc các chủ đề nghiên cứu/lĩnh vực hoàn toàn khác nhau vẫn bị kéo lại gần nhau trong không gian nhúng.

Cơ sở lý thuyết và phương pháp nghiên cứu

Cơ sở lý thuyết và khung phân tích

  • Định nghĩa mạng thông tin (Information Network): Đồ thị $G = (V, E)$ kèm hai hàm ánh xạ loại đối tượng $\phi: V \to \mathcal{A}$ và loại quan hệ $\psi: E \to \mathcal{R}$. Khi $|\mathcal{A}| > 1$ hoặc $|\mathcal{R}| > 1$, đồ thị được định nghĩa là Mạng thông tin không đồng nhất (HIN).
  • Lược đồ liên kết (Network Schema): Ký hiệu $T_G = (\mathcal{A}, \mathcal{R})$, là đồ thị mô tả siêu dữ liệu thể hiện các quan hệ trực tiếp giữa các loại thực thể.
  • Đường đi siêu quan hệ (Meta-path): Đường đi $\mathcal{P}$ định nghĩa trên lược đồ $T_G$, biểu diễn dưới dạng chuỗi các quan hệ: $A_1 \xrightarrow{R_1} A_2 \xrightarrow{R_2} \dots \xrightarrow{R_l} A_{l+1}$ (hoặc ký hiệu $R_1 \circ R_2 \circ \dots \circ R_l$).
  • Ma trận giao hoán (Commuting Matrix): Ký hiệu $M_{\mathcal{P}} = M_{A_1 A_2} \times M_{A_2 A_3} \times \dots \times M_{A_l A_{l+1}}$, đại diện cho số lượng đường đi cụ thể (path instances) nối giữa các cặp thực thể theo meta-path $\mathcal{P}$.
  • Mô hình chủ đề Latent Dirichlet Allocation (LDA): Mô hình sinh xác suất biểu diễn mỗi thực thể văn bản dưới dạng phân phối xác suất trên $k$ chủ đề tiềm ẩn $\vec{\theta} = (\theta_1, \theta_2, \dots, \theta_k)$, cho phép tính toán độ tương quan chủ đề thông qua các hàm khoảng cách vector (như Cosine similarity).
Mạng thông tin Thực thể ($\mathcal{A}$) Meta-path ($\mathcal{P}$) Ngữ nghĩa quan hệ mô hình hóa
DBLP Tác giả ($A$), Bài báo ($P$), Hội nghị ($V$), Đơn vị ($O$) $A-P-A$ Hai tác giả cùng viết chung bài báo (Đồng tác giả)
DBLP Tác giả ($A$), Bài báo ($P$), Hội nghị ($V$) $A-P-V-P-A$ Hai tác giả cùng xuất bản bài báo tại cùng một hội nghị/tạp chí
IMDb Người dùng ($U$), Phim ($M$), Diễn viên ($A$), Thể loại ($G$) $U-M-U$ Hai người dùng cùng đánh giá (rating) một bộ phim
IMDb Người dùng ($U$), Phim ($M$), Diễn viên ($A$) $U-M-A-M-U$ Hai người dùng cùng đánh giá các phim có cùng diễn viên tham gia

Phương pháp nghiên cứu

  1. Phương pháp nghiên cứu tổng luận: Phân tích, so sánh các nghiên cứu tiêu biểu của các nhóm tác giả J. Han, Yizhou Sun, Philip S. Yu, Chuan Shi, Jure Leskovec về biểu diễn đồ thị và khai phá dữ liệu liên kết.
  2. Phương pháp phân tích và thiết kế thuật toán: Xây dựng mô hình toán học tích hợp trọng số phân phối chủ đề vào ma trận giao hoán; thiết kế cơ chế lấy mẫu bước đi ngẫu nhiên dựa trên phân bố chủ đề; xây dựng hàm mục tiêu tối ưu hóa mạng nơ-ron bằng phương pháp suy giảm độ dốc ngẫu nhiên (Stochastic Gradient Descent - SGD) kết hợp cơ chế lấy mẫu âm không đồng nhất (Heterogeneous Negative Sampling - HNS).
  3. Phương pháp nghiên cứu thực nghiệm và so sánh: Thiết lập kịch bản thực nghiệm đối sánh trên các bộ dữ liệu chuẩn:
    • Đánh giá xếp hạng tương đồng bằng độ đo nDCG (Normalized Discounted Cumulative Gain).
    • Đánh giá bài toán phân lớp và dự đoán liên kết bằng các độ đo độ chính xác Micro-F1 và Macro-F1.
    • Phân tích độ nhạy của mô hình đối với các siêu tham số: số lượng chủ đề ẩn ($k$), số lượng bước đi mỗi nút ($w$), độ dài bước đi ($l$), số chiều không gian nhúng ($d$), kích thước cửa sổ trượt (sliding window) và kích thước tập mẫu âm (negative samples).

Nội dung chính theo từng chương

Chương 1: Tổng quan về luận án

Chương 1 thiết lập bức tranh tổng thể về ngành phân tích và khai phá mạng thông tin (INAM). Luận án trình bày sự phổ biến của dữ liệu mạng trong đời sống (mạng xã hội, tin sinh học, đồ thị tri thức) và sự hình thành của trào lưu khai phá mạng thông tin không đồng nhất (HIN).

Chương này xác định các hạn chế lớn của việc chuyển đổi mạng HIN2HoIN, phân tích nhu cầu tích hợp ngữ liệu văn bản vào bài toán C-HIN, đồng thời công bố cấu trúc 3 bài toán nghiên cứu chính, 3 phương pháp luận tiếp cận cùng danh mục các đóng góp khoa học và ứng dụng thực tiễn của luận án.

Chương 2: Cơ sở lý thuyết & các mô hình liên quan

Chương 2 hệ thống hóa các định nghĩa toán học nền tảng về đồ thị thông tin, mạng HoIN, mạng HIN, lược đồ mạng ($T_G$), và đường đi meta-path.

Chương này đi sâu phân tích cơ chế tính toán và ưu nhược điểm của các thuật toán đo độ tương đồng trên HIN:

  • PathSim: Dựa trên số lượng đường đi cụ thể $PC(x \leftrightarrow y, \mathcal{P})$ qua công thức: $$PathSim(x, y, \mathcal{P}) = \frac{2 \times PC(x \leftrightarrow y, \mathcal{P})}{PC(x \leftrightarrow x, \mathcal{P}) + PC(y \leftrightarrow y, \mathcal{P})}$$ Sử dụng ma trận giao hoán $M_{\mathcal{P}}$ để đếm số lượng đường đi, phù hợp với mạng quy mô nhỏ nhưng bỏ qua thuộc tính nội dung của các nút trung gian.
  • PCRW: Tính xác suất phân bố đường đi có kiểm soát loại quan hệ.
  • HeteSim: Tính toán độ tương đồng giữa các thực thể khác loại hoặc cùng loại dựa trên việc chuẩn hóa bước đi ngẫu nhiên sóng đôi đến nút trung tâm.
  • AvgSim: Đo xác suất bước đi ngẫu nhiên trung bình hai chiều.
  • NetSim: Bổ sung thuộc tính xác suất chuyển dịch giữa các kiểu nút.

Phần sau của chương phân tích nguyên lý của các mô hình nhúng mạng (INE/NRL), hàm mục tiêu tối đa hóa xác suất đồng xuất hiện của các nút lân cận dựa trên Skip-gram (DeepWalk, Node2Vec, Metapath2Vec), qua đó chỉ ra hạn chế của các phương pháp hiện tại khi áp dụng trên mạng C-HIN.

Chương 3: Tìm kiếm tương đồng trong mạng thông tin giàu nội dung, mô hình W-PathSim

Chương 3 trình bày giải pháp cho Bài toán 1. Luận án xây dựng cơ chế tích hợp mô hình chủ đề LDA vào mạng HIN để tạo thành mạng C-HIN:

  • Mô hình hóa chủ đề: Các nút văn bản (như bài báo $P$) được trích xuất phân bố chủ đề $k$-chiều qua LDA. Độ tương đồng chủ đề giữa hai nút văn bản được tính toán dựa trên khoảng cách vector phân phối chủ đề.
  • Trọng số chủ đề trên Meta-path: Luận án đề xuất gán trọng số chủ đề $w(p)$ cho từng đường đi cụ thể (path instance) thay vì gán giá trị mặc định bằng 1 như PathSim truyền thống.
  • Thuật toán W-PathSim: Xây dựng thuật toán Find_Path để tìm các đường đi ngữ nghĩa và thuật toán W-PathSim nhằm xác định mức độ tương đồng giữa hai thực thể cùng loại trên mạng C-HIN.
  • Kết quả thực nghiệm: Đánh giá trên tập dữ liệu học thuật DBLP (sử dụng chuẩn phân loại chủ đề ACM-CCS 2012 và Google Scholar Metric):
    • Tìm kiếm Top-10 tác giả tương đồng với "Christos Faloutsos" và "AnHai Doan" theo meta-path $A-P-V-P-A$.
    • Tìm kiếm Top-5 hội nghị tương đồng với "SIGMOD" theo meta-path $V-P-A-P-V$.
    • Đánh giá định lượng qua độ đo $nDCG$ cho thấy W-PathSim đạt độ chính xác ngữ nghĩa cao hơn so với các mô hình baseline gồm PPR, SimRank, và PathSim. Luận án cũng so sánh thời gian thực thi của W-PathSim trên các tập dữ liệu có tỷ lệ kích thước khác nhau.
Truy vấn thực nghiệm Meta-path sử dụng Baseline đối sánh Độ đo đánh giá Mô hình đề xuất
Tác giả tương đồng (Christos Faloutsos, AnHai Doan) $A-P-V-P-A$ PPR, SimRank, PathSim $nDCG$, Top-10 ranking W-PathSim
Hội nghị tương đồng (SIGMOD) $V-P-A-P-V$ PPR, SimRank, PathSim $nDCG$, Top-5 ranking W-PathSim

Chương 4: Tiếp cận nhúng mạng thông tin (INE) trong mạng C-HIN, mô hình W-Metapath2Vec

Chương 4 giải quyết Bài toán 2 bằng việc đề xuất mô hình biểu diễn mạng thông tin không đồng nhất giàu nội dung:

  • Hạn chế của Metapath2Vec: Metapath2Vec sử dụng bước đi ngẫu nhiên dựa trên meta-path thuần túy, dẫn đến việc chọn ngẫu nhiên các nút lân cận mà không xét xem nội dung của chúng có cùng hướng nghiên cứu/chủ đề hay không.
  • Cơ chế Topic-driven Meta-path-based Random Walk: Luận án phát triển thuật toán Topic Driven Walk. Xác suất chuyển dịch từ nút hiện tại sang nút kế tiếp dọc theo meta-path được điều chỉnh bằng trọng số phân bố chủ đề LDA.
  • Huấn luyện mô hình W-Metapath2Vec: Áp dụng cấu trúc mạng nơ-ron Skip-gram kết hợp kỹ thuật lấy mẫu âm không đồng nhất (Heterogeneous Negative Sampling - HNS) để cập nhật vector biểu diễn nút thông qua lan truyền ngược.
  • Kết quả thực nghiệm: Luận án kiểm thử mô hình trên hai bộ dữ liệu DBLP gồm DAC-Dataset (3 phân lớp) và DONG-8AREA-Dataset (8 phân lớp lĩnh vực):
    • Đánh giá bài toán tìm kiếm tác giả tương đồng và tìm kiếm hội nghị/tạp chí tương đồng.
    • Đánh giá bài toán phân lớp nút (node classification) và gom cụm nút (node clustering) cho các thực thể tác giả và hội nghị.
    • Khảo sát sự ảnh hưởng của tham số số lượng chủ đề ẩn $k$, số lượng bước đi mỗi nút ($w$), chiều dài bước đi ($l$), số chiều vector ($d$), kích thước cửa sổ trượt và tỷ lệ tập dữ liệu đến hiệu năng và thời gian thực thi của mô hình.

Chương 5: Dự đoán liên kết trên mạng C-HIN, mô hình W-MMP2Vec

Chương 5 hiện thực hóa Bài toán 3 thông qua việc xây dựng mô hình dự đoán liên kết W-MMP2Vec (Weighted Multiple Meta-Path to Vector):

  • Bản chất bài toán: Dự đoán sự tồn tại của liên kết mới giữa hai thực thể cùng loại (ví dụ: quan hệ đồng tác giả mới trong tương lai) được quy về bài toán phân lớp nhị phân dựa trên không gian vector nhúng.
  • Mô hình W-MMP2Vec: Luận án kết hợp nhiều hình mẫu liên kết (multiple meta-paths) và tương quan chủ đề để xây dựng hàm mục tiêu học biểu diễn thực thể; áp dụng thuật toán tối ưu hóa suy giảm độ dốc ngẫu nhiên (SGD) để cực tiểu hóa hàm mất mát.
  • Kết quả thực nghiệm:
    • Thực nghiệm dự đoán quan hệ đồng tác giả trên mạng học thuật DBLP.
    • Thực nghiệm dự đoán liên kết trên mạng thông tin đánh giá phim MovieLens100K và mạng tương tác xã hội BlogCatalog.
    • Kết quả so sánh định lượng thông qua hai độ đo Micro-F1 và Macro-F1 chứng minh hiệu quả của W-MMP2Vec so với các mô hình INE baseline. Luận án cũng trình bày thực nghiệm đánh giá thời gian thực thi và sự biến thiên hiệu năng theo số lượng chủ đề ẩn $k$ cùng các siêu tham số mạng ($w, l, d, neg_batch_size$).

Chương 6: Kết luận và hướng phát triển

Chương 6 tổng kết toàn bộ các kết quả lý thuyết và thực nghiệm đạt được trong luận án, khẳng định vai trò của việc kết hợp cấu trúc meta-path và tương quan nội dung.

Chương này giới thiệu kiến trúc và giao diện ứng dụng thực tiễn của hệ thống VnScholar — công cụ hỗ trợ tư vấn và khuyến nghị công tác học thuật dành cho cộng đồng nghiên cứu Công nghệ thông tin tại Việt Nam. Cuối cùng, luận án nêu rõ các hạn chế kỹ thuật hiện tại và đề xuất các hướng mở rộng nghiên cứu trong tương lai.

Kết quả và những đóng góp mới

Đóng góp về mặt học thuật và khoa học

  1. Mô hình tính toán tương đồng W-PathSim / DW-PathSim: Đề xuất giải pháp đo độ tương đồng trên mạng C-HIN bằng cách tích hợp trọng số phân bố chủ đề tiềm ẩn (LDA) vào các đường đi meta-path đối xứng, khắc phục hạn chế chỉ dựa vào cấu trúc liên kết đơn thuần của PathSim truyền thống. Mở rộng mô hình tính toán phân tán DW-PathSim trên nền tảng Apache Spark xử lý dữ liệu quy mô lớn.
  2. Mô hình nhúng mạng W-MetaPath2Vec / W-MetaGraph2Vec: Đề xuất cơ chế lấy mẫu bước đi ngẫu nhiên định hướng chủ đề (Topic-driven meta-path-based random walk) kết hợp mạng nơ-ron Skip-gram và lấy mẫu âm không đồng nhất (HNS) để nhúng các nút C-HIN vào không gian vector, nâng cao độ chính xác cho các bài toán phân lớp, gom cụm và tìm kiếm tương đồng.
  3. Mô hình dự đoán liên kết W-MMP2Vec: Đề xuất phương pháp dự đoán liên kết trên C-HIN dựa trên việc học biểu diễn tích hợp nhiều meta-path và tương quan chủ đề, giải quyết bài toán dự đoán quan hệ hợp tác mới giữa các thực thể.
  4. Các mô hình mở rộng khác: Phát triển mô hình TopCPathSim (tính toán tương đồng với meta-path có ràng buộc chủ đề), ComRank và W-Com2Vec (nhận diện và biểu diễn cộng đồng trên mạng không đồng nhất).

Đóng góp về mặt thực tiễn và ứng dụng

  • Xây dựng hệ thống VnScholar: Luận án ứng dụng trực tiếp các thuật toán đề xuất để xây dựng hệ thống tư vấn và khuyến nghị học thuật VnScholar dành cho các nhà khoa học trong lĩnh vực CNTT tại Việt Nam:
    • Tích hợp mô hình W-Metapath2Vec cho tính năng tìm kiếm các tác giả có cùng hướng nghiên cứu và mức độ tương đồng học thuật.
    • Tích hợp mô hình W-MMP2Vec cho tính năng dự đoán và khuyến nghị tiềm năng cộng tác khoa học giữa các tác giả dựa trên lịch sử xuất bản, hội nghị tham gia và sự trùng khớp chủ đề nghiên cứu.
  • Khả năng chuyển giao cho các hệ thống khác: Các thuật toán đề xuất có thể áp dụng cho hệ thống khuyến nghị sản phẩm thương mại điện tử, mạng xã hội (gợi ý kết bạn theo chủ đề quan tâm) hoặc các hệ thống nghe nhìn đa phương tiện (khuyến nghị phim ảnh/âm nhạc trên IMDb, MovieLens).

Hạn chế và hướng nghiên cứu tiếp

Hạn chế còn tồn tại

  • Chi phí tính toán ma trận giao hoán và việc sinh tập bước đi ngẫu nhiên trên toàn bộ đồ thị vẫn còn lớn khi kích thước mạng thông tin đạt quy mô hàng chục triệu nút/liên kết.
  • Độ chính xác của các mô hình C-HIN phụ thuộc vào việc lựa chọn số lượng chủ đề ẩn ($k$) trong mô hình phân tích ngữ liệu LDA ban đầu.
  • Luận án mới chỉ tập trung khai thác dữ liệu nội dung dạng văn bản thuần túy, chưa mở rộng ra các dạng dữ liệu đa phương tiện phức tạp khác (hình ảnh, video, âm thanh).

Hướng phát triển tiếp theo

  • Nghiên cứu tối ưu hóa hiệu năng và mở rộng các thuật toán nhúng mạng trên kiến trúc điện toán phân tán đa cụm.
  • Khảo sát các kỹ thuật trích xuất ngữ nghĩa văn bản hiện đại kết hợp mô hình ngôn ngữ lớn để thay thế hoặc tăng cường cho mô hình LDA.
  • Mở rộng mô hình khai phá trên các mạng thông tin không đồng nhất biến đổi theo thời gian (Dynamic Heterogeneous Information Networks).
  • Hoàn thiện các tính năng thực nghiệm và triển khai rộng rãi hệ thống VnScholar phục vụ cộng đồng nghiên cứu khoa học.

Giá trị tham khảo

Luận án là tài liệu tham khảo chuyên sâu trong lĩnh vực Khai phá dữ liệu (Data Mining), Phân tích mạng thông tin (INAM), Biểu diễn đồ thị (Graph Representation Learning/Graph Embedding) và Xử lý ngôn ngữ tự nhiên:

  • Đối với nghiên cứu sinh và học viên cao học ngành Khoa học máy tính / Công nghệ thông tin: Cung cấp hệ thống lý thuyết toàn diện về mạng HIN, các công thức toán học về meta-path, ma trận giao hoán, cơ chế bước đi ngẫu nhiên và kỹ thuật huấn luyện mô hình nhúng mạng Skip-gram.
  • Đối với giảng viên và chuyên gia nghiên cứu: Cung cấp phương pháp luận kết hợp giữa dữ liệu có cấu trúc (đồ thị liên kết) và dữ liệu phi cấu trúc (văn bản chủ đề); bộ kịch bản thực nghiệm chuẩn hóa trên các tập dữ liệu quốc tế (DBLP, MovieLens, BlogCatalog).
  • Đối với kỹ sư phát triển phần mềm và hệ thống: Cung cấp thiết kế thuật toán chi tiết và kiến trúc ứng dụng thực tế cho bài toán xây dựng hệ khuyến nghị (recommender systems), hệ thống phân tích mạng xã hội và hệ thống quản trị tri thức học thuật.

Câu hỏi thường gặp

1. Sự khác biệt cốt lõi giữa mô hình PathSim và mô hình W-PathSim của luận án là gì?

PathSim là mô hình đo độ tương đồng trên mạng HIN thuần cấu trúc, xác định số lượng đường đi cụ thể nối giữa hai nút dựa trên ma trận giao hoán mà không phân biệt nội dung của các nút trung gian (mọi path instance đều có trọng số mặc định bằng 1).

Ngược lại, W-PathSim gán thêm trọng số tương đồng chủ đề $w(p)$ được tính từ mô hình LDA vào từng path instance dọc theo meta-path, giúp phân biệt và đánh giá chính xác hơn mối quan hệ ngữ nghĩa giữa các thực thể có cùng cấu trúc liên kết nhưng khác biệt về lĩnh vực nội dung.

2. Mô hình W-Metapath2Vec cải tiến quá trình bước đi ngẫu nhiên (random walk) như thế nào so với Metapath2Vec?

Trong Metapath2Vec, bước đi ngẫu nhiên được dẫn dắt bởi meta-path nhưng xác suất chuyển dịch giữa các nút lân cận là hoàn toàn ngẫu nhiên dựa trên phân bố đều hoặc bậc của nút.

Trong W-Metapath2Vec, luận án phát triển thuật toán Topic Driven Walk, trong đó xác suất chuyển dịch từ một nút sang nút kế tiếp dọc theo meta-path tỷ lệ thuận với mức độ tương quan phân phối chủ đề văn bản giữa hai nút, đảm bảo các chuỗi mẫu huấn luyện phản ánh chính xác cả ngữ cảnh liên kết lẫn ngữ cảnh chủ đề.

3. Mô hình W-MMP2Vec giải quyết bài toán dự đoán liên kết dựa trên những yếu tố nào?

W-MMP2Vec giải quyết bài toán dự đoán liên kết bằng cách quy đổi về bài toán phân lớp trong không gian nhúng. Mô hình học vector biểu diễn của các thực thể thông qua việc kết hợp đồng thời nhiều dạng đường đi liên kết ngữ nghĩa (multiple meta-paths) và tương quan chủ đề tiềm ẩn giữa các thực thể, sau đó áp dụng thuật toán tối ưu hóa suy giảm độ dốc ngẫu nhiên (SGD) để cực tiểu hóa hàm mất mát.

4. Hệ thống ứng dụng thực tiễn VnScholar sử dụng các thuật toán nào của luận án?

Hệ thống VnScholar tích hợp hai thuật toán cốt lõi của luận án:

  1. Thuật toán W-Metapath2Vec được sử dụng cho tính năng tìm kiếm và gợi ý các nhà khoa học/tác giả có mức độ tương đồng cao về chuyên môn học thuật.
  2. Thuật toán W-MMP2Vec được sử dụng cho tính năng dự đoán và khuyến nghị tiềm năng hợp tác nghiên cứu khoa học giữa các cặp tác giả dựa trên dữ liệu công bố và mối quan tâm chung.

Kết luận

Luận án tiến sĩ của tác giả Phạm Thế Anh Phú đã giải quyết bài toán khai phá mạng thông tin không đồng nhất giàu nội dung (C-HIN) thông qua việc kết hợp cấu trúc liên kết dạng meta-path với mô hình phân tích chủ đề tiềm ẩn LDA. Các mô hình được đề xuất bao gồm W-PathSim (đo độ tương đồng), W-Metapath2Vec (nhúng mạng thông tin) và W-MMP2Vec (dự đoán liên kết) đã khắc phục hạn chế bỏ sót thuộc tính nội dung của các phương pháp truyền thống trên HIN. Kết quả thực nghiệm trên các tập dữ liệu chuẩn DBLP, MovieLens100K và BlogCatalog chứng minh tính hiệu quả của các mô hình đề xuất thông qua các độ đo $nDCG$, $Micro-F1$ và $Macro-F1$. Đồng thời, luận án đã hiện thực hóa các đóng góp khoa học thành ứng dụng thực tiễn thông qua việc phát triển hệ thống tư vấn và khuyến nghị công tác học thuật VnScholar.