Tổng quan luận án

Tính cấp thiết và khoảng trống nghiên cứu

Sự gia tăng khối lượng dữ liệu số hóa đặt ra yêu cầu cấp thiết về việc nâng cao hiệu quả khai thác và truy xuất thông tin từ các kho tài liệu văn bản. Nguồn tài nguyên văn bản tuy phong phú nhưng các công cụ truy xuất truyền thống chủ yếu dựa trên từ khóa độc lập (keyword/term) và tần suất xuất hiện, dẫn đến nhiều hạn chế:

  • Không xử lý được các hiện tượng ngôn ngữ như từ đồng nghĩa, từ đa nghĩa và mối quan hệ ngữ cảnh.
  • Kết quả tìm kiếm có độ chính xác (precision) và độ bao phủ (recall) thấp khi người dùng không mô tả chính xác từ khóa chuyên môn.
  • Các mô hình mở rộng như Không gian Vector (Vector Space Model), mô hình xác suất (BM25, BM25*), mô hình ngôn ngữ (Language Model) hay mô hình chủ đề (LSI, PLSA, LDA) dù cải thiện việc phân tích tiềm ẩn nhưng vẫn chưa khai thác trọn vẹn thông tin cấu trúc và ngữ nghĩa tường minh của miền tri thức.
  • Các ontology đa miền quy mô lớn (như DBpedia, YAGO) có độ nhập nhằng cao, trong khi các ontology miền sẵn có (như MeSH, CSO) không được thiết kế chuyên biệt cho tác vụ truy xuất tài liệu văn bản.

Luận án tập trung giải quyết khoảng trống nghiên cứu về phương pháp biểu diễn ngữ nghĩa cho tài liệu văn bản kết hợp với ontology miền có độ mịn phù hợp, đồng thời xây dựng mô hình hệ thống quản lý và tìm kiếm tài liệu theo ngữ nghĩa.

Mục tiêu và câu hỏi nghiên cứu

Luận án xác định ba mục tiêu nghiên cứu chính:

  1. Mục tiêu 1: Nghiên cứu phương pháp mới cho bài toán tìm kiếm tài liệu theo ngữ nghĩa thuộc một miền tri thức xác định dựa trên ontology miền và biểu diễn văn bản bằng đồ thị keyphrase, nhằm nâng cao độ chính xác và độ bao phủ.
  2. Mục tiêu 2: Nghiên cứu giải pháp thiết kế và xây dựng một lớp hệ thống mới mang tên "Hệ quản lý cơ sở tài liệu văn bản theo ngữ nghĩa" (Semantic Document Base System - SDBS), đồng thời triển khai thử nghiệm trên ba hệ thống ứng dụng cụ thể để kiểm chứng tính khả thi.
  3. Mục tiêu 3: Nghiên cứu phương pháp đo lường mức độ tương đồng ngữ nghĩa giữa hai tài liệu (văn bản với văn bản) áp dụng cho cả miền tri thức chuyên biệt và tri thức tổng quát dựa trên đồ thị keyphrase kết hợp cơ sở tri thức lớn (DBpedia, Wikipedia).

Các bài toán con cụ thể được xác định để giải quyết Mục tiêu 1 bao gồm:

  • Bài toán con a: Xây dựng mô hình ontology biểu diễn tri thức cho một miền chuyên biệt làm căn cứ biểu diễn ngữ nghĩa.
  • Bài toán con b: Xây dựng mô hình và kỹ thuật biểu diễn nội dung tài liệu dưới dạng đồ thị keyphrase dựa trên miền tri thức đã mô hình hóa.
  • Bài toán con c: Tính toán khoảng cách và độ tương đồng ngữ nghĩa giữa các keyphrase (khái niệm) thông qua ontology miền.
  • Bài toán con d: So khớp và tính toán mức độ tương đồng ngữ nghĩa giữa cấu trúc biểu diễn của câu truy vấn và tài liệu.

Đối tượng và phạm vi nghiên cứu

  • Đối tượng nghiên cứu: Phương pháp biểu diễn ngữ nghĩa tài liệu văn bản, mô hình ontology miền, kỹ thuật đo độ tương đồng ngữ nghĩa giữa câu truy vấn và tài liệu, kỹ thuật so sánh độ tương đồng giữa hai tài liệu, và kiến trúc hệ thống SDBS.
  • Phạm vi dữ liệu: Kho tài liệu văn bản thô $D = {d_1, d_2, ..., d_n}$ thuộc miền tri thức $K$, sử dụng ngôn ngữ tiếng Anh. Văn bản có cấu trúc phân mục tương đối xác định (bài báo khoa học, sách điện tử, tin bài tuyển dụng, bài báo điện tử).
  • Phạm vi truy vấn: Câu truy vấn ngôn ngữ tự nhiên ở thể khẳng định thuộc dạng tìm kiếm ngẫu nhiên (adhoc search), độ dài tối đa 10 cụm từ, diễn đạt nhu cầu tìm kiếm của người dùng mà không đòi hỏi hiểu biết trước về cấu trúc dữ liệu.
  • Phạm vi kỹ thuật: Tập trung cải thiện độ chính xác, độ bao phủ và độ F; không đặt trọng tâm vào việc tối ưu hiệu năng phần cứng, tính toán phân tán hay thời gian phản hồi thời gian thực trên quy mô cực lớn.
  • Phạm vi miền ứng dụng: Thực nghiệm trên các miền Khoa học máy tính, Tuyển dụng Công nghệ thông tin, Báo điện tử (Lao động việc làm, Đầu tư công và Đầu tư nước ngoài), và tập dữ liệu chuẩn LP50.

Tổng quan tài liệu và vị trí của luận án

Các hướng nghiên cứu liên quan

Tác giả đã hệ thống hóa các công trình nghiên cứu trong lĩnh vực Truy xuất thông tin (IR), Web ngữ nghĩa (Semantic Web) và Biểu diễn tri thức:

  • Khái niệm và nền tảng IR: Định nghĩa kinh điển của Salton (1968), Anderson, Bruce R. Schatz, Roberto Basili & Alessandro Moschitti, Christopher D. Manning về truy xuất thông tin và hệ thống truy xuất tài liệu (Document Retrieval System - DRS).
  • Mô hình truy xuất truyền thống và mở rộng: Mô hình Boolean, Mô hình không gian Vector (Vector Space Model), mô hình xác suất (BM25, BM25*, Divergence From Randomness), Mô hình ngôn ngữ (Language Model), Phân tích chỉ mục ngữ nghĩa tiềm ẩn (LSI), Phân tích ngữ nghĩa tiềm ẩn xác suất (PLSA), Thừa số hóa ma trận không âm (NMF), Phân bổ Dirichlet tiềm ẩn (LDA) và các mô hình chủ đề (Topic Models).
  • Kỹ thuật bổ trợ xử lý văn bản: Đánh trọng số thuật ngữ, Xử lý ngôn ngữ tự nhiên (NLP), Nhận diện thực thể có tên (NER), Khử nhập nhằng nghĩa từ (WSD), Mở rộng câu truy vấn (Query Expansion), Mở rộng tài liệu (Document Expansion), Lý thuyết tập mờ (Fuzzy), Phân tích ngữ nghĩa tường minh (ESA), Mạng nơ-ron và Học máy.
  • Tìm kiếm theo ngữ nghĩa và Web ngữ nghĩa: Công trình của R. Guha và cộng sự (2003), nghiên cứu của Hai Dong và cộng sự (2010) về việc tích hợp thẻ ngữ nghĩa và cấu trúc tri thức vào tìm kiếm.
  • Mô hình biểu diễn tài liệu dạng đồ thị: Mạng ngữ nghĩa, Đồ thị khái niệm (Conceptual Graphs - CGs và CGs cải tiến), đồ thị hình sao, đồ thị tần số, đồ thị khoảng cách, đồ thị đồng hiện từ (co-occurrence graph). Nghiên cứu biểu diễn tài liệu kết hợp DBpedia thông qua các công cụ liên kết thực thể (SpotLight, TagMe).
  • Hệ thống Ontology: Các ontology tổng quát đa miền (DBpedia, YAGO, WordNet, Cyc, SUMO) và ontology chuyên ngành (MeSH, SNOMED CT trong y khoa; PhySH trong vật lý; JEL trong kinh tế; AGROVOC, AgriOntology trong nông nghiệp; CSO trong khoa học máy tính; MSC trong toán học).

Khoảng trống luận án lựa chọn giải quyết

  1. Các ontology miền sẵn có tuy phong phú nhưng không được thiết kế cho mục đích truy xuất tài liệu, thiếu sự gắn kết giữa thuật ngữ bề mặt (keyphrase) và cấu trúc khái niệm phân lớp để phục vụ tính toán ngữ nghĩa.
  2. Các mô hình đồ thị đồng hiện từ truyền thống chưa phản ánh được quan hệ ngữ nghĩa bản chất giữa các thực thể, trong khi các mô hình đồ thị dựa hoàn toàn vào DBpedia tổng quát lại gặp hiện tượng nhập nhằng và phụ thuộc vào độ chính xác của các công cụ chú thích tự động (SpotLight, TagMe).
  3. Thiếu một giải pháp thiết kế tổng thể mang tính hệ thống cho lớp ứng dụng "Hệ quản lý cơ sở tài liệu văn bản theo ngữ nghĩa", kết hợp chặt chẽ giữa quản lý lưu trữ văn bản và truy xuất theo nội dung tri thức.

Cơ sở lý thuyết và phương pháp nghiên cứu

Lý thuyết, khái niệm và khung phân tích

  • Định nghĩa hình thức Ontology của Alexander Maedche (2002): Cấu trúc $O = (C, H^C, R, rel, A^O)$, trong đó $C$ là tập khái niệm, $H^C$ là cây phân cấp khái niệm, $R$ là tập quan hệ, $rel$ là hàm ánh xạ quan hệ phi phân cấp, $A^O$ là tập tiên đề.
  • Mô hình đề xuất CK-ONTO (Classed Keyphrase based Ontology): Mô hình ontology miền bốn thành phần: $$\text{CK-ONTO} = (K, C, R, Rules)$$ Trong đó:
    • $K$: Tập hợp các keyphrase trong miền tri thức.
    • $C$: Tập hợp các lớp tương ứng với các khái niệm trong miền.
    • $R = (R_{cc}, R_{kk})$: Bộ quan hệ nhị phân gồm quan hệ giữa các lớp ($R_{cc}$) và quan hệ trực tiếp giữa các keyphrase ($R_{kk}$).
    • $Rules$: Tập hợp các luật suy diễn tri thức.
  • Khái niệm Keyphrase: Đơn vị từ hoặc cụm từ biểu thị khái niệm khoa học hoặc thực thể có tên, có tính chuẩn hóa và ít nhập nhằng ngữ nghĩa hơn từ đơn.
  • Cấu trúc khái niệm $c \in C$: Được định nghĩa bởi bộ 5 thành phần: $$c = (cnames, Statement, Kbs, Attrs, Insts)$$
    • $cnames$: Tập keyphrase đồng nghĩa định danh khái niệm (synset).
    • $Statement$: Định nghĩa khái niệm bằng ngôn ngữ tự nhiên.
    • $Kbs$: Tập keyphrase nền (cốt lõi) xuất hiện trong định nghĩa.
    • $Attrs$: Tập thuộc tính đặc tả cấu trúc nội tại của khái niệm (gồm tên thuộc tính, kiểu dữ liệu, miền giá trị).
    • $Insts$: Tập thực thể cụ thể thuộc về khái niệm.
Thành phần cấu trúc của khái niệm Kiểu dữ liệu / Miền giá trị Mục đích trong biểu diễn ngữ nghĩa
cnames Tập con của $K_c$ (synset) Nhận diện các biến thể từ vựng đồng nghĩa của khái niệm
Statement Chuỗi văn bản ngôn ngữ tự nhiên Định nghĩa phi hình thức cho người và máy tham chiếu
Kbs Tập con của $K$ Tập keyphrase đặc trưng tạo nên ngữ cảnh cốt lõi
Attrs Tập hợp bộ ba $(attname, type, range)$ Đặc tả các chiều thông tin và quan hệ cấu trúc giữa các lớp
Insts Tập hợp bộ đôi $(instname, values)$ Lưu trữ các thể hiện cụ thể mang giá trị thuộc tính

Phương pháp nghiên cứu

  • Phương pháp mô hình hóa hình thức: Sử dụng lý thuyết đồ thị và logic vị từ để mô hình hóa cấu trúc ontology và đồ thị keyphrase biểu diễn nội dung văn bản.
  • Phương pháp Xử lý ngôn ngữ tự nhiên (NLP): Rút trích keyphrase, gán nhãn từ loại (POS tagging), phân tích cú pháp câu và trích xuất quan hệ ngữ nghĩa dựa trên tập luật cú pháp.
  • Phương pháp đo lường độ tương đồng ngữ nghĩa:
    • Tính toán khoảng cách ngữ nghĩa giữa hai keyphrase dựa trên cấu trúc phân cấp và phi phân cấp trong CK-ONTO.
    • Đánh giá mức độ khớp giữa các cạnh/quan hệ.
    • So khớp hai đồ thị keyphrase thông qua thuật toán phép chiếu đồ thị có trọng số.
  • Phương pháp thực nghiệm định lượng: Đánh giá độ chính xác (Precision - P), độ bao phủ (Recall - R), độ đo F (F-score / F-measure - F) dựa trên các câu truy vấn mẫu và đánh giá mức độ liên quan nhị phân từ chuyên gia: $$\text{Precision} = \frac{|D_{\text{relevant}} \cap D_{\text{retrieved}}|}{|D_{\text{retrieved}}|}, \quad \text{Recall} = \frac{|D_{\text{relevant}} \cap D_{\text{retrieved}}|}{|D_{\text{relevant}}|}, \quad \text{F-score} = \frac{2 \cdot P \cdot R}{P + R}$$

Nguồn tư liệu và dữ liệu

  • Cơ sở tri thức nền tảng: WordNet, DBpedia Ontology, DBpedia Entities, Computer Science Ontology (CSO), Wikipedia.
  • Dữ liệu thực nghiệm:
    • Kho học liệu Khoa học máy tính: Gồm hai tập 1.000 tài liệu và 10.000 tài liệu văn bản tiếng Anh, cùng 100 câu truy vấn chuẩn.
    • Kho tin bài tuyển dụng ngành Công nghệ thông tin.
    • Kho tin bài báo điện tử tiếng Anh thuộc các chủ đề Lao động việc làm, Đầu tư công, Đầu tư nước ngoài.
    • Bộ dữ liệu chuẩn LP50 (Lee-Pincombe-Welsh gồm 50 văn bản tiếng Anh) dùng để đánh giá mức độ tương đồng giữa hai tài liệu.

Nội dung chính theo từng chương

Chương 1: Giới thiệu tổng quan về đề tài

Chương 1 khảo sát bối cảnh ứng dụng công nghệ thông tin trong lưu trữ, quản lý và tìm kiếm văn bản tại bốn lĩnh vực: giáo dục và đào tạo (tài nguyên học tập), báo chí xuất bản (tin bài báo điện tử), quản lý hành chính nhà nước (văn bản lưu trữ), và thị trường tuyển dụng trực tuyến. Tác giả phân tích những hạn chế cố hữu của các hệ thống tìm kiếm từ khóa hiện nay như việc không xử lý được ngữ nghĩa tiềm ẩn, tỷ lệ thông tin rác cao và giao diện truy vấn chưa hỗ trợ ngữ cảnh chuyên ngành. Từ đó, chương xác định mục tiêu tổng thể, giới hạn phạm vi nghiên cứu (văn bản tiếng Anh, câu truy vấn ngắn tối đa 10 cụm từ) và nêu tóm tắt bốn nhóm đóng góp chính của luận án.

Chương 2: Cơ sở lý thuyết

Chương 2 trình bày tổng quan lý thuyết về tìm kiếm theo ngữ nghĩa, phân loại các hướng tiếp cận chính và tập trung vào hướng tiếp cận công nghệ tri thức với ontology. Tác giả phân tích các mô hình biểu diễn tri thức (mạng ngữ nghĩa, khung khái niệm, ontology) và các mô hình biểu diễn tài liệu văn bản (mô hình không gian vector, mô hình xác suất, mô hình chủ đề LDA/LSI, mô hình đồ thị đồng hiện từ, và mô hình đồ thị con trích từ DBpedia). Chương 2 làm rõ sáu bài toán con kỹ thuật cần giải quyết trong một hệ thống tìm kiếm ngữ nghĩa:

  1. Nhu cầu thông tin và tương tác người dùng.
  2. Rút trích thông tin tự động từ văn bản.
  3. Biểu diễn tài liệu và lập chỉ mục ngữ nghĩa.
  4. Đo lường mức độ tương đồng ngữ nghĩa giữa các keyphrase/khái niệm.
  5. Tìm kiếm và sắp hạng tài liệu.
  6. Đánh giá hiệu năng và chất lượng truy xuất.

Chương 3: CK-ONTO: Một mô hình ontology miền cho các hệ thống tìm kiếm tài liệu theo ngữ nghĩa

Chương 3 đề xuất chi tiết mô hình $\text{CK-ONTO} = (K, C, R, Rules)$.

  • Tập keyphrase $K$: Được phân loại theo cú pháp thành ba nhóm: $K_1$ (keyphrase đơn, ví dụ: database, network), $K_2$ (keyphrase tổ hợp đẳng lập như data structures and algorithms, chính phụ như document retrieval), và $K_3$ (keyphrase được bổ nghĩa, ví dụ: low complexity). Theo ngữ nghĩa, $K$ chia thành bốn tập con: $K_a$ (thuộc tính), $K_e$ (thực thể có tên), $K_c$ (khái niệm), và $K_u$ (chưa phân loại). Tập keyphrase ngành Khoa học máy tính thu thập được khoảng 16.000 phần tử.
  • Tập lớp khái niệm $C$: Mỗi khái niệm được mô tả bởi bộ $(cnames, Statement, Kbs, Attrs, Insts)$. Hai loại khái niệm được phân biệt: khái niệm chủ đề (Attrs và Insts rỗng) và khái niệm cấu trúc đầy đủ.
  • Tập quan hệ $R$: Gồm quan hệ giữa các khái niệm $R_{cc}$ (quan hệ phân cấp $r_{hyp}$ - is-a/kind-of, và quan hệ phi phân cấp) và quan hệ giữa các keyphrase $R_{kk}$ (tương đồng, viết tắt, từ loại liên quan).
Thuộc tính của khái niệm ALGORITHM ($Attrs$) Kiểu giá trị ($type$) Miền giá trị ($range$) Giá trị mẫu ($sample\ value$)
isHeuristic Boolean true, false false
isRecursive Boolean true, false true
useDataStructure Instance {ARRAY, LIST, GRAPH, TREE} linked list, stack, balanced tree, hash table
hasComplexity Instance {COMPLEXITY} linear, logarithmic, exponential, factorial
Thực thể mẫu của khái niệm ALGORITHM ($Insts$) Thuộc tính Giá trị tương ứng
binary search hasComplexity
useDataStructure
isHeuristic
isRecursive		 logarithm
sorted array
false
true
heap sort hasComplexity
useDataStructure
isHeuristic
isRecursive		 linearithmic
array
false
false

Chương 3 cũng mô tả quy trình xây dựng ontology miền, các công cụ quản lý CK-ONTO hỗ trợ tạo mới lớp, biên tập quan hệ và kết xuất tệp tin định dạng RDF/RDFS.

Chương 4: Biểu diễn tài liệu dựa trên đồ thị keyphrase và đánh giá độ tương đồng ngữ nghĩa trong tìm kiếm

Chương 4 thiết lập phương pháp biểu diễn tài liệu và câu truy vấn dưới dạng đồ thị keyphrase có trọng số $KG = (V, E, W_V, W_E)$.

  • Quy trình xây dựng đồ thị: Rút trích keyphrase từ văn bản; liên kết các keyphrase với các khái niệm trong CK-ONTO; thiết lập các cạnh nối dựa trên quan hệ cấu trúc cú pháp trong câu và quan hệ ngữ nghĩa trong ontology; gán trọng số cho đỉnh ($W_V$) dựa trên vị trí/tần suất và trọng số cho cạnh ($W_E$) dựa trên loại quan hệ.
  • Kỹ thuật đo lường tương đồng:
    1. Độ tương đồng giữa hai keyphrase: Xác định qua hàm khoảng cách ngữ nghĩa trên cây phân cấp và các liên kết phi phân cấp trong CK-ONTO.
    2. Độ tương đồng giữa hai quan hệ: Dựa trên độ tương quan giữa loại quan hệ ngữ nghĩa và hướng liên kết.
    3. Độ tương đồng giữa hai đồ thị: Sử dụng thuật toán so khớp đồ thị (graph matching) và phép chiếu đồ thị có trọng số từ đồ thị câu truy vấn $KG_Q$ lên đồ thị tài liệu $KG_D$.
  • Quy trình tìm kiếm: Hệ thống tiếp nhận câu truy vấn ngắn, chuyển đổi thành đồ thị keyphrase truy vấn, tính toán điểm tương đồng với tập đồ thị tài liệu đã lập chỉ mục và trả về danh sách tài liệu sắp xếp theo độ tương quan giảm dần.

Chương 5: Hệ quản lý cơ sở tài liệu văn bản theo ngữ nghĩa: Một giải pháp thiết kế hệ thống và các ứng dụng

Chương 5 giới thiệu khung kiến trúc hoàn chỉnh của hệ thống SDBS, bao gồm các phân hệ: Tiếp nhận và lưu trữ văn bản, Rút trích và phân tích ngữ nghĩa, Quản lý ontology miền CK-ONTO, Lập chỉ mục đồ thị, và Máy tìm kiếm ngữ nghĩa. Tác giả áp dụng kiến trúc này để triển khai ba hệ thống thực nghiệm:

  1. Hệ thống quản lý kho tài nguyên học tập ngành Khoa học máy tính: Đánh giá trên hai tập dữ liệu thử nghiệm:
    • Tập 1: 1.000 tài liệu và 100 câu truy vấn mẫu.
    • Tập 2: 10.000 tài liệu và 100 câu truy vấn mẫu.
  2. Hệ thống tìm kiếm tin bài tuyển dụng ngành Công nghệ thông tin: Hỗ trợ tìm kiếm theo kỹ năng, vị trí công việc, công nghệ và các yêu cầu chuyên môn.
  3. Hệ thống tìm kiếm và chọn lọc tin bài trên báo điện tử: Hỗ trợ lọc và truy xuất tin tức thuộc các chủ đề Lao động việc làm, Đầu tư công và Đầu tư nước ngoài.

Kết quả thực nghiệm cho thấy hệ thống tìm kiếm theo ngữ nghĩa cải thiện độ chính xác và độ bao phủ so với phương pháp tìm kiếm từ khóa truyền thống trên cùng các bộ dữ liệu thử nghiệm.

Chương 6: Đo lường mức độ tương đồng ngữ nghĩa giữa hai tài liệu với tri thức tổng quát dựa trên đồ thị keyphrase

Chương 6 mở rộng phương pháp biểu diễn đồ thị keyphrase để giải quyết bài toán so sánh độ tương đồng giữa hai tài liệu văn bản trong miền tri thức tổng quát.

  • Quy trình xử lý: Tác giả kết hợp rút trích keyphrase với cơ sở tri thức DBpedia/Wikipedia để gán nhãn thực thể và khái niệm tổng quát. Đồ thị keyphrase đại diện cho mỗi tài liệu được làm giàu bằng các liên kết thực thể (Entity Linking).
  • Tính toán tương đồng: Mức độ tương đồng giữa hai tài liệu được xác định thông qua việc so khớp hai đồ thị keyphrase đã được chú thích tri thức, kết hợp trọng số cấu trúc và ngữ nghĩa của các đỉnh tương ứng.
  • Thực nghiệm: Đánh giá trên bộ dữ liệu chuẩn LP50 (50 tài liệu tin tức của Lee-Pincombe-Welsh). Kết quả thực nghiệm khẳng định phương pháp dựa trên đồ thị keyphrase có chú thích tri thức đạt hệ số tương quan cao với đánh giá của con người.

Kết quả và những đóng góp mới

Đóng góp về mặt khoa học (lý luận)

  1. Mô hình ontology miền CK-ONTO: Đề xuất mô hình ontology miền bốn thành phần $(K, C, R, Rules)$ lấy keyphrase làm đơn vị cơ sở, phân loại chi tiết tập keyphrase và cấu trúc khái niệm 5 thành phần $(cnames, Statement, Kbs, Attrs, Insts)$, giúp chuẩn hóa việc mô hình hóa tri thức phục vụ riêng cho bài toán tìm kiếm văn bản.
  2. Mô hình biểu diễn tài liệu bằng đồ thị keyphrase: Xây dựng phương pháp chuyển đổi văn bản và câu truy vấn thành đồ thị keyphrase có trọng số, tích hợp đồng thời thông tin cấu trúc cú pháp và quan hệ ngữ nghĩa miền.
  3. Kỹ thuật đo lường độ tương đồng ngữ nghĩa: Phát triển thuật toán đo tương đồng giữa hai keyphrase, hai quan hệ và hai đồ thị văn bản thông qua phép chiếu đồ thị có trọng số, nâng cao độ chính xác trong so khớp truy vấn - tài liệu.
  4. Phương pháp đo tương đồng giữa hai văn bản với tri thức tổng quát: Mở rộng mô hình đồ thị keyphrase kết hợp cơ sở tri thức DBpedia để so sánh độ tương đồng nội dung giữa hai văn bản mà không bị giới hạn trong một miền hẹp.

Đóng góp về mặt thực tiễn và ứng dụng

  1. Kiến trúc hệ thống SDBS: Đề xuất một giải pháp thiết kế tổng thể cho lớp "Hệ quản lý cơ sở tài liệu văn bản theo ngữ nghĩa", tích hợp đồng bộ giữa lưu trữ, quản lý nghiệp vụ và truy xuất nội dung ngữ nghĩa.
  2. Xây dựng ba hệ thống thử nghiệm:
    • Hệ thống quản lý kho tài nguyên học tập ngành Khoa học máy tính.
    • Hệ thống tìm kiếm tin bài tuyển dụng ngành Công nghệ thông tin.
    • Hệ thống tìm kiếm và chọn lọc tin bài trên báo điện tử.
  3. Cơ sở tri thức và dữ liệu chuẩn: Xây dựng cơ sở tri thức CK-ONTO ngành Khoa học máy tính (~16.000 keyphrase) và các bộ dữ liệu thử nghiệm có gán nhãn chuyên gia phục vụ đánh giá thực nghiệm.

Kiến nghị và giải pháp đề xuất

  • Ứng dụng giải pháp SDBS vào việc xây dựng các thư viện số chuyên ngành tại các trường đại học để nâng cao hiệu quả khai thác tài nguyên học tập.
  • Áp dụng kỹ thuật biểu diễn ngữ nghĩa vào các cổng thông tin việc làm và hệ thống quản trị văn bản điện tử nhằm tự động phân loại, lọc trùng và gợi ý tài liệu chính xác theo ngữ cảnh.

Hạn chế và hướng nghiên cứu tiếp

Hạn chế của luận án

  • Ngôn ngữ dữ liệu: Các mô hình và thực nghiệm hiện mới tập trung chủ yếu vào văn bản tiếng Anh; chưa mở rộng hoàn chỉnh cho văn bản tiếng Việt do sự phức tạp trong tách từ và phân tích cú pháp tiếng Việt.
  • Xây dựng ontology thủ công/bán tự động: Việc xây dựng cơ sở tri thức CK-ONTO vẫn phụ thuộc nhiều vào công sức của chuyên gia tri thức, đòi hỏi thời gian và chi phí duy trì cao.
  • Phạm vi miền tri thức: Cơ sở tri thức mới được xây dựng tập trung cho một số miền cụ thể (Khoa học máy tính, Việc làm CNTT, Tin tức báo chí), chưa phủ kín toàn bộ các chuyên ngành khoa học khác.
  • Hiệu năng hệ thống quy mô lớn: Nghiên cứu chưa đi sâu vào việc tối ưu hóa tốc độ truy vấn thời gian thực, lập chỉ mục phân tán hoặc xử lý dữ liệu lớn (Big Data) khi kho tài liệu đạt quy mô hàng triệu văn bản.

Hướng phát triển

  1. Hoàn thiện các công cụ tự động và bán tự động hóa quy trình rút trích, cập nhật và mở rộng ontology miền từ nguồn văn bản thô.
  2. Mở rộng mô hình và các thuật toán phân tích ngữ nghĩa cho dữ liệu văn bản tiếng Việt.
  3. Tối ưu hóa cấu trúc chỉ mục đồ thị keyphrase và thuật toán so khớp đồ thị để nâng cao tốc độ xử lý trên các kho tài liệu quy mô lớn và hỗ trợ tính toán phân tán.
  4. Mở rộng áp dụng kiến trúc SDBS sang các lĩnh vực khác như quản lý văn bản hành chính nhà nước, hồ sơ pháp luật và tư liệu y tế.

Giá trị tham khảo

  • Nghiên cứu sinh và học viên cao học: Tham khảo phương pháp luận kết hợp giữa ontology miền và lý thuyết đồ thị trong xử lý ngôn ngữ tự nhiên; phương pháp thiết kế thực nghiệm đánh giá hệ thống truy xuất thông tin (IR).
  • Giảng viên và nhà nghiên cứu CNTT: Sử dụng cấu trúc mô hình CK-ONTO và các kỹ thuật đo lường tương đồng ngữ nghĩa làm tài liệu giảng dạy chuyên đề Biểu diễn tri thức, Web ngữ nghĩa và Truy xuất thông tin.
  • Kỹ sư phát triển phần mềm và kiến trúc sư hệ thống: Ứng dụng mô hình kiến trúc SDBS (Chương 5) để thiết kế các hệ thống thư viện số, phần mềm tuyển dụng trực tuyến, công cụ chọn lọc tin tức tự động hoặc cổng học liệu điện tử.
  • Cơ quan quản lý và doanh nghiệp: Tham khảo giải pháp quản lý tài liệu theo ngữ nghĩa để định hướng số hóa văn bản lưu trữ, giải quyết bài toán trùng lặp và chồng chéo thông tin trong quản trị hành chính.

Câu hỏi thường gặp

1. Mô hình CK-ONTO khác biệt như thế nào so với các ontology miền truyền thống?

Mô hình CK-ONTO được thiết kế chuyên biệt cho tác vụ tìm kiếm tài liệu văn bản bằng cách lấy keyphrase làm đơn vị cơ sở thay vì chỉ định nghĩa các lớp trừu tượng. Cấu trúc khái niệm trong CK-ONTO gồm 5 thành phần rõ ràng $(cnames, Statement, Kbs, Attrs, Insts)$, cho phép tích hợp cả tập keyphrase nền ($Kbs$) và tập thuộc tính/thực thể ($Attrs, Insts$), đồng thời phân tách rõ hai hệ thống quan hệ: quan hệ giữa các lớp ($R_{cc}$) và quan hệ trực tiếp giữa các keyphrase ($R_{kk}$).

2. Tại sao luận án sử dụng "keyphrase" làm đơn vị cơ bản để biểu diễn nội dung văn bản?

Keyphrase (cụm từ khóa) phản ánh chủ đề cốt lõi của văn bản chính xác hơn và ít bị nhập nhằng ngữ nghĩa so với các từ đơn lẻ (words/terms). Trong các tài liệu chuyên ngành, các khái niệm thường được diễn đạt dưới dạng cụm từ tổ hợp (ví dụ: database programming, document retrieval), do đó việc xử lý trên đơn vị keyphrase giúp giữ trọn vẹn ngữ nghĩa của khái niệm và giảm thiểu sự mơ hồ trong câu truy vấn.

3. Quy trình tính toán độ tương đồng giữa câu truy vấn và tài liệu được thực hiện ra sao?

Quy trình gồm ba bước:

  1. Chuyển đổi câu truy vấn và văn bản thành hai đồ thị keyphrase có trọng số ($KG_Q$ và $KG_D$) thông qua việc rút trích keyphrase và ánh xạ vào CK-ONTO.
  2. Tính toán độ tương đồng giữa các cặp keyphrase và các cặp quan hệ dựa trên khoảng cách ngữ nghĩa trong ontology.
  3. Thực hiện phép chiếu đồ thị có trọng số từ $KG_Q$ lên $KG_D$ để tính tổng điểm tương quan ngữ nghĩa, từ đó xếp hạng tài liệu trả về.

4. Hệ thống SDBS đã được thử nghiệm thực tế trên những cơ sở dữ liệu nào?

Hệ thống SDBS được thử nghiệm trên ba kho dữ liệu:

  • Kho tài nguyên học tập Khoa học máy tính (thực nghiệm trên hai tập gồm 1.000 tài liệu và 10.000 tài liệu cùng 100 truy vấn mẫu).
  • Kho tin bài tuyển dụng việc làm ngành Công nghệ thông tin.
  • Kho tin bài báo điện tử tiếng Anh thuộc các chủ đề Lao động việc làm, Đầu tư công và Đầu tư nước ngoài.

5. Phương pháp so sánh hai tài liệu ở Chương 6 khác gì so với bài toán tìm kiếm ở Chương 4?

Phương pháp ở Chương 4 phục vụ bài toán tìm kiếm theo ngữ nghĩa trong một miền tri thức hẹp có sẵn ontology chuyên biệt (CK-ONTO) với câu truy vấn ngắn. Phương pháp ở Chương 6 giải quyết bài toán so sánh độ tương đồng giữa hai văn bản đầy đủ (document-to-document) trong miền tri thức tổng quát, bằng cách sử dụng cơ sở tri thức quy mô lớn DBpedia/Wikipedia kết hợp kỹ thuật liên kết thực thể (Entity Linking) để làm giàu ngữ nghĩa cho đồ thị keyphrase.

Kết luận

Luận án đã giải quyết bài toán quản lý và tìm kiếm tài liệu văn bản theo ngữ nghĩa thông qua việc đề xuất mô hình ontology miền CK-ONTO và mô hình biểu diễn nội dung văn bản bằng đồ thị keyphrase có trọng số. Công trình thiết lập phương pháp tính toán độ tương đồng ngữ nghĩa giữa truy vấn và tài liệu, đồng thời hoàn thiện giải pháp thiết kế kiến trúc hệ thống SDBS và chứng minh tính khả thi qua ba ứng dụng thực nghiệm chuyên ngành. Ngoài ra, việc mở rộng mô hình sang bài toán đo độ tương đồng văn bản với cơ sở tri thức tổng quát DBpedia trên tập chuẩn LP50 khẳng định khả năng khái quát hóa của phương pháp nghiên cứu.