Tổng quan luận án

Luận án tiến sĩ kỹ thuật chuyên ngành Khoa học máy tính (mã số 62 48 01 01) của tác giả Lâm Tùng Giang, thực hiện tại Trường Đại học Bách khoa, Đại học Đà Nẵng dưới sự hướng dẫn khoa học của PGS. Võ Trung Hùng và PGS. Huỳnh Công Pháp (bảo vệ năm 2017), mang tiêu đề "Một số phương pháp phục vụ xếp hạng các trang web trong tìm kiếm xuyên ngữ". Công trình nghiên cứu bài toán tìm kiếm web xuyên ngữ (Cross-Language Web Search), tập trung vào cặp ngôn ngữ tiếng Việt (ngôn ngữ nguồn của câu truy vấn) và tiếng Anh (ngôn ngữ đích của tài liệu web).

Về tính cấp thiết và khoảng trống nghiên cứu, tác giả chỉ ra rằng tính đến cuối năm 2015, mạng World Wide Web có sự phát triển vượt bậc với khoảng 47 tỷ trang web được Google đánh chỉ mục. Trong cấu trúc ngôn ngữ của các website, tiếng Anh chiếm tỷ lệ áp đảo với 54%, trong khi tiếng Việt chỉ chiếm khoảng 0,6%. Do sự chênh lệch lớn về dung lượng tài nguyên thông tin, nhu cầu truy vấn thông tin bằng tiếng mẹ đẻ (tiếng Việt) để khai thác các nguồn tài nguyên viết bằng tiếng Anh là một nhu cầu thực tế. Tuy nhiên, hiệu năng của các hệ thống truy vấn thông tin xuyên ngữ (Cross-Language Information Retrieval - CLIR) sử dụng từ điển thường bị suy giảm nghiêm trọng so với hệ thống đơn ngữ. Trích dẫn nghiên cứu của Ballesteros và Croft, luận án lưu ý rằng các hệ thống CLIR dùng kỹ thuật dịch từ điển chỉ đạt chất lượng dưới 60% so với hệ thống đơn ngữ khi đo bằng độ chính xác trung bình bình quân (Mean Average Precision - MAP). Riêng đối với tiếng Việt, nghiên cứu của Hồ Bảo Quốc và cộng sự công bố năm 2008 cho thấy hiệu quả của hệ thống truy vấn xuyên ngữ Việt - Anh chỉ đạt 47,58% so với hệ thống đơn ngữ tương ứng (trong khi chiều Anh - Việt đạt 72,27%). Bên cạnh hạn chế về chất lượng dịch thuật và sự nhập nhằng ngữ nghĩa của câu truy vấn, các nghiên cứu trước đó thường xử lý tách rời hai khâu dịch thuật và xếp hạng, chưa khai thác thông tin từ quá trình dịch để hỗ trợ xếp hạng lại. Đồng thời, các giải pháp xếp hạng truyền thống chủ yếu áp dụng cho văn bản thuần túy, chưa khai thác sâu cấu trúc đặc thù của siêu văn bản HTML (như tiêu đề, thẻ meta, văn bản neo - anchor text, siêu liên kết) và các máy chủ tìm kiếm cục bộ (như Apache Solr, Elasticsearch, Lemur Indri) hầu như chỉ hỗ trợ tìm kiếm đơn ngữ.

Mục tiêu chung của luận án là đề xuất mô hình tìm kiếm web xuyên ngữ và các giải pháp kỹ thuật tại từng thành phần của mô hình nhằm nâng cao hiệu quả xếp hạng danh sách kết quả tìm kiếm cho cặp ngôn ngữ Việt - Anh. Ba mục tiêu cụ thể được xác định gồm:

  1. Đề xuất các phương pháp phục vụ dịch thuật, bao gồm kỹ thuật tiền xử lý câu truy vấn ở ngôn ngữ nguồn, dịch câu truy vấn và xử lý câu truy vấn ở ngôn ngữ đích.
  2. Đề xuất các phương pháp xếp hạng lại danh sách kết quả tìm kiếm trong truy vấn xuyên ngữ, chú trọng việc xếp hạng các trang web.
  3. Kết hợp các giải pháp đề xuất trong một mô hình tìm kiếm web xuyên ngữ hoàn chỉnh nhằm nâng cao độ chính xác xếp hạng trên cặp ngôn ngữ Việt - Anh.

Đối tượng nghiên cứu của công trình bao gồm:

  • Các kỹ thuật dịch áp dụng trong truy vấn thông tin xuyên ngữ.
  • Các kỹ thuật xử lý câu truy vấn trong truy vấn xuyên ngữ.
  • Các kỹ thuật xếp hạng lại kết quả truy vấn thông tin.

Phạm vi nghiên cứu được giới hạn ở bài toán dịch câu truy vấn (thay vì dịch tài liệu hay dùng ngôn ngữ trung gian) và bài toán xếp hạng kết quả tìm kiếm web; đối tượng thực nghiệm trực tiếp là câu truy vấn bằng tiếng Việt và tập tài liệu web bằng tiếng Anh; sử dụng độ đo Mean Average Precision (MAP) làm thước đo chính để đánh giá hiệu năng hệ thống; tập trung vào kỹ thuật học xếp hạng dựa trên lập trình di truyền (Genetic Programming - GP); và khai thác các máy tìm kiếm đơn ngữ có sẵn làm nền tảng lưu trữ, đánh chỉ mục mà không can thiệp sâu vào cấu trúc lõi của các máy tìm kiếm này.

Tổng quan tài liệu và vị trí của luận án

Luận án đã hệ thống hóa các hướng nghiên cứu nền tảng trong truy vấn thông tin và tìm kiếm web xuyên ngữ, đối chiếu với các công trình tiêu biểu:

  1. Các mô hình truy vấn thông tin truyền thống: Điểm lại mô hình Boolean kinh điển và các mở rộng như mô hình vùng (Clarke và cộng sự), mô hình lô-gic mờ (Kraft và cộng sự); mô hình không gian véc-tơ (VSM) và độ đo tương đồng cô-sin (Salton và McGill); mô hình tần suất thuật ngữ - tần suất tài liệu nghịch đảo tf-idf (Salton và Buckley); các mô hình xác suất như mô hình nhị phân độc lập BIR (Robertson và Spärck Jones), mô hình OKAPI BM25 (Robertson, Walker, Jones); và mô hình ngôn ngữ LMIR (Ponte và Croft).
  2. Mô hình khai thác quan hệ thuật ngữ: Phương pháp chỉ mục ngữ nghĩa ngầm LSI dựa trên phân tích giá trị đơn SVD (Deerwester và cộng sự); các mô hình khoảng cách lân cận dựa trên đoạn - span (Fagan, Clarke, Cormack, Tudhope) và dựa trên cặp từ (Büttcher, Clarke, Lushman; Rasolofo, Savoy).
  3. Đánh giá hệ thống truy vấn: Các nguyên lý đánh giá dựa trên tập dữ liệu thử nghiệm từ thử nghiệm Cranfield (Cleverdon), phương pháp gom cụm pooling (Spärck Jones và Van Rijsbergen); các diễn đàn đánh giá quốc tế như TREC, CLEF, FIRE, NTCIR, CWIRF, INEX; cùng các hệ thống độ đo Precision, Recall, P@k, Average Precision (AP), Mean Average Precision (MAP) và Discounted Cumulative Gain (DCG, NDCG của Järvelin và Kekäläinen).
  4. Truy vấn thông tin xuyên ngữ (CLIR): Ba hướng tiếp cận chính được phân tích gồm dịch câu truy vấn, dịch tài liệu và sử dụng ngôn ngữ trung gian (Oard, Diekema, Nie). Tác giả dẫn chứng nhận định của Ballesteros và Croft về sự suy giảm hiệu quả của dịch từ điển MRD do nhập nhằng nghĩa; trích dẫn kết quả của Hồ Bảo Quốc và cộng sự về rào cản phân đoạn từ vựng tiếng Việt ảnh hưởng đến CLIR Việt - Anh; và các nghiên cứu tích hợp mô hình dịch máy thống kê vào IR (Berger, Lafferty, Federico, Bertoldi).
  5. Kỹ thuật xếp hạng lại và học xếp hạng (Learning to Rank - LETOR): Các phương pháp kết hợp điểm số như CombSUM (Fox và Shaw), chuẩn hóa điểm số NormalizedScore (Lee), Weighted CombSUM (Gullí); các giải pháp dựa trên thứ hạng như Round Robin, Borda fuse (Aslam và Montague). Hệ thống hóa ba nhóm học xếp hạng có giám sát gồm point-wise (thuật toán PRank của Crammer và Singer), pair-wise (thuật toán RankSVM của Herbrich, Joachims; RankBoost của Freund; FRank của Tsai và cộng sự), và list-wise (ListNet của Zhe Cao và cộng sự).
  6. Xếp hạng trang web: Các đặc thù cấu trúc tập tin HTML (Cutler, Kraft, Xue, Sun); hành vi tìm kiếm web với xu hướng sao chép và dán câu truy vấn dài từ 7,5 đến 9,5 từ (Crestani và cộng sự); các thuật toán đồ thị liên kết gồm PageRank (Page và Brin), HITS (Kleinberg) và SimRank (Jeh và Widom).

Từ bức tranh tổng quan trên, luận án xác định các khoảng trống học thuật cần giải quyết:

  • Thiếu các phương pháp khử nhập nhằng dịch thuật khai thác đồng thời mối liên kết giữa các thuật ngữ truy vấn và biểu diễn câu truy vấn dưới dạng có cấu trúc để bảo toàn ngữ nghĩa khi chuyển ngữ.
  • Khâu tiền xử lý phân đoạn từ ngữ tiếng Việt cho câu truy vấn chưa tối ưu, thiếu cơ chế kết hợp giữa độ dài từ vựng và gán nhãn từ loại để sinh danh sách dịch ứng viên.
  • Khâu xếp hạng lại trong CLIR chưa tận dụng được vị trí khoảng cách giữa các bản dịch của từ khóa trong tài liệu đích; thiếu một mô hình lân cận xuyên ngữ có khả năng xem các ứng viên dịch như các "từ ảo" để tính toán mức độ liên quan.
  • Thiếu các giải pháp học máy (cụ thể là lập trình di truyền) để tự động thiết lập trọng số kết hợp giữa các mô hình xếp hạng cơ sở và mô hình lân cận mà không cần can thiệp thủ công.

Cơ sở lý thuyết và phương pháp nghiên cứu

Luận án dựa trên khung lý thuyết hình thức của hệ thống truy vấn thông tin được mô tả bằng bộ 4 thành phần $f(D, Q, F, R(q,d))$, trong đó $D$ là tập biểu diễn tài liệu, $Q$ là tập biểu diễn nhu cầu thông tin của người dùng, $F$ là khung cơ sở mô hình hóa quan hệ giữa tài liệu và truy vấn, và $R(q,d)$ là hàm xếp hạng trả về giá trị số thực để sắp xếp thứ tự tài liệu.

Các cơ sở lý thuyết và khái niệm toán học cụ thể được sử dụng gồm:

  • Mô hình không gian véc-tơ: Biểu diễn tài liệu $d_j$ và truy vấn $q$ thành các véc-tơ trọng số, tính toán độ tương đồng qua hàm cô-sin góc giữa hai véc-tơ kết hợp hàm trọng số $tf-idf$ cục bộ và toàn cục: $$\text{Sim}(d, q) = \sum_{t \in q \cap d} tf_{t,d} \times idf_t$$ với $idf_t = \log(N / df_t)$.
  • Mô hình xác suất OKAPI BM25: Áp dụng công thức tính trọng số thuật ngữ trong tài liệu và câu truy vấn với các tham số thực nghiệm: $$w_i = \frac{(k_1 + 1) \times tf_i}{K + tf_i}$$ $$K = k \times \left((1 - b) + b \times \frac{l}{avdl}\right)$$ $$qw_i = \left(\frac{N - df_i + 0.5}{df_i + 0.5}\right) \times \frac{(k_3 + 1) \times qtf_i}{k_3 + qtf_i}$$ $$Score_{okapi}(d, q) = \sum_{i=1}^m w_i \times qw_i$$ Các tham số được thiết lập gồm $k_1 = 1.2$, $k = 2$, $b = 0.9$, $k_3 = 1000$; $l$ là độ dài tài liệu, $avdl$ là độ dài trung bình của các tài liệu trong kho dữ liệu, $N$ là tổng số tài liệu.
  • Lý thuyết thông tin tương hỗ (Mutual Information - MI): Sử dụng tần suất đồng xuất hiện của các cặp từ khóa trong ngữ liệu để đo lường mức độ gắn kết ngữ nghĩa phục vụ khử nhập nhằng bản dịch.
  • Lập trình di truyền (Genetic Programming - GP): Kỹ thuật học máy thuộc nhóm thuật toán tiến hóa, sử dụng biểu diễn cây để tự động tìm kiếm cấu trúc và trọng số tối ưu cho hàm xếp hạng lại.

Phương pháp nghiên cứu thực nghiệm được triển khai theo hướng định lượng thực nghiệm hệ thống (system-oriented empirical IR):

  • Phương pháp định tính và xử lý ngôn ngữ: Sử dụng công cụ mã nguồn mở vnTagger để gán nhãn từ loại tiếng Việt kết hợp thuật toán phân đoạn từ dựa trên độ dài; tra cứu từ điển máy song ngữ (Bilingual Machine Readable Dictionary - MRD).
  • Phương pháp định lượng và kỹ thuật phân tích: Thiết lập các kịch bản thực nghiệm đối sánh có kiểm soát trên máy tính; đo lường độ chính xác tại các ngưỡng $P@5$, $P@10$, đo lường độ chính xác trung bình AP và MAP; áp dụng kỹ thuật phản hồi ẩn (Pseudo-Relevance Feedback - PRF) hai bước để tái tính toán trọng số từ khóa và mở rộng truy vấn.
  • Nguồn tư liệu và dữ liệu: Sử dụng kho ngữ liệu chuẩn OHSUMED phục vụ kiểm thử học xếp hạng; dữ liệu từ điển máy song ngữ Việt - Anh; tập các câu truy vấn thực nghiệm tiếng Việt và tập tài liệu web tiếng Anh được lập chỉ mục trên các máy chủ tìm kiếm cục bộ (như Apache Solr, Indri).

Bảng dưới đây tổng hợp các đặc trưng của các mô hình xếp hạng cơ sở được khảo sát trong luận án:

Mô hình Thông tin sử dụng trong công thức Ưu điểm chính Hạn chế chính
Boolean Sự tồn tại của từ khóa trong tài liệu Đơn giản, tốc độ xử lý nhanh Từ khóa độc lập; không xếp hạng được mức độ phù hợp
VSM Tần suất xuất hiện của từ khóa Tính toán được mức độ phù hợp một phần Từ khóa độc lập; khối lượng tính toán lớn
TF-IDF Tần suất thuật ngữ, độ dài tài liệu, tần suất tài liệu nghịch đảo Đơn giản, trực quan, áp dụng rộng rãi Giả định các từ khóa hoàn toàn độc lập ngữ nghĩa
BM25 Tần suất thuật ngữ trong tài liệu và kho, độ dài văn bản, tham số chuẩn hóa Hiệu quả thực nghiệm cao, là chuẩn mực trong IR Cần tinh chỉnh nhiều tham số ($k_1, k, b, k_3$); giả định từ khóa độc lập
LSI Trọng số theo các chiều không gian ngữ nghĩa ngầm (qua SVD) Bắt được quan hệ đồng nghĩa, đa nghĩa; giảm số chiều Chi phí tính ma trận SVD rất lớn; không hợp với kho dữ liệu cập nhật liên tục
Lân cận (Proximity) Khoảng cách vật lý giữa các từ khóa trong văn bản, độ dài tài liệu Khai thác được mối quan hệ vị trí giữa các thuật ngữ Thường chỉ đóng vai trò thước đo phụ; không phản ánh độc lập tầm quan trọng của từ

Nội dung chính theo từng chương

Chương 1: Tổng quan và đề xuất nghiên cứu

Chương 1 thiết lập nền tảng lý thuyết tổng quát về truy vấn thông tin và tìm kiếm web xuyên ngữ. Tác giả phân tích quy trình xử lý hai giai đoạn của một hệ thống IR: Giai đoạn I (thu thập, xử lý, đánh chỉ mục và lưu trữ tài liệu vào kho chỉ mục) và Giai đoạn II (tiếp nhận yêu cầu, xử lý truy vấn, đối sánh, xếp hạng và phản hồi kết quả). Chương này phân tích chi tiết các mô hình truy vấn truyền thống (Boolean, VSM, xác suất, mô hình ngôn ngữ), các kỹ thuật đánh giá hệ thống (Precision, Recall, AP, MAP, DCG, NDCG, đồ thị tương quan độ chính xác - độ bao phủ 11 điểm), cùng các phương pháp pooling tại Cranfield và TREC. Tiếp đó, tác giả đánh giá ba hướng tiếp cận CLIR và các kỹ thuật trộn kết quả từ nhiều máy chủ tìm kiếm (CombSUM, Weighted CombSUM, Round Robin, Borda fuse) và học xếp hạng LETOR (point-wise, pair-wise, list-wise). Đối với tìm kiếm web, chương phân tích sự khác biệt về cấu trúc tài liệu HTML, xu hướng truy vấn dài (7,5 - 9,5 từ) và ba thuật toán liên kết: PageRank, HITS, SimRank. Từ các phân tích về hạn chế của việc thiếu hụt công cụ tìm kiếm web xuyên ngữ cho máy chủ nội bộ và sự độc lập giữa khâu dịch thuật và xếp hạng, tác giả đề xuất mô hình kiến trúc hệ thống tìm kiếm web xuyên ngữ Việt - Anh tổng thể.

Chương 2: Dịch tự động phục vụ truy vấn xuyên ngữ

Chương 2 tập trung giải quyết bài toán dịch câu truy vấn từ ngôn ngữ nguồn sang ngôn ngữ đích bằng từ điển máy song ngữ (MRD). Tác giả khảo sát các phương pháp dịch tự động (dịch máy, kho ngữ liệu, từ điển, ngôn ngữ trung gian, không gian ngữ nghĩa) và phân tích vấn đề khử nhập nhằng từ vựng khi một từ tiếng Việt có nhiều bản dịch tiếng Anh tương ứng. Tác giả đề xuất phương pháp khử nhập nhằng mới dựa trên công thức Tổng thông tin tương hỗ (Summary Mutual Information - SMI). Thay vì chỉ dùng thuật toán tham lam (greedy) cục bộ dễ rơi vào tối ưu cục bộ, hàm SMI đo lường mức độ liên quan tổng thể giữa các cặp từ dịch trong không gian ngữ liệu đích để chọn ra một bản dịch tối ưu nhất cho mỗi từ khóa. Tiếp theo, tác giả đề xuất thuật toán chọn bản dịch một cách tuần tự (SeQuential Translation - SQ). Thuật toán SQ xác định danh sách các bản dịch tốt nhất được sắp thứ tự phù hợp cho từng từ khóa, làm cơ sở xây dựng "câu truy vấn có cấu trúc" (structured query) thay vì câu truy vấn phẳng. Các kết quả thực nghiệm trên các tập dữ liệu thử nghiệm chứng minh phương pháp SMI và SQ cho kết quả vượt trội hơn so với phương pháp greedy truyền thống về độ đo MAP và P@k.

Chương 3: Hỗ trợ dịch câu truy vấn

Chương 3 giải quyết các khâu bổ trợ xung quanh quá trình dịch câu truy vấn, bao gồm tiền xử lý ở ngôn ngữ nguồn và tối ưu hóa câu truy vấn ở ngôn ngữ đích. Ở ngôn ngữ nguồn (tiếng Việt), tác giả đề xuất thuật toán phân đoạn câu truy vấn WLQS (Word-Length-based Query Segmentation) dựa trên độ dài của từ khóa, kết hợp đồng thời với công cụ gán nhãn từ loại mã nguồn mở vnTagger. Sự kết hợp này cho phép phân tích câu truy vấn tiếng Việt thành các cụm từ có nghĩa đi kèm danh sách bản dịch ứng viên tương ứng, khắc phục tình trạng phân đoạn sai từ ghép trong tiếng Việt và tạo dữ liệu đầu vào chuẩn xác cho mô-đun khử nhập nhằng ở Chương 2. Ở ngôn ngữ đích (tiếng Anh), tác giả đề xuất mô hình hai bước dựa trên kỹ thuật phản hồi ẩn (Pseudo-Relevance Feedback - PRF) đối với câu truy vấn có cấu trúc. Bước thứ nhất thực hiện tính toán lại trọng số cho các từ khóa truy vấn ban đầu; bước thứ hai áp dụng các công thức tính trọng số thuật ngữ trong tập tài liệu phản hồi ban đầu để mở rộng câu truy vấn. Thông qua thực nghiệm đối chiếu nhiều cấu hình, tác giả chứng minh công thức kết hợp trọng số $tf-idf$ cục bộ và trọng số $idf$ toàn cục của các từ khóa đem lại hiệu quả cao nhất, giúp nâng điểm MAP của hệ thống lên đến 12%.

Chương 4: Xếp hạng lại

Chương 4 tập trung vào nhiệm vụ nâng cao độ chính xác ở đầu danh sách kết quả tìm kiếm web thông qua các mô hình lân cận và kỹ thuật học xếp hạng. Đóng góp nổi bật của chương là việc lần đầu tiên đề xuất các mô hình lân cận xuyên ngữ: CL-Büttcher, CL-Rasolofo và CL-HighDensity. Các mô hình này được xây dựng dựa trên việc chuyển đổi các hàm xếp hạng lân cận đơn ngữ đã có sang môi trường xuyên ngữ, dựa trên ý tưởng xem xét tất cả các bản dịch ứng viên của một từ khóa truy vấn như cùng một "từ ảo" (virtual term). Điểm xếp hạng lân cận của một tài liệu tiếng Anh đối với câu truy vấn tiếng Việt được tính toán dựa trên hàm khoảng cách giữa các bản dịch ứng viên xuất hiện trong tài liệu. Tiếp đó, tác giả ứng dụng kỹ thuật lập trình di truyền (GP) cho bài toán học xếp hạng (Learning to Rank) nhằm tự động học hàm xếp hạng tổng hợp dưới dạng tổ hợp tuyến tính của các mô hình xếp hạng cơ sở (TF-IDF, BM25) và các mô hình lân cận xuyên ngữ đề xuất. Luận án triển khai thử nghiệm cả hai hướng tiếp cận: học có giám sát và học không giám sát trên tập dữ liệu chuẩn OHSUMED và tập dữ liệu web, chứng minh hàm xếp hạng tối ưu hóa bằng GP đạt chỉ số MAP và NDCG cao hơn các mô hình thành phần độc lập.

Chương 5: Hệ thống tìm kiếm web xuyên ngữ Việt-Anh

Chương 5 hiện thực hóa toàn bộ các giải pháp lý thuyết đã đề xuất vào một hệ thống tìm kiếm web xuyên ngữ Việt - Anh hoàn chỉnh. Tác giả mô tả chi tiết thiết kế kiến trúc hệ thống, sơ đồ thuật toán xử lý dữ liệu từ điển và dữ liệu đánh chỉ mục. Hệ thống tích hợp toàn diện: mô-đun tiền xử lý phân đoạn WLQS kết hợp vnTagger, mô-đun dịch câu truy vấn cấu trúc bằng thuật toán SQ, mô-đun điều chỉnh và mở rộng truy vấn đích bằng PRF hai bước, và mô-đun xếp hạng lại kết hợp mô hình lân cận xuyên ngữ bằng thuật toán GP. Chương này trình bày chi tiết các cấu hình thực nghiệm và kết quả đối sánh đa chiều:

  • Đánh giá các giải pháp dịch câu truy vấn: so sánh giữa cấu hình sử dụng 1 bản dịch tốt nhất với các cấu hình sử dụng 3 bản dịch (phương án Top_three_all và Top_three_weight), chứng minh việc giữ lại nhiều ứng viên có gán trọng số mang lại hiệu quả cao hơn.
  • Đánh giá mô-đun điều chỉnh câu truy vấn: xác nhận sự cải thiện điểm MAP khi áp dụng phản hồi ẩn.
  • Đánh giá mô-đun xếp hạng lại và đánh giá tổng thể: phân tích 5 lần huấn luyện của các phương pháp học máy, so sánh các độ đo MAP, P@5, P@10 và NDCG@k. Kết quả tổng hợp khẳng định việc kết hợp đồng bộ các kỹ thuật đề xuất tạo ra sự cải thiện rõ rệt về độ chính xác ở đầu danh sách kết quả so với các máy tìm kiếm đơn ngữ truyền thống áp dụng phương pháp dịch truy vấn thông thường.

Kết quả và những đóng góp mới

Luận án tự xác định các đóng góp mới về mặt lý luận khoa học và thực tiễn ứng dụng như sau:

  1. Về lý luận và mô hình thuật toán:

    • Đề xuất hai phương pháp khử nhập nhằng từ vựng trong mô-đun dịch câu truy vấn dựa trên khái niệm Mutual Information (MI): phương pháp Summary Mutual Information (SMI) giúp chọn bản dịch tốt nhất vượt trội hơn thuật toán greedy; và thuật toán dịch tuần tự SQ (SeQuential Translation) xác định danh sách các bản dịch tốt nhất được xếp hạng phù hợp để tạo câu truy vấn có cấu trúc.
    • Đề xuất thuật toán phân đoạn câu truy vấn WLQS (Word-Length-based Query Segmentation) dựa trên độ dài từ khóa, kết hợp công cụ mã nguồn mở vnTagger để xử lý câu truy vấn tiếng Việt thành các cụm từ có nghĩa kèm danh sách bản dịch ứng viên.
    • Đề xuất mô hình hai bước điều chỉnh và mở rộng câu truy vấn có cấu trúc ở ngôn ngữ đích dựa trên phản hồi ẩn (PRF), xác định công thức kết hợp $tf-idf$ cục bộ và $idf$ toàn cục giúp tăng điểm số MAP lên đến 12%.
    • Đề xuất các mô hình lân cận xuyên ngữ (CL-Büttcher, CL-Rasolofo, CL-HighDensity) dựa trên ý tưởng coi các bản dịch của một từ khóa như một "từ ảo" và tính toán điểm số dựa trên khoảng cách giữa các ứng viên dịch trong tài liệu đích.
    • Ứng dụng thành công kỹ thuật lập trình di truyền (GP) ở cả hai chế độ có giám sát và không giám sát để tự động xây dựng hàm xếp hạng tổng hợp từ tổ hợp tuyến tính của các mô hình TF-IDF, BM25 và mô hình lân cận xuyên ngữ.

  2. Về thực tiễn và giải pháp đề xuất:

    • Thiết kế và cài đặt hoàn chỉnh kiến trúc hệ thống tìm kiếm web xuyên ngữ cho cặp ngôn ngữ Việt - Anh, tích hợp thống nhất các kỹ thuật từ tiền xử lý, dịch thuật, điều chỉnh truy vấn đến xếp hạng lại.
    • Cung cấp giải pháp kỹ thuật có khả năng triển khai thực tế trên các máy chủ tìm kiếm cục bộ tại các cơ quan, tổ chức, trường đại học nhằm quản lý và khai thác hiệu quả các kho tài liệu đa ngữ.

Hạn chế và hướng nghiên cứu tiếp

Dựa trên nội dung văn bản luận án, các hạn chế và hướng phát triển được ghi nhận gồm:

Hạn chế:

  • Nguồn tài nguyên ngôn ngữ cho tiếng Việt phục vụ nghiên cứu IR (như từ điển máy song ngữ, công cụ phân tích cú pháp, và đặc biệt là các bộ dữ liệu đánh giá chuẩn hóa được gán nhãn sẵn) còn hạn chế về số lượng và độ bao phủ, chưa được chuẩn hóa và công bố rộng rãi như các tập ngữ liệu TREC hay CLEF.
  • Quá trình thực nghiệm chưa can thiệp sâu vào tầng lõi đánh chỉ mục nội tại của các máy tìm kiếm mã nguồn mở mà chủ yếu khai thác máy tìm kiếm đơn ngữ có sẵn qua giao tiếp ngoài.
  • Luận án chưa khai thác dữ liệu hành vi thực tế của người dùng (như nhật ký tìm kiếm, dữ liệu nhấp chuột - clickthrough data) hoặc phản hồi người dùng thực tế (True Relevance Feedback) do hạn chế về môi trường triển khai thực tế trên diện rộng.

Hướng nghiên cứu tiếp:

  • Tiếp tục mở rộng và cập nhật dữ liệu từ điển máy song ngữ, nâng cao khả năng xử lý các thuật ngữ mới, thuật ngữ chuyên ngành và từ nằm ngoài từ điển (Out-Of-Vocabulary - OOV).
  • Khai thác sâu hơn các đặc thù cấu trúc siêu văn bản của trang web như văn bản neo (anchor text), cấu trúc liên kết đồ thị (PageRank, HITS) kết hợp với các mô hình lân cận.
  • Mở rộng phạm vi thử nghiệm mô hình đối với các cặp ngôn ngữ khác ngoài cặp Việt - Anh và nghiên cứu triển khai hệ thống trong môi trường tìm kiếm web phân tán quy mô lớn.

Giá trị tham khảo

Luận án là tài liệu tham khảo chuyên sâu trong các lĩnh vực Truy vấn thông tin (Information Retrieval), Xử lý ngôn ngữ tự nhiên (NLP) và Khoa học máy tính:

  • Đối với nghiên cứu sinh, học viên cao học và giảng viên: Công trình cung cấp hệ thống cơ sở lý thuyết đầy đủ về các mô hình IR kinh điển (VSM, BM25, LMIR), các độ đo đánh giá tiêu chuẩn (MAP, NDCG), phương pháp luận thực nghiệm theo chuẩn quốc tế, và tổng quan chi tiết về kỹ thuật học xếp hạng (Learning to Rank). Đặc biệt, Chương 1 và Chương 4 là tài liệu tham khảo chuẩn mực về mặt toán học và thuật toán xếp hạng.
  • Đối với kỹ sư phát triển hệ thống và người làm chính sách công nghệ thông tin: Thiết kế kiến trúc ở Chương 5 và các thuật toán phân đoạn từ tiếng Việt (WLQS), mô hình lân cận xuyên ngữ ở Chương 3 và 4 cung cấp giải pháp kỹ thuật thực tế để xây dựng các cổng thông tin, hệ thống thư viện điện tử và máy chủ tìm kiếm nội bộ cho các trường đại học, viện nghiên cứu, cho phép người dùng tra cứu tài liệu quốc tế bằng tiếng Việt.

Câu hỏi thường gặp

1. Luận án giải quyết vấn đề gì trong bài toán tìm kiếm web xuyên ngữ Việt - Anh?
Luận án giải quyết hai rào cản kỹ thuật chính: chất lượng dịch thuật câu truy vấn bị hạn chế do nhập nhằng nghĩa từ vựng tiếng Việt, và sự suy giảm độ chính xác ở đầu danh sách kết quả tìm kiếm tài liệu web tiếng Anh do khâu xếp hạng chưa khai thác thông tin từ quá trình dịch và cấu trúc văn bản.

2. Thuật toán phân đoạn câu truy vấn WLQS được xây dựng như thế nào?
Thuật toán WLQS (Word-length-based Query Segmentation) được xây dựng dựa trên nguyên lý độ dài từ vựng, kết hợp đồng bộ với công cụ gán nhãn từ loại vnTagger để chia tách câu truy vấn tiếng Việt thành các cụm từ có nghĩa kèm danh sách bản dịch ứng viên, khắc phục hạn chế của việc phân đoạn từ ghép sai ngữ cảnh.

3. Khái niệm "từ ảo" trong các mô hình lân cận xuyên ngữ của luận án là gì?
Trong các mô hình lân cận xuyên ngữ đề xuất (CL-Büttcher, CL-Rasolofo, CL-HighDensity), tác giả xem tất cả các bản dịch ứng viên của cùng một từ khóa truy vấn nguồn như một "từ ảo". Điểm xếp hạng lân cận của văn bản được tính dựa trên khoảng cách xuất hiện giữa các từ ảo này trong tài liệu đích.

4. Kỹ thuật điều chỉnh câu truy vấn ở ngôn ngữ đích mang lại hiệu quả cải thiện ra sao?
Bằng cách áp dụng mô hình hai bước dựa trên phản hồi ẩn (PRF) để tái tính toán trọng số từ khóa và mở rộng câu truy vấn, công thức kết hợp trọng số $tf-idf$ cục bộ và $idf$ toàn cục đã nâng điểm số MAP của hệ thống lên đến 12%.

5. Lập trình di truyền (Genetic Programming) đóng vai trò gì trong luận án?
Lập trình di truyền được sử dụng như một kỹ thuật học máy (Learning to Rank) ở cả hai chế độ có giám sát và không giám sát, nhằm tự động tối ưu hóa hàm xếp hạng lại dưới dạng tổ hợp tuyến tính của các mô hình xếp hạng cơ sở (TF-IDF, BM25) và các mô hình lân cận xuyên ngữ đề xuất.

Kết luận

Luận án tiến sĩ của tác giả Lâm Tùng Giang đã giải quyết trọn vẹn bài toán nâng cao hiệu quả xếp hạng trang web trong tìm kiếm xuyên ngữ cho cặp ngôn ngữ Việt - Anh bằng việc tích hợp các mô hình thuật toán xuyên suốt từ khâu tiền xử lý, dịch thuật đến xếp hạng lại. Các đề xuất cốt lõi như công thức khử nhập nhằng SMI, thuật toán dịch tuần tự SQ, thuật toán phân đoạn WLQS kết hợp vnTagger, mô hình điều chỉnh truy vấn PRF hai bước và các mô hình lân cận xuyên ngữ tối ưu bằng lập trình di truyền đã được kiểm chứng thực nghiệm chặt chẽ, chứng minh sự vượt trội về chỉ số MAP và độ chính xác ở đầu danh sách kết quả. Công trình đóng góp nền tảng phương pháp luận cho nghiên cứu truy vấn thông tin tiếng Việt và cung cấp mô hình thiết kế thực tiễn có khả năng ứng dụng cao cho các hệ thống tìm kiếm web đa ngữ nội bộ.