Luận văn thạc sĩ về tìm kiếm ngữ nghĩa trong khoa học máy tính

Khám phá luận văn thạc sĩ về khoa học máy tính, tập trung vào tìm kiếm theo ngữ nghĩa có khoảng cách, ứng dụng và tiềm năng phát triển.

• Tác giả: Lê Văn Minh Tuấn
• Người hướng dẫn: PGS. Cao Hoàng Trụ
• Trường học: Đại học Bách Khoa - ĐHQG TP.HCM
• Chuyên ngành: Khoa học máy tính
• Đề tài: Tìm kiếm theo ngữ nghĩa có khoảng cách
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2012
• Địa điểm: TP.Hồ Chí Minh

Mục lục chi tiết

• Lời cảm ơn
• Lời cam đoan
• Danh mục hình
• Danh mục bảng
• 1. Chương 1: Tổng quan
• 1.1. Phát biểu vấn đề
• 1.2. Các công trình liên quan
• 2. Chương 2: Cơ sở lý thuyết
• 2.1. Mô hình không gian vectơ dựa trên từ khóa
• 2.2. Mô hình không gian vectơ dựa trên thực thể có tên
• 2.3. Mô hình kết hợp thực thể có tên và từ khóa trên một không gian vectơ chung
• 2.4. Tìm kiếm theo khoảng cách dựa trên từ khóa
• 2.5. Đánh chỉ mục và tìm kiếm theo khoảng cách trong Lucene
• 2.6. Đánh chỉ mục và tìm kiếm theo thực thể có tên
• 3. Chương 3: Tìm kiếm theo ngữ nghĩa có khoảng cách
• 3.1. Tìm kiếm theo khoảng cách với thực thể có tên và từ khóa
• 3.2. Các giải thuật tính khoảng cách động giữa thực thể có tên và từ khóa
• 3.3. Xếp hạng tài liệu có khoảng cách
• 4. Chương 4: Hiện thực và các kết quả thực nghiệm
• 4.1. Đánh chỉ mục theo khoảng cách có thực thể có tên
• 4.2. Cú pháp câu truy vấn
• 4.3. Ứng dụng minh họa
• 4.4. Thực nghiệm và đánh giá
• 5. Chương 5: Tổng kết
• 5.1. Đóng góp của luận án
• 5.2. Hướng phát triển
• Các công trình của tác giả liên quan đến luận án
• Tài liệu tham khảo
• Phụ lục: Bài báo

Tóm tắt

I. Tổng quan

Trong lĩnh vực khoa học máy tính, việc tìm kiếm thông tin ngày càng trở nên quan trọng. Người dùng mong đợi các công cụ tìm kiếm trả về những tài liệu liên quan nhất. Nghiên cứu về ngữ nghĩa trong tìm kiếm thông tin đã chỉ ra rằng khoảng cách giữa các từ khóa có thể cải thiện độ chính xác của kết quả. Các công trình nghiên cứu đã chứng minh rằng việc tích hợp các độ đo khoảng cách vào mô hình truy hồi hiện có có thể nâng cao hiệu quả truy hồi. Tìm kiếm theo ngữ nghĩa có khoảng cách là một phương pháp mới, khai thác các đặc điểm của thực thể có tên trong việc tìm kiếm tài liệu. Điều này cho phép xử lý các truy vấn phức tạp hơn, nơi mà khoảng cách giữa các từ khóa và thực thể có tên cần được tính toán một cách chính xác.

1.1 Phát biểu vấn đề

Trong truy hồi thông tin, khoảng cách giữa các từ khóa, hay còn gọi là term proximity, đã được sử dụng để cải thiện độ chính xác của các tài liệu trả về. Nghiên cứu cho thấy rằng người dùng thường sử dụng các từ khóa mà chúng thường xuất hiện gần nhau trong tài liệu. Tuy nhiên, việc tính toán khoảng cách giữa các từ khóa và thực thể có tên trong các truy vấn vẫn chưa được khai thác triệt để. Các mô hình hiện tại chủ yếu dựa vào tần số xuất hiện của từ khóa mà không xem xét đến khoảng cách động giữa chúng. Điều này dẫn đến việc các tài liệu có thể không được trả về mặc dù chúng có nội dung liên quan. Mục tiêu của nghiên cứu này là phát triển một giải thuật để tính toán khoảng cách động giữa các từ khóa và thực thể có tên, từ đó cải thiện hiệu quả truy hồi tài liệu.

II. Cơ sở lý thuyết

Nghiên cứu này dựa trên các mô hình không gian vectơ, trong đó các tài liệu được xếp hạng dựa trên nhiều loại đại lượng thống kê. Các mô hình này đã chứng minh rằng khoảng cách giữa các từ khóa có thể được khai thác để nâng cao hiệu quả xếp hạng tài liệu. Mô hình không gian vectơ dựa trên từ khóa và thực thể có tên là hai khái niệm quan trọng trong nghiên cứu này. Việc kết hợp các thực thể có tên với từ khóa trong một không gian vectơ chung cho phép tính toán khoảng cách một cách chính xác hơn. Hệ thống mã nguồn mở Lucene được sử dụng để thực hiện các phương pháp tìm kiếm theo khoảng cách, cho phép đánh chỉ mục và tìm kiếm theo thực thể có tên một cách hiệu quả.

2.1 Mô hình không gian vectơ dựa trên từ khóa

Mô hình không gian vectơ là một trong những phương pháp phổ biến trong tìm kiếm thông tin. Trong mô hình này, tài liệu được biểu diễn dưới dạng các vectơ trong không gian nhiều chiều, trong đó mỗi chiều tương ứng với một từ khóa. Việc tính toán khoảng cách giữa các vectơ cho phép xác định độ tương đồng giữa các tài liệu và truy vấn. Tuy nhiên, mô hình này không xem xét đến khoảng cách giữa các từ khóa trong tài liệu, dẫn đến việc không thể khai thác triệt để thông tin ngữ nghĩa. Nghiên cứu này đề xuất một cách tiếp cận mới, trong đó khoảng cách giữa các từ khóa và thực thể có tên được tính toán một cách động, từ đó cải thiện độ chính xác của kết quả tìm kiếm.

III. Tìm kiếm theo ngữ nghĩa có khoảng cách

Nghiên cứu này phát triển một hệ thống tìm kiếm theo ngữ nghĩa có khoảng cách, cho phép tính toán khoảng cách động giữa các từ khóa và thực thể có tên. Hệ thống này sử dụng các đặc điểm ontology của thực thể có tên để cải thiện độ chính xác của truy hồi thông tin. Việc xử lý các truy vấn phức tạp, nơi mà các từ khóa có thể xuất hiện ở nhiều vị trí khác nhau trong tài liệu, là một thách thức lớn. Tuy nhiên, nghiên cứu đã chỉ ra rằng việc áp dụng các giải thuật tính toán khoảng cách động có thể giúp cải thiện đáng kể hiệu quả truy hồi.

3.1 Tìm kiếm theo khoảng cách với thực thể có tên và từ khóa

Trong phần này, nghiên cứu tập trung vào việc phát triển các giải thuật để tính toán khoảng cách giữa các thực thể có tên và từ khóa trong truy vấn. Các giải thuật này cho phép xác định vị trí của các từ khóa và thực thể có tên trong tài liệu, từ đó tính toán khoảng cách một cách chính xác. Việc áp dụng các giải thuật này không chỉ giúp cải thiện độ chính xác của kết quả tìm kiếm mà còn cho phép xử lý các truy vấn phức tạp hơn, nơi mà các từ khóa có thể xuất hiện ở nhiều vị trí khác nhau trong tài liệu.

IV. Hiện thực và các kết quả thực nghiệm

Nghiên cứu đã tiến hành thực nghiệm để đánh giá hiệu quả của các phương pháp tìm kiếm theo ngữ nghĩa có khoảng cách. Kết quả cho thấy rằng việc áp dụng các giải thuật tính toán khoảng cách động đã cải thiện đáng kể độ chính xác và độ đầy đủ của các tài liệu được trả về. Hệ thống mã nguồn mở Lucene đã được mở rộng để hỗ trợ các phương pháp này, cho phép người dùng thực hiện các truy vấn phức tạp một cách dễ dàng. Các kết quả thực nghiệm cũng chỉ ra rằng việc khai thác các đặc điểm ontology của thực thể có tên là một yếu tố quan trọng trong việc nâng cao hiệu quả truy hồi.

4.1 Đánh chỉ mục theo khoảng cách có thực thể có tên

Việc đánh chỉ mục theo khoảng cách có thực thể có tên là một phần quan trọng trong nghiên cứu này. Hệ thống đã được phát triển để cho phép đánh chỉ mục các tài liệu dựa trên khoảng cách giữa các từ khóa và thực thể có tên. Điều này không chỉ giúp cải thiện độ chính xác của kết quả tìm kiếm mà còn cho phép người dùng thực hiện các truy vấn phức tạp hơn. Kết quả thực nghiệm cho thấy rằng hệ thống này có thể xử lý các truy vấn với độ chính xác cao, từ đó nâng cao trải nghiệm người dùng trong việc tìm kiếm thông tin.

V. Tổng kết

Nghiên cứu này đã chỉ ra rằng việc khai thác khoảng cách giữa các từ khóa và thực thể có tên là một yếu tố quan trọng trong việc cải thiện hiệu quả truy hồi thông tin. Các giải thuật tính toán khoảng cách động đã được phát triển và áp dụng thành công trong hệ thống tìm kiếm theo ngữ nghĩa. Kết quả thực nghiệm cho thấy rằng hệ thống này có thể nâng cao độ chính xác và độ đầy đủ của các tài liệu được trả về. Hướng phát triển trong tương lai có thể bao gồm việc mở rộng các phương pháp này để áp dụng cho các lĩnh vực khác trong khoa học máy tính.

5.1 Đóng góp của luận án

Luận án này đóng góp vào lĩnh vực tìm kiếm thông tin bằng cách phát triển một hệ thống tìm kiếm theo ngữ nghĩa có khoảng cách. Các giải thuật tính toán khoảng cách động giữa các từ khóa và thực thể có tên đã được đề xuất và thực nghiệm thành công. Điều này không chỉ cải thiện độ chính xác của kết quả tìm kiếm mà còn mở ra hướng nghiên cứu mới trong việc khai thác các đặc điểm ontology của thực thể có tên. Hệ thống mã nguồn mở Lucene đã được mở rộng để hỗ trợ các phương pháp này, từ đó nâng cao khả năng tìm kiếm thông tin trong các tài liệu lớn.

Nội dung chính

Tổng quan nghiên cứu

Trong kỷ nguyên bùng nổ dữ liệu số, hơn 80% người dùng công cụ tìm kiếm chỉ tập trung vào các kết quả xuất hiện ở trang đầu tiên. Điều này đặt ra yêu cầu cấp thiết về việc nâng cao độ chính xác của các tài liệu được xếp hạng cao nhất. Luận văn thạc sĩ chuyên ngành Khoa học máy tính của tác giả Lê Văn Minh Tuấn, thực hiện dưới sự hướng dẫn của Phó Giáo sư Cao Hoàng Trụ tại Trường Đại học Bách Khoa – Đại học Quốc gia Thành phố Hồ Chí Minh (hoàn thành trong giai đoạn từ ngày 04/07/2011 đến ngày 06/01/2012), đã giải quyết trực diện bài toán cốt lõi này. Đề tài tập trung nghiên cứu sự kết hợp giữa khoảng cách từ khóa (term proximity) và các đặc trưng ngữ nghĩa từ cơ sở tri thức Ontology nhằm tối ưu hóa hiệu năng truy hồi thông tin.

Vấn đề nghiên cứu xuất phát từ thực tế: các mô hình tìm kiếm theo khoảng cách truyền thống chỉ tính toán vị trí dựa trên token đơn lẻ. Khi một tài liệu chứa 15 token như câu ví dụ mẫu, thực thể "Ho Chi Minh City" bao phủ 4 token, trong khi tên gọi khác là "Saigon City" chỉ bao phủ 2 token. Sự chênh lệch chiều dài token này khiến các công cụ tìm kiếm truyền thống loại bỏ nhầm các tài liệu liên quan hoặc tính sai khoảng cách ngữ nghĩa. Mục tiêu của luận văn là xây dựng giải thuật tính toán khoảng cách động và lập chỉ mục vị trí dựa trên thực thể có tên, phát triển thư viện mở S-Lucene mở rộng từ Apache Lucene. Nghiên cứu mang ý nghĩa học thuật và ứng dụng to lớn, thiết lập chuẩn đo lường khoảng cách mới giúp cải thiện rõ rệt độ chính xác (Precision), độ đầy đủ (Recall) và độ đo F-measure trên 11 điểm truy hồi chuẩn.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng trên nền tảng kết hợp giữa Mô hình Không gian Vectơ truyền thống (Vector Space Model - VSM) và các mô hình biểu diễn ngữ nghĩa dựa trên Ontology. Trong mô hình không gian vectơ cổ điển, trọng số từ khóa được xác định thông qua hàm tần số xuất hiện (tf) và tần số tài liệu nghịch đảo (idf). Để vượt qua hạn chế xem các từ khóa là độc lập, luận văn tích hợp lý thuyết khoảng cách từ khóa với các độ đo tiêu biểu: độ đo phân đoạn văn bản ngắn nhất (Span, Min coverage) và độ đo tổng hợp khoảng cách cặp (MinDist, AveDist, MaxDist).

Bên cạnh đó, nghiên cứu tích hợp mô hình không gian vectơ mở rộng cho thực thể có tên (NE VSM) và mô hình kết hợp từ khóa cùng thực thể trên một không gian chung (KW+NE). Ba khái niệm cốt lõi được định nghĩa chặt chẽ:

1. Thực thể có tên (Named Entity - NE): Các đối tượng cụ thể (người, địa danh, tổ chức) được định danh duy nhất bằng mã URI và cấu trúc bộ ba (tên/lớp/định danh).
2. Quan hệ bao phủ lớp (Class subsumption) và tên khác (Alias): Cơ chế mở rộng tần số xuất hiện khi tài liệu chứa các bí danh hoặc lớp con của thực thể trong Ontology.
3. Vị trí dựa trên NE (NE-based position): Quy tắc gộp toàn bộ chuỗi token của một thực thể thành một vị trí đơn vị, điều chỉnh lại chỉ số vị trí của toàn bộ các token phía sau.

Phương pháp nghiên cứu

Nghiên cứu sử dụng phương pháp thực nghiệm kết hợp phát triển hệ thống trên nền tảng mã nguồn mở. Dữ liệu thử nghiệm được chú giải ngữ nghĩa thông qua hệ thống KIM (Knowledge & Information Management) tích hợp kiến trúc GATE, đạt độ chính xác nhận diện thực thể trung bình 90% và độ đầy đủ 86%. Cỡ mẫu thực nghiệm bao gồm hàng nghìn tài liệu văn bản HTML chuẩn hóa cùng tập truy vấn đa dạng kết hợp giữa từ khóa và thực thể có tên.

Phương pháp chọn mẫu có chủ đích được áp dụng nhằm đánh giá toàn diện các trường hợp: truy vấn cụm từ chính xác (khoảng cách cho phép slop = 0) và truy vấn khoảng cách mở rộng (slop > 0). Lý do lựa chọn mô hình S-Lucene để hiện thực vì nền tảng này cho phép can thiệp trực tiếp vào cấu trúc tệp chỉ mục đảo, bảng vị trí và hàm tính điểm tương tự (score API). Tác giả đã thiết kế và triển khai 4 giải thuật chính để so trùng tài liệu: 2 giải thuật cho cập nhật vị trí tĩnh (tính toán sẵn vị trí lúc đánh chỉ mục) và 2 giải thuật cho cập nhật vị trí động (tính toán lại khoảng cách tại thời điểm thực thi truy vấn thông qua hàm bổ trợ).

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm đã chứng minh tính ưu việt vượt trội của phương pháp tìm kiếm ngữ nghĩa có khoảng cách so với các hệ thống tìm kiếm từ khóa thuần túy:

1. Khắc phục triệt để lỗi sai lệch khoảng cách do độ dài thực thể: Phương pháp định vị dựa trên NE giúp hệ thống nhận diện chính xác các tài liệu chứa bí danh có số lượng token khác nhau. Khi truy vấn "Cultural exhibitions on Saigon City development" (khoảng cách giữa "on" và "development" là 1), hệ thống đã khớp chính xác tài liệu chứa "Ho Chi Minh City" dài 4 token với khoảng cách thực tế được chuẩn hóa về đúng 1 đơn vị.
2. Cải thiện vượt trội các chỉ số truy hồi: Trên đường cong P-R tại 11 điểm truy hồi chuẩn từ 0.0 đến 1.0, mô hình kết hợp thực thể và từ khóa có tính khoảng cách đạt độ chính xác trung bình cao hơn hẳn mô hình từ khóa cổ điển, đặc biệt tại các ngưỡng thu hồi đầu tiên (Recall từ 0.1 đến 0.4).
3. Cân bằng hiệu quả giữa độ chính xác và độ đầy đủ: Giá trị độ đo F-measure của phương pháp đề xuất duy trì mức ổn định cao khi tham số slop tăng từ 0 lên các giá trị lớn hơn, hạn chế tối đa việc trả về các tài liệu rác do từ khóa xuất hiện quá xa nhau.
4. Đánh giá hiệu năng giữa cập nhật tĩnh và động: Phương pháp cập nhật tĩnh mang lại tốc độ phản hồi nhanh hơn phương pháp cập nhật động khoảng 15 đến 30 mili-giây trên mỗi truy vấn nhờ việc tính toán trước vị trí trong tệp chỉ mục, trong khi chất lượng xếp hạng tài liệu của hai phương pháp là tương đương nhau.

Thảo luận kết quả

Nguyên nhân cốt lõi giúp mô hình đạt hiệu năng cao là nhờ việc chuẩn hóa không gian vị trí của các thực thể. Trong mô hình truyền thống, sự biến thiên độ dài của các từ đồng nghĩa làm sai lệch hàm tính khoảng cách cặp. Việc đưa toàn bộ các token thuộc một thực thể về một điểm vị trí duy nhất đã bảo toàn tính liên kết ngữ nghĩa giữa thực thể và các từ khóa bổ trợ xung quanh.

Các kết quả thực nghiệm trong luận văn được minh chứng rõ ràng thông qua hệ thống biểu đồ đường cong Precision - Recall (P-R) và biểu đồ F-measure trung bình. Dữ liệu bảng thống kê so sánh chi tiết thời gian xử lý và kiểm định ý nghĩa thống kê (với mức ý nghĩa p < 0.05) khẳng định sự cải thiện là hoàn toàn có cơ sở khoa học. Khi so sánh với các nghiên cứu tìm kiếm chuyên gia trước đó, đóng góp của luận văn là lần đầu tiên áp dụng thành công mô hình khoảng cách thực thể động vào bài toán truy hồi và xếp hạng toàn văn tài liệu.

Đề xuất và khuyến nghị

Dựa trên kết quả nghiên cứu, 4 giải pháp công nghệ trọng tâm được đề xuất nhằm ứng dụng và phát triển hệ thống tìm kiếm ngữ nghĩa:

1. Triển khai cơ chế cập nhật vị trí tĩnh cho hệ thống tìm kiếm doanh nghiệp: Đội ngũ kỹ sư phần mềm cần tích hợp module lập chỉ mục vị trí dựa trên NE vào các hệ thống quản trị dữ liệu lớn. Giải pháp này giúp duy trì thời gian phản hồi truy vấn dưới ngưỡng 50 mili-giây, hoàn thành triển khai trong vòng 3 tháng.
2. Mở rộng cơ sở tri thức Ontology đa ngữ: Nhóm chuyên gia dữ liệu cần cập nhật liên tục các thực thể mới, từ đồng nghĩa và quan hệ phân cấp lớp trong cơ sở tri thức KIM/GATE. Mục tiêu nâng độ phủ nhận diện thực thể tự động đạt trên 95% trong lộ trình 6 tháng.
3. Tối ưu hóa hàm xếp hạng phi tuyến tính: Bộ phận nghiên cứu thuật toán cần kết hợp độ đo khoảng cách động với các mô hình xếp hạng hiện đại như Okapi BM25 hoặc học máy xếp hạng (Learning to Rank). Mục tiêu tăng thêm từ 10% đến 15% chỉ số F-score đối với các câu truy vấn phức tạp trong vòng 4 tháng tới.
4. Hoàn thiện cấu trúc tệp chỉ mục với danh sách nhảy: Các nhà phát triển hệ thống mã nguồn mở cần tối ưu hóa bảng vị trí trong S-Lucene bằng thuật toán Skipping List cải tiến, giúp cắt giảm 20% đến 30% chi phí bộ nhớ và thời gian quét dữ liệu khi xử lý đồng thời nhiều truy vấn.

Đối tượng nên tham khảo luận văn

Nội dung và mã nguồn mở phát triển từ luận văn mang lại giá trị thiết thực cho 4 nhóm đối tượng:

1. Kỹ sư phát triển công cụ tìm kiếm và xử lý dữ liệu lớn: Tiếp cận phương pháp mở rộng Apache Lucene và Elasticsearch, ứng dụng trực tiếp thuật toán xử lý truy vấn cụm từ có chứa thực thể trong các dự án tìm kiếm thương mại.
2. Nhà nghiên cứu và nghiên cứu sinh ngành Khoa học máy tính: Khai thác tài liệu tham khảo giá trị về sự kết hợp giữa Xử lý ngôn ngữ tự nhiên (NLP), Trích xuất thông tin (IE) và Truy hồi thông tin ngữ nghĩa (Semantic IR).
3. Doanh nghiệp và tổ chức xây dựng hệ thống quản lý tri thức: Ứng dụng giải pháp tìm kiếm thông minh để khai thác kho văn bản nội bộ quy mô hàng trăm nghìn tài liệu, giúp nhân viên truy xuất chính xác thông tin theo ngữ cảnh và chức danh.
4. Học viên cao học và sinh viên ngành Công nghệ thông tin: Tham khảo phương pháp luận nghiên cứu chuẩn mực, cách thức thiết kế thuật toán so trùng chuỗi và quy trình đánh giá thực nghiệm khoa học qua 11 điểm chuẩn.

Câu hỏi thường gặp

Tìm kiếm theo khoảng cách có thực thể có tên khác gì so với tìm kiếm từ khóa truyền thống?
Tìm kiếm từ khóa truyền thống chỉ tính khoảng cách dựa trên số lượng token cơ học giữa các từ. Tìm kiếm theo thực thể có tên khai thác thêm các đặc tính Ontology như bí danh, lớp và định danh duy nhất. Nhờ đó, hệ thống hiểu được bản chất ngữ nghĩa của đối tượng và tính toán khoảng cách chính xác ngay cả khi cách gọi tên thay đổi.

Tại sao khoảng cách dựa trên token gây sai lệch kết quả khi có thực thể có tên?
Một thực thể có thể có nhiều tên gọi với số lượng token khác nhau, ví dụ "Saigon City" gồm 2 token nhưng "Ho Chi Minh City" gồm 4 token. Khi tính toán khoảng cách token thuần túy, sự chênh lệch 2 token này khiến hệ thống hiểu sai khoảng cách thực tế giữa các từ khóa xung quanh, dẫn đến việc loại bỏ nhầm các tài liệu hoàn toàn phù hợp.

Cơ chế cập nhật vị trí tĩnh và cập nhật vị trí động khác nhau như thế nào?
Cập nhật tĩnh tính toán và lưu sẵn vị trí dựa trên NE của toàn bộ thực thể trong tài liệu ngay tại thời điểm đánh chỉ mục, giúp tốc độ truy vấn nhanh hơn từ 15 đến 30 mili-giây. Cập nhật động chỉ điều chỉnh vị trí của các thực thể có mặt trong câu truy vấn tại thời điểm chạy (runtime), linh hoạt hơn nhưng tốn tài nguyên xử lý hơn.

Hệ thống S-Lucene đã mở rộng những thành phần nào của thư viện Lucene gốc?
S-Lucene bổ sung trường chỉ mục mới kết hợp từ khóa và thực thể (ne+kw), tổ chức lại bảng lưu trữ vị trí theo đơn vị NE, đồng thời viết lại 4 giải thuật so trùng tài liệu cho hai trường hợp slop = 0 và slop > 0 để hỗ trợ cú pháp truy vấn ngữ nghĩa phức hợp.

Hệ thống nhận diện thực thể KIM đóng vai trò gì trong toàn bộ kiến trúc?
KIM đóng vai trò là module tiền xử lý ngữ nghĩa, tự động nhận diện các thực thể có tên trong văn bản với độ chính xác đạt 90% và độ đầy đủ 86%. Dữ liệu trích xuất từ KIM cung cấp các bộ ba định danh (tên/lớp/ID) làm đầu vào trực tiếp cho quá trình lập chỉ mục của S-Lucene.

Kết luận

Luận văn thạc sĩ "Tìm kiếm theo ngữ nghĩa có khoảng cách" của tác giả Lê Văn Minh Tuấn đã mang lại những giá trị học thuật và ứng dụng quan trọng:

• Xây dựng thành công cơ sở lý thuyết và công thức toán học chuẩn hóa vị trí của thực thể có tên trong văn bản.
• Đề xuất 4 giải thuật tối ưu để xử lý truy vấn cụm từ và truy vấn khoảng cách dựa trên hai cơ chế cập nhật vị trí tĩnh và động.
• Phát triển hoàn chỉnh thư viện mã nguồn mở S-Lucene, cung cấp nền tảng lập trình mở cho cộng đồng nghiên cứu công nghệ tìm kiếm.
• Chứng minh hiệu quả vượt trội trong việc nâng cao độ chính xác truy hồi trên 11 điểm chuẩn thực nghiệm thông qua các đường cong P-R và F-measure.
• Đặt nền móng vững chắc cho việc tích hợp các mô hình biểu diễn tri thức Ontology sâu rộng vào các công cụ tìm kiếm dữ liệu lớn.

Trong lộ trình 3 đến 6 tháng tới, hệ thống có thể tiếp tục được nâng cấp với các thuật toán học sâu và cơ sở dữ liệu đồ thị tri thức. Quý bạn đọc, nhà nghiên cứu và các kỹ sư hệ thống hãy tải ngay toàn văn tài liệu và trải nghiệm nền tảng thư viện mở S-Lucene để tối ưu hóa công cụ tìm kiếm của mình ngay hôm nay.

Trích đoạn nội dung tài liệu

Chương 1: Tổng quan 1.1 Phát biểu vấn đề Trong truy hồi thông tin, khi tìm kiếm tài liệu, người dùng mong đợi công cụ tìm kiếm trả về những tài liệu liên quan nằm ở đầu của danh sách kết quả ([24]). Thêm vào đó, công trình nghiên cứu về sự tương tác lẫn nhau (interaction) của những term trong câu truy vấn ([21]) đã cho thấy những cặp có tính tương quan cao là những term cấu thành những cụm từ (phrase). Điều này chỉ ra rằng khi tìm kiếm người dùng có khuynh hướng sử dụng những term mà chúng thường xuất hiện thành cụm từ hay thường xuất hiện gần nhau trong tài liệu. Vì vậy, khoảng cách giữa các term, hay còn gọi là term proximity, đã được sử dụng ngầm bên dưới khi người dùng tìm kiếm tài liệu.

Dựa trên sự quan sát này, đã có nhiều công trình nghiên cứu tập trung vào khoảng cách giữa các term nhằm cải thiện độ chính xác ở những tài liệu ở đầu danh sách được trả về ([2][3][19][23][25]). Mặc dù các công trình nghiên cứu này có hướng tiếp cận khác nhau nhưng tất cả đều có thể chứng tỏ rằng hiệu quả truy hồi tài liệu có thể được cải thiện khi tích hợp các độ đo về khoảng cách vào trong các mô hình truy hồi hiện có. Tìm kiếm theo khoảng cách là cách tìm kiếm tài liệu có chứa hai hay nhiều term xuất hiện trong một khoảng cách được cho trước trong đó khoảng cách được định nghĩa là số lượng từ (word) hay kí tự nằm giữa các term và trong một vài trường hợp có thể yêu cầu thêm thứ tự của các term được thỏa mãn (Wikipedia1). Ví dụ, trailer NEAR3 boys có nghĩa là người dùng yêu cầu không có hơn ba từ nằm giữa trailer và boys và chúng có thể có bất kỳ thứ tự nào.

Để làm tăng độ hiệu quả truy hồi tài liệu, ngoài những nghiên cứu tập trung vào độ đo khoảng cách giữa các term còn có những nghiên cứu khác trong lĩnh vực tìm kiếm ngữ nghĩa cụ thể là các nghiên cứu xem xét khai thác các đặc tính ontology của các thực thể có tên ([4][5][6]). Thực thể có tên (Named Entity – NE) là những thực thể được đề cập đến bằng tên ví dụ như con người, tổ chức, nơi chốn và có thể được mô tả trong 1 http://en.org/wiki/Proximity_search_(text) Lê Văn Minh Tuấn 9 Tìm kiếm theo ngữ nghĩa có khoảng cách ontology ([20]). Ontology định nghĩa các lớp thực thể, cây phân cấp của các lớp thực thể, các thuộc tính của các lớp thực thể, và các quan hệ giữa các lớp thực thể. Ngoài Ontology, việc xử lý các thực thể có tên này còn cần thêm các tri thức cụ thể về thế giới đang xét.

Các tri thức này được chứa trong cơ sở tri thức. Cơ sở tri thức sẽ chứa đựng thông tin về các thực thể có tên cụ thể thuộc về các lớp thực thể đã được định nghĩa trong Ontology. Tuy nhiên, theo hiểu biết của chúng tôi, chưa có một công trình nào ở tìm kiếm theo ngữ nghĩa xem xét tới các câu truy vấn khoảng cách có chứa thực thể có tên và từ khóa. Thực tế khoảng cách giữa thực thể có tên và từ khóa đã được xem xét tới trong ([18]).

Nó được thực hiện trong lĩnh vực tìm kiếm chuyên gia (expert search), tức là việc tìm kiếm những người có kĩ năng và kinh nghiệm trong một chủ đề cho trước. Tuy nhiên, nó không phải dành cho truy hồi văn bản. Các mô hình tính độ đo khoảng cách được đề cập ở trên tính khoảng cách giữa các term dựa trên token. Khi được đánh chỉ mục, một tài liệu được phân tích thành các token (hay còn gọi là term).

Mỗi token sẽ được gán cho một ví trí và khoảng cách giữa chúng sẽ được tính dựa trên vị trí này. Xét tài liệu sau: D: “Cultural exhibitions on Ho Chi Minh City development and integration opened in Lam Son park” Khi đánh chỉ mục, tài liệu D được phân tích thành 15 token “cultural”, “exhibitions”, “on”, “ho”, “chi”, “minh”, “city”, “development”, “and”, “integration”, “opened”, “in”, “lam”, “son”, “park” có vị trí lần lượt từ 0 đến 14. Khoảng cách giữa các token có thể được tính dễ dàng dựa trên các vị trí này. Ví dụ, khoảng cách giữa “on” và “development” là 4 vì có 4 token “ho”, “chi”, “minh”, “city” nằm giữa chúng.

Tuy nhiên, khi tính đến NE, khoảng cách term được tính dựa trên token không còn áp dụng được nữa. Mỗi NE xuất hiện trong tài liệu thường bao phủ nhiều hơn một token. Ví dụ, trong tài liệu D ở trên, có một NE gọi là “Ho Chi Minh City” và nó bao phủ 4 token. Chúng tôi gọi số token bao phủ bởi một NE là chiều dài của NE đó.

Một NE có thể có nhiều tên khác (alias) với nhiều chiều dài khác nhau, vì vậy nó có thể có nhiều chiều dài khác nhau trong tài liệu. Ngoài ra, những NE thuộc về cùng một lớp thực thể cũng có chiều dài khác nhau trong tài liệu. Hãy xem xét các câu truy vấn cụm từ sau để có thể thấy chiều dài khác nhau của NE làm cho khoảng cách term dựa trên token không còn áp dụng được: Lê Văn Minh Tuấn 10 Tìm kiếm theo ngữ nghĩa có khoảng cách Q1: “Cultural exhibitions on Saigon City development” Q2: “Cultural exhibitions on city development” Ở truy vấn Q1, các tài liệu trả về phải chứa các term “Cultural”, “exhibitions”, “on”, “Saigon”, “City”, “development” đứng ngay sát cạnh nhau. Ở Q1, “Saigon City” là một NE có ID là city_123 và nó bao phủ 2 token.

Ở đây câu truy vấn yêu cầu phải có term “on” xuất hiện ngay phía trước và term “development” xuất hiện ngay phía sau thực thể city_123 trong tài liệu. Ở tài liệu D, có một cụm từ “Cultural exhibitions on Ho Chi Minh City development”. Bởi vì “Ho Chi Minh City” là một tên khác của “Saigon City”, cho nên một cách trực quan thì tài liệu D có thể so trùng được với Q1. Tuy nhiên, theo khoảng cách term dựa trên token ở trên, tài liệu D không được trả về vì nó không thỏa điều kiện về khoảng cách.

Một cách cụ thể, thực thể city_123 có chiều dài là 2 trong truy vấn Q1 vì vậy khoảng cách giữa term “development” và “on” được yêu cầu là 2. Nhưng trong tài liệu D, thực thể city_123 có chiều dài là 4, vì vậy khoảng cách giữa term “development” và “on” là 4, chính sự khác biệt này làm D không thể so trùng được với Q1. Chúng ta có thể thấy rằng lỗi này là do bởi vì cùng một NE nhưng nó có thể xuất hiện với nhiều tên khác nhau và nhiều chiều dài khác nhau trong truy vấn và tài liệu. Mặc dù NE trong truy vấn và tài liệu có thể so trùng được với nhau (như city_123 ở trên) nhưng chiều dài của chúng có thể khác nhau và điều này làm cho khoảng cách dựa trên token bị sai lệch.

Một ví dụ khác là truy vấn Q2 tìm kiếm tài liệu chứa tất cả các term “Cultural”, “exhibitions”, “on”, “city”, “development” đứng sát nhau. Ở đây “city” là một lớp thực thể gọi là City. Ở Q2, câu truy vấn không đề cập đến một thành phố cụ thể nào nhưng đề cập đến tất cả thực thể có tên thuộc về lớp City. Bởi vì “Ho Chi Minh City” là một thực thể thuộc lớp City cho nên một cách trực quan thì D có thể so trùng với câu truy vấn Q2.

Thế nhưng ở Q2 khoảng cách giữa term “development” và “on” là 1 nhưng trong tài liệu D khoảng cách giữa chúng lại là 4. Vì vậy, nếu theo cách tính khoảng cách dựa trên token, tài liệu D không thể so trùng được với Q2. Ngoài Thành phố Hồ Chí Minh, còn có rất nhiều thực thể thành phố khác thuộc lớp City và mỗi thành phố trong số chúng có thể có chiều dài khác nhau. Những chiều dài khác nhau của chúng làm cho khoảng cách giữa các term nằm trước và sau chúng cũng khác nhau.

Vì vậy việc so trùng term không còn Lê Văn Minh Tuấn 11 Tìm kiếm theo ngữ nghĩa có khoảng cách dễ dàng như trong trường hợp so trùng từ khóa thuần. Nó phải đối mặt với các khoảng cách động và biến đổi gây ra bởi những thực thể có tên có chiều dài khác nhau. Hai ví dụ trên cho thấy rằng khoảng cách được tính dựa trên token không thể áp dụng cho các câu truy vấn và tài liệu có chứa NE. Trong luận án này, chúng tôi không đề xuất một mô hình xếp hạng mới có sử dụng khoảng cách giữa các term nhưng chúng tôi xem xét các khoảng cách động giữa các từ khóa và các thực thể có tên trong truy vấn và tài liệu như đã phân tích ở các ví dụ trên.

Cho đến nay, theo hiểu biết của chúng tôi, chưa có hệ thống truy hồi nào có hỗ trợ các câu truy vấn về khoảng cách giữa các từ khóa và các thực thể có tên. Mục tiêu của luận án này là khai thác các đặc tính ontology của thực thể có tên trong tìm kiếm theo khoảng cách, xem xét và phân tích các khoảng cách động giữa các từ khóa và các thực thể có tên, và sau đó phát triển một giải thuật để tính toán các khoảng cách động này. Sau khi các khoảng cách được tính ra, bất cứ mô hình xếp hạng nào được đề cập ở trên đều có thể được áp dụng để xếp hạng các tài liệu được truy hồi. Trong [12], chúng tôi đã đề xuất tìm kiếm theo khoảng cách có thực thể có tên trong đó vị trí của các term được cập nhật tĩnh lúc đánh chỉ mục nhưng chưa tiến hành thực nghiệm để đánh giá hiệu quả.

Trong luận án này, ngoài cách tiếp cận được đề xuất trong [12], chúng tôi còn đề xuất thêm tìm kiếm theo khoảng cách có thực thể có tên trong đó vị trí của các term được cập nhật động và tiến hành thực nghiệm để đánh giá hiệu quả của các phương pháp này trong việc cải thiện hiệu suất truy hồi dựa trên các độ đo độ chính xác, độ đầy đủ và độ hài hòa F. Dựa trên các nghiên cứu đó, chúng tôi biến đổi thư viện S-Lucene ([4][15][16]) để hiện thực các phương pháp tìm kiếm theo khoảng cách có thực thể có tên của chúng tôi. Chi tiết của các phương pháp này sẽ được trình bày chi tiết trong Chương 3 và phần thực nghiệm đánh giá sẽ được chúng tôi trình bày trong Chương 4.2 Các công trình liên quan Trong các mô hình truy hồi hiện tại, các tài liệu được xếp hạng chủ yếu dựa trên nhiều loại đại lượng thống kê như tần số xuất hiện của term trong tài liệu (within- document term frequency – tf), tần số tài liệu nghịch đảo (inverse document frequency – idf) và chiều dài của tài liệu.