LIÊN KẾT THỰC THỂ CHO KHO VĂN BẢN CÓ CHÚ GIẢI NGỮ NGHĨA TIẾNG VIỆT

Nghiên cứu liên kết thực thể tiếng Việt, khám phá phương pháp xây dựng hệ thống liên kết cho kho văn bản chú giải ngữ nghĩa. Đánh giá độ chính xác, bộ dữ liệu mới.

• Tác giả: Bùi Hoàng Anh
• Người hướng dẫn: PGS. Đỗ Trung Tuấn
• Trường học: Trường Đại học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội
• Chuyên ngành: Khoa học Dữ liệu
• Đề tài: Liên Kết Thực Thể Cho Kho Văn Bản Có Chú Giải Ngữ Nghĩa Tiếng Việt
• Loại tài liệu: Luận Văn Thạc Sĩ
• Năm xuất bản: 2024
• Địa điểm: Hà Nội

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• TÓM TẮT LUẬN VĂN
• 1. CHƯƠNG 1: KIẾN THỨC CƠ SỞ
• 1.1. Bài toán liên kết thực thể
• 1.2. Cơ sở tri thức
• 1.3. Cơ sở tri thức Wikipedia
• 1.4. Biểu diễn từ trong xử lý ngôn ngữ tự nhiên
• 1.4.1. Kĩ thuật biểu diễn từ truyền thống
• 1.4.2. Kĩ thuật nhúng từ có ngữ cảnh
• 2. CHƯƠNG 2: CÁC PHƯƠNG PHÁP GIẢI QUYẾT BÀI TOÁN LIÊN KẾT THỰC THỂ
• 2.1. Các công trình liên quan
• 2.2. Mô hình hệ thống liên kết thực thể
• 2.3. Các kỹ thuật đề xuất ứng viên
• 2.3.1. Kỹ thuật dựa trên từ điển tên
• 2.3.2. Kỹ thuật khai triển dạng bề mặt của đề cập thực thể
• 2.3.3. Kỹ thuật dựa trên công cụ tìm kiếm
• 2.4. Các kỹ thuật xếp hạng thực thể ứng viên
• 2.4.1. Đặc trưng
• 2.4.2. Các kỹ thuật xếp hạng
• 2.5. Các kỹ thuật dự đoán đề cập không thể liên kết
• 3. CHƯƠNG 3: XÂY DỰNG HỆ THỐNG LIÊN KẾT THỰC THỂ CHO TIẾNG VIỆT
• 3.1. Xây dựng bộ dữ liệu
• 3.1.1. Khảo sát và xây dựng bộ dữ liệu
• 3.2. Xây dựng thành phần đề xuất ứng viên
• 3.2.1. Xây dựng cơ sở lưu trữ Wikipedia dưới dạng SQL
• 3.2.2. Phát triển thành phần đề xuất ứng viên
• 3.3. Xây dựng thành phần xếp hạng thực thể ứng viên
• 3.4. Xây dựng thành phần dự đoán đề cập không thể liên kết
• 3.5. Đánh giá kết quả
• 3.5.1. Bộ dữ liệu
• KẾT LUẬN
• DANH SÁCH BẢNG
• DANH SÁCH HÌNH VẼ
• DANH MỤC TỪ VIẾT TẮT

Tóm tắt

I. Tổng Quan Về Liên Kết Thực Thể Tiếng Việt Khái Niệm Tầm Quan Trọng

Xử lý ngôn ngữ tự nhiên (NLP) đóng vai trò then chốt trong việc giúp máy tính hiểu và xử lý ngôn ngữ của con người, thúc đẩy ứng dụng công nghệ thông tin trong mọi lĩnh vực. Trích xuất thông tin (Information Extraction - IE) là một khía cạnh quan trọng của NLP, biến dữ liệu ngôn ngữ tự nhiên thành thông tin có ý nghĩa. Trong bối cảnh dữ liệu văn bản ngày càng tăng, IE trở thành yếu tố quyết định để hiểu rõ nội dung, tìm kiếm thông tin và hỗ trợ ra quyết định. Bài toán liên kết thực thể là một chủ đề quan trọng trong IE, tự động xác định và kết nối các thực thể trong văn bản với nguồn thông tin tương ứng. Entity Linking Vietnamese giúp máy tính hiểu chính xác hơn về nội dung văn bản và cung cấp ứng dụng quan trọng trong tìm kiếm thông tin, tổ chức dữ liệu, và hỗ trợ ra quyết định. Bài toán đã được nghiên cứu rộng rãi trên thế giới, đạt được kết quả ở các ngôn ngữ Anh, Pháp, Trung Quốc. Tiếng Việt, dù phổ biến, vẫn còn ít nghiên cứu và kết quả thực tiễn. Luận văn này tập trung vào liên kết thực thể cho tiếng Việt.

1.1. Định Nghĩa và Mục Tiêu của Bài Toán Liên Kết Thực Thể

Bài toán liên kết thực thể (Entity Linking), hay phân biệt định danh thực thể, là bài toán quan trọng trong hiểu ngữ nghĩa văn bản. Mục tiêu là xác định và kết nối các thực thể được đề cập trong văn bản (đề cập thực thể) với các thực thể cụ thể trong cơ sở tri thức. Bài toán ánh xạ một đề cập thực thể tới thực thể tương ứng trong cơ sở tri thức. Một số đề cập thực thể có thể không liên quan đến bất kỳ thực thể nào, được gán nhãn NIL. Dữ liệu vào là một đoạn văn bản chứa các đề cập thực thể. Dữ liệu ra là biểu diễn của thực thể tương ứng hoặc NIL. Ví dụ, đề cập “Nga” trong “Quân đội Ukraine thống kê, chỉ trong vòng 24 giờ qua, phía Nga đã mất...” sẽ được liên kết đến nhà nước Liên bang Nga trên Wikipedia.

1.2. Lợi Ích và Ứng Dụng của Liên Kết Thực Thể Trong Thực Tế

Việc giải quyết bài toán liên kết thực thể mang lại nhiều lợi ích quan trọng. Đầu tiên, nó giúp máy tính hiểu được nội dung văn bản bằng cách liên kết thực thể để máy tính hiểu rõ ngữ cảnh của văn bản, trích xuất thông tin, tổ chức dữ liệu, hoặc tạo biểu đồ tri thức từ văn bản. Thứ hai, nó tạo mối liên hệ giữa dữ liệu văn bản và tri thức bên ngoài (Wikipedia, Wikidata). Cuối cùng, nó giúp kiểm tra tính chính xác của văn bản. Máy tính có thể kiểm tra thông tin trong văn bản có chính xác hay không dựa trên tri thức bên ngoài. Nếu không, máy tính có thể đưa ra lý do bằng cách cung cấp nguồn tri thức có độ tin cậy cao.

II. Thách Thức Nghiên Cứu Liên Kết Thực Thể Cho Tiếng Việt Vấn Đề Hiện Tại

Bài toán liên kết thực thể đã được nghiên cứu rộng rãi trên phạm vi toàn cầu và đạt thành công đáng kể trong xử lý ngôn ngữ Anh, Pháp và Trung Quốc. Tuy nhiên, đối với tiếng Việt, một ngôn ngữ phổ biến với hơn 50 triệu người sử dụng hàng ngày, sự quan tâm đối với bài toán này còn hạn chế, và kết quả nghiên cứu chưa mang lại giá trị áp dụng thực tiễn. Nghiên cứu về lĩnh vực liên kết thực thể cho tiếng Việt vẫn còn hạn chế và chưa có kết quả vượt trội. Hiện tại, không có bộ dữ liệu công khai nào để đánh giá độ chính xác cho mô hình liên kết thực thể tiếng Việt. Vì vậy, luận văn này quyết tâm khám phá và làm sáng tỏ vấn đề liên kết thực thể đối với tiếng Việt, đồng thời xây dựng bộ dữ liệu đánh giá cho bài toán.

2.1. Sự Hạn Chế Về Nghiên Cứu và Kết Quả trong Lĩnh Vực

Mặc dù đã có nhiều nghiên cứu về Entity Linking Vietnamese, nhưng phần lớn tập trung vào các ngôn ngữ phổ biến như tiếng Anh, tiếng Pháp và tiếng Trung. Số lượng nghiên cứu về liên kết thực thể cho tiếng Việt còn ít và chưa mang lại kết quả thực tiễn so với các ngôn ngữ khác. Điều này có thể do sự phức tạp của tiếng Việt, cũng như thiếu các tài nguyên và công cụ hỗ trợ sẵn có. Các phương pháp tiếp cận và thuật toán được phát triển cho các ngôn ngữ khác có thể không hoạt động hiệu quả đối với tiếng Việt, do sự khác biệt về cấu trúc ngôn ngữ và đặc điểm ngữ pháp.

2.2. Thiếu Bộ Dữ Liệu Công Khai Đánh Giá Mô Hình Liên Kết

Một trong những thách thức lớn nhất trong phát triển hệ thống liên kết thực thể tiếng Việt là thiếu bộ dữ liệu công khai để đánh giá độ chính xác cho mô hình. Việc xây dựng bộ dữ liệu đánh giá đòi hỏi công sức lớn, vì cần gán nhãn thủ công cho các thực thể trong văn bản. Bộ dữ liệu này phải đủ lớn và đa dạng để đảm bảo tính khách quan và khả năng khái quát hóa của mô hình. Do đó, việc xây dựng bộ dữ liệu đánh giá là một bước quan trọng để thúc đẩy sự phát triển của liên kết thực thể cho tiếng Việt. Luận văn này đã xây dựng một bộ dữ liệu được gán nhãn thủ công cho việc đánh giá hệ thống liên kết gồm 1620 mẫu đối với tiếng Việt.

III. Phương Pháp Xây Dựng Hệ Thống Liên Kết Thực Thể Tiếng Việt Hiệu Quả

Việc xây dựng hệ thống liên kết thực thể hiệu quả đòi hỏi sự kết hợp giữa các kỹ thuật xử lý ngôn ngữ tự nhiên, khai phá dữ liệu và học máy. Luận văn này khảo sát một số mô hình liên kết thực thể, từ đó ứng dụng vào xây dựng một hệ thống liên kết thực thể. Cụ thể, hệ thống được xây dựng bao gồm các thành phần chính: nhận dạng thực thể có tên (NER), đề xuất ứng viên thực thể (candidate generation) và xếp hạng ứng viên (candidate ranking). Thành phần NER tiếng Việt giúp xác định các thực thể có tên trong văn bản đầu vào. Thành phần đề xuất ứng viên thực thể tạo ra danh sách các thực thể tiềm năng từ cơ sở tri thức, liên kết với đề cập thực thể đã được nhận dạng. Thành phần xếp hạng ứng viên đánh giá và sắp xếp các ứng viên dựa trên độ phù hợp với ngữ cảnh của đề cập thực thể.

3.1. Nhận Dạng Thực Thể Có Tên NER Cho Ngôn Ngữ Tiếng Việt

Nhận dạng thực thể có tên (NER) là bước đầu tiên và quan trọng trong quy trình liên kết thực thể. NER có nhiệm vụ xác định và phân loại các thực thể có tên trong văn bản, chẳng hạn như tên người, địa điểm, tổ chức, v.v. Đối với tiếng Việt, NER có thể gặp nhiều thách thức do tính chất đa dạng của ngôn ngữ. Các kỹ thuật NER truyền thống dựa trên luật và từ điển có thể không hiệu quả đối với tiếng Việt. Do đó, cần sử dụng các mô hình học máy, chẳng hạn như Conditional Random Fields (CRF) hoặc các mô hình deep learning (ví dụ: BERT, LSTM) để đạt được độ chính xác cao hơn. Các mô hình này có khả năng học các đặc trưng ngữ pháp và ngữ nghĩa của tiếng Việt, giúp nhận dạng chính xác các thực thể có tên.

3.2. Đề Xuất Ứng Viên Thực Thể Từ Cơ Sở Tri Thức Knowledge Base

Sau khi các thực thể có tên đã được nhận dạng, bước tiếp theo là đề xuất các ứng viên thực thể từ cơ sở tri thức. Mục tiêu là tạo ra một danh sách các thực thể tiềm năng, có khả năng liên kết với đề cập thực thể đã được nhận dạng. Các kỹ thuật đề xuất ứng viên thường dựa trên việc so sánh tên của đề cập thực thể với tên của các thực thể trong cơ sở tri thức. Một số kỹ thuật phổ biến bao gồm: khớp chuỗi chính xác, khớp chuỗi mờ (fuzzy matching), và sử dụng từ điển tên (name dictionary). Ngoài ra, có thể sử dụng các kỹ thuật khai triển dạng bề mặt của đề cập thực thể để tìm kiếm các biến thể tên khác nhau (ví dụ: viết tắt, từ đồng nghĩa). Wikipedia là một cơ sở tri thức được sử dụng rộng rãi để đề xuất ứng viên thực thể.

3.3. Xếp Hạng và Lựa Chọn Ứng Viên Thực Thể Phù Hợp Nhất

Sau khi đã có danh sách các ứng viên thực thể, bước cuối cùng là xếp hạng và lựa chọn ứng viên phù hợp nhất. Mục tiêu là chọn ra thực thể trong cơ sở tri thức mà có khả năng cao nhất là thực thể mà đề cập thực thể đang tham chiếu đến. Các kỹ thuật xếp hạng thường dựa trên việc tính toán độ tương đồng giữa ngữ cảnh của đề cập thực thể và ngữ cảnh của các ứng viên thực thể. Các đặc trưng ngữ cảnh có thể bao gồm: các từ xung quanh đề cập thực thể, các thực thể khác trong cùng văn bản, và các mối quan hệ giữa các thực thể. Các mô hình học máy, chẳng hạn như Support Vector Machines (SVM) hoặc các mô hình deep learning, có thể được sử dụng để học cách xếp hạng các ứng viên thực thể.

IV. Ứng Dụng Thực Tiễn và Đánh Giá Hệ Thống Liên Kết Thực Thể Tiếng Việt

Hệ thống liên kết thực thể tiếng Việt có thể được ứng dụng trong nhiều lĩnh vực khác nhau. Trong lĩnh vực tìm kiếm thông tin, nó có thể giúp cải thiện độ chính xác và hiệu quả của các công cụ tìm kiếm bằng cách hiểu rõ hơn về ý nghĩa của các truy vấn tìm kiếm. Trong lĩnh vực phân tích văn bản, nó có thể giúp trích xuất thông tin quan trọng từ văn bản, chẳng hạn như các mối quan hệ giữa các thực thể. Trong lĩnh vực chatbot, nó có thể giúp chatbot hiểu rõ hơn về ý định của người dùng và đưa ra các phản hồi phù hợp. Để đánh giá hiệu quả của hệ thống liên kết thực thể, cần sử dụng các bộ dữ liệu đánh giá chuẩn. Các độ đo đánh giá phổ biến bao gồm: độ chính xác (precision), độ phủ (recall) và F1-score.

4.1. Ứng Dụng trong Tìm Kiếm Thông Tin và Phân Tích Văn Bản

Trong lĩnh vực tìm kiếm thông tin, liên kết thực thể giúp cải thiện độ chính xác bằng cách hiểu rõ hơn về ý nghĩa của các truy vấn. Thay vì chỉ dựa vào các từ khóa, công cụ tìm kiếm có thể sử dụng thông tin về các thực thể để tìm kiếm các trang web hoặc tài liệu liên quan. Ví dụ, nếu người dùng tìm kiếm "Thủ tướng Việt Nam", công cụ tìm kiếm có thể sử dụng liên kết thực thể để xác định rằng người dùng đang quan tâm đến các thông tin về Thủ tướng đương nhiệm, chức vụ, và hoạt động của Thủ tướng. Trong phân tích văn bản, liên kết thực thể giúp trích xuất thông tin quan trọng, như mối quan hệ giữa các thực thể. Điều này có thể ứng dụng trong giám sát truyền thông, phân tích xu hướng hoặc phát hiện gian lận.

4.2. Ứng Dụng trong Xây Dựng Chatbot và Trợ Lý Ảo Thông Minh

Trong lĩnh vực chatbot và trợ lý ảo thông minh, liên kết thực thể đóng vai trò quan trọng trong việc hiểu rõ hơn về ý định của người dùng và đưa ra các phản hồi phù hợp. Khi người dùng đặt câu hỏi hoặc yêu cầu một tác vụ, chatbot cần phải xác định các thực thể liên quan để hiểu rõ ngữ cảnh và đưa ra câu trả lời chính xác. Ví dụ, nếu người dùng hỏi "Thời tiết ở Hà Nội ngày mai thế nào?", chatbot cần xác định rằng người dùng đang hỏi về thời tiết ở địa điểm "Hà Nội" và thời gian "ngày mai". Từ đó, chatbot có thể truy vấn thông tin thời tiết từ nguồn dữ liệu phù hợp và cung cấp cho người dùng.

4.3. Đánh Giá Hiệu Năng và Độ Chính Xác của Hệ Thống

Việc đánh giá hiệu năng và độ chính xác là bước quan trọng để đảm bảo hệ thống liên kết thực thể hoạt động hiệu quả. Độ chính xác (precision) đo lường tỷ lệ các thực thể được liên kết chính xác trong tổng số các thực thể được liên kết. Độ phủ (recall) đo lường tỷ lệ các thực thể được liên kết chính xác trong tổng số các thực thể cần được liên kết. F1-score là trung bình điều hòa của precision và recall, cung cấp một đánh giá tổng quan về hiệu năng của hệ thống. Luận văn này đã đánh giá hệ thống được xây dựng trong luận văn này được đánh giá với bộ dữ liệu tự xây dựng nêu trên. Bước đầu hệ thống đã đạt độ chính xác 91.85% trên phần dữ liệu mà các đề cập chắc chắn có thực thể liên kết và 84.01% trên toàn bộ dữ liệu.

V. Kết Luận và Hướng Phát Triển Liên Kết Thực Thể Tiếng Việt Trong Tương Lai

Luận văn này đã trình bày một tổng quan về bài toán liên kết thực thể và khảo sát một số mô hình liên kết thực thể, từ đó ứng dụng vào xây dựng một hệ thống liên kết thực thể. Luận văn còn đưa ra bộ dữ liệu được gán nhãn thủ công cho việc đánh giá hệ thống liên kết gồm 1620 mẫu đối với tiếng Việt. Hệ thống liên kết được xây dựng trong luận văn này được đánh giá với bộ dữ liệu tự xây dựng nêu trên. Kết quả cho thấy hệ thống đã đạt được độ chính xác đáng kể. Tuy nhiên, vẫn còn nhiều hướng phát triển tiềm năng trong tương lai, chẳng hạn như sử dụng các mô hình deep learning tiên tiến hơn, khai thác thêm thông tin ngữ cảnh, và xây dựng các bộ dữ liệu đánh giá lớn hơn và đa dạng hơn.

5.1. Tổng Kết Những Kết Quả Đạt Được và Hạn Chế Của Nghiên Cứu

Nghiên cứu này đã đạt được một số kết quả đáng khích lệ trong việc xây dựng hệ thống liên kết thực thể cho tiếng Việt. Hệ thống đã đạt được độ chính xác cao trên bộ dữ liệu thử nghiệm, cho thấy tiềm năng ứng dụng thực tế. Tuy nhiên, nghiên cứu vẫn còn một số hạn chế cần được khắc phục. Bộ dữ liệu đánh giá vẫn còn nhỏ và có thể chưa đại diện cho tất cả các loại văn bản tiếng Việt. Các mô hình được sử dụng trong hệ thống vẫn còn đơn giản và có thể chưa khai thác hết tiềm năng của deep learning.

5.2. Đề Xuất Các Hướng Nghiên Cứu Mới và Tiềm Năng Trong Tương Lai

Trong tương lai, có nhiều hướng nghiên cứu tiềm năng để cải thiện hệ thống liên kết thực thể cho tiếng Việt. Một hướng là sử dụng các mô hình deep learning tiên tiến hơn, chẳng hạn như Transformers hoặc các mô hình pre-trained trên dữ liệu tiếng Việt. Một hướng khác là khai thác thêm thông tin ngữ cảnh, chẳng hạn như các mối quan hệ giữa các thực thể hoặc các thông tin từ các nguồn tri thức khác. Ngoài ra, cần xây dựng các bộ dữ liệu đánh giá lớn hơn và đa dạng hơn để đánh giá hiệu quả của các hệ thống liên kết thực thể một cách toàn diện.

Nội dung chính

Tổng quan nghiên cứu

Trong bối cảnh dữ liệu văn bản và ngôn ngữ tự nhiên ngày càng gia tăng, việc trích xuất thông tin tự động trở thành một yếu tố then chốt trong việc hiểu và xử lý nội dung. Bài toán liên kết thực thể (Entity Linking) là một trong những thách thức quan trọng của lĩnh vực này, nhằm mục tiêu liên kết các đề cập thực thể trong văn bản với các thực thể tương ứng trong cơ sở tri thức. Mặc dù đã có nhiều nghiên cứu thành công trên các ngôn ngữ phổ biến như Anh, Pháp, Trung Quốc, tiếng Việt với hơn 50 triệu người sử dụng vẫn còn thiếu hụt các nghiên cứu chuyên sâu và bộ dữ liệu đánh giá công khai.

Luận văn tập trung nghiên cứu bài toán liên kết thực thể cho tiếng Việt, xây dựng hệ thống liên kết thực thể và phát triển bộ dữ liệu gán nhãn thủ công gồm 1620 mẫu đề cập thực thể. Hệ thống được đánh giá đạt độ chính xác 91.85% trên tập dữ liệu có thực thể liên kết chắc chắn và 84.01% trên toàn bộ dữ liệu, bao gồm cả đề cập không thể liên kết. Nghiên cứu có phạm vi thực hiện tại Việt Nam trong năm 2023-2024, với mục tiêu nâng cao hiệu quả trích xuất thông tin và hỗ trợ các ứng dụng xử lý ngôn ngữ tự nhiên cho tiếng Việt. Kết quả này góp phần quan trọng trong việc phát triển các công cụ xử lý ngôn ngữ tự nhiên, hỗ trợ tìm kiếm thông tin và ra quyết định dựa trên dữ liệu văn bản tiếng Việt.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn dựa trên các lý thuyết và mô hình nghiên cứu sau:

• Bài toán liên kết thực thể (Entity Linking): Xác định và liên kết đề cập thực thể trong văn bản với thực thể tương ứng trong cơ sở tri thức, hoặc gán nhãn NIL nếu không thể liên kết.
• Cơ sở tri thức (Knowledge Base): Wikipedia được sử dụng làm nguồn tri thức chính, với các thành phần như trang thực thể, hộp thông tin, trang đổi hướng, trang phân giải nhập nhằng, và các liên kết nội bộ.
• Biểu diễn từ trong xử lý ngôn ngữ tự nhiên: Áp dụng kỹ thuật nhúng từ truyền thống như Word2Vec, GloVe, FastText và kỹ thuật nhúng từ có ngữ cảnh như ELMo, BERT để biểu diễn ngữ nghĩa và ngữ cảnh của từ trong văn bản.
• Mô hình hệ thống liên kết thực thể: Bao gồm ba thành phần chính: đề xuất thực thể ứng viên, xếp hạng thực thể ứng viên và dự đoán đề cập không thể liên kết.
• Các kỹ thuật đề xuất ứng viên: Dựa trên từ điển tên, khai triển dạng bề mặt của đề cập thực thể, và sử dụng công cụ tìm kiếm.
• Kỹ thuật xếp hạng thực thể ứng viên: Sử dụng đặc trưng không phụ thuộc bối cảnh (so sánh chuỗi tên, độ phổ biến, loại thực thể) và đặc trưng phụ thuộc bối cảnh (ngữ cảnh văn bản, sự liên quan giữa các thực thể trong văn bản). Các phương pháp xếp hạng bao gồm học có giám sát (phân loại nhị phân, học xếp hạng, phương pháp đồ thị) và không giám sát (mô hình không gian véc-tơ).
• Dự đoán đề cập không thể liên kết: Áp dụng ngưỡng tương quan, phân loại nhị phân hoặc dựa trên số lượng thực thể ứng viên.

Phương pháp nghiên cứu

• Nguồn dữ liệu: Bộ dữ liệu tiếng Việt tự xây dựng gồm 1620 mẫu đề cập thực thể được gán nhãn thủ công, phục vụ đánh giá hệ thống.
• Phương pháp phân tích: Kết hợp kỹ thuật xử lý ngôn ngữ tự nhiên, học máy và học sâu để xây dựng hệ thống liên kết thực thể. Sử dụng các mô hình nhúng từ như PhoBERT, XLM-RoBERTa để biểu diễn ngữ cảnh.
• Chọn mẫu: Bộ dữ liệu được xây dựng từ các văn bản tiếng Việt đa dạng, đảm bảo tính đại diện cho các loại thực thể và ngữ cảnh khác nhau.
• Timeline nghiên cứu: Nghiên cứu được thực hiện trong năm 2023-2024, bao gồm khảo sát tài liệu, xây dựng bộ dữ liệu, phát triển hệ thống và đánh giá kết quả.
• Đánh giá: Sử dụng độ chính xác top-1 (Acc@1) làm chỉ số chính để đánh giá hiệu quả hệ thống trên bộ dữ liệu đã xây dựng.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Hiệu quả hệ thống liên kết thực thể: Hệ thống đạt độ chính xác 91.85% trên tập dữ liệu chỉ gồm các đề cập chắc chắn có thực thể liên kết, và 84.01% trên toàn bộ dữ liệu bao gồm cả đề cập không thể liên kết. Đây là kết quả bước đầu rất khả quan so với các nghiên cứu trước đây cho tiếng Việt.
2. Tác động của bộ dữ liệu gán nhãn thủ công: Việc xây dựng bộ dữ liệu 1620 mẫu đã giúp đánh giá chính xác và cải thiện mô hình, đồng thời cung cấp nguồn dữ liệu huấn luyện cho các mô hình học máy.
3. Tính đa dạng của tên thực thể: Phân tích cho thấy sự đa dạng lớn về biến thể tên gọi trong tiếng Việt, như biệt danh, tên viết tắt, tên cũ, gây khó khăn cho việc đề xuất thực thể ứng viên.
4. Vai trò của đặc trưng phụ thuộc bối cảnh: Sử dụng biểu diễn từ có ngữ cảnh như BERT giúp cải thiện đáng kể độ chính xác xếp hạng thực thể ứng viên so với các kỹ thuật nhúng từ truyền thống.

Thảo luận kết quả

Kết quả đạt được phản ánh sự phù hợp của mô hình và phương pháp nghiên cứu với đặc thù ngôn ngữ tiếng Việt. Độ chính xác trên 90% trong trường hợp đề cập chắc chắn có thực thể liên kết cho thấy hệ thống có khả năng nhận diện và liên kết chính xác trong điều kiện lý tưởng. Tuy nhiên, khi mở rộng ra toàn bộ dữ liệu, độ chính xác giảm còn 84.01% do sự xuất hiện của các đề cập không thể liên kết, thể hiện thách thức trong việc dự đoán nhãn NIL.

So sánh với các nghiên cứu quốc tế, kết quả này tương đối cạnh tranh, đặc biệt trong bối cảnh thiếu hụt bộ dữ liệu và công cụ hỗ trợ cho tiếng Việt. Việc sử dụng Wikipedia làm cơ sở tri thức chính giúp tận dụng nguồn tri thức phong phú và cập nhật liên tục, tuy nhiên vẫn còn hạn chế về phạm vi và độ bao phủ thực thể.

Việc áp dụng kỹ thuật nhúng từ có ngữ cảnh như PhoBERT và XLM-RoBERTa đã chứng minh hiệu quả trong việc nắm bắt ngữ nghĩa và ngữ cảnh phức tạp của tiếng Việt, góp phần nâng cao chất lượng xếp hạng thực thể ứng viên. Các biểu đồ so sánh độ chính xác giữa các mô hình nhúng từ truyền thống và có ngữ cảnh có thể minh họa rõ ràng sự cải thiện này.

Tuy nhiên, thách thức về tính đa nghĩa, sự đa dạng trong cách đặt tên và đề cập thực thể vẫn còn tồn tại, đòi hỏi nghiên cứu tiếp tục phát triển các kỹ thuật mở rộng dạng bề mặt và dự đoán đề cập không thể liên kết hiệu quả hơn.

Đề xuất và khuyến nghị

1. Phát triển bộ dữ liệu mở rộng: Tiếp tục xây dựng và công bố bộ dữ liệu gán nhãn thủ công với quy mô lớn hơn, đa dạng hơn về lĩnh vực và loại thực thể nhằm nâng cao chất lượng huấn luyện và đánh giá hệ thống. Thời gian thực hiện trong 1-2 năm, chủ thể là các nhóm nghiên cứu và trường đại học.
2. Tích hợp kỹ thuật nhúng từ có ngữ cảnh mới: Áp dụng các mô hình ngôn ngữ tiên tiến hơn như mT5, GPT-4 để cải thiện khả năng hiểu ngữ cảnh và xử lý đa nghĩa, hướng tới tăng độ chính xác xếp hạng thực thể ứng viên. Thời gian triển khai 6-12 tháng, do các nhóm phát triển AI và NLP thực hiện.
3. Phát triển thành phần dự đoán đề cập không thể liên kết: Nâng cao khả năng nhận diện và xử lý các đề cập không có thực thể tương ứng trong cơ sở tri thức, giảm thiểu sai sót trong liên kết. Có thể áp dụng kỹ thuật học sâu kết hợp với ngưỡng tương quan động. Thời gian 6 tháng, do nhóm phát triển hệ thống đảm nhận.
4. Mở rộng và cập nhật cơ sở tri thức: Kết hợp thêm các nguồn tri thức khác như Wikidata, các cơ sở dữ liệu chuyên ngành để tăng độ bao phủ thực thể, đặc biệt cho các lĩnh vực chuyên sâu. Chủ thể là các tổ chức phát triển dữ liệu mở, thời gian liên tục cập nhật.
5. Tăng cường hợp tác nghiên cứu và ứng dụng: Khuyến khích hợp tác giữa các viện nghiên cứu, doanh nghiệp công nghệ và các tổ chức giáo dục để phát triển các ứng dụng thực tiễn dựa trên hệ thống liên kết thực thể, như công cụ tìm kiếm, trợ lý ảo, phân tích dữ liệu. Thời gian dài hạn, liên tục phát triển.

Đối tượng nên tham khảo luận văn

1. Nhà nghiên cứu và sinh viên ngành Khoa học dữ liệu, Xử lý ngôn ngữ tự nhiên: Luận văn cung cấp kiến thức nền tảng, phương pháp và bộ dữ liệu thực nghiệm quý giá để phát triển các nghiên cứu tiếp theo về liên kết thực thể cho tiếng Việt.
2. Các công ty công nghệ phát triển sản phẩm AI và NLP: Hệ thống và kỹ thuật được trình bày có thể ứng dụng trong xây dựng các công cụ tìm kiếm, chatbot, trợ lý ảo, giúp cải thiện khả năng hiểu và xử lý ngôn ngữ tiếng Việt.
3. Cơ quan quản lý và tổ chức giáo dục: Tham khảo để phát triển các chương trình đào tạo, chính sách hỗ trợ nghiên cứu và ứng dụng công nghệ xử lý ngôn ngữ tự nhiên trong nước.
4. Nhà phát triển phần mềm và kỹ sư dữ liệu: Áp dụng các kỹ thuật và mô hình được đề xuất để xây dựng hệ thống trích xuất thông tin, phân tích dữ liệu văn bản tiếng Việt trong các lĩnh vực như báo chí, y tế, thương mại điện tử.

Câu hỏi thường gặp

1. Liên kết thực thể là gì và tại sao quan trọng?
   Liên kết thực thể là quá trình xác định và kết nối các đề cập thực thể trong văn bản với thực thể tương ứng trong cơ sở tri thức. Nó giúp máy tính hiểu rõ nội dung, hỗ trợ tìm kiếm và ra quyết định chính xác hơn.

2. Tại sao tiếng Việt gặp khó khăn trong liên kết thực thể?
   Tiếng Việt có nhiều biến thể tên gọi, đa nghĩa, và thiếu bộ dữ liệu đánh giá công khai. Ngoài ra, cấu trúc ngôn ngữ và cách đặt tên không đồng nhất gây khó khăn cho việc đề xuất và xếp hạng thực thể ứng viên.

3. Bộ dữ liệu tiếng Việt được xây dựng như thế nào?
   Bộ dữ liệu gồm 1620 mẫu đề cập thực thể được gán nhãn thủ công, thu thập từ các văn bản đa dạng, nhằm phục vụ đánh giá và huấn luyện hệ thống liên kết thực thể.

4. Các kỹ thuật nhúng từ có ngữ cảnh giúp gì cho bài toán?
   Nhúng từ có ngữ cảnh như BERT giúp biểu diễn từ dựa trên ngữ cảnh xuất hiện, cải thiện khả năng phân biệt nghĩa và tăng độ chính xác trong xếp hạng thực thể ứng viên.

5. Hệ thống xử lý đề cập không thể liên kết như thế nào?
   Hệ thống sử dụng ngưỡng tương quan hoặc mô hình phân loại nhị phân để nhận diện đề cập không có thực thể tương ứng trong cơ sở tri thức, trả về nhãn NIL nhằm tránh sai sót liên kết.

Kết luận

• Luận văn đã xây dựng thành công hệ thống liên kết thực thể cho tiếng Việt với độ chính xác đạt 91.85% trên tập dữ liệu có thực thể liên kết chắc chắn.
• Bộ dữ liệu gán nhãn thủ công gồm 1620 mẫu được phát triển, đóng vai trò quan trọng trong đánh giá và huấn luyện mô hình.
• Áp dụng kỹ thuật nhúng từ có ngữ cảnh giúp cải thiện hiệu quả xếp hạng thực thể ứng viên so với các phương pháp truyền thống.
• Nghiên cứu góp phần thu hẹp khoảng cách về công nghệ xử lý ngôn ngữ tự nhiên cho tiếng Việt so với các ngôn ngữ phổ biến khác.
• Đề xuất các hướng phát triển tiếp theo bao gồm mở rộng bộ dữ liệu, tích hợp mô hình ngôn ngữ tiên tiến và nâng cao dự đoán đề cập không thể liên kết.

Khuyến khích các nhà nghiên cứu và doanh nghiệp ứng dụng kết quả này để phát triển các sản phẩm và dịch vụ xử lý ngôn ngữ tiếng Việt, đồng thời tiếp tục mở rộng nghiên cứu nhằm nâng cao chất lượng và phạm vi ứng dụng.

Trích đoạn nội dung tài liệu

Chương 1 Kiến thức cơ sở Trong chương này, luận văn sẽ phát biểu bài toán liên kết thực thể và các khái niệm liên quan. Cơ sở tri thức sẽ được trình bày trong mục 1. Tiếp đó, luận văn sẽ giới thiệu một số cơ sở tri thức phổ biến và đặc biệt là Wikipedia, một cơ sở tri thức được sử dụng rộng rãi. Phần cuối chương tập trung vào mô hình biểu diễn từ trong xử lý ngôn ngữ tự nhiên.1 Bài toán liên kết thực thể Bài toán liên kết thực thể (Entity Linking), hay còn được gọi là phân biệt định danh thực thể (Named Entity Disambiguation) là một bài toán quan trọng trong lĩnh vực hiểu ngữ nghĩa văn bản.

Bài toán này có mục tiêu là xác định và kết nối các thực thể được đề cập trong văn bản (hay còn gọi là đề cập thực thể — Entity mention) với các thực thể cụ thể trong cơ sở tri thức (Knowledge Base). Bài toán này có thể được phát biểu hình thức như sau: Cho hệ cơ sở tri thức (Knowledge base) chứa một tập hợp các thực thể E và một văn bản chứa một tập hợp đề cập thực thể (Named entity mentions) M. Nhiệm vụ của một hệ thống liên kết thực thể là với một đề cập thực thể m ∈ M được xác định trước, hệ thống cần ánh xạ m tới thực thể tương ứng e ∈ E. Bên cạnh đó, tồn tại khả năng một số đề cập thực thể m không liên quan tới bất kỳ thực thể nào trong hệ cơ sở tri thức.

4 Đề cập thực thể đó được xác định là đề cập không thể liên kết (Unlinkable mention) và gán nhãn NIL. Dữ liệu vào ra trong bài toán liên kết thực thể bao gồm: • Dữ liệu đầu vào (Input): là một đoạn văn bản, trong đó chứa tập hợp các đề cập thực thể M. • Dữ liệu kết quả (Output): là một biểu diễn của thực thể e ∈ E tương ứng với đề cập hoặc NIL với trường hợp đề cập không thể liên kết. Ví dụ với đề cập thực thể là Nga trong văn bản đầu vào là "Quân đội Ukraine thống kê, chỉ trong vòng 24 giờ qua, phía Nga đã mất ít nhất 21 xe tăng, 23 xe chiến đấu bọc thép và 8 khẩu pháo trong các cuộc giao tranh ở nước láng giềng.

Hệ thống sẽ trả về liên kết tới nhà nước Liên bang Nga1 trên Wikipedia. Để đánh giá độ chính xác của một hệ thống liên kết thực thể, các nhà nghiên cứu sử dụng độ chính xác top 1 (top-1 accuracy — Acc@1). Việc giải quyết được bài toán liên kết thực thể mang lại nhiều lợi ích quan trọng, trong số đó có thể kể tới: • Giúp máy tính hiểu được nội dung văn bản: Bằng cách liên kết thực thể, máy tính có thể hiểu rõ về nội dung cũng như ngữ cảnh của văn bản. Điều này giúp ích cho việc trích xuất thông tin, tổ chức dữ liệu hay tạo ra một biểu đồ tri thức từ văn bản.

• Tạo mối liên hệ giữa dữ liệu văn bản và tri thức bên ngoài: Bài toán này giúp xây dựng cầu nối giữa thông tin trong văn bản và tri thức bên ngoài như Wikipedia, Wikidata hay các nguồn tri thức khác. • Kiểm tra tính chính xác của văn bản: Khi mối liên hệ giữa dữ liệu văn bản với tri thức bên ngoài được hình thành, máy tính có thể kiểm tra thông tin trong văn bản có chính xác hay không. Nếu không, máy tính có thể đưa ra lý do bằng cách cung cấp nguồn tri thức có độ tin cậy cao.org/wiki/Nga 5 Bài toán liên kết thực thể đã sớm được đề cập và tìm hiểu một cách sâu rộng trên phạm vi toàn cầu, với những thành công đáng kể trong việc xử lý ngôn ngữ Anh, Pháp và Trung Quốc. Tuy nhiên, dù tiếng Việt thuộc nhóm ngôn ngữ có lượng người sử dụng lớn, với hơn 50 triệu người hàng ngày, sự quan tâm đối với bài toán này trong ngôn ngữ này vẫn còn hạn chế, và kết quả nghiên cứu chưa thật sự mang lại giá trị áp dụng thực tiễn.

Do đó, luận văn này quyết tâm khám phá và làm sáng tỏ vấn đề liên kết thực thể đối với tiếng Việt.2 Cơ sở tri thức Một cơ sở tri thức (Knowledge base — KB) [1] hay còn được gọi là đồ thị tri thức (Knowledge graph) là một kho tri thức về thế giới thực được lưu trữ và truy xuất bởi máy tính. Một cơ sở tri thức bao gồm các thông tin của các thực thể (Entity) (Ví dụ: tổ chức, người, địa điểm, .) và thông tin về mối quan hệ giữa các thực thể đó (Ví dụ: thực thể A là nơi sinh của thực thể B hay thực thể C là người sáng lập của thực thể D,. Cơ sở tri thức là nền tảng trong các ứng dụng như công cụ tìm kiếm (Search engine), trả lời câu hỏi (Question answering) và nhiều ứng dụng trong xử lý ngôn ngữ tự nhiên hay trí tuệ nhân tạo khác. Trong lĩnh vực công nghiệp, nhiều tập đoàn lớn như Amazon, Google, Microsoft, Alibaba, Tencent,.

đang tự xây dựng và sử dụng hệ cơ sở tri thức riêng và coi đó như một tài sản trí tuệ quan trọng. Cơ sở tri thức là một thành phần cơ bản trong bài toán liên kết thực thể. Nó cung cấp thông tin về các thực thể (Ví dụ: Hồ Chí Minh, Thành phố Hồ Chí Minh) đi kèm theo là phân loại ngữ nghĩa của thực thể đó (Ví dụ: Hồ Chí Minh thuộc nhóm Anh hùng dân tộc Việt Nam, Đảng viên Đảng Cộng sản Việt Nam, Lãnh tụ cộng sản,. Trong khi Thành phố Hồ Chí Minh thuộc nhóm thành phố của Việt Nam, Đông Nam Bộ,.

Một số cơ sở tri thức còn cung cấp thông tin về mối quan hệ giữa các thực thể (Ví dụ: Thành phố Hồ Chí Minh được đặt theo tên Chủ tịch Hồ Chí Minh - Chủ tịch nước đầu tên của Việt Nam Dân chủ Cộng Hòa) Dưới đây là một số cơ sở tri thức được sử dụng phổ biến [2]: 6 • Wikipedia: Wikipedia là một bách khoa toàn thư mở, đa ngôn ngữ mà mọi người đều có thể tham gia đóng góp. Cơ sở tri thức này bắt đầu được đưa vào hoạt động từ năm 2001 bởi Jimmy Wales và Larry Sanger, khởi đầu với phiên bản tiếng Anh. Cho tới tháng 3/2023, Wikipedia đã có hơn 300 phiên bản ngôn ngữ với tổng cộng hơn 60 triệu bài viết2 ( trong đó, Tiếng Việt chiếm tới 1. Theo thống kê năm 2020 của Alexa4 , Wikipedia là một trong 14 trang web phổ biến nhất thế giới.

Wikipedia khuyến khích cộng đồng đóng góp, bổ sung nhằm làm phong phú nội dung. Các bài viết trên Wikipedia được sửa đổi và cập nhật liên tục. Các thay đổi này sẽ được ghi lại và theo dõi bởi đội ngũ quản trị nhằm tránh sự phá hoại. Dưới góc nhìn là một cơ sở tri thức, Wikipedia được đánh giá là có độ bao phủ các thực thể lớn và chứa một lượng thông tin khổng lồ về các thực thể.

Bên cạnh đó, cấu trúc của Wikipedia còn cung cấp một loạt các đặc trưng hữu dụng cho việc liên kết thực thể ví dụ như trang thực thể (Entity page), thể loại (Article category), trang điều hướng (Redirect page), trang làm rõ (Disambiguation pages),. • YAGO: YAGO [3] xuất phát là một trong những dự án học thuật của Viện Tin học Max Planck ở Đức, đây cũng là một nguồn tri thức lớn và phổ biến trong cộng đồng nghiên cứu trí tuệ nhân tạo. Ý tưởng chính của YAGO là thu thập thông tin về các thực thể và quan hệ giữa các thực thể một cách tự động, sau đó tổ chức lại dưới những cấu trúc chặt chẽ. Tri thức bên trong YAGO được thu thập kết hợp giữa bách khoa toàn thư Wikipedia và kho từ vựng trực tuyến WordNet.

Mặc dù YAGO là một cơ sở dữ liệu đa ngôn ngữ, nhưng khả năng hỗ trợ giữa các ngôn ngữ là không đồng đều (tiếng Anh được hỗ trợ chủ yếu). Bên cạnh đó, do tổng hợp lại tri thức một cách thứ cấp từ Wikipedia, số lượng thực thể của YAGO còn hạn chế (khoảng 50 triệu5 , trong khi Wikipedia là 60 triệu6 ).org/wiki/List_of_Wikipedia 3 https://vi.org/ 4 https://web.org/web/20200825070245/https://www.com/siteinfo/ wikipedia.org 5 https://yago-knowledge.org/getting-started 6 https://meta.org/wiki/List_of_Wikipedias 7 • DBpedia: DBpedia [4] được biết tới là một dự án mã nguồn mở phát triển với mục tiêu phục vụ cộng đồng. Cũng giống như YAGO, mục tiêu của dự án này là chuyển đổi tri thức từ bách khoa toàn thư Wikipedia thành một nguồn dữ liệu có cấu trúc chặt chẽ hơn. Do được xây dựng theo mô hình dữ liệu RDF (Resource Description Framework), DBpedia đã gây ấn tượng mạnh bằng việc có thể trả lời những truy vấn phức tạp mà Wikipedia không thể giải quyết như: Tìm tất cả các dòng sông chảy vào sông Rai nơ (Rhine) có độ dài lớn hơn 100 dặm, hay tìm tất cả các nhạc soạn nhạc người Ý sinh vào thế kỷ 18.

Thống kê cho tới năm 2023, DBpedia đã trích xuất tri thức từ 140 ngôn ngữ7. Đặc biệt với tiếng Anh, DBpedia đã trích xuất hơn 4.58 triệu thực thể (so với 6.63 triệu bài viết trên Wikipedia8 ). Tuy nhiên đối với các ngôn ngữ khác nói chung và tiếng Việt nói riêng, con số này còn khá khiêm tốn. Mặc dù vậy, do tính chất là dự án mã nguồn mở và được sự quan tâm của cộng đồng nghiên cứu, DBpedia vẫn mang lại nhiều hứa hẹn về ứng dụng rộng rãi trong tương lai.

• Freebase: Freebase [5] là hệ thống cơ sở dữ liệu trực tuyến được thiết kế để trở thành một bách khoa toàn thư kiến thức về thế giới, trong khi các kiến thức được tổng quan, dễ dàng mở rộng, các thực thể được chuẩn hóa rõ ràng. Dữ liệu tri thức của Freebase được thu thập và kết hợp từ Wikipedia và một số nguồn thông tin khác để đảm bảo tính tổng quan. Bên cạnh đó, Freebase tổ chức dữ liệu dưới dạng đồ thị tri thức, trong đó các thực thể và mối quan hệ giữa chúng được biểu diễn dưới dạng RDF. Google đã tiếp quản dự án Freebase từ năm 2010 với mục đích sử dụng Freebase làm tài nguyên đầu vào cho dự án Google Knowledge Graph [6].

Mặc dù Freebase đã ngừng phát triển từ 2015 nhưng với kho dữ liệu đồ sộ bao gồm 43 triệu thực thể [2], Freebase vẫn là một cơ sở tri thức được cộng đồng nghiên cứu sử dụng phổ biến. Ngoài các cơ sở tri thức đã đề cập trên, còn có nhiều đại diện khác như BabelNet [7], 7 https://www.org/resources/knowledge-graphs/ 8 https://meta.org/wiki/List_of_Wikipedias 8 NELL [8], KnowItAll [9], Wikidata [10] .