Luận văn thạc sĩ: Dịch cây truy vấn tiếng Anh sang đồ thị ý niệm trong khoa học máy tính

Khám phá luận văn thạc sĩ về dịch cây truy vấn tiếng Anh sang đồ thị ý niệm, tập trung vào tính từ và liên từ luận lý trong khoa học máy tính.

• Tác giả: Mai Hoàng Anh
• Người hướng dẫn: PGS. Cao Hoàng Trụ
• Trường học: Đại học Bách Khoa
• Chuyên ngành: Khoa học máy tính
• Đề tài: Nghiên cứu dịch cây truy vấn tiếng Anh sang đồ thị ý niệm trong khoa học máy tính
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2009
• Địa điểm: TP. Hồ Chí Minh

Mục lục chi tiết

• LỜI CẢM ƠN
• TÓM TẮT
• 1. CHƯƠNG 1: GIỚI THIỆU
• 1.1. Tổng quan
• 1.2. Mục tiêu và phạm vi
• 1.3. Cấu trúc luận văn
• 2. CHƯƠNG 2: CÁC NGHIÊN CỨU VÀ HỆ THỐNG LIÊN QUAN
• 2.1. Rút trích quan hệ
• 2.2. Sơ lược về đồ thị ý niệm
• 2.2.1. Đồ thị ý niệm mở rộng
• 2.2.2. Các phương pháp chuyển đổi câu truy vấn sang đồ thị ý niệm
• 3. CHƯƠNG 3: PHƯƠNG PHÁP TIẾP CẬN
• 3.1. Chuyển đổi câu truy vấn với từ để hỏi “How many”
• 3.2. Chuyển đổi câu truy vấn có tính từ
• 3.3. Chuyển đổi câu truy vấn có tính từ so sánh nhất
• 3.4. Chuyển đổi câu truy vấn có liên từ luận lý
• 4. CHƯƠNG 4: PHƯƠNG PHÁP BIÊN DỊCH
• 4.1. Các bước của giải thuật
• 4.1.1. Phân tách câu truy vấn
• 4.1.2. Nhận biết thực thể có tên
• 4.1.3. Nhận biết thực thể không tên
• 4.1.4. Nhận biết tính từ
• 4.1.5. Nhận biết từ quan hệ
• 4.1.6. Xác định lớp của thực thể
• 4.1.7. Gom các thực thể
• 4.1.8. Xác định quan hệ ẩn
• 4.1.9. Xác định loại quan hệ giữa các thực thể
• 4.1.10. Xoá bỏ quan hệ không phù hợp
• 4.1.11. Xác định quan hệ giữa tính từ và thực thể
• 4.1.12. Xây dựng đồ thị ý niệm
• 4.2. Tập luật ánh xạ
• 4.2.1. Cấu trúc của hệ thống luật
• 4.2.2. Cấu trúc thành phần điều kiện của luật
• 4.2.3. Cấu trúc thành phần hành động của luật
• 4.2.4. Xây dựng một số luật đặc biệt
• 4.2.5. Xây dựng từ điển luật
• 4.3. Kết quả thí nghiệm
• 5. CHƯƠNG 5: ĐỒ THỊ Ý NIỆM
• 5.1. Lưu trữ đồ thị
• 5.2. Hiển thị đồ thị
• 6. CHƯƠNG 6: KẾT LUẬN
• TÀI LIỆU THAM KHẢO
• PHỤ LỤC A: TẬP CÂU MẪU TREC 2002
• PHỤ LỤC B: TẬP CÂU MẪU TREC 2007
• PHỤ LỤC C: NHỮNG CÂU TRUY VẤN TRONG TREC 2002 ĐƯỢC GIẢI QUYẾT THÊM KHI ÁP DỤNG PHƯƠNG PHÁP CỦA ĐỀ TÀI
• PHỤ LỤC D: NHỮNG CÂU TRUY VẤN TRONG TREC 2007 ĐƯỢC GIẢI QUYẾT THÊM KHI ÁP DỤNG PHƯƠNG PHÁP CỦA ĐỀ TÀI
• DANH MỤC HÌNH
• DANH MỤC BẢNG

Tóm tắt

I. Giới thiệu

Nghiên cứu về dịch cây truy vấn tiếng Anh sang đồ thị ý niệm trong khoa học máy tính là một lĩnh vực đang thu hút sự quan tâm lớn. Sự phát triển của công nghệ thông tin và hệ thống thông tin đã tạo ra nhu cầu cần thiết cho việc cải thiện khả năng tìm kiếm và truy vấn thông tin. Mặc dù các hệ thống tìm kiếm hiện tại như Google đã rất phổ biến, nhưng chúng vẫn gặp khó khăn trong việc hiểu và xử lý ngữ nghĩa của các truy vấn. Điều này dẫn đến việc kết quả tìm kiếm không chính xác và không đáp ứng được mong đợi của người dùng. Do đó, việc phát triển một hệ thống có khả năng hiểu và xử lý ngữ nghĩa của thông tin là rất cần thiết.

1.1 Mục tiêu và phạm vi

Mục tiêu của nghiên cứu này là xây dựng một phương pháp dịch câu truy vấn sang đồ thị ý niệm mà không phụ thuộc vào phân tích cú pháp. Phương pháp này sẽ giúp cải thiện khả năng tìm kiếm thông tin bằng cách sử dụng ngôn ngữ tự nhiên để tạo ra các truy vấn chính xác hơn. Nghiên cứu sẽ tập trung vào việc xử lý các câu truy vấn có chứa từ để hỏi, tính từ và liên từ luận lý. Việc áp dụng khoa học máy tính trong lĩnh vực này không chỉ giúp nâng cao hiệu quả tìm kiếm mà còn mở ra hướng đi mới cho việc phát triển các ứng dụng trí tuệ nhân tạo trong tương lai.

II. Các nghiên cứu và hệ thống liên quan

Trong lĩnh vực nghiên cứu ngôn ngữ tự nhiên, việc rút trích quan hệ là một trong những vấn đề quan trọng. Các phương pháp hiện tại chủ yếu dựa vào việc phân tích cú pháp để xác định mối quan hệ giữa các thực thể. Tuy nhiên, phương pháp này có nhiều hạn chế, đặc biệt là khi xử lý các câu truy vấn không chính xác về ngữ pháp. Nghiên cứu này sẽ đề xuất một phương pháp mới, sử dụng Ontology để xác định các thực thể và mối quan hệ giữa chúng mà không cần phải phân tích cú pháp. Điều này sẽ giúp cải thiện khả năng xử lý các câu truy vấn yếu văn phạm và mở rộng khả năng của đồ thị ý niệm trong việc biểu diễn các mối quan hệ phức tạp.

2.1 Rút trích quan hệ

Rút trích quan hệ là quá trình xác định mối quan hệ giữa các thành phần trong văn bản. Các phương pháp hiện tại thường gặp khó khăn trong việc xử lý các thực thể không tên và các mối quan hệ phức tạp. Nghiên cứu này sẽ áp dụng các kỹ thuật rút trích quan hệ để xây dựng đồ thị ý niệm, từ đó cải thiện khả năng tìm kiếm thông tin. Việc sử dụng Ontology sẽ giúp xác định các thực thể và mối quan hệ một cách chính xác hơn, từ đó tạo ra các truy vấn có ngữ nghĩa rõ ràng hơn.

III. Phương pháp tiếp cận

Phương pháp nghiên cứu sẽ bao gồm việc chuyển đổi các câu truy vấn từ ngôn ngữ tự nhiên sang đồ thị ý niệm. Các bước chính trong quy trình này bao gồm phân tách câu truy vấn, nhận biết thực thể có tên và không tên, xác định các mối quan hệ giữa các thực thể, và xây dựng đồ thị ý niệm. Phương pháp này sẽ giúp cải thiện khả năng tìm kiếm thông tin bằng cách tạo ra các truy vấn chính xác hơn và dễ hiểu hơn cho máy tính. Việc áp dụng các thuật toán máy học sẽ giúp tối ưu hóa quy trình này, từ đó nâng cao hiệu quả của hệ thống.

3.1 Chuyển đổi câu truy vấn

Quá trình chuyển đổi câu truy vấn sẽ được thực hiện thông qua việc nhận diện các thành phần ngữ nghĩa trong câu. Các câu truy vấn sẽ được phân loại theo các tiêu chí như từ để hỏi, tính từ và liên từ luận lý. Việc này không chỉ giúp xác định cấu trúc của câu mà còn giúp máy tính hiểu được ngữ nghĩa của câu truy vấn. Kết quả của quá trình này sẽ là một đồ thị ý niệm có thể được sử dụng để thực hiện các truy vấn trên Ontology.

IV. Kết quả và ứng dụng

Kết quả của nghiên cứu sẽ được đánh giá dựa trên các tập dữ liệu chuẩn như TREC 2002 và TREC 2007. Việc áp dụng phương pháp mới sẽ giúp cải thiện độ chính xác của các truy vấn và giảm thiểu số lượng kết quả không liên quan. Điều này không chỉ có giá trị trong lĩnh vực khoa học máy tính mà còn có thể được áp dụng trong nhiều lĩnh vực khác như khai thác dữ liệu và trí tuệ nhân tạo. Hệ thống được phát triển sẽ có khả năng hỗ trợ người dùng trong việc tìm kiếm thông tin một cách hiệu quả hơn.

4.1 Ứng dụng thực tiễn

Phương pháp nghiên cứu này có thể được áp dụng trong nhiều lĩnh vực khác nhau, từ tìm kiếm thông tin trên web đến phát triển các ứng dụng trí tuệ nhân tạo. Việc cải thiện khả năng tìm kiếm thông tin sẽ giúp người dùng tiết kiệm thời gian và nâng cao hiệu quả công việc. Hệ thống cũng có thể được mở rộng để hỗ trợ nhiều ngôn ngữ khác nhau, từ đó tạo ra một công cụ tìm kiếm đa ngôn ngữ mạnh mẽ.

Nội dung chính

Tổng quan nghiên cứu

Trong kỷ nguyên bùng nổ thông tin số, khối lượng dữ liệu khổng lồ trên mạng Internet đang tạo ra thách thức lớn đối với khả năng xử lý của con người. Các công cụ tìm kiếm truyền thống chủ yếu dựa vào việc đối sánh từ khóa bề mặt, khiến hàng triệu kết quả trả về bị loãng và thiếu tính chính xác về mặt ngữ nghĩa. Nhằm khắc phục hạn chế này, ý tưởng Web ngữ nghĩa ra đời nhằm giúp máy tính có thể hiểu, suy luận và xử lý thông tin tự động tương tự tư duy con người. Trong các giao diện tương tác người - máy, việc cho phép người dùng đặt câu hỏi bằng ngôn ngữ tự nhiên đầy đủ được đánh giá là hình thức thuận tiện và hiệu quả nhất.

Mục tiêu trọng tâm của nghiên cứu là xây dựng giải pháp tự động chuyển đổi câu truy vấn tiếng Anh phức tạp sang biểu diễn đồ thị ý niệm mà không phụ thuộc vào việc phân tích cú pháp chặt chẽ. Đề tài tập trung xử lý bốn nhóm câu hỏi chuyên sâu bao gồm: câu hỏi số lượng với từ để hỏi "How many", câu hỏi chứa tính từ định tính và định lượng, câu hỏi chứa tính từ so sánh nhất, và câu hỏi có cấu trúc liên từ luận lý song song. Nghiên cứu được triển khai tại Đại học Bách Khoa - Đại học Quốc gia Thành phố Hồ Chí Minh, sử dụng tập dữ liệu chuẩn mực gồm 440 câu hỏi trích từ hội nghị quốc tế TREC 2002 và tập mẫu TREC 2007.

Ý nghĩa khoa học của nghiên cứu thể hiện qua việc tạo ra một cơ chế chuyển dịch trung gian tráng kiện trước các lỗi văn phạm thực tế. Giải pháp đề xuất giúp nâng cao tỷ lệ dịch chính xác các mẫu câu phức tạp lên 44,57% trên tập thử nghiệm khó, đóng góp giải pháp kỹ thuật trực tiếp cho các hệ thống trả lời câu hỏi tự động và công cụ tìm kiếm thế hệ mới.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng trên nền tảng vững chắc của ba trụ cột lý thuyết trong trí tuệ nhân tạo và xử lý ngôn ngữ tự nhiên:

• Lý thuyết Đồ thị Ý niệm (Conceptual Graphs - CG): Được đề xuất bởi John F. Sowa, đồ thị ý niệm là một hệ thống logic hình thức dựa trên đồ thị phân đôi hai thành phần gồm đỉnh khái niệm (concept node) và đỉnh quan hệ (conceptual relation node). Ngôn ngữ này sở hữu tính biểu diễn trực quan cao, có khả năng ánh xạ chặt chẽ với ngữ nghĩa học của ngôn ngữ tự nhiên và chuyển đổi thuận lợi sang các ngôn ngữ truy vấn ngữ nghĩa như SeRQL hay SPARQL.
• Mô hình Đồ thị Ý niệm mở rộng: Tích hợp kỹ thuật trừu tượng hóa bản thể (Hypostatic Abstraction) và đỉnh truy vấn con (Sub-query vertex). Kỹ thuật này cho phép lồng ghép các đồ thị ý niệm vào nhau nhằm thể hiện phạm vi ảnh hưởng của các tác vụ gom nhóm dữ liệu (COUNT), giá trị cực trị (MIN, MAX) và các phép toán tập hợp luận lý (INTERSECT, UNION, MINUS).
• Kiến trúc Bản thể học (Ontology) PROTON: Hệ thống tri thức miền được phát triển trên nền tảng KIM, đóng vai trò cung cấp phân cấp khái niệm, nhận dạng thực thể và thiết lập các ràng buộc quan hệ ngữ nghĩa hợp lệ giữa các lớp đối tượng.

Nghiên cứu chuẩn hóa 5 khái niệm cốt lõi: Thực thể có tên (Named Entity - IE), Thực thể không tên (Unnamed Entity - UE), Từ quan hệ (Relational Word - RW), Bộ ba truy vấn ngữ nghĩa, và Đồ thị ý niệm lồng nhau (Nested CG).

Phương pháp nghiên cứu

Nguồn dữ liệu thực nghiệm được trích xuất từ Question Answering Track của TREC 2002 với tổng quy mô mẫu là 440 câu hỏi tự nhiên về thực thể có tên. Tập mẫu được phân loại chi tiết theo từ để hỏi: 201 câu "What", 67 câu "Who", 62 câu "Where", 45 câu "When", 38 câu "How", 3 câu "Which" và 24 câu không bắt đầu bằng từ để hỏi. Trong đó, một tập con gồm 92 câu hỏi phức tạp chưa từng được giải quyết bởi các mô hình trước đây được lựa chọn làm tập thử nghiệm trọng điểm. Phương pháp chọn mẫu có chủ đích được áp dụng nhằm đánh giá độ tráng kiện của mô hình trước các hiện tượng ngôn ngữ đặc biệt.

Quy trình phân tích áp dụng giải thuật xử lý 12 bước dựa trên tri thức miền thay vì phân tích cây cú pháp:

1. Phân tách câu truy vấn chứa liên từ luận lý thành các câu nguyên tử.
2. Nhận biết thực thể có tên thông qua công cụ GATE trên nền Ontology PROTON.
3. Nhận biết thực thể không tên bằng mô-đun ANNIE và từ điển chỉ mục.
4. Nhận biết tính từ định tính, định lượng và so sánh nhất.
5. Nhận biết từ quan hệ (giới từ, động từ).
6. Xác định lớp thực thể cho các đại từ nghi vấn (What, Who, Where).
7. Gom cụm các thực thể đồng tham chiếu qua luật Heuristic.
8. Khám phá quan hệ ngữ nghĩa ẩn giữa các thực thể đứng liền kề.
9. Xác định loại quan hệ giữa các cặp thực thể qua lược đồ ánh xạ ưu tiên vị trí.
10. Loại bỏ các quan hệ dư thừa hoặc xung đột ngữ cảnh.
11. Xác định quan hệ ngữ nghĩa giữa tính từ và thực thể.
12. Xây dựng đồ thị ý niệm đích hoàn chỉnh.

Lý do lựa chọn phương pháp này xuất phát từ thực tế người dùng thường nhập các câu hỏi ngắn, sai ngữ pháp hoặc đảo cấu trúc. Việc phân tích cú pháp chặt chẽ thường dẫn đến hiện tượng nhập nhằng cây cú pháp và thất bại khi gặp lỗi ngữ pháp. Tiếp cận dựa trên thực thể, từ quan hệ và Ontology giúp hệ thống đạt độ bao phủ cao và dễ dàng mở rộng sang các ngôn ngữ khác. Toàn bộ quá trình nghiên cứu, xây dựng hệ thống luật XML và kiểm thử được hoàn thành trong chu kỳ nghiên cứu 2008-2009.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm đối chiếu trên tập 92 câu hỏi phức tạp của TREC 2002 mang lại các kết quả đột phá:

1. Hiệu quả xử lý câu hỏi định lượng: Đối với 16 câu hỏi bắt đầu bằng "How many", giải pháp sử dụng đỉnh truy vấn con và liên kết nét đôi kết nối quan hệ COUNT đã giúp dịch chính xác 11 câu, đạt tỷ lệ thành công 68,75% (so với 0% ở các mô hình cơ sở trước đó).
2. Độ chính xác tuyệt đối trên câu hỏi chứa tính từ và liên từ: Hệ thống đạt tỷ lệ chính xác 100% đối với nhóm câu hỏi chứa tính từ mô tả (6/6 câu) và nhóm câu hỏi chứa liên từ luận lý song song (1/1 câu). Việc phân loại tính từ thành hai nhánh định tính (tạo lớp con SubclassOf) và định lượng (gắn thuộc tính HASPROPERTY) đã tối ưu hóa năng lực suy luận của hệ thống.
3. Cải thiện nhóm câu hỏi so sánh nhất: Đối với 35 câu hỏi chứa tính từ so sánh nhất dạng "-est" hoặc "most", phương pháp ánh xạ quan hệ MIN/MAX vào đồ thị con đã giải quyết thành công 14 câu, chiếm 40% tổng số câu thuộc nhóm này.
4. Tác động của việc làm giàu Ontology: Ban đầu, hệ thống chỉ dịch được 26/92 câu (28,26%). Sau khi bổ sung thêm 33 lớp thực thể, 23 kiểu quan hệ, 11 thực thể có tên, 20 thực thể không tên và 5 từ quan hệ vào Ontology, số lượng câu dịch chính xác tăng vọt lên 41/92 câu, đạt hiệu suất tổng thể 44,57%.

Thảo luận kết quả

Khi phân tích 51 câu truy vấn còn tồn đọng lỗi, kết quả nghiên cứu chỉ ra sự phân bổ nguyên nhân cụ thể: 44 câu mắc lỗi thiếu thông tin bản thể học (O-Error), 4 câu mắc lỗi phương pháp xây dựng đồ thị (M-Error), và 3 câu mắc lỗi giới hạn biểu diễn của đồ thị ý niệm (Q-Error).

Toàn bộ 44 lỗi O-Error xuất phát từ các quan hệ nhiều hơn 2 ngôi (quan hệ n-ngôi, đặc biệt là quan hệ 3 ngôi) xuất hiện trong câu hỏi thực tế, chẳng hạn như cấu trúc thời gian công tác của một cá nhân tại một tổ chức. Do Ontology hiện tại chỉ hỗ trợ quan hệ nhị phân trực tiếp, hệ thống đòi hỏi phải áp dụng kỹ thuật cụ thể hóa quan hệ (Reification) để phân rã một quan hệ n-ngôi thành n quan hệ 2 ngôi tương ứng.

Đối với 3 trường hợp lỗi Q-Error, nguyên nhân đến từ các truy vấn hỏi trực tiếp về loại quan hệ ("Queried relation"), truy vấn bị giới hạn bởi trạng từ thời gian ("Temporal query"), hoặc quan hệ ngữ nghĩa bị ẩn trong danh từ thay vì động từ.

Dữ liệu thực nghiệm có thể được mô hình hóa trực quan thông qua bảng đối chiếu ma trận lỗi (R-Error, M-Error, Q-Error, O-Error) trước và sau khi làm giàu tri thức, kết hợp biểu đồ cột biểu diễn xu hướng suy giảm của lỗi biểu diễn Q-Error từ 35 câu xuống còn 3 câu. So với các hệ thống phân tích cú pháp liên kết hoặc đối sánh bộ ba S-Property-O cứng nhắc trong SPARQL, mô hình đề xuất thể hiện tính thích ứng vượt trội trước ngôn ngữ tự nhiên không quy chuẩn nhờ cơ chế luật XML linh hoạt và sự hỗ trợ của từ điển quan hệ.

Đề xuất và khuyến nghị

Dựa trên các kết quả và hạn chế đã chỉ ra trong nghiên cứu, 4 giải pháp cụ thể được đề xuất nhằm hoàn thiện hệ thống:

1. Cụ thể hóa quan hệ n-ngôi trong Ontology: Tái cấu trúc cơ sở tri thức OWL/RDF để hỗ trợ phân rã các quan hệ 3 ngôi và n-ngôi thành mạng lưới các quan hệ nhị phân có định danh. Mục tiêu là xử lý dứt điểm 44 câu hỏi lỗi O-Error còn tồn đọng, nâng tỷ lệ chuyển đổi thành công trên tập TREC lên trên 90% trong vòng 6 tháng tới. Trách nhiệm thực hiện thuộc về các kỹ sư phát triển Ontology và chuyên gia biểu diễn tri thức.
2. Mở rộng khả năng biểu diễn trạng từ và vị từ quan hệ: Bổ sung các cấu trúc đồ thị ý niệm đặc biệt cho phép gán biến nghi vấn trực tiếp vào đỉnh quan hệ và đỉnh trạng từ chỉ thời gian, địa điểm. Giải pháp này giúp triệt tiêu hoàn toàn 3 lỗi Q-Error, dự kiến hoàn thành trong lộ trình 3 tháng do các nhà phát triển giải thuật NLP phụ trách.
3. Tích hợp mạng từ vựng WordNet vào hệ thống luật XML: Tự động hóa quá trình ánh xạ từ đồng nghĩa và tính từ tương đương thông qua WordNet thay vì khai báo thủ công trong từ điển Gazetteer. Việc này giúp mở rộng vốn từ vựng nhận dạng thêm ít nhất 50% trong thời gian 4 tháng, do đội ngũ kỹ sư phần mềm đảm nhiệm.
4. Nghiên cứu chuyển giao sang ngữ liệu tiếng Việt: Tận dụng tính độc lập cú pháp của giải thuật để xây dựng bộ từ điển luật và Ontology đặc thù cho ngôn ngữ tiếng Việt. Mục tiêu đạt độ chính xác trên 80% đối với các tập câu hỏi tiếng Việt chuyên ngành trong kế hoạch 12 tháng của các nhóm nghiên cứu học thuật.

Đối tượng nên tham khảo luận văn

Nội dung và phương pháp trong luận văn đem lại giá trị ứng dụng thiết thực cho 4 nhóm đối tượng chính:

1. Học viên cao học và nghiên cứu sinh ngành Khoa học Máy tính: Tài liệu cung cấp cơ sở học thuật vững chắc về biểu diễn tri thức, lý thuyết đồ thị ý niệm và kỹ thuật ánh xạ ngôn ngữ tự nhiên không phụ thuộc vào cây cú pháp.
2. Kỹ sư phát triển hệ sinh thái Semantic Web: Cung cấp giải pháp kiến trúc thực tế để xây dựng các cổng truy vấn trung gian, chuyển đổi ngôn ngữ người dùng thành các ngôn ngữ truy vấn ngữ nghĩa như SPARQL hoặc SeRQL.
3. Chuyên gia xây dựng hệ thống hỏi đáp (QA) và Trợ lý ảo: Tham khảo mô hình xử lý câu hỏi phức tạp chứa liên từ luận lý, câu hỏi số lượng và câu hỏi so sánh nhất để cải thiện chất lượng hiểu ý định người dùng.
4. Kỹ sư quản trị tri thức và thiết kế Ontology doanh nghiệp: Nắm bắt phương pháp chuẩn hóa cấu trúc quan hệ, phân định tính từ định tính/định lượng và cơ chế tổ chức luật XML nhằm tối ưu hóa việc khai phá dữ liệu nội bộ.

Câu hỏi thường gặp

1. Tại sao phương pháp trong luận văn không sử dụng cây phân tích cú pháp truyền thống? Phương pháp phân tích cú pháp truyền thống yêu cầu câu nhập vào phải hoàn toàn đúng ngữ pháp và xử lý rất chậm. Khi người dùng nhập câu hỏi tự nhiên ngắn hoặc sai cấu trúc, cây cú pháp sẽ bị lỗi hoặc nhập nhằng. Tiếp cận qua thực thể và Ontology giúp hệ thống tráng kiện trước các lỗi văn phạm thực tế.

2. Đồ thị ý niệm lồng nhau giải quyết câu hỏi "How many" như thế nào? Hệ thống sử dụng một đỉnh truy vấn con để bao bọc toàn bộ phạm vi ngữ nghĩa của câu hỏi, sau đó gắn quan hệ COUNT vào đỉnh truy vấn con này. Một đường liên kết nét đôi sẽ được nối trực tiếp từ quan hệ COUNT đến thực thể cần đếm, giúp phân biệt rõ ràng đối tượng được hỏi số lượng.

3. Sự khác biệt cốt lõi giữa xử lý tính từ định tính và tính từ định lượng là gì? Tính từ định lượng (tall, high) được biểu diễn bằng quan hệ HASPROPERTY trỏ đến miền giá trị chuỗi hoặc số đo cụ thể. Ngược lại, tính từ định tính (famous, good) khó định lượng bằng thang đo nên được biểu diễn bằng cách định nghĩa các lớp con tương ứng trong Ontology thông qua quan hệ SubclassOf.

4. Vì sao sau khi áp dụng phương pháp đề xuất, số lượng lỗi O-Error lại có xu hướng tăng? Nhiều câu truy vấn ban đầu được xếp vào nhóm lỗi Q-Error do đồ thị ý niệm chưa hỗ trợ biểu diễn. Khi phương pháp mới đã hỗ trợ được dạng biểu diễn này, hệ thống lại phát hiện thêm câu hỏi đó bị thiếu lớp thực thể hoặc quan hệ trong Ontology, dẫn đến việc chuyển phân loại lỗi từ Q-Error sang O-Error.

5. Hệ thống luật định dạng XML mang lại ưu điểm gì cho việc bảo trì? Hệ thống luật XML phân tách rõ ràng phần điều kiện (premise) và phần hành động (consequent). Cấu trúc này cho phép các kỹ sư dễ dàng thêm mới, chỉnh sửa hoặc thiết lập độ ưu tiên cho các quy tắc ánh xạ ngữ nghĩa mà không cần can thiệp hay biên dịch lại mã nguồn của toàn bộ chương trình.

Kết luận

• Nghiên cứu đã xây dựng thành công giải pháp biên dịch câu truy vấn tiếng Anh phức tạp sang đồ thị ý niệm với độ tráng kiện cao và không phụ thuộc vào cú pháp văn phạm.
• Đề xuất mô hình đồ thị ý niệm lồng nhau để xử lý toàn diện các dạng câu hỏi về số lượng, tính từ định tính/định lượng, tính từ so sánh nhất và liên từ luận lý song song.
• Thiết lập quy trình 12 bước trích xuất ngữ nghĩa tự động, kết hợp hệ thống luật XML linh hoạt và công cụ nhận dạng thực thể GATE trên nền Ontology PROTON.
• Đạt tỷ lệ dịch chính xác 44,57% trên tập 92 câu hỏi khó của TREC 2002, trong đó đạt độ chính xác 100% đối với nhóm câu hỏi chứa tính từ và liên từ luận lý.
• Định hình rõ ràng nguyên nhân của 51 câu hỏi chưa giải quyết được, mở ra hướng nghiên cứu cụ thể hóa quan hệ n-ngôi và mở rộng sang ngữ liệu tiếng Việt trong lộ trình 12 tháng tới.

Hãy áp dụng ngay các giải pháp thiết kế đồ thị ý niệm và kiến trúc luật ngữ nghĩa trong luận văn này để nâng tầm hệ thống tìm kiếm thông tin và xử lý ngôn ngữ tự nhiên của bạn!

Trích đoạn nội dung tài liệu

Chương 1 là phần trình bày chi tiết về ý tưởng và phương pháp của chúng tôi để đạt được mục đích đã đề ra. Chương 2 trình bày những nghiêu cứu và hệ thống liên quan đến việc chuyển đổi câu truy vấn tiếng Anh sang đồ thị ý niệm.1 trình bày phương pháp rút trích quan hệ trong câu truy vấn. Sơ lược giới thiệu về đồ thị ý niệm được trình bày ở Mục 2. Chương 3 trình bày cách tiếp cận vấn đề với việc giải quyết câu truy vấn hỏi về số lượng được trình bày tại Mục 3.1, giải quyết cho câu truy vấn có chứa tính từ được trình bày tại Mục 3.2, giải 5 quyết cho câu truy vấn có chứa tính từ so sánh nhất được trình bày tại Mục 3.3 và giải quyết cho câu truy vấn có chứa liên từ luận lý sẽ được trình bày tại Mục 3.

Chương 4 trình bày phương pháp biên dịch câu truy vấn tiếng Anh sang đồ thị ý niệm.1 sẽ mô tả các bước trong giải thuật xây dựng đồ thị ý niệm cho câu truy vấn.2 trình bày chi tiết về tập luật ánh xạ. Những kết quả đạt được của đề tài sẽ được tổng kết tại Mục 4. Chương 5 trình bày chi tiết phương pháp lưu trữ và hiển thị đồ thị ý niệm. Chương 6 đưa ra kết luận và đề nghị hướng phát triển cho tương lai.

Phần phụ lục giới thiệu tập câu hỏi mẫu TREC 2002, TREC 2007 cùng các đồ thị ý niệm đã được giải quyết thêm sau khi áp dụng phương pháp đề nghị của đề tài cho những câu truy vấn rút ra từ hai tập câu hỏi mẫu này. 6 CHƯƠNG 2 CÁC NGHIÊN CỨU VÀ HỆ THỐNG LIÊN QUAN 2.1 Rút trích quan hệ Rút trích quan hệ là xác định mối quan hệ ngữ nghĩa giữa cặp các thành phần không có cấu trúc hay bán cấu trúc trong văn bản ngôn ngữ tự nhiên. Rút trích quan hệ dựa vào Ontology liên quan tới hai công việc chính: xác định mối quan hệ giữa hai thành phần đã biết chủ yếu dựa trên miền Ontology và khám phá các mối quan hệ mới giữa hai ý niệm không có trên miền Ontology. Ví dụ trong câu “Bill Gates is chairman and chief software architect of Microsoft Corporation”, tồn tại quan hệ theo kiểu của ACE (Automatic Content Extraction) là EMPLOYMENT.exec giữa hai thực thể có tên là “Bill Gates” thuộc lớp PERSON.Name và “Mircrosoft Corporation” thuộc lớp ORGANIZATION.

Có nhiều kỹ thuật rút trích quan hệ, dựa trên luật (rule-based), dựa trên đặc điểm (feature-based) và phương pháp kernel (kernel-based) dưới đây trình bày một số nghiên cứu về rút trích quan hệ:  Các phương pháp dựa trên luật sử dụng các luật của ngôn ngữ để nắm bắt các mẫu quan hệ khác nhau. Hệ thống [8] rút trích quan hệ từ một quá trình phân tích cú pháp, do đó kết quả của nó phụ thuộc hoàn toàn vào cây cú pháp.  Các phương pháp rút trích dựa trên đặc điểm [21] sử dụng các đặc điểm của ngôn ngữ như đặc điểm từ vựng, đặc điểm cú pháp và đặc điểm ngữ nghĩa. Những phương pháp này rất hiệu quả cho việc rút trích quan hệ.

Tuy nhiên, vấn đề gặp phải là các đặc điểm phải được mô tả thủ công và cấu trúc thông tin trong cây cú pháp không được bảo toàn trong cây đặc điểm (Là cây biểu diễn các đường nối không kết thúc giữa hai thực thể trong cây cú pháp).  Các phương pháp dựa trên kernel chú trọng vào việc sử dụng các cây kernel riêng lẻ để khai thác đặc điểm cấu trúc. Hệ thống [19] xây dựng một quan hệ kernel trên cây cú pháp cho 7 việc rút trích quan hệ. Kernel so trùng các node từ gốc cho tới lá một cách đệ quy theo từng lớp từ trên xuống.

Tuy nhiên các nghiên cứu trên chỉ chú trọng vào rút trích quan hệ giữa các thực thể có tên đã biết. Để xây dựng được đồ thị ý niệm, ngoài việc rút trích quan hệ giữa các thực thể có tên còn phải rút trích quan hệ giữa các thực thể không tên với nhau, hay các quan hệ giữa các thực thể có tên với thực thể không tên.2 Sơ lược về đồ thị ý niệm Đồ thị ý niệm là một hệ thống logic dựa trên đồ thị tồn tại của Charles Sanders Peirce và mạng ngữ nghĩa của trí tuệ nhân tạo, kết hợp sự tiện lợi trực quan của ngôn ngữ đồ thị và sức mạnh diễn đạt của logic. Chúng biểu diễn ngữ nghĩa theo một hình thức logic chính xác mà con người có thể đọc được và dễ xử lý tính toán trên đó. Bằng việc ánh xạ trực tiếp thành ngôn ngữ, đồ thị ý niệm là một ngôn ngữ trung gian cho việc chuyển đổi từ hình thức biểu diễn hướng máy tính thành ngôn ngữ tự nhiên và ngược lại.

Với những đặc điểm đó, đồ thị ý niệm được dùng trong nhiều ứng dụng như là một hình thức biểu diễn tri thức. Đồ thị ý niệm đã được dùng cho việc giải quyết các vấn đề trong nhiều lĩnh vực như xử lý ngôn ngữ tự nhiên, sự thu nhặt kiến thức và quản lý, thiết kế cơ sở dữ liệu và các hệ thống thông tin. Tim Berners Lee, người phát minh của WWW, kết luận rằng các CG có thể dễ dàng tích hợp với Semantic Web. Nó cũng được chỉ ra trong [13] là có một ánh xạ chặt giữa CG và ngôn ngữ RDF.

Trong bài báo đầu tiên công bố liên quan tới đồ thị ý niệm, Sowa [9] đã định nghĩa đồ thị ý niệm như sau: Đồ thị ý niệm là một đồ thị hữu hạn, liên thông, không có hướng, lưỡng phân với những nút thuộc một loại được gọi là ý niệm (hoặc khái niệm – concepts) và những nút thuộc loại còn lại được gọi là quan hệ khái niệm (conceptual relations). Như vậy, đồ thị ý niệm là một đồ thị phân đôi bao gồm hai loại đỉnh: các đỉnh khái niệm và các đỉnh quan hệ, trong đó các đỉnh khái niệm chỉ liên kết với các đỉnh quan hệ bởi các cạnh và ngược lại. Tri thức biểu diễn trong đồ thị ý niệm dựa trên hai dàn phân cấp về kiểu khái niệm và kiểu quan 8 hệ. Bằng cách kết hợp các khái niệm và các quan hệ, mô hình đồ thị ý niệm có thể dùng để biểu diễn tri thức trực quan, thân thiện với người dùng.

Trong đồ thị ý niệm, đỉnh khái niệm được biểu diễn bằng hình chữ nhật có nhãn là kiểu khái niệm kết hợp với tham chiếu, còn đỉnh quan hệ có hình oval với nhãn chính là kiểu quan hệ của nó. Mỗi đỉnh quan hệ có thể liên kết với nhiều đỉnh khái niệm theo thứ tự xác định bởi các nhãn của cạnh. Để ngắn gọn, chúng ta có thể gọi một đỉnh quan hệ, cạnh khái niệm lần lượt là quan hệ, khái niệm.1: Ví dụ về đồ thị ý niệm.1 là đồ thị ý niệm cho câu “Nam là một giáo viên. Bách Khoa là một trường đại học.

Trường Đại học Bách Khoa có nhiều khoa. Nam làm việc tại một khoa nào đó.” hoặc ngắn gọn, “Nam làm việc tại một khoa của trường Đại học Bách Khoa. Trong định dạng văn bản, các khái niệm và các quan hệ có thể được biết trong dấu ngoặc vuông và ngoặc tròn như sau: [GIÁO VIÊN: Nam]→(LÀM VIỆC TẠI)→[KHOA:*]→(THUỘC)→[TRƯỜNG: Bách Khoa] Ở đây, để đơn giản, các nhãn của các cạnh không được thể hiện. Trong ví dụ này, [GIÁO VIÊN: Nam], [KHOA:*], [TRƯỜNG: Bách Khoa] là các khái niệm với GIÁO VIÊN, KHOA và TRƯỜNG trở thành kiểu khái niệm, trong khi đó (LÀM VIỆC TẠI) và (THUỘC) là các quan hệ với LÀM VIỆC TẠI và THUỘC là các kiểu quan hệ.

Các tham khảo Nam và Bách Khoa của các khái niệm [GIÁO VIÊN: Nam] và [TRƯỜNG: Bách Khoa] là các tham chiếu xác định. Tham chiếu “*” của khái niệm [KHOA:*] là tham chiếu tổng quát ám chỉ tới một thực thể không xác định. Đồ thị ý niệm được sử dụng trong đề tài, bên cạnh các tham chiếu xác định và tham chiếu tổng quát, được bổ sung thêm tham chiếu nghi vấn. Một đồ thị ý niệm truy vấn là một đồ thị ý niệm mà các tham chiếu có thể là tham chiếu xác định, tham chiếu tổng quát hoặc là tham chiếu nghi vấn được biểu diễn bằng dấu “?”.

Tham chiếu nghi vấn biểu diễn cho thực thể được truy vấn trong câu.1 Đồ thị ý niệm mở rộng Trong [4] với việc giải quyết vấn đề sử dụng các CG đối với các truy vấn cơ sở dữ liệu quan hệ, tác giả đã mở rộng các đồ thị ý niệm đơn để cho phép việc lồng nhau của các đỉnh. Đó là tác giả đã mô tả các đồ thị hay bộ phận các đồ thị vào trong các đỉnh. Một đỉnh được gọi là một HA (Hypostatic abstraction) nếu và chỉ nếu nó chứa các đồ thị khác. Trong đồ thị mở rộng này, các đỉnh đơn (Các đỉnh mà không có các HA) sẽ dùng để biểu diễn các đối tượng nền trong miền đang xem xét và các kiểu của chúng, hay nói cách khác đó là các khái niệm.

Một HA h sẽ được dùng để ký hiệu một quan hệ, mà được miêu tả bởi đồ thị con đính kèm là h. Tác giả đã sử dụng các HA này để định nghĩa tầm vực chịu ảnh hưởng của tác vụ gộp trong câu truy vấn SQL. Những tiêu chí, điều kiện cụ thể mà người dùng cần đưa vào câu truy vấn sẽ được xem như là thuộc tính của HA. Ví dụ: với câu truy vấn sau: “Tìm tuổi trung bình của những người có họ là x” với x là giá trị tùy ý mà người sử dụng sẽ nhập vào khi truy vấn, sẽ được [4] biểu diễn thành CG như trong Hình 2.2: Ví dụ về biểu diễn câu truy vấn sử dụng HA (Hypostatic abstraction).

Để hỗ trợ khả năng biểu diễn các câu truy vấn lồng nhau, tác giả [5] đã đề xuất xem các câu truy vấn con như là một khái niệm đặc biệt, có kiểu khái niệm riêng và tham chiếu đến thực thể của nó chính là toàn bộ nội dung câu truy vấn bên trong nó. Tác giả xem các câu truy vấn con như là một đỉnh khái niệm đặc biệt được biểu diễn một cách khác nhằm để phân biệt với các khái niệm còn lại, gọi là đỉnh truy vấn con. Đỉnh truy vấn con được biểu diễn bằng hình chữ nhật tròn góc, bên trong là nội dung một đồ thị ý niệm truy vấn tri thức. Ta xét một ví dụ minh họa việc biểu diễn câu truy vấn lồng nhau bằng sử dụng đỉnh truy vấn con.

Ví dụ ta có câu truy vấn lồng nhau như sau: “Tìm tên 10 của những giảng viên có tên trùng với tên của những giảng viên tại trường Đại học Bách Khoa”. Câu truy vấn này sẽ được biểu diễn như Hình 2.