TỰ ĐỘNG XÁC ĐỊNH QUAN HỆ NGỮ NGHĨA CỦA TỪ DỰA TRÊN HỌC MÁY THỐNG KÊ

Chuyên khảo phân tích Tự động xác định quan hệ ngữ nghĩa của từ dựa trên học máy thống kê, đánh giá các khía cạnh quan trọng, đề xuất hướng nghiên cứu tiếp theo.

Trường đại học

Trường Đại Học Yale

Chuyên ngành

Công Nghệ Thông Tin

Người đăng

Ẩn danh

Thể loại

Luận Án Tiến Sĩ
154
2
0

Phí lưu trữ

45 Point

Mục lục chi tiết

LỜI CAM ĐOAN

LỜI CẢM ƠN

TÓM TẮT

MỤC LỤC

DANH MỤC CÁC TỪ VIẾT TẮT

DANH MỤC CÁC BẢNG

DANH MỤC CÁC HÌNH VẼ

1. MỞ ĐẦU

1.1. Đặt vấn đề

1.2. Bài toán xác định quan hệ ngữ nghĩa của từ

1.3. Hướng tiếp cận và phương pháp

1.4. Đóng góp của luận án

1.5. Cấu trúc của luận án

2. KIẾN THỨC CƠ SỞ VÀ CÁC NGHIÊN CỨU LIÊN QUAN

2.1. Một số khái niệm cơ bản về từ

2.2. Từ và nghĩa của từ

2.3. Ngữ nghĩa từ vựng

2.4. Quan hệ ngữ nghĩa giữa các từ

2.5. Một số giả thuyết ngữ nghĩa cơ bản

2.6. Mô hình ngữ nghĩa phân phối

2.7. Mô hình nhúng từ

2.7.1. Lịch sử của các mô hình nhúng từ

2.7.2. Một số mô hình nhúng từ tổng quát

2.7.3. Một số mô hình nhúng từ chuyên biệt

2.8. Một số mô hình nhúng từ theo ngữ cảnh

2.9. Mạng nơ-ron hồi quy

2.10. Quan hệ bao thuộc

2.11. Một số nghiên cứu liên quan

2.12. Quan hệ đồng nghĩa - trái nghĩa

2.13. Một số nghiên cứu liên quan

2.14. Đo lường độ tương tự ngữ nghĩa giữa các từ

2.15. Một số nghiên cứu liên quan

2.16. Tóm tắt chương

3. XÁC ĐỊNH QUAN HỆ BAO THUỘC DỰA TRÊN MÔ HÌNH NHÚNG TỪ CHUYÊN BIỆT

3.1. Ý tưởng chính

3.2. Phân tích hạn chế của mô hình DWN

3.3. Đề xuất mô hình LERC

3.3.1. Mô hình DWN cải tiến

3.3.2. Tích hợp đặc trưng ngữ nghĩa mức dưới từ

3.3.3. Mô hình phân lớp quan hệ bao thuộc có giám sát

3.3.4. Phân tích ưu nhược điểm và tính mới của mô hình

3.4. Xây dựng bộ dữ liệu tiếng Việt DtVLE-999, DrVLE-999, DetVLE-999

3.4.1. Lựa chọn các cặp từ ứng viên

3.4.2. Đánh giá dữ liệu

3.4.3. Thống kê dữ liệu

3.5. Bộ dữ liệu đánh giá

3.6. Huấn luyện các mô hình nhúng từ

3.7. Đánh giá mô hình

3.8. Phân tích thống kê

3.9. Tóm tắt chương

4. PHÂN TÁCH QUAN HỆ ĐỒNG NGHĨA – TRÁI NGHĨA DỰA TRÊN NGỮ CẢNH ĐỒNG HIỆN VÀ MẪU CẤU TRÚC TỪ

4.1. Ý tưởng chính

4.2. Các mẫu cấu trúc từ tiếng Việt

4.2.1. Mẫu cấu trúc từ trái nghĩa

4.2.2. Mẫu cấu trúc từ đồng nghĩa

4.3. Đề xuất mô hình DVASNet

4.3.1. Các đặc trưng tĩnh

4.3.2. Mô hình DVASNet

4.4. Xây dựng bộ dữ liệu ASC tiếng Việt

4.4.1. Các mô hình cơ sở

4.4.2. Cài đặt thực nghiệm

4.4.3. Kết quả thực nghiệm

4.5. Tóm tắt chương

5. ĐO LƯỜNG ĐỘ TƯƠNG TỰ NGỮ NGHĨA CỦA CẶP TỪ

5.1. Ý tưởng chính

5.2. Đề xuất độ đo tương tự

5.2.1. Độ đo tương tự ExtLeskSim

5.2.2. Kỹ thuật GraphSim

5.3. Xây dựng bộ dữ liệu tiếng Việt

5.3.1. Dịch bộ dữ liệu SimLex-999 sang tiếng Việt

5.3.2. Đánh giá độ tương tự của cặp từ

5.3.3. Một số thống kê trên bộ dữ liệu

5.4. Thực nghiệm với mô hình ExtLeskSim

5.5. Thực nghiệm với mô hình GraphSim

5.6. Tóm tắt chương

6. KẾT LUẬN

6.1. Các đóng góp của luận án

6.2. Hướng phát triển

DANH MỤC CÁC CÔNG TRÌNH KHOA HỌC

TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng Quan Tự Động Xác Định Quan Hệ Ngữ Nghĩa của Từ

Xử lý ngôn ngữ tự nhiên (NLP) ngày càng trở nên quan trọng, với nhiều ứng dụng thực tiễn như nhận dạng tiếng nói, dịch máy, và tìm kiếm thông tin. Trong đó, bài toán tự động xác định quan hệ ngữ nghĩa của từ (LSRD) là một trong những thách thức lớn. Các mô hình LSRD đóng vai trò then chốt trong xây dựng cơ sở tri thức từ vựng, phân tích quan điểm, và hệ thống hỏi đáp. Theo tài liệu gốc, việc tích hợp thêm các mô hình xác định quan hệ ngữ nghĩa của từ là một trong các cách tiếp cận để vượt qua những thách thức của NLP khi xử lý dữ liệu ít, dữ liệu nhiễu hoặc hiểu được các thủ pháp nghệ thuật.

1.1. Tầm Quan Trọng Của Quan Hệ Ngữ Nghĩa Trong NLP

Quan hệ ngữ nghĩa đóng vai trò then chốt trong việc giúp máy tính hiểu được ý nghĩa sâu sắc của văn bản. Nó không chỉ giúp xác định mối liên hệ giữa các từ, mà còn hỗ trợ các ứng dụng như dịch máy, phân tích văn bản và xây dựng mạng ngữ nghĩa. Việc xác định chính xác các quan hệ này là yếu tố quyết định để nâng cao hiệu quả của các hệ thống NLP.

1.2. Các Tiếp Cận Phổ Biến trong Xác Định Quan Hệ Ngữ Nghĩa

Có hai hướng tiếp cận chính: tiếp cận mẫu từ vựng - cú pháp và tiếp cận phân phối. Tiếp cận mẫu sử dụng các mẫu từ vựng - cú pháp để đoán nhận quan hệ. Tiếp cận phân phối khai thác thông tin phân phối của từ trong ngữ liệu. Tiếp cận này chia thành hai nhóm: không giám sát (dựa trên biểu diễn từ (word embedding)) và có giám sát (dùng mạng nơ-ron để phân lớp). Luận án này tập trung vào tiếp cận có giám sát, sử dụng mô hình học máy để xác định quan hệ bao thuộc, đồng nghĩa, trái nghĩa, và tương đồng.

II. Thách Thức Xác Định Quan Hệ Ngữ Nghĩa Chính Xác Hiệu Quả

Mặc dù NLP đã có bước tiến lớn nhờ học sâu, việc xử lý dữ liệu ít, nhiễu, hoặc hiểu các thủ pháp nghệ thuật vẫn còn là thách thức. Các mô hình NLP cần phải xử lý tốt ngữ cảnhtính toán ngữ nghĩa để hiểu ý nghĩa của từ. Điều này đòi hỏi các thuật toán phải có khả năng học từ một lượng lớn dữ liệu, đồng thời phải có khả năng suy luận và khái quát hóa.

2.1. Hạn Chế Của Các Mô Hình NLP Hiện Tại

Các mô hình NLP hiện tại vẫn còn gặp nhiều khó khăn trong việc xử lý ngôn ngữ một cách linh hoạt và tự nhiên như con người. Một trong những hạn chế lớn nhất là khả năng hiểu được quan hệ ngữ nghĩa phức tạp giữa các từ, đặc biệt là trong các tình huống có ngữ cảnh đa dạng hoặc khi sử dụng các thủ pháp tu từ như ẩn dụ, hoán dụ. Để giải quyết vấn đề này, cần phải có các phương pháp tiếp cận mới, có khả năng kết hợp thông tin ngữ nghĩa từ nhiều nguồn khác nhau.

2.2. Vấn Đề Thiếu Dữ Liệu Huấn Luyện Chất Lượng Cao

Một thách thức khác là sự thiếu hụt datasets đủ lớn và chất lượng cao để huấn luyện các mô hình NLP. Đặc biệt, đối với các ngôn ngữ ít phổ biến như tiếng Việt, việc thu thập và gán nhãn dữ liệu ngữ nghĩa là một quá trình tốn kém và mất nhiều thời gian. Điều này đặt ra yêu cầu phải phát triển các kỹ thuật học máy có khả năng hoạt động hiệu quả với dữ liệu hạn chế, hoặc sử dụng các phương pháp học chuyển giao (transfer learning) để tận dụng kiến thức từ các ngôn ngữ khác.

III. Phương Pháp Mô Hình Nhúng Từ Chuyên Biệt và Đặc Trưng SSF

Luận án đề xuất mô hình mạng nơ-ron học vector nhúng từ chuyên biệt từ các bộ ba (từ bao, từ thuộc, ngữ cảnh). Các vector này phù hợp hơn cho bài toán HR so với các mô hình Word2vec, fastText, GloVe. Luận án cũng khai thác đặc trưng về quan hệ ngữ nghĩa giữa các thành phần của từ ghép (Subword Semantic Feature - SSF). Thuật toán trích chọn SSF mã hóa quan hệ ngữ nghĩa và thông tin vị trí trong vector đặc trưng.

3.1. Mô Hình Mạng Nơ ron Học Vector Nhúng Từ Chuyên Biệt

Luận án tập trung vào việc phát triển một mô hình mạng nơ-ron có khả năng học vector nhúng từ chuyên biệt, được tối ưu hóa cho bài toán xác định quan hệ bao thuộc. Mô hình này được huấn luyện trên các bộ ba dữ liệu, bao gồm từ bao, từ thuộc và ngữ cảnh đồng xuất hiện của chúng. Nhờ đó, các vector nhúng từ học được có khả năng biểu diễn chính xác hơn mối quan hệ giữa các từ, so với các mô hình nhúng từ tổng quát như Word2vec, fastText hay GloVe.

3.2. Thuật Toán Trích Chọn Đặc Trưng Ngữ Nghĩa Mức Dưới Từ SSF

Để tận dụng thông tin ngữ nghĩa từ các thành phần cấu tạo của từ ghép, luận án đề xuất một thuật toán trích chọn đặc trưng ngữ nghĩa mức dưới từ (Subword Semantic Feature - SSF). Thuật toán này không chỉ mã hóa được quan hệ ngữ nghĩa giữa các thành phần của cặp từ, mà còn nắm bắt được cả thông tin vị trí của chúng trong các vector đặc trưng. Điều này giúp cho mô hình có khả năng phân biệt tốt hơn giữa các quan hệ ngữ nghĩa khác nhau, đặc biệt là trong trường hợp các từ ghép có cấu trúc phức tạp.

IV. Giải Pháp DVASNet Phân Tách Đồng Nghĩa Trái Nghĩa Hiệu Quả

Luận án đề xuất mô hình DVASNet, một mô hình mạng nơ-ron khai thác thông tin ngữ cảnh đồng xuất hiện của cặp từ và đặc trưng riêng của tiếng Việt (thông tin tương hỗ, quan hệ ngữ nghĩa giữa các thành phần). Kết quả thực nghiệm cho thấy DVASNet có hiệu năng cao hơn từ 14% đến 17% so với các mô hình trước đây. Luận án cũng đề xuất mô hình xác định quan hệ trái nghĩa dựa trên mô hình nhúng từ chuyên biệt.

4.1. Khai Thác Thông Tin Ngữ Cảnh Đồng Xuất Hiện Với DVASNet

Mô hình DVASNet được thiết kế để tận dụng tối đa thông tin ngữ cảnh đồng xuất hiện của cặp từ, từ đó nâng cao khả năng phân tách giữa quan hệ đồng nghĩaquan hệ trái nghĩa. Mô hình này không chỉ xem xét thông tin ngữ nghĩa phân phối của các từ, mà còn khai thác thông tin ngữ cảnh trong đó hai từ xuất hiện cùng nhau. Điều này giúp cho mô hình có thể hiểu được mối quan hệ giữa các từ một cách sâu sắc hơn.

4.2. Ứng Dụng DVASNet Cho Tiếng Việt Đặc Trưng Riêng

Mô hình DVASNet được điều chỉnh để phù hợp với đặc trưng riêng của tiếng Việt, bao gồm thông tin tương hỗ giữa các từ và quan hệ ngữ nghĩa giữa các thành phần của từ. Bằng cách tích hợp các đặc trưng này, mô hình có thể tận dụng những đặc điểm ngôn ngữ độc đáo của tiếng Việt để cải thiện hiệu năng phân tách quan hệ đồng nghĩaquan hệ trái nghĩa.

V. Ứng Dụng Đo Lường Độ Tương Tự Ngữ Nghĩa Với ExtLeskSim

Luận án đề xuất kỹ thuật ExtLeskSim để đo lường độ tương tự ngữ nghĩa sử dụng thông tin định nghĩa của từ. Kết quả cho thấy ExtLeskSim đạt hiệu năng cao đối với tiếng Việt. Luận án cũng đề xuất lược đồ GraphSim để nâng cao hiệu năng đo lường độ tương tự ngữ nghĩa dựa trên mạng từ. Kết quả cho thấy GraphSim đã nâng cao đáng kể hiệu năng cho các kỹ thuật WSM.

5.1. ExtLeskSim Đo Lường Dựa Trên Thông Tin Định Nghĩa Của Từ

Kỹ thuật ExtLeskSim được đề xuất trong luận án sử dụng thông tin định nghĩa của từ để đo lường độ tương tự ngữ nghĩa giữa các từ. Bằng cách so sánh các định nghĩa của hai từ, kỹ thuật này có thể xác định mức độ tương đồng về ý nghĩa giữa chúng. ExtLeskSim đã được chứng minh là đạt hiệu năng cao đối với tiếng Việt, cho thấy khả năng ứng dụng rộng rãi của nó trong các bài toán xử lý ngôn ngữ.

5.2. GraphSim Nâng Cao Hiệu Năng Đo Lường Với Mạng Từ

Luận án cũng đề xuất lược đồ GraphSim, một phương pháp tiếp cận mới để nâng cao hiệu năng đo lường độ tương tự ngữ nghĩa dựa trên mạng từ. GraphSim tận dụng cấu trúc đồ thị của mạng từ để khám phá các mối quan hệ gián tiếp giữa các từ, từ đó cải thiện độ chính xác của việc đo lường độ tương tự ngữ nghĩa. Kết quả thực nghiệm cho thấy GraphSim đã nâng cao đáng kể hiệu năng cho các kỹ thuật WSM (Word Similarity Measurement) được áp dụng.

VI. Kết Luận Hướng Phát Triển Xác Định Quan Hệ Ngữ Nghĩa

Luận án đã đóng góp vào việc nâng cao hiệu năng của các mô hình tự động xác định quan hệ ngữ nghĩa của từ, đặc biệt là trong tiếng Việt. Các kết quả nghiên cứu này có thể được ứng dụng trong nhiều lĩnh vực của NLP. Hướng phát triển tiếp theo có thể tập trung vào việc tích hợp thêm các nguồn tri thức bên ngoài, xử lý ngôn ngữ đa dạng hơn và xây dựng các mô hình có khả năng suy luận ngữ nghĩa tốt hơn.

6.1. Tích Hợp Tri Thức Nền Để Nâng Cao Độ Chính Xác

Một trong những hướng phát triển tiềm năng là tích hợp thêm các nguồn tri thức nền vào các mô hình học máy. Ví dụ, có thể sử dụng các graph tri thức hoặc từ điển ngữ nghĩa để cung cấp thêm thông tin về quan hệ ngữ nghĩa giữa các từ. Việc kết hợp tri thức nền có thể giúp cho các mô hình học máy hiểu được ngôn ngữ một cách sâu sắc hơn và đưa ra các quyết định chính xác hơn.

6.2. Xử Lý Ngôn Ngữ Đa Dạng Và Suy Luận Ngữ Nghĩa

Hướng phát triển khác là tập trung vào việc xử lý ngôn ngữ đa dạng hơn, bao gồm cả các ngôn ngữ ít phổ biến và các dạng văn bản không chuẩn như tin nhắn, bình luận trên mạng xã hội. Đồng thời, cần phải xây dựng các mô hình có khả năng suy luận ngữ nghĩa tốt hơn, tức là có thể hiểu được ý nghĩa ẩn ý và các thông điệp phức tạp trong văn bản. Điều này đòi hỏi các phương pháp tiếp cận mới, có khả năng kết hợp thông tin từ nhiều nguồn khác nhau và sử dụng các kỹ thuật suy luận tiên tiến.

Tóm tắt và mô tả trên trang này được tạo với sự hỗ trợ của AI từ nội dung tài liệu gốc; tài liệu do người dùng đóng góp và được kiểm duyệt trước khi xuất bản. Báo lỗi nội dung.

15/05/2025
Tự động xác định quan hệ ngữ nghĩa của từ dựa trên học máy thống kê

Trích đoạn nội dung tài liệu

Mở đầu 7 Chương 3 Đề xuất mô hình phân tách các cặp từ theo quan hệ đồng nghĩa - trái nghĩa dựa trên ngữ cảnh đồng xuất hiện và mẫu cấu trúc từ. Chương 4 Trình bày về mô hình nâng cao độ chính xác đo lường độ tương tự ngữ nghĩa của cặp từ. Phần Kết luận Trình bày các kết luận cũng như những điểm hạn chế của luận án, và đưa ra những hướng nghiên cứu tiếp theo của luận án. Chương 1 KIẾN THỨC CƠ SỞ VÀ CÁC NGHIÊN CỨU LIÊN QUAN Trong chương này, luận án trình bày những kiến thức cơ sở được sử dụng trong các chương tiếp theo.

Mở đầu, Mục 1.1 trình bày một số khái niệm cơ bản về từ và ngữ nghĩa của từ, một số giả thuyết ngữ nghĩa cơ bản. Luận án cũng giới thiệu về hai mô hình biểu diễn ngữ nghĩa bằng không gian vector gồm mô hình ngữ nghĩa phân phối và mô hình nhúng từ (Mục 1. Bên cạnh đó, chương này cũng trình bày tổng quan, phân tích đánh giá các công trình nghiên cứu liên quan và đưa ra các vấn đề còn tồn tại mà luận án sẽ giải quyết về ba bài toán gồm xác định quan hệ bao thuộc (Mục 1.4), phân tách quan hệ đồng nghĩa - trái nghĩa (Mục 1.5), và đo lường độ tương tự ngữ nghĩa của cặp từ (Mục 1.1 Một số khái niệm cơ bản về từ 1.1 Hình vị Hình vị (Morpheme) hay từ tố, ngữ tố là đơn vị nhỏ nhất có nghĩa của ngôn ngữ, chúng tồn tại bằng cách lặp đi lặp lại dưới cùng một dạng hoặc dưới dạng tương đối giống nhau trong các từ [150]. Hình vị có thể đứng riêng một mình hay bị lệ thuộc.

Ví dụ: Một số hình vị tiếng Anh: house, man, black, sleep, walk, v.v Một số hình vị tiếng Việt: nhà, người, đẹp, tốt, đi, làm, v.v Tiếng Việt là một ngôn ngữ đơn lập (hay còn gọi là ngôn ngữ cách thể) nên một hình vị là một tiếng hay một chữ. Kiến thức cơ sở và các nghiên cứu liên quan 9 1.2 Từ và nghĩa của từ Từ là đơn vị cơ bản của ngôn ngữ, có thể dễ dàng tách khỏi chuỗi âm thanh lời nói, có cấu trúc hình thức chặt chẽ, có nội dung ý nghĩa hoàn chỉnh và được sử dụng như là những vật liệu có sẵn để tạo ra những đơn vị thông báo. Từ có thể làm tên gọi của sự vật (danh từ), chỉ các hoạt động (động từ), trạng thái, tính chất (tính từ), v. Từ là công cụ biểu thị khái niệm của con người đối với hiện thực.

Trong tiếng Việt, ngoài các từ đơn còn có các đơn vị có tính chất và chức năng như từ, chúng được gọi là những đơn vị tương đương từ như: từ phức (hạnh phúc, xanh rì, v.v), thuật ngữ (OSI, oxit bazơ, cây cân bằng, v.v), quán ngữ (vui như tết, buồn như trấu cắn, khôn nhà dại chợ, v.v), thành ngữ (bút Nam Tào, dao thày thuốc; nếm mật nằm gai; học thày không tày học bạn, v. Trong phạm vi của đề tài, luận án chỉ nghiên cứu một số quan hệ ngữ nghĩa của từ đơn, từ phức và thuật ngữ (sau đây gọi chung là từ). Trong ngữ nghĩa học từ vựng, nghĩa (Meaning) và nghĩa thành phần (Sense) của từ là hai khái niệm cơ bản. Theo Nguyễn Thiện Giáp [32], nghĩa thành phần của từ là cái sở biểu của từ; Nghĩa của từ là mối quan hệ giữa năng biểu và sở biểu, nó là quan hệ của từ với cái gì đó nằm ngoài bản thân nó.

Nghĩa của từ là một hiện tượng phức tạp, bao gồm một số thành tố đơn giản hơn như nghĩa sở biểu, nghĩa sở thị, nghĩa sở chỉ, nghĩa sở dụng, nghĩa ngữ pháp [32]. Một từ có thể có một hoặc nhiều nghĩa thành phần, nói cách khác, nghĩa thành phần là sự thể hiện rời rạc về nghĩa của từ. Ví dụ, một số nghĩa thành phần của từ đi được liệt kê trong WordNet tiếng Việt như sau: — Đi 1 : làm cho thứ gì đó đi qua hay đưa đến nơi nào đó, ví dụ: "đi dây điện ra sau tủ". — Đi 2 : đi hay đi qua một quãng đường, ví dụ: "chiếc xe này có thể đi được 150 ki lô mét một giờ".

— Đi 3 : (tàu xe) có trạng thái nào đó khi lái, ví dụ: "xe đi rất tốt". — Đi 4 : đi trên, đi dọc theo hoặc đi qua, ví dụ: "đi trên các xa lộ ở California". — Đi 5 : ngồi trên lưng một con vật, thường trong khi điều khiển chuyển động của nó, ví dụ: "Tôi còn thấy cảnh đầy tớ đi ngựa như các hoàng tử". Kiến thức cơ sở và các nghiên cứu liên quan 10 1.3 Ngữ nghĩa từ vựng Ngữ nghĩa học (Semantics) là lĩnh vực nghiên cứu về cách mà ngôn ngữ được sử dụng để biểu đạt ý nghĩa của các thành phần ngôn ngữ.

Nói cách khác, ngữ nghĩa học nhằm mục đích giải thích cách thức các nghĩa đen được mã hóa và giải mã bằng ngôn ngữ bởi người nói và người nghe. Ngữ nghĩa học từ vựng (Lexical Semantics) là lĩnh vực nghiên cứu nghĩa của hình vị, từ và các mối quan hệ ngữ nghĩa giữa chúng, cũng như cách thức mà nghĩa của từ liên quan đến cấu trúc và ngữ pháp [125].1 cho thấy rằng ngữ nghĩa học từ vựng là các nghiên cứu thuộc tầng cơ bản và cốt lõi nhất trong lĩnh vực ngữ nghĩa học, cũng như đóng vai trò quan trọng đối với các bài toán xử lý ngôn ngữ tự nhiên.1 : Kiến trúc các tầng ngữ nghĩa.4 Quan hệ ngữ nghĩa giữa các từ Quan hệ ngữ nghĩa giữa các từ là chủ đề nghiên cứu được quan tâm trong nhiều lĩnh vực như triết học, tâm lý học nhận thức, và khoa học máy tính. Các quan hệ ngữ nghĩa của từ đóng một vai trò thiết yếu trong ngữ nghĩa học từ vựng và được ứng dụng ở nhiều cấp độ trong các tác vụ hiểu và sinh ngôn ngữ. Các quan hệ ngữ nghĩa giữa các từ cũng là yếu tố trung tâm trong việc tổ chức các cơ sở tri thức ngữ nghĩa từ vựng [17].

Có nhiều loại quan hệ ngữ nghĩa giữa các từ, tuy nhiên trong phạm vi nghiên cứu của luận án này, luận án chỉ nghiên cứu về bốn quan hệ ngữ nghĩa cơ bản gồm: bao thuộc, đồng nghĩa, tương đồng ngữ nghĩa, trái nghĩa. Kiến thức cơ sở và các nghiên cứu liên quan 11 1.1 Quan hệ liên quan ngữ nghĩa Khái niệm quan hệ liên quan ngữ nghĩa (Semantic Relatedness) trong ngôn ngữ học tính toán tương ứng với khái niệm tương tự thuộc tính (Attributional Similarity) trong khoa học nhận thức. Hai từ được gọi là có liên quan ngữ nghĩa nếu giữa chúng tồn tại bất kỳ một loại quan hệ ngữ nghĩa nào. Quan hệ liên quan ngữ nghĩa được đặc trưng bởi các từ thường xuyên xuất hiện cùng nhau trong một số ngữ cảnh, có liên quan về thời gian, không gian, ví dụ như súng - bắn, bóng đá - cầu thủ, v.v loại quan hệ này còn được gọi là quan hệ liên kết ngữ nghĩa (Semantically Association).

Mức độ liên quan ngữ nghĩa của hai từ tỷ lệ với mức độ chia sẻ các thuộc tính ngữ nghĩa giữa chúng [128].2 Quan hệ tương tự ngữ nghĩa Trong lĩnh vực ngôn ngữ học tính toán, quan hệ tương tự ngữ nghĩa (Semantic Similarity) hay tương đồng phân loại (Taxonomic Similarity) dùng để chỉ các từ có sự tương đồng với nhau về loại hoặc chức năng. Resnik [110] cho rằng hai từ tương tự nhau về ngữ nghĩa nếu chúng có chung một từ bao. Ví dụ từ ô tô và xe đạp có chung từ bao là xe. Quan hệ tương tự ngữ nghĩa là trường hợp đặc biệt của quan hệ liên quan ngữ nghĩa.

Theo Navigli và Martelli [87], quan hệ tương tự ngữ nghĩa được đặc trưng bởi khả năng các từ có thể được dùng thay thế cho nhau trong một số ngữ cảnh nhất định mà không thay đổi đáng kể ngữ nghĩa cơ bản của câu. Xác định mức độ tương tự ngữ nghĩa giữa hai từ là phép đo thống kê mức độ chia sẻ các thuộc tính ngữ nghĩa giữa chúng. Phép đo này có ích trong một miền rất rộng các ứng dụng của lĩnh vực NLP. Mặc dù một số phương pháp đo đã được đề xuất để giải quyết bài toán này.

Tuy nhiên, cho đến hiện tại, việc tính toán chính xác độ tương tự ngữ nghĩa giữa các từ vẫn còn là một thách thức lớn.3 Quan hệ bao thuộc Quan hệ bao thuộc (Hypernymy) là một quan hệ ngữ nghĩa bất đối xứng giữa một từ bao (Hypernym) với một từ thuộc (hyponym), ví dụ thuật toán là một từ bao của lan truyền ngược, xe đạp điện là một từ thuộc của xe đạp. Quan hệ bao thuộc còn được gọi là quan hệ là một (IS-A) [71, 137], quan hệ kế thừa từ vựng (Lexical Entailment) [7, 7, 18, 130], hoặc quan hệ phân loại (Taxonomic Relation) [71]. Kiến thức cơ sở và các nghiên cứu liên quan 12 1.4 Quan hệ đồng nghĩa Quan hệ đồng nghĩa (Synonymy) là quan hệ ngữ nghĩa giữa hai từ có nghĩa giống nhau, chúng có thể được dùng thay thế cho nhau trong một số ngữ cảnh mà không làm nghĩa của câu thay đổi [86]. Ví dụ, do khán giả và người xem là hai từ đồng nghĩa nên hai câu sau đây tương đồng với nhau về nghĩa: - "Phim có nhiều đoạn khiến khán giả bị ngắt mạch cảm xúc bởi mảng miếng hài đan xen".

- "Phim có nhiều đoạn khiến người xem bị ngắt mạch cảm xúc bởi mảng miếng hài đan xen". Mặc dù tương đồng với nhau về nghĩa nhưng các từ đồng nghĩa khác nhau về âm thanh và có phân biệt với nhau về một vài sắc thái ngữ nghĩa hoặc sắc thái phong cách nào đó, hoặc đồng thời cả hai.5 Quan hệ trái nghĩa Quan hệ trái nghĩa (Antonymy) là quan hệ giữa các từ đối lập với nhau về nghĩa [72]. Quan hệ trái nghĩa lần đầu tiên được đề cập đến như một quan hệ ngữ nghĩa đối lập với quan hệ đồng nghĩa trong nghiên cứu của Smith [122] vào năm 1867. Trái nghĩa là một quan hệ có mặt trong tất cả các ngôn ngữ, được xác lập trên cơ sở của sự liên hệ đối lập hay trái ngược nhau về nghĩa, nó vừa là biện pháp tổ chức của từ vựng, vừa là biện pháp tổ chức của tư duy [54].

Trong tiếng Việt, quan hệ đối lập này thường phải dựa trên thế tương liên toàn diện về nội dung và hình thức giữa các từ. Tương liên được hiểu là quan hệ hai chiều giữa hai thực thể trên một tiêu chí lô gích một thế lưỡng cực, lưỡng phân. Hai từ có nghĩa đối lập nhau nhưng không tương liên thì không phải là từ trái nghĩa [54].

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ

Tài liệu TỰ ĐỘNG XÁC ĐỊNH QUAN HỆ NGỮ NGHĨA CỦA TỪ DỰA TRÊN HỌC MÁY THỐNG KÊ trình bày phương pháp hiện đại trong xử lý ngôn ngữ tự nhiên, tập trung vào việc tự động nhận diện các quan hệ ngữ nghĩa giữa từ vựng thông qua kỹ thuật học máy thống kê. Nghiên cứu này mang lại giá trị thiết thực trong xây dựng hệ thống hiểu ngôn ngữ, phân tích văn bản và tổ chức tri thức theo cấu trúc ontology. Các mô hình thống kê được áp dụng giúp giảm thiểu can thiệp thủ công, đồng thời tăng độ chính xác khi phân loại quan hệ từ vựng như đồng nghĩa, trái nghĩa, bao hàm và liên kết ngữ nghĩa. Đây là tài liệu tham khảo quan trọng cho sinh viên và nhà nghiên cứu ngôn ngữ học tính toán. Những ai muốn mở rộng ứng dụng sang bài toán tiếng Việt có thể tham khảo thêm công trình về kiểm lỗi chính tả ngữ cảnh tiếng Việt để hiểu rõ hơn cách NLP được triển khai thực tế.