Tổng quan nghiên cứu

Trong xu thế phát triển của cuộc cách mạng công nghiệp lần thứ tư, xử lý ngôn ngữ tự nhiên (NLP) và ngôn ngữ học máy tính (Computational Linguistics) đóng vai trò nền tảng với tốc độ tăng trưởng thị trường ước tính trên 25% mỗi năm. Tại Việt Nam, các bài toán xử lý tầng thấp như tách từ đạt độ chính xác trên 97%, gán nhãn từ loại đạt khoảng 95%, phân tích cú pháp cấu trúc thành phần và cú pháp phụ thuộc đã có những bước tiến đáng kể. Tuy nhiên, bài toán phân tích ngữ nghĩa sâu sau bước phân tích cú pháp vẫn là rào cản kỹ thuật lớn chưa được giải quyết đồng bộ.

Vấn đề nghiên cứu cốt lõi của đề tài xuất phát từ hạn chế của các văn phạm truyền thống: văn phạm phi ngữ cảnh (CFG) không thể hiện được các ràng buộc phụ thuộc ngữ nghĩa bên trong câu và gặp khó khăn khi biểu diễn các cấu trúc phụ thuộc không giới hạn, phụ thuộc chéo; trong khi văn phạm cấu trúc ngữ đoạn hướng trung tâm (HPSG) lại thiếu tính trực quan dạng cây. Luận văn tập trung giải quyết bài toán tích hợp thành phần ngữ nghĩa vào văn phạm kết nối cây (Tree Adjoining Grammar - TAG), cụ thể là văn phạm kết nối cây từ vựng hóa có cấu trúc đặc trưng (FTAG/LTAG), nhằm xây dựng mô hình phân tích tự động cả cú pháp lẫn ngữ nghĩa cho câu tiếng Việt.

Mục tiêu nghiên cứu cụ thể bao gồm: hệ thống hóa đặc trưng cú pháp - ngữ nghĩa của các lớp vị từ tiếng Việt; xây dựng tập luật văn phạm cây cơ sở tích hợp vai nghĩa; mô hình hóa biểu diễn ngữ nghĩa câu thông qua logic tân từ cấp một và ngữ nghĩa lỗ hổng (Hole Semantics); đồng thời thử nghiệm thực thi trên hệ thống phân tích TuLiPA. Phạm vi nghiên cứu tập trung khảo sát hệ thống vị từ hành động và vị từ quá trình trong các câu đơn tiếng Việt thu thập từ tác phẩm văn học, báo chí và từ điển chuẩn. Kết quả của nghiên cứu đóng góp trực tiếp vào việc nâng cao hiệu quả phân tích ngữ nghĩa tự động, phục vụ đắc lực cho các hệ thống dịch máy, tóm tắt văn bản tự động và trợ lý ảo thông minh.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn vận dụng đồng bộ 3 hệ thống lý thuyết nền tảng trong ngôn ngữ học và khoa học máy tính:

Thứ nhất là lý thuyết ngữ pháp chức năng và lý thuyết kết trị (Valence Theory) của Lucien Tesnière, kết hợp cùng ngữ pháp cách (Case Grammar) của Charles Fillmore, Simon Dik, Michael Halliday và các luận điểm Việt ngữ học của Cao Xuân Hạo, Nguyễn Văn Hiệp. Lý thuyết xác định vị từ là hạt nhân ngữ nghĩa của câu, quy định số lượng và bản chất của các diễn tố bắt buộc (actants) cũng như chu tố mở rộng (circonstants). Khung phân loại xác lập 5 lớp vị từ chính dựa trên 3 tiêu chí [+/-Động], [+/-Chủ ý], [+/-Nội tại], trong đó vị từ hành động mang đặc trưng [+Động, +Chủ ý] và vị từ quá trình mang đặc trưng [+Động, -Chủ ý]. Hệ thống vai nghĩa chuẩn hóa bao gồm hơn 15 vai nghĩa tiêu biểu như: Tác thể (Agent), Hành thể (Actor), Quá thể (Processor), Bị thể (Patient), Tiếp thể (Recipient), Tạo thể (Factitive), Đích (Goal), Nguồn (Source), Đối thể (Object).

Thứ hai là hệ hình thức văn phạm kết nối cây từ vựng hóa (Lexicalized Tree Adjoining Grammar - LTAG/FTAG) do Joshi và Anne Abeillé phát triển. Văn phạm TAG được định nghĩa hình thức bằng bộ 5 thành phần $(\Sigma, N, I, A, S)$, gồm tập ký hiệu kết thúc, tập ký hiệu không kết thúc, tập cây khởi đầu (initial tree), tập cây phụ trợ (auxiliary tree) và tiên đề câu. TAG vận hành dựa trên hai phép toán hợp nhất cây: phép thế (substitution) tại các nút lá và phép nối (adjoining) tại các nút trung gian, tuân thủ 4 nguyên tắc xây dựng cây cơ sở: neo từ vựng, đồng xuất hiện vị từ - đối số, ngữ nghĩa nhất quán và tính phi hỗn hợp.

Thứ ba là logic toán học và ngữ nghĩa lỗ hổng (Hole Semantics). Ngữ nghĩa của câu được hình thức hóa thành công thức logic tân từ cấp một dạng $R(t_1, t_2, ..., t_n)$. Khung ngữ nghĩa lỗ hổng xử lý hiện tượng mơ hồ phạm vi ngữ nghĩa thông qua tập nhãn $L$, tập lỗ hổng $H$ và tập ràng buộc $C$, cho phép chuyển đổi biểu diễn dưới đặc tả (underspecified representation) thành các biểu thức logic tường minh.

Phương pháp nghiên cứu

Nghiên cứu sử dụng nguồn dữ liệu thực nghiệm gồm 550 câu đơn tiếng Việt tiêu biểu, được trích xuất từ 15 tác phẩm văn học kinh điển, hơn 30 bài báo thời sự và Từ điển tiếng Việt. Dữ liệu được chọn lọc theo phương pháp chọn mẫu có chủ đích (purposive sampling) nhằm bao quát đầy đủ các cấu trúc cú pháp của vị từ hành động và vị từ quá trình từ đơn trị, song trị đến tam trị.

Quy trình phân tích kết hợp phương pháp miêu tả cấu trúc cú pháp - ngữ nghĩa, phân tích thành phần diễn tố, gán nhãn vai nghĩa và áp dụng các thủ pháp cải biến như lược bỏ, bị động hóa để kiểm chứng ranh giới ngữ pháp. Sau khi xác lập cấu trúc lý thuyết, nhóm tác giả tiến hành mô hình hóa bằng cây FTAG và đóng gói vào 3 tệp dữ liệu chuẩn của hệ thống TuLiPA (Đại học Tübingen): tệp thông tin hình thái, tệp từ vựng cú pháp và tệp mô tả ngữ pháp - ngữ nghĩa. Lý do lựa chọn hệ thống TuLiPA là vì công cụ này có khả năng thực thi thuật toán phân tích cú pháp kết hợp tính toán ngữ nghĩa đồng thời dựa trên logic tân từ, hỗ trợ xuất cây cú pháp và biểu diễn logic chính xác. Toàn bộ quy trình nghiên cứu và thực nghiệm được tiến hành liên tục trong thời gian 12 tháng.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Nghiên cứu đã đạt được 3 nhóm phát hiện cốt lõi mang tính đột phá:

Thứ nhất, phân loại và hình thức hóa thành công 8 tiểu loại vị từ hành động tiếng Việt. Nhóm vị từ hành động vô tác ([-Chuyển tác]) được chia thành 4 tiểu loại: vô tác vô hướng (chạy, nhảy - cấu trúc C-V), vô tác có hướng (về quê, sang nhà - cấu trúc C-V-B, chiếm khoảng 28% mẫu khảo sát), vô tác cử động (đứng dậy, lắc đầu) và vô tác ứng xử (nhìn, nghe - yêu cầu bổ ngữ trực tiếp hoặc bổ ngữ gián tiếp chỉ đích). Nhóm vị từ hành động chuyển tác ([+Chuyển tác]) được phân hóa thành 4 tiểu loại: chuyển tác chuyển thái (đánh, bẻ gãy), chuyển tác chuyển vị song trị và tam trị (ngăn chặn, kéo, gửi, tặng - chiếm tỷ lệ 35%), chuyển tác tạo tác (xây, đóng bàn) và chuyển tác hủy diệt (phá, đập vỡ). Mỗi tiểu loại được gán nhãn chính xác các vai nghĩa như Agent, Patient, Recipient, Goal, Source.

Thứ hai, mô hình hóa chi tiết 8 tiểu loại vị từ quá trình tiếng Việt. Vị từ quá trình vô tác gồm: vô tác chuyển vị đơn trị/song trị (rơi, trôi dạt), chuyển thái (chín, héo), nảy sinh (mọc, sinh ra) và diệt vong (chết, tắt). Vị từ quá trình chuyển tác gồm: chuyển tác chuyển vị (cuốn trôi), chuyển tác chuyển thái (làm hỏng), tạo tác (sinh ra quả) và hủy diệt (thiêu rụi). Các cấu trúc này được ánh xạ thành công sang cây cú pháp khởi đầu với các cấu trúc đặc trưng trên/dưới (Top/Bottom features).

Thứ ba, giải quyết thành công bài toán nhập nhằng ngữ nghĩa nhờ cơ chế Hole Semantics. Trong các trường hợp câu chứa từ phủ định hoặc liên từ phức hợp như cấu trúc "Không học và ngủ", mô hình đã phân giải chính xác 2 phạm vi tác động khác nhau với độ chính xác đạt 100% trên tập thử nghiệm thông qua các công thức gán nhãn $P_0$ và $P_1$.

Thảo luận kết quả

Dữ liệu nghiên cứu được biểu diễn trực quan thông qua sơ đồ cây cú pháp (derived tree), cây dẫn xuất (derivation tree) và bảng ma trận kết hợp thuộc tính. Bảng ma trận thuộc tính thể hiện rõ mối quan hệ giữa các vị từ chỉ hướng (ra, vào, sang, về, đến) và khả năng chuyển đổi vai nghĩa của diễn tố từ Goal sang Source với tỷ lệ tương thích trên 90%.

So với các mô hình CFG truyền thống vốn chỉ biểu diễn được cấu trúc bề mặt hình thức, mô hình FTAG tích hợp ngữ nghĩa thể hiện tính vượt trội khi duy trì mối liên kết trực tiếp giữa cấu trúc cú pháp và biểu thức logic tân từ $R(x, y)$. Khi so sánh với các nghiên cứu LTAG trên tiếng Anh và tiếng Pháp của Anne Abeillé hay Laura Kallmeyer, nghiên cứu đã điều chỉnh thành công các tham số đặc thù của tiếng Việt - một ngôn ngữ không biến hình, đơn lập, nơi trật tự từ và hư từ đóng vai trò quyết định cấu trúc ngữ pháp. Kết quả phân tích cú pháp và tính toán ngữ nghĩa qua hệ thống TuLiPA cho thấy các cây dẫn xuất phản ánh trung thực mối quan hệ phụ thuộc giữa vị từ trung tâm và các tham số ngữ nghĩa.

Đề xuất và khuyến nghị

Dựa trên kết quả nghiên cứu thực nghiệm, luận văn đề xuất 4 nhóm giải pháp chiến lược nhằm thúc đẩy ứng dụng xử lý ngữ nghĩa tiếng Việt:

Thứ nhất, mở rộng quy mô kho ngữ liệu FTAG chuẩn hóa. Cần xây dựng đề án mở rộng cơ sở dữ liệu ngữ pháp cây từ 550 mẫu câu hiện tại lên quy mô tối thiểu 10.000 khung vị từ và 50.000 câu văn bản đa phong cách trong thời gian 24 tháng. Trọng tâm thực hiện thuộc về các viện nghiên cứu ngôn ngữ học phối hợp cùng các trường đại học công nghệ.

Thứ hai, chuẩn hóa hệ nhãn vai nghĩa tiếng Việt tương thích chuẩn quốc tế. Cần tiến hành tích hợp hệ thống vai nghĩa hiện tại với các khung tài nguyên ngữ nghĩa toàn cầu như PropBank và VerbNet. Mục tiêu đạt độ bao phủ trên 95% các hiện tượng ngữ nghĩa tiếng Việt, hoàn thành trong lộ trình 12 tháng do Hội Ngôn ngữ học và cộng đồng NLP Việt Nam chủ trì.

Thứ ba, nâng cấp thuật toán phân tích cú pháp - ngữ nghĩa tự động. Đề xuất các kỹ sư phần mềm tối ưu hóa bộ phân tích TuLiPA, nâng cao tốc độ xử lý câu phức và câu đa vị từ đạt mức dưới 50 mili-giây mỗi câu, giảm tỷ lệ phân tích nhập nhằng xuống dưới 5% trong vòng 18 tháng.

Thứ tư, thương mại hóa và ứng dụng mô hình vào các sản phẩm AI thực tế. Triển khai tích hợp mô đun phân tích ngữ nghĩa FTAG vào các hệ sinh thái ứng dụng thực tế như hệ thống dịch máy tự động Anh - Việt, cổng tìm kiếm thông tin ngữ nghĩa và chatbot hỗ trợ dịch vụ công trong giai đoạn 2 đến 3 năm tới.

Đối tượng nên tham khảo luận văn

Luận văn là tài liệu khoa học chuyên sâu, mang lại giá trị thiết thực cho 4 nhóm đối tượng chính:

Nhóm 1: Các nhà nghiên cứu và nghiên cứu sinh chuyên ngành Ngôn ngữ học máy tính, Xử lý ngôn ngữ tự nhiên. Tài liệu cung cấp cơ sở hình thức hóa hoàn chỉnh để xây dựng các bộ phân tích cú pháp - ngữ nghĩa chuyên sâu cho tiếng Việt.

Nhóm 2: Giảng viên, học viên cao học chuyên ngành Ngôn ngữ học lý thuyết và Ngữ pháp chức năng. Luận văn cung cấp cái nhìn toàn diện, hệ thống về lý thuyết kết trị, ngữ pháp cách của Fillmore và hệ thống phân loại vị từ tiếng Việt của Cao Xuân Hạo.

Nhóm 3: Kỹ sư trí tuệ nhân tạo (AI Enginees) và chuyên gia phát triển phần mềm ngôn ngữ. Cung cấp kiến trúc dữ liệu và phương pháp tích hợp logic toán học (Hole Semantics, logic tân từ cấp 1) vào hệ thống phân tích ngôn ngữ tự nhiên tự động như TuLiPA.

Nhóm 4: Sinh viên các ngành Công nghệ thông tin, Khoa học dữ liệu và Ngôn ngữ học ứng dụng đang thực hiện khóa luận tốt nghiệp về xử lý văn bản, trích xuất thông tin tự động hoặc xây dựng ontology tiếng Việt.

Câu hỏi thường gặp

Văn phạm TAG có ưu điểm gì vượt trội so với ngữ pháp phi ngữ cảnh (CFG) trong xử lý tiếng Việt? Văn phạm TAG thao tác trên cấu trúc cây cục bộ thay vì các chuỗi xâu ký tự, cho phép thể hiện đồng thời cây cú pháp và cây dẫn xuất ngữ nghĩa. Mô hình này giải quyết triệt để các hiện tượng phụ thuộc xa và phụ thuộc chéo trong câu tiếng Việt mà CFG hoàn toàn bất lực.

Vai nghĩa (semantic role) được gán cho các thành phần câu dựa trên nguyên tắc nào? Vai nghĩa được gán dựa trên bản chất sự tình do vị từ trung tâm chi phối và các đặc trưng ngữ nghĩa của danh ngữ như [+/-Con người], [+/-Động vật], [+/-Nơi chốn]. Ví dụ, trong câu vị từ hành động chuyển tác, chủ thể gây tác động được gán vai Agent (Tác thể), còn đối tượng chịu tác động mang vai Patient (Bị thể).

Ngữ nghĩa lỗ hổng (Hole Semantics) giải quyết vấn đề gì trong biểu diễn ngữ nghĩa? Hole Semantics giải quyết hiện tượng mơ hồ về phạm vi tác động ngữ nghĩa của từ phủ định hoặc liên từ, chẳng hạn như câu "Không học và ngủ". Cơ chế này tạo ra biểu diễn dưới đặc tả với các nhãn và phạm vi ràng buộc, cho phép máy tính suy luận chính xác các cách hiểu logic khả dĩ của phát ngôn.

Hệ thống phân tích cú pháp TuLiPA đóng vai trò gì trong công trình này? TuLiPA là môi trường thực thi và kiểm thử tự động, tích hợp bộ phân tích cú pháp LTAG với bộ tính toán ngữ nghĩa dựa trên logic tân từ cấp một. Hệ thống tiếp nhận 3 tệp dữ liệu gồm hình thái, từ vựng, ngữ pháp và tự động xuất ra cây cú pháp cùng công thức logic ngữ nghĩa chuẩn xác.

Tại sao luận văn chỉ tập trung vào vị từ hành động và vị từ quá trình? Vị từ hành động và quá trình là hai nhóm vị từ động ([+Động]) phổ biến và phức tạp nhất trong tiếng Việt, chiếm hơn 60% cấu trúc vị ngữ thực tế. Việc mô hình hóa thành công hai nhóm này tạo tiền đề vững chắc để mở rộng sang các nhóm vị từ tĩnh như vị từ trạng thái, tồn tại và quan hệ.

Kết luận

  • Đóng góp lý luận quan trọng: Xây dựng thành công khung hình thức hóa tích hợp trọn vẹn thành phần ngữ nghĩa vào văn phạm kết nối cây (FTAG) cho tiếng Việt.
  • Hệ thống hóa ngữ liệu sâu rộng: Mô hình hóa chi tiết đặc trưng cú pháp và vai nghĩa của 16 tiểu loại vị từ hành động và vị từ quá trình tiếng Việt.
  • Đột phá trong biểu diễn logic: Kết hợp nhuần nhuyễn logic tân từ cấp một và ngữ nghĩa lỗ hổng nhằm giải quyết triệt để bài toán mơ hồ ngữ nghĩa trong phân tích tự động.
  • Thực nghiệm kiểm chứng thành công: Hiện thực hóa mô hình trên hệ thống TuLiPA, tạo ra pipeline phân tích đồng thời cú pháp và ngữ nghĩa đạt độ chính xác cao.
  • Mở ra hướng nghiên cứu ứng dụng thực tiễn: Cung cấp nền tảng vững chắc để phát triển các ứng dụng dịch máy, hệ thống hỏi đáp thông minh và xử lý ngôn ngữ tự nhiên chuyên sâu cho tiếng Việt trong giai đoạn tới.