Chương 1 - Tổng quan: Giới thiệu tổng quan về đề tài, mục tiêu của đề tài và các đóng góp chính của luận văn. Chương 2 - Cơ sở lý thuyết: Chúng tôi cung cấp một cái nhìn tổng quan về các dạng cú pháp. Sau đó, trình bày các phương pháp xây dựng ngữ liệu trên thế giới và trong nước cho bài toán phân tích cú pháp phụ thuộc. Tiếp theo, chúng tôi sẽ nêu các hướng tiếp cận phân tích cú pháp phụ thuộc và các vấn đề kỹ thuật cần được xem xét khi phát triển kho ngữ liệu.
Cuối cùng là phần trình bày về phương pháp đánh giá kho ngữ liệu cú pháp phụ thuộc. Chương 3 - Xây dựng công cụ chuyển đổi tự động: Trong chương này, chúng tôi trình bày quy trình phát triển kho ngữ liệu của chúng tôi. Tiếp đến sẽ đi chi tiết vào việc thiết kế bộ nhãn và tài liệu hướng dẫn chuyển đổi tự động. Trong tài liệu hướng dẫn này bao gồm phần phát triển bộ luật tìm head và bộ luật gán nhãn.
Cuối cùng, chúng tôi sẽ mô tả công cụ chuyển đổi tự động mà chúng tôi xây dựng. Chương 4 - Xây dựng tài liệu hướng dẫn gán nhãn thủ công: Trình bày những thách thức và giải pháp trong việc xây dựng hướng dẫn chú thích cho tiếng Việt. Đồng thời, chúng tôi cũng thảo luận về phương pháp đảm bảo chất lượng gán nhãn bao gồm tài liệu hướng dẫn gán nhãn, quy trình gán nhãn, Chương 6 - Thực tôi giới thiệu về ngữ liệu thực nghiệm và cách ph ó. Tiên hãnh thttc nghiệm phân tích cú pháp phụ thuộc cho tiếng V Pafser trên kho ngữ liệu đã chuyển đổi.
Sau đó so sánh trưếc và đưa ra kết luận. Ngoài ra, chúng tôi Chương 2 CƠ SỞ LÝ THUYET 2.1 Cú pháp th Trong cú pháp thàn cách khác, cú pháp của câu hay còn gọi có cách tiếp cận chính Tas 0 oach động và áp dụng một trong hai phương pháp top-down hoặc bottom-up. Ta có ví dụ về câu "Tôi là sinh viên" được phân tích theo dạng cú pháp thành tố như trong hình 2. S —]_———- | VP | | —l_— | NP-SBJ | NP-CMP | | | | | Pp-H Vc-H Nn-H PU | | | | T6i la sinh_vién.1: Ví du minh họa cây cú pháp thành tố Trong ví dụ trên, câu * Tôi là sứnh_ uiên” có hai thành phần chính đó là chủ ngữ là ngữ danh từ bao gồm đại từ “7ö” và vị ngữ là ngữ động từ “là siính_ tiên”.
Bằng cách phân tích cú pháp thành tố, xuất phát từ một câu như là một thành tố lớn nhất, sau đó phân tích xuống các thành tố nhỏ hơn. O ví dụ này, vì chủ ngữ chỉ có từ “Tôi” nên ta không thể phân tích tiếp được. Đối với vị ngữ “là sinh_ uiên”, ta có thé phân tích tiếp tục với từ “là” là động từ chính trong câu, “sinh_ vién” là ngữ danh từ bổ nghĩa cho từ “là”. Cú pháp thành tố mang lại nhiều thông tin quan trọng về mặt ngữ pháp cho các bài toán Xử lý ngôn ngữ tự nhiên như dịch máy.
Thế nhưng, bộ luật phân tích cú pháp thành tố lại không thể sử dụng đa dạng cho nhiều loại ngôn ngữ vì từng ngôn ngữ lại có các đặc trưng riêng khác nhau. Điều này dẫn đến việc phát triển bộ phân tích cú pháp rất khó vì phải thiết kế nhiều bộ luật khác nhau phù hợp với từng ngôn ngữ sử dụng.2 Cũ pháp phụ thuộc 2 Cú pháp phụ thuộc dựa trên ngữ nghĩa dé mô tả các mối hệ trong câu dưới dạng nhị phân. Trong cú pháp phụ thuộc, câu d ó các từ trong câu được đại diện bởi các đỉnh và các mối quan Mỗi từ trong câu được xáo## ãn<từ loại 5 ag) và được kết nối với các từ khác thông qua các mối Ộ mối quanjhé phw/thuéc được định nghĩa bởi một loại từ, ví dụ như “chủ n, j ( ừ” Ít 1aÝ modifier - ADVMOD), “tân ngữ” (object - OBJ), “tan n “tinh từ lam pho từ” (adjectival modifier - AMOD). Ta có ví Ôi 1é ân fich theo dang cú pháp phụ thuộc như hình 2.2: NSUBJ ea LTôi Badc là sinh viên viên ` Hình 2.2: Ví dụ minh họa cây cú pháp phụ thuộc Trong ví dụ này, từ “là” là từ trung tâm ngữ nghĩa của câu nên được gan là “ROOT”.
Từ “7” có mối quan hệ “NSUBJ” với từ “là” và từ “sinh_vién” có môi quan hệ “ATTR” với từ “là”. Do tính hữu ích mà cú pháp phụ thuộc mang lại có tính ứng dụng cao như khả năng cung cấp thông tin về ngữ nghĩa của các đối tượng xuất hiện trong câu nên dạng cú pháp này được sử dụng phổ biến trong nhiều bài toán khác nhau của lĩnh vực Xử lý ngôn ngữ tự nhiên như hệ thống dịch máy, hệ thống hỏi dap (question answering) hay trích xuất thông tin (infomation extraction). Trong bài toán phan tích cú pháp phụ thuộc, cú pháp phụ thuộc được biểu dién dưới dang đồ thị có hướng được gán nhãn. Trong đó, các nút (node) trong đồ thị tương ứng các từ có trong câu (bao gồm cả gốc của đồ thị phụ thuộc) và các cung được gán nhãn thể hiện mối quan hệ phụ thuộc giữa các nút.
Thông tin được mã hóa trong biểu diễn cấu trúc phụ thuộc không giống như thông tin được thu thập trong biểu diễn cấu trúc cụm từ - loại biểu diễn cú pháp được sử dụng rộng rãi nhất trong lý thuyết và ngôn ngữ học tính toán. Cấu trúc phụ thuộc chỉ thể hiện mối quan hệ phụ thuộc giữa các từ được phân loại theo các loại chức năng như chủ ngữ (SBJ), tân ngữ (OBJ), v. thay vì nhóm các từ thành cụm từ như cấu trúc cụm từ. Ở hình thức tổng quát nhất, cấu trúc phụ thuộc là một đồ thị có hướng đơn giản.
Do đó, cách biểu diễn một cây cú pháp phụ thuộc đúng đắn cần phải thỏa các tính chất[13] sau: e Acyclic: Đồ thị có hướng không có bất kỳ chu trình có hướng (directed cycles) nào. e Single-head: Ngoại trừ nút gốc (root node), mỗi đỉnh chỉ có duy nhất cung chỉ tới (incoming arc) đỉnh đó. e Connectivity: Mọi đỉnh phân biệt của đồ thị đều có thể tìm được đường đi đến các đỉnh còn lại mà không tính hướng của cung. e Projectivity: Không có sự xuất hiện của các cạnh chéo (cross-edges).
,Z2 root a» Z>yZ¬x John N hit the ball with the bat nlf ne ft “VN ee hy ¢hude[3]].3, mối a một vòng cung có hướng và mỗi từ chi có đúng một từ trung é hiện được tính chất không có cạnh chéo khi không có vòng cung 2.3 Các dạng cú pháp khác Ngoài hai dạng cú pháp đã được trình bày ở trên, trên thế giới vẫn có một số treebanks được tạo ra ang cách kết hợp phân tích cú pháp thành tố và phân tích cú pháp phụ thuộc như Kho ngữ liệu TIGER[6] cho tiếng Dic. Trong kho ngữ liệu này, mỗi câu được biểu diễn dưới dạng cây cú pháp mà rong đó các nút non-terminal biểu diễn nhãn theo cú pháp thành tố và các cạnh biểu thị nhãn cú pháp phụ thuộc như trong hình 2. Ngoài ra, kho ngữ liệu Syntatic-Semantic[44] cho tiếng Ý cũng sử dung dạng kết hợp này, tuy nhiên khác với kho ngữ liệu TIGER|6] cho tiếng Dức, kho ngữ liệu này biểu diễn cả hai cú pháp ở hai lớp khác nhau và biểu diễn câu cú pháp bằng cách kết hợp lại như hình 2. Một số kho ngữ liệu khác như Sinica cho tiếng Trung hay Turing cho tiếng Anh sử dụng phương pháp gán nhãn ngữ nghĩa (semantic annotation) để cải thiện chất lượng cho kho ngữ liệu.
Đối với kho ngữ iéu Sinica[10] cho tiếng Trung, vai trò ngữ nghĩa được gán cho từng thành tố. Trong khi đó, kho ngữ 8 © [ss] [HO] Ein Mann kommt 9 der lacht ART NN VVFIN $, PRELS VVFIN Masc.Sg a man comes who laughs Hình 2.4: Biểu diễn cây cú pháp kết hợp của kho ngữ liệu TIGER{6]. = Constituent structure annotation £-[ sn- [Giovanni], ibar-[sembra] , sv2- [arrivare, savv- [domani] ] ] £-[ sn-sogg [Giovanni], ibar- [sembra] , = Functional annotation = sv2-arg [arrivare, sogg (sembrare, Giovanni) arg (sembrare, —, Ze savv-mod [domani]] ] arrivare.<status= aperto>) mod (arrivare, domani) sogg (arrivare, Giovanni) ⁄, Hình 2.5: Biểu Gén Cú N của kho agt liệu Syntatic-Semantic[44]. liệu Turin[5] cho tiếng ‘hi -| Fee aa TBs rên đác mối quan hệ phụ thuộc giữa các từ trong câu.2 Ngữ liệ ân tích cú pháp phụ thuộc 2.1 Giới thiệu các kho ngữ liệu trên thé giới Trong suốt một thập kỷ qua, việc xây dựng kho ngữ liệu phụ thuộc nhận được nhiều sự quan tâm trong cộng đồng nghiên cứu ngôn ngữ tự nhiên bởi vì đây là bước tạo ra bộ dữ liệu thực nghiệm phục vụ cho các bài toán ứng dụng trong lĩnh vực NLP nói chung và bài toán phân tích cú pháp phụ thuộc nói riêng.
Chính vì vậy mà không ít nhóm nghiên cứu trên thế giới đã bắt tay vào phát triển các kho ngữ phụ thuộc và tạo được tiếng vang lớn trong cộng đồng. Nổi bật nhất là các công trình xây dựng kho ngữ liệu phụ thuộc dành cho ngôn ngữ Anh. Các kho ngữ liệu này được thực hiện bằng nhiều cách thức khác nhau như gan nhãn phụ thuộc thủ công của Rambow[57] hoặc Cmejrek|6S]. Tuy nhiên, số lượng kho ngữ liệu được phát triển bởi phương thức này rất ít vì những hạn chế về mặt thời gian, nhân lực.
Do đó, các nhà nghiên cứu đã chuyển sang hướng tiếp cận phát triển một kho ngữ liệu phụ thuộc dựa trên cấu trúc phân cụm của kho ngữ liệu thành tố bằng cách thiết lập bộ luật để xây dựng một công cụ chuyển đổi tự động như của Johansson và Nugues[32], de Marneffe và Manning[24], và Choi và Palmer{i1]. Khi vừa được công bố, các kho ngữ liệu ấy không những được đánh giá cao về mặt chất lượng và độ chính xác mà còn là nền móng, tài liệu cơ sở cho các công trình nghiên cứu của những ngôn ngữ khác tham khảo như tiếng Đức|60], tiếng Phap[7], tiếng Trung[37], tiếng Hàn[14]. Phan tích cú pháp phụ thuộc đã và đang phát triển nhộn nhịp hơn bao giờ hết vì tinh ứng dụng của no.2 Giới thiệu các kho ngữ liệu trong nước Với tình hình nghiên cứu trong nước, chúng tôi đã đi tìm kiếm các tài liệu liên quan và thấy rằng số lượng công trình thực hiện đề tài này vẫn còn rất ít cùng với kết quả đạt được chưa cao. Dựa vào số liệu đã được thống kê trong bảng 1.1, độ chính xác cho kho ngữ liệu phụ thuộc tiếng Việt vẫn chưa vượt qua mức 80% khi so với tiếng Anh đạt hơn 95% và tiếng Trung hơn 85%.