Luận án tiến sĩ: Nâng cao hiệu quả phân tích cú pháp tiếng Việt theo tiếp cận học máy thống kê

• Tác giả: Nguyễn Thị Lương
• Người hướng dẫn: TS. Lê Hồng Phương
• Trường học: Trường Đại học Khoa Học Tự Nhiên, Đại Học Quốc Gia Hà Nội
• Chuyên ngành: Cơ sở toán cho tin học
• Đề tài: Nghiên Cứu Nâng Cao Hiệu Quả Phân Tích Cú Pháp Tiếng Việt Theo Tiếp Cận Học Máy Thống Kê
• Loại tài liệu: Luận án tiến sĩ
• Năm xuất bản: 2020
• Địa điểm: Hà Nội

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• MỞ ĐẦU
• 1. CHƯƠNG 1: CƠ SỞ LÝ THUYẾT
• 1.1. Khái niệm cơ bản trong tiếng Việt
• 1.2. Cú pháp thành phần
• 1.2.1. Bài toán phân tích cú pháp thành phần
• 1.2.2. Phương pháp phân tích cú pháp thành phần
• 1.2.3. Khảo sát nghiên cứu cho phân tích cú pháp thành phần
• 1.3. Cú pháp phụ thuộc
• 1.3.1. Bài toán phân tích cú pháp phụ thuộc
• 1.3.2. Biểu diễn cú pháp phụ thuộc
• 1.3.3. Các thuật toán phân tích cú pháp phụ thuộc
• 1.3.4. Khảo sát nghiên cứu cho phân tích cú pháp phụ thuộc
• 1.4. Gán nhãn vai nghĩa
• 1.4.1. Bài toán gán nhãn vai nghĩa
• 1.4.2. Các công trình liên quan
• 1.4.3. Khảo sát nghiên cứu cho gán nhãn vai nghĩa
• 1.5. Biểu diễn phân bố từ
• 1.5.1. Mô hình Skip-gram
• 1.5.2. Mô hình túi từ liên tục
• 1.5.3. Mô hình GloVe
• 1.5.4. Biểu diễn từ dựa vào ngữ cảnh sâu
• 2. CHƯƠNG 2: XÂY DỰNG KHO NGỮ LIỆU GÁN NHÃN CÚ PHÁP PHỤ THUỘC VÀ VAI NGHĨA TIẾNG VIỆT
• 2.1. Kho ngữ liệu Treebank
• 2.2. Xây dựng kho ngữ liệu gán nhãn cú pháp phụ thuộc
• 2.2.1. Tập nhãn quan hệ phụ thuộc tiếng Việt
• 2.2.2. Xác định cụm từ trung tâm
• 2.2.3. Xác định nhãn phụ thuộc
• 2.2.4. Thuật toán chuyển từ câu cú pháp thành phần thành cú pháp phụ thuộc
• 2.3. Xây dựng kho ngữ liệu gán nhãn vai nghĩa tiếng Việt
• 2.3.1. Bộ nhãn vai nghĩa cho tiếng Việt
• 2.3.2. Tập luật gán nhãn nhãn vai nghĩa
• 2.3.3. Xây dựng trang web hiệu chỉnh nhãn vai nghĩa thô
• 2.3.4. Đánh giá kết quả
• 3. CHƯƠNG 3: NÂNG CAO HIỆU QUẢ PHÂN TÍCH CÚ PHÁP TIẾNG VIỆT
• 3.1. Phân tích cú pháp thành phần
• 3.1.1. Một số văn phạm phổ biến
• 3.1.2. Phương pháp phân tích Shift-Reduce
• 3.1.3. Phương pháp self-attention
• 3.1.4. Đánh giá kết quả
• 3.1.5. Kết luận phân tích cú pháp thành phần
• 3.2. Phân tích cú pháp phụ thuộc tiếng Việt
• 3.2.1. Phân tích cú pháp phụ thuộc dựa trên bước chuyển
• 3.2.2. Phân tích cú pháp dựa trên đồ thị
• 3.2.3. Sử dụng BiLSTM trong phân tích cú pháp phụ thuộc
• 3.2.4. Đánh giá kết quả
• 3.2.5. Kết luận phân tích cú pháp phụ thuộc
• 4. CHƯƠNG 4: PHƯƠNG PHÁP QUY HOẠCH TUYẾN TÍNH NGUYÊN GÁN NHÃN VAI NGHĨA TIẾNG VIỆT
• 4.1. Mô tả thuật toán
• 4.1.1. Khảo sát một số phương pháp
• 4.1.2. Phương pháp đề xuất
• 4.2. Quy hoạch tuyến tính nguyên
• 4.3. Tập đặc trưng sử dụng
• 4.3.1. Đặc trưng cơ bản
• 4.3.2. Đặc trưng mới
• 4.4. Đánh giá kết quả
• 4.4.1. Phương pháp đánh giá
• 4.4.2. Hệ thống cơ bản
• 4.4.3. Chiến lược gán nhãn
• 4.4.4. Phân tích đặc trưng
• 4.4.5. Cải tiến dựa vào ILP
• 4.4.7. Sử dụng biểu diễn phân bố từ trong SRL
• KẾT LUẬN
• CÁC CÔNG TRÌNH CÔNG BỐ CỦA LUẬN ÁN
• TÀI LIỆU THAM KHẢO
• PHỤ LỤC

I. Tổng quan về nâng cao hiệu quả phân tích cú pháp tiếng Việt

Phân tích cú pháp tiếng Việt là một lĩnh vực quan trọng trong xử lý ngôn ngữ tự nhiên. Việc nâng cao hiệu quả phân tích cú pháp không chỉ giúp cải thiện độ chính xác trong các ứng dụng như dịch máy, mà còn hỗ trợ trong việc hiểu ngữ nghĩa của văn bản. Học máy thống kê đã trở thành một công cụ hữu ích trong việc giải quyết các vấn đề này.

1.1. Khái niệm cơ bản về phân tích cú pháp tiếng Việt

Phân tích cú pháp tiếng Việt bao gồm việc xác định cấu trúc cú pháp của câu. Điều này giúp nhận diện các thành phần ngữ pháp và mối quan hệ giữa chúng. Các phương pháp phân tích cú pháp hiện nay thường sử dụng học máy để cải thiện độ chính xác.

1.2. Tầm quan trọng của học máy trong phân tích cú pháp

Học máy cung cấp các mô hình thống kê mạnh mẽ, giúp phân tích cú pháp tiếng Việt hiệu quả hơn. Các mô hình này có khả năng học từ dữ liệu lớn, từ đó cải thiện độ chính xác và khả năng tổng quát của hệ thống.

II. Vấn đề và thách thức trong phân tích cú pháp tiếng Việt

Mặc dù có nhiều tiến bộ, nhưng phân tích cú pháp tiếng Việt vẫn gặp phải nhiều thách thức. Đặc điểm ngôn ngữ đơn âm tiết và sự đa dạng trong cấu trúc câu gây khó khăn cho việc phân tích chính xác. Hơn nữa, việc thiếu hụt dữ liệu gán nhãn chất lượng cao cũng là một vấn đề lớn.

2.1. Đặc điểm ngôn ngữ tiếng Việt ảnh hưởng đến phân tích cú pháp

Tiếng Việt có cấu trúc ngữ pháp phức tạp với nhiều biến thể. Điều này dẫn đến việc phân tích cú pháp gặp khó khăn trong việc xác định các thành phần ngữ pháp và mối quan hệ giữa chúng.

2.2. Thiếu hụt dữ liệu gán nhãn và ảnh hưởng đến độ chính xác

Việc thiếu hụt dữ liệu gán nhãn chất lượng cao làm giảm hiệu quả của các mô hình học máy. Điều này ảnh hưởng trực tiếp đến khả năng phân tích cú pháp chính xác và gán nhãn vai nghĩa trong tiếng Việt.

III. Phương pháp học máy thống kê trong phân tích cú pháp tiếng Việt

Các phương pháp học máy thống kê đã được áp dụng để nâng cao hiệu quả phân tích cú pháp tiếng Việt. Những phương pháp này bao gồm việc sử dụng các mô hình như BiLSTM, Shift-Reduce và Self-Attention để cải thiện độ chính xác và khả năng tổng quát.

3.1. Mô hình BiLSTM trong phân tích cú pháp

Mô hình BiLSTM đã cho thấy hiệu quả cao trong việc phân tích cú pháp tiếng Việt. Nó có khả năng xử lý thông tin theo cả hai chiều, giúp cải thiện độ chính xác trong việc xác định cấu trúc cú pháp.

3.2. Phương pháp Shift Reduce và Self Attention

Phương pháp Shift-Reduce giúp đơn giản hóa quá trình phân tích cú pháp, trong khi Self-Attention cho phép mô hình tập trung vào các từ quan trọng trong câu, từ đó cải thiện độ chính xác của phân tích.

IV. Ứng dụng thực tiễn của phân tích cú pháp tiếng Việt

Phân tích cú pháp tiếng Việt có nhiều ứng dụng thực tiễn trong các lĩnh vực như dịch máy, tóm tắt văn bản và hệ thống trả lời tự động. Những ứng dụng này không chỉ giúp cải thiện trải nghiệm người dùng mà còn nâng cao hiệu quả trong việc xử lý thông tin.

4.1. Ứng dụng trong dịch máy

Phân tích cú pháp giúp cải thiện độ chính xác trong dịch máy, từ đó nâng cao chất lượng bản dịch. Các mô hình học máy thống kê đã được áp dụng để tối ưu hóa quy trình này.

4.2. Hệ thống trả lời tự động

Phân tích cú pháp đóng vai trò quan trọng trong việc phát triển các hệ thống trả lời tự động. Nó giúp hệ thống hiểu rõ hơn về ngữ nghĩa của câu hỏi và đưa ra câu trả lời chính xác.

V. Kết luận và tương lai của phân tích cú pháp tiếng Việt

Phân tích cú pháp tiếng Việt đang trên đà phát triển với sự hỗ trợ của học máy thống kê. Tương lai của lĩnh vực này hứa hẹn sẽ có nhiều tiến bộ hơn nữa, đặc biệt là trong việc xây dựng dữ liệu gán nhãn chất lượng cao và cải thiện các mô hình học máy.

5.1. Hướng phát triển trong nghiên cứu

Nghiên cứu trong lĩnh vực phân tích cú pháp tiếng Việt cần tập trung vào việc xây dựng kho ngữ liệu gán nhãn chất lượng cao. Điều này sẽ giúp cải thiện độ chính xác của các mô hình học máy.

5.2. Tương lai của học máy trong phân tích cú pháp

Học máy sẽ tiếp tục đóng vai trò quan trọng trong việc nâng cao hiệu quả phân tích cú pháp tiếng Việt. Các mô hình mới và cải tiến sẽ giúp giải quyết các thách thức hiện tại và mở ra nhiều cơ hội mới.