Khóa luận tốt nghiệp: Tầm ảnh hưởng của tách từ trong nhận dạng chuỗi tiếng Việt

• Tác giả: Võ Hồng Thiên
• Người hướng dẫn: ThS. Nguyễn Văn Kiệt
• Trường học: Đại học Quốc gia TP. Hồ Chí Minh - Trường Đại học Công nghệ Thông tin
• Chuyên ngành: Công nghệ thông tin
• Đề tài: Nghiên cứu tách từ và ảnh hưởng đến nhận dạng chuỗi tiếng Việt
• Loại tài liệu: khóa luận tốt nghiệp
• Năm xuất bản: 2022
• Địa điểm: TP. Hồ Chí Minh

• LỜI CẢM ƠN
• 1. CHƯƠNG 1: TỔNG QUAN
• 1.1. ĐẶT VẤN ĐỀ
• 1.1.1. Đặc điểm ngôn ngữ
• 1.1.2. Kỹ thuật tách từ
• 1.1.2.1. Word-based tokenization algorithm (Thuật toán mã hóa dựa trên từ)
• 1.1.2.2. Subword-based tokenization algorithm (Thuật toán mã hóa dựa trên từ phụ)
• 1.1.2.3. Character-based tokenization algorithm (Thuật toán mã hóa dựa trên ký tự)
• 1.2. Đối tượng và phạm vi nghiên cứu
• 1.2.1. Đối tượng
• 1.2.2. Phạm vi
• 1.3. Giới thiệu bài toán
• 1.4. Bài toán nhận diện cảm xúc theo khía cạnh
• 1.5. Bài toán hệ thống hỏi đáp
• 1.6. Cấu trúc khóa luận
• 1.7. Tính ứng dụng của đề tài
• 2. CHƯƠNG 2: CÔNG TRÌNH NGHIÊN CỨU LIÊN QUAN
• 2.1. Công trình trên thế giới
• 2.1.1. Bài toán phân tích cảm xúc dựa trên khía cạnh
• 2.1.2. Bài toán đọc hiểu tự động
• 2.2. Công trình trong nước
• 2.2.1. Bài toán phân tích tình cảm dựa trên khía cạnh
• 2.2.2. Bài toán đọc hiểu máy
• 3. CHƯƠNG 3: CƠ SỞ LÝ THUYẾT, THỬ NGHIỆM
• 3.1. Dữ liệu sử dụng trong thử nghiệm
• 3.2. Mô hình BiLSTM-CRF
• 3.3. Quy trình thực hiện
• 3.4. Phương pháp đánh giá
• 3.5. Thông số cài đặt mô hình
• 3.5.1. Tham số mô hình PhoBERT và mô hình XLM-R
• 3.5.2. Tham số mô hình BiLSTM-CRF
• 4. CHƯƠNG 4: KẾT QUẢ
• 4.1. Bài toán nhận diện cảm xúc theo khía cạnh
• 4.2. Phân tích kết quả chi tiết
• 4.3. Bài toán nhận diện khía cạnh
• 4.4. Bài toán nhận diện cảm xúc
• 4.5. Kết luận
• 5. CHƯƠNG 5: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
• TÀI LIỆU THAM KHẢO

I. Tổng quan về tách từ và nhận dạng chuỗi tiếng Việt

Tách từ là một bước quan trọng trong xử lý ngôn ngữ tự nhiên (NLP), đặc biệt với tiếng Việt. Nhận dạng chuỗi là bài toán xác định các thực thể trong văn bản. Ngữ nghĩa đóng vai trò trung tâm trong việc hiểu và xử lý ngôn ngữ. Từ khóa ngữ nghĩa và từ khóa LSI giúp tối ưu hóa nội dung và cải thiện hiệu suất nhận dạng. Phân tích ngữ nghĩa và lập chỉ mục ngữ nghĩa là các kỹ thuật hỗ trợ quá trình này. Công nghệ nhận dạng và thuật toán nhận dạng là nền tảng cho các hệ thống NLP hiện đại.

1.1. Đặc điểm ngôn ngữ tiếng Việt

Tiếng Việt thuộc nhóm ngôn ngữ đơn lập, nơi các từ không luôn có nghĩa riêng lẻ. Tách từ trong tiếng Việt phức tạp do sự kết hợp của các âm tiết tạo thành từ có nghĩa. Nhận dạng chuỗi phụ thuộc vào việc xác định ranh giới từ chính xác. Ngữ nghĩa của câu thay đổi tùy thuộc vào cách tách từ, gây ra sự nhập nhằng. Từ khóa ngữ nghĩa và từ khóa LSI giúp giải quyết vấn đề này bằng cách liên kết các từ với ngữ cảnh.

1.2. Kỹ thuật tách từ

Có ba kỹ thuật tách từ phổ biến: mã hóa dựa trên từ, mã hóa dựa trên từ phụ, và mã hóa dựa trên ký tự. Mã hóa dựa trên từ chia văn bản thành các từ riêng lẻ. Mã hóa dựa trên từ phụ giải quyết vấn đề từ vựng lớn và từ OOV. Mã hóa dựa trên ký tự chia văn bản thành các ký tự riêng lẻ, giảm kích thước từ vựng nhưng tăng độ dài chuỗi. Nhận dạng chuỗi tiếng Việt đòi hỏi sự kết hợp của các kỹ thuật này để đạt hiệu quả cao.

II. Ứng dụng của tách từ trong nhận dạng chuỗi

Tách từ ảnh hưởng trực tiếp đến hiệu suất của các bài toán nhận dạng chuỗi. Nhận dạng chuỗi đơn và nhận dạng chuỗi đa là hai bài toán chính. Nhận dạng chuỗi đơn tập trung vào việc xác định một thực thể duy nhất, trong khi nhận dạng chuỗi đa xác định nhiều thực thể. Ngữ nghĩa và từ khóa ngữ nghĩa giúp cải thiện độ chính xác của các bài toán này. Công nghệ nhận dạng và thuật toán nhận dạng như BiLSTM-CRF và PhoBERT được sử dụng rộng rãi.

2.1. Bài toán nhận diện cảm xúc theo khía cạnh

Nhận diện cảm xúc theo khía cạnh là bài toán nhận dạng chuỗi đa, nơi cần xác định nhiều thực thể liên quan đến cảm xúc. Tách từ chính xác giúp xác định các khía cạnh và cảm xúc liên quan. Ngữ nghĩa của từ và cụm từ đóng vai trò quan trọng trong việc phân tích cảm xúc. Từ khóa ngữ nghĩa và từ khóa LSI giúp liên kết các từ với ngữ cảnh cụ thể. Công nghệ nhận dạng như PhoBERT và XLM-R được sử dụng để cải thiện hiệu suất.

2.2. Bài toán đọc hiểu tự động

Đọc hiểu tự động là bài toán nhận dạng chuỗi đơn, nơi cần xác định một thực thể duy nhất trong văn bản. Tách từ chính xác giúp xác định câu trả lời chính xác từ văn bản. Ngữ nghĩa của câu hỏi và văn bản đóng vai trò quan trọng. Từ khóa ngữ nghĩa và từ khóa LSI giúp liên kết câu hỏi với văn bản. Công nghệ nhận dạng như BiLSTM-CRF và PhoBERT được sử dụng để cải thiện hiệu suất.

III. Kết quả và đánh giá

Tách từ có ảnh hưởng đáng kể đến hiệu suất của các bài toán nhận dạng chuỗi. Nhận dạng chuỗi đơn và nhận dạng chuỗi đa đều được cải thiện khi sử dụng các kỹ thuật tách từ phù hợp. Ngữ nghĩa và từ khóa ngữ nghĩa giúp tăng độ chính xác của các bài toán. Công nghệ nhận dạng và thuật toán nhận dạng như BiLSTM-CRF và PhoBERT đạt hiệu suất cao trong các thử nghiệm. Tối ưu hóa SEO và tối ưu nội dung cũng được cải thiện nhờ việc sử dụng từ khóa LSI.

3.1. Phân tích kết quả thử nghiệm

Các thử nghiệm trên bộ dữ liệu UIT-ViSD4SA và UIT-ViQuAD cho thấy tách từ chính xác giúp cải thiện hiệu suất của các bài toán nhận dạng chuỗi. Nhận diện cảm xúc theo khía cạnh đạt độ chính xác cao hơn khi sử dụng từ khóa ngữ nghĩa và từ khóa LSI. Đọc hiểu tự động cũng được cải thiện nhờ việc xác định chính xác các thực thể trong văn bản. Công nghệ nhận dạng như PhoBERT và XLM-R đạt hiệu suất cao trong các thử nghiệm.

3.2. Đánh giá thực tiễn

Tách từ và nhận dạng chuỗi có ứng dụng rộng rãi trong các hệ thống NLP. Nhận diện cảm xúc theo khía cạnh giúp cải thiện dịch vụ khách hàng. Đọc hiểu tự động hỗ trợ các hệ thống hỏi đáp tự động. Ngữ nghĩa và từ khóa ngữ nghĩa giúp tối ưu hóa nội dung và cải thiện hiệu suất. Công nghệ nhận dạng và thuật toán nhận dạng như BiLSTM-CRF và PhoBERT là nền tảng cho các ứng dụng NLP hiện đại.