Luận án tiến sĩ về giải pháp cải tiến chất lượng dịch tự động tiếng Việt

Luận án tiến sĩ nghiên cứu nghiên cứu giải pháp cải tiến chất lượng dịch tự động tiếng việt, phát triển phương pháp mới, đánh giá hiệu quả ứng dụng trong lĩnh vực tại Việt Nam.

• Tác giả: Nguyễn Văn Bình
• Người hướng dẫn: Huỳnh Công Pháp
• Trường học: Đại học Đà Nẵng
• Chuyên ngành: Khoa học máy tính
• Đề tài: Cải Tiến Chất Lượng Dịch Tự Động Tiếng Việt
• Loại tài liệu: luận án tiến sĩ
• Năm xuất bản: 2021
• Địa điểm: Đà Nẵng

Mục lục chi tiết

• LỜI CAM ĐOAN
• 1. CHƯƠNG 1: TỔNG QUAN VỀ DỊCH TỰ ĐỘNG VÀ CHẤT LƯỢNG DỊCH TỰ ĐỘNG TIẾNG VIỆT HIỆN NAY
• 1.1. Nghiên cứu tổng quan về dịch tự động, kho ngữ liệu, các phương pháp cải tiến và đánh giá chất lượng dịch tự động
• 1.2. Các phương pháp dịch tự động
• 1.3. Kho ngữ liệu trong dịch tự động
• 1.4. Đánh giá chất lượng hệ thống dịch tự động
• 1.5. Các nghiên cứu liên quan đến xây dựng và cải tiến chất lượng dịch tự động tiếng Việt
• 1.5.1. Nghiên cứu xây dựng hệ thống dịch và đánh giá chất lượng dịch
• 1.5.2. Nghiên cứu xây dựng và cải tiến kho ngữ liệu tiếng Việt
• 1.6. Thực trạng chất lượng dịch tự động tiếng Việt
• 1.7. Kết luận Chương 1
• 2. CHƯƠNG 2: GIẢI PHÁP CẢI TIẾN CHẤT LƯỢNG DỊCH TỰ ĐỘNG TIẾNG VIỆT
• 2.1. Đánh giá chất lượng các hệ thống dịch tự động tiếng Việt
• 2.1.1. Tổ chức đánh giá
• 2.1.2. Nhận xét, đánh giá
• 2.2. Đề xuất giải pháp đánh giá chất lượng dựa trên quá trình hiệu đính bản dịch
• 2.3. Giải pháp cải tiến chất lượng dịch tiếng Việt dựa vào kho ngữ liệu lớn
• 2.3.1. Các nghiên cứu liên quan đến cải tiến chất lượng kho ngữ liệu
• 2.3.2. Giải pháp nâng cao chất lượng kho ngữ liệu
• 2.3.3. Đánh giá vai trò của kho ngữ liệu đối với kết quả hệ thống dịch
• 2.4. Giải pháp cải tiến chất lượng dịch tiếng Việt dựa vào mô hình máy học mạng nơ ron
• 2.4.1. Giải pháp cải tiến chất lượng dịch tiếng Việt bằng mô hình học máy mạng nơ ron
• 2.4.2. Kết quả xây dựng hệ thống dịch
• 2.4.3. Giải pháp xây dựng hệ thống dịch ngữ nghĩa
• 2.5. Kết luận Chương 2
• 3. CHƯƠNG 3: HỆ THỐNG DỊCH TỰ ĐỘNG ANH-VIỆT VIKI TRANSLATOR
• 3.1. Xây dựng kho ngữ liệu
• 3.1.1. Quy trình các bước triển khai
• 3.1.2. Xây dựng kho ngữ liệu song ngữ số lượng lớn
• 3.1.3. Xây dựng công cụ hỗ trợ mở rộng ngôn ngữ và ngữ nghĩa
• 3.1.4. Xây dựng kho ngữ liệu ontology
• 3.2. Kết quả thực nghiệm xây dựng ứng dụng dịch Anh – Việt lĩnh vực văn bản pháp luật (VIKI Translator)
• 3.2.1. Quy trình các bước triển khai
• 3.2.2. Tổ chức huấn luyện mô hình và điều chỉnh tham số mô hình
• 3.2.3. Xây dựng các mô đun của hệ thống dịch
• 3.2.4. Đánh giá kết quả
• 3.2.4.1. Kết quả thực nghiệm
• 3.2.4.2. Đánh giá của người dùng
• 3.3. Kết luận Chương 3
• KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
• 3.4. Hướng phát triển
• DANH MỤC CÁC CÔNG TRÌNH KHOA HỌC ĐÃ CÔNG BỐ
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng quan về dịch tự động và chất lượng dịch tự động tiếng Việt hiện nay

Chương này trình bày tổng quan về dịch tự động và chất lượng dịch hiện tại của các hệ thống dịch tiếng Việt. Nghiên cứu chỉ ra rằng, mặc dù có nhiều tiến bộ trong công nghệ dịch tự động, chất lượng dịch giữa các cặp ngôn ngữ ít phổ biến vẫn còn thấp. Các hệ thống như Google và Microsoft đã có những cải tiến đáng kể, nhưng vẫn cần nhiều nỗ lực để nâng cao chất lượng dịch cho tiếng Việt. Đặc biệt, việc đánh giá chất lượng dịch là rất quan trọng để xác định các vấn đề và tìm ra giải pháp cải tiến. Các phương pháp đánh giá hiện tại bao gồm đánh giá chủ quan và khách quan, với các chỉ số như BLEU và NIST. Những nghiên cứu trước đây đã chỉ ra rằng, kho ngữ liệu và phương pháp dịch là hai yếu tố chính ảnh hưởng đến chất lượng dịch. Do đó, việc cải tiến kho ngữ liệu và áp dụng các phương pháp dịch hiện đại như học máy và mạng nơ ron là cần thiết để nâng cao chất lượng dịch tự động tiếng Việt.

1.1. Các phương pháp dịch tự động

Các phương pháp dịch tự động hiện nay chủ yếu bao gồm dịch máy thống kê và dịch máy dựa trên học máy. Dịch máy thống kê sử dụng các mô hình xác suất để dịch từ ngôn ngữ này sang ngôn ngữ khác, trong khi dịch máy dựa trên học máy, đặc biệt là mạng nơ ron, cho phép dịch toàn bộ câu cùng lúc, giúp cải thiện đáng kể chất lượng dịch. Nghiên cứu cho thấy rằng, việc áp dụng mạng nơ ron trong dịch tự động đã mang lại những kết quả khả quan hơn so với các phương pháp truyền thống. Tuy nhiên, vẫn cần có những cải tiến trong việc xây dựng và tối ưu hóa các mô hình này để đạt được hiệu quả tốt nhất trong dịch tự động tiếng Việt.

1.2. Kho ngữ liệu trong dịch tự động

Kho ngữ liệu là một yếu tố quan trọng trong dịch tự động. Chất lượng và số lượng của kho ngữ liệu ảnh hưởng trực tiếp đến kết quả dịch. Nghiên cứu đã chỉ ra rằng, việc mở rộng và cải tiến kho ngữ liệu có thể giúp nâng cao chất lượng dịch. Các giải pháp như hợp nhất kho ngữ liệu và xây dựng kho ngữ liệu lớn đã được đề xuất để cải thiện chất lượng dịch. Hơn nữa, việc xác định danh từ riêng và ranh giới từ ghép trong tiếng Việt cũng là những vấn đề cần được giải quyết để tối ưu hóa quá trình dịch. Các nghiên cứu trước đây đã chứng minh rằng, kho ngữ liệu phong phú và chất lượng cao sẽ giúp các hệ thống dịch tự động hoạt động hiệu quả hơn.

II. Giải pháp cải tiến chất lượng dịch tự động tiếng Việt

Chương này tập trung vào việc đề xuất các giải pháp nhằm cải tiến chất lượng của các hệ thống dịch tự động tiếng Việt. Đánh giá chất lượng hiện tại cho thấy nhiều hệ thống vẫn chưa đáp ứng được yêu cầu của người dùng. Do đó, việc tổ chức đánh giá chất lượng một cách khoa học là rất cần thiết. Các giải pháp được đề xuất bao gồm cải tiến kho ngữ liệu, áp dụng các mô hình học máy hiện đại và xây dựng hệ thống dịch ngữ nghĩa. Cải tiến kho ngữ liệu không chỉ giúp tăng cường chất lượng dịch mà còn giúp hệ thống hiểu rõ hơn về ngữ cảnh và ý nghĩa của văn bản. Việc áp dụng AI trong dịch thuật cũng được nhấn mạnh như một giải pháp tiềm năng để nâng cao chất lượng dịch tự động. Các nghiên cứu cho thấy rằng, việc sử dụng mạng nơ ron trong dịch tự động đã mang lại những kết quả khả quan, giúp cải thiện đáng kể chất lượng dịch.

2.1. Đánh giá chất lượng các hệ thống dịch tự động tiếng Việt

Đánh giá chất lượng các hệ thống dịch tự động tiếng Việt là một bước quan trọng trong việc cải tiến chất lượng dịch. Các phương pháp đánh giá hiện tại bao gồm đánh giá chủ quan và khách quan. Đánh giá chủ quan thường dựa vào cảm nhận của người dùng, trong khi đánh giá khách quan sử dụng các chỉ số như BLEU và NIST để đo lường chất lượng dịch. Nghiên cứu đã chỉ ra rằng, việc tổ chức đánh giá một cách hệ thống và khoa học sẽ giúp xác định rõ ràng các vấn đề trong chất lượng dịch, từ đó đề xuất các giải pháp cải tiến hiệu quả hơn.

2.2. Giải pháp cải tiến kho ngữ liệu

Cải tiến kho ngữ liệu là một trong những giải pháp quan trọng nhất để nâng cao chất lượng dịch tự động. Nghiên cứu đã chỉ ra rằng, việc mở rộng và hợp nhất kho ngữ liệu có thể giúp cải thiện đáng kể chất lượng dịch. Các giải pháp cụ thể bao gồm xây dựng kho ngữ liệu lớn, xác định danh từ riêng và ranh giới từ ghép trong tiếng Việt. Những giải pháp này không chỉ giúp tăng cường chất lượng dịch mà còn giúp hệ thống hiểu rõ hơn về ngữ cảnh và ý nghĩa của văn bản. Việc áp dụng các công nghệ mới trong việc xây dựng và tối ưu hóa kho ngữ liệu cũng là một yếu tố quan trọng để nâng cao chất lượng dịch tự động.

III. Thực nghiệm và đánh giá kết quả

Chương này trình bày các bước thực nghiệm xây dựng kho ngữ liệu lớn và xây dựng mô hình dịch máy mạng nơ ron cho cặp ngôn ngữ Anh – Việt. Kết quả thực nghiệm cho thấy rằng, việc áp dụng các giải pháp đã đề xuất đã mang lại những cải tiến rõ rệt trong chất lượng dịch. Hệ thống dịch VIKI Translator được triển khai trên môi trường Internet đã nhận được phản hồi tích cực từ người dùng. Các chỉ số đánh giá chất lượng dịch như BLEU và NIST đã được cải thiện đáng kể, cho thấy rằng các giải pháp cải tiến kho ngữ liệu và áp dụng mô hình học máy đã phát huy hiệu quả. Hệ thống này không chỉ cung cấp dịch vụ cho người dùng mà còn góp phần nâng cao chất lượng dịch tự động tiếng Việt.

3.1. Kết quả thực nghiệm xây dựng hệ thống dịch

Kết quả thực nghiệm cho thấy rằng, việc xây dựng hệ thống dịch tự động VIKI Translator đã mang lại những cải tiến rõ rệt trong chất lượng dịch. Hệ thống này đã được triển khai trên môi trường Internet và nhận được phản hồi tích cực từ người dùng. Các chỉ số đánh giá chất lượng dịch như BLEU và NIST đã được cải thiện đáng kể, cho thấy rằng các giải pháp cải tiến kho ngữ liệu và áp dụng mô hình học máy đã phát huy hiệu quả. Hệ thống này không chỉ cung cấp dịch vụ cho người dùng mà còn góp phần nâng cao chất lượng dịch tự động tiếng Việt.

3.2. Đánh giá hiệu quả của hệ thống dịch

Đánh giá hiệu quả của hệ thống dịch VIKI Translator cho thấy rằng, chất lượng dịch đã được cải thiện rõ rệt so với các hệ thống dịch tự động tiếng Việt hiện có. Hệ thống đã nhận được nhiều phản hồi tích cực từ người dùng, với điểm số trung bình trên 4,5/5,0 từ Google Play và Chrome Extensions. Điều này chứng tỏ rằng, các giải pháp cải tiến đã được áp dụng một cách hiệu quả, giúp nâng cao chất lượng dịch tự động tiếng Việt, đáp ứng nhu cầu ngày càng cao của người dùng.

Trích đoạn nội dung tài liệu

Chương 1. Tổng quan về dịch tự động và chất lượng dịch tự động tiếng Việt hiện nay. Chương này trình bày tổng quan các vấn đề được triển khai nghiên cứu trong luận án, bao gồm các khái niệm cơ bản trong lĩnh vực dịch tự động, các phương pháp dịch, kho ngữ liệu dùng trong dịch tự động, các phương pháp đánh giá chất lượng hệ thống dịch và các nghiên cứu tổng quan của vấn đề cải tiến chất lượng dịch tự động. Nội dung chương này cũng giới thiệu các hệ thống dịch tiếng Việt hiện nay luan an 16 và đánh giá khái quát chất lượng của hệ thống, phân tích các khía cạnh cần nghiên cứu và tổ chức thực nghiệm nhằm cải tiến chất lượng của hệ thống dịch, tập trung đến vấn đề quan trọng nhất là cải tiến kho ngữ liệu và áp dụng phương pháp dịch phù hợp.

Giải pháp cải tiến chất lượng dịch tự động tiếng Việt. Trên cơ sở các phương pháp đánh giá chất lượng hệ thống dịch tiếng Việt đã được nghiên cứu, bao gồm phương pháp đánh giá chủ quan và khách quan, Chương 2 trình bày quy trình đánh giá và xây dựng kịch bản đánh giá chất lượng của một số hệ thống dịch tự động Anh - Việt phổ biến nhất hiện nay. Từ thực trạng chất lượng dịch nhận được luận án đề xuất một số giải pháp nhằm cải tiến chất lượng của các kho ngữ liệu tiếng Việt ở khía cạnh số lượng và chất lượng, sau đó triển khai thực nghiệm một số giải pháp cải tiến và tiến hành xây dựng kho ngữ liệu lớn phục vụ việc huấn luyện các mô hình dịch tiếng Việt chất lượng tốt. Về phương pháp dịch, luận án đề xuất áp dụng mô hình dịch mạng nơ ron cho cặp ngôn ngữ Anh – Việt để ứng dụng những ưu điểm nổi bật của phương pháp học máy sử dụng mạng nơ ron.

Đồng thời, đề xuất giải pháp để triển khai hệ thống dịch ngữ nghĩa dựa trên ngữ cảnh, giúp cho các hệ thống dịch có thể cung cấp thêm nhiều tầng ngữ nghĩa cho người dùng để hiểu được toàn vẹn nội dung văn bản. Thực nghiệm và đánh giá kết quả. Từ các giải pháp đề xuất ở Chương 2, nội dung Chương 3 triển khai các bước thực nghiệm xây dựng kho ngữ liệu lớn và xây dựng mô hình dịch máy mạng nơ ron cho cặp ngôn ngữ Anh – Việt, sau đó xây dựng hệ thống dịch lĩnh vực văn bản quy phạm pháp luật VIKI Translator và triển khai trên môi trường Internet để cung cấp dịch vụ cho người dùng thực tế, qua đó đánh giá hiệu quả của hệ thống dịch và các phương pháp đã đề xuất. Đóng góp chính của luận án Luận án có 05 đóng góp chính sau đây liên quan đến giải pháp cải tiến chất lượng dịch tự động tiếng Việt: (1) Triển khai đánh giá chất lượng của các hệ thống dịch tự động tiếng Việt đang hoạt động một cách đầy đủ và chi tiết, từ đó công bố các số liệu khoa học minh luan an 17 chứng chất lượng dịch tự động tiếng Việt.

Các bước thực hiện gồm: xây dựng bộ dữ liệu đánh giá đầy đủ, tin cậy; lập trình ứng dụng hỗ trợ đánh giá; tổ chức đánh giá theo cả phương pháp chủ quan (đánh giá tự động thông qua các chỉ số BLEU, NIST) và khách quan (do con người thực hiện); thu nhận số liệu và phân tích, đánh giá. Từ quá trình triển khai đánh giá này, luận án cũng đề xuất giải pháp đánh giá chất lượng hệ thống dịch thông qua quá trình hậu xử lý nhằm giúp tiết kiệm thời gian và nguồn lực tổ chức đánh giá. Kết quả đóng góp này được thể hiện ở công trình số (2,6) (2) Đề xuất được giải pháp cải tiến chất lượng dịch tiếng Việt thông qua cải tiến kho ngữ liệu. Luận án đã nghiên cứu và minh chứng được một trong những tác nhân quan quan trọng ảnh hưởng đến chất lượng dịch tự động của các hệ thống dịch đó là kho ngữ liệu.

Do đó, luận án đã tập trung đề xuất và triển khai các giải pháp khác nhau để cải tiến kho ngữ liệu bao gồm cả khía cạnh chất lượng và khối lượng. Các giải pháp cụ thể đó là mở rộng và hợp nhất kho ngữ liệu; giải pháp xây dựng kho ngữ liệu lớn; giải pháp xác định danh từ riêng bằng cách kết hợp thuật toán Maximum Matching và phân tích mối quan hệ giữa các thành tố văn bản; giải pháp xác định ranh giới từ ghép tiếng Việt từ mô hình phân phối từ và cụm từ trong văn bản. Giải pháp cải tiến chất lượng dịch tiếng Việt bằng cách cải tiến kho ngữ liệu đã được triển khai cài đặt, thử nghiệm và đánh giá đã cho kết quả chất lượng dịch được cải tiến rõ nét, thể hiện ở các công trình (1,4,5,8,9). (3) Đề xuất giải pháp cải tiến chất lượng dịch tiếng Việt bằng phương pháp dịch trí tuệ nhân tạo, áp dụng mô hình học máy mạng nơ ron.

Đây được xem như giải pháp mới, tốt nhất tại thời điểm nghiên cứu và đề xuất (năm 2017) để cải tiến chất lượng dịch tự động nói chung, nhất là dịch tự động tiếng Việt. Giải pháp áp dụng mạng nơ ron mà luận án đề xuất cho phép dịch toàn bộ câu cùng lúc thay vì dịch theo cụm từ như phương pháp dịch máy thống kê. Phương pháp mạng nơ ron ưu việt hơn tất cả các phương pháp trước đó vì có thể hiểu được cả ngữ nghĩa của câu thay vì dịch dựa trên bộ nhớ dịch các cụm từ. Giải pháp này đã được luận án đề xuất, triển khai, cài đặt thử nghiệm và đã cho ra kết quả dịch có chất lượng tốt hơn nhiều so với các phương pháp khác và với các hệ thống dịch tự động tiếng Việt đang hoạt động hiện nay đối với lĩnh vực hẹp được thử nghiệm, thể hiện tại công trình (3,7).

luan an 18 (4) Đề xuất giải pháp mới để xây dựng hệ thống dịch tự động hướng ngữ nghĩa. Luận án đề xuất mô hình và giải pháp xây dựng hệ thống dịch tự động hướng ngữ nghĩa dựa theo ngữ cảnh thông qua cải tiến mô hình dịch sử dụng mạng nơ ron kết hợp với kho ngữ liệu lớn đã được làm giàu ngữ nghĩa. Bằng giải pháp này, kết quả dịch được hệ thống xử lý ngữ nghĩa trước khi hiển thị cho người dùng, từ đó biểu diễn thêm các tầng ngữ nghĩa khác giúp cho bản dịch có đầy đủ thông tin và người đọc có thể hiểu toàn vẹn ý nghĩa của bản dịch. Kết quả đóng góp này được thể hiện ở công trình số (10,11) (5) Đóng góp về mặt thực nghiệm và sản phẩm sử dụng thực tế: xây dựng, triển khai thực nghiệm được hệ thống dịch tự động Anh –Việt VIKI Translator, cho kết quả thử nghiệm chất lượng dịch tiếng Việt lĩnh vực hẹp (văn bản quy phạm pháp luật) tốt hơn so với các hệ thống dịch tiếng Việt đang hoạt động.

Hệ thống dịch đã cung cấp cho người dùng thông qua môi trường Internet tại địa chỉ https://vikitranslator.000 lượt người dùng trên trang web, hơn 30.000 lượt tải và cài đặt phần mềm, nhận được đánh tích cực từ phía người dùng với điểm số trung bình trên 4,5/5,0 từ Google Play và Chrome Extensions. Có hơn 30 bài viết từ các blog, trang web khác viết bài đánh giá và hướng dẫn sử dụng, với 582.561 liên kết về trang chủ của hệ thống. Bên cạnh đó, một kết quả quan trọng khác có ý nghĩa thực tế và đóng góp về mặt thực nghiệm mà luận án đã xây dựng được đó là kho ngữ liệu lớn và có chất lượng tốt các cặp ngôn ngữ Anh – Việt với hơn 1.000 cặp câu song ngữ (phần lớn thuộc lĩnh vực văn bản quy phạm pháp luật). luan an 19 TỔNG QUAN VỀ DỊCH TỰ ĐỘNG VÀ CHẤT LƯỢNG DỊCH TỰ ĐỘNG TIẾNG VIỆT HIỆN NAY 1.

Giới thiệu Theo định nghĩa của từ điển Cambridge, dịch tự động hay còn gọi là dịch máy (tiếng Anh: machine translation, thường được viết tắt trong tiếng Anh là: MT) là quá trình chuyển đổi văn bản từ ngôn ngữ này sang ngôn ngữ khác bằng máy tính. Theo mô tả tại [4], thuật ngữ dịch tự động được dùng để chỉ các hệ thống máy tính chịu trách nhiệm tạo ra các bản dịch và tự động hóa toàn bộ quá trình dịch, có thể có hoặc không có sự hỗ trợ của con người. Dịch tự động (MT) khác với phương pháp dịch CAT (Computer-Aided Translation), trong đó người dịch sẽ sử dụng một phần mềm máy tính để hỗ trợ cho việc dịch thuật nhằm tăng hiệu quả của quá trình dịch thuật và tiết kiệm thời gian. Trong các nghiên cứu về lĩnh vực dịch tự động, văn bản đầu vào cần dịch được gọi là văn bản nguồn (được viết bằng ngôn ngữ nguồn) và văn bản đã được máy tính dịch gọi là văn bản đích (được viết bằng ngôn ngữ đích).

Tổng quan về bài toán dịch tự động có thể mô tả trong Hình 1. Âm thanh Văn Bộ máy Văn Hình ảnh Chuyển bản dịch tự bản nguồn đổi sang động đích âm thanh, Tín hiệu hình ảnh, tín hiệu Văn bản Dữ liệu đầu vào Kết quả dịch Hình 1. Tổng quan bài toán dịch tự động Mục tiêu lý tưởng của các hệ thống dịch là tạo ra được các bản dịch chất lượng cao, có thể sử dụng và thay thế cho công việc dịch thuật thủ công của con người. Tuy luan an 20 nhiên, trên thực tế kết quả dịch cần phải được chỉnh sửa lại.

Quá trình chỉnh sửa kết quả dịch của các hệ thống dịch tự động được gọi là quá trình hiệu đính bản dịch (post- edited). Xây dựng và ứng dụng các hệ thống dịch tự động là xu thế tất yếu hiện nay, vì các hệ thống này sẽ giúp cho việc dịch thuật giữa các ngôn ngữ trở nên dễ dàng, nhanh chóng và tiết kiệm. Tính đến năm 2021, sau 15 năm triển khai, hệ thống Google Translate đã hỗ trợ dịch tự động 109 ngôn ngữ, cung cấp dịch vụ cho hàng triệu người sử dụng mỗi ngày. Trong khi đó, Microsoft Translator cũng là hệ thống dịch tự động được nhiều người sử dụng và hỗ trợ 90 ngôn ngữ.

Một số sản phẩm phục vụ dịch tự động giữa tiếng Việt với các ngôn ngữ khác cũng được nghiên cứu như phần mềm EVTtran (EV-Shuttle), công cụ dịch văn bản của Lạc Việt, Vdict. Bên cạnh tính năng dịch trực tiếp văn bản còn có nhiều dịch vụ cung cấp ứng dụng khác có sử dụng kết quả của hệ thống dịch: dịch toàn bộ trang web, dịch nội dung email, nhận dạng văn bản trên hình ảnh và dịch, nhận dạng giọng nói và dịch sang ngôn ngữ khác.