Luận văn thạc sĩ về dịch máy thống kê và ứng dụng dịch từ tiếng Việt sang tiếng Anh

Khám phá luận văn thạc sĩ về dịch máy thống kê, ứng dụng dịch từ tiếng Việt sang tiếng Anh và các phương pháp hiệu quả trong nghiên cứu.

• Tác giả: Bùi Thanh Thủy
• Người hướng dẫn: TS. Nguyễn Văn Vinh
• Trường học: Đại học Thái Nguyên
• Chuyên ngành: Khoa học máy tính
• Đề tài: Nghiên cứu về dịch máy thống kê dựa vào cụm từ và ứng dụng dịch từ tiếng Việt sang tiếng Anh
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2015
• Địa điểm: Thái Nguyên

Mục lục chi tiết

• LỜI CAM ĐOAN
• 1. CHƯƠNG 1: TỔNG QUAN VỀ DỊCH MÁY
• 1.1. Khái niệm về hệ dịch máy
• 1.2. Vai trò của dịch máy
• 1.3. Sơ đồ tổng quan của một hệ dịch máy
• 1.4. Dịch máy thống kê là gì?
• 1.5. Tổng quan về dịch thống kê
• 1.6. Mô hình kênh nguồn
• 1.7. Cách tiếp cận Maximum và mô hình gióng hàng
• 1.8. Nhiệm vụ trong dịch thống kê
• 1.9. Ưu điểm của phương pháp dịch thống kê
• 1.10. Phân loại dịch máy thống kê
• 1.10.1. Dịch máy thống kê dựa vào từ (word-based)
• 1.10.2. Dịch máy thống kê dựa trên cụm từ (phrase-based)
• 1.10.3. Dịch máy thống kê dựa trên cú pháp
• 1.11. Một số công cụ và các nhóm nghiên cứu trên Internet về SMT
• 2. CHƯƠNG 2: MÔ HÌNH DỊCH MÁY DỰA TRÊN CỤM TỪ VÀ ÁP DỤNG CHO NGÔN NGỮ VIỆT - ANH
• 2.1. Giới thiệu mô hình dịch máy dựa trên cụm từ
• 2.2. Kiến trúc của mô hình dịch dựa trên cụm từ
• 2.2.1. Mô hình log-linear
• 2.2.2. Mô hình dịch
• 2.2.3. Mô hình ngôn ngữ
• 2.3. Mô tả thuật toán
• 2.4. Đánh giá chất lượng dịch
• 2.5. Phần mềm mã nguồn mở Moses
• 2.6. Quá trình giải mã
• 2.7. Huấn luyện cực tiểu sai số (MERT)
• 2.8. Áp dụng với cặp ngôn ngữ Việt - Anh
• 2.8.1. Xây dựng ngữ liệu (corpus)
• 2.8.2. Tạo corpus thô
• 2.8.3. Tạo corpus song ngữ
• 2.8.4. Phân đoạn từ trong corpus tiếng Việt (Segmentation)
• 2.8.5. Phương pháp Maximum Matching
• 2.8.6. Phương pháp Transformation-based Learning (TBL)
• 2.8.7. Phương pháp dựa trên thống kê từ Internet và thuật giải di truyền
• 2.8.8. Đánh giá theo dữ liệu huấn luyện
• 2.8.9. Đánh giá theo mô hình gióng hàng từ trong văn bản
• 3. CHƯƠNG 3: THỬ NGHIỆM VÀ ĐÁNH GIÁ
• 3.1. Công cụ tiền xử lý cho hệ dịch
• 3.2. Môi trường triển khai
• 3.3. Chuẩn bị dữ liệu đầu vào cho hệ dịch
• 3.4. Huấn luyện mô hình dịch
• 3.5. Kết quả thực nghiệm
• 3.6. Dữ liệu đầu vào
• 3.7. Quá trình chuẩn bị dữ liệu và huấn luyện
• 3.7.1. Chuẩn bị dữ liệu
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng quan về nghiên cứu dịch máy thống kê từ tiếng Việt sang tiếng Anh

Nghiên cứu dịch máy thống kê từ tiếng Việt sang tiếng Anh là một lĩnh vực đang phát triển mạnh mẽ. Dịch máy thống kê sử dụng các mô hình toán học để phân tích và dịch ngôn ngữ. Mục tiêu chính là cải thiện chất lượng dịch và giảm thiểu sai sót. Việc áp dụng công nghệ này giúp tăng cường khả năng giao tiếp giữa các ngôn ngữ khác nhau.

1.1. Khái niệm về dịch máy thống kê

Dịch máy thống kê là phương pháp dịch sử dụng các thuật toán để phân tích dữ liệu ngôn ngữ. Nó dựa trên việc học từ các cặp câu song ngữ để tạo ra các mô hình dịch chính xác hơn.

1.2. Vai trò của dịch máy trong giao tiếp quốc tế

Dịch máy đóng vai trò quan trọng trong việc kết nối các nền văn hóa và ngôn ngữ. Nó giúp giảm bớt rào cản ngôn ngữ, tạo điều kiện thuận lợi cho việc trao đổi thông tin và hợp tác quốc tế.

II. Thách thức trong nghiên cứu dịch máy thống kê từ tiếng Việt sang tiếng Anh

Mặc dù dịch máy thống kê đã đạt được nhiều thành tựu, nhưng vẫn còn nhiều thách thức cần giải quyết. Các vấn đề như ngữ nghĩa, ngữ pháp và văn phong vẫn là những trở ngại lớn. Đặc biệt, việc dịch các cụm từ và thành ngữ là một thách thức không nhỏ.

2.1. Vấn đề ngữ nghĩa trong dịch máy

Ngữ nghĩa là một trong những yếu tố quan trọng nhất trong dịch máy. Việc hiểu đúng nghĩa của từ và cụm từ trong ngữ cảnh là rất cần thiết để đảm bảo chất lượng dịch.

2.2. Thách thức về ngữ pháp và cấu trúc câu

Ngữ pháp và cấu trúc câu giữa tiếng Việt và tiếng Anh có nhiều khác biệt. Điều này gây khó khăn cho việc dịch chính xác và tự nhiên. Các mô hình dịch cần phải được tối ưu hóa để xử lý những khác biệt này.

III. Phương pháp chính trong nghiên cứu dịch máy thống kê

Có nhiều phương pháp được áp dụng trong nghiên cứu dịch máy thống kê. Các phương pháp này bao gồm mô hình dựa trên cụm từ, mô hình ngôn ngữ và các thuật toán tối ưu hóa. Mỗi phương pháp có những ưu điểm và hạn chế riêng.

3.1. Mô hình dịch máy dựa trên cụm từ

Mô hình dịch máy dựa trên cụm từ cho phép dịch các cụm từ thay vì từng từ đơn lẻ. Điều này giúp cải thiện độ chính xác và tự nhiên của bản dịch.

3.2. Thuật toán tối ưu hóa trong dịch máy

Các thuật toán tối ưu hóa như thuật toán EM và A* được sử dụng để cải thiện hiệu suất của hệ thống dịch. Chúng giúp tìm kiếm các câu dịch tốt nhất trong không gian tìm kiếm lớn.

IV. Ứng dụng thực tiễn của dịch máy thống kê từ tiếng Việt sang tiếng Anh

Dịch máy thống kê đã được áp dụng rộng rãi trong nhiều lĩnh vực như giáo dục, thương mại và truyền thông. Các hệ thống dịch tự động như Google Translate đã giúp hàng triệu người sử dụng dịch thuật hàng ngày.

4.1. Ứng dụng trong giáo dục

Trong giáo dục, dịch máy giúp sinh viên và giáo viên tiếp cận tài liệu học tập bằng nhiều ngôn ngữ khác nhau. Điều này tạo điều kiện thuận lợi cho việc học tập và nghiên cứu.

4.2. Ứng dụng trong thương mại

Trong thương mại, dịch máy giúp các doanh nghiệp giao tiếp hiệu quả với khách hàng quốc tế. Nó hỗ trợ trong việc dịch tài liệu, hợp đồng và thông tin sản phẩm.

V. Kết luận và tương lai của nghiên cứu dịch máy thống kê

Nghiên cứu dịch máy thống kê từ tiếng Việt sang tiếng Anh đang mở ra nhiều cơ hội mới. Với sự phát triển của công nghệ, chất lượng dịch sẽ ngày càng được cải thiện. Tương lai của dịch máy hứa hẹn sẽ mang lại nhiều giá trị cho người dùng.

5.1. Tương lai của công nghệ dịch máy

Công nghệ dịch máy sẽ tiếp tục phát triển với sự hỗ trợ của trí tuệ nhân tạo và học máy. Điều này sẽ giúp cải thiện độ chính xác và khả năng hiểu ngữ nghĩa của hệ thống dịch.

5.2. Định hướng nghiên cứu trong tương lai

Nghiên cứu sẽ tập trung vào việc cải thiện các mô hình dịch, tối ưu hóa thuật toán và phát triển các ứng dụng mới. Điều này sẽ giúp nâng cao chất lượng dịch máy và mở rộng khả năng ứng dụng.

Nội dung chính

Tổng quan nghiên cứu

Trong bối cảnh toàn cầu hóa và hội nhập quốc tế ngày càng sâu rộng, nhu cầu giao tiếp và trao đổi thông tin giữa các ngôn ngữ trở nên cấp thiết. Việt Nam, với khối lượng văn bản tiếng Anh ngày càng tăng, đặc biệt cần các giải pháp dịch tự động hiệu quả để hỗ trợ giao tiếp và xử lý tài liệu. Dịch máy thống kê dựa trên cụm từ (Phrase-based Statistical Machine Translation - PBSMT) hiện là phương pháp tiên tiến, cho kết quả dịch tốt nhất trong các hệ thống dịch máy hiện nay, được ứng dụng rộng rãi trong các nền tảng như Google Translate và Vietgle. Luận văn tập trung nghiên cứu mô hình dịch máy thống kê dựa trên cụm từ và ứng dụng cho cặp ngôn ngữ Việt - Anh, nhằm nâng cao chất lượng dịch tự động, giảm thiểu sai sót và tăng tốc độ xử lý.

Mục tiêu nghiên cứu là xây dựng và thử nghiệm hệ thống dịch máy thống kê dựa trên cụm từ cho cặp ngôn ngữ Việt - Anh, đồng thời đánh giá chất lượng dịch qua các chỉ số chuẩn như BLEU và NIST. Phạm vi nghiên cứu bao gồm việc thu thập, xây dựng corpus song ngữ, phát triển mô hình dịch, huấn luyện và đánh giá hệ thống trong môi trường thực nghiệm tại Đại học Thái Nguyên. Ý nghĩa của nghiên cứu không chỉ mang tính khoa học trong lĩnh vực xử lý ngôn ngữ tự nhiên mà còn có giá trị thực tiễn trong việc hỗ trợ dịch tự động, góp phần thúc đẩy giao lưu văn hóa và kinh tế quốc tế.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn dựa trên hai lý thuyết chính trong dịch máy thống kê:

1. Mô hình kênh nguồn (Channel Model): Áp dụng luật Bayes để xác định câu dịch tốt nhất bằng cách tối đa hóa xác suất có điều kiện của câu đích dựa trên câu nguồn. Công thức cơ bản là:

$$ \hat{e} = \arg\max_e p(e|f) = \arg\max_e p(f|e) p(e) $$

trong đó $p(e)$ là mô hình ngôn ngữ của ngôn ngữ đích, $p(f|e)$ là mô hình dịch.

2. Mô hình dịch máy thống kê dựa trên cụm từ (Phrase-based SMT): Thay vì dịch từng từ đơn lẻ, mô hình này dịch các cụm từ liên tiếp, cho phép xử lý ngữ cảnh tốt hơn và giảm nhập nhằng nghĩa. Các cụm từ được trích xuất dựa trên gióng hàng từ (word alignment) và được lưu trong bảng dịch cụm từ (phrase table) với xác suất dịch tương ứng.

Các khái niệm chính bao gồm:

• Gióng hàng từ (Word Alignment): Kỹ thuật xác định mối quan hệ giữa từ trong câu nguồn và từ tương ứng trong câu đích, sử dụng công cụ GIZA++.
• Mô hình ngôn ngữ (Language Model): Mô hình xác suất chuỗi từ trong ngôn ngữ đích, thường sử dụng mô hình n-gram (ví dụ trigram) để đánh giá tính hợp lý của câu dịch.
• Mô hình đảo cụm (Reordering Model): Xử lý sự thay đổi vị trí của các cụm từ trong câu dịch nhằm đảm bảo ngữ pháp và ngữ nghĩa chính xác.
• Thuật toán giải mã (Decoding Algorithm): Thuật toán tìm kiếm câu dịch tối ưu dựa trên các mô hình đã xây dựng, phổ biến là thuật toán A* và beam search.

Phương pháp nghiên cứu

Nguồn dữ liệu chính là corpus song ngữ Việt - Anh được xây dựng tự động từ các tài liệu trên Internet, kết hợp với corpus tiếng Anh chuẩn từ Penn Tree Bank. Quá trình xây dựng corpus bao gồm:

• Thu thập dữ liệu thô tiếng Việt và tiếng Anh.
• Tiền xử lý dữ liệu: chuẩn hóa mã, lọc bỏ văn bản không phù hợp, phân đoạn câu và từ.
• Gióng hàng câu và từ bằng công cụ GIZA++ để tạo bảng dịch cụm từ.

Phương pháp phân tích sử dụng phần mềm mã nguồn mở Moses, bao gồm các bước:

• Huấn luyện mô hình dịch và mô hình ngôn ngữ.
• Tối ưu trọng số mô hình bằng thuật toán huấn luyện cực tiểu sai số (MERT).
• Giải mã câu dịch bằng thuật toán beam search với cấu trúc ngăn xếp đa tầng.

Timeline nghiên cứu kéo dài khoảng 12 tháng, bao gồm các giai đoạn thu thập dữ liệu, xây dựng mô hình, huấn luyện, thử nghiệm và đánh giá kết quả.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Chất lượng dịch cải thiện rõ rệt khi sử dụng mô hình dựa trên cụm từ: Qua đánh giá trên tập dữ liệu thử nghiệm, hệ thống đạt điểm BLEU trung bình khoảng 28.5%, cao hơn đáng kể so với mô hình dịch dựa trên từ (khoảng 20%). Điều này chứng tỏ việc dịch theo cụm từ giúp giữ nguyên ngữ cảnh và giảm sai sót dịch nghĩa.

2. Ảnh hưởng tích cực của mô hình ngôn ngữ trigram: Việc xây dựng mô hình ngôn ngữ trên corpus tiếng Anh với hơn 22.000 unigram, 211.000 bigram và 56.000 trigram giúp tăng tính tự nhiên và chính xác của câu dịch, thể hiện qua việc giảm lỗi cú pháp và ngữ pháp trong bản dịch.

3. Hiệu quả của thuật toán giải mã beam search: Thuật toán này giúp cân bằng giữa chất lượng dịch và thời gian xử lý, với tốc độ giải mã trung bình khoảng vài giây cho một câu dài 15 từ, phù hợp cho ứng dụng thực tế.

4. Tác động của tiền xử lý và phân đoạn từ tiếng Việt: Sử dụng phương pháp Maximum Matching kết hợp với học cải biến (TBL) và thuật toán di truyền giúp phân đoạn từ tiếng Việt chính xác hơn 90%, góp phần nâng cao chất lượng dịch tổng thể.

Thảo luận kết quả

Kết quả nghiên cứu phù hợp với các báo cáo ngành và các nghiên cứu quốc tế về dịch máy thống kê dựa trên cụm từ. Việc sử dụng cụm từ làm đơn vị dịch giúp hệ thống ghi nhớ các cấu trúc ngữ pháp và ngữ nghĩa phức tạp, giảm thiểu lỗi dịch từng từ riêng lẻ. Mô hình ngôn ngữ trigram đóng vai trò quan trọng trong việc lựa chọn câu dịch tự nhiên nhất, đặc biệt trong các trường hợp từ đa nghĩa hoặc cấu trúc câu phức tạp.

Thuật toán giải mã beam search với kỹ thuật pruning giúp giảm không gian tìm kiếm, đảm bảo thời gian xử lý hợp lý mà không làm giảm đáng kể chất lượng dịch. Việc áp dụng các phương pháp phân đoạn từ tiếng Việt tiên tiến giúp xử lý chính xác ranh giới từ, một thách thức lớn trong xử lý ngôn ngữ tự nhiên tiếng Việt.

Các biểu đồ so sánh điểm BLEU giữa mô hình dịch từ và dịch cụm từ, cũng như biểu đồ thời gian giải mã theo độ dài câu, minh họa rõ ràng hiệu quả của phương pháp đề xuất. Bảng thống kê phân đoạn từ tiếng Việt cũng cho thấy sự cải thiện đáng kể khi kết hợp các phương pháp phân đoạn.

Đề xuất và khuyến nghị

1. Mở rộng và làm giàu corpus song ngữ: Tăng kích thước và đa dạng lĩnh vực của corpus huấn luyện để nâng cao độ bao phủ ngôn ngữ và cải thiện chất lượng dịch, đặc biệt với các lĩnh vực chuyên ngành. Chủ thể thực hiện: các nhóm nghiên cứu và tổ chức giáo dục, timeline: 6-12 tháng.

2. Phát triển mô hình ngôn ngữ nâng cao: Áp dụng các mô hình ngôn ngữ dựa trên mạng nơ-ron sâu (Neural Language Models) để tăng khả năng dự đoán và xử lý ngữ cảnh dài hạn. Chủ thể thực hiện: các nhà nghiên cứu NLP, timeline: 12 tháng.

3. Tối ưu thuật toán giải mã: Nghiên cứu và áp dụng các thuật toán giải mã hiệu quả hơn như giải mã song song hoặc giải mã dựa trên học sâu để giảm thời gian xử lý mà vẫn giữ chất lượng dịch. Chủ thể thực hiện: nhóm phát triển phần mềm, timeline: 6 tháng.

4. Cải tiến tiền xử lý và phân đoạn từ tiếng Việt: Kết hợp thêm các kỹ thuật học máy và học sâu để nâng cao độ chính xác phân đoạn từ, đặc biệt với các từ đa nghĩa và cấu trúc phức tạp. Chủ thể thực hiện: các nhà nghiên cứu ngôn ngữ, timeline: 6-9 tháng.

5. Xây dựng hệ thống đánh giá tự động đa chiều: Kết hợp các chỉ số đánh giá như BLEU, NIST, METEOR và đánh giá thủ công để có cái nhìn toàn diện về chất lượng dịch. Chủ thể thực hiện: nhóm nghiên cứu, timeline: 3-6 tháng.

Đối tượng nên tham khảo luận văn

1. Nhà nghiên cứu và sinh viên ngành xử lý ngôn ngữ tự nhiên (NLP): Luận văn cung cấp kiến thức nền tảng và phương pháp thực nghiệm về dịch máy thống kê dựa trên cụm từ, hỗ trợ phát triển các đề tài nghiên cứu liên quan.

2. Các kỹ sư phát triển phần mềm dịch tự động: Tham khảo để áp dụng mô hình dịch máy thống kê và công cụ Moses trong xây dựng hệ thống dịch tự động cho các ứng dụng thực tế.

3. Giảng viên và học viên ngành công nghệ thông tin, trí tuệ nhân tạo: Tài liệu tham khảo hữu ích cho việc giảng dạy và học tập về dịch máy, xử lý ngôn ngữ tự nhiên và các thuật toán liên quan.

4. Doanh nghiệp và tổ chức cần giải pháp dịch tự động: Có thể ứng dụng kết quả nghiên cứu để cải thiện chất lượng dịch trong các sản phẩm phần mềm, dịch vụ hỗ trợ đa ngôn ngữ, đặc biệt trong lĩnh vực thương mại và truyền thông.

Câu hỏi thường gặp

1. Dịch máy thống kê dựa trên cụm từ khác gì so với dịch máy dựa trên từ?
   Dịch máy dựa trên cụm từ dịch các nhóm từ liên tiếp thay vì từng từ riêng lẻ, giúp giữ nguyên ngữ cảnh và giảm sai sót do đa nghĩa, từ đó nâng cao chất lượng dịch.

2. Tại sao cần xây dựng mô hình ngôn ngữ riêng cho ngôn ngữ đích?
   Mô hình ngôn ngữ giúp đánh giá tính tự nhiên và hợp lý của câu dịch, từ đó chọn ra câu dịch có xác suất xuất hiện cao nhất, cải thiện độ chính xác và trôi chảy của bản dịch.

3. Phương pháp phân đoạn từ tiếng Việt nào được sử dụng trong nghiên cứu?
   Kết hợp phương pháp Maximum Matching, học cải biến (TBL) và thuật toán di truyền dựa trên thống kê từ Internet, giúp phân đoạn từ chính xác hơn 90%.

4. Thuật toán giải mã beam search hoạt động như thế nào?
   Beam search giữ lại một số lượng giới hạn các giả thuyết dịch tốt nhất tại mỗi bước, giảm không gian tìm kiếm và tăng tốc độ giải mã mà vẫn đảm bảo chất lượng dịch.

5. Chỉ số BLEU phản ánh chất lượng dịch như thế nào?
   BLEU đo lường sự tương đồng giữa câu dịch máy và câu dịch tham khảo dựa trên tần suất xuất hiện của các n-gram, điểm BLEU càng cao chứng tỏ chất lượng dịch càng tốt.

Kết luận

• Luận văn đã xây dựng thành công hệ thống dịch máy thống kê dựa trên cụm từ cho cặp ngôn ngữ Việt - Anh, đạt điểm BLEU trung bình khoảng 28.5%, cải thiện đáng kể so với mô hình dịch từ.
• Áp dụng mô hình ngôn ngữ trigram và thuật toán giải mã beam search giúp nâng cao chất lượng dịch và tối ưu thời gian xử lý.
• Phương pháp phân đoạn từ tiếng Việt kết hợp nhiều kỹ thuật cho kết quả chính xác, góp phần quan trọng vào hiệu quả dịch.
• Kết quả nghiên cứu có ý nghĩa khoa học và thực tiễn, hỗ trợ phát triển các ứng dụng dịch tự động trong bối cảnh hội nhập quốc tế.
• Các bước tiếp theo bao gồm mở rộng corpus, áp dụng mô hình ngôn ngữ sâu hơn, tối ưu thuật toán giải mã và cải tiến tiền xử lý để nâng cao hơn nữa chất lượng dịch.

Để tiếp tục phát triển và ứng dụng nghiên cứu, các nhà nghiên cứu và kỹ sư được khuyến khích triển khai các đề xuất đã nêu, đồng thời chia sẻ kết quả để đóng góp vào cộng đồng xử lý ngôn ngữ tự nhiên và dịch máy.

Trích đoạn nội dung tài liệu

MỞ ĐẦU 1.Lý do chon đề tài Trong quá trình phát triển và hội nhập văn hóa, kinh tế thế giới. Quá trình giao lƣu giữa ngƣời Việt Nam và ngƣời nƣớc ngoài ngày càng nhiều dẫn đến khó khăn trong quá trình giao tiếp và sử dụng văn bản tài liệu tiếng Anh. Hiện nay có nhiều hệ thống tự động dịch miễn phí trên mạng nhƣ: google translate, vietgle, vdict, lạc việt,… Những hệ thống này cho phép dịch tự động các văn bản với một cặp ngôn ngữ chọn trƣớc (ví dụ dịch từ tiếng Anh sang tiếng Việt). Điều ấy cho thấy sự phát triển của dịch máy càng ngày càng tiến gần hơn đến ngôn ngữ tự nhiên của con ngƣời.

Vào những năm gần đây, dịch máy nói chung, dịch máy thống kê nói riêng đƣợc phát triển mạnh và ứng dụng rộng rãi. Kết quả thực tế của hệ thống dịch này rất tốt. Ngôn ngữ của máy dịch ngày càng gần với ngôn ngữ của ngƣời. Ngoài ra cùng với hệ thống dịch máy thống kê, các sản phẩm ứng dụng ngày càng nhiều giúp con ngƣời trao đổi thông tin dễ dàng hơn, tốc độ nhanh hơn và cùng với nhiều ngôn ngữ hơn.

Hiện nay, phƣơng pháp dịch thống kê dựa trên cụm từ là phƣơng pháp cho kết quả dịch tốt nhất hiện nay. Điều này đƣợc thể hiện của qua các hệ dịch máy của Google, Vietgle. Hơn nữa việc dịch giữa tiếng Việt sang tiếng Anh là rất cần thiết khi khối lƣợng văn bản tiếng Anh ngày càng lớn trong thời kỳ Việt Nam hội nhập sâu rộng với quốc tế. Chính vì lý do đó, tôi lựa chọn và thực hiện đề tài “Nghiên cứu về dịch thống kê dựa vào cụm từ và áp dụng cho dịch từ tiếng Việt sang tiếng Anh”.

Số hoá bởi Trung tâm Học liệu – ĐHTN http://www.vn LUAN VAN CHAT LUONG download : add luanvanchat@agmail. Đối tƣợng và phạm vi nghiên cứu Đối tƣợng nghiên cứu: - Nghiên cứu về các phƣơng pháp, mô hình dịch máy thống kê - Thử nghiệm và đánh giá kết quả dịch từ tiếng Việt sang tiếng Anh Phạm vi nghiên cứu: Đề tài tập trung vào nghiên cứu phƣơng pháp dịch thống kê dựa vào cụm từ và ứng dụng dịch tài liệu, văn bản tiếng Việt, tiếng Anh. Hƣớng nghiên cứu của đề tài - Nghiên cứu, tìm hiểu, phân tích về dịch máy thống kê trên cơ sở cụm từ. - Cài đặt thử nghiệm tối ƣu hóa cụm từ bằng hệ dịch máy thống kế Moses 4.

Phƣơng pháp nghiên cứu - Tìm hiểu các hệ dịch tự động đã có để tìm ra các phƣơng pháp dịch máy mà các hệ dịch đang sử dụng. - Nghiên cứu và đánh giá các phƣơng pháp dịch máy, những ƣu điểm và hạn chế, sau đó tìm ra phƣơng pháp có hiệu quả và đề xuất áp dụng cho bài toán đề tài đặt ra. - Nghiên cứu các phƣơng pháp đánh giá chất lƣợng dịch máy để đánh giá hiệu quả dịch cho hệ thống đề tài đã xây dựng. Số hoá bởi Trung tâm Học liệu – ĐHTN http://www.vn LUAN VAN CHAT LUONG download : add luanvanchat@agmail.

Ý nghĩa khoa học của đề tài Ý nghĩa khoa học: Dịch máy dựa vào cụm từ là một trong những phƣơng pháp dịch máy hiệu quả nhất hiện nay. Hơn nữa dữ liệu văn bản ngày càng lớn và đa dạng. chính vì vậy nghiên cứu về hệ dịch dựa vào cụm từ và ứng dụng cho dịch Việt – Anh có ý nghĩa khoa học cũng nhƣ thực tiễn 6. Cấu trúc luận văn + Chƣơng 1: Tổng quan về dịch máy + Chƣơng 2: Dịch máy thống kê dựa vào cụm từ và áp dụng cho ngôn ngữ Việt _ Anh + Chƣơng 3: Thực nghiêm, đánh giá + Kết luận Số hoá bởi Trung tâm Học liệu – ĐHTN http://www.vn LUAN VAN CHAT LUONG download : add [e-mail] 4 CHƢƠNG 1 – TỔNG QUAN VỀ DỊCH MÁY 1.

Khái niệm về hệ dịch máy 1. Định nghĩa Các hệ dịch máy (machine translation system-MT) là các hệ thống sử dụng máy tính để dịch từ một thứ tiếng (trong ngôn ngữ tự nhiên) sang một hoặc vài thứ tiếng khác. Ngôn ngữ của văn bản cần dịch đƣợc gọi là ngôn ngữ nguồn, ngôn ngữ của văn bản đã dịch ra đƣợc gọi là ngôn ngữ đích. Vai trò của dịch máy Hiện nay trên thế giới có khoảng hơn 5000 ngôn ngữ khác nhau, với một số lƣợng ngôn ngữ lớn nhƣ vậy đã gây ra rất nhiều khó khăn trong việc trao đổi thông tin, trong giao tiếp, đồng thời ngăn cản sự phát triển của thƣơng mại và mậu dịch quốc tế.

Với những khó khăn nhƣ vậy con ngƣời đã phải dùng đến một đội ngũ phiên dịch khổng lồ, để dịch các văn bản, tài liệu, lời nói, ngôn ngữ từ tiếng nƣớc này sang tiếng nƣớc khác. Những công việc đó mang tính chất thủ công, tỉ mỉ đòi hỏi ngƣời dịch phải làm mất rất nhiều thời gian và công sức, trong khi khối lƣợng văn bản cần dịch ngày càng nhiều. Để khắc phục đƣợc những nhƣợc điểm trên con ngƣời đã nghĩ đến việc thiết kế một mô hình tự động trong công việc dịch ngôn ngữ, do đó ngay từ khi xuất hiện chiếc máy tính điện tử đầu tiên ( năm 1946) ngƣời ta đã tiến hành nghiên cứu về dịch máy. Việc đƣa ra mô hình tự động cho việc dịch đã và đang đƣợc phát triển, mặc dù chƣa giải quyết đƣợc triệt để lớp ngôn ngữ tự nhiên.

Nhƣng sự ra đời của chúng đã khẳng định đƣợc lợi ích to lớn về mặt chiến luợc và phát triển kinh tế, đồng thời các vấn đề liên quan đến dịch máy Số hoá bởi Trung tâm Học liệu – ĐHTN http://www.vn LUAN VAN CHAT LUONG download : add [e-mail] 5 cũng là những chủ đề quan trọng của ngành khoa học máy tính, bởi chúng liên quan đến vấn đề xử lí ngôn ngữ tự nhiên, một trong những vấn đề có ý nghĩa nhất mà trí tuệ nhân tạo có khả năng giải quyết. Ngƣời ta tin rằng việc xử lí ngôn ngữ tự nhiên trong đó có dịch máy sẽ là giải pháp cho việc mở rộng cánh cửa đối thoại giữa ngƣời-máy, lúc đó con ngƣời không phải tiếp xúc với máy qua những dòng lệnh cứng nhắc nữa mà có thể giao tiếp một cách trực tiếp với máy. Sơ đồ tổng quan của một hệ dịch máy Đầu vào của một hệ dịch máy là một văn bản viết trong ngôn ngữ nguồn. Văn bản này có thể thu đƣợc từ một hệ soạn thảo hay một hệ nhận dạng chữ viết, lời nói.

Sau đó văn bản có thể đƣợc chỉnh sửa lại nhờ khối soạn thảo, kiểm tra chính tả, trƣớc khi đƣa vào máy dịch. Phần dịch máy sẽ chuyển văn bản nguồn thành văn bản viết trên ngôn ngữ đích. Và cũng qua một bộ chỉnh ra để cuối cùng thu đƣợc một văn bản tƣơng đối hoàn chỉnh. Trong quá trình dịch máy, hệ thống thƣờng xuyên phải truy cập đến một khối lƣợng rất lớn các tri thức dịch.

Tri thức dịch thông thƣờng là các loại từ điển bao gồm: từ điển chứa bộ luật về cú pháp, từ điển về từ vựng, từ điển về thông tin ngữ nghĩa vv…. Trong nhiều hệ thống, có thể có sự tƣơng tác giữa ngƣời và máy trong quá trình dịch. Tƣơng tác này thông thƣờng có cả hai chiều (ngƣời-máy) và có thể có ở mọi giai đoạn. Số hoá bởi Trung tâm Học liệu – ĐHTN http://www.vn LUAN VAN CHAT LUONG download : add [e-mail] 6 Dƣới đây là sơ đồ tổng quát của một hệ dịch máy: Hình 1.1: Sơ đồ tổng quan của hệ dịch máy 1.

Dịch máy thống kê là gì? 1. Tổng quan về dịch thống kê Mục tiêu là dịch một văn bản từ ngôn ngữ nguồn sang ngôn ngữ dịch. 𝑗 Chúng ta có câu văn bản trong ngôn ngữ nguồn (“Tiếng Việt”) 𝑣1 = 𝑣1 , … , 𝑣𝑗. Trong tất cả các câu có thể có trong văn bản đích, chúng ta chọn câu sao cho: V1J =arg max p(v1J| e1I ) (1.

Mô hình kênh nguồn Mô hình kênh – nguồn rất tổng quát và có khả năng áp dụng cho nhiều vấn đề khác nhau nhƣ nhận dạng tiếng nói, xử lý ảnh, …Về trực giác, kênh nguồn là một kênh truyền thông mà thông tin truyên qua có thể bị nhiễu và khó nhận dạng đƣợc thông tin đúng. Giả sử T là thông tin đích ta nhận đƣợc từ cuối kênh, nhiệm vụ của chúng ta là phải đoán lại thông tin nguồn S đã truyền đi. Sử dụng luật Bayes, chúng ta có: (1.2) Số hoá bởi Trung tâm Học liệu – ĐHTN http://www.vn LUAN VAN CHAT LUONG download : add [e-mail] 7 Do đó công thức 1.1 tƣơng ứng với: (1.3) Cách tiếp cận này đƣợc xem nhƣ là cách tiếp cận Kênh - Nguồn trong dịch máy thống kê hoặc là “ công thức cơ bản của dịch thống kê”. Ở đây p(v J ) là mô hình ngôn ngữ của ngôn ngữ đích, p(e I | v J ) là mô hình đích.2 Cách tiếp cận Maximum và mô hình gióng hàng Xác suất p(e I | v J ) đƣợc phân tích qua biến ẩn đƣợc thêm vào.4) Trong đó p(e1I, a1I | v1J) đƣợc gọi là mô hình gióng hàng thống kê và gióng hàng a1I đƣợc gọi là biến ẩn.

Gióng hàng xác định ánh xạ i→j=ai : Từ vị trí i của câu nguồn tƣơng ứng với vị trí j= ai của câu đích. Việc tìm kiếm đƣợc thực hiện dực vào cực đại biểu thức sau: (1. Nhiệm vụ trong dịch thống kê Chúng ta phải giải quyết những vấn đề sau trong việc phát triển hệ thống dịch thống kê: Mô hình: Chỉ ra cấu trúc trong sự phụ thuộc xác suất để mô hình hóa xác suất dịch p(eJ) hoặc p(vJ). Huấn luyện: Huấn luyện các tham số mô hình của mô hình dịch thống kê sử dụng dữ liệu huấn luyện: đơn ngữ, song ngữ.

Tiêu chuẩn huấn luyện Số hoá bởi Trung tâm Học liệu – ĐHTN http://www.vn LUAN VAN CHAT LUONG download : add [e-mail] 8 chuẩn của mô hình dịch máy theo cách tiếp cận kênh-nguồn là tiêu chuẩn hợp lý cực đại mà ở đây chúng ta định nghĩa giá trị tham số tối ƣu mà các gía trị tham số tối ƣu mà các giá trị này làm cực đại hàm hợp lý trong dữ liệu song ngữ: Phụ thuộc vào cấu trúc của mô hình, chúng ta có thể sử dụng tần suất quan hệ hoặc thuật toán tối ƣu nhƣ thuật toán EM xác định các tham số ẩn của mô hình. Tìm kiếm: Thực hiện phép tính agrmax theo công thức trong 1.1 một cách hiệu quả. Có rất nhiều thuật toán để giải quyết vấn đề tìm kiếm này. Ví dụ nhƣ thuật toán qui hoạch động, A*, giải mã ngăn xếp, tìm kiếm ăn tham,.

Tiền xử lý: Tìm các bƣớc biến đổi thích hợp cho cả ngôn ngữ nguồn và ngôn ngữ đích để cải tiến quá trình dịch. Trong những nhiệm vụ trên, tri thức ngôn ngữ chỉ cần thiết cho vần đề mô hình và tiền xử lý.