CHƯƠNG 1: TONG QUAN NGHIÊN CỨU 1.1 Tổng quan đề tài Dich may (Machine Translation) là một bài toán quan trọng trong lĩnh vực xử lý ngôn ngữ tự nhiên (NLP), với nhiệm vụ chính là day cho máy tính có khả năng học va dịch tự động một văn bản từ ngôn ngữ nguồn sang ngôn ngữ đích mà không cần sự can thiệp của con người vao quá trình dịch. Day là một thách thức lớn boi sự đa dạng của các ngôn ngữ trên thé giới. Hiện nay có hơn 7000 ngôn ngữ khác nhau đang được sử dung, mỗi ngôn ngữ déu có cau trúc ngữ pháp, ngữ nghĩa và cách biểu đạt riêng biệt. Khả năng dich thuật giữa các ngôn ngữ nay một cách chính xác và trôi chảy là mục tiêu then chốt của dich máy.
Dat được điều này sẽ tạo nên những đột phá to lớn, giúp con người vượt qua rào cản ngôn ngữ, thúc đây sự giao lưu văn hóa và hợp tác trên phạm vi toàn cầu. Ngoài ra, địch máy còn mở ra nhiều ứng dụng thực tế quan trọng khác như dịch tài liệu, phụ dé phim, website đa ngôn ngữ, hỗ trợ giao tiếp qua biên dịch giọng nói,. Do tâm quan trọng to lớn đó, dịch máy luôn được coi là một trong những lĩnh vực nghiên cứu trọng điểm và được đầu tư mạnh mẽ nhân lực cũng như tài chính trong NLP. Nhiều phương pháp tiếp cận khác nhau đã được đẻ xuất va phát triển qua các thời kỳ khác nhau, từ dich máy dựa trên quy tắc (RBMT), dich máy thống kê (SMT) đến dịch máy mạng neural (NMT) phô biến ngay nay, 1.2 Các phương pháp tiếp cận dịch máy Mặc dù dich máy đã được nghiên cứu và ra đời năm thập niên 50 của thé ky trước, nhưng ban đầu các nhà nghiên cứu đã tận dụng từ điển và sử dụng các luật được tạo ra bởi chuyên gia dé xác định nghĩa chính xác của các từ.
Tuy nhiên, cách tiếp cận này gặp han chế la không thé phát triển một hệ thống luật hoàn chỉnh cho tat cả các ngôn ngữ có sẵn. Đến những năm 1990 mô hình dich máy thống kê xuất hiện, mô hình nay sử dụng một kho ngữ liệu song ngừ được thu thập bởi các chuyên gia ngôn ngữ trong quá trình huấn luyện. Tuy nhiên, hiệu suất của các hệ thông dịch máy thống kê đòi hỏi nhiều vào cặp ngôn ngữ cụ thê mả chúng được áp dụng [3]. RBMT SMT NMT.
co) (_ TraneeeMT | ¬ cross-attention sett-attention Googie Translate atiention = traratormer 1850 1989 1990 2007 2014-2015 17 Hình 1.1 Quá trình phát triển địch máy 1.1 Dịch máy dựa trên quy tắc Dịch máy dựa trên quy tắc (RBMT) là hệ thông dịch máy dau tiên và dựa trên thông tin ngôn ngữ về ngôn ngữ nguồn và ngôn ngữ đích về cơ bản được lấy từ từ điển va ngữ pháp bao gồm các quy tắc về ngữ nghĩa, hình thái va cú pháp chính của từng ngôn ngữ tương ứng [5]. Nguyên lý hoạt động của nó dựa trên việc sử dụng các quy tắc ngôn ngữ học cụ thê dé biéu dién kiến thức về ngôn ngữ nguồn và ngôn ngữ dich. Quá trình dich máy RBMT điển ra theo từng bước sau: + Phân tích ngôn ngữ nguồn: Quá trình này bắt đầu với một văn bản đầu vào, được tiền xử lý bằng cách tách từ, gắn nhãn từ loại và phân đoạn câu. văn bản được phân tích cú pháp để xác định các thành phan câu và mỗi quan hệ cú pháp giữa chúng, dia trên quy tắc ngữ pháp của ngôn ngữ nguôn.
Tiếp theo, phân tích ngữ nghĩa được thực hiện để xác định ý nghĩa của các từ và cụm từ, dựa trên từ điển ngữ nghĩa và quy tắc ngữ nghĩa của ngôn ngữ nguồn. Kết qua là một biểu dién ngữ nghĩa-cú pháp độc lập với ngôn ngữ nguồn. + Chuyên tai (Transfer): Biêu diễn ngữ nghĩa-cú pháp của ngôn ngữ nguồn được chuyên đổi sang biểu diễn trung gian không phụ thuộc ngôn ngữ bằng cách áp dụng quy tắc chuyên tải ngữ nghĩa và cú pháp. Quy tắc chuyên tải này xử lý các hiện tượng ngôn ngữ khác nhau giữa ngôn ngữ nguôn và ngôn ngữ đích như trật tự từ, đảo ngữ, số ít/số nhiéu,.
+ Tông hợp ngôn ngữ dich (Target Language Generation): Từ biéu diễn trung gian, quy tắc ngữ pháp và ngữ nghĩa của ngôn ngữ đích được áp dụng dé tạo ra biểu diễn ngữ nghĩa-cú pháp của ngôn ngữ đích. Biêu diễn này sau đó được sử dụng đề tông hợp văn bản dau ra bằng ngôn ngữ dich thông qua các bước như xây đựng cụm từ và dién ngữ hoá các thành phan dau ra cuỗi củng. Có ba phương pháp tiếp cận địch máy đựa trên quy tic sau: phương pháp trực tiếp (Direct Method), phương pháp chuyền đôi (Transfer Method) và phương pháp Interlingua. Phương pháp trực tiếp: Là phương pháp dich từng từ trong văn bản nguồn thành từ trong văn bản đích.
No đòi hỏi phân tích hình thái một cách rõ ràng nhưng chi cần một chút phân tích cú pháp và ngữ nghĩa. Phương pháp chuyển đối: Day là phương pháp pho biến nhất trong RBMT. Trong phương pháp nảy, ngôn ngữ nguồn được chuyên đôi thành một biéu diễn trừu tượng, it ngôn ngữ cụ thé hơn. Văn bản được phân tích ở cấp độ ngữ pháp và ngữ nghĩa trong ngôn ngữ nguồn, sau đó được chuyên đổi sang một biéu điễn trung gian không phụ thuộc ngôn ngữ.
Cudi cùng, một biêu dién tương đương được tạo ra cho ngôn ngữ dich bằng cách sử dung từ điền song ngữ và các quy tắc ngữ pháp. Phương pháp Interlingua: Trong ngôn ngữ nguồn Interlingua được chuyên đôi thành ngôn ngữ trung gian, độc lập với bất kỳ ngôn ngữ nảo liên quan đến địch thuật. Bán địch được dịch cho ngôn ngữ đích sau đó được lấy từ ngôn ngữ trung gian. Phương pháp dịch máy dựa trên luật (RBMT) có một số ưu điểm đáng kẻ.
Nếu bộ luật được xây dựng tốt, RBMT có thê tạo ra bản dịch chính xác và trung thực về mặt ngữ pháp. Phương pháp này cũng phù hợp dé dịch những văn bản có cau trúc và từ vựng giới hạn như hướng dẫn sử dụng, tai liệu kỹ thuật (A Survey of Current Paradigms in Machine Translation. Dong thời, RBMT cho phép kiểm soát tốt quá trình dịch, điều chỉnh và bỗ sung luật một cách linh hoạt. RBMT cũng có những hạn chế nhất định.
Việc xây dựng một hệ thông RBMT hoàn chỉnh đòi hỏi thời gian đài, các quy tắc thường do nhà ngôn ngữ học phát triển. 13 Do vậy hạn chế chính của phương pháp nay là nó đòi hỏi rất nhiều nguồn lực về chuyên môn/ chuyên gia (có thé rat tốn kém) dé xây dựng rat rất nhiều quy tắc và ngoại lệ. đồng thời nó không khái quát được cho những ngôn ngữ khác[6]. Hệ thống chỉ có thé dich tốt những mau câu và từ vựng nim trong tập luật.
Những câu quá dai, phức tap sẽ dé bị dich sai, khó xử lý tốt các yếu tố văn hóa, ngữ cảnh, ham ý trong giao tiếp ngôn ngữ. Chi phi xây dựng và duy trì hệ thống cũng cao. Mỗi cặp ngôn ngữ cần có một hệ thông luật riêng.2 Dich máy dựa trên ví dụ Dich máy dựa trên ví dụ (Example-Based Machine Translation - EBMT) là một phương pháp địch máy được giới thiệu lần đầu tiên vào năm 1984 bởi Makoto Nagao từ Đại hoc Kyoto, Nhật Ban [7]. Dịch máy dựa trên ví dụ (EBMT) là một phương pháp dịch máy đòi hỏi nhiều công đoạn tiền xử lý dit liệu như làm sạch, chuẩn hóa va gan nhãn thông tin ngữ pháp cho các cặp câu trong cơ sở dữ liệu song ngữ.
Điều này giúp cải thiện hiệu quả tìm kiếm và chuyển đổi trong quá trình dịch. Có nhiều phương pháp tìm kiếm các ví dụ tương tự như sử dụng độ đo tương tự chuỗi, so khớp mẫu, hoặc kết hợp với các kỹ thuật trích xuất đặc trưng ngôn ngữ. Bên cạnh đó, việc chuyên đổi và tái tạo câu dịch cũng đòi hỏi phải giải quyết các vấn đề như điều chỉnh thứ tự từ, thay đổi hình thái từ và dam báo tinh đúng đắn ngữ pháp bằng các kỹ thuật như quy tắc chuyển đổi, mô hình ngôn ngữ, va các thuật toán tôi ưu hóa. Y tưởng cốt lõi của EBMT là sử đụng một cơ sở dữ liệu song ngữ gồm các cặp câu đã được dich trước đó dé dịch một câu mới chưa từng gặp.
Cách tiếp cận của EBMT gồm ba bước chính: - So khớp (Matching): Trong bước so khớp, hệ thông EBMT sẽ tiền hành tìm kiếm trong cơ sở dit liệu song ngữ dé xác định những cặp câu có độ tương tự cao nhất với câu can dịch. Quá trình tìm kiếm này dựa trên việc so sánh các đặc trưng ngôn ngữ như từ vựng, cụm từ va cau trúc cú pháp giữa câu đầu vao va các câu trong cơ sở dir liệu. Hệ thong sẽ sử dụng các thuật toán đo độ tương tự, chăng hạn như độ đo cosin hoặc khoảng cách Levenshtein, dé tinh toán mức độ trùng khớp giữa các câu. Kết qua của bước này là một tập hợp các cặp câu song ngữ có liên quan và tương tự nhất với câu cần địch.
l4 - Chuyển đổi (Alignment): Ở bước này hệ thống EBMT sẽ phân tích và xác định sự tương ứng giữa các cụm từ, thành phần trong câu nguôn và câu đích của các cặp ví dụ đã tìm được ở bước trước. Quá trình này nhằm thiết lập một ánh xạ giữa các phần tử của hai ngôn ngữ, cho phép hệ thông hiểu được cách các cụm từ và thành phan trong câu nguồn được biêu đạt tương ứng trong câu đích. Việc chuyên đôi thường sử dụng các kỹ thuật như phân tích cú pháp, nhận dang thực thé có tên, và các thuật toán căn chỉnh từ dé xác định chính xác sự tương ứng giữa các phần tử ngôn ngữ. - Tái tạo (Recombination): Hệ thống EBMT sẽ kết hợp các phan dịch tương ứng từ các cặp ví dụ đã chọn đề xây dựng một bản dịch hoan chỉnh cho cau dau vào.
Hệ thống sẽ căn cứ vào sự tương ứng đã thiết lập ở bước chuyên đổi dé lựa chọn và sắp xếp các cụm từ, thành phan sao cho phù hợp với cấu trúc ngữ pháp va ngữ nghĩa của ngôn ngữ đích. Trong quá trình tái tao, hệ thông cũng tiền hành các bước xử lý bô sung như điều chỉnh từ loại, thêm/bớt từ chức năng, và đảm bao sự đồng nhất về giới tính, số lượng, thì động từ, v., nhằm tao ra một ban dich mach lac, trôi chay va ty nhién. Néu can thiét, hé thống có thé sử dụng các quy tắc và mô hình ngôn ngữ dé hoàn thiện và tối ưu hóa bản dịch cuối cùng. Ưu điểm của EBMT là khả năng xử lý tốt các cụm từ, thành ngữ va dé mớ rộng bằng việc bỏ sung thêm các cặp câu song ngữ vào co sở dit liệu.