Chương 1. Tổng quan vé van đề nghiên cứu 23 connected) như thể hiện trong Hình 1. Về cơ bản, bộ mã hóa gồm N tầng giống nhau xếp chồng lên nhau, mỗi tầng có hai tầng con. Tầng con thứ nhất là cơ chế self-attention nhiều phan (multi-head), tang con thứ hai là mạng truyền thang day đủ (fully connected feed-forward).
Ngoài ra, có thể thêm kĩ thuật kết nối dư (residual connection), theo sau bởi một tầng chuẩn hóa (nor- malization layer). Bộ giải mã cũng gồm tầng giống nhau xếp chồng. Tại mỗi tầng, bên cạnh hai tang con giống như bộ mã hóa, bộ giải mã chèn thêm một tầng con ở giữa, cái thể hiện multi-head attention để có thể mô hình hóa được các thông tin cần thiết của câu nguồn tại mỗi thời điểm giải mã.4 Những thách thức trong dịch may Hiện nay, mặc dù các mô hình dịch máy đã có nhiều tiến bộ, nhưng vẫn còn nhiều thách thức cần được giải quyết. — Hạn chế tài nguyên.
Một trong những vấn đề lớn nhất trong các mô hình dịch máy gặp phải là việc thiếu hụt đữ liệu song ngữ. Dữ liệu này thông thường được tạo thủ công hoặc thu thập tự động trên internet nhưng vẫn không thể đủ để huấn luyện các mô hình dịch cho kết quả tốt. Hơn nữa, các mô hình dịch thường cho kết quả tốt trên miền dữ liệu được huấn luyện, nếu đem dich cho dữ liệu thuộc miền khác, kết quả sẽ không tốt. Ví dụ, đữ liệu song ngữ được thu thập từ các trang báo song ngữ, chủ đề thường về thể thao, giải trí, thì mô hình dịch được huấn luyện trên dữ liệu này sẽ cho kết quả không tốt khi dịch các câu thuộc miền pháp luật, y tế.
Tổng quan vé van đề nghiên cứu 24 — Tw nằm ngoài kho từ vựng (unknown words). Một van dé quan trọng khác mà các mô hình dịch máy phải đối mặt là việc giải quyết những từ nằm ngoài kho từ vựng. Đó là những từ không xuất hiện trong dữ liệu huấn luyện hoặc xuất hiện rất ít, những từ này thường là tên riêng, các thuật ngữ hay từ đi mượn, các từ này còn được gọi là các từ hiếm. Các mô hình dịch hiện tại khi gặp những từ hiếm này thường giữ nguyên không dịch dẫn đến việc câu dịch mất từ và ảnh hưởng đến việc dự đoán các từ dịch Sau này.
Đối với dịch máy thống kê dựa vào cụm thì trật tự từ (word orders) cũng là một thách thức do các ngôn ngữ khác nhau thường có trật tự từ khác nhau. Ví dụ, một số cặp ngôn ngữ có thứ tự trong câu là chủ ngữ - động từ - tân ngữ (tiếng Anh) nhưng trong ngôn ngữ khác lại là chủ ngữ - tân ngữ - động từ (tiếng Nhật). Việc khác nhau giữa trật tự các từ trong câu nguồn và câu đích ảnh hưởng rất nhiều đến chất lượng của mô hình dịch máy. Khi mô hình dịch không thể học được việc ánh xạ tương ứng giữa trật tự từ ở 2 ngôn ngữ, câu dịch sinh ra sẽ khiến người đọc khó hiểu.
Ngoài ra, dịch máy mạng nơ-ron vẫn còn một số thách thức đã được Koehn và cộng sự chỉ ra năm 2017 [101] như: — Rất khó xác định được lý do tại sao mô hình lại cho ra một bản dịch cụ thể vì quá trình giải mã, dự đoán được diễn ra như trong hộp đen, do đó rất khó để xác định được nguyên nhân cụ thể khiến bản dịch sai, dịch không sát nghĩa. — Các lỗi được sinh ra bởi dịch máy mạng nơ-ron đôi khi khá thất thường, hệ dịch có thể chỉ sinh ra các từ, cụm từ ở đầu ra trôi chảy, hợp ngữ cảnh nhưng lại ít liên quan đến câu nguồn. Tổng quan vé van đề nghiên cứu 25 — Huấn luyện mô hình cần nhiều dữ liệu song ngữ để huấn luyện hơn so dịch thống kê dựa vào cụm từ. — Cần nhiều thời gian để triển khai, huấn luyện hệ dịch mạng nơ-ron do đòi hỏi phần cứng chuyên dụng.5 Đánh giá chất lượng mô hình dịch máy Đánh giá chất lượng dịch của mô hình dịch máy là bài toán gắn liền với lịch sử phát triển của dịch máy.
Ở đây, chất lượng dịch được hiểu là mức hoàn thiện của bản dịch khi dịch một văn bản từ ngôn ngữ nguồn sang ngôn ngữ đích. Đã có nhiều phương pháp khác nhau được nghiên cứu để đánh giá chất lượng của mô hình dịch, các phương pháp này có thể nhóm thành hai loại chính là phương pháp đánh giá chủ quan (subjective evaluation) và phương pháp đánh giá khách quan (objection evaluation).1 Phương pháp đánh giá chủ quan Phương pháp đánh giá chủ quan được thực hiện trực tiếp bởi con người, đánh giá theo thang điểm cho các tiêu chí được xây dựng sẵn. Phương pháp đánh giá chủ quan phụ thuộc vào khả năng của chuyên gia đánh giá, cho kết quả tin cậy nhưng mất rất nhiều thời gian và chỉ phí thực hiện cao.2 Phương pháp đánh giá khách quan Phương pháp đánh giá khách quan (còn gọi là đánh giá tự động) sử dụng các chương trình thay cho con người để đánh giá. Các chương trình sẽ so khớp hoặc tính tỉ lệ lỗi của kết quả dịch từ mô hình so với câu dịch tham khảo có sẵn (reference).
Phương pháp đánh giá tự động Chương 1. Tổng quan vé van đề nghiên cứu 26 mặc dù cho kết quả kém tin cậy hơn so với phương pháp đánh giá chủ quan nhưng được sử dụng rộng rãi vì cải thiện được những nhược điểm của phương pháp đánh giá chủ quan như chi phi cao, tốc độ thực hiện chậm, không thể tái sử dụng. Có nhiều độ đo đã được nghiên cứu và phát triển để đánh giá tự động chất lượng dịch của mô hình dịch máy, các độ đo có thể kể tên như: BLEU (BiLingual Evaluation Understudy) [61], SacreBLEU [104], WER (Word Error Rate) [68], PER (Position-independent word Error Rate) [121], TER (Translation Error Rate) [74]. Trong đó, độ do BLEU được sử dung phổ biến nhất nên trong luận án này, tác giả chọn độ đo này để đánh giá chất lượng dịch của các mô hình.
BLEU là một phương pháp dùng để đánh giá chất lượng bản dịch được đề xuất bởi IBM tại hội nghị ACL ở Philadelphie vào tháng 7- 2001 [61]. Ý tưởng chính của phương pháp là so sánh kết quả bản dich tự động bằng máy với một bản dịch chuẩn dùng làm bản tham khảo. Việc so sánh được thực hiện thông qua việc thống kê sự trùng khớp của các từ trong hai bản dịch có tính đến thứ tự của chúng trong câu (phương pháp n-grams theo từ) [49]. Phương pháp này dựa trên hệ số tương quan giữa bản dịch tự động và bản dịch tham khảo được thực hiện bởi con người để đánh giá chất lượng của một hệ thống dịch.
Điểm BLEU được tính theo công thức 1. BLEU = BP em N sa) (1. Tổng quan vé van đề nghiên cứu 27 Trong đó: — p, là điểm ”Precision” phản ảnh tỷ lệ trùng khớp của các n— gram của các bản dịch so với bản tham khảo. — wy là trọng số tương ứng với chiều dài của — gram.
— BP (Brevity Penalty) là trọng số xác định bởi chiều dài của bản dịch tự động và chiều dài của bản tham khảo, được tính toán trên toàn bộ kho ngữ liệu theo công thức 1. Giá trị BLEU đánh giá mức độ trùng khớp giữa hai bản dịch, được tính toán trên từng phân đoạn (được hiểu là đơn vị tối thiểu trong các bản dịch, thông thường mỗi phân đoạn là một câu hoặc một đoạn). Việc thống kê độ trùng khớp của các œ— gram dựa trên tập các n—gram trên các phân đoạn, trước hết nó được tính trên từng phân đoạn, sau đó tính lại giá trị này trên tất cả các phân đoạn. Điểm BLEU có giá trị từ 0 (sai lệch tuyệt đối) đến 1 (khớp tuyệt đối), giá trị 0 có nghĩa là bản dịch của máy không trùng lặp với bản tham khảo (chất lượng dịch thấp), giá trị 1 có nghĩa là có sự trùng lặp hoàn hảo giữa bản dịch và bản tham khảo (chất lượng dịch cao).
Các bài toán dịch máy thường sử dụng điểm BLEU được biến đổi theo tỉ lệ phần trăm, nhận giá trị tương ứng từ 0% đến 100% nên trong luận án này, tác giả sử dụng nhất quán điểm BLEU theo tỉ lệ này. Trong thực tế, ngay cả người phiên dịch cũng khó để đạt điểm tuyệt đối là 100%, thông thường điểm BLEU từ 35% thì người đọc đã có thể hiểu ý của bản dịch. Tổng quan vé van đề nghiên cứu 28 1.6 Thich ứng miền trong dịch máy 1.1 Thich ứng miền Thích ứng từ lâu đã được áp dụng nhiều trong xử lý ngôn ngữ tự nhiên, theo Jan Niehues [87] thì thích ứng miền có thể được dẫn giải một cách hình thức như sau: Giả sử, chúng ta có dữ liệu đầu vào z € X cần dự đoán đầu ra tương ứng y € Y. Trong học thống kê, hệ thống sẽ thực hiện hoc ham ƒ: X — Y.
Dé huấn luyện mô hình, cần có tập dữ liệu huấn luyện D : (&n, Yn) € X x Y với các mẫu (Lp, Yn) được giả định là độc lập và có phân phối p giống nhau. Mô hình học máy được huấn luyện để xấp xi g„ theo ƒ(z„) với moi (z„, Yn) € D. Thông thường, mô hình này được kiểm thử trên tập dữ liệu 24 cũng có cùng phân phối p. Tuy nhiên, trong thực tế tập dit liệu kiểm thử D4 thường được lấy từ một miền khác nên nó có phân phối p^ khác với phân phối p.
Mặc dù mô hình được học có thể xấp xỉ y, rất tốt bởi ƒ(z„) đối với mọi (tn, /„) € D, nhưng thường không còn tốt với các mẫu từ dữ liệu kiểm thử D4. Nếu phân phối p và p4 rất khác nhau, hàm xấp xỉ sẽ cho kết quả không như mong đợi. Trong trường hợp này, chúng ta cần thích ứng mô hình học máy cho phù hợp với miền và phân phối của dữ liệu kiểm thử (còn gọi là thích ứng miền).2 Thich ứng miền trong dịch máy Các kho ngữ liệu song ngữ được xây dựng cho các mô hình dịch máy thường không thể phủ hết tất cả các miền dữ liệu (mỗi miền dữ liệu được phân biệt bởi các thuộc tính như từ vựng, ngữ pháp, văn phong). Một mô hình dich máy huấn luyện trên một kho van ban trong Chương 1.
Tổng quan vé van đề nghiên cứu 29 miền tin tức sẽ bị giảm chất lượng khi dịch các văn bản trong miền y tế, pháp luật chẳng hạn. Trên thế giới đã có nhiều phương pháp thích ứng miền được đề xuất để khắc phục vấn đề thiếu dữ liệu trong các miền và ngôn ngữ cụ thể, hầu hết các phương pháp có thể được chia thành hai hướng tiếp cận chính, cụ thể như sau: 1.