chương 1 ccủa luận văn Mô hình dịch: ch: Cho bi biết xác suất của câu ngôn ngữ nguồnn là bbản dịch từ câu ngôn ngữ đích. Bộ giải mã: Tìm kiếếm tất cả các câu ngôn ngữ đích e có thể có ttừ câu ngôn ngữ nguồn f. LUAN VAN CHAT LUONG download : add luanvanchat@agmail.4: Mô hình dịch máy thống kê từ tiếng Anh sang tiếng Việt 2. Mô hình dịch Mô hình dịch có 3 hướng tiếp cận chính: Mô hình dịch dựa trên từ (word-based) Mô hình dịch dựa trên cụm từ (phrase-based) Mô hình dịch dựa trên cú pháp (syntax-based) Cả 3 hướng tiếp cận trên đều dựa trên một tư tưởng.
Đó là sự tương ứng giữa hai câu (alignment). Sự gióng hàng (alignment) Tất cả các mô hình dịch thống kê đều dựa trên sự tương ứng của từ. Sự tương ứng của từ ở đây chính là một ánh xạ giữa một hay nhiều từ của ngôn ngữ nguồn với một hay nhiều từ của ngôn ngữ đích trong tập hợp các câu văn bản song ngữ. Theo nguyên tắc, chúng ta có thể có mối liên hệ tùy ý giữa các từ của ngôn ngữ nguồn với các từ của ngôn ngữ đích.
Tuy nhiên, để cho đơn giản, mô hình dịch máy dựa trên từ (word-based) đưa ra một giả định: mỗi từ của ngôn ngữ đích chỉ tương ứng với một từ của ngôn ngữ nguồn. Nếu áp dụng giả định này, chúng ta có thể biểu diễn một sự tương ứng từ bằng chỉ số của các từ trong ngôn ngữ nguồn tương ứng với từ trong ngôn ngữ đích. Như trong ví dụ ở hình 2.5 dưới đây có thể biểu diễn một tương ứng từ giữa tiếng Pháp và tiếng Anh bởi một dãy các chỉ số như sau: A = 1,2, 3, 4, 5, 6. LUAN VAN CHAT LUONG download : add luanvanchat@agmail.5: Sự tương ứng một – một giữa câu tiếng Anh và câu tiếng Pháp Trong thực tế, có rất nhiều từ ở ngôn ngữ đích không tương ứng với từ nào trong ngôn ngữ nguồn.
Để cho tổng quát, ta thêm một từ vô giá trị (null) vào đầu câu ngôn ngữ nguồn và những từ ở ngôn ngữ đích không tương ứng với từ nào sẽ được ánh xạ với từ vô giá trị đó.6 ở dưới thể hiện một tương ứng từ giữa hai câu tiếng Anh và tiếng Tây Ban Nha khi cho thêm từ vô giá trị vào đầu câu tiếng Anh.6: Sự tương ứng giữa câu tiếng Anh với câu tiếng Tây Ban Nha khi cho thêm từ vô giá trị (null) vào đầu câu tiếng Anh Trong khi mô hình dịch dựa trên từ (word-based) chỉ giải quyết trường hợp một từ của ngôn ngữ đích chỉ tương ứng bởi một từ của ngôn ngữ nguồn, thì mô hình dịch dựa trên cụm từ (pharse-based) có thể giải quyết cả hai trường hợp còn lại là: một từ của ngôn ngữ này tương ứng với nhiều từ của ngôn ngữ kia và nhiều từ của ngôn ngữ này tương ứng với nhiều từ của ngôn ngữ kia.8 ở dưới minh họa các tương ứng nói trên.7: Sự tương ứng một – nhiều giữa câu tiếng Anh với câu tiếng Pháp LUAN VAN CHAT LUONG download : add luanvanchat@agmail.8: Sự tương ứng nhiều - nhiều giữa câu tiếng Anh với câu tiếng Pháp 2. Mô hình dịch dựa trên từ (Word-based) Mô hình dịch dựa trên từ là thế hệ đầu tiên của mô hình dịch máy thống kê và được nghiên cứu và phát triển bởi IBM. Như đã trình bày ở phần trước, mô hình dịch này dựa trên sự tương ứng của các từ theo tương ứng một một (một từ của ngôn ngữ này chỉ tương ứng với một từ của ngôn ngữ kia và ngược lại). Cụ thể hơn, giả sử câu ngôn ngữ nguồn là … và câu ngôn ngữ đích là … , khi đó mỗi từ chỉ tương ứng với 1 và chỉ 1 từ trong câu ngôn ngữ nguồn hoặc là không tương ứng với từ nào.
Do đó, một sự tương ứng giữa các từ của câu ngôn ngữ nguồn và câu ngôn ngữ đích có thể biểu diễn bằng một dãy số: { , ,…, } trong đó là chỉ số của từ trong ngôn ngữ nguồn tương ứng với từ của ngôn ngữ đích( nhận các giá trị từ 1 đến l). Với mô hình IBM thứ nhất, giả định rằng mỗi biến là độc lập, khi đó tương ứng tối ưu nhất chính là: = arg max ( )∗ ( | ) Như vậy, theo mô hình IBM thứ nhất, chúng ta có thể tính xác suất ( | ) theo công thức sau: ( | )= ( )∗ ( | ) Tuy nhiên trên thực tế, mô hình IBM thứ nhất này có chất lượng dịch không cao. Ở các mô hình IBM tiếp theo, người ta cải tiến các công thức và đưa ra những tương ứng, cũng như tính lại xác suất ( | ) một cách tốt hơn. Tuy nhiên, do tiếp cận theo hướng tương ứng một một giữa các từ, nên mô hình dịch dựa trên từ nóichung và các mô hình dịch IBM nói riêng đã không còn phổ biến.
Hiện nay, các mô hình dịch theo hướng cụm từ được sử dụng rộng rãi và dần trở nên phổ biến hơn. LUAN VAN CHAT LUONG download : add luanvanchat@agmail. Mô hình dịch dựa a trên cụm c từ (Phrase-based) Hình 2.9: Minh họa h dịch máy thống kê dựa vào cụm từ Trong dịch dựaa trên ccụm, một chuỗi các từ liên tiếp (cụm) đượcc dịch d sang ngôn ngữ đích, với độ dài cụmm ngôn ngữ ng nguồn và đích có thể khác nhau.9 minh họa phương pháp dịch cụm:m: câu vào được đư chia thành một số cụm; từng ng cụm c một được dịch sang ngôn ngữ đích; và sau đó các cụm c được đảo trật tự theo mộtt cách nào đó rồi r ghép với nhau. Cuốii cùng ta thu được đư câu dịch trong ngôn ngữ đích.
Giả sử ta gọi ngôn ngữ ữ nguồn là và ngôn ngữ đích là , chúng ta sẽ s cố gắng tối đa hóa xác suất ( | ) vớ ới mong muốn có được bản dịch tốt nhất. Th Thực tế là tồn tại rất nhiều bản dịch ch đúng cho cùng một m câu, mục đích củaa ta là tìm ra câu ngôn ng ngữ phù hợp nhất khi cho trướcc câu ngôn ngữ ng nguồn. Dịch dựa vào cụụm sử dụng mô hình kênh nhiễu, áp dụng ng công thức th Bayes ta có: arg max ( | ) ( ) arg max ( | ) = ( ) Do ( ) là không đổii đối đ với , vấn đề trở thành việc tìm câu nhằm nh tối đa hóa ( \ ) ( ). Việc xây dựng ng mô hình ngôn ngữ ng cần sử dụng một ngữ liệệu đơn ngữ lớn, trong khi đó mô hình dịch ch lại l cần đến ngữ liệu song ngữ tốt.
Bộ giảii mã được sử dụng để chia câu nguồnn thành các cụm c và sinh ra các khả năng dịch có thể cho m mỗi cụm nhờ sự trợ giúp của bảng cụm m (phrase table). Để sinh ra đượcc câu dịch, d câu nguồn được chia thành cụm m liên ti tiếp. Chúng ta giả sử rằng phân phốii xác suất su là như nhau đối với các cụm m này. Mỗi M cụm trong được dịch thành cụm m tương ứng trong ngôn ngữ đích.
Các cụm m trong ngôn ngữ ng đích có thể đảo o ví trí cho nhau. Quá trình dịch d cụm đượcc mô hình hóa bbởi phân phối xác suất ∅( | ). LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 19 Việc đảo ví trí (reodering) của các cụm đầu ra được mô hình bởi phân phối xác suất ( − ), trong đó đại diện cho vị trí bắt đầu của cụm trong câu nguồn được dịch thành cụm thứ trong câu đích, và là ký hiệu chỉ vị trí kết thúc của cụm trong câu nguồn được dịch thành cụm ( − 1) trong câu đích. Ở đây chúng ta sử dụng mô hình đảo cụm rất đơn giản như sau: | | ( − )= với giá trị thích hợp cho tham số.
Để xác định độ dài thích hợp của câu dịch, chúng ta đưa thêm vào thừa số khi sinh ra câu trong ngôn ngữ đích. Thừa số này sẽ được tối ưu qua quá trình tìm kiếm câu dịch tối ưu. Thừa số này càng lớn hơn 1 thì độ dài của câu trong ngôn ngữ đích càng dài. Nói tóm lại, câu dịch tốt nhất được sinh ra từ câu nguồn là: ( ) = arg max ( | ) = arg max ( | ) ( ) ở đây ( | ) được phân tích thành: ( | )= ( | ) ( − ) 2.
Mô hình dịch dựa trên cú pháp (Syntax-based) Cả 2 mô hình dịch dựa trên từ và cụm từ đều chỉ quan tâm đến sự tương ứng và ngữ nghĩa của từng từ trong câu ngôn ngữ nguồn và đích mà không quan tâm tới ngữ pháp, hình thái của cả hai câu. Mô hình dịch dựa trên cú pháp không chỉ quan tâm tới ngữ nghĩa của từng từ mà còn chú trọng tới cú pháp của câu. Với mô hình dịch này, một câu ngôn ngữ nguồn sẽ được phân tích thành cây cú pháp. Cây cú pháp này sẽ được sắp xếp lại để phù hợp với cú pháp của câu ngôn ngữ đích.
Sau đó, một số từ mới có thể được chèn vào cây hiện tại cho phù hợp hơn với cú pháp của ngôn ngữ đích. Cuối cùng, các từ trong cây cú pháp của câu ngôn ngữ nguồn sẽ được dịch sang ngôn ngữ đích và ta thu được câu ngôn ngữ đích từ cây cú pháp trên.10 dưới đây mô tả các bước làm việc của một mô hình dịch dựa trên cú pháp từ tiếng Anh sang tiếng Nhật. LUAN VAN CHAT LUONG download : add luanvanchat@agmail.10: Mô hình dịch dựa trên cây cú pháp 2. Bộ giải mã Như đã trình bày ở các phần ph trên, nhiệm vụ của bộ giảii mã chính là: cho tr trước câu ngôn ngữ nguồn , tìm câu ngôn ng ngữ đích tốt nhất được dịch từ.
Câu ngôn ngữ đích tr ( | ) ∗ ( ) là lớn nhất. tốt nhấtt chính là câu làm cho giá trị Bộ giải mã đượcc phát tri triển đầu tiên cho mô hình dịch cụm từ đượợc giới thiệu bởi Marcu và Wong, sử dụngng các phương pháp leo đồi. đ Do không gian an tìm ki kiếm là rất lớn, nên bộ giảii mã trong mô hình dịch d máy thống kê thường áp dụngng các thu thuật toán tìm kiếm tối ưu. ∗ Thuật toán mà bộ giảii mã thường th áp dụng có tên là , là mộtt trong các phương ∗ pháp tìm kiếm tốt nhất –đầu u tiên.Gi thuật có thể tóm tắt như sau: tạại mỗi bước mở rộng không gian tìm kiếm,m, ta sử s dụng các hàm ước lượng, đánh giá trọng ng ssố để kết quả tìm được luôn là tốt nhấtt có thể th và là kết quả tìm thấy đầu tiên.