Luận văn: Kết hợp Học Máy và Luật để Khử Nhập Nhằng Nghĩa Tiếng Việt

Luận văn thạc sĩ: Nghiên cứu khử nhập nhằng nghĩa từ tiếng Việt bằng mô hình học máy thống kê kết hợp mô hình dựa trên luật. Tối ưu độ chính xác hiệu quả.

Chuyên ngành

Công nghệ thông tin

Người đăng

Ẩn danh

Thể loại

Luận văn thạc sĩ

2013

52
0
0

Phí lưu trữ

30 Point

Mục lục chi tiết

LỜI CAM ĐOAN

TÓM TẮT KHÓA LUẬN

LỜI CẢM ƠN

DANH MỤC HÌNH VẼ

DANH MỤC BẢNG BIỂU

1. CHƢƠNG I. TỔNG QUAN VỀ BÀI TOÁN KHỬ NHẬP NHẰNG

1.1. Vấn đề khử nhập nhằng nghĩa của từ

1.2. Các ứng dụng của việc khử nhập nhằng

1.3. Mục tiêu của đề tài

1.4. Đối tƣợng và phƣơng pháp nghiên cứu

1.5. Những đóng góp của luận văn

1.6. Bố cục luận văn

2. CHƢƠNG II. KIẾN THỨC CƠ SỞ

2.1. Các nghiên cứu khử nhập nhằng nghĩa của từ trong quá khứ

2.2. Cách tiếp cận dựa trên tri thức

2.3. Cách tiếp cận dựa trên kho ngữ liệu

2.4. Các mô hình học có giám sát

2.5. Mô hình Naive Bayes

2.6. Mô hình Support Vector Machine

2.7. Mô hình học dựa trên luật

3. CHƢƠNG III. ĐỀ XUẤT MÔ HÌNH KHỬ NHẬP NHẰNG NGHĨA

3.1. Đề xuất mô hình

3.2. Quá trình huấn luyện

3.3. Quá trình kiểm tra

3.4. Biểu diễn ngữ cảnh, lựa chọn đặc trƣng và tập luật mẫu

3.4.1. Biểu diễn ngữ cảnh

3.4.2. Lựa chọn đặc trƣng

3.4.3. Lựa chọn tập luật mẫu

4. CHƢƠNG IV

4.1. Chuẩn bị kho ngữ liệu

4.2. Kết quả thực nghiệm

DANH MỤC CÁC CÔNG TRÌNH LIÊN QUAN ĐẾN LUẬN VĂN

TÀI LIỆU THAM KHẢO

DANH MỤC CÁC KÝ HIỆU VIẾT TẮT

Tóm tắt

I. Tổng Quan Khử Nhập Nhằng Nghĩa Tiếng Việt Học Máy

Một từ có thể mang nhiều nghĩa khác nhau, tùy thuộc vào ngữ cảnh sử dụng. Ví dụ, từ "câu" có thể chỉ hành động bắt cá, nhưng cũng có thể chỉ hành động của đại bác. Khử nhập nhằng nghĩa là bài toán xác định nghĩa chính xác của từ đa nghĩa trong một ngữ cảnh cụ thể. Bài toán này đóng vai trò quan trọng trong nhiều ứng dụng xử lý ngôn ngữ tự nhiên như dịch máy, tìm kiếm thông tin, trích rút thông tin. Việc nghiên cứu khử nhập nhằng nghĩa tiếng Việt là vô cùng cần thiết, đặc biệt khi so sánh với số lượng nghiên cứu hạn chế về chủ đề này so với các ngôn ngữ khác như tiếng Anh, tiếng Trung Quốc. Trong các phương pháp tiếp cận, học máy thống kê đã chứng minh ưu điểm vượt trội, tuy nhiên vẫn còn tồn tại những hạn chế cần giải quyết. Luận văn này đề xuất một mô hình mới, kết hợp học máy thống kê với học dựa trên luật để cải thiện hiệu năng, tập trung vào việc sửa lỗi sai của mô hình thống kê. Kết quả nghiên cứu đã được công bố tại hội nghị quốc tế IEEE-RIVF 2012.

1.1. Bài toán Khử Nhập Nhằng Nghĩa và Các Ứng Dụng

Bài toán khử nhập nhằng nghĩa không chỉ là một vấn đề lý thuyết, mà còn có nhiều ứng dụng thực tiễn. Trong dịch máy, việc xác định nghĩa chính xác của từ giúp chuyển đổi ngôn ngữ nguồn sang ngôn ngữ đích một cách chính xác. Trong tìm kiếm thông tin, khử nhập nhằng nghĩa giúp loại bỏ các tài liệu không liên quan, đảm bảo kết quả tìm kiếm phù hợp với ý định của người dùng. Trong trích rút thông tin, việc phân tích chính xác văn bản đòi hỏi khả năng phân biệt các nghĩa khác nhau của từ. Weaver [44] và Yngve [43] đã chỉ ra tầm quan trọng của việc khử nhập nhằng nghĩa trong dịch máy, đặc biệt khi một từ có thể tương ứng với nhiều từ khác nhau trong ngôn ngữ đích.

1.2. Tổng Quan Các Phương Pháp Tiếp Cận Khử Nhập Nhằng Nghĩa

Các phương pháp tiếp cận khử nhập nhằng nghĩa có thể được chia thành hai nhóm chính: dựa trên tri thứcdựa trên học máy. Phương pháp dựa trên tri thức sử dụng các nguồn tri thức về ngôn ngữ để so sánh ngữ cảnh của từ với các thông tin đã biết. Phương pháp dựa trên học máy sử dụng các thuật toán thống kê và học máy để xây dựng mô hình từ dữ liệu văn bản lớn. Các phương pháp dựa trên học máy có thể được phân loại thành học có giám sát, học không giám sát, và học bán giám sát. Sự ra đời của các nguồn tài nguyên từ vựng quy mô lớn đã tạo bước ngoặt cho lĩnh vực khử nhập nhằng nghĩa. Wilks [45, 46] đã đóng góp quan trọng vào việc phát triển các phương pháp tiếp cận dựa trên trí tuệ nhân tạo và tự động trích rút tri thức.

II. Thách Thức Khử Nhập Nhằng Tại Sao Mô Hình Cần Cải Tiến

Mặc dù học máy thống kê đã mang lại nhiều tiến bộ trong khử nhập nhằng nghĩa, vẫn còn tồn tại những hạn chế cần giải quyết. Các mô hình thống kê dựa trên nguyên lý chung, khó xử lý các trường hợp ngoại lệ không tuân theo quy luật. Le [17] đã đạt được độ chính xác cao, nhưng chỉ giới hạn ở một số từ nhập nhằng cụ thể. Vấn đề nằm ở chỗ: (1) kho ngữ liệu huấn luyện không đầy đủ, (2) tồn tại các trường hợp ngoại lệ không tuân theo quy luật thống kê. Do đó, cần một mô hình mới, có khả năng khắc phục những hạn chế này, nâng cao độ chính xác tổng thể.

2.1. Hạn Chế Của Học Máy Thống Kê Trong Xử Lý Ngoại Lệ

Các mô hình học máy thống kê thường hoạt động tốt trên các mẫu dữ liệu phổ biến, nhưng lại gặp khó khăn khi xử lý các trường hợp ngoại lệ. Điều này là do các mô hình này được xây dựng dựa trên việc tìm kiếm các quy luật thống kê, và do đó, chúng không thể khái quát hóa tốt cho các trường hợp không tuân theo các quy luật này. Hơn nữa, việc thu thập một kho ngữ liệu huấn luyện đủ lớn và toàn diện để bao phủ tất cả các trường hợp có thể xảy ra là một thách thức lớn. Do đó, việc kết hợp học máy thống kê với các phương pháp khác, chẳng hạn như học dựa trên luật, có thể giúp cải thiện khả năng xử lý các trường hợp ngoại lệ.

2.2. Yêu Cầu Về Kho Ngữ Liệu Đầy Đủ và Tính Khả Thi Thực Tế

Một yếu tố quan trọng ảnh hưởng đến hiệu suất của mô hình học máy thống kêkích thước và chất lượng của kho ngữ liệu huấn luyện. Một kho ngữ liệu lớn và đầy đủ, bao phủ nhiều ngữ cảnh và nghĩa khác nhau, sẽ giúp mô hình học được các quy luật ngôn ngữ một cách chính xác hơn. Tuy nhiên, việc xây dựng một kho ngữ liệu như vậy đòi hỏi nhiều thời gian, công sức và nguồn lực. Hơn nữa, ngay cả với một kho ngữ liệu lớn, vẫn có thể tồn tại các trường hợp ngoại lệ mà mô hình chưa từng gặp phải. Do đó, việc phát triển các phương pháp khử nhập nhằng nghĩa có khả năng hoạt động tốt ngay cả với kho ngữ liệu hạn chế là vô cùng quan trọng.

III. Cách Tiếp Cận Mới Kết Hợp Thống Kê Học Dựa Trên Luật

Luận văn này đề xuất một mô hình mới, tập trung vào việc giải quyết các trường hợp bị lỗi (phân lớp sai) bởi mô hình học máy thống kê. Bằng cách kết hợp học máy thống kê với học dựa trên luật (TBL), mô hình có thể cải thiện độ chính xác và vượt qua giới hạn của các phương pháp trước đó. Ý tưởng chính là sử dụng các luật chuyển TBL để sửa lỗi sai của mô hình Naive Bayes. Hệ thống được xây dựng theo các bước: chia ngẫu nhiên kho ngữ liệu thành training-corpus-i và developing-corpus-i, huấn luyện mô hình Naive Bayes, sử dụng TBL để tạo luật chuyển sửa lỗi, và gộp các luật chuyển lại để thu được tập luật tốt nhất.

3.1. Sử Dụng Luật Chuyển TBL để Sửa Lỗi Phân Loại

Trong mô hình đề xuất, học dựa trên luật chuyển (TBL) được sử dụng như một cơ chế để sửa lỗi cho mô hình học máy thống kê. Sau khi mô hình thống kê đã phân loại các từ trong văn bản, TBL sẽ phân tích các trường hợp mà mô hình đã mắc lỗi và tìm kiếm các luật chuyển có thể được áp dụng để sửa các lỗi này. Các luật chuyển này thường có dạng "Nếu ngữ cảnh X xảy ra, thì thay đổi nhãn từ A thành B". Bằng cách áp dụng các luật này một cách có hệ thống, mô hình có thể cải thiện độ chính xác của mình, đặc biệt là trong các trường hợp ngoại lệ mà mô hình thống kê gặp khó khăn.

3.2. Quy Trình Xây Dựng Tập Luật Chuyển Tối Ưu

Việc xây dựng tập luật chuyển TBL là một quá trình quan trọng trong mô hình đề xuất. Quá trình này bao gồm các bước: (1) Phân tích lỗi: Xác định các trường hợp mà mô hình học máy thống kê đã mắc lỗi. (2) Tạo luật ứng viên: Tạo ra một tập các luật chuyển có thể được áp dụng để sửa các lỗi này. (3) Đánh giá luật: Đánh giá hiệu quả của từng luật bằng cách đo lường số lượng lỗi mà luật này sửa được so với số lượng lỗi mà luật này gây ra. (4) Lựa chọn luật: Chọn ra các luật tốt nhất để đưa vào tập luật chuyển. Quá trình này có thể được lặp lại nhiều lần để cải thiện chất lượng của tập luật chuyển.

IV. Huấn Luyện Mô Hình Giai Đoạn Thuật Toán Chi Tiết

Quá trình huấn luyện mô hình bao gồm ba giai đoạn chính. (1) Xác định danh sách lỗi sau khi phân lớp bằng Naive Bayes. (2) Xác định luật chuyển để sửa lỗi. (3) Lặp lại giai đoạn 1 và 2 với N bộ kho ngữ liệu chia ngẫu nhiên, sau đó tổng hợp các luật chuyển. Số N được xác định dựa trên thực nghiệm. Quá trình huấn luyện tập trung vào việc tạo ra các luật chuyển có khả năng sửa lỗi hiệu quả cho mô hình Naive Bayes.

4.1. Giai Đoạn 1 Xác Định và Liệt Kê Các Lỗi Phân Loại

Giai đoạn đầu tiên của quá trình huấn luyện là xác định và liệt kê các lỗi phân loạimô hình Naive Bayes mắc phải. Để làm được điều này, ta sử dụng hai kho ngữ liệu: training-corpusdeveloping-corpus. Training-corpus được sử dụng để huấn luyện mô hình Naive Bayes. Sau đó, mô hình Naive Bayes được sử dụng để phân loại các từ trong developing-corpus. So sánh kết quả phân loại của mô hình Naive Bayes với nhãn đúng của các từ trong developing-corpus, ta có thể xác định được các trường hợp mà mô hình đã mắc lỗi. Các trường hợp này được lưu lại trong một danh sách lỗi, cùng với nhãn sai mà mô hình đã gán cho các từ này.

4.2. Giai Đoạn 2 Tạo và Lựa Chọn Luật Chuyển TBL

Ở giai đoạn này, chúng ta sẽ sử dụng danh sách lỗi đã tạo ở giai đoạn 1 để tạo và lựa chọn luật chuyển TBL. Đầu tiên, chúng ta áp dụng mẫu luật để tạo ra một tập các luật chuyển tiềm năng. Sau đó, chúng ta đánh giá hiệu quả của từng luật bằng cách áp dụng luật đó lên một bản sao của kho ngữ liệu ban đầu. Điểm số của mỗi luật được tính dựa trên số lượng nhãn sai mà luật đó sửa được trừ đi số lượng nhãn đúng mà luật đó làm sai. Luật có điểm số cao nhất sẽ được chọn và thêm vào danh sách luật chuyển.

4.3 Giai Đoạn 3 Tổng Hợp và Tối Ưu Luật Chuyển

Để tăng cường tính ổn định và khái quát hóa của luật, mô hình lặp lại giai đoạn 1 và 2 nhiều lần (N lần) với các bộ training-corpus và developing-corpus khác nhau. Điều này giúp mô hình bắt được nhiều dạng lỗi hơn và tìm ra các luật chuyển ít bị phụ thuộc vào một tập dữ liệu cụ thể. Kết thúc giai đoạn này, mô hình kết hợp tất cả các danh sách luật chuyển lại với nhau để thu được một danh sách duy nhất, giúp tối đa hoá hiệu quả sửa lỗi.

V. Ứng Dụng Đánh Giá Kết Quả Thực Nghiệm Khả Quan

Mô hình được đánh giá trên kho ngữ liệu tiếng Việt tự xây dựng, bao gồm 10 từ đa nghĩa. Kết quả cho thấy mô hình kết hợp Naive Bayes và TBL vượt trội hơn so với các mô hình Naive Bayes, TBL và SVM riêng lẻ. Điều này chứng minh tính hiệu quả của việc kết hợp hai phương pháp để khắc phục hạn chế của từng phương pháp.

5.1. Xây Dựng Kho Ngữ Liệu Tiếng Việt Cho Đánh Giá

Do thiếu kho ngữ liệu chuẩn cho tiếng Việt, chúng tôi đã xây dựng một kho ngữ liệu riêng cho mục đích đánh giá. Kho ngữ liệu này bao gồm 10 từ đa nghĩa phổ biến trong tiếng Việt, với nhiều ngữ cảnh khác nhau cho mỗi từ. Các ngữ cảnh này được trích xuất từ các bài báo và văn bản trực tuyến, và được gán nhãn bằng tay để xác định nghĩa đúng của từ trong từng ngữ cảnh. Kho ngữ liệu này đóng vai trò quan trọng trong việc đánh giá hiệu quả của các phương pháp khử nhập nhằng nghĩa cho tiếng Việt.

5.2. So Sánh Hiệu Năng Các Mô Hình NB TBL SVM NB TBL

Để đánh giá hiệu quả của mô hình đề xuất, chúng tôi đã so sánh hiệu năng của mô hình này với ba mô hình khác: Naive Bayes (NB), Transformation Based Learning (TBL), và Support Vector Machines (SVM). Kết quả cho thấy mô hình kết hợp NB & TBL đạt độ chính xác cao nhất so với các mô hình còn lại. Điều này chứng minh rằng việc kết hợp học máy thống kê với học dựa trên luật có thể cải thiện đáng kể hiệu năng của các phương pháp khử nhập nhằng nghĩa.

VI. Kết Luận Hướng Phát Triển Tiềm Năng Ứng Dụng Mở Rộng

Luận văn đã đề xuất mô hình mới kết hợp học máy thống kê và học dựa trên luật để khử nhập nhằng nghĩa tiếng Việt. Kết quả thực nghiệm cho thấy mô hình đạt độ chính xác cao hơn so với các phương pháp tiếp cận cơ bản. Hướng phát triển bao gồm mở rộng kho ngữ liệu, cải thiện các đặc trưng, và áp dụng mô hình cho các bài toán xử lý ngôn ngữ tự nhiên khác.

6.1. Đánh Giá Ưu Điểm và Hạn Chế Của Mô Hình Đề Xuất

Mô hình kết hợp NB & TBL khắc phục được nhược điểm của mô hình NB trong xử lý các trường hợp ngoại lệ bằng cách sử dụng luật chuyển để sửa lỗi. Tuy nhiên, mô hình vẫn còn một số hạn chế, chẳng hạn như sự phụ thuộc vào chất lượng của kho ngữ liệutập luật chuyển. Trong tương lai, cần tập trung vào việc xây dựng kho ngữ liệu lớn hơn và đa dạng hơn, cũng như phát triển các phương pháp tạo luật chuyển hiệu quả hơn.

6.2. Tiềm Năng Ứng Dụng và Nghiên Cứu Mở Rộng Trong Tương Lai

Mô hình đề xuất không chỉ có tiềm năng ứng dụng trong khử nhập nhằng nghĩa, mà còn có thể được mở rộng để giải quyết các bài toán khác trong lĩnh vực xử lý ngôn ngữ tự nhiên, chẳng hạn như gán nhãn từ loại, phân tích cú pháp, và nhận dạng thực thể. Hơn nữa, các kỹ thuật được sử dụng trong mô hình, chẳng hạn như học dựa trên luật chuyển, cũng có thể được áp dụng cho các lĩnh vực khác ngoài xử lý ngôn ngữ tự nhiên.

24/09/2025

Trích đoạn nội dung tài liệu

Đặt vấn đề Nhƣ đã trình bày ở trên, cách tiếp cận học máy thống kê đã cho thấy những ƣu điểm của nó so với các cách tiếp cận dựa trên tri thức. Trong khi các cách tiếp cận dựa trên tri thức là dựa trên các luật đƣợc tạo bởi các chuyên gia cũng nhƣ khả năng của họ và gặp vấn đề khó khăn khi giải quyết một số lƣợng lớn các trƣờng hợp. Cách tiếp cận học máy có thể giải quyết vấn đề này trên quy mô lớn mà không phải quan tâm nhiều đến khía cạnh ngôn ngữ. Tuy nhiên, các phƣơng pháp tiếp cận học máy đề yêu cầu bộ dữ liệu đã gán nhãn trƣớc để xây dựng lên mô hình.

Bộ dữ liệu huấn luyện càng lớn thì mô hình học máy xây dựng sẽ càng tốt. Trên thực tế, để xây dựng một bộ dữ liệu huấn luyện lớn thì mất thiều thời gian và công sức. Mặc dù độ chính xác của các phƣơng pháp tiếp cận giải quyết bài toán này trên các kho ngữ liệu chuẩn Senseval-1, Senseval-2, và Senseval-3 là vào khoảng trên 80%. Một số nghiên cứu khác nhƣ nghiên cứu của Le[17] đạt đƣợc độ chính xác vào khoảng 90% nhƣng chỉ hạn chế cho một số từ nhập nhằng.

Nhƣ vậy, vẫn còn những trƣờng hợp mà mô hình học máy thống kê chƣa giải quyết đƣơc. Vấn đề này theo quan điểm của chúng tôi có thể đƣợc giải thích nhƣ sau:  Lý do thứ nhất chính là các mô hình học máy thống kê dựa trên một kho ngữ liệu ít và không đầy đủ. Trên thực tế, để xây dựng một kho ngữ liệu đầy đủ và lớn là khó và không khả thi. TIEU LUAN MOI download : skknchat@gmail.com 5  Lý do thứ hai chính là vẫn còn tồn tại các trƣờng hợp ngoại lệ (đặc biệt) mà nó không tuân theo quy luật thống kê.

Nhƣ vậy, vấn đề đặt ra là làm thế nào để có thể cải thiện đƣợc độ chính xác của các mô hình học máy thống kê với một tập huấn luyện đã cho trƣớc. Do đó, cần thiết phải có một mô hình mới khắc phục đƣợc những vấn đề còn tồn tại của mô hình học máy thống kê, nhằm cải thiện đƣợc độ chính xác của nó. Mục tiêu của đề tài Luận văn này đề xuất xây dựng một mô hình mới mà trọng tâm là giải quyết các trƣờng hợp bị lỗi (các trƣờng hợp bị phân lớp sai bởi mô hình học máy thống kê) nhằm nâng cao độ chính xác của mô hình học máy thống kê cũng nhƣ vƣợt qua giới hạn của các mô hình học máy thống kê trƣớc đó. Trong suốt quá trình nghiên cứu, bằng cách mƣợn ý tƣởng từ cách tiếp cận dựa trên tri thức thay cho việc tạo ra các luật bởi chuyên gia, chúng tôi áp dụng kỹ thuật của học dựa trên luật chuyển TBL cho việc tự động tạo ra các luật.

Cách xây dựng hệ thống của chúng tôi có thể tóm tắt nhƣ sau:  Thứ nhất, dựa trên kho ngữ liệu huấn luyện Corpus-1, chúng tôi chia ngẫu nhiên N lần thành hai kho ngữ liệu training-corpus-i và developing-corpus-i theo tỉ lệ 3:1, với 𝑖 = 1, 𝑁. Chúng tôi sử dụng kho ngữ liệu training-corpus-i huấn luyện lên một mô hình phân lớp Naive Bayes. Chính mô hình này đƣợc sử dụng cho việc khởi tạo các nhãn cơ bản trong giải thuật học dựa trên luật chuyển TBL, từ đó phát hiện ra các ngữ cảnh bị phân lớp sai của mô hình NB. Sau đó, kho ngữ liệu phát triển developing-corpus-i đƣợc sử dụng để thu đƣợc một tập các luật chuyển.

Quá trình thu các tập luật chuyển này sẽ đƣợc lặp lại nhiều lần trên các kho ngữ liệu training-corpus-i và developing-corpus-i. Sau đó chúng tôi gộp các tập luật chuyển đó lại để thu đƣợc một tập luật chuyển tốt nhất.  Thứ hai, chúng tôi sử dụng các luật chuyển vừa thu đƣợc để sửa nhãn cho những ngữ cảnh bị phân lớp sai của mô hình học máy. Độ chính xác của hệ thống mà chúng tôi đề xuất là tốt nhất khi so sánh với các phƣơng pháp NB, TBL, SVM.

Đối tƣợng và phƣơng pháp nghiên cứu Đối tƣợng nghiên cứu của luận văn gồm: Một số mô hình học máy thống kê và mô hình học dựa trên luật chuyển mà đƣợc sử dụng để giải quyết bài toán khử nhập nhằng nghĩa của từ. Trong đó chúng tôi tập trung vào mô hình học máy Naive Bayes và mô hình học đựa trên luật chuyển TBL. Phƣơng pháp nghiên cứu của luận văn: Đề xuất mô hình mới về mặt lý thuyết, sau đó tiến hành sử dụng các công cụ phân lớp có sẵn nhƣ LibSVM kết hợp với các TIEU LUAN MOI download : skknchat@gmail.com 6 công cụ xử lý nhập nhằng nghĩa của từ tự xây dựng. Qua đó chứng minh tính hiệu quả của mô hình mới mà chúng tôi đề xuất so với các mô hình đã có trƣớc đó.

Những đóng góp của luận văn Thứ nhất, đề xuất việc lựa chọn các đặc trƣng phù hợp cho bài toán khử nhập nhằng nghĩa của từ tiếng Việt. Qua đó sử dụng các đặc trƣng này trong các mô hình học máy thống kê nhƣ mô hình NB, mô hình TBL, và mô hình SVM cho kết quả cao. Thứ hai, đề xuất tập mẫu luật chuyển phù hợp trong phƣơng pháp học dựa trên luật chuyển (TBL) để thu đƣợc các luật chuyển có chất lƣợng. Qua đó giúp cho việc sửa các lỗi của mô hình học máy thống kê tốt hơn.

Thứ ba, xây dựng đƣợc kho ngữ liệu đã gán nhãn gồm 10 từ đa nghĩa trong tiếng Việt, phục vụ cho việc đánh giá độ chính xác của các mô hình học máy. Thứ tƣ, đề xuất một mô hình mới giải quyết bài toán khử nhập nhằng. Mô hình dựa trên việc kết hợp mô hình học máy thống kê và mô hình học dựa trên luật. Mô hình mới này cho phép sửa đƣợc các lỗi sai của mô hình học máy thống kê, nó đạt đƣợc độ chính xác tốt nhất khi so sánh với các mô hình NB, mô hình TBL, và mô hình SVM.

Hơn nữa, mô hình này mà chúng tôi đề xuất có thể áp dụng để giải quyết nhiều bài toán khác của xử lý ngôn ngữ tự nhiên. Thứ năm, giải quyết bài toán khử nhập nhằng nghĩa của từ tiếng Việt mà theo hiểu biết của chúng tôi chƣa có nhiều các nghiên cứu về vấn đề này bằng chính mô hình mới mà chúng tôi đã đề xuất. Bố cục luận văn Trong phần này, chúng tôi sẽ trình bày chi tiết cách tổ chức luận văn và thông tin tóm tắt của từng chƣơng. Luận văn đƣợc tổ chức thành 4 chƣơng, ngoài chƣơng 1 đã đƣợc trình bày, các chƣơng còn lại đƣợc tổ chức nhƣ sau:  Chƣơng 2: Kiến thức cơ sở Trong chƣơng này, chúng tôi sẽ giới thiệu kiến thức cơ sở mà chủ yếu là cách tiếp cận dựa trên tri thức và cách tiếp cận dựa trên kho ngữ liệu.

Sau đó, chúng tôi trình bày một số giải thuật học máy cơ bản mà những giải thuật này sẽ đƣợc sử dụng trong quá trình xây dựng hệ thống do chúng tôi đề xuất cũng nhƣ sử dụng trong phần thực nghiệm.  Chƣơng 3: Đề xuất mô hình khử nhập nhằng nghĩa của từ Trong chƣơng này, chúng tôi đề cập đến hai vấn đề. Thứ nhất, đề xuất mô hình mới cho phép khử nhập nhằng với độ chính xác cao hơn các mô hình trƣớc đó. Chìa TIEU LUAN MOI download : skknchat@gmail.com 7 khóa để xây dựng nên mô hình này chính là sử dụng các luật chuyển TBL để sửa lỗi cho mô hình học máy thống kê.

Thứ hai, trình bày cách biểu diễn ngữ cảnh của từ nhập nhằng, nêu nên tầm quan trọng của việc lựa chọn đặc trƣng và cho thấy vai trò quan trọng của nó trong việc nâng cao hiệu năng của hệ thống đồng thời đề xuất việc lựa chọn đặc trƣng. Ngoài ra, tập mẫu luật trong giải thuật học dựa trên luật chuyển cũng đƣợc trình bày trong chƣơng này.  Chƣơng 4: Thực nghiệm Trong chƣơng này, chúng tôi trình bày cách xây dựng kho ngữ liệu cho 10 từ đa nghĩa trong tiếng Việt. Từ việc chuẩn bị kho ngữ liệu đó, chúng tôi tiến hành thực nghiệm đánh giá hệ thống mà chúng tôi đề xuất đối với 10 từ nhập nhằng trong tiếng Việt và so sánh kết quả thu đƣợc với các phƣơng pháp tiến cận trƣớc đó nhƣ phƣơng pháp Naive Bayes, phƣơng pháp TBL, phƣơng pháp SVM.

Trên cơ sở so sánh kết quả thực nghiệm của các phƣơng pháp, chúng tôi đƣa ra kết luận về phƣơng pháp mà chúng tôi đề xuất. TIEU LUAN MOI download : skknchat@gmail.com 8 CHƢƠNG II. KIẾN THỨC CƠ SỞ Chƣơng này đƣợc chia thành hai phần. Trong phần đầu, chúng tôi trình bày các phƣơng pháp đã đƣợc áp dụng để giải quyết bài toán khử nhập nhằng nghĩa của từ.

Qua đó cung cấp một bức tranh tổng thể về phƣơng pháp giải quyết bài toán khử nhập nhằng nghĩa của từ. Trong phần hai, chúng tôi sẽ giới thiệu một số mô hình học máy cơ bản nhƣ: mô hình Naive Bayes, mô hình SVM, và mô hình TBL. Các nghiên cứu khử nhập nhằng nghĩa của từ trong quá khứ. Trong phần này chúng tôi tóm tắt các cách tiếp cận của các nghiên cứu về vấn đề khử nhập nhằng nghĩa của từ cho đến thời điểm hiện tại.

Hầu hết các phƣơng pháp tiếp cận khử nhập nhằng nghĩa của từ đều đƣợc phân vào 2 nhóm tiếp cận đó là: Tiếp cận dựa trên tri thức (knowledge-based) và cách tiếp cận dựa trên kho ngữ liệu (data- driven hay corpus-based). Cách tiếp cận dựa trên tri thức Công việc khử nhập nhằng nghĩa của từ đạt đến một bƣớc ngoặt trong thập niên 1980 và 1990, khi mà nguồn tài nguyên về ngữ nghĩa có quy mô lớn nhƣ từ điển, từ điển đồng nghĩa (thesauri) và kho ngữ liệu đƣợc phổ biến rộng rãi. Các phƣơng pháp tiếp cận dựa trên tri thức có thể phân vào các nhóm theo kiểu tài nguyên mà các phƣơng pháp này sử dụng nhƣ:  Từ điển máy có thể đọc (Machine Readable Dictionary - MRD).  Từ điển từ đồng nghĩa (Thesauri) Từ điển máy có thể đọc Từ điển máy có thể đọc cung cấp nguồn tài nguyên thông tin về nghĩa của từ giúp cho việc khử nhập nhằng nghĩa của từ.

Ở đây chúng ta cần phân biệt từ điển máy có thể đọc với từ điển điện tử dành cho ngƣời, các từ điển điện tử dùng cho ngƣời dùng mặc dù ở dạng điện tử nhƣng không phải cho máy sử dụng. Chẳng hạn chúng chứa một số thông tin mà máy không cần biết nhƣ các thông tin về ngữ âm (phonetics), giải thích… Từ điển máy có thể đọc chứa các thông tin không có trong các từ điển cho ngƣời vì con ngƣời có thể suy ra chúng bằng những tri thức về thế giới thực.

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ