Luận Văn: Học Mối Quan Hệ Trong Trích Rút Thông Tin Tiếng Việt

Luận văn về trích rút thông tin tiếng Việt, tập trung nghiên cứu mối quan hệ giữa các thực thể. Phân tích chuyên sâu, ứng dụng trong xử lý ngôn ngữ tự nhiên.

• Tác giả: Chu Đăng Định
• Người hướng dẫn: TS. Lê Thanh Hương
• Trường học: Trường Đại học Bách Khoa Hà Nội
• Chuyên ngành: Công nghệ thông tin
• Đề tài: Học Mối Quan Hệ Trong Trích Rút Thông Tin Tiếng Việt
• Loại tài liệu: Luận văn thạc sỹ
• Năm xuất bản: 2010
• Địa điểm: Hà Nội

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• 1. CHƯƠNG 1: TỔNG QUAN VỀ TRÍCH RÚT THÔNG TIN VÀ CÁC MÔ HÌNH HỌC QUAN HỆ
• 1.1. Tổng quan về trích rút thông tin
• 1.2. Trích rút thông tin
• 1.3. Trích rút thông tin và thu thập thông tin
• 1.4. Kỹ thuật học quan hệ kiểu ký hiệu (Symbolic)
• 1.5. Các vấn đề về thiết kế giải thuật tổng thể
• 1.6. Các phương pháp học
• 1.7. Các nguồn lực xử lý ngôn ngữ tự nhiên
• 1.7.1. Phân tách từ vựng (Word Segmentation)
• 1.7.2. Gán nhãn từ loại (Part-of-speech tagger)
• 1.7.3. Từ điển từ vựng (Lexicon)
• 1.7.4. Nhận dạng thực thể có tên (Named-Entity Recognition)
• 2. CHƯƠNG 2: HƯỚNG TIẾP CẬN RAPIER CHO BÀI TOÁN TRÍCH RÚT THÔNG TIN
• 2.1. Biểu diễn luật
• 2.2. Giải thuật học
• 2.3. Các lựa chọn thiết kế giải thuật
• 2.4. Tổng quan về giải thuật
• 2.5. Xây dựng tập luật khởi đầu
• 2.6. Cô đọng tập luật. Tiêu chuẩn đánh giá luật. Tính toán mẫu khái quát hóa của hai mẫu.
• 2.7. Pha chuyên biệt hóa. Áp dụng phương pháp học tích cực với RAPIER.
• 2.7.1. Lấy mẫu có lựa chọn. Áp dụng phương pháp lấy mẫu có lựa chọn vào RAPIER
• 2.7.2. Độ không chắc chắn trong RAPIER
• 2.7.3. Trang bị khả năng học tăng cường cho RAPIER
• 3. CHƯƠNG 3: ĐỀ XUẤT MÔ HÌNH RAPIER CHO TRÍCH RÚT THÔNG TIN TIẾNG VIỆT
• 3.1. Các điều chỉnh khi áp dụng mô hình RAPIER với tiếng Việt
• 3.2. Công cụ tách từ tiếng Việt
• 3.3. Công cụ gán nhãn từ loại tiếng Việt
• 3.4. Cây ngữ nghĩa và từ điển ngữ nghĩa tiếng Việt
• 3.5. Các cải tiến của mô hình
• 3.5.1. Tích hợp nhận dạng thực thể có tên
• 3.5.2. Sinh luật trích rút gần đúng
• 3.5.3. Tùy biến độ rộng cửa sổ so khớp theo từng trường thông tin
• 4. CHƯƠNG 4: PHÂN TÍCH VÀ THIẾT KẾ HỆ THỐNG
• 4.1. Xác định yêu cầu
• 4.2. Phân tích thiết kế hệ thống
• 4.3. Thiết kế tổng thể của hệ thống trích rút thông tin tiếng Việt
• 4.4. Chức năng tiền xử lý văn bản
• 4.5. Chức năng học luật
• 4.6. Chức năng trích rút thông tin
• 4.7. Chức năng đánh giá luật
• 5. CHƯƠNG 5: CÀI ĐẶT MÔ HÌNH VÀ KIỂM THỬ KẾT QUẢ
• 5.1. Phương pháp thực nghiệm
• 5.2. Các độ đo thực nghiệm
• 5.3. Các phiên bản thực nghiệm
• 5.4. Ngữ liệu thực nghiệm
• 5.5. Kết quả thực nghiệm
• 5.6. Đánh giá thực nghiệm
• 5.6.1. Về thời gian thực hiện
• 5.6.2. Về công cụ tách từ và gán nhãn từ loại
• 5.6.3. Về từ điển ngữ nghĩa và các vụ gán nhãn thực thể có tên
• 5.6.4. Về các luật trích rút gán đúng
• KẾT LUẬN VÀ ĐỊNH HƯỚNG PHÁT TRIỂN
• TÀI LIỆU THAM KHẢO
• PHỤ LỤC
• 1. PHỤ LỤC 1 - TẬP CÁC NHÃN TỪ LOẠI TIẾNG VIỆT ĐƯỢC SỬ DỤNG
• 2. PHỤ LỤC 2 - TẬP LUẬT KẾT QUẢ THỰC NGHIỆM

Tóm tắt

I. Luận văn học mối quan hệ Tổng quan trích rút thông tin

Trích rút thông tin (Information Extraction - IE) là một lĩnh vực quan trọng của xử lý ngôn ngữ tự nhiên (NLP) và khai phá dữ liệu văn bản. Mục tiêu của IE là tự động xác định và trích xuất các thực thể, mối quan hệ và sự kiện từ văn bản, chuyển đổi thông tin phi cấu trúc thành dạng cấu trúc, có thể sử dụng cho các ứng dụng khác nhau. Luận văn trích rút thông tin tập trung vào việc nghiên cứu và phát triển các phương pháp, mô hình để tự động hóa quá trình này, đặc biệt trong bối cảnh ngôn ngữ tiếng Việt. Một trong những khía cạnh quan trọng của trích rút thông tin từ văn bản là xác định quan hệ giữa các thực thể. Các hệ thống IE cần có khả năng không chỉ nhận diện các thực thể (ví dụ: tên người, địa điểm, tổ chức) mà còn xác định mối liên hệ giữa chúng (ví dụ: "X là giám đốc của Y", "A nằm ở B"). Việc học mối quan hệ là một bài toán phức tạp, đòi hỏi sự kết hợp của nhiều kỹ thuật NLP khác nhau, bao gồm phân tích cú pháp, ngữ nghĩa, và học máy. Theo tài liệu, trích rút thông tin có mối quan hệ mật thiết với Full Text Understanding [3 ]. Luận văn này sẽ đi sâu vào các phương pháp tiếp cận khác nhau để học mối quan hệ trong trích rút thông tin tiếng Việt, đánh giá hiệu quả của chúng và đề xuất các cải tiến để nâng cao hiệu suất của hệ thống IE.

1.1. Khái niệm cơ bản về trích rút thông tin IE

Trích rút thông tin (IE) chuyển đổi văn bản không có cấu trúc thành dữ liệu có cấu trúc, cho phép phân tích và truy vấn dễ dàng hơn. IE khác với tìm kiếm thông tin (IR), vì IE tìm cách trích xuất các phần thông tin cụ thể, thay vì chỉ trả về các tài liệu liên quan. Các hệ thống IE thường được xây dựng dựa trên các quy tắc, hoặc sử dụng các mô hình học máy để tự động học cách trích xuất thông tin. Các thành phần chính của một hệ thống IE bao gồm nhận dạng thực thể có tên (Named Entity Recognition - NER), phân tích cú pháp, phân giải đồng tham chiếu (coreference resolution), và trích rút quan hệ (relation extraction). NER là bước đầu tiên, xác định và phân loại các thực thể quan trọng trong văn bản. Phân tích cú pháp giúp xác định cấu trúc ngữ pháp của câu, cung cấp thông tin quan trọng cho việc trích rút quan hệ. Phân giải đồng tham chiếu xác định các tham chiếu khác nhau đến cùng một thực thể, giúp xây dựng một bức tranh hoàn chỉnh về các thực thể và mối quan hệ trong văn bản.

1.2. Tầm quan trọng của học mối quan hệ trong IE tiếng Việt

Việc học mối quan hệ là một thành phần then chốt trong trích rút thông tin (entity relationship extraction). Khả năng xác định quan hệ giữa các thực thể cho phép hệ thống IE hiểu sâu sắc hơn về ngữ nghĩa của văn bản. Trong tiếng Việt, cấu trúc câu linh hoạt và đa dạng, cùng với sự phong phú của từ vựng, tạo ra những thách thức đặc biệt cho việc học mối quan hệ. Các phương pháp truyền thống dựa trên quy tắc thường gặp khó khăn trong việc xử lý sự biến đổi ngôn ngữ. Do đó, việc áp dụng các phương pháp học máy là cần thiết để xây dựng các hệ thống IE mạnh mẽ và linh hoạt cho tiếng Việt. Nghiên cứu về học mối quan hệ trong trích rút thông tin tiếng Việt có ý nghĩa thực tiễn to lớn, mở ra cơ hội ứng dụng trong nhiều lĩnh vực, bao gồm phân tích tin tức, quản lý tri thức, và hỗ trợ ra quyết định.

II. Thách thức luận văn Trích rút quan hệ trong tiếng Việt

Việc trích rút quan hệ trong văn bản tiếng Việt đối mặt với nhiều thách thức đặc thù. Khác với tiếng Anh, tiếng Việt là ngôn ngữ đơn lập, không có hình thái từ vựng. Điều này gây khó khăn cho việc phân tích cú pháp và xác định ranh giới từ. Cấu trúc câu tiếng Việt cũng rất linh hoạt, với trật tự từ có thể thay đổi tùy thuộc vào ngữ cảnh. Sự đa dạng của từ vựng, bao gồm cả từ Hán Việt và từ mượn, cũng tạo ra những khó khăn trong việc xây dựng từ điển và cây ngữ nghĩa. Hơn nữa, thiếu hụt tài nguyên ngôn ngữ cho tiếng Việt, như tập dữ liệu được gán nhãn và công cụ xử lý ngôn ngữ, là một trở ngại lớn cho việc phát triển các hệ thống IE hiệu quả. Theo tài liệu, một khó khăn nữa là về công cụ tách từ và gán nhãn từ loại còn nhiều hạn chế. Luận văn học máy trích rút thông tin cần tập trung vào việc giải quyết những thách thức này để có thể xây dựng các hệ thống IE mạnh mẽ và chính xác cho tiếng Việt.

2.1. Đặc điểm ngôn ngữ tiếng Việt và ảnh hưởng đến trích rút

Tiếng Việt có những đặc điểm riêng biệt ảnh hưởng lớn đến quá trình trích rút thông tin. Thứ nhất, tiếng Việt là ngôn ngữ đơn lập, các từ không biến đổi hình thái để biểu thị quan hệ ngữ pháp. Điều này làm cho việc phân tích cú pháp trở nên khó khăn hơn so với các ngôn ngữ có hình thái. Thứ hai, cấu trúc câu tiếng Việt khá linh hoạt, trật tự từ có thể thay đổi để nhấn mạnh hoặc biểu thị ý nghĩa khác nhau. Điều này đòi hỏi các hệ thống IE phải có khả năng xử lý sự biến đổi về trật tự từ. Thứ ba, tiếng Việt có nhiều từ đồng nghĩa, trái nghĩa và từ đa nghĩa, đòi hỏi các hệ thống IE phải có khả năng phân biệt nghĩa của từ dựa trên ngữ cảnh. Để giải quyết những thách thức này, cần có các phương pháp xử lý ngôn ngữ tự nhiên (NLP) tiên tiến, như sử dụng mạng nơ-ron sâu và các mô hình ngôn ngữ lớn để hiểu ngữ cảnh và biểu diễn ý nghĩa của từ.

2.2. Sự thiếu hụt tài nguyên và dữ liệu cho IE tiếng Việt

Một trong những rào cản lớn nhất trong việc phát triển các hệ thống trích rút thông tin hiệu quả cho tiếng Việt là sự thiếu hụt tài nguyên và dữ liệu. Các tập dữ liệu được gán nhãn cho các nhiệm vụ như NER, phân tích cú pháp và trích rút quan hệ còn rất hạn chế so với các ngôn ngữ phổ biến khác như tiếng Anh. Điều này gây khó khăn cho việc huấn luyện các mô hình học máy có độ chính xác cao. Ngoài ra, các công cụ xử lý ngôn ngữ như bộ tách từ, bộ gán nhãn từ loại và từ điển ngữ nghĩa cho tiếng Việt cũng chưa được phát triển đầy đủ. Để khắc phục tình trạng này, cần có sự đầu tư lớn vào việc xây dựng và chia sẻ các tài nguyên và dữ liệu ngôn ngữ cho tiếng Việt. Các nỗ lực crowdsourcing và sử dụng kỹ thuật học chuyển giao (transfer learning) có thể giúp giảm bớt gánh nặng về dữ liệu.

III. Phương pháp RAPIER Cách tiếp cận luận văn học quan hệ

Một trong những phương pháp tiếp cận đầy hứa hẹn cho bài toán học mối quan hệ trong trích rút thông tin tiếng Việt là RAPIER (Robust Automated Production of Information Extraction Rules). RAPIER là một thuật toán học quy tắc dựa trên mẫu (pattern-based rule learning), có khả năng tự động sinh ra các quy tắc trích rút thông tin từ dữ liệu huấn luyện được gán nhãn. Thuật toán RAPIER sử dụng các mẫu biểu diễn quan hệ giữa các thực thể trong văn bản, và học cách khái quát hóa các mẫu này để tạo ra các quy tắc có thể áp dụng cho các văn bản mới. Theo tài liệu, thuật toán RAPIER trải qua các giai đoạn học. RAPIER có ưu điểm là dễ dàng giải thích và sửa đổi các quy tắc, cũng như có khả năng xử lý dữ liệu nhiễu. Luận văn trích rút quan hệ sẽ tập trung vào việc điều chỉnh và cải tiến thuật toán RAPIER để phù hợp với đặc điểm của tiếng Việt, cũng như đánh giá hiệu quả của phương pháp này trên các tập dữ liệu thực tế.

3.1. Tổng quan về giải thuật RAPIER và các thành phần chính

Giải thuật RAPIER hoạt động dựa trên việc học các mẫu (patterns) từ dữ liệu huấn luyện. Một mẫu bao gồm ba thành phần chính: pre-filler, filler và post-filler. Pre-filler là phần văn bản xuất hiện trước thực thể cần trích xuất, filler là chính thực thể cần trích xuất, và post-filler là phần văn bản xuất hiện sau thực thể. RAPIER sử dụng các mẫu này để tạo ra các quy tắc trích rút thông tin. Quá trình học của RAPIER bao gồm ba giai đoạn chính: khởi tạo tập luật, cô đọng tập luật và chuyên biệt hóa mẫu. Trong giai đoạn khởi tạo, RAPIER tạo ra một tập hợp các quy tắc ban đầu dựa trên các mẫu xuất hiện trong dữ liệu huấn luyện. Trong giai đoạn cô đọng, RAPIER loại bỏ các quy tắc dư thừa hoặc không hiệu quả. Trong giai đoạn chuyên biệt hóa, RAPIER tinh chỉnh các quy tắc để tăng độ chính xác.

3.2. Điều chỉnh RAPIER cho phù hợp với đặc thù tiếng Việt

Để áp dụng RAPIER hiệu quả cho tiếng Việt, cần thực hiện một số điều chỉnh để phù hợp với đặc điểm của ngôn ngữ. Thứ nhất, cần sử dụng một bộ tách từ tiếng Việt chính xác để phân tích văn bản thành các từ riêng biệt. Thứ hai, cần xây dựng một từ điển ngữ nghĩa tiếng Việt để giúp RAPIER hiểu rõ hơn về ý nghĩa của các từ và cụm từ. Thứ ba, cần điều chỉnh các tham số của RAPIER để tối ưu hóa hiệu suất trên dữ liệu tiếng Việt. Ví dụ, có thể cần điều chỉnh độ rộng của cửa sổ so khớp để phù hợp với độ dài trung bình của các cụm từ trong tiếng Việt. Ngoài ra, việc tích hợp các công cụ nhận dạng thực thể có tên (NER) có thể giúp RAPIER xác định chính xác các thực thể quan trọng trong văn bản.

IV. Luận văn cải tiến RAPIER Tích hợp nhận dạng thực thể NER

Việc tích hợp nhận dạng thực thể có tên (NER) vào mô hình RAPIER là một hướng cải tiến quan trọng để nâng cao hiệu quả của trích rút quan hệ trong tiếng Việt. NER giúp xác định và phân loại các thực thể quan trọng trong văn bản, như tên người, địa điểm, tổ chức, và ngày tháng. Thông tin này có thể được sử dụng để cải thiện độ chính xác của các quy tắc trích rút thông tin do RAPIER sinh ra. Theo tài liệu, RAPIER có thể tích hợp nhận dạng thực thể có tên. Bằng cách kết hợp NER và RAPIER, có thể xây dựng một hệ thống IE mạnh mẽ hơn, có khả năng xử lý các văn bản phức tạp và đa dạng. Luận văn học máy trích rút thông tin sẽ tập trung vào việc nghiên cứu và phát triển các phương pháp tích hợp NER vào RAPIER một cách hiệu quả, cũng như đánh giá tác động của việc tích hợp này đến hiệu suất của hệ thống IE.

4.1. Lợi ích của việc tích hợp NER vào mô hình RAPIER

Việc tích hợp NER vào RAPIER mang lại nhiều lợi ích. Thứ nhất, NER giúp RAPIER xác định chính xác các thực thể quan trọng trong văn bản. Điều này giúp giảm thiểu các lỗi trong quá trình trích rút thông tin. Thứ hai, NER cung cấp thông tin về loại của thực thể (ví dụ: người, địa điểm, tổ chức), giúp RAPIER tạo ra các quy tắc trích rút thông tin chuyên biệt hơn. Thứ ba, NER có thể giúp RAPIER xử lý các trường hợp thực thể có nhiều tên gọi khác nhau (ví dụ: "Nguyễn Văn A" và "ông A"). Bằng cách sử dụng thông tin từ NER, RAPIER có thể xác định rằng cả hai tên gọi này đều đề cập đến cùng một thực thể.

4.2. Các phương pháp tích hợp NER vào RAPIER hiệu quả

Có nhiều phương pháp khác nhau để tích hợp NER vào RAPIER. Một phương pháp là sử dụng kết quả của NER để gán nhãn cho các thực thể trong dữ liệu huấn luyện. Sau đó, RAPIER có thể sử dụng thông tin này để tạo ra các quy tắc trích rút thông tin dựa trên loại của thực thể. Một phương pháp khác là tích hợp NER trực tiếp vào quá trình học của RAPIER. Trong phương pháp này, RAPIER sử dụng thông tin từ NER để đánh giá chất lượng của các quy tắc trích rút thông tin. Các quy tắc trích rút các thực thể có loại phù hợp sẽ được ưu tiên hơn. Ngoài ra, có thể sử dụng các mô hình học máy kết hợp để đồng thời thực hiện cả NER và trích rút quan hệ.

V. Kết quả luận văn Đánh giá và phân tích hiệu năng trích rút

Để đánh giá hiệu quả của các phương pháp học mối quan hệ được đề xuất trong luận văn trích rút thông tin, cần thực hiện các thí nghiệm trên các tập dữ liệu thực tế. Các độ đo hiệu năng thường được sử dụng trong trích rút thông tin bao gồm độ chính xác (precision), độ phủ (recall) và F1-score. Độ chính xác đo tỷ lệ các kết quả trích xuất đúng so với tổng số kết quả trích xuất. Độ phủ đo tỷ lệ các kết quả trích xuất đúng so với tổng số kết quả đúng có trong dữ liệu. F1-score là trung bình điều hòa của độ chính xác và độ phủ. Luận văn trích rút quan hệ sẽ phân tích các kết quả thí nghiệm, so sánh hiệu quả của các phương pháp khác nhau, và xác định các yếu tố ảnh hưởng đến hiệu năng của hệ thống IE.

5.1. Các độ đo hiệu năng thường dùng trong trích rút thông tin

Độ chính xác (precision), độ phủ (recall) và F1-score là ba độ đo hiệu năng chính được sử dụng để đánh giá các hệ thống trích rút thông tin. Độ chính xác đo khả năng của hệ thống chỉ trích xuất các thông tin đúng. Độ phủ đo khả năng của hệ thống trích xuất tất cả các thông tin đúng có trong dữ liệu. F1-score là một độ đo tổng hợp, kết hợp cả độ chính xác và độ phủ. Ngoài ra, còn có các độ đo khác như accuracy (độ chính xác tổng thể) và error rate (tỷ lệ lỗi), nhưng độ chính xác, độ phủ và F1-score là phổ biến nhất.

5.2. Phân tích kết quả thực nghiệm và so sánh các phương pháp

Các kết quả thực nghiệm cho thấy việc tích hợp NER vào mô hình RAPIER giúp cải thiện đáng kể hiệu năng của hệ thống trích rút thông tin. Độ chính xác, độ phủ và F1-score đều tăng lên so với mô hình RAPIER không tích hợp NER. Điều này chứng tỏ rằng thông tin về loại của thực thể giúp RAPIER tạo ra các quy tắc trích rút thông tin chuyên biệt hơn và chính xác hơn. So sánh với các phương pháp khác, mô hình RAPIER tích hợp NER cho thấy hiệu năng cạnh tranh và có thể vượt trội trong một số trường hợp. Các yếu tố ảnh hưởng đến hiệu năng của hệ thống bao gồm chất lượng của dữ liệu huấn luyện, độ chính xác của bộ tách từ và bộ gán nhãn từ loại, và sự phù hợp của các tham số của RAPIER.

VI. Kết luận luận văn Hướng phát triển cho trích rút thông tin

Luận văn này đã trình bày một nghiên cứu về học mối quan hệ trong trích rút thông tin tiếng Việt. Đã đề xuất và đánh giá một số phương pháp cải tiến, bao gồm việc điều chỉnh thuật toán RAPIER và tích hợp nhận dạng thực thể có tên. Kết quả thực nghiệm cho thấy các phương pháp đề xuất có tiềm năng nâng cao hiệu quả của hệ thống IE cho tiếng Việt. Trong tương lai, có thể mở rộng nghiên cứu này bằng cách áp dụng các mô hình học sâu và khai thác các nguồn tri thức bên ngoài để cải thiện khả năng hiểu ngữ nghĩa của hệ thống IE. Theo tài liệu, cần có định hướng phát triển rõ ràng. Luận văn học máy trích rút thông tin đã đóng góp một phần vào việc giải quyết bài toán trích rút quan hệ, nhưng vẫn còn nhiều thách thức cần vượt qua để xây dựng các hệ thống IE thông minh và mạnh mẽ cho tiếng Việt.

6.1. Tóm tắt đóng góp và kết quả chính của luận văn

Luận văn đã đóng góp vào lĩnh vực trích rút thông tin tiếng Việt bằng cách đề xuất các phương pháp cải tiến thuật toán RAPIER và tích hợp nhận dạng thực thể có tên. Kết quả thực nghiệm cho thấy việc tích hợp NER giúp cải thiện đáng kể hiệu năng của hệ thống trích rút thông tin. Luận văn cũng đã cung cấp một phân tích chi tiết về các yếu tố ảnh hưởng đến hiệu năng của hệ thống IE, và đề xuất các hướng nghiên cứu tiếp theo.

6.2. Hướng nghiên cứu và phát triển tiếp theo cho IE tiếng Việt

Trong tương lai, có nhiều hướng nghiên cứu và phát triển tiềm năng cho IE tiếng Việt. Một hướng là áp dụng các mô hình học sâu như mạng nơ-ron tích chập (CNN) và mạng nơ-ron hồi quy (RNN) để học các biểu diễn ngữ nghĩa phong phú hơn của từ và câu. Một hướng khác là khai thác các nguồn tri thức bên ngoài như biểu đồ tri thức (knowledge graph) và cơ sở dữ liệu ngữ nghĩa để cải thiện khả năng hiểu ngữ nghĩa của hệ thống IE. Ngoài ra, cần tiếp tục xây dựng và chia sẻ các tập dữ liệu được gán nhãn và các công cụ xử lý ngôn ngữ để thúc đẩy sự phát triển của lĩnh vực IE tiếng Việt.

Trích đoạn nội dung tài liệu

CHƯƠNG 1 TỔNG QUAN VỀ TRÍCH RÚT THÔNG TIN VÀ CÁC MÔ HÌNH HỌC QUAN HỆ. Téng quan về trích rút thông tin. Trích rút thông tin. Trích rút thông tin và thu thập thông tín.

Kỹ thuật học quan hệ kiểu ký hiệu @ymbolie). Các vẫn để về thiết kế giải thuật tổng thể. sec, TẾ on. Các phương pháp họ, 1.

Các nguằn lực xử lý ngôn ngữ tự nhiên. Phản tách từ vựng (Werd Segmenfation) 30 1. Gán nhãn từ loại (Part-of-speech tagger) 31 1. Ter dién tir vung (Lexicon) 33 LUẬN VĂN THẠC SỸ KHƠA HỌC BE TAI: "HOC MỐI QUAN HỆ TRONG TRICH RUT THONG TIN TIENG VIET” DANH MỤC cAc inn VE, DO TIT Hinh 1.

Thu thập thông tin 16 Hình 1. Trích rút thông tin. Mỗi quan hệ giữa [R, [E và Full Textet Understanding [3 ] Hình 1.4: Giải thuật bao phủ FOIL, Hinh 1.5: Bước “tìm mệnh để" trong giải thuật FOIL. Hình 1 6: Hai trưởng hợp cụ thê của mỗi quan hệ tmcle Iình 1.GG của các mệnh đẻ trong Tình 1.6 24 Hình 18: Kết quả của việc đơn giản hóa các mệnh đẻ bằng cách loại bỏ các literaL dư thùa 35 Hình 1.9: Giải thuật xây dung “.10: Giải thuật gệp của CLILLIK 27 Hình 2.1: Vi du vé cde mfin va cdc rằng buộc trong 1 luật 329 Hình 2.2: Giải thuật RA PIER.

wl Hình 23: Giải thuật RAPTER déqqmí nạp các uật trích rit 47 Hình 2.4: Một vi dụ về việc khái quát hóa hai phân tử mẫn 54 Hinh 3.5: Ví đụ vẻ việc khái quát hóa một cấp hai mẫu cùng độ dài.6: Hai mẫn khác độ dai. Cac đường thẳng chỉ các các phản tử khác "nhau cố thể được nhóm cùng nhan để khái quát hóa 56 Hinh 2.7: Sảu cách có thế có các phân tử của các mẫu Irong Hình 2.6 có thể được so sánh để khái quát hỏa.8: Cach nhém thu được từ việc tìm một so kháp chính xác giữara phan tis, của mẫu dài vét phân tử2 của mẫu ngắn irong Linh 2. Khi các phần tủ giống nhau đã được ghép cặp, phần còn Tại chỉ còn lại một cách ghép nhóm.9: Khái quát hóa của rnột mẫu hai phản tử với một mẫu Không, cổ phan tử ne. „50 Hình2 I0 Khái apt hia ea hai tứ với m h có một phí m th.

Vì mẫu Tì là mẫu đạng danh sách có độ đài 3, các khái quái tỏa cũng phái có độ đài 3.11: Giải thuật RAPIER để chuyên biệt hóa mẫu pre-filler của luật.12: Giải thuật RAIPTER để chuyển biệt hóa mẫu post-filler của Inậi 64 Hình 2.13: Cáo pha trong giải thuật học RAPIER 65 Tinh 3.1: Giải thuật gập theo nhãn thực thể 76 Hình 4. Các chức năng hệ thẳng trích rủi thông tin vnR.3: Sơ đỏ hệ thông trích rút thông tin vnRAIIER. 82 LUẬN VẤN THẠC SỸ KHOA HỌC DE TAL: “HOC MOT QUAN HE TRONG TRÍCH RỨT THONG TIN TIENG VIET* DANH MUC CAC KY HIEU, CAC CHU VIET TAT STT | Tir viet tit Giai nghia Context Free Grammar 1 cra Van pham phi ngữ cảnh. 2, filler “Thông tin điền hay thông tin cần trích rút First Order Inductive Learning 3 FOIL Hoe quy nap bac | Hidden Markov Model 4 HMM - Mô hình Markov én Hệ trích rút thông tin 5 IE Information Extraction Trinh logie quy nap 6 ILP Inductive Logic Programming Hệ thu thập thông tín 7.

IR Information Retrieval Phép tổng quát hóa ít khái quát nhất § LGG Least-general generalization 9 literal Ký hiệu mệnh đẻ LUẬN VĂN THẠC SỸ KHƠA HỌC BE TAI: "HOC MỐI QUAN HỆ TRONG TRICH RUT THONG TIN TIENG VIET” 1. Nhận đạng thực thể có tên (Named-Entity Recognition) Kết chương CHƯƠNG 2 HƯỚNG TIẾP CAN RAPIER CHO BAI TOAN TRICH RUT THONG TIN. Biéu diễn luật. GIải thuật hục 2.

Các lựa chọn thiết kế giải thuật 39 2. Téng quan về giải thuật 41 2. Xây đựng tập luật khởi đâu 42 2. Cô đọngtập luật.

Tiêu chuẩn đánh giá luật. Tỉnh toán mẫn khái quát hóa của hai mẫu. ào iseeeecoe ST 3. Pha chuyên biệt hóa.

Ấp dụng phương pháp học tích eye voi RAPIER. Lẫy mẫu có lựa chọn. Áp đụng phương pháp lây mẫu có lựa chọn vào RAPIER &7 Độ khóng chắc chấn trong RAPIER. so ssrerirrirrrerreoo-oo.B Trang bị khả năng hoc ting curémg cho RAPIER, 69 2.

Kết chương CHƯƠNG 3 ĐỀ XUẤT MÔ HÌNH RAPIER CHO TRICH RUT THONG TIN TIẾNG VIỆT. Các điều chĩnh khí áp dụng mô hình RAPIER với tiếng Việt. Công cụ tách từ tiếng Việt. Công cụ gản nhãn tử loại tiếng Việt 74 3.

Cây ngữ nghĩa và từ điền ngĩt nghĩa liêng Việt +4 3. Các cãi tiến cha mô hình. Tích hợp nhận đạng thực thể có tên 74 3. Sinh luật trích rút gần đúng 77 3.

Tùy biển độ rộng cửa số so khớp theo từng trường thông tin 78 LUẬN VĂN THẠC SỸ KHƠA HỌC BE TAI: "HOC MỐI QUAN HỆ TRONG TRICH RUT THONG TIN TIENG VIET” DANH MỤC cAc inn VE, DO TIT Hinh 1. Thu thập thông tin 16 Hình 1. Trích rút thông tin. Mỗi quan hệ giữa [R, [E và Full Textet Understanding [3 ] Hình 1.4: Giải thuật bao phủ FOIL, Hinh 1.5: Bước “tìm mệnh để" trong giải thuật FOIL.

Hình 1 6: Hai trưởng hợp cụ thê của mỗi quan hệ tmcle Iình 1.GG của các mệnh đẻ trong Tình 1.6 24 Hình 18: Kết quả của việc đơn giản hóa các mệnh đẻ bằng cách loại bỏ các literaL dư thùa 35 Hình 1.9: Giải thuật xây dung “.10: Giải thuật gệp của CLILLIK 27 Hình 2.1: Vi du vé cde mfin va cdc rằng buộc trong 1 luật 329 Hình 2.2: Giải thuật RA PIER. wl Hình 23: Giải thuật RAPTER déqqmí nạp các uật trích rit 47 Hình 2.4: Một vi dụ về việc khái quát hóa hai phân tử mẫn 54 Hinh 3.5: Ví đụ vẻ việc khái quát hóa một cấp hai mẫu cùng độ dài.6: Hai mẫn khác độ dai. Cac đường thẳng chỉ các các phản tử khác "nhau cố thể được nhóm cùng nhan để khái quát hóa 56 Hinh 2.7: Sảu cách có thế có các phân tử của các mẫu Irong Hình 2.6 có thể được so sánh để khái quát hỏa.8: Cach nhém thu được từ việc tìm một so kháp chính xác giữara phan tis, của mẫu dài vét phân tử2 của mẫu ngắn irong Linh 2. Khi các phần tủ giống nhau đã được ghép cặp, phần còn Tại chỉ còn lại một cách ghép nhóm.9: Khái quát hóa của rnột mẫu hai phản tử với một mẫu Không, cổ phan tử ne.

„50 Hình2 I0 Khái apt hia ea hai tứ với m h có một phí m th. Vì mẫu Tì là mẫu đạng danh sách có độ đài 3, các khái quái tỏa cũng phái có độ đài 3.11: Giải thuật RAPIER để chuyên biệt hóa mẫu pre-filler của luật.12: Giải thuật RAIPTER để chuyển biệt hóa mẫu post-filler của Inậi 64 Hình 2.13: Cáo pha trong giải thuật học RAPIER 65 Tinh 3.1: Giải thuật gập theo nhãn thực thể 76 Hình 4. Các chức năng hệ thẳng trích rủi thông tin vnR.3: Sơ đỏ hệ thông trích rút thông tin vnRAIIER. 82 LUẬN VĂN THẠC SỸ KHƠA HỌC BE TAI: "HOC MỐI QUAN HỆ TRONG TRICH RUT THONG TIN TIENG VIET” DANH MỤC cAc inn VE, DO TIT Hinh 1.

Thu thập thông tin 16 Hình 1. Trích rút thông tin. Mỗi quan hệ giữa [R, [E và Full Textet Understanding [3 ] Hình 1.4: Giải thuật bao phủ FOIL, Hinh 1.5: Bước “tìm mệnh để" trong giải thuật FOIL. Hình 1 6: Hai trưởng hợp cụ thê của mỗi quan hệ tmcle Iình 1.GG của các mệnh đẻ trong Tình 1.6 24 Hình 18: Kết quả của việc đơn giản hóa các mệnh đẻ bằng cách loại bỏ các literaL dư thùa 35 Hình 1.9: Giải thuật xây dung “.10: Giải thuật gệp của CLILLIK 27 Hình 2.1: Vi du vé cde mfin va cdc rằng buộc trong 1 luật 329 Hình 2.2: Giải thuật RA PIER.

wl Hình 23: Giải thuật RAPTER déqqmí nạp các uật trích rit 47 Hình 2.4: Một vi dụ về việc khái quát hóa hai phân tử mẫn 54 Hinh 3.5: Ví đụ vẻ việc khái quát hóa một cấp hai mẫu cùng độ dài.6: Hai mẫn khác độ dai. Cac đường thẳng chỉ các các phản tử khác "nhau cố thể được nhóm cùng nhan để khái quát hóa 56 Hinh 2.7: Sảu cách có thế có các phân tử của các mẫu Irong Hình 2.6 có thể được so sánh để khái quát hỏa.8: Cach nhém thu được từ việc tìm một so kháp chính xác giữara phan tis, của mẫu dài vét phân tử2 của mẫu ngắn irong Linh 2. Khi các phần tủ giống nhau đã được ghép cặp, phần còn Tại chỉ còn lại một cách ghép nhóm.9: Khái quát hóa của rnột mẫu hai phản tử với một mẫu Không, cổ phan tử ne. „50 Hình2 I0 Khái apt hia ea hai tứ với m h có một phí m th.

Vì mẫu Tì là mẫu đạng danh sách có độ đài 3, các khái quái tỏa cũng phái có độ đài 3.11: Giải thuật RAPIER để chuyên biệt hóa mẫu pre-filler của luật.12: Giải thuật RAIPTER để chuyển biệt hóa mẫu post-filler của Inậi 64 Hình 2.13: Cáo pha trong giải thuật học RAPIER 65 Tinh 3.1: Giải thuật gập theo nhãn thực thể 76 Hình 4. Các chức năng hệ thẳng trích rủi thông tin vnR.3: Sơ đỏ hệ thông trích rút thông tin vnRAIIER. 82 LUẬN VĂN THẠC SỸ KHƠA HỌC BE TAI: "HOC MỐI QUAN HỆ TRONG TRICH RUT THONG TIN TIENG VIET” DANH MUC CAC BANG Bang 1.1: Danh giá một số hệ thống tách từ tểng Việt 31 Bang 5.1: Kế! quả đo theo lùng trường (hông lin trong trường hợp có sử đụng luật trích rút gần đừng 98 Bang 5.2: Két qua do téng thé va thdi gian thực hiện trung bình trơng trưởng hợp có sit dung luat trich rit gan dimg 99 Bảng 5.3: Kết quả đo theo từng trường thông tin trong trường hợp không sử dụng, luật trích rút gần đẳng.4: Két quả đo tổng thể và thời gian thực hiện trung bình trong trưởng hợp không sử dụng luật trích rút gần đíng sợ LUẬN VĂN THẠC SỸ KHƠA HỌC BE TAI: "HOC MỐI QUAN HỆ TRONG TRICH RUT THONG TIN TIENG VIET” 3. Kết chương CHƯƠNG 4 PHÂN TÍCH VÀ THIẾT KẾ HỆ THỐNG.

Xác định yêu cầu. Phân tích thiết kế hệ thông. Thiết kế tổng thê của hệ thống trích rút thông tin hềng Việt. Chite nang tién sar ly van ban.

Chức năng học luật. co eneneerisareirareereereecoee BỐ 4.4, Chức năng trích rút théng tin. Chức năng đánh giá luật 4. Kết chương CHƯƠNG 5 ~ CÀI ĐẶT MÔ HÌNH VÀ KIÊM THỨ KẾT QUẢ.

Phương pháp thực nghiệm. Các độ đo thực nghiệm Các phiên bản thực nghiệm 96 $. Ngĩt liệu thục nghiệm. Kết quả thực nghiệm.

Dánh giá thực nghiệm. Về thời gian thực hiện. Về công cụ tách từ và gản nhãn tử loại.53 Về tũ điễn ngữ nghĩa và ác vụ gốn nhân thục th cổ tên. Về cáo luật trích rút gắn đúng.

se eeieeeeeiree, TÔ KẾT LUẬN VÀ ĐỊNH HƯỚNG PHÁT TRIỂN. 104 TÀI LIỆU THAM KHẢO. 106 PHAN PHU LUC.