Chương 1 TÓM TẮT VĂN BẢN TIẾNG VIỆT 1. Bài toán tóm tắt văn bản Theo Inderjeet Mani thì mục đích của tóm tắt văn bản tự động là: “Tóm tắt văn bản tự động nhằm mục đích trích xuất nội dung từ một nguồn thông tin và trình bày các nội dung quan trọng nhất cho người sử dụng theo một khuôn dạng súc tích và gây cảm xúc đối với người sử dụng hoặc một chương trình cần đến” [13]. Theo Radev: “Văn bản tóm tắt là văn bản được tạo từ một hoặc nhiều văn bản khác mà truyền tải được những thông tin quan trọng trong văn bản gốc nhưng có độ dài không quá một nửa văn bản gốc (thường ngắn hơn đáng kể)” [11]. Như vậy, tóm tắt văn bản là việc tìm các ý chính của văn bản.
Bản tóm tắt là có ba đặc điểm sau [10], [11], [12], [13]: - Bảo toàn nội dung chính so với văn bản gốc: Các nội dung quan trọng hay nổi bật của bản gốc phải được giữ lại trong bản tóm tắt. - Ngắn ngọn: bản tóm tắt thường ngắn hơn bản gốc nhiều. - Dễ đọc: người sử dụng có thể đọc và hiểu được dễ dàng. Việc đưa ra được một bản tóm tắt có chất lượng và không bị giới hạn bởi miền ứng dụng được xác định là rất khó khăn nên các phương pháp giải quyết bài toán tóm tắt văn bản thường chỉ hướng đến một kiểu văn bản cụ thể hoặc một kiểu tóm tắt cụ thể.
Phân loại tóm tắt Có nhiều cách phân loại tóm tắt văn bản khác nhau, sau đây là một số cách phân loại tiêu biểu [13]: 1. Theo định dạng đầu ra - Tóm tắt trích xuất (Extract): là một bản tóm tắt gồm các đoạn văn bản được rút trích từ văn bản gốc. 3 - Tóm tắt tóm lược (Abstract): là một bản tóm tắt được tạo ra dựa trên các thông tin quan trọng trong văn bản gốc. Theo mức độ xử lý - Tiếp cận mức ngoài (surface-level): thông tin được miêu tả dưới dạng khái niệm về các đặc trưng nông (shallow feature).
Các đặc trưng nông bao gồm các thuật ngữ (term) quan trọng qua thống kê (dựa vào tần số của các thuật ngữ trong văn bản), các thuật ngữ quan trọng dựa vào vị trí, các thuật ngữ trong các cụm từ dấu hiệu hay các thuật ngữ trong câu truy vấn của người dùng. Kết quả là một bản tóm tắt dạng trích xuất (extract). - Tiếp cận mức sâu (deeper-level): ở mức này, bản tóm tắt có thể là dạng trích xuất hoặc dạng tóm tắt (abstract) và cần phải sử dụng đến sinh tổng hợp ngôn ngữ tự nhiên. Với dạng tiếp cận này, phải cần đến những phân tích về mặt ngữ nghĩa, chẳng hạn sử dụng hướng tiếp cận thực thể để xây dựng dạng biểu diễn của các thực thể văn bản (đơn vị văn bản) và mối quan hệ giữa các thực thể rồi từ đó tìm ra phần quan trọng.
Mối quan hệ giữa các thực thể gồm quan hệ ngữ nghĩa như: đồng nghĩa, trái nghĩa, nghĩa hẹp, nghĩa rộng…, quan hệ cú pháp: dựa trên cây phân tích cú pháp và các mối quan hệ khác. Theo mục đích của bản tóm tắt - Tóm tắt chỉ thị (Indicative): Đưa ra những thông tin ngắn gọn về chủ đề chính của văn bản. Dạng tóm tắt này thường được sử dụng trong các hệ thống tìm kiếm thông tin. Thông thường, độ dài của văn bản tóm tắt loại này chỉ từ 5 đến 10% độ dài của toàn bộ văn bản.
- Tóm tắt thông tin (Information): tóm tắt bao gồm tất cả các thông tin nổi bật có trong văn bản nguồn tại nhiều mức độ chi tiết khác nhau. - Tóm tắt đánh giá (Evaluation): tóm tắt nhằm mục đích đánh giá vấn đề chính của văn bản nguồn, thể hiện quan điểm của tác giả đối với công việc của họ. 4 Việc phân loại tóm tắt dựa theo mục đích như trên không loại trừ lẫn nhau, có thể một bản tóm tắt vừa có chức năng cung cấp tin tức lại vừa là kiểu trình bày sơ lược. Theo người dùng hoặc chủ đề - Tóm tắt chung (Generalized): tóm tắt nhằm mục đích đưa ra các nội dung quan trọng bao quát văn bản gốc.
- Tóm tắt hướng truy vấn (Query-based): tóm tắt nhằm mục đích đưa ra kết quả dựa vào câu truy vấn của người. - Tóm tắt hướng đến người dùng hoặc chủ đề (User focused or Topic focused summaries): văn bản tóm tắt đáp ứng nhu cầu của người dùng cụ thể hoặc chủ đề cụ thể nào đó. Theo số lượng văn bản đầu vào - Tóm tắt đơn văn bản: đầu vào là một văn bản - Tóm tắt đa văn bản: đầu vào là một tập văn bản 1. Theo ngôn ngữ - Tóm tắt đơn ngôn ngữ (Monolingual): Chỉ dựa trên một ngôn ngữ.
- Tóm tắt đa ngôn ngữ (Multilingual): Thực hiện tóm tắt trên nhiều loại ngôn ngữ khác nhau. Cách phân loại trên chỉ mang tính tương đối, trên thực tế một bản tóm tắt có thể mang nhiều đặc trưng phân loại khác nhau. Ví dụ, bản tóm tắt tin tức trong chương trình điểm báo của đìa truyền hình Việt Nam có thể được xếp vào dạng tóm tắt chỉ thị, hoặc tóm tắt đa văn bản, hoặc tóm tắt phục vụ tìm kiếm,. Một số thuật ngữ - Tỷ lệ nén (Compression Rate): là độ đo thể hiện bao nhiêu thông tin được cô đọng trong văn bản tóm tắt được tính bằng công thức: SummaryLength CompressionRate = SourceLength (1.1) 5 SummaryLength: Độ dài văn bản tóm tắt SourceLength: Độ dài văn bản nguồn - Độ nổi bật hay liên quan (Salience or Relevance): là trọng số được gán cho thông tin trong văn bản thể hiện độ quan trọng của thông tin đó đối với toàn văn bản hay để chỉ sự liên quan của thông tin đó đối với chương trình của người sử dụng.
- Sự cố kết (độ mạch lạc - coherence): Một văn bản tóm tắt gọi là cố kết nếu tất cả các thành phần nằm trong nó tuân theo một thể thống nhất về mặt nội dung và không có sự trùng lặp giữa các thành phần. Mô hình tóm tắt văn bản và một số phương pháp tiếp cận Hình 1. Mô hình hệ thống tóm tắt văn bản [13] Về cơ bản hệ thống tóm tắt văn bản tự động được chia thành 3 giai đoạn chính [13]: - Phân tích (Analysis or Interpretation): biểu diễn và hiểu văn bản nguồn - Biến đổi (Transformation): trích chọn những nội dung quan trọng 6 - Tổng hợp (Synthesis or Realization): tạo văn bản mới chứa những điểm chính, quan trọng của văn bản gốc. Trong mô hình trên, đầu vào của hệ thống có thể là một hoặc nhiều tài liệu, văn bản hay các thông tin đa phương tiện như ảnh, âm thanh, video.
Những thông số chính được đề cập trong mô hình ảnh hưởng lớn đến hoạt động và chất lượng văn bản tóm tắt của hệ thống là: - Tỷ lệ nén: Tỷ lệ nén cảng thấp thì thông tin sẽ bị mất càng nhiều. - Mục đích tóm tắt: Cho đại chúng hay cho nhóm người dùng cụ thể. - Chức năng: Tóm tắt chỉ thị, tóm tắt thông tin, hay tóm tắt đánh giá - Độ mạch lạc: Văn bản tóm tắt cần diễn đạt câu từ liền mạch hay chỉ bao gồm các đoạn rời rạc. Các phương pháp áp dụng trong pha phân tích Trong pha này, văn bản nguồn được phân tích để xác định các đơn vị ngữ liệu và các đặc trưng của chúng, kết quả của pha này là đầu vào cho pha biến đổi.
Các phương pháp áp dụng trong pha này bao gồm: ➢ Phương pháp thống kê Các phương pháp thuộc loại này sử dụng các số liệu thống kê về độ quan trọng của các từ, cụm từ, câu hoặc đoạn văn. Các phương pháp thống kê gồm: - Dựa vào vị trí + Chủ đề, tiêu đề: tiêu đề hay chủ đề của các đoạn văn thường chứa các từ và ngữ quan trọng. + Câu ở đầu hoặc cuối đoạn: xác suất câu đầu đoạn hay câu cuối đoạn chứa ý chính của cả đoạn là rất lớn, đặc biệt là câu đầu đoạn. Ngoài ra các đoạn đầu và cuối văn bản cũng quan trọng hơn các đoạn giữa.
+ Minh hoạ, chú thích: trong các câu chú thích, câu minh hoạ cho ảnh hay đồ thị thường chứa các thông tin quan trọng. 7 - Dựa vào cụm từ dấu hiệu Các cụm từ dấu hiệu có đặc điểm thống kê rất tốt. Sau các cụm từ này thường là các từ hay câu quan trọng. Có hai loại cụm từ dấu hiệu: + Thứ nhất là các cụm từ mang ý nhấn mạnh, sau cụm từ này đoạn văn quan trọng; chẳng hạn “nói chung là”, “đặc biệt là”, “tóm lại”, “cuối cùng thì”, “trong bài viết này tôi muốn chỉ ra”, “bài viết nói về”, “nội dung gồm”.
+ Thứ hai là các cụm từ không quan trọng, sau cụm từ này là các thành phần không có nhiều giá trị trong việc tóm tắt, chẳng hạn: “hiếm khi mà”, “bài này không nói đến”, “không thể nào…” - Dựa vào thống kê tần suất từ: Độ quan trọng của từ phụ thuộc vào số lần xuất hiện của từ đó trong văn bản. Có thể dùng các kĩ thuật như tf-idf [23], tập thuật ngữ thường xuyên (frequent item set) để xác định tần suất từ. ➢ Phương pháp cấu trúc Các phương pháp này sử dụng các mối liên hệ cấu trúc - ngữ pháp - ngữ nghĩa để xác định các đơn vị ngữ liệu quan trọng. Tư tưởng chính của các phương pháp này là những đơn vị ngữ liệu nào có chứa các thành phần liên quan nhiều với các thành phần khác sẽ có mức độ quan trọng cao.
Việc đánh giá các mối quan hệ sẽ dựa trên các mạng ngữ nghĩa hoặc các quan hệ cú pháp. - Phương pháp sử dụng quan hệ giữa câu, đoạn: Phương pháp này xác định mối quan hệ giữa các đoạn trong văn bản hay các câu trong đoạn với nhau thông qua việc tính toán mức độ liên quan giữa chúng. Các độ Cosine, Euclide, Jaccard… được chọn để xác định độ tương đồng giữa các câu hay đoạn văn bản đó. Sau đó, ta chọn ra đoạn hay câu có độ liên quan lớn nhất.
- Phương pháp chuỗi từ vựng (lexical chains): Phương pháp liên kết từ vựng sử dụng các từ điển quan hệ từ vựng để xây dựng các chuỗi từ liên kết với nhau về mặt ngữ nghĩa. Sau khi xây dựng được chuỗi các từ vựng này, ta đánh giá độ mạnh của chúng và chọn ra những câu phù hợp. Chuỗi từ vựng 8 không những chỉ dùng trong tóm tắt văn bản mà còn được coi là lý thuyết tổng quát của vấn đề ngữ nghĩa trong xử lý ngôn ngữ tự nhiên [16]. - Phương pháp liên kết tham chiếu (word coreferences): Phương pháp này gọi là phương pháp trích chọn trùng lặp (anaphora-based method).
