Luận văn Thạc sĩ: Tóm tắt văn bản tiếng Việt theo chủ đề - Hoàng Đức Đông

Toàn văn luận văn thạc sĩ Tóm tắt văn bản tiếng Việt theo chủ đề. Tài liệu trình bày đầy đủ cơ sở lý thuyết, thuật toán và mô hình ứng dụng thực tế.

Chuyên ngành

Công Nghệ Thông Tin

Người đăng

Ẩn danh

Thể loại

Luận văn thạc sĩ

2008

75
0
0

Phí lưu trữ

30 Point

Tóm tắt

I. Khái niệm và mục đích của Tóm tắt Văn bản Tiếng Việt theo Chủ đề

Tóm tắt văn bản tiếng Việt theo chủ đề là một lĩnh vực quan trọng trong xử lý ngôn ngữ tự nhiên (NLP) hiện đại. Đây là quá trình trích xuất thông tin cốt lõi từ các tài liệu văn bản dài và tổ chức chúng theo những chủ đề chính, giúp người đọc nắm bắt nội dung một cách nhanh chóng và hiệu quả. Mục đích chính của tóm tắt văn bản là giảm thiểu độ dài tài liệu gốc trong khi vẫn giữ nguyên những thông tin quan trọng nhất. Với sự phát triển của công nghệ thông tin, đặc biệt là học máy và khai phá dữ liệu (KDD), việc tóm tắt văn bản theo chủ đề trở nên ngày càng cần thiết trong các ứng dụng thực tiễn như quản lý tài liệu, hệ thống tìm kiếm thông tin (IR), và phân lớp văn bản tự động.

1.1. Định nghĩa và phạm vi nghiên cứu

Tóm tắt văn bản theo chủ đề bao gồm hai quá trình chính: phân lớp chủ đề và trích xuất thông tin. Phạm vi nghiên cứu này tập trung vào các phương pháp xử lý văn bản tiếng Việt, bao gồm tách từ, đánh dấu từ loại (POS), và phân tích ngữ nghĩa. Luận văn này khám phá các kỹ thuật hiện đại để cải thiện độ chính xác trong tóm tắt tự động và phân loại nội dung theo chủ đề cụ thể trong các tài liệu tiếng Việt.

1.2. Ứng dụng thực tiễn

Các ứng dụng của tóm tắt văn bản theo chủ đề rất đa dạng trong đời sống hiện đại. Hệ thống quản lý tài liệu, cơ sở dữ liệu lớn như VNExpress cần phân lớp và tóm tắt nội dung để cải thiện trải nghiệm người dùng. Ngoài ra, tóm tắt tự động còn được ứng dụng trong hệ thống khuyến nghị, tìm kiếm thông tin toàn văn bản, và phân tích tài liệu lớn một cách tự động và hiệu quả.

II. Các phương pháp và thuật toán chính trong Tóm tắt Văn bản

Luận văn thạc sĩ này trình bày các phương pháp tiếp cận học không giám sát để thực hiện tóm tắt văn bản theo chủ đề. Trong đó, các thuật toán phân nhóm như k-means và FTHC (Fuzzy Topographic Hierarchical Clustering) đóng vai trò quan trọng. Bên cạnh đó, cây quyết địnhmáy vector hỗ trợ (SVM) được sử dụng để phân lớp văn bản. Các phương pháp trích xuất đặc trưng dựa trên TF-IDF và biểu diễn vector hóa văn bản là những kỹ thuật cơ bản. Việc áp dụng xử lý ngôn ngữ tự nhiên (NLP) trong tóm tắt văn bản tiếng Việt cần xem xét các đặc điểm riêng của tiếng Việt như tách từ, phân tích cấu trúc câu, và hiểu ngữ cảnh.

2.1. Phương pháp học không giám sát

Phương pháp học không giám sát không cần dữ liệu huấn luyện được gán nhãn sẵn. Thuật toán k-means phân chia dữ liệu thành k nhóm dựa trên khoảng cách Euclidean, trong khi FTHC sử dụng logic mờ để xác định mức độ thuộc của mỗi đối tượng. Các phương pháp này rất hữu ích cho tóm tắt và phân lớp văn bản mà không cần tập dữ liệu huấn luyện lớn, tiết kiệm thời gian và chi phí.

2.2. Kỹ thuật trích xuất đặc trưng

Trích xuất đặc trưng là bước quan trọng trong xử lý văn bản tự động. Phương pháp TF-IDF tính toán trọng số của từ dựa trên tần số xuất hiện và tầm quan trọng của từ đó. Vector hóa văn bản chuyển đổi tài liệu thành các vector số để thuận tiện xử lý bằng máy. Tách thuật ngữ từ các tài liệu sử dụng Left Right Maximum Matching (LRMM) để xác định các từ có ý nghĩa nhất trong tóm tắt.

2.3. Các mô hình phân lớp

Cây quyết định là một trong những mô hình phân lớp đơn giản nhưng hiệu quả cho tóm tắt văn bản theo chủ đề. Máy vector hỗ trợ (SVM) có khả năng xử lý dữ liệu lớn và phân lớp với độ chính xác cao. Mô hình Markov ẩn còn được sử dụng trong sinh ngôn ngữ tự nhiên (NLG) để tạo ra những tóm tắt mạch lạc và có tính logic.

III. Quy trình và kiến trúc hệ thống Tóm tắt Văn bản

Hệ thống tóm tắt văn bản tiếng Việt được xây dựng theo một kiến trúc có nhiều thành phần liên kết với nhau. Quy trình bắt đầu từ xử lý văn bản đầu vào, bao gồm tách từ, chuẩn hóa dữ liệu, và loại bỏ từ dừng. Tiếp theo là trích xuất đặc trưng sử dụng các kỹ thuật như TF-IDF và tách thuật ngữ từ các tài liệu mẫu. Sau đó, phân lớp văn bản được thực hiện dựa trên các chủ đề được xác định trước. Cuối cùng, hệ thống tạo ra tóm tắt tự động bằng cách chọn lọc các câu đại diện cho mỗi chủ đề. Quản lý từ điểncây chủ đề là những thành phần hỗ trợ quan trọng trong toàn bộ quy trình xử lý.

3.1. Các bước xử lý dữ liệu

Bước đầu tiên trong tóm tắt văn bảnxử lý ngôn ngữ tự nhiên với các công đoạn: tách từ, đánh dấu từ loại (POS), và phân tích cú pháp. Tiếp theo là loại bỏ từ dừng (stop words) và chuẩn hóa dữ liệu để đảm bảo chất lượng đầu vào. Trích xuất đặc trưng từ các tài liệu mẫu giúp xác định những từ khóa quan trọng nhất cho mỗi chủ đề.

3.2. Kiến trúc hệ thống

Hệ thống tóm tắt văn bản bao gồm các module chính: module xử lý và phân tích văn bản, module phân lớp chủ đề, module tóm tắt nội dung, và module quản lý từ điển. Mỗi module thực hiện một chức năng cụ thể trong quy trình tóm tắt tự động. Cây chủ đề được xây dựng từ các dữ liệu huấn luyện để hỗ trợ phân lớp chính xác.

IV. Đánh giá hiệu quả và kết quả nghiên cứu Tóm tắt Văn bản

Việc đánh giá hiệu quả của hệ thống tóm tắt văn bản theo chủ đề rất quan trọng để xác định chất lượng của kết quả. Các chỉ số đánh giá chính bao gồm precision, recall, và F-measure được tính toán dựa trên so sánh giữa tóm tắt tự động và tóm tắt được tạo bởi con người. Luận văn này thử nghiệm hệ thống trên các bộ dữ liệu mẫu từ trường Đại học Bách Khoa Hà Nội và các nguồn dữ liệu từ VNExpress. Kết quả cho thấy thuật toán FTHC đạt hiệu suất tốt trong phân nhóm văn bản theo chủ đề. Ngoài ra, tốc độ tách thuật ngữ cũng được đo lường và cải thiện liên tục. Các kết quả này chứng minh rằng phương pháp tiếp cận học không giám sát là khả thi cho tóm tắt văn bản tiếng Việt trong thực tiễn.

4.1. Các chỉ số đánh giá

Precision đo lường tỷ lệ kết quả đúng trong tổng số kết quả trả về, trong khi recall đo lường tỷ lệ kết quả đúng được tìm thấy. F-measure là trung bình điều hòa của hai chỉ số trên. Ngoài ra, entropy được sử dụng để đánh giá tính đồng nhất của các nhóm văn bản sau phân lớp chủ đề. Các chỉ số này giúp xác định độ chính xác của tóm tắt tự độngphân lớp nội dung.

4.2. Kết quả thực nghiệm

Các thử nghiệm được thực hiện trên tập dữ liệu văn bản mẫu từ các nguồn thực tế. Hệ thống tóm tắt văn bản đạt độ chính xác cao trong phân lớp chủ đề với các thuật toán phân nhóm hiện đại. Tốc độ xử lý cũng được cải thiện đáng kể so với các phương pháp truyền thống. Những kết quả này khẳng định hiệu quả của tóm tắt văn bản tiếng Việt theo chủ đề trong ứng dụng thực tiễn.

Tóm tắt và mô tả trên trang này được tạo với sự hỗ trợ của AI. Nếu bạn thấy nội dung không chính xác hoặc có vấn đề, vui lòng Báo lỗi nội dung.

28/12/2025
Luận văn tóm tắt văn bản tiếng việt theo chủ đề luận văn

Trích đoạn nội dung tài liệu

Chương 1. Trinh bày về nhiệm vụ của đồ án, về các cơ sở lý thuyết của lĩnh vực khai phá dữ liệu văn bản và xử lý ngôn ngữ tự nhiên. Đó là các lý thuyết chung về khai phá dữ liêu văn bản, môi liên quan giữa xử lý ngôn ngữ tự nhiên với khai phá dữ liệu văn bản. Đặc biệt người viết luận văn cỏ đi sâu phân tích đặc điểm ngôn ngữ.

tiếng Việt Hoàng Đức Đông - Cao học CNTT 2006-2008 - ĐHBKHN ĐỒ ÁN TỐT NGHIỆP CAO HỌC. BE TAE “TOM TAT VAN BAN TIENG VIET THEO CHU BE” DANH MUC HINH VE Hinh 1. Tién trình khai phá dữ liệu và phát hiện trí thức (KDD). Chức năng dẫn đường văn bản trong VNExpress 25 Hinh 1.

Ví dụ biểu diễn văn bản dựa trên khái niệm mờ. Ví đụ mồ tả giải thuật k-means 35 “Mô tá một giải thuật phân nhỏm đụa trên lưới. we BE Một ví dụ về cây quyết dịnh cho phân lớp TỮA, S0 Một vi dụ tim kiếm lời giải trên cây quyết định phân lớp chủ đẻ " Tre run ¬— 51 Tĩnh 3. Đề thị phân bé dai long Entropy.

Minh họa việc khoanh vùng k văn bán gần nhất với k = 5. Minh họa cách tinh precision va recall 38 1linh 4. Tập mẫu của chú đề Hình 42. Tính chủ dé trong cơ cầu đào lao trường Đại hoe Bach Khoa Ha Noi ~ a a 63 Hinh 43.

Cay chu dé trong, bao dign tit www. Mô hình tiếp cận theo phương pháp học không giám sát m1 Hình 5. Thuật toén tách term ting, Visteon 174 Hình 53. Phan nhém céc lép văn bản mẫu với thuật toán FTHC 7 Llinh 6.

Cáo chức năng hệ thông tóm tắt. Sơ đỗ hệ thống tôm tắt Tĩinh 6. Chức năng phân lớp văn bản theo hướng tiếp cận học Khêng giảm sát Tĩnh 6. Mô hình bộ vector hóa văn ban.

Chức năng, phân nhóm các lớp vănthân mau. Chức năng Quản lý tập văn bản mẫu Hình 6. Chức năng quản lý Từ điển/EtopWord. Tốc độ tách thuật ngữ _ 7 Hoàng Dức Dông - Cao học CNTT 2006-2008 - DHRKHN.

6 'ĐỒ ÁN TỐT NGHIỆP CAO HỌC ‘DE TAI: "TOM TAT VAN BAN TIENG VIET THEO CHU ĐỀ” LOI NOI DAU Trong những năm gân đây, sự phát triển vượt bậc của công nghệ thông tin da lam tăng đáng kế số lượng giao dịch trên mạng Internet đặc biệt là thư viện điện tử, tờ báo điện tử. Theo thống kê từ Broder năm 2003 cho thay số lượng văn bản tăng gap đôi sau 9 đến 12 tháng Với thông tin lớn như vậy làm sao đẻ khai thác thông tin hiệu quả là một câu hỏi lớn gianh cho cac nha lam tin hoc. Chúng ta có hàng loại các tờ báo nỏi tiếng trong nước như www.vnexpress net, www. Chúng ta cỏ những cỗ máy tìm kiếm thông minh như Google, Yahoo,.

Song một vấn đẻ đặt ra là chúng ta không thể đọc hết tất cả các thông tin trên bảo cũng như những gì cỗ máy đỏ đem tìm kiếm đem vẻ. Đẻ giải quyết vẫn đẻ đó, người viết luận van xin dé xuất giải pháp “Tóm tắt văn bản tiếng Việt theo chủ đề”. Mục đích của đẻ tải la trích rút nội dung chính của các văn bản tiếng Việt lại, hiển thị cho người đọc từ đó người sử dụng xem xét nội dung đó có cân đọc không? Nếu có người sử dụng tiễn hành đọc chỉ tiết văn bản góc, nêu không người sử dụng dừng lại, không cẩn phải đọc nữa Hướng tiếp cận của người viết luận văn hướng đến các lĩnh vực trong nội dung văn bản cân tóm tắt. Các lĩnh vực nảy chính là cầu trúc về nội dung của các tờ báo điện từ, thư viên điện tử.

Người viết luận văn sử dụng các thành quả đạt về xử lý văn bản tiếng Việt như bải toán phân tách từ, bài toán phân nhỏm, phân lớp văn bản, bài toán tóm tắt văn bản. Nội dung của luận văn gồm có 7 chương trong đó: Chương 1. Trinh bày về nhiệm vụ của đồ án, về các cơ sở lý thuyết của lĩnh vực khai phá dữ liệu văn bản và xử lý ngôn ngữ tự nhiên. Đó là các lý thuyết chung về khai phá dữ liêu văn bản, môi liên quan giữa xử lý ngôn ngữ tự nhiên với khai phá dữ liệu văn bản.

Đặc biệt người viết luận văn cỏ đi sâu phân tích đặc điểm ngôn ngữ. tiếng Việt Hoàng Đức Đông - Cao học CNTT 2006-2008 - ĐHBKHN 'ĐỒ ÁN TỐT NGHIỆP CAO HỌC ‘DE TAI: "TOM TAT VAN BAN TIENG VIET THEO CHU ĐỀ” LOI NOI DAU Trong những năm gân đây, sự phát triển vượt bậc của công nghệ thông tin da lam tăng đáng kế số lượng giao dịch trên mạng Internet đặc biệt là thư viện điện tử, tờ báo điện tử. Theo thống kê từ Broder năm 2003 cho thay số lượng văn bản tăng gap đôi sau 9 đến 12 tháng Với thông tin lớn như vậy làm sao đẻ khai thác thông tin hiệu quả là một câu hỏi lớn gianh cho cac nha lam tin hoc. Chúng ta có hàng loại các tờ báo nỏi tiếng trong nước như www.vnexpress net, www.

Chúng ta cỏ những cỗ máy tìm kiếm thông minh như Google, Yahoo,. Song một vấn đẻ đặt ra là chúng ta không thể đọc hết tất cả các thông tin trên bảo cũng như những gì cỗ máy đỏ đem tìm kiếm đem vẻ. Đẻ giải quyết vẫn đẻ đó, người viết luận van xin dé xuất giải pháp “Tóm tắt văn bản tiếng Việt theo chủ đề”. Mục đích của đẻ tải la trích rút nội dung chính của các văn bản tiếng Việt lại, hiển thị cho người đọc từ đó người sử dụng xem xét nội dung đó có cân đọc không? Nếu có người sử dụng tiễn hành đọc chỉ tiết văn bản góc, nêu không người sử dụng dừng lại, không cẩn phải đọc nữa Hướng tiếp cận của người viết luận văn hướng đến các lĩnh vực trong nội dung văn bản cân tóm tắt.

Các lĩnh vực nảy chính là cầu trúc về nội dung của các tờ báo điện từ, thư viên điện tử. Người viết luận văn sử dụng các thành quả đạt về xử lý văn bản tiếng Việt như bải toán phân tách từ, bài toán phân nhỏm, phân lớp văn bản, bài toán tóm tắt văn bản. Nội dung của luận văn gồm có 7 chương trong đó: Chương 1. Trinh bày về nhiệm vụ của đồ án, về các cơ sở lý thuyết của lĩnh vực khai phá dữ liệu văn bản và xử lý ngôn ngữ tự nhiên.

Đó là các lý thuyết chung về khai phá dữ liêu văn bản, môi liên quan giữa xử lý ngôn ngữ tự nhiên với khai phá dữ liệu văn bản. Đặc biệt người viết luận văn cỏ đi sâu phân tích đặc điểm ngôn ngữ. tiếng Việt Hoàng Đức Đông - Cao học CNTT 2006-2008 - ĐHBKHN ĐỒ ÁN TỐT NGHIỆP CAO HỌC. BE TAE “TOM TAT VAN BAN TIENG VIET THEO CHU BE” DANH MUC BANG Bang 1.

Vi dy vé van ban biểu diễn theo từ khỏa và số lẫn xuất hiện. Ví dụ biểu diễn veclor thưa.1, Dữ liệu dẫu vào dễ xây dựng cây EP. Các mẫu huần luyện dùng cho quất định class1. Thông tin mô tả một số thông số của các tập dữ liệu huấn huyện.

KÁI quá phân lớp 80 vẫn bản trên tp mau VaR xpress. Kết quả phân lớp vấn bản trén tap mau VietNamNet 101 Hoàng Dức Dông - Cao học CNTT 2006-2008 - DHRKHN. 7 ĐỒ ÁN TỐT NGHIỆP CAO HỌC. BE TAE “TOM TAT VAN BAN TIENG VIET THEO CHU BE” DANH MUC HINH VE Hinh 1.

Tién trình khai phá dữ liệu và phát hiện trí thức (KDD). Chức năng dẫn đường văn bản trong VNExpress 25 Hinh 1. Ví dụ biểu diễn văn bản dựa trên khái niệm mờ. Ví đụ mồ tả giải thuật k-means 35 “Mô tá một giải thuật phân nhỏm đụa trên lưới.

we BE Một ví dụ về cây quyết dịnh cho phân lớp TỮA, S0 Một vi dụ tim kiếm lời giải trên cây quyết định phân lớp chủ đẻ " Tre run ¬— 51 Tĩnh 3. Đề thị phân bé dai long Entropy. Minh họa việc khoanh vùng k văn bán gần nhất với k = 5. Minh họa cách tinh precision va recall 38 1linh 4.

Tập mẫu của chú đề Hình 42. Tính chủ dé trong cơ cầu đào lao trường Đại hoe Bach Khoa Ha Noi ~ a a 63 Hinh 43. Cay chu dé trong, bao dign tit www. Mô hình tiếp cận theo phương pháp học không giám sát m1 Hình 5.

Thuật toén tách term ting, Visteon 174 Hình 53. Phan nhém céc lép văn bản mẫu với thuật toán FTHC 7 Llinh 6. Cáo chức năng hệ thông tóm tắt. Sơ đỗ hệ thống tôm tắt Tĩinh 6.

Chức năng phân lớp văn bản theo hướng tiếp cận học Khêng giảm sát Tĩnh 6. Mô hình bộ vector hóa văn ban. Chức năng, phân nhóm các lớp vănthân mau. Chức năng Quản lý tập văn bản mẫu Hình 6.

Chức năng quản lý Từ điển/EtopWord. Tốc độ tách thuật ngữ _ 7 Hoàng Dức Dông - Cao học CNTT 2006-2008 - DHRKHN. 6 ĐỒ ÁN TỐT NGHIỆP CAO HỌC. BE TAE “TOM TAT VAN BAN TIENG VIET THEO CHU BE” DANH MUC BANG Bang 1.

Vi dy vé van ban biểu diễn theo từ khỏa và số lẫn xuất hiện. Ví dụ biểu diễn veclor thưa.1, Dữ liệu dẫu vào dễ xây dựng cây EP. Các mẫu huần luyện dùng cho quất định class1. Thông tin mô tả một số thông số của các tập dữ liệu huấn huyện.

KÁI quá phân lớp 80 vẫn bản trên tp mau VaR xpress. Kết quả phân lớp vấn bản trén tap mau VietNamNet 101 Hoàng Dức Dông - Cao học CNTT 2006-2008 - DHRKHN. 7 ĐỒ ÁN TỐT NGHIỆP CAO HỌC. BE TAE “TOM TAT VAN BAN TIENG VIET THEO CHU BE” DANH MUC HINH VE Hinh 1.

Tién trình khai phá dữ liệu và phát hiện trí thức (KDD). Chức năng dẫn đường văn bản trong VNExpress 25 Hinh 1. Ví dụ biểu diễn văn bản dựa trên khái niệm mờ. Ví đụ mồ tả giải thuật k-means 35 “Mô tá một giải thuật phân nhỏm đụa trên lưới.

we BE Một ví dụ về cây quyết dịnh cho phân lớp TỮA, S0 Một vi dụ tim kiếm lời giải trên cây quyết định phân lớp chủ đẻ " Tre run ¬— 51 Tĩnh 3. Đề thị phân bé dai long Entropy. Minh họa việc khoanh vùng k văn bán gần nhất với k = 5. Minh họa cách tinh precision va recall 38 1linh 4.

Tập mẫu của chú đề Hình 42. Tính chủ dé trong cơ cầu đào lao trường Đại hoe Bach Khoa Ha Noi ~ a a 63 Hinh 43. Cay chu dé trong, bao dign tit www. Mô hình tiếp cận theo phương pháp học không giám sát m1 Hình 5.

Thuật toén tách term ting, Visteon 174 Hình 53. Phan nhém céc lép văn bản mẫu với thuật toán FTHC 7 Llinh 6. Cáo chức năng hệ thông tóm tắt. Sơ đỗ hệ thống tôm tắt Tĩinh 6.

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ