## Tổng quan nghiên cứu

Theo báo cáo của Global Digital từ We Are Social và Hootsuite, tính đến tháng 1 năm 2019, có khoảng 4,39 tỷ người dùng Internet trên toàn thế giới, tăng 366 triệu người so với cùng kỳ năm 2018. Sự phát triển nhanh chóng của Internet kéo theo sự gia tăng mạnh mẽ về số lượng các blog, trang web và tài liệu văn bản, dẫn đến nhu cầu cấp thiết về việc tìm kiếm, xử lý và tổng hợp thông tin. Trong bối cảnh đó, tóm tắt văn bản tự động trở thành một giải pháp quan trọng nhằm nâng cao hiệu quả xử lý thông tin, đặc biệt trong các hệ thống tìm kiếm thông minh và tổng hợp dữ liệu.

Luận văn tập trung nghiên cứu đề tài "Tóm tắt văn bản tiếng Việt tự động dựa trên mô hình đồ thị" với mục tiêu xây dựng một mô hình tóm tắt trích rút đơn văn bản tiếng Việt hiệu quả, ứng dụng thuật toán iSpreadRank để xếp hạng và trích chọn câu quan trọng. Phạm vi nghiên cứu bao gồm dữ liệu tiếng Việt, với bộ dữ liệu thực nghiệm gồm 200 văn bản gốc và 200 văn bản tóm tắt mẫu, chia thành 6 chủ đề chính: Chính trị, Khoa học công nghệ, Khoa học giáo dục, Kinh tế, Văn hóa và Xã hội.

Nghiên cứu có ý nghĩa lớn trong việc phát triển các công cụ xử lý ngôn ngữ tự nhiên cho tiếng Việt, góp phần nâng cao hiệu quả tìm kiếm và xử lý thông tin trong môi trường số, đồng thời hỗ trợ các ứng dụng thương mại và khoa học dữ liệu.

## Cơ sở lý thuyết và phương pháp nghiên cứu

### Khung lý thuyết áp dụng

Luận văn dựa trên các lý thuyết và mô hình sau:

- **Mô hình đồ thị trong tóm tắt văn bản**: Văn bản được biểu diễn dưới dạng đồ thị vô hướng có trọng số, trong đó mỗi đỉnh đại diện cho một câu, các cạnh thể hiện mối quan hệ ngữ nghĩa giữa các câu dựa trên độ tương đồng cosine của vector câu.

- **Thuật toán iSpreadRank**: Là thuật toán lan truyền kích hoạt, cập nhật trọng số câu dựa trên số lượng và trọng số các câu liên kết, cũng như sức mạnh liên kết được đo bằng độ tương đồng ngữ nghĩa. Thuật toán gồm ba bước: khởi tạo ma trận kề, suy diễn trọng số câu qua các vòng lặp, và dự đoán bảng xếp hạng câu.

- **Các khái niệm chính**:
  - *Tóm tắt trích rút*: Chọn lọc các câu quan trọng từ văn bản gốc để tạo bản tóm tắt.
  - *Độ tương đồng cosine*: Đo lường sự giống nhau giữa hai vector câu.
  - *Điểm PageRank và điểm đặc trưng*: Các phương pháp khởi tạo trọng số ban đầu cho câu dựa trên vị trí, trọng tâm và tương đồng với câu đầu tiên.

### Phương pháp nghiên cứu

- **Nguồn dữ liệu**: Bộ dữ liệu gồm 200 văn bản tiếng Việt và 200 bản tóm tắt mẫu, phân chia theo 6 chủ đề, được thu thập từ đề tài nghiên cứu về tóm tắt văn bản tiếng Việt.

- **Phương pháp phân tích**: 
  - Tiền xử lý văn bản bao gồm loại bỏ ký tự thừa, từ dừng, tách từ và câu bằng thư viện vnTokenizer.
  - Biểu diễn câu thành vector sử dụng các kỹ thuật Word2Vec, Doc2Vec và TF.ISF.
  - Xây dựng đồ thị câu với trọng số cạnh dựa trên độ tương đồng cosine.
  - Áp dụng thuật toán iSpreadRank để xếp hạng câu.
  - Trích chọn câu theo thứ tự xếp hạng, loại bỏ câu trùng lặp thông tin dựa trên ngưỡng tương đồng.
  - Đánh giá kết quả bằng chỉ số ROUGE (ROUGE-1, ROUGE-2, ROUGE-3, ROUGE-4) với các tham số chuẩn.

- **Timeline nghiên cứu**: Nghiên cứu được thực hiện trong khoảng thời gian từ đầu năm 2018 đến giữa năm 2019, bao gồm các giai đoạn thu thập dữ liệu, xây dựng mô hình, thực nghiệm và đánh giá kết quả.

## Kết quả nghiên cứu và thảo luận

### Những phát hiện chính

- Thuật toán iSpreadRank cho hiệu suất tóm tắt vượt trội hơn so với các thuật toán truyền thống như PageRank, Normalized Similarity-based Degree và HITS, với điểm ROUGE-1 đạt khoảng 0.36444, cao hơn đáng kể so với các phương pháp còn lại.

- So sánh ba hệ thống thử nghiệm:
  - SYS1 (thuần PageRank) có hiệu suất thấp nhất.
  - SYS2 (iSpreadRank với điểm PageRank làm trọng số đầu vào) đạt kết quả tốt nhất với điểm F-score ROUGE cao hơn SYS1 và SYS3.
  - SYS3 (iSpreadRank với điểm đặc trưng làm trọng số đầu vào) cho kết quả tốt hơn SYS1 nhưng thấp hơn SYS2.

- Kết quả đánh giá trên từng chủ đề cho thấy sự khác biệt rõ rệt:
  - Chủ đề Chính trị đạt F-score ROUGE-1 cao nhất khoảng 0.3819.
  - Chủ đề Văn hóa có kết quả thấp nhất với F-score khoảng 0.2154.
  - Các chủ đề khác như Khoa học công nghệ, Kinh tế, Xã hội cũng đạt kết quả khả quan, dao động từ 0.32 đến 0.38.

- Độ dài văn bản tóm tắt được giới hạn ở 3 câu, tương đương với độ dài bản tóm tắt mẫu do người thực hiện, đảm bảo tính ngắn gọn và đầy đủ thông tin.

### Thảo luận kết quả

Kết quả cho thấy thuật toán iSpreadRank có khả năng tận dụng hiệu quả cấu trúc đồ thị và mối quan hệ ngữ nghĩa giữa các câu để xác định trọng số câu chính xác hơn, từ đó nâng cao chất lượng bản tóm tắt. Việc sử dụng điểm PageRank làm trọng số khởi tạo giúp mô hình hội tụ nhanh và ổn định hơn so với điểm đặc trưng.

Sự khác biệt về hiệu suất giữa các chủ đề phản ánh đặc điểm ngôn ngữ và cấu trúc nội dung khác nhau của từng lĩnh vực, cho thấy việc tùy chỉnh mô hình theo chủ đề có thể cải thiện kết quả. Kết quả cũng phù hợp với các nghiên cứu quốc tế về tóm tắt văn bản, đồng thời khẳng định tính khả thi của phương pháp đồ thị trong xử lý tiếng Việt, vốn có cấu trúc phức tạp và thiếu tài nguyên ngôn ngữ.

Dữ liệu có thể được trình bày qua biểu đồ so sánh F-score ROUGE giữa các hệ thống và bảng thống kê chi tiết kết quả theo từng chủ đề, giúp minh họa rõ ràng hiệu quả của mô hình.

## Đề xuất và khuyến nghị

- **Phát triển thêm mô hình tùy chỉnh theo chủ đề**: Tăng cường hiệu quả tóm tắt bằng cách xây dựng các mô hình chuyên biệt cho từng lĩnh vực như Chính trị, Kinh tế, Văn hóa, dự kiến hoàn thành trong 12 tháng tới, do các nhóm nghiên cứu chuyên ngành thực hiện.

- **Tích hợp kỹ thuật học sâu**: Áp dụng các mô hình deep learning như Sequence-to-Sequence with Attention để cải thiện khả năng tóm tắt trừu tượng, nâng cao chất lượng bản tóm tắt, với mục tiêu tăng điểm ROUGE thêm khoảng 10% trong vòng 18 tháng.

- **Mở rộng bộ dữ liệu huấn luyện**: Thu thập và xây dựng kho dữ liệu lớn hơn, đa dạng hơn về tiếng Việt, bao gồm các thể loại văn bản khác nhau, nhằm nâng cao độ chính xác và khả năng tổng quát của mô hình, thực hiện trong 24 tháng.

- **Phát triển công cụ hỗ trợ người dùng cuối**: Xây dựng phần mềm hoặc plugin tích hợp mô hình tóm tắt tự động cho các hệ thống tìm kiếm và quản lý tài liệu, giúp người dùng nhanh chóng tiếp cận thông tin quan trọng, dự kiến ra mắt sản phẩm thử nghiệm trong 6 tháng.

## Đối tượng nên tham khảo luận văn

- **Nhà nghiên cứu và sinh viên ngành Khoa học máy tính, Xử lý ngôn ngữ tự nhiên**: Nghiên cứu sâu về các thuật toán tóm tắt văn bản, mô hình đồ thị và ứng dụng trong tiếng Việt.

- **Các công ty công nghệ phát triển công cụ tìm kiếm và xử lý dữ liệu lớn**: Áp dụng mô hình tóm tắt tự động để nâng cao hiệu quả tìm kiếm và trải nghiệm người dùng.

- **Cơ quan truyền thông và báo chí**: Sử dụng công nghệ tóm tắt để nhanh chóng tổng hợp tin tức, giảm thời gian biên tập và tăng tính chính xác.

- **Các tổ chức giáo dục và nghiên cứu**: Hỗ trợ trong việc tổng hợp tài liệu học thuật, giúp sinh viên và giảng viên tiếp cận nhanh các nội dung trọng tâm.

## Câu hỏi thường gặp

1. **Tóm tắt văn bản tự động là gì?**  
Tóm tắt văn bản tự động là quá trình tạo ra bản tóm tắt ngắn gọn từ một hoặc nhiều văn bản gốc, giữ nguyên nội dung và ý nghĩa chính, giúp người dùng tiếp cận thông tin nhanh hơn.

2. **Thuật toán iSpreadRank có ưu điểm gì?**  
iSpreadRank tận dụng mô hình lan truyền kích hoạt trên đồ thị câu, cập nhật trọng số dựa trên mối liên kết và độ tương đồng ngữ nghĩa, cho kết quả xếp hạng câu chính xác và hiệu quả hơn các thuật toán truyền thống.

3. **Tại sao cần loại bỏ từ dừng trong tiền xử lý?**  
Từ dừng không mang nhiều ý nghĩa từ vựng và thường xuất hiện nhiều, loại bỏ giúp giảm nhiễu, tăng hiệu quả tính toán và cải thiện độ chính xác của mô hình.

4. **Mô hình có thể áp dụng cho các loại văn bản nào?**  
Mô hình phù hợp với văn bản tiếng Việt thuộc nhiều chủ đề khác nhau như Chính trị, Kinh tế, Văn hóa, Khoa học, và có thể mở rộng cho các thể loại văn bản đa dạng.

5. **Làm thế nào để đánh giá chất lượng bản tóm tắt?**  
Chất lượng được đánh giá bằng các chỉ số ROUGE, đo lường sự trùng khớp n-gram giữa bản tóm tắt tự động và bản tóm tắt mẫu do con người tạo ra, giúp đánh giá độ chính xác và đầy đủ thông tin.

## Kết luận

- Đã xây dựng thành công mô hình tóm tắt văn bản tiếng Việt dựa trên mô hình đồ thị và thuật toán iSpreadRank, nâng cao hiệu quả trích rút câu quan trọng.  
- Thuật toán iSpreadRank cho kết quả vượt trội so với các phương pháp truyền thống, đặc biệt khi sử dụng điểm PageRank làm trọng số khởi tạo.  
- Kết quả thực nghiệm trên bộ dữ liệu 200 văn bản và 200 bản tóm tắt mẫu cho thấy hiệu suất cao với điểm ROUGE-1 đạt khoảng 0.36 và sự khác biệt rõ rệt giữa các chủ đề.  
- Đề xuất phát triển mô hình chuyên biệt theo chủ đề, tích hợp học sâu và mở rộng dữ liệu để nâng cao hơn nữa chất lượng tóm tắt.  
- Khuyến khích các nhà nghiên cứu, doanh nghiệp và tổ chức giáo dục ứng dụng mô hình để cải thiện hiệu quả xử lý thông tin và hỗ trợ người dùng.

**Hành động tiếp theo**: Triển khai thử nghiệm mô hình trên các hệ thống thực tế, mở rộng bộ dữ liệu và nghiên cứu tích hợp kỹ thuật học sâu để nâng cao chất lượng tóm tắt.

**Liên hệ để nhận bản đầy đủ luận văn và hỗ trợ ứng dụng mô hình.**