Khóa luận tốt nghiệp: Tóm tắt văn bản sử dụng mô hình học sâu và ứng dụng

Tóm tắt văn bản sử dụng mô hình học sâu và ứng dụng trong phân tích cảm xúc bình luận người dùng khóa luận tốt nghiệp đạ phục vụ n

Người đăng

Ẩn danh

Thể loại

Khóa luận tốt nghiệp đại học

2025

81
0
0

Phí lưu trữ

30 Point

Tóm tắt

I. Giới thiệu về Tóm tắt Văn bản và Phân tích Cảm xúc

Trong era kỹ thuật số hiện tại, phân tích cảm xúc từ bình luận người dùng trở thành yếu tố then chốt giúp doanh nghiệp nắm bắt kịp thời phản hồi khách hàng. Tuy nhiên, tiếng Việt với cấu trúc câu dài, ý nghĩa đa tầng và cách diễn đạt gián tiếp hoặc ẩn dụ làm cho việc phân tích cảm xúc tiếng Việt gặp nhiều thách thức. Tóm tắt văn bản sử dụng mô hình học sâu là giải pháp tiền xử lý hiệu quả nhằm cải thiện chất lượng dữ liệu đầu vào. Nghiên cứu này đề xuất quy trình tổng hợp kết hợp tóm tắt văn bản với các kỹ thuật biểu diễn ngôn ngữ tiên tiến, mở ra triển vọng ứng dụng thực tế trong các hệ thống chatbot, giám sát phản hồi và hỗ trợ ra quyết định.

1.1. Thách thức của Phân tích Cảm xúc Tiếng Việt

Phân tích cảm xúc trong tiếng Việt đối mặt với thách thức lớn do cấu trúc ngôn ngữ phức tạp và tính chất ngữ pháp độc đáo. Bình luận người dùng thường chứa nhiều ký tự đặc biệt, từ viết tắt, emoticon và cách diễn đạt không chính thức. Những yếu tố này làm giảm hiệu suất của các mô hình truyền thống, yêu cầu tiền xử lý dữ liệu hiệu quả và các công cụ phân tích tiên tiến.

1.2. Vai trò của Học sâu trong Xử lý Ngôn ngữ Tự nhiên

Mô hình học sâu đã chứng minh hiệu quả vượt trội trong xử lý ngôn ngữ tự nhiên so với phương pháp truyền thống. Các kiến trúc như Transformer, CNN và RNN cho phép máy tính hiểu được ngữ cảnh phức tạpý nghĩa ngữ nghĩa của văn bản. Ứng dụng tóm tắt văn bản giúp loại bỏ thông tin dư thừa, làm nổi bật nội dung mang cảm xúc chính.

II. Các Mô hình Học sâu Sử dụng trong Khóa luận

Khóa luận sử dụng các mô hình học sâu tiên tiến được thiết kế riêng cho tiếng Việt, bao gồm ViT5, BARTpho cho tóm tắt văn bản, và PhoBERT, PhoW2V cho biểu diễn ngôn ngữ. Các mô hình này đã được huấn luyện trước trên kho dữ liệu lớn tiếng Việt, cho phép chúng hiểu rõ hơn về đặc trưng ngữ nghĩangữ cảnh văn bản. Quá trình thực nghiệp được thực hiện trên bộ dữ liệu thực tế từ các sàn thương mại điện tử, đảm bảo tính thực tiễn cao. Kết hợp tách từ chính xác với các bước tiền xử lý khác tạo nên quy trình xử lý toàn diện.

2.1. ViT5 và BARTpho Mô hình Tóm tắt Văn bản

ViT5BARTpho là những mô hình học sâu chuyên biệt cho tóm tắt văn bản tiếng Việt. BARTpho là phiên bản denoising autoencoder được tinh chỉnh từ BART gốc, giúp rút gọn bình luận dài thành những câu ngắn gọn mà vẫn giữ lại ý chínhcảm xúc. Quá trình này giảm đáng kể khối lượng dữ liệu xử lý.

2.2. PhoBERT và PhoW2V Biểu diễn Ngôn ngữ

PhoBERTPhoW2V chuyên biệt hóa việc tạo vector ngôn ngữ cho tiếng Việt. PhoBERT sử dụng kiến trúc Transformer để tạo embeddings có ngữ cảnh, trong khi PhoW2V sử dụng Word2Vec truyền thống. Hai phương pháp này kết hợp giúp tạo đặc trưng ngữ nghĩa chất lượng cao, phục vụ phân loại cảm xúc chính xác.

III. Phương pháp Thực nghiệm và Kết quả

Nghiên cứu được thực hiện trên bộ dữ liệu thực tế được thu thập từ các nền tảng thương mại điện tử, với nhãn cảm xúc được gán thủ công. Quá trình huấn luyện áp dụng hai kịch bản: một có tóm tắt văn bản và một không áp dụng bước này. Kết quả thực nghiệm cho thấy quy trình tích hợp giúp cải thiện rõ rệt các chỉ số Accuracy, Precision, RecallF1-score. Mức độ cải thiện phụ thuộc vào thuật toán phân loại được sử dụng, nhưng nhìn chung tóm tắt văn bản luôn mang lại hiệu suất tốt hơn.

3.1. Thiết kế Bộ dữ liệu và Tiền xử lý

Bộ dữ liệu được thu thập từ các comment thực tế trên sàn thương mại điện tử Việt Nam. Mỗi comment được gán nhãn cảm xúc (tích cực, tiêu cực, trung tính) bởi những người chuyên môn. Quá trình tiền xử lý bao gồm tách từ sử dụng công cụ chuyên biệt, loại bỏ ký tự đặc biệt, và chuẩn hóa văn bản trước khi đưa vào mô hình học sâu.

3.2. So sánh Kết quả Có và Không Tóm tắt

Kết quả cho thấy quy trình với tóm tắt văn bản đạt F1-score cao hơn 8-15% so với quy trình truyền thống. Việc áp dụng tóm tắt giúp mô hình tập trung vào nội dung cảm xúc chính, giảm noise và cải thiện độ chính xác phân loại. Các chỉ số PrecisionRecall cũng được cân bằng tốt hơn.

IV. Ứng dụng Thực tiễn và Triển vọng Phát triển

Với cách tiếp cận có hệ thống, rõ ràng và khả năng mở rộng cao, khóa luận này mở ra nhiều ứng dụng thực tiễn trong phân tích cảm xúc bình luận người dùng. Hệ thống có thể được tích hợp vào chatbot thông minh, công cụ giám sát phản hồi khách hàng, và hệ thống hỗ trợ ra quyết định cho lãnh đạo doanh nghiệp. Đặc biệt, trong lĩnh vực thương mại điện tử, phân tích cảm xúc giúp doanh nghiệp nắm bắt xu hướng thị trường, cải thiện chất lượng sản phẩmdịch vụ khách hàng. Nghiên cứu này không chỉ nâng cao chất lượng xử lý ngôn ngữ Việt mà còn mở ra nền tảng cho các ứng dụng AI tiếp theo.

4.1. Ứng dụng trong Thương mại Điện tử

Phân tích cảm xúc bằng tóm tắt văn bản có thể tự động giám sát mức độ hài lòng khách hàng từ bình luận sản phẩm. Doanh nghiệp sử dụng thông tin này để cải thiện sản phẩm, phát hiện các vấn đề chất lượng, và tương tác với khách hàng kịp thời. Hệ thống cảnh báo tự động có thể phát hiện bình luận tiêu cực để xử lý nhanh chóng.

4.2. Hướng Phát triển Tương lai

Trong tương lai, mô hình học sâu có thể được huấn luyện trên bộ dữ liệu lớn hơn với nhiều miền ngành khác nhau. Kết hợp với phân tích cảm xúc đa ngôn ngữphân tích khía cạnh cảm xúc, hệ thống có thể cung cấp insight sâu sắc hơn. Tích hợp xử lý tiếng nói cũng là hướng phát triển đầy hứa hẹn.

28/12/2025

Trích đoạn nội dung tài liệu

Chương 1: Giới thiệu chung Trình bày tổng quan về đề tài khóa luận, nêu bật tính cấp thiết, mục tiêu, câu hỏi nghiên cứu, đối tượng và phạm vi triển khai. Chương này còn đề cập đến phương pháp tiếp cận, nội dung chính, đóng góp của nghiên cứu, tổng quan về lĩnh vực xử lý tóm tắt văn bản, phân tích cảm xúc và sơ lược cấu trúc của toàn bộ khóa luận. Chương 2: Cơ sở lý thuyết Tổng hợp các kiến thức nền liên quan đến tóm tắt văn bản và phân tích cảm xúc. Chương này trình bày các cấp độ phân tích cảm xúc, quy trình xử lý, tiêu chí đánh giá chất lượng cũng như giới thiệu các mô hình ngôn ngữ hiện đại như mạng nơ-ron nhân tạo (ANN), Transformer và các kỹ thuật xử lý ngôn ngữ tiếng Việt như tách từ.

Ngoài ra, chương còn đề cập đến các phương pháp phân chia dữ liệu và các mô hình nghiên cứu cho các bài toán kết hợp tóm tắt và phân tích cảm xúc. Chương 3: Phương pháp thực hiện Chương này trình bày chi tiết quy trình thực hiện đề tài, bao gồm mô tả cách thu thập và xử lý dữ liệu, môi trường thực nghiệm, phương pháp xây dựng mô hình tóm tắt văn bản và mô hình phân tích cảm xúc dựa trên văn bản đã được rút gọn. Chương 4: Kết quả thực nghiệm Trình bày kết quả thu được từ các mô hình đã xây dựng, tiến hành so sánh với các phương pháp hiện có, phân tích hiệu quả theo các tiêu chí đánh giá phù hợp. Chương 5: Kết luận Chương này tóm tắt các nội dung đã thực hiện trong khóa luận, làm rõ những kết quả đạt được và đóng góp chính của nghiên cứu.

Bên cạnh đó, một số hạn chế cũng được chỉ ra nhằm rút kinh nghiệm cho các nghiên cứu sau và đề xuất hướng phát triển tiếp theo nhằm cải thiện hiệu quả mô hình và mở rộng khả năng ứng dụng thực tế. 6 CHƯƠNG 2: CƠ SỞ LÝ THUYẾT Chương này trình bày các kiến thức nền tảng liên quan đến phân tích cảm xúc, tóm tắt văn bản, mạng nơ ron, học sâu và mô hình nghiên cứu. Ngoài ra, chương cũng đề cập đến các phương pháp chia dữ liệu, kỹ thuật tách từ tiếng Việt làm cơ sở cho các bước nghiên cứu và triển khai mô hình sau này. Phân tích cảm xúc 2.

Giới thiệu Phân tích cảm xúc một nhánh trong lĩnh vực trong xử lý ngôn ngữ tự nhiên tập trung vào nhiệm vụ khám phá và xác định thái độ, quan điểm hoặc cảm xúc của con người được thể hiện qua văn bản về sản phẩm, dịch vụ, sự kiện hoặc chủ thể xã hội cụ thể (Liu, 2012). Ngoài ra, phân tích cảm xúc không chỉ đánh giá tổng quan thái độ của người dùng mà còn mở rộng theo hướng phân tích cảm xúc theo từng khía cạnh, cho phép hệ thống tự động trích xuất các khía cạnh cụ thể và xác định xu hướng cảm xúc theo từng khía cạnh được đề cập (Ghosh & Sur, 2025; Liu, 2012). Các trạng thái cảm xúc cơ bản thường được dùng để biểu đạt thái độ hay quan điểm mà văn bản phản ánh về một đối tượng cụ thể bao gồm tích cực, tiêu cực và trung lập. Cảm xúc tích cực đề cập đến những quan điểm, nhận xét mang ý nghĩa tốt, thể hiện sự hài lòng, yêu thích hoặc đánh giá cao về một thực thể hoặc sự kiện.

Ngược lại, cảm xúc tiêu cực chỉ những quan điểm, nhận xét mang ý nghĩa xấu thể hiện sự không hài lòng, chê bai hoặc chỉ trích về một đối tượng cụ thể. Trong khi đó, cảm xúc trung lập bao gồm những ý kiến, nhận xét không thể hiện sự khen ngợi hay chỉ trích mà thường mang tính chất khách quan như cung cấp thông tin (Pang & Lee, 2008). Phân tích cảm xúc thường được tiếp cận như một bài toán phân lớp dữ liệu trong đó các đoạn văn bản được gán nhãn theo cảm xúc biểu đạt. Phân lớp dữ liệu là một kỹ thuật cơ bản trong học máy, dùng để xây dựng các mô hình dự đoán nhãn phân loại cho các đối tượng dữ liệu mới dựa trên dữ liệu đã biết.

Quá trình này thường dựa vào một bộ dữ liệu huấn luyện nhằm tạo ra một bộ phân lớp có khả năng tổng quát hóa và áp dụng cho các dữ liệu chưa từng thấy. Do đó, phân lớp dữ liệu có nhiều ứng dụng thực tiễn trong các lĩnh vực như xử lý ngôn ngữ tự nhiên, nhận dạng hình ảnh, phát hiện gian lận, phân loại tài liệu và phân tích tài chính (Han và cộng sự, 2012). 7 Phân lớp dữ liệu có tính ứng dụng cao trong thực tiễn. Trong phân tích phản hồi người dùng giúp xác định mức độ hài lòng để cải thiện sản phẩm.

Trong nhận dạng hình ảnh, phân biệt chính xác các đối tượng như chó, mèo hay chim. Với văn bản, phân lớp hỗ trợ sắp xếp nội dung theo chủ đề như thể thao, chính trị hay giải trí. Đặc biệt, trong tài chính, việc phân loại khách hàng có rủi ro tín dụng cao giúp ngân hàng kiểm soát tốt hơn quyết định cho vay và giảm thiểu tổn thất. Quá trình phân lớp thường được chia thành hai giai đoạn chính.

Trước tiên, hệ thống cần trải qua giai đoạn huấn luyện, trong đó một mô hình được xây dựng dựa trên bộ dữ liệu đã được gán nhãn sẵn. Đây là hình thức học có giám sát khi mà mô hình học từ các mẫu đầu vào để nhận biết mối liên hệ giữa đặc trưng và nhãn lớp tương ứng. Sau đó, mô hình sẽ được đánh giá trong giai đoạn kiểm tra, nơi nó được áp dụng lên dữ liệu mới để dự đoán nhãn lớp. Độ chính xác được đo lường bằng cách so sánh dự đoán với nhãn thực tế trong tập kiểm tra là một bộ dữ liệu độc lập với tập huấn luyện nhằm tránh quá khớp để đảm bảo tính khách quan.

Nếu kết quả đánh giá cho thấy hiệu quả tốt, mô hình có thể được sử dụng để phân loại các trường hợp chưa biết trong tương lai (Han và cộng sự, 2012). Các thuật toán phân lớp trong học máy đóng vai trò quan trọng trong việc xây dựng mô hình dự đoán nhãn cho văn bản, đặc biệt trong bài toán phân tích cảm xúc tiếng Việt. Tùy vào đặc điểm dữ liệu và yêu cầu ứng dụng, các thuật toán được lựa chọn nhằm tối ưu hiệu quả phân loại. Một số thuật toán phổ biến được sử dụng trong nghiên cứu gồm: Các giải thuật phân lớp trong học máy rất đa dạng và được lựa chọn tùy theo đặc điểm của bài toán, dữ liệu đầu vào, yêu cầu về độ chính xác, tốc độ xử lý hay khả năng mở rộng.

Một số thuật toán phổ biến có thể kể đến như K-Nearest Neighbors (k-NN), dựa trên khoảng cách để phân loại điểm dữ liệu mới dựa vào các điểm lân cận gần nhất. Cây quyết định sử dụng cấu trúc cây để học các quy tắc phân loại từ dữ liệu. Naive Bayes dựa vào xác suất có điều kiện và giả định độc lập giữa các đặc trưng. Random Forest tập hợp nhiều cây quyết định để cải thiện độ chính xác và giảm quá khớp; hay các mô hình mạng nơ-ron như MLP có khả năng học các biểu diễn phi tuyến phức tạp trong dữ liệu.

Việc lựa chọn các thuật toán này giúp đánh giá sự phù hợp giữa biểu diễn ngôn ngữ như PhoW2V hoặc PhoBERT với từng cách tiếp cận phân loại, từ đó xác định 8 mô hình nào cho hiệu suất tốt nhất trong việc phân tích cảm xúc bình luận tiếng Việt. Các cấp độ phân tích cảm xúc Phân tích cảm xúc dựa trên học máy có thể chia thành ba cấp độ chính: cấp độ tài liệu, cấp độ câu và cấp độ khía cạnh (Liu, 2012). Việc phân chia này phản ánh mức độ chi tiết mà cảm xúc được khai thác từ văn bản từ tổng thể cho đến từng thành phần cụ thể. Tùy vào mục tiêu ứng dụng và đặc điểm dữ liệu, mỗi cấp độ sẽ phù hợp với một cách tiếp cận riêng biệt.

Phân tích cảm xúc cấp độ tài liệu Nhiệm vụ phân tích cảm xúc ở cấp độ tài liệu là quá trình xác định và phân loại quan điểm tổng thể được thể hiện trong toàn bộ văn bản thành các nhóm cảm xúc khác nhau (Pang và cộng sự, 2002). Trong thực tế nếu một tài liệu đánh giá nhiều hơn một thực thể thì cảm xúc về các thực thể có thể khác nhau vì có trường hợp ý kiến có thể tích cực về một số thực thể và tiêu cực về những thực thể khác. Do đó, không có ý nghĩa thực tế khi chỉ định một trạng thái cảm xúc cho toàn bộ tài liệu và khi nhiều người bày tỏ ý kiến trong một tài liệu vì ý kiến của họ cũng có thể khác nhau (Liu, 2012). Phân tích cảm xúc ở cấp độ tài liệu thường giả định rằng mỗi văn bản chỉ phản ánh ý kiến về một thực thể duy nhất.

Do đó, cách tiếp cận này sẽ không phù hợp với những tài liệu đánh giá và so sánh giữa nhiều thực thể cùng lúc hoặc tổng hợp ý kiến từ nhiều người như bài viết tổng hợp đánh giá khách hàng. Phân tích cảm xúc cấp độ câu Phân tích cảm xúc ở cấp độ câu tập trung vào việc đánh giá từng câu một cách độc lập nhằm xác định thái độ mà câu đó thể hiện (Pang và cộng sự, 2002). Phương pháp này có mối liên hệ chặt chẽ với phân loại tính chủ quan, một lĩnh vực quan trọng trong xử lý ngôn ngữ tự nhiên (Wiebe và cộng sự, 1999). Phân loại tính chủ quan giúp xác định xem văn bản có mang tính khách quan hay chủ quan.

Cụ thể, câu khách quan là những câu cung cấp thông tin thực tế, mang tính trung lập và không chứa các yếu tố cảm xúc rõ ràng. Chúng thường được sử dụng trong các bài báo, tài liệu khoa học hoặc hướng dẫn kỹ thuật yêu cầu thông tin phải được trình bày rõ ràng, chính xác và khách quan trong diễn đạt. Ngược lại, câu chủ quan phản ánh quan điểm, thái độ hoặc cảm xúc của cá nhân người viết. Những câu này đa số được thấy trong các bài bình luận, đánh giá sản 9 phẩm, tin tức mang tính quan điểm.

Việc xác định mức độ chủ quan trong văn bản giữ vai trò thiết yếu trong nhiều ứng dụng như phân tích cảm xúc, tóm tắt ý kiến khách hàng, hoặc kiểm duyệt nội dung trên nền tảng số (Wiebe và cộng sự, 1999). Tuy nhiên, cần lưu ý rằng tính chủ quan không hoàn toàn đồng nghĩa với cảm xúc. Nhiều câu khách quan vẫn có thể ngụ ý một quan điểm nhất định.

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ