Tìm hiểu kỹ thuật Embedding và ứng dụng cho bài toán tóm tắt văn bản

Khám phá kỹ thuật embedding và tóm tắt văn bản hiệu quả. Tìm hiểu ứng dụng thực tế trong xử lý ngôn ngữ tự nhiên, giúp bạn làm chủ thông tin.

Chuyên ngành

Công Nghệ Thông Tin

Người đăng

Ẩn danh

Thể loại

Đồ Án Tốt Nghiệp

2023

57
0
0

Phí lưu trữ

30 Point

Mục lục chi tiết

LỜI CẢM ƠN

KẾ HOẠCH THỰC HIỆN

MỤC LỤC

DANH SÁCH HÌNH ẢNH

1. CHƯƠNG 1: MỞ ĐẦU

1.1. Tính cấp thiết của đề tài

1.2. Mục tiêu và nhiệm vụ nghiên cứu

1.3. Cách tiếp cận và phương pháp nghiên cứu

1.4. Kết quả dự kiến đạt được

2. CHƯƠNG 2: NỘI DUNG

2.1. MÔ HÌNH TRANSFORMERS

2.1.1. Ứng dụng xử lý ngôn ngữ tự nhiên

2.1.2. Mô hình transformers

2.2. HỌC CHUYỂN ĐỔI VÀ MÔ HÌNH BERT

2.2.1. Cơ chế hoạt động

2.2.1.1. Biểu diễn input/output
2.2.1.2. Pre-training bert
2.2.1.3. Minh họa Fine-turing với một số tác vụ khác

2.3. BÀI TOÁN TÓM TẮT VĂN BẢN

2.3.1. Các lý thuyết liên quan đến bài toán

2.3.2. Tinh chỉnh Bert cho bài toán tóm tắt văn bản

2.3.2.1. Tinh chỉnh input
2.3.2.2. Fine-tuning với Summarization leyers

3. CHƯƠNG 3: THỰC NGHIỆM

3.1. Tổng quan về phương pháp thực hiện

3.2. Áp dụng độ đo để đánh giá và tập dữ liệu sử dụng

3.2.1. Tập dữ liệu sử dụng. Dữ liệu đánh giá mô hình. Dữ liệu thực nghiệm

3.2.2. Thực hiện đánh giá và kết quả

3.3. Triển khai website tin vắn

4. CHƯƠNG 4: KẾT LUẬN

4.1. Kết quả đạt được

4.1.1. Ý nghĩa khoa học

4.1.2. Ý nghĩa thực tiễn

4.1.3. Hướng phát triển

Tóm tắt

I. Embedding Văn Bản và Tóm Tắt Tổng Quan Tiềm Năng

Trong kỷ nguyên bùng nổ thông tin, việc xử lý và tiếp thu kiến thức nhanh chóng trở nên vô cùng quan trọng. Embedding văn bảntóm tắt văn bản nổi lên như những giải pháp hiệu quả, giúp con người dễ dàng tiếp cận và nắm bắt thông tin. Embedding văn bản là kỹ thuật biểu diễn từ ngữ, câu, hay văn bản dưới dạng các vector số trong không gian nhiều chiều. Ý tưởng cốt lõi là ánh xạ các đơn vị ngôn ngữ vào không gian số học sao cho các đơn vị có ý nghĩa tương đồng nằm gần nhau. Điều này cho phép máy tính hiểu và xử lý ngôn ngữ tự nhiên một cách hiệu quả. Ngược lại, tóm tắt văn bản là quá trình tạo ra một phiên bản ngắn gọn của văn bản gốc, giữ lại những thông tin quan trọng nhất. Kỹ thuật này giúp tiết kiệm thời gian đọc, dễ dàng ghi nhớ thông tin và tăng hiệu suất công việc. Các mô hình embedding như Word2Vec, FastText, GloVe đã được sử dụng rộng rãi trong nhiều ứng dụng NLP. Tuy nhiên, các mô hình này còn tồn tại một số hạn chế như không giải quyết được vấn đề đa nghĩa và các embedding từ độc lập với ngữ cảnh. Để khắc phục những hạn chế này, kiến trúc Transformer ra đời. Các biến thể của Transformer như BERT, GPT đã đạt được hiệu năng vượt trội so với các mô hình trước đây trong nhiều tác vụ NLP.

Theo nghiên cứu, "Embedding giúp chuyển đổi các từ, câu hoặc văn bản thành các vector số học có thể được sử dụng bởi các thuật toán máy học. Điều này cho phép máy tính hiểu và xử lý ngôn ngữ tự nhiên." Việc kết hợp embedding văn bảntóm tắt văn bản mang lại nhiều lợi ích thiết thực, từ việc cải thiện khả năng tìm kiếm thông tin đến việc xây dựng các hệ thống gợi ý và phân loại văn bản thông minh. Đồ án này tập trung nghiên cứu cơ sở lý thuyết của kỹ thuật embedding cho xử lý ngôn ngữ tự nhiên, từ đó áp dụng vào bài toán tóm tắt văn bản.

1.1. Ý Nghĩa của Kỹ Thuật Embedding trong Xử Lý Ngôn Ngữ

Kỹ thuật embedding văn bản đóng vai trò then chốt trong xử lý ngôn ngữ tự nhiên (NLP). Bất kỳ mô hình tính toán nào trên máy tính đều làm việc với các con số. Vậy làm thế nào để các mô hình tính toán có thể làm việc với ngôn ngữ tự nhiên? Mặt khác, từ là đơn vị ngôn ngữ nhỏ nhất mang ý nghĩa hoàn chỉnh. Do đó, để các mô hình làm việc được với ngôn ngữ tự nhiên thì việc số hóa các từ là cách tiếp cận đơn giản nhất. Nó giúp chuyển đổi các đơn vị ngôn ngữ thành dạng số, cho phép các thuật toán máy học hiểu và thao tác trên văn bản. Các mô hình embedding cho phép máy tính hiểu được ý nghĩa của từ, câu và văn bản. Đồng thời, biểu diễn các mối quan hệ ngữ nghĩa giữa các đơn vị ngôn ngữ. Nhờ đó, máy tính có thể thực hiện các tác vụ phức tạp như tìm kiếm thông tin, dịch máy và phân tích cảm xúc. Ví dụ: từ "bank" có thể là ngân hàng hoặc bờ sông. Kỹ thuật embedding giúp máy tính phân biệt được hai ý nghĩa khác nhau này dựa trên ngữ cảnh sử dụng. Word embedding giúp biểu diễn nghĩa của một từ, tuy nhiên cùng một từ ở một vị trí khác nhau lại mang nghĩa khác nhau. Do đó Transformer có thêm một phần Positional encoding để đưa thông tin vị trí của một từ. Các từ có sự tương đồng về mặt ngữ nghĩa sẽ được ánh xạ thành các vector gần nhau trong không gian vector. Điều này cực kỳ hữu ích trong nhiều ứng dụng, bao gồm tìm kiếm thông tin, gợi ý từ, phân loại văn bản, dịch máy,…Embedding là một cách thức hiệu quả để biểu diễn văn bản và từ vựng, từ đó có thể được sử dụng để phân loại và gán nhãn các tài liệu văn bản một cách tự động và nhiều các ứng dụng khác.

1.2. Tầm Quan Trọng của Tóm Tắt Văn Bản trong Kỷ Nguyên Số

Trong thời đại bùng nổ thông tin, tóm tắt văn bản trở thành một công cụ không thể thiếu. Con người ngày càng bận rộn và việc tiếp cận thông tin một cách nhanh chóng là vô cùng quan trọng. Tóm tắt văn bản giúp người đọc tiết kiệm thời gian, dễ dàng ghi nhớ thông tin và tăng hiệu suất công việc. Nó là một trong số các ứng dụng thực tế sử dụng kỹ thuật embedding. Khi nghiên cứu tài liệu nó sẽ giúp quá trình lựa chọn dễ dàng hơn, tăng hiệu quả của quá trình sắp xếp các kết quả tìm kiếm tài liệu của người dùng. Tóm tắt văn bản không chỉ đơn thuần là rút gọn văn bản. Mà còn là quá trình chắt lọc những thông tin quan trọng nhất và trình bày chúng một cách súc tích và dễ hiểu. Có hai cách tiếp cận chính để tóm tắt văn bản: tóm tắt dựa trên trích xuất và tóm tắt dựa trên trừu tượng. Cách tiếp cận dựa trên trích xuất sẽ chọn những đoạn văn chính để tạo ra một bản tóm tắt, còn cách tiếp cận dựa trên trừu tượng sẽ chọn từ dựa trên sự hiểu biết ngữ nghĩa, thậm chí những từ đó không xuất hiện trong các tài liệu nguồn. Ngày nay, tóm tắt văn bản được ứng dụng rộng rãi trong nhiều lĩnh vực, từ báo chí và truyền thông đến nghiên cứu khoa học và quản lý tri thức. Trong dự án này nhóm sẽ sử dụng tóm tắt dựa trên trích xuất cho bài toán của mình. Các lợi ích rõ ràng mà tóm tắt văn bản đem lại bao gồm: làm cho việc đọc một cách dễ dàng hơn, tiết kiệm thời gian đọc hơn, dễ dàng ghi nhớ thông tin hơn, tăng hiệu suất công việc.

II. Thách Thức Giải Pháp Embedding và Tóm Tắt Văn Bản

Mặc dù có nhiều ưu điểm, việc ứng dụng embedding văn bảntóm tắt văn bản cũng gặp phải không ít thách thức. Một trong những thách thức lớn nhất là xử lý sự đa dạng và phức tạp của ngôn ngữ tự nhiên. Ngôn ngữ tự nhiên chứa đựng nhiều sắc thái, ngữ cảnh và cấu trúc khác nhau. Điều này đòi hỏi các mô hình embeddingtóm tắt văn bản phải có khả năng hiểu và xử lý thông tin một cách linh hoạt và chính xác. Chẳng hạn, các kỹ thuật embedding chỉ biểu diễn từ hoặc văn bản dưới dạng các vector số. Vì vậy, chúng không giải quyết được vấn đề đa nghĩa (ambiguity), nghĩa là một từ có thể có nhiều ý nghĩa khác nhau. Đồng thời, các kỹ thuật như Word2vec hay GloVe đầu ra là một ma trận trong đó mỗi hàng là một vector biểu diễn một từ trong bộ từ vựng được định nghĩa trước dẫn đến tất cả các mô hình embedding từ này đều độc lập ngữ cảnh. Các kỹ thuật Word2vec hay Glove đã được sử rộng rãi và cho thấy hiệu quả trong nhiều ứng dụng NLP, nhưng chúng vẫn còn một số khuyết điểm.

Một thách thức khác là đảm bảo tính chính xác và nhất quán của thông tin trong quá trình tóm tắt văn bản. Các mô hình tóm tắt cần phải có khả năng chắt lọc những thông tin quan trọng nhất và loại bỏ những thông tin không liên quan hoặc dư thừa. Đồng thời, đảm bảo rằng bản tóm tắt vẫn giữ được ý nghĩa và thông điệp chính của văn bản gốc. Để giải quyết những thách thức này, các nhà nghiên cứu đã và đang phát triển nhiều phương pháp và kỹ thuật mới. Trong đó, kiến trúc Transformer đang nổi lên như một giải pháp đầy hứa hẹn. Transformer sử dụng cơ chế attention để tập trung vào những phần quan trọng nhất của văn bản và xây dựng các biểu diễn ngữ cảnh phong phú. Các biến thể của Transformer như BERTGPT đã đạt được những kết quả ấn tượng trong nhiều tác vụ NLP.

2.1. Vấn Đề Đa Nghĩa và Tính Ngữ Cảnh trong Embedding

Một trong những hạn chế lớn của các mô hình embedding truyền thống là khả năng xử lý đa nghĩa (ambiguity) và tính ngữ cảnh (contextuality) của ngôn ngữ. Một từ có thể mang nhiều ý nghĩa khác nhau tùy thuộc vào ngữ cảnh sử dụng. Các mô hình embedding truyền thống thường gán cho mỗi từ một vector duy nhất, không thể hiện được sự khác biệt về ý nghĩa trong các ngữ cảnh khác nhau. Ví dụ, từ "bank" có thể chỉ ngân hàng hoặc bờ sông. Các mô hình embedding truyền thống không thể phân biệt được hai ý nghĩa này. Điều này dẫn đến việc các mô hình không thể hiểu được ý nghĩa thực sự của văn bản và có thể đưa ra những kết quả sai lệch. Các biến thể của Transformer như Bert, gpt-2 đạt hiệu năng vượt trội hơn so với các mô hình trước đây (state-of-the-art) trên một số tác vụ cua xử lý ngôn ngữ tự nhiên. Đây là một kiến trúc được biết nhiều trong deep learning, là cơ sở của hàng loạt mô hình Bert khác nhau sau này. Để giải quyết vấn đề này, các nhà nghiên cứu đã phát triển các mô hình embedding ngữ cảnh (contextual embeddings), chẳng hạn như BERTGPT. Các mô hình này sử dụng cơ chế attention để xem xét ngữ cảnh xung quanh một từ và tạo ra các vector biểu diễn khác nhau cho từ đó trong các ngữ cảnh khác nhau.

2.2. Đảm Bảo Tính Chính Xác và Nhất Quán trong Tóm Tắt

Việc đảm bảo tính chính xác và nhất quán của thông tin là một thách thức quan trọng trong tóm tắt văn bản. Các mô hình tóm tắt cần phải có khả năng chắt lọc những thông tin quan trọng nhất và loại bỏ những thông tin không liên quan hoặc dư thừa. Đồng thời, đảm bảo rằng bản tóm tắt vẫn giữ được ý nghĩa và thông điệp chính của văn bản gốc. Tóm tắt văn bản là một trong số các ứng dụng thực tế sử dụng kỹ thuật embedding. Dưới đây là một số vai trò quan trọng của việc tóm tắt văn bản đem lại: Trong thời đại bùng nổ của thông tin dẫn đến rất nhiều thông tin được phát sinh và số hóa thành văn bản trên các trang web hay tài liệu. Con người ngày càng bận rộn với nhiều công việc thì việc tiếp cận và tiếp nhận thông tin một cách nhanh chóng là thực sự cần thiết. Vì thế việc tóm tắt văn bản sẽ đem lại nhiều lợi ích rõ ràng cho chúng ta. Một trong những giải pháp để nâng cao tính chính xác và nhất quán của tóm tắt là sử dụng các mô hình học sâu (deep learning) được huấn luyện trên lượng lớn dữ liệu. Các mô hình này có khả năng học được các quy tắc và cấu trúc ngôn ngữ phức tạp, từ đó tạo ra các bản tóm tắt chất lượng cao.

III. BERT Biểu Diễn Ngôn Ngữ Đa Chiều và Ứng Dụng Tóm Tắt

BERT (Bidirectional Encoder Representations from Transformers) là một mô hình biểu diễn ngôn ngữ dựa trên kiến trúc Transformer do Google phát triển. Điểm nổi bật của BERT là khả năng học biểu diễn đa chiều (bidirectional) của văn bản. Không giống như các mô hình trước đây chỉ xét tương quan về các từ trong câu từ trái sang phải hoặc từ phải sang trái, BERT xem xét toàn bộ ngữ cảnh của một từ trong câu để tạo ra biểu diễn phong phú và chính xác hơn. Bert thể hiện một kết quả về sự hiểu biết sâu sắc hơn trong ngữ cảnh của các từ trong câu. Một điểm đặc biệt ở Bert mà các embedding trước đây chưa từng có đó là kết quả huấn luyện có thể fine-tuning được. Chúng ta có thể thêm vào kiến trúc model một output layer để tùy biến theo tác vụ huấn luyện. BERT sử dụng hai tác vụ chính trong quá trình huấn luyện: Masked Language Model (MLM)Next Sentence Prediction (NSP). MLM che đi một số từ trong câu và yêu cầu mô hình dự đoán các từ bị che. Tác vụ này giúp BERT học được mối quan hệ giữa các từ trong câu. Nhiệm vụ này sẽ giúp mô hình hiểu được mối liên hệ giữa các câu.

Trong bài toán tóm tắt văn bản, BERT có thể được sử dụng để trích xuất các câu quan trọng nhất trong văn bản gốc và tạo ra bản tóm tắt. Hoặc sử dụng cơ chế self-attention để thống nhất 2 giai đoạn này, khi encoding một cặp văn bản kết hợp với self-attention có hiệu quả bao gồm bidirectional thông qua attention giữa 2 câu. BERT đã đạt được những kết quả ấn tượng trong nhiều tác vụ NLP, bao gồm tóm tắt văn bản.

3.1. Cơ Chế Hoạt Động của BERT Masked Language Model NSP

BERT hoạt động dựa trên hai cơ chế chính: Masked Language Model (MLM)Next Sentence Prediction (NSP). MLM ngẫu nhiên che một số tokens từ input, và mục tiêu là dự đoán id của từ gốc chỉ dựa trên ngữ cảnh của nó. Với mỗi token thì biểu diễn input được thực hiện bằng cách lấy tổng của các token tương ứng, segment và embedding vị trí. Để thực hiện huấn luyện một biểu diễn sâu đa chiều thì đơn giản là Bert che đi một số phần trăm của các token input một cách ngẫu nhiên, và sau đó thực hiện dự đoán các token được che đó. So với training model ngôn ngữ tiêu chuẩn, masked LM chỉ dự đoán 15% các tokens trong mỗi đợt, nên điều đó cho thấy rằng nhiều bước pre-training có thể được yêu cầu cho model hội tụ. NSP để train một model hiểu được mối quan hệ giữa các câu thì Bert pre-train một tác vụ dự đoán câu tiếp theo cái mà có thể được tạo ra một cách dễ dàng bằng kho văn bản đơn ngữ. Để tạo ra mỗi chuỗi input training, Bert lấy mẫu 2 khoảng văn bản từ kho văn bản, mỗi cái chúng tôi xem như câu văn bản mặc dù chúng thường dài hơn câu đơn (nhưng cũng có thể ngắn hơn). Câu thứ nhất nhận được A embedding và câu thứ 2 nhận được B embedding. Nhờ đó, BERT có thể học được các mối quan hệ ngữ nghĩa phức tạp và tạo ra các biểu diễn văn bản phong phú và chính xác. BERT có thể cho phép biểu diễn kết hợp ngữ cảnh bên trái và bên phải, cho phép chúng pre-train một Transformer đa chiều sâu. Cả 2 cơ chế trên, BERT tận dụng tối đa ngữ cảnh xung quanh một từ hoặc một câu để hiểu rõ hơn về ý nghĩa của nó.

3.2. Ứng Dụng BERT để Tinh Chỉnh Mô Hình Tóm Tắt Văn Bản

BERT có thể được sử dụng để tinh chỉnh các mô hình tóm tắt văn bản. Thay vì bắt đầu huấn luyện từ đầu, có thể sử dụng các tham số đã được huấn luyện trước của BERT để khởi tạo các mô hình tóm tắt. Sau đó, huấn luyện lại mô hình trên một tập dữ liệu nhỏ hơn để điều chỉnh các tham số cho phù hợp với tác vụ tóm tắt văn bản. Một cách để tinh chỉnh BERT cho tóm tắt văn bản là sử dụng cơ chế attention. Mô hình sẽ sử dụng cơ chế attention để xác định những câu quan trọng nhất trong văn bản gốc và tạo ra bản tóm tắt dựa trên những câu này. Với mỗi tác vụ, Bert đơn giản là đưa inputs của tác vụ nhất định đó và output vào Bert và fine-tune tất cả các tham số từ đầu đến cuối. Mô hình đơn giản đưa input của tác vụ đã cho đó và output vào trong BERT sau đó fine-tune lại toàn bộ tham số. Mô hình cuối cùng đã đạt được 97-98% độ chính xác trên nhiệm vụ dự đoán câu tiếp theo. Bằng cách này, có thể tận dụng được kiến thức đã được học của BERT để tạo ra các mô hình tóm tắt văn bản chất lượng cao với chi phí huấn luyện thấp hơn.

IV. Kỹ Thuật Tóm Tắt Văn Bản Trích Xuất vs

Có hai phương pháp chính để tóm tắt văn bản: tóm tắt trích xuất (extractive summarization) và tóm tắt trừu tượng (abstractive summarization). Tóm tắt trích xuất chọn những câu hoặc đoạn văn quan trọng nhất trong văn bản gốc và kết hợp chúng để tạo ra bản tóm tắt. Cách tiếp cận này đơn giản và dễ thực hiện. Tuy nhiên, nó có thể không tạo ra các bản tóm tắt trôi chảy và mạch lạc. Cách tiếp cận này sẽ tìm ra phần quan trọng của tài liệu và xếp hạng chúng dựa trên mức độ quan trọng và độ giống nhau giữa các tài liệu. Tóm tắt trừu tượng tạo ra bản tóm tắt bằng cách diễn giải lại ý nghĩa của văn bản gốc. Cách tiếp cận này phức tạp hơn và đòi hỏi mô hình phải có khả năng hiểu và suy luận về ngôn ngữ. Tuy nhiên, nó có thể tạo ra các bản tóm tắt trôi chảy, mạch lạc và chứa đựng những thông tin quan trọng nhất. Phương pháp trừu tượng chọn từ dựa trên sự hiểu biết ngữ nghĩa, thậm chí những từ đó không xuất hiện trong các tài liệu nguồn.

Trong thực tế, nhiều mô hình tóm tắt văn bản kết hợp cả hai phương pháp trích xuấttrừu tượng để tạo ra các bản tóm tắt chất lượng cao. Ví dụ, một mô hình có thể sử dụng phương pháp trích xuất để chọn những câu quan trọng nhất và sau đó sử dụng phương pháp trừu tượng để diễn giải lại những câu này và tạo ra bản tóm tắt cuối cùng. Cách tiếp cận này sẽ giúp cân bằng giữa tính đơn giản và hiệu quả của phương pháp trích xuất và khả năng tạo ra các bản tóm tắt trôi chảy và mạch lạc của phương pháp trừu tượng.

4.1. Ưu và Nhược Điểm của Tóm Tắt Trích Xuất Extractive

Tóm tắt trích xuất có ưu điểm là đơn giản, dễ thực hiện và không đòi hỏi nhiều tài nguyên tính toán. Tuy nhiên, nó cũng có một số nhược điểm. Thứ nhất, tóm tắt trích xuất có thể không tạo ra các bản tóm tắt trôi chảy và mạch lạc. Vì các câu được chọn có thể không liên kết chặt chẽ với nhau. Thứ hai, tóm tắt trích xuất có thể không thể hiện được ý nghĩa chính của văn bản gốc. Vì các câu được chọn có thể chỉ chứa những thông tin bề mặt. Thứ ba, tóm tắt trích xuất có thể bỏ sót những thông tin quan trọng nằm ngoài các câu được chọn. Kỹ thuật tóm tắt văn bản trích xuất bao gồm việc kéo các cụm từ chính từ tài liệu nguồn và kết hợp chúng để tạo thành một bản tóm tắt. Cách tiếp cận này sẽ tìm ra phần quan trọng của tài liệu và xếp hạng chúng dựa trên mức độ quan trọng và độ giống nhau giữa các tài liệu. Mặc dù vậy, mô hình tóm tắt trích xuất vẫn được ưa chuộng vì tính hiệu quả của nó, các đoạn trích được lấy ra không bị chỉnh sửa và thể hiện chính xác thông tin trong bài.

4.2. Thách Thức và Tiềm Năng của Tóm Tắt Trừu Tượng Abstractive

Tóm tắt trừu tượng có ưu điểm là có thể tạo ra các bản tóm tắt trôi chảy, mạch lạc và thể hiện được ý nghĩa chính của văn bản gốc. Tuy nhiên, nó cũng có một số thách thức. Thứ nhất, tóm tắt trừu tượng đòi hỏi mô hình phải có khả năng hiểu và suy luận về ngôn ngữ. Thứ hai, tóm tắt trừu tượng có thể tạo ra các bản tóm tắt không chính xác hoặc sai lệch so với văn bản gốc. Thứ ba, tóm tắt trừu tượng đòi hỏi nhiều tài nguyên tính toán hơn so với tóm tắt trích xuất. Do đó, trừu tượng thực hiện tốt hơn trích xuất. Tuy nhiên, các thuật toán tóm tắt văn bản được yêu cầu để thực hiện trừu tượng khó phát triển hơn và đó là lý do tại sao việc sử dụng trích xuất vẫn còn phổ biến. Tóm tắt trừu tượng có tiềm năng tạo ra các bản tóm tắt chất lượng cao hơn so với tóm tắt trích xuất. Tuy nhiên, nó cũng đòi hỏi nhiều nghiên cứu và phát triển hơn để giải quyết các thách thức nêu trên.

V. Ứng Dụng Thực Tế Đánh Giá Mô Hình Embedding và Tóm Tắt

Embedding văn bảntóm tắt văn bản có nhiều ứng dụng thực tế trong nhiều lĩnh vực khác nhau. Trong lĩnh vực báo chí và truyền thông, chúng có thể được sử dụng để tạo ra các bản tóm tắt tin tức tự động, giúp người đọc nhanh chóng nắm bắt thông tin quan trọng. Trong lĩnh vực nghiên cứu khoa học, chúng có thể được sử dụng để tóm tắt các bài báo khoa học, giúp các nhà nghiên cứu tiết kiệm thời gian đọc và tìm kiếm thông tin liên quan. Trong lĩnh vực quản lý tri thức, chúng có thể được sử dụng để tóm tắt các tài liệu và báo cáo, giúp các nhà quản lý dễ dàng theo dõi và đánh giá hiệu quả công việc. Trong suốt quá trình thì một chuỗi có thể là một khoảng văn bản tùy ý, không phải là một câu ngôn ngữ thực sự. Một chuỗi đề cập tới một câu input token đến Bert, cái mà có thể là một câu đơn hoặc là 2 câu kết hợp lại với nhau.

Để đánh giá hiệu quả của các mô hình embeddingtóm tắt văn bản, có thể sử dụng nhiều độ đo khác nhau, chẳng hạn như ROUGE score, BLEU score, và SPICE score. Các độ đo này đánh giá mức độ tương đồng giữa bản tóm tắt được tạo ra bởi mô hình và bản tóm tắt tham khảo do con người tạo ra.

5.1. Xây Dựng Ứng Dụng Web Tóm Tắt Tin Tức Tự Động

Để trực quan hóa bài toán, nhóm sẽ xây dựng một ứng dụng web tin vắn với các bảng tin được tóm tắt từ trang web báo điện tử https://vnexpress.net/, để trực quan hóa kết quả của mô hình sau khi phân tích từ tập dữ liệu nhằm có cái nhìn cụ thể hơn cũng như thấy được sự hữu ích khi áp dụng vào thực tế. Ứng dụng web sẽ có các chức năng chính sau: Thu thập dữ liệu từ các trang web tin tức, sử dụng mô hình embeddingtóm tắt văn bản để tạo ra các bản tóm tắt tự động, hiển thị các bản tóm tắt trên giao diện web. Bằng cách này, người dùng có thể nhanh chóng đọc và nắm bắt những thông tin quan trọng nhất từ các nguồn tin tức khác nhau. nhóm đang crawl dữ liệu từ một trang web thực (VnExpress) để sử dụng lượng dữ liệu mà nhóm đã crawl về để tóm tắt và xây dựng một trang tin tức đọc báo nhanh. Dữ liệu sẽ được lưu dưới cơ sở dữ liệu của nhóm với các thuộc tính như sau: Id, Title, Description, Paragraphs, Url_img, Time, Author, ArticeType. Sau khi nhóm đã có được dữ liệu nhóm sẽ tóm tắt nội dung của văn bản sau đó lưu vào cơ sở dữ liệu để sử dụng để tạo một trang web đọc tin đơn giản.

5.2. Sử Dụng Bertscore Đánh Giá Chất Lượng Tóm Tắt Tiếng Việt

Bertscore cho ngôn ngữ tiếng Việt với các giá trị đo như là precision, recall, f1. Hàm sẽ nhận vào 2 list nội dung gốc và nội dung đã được tóm tắt, sử dụng Bertscore để đánh giá, bằng việc gán giá trị của tham số lang=”vi” để tính toán cho tiếng Việt. Đối với độ đo BLUEROUGE thì ta cần có bản tóm tắt tham khảo để phục vụ việc tính toán độ chính xác. Nhưng đối với Bert score thì không, nó sẽ so sánh bản tóm tắt tạo ra với bản gốc. Thay vì matches chính xác thì Bert score sẽ tính toán sự tương đồng sử dụng nhúng từ theo ngữ cảnh. BertScore tính toán độ giống nhau của 2 câu dưới dạng tổng cosine tương đồng giữa các lần embedding. Độ tương đồng cosine của một token của câu ban đầu và ứng viên được tính theo công thức bên dưới. Với tập dữ liệu ở trên, qua quá trình tóm tắt thì nhóm chúng tôi đã đánh giá 1941 kết quả tóm tắt và đạt được kết quả.

VI. Kết Luận Hướng Phát Triển Embedding và Tóm Tắt Văn Bản

Embedding văn bảntóm tắt văn bản là hai lĩnh vực nghiên cứu đầy tiềm năng. Trong tương lai, chúng ta có thể kỳ vọng vào những tiến bộ vượt bậc trong cả hai lĩnh vực này. Về embedding văn bản, các nhà nghiên cứu sẽ tiếp tục phát triển các mô hình có khả năng hiểu và biểu diễn ngôn ngữ tự nhiên một cách chính xác và toàn diện hơn. Về tóm tắt văn bản, các nhà nghiên cứu sẽ tập trung vào việc tạo ra các mô hình có khả năng tạo ra các bản tóm tắt chất lượng cao, trôi chảy, mạch lạc và thể hiện được ý nghĩa chính của văn bản gốc. Đề tài là tập trung nghiên cứu cơ sở lý thuyết của kỹ thuật embedding cho xử lý ngôn ngữ tự nhiên, từ đó áp dụng vào bài toán tóm tắt văn bản.

Việc kết hợp embedding văn bảntóm tắt văn bản sẽ mở ra nhiều cơ hội mới cho việc phát triển các ứng dụng thông minh trong nhiều lĩnh vực khác nhau. Từ việc cải thiện khả năng tìm kiếm thông tin đến việc xây dựng các hệ thống gợi ý và phân loại văn bản thông minh. Embedding văn bảntóm tắt văn bản sẽ đóng vai trò quan trọng trong việc giúp con người tiếp cận và khai thác thông tin một cách hiệu quả hơn.

6.1. Tiềm Năng Ứng Dụng Trí Tuệ Nhân Tạo AI Trong Embedding

Trong tương lai, trí tuệ nhân tạo (AI) sẽ đóng vai trò ngày càng quan trọng trong lĩnh vực embedding văn bản. Các mô hình AI có khả năng học được các quy tắc và cấu trúc ngôn ngữ phức tạp từ lượng lớn dữ liệu. Từ đó tạo ra các mô hình embedding chính xác và toàn diện hơn. Trong đồ án này chúng tôi sử dụng kiến trúc Transformers với mô hình Bert. Hai cách tiếp cận chính để tóm tắt văn bản: Tóm tắt dựa trên trích xuất, Tóm tắt dựa trên trừu tượng. AI cũng có thể được sử dụng để tự động điều chỉnh các tham số của mô hình embedding cho phù hợp với từng tác vụ cụ thể. Điều này sẽ giúp nâng cao hiệu quả của mô hình trong các ứng dụng thực tế. Các kỹ thuật như Word2vec hay GloVe đầu ra là một ma trận trong đó mỗi hàng là một vector biểu diễn một từ trong bộ từ vựng được định nghĩa trước dẫn đến tất cả các mô hình embedding từ này đều độc lập ngữ cảnh.

6.2. Phát Triển Các Phương Pháp Tóm Tắt Văn Bản Đa Ngôn Ngữ

Một trong những hướng phát triển quan trọng của tóm tắt văn bản là phát triển các phương pháp có thể xử lý nhiều ngôn ngữ khác nhau. Hiện nay, hầu hết các mô hình tóm tắt văn bản chỉ được huấn luyện trên một ngôn ngữ cụ thể. Tuy nhiên, trong bối cảnh toàn cầu hóa, việc có thể tóm tắt các văn bản từ nhiều ngôn ngữ khác nhau là vô cùng quan trọng. Để giải quyết vấn đề này, các nhà nghiên cứu đang phát triển các mô hình tóm tắt đa ngôn ngữ (multilingual summarization). Các mô hình này có khả năng học được các đặc trưng ngôn ngữ chung giữa các ngôn ngữ khác nhau và tạo ra các bản tóm tắt chất lượng cao cho nhiều ngôn ngữ khác nhau. Các cặp câu được gói lại với nhau thành một chuỗi đơn. Việc phân biệt các câu này trong hai cách. Thứ nhất là tách chúng bằng token đặc biệt [SEP]. Thứ hai là thêm một learned embedding tới mỗi token để chỉ ra liệu chúng thuộc về câu thứ nhất hay câu thứ hai. Như đã thể hiện hình 2.1 ở trên thì biểu thị input embedding là E, vector ẩn cuối cùng của token đặc biệt [CLS] là C và vector ẩn cuối cùng cho token input là T.

Tóm tắt và mô tả trên trang này được tạo với sự hỗ trợ của AI từ nội dung tài liệu gốc; tài liệu do người dùng đóng góp và được kiểm duyệt trước khi xuất bản. Báo lỗi nội dung.

20/09/2025
Tìm hiểu kỹ thuật embedding và ứng dụng cho bài toán tóm tắt văn bản

Trích đoạn nội dung tài liệu

MỞ ĐẦU 1.1 Tính cấp thiết của đề tài [1] Bất kỳ mô hình tính toán trên máy tính nào đều làm việc với các con số. Vậy làm thế nào để các mô hình tính toán có thể làm việc với ngôn ngữ tự nhiên? Mặt khác, từ là đơn vị ngôn ngữ nhỏ nhất mang ý nghĩa hoàn chỉnh. Do đó, để các mô hình làm việc được với ngôn ngữ tự nhiên thì việc số hóa các từ là cách tiếp cận đơn giản nhất. Trong xử lý ngôn ngữ tự nhiên, embedding là một phương pháp biểu diễn từ ngữ dưới dạng các vector số.

Ý tưởng chính của embedding là ánh xạ các từ trong ngôn ngữ tự nhiên thành các vector có chiều thấp trong không gian số học sao cho các từ có ý nghĩa tương tự được biểu diễn gần nhau trong không gian vector. Embedding thực sự là một đề tài cấp thiết vì nhiều lý do sau đây: + Embedding giúp chuyển đổi các từ, câu hoặc văn bản thành các vector số học có thể được sử dụng bởi các thuật toán máy học. Điều này cho phép máy tính hiểu và xử lý ngôn ngữ tự nhiên. + Các từ có sự tương đồng về mặt ngữ nghĩa sẽ được ánh xạ thành các vector gần nhau trong không gian vector, điều này cực kỳ hữu ích trong nhiều ứng dụng, bao gồm tìm kiếm thông tin, gợi ý từ, phân loại văn bản, dịch máy,… + Embedding là một cách thức hiệu quả để biểu diễn văn bản và từ vựng, từ đó có thể được sử dụng để phân loại và gán nhãn các tài liệu văn bản một cách tự động và nhiều các ứng dụng khác.

Tóm tắt văn bản là một trong số các ứng dụng thực tế sử dụng kỹ thuật embedding. Dưới đây là một số vai trò quan trọng của việc tóm tắt văn bản đem lại: Trong thời đại bùng nổ của thông tin dẫn đến rất nhiều thông tin được phát sinh và số hóa thành văn bản trên các trang web hay tài liệu. Mặt khác, con người ngày càng bận rộn với nhiều công việc thì việc tiếp cận và tiếp nhận thông tin một cách nhanh chóng là thực sự cần thiết. Vì thế việc tóm tắt văn bản sẽ đem lại nhiều lợi ích rõ ràng cho chúng ta.

Sau đây là một số lợi ích mà tóm tắt văn bản sẽ đem lại: + Làm cho việc đọc một cách dễ dàng hơn Page | 9 + Tiết kiệm thời gian đọc hơn + Dễ dàng ghi nhớ thông tin hơn + Tăng hiệu suất công việc 1.2 Mục tiêu và nhiệm vụ nghiên cứu Mục tiêu của đề tài là tập trung nghiên cứu cơ sở lý thuyết của kỹ thuật embedding cho xử lý ngôn ngữ tự nhiên, từ đó áp dụng vào bài toán tóm tắt văn bản. Một trong số các kiến trúc tiên tiến và đem lại hiệu quả cao nhất đó là Transformer, áp dụng kiến trúc này thì mô hình Bert đã đem lại hiệu quả tốt nhất cho nhiều tác vụ xử lý ngôn ngữ tự nhiên trong đó có tóm tắt văn bản. Trong đề tài này, chúng tôi muốn tìm hiểu về kỹ thuật embedding cho xử lý ngôn ngữ tự nhiên, từ đó áp dụng vào mô hình tóm tắt văn bản để đưa ra bức tranh tổng quan về bài toán và ý nghĩa của nó. Để đạt được điều đó, chúng tôi tập trung vào tìm hiểu một số vấn đề sau: 1.

Tìm hiểu cơ sở lý thuyết của kỹ thuật embedding cho xử lý ngôn ngữ tự nhiên 2. Tìm hiểu về kiến trúc Transformer 3. Tìm hiểu về mô hình Bert xử lý ngôn ngữ tiếng Việt 4. Tìm hiểu cơ sở lý thuyết của bài toán tóm tắt văn bản 5.

Tìm hiểu các thuật toán tóm tắt cơ bản và các thuật toán dùng để xử lý các cấp độ của bài toán 6. Ứng dụng mô hình tóm tắt để xây dựng nên một trang web tin vắn đơn giản, với dữ liệu bài báo được crawl từ trang web https://vnexpress.net/ sau đó tiến hành tóm tắt và đưa lại lên trang web tin vắn. Đánh giá và giải thích kết quả 1. Cách tiếp cận và phương pháp nghiên cứu Có nhiều kỹ thuật được sử dụng trong embedding để xử lý ngôn ngữ tự nhiên, như là: Page | 10 1.

Word2Vec là một kỹ thuật embedding từ đầu tiên được giới thiệu bởi Mikolov và đồng nghiệp. Mô hình sử dụng mô hình neural network để học biểu diễn vectơ cho các từ. Word2Vec cung cấp hai phương pháp chính: Continuous Bag-of-Words (CBOW) và Skip-gram. FastText: FastText là một kỹ thuật embedding phát triển bởi Facebook AI Research, mở rộng Word2Vec bằng cách đại diện từ không chỉ dựa trên các từ đơn lẻ, mà còn dựa trên các n-gram của từ.

FastText cho phép xây dựng biểu diễn từ cho các từ hiếm hoặc chưa từ điển, và cũng hữu ích trong các ngôn ngữ có các từ ghép hay các từ không có ý nghĩa riêng lẻ. Transformer-based models: Các mô hình dựa trên Transformer như Bert (Bidirectional Encoder Representations from Transformers) và GPT (Generative Pre-trained Transformer) cung cấp các biểu diễn từ mạnh mẽ cho ngôn ngữ tự nhiên. Bert học biểu diễn từ bằng cách huấn luyện một mô hình transformer trên một tác vụ dự đoán từ bị masquerade (masked) trong văn bản. GPT sử dụng transformer để sinh ra văn bản có ý nghĩa và liên tục.

Cả Bert và GPT đã đạt được kết quả ấn tượng trong nhiều nhiệm vụ xử lý ngôn ngữ tự nhiên. Trong đồ án này chúng tôi sử dụng kiến trúc Transformers với mô hình Bert. Hai cách tiếp cận chính để tóm tắt văn bản: 1. Tóm tắt dựa trên trích xuất Cách tiếp cận này chọn những đoạn văn chính để tạo ra một bản tóm tắt.

Cách tiếp cận này sẽ tìm ra phần quan trọng của tài liệu và xếp hạng chúng dựa trên mức độ quan trọng và độ giống nhau giữa các tài liệu. Kỹ thuật tóm tắt văn bản trích xuất bao gồm việc kéo các cụm từ chính từ tài liệu nguồn và kết hợp chúng để tạo thành một bản tóm tắt. Tóm tắt dựa trên trừu tượng Phương pháp trừu tượng chọn từ dựa trên sự hiểu biết ngữ nghĩa, thậm chí những từ đó không xuất hiện trong các tài liệu nguồn. Page | 11 Do đó, trừu tượng thực hiện tốt hơn trích xuất.

Tuy nhiên, các thuật toán tóm tắt văn bản được yêu cầu để thực hiện trừu tượng khó phát triển hơn và đó là lý do tại sao việc sử dụng trích xuất vẫn còn phổ biến. Trong dự án này chúng tôi sẽ sử dụng tóm tắt dựa trên trích xuất cho bài toán của mình. Kết quả dự kiến đạt được Nhóm chúng tôi mong muốn sau khi thực hiện quá trình nghiên cứu nhiều công trình, cũng như các ứng dụng từ các tác giả đi trước, nhóm có thể học hỏi và đúc kết thành một bài báo cáo khai thác sâu về nội dung lý thuyết kỹ thuật embedding cho xử lý ngôn ngữ tự nhiên và áp dụng vào bài toán tóm tắt văn bản. Về phần ứng dụng, để trực quan hóa bài toán, nhóm sẽ xây dựng một ứng dụng web tin vắn với các bảng tin được tóm tắt từ trang web báo điện tử https://vnexpress.net/, để trực quan hóa kết quả của mô hình sau khi phân tích từ tập dữ liệu nhằm có cái nhìn cụ thể hơn cũng như thấy được sự hữu ích khi áp dụng vào thực tế.

CHƯƠNG 2: NỘI DUNG 2. MÔ HÌNH TRANSFORMERS 2. Giới thiệu [2] ● Lịch sử hình thành của transformers. Kiến trúc transformer được giới thiệu vào tháng 6 năm 2017.

Tập trung ban đầu của nguyên cứu là dịch văn bản. Một số models có sức ảnh hưởng theo thời gian như: - 6/2018: GPT là pretrained transformer model đầu tiên, sử dụng fine-tuning (tinh chỉnh) trên một vài công việc NLP và nhận được kết quả tương đối tốt - 10/2018: Bert là một pretrained models lớn, được thiết kế để thực hiện tốt hơn nhiệm vụ tóm tắt câu Page | 12 - 2/2019: GPT-2 là một version cải thiện của GPT, nhưng không được giới thiệu vì lo lắng về đạo đức - 10/2019: DistilBert là một phiên bản chắt lọc của Bert, cải thiện 60% tốc độ và giảm 40% chi phí tiêu tốn của bộ nhớ nhưng vẫn giữ được 97% hiệu suất của Bert - 10/2019: BART và T5 là 2 pretrained model lớn sử dụng cùng kiến trúc như transformer ban đầu - 5/2020: GPT-3 là một version lớn hơn của GPT-2, có thể thực hiện tốt nhiều nhiệm vụ mà không cần fine-tuning ● Chúng ta có thể chia các models ở trên thành 3 nhóm chính. - GPT-like: auto-regressive Transformer models - BERT-like: auto-encoding Transformer models - BART/T5-like: sequence-to-sequence Transformer models Tất cả các model GPT, Bert, BART… đều đã được trained như một ngôn ngữ bình thường, có nghĩa model được được trained với một lượng lớn raw text theo cách tự giám sát self-supervision. Ứng dụng xử lý ngôn ngữ tự nhiên Các kỹ thuật Word2vec hay Glove đã được sử rộng rãi và cho thấy hiệu quả trong nhiều ứng dụng NLP, nhưng chúng vẫn còn một số khuyết điểm.

- Không giải quyết được vấn đề đa nghĩa: Các kỹ thuật embedding chỉ biểu diễn từ hoặc văn bản dưới dạng các vector số. Vì vậy, chúng không giải quyết được vấn đề đa nghĩa (ambiguity), nghĩa là một từ có thể có nhiều ý nghĩa khác nhau. Ví dụ: từ "bank" có thể là ngân hàng hoặc bờ sông. - Các kỹ thuật như Word2vec hay GloVe đầu ra là một ma trận trong đó mỗi hàng là một vector biểu diễn một từ trong bộ từ vựng được định nghĩa trước dẫn đến tất cả các mô hình embedding từ này đều độc lập ngữ cảnh.

Page | 13 Để cải thiện các vấn đề trên, kiến trúc transformers được để xuất để vượt qua hai cách thức trên. Các biến thể của transformers như Bert, gpt-2 đạt hiệu năng vượt trội hơn so với các mô hình trước đây (state-of-the-art) trên một số tác vụ cua xử lý ngôn ngữ tự nhiên. Đây là một kiến trúc được biết nhiều trong deep learning, là cơ sở của hàng loạt mô hình Bert khác nhau sau này. Chúng tôi sẽ sử dụng mô hình transformer, Bert để thử nghiệm trên ngôn ngữ tiếng việt để chứng minh rằng kiến trúc này có kết quả vượt trội hơn so với các mô hình còn lại như word2vec, glove, fastText… 2.

Mô hình transformers [3] Transformer là một kiến trúc mạng nơ-ron đặc biệt được sử dụng rộng rãi trong lĩnh vực xử lý ngôn ngữ tự nhiên (NLP) và các tác vụ liên quan đến dữ liệu tuần tự. Kiến trúc này được giới thiệu bởi Vaswani và cộng sự vào năm 2017, đã mang lại những tiến bộ đáng kể trong các ứng dụng NLP như dịch máy, phân loại văn bản, tạo chú thích hình ảnh, và nhiều tác vụ khác. Transformer sử dụng cơ chế chú ý (attention mechanism) để hiểu và xử lý dữ liệu tuần tự.

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ