Đồ án: Hệ thống gợi ý thông tin dựa trên phân lớp văn bản (ĐH Mở HN)

Đồ án tốt nghiệp: Xây dựng hệ thống gợi ý thông tin hiệu quả dựa trên kỹ thuật phân lớp văn bản. Tìm hiểu quy trình xây dựng và kiểm thử chi tiết.

Trường đại học

Viện Đại Học Mở Hà Nội

Chuyên ngành

Công Nghệ Thông Tin

Người đăng

Ẩn danh

Thể loại

Đồ Án Tốt Nghiệp

2015

105
2
0

Phí lưu trữ

35 Point

Tóm tắt

I. Toàn cảnh hệ thống gợi ý và bài toán phân lớp văn bản

Trong bối cảnh bùng nổ thông tin kỹ thuật số, việc tìm kiếm và tiếp cận nội dung phù hợp trở thành một thách thức lớn. Hệ thống gợi ý thông tin ra đời như một giải pháp thiết yếu, giúp cá nhân hóa trải nghiệm người dùng bằng cách tự động đề xuất các sản phẩm, tin tức hoặc dịch vụ liên quan. Cốt lõi của nhiều hệ thống gợi ý hiện đại, đặc biệt là các hệ thống dựa trên nội dung, chính là kỹ thuật phân lớp văn bản. Đây là một bài toán quan trọng trong lĩnh vực khai phá dữ liệuxử lý ngôn ngữ tự nhiên, cho phép máy tính tự động gán các nhãn (chủ đề) cho văn bản dựa trên nội dung của chúng. Quá trình này giúp cấu trúc hóa kho dữ liệu văn bản khổng lồ, làm nền tảng cho việc truy xuất thông tin hiệu quả và đưa ra những gợi ý chính xác, phù hợp với sở thích của từng người dùng.

1.1. Các kỹ thuật gợi ý phổ biến hiện nay

Có ba hướng tiếp cận chính để xây dựng hệ thống gợi ý. Kỹ thuật đầu tiên là lọc dựa trên nội dung (content-based filtering), gợi ý các mục tương tự như những gì người dùng đã thích trong quá khứ. Ví dụ, nếu người dùng thường đọc tin tức về công nghệ, hệ thống sẽ đề xuất thêm các bài viết về chủ đề này. Kỹ thuật thứ hai là lọc cộng tác (collaborative filtering), hoạt động dựa trên nguyên tắc "những người cùng sở thích sẽ thích những thứ giống nhau". Hệ thống sẽ tìm những người dùng có lịch sử tương tác tương đồng và gợi ý các mục mà nhóm người đó đã đánh giá cao. Cuối cùng, hệ thống gợi ý lai (hybrid recommender system) kết hợp cả hai phương pháp trên để tận dụng ưu điểm và khắc phục nhược điểm của từng kỹ thuật, mang lại kết quả gợi ý toàn diện và chính xác hơn.

1.2. Vai trò cốt lõi của phân lớp văn bản trong gợi ý

Trong các hệ thống gợi ý dựa trên nội dung, phân lớp văn bản đóng vai trò xương sống. Khi một tài liệu mới (ví dụ: một bài báo) được đưa vào hệ thống, thuật toán phân lớp sẽ tự động xác định chủ đề của nó (ví dụ: Thể thao, Chính trị, Kinh tế). Dựa vào nhãn lớp này, hệ thống có thể gợi ý bài báo đó cho những người dùng có mối quan tâm đến chủ đề tương ứng. Quá trình này không chỉ giúp tự động hóa việc tổ chức thông tin mà còn là cơ sở để tính toán độ đo tương đồng (similarity metrics) giữa các văn bản. Bằng cách nhóm các văn bản cùng lớp lại với nhau, hệ thống có thể nhanh chóng tìm thấy các nội dung liên quan để đề xuất, giúp tiết kiệm thời gian và công sức cho người dùng trong bối cảnh quá tải thông tin hiện nay.

II. Thách thức trong xử lý ngôn ngữ tự nhiên cho Tiếng Việt

Việc xây dựng một hệ thống gợi ý thông tin hiệu quả cho web Tiếng Việt đối mặt với nhiều thách thức đặc thù, chủ yếu đến từ bản chất của ngôn ngữ. Không giống như tiếng Anh, nơi các từ được phân tách rõ ràng bằng khoảng trắng, Tiếng Việt là ngôn ngữ đơn lập, ranh giới giữa các từ không rõ ràng. Vấn đề này đòi hỏi các kỹ thuật xử lý ngôn ngữ tự nhiên phức tạp để có thể "hiểu" được nội dung văn bản một cách chính xác. Việc tách từ sai có thể dẫn đến việc trích xuất đặc trưng không chính xác, ảnh hưởng trực tiếp đến hiệu suất của các thuật toán phân lớp văn bản và làm giảm chất lượng của các gợi ý cuối cùng. Đây là rào cản lớn nhất cần vượt qua để xây dựng các ứng dụng khai phá dữ liệu văn bản cho thị trường Việt Nam.

2.1. Vấn đề nhập nhằng trong tách từ Tiếng Việt

Đặc trưng lớn nhất của Tiếng Việt là tính đơn lập, âm tiết. Một từ có thể bao gồm một hoặc nhiều âm tiết, và các âm tiết lại được viết cách nhau bằng khoảng trắng. Điều này tạo ra sự nhập nhằng. Ví dụ, câu "học sinh học sinh học" có thể được hiểu theo nhiều cách khác nhau nếu chỉ dựa vào khoảng trắng. Theo tài liệu nghiên cứu, việc phân giải nhập nhằng này, hay còn gọi là bài toán tách từ, là bước nền tảng và tối quan trọng. Các phương pháp phổ biến bao gồm ghép cực đại (Maximum Matching), mô hình thống kê, và các mô hình học sâu (deep learning). Độ chính xác của bước này ảnh hưởng đến toàn bộ chu trình xử lý phía sau, từ biểu diễn văn bản đến huấn luyện mô hình học máy.

2.2. Sự cần thiết của bộ dữ liệu huấn luyện lớn và chuẩn

Để các mô hình học máy hoạt động hiệu quả, chúng cần được huấn luyện trên một tập dữ liệu lớn và đã được gán nhãn chuẩn. Yếu tố này đặc biệt quan trọng đối với bài toán phân lớp văn bản. Một tập dữ liệu huấn luyện chuẩn và đủ lớn sẽ giúp thuật toán "học" được các đặc trưng của từng lớp một cách chính xác. Nếu dữ liệu huấn luyện nhỏ, nhiễu hoặc không đại diện, mô hình sẽ có hiệu suất thấp khi áp dụng vào thực tế. Việc xây dựng một bộ dữ liệu như vậy cho Tiếng Việt đòi hỏi nhiều công sức, từ thu thập dữ liệu web, tiền xử lý dữ liệu văn bản, cho đến việc gán nhãn thủ công bởi các chuyên gia, đảm bảo tính nhất quán và chính xác cho quá trình huấn luyện.

III. Phương pháp xây dựng mô hình phân lớp văn bản hiệu quả

Quy trình xây dựng một mô hình phân lớp văn bản hiệu quả bao gồm nhiều bước chặt chẽ, từ chuẩn bị dữ liệu đến huấn luyện và đánh giá. Bước đầu tiên và quan trọng nhất là tiền xử lý dữ liệu văn bản, bao gồm các công đoạn như làm sạch dữ liệu, chuẩn hóa, tách từ và loại bỏ từ dừng (stop words). Sau khi văn bản được xử lý, bước tiếp theo là biểu diễn văn bản dưới dạng vector số học mà máy tính có thể hiểu được. Các kỹ thuật phổ biến như Bag of Words (BoW), TF-IDF, hay Word2Vec được sử dụng để chuyển đổi văn bản thành các vector đặc trưng. Cuối cùng, các vector này được dùng làm đầu vào để huấn luyện các thuật toán phân lớp văn bản, tạo ra một mô hình có khả năng dự đoán chủ đề cho các văn bản mới.

3.1. Các bước tiền xử lý dữ liệu văn bản Tiếng Việt

Quá trình tiền xử lý là giai đoạn không thể thiếu. Đầu tiên, dữ liệu thô thu thập từ web cần được làm sạch, loại bỏ các thẻ HTML, ký tự đặc biệt và các thành phần không phải nội dung. Tiếp theo là bước tách từ, như đã đề cập, đây là bước đặc biệt quan trọng với Tiếng Việt. Công cụ vnTokenizer, dựa trên phương pháp Maximum Matching, được chứng minh có độ chính xác trên 97% và thường được sử dụng. Sau khi tách từ, các từ dừng (như "là", "và", "thì", "của") sẽ được loại bỏ. Đây là những từ xuất hiện thường xuyên nhưng không mang nhiều ý nghĩa ngữ nghĩa, việc loại bỏ chúng giúp giảm nhiễu và số chiều của không gian đặc trưng, làm tăng hiệu quả cho các bước sau.

3.2. Kỹ thuật biểu diễn văn bản Từ chữ sang số

Để máy tính có thể xử lý, văn bản cần được chuyển thành dạng vector số. Mô hình Bag of Words (BoW) là cách tiếp cận đơn giản nhất, biểu diễn mỗi văn bản bằng một vector đếm tần suất xuất hiện của các từ trong từ điển. Một cải tiến quan trọng là TF-IDF (Term Frequency-Inverse Document Frequency), giúp đánh trọng số cho các từ. TF-IDF làm nổi bật những từ quan trọng, xuất hiện thường xuyên trong một văn bản nhưng lại hiếm trong toàn bộ kho dữ liệu. Gần đây, các mô hình như Word2Vec thuộc lĩnh vực học sâu (deep learning) cung cấp cách biểu diễn phức tạp hơn, nắm bắt được mối quan hệ ngữ nghĩa giữa các từ, giúp cải thiện đáng kể độ chính xác của mô hình phân lớp.

IV. Hướng dẫn chọn thuật toán học máy cho phân lớp văn bản

Việc lựa chọn thuật toán học máy phù hợp là yếu tố quyết định đến sự thành công của hệ thống phân lớp văn bản. Có nhiều thuật toán phổ biến như Naive Bayes, k-Nearest Neighbors (kNN), và Support Vector Machine (SVM). Mỗi thuật toán có ưu và nhược điểm riêng, phù hợp với các loại dữ liệu và yêu cầu khác nhau. Naive Bayes đơn giản, nhanh và hiệu quả với các tập dữ liệu lớn. Trong khi đó, SVM lại tỏ ra vượt trội trong việc xử lý không gian đặc trưng có số chiều cao, một đặc tính cố hữu của dữ liệu văn bản. Nghiên cứu của nhiều tác giả như Joachims (2003) và Lewis (2004) đã chỉ ra rằng SVM thường mang lại kết quả tốt nhất cho bài toán phân lớp văn bản.

4.1. So sánh các thuật toán phân lớp văn bản phổ biến

Thuật toán Naive Bayes hoạt động dựa trên định lý Bayes với giả định ngây thơ về sự độc lập giữa các đặc trưng. Mặc dù giả định này không phải lúc nào cũng đúng trong thực tế, Naive Bayes vẫn cho kết quả tốt một cách đáng ngạc nhiên, đặc biệt trong việc lọc thư rác. Thuật toán k-NN phân lớp một văn bản mới dựa trên "phiếu bầu" của k văn bản gần nhất trong không gian đặc trưng. Tuy nhiên, Support Vector Machine (SVM) thường được ưa chuộng nhất. SVM hoạt động bằng cách tìm một siêu phẳng tối ưu để phân tách các lớp dữ liệu với khoảng cách lề lớn nhất. Khả năng làm việc tốt với không gian nhiều chiều và tính tổng quát hóa cao giúp SVM trở thành lựa chọn hàng đầu cho phân lớp văn bản.

4.2. Lý do SVM là lựa chọn tối ưu cho dữ liệu văn bản

Dữ liệu văn bản có hai đặc điểm chính: số chiều rất lớn (mỗi từ là một chiều) và thưa thớt (hầu hết các thành phần trong vector đặc trưng bằng 0). Support Vector Machine (SVM) xử lý rất tốt cả hai đặc điểm này. Thay vì bị ảnh hưởng bởi "lời nguyền số chiều", SVM lại tận dụng không gian nhiều chiều để tìm ra một đường phân cách tuyến tính rõ ràng. Thuật toán này chỉ dựa vào các điểm dữ liệu biên (support vectors) để xác định siêu phẳng, giúp nó có khả năng chống nhiễu và tổng quát hóa tốt. Nhiều nghiên cứu thực nghiệm, như được trích dẫn trong tài liệu gốc, đã chứng minh SVM cho độ chính xác cao hơn so với các phương pháp khác trong các tác vụ như gợi ý tin tức và phân loại tài liệu.

V. Ứng dụng thực tiễn của phân lớp văn bản trong kinh doanh

Kỹ thuật phân lớp văn bản không chỉ là một khái niệm học thuật mà còn có vô số ứng dụng thực tiễn, mang lại giá trị kinh doanh to lớn. Từ thương mại điện tử đến tin tức trực tuyến, khả năng tự động phân loại nội dung giúp các doanh nghiệp cá nhân hóa trải nghiệm người dùng, tăng cường sự tương tác và tối ưu hóa hoạt động. Bằng cách phân tích và gán nhãn cho các bài đánh giá sản phẩm, email khách hàng, hay các bài đăng trên mạng xã hội, doanh nghiệp có thể nắm bắt được xu hướng thị trường, thực hiện phân tích cảm xúc, và cải thiện dịch vụ một cách chủ động. Đây là công cụ mạnh mẽ để biến dữ liệu văn bản phi cấu trúc thành những hiểu biết sâu sắc và có thể hành động được.

5.1. Tối ưu hóa hệ thống gợi ý sản phẩm và tin tức

Một trong những ứng dụng phổ biến nhất là trong các hệ thống gợi ý sản phẩmgợi ý tin tức. Các trang thương mại điện tử sử dụng phân lớp văn bản để phân loại mô tả sản phẩm vào các danh mục cụ thể, từ đó gợi ý các mặt hàng liên quan cho người dùng. Tương tự, các trang báo điện tử tự động phân loại hàng ngàn bài viết mỗi ngày vào các chuyên mục như Thể thao, Kinh tế, Giải trí. Điều này không chỉ giúp người đọc dễ dàng điều hướng mà còn cho phép hệ thống gợi ý hiển thị các "bài viết liên quan" một cách chính xác, giữ chân người dùng ở lại trang lâu hơn và tăng cơ hội quảng cáo.

5.2. Phân tích cảm xúc và phản hồi của khách hàng

Phân tích cảm xúc (Sentiment Analysis) là một dạng đặc biệt của phân lớp văn bản, trong đó các lớp là các trạng thái cảm xúc (ví dụ: Tích cực, Tiêu cực, Trung tính). Doanh nghiệp có thể áp dụng kỹ thuật này để tự động phân tích hàng loạt phản hồi của khách hàng từ email, mạng xã hội, hoặc khảo sát. Bằng cách này, họ có thể nhanh chóng xác định các vấn đề cần giải quyết, đo lường mức độ hài lòng của khách hàng đối với một sản phẩm hay chiến dịch marketing, và đưa ra các quyết định kinh doanh dựa trên dữ liệu thực tế thay vì cảm tính.

21/09/2025

Trích đoạn nội dung tài liệu

Chương 1 TỔNG QUAN VỀ ĐỀ TÀI 1. Khái quát về các hệ thống gợi ý 1. Giới thiệu bài toán gợi ý Công nghệ thông tin ngày càng phát triển, khả năng lưu trữ thông tin khổng lồ đã tạo ra những bước ngoặt lớn trong cuộc sống con người. Nhưng ngược lại, nhờ khả năng lưu trữ được một lượng thông tin khổng lồ này nên quá trình tìm kiếm thông tin đáp ứng nhu cầu cho người dùng thường gặp rất nhiều khó khăn.

Để giải quyết vấn đề này các hệ thống thu thập và lọc thông tin ra đời nhằm giảm đi thời gian tìm kiếm và cung cấp thông tin chất lượng cao cho người sử dụng [1]. Và hệ thống gợi ý thông tin là thành quả của việc ứng dụng công nghệ thông tin trong việc khai phá dữ liệu, phát hiện tri thức, đưa đến cho người dùng những thông tin hiệu quả trong thời gian nhanh chóng, giảm thiểu thời gian và công sức cho người dùng. Hiện nay cũng có một số các hệ gợi ý thông tin nổi tiếng thuộc các thể loại khác nhau như phim ảnh, âm nhạc, sách báo, thậm chí có cả các hệ thống gợi ý các nhà hàng hay điểm du lịch. Việc gợi ý đối với các thông tin sử dụng tiếng nước ngoài cũng đã phổ biến.

Tuy nhiên, với ngôn ngữ là Tiếng Việt thì các hệ thống gợi ý còn hạn chế. Các hệ thống đó chỉ mới bắt đầu được phát triển bởi các hãng nổi tiếng, có thể kể đến như: - Tiện ích “bài viết liên quan” của Facebook (https://www.com/) - Google tin tức (https://news. Các kỹ thuật gợi ý Có rất nhiều cách để dự đoán, ước lượng hạng/điểm cho các sản phẩm, thông tin như sử dụng học máy, lí thuyết xấp xỉ, các thuật toán dựa trên kinh 2 nghiệm. Một số hướng tiếp cận để giải quyết bài toán gợi ý có thể kể đến như: - Dựa trên nội dung (content-based): người dùng được gợi ý những sản phẩm tương tự như các sản phẩm từng được họ đánh giá cao.

- Cộng tác (collaborative): người dùng được gợi ý những sản phẩm mà những người cùng sở thích với họ đánh giá cao. - Lai ghép (hybrid): kết hợp cả hai phương pháp trên. Các sản phẩm ở đây có thể là hàng hóa trong các website thương mại điện tử, cũng có thể là nội dung thông tin dưới dạng văn bản. Ví dụ như: các bài báo, tin tức điện tử.

Việc ưa thích của người dùng có thể căn cứ trên đánh giá của người dùng về sản phẩm đó, thông tin đó hoặc cũng có thể căn cứ dựa trên việc lựa chọn sử dụng, tiếp nhận thông tin của người dùng. Hệ thống gợi ý dựa trên nội dung đưa ra gợi ý trên nguyên tắc: nếu người dùng có lựa chọn, yêu thích với sản phẩm này, thông tin này thì cũng sẽ có thiên hướng yêu thích và tiếp cận với các thông tin có mối tương đồng về nội dung thông tin. Gợi ý dựa vào lọc cộng tác Ban đầu cách triển khai đơn giản nhất của hướng tiếp cận này là gợi ý những sản phẩm của một người dùng khác có chung sở thích với người dùng đang xét đến. Sự tương đồng sở thích của hai người dùng được tính toán dựa trên tương đồng trong lịch sử đánh giá trước đây.

Đây là lý do mà lọc cộng tác còn được gọi dưới cái tên khác là “tương quan người – người”. Lọc cộng tác được coi là kĩ thuật triển khai phổ biến nhất và áp dụng rộng rãi nhất trong hệ thống gợi ý. 3 Hệ thống gợi ý lai Những hệ thống gợi ý này dựa trên sự kết hợp của hai hay nhiều kỹ thuật kể trên. Mục đích việc này là khắc phục những điểm yếu cố hữu mà kỹ thuật đang có.

Ví dụ lọc cộng tác thường gặp vấn đề với các sản phẩm mới vì chúng chưa có dữ liệu về đánh giá. Tuy nhiên điều này lại không giới hạn với các hệ thống dựa trên nội dung. Hệ thống gợi ý thông tin của đề tài 1. Kỹ thuật gợi ý của đề tài.

Đề tài triển khai hệ thống gợi ý thông tin dựa trên nội dung thông qua việc khai phá dữ liệu web. Dựa trên các dữ liệu thu nhận được từ web, kết hợp với việc xử lý ngôn ngữ tự nhiên để thu nhận được tri thức. Trên cơ sở tri thức thu được đó, sử dụng thuật toán phân lớp học máy gán nhãn cho các thông tin là các tin tức, báo điện tử thuộc lớp này hay lớp khác. Từ đó, đưa ra gợi ý về thông tin cho người dùng là các thông tin có điểm tương đồng trong cùng một phân lớp.

Thách thức của gợi ý thông tin web Tiếng Việt Gợi ý tin tức là một lĩnh vực giàu tiềm năng bởi số lượng các sản phẩm gợi ý, số lượng người dùng và số lượt sử dụng cao hơn nhiều so với các đối tượng gợi ý khác. Tuy nhiên, đi kèm theo đó là các thử thách về các đặc trưng riêng có của miền đối tượng tin tức cũng như các đặc trưng chung của người sử dụng gợi ý. Tin tức là một đối tượng gợi ý đặc biệt, các đặc điểm sau của tin tức giúp đưa ra các giải pháp hữu hiệu hơn trong xây dựng giải pháp gợi ý: - Tính không đồng nhất giá trị: Giá trị của tin tức chỉ có thể được xác định bằng cách kết hợp các yếu tố: nội dung thông tin của bản tin, nguồn tin, thời điểm xuất bản, nhà xuất bản, tác giả, người nhận tin,. 4 - Tính dễ sinh ra: một số lượng lớn tin tức có thể nảy sinh xung quanh một sự kiện, hiện tượng - Tính dễ tàn lụi: hiện tượng tin tức đánh mất giá trị khi vấn đề nó đề cập không còn tính thời sự Khi xem xét đến yếu tố phù hợp giữa đối tượng gợi ý và mối quan tâm người dùng, các đặc trưng về mối quan tâm của người dùng cũng cần được xem xét.

- Tính đa quan tâm: Tại một thời điểm, người dùng có thể có nhiều mối quan tâm khác nhau. Ví dụ: họ có thể quan tâm đến cả các thông tin về thể thao và chính trị - Tính thay mới: Mối quan tâm của họ có thể phân chia thành 3 loại chính: các mối quan tâm dài hạn, các mối quan tâm trung hạn và các mối quan tâm ngắn hạn. Tính thay mới có thể diễn ra ở cả ba loại mối quan tâm này, tuy nhiên tốc độ thay mới của các mối quan ngắn hạn là nhanh nhất và nó cũng có ưu thế hơn khi dùng để gợi ý các tin tức, vốn liên tục được sinh ra 1. Tổng quan về phân lớp Là quá trình phân lớp một đối tượng dữ liệu vào một hay nhiều lớp cho trước nhờ một mô hình phân lớp mà mô hình này được xây dựng dựa trên một tập hợp các đối tượng dữ liệu đã được gán nhãn từ trước gọi là tập dữ liệu học (tập huấn luyện).

Quá trình phân lớp còn được gọi là quá trình gán nhãn cho các đối tượng dữ liệu. Như vậy, nhiệm vụ của bài toán phân lớp dữ liệu là cần xây dựng mô hình (bộ) phân lớp để khi có một dữ liệu mới vào thì mô hình phân lớp sẽ cho biết dữ liệu đó thuộc lớp nào. Có nhiều bài toán phân lớp dữ liệu, như phân lớp nhị phân, phân lớp đa lớp, phân lớp đa trị,. 5 - Phân lớp nhị phân là quá trình tiến hành việc phân lớp dữ liệu vào một trong hai lớp khác nhau dựa vào việc dữ liệu đó có hay không một số đặc tính theo quy định của bộ phân lớp.

- Phân lớp đa lớp là quá trình phân lớp với số lượng lớp lớn hơn hai. Như vậy, tập hợp dữ liệu trong miền xem xét được phân chia thành nhiều lớp chứ không đơn thuần chỉ là hai lớp như trong bài toán phân lớp nhị phân. về bản chất, bài toán phân lớp nhị phân là trường hợp riêng của bài toán phân lớp đa lớp. - Trong phân lớp đa trị, mỗi đối tượng dữ liệu trong tập huấn luyện cũng như các đối tượng mới sau khi được phân lớp có thể thuộc vào từ hai lớp trở lên.

Ví dụ như trang web về việc bùng phát bệnh cúm gia cầm, thủy cầm tại một số tính phía Bắc vừa thuộc về lĩnh vực y tế liên quan đến lây bệnh sang người nhưng cũng thuộc về lĩnh vực kinh tế liên quan đến ngành chăn nuôi. Trong những trường hợp như vậy, việc sắp xếp một tài liệu vào nhiều hơn một lớp là phù hợp với yêu cầu thực tế. Sau đây chúng ta sẽ tìm hiểu khái quát về quá trình phân lớp dữ liệu và sơ bộ về phương pháp phân lớp dữ liệu. Quá trình phân lớp dữ liệu Hình TỔNG QUAN VỀ ĐỀ TÀI.1 Bài toán phân lớp Quá trình phân lớp dữ liệu thường gồm hai bước: xây dựng mô hình (tạo bộ phân lớp) và sử dụng mô hình đó để phân lớp dữ liệu.

- Bước 1: Một mô hình sẽ được xây dựng dựa trên việc phân tích các đối tượng dữ liệu đã được gán nhãn từ trước. Tập các mẫu dữ liệu này còn được gọi là tập dữ liệu huấn luyện (training data set). Các nhãn lớp của tập dữ liệu huấn luyện được xác định bởi con người trước khi xây dựng mô hình, vì vậy phương pháp này còn được gọi là học có giám sát (supervised learning). Trong bước này, chúng ta còn phải tính độ chính xác của mô hình, nếu độ chính xác là chấp nhận được (tức là cao), mô hình sẽ được sử dụng để xác định nhãn lớp cho các dữ liệu khác mới trong tương lai.

Trong việc kiểm thử mô hình, sử dụng các độ đo để đánh giá chất lượng của tập phân lớp, đó là độ hồi tưởng, độ chính xác, độ đo F1. Tồn tại nhiều phương pháp phân lớp dữ liệu để giải quyết bài toán phân lớp tùy thuộc vào cách thức xây dựng mô hình phân lớp như phương pháp Bayes, phương pháp cây quyết định, phương pháp k-người láng giềng gần nhất, phương pháp máy hỗ trợ vector. Các phương 7 pháp này chủ yếu sử dụng mô hình phân lớp. Mô hình phân lớp còn được gọi là thuật toán phân lớp.

- Bước 2: Sử dụng mô hình đã được xây dựng ở bước 1 để phân lớp dữ liệu mới [14]. Biểu diễn văn bản Bước đầu tiên trong qui trình phân lớp văn bản là thao tác chuyển văn bản đang được mô tả dưới dạng chuỗi các từ thành một mô hình khác, sao cho phù hợp với các thuật toán phân lớp. Thông thường người ta thường biểu diễn văn bản bằng mô hình vector, mỗi văn bản được biểu diễn bằng một vector trọng số.

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ