Luận văn ThS: Khai phá dữ liệu MXH để hiểu trải nghiệm học tập của sinh viên

Luận văn thạc sĩ: Khai phá dữ liệu mạng xã hội phân tích trải nghiệm học tập sinh viên. Mã số luận văn thạc sĩ máy tính: 60 48 01. Nghiên cứu chuyên sâu.

• Tác giả: Nguyễn Văn Thành
• Người hướng dẫn: TS. Trần Thị Oanh
• Trường học: Trường Đại học Công nghệ - Đại học Quốc gia Hà Nội
• Chuyên ngành: Hệ Thống Thông Tin
• Đề tài: Khai Phá Dữ Liệu Phương Tiện Truyền Thông Xã Hội Để Hiểu Kinh Nghiệm Học Tập Của Sinh Viên
• Loại tài liệu: Luận văn thạc sĩ
• Năm xuất bản: 2016
• Địa điểm: Hà Nội

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• DANH MỤC KÝ HIỆU VÀ TỪ VIẾT TẮT
• DANH MỤC CÁC BẢNG
• DANH MỤC HÌNH VẼ, ĐỒ THỊ
• MỞ ĐẦU
• 1. CHƯƠNG 1: TỔNG QUAN VỀ VẤN ĐỀ NGHIÊN CỨU
• 1.1. Khai phá dữ liệu
• 1.2. Quy trình khai phá dữ liệu
• 1.3. Bài toán khai phá quan điểm trên mạng truyền thông
• 1.3.1. Khái quát khai phá quan điểm
• 1.3.2. Khai phá quan điểm với mạng truyền thông
• 1.4. Khai phá quan điểm sinh viên trên phương tiện truyền thông xã hội
• 1.4.1. Giới thiệu bài toán
• 1.4.2. Tình hình nghiên cứu trên thế giới
• 1.4.3. Tình hình nghiên cứu tại Việt Nam
• 1.4.4. Ý nghĩa và mục tiêu của bài toán
• 1.5. Kết luận chương 1
• 2. CHƯƠNG 2: CÁC KIẾN THỨC NỀN TẢNG
• 2.1. Tổng quan về bài toán phân loại
• 2.2. Các bước giải quyết bài toán phân loại
• 2.3. Bài toán phân lớp văn bản
• 2.4. Bài toán phân lớp đa nhãn
• 2.5. Một số phương pháp phân lớp đa nhãn
• 2.5.1. Phương pháp chuyển đổi bài toán
• 2.5.2. Phương pháp thích nghi thuật toán
• 2.6. Một số mô hình học máy được sử dụng cho bài toán
• 2.6.1. Phân lớp Bayes
• 2.6.2. Cây quyết định
• 2.7. Kết luận chương 2
• 3. CHƯƠNG 3: MỘT MÔ HÌNH GIẢI QUYẾT BÀI TOÁN KHAI PHÁ DỮ LIỆU MẠNG TRUYỀN THÔNG ĐỂ HIỂU KINH NGHIỆM HỌC TẬP SINH VIÊN
• 3.1. Mô hình hoá bài toán
• 3.1.1. Xác định vấn đề và không gian dữ liệu
• 3.1.2. Phát biểu bài toán theo góc độ toán học
• 3.2. Một mô hình giải quyết bài toán
• 3.2.1. Mô hình tổng thể
• 3.2.2. Môi trường thực nghiệm
• 3.3. Kết luận chương 3
• 4. CHƯƠNG 4: KẾT QUẢ THỰC NGHIỆM
• 4.1. Thu thập và tiền xử lý dữ liệu
• 4.1.1. Thu thập dữ liệu
• 4.1.2. Tiền xử lý dữ liệu
• 4.1.3. Lựa chọn tập nhãn và gán nhãn dữ liệu
• 4.1.4. Một số thống kê về bộ dữ liệu
• 4.2. Các công cụ phân tích được sử dụng trong luận văn
• 4.3. Thiết lập thực nghiệm
• 4.3.1. Chuyển đổi dữ liệu
• 4.3.2. Chia tách dữ liệu cho mục đích tập huấn và thử nghiệm
• 4.3.3. Các độ đo đánh giá thực nghiệm
• 4.4. Huấn luyện mô hình và kiểm tra
• 4.4.1. Thực nghiệm với Zero Rule để làm cơ sở cho bộ phân lớp
• 4.4.2. Thực nghiệm với Binary Relevance
• 4.4.3. Thực nghiệm với Label Combination
• 4.5. Kết quả thực nghiệm
• 4.5.1. Thực nghiệm với Zero Rule để làm cơ sở cho bộ phân lớp
• 4.5.2. Thực nghiệm với Binary Relevance
• 4.5.3. Thực nghiệm với Label Combination
• 4.6. Phân tích lỗi
• 4.7. Kết luận chương 4
• 5. CHƯƠNG 5: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN TIẾP THEO
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Luận văn ThS Tổng quan Khai phá Dữ liệu MXH HT Học tập

Trong bối cảnh giáo dục ngày càng chú trọng đến trải nghiệm của sinh viên, việc khai phá dữ liệu từ mạng xã hội (MXH) mở ra một hướng tiếp cận mới mẻ và đầy tiềm năng. Luận văn thạc sĩ này tập trung vào việc sử dụng các kỹ thuật khai phá dữ liệu để hiểu rõ hơn về kinh nghiệm học tập của sinh viên thông qua các hoạt động trao đổi, thảo luận trên các phương tiện truyền thông xã hội. Sự phát triển bùng nổ của Internet đã tạo ra một nguồn dữ liệu khổng lồ về quan điểm, cảm xúc và những vấn đề mà sinh viên gặp phải trong quá trình học tập. Phân tích thủ công không thể đáp ứng được khối lượng dữ liệu ngày càng tăng này, trong khi các thuật toán tự động đơn thuần lại khó nắm bắt được ý nghĩa sâu sắc của dữ liệu. Luận văn này đề xuất một mô hình khai phá dữ liệu hiệu quả, kết hợp các kỹ thuật học máy và xử lý ngôn ngữ tự nhiên, để phân tích các quan điểm, kinh nghiệm và vấn đề mà sinh viên chia sẻ trên các diễn đàn trực tuyến. Từ đó, cung cấp thông tin hữu ích cho các nhà quản lý giáo dục, giảng viên và các nhà hoạch định chính sách để đưa ra các quyết định chính xác hơn nhằm hỗ trợ sinh viên một cách kịp thời và hiệu quả. Luận văn dựa trên dữ liệu thu thập từ diễn đàn sinh viên của trường Đại học Bách khoa Hà Nội, một trong những diễn đàn uy tín và lâu đời nhất của sinh viên Việt Nam. Mục tiêu chính là xây dựng một mô hình có khả năng phân loại các chủ đề thảo luận, xác định các vấn đề nổi cộm và đánh giá mức độ ảnh hưởng của các yếu tố khác nhau đến trải nghiệm học tập của sinh viên. Kết quả nghiên cứu sẽ góp phần nâng cao chất lượng giáo dục và đào tạo, tạo điều kiện cho sinh viên phát triển toàn diện và đạt được thành công trong học tập và sự nghiệp. Theo thống kê của VNNIC năm 2015, 44% dân số Việt Nam sử dụng Internet và 31% sở hữu tài khoản MXH, cho thấy tiềm năng to lớn của việc khai thác dữ liệu từ môi trường trực tuyến để cải thiện giáo dục. Quan điểm đóng vai trò quan trọng trong quá trình đưa ra quyết định, do đó, việc khai phá quan điểm từ MXH có thể giúp các nhà giáo dục hiểu rõ hơn về nhu cầu và mong muốn của sinh viên. Bing Liu [5] đã trình bày khái quát về các khái niệm và các loại bài toán trong khai phá quan điểm, làm nền tảng cho các nghiên cứu tiếp theo.

1.1. Phân tích bài toán Khai phá quan điểm trên Mạng truyền thông

Phân tích tâm lý, hay khai phá quan điểm, là một lĩnh vực nghiên cứu quan trọng trong việc phân tích ý kiến, đánh giá, thái độ và cảm xúc của con người đối với các thực thể khác nhau. Nó giúp chúng ta hiểu được người khác nghĩ gì về một vấn đề, sản phẩm hoặc dịch vụ. Trong bối cảnh mạng truyền thông ngày càng phát triển, việc khai phá quan điểm trở nên vô cùng quan trọng, đặc biệt là trong lĩnh vực giáo dục. Các phương tiện truyền thông xã hội như Twitter, Facebook và YouTube cung cấp một nền tảng tuyệt vời cho sinh viên để chia sẻ kinh nghiệm học tập, bày tỏ quan điểm và tìm kiếm sự giúp đỡ. Tuy nhiên, khối lượng dữ liệu khổng lồ và tính chất phi cấu trúc của nó đặt ra nhiều thách thức trong việc phân tích và trích xuất thông tin hữu ích. Bài toán khai phá quan điểm trên mạng truyền thông đòi hỏi sự kết hợp của nhiều kỹ thuật, bao gồm xử lý ngôn ngữ tự nhiên, học máy và khai phá dữ liệu. Mục tiêu là tự động phân tích các văn bản, xác định các chủ đề thảo luận, đánh giá mức độ tích cực/tiêu cực và trích xuất các thông tin liên quan đến kinh nghiệm học tập của sinh viên. Kết quả phân tích có thể được sử dụng để cải thiện chương trình đào tạo, hỗ trợ sinh viên gặp khó khăn và tạo ra một môi trường học tập tích cực hơn. Sự phát triển của Internet và công nghệ Web đã mang lại nhiều loại hình và phương tiện truyền thông mới. Các mạng xã hội đã thay đổi bộ mặt truyền thông trên mạng, với các hoạt động phần lớn phản ánh quan điểm của người dùng. Dữ liệu trên mạng xã hội đa dạng về ngôn ngữ và thiếu thống nhất về ngữ nghĩa, tạo ra thách thức nhưng cũng là cơ hội khai thác tri thức.

1.2. Mục tiêu nghiên cứu Khai phá trải nghiệm học tập sinh viên

Mục tiêu chính của việc khai phá dữ liệu từ phương tiện truyền thông xã hội để hiểu kinh nghiệm học tập của sinh viên là cung cấp thông tin chi tiết và chính xác cho các nhà quản lý giáo dục, giảng viên và các nhà hoạch định chính sách. Thông qua việc phân tích các quan điểm, cảm xúc và vấn đề mà sinh viên chia sẻ trên các diễn đàn trực tuyến, chúng ta có thể xác định các lĩnh vực cần cải thiện trong chương trình đào tạo, cung cấp hỗ trợ kịp thời cho sinh viên gặp khó khăn và tạo ra một môi trường học tập tích cực hơn. Nghiên cứu này tập trung vào một số mục tiêu cụ thể: (1) Phân loại sinh viên theo nội dung chia sẻ trên mạng xã hội. (2) Hiểu rõ các vấn đề mà sinh viên gặp phải trong quá trình học tập. (3) Phân loại các yếu tố ảnh hưởng đến thành tích học tập của sinh viên. (4) Cải thiện chất lượng giáo dục bằng cách điều chỉnh phương pháp giảng dạy và cung cấp các dịch vụ hỗ trợ phù hợp. (5) Hỗ trợ ra quyết định dựa trên dữ liệu, giúp các nhà quản lý giáo dục đưa ra các quyết định chính xác hơn về việc can thiệp và cung cấp dịch vụ cho sinh viên. Việc phân tích kinh nghiệm học tập của sinh viên từ phương tiện truyền thông xã hội giúp tiết kiệm thời gian thu thập dữ liệu thủ công. Các nhà giáo dục có thể đưa ra quyết định thông tin hơn về các can thiệp và dịch vụ hỗ trợ sinh viên vượt qua rào cản học tập.

II. PP Học máy Phân lớp đa nhãn văn bản Ứng dụng thực tiễn

Trong lĩnh vực học máy, bài toán phân lớp văn bản đóng vai trò quan trọng trong việc tự động phân loại các văn bản vào các danh mục hoặc chủ đề khác nhau. Đối với việc phân tích kinh nghiệm học tập của sinh viên từ mạng xã hội, bài toán phân lớp văn bản có thể được sử dụng để tự động phân loại các bài đăng, bình luận và thảo luận vào các chủ đề liên quan đến học tập, cuộc sống sinh viên, vấn đề tâm lý, v.v. Tuy nhiên, một thách thức lớn là một văn bản có thể thuộc về nhiều chủ đề khác nhau cùng một lúc. Ví dụ, một bài đăng có thể vừa liên quan đến áp lực thi cử, vừa liên quan đến vấn đề tài chính. Để giải quyết vấn đề này, chúng ta cần sử dụng các kỹ thuật phân lớp đa nhãn, cho phép gán nhiều nhãn cho một văn bản. Các phương pháp phân lớp đa nhãn có thể được chia thành hai loại chính: (1) Phương pháp chuyển đổi bài toán, biến đổi bài toán phân lớp đa nhãn thành một hoặc nhiều bài toán phân lớp đơn nhãn. (2) Phương pháp thích nghi thuật toán, điều chỉnh các thuật toán phân lớp đơn nhãn để phù hợp với bài toán phân lớp đa nhãn. Mỗi phương pháp đều có ưu và nhược điểm riêng, và việc lựa chọn phương pháp phù hợp phụ thuộc vào đặc điểm của dữ liệu và yêu cầu của bài toán. Trong các ứng dụng thực tế, phân lớp đa nhãn văn bản có thể được sử dụng để xây dựng các hệ thống khuyến nghị, tìm kiếm thông tin và phân tích quan điểm. Các hệ thống này có thể giúp sinh viên tìm kiếm thông tin liên quan đến kinh nghiệm học tập, kết nối với những người có cùng mối quan tâm và nhận được sự hỗ trợ kịp thời. Ngoài ra, các nhà quản lý giáo dục có thể sử dụng các hệ thống này để theo dõi xu hướng thảo luận, xác định các vấn đề nổi cộm và đưa ra các quyết định dựa trên dữ liệu.

2.1. Binary Relevance Phương pháp chuyển đổi bài toán phổ biến

Binary Relevance (BR) là một trong những phương pháp chuyển đổi bài toán phổ biến nhất trong phân lớp đa nhãn. Phương pháp này biến đổi bài toán đa nhãn thành một loạt các bài toán nhị phân, mỗi bài toán tương ứng với một nhãn. Đối với mỗi nhãn, BR xây dựng một bộ phân loại riêng biệt để dự đoán xem một văn bản có thuộc về nhãn đó hay không. Ưu điểm của BR là đơn giản, dễ thực hiện và có thể sử dụng bất kỳ thuật toán phân lớp nhị phân nào. Tuy nhiên, nhược điểm của BR là bỏ qua các mối tương quan giữa các nhãn, dẫn đến kết quả dự đoán không chính xác trong một số trường hợp. Ví dụ, nếu hai nhãn "áp lực thi cử" và "cảm xúc tiêu cực" thường xuất hiện cùng nhau, BR có thể không nhận ra mối tương quan này và dự đoán sai nhãn cho một số văn bản. Mặc dù vậy, BR vẫn là một lựa chọn tốt cho các bài toán phân lớp đa nhãn với số lượng nhãn lớn và các mối tương quan giữa các nhãn không quá mạnh. Trong nghiên cứu này, chúng tôi sẽ sử dụng BR như một phương pháp cơ sở để so sánh với các phương pháp phân lớp đa nhãn khác. Một số nghiên cứu cho thấy rằng BR có thể mang lại kết quả tốt trong một số trường hợp, đặc biệt là khi kết hợp với các kỹ thuật lựa chọn đặc trưng và xử lý mất cân bằng dữ liệu.

2.2. Label Power Set Xử lý tương quan giữa các nhãn hiệu quả

Label Power-Set (LP) là một phương pháp chuyển đổi bài toán khác trong phân lớp đa nhãn, nhằm giải quyết nhược điểm của BR bằng cách xem xét các mối tương quan giữa các nhãn. LP biến đổi bài toán đa nhãn thành một bài toán đơn nhãn với mỗi lớp tương ứng với một tập hợp con của các nhãn. Ví dụ, nếu chúng ta có ba nhãn A, B và C, thì LP sẽ tạo ra 2^3 = 8 lớp: {}, {A}, {B}, {C}, {A, B}, {A, C}, {B, C}, {A, B, C}. Ưu điểm của LP là có thể nắm bắt được các mối tương quan giữa các nhãn, giúp cải thiện độ chính xác của kết quả dự đoán. Tuy nhiên, nhược điểm của LP là số lượng lớp tăng theo cấp số mũ với số lượng nhãn, dẫn đến độ phức tạp tính toán cao và yêu cầu lượng dữ liệu lớn để huấn luyện. Do đó, LP thường không phù hợp với các bài toán phân lớp đa nhãn với số lượng nhãn lớn. Trong nghiên cứu này, chúng tôi sẽ thử nghiệm với LP để đánh giá khả năng xử lý các mối tương quan giữa các nhãn trong dữ liệu kinh nghiệm học tập của sinh viên. Chúng tôi cũng sẽ sử dụng các kỹ thuật giảm chiều dữ liệu và lựa chọn đặc trưng để giảm độ phức tạp của bài toán và cải thiện hiệu suất của LP. Việc xây dựng một mô hình phân lớp LP hiệu quả đòi hỏi sự cân nhắc kỹ lưỡng giữa độ chính xác và độ phức tạp tính toán.

III. Mô hình Khai phá Dữ liệu MXH Kinh nghiệm học tập sinh viên

Để giải quyết bài toán khai phá dữ liệu từ mạng xã hội để hiểu kinh nghiệm học tập của sinh viên, chúng tôi đề xuất một mô hình tổng thể bao gồm các bước sau: (1) Thu thập dữ liệu từ các diễn đàn trực tuyến và phương tiện truyền thông xã hội. (2) Tiền xử lý dữ liệu, bao gồm làm sạch, tách từ, loại bỏ từ dừng và chuẩn hóa văn bản. (3) Lựa chọn tập nhãn phù hợp với mục tiêu nghiên cứu và gán nhãn cho dữ liệu một cách thủ công hoặc bán tự động. (4) Chuyển đổi dữ liệu sang định dạng phù hợp cho các thuật toán học máy, chẳng hạn như vector hóa văn bản bằng TF-IDF hoặc word embeddings. (5) Xây dựng và huấn luyện các mô hình phân lớp đa nhãn bằng các thuật toán như Binary Relevance, Label Power-Set, hoặc các thuật toán thích nghi như Multi-Label k-NN hoặc BP-MLL. (6) Đánh giá hiệu suất của các mô hình bằng các độ đo phù hợp như precision, recall, F1-score, hoặc hamming loss. (7) Phân tích kết quả, xác định các chủ đề thảo luận, các vấn đề nổi cộm và các yếu tố ảnh hưởng đến kinh nghiệm học tập của sinh viên. (8) Cung cấp thông tin cho các nhà quản lý giáo dục, giảng viên và các nhà hoạch định chính sách để đưa ra các quyết định chính xác hơn nhằm hỗ trợ sinh viên một cách kịp thời và hiệu quả. Mô hình này có tính linh hoạt cao và có thể được điều chỉnh để phù hợp với các nguồn dữ liệu khác nhau và các mục tiêu nghiên cứu cụ thể. Tuy nhiên, việc triển khai mô hình này đòi hỏi sự kết hợp của nhiều kỹ năng, bao gồm xử lý ngôn ngữ tự nhiên, học máy, khai phá dữ liệu và phân tích thống kê.

3.1. Thu thập và tiền xử lý dữ liệu từ diễn đàn sinh viên

Việc thu thập dữ liệu từ các diễn đàn sinh viên đòi hỏi sự cẩn trọng để đảm bảo tính chính xác và đầy đủ của dữ liệu. Chúng tôi sử dụng một chương trình thu thập dữ liệu (crawler) được xây dựng bằng Java để tự động thu thập các bài đăng từ diễn đàn SVBK của Đại học Bách khoa Hà Nội. Chương trình này được thiết kế để lọc các chủ đề không liên quan đến học tập và loại bỏ các nội dung spam, trùng lặp hoặc vi phạm các quy định của diễn đàn. Sau khi thu thập dữ liệu, chúng tôi tiến hành các bước tiền xử lý để làm sạch và chuẩn hóa dữ liệu. Các bước này bao gồm: (1) Loại bỏ hoặc thay thế các ký tự đặc biệt, biểu tượng cảm xúc và các từ ngữ không chính thức. (2) Tách từ bằng công cụ vnTokenizer để xác định ranh giới của các từ trong câu. (3) Loại bỏ các từ dừng tiếng Việt bằng một danh sách từ dừng được xây dựng sẵn. (4) Chuyển đổi văn bản về dạng chữ thường và loại bỏ các dấu câu. Mục tiêu của các bước tiền xử lý này là tạo ra một tập dữ liệu sạch và nhất quán, sẵn sàng cho các bước phân tích tiếp theo. Chúng tôi cũng sử dụng các kỹ thuật như stemming hoặc lemmatization để giảm số lượng từ khác nhau và tăng tính tổng quát của mô hình. Quá trình tiền xử lý dữ liệu đóng vai trò quan trọng trong việc đảm bảo chất lượng và hiệu suất của các mô hình phân lớp đa nhãn.

3.2. Gán nhãn dữ liệu và lựa chọn tập nhãn phù hợp

Việc gán nhãn dữ liệu là một bước quan trọng trong việc xây dựng các mô hình phân lớp đa nhãn. Chúng tôi sử dụng phương pháp gán nhãn thủ công để đảm bảo tính chính xác và phù hợp của các nhãn. Quá trình gán nhãn được thực hiện bởi hai người nghiên cứu độc lập, và sự đồng thuận giữa hai người được đánh giá bằng độ đo F1-score. Các dữ liệu không đạt được sự đồng thuận sẽ bị loại bỏ hoặc được gán lại nhãn sau khi thảo luận. Tập nhãn được lựa chọn bao gồm các chủ đề chính liên quan đến kinh nghiệm học tập của sinh viên, chẳng hạn như áp lực thi cử, học ngoại ngữ, nguồn tài liệu tham khảo, vấn đề tâm lý, định hướng nghề nghiệp, v.v. Chúng tôi cũng thêm một nhãn "Loại khác" để gán cho các dữ liệu không thuộc về bất kỳ chủ đề nào trong số các chủ đề đã được xác định. Việc lựa chọn tập nhãn đòi hỏi sự cân nhắc kỹ lưỡng để đảm bảo tính đầy đủ, rõ ràng và không trùng lặp của các nhãn. Chúng tôi cũng sử dụng các kỹ thuật như phân tích chủ đề (topic modeling) để khám phá các chủ đề tiềm ẩn trong dữ liệu và điều chỉnh tập nhãn cho phù hợp. Tập nhãn được lựa chọn sẽ ảnh hưởng trực tiếp đến hiệu suất và khả năng diễn giải của các mô hình phân lớp đa nhãn. Độ đo Inter-rater agreement, như F1, được sử dụng để đánh giá sự đồng thuận giữa các thành viên trong nhóm nghiên cứu, đảm bảo chất lượng dữ liệu.

IV. Thực nghiệm Khai phá MXH Kết quả Phân tích Đánh giá

Sau khi xây dựng mô hình và chuẩn bị dữ liệu, chúng tôi tiến hành thực nghiệm để đánh giá hiệu suất của các thuật toán phân lớp đa nhãn. Chúng tôi sử dụng công cụ MEKA, một framework mã nguồn mở cho học máy và khai phá dữ liệu, để triển khai và đánh giá các thuật toán. MEKA cung cấp nhiều thuật toán phân lớp đa nhãn khác nhau, bao gồm Binary Relevance, Label Power-Set, Multi-Label k-NN, và BP-MLL. Chúng tôi sử dụng phương pháp kiểm tra chéo (cross-validation) với k=10 để đánh giá hiệu suất của các thuật toán trên toàn bộ tập dữ liệu. Đối với mỗi lần kiểm tra chéo, chúng tôi điều chỉnh các tham số của thuật toán để đạt được kết quả tốt nhất. Chúng tôi sử dụng các độ đo như precision, recall, F1-score, và hamming loss để đánh giá hiệu suất của các thuật toán. Kết quả thực nghiệm cho thấy rằng thuật toán Label Power-Set đạt được hiệu suất tốt nhất trên tập dữ liệu của chúng tôi, với độ chính xác và F1-score cao hơn so với các thuật toán khác. Tuy nhiên, thuật toán Label Power-Set cũng có độ phức tạp tính toán cao hơn và yêu cầu lượng dữ liệu lớn hơn để huấn luyện. Chúng tôi cũng phân tích các lỗi mà các thuật toán mắc phải và tìm ra các nguyên nhân gây ra lỗi. Các nguyên nhân này có thể liên quan đến sự mơ hồ của ngôn ngữ, sự thiếu thông tin trong dữ liệu, hoặc sự không phù hợp của các thuật toán với đặc điểm của dữ liệu. Dựa trên kết quả phân tích, chúng tôi đề xuất các hướng cải thiện mô hình và các thuật toán phân lớp đa nhãn trong tương lai.

4.1. Thiết lập thực nghiệm Chuyển đổi chia tách dữ liệu Đánh giá

Trước khi tiến hành thực nghiệm, chúng tôi cần thiết lập các tham số và cách thức tiến hành thực nghiệm. Đầu tiên, chúng tôi chuyển đổi dữ liệu văn bản sang định dạng số bằng phương pháp TF-IDF (Term Frequency-Inverse Document Frequency). TF-IDF là một kỹ thuật phổ biến trong xử lý ngôn ngữ tự nhiên để đánh giá tầm quan trọng của một từ trong một tài liệu so với toàn bộ tập tài liệu. Sau khi chuyển đổi dữ liệu sang định dạng số, chúng tôi chia tập dữ liệu thành hai phần: tập huấn luyện (80%) và tập kiểm tra (20%). Tập huấn luyện được sử dụng để huấn luyện các mô hình phân lớp đa nhãn, trong khi tập kiểm tra được sử dụng để đánh giá hiệu suất của các mô hình. Chúng tôi sử dụng phương pháp kiểm tra chéo (cross-validation) với k=10 để đảm bảo tính tổng quát của kết quả. Trong mỗi lần kiểm tra chéo, chúng tôi sử dụng 9 phần của tập dữ liệu để huấn luyện và 1 phần để kiểm tra, và lặp lại quá trình này 10 lần với các phần khác nhau. Chúng tôi sử dụng các độ đo như precision, recall, F1-score, và hamming loss để đánh giá hiệu suất của các mô hình. Precision đo tỷ lệ các văn bản được dự đoán đúng là thuộc về một nhãn so với tổng số văn bản được dự đoán là thuộc về nhãn đó. Recall đo tỷ lệ các văn bản được dự đoán đúng là thuộc về một nhãn so với tổng số văn bản thực sự thuộc về nhãn đó. F1-score là trung bình điều hòa của precision và recall. Hamming loss đo tỷ lệ các nhãn bị dự đoán sai so với tổng số nhãn.

4.2. Kết quả thực nghiệm So sánh các phương pháp phân lớp

Kết quả thực nghiệm cho thấy rằng các thuật toán phân lớp đa nhãn có thể đạt được hiệu suất khá tốt trong việc phân tích kinh nghiệm học tập của sinh viên từ mạng xã hội. Tuy nhiên, hiệu suất của các thuật toán khác nhau có sự khác biệt đáng kể. Thuật toán Label Power-Set (LP) đạt được hiệu suất tốt nhất trên tập dữ liệu của chúng tôi, với độ chính xác và F1-score cao hơn so với các thuật toán khác. Điều này cho thấy rằng việc xem xét các mối tương quan giữa các nhãn là quan trọng để cải thiện độ chính xác của kết quả dự đoán. Tuy nhiên, thuật toán LP cũng có độ phức tạp tính toán cao hơn và yêu cầu lượng dữ liệu lớn hơn để huấn luyện. Điều này có thể là một hạn chế trong các ứng dụng thực tế với dữ liệu hạn chế. Thuật toán Binary Relevance (BR) có độ phức tạp tính toán thấp hơn và có thể được sử dụng với lượng dữ liệu ít hơn. Tuy nhiên, BR có hiệu suất thấp hơn so với LP do bỏ qua các mối tương quan giữa các nhãn. Các thuật toán thích nghi như Multi-Label k-NN và BP-MLL có hiệu suất trung bình, nhưng có thể được cải thiện bằng cách điều chỉnh các tham số và sử dụng các kỹ thuật lựa chọn đặc trưng. Chúng tôi cũng nhận thấy rằng hiệu suất của các thuật toán phụ thuộc vào chủ đề. Ví dụ, các chủ đề liên quan đến áp lực thi cử và vấn đề tâm lý có độ chính xác cao hơn so với các chủ đề liên quan đến học ngoại ngữ và nguồn tài liệu tham khảo. Điều này có thể là do các chủ đề đầu tiên được thảo luận nhiều hơn và có nhiều dữ liệu hơn để huấn luyện.

V. Kết luận Hướng phát triển Khai phá dữ liệu MXH

Luận văn này đã trình bày một nghiên cứu về việc sử dụng các kỹ thuật khai phá dữ liệu để hiểu kinh nghiệm học tập của sinh viên từ mạng xã hội. Chúng tôi đã đề xuất một mô hình tổng thể bao gồm các bước thu thập, tiền xử lý, gán nhãn, chuyển đổi, huấn luyện, đánh giá và phân tích dữ liệu. Chúng tôi đã thử nghiệm với nhiều thuật toán phân lớp đa nhãn khác nhau và đánh giá hiệu suất của chúng trên một tập dữ liệu thực tế từ diễn đàn SVBK của Đại học Bách khoa Hà Nội. Kết quả thực nghiệm cho thấy rằng các thuật toán phân lớp đa nhãn có thể được sử dụng để phân tích các quan điểm, cảm xúc và vấn đề mà sinh viên chia sẻ trên mạng xã hội, và cung cấp thông tin hữu ích cho các nhà quản lý giáo dục, giảng viên và các nhà hoạch định chính sách. Tuy nhiên, vẫn còn nhiều thách thức và cơ hội để cải thiện mô hình và các thuật toán trong tương lai. Các hướng phát triển tiếp theo có thể bao gồm: (1) Sử dụng các kỹ thuật học sâu để tự động trích xuất các đặc trưng từ dữ liệu văn bản. (2) Phát triển các thuật toán phân lớp đa nhãn mới có khả năng xử lý các mối tương quan phức tạp giữa các nhãn. (3) Xây dựng các hệ thống khuyến nghị và tìm kiếm thông tin dựa trên kết quả phân tích dữ liệu. (4) Nghiên cứu ảnh hưởng của các yếu tố khác nhau (ví dụ: giới tính, tuổi tác, chuyên ngành) đến kinh nghiệm học tập của sinh viên. (5) Mở rộng nghiên cứu sang các nguồn dữ liệu khác nhau, chẳng hạn như Twitter, Facebook, hoặc các khảo sát trực tuyến. Nghiên cứu này đóng góp vào lĩnh vực khai phá dữ liệu giáo dục và cung cấp một phương pháp tiếp cận mới để hiểu và cải thiện kinh nghiệm học tập của sinh viên.

5.1. Tổng kết thành quả luận văn và bài học kinh nghiệm

Luận văn này đã đạt được một số thành quả quan trọng trong việc áp dụng các kỹ thuật khai phá dữ liệu để hiểu kinh nghiệm học tập của sinh viên từ mạng xã hội. Chúng tôi đã xây dựng một mô hình tổng thể, thử nghiệm với nhiều thuật toán phân lớp đa nhãn, và đánh giá hiệu suất của chúng trên một tập dữ liệu thực tế. Kết quả thực nghiệm cho thấy rằng các thuật toán phân lớp đa nhãn có thể được sử dụng để phân tích các quan điểm, cảm xúc và vấn đề mà sinh viên chia sẻ trên mạng xã hội, và cung cấp thông tin hữu ích cho các nhà quản lý giáo dục, giảng viên và các nhà hoạch định chính sách. Tuy nhiên, quá trình nghiên cứu cũng mang lại cho chúng tôi một số bài học kinh nghiệm quan trọng. Thứ nhất, việc lựa chọn và gán nhãn dữ liệu là một quá trình tốn thời gian và công sức, nhưng rất quan trọng để đảm bảo tính chính xác và phù hợp của các nhãn. Thứ hai, việc điều chỉnh các tham số của thuật toán và sử dụng các kỹ thuật lựa chọn đặc trưng có thể cải thiện đáng kể hiệu suất của các mô hình. Thứ ba, việc phân tích các lỗi mà các thuật toán mắc phải có thể giúp chúng tôi hiểu rõ hơn về các hạn chế của mô hình và các thuật toán, và đề xuất các hướng cải thiện trong tương lai. Thứ tư, sự kết hợp của nhiều kỹ năng, bao gồm xử lý ngôn ngữ tự nhiên, học máy, khai phá dữ liệu và phân tích thống kê, là cần thiết để triển khai một mô hình khai phá dữ liệu giáo dục thành công.

5.2. Hướng nghiên cứu tiếp theo và ứng dụng thực tiễn mở rộng

Nghiên cứu này mở ra nhiều hướng nghiên cứu tiếp theo và ứng dụng thực tiễn mở rộng. Thứ nhất, chúng tôi có thể sử dụng các kỹ thuật học sâu để tự động trích xuất các đặc trưng từ dữ liệu văn bản. Các kỹ thuật như word embeddings và convolutional neural networks có thể giúp chúng tôi nắm bắt các mối quan hệ phức tạp giữa các từ và cải thiện hiệu suất của các mô hình phân lớp đa nhãn. Thứ hai, chúng tôi có thể phát triển các thuật toán phân lớp đa nhãn mới có khả năng xử lý các mối tương quan phức tạp giữa các nhãn. Các thuật toán này có thể dựa trên các mô hình đồ thị, các mô hình xác suất, hoặc các mô hình dựa trên quy tắc. Thứ ba, chúng tôi có thể xây dựng các hệ thống khuyến nghị và tìm kiếm thông tin dựa trên kết quả phân tích dữ liệu. Các hệ thống này có thể giúp sinh viên tìm kiếm thông tin liên quan đến kinh nghiệm học tập, kết nối với những người có cùng mối quan tâm, và nhận được sự hỗ trợ kịp thời. Thứ tư, chúng tôi có thể nghiên cứu ảnh hưởng của các yếu tố khác nhau (ví dụ: giới tính, tuổi tác, chuyên ngành) đến kinh nghiệm học tập của sinh viên. Các nghiên cứu này có thể giúp chúng tôi hiểu rõ hơn về các nhu cầu và mong muốn của các nhóm sinh viên khác nhau, và cung cấp các dịch vụ hỗ trợ phù hợp. Thứ năm, chúng tôi có thể mở rộng nghiên cứu sang các nguồn dữ liệu khác nhau, chẳng hạn như Twitter, Facebook, hoặc các khảo sát trực tuyến. Việc kết hợp các nguồn dữ liệu khác nhau có thể cung cấp một bức tranh toàn diện hơn về kinh nghiệm học tập của sinh viên.

Trích đoạn nội dung tài liệu

chương I, chúng ta bước nào có thể rút ra cách tiếp cận và các nghiên cứu liên quan đối với việc đề xuất và ứng dụng các mô hình và kỹ thuật khai phá dữ liệu nhằm phân tích thông tin phản hồi từ sinh viên. Trong chương tiếp theo, luận văn sẽ giới thiệu một số thuật toán phân lớp đa nhãn văn bản nhằm xác định phạm vi cho các nhiệm vụ đề xuất mô hình giải quyết, phân tích và khai phá tiếp theo. TIEU LUAN MOI download : [e-mail] 13 Chương 2: Các kiến thức nền tảng Chúng tôi viết chương này để giới thiệu về các kiến thức nền tảng của bài toán phân loại, bài toán phân lớp văn bản. Từ đó, chúng tôi sẽ trình bày vấn đề phân lớp đa nhãn trong phân lớp văn bản, với hai cách tiếp cận phổ biến nhất là chuyển đổi bài toán và thích nghi thuật toán.

Chương này cũng đưa ra giới thiệu về một số mô hình cụ thể của phương pháp chuyển đổi bài toán như Binary Relevance và Label Power-Set.1 Tổng quan về bài toán phân loại Phân loại (hay phân lớp) là một tiến trình xử lý nhằm xếp các mẫu dữ liệu hay các đối tượng vào một trong các lớp đã được định nghĩa trước. Các mẫu dữ liệu hay các đối tượng được xếp về các lớp dựa vào giá trị của các thuộc tính (attributes) cho một mẫu dữ liệu hay đối tượng. Sau khi đã xếp tất cả các đối tượng đã biết trước vào các lớp tương ứng, lúc này mỗi lớp được đặc trưng bởi tập các thuộc tính của các đối tượng chứa trong lớp đó. Các thuật toán phân loại tiêu biểu bao gồm như mạng Neural [21, tr.25], cây quyết định [21, tr.25], suy luận quy nạp [21, tr.25], mạng Beyesian [21, tr.25], Support Vector Machine [21, tr.

Tất cả các cách tiếp cập này xây dựng những mô hình đều có khả năng phân loại cho một mẫu mới chưa biết dựa vào những mẫu tương tự đã được học. Bài toán phân loại có thể xử lý thông tin được thu thập từ mọi lĩnh vực hoạt động của con người và thế tới tự nhiên được biểu diễn dưới dạng các bảng. Bảng này bao gồm các đối tượng và các thuộc tính. Các phần tử trong bảng là các giá trị xác định các thuộc tính (attributes hay features) của các đối tượng.

Trong đó số cột chính là số thuộc tính của các đối tượng, mỗi cột là một thuộc tính và số dòng chính là số đối tượng chứa trong dữ liệu này. Mọi dữ liệu được biểu diễn dưới các dạng khác có thể được chuyển thành dạng bảng như trên để thực hiện quá trình phân loại [8].2 Các bước giải quyết bài toán phân loại Một bài toán phân loại bao gồm 2 bước sau [16]: Bước 1: Huấn luyện Mục đích của bước này là xây dựng một mô hình xác định một tập các lớp dữ liệu. Mô hình này được xây dựng bằng cách phân tích các bộ dữ liệu của một cơ sở dữ liệu, mỗi bộ dữ liệu được xác định bởi giá trị của các thuộc tính. Giả sử mỗi bộ dữ liệu đã thuộc về một trong các lớp đã đựơc định nghĩa trước, điều này được xác định bởi một trong các thuộc tính, gọi là thuộc tính phân loại.

Trong ngữ cảnh của bài toán phân loại, mỗi bộ dữ liệu được xem như là một mẫu, một ví dụ, hay một đối tượng. Những bộ dữ liệu được phân tích để xây dựng mô hình phân loại được lấy từ trong tập dữ liệu học hay dữ liệu huấn luyện (training data set). Những bộ dữ liệu riêng lẻ tạo thành tập dữ liệu huấn luyện còn gọi là những mẫu huấn luyện (training samples) và được chọn ngẫu nhiên từ một kho các mẫu. TIEU LUAN MOI download : [e-mail] 14 Bước 2: Kiểm tra và đánh giá, bước này sử dụng mô hình Phân lớp đã được xây dựng ở bước 1 vào việc phân lớp.

Đầu tiên, đánh giá độ chính xác của mô hình hay bộ phân lớp này, bằng cách sử dụng một tập các mẫu đã được phân lớp để thử (test) gọi là bộ thử (test set). Những mẫu này được chọn ngẫu nhiên và độc lập với các m ẫu đã được học ở bước 1 gọi là mẫu thử (test sample). Độ chính xác của một mô hình phân lớp dựa trên bộ thử là tỷ lệ những mẫu thử được phân lớp đúng bằng mô hình phân lớp đó. Nghĩa là với mỗi m ẫu thử, so sánh lớp đúng mà mẫu thử đó thuộc về với lớp mà mô hình phân lớp này dự đoán cho mẫu thử đó.3 Bài toán phân lớp văn bản Phân lớp văn bản là một trong những nhiệm vụ quản lý tài liệu dựa trên nội dung sao cho thuận tiện và dễ dàng nhất.

Đây là một vấn đề quan trọng trong việc gán một tài liệu vào một hoặc nhiều lớp cho trước [11, tr. Ngày này cùng với sự phát triển không ngừng của công nghệ, mạng Internet ngày càng phát triển vượt bậc, đáp ứng cao nhu cầu sử dụng. Đi cùng với nó là việc sử dụng Internet trong việc quản lý tập tin, các tài liệu điện tử … vô cùng lớn. Đó là động lực cho sự phát triển của bài toán phân lớp văn bản tự động.

Song song với sự phát triển của phẩn mềm, sự phát triển của phần cứng máy tính cũng đã tạo ra sức mạnh tính toán, cho phép quá trình phân lớp văn bản tự động được sử dụng trong các ứng dụng thực tế cao. Vậy, câu hỏi đặt ra tại sao sử dụng bài toán phân lớp văn bản hay sử dụng nó nhằm mục đích gì? Như định nghĩa về phân lớp văn bản, chúng ta cũng nhận thấy được lợi ích của nó như sau:  Thứ nhất, sự sắp xếp các đối tượng vào từng lớp riêng biệt sẽ loại bỏ được các thư rác, thư không cần thiết.  Thứ hai, phân lớp được các đối tượng và từng lớp, mỗi lớp có những đặc tính riêng biệt, chủ đề riêng biệt …  Thứ ba, giúp quản lý tài nguyên, tri thức một cách hiệu quả, sắp xếp hợp lý, tìm kiếm dễ dàng, thuận tiện chỉ với vài thao tác trên Internet. Bài toán phân lớp đa nhãn 2.1 Khái niệm Phân lớp đa nhãn Phân lớp đa nhãn còn gọi là MLC ( Multiple Label Classification), cho phép gán một đối tượng (văn bản, giáo trình, tài liệu,…) vào một hoặc nhiều lớp đồng thời [18].

Điều này có ý nghĩa thực tế lớn, vì như nội dung của một văn bản không chỉ liên quan tới một chủ đề duy nhất. Chẳng hạn, một bài báo hoặc một bộ phim có thể được chia vào cả hai nhóm Xã Hội và Nghệ thuật Điện ảnh. Tương tự như vậy, trong chẩn đoán y tế, một bệnh nhân có thể cùng một lúc làm mẫu cho bệnh tiểu đường và ung thư tuyến tiền liệt. TIEU LUAN MOI download : [e-mail] 15 Với sự phát triển của xã hội ngày càng lớn, tạo nên sự khác biệt giữa phân lớp đa nhãn và đơn nhãn dẫn đến phân lớp đa nhãn ngày càng đượg các ứng dụng hiện đại đưa vào áp dụng, chẳng hạn như phân lớp (hoặc phân loại) chức năng các hợp chất hữu cơ, phân nhóm âm nhạc và phân lớp ngữ nghĩa.

Phân lớp đa nhãn được các nhà nghiên cứu định nghĩa thống nhất như là việc gán tên các chủ đề (tên lớp/nhãn lớp) đã được xác định trước vào các văn bản dựa trên nội dung của nó.2 Ý nghĩa và ứng dụng Chúng ta dễ dàng nhận thấy phân lớp đa nhãn là bài toán có ý nghĩa và ứng dụng thực tiễn cao, đặc biệt khi sự phát triển của công nghệ thông tin bùng nổ và nhu cầu sử dụng Internet là không thể thiếu. Phân lớp đa nhãn văn bản cho phép một văn bản có thể thuộc về một số lớp cùng một lúc; nghĩa là một văn bản/tài liệu có thể phục vụ cho việc khai thác nội dung thông tin của nhiều lớp/chủ đề khác nhau. Ngày nay các phương pháp phân lớp đa nhãn văn bản ngày càng được các ứng dụng hiện đại có nhu cầu sử dụng, chẳng hạn như phân loại các hợp chất hữu cơ, phân nhóm âm nhạc và phân lớp ngữ nghĩa. Trong phân lớp ngữ nghĩa, một bức ảnh có thể thuộc về nhiều hơn một khái n i ệ m chẳng hạn như cảnh hoàng hôn và bãi biển.

Tương tự như vậy trong phân nhóm âm nhạc, một bài hát có thể thuộc về nhiều thể loại. Ví dụ: Một số ca khúc mới và đứng top đầu của ban nhạc rock nổi tiếng có thể thuộc về hai thể loại là rock và ballad. Phân lớp đa nhãn cũng có thể ứng dụng vào các bài toán như: bài toán loại bỏ thư rác, lọc thông tin trên trang web hoặc quản lý tri thức và tìm kiếm thông tin trên Internet. Một số phương pháp phân lớp đa nhãn Phương pháp phân lớp đa nhãn có thể nhóm thành hai loại chính: là phương pháp chuyển đổi bài toán (Problem Transformation methods) và phương pháp thích nghi thuật toán (Algorithm Adaptation methods) [14].

Phương pháp chuyển đổi bài toán (Problem Transformation methods): trong phương pháp này vấn đề phân lớp đa nhãn được chuyển đổi thành một hoặc nhiều vấn đề phân lớp đơn nhãn và việc phân lớp được thực hiện cùng quá trình như phân lớp đơn nhãn để chuyển thành các đại diện đa nhãn. Có một số phương pháp chuyển đổi bài toán được sử dụng như: Binary Relevance, Label Power-Set (hay còn gọi là Label Combination), Pruned Problem Transformation Method (hay còn gọi là Pruned Set), tập k-label ngẫu nhiên, … Phương pháp này là phương pháp thông dụng nhất và được tiếp cận phổ biến nhất Phương pháp thích nghi thuật toán (Algorithm Adaptation methods): một vài thuật toán và mô hình phân lớp được thích nghi hoá với nhiệm vụ đa nhãn mà không cần tới sự chuyển đổi bài toán. Một số ví dụ như:  Tăng cường: AdaBoost.MH và AdaBoost.MR là những phiên bản nâng cấp của AdaBoost cho dữ liệu đa nhãn [14]. TIEU LUAN MOI download : [e-mail] 16  K láng giềng gần nhất (k-Nearest Neighbors): thuật toán Multi Label-k-Nearest Neighbor [14] là thuật toán mở rộng k-Nearest Neighbor cho dữ liệu đa nhãn.

 Cây quyết định: một thuật toán C4.5 cải tiến cho phân lớp đa nhãn. Trong nghiên cứu này, chúng tôi sẽ tiến hành thử nghiệm với 2 phương pháp Binary Relevance và Label Power-Set để đánh giá độ chính xác. Tuy nhiên chúng tôi xin phép được trình bày thêm về các phương pháp để người đọc có thêm cái nhìn tổng quát về bài toán chúng tôi đang nghiên cứu.1 Phương pháp chuyển đổi bài toán Phương pháp chuyển đổi bài toán là phương pháp được tiếp cận phổ biển đối với phân lớp đa nhãn. Dưới đây, chúng ta sẽ sử dụng Bảng 1.1, bảng gồm bốn mẫu thuộc về một hoặc nhiều của 4 lớp: Thể thao, Tôn giáo, Khoa học, Chính trị.