Luận Văn Thạc Sĩ: Khai Phá Cụm Hướng Thời Gian Trên Dữ Liệu Giáo Dục

Khám phá luận văn thạc sĩ về khai phá cụm hướng thời gian trong dữ liệu giáo dục, ứng dụng và tiềm năng trong nghiên cứu khoa học máy tính.

• Tác giả: Lê Minh Châu
• Người hướng dẫn: TS. Võ Thị Ngọc Châu
• Trường học: Đại học Bách Khoa - ĐHQG - HCM
• Chuyên ngành: Khoa Học Máy Tính
• Đề tài: Khai Phá Cụm Dữ Liệu Giáo Dục Hướng Thời Gian
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2018
• Địa điểm: TP. Hồ Chí Minh

Mục lục chi tiết

• LỜI CÁM ƠN
• TÓM TẮT LUẬN VĂN
• ABSTRACT
• LỜI CAM ĐOAN
• 1. CHƯƠNG 1: GIỚI THIỆU TỔNG QUAN
• 1.1. Lí do chọn đề tài
• 1.2. Mục tiêu nghiên cứu
• 1.3. Ý nghĩa khoa học
• 1.4. Ý nghĩa thực tiễn
• 1.5. Phạm vi thực hiện đề tài
• 2. CHƯƠNG 2: NỀN TẢNG LÝ THUYẾT VÀ CÁC CÔNG TRÌNH LIÊN QUAN
• 2.1. Nền tảng lý thuyết
• 2.1.1. Mô hình chủ đề ẩn
• 2.1.2. Phương pháp phân tích mô hình chủ đề ẩn
• 2.1.3. Mô hình sinh trong mô hình chủ đề ẩn
• 2.1.4. Ước lượng tham số và suy diễn với mô hình Gibbs Sampling cho mô hình chủ đề ẩn
• 2.2. Mô hình chủ đề hướng thời gian
• 2.2.1. Mô tả giải thuật
• 2.2.2. Ước lượng tham số theo phương pháp lọc Kalman
• 2.2.2.1. Giới thiệu
• 2.2.2.2. Phương pháp lọc Kalman trong mô hình chủ đề hướng thời gian
• 2.2.3. Định dạng Blei’s lda-c
• 2.2.4. Phương pháp đánh giá mô hình sử dụng Perplexity
• 2.3. Các nghiên cứu liên quan
• 2.3.1. Áp dụng mô hình chủ đề trong phân tích chứng khoán
• 2.3.2. Áp dụng mô hình chủ đề hướng thời gian trong phân tích bài báo khoa học
• 3. CHƯƠNG 3: MÔ HÌNH TỔNG QUÁT VÀ PHƯƠNG HƯỚNG GIẢI QUYẾT
• 3.1. Mô hình tổng quát
• 3.2. Phương hướng giải quyết
• 3.3. Dữ liệu minh họa
• 3.4. Phương pháp phân tích cụm
• 3.4.1. Phân tích cụm theo sinh viên
• 3.4.2. Phân tích cụm theo môn học
• 4. CHƯƠNG 4: THỰC NGHIỆM VÀ ĐÁNH GIÁ
• 4.1. Câu hỏi thực nghiệm
• 4.2. Môi trường thực nghiệm
• 4.3. Chuẩn bị dữ liệu
• 4.4. Kết quả thực nghiệm và đánh giá
• 4.4.1. Mô hình DTM
• 4.4.2. Mô hình LDA
• 4.4.3. Giải thuật K-Means
• 4.5. So sánh các phương pháp
• 4.5.1. So sánh chất lượng mẫu chuyển cụm
• 4.5.2. So sánh độ đo perplexity
• 4.6. Trực quan hóa cụm
• 4.6.1. Các nội dung đã được thực hiện
• 4.6.2. Mức độ đạt được của đề tài
• 4.6.3. Hướng phát triển
• TÀI LIỆU THAM KHẢO
• PHẦN LÝ LỊCH TRÍCH NGANG
• DANH MỤC VIẾT TẮT

Tóm tắt

I. Giới thiệu tổng quan

Nghiên cứu ứng dụng khai phá dữ liệu vào quản lý giáo dục đào tạo ngày càng trở nên cần thiết cho các nhà quản lý giáo dục. Việc áp dụng các kỹ thuật khai phá dữ liệu giúp nâng cao chất lượng quản lý và hoạch định chiến lược giáo dục. Gần đây, nhiều công trình nghiên cứu đã chỉ ra lợi ích của việc ứng dụng khoa học máy tính trong lĩnh vực này. Đặc biệt, mô hình mô hình chủ đề hƣớng thời gian đã được phát triển để đáp ứng nhu cầu phân tích dữ liệu thay đổi theo thời gian. Nghiên cứu của Lê Thanh Minh sử dụng khai phá luật kết hợp để đánh giá hiệu quả đào tạo, trong khi Phan Đình Thế Huân áp dụng khai phá dữ liệu để dự đoán kết quả học tập của sinh viên. Những nghiên cứu này cho thấy tầm quan trọng của việc áp dụng các mô hình phân tích dữ liệu trong giáo dục.

II. Nền tảng lý thuyết

Mô hình chủ đề ẩn (LDA) là một trong những mô hình quan trọng trong phân tích dữ liệu. Nó cho phép xác định xác suất phân phối các chủ đề ẩn trong tài liệu. Mô hình này được xây dựng dựa trên ý tưởng rằng mỗi tài liệu có thể được coi là sự pha trộn của nhiều chủ đề. Phương pháp phân tích này giúp cải thiện khả năng phân tích dữ liệu và cung cấp thông tin chi tiết về các chủ đề trong tài liệu. Mô hình chủ đề hƣớng thời gian (DTM) mở rộng LDA để xác định sự tiến triển của các chủ đề theo thời gian. Điều này giúp các nhà nghiên cứu hiểu rõ hơn về cách mà các chủ đề thay đổi theo từng học kỳ, từ đó đưa ra các quyết định chính xác hơn trong việc quản lý giáo dục.

III. Phương pháp phân tích cụm

Phân tích cụm là một bước quan trọng trong khai phá dữ liệu. Đề tài này áp dụng mô hình DTM để phân tích dữ liệu học tập của sinh viên. Quá trình này bao gồm việc phân tích các cụm sinh viên và các môn học, từ đó xác định các yếu tố ảnh hưởng đến kết quả học tập. Việc phân tích cụm theo sinh viên giúp phát hiện nhanh chóng những sinh viên có kết quả học tập không tốt và những môn học cần cải thiện. Kết quả từ mô hình DTM cho thấy khả năng phân tích tốt hơn so với các mô hình khác như LDA và K-Means, minh chứng cho giá trị thực tiễn của mô hình này trong việc hỗ trợ quản lý giáo dục.

IV. Kết quả thực nghiệm và đánh giá

Kết quả thực nghiệm cho thấy mô hình DTM đạt được độ chính xác cao trong việc phân tích dữ liệu học tập. Giá trị độ đo perplexity của mô hình này thường tốt hơn khi đánh giá trên dữ liệu của 6 học kỳ. Điều này chứng tỏ rằng mô hình DTM không chỉ có khả năng khai phá dữ liệu mà còn có thể cung cấp thông tin hữu ích cho các nhà quản lý giáo dục. Sự khác biệt trong kết quả giữa các mô hình cho thấy rằng việc lựa chọn mô hình phù hợp là rất quan trọng trong phân tích dữ liệu giáo dục. Những kết quả này có thể giúp cải thiện chất lượng đào tạo và hỗ trợ kịp thời cho sinh viên gặp khó khăn trong học tập.

V. Hướng phát triển

Đề tài mở ra hướng phát triển mới trong việc áp dụng các mô hình khoa học máy tính vào khai phá dữ liệu giáo dục. Việc sử dụng mô hình DTM có thể được mở rộng sang các lĩnh vực khác như phân tích hành vi người dùng trong hệ thống học trực tuyến. Sự phát triển của công nghệ thông tin và hệ thống thông tin sẽ tạo điều kiện thuận lợi cho việc thu thập và phân tích dữ liệu lớn. Từ đó, các nhà nghiên cứu có thể phát triển các mô hình mạnh mẽ hơn để hỗ trợ quản lý giáo dục. Việc nghiên cứu sâu hơn về các yếu tố ảnh hưởng đến kết quả học tập cũng sẽ giúp nâng cao chất lượng đào tạo trong tương lai.

Nội dung chính

Tổng quan nghiên cứu

Trong bối cảnh phát triển mạnh mẽ của công nghệ thông tin, lượng dữ liệu giáo dục ngày càng gia tăng nhanh chóng, đòi hỏi các phương pháp khai phá dữ liệu hiệu quả để hỗ trợ quản lý và nâng cao chất lượng đào tạo. Việc phân tích dữ liệu học tập của sinh viên qua từng học kỳ giúp phát hiện kịp thời các nhóm sinh viên có kết quả học tập không tốt hoặc có sự biến động trong quá trình học tập. Luận văn tập trung nghiên cứu áp dụng mô hình chủ đề hướng thời gian Dynamic Topic Model (DTM) để khai phá cụm trên dữ liệu điểm học tập của sinh viên ngành Khoa học Máy tính, Trường Đại học Bách Khoa TP. Hồ Chí Minh, niên khóa 2006 với 6 học kỳ và khoảng 500 sinh viên. Mục tiêu chính là quan sát quá trình học tập theo thời gian, xác định các môn học ảnh hưởng đến kết quả học tập và đánh giá hiệu quả của mô hình DTM so với các phương pháp truyền thống như LDA và K-Means. Kết quả nghiên cứu có ý nghĩa quan trọng trong việc hỗ trợ cố vấn học tập và cán bộ quản lý giáo dục trong việc hoạch định chiến lược đào tạo, nâng cao chất lượng đào tạo và hỗ trợ sinh viên kịp thời.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn dựa trên hai mô hình chủ đề chính trong khai phá dữ liệu văn bản và dữ liệu giáo dục:

• Mô hình Latent Dirichlet Allocation (LDA): Là mô hình sinh xác suất phân phối chủ đề ẩn trên tập tài liệu, mỗi tài liệu được xem là sự pha trộn của nhiều chủ đề với phân phối Dirichlet. LDA giúp gom cụm dữ liệu dựa trên phân phối xác suất các từ khóa trong từng chủ đề.

• Mô hình chủ đề hướng thời gian Dynamic Topic Model (DTM): Mở rộng từ LDA, DTM cho phép mô hình hóa sự biến đổi của các chủ đề theo thời gian, sử dụng mô hình Gaussian và phương pháp lọc Kalman để ước lượng tham số. DTM phù hợp với dữ liệu có tính chất thời gian như bảng điểm sinh viên qua các học kỳ.

Các khái niệm chính bao gồm: chủ đề (topic), tài liệu (document), từ ngữ (word), phân phối Dirichlet, bộ lọc Kalman, perplexity (độ hỗn loạn) dùng để đánh giá chất lượng mô hình.

Phương pháp nghiên cứu

• Nguồn dữ liệu: Dữ liệu điểm học tập của khoảng 500 sinh viên ngành Khoa học Máy tính, Trường Đại học Bách Khoa TP. Hồ Chí Minh, trong 6 học kỳ của khóa 2006, với 10 môn học cố định mỗi học kỳ.

• Phương pháp phân tích: Dữ liệu được chuyển đổi sang định dạng Blei’s lda-c, sau đó áp dụng mô hình DTM để khai phá cụm theo thời gian. So sánh kết quả với mô hình LDA và giải thuật K-Means. Phân tích cụm được thực hiện theo hai hướng: theo nhóm sinh viên và theo nhóm môn học.

• Timeline nghiên cứu: Nghiên cứu được thực hiện từ tháng 01 đến tháng 06 năm 2018, với các bước tiền xử lý dữ liệu, chạy mô hình, phân tích kết quả, đánh giá và trực quan hóa cụm.

• Cỡ mẫu và chọn mẫu: Toàn bộ dữ liệu điểm của sinh viên khoa Khoa học Máy tính được sử dụng, đảm bảo tính đại diện cho phân tích.

• Đánh giá mô hình: Sử dụng chỉ số perplexity để đánh giá chất lượng mô hình theo từng học kỳ và toàn bộ khóa học.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Phân cụm sinh viên theo kết quả học tập: Mô hình DTM phân loại sinh viên thành 4 cụm chính tương ứng với nhóm sinh viên học tốt, học không tốt và có sự chuyển biến trong học tập. Ví dụ, mẫu chuyển cụm 1,1,1,4,4,4 chiếm tỷ trọng 15.3% thể hiện nhóm sinh viên có chuyển biến xấu trong học tập. Mô hình DTM nhận diện chính xác các nhóm sinh viên có tiến triển hoặc suy giảm kết quả học tập qua từng học kỳ.

2. Xác định môn học ảnh hưởng: Qua phân tích cụm theo môn học, các môn như s501128 chỉ ảnh hưởng trong 3 học kỳ đầu, trong khi môn s505002 ảnh hưởng trong 3 học kỳ sau. Môn s502002 có ảnh hưởng tăng dần qua các học kỳ, cho thấy sự tác động khác nhau của từng môn học đến kết quả học tập sinh viên.

3. So sánh mô hình DTM, LDA và K-Means: Giá trị perplexity của DTM thấp nhất (khoảng 0.79 cho toàn khóa), cho thấy mô hình này có khả năng gom cụm chính xác hơn so với LDA và K-Means. Mô hình DTM cũng nhận diện tốt hơn các trường hợp sinh viên có sự biến động điểm số, trong khi K-Means chỉ phân cụm dựa trên điểm từng học kỳ riêng lẻ, dễ dẫn đến sai lệch.

4. Số cụm tối ưu: Phân tích perplexity với các số cụm khác nhau cho thấy mô hình DTM hoạt động tốt nhất với 4 cụm, phù hợp với số mức điểm A, B, C, D trong dữ liệu.

Thảo luận kết quả

Kết quả cho thấy mô hình DTM vượt trội trong việc khai phá cụm dữ liệu giáo dục có tính chất thời gian, nhờ khả năng mô hình hóa sự biến đổi chủ đề qua các học kỳ. Việc phân tích cụm theo sinh viên giúp phát hiện kịp thời các nhóm sinh viên gặp khó khăn hoặc có sự chuyển biến trong học tập, hỗ trợ công tác cố vấn học tập hiệu quả. Phân tích cụm theo môn học giúp xác định các môn học trọng yếu ảnh hưởng đến kết quả học tập, từ đó đề xuất các biện pháp cải thiện chương trình đào tạo.

So với các nghiên cứu trước đây chỉ sử dụng LDA hoặc các giải thuật gom cụm truyền thống, việc áp dụng DTM cho dữ liệu giáo dục là một bước tiến quan trọng, phù hợp với đặc thù dữ liệu có tính thời gian. Kết quả cũng phù hợp với các nghiên cứu ứng dụng DTM trong lĩnh vực khác như phân tích bài báo khoa học hay chứng khoán, khẳng định tính ứng dụng rộng rãi của mô hình.

Dữ liệu có thể được trình bày qua các biểu đồ trực quan hóa cụm sinh viên theo từng học kỳ, biểu đồ phân bố môn học ảnh hưởng theo thời gian và bảng so sánh perplexity giữa các mô hình, giúp minh họa rõ nét hiệu quả của phương pháp.

Đề xuất và khuyến nghị

1. Áp dụng mô hình DTM trong quản lý giáo dục: Cán bộ quản lý và cố vấn học tập nên sử dụng mô hình DTM để phân tích dữ liệu học tập sinh viên theo thời gian, nhằm phát hiện sớm các nhóm sinh viên có nguy cơ học tập kém và có biện pháp hỗ trợ kịp thời. Thời gian triển khai: trong vòng 1 học kỳ.

2. Tập trung cải thiện các môn học trọng yếu: Dựa trên kết quả phân tích cụm theo môn học, nhà trường cần rà soát và nâng cao chất lượng giảng dạy các môn có ảnh hưởng lớn đến kết quả học tập, đặc biệt là các môn có xu hướng ảnh hưởng tăng dần qua các học kỳ. Chủ thể thực hiện: khoa chuyên ngành và bộ môn, trong vòng 1 năm học.

3. Phát triển hệ thống cảnh báo học tập tự động: Xây dựng hệ thống cảnh báo dựa trên mô hình DTM để tự động nhận diện sinh viên có sự chuyển biến xấu trong học tập, giúp cố vấn học tập chủ động liên hệ và hỗ trợ. Thời gian thực hiện: 6 tháng.

4. Mở rộng nghiên cứu và áp dụng cho các ngành khác: Khuyến nghị áp dụng mô hình DTM cho các khoa, ngành khác trong trường và các trường đại học khác để đánh giá tính khả thi và hiệu quả, từ đó hoàn thiện phương pháp. Thời gian: 1-2 năm.

Đối tượng nên tham khảo luận văn

1. Cán bộ quản lý giáo dục: Giúp nâng cao hiệu quả quản lý đào tạo thông qua phân tích dữ liệu học tập sinh viên theo thời gian, hỗ trợ hoạch định chiến lược đào tạo.

2. Cố vấn học tập: Hỗ trợ phát hiện kịp thời sinh viên có kết quả học tập không tốt hoặc có sự biến động, từ đó có kế hoạch tư vấn và hỗ trợ phù hợp.

3. Nhà nghiên cứu khoa học dữ liệu và học máy: Cung cấp phương pháp ứng dụng mô hình chủ đề hướng thời gian trong khai phá dữ liệu giáo dục, mở rộng ứng dụng của DTM.

4. Giảng viên và bộ môn: Tham khảo để xác định các môn học ảnh hưởng đến kết quả học tập, từ đó điều chỉnh nội dung và phương pháp giảng dạy.

Câu hỏi thường gặp

1. Mô hình DTM khác gì so với LDA trong phân tích dữ liệu giáo dục?
   DTM mở rộng LDA bằng cách mô hình hóa sự biến đổi của chủ đề theo thời gian, phù hợp với dữ liệu có tính chất thời gian như bảng điểm sinh viên qua các học kỳ. Điều này giúp DTM nhận diện chính xác hơn các xu hướng và chuyển biến trong học tập.

2. Tại sao lại chọn 4 cụm trong phân tích?
   Số cụm 4 tương ứng với 4 mức điểm A, B, C, D trong dữ liệu học tập. Phân tích perplexity cho thấy 4 cụm là số lượng tối ưu giúp mô hình DTM đạt hiệu quả cao nhất trong việc gom cụm.

3. Giải thuật K-Means có ưu điểm gì và hạn chế ra sao?
   K-Means đơn giản, dễ triển khai và nhanh chóng phân cụm theo từng học kỳ riêng lẻ. Tuy nhiên, nó không mô hình hóa được sự biến đổi theo thời gian, dẫn đến sai lệch khi đánh giá quá trình học tập tổng thể của sinh viên.

4. Làm thế nào để trực quan hóa kết quả phân tích cụm?
   Có thể sử dụng các biểu đồ vector trung bình của cụm theo từng học kỳ, biểu đồ phân bố môn học ảnh hưởng, và biểu đồ chuyển cụm của sinh viên qua các học kỳ để minh họa trực quan kết quả.

5. Phương pháp này có thể áp dụng cho các ngành học khác không?
   Có thể áp dụng rộng rãi cho các ngành có dữ liệu học tập theo thời gian, giúp phân tích quá trình học tập và hỗ trợ quản lý đào tạo hiệu quả.

Kết luận

• Luận văn đã thành công trong việc áp dụng mô hình chủ đề hướng thời gian DTM để khai phá cụm trên dữ liệu học tập sinh viên ngành Khoa học Máy tính, Trường Đại học Bách Khoa TP. Hồ Chí Minh.
• Mô hình DTM cho kết quả phân cụm chính xác hơn so với LDA và K-Means, đặc biệt trong việc nhận diện sự biến đổi kết quả học tập theo thời gian.
• Phân tích cụm theo sinh viên và môn học giúp phát hiện nhóm sinh viên gặp khó khăn và các môn học ảnh hưởng đến kết quả học tập.
• Kết quả nghiên cứu có ý nghĩa thực tiễn cao, hỗ trợ công tác quản lý giáo dục và cố vấn học tập.
• Đề xuất triển khai áp dụng mô hình DTM trong quản lý đào tạo và mở rộng nghiên cứu cho các ngành học khác trong thời gian tới.

Hành động tiếp theo là xây dựng hệ thống cảnh báo học tập tự động dựa trên mô hình DTM và phối hợp với các bộ môn để cải thiện chất lượng giảng dạy các môn học trọng yếu. Các nhà quản lý giáo dục và nhà nghiên cứu được khuyến khích áp dụng và phát triển phương pháp này nhằm nâng cao hiệu quả đào tạo.

Trích đoạn nội dung tài liệu

ĐẠI HỌC QUỐC GIA TP. HCM TRƢỜNG ĐẠI HỌC BÁCH KHOA -------------------- LÊ MINH CHÂU KHAI PHÁ CỤM HƢỚNG THỜI GIAN TRÊN DỮ LIỆU GIÁO DỤC Ngành: KHOA HỌC MÁY TÍNH Mã số: 60480101 LUẬN VĂN THẠC SĨ TP. HỒ CHÍ MINH, tháng 06 năm 2018 CÔNG TRÌNH ĐƢỢC HOÀN THÀNH TẠI TRƢỜNG ĐẠI HỌC BÁCH KHOA –ĐHQG –HCM Cán bộ hƣớng dẫn khoa học: TS. Võ Thị Ngọc Châu Cán bộ chấm nhận xét 1: PGS.

Quản Thành Thơ Cán bộ chấm nhận xét 2: PGS. Hồ Bảo Quốc Luận văn thạc sĩ đƣợc bảo vệ tại Trƣờng Đại học Bách Khoa, ĐHQG TP.HCM ngày 17 tháng 07 năm 2018 Thành phần Hội đồng đánh giá luận văn thạc sĩ gồm: 1. Chủ tịch hội đồng: PGS. Dƣơng Tuấn Anh 2.

Nguyễn Hồ Mẫn Rạng 3. GV phản biện 1: PGS. Quản Thành Thơ 4. GV phản biện 2: PGS.

Hồ Bảo Quốc 5. Ủy viên: TS. Lê Thanh Vân Xác nhận của Chủ tịch Hội đồng đánh giá LV và Trƣởng Khoa quản lý chuyên ngành sau khi luận văn đã đƣợc sửa chữa (nếu có). CHỦ TỊCH HỘI ĐỒNG TRƢỞNG KHOA KH&KTMT ĐẠI HỌC QUỐC GIA TP.HCM CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM TRƢỜNG ĐẠI HỌC BÁCH KHOA Độc lập - Tự do - Hạnh phúc NHIỆM VỤ LUẬN VĂN THẠC SĨ Họ tên học viên: Lê Minh Châu MSHV: 7140818 Ngày, tháng, năm sinh: 31/08/1983 Nơi sinh: TP.Hồ Chí Minh Ngành: Khoa Học Máy Tính Mã số : 60480101 I.

TÊN ĐỀ TÀI: Khai phá cụm hƣớng thời gian trên dữ liệu giáo dục. NHIỆM VỤ VÀ NỘI DUNG: - Tìm hiểu lý thuyết và các công trình liên quan về mô hình chủ đề và mô hình chủ đề hƣớng thời gian. - Mô hình hóa dữ liệu học tập của sinh viên khoa Khoa Học Máy Tính, trƣờng Đại học Bách Khoa TP.HCM theo mô hình chủ đề hƣớng thời gian. - Thực nghiệm mô hình chủ đề, mô hình chủ đề hƣớng thời gian và giải thuật K-Means trên dữ liệu học tập của sinh viên.

- Phân tích đánh giá cụm nhằm xác định tiến độ học tập của sinh viên và các môn học ảnh hƣởng đến kết quả học tập của sinh viên. - Trực quan hóa các cụm chủ đề. NGÀY GIAO NHIỆM VỤ: 15/01/2018 IV.NGÀY HOÀN THÀNH NHIỆM VỤ: 17/06/2018 V. CÁN BỘ HƢỚNG DẪN : TS.

Võ Thị Ngọc Châu TP. HCM, ngày 17 tháng 06 năm 2018 CÁN BỘ HƢỚNG DẪN TRƢỞNG KHOA KH & KTMT (Họ tên và chữ ký) (Họ tên và chữ ký) LỜI CÁM ƠN Tôi xin gửi lời cám ơn chân thành đến và sâu sắc đến TS. Võ Thị Ngọc Châu – khoa Khoa học máy tính – Trƣờng ĐH Bách Khoa TP. Trong suốt quá trình thực hiện đề tài, Cô đã bỏ ra nhiều công sức và thời gian tận tình hƣớng dẫn và tạo mọi điều kiện để tôi có thể hoàn thành tốt luận văn này.

Tôi cũng gửi lời cám ơn chân thành đến các Thầy Cô trong khoa Khoa học máy tính. Các Thầy Cô đã tận tình chỉ dạy và trang bị những kiến thức, tạo mọi điều kiện để tôi hoàn thành luận văn này. Tôi xin gửi lời cám ơn đến gia đình, đồng nghiệp, bạn bè đã tạo điều kiện giúp đỡ tôi về thời gian và tinh thần trong thời gian tôi hoàn thành luận văn. Trong thời gian thực hiện luận văn, đƣợc sự hỗ trợ và giúp đỡ của Thầy Cô, gia đình, bạn bè và đồng nghiệp.

Tôi đã cố gắng hoàn thành luận văn với hết khả năng có thể của bản thân. Tuy nhiên cũng sẽ không tránh khỏi những thiếu sót. Kính mong quý Thầy Cô và các bạn tận tình chỉ bảo và góp ý để luận văn đƣợc hoàn thiện hơn. Hồ Chí Minh, ngày 17 tháng 06 năm 2018 Học viên Lê Minh Châu TÓM TẮT LUẬN VĂN Trong những năm gần đây, khả năng tính toán của các máy tính đƣợc nâng lên một tầm cao mới và lƣợng dữ liệu ngày càng lớn.

Việc nghiên cứu dữ liệu lớn và ứng dụng học máy trong xử lý dữ liệu đang dần trở thành một nhu cầu cấp thiết. Trong các bài toán xử lý dữ liệu, bài toán gom cụm dữ liệu luôn là thách thức không nhỏ với cộng đồng các nhà khoa học dữ liệu. Giải thuật mô hình chủ đề Latent Dirichlet Allocation (LDA) đƣợc đề xuất nhƣ là một giải pháp ứng dụng nền tảng toán học thống kê trong việc giải quyết bài toán gom cụm.Hiện nay, nhiều nghiên cứu mở rộng mô hình LDA nhằm đáp ứng yêu cầu đa dạng trong khai phá dữ liệu văn bản, nổi bật trong số đó là mô hình chủ đề hƣớng thời gian Dynamic Topic Model (DTM) với tính năng xác định sự tiến triển của chủ đề theo từng khung thời gian. Trong luận văn này, đề tài đề xuất áp dụng mô hình chủ đề hƣớng thời gian DTM nhƣ là một giải pháp cho bài toán gom cụm và phân tích dữ liệu học tập của sinh viên khoa Khoa Học Máy Tính, trƣờng Đại Học Bách Khoa TP.HCM, theo thời gian.

Từ việc phân tích các đặc trƣng của cụm sinh viên hoặc cụm môn học, quá trình học tập của sinh viên trong từng học kỳ cũng nhƣ các môn học ảnh hƣởng đến kết quả học tập của sinh viên đƣợc xác định một cách nhanh chóng và hiệu quả. Kết quả đạt đƣợc từ giải pháp của đề tài cho thấy sự vƣợt trội của mô hình DTM trong khám phá cụm so với các mô hình khác (LDA, K-Means). Giá trị độ đo perplexity của mô hình cụm đạt đƣợc từ mô hình DTM thƣờng tốt hơn khi đƣợc đánh giá trên dữ liệu của 6 học kỳ của khóa 2006. ABSTRACT In recent years, the computing power of computers has risen to a new height and the amount of data is growing.

Research big data and apply machine learning in data processing are gradually becoming an urgent needed. In data processing problems, the problem of clustering data is always a challenge to the data scientists. The Latent Dirichlet Allocation (LDA) algorithm was proposed as a statistical mathematical platform solution for solving clustering problems. Currently, many of research extend the LDA algorithm to meet diverse requirements in text data mining, most notably Dynamic Topic Model (DTM), with the ability to determine the evolution of topics of a collection of documents over time.

The thesis propose to apply DTM as a solution for clustering problems and to analyze student records at Computer Science Faculty, Ho Chi Minh city University Of Technology. By analyzing the characteristics of a student cluster or subject cluster, the learning process of the students in each semester as well as subjects affecting the student's academic performance is determined quickly and effective. The results obtained from the proposed solution show that DTM is better than others (LDA, K-Means) in cluster discovery. The perplexity value of this model is usually better when evaluated student records of the six semesters in 2006 course.

LỜI CAM ĐOAN Tôi xin cam đoan rằng ngoài các kết quả, các thông tin đƣợc tham khảo từ các công trình khác nhƣ đã ghi rõ trong luận văn, những công việc, kết quả đƣợc trình bày trong luận văn này là do chính tôi thực hiện và chƣa đƣợc sử dụng để lấy bất kì chứng chỉ, bằng cấp nào khác. HCM, ngày 17 tháng 06 năm 2018 Học viên Lê Minh Châu Mục lục NHIỆM VỤ LUẬN VĂN THẠC SĨ. 7 LỜI CAM ĐOAN .1 Lí do chọn đề tài .2 Mục tiêu nghiên cứu .3 Ý nghĩa khoa học .4 Ý nghĩa thực tiễn .5 Phạm vi thực hiện đề tài .1 Nền tảng lý thuyết .1 Mô hình chủ đề ẩn .1 Phương pháp phân tích mô hình chủ đề ẩn.2 Mô hình sinh trong mô hình chủ đề ẩn .3 Ước lượng tham số và suy diễn với mô hình Gibbs Sampling cho mô hình chủ đề ẩn.2 Mô hình chủ đề hướng thời gian .1 Mô tả giải thuật .2 Ước lượng tham số theo phương pháp lọc Kalman .2 Phương pháp lọc Kalman trong mô hình chủ đề hướng thời gian .3 Định dạng Blei’s lda-c .4 Phương pháp đánh giá mô hình sử dụng Perplexity.2 Các nghiên cứu liên quan .1 Áp dụng mô hình chủ đề trong phân tích chứng khoán [15] .2 Áp dụng mô hình chủ đề hướng thời gian trong phân tích bài báo khoa học [11].1 Mô hình tổng quát .2 Phương hướng giải quyết .3 Dữ liệu minh họa .4 Phương pháp phân tích cụm. Phân tích cụm theo sinh viên.

Phân tích cụm theo môn học .1 Câu hỏi thực nghiệm .2 Môi trường thực nghiệm .3 Chuẩn bị dữ liệu .4 Kết quả thực nghiệm và đánh giá .1 Mô hình DTM .2 Mô hình LDA .3 Giải thuật K-Means.4 So sánh các phương pháp .1 So sánh chất lượng mẫu chuyển cụm .2 So sánh độ đo perplexity.5 Trực quan hóa cụm .1 Các nội dung đã được thực hiện .2 Mức độ đạt được của đề tài .3 Hướng phát triển. 41 TÀI LIỆU THAM KHẢO. 1 PHẦN LÝ LỊCH TRÍCH NGANG. 9 DANH MỤC VIẾT TẮT Từ Nguyên văn BOW Bag of Words pLSA Probabilistic Latent Semantic Analysis LDA Latent Dirichlet Allocation DTM Dynamic Topic Model GS-SGLD Gibbs Sample - Stochastic Gradient Langevin Dynamics NIPS Neural Information Processing Systems S&P500 Standard & Poor’s 500 Stock Index Chƣơng 1 GIỚI THIỆU TỔNG QUAN 1.1 Lí do chọn đề tài Nghiên cứu ứng dụng khai phá dữ liệu vào quản lý giáo dục đào tạo đƣợc xem rất cần thiết cho các nhà quản lý giáo dục, giúp công tác quản lý và hoạch định chiến lƣợc giáo dục ngày càng hiệu quả.

Gần đây có các công trình nghiên cứu ứng dụng kỹ thuật khai phá dữ diệu đem lại nhiều lợi ích trong công tác quản lý giáo dục. Nghiên cứu của Lê Thanh Minh [6] sử dụng khai phá luật kết hợp và logic mờ trên kết quả thi tốt nghiệp THPT và THCS cho mục tiêu đánh giá hiệu quả đào tạo và cung cấp các thông tin cần thiết cho quá trình nâng cao chất lƣợng học sinh. Luận văn thạc sĩ của Phan Đình Thế Huân [16] đã nghiên cứu phƣơng pháp khai mỏ tìm luật kết hợp trên dữ liệu giáo dục. Ứng dụng thực nghiệm trên dữ liệu kết quả học tập của sinh viên trƣờng Đại học Tôn Đức Thắng, nhằm hỗ trợ đánh giá và dự đoán kết quả học tập của sinh viên, qua đó nâng cao chất lƣợng đào tạo.

Nghiên cứu của Nguyễn Thị Vân Hảo [19] đề xuất sử dụng giải thuật máy học cây quyết định và mạng Bayes trong dự đoán kết quả học tập của sinh viên đại học và sau đại học của Trƣờng Đại học Cần Thơ. Nhóm tác giả trƣờng Đại học Quốc Gia St.Agustin, Peru nghiên cứu hệ thống khuyến nghị khóa học trực tuyến sử dụng LDA [8], [24]. Hệ thống phân tích các mô tả ngắn về khóa học trực tuyến từ Cousera, Udacity, Edx … và thực hiên phân cụm các khóa học liên quan để ngƣời dùng dễ dàng tra cứu các khóa học phù hợp.