CHƯƠNG 1.3 Ý nghĩa khoa học và thực tiễn .1 Ý nghĩa khoa học .2 Ý nghĩa thực tiễn .4 Giới hạn của đề tài .5 Dữ liệu thưa.6 Phương pháp phân lớp bán giám sát (SSC) .2 Phương pháp học bán giám sát .3 Phương pháp học bán giám sát inductive và transductive .4 Các bộ phân lớp nền .1 Bộ phân lớp C4.2 Bộ phân lớp Random Tree .3 Bộ phân lớp Random Forest .5 Các kỹ thuật học máy bán giám sát .1 Kỹ thuật Self-Training.2 Kỹ thuật Co-Training .3 Kỹ thuật Tri-Training .4 Kỹ thuật Co-Forest .6 Phương pháp đánh giá kết quả. CÔNG TRÌNH LIÊN QUAN .1 Các công trình liên quan đến bài toán phân lớp trong EDM .2 Các công trình liên quan đến xử lý dữ liệu thưa .3 Các công trình liên quan đến phương pháp phân lớp bán giám sát. PHƯƠNG PHÁP NGHIÊN CỨU ĐỀ XUẤT .1 Phát biểu bài toán .2 Xử lý dữ liệu thưa .3 Phát triển phương pháp học bán giám sát trên dữ liệu thưa.1 Dữ liệu và các kỹ thuật học máy .2 Các kỹ thuật học máy .2 Phân lớp khi không làm đầy dữ liệu .3 Phân lớp có giám sát với C4.4 Phân lớp khi không Bootstrap sampling tập dữ liệu đã có nhãn L .5 So sánh Tri-Training(C4.5) và Self-Training(C4.6 So sánh hai chiến lược làm đầy dữ liệu .7 So sánh hai cách xử lý dữ liệu thưa .1 Tổng lược nội dung của luận văn .2 Những đóng góp của luận văn .3 Hướng phát triển .54 TÀI LIỆU THAM KHẢO .60 A – Kết quả phân lớp với C4.5 trên tập dữ liệu đã làm đầy .61 B – Kết quả phân lớp với Tri-Training(C4.5) khi không Bootstrap sampling tập L .62 C – Kết quả phân lớp với Tri-Training(C4.5) và Self-Training(C4.63 D – Kết quả phân lớp với cách xử lý tuần tự và cách xử lý lặp .65 E – Một số biểu đồ .66 viii DANH SÁCH HÌNH ẢNH Hình 1. Mã giả của giải thuật Tri-Training [41].
Mã giả của giải thuật Co-Forest [28]. Giải thuật Tri-Training tóm tắt. Giải thuật Tri-Training đề xuất .41 ix DANH SÁCH BẢNG BIỂU Bảng 1. Minh họa dữ liệu thưa.
Một số công trình nghiên cứu trong lĩnh vực EDM. Một số công trình nghiên cứu về xử lý dữ liệu thưa. Một số công trình nghiên cứu về phương pháp học bán giám sát. Tóm tắt dữ liệu nghiên cứu.
Thông số của các kỹ thuật học máy. Kết quả phân lớp với Tri-Training(C4. Kết quả phân lới với Self-Training(C4. Kết quả phân lớp với C4.
Kết quả phân lớp khi không Bootstrap sampling tập L. So sánh Tri-Training(C4.5) và Self-Training(C4. So sánh Tri-Training(C4.5) và Self-Training(C4. So sánh hai chiến lược làm đầy dữ liệu với Tri-Training(C4.
So sánh hai chiến lược làm đầy dữ liệu với Self-Training(C4. So sánh độ chính xác của cách xử lý tuần tự và cách xử lý lặp. So sánh số lần Win của cách xử lý tuần tự và cách xử lý lặp .1 Giới thiệu Ngày nay, với sự phát triển nhanh chóng trong lĩnh vực khai phá dữ liệu người ta đã có thể áp dụng các kỹ thuật khai phá dữ liệu để khám phá thông tin ẩn chứa trong khối lượng dữ liệu lớn ở nhiều ngành nghề, nền công nghiệp, trong đó có lĩnh vực giáo dục. Khai phá dữ liệu trong môi trường giáo dục (Educational Data Mining – EDM) liên quan đến công việc phát triển các phương pháp khám phá tri thức từ dữ liệu có nguồn gốc từ môi trường giáo dục [10] và hỗ trợ việc ra quyết định ở các cơ sở giáo dục [14].
Bằng cách sử dụng các kỹ thuật này, nhiều loại tri thức có thể được khám phá như các luật kết hợp (association rule), phân loại (classification) hay gom cụm (cluster- ing). Một trong những kết quả quan trọng mà EDM có thể hỗ trợ giáo viên hay cấp quản lý là việc đưa ra những dự báo về kết quả học tập của sinh viên. Việc dự báo sớm kết quả học tập của sinh viên từ những năm học đầu giúp nhà trường hay khoa quản lý chuyên ngành có những biện pháp khuyến khích các sinh viên giỏi phát triển hay hỗ trợ kịp thời các sinh viên gặp khó khăn trong học tập. Ở trường đại học Bách Khoa – Đại học quốc gia Thành phố Hố Chí Minh (gọi tắt là trường đại học Bách Khoa TP.HCM), vấn đề dự báo sớm kết quả học tập của sinh viên chính quy đang nhận được sự quan tâm đáng kể, thể hiện qua các công trình [1][2][3][4][5].
Nhìn chung các nghiên cứu gần đây của các học viên cao học và giảng viên khoa Khoa học và Kỹ thuật máy tính (KH&KTMT) đặc biệt quan tâm đến việc phát hiện sớm những sinh viên gặp khó khăn trong học tập. Có nhiều yếu tố tác động đến kết quả học tập của sinh viên, cũng như có nhiều nguyên nhân làm sinh viên có kết quả học tập kém. Chẳng hạn, sinh viên có hoàn cảnh gia đình khó khăn sẽ tìm việc làm thêm ngoài giờ học để trang trải chi phí. Chính điều này làm sinh viên dành ít thời gian cho học tập, dẫn đến việc học đạt kết quả thấp.
Tuy nhiên, để có được các thông tin bên ngoài cánh cửa nhà trường thế này là một việc khó khăn và tốn kém chi phí khi phải làm khảo sát. Hơn nữa việc khảo sát có thể không đạt được kết quả như mong muốn, tức là tìm ra nguyên nhân chính dẫn đến việc học tập gặp trở ngại, vì sinh viên có thể không trả lời thành thật 1 (vì mặc cảm, chẳng hạn) hay vì chỉ khảo sát trên một số lượng ít sinh viên nên không thể đại diện cho tất cả sinh viên được. Do đó, nghiên cứu này, cũng như các nghiên cứu gần đây thực hiện ở trường đại học Bách Khoa, chỉ tập trung đến những gì sinh viên thể hiện ra trong học tập của mình, đó là điểm số cuối môn học của sinh viên.2 Mục tiêu Trước những vấn đề vừa nêu, mục tiêu chính của nghiên cứu này là phát triển một mô hình dự báo sớm kết quả học tập của sinh viên đại học trong hệ giáo dục theo học chế tín chỉ. Nghiên cứu mong muốn mô hình này sẽ được dùng để phát hiện những sinh viên được dự báo là sẽ không tốt nghiệp sau thời gian học chính thức theo chương trình.
Việc dự báo sớm này nhằm giúp nhà trường, ban chủ nhiệm khoa và giáo viên chủ nhiệm đưa ra những biện pháp hỗ trợ kịp thời cho những sinh viên gặp khó khăn. Đối tượng cụ thể để dự báo phân loại là sinh viên khoa KH&KTMT thuộc trường đại học Bách Khoa TP. Để thực hiện được mục tiêu, với xem xét đến đặc điểm của dữ liệu đang nghiên cứu là dữ liệu thưa và dữ liệu chưa có nhãn lớp hiện hữu với số lượng lớn so với lượng dữ liệu đã có nhãn lớp, nghiên cứu này sẽ vận dụng các kỹ thuật xử lý dữ liệu thưa kết hợp với phương pháp học bán giám sát để đưa ra mô hình dự báo có độ chính xác cao nhất có thể.3 Ý nghĩa khoa học và thực tiễn 1.1 Ý nghĩa khoa học Một mô hình phân lớp truyền thống sử dụng một tập huyến luyện (training set) gồm các mẫu đã có nhãn lớp để xây dựng một bộ phân lớp và sử dụng một tập thử (test set) gồm dữ liệu đã có nhãn khác để củng cố bộ phân lớp. Trong bối cảnh của nghiên cứu này, dữ liệu có nhãn lớp chỉ đạt được khi sinh viên hoàn thành xong chương trình học chính thức (từ 4 đến 5 năm), và một bộ phân lớp có giám sát nếu được sử dụng thì chỉ được huấn luyện trên tập dữ liệu sinh viên đã hoàn thành thời gian học chính thức.
Trong khi đó, lượng dữ liệu chưa có nhãn lớp tồn tại rất nhiều. Do đó, nghiên cứu sẽ vận dụng và phát triển phương pháp phân lớp bán giám sát để có thể tận dụng dữ liệu chưa có nhãn cùng với dữ liệu đã có nhãn. Việc làm này có 2 ý nghĩa khoa học ở chỗ hiện chưa có nhiều nghiên cứu vận dụng các kỹ thuật học bán giám sát trong lĩnh vực EDM. Ngoài ra, xét đến đặc điểm của dữ liệu đang nghiên cứu là dữ liệu thưa, nghiên cứu này sẽ phát triển một phương pháp học bán giám sát có tích hợp việc xử lý dữ liệu thưa một cách hiệu quả nhất.
Đây là một nét mới trong các nghiên cứu về các kỹ thuật học bán giám sát.2 Ý nghĩa thực tiễn Việc dự báo sớm những sinh viên gặp khó khăn trong học tập có ý nghĩa thực tiễn to lớn. Kết quả dự báo giúp nhà trường hay khoa quản lý chuyên ngành có những biện pháp hỗ trợ kịp thời các sinh viên này. Nếu có thể xây dựng một bộ phân lớp có thể đưa ra dự báo một sinh viên có nguy cơ không tốt nghiệp ngay khi sinh viên vừa hoàn thành xong năm thứ hai thì việc đợi đến sau khi sinh viên này hoàn thành năm thứ ba hay thứ tư mới đưa ra dự báo thì dễ thấy việc dự báo trễ hơn sẽ ảnh hưởng đến việc giúp đỡ sinh viên này cũng như làm mất đi ý nghĩa của việc dự báo sớm.4 Giới hạn của đề tài Đề tài chỉ tập trung xử lý đặc điểm thưa của dữ liệu dùng trong nghiên cứu, do đó, không quan tâm đến việc xử lý các đặc điểm khác (nếu có) của tập dữ liệu này như không cân bằng nhãn lớp (class imbalance) hay dữ liệu chồng chập (overlapping).5 Dữ liệu thưa Định nghĩa dữ liệu không đầy đủ: Trong không gian N chiều cho tập dữ liệu trong đó mỗi đối tượng X được biểu diễn bằng N thuộc tính. Tập dữ liệu này được gọi là không đầy đủ nếu một hoặc nhiều thuộc tính của một hoặc nhiều đối tượng không có giá trị.
Trong tập dữ liệu dùng cho nghiên cứu này, mỗi sinh viên là một đối tượng và mỗi môn học trong chương trình là một thuộc tính. Do trường đại học Bách Khoa đào tạo theo học chế tín chỉ nên sinh viên có quyền tự do chọn lựa các môn học, đồng thời không phải tất cả sinh viên đều học hết tất cả các môn có trong chương trình đào tạo. Mặt khác, trong dữ liệu có các sinh viên với thời gian học ngắn, như sinh 3 viên mới hoàn thành năm thứ nhất, nên sẽ có rất nhiều môn chưa được học và do đó điểm số tại các môn đó là chưa có. Điều này dẫn đến tập dữ liệu nghiên cứu là dữ liệu không đầy đủ, hay thưa, và mức độ thưa của dữ liệu được biểu diễn qua tỉ lệ phần trăm giá trị bị thiếu trong toàn bộ tập dữ liệu.
Các môn học chưa có điểm của sinh viên sẽ được gán giá trị là NULL như minh họa trong Bảng 1 dưới đây.
