Chương 1, chúng tôi đã trình bày tổng quan về học máy, học sâu đồng thời giới thiệu sơ bộ kết quả của phương pháp học máy Nave Bayes, ID3, C4.5 và SVM trong việc đánh giá độ chính xác. Những kiến thức chi tiết hơn về các phương phá học máy như Cây quyết định, mạng nơ ron…. sẽ được trình bày chi tiết trong chương tiếp theo. 18 CHƯƠNG 2: MỘT SỐ PHƯƠNG PHÁP HỌC MÁY SỬ DỤNG TRONG BÀI TOÁN DỰ ĐOÁN KẾT QUẢ HỌC TẬP Các phương pháp dự đoán được sử dụng để đánh giá kết quả học tập của sinh viên trong phương pháp khai thác dữ liệu giáo dục, mô hình dự đoán thường được sử dụng để dự đoán kết quả học tập của sinh viên.
Để xây dựng mô hình dự đoán, có một số nhiệm vụ được sử dụng, đó là phân loại, hồi quy và phân loại. Nhiệm vụ phổ biến nhất để dự đoán thành tích của sinh viên là phân loại. Có một số thuật toán trong nhiệm vụ phân loại đã được áp dụng để dự đoán kết quả học tập của sinh viên. Trong số các thuật toán được sử dụng có Cây quyết định, Mạng nơ-ron nhân tạo, Naive Bayes, Hàng xóm gần nhất K và Máy vectơ hỗ trợ.
Tiếp theo, ứng dụng cụ thể của kỹ thuật khai phá dữ liệu nhóm theo thuật toán trong dự đoán kết quả học tập của sinh viên sẽ được trình bày trong phần tiếp theo.1 Decision Tree (Cây quyết định) Cây quyết định là một trong những kỹ thuật phổ biến để dự đoán. Hầu hết các nhà nghiên cứu đã sử dụng kỹ thuật này vì tính đơn giản và dễ hiểu của nó để khám phá cấu trúc dữ liệu nhỏ hoặc lớn và dự đoán giá trị. Romero et al. (2008) cho rằng các mô hình cây quyết định dễ hiểu do quá trình lập luận của chúng và có thể được chuyển đổi trực tiếp thành tập luật IF-THEN.
Như thể hiện trong Bảng2, có khoảng mười (10) bài báo đã sử dụng Cây quyết định làm phương pháp đánh giá thành tích của sinh viên. Ví dụ về các nghiên cứu trước đây sử dụng phương pháp Cây quyết định đang dự đoán các đặc điểm bỏ học của dữ liệu sinh viên về kết quả học tập , dự đoán hiệu suất học kỳ thứ ba của sinh viên MCA và cũng dự đoán nghề nghiệp phù hợp cho sinh viên thông qua các mẫu hành vi của họ. Việc đánh giá hiệu suất của sinh viên dựa trên các tính năng được trích xuất từ dữ liệu đã ghi trong hệ thống dựa trên web giáo dục. Các ví dụ về tập dữ liệu là điểm cuối cấp của sinh viên, điểm trung bình tích 19 lũy cuối kỳ (CGPA) và điểm đạt được trong các khóa học cụ thể.
Tất cả các bộ dữ liệu này đã được nghiên cứu và phân tích để tìm ra các thuộc tính hoặc yếu tố chính có thể ảnh hưởng đến kết quả học tập của sinh viên. Sau đó, thuật toán khai thác dữ liệu phù hợp sẽ được nghiên cứu để dự đoán kết quả học tập của sinh viên. Mayilvaganan và Kapalnadevi (2014), đã so sánh các kỹ thuật phân loại để dự đoán kết quả học tập của sinh viên. Trong khi đó, Grayetal.
(2014) đã điều tra tính chính xác của các mô hình phân loại để dự đoán sự tiến bộ của người học trong giáo dục đại học.2 Neural Network (Mạng Nơ ron) Mạng Nơ ron (Neural) là một kỹ thuật phổ biến khác được sử dụng trong khai thác dữ liệu giáo dục. Ưu điểm của mạng nơ-ron là nó có khả năng phát hiện tất cả các tương tác có thể có giữa các biến dự đoán. Mạng nơ-ron cũng có thể thực hiện phát hiện hoàn chỉnh mà không có bất kỳ nghi ngờ nào ngay cả trong mối quan hệ phi tuyến tính phức tạp giữa các biến phụ thuộc và biến độc lập. Do đó, kỹ thuật mạng nơ-ron được chọn là một trong những phương pháp dự đoán tốt nhất.
Thông qua nghiên cứu phân tích tổng hợp, tám bài báo đã được xuất bản bằng phương pháp Mạng nơ-ron. Các bài báo trình bày một mô hình Mạng nơ-ron nhân tạo để dự đoán hiệu suất của sinh viên. Các thuộc tính được phân tích bởi Mạng nơ-ron là dữ liệu nhập học, thái độ của sinh viên đối với việc học tập tự điều chỉnh và kết quả học tập. Phần còn lại là các bài báo tương tự ngoài phương pháp Cây quyết định mà các nhà nghiên cứu đã sử dụng cả hai kỹ thuật để so sánh cái nào là phương pháp dự đoán tốt nhất để phân tích thành tích của sinh viên.
Kết quả về độ chính xác của dự đoán được tóm tắt trong Bảng 2.1 Độ chính xác của kết quả sử dụng phương pháp Cây quyết định Bảng 2.2 Độ chính xác của kết quả sử dụng phương pháp Mạng nơ-ron 2.3 Naive Bayes Thuật toán Naive Bayes cũng là một lựa chọn để các nhà nghiên cứu đưa ra dự đoán. Trong số ba mươi bài báo, có bốn bài báo đã sử dụng thuật toán Naive Bayes để ước tính hiệu suất của sinh viên. Mục tiêu của cả bốn (4) bài viết này là tìm ra kỹ thuật dự đoán hiệu quả nhất trong việc dự đoán kết quả học tập của sinh viên bằng cách so sánh. Nghiên cứu của họ cho thấy Naive Bayes đã sử dụng tất cả các thuộc tính có trong dữ liệu.
Sau đó, nó phân tích từng thuộc tính để chỉ ra tầm quan trọng và tính độc lập của từng thuộc tính. Kết quả được thể hiện trong Bảng2.3 Độ chính xác của kết quả sử dụng phương pháp Naive Bayes 21 2.4 K-Nearest Neighbor (Thuật toán K lân cận gần nhất) Như mô tả trong Bảng 2.4, cả ba bài báo được nghiên cứu trong nghiên cứu này đều cho thấy K-Nearest Neighbor cho hiệu suất tốt nhất với độ chính xác cao. (2003), phương pháp K-Nearest Neighbor tốn ít thời gian hơn để xác định kết quả học tập của sinh viên như học chậm, học trung bình, học giỏi và học giỏi. K-Nearest Neighbor cung cấp độ chính xác cao trong việc ước tính mô hình chi tiết cho sự tiến bộ của người học trong giáo dục đại học.4 Độ chính xác của kết quả sử dụng phương pháp K lân cận gần nhất Hình 2.5 Độ chính xác dự đoán được nhóm theo thuật toán từ 2002-2015 2.5 Support Vector Machine (Máy véc tơ hỗ trợ) Support Vector Machine là một phương pháp học có giám sát được sử dụng để phân loại.
Có ba bài báo đã sử dụng Support Vector Machine làm phương pháp dự đoán thành tích của sinh viên. Hamalainen và cộng sự. (2006) đã chọn Support Vector Machine làm kỹ thuật dự đoán của họ vì nó rất phù hợp 22 với các tập dữ liệu nhỏ. Sembiring et al.
(2011) cho rằng Support Vector Machine có khả năng tổng quát hóa tốt và nhanh hơn các phương pháp khác. Trong khi đó, nghiên cứu được thực hiện bởi Gray và cộng sự (2014) đã chứng minh rằng phương pháp Support Vector Machine đã đạt được độ chính xác dự đoán cao nhất trong việc xác định những sinh viên có nguy cơ thất bại. Bảng 5 cho thấy kết quả của độ chính xác dự đoán.6 Bảng độ chính xác của kết quả sử dụng phương pháp Support Vector Machine Chúng tôi sẽ thảo luận về phân tích kết quả của các công trình gần đây trong việc dự đoán kết quả học tập của sinh viên. Phân tích tổng hợp này dựa trên các phương pháp dự đoán có độ chính xác cao nhất và cũng là những yếu tố quan trọng chính có thể ảnh hưởng đến kết quả học tập của sinh viên.
Độ chính xác của dự đoán sử dụng phương pháp phân loại được nhóm theo thuật toán để dự đoán kết quả học tập của sinh viên từ năm 2002 đến 2015. Bằng cách nhìn vào đồ thị trong hình 2.5, Mạng nơ-ron có độ chính xác dự đoán cao nhất (98%), tiếp theo là Cây quyết định (91%). Tiếp theo, Support Vector Machine và K-Nearest Neighbor cho cùng độ chính xác, đó là (83%). Cuối cùng, phương pháp có độ chính xác dự đoán thấp hơn là Naive Bayes by (76%).
Kết quả về độ chính xác của dự đoán phụ thuộc vào các thuộc tính hoặc tính năng đã được sử dụng trong quá trình dự đoán. Phương pháp Mạng nơ-ron cho độ chính xác dự đoán cao nhất do ảnh hưởng từ các thuộc tính chính. Thuộc tính này là sự kết hợp của hai tính năng, đó là đánh giá bên trong và bên ngoài. Với việc chỉ sử dụng một biến, đó là các đánh giá bên ngoài, độ chính xác sẽ giảm (1%).
Biến được sử dụng nhiều thứ ba là các đánh giá nội bộ cho kết quả chính xác (81%). Nó cho thấy đánh giá bên ngoài, tức là điểm đạt được trong 23 kỳ thi cuối kỳ, đóng một vai trò quan trọng trong việc dự đoán kết quả học tập của sinh viên. Trong khi, biến có ý nghĩa tác động ít nhất đến kết quả học tập của sinh viên là các yếu tố tâm lý với độ chính xác chỉ (69%). Các yếu tố tâm lý thường sử dụng dữ liệu định tính nên thuật toán Mạng nơ-ron khó đưa ra dự đoán thay vì sử dụng dữ liệu định lượng.
Tuy nhiên, phương pháp Neural Network vẫn có ít lỗi dự đoán tối đa hơn. Sai số dự đoán tối đa nhỏ hơn (10%). Một ưu điểm khác của Neural Network là khả năng nắm bắt các mối quan hệ phi tuyến tính một cách dễ dàng. Nó còn được gọi là hệ thống thích ứng do khả năng dễ dàng cập nhật dữ liệu lịch sử giống như bộ não con người.
Vì vậy, mô hình luôn hoạt động ngoài cơ sở tri thức. Ngoài ra, điểm mạnh của mạng nơ- ron là khả năng học hỏi từ một tập hợp dữ liệu hạn chế. Độ chính xác dự đoán cao thứ hai là phương pháp Cây quyết định bởi (91%) độ chính xác về hiệu suất. Trong phương pháp Cây quyết định, yếu tố mang lại độ chính xác cao nhất trong việc dự đoán kết quả học tập của sinh viên là CGPA.
Có hai nghiên cứu khác ủng hộ tuyên bố này khi chúng bao gồm CGPA làm tính năng chính của chúng, dự đoán kết quả là khoảng (90%) độ chính xác về hiệu suất. Có thể kết luận rằng Cây quyết định có thể xử lý cả dữ liệu số và dữ liệu phân loại, hoạt động tốt trong tập dữ liệu lớn và dễ hiểu, diễn giải được mối quan hệ giữa các biến. Bên cạnh đó, thuộc tính ít quan trọng hơn trong việc dự đoán kết quả học tập của sinh viên là các yếu tố tâm lý với kết quả chính xác chỉ (65%). Nó cho thấy rằng Cây quyết định không phù hợp để dự đoán hiệu suất của sinh viên bằng cách sử dụng các biến tâm lý.
Tiếp theo là Support Vector Machine với hiệu suất chính xác khoảng (83%).