Luận văn: Sử dụng thuật toán học máy dự đoán thành tích học tập của học sinh

Khám phá tài liệu luận văn ứng dụng thuật toán học máy dự đoán thành tích học tập. Nghiên cứu các mô hình, phương pháp và kết quả phân tích dữ liệu.

• Tác giả: Nguyễn Bích Quỳnh
• Người hướng dẫn: TS. Đàm Thanh Phương
• Trường học: Trường Đại học Công nghệ Thông tin và Truyền thông - Đại học Thái Nguyên
• Chuyên ngành: Khoa học máy tính
• Đề tài: Sử dụng một số thuật toán học máy để dự đoán thành tích học tập của học sinh
• Loại tài liệu: Luận văn thạc sĩ
• Năm xuất bản: 2020
• Địa điểm: Thái Nguyên

Tóm tắt

I. Khám phá Tiềm năng Dự đoán thành tích học tập bằng thuật toán học máy mang lại lợi ích gì

Trong bối cảnh giáo dục hiện đại, việc đánh giá và hỗ trợ học sinh ngày càng đòi hỏi sự chính xác và cá nhân hóa. Phương pháp truyền thống thường gặp hạn chế trong việc cung cấp cái nhìn sâu sắc và kịp thời về tiềm năng cũng như rủi ro học tập của từng cá nhân. Dự đoán thành tích học tập bằng thuật toán học máy nổi lên như một giải pháp đột phá, sử dụng sức mạnh của phân tích dữ liệu học tập để không chỉ nhận diện các yếu tố ảnh hưởng mà còn dự báo kết quả học tập tương lai. Việc này mở ra cơ hội lớn để các nhà giáo dục, phụ huynh và bản thân học sinh đưa ra quyết định sáng suốt hơn, từ đó nâng cao chất lượng giáo dục tổng thể.

Sự phát triển của machine learning giáo dục cho phép xử lý lượng lớn dữ liệu đa dạng, từ điểm số, hành vi tham gia lớp học đến các yếu tố xã hội và tâm lý. Khả năng này vượt xa khả năng của con người trong việc tìm ra các mối quan hệ phức tạp, tiềm ẩn trong dữ liệu. Thay vì chỉ phản ứng sau khi vấn đề xảy ra, hệ thống dựa trên học máy có thể cảnh báo sớm về các nguy cơ như nguy cơ bỏ học, học lực yếu kém hoặc thiếu động lực, tạo điều kiện cho các can thiệp kịp thời và hiệu quả. Việc áp dụng học máy trong giáo dục không chỉ dừng lại ở việc dự đoán mà còn hỗ trợ cá nhân hóa lộ trình học, tối ưu hóa tài nguyên và phát triển các chính sách giáo dục dựa trên bằng chứng cụ thể. Điều này giúp hệ thống giáo dục trở nên chủ động hơn, đáp ứng tốt hơn nhu cầu đa dạng của người học trong một thế giới thay đổi không ngừng. Đây chính là bước tiến quan trọng để kiến tạo một môi trường học tập công bằng và hiệu quả hơn.

1.1. Hiểu rõ thách thức Tại sao việc đánh giá truyền thống chưa đủ để dự đoán thành tích học tập

Việc đánh giá thành tích học tập theo phương pháp truyền thống, chủ yếu dựa vào điểm số các bài kiểm tra định kỳ, thường chỉ phản ánh một phần hạn chế về năng lực và tiềm năng của học sinh. Các phương pháp này thiếu khả năng tích hợp và phân tích đa chiều các yếu tố phi học thuật như thái độ, sự tương tác, hoàn cảnh gia đình hay các kỹ năng mềm, những yếu tố có ảnh hưởng sâu sắc đến kết quả học tập. Hơn nữa, việc đánh giá thủ công thường tốn thời gian, dễ bị ảnh hưởng bởi yếu tố chủ quan và thường chỉ mang tính chất 'hậu kiểm', tức là cung cấp thông tin sau khi vấn đề đã xảy ra. Điều này khiến việc can thiệp hỗ trợ trở nên kém hiệu quả và đôi khi là quá muộn. Mục tiêu là chuyển đổi từ việc chỉ đơn thuần ghi nhận thành tích sang phân tích dữ liệu học tập để đưa ra các dự báo mang tính chủ động, giúp nhà trường và giáo viên có cái nhìn toàn diện hơn về từng học sinh.

1.2. Mở rộng tầm nhìn Học máy trong giáo dục thay đổi cách thức dự đoán như thế nào

Sự xuất hiện của học máy trong giáo dục đã cách mạng hóa cách thức dự đoán thành tích học tập. Thay vì chỉ dựa vào điểm số cuối kỳ, các thuật toán học máy có khả năng xử lý và tìm ra mối liên hệ từ một lượng lớn dữ liệu đa dạng – từ dữ liệu nhân khẩu học, điểm số quá khứ, mức độ tham gia vào các hoạt động trên lớp, hành vi sử dụng tài nguyên học tập trực tuyến, cho đến các yếu tố tâm lý và xã hội. Việc này giúp xây dựng một bức tranh toàn diện và động về người học. Nhờ các mô hình dự đoán học tập tiên tiến, hệ thống có thể nhận diện các mẫu (patterns) phức tạp, dự báo nguy cơ học sinh gặp khó khăn hoặc có khả năng vượt trội, ngay cả trước khi các dấu hiệu rõ ràng xuất hiện. Điều này cho phép giáo viên và nhà trường thực hiện các biện pháp hỗ trợ, can thiệp cá nhân hóa kịp thời, từ đó cải thiện đáng kể hiệu quả giáo dục và phát huy tối đa tiềm năng của mỗi học sinh. Việc này không chỉ giúp cải thiện thành tích học tập mà còn tối ưu hóa nguồn lực.

II. Các phương pháp hàng đầu Thuật toán học máy nào hiệu quả nhất để dự đoán thành tích học tập

Để thực hiện dự đoán thành tích học tập bằng thuật toán học máy một cách chính xác, việc lựa chọn và tinh chỉnh các thuật toán là yếu tố then chốt. Có nhiều thuật toán khác nhau có thể được áp dụng, mỗi loại có ưu và nhược điểm riêng tùy thuộc vào đặc điểm của dữ liệu và mục tiêu dự đoán. Các nghiên cứu đã khám phá hiệu quả của nhiều phương pháp từ hồi quy tuyến tính đơn giản đến các mô hình phức tạp hơn như rừng ngẫu nhiên hay máy véc tơ hỗ trợ. Một quy trình bài bản bao gồm thu thập dữ liệu, xử lý tiền đề, lựa chọn thuộc tính và huấn luyện mô hình là cần thiết để đảm bảo tính tin cậy của kết quả dự đoán. Việc tối ưu hóa các tham số của mô hình và áp dụng các kỹ thuật lựa chọn thuộc tính phù hợp sẽ giúp tăng cường độ chính xác, giảm thiểu nhiễu và tập trung vào các yếu tố thực sự có ảnh hưởng đến thành tích học tập. Ví dụ, trong luận văn của Nguyễn Bích Quỳnh (2020), các thuật toán như SVM, Linear Regression, Naive Bayes, K Nearest Neighbor và Random Forest đã được thử nghiệm để đánh giá khả năng dự đoán điểm trung bình các môn học của học sinh (TBCM). Các thử nghiệm này cung cấp cái nhìn cụ thể về hiệu suất của từng thuật toán trong bối cảnh giáo dục. Việc hiểu rõ cách mỗi thuật toán dự đoán điểm hoạt động sẽ giúp các nhà phát triển và nhà giáo dục lựa chọn công cụ phù hợp nhất để đạt được mục tiêu cải thiện thành tích học tập của học sinh.

2.1. Lựa chọn thuật toán SVM Hồi quy tuyến tính và Rừng ngẫu nhiên đâu là lựa chọn tối ưu

Việc lựa chọn thuật toán học máy phù hợp là yếu tố sống còn để đạt được độ chính xác cao trong việc dự đoán thành tích học tập. Các thuật toán phổ biến bao gồm:

• Support Vector Machine (SVM): Hoạt động tốt với dữ liệu có nhiều chiều, hiệu quả trong phân loại và hồi quy bằng cách tìm một siêu phẳng tối ưu để phân tách các lớp dữ liệu.
• Linear Regression (LR): Đơn giản, dễ hiểu, phù hợp để dự đoán các giá trị liên tục như điểm số, khi có mối quan hệ tuyến tính giữa các biến.
• Naive Bayes (NB): Dựa trên định lý Bayes, hiệu quả với các bài toán phân loại, đặc biệt khi các thuộc tính độc lập với nhau.
• K Nearest Neighbor (KNN): Thuật toán phi tham số, phân loại hoặc hồi quy dựa trên các điểm dữ liệu gần nhất.
• Random Forest (RF): Một tập hợp các cây quyết định, giảm thiểu hiện tượng quá khớp và thường cho độ chính xác cao.

Theo luận văn của Nguyễn Bích Quỳnh (2020), các mô hình này được thử nghiệm để đánh giá độ chính xác của các mô hình khi training với dữ liệu đủ thuộc tính và dữ liệu lựa chọn thuộc tính. Kết quả cho thấy các mô hình khác nhau có hiệu suất khác nhau, với RandomForestClassifier và DecisionTreeClassifier đạt điểm số test khả quan, ví dụ Score DecisionTreeClassifier Test= 0.839892. Việc lựa chọn tối ưu thường phụ thuộc vào đặc điểm cụ thể của bộ dữ liệu và yêu cầu về độ chính xác.

2.2. Xây dựng mô hình Quy trình xử lý dữ liệu và huấn luyện để tối ưu hóa dự đoán.

Quy trình xây dựng mô hình dự đoán học tập bao gồm nhiều bước tuần tự, bắt đầu từ việc thu thập dữ liệu. Luận văn của Nguyễn Bích Quỳnh (2020) đã sử dụng 'Phiếu khảo sát thông tin' để thu thập dữ liệu khách quan, xác định các 'feature đặc biệt ảnh hưởng đến thành tích học tập của học sinh'. Sau đó, dữ liệu cần được chuẩn hóa và xử lý tiền đề để loại bỏ các giá trị thiếu hoặc không nhất quán. 'Thống kê thuộc tính bị thiếu dữ liệu' là một bước quan trọng.

Tiếp theo là giai đoạn huấn luyện mô hình, nơi các thuật toán học máy được áp dụng để học từ dữ liệu đã chuẩn bị. Quá trình này được xem là 'learning của machine', nơi hệ thống đi tìm các tham số mô hình (θ) để tối thiểu hóa hàm mất mát (loss function hoặc cost function) L(θ) hoặc J(θ). Việc 'nghiên cứu điều chỉnh các tham số mô hình của thuật toán để xem xét hiệu quả' là một phần quan trọng để tối ưu hóa kết quả. Một mô hình được huấn luyện tốt sẽ có khả năng khái quát hóa cao, tức là có thể dự đoán thành tích học tập chính xác trên dữ liệu mới chưa từng thấy.

2.3. Tối ưu hóa hiệu suất Phương pháp lựa chọn thuộc tính Feature Selection gia tăng độ chính xác.

Sau khi lựa chọn và huấn luyện mô hình ban đầu, bước quan trọng tiếp theo để tối ưu hóa hiệu suất là áp dụng các phương pháp lựa chọn thuộc tính (Feature Selection). Kỹ thuật này giúp xác định và loại bỏ các thuộc tính không cần thiết hoặc ít ảnh hưởng, tập trung vào những 'feature đặc biệt ảnh hưởng đến thành tích học tập'. Ví dụ, trong luận văn của Nguyễn Bích Quỳnh (2020), 'Feature Selection với Lasso' đã được sử dụng. Bằng cách giảm số lượng thuộc tính đầu vào, mô hình không chỉ trở nên đơn giản hơn, giảm nguy cơ quá khớp (overfitting) mà còn tăng cường khả năng diễn giải và quan trọng nhất là cải thiện đáng kể độ chính xác của các mô hình. Nghiên cứu đã chỉ ra rằng 'khi sử dụng feature selection, kết quả chính xác hơn' so với việc sử dụng tất cả các thuộc tính. Cụ thể, 'Accuracy explode các model khi sử dụng all features' đã được so sánh với 'Accuracy explode các model khi sử dụng features selection', minh chứng cho hiệu quả của phương pháp này. Việc này đảm bảo rằng mô hình dự đoán học tập tập trung vào các yếu tố quan trọng nhất, mang lại kết quả đáng tin cậy hơn.

III. Ứng dụng thực tiễn Cách dự đoán thành tích học tập bằng AI kiến tạo tương lai giáo dục

Việc dự đoán thành tích học tập bằng thuật toán học máy không chỉ là một khái niệm học thuật mà đã được chuyển hóa thành các ứng dụng thực tiễn mang lại giá trị to lớn cho ngành giáo dục. Từ việc cá nhân hóa trải nghiệm học tập đến hỗ trợ các nhà quản lý đưa ra quyết định chiến lược, tiềm năng của học máy trong giáo dục là vô hạn. Các hệ thống dự đoán có khả năng cảnh báo sớm về các nguy cơ học tập, giúp giáo viên và phụ huynh có những can thiệp kịp thời để ngăn chặn tình trạng học sinh yếu kém hoặc bỏ học. Điều này đặc biệt quan trọng trong việc đảm bảo không học sinh nào bị bỏ lại phía sau. Ngoài ra, việc hiểu rõ hơn về cách các yếu tố khác nhau ảnh hưởng đến kết quả học tập còn cho phép nhà trường thiết kế các chương trình học và tài liệu giảng dạy phù hợp hơn với nhu cầu đa dạng của người học. Việc này không chỉ cải thiện thành tích học tập mà còn nâng cao sự hài lòng và động lực học tập của học sinh. Theo Nguyễn Bích Quỳnh (2020), một 'web demo' đã được xây dựng để 'dự đoán điểm trung bình môn học của dữ liệu cần dự đoán và xếp loại tương ứng', cho phép người dùng 'chọn sử dụng tất cả feature hay sử dụng lựa chọn feature ảnh hưởng nhất'. Điều này cho thấy tính ứng dụng cao và khả năng tương tác của các mô hình dự đoán học tập trong môi trường thực tế, mở ra một kỷ nguyên mới cho giáo dục thông minh và cá nhân hóa.

3.1. Nâng cao trải nghiệm học tập Cá nhân hóa lộ trình và phát hiện sớm rủi ro.

Một trong những lợi ích của việc dự đoán thành tích học tập bằng học máy rõ rệt nhất là khả năng cá nhân hóa trải nghiệm học tập. Các mô hình dự đoán có thể xác định sớm những học sinh có nguy cơ gặp khó khăn, cho phép giáo viên cung cấp sự hỗ trợ đặc biệt hoặc các tài liệu bổ sung phù hợp. Đồng thời, những học sinh có tiềm năng vượt trội cũng có thể được nhận diện để khuyến khích phát triển tài năng thông qua các chương trình nâng cao. Hệ thống có thể gợi ý các lộ trình học tập tối ưu, tài nguyên phù hợp với phong cách học của từng học sinh, từ đó tăng cường hiệu quả tiếp thu kiến thức. Việc này giống như có một gia sư cá nhân hóa cho mỗi học sinh, giúp cải thiện thành tích học tập một cách đáng kể. Luận văn của Nguyễn Bích Quỳnh (2020) đã phát triển một 'web demo' cho phép người dùng 'chọn tập test hoặc dữ liệu cần dự đoán để upload lên', sau đó hệ thống sẽ 'đưa ra điểm trung bình môn học của dữ liệu cần dự đoán và xếp loại tương ứng'. Đây là một ví dụ điển hình về việc ứng dụng công nghệ để nâng cao trải nghiệm học tập cá nhân hóa.

3.2. Hỗ trợ quyết định chiến lược Từ dữ liệu đến chính sách giáo dục hiệu quả hơn.

Ngoài việc hỗ trợ cá nhân hóa, dự đoán thành tích học tập bằng thuật toán học máy còn cung cấp những thông tin giá trị để các nhà quản lý giáo dục đưa ra quyết định chiến lược. Bằng cách phân tích xu hướng và các yếu tố ảnh hưởng ở cấp độ tổng thể, nhà trường và các cơ quan giáo dục có thể phát triển các chính sách, chương trình đào tạo và phân bổ nguồn lực hiệu quả hơn. Ví dụ, hệ thống có thể giúp xác định các môn học cần cải thiện, các phương pháp giảng dạy cần điều chỉnh hoặc những nhóm học sinh cần được quan tâm đặc biệt. 'Từ một tập dữ liệu data thu thập được một cách khách quan có thể dễ dàng xác định được các feature đặc biệt ảnh hưởng đến thành tích học tập của học sinh' như đã đề cập trong luận văn của Nguyễn Bích Quỳnh (2020). Dữ liệu này trở thành nền tảng vững chắc cho việc thiết kế các can thiệp mang tính hệ thống, góp phần nâng cao chất lượng giáo dục toàn diện. Điều này giúp các nhà lãnh đạo giáo dục chuyển từ việc đưa ra quyết định dựa trên trực giác sang quyết định dựa trên dữ liệu cụ thể, tăng cường hiệu quả của các cải cách giáo dục.

IV. Kết quả nghiên cứu và Triển vọng Dự đoán thành tích học tập bằng học máy định hình tương lai giáo dục

Các nghiên cứu về dự đoán thành tích học tập bằng thuật toán học máy đã đạt được những kết quả đáng khích lệ, chứng minh tính hiệu quả và tiềm năng ứng dụng rộng rãi của phương pháp này. Việc đánh giá độ chính xác của các mô hình là bước không thể thiếu để khẳng định giá trị của chúng. Thông qua việc so sánh hiệu suất giữa các thuật toán khác nhau và giữa các phương pháp xử lý dữ liệu (ví dụ: có hoặc không sử dụng lựa chọn thuộc tính), các nhà nghiên cứu có thể xác định được những cách tiếp cận tối ưu nhất. Những thành công ban đầu này mở ra cánh cửa cho nhiều ứng dụng tiên tiến hơn trong tương lai, không chỉ dừng lại ở việc dự báo điểm số mà còn mở rộng sang các lĩnh vực như phát hiện sớm hành vi bỏ học, hỗ trợ hướng nghiệp hay thậm chí là thiết kế chương trình học tự động phù hợp với năng lực từng học sinh. Tiềm năng của học máy trong giáo dục là rất lớn, hứa hẹn sẽ thay đổi hoàn toàn cách chúng ta tiếp cận việc giảng dạy và học tập, tạo ra một hệ sinh thái giáo dục thông minh và phản ứng nhanh nhạy hơn với nhu cầu của người học. Theo luận văn của Nguyễn Bích Quỳnh (2020), 'kết quả dự đoán điểm của một số học sinh khi sử dụng all feature' đã được so sánh với 'kết quả dự đoán điểm của một số học sinh khi sử dụng feature selection', khẳng định sự cải thiện rõ rệt về độ chính xác khi áp dụng kỹ thuật tối ưu hóa dữ liệu. Điều này nhấn mạnh tầm quan trọng của việc không ngừng cải tiến và tinh chỉnh các mô hình dự đoán học tập.

4.1. Đánh giá độ chính xác Hiệu quả thực tế của các mô hình dự đoán.

Độ chính xác là tiêu chí hàng đầu để đánh giá hiệu quả của bất kỳ mô hình dự đoán học tập nào. Trong nghiên cứu của Nguyễn Bích Quỳnh (2020), các 'độ chính xác của các mô hình' đã được đo lường khi 'training với dữ liệu đủ thuộc tính' và 'training với dữ liệu lựa chọn thuộc tính'. Các thuật toán như DecisionTreeClassifier đạt 'Score DecisionTreeClassifier Test= 0.839892', và RandomForestClassifier cũng cho kết quả cao. Một phát hiện quan trọng là 'khi sử dụng feature selection, kết quả chính xác hơn'. Điều này được thể hiện qua so sánh giữa 'Accuracy explode các model khi sử dụng all features' và 'Accuracy explode các model khi sử dụng features selection'. Các kết quả này chứng minh rằng việc áp dụng học máy trong giáo dục có thể mang lại những dự đoán đáng tin cậy, giúp các nhà giáo dục có căn cứ vững chắc để đưa ra các quyết định hỗ trợ và định hướng học tập cho học sinh. Việc đánh giá kỹ lưỡng này là nền tảng để xây dựng các hệ thống dự đoán mạnh mẽ và có giá trị thực tiễn.

4.2. Hướng đi mới Triển vọng ứng dụng học máy trong việc nâng cao chất lượng giáo dục.

Triển vọng của dự đoán thành tích học tập bằng thuật toán học máy trong việc nâng cao chất lượng giáo dục là rất lớn. Ngoài việc dự báo điểm số, các mô hình dự đoán học tập có thể được mở rộng để:

• Phát hiện sớm nguy cơ bỏ học: Xác định học sinh có khả năng bỏ học dựa trên các yếu tố như điểm số giảm sút, vắng mặt thường xuyên, hoặc thay đổi hành vi tương tác.
• Hỗ trợ định hướng nghề nghiệp: Dựa trên năng lực, sở thích và kết quả học tập dự đoán để gợi ý các ngành nghề phù hợp.
• Tối ưu hóa tài nguyên giảng dạy: Phân tích dữ liệu để điều chỉnh nội dung khóa học, tài liệu, và phương pháp giảng dạy cho phù hợp với phần lớn học sinh.
• Đánh giá hiệu quả chương trình giáo dục: Cung cấp thông tin chi tiết về tác động của các chương trình mới.

Như luận văn của Nguyễn Bích Quỳnh (2020) đã kết luận, 'Từ đó ta có thể ứng dụng' các kết quả để nâng cao năng lực học tập của học sinh. Sự kết hợp giữa phân tích dữ liệu học tập và các thuật toán tiên tiến sẽ tạo ra một hệ thống giáo dục chủ động, cá nhân hóa, và hiệu quả hơn, đáp ứng tốt hơn yêu cầu của xã hội hiện đại.

Trích đoạn nội dung tài liệu

CHƯƠNG 1 TỔNG QUAN VỀ HỌC MÁY Trong chương này, trình bày một số kiến thức tổng quan về học máy, các khái niệm liên quan đến ứng dụng mô hình học máy để có thể có cơ sở nghiên cứu các nội dung sau. Thuật toán học máy Một thuật toán machine learning là một thuật toán có khả năng học tập từ dữ liệu. Theo Mitchell [3], “A computer program is said to learn from experience E with respect to some tasks T and performance measure P , if its performance at tasks in T , as measured by P , improves with experience E. Một chương trình máy tính được gọi là “học tập” từ kinh nghiệm E để hoàn thành nhiệm vụ T với hiệu quả được đo bằng phép đánh giá P , nếu hiệu quả của nó khi thực hiện nhiệm vụ T , khi được đánh giá bởi P , cải thiện theo kinh nghiệm E.

Lấy ví dụ về một chương trình máy tính có khả năng tự chơi cờ vây. Chương trình này tự học từ các ván cờ đã chơi trước đó của con người để tính toán ra các chiến thuật hợp lý nhất. Mục đích của việc học này là tạo ra một chương trình có khả năng giành phần thắng cao. Chương trình này cũng có thể tự cải thiện khả năng của mình bằng cách chơi hàng triệu ván cờ với chính nó.

Trong ví dụ này, chương trình máy tính có nhiệm vụ chơi cờ vây thông qua kinh nghiệm là các ván cờ đã chơi với chính nó và của con người. Phép đánh giá ở đây chính là khả năng giành chiến thắng của chương trình. Để xây dựng một chương trình máy tính có khả năng học, ta cần xác định rõ ba yếu tố: nhiệm vụ, phép đánh giá, và nguồn dữ liệu huấn 6 luyện. Hay một chương trình học máy có khả năng dự đoán thành tích học tập của học sinh như mục tiêu của đề tài luận văn đang giải quyết.

Máy tính dựa vào các dữ liệu của các học sinh đã biết thành tích, phân tích các đặc trưng ảnh hưởng đến đầu ra, thực hiện training mô hình để có được mô hình dự đoán trên một mô hình học máy nào đấy để đưa ra kết quả dự đoán. Nhiệm vụ ở đây là đưa ra kết quả học tập dự đoán, từ kinh nghiệm là rất nhiều học sinh đã biết kết quả trên cơ sở mô tả được mỗi điểm dữ liệu là mỗi học sinh ấy có những thành phần nào (véc tơ dữ liệu), kết quả dự đoán được kiểm nghiệm so sánh với kết quả thực tế của học sinh trên tập dữ liệu test. Rồi đánh giá, cải thiện mô hình. Dữ liệu Các nhiệm vụ trong machine learning được mô tả thông qua việc một hệ thống xử lý một điểm dữ liệu đầu vào như thế nào.

Một điểm dữ liệu có thể là một bức ảnh, một đoạn âm thanh, một văn bản, hoặc một tập các hành vi của người dùng trên Internet. Để chương trình máy tính có thể học được, các điểm dữ liệu thường được đưa về dạng tập hợp các con số mà mỗi số được gọi là một đặc trưng (feature). Có những loại dữ liệu được biểu diễn dưới dạng ma trận hoặc mảng nhiều chiều. Một bức ảnh xám có thể được coi là một ma trận mà mỗi phần tử là giá trị độ sáng của điểm ảnh tương ứng.

Một bức ảnh màu ba kênh đỏ, lục, và lam có thể được biểu diễn bởi một mảng ba chiều. Trong cuốn sách này, các điểm dữ liệu đều được biểu diễn dưới dạng mảng một chiều, còn được gọi là vector đặc trưng (feature vector). Vector đặc trưng của một điểm dữ liệu thường được ký hiệu là x ∈ Rd trong đó d là số 7 lượng đặc trưng. Các mảng nhiều chiều được hiểu là đã bị vector hoá (vectorized) thành mảng một chiều.

Kinh nghiệm trong machine learning là bộ dữ liệu được sử dụng để xây dựng mô hình. Trong quá trình xây dựng mô hình, bộ dữ liệu thường được chia ra làm ba tập dữ liệu không giao nhau: tập huấn luyện, tập kiểm tra, và tập xác thực. Tập huấn luyện (training set) bao gồm các điểm dữ liệu được sử dụng trực tiếp trong việc xây dựng mô hình. Tập kiểm tra (test set) gồm các dữ liệu được dùng để đánh giá hiệu quả của mô hình.

Để đảm bảo tính phổ quát, dữ liệu kiểm tra không được sử dụng trong quá trình xây dựng mô hình. Điều kiện cần để một mô hình hiệu quả là kết quả đánh giá trên cả tập huấn luyện và tập kiểm tra đều cao. Tập kiểm tra đại diện cho dữ liệu mà mô hình chưa từng thấy, có thể xuất hiện trong quá trình vận hành mô hình trên thực tế. Một mô hình hoạt động hiệu quả trên tập huấn luyện chưa chắc đã hoạt động hiệu quả trên tập kiểm tra.

Để tăng hiệu quả của mô hình trên dữ liệu kiểm tra, người ta thường sử dụng một tập dữ liệu nữa được gọi là tập xác thực (validation set). Tập xác thực này được sử dụng trong việc lựa chọn các siêu tham số mô hình. Một điểm dữ liệu mà đề tài luận văn đang nghiên cứu là thông tin đầu vào của một học sinh. Đó có thể là rất nhiều những thông tin chúng ta thu thập được như họ tên, bố mẹ, nghề nghiệp bố mẹ, số giờ học tập trong tuần, số giờ đọc sách trung bình.Lượng thông tin này cần được chuẩn hóa thành một véc tơ đặc trưng cho dữ liệu.

Các phương pháp trong học máy cũng giúp chúng ta đo lường được sự ảnh hưởng của các thành phần đặc trưng đến đầu ra để loại bớt những thông tin dư thừa và xây dựng véc tơ đặc trưng hợp lý. Các bài toán cơ bản trong machine learning Nhiều bài toán phức tạp có thể được giải quyết bằng machine learning. Dưới đây là một số bài toán phổ biến. Phân loại Phân loại (classification) là một trong những bài toán được nghiên cứu nhiều nhất trong machine learning.

Trong bài toán này, chương trình được yêu cầu xác định lớp/nhãn (class/label) của một điểm dữ liệu trong số C nhãn khác nhau. Cặp (dữ liệu, nhãn) được ký hiệu là (x, y) với y nhận một trong C giá trị trong tập đích Y. Trong bài toán này, việc xây dựng mô hình tương đương với việc đi tìm hàm số f ánh xạ một điểm dữ liệu x vào một phần tử y ∈ Y : y = f (x). Ví dụ 1 : Bài toán phân loại ảnh chữ số viết tay có mười nhãn là các chữ số từ không đến chín.

Trong bài toán này: • Nhiệm vụ: xác định nhãn của một ảnh chữ số viết tay. • Phép đánh giá: số lượng ảnh được gán nhãn đúng. • Kinh nghiệm: dữ liệu gồm các cặp (ảnh chữ số, nhãn) biết trước. Ví dụ 2 : Bài toán phân loại email rác.

Trong bài toán này: • Nhiệm vụ: xác một email mới trong hộp thư đến là email rác hay không. • Phép đánh giá: tỉ lệ email rác tìm thấy email thường được xác định đúng. • Kinh nghiệm: cặp các (email, nhãn) thu thập được trước đó. Ví dụ 3 : Bài toán dự đoán thành tích học tập của học sinh cũng có thể nhìn dưới góc độ một bài toán phân loại.

Dữ liệu (học sinh) được phân về, chẳng hạn một trong 4 loại: Xuất sắc, Giỏi, Khá, Trung bình. 9 • Nhiệm vụ: Phân loại một học sinh về một trong các nhóm học tập: Xuất sắc, giỏi, khá, trung bình. • Kinh nghiệm: Dữ liệu của hàng ngàn học sinh đã được phân loại trước đó. Chẳng hạn học sinh hay đọc sách, học nhiều, không nghiện game thì kết quả học tập thường tốt.

Học sinh có bố mẹ bỏ nhau, ở với ông bà, chơi game nhiều thường học không tốt. • Phép đánh giá: Tỉ lệ phân lớp đúng trên dữ liệu test. Hồi quy Nếu tập đích Y gồm các giá trị thực (có thể vô hạn) thì bài toán được gọi là hồi quy(regression). Trong bài toán này, ta cần xây dựng một hàm số f : Rd → R.

Ví dụ 1 : Ước lượng giá của một căn nhà rộng x m2 , có y phòng ngủ và cách trung tâm thành phố z km. Ví dụ 2 : Microsoft có một ứng dụng dự đoán giới tính và tuổi dựa trên khuôn mặt (http://how-old. Phần dự đoán giới tính có thể được coi là một mô hình phân loại, phần dự đoán tuổi có thể coi là một mô hình hồi quy. Chú ý rằng nếu coi tuổi là một số nguyên dương không lớn hơn 150, ta có 150 nhãn khác nhau và phần xác định tuổi có thể được coi là một mô hình phân loại.

Bài toán hồi quy có thể mở rộng ra việc dự đoán nhiều đầu ra cùng một lúc, khi đó, hàm cần tìm sẽ là f : Rd → Rm. Một ví dụ là bài toán tạo ảnh độ phân giải cao từ một ảnh có độ phân giải thấp hơn. Khi đó, việc dự đoán giá trị các điểm trong ảnh đầu ra là một bài toán hồi quy nhiều đầu ra. Ví dụ 3 : Bài toán dự đoán thành tích học tập của học sinh cũng là một bài toán hồi quy.

Với mỗi dữ liệu đầu vào chưa biết kết quả học 10 tập (là một số thực từ 0.0 theo thang phẩy học sinh phổ thông Việt Nam, làm tròn đến 2 chữ số sau dấu phẩy.) chúng ta mong muốn xây dựng một mô hình hồi quy để đưa ra điểm phẩy dự đoán của học sinh đó. Các tham số mô hình là nghiệm tối ưu của bài toán tối ưu min hàm mất mát, là tổng sai số của các dự đoán trên dữ liệu training đã biết. Máy dịch Trong bài toán máy dịch (machine translation), chương trình máy tính được yêu cầu dịch một đoạn văn trong một ngôn ngữ sang một ngôn ngữ khác. Dữ liệu huấn luyện là các cặp văn bản song ngữ.

Các văn bản này có thể chỉ gồm hai ngôn ngữ đang xét hoặc có thêm các ngôn ngữ trung gian. Lời giải cho bài toán này gần đây đã có nhiều bước phát triển vượt bậc dựa trên các thuật toán deep learning. Phân cụm Phân cụm (clustering) là bài toán chia dữ liệu X thành các cụm nhỏ dựa trên sự liên quan giữa các dữ liệu trong mỗi cụm. Trong bài toán này, dữ liệu huấn luyện không có nhãn, mô hình tự phân chia dữ liệu thành các cụm khác nhau.

Điều này giống với việc yêu cầu một đứa trẻ phân cụm các mảnh ghép với nhiều hình thù và màu sắc khác nhau. Mặc dù không cho trẻ biết mảnh nào tương ứng với hình nào hoặc màu nào, nhiều khả năng chúng vẫn có thể phân loại các mảnh ghép theo màu hoặc hình dạng. Ví dụ 1 : Phân cụm khách hàng dựa trên hành vi mua hàng.