Nghiên cứu một số mô hình mạng học sâu và ứng dụng trong bài toán dự báo điểm tốt nghiệp của sinh viên trường cao đẳng cơ khí nông nghiệp

Chuyên khảo kỹ thuật phân tích Nghiên cứu một số mô hình mạng học sâu và ứng dụng trong bài toán dự báo điểm tốt nghiệp của sinh, đánh giá các khía cạnh quan trọng, đề xuất hướng

• Tác giả: Phùng Thị Minh Phương
• Người hướng dẫn: PGS. Nguyễn Long Giang
• Trường học: Đại học Mở Hà Nội
• Chuyên ngành: Cao đẳng Cơ khí Nông nghiệp
• Đề tài: Ứng Dụng Mô Hình Mạng Học Sâu Trong Dự Báo Điểm Tốt Nghiệp Sinh Viên Cao Đẳng Cơ Khí Nông Nghiệp
• Loại tài liệu: khóa luận tốt nghiệp
• Năm xuất bản: 2021
• Địa điểm: Hà Nội

Tóm tắt

I. Giới thiệu tổng quan về học máy và học sâu

Trong bối cảnh công nghệ thông tin phát triển mạnh mẽ, mô hình mạng học sâu đã trở thành một công cụ quan trọng trong việc phân tích và dự báo. Học máy là một nhánh của trí tuệ nhân tạo, cho phép máy tính học hỏi từ dữ liệu mà không cần lập trình cụ thể. Học sâu là một phần mở rộng của học máy, sử dụng các mạng neural để xử lý và phân tích dữ liệu phức tạp. Các ứng dụng của học máy rất đa dạng, từ nhận dạng giọng nói đến dự đoán kết quả trong giáo dục. Việc áp dụng mô hình mạng học sâu trong dự báo điểm tốt nghiệp sinh viên cao đẳng cơ khí nông nghiệp không chỉ giúp nâng cao chất lượng giáo dục mà còn hỗ trợ các quyết định quản lý trong giáo dục.

1.1. Khái niệm học máy

Học máy là một lĩnh vực nghiên cứu cho phép máy tính tự động cải thiện hiệu suất thông qua kinh nghiệm. Theo Arthur Samuel, học máy là khả năng của máy tính học hỏi mà không cần lập trình rõ ràng. Học máy được chia thành ba loại chính: học có giám sát, học không có giám sát và học tăng cường. Mỗi loại có những ứng dụng và phương pháp riêng, từ phân loại đến dự đoán. Việc hiểu rõ về học máy là cần thiết để áp dụng vào các bài toán thực tiễn, đặc biệt là trong giáo dục.

1.2. Tổng quan về mạng học sâu

Mạng học sâu là một phần của học máy, sử dụng cấu trúc mạng neural để xử lý dữ liệu. Mạng học sâu có khả năng học từ dữ liệu không có cấu trúc, giúp phát hiện các mẫu phức tạp. Các ứng dụng của mạng học sâu rất phong phú, từ nhận diện hình ảnh đến xử lý ngôn ngữ tự nhiên. Việc áp dụng mô hình mạng học sâu trong dự báo điểm tốt nghiệp sinh viên cao đẳng cơ khí nông nghiệp có thể giúp cải thiện độ chính xác trong việc dự đoán kết quả học tập, từ đó nâng cao chất lượng giáo dục.

II. Một số mô hình học sâu được sử dụng cho bài toán dự báo

Bài toán dự báo điểm tốt nghiệp sinh viên yêu cầu sử dụng các mô hình mạng học sâu phù hợp. Các mô hình như mạng neural hồi quy, mạng LSTM và mạng tích chập đã được nghiên cứu và áp dụng. Mỗi mô hình có những ưu điểm và nhược điểm riêng, ảnh hưởng đến độ chính xác của dự báo. Việc lựa chọn mô hình phù hợp là rất quan trọng để đạt được kết quả tốt nhất. Các tiêu chuẩn đánh giá mô hình cũng cần được xác định rõ ràng để đảm bảo tính khả thi và hiệu quả của dự báo.

2.1. Mô hình mạng neural hồi quy

Mô hình mạng neural hồi quy là một trong những phương pháp phổ biến trong dự báo. Mô hình này cho phép dự đoán giá trị liên tục dựa trên các đầu vào. Việc sử dụng mạng neural hồi quy trong dự báo điểm tốt nghiệp giúp xác định mối quan hệ giữa các yếu tố ảnh hưởng đến kết quả học tập. Kết quả từ mô hình này có thể cung cấp thông tin hữu ích cho các nhà quản lý giáo dục trong việc đưa ra quyết định.

2.2. Mô hình mạng LSTM

Mô hình LSTM (Long Short-Term Memory) là một loại mạng neural hồi quy, được thiết kế để xử lý dữ liệu theo chuỗi. Mô hình này có khả năng ghi nhớ thông tin trong thời gian dài, rất hữu ích trong việc dự đoán điểm tốt nghiệp sinh viên. Việc áp dụng LSTM giúp cải thiện độ chính xác của dự báo, đặc biệt trong các bài toán có tính chất thời gian. Kết quả từ mô hình LSTM có thể giúp các giảng viên và nhà quản lý hiểu rõ hơn về xu hướng học tập của sinh viên.

III. Ứng dụng mô hình mạng học sâu cho bài toán dự báo điểm tốt nghiệp

Việc ứng dụng mô hình mạng học sâu trong dự báo điểm tốt nghiệp sinh viên cao đẳng cơ khí nông nghiệp mang lại nhiều lợi ích. Mô hình này không chỉ giúp dự đoán chính xác điểm tốt nghiệp mà còn hỗ trợ trong việc phân tích dữ liệu học tập của sinh viên. Các kết quả dự báo có thể được sử dụng để cải thiện chương trình giảng dạy và hỗ trợ sinh viên trong quá trình học tập. Hơn nữa, việc áp dụng công nghệ này còn giúp nâng cao chất lượng giáo dục và đáp ứng nhu cầu ngày càng cao của thị trường lao động.

3.1. Lựa chọn mô hình mạng học sâu

Lựa chọn mô hình mạng học sâu phù hợp là một yếu tố quyết định đến thành công của dự báo. Các yếu tố như độ phức tạp của dữ liệu, yêu cầu về độ chính xác và thời gian xử lý cần được xem xét kỹ lưỡng. Việc thử nghiệm và đánh giá nhiều mô hình khác nhau sẽ giúp tìm ra giải pháp tối ưu nhất cho bài toán dự báo điểm tốt nghiệp. Sự kết hợp giữa lý thuyết và thực tiễn trong việc lựa chọn mô hình sẽ mang lại hiệu quả cao hơn trong dự báo.

3.2. Kết quả thử nghiệm và đánh giá hiệu suất

Kết quả thử nghiệm từ các mô hình mạng học sâu cho thấy sự cải thiện đáng kể trong độ chính xác của dự báo điểm tốt nghiệp. Việc đánh giá hiệu suất của các mô hình cần dựa trên các tiêu chí rõ ràng như sai số bình phương trung bình (MSE) và độ chính xác dự đoán. Những kết quả này không chỉ giúp khẳng định tính khả thi của mô hình mà còn cung cấp thông tin quý giá cho các nhà quản lý giáo dục trong việc ra quyết định.

Trích đoạn nội dung tài liệu

Đặt vấn đề Trong những năm gần đây, công nghệ thông tin phát triển mạnh mẽ ứng dụng trong nhiều lĩnh vực quan trọng của đời sống, kinh tế, xã hội đã làm lƣợng dữ liệu thu thập và lƣu trữ ở các hệ thống thông tin tăng lên một cách nhanh chóng. Trƣớc tình hình đó, việc khai thác chọn lọc những dữ liệu có ích từ lƣợng thông tin khổng lồ đó sẽ quyết định chất lƣợng của mọi hoạt động. Mặt khác, các dữ liệu sẽ đƣợc dự báo giúp việc đƣa ra quyết định phƣơng hƣớng trong tƣơng lai một cách chính xác và hiệu quả hơn. Hiện nay trên thế giới, trí tuệ nhân tạo đã nhận đƣợc rất nhiều sự chú ý, ai ai cũng đều nói về nó.

Và trong lĩnh vực trí tuệ nhân tạo, học máy có lẽ là lĩnh vực đƣợc nói đến nhiều nhất. Machine learning - học máy là chƣơng trình chạy trên một mạng thần kinh nhân tạo, có khả năng huấn luyện máy tính "học" từ một lƣợng lớn dữ liệu đƣợc cung cấp để giải quyết những vấn đề cụ thể. Để học máy hiệu quả, chính xác hơn, Deep Learning (học sâu) đã ra đời. Deep learning sẽ giúp robot học nhanh, kỹ và áp dụng chính xác hơn.

Vì những lý do đó, nhiều bài toán dự báo đƣợc các chuyên gia đã tin tƣởng và sử dụng các hệ thống thông minh khác nhau, trong đó có mạng học sâu Deep Learning. Tính cấp thiết của đề tài Với số lƣợng lớn học sinh, sinh viên đang theo học việc thực hiện công tác phân tích, đánh giá hiệu quả học tập của sinh viên trong trƣờng Cao đẳng Cơ Khí Nông Nghiệp gặp rất nhiều khó khăn. Từ dữ liệu về lý lịch sinh viên, kết quả học tập của sinh viên vậy làm thế nào để có thể thu thập đƣợc các thông tin có ích, hỗ trợ cho việc ra quyết định chẳng hạn nhƣ: Dự đoán đƣợc những học sinh, sinh viên sẽ thôi học hoặc bị buộc thôi học để từ đó có tác động kịp thời giảm số trƣờng hợp thôi học xuống mức thấp nhất; Dự đoán số lƣợng trúng tuyển từ hồ sơ đăng ký vào; dự đoán lƣợng thí sinh nguyện vọng một, nguyện vọng hai; Dự đoán chất lƣợng 1 sinh viên từ điểm đầu vào và các thông tin lý lịch; Tìm mối tƣơng quan các môn học cơ bản (Toán, Vật lý, Hóa Học, Tiếng Anh.) với các môn học chuyên ngành của sinh viên; Tìm ra nhóm sinh viên bị tụt dốc trong học tập … Nhận thấy đƣợc tầm quan trọng và thực tế đó, đƣợc sự gợi ý của thầy hƣớng dẫn và nhận thấy tính thiết thực của vấn đề em chọn đề tài: “Nghiên cứu một số mô hình mạng học sâu và ứng dụng trong bài toán dự báo điểm tốt nghiệp của sinh viên trường Cao đẳng Cơ Khí Nông Nghiệp” làm khoá luận tốt nghiệp cho luận văn tốt nghiệp của mình. Mục tiêu nghiên cứu Nghiên cứu mô hình mạng học sâu giải quyết bài toán dự báo viên tốt nghiệp đúng tiến độ trong các cơ sở giáo dục.

Mục đích nghiên cứu - Nghiên cứu cơ sở lý thuyết về học máy nói chung và học sâu nói riêng, phân tích sự phát triển của học máy với việc triển khai các giải thuật toán học sâu, phân tích hiện trạng xu hƣớng sử dụng thuật toán học sâu cho những vấn đề đã đƣợc giải quyết và các vấn đề còn đang nghiên cứu. - Tìm hiểu mô hình mạng học sâu. - Nghiên cứu đánh giá, lựa chọn mô hình nhằm giải quyết bài toán dự báo đào tạo trong giáo dục và phân tích điểm mạnh điểm yếu của các mô hình. Đối tƣợng và phạm vi nghiên cứu - Đối tƣợng nghiên cứu là lớp bài toán khảo sát, đánh giá, thống kê sử dụng mạng học sâu và các mô hình học sâu dự báo.

- Phạm vi nghiên cứu là lý thuyết ứng dụng mạng học sâu cho bài toán dự báo điểm trƣờng Cao đẳng Cơ Khí Nông Nghiệp. Phƣơng pháp nghiên cứu và phƣơng pháp luận 5.1 Phương pháp nghiên cứu 2 a. Về lý thuyết: - Nghiên cứu lý thuyết và tổng hợp các nghiên cứu liên quan đến các phƣơng pháp trong học máy, học sâu. Từ đó xây dựng mô hình, thuật toán học sâu cải tiến và chứng minh tính đúng đắn cho mô hình bằng lý thuyết ứng dụng cho bài toán thực tế.

Về thực nghiệm: - Thu thập số liệu thực tế để thử nghiệm trên mô hình. - Cài đặt, chạy thử nghiệm mô hình mạng học sâu cải tiến trên các bộ dữ liệu mẫu và dữ liệu thực nhằm chứng minh tính hiệu quả của mô hình đề xuất.2 Phương pháp luận - Về mặt lý thuyết: Phƣơng pháp phân tích, tổng hợp và mô hình hóa lý thuyết từ đó xây dựng cơ sở lý thuyết cho luận văn - Về thực nghiệm: Phƣơng pháp quan sát khoa học, phân tích và tổng kết kinh nghiệm từ đó xây dựng ứng dụng thực nghiệm cho luận văn. 3 CHƢƠNG 1 : GIỚI THIỆU TỔNG QUAN VỀ HỌC MÁY VÀ HỌC SÂU 1. Giới thiệu về học máy 1.

Khái niệm học máy Trong những năm gần đây, công nghệ thông tin phát triển mạnh mẽ với thành tựu là AI đƣợc ứng dụng vào nhiều lĩnh vực quan trọng của đời sống, kinh tế, xã hội,. Nhƣ nhận dạng giọng nói, nhận dạng chữ viết, dự đoán kết quả, điều khiển tự động,. Nó đƣợc coi là xu hƣớng công nghệ thế giới và nhiều ngƣời cho rằng đó là cuộc cách mạng công nghiệp lần thứ 4. Chính vì vậy, việc tìm hiểu AI có lẽ cũng là nhu cầu thiết yếu trong bối cảnh hiện tại.

AI là các kỹ thuật giúp cho máy tính thực hiện đƣợc những công việc của con ngƣời chúng ta. Trong lĩnh vực AI có một nhánh nghiên cứu về khả năng tự học của máy tính đƣợc gọi là học máy (machine learning). Hiện nay không có 1 định nghĩa chính thức nào về học máy cả nhƣng nổi bật rõ ràng nhất nhƣ sau: - Theo Arthur Samuel (1959): Học máy là ngành học cung cấp cho máy tính khả năng học hỏi mà không cần đƣợc lập trình một cách tƣờng minh. - Machine learning là chƣơng trình chạy trên một mạng thần kinh nhân tạo, có khả năng huấn luyện máy tính “học” từ một lƣợng lớn dữ liệu đƣợc cung cấp để giải quyết những vấn đề cụ thể.

Hệ thống Machine Learning đƣợc tạo thành từ 3 thành phần chính:  Mô hình (Model): hệ thống đƣa ra dự đoán hoặc nhận dạng 4  Tham số (Parameters): tín hiệu hoặc nhân tố đƣợc Model sử dụng để đƣa ra quyết định.  Learner: hệ thống điều chỉnh lại parameters và tiếp đó là model bằng cách so sánh sự khác biệt giữa dự đoán và kết quả thực tế. Các phương pháp học máy Học máy đƣợc phân thành những phƣơng pháp sau đây: Học máy (Machine Learning) Học có giám sát Học tăng cƣờng Học không có giám sát (Supervised (Reinforcement (Unspervised learning) learning) learning) Hình 1.1: Các phương pháp học máy Học có giám sát hay học có thầy (supervised learning): Trong giai đoạn học (huấn luyện), thuật toán học xây dựng hàm đích (hàm dự báo, phân loại) dựa trên các tập mẫu cùng với nhãn phân loại tƣơng ứng (tập dữ liệu huấn luyện). Trong giai đoạn dự báo (phân loại), từ tập mẫu không có nhãn phân loại (tập dữ liệu kiểm tra), hàm đích đƣa ra nhãn phân loại (dự báo) của các mẫu này.

Quá trình học đƣợc biểu diễn bằng sơ đồ sau: 5 Mẫu kiểm tra (không nhãn) Mẫu huấn luyện Thuật toán học Hàm đích (dự (có nhãn) máy báo, phân loại) Mẫu kiểm tra (không nhãn) Hình 1.2: Sơ đồ mô tả học máy có hướng dẫn Tìm kiếm trong không gian giả thuyết một giả thuyết phù hợp (khớp) nhất với dữ liệu huấn luyện là bản chất của việc học. Các chủ đề nghiên cứu (hay các công cụ) trong học có thầy bao gồm: - Học cây quyết định ứng dụng trong phân loại và dự đoán. - Học mạng Neural nhân tạo ứng dụng trong phân loại và dự đoán. - Học phân lớp Bayes đơn giản.

- Học máy Vector hỗ trợ SVM (Suppor Vector Machines). - Học phân lớp sử dụng công cụ lý thuyết tập thô (rough set theory).  Học không có giám sát hay học không có thầy (unsupervised learning): Là phƣơng pháp học chỉ dựa trên các tập mẫu mà không có nhãn phân loại đi kèm. Các đặc trƣng, các mối tƣơng quan của các mẫu học đƣợc hệ thống học tự khám phá một cách tự động.

Các chủ đề nghiên cứu (hay các công cụ) trong học không có thầy bao gồm:  Học phân cụm (Clustering), thuật toán phân cụm K-means.  Học luật kết hợp (Association Rule Learning).  Học dựa trên ví dụ: Phƣơng pháp k-láng giềng gần nhất (k-Nearest Neighbors, kNN).  Học mạng Neural nhân tạo.

Ứng dụng của học máy Có rất nhiều ứng dụng thực tế khác nhau của học máy trong nhiều lĩnh vực, sau đây là một số ứng dụng điển hình:  Nhận dạng: Nhận dạng ký tự, phát hiện và nhận dạng mặt ngƣời, nhận dạng tiếng nói.  Y khoa: Chuẩn đoán y tế, dự đoán ngƣời bệnh dựa trên triệu chứng quan sát đƣợc. Ứng dụng trong tin sinh học nhƣ phân tích gen, phân tích chuỗi DNA,…  Kinh doanh: Phân loại khách hàng, dự đoán chỉ số thị trƣờng chứng khoán, giá cả tiêu dùng…  Đào tạo: Dịch tự động, … 1. Tổng quan về mạng học sâu (Deep Learning) 1.

Khái niệm học sâu Mạng học sâu cũng đƣợc bắt nguồn từ nền tảng mạng neural nhân tạo và phát triển nhƣ “một lĩnh vực nghiên cứu mới của học máy”, với các mạng lƣới có khả năng "học" mà không bị giám sát từ dữ liệu không có cấu trúc hoặc không đƣợc gắn nhãn. Học sâu tập trung vào các vấn đề hẹp hơn về một tập hợp các công cụ, kỹ thuật máy học và áp dụng chúng để giải quyết các vấn đề cần đòi hỏi về tƣ duy. Ngƣời ta có thể hiểu rằng trí tuệ nhân tạo đƣợc hiểu đơn giản là đƣợc cấu thành từ các lớp xếp chồng lên nhau, trong đó mạng thần kinh nhân tạo nằm ở dƣới đáy, machine learning nằm ở tầng tiếp theo và Deep Learning nằm ở tầng trên cùng. Deep Learning là một phƣơng pháp của Học máy(Machine learning).

Nó cho phép chúng ta huấn luyện một AI có thể dự đoán đƣợc các đầu ra dựa vào một tập các đầu vào. Cả hai phƣơng pháp có giám sát và không giám sát đều có thể sử dụng để huấn luyện Deep Learning là máy sử dụng các lớp khác nhau để đào sâu hơn về việc học các đặc điểm của dữ liệu, được huấn luyện ở nhiều cấp độ tương ứng với các 7 mức độ trừu tượng khác nhau của lớp dữ liệu hình thành một hệ thống các tính năng phân cấp từ thấp đến cao.