CHƯƠNG 1 TỔNG QUAN VỀ LĨNH VỰC NGHIÊN CỨU Những năm gần đây, công tác tuyển sinh của hầu hết các trường đại học, cao đẳng và trung cấp trên cả nước có khá nhiều thay đổi do việc đổi mới quy chế của kỳ thi trung học phổ thông quốc gia. Chính điều này đã gây nên những khó khăn cho cả bộ phận tuyển sinh của các trường trong công tác quảng bá tuyển sinh và các thí sinh khi phải tuân theo những quy định mới. Trước công tác đổi mới quy chế thi trung học phổ thông quốc gia năm 2020 của Bộ giáo dục và đào tạo thì đòi hỏi công tác tuyển sinh của các trường phải có những thay đổi phù hợp với quy chế này và cả thí sinh cũng phải thích ứng với cách thức nộp hồ sơ vào trường theo quy định mới. Tuy nhiên, do những thay đổi liên tục từ Bộ giáo dục và đào tạo trong công tác tổ chức thi tốt nghiệp và đại học những năm gần đây nên việc chiêu sinh đại học, cao đẳng sẽ có những trở ngại ban đầu cho các nhà tuyển sinh, các trường đào tạo trong cách tư vấn tuyển sinh hiệu quả cũng như cho thí sinh và các bậc phụ huynh.
Mặt khác, họ không thể xác định chính xác được mỗi năm công tác tổ chức thi cử là như thế nào? Mức điểm sàn sẽ thay đổi mạnh hay vẫn giữ nguyên? Phổ điểm mỗi năm mỗi khác nhau cùng điểm thi qua bài thi trắc nghiệm có đảm bảo được tính khách quan cho từng thí sinh… Nguyên nhân của khó khăn đến từ nhiều yếu tố khách quan lẫn chủ quan, bao gồm: Số lượng thí sinh thực tế tham gia tuyển sinh đại học, cao đẳng hầu như giảm đều qua các năm; Có quá nhiều trường đại học, cao đẳng mới được thành lập gây ra sự phân vâng bối rối cho thí sinh trong việc tiếp nhận quá nhiều kế hoạch quảng bá tuyển sinh khi chọn trường đào tạo; Viêc các trường thuộc “top” trên hạ điểm chuẩn cho từng ngành để đảm bảo đủ chỉ tiêu tuyển sinh cũng gây nhiều khó khăn bất cập cho các trường thuộc “top” dưới. Mặt khác, thí sinh được đăng ký quá nhiều nguyện vọng, nên phần lớn đều tập trung xét tuyển vào trường thuộc mức chất lượng cao trước, nếu không đủ điểm xét tuyển mới xét tiếp các trường hạng dưới; công tác tuyển sinh đại học, cao đẳng cũng thay đổi, các trường bắt đầu bổ sung thêm nhiều hình thức xét tuyển như xét tuyển bằng 4 học bạ trung học phổ thông…Sinh viên tốt nghiệp đại học, cao đẳng nhưng lại không thể tìm được việc hoặc phải làm trái ngành với mức lương thấp, kèm theo đó là các khoản chi phí cho việc học khá cao khiến các thí sinh chỉ muốn chuyển hướng đi làm ngay sau khi tốt nghiệp cấp trung học phổ thông. Bên cạnh đó thì danh tiếng và chất lượng của nhà trường có các quy chế liên kết đào tạo với doanh nghiệp hay không cũng là điều để các thí sinh bận tâm. Trong nghiên cứu này tác giả đưa ra giải pháp công nghệ thông tin để giúp công tác tuyển sinh của Trường Đại học Kiên Giang được tốt hơn, kết quả của nghiên cứu sẽ tìm ra được các bạn học sinh có khả năng cao vào học tại trường Đại học Kiên Giang, từ đó nhà trường sẽ có những định hướng, tiếp cận các đối tượng này để tư vấn cũng như cung cấp thêm thông tin về Trường, các ngành đào tạo, học phí, hình thức học….
5 CHƯƠNG 2 CƠ SỞ LÝ THUYẾT Phân loại các thuật toán Machine learning Có hai cách phổ biến phân loại các thuật toán Machine learning. Một là dựa trên phương thức học (learning style), hai là dựa trên chức năng (function) (của mỗi thuật toán).1 Phân loại dựa trên phương thức học Theo phương thức học, các thuật toán Machine Learning thường được chia làm 4 nhóm: Supervised learning (học có giám sát), Unsupervised learning (học không giám sát), Semi-supervised lerning (học bán giám sát) và Reinforcement learning. Có một số cách phân nhóm không có Semi-supervised learning hoặc Reinforcement learning.1 Supervised Learning (Học có giám sát) Supervised learning là thuật toán dự đoán đầu ra (outcome) của một dữ liệu mới (new input) dựa trên các cặp (input, outcome) đã biết từ trước. Cặp dữ liệu này còn được gọi là (data, label), tức (dữ liệu, nhãn).
Supervised learning là nhóm phổ biến nhất trong các thuật toán Machine Learning.2 Unsupervised Learning (Học không giám sát) Trong thuật toán này, chúng ta không biết được outcome hay nhãn mà chỉ có dữ liệu đầu vào. Thuật toán unsupervised learning sẽ dựa vào cấu trúc của dữ liệu để thực hiện một công việc nào đó, ví dụ như phân nhóm (clustering) hoặc giảm số chiều của dữ liệu (dimension reduction) để thuận tiện trong việc lưu trữ và tính toán.3 Semi-Supervised Learning (Học bán giám sát) Các bài toán khi chúng ta có một lượng lớn dữ liệu nhưng chỉ một phần trong chúng được gán nhãn được gọi là Semi-Supervised Learning. Những bài toán thuộc nhóm này nằm giữa hai nhóm được nêu bên trên. Hiện tại, Reinforcement learning chủ yếu được áp dụng vào Lý Thuyết Trò Chơi (Game Theory), các thuật toán cần xác định nước đi tiếp theo để đạt được điểm số cao nhất.1 Ví dụ về bàn cờ vây 2.2 Phân loại dựa trên chức năng Dựa vào chức năng của thuật toán có thể chia thành các nhóm sau: Regression Algorithms: Linear Regression, Logistic Regression, Stepwise Regression Classification Algorithms: Linear Classifier, Support Vector Machine (SVM), Kernel SVM, Sparse Representation-based classification (SRC) Instance-based Algorithms: k-Nearest Neighbor (kNN), Learning Vector Quantization (LVQ) 7 Regularization Algorithms: Ridge Regression, Least Absolute Shrinkage and Selection Operator (LASSO), Least-Angle Regression (LARS) Bayesian Algorithms: Naive Bayes, Gaussian Naive Bayes Clustering Algorithms: k-Means clustering, k-Medians, Expectation Maximization (EM) Artificial Neural Network Algorithms: Perceptron, Softmax Regression, Multi-layer Perceptron, Back-Propagation Dimensionality Reduction Algorithms: Principal Component Analysis (PCA), Linear Discriminant Analysis (LDA) Ensemble Algorithms: Boosting, AdaBoost, Random Forest Trong các thuật toán trên chúng ta đi sâu vào Support Vector Machine (SVM) Các thuật toán dùng để phân nhóm dữ liệu 2.1 Support Vector Machine (SVM) SVM là phương pháp học máy tiên tiến đang được áp dụng rộng rãi trong lĩnh vực khai phá dữ liệu và thị giác máy tính.
Phương pháp SVM được Vapnik đề xuất năm 1995, dựa trên lý thuyết học thống kê nên có một nền tảng toán học chặt chẽ đảm bảo kết quả đạt được là tối ưu. SVM đã được áp dụng thành công trong rất nhiều ứng dụng như nhận dạng mặt người, phân loại văn bản, nhận dạng chữ viết tay,… Ý tưởng của phương pháp này là chuyển tập dữ liệu mẫu từ không gian ít chiều Rn sang không gian nhiều chiều hơn Rd, sau đó tìm một siêu phẳng (Hyperplane) tối ưu trong Rd để phân chia tập mẫu theo phân lớp của chúng 8 Hình 2.2 Ví dụ về phân lớp SVM trong không gian R2 Giải thuật máy học SVM là tìm một siêu phẳng tối ưu cho phép chia các điểm dữ liệu thành 2 phần sao cho các điểm cùng một lớp thì nằm cùng phía của siêu phẳng này (bài toán 2 lớp). Đối với bài toán nhiều lớp chúng ta có thể đưa về bài toán 2 lớp bằng kỹ thuật: 1 – tất cả hoặc 1 – 1. Xét tập dữ liệu mẫu có thể tách rời tuyến tính {(x1,y1), (x2,y2),., (xn,yn)} với xi ϵ Rd và yi ϵ {±1}.
Siêu phẳng tối ưu phân tập dữ liệu này thành hai lớp là siêu phẳng có thể tách rời dữ liệu thành hai lớp riêng biệt với lề (margin) lớn nhất. Siêu phẳng trong không gian n chiều được biểu diễn bởi véc tơ pháp tuyến w=[w1, w2, …, wn] và độ lệch b của siêu phẳng so với gốc tọa độ. Máy học SVM tìm siêu phẳng (w, b) để phân chia dữ liệu theo cách sau đây 9 Hình 2.3 Phân lớp tuyến tính với SVM Việc chia cắt được thực hiện nhờ vào 2 siêu phẳng hỗ trợ song song. Siêu phẳng hỗ trợ cho lớp dương (+1) là siêu phẳng mà các phân tử thuộc lớp dương (+1) nằm về bên phải của siêu phẳng này.
Tương tự, siêu phẳng hỗ trợ cho lớp âm (-1) là siêu phẳng mà các phần tử thuộc lớp âm (-1) nằm về bên trái siêu phẳng này. Hai siêu phẳng hỗ trợ song song có thể được viết lại như sau: xi w b+1 i có yi 1 (2.2) Kết hợp hai điều kiện trên ta được yi ( w.3) Khoảng cách giữa 2 siêu phẳng gọi là lề và được tính như sau: 2 w là độ lớn của véc tơ w Margin = w trong đó Giải thuật SVM tìm siêu phẳng tối ưu bằng cách cực đại hóa lề (tìm khoảng cách xa nhất giữa 2 lớp). Giải thuật SVM đưa đến vấn đề việc giải bài toán quy hoạch toàn phương như sau: 10 1 2 min (w.4) 2 Với điều kiện: yi (w.xi b) 1 Giải bài toán quy hoạch toàn phương (2.4) sẽ thu được siêu phẳng phân lớp (w, b) của SVM. Việc phân loại cho phần tử mới đến x dựa trên siêu phẳng (w, b) được tính theo công thức (2.5) Nghĩa là khi phần tử x mới đến, tính giá trị biểu thức (w.x b) 0 thì gán nhãn cho x là lớp dương (+1) nếu (w.x – b) < 0 thì gán nhãn cho x là lớp âm (- 1).4 SVM phân lớp dữ liệu không tách rời Trong trường hợp dữ liệu không tách rời.
Máy học SVM vẫn có thể xử lý được bằng cách xem xét bất kỳ điểm xi nào nằm sai phía so với siêu phẳng hỗ trợ của nó được xem là lỗi. Khoảng cách lỗi được biểu diễn bởi zi >= 0 (với xi nằm đúng phía của siêu phẳng hỗ trợ của nó thì khoảng cách lỗi tương ứng zi = 0, còn ngược lại thì zi > 0 là khoảng cách từ điểm xi đến siêu phẳng hỗ trợ tương ứng của nó). Việc tìm kiếm siêu phẳng tối ưu của giải thuật máy học SVM thực hiện cùng lúc hai mục tiêu là cực 11 đại hóa lề và cực tiểu hóa lỗi. Giải thuật SVM dẫn đến bài toán quy hoạch toàn phương như sau: 1 2 m min (w.z ) w c zi 2 i1 Với điều kiện: (2.xi b) zi 1 zi 0(i 1,2,., m) Hằng c > 0 sử dụng để điều chỉnh độ rộng lề và lỗi.
Lời giải bài toán quy hoạch toàn phương (2.6) của giải thuật máy học SVM có thể tìm được lời giải tương đương trong bài toán đối ngẫu của chúng. Bài toán quy hoạch toàn phương (2.4) có thể viết lại với dạng (3.7), có sử dụng các nhân tử Lagrange như sau: m 1 max {min w ,b (w, b, ) w + i [1 yi (w.
