Tổng quan luận án
Luận án tiến sĩ chuyên ngành Hệ thống thông tin với đề tài "Xây dựng mô hình tìm kiếm và gợi ý tài nguyên học tập" được nghiên cứu sinh Trần Thanh Điện thực hiện dưới sự hướng dẫn khoa học của PGS. Nguyễn Thái Nghe tại Trường Đại học Cần Thơ năm 2022 (Mã số chuyên ngành: 62 48 01 04; Mã số NCS: P1617001).
Tính cấp thiết của đề tài xuất phát từ sự phát triển của giáo dục trực tuyến và phong trào học tập mở (open learning) từ thập niên 1970, đặc biệt trong bối cảnh các hoạt động giảng dạy trực tiếp bị hạn chế do dịch bệnh và các yếu tố khách quan khác. Sự gia tăng liên tục của các nguồn tài nguyên giáo dục mở (open educational resources) dưới dạng dữ liệu phi cấu trúc (văn bản như bài giảng, giáo trình, sách, bài báo khoa học) dẫn đến tình trạng quá tải thông tin. Người học gặp nhiều khó khăn trong việc tìm kiếm nguồn học liệu phù hợp với nhu cầu và năng lực cá nhân.
Khoảng trống nghiên cứu được tác giả xác định gồm:
- Việc tìm kiếm tài nguyên học tập trong các hệ thống quản lý hiện nay chủ yếu dựa trên cơ sở dữ liệu quan hệ hoặc tìm kiếm từ khóa đơn thuần, chưa khai thác hiệu quả các đặc trưng ngữ nghĩa trong nguồn dữ liệu phi cấu trúc ngày càng lớn.
- Các hệ thống hiện tại chưa kết hợp hiệu quả giữa phân loại truy vấn với tìm kiếm tài nguyên để giới hạn không gian tìm kiếm.
- Bài toán tìm kiếm và bài toán gợi ý tài nguyên học tập thường bị tách rời, trong khi việc kết hợp dự đoán kết quả học tập để phục vụ gợi ý tài nguyên bằng các kỹ thuật học sâu trên dữ liệu thực tế tại các cơ sở giáo dục đại học còn ít được nghiên cứu.
Mục tiêu tổng quát của luận án là đề xuất các mô hình tìm kiếm và gợi ý tài nguyên học tập nhằm đáp ứng nhu cầu của người học, giúp cho việc học tập đạt kết quả tốt hơn.
Các mục tiêu cụ thể được đánh số theo văn bản gồm:
- Nghiên cứu xây dựng mô hình tìm kiếm tài nguyên học tập có quan tâm đến vấn đề ngữ nghĩa nhằm nâng cao hiệu quả tìm kiếm đáp ứng nhu cầu của người học.
- Nghiên cứu xây dựng các mô hình dự đoán kết quả học tập và gợi ý tài nguyên học tập phù hợp với từng người học.
Đối tượng nghiên cứu chính là các mô hình tìm kiếm và gợi ý tài nguyên học tập, bao gồm mô hình phân loại tài nguyên học tập, mô hình tìm kiếm dựa trên độ tương đồng nội dung văn bản và mạng ngữ nghĩa, cùng các mô hình dự đoán xếp hạng và gợi ý học liệu.
Phạm vi nghiên cứu của luận án:
- Về nội dung: Luận án giới hạn phạm vi tài nguyên học tập ở dạng văn bản số hóa (bài giảng, giáo trình, sách, bài báo khoa học, dữ liệu đánh giá tài nguyên và dữ liệu điểm số của sinh viên).
- Về dữ liệu và không gian: Dữ liệu thực nghiệm được thu thập từ các công bố khoa học, tin tức báo điện tử đa ngôn ngữ, các bộ dữ liệu quy chuẩn quốc tế và tập dữ liệu kết quả học tập thực tế của sinh viên thuộc các đơn vị đào tạo tại Trường Đại học Cần Thơ (tiêu biểu như Khoa Công nghệ).
- Về thời gian: Nghiên cứu được triển khai trong giai đoạn đào tạo tiến sĩ khóa 2017–2022.
Tổng quan tài liệu và vị trí của luận án
Luận án điểm lại hệ thống các công trình nghiên cứu trong và ngoài nước theo bốn hướng nghiên cứu chính:
- Phân loại văn bản và phân loại câu truy vấn:
- Tác giả phân tích các kỹ thuật học máy cổ điển như máy véc-tơ hỗ trợ SVM (Cortes and Vapnik, 1995), các chiến lược phân loại đa lớp One-vs-All và One-vs-One (Chakrabarti, 2002).
- Các thuật toán cây quyết định (Mitchell, 1997) và rừng ngẫu nhiên RF (Tin Kam, 1995).
- Các phương pháp tiếp cận phân loại câu hỏi/truy vấn theo mô hình ngôn ngữ và học máy (McCallum and Nigam, 1998; Li and Roth, 2002; Hacioglu and Ward, 2003; Zhang and Lee, 2003; Brown, 2004; Liu and Zheng, 2005; Van Durme et al., 2003).
- Ứng dụng học sâu trong phân loại văn bản quy mô lớn (Aristodemou and Tietze, 2018; Haddoud et al., 2016).
- Tính toán độ tương đồng văn bản:
- Các độ đo dựa trên tập từ chung: Khoảng cách Jaro (Winkler, 1990), mô hình tương phản (Tversky, 1977), hệ số Jaccard (Jaccard, 1901).
- Các độ đo dựa trên mô hình không gian véc-tơ: Độ tương đồng Cosine, khoảng cách Euclide, khoảng cách Manhattan.
- Phương pháp kết hợp độ tương đồng ngữ nghĩa véc-tơ và độ tương đồng thứ tự từ của Li và các cộng sự (Li et al., 2004; Li et al., 2006).
- Web ngữ nghĩa và Ontology trong tìm kiếm thông tin:
- Kiến trúc phân tầng Semantic Web và mô hình RDF (Berners-Lee, 1998; Berners-Lee et al., 2001).
- Cơ sở lý thuyết về ontology và mô hình hóa tri thức (Gruber, 1993; Studer et al., 1998; Brewster and O'Hara, 2004).
- Ứng dụng ontology và ngôn ngữ OWL trong tìm kiếm ngữ nghĩa và giáo dục trực tuyến (Sampson et al., 2004; Al-Yahya et al., 2015; Alfred et al., 2014; Tang and Chen, 2015; Okuboyejo et al., 2018).
- Các công cụ thiết kế ontology gồm Protégé (Grosso et al., 1999; Gennari et al., 2003) và Knoodl (W3C, 2012).
- Hệ thống gợi ý và dự đoán kết quả học tập:
- Phân loại các giải thuật gợi ý: Lọc dựa trên nội dung (CB), lọc cộng tác (CF) và phương pháp lai Hybrid (Su and Khoshgoftaar, 2009; Ricci et al., 2011; Bobadilla et al., 2013; Lops et al., 2011).
- Kỹ thuật k láng giềng kNN dựa trên người dùng và mục tin (Herlocker et al., 1999).
- Phân rã ma trận chuẩn MF và tối ưu hóa bằng SGD (Koren et al., 2009; Takács et al., 2009), phân rã ma trận thiên vị BMF (Koren et al., 2009; Nguyen-Thai-Nghe et al., 2011), phân rã ma trận ba chiều Tensor Factorization theo ngữ cảnh thời gian (Kolda and Bader, 2009; Dunlavy et al., 2011; Adomavicius and Tuzhilin, 2011).
- Ứng dụng khai phá dữ liệu giáo dục và hệ thống gợi ý trong giáo dục (Drachsler et al., 2008, 2015; Romero et al., 2009; García et al., 2009; Prins et al., 2008; Garcia-Martinez and Hamou-Lhadj, 2013; Thai-Nghe et al., 2011).
- Ứng dụng học sâu trong hệ thống gợi ý với khối hợp nhất nơ-ron (MLP, CNN, RNN/LSTM) và mô hình lai sâu (Zhang et al., 2019).
Khoảng trống luận án lựa chọn giải quyết: Luận án định vị nghiên cứu vào việc tích hợp phân loại truy vấn để thu hẹp không gian tìm kiếm trước khi áp dụng tính toán tương đồng hoặc mạng ngữ nghĩa; giải quyết bài toán phân loại trên dữ liệu văn bản mất cân bằng bằng mạng nơ-ron truyền thẳng đa tầng MLP; xây dựng các mô hình dự đoán kết quả học tập đa cấp độ (toàn bộ sinh viên, nhóm năng lực, từng sinh viên) sử dụng mạng CNN, GroupMLP kết hợp RF và LSTM; đề xuất áp dụng mô hình phân rã ma trận sâu DMF để nâng cao chất lượng gợi ý tài nguyên học tập cho người học dựa trên dữ liệu thực tế.
Cơ sở lý thuyết và phương pháp nghiên cứu
Luận án xây dựng dựa trên các khung lý thuyết và mô hình toán học:
- Mô hình phân loại văn bản:
- Giải thuật SVM: Tìm siêu phẳng tối ưu $w \cdot x + b = 0$ thỏa mãn điều kiện $y_i(w \cdot x_i + b) \ge 1$ nhằm cực đại hóa khoảng cách biên margin $= \frac{2}{|w|}$, tương đương với việc tối thiểu hóa $\frac{1}{2}|w|^2$.
- Mạng nơ-ron truyền thẳng đa tầng (MLP): Sử dụng các tầng ẩn kết nối đầy đủ, nơ-ron nhân tạo biến đổi đầu vào bằng hàm kích hoạt phi tuyến tính (ReLU, Sigmoid, Softmax) và tối ưu hóa trọng số qua thuật toán lan truyền ngược.
- Khung tính toán độ tương đồng văn bản:
- Kết hợp hai thành phần theo mô hình của Li et al. (2004): Độ tương đồng ngữ nghĩa véc-tơ ($S_c$) và độ tương đồng thứ tự từ ($S_r$).
- Độ tương đồng ngữ nghĩa $S_c(T_1, T_2)$ được tính bằng độ đo cosine giữa hai véc-tơ đặc trưng ngữ nghĩa $V_1$ và $V_2$:
$$S_c(T_1, T_2) = \frac{V_1 \cdot V_2}{|V_1||V_2|} = \frac{\sum_{i=1}^m v_{1i} v_{2i}}{\sqrt{\sum_{i=1}^m v_{1i}^2} \sqrt{\sum_{i=1}^m v_{2i}^2}}$$
- Độ tương đồng thứ tự từ $S_r(T_1, T_2)$ đo lường sự sai khác vị trí xuất hiện của các từ thông qua khoảng cách giữa hai véc-tơ thứ tự $R_1$ và $R_2$:
$$S_r(T_1, T_2) = 1 - \frac{|R_1 - R_2|}{|R_1 + R_2|}$$
- Khung phân tích web ngữ nghĩa và ontology:
- Kiến trúc phân tầng Semantic Web gồm 7 tầng: Unicode/URI, XML + Namespaces + Schema, RDF + RDF Schema, Ontology (ngôn ngữ OWL: OWL Lite, OWL DL, OWL Full), Digital Signature, Logic, Proof và Trust.
- Dữ liệu ontology được cấu trúc dưới dạng bộ ba RDF (Subject - Predicate - Object).
- Hệ thống gợi ý và kỹ thuật phân rã ma trận:
- Biểu diễn bài toán trên ma trận người dùng - mục tin - đánh giá $U \times I \times R$, với $U$ là tập người dùng, $I$ là tập mục tin và $R$ là tập giá trị phản hồi (tường minh hoặc tiềm ẩn).
- Phân rã ma trận chuẩn (MF): Xấp xỉ ma trận xếp hạng $X \approx W H^T$, trong đó $W \in \mathbb{R}^{|U| \times K}$ và $H \in \mathbb{R}^{|I| \times K}$ là các ma trận nhân tố tiềm ẩn ($K \ll |U|, K \ll |I|$). Dự đoán xếp hạng:
$$\hat{r}{ui} = \sum{k=1}^K w_{uk} h_{ik}$$
- Hàm mục tiêu tối thiểu hóa sai số với chuẩn Frobenius chính tắc hóa $\lambda$:
$$\mathcal{O}{MF} = \sum{(u,i) \in D_{train}} (r_{ui} - \hat{r}_{ui})^2 + \lambda (|W|_F^2 + |H|_F^2)$$
- Phân rã ma trận thiên vị (BMF): Bổ sung trung bình toàn cục $\mu$, độ thiên vị của người dùng $b_u$ và độ thiên vị của mục tin $b_i$:
$$\hat{r}{ui} = \mu + b_u + b_i + \sum{k=1}^K w_{uk} h_{ik}$$
- Phân rã ma trận ba chiều (Tensor Factorization - TF): Mở rộng không gian thành $U \times I \times T$ với thành phần thứ ba biểu diễn ngữ cảnh thời gian.
- Mô hình phân rã ma trận sâu (DMF): Mở rộng từ MF bằng cách đưa các véc-tơ người dùng và mục tin qua các tầng nơ-ron phi tuyến tính sâu để học tương tác tiềm ẩn phức tạp.
Phương pháp nghiên cứu thực tế của luận án là phương pháp định lượng thực nghiệm kỹ thuật:
- Thu thập và tiền xử lý dữ liệu: Tách từ, loại bỏ từ dừng (stop words), xây dựng không gian véc-tơ đặc trưng TF-IDF; áp dụng phép biến đổi lượng tử (Quantile Transformation - QTF) để chuẩn hóa phân bố dữ liệu điểm số; kiểm định chéo $k$-fold cross-validation; kỹ thuật Regularization và Dropout để ngăn chặn hiện tượng quá khớp (overfitting).
- Kỹ thuật tính toán phân tán: Ứng dụng kỹ thuật xử lý dữ liệu lớn để tăng tốc độ tính toán trong bài toán tìm kiếm ngữ nghĩa.
- Độ đo đánh giá thực nghiệm:
- Bài toán phân loại: Diện tích dưới đường cong ROC (AUC - Area under the ROC Curve), ma trận nhầm lẫn (Confusion Matrix).
- Bài toán dự đoán và gợi ý: Sai số tuyệt đối trung bình (MAE - Mean Absolute Error) và Căn bậc hai sai số trung bình bình phương (RMSE - Root Mean Squared Error).
| Nhiệm vụ nghiên cứu |
Phương pháp / Mô hình thực tế |
Dữ liệu thực nghiệm |
Độ đo đánh giá |
| Phân loại tài nguyên |
Mạng nơ-ron đa tầng MLP, đối sánh SVM |
Scientific_Articles, School_Text_Books, Reuters_Newswire, Turkish_News_Articles |
AUC, Ma trận nhầm lẫn |
| Tìm kiếm tài nguyên |
(1) Tương đồng Cosine + Thứ tự từ;
(2) Tra cứu Ontology; SVM phân loại truy vấn |
Tập dữ liệu bài báo thuộc 10 lĩnh vực chuyên môn |
Tỷ lệ chính xác, Thời gian xử lý |
| Dự đoán kết quả học tập |
(1) Mạng CNN + QTF (Toàn bộ sinh viên);
(2) GroupMLP + RF (Nhóm năng lực);
(3) Mạng LSTM (Từng sinh viên) |
Dữ liệu kết quả học tập của sinh viên tại Trường Đại học Cần Thơ (Khoa Công nghệ) |
MAE, RMSE |
| Gợi ý tài nguyên học tập |
Mô hình phân rã ma trận sâu DMF, đối sánh MF, BMF, User_kNN, Baselines |
Dữ liệu Ratings, Ratings-Books, dữ liệu Student Performance |
RMSE |
Nội dung chính theo từng chương
Chương 1. Giới thiệu
Chương 1 thiết lập tổng thể khuôn khổ nghiên cứu của luận án. Nội dung chương trình bày tính cấp thiết của việc xây dựng hệ thống tìm kiếm và gợi ý tài nguyên học tập trong môi trường giáo dục mở và trực tuyến. Tác giả xác định mục tiêu tổng quát, hai mục tiêu cụ thể, đối tượng nghiên cứu và phạm vi tài nguyên học tập dạng văn bản. Kiến trúc tổng quát (Hình 1.1) được thiết lập nhằm phân rã bài toán lớn thành bốn nội dung nghiên cứu tương ứng: phân loại tài nguyên học tập, tìm kiếm tài nguyên học tập, dự đoán kết quả học tập và gợi ý tài nguyên học tập. Chương này cũng tóm tắt bốn đóng góp khoa học chính gắn với 10 công trình công bố của nghiên cứu sinh và phác thảo bố cục 7 chương của luận án.
Chương 2. Cơ sở lý thuyết và các nghiên cứu liên quan
Chương 2 cung cấp nền tảng lý thuyết chi tiết cho toàn bộ các mô hình đề xuất trong luận án.
- Trình bày khái quát về tài nguyên học tập, hệ thống quản lý học tập (LMS), hệ thống quản lý có quan tâm ngữ nghĩa và các nhóm lợi ích của hệ thống gợi ý tài nguyên giáo dục.
- Trình bày cơ chế phân loại văn bản: SVM tuyến tính và phi tuyến, phân chia đa lớp One-vs-All và One-vs-One, sơ đồ phân loại câu hỏi với SVM; cây quyết định và giải thuật rừng ngẫu nhiên (RF); tổng quan về mạng nơ-ron sâu trong phân loại.
- Phân tích các kỹ thuật tính toán độ tương đồng chuỗi và văn bản: Jaro, Tversky, Jaccard, Cosine trên mô hình không gian véc-tơ, cùng công thức toán học xác định độ tương đồng ngữ nghĩa và trật tự từ của Li et al. (2004).
- Trình bày cấu trúc Web ngữ nghĩa: 7 tầng kiến trúc theo Berners-Lee, bộ ba RDF, lược đồ RDFS, các biến thể ngôn ngữ OWL (OWL Lite, OWL DL, OWL Full) và công cụ soạn thảo Protégé, Knoodl.
- Trình bày toán học hệ thống gợi ý: Biểu diễn ma trận User-Item-Rating, các giải thuật CB, CF (User_kNN, Item_kNN sử dụng độ đo Pearson và Cosine), phân rã ma trận chuẩn MF tối ưu bằng SGD, phân rã ma trận thiên vị BMF, phân rã ma trận ba chiều TF và các phương pháp baseline (Global Average, User Average, Item Average).
- Trình bày các kiến trúc học sâu: Khối hợp nhất nơ-ron (CNN với các tầng Convolution, Pooling, Fully Connected, Softmax; MLP; LSTM) và mô hình lai sâu (Deep Hybrid Models), cùng các giải pháp kiểm soát quá khớp (Dropout, Early stopping, k-fold cross-validation).
Chương 3. Mô hình phân loại tài nguyên học tập
Chương 3 trình bày chi tiết việc xây dựng mô hình phân loại tài nguyên học tập sử dụng mạng nơ-ron truyền thẳng đa tầng MLP nhằm giới hạn không gian tìm kiếm.
- Quy trình thực nghiệm: Tiền xử lý văn bản, trích xuất đặc trưng và đưa vào mạng MLP.
- Nghiên cứu thiết lập thử nghiệm siêu tham số trên tập dữ liệu mẫu Scientific_Articles để xác định số lượng nơ-ron tối ưu trên nhiều lớp ẩn, hàm kích hoạt và tốc độ học.
- Đánh giá khả năng phân loại của mô hình trên các tập dữ liệu thực nghiệm: Scientific_Articles, School_Text_Books, Reuters_Newswire và Turkish_News_Articles.
- Các kết quả thực nghiệm được đo đạc bằng chỉ số AUC và phân tích thông qua ma trận nhầm lẫn (Confusion Matrix). Kết quả đối sánh thực nghiệm giữa mạng MLP và máy véc-tơ hỗ trợ SVM trên hai tập School_Text_Books và Reuters_Newswire khẳng định mô hình MLP duy trì độ chính xác phân loại cao, thích ứng tốt trên các tập dữ liệu mất cân bằng nghiêm trọng về số mẫu và số lớp.
Chương 4. Mô hình tìm kiếm tài nguyên học tập
Chương 4 đề xuất hai hướng tiếp cận tìm kiếm tài nguyên học tập có quan tâm ngữ nghĩa:
- Hướng tiếp cận 1: Tìm kiếm dựa trên độ tương đồng nội dung văn bản. Câu truy vấn trước hết được phân loại bằng giải thuật SVM để xác định chủ đề. Sau đó, hệ thống tính toán kết hợp độ tương đồng ngữ nghĩa véc-tơ và độ tương đồng thứ tự từ giữa truy vấn và tập tài liệu đã phân loại tương ứng. Kết quả thực nghiệm trên tập ngữ liệu bài báo thuộc 10 lĩnh vực cho thấy việc kết hợp hai độ đo phản ánh chính xác mức độ liên quan nội dung hơn so với việc chỉ sử dụng độ đo từ vựng đơn thuần.
- Hướng tiếp cận 2: Tìm kiếm dựa trên mạng ngữ nghĩa ontology. Tác giả thiết kế cấu trúc ontology mô tả các lớp, thuộc tính và liên kết bài giảng. Câu truy vấn được hệ thống tiền xử lý và phân loại bằng SVM để xác định miền tri thức, sau đó ánh xạ vào ontology để thực hiện truy vấn ngữ nghĩa.
- Thử nghiệm tăng tốc xử lý: Nhằm khắc phục hạn chế về thời gian khi không gian tìm kiếm mở rộng, chương này triển khai thử nghiệm tăng tốc xử lý dữ liệu tìm kiếm bằng kỹ thuật dữ liệu lớn, giúp tối ưu hóa thời gian phản hồi truy vấn.
Chương 5. Mô hình dự đoán kết quả học tập
Chương 5 phát triển các mô hình dự đoán kết quả học tập của người học đóng vai trò tiền đề cho hệ thống gợi ý tài nguyên, tiếp cận qua ba cấp độ mô hình:
- Mô hình 1: Dự đoán kết quả học tập trên toàn bộ dữ liệu sinh viên sử dụng mạng nơ-ron tích chập CNN. Dữ liệu điểm số ban đầu có sự lệch phân bố được tiền xử lý bằng phép biến đổi lượng tử (Quantile Transformation - QTF). Thực nghiệm so sánh hai giải thuật tối ưu hóa Adam và RMSprop, đánh giá qua sai số tuyệt đối trung bình MAE trên toàn bộ tập dữ liệu và dữ liệu riêng của Khoa Công nghệ.
- Mô hình 2: Dự đoán kết quả học tập theo nhóm năng lực học tập (GroupMLP). Sinh viên được phân nhóm theo các mức điểm tương đồng bằng kỹ thuật học máy rừng ngẫu nhiên RF, sau đó áp dụng mạng MLP huấn luyện riêng trên từng nhóm. Kết quả thực nghiệm chứng minh mô hình GroupMLP đạt chỉ số RMSE và MAE thấp hơn rõ rệt so với mạng MLP huấn luyện chung và các mô hình baseline.
- Mô hình 3: Dự đoán kết quả học tập theo từng cá nhân sinh viên sử dụng mạng bộ nhớ ngắn dài hạn LSTM trên dữ liệu chuỗi thời gian các môn học đã tích lũy. Thử nghiệm trên các tập dữ liệu lọc lấy từ 10 và 20 mẫu tin điểm trở lên cho thấy kiến trúc LSTM mô hình hóa hiệu quả sự phụ thuộc chuỗi điểm số so với kiến trúc mạng MLP.
Chương 6. Mô hình gợi ý tài nguyên học tập
Chương 6 đề xuất mô hình gợi ý tài nguyên học tập dựa trên kỹ thuật phân rã ma trận sâu (Deep Matrix Factorization - DMF), được mở rộng từ mô hình phân rã ma trận chuẩn MF.
- Cấu trúc framework của mô hình DMF sử dụng các tầng nơ-ron đa tầng để học các biểu diễn phi tuyến tính của người dùng và mục tin từ ma trận đánh giá.
- Tổ chức thực nghiệm trên hai nhóm dữ liệu: Nhóm dữ liệu tài nguyên học tập (Ratings, Ratings-Books, các tập dữ liệu lọc giữ lại 10 ratings và 20 ratings) và nhóm dữ liệu kết quả học tập của sinh viên (Student Performance).
- Khảo sát thực nghiệm về mối quan hệ giữa sai số RMSE với số lượng nơ-ron và số lượng nhân tố tiềm ẩn (latent factors).
- So sánh biến thiên sai số học và kiểm thử giữa mô hình MF và DMF. Kết quả đối sánh với các phương pháp gợi ý khác (MF, BMF, User_kNN, Global Average, User Average, Item Average) xác nhận mô hình DMF đạt giá trị RMSE thấp hơn trên các tập dữ liệu quy mô lớn, cung cấp cơ sở để xếp hạng và gợi ý tài nguyên học tập phù hợp năng lực người học.
Chương 7. Kết luận và hướng nghiên cứu tiếp theo
Chương 7 tổng kết toàn diện các kết quả nghiên cứu đã đạt được của luận án thông qua việc giải quyết bốn bài toán: phân loại tài nguyên, tìm kiếm ngữ nghĩa, dự đoán kết quả học tập và gợi ý tài nguyên bằng học sâu. Tác giả khẳng định các mục tiêu nghiên cứu đề ra tại Chương 1 đã được hoàn thành đầy đủ, chỉ ra các hạn chế về phạm vi định dạng tài nguyên và nguồn dữ liệu, đồng thời vạch rõ các hướng nghiên cứu mở rộng trong tương lai.
Kết quả và những đóng góp mới
Luận án tự xác định các đóng góp khoa học mới về lý luận và thực tiễn qua bốn nội dung chính:
- Về phân loại tài nguyên học tập:
- Đề xuất phương pháp phân loại tài nguyên học tập phục vụ tìm kiếm dựa trên kỹ thuật học sâu với mạng nơ-ron truyền thẳng đa tầng MLP.
- Kiểm chứng thực nghiệm trên nhiều tập dữ liệu đa ngôn ngữ với số lượng lớp khác nhau, chứng minh mạng MLP duy trì hiệu quả phân loại tốt trên các tập dữ liệu mất cân bằng về số mẫu và số lớp.
- Xác lập tính phù hợp của độ đo diện tích dưới đường cong ROC (AUC) đối với bài toán phân loại văn bản giáo dục mất cân bằng. Kết quả này được công bố qua hai công trình CT1 (Dien, T., 2019) và CT2 (Dien, Tran Thanh and Thanh-Hai, Nguyen et al., 2019).
- Về tìm kiếm tài nguyên học tập:
- Đề xuất hai mô hình tìm kiếm có quan tâm đến ngữ nghĩa: (1) Mô hình kết hợp độ tương đồng ngữ nghĩa văn bản véc-tơ (Cosine) và độ tương đồng thứ tự từ; (2) Mô hình tìm kiếm ngữ nghĩa dựa trên mạng ngữ nghĩa ontology.
- Đề xuất giải pháp phân loại câu truy vấn bằng SVM trước khi tìm kiếm nhằm thu hẹp không gian tìm kiếm vào đúng lĩnh vực chuyên môn.
- Ứng dụng thành công kỹ thuật xử lý dữ liệu lớn để tăng tốc độ xử lý dữ liệu tìm kiếm. Kết quả được công bố trong các công trình CT3 (Dien, Tran Thanh et al., 2020) và CT5 (Trần Thanh Điện ctv.).
- Về dự đoán kết quả học tập:
- Đề xuất ba cách tiếp cận dự đoán kết quả học tập dựa trên học sâu: Mô hình toàn bộ sinh viên sử dụng mạng CNN; mô hình theo nhóm năng lực học tập sử dụng mạng GroupMLP kết hợp giải thuật RF; mô hình theo từng sinh viên sử dụng mạng nơ-ron chuỗi thời gian LSTM.
- Đưa vào quy trình tiền xử lý phép biến đổi lượng tử (Quantile Transformation - QTF) giúp dữ liệu điểm số hội tụ nhanh và ổn định hơn khi huấn luyện mạng nơ-ron sâu. Kết quả được công bố qua bốn công trình: CT6 (Dien, Tran Thanh and Hai, Nguyen Thanh et al., 2020), CT7 (Dien, Tran Thanh and Hoai-Sang, Luu et al., 2020), CT8 (Dien and Duy-Anh et al., 2021) và CT9 (Dien and Phuoc et al.).
- Về gợi ý tài nguyên học tập:
- Đề xuất mô hình gợi ý tài nguyên học tập dựa trên kỹ thuật phân rã ma trận sâu (DMF) mở rộng từ phân rã ma trận chuẩn MF.
- Kiểm chứng mô hình trên cả hai nhóm dữ liệu (tài nguyên học tập và kết quả học tập thực tế), chứng minh mô hình DMF đạt hiệu suất dự đoán xếp hạng với sai số RMSE thấp hơn so với các kỹ thuật lọc cộng tác truyền thống và baseline. Kết quả được công bố tại công trình CT10 (Tran Thanh Dien et al.).
Các đề xuất và kiến nghị thực tiễn:
- Đề xuất tích hợp mô-đun tiền xử lý và phân loại câu truy vấn vào các hệ thống quản lý học tập trực tuyến để giảm tải tài nguyên tính toán trước khi thực hiện các phép so khớp ngữ nghĩa phức tạp.
- Ứng dụng mô hình dự đoán kết quả học tập theo nhóm năng lực và theo chuỗi thời gian cá nhân vào hệ thống cảnh báo học vụ của các trường đại học nhằm kịp thời hỗ trợ sinh viên có nguy cơ giảm sút kết quả học tập.
- Ứng dụng mô hình DMF vào hệ thống thư viện số và cổng tài nguyên học tập để tự động gợi ý tài liệu học tập, giáo trình, bài báo tương thích với năng lực và tiến trình tích lũy kiến thức của người học.
Hạn chế và hướng nghiên cứu tiếp
Hạn chế của luận án:
- Phạm vi tài nguyên học tập trong luận án mới chỉ tập trung vào dữ liệu dạng văn bản số hóa (bài giảng, giáo trình, sách, bài báo khoa học), chưa mở rộng sang các dạng tài nguyên đa phương tiện khác như âm thanh, video bài giảng, hình ảnh mô phỏng.
- Nguồn dữ liệu thực nghiệm về kết quả học tập của người học chủ yếu thu thập trong phạm vi các đơn vị đào tạo của một trường đại học (Trường Đại học Cần Thơ).
- Cấu trúc ontology phục vụ tìm kiếm ngữ nghĩa mới được xây dựng và thử nghiệm trên một số miền kiến thức môn học cụ thể, chưa bao phủ toàn diện mọi chuyên ngành đào tạo.
Hướng nghiên cứu tiếp theo được tác giả xác định:
- Mở rộng nghiên cứu các mô hình tìm kiếm và gợi ý cho các nguồn tài nguyên học tập đa phương tiện (multimodal learning resources) bao gồm âm thanh, hình ảnh và video học liệu.
- Bổ sung các yếu tố ngữ cảnh đa chiều (thời gian tương tác, loại thiết bị truy cập, trạng thái và hành vi học tập chi tiết trên môi trường trực tuyến) vào mô hình gợi ý sâu.
- Xây dựng và hoàn thiện hệ thống ontology mở rộng cho nhiều ngành đào tạo khác nhau, hướng tới kết nối dữ liệu liên kết mở (Linked Open Data) phục vụ chia sẻ tài nguyên giáo dục rộng rãi.
Giá trị tham khảo
Luận án là tài liệu tham khảo hữu ích cho các nhóm đối tượng:
- Nghiên cứu sinh, học viên cao học và giảng viên chuyên ngành Hệ thống thông tin, Khoa học máy tính, Công nghệ thông tin theo đuổi các hướng nghiên cứu về Khai phá dữ liệu giáo dục (Educational Data Mining), Hệ thống gợi ý (Recommender Systems), Xử lý ngôn ngữ tự nhiên (NLP) và Web ngữ nghĩa (Semantic Web).
- Các nhà quản trị đại học và cán bộ quản lý đào tạo: Tham khảo các mô hình dự đoán kết quả học tập (CNN, GroupMLP, LSTM) để xây dựng hệ thống phân tích học tập (Learning Analytics) và cảnh báo kết quả học tập của sinh viên.
- Các kỹ sư phần mềm, chuyên gia phát triển hệ thống E-learning và thư viện điện tử: Tham khảo phương pháp thiết kế kiến trúc phân loại truy vấn kết hợp tra cứu ontology và giải thuật phân rã ma trận sâu DMF để triển khai chức năng tìm kiếm và đề xuất tài liệu học tập.
Các nội dung có giá trị tham khảo chuyên sâu:
- Quy trình thực nghiệm tìm kiếm siêu tham số cho mạng MLP trên dữ liệu văn bản mất cân bằng tại Chương 3.
- Công thức kết hợp độ tương đồng ngữ nghĩa véc-tơ và độ tương đồng thứ tự từ của văn bản, kết hợp phân loại SVM tại Chương 4.
- Phương pháp tiền xử lý dữ liệu điểm số bằng kỹ thuật biến đổi lượng tử (QTF) và kiến trúc mô hình GroupMLP tại Chương 5.
- Cấu trúc toán học và quy trình tối ưu hóa mô hình phân rã ma trận sâu (DMF) tại Chương 6.
Câu hỏi thường gặp
-
Luận án giải quyết vấn đề phân loại tài nguyên học tập trên các tập dữ liệu mất cân bằng bằng phương pháp nào?
Tác giả đề xuất sử dụng mạng nơ-ron truyền thẳng đa tầng MLP kết hợp quy trình tìm kiếm siêu tham số trên nhiều lớp ẩn. Mạng MLP được chứng minh có khả năng phân loại hiệu quả trên các tập dữ liệu mất cân bằng nghiêm trọng về số mẫu và số lớp (như tập School_Text_Books và Reuters_Newswire) khi so sánh đối sánh với giải thuật SVM truyền thống. Đồng thời, tác giả sử dụng độ đo diện tích dưới đường cong ROC (AUC) để phản ánh chính xác hiệu năng mô hình trên dữ liệu mất cân bằng thay cho độ chính xác tổng thể thông thường.
-
Mô hình tìm kiếm tài nguyên học tập dựa trên độ tương đồng nội dung văn bản kết hợp các yếu tố nào?
Mô hình kết hợp hai thành phần toán học: Độ tương đồng ngữ nghĩa của văn bản ($S_c$) tính qua độ đo cosine giữa các véc-tơ đặc trưng ngữ nghĩa và độ tương đồng thứ tự của các từ trong văn bản ($S_r$) dựa trên khoảng cách giữa hai véc-tơ vị trí từ (kế thừa khung phân tích của Li et al., 2004). Trước khi tính toán độ tương đồng, câu truy vấn được đưa qua bộ phân loại SVM nhằm xác định đúng chủ đề, giúp thu hẹp không gian so khớp.
-
Ba mô hình học sâu được đề xuất để dự đoán kết quả học tập của sinh viên gồm những mô hình nào?
Ba mô hình học sâu gồm:
- Dự đoán kết quả học tập cho toàn bộ sinh viên: Sử dụng mạng nơ-ron tích chập CNN kết hợp kỹ thuật tiền xử lý biến đổi lượng tử QTF.
- Dự đoán theo nhóm năng lực học tập: Sử dụng mô hình GroupMLP, trong đó sinh viên được phân nhóm tương đồng bằng giải thuật rừng ngẫu nhiên RF trước khi huấn luyện mạng MLP riêng cho từng nhóm.
- Dự đoán theo từng sinh viên: Sử dụng mạng bộ nhớ ngắn dài hạn LSTM để mô hình hóa chuỗi điểm tích lũy qua các môn học theo thời gian.
-
Kỹ thuật biến đổi lượng tử (Quantile Transformation - QTF) đóng vai trò gì trong mô hình dự đoán kết quả học tập?
Dữ liệu điểm số của sinh viên trong thực tế thường phân bố lệch và không đồng đều giữa các thang điểm. Phép biến đổi lượng tử QTF được sử dụng ở bước tiền xử lý nhằm chuẩn hóa dữ liệu điểm số về dãy phân bố xác định, giúp loại bỏ các giá trị dị biệt và hỗ trợ các thuật toán tối ưu hóa của mạng nơ-ron sâu (như Adam và RMSprop) hội tụ nhanh hơn, ổn định hơn và giảm thiểu sai số MAE.
-
Điểm khác biệt cơ bản giữa mô hình gợi ý tài nguyên học tập DMF và kỹ thuật phân rã ma trận chuẩn MF là gì?
Kỹ thuật MF chuẩn chỉ xấp xỉ ma trận đánh giá thông qua tích vô hướng tuyến tính giữa hai ma trận nhân tố tiềm ẩn bậc thấp của người dùng và mục tin ($W H^T$). Ngược lại, mô hình phân rã ma trận sâu DMF đưa các véc-tơ đặc trưng của người học và tài nguyên qua mạng nơ-ron nhiều tầng ẩn phi tuyến tính, cho phép học được các mối quan hệ tương tác phức tạp, phi tuyến tính giữa người học và học liệu, từ đó giảm sai số RMSE và cải thiện chất lượng dự đoán xếp hạng trên dữ liệu quy mô lớn.
Kết luận
Luận án tiến sĩ của nghiên cứu sinh Trần Thanh Điện đã giải quyết một cách có hệ thống bài toán nâng cao hiệu quả tìm kiếm và gợi ý tài nguyên học tập dạng văn bản trong môi trường giáo dục đại học. Thông qua việc phân rã mục tiêu thành bốn nội dung nghiên cứu gắn kết, tác giả đã ứng dụng thành công các kỹ thuật học sâu (MLP, CNN, LSTM, DMF), kết hợp phân loại câu truy vấn với mạng ngữ nghĩa ontology và chuẩn hóa dữ liệu bằng phép biến đổi lượng tử QTF. Toàn bộ các mô hình đề xuất đều được kiểm chứng thông qua các thực nghiệm định lượng trên các tập dữ liệu thực tế và quy chuẩn, cung cấp cơ sở khoa học và giải pháp kỹ thuật tin cậy cho việc phát triển các hệ sinh thái giáo dục số.
