Tổng quan luận án

Bài toán phân loại mẫu (pattern classification) nhằm xác định quy tắc gán một đối tượng vào một lớp cụ thể dựa trên các quan sát. Trong học máy có giám sát, thuật toán máy véc-tơ hỗ trợ (Support Vector Machine - SVM) do Vapnik đề xuất là một phương pháp phân loại nhị phân phổ biến nhờ khả năng tìm nghiệm tối ưu toàn cục thông qua bài toán quy hoạch toàn phương (QP). Tuy nhiên, trong các bài toán thực tế, dữ liệu thường có cấu trúc phức tạp: hai lớp dữ liệu có xu hướng phân phối khác nhau; đặc biệt, trong cùng một lớp dữ liệu có thể chứa nhiều cụm dữ liệu với phân phối riêng biệt và số lượng điểm dữ liệu khác nhau. Điển hình như bài toán phân loại hoa quả "da trơn" (gồm các cụm Xoài, Táo, Nho) và "da xù xì" (gồm các cụm Mít, Dứa). Các mô hình SVM truyền thống và các biến thể sử dụng một hoặc hai siêu phẳng chưa khai thác đầy đủ thông tin cấu trúc từng cụm cũng như số lượng điểm dữ liệu của mỗi cụm, dẫn đến hạn chế về độ chính xác và thời gian huấn luyện.

Luận án tiến sĩ khoa học máy tính của nghiên cứu sinh Nguyễn Thế Cường, do PGS. Huỳnh Thế Phùng hướng dẫn tại Trường Đại học Khoa học, Đại học Huế (năm 2023), tập trung giải quyết khoảng trống nghiên cứu này.

Mục tiêu nghiên cứu của luận án:

  1. Mục tiêu tổng quát: Đề xuất các phương pháp mới nhằm nâng cao hiệu năng phân lớp dữ liệu (bao gồm độ chính xác phân loại và thời gian huấn luyện) đối với dữ liệu có cấu trúc phức tạp, trên cơ sở cải tiến thuật toán SVM.
  2. Mục tiêu cụ thể: Khai thác đồng thời thông tin cấu trúc hình học của từng cụm dữ liệu (thông qua ma trận hiệp phương sai) và thông tin về số lượng điểm dữ liệu trong mỗi cụm thuộc các lớp dữ liệu.

Đối tượng và phạm vi nghiên cứu:

  • Đối tượng nghiên cứu: Các thuật toán học máy và bài toán phân lớp dữ liệu nhị phân.
  • Phạm vi nghiên cứu: Học máy có giám sát; tập trung nghiên cứu, cải tiến và xây dựng các thuật toán mở rộng của SVM cho loại dữ liệu có cấu trúc phức tạp (mỗi lớp gồm nhiều cụm, các cụm có phân phối và số lượng mẫu khác nhau).

Tổng quan tài liệu và vị trí của luận án

Luận án đã tổng hợp và phân tích các hướng phát triển chính của thuật toán SVM trong cộng đồng học thuật:

  • Hướng giải quyết dữ liệu không cân bằng: Các nghiên cứu của Akbani et al. (2004), Batuwita & Palade (2010), Krawczyk (2016).
  • Hướng giảm độ phức tạp tính toán và xử lý dữ liệu lớn: Nghiên cứu của Collobert et al. (2002), Joachims (2006), Woodsend & Gondzio (2009), cùng các kỹ thuật trích chọn đặc trưng và giảm chiều của Bradley & Mangasarian (1998), Tan et al. (2014).
  • Các thuật toán mở rộng trọng số và cấu trúc: Nghiên cứu thuật toán SVM có trọng số cho dữ liệu nhị phân của Bao et al. (2021), thuật toán TS-WRSVM của Mo et al. (2021).

Trọng tâm khảo cứu của luận án đặt vào các biến thể sử dụng hai siêu phẳng phân tách:

  • SVM xấp xỉ (PSVM) của Fung & Mangasarian (2001, 2005): Tìm hai siêu phẳng song song bao quanh hai lớp dữ liệu bằng cách chuyển bài toán QP sang ràng buộc đẳng thức, áp dụng công thức Sherman-Morrison-Woodbury để giảm chiều ma trận nghịch đảo. Hạn chế là tính chất song song làm giảm khả năng mở rộng khi phân bố dữ liệu phức tạp.
  • GEPSVM (PSVM qua trị riêng suy rộng) của Mangasarian & Wild (2006): Tìm hai siêu phẳng không nhất thiết song song bằng cách giải hai bài toán trị riêng suy rộng không ràng buộc (thương Rayleigh), nhưng độ chính xác và khả năng mở rộng chưa cao.
  • SVM song sinh (TSVM) của Jayadeva, Khemchandani, Chandra (2007): Giải hai bài toán đối ngẫu Lagrange có kích thước nhỏ hơn bài toán gốc của SVM, giúp tăng tốc độ huấn luyện xấp xỉ 4 lần.
  • TSVM dùng bình phương tối thiểu (LSTSVM) của Kumar & Gopal (2009): Thay thế các ràng buộc bất đẳng thức trong TSVM bằng ràng buộc đẳng thức, chuyển việc giải bài toán đối ngẫu sang giải hai hệ phương trình tuyến tính (SLEs).
  • SVM song sinh có cấu trúc (S-TSVM) của Qi et al. (2013): Bổ sung thông tin ma trận hiệp phương sai cấu trúc của từng cụm vào hàm mục tiêu TSVM nhằm định hướng siêu phẳng chạy dọc theo cụm.

Khoảng trống nghiên cứu được luận án xác định: Khi các cụm trong từng lớp có số lượng điểm dữ liệu chênh lệch lớn và phân phối phức tạp, các mô hình trên vẫn chưa tích hợp đồng thời thông tin ma trận hiệp phương sai của từng cụm và trọng số thể hiện kích thước cụm. Luận án định vị nghiên cứu thông qua việc đề xuất hai hướng tiếp cận: chiến lược "lớp-đối-cụm" (Class-vs-Cluster) và chiến lược "cụm-đối-lớp" (Cluster-vs-Class).

Cơ sở lý thuyết và phương pháp nghiên cứu

Luận án xây dựng trên nền tảng toán học tối ưu hóa và hình học giải tích:

  • Cơ sở toán học tối ưu: Khảo sát hàm toàn phương $Q(x) = \frac{1}{2} x^T G x + g^T x + \alpha$ với ma trận Hessian $\nabla^2 Q(x) = G$. Thiết lập bài toán quy hoạch toàn phương lồi (QP), hệ điều kiện Karush-Kuhn-Tucker (KKT) và bài toán đối ngẫu Lagrange để tìm nghiệm tối ưu toàn cục.
  • Lý thuyết phân lớp SVM: Xây dựng mặt quyết định tuyến tính $S_{(w,b)} = {x \in \mathbb{R}^n \mid w^T x + b = 0}$, mặt quyết định chính tắc với lề $\rho(w,b) = \frac{1}{|w|}$, bài toán lề mềm với biến bù lỗi $\xi_i \ge 0$ và hệ số phạt $c$. Đối với bài toán phi tuyến, sử dụng ánh xạ $\Phi: \mathbb{R}^n \to \mathbb{R}^m$ và kỹ thuật hàm hạt nhân (kernel trick) $K(x_i, x_j) = \Phi(x_i)^T \Phi(x_j)$.
  • Phương pháp khai thác cấu trúc cụm: Sử dụng thuật toán phân cụm liên kết của Ward (Ward's hierarchical agglomerative clustering) để phân tách các cụm dữ liệu trong từng lớp. Luận án phân tích lý do không dùng thuật toán $k$-means (vốn bị hạn chế ở cấu trúc hình cầu và yêu cầu kích thước cụm tương đồng) hoặc $k$-NN (chỉ dựa vào lân cận cục bộ, không trích xuất được cấu trúc toàn cục). Ma trận hiệp phương sai của cụm $A_i$ có $m_{Ai}$ điểm được tính theo công thức $\Sigma_{Ai} = \frac{1}{m_{Ai}} \sum_{x_j \in A_i} (x_j - \mu_{Ai})(x_j - \mu_{Ai})^T$.
  • Kỹ thuật tính toán ma trận: Ứng dụng công thức Sherman-Morrison-Woodbury (SMW) $(A + UV^T)^{-1} = A^{-1} - A^{-1}U(I + V^T A^{-1} U)^{-1} V^T A^{-1}$ để giảm bậc ma trận nghịch đảo khi xử lý tập dữ liệu lớn.
Thành phần nghiên cứu Nội dung triển khai trong luận án
Công cụ toán học Quy hoạch toàn phương lồi (QP), Đối ngẫu Lagrange, Hệ điều kiện KKT, Hệ phương trình tuyến tính (SLEs)
Kỹ thuật phân cụm Phân cụm liên kết của Ward (Ward's hierarchical clustering)
Phương pháp giải Phương pháp nhân tử Lagrange và Phương pháp bình phương tối thiểu (Least Squares)
Công cụ thực nghiệm Ngôn ngữ lập trình Python, mã nguồn công bố trên GitHub
Tập dữ liệu kiểm nghiệm Dữ liệu giả lập 2 chiều (Synthetic 2D) và các bộ dữ liệu mở chuẩn từ UCI Machine Learning Repository
Kỹ thuật đánh giá Đánh giá chéo (Cross Validation - CV), đo đạc thời gian huấn luyện và độ chính xác phân loại

Nội dung chính theo từng chương

Chương 1. Cơ sở toán học của SVM

Chương này hệ thống hóa toàn diện nền tảng toán học của thuật toán SVM từ trường hợp cơ bản đến mở rộng:

  • Trình bày dạng chuẩn của hàm toàn phương và bài toán quy hoạch toàn phương tổng quát $\min Q(x) = \frac{1}{2} x^T G x + g^T x + \alpha$ với ràng buộc tuyến tính $Ax \ge b, Cx = d$.
  • Thiết lập định lý điều kiện tối ưu KKT và phương pháp lập bài toán đối ngẫu Lagrange dạng minimax $\inf_{(w,b)} \sup_{(\lambda, \mu)} L(w,b,\xi,\lambda,\mu)$.
  • Phân tích bài toán phân lớp nhị phân cho trường hợp tách được tuyến tính, dẫn xuất công thức khoảng cách lề cực đại $\frac{1}{|w|}$ tương đương với việc cực tiểu hóa $\frac{1}{2}|w|^2$.
  • Mở rộng sang siêu phẳng lề mềm cho dữ liệu có chồng lấn nhỏ bằng cách đưa vào biến lơi $\xi_i$ và tham số phạt $c$.
  • Trình bày không gian đặc trưng phi tuyến thông qua ánh xạ nâng chiều $\Phi(x)$ và cách thiết lập ma trận hạt nhân $D_{ij} = y_i y_j \Phi(x_i)^T \Phi(x_j)$.
  • Xây dựng bài toán phân lớp có trọng số với hai hệ số phạt khác nhau $\delta^+$ và $\delta^-$ cho hai lớp $A$ và $B$, thể hiện sự đánh đổi giữa các loại sai lầm trong chẩn đoán thực tế.

Chương 2. Các biến thể của SVM

Chương 2 phân tích cơ chế toán học và đặc tính của 5 biến thể tiêu biểu sử dụng hai siêu phẳng:

  • PSVM: Chuyển bài toán lề mềm sang dạng $\min \frac{c}{2}|\xi|^2 + \frac{1}{2}(|w|^2 + b^2)$ với ràng buộc đẳng thức $D(Cw+eb) + \xi = e$, cho phép tính nghiệm trực tiếp thông qua công thức SMW mà không cần giải bài toán quy hoạch đối ngẫu phức tạp.
  • GEPSVM: Tìm hai siêu phẳng không song song $w_+^T x + b_+ = 0$ và $w_-^T x + b_- = 0$ thông qua thương Rayleigh và bài toán trị riêng suy rộng $Gz = \lambda Hz$.
  • TSVM: Xây dựng 2 bài toán QP lồi cỡ nhỏ, mỗi bài toán chỉ chứa ràng buộc từ một lớp dữ liệu. Thời gian huấn luyện của TSVM đạt độ phức tạp $O(2 \times (m/2)^3) = O(m^3/4)$, nhanh hơn xấp xỉ 4 lần so với SVM tiêu chuẩn ($O(m^3)$). Trình bày nghiệm đối ngẫu cho cả dạng tuyến tính và phi tuyến.
  • LSTSVM: Thay đổi ràng buộc bất đẳng thức của TSVM thành ràng buộc đẳng thức dạng bình phương tối thiểu, đưa việc tìm nghiệm hai siêu phẳng về giải hai hệ phương trình tuyến tính cỡ $(n+1)$ đối với tuyến tính và $(m+1)$ đối với phi tuyến: $$z_+ = -\left[\frac{1}{c_+} H^T H + G^T G\right]^{-1} G^T e_B$$
  • S-TSVM: Đưa thêm ma trận hiệp phương sai cấu trúc cụm $\Sigma^+ = \sum_{i=1}^k \Sigma_i^+$ và $\Sigma^- = \sum_{j=1}^l \Sigma_j^-$ vào hàm mục tiêu để tối thiểu hóa hình chiếu của các điểm trong cụm lên véc-tơ pháp tuyến, giúp siêu phẳng bám sát cấu trúc phân phối của từng cụm.
   [Chiến lược Lớp-đối-Cụm]                        [Chiến lược Cụm-đối-Lớp]
        (Chương 3)                                      (Chương 4)
WS-SVM                 ILS-SVM                 WLS-SVM             Biến đổi S-TSVM
(Quy hoạch toàn        (Bình phương tối        (Bình phương tối    (Đối ngẫu Lagrange,
phần, đối ngẫu         thiểu, giải hệ          thiểu có trọng số,  (k+l) siêu phẳng)
Lagrange)              SLEs)                   giải hệ SLEs)

Chương 3. Phương pháp lớp đối cụm

Chương 3 đề xuất chiến lược "lớp-đối-cụm" (Class-vs-Cluster) nhằm xử lý dữ liệu phức tạp:

  • Nguyên lý chiến lược: Thay vì tìm 2 siêu phẳng chung cho toàn bộ hai lớp, chiến lược này tìm $(l + k)$ siêu phẳng, trong đó mỗi siêu phẳng được tối ưu sao cho gần với toàn bộ một lớp và cách xa một cụm cụ thể của lớp đối nghịch.
  • Thuật toán WS-SVM (SVM có cấu trúc có trọng số):
    • Tích hợp ma trận hiệp phương sai của cụm và gán trọng số tương ứng với kích thước điểm dữ liệu của từng cụm vào hàm mục tiêu.
    • Thiết lập bài toán QP lồi và giải thông qua hệ điều kiện KKT và bài toán đối ngẫu Lagrange cho cả trường hợp tuyến tính và phi tuyến.
  • Thuật toán ILS-SVM (Cải tiến SVM dùng bình phương tối thiểu):
    • Kết hợp chiến lược lớp-đối-cụm với kỹ thuật bình phương tối thiểu.
    • Thay thế các ràng buộc bất đẳng thức bằng ràng buộc đẳng thức, chuyển việc giải bài toán đối ngẫu sang giải các hệ phương trình tuyến tính (SLEs), giúp giảm thời gian tính toán.
  • Thực nghiệm đánh giá:
    • Kiểm thử mô phỏng trên tập dữ liệu giả lập 2 chiều để quan sát vị trí các siêu phẳng phân tách.
    • Đánh giá trên các bộ dữ liệu mở UCI, phân tách thành hai nhóm dữ liệu nhỏ và dữ liệu lớn, kiểm chứng với kernel tuyến tính và kernel phi tuyến (được tổng hợp chi tiết từ Bảng 3.1 đến Bảng 3.10 trong văn bản). Kết quả chứng minh WS-SVM và ILS-SVM cải thiện độ chính xác phân lớp và ILS-SVM có tốc độ huấn luyện nhanh.

Chương 4. Phương pháp cụm đối lớp

Chương 4 nghiên cứu và phát triển chiến lược "cụm-đối-lớp" (Cluster-vs-Class):

  • Nguyên lý chiến lược: Xây dựng $(k + l)$ siêu phẳng, trong đó mỗi siêu phẳng nằm gần với một cụm xác định của một lớp và cách xa toàn bộ lớp còn lại.
  • Biến đổi của S-TSVM: Mở rộng mô hình S-TSVM theo cấu trúc cụm-đối-lớp, giải bằng phương pháp nhân tử Lagrange trên bài toán đối ngẫu.
  • Thuật toán WLS-SVM (SVM dùng bình phương tối thiểu có trọng số):
    • Kết hợp thông tin hiệp phương sai cụm, trọng số số lượng điểm dữ liệu của từng cụm với kỹ thuật bình phương tối thiểu.
    • Nghiệm của mô hình được xác định trực tiếp thông qua nghiệm giải tích của các hệ phương trình đại số tuyến tính, tránh được chi phí lặp của quy hoạch toàn phương.
    • Xây dựng công thức nghiệm hoàn chỉnh cho trường hợp tuyến tính và trường hợp phi tuyến trên không gian Hilbert thông qua hàm kernel.
  • Thực nghiệm kiểm nghiệm:
    • Mô phỏng trực quan trên dữ liệu giả 2 chiều trong hai trường hợp: cấu trúc đơn giản (Hình 4.1, Hình 4.3) và cấu trúc phức tạp (Hình 4.2, Hình 4.4).
    • Thử nghiệm trên các tập dữ liệu thực tế từ kho UCI (tương ứng từ Bảng 4.1 đến Bảng 4.5 trong văn bản). Kết quả cho thấy WLS-SVM duy trì độ chính xác cao đồng thời rút ngắn thời gian huấn luyện trên các tập dữ liệu có độ mất cân bằng và cấu trúc cụm phức tạp.

Kết quả và những đóng góp mới

Luận án đã đạt được các đóng góp khoa học và thực tiễn cụ thể:

Đóng góp về mặt khoa học:

  1. Đề xuất nhóm thuật toán phân lớp nhị phân cho dữ liệu có cấu trúc phức tạp dựa trên chiến lược "lớp-đối-cụm" (thuật toán WS-SVM và ILS-SVM). Các thuật toán này thay thế việc giải một bài toán QP kích thước lớn bằng việc giải các bài toán QP hoặc hệ phương trình tuyến tính có kích thước nhỏ hơn, tìm nghiệm tối ưu toàn cục bằng phương pháp đối ngẫu hoặc bình phương tối thiểu.
  2. Đề xuất nhóm thuật toán phân lớp theo chiến lược "cụm-đối-lớp" (thuật toán WLS-SVM và biến đổi của S-TSVM). Mô hình khai thác đồng thời ma trận hiệp phương sai cấu trúc của từng cụm và trọng số thể hiện số lượng điểm dữ liệu của mỗi cụm trong các lớp dữ liệu.

Đóng góp về mặt thực tiễn:

  1. Cung cấp giải pháp tính toán hiệu quả cho các bài toán phân loại dữ liệu có cấu trúc phức tạp và dữ liệu mất cân bằng nghiêm trọng (tỷ lệ lớp đa số chiếm khoảng 90%, lớp thiểu số chiếm khoảng 10%).
  2. Toàn bộ mã nguồn cài đặt của các thuật toán đề xuất và các thuật toán đối sánh được công khai trên nền tảng GitHub, phục vụ việc kiểm chứng và tái lập thực nghiệm.
  3. Luận án đóng vai trò tài liệu tham khảo chuyên khảo cho học viên cao học, sinh viên ngành Công nghệ thông tin và Khoa học máy tính nghiên cứu về học máy và xử lý dữ liệu.

Danh mục công trình khoa học đã công bố của tác giả: Các kết quả nghiên cứu trong luận án được công bố qua 05 công trình khoa học:

  • 01 bài báo trong chuyên san hội thảo quốc gia;
  • 01 bài báo trong kỷ yếu hội thảo quốc tế;
  • 01 bài báo trên Tạp chí Khoa học và Công nghệ, Trường Đại học Khoa học, Đại học Huế;
  • 01 bài báo trên Tạp chí Kỹ thuật và Công nghệ, Đại học Huế;
  • 01 bài báo trên Tạp chí Tin học và Điều khiển học.

Hạn chế và hướng nghiên cứu tiếp

Căn cứ theo phạm vi và nội dung trình bày trong văn bản:

  • Hạn chế:
    • Mô hình nghiên cứu của luận án tập trung hoàn toàn vào bài toán phân loại nhị phân (hai lớp), chưa mở rộng trực tiếp cho bài toán phân loại đa lớp (multi-class).
    • Quá trình huấn luyện phụ thuộc vào kết quả của bước phân cụm tiền xử lý bằng thuật toán liên kết của Ward; chất lượng phân cụm ban đầu có ảnh hưởng trực tiếp đến việc xác định các ma trận hiệp phương sai cụm.
    • Chưa tích hợp các cơ chế tự động lựa chọn đặc trưng hoặc giảm chiều dữ liệu trong các trường hợp số chiều không gian mẫu quá lớn.
  • Hướng nghiên cứu tiếp:
    • Mở rộng các chiến lược "lớp-đối-cụm" và "cụm-đối-lớp" sang các bài toán phân lớp đa lớp.
    • Nghiên cứu kết hợp các kỹ thuật phân cụm khác thích ứng với các dạng phân bố dữ liệu phi tuyến phức tạp hơn.

Giá trị tham khảo

Luận án là tài liệu học thuật có giá trị tham khảo rõ ràng cho các nhóm đối tượng:

  • Nghiên cứu sinh và học viên cao học ngành Khoa học máy tính, Công nghệ thông tin: Có thể tham khảo Chương 1 để nắm vững phương pháp biến đổi tối ưu hóa lồi, đối ngẫu Lagrange và hệ điều kiện KKT trong học máy; tham khảo Chương 2 để nắm bắt bức tranh tổng quan về các biến thể SVM hai siêu phẳng (PSVM, GEPSVM, TSVM, LSTSVM, S-TSVM).
  • Giảng viên và nhà nghiên cứu thuật toán: Có thể khai thác Chương 3 và Chương 4 về kỹ thuật tích hợp ma trận hiệp phương sai cấu trúc cụm vào hàm mục tiêu tối ưu và kỹ thuật bình phương tối thiểu để giải nhanh bài toán học máy.
  • Kỹ sư dữ liệu và lập trình viên ứng dụng: Có thể tham khảo phần phụ lục và mã nguồn mở trên GitHub để ứng dụng trực tiếp các thuật toán WS-SVM, ILS-SVM, WLS-SVM vào xử lý các bài toán phân loại dữ liệu mất cân bằng và phân bố cụm phức tạp trong thực tế.

Câu hỏi thường gặp

1. Động lực chính thúc đẩy tác giả nghiên cứu và cải tiến thuật toán SVM trong luận án là gì?
Trả lời: Động lực xuất phát từ thực tế dữ liệu trong nhiều ứng dụng có cấu trúc phức tạp: các lớp có xu hướng phân phối khác nhau, và trong mỗi lớp lại chứa nhiều cụm dữ liệu với phân phối và số lượng điểm dữ liệu riêng biệt. Các mô hình SVM truyền thống và các biến thể hiện có chưa khai thác đầy đủ thông tin cấu trúc từng cụm cũng như kích thước của mỗi cụm, làm giảm hiệu năng phân loại.

2. Điểm khác biệt cốt lõi giữa hai chiến lược "lớp-đối-cụm" và "cụm-đối-lớp" là gì?
Trả lời: Chiến lược "lớp-đối-cụm" (Chương 3) tìm kiếm $(l + k)$ siêu phẳng, mỗi siêu phẳng nằm gần với toàn bộ một lớp và cách xa một cụm của lớp còn lại. Ngược lại, chiến lược "cụm-đối-lớp" (Chương 4) tìm kiếm $(k + l)$ siêu phẳng, mỗi siêu phẳng nằm gần với một cụm cụ thể của một lớp và cách xa toàn bộ lớp đối nghịch.

3. Vì sao luận án lựa chọn thuật toán phân cụm liên kết của Ward thay vì thuật toán $k$-means hay $k$-NN?
Trả lời: Luận án chỉ ra rằng thuật toán $k$-means có nhược điểm là chỉ phù hợp với các cụm có cấu trúc hình cầu và yêu cầu số lượng điểm trong mỗi cụm phải tương đương nhau. Thuật toán $k$-NN chỉ xác định nhãn dựa trên $k$ điểm lân cận gần nhất nên không trích xuất được cấu trúc toàn cục. Thuật toán phân cụm liên kết của Ward đáp ứng tốt yêu cầu trích xuất thông tin cấu trúc và ma trận hiệp phương sai của từng cụm dữ liệu có hình dạng và kích thước khác nhau.

4. Ưu điểm nổi bật của phương pháp bình phương tối thiểu trong các thuật toán ILS-SVM và WLS-SVM là gì?
Trả lời: Phương pháp bình phương tối thiểu thay thế các ràng buộc bất đẳng thức bằng ràng buộc đẳng thức trong bài toán tối ưu. Nhờ đó, thay vì phải giải các bài toán quy hoạch toàn phương (QP) đối ngẫu phức tạp bằng phương pháp lặp, thuật toán đưa bài toán về giải các hệ phương trình đại số tuyến tính (SLEs) thông qua phép nghịch đảo ma trận, giúp rút ngắn đáng kể thời gian huấn luyện mô hình.

5. Kết quả nghiên cứu của luận án đã được công bố trên các diễn đàn khoa học nào?
Trả lời: Luận án đã công bố 05 công trình khoa học, bao gồm 01 bài báo trong chuyên san hội thảo quốc gia, 01 bài báo trong kỷ yếu hội thảo quốc tế, 01 bài trên Tạp chí Khoa học và Công nghệ (Đại học Khoa học Huế), 01 bài trên Tạp chí Kỹ thuật và Công nghệ (Đại học Huế), và 01 bài trên Tạp chí Tin học và Điều khiển học.

Kết luận

Luận án tiến sĩ của nghiên cứu sinh Nguyễn Thế Cường đã giải quyết bài toán nâng cao hiệu năng phân lớp dữ liệu nhị phân có cấu trúc phức tạp bằng cách cải tiến thuật toán SVM. Thông qua việc kết hợp thuật toán phân cụm liên kết của Ward, luận án đã đề xuất thành công hai nhóm phương pháp tiếp cận mới là "lớp-đối-cụm" (với các thuật toán WS-SVM, ILS-SVM) và "cụm-đối-lớp" (với thuật toán WLS-SVM và biến đổi của S-TSVM). Các thuật toán được chứng minh chặt chẽ về mặt toán học thông qua quy hoạch toàn phương đối ngẫu và hệ phương trình tuyến tính bình phương tối thiểu, đồng thời được kiểm chứng thực nghiệm toàn diện trên các tập dữ liệu giả lập và dữ liệu chuẩn UCI. Công trình đóng góp thiết thực cho lý thuyết học máy có giám sát và cung cấp giải pháp xử lý hiệu quả cho các bài toán phân loại dữ liệu đa phân phối và mất cân bằng trong thực tiễn.