Luận án tiến sĩ: Nâng cao hiệu năng phân lớp dữ liệu thông qua cải tiến thuật toán SVM

• Tác giả: Nguyễn Thế Cường
• Người hướng dẫn: PGS. Huỳnh Thế Phùng
• Trường học: Đại học Huế - Trường Đại học Khoa học
• Chuyên ngành: Khoa học máy tính
• Đề tài: Nâng cao hiệu năng phân lớp dữ liệu trên cơ sở cải tiến thuật toán SVM
• Loại tài liệu: luận án tiến sĩ
• Năm xuất bản: 2023
• Địa điểm: Huế

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• DANH MỤC CÁC KÝ HIỆU
• DANH MỤC BẢNG BIỂU
• DANH MỤC HÌNH VẼ
• MỞ ĐẦU
• 1. CHƯƠNG 1: CƠ SỞ TOÁN HỌC CỦA SVM
• 1.1. Hàm toàn phương
• 1.2. Bài toán quy hoạch toàn phương (QP)
• 1.3. Điều kiện tối ưu của bài toán QP
• 1.4. Bài toán đối ngẫu
• 1.5. Bài toán phân lớp dữ liệu
• 1.6. Hàm phân lớp tuyến tính
• 1.7. Siêu phẳng lề mềm
• 1.8. Hàm phân lớp phi tuyến
• 1.9. Hàm phân lớp có trọng số
• 1.10. Tiểu kết chương
• 2. CHƯƠNG 2: CÁC BIẾN THỂ CỦA SVM
• 2.1. SVM xấp xỉ (PSVM)
• 2.2. PSVM thông qua các trị riêng suy rộng (GEPSVM)
• 2.3. SVM song sinh (TSVM)
• 2.3.1. Trường hợp tuyến tính
• 2.3.2. Trường hợp phi tuyến
• 2.4. TSVM dùng bình phương tối thiểu (LSTSVM)
• 2.5. SVM song sinh có cấu trúc (S-TSVM)
• 2.6. Tiểu kết chương
• 3. CHƯƠNG 3: PHƯƠNG PHÁP LỚP ĐỐI CỤM
• 3.1. SVM có cấu trúc có trọng số (WS-SVM)
• 3.1.1. Trường hợp tuyến tính
• 3.1.2. Trường hợp phi tuyến
• 3.2. Tập dữ liệu giả 2 chiều
• 3.3. Các tập dữ liệu của UCI
• 3.4. Cải tiến SVM dùng bình phương tối thiểu (ILS-SVM)
• 3.4.1. Trường hợp tuyến tính
• 3.4.2. Trường hợp phi tuyến
• 3.5. Tập dữ liệu giả 2 chiều
• 3.6. Các tập dữ liệu UCI
• 3.7. Tiểu kết chương
• 4. CHƯƠNG 4: PHƯƠNG PHÁP CỤM ĐỐI LỚP
• 4.1. Biến đổi của S-TSVM
• 4.2. SVM dùng bình phương tối thiểu có trọng số (WLS-SVM)
• 4.2.1. Trường hợp tuyến tính
• 4.2.2. Trường hợp phi tuyến
• 4.3. Tập dữ liệu giả 2 chiều
• 4.4. Các tập dữ liệu UCI
• 4.5. Tiểu kết chương
• KẾT LUẬN
• DANH MỤC CÁC CÔNG TRÌNH KHOA HỌC CỦA TÁC GIẢ LIÊN QUAN ĐẾN LUẬN ÁN
• TÀI LIỆU THAM KHẢO
• PHỤ LỤC

I. Cải tiến thuật toán SVM

Luận án tập trung vào việc cải tiến thuật toán SVM để nâng cao hiệu năng phân lớp dữ liệu. Các phương pháp được đề xuất nhằm giải quyết các hạn chế của SVM truyền thống, đặc biệt là trong việc xử lý dữ liệu có cấu trúc phức tạp. Các cải tiến bao gồm việc sử dụng phương pháp lớp-đối-cụm và cụm-đối-lớp, giúp khai thác thông tin cấu trúc của từng cụm dữ liệu. Các thuật toán mới như WS-SVM, ILS-SVM, và WLS-SVM được đề xuất để tối ưu hóa quá trình phân lớp.

1.1. Phương pháp lớp đối cụm

Phương pháp lớp-đối-cụm được sử dụng để tìm các siêu phẳng tối ưu cho từng cụm dữ liệu. Cách tiếp cận này giúp cải thiện độ chính xác trong phân lớp bằng cách xem xét cấu trúc cụm của từng lớp. Các thuật toán như WS-SVM và ILS-SVM được phát triển dựa trên phương pháp này, giúp giảm thời gian huấn luyện và tăng hiệu suất phân lớp.

1.2. Phương pháp cụm đối lớp

Phương pháp cụm-đối-lớp tập trung vào việc tìm các siêu phẳng tối ưu cho từng cụm trong một lớp, đồng thời xem xét khoảng cách đến các lớp khác. Thuật toán WLS-SVM được đề xuất dựa trên phương pháp này, giúp cải thiện hiệu năng phân lớp đối với dữ liệu có cấu trúc phức tạp.

II. Hiệu năng phân lớp dữ liệu

Luận án đánh giá hiệu năng phân lớp dữ liệu của các thuật toán đề xuất thông qua các thử nghiệm trên các bộ dữ liệu giả và bộ dữ liệu UCI. Kết quả cho thấy các thuật toán mới như WS-SVM, ILS-SVM, và WLS-SVM đạt được độ chính xác cao hơn và thời gian huấn luyện ngắn hơn so với các thuật toán truyền thống. Các phương pháp này đặc biệt hiệu quả trong việc xử lý dữ liệu có cấu trúc phức tạp và không cân bằng.

2.1. Đánh giá trên dữ liệu giả

Các thử nghiệm trên dữ liệu giả cho thấy các thuật toán đề xuất có khả năng phân lớp chính xác hơn so với các thuật toán truyền thống. Đặc biệt, ILS-SVM và WLS-SVM đạt được hiệu suất cao trong việc xử lý dữ liệu có cấu trúc phức tạp.

2.2. Đánh giá trên bộ dữ liệu UCI

Các thử nghiệm trên bộ dữ liệu UCI khẳng định hiệu quả của các thuật toán đề xuất. WS-SVM và WLS-SVM đạt được độ chính xác cao và thời gian huấn luyện ngắn, đặc biệt là trên các bộ dữ liệu lớn và phức tạp.

III. Ứng dụng thực tiễn

Luận án không chỉ mang lại giá trị khoa học mà còn có ý nghĩa thực tiễn cao. Các thuật toán đề xuất có thể được áp dụng trong các bài toán thực tế như nhận dạng hình ảnh, âm thanh, và phân loại văn bản. Các kết quả nghiên cứu cũng có thể được sử dụng làm tài liệu tham khảo cho các sinh viên và học viên cao học trong lĩnh vực học máy và phân tích dữ liệu.

3.1. Ứng dụng trong nhận dạng hình ảnh

Các thuật toán đề xuất có thể được áp dụng trong các bài toán nhận dạng hình ảnh, giúp cải thiện độ chính xác và tốc độ xử lý. Đặc biệt, WLS-SVM tỏ ra hiệu quả trong việc phân loại hình ảnh có cấu trúc phức tạp.

3.2. Ứng dụng trong phân loại văn bản

Các thuật toán đề xuất cũng có thể được sử dụng trong các bài toán phân loại văn bản, giúp cải thiện hiệu suất và độ chính xác. ILS-SVM và WS-SVM đạt được kết quả tốt trong việc phân loại văn bản có cấu trúc phức tạp.