Tổng quan về luận án

Sự bùng nổ của kỷ nguyên số và các hệ thống giao dịch trực tuyến (OLTP) đã tạo ra những kho dữ liệu khổng lồ với số chiều (dimensionality) gia tăng nhanh chóng. Tuy nhiên, thách thức lớn nhất trong khai phá dữ liệu (data mining) và học máy (machine learning) chính là hiện tượng dữ liệu dư thừa, nhiễu và chứa các thuộc tính không liên quan, dẫn đến "lời nguyền số chiều" (curse of dimensionality), làm suy giảm nghiêm trọng độ chính xác phân lớp và tiêu tốn tài nguyên tính toán. Luận án tiến sĩ chuyên ngành Hệ thống thông tin mang tên "Nghiên cứu cải tiến các kỹ thuật rút gọn đặc trưng cho phân lớp dữ liệu" do nghiên cứu sinh Hà Văn Sang thực hiện dưới sự hướng dẫn khoa học của PGS. TS. Nguyễn Hà Nam và PGS. TS. Nguyễn Hải Châu tại Trường Đại học Công nghệ – Đại học Quốc gia Hà Nội (2018) đã giải quyết trực diện bài toán cốt lõi này bằng việc phát triển các thuật toán rút gọn đặc trưng tiên tiến theo cả hai nhánh tiếp cận: Lựa chọn đặc trưng (Feature Selection) và Trích xuất đặc trưng (Feature Extraction).

                      ┌───────────────────────────────────────────────┐
                      │    KỸ THUẬT RÚT GỌN ĐẶC TRƯNG TIÊN TIẾN       │
                      └──────────────────────┬────────────────────────┘
                                             │
                    ┌────────────────────────┴────────────────────────┐
                    ▼                                                 ▼
     ┌─────────────────────────────┐                   ┌─────────────────────────────┐
     │    LỰA CHỌN ĐẶC TRƯNG       │                   │    TRÍCH XUẤT ĐẶC TRƯNG     │
     │        (Selection)          │                   │        (Extraction)         │
     └──────────────┬──────────────┘                   └──────────────┬──────────────┘
                    │                                                 │
      Thuật toán FRFE (Wrapper)                         Thuật toán C-KPCA (Kernel)
      - Lõi đệ quy loại bỏ ngược                        - Kết hợp hàm nhân đa thức & RBF
      - Xếp hạng: Importance + AUC + Acc                - Tối ưu hóa ma trận Gram phi tuyến
      - Tăng tốc phân tán qua H2O                       - Giảm chiều dữ liệu Microarray
                    │                                                 │
                    ▼                                                 ▼
      Bài toán: Cho điểm tín dụng                       Bài toán: Phân tích gen Ung thư
      - German Credit (1.000 mẫu, 24 đặc trưng)         - Colon Cancer (62 mẫu, 2.000 gen)
      - Australian Credit (690 mẫu, 14 đặc trưng)       - Leukemia (72 mẫu, 7.129 gen)
      - Tối ưu AUC: 0.7930 - 0.9340                     - Lymphoma (62 mẫu, 4.026 gen)
      - Giảm 40-50% số lượng thuộc tính                 - Prostate (102 mẫu, 12.600 gen)

Khoảng trống nghiên cứu (research gap) được xác định rõ: các mô hình đóng gói (wrapper methods) truyền thống tuy đạt độ chính xác phân lớp cao nhờ tương tác trực tiếp với bộ phân lớp nhưng lại có chi phí tính toán cấp số mũ $\mathcal{O}(2^N)$, dễ rơi vào bẫy cực trị địa phương (local optima) và quá khớp (overfitting); trong khi đó, các phương pháp trích xuất đặc trưng phi tuyến như Phân tích thành phần chính dựa trên hàm nhân (Kernel PCA - KPCA) lại phụ thuộc cứng nhắc vào một hàm nhân duy nhất, không thể thích ứng với cấu trúc phân bố đa hình thái của dữ liệu y sinh phức tạp.

Luận án đặt ra và giải quyết 3 câu hỏi nghiên cứu cốt lõi (Research Questions - RQ) cùng các giả thuyết khoa học tương ứng (Hypotheses - H):

  • RQ1: Làm thế nào để xây dựng một chiến lược đánh giá và tìm kiếm thứ hạng đặc trưng kết hợp nhằm tối ưu hóa độ chính xác phân lớp và độ ổn định của mô hình đóng gói? (H1: Một hàm đánh giá tích hợp giữa độ quan trọng thuộc tính, độ chính xác phân lớp và diện tích dưới đường cong ROC (AUC) sẽ loại bỏ đặc trưng nhiễu hiệu quả hơn các độ đo đơn lẻ).
  • RQ2: Làm thế nào để triệt tiêu nút thắt cổ chai về hiệu năng tính toán của thuật toán loại bỏ đặc trưng đệ quy trên dữ liệu quy mô lớn? (H2: Cơ chế tính toán phân tán song song hóa trên nền tảng in-memory H2O kết hợp mô hình Rừng ngẫu nhiên (Random Forest) sẽ giảm thời gian huấn luyện từ cấp số mũ về tuyến tính).
  • RQ3: Làm sao để thiết lập không gian chiếu phi tuyến tối ưu cho các tập dữ liệu có số chiều cực lớn ($N \gg M$)? (H3: Một hàm nhân tùy biến kết hợp định hướng giữa các hàm nhân cơ sở sẽ bảo toàn cấu trúc phân lớp tốt hơn hàm nhân đơn lẻ trong KPCA).

Phạm vi thực nghiệm của luận án bao gồm hai miền ứng dụng tiêu biểu: Bài toán cho điểm tín dụng ngân hàng với bộ dữ liệu German Credit (1.000 mẫu, 20–24 thuộc tính) và Australian Credit (690 mẫu, 14 thuộc tính); cùng Bài toán phân loại dữ liệu vi mảng ung thư (cancer microarray) với 4 bộ dữ liệu kinh điển: Ung thư ruột kết Colon Cancer (62 mẫu, 2.000 gen), Ung thư bạch cầu Leukemia (72 mẫu, 7.129 gen), Ung thư máu trắng Lymphoma (62 mẫu, 4.026 gen) và Ung thư tuyến tiền liệt Prostate Cancer (102 mẫu, 12.600 gen).

Literature Review và Positioning

Bức tranh tổng quan học thuật về rút gọn đặc trưng được phân định qua hai trường phái chính: Lựa chọn đặc trưng (Feature Selection) và Trích xuất đặc trưng (Feature Extraction). Theo tổng kết của luận án từ nguồn cơ sở dữ liệu học thuật quốc tế: "Theo thống kê từ năm 2010 tới năm 2017 trên cơ sở dữ liệu của Google Scholar thì có tới 88.500 tài liệu liên quan tới chủ đề lựa chọn đặc trưng... và có tới 159.000 tài liệu liên quan tới chủ đề trích xuất đặc trưng... Trên cơ sở dữ liệu của ScienceDirect, chủ đề lựa chọn đặc trưng có trên 11.880 bài báo khoa học, trong khi chủ đề trích chọn đặc trưng có hơn 32.980 bài báo liên quan" [tr. 1-2].

                                  TIẾN TRÌNH TIẾP CẬN HỌC THUẬT
  
  Lý thuyết Thông tin & Lọc       Mô hình Đóng gói & Tiến hóa       Rút gọn Phi tuyến & Luận án
  (Filter Models)                 (Wrapper & Evolutionary)         (Hybrid & Custom Kernel)
  
  ┌─────────────────────────┐     ┌──────────────────────────┐     ┌──────────────────────────┐
  │ • Shannon (1948)        │     │ • Kohavi & John (1997)   │     │ • Schölkopf et al.(1998) │
  │ • Hall (1999) - CFS     │ ──► │ • Breiman (2001) - RF    │ ──► │ • FRFE (Hà Văn Sang, 2018)│
  │ • Peng et al.(2005)-mRMR│     │ • Maldonado & Weber(2009)│     │ • C-KPCA (Hà Văn Sang)   │
  │ • Relief-F (Kononenko)  │     │ • Nakariyakul (2009)     │     │                          │
  └─────────────────────────┘     └──────────────────────────┘     └──────────────────────────┘

Trong nhánh Lựa chọn đặc trưng, các mô hình Lọc (Filter) cổ điển như CFS của Mark Hall (1999), thuật toán cứu trợ Relief-F của Kononenko (1994) và nguyên lý tối đa tương quan tối thiểu dư thừa (mRMR) của Peng, Long và Ding (2005) sử dụng các tiêu chuẩn thống kê độc lập như Độ lợi thông tin (Information Gain - IG) và hệ số tương quan để xếp hạng thuộc tính. Ưu điểm của mô hình lọc là tốc độ tính toán nhanh, nhưng nhược điểm chí mạng là bỏ qua sự tương tác phức tạp giữa các tập con đặc trưng với thuật toán học (learning algorithm), dẫn đến tập đặc trưng được chọn không tối ưu cho bộ phân lớp cụ thể. Ngược lại, trường phái mô hình Đóng gói (Wrapper) do Ron Kohavi và George John (1997) khởi xướng sử dụng trực tiếp độ chính xác của bộ phân lớp làm hàm mục tiêu. Nhiều công trình quốc tế đã tìm cách kết hợp Wrapper với các thuật toán tối ưu hóa bầy đàn như Particle Swarm Optimization (PSO) của Kennedy và Eberhart (1995), thuật toán di truyền (GA) của Soufan và cộng sự (2015), hay Sequential Forward Selection cải tiến của Nakariyakul và Casasent (2009). Tuy nhiên, các giải pháp này vẫn gặp xung đột gay gắt giữa độ chính xác phân lớp và độ phức tạp thời gian khi số chiều tăng cao.

Trong nhánh Trích xuất đặc trưng, bên cạnh Phân tích thành phần chính tuyến tính (PCA) của Karl Pearson và Phân tích biệt thức tuyến tính (LDA), kỹ thuật Kernel PCA (KPCA) do Bernhard Schölkopf, Alexander Smola và Klaus-Robert Müller (1998) đề xuất đã mở ra khả năng ánh xạ phi tuyến dữ liệu sang không gian Hilbert tái tạo (Reproducing Kernel Hilbert Space - RKHS). Tuy nhiên, các biến thể như Probabilistic KPCA của Zhou (2006) hay Kernel Fisher Discriminant Analysis (Kernel FDA) của Mika et al. (1999) vẫn bị giới hạn bởi việc cố định tham số nhân hoặc sử dụng hàm nhân đơn lẻ (Single Kernel).

Luận án của tác giả Hà Văn Sang định vị vững chắc trong khoảng trống học thuật này:

  1. So với nghiên cứu của Maldonado và Weber (2009) về lựa chọn đặc trưng lùi tuần tự bằng Support Vector Machine (SVM), thuật toán FRFE đề xuất vượt trội nhờ cơ chế xếp hạng đa tiêu chí (Feature Importance, Train/Test Accuracy, AUC) kết hợp bộ phân lớp Rừng ngẫu nhiên song song hóa trên H2O.
  2. So với công trình của Verónica Bolón-Canedo và cộng sự (2015) về xử lý dữ liệu y sinh vi mảng quy mô lớn, phương pháp trích xuất đặc trưng C-KPCA trong luận án không dựa vào hàm nhân đơn lẻ mà xây dựng cấu trúc hàm nhân lai phối hợp (Custom-Kernel), giúp bảo toàn các mối quan hệ phi tuyến cục bộ và toàn cục của không gian gen.

Đóng góp lý thuyết và khung phân tích

Đóng góp cho lý thuyết

Luận án tạo ra bước tiến quan trọng trong việc mở rộng và kết nối ba nền tảng lý thuyết: Lý thuyết học thống kê (Statistical Learning Theory - Vapnik, 1995), Lý thuyết thông tin (Information Theory - Shannon, 1948) và Nguyên lý cấu trúc Rừng ngẫu nhiên (Random Forests Theory - Breiman, 2001).

                      MÔ HÌNH HÓA ĐÓNG GÓP LÝ THUYẾT VÀ TÍCH HỢP ĐA LÝ THUYẾT
  
   Lý thuyết Thông tin            Lý thuyết Học thống kê         Nguyên lý Ensemble Learning
    (Shannon Entropy)              (Vapnik - RKHS & VC)             (Breiman - Random Forest)
           │                                │                                   │
           │ Tính toán Information Gain     │ Ánh xạ Phi tuyến                  │ Phân tán In-Memory
           │ & Ma trận Tương quan           │ Custom-Kernel Gram                │ & Đo lường Out-of-Bag
           ▼                                ▼                                   ▼
  ┌───────────────────────────────────────────────────────────────────────────────────────┐
  │                      KHUNG PHÂN TÍCH TỔNG QUÁT CỦA LUẬN ÁN                            │
  │                                                                                       │
  │  [P1]: Hàm đánh giá xếp hạng Rank(f_i) = α·Imp(f_i) + β·Acc_Diff + γ·AUC              │
  │  [P2]: Loại bỏ đệ quy Fast Recursive Feature Elimination (FRFE)                       │
  │  [P3]: Không gian ánh xạ phi tuyến C-KPCA: K_custom(x, z) = w_1·K_Poly + w_2·K_RBF   │
  └───────────────────────────────────────────────────────────────────────────────────────┘

Mô hình lý thuyết của luận án thiết lập 3 mệnh đề (Propositions):

  • Mệnh đề 1 (Proposition 1 - Đánh giá đa chiều): Thứ hạng tối ưu của một đặc trưng $f_i$ trong không gian bài toán phân lớp nhị phân không chỉ phụ thuộc vào độ lợi thông tin độc lập $IG(f_i)$ hay trọng số phân tách riêng lẻ, mà là hàm hợp giữa điểm số quan trọng trong mô hình tổ hợp cây quyết định $Imp_{RF}(f_i)$, độ chênh lệch hội tụ giữa tập huấn luyện - tập kiểm tra $\Delta Acc$, và khả năng tối ưu hóa biên phân cách đo lường bằng $AUC$: $$\mathcal{R}(f_i) = \Psi\Big(Imp_{RF}(f_i), \Delta Acc(S \setminus {f_i}), AUC(S \setminus {f_i})\Big)$$
  • Mệnh đề 2 (Proposition 2 - Bảo toàn thông tin qua Custom Kernel): Một hàm nhân phức hợp $K_{custom}(\mathbf{x}_i, \mathbf{x}j) = \sum{k=1}^P w_k K_k(\mathbf{x}_i, \mathbf{x}_j)$ (với $\sum w_k = 1, w_k \ge 0$) thỏa mãn điều kiện Mercer sẽ kiến tạo một toán tử hiệp phương sai trong không gian đặc trưng vô hạn chiều có khả năng cực đại hóa phương sai tổng quát của các quần thể vi mảng hơn bất kỳ hàm nhân thành phần $K_k$ nào.
  • Mệnh đề 3 (Proposition 3 - Giảm chiều tuyến tính hóa): Việc kết hợp cơ chế loại bỏ đệ quy theo khối (Block Elimination) với tính toán phân tán In-Memory phá vỡ giới hạn $\mathcal{O}(2^N)$ của mô hình Wrapper, duy trì tính ổn định của tập nghiệm con khi kiểm chứng chéo $k$-lần.

Khung phân tích độc đáo

Khung phân tích của luận án tích hợp đa tầng:

  1. Tầng tiền xử lý & Đánh giá lọc (Filter-stage Guidance): Sử dụng Information Gain, Relief-F và Correlation Matrix để phân tích sơ bộ độ nhạy thuộc tính.
  2. Tầng tối ưu hóa đóng gói song song (Distributed Wrapper Engine): Thực thi thủ tục FRFE thông qua cơ chế phản hồi từ thuật toán Random Forest, giải phóng gánh nặng tính toán nhờ thư viện phân tán H2O.
  3. Tầng biến đổi không gian nhân tùy biến (Custom-Kernel Space Transformation): Xây dựng ma trận Gram tùy biến thông qua tổ hợp lồi của các hàm nhân RBF (Gaussian Radial Basis Function) và hàm nhân đa thức (Polynomial Kernel), cho phép chiếu các bộ dữ liệu gen có số chiều lên tới 12.600 thuộc tính về không gian trực giao tối ưu $k$ chiều ($k \ll N$).

Điều kiện biên (Boundary conditions): Thuật toán FRFE được tối ưu cho các tập dữ liệu có số lượng mẫu trung bình đến lớn ($M \sim 10^3 - 10^5$) với số chiều vừa phải ($N \le 100$); trong khi thuật toán C-KPCA được thiết kế chuyên biệt cho miền dữ liệu có số chiều siêu lớn nhưng kích thước mẫu nhỏ ($N \gg M$, $N \sim 10^3 - 10^4, M < 200$).

Phương pháp nghiên cứu tiên tiến

Thiết kế nghiên cứu

Luận án tuân thủ chặt chẽ thế giới quan thực chứng (Positivism) và phương pháp diễn dịch thực nghiệm (Deductive Empirical Research). Nghiên cứu xây dựng một quy trình mô hình hóa toán học chặt chẽ, tiếp nối bằng việc hiện thực hóa thuật toán trên môi trường tính toán khoa học và thẩm định thực nghiệm đối chuẩn (benchmarking) trên các bộ dữ liệu chuẩn quốc tế từ kho lưu trữ UCI Machine Learning Repository và Gene Expression Omnibus.

                           SƠ ĐỒ THIẾT KẾ PHƯƠNG PHÁP NGHIÊN CỨU
  
   Dữ liệu gốc (Raw Data)
   ├── Credit Data: German (1.000 mẫu, 24 attrs), Australian (690 mẫu, 14 attrs)
   └── Cancer Data: Colon (62 mẫu, 2k gen), Leukemia (72 mẫu, 7.1k gen),...
            │
            ▼
   Tiền xử lý & Chuẩn hóa
   ├── Xử lý giá trị khuyết thiếu (Missing Value Imputation)
   ├── Rời rạc hóa / Chuẩn hóa Z-score & Min-Max
   └── Khởi tạo K-fold Cross Validation (K = 5, K = 10)
            │
            ├────────────────────────────────────────┬────────────────────────────────────────┐
            ▼                                        ▼                                        ▼
   Thuật toán FRFE (Selection)              H2O Distributed Engine                  Thuật toán C-KPCA (Extraction)
   ├── Lọc ban đầu: IG, Relief-F            ├── Song song hóa tính toán             ├── Xây dựng Custom Kernel:
   ├── Xếp hạng tổng hợp Rank(f)            ├── Phân tán bộ nhớ RAM in-memory       │   K_custom = w_1·Poly + w_2·RBF
   └── Loại bỏ lùi đệ quy (SBG)             └── Giảm thời gian khớp Random Forest   └── Trích xuất Vector riêng / Trực giao
            │                                        │                                        │
            └────────────────────────────────────────┴────────────────────────────────────────┘
                                                     │
                                                     ▼
                                            Đánh giá & Thẩm định
                                            ├── Độ chính xác (Accuracy), AUC, Độ nhạy, Độ đặc hiệu
                                            └── So sánh đối chuẩn (CFS, Relief-F, SFS, SBS, KPCA gốc)

Quy mô mẫu và tiêu chí lựa chọn dữ liệu:

  • Tập dữ liệu Tín dụng Đức (German Credit): Gồm 1.000 hồ sơ khách hàng vay vốn với 20 thuộc tính danh nghĩa/số trị ban đầu (mở rộng thành 24 biến sau khi mã hóa one-hot), gồm 700 hồ sơ tín dụng tốt (Good) và 300 hồ sơ tín dụng xấu (Bad).
  • Tập dữ liệu Tín dụng Úc (Australian Credit): Gồm 690 thể hiện với 14 thuộc tính hỗn hợp (8 thuộc tính phân loại, 6 thuộc tính liên tục), 383 mẫu chấp thuận và 307 mẫu từ chối.
  • Tập dữ liệu Ung thư Vi mảng (Cancer Microarray):
    • Colon Cancer: 62 mẫu sinh thiết mô đại tràng (40 mẫu u ác tính, 22 mẫu mô bình thường), đo lường biểu hiện của 2.000 gen.
    • Leukemia: 72 mẫu bệnh nhân ung thư máu (47 ca ALL - Acute Lymphoblastic Leukemia, 25 ca AML - Acute Myeloid Leukemia), chứa 7.129 gen.
    • Lymphoma: 62 mẫu u lympho ác tính tế bào B lớn với 4.026 gen.
    • Prostate Cancer: 102 mẫu mô tuyến tiền liệt (52 khối u ác tính, 50 mẫu mô lành), chứa 12.600 gen biểu hiện.

Quy trình nghiên cứu rigorous

Quy trình nghiên cứu được chuẩn hóa qua 4 khối vận hành nghiêm ngặt theo mô hình Dash và Liu (1997): Sinh tập con (Subset Generation), Đánh giá (Evaluation), Điều kiện dừng (Stopping Criterion) và Kiểm chứng kết quả (Result Validation).

Tam giác hóa phương pháp (Methodological Triangulation): Luận án kết hợp đồng thời kỹ thuật thống kê mô tả, phân tích đa biến, mô hình học máy đóng gói (Wrapper) và các phép biến đổi toán tử nhân phi tuyến. Tính hợp lệ cấu trúc (construct validity) được đảm bảo bằng việc sử dụng các độ đo đánh giá đa diện: Độ chính xác phân lớp toàn cục (Overall Accuracy), Độ nhạy (Sensitivity), Độ đặc hiệu (Specificity) và Diện tích dưới đường cong ROC (AUC) – chỉ số phản ánh năng lực phân tách độc lập với ngưỡng quyết định.

Tính tin cậy và kiểm chuẩn: Mọi quy trình huấn luyện và đánh giá được kiểm định qua cơ chế kiểm chứng chéo $k$-lần ($k$-fold Cross-Validation với $k=5$ và $k=10$), ngăn chặn hiện tượng rò rỉ dữ liệu (data leakage) và đảm bảo các giá trị phương sai của kết quả đạt độ tin cậy thống kê cao.

Data và phân tích

Luận án sử dụng môi trường lập trình phân tích thống kê R (các gói caret, kernlab, randomForest, e1071) kết hợp với nền tảng phân tán mã nguồn mở H2O.

Các tham số thực nghiệm nâng cao:

  • H2O Random Forest Engine: Cấu hình số cây quyết định ($ntrees = 100 - 500$), độ sâu tối đa ($max_depth = 20$), tỷ lệ chọn thuộc tính ngẫu nhiên tại mỗi nút ($\sqrt{N}$).
  • Custom-Kernel PCA Mapping: Khảo sát không gian trọng số kết hợp $w \in [0, 1]$ giữa hàm nhân RBF ($K_{RBF}(\mathbf{x}, \mathbf{z}) = \exp(-\gamma |\mathbf{x} - \mathbf{z}|^2)$ với $\gamma = 0.01 - 0.1$) và hàm nhân đa thức ($K_{Poly}(\mathbf{x}, \mathbf{z}) = (\mathbf{x}^T \mathbf{z} + c)^d$ với bậc $d = 2, 3$).

Phát hiện đột phá và implications

Những phát hiện then chốt

  1. Thuật toán FRFE tối ưu hóa vượt trội bài toán Cho điểm tín dụng:
    • Trên bộ dữ liệu German Credit, thuật toán FRFE đã tinh giản không gian thuộc tính từ 24 đặc trưng xuống còn 10–12 đặc trưng quan trọng nhất (như tình trạng tài khoản thanh toán hiện tại, lịch sử tín dụng, thời gian vay, mục đích vay), giúp mô hình Random Forest đạt diện tích dưới đường cong AUC đạt mức 0.7930, độ chính xác phân lớp đạt 78.50%, vượt trội so với các thuật toán cơ sở như Cây quyết định (DT - 70.80%), Hồi quy Logistic (LR - 75.20%) và SVM cơ bản (74.60%).
    • Trên bộ dữ liệu Australian Credit, FRFE rút gọn từ 14 đặc trưng xuống 5–7 đặc trưng cốt lõi, nâng AUC lên mức 0.9340 và độ chính xác phân lớp đạt 87.68%.
Bộ dữ liệu Kỹ thuật / Thuật toán Số đặc trưng gốc Số đặc trưng chọn / trích xuất Độ chính xác (Accuracy %) Chỉ số AUC
German Credit Toàn bộ thuộc tính (Baseline) 24 24 74.20% 0.7450
Lọc Relief-F + RF 24 15 76.10% 0.7680
FRFE + H2O Random Forest (Đề xuất) 24 10 78.50% 0.7930
Australian Credit Toàn bộ thuộc tính (Baseline) 14 14 84.50% 0.8820
Lọc Information Gain + RF 14 10 85.80% 0.9010
FRFE + H2O Random Forest (Đề xuất) 14 6 87.68% 0.9340
Colon Cancer KPCA (Hàm nhân đơn RBF) 2.000 20 82.25% -
C-KPCA (Custom-Kernel PCA) 2.000 15 87.10% -
Leukemia KPCA (Hàm nhân đơn Poly) 7.129 30 94.44% -
C-KPCA (Custom-Kernel PCA) 7.129 20 98.61% -
Lymphoma KPCA (Hàm nhân đơn RBF) 4.026 25 93.55% -
C-KPCA (Custom-Kernel PCA) 4.026 20 96.77% -
Prostate Cancer KPCA (Hàm nhân đơn Poly) 12.600 40 86.27% -
C-KPCA (Custom-Kernel PCA) 12.600 25 92.15% -
  1. Đột phá của C-KPCA trên dữ liệu Y sinh Vi mảng (Cancer Microarray):
    • Trên bộ dữ liệu Colon Cancer (2.000 gen), C-KPCA đạt độ chính xác phân lớp 87.10%, cao hơn rõ rệt so với KPCA sử dụng RBF đơn lẻ (82.25%) và KPCA đa thức (80.65%).
    • Trên bộ dữ liệu Leukemia (7.129 gen), mô hình đạt độ chính xác ấn tượng 98.61% (chỉ nhầm lẫn 1 mẫu duy nhất trên tập kiểm tra), vượt qua mức 94.44% của KPCA truyền thống.
    • Trên bộ dữ liệu Lymphoma (4.026 gen) và Prostate Cancer (12.600 gen), C-KPCA lần lượt thiết lập độ chính xác 96.77% và 92.15%, chứng minh năng lực ổn định vượt trội khi chiều dữ liệu đạt ngưỡng hàng chục nghìn biến.
  2. Hiện tượng phi trực quan (Counter-intuitive Finding): Việc giữ lại toàn bộ tập thuộc tính ban đầu không hề làm tăng lượng thông tin hữu ích mà ngược lại tạo ra hiện tượng "nhiễu đồng thuận", khiến các bộ phân lớp học máy bị quá khớp nghiêm trọng. Khi cắt bỏ từ 50% đến 60% số chiều thuộc tính trong dữ liệu tín dụng và hơn 98% số chiều trong dữ liệu gen ung thư, độ chính xác phân lớp không những không suy giảm mà còn tăng từ 3.5% đến 6.2%.
  3. Hiệu năng tăng tốc tính toán của kiến trúc phân tán H2O: Thời gian thực thi thủ tục đóng gói FRFE khi tích hợp H2O trên môi trường song song giảm trung bình từ 4.5 đến 6.8 lần so với việc thực thi tuần tự trên gói thư viện R chuẩn.

Implications đa chiều

  • Học thuật & Lý thuyết: Cung cấp khung phương pháp luận hoàn chỉnh kết hợp giữa kỹ thuật lọc heuristic và mô hình đóng gói phân tán, mở ra hướng nghiên cứu mới về tối ưu hóa hàm nhân hỗn hợp (Multiple Kernel Learning) trong giảm số chiều dữ liệu phi tuyến.
  • Phương pháp luận nghiên cứu: Thiết lập chuẩn thức thực nghiệm cho việc tiền xử lý và rút gọn dữ liệu vi mảng y sinh học có cấu trúc $N \gg M$.
  • Thực tiễn ngành Ngân hàng & Tài chính: Thuật toán FRFE cho phép các tổ chức tín dụng xây dựng hệ thống thẩm định và chấm điểm tín dụng tự động chính xác, giảm thiểu tỷ lệ nợ xấu, tối ưu hóa quy trình thu thập thông tin khách hàng bằng cách loại bỏ các câu hỏi/chỉ tiêu dư thừa.
  • Thực tiễn Y tế & Tin sinh học (Bioinformatics): C-KPCA hỗ trợ các nhà nghiên cứu y sinh xác định chính xác các mẫu biểu hiện gen đặc thù của khối u ác tính, thúc đẩy chẩn đoán sớm và hỗ trợ phác đồ điều trị ung thư cá thể hóa.

Limitations và Future Research

Luận án thẳng thắn chỉ ra các giới hạn khoa học cần được tiếp tục hoàn thiện:

  1. Giới hạn về tối ưu hóa trọng số hàm nhân: Trong C-KPCA, các hệ số kết hợp trọng số hàm nhân ($w_k$) và tham số kernel ($\gamma, d$) vẫn được lựa chọn dựa trên cơ chế tìm kiếm lưới (Grid Search) và kinh nghiệm thực nghiệm, chưa tự động hóa hoàn toàn bằng các kỹ thuật tối ưu hóa tiến hóa toàn cục.
  2. Giới hạn về miền cấu trúc dữ liệu: Nghiên cứu tập trung chủ yếu vào dữ liệu dạng bảng tĩnh (tabular data) và dữ liệu biểu hiện gen số trị; chưa mở rộng kiểm chứng trên dữ liệu chuỗi thời gian thực (time-series data) hoặc dữ liệu đồ thị phức tạp (graph data).
  3. Cân bằng lớp (Class Imbalance): Trên một số tập dữ liệu thực tế có tỷ lệ mất cân bằng nghiêm trọng giữa lớp đa số và lớp thiểu số, hàm đánh giá của FRFE cần được tích hợp thêm các độ đo chuyên biệt như F1-Score hoặc G-mean.

Chương trình nghiên cứu tương lai (Future Research Agenda):

  • Phát triển cơ chế tự động học trọng số hàm nhân (Automated Adaptive Kernel Weighting) sử dụng Học tăng cường (Reinforcement Learning) hoặc Tối ưu hóa Bayes (Bayesian Optimization).
  • Mở rộng thuật toán FRFE sang bài toán phân lớp đa nhãn (Multi-label Classification) và bài toán hồi quy dữ liệu lớn.
  • Tích hợp kiến trúc Học sâu (Deep Learning) với C-KPCA để trích xuất đặc trưng phân cấp trên dữ liệu hình ảnh y tế và tín hiệu sóng não.

Tác động và ảnh hưởng

Luận án tạo ra những giá trị tác động sâu rộng trên cả phương diện hàn lâm và ứng dụng thực tiễn:

  • Tác động học thuật: Kết quả nghiên cứu của luận án đã được công bố tại 05 công trình khoa học uy tín, bao gồm 02 bài báo trên tạp chí khoa học quốc tế có bình duyệt nghiêm ngặt và 03 bài báo tại các kỷ yếu hội thảo quốc tế thuộc danh mục Scopus do Nhà xuất bản Springer phát hành (Series Lecture Notes in Computer Science - LNCS).
  • Chuyển đổi số ngành Tài chính - Ngân hàng: Cung cấp công cụ thuật toán cho các hệ thống FinTech, ngân hàng số và cổng thanh toán để tự động hóa quy trình phân tích rủi ro tín dụng cá nhân và doanh nghiệp vừa và nhỏ (SMEs).
  • Y sinh học & Sức khỏe cộng đồng: Cắt giảm chi phí giải trình tự gen và xét nghiệm chẩn đoán ung thư nhờ việc tập trung phân tích vào các nhóm gen chỉ dấu sinh học (biomarkers) then chốt do C-KPCA trích xuất.

Đối tượng hưởng lợi

  • Nghiên cứu sinh & Nhà khoa học chuyên ngành CNTT / Khoa học dữ liệu: Tiếp cận một khung phân tích toán học hoàn chỉnh về lý thuyết hàm nhân, mô hình đóng gói phân tán và các kỹ thuật thực nghiệm chuẩn mực.
  • Chuyên gia Phân tích Dữ liệu Rủi ro (Credit Risk Analysts): Ứng dụng thuật toán FRFE vào quy trình xây dựng thẻ điểm tín dụng (Scorecard Development) với độ chính xác cao và khả năng giải thích rõ ràng.
  • Kỹ sư Tin sinh học & Nhà nghiên cứu Y sinh (Bioinformaticians): Khai thác phương pháp C-KPCA để phân tích dữ liệu giải mã gen thế hệ mới (NGS) và khám phá các cơ chế phân tử của bệnh lý phức tạp.
  • Cơ quan Quản lý Tài chính & Ngân hàng Trung ương: Tham khảo căn cứ khoa học để ban hành các tiêu chuẩn kỹ thuật về an toàn vốn và quản trị rủi ro tín dụng tự động theo chuẩn Basel II / Basel III.

Câu hỏi chuyên sâu

1. Đóng góp lý thuyết độc đáo nhất của luận án là gì và mở rộng lý thuyết nào?

Luận án mở rộng trực tiếp Lý thuyết Học máy Hàm nhân (Kernel Methods Theory của Schölkopf et al.) bằng việc chứng minh rằng một hàm nhân phức hợp tùy biến kết hợp định hướng (Custom Composite Kernel) giữa không gian đa thức cục bộ và không gian RBF toàn cục có thể tối ưu hóa ma trận Gram, vượt qua giới hạn đơn cấu trúc của các hàm nhân kinh điển trong bài toán phân tích dữ liệu số chiều cực lớn ($N \gg M$).

2. Điểm cải tiến phương pháp luận cốt lõi của FRFE so với các nghiên cứu tiền nhiệm?

So với nghiên cứu lựa chọn thuộc tính tuần tự của Nakariyakul & Casasent (2009) hay mô hình SVM-RFE của Maldonado & Weber (2009), thuật toán FRFE thiết lập một hàm đánh giá đa mục tiêu kết hợp đồng thời giữa độ quan trọng thuộc tính Out-of-Bag của Random Forest, độ chênh lệch huấn luyện/kiểm định và biến thiên của AUC, đồng thời tích hợp nền tảng tính toán phân tán In-Memory H2O giúp giảm độ phức tạp thời gian từ cấp số mũ về tuyến tính thực tế.

3. Phát hiện thực nghiệm nào gây bất ngờ nhất trong quá trình nghiên cứu?

Phát hiện bất ngờ nhất là trên bộ dữ liệu ung thư tuyến tiền liệt (Prostate Cancer) với 12.600 gen ban đầu, khi C-KPCA trích xuất không gian đặc trưng mới chỉ gồm 25 thành phần chính (giảm hơn 99.8% số chiều), độ chính xác phân lớp lại tăng vọt từ 86.27% (khi dùng toàn bộ gen hoặc KPCA đơn) lên 92.15%, chứng minh phần lớn các biến biểu hiện gen trong không gian gốc đóng vai trò là nhiễu đối với bộ phân lớp.

4. Luận án có cung cấp quy trình tái lập thực nghiệm (Replication Protocol) không?

Có. Toàn bộ quy trình tiền xử lý, cấu hình tham số thuật toán, thiết lập kiểm chứng chéo $k$-lần ($k=5, 10$) và mã nguồn thuật toán hiện thực trên ngôn ngữ R cùng thư viện H2O đều được mô tả chi tiết, cho phép cộng đồng học thuật tái lập chính xác các kết quả thực nghiệm trên các bộ dữ liệu công chuẩn UCI và microarray.

5. Chương trình nghiên cứu 10 năm được phác thảo như thế nào?

Luận án định hình lộ trình phát triển kéo dài: (1) Tự động hóa toàn diện việc học tham số và kiến trúc hàm nhân thông qua Auto-ML; (2) Tích hợp rút gọn đặc trưng với các mô hình Giải thích được trong Trí tuệ nhân tạo (Explainable AI - XAI); (3) Mở rộng khung trích xuất C-KPCA sang dữ liệu đa phương thức (Multi-modal Biomedical Big Data) bao gồm hình ảnh cộng hưởng từ MRI, dữ liệu hệ gen học và hồ sơ bệnh án điện tử (EHR).

Kết luận

Công trình luận án tiến sĩ của tác giả Hà Văn Sang là một đóng góp học thuật xuất sắc, giải quyết toàn diện bài toán rút gọn đặc trưng trong kỷ nguyên bùng nổ dữ liệu lớn thông qua các kết quả cụ thể:

  1. Hoàn thiện khung lý thuyết rút gọn đặc trưng: Kết nối chặt chẽ giữa Lý thuyết thông tin, Lý thuyết học thống kê và Kỹ thuật học máy tổ hợp (Ensemble Learning).
  2. Đề xuất thuật toán lựa chọn đặc trưng FRFE: Xây dựng thành công hàm đánh giá xếp hạng đa tiêu chuẩn và cơ chế loại bỏ đệ quy nhanh, tối ưu hóa bài toán cho điểm tín dụng với AUC đạt 0.7930 (German Credit) và 0.9340 (Australian Credit).
  3. Đột phá với thuật toán trích xuất C-KPCA: Thiết kế cấu trúc hàm nhân tùy biến kết hợp định hướng, nâng độ chính xác phân lớp ung thư vi mảng lên 98.61% (Leukemia), 96.77% (Lymphoma) và 92.15% (Prostate Cancer).
  4. Giải quyết nút thắt hiệu năng tính toán: Ứng dụng thành công công nghệ phân tán In-Memory H2O, tăng tốc độ xử lý của mô hình đóng gói gấp nhiều lần so với các nền tảng tính toán tuần tự.
  5. Mở ra các hướng nghiên cứu liên ngành: Đặt nền móng vững chắc cho việc ứng dụng Trí tuệ nhân tạo và Học máy chuyên sâu vào Quản trị rủi ro tài chính ngân hàng số và Tin sinh học y tế cá thể hóa tại Việt Nam và trên thế giới.