Tổng quan luận án
Hiện tượng dữ liệu không cân bằng (Imbalanced Data - ID) xảy ra khi có sự chênh lệch lớn về số lượng phần tử giữa các lớp trong tập dữ liệu huấn luyện. Trong các bài toán phân loại nhị phân thông thường, mục tiêu chính của phần lớn thuật toán học máy truyền thống là tối đa hóa độ chính xác tổng thể (global accuracy). Cách tiếp cận này vô hình trung đồng nhất chi phí sai lầm loại I và sai lầm loại II, dẫn đến kết quả phân loại bị thiên lệch nghiêm trọng về phía lớp đa số (lớp âm) và bỏ qua các đặc trưng của lớp thiểu số (lớp dương hay lớp quan tâm).
Trong lĩnh vực chấm điểm tín dụng (credit scoring), hiện tượng mất cân bằng dữ liệu mang tính bản chất. Do các quy trình thẩm định tín dụng ban đầu và quy định pháp lý, nhóm khách hàng tốt luôn chiếm tỷ lệ đa số, trong khi nhóm khách hàng xấu (vỡ nợ, phát sinh nợ xấu) chỉ chiếm một tỷ trọng rất nhỏ. Mặc dù tỷ lệ nợ xấu nội bảng của hệ thống ngân hàng thương mại thường được kiểm soát ở mức thấp (tại Việt Nam ghi nhận quanh mức 1% - 2% nội bảng và tỷ lệ gộp bao gồm nợ bán cho VAMC và nợ cơ cấu vào khoảng 7%), hậu quả tài chính do việc phân loại nhầm một khách hàng xấu thành khách hàng tốt lại lớn hơn rất nhiều so với chiều ngược lại. Nếu sử dụng một mô hình phân loại gán nhãn toàn bộ khách hàng là "tốt", độ chính xác tổng thể có thể đạt mức 95% nhưng tỷ lệ nhận diện khách hàng xấu (True Positive Rate - TPR) lại bằng 0%, làm mất hoàn toàn khả năng phòng ngừa rủi ro tín dụng.
Bên cạnh đó, các nghiên cứu thực nghiệm chỉ ra rằng sự suy giảm hiệu năng mô hình không chỉ bắt nguồn từ tỷ số mất cân bằng (Imbalance Ratio - IR) mà còn bị khuếch đại bởi các hiện tượng đi kèm như mẫu nhiễu (noise), mẫu nằm ở ranh giới (borderline), các vùng phân mảnh nhỏ (small disjuncts) và đặc biệt là sự chồng lấn giữa các lớp dữ liệu (overlapping classes). Tại Việt Nam, phần lớn các ngân hàng thương mại vẫn áp dụng các mô hình thống kê truyền thống như Hồi quy Logistic (Logistic Regression - LR) và Phân tích biệt số (Discriminant Analysis - DA). Dù các nghiên cứu ứng dụng mô hình học máy và quần hợp (ensemble models) đã xuất hiện, vấn đề xử lý đồng thời dữ liệu mất cân bằng, dữ liệu chồng lấn và đảm bảo tính giải thích được (interpretability) của mô hình vẫn là khoảng trống nghiên cứu lớn.
Luận án tiến sĩ thống kê của tác giả Bùi Thị Thiên Mỹ tại Trường Đại học Kinh tế TP. Hồ Chí Minh (UEH), dưới sự hướng dẫn của PGS.TS. Lê Xuân Trường và TS. Tạ Quốc Bảo, tập trung giải quyết các khoảng trống trên thông qua ba mục tiêu nghiên cứu cụ thể:
- Đề xuất mô hình quần hợp dựa trên cây quyết định (Decision Tree Ensemble - DTE) có khả năng xử lý dữ liệu mất cân bằng, đạt hiệu năng phân loại cao và cung cấp khả năng giải thích mức độ quan trọng của các thuộc tính dự báo trong bài toán chấm điểm tín dụng.
- Đề xuất kỹ thuật mới giải quyết đồng thời các thách thức của dữ liệu mất cân bằng, mẫu nhiễu và mẫu chồng lấn (overlapping samples), tích hợp phương pháp tái lấy mẫu với mô hình quần hợp nhằm nâng cao độ chính xác nhận diện lớp thiểu số.
- Đề xuất hiệu chỉnh quy trình tính toán bên trong và bên ngoài của Hồi quy Logistic thông qua việc kết hợp hồi quy phạt Lasso định hướng tối ưu hóa độ đo F-measure (F-LLR) và quy trình kiểm định chéo tương ứng (F-CV), cho phép đánh giá tầm quan trọng của các biến độc lập mà không cần phụ thuộc vào kiểm định p-value.
Đối tượng nghiên cứu của luận án là hiện tượng mất cân bằng dữ liệu, mẫu nhiễu, mẫu chồng lấn trong bài toán phân loại nhị phân và các giải pháp cân bằng dữ liệu thuộc ba hướng tiếp cận: mức thuật toán (algorithm-level), mức dữ liệu (data-level) và mức quần hợp (ensemble-based). Phạm vi nghiên cứu tập trung vào phân loại nhị phân ứng dụng trong chấm điểm tín dụng và chẩn đoán y khoa, thực nghiệm trên các bộ dữ liệu công khai chuẩn quốc tế và các tập dữ liệu thực tế thu thập từ các ngân hàng thương mại tại Việt Nam.
Tổng quan tài liệu và vị trí của luận án
Luận án đã hệ thống hóa các công trình nghiên cứu trong nước và quốc tế liên quan đến dữ liệu mất cân bằng và bài toán chấm điểm tín dụng:
Các hướng nghiên cứu về phân loại dữ liệu mất cân bằng
- Về ảnh hưởng của tỷ số mất cân bằng và độ phức tạp dữ liệu: Brown và Mues (2012) chỉ ra rằng khi IR tăng cao, hiệu năng tổng thể của mô hình phân loại giảm rõ rệt. Prati, Batista và Silva (2015) chứng minh sự tổn thất hiệu năng trở nên nghiêm trọng khi IR từ 90/10 trở lên. Các tác giả Batista, Prati và Monard (2004), Fernández và cộng sự (2018), Napierala và Stefanowski (2016), Sun, Wong và Kamel (2009) khẳng định mức độ chồng lấn lớp và sự hiện diện của các mẫu ranh giới, mẫu hiếm, mẫu ngoại lai là nguyên nhân cốt lõi gây suy giảm độ chính xác của các thuật toán học máy hơn là bản thân tỷ số IR đơn thuần.
- Tiếp cận mức thuật toán (Algorithm-level): Hướng tiếp cận này điều chỉnh cơ chế bên trong của thuật toán phân loại. Tiêu biểu là học nhạy cảm chi phí (Cost-Sensitive Learning - CSL) của Elkan (2001), Moepya, Akhoury và Nelwamondo (2014), Sheng và Ling (2006), Bahnsen, Aouada và Ottersten (2014, 2015), Petrides và cộng sự (2022), Xiao và cộng sự (2012). CSL gán trọng số tổn thất khi phân loại sai mẫu dương $C(1,0)$ cao hơn mẫu âm $C(0,1)$. Các cải tiến thuật toán khác gồm sửa đổi hàm nhân cho Support Vector Machine (Wu & Chang, 2004; Xu, 2016; Yang, Yang, & Wang, 2009; Lee, Jun, & Lee, 2017), điều chỉnh tiêu chí phân nhánh cho Cây quyết định (Cieslak và cộng sự, 2012; Boonchuay, Sinapiromsaran, & Lursinsap, 2017; Lenca và cộng sự, 2008), và ước lượng lại hàm hợp lý cực đại cho Hồi quy Logistic (King & Zeng, 2001; Cramer, 2003; Firth, 1993; Maalouf & Trafalis, 2011).
- Tiếp cận mức dữ liệu (Data-level): Sử dụng các kỹ thuật tái lấy mẫu (re-sampling) để cân bằng phân phối tập huấn luyện. Nhóm giảm mẫu (under-sampling) gồm Random Under-Sampling (RUS), Condensed Nearest Neighbor Rule (Hart, 1968), Tomek-Link (Tomek, 1976), One-Side Selection (Kubat & Matwin, 1997), Neighborhood Cleaning Rule (Laurikkala, 2001). Nhóm tăng mẫu (over-sampling) gồm Random Over-Sampling (ROS), Synthetic Minority Over-sampling Technique - SMOTE (Chawla và cộng sự, 2002), và Adaptive Synthetic Sampling - ADASYN (He và cộng sự, 2008).
- Tiếp cận mức quần hợp (Ensemble-based): Tích hợp các kỹ thuật dữ liệu hoặc thuật toán vào mô hình quần hợp như Bagging, Random Forest, AdaBoost (Galar và cộng sự, 2011; Abdoli, Akbari, & Shahrabi, 2023; Shen và cộng sự, 2021; Yang và cộng sự, 2021; Zhang, Yang, & Zhang, 2021).
Các nghiên cứu về chấm điểm tín dụng
Nghiên cứu quốc tế của Baesens và cộng sự (2003), Lessmann và cộng sự (2015), Louzada, Ara và Fernandes (2016), Dastile, Celik và Potsane (2020), Marqués, García và Sánchez (2012), Bensic, Sarlija và Zekic-Susac (2005) khẳng định không có một mô hình đơn lẻ nào là tối ưu trên mọi tập dữ liệu tín dụng. Các mô hình quần hợp thường cho hiệu năng vượt trội nhưng lại thiếu tính giải thích (chỉ có khoảng 8% nghiên cứu đề xuất mô hình mới có phân tích tính giải thích theo Dastile và cộng sự, 2020).
Tại Việt Nam, các nghiên cứu của Bình và Anh (2021), Hưng và Trang (2018), Quỳnh, Anh và Linh (2018), Thắng (2022), Kiều và cộng sự (2017), Nguyen và Nguyen (2016), Thịnh và Toàn (2016), Nhâm (2021), Ha, Nguyen và Nguyen (2016), Luu và Hung (2021) đã tiếp cận nhiều phương pháp học máy nhưng hầu hết chưa giải quyết thấu đáo vấn đề mất cân bằng dữ liệu. Các nghiên cứu hiếm hoi xử lý mất cân bằng như Toàn và cộng sự (2017), Mỹ (2021) mới chỉ dừng ở kỹ thuật tái lấy mẫu cơ bản mà chưa xử lý mẫu nhiễu và mẫu chồng lấn.
Vị trí và khoảng trống luận án giải quyết
Luận án định vị nghiên cứu vào việc khắc phục ba hạn chế cụ thể của y văn:
- Thiếu mô hình phân loại quần hợp vừa tối ưu hóa năng lực nhận diện rủi ro tín dụng trên dữ liệu mất cân bằng vừa duy trì tính minh bạch và khả năng giải thích cấu trúc thuộc tính.
- Các kỹ thuật tăng mẫu hiện tại (như SMOTE) có thể làm trầm trọng thêm hiện tượng chồng lấn lớp, trong khi các kỹ thuật giảm mẫu heuristic (như Tomek-link, NCL) chưa được kết hợp tối ưu để vừa lọc nhiễu, vừa xóa bỏ vùng chồng lấn, vừa tái cân bằng kích thước mẫu.
- Hồi quy Logistic bị suy giảm ước lượng xác suất có điều kiện đối với lớp thiểu số khi dữ liệu mất cân bằng và phụ thuộc vào tiêu chuẩn kiểm định giả thuyết $p$-value vốn đang nhận nhiều phê phán trong cộng đồng thống kê học (Goodman, 2008).
Cơ sở lý thuyết và phương pháp nghiên cứu
Khung lý thuyết và khái niệm toán học
Xét bài toán phân loại nhị phân với tập dữ liệu $S = X \times Y$, trong đó $X \subset \mathbb{R}^k$ là không gian các biến đặc trưng đầu vào và $Y = {0, 1}$ là tập nhãn phân loại. Tập mẫu nhãn 1 là lớp dương $S^+$ (lớp quan tâm/khách hàng xấu), tập mẫu nhãn 0 là lớp âm $S^-$ (khách hàng tốt). Tỷ số mất cân bằng được xác định bởi công thức:
$$IR = \frac{|S^-|}{|S^+|}$$
Kết quả dự báo của hàm phân loại $f: X \rightarrow {0, 1}$ trên tập kiểm định được biểu diễn thông qua ma trận nhầm lẫn (Confusion Matrix):
| Nhãn thực tế |
Dự báo Dương (1) |
Dự báo Âm (0) |
Tổng |
| Thực tế Dương (1) |
$TP$ (True Positive) |
$FN$ (False Negative) |
$POS = TP + FN$ |
| Thực tế Âm (0) |
$FP$ (False Positive) |
$TN$ (True Negative) |
$NEG = FP + TN$ |
| Tổng |
$PPOS = TP + FP$ |
$PNEG = FN + TN$ |
$N = POS + NEG$ |
Từ ma trận nhầm lẫn, các độ đo đơn và độ đo phức hợp được tính toán theo các công thức:
-
Độ chính xác (Accuracy): $\text{Accuracy} = \frac{TP + TN}{N}$
-
Tỷ lệ lỗi (Error rate): $\text{Error rate} = \frac{FP + FN}{N} = 1 - \text{Accuracy}$
-
Độ nhạy / Tỷ lệ dương tính thật (TPR / Recall / Sensitivity): $\text{TPR} = \frac{TP}{TP + FN}$
-
Tỷ lệ dương tính giả (FPR): $\text{FPR} = \frac{FP}{FP + TN}$
-
Độ đặc hiệu / Tỷ lệ âm tính thật (TNR / Specificity): $\text{TNR} = \frac{TN}{TN + FP} = 1 - \text{FPR}$
-
Tỷ lệ âm tính giả (FNR): $\text{FNR} = \frac{FN}{TP + FN} = 1 - \text{TPR}$
-
Độ chuẩn xác (Precision): $\text{Precision} = \frac{TP}{TP + FP}$
-
Độ đo F-measure ($F_\beta$ và $F_1$):
$$F_\beta = (1 + \beta^2) \frac{\text{Precision} \times \text{Recall}}{\beta^2 \text{Precision} + \text{Recall}} = \frac{(1 + \beta^2) TP}{(1 + \beta^2) TP + FP + \beta^2 FN}$$
Khi tầm quan trọng của Precision và Recall tương đương ($\beta = 1$), ta có chỉ số $F_1$:
$$F_1 = \frac{2 \times \text{Precision} \times \text{Recall}}{\text{Precision} + \text{Recall}} = \frac{2TP}{2TP + FP + FN}$$
-
Độ đo G-mean: $\text{G-mean} = \sqrt{\text{TPR} \times \text{TNR}}$
Đối với các mô hình cho đầu ra dạng điểm số xác suất (Scored outputs) như Hồi quy Logistic, các độ đo không phụ thuộc ngưỡng được sử dụng gồm:
-
Diện tích dưới đường cong ROC (AUC): Thể hiện kỳ vọng của TPR trên toàn bộ các mức FPR với mọi ngưỡng phân loại $\alpha \in [0, 1]$:
$$\text{AUC} \approx \frac{1}{2} \sum_{i=2}^n |\text{FPR}(\alpha_i) - \text{FPR}(\alpha_{i-1})| (\text{TPR}(\alpha_i) + \text{TPR}(\alpha_{i-1}))$$
-
Thống kê Kolmogorov-Smirnov (KS): Đo lường mức độ tách biệt tối đa giữa phân phối tích lũy của lớp dự báo dương và lớp dự báo âm:
$$\text{KS} = \max_{\alpha \in [0, 1]} |\text{TPR}(\alpha) - \text{FPR}(\alpha)|$$
-
Chỉ số H-measure: Khắc phục nhược điểm của AUC bằng cách chuẩn hóa phân phối chi phí tổn thất phân loại sai độc lập với mô hình (Hand, 2009; Hand & Anagnostopoulos, 2014):
$$\text{H-measure} = \frac{L_{\text{ref}} - L}{L_{\text{ref}}}$$
Phương pháp nghiên cứu định lượng thực nghiệm
Luận án áp dụng phương pháp nghiên cứu thực nghiệm định lượng theo quy trình 5 bước thống nhất:
| Bước |
Nội dung thực hiện |
| Bước 1 |
Đề xuất thuật toán mới hoặc quy trình tính toán hiệu chỉnh mới. |
| Bước 2 |
Xây dựng mô hình mới với các siêu tham số khác nhau để tìm mô hình tối ưu trên tập dữ liệu huấn luyện. |
| Bước 3 |
Xây dựng các mô hình so sánh phổ biến kết hợp các kỹ thuật cân bằng dữ liệu hiện có trên cùng tập huấn luyện. |
| Bước 4 |
Áp dụng mô hình tối ưu và các mô hình so sánh lên cùng tập kiểm định độc lập, tính toán các độ đo hiệu năng. |
| Bước 5 |
So sánh, đối chiếu các độ đo hiệu năng thực nghiệm giữa các mô hình để đánh giá mức độ vượt trội. |
Toàn bộ quy trình tính toán, huấn luyện mô hình và kiểm định thực nghiệm được thực hiện trên môi trường ngôn ngữ lập trình R.
Nguồn tư liệu và dữ liệu thực nghiệm
Nghiên cứu sử dụng tổng cộng 13 bộ dữ liệu thực nghiệm phục vụ cho các trường hợp nghiên cứu:
- Dữ liệu chấm điểm tín dụng chuẩn quốc tế (UCI Machine Learning Repository): Tập dữ liệu tín dụng Đức (German credit data set - GER), Đài Loan (Taiwanese credit data set - TAI), Cho vay cá nhân (Bank personal loan data set - BANK), Australian credit data set (AUS).
- Dữ liệu tín dụng thực tế tại Việt Nam: Bốn tập dữ liệu nợ xấu thu thập từ các ngân hàng thương mại Việt Nam, ký hiệu là VN1, VN2, VN3 và VN4 với các mức độ mất cân bằng và độ phức tạp khác nhau.
- Dữ liệu kiểm chứng ngoài ngành: Tập dữ liệu bệnh nhân viêm gan C (Hepatitis C patients data set - HEPA) từ UCI nhằm kiểm tra tính tổng quát của thuật toán trong y khoa.
- Dữ liệu cho bài toán Hồi quy Logistic: Tập dữ liệu cho vay từ Lending Club (US Loan schema), các tập dữ liệu rủi ro tín dụng từ Kaggle và UCI gồm Credit 1, Credit 2, Credit 3.
Nội dung chính theo từng chương
Chương 1: Giới thiệu (Introduction)
Chương 1 thiết lập nền tảng logic của toàn bộ công trình:
- Trình bày tổng quan về bài toán phân loại dữ liệu mất cân bằng trong thực tiễn (chẩn đoán y khoa, phát hiện gian lận, chấm điểm tín dụng).
- Phân tích tính cấp thiết của việc nhận diện nợ xấu trong hệ thống ngân hàng thương mại Việt Nam.
- Xác định rõ ba khoảng trống nghiên cứu chính: tính giải thích của mô hình quần hợp, sự kết hợp giữa mất cân bằng và chồng lấn/nhiễu dữ liệu, và hạn chế của ước lượng hợp lý cực đại trong Hồi quy Logistic trên dữ liệu lệch.
- Công bố mục tiêu, đối tượng, phạm vi nghiên cứu, cấu trúc dữ liệu, phương pháp định lượng và danh mục 3 bài báo khoa học quốc tế là kết quả nòng cốt của luận án.
Chương 2: Tổng quan tài liệu về dữ liệu không cân bằng (Literature Review of Imbalanced Data)
Chương 2 cung cấp hệ thống cơ sở lý thuyết toàn diện về phân loại dữ liệu không cân bằng:
- Bản chất và nguyên nhân: Định nghĩa hình thức về tỷ số mất cân bằng IR; phân tích nguyên nhân các thuật toán chuẩn bị thiên lệch về lớp đa số do tối ưu hóa tiêu chuẩn Accuracy.
- Các yếu tố cản trở đi kèm: Phân loại chi tiết các trường hợp dữ liệu phức tạp gồm chồng lấn lớp (Overlapping), kích thước mẫu nhỏ (Small sample size), phân mảnh nhỏ (Small disjuncts), và các dạng điểm dữ liệu đặc thù (mẫu ranh giới - Borderline, mẫu hiếm - Rare, mẫu ngoại lai - Outliers).
- Độ đo hiệu năng: Đánh giá ưu nhược điểm của các độ đo dành cho đầu ra dạng nhãn (Accuracy, Error rate, Precision, Recall/TPR, FPR, TNR, FNR, F-measure, G-mean) và đầu ra dạng điểm số xác suất (ROC, AUC, KS, H-measure).
- Phân loại các phương pháp xử lý:
- Mức thuật toán: Phân tích cơ chế học nhạy cảm chi phí (Cost-sensitive learning), cấu trúc ma trận chi phí $C(1,0)$ và $C(0,1)$, cùng các phương pháp sửa đổi hàm mục tiêu cho SVM, Cây quyết định và Hồi quy Logistic.
- Mức dữ liệu: Phân tích kỹ thuật giảm mẫu ngẫu nhiên (RUS), các quy tắc làm sạch dữ liệu và giảm mẫu heuristic như Condensed Nearest Neighbor (CNN), Tomek-Links, One-Side Selection (OSS), Neighborhood Cleaning Rule (NCL); các kỹ thuật tăng mẫu như ROS, SMOTE, ADASYN.
- Mức quần hợp: Đánh giá sự kết hợp giữa các thuật toán Bagging, Random Forest, AdaBoost với kỹ thuật tái lấy mẫu.
- Tổng quan chấm điểm tín dụng: Ý nghĩa kinh tế, các biến đầu vào, yêu cầu về tính minh bạch/giải thích được của mô hình quản trị rủi ro ngân hàng.
Chương 3: Dữ liệu không cân bằng trong chấm điểm tín dụng (Imbalanced Data in Credit Scoring)
Chương 3 triển khai hai đề xuất kỹ thuật lớn ứng dụng trực tiếp cho bài toán chấm điểm tín dụng:
[Dữ liệu gốc (Imbalanced, Noise, Overlapping)]
[Xử lý mức dữ liệu: TOUS / OUS(B)]
(Loại bỏ Tomek-links + Cân bằng Over/Under)
[Xây dựng mô hình quần hợp: DTE(B)]
(Ensemble các Cây quyết định đơn lẻ)
[Đầu ra hiệu năng cao + Mức độ quan trọng của biến]
- Mô hình quần hợp Cây quyết định có khả năng giải thích (DTE):
- Đề xuất thuật toán cân bằng dữ liệu $\text{OUS}(B)$ kết hợp lấy mẫu tăng cường và giảm mẫu có định hướng.
- Xây dựng thuật toán tạo mô hình quần hợp $\text{DTE}(B)$ dựa trên nền tảng các cây quyết định cơ sở (CART/RPART).
- Thực nghiệm trên các tập dữ liệu tín dụng Việt Nam (VN1, VN2) và quốc tế (German, Taiwan). Kết quả cho thấy mô hình $\text{DTE}(B)$ không chỉ đạt giá trị AUC và KS vượt trội so với các mô hình đơn lẻ (LR, SVM, ANN) và các mô hình quần hợp phổ biến (Bagging, Random Forest, AdaBoost kết hợp SMOTE/RUS/ROS) mà còn trực tiếp trích xuất được biểu đồ mức độ quan trọng của các biến đầu vào, đáp ứng trọn vẹn yêu cầu thẩm định tín dụng.
- Kỹ thuật xử lý dữ liệu mất cân bằng, nhiễu và chồng lấn (TOUS):
- Đề xuất kỹ thuật TOUS (Tomek-link Over-Under Sampling): Sử dụng cặp liên kết Tomek-link để nhận diện và loại bỏ các điểm dữ liệu nhiễu và các mẫu nằm trong vùng chồng lấn giữa hai lớp ranh giới, sau đó mới tiến hành cân bằng kích thước mẫu.
- Tích hợp TOUS vào hai cấu trúc mô hình quần hợp: Lasso-Logistic Regression Ensemble ($\text{LLE}(B)$) và Decision Tree Ensemble ($\text{DTE}(B)$).
- Thử nghiệm trên các tập dữ liệu có độ chồng lấn cao cho thấy TOUS giúp cải thiện đáng kể diện tích dưới đường cong ROC (AUC trung bình trên tập kiểm định) so với các phương pháp xử lý cạnh tranh (NCL, OSS, SMOTE đơn thuần).
Chương 4: Hiệu chỉnh hồi quy Logistic với dữ liệu không cân bằng (A Modification of Logistic Regression with Imbalanced Data)
Chương 4 tập trung giải quyết bài toán suy giảm hiệu năng của mô hình Hồi quy Logistic:
- Hạn chế lý thuyết của Hồi quy Logistic chuẩn: Khi dữ liệu mất cân bằng, ước lượng hợp lý cực đại (Maximum Likelihood Estimate - MLE) truyền thống đánh giá thấp (underestimate) xác suất có điều kiện của các quan sát thuộc lớp dương, khiến mô hình khó nhận diện các trường hợp rủi ro. Các kỹ thuật như Ước lượng hợp lý có trọng số (Weighted Likelihood Estimation - WLE) hay Hồi quy hợp lý phạt (Penalized Likelihood Regression - PLR như phương pháp của Firth, FLIC, FLAC) đòi hỏi biết trước tỷ lệ lớp dương trong tổng thể hoặc nhạy cảm với giá trị khởi tạo.
- Đề xuất hiệu chỉnh:
- Đề xuất quy trình kiểm định chéo định hướng tối ưu F-measure (F-measure-oriented Cross-Validation - F-CV): Thay đổi tiêu chí đánh giá trong quá trình lựa chọn siêu tham số hình phạt $\lambda$ của hồi quy Lasso từ sai số kiểm định chuẩn sang tối đa hóa chỉ số F-measure.
- Xây dựng mô hình Hồi quy Lasso-Logistic định hướng F-measure (F-LLR): Tích hợp chọn lọc kỹ thuật tái lấy mẫu ở vòng ngoài và tối ưu hóa hàm mục tiêu phạt Lasso ở vòng trong dựa trên F-CV.
- Đánh giá thực nghiệm:
- Kiểm thử trên 9 bộ dữ liệu thực nghiệm đa dạng (GER, TAI, BANK, HEPA, US Lending Club, VN3, AUS, Credit 1, Credit 2, Credit 3, VN4).
- So sánh F-LLR với các mô hình Logistic chuẩn, WLE, PLR (Firth), và các kết hợp LR với ROS, RUS, SMOTE. Mô hình F-LLR đạt số lần chiến thắng (number of wins) cao nhất về các độ đo F-measure, G-mean và AUC.
- Trích xuất danh sách các biến quan trọng có ý nghĩa thực tế tác động đến xác suất vỡ nợ trên tập dữ liệu Việt Nam thông qua hệ số phạt Lasso mà không cần dựa vào mức ý nghĩa $p$-value.
Chương 5: Thảo luận và kết luận (Discussions and Conclusions)
- Tổng kết toàn bộ các đóng góp lý thuyết và thực tiễn của ba giải pháp chính.
- Thảo luận về tính ứng dụng của các thuật toán trong việc xây dựng hệ thống tự động hóa chấm điểm tín dụng tại các ngân hàng thương mại và tổ chức tài chính.
- Nêu rõ các giới hạn của nghiên cứu và định hướng các chủ đề phát triển tiếp theo.
Kết quả và những đóng góp mới
Đóng góp về mặt lý luận và phương pháp học máy
- Mô hình quần hợp có tính giải thích $\text{DTE}(B)$: Luận án đã giải quyết mâu thuẫn giữa hiệu năng phân loại và tính minh bạch (trade-off between performance and interpretability) trong bài toán chấm điểm tín dụng. Bằng cách thiết kế thuật toán lấy mẫu $\text{OUS}(B)$ và cấu trúc quần hợp cây quyết định, mô hình đạt độ chính xác cao trên lớp thiểu số nhưng vẫn giữ được khả năng truy xuất mức độ đóng góp của từng biến số đặc trưng.
- Kỹ thuật xử lý tích hợp TOUS: Luận án đóng góp một quy trình tiền xử lý dữ liệu mới, kết hợp khả năng phát hiện ranh giới và loại bỏ nhiễu của Tomek-link với cơ chế cân bằng mẫu Over-Under sampling. Kỹ thuật này giải quyết căn bản điểm nghẽn của việc dữ liệu bị chồng lấn lớp và nhiễu biên – yếu tố vốn làm suy giảm hiệu năng của các bộ phân loại chuẩn.
- Mô hình Hồi quy Logistic hiệu chỉnh F-LLR và quy trình F-CV: Đóng góp một hướng tiếp cận mới trong việc ước lượng tham số cho Hồi quy Logistic trên dữ liệu mất cân bằng. Việc tối ưu hóa trực tiếp độ đo F-measure thông qua quy trình F-CV kết hợp kỹ thuật phạt Lasso cho phép mô hình vừa kháng được hiện tượng lệch phân phối, vừa lựa chọn được tập thuộc tính tối ưu mà không bị phụ thuộc vào kiểm định giả thuyết $p$-value.
Đóng góp về mặt thực tiễn
- Cung cấp công cụ phân tích rủi ro tín dụng hiệu quả cho các ngân hàng thương mại tại Việt Nam, trực tiếp thử nghiệm và kiểm chứng trên dữ liệu tín dụng thực tế của khách hàng vay vốn tại Việt Nam.
- Kết quả nghiên cứu đã được công bố trên 3 tạp chí khoa học quốc tế uy tín:
- Journal of Intelligent & Fuzzy Systems (Vol 45, No 6, 2023, tr. 10853–10864).
- Studies in Systems, Decision and Control (Springer, Vol 429, 2022, tr. 595–612).
- ScienceAsia (Vol 49S, 2023, tr. 68–77).
Hạn chế và hướng nghiên cứu tiếp
Căn cứ trên phạm vi và nội dung được trình bày trong luận án, một số hạn chế và hướng mở rộng bao gồm:
- Phạm vi phân loại: Luận án tập trung chủ yếu vào bài toán phân loại nhị phân (khách hàng tốt / khách hàng xấu; có bệnh / không có bệnh). Chưa mở rộng sang bài toán phân loại đa nhãn/đa lớp (multi-class imbalanced classification), ví dụ phân hạng mức độ tín nhiệm nhiều cấp bậc.
- Cấu trúc dữ liệu: Các mô hình và kỹ thuật đề xuất mới chỉ được kiểm chứng trên dữ liệu dạng bảng (tabular/structured data). Chưa khảo sát trên các dạng dữ liệu phi cấu trúc (dữ liệu văn bản thẩm định, hình ảnh chứng từ, đồ thị mạng lưới quan hệ tín dụng).
- Thuật toán học máy cơ sở: Luận án tập trung vào Cây quyết định và Hồi quy Logistic. Hướng nghiên cứu tiếp theo có thể xem xét mở rộng cơ chế kiểm định tối ưu F-measure hoặc kỹ thuật TOUS sang các kiến trúc mạng nơ-ron nhân tạo sâu (Deep Learning) hoặc các thuật toán tăng cường độ dốc (Gradient Boosting) phức tạp hơn.
Giá trị tham khảo
Luận án là tài liệu tham khảo chuyên sâu cho nhiều nhóm đối tượng:
- Nghiên cứu sinh và giảng viên chuyên ngành Thống kê, Khoa học dữ liệu, Toán ứng dụng: Cung cấp khung lý thuyết hoàn chỉnh về các phương pháp xử lý dữ liệu mất cân bằng (mức thuật toán, mức dữ liệu, mức quần hợp), các độ đo chuyên biệt (AUC, KS, H-measure, G-mean, F-measure) và mã nguồn thuật toán tối ưu hóa trong môi trường R.
- Chuyên gia phân tích rủi ro tại các Ngân hàng thương mại và Tổ chức tài chính: Cung cấp giải pháp kỹ thuật cụ thể để nâng cao độ chính xác nhận diện nợ xấu, đồng thời đảm bảo tính minh bạch giải trình của mô hình trước các cơ quan thanh tra giám sát ngân hàng.
- Cơ quan quản lý nhà nước (Ngân hàng Nhà nước, VAMC): Cung cấp cơ sở định lượng để đánh giá chất lượng danh mục tín dụng và xây dựng các tiêu chuẩn kỹ thuật về xếp hạng tín nhiệm nội bộ.
Câu hỏi thường gặp
1. Tỷ số mất cân bằng (IR) là gì và ảnh hưởng thế nào đến các mô hình phân loại truyền thống?
Tỷ số mất cân bằng ($IR$) được định nghĩa là tỷ lệ giữa số lượng mẫu của lớp đa số (lớp âm, $S^-$) và lớp thiểu số (lớp dương, $S^+$): $IR = |S^-| / |S^+|$. Khi $IR > 1$ và tăng cao, các mô hình phân loại truyền thống nhằm tối đa hóa độ chính xác tổng thể (Accuracy) sẽ có xu hướng dự báo toàn bộ các mẫu về lớp đa số. Kết quả là mô hình đạt độ chính xác cao nhưng tỷ lệ nhận diện đúng lớp thiểu số (TPR/Recall) lại rất thấp, làm thất bại mục tiêu nhận diện các biến cố hiếm nhưng quan trọng.
2. Tại sao độ chính xác (Accuracy) không phải là thước đo phù hợp cho bài toán chấm điểm tín dụng mất cân bằng?
Độ chính xác $\text{Accuracy} = (TP + TN) / N$ đồng nhất chi phí sai lầm giữa việc bỏ sót một khách hàng xấu (sai lầm loại II, $FN$) và việc từ chối nhầm một khách hàng tốt (sai lầm loại I, $FP$). Trong thực tế tín dụng, tổn thất tài chính khi chấp nhận một khách hàng vỡ nợ lớn hơn rất nhiều so với việc từ chối một khách hàng tốt. Một mô hình gán nhãn toàn bộ khách hàng là "tốt" trên tập dữ liệu có 5% nợ xấu sẽ đạt Accuracy 95%, nhưng hoàn toàn vô dụng trong việc quản trị rủi ro vì không phát hiện được bất kỳ khoản nợ xấu nào. Do đó, các độ đo như TPR, F-measure, G-mean, AUC và KS được ưu tiên sử dụng.
3. Thuật toán TOUS đề xuất trong luận án hoạt động theo nguyên lý nào?
Kỹ thuật TOUS (Tomek-link Over-Under Sampling) là phương pháp xử lý dữ liệu ở cấp độ tiền xử lý kết hợp. Đầu tiên, thuật toán tìm kiếm và loại bỏ các cặp mẫu liên kết Tomek (Tomek-links) – là các cặp điểm dữ liệu thuộc hai lớp khác nhau nhưng là láng giềng gần nhất của nhau. Việc loại bỏ này giúp làm sạch các mẫu nhiễu và xóa bỏ sự chồng lấn tại vùng ranh giới giữa hai lớp. Sau khi không gian đặc trưng đã được làm rõ ranh giới, kỹ thuật lấy mẫu Over-Under sampling mới được áp dụng để đưa tỷ lệ giữa hai lớp về trạng thái cân bằng.
4. Mô hình F-LLR khắc phục nhược điểm của Hồi quy Logistic thông thường như thế nào?
Hồi quy Logistic chuẩn sử dụng ước lượng hợp lý cực đại (MLE) thường đánh giá thấp xác suất có điều kiện của các quan sát thuộc lớp thiểu số và phụ thuộc vào tiêu chuẩn $p$-value để chọn biến. Mô hình F-LLR (F-measure-oriented Lasso-Logistic Regression) hiệu chỉnh quá trình này bằng cách tích hợp điều kiện phạt Lasso và thay đổi tiêu chuẩn chọn siêu tham số trong kiểm định chéo (F-CV) sang tối đa hóa chỉ số F-measure. Nhờ đó, mô hình vừa tối ưu hóa khả năng phân loại trên lớp dương, vừa tự động chọn lọc và đánh giá tầm quan trọng của các biến độc lập thông qua độ lớn hệ số phạt mà không cần dựa vào kiểm định $p$-value.
5. Những bộ dữ liệu nào đã được sử dụng để kiểm chứng các đề xuất trong luận án?
Luận án sử dụng 13 bộ dữ liệu thực nghiệm, bao gồm:
- 4 bộ dữ liệu chấm điểm tín dụng chuẩn quốc tế từ UCI (German, Taiwan, Bank personal loan, Australian).
- 4 bộ dữ liệu tín dụng thực tế thu thập từ các ngân hàng thương mại Việt Nam (VN1, VN2, VN3, VN4) với các mức độ mất cân bằng khác nhau.
- 1 bộ dữ liệu chẩn đoán y khoa về bệnh nhân viêm gan C (Hepatitis C - HEPA) từ UCI để kiểm tra tính tổng quát ngoài ngành tài chính.
- 4 bộ dữ liệu rủi ro tín dụng khác từ Kaggle và Lending Club (US Loan schema, Credit 1, Credit 2, Credit 3).
Kết luận
Luận án tiến sĩ "Imbalanced data in classification: A case study of credit scoring" của tác giả Bùi Thị Thiên Mỹ đã giải quyết thấu đáo các vấn đề cốt lõi của bài toán phân loại dữ liệu không cân bằng trong lĩnh vực chấm điểm tín dụng. Bằng việc đề xuất mô hình quần hợp cây quyết định có tính giải thích $\text{DTE}(B)$, kỹ thuật làm sạch và cân bằng dữ liệu TOUS, cùng mô hình Hồi quy Logistic tối ưu hóa F-measure (F-LLR), công trình đã đóng góp những giải pháp toán - thống kê có giá trị khoa học cao. Các kết quả thực nghiệm trên hệ thống dữ liệu ngân hàng Việt Nam và dữ liệu chuẩn quốc tế chứng minh tính hiệu quả vượt trội của các phương pháp đề xuất, mang lại giá trị ứng dụng thiết thực cho công tác quản trị rủi ro tín dụng và phát triển khoa học dữ liệu ứng dụng.
