Bối cảnh và vấn đề nghiên cứu

Trong kinh tế lượng ứng dụng và phân tích dữ liệu, hai lớp bài toán trọng tâm gồm bài toán dự báo với biến mục tiêu liên tục và bài toán phân loại với biến mục tiêu rời rạc. Bài toán phân loại, đặc biệt là phân loại nhị phân (nhận hai giá trị 0 và 1), giữ vai trò thiết yếu trong nhiều hoạt động quản trị kinh tế và đời sống xã hội:

  • Lĩnh vực ngân hàng - tài chính: Kiểm soát rủi ro tín dụng và nợ xấu theo tiêu chuẩn an toàn vốn (Basel II). Các tổ chức tín dụng cần công cụ định lượng để ước lượng xác suất vỡ nợ (Probability of Default - PD), từ đó đưa ra quyết định cấp tín dụng, xác định hạn mức, kỳ hạn và lãi suất phù hợp.
  • Lĩnh vực y sinh: Hỗ trợ chẩn đoán phân biệt khối u lành tính hay ác tính dựa trên các chỉ số hình thái tế bào và xét nghiệm lâm sàng.
  • Lĩnh vực viễn thông: Dự báo khả năng khách hàng rời bỏ dịch vụ (customer churn) để doanh nghiệp kịp thời triển khai các biện pháp duy trì tập khách hàng hiện hữu.

Mô hình hồi quy Logistic là công cụ truyền thống và chuẩn mực cho bài toán phân loại nhị phân. Tuy nhiên, mô hình Logistic thuần túy bộc lộ một số hạn chế kỹ thuật: đòi hỏi quy mô mẫu đủ lớn để đảm bảo tính hội tụ, dễ bị sai lệch khi dữ liệu có nhiều giá trị khuyết thiếu (missing values) hoặc giá trị ngoại lai (outliers), và không thể xử lý trực tiếp các biến định tính/biến rời rạc có nhiều danh mục nếu không sử dụng biến giả (dummy variables). Việc lạm dụng biến giả làm tiêu hao nhiều bậc tự do, đặc biệt bất lợi khi cỡ mẫu hạn chế.

Để khắc phục các điểm yếu trên, kỹ thuật phân nhóm dữ liệu theo trọng số bằng chứng (Weight of Evidence - WOE) được ứng dụng như một bước tiền xử lý nhằm chuẩn hóa dữ liệu, biến đổi phi tuyến thành tuyến tính và tối ưu hóa biến số trước khi đưa vào mô hình hóa. Từ thực tiễn đó, tác giả Nguyễn Thị Thu Hà (Khoa Toán Kinh tế, Trường Đại học Kinh tế Quốc dân) đã thực hiện chuyên đề thực tập chuyên ngành Toán Tài chính với đề tài: "Hiệu quả của kỹ thuật phân nhóm dữ liệu theo WOE (Weight of Evidence) trong bài toán phân loại sử dụng mô hình Logistic và thuật toán học máy", dưới sự hướng dẫn của ThS. Nguyễn Thị Liên (2022).

Nhiệm vụ và mục tiêu nghiên cứu của đề tài bao gồm 3 nội dung chính:

  1. Phân tích cơ sở lý thuyết, ưu nhược điểm, điều kiện áp dụng và quy trình kỹ thuật phân nhóm dữ liệu theo WOE và tính toán giá trị thông tin (Information Value - IV).
  2. Đánh giá và so sánh hiệu quả dự báo của mô hình Logistic và các thuật toán học máy khi chạy trên tập dữ liệu gốc so với tập dữ liệu đã qua phân nhóm WOE.
  3. So sánh hiệu quả phân loại giữa phương pháp kinh tế lượng truyền thống (hồi quy Logistic) và các thuật toán học máy hiện đại (Random Forest, LightGBM, XGBoost) trên 3 bộ dữ liệu thực nghiệm.

Đối tượng và phạm vi nghiên cứu:

  • Đối tượng nghiên cứu: Kỹ thuật phân nhóm WOE, mô hình hồi quy Logistic và các thuật toán học máy dạng cây/ensemble trong bài toán phân loại nhị phân.
  • Phạm vi thực nghiệm: Đề tài tiến hành trên 3 tập dữ liệu đại diện cho 3 lĩnh vực khác nhau:
Lĩnh vực Định nghĩa biến phụ thuộc Mục tiêu mô hình Nguồn dữ liệu
Ngân hàng Khách hàng quá hạn trong 90 ngày gần nhất (1: Quá hạn; 0: Chưa quá hạn) Đánh giá xác suất quá hạn để ra quyết định cho vay DataFountain (Dataset ID: 6274)
Y sinh Khối u (1 - Diagnosis 'B': Lành tính; 0 - Diagnosis 'M': Ác tính) Đánh giá khả năng chuyển biến ác tính của khối u tế bào Kaggle (Breast Cancer Prediction dataset)
Viễn thông Rời bỏ dịch vụ (1: Rời mạng/Churn; 0: Tiếp tục duy trì) Dự báo nguy cơ rời bỏ dịch vụ của khách hàng Kaggle (Telco Customer Churn dataset)

Cơ sở lý thuyết và phương pháp

Khung lý thuyết và mô hình tiếp cận

  • Hàm phân phối Logistic và phương pháp ước lượng: Mô hình sử dụng hàm Sigmoid $\sigma(x) = \frac{1}{1 + e^{-x}}$ để ánh xạ tổ hợp tuyến tính các biến độc lập về khoảng xác suất $[0, 1]$. Do tính chất phi tuyến của xác suất $p_i$, phương pháp bình phương nhỏ nhất (OLS) không phù hợp; mô hình áp dụng phương pháp ước lượng hợp lý cực đại (Maximum Likelihood Estimation - MLE) theo Goldberger (1964) và phương pháp tuyến tính hóa hàm Logit theo Berkson (1953).
  • Kỹ thuật phân nhóm WOE (Weight of Evidence): Là phương pháp rời rạc hóa biến liên tục hoặc gộp nhóm biến định tính thành các khoảng/nhóm thuần nhất. Công thức tính trọng số bằng chứng của nhóm $i$: $$WOE_i = \ln \left( \frac{%Good_i}{%Bad_i} \right) = \ln \left( \frac{Good_i / Total_Good}{Bad_i / Total_Bad} \right)$$ Để tránh lỗi chia cho 0 hoặc giá trị logarit vô cùng khi nhóm không có quan sát Good hoặc Bad, công thức hiệu chỉnh được áp dụng: $$WOE_i = \ln \left( \frac{(Good_i + 0.5) / Total_Good}{(Bad_i + 0.5) / Total_Bad} \right)$$
  • Chỉ số giá trị thông tin (Information Value - IV): Dùng để sàng lọc và đánh giá sức mạnh dự báo độc lập của biến trước khi đưa vào hồi quy: $$IV = \sum_{i=1}^n (%Good_i - %Bad_i) \times WOE_i$$ Thang đo chuẩn IV: $IV < 0.02$ (không có tính dự báo); $0.02 \le IV < 0.1$ (dự báo yếu); $0.1 \le IV < 0.3$ (dự báo trung bình); $IV \ge 0.3$ (dự báo mạnh).
  • Các thuật toán học máy phân loại:
    • Random Forest: Thuật toán thuộc nhóm Bagging, xây dựng song song nhiều cây quyết định trên các mẫu bootstrap độc lập, sử dụng cơ chế bầu chọn đa số (majority voting) nhằm giảm phương sai của mô hình.
    • Gradient Boosting (LightGBM và XGBoost): Thuật toán thuộc nhóm Boosting, hoạt động theo cơ chế tuần tự, các cây quyết định phía sau học và tối ưu phần dư (pseudo-residuals) của các cây trước nhằm giảm độ lệch (bias).
  • Quy đổi điểm số thẻ điểm (Scorecard Scaling): $$Score = Offset + Factor \times \ln(odds)$$ Trong đó hệ số $Factor = \frac{pdo}{\ln(2)}$ và $Offset = BaseScore - Factor \times \ln(odds_0)$, với $pdo$ (points to double odds) là số điểm cần thiết để nhân đôi tỷ lệ cược.

Phương pháp nghiên cứu và công cụ xử lý

  • Quy trình xử lý dữ liệu và ước lượng:
    1. Phân chia dữ liệu ban đầu theo tỷ lệ 70% tập huấn luyện (Train) và 30% tập kiểm định (Validation/Test).
    2. Rời rạc hóa biến liên tục thành 20 nhóm ban đầu, sau đó hợp nhất nhóm dựa trên tính đơn điệu của đường WOE, đảm bảo mỗi nhóm chiếm tối thiểu 5% tổng số quan sát.
    3. Tính toán IV để loại bỏ các biến có $IV < 0.02$; kiểm tra ma trận tương quan giữa các biến WOE để xử lý đa cộng tuyến.
    4. Hồi quy Logistic theo phương pháp chọn biến từng bước (Stepwise Selection, $SLENTRY = 0.05$).
    5. Đánh giá kiểm định mô hình qua các chỉ số: Hệ số ổn định dân số (Population Stability Index - PSI), hệ số phân biệt Gini ($Gini = 2 \times AUROC - 1$), ma trận nhầm lẫn (Confusion Matrix) với các chỉ số Accuracy, Precision, Sensitivity, Specificity, F-score và sai số MAPE.
  • Nền tảng công nghệ thực hiện:
    • Ngôn ngữ SAS: Thực hiện tiền xử lý dữ liệu, phân nhóm WOE, tính toán IV, phân tích tương quan, hồi quy Logistic Stepwise và xuất thẻ điểm chấm điểm tín dụng.
    • Ngôn ngữ R: Thực hiện huấn luyện và kiểm định các thuật toán học máy (các thư viện randomForest, gbm, xgboost).

Nội dung chính theo từng chương

Chương 1: Cơ sở lý thuyết và tổng quan nghiên cứu

Chương 1 hệ thống hóa nền tảng toán học của kinh tế lượng và học máy đối với bài toán phân loại nhị phân. Tác giả phân tích cấu trúc hàm Sigmoid, cơ chế ước lượng hợp lý cực đại (MLE) và sự ưu việt của Logistic so với mô hình xác suất tuyến tính (LPM). Chương này trình bày chi tiết bản chất của kỹ thuật WOE trong việc xử lý các khuyết tật dữ liệu (outliers, missing values, phi tuyến). Khi biến đổi sang WOE, mọi biến độc lập đều có mối quan hệ đồng biến với biến phụ thuộc trong hàm log-odds; do đó hệ số hồi quy trong mô hình WOE - Logistic bắt buộc phải mang dấu dương. Ngoài ra, chương 1 tổng hợp các định lý nền tảng trong học máy như "No Free Lunch Theorem" (Wolpert, 1996), phân biệt cơ chế giảm phương sai của Bagging (Random Forest) và giảm độ chệch của Boosting (Gradient Boosting, LightGBM, XGBoost), đồng thời xây dựng hệ thống chỉ tiêu đánh giá thẻ điểm toàn diện từ PSI, Gini đến Confusion Matrix.

Chương 2: Thực trạng một số lĩnh vực kinh tế xã hội

Chương 2 phân tích bối cảnh ứng dụng thực tế của bài toán phân loại, tập trung sâu vào quy trình xây dựng thẻ điểm tín dụng ngân hàng theo chuẩn mực Hiệp ước Basel II:

  • Sự cần thiết: Giúp ngân hàng định lượng các tham số rủi ro cốt lõi gồm PD (xác suất vỡ nợ), LGD (tỷ lệ tổn thất khi vỡ nợ) và EAD (tổng dư nợ tại thời điểm vỡ nợ). Tác giả so sánh lợi ích giữa việc mua thẻ điểm đóng gói sẵn từ nhà cung cấp bên ngoài và việc tự phát triển thẻ điểm nội bộ (như trường hợp VPBank), khẳng định việc tự phát triển giúp tăng tính linh hoạt và hiểu sâu sắc hành vi khách hàng.
  • Quy trình 5 giai đoạn chuẩn hóa xây dựng thẻ điểm:
    1. Lập kế hoạch: Xác định mục tiêu giảm nợ xấu, tăng tỷ lệ phê duyệt hoặc nâng cao năng suất xử lý hồ sơ.
    2. Xem xét dữ liệu và thông số dự án: Kiểm tra quy mô mẫu (theo khuyến nghị của Crone & Finlay, cần tối thiểu 5.000 mẫu "bad" cho thẻ điểm khởi tạo - Application score và 12.000 mẫu "bad" cho thẻ điểm hành vi - Behavioral score). Thiết lập định nghĩa mục tiêu (Target outcome, Target definition) và khung thời gian quan sát (Observation period, Behavior period, Outcome period).
    3. Tạo lập cơ sở dữ liệu: Thu thập dữ liệu nhân khẩu học, lịch sử tín dụng CIC, dữ liệu giao dịch và thông tin tài sản đảm bảo; phân chia tập Train (70-80%) và Validation (20-30%).
    4. Phát triển mô hình: Khai phá dữ liệu $\rightarrow$ Xử lý biến $\rightarrow$ Biến đổi WOE $\rightarrow$ Lựa chọn biến ($IV \ge 0.02$, tương quan thấp) $\rightarrow$ Hồi quy (Forward/Backward/Stepwise) $\rightarrow$ Lựa chọn mô hình tối ưu $\rightarrow$ Kiểm định trên mẫu Out-of-Time.
    5. Hậu kiểm mô hình: Giám sát tính ổn định và hiệu lực phân biệt của thẻ điểm trong vận hành thực tế.
  • Thực trạng trong y học và viễn thông: Phân tích nhu cầu cấp thiết của việc tự động hóa sàng lọc ung thư nhằm giảm tải cho hệ thống y tế và tối ưu hóa chi phí tiếp thị giữ chân khách hàng trong ngành dịch vụ viễn thông.

Chương 3: Xây dựng mô hình Logistic giải quyết một số bài toán phân loại

Tác giả thực nghiệm xây dựng mô hình hồi quy Logistic trên cả 3 bộ dữ liệu:

  • Bài toán chấm điểm tín dụng ngân hàng:
    • Dữ liệu thô gồm các biến nhân khẩu và khoản vay: interest, total_loan, debt_loan_ratio, house_exist, work_year, year_of_loan, early_return_amount_3mon, employer_type, industry.
    • Phân nhóm biến liên tục thành các nhóm WOE đơn điệu (ví dụ biến interest và total_loan được chia 20 nhóm rồi gộp lại để tối ưu hóa xu hướng).
    • Lựa chọn biến qua ma trận tương quan và hồi quy Stepwise trên SAS, tạo bảng điểm tín dụng hoàn chỉnh.
    • Mô hình Logistic trên dữ liệu WOE đạt chỉ số Gini tốt và độ chính xác phân loại vượt trội so với mô hình chạy trên dữ liệu gốc.
  • Bài toán dự báo khối u y sinh:
    • Tập dữ liệu gồm 30 đặc trưng hình thái tế bào (radius_mean, texture_mean, perimeter_mean, area_mean, smoothness_mean,...).
    • Biến đổi WOE cho toàn bộ biến, loại bỏ đa cộng tuyến và hồi quy Stepwise chọn ra các biến có ý nghĩa nhất (radius_mean, texture_worst, smoothness_worst).
    • Thẻ điểm y sinh phân loại 3 mức độ nguy cơ: HIGH, MEDIUM, LOW.
  • Bài toán dự báo khách hàng viễn thông rời mạng:
    • Xử lý các biến dịch vụ, hợp đồng và chi phí (MonthlyCharges, tenure, SeniorCitizen, Partner, Contract, InternetService,...).
    • Tạo các biến tương tác chéo (cross variables) như CR_T_MC (kết hợp tenure và MonthlyCharges) và CR_I_P (kết hợp InternetService và PhoneService), sau đó phân nhóm WOE để nắm bắt hành vi phi tuyến.
    • So sánh ma trận nhầm lẫn giữa mô hình WOE và mô hình dữ liệu gốc.

Chương 4: Sử dụng thuật toán học máy giải quyết một số bài toán phân loại

Chương này triển khai các thuật toán Random Forest, LightGBM và XGBoost trên môi trường R đối với cả dữ liệu gốc (G) và dữ liệu phân nhóm WOE (W) cho cả 3 bài toán:

  • Kết quả huấn luyện và dự báo:
    • XGBoost đạt hiệu năng vượt trội nhất trong nhóm học máy về độ chính xác phân loại, tốc độ huấn luyện và khả năng tối ưu hóa bộ nhớ.
    • So sánh độ chính xác giữa dữ liệu gốc và dữ liệu WOE khi áp dụng học máy: Mức độ chênh lệch kết quả giữa tập G và tập W trong các thuật toán học máy là không đáng kể. Điều này minh chứng cấu trúc cây quyết định và ensemble có khả năng tự phân chia ngưỡng và xử lý phi tuyến tốt mà không phụ thuộc quá nhiều vào tiền xử lý WOE.
  • So sánh tổng hợp giữa Logistic và Học máy:
Tập dữ liệu Mô hình / Thuật toán Dữ liệu gốc (G) Dữ liệu phân nhóm WOE (W)
Ngân hàng Logistic 75.02% Cao hơn rõ rệt (~83.x%)
Random Forest / LightGBM / XGBoost Độ chính xác cao Tương đương tập G
Y sinh Logistic Ổn định, độ chính xác cao Tối ưu hóa phân loại
Thuật toán học máy Độ chính xác tốt Tương đương Logistic
Viễn thông Logistic Đạt ngưỡng chuẩn Cải thiện sau khi tạo biến cross
Thuật toán học máy (XGBoost tối ưu) Cao nhất Ổn định cao

Nhận định cốt lõi: Thuật toán học máy cho kết quả nhỉnh hơn mô hình Logistic ở các tập dữ liệu lớn và phức tạp (Ngân hàng, Viễn thông), tuy nhiên mức chênh lệch không quá lớn. Đối với tập dữ liệu y sinh có chất lượng sạch và ít quan sát, mô hình hồi quy Logistic đơn giản cho hiệu quả tương đương hoặc thậm chí tốt hơn mô hình học máy phức tạp.

Chương 5: Kết luận và khuyến nghị

Tổng kết toàn bộ kết quả nghiên cứu lý thuyết và thực nghiệm; chỉ ra các hạn chế kỹ thuật của đề tài và đề xuất chính sách ứng dụng WOE - Logistic kết hợp học máy trong quản trị rủi ro ngân hàng, y tế và viễn thông.

Kết quả và đóng góp

Kết quả nghiên cứu chính

  1. Khẳng định tính ưu việt của kỹ thuật WOE đối với mô hình hồi quy Logistic: Trên tập dữ liệu ngân hàng, độ chính xác của mô hình Logistic tăng từ 75.02% (khi sử dụng dữ liệu gốc) lên mức trên 83% khi áp dụng dữ liệu đã qua phân nhóm WOE. Kỹ thuật WOE giải quyết triệt để vấn đề mất bậc tự do khi mã hóa biến định tính, loại bỏ ảnh hưởng tiêu cực của điểm dị biệt và khắc phục tình trạng thiếu giá trị.
  2. Đánh giá năng lực của các thuật toán học máy: Thuật toán XGBoost đạt độ chính xác phân loại cao nhất trong tất cả các mô hình thực nghiệm. Đồng thời, nghiên cứu chứng minh các thuật toán ensemble dạng cây có tính vững (robustness) cao trước dữ liệu thô, không bị suy giảm hiệu năng khi chưa qua biến đổi WOE.
  3. Mối quan hệ giữa độ phức tạp mô hình và chất lượng dữ liệu: Kết quả thực nghiệm khẳng định nguyên lý "No Free Lunch": Không có mô hình nào tối ưu tuyệt đối trong mọi hoàn cảnh. Khi dữ liệu có chất lượng tốt, biến số phân tách rõ ràng (như tập dữ liệu y sinh), mô hình Logistic đơn giản mang lại hiệu quả dự báo tương đương hoặc cao hơn mô hình học máy phức tạp, đồng thời giữ trọn vẹn khả năng giải thích nghiệp vụ.

Đóng góp thực tiễn và giải pháp đề xuất

  • Xây dựng hoàn chỉnh thẻ điểm tín dụng định lượng: Cung cấp giải thuật và mã nguồn chi tiết trên SAS để chuyển đổi từ hệ số hồi quy Logistic sang bảng điểm số cụ thể (Scorecard) phục vụ trực tiếp công tác phê duyệt tín dụng tự động, xác định lãi suất phân tầng và kiểm soát nợ xấu theo tiêu chuẩn Basel II.
  • Cải tiến quy trình xử lý dữ liệu doanh nghiệp: Khuyến nghị các ngân hàng, tổ chức tài chính và doanh nghiệp viễn thông áp dụng kỹ thuật WOE và tính toán chỉ số IV như một quy chuẩn tiền xử lý dữ liệu bắt buộc trước khi triển khai các bài toán phân loại khách hàng.
  • Kết hợp linh hoạt giữa Logistic và Học máy: Đề xuất mô hình hai lớp trong quản trị: Sử dụng mô hình WOE - Logistic làm công cụ nền tảng đáp ứng yêu cầu giải trình minh bạch của cơ quan thanh tra giám sát; song song sử dụng các thuật toán học máy (XGBoost) làm mô hình đối chuẩn (benchmark) để phát hiện gian lận và tối ưu hóa quyết định kinh doanh.

Hạn chế và hướng nghiên cứu tiếp

  • Hạn chế về nguồn dữ liệu: Do yêu cầu bảo mật thông tin tài chính và y tế, các bộ dữ liệu thực nghiệm trong đề tài là dữ liệu thứ cấp công khai (tải từ Kaggle và DataFountain). Quy mô dữ liệu và số lượng thuộc tính chưa phản ánh trọn vẹn độ phức tạp của cơ sở dữ liệu thực tế tại các ngân hàng lớn (nơi thường quản lý hàng triệu khách hàng với hàng trăm trường thông tin).
  • Đặc điểm mẫu thực nghiệm chưa làm nổi bật toàn diện kỹ thuật WOE:
    • Trong tập dữ liệu ngân hàng, biến định tính work_year và employer_type có chỉ số $IV < 0.02$ nên bị loại khỏi mô hình cuối cùng, chưa minh họa sâu việc tối ưu hóa biến định tính nhiều nhóm phức tạp.
    • Trong tập dữ liệu y sinh, hầu hết các biến ban đầu đều là biến liên tục và dữ liệu đã được làm sạch sẵn, không có giá trị khuyết thiếu hay điểm ngoại lai nghiêm trọng.
  • Hướng nghiên cứu mở rộng: Nghiên cứu và thử nghiệm kỹ thuật phân nhóm WOE tự động bằng thuật toán tối ưu (Genetic Algorithm, Decision Tree Binned) trên các bộ dữ liệu chuỗi thời gian lớn và dữ liệu phi cấu trúc; tích hợp sâu các mô hình học máy giải thích được (Explainable AI - XAI) trong thẩm định tín dụng.

Giá trị tham khảo

Chuyên đề thực tập mang giá trị tham khảo thực tiễn và học thuật cho nhiều đối tượng:

  • Sinh viên và học viên chuyên ngành: Là tài liệu tham khảo chi tiết cho sinh viên ngành Toán Kinh tế, Toán Tài chính, Khoa học Dữ liệu, Thống kê Kinh doanh, Tài chính - Ngân hàng trong việc thực hiện khóa luận tốt nghiệp về bài toán phân loại và chấm điểm tín dụng.
  • Chuyên viên phân tích rủi ro và khoa học dữ liệu (Data Scientist / Risk Modeler): Cung cấp tài liệu tham khảo về quy trình xây dựng thẻ điểm chuẩn mực theo Basel II, từ khâu xác định khoảng thời gian quan sát (Outcome/Observation date), phân nhóm WOE, tính toán IV, đến các chỉ số kiểm định mô hình (PSI, Gini, MAPE) và công thức biến đổi điểm số ($Score = Offset + Factor \times \ln(odds)$).
  • Hệ thống mã nguồn thực nghiệm mẫu: Cung cấp đầy đủ cấu trúc code lập trình xử lý dữ liệu thực tế trên cả hai ngôn ngữ phổ biến trong ngành ngân hàng là SAS (xử lý dữ liệu lớn, macro tính toán WOE, Scorecard) và R (triển khai các thuật toán Random Forest, LightGBM, XGBoost).

Câu hỏi thường gặp

1. Tại sao kỹ thuật WOE lại khắc phục được nhược điểm của mô hình hồi quy Logistic?

Mô hình Logistic truyền thống gặp khó khăn khi đưa biến định tính nhiều danh mục vào mô hình (do dùng quá nhiều biến giả làm mất bậc tự do) và nhạy cảm với ngoại lai/dữ liệu thiếu. Kỹ thuật WOE chuyển đổi mọi giá trị của biến (bất kể liên tục hay định tính) thành một đại lượng vô hướng đại diện cho tỷ lệ cược logit giữa nhóm "Good" và "Bad". Nhờ đó, dữ liệu được chuẩn hóa, mối quan hệ giữa biến độc lập và log-odds trở thành tuyến tính, các điểm ngoại lai và giá trị thiếu được gom thành các nhóm riêng biệt có ý nghĩa thống kê mà không làm giảm kích thước mẫu.

2. Quy tắc dấu của hệ số hồi quy trong mô hình Logistic kết hợp WOE là gì?

Trong mô hình WOE - Logistic, tất cả các hệ số hồi quy ước lượng ($\beta_i$) bắt buộc phải mang dấu dương ($>0$). Lý do là giá trị WOE được tính bằng logarit tự nhiên của tỷ lệ Good chia tỷ lệ Bad, đồng nghĩa với việc giá trị WOE càng lớn thì xác suất quan sát thuộc nhóm Good càng cao (mối quan hệ đồng biến tuyệt đối). Nếu một biến sau khi hồi quy cho hệ số âm, biến đó vi phạm tính logic của trọng số bằng chứng và bắt buộc phải bị loại bỏ khỏi mô hình hoặc phải tiến hành phân nhóm lại.

3. Tiêu chuẩn đánh giá sức mạnh dự báo của biến qua chỉ số giá trị thông tin (IV) được quy định như thế nào?

Chỉ số giá trị thông tin (Information Value - IV) được phân cấp theo các ngưỡng chuẩn:

  • $IV < 0.02$: Biến không có tính dự báo (loại bỏ khỏi mô hình).
  • $0.02 \le IV < 0.1$: Biến có tính dự báo yếu.
  • $0.1 \le IV < 0.3$: Biến có tính dự báo trung bình.
  • $IV \ge 0.3$: Biến có khả năng dự báo mạnh (được ưu tiên chọn vào mô hình).

4. Quy mô mẫu tối thiểu để xây dựng thẻ điểm tín dụng theo khuyến nghị là bao nhiêu?

Theo tài liệu nghiên cứu của Crone và Finlay được trích dẫn trong văn bản, để mô hình hồi quy Logistic đạt được hệ số Gini tối đa và đảm bảo ý nghĩa thống kê, quy mô mẫu tối thiểu cần đạt ít nhất 5.000 quan sát "Bad" đối với thẻ điểm khởi tạo (Application Scorecard) và 12.000 quan sát "Bad" đối với thẻ điểm hành vi (Behavioral Scorecard).

5. Giữa mô hình Logistic và các thuật toán học máy, phương pháp nào vượt trội hơn trong bài toán phân loại?

Kết quả thực nghiệm trên 3 bộ dữ liệu cho thấy các thuật toán học máy (đặc biệt là XGBoost) nhìn chung đạt độ chính xác dự báo cao hơn mô hình Logistic trên tập kiểm định của các bộ dữ liệu lớn. Tuy nhiên, mức độ chênh lệch là không lớn. Trên tập dữ liệu y sinh có chất lượng dữ liệu sạch, mô hình Logistic cho kết quả tương đương hoặc tốt hơn học máy. Bên cạnh đó, mô hình Logistic kết hợp WOE có ưu điểm vượt trội về cấu trúc toán học tường minh, dễ giải thích lý do từ chối/chấp thuận khoản vay và dễ triển khai thành thẻ điểm vận hành trên hệ thống ngân hàng lõi (Core Banking).

Kết luận

Chuyên đề thực tập của tác giả Nguyễn Thị Thu Hà đã giải quyết toàn diện bài toán phân loại nhị phân thông qua việc kết hợp kỹ thuật tiền xử lý dữ liệu WOE với mô hình hồi quy Logistic và các thuật toán học máy hiện đại. Nghiên cứu chứng minh kỹ thuật WOE giúp cải thiện đáng kể độ chính xác của mô hình Logistic, biến đổi dữ liệu phức tạp thành bảng điểm định lượng trực quan, phục vụ hiệu quả cho bài toán chấm điểm tín dụng theo chuẩn Basel II cũng như dự báo trong y sinh và viễn thông. Đồng thời, các so sánh thực nghiệm với Random Forest, LightGBM và XGBoost trên SAS và R đã cung cấp cái nhìn thực chứng sâu sắc về việc cân bằng giữa độ chính xác dự báo và tính khả giải của mô hình trong ứng dụng kinh tế - xã hội.