Tổng quan nghiên cứu

Hoạt động cho vay là một trong những sản phẩm chủ lực của các tổ chức tài chính và ngân hàng, đóng vai trò quan trọng trong việc tạo ra lợi nhuận bền vững. Tuy nhiên, rủi ro tín dụng từ việc khách hàng không hoàn trả khoản vay đúng hạn luôn là thách thức lớn. Theo dữ liệu từ Lending Club, một nền tảng kết nối người vay và nhà đầu tư qua Internet, tập dữ liệu nghiên cứu gồm 37.066 mẫu tin từ tháng 1/2018 đến tháng 9/2020. Vấn đề trọng tâm là dự đoán khả năng không trả được nợ của khách hàng nhằm giảm thiểu rủi ro và nâng cao hiệu quả quản trị tín dụng.

Mục tiêu cụ thể của luận văn là thiết kế và đánh giá các mô hình học máy để dự đoán khả năng hoàn trả khoản vay, từ đó hỗ trợ các tổ chức tài chính trong việc ra quyết định phê duyệt khoản vay. Phạm vi nghiên cứu tập trung trên dữ liệu khách hàng vay vốn qua Lending Club trong giai đoạn 2018-2020. Ý nghĩa của nghiên cứu được thể hiện qua việc cải thiện độ chính xác dự đoán, giảm thiểu nợ xấu và tăng cường quản trị rủi ro tín dụng, góp phần nâng cao lợi nhuận và sự ổn định của tổ chức tài chính.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn dựa trên các lý thuyết và mô hình học máy phổ biến trong lĩnh vực dự đoán tín dụng, bao gồm:

  • Hồi quy Logistic (Logistic Regression): Mô hình phân loại nhị phân ước lượng xác suất một khách hàng thuộc nhóm không trả nợ dựa trên hàm sigmoid, phù hợp với bài toán phân lớp tín dụng.
  • Random Forest: Tập hợp các cây quyết định được huấn luyện trên các tập con dữ liệu khác nhau, giúp giảm thiểu overfitting và tăng độ chính xác dự đoán.
  • Support Vector Machine (SVM): Mô hình phân loại mạnh mẽ, sử dụng hạt nhân Gaussian RBF để xử lý dữ liệu phi tuyến, phù hợp với các tập dữ liệu phức tạp.
  • K-Nearest Neighbor (KNN): Thuật toán phân loại dựa trên khoảng cách Euclid đến các điểm dữ liệu gần nhất, đơn giản nhưng hiệu quả trong nhiều trường hợp.
  • Artificial Neural Network (ANN): Mạng nơ-ron nhân tạo mô phỏng hoạt động của tế bào thần kinh, có khả năng học các mối quan hệ phi tuyến phức tạp.
  • Long Short-Term Memory (LSTM): Mạng nơ-ron hồi tiếp đặc biệt, xử lý tốt dữ liệu chuỗi thời gian, được áp dụng trong dự đoán tín dụng có tính tuần tự.
  • Cây quyết định (Decision Tree): Mô hình phân loại dựa trên cấu trúc cây, dễ hiểu và triển khai.

Ngoài ra, luận văn áp dụng kỹ thuật Ensemble Learning với các phương pháp kết hợp mô hình như Voting, Stacking và Boosting nhằm nâng cao hiệu suất dự đoán.

Phương pháp nghiên cứu

Nguồn dữ liệu chính là tập dữ liệu Lending Club gồm 37.066 mẫu tin, thu thập từ tháng 1/2018 đến tháng 9/2020. Các bước nghiên cứu bao gồm:

  • Thu thập và tiền xử lý dữ liệu: Xử lý giá trị thiếu, chuyển đổi biến hạng mục sang dạng số (one-hot encoding), chuẩn hóa dữ liệu bằng phương pháp min-max scaling.
  • Lựa chọn thuộc tính: Sử dụng kỹ thuật Mutual Information Statistics để chọn ra 6 biến quan trọng nhất ảnh hưởng đến khả năng trả nợ.
  • Phân chia dữ liệu: Tách dữ liệu thành tập huấn luyện (70%) và tập kiểm tra (30%).
  • Huấn luyện mô hình: Áp dụng các thuật toán học máy đã nêu, đồng thời thực hiện tinh chỉnh siêu tham số bằng GridSearchCV.
  • Đánh giá mô hình: Sử dụng phương pháp kiểm định chéo K-fold, ma trận nhầm lẫn (confusion matrix), các chỉ số Accuracy, Precision, Recall, F1-Score và đường cong ROC để đánh giá hiệu suất.
  • Thực nghiệm mô hình kết hợp: Triển khai các phương pháp Ensemble Learning gồm Voting Classifiers, Stacking Classifiers và Boosting (AdaBoost, Gradient Boosting) để cải thiện độ chính xác dự đoán.

Quá trình nghiên cứu được thực hiện trên nền tảng Python 3.7 với các thư viện phổ biến như numpy, pandas, sklearn, keras, seaborn và matplotlib, sử dụng công cụ Google Colab Pro.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

  1. Hiệu suất mô hình đơn lẻ:

    • Mô hình Random Forest đạt độ chính xác khoảng 80%, vượt trội hơn so với các mô hình khác như Hồi quy Logistic (độ chính xác ~70%), SVM, KNN, ANN và LSTM.
    • Mô hình Hồi quy Logistic có điểm AUC đạt khoảng 70% và Recall đạt 62%, cho thấy khả năng dự đoán khá tốt nhưng vẫn còn hạn chế.

  2. Hiệu quả của phương pháp Ensemble Learning:

    • Mô hình kết hợp Voting giữa Hồi quy Logistic và Random Forest cải thiện độ chính xác lên trên 82%.
    • Stacking Classifiers với meta-model được huấn luyện trên đầu ra của các base-models cho kết quả tốt hơn, với AUC tăng khoảng 3-5% so với mô hình đơn lẻ.
    • Boosting (AdaBoost và Gradient Boosting) giúp giảm sai số dự đoán, đặc biệt tăng Recall, giảm tỷ lệ bỏ sót khách hàng có nguy cơ không trả nợ.

  3. Ảnh hưởng của lựa chọn thuộc tính:

    • Việc sử dụng kỹ thuật Mutual Information Statistics giúp giảm số lượng biến đầu vào từ 13 xuống còn 6 biến quan trọng nhất, làm tăng tốc độ huấn luyện và cải thiện hiệu suất mô hình.
    • Các biến như lãi suất khoản vay (int_rate), số tiền trả góp hàng tháng (installment), điểm tín dụng FICO, tỷ lệ nợ trên thu nhập (dti) có ảnh hưởng lớn đến dự đoán.

  4. Xử lý dữ liệu mất cân bằng:

    • Áp dụng kỹ thuật Random Oversampling và Undersampling giúp cân bằng dữ liệu giữa nhóm khách hàng trả nợ đầy đủ và không đầy đủ, từ đó cải thiện độ chính xác và khả năng tổng quát của mô hình.

Thảo luận kết quả

Kết quả cho thấy các mô hình học máy truyền thống như Random Forest và Hồi quy Logistic có thể đạt hiệu suất dự đoán khả quan, tuy nhiên vẫn còn hạn chế khi áp dụng riêng lẻ. Việc kết hợp các mô hình qua phương pháp Ensemble Learning đã chứng minh hiệu quả rõ rệt trong việc nâng cao độ chính xác và giảm thiểu rủi ro dự đoán sai.

So sánh với các nghiên cứu trước đây, kết quả này phù hợp với xu hướng ứng dụng học máy trong dự đoán tín dụng, đồng thời cải thiện đáng kể các chỉ số như AUC và Recall. Việc lựa chọn thuộc tính dựa trên Mutual Information giúp giảm thiểu biến không liên quan, tránh hiện tượng overfitting và tăng tốc độ xử lý.

Dữ liệu mất cân bằng là một thách thức lớn trong bài toán này, tuy nhiên các kỹ thuật cân bằng dữ liệu đã giúp mô hình không bị thiên lệch về nhóm chiếm đa số, từ đó nâng cao khả năng phát hiện khách hàng có nguy cơ không trả nợ.

Các biểu đồ ROC curve, ma trận nhầm lẫn và so sánh độ chính xác giữa các mô hình được trình bày chi tiết trong luận văn, minh họa rõ ràng sự vượt trội của các mô hình kết hợp so với mô hình đơn lẻ.

Đề xuất và khuyến nghị

  1. Áp dụng mô hình Ensemble Learning trong quy trình phê duyệt khoản vay:
    Các tổ chức tài chính nên triển khai các mô hình kết hợp Voting hoặc Stacking để nâng cao độ chính xác dự đoán khả năng hoàn trả khoản vay, giảm thiểu rủi ro nợ xấu trong vòng 6-12 tháng tới.

  2. Tăng cường thu thập và làm sạch dữ liệu:
    Đảm bảo dữ liệu khách hàng đầy đủ, chính xác và cập nhật thường xuyên, đặc biệt các biến quan trọng như điểm tín dụng, thu nhập và lịch sử thanh toán, nhằm cải thiện chất lượng đầu vào cho mô hình.

  3. Triển khai hệ thống giám sát và cập nhật mô hình định kỳ:
    Thiết lập quy trình đánh giá hiệu suất mô hình hàng quý, cập nhật siêu tham số và dữ liệu huấn luyện để đảm bảo mô hình luôn phù hợp với biến động thị trường và hành vi khách hàng.

  4. Đào tạo nhân sự và nâng cao nhận thức về công nghệ học máy:
    Tổ chức các khóa đào tạo cho đội ngũ phân tích tín dụng và quản lý rủi ro về ứng dụng học máy, giúp họ hiểu và vận dụng hiệu quả các công cụ dự đoán trong công tác ra quyết định.

Đối tượng nên tham khảo luận văn

  1. Các tổ chức tài chính và ngân hàng:
    Hỗ trợ xây dựng hệ thống dự đoán rủi ro tín dụng, nâng cao hiệu quả phê duyệt khoản vay và quản lý nợ xấu.

  2. Chuyên gia phân tích dữ liệu và khoa học dữ liệu:
    Cung cấp phương pháp luận và mô hình học máy ứng dụng thực tiễn trong lĩnh vực tín dụng, đặc biệt là kỹ thuật Ensemble Learning.

  3. Nhà nghiên cứu và sinh viên ngành công nghệ thông tin, tài chính:
    Tham khảo các thuật toán học máy, kỹ thuật lựa chọn thuộc tính và quy trình khai thác dữ liệu chuẩn CRISP-DM trong bài toán dự đoán tín dụng.

  4. Các nhà quản lý rủi ro tín dụng:
    Nắm bắt các công cụ và phương pháp mới để đánh giá và kiểm soát rủi ro tín dụng hiệu quả hơn, từ đó đưa ra các chính sách phù hợp.

Câu hỏi thường gặp

  1. Tại sao cần sử dụng mô hình kết hợp (Ensemble Learning) thay vì mô hình đơn lẻ?
    Mô hình kết hợp tận dụng ưu điểm của nhiều thuật toán khác nhau, giảm thiểu sai số và tăng độ chính xác dự đoán so với mô hình đơn lẻ. Ví dụ, Voting và Stacking giúp cải thiện AUC từ khoảng 70% lên trên 80%.

  2. Làm thế nào để xử lý dữ liệu mất cân bằng trong bài toán dự đoán khoản vay?
    Sử dụng kỹ thuật Random Oversampling hoặc Undersampling để cân bằng số lượng mẫu giữa nhóm trả nợ đầy đủ và không đầy đủ, giúp mô hình không bị thiên lệch và tăng khả năng phát hiện khách hàng rủi ro.

  3. Các biến nào ảnh hưởng nhiều nhất đến khả năng hoàn trả khoản vay?
    Các biến quan trọng gồm lãi suất khoản vay (int_rate), số tiền trả góp hàng tháng (installment), điểm tín dụng FICO, tỷ lệ nợ trên thu nhập (dti), số lần quá hạn thanh toán trong 2 năm (delinq_2yrs) và tỷ lệ sử dụng nợ tín dụng (revol_util).

  4. Phương pháp lựa chọn thuộc tính nào được sử dụng và vì sao?
    Kỹ thuật Mutual Information Statistics được chọn vì khả năng đo lường mức độ liên quan giữa biến đầu vào và biến mục tiêu, giúp giảm số lượng biến không cần thiết, tăng hiệu quả huấn luyện và dự đoán.

  5. Làm thế nào để đánh giá hiệu suất mô hình dự đoán khoản vay?
    Sử dụng các chỉ số như Accuracy, Precision, Recall, F1-Score và đường cong ROC. Đặc biệt, Recall và AUC là các chỉ số quan trọng trong việc đánh giá khả năng phát hiện khách hàng có nguy cơ không trả nợ.

Kết luận

  • Luận văn đã thiết kế và triển khai thành công các mô hình học máy dự đoán khả năng hoàn trả khoản vay dựa trên dữ liệu Lending Club với hơn 37.000 mẫu tin.
  • Phương pháp kết hợp mô hình Ensemble Learning (Voting, Stacking, Boosting) cho hiệu suất dự đoán vượt trội so với các mô hình đơn lẻ, với độ chính xác đạt trên 82%.
  • Kỹ thuật lựa chọn thuộc tính Mutual Information giúp giảm biến đầu vào, tăng tốc độ huấn luyện và cải thiện hiệu quả mô hình.
  • Việc xử lý dữ liệu mất cân bằng và tinh chỉnh siêu tham số đóng vai trò quan trọng trong việc nâng cao độ chính xác dự đoán.
  • Đề xuất triển khai mô hình trong thực tế, đồng thời duy trì cập nhật và giám sát định kỳ để đảm bảo mô hình phù hợp với biến động thị trường.

Next steps: Triển khai thử nghiệm mô hình trong môi trường thực tế tại các tổ chức tài chính, thu thập phản hồi và điều chỉnh mô hình phù hợp. Khuyến khích mở rộng nghiên cứu với dữ liệu đa dạng hơn và áp dụng các kỹ thuật học sâu nâng cao.

Call to action: Các tổ chức tài chính và nhà nghiên cứu được khuyến khích áp dụng và phát triển các mô hình học máy kết hợp để nâng cao hiệu quả quản trị rủi ro tín dụng, góp phần phát triển bền vững ngành tài chính ngân hàng.