Dự đoán khách hàng rời bỏ ngành Ngân hàng: Đồ án của Nguyễn Tuấn Minh

Phân tích bài toán dự đoán khách hàng rời bỏ trong ngân hàng. So sánh các mô hình học máy nhằm tìm ra giải pháp hiệu quả để giữ chân khách hàng.

• Tác giả: Nguyễn Tuấn Minh
• Người hướng dẫn: ThS. Hoàng Trọng Tiến
• Trường học: Đại học Quốc gia Hà Nội, Trường Quốc tế
• Chuyên ngành: Phân tích dữ liệu kinh doanh
• Đề tài: Mô hình dự đoán khách hàng rời bỏ trong Ngân hàng
• Loại tài liệu: Đồ án tốt nghiệp
• Năm xuất bản: 2024
• Địa điểm: Hà Nội

Tóm tắt

I. Mô hình dự đoán khách hàng rời bỏ Chìa khóa cho ngân hàng

Trong bối cảnh ngành tài chính cạnh tranh gay gắt, việc giữ chân khách hàng ngân hàng trở thành ưu tiên chiến lược hàng đầu. Chi phí để thu hút một khách hàng mới cao hơn nhiều so với việc duy trì một khách hàng hiện tại. Do đó, mô hình dự đoán khách hàng rời bỏ (customer churn prediction) nổi lên như một công cụ phân tích mạnh mẽ, cho phép các tổ chức tài chính xác định sớm những cá nhân có nguy cơ ngừng sử dụng dịch vụ. Bằng cách tận dụng sức mạnh của học máy trong ngân hàng (machine learning in banking) và phân tích dữ liệu khách hàng, các mô hình này có thể nhận diện các mẫu hành vi tinh vi báo hiệu ý định rời bỏ. Việc triển khai thành công một mô hình dự đoán không chỉ giúp giảm tỷ lệ khách hàng rời bỏ (churn rate) mà còn cải thiện đáng kể lợi nhuận và sự phát triển bền vững. Một mô hình dự đoán churn hiệu quả sẽ phân tích các thuộc tính đa dạng của khách hàng, từ nhân khẩu học, lịch sử giao dịch, đến việc sử dụng sản phẩm. Như được nêu trong nghiên cứu của Nguyễn Tuấn Minh (2024), việc áp dụng các thuật toán như Random Forest hay AdaBoost mang lại kết quả đầy hứa hẹn. Mục tiêu cuối cùng là chuyển từ phản ứng thụ động sang hành động chủ động, xây dựng các chiến lược customer retention in banking được cá nhân hóa, từ đó nâng cao trải nghiệm khách hàng (CX) và tối ưu hóa giá trị vòng đời khách hàng (CLV).

1.1. Giải mã Churn Rate là gì và tác động đến ngành tài chính

Thuật ngữ churn rate là gì? Đây là chỉ số đo lường tỷ lệ phần trăm khách hàng ngừng sử dụng dịch vụ của một công ty trong một khoảng thời gian nhất định. Trong lĩnh vực ngân hàng, tỷ lệ khách hàng rời bỏ cao có thể gây ra những tổn thất doanh thu đáng kể và làm tăng chi phí marketing để bù đắp. Mỗi khách hàng rời đi không chỉ mang theo doanh thu trực tiếp mà còn cả những cơ hội bán chéo sản phẩm trong tương lai. Hơn nữa, một tỷ lệ rời bỏ cao có thể là dấu hiệu cho thấy sự không hài lòng của khách hàng về sản phẩm, dịch vụ hoặc trải nghiệm khách hàng (CX), ảnh hưởng tiêu cực đến uy tín thương hiệu. Việc hiểu rõ và kiểm soát chỉ số này là cực kỳ quan trọng để duy trì sự ổn định và tăng trưởng. Các ngân hàng cần liên tục theo dõi và phân tích hành vi khách hàng để phát hiện các yếu tố tiềm ẩn dẫn đến quyết định rời bỏ, từ đó có biện pháp can thiệp kịp thời.

1.2. Tầm quan trọng của việc ứng dụng AI trong tài chính để dự báo

Việc ứng dụng AI trong tài chính đã cách mạng hóa cách các ngân hàng tiếp cận vấn đề giữ chân khách hàng. Thay vì dựa vào các phân tích truyền thống, các mô hình machine learning for churn prediction có khả năng xử lý các tập dữ liệu khổng lồ và phức tạp để tìm ra các mối tương quan ẩn. Các thuật toán dự đoán churn có thể xác định những khách hàng có nguy cơ cao nhất với độ chính xác vượt trội. Điều này cho phép bộ phận marketing và chăm sóc khách hàng tập trung nguồn lực vào đúng đối tượng, triển khai các chiến dịch giữ chân được cá nhân hóa như ưu đãi đặc biệt, cuộc gọi tư vấn, hoặc cải thiện dịch vụ. Việc dự báo sớm giúp ngân hàng can thiệp trước khi khách hàng đưa ra quyết định cuối cùng, biến một nguy cơ tiềm tàng thành cơ hội củng cố lòng trung thành.

II. Thách thức khi xây dựng mô hình churn Dữ liệu mất cân bằng

Một trong những thách thức kỹ thuật lớn nhất khi xây dựng mô hình churn là tình trạng mất cân bằng lớp (class imbalance) trong dữ liệu. Trong thực tế, số lượng khách hàng trung thành (không rời bỏ) luôn lớn hơn rất nhiều so với số lượng khách hàng rời bỏ. Nghiên cứu của Nguyễn Tuấn Minh (2024) chỉ ra rằng tập dữ liệu ngân hàng có đến 78.57% khách hàng không rời bỏ và chỉ 21.43% khách hàng rời bỏ. Sự chênh lệch này khiến các mô hình học máy có xu hướng "thiên vị" lớp đa số. Máy học sẽ dễ dàng đạt độ chính xác cao bằng cách dự đoán hầu hết khách hàng đều không rời bỏ, nhưng lại thất bại trong việc xác định đúng các trường hợp thuộc lớp thiểu số – là mục tiêu chính của bài toán. Điều này làm giảm đáng kể giá trị thực tiễn của mô hình. Nếu không được xử lý đúng cách, tình trạng này sẽ dẫn đến tỷ lệ bỏ sót cao (false negatives), tức là mô hình không nhận diện được khách hàng sắp rời đi. Vấn đề này đòi hỏi các kỹ thuật xử lý dữ liệu chuyên biệt như SMOTE (Synthetic Minority Over-sampling Technique) hoặc các thuật toán được thiết kế để hoạt động tốt với dữ liệu mất cân bằng. Việc giải quyết thành công bài toán này là yếu tố then chốt quyết định hiệu quả của toàn bộ chiến lược giữ chân khách hàng ngân hàng.

2.1. Phân tích dữ liệu khách hàng Bài toán mất cân bằng cố hữu

Quá trình phân tích dữ liệu khách hàng cho bài toán churn thường bộc lộ rõ sự chênh lệch lớn giữa hai nhóm. Nhóm khách hàng rời bỏ (churners) thường chỉ chiếm một phần nhỏ trong toàn bộ tập dữ liệu. Ví dụ, một ngân hàng có thể có hàng triệu khách hàng, nhưng chỉ vài nghìn người rời bỏ mỗi quý. Khi khai phá dữ liệu ngân hàng, nếu không nhận diện và xử lý vấn đề này, mô hình sẽ học được rằng cách tốt nhất để tối ưu độ chính xác là luôn dự đoán "không rời bỏ". Sự mất cân bằng này không chỉ là một đặc điểm thống kê mà còn là một rào cản lớn, đòi hỏi các nhà khoa học dữ liệu phải áp dụng các phương pháp đặc thù để đảm bảo mô hình có khả năng học hỏi các đặc điểm của nhóm khách hàng thiểu số quan trọng.

2.2. Ảnh hưởng tiêu cực đến việc đo lường hiệu quả mô hình

Dữ liệu mất cân bằng gây ra sự sai lệch nghiêm trọng trong việc đo lường hiệu quả mô hình. Các chỉ số như Độ chính xác (Accuracy) trở nên vô nghĩa. Một mô hình có thể đạt Accuracy 95% chỉ bằng cách dự đoán tất cả khách hàng đều không rời bỏ (nếu tỷ lệ rời bỏ là 5%), nhưng thực chất nó không có giá trị dự báo nào. Do đó, cần phải sử dụng các thước đo phù hợp hơn như Precision, Recall, F1-Score và đường cong ROC-AUC. Đặc biệt, Recall (Độ nhạy) trở nên cực kỳ quan trọng, vì nó đo lường khả năng của mô hình trong việc xác định chính xác các trường hợp rời bỏ thực sự. Một mô hình có Recall thấp sẽ bỏ lỡ nhiều khách hàng tiềm năng rời bỏ, làm thất bại mục tiêu cốt lõi của dự án.

III. Phương pháp tiền xử lý dữ liệu để xây dựng mô hình churn

Để xây dựng mô hình churn chính xác, giai đoạn tiền xử lý dữ liệu đóng vai trò quyết định. Hai kỹ thuật quan trọng được áp dụng trong nghiên cứu này là SMOTE và Phân tích thành phần chính (PCA). SMOTE (Synthetic Minority Over-sampling Technique) là giải pháp trực tiếp cho vấn đề mất cân bằng lớp. Thay vì chỉ sao chép các mẫu thiểu số, SMOTE tạo ra các mẫu dữ liệu tổng hợp mới dựa trên các đặc điểm của các mẫu hiện có. Bằng cách này, nó làm tăng số lượng quan sát của lớp thiểu số (khách hàng rời bỏ) một cách thông minh, giúp mô hình học được ranh giới quyết định giữa hai lớp một cách công bằng hơn. Việc áp dụng SMOTE đã được chứng minh là cải thiện đáng kể các chỉ số hiệu suất như F1-Score. Bên cạnh đó, khai phá dữ liệu ngân hàng thường đối mặt với số lượng biến lớn, có thể gây nhiễu và làm tăng độ phức tạp tính toán. PCA là một kỹ thuật giảm chiều dữ liệu hiệu quả. Nó biến đổi một tập hợp lớn các biến có tương quan thành một tập hợp nhỏ hơn các biến không tương quan gọi là thành phần chính, trong khi vẫn giữ lại phần lớn thông tin quan trọng. Nghiên cứu của Nguyễn Tuấn Minh (2024) đã áp dụng PCA để giảm 17 biến ban đầu xuống còn 8 thành phần chính, chiếm tới 77% tổng phương sai giải thích được. Sự kết hợp giữa SMOTE và PCA tạo ra một tập dữ liệu cân bằng, tinh gọn và giàu thông tin, là nền tảng vững chắc cho việc huấn luyện các mô hình học máy trong ngân hàng.

3.1. Kỹ thuật SMOTE Giải pháp cân bằng tỷ lệ khách hàng rời bỏ

SMOTE là một kỹ thuật tiên tiến để xử lý dữ liệu mất cân bằng. Nó hoạt động bằng cách chọn các mẫu thuộc lớp thiểu số và tạo ra các mẫu tổng hợp mới nằm dọc theo đoạn thẳng nối các mẫu lân cận. Quá trình này giúp làm "dày" thêm không gian đặc trưng của lớp thiểu số, cung cấp cho thuật toán nhiều ví dụ hơn để học hỏi. Sau khi áp dụng SMOTE, tỷ lệ khách hàng rời bỏ trong tập dữ liệu huấn luyện được đưa về mức cân bằng 50-50. Kết quả thực nghiệm cho thấy sự cải thiện rõ rệt: F1-score của mô hình Random Forest for churn tăng từ 0.71 lên 0.87 (Nguyễn Tuấn Minh, 2024). Điều này chứng tỏ SMOTE là một bước không thể thiếu để xây dựng một mô hình dự đoán churn thực sự hữu ích.

3.2. Ứng dụng PCA trong phân tích hành vi khách hàng và giảm chiều

Trong bối cảnh dữ liệu khách hàng ngày càng lớn với hàng chục, thậm chí hàng trăm biến, việc phân tích hành vi khách hàng trở nên phức tạp. Nhiều biến có thể tương quan với nhau, gây ra hiện tượng đa cộng tuyến và làm giảm hiệu suất mô hình. PCA giải quyết vấn đề này bằng cách tạo ra các thành phần chính trực giao, mỗi thành phần là một tổ hợp tuyến tính của các biến ban đầu. Các thành phần này nắm bắt các nguồn biến thiên chính trong dữ liệu. Bằng cách chỉ giữ lại một vài thành phần chính đầu tiên giải thích phần lớn phương sai, chúng ta có thể giảm đáng kể số chiều của dữ liệu mà không mất nhiều thông tin. Điều này không chỉ giúp mô hình chạy nhanh hơn mà còn có thể cải thiện khả năng tổng quát hóa bằng cách loại bỏ nhiễu.

IV. Top thuật toán học máy dự đoán churn hiệu quả nhất trong ngân hàng

Việc lựa chọn thuật toán dự đoán churn phù hợp là yếu tố quyết định đến sự thành công của mô hình. Trong số các phương pháp machine learning for churn prediction, các thuật toán học máy có giám sát (supervised learning) được sử dụng phổ biến nhất. Nghiên cứu của Nguyễn Tuấn Minh (2024) đã thực hiện so sánh toàn diện bốn thuật toán hàng đầu: Random Forest, AdaBoost, Support Vector Machine (SVM), và Decision Tree. Kết quả cho thấy các phương pháp Ensemble Learning (học tập tổ hợp) như Random Forest và AdaBoost tỏ ra vượt trội. Random Forest for churn đạt hiệu suất cao nhất, nhờ khả năng kết hợp dự đoán từ nhiều cây quyết định khác nhau, giúp giảm phương sai và chống lại việc khớp quá mức (overfitting). Mô hình này đặc biệt mạnh mẽ khi xử lý các tập dữ liệu phức tạp với nhiều đặc trưng. AdaBoost, một thuật toán boosting khác, cũng cho thấy hiệu quả bằng cách tập trung vào việc sửa lỗi của các bộ phân loại yếu trước đó. SVM và Decision Tree, mặc dù là những thuật toán nền tảng, nhưng trong trường hợp này lại cho thấy hiệu suất kém ổn định hơn, đặc biệt là Decision Tree có xu hướng dễ bị overfitting. Bên cạnh đó, các mô hình như logistic regression churn model cũng là một lựa chọn phổ biến vì tính dễ diễn giải, hay XGBoost là một thuật toán boosting nâng cao thường mang lại độ chính xác hàng đầu trong các cuộc thi về khoa học dữ liệu.

4.1. Random Forest và XGBoost Sức mạnh của các thuật toán Ensemble

Random Forest (Rừng ngẫu nhiên) xây dựng nhiều cây quyết định độc lập trên các mẫu dữ liệu con ngẫu nhiên và tổng hợp kết quả của chúng. Sự ngẫu nhiên trong cả việc chọn mẫu và chọn biến tại mỗi nút giúp tạo ra các cây đa dạng, làm cho mô hình tổng thể trở nên mạnh mẽ và ổn định. XGBoost (Extreme Gradient Boosting) cũng là một thuật toán ensemble nhưng hoạt động theo cơ chế boosting tuần tự. Nó xây dựng các cây sau để sửa lỗi của các cây trước, tập trung vào các mẫu khó dự đoán. Cả hai đều là những thuật toán dự đoán churn hàng đầu, thường xuyên mang lại kết quả xuất sắc trong các bài toán phân loại nhị phân như dự đoán rời bỏ.

4.2. So sánh hiệu quả Decision Tree và Support Vector Machine SVM

Decision Tree (Cây quyết định) là một mô hình trực quan, dễ hiểu, mô phỏng quá trình ra quyết định của con người. Tuy nhiên, một cây quyết định đơn lẻ rất nhạy cảm với những thay đổi nhỏ trong dữ liệu và dễ bị overfitting. Support Vector Machine (SVM) hoạt động bằng cách tìm một siêu phẳng tối ưu để phân tách hai lớp dữ liệu trong không gian nhiều chiều. SVM hoạt động tốt với dữ liệu có số chiều cao và hiệu quả khi có một đường biên rõ ràng giữa các lớp, nhưng có thể kém hiệu quả hơn Random Forest trên các tập dữ liệu lớn và phức tạp như trong ngành ngân hàng.

V. Cách đo lường hiệu quả mô hình dự đoán và kết quả thực nghiệm

Việc đo lường hiệu quả mô hình là bước cuối cùng nhưng vô cùng quan trọng để xác nhận giá trị của mô hình dự đoán. Như đã đề cập, Accuracy không phải là một chỉ số đáng tin cậy cho bài toán mất cân bằng. Thay vào đó, nghiên cứu tập trung vào các chỉ số như F1-Score và đường cong ROC-AUC. F1-Score là trung bình điều hòa của Precision và Recall, cung cấp một cái nhìn cân bằng về hiệu suất của mô hình. Một F1-Score cao cho thấy mô hình vừa chính xác trong các dự đoán "rời bỏ" (Precision cao), vừa có khả năng phát hiện hầu hết các trường hợp rời bỏ thực tế (Recall cao). Đường cong ROC (Receiver Operating Characteristic) biểu diễn khả năng phân loại của mô hình ở mọi ngưỡng quyết định, với diện tích dưới đường cong (AUC - Area Under the Curve) là thước đo tổng thể về khả năng phân biệt giữa hai lớp. Một mô hình có AUC càng gần 1 thì khả năng phân biệt càng tốt. Kết quả thực nghiệm trong nghiên cứu của Nguyễn Tuấn Minh (2024) rất ấn tượng: sau khi áp dụng SMOTE và tinh chỉnh tham số, mô hình Random Forest for churn đạt F1-Score 0.917 và AUC lên tới 0.98. Con số này khẳng định mô hình có năng lực dự báo gần như hoàn hảo, là một công cụ đáng tin cậy để hỗ trợ các chiến lược giữ chân khách hàng ngân hàng.

5.1. Phân tích ma trận nhầm lẫn và chỉ số F1 Score AUC ROC

Ma trận nhầm lẫn (Confusion Matrix) là công cụ cơ bản để đánh giá một mô hình phân loại. Nó cung cấp thông tin chi tiết về các dự đoán đúng (True Positives, True Negatives) và sai (False Positives, False Negatives). Từ ma trận này, các chỉ số như Precision, Recall, và F1-Score được tính toán. Phân tích ma trận nhầm lẫn sau khi áp dụng SMOTE cho thấy sự cải thiện rõ rệt trong việc giảm số lượng False Negatives, tức là giảm thiểu việc bỏ sót khách hàng sắp rời bỏ. Đường cong ROC và chỉ số AUC là tiêu chuẩn vàng để so sánh hiệu suất tổng thể giữa các mô hình khác nhau, độc lập với ngưỡng phân loại được chọn.

5.2. Kết quả thực tiễn Mô hình Random Forest đạt AUC 0.98

Kết quả AUC 0.98 của mô hình Random Forest là một thành tựu nổi bật. Nó có nghĩa là nếu chọn ngẫu nhiên một khách hàng rời bỏ và một khách hàng không rời bỏ, mô hình có 98% khả năng xếp hạng khách hàng rời bỏ có nguy cơ cao hơn. Đây là một mức độ tin cậy rất cao, cho phép ngân hàng tự tin triển khai các hành động can thiệp. Việc tinh chỉnh các siêu tham số như max_depth, min_samples_split, và n_estimators đã góp phần tối ưu hóa hiệu suất, biến mô hình từ một công cụ lý thuyết thành một giải pháp thực tiễn mạnh mẽ cho bài toán customer retention in banking.

VI. Tương lai của AI trong tài chính Giữ chân và tối ưu trải nghiệm

Sự thành công của mô hình dự đoán khách hàng rời bỏ chỉ là bước khởi đầu cho một xu hướng lớn hơn: sự tích hợp sâu rộng của ứng dụng AI trong tài chính. Trong tương lai, các mô hình này sẽ không chỉ dừng lại ở việc dự đoán "có" hoặc "không". Chúng sẽ phát triển để dự đoán lý do tại sao khách hàng rời bỏ và đề xuất những hành động can thiệp được cá nhân hóa cao độ. Ví dụ, AI có thể xác định một khách hàng có nguy cơ rời bỏ do không hài lòng với lãi suất thẻ tín dụng và tự động đề xuất một gói ưu đãi lãi suất phù hợp. Hơn nữa, dữ liệu từ các mô hình churn sẽ là nguồn thông tin quý giá để cải thiện toàn diện trải nghiệm khách hàng (CX). Bằng cách phân tích hành vi khách hàng dẫn đến rời bỏ, các ngân hàng có thể xác định những điểm yếu trong quy trình, sản phẩm hoặc dịch vụ của mình và tiến hành cải tiến. Mục tiêu dài hạn là xây dựng một hệ sinh thái ngân hàng thông minh, nơi AI không chỉ giúp giữ chân khách hàng ngân hàng mà còn chủ động nâng cao sự hài lòng, tối đa hóa giá trị vòng đời khách hàng (CLV) và tạo ra lợi thế cạnh tranh bền vững trong kỷ nguyên số.

6.1. Từ dự đoán đến hành động Chiến lược giữ chân khách hàng tự động

Tương lai của việc giữ chân khách hàng ngân hàng nằm ở khả năng tự động hóa và cá nhân hóa. Các mô hình dự đoán sẽ được tích hợp trực tiếp vào hệ thống CRM (Quản lý quan hệ khách hàng). Khi một khách hàng được gắn cờ "nguy cơ cao", hệ thống có thể tự động kích hoạt một chuỗi hành động: gửi email/SMS với ưu đãi đặc biệt, tạo một tác vụ cho nhân viên chăm sóc khách hàng gọi điện, hoặc hiển thị một thông điệp cá nhân hóa trên ứng dụng mobile banking. Điều này đảm bảo rằng các hành động can thiệp được thực hiện nhanh chóng, nhất quán và đúng thời điểm, tăng tối đa cơ hội giữ chân thành công.

6.2. Nâng cao trải nghiệm khách hàng CX và giá trị vòng đời CLV

Dữ liệu từ mô hình dự đoán churn cung cấp những hiểu biết sâu sắc để nâng cao trải nghiệm khách hàng (CX). Nếu mô hình chỉ ra rằng nhiều khách hàng rời bỏ sau khi gặp sự cố với kênh ngân hàng trực tuyến, đó là một tín hiệu rõ ràng để đầu tư cải thiện nền tảng kỹ thuật số. Bằng cách giải quyết các nguyên nhân gốc rễ gây ra sự không hài lòng, ngân hàng không chỉ giảm tỷ lệ rời bỏ mà còn tạo ra một trải nghiệm tốt hơn cho tất cả khách hàng. Một trải nghiệm tích cực sẽ thúc đẩy lòng trung thành, khuyến khích khách hàng sử dụng nhiều sản phẩm hơn và kéo dài mối quan hệ với ngân hàng, từ đó tối ưu hóa giá trị vòng đời khách hàng (CLV).

Trích đoạn nội dung tài liệu

VIETNAM NATIONAL UNIVERSITY, HANOI INTERNATIONAL SCHOOL GRADUATION PROJECT CUSTOMER CHURN PREDICTION IN BANKING Nguyễn Tuấn Minh - 20070959 Hanoi - Year 2024 VIETNAM NATIONAL UNIVERSITY, HANOI INTERNATIONAL SCHOOL GRADUATION PROJECT CUSTOMER CHURN PREDICTION IN BANKING SUPERVISOR: MS. Hoàng Trọng Tiến STUDENT: Nguyễn Tuấn Minh STUDENT ID: 20070959 COHORT: BDA2020A SUBJECT CODE: INS401101 MAJOR: BUSINESS DATA ANALYTICS Hanoi - Year 2024 2 Ackowledgement I would like to express my sincere gratitude to Mr. Hoang Trong Tien, MSc, who has dedicated his time and expertise to guide and support me throughout the research and writing process of this dissertation. Tien's profound understanding of the field and his enthusiastic support helped me overcome challenges and develop innovative ideas.

In particular, I want to extend my appreciation for Mr. Tien's professional guidance, insightful feedback, and unwavering encouragement during the research on "Customer Churn Prediction in Banking". His specific instructions and deep knowledge have enabled me to progress and refine this project. Once again, I would like to sincerely thank Mr.

Hoang Trong Tien for his support and dedication throughout this journey. His contributions have not only been a source of strong motivation but also a great inspiration for my personal development. I am truly grateful and proud of the opportunity to learn under his guidance. 3 Statement of Authenticity I, Nguyen Tuan Minh, a student of the BDA2020A class specializing in Business Data Analytics, hereby declare that the dissertation titled [Insert Title of Your Dissertation] is the result of my own work.

I confirm that all the ideas, analyses, conclusions, and any other contributions presented in this dissertation are entirely my own, unless explicitly stated otherwise. Any sources of information or assistance utilized in the research process have been properly acknowledged and cited. I affirm that this dissertation has not been submitted for any other academic qualification, and it has not been previously published in any form. I take full responsibility for the authenticity of the content presented in this dissertation and acknowledge that any attempt to present someone else's work as my own would constitute academic dishonesty.

4 Table of Contents Ackowledgement. 3 Statement of Authenticity. Exploratory Data Analysis. Solution to improve customer retention .1 Transform category variables .2 Applying SMOTE in addressing class imbalance .3 Applying Principal Components Analysis.

Fine tuning model. Results from reordering SMOTE and PCA Application. Abstract The banking sector faces significant challenges due to customer churn, which can lead to substantial revenue loss and increased marketing costs. This thesis explores the application of machine learning models to predict customer churn in the banking industry, aiming to aid in the retention strategies by early identification of potential churners.

We investigate four widely used algorithms: Random Forest, Support Vector Machine (SVM), AdaBoost, and Decision Tree, to evaluate their effectiveness in this context. Our study conducts a comprehensive comparison of these models using a dataset from a banking institution, processed through techniques including data cleaning, feature engineering, and normalization. The performance of the models is assessed based on accuracy, precision, recall, and F1 scores, with further insights drawn from the ROC curve analysis. Initial results indicate that ensemble methods, particularly Random Forest and Decision Tree, show promising results in handling imbalanced data, characteristic of churn prediction scenarios.

This research contributes to the strategic deployment of analytical tools in banking, enhancing customer retention efforts. Introduction Customer churn, defined as the propensity of customers to cease their business relationship with a financial institution, poses a critical challenge in the competitive banking sector. Effective prediction and management of customer churn are vital for maintaining profitability and sustaining long-term growth. The advent of machine learning offers potent tools for identifying patterns and predictors of churn, enabling preemptive action.

This thesis introduces a detailed analytical study that employs four distinct predictive models to address the problem of customer churn in banking: Random Forest, SVM, AdaBoost, and Decision Tree. Each of these models has unique strengths and computational characteristics that may contribute differently to the detection of potential churners. The Random Forest and AdaBoost, both ensemble learning methods, are anticipated to perform robustly against the dataset's inherent class imbalance. In contrast, SVM and Decision Tree provide distinct methodological 6 approaches that may offer valuable insights into the linear separability and hierarchical structure of the churn predictors.

Our research methodology encompasses several stages, beginning with the acquisition of a real-world dataset from a banking institution followed by rigorous preprocessing to ensure data quality and relevance. Feature engineering, a critical step in enhancing model performance, focuses on identifying key attributes that influence churn, such as transaction behavior, product usage, and customer demographics. The primary objective of this study is to compare the predictive accuracy of the four models and identify the most effective approach for churn prediction in banking. By doing so, the research aims to contribute to the development of targeted strategies for customer retention, thereby helping banks reduce churn rates and improve overall customer relationship management.

Moreover, the findings are expected to provide a benchmark for financial institutions in selecting and deploying machine learning models for churn prediction and other predictive analytics applications. Algorithms Classification algorithms are highly effective for predicting customer churn, which is crucial for businesses looking to maintain a consistent customer base. These algorithms segment individuals into distinct categories, such as 'likely to churn' versus 'unlikely to churn,' based on observed patterns in historical data. A study noted in the Journal of Business Research by Vafeiadis et al.

2015, underscores the proficiency of methods like decision trees, logistic regression, and support vector machines in predicting churn. These techniques delve into various customer attributes, from usage frequencies to satisfaction metrics and demographic information. The real power of classification algorithms comes from their capacity to manage vast datasets and decode the intricate, nonlinear relationships between customer traits and their propensity to churn. Logistic regression, for instance, quantifies the likelihood 7 of a customer leaving, providing a solid basis for risk assessment.

Decision trees, on the other hand, map out the most significant factors leading to churn, such as frequent complaints or particular issues with billing, offering straightforward and practical insights. Moreover, these algorithms help in crafting focused retention strategies by pinpointing customers who are at a higher risk of leaving. Companies can use this information to create customized measures that boost customer satisfaction and loyalty, thereby diminishing churn rates. Ultimately, the predictive strength of classification models not only aids in enhancing customer retention but also bolsters overall business strategy and resource management.

Decision Tree In the landscape of machine learning algorithms, decision trees stand out for their intuitive logic and simplicity. Particularly in classification tasks, decision trees offer a practical and effective approach to sorting data into predefined categories based on their attributes. A decision tree is a model that predicts the value of a target variable by learning simple decision rules inferred from data features. For classification, these trees are structured to efficiently partition the data space into segments that correspond to distinct classes.

The construction of a decision tree starts at the root node and involves recursive splitting of the data. At each node, the algorithm selects the attribute that best divides the dataset into subsets enriched in one class or another. This selection is based on criteria such as Gini impurity or entropy, which measure the homogeneity of the target variable within the subsets. The Gini impurity is a measure used in decision trees, particularly in the Classification and Regression Trees (CART) methodology, to determine how a dataset should be split.

It quantifies the disorder or the impurity within a dataset regarding the classification. 𝑘: The number of different classes in dataset (𝐷). 8 𝑝𝑖 : The probability of an object being classified to a specific class 𝑖. This is calculated as the number of elements of class 𝑖 divided by the total number of elements in dataset (𝐷).

Each 𝑝𝑖 represents the probability of randomly picking an element from the dataset (𝐷) that belongs to class 𝑖. For example, if dataset DDD consists of 100 elements with 50 elements from class 1 and 50 from class 2, then 𝑝1 = 0. Each of these probabilities 𝑝𝑖 is squared. Squaring the probabilities, which range from 0 to 1, makes the distribution steeper, increasing the penalty for high uncertainty (where class probabilities are similar, e.

𝑘 The sum of these squared probabilities 𝛴𝑖=1 𝑝𝑖2 gives a measure of how "pure" the dataset is. If all elements belong to a single class, say all 100 elements are from class 1 (𝑝1 = 1 and 𝑝2 = 0), the sum of squares will be 1, indicating perfect purity. The Gini impurity is then calculated by subtracting this sum from 1. This subtraction reverses the scale, where 0 now represents perfect purity (no impurity), and values closer to 1 represent higher impurity.

In the example (𝑝1 = 𝑝2 = 0.5), the Gini impurity will be 0.5, indicating a dataset with maximum impurity. The Gini impurity is crucial in building decision trees because it is used to decide which features (and the corresponding splits) most effectively reduce uncertainty about the target variable. At each node in the tree, the feature that results in the lowest Gini impurity (post-split) is chosen to split the dataset further. This step is repeated recursively until the tree adequately classifies the data or meets another stopping criterion.

By minimizing the Gini impurity, the decision tree aims to increase the homogeneity of the subsets produced by each split, which can enhance the overall accuracy of the classification model. The formula for entropy in the context of decision trees is a crucial component for understanding the level of disorder or uncertainty in a dataset. It's defined mathematically as: 𝑘 𝐸𝑛𝑡𝑟𝑜𝑝𝑦(𝐷) = 1 − 𝛴𝑖=1 𝑝𝑖 𝑙𝑜𝑔2 𝑝𝑖 where: 9 (𝐷): This represents the dataset for which the entropy is being calculated (𝐷). 𝑘: This is the number of different classes into which the data points in (𝐷)can be categorized.

𝑝𝑖 : This denotes the probability of an element belonging to the ith class in the dataset. It is calculated by dividing the number of elements in class 𝑖 by the total number of elements in the dataset (𝐷). 𝑙𝑜𝑔2 𝑝𝑖 : This is the logarithm base 2 of 𝑝𝑖. The use of logarithm base 2 is traditional in information theory because it measures the information content in bits.

Entropy is used to measure the impurity or randomness in the dataset. A higher entropy value means the data is more mixed (less pure), indicating higher uncertainty or randomness. Conversely, an entropy of 0 means all elements are of the same class, indicating no uncertainty or complete purity. Information gain is derived from the concept of entropy.

It is used to decide which feature (attribute) to split on at each step in the tree. The formula for information gain IG when splitting dataset D on a feature A is: 𝑚 |𝐷𝑗 | 𝐼𝐺(𝐷, 𝐴) = 𝐸𝑛𝑡𝑟𝑜𝑝𝑦(𝐷) − 𝛴𝑗=1 𝐸𝑛𝑡𝑟𝑜𝑝𝑦(𝐷𝑗 ) |𝐷 | where: 𝐷𝑗 : These are the subsets of 𝐷 after splitting by feature 𝐴. |𝐷𝑗 | : This is the proportion of the number of elements in subset 𝐷𝑗 to the total number |𝐷 | of elements in 𝐷, serving as a weight for the entropy of each subset. In decision trees, the attribute that achieves the highest information gain is selected for the split.

This is because it most effectively reduces the uncertainty and disorder among the split groups. Employing entropy and information gain to direct the splitting process allows the decision tree to progressively organize the data into more uniform, less chaotic groups. Each division aims to lower the entropy, enhancing the precision and effectiveness of the model as it more accurately classifies the data. Random Forest Random forests represent a sophisticated ensemble learning technique that substantially improves upon the limitations of single decision trees by integrating 10 multiple trees to make more accurate predictions and to achieve greater generalization.