Ứng dụng phần mềm KNIME và thuật toán phân lớp trong dự đoán khách hàng rời bỏ dịch vụ ngân hàng

Khám phá ứng dụng phần mềm KNIME và thuật toán phân lớp trong dự đoán khách hàng rời bỏ dịch vụ ngân hàng. Tối ưu hóa chiến lược kinh doanh.

• Tác giả: Đoàn Thu Trang
• Người hướng dẫn: TS. Nguyễn Hữu Xuân
• Trường học: Học viện Chính sách và Phát triển
• Chuyên ngành: Phân tích dữ liệu lớn trong kinh tế và kinh doanh
• Đề tài: Dự đoán khách hàng rời bỏ ngân hàng bằng KNIME và thuật toán phân lớp
• Loại tài liệu: khóa luận tốt nghiệp
• Năm xuất bản: 2023
• Địa điểm: Hà Nội

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• 1. CHƯƠNG 1: CƠ SỞ LÝ LUẬN VỀ KHAI PHÁ TRI THỨC
• 1.1. Khám phá tri thức và khai phá dữ liệu
• 1.2. Qúa trình hình thành khám phá tri thức và khai phá dữ liệu
• 1.3. Các ứng dụng của khai phá dữ liệu
• 1.4. Các phương pháp khai phá dữ liệu
• 1.5. Lợi ích của khai phá dữ liệu. Những thách thức đối với khai phá dữ liệu
• 2. CHƯƠNG 2: GIỚI THIỆU PHẦN MỀM KNIME VÀ CÁC THUẬT TOÁN SỬ DỤNG TRONG DỰ ĐOÁN KHÁCH HÀNG RỜI BỎ NGÂN HÀNG
• 2.1. Phần mềm khai phá dữ liệu KNIME
• 2.1.1. Giới thiệu phần mềm
• 2.1.2. Qúa trình phát triển công cụ KNIME
• 2.1.3. Ưu điểm phần mềm
• 2.1.4. Nhược điểm của phần mềm KNIME
• 2.1.5. Giao diện làm việc của KNIME
• 2.2. Thuật toán Cây quyết định (Decision Tree)
• 2.2.1. Giới thiệu thuật toán
• 2.2.2. Các kiểu cây quyết định
• 2.2.3. Ưu điểm của thuật toán cây quyết định
• 2.2.4. Nhược điểm của thuật toán Cây quyết định
• 2.2.5. Xây dựng thuật toán cây quyết định
• 2.3. Thuật toán Rừng ngẫu nhiên (Random Forest)
• 2.3.1. Giới thiệu thuật toán rừng ngẫu nhiên (Random Forest)
• 2.3.2. Ưu điểm thuật toán Rừng ngẫu nhiên
• 2.3.3. Nhược điểm thuật toán
• 2.3.4. Xây dựng thuật toán rừng ngẫu nhiên
• 2.4. Thuật toán Naïve Bayes
• 2.4.1. Giới thiệu thuật toán Naïve Bayes
• 2.4.2. Ưu điểm thuật toán
• 2.4.3. Nhược điểm thuật toán
• 2.4.4. Ứng dụng thuật toán Naïve Bayes
• 2.5. Thuật toán Logistic Regression
• 2.5.1. Giới thiệu thuật toán Logistic Regression
• 2.5.2. Ưu điểm của thuật toán
• 2.5.3. Nhược điểm của thuật toán
• 2.5.4. Ứng dụng thuật toán Logistic Regression
• 2.6. Phương pháp đánh giá
• 2.6.1. Ma trận nhầm lẫn (Confusion Matrix)
• 3. CHƯƠNG 3: THỰC NGHIỆM VÀ KẾT QUẢ
• 3.1. Tổng quan nghiên cứu
• 3.2. Giới thiệu bài toán
• 3.3. Các nghiên cứu liên quan
• 3.4. Chuẩn bị dữ liệu
• 3.5. Mô tả dữ liệu. Tiền xử lý dữ liệu
• 3.6. Trực quan hóa dữ liệu
• 3.7. Xây dựng mô hình
• 3.7.1. Thuật toán Cây quyết định (Decision Tree)
• 3.7.2. Thuật toán Rừng ngẫu nhiên (Random Forest)
• 3.7.3. Thuật toán Naïve Bayes
• 3.7.4. Thuật toán Logistic Regression
• 3.8. Lựa chọn mô hình
• 3.9. Chạy kiểm mô hình trên tập dữ liệu thật
• 3.10. Đánh giá & Kết luận
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng quan về dự đoán khách hàng rời bỏ ngân hàng bằng KNIME

Dự đoán khách hàng rời bỏ ngân hàng là một vấn đề quan trọng trong ngành ngân hàng hiện đại. Việc sử dụng phần mềm KNIME kết hợp với các thuật toán phân lớp giúp ngân hàng nhận diện và phân tích hành vi của khách hàng. Điều này không chỉ giúp ngân hàng giữ chân khách hàng mà còn tối ưu hóa trải nghiệm dịch vụ. Bài viết này sẽ đi sâu vào các phương pháp và ứng dụng của KNIME trong việc dự đoán khách hàng rời bỏ.

1.1. Khách hàng rời bỏ ngân hàng Thực trạng và nguyên nhân

Khách hàng rời bỏ ngân hàng có thể do nhiều nguyên nhân như dịch vụ kém, lãi suất cao hoặc sự cạnh tranh từ các ngân hàng khác. Việc hiểu rõ nguyên nhân này giúp ngân hàng có chiến lược phù hợp để giữ chân khách hàng.

1.2. Tầm quan trọng của việc dự đoán khách hàng rời bỏ

Dự đoán khách hàng rời bỏ giúp ngân hàng phát hiện sớm các dấu hiệu không hài lòng từ khách hàng. Điều này cho phép ngân hàng có biện pháp kịp thời để cải thiện dịch vụ và tăng cường sự trung thành của khách hàng.

II. Thách thức trong việc dự đoán khách hàng rời bỏ ngân hàng

Mặc dù có nhiều công cụ và phương pháp để dự đoán khách hàng rời bỏ, nhưng vẫn tồn tại nhiều thách thức. Dữ liệu không đầy đủ, sự thay đổi trong hành vi khách hàng và sự phức tạp của các thuật toán là những vấn đề cần được giải quyết. Việc hiểu rõ những thách thức này sẽ giúp ngân hàng có cách tiếp cận hiệu quả hơn.

2.1. Dữ liệu không đầy đủ và chất lượng dữ liệu

Dữ liệu không đầy đủ có thể dẫn đến những dự đoán sai lệch. Ngân hàng cần đảm bảo rằng dữ liệu thu thập được là chính xác và đầy đủ để có thể đưa ra những quyết định đúng đắn.

2.2. Sự thay đổi trong hành vi khách hàng

Hành vi của khách hàng có thể thay đổi theo thời gian do nhiều yếu tố như kinh tế, xã hội. Việc theo dõi và cập nhật thường xuyên các mô hình dự đoán là rất cần thiết để đảm bảo tính chính xác.

III. Phương pháp dự đoán khách hàng rời bỏ bằng KNIME

KNIME là một công cụ mạnh mẽ trong việc phân tích dữ liệu và xây dựng mô hình dự đoán. Phần mềm này cho phép người dùng dễ dàng kết hợp các thuật toán phân lớp để dự đoán khách hàng rời bỏ. Các bước thực hiện bao gồm thu thập dữ liệu, tiền xử lý, xây dựng mô hình và đánh giá kết quả.

3.1. Quy trình sử dụng KNIME trong dự đoán

Quy trình sử dụng KNIME bao gồm các bước như thu thập dữ liệu, tiền xử lý dữ liệu, áp dụng thuật toán phân lớp và đánh giá mô hình. Mỗi bước đều quan trọng để đảm bảo kết quả dự đoán chính xác.

3.2. Các thuật toán phân lớp phổ biến trong KNIME

Một số thuật toán phân lớp phổ biến trong KNIME bao gồm Cây quyết định, Rừng ngẫu nhiên và Naïve Bayes. Mỗi thuật toán có ưu điểm và nhược điểm riêng, phù hợp với từng loại dữ liệu và mục tiêu dự đoán.

IV. Ứng dụng thực tiễn của dự đoán khách hàng rời bỏ ngân hàng

Việc áp dụng các mô hình dự đoán khách hàng rời bỏ không chỉ giúp ngân hàng cải thiện dịch vụ mà còn tăng cường sự trung thành của khách hàng. Các ngân hàng có thể sử dụng kết quả dự đoán để điều chỉnh chiến lược marketing và phát triển sản phẩm phù hợp với nhu cầu của khách hàng.

4.1. Cải thiện dịch vụ khách hàng

Dựa trên các dự đoán, ngân hàng có thể cải thiện dịch vụ khách hàng bằng cách cung cấp các ưu đãi hoặc cải thiện quy trình giao dịch. Điều này giúp tăng cường sự hài lòng và giữ chân khách hàng.

4.2. Tối ưu hóa chiến lược marketing

Kết quả dự đoán có thể giúp ngân hàng xác định nhóm khách hàng có nguy cơ rời bỏ cao, từ đó điều chỉnh chiến lược marketing để thu hút và giữ chân họ.

V. Kết luận và tương lai của dự đoán khách hàng rời bỏ ngân hàng

Dự đoán khách hàng rời bỏ ngân hàng bằng KNIME và các thuật toán phân lớp là một công cụ hữu ích trong việc quản lý quan hệ khách hàng. Tương lai của lĩnh vực này sẽ tiếp tục phát triển với sự tiến bộ của công nghệ và dữ liệu lớn, giúp ngân hàng ngày càng chính xác hơn trong việc dự đoán và phục vụ khách hàng.

5.1. Xu hướng phát triển trong dự đoán khách hàng

Với sự phát triển của công nghệ, các mô hình dự đoán sẽ ngày càng chính xác hơn. Ngân hàng cần cập nhật thường xuyên các công nghệ mới để cải thiện khả năng dự đoán.

5.2. Tầm quan trọng của dữ liệu lớn trong dự đoán

Dữ liệu lớn sẽ đóng vai trò quan trọng trong việc cải thiện các mô hình dự đoán. Ngân hàng cần đầu tư vào công nghệ và phương pháp thu thập dữ liệu để tối ưu hóa quy trình dự đoán.

Nội dung chính

Bối cảnh và vấn đề nghiên cứu

Trong bối cảnh bùng nổ công nghệ thông tin và chuyển đổi số, lượng dữ liệu sinh ra từ các hoạt động sản xuất, kinh doanh và quản lý kinh tế – xã hội tăng trưởng theo cấp số nhân. Thống kê toàn cầu cho thấy dung lượng dữ liệu lưu trữ đã tăng từ 800.000 Petabyte (năm 2000) lên 0,1 Zettabyte trên Internet, đạt 79 Zettabyte vào năm 2021 và dự báo vượt 150 Zettabyte vào năm 2025. Sự gia tăng khối lượng dữ liệu khổng lồ này đặt ra yêu cầu cấp thiết về việc ứng dụng các kỹ thuật khai phá dữ liệu (Data Mining) và học máy (Machine Learning) nhằm tự động chuyển hóa dữ liệu thô thành tri thức hữu ích hỗ trợ công tác ra quyết định.

Đối với ngành ngân hàng thương mại, quản trị quan hệ khách hàng (CRM) là một trong những ưu tiên hàng đầu trong môi trường cạnh tranh khốc liệt. Khách hàng rời bỏ dịch vụ (Customer Churn) – tức hành vi đóng tài khoản hoặc ngừng toàn bộ giao dịch – gây tổn thất trực tiếp đến thị phần và doanh thu của tổ chức tín dụng. Việc xác định sớm các dấu hiệu dịch chuyển của khách hàng và phân tích nguyên nhân gốc rễ giúp ngân hàng kịp thời đưa ra các giải pháp giữ chân khách hàng hiệu quả và tối ưu hóa chi phí tiếp thị. Khóa luận tốt nghiệp của tác giả Đoàn Thu Trang tập trung giải quyết bài toán này thông qua đề tài: "Ứng dụng phần mềm KNIME kết hợp thuật toán phân lớp trong dự đoán khách hàng rời bỏ dịch vụ ngân hàng".

Mục tiêu và nhiệm vụ nghiên cứu:

1. Về mặt lý thuyết: Nghiên cứu hệ thống cơ sở lý thuyết về quy trình khám phá tri thức trong cơ sở dữ liệu (KDD), công cụ phân tích dữ liệu trực quan KNIME Analytics Platform, và các thuật toán học máy phân lớp; nắm vững các kỹ thuật tiền xử lý dữ liệu thực nghiệm và phương pháp đánh giá hiệu năng mô hình.
2. Về mặt thực tiễn và đối tượng: Làm chủ các nút chức năng (nodes) và thư viện trong phần mềm KNIME; xây dựng, huấn luyện và so sánh các mô hình phân lớp gồm Cây quyết định (Decision Tree), Rừng ngẫu nhiên (Random Forest), Naïve Bayes và Hồi quy Logistic (Logistic Regression) để dự đoán xu hướng rời bỏ của khách hàng; từ các phát hiện dữ liệu (insights), đề xuất các giải pháp tối ưu cho hoạt động tiếp thị và giữ chân khách hàng của hệ thống ngân hàng thương mại.

Đối tượng và phạm vi nghiên cứu:

• Đối tượng nghiên cứu: Ứng dụng công cụ KNIME và các thuật toán phân lớp học máy trong việc xây dựng quy trình dự đoán khách hàng rời bỏ dịch vụ ngân hàng.
• Phạm vi dữ liệu và không gian: Sử dụng bộ dữ liệu mô phỏng Churn_Modelling.csv được thu thập từ nền tảng Kaggle (tải ngày 05/03/2023). Bộ dữ liệu phản ánh thông tin nhân khẩu học và hoạt động tài khoản của 10.000 khách hàng tại ba thị trường châu Âu gồm Tây Ban Nha (Spain), Pháp (France) và Đức (Germany).

---

Cơ sở lý thuyết và phương pháp

Khóa luận thiết lập nền tảng nghiên cứu dựa trên quy trình khám phá tri thức từ cơ sở dữ liệu (Knowledge Discovery in Databases – KDD) chuẩn 5 bước và các mô hình học máy có giám sát (Supervised Learning).

Khung lý thuyết và mô hình tiếp cận:

• Quy trình KDD 5 bước: (1) Tìm hiểu lĩnh vực ứng dụng và xác định bài toán; (2) Thu thập và tiền xử lý dữ liệu; (3) Khai phá dữ liệu (áp dụng thuật toán); (4) Thể hiện tri thức phát hiện được; (5) Sử dụng tri thức trong thực tế.
• Các kỹ thuật khai phá dữ liệu nền tảng: Luật kết hợp (Association Rules), Phân loại (Classification), Phân cụm (Clustering), Dự báo (Forecasting/Prediction), Cây quyết định (Decision Trees) và Kỹ thuật tổ hợp mô hình (Ensemble methods).
• Nền tảng công nghệ KNIME: KNIME Analytics Platform – công cụ mã nguồn mở dựa trên mô hình lập trình trực quan luồng công việc (Visual Workflow / "Lego of Analytics") kết nối dữ liệu qua các khối chức năng (nodes).
• Bốn thuật toán phân lớp nghiên cứu:
  1. Cây quyết định (Decision Tree): Phân chia tập dữ liệu đệ quy dựa trên các tiêu chí phân tách thuộc tính (như Information Gain, Gain Ratio, Gini Index).
  2. Rừng ngẫu nhiên (Random Forest - Breiman, 2001): Phương pháp tập hợp (ensemble) kết hợp nhiều cây quyết định độc lập trên các tập con dữ liệu ngẫu nhiên, tổng hợp kết quả bằng cơ chế bỏ phiếu đa số.
  3. Bộ phân lớp Naïve Bayes: Dựa trên định lý xác suất Bayes với giả định các biến độc lập có điều kiện, kết hợp kỹ thuật làm mịn Laplace (Laplace smoothing) để xử lý xác suất bằng 0.
  4. Hồi quy Logistic (Logistic Regression): Mô hình hóa xác suất biến phụ thuộc nhị phân thông qua hàm logit.

Phương pháp nghiên cứu và xử lý dữ liệu:

• Phương pháp thu thập và thống kê mô tả: Sử dụng node Statistics() trong KNIME để tính toán giá trị tối thiểu, tối đa, trung bình, độ lệch chuẩn, phương sai, tần suất giá trị danh nghĩa và kiểm tra dữ liệu khuyết thiếu.
• Kỹ thuật xử lý mất cân bằng dữ liệu (Class Imbalance): Phương pháp kết hợp lấy mẫu quá mức và giảm mẫu SMOTE Tomek (SMOTE Tomek link).
• Đánh giá hiệu năng mô hình: Sử dụng Ma trận nhầm lẫn (Confusion Matrix) với các chỉ số Độ chính xác (Accuracy), Độ chuẩn xác (Precision), Độ thu hồi (Recall), Điểm F1 (F1-score) và Đường cong đặc tính hoạt động máy thu cùng Diện tích dưới đường cong (ROC-AUC, TPR/FPR).
• Đóng gói và triển khai mô hình: Sử dụng chuẩn ngôn ngữ đánh dấu mô hình dự đoán PMML (Predictive Model Markup Language) thông qua các node PMML Writer và PMML Reader.

---

Nội dung chính theo từng chương

Chương 1: Cơ sở lý luận về khai phá tri thức

Chương 1 hệ thống hóa các khái niệm khoa học về khám phá tri thức và khai phá dữ liệu. Tác giả chỉ rõ khai phá dữ liệu là bước trọng tâm của tiến trình KDD, sử dụng các thuật toán chuyên dụng để trích xuất những mẫu và tri thức tiềm ẩn, chưa biết trước và có giá trị thực tiễn.

Chương này trình bày chi tiết quy trình KDD 5 bước cùng các lĩnh vực ứng dụng điển hình của khai phá dữ liệu trong đời sống kinh tế – xã hội như: hỗ trợ tự động hóa sản xuất, quản trị tài chính – ngân hàng (phát hiện gian lận giao dịch, phân tích rủi ro tín dụng), y tế (chẩn đoán hình ảnh, điều trị cá nhân hóa), bán lẻ (hệ thống gợi ý, tối ưu hóa giá) và vận tải. Bên cạnh các lợi ích kinh tế (giảm thiểu chi phí tiếp thị, nâng cao giá trị vòng đời khách hàng), tác giả phân tích các thách thức kỹ thuật lớn trong khai phá dữ liệu gồm: xử lý cơ sở dữ liệu quy mô cực lớn (Big Data), chiều dữ liệu cao (High Dimensionality), hiện tượng quá khớp (Overfitting), dữ liệu động bị thay đổi theo thời gian, dữ liệu nhiễu và khuyết thiếu, cùng tính trực quan, dễ hiểu của mẫu tri thức đối với người ra quyết định.

Chương 2: Giới thiệu phần mềm KNIME và các thuật toán sử dụng trong dự đoán khách hàng rời bỏ ngân hàng

Chương 2 giới thiệu tổng quan về lịch sử phát triển của KNIME từ năm 2004 tại Đại học Konstanz (do Michael Berthold khởi xướng), chính thức ra mắt năm 2006, đến nay hỗ trợ hơn 1.000 mô-đun phân tích. Tác giả phân biệt hai dòng sản phẩm chính là KNIME Analytics Platform (môi trường thiết kế luồng dữ liệu mở) và KNIME Server (nền tảng doanh nghiệp phục vụ triển khai, cộng tác và tự động hóa). Giao diện phần mềm được phân tích theo 7 khu vực chức năng: KNIME Explorer, Workflow Coach, Node Repository, Outline, Description, Node Monitor và Console.

Tiếp đó, chương luận giải chi tiết nguyên lý toán học, ưu nhược điểm và phạm vi ứng dụng của bốn thuật toán phân lớp được lựa chọn:

• Decision Tree: Mô hình trực quan, dễ diễn giải nhưng dễ mất ổn định trước biến động nhỏ của dữ liệu.
• Random Forest: Khả năng khái quát hóa vượt trội, kiểm soát tốt hiện tượng quá khớp nhưng tiêu tốn tài nguyên tính toán và có cấu trúc phức tạp dạng hộp đen.
• Naïve Bayes: Tốc độ tính toán nhanh, phù hợp bài toán thời gian thực nhưng chịu ràng buộc nghiêm ngặt bởi giả định độc lập giữa các thuộc tính.
• Logistic Regression: Phù hợp dữ liệu phân tách tuyến tính, cung cấp trọng số ảnh hưởng của từng biến nhưng hạn chế trong việc nhận diện các mối quan hệ phi tuyến tính phức tạp.

Chương 2 khép lại bằng việc thiết lập các công thức toán học cho khung đánh giá mô hình, bao gồm Ma trận nhầm lẫn (TP, TN, FP, FN), các chỉ số Accuracy, Precision, Recall, F1-score và đường cong ROC-AUC.

Chương 3: Thực nghiệm và kết quả

Chương 3 là phần thực nghiệm trung tâm của khóa luận. Tác giả tiến hành lược khảo các công trình nghiên cứu quốc tế liên quan (Praveen Lalwani et al., 2021 trong ngành viễn thông; Amgad Muneer et al., 2022 trong ngành ngân hàng; Rajeev Kumar Gupta et al. về dự đoán rời bỏ thẻ tín dụng bằng AutoML).

Quy trình chuẩn bị và khám phá dữ liệu (EDA): Bộ dữ liệu gồm 10.000 dòng và 14 thuộc tính:

• Đặc điểm nhân khẩu học: Gender (Giới tính), Age (Độ tuổi), Geography (Quốc gia: Spain, France, Germany), EstimatedSalary (Mức lương ước tính).
• Dữ liệu tài khoản & giao dịch: Balance (Số dư tài khoản), CreditScore (Điểm tín dụng), HasCrCard (Có thẻ tín dụng hay không).
• Dữ liệu tương tác: IsActiveMember (Thành viên tích cực), Tenure (Số năm gắn bó), NumOfProducts (Số lượng sản phẩm sử dụng).
• Biến mục tiêu: Exited (1 nếu đã rời bỏ ngân hàng, 0 nếu vẫn đang sử dụng dịch vụ).

Tên trường dữ liệu	Kiểu dữ liệu	Ý nghĩa nghiệp vụ
RowNumber	Số nguyên	Số thứ tự dòng (loại bỏ)
CustomerId	Số nguyên	Mã định danh khách hàng (loại bỏ)
Surname	Chuỗi ký tự	Họ của khách hàng (loại bỏ)
CreditScore	Số nguyên	Điểm tín dụng khách hàng
Geography	Chuỗi danh nghĩa	Vị trí địa lý (Pháp, Tây Ban Nha, Đức)
Gender	Chuỗi danh nghĩa	Giới tính (Nam / Nữ)
Age	Số nguyên	Độ tuổi khách hàng
Tenure	Số nguyên	Thời gian gắn bó với ngân hàng (năm)
Balance	Số thực	Số dư tài khoản hiện tại
NumOfProducts	Số nguyên	Số lượng sản phẩm ngân hàng đã đăng ký
HasCrCard	Nhị phân (1/0)	Trạng thái sở hữu thẻ tín dụng
IsActiveMember	Nhị phân (1/0)	Trạng thái hoạt động tích cực của khách hàng
EstimatedSalary	Số thực	Thu nhập/lương ước tính hàng năm
Exited	Nhị phân (1/0)	Biến mục tiêu dự đoán rời bỏ (Target)

Các bước tiền xử lý và xây dựng mô hình trong KNIME:

1. Chuyển đổi kiểu dữ liệu: Sử dụng node Number To String chuyển trường biến mục tiêu Exited từ kiểu số nguyên sang chuỗi ký tự để phù hợp bài toán phân lớp.
2. Lọc bỏ thuộc tính phi dự báo: Sử dụng node Column Filter loại bỏ 3 cột RowNumber, CustomerId và Surname nhằm tránh gây nhiễu mô hình.
3. Trực quan hóa dữ liệu: Phân tích mối tương quan giữa biến mục tiêu Exited và các thuộc tính khác. Kết quả chỉ ra nhóm khách hàng có độ tuổi cao hơn (khoảng 40-50 tuổi), khách hàng tại thị trường Đức, khách hàng có số dư tài khoản cao nhưng chỉ sử dụng 1 sản phẩm hoặc không hoạt động tích cực (IsActiveMember = 0) có tỷ lệ rời bỏ cao vượt trội.
4. Cân bằng dữ liệu: Áp dụng kỹ thuật SMOTE Tomek để xử lý tình trạng chênh lệch tỷ lệ giữa lớp khách hàng ở lại (0) và khách hàng rời bỏ (1).
5. Huấn luyện và so sánh 4 mô hình: Xây dựng các luồng thực thi cho Decision Tree, Random Forest, Naïve Bayes và Logistic Regression.
6. Lưu trữ và kiểm định: Xuất mô hình tối ưu sang định dạng PMML và chạy kiểm định trên tập dữ liệu kiểm tra thực tế.

---

Kết quả và đóng góp

1. Kết quả thực nghiệm mô hình

Khóa luận đã so sánh định lượng hiệu năng của 4 mô hình phân lớp trên tập dữ liệu thực nghiệm thông qua các chỉ số đo lường chuẩn hóa:

Thuật toán / Mô hình	Độ chính xác (Accuracy)	Precision	Recall	F1-Score	ROC-AUC
Random Forest	Cao nhất	Tối ưu	Tối ưu	Tối ưu	Cao nhất
Decision Tree	Khá	Trung bình	Khá	Trung bình	Khá
Logistic Regression	Trung bình	Khá	Thấp	Thấp	Trung bình
Naïve Bayes	Thấp	Thấp	Khá	Thấp	Thấp

Mô hình Rừng ngẫu nhiên (Random Forest) kết hợp với kỹ thuật cân bằng dữ liệu SMOTE Tomek mang lại hiệu năng dự đoán toàn diện vượt trội so với Decision Tree, Logistic Regression và Naïve Bayes. Đường cong ROC và diện tích dưới đường cong (AUC) của Random Forest tiệm cận mức phân loại lý tưởng nhất trên tập kiểm định.

2. Giải pháp và kiến nghị quản trị

Dựa trên các phân tích tương quan và kết quả dự báo, tác giả đề xuất một số giải pháp nghiệp vụ trọng tâm cho ngân hàng thương mại:

• Chính sách lãi suất và số dư tài khoản: Thiết kế các gói ưu đãi tăng lãi suất bậc thang hoặc tặng quà tích điểm cho nhóm khách hàng duy trì số dư tài khoản tiền gửi thanh toán cao nhằm hạn chế xu hướng chuyển dịch dòng tiền sang ngân hàng đối thủ.
• Tối ưu hóa danh mục sản phẩm (Cross-selling): Khách hàng sử dụng từ 2 sản phẩm trở lên có tỷ lệ gắn kết cao hơn; ngân hàng cần đẩy mạnh bán chéo các sản phẩm bảo hiểm liên kết, thẻ tín dụng hoặc gói tài chính gia đình cho các khách hàng hiện mới chỉ mở 1 tài khoản đơn lẻ.
• Cá nhân hóa chăm sóc khách hàng theo nhân khẩu học: Tập trung các chiến dịch chăm sóc khách hàng đặc biệt đối với phân khúc trung niên (nhóm tuổi có tỷ lệ rời bỏ cao) và phân khúc thị trường có độ nhạy cảm cao về dịch vụ.
• Gia tăng tương tác số: Kích hoạt các chương trình tương tác thường xuyên trên ứng dụng ngân hàng số đối với nhóm tài khoản thụ động (IsActiveMember = 0).

3. Đóng góp của đề tài

• Về phương diện kỹ thuật dữ liệu: Xây dựng hoàn chỉnh quy trình phân tích và dự đoán rời bỏ khách hàng (End-to-End Data Pipeline) trên nền tảng trực quan mã nguồn mở KNIME mà không đòi hỏi viết mã phức tạp, giúp các chuyên viên phân tích kinh doanh (Business Analysts) dễ dàng tiếp cận.
• Về phương diện ứng dụng kinh tế: Chứng minh tính khả thi của việc kết hợp kỹ thuật tiền xử lý cân bằng mẫu SMOTE Tomek với thuật toán học máy trong việc nhận diện sớm khách hàng có nguy cơ rời bỏ dịch vụ tài chính.

---

Hạn chế và hướng nghiên cứu tiếp

• Hạn chế về dữ liệu: Nghiên cứu thực hiện trên bộ dữ liệu thứ cấp mô phỏng Churn_Modelling.csv từ Kaggle (10.000 bản ghi tại 3 quốc gia châu Âu) do quy định bảo mật thông tin tài khoản ngân hàng không cho phép tiếp cận dữ liệu giao dịch thực tế tại Việt Nam. Do đó, một số đặc trưng văn hóa và hành vi tiêu dùng có thể chưa phản ánh đầy đủ bối cảnh khách hàng ngân hàng nội địa.
• Hạn chế về thuật toán: Khóa luận mới khảo sát bốn thuật toán phân lớp cơ bản (Decision Tree, Random Forest, Naïve Bayes, Logistic Regression) và chưa mở rộng sang các mô hình tăng cường độ dốc nâng cao (như XGBoost, LightGBM, CatBoost) hoặc các công cụ học máy tự động (AutoML).
• Hướng nghiên cứu tiếp: Mở rộng tích hợp các luồng dữ liệu thời gian thực (Real-time Streaming Data) trong KNIME và thử nghiệm các mô hình học sâu (Deep Learning) hoặc thuật toán Boosting nhằm nâng cao hơn nữa độ chính xác dự báo trên các tập dữ liệu giao dịch ngân hàng quy mô lớn.

---

Giá trị tham khảo

Khóa luận là tài liệu tham khảo hữu ích cho:

1. Sinh viên và giảng viên các ngành Phân tích dữ liệu, Kinh tế số, Hệ thống thông tin quản lý, FinTech, Ngân hàng: Cung cấp tài liệu mẫu về cấu trúc một nghiên cứu ứng dụng khai phá dữ liệu trong kinh tế, phương pháp thiết lập bài toán phân lớp và cách diễn giải các chỉ số đánh giá học máy.
2. Chuyên viên phân tích dữ liệu và quản trị quan hệ khách hàng (CRM/BI Analysts) tại các tổ chức tín dụng: Tham khảo quy trình xây dựng luồng làm việc thực tế trên KNIME Analytics Platform để tiền xử lý dữ liệu khách hàng, xử lý mẫu mất cân bằng và xuất mô hình dự báo sang định dạng PMML phục vụ triển khai nghiệp vụ.

---

Câu hỏi thường gặp

1. Biến mục tiêu trong bài toán dự đoán rời bỏ khách hàng của khóa luận là gì? Biến mục tiêu là Exited, một biến nhị phân mang giá trị 1 nếu khách hàng đã rời bỏ ngân hàng (đóng tài khoản/ngừng giao dịch) và nhận giá trị 0 nếu khách hàng vẫn duy trì sử dụng dịch vụ.

2. Tại sao tác giả phải loại bỏ ba trường RowNumber, CustomerId và Surname trong bước tiền xử lý? Ba trường dữ liệu này là các thông tin định danh cá nhân mang tính duy nhất cho từng bản ghi, không mang tính quy luật hoặc giá trị thống kê để dự đoán hành vi khách hàng. Việc loại bỏ chúng thông qua node Column Filter giúp giảm chiều dữ liệu và tránh làm nhiễu mô hình học máy.

3. Khóa luận sử dụng giải pháp kỹ thuật nào để xử lý vấn đề dữ liệu mất cân bằng lớp? Khóa luận áp dụng phương pháp kết hợp lấy mẫu quá mức cho lớp thiểu số và loại bỏ liên kết ngoại lai Tomek (kỹ thuật SMOTE Tomek) để tái cân bằng phân phối giữa lớp khách hàng ở lại và khách hàng rời bỏ trước khi đưa vào huấn luyện mô hình.

4. Vì sao tác giả lựa chọn phần mềm KNIME để thực nghiệm thay vì viết mã lập trình thuần? KNIME Analytics Platform là công cụ phân tích dữ liệu trực quan theo cơ chế kéo thả các mô-đun (nodes), hỗ trợ hơn 1.000 mô-đun phân tích, cho phép tích hợp toàn diện từ khâu tiền xử lý, trực quan hóa, huấn luyện học máy đến đóng gói mô hình (PMML) mà không yêu cầu viết mã lệnh phức tạp, giúp tối ưu hóa thời gian triển khai trong môi trường kinh doanh.

5. Kết quả so sánh giữa bốn thuật toán phân lớp cho thấy mô hình nào đạt hiệu năng tốt nhất? Mô hình Rừng ngẫu nhiên (Random Forest) đạt hiệu quả dự đoán cao nhất về các chỉ số độ chính xác (Accuracy), F1-score và diện tích dưới đường cong ROC-AUC, vượt trội hơn so với Cây quyết định (Decision Tree), Naïve Bayes và Hồi quy Logistic (Logistic Regression).

---

Kết luận

Khóa luận tốt nghiệp của tác giả Đoàn Thu Trang đã hoàn thành mục tiêu nghiên cứu về việc ứng dụng công cụ KNIME kết hợp các thuật toán học máy phân lớp để giải quyết bài toán dự đoán khách hàng rời bỏ dịch vụ ngân hàng. Bằng việc thực nghiệm trên tập dữ liệu 10.000 khách hàng và so sánh bốn thuật toán phân lớp, công trình đã khẳng định tính vượt trội của mô hình Random Forest sau khi xử lý cân bằng dữ liệu bằng SMOTE Tomek. Các phân tích tương quan nhân khẩu học và hoạt động tài khoản cung cấp luận cứ thực tiễn quan trọng giúp các nhà quản trị ngân hàng thương mại hoạch định chính sách giữ chân khách hàng và tối ưu hóa hiệu quả kinh doanh.

Trích đoạn nội dung tài liệu

CHƯƠNG 1: CƠ SỞ LÝ LUẬN VỀ KHAI PHÁ TRI THỨC 1. Khám phá tri thức và khai phá dữ liệu “Khám phá tri thức là quá trình tìm ra những tri thức, đó là những mẫu tìm ẩm, trước đó chưa biết và là thông tin hữu ích đáng tin cậy”. Còn khai phá dữ liệu là một bước quan trọng trong quá trình khám phá tri thức, sử dụng các thuật toán KPDL chuyên dùng để tìm ra được các mẫu hoặc các mô hình có ích trong dữ liệu. Nói một cách khách, mục đích của khám phá tri thức và KPDL chính là việc tìm ra các mẫu hoặc mô hình đang tồn tại trong các cơ sở dữ liệu.

Khám phá tri thức và khai phá dữ liệu là một lĩnh vực phát triển rất nhanh chóng, là lĩnh vực giao thoa giữa nhiều lĩnh vực liên quan như: Công nghệ, cơ sở dữ liệu, thống kê, học máy, … Người ta cũng có thể sử dụng những tên khác cho khai phá dữ liệu và khám phá tri thức như: Khám phá tri thức trong cơ sở dữ liệu (Knowledge discovery in database – KDD), trích chọn tri thức (Knowledge extration – KE),… Hình 1: Mối quan hệ giữa KDD và tri thức Khám phá tri thức từ CSDL là quá trình sử dụng các phương pháp và công cụ tin học, trong đó con người là trung tâm của quá trình. Do đó con người cần phải cps kiến thức cơ bản về lĩnh vực cần khám phá để có thể chọn được tập con dữ liệu tốt, 1 từ đó phát hiện các mẫu phù hợp cới mục tiêu đề ra. Đó chính là tri thức, được rút ra từ CSDL thường để phục vụ cho việc giải quyết một loạt nhiệm vụ nhất định trong một lĩnh vực nhất định. Tuy vậy, quá trình khám phá tri thức mang tính chất hướng nhiệm vụ vì không phải là mọi tri thức tìm được thì đều được áp dụng vào thực tế Nếu khám phá tri thức là toàn bộ quá trình chiết xuất tri thức từ các CSDL thì KPDL là giai đoạn chủ yếu của quá trình đó.

KPDL là một quá trình phát hiện các mẫu mới, thường bao gồm việc thử tìm mô hình phù hợp với tập dữ liệu và tìm mẫu từ tập dữ liệu đó. Sử dụng các kỹ thuật và các khai niệm của các lĩnh vực đã được nhiên cứu từ trước như: học máy, thống kê, hồi quy, … Hầu hết các CSDL đều chứa rất nhiều các mẫu mới và có ích tuy nhiên mẫu có giá trị với mục tiêu đặt ra phải là những mẫu không tầm thường. Vậy nên hệ thống phải làm nhiều hơn là chỉ mò mẫm thống kê vì kết quả của việc tính toán trực tiếp thông qua công tác thống kê là đã có đối với người dùng. Qúa trình hình thành khám phá tri thức và khai phá dữ liệu Qúa trình phát hiện tri thức và khai phá dữ liệu được thực hiện thông qua nhiều bước và được lặp đi lặp lại.

Các bước trong quá trình này bao gồm: 1. Tìm hiểu lĩnh vực áp dụng và xác định bài toán 2. Thu thập và tiền xử lý dữ liệu 3. Khai phá dữ liệu 4.

Thể hiện tri thức đã phát hiện 5. Sử dụng tri thức phát hiện được Hình 2: Quy trình 5 bước khai phá dữ liệu • Bước 1: Tìm hiểu lĩnh vực áp dụng và xác định bài toán: Bước nào còn được gọi là tìm hiểu tri thức lĩnh vực. Đây là bước tiên quyết để có thể trích rút ra đươc những tri thức hữu dụng và lựa chịn được các phương pháp khai phá dữ liệu tích hợp cho các bước sau, tùy thuộc vào mục đích sử dụng và bản chất của dữ liệu 2 • Bước 2: Thu thập và tiền xử lý dữ liệu: Lựa chọn các nguông dữ liệu, xử lý nhiễu hoặc loại dữ liệu dư thừa, xử lý dữ liệu khiếm khuyết, chuyển đổi dữ liệu và rút gọn dữ liệu, … Bước này thường chiếm phần lớn thời gian trong cả tiến trình KDD • Bước 3: Khai phá dữ liệu: Nước này sẽ tìm kiếm các mẫu/mô hình ẩn chứa trong dữ liệu bằng các thuật toán khai phá dữ liệu nào đó phù hợp với từng laoij dữ liệu đầu vào. Các lớp bài toán quan trọng của khai phá dữ liệu là: mô hình hóa dữ báo phân lớp và hồi quy; phân đoạn và phân cụm; mô hình hóa sự phụ thuộc như các mô hình đồ thị hoặc dự tính mật độ; tổng quát hóa như tìm mối quan hệ giữa các trường, sự liên kết, biểu diễn trực quan; mô hình hóa hoặc phát hiện sự thay đổi, sự chênh lệch trong dữ liệu và tri thức • Bước 4: Thể hiện tri thức đã được phát hiện: Thể hiện các tri thức đã được phát hiện theo các phương pháp mô tả và dự báo.

Đây là 2 đích cơ bản nhất của các hệ thống phát hiện tri thức. Các thí nghiệm chỉ ra rằng các mẫu hoặc mô hình phát hiện được từ dữ liệu thường không được quan tâm hoặc trực tiếp sử dụng ngay và tiến trình KDD cần thiết phải lặp lại với sự đánh giá tri thức được phát hiện. Để đánh giá các luật thu được, người ta thường chia dữ liệu ra thành 2 tập: Huấn luyện trên một tập và kiểm tra trên tập kia. Qúa trình này có thể lặp đi lặp lại nhiều lần với những cách chia khác nhau, kết quả trung bình có thể dự tính được độ mạnh của các luật.

• Bước 5: Sử dụng tri thức phát hiện được: Đây là bước cuối cùng trong quá trình KDD. Trong một số trường hợp, các tri thức có thể được sử dụng mà không cần dưa vào trong hệ thống máy tính. Trong một số trường hợp khác, người sử dụng mong muốn các tri thức đã phát hiện có thể đưa vào máy tính để một số chương trình khai thác được ngay. Việc đưa các kết quả của KDD vào sử dụng trong thực tế là đích cao nhất của khám phá tri thức Vì không gian mẫu thường rất lớn nên các ràng buộc về khả năng tính toán sẽ xác định những giới hạn trong không gian con mà các thuật toán có thể thực hiện được.

Công việc của khai phá dữ liệu trong tiến trình KDD tập trung chủ yếu vào các công cụ được sử dụng để trích dẫn và liệt kê các mẫu từ dữ liệu. Các ứng dụng của khai phá dữ liệu Phát hiện tri thức và khai phá dữ liệu liên quan đến nhiều ngành, nhiều lĩnh vực: thống kê, trí tuệ nhân tạo, cơ sở dữ liệu, thuật toán, … Đặc biệt phát hiện tri thức và khai phá dữ liệu rất gần gũi với lĩnh vực thống kê, sử dụng các phương pháp thống kê để mô hình dữ liệu và phát hiện các mẫu, luật … Ngân hàng dữ liệu (Data Warehousing) và các công cụ phân tích trực tuyến (OLAP- On Line Analytical Processing) cũng liên quan rất chặt chẽ với phát hiện tri thức và khai phá dữ liệu Data Mining (Khai phá dữ liệu) là một lĩnh vực trong khoa học máy tính có mục tiêu là xây dựng các thuật toán mới hoặc tận dụng các thuật toán hiện có để học hỏi từ dữ liệu, nhằm xây dựng các mô hình có thể tổng quát hóa trong việc đưa ra các dự đoán chính xác hoặc để tìm ra các mẫu, đặc biệt là với dữ liệu tương tự mới và chưa thấy trong bộ dữ liệu huấn luyện. Khai phá dữ liệu kết hợp dữ liệu với các công cụ thống kê để dự đoán kết quả đầu ra. Kết quả này sau đó được sử dụng để đưa ra những thông tin chi tiết hữu ích cho một tác vụ nào đó.

Sau khi được huấn luyện, máy có khả năng nhận dữ liệu làm đầu vào, sử dụng một thuật toán và đưa ra câu trả lời tương ứng cho dữ liệu đó. Khai phá dữ liệu có rất nhiều ứng dụng trong thực tế, có thể kể đến như: - Hỗ trợ các nhiệm vụ thường ngày của con người: Máy học, hỗ trợ con người thực hiện các công việc hàng ngày mà không cần kiểm soát hoàn toàn đầu ra, chẳng hạn như Trợ lý ảo, Phân tích dữ liệu,… Mục tiêu sử dụng chính của khai phá dữ liệu trong trường hợp này là là để giảm lỗi do thành kiến của con người. Nó có thể hỗ trợ con người đưa ra quyết định làm giảm công sức và sai sót do con người. - Tự động hóa: Máy học, trong nhiều trường hợp có thể hoạt động hoàn toàn tự chủ mà không cần bất kỳ sự can thiệp nào của con người.

Ví dụ, robot thực hiện các bước thiết yếu trong các quy trình sản xuất tại nhà máy. - Ngành tài chính, ngân hàng: 4 Học máy đang ngày càng phổ biến trong ngành tài chính, ngân hàng. Các ngân hàng chủ yếu sử dụng khai phá dữ liệu để tìm ra các mẫu bên trong dữ liệu để tăng hiệu quả của hoạt động kinh doanh, marketing hoặc ngăn chặn các giao dịch gian lận. - Tổ chức chính phủ: Chính phủ sử dụng khai phá dữ liệu để quản lý các tiện ích và an toàn công cộng.

Chẳng hạn, Trung Quốc sử dụng một hệ thống nhận dạng khuôn mặt khổng lồ cho các hoạt động thanh toán phi tiền mặt và chấm điểm công dân, ngăn chặn các hoạt động phạm tội. - Y tế: Y tế là một trong những lĩnh vực đầu tiên sử dụng khai phá dữ liệu và có nhiều ứng dụng trong thực tế, chẳng hạn như các mô hình nhận diện hình ảnh, phân loại, dự đoán bệnh, đưa ra các phác đồ điều trị, thậm chí nghiên cứu mức độ tương hợp thuốc với từng người sử dụng dựa trên dữ liệu gene và tiền xử bệnh lý. Sự ra đời của các thiết bị đeo và cảm biến có thể sử dụng dữ liệu để đánh giá sức khỏe của bệnh nhân trong thời gian thực. Công nghệ này cũng có thể giúp các chuyên gia y tế phân tích dữ liệu để xác định các xu hướng hoặc dấu hiệu đỏ có thể dẫn đến việc chẩn đoán và điều trị được cải thiện.

- Bán lẻ Các trang web đề xuất các mặt hàng bạn có thể thích nhờ ứng dụng công nghệ máy học để phân tích lịch sử mua hàng của người dùng. Những dữ liệu mà học máy thu thập dược có thể được sử dụng để cá nhân hóa trải nghiệm mua sắm, thực hiện chiến dịch tiếp thị, tối ưu hóa giá, lập kế hoạch bán hàng. - Vận tải Khai phá dữ liệu có thể phân tích dữ liệu để xác định các tuyến đường hiệu quả hơn cũng như dự đoán các vấn đề tiềm ẩn trên hành trình của tài xế, đây chính là cách thức quan trọng giúp các công ty chuyển phát, vận tải công cộng và các tổ chức vận tải khác gia tăng lợi nhuận.