Mô Hình Dự Báo Churn Cho Khách Hàng Bằng Phương Pháp Học Máy

Chuyên khảo phân tích Mô hình dự báo hurn cho khách hàng bằng phương pháp học máy suy diễn phương sai, đánh giá các khía cạnh quan trọng, đề xuất hướng nghiên cứu tiếp theo.

• Tác giả: Đào Công Ân
• Người hướng dẫn: TS. Nguyễn Thị Ngọc Anh
• Trường học: Đại học Bách Khoa Hà Nội
• Chuyên ngành: Toán tin
• Đề tài: Mô Hình Dự Báo Churn Cho Khách Hàng Bằng Phương Pháp Học Máy
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2018
• Địa điểm: Hà Nội

Mục lục chi tiết

• LỜI CAM ĐOAN
• 1. CHƯƠNG 1: GIỚI THIỆU CHUNG
• 1.1. Giới thiệu bài toán Churn
• 1.2. Các công trình nghiên cứu liên quan
• 1.3. Mục tiêu nghiên cứu của luận văn
• 1.4. Học máy, ứng dụng vào dự báo Churn trong ngân hàng
• 1.5. Cấu trúc luận văn
• 2. CHƯƠNG 2: ÁP DỤNG HỌC MÁY TRONG BÀI TOÁN DỰ BÁO CHURN
• 2.1. Phương pháp phân tích dự báo Churn
• 2.2. Áp dụng cây quyết định (Decision Tree) cho dự báo Churn
• 2.2.1. Khái niệm cây quyết định (Decision tree)
• 2.2.2. Thuật toán xây dựng cây quyết định
• 2.2.3. Ứng dụng cây quyết định cho dự báo Churn
• 2.3. Áp dụng mạng Nơron (Artificial Neural Network - ANN) cho dự báo Churn
• 2.3.1. Perceptron learning algorithm (PLA)
• 2.3.2. Mô hình Logistic regression
• 2.3.3. Áp dụng mạng Nơron cho dự báo Churn
• 2.4. Áp dụng suy diễn phương sai trực tuyến cho phân phối Gaussian đa biến (VIGO) cho dự báo Churn
• 2.4.1. Phương pháp học trực tuyến
• 2.4.2. Phương pháp suy diễn xấp xỉ
• 2.4.3. Suy diễn phương sai cho ước lượng Bayes nhiều biến
• 2.4.4. Suy diễn phương sai trực tuyến cho ước lượng Bayes nhiều biến
• 3. CHƯƠNG 3: ỨNG DỤNG BÀI TOÁN DỰ BÁO CHURN VÀO LĨNH VỰC NGÂN HÀNG
• 3.1. Mô tả dữ liệu
• 3.2. Tiền xử lý dữ liệu
• 3.3. Các kết quả phân tích bài toán Churn
• 3.4. Một số tiêu chí đánh giá mô hình học
• 3.5. Chọn model và thực hiện training cho bài toán dự báo Churn
• 3.6. Kết quả cho bài toán dự báo Churn
• 3.6.1. Cây quyết định (Decision Tree)
• 3.6.3. Suy diễn phương sai trực tuyến cho ước lượng Bayes nhiều biến (VIGO)
• 3.6.4. Ưu nhược điểm của các kỹ thuật học máy
• 4. KẾT LUẬN
• TÀI LIỆU THAM KHẢO
• PHỤ LỤC A: Một số kết quả chạy của bài toán dự báo Churn

Tóm tắt

I. Tổng Quan Mô Hình Dự Báo Churn và Học Máy là gì

Bài toán Churn Prediction, hay dự báo khả năng khách hàng rời bỏ dịch vụ, ngày càng trở nên quan trọng đối với các doanh nghiệp, đặc biệt là trong lĩnh vực ngân hàng. Việc giữ chân khách hàng hiện tại thường hiệu quả hơn so với việc thu hút khách hàng mới. Do đó, việc xây dựng mô hình dự đoán Churn hiệu quả giúp doanh nghiệp chủ động đưa ra các biện pháp can thiệp, giảm thiểu tỷ lệ rời bỏ của khách hàng. Học máy (Machine Learning) cung cấp các công cụ và kỹ thuật mạnh mẽ để xây dựng các mô hình này, dựa trên việc phân tích dữ liệu lịch sử của khách hàng. Luận văn này tập trung vào việc ứng dụng các thuật toán học máy vào bài toán dự báo Churn trong ngành ngân hàng, một lĩnh vực mà việc phân tích dữ liệu khách hàng có ý nghĩa sống còn. Theo nghiên cứu của IBM, lượng dữ liệu được tạo ra mỗi ngày là vô cùng lớn, đặt ra yêu cầu cấp thiết về các phương pháp khai thác tri thức hiệu quả.

1.1. Tầm Quan Trọng của Dự Báo Churn trong Ngân Hàng

Trong ngành ngân hàng, Churn có thể định nghĩa là việc khách hàng ngừng sử dụng dịch vụ (ví dụ: đóng tài khoản, giảm số lượng giao dịch). Dự báo chính xác Churn giúp ngân hàng giảm chi phí marketing, tăng doanh thu, cải thiện Customer Retention. Việc dự đoán churn cho phép các ngân hàng chủ động liên hệ với khách hàng có nguy cơ rời đi, đưa ra các ưu đãi hoặc giải pháp để giữ chân họ. Điều này không chỉ tăng cường lòng trung thành của khách hàng mà còn cải thiện hiệu quả hoạt động tổng thể của ngân hàng. Đây là một phần quan trọng của Customer Relationship Management (CRM).

1.2. Học Máy Công Cụ Ưu Việt cho Phân Tích Churn

Học máy cho phép xây dựng mô hình dự đoán dựa trên dữ liệu quá khứ, tìm ra các yếu tố ảnh hưởng đến quyết định rời bỏ của khách hàng. Các thuật toán phân lớp như Decision Tree, Neural Networks, và Support Vector Machine (SVM) thường được sử dụng. Feature Engineering đóng vai trò quan trọng trong việc lựa chọn các thuộc tính dữ liệu phù hợp để đưa vào mô hình. Khác với thống kê truyền thống, học máy tập trung vào khả năng dự đoán và độ chính xác của thuật toán.

II. Thách Thức Xác Định Yếu Tố Ảnh Hưởng Churn và Xử Lý Dữ Liệu

Việc dự báo Customer Churn không hề đơn giản. Một trong những thách thức lớn nhất là xác định các yếu tố thực sự ảnh hưởng đến quyết định rời bỏ của khách hàng. Các yếu tố này có thể liên quan đến dịch vụ, giá cả, trải nghiệm khách hàng, hoặc thậm chí là các yếu tố kinh tế xã hội. Bên cạnh đó, dữ liệu khách hàng thường không đầy đủ, không chính xác, hoặc chứa các giá trị ngoại lệ, đòi hỏi các kỹ thuật tiền xử lý dữ liệu phức tạp. Phân tích dữ liệu khách hàng cần được thực hiện một cách cẩn thận để đảm bảo tính chính xác và độ tin cậy của mô hình dự đoán. 80-90% dữ liệu ở dạng phi cấu trúc nên việc khai thác, trích rút tri thức gặp rất nhiều khó khăn.

2.1. Nhận Diện Các Biến Quan Trọng trong Dự Báo Churn

Các biến số như lịch sử giao dịch, thời gian sử dụng dịch vụ, thông tin nhân khẩu học, tương tác với CRM, và phản hồi từ khảo sát có thể là các yếu tố quan trọng. Cần áp dụng các kỹ thuật Feature Selection để chọn ra các biến có ý nghĩa nhất cho mô hình. Feature Engineering tạo ra các thuộc tính mới từ các thuộc tính hiện có để tăng cường khả năng dự đoán của mô hình. Việc lựa chọn đúng các yếu tố này là chìa khóa để xây dựng một mô hình dự đoán Churn chính xác.

2.2. Tiền Xử Lý Dữ Liệu Vượt Qua Rào Cản về Chất Lượng Dữ Liệu

Dữ liệu cần được làm sạch, chuẩn hóa, và chuyển đổi sang định dạng phù hợp cho các thuật toán học máy. Các kỹ thuật như xử lý giá trị thiếu, loại bỏ ngoại lệ, và mã hóa các biến phân loại cần được áp dụng. Mô hình hóa dữ liệu đóng vai trò quan trọng trong việc hiểu cấu trúc và mối quan hệ giữa các thuộc tính. Việc này giúp cải thiện hiệu suất của mô hình dự đoán và giảm thiểu sai sót.

III. Phương Pháp Ứng Dụng Thuật Toán Học Máy Dự Báo Churn Hiệu Quả

Học máy cung cấp nhiều thuật toán khác nhau để giải quyết bài toán dự báo Churn. Trong số đó, Decision Tree, Neural Networks, và Suy Diễn Phương Sai (VIGO) là những phương pháp phổ biến và hiệu quả. Mỗi thuật toán có những ưu và nhược điểm riêng, phù hợp với từng loại dữ liệu và yêu cầu của bài toán. Việc lựa chọn thuật toán phù hợp là yếu tố then chốt để xây dựng một mô hình dự đoán Churn chính xác và đáng tin cậy. Cần so sánh, đánh giá và lựa chọn các thuật toán.

3.1. Cây Quyết Định Decision Tree Dễ Hiểu và Triển Khai

Decision Tree là một thuật toán phân lớp đơn giản, dễ hiểu và dễ triển khai. Nó tạo ra một cấu trúc cây, trong đó mỗi nút đại diện cho một thuộc tính, và mỗi nhánh đại diện cho một giá trị của thuộc tính đó. Decision Tree có thể được sử dụng để dự đoán khả năng khách hàng Churn dựa trên các thuộc tính của họ. Tuy nhiên, Decision Tree có thể dễ bị overfitting nếu cây quá sâu, cần sử dụng các kỹ thuật Model Evaluation để tránh tình trạng này.

3.2. Mạng Nơ ron Neural Networks Khả Năng Học Hỏi Cao

Neural Networks là một thuật toán học máy mạnh mẽ, có khả năng học hỏi các mối quan hệ phức tạp trong dữ liệu. Nó bao gồm nhiều lớp nơ-ron kết nối với nhau, mỗi nơ-ron thực hiện một phép tính đơn giản. Neural Networks có thể được sử dụng để dự đoán khả năng khách hàng Churn với độ chính xác cao. Tuy nhiên, việc huấn luyện Neural Networks có thể tốn kém về mặt tính toán và đòi hỏi lượng dữ liệu lớn. Ngoài ra còn cần chọn Algorithms phù hợp.

3.3. Suy Diễn Phương Sai VIGO Phân Lớp Trực Tuyến Hiệu Quả

Suy diễn phương sai trực tuyến cho ước lượng Bayes nhiều biến (VIGO) là một phương pháp phân lớp trực tuyến hiệu quả, đặc biệt phù hợp với dữ liệu thay đổi theo thời gian. VIGO cho phép cập nhật mô hình liên tục khi có dữ liệu mới, giúp mô hình luôn phản ánh được tình hình hiện tại. Tuy nhiên, VIGO có thể phức tạp hơn so với các thuật toán khác và đòi hỏi kiến thức chuyên sâu về thống kê.

IV. Thực Nghiệm So Sánh Hiệu Suất Các Mô Hình Dự Báo Churn

Để đánh giá hiệu quả của các thuật toán trên, cần thực hiện các thực nghiệm trên bộ dữ liệu thực tế. Trong luận văn này, bộ dữ liệu từ một ngân hàng Việt Nam được sử dụng để so sánh hiệu suất của Decision Tree, Neural Networks, và VIGO. Các chỉ số như AUC-ROC, Precision, Recall, và F1-Score được sử dụng để đánh giá Model Evaluation. Kết quả thực nghiệm cho thấy sự khác biệt về hiệu suất giữa các thuật toán, tùy thuộc vào đặc điểm của dữ liệu.

4.1. Thiết Lập Thực Nghiệm và Chuẩn Bị Dữ Liệu

Bộ dữ liệu được chia thành tập huấn luyện và tập kiểm tra để đánh giá khả năng khái quát hóa của mô hình. Các thuộc tính dữ liệu được lựa chọn và tiền xử lý theo quy trình chuẩn. Các tham số của thuật toán được điều chỉnh để đạt hiệu suất tối ưu. Cần đảm bảo tính khách quan và công bằng trong quá trình thực nghiệm.

4.2. Đánh Giá và So Sánh Kết Quả Dự Báo Churn

Các chỉ số AUC-ROC, Precision, Recall, và F1-Score được tính toán cho từng thuật toán. Kết quả được so sánh và phân tích để xác định thuật toán nào có hiệu suất tốt nhất trên bộ dữ liệu cụ thể. Các yếu tố ảnh hưởng đến hiệu suất của mô hình được thảo luận và giải thích.

V. Ứng Dụng Thực Tế Triển Khai Mô Hình Dự Báo Churn trong CRM

Sau khi xây dựng và đánh giá mô hình dự đoán Churn, bước tiếp theo là triển khai mô hình vào hệ thống CRM của ngân hàng. Phần mềm dự báo churn giúp nhân viên ngân hàng xác định khách hàng có nguy cơ rời bỏ và thực hiện các biện pháp can thiệp kịp thời. Ứng dụng dự báo churn không chỉ giúp giảm tỷ lệ rời bỏ mà còn cải thiện trải nghiệm khách hàng và tăng cường lòng trung thành. Việc tích hợp mô hình với Business Intelligence cung cấp cái nhìn sâu sắc hơn về hành vi khách hàng.

5.1. Tích Hợp Mô Hình Dự Báo Churn vào Hệ Thống CRM

Mô hình cần được tích hợp với CRM để cung cấp thông tin về khả năng Churn của khách hàng cho nhân viên. Các cảnh báo và thông báo cần được thiết lập để báo hiệu khi một khách hàng có nguy cơ rời bỏ cao. Thông tin này giúp nhân viên chủ động liên hệ và đưa ra các ưu đãi hoặc giải pháp phù hợp.

5.2. Đánh Giá Hiệu Quả Triển Khai và Điều Chỉnh Mô Hình

Sau khi triển khai, cần theo dõi và đánh giá hiệu quả của mô hình dự đoán Churn trong thực tế. Các chỉ số như tỷ lệ giữ chân khách hàng, giá trị vòng đời khách hàng, và doanh thu cần được theo dõi. Dựa trên kết quả đánh giá, mô hình có thể được điều chỉnh và cải thiện để đạt hiệu quả cao hơn.

VI. Kết Luận Tiềm Năng Phát Triển của Dự Báo Churn và Học Máy

Dự báo Churn bằng học máy là một lĩnh vực đầy tiềm năng, mang lại nhiều lợi ích cho doanh nghiệp. Các thuật toán như Decision Tree, Neural Networks, và VIGO cung cấp các công cụ mạnh mẽ để xây dựng mô hình dự đoán chính xác và hiệu quả. Trong tương lai, sự phát triển của Deep Learning và Data Science sẽ mở ra những cơ hội mới để cải thiện mô hình dự đoán Churn và nâng cao hiệu quả giữ chân khách hàng. Các công cụ như Python, R, TensorFlow, Keras, Scikit-learn, Pandas, NumPy hỗ trợ việc xây dựng và triển khai các mô hình.

6.1. Hướng Phát Triển Nghiên Cứu trong Tương Lai

Nghiên cứu trong tương lai có thể tập trung vào việc sử dụng các thuật toán Deep Learning phức tạp hơn, kết hợp nhiều nguồn dữ liệu khác nhau, và phát triển các mô hình cá nhân hóa để dự đoán Churn chính xác hơn. Việc ứng dụng các kỹ thuật học máy mới nhất sẽ giúp doanh nghiệp nắm bắt tốt hơn hành vi khách hàng và đưa ra các quyết định kinh doanh sáng suốt.

6.2. Tóm Tắt Bài Học và Đề Xuất

Luận văn này đã trình bày một tổng quan về bài toán dự báo Churn và các phương pháp học máy có thể được sử dụng để giải quyết bài toán này. Kết quả thực nghiệm cho thấy hiệu quả của các thuật toán khác nhau và đề xuất các hướng phát triển nghiên cứu trong tương lai. Việc ứng dụng mô hình dự đoán Churn trong thực tế sẽ giúp doanh nghiệp giảm tỷ lệ rời bỏ và tăng cường lòng trung thành của khách hàng.

Nội dung chính

Tổng quan nghiên cứu

Trong bối cảnh bùng nổ dữ liệu toàn cầu, lượng thông tin được tạo ra mỗi ngày đã đạt đến con số 50.000 gigabyte trong một giây, trong đó 90% dữ liệu được tạo ra chỉ trong vòng hai năm gần đây. Sự phát triển nhanh chóng của công nghệ thông tin đã tạo ra thách thức lớn trong việc khai thác tri thức từ dữ liệu phi cấu trúc và đa dạng. Đặc biệt, trong lĩnh vực ngân hàng, việc giữ chân khách hàng hiện tại trở nên cấp thiết hơn bao giờ hết khi chi phí thu hút khách hàng mới cao gấp nhiều lần so với chi phí duy trì khách hàng cũ. Bài toán dự báo khách hàng rời bỏ (Churn) trở thành một công cụ quan trọng giúp các tổ chức tài chính nâng cao năng lực cạnh tranh và phát triển bền vững.

Luận văn tập trung nghiên cứu ứng dụng các phương pháp học máy hiện đại gồm cây quyết định (Decision Tree), mạng Nơron nhân tạo (Artificial Neural Network - ANN) và phương pháp suy diễn phương sai trực tuyến cho ước lượng Bayes nhiều biến (Online Variational Inference for Gaussian distribution - VIGO) trong dự báo Churn khách hàng ngân hàng tại Việt Nam. Mục tiêu chính là xây dựng mô hình dự báo chính xác, so sánh hiệu quả của ba kỹ thuật học máy trên bộ dữ liệu thực tế, từ đó đề xuất giải pháp hỗ trợ doanh nghiệp trong việc giữ chân khách hàng. Nghiên cứu được thực hiện trên dữ liệu giao dịch khách hàng trong một năm, với phạm vi áp dụng tại một ngân hàng thương mại Việt Nam, mang lại ý nghĩa thiết thực trong việc nâng cao hiệu quả quản trị quan hệ khách hàng (CRM) và tối ưu hóa chiến lược kinh doanh.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn dựa trên ba lý thuyết và mô hình học máy chủ đạo:

1. Cây quyết định (Decision Tree): Là mô hình phân lớp dựa trên cấu trúc cây phân cấp, sử dụng các nút để biểu diễn thuộc tính và nhánh để phân chia dữ liệu. Thuật toán xây dựng cây quyết định dựa trên tiêu chí tối ưu như Information Gain và Gain Ratio, nhằm chọn thuộc tính phân chia tốt nhất tại mỗi nút. Cây quyết định cho phép phân loại nhị phân khách hàng thành nhóm Churn và Non-Churn một cách trực quan.

2. Mạng Nơron nhân tạo (Artificial Neural Network - ANN): Mô phỏng hoạt động của hệ thần kinh sinh học, gồm các lớp input, hidden và output. Mạng Nơron sử dụng các trọng số kết nối và hàm kích hoạt (sigmoid, tanh) để học và dự đoán. Thuật toán Perceptron Learning Algorithm (PLA) và Logistic Regression được áp dụng để huấn luyện mạng, tối ưu hàm mất mát nhằm phân loại chính xác khách hàng.

3. Suy diễn phương sai trực tuyến cho ước lượng Bayes nhiều biến (Online Variational Inference Gaussian - VIGO): Phương pháp học trực tuyến cập nhật mô hình dự báo khi có dữ liệu mới mà không cần huấn luyện lại toàn bộ. Sử dụng phân phối Gaussian đa biến để mô hình hóa xác suất có điều kiện của dữ liệu, kết hợp kỹ thuật suy diễn phương sai để xấp xỉ phân phối hậu nghiệm. Phương pháp này phù hợp với hệ thống dữ liệu lớn, cập nhật liên tục như ngân hàng.

Ba khái niệm chính trong nghiên cứu gồm: tỷ lệ Churn (tỷ lệ khách hàng rời bỏ trên tổng số khách hàng), hàm entropy (đo độ hỗn loạn trong dữ liệu), và hàm mất mát (đánh giá sai số trong phân lớp).

Phương pháp nghiên cứu

Nguồn dữ liệu được sử dụng là bộ dữ liệu giao dịch khách hàng trong một năm của một ngân hàng thương mại tại Việt Nam, bao gồm các thuộc tính tài chính và hành vi khách hàng. Cỡ mẫu được chia thành 80% tập huấn luyện và 20% tập kiểm tra nhằm đảm bảo tính đại diện và độ chính xác của mô hình.

Quy trình nghiên cứu gồm các bước:

• Trích chọn dữ liệu: Lựa chọn các thuộc tính quan trọng liên quan đến hành vi khách hàng và giao dịch tài chính.
• Định nghĩa Churn: Khách hàng được xem là Churn nếu không có giao dịch trong một năm và số dư tài khoản dưới 50.000 VND.
• Tiền xử lý dữ liệu: Làm sạch, xử lý dữ liệu thiếu, rời rạc hóa và chuẩn hóa dữ liệu để phù hợp với mô hình học máy.
• Chọn mô hình và huấn luyện: Áp dụng ba kỹ thuật học máy (Decision Tree, ANN, VIGO) để xây dựng mô hình dự báo.
• Đánh giá mô hình: Sử dụng các tiêu chí như độ chính xác (accuracy), tỷ lệ phân loại sai (error rate), và biểu đồ ROC để so sánh hiệu quả.
• Triển khai mô hình: Đưa mô hình vào sử dụng trong hệ thống CRM để hỗ trợ quyết định giữ chân khách hàng.

Phương pháp phân tích sử dụng kỹ thuật phân lớp nhị phân, với các thuật toán được cài đặt và chạy trên phần mềm chuyên dụng, đo thời gian chạy và hiệu suất từng thuật toán để đánh giá toàn diện.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Hiệu quả mô hình cây quyết định: Mô hình đạt độ chính xác khoảng 85%, với tỷ lệ phân loại sai thấp hơn 15% trên tập kiểm tra. Cây quyết định cho phép trực quan hóa các quy tắc phân loại, giúp dễ dàng giải thích kết quả cho người dùng.

2. Mạng Nơron nhân tạo (ANN): Mạng Nơron đạt độ chính xác cao hơn, khoảng 89%, với khả năng xử lý dữ liệu phức tạp và phi tuyến tốt hơn. Tuy nhiên, thời gian huấn luyện dài hơn so với cây quyết định, do cấu trúc mạng và số lượng tham số lớn.

3. Phương pháp VIGO: Phương pháp suy diễn phương sai trực tuyến cho ước lượng Bayes nhiều biến đạt độ chính xác khoảng 87%, với ưu điểm nổi bật là khả năng cập nhật mô hình nhanh chóng khi có dữ liệu mới, phù hợp với môi trường dữ liệu lớn và thời gian thực. Thời gian chạy được tối ưu nhờ cập nhật theo mini-batch.

4. So sánh tổng thể: ANN có độ chính xác cao nhất nhưng chi phí tính toán lớn; cây quyết định dễ hiểu và nhanh; VIGO cân bằng giữa độ chính xác và khả năng cập nhật trực tuyến. Biểu đồ ROC cho thấy ANN có diện tích dưới đường cong (AUC) cao nhất, tiếp theo là VIGO và cây quyết định.

Thảo luận kết quả

Nguyên nhân ANN đạt hiệu quả cao là do khả năng học các mối quan hệ phi tuyến phức tạp trong dữ liệu khách hàng, trong khi cây quyết định bị giới hạn bởi cấu trúc phân cấp và các ngưỡng phân chia tuyến tính. Phương pháp VIGO tận dụng ưu điểm của học trực tuyến, giảm thiểu thời gian huấn luyện lại toàn bộ mô hình khi dữ liệu cập nhật, rất phù hợp với môi trường ngân hàng có lượng giao dịch lớn và liên tục.

So với các nghiên cứu trong ngành, kết quả này tương đồng với báo cáo của ngành về việc sử dụng mạng Nơron và học trực tuyến trong dự báo Churn, đồng thời bổ sung thêm phân tích chi tiết về hiệu quả từng phương pháp trên dữ liệu thực tế tại Việt Nam. Việc trình bày kết quả qua bảng so sánh tỷ lệ phân loại sai và biểu đồ ROC giúp minh họa rõ ràng ưu nhược điểm của từng mô hình.

Ý nghĩa của nghiên cứu là cung cấp cho ngân hàng một công cụ dự báo khách hàng rời bỏ chính xác và kịp thời, từ đó hỗ trợ xây dựng chiến lược giữ chân khách hàng hiệu quả, giảm thiểu tổn thất doanh thu và nâng cao năng lực cạnh tranh.

Đề xuất và khuyến nghị

1. Triển khai mô hình ANN trong hệ thống CRM: Tận dụng độ chính xác cao của mạng Nơron để dự báo khách hàng Churn, giúp ngân hàng có các chiến dịch chăm sóc cá nhân hóa. Thời gian thực hiện: 6 tháng; Chủ thể: phòng công nghệ thông tin và phòng marketing.

2. Áp dụng phương pháp VIGO cho cập nhật dữ liệu thời gian thực: Sử dụng kỹ thuật học trực tuyến để cập nhật mô hình dự báo khi có dữ liệu mới, giảm thiểu thời gian và chi phí huấn luyện lại toàn bộ mô hình. Thời gian thực hiện: 3 tháng; Chủ thể: đội ngũ phát triển phần mềm.

3. Sử dụng cây quyết định để hỗ trợ ra quyết định nhanh: Do tính trực quan và dễ hiểu, cây quyết định nên được dùng trong các báo cáo phân tích và hỗ trợ lãnh đạo đưa ra quyết định nhanh chóng. Thời gian thực hiện: 2 tháng; Chủ thể: phòng phân tích dữ liệu.

4. Đào tạo nhân viên về kỹ thuật học máy và phân tích dữ liệu: Nâng cao năng lực đội ngũ nhân sự trong việc vận hành và khai thác các mô hình dự báo Churn, đảm bảo hiệu quả ứng dụng lâu dài. Thời gian thực hiện: liên tục; Chủ thể: phòng nhân sự và đào tạo.

5. Theo dõi và đánh giá định kỳ mô hình: Thiết lập quy trình đánh giá hiệu quả mô hình dự báo hàng quý để điều chỉnh và cải tiến kịp thời, đảm bảo độ chính xác và phù hợp với biến động thị trường. Thời gian thực hiện: hàng quý; Chủ thể: phòng phân tích dữ liệu.

Đối tượng nên tham khảo luận văn

1. Các nhà quản lý ngân hàng và tổ chức tài chính: Giúp hiểu rõ về các phương pháp dự báo khách hàng rời bỏ, từ đó xây dựng chiến lược giữ chân khách hàng hiệu quả, giảm thiểu rủi ro mất khách hàng.

2. Chuyên gia phân tích dữ liệu và khoa học dữ liệu: Cung cấp kiến thức chuyên sâu về ứng dụng học máy trong dự báo Churn, các thuật toán phân lớp và kỹ thuật học trực tuyến phù hợp với dữ liệu lớn.

3. Nhà nghiên cứu trong lĩnh vực trí tuệ nhân tạo và học máy: Tham khảo mô hình suy diễn phương sai trực tuyến và so sánh hiệu quả các thuật toán học máy trên dữ liệu thực tế, làm cơ sở phát triển các nghiên cứu tiếp theo.

4. Sinh viên và học viên cao học chuyên ngành Toán tin, Khoa học dữ liệu: Học hỏi quy trình nghiên cứu, phương pháp phân tích và ứng dụng thực tiễn của các thuật toán học máy trong lĩnh vực tài chính ngân hàng.

Câu hỏi thường gặp

1. Phương pháp nào trong luận văn cho kết quả dự báo chính xác nhất?
   Mạng Nơron nhân tạo (ANN) đạt độ chính xác khoảng 89%, cao hơn so với cây quyết định và VIGO, nhờ khả năng xử lý dữ liệu phi tuyến phức tạp.

2. Phương pháp VIGO có ưu điểm gì so với các kỹ thuật khác?
   VIGO hỗ trợ học trực tuyến, cập nhật mô hình nhanh khi có dữ liệu mới mà không cần huấn luyện lại toàn bộ, phù hợp với hệ thống dữ liệu lớn và thời gian thực.

3. Tại sao cây quyết định vẫn được khuyến nghị sử dụng?
   Cây quyết định dễ hiểu, trực quan và nhanh trong việc phân loại, giúp hỗ trợ ra quyết định nhanh chóng và giải thích kết quả cho người không chuyên.

4. Dữ liệu được sử dụng trong nghiên cứu có đặc điểm gì?
   Dữ liệu là giao dịch khách hàng trong một năm của một ngân hàng Việt Nam, bao gồm các thuộc tính tài chính và hành vi, được chia thành 80% tập huấn luyện và 20% tập kiểm tra.

5. Làm thế nào để áp dụng kết quả nghiên cứu vào thực tế?
   Ngân hàng có thể triển khai mô hình ANN trong hệ thống CRM để dự báo khách hàng Churn, kết hợp VIGO để cập nhật mô hình liên tục, đồng thời sử dụng cây quyết định cho báo cáo và hỗ trợ ra quyết định.

Kết luận

• Luận văn đã xây dựng và so sánh ba mô hình học máy gồm cây quyết định, mạng Nơron nhân tạo và phương pháp suy diễn phương sai trực tuyến (VIGO) trong dự báo khách hàng rời bỏ tại ngân hàng Việt Nam.
• Mạng Nơron nhân tạo đạt độ chính xác cao nhất (~89%), trong khi VIGO và cây quyết định có ưu điểm về cập nhật trực tuyến và tính trực quan.
• Phương pháp học trực tuyến VIGO phù hợp với môi trường dữ liệu lớn, cập nhật liên tục, giúp giảm chi phí và thời gian huấn luyện lại mô hình.
• Kết quả nghiên cứu cung cấp cơ sở khoa học cho việc ứng dụng học máy trong quản trị quan hệ khách hàng, hỗ trợ ngân hàng giữ chân khách hàng hiệu quả.
• Đề xuất triển khai mô hình ANN kết hợp VIGO trong hệ thống CRM, đồng thời đào tạo nhân sự và đánh giá định kỳ để nâng cao hiệu quả ứng dụng.

Các tổ chức tài chính nên bắt đầu thử nghiệm triển khai mô hình dự báo Churn dựa trên ANN và VIGO, đồng thời xây dựng quy trình cập nhật và đánh giá mô hình thường xuyên để tối ưu hóa hiệu quả kinh doanh.

Trích đoạn nội dung tài liệu

Chương 1: Giới thiệu khái niện liên quan đến bài toán dự báo Churn, lựa chọn bài toán, phương pháp xây dựng và cách thức thực hiện, ứng dụng của luận văn. • Chương 2: Giới thiệu một số kỹ thuật học máy được sử dụng trong bài toán dự báo Churn đó là cây quyết định (Decision tree - DT), mạng nơ-ron nhân tạo (Artificial neural network - ANN), phân lớp dựa trên suy diễn phương sai trực tuyến cho ước lượng Bayes nhiều biến (Online VI for multivariate Gaussian distribution - VIGO). • Chương 3: Trong chương này, tôi sẽ sử dụng ba phương pháp trên cùng một bộ dữ liệu ngân hàng tại Việt Nam để đưa ra kết quả thực nghiệm đồng thời so sánh thuật toán. • Kết Luận: các kết luận sau khi thực hiện được so sánh, đánh giá và đề xuất hướng phát triển của luận văn.

Trang 15 Chương 2 Áp dụng học máy trong bài toán dự báo Churn Trong phần này sẽ tìm hiểu phương pháp phân tích bài toán dự báo Churn và mô tả ba kỹ thuật trong học máy (machine learning) kết hợp với bài toán dự báo Churn đó là: kết hợp mô hình Churn với kỹ thuật cây quyết định (Decision Tree - DT), kỹ thuật mạng Nơron (Artificial Neural Network - ANN) và kỹ thuật phân lớp dựa trên suy diễn phương sai trực tuyến cho ước lượng Bayes nhiều biến (Online VI for multivariate Gaussian distribution - VIGO).1 Phương pháp phân tích dự báo Churn. Trước khi chúng ta đi vào các kỹ thuật trong học máy, chúng ta sẽ đi tìm hiểu về phương pháp khi phân tích bài toán dự báo Churn. Như chúng ta đã biết, ngân hàng có một khối lượng dữ liệu khổng lồ về khách hàng với rất nhiều phân hệ kinh doanh, dữ liệu khác kiểu nhau, dữ liệu luôn luôn được cập nhật (các hệ thống chạy ở chế độ thời gian thực rất nhiều), và có rất nhiều nguồn dữ 16 LUẬN VĂN Đào Công Ân liệu. Chính vì vậy việc phân tích dữ liệu lớn gặp rất nhiều khó khăn, và chúng ta thường xuyên phải quay lại các bước đã làm để phân tích lại.1: Kết hợp mô hình dự báo Churn với kỹ thuật học máy.

• Bước 0: Trích chọn dữ liệu (Data Selection): đây là bước trích ra, chọn ra những tập dữ liệu cần được khai phá theo một số tiêu chỉ nhất định nào từ cơ sở dữ liệu (database). Công việc này đòi hỏi phải hiểu được nghiệp vụ, hiểu được dữ liệu để có thể đưa ra các tiêu trí, chọn đúng dữ liệu cần được lấy ra để đem phân tích. • Bước 1: Xác định định nghĩa Churn cho bài toán (Define Churn classification): sau khi ta có dữ liệu ở bước 0 chúng ta cần phân tích dữ liệu, khai phá dữ liệu đó, xác định các tiêu trí, đánh giá các tiêu trí đó và đưa ra định nghĩa Churn cho bài toán. Nếu chưa phù hợp quay lại bước 0 để trích trọn lại dữ liệu.

• Bước 2: Tiền xử lý dữ liệu (Data Cleansing and Preprocessing Data): đây là bước là sạch dữ liệu tức là ở bước này chúng ta sẽ xử lý Trang 17 LUẬN VĂN Đào Công Ân những dữ liệu không đầy đủ, không nhất quán, những dữ liệu gây nhiễu, rút gọn dữ liệu, rời rạc hóa dữ liệu (dựa vào đồ thị, entropy, phân khoảng). • Bước 3: Biến đổi dữ liệu (Data Transformation): đây là bước tạo dữ liệu chuẩn hóa và làm mịn dữ liệu để đưa dữ liệu về dạng thuận lợi nhất cho quá trình khai phá dữ liệu trước khi đưa vào mô hình. kết quả của bước này là chúng ta có được bộ dữ liệu Customer. • Bước 4: Chọn model và tiến hành training data (Model Selection and Training): đây là bước chúng ta chọn mô hình Machine learning để training, và áp dụng các kỹ thuật phân tích, khai phá, các mô hình, các giải thuật nhằm khai thác dữ liệu.

Đây được xem là bước quan trọng nhất của toàn quá trình xây dựng mô hình Churn. • Bước 5: Đánh giá (Evaluation): sau khi xây dựng được mô hình Churn ở bước trên, chúng ta sẽ biểu diễn thông tin và mối liên hệ trong dữ liệu đã được khám phá ở bước trên được biến đổi và biểu diễn ở một dạng gần gũi với người sử dụng như đồ thị, cây, bảng biểu. Sau đó chúng ta sẽ đánh giá mô hình, độ chính xác, kết quả mô hình đã xây dựng. Nếu chưa phù hợp quay lại bước trước đó để điều chỉnh.

• Bước 6: Đưa vào sử dụng (Go live): sau khi đánh giá xong mô hình Churn và thấy mô hình đã đúng đắn, chúng ta đưa mô hình vào sử dụng hỗ trợ người dùng trong việc ra quyết định. Chú ý: Quá trình thực hiện xây dựng bài toán Churn không chỉ là một quá trình tuần tự từ bước đầu tiên đến bước cuối cùng mà là một quá trình lặp và có quay trở lại các bước đã qua. Trang 18 LUẬN VĂN Đào Công Ân 2.2 Áp dụng cây quyết định (Decision Tree) cho dự báo Churn.1 Khái niệm cây quyết định (Decision tree). Trong lĩnh vực học máy, cây quyết định được sử dụng để phân lớp đối tượng (các quan sát) dựa trên dãy các luật, nó là một đồ thị cây phân cấp có cấu trúc và có một đỉnh đặc biệt gọi là đỉnh gốc của cây, giữa các đỉnh trong cây có mối quan hệ phân cấp ’cha-con’.

Cây quyết định là một dạng đặc biệt của cấu trúc cây[11].1: Mô hình cấu trúc cây quyết định. Cây quyết định là một đồ thị có cấu trúc dạng cây như sau[2] : • Các nút trên cây: có 3 loại nút Trang 19 LUẬN VĂN Đào Công Ân • Nút gốc: là nút trên cùng của cây. • Nút trong: biểu diễn một thuộc tính (biến) nào đó được chọn làm phân lớp. • Nút lá: biểu diễn tập giá trị cuối cùng của nhánh và đại diện cho giá trị dự đoán của mục tiêu.

• Nhánh: là một đường đi trên cây bắt đầu là nút gốc kết thúc là nút lá. Giả sử chúng ta có bộ dữ liệu ban đầu, chúng ta chia ra tập này ra làm 2 tập là: tập huấn luyện (training set thường là 80% tập mẫu ) và tập kiểm tra (test set thường chiếm khoảng 20% tập mẫu). Trong đó: Tập huấn luyện (training set): sẽ dùng để huấn luyện xây dựng nên cây quyết định. Tập kiểm tra (test set): sẽ dùng kiểm tra tính chính xác của cây quyết định sau xây dựng.

Thuộc tính :Trong tập dữ liệu thường có 2 loại thuộc tính:(i) thuộc tính có giá trị liên tục (continous attribute) và (ii) thuộc tính có giá trị rời rạc (category attribute).2 Thuật toán xây dựng cây quyết định. Để xây dựng một cây quyết định và đánh giá hiệu quả của cây quyết định đó ta cần phải thực hiện các bước sau: • Bước 1: Tách cơ sở dữ liệu mẫu ban đầu thành 2 phần : + Tập huấn luyện (training set) dùng để xây dựng cây quyết đinh. + Tập kiểm tra (test set) để đánh giá độ chính xác của cây quyết định. Trang 20 LUẬN VĂN Đào Công Ân • Bước 2.

Thực hiện thuật toán dựng cây: phân lớp một cách đệ quy tập huấn với điều kiện dừng: + Tất cả các mẫu rơi vào một nút thuộc về cùng một lớp (nút lá). + Không còn thuộc tính nào để phân chia mẫu nữa + Không còn mẫu nào tại nút đó • Bước 3. Cắt tỉa cây sao cho phù hợp và tối ưu hóa. Đánh giá cây - dùng tập kiểm tra (test set) để đánh giá độ chính xác của cây đã xây dựng ở bước trên.

Tiêu chí đánh giá là tổng số mẫu được phân lớp chính xác trên tổng số mẫu đưa vào. Khi xây dựng cây quyết định việc lựa chọn một số lượng nhất định của mẫu là rất quan trọng. Trong khi số lượng mẫu không phải là càng nhiều càng tốt mà là quan trọng đối với tính đồng nhất và đại diện của mẫu. Khi xây dựng cây quyết định việc chọn thuộc tính để phân lớp là rất quan trọng.

Đối với thuộc tính có giá trị liên tục chúng ta sắp xếp chúng theo giá trị tăng dần và phân chia các ngưỡng. Tại ngưỡng chúng ta sẽ tính Information gain [21] hay Gain ratio [17] và Gain ratio lớn nhất sẽ được chọn làm ngưỡng phân chia của thuộc tính đó. Để đánh giá một cây là tốt ta sử dụng hàm Information entropy: Entropy thông tin mô tả mức độ hỗn loạn trong một quan sát lấy từ một sự kiện ngẫu nhiên. Nói cách khác, entropy cũng chỉ ra lượng thông tin trong quan sát, với thông tin là các phần không hỗn loạn ngẫu nhiên của quan sát.

Entropy thông tin là một thang đo mức độ ngẫu nhiên Information entropy: giả sử ta có tập dữ liệu huấn luyện S và có M mẫu, thuộc tính nhãn B có K giá trị và chia vào K nhóm khác nhau Bi(i = 1, 2, 3,. Giả sử ni là số mẫu thuộc nhãn Bi trong S. Thì khi đó Information entropy E (S ) Trang 21 LUẬN VĂN Đào Công Ân của tập dữ liệu S được tính là [21]: K X E (S ) = − pi.1) i=1 PK Trong đó pi là xác suất để xi có thuộc tính nhãn Bi với 0 ≤ pi ≤ 1, i=1 pi = 1. Entropy có điều kiện của thuộc tính A [21]: Giả sử thuộc tính Z được chọn.

Dựa trên thuộc tính Z được phân ra là C child node Z1 , Z2 , ., C } nji là số lượng mẫu thuộc tập Z j và có thuộc tính nhãn thuộc lớp Bi. Vì vậy entropy có điều kiện E (S |Z ) của thuộc tính Z: C X K X E (S |Z ) = [p0j pji log2 pji] (2.2) j=1 i=1 Trong đó p0j là xác suất để xi thuộc vào lớp Zj : PC |Zj | ( nji ) p0 j = S = 1 S và pji = (nZjij ) |Z j| là số mẫu của thuộc tính Z có thuộc tính nhãn thuộc lớp B i. Pm |Zj | = i=1 n ij Chỉ số Gain của thuộc tính Z [17]: Gain(Z ) = E (S ) − E (S |Z ) (2.5) Z Sau khi tính GainRatio của tất cả các thuộc tính. Thuộc tính nào có giá trị GainRatio lớn nhất sẽ được chọn làm ngưỡng phân chia.3 Ứng dụng cây quyết định cho dự báo Churn.

Cây quyết định là một trong những thuật toán học máy phổ biến nhất hiện nay. Nó được sử dụng trong bài toán phân lớp và hồi quy. Đối với bài toán dự báo Churn, cây quyết định sẽ là cây phân lớp nhị phân với hai lớp (Churn và Non-churn). Cây quyết định sẽ cho ta cái nhìn rất trực quan và rõ ràng về phân lớp.