Nghiên Cứu Mô Hình Kết Hợp Học Giám Sát và Bán Giám Sát Trong Dự Báo Khách Hàng Rời Mạng Vinaphone

Chuyên đề nghiên cứu Mô Hình Học Giám Sát và Bán Giám Sát Dự Báo Khách Hàng ..., cập nhật xu hướng mới, giá trị tham khảo cao cho chuyên gia toán học

• Tác giả: Nguyễn Thị Hoàn
• Người hướng dẫn: PGS. Hà Quang Thụy
• Trường học: Đại học Quốc gia Hà Nội
• Chuyên ngành: Công nghệ thông tin
• Đề tài: Mô Hình Học Giám Sát và Bán Giám Sát Dự Báo Khách Hàng Rời Mạng Vinaphone
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2015
• Địa điểm: Hà Nội

Mục lục chi tiết

• Lời cảm ơn
• Danh mục các hình vẽ và bảng biểu
• Danh mục từ viết tắt
• MỞ ĐẦU
• 1. Chương 1: Khái quát bài toán dự đoán khách hàng rời mạng
• 1.1. Bài toán dự đoán khách hàng rời mạng
• 1.2. Vai trò của khai phá dữ liệu trong quản lý khách hàng rời mạng
• 1.3. Một số nghiên cứu cho bài toán dự đoán khách hàng rời mạng
• 1.3.1. Đánh giá hiệu quả của mô hình
• 1.3.2. Một số mô hình nghiên cứu về dự đoán khách hàng rời mạng
• 1.4. Tóm tắt chương 1
• 2. Chương 2: Một số mô hình điển hình cho bài toán dự đoán khách hàng rời mạng
• 2.1. Mô hình dựa trên luật cho bài toán dự đoán khách hàng rời mạng dịch vụ viễn thông
• 2.1.1. Giới thiệu mô hình phân lớp dựa trên luật
• 2.1.2. Mô hình sinh các luật
• 2.1.3. Kết quả và đánh giá mô hình
• 2.2. Mô hình học lai cho bài toán dự đoán khách hàng rời mạng
• 2.3. Tóm tắt chương 2
• 3. Chương 3: Mô hình kết hợp giám sát và bán giám sát cho bài toán dự đoán khách hàng rời mạng
• 3.1. Tiếp cận mô hình bài toán
• 3.2. Tiền xử lý dữ liệu
• 3.3. Mô hình học giám sát dựa trên thuật toán K-NN
• 3.4. Mô hình học bán giám sát dựa trên thuật toán self-training
• 3.5. Mô hình học giám sát dựa trên hệ thống luật
• 3.6. Tổng kết chương 3
• 4. Chương 4: Thực nghiệm và đánh giá kết quả
• 4.1. Môi trường thực nghiệm
• 4.2. Quá trình thực nghiệm
• 4.3. Kết quả thực nghiệm
• 4.4. Đánh giá kết quả và hướng nghiên cứu tiếp theo
• 4.5. Tóm tắt chương 4
• Tài liệu tham khảo

Tóm tắt

I. Khái quát bài toán dự đoán khách hàng rời mạng

Bài toán dự đoán khách hàng rời mạng là một thách thức lớn trong ngành viễn thông. Khách hàng rời mạng (customer churn) được định nghĩa là những khách hàng có giá trị rời bỏ dịch vụ của một nhà mạng để chuyển sang nhà mạng khác. Việc quản lý khách hàng rời mạng (churn management) là rất quan trọng để giữ chân khách hàng. Nghiên cứu cho thấy tỉ lệ khách hàng ngưng sử dụng dịch vụ có thể lên tới 2% mỗi tháng. Điều này có nghĩa là các nhà mạng có thể mất gần ¼ lượng khách hàng mỗi năm. Việc áp dụng khai phá dữ liệu trong quản lý khách hàng rời mạng giúp các nhà cung cấp dịch vụ xác định và dự đoán các churner dựa trên các thuộc tính của khách hàng như thông tin hợp đồng, log sử dụng dịch vụ và thông tin thanh toán. Kỹ thuật khai phá dữ liệu cho phép trích xuất thông tin hữu ích từ dữ liệu lớn, giúp các công ty tìm ra các xu hướng quan trọng trong hành vi của khách hàng.

1.1. Vai trò của khai phá dữ liệu trong quản lý khách hàng rời mạng

Khai phá dữ liệu đóng vai trò quan trọng trong việc phân tích và hiểu hành vi của khách hàng. Công cụ này giúp các nhà cung cấp dịch vụ viễn thông tối ưu hóa giá trị khách hàng và giữ chân khách hàng tiềm năng. Các kỹ thuật như phân cụm, luật quy nạp, và mạng neuron thường được sử dụng để phát hiện các mẫu trong dữ liệu khách hàng. Việc áp dụng khai phá dữ liệu không chỉ giúp dự đoán khách hàng có nguy cơ rời mạng mà còn giúp cải thiện các chiến lược chăm sóc khách hàng. Theo Leijeune, kỹ thuật này cho phép biến đổi dữ liệu gốc thành tri thức kinh doanh, từ đó giúp các công ty đưa ra quyết định chính xác hơn trong việc quản lý khách hàng.

1.2. Một số nghiên cứu cho bài toán dự đoán khách hàng rời mạng

Nhiều nghiên cứu đã được thực hiện để phát triển các mô hình dự đoán khách hàng rời mạng. Các mô hình này thường sử dụng các thuộc tính như thông tin tiểu sử khách hàng, thông tin tài khoản, và dịch vụ sử dụng để dự đoán hành vi của khách hàng. Việc đánh giá hiệu quả của mô hình dự đoán thường dựa trên tỉ lệ True Prediction (TP) và False Prediction (FP). Mục tiêu là đạt được tỉ lệ TP cao và FP thấp. Các mô hình như hồi quy logic, cây quyết định, và mạng neuron nhân tạo đã được áp dụng rộng rãi trong nghiên cứu này. Những nghiên cứu này không chỉ giúp hiểu rõ hơn về hành vi của khách hàng mà còn cung cấp các giải pháp hiệu quả cho việc quản lý khách hàng rời mạng.

II. Một số mô hình điển hình cho bài toán dự đoán khách hàng rời mạng

Trong chương này, các mô hình điển hình cho bài toán dự đoán khách hàng rời mạng sẽ được giới thiệu. Mô hình dựa trên luật (CRL) là một trong những phương pháp nổi bật. Phương pháp này cho phép xây dựng các luật rõ ràng và dễ hiểu, giúp các nhà quản lý dễ dàng áp dụng trong thực tiễn. Mô hình này sử dụng các thuộc tính của khách hàng để phân loại và dự đoán hành vi rời mạng. Các nghiên cứu đã chỉ ra rằng mô hình CRL có thể đạt được độ chính xác cao trong việc dự đoán khách hàng rời mạng. Bên cạnh đó, mô hình học lai cũng được đề xuất, kết hợp giữa học giám sát và bán giám sát, nhằm cải thiện độ chính xác của dự đoán.

2.1. Mô hình dựa trên luật cho bài toán dự đoán khách hàng rời mạng

Mô hình phân lớp dựa trên luật (CRL) là một phương pháp nổi tiếng trong việc dự đoán khách hàng rời mạng. Phương pháp này sử dụng các luật để phân loại khách hàng, giúp dễ dàng hiểu và áp dụng. Nghiên cứu cho thấy rằng việc áp dụng các luật quy nạp có thể giúp phát hiện các mẫu hành vi của khách hàng, từ đó đưa ra các biện pháp giữ chân khách hàng hiệu quả hơn. Mô hình này không chỉ giúp dự đoán khách hàng rời mạng mà còn cung cấp thông tin hữu ích cho việc phát triển các chiến lược chăm sóc khách hàng.

2.2. Mô hình học lai cho bài toán dự đoán khách hàng rời mạng

Mô hình học lai kết hợp giữa học giám sát và bán giám sát đã được đề xuất để cải thiện độ chính xác trong dự đoán khách hàng rời mạng. Mô hình này sử dụng thuật toán self-training để tối ưu hóa quá trình học từ dữ liệu có nhãn và không có nhãn. Việc kết hợp này giúp tăng cường khả năng dự đoán, đặc biệt trong các tình huống mà dữ liệu có nhãn hạn chế. Các nghiên cứu đã chỉ ra rằng mô hình học lai có thể đạt được hiệu suất tốt hơn so với các mô hình truyền thống, từ đó giúp các nhà cung cấp dịch vụ viễn thông quản lý khách hàng hiệu quả hơn.

III. Mô hình kết hợp giám sát và bán giám sát cho bài toán dự đoán khách hàng rời mạng

Mô hình kết hợp giữa học giám sát và bán giám sát là một trong những điểm nhấn của nghiên cứu này. Mô hình này không chỉ sử dụng dữ liệu có nhãn mà còn tận dụng dữ liệu không có nhãn để cải thiện độ chính xác của dự đoán. Quá trình tiền xử lý dữ liệu là rất quan trọng, giúp chuẩn hóa và làm sạch dữ liệu trước khi áp dụng các thuật toán học. Mô hình học giám sát dựa trên thuật toán K-NN và mô hình học bán giám sát dựa trên thuật toán self-training đã được áp dụng để dự đoán khách hàng có nguy cơ rời mạng. Kết quả cho thấy mô hình kết hợp này có thể đạt được độ chính xác cao hơn so với các mô hình đơn lẻ.

3.1. Tiếp cận mô hình bài toán

Tiếp cận mô hình bài toán dự đoán khách hàng rời mạng được thực hiện thông qua việc phân tích và lựa chọn các thuộc tính quan trọng. Việc xác định các thuộc tính này giúp tối ưu hóa quá trình dự đoán và nâng cao hiệu quả của mô hình. Các thuộc tính như thông tin tiểu sử khách hàng, thông tin tài khoản và dịch vụ sử dụng được xem xét kỹ lưỡng. Mô hình học giám sát và bán giám sát được áp dụng để phân tích hành vi của khách hàng, từ đó đưa ra các dự đoán chính xác về khả năng rời mạng của họ.

3.2. Tiền xử lý dữ liệu

Tiền xử lý dữ liệu là bước quan trọng trong quá trình xây dựng mô hình dự đoán. Quá trình này bao gồm việc làm sạch dữ liệu, chuẩn hóa và chuyển đổi các thuộc tính liên tục thành các thuộc tính rời rạc. Việc chuẩn hóa dữ liệu giúp các thuật toán học dễ dàng xử lý và cải thiện độ chính xác của mô hình. Các kỹ thuật như phân cụm và luật quy nạp cũng được áp dụng để tối ưu hóa quá trình tiền xử lý, từ đó giúp mô hình hoạt động hiệu quả hơn.

IV. Thực nghiệm và đánh giá kết quả

Chương này trình bày quá trình thực nghiệm và đánh giá kết quả của mô hình dự đoán khách hàng rời mạng. Môi trường thực nghiệm được thiết lập để kiểm tra hiệu suất của mô hình. Kết quả thực nghiệm cho thấy mô hình kết hợp giữa học giám sát và bán giám sát đạt được độ chính xác cao trong việc dự đoán khách hàng có nguy cơ rời mạng. Việc đánh giá kết quả được thực hiện thông qua các chỉ số như tỉ lệ TP và FP, từ đó đưa ra các nhận xét về hiệu quả của mô hình. Hướng nghiên cứu tiếp theo cũng được đề xuất để cải thiện hơn nữa độ chính xác của mô hình.

4.1. Môi trường thực nghiệm

Môi trường thực nghiệm được thiết lập với các công cụ và phần mềm hỗ trợ cho việc phân tích dữ liệu. Các tập dữ liệu được sử dụng trong thực nghiệm bao gồm thông tin khách hàng, log sử dụng dịch vụ và thông tin thanh toán. Việc lựa chọn tập dữ liệu phù hợp là rất quan trọng để đảm bảo tính chính xác của mô hình. Các thuật toán học giám sát và bán giám sát được áp dụng để phân tích dữ liệu và đưa ra dự đoán về khả năng rời mạng của khách hàng.

4.2. Kết quả thực nghiệm

Kết quả thực nghiệm cho thấy mô hình kết hợp giữa học giám sát và bán giám sát đạt được độ chính xác cao trong việc dự đoán khách hàng rời mạng. Các chỉ số như tỉ lệ TP và FP được sử dụng để đánh giá hiệu quả của mô hình. Kết quả cho thấy mô hình có khả năng phát hiện các churner một cách chính xác, từ đó giúp các nhà cung cấp dịch vụ có thể đưa ra các biện pháp kịp thời để giữ chân khách hàng. Hướng nghiên cứu tiếp theo sẽ tập trung vào việc cải thiện độ chính xác của mô hình thông qua việc tối ưu hóa các thuộc tính đầu vào và áp dụng các thuật toán học mới.

Nội dung chính

Tổng quan nghiên cứu

Thị trường viễn thông di động đang chứng kiến sự cạnh tranh vô cùng khốc liệt khi mức độ bão hòa thuê bao ngày càng gia tăng. Theo các nghiên cứu thị trường từ Berson và Smith, tỷ lệ khách hàng ngưng sử dụng dịch vụ tại các nhà mạng di động chạm ngưỡng khoảng 2% mỗi tháng, đồng nghĩa với việc doanh nghiệp có thể mất đi gần 25% tổng lượng khách hàng trong vòng một năm. Đối với các nhà mạng tại châu Á và đặc biệt là Việt Nam, chi phí để tiếp cận và phát triển một thuê bao mới thường cao gấp 5 đến 7 lần so với chi phí duy trì một thuê bao hiện hữu. Do đó, việc chuyển dịch từ chiến lược mở rộng thị phần sang quản lý và giữ chân khách hàng có nguy cơ rời mạng (churn management) trở thành ưu tiên sống còn.

Vấn đề cốt lõi đặt ra là làm thế nào để phát hiện sớm các thuê bao trả sau có ý định ngừng dịch vụ hoặc chuyển mạng trong điều kiện dữ liệu lịch sử chưa gán nhãn chiếm tỷ trọng áp đảo, trong khi dữ liệu gán nhãn lại rất hạn chế. Đề tài tập trung xây dựng một mô hình lai tiên tiến kết hợp giữa học bán giám sát (Self-training dựa trên K-NN) và học giám sát dựa trên quy nạp luật (FOIL), nhằm dự báo chính xác nguy cơ rời mạng của thuê bao VinaPhone. Phạm vi nghiên cứu thực nghiệm được triển khai trên tập dữ liệu khách hàng trả sau của mạng VinaPhone trong giai đoạn từ tháng 6 đến tháng 9 năm 2015.

Nghiên cứu mang lại giá trị thực tiễn to lớn khi nâng cao chỉ số F1-score từ mức 32,39% của thuật toán K-NN đơn lẻ lên đến 73,80% ở mô hình lai đề xuất. Kết quả này cung cấp cho VinaPhone một công cụ tự động hóa thông minh, hỗ trợ bộ phận chăm sóc khách hàng chủ động can thiệp kịp thời, tối ưu hóa ngân sách tiếp thị giữ chân và bảo vệ nguồn doanh thu dịch vụ hàng tỷ đồng mỗi quý.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng trên nền tảng lý thuyết khai phá dữ liệu (Data Mining) và quản trị quan hệ khách hàng (CRM). Theo định nghĩa từ Viện SAS và Lejeune, khai phá dữ liệu trong viễn thông là quá trình biến đổi các tập dữ liệu giao dịch lớn thành tri thức kinh doanh hữu ích để tìm ra các mẫu hành vi chưa từng được biết đến. Trong bức tranh tổng thể đó, bài toán dự báo khách hàng rời mạng (Customer Churn Prediction) được mô hình hóa dưới dạng bài toán phân lớp nhị phân, phân tách tập khách hàng thành hai nhóm: nhóm rời mạng (churn) và nhóm ở lại (non-churn).

Khung lý thuyết của luận văn tích hợp ba trụ cột công nghệ chính:

1. Mô hình học bán giám sát (Semi-supervised Learning): Sử dụng kỹ thuật Self-training xuất hiện từ thập niên 1960. Phương pháp này tận dụng một lượng nhỏ dữ liệu đã gán nhãn ban đầu để huấn luyện bộ phân lớp cơ sở, sau đó lặp lại quy trình gán nhãn cho các mẫu chưa gắn nhãn có độ tin cậy cao nhất để mở rộng không gian học.
2. Thuật toán K láng giềng gần nhất (K-Nearest Neighbors - K-NN): Đóng vai trò là bộ phân loại cơ sở trong quá trình Self-training, đo lường độ tương đồng giữa các thuê bao dựa trên không gian khoảng cách đa chiều.
3. Quy nạp luật bậc một (First Order Inductive Learning - FOIL): Được đề xuất bởi Quinlan vào năm 1990, FOIL hoạt động theo nguyên lý từ chung đến riêng (top-down) để sinh ra tập các luật dạng "NẾU... THÌ..." tường minh từ các mẫu tích cực, giúp loại bỏ nhiễu và tăng cường khả năng diễn giải cho quyết định phân lớp.

Bên cạnh đó, luận văn kế thừa và so sánh với các mô hình tiêu biểu như mô hình học luật CRL (Classification by Rules Learning), mô hình tiến hóa DMEL (Data Mining by Evolutionary Learning) và mô hình phân cụm lai của Ying Huang và Mohand Tahar Kechadi (từng đạt độ đo AUC 89,61% trên tập 104.199 bản ghi với 121 thuộc tính).

Phương pháp nghiên cứu

Nghiên cứu sử dụng nguồn dữ liệu thực tế từ hệ thống mạng VinaPhone với tổng quy mô 1.947 thuê bao trả sau. Cỡ mẫu nghiên cứu được cấu trúc thành hai tập riêng biệt: tập huấn luyện gồm 1.447 thuê bao (trong đó có 1.000 thuê bao ở lại và 447 thuê bao rời mạng) và tập kiểm thử độc lập gồm 500 thuê bao trả sau. Phương pháp chọn mẫu phân tầng có chủ đích được áp dụng nhằm phản ánh chính xác cấu trúc dữ liệu hành vi viễn thông trong thực tế.

Dữ liệu thô ban đầu được trích xuất từ nhật ký tổng đài và hệ thống tính cước trong 3 tháng liên tiếp (tháng 6, tháng 7 và tháng 8 năm 2015) để dự báo hành vi rời mạng trong tháng 9 năm 2015. Mỗi bản ghi thuê bao được trích chọn và chuẩn hóa thành 20 trường thông tin đặc trưng, bao gồm: mức cước phát sinh 3 tháng, số tiền nợ cước, tần suất và thời lượng cuộc gọi đi, số lượng tin nhắn SMS, lưu lượng dữ liệu 3G (VOL_DATA), số lượng dịch vụ giá trị gia tăng (NUM_GTGT), hình thức thanh toán (Ezpay hoặc in hóa đơn) và số ngày hoạt động trong tháng (NUM_ACDATE).

Quy trình nghiên cứu trải qua 3 pha phân tích chặt chẽ:

• Pha 1 - Tiền xử lý và gán trọng số: Rời rạc hóa các biến liên tục, chuyển đổi các thuộc tính định danh (khách hàng cá nhân, khách hàng doanh nghiệp) thành dạng số nhị phân, chuẩn hóa thang đo cước và áp dụng ma trận trọng số đặc trưng (Weight1 và Weight2) ưu tiên các biến tài chính như nợ cước và sụt giảm doanh thu.
• Pha 2 - Đào tạo mô hình lai: Khởi tạo bộ phân loại K-NN với tham số láng giềng k bằng 1/3 số mẫu tương đồng lớn nhất. Tại mỗi vòng lặp Self-training, hệ thống tự động chọn lọc 5% số lượng mẫu test có độ tin cậy phân loại cao nhất để bổ sung ngược lại vào tập mẫu. Sau đó, thuật toán FOIL tiến hành sinh tập luật phân lớp từ tập mẫu mở rộng này.
• Pha 3 - Phân lớp và đánh giá: Thực hiện tái kiểm tra các mẫu được dự báo là churn bằng hệ thống luật FOIL để loại bỏ các trường hợp dương tính giả (false positive). Kết quả được lượng hóa thông qua ma trận nhầm lẫn (Confusion Matrix), tỷ lệ dự đoán đúng (Accuracy) và thước đo F1-score.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm đối sánh giữa mô hình học máy đơn lẻ K-NN và mô hình lai đề xuất trên tập 500 thuê bao kiểm thử của VinaPhone đã chỉ ra nhiều phát hiện quan trọng:

• Sự vượt trội toàn diện về chỉ số F1-score: Dưới cấu hình trọng số Weight2 (ưu tiên cao cho biến nợ và cước phát sinh), mô hình lai đề xuất đạt chỉ số F1-score lên đến 73,80%, trong khi thuật toán K-NN truyền thống chỉ đạt 32,39%. Mức cải thiện vượt bậc hơn 41,41% khẳng định khả năng phát hiện chính xác các thuê bao thực sự có nguy cơ rời mạng mà không làm suy giảm hiệu năng tổng thể.
• Khả năng triệt tiêu cảnh báo sai (False Positives): Trên 500 mẫu thử nghiệm, mô hình K-NN độc lập dự báo tới 124 thuê bao rời mạng nhưng chỉ có 36 thuê bao là rời mạng thực tế (tỷ lệ dự báo sai lên tới 88 thuê bao, độ chính xác dự đoán churn chỉ đạt 29,03%). Ngược lại, mô hình kết hợp Self-training và FOIL chỉ dự báo 56 thuê bao rời mạng và xác định chính xác 41 thuê bao rời mạng thực tế (chỉ có 15 trường hợp cảnh báo sai), nâng độ chính xác của lớp churn lên 73,21%.
• Tối ưu hóa độ chính xác toàn cục: Mô hình lai đạt độ chính xác tổng thể (Accuracy) 94,00% khi phân lớp đúng 470 trên tổng số 500 thuê bao kiểm thử (bao gồm 41 thuê bao churn và 429 thuê bao non-churn), cao hơn hẳn so với mức độ chính xác 71,00% (355/500 thuê bao đúng) của mô hình K-NN đơn lẻ.
• Vai trò quyết định của bộ trọng số đặc trưng: Kết quả so sánh giữa hai bộ trọng số cho thấy Weight2 mang lại hiệu năng cao hơn Weight1 (F1-score đạt 73,80% so với 70,40%). Các thuộc tính như cước phát sinh tháng gần nhất (CUOC08 < 49.000 VNĐ), dư nợ cước (NO < 10.000 VNĐ) và số ngày hoạt động (NUM_ACDATE < 25 ngày) đóng vai trò là tiền đề xuất hiện liên tục trong các luật tối ưu của FOIL.

Thảo luận kết quả

Sự chênh lệch hiệu năng rõ rệt giữa hai phương pháp phản ánh bản chất phức tạp của dữ liệu viễn thông. Trong không gian dữ liệu đa chiều, các thuật toán dựa trên khoảng cách hình học thuần túy như K-NN thường bị nhiễu bởi hiện tượng chồng lấn biên giữa nhóm khách hàng bình thường và khách hàng sắp rời mạng. Việc áp dụng Self-training giúp mô hình từng bước mở rộng tập mẫu huấn luyện một cách có kiểm soát thông qua ngưỡng tin cậy 5% mỗi chu kỳ, từ đó củng cố độ vững chắc của biên phân chia.

Đặc biệt, pha phân lớp thứ hai bằng hệ thống luật FOIL đóng vai trò như một bộ lọc thông minh. Một khách hàng có hành vi tương tự nhóm rời mạng ở cấp độ véc-tơ nhưng không thỏa mãn các quy tắc logic cốt lõi sẽ bị loại khỏi danh sách cảnh báo churn. Ví dụ, luật suy diễn: "NẾU cuoc08 < 49.000 VÀ no < 10.000 VÀ accDate < 25 THÌ Nhãn = CHURN" đã cung cấp một lời giải thích nghiệp vụ vô cùng rõ ràng cho các nhà quản trị mạng, khắc phục hoàn toàn nhược điểm "hộp đen" của các mô hình mạng nơ-ron đa lớp (MLP) hay máy véc-tơ hỗ trợ (SVM).

Khi so sánh với các công bố quốc tế, kết quả F1-score 73,80% trên dữ liệu thực tế tại Việt Nam tương đương với hiệu quả của các mô hình học lai phức tạp của Ying Huang (đạt AUC khoảng 89% đến 90%), nhưng lại có ưu điểm vượt trội về chi phí tính toán và tính khả thi trong việc triển khai trực tiếp vào hệ sinh thái phần mềm hiện có của VinaPhone. Toàn bộ diễn biến dữ liệu có thể được hệ thống hóa qua bảng tổng hợp ma trận nhầm lẫn và biểu đồ cột so sánh F1-score giữa các cấu hình tham số nhằm phục vụ công tác giám sát hiệu năng theo thời gian thực.

Đề xuất và khuyến nghị

Dựa trên kết quả nghiên cứu thực nghiệm, luận văn đưa ra 4 nhóm giải pháp chiến lược nhằm tối ưu hóa công tác quản trị khách hàng tại nhà mạng:

• Triển khai hệ thống cảnh báo sớm tự động (Early Warning System): Khối Công nghệ thông tin VinaPhone cần tích hợp trực tiếp module mô hình lai vào cơ sở dữ liệu Oracle 11g và kho dữ liệu Data Warehouse hiện hành. Thiết lập chu kỳ quét định kỳ 30 ngày vào tuần cuối cùng của mỗi tháng để tự động trích xuất danh sách thuê bao có xác suất rời mạng cao, hướng tới mục tiêu phát hiện sớm ít nhất 75% khách hàng nguy cơ trước ngày khóa cước 15 ngày.
• Xây dựng chương trình chăm sóc khách hàng cá nhân hóa: Phòng Quản lý Sản phẩm và Chăm sóc khách hàng cần thiết lập các chính sách ưu đãi nhắm trúng đích trong vòng 1 đến 3 tháng tiếp theo. Đối với nhóm thuê bao thỏa mãn luật có cước phát sinh giảm mạnh dưới 50.000 VNĐ và ngày hoạt động dưới 25 ngày, cần gửi thông điệp tri ân, tặng gói lưu lượng data 3G/4G miễn phí hoặc chiết khấu 10% đến 15% cước đóng trước qua Ezpay nhằm hạ tỷ lệ rời mạng hàng tháng xuống dưới 1,2%.
• Hoàn thiện hạ tầng thu thập và làm giàu dữ liệu (Data Enrichment): Trong lộ trình 6 tháng tới, Trung tâm Dữ liệu cần bổ sung thêm các trường thông tin phi cấu trúc như lịch sử khiếu nại qua tổng đài chăm sóc khách hàng, tần suất tra cứu gói cước trên ứng dụng di động và chỉ số chất lượng dịch vụ mạng (tỷ lệ cuộc gọi rớt) nhằm gia tăng độ chính xác phân lớp lên mức trên 80% F1-score.
• Tối ưu hóa trọng số đặc trưng động theo chu kỳ: Nhóm phân tích dữ liệu cần định kỳ 3 tháng một lần tái hiệu chỉnh ma trận trọng số (Weight) của các thuộc tính bằng các giải pháp học tiến hóa hoặc thuật toán di truyền, thích ứng kịp thời với sự biến động trong thói quen tiêu dùng data và các gói cước tích hợp mới trên thị trường.

Đối tượng nên tham khảo luận văn

Nội dung luận văn mang tính ứng dụng cao và là tài liệu tham khảo giá trị cho 4 nhóm đối tượng chính:

• Kỹ sư dữ liệu và chuyên gia Machine Learning ngành viễn thông: Cung cấp phương pháp luận chi tiết và mã nguồn tích hợp giữa Self-training và thuật toán sinh luật FOIL, giúp áp dụng trực tiếp để xử lý các bài toán mất cân bằng dữ liệu và thiếu nhãn trong phân tích hành vi người dùng.
• Giám đốc Marketing và Trưởng bộ phận CRM tại các nhà mạng di động: Nắm bắt được các quy luật hành vi then chốt dẫn đến quyết định rời mạng của thuê bao trả sau, từ đó thiết kế các kịch bản giữ chân khách hàng (retention campaigns) tối ưu về mặt chi phí và đạt tỷ lệ chuyển đổi cao.
• Học viên cao học và nghiên cứu sinh ngành Hệ thống thông tin, Khoa học dữ liệu: Tham khảo khung nghiên cứu học thuật chuẩn mực, cách thức thiết kế thực nghiệm trên dữ liệu lớn doanh nghiệp, phương pháp đánh giá mô hình phân lớp nhị phân qua ma trận nhầm lẫn và độ đo F1-score.
• Kiến trúc sư giải pháp phần mềm doanh nghiệp: Vận dụng mô hình để xây dựng các phân hệ hỗ trợ ra quyết định (Decision Support Systems - DSS) trong các lĩnh vực lân cận như ngân hàng, tài chính tiêu dùng, bảo hiểm và dịch vụ thuê bao số (SaaS).

Câu hỏi thường gặp

Tại sao bài toán dự báo rời mạng viễn thông lại cần kết hợp học bán giám sát và học giám sát?

Trong môi trường viễn thông thực tế, số lượng thuê bao chưa gán nhãn lên tới hàng triệu bản ghi trong khi số mẫu được xác nhận rời mạng rất hạn chế. Học bán giám sát giúp tận dụng tối đa lượng dữ liệu chưa gán nhãn khổng lồ để mở rộng tập học, trong khi học giám sát dựa trên luật đóng vai trò sàng lọc chính xác, loại trừ các cảnh báo sai.

Thuật toán Self-training trong mô hình hoạt động như thế nào để chọn lọc dữ liệu bổ sung?

Self-training sử dụng K-NN làm bộ phân lớp lõi để đánh giá độ tương đồng của tập mẫu kiểm thử. Tại mỗi vòng lặp, thuật toán đo độ chênh lệch giữa số lượng láng giềng thuộc hai lớp và chỉ trích xuất đúng 5% số lượng mẫu có độ tin cậy cao nhất để gán nhãn giả định và đưa vào tập huấn luyện cho vòng kế tiếp.

Ưu điểm vượt trội của việc sử dụng thuật toán sinh luật FOIL so với các mô hình "hộp đen" là gì?

FOIL tạo ra các quy tắc phân loại dạng "NẾU... THÌ..." dựa trên logic vị từ bậc nhất rất rõ ràng và mạch lạc. Điều này giúp các nhà quản trị kinh doanh hiểu rõ nguyên nhân cụ thể khiến khách hàng rời mạng (như nợ cước kết hợp giảm ngày hoạt động) thay vì chỉ nhận được một con số xác suất thuần túy từ mô hình hộp đen.

Việc lựa chọn trọng số đặc trưng (Weight) ảnh hưởng như thế nào đến độ chính xác của dự báo?

Dữ liệu viễn thông có nhiều thuộc tính với mức độ ảnh hưởng khác nhau đến hành vi khách hàng. Thực nghiệm chứng minh trọng số Weight2 (tập trung vào biến nợ và cước) giúp F1-score đạt 73,80%, cao hơn 3,4% so với Weight1 (70,40%), chứng minh việc đánh giá đúng tầm quan trọng của thuộc tính tài chính là then chốt.

Mô hình đề xuất có thể mở rộng cho các nhà mạng khác ngoài VinaPhone hay không?

Hoàn toàn có thể. Quy trình tiền xử lý 20 đặc trưng, cơ chế học Self-training và bộ quy nạp luật FOIL được thiết kế theo cấu trúc module chuẩn hóa. Các nhà mạng khác như Viettel, MobiFone chỉ cần ánh xạ các trường dữ liệu cước, thoại và dữ liệu tương đương là có thể triển khai thực nghiệm thành công.

Kết luận

• Đóng góp học thuật: Đề xuất thành công mô hình lai kết hợp học bán giám sát Self-training (K-NN) và quy nạp luật FOIL, giải quyết hiệu quả thách thức khan hiếm dữ liệu gán nhãn trong bài toán churn prediction.
• Đột phá về hiệu năng thực nghiệm: Nâng chỉ số F1-score từ 32,39% lên 73,80% và cắt giảm hơn 80% lượng cảnh báo sai trên tập 500 thuê bao trả sau VinaPhone.
• Giá trị thực tiễn và tính minh bạch: Hệ thống luật trích xuất từ dữ liệu cung cấp tri thức kinh doanh tường minh, hỗ trợ lãnh đạo nhà mạng đưa ra quyết định giữ chân khách hàng chuẩn xác.
• Định hướng phát triển tiếp theo: Mở rộng kiểm thử mô hình với các thuật toán tối ưu trọng số tự động và nâng quy mô tập dữ liệu lên hàng trăm nghìn thuê bao trong giai đoạn 2026-2027.
• Hành động khuyến nghị: Các đơn vị viễn thông và doanh nghiệp dịch vụ số nên nhanh chóng ứng dụng khung giải pháp này vào hệ thống CRM để chủ động bảo vệ thị phần và tối đa hóa giá trị vòng đời khách hàng.

Trích đoạn nội dung tài liệu

Chương 1 cũng đề cập đến vai trò của khai phá dữ liệu và một số kỹ thuật khai phá dữ liệu dùng trong bài toán dự đoán khách hàng có nguy cơ rời mạng. Trong chương tiếp theo, luận văn sẽ giới thiệu chi tiết hai mô hình dự đoán khách hàng rời mạng: Mô hình dự đoán dựa trên học luật và mô hình dựa trên học giám sát và không giám sát của Ying Huwang và cộng sự. 8 Chƣơng 2: Một số mô hình điển hình cho bài toán dự đoán khách hàng rời mạng 2. Mô hình dựa trên luật cho bài toán dự đoán khách hàng rời mạng dịch vụ viễn thông 2.

Giới thiệu mô hình phân lớp dựa trên luật Phương pháp phân lớp dựa trên học luật (classification by rule learning (CRL)) là một phương pháp nổi tiếng. Một trong những đặc trưng của quy nạp luật là chúng rõ ràng và dễ hiểu hơn những mô hình khác. Đã có nhiều nghiên cứu về lĩnh vực này. Trong xử lý luật quy nạp, hai phương pháp thường được sử dụng là: general-to- specific(top-down) tức là xử lý từ luật chung đến các luật riêng và phương pháp specific-to-general (bottom-up) tức là đi từ các luật riêng tới các luật chung.

Trong đó, phương pháp top-down thường được áp dụng rộng rãi hơn. “Luật” được định nghĩa là một mệnh đề dạng: {NẾU Tiền đề THEN kết quả}, với tiền đề được định nghĩa là một sự kết hợp của một số cặp <thuộc tính, khoảng cách> và kết quả là nhãn của lớp. “Luật chung” và “luật riêng” là hai khái niệm quan trọng. Thông thường, một luật với cặp <thuộc tính, khoảng cách> nhỏ hơn trong kết quả thì “chung” hơn.

Mô hình sinh các luật Phân lớp dựa trên học luật (CRL) là một chiến lược từ chung-đến-riêng, vì vậy, nó bắt đầu bằng việc sinh các luật chung, first-order luật, sau đó sinh các luật lớp cao hơn dựa vào các luật bậc thập hơn (lower-order). Thuật toán [Giải thuật1] bên dưới minh họa việc xử lý sinh tập luật. Với SETrules là tập luật được sinh ra, k là số bậc. và threshold là số bậc tối đa.

Giải thuật 1: CRL Algorithm (training data) 1: SETrules ←  ; 2: k ← 1; 3: SETrules ← First_order_rules(training data) 4: While k ≤ threshold do 5: high_order ← Higher_order_rules(lower_order_rules); 6: SETrules ← SETrules high_order; 8: end while 9: return SETrules 9 First-order Rules (Giải thuật 2): Thuật toán sinh ra luật bậc đầu tiên first-order rules. Để tránh mất thông tin, tất cả các cặp <thuộc tính, khoảng cách> được đưa vào tài khoản. Trong thuật toán 2, num_attribute, num_interval và num_class định nghĩa số thuộc tính, số khoảng cách của thuộc tính hiện tại và số phân lớp khác nhau. Đầu tiên, set first_order_rule là rỗng, ruleijk là luật có dạng “IF fi=Intervalj THEN Classk”, Nếu Prunning(ruleijk) trả lại false, thì ruleijk được xem là một luật hữu ích.

Giải thuật 2: First_order_rules(training data) 1. First_order_rules ←  ; 2. For i=1; i ≤ num_attribute; i++ do 3. For j=1; j≤ num_interval; j++ do 4.

For k=1; k≤ num_class; k++ do 5. If Pruning (ruleijk) returns fales then 6. First_order_rules ← First_order_rule ruleijk 7. Return First_order_rules High-order Rules (Giải thuật 3): Highter-order rules được xây dựng lặp lại từ các luật cấp thấp hơn.

Luật (n-1)_order là cơ sơ để xây dựng luật n_order. Trong thuật toán 3, item được dùng để định nghĩa một cặp <thuộc tính, khoảng cách>, positive_items bao gồm tất các các phần tử được trích xuất từ tất cả các luật dương. Tập các negative-items cũng được sinh tương tự. Mỗi luật riêng được đặc tả bởi thuật toán hill_climbing để thêm một phần tử vào phần tiền đề của luật hiện tại.

Để đánh giá chất lượng của luật được sinh ra, chúng ta có thể sử dụng độ đo Weighted Relative Accuracy (WRA), được tính như sau: Num _(a) Num _(a, c) Num(c) WRA  x(  ) Num _ total Num _(a) Num _ total 10 Trong đó Num_(a) và Num_(c) là số trường hợp dữ liệu được trích xuất từ tiền đề và kết quả của luật, và num_total được định nghĩa là số trường hợp trong tập dữ liệu học. Giải thuật 3: Higher_order_rules (a set of lower_order_rules) 1. positive_items ← get all exclusive items from positive_lower_order_rules; 3. negative_items ← get all exclusive items from negative_lower_order_rules; 4.

For i=1; i ≤ num_positive_rules; i++ do 6. High_rule ← hill_climbing (positivei , positive_item); 7. If Pruning (high_rule) returns false then 8. WRAi ← calculate the Weighted_Relative_Accuracy for high_rule; 9.

If WRAi is not in the list of accuracy_list then 10. all_rules ← all_rules high_rule; 11. accuracy_list ← accuracy_list WRAi ; 12. do same work to generate negative_rules; 16.

all_rules ← all_rules negative_rule; 17. return all_rules Thuật toán hill_climbing Giải thuật 4: hill_climbing (one_lower_rule, all_low_items) 1. for i=1; i ≤ num_low_items; i++ do 3. If one_lower_rule does not include itemi then 4.

one_high_rule ← combination of one_lower_rule and itemi; 5. WRAi ← calculate the Weighted_Relative_Accuracy for one_high_rule; 6. accuracy_list ← accuracy_list WRAi ; 7. BEST ← one of high order rules having the highest WRA; 10.

return BEST Số lương luật sinh ra có thể rất lớn, để việc phân lớp được hiệu quả, Ying Hwuang và cộng sự đã loại bỏ bớt những luật xấu với các thông tin nhiễu hoặc không quan trọng. 11 Thông thường, một thống kê mẫu  2 được xử dụng để kiểm tra nếu tồn tại một quan hệ tuyến tính mạnh giữa hai thuộc tính.  2 được tính như sau: (O  E )2 2  E Với O và E là tần số mong đợi và quan sát, được tính bằng công thức: Num _(a) xNum _(c) O  Num _(a, c) E Num _ total Ngoài ra, còn có độ đánh giá Support và Confidence được sử dụng để đánh giá luật có bị loại bỏ (pruned) hay không? Num _(a, c) Num _(a, c) Support  Confidence  Num _ total Num _(a) Giải thuật (5) là một giải thuật tìm ra một luật có bị loại bỏ hay không? Với  là ngưỡng giá trị đánh giá  2 , minS và minC là hai giá trị ngưỡng, được định nghĩa là giá trị nhỏ nhất của support và confidence. Giải thuật 5: pruning (rule) 1.

If chi-square statistics > α AND support_rule > minS AND Confidence_rule > minC then 3. Phân lớp Để phân lớp cho tập dữ liệu, Ying Hwuang và cộng sự coi Rules bao gồm hai lớp: churn và non-churn. Hai mô hình dự đoán được xây dựng dựa trên tất cả các luật churn và tất cả các luật non-churn. Để đánh giá độ quan trọng của các luật, Ying Hwuang và cộng sử xếp hạng các luật trong mỗi mô hình dựa trên một số nguyên lý sau:  Nếu confidence_1 > confidence_2 thì luật rule_1 có độ ưu tiên cao hơn rule_2.

 Nếu confidence_1= confedence_2 và support_1 > support_2 thì luật rule_1 có độ ưu tiên cao hơn rule_2. 12  Nếu confidence_1 = confedence_2 và support_1 = support_2 vàn rule_2 là “chung” hơn luật rule_2 thì rule_1 có độ ưu tiên cao hơn rule_2. Sau khi xếp hạng, mỗi luật có một vị trí trong mỗi mô hình dự đoán, nếu một luật có độ quan trọng hơn các luật khác thì nó có vị trí tốt hơn. Ying Hwuang và cộng sự định nghĩa mực độ quan trọng của mỗi luật như sau: Num _ rules  position S ignificance _ level  Num _ rules Với Num_rules là số luật, position được định nghĩa là vị trí của luật trong tập luật được xếp hạng.

Vì vậy, luật quan trọng nhất thì significance_level có giá trị 1, 1 ngược lại, luật ít quan trọng nhất thì độ quan trọng là. Để phân lớp một Num _ rules đối tượng, tìm tất cả các luật trong mô hình churn và non-churn, nếu tổng Significance_level của tất các luật được trích xuất trong mô hình churn mà lớn hơn mô hình non-churn , thì gán nhãn churn đối tượng, ngược lại, đối tượng sẽ gán nhãn non- churn. Kết quả và đánh giá mô hình Trong phần thực nghiệm, Ying Hwuang và cộng sự sử dụng 4 tập dữ liệu UCI và 6 tập dữ liệu viễn thông của mạng viễn thông Ireland. Tập dữ liệu của Ying Hwuang và cộng sự.

Giá trị AUC được tính theo công thức sau: S0  n0 x(n0  1) x0.5 AUC  n0 n1 Với S0 là tổng xếp hạng của lớp 0 (churn) tập mẫu, n0 là số tập mẫu thuộc về lớp 0 (churn) và n1 là số tập mẫu thuộc lớp 1 (nonchurn). 13 Hình 2: So sánh độ AUC giữa các mô hình Hình trên mô tả kết quả so sánh AUC khi áp dụng CRL và DMEL với các tỉ lệ churn-rate khác nhau: (a):1%, (b) :2%, (c): 4%, (d): 6%, (e): 8%, (f):10%. Mô hình học lai cho bài toán dự đoán khách hàng rời mạng Ngoài mô hình phân lớp dựa trên luật, Ying Hwuang và công sự M.Tahar còn xây dựng mô hình lai để dự đoán các hành vi tương lai của khách hàng. Ý tưởng chính cho mô hình học lai là dự đoán khách hàng theo dữ liệu học tương tự với nó.

Giả thiết rằng, khách hàng có thuộc tính giống nhau thì hành vi sẽ giống nhau. Vì vậy, sẽ chính xác hơn nếu một đối tượng chưa gán nhãn được dự đoán sử dụng đối tượng học hơn là toàn bộ dữ liệu bằng cách chia dữ liệu học thành các cụm và đối tượng test được gán nhãn theo cụm gần nó nhất. 15 Mô hình lai của Ying Hwuang và cộng sự gồm 3 phần chính: Chuẩn hóa dữ liệu, đào tạo mô hình học lai và phân lớp. Chuẩn hóa dữ liệu: Dữ liệu gồm các thông tin biểu diễn dưới các dạng khác nhau.

Rời rạc hóa dữ liệu là quá trình biểu diễn dữ liệu dưới dạng vector, trong đó các trường dữ liệu liên tục được biểu diễn thành các dạng rời rạc ví dụ dữ liệu dạng số. Trong mô hình của Ying Hwuang và cộng sự, tác giả sử dụng kỹ thuật rời rạc hóa dữ liệu lớp phụ thuộc (Class -Dependent) để chuẩn hóa dữ liệu chứa ký tự và thuộc tính liên tục thành các dữ liệu dạng số. Đào tạo mô hình lai Trong mô hình lai của Ying Hwuang và cộng sự gồm hai phần: Phân cụm và sinh các luật a. Phân cụm k-mean và phân cụm k-mean có đánh trọng số  Phân cụm k-mean Kỹ thuật phân cụm được sử dụng rộng rãi trong rất nhiệu ứng dụng khai phá dữ liệu.

Có nhiều thuật toán phân cụm như: phân cụm có thứ bậc, phân cụm mờ, phân cụm cứng, trong đó phân cụm k-mean là kỹ thuật đơn giản, tương tự với phân cụm cứng. Xét tập dữ liệu cần phân cụm D, với K là só cụm và o là một đối tượng thuộc D. Ci và ci là cụm và trung tâm cụm thứ i. Thuật toán K-Mean khởi tạo K trung tâm cụm ban đầu.

Tại mỗi bước lặp, mỗi đối tượng trong D sẽ được tính khoảng các tới các trung tâm cụm, và gán vào cụm gần nó nhất. Tiếp theo, sẽ tính toán lại trung tâm các cụm. Quá trình này lặp đi lặp lại cho tới khi trung tâm các cụm không thay đổi. Giải thuật K-means 1.