Cải tiến thuật toán SVM với SVM song song ứng dụng vào phân lớp và dự báo số khách hàng sử dụng di động

• Tác giả: Nguyên Xuân Sang
• Người hướng dẫn: PGS.TS Nguyễn Đình Thuân
• Trường học: Học viện công nghệ bưu chính viễn thông
• Chuyên ngành: Hệ thống thông tin
• Đề tài: Cải tiến thuật toán svm với svm song song, ứng dụng vào phân lớp và dự báo số khách hàng sử dụng di động
• Loại tài liệu: Luận văn thạc sĩ kỹ thuật (Theo định hướng ứng dụng)
• Năm xuất bản: 2022
• Địa điểm: Thành phố Hồ Chí Minh

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI CÁM ƠN
• MẶC LẠC
• DANH MỤC KÝ HIỆU, CHỮ VIẾT TẮT
• DANH SÁCH BẢNG
• DANH SÁCH HÌNH VẼ
• 1. CHƯƠNG 1: TỔNG QUAN
• 1.1. Khách hàng rời mạng và dự báo khách hàng rời mạng
• 1.2. Tình hình dự báo khách hàng rời mạng
• 1.3. Những vấn đề còn tồn tại
• 1.4. Mục tiêu, nội dung, phương pháp nghiên cứu
• 2. CHƯƠNG 2: MÔ HÌNH KẾT HỢP LOGISTIC REGRESSION VÀ SUPPORT VECTOR MACHINE
• 2.1. Mô hình Logistic Regression
• 2.1.1. Giới thiệu
• 2.1.2. Mô hình Logistic
• 2.1.3. Hàm Sigmoid
• 2.1.4. Hàm mất mát và phương pháp tối ưu
• 2.2. Support Vector Machine
• 2.3. Mô hình kết hợp Logistic Regression và Support Vector Machine
• 2.4. Một số kết quả tham khảo và đánh giá
• 3. CHƯƠNG 3: DỰ BÁO TẠI VIỄN THÔNG TÂY NINH
• 3.1. Giới thiệu và công ty và bài toán dự báo
• 3.2. Chuẩn bị và tiền xử lý dữ liệu
• 3.2.1. Dự báo thành phần tuyến tính bằng mô hình LR
• 3.2.2. Dự báo thành phần phi tuyến bằng SVM
• 3.3. Kết quả dự báo và đánh giá
• 3.3.1. Độ chính xác của thuật toán
• 3.3.2. Kết quả dự báo và đánh giá
• 4. CHƯƠNG 4: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
• 4.1. Hướng phát triển
• DANH MỤC TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng Quan SVM và Dự Báo Khách Hàng Di Động Cải Tiến

Dịch vụ thông tin di động phát triển mạnh mẽ, trở thành phần không thể thiếu trong cuộc sống người dân Việt Nam. Quản lý khách hàng quan trọng vì giữ chân khách hàng hiện tại mang lại lợi nhuận lớn. Chi phí tìm khách hàng mới lớn hơn nhiều so với giữ chân khách hàng hiện tại, đặc biệt trong thị trường viễn thông bão hòa. Khách hàng dài hạn ít biến động hơn, ví dụ, khách hàng lâu năm ít chuyển sang công ty khác vì khuyến mãi và đóng góp nhiều lợi nhuận hơn. Các công ty viễn thông chú trọng đầu tư vào việc phát triển mô hình dự báo khách hàng rời mạng (churn prediction). Nhiều phương pháp tiếp cận máy học đã được đề xuất để dự báo khách hàng rời mạng, đặc biệt trong lĩnh vực kinh doanh viễn thông. Các phương pháp này bao gồm thuật toán Random Forest (RF), Naive Bayes (NB), Logistic Regression (LR) và Support Vector Machine (SVM). Tuy nhiên, từng mô hình dự báo đều có hạn chế riêng, ví dụ NB cần lượng dữ liệu lớn để đạt độ chính xác cao hay SVM có thời gian thực thi cao và độ phức tạp lớn. Để giải quyết các hạn chế đó, trong những năm gần đây nhiều nhà khoa học nghiên cứu các phương pháp khai phá dữ liệu dựa trên sự kết hợp của hai hay nhiều phương pháp. Sự kết hợp này bước đầu mang lại kết quả tích cực khi các phương pháp khai phá dữ liệu kết hợp đã phát huy ưu điểm và khắc phục hạn chế của từng phương pháp đơn lẻ. Luận văn xin trình bày về phương pháp dự báo dữ liệu khách hàng rời mạng kết hợp giữa mô hình Logistic Regression (LR) và Support Vector Machine (SVM), cùng ứng dụng mô hình này vào dự báo khách hàng rời mạng tại Viễn Thông Tây Ninh. Đối tượng nghiên cứu tập trung vào các mô hình dự báo dữ liệu khách hàng rời mạng, đặc biệt là mô hình LR, thuật giải SVM và phương pháp kết hợp mô hình LR và SVM trong dự báo dữ liệu khách hàng rời mạng. Bên cạnh đó, đề tài còn trình bày kết quả áp dụng các mô hình dự báo dữ liệu khách hàng rời mạng vào trong thực tế dựa trên bộ dữ liệu được thu thập tại Viễn Thông Tây Ninh. Phạm vi nghiên cứu của đề tài giới hạn trong việc tìm hiểu và ứng dụng các mô hình dự báo dữ liệu khách hàng rời mạng, mô hình LR, thuật giải SVM và mô hình kết hợp LR và SVM. Tuy phạm vi nghiên cứu giới hạn nhưng đề tài mang lại một số ý nghĩa về khoa học và thực tiễn.

1.1. Phân tích lợi ích của dự báo churn trong viễn thông

Dự báo churn giúp các công ty viễn thông chủ động hơn trong việc giữ chân khách hàng. Bằng cách xác định những khách hàng có nguy cơ rời mạng cao, các công ty có thể triển khai các chiến dịch giữ chân một cách hiệu quả hơn. Điều này giúp giảm chi phí tìm kiếm khách hàng mới và tăng lợi nhuận. Theo Jeff Bezos, “Chúng tôi coi khách hàng của mình là khách của một bữa tiệc, và chúng tôi là chủ nhà. Công việc của chúng tôi hàng ngày là làm cho mọi khía cạnh trải nghiệm khách hàng trở nên tốt hơn một chút”. Cải thiện tỷ lệ giữ chân khách hàng là một quá trình liên tục, và hiểu được tỷ lệ khách hàng rời mạng là bước đầu tiên đúng hướng.

1.2. Vai trò của các thuật toán học máy trong churn prediction

Các thuật toán học máy đóng vai trò quan trọng trong việc dự báo churn. Chúng cho phép phân tích dữ liệu lịch sử để tìm ra các mô hình và yếu tố dự đoán churn. Các thuật toán phổ biến như Random Forest, Naive Bayes, Logistic Regression, và Support Vector Machine được sử dụng rộng rãi. Mỗi thuật toán có ưu và nhược điểm riêng, phù hợp với các loại dữ liệu và yêu cầu khác nhau. Việc lựa chọn thuật toán phù hợp là yếu tố then chốt để đạt được độ chính xác cao trong dự báo churn.

II. Thách Thức Hạn Chế Khi Dùng SVM Truyền Thống Dự Báo

Mỗi một mô hình, phương pháp dự báo khách hàng rời mạng đều chỉ có thể phù hợp với một số dạng dữ liệu đặc thù, mà chưa có một mô hình nào có thể dự báo tốt được cho tất cả các dạng dữ liệu, ví dụ như những mô hình dựa trên xác suất thống kê như mô hình hồi quy Logistic Regression chỉ phù hợp để dự báo cho các dữ liệu dạng tuyến tính (linear), còn các mô hình máy học như SVM lại chỉ phù hợp để dự báo cho các dạng dữ liệu phi tuyến tính. Mặt khác, dữ liệu trong thực tế đa số đều tính tuyến tính và phi tuyến tính, nên việc chỉ sử dụng một mô hình, phương pháp để dự báo dữ liệu khách hàng rời mạng thường chưa mang lại kết quả như mong đợi. Do đó việc tìm hiểu và áp dụng kết hợp các mô hình, phương pháp dự báo dữ liệu khách hàng rời mạng vào trong thực tế là cần thiết để tăng độ chính xác của kết quả dự báo. Thứ hai, với tình hình thị trường viễn thông hiện nay, dữ liệu về khách hàng viễn thông rất lớn. Vấn đề đặt ra cần xây dựng một mô hình tối ưu về thời gian để có thể đáp ứng ngay lập tức nhu cầu tác độ dự báo của viễn thông hiện nay.

2.1. Vấn đề xử lý dữ liệu phi tuyến tính trong dự báo churn

Dữ liệu khách hàng trong ngành viễn thông thường mang tính phi tuyến tính cao. Điều này gây khó khăn cho các mô hình dự báo dựa trên giả định tuyến tính như Logistic Regression. Các mô hình phi tuyến tính như SVM có thể xử lý dữ liệu phi tuyến tính tốt hơn, nhưng lại có thể gặp vấn đề về hiệu suất tính toán khi dữ liệu lớn. Do đó, việc lựa chọn mô hình phù hợp với đặc tính dữ liệu là rất quan trọng.

2.2. Yêu cầu về tốc độ xử lý dữ liệu lớn trong viễn thông

Thị trường viễn thông ngày càng cạnh tranh, và các công ty cần dự báo churn một cách nhanh chóng để đưa ra các quyết định kịp thời. Tuy nhiên, dữ liệu khách hàng viễn thông thường rất lớn, gây khó khăn cho các mô hình dự báo, đặc biệt là những mô hình phức tạp như SVM. Việc cải thiện tốc độ xử lý dữ liệu là một thách thức lớn trong dự báo churn.

2.3. Khó khăn trong việc lựa chọn tham số tối ưu cho SVM

SVM là một mô hình mạnh mẽ, nhưng việc lựa chọn tham số tối ưu có thể rất khó khăn. Các tham số như kernel, C, và gamma có ảnh hưởng lớn đến hiệu suất của mô hình. Việc tìm kiếm các tham số tối ưu thường đòi hỏi nhiều thử nghiệm và tốn thời gian. Nếu tham số không được lựa chọn đúng cách, mô hình có thể bị overfitting hoặc underfitting.

III. SVM Song Song Giải Pháp Tối Ưu Hiệu Năng Tính Toán

Để giải quyết hạn chế về thời gian và độ phức tạp của SVM truyền thống, SVM song song được sử dụng. Mô hình này tận dụng sức mạnh của GPU để tăng tốc độ tính toán, giúp xử lý dữ liệu lớn một cách hiệu quả hơn. Phương pháp này duy trì độ chính xác tương đương với SVM truyền thống nhưng giảm đáng kể thời gian huấn luyện. Việc cài đặt sử dụng SVM song song thay thế cho SVM truyền thống. SVM song song sử dụng các GPU nhằm tăng tốc độ tính toán nhưng vẫn đạt được độ chính xác tương đương với SVM truyền thống.

3.1. Kiến trúc và nguyên lý hoạt động của SVM song song

SVM song song phân chia công việc tính toán thành các phần nhỏ hơn và thực hiện chúng đồng thời trên nhiều bộ xử lý (thường là GPU). Điều này giúp giảm đáng kể thời gian huấn luyện mô hình, đặc biệt khi dữ liệu lớn. Các kiến trúc song song phổ biến bao gồm song song dữ liệu, song song mô hình, và song song tác vụ.

3.2. Ưu điểm vượt trội của SVM song song so với SVM truyền thống

Ưu điểm chính của SVM song song là tốc độ tính toán nhanh hơn nhiều so với SVM truyền thống. Điều này cho phép xử lý dữ liệu lớn trong thời gian ngắn hơn. Ngoài ra, SVM song song có thể tận dụng sức mạnh của nhiều GPU để tăng tốc độ tính toán hơn nữa. Vẫn giữ độ chính xác như SVM truyền thống.

3.3. Các công cụ và thư viện hỗ trợ SVM song song phổ biến

Một số công cụ và thư viện hỗ trợ SVM song song phổ biến bao gồm ThunderSVM, cuSVM, và GPU-SVM. Các công cụ này cung cấp các API và hàm để thực hiện tính toán song song trên GPU, giúp đơn giản hóa quá trình phát triển và triển khai SVM song song.

IV. Cách Cải Tiến Thuật Toán SVM Dự Báo Khách Hàng Di Động

Mục tiêu của đề tài nhằm tìm hiểu và áp dụng kết hợp mô hình Logistic Regression và SVM song song trong dự báo dữ liệu khách hàng rời mạng. Ứng dụng mô hình này vào dự báo số khách hàng sử dụng dịch vụ viễn thông của Viễn Thông Tây Ninh. Lý do đề tài lựa chọn mô hình Logistic Regression và phương pháp SVM song song để kết hợp dự báo vì: Mô hình LR và phương pháp SVM trong ước lượng hồi quy đều là những mô hình, phương pháp dự báo khách hàng rời mạng cho kết quả dự báo tương đối tốt. Tùy thuộc vào đặc tính của dữ liệu khách hàng rời mạng mà mô hình LR và phương pháp SVM thường được lựa chọn để thực hiện dự báo. Mô hình LR được chọn để dự báo cho thành phần tuyến tính của dữ liệu khách hàng rời mạng, còn phương pháp SVM thường được chọn để dự báo cho thành phần phi tuyến tính của dữ liệu khách hàng rời mạng. Do đó mà mô hình kết hợp LR và SVM trong dự báo dữ liệu khách hàng rời mạng hy vọng sẽ phát huy được các ưu điểm của mô hình LR cũng như phương pháp SVM để cho kết quả dự báo chính xác hơn là sử dụng một mô hình, phương pháp dự báo đơn lẻ.

4.1. Kết hợp LR và SVM Ưu điểm và cơ chế hoạt động

Mô hình kết hợp LR và SVM tận dụng ưu điểm của cả hai mô hình. LR được sử dụng để xử lý thành phần tuyến tính của dữ liệu, trong khi SVM được sử dụng để xử lý thành phần phi tuyến tính. Kết quả dự đoán từ cả hai mô hình được kết hợp để đưa ra dự đoán cuối cùng. Cơ chế hoạt động có thể là kết hợp bằng cách trung bình, hoặc sử dụng một mô hình học máy khác để học cách kết hợp các dự đoán.

4.2. Ứng dụng Feature Engineering để tăng độ chính xác

Feature engineering là quá trình lựa chọn, biến đổi và tạo ra các thuộc tính mới từ dữ liệu gốc để cải thiện hiệu suất của mô hình học máy. Trong dự báo churn, các kỹ thuật feature engineering có thể được sử dụng để tạo ra các thuộc tính phản ánh tốt hơn hành vi của khách hàng, như tần suất sử dụng dịch vụ, thời gian sử dụng, và các chỉ số tương tác khác.

4.3. Tối ưu tham số SVM bằng các thuật toán tìm kiếm

Việc tối ưu tham số của SVM là rất quan trọng để đạt được hiệu suất tốt nhất. Các thuật toán tìm kiếm như grid search, random search, và Bayesian optimization có thể được sử dụng để tìm kiếm các tham số tối ưu. Các thuật toán này tự động thử nghiệm các tổ hợp tham số khác nhau và đánh giá hiệu suất của mô hình để tìm ra tổ hợp tốt nhất.

V. Ứng Dụng Thực Tế Dự Báo Churn Tại Viễn Thông Tây Ninh

Thực tế đã có những nghiên cứu và ứng dụng cho thấy hiệu quả của phương pháp kết hợp LR và SVM trong dự báo như Ứng dụng mô hình kết hợp LR và SVM trong dự báo tín dụng [12]. Mô hình kết hợp LR và SVM trong dự báo các chứng bệnh tim mạch trong y tế [13]. Tất cả các nghiên cứu và ứng dụng trên đều cho thấy kết quả dự báo của mô hình kết hợp LR và SVM hiệu quả hơn so với các mô hình, phương pháp dự báo đơn lẻ. Tuy nhiên với hạn chế về độ phức tạp và thời gian của SVM, mô hình sẽ rất tốn tài nguyên khi sử dụng SVM truyền thống. Chính vì vậy việc cài đặt sẽ sử dụng SVM song song thay thế cho SVM truyền thống. SVM song song sử dụng các GPUs nhằm tăng tốc độ tính toán nhưng vẫn đạt được độ chính xác tương đương với SVM truyền thống [14]. Mô hình LR và phương pháp SVM đều là những mô hình, phương pháp dự báo dữ liệu khách hàng rời mạng hiệu quả và đã được nghiên cứu từ lâu. Do đó mà các thư viện hỗ trợ cài đặt các mô hình, phương pháp này trong các ngôn ngữ lập trình nói chung và ngôn ngữ R nói riêng là tương đối đầy đủ. Chính vì vậy mà việc cài đặt và thử nghiệm mô hình kết hợp LR và phương pháp SVM là tương đối thuận lợi và nhanh chóng. Bên cạnh đó các tài liệu nghiên cứu về mô hình LR và phương pháp SVM cũng rất đa dạng và phong phú.

5.1. Chuẩn bị và tiền xử lý dữ liệu khách hàng tại VNPT Tây Ninh

Dữ liệu khách hàng từ VNPT Tây Ninh cần được chuẩn bị và tiền xử lý trước khi sử dụng cho mô hình dự báo. Các bước tiền xử lý có thể bao gồm làm sạch dữ liệu, xử lý dữ liệu thiếu, chuẩn hóa dữ liệu, và chuyển đổi dữ liệu sang định dạng phù hợp. Dữ liệu có thể bao gồm thông tin về thuê bao, lịch sử sử dụng, và các yếu tố khác.

5.2. Cài đặt và triển khai mô hình SVM song song trên GPU

Mô hình SVM song song cần được cài đặt và triển khai trên GPU để tận dụng khả năng tính toán song song. Các công cụ và thư viện như ThunderSVM có thể được sử dụng để đơn giản hóa quá trình này. Việc triển khai có thể được thực hiện trên máy chủ cục bộ hoặc trên nền tảng đám mây.

5.3. Đánh giá hiệu quả của mô hình dự báo và so sánh kết quả

Hiệu quả của mô hình dự báo cần được đánh giá bằng các chỉ số như độ chính xác, độ nhạy, độ đặc hiệu, và F1-score. Kết quả dự báo cần được so sánh với dữ liệu thực tế để đánh giá độ tin cậy của mô hình. Ngoài ra, kết quả cũng cần được so sánh với các mô hình dự báo khác để đánh giá tính cạnh tranh của mô hình SVM song song.

VI. Kết Luận Hướng Phát Triển Thuật Toán SVM Cải Tiến

Mục tiêu của đề tài là tìm hiểu và áp dụng kết hợp mô hình Logistic Regression và SVM song song trong dự báo dữ liệu khách hàng rời mạng. Ứng dụng mô hình này vào dự báo số khách hàng sử dụng dịch vụ viễn thông của Viễn Thông Tây Ninh. Lý do đề tài lựa chọn mô hình Logistic Regression và phương pháp SVM song song để kết hợp dự báo vì: Mô hình LR và phương pháp SVM trong ước lượng hồi quy đều là những mô hình, phương pháp dự báo khách hàng rời mạng cho kết quả dự báo tương đối tốt. Tùy thuộc vào đặc tính của dữ liệu khách hàng rời mạng mà mô hình LR và phương pháp SVM thường được lựa chọn để thực hiện dự báo. Mô hình LR được chọn để dự báo cho thành phần tuyến tính của dữ liệu khách hàng rời mạng, còn phương pháp SVM thường được chọn để dự báo cho thành phần phi tuyến tính của dữ liệu khách hàng rời mạng. Do đó mà mô hình kết hợp LR và SVM trong dự báo dữ liệu khách hàng rời mạng hy vọng sẽ phát huy được các ưu điểm của mô hình LR cũng như phương pháp SVM để cho kết quả dự báo chính xác hơn là sử dụng một mô hình, phương pháp dự báo đơn lẻ.

6.1. Tóm tắt kết quả nghiên cứu và đánh giá tiềm năng ứng dụng

Nghiên cứu đã trình bày về việc cải tiến thuật toán SVM thông qua SVM song song và ứng dụng vào dự báo số lượng khách hàng sử dụng di động. Kết quả cho thấy SVM song song cải thiện đáng kể tốc độ tính toán so với SVM truyền thống, đồng thời vẫn duy trì được độ chính xác cao. Mô hình kết hợp LR và SVM giúp nâng cao hiệu quả dự báo, tận dụng ưu điểm của cả hai phương pháp. Tiềm năng ứng dụng của mô hình này trong ngành viễn thông là rất lớn, giúp các công ty chủ động hơn trong việc giữ chân khách hàng và tối ưu hóa chiến lược kinh doanh.

6.2. Hướng nghiên cứu tiếp theo và mở rộng ứng dụng SVM song song

Trong tương lai, nghiên cứu có thể tập trung vào việc mở rộng ứng dụng SVM song song cho các bài toán khác trong ngành viễn thông, như dự báo nhu cầu sử dụng dịch vụ, phân tích hành vi khách hàng, và phát hiện gian lận. Ngoài ra, có thể nghiên cứu các phương pháp tối ưu hóa SVM song song hơn nữa để giảm thời gian tính toán và tăng độ chính xác. Kết hợp với các kỹ thuật học sâu (Deep Learning) để tạo ra mô hình dự báo mạnh mẽ hơn.

6.3. Khuyến nghị cho việc triển khai mô hình dự báo churn trong thực tế

Để triển khai mô hình dự báo churn trong thực tế, cần chú trọng đến việc thu thập và chuẩn bị dữ liệu một cách kỹ lưỡng. Dữ liệu cần được làm sạch, chuẩn hóa, và chuyển đổi sang định dạng phù hợp. Ngoài ra, cần lựa chọn các tham số tối ưu cho mô hình và đánh giá hiệu quả của mô hình một cách thường xuyên. Quan trọng nhất là sự phối hợp giữa các chuyên gia kỹ thuật và các chuyên gia kinh doanh để đảm bảo rằng mô hình dự báo đáp ứng được nhu cầu thực tế của doanh nghiệp.

Nội dung chính

Tổng quan nghiên cứu

Trong bối cảnh ngành viễn thông di động tại Việt Nam phát triển mạnh mẽ với hơn 128 triệu thuê bao di động tính đến năm 2017, việc quản lý và duy trì khách hàng trở thành một thách thức lớn. Tỷ lệ khách hàng rời mạng (churn rate) ngày càng tăng trong khi thị trường viễn thông đang dần bão hòa, khiến các doanh nghiệp phải tập trung vào việc dự báo và giảm thiểu tình trạng này nhằm giữ chân khách hàng và tối ưu hóa lợi nhuận. Mục tiêu nghiên cứu của luận văn là phát triển và ứng dụng mô hình dự báo khách hàng rời mạng dựa trên sự kết hợp giữa Logistic Regression (LR) và Support Vector Machine (SVM) song song, nhằm nâng cao độ chính xác và hiệu quả dự báo cho Viễn Thông Tây Ninh trong giai đoạn từ tháng 07/2019 đến 12/2019.

Nghiên cứu tập trung vào việc khai thác dữ liệu khách hàng trả trước, bao gồm các thông tin về hành vi sử dụng dịch vụ, thanh toán, khuyến mãi và trạng thái rời mạng, với phạm vi dữ liệu thu thập từ hệ thống quản lý của Viễn Thông Tây Ninh. Ý nghĩa của nghiên cứu được thể hiện qua việc cải thiện tỷ lệ dự báo chính xác khách hàng rời mạng, từ đó giúp doanh nghiệp xây dựng các chiến lược giữ chân khách hàng hiệu quả, giảm thiểu chi phí thu hút khách hàng mới và nâng cao doanh thu trong thị trường cạnh tranh khốc liệt.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn dựa trên hai mô hình dự báo chính:

• Logistic Regression (LR): Mô hình hồi quy logistic được sử dụng để dự báo xác suất một khách hàng rời mạng dựa trên các biến độc lập tuyến tính. Hàm sigmoid trong LR chuyển đổi đầu vào thành xác suất trong khoảng từ 0 đến 1, phù hợp với bài toán phân loại nhị phân. LR phù hợp với thành phần tuyến tính của dữ liệu khách hàng.

• Support Vector Machine (SVM): Thuật toán máy vector hỗ trợ là phương pháp phân lớp mạnh mẽ, đặc biệt hiệu quả với dữ liệu phi tuyến tính nhờ sử dụng hàm kernel. SVM tìm siêu phẳng tối ưu phân tách hai lớp dữ liệu với margin lớn nhất, giúp tăng khả năng phân biệt chính xác. Phiên bản SVM song song sử dụng GPU để tăng tốc quá trình huấn luyện, giảm thời gian tính toán so với SVM truyền thống.

Các khái niệm chính bao gồm margin trong SVM, hàm sigmoid trong LR, soft margin và kernel để xử lý dữ liệu nhiễu và phi tuyến tính, cũng như kỹ thuật kết hợp mô hình nhằm tận dụng ưu điểm của từng phương pháp.

Phương pháp nghiên cứu

Nguồn dữ liệu chính là tập dữ liệu khách hàng trả trước của Viễn Thông Tây Ninh, thu thập trong 6 tháng từ 07/2019 đến 12/2019, bao gồm 26 biến đặc trưng như loại gói dịch vụ, khu vực phát sinh cước, doanh thu các loại dịch vụ, số lượng cuộc gọi, thời lượng gọi, số tiền nạp thẻ và trạng thái rời mạng. Dữ liệu được làm sạch, loại bỏ các bản ghi thiếu hoặc không hợp lệ, mã hóa các biến dạng chuỗi sang dạng số để phù hợp với mô hình.

Phương pháp phân tích gồm:

• Huấn luyện mô hình Logistic Regression để dự báo thành phần tuyến tính của dữ liệu.
• Huấn luyện mô hình SVM song song để dự báo thành phần phi tuyến tính.
• Kết hợp kết quả dự báo của hai mô hình để tạo mô hình tổng hợp, nâng cao độ chính xác.
• So sánh hiệu quả dự báo giữa các mô hình LR, SVM, LR kết hợp Naive Bayes, LR kết hợp Random Forest và LR kết hợp SVM.

Cỡ mẫu nghiên cứu là toàn bộ dữ liệu khách hàng trả trước trong khoảng thời gian trên, với phương pháp chọn mẫu toàn bộ dữ liệu có sẵn. Thời gian nghiên cứu kéo dài trong năm 2021-2022, bao gồm các giai đoạn thu thập, xử lý dữ liệu, huấn luyện mô hình và đánh giá kết quả.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Độ chính xác dự báo của mô hình Logistic Regression đạt 83.0%, thể hiện khả năng dự báo tốt thành phần tuyến tính trong dữ liệu khách hàng rời mạng.

2. Mô hình SVM truyền thống đạt độ chính xác khoảng 45.8%, trong khi SVM song song cải thiện thời gian huấn luyện từ 0.4576 giây xuống còn 0.36385 giây, giúp tăng hiệu quả tính toán mà vẫn giữ được độ chính xác tương đương.

3. Mô hình kết hợp Logistic Regression và SVM đạt độ chính xác cao nhất, khoảng 85%, vượt trội hơn so với các mô hình kết hợp khác như LR + Naive Bayes (31%) hay LR + Random Forest (84.9%).

4. Biểu đồ so sánh độ chính xác các mô hình cho thấy mô hình kết hợp LR và SVM có hiệu quả dự báo tốt nhất, đồng thời biểu đồ thời gian huấn luyện minh họa ưu thế của SVM song song trong việc giảm thiểu thời gian xử lý.

Thảo luận kết quả

Kết quả cho thấy mô hình Logistic Regression phù hợp với thành phần tuyến tính của dữ liệu khách hàng, trong khi SVM xử lý tốt các thành phần phi tuyến tính, đặc biệt khi sử dụng kernel và soft margin để thích nghi với dữ liệu nhiễu và không phân tách tuyến tính. Việc kết hợp hai mô hình này tận dụng được ưu điểm của từng phương pháp, khắc phục hạn chế khi sử dụng riêng lẻ, từ đó nâng cao độ chính xác dự báo khách hàng rời mạng.

So với các nghiên cứu trước đây trong lĩnh vực dự báo tín dụng và y tế, mô hình kết hợp LR và SVM cũng cho kết quả vượt trội, khẳng định tính ứng dụng rộng rãi của phương pháp này trong khai phá dữ liệu khách hàng viễn thông. Việc áp dụng SVM song song với ThunderSVM giúp giảm đáng kể thời gian huấn luyện, phù hợp với yêu cầu xử lý dữ liệu lớn và thời gian thực tế trong doanh nghiệp.

Kết quả dự báo chính xác giúp Viễn Thông Tây Ninh có thể xây dựng các chiến lược giữ chân khách hàng hiệu quả hơn, giảm thiểu tỷ lệ rời mạng, từ đó tăng doanh thu và lợi nhuận trong bối cảnh cạnh tranh gay gắt.

Đề xuất và khuyến nghị

1. Triển khai mô hình kết hợp Logistic Regression và SVM song song trong hệ thống quản lý khách hàng nhằm nâng cao độ chính xác dự báo khách hàng rời mạng, giảm thiểu sai số dự báo xuống dưới 15% trong vòng 6 tháng tới. Chủ thể thực hiện: Bộ phận phân tích dữ liệu và CNTT của Viễn Thông Tây Ninh.

2. Tăng cường thu thập và làm sạch dữ liệu khách hàng trả trước, đặc biệt các biến liên quan đến hành vi sử dụng dịch vụ và thanh toán, nhằm đảm bảo chất lượng dữ liệu đầu vào cho mô hình. Thời gian thực hiện: liên tục trong năm 2023. Chủ thể: Phòng quản lý dữ liệu và chăm sóc khách hàng.

3. Đào tạo nhân viên kỹ thuật và phân tích dữ liệu về kỹ thuật huấn luyện và vận hành mô hình SVM song song sử dụng ThunderSVM, giúp tối ưu hóa hiệu suất xử lý và ứng dụng mô hình trong thực tế. Thời gian: 3 tháng đầu năm 2023. Chủ thể: Ban đào tạo và phát triển nguồn nhân lực.

4. Xây dựng hệ thống cảnh báo sớm khách hàng có nguy cơ rời mạng dựa trên kết quả dự báo, kết hợp với các chương trình khuyến mãi và chăm sóc khách hàng cá nhân hóa, nhằm tăng tỷ lệ giữ chân khách hàng lên ít nhất 10% trong năm tiếp theo. Chủ thể: Phòng marketing và chăm sóc khách hàng.

Đối tượng nên tham khảo luận văn

1. Các nhà quản lý và chuyên viên phân tích dữ liệu trong ngành viễn thông: Nghiên cứu cung cấp phương pháp dự báo khách hàng rời mạng hiệu quả, giúp họ xây dựng chiến lược giữ chân khách hàng và tối ưu hóa doanh thu.

2. Nhà nghiên cứu và sinh viên chuyên ngành khoa học dữ liệu, kỹ thuật phần mềm và công nghệ thông tin: Luận văn trình bày chi tiết về mô hình Logistic Regression, SVM và kỹ thuật kết hợp, cùng ứng dụng thực tiễn trong khai phá dữ liệu lớn.

3. Các doanh nghiệp cung cấp dịch vụ viễn thông và truyền thông: Tham khảo để áp dụng mô hình dự báo khách hàng rời mạng, từ đó nâng cao năng lực cạnh tranh trên thị trường.

4. Nhà phát triển phần mềm và kỹ sư dữ liệu: Tài liệu cung cấp hướng dẫn cài đặt và vận hành mô hình SVM song song với ThunderSVM, giúp tối ưu hóa hiệu suất xử lý dữ liệu lớn.

Câu hỏi thường gặp

1. Mô hình Logistic Regression có phù hợp với dữ liệu phi tuyến tính không?
   Logistic Regression chủ yếu phù hợp với dữ liệu có mối quan hệ tuyến tính giữa biến độc lập và biến phụ thuộc. Với dữ liệu phi tuyến tính, mô hình này có thể không dự báo chính xác, do đó cần kết hợp với các mô hình như SVM để xử lý thành phần phi tuyến tính.

2. SVM song song khác gì so với SVM truyền thống?
   SVM song song sử dụng GPU để thực hiện các phép tính đồng thời, giúp giảm đáng kể thời gian huấn luyện so với SVM truyền thống chạy trên CPU đơn. Điều này rất hữu ích khi xử lý dữ liệu lớn hoặc phức tạp.

3. Tại sao cần kết hợp Logistic Regression và SVM trong dự báo khách hàng rời mạng?
   Dữ liệu khách hàng thường bao gồm cả thành phần tuyến tính và phi tuyến tính. Kết hợp LR và SVM giúp tận dụng ưu điểm của từng mô hình, nâng cao độ chính xác dự báo so với việc sử dụng riêng lẻ.

4. Dữ liệu khách hàng trả trước cần chuẩn bị những gì để áp dụng mô hình?
   Cần thu thập đầy đủ thông tin về hành vi sử dụng dịch vụ, thanh toán, khuyến mãi, trạng thái rời mạng và các biến đặc trưng khác. Dữ liệu phải được làm sạch, loại bỏ giá trị thiếu và mã hóa phù hợp để mô hình có thể xử lý hiệu quả.

5. Mô hình dự báo này có thể áp dụng cho các nhà mạng khác không?
   Có thể áp dụng, tuy nhiên cần điều chỉnh và huấn luyện lại mô hình dựa trên đặc thù dữ liệu và hành vi khách hàng của từng nhà mạng để đảm bảo độ chính xác và hiệu quả.

Kết luận

• Luận văn đã phát triển thành công mô hình kết hợp Logistic Regression và Support Vector Machine song song nhằm dự báo khách hàng rời mạng cho Viễn Thông Tây Ninh.
• Mô hình kết hợp đạt độ chính xác dự báo khoảng 85%, vượt trội so với các mô hình đơn lẻ và các mô hình kết hợp khác.
• Việc sử dụng SVM song song với ThunderSVM giúp giảm thời gian huấn luyện, phù hợp với xử lý dữ liệu lớn trong thực tế.
• Kết quả nghiên cứu có ý nghĩa thực tiễn cao, hỗ trợ doanh nghiệp xây dựng chiến lược giữ chân khách hàng hiệu quả, giảm thiểu chi phí và tăng doanh thu.
• Đề xuất các bước tiếp theo bao gồm triển khai mô hình vào hệ thống quản lý khách hàng, đào tạo nhân sự và phát triển hệ thống cảnh báo sớm khách hàng rời mạng.

Các đơn vị liên quan cần phối hợp triển khai mô hình dự báo, đồng thời tiếp tục thu thập và cập nhật dữ liệu để nâng cao hiệu quả dự báo trong tương lai.