HàC VIÆN CÔNG NGHÆ B¯U CHÍNH VIÄN THÔNG ----------------------------------- NguyÅn Tráng ThÁo NGHIÊN CĀU XÂY DĂNG MÔ HÌNH ENSEMBLE LEARNING Đ DĂ BÁO KHÁCH HÀNG RâI M¾NG T¾I VNPT TÂY NINH ĐÀ ÁN TàT NGHIÆP TH¾C SỸ KỸ THU¾T (Theo đßnh h°áng āng dāng) THÀNH PHà Hâ CHÍ MINH – NM 2024 HàC VIÆN CÔNG NGHÆ B¯U CHÍNH VIÄN THÔNG -------------------------------------- NguyÅn Tráng ThÁo NGHIÊN CĀU XÂY DĂNG MÔ HÌNH ENSEMBLE LEARNING Đ DĂ BÁO KHÁCH HÀNG RâI M¾NG T¾I VNPT TÂY NINH Chuyên ngành: Há tháng thông tin Mã sá: 8.04 ĐÀ ÁN TàT NGHIÆP TH¾C SỸ KỸ THU¾T (Theo đßnh h°áng āng dāng) NG¯âI H¯àNG DẪN KHOA HàC: TS. HUỲNH TRàNG TH¯A THÀNH PHà Hâ CHÍ MINH – NM 2024 i LâI CAM ĐOAN Tôi cam oan rằng Å án tát nghiáp th¿c sĩ: <NGHIÊN CỨU XÂY DỰNG MÔ HÌNH ENSEMBLE LEARNING Đà DỰ BÁO KHÁCH HÀNG RÞI M¾NG T¾I VNPT TÂY NINH= là công trình nghiên cāu cÿa chính tôi. Tôi cam oan các sá liáu, kÃt quÁ nêu trong Å án là trung thăc và ch°a từng °āc ai công bá trong bÃt kỳ công trình nào khác. Không có sÁn phẩm/nghiên cāu nào cÿa ng°ãi khác °āc sÿ dăng trong Å án này mà không °āc trích d¿n theo úng quy ßnh.
Hã Chí Minh, ngày 14 tháng 05 nm 2024 Hác viên thăc hiÇn đÁ án NguyÅn Tráng ThÁo ii LâI CÀM ¡N Trong suát quá trình hác tÁp và nghiên cāu thăc hián Å án tát nghiáp th¿c sĩ, ngoài nỗ lăc cÿa bÁn thân, tôi ã nhÁn °āc să h°áng d¿n nhiát tình quý báu cÿa quý ThÅy Cô, cùng vái să ßng viên và ÿng hß cÿa gia ình, b¿n bè và ãng nghiáp. Vái lòng kính tráng và biÃt ¢n sâu sÃc, tôi xin gÿi lãi cÁm ¢n chân thành tái: Ban Giám Đác, Phòng ào t¿o sau ¿i hác và quý ThÅy Cô ã t¿o mái iÅu kián thuÁn lāi giúp tôi hoàn thành Å án. Tôi xin chân thành cÁm ¢n ThÅy TS. Huỳnh Tráng Th°a, ng°ãi thÅy kính yêu ã hÃt lòng giúp ÿ, h°áng d¿n, ßng viên, t¿o iÅu kián cho tôi trong suát quá trình thăc hián và hoàn thành Å án tát nghiáp th¿c sĩ.
Tôi xin chân thành cÁm ¢n gia ình, b¿n bè, ãng nghiáp trong c¢ quan ã ßng viên, hỗ trā tôi trong lúc khó khn ể tôi có thể hác tÁp và hoàn thành Å án. Mặc dù ã có nhiÅu cá gÃng, nỗ lăc, nh°ng do thãi gian và kinh nghiám nghiên cāu khoa hác còn h¿n chà nên không thể tránh khßi nhāng thiÃu sót. Tôi rÃt mong nhÁn °āc să góp ý cÿa quý ThÅy Cô cùng b¿n bè ãng nghiáp ể kiÃn thāc cÿa tôi ngày mßt hoàn thián h¢n. Xin chân thành cÁm ¢n! TP.
Hã Chí Minh, ngày 14 tháng 05 nm 2024 Hác viên thăc hiÇn đÁ án NguyÅn Tráng ThÁo iii DANH SÁCH HÌNH VẼ Hình 1. 1 Tỉ tráng sá l°āng thuê bao chuyển m¿ng giāa các nhà m¿ng tháng 10 nm 2022, nguãn Bß TT & TT. 2 Sá l°āng thuê bao chuyển m¿ng giāa các nhà m¿ng tháng 11 nm 2022, nguãn Bß TT & TT. 3 Sá l°āng thuê bao từ chái chuyển m¿ng giāa các nhà m¿ng tháng 11 nm 2022, nguãn Bß TT & TT.
1 Phân bá ngành nghÅ và lo¿i khách hàng trong tÁp dā liáu. 2 Phân bá phân lo¿i khách hàng theo doanh thu và m¿ng khác trong tÁp dā liáu. 3 Phân bá trÁ tr°ác và không phát sinh l°u l°āng trong tÁp dā liáu. 4 Phân bá tr¿ng thái thuê bao và gói sÿ dăng tích hāp trong tÁp dā liáu.
5 Phân bá giá c°ác trong tÁp dā liáu. 6 Phân bá tuåi cÿa thuê bao (tháng) trong tÁp dā liáu. 7 Phân bá sá dßch vă khác trong tÁp dā liáu. 8 Phân bá nā c°ác 2 tháng trong tÁp dā liáu.
9 Phân bá sá tháng sÿ dăng trong tÁp dā liáu. 10 Phân bá sá lÅn gia h¿n trong tÁp dā liáu. 11 Phân bá sá lÅn báo hßng trong tÁp dā liáu. 12 Ma trÁn t°¢ng quan các tham sá cÿa bß dā liáu sau xÿ lý.
13 Ma trÁn Scatter các tham sá cÿa bß dā liáu sau xÿ lý. 1 CÃu hình mô hình Baseline. 2 CÃu hình mô hình Logistic Regression thông th°ãng. 3 CÃu hình mô hình Logistic Regression hiáu chỉnh tham sá.
4 CÃu hình mô hình k-Nearest Neighbor Classifier thông th°ãng. 5 Error Rate vs K-Value theo UNIFORM cÿa mô hình kNN thông th°ãng. 6 Error Rate vs K Value theo DISTANCE cÿa mô hình kNN thông th°ãng. 7 CÃu hình mô hình k-Nearest Neighbor Classifier có hiáu chỉnh tham sá.
8 CÃu hình mô hình Naive Bayes Classifier. 9 CÃu hình mô hình Naive Bayes kÃt hāp Oversampling. 10 CÃu hình mô hình Logistic Regression kÃt hāp Oversampling. 11 CÃu hình mô hình Decision Tree Classifier.
12 CÃu hình mô hình Decision Tree hiáu chỉnh chiÅu cao. 13 Mô hình Decision Tree sau khi giÁm chiÅu cao. 14 CÃu hình mô hình Bagging Classifier. 15 CÃu hình mô hình AdaBoost Classifier.
16 CÃu hình mô hình Gradient Boosting Classifier. 17 CÃu hình mô hình AdaBoost kÃt hāp Oversampling. 18 CÃu hình mô hình Random Forest Classifier. 19 CÃu hình mô hình Random Forest có hiáu chỉnh tham sá.
20 CÃu hình mô hình Random Forest kÃt hāp oversample. 21 CÃu hình mô hình Random Forest kÃt hāp oversample và giÁm chiÅu cao. 22 Mô hình Random Forest sau khi giÁm chiÅu cao kÃt hāp vái Oversampling. 23 Ma trÁn Heatmap thể hián các chỉ sá cÿa mô hình kÃt hāp.
24 Biểu ã Accuracy cÿa các mô hình. 25 Biểu ã Precision Churn cÿa các mô hình. 26 Biểu ã Precision Not Churn cÿa các mô hình. 27 Biểu ã Recall Churn cÿa các mô hình.
28 Biểu ã Recall Not Churn cÿa các mô hình. 29 Biểu ã F1 Churn cÿa các mô hình. 30 Biểu ã F1 Not Churn cÿa các mô hình. 31 Xây dăng mô hình kÃt hāp Meta-Model Å xuÃt.
32 Mô hình kÃt hāp Meta-Model Å xuÃt. 1 Màn hình dashboard ng°ãi dùng. 2 Màn hình statistics ng°ãi dùng. 3 Màn hình Tháng kê thông tin khách hàng.
4 Màn hình phân lo¿i nhóm khách hàng. 5 Màn hình tìm kiÃm khách hàng. 5 Màn hình thông tin chi tiÃt khách hàng và dă báo. 91 v DANH SÁCH BÀNG BÁng 3.
1 Cßt dā liáu trong tÁp dā liáu thu thÁp °āc. 2 Tháng kê mô tÁ tÁp dā liáu thu thÁp °āc. 3 Tháng kê mô tÁ tÁp dā liáu thu sau khi xÿ lý. 4 Há sá t°¢ng quan cÿa các biÃn sau khi xÿ lý.
1 KÃt quÁ thăc nghiám cÿa mô hình Baseline. 2 KÃt quÁ thăc nghiám cÿa mô hình Logistic Regression thông th°ãng. 3 KÃt quÁ thăc nghiám cÿa mô hình Logistic Regression hiáu chỉnh tham sá. 4 KÃt quÁ thăc nghiám cÿa mô hình k-Nearest Neighbor Classifier thông th°ãng53 BÁng 4.
5 KÃt quÁ thăc nghiám cÿa mô hình k-Nearest Neighbor Classifier có hiáu chỉnh tham sá. 6 KÃt quÁ thăc nghiám cÿa mô hình Naive Bayes Classifier. 7 KÃt quÁ thăc nghiám cÿa mô hình Naive Bayes kÃt hāp Oversampling. 8 KÃt quÁ thăc nghiám cÿa mô hình Logistic Regression kÃt hāp Oversampling.
9 KÃt quÁ thăc nghiám cÿa mô hình Decision Tree Classifier. 10 KÃt quÁ thăc nghiám cÿa mô hình Decision Tree hiáu chỉnh chiÅu cao. 11 KÃt quÁ thăc nghiám cÿa mô hình Bagging Classifier. 12 KÃt quÁ thăc nghiám cÿa mô hình AdaBoost Classifier.
13 KÃt quÁ thăc nghiám cÿa mô hình Gradient Boosting Classifier. 14 KÃt quÁ thăc nghiám cÿa mô hình AdaBoost kÃt hāp Oversampling. 15 KÃt quÁ thăc nghiám cÿa mô hình Random Forest Classifier. 16 KÃt quÁ thăc nghiám cÿa mô hình Random Forest có hiáu chỉnh tham sá.
17 KÃt quÁ thăc nghiám cÿa mô hình Random Forest kÃt hāp oversample. 18 KÃt quÁ thăc nghiám cÿa mô hình Random Forest kÃt hāp oversample và giÁm chiÅu cao. 19 KÃt quÁ thăc nghiám cÿa các mô hình vái các tÁp khách hàng nhóm A, nhóm B, nhóm C và nhóm D. 83 vi DANH MĀC CÁC THU¾T NGĀ, CHĀ VI¾T TÀT VI¾T TÀT NGH)A TI¾NG ANH NGH)A TI¾NG VIÆT AI Artificial Intelligence Trí tuá nhân t¿o ML Machine Learning Hác máy Churn Churn Customer Khách hàng thanh lý hāp ãng GD Gradient Boost kNN K Nearest Neighbor K láng giÃng gÅn vii MĀC LĀC LâI CAM ĐOAN.
ii DANH SÁCH HÌNH VÀ. iii DANH SÁCH BÀNG .v DANH MĂC CÁC THUÀT NGĀ, CHĀ VIÂT TÂT. Tính cÃp thiÃt cÿa Å tài. Đái t°āng và ph¿m vi nghiên cāu.2 Ph¿m vi nghiên cāu.
Ph°¢ng pháp nghiên cāu.1 Ph°¢ng pháp nghiên cāu lý thuyÃt .2 Ph°¢ng pháp nghiên cāu thăc nghiám. Ý nghĩa và óng góp cÿa Å tài .4 CH¯¡NG 1: TäNG QUAN VÄ ĐÄ TÀI NGHIÊN CĀU .1 Tång quan vÅ m¿ng vißn thông và thuê bao.2 Tång quan vÅ hián tr¿ng thuê bao rãi m¿ng vißn thông .3 Tång quan dā liáu lán vÅ khách hàng m¿ng vißn thông .4 Tång quan vÅ mô hình dă báo hác kÃt hāp .11 CH¯¡NG 2: CÁC CÔNG TRÌNH LIÊN QUAN. Các công trình liên quan trên thà giái. Các công trình liên quan å Viát Nam .24 CH¯¡NG 3: TÀP DĀ LIàU NGHIÊN CĀU.
Giái thiáu vÅ tÁp dā liáu khách hàng rãi m¿ng vißn thông. Phân tích tÁp dā liáu khách hàng rãi m¿ng vißn thông. TiÅn xÿ lý tÁp dā liáu khách hàng rãi m¿ng vißn thông .38 CH¯¡NG 4: MÔ HÌNH HàC KÂT HĀP ĐÄ XUÂT. Môi tr°ãng mô phßng thăc nghiám.
Thăc nghiám huÃn luyán mô hình hác kÃt hāp .1 Mô hình Baseline .2 Nhóm mô hình Logistic Regression, kNN và Naïve Bayes .3 Mô hình hác kÃt hāp Decision Tree Classifier .4 Mô hình hác kÃt hāp Bagging, AdaBoost và GB .5 Mô hình hác kÃt hāp Random Forest Classifier. Đánh giá kÃt quÁ huÃn luyán mô hình hác kÃt hāp .1 KÃt quÁ các mô hình hác kÃt hāp .2 So sánh vái kÃt quÁ Telco Customer Churn .3 So sánh vái Å án rãi m¿ng cÿa tác giÁ Nguyßn Đāc Trung. Mô hình hác kÃt hāp Å xuÃt Meta-Model .82 CH¯¡NG 5: XÂY DĂNG ĀNG DĂNG DĂ BÁO KHÁCH HÀNG RâI M¾NG VàI TÀP DĀ LIàU ä VNPT TÂY NINH. ThiÃt kà và phát triển āng dăng.
Phân tích tÁp dā liáu khách hàng sÿ dăng dßch vă vißn thông å VNPT Tây Ninh. Minh háa các chāc nng chính cÿa āng dăng .89 PHÄN KÂT LUÀN. KÃt quÁ nghiên cāu cÿa Å tài. VÃn Å kiÃn nghß và h°áng i tiÃp theo cÿa nghiên cāu:.93 TÀI LIàU THAM KHÀO.
Phân bå cÿa dā liáu thăc nghiám theo các tr°ãng. Logistic Regression without Hyperparameter Tuning. Logistic Regression with Hyperparameter Tuning. k-Nearest Neighbor Scaled Without Hyperparameter Tuning.
k-Nearest Neighbor Scaled With Hyperparameter Tuning .