— — LÊ TRƯƠNG TRỌNG DUY DU BAO THUE BAO ROI BO NHA MANG DỰA VÀO HỌC MÁY CHUYEN NGANH: KHOA HỌC MAY TÍNH MA SO CHUYEN NGANH: 60.01 LUẬN VAN THAC SĨ TP. Hồ Chí Minh. Tháng 08 năm 2018 a a a — ——__——__— CÔNG TRÌNH ĐƯỢC HOÀN THÀNH TẠI TRUONG ĐẠI HOC BACH KHOA - ĐHQG — HCM Cán bộ hướng dẫn khoa hoc: PGS. TS Duong Tuan Anh Cán bộ chấm nhận xét 1:PGS.-- - c6 + E£EsEEeEeEsEeEsesrsed Cán bộ chấm nhận xét 2: TS.Nguyễn Đức Cường .----- - 555s+c+cscsecs2 Luận văn thạc sĩ được bảo vệ tại Trường Dai học Bach Khoa, DHQG Tp.
HCM ngày 17 thang 07 năm 2018 Thanh phan hội đồng đánh giá luận văn thạc sĩ gồm: 1.Phan Thi TÏƯƠI.Nguyễn Hồ Man Rạng.--- ch HH TH HH ng Hà A.- -- SHre Xác nhận của Chủ tịch Hội đồng đánh giá luận văn và Trưởng Khoa quản lý chuyên ngành sau khi luận văn đã được sửa chữa (nêu có). CHỦ TỊCH HỘI ĐÔNG TRƯỞNG KHOA KH & KHMT ĐẠI HỌC QUỐC GIA TP.HCM CONG HÒA XÃ HOI CHỦ NGHĨA VIỆT NAM TRƯỜNG ĐẠI HỌC BÁCH KHOA Độc lập - Tự do - Hạnh phúc NHIỆM VỤ LUẬN VĂN THẠC SĨ Họ tên học viên: Lê Trương Trọng Duy. Ngày, thang, năm sinh: 22/10/199. SG ST sa Nơi sinh: TPHCM.
Ngành: Khoa Học May Tinh. TEN DE TÀI: Dự báo thuê bao rời bồ nhà mạng dựa vào học máy. VÀ NỘI DUNG: Nhiệm vụ :Dé xuất mô hình mới dé giải quyết bài toán dự báo thuê bao rời bỏ nhà mạng dựa vào học máy Nội dung : 1/Nghién cứu lý thuyết về khai phá dữ liệu,các kỹ thuật trong bài toán khai phá dữ liệu va học máy,các mô hình mạng Noron,Cây quyết định. 2/Hiện thực mô hình hỗn hợp mạng Noron + Cây quyết định dựa vào việc kết hợp 3 kỹ thuật : Lựa chọn thuộc tinh,thu giảm tập huân luyện và phân lớp dữ liệu.
3/Thực nghiệm việc so sánh và đánh giá kết quả mô hình mạng Noron + cây quyết định với mô hình mạng Nơron + mạng ÏÌNOTOIN. NGÀY GIAO NHIỆM VU: 26/02/2018.-- 52522222 SE 322123222 2112121 re, IV. NGÀY HOÀN THÀNH NHIỆM VU: 17/06/2018. CÁN BO HUONG DÂN : PGS.TS Dương Tuấn Anh.
CAN BO HUONG DAN TRUONG KHOA KH & KTMT (Họ tên va chữ ky) (Họ tên và chữ ký) LỜI CẢM ƠN Trong thời gian thực hiện luận văn, dưới sự hướng dẫn tận t nh của c c gi ng viên, các thay cô trường Dai học B ch Khoa Tp.HCM, tôi đã hoàn thành luận văn thạc s với thời gian như dự kiến. Có được kết qu ấy tôi xin chân thành gởi lời cám ơn đến. Duong Tuan Anh — Gi ng vién khoa Khoa Hoc M y T nh, trường Dai Học B ch Khoa Tp.HCM đã tận t nh hướng dẫn, giúp đỡ tôi trong suốt quá trình làm luận văn. Sự giúp đỡ và hướng dẫn nhiệt tình của thầy đã giúp tôi củng cô kiến thức và hoàn thành tốt luận văn tốt nghiệp.
Tôi xin chân thành c m ơn thay. - Quy thay cô khoa Khoa Hoc M y T nh, trường Dai học B ch Khoa Tp.HCM nói riêng và các thay cô Trường Dai Hoc B ch Khoa Tp.HCM nói chung đã tận tình gi ng dạy và chỉ b o, giúp tôi trang bị những kiến thức quý báu trong suốt thời gian học tập và nghiên cứu. Du rat cô găng và liên tục nâng cao kiên thức, nhưng luận văn nay van không thê tránh những thiêu sót và hạn chê. Do đó tôi rat mong nhận được sự chỉ dan của các quý thay cô và các ban dé tôi có thê hoàn thiện những sai sót mà m nh mặc ph i.
TÓM TẮT LUẬN VĂN Trong ngành Công nghệ thông tin, Mang Noron nhân tao (Artificial Neural Networks hoặc gọi tắt là Neural Networks) là một hệ thống mô hình hóa một cách đặc biệt cách các tế bào thần kinh hoạt động trong não bộ con người. Mang Noron nhân tạo đã được ứng dụng trong nhiều ngành nghề, I nh vực kh c nhau như y học, công nghiệp, viễn thông, thời tiết và tài ch nh. Việc sử dụng bố sung Mang Noron nhân tao đóng vai trò quan trọng trong thời đại ky nguyên số hiện nay, các ứng dụng thương mại cua cua Mang Noron nhân tao thường tập trung vào việc gi 1 quyết các van dé xử lý tín hiệu phức tạp hoặc nhận dang mau. Qua đó ta có thé phân tích, dự đo nc c sự kiện trước, hoặc dự báo các hành động sẽ x y ra dựa trên các dữ liệu gốc hiện tại và đưa ra quyết định tốt hơn phục vụ đời sống con người.
Trong những năm gần đây, bài toán dir báo thuê bao rời bỏ nhà mang đã hap dẫn sự chú của nhiều nhà nghiên cứu. nhiều gi i thuật đã được dé xuất và kết hợp nhămc ¡ tiễn hiệu suất và độ chính xác khi ph ¡ xử lý bài toán phức tạp này. Trong luận văn này, chúng tôi sẽ kh o sát hướng tiếp cận để c i tiến thời gian thực thi va d nh gi độ chính xác khi sử dụng kỹ thuật khai pha dữ liệu hỗn hợp (Hybrid Data Mining Techniques) băng cách kết hợp hai mô hình là Mạng Noron nhân tạo (ANN)+ Cây quyết định (Decision Tree) và so sánh với mô hình hỗn hợp Mang Noron nhán tao(ANN1) + Mạng Noron nhân tao(ANN2). Phương ph p kết hợp hai mô hình Mạng Noron nhân tạo (ANN) + Cây quyết định (Decision Tree) được thực hiện để c ¡ thiện thời gian thực thi hơn khi sử dụng mô hình hỗn hợp Mang Noron nhân tao (ANN1)+ Mạng Noron nhán tao(ANN2), trong đó mô h nh Mang Noron nhân tao sẽ làm nhiệm vu thu gi m tap huấn luyện, còn mô hình Cây guyết định sẽ làm nhiệm vu dự báo.
thực nghiệm sẽ chứng minh sự hiệu qu của gi ¡ thuật kết hợp ANN+ Decision Tree sẽ cho kết qu với thời gian thực thi nhanh hơn gi i thuật kết hop ANN+ANN.Trong khi đó, hai mô h nh trên đều cho kết qu độ chính xác tốt hơn mô h nh ANN đơn lẻ. ABSTRACT In information technology, an Artificial Neural Network (ANN) is a system which models specially the operation of neurons in the human brain. Neural networks have been applied in many different domains such as medicine, industries, telecom, weather and finance. Applying Artificial Neural Networks plays an important role in this generation, Commercial applications of these technologies generally focus on solving complex signal processing or pattern recognition problems.Its method based on datasets can help us for analyzing, predict events and have better decision making.
In recent years, customer churn prediction has attracted the attention of many researchers, many algorithms have been proposed and combine to improve the performance and the accuracy when dealing with this complex problem. In this thesis, we explore an approach to improving excution time and rating the accuracy of two model. When using hybrid data mining techniques by combining two models of Artificial neural network (ANN) + Decision Tree and compare the result with the combination of two models of Artificial Neural Networks (ANN) + Artificial Neural Networks (ANN). A combination of two models: Artificial Neural Network (ANN) + Decision Tree was implemented to improve excuting time enhancement better than using the hybrid model of combining Artificial Neural Network model (ANNI) + Artificial Neural Network model (ANN2) , in which the ANN model performs the data reduction task, while Decision Tree model will be the task of prediction.
The experimental results show that the efficiency of the combine Decision Tree + ANN algorithm will have the result of excuting time better than the combined ANN + ANN algorithm.But both of two models perform the better accuracy than single ANN model. LỜI CAM ĐOAN Tôi cam đoan răng, ngoại trừ các kêt qu tham kh o từ các công trình khác như đã ghi rõ trong luận văn, c c công việc trình bày trong luận văn này là do ch nh tôi thực hiện và chưa có phân nội dung nào của luận văn này được nộp đê lây một băng cấp ở trường này hoặc trường khác. Ngày 16 th ng 06 năm 2018 Lé Truong Trong Duy. DANH MỤC HINH Hình II-I C c bước xây dựng một hệ thông khai phá dữ liệu.-7 Hình II-2 Hệ thống phân lớp tổng quát .-- + - +52 2+2 +2 +£+£e+xzxszxsrs2 9 Hình II-3 Cấu trúc của một noron nhân †ạO.--- - xxx +x+k++zE++zezxz 12 Hình II-4 Cau trúc của mạng perceptron nhiều lớp .--------- 2 s5: 13 Hình H-5 Minh hoa gi 1 thuật K- NN.
G1 re, 21 Hình II-6 Biểu diễn cây quyết định CO tececccccsccssssesssesssseesssesseseeseseeseseees 22 Hình II-7 Cây quyết định cho việc chơi Tennis.---- 2-5 2 5s+5z2s+5sc5+2 23 Hình II-8 Bốn bước cơ b n trong quá trình lựa chọn các thuộc tính phù hợp.29 Hinh [1-9 M6 hinh Filter. 30 Hình I-10 Mô hình Wrapper. ee eee eeeeceesseeeeesseceeeesseeeeeeesseeeesesssaeeeesgas 31 Hình II-11 Mô hình xây dựng hệ thống thuê bao rời bỏ nhà mang [13]. 38 H nhIV-1 Sod tổng qu t của hệ thong Mạng Nơron + Cây quyết định.
45 H nhIV-2 Sod tổng qu t của hệ thống Mạng Noron + Mang Nơron. 46 Hình V-1 Dữ liệu sau khi được chuẩn hóa. -- 2xx k+x+x+++E+ezecxe 52 Hình V-2 Lựa chọn thuộc tính trên WEKA.----ccccQss s32 53 Hình V-3 Cấu h nh phương ph pd nhgi thuộc tính WrapperSubsetEval trên "25. 53 Hình V-4 Cấu hình Tree sử dụng thuật toán J48(C4.
54 Hình V-5 Cấu hình Search Method với phương ph p GreedyStepwise. 55 Hình V-6 Các thuộc t nh trước khi lọc và lựa chọn thuộc tính. 55 Hình V-7 Các thuộc tính còn lại khi lọc và lựa chọn các thuộc tính. 56 Hình V-8 Các công thức để đ nh gi một mô hình .---- 2-5555: 58 Hình V-9 Xây dựng Cây quyết định bang Python.---- ¿5525s+5<c5+2 59 Hình V-10 Confusion Matrix của ANNI khi thực nghiệm bằng phương ph p ANNI + ANN2 của bài báO.-- - -- -- s0 vn 62 Hình V-11 Kết qu thực nghiệm hàm lỗi trung bình khi sử dụng mô hình Mang Noron + Cây quyết định: .-----¿- 2-56 2E+52+ESEE2ESEE 2E 2E 2E Ekrrrrkrreee 64 DANH MỤC BANG B ng V-1 Hidden Unit đã thực nghiệm có kết qu.
57 B ng V-2 Confusion Matrix của Mạng Noron đầu tiên .------- 58 B ng V-3 Kết qu_ thực thi và thời gian thực thi của Cây quyết định ứng với dữ liệu Mạng Nơron © tTÊN:. ng và 60 B ng V-4 Thực nghiệm mồ hình Mang Noron + Mạng Noron. 63 B ng V-5 B ng so sánh tổng thé 2 mô hình Mạng Noron+Cây quyết định va Mạng Nơron+Mạng Mạng NofroH. Q30 0 0nv463 VỊ MỤC LỤC 909.
TOM TAT LUẬN VĂN. iv DANH MỤC HINH .ccccceccsccsecececscscececececesesescssscsvevevavevavevacecacecscecacecacesseeseceavees V DANH MỤC BẢNG. G1 SE 1 1 1101111111111 1 0151 xe ereree vi MỤC: LUC oe ececenecceessseeecesesnnecceessnceceesaaeeceseaaeeeeeseeeeeceeeeaeeesesenececeeeaeeeeenegs Vil CHUONGI GIỚI THIỆU TONG QUAN VE DE TAL .1 Động cơ nghiÊn CỨU.2 gh a của để tài.1 gh a thực tiỄn.2 ngh a khoa hỌC 20. eee sseeceesssnecceesseeeeceeseeeeeceseeaeecesseeeceeesnneeceeeas 2 [3 Mục tiêu nghiÊn CỨU.
---- - <0 0 ng ng re 3 L4 Giới hạn của dé tài.