i LàI CAM ĐOAN Tôi cam đoan đây là công trình nghiên cāu cÿa riêng tôi. Các số liệu, kết quả nêu trong luận văn là trung thực và chưa từng được ai công bố trong bất kỳ công trình nào khác. Nếu không đúng như đ愃̀ nêu trên, tôi xin hoàn toàn chịu trách nhiệm v đ tài cÿa mình. HCM, ngày 25 tháng 01 năm 2022 Học viên thăc hián luÁn văn Huỳnh Vũ Tr°áng Giang ii LàI CÀM ¡N Trong thßi gian thực hiện luận văn tốt nghiệp, được sự hướng dẫn tận tình cÿa giáo viên hướng dẫn và được phía nhà trưßng tạo đi u kiện thuận lợi, tôi đ愃̀ có một quá trình nghiên cāu, tìm hiểu và học tập nghiêm túc để hoàn thành đ tài.
Kết quả thu được không chỉ do nỗ lực cÿa cá nhân tôi mà còn có sự giúp đỡ cÿa quý thầy cô, gia đình và các bạn. Tôi xin chân thành cảm ơn PGS. TrÁn M¿nh Hà. Thầy đ愃̀ hướng dẫn, hỗ trợ tôi hoàn thành tốt luận văn v phương pháp, lý luận và nội dung luận văn.
Cám ơn Bán Giám hiệu, Khoa Công Nghệ Thông Tin – Học Viện Công Nghệ Bưu Chính Viễn Thông cơ sá tại Tp. HCM đ愃̀ quan tâm, tạo đi u kiện giúp tôi hoàn thành luận văn tốt nghiệp. Cám ơn Ban giám đốc và các đồng nghiệp tại Viễn thông Tây Ninh đ愃̀ hỗ trợ, giúp đỡ tôi trong suốt quá trình thực hiện luận văn. Trong quá trình thực hiện và trình bày không thể tránh khỏi những sai sót và hạn chế, do vậy tôi rất mong nhận được sự góp ý, nhận xét phê bình cÿa quý thầy cô và các bạn để hoàn thiện kiến thāc và bản thân.
HCM, ngày 25 tháng 01 năm 2022 Học viên thăc hián luÁn văn Huỳnh Vũ Tr°áng Giang iii MĀC LĀC LàI CAM ĐOAN. iii DANH MĀC CÁC THUÀT NGĀ, CHĀ VIÀT TÂT. vi DANH SÁCH HÌNH V¾. vii DANH SÁCH BÀNG.
viii Mâ ĐÀU. 1 Lý do chọn đ tài. 1 Mục đích nghiên cāu. 2 Đối tượng nghiên cāu.
3 Phạm vi nghiên cāu. 3 Phương pháp nghiên cāu. 3 Ch°¢ng 1 - NGHIÊN CĀU TàNG QUAN. Bài toán phân lớp dữ liệu.
Khái niệm v phân lớp dữ liệu và bài toán phân lớp dữ liệu. Các bước giải quyết bài toán phân lớp dữ liệu. Các độ đo để đánh giá mô hình phân lớp dữ liệu. Tổng quan v học máy.
Phân loại các kỹ thuật học máy. Thuật toán Cây quyết định. Giới thiệu phương pháp. Thuật toán Rừng ngẫu nhiên.
Bug Tracking System. Thư viện Scikit-learn. Các công trình nghiên cāu trong nước. Two-Phase Defect Detection Using Clustering and Classification Methods.
An automated fault detection system for communication networks and distributed systems. Áp dụng thuật toán phân loại Random Forest để xây dựng bản đồ sử dụng đất/thảm phÿ tỉnh Đắk Lắk dựa vào ảnh vệ tinh Landsat 8 OLI. Nghiên cāu một số thuật toán học máy để phân lớp dữ liệu và thử nghiệm. Các công trình nghiên cāu ngoài nước.
VAX/VMS Event monitoring and analysis. Using Secondary Knowledge to Support Decision Tree Classification of Retrospective Clinical Data. Designing a hierarchical neural network based on fuzzy clustering for fault diagnosis of the Tennessee–Eastman process .4 Fault Detection and Diagnosis for Solar-Powered Wireless Mesh Networks Using Machine Learning .5 Fault Detection for Cloud Computing Systems with Correlation Analysis. 25 Ch°¢ng 2 – PH¯¡NG PHÁP PHÂN LO¾I LâI M¾NG.
Mô hình Two-Phase Defect Detection. Mô hình dữ liệu lỗi. Sử dụng phương pháp tf x idf để lọc nội dung quan trọng từ nội dung mô tả lỗi. Sử dụng thuật toán phân lớp Rừng ngẫu nhiên thông qua bộ thư viện Scikit-learn.
Sử dụng tf x idf trong thư viện Scikit-learn. 34 Ch°¢ng 3 - XÂY DĂNG MÔ HÌNH PHÂN LO¾I LâI M¾NG. Tập dữ liệu lỗi thu thập từ các BTS. Trích xuất thuộc tính quan trọng cÿa lỗi.
Xây dựng rừng ngẫu nhiên. Chuẩn hóa dữ liệu sang dạng số. Lấy mẫu dữ liệu cho việc xây dựng cây quyết định .3 Xây dựng cây quyết định. Xây dựng rừng ngẫu nhiên.
46 Ch°¢ng 4 – PHÂN TÍCH VÀ ĐÁNH GIÁ. Phân tích độ chính xác cÿa mô hình. Xác định māc độ quan trọng cÿa các thuộc tính. 51 Ch°¢ng 5 - KÀT LUÀN.
Kết quả đạt được. V mặt thực tiễn. Hướng phát triển. 55 DANH MĀC TÀI LIàU THAM KHÀO.
57 vi DANH MĀC CÁC THUÀT NGĀ, CHĀ VIÀT TÂT ViÁt tÃt TiÁng Anh TiÁng Viát AI Artificial Intelligence Trí tuệ nhân tạo PDF Portable Document Format Định dạng văn bản đơn giản RF Random Forest Rừng ngẫu nhiên ANN Artificial Neural Network Mạng nơ-ron nhân tạo CSDL Database Cơ sá dữ liệu CNTT Information Technology Công nghệ thông tin SVM Support Vector Machines Máy véc tơ hỗ trợ BTS Bug Tracking System Hệ thống kiểm tra sự cố CQĐ Decision Tree Cây quyết định RF Random Forest Rừng ngẫu nhiên vii DANH SÁCH HÌNH V¾ Số hiáu Tên hình v¿ Trang Hình 1.1 Giai đoạn xây dựng mô hình phân lớp dữ liệu 2 Hình 1.2 Quá trình kiểm tra đánh giá mô hình phân lớp dữ liệu 3 Hình 1.3 Mô hình cây quyết định 9 Hình 1.4 Thuật toán rừng ngẫu nhiên 13 Hình 2.1 Mô hình Two-Phase Defect Detection 22 Hình 2.2 Giao diện báo cáo lỗi trên Bugzilla 25 Hình 3.1 Lưu đồ giải thuật xây dựng rừng ngẫu nhiên 32 Hình 3.2 Dữ liệu lỗi sau khi thu thập từ các hệ thống BTS 23 Hình 3.3 Dữ liệu lỗi sau khi Import 34 Hình 3.4 Giá trị tf x idf sau khi tính toán 36 Hình 3.5 Dữ liệu lỗi sau khi bổ sung thuộc tính từ khóa 37 Hình 3.6 Các thuộc tính sau khi được chuyển v dạng số 38 Hình 3.7 Tập dữ liệu 1000 mẫu lỗi 39 Hình 3.8 Tập dữ huấn luyện cây quyết định với 800 mẫu ngẫu nhiên 40 Hình 3.9 Tập thử nghiệm với 200 còn lại để đánh giá cây 40 Hình 3.10 Cây quyết định xây dựng trên mẫu ngẫu nhiên thā nhất 42 Hình 3.11 Cây quyết định xây dựng trên mẫu ngẫu nhiên thā hai 43 Hình 3.12 Một ví dụ rừng ngẫu nhiên với 4 cây quyết định 44 Hình 4.1 Biểu đồ māc độ quan trọng cÿa các thuộc tính 49 Hình 4.2 Kết quả māc độ quan trọng cÿa các thuộc tính 49 viii DANH SÁCH BÀNG Số hiáu Tên BÁng Trang Bảng 3.1 Các thuộc tính quan trọng cÿa lỗi 34 Bảng 4.1 Ma trận hỗn loạn cho kết quả phân loại lỗi 45 Bảng 4.2 Giá trị F1 Score āng với hai tham số quan trọn cÿa rừng 48 1 Mâ ĐÀU Lý do chọn đề tài Ngày nay, với sự phát triển cÿa hệ thống mạng và truy n thông cả v sự đa dạng, độ phāc tạp và độ ổn định thì việc phát hiện lỗi trong mạng truy n thông và hệ thống phân tán thưßng yêu cầu sự tham gia cÿa các công cụ hỗ trợ và chuyên môn cÿa ngưßi vận hành hệ thống. Hệ thống giám sát đưa ra các sự kiện lỗi sau đó được chuyển tiếp cho ngưßi vận hành hệ thống để phân tích và tạo báo cáo lỗi. Việc xây dựng các chāc năng phát hiện lỗi là một thách thāc vì rất khó để có cách tiếp cận hiệu quả thay thế kiến thāc và cơ chế suy luận cÿa ngưßi vận hành hệ thống, đặc biệt là một số vấn đ liên quan đến tính khả dụng, khả năng chịu lỗi và khả năng dự đoán hiệu suất là rất khó phát hiện trên mạng truy n thông diện rộng và hệ thống phân tán với độ phāc tạp, khả năng má rộng và tầm quan trọng cao. Quản lý lỗi thể hiện một trong những đi u chắc chắn là trong bất kỳ loại mạng nào, bất kể quy mô, cho dù nó nhỏ và được sử dụng để mô phỏng trong phòng thí nghiệm hoặc một mạng lớn cung cấp truy cập internet và điện thoại phÿ sóng cho toàn bộ quốc gia, có một chiến lược để phát hiện và xác định lỗi càng sớm càng tốt là đi u quan trọng để duy trì hiệu suất và sự ổn định cÿa mạng.
Phát hiện lỗi là một trong những chāc năng chính cÿa việc quản lý lỗi trong hệ thống mạng và phân tán. Chāc năng này trá nên đòi hỏi cao do sự phát triển nhanh chóng cÿa các hệ thống này ngày nay với độ phāc tạp ngày càng cao, tính năng động và khả năng má rộng. Tuy nhiên, việc tự động kiểm tra các lỗi này là một thách thāc vì đi u này phụ thuộc nhi u vào kiến thāc chuyên môn và các công cụ hỗ trợ thưßng được sử dụng để tổ chāc công việc và quy trình quản lý lỗi. Để vượt qua những trá ngại, một cách tiếp cận phổ biến đ愃̀ áp dụng là các phương pháp thông minh để khai thác dữ liệu đầu ra cÿa hệ thống và phát hiện các khiếm khuyết trên một hệ thống.
Fault detection [7] hay tiếng việt hiểu là phát hiện lỗi mạng, là một trong những vấn đ hiện nay trá lên rất quan trọng trong việc quản trị các hệ thống mạng. 2 Nó hạn chế tối đa việc hệ thống mạng và truy n thông bị gián đoạn trong quá trình hoạt động, đảm bảo an toàn và chất lượng dịch vụ cho hệ thống mạng và truy n thông. Với một hệ thống mạng và truy n thông có nhi u thiết bị, việc tìm hiểu nguyên nhân lỗi hệ thống để tìm cách khắc phục là vô cùng khó khăn với số lượng lỗi, cảnh báo vô cùng lớn. Vì vậy việc áp dụng các kỹ thuật học máy để phân loại và dự báo các cảnh báo/lỗi mạng thực sự là lỗi gì và nguyên nhân do đâu là vô cùng cần thiết.
Như việc áp dụng Máy hỗ trợ vectơ cho việc chẩn đoán lỗi mạng cÿa các tác giả [10]. Eslamloueyan trong nghiên cāu [11] đ愃̀ xây dựng hệ thống mạng nơron phân cấp dựa trên thuật toán gom cụm mß để chuẩn đoán lỗi mạng. Trong luận văn này sẽ tiến hành nghiên cāu việc áp dụng thuật toán "Rừng ngẫu nhiên" vào việc hỗ trợ xác định lỗi mạng và dự báo sự cố dựa trên việc học có giám sát. Các phương pháp học máy không chỉ giúp phân tích dữ liệu sự kiện chính xác hơn mà còn dự báo các sự kiện lỗi có thể xảy ra bằng cách học hỏi từ những lỗi hiện có.
Vì vậy hoàn toàn có thể xây dựng một hệ thống phát hiện lỗi tự động hỗ trợ ngưßi vận hành hệ thống phát hiện và dự báo lỗi. Māc đích nghiên cāu Hiện tại không có cách thực tế nào để phân tích lỗi cÿa một thành phần trong hệ thống mạng một cách tự động. Nó được để lại như một nhiệm vụ yêu cầu ngưßi vận hành thực hiện thÿ công bằng cách sử dụng vô số công cụ để thu thập thông tin v hoạt động hiện tại cÿa các thiết bị trên hệ thống.