ĐẠI HỌC QUỐC GIA TP. HCM TRƯỜNG ĐẠI HỌC BÁCH KHOA -------------------- ĐỖ NGỌC THANH CHÂU NGHIÊN CỨU XÂY DỰNG HỆ THỐNG GIÁM SÁT VÀ DỰ ĐOÁN BẤT THƯỜNG MẠNG VÔ TUYẾN 4G SỬ DỤNG TRÍ TUỆ NHÂN TẠO Chuyên ngành : Khoa Học Máy Tính Mã số: 8. HỒ CHÍ MINH, tháng 02 năm 2023 1 CÔNG TRÌNH ĐƯỢC HOÀN THÀNH TẠI TRƯỜNG ĐẠI HỌC BÁCH KHOA –ĐHQG -HCM Cán bộ hướng dẫn khoa học : PGS.TS Huỳnh Tường Nguyên (Ghi rõ họ, tên, học hàm, học vị và chữ ký) Cán bộ chấm nhận xét 1 : TS. Nguyễn Thị Thanh Sang (Ghi rõ họ, tên, học hàm, học vị và chữ ký) Cán bộ chấm nhận xét 2 : TS.
Bùi Công Giao (Ghi rõ họ, tên, học hàm, học vị và chữ ký) Luận văn thạc sĩ được bảo vệ tại Trường Đại học Bách Khoa, ĐHQG Tp. HCM ngày 08 tháng 02 năm 2023. Thành phần Hội đồng đánh giá luận văn thạc sĩ gồm: (Ghi rõ họ, tên, học hàm, học vị của Hội đồng chấm bảo vệ luận văn thạc sĩ) 1. Chủ Tịch: PGS.TS Lê Hồng Trang 2.
Nguyễn Thị Ái Thảo 3. Phản Biện 1: TS. Nguyễn Thị Thanh Sang 4. Phản Biện 2: TS.
Bùi Công Giao 5. Uỷ Viên: PGS.TS Võ Thị Ngọc Châu Xác nhận của Chủ tịch Hội đồng đánh giá Luận Văn và Trưởng Khoa quản lý chuyên ngành sau khi luận văn đã được sửa chữa (nếu có). CHỦ TỊCH HỘI ĐỒNG TRƯỞNG KHOA KHOA HỌC VÀ KỸ THUẬT MÁY TÍNH ĐẠI HỌC QUỐC GIA TP.HCM CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM TRƯỜNG ĐẠI HỌC BÁCH KHOA Độc lập - Tự do - Hạnh phúc NHIỆM VỤ LUẬN VĂN THẠC SĨ Họ tên học viên: Đỗ Ngọc Thanh Châu. Ngày, tháng, năm sinh: 19/10/1997.
Nơi sinh: Khánh Hoà. Chuyên ngành: Khoa Học Máy Tính. TÊN ĐỀ TÀI: NGHIÊN CỨU XÂY DỰNG HỆ THỐNG GIÁM SÁT VÀ DỰ DOÁN BẤT THƯỜNG MẠNG VÔ TUYẾN 4G SỬ DỤNG TRÍ TUỆ NHÂN TẠO. RESEARCH AND BUILD A SYSTEM FOR MONITORING AND PREDICTING ANOMALIES IN 4G RADIO NETWORKS USING ARTIFICIAL INTELLIGENCE.
NHIỆM VỤ VÀ NỘI DUNG: - Nghiên cứu và tìm hiểu về ý nghĩa các thông số của mạng vô tuyến 4G. - Tìm hiểu và lựa chọn các phương pháp dự đoán dữ liệu chuỗi thời gian. - Thực hiện xây dựng, đánh giá mô hình mạng LSTM và dự đoán bất thường mạng vô tuyến 4G. NGÀY GIAO NHIỆM VỤ : 05/09/2022.
NGÀY HOÀN THÀNH NHIỆM VỤ: 18/12/2022. CÁN BỘ HƯỚNG DẪN : PGS. HUỲNH TƯỜNG NGUYÊN. HCM, ngày 03 tháng 03 năm 2023 CÁN BỘ HƯỚNG DẪN HỘI ĐỒNG NGÀNH (Họ tên và chữ ký) (Họ tên và chữ ký) TRƯỞNG KHOA KHOA HỌC VÀ KỸ THUẬT MÁY TÍNH (Họ tên và chữ ký) i Lời cảm ơn GVHD: PGS.
TS Huỳnh Tường Nguyên LỜI CẢM ƠN Xuất phát điểm là sinh viên chuyên ngành Điện tử - Viễn thông, xin chân thành cảm ơn quý thầy/ cô của khoa Khoa học & Kỹ thuật Máy tính trong thời gian vừa qua đã tạo điều kiện tốt nhất để em có cơ hội được học tập, nghiên cứu và hiểu biết hơn về các kiến thức, thông tin ở lĩnh vực khoa học máy tính. Toàn bộ kiến thức học ở các môn học lý thuyết đều được ghi nhớ và áp dụng, chân thành cảm ơn anh chị em trong team URA với các đề tài nghiên cứu trước đó, bên cạnh đó team cũng đã giúp đỡ và hỗ trợ em trong thời gian vừa qua để bắt đầu làm quen, tham gia và góp một phần công sức thực hiện đề tài này. Chân thành cảm ơn các thầy đã giúp đỡ, tạo động lực, hướng dẫn em nghiên cứu và thực hiện các phương pháp mới để em bắt đầu học hỏi và nghiên cứu thêm ở lĩnh vực này… Cảm ơn quý thầy cô đã xem qua báo cáo này, quyển báo cáo này chắc chắn sẽ có rất nhiều thiếu sót, mong quý thầy cô có thể góp ý trực tiếp để em tiếp tục sửa đổi, cập nhật và hoàn thiện trong thời gian sắp tới. Hồ Chí Minh, ngày 15 tháng 12 năm 2022 Đỗ Ngọc Thanh Châu.
ii Luận văn tốt nghiệp thạc sỹ GVHD: PGS.TS Huỳnh Tường Nguyên TÓM TẮT LUẬN VĂN Luận văn này trình bày về quá trình nghiên cứu và thực hiện đề tài “Nghiên cứu xây dựng hệ thống giám sát, dự đoán bất thường mạng vô tuyến 4G sử dụng trí tuệ nhân tạo”. Với toàn bộ dữ liệu được lấy từ các trạm phát sóng của VNPT ở miền Nam Việt Nam, đề tài sẽ trình bày các bước nghiên cứu, chọn lọc và sử dụng các nội dung lý thuyết liên quan để cố gắng cho ra được các thông số dự đoán cho tương lai. Các phương pháp và mô hình mạng này đều được nghiên cứu dựa trên cấu trúc mạng LSTM và các cấu trúc liên quan xoay quanh mạng LSTM, với tham khảo từ các bài nghiên cứu trước đó của nhóm URA với các đề tài liên quan đến dữ liệu chuỗi Timeseries. Luận văn này sẽ bao gồm các nội dung chính sau: - Giới thiệu về mục tiêu/ yêu cầu, tổng quan đề tài.
- Các kiến thức lý thuyết liên quan đến đề tài để có thể hiểu rõ và áp dụng tốt cho việc xây dựng mô hình, bao gồm: • Nghiên cứu và chọn lọc đầu vào. • Kiến trúc LSTM và các kiến trúc liên quan. • Một số kỹ thuật, phương pháp hỗ trợ tốt cho việc huấn luyện mô hình. • Một số vấn đề với dữ liệu và tìm cách cải thiện.
- Kết quả dự đoán của mô hình. iii Luận văn tốt nghiệp thạc sỹ GVHD: PGS.TS Huỳnh Tường Nguyên THESIS ABSTRACT This thesis presents the research and implementation process of the topic "Research on building a system for monitoring and predicting anomalies in 4G wireless networks using artificial intelligence". With all data collected from VNPT base stations in southern Vietnam, the thesis will present the research steps, selection, and use of relevant theoretical content to try to produce predictive parameters for the future. These methods and network models are all researched based on the LSTM network structure and related structures around the LSTM network, with references from previous studies by the URA group on Timeseries data-related topics.
This thesis will include the following main contents: - Introduction to the objectives/requirements, an overview of the topic. - Relevant theoretical knowledge related to the topic to understand and apply well to model building, including: o Research and selection of input. o LSTM architecture and related structures. o Some techniques, methods that support well for model training.
o Some issues with data and ways to improve it. - Prediction results of the model. iv Luận văn tốt nghiệp thạc sỹ GVHD: PGS.TS Huỳnh Tường Nguyên LỜI CAM ĐOAN Tác giả xin cam đoan đây là công trình nghiên cứu của bản thân tác giả. Các kết quả nghiên cứu và các kết luận trong luận văn là trung thực, không sao chép từ bất kỳ một nguồn nào và dưới bất kỳ hình thức nào.
Việc tham khảo các nguồn tài liệu (nếu có) đã được thực hiện trích dẫn và ghi nguồn tài liệu tham khảo đúng quy định. Tác giả luận văn Đỗ Ngọc Thanh Châu v Luận văn tốt nghiệp thạc sỹ GVHD: PGS.TS Huỳnh Tường Nguyên MỤC LỤC 1.2 Tình hình nghiên cứu trong và ngoài nước .1 Một số nghiên cứu ở nước ngoài .2 Tình hình triển khai nghiên cứu ở trong nước .3 Nhiệm vụ luận văn .1 Dữ liệu đầu vào – Dữ liệu loại chuỗi thời gian (Time series) .2 Phân tích tương quan giữa các đặc trưng ( các KPIs) .1 Phân tích tương quan Pearson.2 Phân tích tương quan Spearman .3 Phân tích tương quan Kendall.3 Các phương pháp tiền xử lý dữ liệu trước khi huấn luyện mô hình .1 Tiền xử lý dữ liệu đầu vào sử dụng Scaling .2 Tiền xử lý dữ liệu đầu vào sử dụng Normalization .4 Tách dữ liệu ra thành các set để hỗ trợ việc huấn luyện mô hình.5 Mạng nơ-ron nhân tạo (ANN) .6 Các lớp tương ứng dùng để huấn luyện mô hình .23 vi Luận văn tốt nghiệp thạc sỹ GVHD: PGS.TS Huỳnh Tường Nguyên 2.3 Lớp Bidirectional LSTM .4 Cơ chế Sequence to Sequence ở mạng RNN .7 Activation Lớp hay activation function .7 Sử dụng kỹ thuật Regression để predict cho những đặc trưng low-variant. THIẾT KẾ VÀ THỰC HIỆN PHẦN MỀM .1 Lưu đồ giải thuật tổng quát và các bước thực hiện phần mềm .2 Lọc và import dữ liệu đầu vào .3 Chia dữ liệu ra làm 3 thành phần để hỗ trợ cho việc huấn luyện .4 Tiền xử lý dữ liệu đầu vào dùng Standard Scaler .5 Chọn lọc các thông số cho mô hình mạng LSTM .6 Nghiên cứu và chọn một vài phương pháp và kỹ thuật hỗ trợ huấn luyện mô hình 50 3.7 Thực hiện phần tính toán Accuracy để hỗ trợ cho việc huấn luyện .8 Thực hiện giải thuật Regression để dự đoán giá trị cho một số khoảng giá trị không chênh lệch nhiều của các đặc trưng .52 vii Luận văn tốt nghiệp thạc sỹ GVHD: PGS.TS Huỳnh Tường Nguyên 3.9 Thực hiện viết chương trình hỗ trợ cho việc predict dựa trên những mô hình đã huấn luyện .10 Tính toán và gắn nhãn bất thường cho từng điểm dữ liệu. KẾT QUẢ THỰC HIỆN .1 Kết quả đánh giá tương quan và chọn lọc dữ liệu đầu vào .2 Kết quả chọn thông số và huấn luyện mô hình 1 .3 Kết quả chọn thông số và huấn luyện mô hình 2 .4 Kết quả chọn thông số và sử dụng kỹ thuật Regression .5 Kết quả thực hiện dự đoán và đánh giá bất thường.
KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN.2 Hướng phát triển và ứng dụng trong tương lai .71 Tài liệu tham khảo. 73 viii Luận văn tốt nghiệp thạc sỹ GVHD: PGS.TS Huỳnh Tường Nguyên DANH SÁCH HÌNH VẼ Hình 1-1 - Một số kết quả đạt được của nghiên cứu mô hình dự đoán State-of-Health .4 Hình 1-2 - Tổng hợp một số phương pháp giải quyết bài toán dự đoán dữ liệu chuỗi thời gian .6 Hình 2-1 - Hệ số tương quan biểu thị trên đồ thị phân tán Scatter .10 Hình 2-2 - Kết quả dự đoán của mô hình trên tập huấn luyện (bên trái) và tập kiểm tra (bên phải) .18 Hình 2-3 Cấu trúc của một nơ-ron trong hệ thần kinh: Phần thân (soma), phần nhân (nucleus), các sợi nhánh (dendrites) và sợi trục (axon) [14].21 Hình 2-4 - Một mạng nơ-ron nhân tạo đơn giản 3 lớp gồm có 1 lớp tầng input, 2 lớp tầng ẩn và 1 lớp tầng output.22 Hình 2-5 - Chi tiết từng nút trong các lớp.23 Hình 2-6 - Cấu trúc của một mạng Nơ-ron đơn giản với Fully Connected Lớp .24 Hình 2-7 - Cấu trúc tổng quát của mạng RNN .25 Hình 2-8 - Khai triển cấu trúc của RNN .26 Hình 2-9 - Cấu trúc bên trong của mạng RNN cơ bản : bao gồm 1 cổng tanh .27 Hình 2-10 - Biến thể LSTM của RNN: Cấu trúc có thêm một số cổng khác nhau .27 Hình 2-11 - Phần đường truyền đặc biệt của mạng LSTM: Truyền thông tin ảnh hưởng bởi thời gian .
