Khóa luận tốt nghiệp an toàn thông tin xây dựng hệ thống phát hiện xâm nhập dựa trên máy học cho mạng khả lập trình trong ngữ cảnh dữ liệu lớn

Khóa luận tốt nghiệp an toàn thông tin tập trung xây dựng hệ thống phát hiện xâm nhập dựa trên máy học cho mạng khả lập trình trong bối cảnh dữ liệu lớn.

Chuyên ngành

An toàn thông tin

Người đăng

Ẩn danh

Thể loại

Khóa luận tốt nghiệp

2021

84
2
0

Phí lưu trữ

30 Point

Mục lục chi tiết

LỜI CẢM ƠN

1. CHƯƠNG 1: TQ dG ti na. Mục tiêu của đề tài

1.1. Đối tượng và phạm vi nghiên cứu

1.2. Đối tượng nghiên cứu

1.3. Phạm vi nghiên cứu

2. CHƯƠNG 2: Tổng quan về hệ thống phát hiện xâm nhập

2.1. Tổng quan về mạng khả lập trình

2.2. Kỹ thuật học máy trong phát hiện xâm nhập

2.3. Kỹ thuật dữ liệu lớn trong phát hiện xâm nhập

2.4. Các công trình liên quan

3. CHƯƠNG 3: NỘI DUNG VÀ PHƯƠNG PHÁP

3.1. Xây dựng hạ tầng dữ liệu lớn kết hợp với mạng khả lập trình

3.2. Kiến trúc mạng khả lập trình

3.3. Các thành phần phân tích giám sát và phát hiện xâm nhập

3.4. Các bộ dữ liệu

3.5. Mô hình phát hiện và phân loại các cuộc tấn công mạng

3.5.1. Tiền xử lý dữ liệu

3.5.2. Huấn luyện mô hình máy học để phát hiện các cuộc tấn công mạng

3.5.3. Huấn luyện mô hình học sâu để phân loại các cuộc tấn công mạng

3.5.4. Chỉ số đánh giá mô hình phát hiện và phân loại các cuộc tấn công

3.6. Phương pháp thực nghiệm kiểm thử hệ thống

3.7. Giả lập lưu lượng dữ liệu mạng kiểm định hệ thống

3.8. Chặn lưu lượng mạng của kẻ tấn công khi được phát hiện

4. CHƯƠNG 4: THỰC NGHIỆM VÀ ĐÁNH GIÁ

4.1. Môi trường thực hiện

4.2. Kết quả nghiên cứu

4.2.1. Kết quả huấn luyện mô hình ML

4.2.2. Kết quả huấn luyện mô hình DL

4.2.3. So sánh kết quả toàn bộ hệ thống với nghiên cứu khác

4.2.4. Kết quả triển khai thực tế hệ thống

5. CHƯƠNG 5: TỔNG KẾT VÀ HƯỚNG PHÁT TRIỂN

5.1. Ý nghĩa khoa học

5.2. Hiệu quả về mặt kinh tế - xã hội

5.3. Hướng phát triển trong tương lai

Phụ lục A: Các công bố khoa học

TÀI LIỆU THAM KHẢO

Tóm tắt

I. Hệ thống phát hiện xâm nhập

Hệ thống phát hiện xâm nhập (IDS) là một công cụ quan trọng trong an ninh mạng, giúp phát hiện các hoạt động bất thường và độc hại trong mạng. Trong bối cảnh dữ liệu lớn, việc áp dụng các kỹ thuật máy họchọc sâu vào IDS đã trở thành xu hướng chính. Các phương pháp truyền thống dựa trên dấu hiệu thường không hiệu quả với các cuộc tấn công mới, trong khi các phương pháp dựa trên phát hiện bất thường lại có tỷ lệ báo động giả cao. Nghiên cứu này đề xuất một hệ thống IDS tích hợp mạng khả lập trình (SDN) và công nghệ dữ liệu lớn, nhằm tăng cường độ chính xác và giảm thời gian tính toán.

1.1. Phương pháp phát hiện xâm nhập truyền thống

Các hệ thống IDS truyền thống sử dụng phương pháp dựa trên dấu hiệu, phát hiện các cuộc tấn công đã biết. Tuy nhiên, phương pháp này không hiệu quả với các cuộc tấn công mới. Phương pháp dựa trên phát hiện bất thường so sánh hành vi hiện tại với cấu hình định trước, nhưng thường có tỷ lệ báo động giả cao.

1.2. Phương pháp dựa trên máy học

Các thuật toán máy họchọc sâu được áp dụng để cải thiện độ chính xác của IDS. Tuy nhiên, trong bối cảnh dữ liệu lớn, các thuật toán này thường mất nhiều thời gian huấn luyện. Nghiên cứu này kết hợp công nghệ dữ liệu lớn để giải quyết vấn đề này, đảm bảo tốc độ và độ chính xác cao.

II. Mạng khả lập trình SDN

Mạng khả lập trình (SDN) là một kiến trúc mạng mới, tách biệt chức năng điều khiển và chuyển tiếp dữ liệu. Điều này cho phép tự động hóa và linh hoạt trong quản lý mạng. SDN đã được áp dụng thành công trong các doanh nghiệp lớn như Huawei và Google. Trong nghiên cứu này, SDN được tích hợp với IDS để tăng cường an ninh mạngquản lý rủi ro.

2.1. Ưu điểm của SDN

SDN cung cấp chế độ xem toàn mạng, giúp đơn giản hóa việc thu thập và phân tích lưu lượng mạng. Khả năng lập trình của SDN cũng giúp dễ dàng đối phó với các cuộc tấn công mạng khi chúng được phát hiện.

2.2. Ứng dụng SDN trong IDS

Nghiên cứu này đề xuất một hệ thống IDS dựa trên SDN, kết hợp với công nghệ dữ liệu lớn để xử lý các luồng dữ liệu lớn với tốc độ cao. Điều này giúp tăng cường hiệu quả của IDS trong việc phát hiện và phân loại các cuộc tấn công mạng.

III. Dữ liệu lớn và an ninh mạng

Với sự bùng nổ của dữ liệu lớn, các thách thức về an ninh mạng ngày càng gia tăng. Các cuộc tấn công mạng như DDoS đã trở thành mối đe dọa lớn đối với các nhà cung cấp dịch vụ. Nghiên cứu này đề xuất một hệ thống IDS tích hợp công nghệ dữ liệu lớn để phân tích và phát hiện các cuộc tấn công một cách hiệu quả.

3.1. Thách thức của dữ liệu lớn

Dữ liệu lớn đòi hỏi các công nghệ mới để lưu trữ, quản lý và phân tích. Các công cụ phân tích tiên tiến giúp trích xuất thông tin hữu ích từ dữ liệu, nhưng cũng làm gia tăng nguy cơ bị tấn công mạng.

3.2. Giải pháp tích hợp dữ liệu lớn

Nghiên cứu này kết hợp công nghệ dữ liệu lớn với IDS để tạo ra một quy trình phân tích dữ liệu chính xác và hiệu quả. Điều này giúp giảm thiểu thời gian tính toán và tăng cường độ chính xác trong việc phát hiện các cuộc tấn công.

IV. Mô hình phát hiện và phân loại tấn công

Nghiên cứu này đề xuất một mô hình phát hiện và phân loại tấn công dựa trên máy họchọc sâu. Mô hình này được tích hợp với mạng khả lập trìnhcông nghệ dữ liệu lớn, đảm bảo tốc độ và độ chính xác cao. Kết quả thử nghiệm cho thấy độ chính xác đạt từ 97% đến 99%, với tỷ lệ báo động giả chỉ 0.15%.

4.1. Tiền xử lý dữ liệu

Quá trình tiền xử lý dữ liệu được thực hiện để chuẩn bị dữ liệu cho việc huấn luyện mô hình. Điều này bao gồm việc làm sạch dữ liệu, chuẩn hóa và chọn lọc các đặc trưng quan trọng.

4.2. Huấn luyện mô hình

Các mô hình máy họchọc sâu được huấn luyện trên các bộ dữ liệu lớn. Kết quả cho thấy mô hình đạt độ chính xác cao và có khả năng phân loại các cuộc tấn công một cách hiệu quả.

V. Ứng dụng thực tế và hướng phát triển

Hệ thống IDS được đề xuất trong nghiên cứu này đã được triển khai thực nghiệm thành công, tạo nên một giải pháp an ninh vững chắc. Hệ thống không chỉ giúp phát hiện các cuộc tấn công mà còn có khả năng ứng phó hiệu quả. Nghiên cứu cũng mở ra hướng phát triển mới trong việc áp dụng mạng khả lập trìnhcông nghệ dữ liệu lớn vào an ninh mạng.

5.1. Triển khai thực tế

Hệ thống đã được triển khai thực nghiệm, cho thấy khả năng phát hiện và phân loại các cuộc tấn công một cách hiệu quả. Kết quả thử nghiệm đạt độ chính xác cao và tỷ lệ báo động giả thấp.

5.2. Hướng phát triển

Nghiên cứu này mở ra hướng phát triển mới trong việc tích hợp mạng khả lập trìnhcông nghệ dữ liệu lớn vào các hệ thống an ninh mạng. Điều này có tiềm năng ứng dụng lớn trong các doanh nghiệp và tổ chức.

21/02/2025

Trích đoạn nội dung tài liệu

Chương 1. TQ dG ti na. Mục tiêu của đê tài.-- Sc 2c St S1 v11 191511112 1111111 1 111 11x grrrưyn5 1. Đối tượng và phạm vi nghiên cứu.

_ Đối tượng nghiên cứu. _ Phạm vi nghiên cứu.-----555+5++c+cscseeterererereerrre 7 Chương2. Tổng quan về hệ thống phát hiện xâm nhập. Tổng quan về mang khả lập trình.

Kỹ thuật học máy trong phát hiện xâm nhập. Kỹ thuật dữ liệu lớn trong phát hiện xâm nhập 2. Các công trình liên quan.--¿-¿- + ¿5+5 S+2*+*‡+‡Et£etexexrkerrkererrree 15 Chương 3. NỘI DUNG VÀ PHƯƠNG PHÁP.

Xây dựng ha tang dữ liệu lớn kết hợp với mạng khả lập trình. Kiến trúc mạng khả lập trình. Các thành phan phân tích giám sát và phát hiện xâm nhập. Các bộ dữ liệu.

Mô hình phát hiện và phân loại các cuộc tân công mạng. _ Tiền xử lý dữ liệu. Huấn luyện mô hình máy học dé phát hiện các cuộc tan công mang38 3. Huấn luyện mô hình học sâu để phân loại các cuộc tấn công mạng.

Chỉ số đánh giá mô hình phát hiện và phân loại các cuộc tấn công. Phương pháp thực nghiệm kiểm thử hệ thống. Giả lập lưu lượng dữ liệu mạng kiểm định hệ thống. Chan lưu lượng mạng của kẻ tan công khi được phát hiện.

THỰC NGHIEM VÀ ĐÁNH GIA. Môi trường thực hiỆn. Kết quả nghiên cứu. Kết qua huấn luyện mô hình ML.

Kết quả huấn luyện mô hình DL. So sánh kết quả toàn bộ hệ thống với nghiên cứu khác. Kết quả triển khai thực tế hệ thống.------ccccccc+++crr 56 Chương 5. | TONG KET VÀ HƯỚNG PHÁT TRIẺN.

Ý nghĩa khoa học. Hiệu qua về mặt kinh tế - xã NOL eececcecssecssesssecssesssecssesssesssesssesssesssecased 64 5. Hướng phát triển trong tương lai.--::c+22v+zvevvvvrrerrvvvrrerrrer 65 Phụ lục A: Các công bố khoa hỌC. 66 TÀI LIỆU THAM KHẢO DANH MỤC HÌNH Hình I Tổng quan về hệ thống phát hiện xâm nhập [ 10].

10 Hình 3 Tổng quan về phân loại các thuật toán máy học.----¿- ¿25+ 11 Hình 4 Quy trình xử ly dữ liệu lớn dé phát hiện bat thường trong thời gian thực [18] %ũũÚỖŨỖỒ. 15 Hình 5 Tổng quan về kiến trúc hệ thống chúng tôi đề xuất.----- 2-52 19 Hình 6 Kiến trúc mô phỏng SDN.-- 2-2 © £+E£+E£EE#EE+EE+EE+EE£EEEEeEEeEkerkrrkrree 24 Hình 7 Tổng quan về mô hình hạ tang dữ liệu lớn dé xuất.-------2- s2 s2 25 Hình 8 Sơ đồ thuật toán hệ thông phát hiện và phân loại cuộc tan công. 36 Hình 9 Thiết kế mô hình phát hiện va phân loại các cuộc tan công mạng. 40 Hình 10 Chỉ số accuracy của mô hình trên tập huấn luyện và tập hiệu chỉnh trong quá trình huấn luyỆn.---2--2-- 2 2 £SE2E2EE2EE9EEEEE2E12E15717112117117171211 1111.42 Hình 11 Mô tả confusion matrix cho bài toán phân loại nhiều nhãn.- 44 Hình 12 Confusion matrix cho phát hiện tấn công trên tập dữ liệu NF-BoT-IoT-v2 (bên trái là kiểm thử trên tập dữ liệu con, bên phải là toàn bộ dif liệu).

49 Hình 13 Confusion matrix cho phát hiện tan công trên tập di liệu NF-CSE-CIC- IDS2018-v2 (bên trái là kiêm thử trên tập dữ liệu con, bên phải là toàn bộ dữ liệu). 50 Hình 14 Confusion matrix cho phát hiện tấn công trên tập dữ liệu NF-ToN-IoT-v2 (bên trái là kiểm thử trên tập dữ liệu con, bên phải là toàn bộ dữ liệu). 50 Hình 15 Confusion matrix cho phân loại tấn công của bộ dtr liệu NF-BoT-IoT-v2 52 Hình 16 Confusion matrix cho phân loại tan công của bộ dữ liệu NF-CSE-CIC- P0027. 53 Hinh 17 Confusion matrix cho phan loai tan công của bộ dit liệu NF-ToN-IoT-v2 54 Hình 18 Dia chi IP được gan cho các Host và S€TV€T.- Ăn se 57 Hình 19 Kiến trúc SDN được khởi tạo thành công với bộ điều khiển ONOS.

57 Hình 20 Cac hosts được khởi tao đã hoàn toàn kết nối với nhatl.e eee 57 Hình 21 Cấu hình trong nprobe.- 2-22 5¿+5+2E++E+2EEt2EEtEE++rxezrxerresree 58 Hình 22 Các trường đặc trưng nhận được ở Apache Kafka từ nProbe theo dạng Impật. 58 Hình 23 Code tạo luồng dữ liệu giữa Spark và Kafka .ceccccccccscsssesssesstecstessesseeseeens 58 Hình 24 Log của Spark khi chạy thành công.-- 5 + sen 59 Hình 25 Các luồng lưu lượng mạng được phân tích và trực quan hóa trên giao diện AolOk © ) ce 59 Hình 26 Các luồng lưu lượng mạng được phân tích và trực quan hóa trên giao diện 1002117 .Ô 60 Hình 27 Câu lệnh tan công TCP SYS Flooding.------ 2 2 2+s2+x£x+zx+zxzzszsez 60 Hình 28 Cảnh báo cuộc tấn công DDoS và thông báo chặn thiết bị được trả về từ MO Hinh IDS 00. 60 Hình 29 Luéng dữ liệu được gửi tới dé chặn vĩnh viễn tat cả lưu lượng từ địa chi IP nguôn 10.61 Hình 30 Kết quả kiểm tra khi chặn lưu lượng mạng của thiết bị tắn công. 62 Hình 31 Câu lệnh thực hiện tan công Port Scanning.-- 2 2 + 5s s+zs2 5+2 62 Hình 32 Cảnh báo cuộc tan công Scanning được trả về từ mô hình IDS.

62 DANH MỤC BANG Bang | So sánh giữa các phương thức phát hiện xâm nhâp [16].-- - - --- 9 Bang 2 Bang mô tả các đặc trưng của các bộ dữ liệu .-- ------+-<<++<s++sss+ 31 Bảng 3 Mô ta tập dữ liệu NF-BO/T-IO7T-V2. 2Á + + kS SH HH HH HH gttưệp 33 Bang 4 Mô tả chỉ tiết tập dit liệu NF-ToN-IoT-v22.---¿2s- s+cx+zxzzs+zxsrxcrez 34 Bảng 5 Mô ta tập dữ liệu NF-CSE-CIC-IDS2018-V2.- ác ssessssesske 35 Bảng 6 Chỉ tiết các giá trị siêu tham số tại mỗi lớp.---- 2-2 +s2+s+zx+zxzsz 40 Bang 7 Tổng số lượng mẫu dung dé đánh giá mô hình và thời gian huấn luyện .42 Bang 8 Mô tả confusion matrix cho bài toán phân loại nhị phân. -- 43 Bảng 9 Bảng so sánh kết quả giữa các thuật toán máy học cho mô-đun phát hiện tấn Bảng 12 Bảng so sánh chỉ số độ chính xác phân loại tân công trên bộ dữ liệu CSE- CIC-IDS20118. HH TT HH HH HT TH HH 56 DANH MỤC TU VIET TAT Số thứ tu | Thuật ngữ Mô tả 1 Al Artificial Intelligence 2 API Application Programming Interface 3 CNN Convolutional Neural Network 4 CPU Central Processing Unit 5 DB Database 6 DBN Deep Belief Network 7 DDOS Distributed Denial-Of-Service 8 DL Deep Learning 9 DNN Deep Neural Network 10 DNS Domain Name System 11 FN False Negative 12 FNR False Negative Rate 13 FP False Positive 14 FPR False Positive Rate 15 FTP File Transfer Protocol 16 GPU Graphics Processing Unit 17 HIDS Host-Based Intrusion Detection System 18 HTTP Hypertext Transfer Protocol 19 IDS Intrusion Detection System 20 IOT Internet Of Thing 21 IP Internet Protocol, 22 KNN K-Nearest Neighbors 23 ML Machine Learning 24 NÑIDS | Network-Based Intrusion Detection System 25 ONOS Open Network Operating System 26 PCA Principal Component Analysis 27 RAM Random-Access Memory 28 RBM Restricted Boltzmann Machine 29 RDD Resilient Distributed Datasets 30 RF Random Forest 31 RNN Recurrent Neural Network 32 SDN Software-Defined Networking 34 SSH Secure Shell 35 SVM Support Vector Machine 36 TCP Transmission Control Protocol 37 TN True Negative 38 TNR True Negative Rate 38 TP True Positive 39 TPR True Positive Rate 40 TTL Time To Live 41 UDP User Datagram Protocol 42 VM Virtual Machine TÓM TẮT KHÓA LUẬN Mạng khả lập trình (Software-defined Networking, viết tắt là SDN) đang trở thành một trong những giải pháp đầy hứa hẹn cho Internet trong tương lai.

Là một kiến trúc mạng mới, linh hoạt và dé quản lý với khả năng lập trình, SDN là một giải pháp hiệu quả cho các doanh nghiệp lớn dé quản lý giám sát hạ tang mạng của mình. Tuy nhiên cũng như các kiến trúc truyền thống khác, SDN phải đối mặt với các mối đe dọa tiềm ân từ các cuộc tấn công mạng. Cùng với sự phát triển của các thiết bị thông minh, lượng dữ liệu lưu thông trên Internet ngày càng nhiều, dẫn tới tầm quan trọng của hệ thống phân tích dữ liệu và bảo mật thông tin đối với dữ liệu lớn ngày càng tăng lên. Do đó, nghiên cứu này cung cấp giải pháp cho hệ thống phát hiện và phân loại xâm nhập mạng toàn diện và chỉ tiết, phù hợp với kiến trúc mạng khả lập trình trong bối cảnh dữ liệu lớn.

Cu thé, chúng tôi đã kết hợp thuật toán máy học và học sâu trên công nghệ xử lý dữ liệu lớn dé xây dựng mô hình phát hiện và phân loại các cuộc tan công. Phương pháp này không chỉ giúp giải quyết các van đề về tốc độ và thời gian tính toán của thuật toán mà còn có thé đảm bảo độ chính xác cao. Chúng tôi đã đánh giá mô hình trên ba bộ dữ liệu với kết quả đạt được rat đáng lưu ý: độ chính xác đạt từ 97% tới 99%, tỉ lệ cảnh báo giả chỉ từ 0.15% khi phân loại nhiều cuộc tấn công khác nhau. Toàn bộ hệ thống đã được chúng tôi triển khai thực nghiệm thành công, tạo nên một hệ thống phòng thủ vững chắc, không chỉ giúp quản trị viên theo dõi và phát hiện những bắt thường trong lưu lượng mạng của thiết bị mà còn có những hành động cụ thê đê ứng phó hiệu quả với các cuộc tân công.

Ngoài ra, công trình của chúng tôi còn là một tư liệu hữu ích cho các nhà nghiên cứu muốn tiếp cận vấn đề này vì nó là một trong những đề tài đi đầu về việc phát triển giải pháp giám sát, phát hiện và phân loại các cuộc tan công cho kiến trúc SDN trong ngữ cảnh dữ liệu lớn. Không những thế, kiến trúc mô hình linh hoạt giúp việc ứng dụng của nó phù hợp với mọi quy mô doanh nghiệp. Do đó, nó mang lại tiềm năng ứng dụng rât lớn đôi với các doanh nghiệp trong và ngoài nước. Tên đề tài Tên tiếng Việt: XÂY DUNG HE THONG PHÁT HIỆN XÂM NHẬP DUA TREN MÁY HỌC CHO MẠNG KHẢ LẬP TRÌNH TRONG NGỮ CẢNH DỮ LIỆU LỚN Tên tiếng Anh: BUILDING MACHINE LEARNING BASED INTRUSION DETECTION SYSTEM FOR SOFTWARE DEFINED NETWORK IN BIG DATA CONTEXT 1.

Dat van dé Sự phát triển bùng nỗ của việc sử dung Internet đã đưa chúng ta vào ky nguyên dữ liệu lớn. Vào đầu năm 2021, có hơn 65% dân số trên thế giới sử dụng Internet (88% ở Europe và 94% ở North America) [I]. Ngoài ra, sự phát triển của các xu hướng công nghệ hiện nay như IoT, Cloud, mạng xã hội cũng góp phan tạo ra khối dit liệu khống 16. Theo báo của Statista [2], dự kiến vào năm 2030, các thiết bị IoT kết nối Internet sẽ đạt tới 25.4 tỷ thiết bị tức tăng gấp ba lần so với năm 2020 là khoảng 8.74 tỷ thiết bị.

Dẫn đến hàng nghìn exabyte (EB) dữ liệu được tạo ra và lưu thông trên Internet hàng ngày với tốc độ chóng mặt. Dữ liệu lớn là dữ liệu khó lưu trữ, quản lý và phân tích bằng công nghệ phần mềm và cơ sở dữ liệu truyền thống. Dữ liệu lớn bao gồm dung lượng lớn và tốc độ cao, cũng như nhiều loại dữ liệu khác nhau đòi hỏi các công nghệ mới dé xử lý. Từ đó, các thách thức về phân tích dữ liệu lớn đã được đưa ra trong [3].

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ

Tài liệu "Xây dựng hệ thống phát hiện xâm nhập bằng máy học cho mạng khả lập trình trong bối cảnh dữ liệu lớn" tập trung vào việc ứng dụng các kỹ thuật máy học để phát hiện xâm nhập trong mạng khả lập trình, đặc biệt trong môi trường dữ liệu lớn. Nghiên cứu này nhấn mạnh tầm quan trọng của việc tích hợp các phương pháp tiên tiến như học sâu và xử lý dữ liệu thời gian thực để nâng cao hiệu quả bảo mật mạng. Độc giả sẽ hiểu rõ hơn về cách thức xây dựng hệ thống phát hiện xâm nhập thông minh, giúp tối ưu hóa quản lý và bảo vệ mạng trong bối cảnh công nghệ hiện đại.

Để mở rộng kiến thức về các ứng dụng máy học trong lĩnh vực bảo mật và xử lý dữ liệu, bạn có thể tham khảo Luận văn thạc sĩ kỹ thuật viễn thông phân loại chủ đề bản tin online sử dụng máy học, nghiên cứu này cung cấp cái nhìn sâu sắc về việc áp dụng máy học trong phân loại thông tin. Ngoài ra, Nghiên cứu thuật toán mã hóa có xác thực NORX sẽ giúp bạn hiểu rõ hơn về các phương pháp bảo mật dữ liệu tiên tiến. Cuối cùng, Luận văn thạc sĩ kỹ thuật điện tử ứng dụng biến đổi Curvelet xử lý ảnh siêu phân giải là một tài liệu thú vị về xử lý dữ liệu hình ảnh, một lĩnh vực liên quan chặt chẽ đến xử lý dữ liệu lớn.