Đồ án tốt nghiệp: Nghiên cứu và phát triển mô hình BERT nhẹ để phân loại mối đe dọa mạng cho thiết bị IoT

• Tác giả: Phạm Hoàng Vũ
• Người hướng dẫn: PGS. TS Võ Minh Huân
• Trường học: Trường Đại học Sư phạm Kỹ thuật Thành phố Hồ Chí Minh
• Chuyên ngành: Công nghệ Kỹ thuật Điện tử, Viễn thông
• Đề tài: Nghiên cứu và phát triển mô hình BERT nhẹ để phân loại mối đe dọa mạng cho thiết bị IoT
• Loại tài liệu: đồ án tốt nghiệp
• Năm xuất bản: 2024
• Địa điểm: Thành phố Hồ Chí Minh

• LỜI CẢM ƠN
• LỜI CAM ĐOAN
• TÓM TẮT
• 1. CHƯƠNG 1: TỔNG QUAN
• 1.1. TÌNH HÌNH NGHIÊN CỨU HIỆN NAY
• 1.2. MỤC TIÊU ĐỀ TÀI
• 1.3. GIỚI HẠN ĐỀ TÀI
• 1.4. PHƯƠNG PHÁP NGHIÊN CỨU
• 1.5. ĐỐI TƯỢNG VÀ PHẠM VI NGHIÊN CỨU
• 1.6. BỐ CỤC BÁO CÁO
• 2. CHƯƠNG 2: CƠ SỞ LÝ THUYẾT
• 2.1. CÁC LOẠI TẤN CÔNG MẠNG TRONG ỨNG DỤNG IOT
• 2.1.1. Tấn công DoS/DDoS
• 2.1.2. Thu thập thông tin
• 2.1.3. Tấn công trung gian
• 2.2. NGÔN NGỮ LẬP TRÌNH PYTHON
• 2.2.1. Tổng quan về ngôn ngữ lập trình Python
• 2.2.2. Ưu điểm và nhược điểm
• 2.3. TỔNG QUAN VỀ PYTORCH
• 2.3.1. Giới thiệu Pytorch
• 2.3.2. Đặc điểm nổi bật
• 2.3.3. Các thành phần trong Pytorch
• 2.3.4. Ưu nhược điểm của Pytorch
• 2.4. KIẾN TRÚC TRANSFORMERS
• 2.4.1. Kiến trúc Transformers
• 2.5. TỔNG QUAN VỀ MÔ HÌNH NGÔN NGỮ BERT
• 2.5.1. Kiến trúc mô hình
• 2.5.2. Đặc điểm nổi bật của BERT
• 2.5.3. Ứng dụng của BERT
• 2.6. Các kĩ thuật tách từ trong xử lý ngôn ngữ tự nhiên
• 2.7. CÁC PHƯƠNG PHÁP ĐO LƯỜNG VÀ ĐÁNH GIÁ
• 2.7.1. Precision và Recall
• 2.7.2. Macro Average và Weight Average
• 3. CHƯƠNG 3: KẾT QUẢ THỰC NGHIỆM
• 3.1. PHÂN TÍCH BÀI TOÁN VÀ XÂY DỰNG QUY TRÌNH LÀM VIỆC
• 3.1.1. Phân tích bài toán
• 3.1.2. Xây dựng quy trình làm việc mô hình
• 3.1.3. Giới thiệu tập dữ liệu
• 3.2. TIỀN XỬ LÝ DỮ LIỆU
• 3.2.1. Các thư viện để xử lý dữ liệu
• 3.2.2. Trình bày dữ liệu sang dạng văn bản
• 3.3. MÃ HÓA TẬP DỮ LIỆU
• 3.3.1. Byte-level BPE tokenizer
• 3.3.2. Mã hóa tập dữ liệu
• 3.4. MÔ HÌNH BERT CHO PHÂN LOẠI TẤN CÔNG MẠNG
• 3.4.1. Kiến trúc mô hình Bert cho phân loại
• 3.4.2. Giải thuật huấn luyện mô hình
• 3.4.3. Giải thuật đánh giá mô hình
• 3.5. CÁC MÔ HÌNH DÙNG ĐỂ SO SÁNH
• 3.5.1. Thiết lập tập dữ liệu
• 3.5.2. Thiết lập mô hình so sánh
• 4. CHƯƠNG 4: KẾT QUẢ VÀ THẢO LUẬN
• 4.1. KẾT QUẢ THỰC HIỆN
• 4.2. So sánh hiệu suất
• 4.3. NHẬN XÉT VÀ ĐÁNH GIÁ MÔ HÌNH
• 5. CHƯƠNG 5: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
• 5.1. KẾT LUẬN
• 5.2. HƯỚNG PHÁT TRIỂN
• TÀI LIỆU THAM KHẢO

I. Mô hình BERT và ứng dụng trong an ninh mạng

Mô hình BERT (Bidirectional Encoder Representations from Transformers) là một công nghệ tiên tiến trong lĩnh vực xử lý ngôn ngữ tự nhiên (NLP). Mô hình này nổi bật với khả năng hiểu ngữ cảnh hai chiều, giúp nâng cao hiệu quả trong các nhiệm vụ phân tích và phân loại dữ liệu. Trong bối cảnh an ninh mạng, BERT được ứng dụng để phân loại mối đe dọa mạng thông qua việc phân tích dữ liệu phi cấu trúc, đặc biệt là các giao thức mạng và lưu lượng truy cập. Các nghiên cứu gần đây như MalBERT và SecureBERT đã chứng minh hiệu quả của BERT trong việc phát hiện phần mềm độc hại và phân loại email rác. Đề tài này tập trung vào việc phát triển một mô hình BERT nhẹ để phân loại các mối đe dọa mạng trên thiết bị IoT, nhằm tăng cường bảo mật thông tin và giảm thiểu rủi ro từ các tấn công mạng.

1.1. Kiến trúc và đặc điểm của BERT

Kiến trúc BERT dựa trên cơ chế Transformer, cho phép mô hình hiểu ngữ cảnh của từ trong câu thông qua việc mã hóa hai chiều. Điều này giúp BERT vượt trội trong các nhiệm vụ như phân loại văn bản, trả lời câu hỏi và dịch máy. Trong lĩnh vực an ninh mạng, BERT được tối ưu hóa để xử lý các dữ liệu phi cấu trúc như lưu lượng mạng và nhật ký hệ thống. Các mô hình nhẹ như SecureBERT và MalBERT đã được phát triển để phù hợp với các thiết bị có tài nguyên hạn chế, đặc biệt là thiết bị IoT.

1.2. Ứng dụng BERT trong phân loại mối đe dọa mạng

BERT được ứng dụng để phân loại mối đe dọa mạng thông qua việc phân tích các giao thức mạng và lưu lượng truy cập. Các nghiên cứu như SecureBERT và MalBERT đã chứng minh hiệu quả của BERT trong việc phát hiện phần mềm độc hại và phân loại email rác. Đề tài này tập trung vào việc phát triển một mô hình BERT nhẹ để phân loại các mối đe dọa mạng trên thiết bị IoT, nhằm tăng cường bảo mật thông tin và giảm thiểu rủi ro từ các tấn công mạng.

II. Phân loại mối đe dọa mạng trên thiết bị IoT

Thiết bị IoT đang trở thành mục tiêu hấp dẫn cho các tấn công mạng do sự thiếu chú trọng về bảo mật thông tin. Các mối đe dọa mạng phổ biến bao gồm tấn công DoS/DDoS, thu thập thông tin và tấn công trung gian. Đề tài này tập trung vào việc phân loại mối đe dọa mạng thông qua việc phân tích các giao thức mạng và lưu lượng truy cập. Mô hình BERT nhẹ được phát triển để phù hợp với các thiết bị IoT, giúp tăng cường an ninh mạng và giảm thiểu rủi ro từ các tấn công mạng.

2.1. Các loại tấn công mạng phổ biến

Các tấn công mạng phổ biến trên thiết bị IoT bao gồm tấn công DoS/DDoS, thu thập thông tin và tấn công trung gian. Tấn công DoS/DDoS nhằm làm gián đoạn hoạt động của hệ thống bằng cách gửi một lượng lớn yêu cầu đến máy chủ. Thu thập thông tin là loại tấn công nhằm đánh cắp dữ liệu cá nhân và quyền truy cập mật khẩu. Tấn công trung gian là loại tấn công nhằm chặn và thay đổi thông tin giữa hai bên giao tiếp.

2.2. Phân tích và xử lý dữ liệu mạng

Đề tài này tập trung vào việc phân tích và xử lý dữ liệu mạng để phân loại mối đe dọa mạng. Các giao thức mạng và lưu lượng truy cập được phân tích để xác định các mối đe dọa mạng. Mô hình BERT nhẹ được phát triển để phù hợp với các thiết bị IoT, giúp tăng cường an ninh mạng và giảm thiểu rủi ro từ các tấn công mạng.

III. Phát triển mô hình BERT nhẹ cho thiết bị IoT

Mô hình BERT nhẹ được phát triển để phù hợp với các thiết bị IoT, giúp tăng cường an ninh mạng và giảm thiểu rủi ro từ các tấn công mạng. Mô hình này được tối ưu hóa để xử lý các dữ liệu phi cấu trúc như lưu lượng mạng và nhật ký hệ thống. Đề tài này tập trung vào việc phát triển mô hình BERT nhẹ để phân loại các mối đe dọa mạng trên thiết bị IoT, nhằm tăng cường bảo mật thông tin và giảm thiểu rủi ro từ các tấn công mạng.

3.1. Tối ưu hóa mô hình BERT cho thiết bị IoT

Mô hình BERT nhẹ được tối ưu hóa để phù hợp với các thiết bị IoT, giúp tăng cường an ninh mạng và giảm thiểu rủi ro từ các tấn công mạng. Mô hình này được tối ưu hóa để xử lý các dữ liệu phi cấu trúc như lưu lượng mạng và nhật ký hệ thống. Đề tài này tập trung vào việc phát triển mô hình BERT nhẹ để phân loại các mối đe dọa mạng trên thiết bị IoT, nhằm tăng cường bảo mật thông tin và giảm thiểu rủi ro từ các tấn công mạng.

3.2. Đánh giá hiệu suất của mô hình BERT nhẹ

Mô hình BERT nhẹ được đánh giá hiệu suất thông qua việc phân tích các giao thức mạng và lưu lượng truy cập. Mô hình này đạt độ chính xác cao trong việc phân loại mối đe dọa mạng và phù hợp với các thiết bị IoT. Đề tài này tập trung vào việc phát triển mô hình BERT nhẹ để phân loại các mối đe dọa mạng trên thiết bị IoT, nhằm tăng cường bảo mật thông tin và giảm thiểu rủi ro từ các tấn công mạng.