Phát Hiện Mẫu Đối Kháng và Tăng Cường Tính Bền Vững cho Hệ Thống Phát Hiện Xâm Nhập

Khóa luận trình bày phương pháp phát hiện mẫu đối kháng, tăng cường tính bền vững cho hệ thống phát hiện xâm nhập dựa trên học máy.

• Tác giả: Nguyen Duc Trung
• Người hướng dẫn: ThS. Phan Thế Duy
• Trường học: Truong Dai hoc Cong nghe Thong tin - Dai hoc Quoc gia Thanh pho Ho Chi Minh
• Chuyên ngành: Khoa Luân Tốt Nghiệp
• Đề tài: Phát Hiện Mẫu Đối Kháng và Tăng Cường Tính Bền Vững cho Hệ Thống Phát Hiện Xâm Nhập
• Loại tài liệu: Khóa luận tốt nghiệp
• Năm xuất bản: 2024
• Địa điểm: TP.Hồ Chí Minh

Mục lục chi tiết

• LỜI CẢM ƠN
• 1. CHƯƠNG 1: TỔNG QUAN ĐỀ TÀI
• 1.1. Lý do chọn đề tài
• 1.2. Phương pháp nghiên cứu
• 1.3. Mục tiêu nghiên cứu
• 1.4. Phạm vi và Đối tượng nghiên cứu
• 1.5. Cấu trúc Khóa luận tốt nghiệp
• 2. CHƯƠNG 2: CƠ SỞ LÝ THUYẾT
• 2.1. Hệ thống phát hiện xâm nhập
• 2.1.1. Tổng quan
• 2.2. Giới thiệu về học máy
• 2.2.1. Khái niệm học máy
• 2.2.2. Các loại học máy
• 2.3. Các mô hình học máy sử dụng trong đề tài
• 2.3.1. Decision Tree
• 3. CHƯƠNG 3: PHƯƠNG PHÁP THỰC HIỆN
• 3.1. Kiến trúc tổng quát
• 3.2. Kiến trúc mô hình đề xuất
• 3.3. Phương pháp xây dựng
• 4. CHƯƠNG 4: HIỆN THỰC, ĐÁNH GIÁ VÀ THẢO LUẬN
• 5. CHƯƠNG 5: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
• Danh sách hình
• Danh sách bảng
• Danh mục từ viết tắt
• Danh mục từ tạm dịch

Tóm tắt

I. Tổng Quan Về Phát Hiện Mẫu Đối Kháng Trong Hệ Thống IDS

Hệ thống phát hiện xâm nhập (IDS) đóng vai trò quan trọng trong việc bảo vệ an ninh mạng. Việc phát hiện mẫu đối kháng là một thách thức lớn trong lĩnh vực này. Mẫu đối kháng là những dữ liệu được điều chỉnh nhằm đánh lừa các mô hình học máy, làm giảm hiệu suất phát hiện. Do đó, việc nghiên cứu và phát triển các phương pháp phát hiện mẫu đối kháng là cần thiết để tăng cường tính bền vững cho hệ thống IDS.

1.1. Khái Niệm Về Mẫu Đối Kháng Trong An Ninh Mạng

Mẫu đối kháng là những dữ liệu được tạo ra với mục đích làm giảm hiệu suất của các mô hình học máy. Chúng thường được sử dụng trong các cuộc tấn công nhằm vào hệ thống phát hiện xâm nhập, gây ra những khó khăn trong việc phát hiện các mối đe dọa thực sự.

1.2. Tầm Quan Trọng Của Hệ Thống IDS Trong Bảo Mật Mạng

Hệ thống IDS giúp phát hiện và ngăn chặn các cuộc tấn công mạng. Việc phát hiện kịp thời các mẫu đối kháng sẽ giúp bảo vệ thông tin và tài sản của tổ chức, từ đó nâng cao tính bền vững cho hệ thống.

II. Thách Thức Trong Việc Phát Hiện Mẫu Đối Kháng

Các cuộc tấn công đối kháng ngày càng tinh vi, khiến cho việc phát hiện trở nên khó khăn hơn. Những thách thức này bao gồm việc các mẫu đối kháng có thể được tạo ra một cách dễ dàng và nhanh chóng, làm giảm hiệu quả của các hệ thống IDS hiện tại. Hơn nữa, sự thiếu minh bạch trong các quyết định của mô hình học máy cũng là một vấn đề lớn.

2.1. Tính Tinh Vi Của Các Cuộc Tấn Công Đối Kháng

Các cuộc tấn công đối kháng có thể được thực hiện bằng cách thay đổi một số thuộc tính nhỏ trong dữ liệu, khiến cho các mô hình học máy không thể phát hiện ra. Điều này đặt ra thách thức lớn cho các nhà nghiên cứu trong việc phát triển các phương pháp phát hiện hiệu quả.

2.2. Thiếu Minh Bạch Trong Quyết Định Của Mô Hình

Nhiều mô hình học máy hiện tại thiếu khả năng giải thích, khiến cho việc hiểu rõ lý do tại sao một mẫu không được phát hiện trở nên khó khăn. Điều này làm giảm độ tin cậy của hệ thống IDS và cần được cải thiện.

III. Phương Pháp Phát Hiện Mẫu Đối Kháng Hiệu Quả

Để phát hiện mẫu đối kháng, cần áp dụng các phương pháp học máy tiên tiến kết hợp với trí tuệ nhân tạo khả diễn giải (XAI). Các phương pháp này không chỉ giúp phát hiện mà còn giải thích được các quyết định của mô hình, từ đó nâng cao tính bền vững cho hệ thống IDS.

3.1. Sử Dụng Học Máy Để Phát Hiện Mẫu Đối Kháng

Các mô hình học máy như CNN và MLP có thể được sử dụng để phát hiện mẫu đối kháng. Bằng cách huấn luyện trên các tập dữ liệu lớn, các mô hình này có thể cải thiện khả năng phát hiện và giảm thiểu tỷ lệ sai sót.

3.2. Tích Hợp XAI Vào Hệ Thống IDS

Trí tuệ nhân tạo khả diễn giải (XAI) giúp cung cấp sự minh bạch trong các quyết định của mô hình. Bằng cách sử dụng các kỹ thuật như SHAP, có thể xác định các thuộc tính quan trọng và xây dựng danh sách trắng để phát hiện mẫu đối kháng hiệu quả hơn.

IV. Ứng Dụng Thực Tiễn Của Phương Pháp Phát Hiện Mẫu Đối Kháng

Việc áp dụng các phương pháp phát hiện mẫu đối kháng trong thực tiễn đã cho thấy hiệu quả rõ rệt. Các hệ thống IDS được cải thiện đáng kể về khả năng phát hiện và giảm thiểu các cuộc tấn công đối kháng. Điều này không chỉ bảo vệ thông tin mà còn nâng cao độ tin cậy của hệ thống.

4.1. Kết Quả Nghiên Cứu Về Hiệu Suất Phát Hiện

Nghiên cứu cho thấy rằng việc tích hợp XAI vào hệ thống IDS đã giúp tăng cường khả năng phát hiện mẫu đối kháng lên đến 95%. Điều này chứng tỏ rằng các phương pháp mới đang hoạt động hiệu quả.

4.2. Thực Tiễn Ứng Dụng Trong Doanh Nghiệp

Nhiều doanh nghiệp đã áp dụng các phương pháp phát hiện mẫu đối kháng và ghi nhận sự cải thiện rõ rệt trong việc bảo vệ hệ thống của họ. Điều này cho thấy rằng việc đầu tư vào công nghệ mới là cần thiết để đảm bảo an ninh mạng.

V. Kết Luận Và Hướng Phát Triển Tương Lai

Việc phát hiện mẫu đối kháng là một thách thức lớn trong lĩnh vực an ninh mạng. Tuy nhiên, với sự phát triển của công nghệ học máy và trí tuệ nhân tạo khả diễn giải, có thể hy vọng vào những giải pháp hiệu quả hơn trong tương lai. Các nghiên cứu tiếp theo cần tập trung vào việc cải thiện khả năng phát hiện và giảm thiểu các cuộc tấn công đối kháng.

5.1. Tương Lai Của Hệ Thống IDS

Hệ thống IDS sẽ tiếp tục phát triển với sự tích hợp của các công nghệ mới. Việc áp dụng học máy và XAI sẽ giúp nâng cao khả năng phát hiện và bảo vệ thông tin.

5.2. Đề Xuất Hướng Nghiên Cứu Mới

Các nghiên cứu trong tương lai nên tập trung vào việc phát triển các phương pháp mới để phát hiện mẫu đối kháng, đồng thời cải thiện tính minh bạch và độ tin cậy của các mô hình học máy.

Nội dung chính

Bối cảnh và vấn đề nghiên cứu

Trong kỷ nguyên số hóa, sự phát triển bùng nổ của các thiết bị kết nối Internet và hệ thống mạng khiến khối lượng thông tin số lưu trữ trên các nền tảng máy tính và đám mây gia tăng nhanh chóng. Sự gia tăng này đồng thời đặt các hệ thống trước nguy cơ thường trực từ các luồng dữ liệu độc hại và các cuộc xâm nhập trái phép. Để thiết lập môi trường an toàn, Hệ thống phát hiện xâm nhập (Intrusion Detection System - IDS) giữ vai trò then chốt trong việc giám sát, phân tích lưu lượng mạng và phát hiện các hành vi bất thường.

Những năm gần đây, việc tích hợp các mô hình học máy (Machine Learning - ML) và học sâu (Deep Learning - DL) vào IDS đã cải thiện đáng kể năng lực xử lý dữ liệu quy mô lớn và nâng cao hiệu suất phân loại lưu lượng độc hại. Tuy nhiên, các nghiên cứu gần đây chỉ ra rằng các mô hình học máy phân loại rất dễ bị tổn thương trước các cuộc tấn công đối kháng (Adversarial Attacks). Kẻ tấn công có thể chèn các nhiễu loạn rất nhỏ ($\Delta$) vào dữ liệu gốc để tạo ra các mẫu đối kháng ($x' = x + \Delta$), khiến mô hình phân loại dự đoán sai lệch hoàn toàn so với nhãn thực tế $y$ mà không làm thay đổi bản chất chức năng của dữ liệu.

Nhằm ứng phó với hiểm họa này, các phương pháp tiếp cận hiện nay thường tập trung vào ba hướng: bảo vệ tham số (che giấu gradient trong các cuộc tấn công hộp trắng), phát hiện đối kháng (bổ sung bộ phân loại phụ trợ) và tối ưu hóa bền vững (huấn luyện đối kháng để giảm độ nhạy của mô hình). Tuy nhiên, các phương pháp này đối mặt với các hạn chế lớn về chi phí tính toán, độ trễ xử lý gói tin và tính thiếu minh bạch trong cơ chế ra quyết định của các mô hình học sâu. Trí tuệ nhân tạo khả diễn giải (Explainable AI - XAI) xuất hiện như một hướng tiếp cận tiềm năng, cung cấp khả năng phân tích sự đóng góp của từng thuộc tính vào quyết định phân loại, từ đó mở ra phương thức mới để nhận diện các mẫu dữ liệu bị thao túng.

Khóa luận xác định 2 mục tiêu nghiên cứu cụ thể:

1. Ứng dụng các loại tấn công đối kháng đồng thời kết hợp mô hình khả diễn giải để tạo mẫu đối kháng nhằm tăng tính bền vững và tin cậy cho hệ thống phát hiện xâm nhập dựa trên học sâu.
2. Thử nghiệm khả năng phát hiện mẫu đối kháng với mô hình phát hiện xâm nhập tích hợp mô hình khả diễn giải.

Phạm vi và đối tượng nghiên cứu của đề tài tập trung vào việc nghiên cứu, xây dựng và đánh giá khung phòng thủ ADV-Shield và quy trình tạo mẫu đối kháng ADV-Sword. Nghiên cứu được thực nghiệm trên tập dữ liệu lưu lượng mạng InSDN, áp dụng các mô hình học máy và học sâu (CNN, MLP, Decision Tree, Random Forest, XGBoost, LightGBM), cùng các kỹ thuật sinh mẫu đối kháng (FGM, PGD, AMM dựa trên SHAP) và phương pháp giải thích mô hình bằng SHAP (SHapley Additive exPlanations).

---

Cơ sở lý thuyết và phương pháp

Khóa luận xây dựng trên nền tảng lý thuyết chuyên sâu về an toàn thông tin, học máy, học sâu và trí tuệ nhân tạo khả diễn giải:

• Hệ thống phát hiện xâm nhập (IDS): Đóng vai trò kiểm soát các luồng lưu lượng mạng, phân biệt giữa hoạt động bình thường (Normal) và tấn công (Malicious/Attack).
• Các mô hình học máy và học sâu:
  • Mô hình học máy truyền thống: Decision Tree (phân nhánh dựa trên các nút gốc, nút nội bộ, nút lá), Random Forest (kết hợp nhiều cây quyết định với cơ chế biểu quyết đa số và đánh giá Gini importance), XGBoost (thuật toán tăng cường độ dốc hỗ trợ xử lý song song và điều chuẩn hóa regularization), LightGBM (phát triển bởi Microsoft, sử dụng cơ chế phát triển cây theo chiều sâu leaf-wise giúp tối ưu hóa bộ nhớ và tốc độ xử lý dữ liệu lớn).
  • Mô hình học sâu: Mạng nơ-ron truyền xuôi nhiều lớp Perceptron đa tầng (MLP) và Mạng nơ-ron tích chập (CNN) gồm các lớp tích chập (Convolutional layer), lớp gộp (Max pooling layer) và lớp kết nối đầy đủ (Fully-connected layer). Các khái niệm nền tảng đi kèm bao gồm hàm kích hoạt (Sigmoid, Tanh, ReLU, Softmax), kỹ thuật chống quá khớp (Dropout), biểu diễn biến phân loại (One-hot encoding) và hàm mất mát (Loss function).
• Tấn công đối kháng (Adversarial Attacks):
  • Fast Gradient Method (FGM): Tạo nhiễu dựa trên độ dốc một bước theo công thức: $$x' = x + \epsilon \cdot \text{sign}(\nabla_x L(f(x), y))$$
  • Projected Gradient Descent (PGD): Phương pháp lặp tối ưu hóa độ dốc kết hợp phép chiếu để giữ khoảng cách nhiễu nằm trong giới hạn $\epsilon$.
  • Zeroth-Order Optimization (ZOO): Phương pháp tấn công hộp đen ước tính gradient dựa trên sai phân hữu hạn mà không cần truy cập trực tiếp vào kiến trúc bên trong hay gradient của mô hình.
  • Giới hạn can thiệp đặc trưng: Sử dụng chuẩn nhiễu $L_\infty$ và chỉ can thiệp vào tập con gồm 22 đặc trưng liên quan đến thời gian của luồng mạng (IAT forward/backward, Active/Idle time, số lượng bytes và packets) để giữ nguyên vẹn chức năng truyền thông của gói tin.
• Mô hình khả diễn giải (XAI):
  • LIME (Local Interpretable Model-Agnostic Explanations): Xây dựng mô hình thay thế cục bộ để giải thích từng dự đoán riêng biệt.
  • SHAP (SHapley Additive exPlanations): Phương pháp tiếp cận dựa trên lý thuyết trò chơi hợp tác (Game Theory), tính toán giá trị đóng góp Shapley của từng đặc trưng vào kết quả đầu ra của mô hình. Khóa luận sử dụng thuật toán Deep Explainer SHAP để phân tích mức độ quan trọng của đặc trưng đối với các mô hình nơ-ron sâu.

Phương pháp nghiên cứu thực nghiệm được thực hiện thông qua quy trình: thu thập và tiền xử lý tập dữ liệu InSDN, huấn luyện các mô hình phân loại IDS và mô hình thay thế (Surrogate models), áp dụng thuật toán phân tích độ lớn độc hại tích lũy (Accrued Malicious Magnitude - AMM) để đột biến mẫu đối kháng, và thiết lập danh sách trắng (Whitelist) từ các giá trị SHAP của mẫu bình thường để tạo lớp phòng thủ thứ hai.

---

Nội dung chính theo từng chương

Chương 1: Tổng quan đề tài

Chương 1 thiết lập bài toán nghiên cứu về tính dễ bị tổn thương của IDS dựa trên học máy/học sâu trước các cuộc tấn công đối kháng. Tác giả phân tích tổng quan ba hướng phòng thủ hiện nay (bảo vệ tham số, phát hiện đối kháng, tối ưu hóa bền vững) và xác định XAI là hướng tiếp cận bổ trợ giúp minh bạch hóa quá trình phân loại. Chương này xác định rõ mục tiêu, phạm vi nghiên cứu thực nghiệm trên tập dữ liệu InSDN, đồng thời giới thiệu cấu trúc tổng thể 5 chương của khóa luận.

Chương 2: Cơ sở lý thuyết

Chương 2 trình bày chi tiết các khái niệm nền tảng về IDS, phân loại học máy (học có giám sát, không giám sát, bán giám sát, học tăng cường), cấu trúc và toán học của các thuật toán DT, RF, XGBoost, LightGBM, CNN, MLP. Chương này phân tích chi tiết cơ chế toán học của các dạng tấn công đối kháng FGM, PGD, ZOO, và các khung giải thích XAI gồm LIME và SHAP. Ngoài ra, chương 2 tổng hợp và so sánh các công trình nghiên cứu liên quan tiêu biểu:

Nghiên cứu	Kỹ thuật phát hiện	Tập dữ liệu	Mô hình học máy/học sâu	Loại tấn công đối kháng
MANDA (Wang et al.)	Ranh giới quyết định & độ đa dạng	NSL-KDD, CICIDS2017, MNIST	LGR, KNN, BNB, DTC, SVM	FGSM, BIM, CW, JSMA
Ibitoye et al.	Chuẩn hóa đặc trưng	Bot-IoT	FNN, SNN	FGSM, BIM, PGD
TIKI-TAKA (Zhang et al.)	Tập hợp mô hình & phát hiện truy vấn	CSE-CIC-IDS2018	MLP, CNN, C-LSTM	NES, HopSkipJump, Boundary, Pointwise, OPT-Attack
SafeXAI (Selvaganapathy et al.)	LIME phát hiện nhiễu	EMRBot	LSTM	C&W
Tcydenova et al.	LIME trích xuất giải thích mẫu bình thường	NSL-KDD	SVM	PGD
ADV-Shield (Đề tài này)	SHAP kết hợp Whitelist đặc trưng	InSDN	LightGBM, XGBoost, DT, RF, MLP, CNN	FGM, PGD, AMM (dựa trên SHAP)

Chương 3: Phương pháp thực hiện

Chương 3 là phần trọng tâm mô tả kiến trúc và thuật toán của hệ sinh thái đề xuất:

1. Quy trình tấn công đột biến mẫu ADV-Sword: Tác giả xây dựng Thuật toán 1 (AMM-based Vector-Space Selection). Thuật toán sử dụng ma trận SHAP $M$ từ các mô hình thay thế $m$ trên tập huấn luyện $X$, tính toán biên độ $D$ và số lượng mẫu có giá trị SHAP lớn $C$ để xác định chỉ số $AMM = D \times C$. Từ đó, chọn ra các đặc trưng có thể can thiệp ($f \in \text{isManipulatable}$) và gán giá trị hướng lành tính $v = \arg\min(M[f])$ nhằm biến đổi mẫu độc hại thành mẫu có thể qua mặt IDS.
2. Thuật toán Deep Explainer SHAP (Thuật toán 2): Tính toán giá trị Shapley $\phi_j$ thông qua việc lấy mẫu dữ liệu nền $D$ và tính hoán vị để đo lường mức độ đóng góp của từng đặc trưng vào dự đoán của mạng nơ-ron.
3. Thuật toán trích xuất Whitelist dựa trên SHAP (Thuật toán 3): Trích xuất top 10 đặc trưng đóng góp tích cực hàng đầu từ các mẫu bình thường trong tập huấn luyện, thống kê tần suất xuất hiện $R$ và xếp hạng giảm dần để tạo ra danh sách trắng các đặc trưng chuẩn mực.

Chương 4: Hiện thực, đánh giá và thảo luận

Chương 4 trình bày môi trường thực nghiệm, quy trình tiền xử lý tập dữ liệu mạng InSDN và cấu hình các mô hình. Nội dung tập trung đánh giá:

• Độ chính xác phân loại của các mô hình học sâu CNN và MLP trong điều kiện lưu lượng bình thường và lưu lượng chứa mã độc.
• Năng lực tấn công của các mô hình thay thế (XGBoost, MLP, Decision Tree) khi sử dụng FGM, PGD và ADV-Sword.
• Hiệu quả của tuyến phòng thủ thứ hai (Whitelist dựa trên SHAP) trong việc lọc và nhận diện chính xác các mẫu đối kháng đã vượt qua phân loại của lớp IDS thứ nhất.

Chương 5: Kết luận và hướng phát triển

Chương 5 tổng kết toàn bộ kết quả đạt được của mô hình ADV-Shield và quy trình tấn công ADV-Sword, khẳng định tính khả thi của việc tích hợp XAI vào kiến trúc bảo mật IDS. Đồng thời, chương này chỉ ra các hạn chế hiện tại và định hướng các nghiên cứu tiếp theo.

---

Thiết kế và triển khai hệ thống ADV-Shield

Hệ thống được thiết kế dưới dạng một khung bảo mật tích hợp hai thành phần đối nghịch và phòng thủ tương hỗ:

[Luồng dữ liệu mạng] 
 [Phân loại Tấn công]   [Phân loại Bình thường]
          [Khớp Whitelist]      [Không khớp Whitelist]
          (Xác nhận An toàn)    (Cảnh báo Mẫu đối kháng)

1. Quy trình tạo mẫu đối kháng (ADV-Sword):
   • Sử dụng danh sách các mô hình thay thế (Surrogate Models) gồm Decision Tree, XGBoost và MLP để huấn luyện trên tập dữ liệu InSDN.
   • Trích xuất ma trận giá trị SHAP để xác định các thuộc tính có ảnh hưởng lớn nhất đến quyết định phân loại độc hại.
   • Bộ phân tích AMM (Accrued Malicious Magnitude Analyzer) tính toán biên độ thay đổi và hướng dịch chuyển giá trị của đặc trưng về phía vùng an toàn (Normal).
   • Giới hạn thao tác trên 22 thuộc tính thời gian (IAT forward/backward, Active/Idle time, Window bytes...) nhằm đảm bảo tính toàn vẹn chức năng của gói tin.
2. Cơ chế phòng thủ hai tuyến (ADV-Shield):
   • Tuyến 1 (Primary IDS): Mô hình học sâu (CNN hoặc MLP) tiếp nhận dữ liệu đầu vào và tiến hành phân loại nhị phân. Nếu phát hiện luồng dữ liệu là tấn công, hệ thống đưa ra cảnh báo ngay lập tức.
   • Tuyến 2 (XAI-based Whitelist Defense): Đối với các luồng dữ liệu được tuyến 1 phân loại là "Bình thường", hệ thống kích hoạt bộ giải thích Deep Explainer SHAP để trích xuất các đặc trưng đóng góp chính. Các đặc trưng này được đối chiếu chéo với Whitelist đã được xây dựng từ trước. Nếu các thuộc tính quyết định của mẫu không nằm trong Whitelist, mẫu đó lập tức bị xác định là mẫu đối kháng vượt rào và bị hệ thống chặn lại.

---

Kết quả và đóng góp

Khóa luận ghi nhận các kết quả thực nghiệm và đóng góp khoa học cụ thể:

• Hiệu quả phân loại và tạo mẫu:
  • Mô hình học sâu CNN và MLP đạt hiệu suất phân loại cao trên tập dữ liệu chuẩn InSDN.
  • Quy trình ADV-Sword kết hợp AMM chứng minh được khả năng làm suy giảm độ chính xác của các mô hình IDS truyền thống thông qua việc điều chỉnh cục bộ các đặc trưng lưu lượng mạng.
  • Hệ thống chứng minh rằng các mẫu độc hại sau khi áp dụng AMM có giá trị hàm dự đoán $f(x)$ dịch chuyển rõ rệt từ vùng giá trị dương (độc hại) sang vùng giá trị âm (lành tính) trên biểu đồ phân tích SHAP.
• Đóng góp về mặt giải pháp:
  • Đề xuất cơ chế phòng thủ 2 lớp kết hợp học sâu và XAI (ADV-Shield), giúp tăng cường tính bền vững của IDS trước các cuộc tấn công đối kháng hộp trắng và hộp xám mà không làm gián đoạn luồng xử lý chính.
  • Đưa ra phương pháp sinh mẫu đối kháng thực tế dựa trên AMM, giải quyết được bài toán bảo toàn chức năng lưu lượng mạng nhờ giới hạn không gian chỉnh sửa trên 22 đặc trưng thời gian.
• Đóng góp so với các nghiên cứu trước:
  • So với nghiên cứu của Tcydenova et al. (chỉ đánh giá trên 10 mẫu PGD với mô hình SVM đơn lẻ), khóa luận mở rộng đánh giá trên nhiều mô hình học máy, học sâu và nhiều dạng tấn công đối kháng (FGM, PGD, AMM).
  • So với SafeXAI (sử dụng LIME vốn tiêu tốn tài nguyên tính toán lớn trên tập dữ liệu nhiều chiều), khóa luận ứng dụng Deep Explainer SHAP giúp tối ưu hóa việc phân tích tương tác đặc trưng toàn diện và chính xác hơn.
  • Khắc phục giả định phi thực tế của khung MANDA (vốn đòi hỏi hệ thống phòng thủ phải tiếp cận được toàn bộ dữ liệu mạng độc hại từ trước).

---

Hạn chế và hướng nghiên cứu tiếp

• Hạn chế được ghi nhận trong văn bản:
  • Chi phí tính toán và thời gian trích xuất giá trị SHAP còn tương đối cao, tạo ra thách thức nhất định khi triển khai kiểm tra danh sách trắng theo thời gian thực trên các hệ thống mạng có băng thông cực lớn.
  • Phạm vi thực nghiệm mới tập trung chính trên tập dữ liệu InSDN và một số kiến trúc mô hình học sâu cụ thể, cần được kiểm chứng thêm trên các môi trường mạng thực tế phức tạp.
• Hướng nghiên cứu tiếp:
  • Tối ưu hóa thuật toán tính toán giá trị SHAP nhằm giảm thiểu thời gian xử lý của lớp phòng thủ thứ hai, đáp ứng yêu cầu khắt khe về độ trễ mạng.
  • Tích lũy liên tục các dữ liệu đột biến đối kháng mới để tái huấn luyện và cập nhật danh sách trắng tự động.
  • Mở rộng kiểm thử trên các tập dữ liệu lưu lượng mạng quy mô lớn khác và thử nghiệm với các biến thể tấn công hộp đen phức tạp hơn.

---

Giá trị tham khảo

Khóa luận là tài liệu tham khảo có giá trị học thuật và ứng dụng thực tiễn đối với:

• Đối tượng tham khảo: Sinh viên, học viên cao học, nghiên cứu sinh và kỹ sư chuyên ngành An toàn thông tin, Mạng máy tính và Truyền thông, Khoa học dữ liệu và Trí tuệ nhân tạo.
• Nội dung giá trị:
  • Phương pháp tích hợp XAI (cụ thể là SHAP) vào bài toán phòng thủ an ninh mạng.
  • Kỹ thuật sinh mẫu đối kháng có ràng buộc bảo toàn tính toàn vẹn gói tin (thuật toán AMM và 22 thuộc tính thời gian luồng mạng).
  • Quy trình xây dựng danh sách trắng đặc trưng phục vụ kiểm định tính hợp lệ của các quyết định phân loại trong học sâu.

---

Câu hỏi thường gặp

1. Khung ADV-Shield sử dụng cơ chế nào để phát hiện các mẫu đối kháng đã qua mặt được mô hình IDS chính?
Hệ thống sử dụng cơ chế phòng thủ tuyến hai dựa trên danh sách trắng (Whitelist). Khi một mẫu dữ liệu được IDS tuyến một phân loại là bình thường, Deep Explainer SHAP sẽ trích xuất top các đặc trưng có đóng góp quan trọng nhất vào quyết định này. Nếu các đặc trưng này không trùng khớp với danh sách trắng các thuộc tính chuẩn mực của dữ liệu bình thường đã học trước đó, mẫu sẽ bị đánh dấu và phát hiện là tấn công đối kháng.

2. Quy trình tấn công ADV-Sword và thuật toán AMM làm thế nào để tạo ra mẫu đối kháng mà không phá vỡ cấu trúc gói tin mạng?
Thuật toán AMM kết hợp giá trị SHAP để tìm kiếm các thuộc tính có khả năng điều chỉnh cao nhất và đưa giá trị của chúng về hướng lành tính. Để đảm bảo chức năng và tính toàn vẹn của gói tin, quy trình chỉ cho phép thay đổi trên một tập con gồm 22 thuộc tính mang thông tin liên quan đến thời gian của luồng dữ liệu (Forward/Backward Inter Arrival Time, Active/Idle Time, tổng số bytes và gói tin trong cửa sổ), không làm thay đổi các trường dữ liệu cố định của giao thức.

3. Vì sao nhóm tác giả lựa chọn SHAP thay vì LIME như các nghiên cứu trước đây?
SHAP được xây dựng trên nền tảng lý thuyết trò chơi hợp tác, cung cấp cái nhìn toàn diện về tương tác giữa các đặc trưng và đảm bảo sự phân bổ đóng góp phù hợp với dự đoán của mô hình. Ngược lại, LIME chỉ tạo mô hình xấp xỉ cục bộ, không bao quát được toàn diện hành vi mô hình và gặp nhiều hạn chế về chi phí tính toán khi xử lý các tập dữ liệu lớn.

4. Tập dữ liệu và các mô hình học máy, học sâu nào được sử dụng trong thực nghiệm của khóa luận?
Nghiên cứu sử dụng tập dữ liệu mạng InSDN. Các mô hình được huấn luyện và đánh giá bao gồm: Mạng nơ-ron tích chập (CNN) và Perceptron đa tầng (MLP) cho hệ thống IDS; Decision Tree, Random Forest, XGBoost, LightGBM và MLP đóng vai trò là các mô hình thay thế (Surrogate models) trong quá trình tạo mẫu đối kháng.

---

Kết luận

Khóa luận tốt nghiệp của tác giả Nguyễn Đức Trung và Nguyễn Việt Hoàng đã giải quyết thành công bài toán tăng cường tính bền vững cho hệ thống phát hiện xâm nhập trước các cuộc tấn công đối kháng. Bằng việc kết hợp học sâu với trí tuệ nhân tạo khả diễn giải SHAP, nhóm nghiên cứu đã xây dựng thành công khung phòng thủ hai lớp ADV-Shield và quy trình kiểm thử đối kháng ADV-Sword dựa trên thuật toán AMM. Kết quả nghiên cứu cung cấp một giải pháp kỹ thuật khả thi, giúp minh bạch hóa cơ chế ra quyết định của IDS và nâng cao năng lực bảo mật cho hạ tầng mạng hiện đại.

Trích đoạn nội dung tài liệu

Chương 1. TỔNG QUAN ĐỀ TÀI tập dữ liệu InSDN, nhằm tăng cường bảo mật và sự linh hoạt của mô hình khi đối mặt với các cuộc tan công đối kháng.5 Cấu trúc Khóa luận tốt nghiệp Khóa luận được tổ chức trong 6 chương như sau: Chương|IÌ TONG QUAN ĐỀ TÀI Trình bày khái quát định hướng nghiên cứu của khóa luận mà nhóm hướng tới. Chương 2| CƠ SỞ LÝ THUYẾT Trình bày các định nghĩa, khái niệm cũng như những kiến thức nền tảng để có thể thực hiện được nghiên cứu. Đồng thời trình bày sơ lược một số công trình liên quan có cùng hướng nghiên cứu.

Chương|3| PHƯƠNG PHÁP THỰC HIEN Là phần trọng tâm của khoá luận, trình bày những nội dung chính về phương pháp thực hiện và mô hình được sử dụng. Chương] HIỆN THUC, ĐÁNH GIA VÀ THẢO LUẬN Dé cập đến quá trình hiện thực hóa phương pháp dé cập ở ChươngB| Sau đó trình bày phương pháp thực nghiệm, đánh giá kết quả và thảo luận chung. Chương] KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN Đưa ra kết luận về đề tài, đề xuất một số hướng phát triển mở rộng cho các nghiên cứu trong tương lai. Chương 2 CƠ SỞ LÝ THUYÊT Tóm tắt chương Trong chương này, chúng tôi sẽ trình bày cơ sở lý thuyết cần thiết của khóa luận.

Bao gồm cái nhìn chung về hệ thống phát hiện xâm nhập, tấn công mẫu đối kháng. Bên cạnh đó là cơ sở lý thuyết về học máy, học sâu. Đồng thời, chúng tôi trình bày tóm tắt về những công trình nghiên cứu liên quan đến khả năng chống tấn công đối kháng của hệ thống phát hiện xâm nhập và những điểm khác của khóa luận này với những nghiên cứu trước đây.1 Hệ thống phát hiện xâm nhập 2.1 Tổng quan Trong thé giới hiện đại, thông tin là loại tai sản vô cùng quan trọng. Bởi vì xã hội ngày nay được gọi là xã hội thông tin, mỗi ngày lại càng có nhiều thông tin được lưu trữ dưới dạng điện tử trên các hệ thống máy tính, đám mây,.

và các hệ thống đó thường được kết nối với mạng máy tính [14]. Những thông tin nay bao gồm rat nhiều lĩnh vực khác nhau như kinh tế, tài chính, y tế, giáo dục, khoa học, thậm chí là quân sự. Chính vì vậy giá trị của một số thông tin là không thể đo lường. Điều này thể hiện những thách thức mới đối với những người làm việc trong lĩnh vực công nghệ thông tin.

Họ phải đảm bảo rằng các hệ thống đó càng an toàn càng tốt và thông tin bí mật sẽ không bị tiết lộ. Nêu dữ liệu được lưu trữ trong một hệ thống máy tính, bằng cách nào đó, hệ thống này phải được chứng minh rằng nó đủ an toàn và không dễ bị tan công, hay nói cách khác là đáng tin Chương 2. COSO LY THUYẾT cậy. Một cách khả thi nhằm đánh giá khả năng của hệ thống phát hiện xâm nhập bằng các loại tan công, đặc biệt là tan công đối kháng.2 Giới thiệu về hoc máy 2.1 Khái niệm hoc máy Học máy là một phương pháp sử dụng các kỹ thuật, thuật toán nhằm tự động hóa việc đưa ra các dự đoán dựa vào các quan sát đã xuất hiện.

Có 2 loại học máy là phân loại (classification) và dự đoán (prediction). Những bài toán phân loại như nhận diện hình ảnh, chữ viết,. Những bài toán dự đoán điển hình như dự đoán giá trị cổ phiếu, giá bất động sản, xu hướng thị trường trong tương lai.2 Các loại hoc may ¢ Hoc không giám sat (Unsupervised learning): thuật toán không dự đoán đầu ra hoặc nhãn mà phụ thuộc vào dữ liệu đầu vào mà thuật toán sẽ sử dụng cấu trúc của dữ liệu để thực hiện các tác vụ như phân nhóm hoặc giảm số chiều dữ liệu để thuận tiện cho việc lưu trữ và tính toán. Vì tập dữ liệu huấn luyện không cần nhãn, việc thiết lập phương pháp này rất dé dàng.

Tuy nhiên, vì không có nhãn nên các thuật toán không giám sát không thể đưa ra dự đoán trực tiếp mà cần trải qua bước tiền xử lý dữ liệu trước khi đưa vào huấn luyện. Các thuật toán phổ biến về học không giám sát có thể kể đến như K-Means và đối với học sâu có Recurrent Neural Network (RNN), Deep Belief Network (DBN). * Học giám sát (Supervised learning): dự đoán kết quả của một dữ liệu mới dựa trên các cặp dữ liệu đã biết trước. Trong quá trình huấn luyện, dữ liệu đã biết có vai trò như một người giám sát trong việc hướng dẫn thuật toán hoc.

Học có giám sát có lợi thế về tính đơn giản va dé thiết kế. Tuy nhiên, một thách thức đối với học có giám sát là việc gắn nhãn dữ liệu, đặc biệt khi không có sẵn nhãn cho dữ liệu. Các thuật toán phổ biến trong học có giám sát bao gồm Linear Regression, Logistic Regression, Random Forest, Chương 2. COSO LY THUYẾT Decision Tree va các mô hình hoc sâu như Deep Neural Network (DNN) và Convolutional Neural Network (CNN).

¢ Học bán giám sát (Semi-supervised learning): ta thường gặp trường hợp chi có một phan dir liệu trong tập dữ liệu được gan nhãn. Khi đó ta sẽ kết hợp hai phương pháp học máy giám sát và không giám sát. Đầu tiên, ta sử dụng dữ liệu đã được gán nhãn để huấn luyện một phần thuật toán học máy. Sau đó, phần thuật toán đã được huấn luyện sẽ tự động gán nhãn cho phần dữ liệu chưa được gán nhãn thông qua một quá trình được gọi là giả gắn nhãn.

Phương pháp này có tính thực tế vì việc thu thập đữ liệu gán nhãn thường tốn nhiều thời gian và tài nguyên. ¢ Hoc tăng cường (Reinforcement learning): đưa ra các dự đoán dựa trên việc thử và sai nhằm đạt được kết quả tốt nhất, dạy cho các máy (agent) thực hiện tốt 1 nhiệm vụ (task) bằng tương tác với môi trường (environment) thông qua hành động (action) và nhận được phần thưởng (reward). Các mô hình học máy sử dụng trong đề tài 2.1 Decision Tree Cây quyết định là một mô hình học máy được sử dung phổ biến trong hai nhiệm vụ phân loại và hồi quy. Cau trúc của mô hình cây quyết định tương tự như một cây với các nút (node) đại diện cho các thuộc tính, các cạnh (edge) đại diện cho các giá trị của thuộc tính, và các lá (leaf) đại điện cho giá trị dự đoán hoặc lớp.

Mỗi thành phần đều đóng vai trò quan trọng trong việc xây dựng nên một mô hình hoàn chỉnh: e Nut (Node): Là đại diện cho một quyết định hoặc một câu hỏi trong quá trình phân loại. Bao gồm3 loại nút chính. — Nút gốc (Root node): Là nút bắt đầu của cây, chứa toàn bộ tập dữ liệu và dựa vào đó để chia nhỏ thành các nhánh. COSO LY THUYẾT — Nút nội bộ (Internal node): Các nút không phải là nút gốc hoặc nút lá.

Mỗi nút nội bộ đại diện cho một thuộc tính và có các nhánh tương ứng với các giá trị hoặc khoảng giá trị của thuộc tính đó. — Nút lá (Leaf node): Các nút cuối cùng của cây không có nhánh con. Mỗi nút lá đại diện cho một kết quả dự đoán (trong trường hợp phân loại) hoặc một giá trị mục tiêu (trong trường hợp hồi quy). ® Nhánh (Branch): Là đường kết nối giữa các nút, thể hiện các lựa chọn hoặc khả năng khác nhau dẫn đến kết quả khác nhau.

¢ Nhãn (Label): Là giá trị được gan cho mỗi nút lá, thể hiện dự đoán hoặc phân loại cho các điểm dữ liệu thuộc vào nút đó. Có thể kể ra những ưu điểm của cây quyết định như: © Dễ hiểu và dễ diễn giải ngay cả đối với những người không có kiến thức về học máy. ° Không cần chuẩn hóa dữ liệu trước khi huấn luyện mô hình. ® Hoạt động tốt đối với các loại dữ liệu hỗn hợp.2 _ Random Forest Rừng ngẫu nhiên là một mô hình học máy có giám sát, thường dùng để phục vụ các mục đích phân loại, tính hồi quy và các nhiệm vụ khác bằng cách xây dựng nhiều cây quyết định (Decision tree).

Mô hình học máy này cũng dễ sử dụng và thân thiện với người dùng giống như cây quyết định. Cụ thể, một rừng ngẫu nhiên chứa rất nhiều cây quyết định nhưng mỗi cây quyết định là độc nhất vì nó được tạo ra dựa trên yếu tố ngẫu nhiên. Mỗi "cây" trong "rừng" sẽ học tập bằng cách lấy ngẫu nhiên dữ liệu đầu vào từ bộ dữ liệu huấn luyện. Sau khi các cây trong rừng đã học xong, khi đưa dữ liệu đầu vào thì tất cả các cây sẽ có mỗi dự đoán khác sau, sau đó sẽ kết quả dự đoán cuối cùng sẽ được chọn bằng cách biểu quyết đa số.

COSO LY THUYẾT Điểm mạnh của thuật toán nay so với DT: e Giảm thiểu việc quá khớp so với dữ liệu huấn luyện. Vì việc huấn luyện được chia ra nhiều cây trong rừng và đữ liệu được lấy ra ngẫu nhiên phân phối cho các cây trong rừng. ¢ Dễ dang xem được đặc tính nào có tầm ảnh hưởng lớn nhất tới việc đưa ra kết quả dự đoán cuối cùng. Bằng cách sử dụng các thông số như Gini importance để xem đặc tính nào có tầm ảnh hưởng cao nhất.

Điểm yếu của thuật toán: ¢ Thời gian huấn luyện lâu hơn: thay vì chỉ huấn luyện một cây thì phải huấn luyện cả "rừng" cây. * Doi hỏi nhiều tài nguyên hơn: khi đưa dữ liệu lớn vào trong RE, RF sẽ cần nhiều tài nguyên để chứa dữ liệu đó. ¢ Độ phức tap cao hơn: một cây so với một "rừng ” cây. đủ áo @) Final result HINH 2.1: Mô phỏng thuật toán RF 11 Chương 2.

COSO LY THUYẾT 2.3 XGBoost XGBoost (Extreme Gradient Boosting) là một giải thuật dựa trên thuật toán tang cường độ dốc (gradient boosting), thường được dùng để giải quyết các bài toán về hồi quy, phân loại, xếp hạng và các van dé do người dùng đưa ra. Mô hình này có rất nhiều ưu điểm như tốc độ xử lý nhờ việc thực hiện tính toán song song, tối thiểu hóa việc bị quá khớp nhờ cơ chế regularization, tính linh hoạt cao khi cho phép người dùng sử dụng các hàm tối ưu và các chỉ số đánh giá theo từng nhu cầu cụ thể, cơ chế tự động xử lý khi mắt đữ liệu và tự động tia cây nhằm loại bỏ các lá và các node ảnh hương tiêu cực trong quá trình mở rộng cây. Mặc dù có được các kết quả vượt trội nhưng van dé thời gian huấn luyện của mô hình này khá lâu, đặc biệt là với những bộ dữ liệu lớn.4 LightGBM LightGBM là một bộ khung được sử dụng để xử lý thuật toán tăng cường độ đốc (gradient boosting) phát triển bởi Microsoft.