Nghiên Cứu Mô Hình Tin Cậy và Bền Vững Trong Phát Hiện Mã Độc Đa Hình

Luận văn tốt nghiệp nghiên cứu tốt nghiệp an toàn thông tin nghiên cứu mô hình tin cậy và bền vững trong phát hiện mã độc đa hình, điều tra thực trạng, phân tích số liệu, đề xuất

• Tác giả: Trương Thị Hoàng Hảo
• Người hướng dẫn: TS. Phạm Văn Hậu
• Trường học: Đại học Công nghệ Thông tin
• Chuyên ngành: An toàn thông tin
• Đề tài: Mô Hình Tin Cậy và Bền Vững Trong Phát Hiện Mã Độc Đa Hình
• Loại tài liệu: khóa luận tốt nghiệp
• Năm xuất bản: 2024
• Địa điểm: TP.HCM

Mục lục chi tiết

• LỜI CẢM ƠN
• 1. CHƯƠNG 1: TỔNG QUAN ĐỀ TÀI
• 1.1. Lý do chọn đề tài
• 1.2. Phương pháp nghiên cứu
• 1.3. Mục tiêu nghiên cứu
• 1.4. Phạm vi và Đối tượng nghiên cứu
• 1.5. Cấu trúc Khóa luận tốt nghiệp
• 2. CHƯƠNG 2: CƠ SỞ LÝ THUYẾT
• 2.1. Tệp thực thi PE
• 2.1.1. Cấu trúc tệp thực thi
• 2.1.2. Trường tiêu đề DOS (DOS Header)
• 2.1.3. Trường DOS STUB
• 2.1.4. Trường tiêu đề PE (PE Header)
• 2.1.5. Phân đoạn bảng (Section Table)
• 2.2. Mô hình phát hiện mã độc
• 2.2.1. Phương pháp phân tích tĩnh
• 2.2.2. Phương pháp phân tích động
• 2.2.3. Kỹ thuật Giám sát hành vi
• 2.2.4. Kỹ thuật giả lập (Emulation)
• 2.2.5. Mô hình phát hiện mã độc dựa trên học máy
• 2.2.5.1. Thuật toán cây quyết định
• 2.2.5.2. Thuật toán rừng ngẫu nhiên
• 2.2.5.3. Thuật toán tăng cường độ dốc (Gradient Boosting)
• 2.2.5.4. Mạng nơron tích chập
• 2.2.6. Mô hình khả diễn giải - XAI
• 2.2.6.1. XAI với SHAP (SHapley Additive exPlanations)
• 2.2.6.2. Ứng dụng SHAP vào phát hiện mã độc dựa theo phương pháp phân tích
• 2.2.6.3. Deep Learning Important Features - DeepLIFT
• 2.2.6.4. Shapley Additive Global importance (SAGE)
• 2.2.7. Tình hình nghiên cứu và các công trình liên quan
• 3. CHƯƠNG 3: PHƯƠNG PHÁP THỰC HIỆN
• 3.1. Kiến trúc tổng quát
• 3.2. Luồng hoạt động chính
• 3.3. Lựa chọn đặc trưng hướng dẫn bởi XAI
• 3.4. Phát sinh mẫu đối kháng với XAI-GAN
• 3.5. Huấn luyện đối kháng
• 4. CHƯƠNG 4: THỰC NGHIỆM VÀ ĐÁNH GIÁ
• 4.1. Hiện thực
• 4.2. Thông tin chung về tập dữ liệu
• 4.3. Thuộc tính
• 4.4. Môi trường thực nghiệm
• 4.5. Xử lý dữ liệu
• 4.6. Các tiêu chí đánh giá
• 4.7. Thông tin về cấu hình của các mô hình được sử dụng
• 4.8. Độ tin cậy của những mẫu mã độc sau khi được thực hiện tạo mẫu đối kháng
• 4.8.1. Kịch bản 1a: Kiểm tra khả năng phát hiện mã độc đa hình của mô hình cơ sở
• 4.8.2. Kịch bản 1b: Kiểm tra khả năng chống lại mẫu đối kháng của mô hình cơ sở trước và sau khi thực hiện huấn luyện đối kháng
• 4.8.3. Kịch bản 2a: Kiểm tra khả năng phát hiện mã độc đa hình của mô hình đã được cập nhật thuộc tính
• 4.8.4. Kịch bản 2b: Kiểm tra khả năng chống lại mẫu đối kháng của mô hình đã cập nhật thuộc tính trước và sau khi thực hiện huấn luyện đối kháng
• 5. CHƯƠNG 5: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
• 5.1. Kết luận
• 5.2. Hướng phát triển
• Danh sách hình vẽ
• Danh sách bảng
• Danh mục từ viết tắt
• Danh mục từ tạm dịch

Tóm tắt

I. Tổng Quan Về Mô Hình Tin Cậy Trong Phát Hiện Mã Độc Đa Hình

Mô hình tin cậy và bền vững trong phát hiện mã độc đa hình đang trở thành một chủ đề nóng trong lĩnh vực an ninh mạng. Sự gia tăng của các loại mã độc ngày càng tinh vi đã đặt ra thách thức lớn cho các hệ thống phát hiện hiện tại. Việc áp dụng các mô hình học máy khả diễn giải (XAI) và mạng sinh đối kháng (GAN) đã mở ra hướng đi mới trong việc phát hiện mã độc. Mục tiêu chính của nghiên cứu này là xây dựng một mô hình có khả năng phát hiện mã độc đa hình một cách hiệu quả và đáng tin cậy.

1.1. Lý Do Chọn Đề Tài Nghiên Cứu Mã Độc

Sự gia tăng nhanh chóng của mã độc đã thúc đẩy nhu cầu nghiên cứu về các phương pháp phát hiện hiệu quả. Các nghiên cứu trước đây cho thấy rằng việc áp dụng học máy có thể cải thiện đáng kể khả năng phát hiện mã độc. Tuy nhiên, các phương pháp này vẫn gặp khó khăn trong việc nhận diện mã độc nén và mã độc đối kháng.

1.2. Phạm Vi Nghiên Cứu Mô Hình Tin Cậy

Nghiên cứu tập trung vào việc phát triển mô hình phát hiện mã độc đa hình bằng cách kết hợp XAI và GAN. Mô hình sẽ được kiểm thử trên các tập dữ liệu thực tế để đánh giá hiệu quả và độ tin cậy trong việc phát hiện mã độc.

II. Vấn Đề và Thách Thức Trong Phát Hiện Mã Độc Đa Hình

Mã độc đa hình ngày càng trở nên tinh vi, khiến cho việc phát hiện trở nên khó khăn hơn. Các phương pháp truyền thống thường không đủ khả năng để nhận diện các biến thể mới của mã độc. Thách thức lớn nhất là khả năng chống lại các cuộc tấn công đối kháng, nơi mà mã độc được thiết kế để né tránh sự phát hiện của các hệ thống.

2.1. Các Hình Thức Tấn Công Đối Kháng

Các hình thức tấn công đối kháng như nén mã độc đã chứng minh khả năng né tránh các hệ thống phát hiện. Nghiên cứu cho thấy rằng mã độc có thể được nén để ẩn đi các đặc điểm nhận diện, làm giảm hiệu quả của các mô hình học máy.

2.2. Độ Tin Cậy Của Các Mô Hình Hiện Tại

Độ tin cậy của các mô hình phát hiện mã độc hiện tại đang bị đặt dấu hỏi lớn. Nhiều nghiên cứu đã chỉ ra rằng các mô hình này dễ bị đánh lừa bởi các cuộc tấn công đối kháng, dẫn đến tỷ lệ phát hiện thấp và nhiều kết quả dương tính giả.

III. Phương Pháp Nghiên Cứu Mô Hình Tin Cậy Trong Phát Hiện Mã Độc

Nghiên cứu áp dụng các phương pháp học máy tiên tiến để phát triển mô hình phát hiện mã độc. Việc kết hợp giữa XAI và GAN giúp tăng cường khả năng phát hiện và giảm thiểu các kết quả dương tính giả. Mô hình sẽ được huấn luyện trên các tập dữ liệu đa dạng để đảm bảo tính chính xác.

3.1. Kỹ Thuật Huấn Luyện Đối Kháng

Kỹ thuật huấn luyện đối kháng được áp dụng để tạo ra các mẫu mã độc giả lập, giúp mô hình học máy cải thiện khả năng phát hiện. Phương pháp này đã được chứng minh là hiệu quả trong việc tăng cường độ bền vững của mô hình.

3.2. Ứng Dụng XAI Trong Phát Hiện Mã Độc

XAI giúp giải thích các quyết định của mô hình, từ đó tăng cường độ tin cậy và khả năng hiểu biết của người dùng về cách thức hoạt động của mô hình. Việc áp dụng XAI vào phát hiện mã độc giúp cải thiện khả năng nhận diện các biến thể mới.

IV. Kết Quả Nghiên Cứu và Ứng Dụng Thực Tiễn

Kết quả nghiên cứu cho thấy mô hình phát hiện mã độc đa hình đạt được độ chính xác lên đến 90%. Việc áp dụng XAI và GAN đã giúp cải thiện đáng kể khả năng phát hiện mã độc nén và mã độc đối kháng. Các ứng dụng thực tiễn của mô hình này có thể được triển khai trong các hệ thống an ninh mạng hiện đại.

4.1. Đánh Giá Hiệu Quả Mô Hình

Mô hình đã được kiểm thử trên nhiều tập dữ liệu khác nhau và cho thấy khả năng phát hiện cao. Các chỉ số đánh giá cho thấy mô hình có thể phát hiện mã độc nén và mã độc đối kháng một cách hiệu quả.

4.2. Ứng Dụng Trong Thực Tế

Mô hình có thể được áp dụng trong các hệ thống an ninh mạng để bảo vệ người dùng khỏi các mối đe dọa từ mã độc. Việc triển khai mô hình này sẽ giúp nâng cao khả năng bảo mật cho các tổ chức và cá nhân.

V. Kết Luận và Hướng Phát Triển Tương Lai

Nghiên cứu đã chỉ ra rằng việc kết hợp giữa XAI và GAN có thể tạo ra một mô hình phát hiện mã độc đa hình đáng tin cậy. Hướng phát triển tương lai có thể bao gồm việc mở rộng mô hình để nhận diện các loại mã độc mới và cải thiện khả năng chống lại các cuộc tấn công đối kháng.

5.1. Hướng Phát Triển Mô Hình

Mô hình có thể được cải tiến bằng cách tích hợp thêm các kỹ thuật học sâu và các phương pháp mới trong lĩnh vực an ninh mạng. Việc nghiên cứu thêm về các loại mã độc mới cũng là một hướng đi quan trọng.

5.2. Tương Lai Của An Ninh Mạng

Với sự phát triển không ngừng của công nghệ, an ninh mạng sẽ tiếp tục đối mặt với nhiều thách thức mới. Việc nghiên cứu và phát triển các mô hình phát hiện mã độc tin cậy sẽ đóng vai trò quan trọng trong việc bảo vệ hệ thống thông tin.

Nội dung chính

Bối cảnh và vấn đề nghiên cứu

Khóa luận tốt nghiệp "Nghiên cứu mô hình tin cậy và bền vững trong phát hiện mã độc đa hình" (tên tiếng Anh: "A Study on Trustworthy and Robust Model for Polymorphic Malware Detection") được thực hiện bởi sinh viên Trương Thị Hoàng Hảo (MSSV: 20520191) và Nguyễn Thái Dương (MSSV: 20520463), dưới sự hướng dẫn của TS. Phạm Văn Hậu và ThS. Nghi Hoàng Khoa, cùng sự đồng hành của ThS. Phan Thế Duy tại Khoa Mạng máy tính và Truyền thông, Trường Đại học Công nghệ Thông tin – Đại học Quốc gia Thành phố Hồ Chí Minh (năm 2024).

Về bối cảnh thực tiễn, sự gia tăng nhanh chóng về số lượng và mức độ tinh vi của các dòng phần mềm độc hại (malware) đặt ra yêu cầu cấp thiết cho việc tự động hóa quá trình nhận diện. Dù các kỹ thuật học máy ứng dụng trên các tập dữ liệu như EMBER đạt kết quả rất cao (điển hình như mô hình DeepMalNet đạt tỷ lệ chính xác 98%), các phương pháp phân tích tĩnh truyền thống vẫn gặp phải rào cản nghiêm trọng trước kỹ thuật đột biến mã độc, đặc biệt là mã độc nén (packed malware) và mã độc đa hình (polymorphic malware). Nghiên cứu của Aghakhani và cộng sự trong công trình "When Malware is Packin’ Heat" đã chỉ ra rằng các bộ nén (packers) thường lưu giữ các thuộc tính giúp phân loại nhưng lại không phản ánh hành vi thực tế của mã độc; việc áp dụng học máy một cách đơn giản dẫn đến gia tăng tỷ lệ dương tính giả và mô hình chỉ có khả năng nhận diện các bộ nén đã học hoặc tương tự.

Bên cạnh đó, các hệ thống phát hiện mã độc dựa trên học máy dễ bị tổn thương trước các cuộc tấn công đối kháng (adversarial attacks), tiêu biểu như mô hình MalGAN có khả năng hạ tỷ lệ phát hiện thực tế (TPR) của các bộ phân loại xuống mức 0%. Kỹ thuật phòng thủ phổ biến là huấn luyện đối kháng (adversarial training) – tạo mẫu đối kháng và huấn luyện lại mô hình – dù hạn chế được một số đòn tấn công nhưng vẫn thiếu tính minh bạch và độ tin cậy đối với người vận hành.

Từ bối cảnh đó, khóa luận xác định 4 mục tiêu nghiên cứu cụ thể:

1. Nghiên cứu mã độc đột biến (mã độc nén).
2. Xây dựng hệ thống phát hiện mã độc đột biến bằng cách kết hợp mô hình học máy khả diễn giải (Explainable AI - XAI) và mạng sinh đối kháng (Generative Adversarial Network - GAN).
3. Xây dựng tính bền vững và tin cậy cho hệ thống phát hiện mã độc đột biến chống lại các mẫu đối kháng.
4. Đánh giá độ hiệu quả của mô hình đề xuất trên các tập dữ liệu thực nghiệm.

Đối tượng nghiên cứu của đề tài là các tệp thực thi di động định dạng PE (Portable Executable) trên hệ điều hành Windows (bao gồm tệp thực thi .exe và thư viện liên kết động .dll thuộc kiến trúc 32-bit và 64-bit). Phạm vi nghiên cứu tập trung vào kỹ thuật phân tích tĩnh trích xuất thuộc tính PE, kết hợp công cụ tính toán biên độ độc hại tích lũy AMM (Accrued Malicious Magnitude) từ nghiên cứu "Mate! Are You Really Aware?" và kỹ thuật SAGE (Shapley Additive Global importancE) để chọn lọc đặc trưng; đồng thời ứng dụng kiến trúc xAI-GAN để phát sinh mẫu đối kháng phục vụ quá trình huấn luyện đối kháng.

Cơ sở lý thuyết và phương pháp

Khóa luận thiết lập nền tảng lý thuyết trên ba trụ cột: cấu trúc tệp thực thi Windows, các phương pháp phân tích mã độc (kết hợp học máy), và lý thuyết khả diễn giải (XAI) cùng mạng sinh đối kháng (GAN).

Cấu trúc tệp thực thi Portable Executable (PE)

Nghiên cứu khảo sát chi tiết cấu trúc định dạng PE tiêu chuẩn trên hệ điều hành Windows gồm hai phần chính:

• Tiêu đề DOS (DOS Header): Chiếm 64 bytes đầu tiên, chứa chữ ký nhận dạng e_magic (0x5a4b tương ứng ký tự 'MZ') và trường e_lfanew (DWORD 4 bytes) lưu trữ khoảng cách offset trỏ đến tiêu đề PE Header. Đi liền sau đó là đoạn chương trình DOS Stub hiển thị thông báo không tương thích khi chạy trong môi trường MS-DOS ("This program cannot be run in DOS mode").
• Tiêu đề PE (PE Header): Bắt đầu bằng Signature 4 bytes (50h, 45h, 00h, 00h tương ứng 'PE\0\0'), theo sau là IMAGE_FILE_HEADER (20 bytes lưu bố trí vật lý, số lượng section, đặc tính tệp) và IMAGE_OPTIONAL_HEADER (224 bytes chứa thông tin logic quan trọng: Magic xác định 32-bit 0B 01 hoặc 64-bit 0B 20, AddressOfEntryPoint, ImageBase, SectionAlignment, FileAlignment, SizeOfImage, SizeOfHeaders, và mảng 16 phần tử Data Directory).
• Bảng phân đoạn (Section Table) và Phân đoạn (Sections): Quản lý mảng cấu trúc IMAGE_SECTION_HEADER với các trường kích thước ảo (VirtualSize), địa chỉ ảo (VirtualAddress), kích thước trên đĩa (SizeOfRawSection), con trỏ offset (PointerOfRawSection) và cờ thuộc tính (Characteristics). Các phân đoạn thực thi và dữ liệu gồm: .text (chứa mã thực thi), .data (dữ liệu và biến khởi tạo), .rdata (dữ liệu chỉ đọc), .idata (bảng nhập Import Tables - các DLL và hàm được sử dụng), .edata (thư mục hàm xuất Export Directory), và .rsrc (tài nguyên tệp như hình ảnh, biểu tượng).

Phương pháp phân tích và mô hình học máy

• Phân tích tĩnh và động: Phân tích tĩnh trích xuất thuộc tính mà không thực thi tệp, khai thác thông tin từ Headers, Section Table, mã máy và hợp ngữ (Assembly) thông qua các công cụ dịch ngược (IDA Pro, OllyDbg) hoặc trích xuất bộ nhớ (LordPE, OllyDump). Phân tích động thực thi tệp trong sandbox hoặc máy ảo để giám sát tiến trình (Process Monitor, Process Hacker), lưu lượng mạng (Wireshark), và thay đổi registry (Regshot) kết hợp kỹ thuật giả lập (Dynamic Heuristic và Generic Unpacking).
• Thuật toán phân loại: Đề tài triển khai 5 mô hình cơ sở gồm: Cây quyết định (Decision Tree - DT), Rừng ngẫu nhiên (Random Forest - RF), Tăng cường độ dốc (Gradient Boosting - GB / GBDT), AdaBoost (AB), và Mạng nơ-ron tích chập (Convolutional Neural Network - CNN gồm các lớp Convolution, ReLU, Max/Average Pooling, Dropout, Fully Connected và Softmax).

Lý thuyết khả diễn giải (XAI) và sinh đối kháng

• SHAP (SHapley Additive exPlanations): Dựa trên lý thuyết trò chơi hợp tác nhằm phân bổ công bằng đóng góp cận biên của từng thuộc tính thông qua giá trị Shapley. Đối với các mô hình cây, kỹ thuật TreeSHAP được áp dụng; đối với mạng nơ-ron sâu, kỹ thuật DeepLIFT kết hợp SHAP (DeepLIFTSHAP) sử dụng nguyên lý so sánh sai phân đầu ra so với giá trị tham chiếu (summation-to-delta).
• SAGE (Shapley Additive Global importancE): Phương pháp bất khả tri mô hình (model-agnostic) dùng để định lượng tầm quan trọng toàn cục của từng thuộc tính trên toàn bộ tập dữ liệu huấn luyện.
• AMM (Accrued Malicious Magnitude): Chỉ số đo lường biên độ độc hại tích lũy của đặc trưng, tính bằng tích vô hướng giữa vector phạm vi dao động giá trị SHAP ($D$) và vector số lượng mẫu có giá trị SHAP dương lớn hơn mức trung bình ($C$). AMM phản ánh mức độ dễ bị can thiệp và khai thác của đặc trưng trong các cuộc tấn công né tránh.
• Mạng sinh đối kháng xAI-GAN: Tích hợp ma trận giải thích XAI vào quá trình tối ưu hóa của bộ sinh (Generator) và bộ phân biệt (Discriminator), giúp tạo ra các mẫu đối kháng có độ xáo trộn tối ưu nhằm kiểm thử tính bền vững của bộ phân loại.

Nhóm công cụ / Lý thuyết	Thành phần cụ thể	Mục đích sử dụng trong đề tài
Cấu trúc tệp PE	DOS Header, PE Header, Section Table, .text, .idata, .rsrc	Trích xuất vector đặc trưng tĩnh phục vụ phân loại
Mô hình học máy/học sâu	Decision Tree, Random Forest, Gradient Boosting, AdaBoost, CNN	Xây dựng các bộ phân loại cơ sở và đánh giá độ bền vững
Khung diễn giải XAI	SHAP, TreeSHAP, DeepLIFTSHAP, SAGE	Đo lường mức độ đóng góp cục bộ và toàn cục của đặc trưng
Công cụ lọc đặc trưng	Biên độ độc hại tích lũy AMM kết hợp SAGE	Phát hiện đặc trưng dễ bị tấn công đối kháng nhưng ít quan trọng
Sinh mẫu đối kháng	Kiến trúc xAI-GAN (Generator, Discriminator, Explanation Matrix)	Sinh các biến thể mã độc nén đối kháng để huấn luyện lại mô hình

Nội dung chính theo từng chương

Chương 1: Tổng quan đề tài

Chương mở đầu phân tích sự phát triển của phần mềm độc hại và tính cấp thiết của việc áp dụng học máy trong an toàn thông tin. Tác giả chỉ ra lỗ hổng của các mô hình phân tích tĩnh hiện hành trước hai thách thức lớn: kỹ thuật nén tệp làm sai lệch phân phối đặc trưng tĩnh (dẫn tới hiện tượng dương tính giả cao đối với các bộ nén chưa từng xuất hiện) và các kỹ thuật tấn công đối kháng có chủ đích. Chương 1 xác định rõ mục tiêu, phạm vi nghiên cứu, đối tượng tệp PE trên Windows, phương pháp tiếp cận kết hợp AMM, SAGE, xAI-GAN và bố cục toàn khóa luận.

Chương 2: Cơ sở lý thuyết

Chương 2 trình bày có hệ thống các kiến thức nền tảng:

• Chi tiết cấu trúc tệp thực thi PE (từ DOS Header, PE Header, bảng phân đoạn đến các phân đoạn dữ liệu/mã lệnh) và vai trò của mã hợp ngữ trong việc bóc tách mã xáo trộn, trích xuất opcode và tạo chữ ký nhận dạng.
• Cơ chế vận hành của phân tích tĩnh và phân tích động (kỹ thuật giám sát hành vi hệ thống và môi trường giả lập).
• Nền tảng toán học và cấu tạo của các thuật toán phân loại: Cây quyết định, Rừng ngẫu nhiên, Gradient Boosting (cập nhật theo hướng giảm gradient của hàm mất mát thông qua pseudo-residuals), AdaBoost (tính trọng số mẫu và điểm tự tin $c_i$), và Mạng nơ-ron tích chập (CNN).
• Cơ chế của các kỹ thuật giải thích mô hình: Giá trị Shapley, SHAP, TreeSHAP, DeepLIFT, DeepLIFTSHAP, SAGE và chỉ số AMM.
• Khảo sát tình hình nghiên cứu liên quan, phân tích điểm mạnh và điểm yếu của các công trình tiền nhiệm như DeepMalNet, nghiên cứu của Aghakhani về mã độc nén, mô hình MalGAN, xAI-GAN và công trình huấn luyện đối kháng của Pereira và cộng sự.

Chương 3: Phương pháp thực hiện

Chương này đóng vai trò trọng tâm, mô tả quy trình xây dựng hệ thống phát hiện mã độc bền vững qua ba giai đoạn liên hoàn:

1. Lựa chọn đặc trưng hướng dẫn bởi XAI (XAI-guided Feature Selection):
   • Huấn luyện các mô hình phân loại cơ sở (RF, DT, GB, AB, CNN) trên tập dữ liệu với $n$ đặc trưng ban đầu.
   • Chọn mô hình có hiệu năng cao nhất để tính toán ma trận giải thích cục bộ bằng TreeExplainer hoặc DeepExplainer.
   • Tính toán vector phạm vi biến thiên giá trị SHAP ($D$) và vector đếm số mẫu có giá trị dương vượt mức trung bình ($C$). Xác định giá trị $AMM = D \cdot C$ để lập danh sách $A$ gồm các đặc trưng dễ bị tấn công đối kháng nhất (sắp xếp giảm dần).
   • Sử dụng thư viện SAGE để trích xuất danh sách $B$ gồm các đặc trưng có tầm quan trọng toàn cục cao nhất đối với quyết định phân loại (sắp xếp giảm dần).
   • Đối chiếu danh sách $A$ và $B$ để xác định và loại bỏ $m$ đặc trưng thuộc nhóm: dễ bị tổn thương nhất trước tấn công đối kháng nhưng lại ít đóng góp vào độ chính xác chung của mô hình (thu được không gian đặc trưng rút gọn gồm $n - m$ thuộc tính).
2. Phát sinh mẫu đối kháng với xAI-GAN (Adversarial Sample Generation with xAI-GAN):
   • Lọc riêng các mẫu mã độc nén từ tập dữ liệu đã qua xử lý đặc trưng.
   • Đưa các mẫu này vào kiến trúc xAI-GAN đã tinh chỉnh cấu trúc nơ-ron. Bộ sinh (Generator) kết hợp thông tin từ ma trận giải thích (Explanation Matrix) của Discriminator để tạo ra các vector mẫu đối kháng có khả năng né tránh bộ phân loại cao nhất.
3. Huấn luyện đối kháng (Adversarial Training):
   • Đưa tập dữ liệu đã loại bỏ $m$ đặc trưng dễ bị tổn thương kết hợp cùng các mẫu đối kháng vừa sinh ra vào quy trình tái huấn luyện các mô hình phân loại, hình thành mô hình phòng thủ hoàn chỉnh.

Chương 4: Thực nghiệm và đánh giá

Chương 4 thiết lập hệ thống thực nghiệm trên tập dữ liệu tệp PE (chia thành tập huấn luyện train set và tập kiểm thử test set), áp dụng các tiêu chí đánh giá chuẩn (Accuracy, Precision, Recall). Quá trình kiểm thử được triển khai qua 4 kịch bản chặt chẽ:

• Kịch bản 1a: Đánh giá khả năng phát hiện mã độc đa hình của các mô hình cơ sở khi chưa qua lọc đặc trưng và chưa huấn luyện đối kháng.
• Kịch bản 1b: Kiểm tra khả năng chống chịu tấn công đối kháng của các mô hình cơ sở trước và sau khi áp dụng kỹ thuật huấn luyện đối kháng thông thường.
• Kịch bản 2a: Đánh giá hiệu năng phát hiện mã độc đa hình của các mô hình sau khi cập nhật không gian thuộc tính (thực hiện loại bỏ thử nghiệm 100 thuộc tính dễ bị ảnh hưởng nhưng ít quan trọng dựa trên kết hợp AMM và SAGE).
• Kịch bản 2b: Kiểm tra khả năng chống lại mẫu đối kháng của các mô hình đã cập nhật thuộc tính trước và sau khi thực hiện huấn luyện đối kháng với dữ liệu sinh ra từ xAI-GAN.

Chương 5: Kết luận và hướng phát triển

Chương tổng kết toàn bộ kết quả đạt được của khóa luận, khẳng định tính hiệu quả của phương pháp kết hợp AMM, SAGE, xAI-GAN và huấn luyện đối kháng, đồng thời đề xuất các định hướng mở rộng nghiên cứu trong tương lai.

Kết quả và đóng góp

Kết quả thực nghiệm chính

• Khóa luận đã chứng minh thực nghiệm rằng việc loại bỏ 100 thuộc tính dễ bị can thiệp nhất (được phát hiện bởi AMM) mà có tầm ảnh hưởng thấp (xác định bởi SAGE) không làm suy giảm hiệu năng phát hiện mã độc ban đầu của các bộ phân loại, đồng thời thu hẹp đáng kể không gian tấn công của kẻ xâm nhập.
• Sau khi trải qua đầy đủ quy trình gồm lọc đặc trưng bằng XAI, tạo mẫu đối kháng bằng xAI-GAN và thực hiện huấn luyện đối kháng (Adversarial Training), kết quả đạt được cho toàn bộ các mô hình phân loại đạt mức 90% ở chỉ số độ chính xác (Accuracy). Điều này khẳng định bước tiến rõ rệt về năng lực nhận diện đồng thời cả mã độc nén và mã độc đối kháng so với các mô hình phân tích tĩnh cơ sở ban đầu.

Đóng góp của đề tài

1. Hoàn thiện phương pháp chọn lọc đặc trưng kết hợp: Đề tài đã kết hợp thành công kỹ thuật giải thích cục bộ AMM (tính toán dựa trên SHAP) và kỹ thuật giải thích toàn cục SAGE để xác định chính xác các "đặc trưng dễ bị tổn thương nhưng ít đóng góp" (fragile features), giải quyết bài toán lãng phí tài nguyên tính toán và rủi ro bị khai thác trong phân tích tĩnh.
2. Cải tiến quy trình sinh mẫu và phòng thủ đối kháng: Triển khai và tinh chỉnh kiến trúc xAI-GAN thích ứng với bài toán phát hiện mã độc nén, tạo ra các mẫu đối kháng có chất lượng cao nhằm phục vụ quy trình huấn luyện đối kháng đa tầng.
3. Xây dựng mô hình tin cậy và bền vững: Khóa luận cung cấp một giải pháp cân bằng giữa độ chính xác phân loại và khả năng kháng cự tấn công đối kháng, nâng cao tính minh bạch (transparency) và độ tin cậy thực tế cho các hệ thống giám sát an toàn thông tin.

Hạn chế và hướng nghiên cứu tiếp

Hạn chế

• Nghiên cứu giới hạn phạm vi khảo sát trên định dạng tệp thực thi PE của hệ điều hành Windows, chưa mở rộng sang các định dạng tệp thực thi khác như ELF (Linux) hoặc Mach-O (macOS).
• Phương pháp tiếp cận vẫn dựa chủ yếu vào phân tích thuộc tính tĩnh, do đó có thể chịu ảnh hưởng nếu mã độc sử dụng các kỹ thuật xáo trộn sâu ở mức mã máy hoặc giải mã động hoàn toàn trong bộ nhớ mà cấu trúc header không để lại dấu vết.
• Chi phí tính toán để trích xuất các giá trị SHAP và SAGE trên các tập dữ liệu quy mô lớn đòi hỏi tài nguyên xử lý đáng kể.

Hướng nghiên cứu tiếp

• Mở rộng thử nghiệm mô hình trong môi trường kiểm thử thực tế và trên các hệ thống giám sát thời gian thực.
• Nghiên cứu kết hợp thêm các đặc trưng hành vi từ phân tích động để bổ trợ cho không gian đặc trưng tĩnh đã được tinh lọc.
• Tối ưu hóa thuật toán tính toán phân phối cận biên trong SAGE và TreeSHAP nhằm giảm thời gian trích xuất giải thích trên các tập dữ liệu mã độc quy mô lớn.

Giá trị tham khảo

Khóa luận là tài liệu tham khảo có giá trị học thuật và ứng dụng thực tiễn cao đối với:

• Sinh viên, học viên chuyên ngành An toàn thông tin, Mạng máy tính và Khoa học dữ liệu: Tài liệu cung cấp góc nhìn chi tiết từ cơ bản đến nâng cao về cấu trúc tệp thực thi PE, các kỹ thuật phân tích mã độc và cách thức triển khai các thuật toán học máy từ dạng bảng (Decision Tree, Random Forest, AdaBoost, Gradient Boosting) đến học sâu (CNN).
• Các nhóm nghiên cứu về An ninh đối kháng (Adversarial Machine Learning) và Trí tuệ nhân tạo khả diễn giải (XAI): Phần 3.2 và Chương 4 là tài liệu tham khảo trực tiếp về cách tích hợp SHAP, SAGE và AMM để giải quyết bài toán giảm chiều dữ liệu có hướng dẫn, cũng như quy trình thiết lập 4 kịch bản thực nghiệm kiểm thử khả năng phòng thủ đối kháng.

Câu hỏi thường gặp

1. Chỉ số AMM (Accrued Malicious Magnitude) được tính toán như thế nào và có vai trò gì trong đề tài?

Chỉ số AMM được tính dựa trên ma trận giá trị SHAP của mô hình cơ sở. Với mỗi thuộc tính (cột), tác giả tính vector $D$ (phạm vi biến thiên giữa giá trị SHAP nhỏ nhất và lớn nhất) và vector $C$ (tổng số lượng mẫu có giá trị SHAP dương lớn hơn mức trung bình của cột). AMM là tích vô hướng của hai vector này ($AMM = D \cdot C$). Vai trò của AMM là định lượng và xếp hạng các đặc trưng dễ bị kẻ tấn công thao túng nhất để né tránh sự phát hiện của mô hình.

2. Sự kết hợp giữa AMM và SAGE trong việc chọn lọc đặc trưng diễn ra theo cơ chế nào?

Khóa luận sử dụng AMM để lập danh sách $A$ (các thuộc tính dễ bị tấn công đối kháng nhất, sắp xếp từ cao xuống thấp) và dùng SAGE để lập danh sách $B$ (các thuộc tính có mức độ quan trọng toàn cục cao nhất đối với quyết định của mô hình, sắp xếp giảm dần). Bằng cách đối chiếu hai danh sách này, nhóm nghiên cứu lọc ra $m$ thuộc tính nằm ở nhóm có nguy cơ bị tấn công cao nhất nhưng lại ít đóng góp nhất vào hiệu năng phân loại chung để loại bỏ khỏi tập huấn luyện.

3. Mô hình xAI-GAN khác gì so với mô hình sinh đối kháng GAN thông thường?

Trong mô hình xAI-GAN, bộ sinh (Generator) không chỉ học từ tín hiệu phân biệt nhị phân đơn thuần của bộ phân biệt (Discriminator), mà còn tích hợp thêm ma trận giải thích (Explanation Matrix) dựa trên XAI. Điều này giúp bộ sinh nhận biết chính xác những vùng đặc trưng mà bộ phân loại dựa vào để đưa ra quyết định độc hại, từ đó tạo ra các nhiễu đối kháng tập trung và tinh vi hơn để đánh lừa mô hình phân loại.

4. Bốn kịch bản thực nghiệm trong Chương 4 được thiết kế nhằm mục đích gì?

Bốn kịch bản được phân chia nhằm đánh giá độc lập và đối chứng:

• Kịch bản 1a: Đo lường năng lực phát hiện mã độc nén ban đầu của các mô hình cơ sở.
• Kịch bản 1b: Đo lường mức độ suy giảm khi bị tấn công đối kháng và mức độ hồi phục khi áp dụng huấn luyện đối kháng truyền thống trên mô hình cơ sở.
• Kịch bản 2a: Kiểm tra xem việc cắt giảm thuộc tính theo hướng dẫn của AMM và SAGE có làm suy giảm độ chính xác của mô hình hay không.
• Kịch bản 2b: Kiểm tra năng lực chống chịu tấn công đối kháng của mô hình đã lọc thuộc tính trước và sau khi được huấn luyện đối kháng bằng mẫu sinh từ xAI-GAN.

5. Kết quả thực nghiệm cuối cùng của toàn bộ hệ thống đạt được là bao nhiêu?

Sau khi thực hiện đầy đủ quy trình đề xuất (lọc đặc trưng bằng AMM kết hợp SAGE, sinh mẫu đối kháng bằng xAI-GAN và huấn luyện đối kháng), toàn bộ các mô hình phân loại đều đạt chỉ số độ chính xác (Accuracy) ở mức 90% đối với việc phát hiện cả mã độc nén và mã độc đối kháng.

Kết luận

Khóa luận tốt nghiệp của sinh viên Trương Thị Hoàng Hảo và Nguyễn Thái Dương đã giải quyết thành công bài toán nâng cao tính bền vững cho hệ thống phát hiện mã độc đa hình thông qua việc kết hợp hài hòa giữa Trí tuệ nhân tạo khả diễn giải (XAI) và Mạng sinh đối kháng (xAI-GAN). Phương pháp chọn lọc đặc trưng dựa trên AMM và SAGE cho phép loại bỏ hiệu quả các thuộc tính dễ bị tổn thương mà không làm ảnh hưởng đến độ chính xác phân loại. Với kết quả đạt 90% độ chính xác trên toàn bộ các mô hình sau huấn luyện đối kháng, công trình cung cấp cơ sở khoa học và thực nghiệm quan trọng cho việc phát triển các giải pháp phòng thủ mã độc thế hệ mới.

Trích đoạn nội dung tài liệu

Chương 1: TONG QUAN DE TÀI Trình bày khái quát định hướng nghiên cứu của khóa luận mà chúng tôi muốn hướng tới. Chương 2: CƠ SỞ LÝ THUYET Trình bày các định nghĩa, khái niệm cũng như những kiến thức nền tảng để có thể thực hiện được nghiên cứu. Đồng thời trình bày sơ lược một số công trình liên quan có cùng hướng nghiên cứu. Chương 3: PHƯƠNG PHÁP THỰC HIỆN Là phần trọng tâm của khoá luận, trình bày những nội dung chính về phương pháp thực hiện và mô hình được sử dụng.

Chương 4: HIỆN THỰC, ĐÁNH GIÁ VÀ THẢO LUẬN Đề cập đến quá trình hiện thực hóa phương pháp dé cập ở Chương 3. Sau đó trình bày phương pháp thực nghiệm, đánh giá kết quả và thảo luận chung. Chương 5: KET LUẬN VÀ HƯỚNG PHÁT TRIỂN Dua ra kết luận về đề tài, dé xuất một số hướng phát triển mở rộng cho các nghiên cứu trong tương lai. Chương 2 CƠ SỞ LÝ THUYÊT Tóm tắt chương Chương này, nhóm chúng tôi sẽ trình bày cơ sở lý thuyết của nghiên cứu: Bao gồm tệp thực thi, mô hình phân tích mã độc bằng phương pháp học máy với những thuật toán khác nhau, mô hình khả điễn giải XAI, mạng sinh đối kháng GAN và cách kết hợp giữa XAI va GAN để lọc ra những thuộc tính, những mẫu đối kháng tốt nhất nhằm phục vụ cho việc huấn luyện đối kháng.1 Tệp thực thi PE 2.1 Cấu trúc tệp thực thi Trong nghiên cứu này chúng tôi chỉ sử dụng những tệp thực thi có định dạng PE làm đối tượng nghiên cứu.

Định dạng tệp PE, là một loại tệp thực thi tiêu chuẩn trên hệ hiệu hành Windows, tên đầy đủ là Portable Executable (PE), định dạng tệp tin PE là định dạng của tệp thực thi executables(.exe) và dynamic link library(.dll), được sử dụng cho cả 2 phiên bản hệ điều hành 32 bit và 64 bit. Định dạng này là một cấu trúc đóng gói đữ liệu cho trình tải hệ điều hành Windows(Windows OS loader) để quản lý và thực thi những mã lệnh. Những chức năng cơ bản của định dạng tệp tin PE: ¢ Mô tả Dinh dang PE: Dinh dang PE (Portable Executable) cung cấp một bản đồ chi tiết về cách chương trình được tải vào bộ nhớ. Nó xác định vị trí và cách mã và dữ liệu được lưu trữ trong bộ nhớ, cũng như các thư viện cần 6 Chương 2.

COSO LY THUYẾT thiết và cách chúng được liên kết. Bằng cách này, nó quy định cách chính xác để hệ điều hành tải chương trình và đảm bảo tính đồng nhất trong quá trình thực thi. © Tài nguyên sử dụng trong quá trình thực thi: Chương trình cung cấp các tài nguyên như hình ảnh, video, và chuỗi ký tự mà nó có thể sử dụng trong suốt quá trình thực thi. Các tài nguyên này đóng vai trò quan trọng trong việc cung cấp trải nghiệm người dùng hoàn chỉnh và đa dạng, bổ sung cho chức năng chính của chương trình.

e Cơ chế bảo mật: tập tin PE thường sử dung chữ ký số và các phương tiện khác để hệ điều hành có thể xác thực nguồn gốc của chương trình được nạp. Qua đó, hệ điều hành có khả năng đảm bảo tính toàn vẹn và nguồn gốc của mã, giúp ngăn chặn các cuộc tân công độc hại và đảm bảo tính ổn định của hệ thống. Cấu trúc chung của định dạng tệp tin PE sẽ có 2 phần là header và section, phần header dùng để lưu các giá trị định dang va offset của các section trong phan section. Trường tiêu dé DOS (DOS Header) Trường tiêu dé DOS có mục dich để thông báo tệp tin không thé hoạt động Trong môi trường MS-DOS, trường này được thực thi mỗi khi tệp tin chạy trong môi trường MS-DOS.

Cụ thể, Trường tiêu dé DOS chiếm 64 bytes đầu tiên trong tệp và bao gồm hai giá trị quan trọng: emagic (0x5a4b) và e_lfanew, một DWORD 4 bytes. Giá trị trong e_lfanew chứa khoảng cách (offset) đến Trường tiêu dé tập tin PE, xác định cách thức tập tin sẽ được thực thi. Để đảm bảo khả năng thực thi trong môi trường MS-DOS, 64 bytes đầu tiên của tệp thực thi PE được chiếm bởi trường tiêu dé DOS. Trong trường này, e_magic là chữ ký của tệp thực thi PE va e_là một DWORD chứa offset của PE Header so với vị trí đầu tệp.

Thông qua việc này, tệp tin được xác định và chuẩn bi để thực thi, giúp tăng tính linh hoạt của nó trong các môi trường khác nhau. COSO LY THUYẾT 64 bit 6x000 COFF 6x0008 Header 6x0010 6x0018 Standard 6x0020 COFF Fields 0x0028 0x0030 0x0038 0x0040 0x0048 Windows 9x0050 Specific Fields 0x0058 @xa060 0x0068 0x0070- Optional Header Data Directories Section Table Chương 2. COSO LY THUYẾT Trường DOS STUB Trường này là một chương trình DOS EXE dùng để thông báo lỗi: “This is pro- gram cannot be run in DOS mode” khi chương trình không tương thích. Trường tiêu dé PE (PE Header) Truong PE header bao gom cac thong tin can thiét dé tai chương trình lên bộ nhớ.

Câu trúc này gồm 3 phần được định nghĩa trong windows.inc: ¢ Signature: là 1 DWORD bắt đầu của PE Header chứa chữ ký : 50h, 45h, 00h, 00h. se IMAGE FILE HEADER: Trường nay bao gồm 20 bytes tiếp theo của PE Header, phan này chứa thông tin về sơ dé bố trí vật lý và các đặc tính của tệp tin. e® IMAGE_OPTIONAL_HEADER: Gồm 224 bytes tiếp theo sau FILE_HEADER. Chứa thông tin về sơ đồ logic trong tệp tin PE.

Trường nay chứa một số thông tin quan trọng giành cho việc chỉnh sửa tệp tin Magic (2 bytes): Xác định là tệp tin 32 bit (OB 01) hay 64 bit (OB 20) AddressOfEntryPoint (4bytes): Chứa dia chi ảo tương đối (RVA) của câu lệnh đầu tiên sé được thực thi khi chương trình PE loader san sàng để chạy tệp thực thi PE (. Nếu muốn chương trình bắt đầu từ một địa chỉ khác (để thực thi câu lệnh với mục đích khác) thì cần thay đổi địa chỉ này về địa chỉ tương đối của câu lệnh muốn thực thi. ImageBase: địa chỉ nạp được ưu tiên cho tệp tin PE. Section Alignment: Phần liên kết của các Section trong bộ nhớ.

File Alignment: Phan liên kết của các Section trong tệp tin. Tương tự như SectionAlignment nhưng áp dụng với tệp tin. SizeOfImage: Toàn bộ kích thước của Pe image trong bộ nhớ, là tổng của tất cả các headers và sections được liên kết tới Section Alignment SizeOfHeaders: Kích thước của tất cả các headers + section table = kích thước tệp tin trừ đi tổng kích thước của các section trong tệp tin. COSO LY THUYẾT — Data Directory: là một mảng gồm 16 phan tử, trong đó mỗi phần liên quan đến một cấu trúc di liệu quan trọng trong tệp tin PE.

Phân đoạn bảng (Section Table) Section Table là thành phần tiếp theo ngay sau Trường tiêu để PE, Section Ta- ble bao gồm một mảng những câu trúc IMAGE_SECTION_HEADER, Mỗi thành phần trong đó đều chứa thông tin về một phân đoạn cụ thể trong tệp tin PE: ¢ Kích thước ảo (VirtualSize): Kích thước thật của dữ liệu sau khi được tải lên bộ nhớ. ¢ Dia chỉ ao (VirtualAddress): Giá trị ánh xạ của các section sau khi được tải lên bộ nhớ. * SizeOfRawSection: Kích thước của section data có trên 6 đĩa. * PointerOfRawSection: là offset từ đầu tệp tin cho tới section data.

¢ Đặc tinh (Characteristic): Chia đặc tính của section: thực thi, dữ liệu khởi tạo. Phân đoạn tập tin PE (Section PE File) Phan sections của một tệp tin PE chứa dữ liệu cần thiết dé có thể thực thi được tệp tin. Mỗi phan của PE section đều có chứa tiêu dé riêng (Section Header) được lưu trữ trong Section Table.text là phân đoạn chứa mã thực thi của tệp tin PE. e data: Chua dữ liệu, các biến được khởi tao trong mã lệnh.rdata: Chứa những dữ liệu chỉ đọc, các biến const.idata: Chứa bảng nhập (Import Tables).

Phan này được trình tai sử dụng để xác định sẽ tải những DLL nào va các chức năng được sử dụng từ mỗi DLL.edata: Chứa những thư mục xuất (Export Directory). Phan nay bao gồm những hàm có chức năng xuất. COSO LY THUYẾT © .rsrc: Chứa tai nguyên mà một chương trình sử dung. Bao gồm hình ảnh, biểu tượng, .2 Hop ngữ Hop ngữ hay còn được gọi là Assembly code, là một loại ngôn ngữ bac thấp va có khả năng tương tác trực tiếp với vi xử lý.

Hợp ngữ có thể được dịch sang ngôn ngữ khác thông qua trình biên dịch assembly (assembler) và trình dịch ngược (disassembler) [1]. Dịch mã độc sang hợp ngữ giúp việc phân tích và điều tra trở nên dé dàng hơn nhờ tính tương thích với hoạt động của máy tính. Malware Author Malware Analyst High-level Language Low-Level Language int -¢; printf("Hello.\n"); exit(0); sub esp, 0x4ũ CPU Compiler Machine Code Disassembler Khi mã độc được dịch sang hợp ngữ, chúng thường sử dụng các lệnh để tương tác với hệ điều hành bằng cách gọi các thư viện liên kết động (DLL), các thư viện này được nạp vào bộ nhớ khi chương trình chạy. Các loại mã độc thường lợi dụng DLL để thay đổi thanh ghi hệ thống, sao chép tập tin,.

COSO LY THUYẾT Nghiên cứu của Moskovitch [14] cũng chi ra rằng việc sử dung hợp ngữ sé có hiệu quả cao hơn trong việc phân tích mã độc so với mã máy, ngoài ra mã độc nén và mã độc đa hình có thể bị phân tích bằng cách sử dụng những trình disassembler như IDA. Các kỹ thuật biến đổi hình dạng mã độc trên hợp ngữ như chèn mã chết, tái khai báo thanh ghi, tái sắp xếp chương trình con, thay thế lệnh, chuyển vị mã và tích hợp mã nhằm mục đích tránh được phát hiện bởi các trình phát hiện mã độc. Điều này làm nảy sinh nhu cầu phân tích mã hợp ngữ của các nhà khoa học để hiểu rõ cơ chế phát hiện mã độc của các công cụ phát hiện hiện tại. Một số vai trò của hợp ngữ trong việc phát hiện và phân tích mã độc: s® Phân tích chuyên sâu và chi tiết: Mã độc thường được viết hoặc dịch sang hợp ngữ để tăng độ khó trong việc phát hiện và phân tích.

Khả năng đọc hiểu hợp ngữ giúp các chuyên gia an ninh mạng tiếp cận mã độc từ gốc rễ, phân tích các hành vi bat thường hoặc độc hai ma các công cu tự động có thể bỏ sót. Nghiên cứu của Gu và cộng sự [4] đã nhấn mạnh tầm quan trọng của việc sử dụng hợp ngữ trong việc phát hiện mã độc thông qua phân tích tính và học máy. © Phat hiện kỹ thuật xáo trộn (Obfuscation): Kỹ thuật xáo trộn mã nhằm che giấu mục đích thực sự của mã độc bang cách thay đổi cấu trúc mà không làm thay đổi hành vi của nó.