Chương 1: TONG QUAN ĐỀ TÀI Trình bày tổng quan về hướng nghiên cứu của đề tài. e Chương 2: TONG QUAN TINH HÌNH NGHIÊN CỨU Tổng kết các công trình liên quan đã được tham khảo trong quá trình nghiên ⁄ cứu. e Chương 3: CƠ SỞ LÝ THUYET Giới thiệu những khái niệm và kiến thức cơ bản cần thiết để thực hiện nghiên cứu. e Chương 4: PHƯƠNG PHÁP THỰC HIỆN Trình bày chỉ tiết về phương pháp thực hiện và mô hình được áp dụng trong đề tài.
e Chương 5: KET QUA THỰC NGHIEM Đánh giá quá trình thực nghiệm va kết quả đạt được, cung cấp nhận xét về các công việc đã được thực hiện trong Chương 4. e Chương 6: KET LUẬN VÀ HƯỚNG PHÁT TRIEN Tổng kết và đề xuất những hướng phát triển tiềm năng cho đề tài nghiên cứu. TÌNH HÌNH NGHIÊN CỨU Chương này trình bày các công trình nghiên cứu liên quan cũng như ý nghĩa về sự quan trọng của đề tài được thực hiện. Các công trình nghiên cứu liên quan Trong lĩnh vực học máy hiện nay, việc xử lý đữ liệu đồ thị ngày càng trở nên quan trọng và phức tạp hơn bao giờ hết.
Đồ thị có thể mô hình hóa mối quan hệ giữa các thực thể và cung cấp một cách tiếp cận mạnh mẽ để nắm bắt thông tin cấu trúc và tương tác phức tạp giữa các yếu tố trong hệ thống. Trong tình hình này, những mô hình học máy như GNN đã trở thành một công cụ mạnh mẽ cho việc khai thác tri thức từ dit liệu đồ thị. GNN là một loại mô hình học sâu được thiết kế đặc biệt để làm việc trên dữ liệu đồ thị. Một trong những lý do nổi bật để sử dung mô hình GNN, đặc biệt là E-Graph và E-GraphSAGE, là khả năng của chúng trong mô hình hóa thông tin cấu trúc và tương tác giữa các yêu tố trong dữ liệu đồ thị.
Trong một đồ thị, các đỉnh và cạnh thường đại diện cho các thực thể và mối quan hệ giữa chúng. GNNs có khả năng tổng hợp thông tin từ hàng xóm của mỗi đỉnh và xây dựng một biểu diễn học máy dựa trên cấu trúc đồ thị này. Điều này cho phép GNNs hiểu được sự phụ thuộc và tương tác giữa các yếu tố trong hệ thống, từ đó cải thiện khả năng dự đoán và phân tích. Một lợi ích quan trọng của GNN là khả năng áp dụng vào nhiều lĩnh vực khác nhau trong học máy.
GNN đã chứng minh kha năng vượt trội trong các nhiệm vụ như phân loại đồ thị, dự đoán chuỗi thời gian trong đồ thị, và dự báo tương tác đồ thị. No cũng được sử dung rộng rãi trong các ứng dụng xử lý ngôn ngữ tự nhiên, phân tích hình ảnh, và đề xuất hợp tác. 9 Theo Wei Weng Lo [1] và Liyan Chang [2], E-Graph và E-GraphSAGE là những phiên bản nâng cao của mô hình CNN, được tối ưu hóa để giải quyết những thách thức lớn trong việc áp dụng học sâu vào dữ liệu đồ thị. Một trong những đặc điểm quan trọng của E-GraphSAGE là khả năng chọn lọc thông minh hàng xóm quan trọng nhất cho mỗi đỉnh, thay vì sử dụng một số hàng xóm ngẫu nhiên như trong GraphSAGE.
Điều này giúp cải thiện khả năng mô hình hóa thông tin cấu trúc và tăng cường hiệu suất dự đoán của GNN. Hơn nữa, E-GraphSAGE cũng hỗ trợ việc nhúng đa loại hình thực thể trong đồ thị. Trong nhiều tình huống thực tế, các đỉnh có thể đại diện cho người dùng, sản phẩm, sự kiện hoặc các đối tượng khác. Khả năng nhúng đa loại hình thực thể mở ra nhiều cơ hội trong ứng dụng học máy, như phân loại đa nhãn, đề xuất hợp tác và dự báo tương tác.
Tuy nhiên, hiện nay các mô hình học máy đang phải đối mặt với một thách thức đáng chú ý đó chính là các cuộc tấn công đối kháng. Đây là các chiến lược được thiết kế để đánh lừa, phá hoại hoặc gây thiệt hại cho các mô hình học may thông qua việc tạo ra các đữ liệu đầu vào chứa thông tin gian lận. Các cuộc tấn công đối lập có thể nhắm vào các mô hình học máy sử dụng trong nhiều ứng dụng, từ nhận dạng hình ảnh và xử lý ngôn ngữ tự nhiên đến hệ thống tự lái và giao dịch tài chính. Trong nhiều nghiên cứu đã được đề cập của Sandy Huang [3] cũng như Akhtar [4], mục tiêu của các tấn công này là làm cho mô hình học máy cho ra kết quả sai lệch, thậm chí dẫn đến hậu quả nghiêm trọng.
Điều đáng ngại là các cuộc tấn công đối lập ngày càng phổ biến và tinh vi hơn, khiến cho việc bảo vệ các mô hình trở nên càng khó khăn. Đặc trưng của các cuộc tấn công đối lập là sự khéo léo và tổ chức, trong đó kẻ tấn công sử dụng các phương pháp tinh vi để tìm ra các điểm yếu trong mô hình học máy và tạo ra dữ liệu đầu vào nhằm phá vỡ tính chính xác và đáng tin cậy của mô hình. Các kỹ thuật tấn công đối lập phổ biến bao gồm tấn công thành phần, tấn công theo hướng gradient và tấn công thế vị. 10 Trong bối cảnh này, nâng cao khả năng phòng vệ chống lại các cuộc tấn công đối lập trở thành một ưu tiên quan trọng.
Cần có sự tăng cường về thuật toán và kiến thức về an ninh để phát hiện và ngăn chặn các tấn công này. Bằng cách hiểu rõ các kỹ thuật tấn công đối lập và xây dựng các biện pháp phòng thủ tương ứng, chúng ta có thể đảm bảo tính tin cậy và an toàn của các mô hình học máy trong thế giới kỹ thuật số ngày càng phức tạp và đầy rủi ro. Một trong những hình thức tấn công đối kháng phổ biến là Poisioning và Evasion Attack, nơi kẻ tấn công cố gắng thay đổi dữ liệu đầu vào để đánh lừa mô hình học máy và gây ra các kết quả sai lầm hoặc không mong muốn. Trong số các phương pháp tấn công Evasion Attack, việc thêm và xóa cạnh trong đồ thị đặc biệt quan trọng và nguy hiểm.
Nghiên cứu của Binghui Wang [5] va Biggio [6] đã chỉ ra rằng, phương pháp thêm và xóa cạnh là các kỹ thuật tấn công mà kẻ tấn công thay đổi cấu trúc của đồ thị dữ liệu đầu vào để lừa mô hình học máy. Khi thêm cạnh, kẻ tấn công có thể tạo ra các kết nối giả mạo hoặc không tồn tại trong dữ liệu gốc, làm cho mô hình phân loại sai hoặc dự đoán sai. Trong khi đó, khi xóa cạnh, kẻ tấn công cố gắng loại bỏ các liên kết quan trọng trong đồ thị để làm mất thông tin quan trọng, gây nhiễu cho mô hình và làm cho nó không đáng tin cậy. Theo He Zhang [7| và Kwon Hyun [8], sự nguy hiểm của việc thêm và xóa cạnh trong tấn công Evasion Attack nằm ở khả năng gây ảnh hưởng lớn đến độ chính xác và đáng tin cậy của mô hình học máy.
Một mô hình không đủ can thận có thể bị lừa bằng việc thêm hoặc xóa chỉ một số cạnh nhưng lại gây ra những thay đổi quan trọng trong kết quả dự đoán. Điều này có thể có hậu quả nghiêm trọng trong các ứng dụng quan trọng như hệ thống phát hiện xâm nhập, bảo mật thông tin cá nhân hay dự báo tài chính. Vì vậy, việc nghiên cứu và phát triển các phương pháp phòng thủ chống lại tấn công Evasion Attack, đặc biệt là việc phát hiện và giảm thiểu tác động của việc thêm và xóa cạnh, trở thành một thách thức quan trọng trong lĩnh vực 11 an ninh học máy hiện nay. Các nghiên cứu mới nhất trong lĩnh vực này đóng vai trò quan trọng trong việc nâng cao khả năng bảo vệ và đáng tin cậy của các mô hình học máy trước các hình thức tấn công ngày càng tỉnh vi và phức tạp.
Chính vì những khả năng tìm ẩn của các hình thức tấn công đối kháng và các mô hình hoc máy đặc biệt là đối với mô hình GNN, Wei Jin [9] đã chỉ ra rằng có nhiều cách tiếp cận để đối phó với các cuộc tấn công đối kháng đối với mô hình GNN. Một trong số đó là tăng cường hệ thống phòng thủ bằng cách sử dụng các kỹ thuật chống lại các cuộc tấn công như đầu vào đối kháng hoặc thay đổi kiến trúc mô hình. Các phương pháp đầu vào đối kháng liên quan đến việc tạo ra những đối tượng đầu vào mang tính chất gian lận, nhằm đánh lừa mô hình GNN và làm sai lệch quyết định của nó. Các kỹ thuật này có thể bao gồm việc thêm nhiễu vào dữ liệu đầu vào, tạo ra đồ thị giả mạo, hoặc thực hiện các biến đổi khác để làm mờ thông tin quan trọng trong đồ thị.
Ngoài ra, việc thay đổi kiến trúc mô hình GNN cũng là một cách tiếp cận phòng thủ hiệu quả. Điều này có thể bao gồm việc áp dụng các biện pháp như thêm các lớp kiểm soát hay cơ chế tự động kiểm tra độ tin cậy của thông tin từ các hàng xóm. Bằng cách tăng cường cơ chế tự bảo vệ, mô hình GNN có khả năng phát hiện và chống lại các cuộc tấn công đối kháng. Một khía cạnh quan trọng của việc đối phó với các cuộc tấn công đối kháng là việc phát triển các phương pháp phát hiện và kiểm tra tính đáng tin cậy của mô hình GNN.
Diéu này giúp phát hiện những biểu hiện của các cuộc tấn công và đảm bảo rằng mô hình đang hoạt động theo đúng ý đồ ban đầu. Bên cạnh đó, một khía cạnh quan trọng cần xem xét là khả năng chuyển giao (transferability) của các cuộc tấn công phá vỡ mô hình. Ambra Demontis [10] đã chỉ ra rằng khả năng chuyển giao đề cập đến việc một cuộc tấn công thành công trên một mô hình học máy có thể được chuyển đổi sang một mô 12 hình khác. Điều này có ý nghĩa rằng kẻ tấn công chỉ cần tiến hành cuộc tấn công một lần và sau đó có thể áp dụng kết quả đó để đánh lừa nhiều mô hình khác nhau.
Điều này gây ra một mối đe dọa lớn cho hệ thống bảo mật, vì thậm chí khi một mô hình được cải tiến và bảo vệ, tấn công vẫn có thể lan tỏa và gây hậu quả tiềm tàng trên các mô hình mới. Dựa trên các nghiên cứu của Ehsan Nowroozi [11], Transferability đã trở thành một chủ đề nghiên cứu quan trọng trong cộng đồng an ninh mạng. Việc hiểu và đánh giá khả năng chuyển giao của các cuộc tấn công phá vỡ mô hình có thể giúp chúng ta phát triển các biện pháp phòng thủ hiệu quả hơn và tăng cường độ tin cậy của các mô hình học máy.