I. Giới thiệu về mô hình học sâu
Mô hình học sâu, được phát triển từ mạng nơ-ron, đã trở thành một công cụ mạnh mẽ trong nhiều lĩnh vực như phân loại ảnh, nhận diện đối tượng và xử lý ngôn ngữ tự nhiên. Học sâu không chỉ giúp mô hình đạt được độ chính xác cao mà còn mở rộng khả năng nhận diện các mẫu phức tạp trong dữ liệu. Tuy nhiên, với sự phát triển này, vấn đề tính chắc chắn của mô hình học sâu cũng trở nên cấp thiết. Tính chắc chắn đề cập đến khả năng của mô hình trong việc duy trì độ chính xác khi phải đối mặt với nhiễu đối kháng. Nhiễu đối kháng có thể được thêm vào ảnh dự đoán đúng, dẫn đến việc mô hình nhận diện sai. Các nghiên cứu trước đây đã chỉ ra rằng nhiều mô hình học sâu có thể bị tấn công dễ dàng thông qua việc thêm nhiễu này, điều này làm giảm đáng kể độ tin cậy của chúng trong các ứng dụng thực tế.
II. Đánh giá tính chắc chắn của mô hình học sâu
Để đánh giá tính chắc chắn của mô hình học sâu, có nhiều phương pháp khác nhau đã được đề xuất. Một trong những phương pháp phổ biến là sử dụng các chỉ số như độ chính xác, độ chuẩn xác và điểm số F1 để đo lường hiệu suất của mô hình. Tuy nhiên, các chỉ số này không hoàn toàn phản ánh khả năng của mô hình trong việc chống lại các tấn công đối kháng. Do đó, việc phát triển các phương pháp đánh giá mới, như sử dụng phương pháp kiểm tra hộp đen và hộp trắng, là rất cần thiết. Các phương pháp này không chỉ giúp nhận diện được các điểm yếu của mô hình mà còn cung cấp cái nhìn sâu sắc hơn về cách mà mô hình phản ứng với các nhiễu đối kháng. Việc cải thiện tính chắc chắn của mô hình không chỉ nâng cao độ tin cậy mà còn mở rộng khả năng ứng dụng của chúng trong các lĩnh vực nhạy cảm như an ninh mạng và nhận diện khuôn mặt.
III. Các phương pháp cải thiện tính chắc chắn
Luận án này đề xuất một số phương pháp nhằm nâng cao tính chắc chắn cho mô hình học sâu, bao gồm phương pháp HA4FNN, PatternAttack, QI4AE và SCADefender. Mỗi phương pháp đều có những ưu điểm riêng. Phương pháp HA4FNN sử dụng bộ giải phỏng đoán để cải thiện hiệu suất kiểm thử cho mô hình nơ-ron truyền thẳng. Trong khi đó, PatternAttack tập trung vào việc tạo ra các ảnh đối kháng với tính đa dạng cao hơn, từ đó cải thiện chất lượng ảnh đối kháng. Phương pháp QI4AE kết hợp thuật toán tham lam và mô hình mã hóa tự động nhằm nâng cao chất lượng ảnh đối kháng. Cuối cùng, SCADefender giúp loại bỏ nhiễu đối kháng từ ảnh đối kháng, từ đó cải thiện tính chắc chắn của mô hình. Các phương pháp này không chỉ có ý nghĩa lý thuyết mà còn có thể được áp dụng thực tế, đặc biệt trong các hệ thống yêu cầu cao về độ tin cậy.
IV. Kết luận và hướng phát triển
Tính chắc chắn trong mô hình học sâu là một chủ đề nghiên cứu quan trọng, đặc biệt trong bối cảnh các tấn công đối kháng ngày càng tinh vi. Các phương pháp được đề xuất trong luận án này không chỉ giúp cải thiện tính chắc chắn mà còn mở ra hướng nghiên cứu mới cho các mô hình học sâu trong tương lai. Việc áp dụng các công cụ và phương pháp này trong thực tế sẽ giúp nâng cao độ tin cậy của các ứng dụng học sâu, đồng thời tạo ra cơ hội mới cho việc phát triển các giải pháp an toàn hơn trong lĩnh vực công nghệ thông tin. Hướng phát triển tiếp theo có thể bao gồm việc mở rộng các phương pháp này cho các loại mô hình học sâu khác và nghiên cứu sâu hơn về các tấn công đối kháng mới.
