Phương pháp đảm bảo tính chắc chắn trong mô hình học sâu

LỜI CAM ĐOAN

LỜI CẢM ƠN

TÓM TẮT

1. CHƯƠNG 1: MỤC TIÊU VÀ PHẠM VI NGHIÊN CỨU

1.1. Các đóng góp chính của luận án và mối quan hệ

1.2. Cây nghiên cứu

1.3. Bố cục các chương trong luận án

1.4. Kiến thức nền tảng

1.4.1. Mạng học sâu cho bài toán phân loại ảnh

1.4.2. Mạng học sâu

1.4.3. Mạng nơ-ron truyền thẳng

1.4.4. Mạng tích chập

1.4.5. Xây dựng mô hình học sâu cho bài toán phân loại ảnh

1.4.5.1. Mạng mã hóa tự động

1.4.5.2. Mạng mã hóa tự động thưa

1.4.5.3. Mạng mã hóa tự động xếp chồng

1.4.5.4. Mạng mã hóa tự động tích chập xếp chồng

1.4.6. Tấn công đối kháng

1.4.6.1. Hai loại tấn công đối kháng phổ biến

1.4.7. Tính chắc chắn

1.4.8. Phân loại ảnh

1.4.9. Tính chất nhiễu

1.4.10. Đánh giá tính chắc chắn của mô hình học sâu

1.4.11. Các phương pháp tấn công đối kháng không định hướng

1.4.12. Các phương pháp tấn công đối kháng có định hướng

1.4.13. Các phương pháp phòng thủ sử dụng mô hình mã hóa tự động

1.4.13.1. Phương pháp PuVAE

1.4.13.2. Phương pháp MagNet

1.4.13.3. Phương pháp Defense-VAE

1.4.14. Tỉ lệ phát hiện để đánh giá chất lượng mô hình mã hóa tự động phòng thủ

1.4.15. Các bộ dữ liệu sử dụng trong thực nghiệm

1.4.16. Bộ giải SMT

1.5. Tóm tắt chương

3. CHƯƠNG 3: PHƯƠNG PHÁP SỬ DỤNG BỘ GIẢI PHỎNG ĐOÁN ĐỂ TẤN CÔNG ĐỐI KHÁNG KHÔNG ĐỊNH HƯỚNG MÔ HÌNH NƠ-RON TRUYỀN THẲNG

3.1. Các nghiên cứu liên quan

3.2. Phương pháp HA4FNN

3.3. Sinh mã nguồn từ mô hình & Chèn câu lệnh đánh dấu

3.4. Thực thi tượng trưng

3.5. Bộ giải phỏng đoán

3.6. Tóm tắt chương

4. CHƯƠNG 4: PHƯƠNG PHÁP SỬ DỤNG MÔ HÌNH MÃ HÓA TỰ ĐỘNG ĐỂ TẤN CÔNG ĐỐI KHÁNG CÓ ĐỊNH HƯỚNG MÔ HÌNH TÍCH CHẬP

4.1. Các nghiên cứu liên quan

4.2. Phương pháp Pattern Attack

4.3. ATN khái quát

4.4. Cải thiện chất lượng ảnh đối kháng

4.5. Tóm tắt chương

5. CHƯƠNG 5: PHƯƠNG PHÁP SỬ DỤNG MÔ HÌNH MÃ HÓA TỰ ĐỘNG KẾT HỢP THUẬT TOÁN THAM LAM ĐỂ CẢI THIỆN CHẤT LƯỢNG ẢNH ĐỐI KHÁNG

5.1. Các nghiên cứu liên quan

5.2. Phương pháp QI4AE

5.3. Pha xây dựng

5.4. Pha cải thiện

5.5. Tóm tắt chương

6. CHƯƠNG 6: PHƯƠNG PHÁP SỬ DỤNG MÔ HÌNH MÃ HÓA TỰ ĐỘNG ĐỂ CẢI THIỆN TÍNH CHẮC CHẮN CỦA MÔ HÌNH TÍCH CHẬP

6.1. Các nghiên cứu liên quan

6.2. Phương pháp SCADefender

6.3. Sinh tập ảnh đối kháng

6.4. Xây dựng mô hình mã hóa tự động

6.5. Tóm tắt chương

DANH SÁCH HÌNH VẼ

DANH SÁCH BẢNG

THUẬT NGỮ VÀ TỪ VIẾT TẮT

DANH MỤC KÝ HIỆU

I. Giới thiệu về mô hình học sâu

Mô hình học sâu, được phát triển từ mạng nơ-ron, đã trở thành một công cụ mạnh mẽ trong nhiều lĩnh vực như phân loại ảnh, nhận diện đối tượng và xử lý ngôn ngữ tự nhiên. Học sâu không chỉ giúp mô hình đạt được độ chính xác cao mà còn mở rộng khả năng nhận diện các mẫu phức tạp trong dữ liệu. Tuy nhiên, với sự phát triển này, vấn đề tính chắc chắn của mô hình học sâu cũng trở nên cấp thiết. Tính chắc chắn đề cập đến khả năng của mô hình trong việc duy trì độ chính xác khi phải đối mặt với nhiễu đối kháng. Nhiễu đối kháng có thể được thêm vào ảnh dự đoán đúng, dẫn đến việc mô hình nhận diện sai. Các nghiên cứu trước đây đã chỉ ra rằng nhiều mô hình học sâu có thể bị tấn công dễ dàng thông qua việc thêm nhiễu này, điều này làm giảm đáng kể độ tin cậy của chúng trong các ứng dụng thực tế.

II. Đánh giá tính chắc chắn của mô hình học sâu

Để đánh giá tính chắc chắn của mô hình học sâu, có nhiều phương pháp khác nhau đã được đề xuất. Một trong những phương pháp phổ biến là sử dụng các chỉ số như độ chính xác, độ chuẩn xác và điểm số F1 để đo lường hiệu suất của mô hình. Tuy nhiên, các chỉ số này không hoàn toàn phản ánh khả năng của mô hình trong việc chống lại các tấn công đối kháng. Do đó, việc phát triển các phương pháp đánh giá mới, như sử dụng phương pháp kiểm tra hộp đen và hộp trắng, là rất cần thiết. Các phương pháp này không chỉ giúp nhận diện được các điểm yếu của mô hình mà còn cung cấp cái nhìn sâu sắc hơn về cách mà mô hình phản ứng với các nhiễu đối kháng. Việc cải thiện tính chắc chắn của mô hình không chỉ nâng cao độ tin cậy mà còn mở rộng khả năng ứng dụng của chúng trong các lĩnh vực nhạy cảm như an ninh mạng và nhận diện khuôn mặt.

III. Các phương pháp cải thiện tính chắc chắn

Luận án này đề xuất một số phương pháp nhằm nâng cao tính chắc chắn cho mô hình học sâu, bao gồm phương pháp HA4FNN, PatternAttack, QI4AE và SCADefender. Mỗi phương pháp đều có những ưu điểm riêng. Phương pháp HA4FNN sử dụng bộ giải phỏng đoán để cải thiện hiệu suất kiểm thử cho mô hình nơ-ron truyền thẳng. Trong khi đó, PatternAttack tập trung vào việc tạo ra các ảnh đối kháng với tính đa dạng cao hơn, từ đó cải thiện chất lượng ảnh đối kháng. Phương pháp QI4AE kết hợp thuật toán tham lam và mô hình mã hóa tự động nhằm nâng cao chất lượng ảnh đối kháng. Cuối cùng, SCADefender giúp loại bỏ nhiễu đối kháng từ ảnh đối kháng, từ đó cải thiện tính chắc chắn của mô hình. Các phương pháp này không chỉ có ý nghĩa lý thuyết mà còn có thể được áp dụng thực tế, đặc biệt trong các hệ thống yêu cầu cao về độ tin cậy.

IV. Kết luận và hướng phát triển

Tính chắc chắn trong mô hình học sâu là một chủ đề nghiên cứu quan trọng, đặc biệt trong bối cảnh các tấn công đối kháng ngày càng tinh vi. Các phương pháp được đề xuất trong luận án này không chỉ giúp cải thiện tính chắc chắn mà còn mở ra hướng nghiên cứu mới cho các mô hình học sâu trong tương lai. Việc áp dụng các công cụ và phương pháp này trong thực tế sẽ giúp nâng cao độ tin cậy của các ứng dụng học sâu, đồng thời tạo ra cơ hội mới cho việc phát triển các giải pháp an toàn hơn trong lĩnh vực công nghệ thông tin. Hướng phát triển tiếp theo có thể bao gồm việc mở rộng các phương pháp này cho các loại mô hình học sâu khác và nghiên cứu sâu hơn về các tấn công đối kháng mới.

Luận văn về các phương pháp đảm bảo tính chắc chắn cho mô hình học sâu