Luận Án Tiến Sĩ Kỹ Thuật Phần Mềm: Phương Pháp Đảm Bảo Tính Chắc Chắn Cho Mô Hình Học Sâu

• Tác giả: Nguyễn Đức Anh
• Người hướng dẫn: PGS. Phạm Ngọc Hùng
• Trường học: Đại học Quốc gia Hà Nội
• Chuyên ngành: Kỹ thuật phần mềm
• Đề tài: Phương Pháp Đảm Bảo Tính Chắc Chắn Trong Mô Hình Học Sâu
• Loại tài liệu: luận án
• Năm xuất bản: 2024
• Địa điểm: Hà Nội

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• TÓM TẮT
• 1. CHƯƠNG 1: GIỚI THIỆU
• 1.1. Đặt vấn đề
• 2. CHƯƠNG 2: KIẾN THỨC NỀN TẢNG
• 2.1. Mạng học sâu cho bài toán phân loại ảnh
• 2.2. Mạng nơ-ron truyền thẳng
• 2.3. Mạng mã hóa tự động
• 2.3.1. Mạng mã hóa tự động thưa
• 2.3.2. Mạng mã hóa tự động xếp chồng
• 2.3.3. Mạng mã hóa tự động tích chập xếp chồng
• 2.4. Tấn công đối kháng
• 2.4.1. Hai loại tấn công đối kháng phổ biến
• 2.4.2. Tính chắc chắn
• 2.4.3. Tính chất nhiễu
• 2.4.4. Đánh giá tính chắc chắn của mô hình học sâu
• 2.4.5. Các phương pháp tấn công đối kháng không định hướng
• 2.4.6. Các phương pháp tấn công đối kháng có định hướng
• 2.4.7. Các phương pháp phòng thủ sử dụng mô hình mã hóa tự động
• 2.4.8. Phương pháp PuVAE
• 2.4.9. Phương pháp MagiNet
• 2.4.10. Phương pháp Defense-VAE
• 2.4.11. Tỉ lệ phát hiện và đánh giá chất lượng mô hình mã hóa tự động phòng thủ
• 2.4.12. Các bộ dữ liệu sử dụng trong thực nghiệm
• 2.4.13. Tóm tắt chương
• 3. CHƯƠNG 3: PHƯƠNG PHÁP SỬ DỤNG BỘ GIẢI PHỎNG ĐOÁN ĐỂ TẤN CÔNG ĐỐI KHÁNG KHÔNG ĐỊNH HƯỚNG MÔ HÌNH NƠ-RON TRUYỀN THẲNG
• 3.1. Các nghiên cứu liên quan
• 3.2. Phương pháp HA4FNN
• 3.3. Sinh mã nguồn từ mô hình và chèn câu lệnh đánh dấu
• 3.4. Thực thi tượng trưng
• 3.5. Bộ giải phỏng đoán
• 3.6. Kết quả
• 4. CHƯƠNG 4: PHƯƠNG PHÁP SỬ DỤNG MÔ HÌNH MÃ HÓA TỰ ĐỘNG ĐỂ TẤN CÔNG ĐỐI KHÁNG CÓ ĐỊNH HƯỚNG MÔ HÌNH TÍCH CHẬP
• 4.1. Các nghiên cứu liên quan
• 4.2. Phương pháp PatternAttack
• 4.3. ATN khái quát
• 4.4. Cải thiện chất lượng ảnh đối kháng
• 4.5. Tóm tắt chương
• 5. CHƯƠNG 5: PHƯƠNG PHÁP QI4AE ĐỂ CẢI THIỆN CHẤT LƯỢNG ẢNH ĐỐI KHÁNG
• 5.1. Pha xây dựng
• 5.2. Pha cải thiện
• 5.3. Thực nghiệm
• 5.4. Tóm tắt chương
• 6. CHƯƠNG 6: PHƯƠNG PHÁP SỬ DỤNG MÔ HÌNH MÃ HÓA TỰ ĐỘNG ĐỂ CẢI THIỆN TÍNH CHẮC CHẮN CỦA MÔ HÌNH TÍCH CHẬP
• 6.1. Các nghiên cứu liên quan
• 6.2. Phương pháp SCADefender
• 6.3. Sinh tập ảnh đối kháng
• 6.4. Xây dựng mô hình mã hóa tự động
• 6.5. Tóm tắt chương
• 7. CHƯƠNG 7: CÁC KẾT QUẢ ĐẠT ĐƯỢC VÀ HƯỚNG PHÁT TRIỂN TIẾP THEO
• DANH SÁCH HÌNH VẼ
• DANH SÁCH BẢNG
• THUẬT NGỮ VÀ TỪ VIẾT TẮT
• GIẢI THÍCH KÍ HIỆU

I. Giới thiệu về mô hình học sâu

Mô hình học sâu, hay học sâu, đã trở thành một công cụ quan trọng trong nhiều lĩnh vực như phân loại ảnh, nhận diện đối tượng và xử lý ngôn ngữ tự nhiên. Mô hình học máy này được xây dựng dựa trên các mạng nơ-ron với nhiều tầng, cho phép mô hình hóa các mối quan hệ phức tạp trong dữ liệu. Tuy nhiên, một vấn đề lớn mà các mô hình này phải đối mặt là tính chắc chắn. Tính chắc chắn của mô hình học sâu được định nghĩa là khả năng mô hình nhận diện chính xác nhãn của ảnh đầu vào khi ảnh này bị thêm nhiễu đối kháng. Nhiễu đối kháng là những thay đổi nhỏ nhưng có thể làm sai lệch kết quả dự đoán của mô hình. Do đó, việc đảm bảo tính chắc chắn cho mô hình học sâu là rất quan trọng để nâng cao chất lượng và độ tin cậy của các ứng dụng thực tiễn.

1.1. Tính chất của mô hình học sâu

Mô hình học sâu có khả năng học từ dữ liệu lớn và phức tạp, nhưng cũng dễ bị tấn công bởi các phương pháp tấn công đối kháng. Các nghiên cứu đã chỉ ra rằng, mặc dù mô hình có thể đạt được độ chính xác cao trong các bài kiểm tra, nhưng vẫn có thể bị đánh lừa bởi các nhiễu đối kháng. Điều này đặt ra thách thức lớn cho các nhà nghiên cứu trong việc phát triển các phương pháp đảm bảo tính chắc chắn cho mô hình. Các phương pháp này không chỉ cần phải phát hiện và loại bỏ nhiễu mà còn phải cải thiện khả năng nhận diện của mô hình trong các tình huống thực tế.

II. Các phương pháp đảm bảo tính chắc chắn

Để cải thiện tính chắc chắn của mô hình học sâu, nhiều phương pháp đã được đề xuất. Một trong những phương pháp nổi bật là HA4FNN, sử dụng bộ giải phỏng đoán để kiểm thử mô hình nơ-ron truyền thăng. Phương pháp này cho phép chuyển đổi mô hình kiểm thử thành mã nguồn C, từ đó thực thi và tìm kiếm các ảnh đối kháng. Kết quả cho thấy phương pháp này có hiệu năng và tỉ lệ thành công cao hơn so với các phương pháp trước đó. Ngoài ra, phương pháp PatternAttack cũng được phát triển để cải thiện chất lượng ảnh đối kháng bằng cách sử dụng các mẫu thêm nhiễu khác nhau. Điều này không chỉ làm tăng tính đa dạng của ảnh đối kháng mà còn cải thiện chất lượng của chúng.

2.1. Phương pháp HA4FNN

Phương pháp HA4FNN được thiết kế để khắc phục những hạn chế của các phương pháp kiểm thử trước đó. Bằng cách sử dụng bộ giải phỏng đoán, phương pháp này có thể tìm ra các ảnh đối kháng một cách hiệu quả hơn. Thực nghiệm cho thấy rằng HA4FNN có thể đạt được tỉ lệ thành công cao trong việc phát hiện và loại bỏ nhiễu đối kháng. Điều này chứng tỏ rằng việc áp dụng các phương pháp mới trong kiểm thử mô hình học sâu là cần thiết để nâng cao tính chắc chắn và độ tin cậy của các ứng dụng thực tiễn.

2.2. Phương pháp PatternAttack

PatternAttack là một phương pháp tiên tiến nhằm cải thiện chất lượng ảnh đối kháng. Phương pháp này sử dụng kiến trúc mô hình mã hóa tự động để thêm nhiễu vào ảnh đầu vào theo các mẫu khác nhau. Kết quả thực nghiệm cho thấy rằng PatternAttack không chỉ làm tăng tính đa dạng của ảnh đối kháng mà còn cải thiện chất lượng của chúng. Việc áp dụng thuật toán tham lam để loại bỏ nhiễu dư thừa cũng giúp tăng cường hiệu quả của phương pháp này, cho thấy rằng việc kết hợp các kỹ thuật khác nhau có thể mang lại kết quả tốt hơn trong việc đảm bảo tính chắc chắn cho mô hình học sâu.

III. Đánh giá và ứng dụng thực tiễn

Các phương pháp đảm bảo tính chắc chắn cho mô hình học sâu không chỉ có ý nghĩa lý thuyết mà còn có ứng dụng thực tiễn quan trọng. Việc cải thiện tính chắc chắn giúp các mô hình học sâu hoạt động hiệu quả hơn trong các tình huống thực tế, đặc biệt là trong các lĩnh vực yêu cầu độ chính xác cao như y tế, an ninh mạng và tự động hóa. Các công cụ được phát triển từ các phương pháp này đã được triển khai và nhận được phản hồi tích cực từ người dùng. Điều này cho thấy rằng việc nghiên cứu và phát triển các phương pháp mới trong lĩnh vực học sâu là cần thiết để đáp ứng nhu cầu ngày càng cao của thị trường.

3.1. Ứng dụng trong thực tiễn

Các phương pháp như HA4FNN và PatternAttack đã được áp dụng trong nhiều lĩnh vực khác nhau, từ nhận diện khuôn mặt đến phân loại ảnh trong y tế. Việc cải thiện tính chắc chắn của các mô hình học sâu giúp giảm thiểu rủi ro trong các ứng dụng này, đảm bảo rằng các quyết định được đưa ra dựa trên dữ liệu chính xác. Điều này không chỉ nâng cao hiệu quả công việc mà còn bảo vệ người dùng khỏi các mối đe dọa từ các tấn công đối kháng.