MỞ ĐẦU 1.1 Giới thiệu Những tiến bộ vượt bậc của công nghệ, sự phát triển không ngừng về khả năng tính toán, số lượng thiết bị và sự bùng nổ về dữ liệu lớn đã tạo các điều kiện thuận lợi thúc đẩy sự phát triển mạnh mẽ của các kỹ thuật Machine Learning (ML - Hoc máy), đặc biệt là Deep Learning (DL — Học sâu), góp phần giải quyết nhiều van dé quan trọng của đời sống như y tế, môi trường và đô thị thông minh. Với các mô hình ML phân tán, dữ liệu cần được thu thập từ nhiều nguồn như các thiết bị JoT (Internet of Things), điện thoại di động và lưu trữ - xử lí tập trung để cung cấp cho ứng dụng ML trung tâm. Tuy nhiên, hướng tiếp cận phổ biến này ngày càng đối mặt với nhiều thách thức, không đảm bảo cho sự phát triển bền vững như: 1) việc thu thập, lưu trữ dữ liệu tập trung đòi hỏi chi phí lớn và tốn kém nhiều thời gian; 2) mối quan ngại về tính riêng tư của dữ liệu nhạy cảm của người dùng ngày càng được đặc biệt quan tâm [4]. Do đó, tình trạng đói dữ liệu (data hungriness) vẫn đang là một thách thức nghiêm trọng đối với các ứng dung ML truyền thống.
Dé giải quyết hiệu quả van đề trên, mô hình học máy dé dam báo tính riêng tư của dữ liệu — Federated Learning (FL — Học hợp tác) lần đầu tiên được giới thiệu bởi nhóm nghiên cứu từ Google [5] vào năm 2016. Với FL, việc huấn luyện mô hình FL sẽ diễn ra trên chính thiết bị của người dùng và cùng kết hợp các đánh giá để huấn luyện mô hình toàn cục (global model). Dữ liệu riêng tư của người dùng được lưu trữ hoàn toàn trên thiết bị của họ và không chia sẻ hay gửi đến máy chủ tập trung hoặc người dùng khác. Thay vào đó, chỉ có những cập nhật của mô hình được gửi đến máy chủ tập trung để tổng hợp và xây dựng mô hình toàn cục.
Sự quan tâm của các nhà nghiên cứu đối với Federated Learning đang ngày càng gia tăng kể từ ngày đầu tiên công bồ. Ví dụ tiêu biểu cho mô hình này là ứng dụng bàn phím ảo Gboard của Google [6]. Những bài toán ML liên quan đến tính riêng tư của dữ liệu tổn tại trước đây có thể được giải quyết bằng cách áp dụng mô hình FL (vi dụ các ứng dụng y tế trên thiết bị thông minh cần truy cập dữ liệu nhạy cảm như thông tin sức khỏe, ứng dụng xe tự hành, trợ lí ảo). Nhiều tổ chức, nhóm nghiên cứu đã tích cực phát triển những nền tảng để hỗ trợ cho Federated Learning như Tensorflow Federated của Google, PySyft từ Openmined; FATE từ Webank hay Owkin hiện đang nghiên cứu phát triển nền tảng FL ứng dụng trong lĩnh vực y học [6].
Mặc dù mô hình FL có thể mang lại những cải tiến đáng kể về đảm bảo tính riêng tư của dữ liệu, nhưng nhiều nghiên cứu vẫn chứng minh được rằng cách thiết kế của các mô hình FL tồn tại nhiều rủi ro bảo mật có thể bị khai thác bởi kẻ tấn công ở cả trong và ngoài hệ thống [4]. Ví dụ, FL vẫn đối mặt với các phương pháp tấn công gây ảnh hưởng đến hiệu suất và độ chính xác của mô hình thông qua việc tận dụng cơ chế hoạt động của bộ tổng hợp trung tâm (aggregator). Cụ thể, các phương pháp tân công đầu độc dữ liệu và mô hình (data and model poisoning attacks) [7], [8], [9], [10], [11] gây ảnh hưởng nghiêm trong dén độ chính xác của mô hình; hay thậm chí với phương pháp tấn công tinh vi, khó phát hiện như tấn công backdoor [12], [13], không làm ảnh hưởng đến độ chính xác của mô hình mà hiệu quả tân công đầu độc vẫn đạt được rất cao. FL vẫn đang là hướng nghiên cứu rất mới và đang được đặc biệt quan tâm bởi cộng đồng nghiên cứu.
Để tiếp cận và có đánh giá thực tế về FL, trong Khóa luận tốt nghiệp này, tác giả sẽ có phân tích cụ thể hơn về tính bảo mật của mô hình Federated Learning cũng như khảo sát các mối đe dọa tiềm năng. Từ đó, tác giả sẽ tiến hành thực nghiệm các phương pháp tan công đầu độc chống lại mô hình FL, đánh giá và đưa ra nhận định về các rủi ro khi ứng dụng mô hình FL vào thực tế cũng như bước dau đề xuất các giải pháp phòng thủ và hạn chế ảnh hưởng của các tấn công đầu độc cho mô hình FL trong tương lai.2 Mục tiêu nghiên cứu ° Nghiên cứu cơ sở lý thuyết, kiến trúc, tính bảo mật của mô hình Federated Learning, các mối đe dọa và tan công có thể ảnh hưởng đến độ chính xác của mô hình và tính riêng tư của dữ liệu. Nghiên cứu xây dựng mô hình Federated Learning và tiến hành thực nghiệm các phương pháp tan công đầu độc dữ liệu (data poisoning attacks) chống lại mô hình Federated Learning. Đánh giá kết quả thực nghiệm và hiệu quả của phương pháp tấn công đến hiệu suât và độ chính xác của mô hình.3 Đối tượng nghiên cứu Mô hình Federated Learning và các nền tảng (platforms) mã nguồn mở hỗ trợ Federated Learning như PySyft, PyGrid và PyTorch.
Các mối đe dọa và các phương pháp tấn công đầu độc dữ liệu chống lại mô hình Federated Learning.4 Pham vi nghiên cứu Xây dựng hệ thống thực nghiệm mô phỏng mô hình Federated Learning. Tập trung nghiên cứu, đánh giá các phương pháp data poisoning attacks đến mô hình Federated Learning. Cải tiền phương pháp tan công đầu độc dữ liệu bằng cách sử dung mô hình Mạng đối nghịch tạo sinh (GAN).5 Cầu trúc Khóa luận tốt nghiệp Phần còn lại của Khóa luận tốt nghiệp được trình bày theo trình tự sau: Tác giả sẽ trình bày cơ sở lý thuyết và các nghiên cứu liên quan tại Chương 2. Ở Chương 3, tác giả tiến hành phân tích và xậy dựng mô hình tan công dựa trên các trường hợp khác nhau của kẻ tấn công.
Tiến hành thực nghiệm và đánh giá kết quả ở Chương 4. Cuối cùng, tác giả đưa ra kêt luận và hướng phát triển của đề tài trong tương lại tại Chương 5. Chương 2 CƠ SỞ LÝ THUYÊT VÀ CÁC NGHIÊN CỨU LIÊN QUAN 2.1 Mô hình học máy phân tán Nhu cầu về trí tuệ nhân tạo đã tăng lên đáng kể trong thập kỉ qua đồng thời mang lại nhiều thách thức về khả năng tính toán và tính riêng tư dữ liệu. Mặt khác, con người luôn muốn nâng cao hiệu quả cũng như độ chính xác của máy học trong các ứng dụng thực tế, điều này đòi hỏi cần huấn luyện mô hình với một lượng dữ liệu lớn và đa dạng.
Hơn nữa, các mô hình học máy quy mô nhỏ có thể được đào tạo với lượng đữ liệu vừa đủ nhưng đối với các mô hình lớn hơn như mạng học sâu (mạng nơ-ron) sẽ luôn phát triển theo cấp số nhân với số lượng tham số do đó nhu cầu xử lý dữ liệu huấn luyện đã vượt mức sự gia tăng khả năng tính toán của máy tính. Vì vậy, học máy phân tán đã ra đời như một giải pháp hiệu quả bằng cách phân phối khối lượng công việc học tập trên nhiều máy và biến học máy tập trung thành một hệ thống phân tán, từ đó khối lượng công việc lớn sẽ được phân chia thực hiện trên nhiều máy một cách dễ dàng. Hơn thế nữa, học máy phân tán còn là một giải pháp tăng cường tính riêng tư của dữ liệu người dùng trong học máy hiện nay. [14] Ý tưởng của học máy phân tán (distributed learning) là sử dụng nhiều nút cùng đảm nhiệm việc thực hiện các thuật toán ML hoặc DL để cải thiện hiệu suất, đảm bảo tính riêng tư, tăng lượng dữ liệu huấn luyện và có thể phát triển những mô hình phức tạp hơn.2 mô tả một hệ thống học phân tán bao gồm ba nút tính toán và Parameter Server 2.
es hive Iv one Worker 1 ne Worker 2 ww Data Shard1 eee Data Shard 2| "Tata Shard 3 Hinh 2.1: M6 hinh hoc may phan tan [1] một máy chủ tổng hợp, để giảm bớt tính toán cho các nút, dữ liệu huấn luyện được chia thành ba phần cho ba nút và các nút này thực hiện huấn luyện tại cục bộ. Sau đó các nút này gửi các kết quả cập nhật mô hình về phía máy chủ tổng hợp nơi các cập nhật từ các nút được tính trung bình và cho ra cập nhật cuối cùng. Với giải pháp này, học máy phân tán có thể phân chia công việc huấn luyện cho các nút và đảm bảo riêng tư của dữ liệu. Từ định nghĩa trên, học máy phân tán có thé được phân thành hai loại: scalability- motivated (thúc đẩy khả năng mở rộng) và privacy-motivated (đảm bảo quyền riêng tư).
Scalability-motivated là mô hình được thiết kế để giải quyết nhu cầu mở rộng và tập trung tối ưu khả năng tính toán của các nút trong hệ thống học máy. Ngược lại, Scalability-motivated tập trung giải quyết các nhu cầu về đảm bảo tính riêng tư của người dùng bởi vì tính riêng tư dữ liệu của người dùng hiện đang là mối quan tâm toàn cầu.2 Mô hình học may hợp tác 2.1 Giới thiệu Mô hình học máy hợp tác (Federated Learning - FL) lần đầu tiên được giới thiệu bởi nhóm nghiên cứu từ Google vào năm 2016 nhằm giải quyết những vấn đề mà mô hình học máy phân tán đang đối mặt. Federated Learning là cách thiết lập mô hình học máy mà trong đó nhiều thiết bị (clients) cùng hợp tác để giải quyết vấn đề liên quan đến học máy, dưới sự điều phối của một máy chủ trung tâm hoặc nhà cung cấp dịch vụ. FL là một cách tiếp cận học máy phân tán trong đó nhiều người dùng cùng huấn luyện một mô hình chung trong khi vẫn đảm bảo quyên riêng tư cho dữ liệu của người dùng vì không phải chuyển đến một máy chủ hoặc trung tâm dữ liệu trung gian nào khác [15] [2].
Ban dau, FL được đề xuất để xử lý dữ liệu I/D của các đặc trưng giống nhau trong thiết bị di động - trong FL gọi là Cross-Device. Sau đó, khái niệm FL được mở rộng sang dữ liệu phân tán của các công ty, tổ chức hay nhiều vùng địa lý khác nhau - trong FL gọi là Cross-Silo. Tóm lại, hệ thống FL là một hệ thống phân tán để quản ly quá trình huấn luyện ở nhiều nơi khác nhau với các tài nguyên phân tán [15] mà vẫn đảm bảo được tính riêng tư của dữ liệu. Mô hình FL giải quyết những vấn đề liên quan đến quyền riêng tư của dữ liệu và giúp giảm chỉ phí trong quá trình huấn luyện mô hình học máy.