Đặt vấn đề và trình bày sơ lược về mục đích, đối tượng, phạm vi nghiên cứu và những đóng góp của đề tài. Chương 2 - Cở sở lý thuyết và nghiên cứu liên quan Trình bày và giải thích các cơ sở lý thuyết, định nghĩa và giải thích nguyên tắc hoạt động của Học hợp tác, các kỹ thuật đảm bảo tính an toàn cho mô hình học hợp tác được nhóm tác giả sử dụng trong đề tài như: Mã hoá đồng hình (Homomorphic Encryption), Tính toán đa bên an toàn (Secure Multi-party Computation), Quyền riêng tư khác biệt (Differential Privacy) cùng với khác thư viện hỗ trợ: PyTorch, PySyft, TenSeal,. Chương 3 - Phân tích và thiết kế hệ thống Tién hành phân tích và thiết kế sơ đồ hệ thống, trình bày về luồng xử ly (workflow) của hệ thống. Giải thích các kỹ thuật của hệ thông mà nhóm nghiên cứu và các tiêu chí đánh giá kết quả.
Chương 4 - Triển khai hệ thống và đánh giá kết quả Trình bày các thông tin phần cứng của hệ thống, triển khai môi trường, các giải pháp đảm bảo an toàn cho mô hình học hợp tác. Từ đó, đánh giá ưu điểm và hạn chế của hệ thống đã triển khai. Chương 5 - Kết luận và hướng phát triển Tổng kết các nội dung đã nghiên cứu trong dé tài. Từ đó đề xuất các hướng phát triển của đề tài có thể tiếp tục thực hiện trong tương lai.
Chương 2 CƠ SỞ LÝ THUYET VÀ CÁC NGHIÊN CỨU LIÊN QUAN 2.1 Mô hình học máy phân tán (Distributed Machine Learning) Mô hình học máy phân tán là mô hình đề cập đến các thuật toán và hệ thống học máy đa bên được thiết kế để cải thiện hiệu suất, tăng độ chính xác và mở rộng quy mô kích thước dữ liệu đầu vào lớn hơn. Việc tăng kích thước dữ liệu đầu vào có thể khiến cho nhiều thuật toán giảm đáng kể lỗi học tập và thường có hiệu quả so với việc sử dụng các phương pháp phức tạp hơn [12]. Mô hình học máy phân tán cho phép các công ty, nhà nghiên cứu và những người trong bộ phận đưa ra quyết định sáng suốt và kết luận rút ra từ một lượng lớn dữ liệu. Nhiéu hệ thống tổn tại để thực hiện các tác vụ học máy trong môi trường phân tán.
Các hệ thống này chia thành ba loại chính: cơ sở dữ liệu, hệ thống chung và hệ thống được xây dựng theo mục đích. Mỗi loại hệ thống có những ưu điểm và nhược điểm riêng biệt, nhưng tất cả đều được sử dụng trong thực tế tùy thuộc vào các trường hợp sử dụng cá nhân, yêu cầu hiệu suất, kích thước dữ liệu đầu vào và lượng nỗ lực triển khai. Trong mô hình học máy phân tán thì tất cả dữ liệu sẽ được đưa lên máy chủ trung tâm và đây cũng là một trong những thử thách lớn của mô hình này. Vì những dữ liệu có thể chứa thông tin nhạy cảm của người dùng cuối hoặc tổ chức, chẳng hạn như hình ảnh khuôn mặt, dịch vụ dựa trên vi trí, thông tin chữa bệnh [19] hoặc tình trạng kinh tế cá nhân.
Việc di chuyển dữ liệu thô từ các thiết bị cá nhân hoặc trung tâm dữ liệu của nhiều tổ chức sang máy chủ hoặc trung tâm dữ liệu tập trung có thể gây rò rỉ thông tin tức thì hoặc tiềm ẩn. Điều này làm cho việc tổng hợp dữ liệu từ các thiết bị phân tán, nhiều khu vực hoặc tổ chức hầu như không thécomputing [27]. Chính vì những thách thức trên mà mở ra tiềm năng vô cùng lớn cho mô hình học máy Federated Learning.2 Học hợp tac (Federated Learning) Hoc hợp tac (FL - Federated Learning) là mô hình học máy mà trong đó việc huấn luyện sẽ được diễn ra trên đối tượng tham gia (thiết bị di động hoặc tổ chức) và các đối tượng này sẽ cùng tham gia cộng tác với nhau để huấn luyện một mô hình thông qua sự điều phối của máy chủ trung tâm. Những dữ liệu riêng tư của người dùng (tổ chức) vẫn sẽ được lưu trữ ở thiết bị mà không bị chuyển đi bất kỳ nơi nào khác, chỉ những thay đổi của mô hình sau quá trình huấn luyện mới được chia sẻ với máy chủ trung tâm.
Mô hình FL giải quyết đáng kể các van đề của các mô hình học máy truyền thống như dam bảo tính riêng tư của người dùng và độ trễ lớn trong lan truyền [13]. Ban đầu thuật ngữ Federated Learning được giới thiệu để ứng dụng vào các thiết bị di động hoặc các thiết bị ngoại biên (edge device) nhưng gần đây việc ứng dụng mô hình FL cho một nhóm các người dùng đáng tin cậy (ví dụ: các tổ chức y tế, tài chính) bắt đầu thu hút được nhiều sự quan tâm hơn từ giới nghiên cứu. Hai dạng ứng dụng này được gọi là "cross-device" và "cross-silo" [13]. Mô hình cross-device FL là một dạng mô hình học máy phân tán với một máy chủ trung tâm cùng rất nhiều đối tượng tham gia (thường là các thiết bi di động hoặc IoT).
Quá trình huấn luyện sử dụng dữ liệu của thiết bị và diễn ra cũng tại thiết bị. Mặc dù quá trình huấn luyện, cập nhập hoàn toàn được máy chủ trung tâm điều hành nhưng dữ liệu của thiết bị sẽ không bị đọc hay gửi đi bất kỳ đâu trong suốt thời gian diễn ra các quá trình này. Ngoài ra, các thiết bị này sẽ không được định danh bằng bất cứ dạng thông tin gì bởi máy chủ trung tâm. Tuy nhiên, số lượng thiết bị quá lớn khiến cho quá trình huấn luyện và cập nhập mô hình khó có thể diễn ra đồng loạt trên tat cả thiết bị.
Diéu này xảy ra do các thiết bị không đáp ứng đủ các điều kiện cần thiết cho để thực hiện các quá trình trên (không đủ lượng pin tối thiểu, không được kết nối mạng,. Mô hình này thường được sử dụng bởi nhiều tổ chức y tế hoặc tài chính vì độ tin cậy cao mà nó mang lại. Bởi vì đối tượng tham gia mô hình chủ yếu là các tổ chức cho nên kết nối đến máy chủ trung tâm luôn được duy trì ổn đỉnh, điều này có nghĩa là dữ liệu luôn có tính sẵn sàng cao. Vi vậy các quá trình huấn luyện, cập nhật, trao đổi dữ liệu sẽ diễn ra suôn sẻ.
Các đối tượng tham gia sẽ được định danh cụ thể và tham gia vào mô hình. Các kỹ thuật đảm bảo tính an toàn cho mô hình học hợp tác 2.1 Mã hoá đồng hình (Homomorphic Encryption) Mã hoá đồng hình là tên gọi chung của các loại mã hoá cho phép tính toán trên dữ liệu được mã hoá mà không cần thao tác giải mã trước đó [20]. Một điều kiện tối quan trọng trong HE chính là kết quả của một phép toán thực hiện trên dữ liệu được mã hoá phải tương đồng với kết quả của cùng một phép toán thực hiện trên dữ liệu gốc. Với những tính chất trên, HE mang một tiềm năng ứng dụng to lớn bởi nó cho phép một bên thứ ba có thể thực hiện phép tính, thuật toán trên dữ liệu mã hoá mà không cần thực thi bất kỳ kiểu truy cập nào vào dữ liệu gốc.
Vì vậy, dữ liệu của người dùng được bảo vệ và đảm bảo an toàn trong khi bên thứ ba thực hiện các tác vụ (nghiên cứu, thống. kê, dùng cho học máy,. Mã hoá đồng hình đã được ứng dụng vào nhiều lĩnh vực khác nhau như tài chính, kinh doanh, y tế hoặc bất kỳ lĩnh vực nào cần phải làm việc với những dữ liệu nhạy cảm. Đi sâu hơn vào hình thức của mã hoá đồng hình, một biểu thức g : A > B sẽ được gọi là đồng hình nếu như thoả điều kiện sau: s(xI)*(%2) = gẮM *x;), VăI,x; € A Ngoài một số các thuật toán có trên các hệ thống mã hoá thông thường khác như: sinh khoá, mã hoá hay giải mã, mã hoá đồng hình còn có một thuật toán cộng có tên là evaluation (Eval) [20], thuật toán này là mô tả chính thức của quy tắc phía trên.
Đầu vào và đầu ra của thuật toán Eval là dạng dữ liệu đã mã hoá. Trong thuật toán Eval, biểu thức g được thực hiện lên dữ liệu mã hoá c¡ và c mà không cần truy cập vào dữ 11 liệu gốc my và mạ, tinh chất này được thể hiện như sau: Dec(key priv, Evalz(keyaai,€1,€a)) = f(m1,m2) Trong mã hoá đồng hình, chi hai phép tính cần phải mang tính đồng hình là phép cong (OR) và phép nhân (AND). Mã hoá đồng hình có thể phân làm 3 dạng [20]: + Mã hoá đồng hình một phần (PHE - Partial homomorphic encryption): Các loại mã hoá được gọi là PHE khi nó chỉ hỗ trợ một phép tính thực hiện trên dữ liệu mã hoá với số lần thực hiện không giới hạn. Các loại mã hoá tiêu biểu thuộc dang này là: RSA, Goldwasser-Micali và El-Gamal.
* Phan nào đó là mã hoá đồng hình (SWHE - Somewhat homomorphic encryption): là dạng cho hỗ trợ cả hai phép toán nhưng chỉ có thể thực hiện một số lần nhất định các phép toán trên ciphertext, nều vượt quá số lần được cho phép kết quả sẽ sai lệch. * Mã hoá đồng hình toàn phần (FHE - Fully homomorphic encryption): là loại mã hoá có thể hỗ trợ cả hai phép tính với số lần tính toán không giới hạn. FHE được xem là "Dao xếp đa năng Thuy Sĩ của ngành mật mã học" bởi khả năng tính toán không giới hạn trên dữ liệu mã hoá [20]. Các loại mã hoá thuộc dạng FHE vẫn đang được phát triển và hoàn thiện bởi tính phức tạp và tính trừu tượng của mã hoá đồng toàn phần.2 Tính toán đa bên An toàn (Secure Multi-party Computation) Tính toán đa bên an toàn là một kỹ thuật dùng để tính toán một hàm trong khi vẫn giữ được bí mật đầu vào.
Mục tiêu của tính toán đa bên an toàn được giới thiệu bởi Yao [28], cho phép tập hợp P = {p1,., p2} của n người tham gia để tính toán một chức 12 năng được thoả thuận tuỳ ý của các đầu vào riêng tư của họ. Việc tính toán phải đảm bảo tính chính xác của kết quả đầu ra trong khi vẫn giữ được bí mật đầu vào của người tham gia, ngay cả khi một số người tham gia bị người khác tấn công làm hỏng và có hình vi ác ý. Chia sẻ bí mật - Secret Sharing Chia sẻ bí mật đề cập đến các phương pháp phân phối bí mật giữa một nhóm người tham gia, mỗi người trong số họ được chia sẻ một phần bí mật.,) lu fo Hình 2.1: Chia sẻ bí mat 7 Secret Sharing là phương pháp mật mã dùng để chia các dữ liệu nhạy cảm thành từng phan, trong đó: ?https://courses.