Nghiên Cứu Về Phát Hiện Malware Trên Android Bằng Học Tập Liên Kết

Khóa luận tốt nghiệp nghiên cứu tốt nghiệp an toàn thông tin tìm hiểu học cộng tác và cấp quyền truy cập trong phát hiện mã độc, vận dụng lý thuyết vào thực tế, đề xuất giải pháp

• Tác giả: Phạm Khôi Nguyên
• Người hướng dẫn: TS. Nguyễn Tấn Cầm
• Trường học: Đại học Quốc gia TP. Hồ Chí Minh
• Chuyên ngành: Kỹ sư ngành An toàn thông tin
• Đề tài: Nghiên Cứu Phát Hiện Malware Trên Android Sử Dụng Học Tập Liên Kết
• Loại tài liệu: Khóa luận tốt nghiệp
• Năm xuất bản: 2022
• Địa điểm: TP. Hồ Chí Minh

Mục lục chi tiết

• LỜI CẢM ƠN
• 1. CHƯƠNG 1: TỔNG QUAN
• 1.1. Giới thiệu chung
• 1.2. Động lực nghiên cứu
• 1.3. Tính khoa học
• 1.4. Tính ứng dụng
• 1.5. Phạm vi của vấn đề
• 1.6. Thách thức an toàn
• 1.7. Đóng góp của khóa luận
• 2. CHƯƠNG 2: CƠ SỞ LÝ THUYẾT VÀ CÁC NGHIÊN CỨU LIÊN QUAN
• 2.1. Tổng quan về cấp quyền truy cập và top quyền truy cập
• 2.2. Bản đồ quyền truy cập
• 2.3. Quy trình tạo Perm-Maps
• 2.4. Tổng quan về học cộng tác
• 2.4.1. Các loại học cộng tác
• 2.4.2. Học cộng tác tập trung
• 2.4.3. Học tập cộng tác phi tập trung
• 2.4.4. Học cộng tác không đồng nhất
• 2.4.5. Học lặp đi lặp lại
• 2.4.6. Dữ liệu non-1d
• 2.4.7. Ưu và nhược điểm của học cộng tác
• 2.4.8. Mô hình Safe SSL
• 2.4.9. Mô hình học cộng tác bán giám sát an toàn
• 2.4.10. Một cấu trúc cộng tác kết hợp PermMaps
• 2.5. Tập tin manifest của Android
• 2.6. Giới thiệu về Convolutional Neural Network
• 2.7. Giới thiệu về Support Vector Machine
• 2.8. Giới thiệu về Random Forest
• 3. CHƯƠNG 3: PHƯƠNG PHÁP THỰC HIỆN
• 3.1. Các phương pháp xử lý dữ liệu
• 3.2. Information Gain trong lựa chọn tính năng
• 3.3. Tổng hợp và chuyển nhị phân
• 3.4. Các phương pháp xây dựng mô hình sử dụng quyền truy cập
• 3.5. Sử dụng thuật toán máy học
• 3.6. Các phương pháp xây dựng mô hình học cộng tác
• 3.7. Mô hình Less is More
• 3.8. Mô hình học cộng tác trên thiết bị Android
• 4. CHƯƠNG 4: THỰC NGHIỆM VÀ ĐÁNH GIÁ KẾT QUẢ
• 4.1. Thực nghiệm quyền truy cập với thuật toán SVM
• 4.2. Thực nghiệm quyền truy cập với thuật toán Random Forest
• 4.3. Thực nghiệm quyền truy cập với thuật toán CNN
• 4.4. Cách thức lựa chọn quyền truy cập
• 4.5. Thực nghiệm mô hình học liên kết với thiết bị di động
• 4.6. Xây dựng GUI cho Server
• 4.7. Xử lý các hành động cho ứng dụng server GUI
• 4.8. Lắng nghe các kết nối trong một luồng
• 4.9. Xây dựng GUI cho máy khách
• 4.10. Xử lý các hành động cho ứng dụng GUI của máy khách
• 4.11. Gửi và nhận dữ liệu trong một luồng
• 4.12. Các công cụ dùng để đánh giá hiệu suất
• 4.13. Precision and Recall
• 4.14. Đánh giá hiệu suất của mô hình cấp quyền truy cập đối với bộ dữ liệu AndMal2017
• 4.15. Đánh giá hiệu suất của mô hình học cộng tác theo cấu trúc LiM đối với bộ dữ liệu MalDroid-2020
• 4.16. So sánh với hệ thống khác
• 5. CHƯƠNG 5: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng Quan Về Nghiên Cứu Phát Hiện Malware Trên Android

Nghiên cứu phát hiện malware trên Android đang trở thành một vấn đề cấp thiết trong bối cảnh an ninh mạng ngày càng gia tăng. Các thiết bị Android, với khả năng truy cập thông tin nhạy cảm, đã trở thành mục tiêu chính của các cuộc tấn công từ phần mềm độc hại. Việc phát hiện và ngăn chặn các mối đe dọa này là rất quan trọng để bảo vệ dữ liệu cá nhân và thông tin nhạy cảm của người dùng.

1.1. Tình Hình Hiện Tại Về Malware Trên Android

Sự gia tăng của malware trên Android đã dẫn đến nhiều thách thức cho người dùng và nhà phát triển. Theo báo cáo từ McAfee, số lượng ứng dụng độc hại đã tăng đáng kể trong những năm gần đây.

1.2. Tầm Quan Trọng Của Phát Hiện Malware

Phát hiện malware không chỉ giúp bảo vệ người dùng mà còn hỗ trợ các nhà phát triển trong việc cải thiện an ninh ứng dụng. Việc áp dụng các công nghệ mới như học tập liên kết có thể nâng cao hiệu quả phát hiện.

II. Vấn Đề Và Thách Thức Trong Phát Hiện Malware

Mặc dù có nhiều phương pháp phát hiện malware, nhưng vẫn tồn tại nhiều thách thức. Các kỹ thuật tấn công ngày càng tinh vi, khiến cho việc phát hiện trở nên khó khăn hơn. Hệ thống phát hiện cần phải liên tục cập nhật và cải tiến để đối phó với các mối đe dọa mới.

2.1. Các Kỹ Thuật Tránh Phát Hiện

Nhiều phần mềm độc hại hiện nay sử dụng các kỹ thuật như mã hóa và ẩn danh để tránh bị phát hiện. Điều này đặt ra thách thức lớn cho các hệ thống phát hiện.

2.2. Thiếu Dữ Liệu Để Huấn Luyện

Việc thiếu dữ liệu chất lượng cao để huấn luyện mô hình là một trong những vấn đề lớn. Dữ liệu không đầy đủ có thể dẫn đến việc phát hiện sai hoặc bỏ sót các mối đe dọa.

III. Phương Pháp Phát Hiện Malware Sử Dụng Học Tập Liên Kết

Học tập liên kết là một phương pháp mới trong phát hiện malware. Phương pháp này cho phép các thiết bị học hỏi từ nhau mà không cần chia sẻ dữ liệu, giúp bảo vệ quyền riêng tư của người dùng. Việc áp dụng học tập liên kết có thể cải thiện đáng kể độ chính xác trong phát hiện.

3.1. Nguyên Tắc Cơ Bản Của Học Tập Liên Kết

Học tập liên kết cho phép các thiết bị học hỏi từ các mô hình khác mà không cần chia sẻ dữ liệu gốc. Điều này giúp bảo vệ quyền riêng tư và an ninh thông tin.

3.2. Ứng Dụng Học Tập Liên Kết Trong Phát Hiện Malware

Việc áp dụng học tập liên kết trong phát hiện malware đã cho thấy hiệu quả cao trong việc cải thiện độ chính xác và giảm thiểu số lượng dương tính giả.

IV. Kết Quả Nghiên Cứu Và Ứng Dụng Thực Tiễn

Nghiên cứu đã chỉ ra rằng việc sử dụng học tập liên kết có thể cải thiện đáng kể khả năng phát hiện malware trên Android. Các mô hình được phát triển đã cho thấy hiệu suất tốt trong việc phân loại các ứng dụng độc hại và không độc hại.

4.1. Kết Quả Thực Nghiệm

Các thử nghiệm cho thấy mô hình học tập liên kết đạt được độ chính xác cao hơn so với các phương pháp truyền thống. Điều này chứng tỏ tính khả thi của phương pháp này trong thực tế.

4.2. Ứng Dụng Trong Thực Tế

Các ứng dụng thực tế của phương pháp này có thể bao gồm việc phát triển các ứng dụng bảo mật cho thiết bị Android, giúp người dùng bảo vệ thông tin cá nhân hiệu quả hơn.

V. Kết Luận Và Hướng Phát Triển Tương Lai

Nghiên cứu về phát hiện malware trên Android sử dụng học tập liên kết đã mở ra nhiều hướng đi mới trong lĩnh vực an ninh mạng. Tương lai của nghiên cứu này có thể bao gồm việc phát triển các mô hình mạnh mẽ hơn và áp dụng vào nhiều lĩnh vực khác nhau.

5.1. Hướng Phát Triển Mới

Nghiên cứu có thể mở rộng sang các lĩnh vực khác như IoT và các thiết bị thông minh, nơi mà an ninh mạng cũng đang trở thành một vấn đề quan trọng.

5.2. Tầm Quan Trọng Của An Ninh Mạng

An ninh mạng sẽ tiếp tục là một lĩnh vực quan trọng trong tương lai, và việc phát hiện malware sẽ đóng vai trò then chốt trong việc bảo vệ thông tin cá nhân và doanh nghiệp.

Nội dung chính

Bối cảnh và vấn đề nghiên cứu

Sự phổ biến của điện thoại thông minh (smartphone) gắn liền với khả năng lưu trữ và xử lý lượng lớn dữ liệu nhạy cảm của người dùng, từ thông tin tài khoản ngân hàng, tin nhắn, hình ảnh cá nhân cho đến dữ liệu định vị GPS, camera và micro. Theo ước tính từ BankMyCell được trích dẫn trong văn bản, thế giới có khoảng 6,64 tỷ người dùng điện thoại thông minh vào năm 2022. Nền tảng Android với thị phần lớn và kiến trúc mã nguồn mở cho phép cài đặt ứng dụng từ bên thứ ba đã trở thành mục tiêu hàng đầu của các cuộc tấn công mã độc. Báo cáo mối đe dọa di động từ McAfee (McAfee Mobile Threat Report 2022) cho thấy tội phạm mạng liên tục mở rộng phương thức tấn công thông qua kỹ thuật kết hợp thư điện tử và tin nhắn giả mạo (Smishing), lợi dụng các chủ đề thời sự như ứng dụng phòng chống COVID-19, tiền điện tử, trò chơi trực tuyến và cổng thanh toán. Các số liệu từ G DATA CyberDefense và McAfee chỉ ra rằng có hơn 2,5 triệu mẫu mã độc Android mới xuất hiện trong các năm 2020 và 2021.

Trước thực trạng các kỹ thuật tránh né phát hiện ngày càng tinh vi, việc xây dựng cơ chế phát hiện mã độc hiệu quả là yêu cầu cấp thiết. Tuy nhiên, các kỹ thuật phân loại hiện nay đối mặt với nhiều thách thức lớn:

• Kỹ thuật phân tích dựa trên quyền truy cập (Permission) dễ bị qua mặt khi ứng dụng độc hại chủ động khai báo bổ sung các quyền thông thường của ứng dụng lành tính nhằm che giấu hành vi.
• Dữ liệu thu thập từ nhiều nguồn có sự mất cân bằng nghiêm trọng giữa các họ mã độc, đồng thời phân bố dữ liệu giữa các thiết bị di động có tính chất không đồng nhất (non-IID).
• Các mô hình học cộng tác (Federated Learning - FL) truyền thống yêu cầu thiết bị người dùng phải cung cấp dữ liệu đã được gán nhãn thực địa (ground-truth) chính xác — một giả định không khả thi trong thực tế vì người dùng thông thường không thể tự xác định nhãn ứng dụng. Hơn nữa, học cộng tác truyền thống tiềm ẩn nguy cơ bị tấn công đầu độc (poisoning attacks) và tấn công suy luận thành viên (membership inference attacks).

Khóa luận xác định các mục tiêu và nhiệm vụ nghiên cứu cụ thể:

1. Tìm hiểu cơ chế cấp quyền truy cập trên Android, phương pháp trích xuất đặc trưng quyền bằng kỹ thuật phân tích tĩnh và cách thức xây dựng bản đồ quyền truy cập (Perm-Maps).
2. Nghiên cứu các mô hình học máy (SVM, Random Forest), mạng nơ-ron học sâu (CNN) và mô hình học cộng tác bán giám sát an toàn (Safe Semi-Supervised Learning) với cấu trúc Less is More (LiM).
3. Đánh giá thực nghiệm hiệu năng phát hiện mã độc trên các tập đặc trưng Top 20, Top 50, Top 100 quyền truy cập thông qua các độ đo kiểm thử tiêu chuẩn.
4. Thiết kế và triển khai ứng dụng mô phỏng hệ thống học cộng tác phân tán Máy chủ - Máy khách (Server - Client) tương thích với môi trường thiết bị di động.

Đối tượng và phạm vi nghiên cứu:

• Đối tượng nghiên cứu: Tệp gói ứng dụng Android (APK), trích xuất danh sách các quyền hạn được khai báo làm tập đặc trưng phân loại.
• Phạm vi dữ liệu: Khóa luận khảo sát trên các bộ dữ liệu tiêu chuẩn gồm Contagio community, AndMal2017 (thuộc CICDataset, chứa các nhóm: Adware, Benign, Ransomware, SMSmalware, Scareware) và MalDroid-2020 (MalDroid-2022).
• Phạm vi thời gian: Đề tài được triển khai từ ngày 22/02/2022 đến ngày 25/06/2022 tại Trường Đại học Công nghệ Thông tin, Đại học Quốc gia TP. Hồ Chí Minh.

Cơ sở lý thuyết và phương pháp

Khóa luận kết hợp khung lý thuyết về phân tích tĩnh ứng dụng Android, các thuật toán học máy cổ điển và kiến trúc học cộng tác bảo toàn tính riêng tư:

Hệ thống cấp quyền truy cập Android và Perm-Maps

Mọi ứng dụng Android đều chạy trong môi trường hộp cát (sandbox) cô lập và phải khai báo các quyền tương tác với tài nguyên hệ thống thông qua tệp kê khai AndroidManifest.xml. Cơ chế phân quyền của Android bao gồm ba nhóm chính:

• Quyền trong thời gian cài đặt (Install-time permissions): Gồm quyền bình thường (normal permissions, gây rủi ro tối thiểu và được hệ thống tự động cấp) và quyền chữ ký (signature permissions, chỉ cấp khi ứng dụng yêu cầu có cùng chứng chỉ số với ứng dụng định nghĩa).
• Quyền trong thời gian chạy (Runtime permissions / Dangerous permissions): Yêu cầu người dùng cuối xác nhận trực tiếp qua hộp thoại lời nhắc khi ứng dụng yêu cầu truy cập các dữ liệu nhạy cảm (danh bạ, vị trí, camera, tin nhắn).
• Quyền đặc biệt (Special permissions): Do nhà sản xuất thiết bị gốc (OEM) định nghĩa, liên kết với các hoạt động ứng dụng (app ops) tiêu tốn tài nguyên.

Nhằm tối ưu hóa biểu diễn đặc trưng và ngăn chặn các kỹ thuật làm rối mã nguồn (obfuscation) như DexGuard, ProGuard hay Obfuscapk, khóa luận giới thiệu cấu trúc bản đồ quyền truy cập (Perm-Maps). Perm-Maps là một ma trận thưa thớt biểu diễn mối quan hệ giữa định danh quyền ($ID_p$) và định danh mức độ nghiêm trọng ($ID_s$) dưới dạng tọa độ cố định $(x, y)$ trên không gian hai chiều, phân tách mức bảo vệ thông qua thang màu xám hoặc RGB. Quy trình tạo Perm-Maps gồm 4 bước: (1) Trích xuất quyền và mức bảo vệ tương ứng; (2) Gán mã số $ID_p$ cho quyền; (3) Gán mã số $ID_s$ cho mức nghiêm trọng; (4) Khởi tạo ma trận tọa độ $(ID_p, ID_s)$.

Mô hình học cộng tác bán giám sát an toàn (LiM Framework)

Học cộng tác (FL) cho phép các thiết bị biên phối hợp huấn luyện một mô hình toàn cục mà không cần tải dữ liệu cục bộ lên máy chủ trung tâm. Nhằm khắc phục tình trạng thiếu dữ liệu gán nhãn phía người dùng và chống lại các cuộc tấn công suy luận, khóa luận tiếp cận cấu trúc LiM (Less is More) dựa trên nền tảng thuật toán SAFEW (Safe Semi-Supervised Learning).

Trong mô hình SAFEW, máy chủ sử dụng một nhóm các bộ phân loại cơ sở ($f_i$) kết hợp với nhau thông qua tập trọng số $\alpha_i$ ($i \in [1, b]$). SAFEW bảo đảm hiệu năng phân loại không bị suy giảm so với mô hình đường cơ sở ($f_0$) ngay cả trong trường hợp xấu nhất, sử dụng hàm mất mát bản lề (hinge loss) để chuyển đổi thành bài toán tối ưu hóa lồi giải quyết qua gói CVXPY:

$$\min_{\alpha} \max_{f^} \left( l(f, f^) - l(f_0, f^*) \right)$$

Cấu trúc LiM áp dụng SAFEW vào môi trường học cộng tác: Máy chủ đám mây sở hữu tập dữ liệu có nhãn thực địa để đào tạo bộ phân loại đường cơ sở và nhóm người học cơ sở. Các máy khách (thiết bị di động) chỉ sử dụng tập ứng dụng chưa gán nhãn được cài đặt cục bộ để ước lượng vector trọng số $\alpha$. Thay vì chia sẻ toàn bộ gradient hay tham số mạng nơ-ron sâu phức tạp, máy khách chỉ gửi các trọng số $\alpha$ về máy chủ để lấy trung bình hai lần (Client-Cloud Average). Điều này giúp giảm đáng kể chi phí băng thông mạng và ngăn chặn đối thủ khai thác cập nhật thưa thớt để suy diễn dữ liệu cá nhân.

Phương pháp xử lý dữ liệu và thuật toán học máy

• Trích xuất dữ liệu: Sử dụng thư viện androguard để dịch ngược và phân tích tĩnh tệp AndroidManifest.xml của các gói APK, thu thập danh sách quyền thực tế thông qua hàm get_permissions().
• Tiền xử lý: Sử dụng hàm remove_source_permission để chuẩn hóa định dạng chuỗi quyền (loại bỏ tiền tố đường dẫn, ví dụ chuyển android.permission.READ_PHONE_STATE thành READ_PHONE_STATE) và xử lý giá trị lỗi/rỗng (remove_non=True).
• Lựa chọn tính năng: Sử dụng giải thuật Information Gain dựa trên Entropy để định lượng mức độ đóng góp của từng quyền đối với việc phân biệt mã độc và phần mềm lành tính:

$$\text{Gain}(S, A) = \text{Entropy}(S) - \sum_{v \in \text{Values}(A)} \frac{|S_v|}{|S|} \text{Entropy}(S_v)$$

• Nhị phân hóa dữ liệu: Xây dựng bảng dữ liệu nhị phân trong đó giá trị 1 đại diện cho sự hiện diện của quyền trong ứng dụng và 0 đại diện cho sự vắng mặt, kèm nhãn phân loại mã độc tương ứng.
• Thuật toán phân loại: Triển khai kiểm nghiệm trên Máy vectơ hỗ trợ (SVM với hàm nhân RBF và Poly), Rừng ngẫu nhiên (Random Forest với kỹ thuật lấy mẫu Bootstrapping và tập hợp cây quyết định), và Mạng nơ-ron tích chập (CNN gồm 4 lớp ẩn, cơ chế cửa sổ trượt Sliding Windows kích thước $3 \times 3$, hàm kích hoạt ReLU và các lớp Subsampling/Pooling).

Thiết kế và triển khai hệ thống

Hệ thống thực nghiệm được xây dựng nhằm mô phỏng toàn diện chu trình học cộng tác phân tán giữa máy chủ và các nút thiết bị di động, bao gồm các thành phần kiến trúc và công nghệ sau:

Kiến trúc truyền thông Client - Server

• Giao thức mạng: Thiết lập kênh truyền thông hai chiều dựa trên Socket TCP/IP qua địa chỉ IP và số hiệu cổng xác định.
• Cơ chế đa luồng: Phía máy chủ cài đặt lớp lắng nghe kết nối đa luồng (threading.Thread, lớp RecvThread) cho phép duy trì và điều phối đồng thời nhiều phiên làm việc với các máy khách mà không gây tắc nghẽn luồng xử lý giao diện.

Công nghệ huấn luyện và tối ưu hóa

• Tối ưu hóa tham số mạng: Tích hợp thư viện PyGAD để khởi tạo cấu trúc mạng nơ-ron và áp dụng thuật toán di truyền (Genetic Algorithm) trong việc tìm kiếm bộ trọng số tối ưu tại các nút máy khách.
• Tiến trình học cộng tác: Máy chủ phát tán tập hợp mạng nơ-ron ban đầu đến các máy khách kết nối; máy khách tiến hành huấn luyện cục bộ bằng thuật toán di truyền trên tập dữ liệu đặc trưng riêng, sau đó gửi trả các tham số đã tinh chỉnh về máy chủ để thực hiện quá trình tổng hợp (aggregation).

Giao diện điều khiển (GUI)

• Nền tảng xây dựng: Sử dụng framework Kivy nhằm tạo giao diện tương thích đa nền tảng, có thể chạy trực tiếp trên môi trường máy tính lẫn thiết bị di động Android.
• Cấu trúc giao diện: Bố cục trực quan thông qua BoxLayout. Ứng dụng Server (ServerApp) quản lý danh sách kết nối, trạng thái cổng socket và nút kích hoạt vòng học cộng tác. Ứng dụng Client (ClientApp) tích hợp các hàm sự kiện (như recv_trainmodel_btn), hiển thị tiến trình nhận mô hình, trạng thái huấn luyện nội bộ và kết quả phân loại ứng dụng cục bộ.

Nội dung chính theo từng chương

Chương 1: Tổng quan

Chương 1 thiết lập nền tảng nghiên cứu thông qua việc dẫn chứng số liệu thống kê về sự bùng nổ của các thiết bị di động thông minh và các đợt phát tán phần mềm độc hại trong giai đoạn 2019 - 2022. Tác giả phân tích tính cấp thiết của đề tài trên cả hai phương diện:

• Tính khoa học: Vấn đề phát hiện mã độc Android thu hút sự tham gia của cộng đồng nghiên cứu quốc tế qua các cuộc thi chuyên ngành (như ASE), hàng loạt công bố trên các hệ thống chỉ mục IEEE, ISI, cùng sự hình thành của các tập dữ liệu mở (AndMal, MalDroid, AndroZoo, MaMaDroid) và công cụ phân tích tĩnh/động (APKiD, Dagda).
• Tính ứng dụng: Cung cấp giải pháp bảo vệ dữ liệu người dùng trong các hoạt động kinh tế số, giao dịch tài chính, thanh toán trực tuyến và giáo dục.

Chương này cũng xác định rõ các thách thức về sự mất cân bằng dữ liệu, kỹ thuật che giấu quyền hạn của mã độc, và tóm lược 4 đóng góp trọng tâm của đề tài về mặt phương pháp luận và giải pháp thực nghiệm.

Chương 2: Cơ sở lý thuyết và các nghiên cứu liên quan

Chương 2 trình bày chi tiết nền tảng lý luận về phân tích tĩnh tệp AndroidManifest.xml và các thành phần cốt lõi của ứng dụng Android gồm: Hoạt động (Activity), Dịch vụ (Service), Máy thu phát sóng (BroadcastReceiver) và Nhà cung cấp nội dung (ContentProvider). Tác giả phân tích chi tiết:

• Phân loại cơ chế quyền hạn Android và phương pháp tạo bản đồ Perm-Maps nhằm duy trì khả năng nhận diện trước các công cụ làm rối mã nguồn.
• Bản chất của học cộng tác: Phân biệt các mô hình tập trung, phi tập trung và không đồng nhất (HeteroFL); đặc trưng học lặp (iterative rounds) và tính chất dữ liệu non-IID.
• Lý thuyết học bán giám sát an toàn (Safe SSL) với mô hình SAFEW, chứng minh bằng công thức toán học về tối ưu hóa sai số biên thông qua hàm mất mát bản lề và gói giải bài toán lồi CVXPY.
• Kiến trúc mạng nơ-ron tích chập (CNN), nguyên lý siêu phẳng phân cách lề cực đại của Support Vector Machine (SVM), và nguyên lý tập hợp rừng ngẫu nhiên (Random Forest) dựa trên thuyết "Trí tuệ đám đông" (The Wisdom of Crowds).

Chương 3: Phương pháp thực hiện

Chương 3 mô tả chi tiết quy trình xử lý dữ liệu thực nghiệm và thuật toán phát hiện mã độc qua ba giai đoạn:

1. Quy trình xử lý dữ liệu: Sử dụng androguard trích xuất danh sách quyền từ các mẫu APK thuộc 5 họ (Adware, Benign, Ransomware, SMSmalware, Scareware). Thực hiện chuẩn hóa tên quyền, áp dụng giải thuật Information Gain để chọn lọc đặc trưng có entropy phân loại cao nhất, và tổng hợp bảng dữ liệu nhị phân hoàn chỉnh.
2. Xây dựng mô hình phân loại: Cấu hình các bộ phân loại CNN (thiết lập lớp tích chập và pooling), SVM (khảo sát hàm nhân Poly và RBF) và Random Forest (thiết lập số lượng cây quyết định độc lập).
3. Thiết kế chu trình học cộng tác LiM: Trình bày chi tiết giao thức vận hành của Vòng 0 (Round 0) và Vòng 1 trở đi (Round 1+). Đám mây chỉ gửi mô hình cơ sở ở vòng đầu, các vòng sau tiến hành tổng hợp kép trọng số $\alpha$ từ các máy khách và trọng số của chính đám mây.
4. Triển khai kỹ thuật hệ thống: Từng bước thiết lập ứng dụng giao tiếp Socket, quản lý tiến trình bằng luồng phụ (Thread), huấn luyện mô hình thông qua PyGAD và đóng gói giao diện tương tác bằng Kivy.

Chương 4: Thực nghiệm và đánh giá kết quả

Chương 4 tập trung vào việc đo lường, phân tích hiệu năng và so sánh đối sánh:

• Đánh giá phân bố quyền hạn: Thống kê và vẽ biểu đồ tần suất xuất hiện quyền truy cập trên từng nhóm ứng dụng riêng biệt (Benign, Adware, SMSmalware, Ransomware, Scareware). Kết quả cho thấy các ứng dụng độc hại có xu hướng lạm dụng các quyền gửi SMS, đọc thông tin thiết bị (READ_PHONE_STATE), can thiệp cài đặt (WRITE_SETTINGS) và truy cập mạng vượt trội so với ứng dụng thông thường.
• So sánh các tập đặc trưng quyền: Khảo sát độ chính xác và thời gian thực thi của các mô hình trên các tập Top 20, Top 50 và Top 100 quyền truy cập của bộ dữ liệu AndMal2017 và MalDroid-2020.
• Vận hành hệ thống phân tán: Trình bày giao diện thực tế của Server App và Client App trong quá trình trao đổi dữ liệu, lắng nghe cổng và đồng bộ hóa trọng số mạng.
• Đánh giá cấu trúc học cộng tác LiM: Tiến hành thử nghiệm với quy mô 200 máy khách và 500 đặc trưng, sử dụng thuật toán KNN ($n=3$) làm bộ phân loại đường cơ sở.

Chương 5: Kết luận và hướng phát triển

Chương 5 đúc kết các phát hiện chính của khóa luận, khẳng định tính hiệu quả của giải pháp kết hợp giữa phân tích top quyền truy cập và học cộng tác bán giám sát LiM. Đồng thời, tác giả vạch ra các định hướng mở rộng nghiên cứu trong tương lai nhằm nâng cao độ chính xác và tính toàn diện của hệ thống.

Kết quả và đóng góp

Kết quả định lượng

Các kết quả đo lường thực nghiệm được ghi nhận chi tiết trong văn bản khóa luận:

• Hiệu năng giảm thiểu dương tính giả (False Positives - FP): Trong kịch bản thực nghiệm quy mô 200 máy khách với 500 đặc trưng, sử dụng mô hình K-lân cận (KNN với $n=3$) làm bộ phân loại đường cơ sở:
  • Bộ phân loại đường cơ sở ghi nhận 7 trường hợp dương tính giả.
  • Mô hình SAFEW độc lập (không áp dụng học cộng tác) giảm xuống còn 5 trường hợp dương tính giả.
  • Cấu trúc học cộng tác LiM (kết hợp FL và SAFEW) giảm số lượng dương tính giả xuống chỉ còn 3 trường hợp.
• Điểm F1 (F1-score): Kết quả đo lường cho thấy SAFEW cải thiện đáng kể điểm F1 so với mô hình đường cơ sở, và cấu trúc LiM tiếp tục đạt điểm F1 cao hơn mô hình SAFEW tập trung.
• Quy mô tập quyền truy cập tối ưu: Việc phân tích thực nghiệm trên hai bộ dữ liệu AndMal2017 và MalDroid-2020 cho thấy tập Top 50 quyền truy cập mang lại sự cân bằng tốt nhất giữa độ chính xác phân loại và thời gian tính toán so với việc mở rộng lên Top 100 quyền truy cập.

Mô hình kiểm nghiệm (200 Client, 500 tính năng)	Thuật toán nền tảng	Số lượng mẫu dương tính giả (False Positives)	Xu hướng F1-score
Mô hình đường cơ sở (Baseline)	KNN ($n = 3$)	7	Mức cơ sở
Mô hình SAFEW (Không có FL)	SAFEW tập trung	5	Cải thiện so với Baseline
Mô hình LiM đề xuất (Có FL)	SAFEW kết hợp FL	3	Đạt mức cao nhất (vượt trội hơn SAFEW)

Đóng góp của khóa luận

1. Đề xuất quy trình phân loại mã độc Android dựa trên tập đặc trưng tĩnh tinh gọn: Trích xuất và chọn lọc các tập quyền truy cập đặc trưng (Top 20, Top 50, Top 100) kết hợp ý tưởng ánh xạ tọa độ ma trận thưa Perm-Maps nhằm duy trì tính ổn định trước các kỹ thuật xáo trộn mã nguồn.
2. Ứng dụng thành công mô hình học cộng tác bán giám sát an toàn LiM: Giải quyết triệt để rào cản người dùng không thể tự gán nhãn ứng dụng trên thiết bị di động, đồng thời triệt tiêu nguy cơ rò rỉ dữ liệu cá nhân thông qua cơ chế chỉ truyền tải vector trọng số của bộ phân loại cơ sở thay vì toàn bộ mô hình nơ-ron sâu.
3. Hiện thực hóa hệ thống thực nghiệm phân tán hoàn chỉnh: Xây dựng ứng dụng Máy chủ và Máy khách đa luồng bằng Python Socket, tích hợp giải thuật di truyền PyGAD để tối ưu hóa nơ-ron và thiết kế giao diện đồ họa trực quan qua thư viện Kivy.

Hạn chế và hướng nghiên cứu tiếp

Khóa luận ghi nhận các hạn chế kỹ thuật và định hướng mở rộng:

• Hạn chế:
  • Phương pháp chỉ dựa vào quyền truy cập tĩnh có thể bị suy giảm hiệu quả nếu mã độc áp dụng kỹ thuật ngụy trang tinh vi, chỉ sử dụng đúng các quyền cơ bản của ứng dụng thông thường để tiến hành hành vi bất hợp pháp.
  • Thử nghiệm hệ thống học cộng tác LiM chủ yếu tập trung vào bài toán phân loại nhị phân (mã độc hoặc ứng dụng sạch), chưa đi sâu phân loại đa lớp chi tiết từng họ mã độc riêng biệt.
  • Quy mô thực nghiệm bị giới hạn bởi số lượng mẫu ứng dụng độc hại có sẵn trong các tập dữ liệu AndMal2017 và MalDroid-2020.
• Hướng nghiên cứu tiếp:
  • Mở rộng thử nghiệm trên các tập dữ liệu có quy mô lớn hơn ngay khi thu thập thêm các mẫu ứng dụng độc hại mới phát sinh.
  • Trích xuất bổ sung nhiều loại đặc trưng tĩnh và động khác từ gói APK (như lời gọi API, Intent, luồng điều khiển mã máy) kết hợp song song với danh mục quyền hạn.
  • Phát triển mô hình nhận diện chuyên sâu để phân loại chính xác các họ phần mềm độc hại phức tạp như Trojan, phần mềm đánh cắp thông tin (Infostealer).

Giá trị tham khảo

Khóa luận là tài liệu tham khảo hữu ích cho:

• Sinh viên, học viên và các kỹ sư thuộc chuyên ngành An toàn thông tin, Kỹ thuật mạng và Khoa học máy tính đang nghiên cứu các giải pháp bảo mật thiết bị di động Android bằng học máy.
• Các nhà nghiên cứu quan tâm đến lĩnh vực học máy bảo toàn quyền riêng tư (Privacy-preserving Machine Learning), đặc biệt là kỹ thuật học cộng tác bán giám sát (Semi-supervised Federated Learning) trên dữ liệu non-IID.
• Các phần đáng tham khảo: Quy trình trích xuất và tiền xử lý quyền hạn bằng thư viện androguard (Chương 3); cơ sở toán học và cơ chế tối ưu hóa lồi của mô hình SAFEW kết hợp kiến trúc LiM (Chương 2 và Chương 3); mã nguồn thiết kế ứng dụng phân tán đa luồng Client - Server sử dụng socket, PyGAD và giao diện Kivy (Chương 4).

Câu hỏi thường gặp

1. Khóa luận sử dụng những bộ dữ liệu nào để huấn luyện và đánh giá mô hình?

Khóa luận sử dụng các tập dữ liệu gồm bộ dữ liệu tham khảo Contagio community, bộ dữ liệu AndMal2017 (CICDataset) gồm các nhóm Adware, Benign, Ransomware, SMSmalware, Scareware, và bộ dữ liệu MalDroid-2020 (MalDroid-2022).

2. Bản đồ quyền truy cập (Perm-Maps) được xây dựng qua những bước nào?

Perm-Maps được xây dựng qua 4 bước: (1) Trích xuất danh sách quyền Android và mức độ bảo vệ tương ứng từ tệp kê khai bằng công cụ phân tích tĩnh; (2) Gán số nhận dạng duy nhất ($ID_p$) cho từng quyền; (3) Gán số nhận dạng duy nhất ($ID_s$) cho từng mức độ nghiêm trọng; (4) Khởi tạo ma trận thưa thớt biểu diễn các cặp tọa độ $(ID_p, ID_s)$ trên mặt phẳng hai chiều với thang màu sắc.

3. Tại sao cấu trúc LiM lại có khả năng chống lại các cuộc tấn công suy luận thành viên và tấn công đầu độc?

Trong cấu trúc LiM, các nút máy khách không chia sẻ dữ liệu thô và cũng không gửi các bản cập nhật gradient thưa thớt của toàn bộ mạng nơ-ron sâu. Thay vào đó, máy khách chỉ gửi vector trọng số $\alpha$ của các bộ phân loại cơ sở với kích thước rất nhỏ. Máy chủ đám mây tiến hành lấy trung bình hai lần giữa trọng số của các máy khách và trọng số nội bộ của đám mây, giúp ngăn ngừa đối thủ thao túng tham số toàn cục và bảo vệ thông tin nhận diện người dùng.

4. Kết quả thực nghiệm của cấu trúc LiM trên 200 máy khách ghi nhận số lượng dương tính giả là bao nhiêu?

Trên tập thử nghiệm 200 máy khách với 500 đặc trưng sử dụng bộ phân loại đường cơ sở KNN ($n=3$), cấu trúc LiM đã giảm số lượng mẫu dương tính giả xuống còn 3 trường hợp, vượt trội hơn so với mô hình SAFEW tập trung không có FL (5 trường hợp) và mô hình đường cơ sở (7 trường hợp).

5. Hệ thống học cộng tác mô phỏng trên thiết bị di động được lập trình bằng những công cụ nào?

Hệ thống được lập trình bằng ngôn ngữ Python, sử dụng module socket trên nền TCP/IP để truyền nhận dữ liệu, module threading để xử lý đa luồng đa kết nối, thư viện PyGAD để huấn luyện mạng nơ-ron bằng giải thuật di truyền, và framework Kivy để thiết kế giao diện đồ họa người dùng cho cả máy chủ (ServerApp) và máy khách (ClientApp).

Kết luận

Khóa luận tốt nghiệp của tác giả Phạm Khôi Nguyên đã nghiên cứu và triển khai thành công mô hình phát hiện mã độc Android dựa trên sự kết hợp giữa kỹ thuật trích xuất quyền truy cập tĩnh và kiến trúc học cộng tác bán giám sát an toàn LiM. Bằng việc tích hợp giải thuật tối ưu hóa SAFEW với cơ chế phân tán Client - Server, nghiên cứu giải quyết hiệu quả bài toán thiếu nhãn thực tế trên thiết bị người dùng, giảm thiểu số lượng dương tính giả xuống mức tối ưu và bảo toàn quyền riêng tư cho dữ liệu di động. Các kết quả thực nghiệm trên các bộ dữ liệu AndMal2017 và MalDroid đã chứng minh tính khả thi của giải pháp, tạo tiền đề khoa học cho việc phát triển các hệ thống phòng thủ mã độc phân tán trên nền tảng di động trong thực tiễn.

Trích đoạn nội dung tài liệu

Chương 1: Tổng quan về khóa luận. Chương 2: Cơ sở lý thuyết, các nghiên cứu liên quan và xu hướng nghiên cứu mới Chương 3: Trinh bày các phương pháp thực hiện dé giải quyết van dé. Chương 4: Trình bày kết quả thực nghiệm và đánh giá các phương pháp được chọn đề khảo sát. Chương 5: Nêu kết luận, định hướng nghiên cứu trong tương lai.

CHƯƠNG 2: CƠ SỞ LÝ THUYÉT VÀ CÁC NGHIÊN CỨU LIÊN QUAN Tại chương này trình bày các cơ sở lý thuyết, nghiên cứu liên quan, xu hướng nghiên cứu mới đối với van đề xây dựng hệ thống phát hiện mã độc Andoid bằng cách cấp quyền truy cập và học cộng tác được đề cập trong khóa luận. Tổng quan về cấp quyền truy cập và top quyền truy cập Khi một ứng dụng nào đó cần truy cập đến một tính năng đặc biệt trên thiết bị Android của bạn, nó dang hỏi hệ điều hành có cho phép sử dụng hay không, và quyên truy cập đó chính là Permission. Ví dụ, khi ứng dụng camera của bạn muốn đính kèm di liệu GPS vào ảnh, nó phải hỏi Android xem nó có được vào GPS dé định vị hay không. Tương tự, khi một ứng dụng tin nhắn muốn gửi SMS, nó phải liên hệ với Android dé xem có được quyên làm chuyện này không.

Permission không chỉ xuất hiện ở Android, nó cũng có mặt ở iOS và Windows 10 Mobile với lý do tương tự, cách hoạt động cũng tương tự. Mục dich của quyền truy cập là dé đảm bảo sự an toàn và quyền riêng tư cho người dùng. Điện thoại của chúng ta giờ là một "kho tàng" đữ liệu cá nhân trong đó nên việc bảo vệ như thế này là cần thiết. Trong điện thoại có đủ hết mọi loại dữ liệu nhạy cảm, từ tin nhắn, hình ảnh, video cho đến dữ liệu duyệt web hay tài khoản ngân hàng.

Thậm chí bộ định vị GPS, dữ liệu di động camera hay micro của smartphone cũng là thứ nhạy cảm vì nó có thé ghi lại hình ảnh của ban hay những gì bạn nói, cho người khác biết bạn đang ở đâu, bạn đang nói chuyện với ai, nội dung bạn nói là ` gì. Năm 2011 và 2013, đã từng có một sỐ ứng dụng và game xuất hiện ngay ở Việt Nam, chúng lợi dụng việc người dùng không chú ý đến quyền truy cập dé lay quyền gửi nhận SMS và liên tục nhắn tin đến một tổng đài nào đó dé thu lợi. Dang chú ý, việc gửi SMS này diễn ra hoàn toàn im lặng và bạn không hề hay biết, chỉ khi kiểm tra lại tài khoản mới thay bị thâm hụt đáng kể. Những ứng dụng dạng này đôi khi vẫn còn bị bắt gặp trên Play Store.

17:04 : al F 17:04 #9 CuocChienThayMa &$ Doraemon và thần thú Do you want to install this application? Do you want to install this application? Allow this application to Allow this application to e Storage e Storage Network communication Network communication Services that cost you money Services that cost you money System tools Hide Hide Network communication Network communication Hardware controls we work nection Cancel Install Cancel Hình 2.1: Game lợi dung người dùng dé lấy quyền truy cập Các quyên truy cập của Android có thê được phân loại thành ba quyên truy cập chính: quyên truy cập trong thời gian cài đặt, quyền truy cập trong thời gian chạy, và quyên truy cập đặc biệt. Quyên truy cập trong thời gian cài đặt cấp cho một ứng dụng quyên truy cập bị giới hạn vào dữ liệu bị hạn chế và do đó, chúng cho phép ứng dụng thực hiện các hành động bị hạn chế đến hệ thống hoặc những ứng dụng khác một cách ít ảnh hưởng nhất. Khi một nhà phát triển tuyên bố các quyền truy cập trong thời gian cài đặt, hệ thống sẽ tự động cấp quyền mà không cần thông báo cho người dùng cuối. Có hai loại quyền truy cập trong thời gian cài đặt tương ứng được gọi là quyền truy cập bình thường và quyền truy cập chữ ký: -Quyén truy cập bình thường cho phép truy cập vào dữ liệu và hành động gây rủi ro tối thiểu cho hệ thống hoặc sự riêng tư của người dùng cuối.

Chúng có thé được sử dụng hoặc xác định thông qua một giá tri của mức bảo vệ được cai đặt thành mức bình thường. -Quyền truy cập chữ ký xảy ra từ khi chúng được định nghĩa trong một ứng dụng Android khác, quyền truy cập chữ ký chỉ được cấp nếu ứng dụng yêu cau và khai báo được ky thông qua cùng một chứng chỉ. Ngoài ra, chúng có thể sử dụng hoặc xác định thông qua bộ giá tri của mức bảo vệ dé ký. Quyên truy cập thời gian chạy, còn được gọi là quyền truy cập nguy hiểm, cấp cho ứng dung 6 quyền truy cập bổ sung vào dữ liệu bằng cách cho phép nó thực hiện các hành động về cơ bản ảnh hưởng đến hệ thống và các ứng dụng khác.

Khi một ứng dung Android yêu cầu quyền truy cập trong thời gian chạy, hệ thống đưa ra lời nhắc và chờ đợi được cấp hay không bởi người dùng cuối. Quyền truy cập thời gian chạy có thể được sử dụng hoặc xác định thông qua giá trị mức bảo vệ được cài đặt thành mức nguy hiểm. Cuối cùng, các quyền truy cập đặc biệt chỉ có thể được xác định bởi các nhà sản xuất thiết bị gốc (OEM) dé cung cấp kiểm soát truy cập liên quan đến một số hành động tiêu tốn nhiều năng lượng, chăng hạn như quyền truy cập vào các ứng dụng khác. Chính xác hơn, chúng được liên kết chặt chẽ với một hoạt động ứng dung (app op) liên quan đến kiểm soát truy cập và chúng có thé được sử dụng hoặc xác định thông qua gia tri mức bảo vệ được đặt thành mức appop.

Top quyền truy cập hiểu đơn giản là các tập hợp con được chọn từ nhóm lớn quyền truy cập trên thiết bi Android. Dựa theo mức độ phô biến, mức độ hiệu quả về an toàn thông tin của quyền truy cập đó mà người ta đưa nó vào cùng nhóm. Tiếp theo chúng tôi sẽ tiếp cận các tính năng đặc biệt, được gọi là bản đồ quyền truy cập (Perm- Maps), kết hợp thông tin liên quan đến các quyền truy cập của Android và mức độ nghiêm trọng tương ứng của chúng. Bản đồ quyền truy cập Mặc dù hau hết các kỹ thuật được sử dụng trong tài liệu bao gồm cả phương pháp tiếp cận tĩnh và động, thì phương pháp tĩnh vẫn được mong muốn nhất vì nó có thé phân tích các ứng dụng mà không cần bắt buộc phải thực thi chúng.

Theo đó, chúng tôi đề xuất các tính năng mới, được gọi là Perm-Maps, có nguồn góc từ phân tích tĩnh phần mềm độc hại. Chính xác hơn, Perm-Maps là một ma trận thưa thớt nơi chứa các quyên truy cập của Android và các cấp độ mức độ nghiêm trọng tương ứng của chúng, được biéu diễn liên quan dưới dang các điểm cố định và được biéu diễn theo toạ độ x — y. Như được mô tả trong phần sau, Perm-Maps được đề xuất có thể giải quyết ba vấn đề chính: (i) Các nhà phát triển Android độc hại có thé xác định các quyền truy cập tùy chỉnh để thực hiện một số hoạt động bất hợp pháp, chăng hạn như đánh cắp dữ liệu hoặc khởi động các cuộc tấn công mạng [8]. Do đó, một nhà phát triển mã độc có thể xác định một số quyền ở mức độ nghiêm trọng thấp dé thực hiện một số hành động bat hợp pháp mà không thông báo cho người dùng cuối; (iii) Vi PermMaps đại diện cho các tinh năng tinh chỉ được trích xuất từ tệp kê khai, chúng không thé bị ảnh hưởng bởi các công cụ obfuscator nồi tiếng, như DexGuard [11], ProGuard [12] và Obfuscapk [13].1 Quy trình tạo Perm-Maps Việc tạo Perm-Map chủ yếu bao gồm bốn bước sau: Bước 1.

Trích xuất các quyền của Android và mức độ bảo vệ tương ứng. Gán số nhận dạng (IDp) cho bất kỳ quyền truy cập Android. Chỉ định một số nhận dang (ID) cho bat kỳ mức độ nghiêm trọng nao. Tạo Perm-Maps bằng cách sử dụng các cặp ID (IDp; ID) dưới dạng tọa độ của các điểm có định trong mặt phẳng x - y.

Bước đầu tiên được thực hiện băng cách sử dụng một SỐ công cụ hoặc thư viện dành cho việc phân tích tĩnh các phần mềm độc hại. Khác biệt về phương pháp tiếp cận có thể hình dung từ quá trình tạo từ điển của các quyền truy cập nồi tiếng của Android và sự bảo vệ của chúng bang cách tìm chúng từ tài liệu chính thức [31]. Ngoài ra, thẻ <permission> có thé được sử dụng dé được biết mức độ bảo vệ của các quyền truy cập tùy chỉnh. Đây là phương pháp tiếp cận được áp dụng bởi một số công cụ dịch ngược nồi tiếng nhất trong các công cụ kỹ thuật, như Androguard [32].

Chính xác hơn là đối với mỗi quyền truy cập được khai báo trong tệp Android Manifest, nó có thể có được mức bảo vệ tương ứng bằng cách kiểm tra xem quyên truy cập được xem xét có được biết đến hay không; nếu không thì nó chỉ định một mức độ bảo vệ nguy hiểm khác. Tiếp theo, bước thứ hai và thứ ba được thực hiện bằng cách tạo hai từ điển để chuyên đôi từng quyền truy cập của Android và từng mức độ nghiêm trọng tương ứng thành một số ID duy nhất. Cuối cùng, đối với mỗi ứng dụng được phân tích, bước thứ tư được tiễn hành bang cach xem xét mỗi cặp số ID (IDp; ID) dưới dạng tọa độ của một điểm cé định va do đó, lưu trữ thông tin đã chuyền đổi trong một ma trận thưa thớt. Ví dụ, để p1 và p2 là hai quyền truy cập Android và cho phép s3 và s2 tương ứng với mức độ bảo mật của chúng.

Chúng tôi có thé coi hai cặp tọa độ C1= (p1, s3) và C2= (p2, s2) và vẽ hai điểm theo mặt phang toa độ x — y. trong đó trục x và y báo cáo quyền va mức độ nghiêm trọng tương ứng. Tuy nhiên, vì mức độ bảo mật giữa chúng có thé khác 8 nhau, cho nên chúng tôi có thé sử dụng thang màu (như RGB hoặc thang xám) dé nhận xét những sự khác biệt. Hình 2 cho thấy toàn bộ quy trình làm việc dé có được một Perm-Map.

Textual Information ['android.RNRITE SETTINGS', "dangerous", "android.SEND SMS', 'dangerous', "¿ d.CALL_PHONE*, 'dangercus", ‘android.EXPAND_STATUS_BAR’, d.WRITE_SETTINGS', "dangerous", "android.SEND SMS", 'dangerous', 'e ['android.SET_NALLPAPER', 'normal', ‘android.READ_PHONE_STATE", "dàangerou3s" Dictionaries Creation Permission ID ID [wam stmws| 0° | Information | dergerous [0] CALL PHONE 1 ñ 1 SET_WALLPAPER 2 Mapping 2 Perm-Maps Creation 4 8 C1 = (p1,s3) = (1,3).2: Quy trinh tao Perm-Maps Tiép theo chúng tôi sẽ tìm hiéu vê khái niệm học cộng tác và các khái niệm, van dé liên quan.