Tổng quan nghiên cứu

Sự bùng nổ của công nghệ thông tin và mạng Internet toàn cầu đã kéo theo sự gia tăng chóng mặt của các cuộc tấn công mạng, trong đó mã độc (malware) là mối đe dọa hàng đầu. Theo các báo cáo an toàn thông tin, mỗi ngày có hàng nghìn mẫu mã độc mới xuất hiện với mức độ tinh vi ngày càng phức tạp. Các loại mã độc nguy hiểm như virus, sâu máy tính (worm), trojan horse, rootkit và logic bomb có thể phá hủy dữ liệu, đánh cắp thông tin tài chính qua giao thức mạng, hoặc làm tê liệt toàn bộ hệ thống máy chủ chỉ trong vài phút.

Vấn đề nghiên cứu cốt lõi được đặt ra là sự suy giảm hiệu quả nghiêm trọng của các phương pháp phát hiện dựa trên chữ ký tĩnh truyền thống. Khi các tác giả mã độc áp dụng kỹ thuật gây rối và mã hóa, chữ ký tĩnh hoàn toàn bị vô hiệu hóa, đồng thời quy trình tạo chữ ký mới thường mất ít nhất 3 giờ phân tích thủ công. Trước thực trạng đó, luận văn tập trung vào mục tiêu nghiên cứu tổng thể cơ chế hoạt động của mã độc, khảo sát sâu hành vi tự sao chép trên hệ điều hành Windows 7 (cả phiên bản 32-bit và 64-bit), từ đó xây dựng giải pháp và chương trình mô phỏng phát hiện, cảnh báo và ngăn chặn mã độc dựa trên phân tích hành vi thời gian thực.

Nghiên cứu được triển khai trong phạm vi môi trường hệ điều hành Windows 7 tại Trường Đại học Công nghệ – Đại học Quốc gia Hà Nội vào năm 2014. Đóng góp của luận văn mang ý nghĩa thực tiễn to lớn khi cung cấp một cơ chế bảo mật chủ động, giúp giảm thiểu tỷ lệ dương tính giả xuống mức 0% trên các chương trình hệ thống chuẩn, đồng thời ngăn chặn kịp thời các mối đe dọa zero-day chưa từng được định nghĩa trong cơ sở dữ liệu chữ ký.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn xây dựng nền tảng dựa trên hai khung lý thuyết nhận dạng an toàn thông tin chính: mô hình phát hiện mã độc theo chữ ký và mô hình phát hiện dựa trên phân tích hành vi. Trong phương pháp chữ ký, hệ thống đối soát chuỗi byte nhị phân đặc trưng của tập tin thực thi chuẩn PE (Portable Executable) với cơ sở dữ liệu mẫu độc hại đã biết. Ngược lại, lý thuyết phát hiện theo hành vi tiếp cận bản chất động của chương trình thông qua việc quan sát chuỗi lời gọi hàm hệ thống (API calls) và xây dựng đồ thị luồng điều khiển (Control Flow Graph - CFG) cùng đồ thị luồng dữ liệu (Data Flow Graph - DFG).

Khung lý thuyết của luận văn bao hàm 4 khái niệm chuyên ngành cốt lõi:

  1. Mã độc (Malware): Chương trình được chèn bí mật vào hệ thống nhằm phá vỡ tính bí mật, tính toàn vẹn hoặc tính sẵn sàng của tài nguyên máy tính.
  2. Hành vi tự sao chép: Thao tác đọc chính tập tin thực thi của mã độc và ghi nội dung đó sang các vị trí thư mục hệ thống hoặc tập tin khác nhằm duy trì sự tồn tại và phát tán.
  3. Đánh chặn hàm API (API Hooking): Kỹ thuật can thiệp vào bảng dịch vụ hệ thống (System Service Dispatch Table - SSDT) hoặc các thư viện liên kết động (DLL) để giám sát các thao tác I/O.
  4. Kỹ thuật gây rối mã lệnh (Code Obfuscation): Các phương pháp biến đổi cấu trúc mã nguồn như chèn lệnh rác NOP, hoán vị mã lệnh, đóng gói (packing) nhằm thay đổi hình thức bên ngoài nhưng giữ nguyên mục đích gây hại.

Phương pháp nghiên cứu

Nguồn dữ liệu nghiên cứu bao gồm tập dữ liệu chuẩn gồm hơn 100 tập tin hệ thống lành tính của Windows 7, hàng chục phần mềm ứng dụng thông dụng và tập mẫu mã độc thực tế được thu thập từ các hệ thống giám sát honeypot và các kho lưu trữ bảo mật quốc tế.

Phương pháp chọn mẫu là chọn mẫu phân tầng có chủ đích, chia thành ba nhóm rõ rệt: nhóm tập tin thực thi của hệ điều hành (như explorer.exe, cmd.exe, notepad.exe), nhóm ứng dụng thương mại phổ biến (như Microsoft Office, WinRAR, Unikey) và nhóm mã độc đang hoạt động thuộc các dòng nguy hiểm (như W32, Stoned, Conficker, Carberp).

Phương pháp phân tích kết hợp phân tích tĩnh và giám sát động thời gian thực. Tác giả lựa chọn phương pháp đánh chặn các hàm API quan trọng liên quan đến quá trình đọc/ghi tập tin và khởi tạo tiến trình (CreateProcess, CreateFile, ReadFile, WriteFile). Lý do lựa chọn phương pháp này vì mọi loại mã độc muốn thực hiện hành vi tự sao chép đều bắt buộc phải tương tác với nhân hệ điều hành qua các hàm API này, do đó việc giám sát tầng API mang lại độ chính xác cao và tránh được sự đánh lừa của các kỹ thuật nén hay mã hóa vỏ bọc. Toàn bộ quá trình nghiên cứu và thực nghiệm được tiến hành liên tục trong 12 tháng từ năm 2013 đến năm 2014.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình phân tích thực nghiệm và tổng hợp dữ liệu đã mang lại 4 phát hiện quan trọng:

  1. Kỹ thuật đóng gói (packing) chiếm tỷ lệ áp đảo trong các biến thể mã độc: Khảo sát thực tế cho thấy hơn 80% các mẫu mã độc xuất hiện trên không gian mạng sử dụng các kỹ thuật nén và đóng gói mã nguồn. Đáng chú ý, hơn 50% trong số các mẫu mã độc mới chỉ là việc đóng gói lại các đoạn mã độc cũ bằng các công cụ như UPX, ASPack, FSG hay Themida nhằm thay đổi chữ ký tĩnh.

  2. Khả năng sinh biến thể khổng lồ từ kỹ thuật hoán vị mã lệnh: Nghiên cứu chỉ ra rằng một mã độc chỉ với 10 chương trình con độc lập khi áp dụng kỹ thuật hoán vị ngẫu nhiên (như dòng Win32/Ghost) có thể tạo ra 10! tương đương 3.628.800 biến thể khác nhau về mặt hình thức nhị phân, làm tê liệt hoàn toàn các hệ thống quét chữ ký truyền thống.

  3. Tỷ lệ nhận diện vượt trội của hệ thống mô phỏng BMD: Khi thử nghiệm trên các biến thể mã độc được làm rối và các mẫu mã độc mới xuất hiện (cập nhật ngày 04/06/2014), chương trình mô phỏng BMD (Behavior Malware Detector) đã phát hiện chính xác 100% các mẫu có hành vi tự nhân bản mà không cần cập nhật bất kỳ tập mẫu chữ ký nào trước đó.

  4. Độ tin cậy tuyệt đối trên tập phần mềm lành tính: Kết quả thử nghiệm trên toàn bộ các tập tin thực thi gốc của Windows 7 và các phần mềm ứng dụng thông dụng cho thấy BMD đạt tỷ lệ nhận diện nhầm (dương tính giả) là 0%, đảm bảo hệ điều hành hoạt động hoàn toàn ổn định.

Thảo luận kết quả

Nguyên nhân cốt lõi giúp phương pháp phát hiện theo hành vi tự sao chép vượt trội hơn so với phương pháp chữ ký truyền thống nằm ở tính bất biến của hành vi. Dù mã độc có sử dụng kỹ thuật gây rối đa hình, siêu đa hình hay mã hóa phức tạp như Shifting Decode Frame, khi được nạp vào bộ nhớ và thực thi, nó bắt buộc phải tự đọc nội dung của chính nó và ghi ra một tập tin mới trên đĩa cứng để lây lan hoặc thiết lập cơ chế khởi động cùng hệ thống.

Kết quả dữ liệu nghiên cứu được biểu diễn trực quan qua hệ thống bảng thống kê và sơ đồ luồng:

  • Bảng 3.1 và Bảng 3.2 tổng hợp chi tiết ma trận tương quan giữa các thao tác gọi hàm CreateFile với các cờ GENERIC_READ và GENERIC_WRITE trên tiến trình gốc và tiến trình đích.
  • Sơ đồ Hình 3.5, 3.6 và 3.7 minh họa trực quan luồng dữ liệu bị đánh chặn tại tầng SSDT, cho thấy sự khác biệt rõ rệt giữa tiến trình sao chép tệp thông thường của người dùng (tương tác qua hai tiến trình riêng biệt) và hành vi tự sao chép lén lút của mã độc (tiến trình tự mở chính nó để sao chép).
  • Biểu đồ Hình 2.4 và các Bảng thử nghiệm 3.5 đến 3.8 phản ánh sự tương phản mạnh mẽ: trong khi quét chữ ký tĩnh bỏ lọt hoàn toàn các biến thể mới của ngày 04/06/2014, chương trình BMD dựa trên cây quyết định hành vi đã chặn đứng mã độc ngay tại thời điểm hàm ghi tệp chuẩn bị hoàn tất.

So với các nghiên cứu trước đây vốn chỉ tập trung vào việc tạo đồ thị CFG tĩnh tốn nhiều tài nguyên hoặc chạy trên môi trường máy ảo sandbox dễ bị mã độc phát hiện và lẩn tránh (như các kỹ thuật anti-sandbox của Win32/Carberp hay anti-VMware), phương pháp của luận văn can thiệp trực tiếp ở mức hệ điều hành thời gian thực, mang lại thời gian đáp ứng cực nhanh dưới 5 mili-giây cho mỗi thao tác kiểm tra.

Đề xuất và khuyến nghị

Dựa trên các kết quả thực nghiệm đạt được, luận văn đưa ra 4 khuyến nghị và giải pháp hành động cụ thể:

  1. Tích hợp module giám sát hành vi thời gian thực vào các giải pháp Endpoint Security: Các doanh nghiệp phát triển phần mềm an ninh mạng cần triển khai cơ chế đánh chặn API đa tầng (tập trung vào CreateProcess, CreateFile, WriteFile) để kiểm soát các tiến trình tự nhân bản, mục tiêu đạt tỷ lệ phát hiện mã độc zero-day trên 95% với độ trễ xử lý dưới 5ms, thời gian áp dụng trong vòng 6 tháng tới.

  2. Chuẩn hóa quy trình kiểm định an toàn thông tin tại các cơ quan, tổ chức: Đội ngũ quản trị mạng và chuyên viên an toàn thông tin tại các doanh nghiệp cần thiết lập chính sách định kỳ quét và kiểm soát quyền ghi tập tin vào các thư mục hệ thống như System32 hay AppData, giảm thiểu 70% nguy cơ lây nhiễm mã độc qua USB hoặc email đính kèm trong lộ trình 3 đến 6 tháng.

  3. Nâng cấp hệ thống phân tích mã độc kết hợp Hybrid (Tĩnh - Động): Các trung tâm điều hành an ninh mạng (SOC) cần áp dụng mô hình phân tích phối hợp, sử dụng quét tĩnh để lọc nhanh 60% các mẫu đã biết và đẩy 40% các mẫu nghi ngờ chưa có chữ ký vào môi trường phân tích hành vi chuyên sâu để trích xuất đồ thị Malspec tự động.

  4. Xây dựng chương trình đào tạo và nâng cao năng lực ứng cứu sự cố: Các viện nghiên cứu và trường đại học chuyên ngành công nghệ thông tin cần đưa các nội dung kỹ thuật phân tích mã độc mức nhân (Kernel-level) và phân tích hành vi vào chương trình đào tạo kỹ sư an toàn thông tin, triển khai thực hiện ngay trong năm học tới nhằm đáp ứng nhu cầu nhân lực chất lượng cao.

Đối tượng nên tham khảo luận văn

  1. Kỹ sư an toàn thông tin và chuyên viên phân tích mã độc (SOC Analysts): Tài liệu cung cấp góc nhìn chuyên sâu về các kỹ thuật lẩn tránh, gây rối mã lệnh (obfuscation, packing, register reassignment) và cơ chế dịch ngược, giúp nâng cao kỹ năng bóc tách các mẫu mã độc phức tạp trong các sự cố an ninh thực tế.

  2. Lập trình viên phát triển phần mềm bảo mật (Antivirus Developers): Tham khảo chi tiết kiến trúc của chương trình mô phỏng BMD, cách thức thiết lập hooking API mức hệ thống và thuật toán kiểm tra tính hợp lệ của tiến trình, giúp tối ưu hóa hiệu năng và độ chính xác của các engine diệt virus thế hệ mới.

  3. Quản trị viên hệ thống mạng doanh nghiệp (Network & System Administrators): Hiểu rõ các con đường lây nhiễm nguy hiểm của sâu máy tính, trojan và rootkit qua cổng USB, email hoặc mạng nội bộ, từ đó xây dựng các chính sách Group Policy (GPO) và phân quyền hệ thống chặt chẽ nhằm triệt tiêu môi trường tự sao chép của mã độc.

  4. Học viên cao học và nghiên cứu sinh ngành An toàn thông tin / Công nghệ thông tin: Bản luận văn là nguồn tài liệu học thuật giá trị về phương pháp luận nghiên cứu, kỹ thuật xây dựng đồ thị điều khiển luồng CFG, đồ thị luồng dữ liệu DFG và phương pháp kiểm tra hình thức trong lĩnh vực phòng chống phần mềm độc hại.

Câu hỏi thường gặp

  1. Tại sao phương pháp nhận dạng mã độc theo chữ ký truyền thống lại dần mất đi ưu thế? Phương pháp chữ ký tĩnh chỉ nhận dạng được các mẫu mã độc đã được phân tích và trích xuất chuỗi byte từ trước, mất trung bình hơn 3 giờ xử lý. Hiện nay hơn 80% mã độc sử dụng kỹ thuật đóng gói và hoán vị lệnh, tạo ra hàng triệu biến thể có mã nhị phân khác nhau nhưng hành vi không đổi, khiến chữ ký tĩnh hoàn toàn bất lực.

  2. Hành vi tự sao chép của mã độc khác gì so với hành vi sao chép tập tin thông thường của người dùng? Người dùng sao chép tập tin thông qua trình quản lý (như Windows Explorer) với hai tiến trình riêng biệt và có sự xác nhận qua giao diện. Ngược lại, mã độc thực hiện hành vi tự sao chép bằng cách cho chính tiến trình của nó đọc tập tin thực thi gốc và ghi đè lén lút vào các thư mục hệ thống mà không có sự tương tác của người dùng.

  3. Chương trình mô phỏng BMD có gây suy giảm hiệu năng của hệ điều hành không? Hệ thống BMD chỉ tập trung đánh chặn một nhóm hữu hạn các hàm API trọng yếu liên quan đến chuỗi hành vi khởi tạo và ghi đĩa thay vì toàn bộ API hệ thống. Nhờ đó, thời gian trễ cho mỗi lời gọi hàm chỉ dưới 5 mili-giây, hoàn toàn không gây ảnh hưởng đến trải nghiệm người dùng và tài nguyên CPU.

  4. Kỹ thuật gây rối Shifting Decode Frame hoạt động như thế nào để qua mặt phần mềm bảo mật? Thay vì giải mã toàn bộ chương trình vào bộ nhớ như kỹ thuật đóng gói truyền thống, Shifting Decode Frame chỉ giải mã từng đoạn mã lệnh cục bộ ngay trước khi thực thi và lập tức mã hóa lại đoạn mã đó sau khi chạy xong. Kỹ thuật này ngăn chặn các phần mềm diệt virus đọc toàn bộ nội dung mã độc trên RAM.

  5. Giải pháp phát hiện dựa trên hành vi trong luận văn có khả năng chống lại các cuộc tấn công Zero-day không? Có. Do hệ thống không phụ thuộc vào chuỗi nhận dạng nhị phân hay lịch sử tấn công đã biết mà tập trung giám sát quy tắc logic của hành vi tự nhân bản thời gian thực, bất kỳ mẫu mã độc zero-day nào cố gắng sao chép chính nó vào hệ thống đều bị chặn đứng và cô lập ngay lập tức.

Kết luận

  • Luận văn đã phân tích toàn diện bức tranh an ninh mã độc, làm rõ các hạn chế cốt tử của phương pháp quét chữ ký tĩnh và vạch trần các kỹ thuật gây rối tinh vi như đóng gói, hoán vị mã và chống máy ảo.
  • Đề xuất và hiện thực hóa thành công phương pháp phát hiện mã độc dựa trên phân tích hành vi tự sao chép, tập trung đánh chặn luồng tương tác API hệ thống trên Windows 7.
  • Xây dựng chương trình thử nghiệm BMD đạt hiệu quả phát hiện 100% trên các biến thể mã độc mới và đạt tỷ lệ dương tính giả 0% trên các chương trình hệ thống chuẩn.
  • Đóng góp giải pháp khoa học mang tính ứng dụng thực tiễn cao, hỗ trợ đắc lực cho các nhà phát triển phần mềm bảo mật và chuyên gia an toàn thông tin trong việc xây dựng hệ thống phòng thủ chủ động.
  • Hướng phát triển tiếp theo trong 12 tháng tới là mở rộng mô hình giám sát sang các dòng hệ điều hành Windows 10, Windows 11 và môi trường phân tán trên nền tảng điện toán đám mây.

Quý độc giả, chuyên gia và học viên quan tâm có thể tiếp cận toàn văn công trình nghiên cứu để ứng dụng mô hình BMD vào thực tiễn bảo mật hệ thống thông tin của đơn vị mình.