Tổng quan nghiên cứu

Theo báo cáo an ninh mạng toàn cầu từ Statista, tổng số cuộc tấn công bằng phần mềm độc hại trong năm 2023 đã chạm mốc 6,06 tỷ lượt, ghi nhận mức tăng trưởng 10% so với năm 2022. Trong đó, ngành công nghiệp sản xuất gánh chịu thiệt hại nặng nề nhất khi chiếm 24,8% tổng số vụ tấn công, tiếp theo là khối tài chính - bảo hiểm với 18% và các dịch vụ chuyên nghiệp chiếm 15,4%. Thực trạng này đặt ra yêu cầu cấp thiết về các giải pháp giám sát an ninh mạng tự động và chuẩn xác.

Vấn đề cốt lõi của các giải pháp diệt virus truyền thống nằm ở việc phụ thuộc vào kỹ thuật nhận diện chữ ký (signature-based detection). Phương pháp này dễ dàng bị vô hiệu hóa trước các kỹ thuật làm rối mã tinh vi như chèn mã chết (dead code insertion), gán lại thanh ghi (register reassignment), thay thế chỉ lệnh (instruction substitution) hay thao tác biến đổi cấu trúc mã nguồn. Trong khi đó, phân tích heuristic thường tạo ra tỷ lệ cảnh báo dương tính giả cao, gây quá tải cho các chuyên viên vận hành an ninh.

Mục tiêu trọng tâm của nghiên cứu là xây dựng mô hình phân tích tĩnh mã độc dựa trên kỹ thuật xử lý ngôn ngữ tự nhiên kết hợp học máy, sau đó tích hợp toàn diện vào hệ thống quản lý sự kiện và an toàn thông tin (SIEM) mã nguồn mở. Đề tài tập trung vào các tệp tin thực thi Portable Executable (PE) trên nền tảng hệ điều hành Windows, được thực hiện trong giai đoạn 2023–2024 tại Trường Đại học Công nghệ Thông tin, Đại học Quốc gia Thành phố Hồ Chí Minh. Nghiên cứu mang lại ý nghĩa thực tiễn lớn khi cung cấp một cơ chế nhận diện mã độc có độ chính xác vượt trội, giảm thiểu hơn 40% khối lượng xử lý thủ công cho trung tâm điều hành an ninh mạng (SOC) và tối ưu hóa thời gian phản hồi sự cố xuống dưới 250 mili-giây.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng trên sự giao thoa giữa hai nền tảng lý thuyết: Xử lý ngôn ngữ tự nhiên (NLP) và Học máy phân loại (Machine Learning), kết hợp với kiến trúc giám sát SIEM phân tán.

Khái niệm trung tâm của đề tài là trừu tượng hóa các chuỗi chỉ lệnh thực thi (opcode sequences) trong phân vùng mã lệnh (.text section) của tệp PE tương đương với cấu trúc câu văn trong ngôn ngữ tự nhiên. Mỗi lệnh opcode đóng vai trò như một từ vựng ngữ nghĩa biểu thị hành vi máy tính.

Mô hình Markov Ẩn (Hidden Markov Model - HMM) được áp dụng như một kỹ thuật NLP xác suất gồm bộ ba tham số $\lambda = (A, B, \pi)$, trong đó $A$ là ma trận xác suất chuyển đổi trạng thái ẩn, $B$ là ma trận xác suất phát xạ trạng thái quan sát và $\pi$ là vector xác suất khởi tạo. Ba thuật toán nền tảng của HMM được vận dụng triệt để:

  • Thuật toán Baum-Welch (phương pháp lặp Kì vọng - Cực đại EM) dùng để ước lượng và huấn luyện các tham số tối ưu từ chuỗi opcode;
  • Thuật toán Viterbi dùng để giải mã chuỗi trạng thái ẩn có xác suất xuất hiện cao nhất từ các quan sát thực tế;
  • Thuật toán Forward-Backward phục vụ tính toán xác suất phân phối của toàn bộ chuỗi quan sát.

Ở tầng phân loại, thuật toán Rừng ngẫu nhiên (Random Forest - RF) kết hợp tập hợp nhiều cây quyết định (Decision Trees) độc lập nhằm tăng tính khái quát hóa và độ ổn định. Mô hình học máy sử dụng chỉ số tạp chất Gini (Gini Impurity) và hàm mất mát Entropy để phân nhánh cây, kết hợp cơ chế kiểm soát ngoại lệ linh hoạt trước các đặc trưng phi tuyến tính do HMM sinh ra. Cuối cùng, nền tảng ELK Stack (Elasticsearch, Kibana) được vận dụng làm khung SIEM xử lý dữ liệu lớn, vận hành cơ chế lập chỉ mục đảo (inverted index) và lưu trữ cây BKD để tối ưu hóa truy vấn an ninh đa chiều.

Phương pháp nghiên cứu

Nghiên cứu sử dụng tập dữ liệu chuẩn hóa Malware Detection PE-Based Analysis với quy mô 9.970 mẫu tệp thực thi, bao gồm 8.970 mẫu mã độc chia thành 5 họ nguy hiểm (Locker, Mediyes, Winwebsec, Zbot, Zeroaccess) và 1.000 tệp tin lành tính vô hại (benign). Phương pháp chọn mẫu áp dụng phân tầng theo tỷ lệ phân bố thực tế của các dòng mã độc để đảm bảo tính đại diện khách quan.

Quy trình tiền xử lý thực hiện giải mã tĩnh phân vùng thực thi của tệp PE thông qua IDA Pro và Capstone Engine nhằm trích xuất chuỗi opcode. Từ 490 loại chỉ lệnh thô ban đầu, thuật toán tiến hành loại bỏ các opcode xuất hiện dưới 5 lần để cô đọng bộ từ điển xuống còn $M = 361$ đặc trưng chỉ lệnh duy nhất (trong đó chỉ lệnh MOV chiếm tần suất cao nhất).

Mỗi chuỗi opcode trung bình có độ dài khoảng 600.000 phần tử được đưa qua 6 mô hình HMM tương ứng với từng nhãn để trích xuất chuỗi trạng thái ẩn có độ dài $L \in {10, 20, 50, 100}$, sau đó ghép nối thành vector đặc trưng có kích thước $6 \times L$ làm đầu vào cho mô hình Random Forest. Quá trình tối ưu hóa siêu tham số (Grid Search) được thực hiện với số lượng cây phân lớp $n_estimators \in {1, 10, 100, 150}$.

Toàn bộ quá trình thử nghiệm được tiến hành trên môi trường phần cứng máy tính trang bị CPU Intel Core i5-9300H (4 nhân, 8 luồng, xung nhịp 2,4 GHz), 12GB RAM DDR4 2666MHz và GPU Nvidia GTX 1650 4GB VRAM, hoàn tất trong mốc thời gian 6 tháng nghiên cứu chuyên sâu.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Mô hình kết hợp HMM-RF chứng minh hiệu năng vượt trội so với các phương pháp phân loại đơn lẻ truyền thống trên tập kiểm thử:

Thứ nhất, việc sử dụng các trạng thái ẩn (hidden states) của mô hình HMM làm vector đặc trưng đầu vào giúp tăng độ chính xác tổng thể (Accuracy) lên mức 98,5%, đồng thời cải thiện chỉ số F1-Score đạt 0,982 trên toàn bộ 5 họ mã độc. So với việc nạp chuỗi opcode thô trực tiếp vào Random Forest, việc đưa qua tầng lọc ngữ nghĩa HMM giúp tăng tỷ lệ phát hiện chính xác lên 8,7%.

Thứ hai, kết quả tìm kiếm lưới (Grid Search) xác định cấu hình tối ưu của mô hình là $n_estimators = 100$, độ dài chuỗi trạng thái ẩn $L = 50$ và tiêu chuẩn phân nhánh Gini. Cấu hình này giúp giảm thiểu tỷ lệ dương tính giả (False Positive Rate) xuống dưới mức 1,2% đối với các tệp tin lành tính, đồng thời duy trì độ phủ (Recall) đạt 98,7% đối với họ mã độc Zeroaccess và 98,1% đối với dòng mã độc tống tiền Locker.

Thứ ba, việc tích hợp khối phân loại Python vào hệ thống ELK Stack thông qua chuẩn REST-based API Key giúp tự động hóa 100% luồng giám sát. Thời gian trích xuất đặc trưng và đưa ra cảnh báo phân loại trung bình chỉ mất từ 180 đến 240 mili-giây cho mỗi tệp tin PE có dung lượng dưới 10MB.

Thảo luận kết quả

Hiệu quả đột phá của mô hình bắt nguồn từ khả năng nắm bắt quy luật ngữ cảnh của thuật toán HMM. Khác với các mô hình so khớp tĩnh chỉ kiểm tra sự tồn tại của từng chuỗi byte đơn lẻ, HMM mô hình hóa xác suất chuyển đổi giữa các trạng thái ẩn của chuỗi lệnh máy. Khi kẻ tấn công áp dụng kỹ thuật làm rối mã như chèn chỉ lệnh rác (NOP, dead code) hoặc thay đổi thứ tự thanh ghi, cấu trúc ngữ nghĩa tổng thể của hàm thực thi vẫn được phản ánh chuẩn xác qua chuỗi trạng thái ẩn sinh ra từ thuật toán Viterbi.

Khi so sánh với các nghiên cứu tương đồng, mô hình HMM-RF trong luận văn thể hiện sự cân bằng lý tưởng giữa hiệu năng và chi phí tính toán. Cụ thể, mô hình đạt độ chính xác 98,5%, tương đương với kết quả của nghiên cứu M-CNN thực hiện bởi Kalash (đạt 98,52% trên tập dữ liệu MalImg) và nghiên cứu Word Embedding - LSTM của Renjie Lu (đạt AUC 0,987). Tuy nhiên, mô hình HMM-RF có kích thước bộ nhớ gọn nhẹ hơn 65% so với kiến trúc mạng nơ-ron sâu đa tầng, không đòi hỏi phần cứng GPU chuyên dụng khi triển khai thực tế, và thời gian huấn luyện nhanh hơn gấp 4 lần.

Dữ liệu đánh giá có thể được biểu diễn trực quan thông qua ma trận nhầm lẫn (Confusion Matrix) chuẩn hóa, cho thấy sự tách biệt rõ ràng giữa các cụm phân loại với tỷ lệ phân loại sai giữa các họ mã độc tương đồng (như Zbot và Winwebsec) chỉ dao động ở mức dưới 1,5%. Trên bảng điều khiển Kibana Dashboard, các chỉ số an ninh được trực quan hóa qua biểu đồ tròn thể hiện phân bố họ mã độc, biểu đồ đường ghi nhận lưu lượng tệp quét theo thời gian thực và biểu đồ nhiệt phản ánh mức độ nguy hại của từng tiến trình đang chạy trong mạng nội bộ.

Đề xuất và khuyến nghị

Nhằm chuyển giao kết quả nghiên cứu vào thực tế vận hành an ninh thông tin, bốn nhóm giải pháp chiến lược được đề xuất:

  • Triển khai mô hình lai HMM-RF vào tầng tiếp nhận của trung tâm giám sát an ninh mạng (SOC): Tích hợp trực tiếp khối phân tích vào luồng kiểm soát tệp tin của tường lửa thế hệ mới (NGFW) và hệ thống phát hiện xâm nhập (IDS), hướng tới mục tiêu rút ngắn thời gian phân loại xuống dưới 200 mili-giây/tệp và đạt tỷ lệ phát hiện mã độc zero-day trên 98%, thực hiện bởi đội ngũ Kỹ sư SecOps trong vòng 3 đến 6 tháng.
  • Tự động hóa đường ống tiền xử lý và chuẩn hóa opcode: Xây dựng module trích xuất phân vùng thực thi (.text section) phân tán bằng ngôn ngữ C++/Rust để tối ưu hóa bộ từ điển từ 490 xuống 361 opcode chuẩn, cắt giảm 35% tài nguyên CPU và bộ nhớ trong quá trình giải mã tĩnh, do Kỹ sư Phát triển Công cụ Bảo mật đảm nhiệm trong lộ trình 3 tháng.
  • Thiết lập cơ chế bảo mật đa tầng TLS/SSL và xác thực phân quyền RBAC trên cụm Elasticsearch: Áp dụng mã hóa kênh truyền đạt chuẩn TLS 1.3, sử dụng chứng chỉ số nội bộ (CA) và cấu hình khóa API chuyên dụng kết hợp xác thực hai yếu tố (2FA) thông qua X-Pack, đảm bảo 100% tính toàn vẹn và bảo mật dữ liệu giám sát, hoàn thành bởi Quản trị viên hệ thống trong vòng 30 ngày.
  • Thiết lập quy trình tái huấn luyện mô hình định kỳ (Continuous Learning Pipeline): Bổ sung tối thiểu 5.000 mẫu mã độc PE mới mỗi quý vào kho dữ liệu huấn luyện, tự động cập nhật lại các ma trận tham số HMM và cây quyết định RF nhằm duy trì chỉ số F1-Score luôn đạt trên 98,5%, thực hiện bởi Đội ngũ Nghiên cứu Mối đe dọa (Threat Intelligence) theo chu kỳ 90 ngày một lần.

Đối tượng nên tham khảo luận văn

Nội dung luận văn mang lại giá trị học thuật và ứng dụng thực tiễn cao cho bốn nhóm đối tượng chuyên môn:

  • Chuyên viên phân tích mã độc (Malware Analysts) và Kỹ sư SOC: Nắm vững phương pháp trích xuất đặc trưng opcode và vận dụng mô hình HMM-RF để xây dựng bộ lọc mã độc tĩnh tự động, giúp giảm thiểu 40% khối lượng cảnh báo giả trong ca trực giám sát an ninh.
  • Các nhà nghiên cứu và kỹ sư Học máy trong An toàn thông tin: Tham khảo quy trình mô hình hóa dữ liệu tuần tự bằng các thuật toán NLP cổ điển (HMM, Baum-Welch, Viterbi) kết hợp cùng Random Forest, làm tiền đề để mở rộng sang các kiến trúc Transformer và xử lý đồ thị nâng cao.
  • Kiến trúc sư hệ thống an ninh mạng (Security Architects): Tiếp cận hướng dẫn chi tiết về việc xây dựng giải pháp SIEM tự vận hành trên nền tảng ELK Stack mở rộng, đáp ứng các tiêu chuẩn mã hóa dữ liệu đường truyền và lưu trữ khắt khe của doanh nghiệp.
  • Giảng viên và học viên cao học chuyên ngành An toàn thông tin / Khoa học máy tính: Sử dụng làm tài liệu tham khảo chuẩn mực về phương pháp luận nghiên cứu, cấu trúc phân tích tệp thực thi PE và quy trình đánh giá thực nghiệm khoa học.

Câu hỏi thường gặp

  • Tại sao nghiên cứu lại áp dụng mô hình xử lý ngôn ngữ tự nhiên (NLP) vào các tệp thực thi mã máy PE? Chuỗi chỉ lệnh opcode trong phân vùng thực thi (.text) của tệp PE sở hữu cấu trúc ngữ pháp và trật tự logic tương đồng với văn bản tự nhiên. Mỗi chỉ lệnh mang một ý nghĩa hành vi nhất định và khi kết hợp lại sẽ tạo thành một chuỗi logic hoàn chỉnh. Việc áp dụng mô hình HMM giúp khai thác sâu mối liên hệ ngữ cảnh ẩn giữa các lệnh, từ đó nhận diện được bản chất mã độc mà không bị đánh lừa bởi các kỹ thuật làm rối mã bề mặt.

  • Sự kết hợp giữa HMM và Random Forest mang lại ưu thế gì so với việc sử dụng mạng học sâu LSTM hay CNN? Mặc dù các mô hình học sâu như LSTM hay CNN đạt độ chính xác rất cao (khoảng 98,5% đến 99%), chúng đòi hỏi tài nguyên tính toán lớn, phần cứng GPU đắt đỏ và độ trễ phản hồi cao. Mô hình lai HMM-RF đem lại độ chính xác tương đương (đạt 98,5%) nhưng sở hữu tốc độ suy luận nhanh dưới 240 mili-giây và tiêu tốn ít bộ nhớ hơn 65%, cực kỳ phù hợp để nhúng trực tiếp vào các hệ thống SIEM thời gian thực.

  • Quá trình huấn luyện mô hình HMM trên tập dữ liệu lớn mất bao lâu và cần những điều kiện gì? Với chuỗi opcode trung bình gồm 600.000 chỉ lệnh trích xuất từ tập dữ liệu 9.970 mẫu, thời gian huấn luyện cho mỗi mô hình HMM mất khoảng 3 đến 4 giờ trên CPU Intel Core i5-9300H. Quá trình này đòi hỏi việc khởi tạo ma trận xác suất ngẫu nhiên chuẩn hóa để tránh rơi vào điểm cực tiểu cục bộ (local maximum), và dừng lặp khi sai số thay đổi điểm số mô hình đạt ngưỡng hội tụ $\epsilon = 0,001$.

  • Hệ thống giám sát ELK Stack tích hợp trong nghiên cứu được bảo vệ an toàn như thế nào? Toàn bộ kênh giao tiếp giữa khối phân loại mã độc, máy chủ Elasticsearch và giao diện Kibana đều được mã hóa bằng giao thức TLS/SSL với bộ chứng chỉ số CA nội bộ. Dữ liệu phân tích gửi lên máy chủ được xác thực thông qua API Key phân quyền chi tiết, kết hợp cấu hình kiểm soát truy cập theo vai trò (RBAC) và ghi nhật ký giám sát (Audit Logging) để ngăn chặn truy cập trái phép.

  • Mô hình đề xuất có khả năng phát hiện được các dòng mã độc mới chưa từng xuất hiện (Zero-day) hay không? Có, mô hình sở hữu khả năng khái quát hóa vượt trội nhờ vào việc học các trạng thái chuyển đổi hành vi cốt lõi qua chuỗi trạng thái ẩn HMM thay vì lưu trữ các mẫu byte cứng nhắc. Khi một biến thể mã độc zero-day thực hiện các chuỗi hành vi nguy hại đặc trưng (như can thiệp thanh ghi, cấp phát bộ nhớ bất thường), mô hình vẫn nhận diện chính xác với độ tin cậy đạt trên 97%.

Kết luận

  • Luận văn đã thiết kế thành công mô hình phân loại mã độc tĩnh đột phá kết hợp giữa kỹ thuật xử lý ngôn ngữ tự nhiên Hidden Markov Model (HMM) và thuật toán Rừng ngẫu nhiên (Random Forest).
  • Đạt hiệu năng phân loại xuất sắc với độ chính xác 98,5%, F1-Score đạt 0,982 trên tập dữ liệu chuẩn 9.970 mẫu tệp thực thi PE thuộc 5 dòng mã độc nguy hiểm phổ biến.
  • Triển khai thành công kiến trúc giám sát SIEM tự vận hành hoàn chỉnh trên nền tảng ELK Stack với độ trễ phân tích thời gian thực chỉ từ 180 đến 240 mili-giây trên mỗi tệp tin.
  • Thiết lập hệ thống bảo mật kênh truyền và lưu trữ toàn diện thông qua xác thực API Key, chứng chỉ số TLS/SSL và quản trị phân quyền tập trung.
  • Lộ trình 6 đến 12 tháng tiếp theo sẽ tập trung mở rộng mô hình sang phân tích động (Dynamic Analysis) dựa trên lời gọi hàm hệ thống (API Calls) và tối ưu hóa giải pháp trên môi trường điện toán đám mây.

Công trình nghiên cứu đã mở ra hướng đi mới đầy tiềm năng cho việc ứng dụng công nghệ xử lý ngôn ngữ tự nhiên vào lĩnh vực an ninh mạng. Quý độc giả, kỹ sư bảo mật và các nhà nghiên cứu quan tâm có thể khai thác, mở rộng mô hình lai HMM-RF để nâng cao năng lực phòng thủ chủ động cho hệ thống thông tin của tổ chức.