HỆ THỐNG PHÁT HIỆN XÂM NHẬP MẠNG DỰA TRÊN SỰ BẤT THƯỜNG HIỆU NĂNG CAO CHO MẠNG SDN

Luận văn thạc sĩ về hệ thống phát hiện xâm nhập mạng hiệu năng cao dựa trên bất thường cho mạng SDN. Nghiên cứu khoa học máy tính chuyên sâu.

• Tác giả: Ngô Đức Minh
• Người hướng dẫn: PGS. Trần Ngọc Thịnh
• Trường học: Trường Đại học Bách Khoa - ĐHQG-HCM
• Chuyên ngành: Khoa học máy tính
• Đề tài: Hệ Thống Phát Hiện Xâm Nhập Mạng Dựa Trên Sự Bất Thường Hiệu Năng Cao Cho Mạng Sdn
• Loại tài liệu: Luận văn thạc sĩ
• Năm xuất bản: 2019
• Địa điểm: Hồ Chí Minh

Tóm tắt

I. Tổng Quan Về Phát Hiện Xâm Nhập Mạng SDN Hiệu Năng Cao

Internet đã trở thành một hệ thống thông tin toàn cầu. Số lượng kết nối tăng vọt nhờ sự phát triển của IoT, dự kiến đạt 20-100 tỷ vào năm 2020. Điều này đòi hỏi các kiến trúc mạng hiệu quả hơn, và mạng SDN (Software-Defined Networking) nổi lên như một giải pháp đầy hứa hẹn. Mạng SDN tách biệt lớp điều khiển và lớp dữ liệu, mang lại khả năng quản lý tập trung và linh hoạt hơn so với mạng truyền thống. Các bộ điều khiển SDN được quản trị viên cấu hình thông qua các giao diện phần mềm, điều khiển các thiết bị chuyển mạch. Trong số đó, OpenFlow là một trong những hiện thực SDN thành công nhất. Tuy nhiên, sự tăng trưởng nhanh chóng của mạng lưới đi kèm với những rủi ro bảo mật gia tăng. Các kỹ thuật phát hiện xâm nhập hiệu quả là rất quan trọng để bảo vệ cơ sở hạ tầng mạng SDN trước các mối đe dọa tiềm ẩn.

1.1. Kiến Trúc Mạng SDN Tổng Quan và Ưu Điểm Vượt Trội

Mạng SDN cung cấp nhiều lợi ích hơn so với mạng truyền thống bằng cách tách biệt lớp điều khiển khỏi lớp dữ liệu. Trong mạng truyền thống, các thiết bị như bộ định tuyến, bộ chuyển mạch và tường lửa phải được cấu hình và quản lý riêng lẻ, gây khó khăn và tốn kém. Kiến trúc SDN chia mô hình mạng thành ba lớp: lớp ứng dụng, lớp điều khiển và lớp cơ sở hạ tầng. Lớp điều khiển bao gồm các bộ điều khiển chạy các dịch vụ mạng được lập trình bởi các ứng dụng mạng thông qua giao diện Northbound. Mỗi bộ điều khiển chịu trách nhiệm xử lý một số thiết bị chuyển mạch nằm trong lớp cơ sở hạ tầng để xử lý các chức năng chuyển tiếp. Kiến trúc tập trung này cho phép quản lý và điều khiển mạng hiệu quả hơn.

1.2. Giao Thức OpenFlow Nền Tảng Của Mạng SDN

OpenFlow là một giao thức truyền thông mở cho phép các bộ điều khiển SDN giao tiếp với các thiết bị chuyển mạch. Giao thức này cho phép bộ điều khiển hướng dẫn các thiết bị chuyển mạch cách chuyển tiếp lưu lượng mạng dựa trên các quy tắc được xác định trước. Một trong những lợi ích chính của OpenFlow là khả năng ảo hóa mạng và chia sẻ tải. Bằng cách sử dụng OpenFlow, các quản trị viên mạng có thể tạo nhiều mạng ảo trên cùng một cơ sở hạ tầng vật lý, tối ưu hóa việc sử dụng tài nguyên và giảm chi phí. Theo nguyên tắc SDN, gói tin đầu tiên của một luồng mới đến thiết bị chuyển mạch sẽ được chuyển đến bộ điều khiển để tạo đường dẫn định tuyến tương ứng.

II. Thách Thức An Ninh Mạng SDN Tại Sao Cần IDS Hiệu Năng Cao

Các vấn đề bảo mật của kiến trúc SDN đã luôn thu hút sự chú ý và gây tranh cãi. Mặc dù nhiều nhà nghiên cứu trên thế giới đã nỗ lực tăng cường kiến trúc SDN ở cả lớp điều khiển và lớp dữ liệu, vẫn chưa có giải pháp nào bảo vệ hoàn toàn kiến trúc này khỏi sự phát triển phức tạp và đa dạng của các cuộc tấn công mạng. Bài viết này nhắm đến việc giảm khối lượng công việc của lớp điều khiển bằng cách tiền xử lý và bảo vệ mạng ở lớp dữ liệu, đặc biệt bằng cách áp dụng phương pháp phát hiện xâm nhập dựa trên bất thường. Cùng với sự phát triển của trí tuệ nhân tạo (AI), việc đào tạo máy để bắt chước hành vi thông minh của con người đã trở thành một chủ đề nổi bật. Học máy (ML), một tập hợp con của AI, nổi tiếng với khả năng tự cập nhật và cải thiện khi tiếp xúc với nhiều dữ liệu hơn.

2.1. Các Loại Tấn Công Mạng Phổ Biến Trong Môi Trường SDN

Mạng SDN, mặc dù có nhiều ưu điểm, vẫn dễ bị tấn công. Một số loại tấn công phổ biến bao gồm tấn công từ chối dịch vụ phân tán (DDoS), trong đó kẻ tấn công cố gắng làm quá tải mạng bằng lưu lượng độc hại, khiến nó không thể truy cập được đối với người dùng hợp pháp. Các cuộc tấn công khác bao gồm tấn công man-in-the-middle (MITM), trong đó kẻ tấn công chặn và thao túng các giao tiếp giữa hai bên và tấn công tiêm nhiễm, trong đó kẻ tấn công đưa mã độc vào hệ thống. Sự tập trung hóa của lớp điều khiển trong SDN cũng tạo ra một điểm lỗi duy nhất, làm cho nó trở thành mục tiêu hấp dẫn cho các cuộc tấn công. Do đó, việc triển khai các biện pháp bảo mật mạnh mẽ là rất quan trọng để bảo vệ mạng SDN khỏi các mối đe dọa này.

2.2. Sự Cần Thiết Của Hệ Thống IDS Hiệu Năng Cao Cho Mạng SDN

Để bảo vệ mạng SDN khỏi các cuộc tấn công, cần có hệ thống phát hiện xâm nhập (IDS) có thể phát hiện và phản ứng với các mối đe dọa bảo mật một cách nhanh chóng và chính xác. IDS hiệu năng cao đặc biệt quan trọng trong môi trường SDN do thông lượng dữ liệu cao và bản chất động của mạng. Một IDS phải có khả năng xử lý khối lượng lớn lưu lượng mạng và phân tích nó theo thời gian thực để xác định các hoạt động độc hại. Nó cũng phải có khả năng thích ứng với những thay đổi trong cấu hình mạng và các mẫu lưu lượng để duy trì hiệu quả. Ngoài ra, IDS phải có khả năng phân biệt giữa lưu lượng hợp pháp và lưu lượng độc hại để tránh cảnh báo sai và giảm thiểu tác động đến hiệu suất mạng.

III. Cách Phát Hiện Xâm Nhập Bất Thường Giải Pháp Tối Ưu Cho SDN

Một trong những phương pháp đầy hứa hẹn để phát hiện xâm nhập trong mạng SDN là phát hiện xâm nhập dựa trên bất thường. Thay vì dựa vào các mẫu hoặc chữ ký đã biết để xác định các cuộc tấn công, phát hiện bất thường thiết lập một đường cơ sở về hành vi mạng bình thường và gắn cờ mọi độ lệch đáng kể so với đường cơ sở đó. Phương pháp này có thể phát hiện các cuộc tấn công mới và chưa biết mà các IDS dựa trên chữ ký truyền thống có thể bỏ lỡ. Ngoài ra, phát hiện bất thường có thể giúp xác định các hoạt động nội bộ độc hại hoặc các cấu hình sai có thể dẫn đến vi phạm bảo mật. Tuy nhiên, một trong những thách thức của phát hiện bất thường là giảm thiểu số lượng cảnh báo sai, có thể làm quá tải các nhà phân tích bảo mật và làm cho việc xác định các cuộc tấn công thực tế trở nên khó khăn.

3.1. Mô Hình Phát Hiện Bất Thường Nguyên Lý Hoạt Động

Mô hình phát hiện bất thường thường liên quan đến việc xây dựng một mô hình về hành vi mạng bình thường bằng cách sử dụng các kỹ thuật thống kê hoặc học máy. Mô hình này sau đó được sử dụng để so sánh lưu lượng mạng mới đến với đường cơ sở đã thiết lập. Nếu lưu lượng mới đến lệch đáng kể so với đường cơ sở, nó sẽ bị gắn cờ là có khả năng độc hại. Các kỹ thuật học máy khác nhau có thể được sử dụng để xây dựng mô hình hành vi mạng bình thường, bao gồm phân cụm, phân loại và hồi quy. Việc lựa chọn kỹ thuật phù hợp phụ thuộc vào đặc điểm cụ thể của dữ liệu mạng và các mục tiêu bảo mật của tổ chức.

3.2. Ưu Điểm Của Phát Hiện Xâm Nhập Dựa Trên Bất Thường Trong SDN

Phát hiện xâm nhập dựa trên bất thường mang lại một số lợi thế so với các phương pháp phát hiện xâm nhập truyền thống trong môi trường SDN. Đầu tiên, nó có thể phát hiện các cuộc tấn công mới và chưa biết mà IDS dựa trên chữ ký có thể bỏ lỡ. Thứ hai, nó có thể giúp xác định các hoạt động nội bộ độc hại hoặc các cấu hình sai có thể dẫn đến vi phạm bảo mật. Thứ ba, nó có thể thích ứng với những thay đổi trong cấu hình mạng và các mẫu lưu lượng, đảm bảo rằng nó vẫn hiệu quả theo thời gian. Cuối cùng, bằng cách chỉ gắn cờ những độ lệch đáng kể so với hành vi bình thường, nó có thể giúp giảm số lượng cảnh báo sai, giúp các nhà phân tích bảo mật tập trung vào các mối đe dọa quan trọng nhất.

IV. Machine Learning Deep Learning Cho IDS Hiệu Năng Cao Trong SDN

Machine Learning (ML) và Deep Learning (DL) đang ngày càng được sử dụng trong IDS để cải thiện độ chính xác và hiệu quả của việc phát hiện xâm nhập. Các thuật toán ML và DL có thể được đào tạo để phân tích lưu lượng mạng và xác định các mẫu chỉ ra các hoạt động độc hại. Ví dụ: chúng có thể được sử dụng để phát hiện các cuộc tấn công DDoS, tấn công botnet và các loại tấn công mạng khác. Ngoài ra, ML và DL có thể được sử dụng để xây dựng mô hình về hành vi mạng bình thường và phát hiện các bất thường có thể chỉ ra vi phạm bảo mật. Học sâu đặc biệt phù hợp để xử lý lượng lớn dữ liệu mạng và phát hiện các mẫu phức tạp mà các phương pháp truyền thống có thể bỏ lỡ.

4.1. Ứng Dụng Machine Learning Trong Phát Hiện Xâm Nhập Mạng SDN

Các thuật toán Machine Learning có thể được sử dụng để phát hiện xâm nhập mạng SDN theo nhiều cách. Chúng có thể được sử dụng để phân loại lưu lượng mạng thành các loại khác nhau, chẳng hạn như lưu lượng bình thường và lưu lượng độc hại. Chúng cũng có thể được sử dụng để phát hiện các bất thường trong lưu lượng mạng có thể chỉ ra một cuộc tấn công. Một số thuật toán ML phổ biến được sử dụng cho phát hiện xâm nhập bao gồm máy vectơ hỗ trợ (SVM), rừng ngẫu nhiên và mạng nơ-ron. Việc lựa chọn thuật toán phù hợp phụ thuộc vào đặc điểm cụ thể của dữ liệu mạng và các mục tiêu bảo mật của tổ chức.

4.2. Ưu Điểm Của Deep Learning So Với Machine Learning Truyền Thống

Deep Learning mang lại một số ưu điểm so với Machine Learning truyền thống trong việc phát hiện xâm nhập. Các mô hình học sâu có thể học các đặc điểm phức tạp từ dữ liệu mạng mà các phương pháp truyền thống có thể bỏ lỡ. Chúng cũng có thể xử lý lượng lớn dữ liệu và thích ứng với những thay đổi trong hành vi mạng. Ngoài ra, học sâu có thể được sử dụng để tự động trích xuất các đặc điểm từ dữ liệu mạng, giảm nhu cầu kỹ thuật tính năng thủ công. Tuy nhiên, các mô hình học sâu có thể tốn kém về mặt tính toán để đào tạo và có thể yêu cầu một lượng lớn dữ liệu được gắn nhãn.

V. Kết Quả Nghiên Cứu Triển Khai IDS Bất Thường trên FPGA cho SDN

Các bộ tăng tốc phần cứng như GPU (Graphics Processing Units) và FPGA (Field-Programmable Gate Arrays) đã được sử dụng để cải thiện thông lượng của các thuật toán ML trong các ứng dụng này. Hiện tại, việc tăng tốc dựa trên GPU là một phương pháp hứa hẹn để cải thiện hiệu suất của bộ xử lý truyền thống trong các thuật toán ML do có nhiều nhà cung cấp phần cứng và ấn tượng về sức mạnh tính toán thông lượng cao hiệu suất cao. Bên cạnh đó, cần có giao diện kết nối tốc độ cao để hỗ trợ tốc độ dữ liệu cao. Mặc dù GPU cực kỳ hiệu quả trong giai đoạn đào tạo, nhưng nó không đủ hiệu quả trong giai đoạn thử nghiệm do tắc nghẽn trong truyền dữ liệu. Ngày nay, FPGA đóng vai trò quan trọng trong các ngành công nghiệp xử lý và lấy mẫu dữ liệu do tính linh hoạt trong phần cứng tùy chỉnh, mức độ song song cao và mức tiêu thụ năng lượng thấp.

5.1. Thiết Kế IDS Chống Tấn Công SYN Flood Hiệu Năng Cao

Luận văn này đề xuất một kiến trúc phần cứng hiệu quả cao để chống lại tấn công SYN Flood, một loại tấn công DDoS phổ biến. Kiến trúc này sử dụng mô hình đường ống để phân tích các gói tin mạng và ngăn chặn các cuộc tấn công SYN Flood tốc độ cao. Một mô hình toán học cũng được đề xuất để đo lường và đánh giá khả năng chống chịu của khối SYN Flood về mặt hiệu suất và độ trễ. Kết quả thử nghiệm trên nền tảng NetFPGA-10G cho thấy khối bảo mật này có thể bảo vệ máy chủ khỏi các cuộc tấn công SYN Flood với tốc độ lên tới hơn 28 triệu gói tin mỗi giây. Một bài báo nghiên cứu về lõi phát hiện/ngăn chặn SYN Flood này đã được xuất bản năm 2018.

5.2. Đánh Giá Hiệu Năng IDS Bất Thường Dựa Trên FPGA So Với CPU GPU

Để thử nghiệm, chúng tôi đã sử dụng hai mô hình phân loại, cây quyết định và mạng nơ-ron, để phát hiện các cuộc tấn công mạng bằng tập dữ liệu NSL-KDD. Chúng tôi triển khai phiên bản nguyên mẫu đầu tiên trên bo mạch NetFPGA-10G và xác thực hệ thống bằng tập dữ liệu NSL-KDD. Kết quả thực nghiệm cho thấy chúng tôi có thể đánh bại cả GPU Geforce GTX850MG và CPU Intel core i5 thế hệ thứ 8 về thời gian xử lý. Các kết quả nghiên cứu chứng minh rằng, IDS dựa trên FPGA cho hiệu năng vượt trội so với các giải pháp phần mềm chạy trên CPU và GPU.

VI. Tương Lai Của Phát Hiện Xâm Nhập Bất Thường Hiệu Năng Cao Cho SDN

Phát hiện xâm nhập dựa trên bất thường hiệu năng cao cho mạng SDN là một lĩnh vực nghiên cứu đang phát triển nhanh chóng. Khi mạng SDN tiếp tục trở nên phổ biến hơn, nhu cầu về các giải pháp bảo mật hiệu quả sẽ tiếp tục tăng lên. Các hướng nghiên cứu trong tương lai bao gồm phát triển các thuật toán học máy mới có thể phát hiện các cuộc tấn công mạng một cách chính xác và hiệu quả hơn, khám phá các kiến trúc phần cứng mới có thể tăng tốc việc xử lý lưu lượng mạng và tích hợp IDS với các hệ thống bảo mật khác, chẳng hạn như SIEM (Security Information and Event Management) và Threat Intelligence. Bằng cách giải quyết những thách thức này, chúng ta có thể tạo ra các mạng SDN an toàn và đáng tin cậy hơn có thể hỗ trợ các ứng dụng và dịch vụ quan trọng.

6.1. Hướng Nghiên Cứu Mới Học Sâu Tăng Cường Reinforcement Learning

Một hướng nghiên cứu hứa hẹn là việc sử dụng học sâu tăng cường (Reinforcement Learning) để xây dựng các hệ thống IDS thích ứng. Trong phương pháp này, IDS được đào tạo để học các hành động tối ưu để thực hiện khi phát hiện một cuộc tấn công, chẳng hạn như chặn lưu lượng độc hại hoặc chuyển hướng lưu lượng đến một vị trí sạch. Học sâu tăng cường có thể cho phép IDS thích ứng với các điều kiện mạng thay đổi và cải thiện hiệu quả của nó theo thời gian. Tuy nhiên, việc đào tạo các mô hình học sâu tăng cường có thể tốn kém về mặt tính toán và yêu cầu một lượng lớn dữ liệu.

6.2. Tích Hợp ZTNA Zero Trust Network Access Với IDS Cho SDN

Một hướng nghiên cứu khác là tích hợp ZTNA (Zero Trust Network Access) với IDS cho mạng SDN. ZTNA là một mô hình bảo mật dựa trên nguyên tắc không tin tưởng bất kỳ ai, bên trong hoặc bên ngoài mạng. Bằng cách tích hợp ZTNA với IDS, chúng ta có thể tạo ra một hệ thống bảo mật toàn diện hơn có thể xác minh danh tính của người dùng và thiết bị trước khi cấp quyền truy cập vào các tài nguyên mạng. Điều này có thể giúp ngăn chặn các cuộc tấn công từ bên trong và giảm thiểu tác động của các vi phạm bảo mật.

Trích đoạn nội dung tài liệu

VIET NAM NATIONAL UNIVERSITY - HO CHI MINH CITY HO CHI MINH CITY UNIVERSITY OF TECHNOLOGY NGO DUC MINH A HIGH PERFORMANCE ANOMALY-BASED INTRUSION DETECTION SYSTEM FOR SDN NETWORKS MAJOR: COMPUTER SCIENCE MAJOR ID: 60.01 MASTER THESIS HO CHI MINH City, December 2019 VIET NAM NATIONAL UNIVERSITY - HO CHI MINH CITY HO CHI MINH CITY UNIVERSITY OF TECHNOLOGY NGO DUC MINH A HIGH PERFORMANCE ANOMALY-BASED INTRUSION DETECTION SYSTEM FOR SDN NETWORKS MAJOR: COMPUTER SCIENCE MAJOR ID: 60.01 MASTER THESIS HO CHI MINH City, December 2019 CÔNG TRÌNH ĐƯỢC HOÀN THÀNH TẠI TRƯỜNG ĐẠI HỌC BÁCH KHOA - ĐHQG - HCM Cán bộ hướng dẫn khoa học : (Ghi rõ họ, tên, học hàm, học vị và chữ ký) Cán bộ chấm nhận xét 1 : (Ghi rõ họ, tên, học hàm, học vị và chữ ký) Cán bộ chấm nhận xét 2 : (Ghi rõ họ, tên, học hàm, học vị và chữ ký) Luận văn thạc sĩ được bảo vệ tại Trường Đại học Bách Khoa, ĐHQG Tp. Thành phần Hội đồng đánh giá luận văn thạc sĩ gồm: (Ghi rõ họ, tên, học hàm, học vị của Hội đồng chấm bảo vệ luận văn thạc sĩ) 1. Xác nhận của Chủ tịch Hội đồng đánh giá LV và Trưởng Khoa quản lý chuyên ngành sau khi luận văn đã được sửa chữa (nếu có). CHỦ TỊCH HỘI ĐỒNG TRƯỞNG KHOA KH&KTMT ĐẠI HỌC QUỐC GIA TP.HCM CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM TRƯỜNG ĐẠI HỌC BÁCH KHOA Độc lập - Tự do - Hạnh phúc NHIỆM VỤ LUẬN VĂN THẠC SĨ Họ tên học viên: NGÔ ĐỨC MINH MSHV: 1770024 Ngày, tháng, năm sinh: 05/06/1994 Nơi sinh: Đồng Nai Ngành: Khoa học máy tính Mã số: 60.

TÊN ĐỀ TÀI: HỆ THỐNG PHÁT HIỆN XÂM NHẬP MẠNG DỰA TRÊN SỰ BẤT THƯỜNG HIỆU NĂNG CAO CHO MẠNG SDN. NHIỆM VỤ VÀ NỘI DUNG: • Nghiên cứu và hiện thực các giải thuật phát hiện/phòng chống tấn công mạng. Trong đó, có nghiên cứu các kĩ thuật phát hiện dựa trên bất thường sử dụng kĩ thuật học máy trên phần cứng NetFPGA. • Xây dựng kiến trúc hệ thống bộ chuyển mạch OpenFlow trên nền tảng NetFPGA với khả năng tích hợp khối bảo mật.

Đo đạc và đánh giá tốc độ chuyển mạch của hệ thống mới. • Tích hợp khối phát hiện tấn công dựa trên bất thường vào bộ chuyển mạch OpenFlow trên nền tảng NetFPGA. • Module hóa và cải tiến tài nguyên hệ thống trên phần cứng NetFPGA. Thử nghiệm, đánh giá kết quả so với các công trình liên quan III.

NGÀY GIAO NHIỆM VỤ: 13/08/2018 IV. NGÀY HOÀN THÀNH NHIỆM VỤ: 30/12/2019 V. CÁN BỘ HƯỚNG DẪN: PGS. TRẦN NGỌC THỊNH.

CÁN BỘ HƯỚNG DẪN TRƯỞNG KHOA KH&KTMT (Họ tên và chữ ký) (Họ tên và chữ ký) ACKNOWLEDGMENTS Firstly, I would like to express my sincere gratitude to my advisor, Associate Professor Tran Ngoc Thinh for his warmly supports, taking the time from the beginning of my work to orient the research, and during step by step of the dissertation process. Besides my advisor, I would like to thank to my teachers at Faculty of Computer Science & Engineering, Ho Chi Minh City University of Technology in providing a lot of knowledge for me during my master course. Especially, my sincere thanks also goes to Doctor Cuong Pham-Quoc who has guided me and improved my skill a lot while writing papers and reports To Computer Engineering labmates, I would like to thank Mr. Ho Quang Chi Bao, Mr.

Tran Nguyen Vo, Mrs. Tran Thi Thuy Chau, Mr. Le Tan Long, Tran Minh Anh Tuan, Dang Ngo Nhat Truong, Nguyen Gia Phuc and the many other individuals for the sleepless nights we were working together before deadlines, and for all the fun we have had in the last three years. Last but importantly, I am grateful to the God for the good health and well being that were necessary to complete this dissertation.

I would like to say thank you so much to my family. I could not go far on my way without their supports and encouragements. Ho Chi Minh City, December 01st , 2019 Ngo Duc Minh i ABSTRACT Internet has become a global information system that can be accessed publicly by linked computers from all over the world. Along with the development of Internet of Things (IoTs) the number of entities in Internet can reach 20-100 billion in 2020 [1].

Thus, an alternative approach for traditional network architecture to adapt comprehensive demands is necessary, urgency. Software-Defined Networking (SDN) [2] has been investigated by many organizations because of its advantages compared to the traditional approaches. Computer networks are configured and operated manually in traditional networks, while SDN provides centralization control, simple hardware devices, and high virtualization. SDN decouples network control from forwarding functions, so that network control becomes programmable.

In SDN, network control contains controllers configured by network administrators through software interfaces. Besides, the developing of Artificial Intelligence (AI), which can train a machine to imitate intelligent human behaviors has become a prominent topic. AI has achieved several successes in practical applications such as decision making, speech recognition, and also object classification. Besides, real-time applications usually require heavy computational tasks; thus, processing on general-purpose processors is not efficiency in performance.

Meanwhile, hardware accelerators such as Graphics Processing Units (GPUs) and Field-Programmable Gate Arrays (FPGAs) have been employed to improve the throughput of AI algorithms in these applications. This work aims to enhance security for SDN by pre-processing and protecting network packets at the data plane using multiple approaches. This work introduces an efficient high-throughput and low-latency SYN flood defender architecture, carefully designed with a pipeline model. A mathematical model is also added with the architecture for estimating SYN flood protection throughput and latency.

Our ii ABSTRACT iii experiments with NetFPGA-10G platforms show that the core can protect servers against SYN flood attacks by up to 28+ millions of packets per second. In addition, the thesis proposes an architecture for SDN-based secured forwarding devices (switches) by extending our previous architecture - HPOFS with multiple security functions, including lightweight DDoS mechanisms, signature-based, and anomaly-based IDS. We implement our architecture on a heterogeneous system, including host processors, GPU, and FPGA boards. To the best of our knowledge, this is the first forwarding device for SDN implemented on a heterogeneous system in the literature.

Our system not only is enhanced security but also provides a high-speed switching capacity based on the OpenFlow standard. The implemented design on GTX Geforce 1080 G1 for training phase is 14× faster when compared to CPU Intel Core i7 – 4770, 3,4GHz, 16GB of RAM on Ubuntu version 14. The switching function along with three lightweight DDoS detection/prevention mechanisms have processing speed at 39.48 Gbps on NetFPGA-10G board (Xilinx xc5vtx240t FPGA device). Especially, our neural network models on NetFPGA-10G board outperform CPU in processing performance by reaching throughputs at 4.

Moreover, the neural network model achieves 99.01% precision with only 0.02% false-positive rate using the created dataset. ABSTRACT iv Tóm Tắt Luận Văn Thạc Sĩ Internet đã trở thành hệ thống thông tin toàn cầu và có thể truy cập mọi lúc mọi nơi bởi các máy tính trên toàn thế giới. Cùng với đó là sự phát triển của internet vạn vật (Internet of things), số lượng kết nối có thể đạt 20-100 tỉ vào năm 2020 [1]. Vì thế, một giải pháp thay thế cho kiến trúc mạng truyền thống là rất cần thiết.

Software-defined Networking (SDN) [2] được xem là một giải pháp thay thế cho mạng truyền thống và đã được nghiên cứu bởi nhiều tổ chức trên thế giới với nhiều ưu thế so với mạng truyền thống. Mạng máy tính truyền thống thông thường được cấu hình và vận hành bằng tay, người quản trị phải đến từng thiết bị phần cứng để cấu hình chúng trong khi mạng SDN cung cấp khả năng quản lý tập trung. Trong mạng SDN, những bộ điều khiển được vận hành bởi người quản trị mạng thông qua những phần mềm. Thêm vào đó, sự phát triển của trí tuệ nhân tạo (Artificial Intelligence - AI) có thể huấn luyện máy tính để bắt chước hành vi con người đã trở thành một chủ đề hứa hẹn.

AI đã đạt được nhiều thành công trong các bài toán thực tế như là đưa ra quyết định, nhận dạng giọng nói, và cả phân loại thực thể. Bên cạnh đó, các ứng dụng yêu cầu đáp ứng thời gian thực thường yêu cầu tính toán phức tạp, dẫn đến việc sử dụng các bộ xử lý chung không còn hiệu quả về mặt hiệu suất. Trong khi đó, phần cứng tăng tốc như GPU và FPGA đã và đang được nghiên cứu sử dụng để cải tiến hiệu suất cho những ứng dụng sử dụng các giải thuật trí tuệ nhân tạo.Luận văn thạc sỹ này với mục tiêu là giảm thiểu tính toán cho đường điều khiển bằng cách tiền xử lý và bảo vệ mạng sớm hơn ở đường dữ liệu sử dụng các hướng tiếp cận khác nhau, đặc biệt là hướng phát hiện tấn công dựa trên bất thường. Công trình này giới thiệu một kiến trúc hiệu năng cao cho phòng chống tấn công SYN Flood, được thiết kế kỹ càng theo cơ chế xử lý đường ống.

Một mô hình toán học cũng được đề xuất để đo đạc và đánh giá khả năng chống chịu của khối SYN Flood về khía cạnh hiệu suất và độ trễ. Kết quả thực nghiệm trên nền tảng NetFPGA-10G cho thấy khối bảo mật này có thể bảo vệ các máy chủ khỏi tấn công SYN Flood ở tốc độ lên đến 28+ triệu gói tin trên một giây. Thêm vào đó, luận văn đề xuất bảo mật cho các thiết bị chuyển tiếp dữ liệu theo kiến trúc mạng SDN bằng việc mở rộng công trình trước đó - có tên là HPOFS bằng cách xây dựng các bộ máy bảo mật bao gồm các khối ABSTRACT v chống tấn công DDoS, phát hiện tấn công dựa trên chữ ký, và phát hiện tấn công dựa trên dấu hiệu bất thường. Tác giả hiện thực kiến trúc đề xuất trên các nền tảng phần cứng hỗn hợp bao gồm các bộ xử lý chủ, board mạch GPU và FPGA.

Đây có thể xem là hệ thống đầu tiên có tích hợp các khối bảo mật khác nhau trên phần cứng chuyển mạch theo kiến trúc mạng SDN. Hệ thống này không những được bảo mật chặt chẽ mà còn có thể chuyển mạch gói tin, quản lý tập trung theo giao thức OpenFlow. Hệ thống huấn luyện các mô hình mạng neural sử dụng GPU GTX Geforce 1080 G1 cho tốc độ nhanh hơn 14 lần so với CPU Intel Core i7 – 4770, 3,4GHz, 16GB RAM trên hệ điều hành Ubuntu phiên bản 14. Chức năng chuyển mạch cùng với các khối chống tấn công DDoS có thể xử lý ở tốc độ tối đa 39.48 Gbps trên board mạch NetFPGA-10G (Xilinx xc5vtx240t FPGA device).

Đặc biệt, các mô hình học máy trên board mạch này hiệu suất hơn hẳn CPU khi tốc độ xử lý đạt 4. Hơn nữa, mô hình học máy tốt nhất cho 99.01% độ chính xác với 0.02% tỉ lệ cảnh báo sai khi sử dụng tập dữ liệu được thu thập trong môi trường phòng thí nghiệm Kỹ thuật máy tính Đại Học Bách Khoa Tp. vi Statement of Originality I certify that the results of this work is the product of my own work and colleagues at the Faculty of Computer Science and Engineering (CSE), Ho Chi Minh City University of Technology (HCMUT), Vietnam National University - Ho Chi Minh City (VNU HCM).