Chương 1 Tổng quan đề tài Tại chương này tôi sẽ tien hành khảo sát những van dé cơ bản liên quan đến đẻ tài mà tôi đang hướng đến.1 Khái quát về sự tan công mô hình học máy Trong thời đại số hiện nay, sự phát triển không ngừng của các thuật toán học máy đã được áp dụng rộng rãi trong nhiều lĩnh vực khác nhau. Cũng chính vì the việc các quyết định được đưa ra dựa trên dữ liệu ngày càng được ưa chuộng bởi sự vượt trội vé toc độ và sự chính xác so với con người. Và một mô hình học máy được cau thành từ hai yêu tổ chính gồm kiên trúc mô hình va dữ liệu. Những kẻ tân công có thể thông qua không gian mạng kết hợp vào hai yếu tô đã nói trên để tien hành khai thác, sửa đổi và lây nhiễm độc hại làm cho việc đưa ra quyết định của một mô hình trở nên thiêu chính xác.
Ví dụ như một phan mềm phát hiện và điệt vi rút (AV). Hệ thống phan mềm chống vi-rút đựa trên công nghệ máy học vẫn liên tục bị thách thức bởi nhiều phan mềm độc hai được cô ý phát triển bởi những kẻ tan công để tránh bị phan mềm AV phát hiện. Cả hệ thông phòng thủ và phan mềm độc hại đều được trang bị các kỹ thuật tiên tiến, hiện đại nhất để phục vụ lợi ích đối lập của mỗi bên, mỗi bên đều cố gắng có thể đánh bại bên kia. Đối thủ tan công hệ thống 8 AV bằng cách sử dụng chiến lược chuyển đổi mã độc sang mã có vẻ lành tính.
Hệ thống AV không phát hiện được mã độc đã biến đổi vì giả định cơ bản mà thuật toán học máy: dư liệu độc hại luôn theo cùng một phân phối với du liệu độc hại được sử dụng để đào tạo. Các thuật toán hoc máy trở nên dé bi tan công hơn nếu đối thủ có quyền kiểm soát di liệu đào tạo hay nói cách khác đối thủ biết được các giá tri có thể có trong dư liệu đào tạo đó, can thiệp vào và làm sai quy trình đào tạo thậm chí ngay từ dau để tạo ra một bộ phân loại sai. Một ví dụ khác trong van để an ninh mạng là van dé thư rác email. Những kẻ gửi thư rác phải vượt mặt các bộ lọc thư rác dựa trên máy học để kiếm lợi nhuận dé đàng.
Khi các bộ lọc thư rác ngày càng phát triển và trở nên tỉnh vi hơn, những kẻ gửi thư rác cũng sẽ trở nên có kỹ năng cao hơn và áp dụng các chiến lược tan công hiệu quả hơn để vượt qua các bộ lọc thư rác. Sự tan công các mô hình học máy này sẽ để lại hậu quả hết sức nghiêm trọng. Việc tìm phương pháp để có thể đối phó với sự tắn công đến các mô hình học máy sẽ giúp tang thêm sự an toàn, độ chính xác của mô hình khi đối mặt với các kẻ tân công sử dụng nhiều phương pháp khác nhau. Sự đổi dau giữa hệ thong học máy và kẻ tan công luôn diễn ra liên tục, ta có thể xem sự đối đầu này như là một trò chơi.
Hệ thống học máy sẽ có gắng phòng thủ trước những sự tân công của doi thủ bằng cach sử dụng các chiến lược tốt nhất với sự kết hợp lý thuyết trò chơi vào quá trình học tập. Mọi khái niệm lý thuyết trò chơi, các mô hình học máy và sự đối đầu giữa mô hình và kẻ tân công sẽ được trình bày rõ trong chương tiếp theo.2 Mục tiêu hướng đến: Với sự hạn chế vẻ thời gian và hạn chế của luận văn, tôi sẽ không thực hiện phương pháp đẻ xuất trên nhiều mô hình học máy mà chỉ thực hiện trên một mô hình học máy duy nhất cho bài toán hướng đến. e Pham vi bài toán: - Bài toán áp dung với dữ liệu dau ở dang bảng với mỗi hàng là 1 điểm đữ liệu với nhiều đặc trưng. - Bài toán được áp dụng vào mô hình học máy SVM.
~ Nguồn dữ liệu được thu nhập từ các cuộc thi đã từng diễn ra. ~ Việc thực nghiệm sé đưa ra một vài kết quả so sánh. e Yêu cau bài toán: ~ Nghiên cứu, dé xuất phương pháp để đối mặt với sự tắn công của đối thủ vào mô hình học máy. ~ Phân tích, lam rõ phương pháp sẽ áp dụng.
— Điều chỉnh các tham số để ket quả đạt được là tốt nhất. e Dự kiến kết quả: ~ Phương pháp dé xuất có thể áp dụng được trong các bài toán phân loại. - Độ chính xác của việc phân loại sau khi áp dụng thử nghiệm phương pháp ở mức chấp nhận được.3 Hướng tiếp cận và phương pháp nghiên cứu Với tập dữ liệu thì tôi sẽ áp dụng một số kỹ thuật phân tích và tiên hành tiền xử lý dir liệu nhằm loại bỏ các điểm dit liệu nhiễu hoặc các đặc trưng không cần thiết tránh việc ảnh hưởng đến kết quả thực nghiệm. Đối với phương pháp đề xuất, tôi tiên hành khảo sát các phương pháp, các bài toán có sự liên quan đã được sử dụng để áp dụng vào bài toán phân loại đã được đẻ cập đến.
Thông qua đó để có một cơ sở đánh giá, so sánh các phương pháp để lựa chọn hướng tiếp cận thích hợp nhất. Và cuỗi cùng là lựa chọn phương pháp có khả năng nhất trong việc tính toán và tiễn hành thực nghiệm. 10 Tiên hành thực nghiệm cài đặt thử nghiệm phương pháp đã dé xuất với mô hình đã chọn. Trong quá trình thực nghiệm sẽ tiền hành chạy qua nhiều tham số, với nhiều lần lay mẫu dữ liệu khác nhau để tiễn hành huấn luyện mô hình nhằm nâng cao kết quả phân loại.
Nhận xét, đánh giá phương pháp dựa vào các tiêu chí như độ chính các, ham lỗi,. Tóm gọn lại, ở chương này ta đã có một cái nhìn toàn điện về bài toán giữa kẻ tân công và mô hình học máy. Với những thành tựu hiện tại của ngành khoa học máy tính và an ninh mạng, người ta đã có thể kết hợp giữa hai lĩnh vực này với nhau để nghiên cứu ra những phương pháp có thế áp dụng trong nhiều trường hợp khác nhau khi đối mặt với các kẻ tân công khác nhau. Phương pháp được áp dụng phù hợp với khả năng tính toán của các hệ thống máy tính hiện tại.
Trong các phan tiếp theo ta sẽ tiền hành tìm hiểu, nghiên cứu sâu hơn về những các kỹ thuật và dé xuất phương pháp phù hợp nhất để giải quyết bài toán. 11 Chương 2 Cơ sở lý thuyết và các nghiên cứu liên quan Trong chương này tôi sẽ tiễn hành nêu các lý thuyết có liên quan đến mô hình học máy và phương pháp có liên quan. Hiểu được các khái niệm ta sẽ có thể áp dụng các kỹ thuật phù hợp có liên quan vào bài toán, tiêu biểu nhất để học hỏi những lợi thể của từng kỹ thuật mang lại và những mặt han chế của nó và tiên hành thực nghiệm ở chương tiếp theo.1 Mô hình học may Support Vector Machine: Support Vector Machine (SVM) là một thuật toán thuộc phương pháp hoc máy có giám sát, nghĩa là tập dir liệu huấn luyện sẽ có nhãn kèm theo, nó có thể sử dụng cho cả các bài toán phân lớp lẫn đệ quy. Tuy nhiên nó được ứng dụng nhiều hơn cho bài toán phân lớp, phân loại.
Thuật toán học máy này dựa trên lý thuyết học thống kê, chiều VC (viết tắt của chiều Vapnik - Chervonenkis) do hai nhà khoa học Vapnik (1999), Chervonenkis (1974) dé xuất, được biết đến như một độ đo khả năng phân loại của các thuật toán học máy. Có thế nói một cách 12 Hình 2.1: Mo tả mô hình SVM đơn giản, SVM là thuật toán phân loại du liệu thành hai lớp: lớp dương (+) và ngược lại là lớp âm (-). Việc ý nghĩa của hai lớp này thì tùy thuộc vào bài toán và dur liệu mà ta quy định. Thuật toán SVM được mô tả cụ thể như sau: Cho trước một tập dữ liệu X trong không gian m chiều (tương ứng với số đặc trưng của dữ liệu).
Nhãn của các đối tượng có thể được đánh đồi lập nhau như +1 với =1 hoặc 0 với 1, dùng khi ta xét một đối tượng có thuộc vào một lớp nào đó hay không. Mục đích của thuật toán SVM là tìm một siêu phẳng (hyperplane) phân tách lớp một cách tôi ưu bằng việc tìm một đường phân chia tất cả các đổi tượng thành hai phan sao cho các đối tượng ở cùng một lớp người dùng đang quan tâm nằm vẻ một phía của siêu phẳng, các đối tượng khác nằm ở phía còn lại. Để có thể hiểu được một siêu phẳng là gì ta bắt đầu xét từ một tập hợp ở không gian 2 chiều. Giả sử ta có 2 điểm nằm trên một không gian 2 chiều, ta có thể vẽ được một đường thẳng tuyến tính chia không gian thành 2 vùng tách biệt chứa các điểm này.
Nếu xét ở không gian 3 chiều thì thay vì đường thẳng, ta sẽ có một mặt phẳng để phân chia các vùng không gian. Và tương tự như thế ta có một siêu phẳng phan chia các vùng đối tượng với không gian n chiều. Ngoài ra ta can hiểu thêm một khái niệm biên, hay lễ (margin). Biên là khoảng cách từ phan tử trong một lớp ở gan siêu phẳng nhất tới siêu phẳng đó.2: Mô tả các siêu phẳng SVM một không gian đa chiều, có thể xuất hiện nhiều siêu phẳng phân chia tap dữ liệu thành 2 vùng riêng biệt.
Nhưng siêu phẳng được gọi là tôi ưu khi phân tập dir liệu thành hai lớp riêng biệt với vùng biên lớn dat giá trị lớn nhất. Ở hình bên trên ta có thể thấy 3 siêu phẳng thỏa mãn điều kiện phân tập dữ liệu thành 2 vùng tách biệt. Nhưng siêu phẳng wx" + b = 1 nằm rất gan lớp +1 và siêu phẳng wx! +b = —1 nằm rat gan lớp - 1. Trong khi siêu phẳng wx! +b = 0 lại nằm cách đều cả 2 vùng, nên có có biên lớn nhất, từ đó ta suy ra wx? + b = 0 chính là siêu phẳng tôi ưu nhất.
Thuật toán SVM được thực hiện như sau: Xét một tap dir liệu dùng để huấn luyện có n phan tử được biểu diễn như saul(x1, 1), (Xa, 2),. Trong đó, x; là một vector đầu vào được biểu diễn trong không gian X € R”, y; là nhãn của phan tử x;, vì ta chỉ quan tâm phan tử bat kỳ có thuộc lớp đang xét hay không nên y; € (=1, +1}.