Chương 1. Tổng quan: Giới thiệu luận văn, lý do chọn đề tài, động lực, mục tiêu, phạm vi và nội dung thực hiện của luận văn. Cơ sở lý thuyết và các nghiên cứu liên quan: Trình bày cơ sở lý thuyết liên quan đến ba phương pháp xử lý mat cân bằng dữ liệu là SMOTE, SMOTE-ENN và Random Oversampling. Sau đó trình bày cơ sở lý thuyết cho các phương pháp kết hợp là Voting và Stacking.
Cuối cùng luận văn giới thiệu các nghiên cứu liên quan đến dé tài và hạn chế của các nghiên cứu. Phương pháp đề xuất: Trình bày 2 phương pháp được áp dụng trong luận văn. Thực nghiệm và so sánh kết quả: Tiến hành thực nghiệm đồng thời đưa ra các kết quả của từng giai đoạn và nhận xét. Xây dựng ứng dụng đơn giản sử dụng streamlit.
Tiến hành thực nghiệm và đánh giá kết quả: Đưa ra tổng kết sau khi chạy thực nghiệm. Đồng thời nêu ra các hạn chế và đề xuất một số hướng phát triển cho các nghiên cứu tương lai. Danh mục công bố khoa học của tác giả Tài liệu tham khảo Cơ sở lý thuyết và các nghiên cứu liên quan CHUONG 2. CƠ SỞ LÝ THUYET VA CÁC NGHIÊN CỨU LIÊN QUAN Trong chương này luận văn sẽ trình bày cơ sở lý thuyết của các thuật toán học máy được áp dụng, các phương pháp cân bằng dữ liệu, phương pháp kết hợp các thuật toán lại với nhau bao gồm SMOTE, SMOTE-ENN và Random Oversampling.
Tiếp theo trình bày cơ sở lý thuyết của hai phương pháp kết hợp các mô hình học máy là Voting va Stacking. Các phương pháp xử ly cân bằng dữ liệu 2. SMOTE SMOTE là viết tắt của "Synthetic Minority Over-sampling Technique." Đây là một kỹ thuật trong lĩnh vực xử lý đữ liệu không cân bằng, nơi số lượng các mẫu thuộc vào lớp thiểu số (minority class) ít hơn so với lớp đa số (majority class). Kỹ thuật SMOTE được sử dụng để tạo ra các mẫu dữ liệu tong hop (synthetic samples) cho lớp thiểu số, nhằm cân bằng dữ liệu va cải thiện hiệu suất của các mô hình dự đoán, đặc biệt trong các tình huống mà dữ liệu không cân bằng có thể dẫn đến hiện tượng overfitting và hiệu suất kém.
[6] SMOTE hoạt động bằng cách tạo ra các mẫu tổng hợp mới bằng cách kết hợp thông tin từ các mẫu gốc thuộc lớp thiểu số. Cụ thé, nó chọn một mẫu góc từ lớp thiêu số và sau đó chọn ngẫu nhiên một hoặc nhiều mẫu gốc khác từ lớp thiểu số có sẵn gần đó. Nó sau đó tạo ra các mẫu tổng hợp mới bằng cách lấy trung bình hoặc tỷ lệ của các đặc trưng của các mẫu gốc này. Quá trình này tạo ra các mẫu dữ liệu tổng hợp mà không chỉ mở rộng lớp thiểu số mà còn giảm nguy cơ overfitting.
SMOTE là một công cụ quan trọng trong việc xử lý dir liệu không cân bằng và đã được sử dụng rộng rãi trong machine learning và các ứng dụng liên quan đến phân loại dữ liệu. [10] 14 Cơ sở lý thuyết và các nghiên cứu liên quan Hình 2. Phương pháp SMOTE tạo ra điểm XI từ 4 điểm lân cận chỉ tiết các bước thực hiện chỉ tiết dưới đây. e Bước 1: Chọn k mau láng giềng (minority class) để tạo mẫu thiểu số(gian lận) m6i( r1: synthesized data).
e Bude 2: Chon một mẫu thiểu số(gian lận) đã tồn tại trong bộ dữ liệu (X1). ¢ Bước 3: Tạo ra mẫu thiểu số mới theo công thức rl = XI + gap * diff với: e rl : mẫu thiểu số được tạo mới. e_ XI : Mẫu thiểu số đã ton tại trong bộ dữ liệu. © gap : khoảng cách từ XI đến rl.
© diff: khoảng cách từ X1 đến X11(mẫu láng giéng). Với k = 4 (số mẫu láng giéng), chúng ta sẽ tạo ra 4 mẫu thiểu số mới từ một mẫu thiểu số đã tồn tại trong bộ dữ liệu bằng cách áp dụng công thức được mô tả trong bước 3, sử dụng khoảng cách và mẫu láng giềng đã chọn. X14 Synthesized data X1 r1 = X1 + gap * diff X13 © X12 Hình 2. Phương pháp SMOTE tạo ra điểm XI từ 4 điểm lân cận Nguồn: SMOTE for Imbalanced Classification with Python [10] 15 Cơ sở lý thuyết và các nghiên cứu liên quan 2.
SMOTE-ENN SMOTE-ENN là một kỹ thuật kết hợp hai phương pháp dé xử lý dữ liệu không cân bằng trong machine learning. Kết hợp SMOTE (Synthetic Minority Over- sampling Technique) va ENN (Edited Nearest Neighbors) dé cai thiện hiệu suất mô hình trong các tình huống mà dữ liệu không cân bằng là một van dé. [7] SMOTE (Synthetic Minority Over-sampling Technique): SMOTE là một phần của SMOTE-ENN. Nhằm tao ra các mẫu tổng hợp cho lớp thiểu sé bằng cách sử dung các mẫu gốc từ lớp thiểu số.
Quá trình này đảm bảo rằng số lượng mẫu thuộc lớp thiểu số tăng lên và giúp cân bằng đữ liệu. SMOTE hoạt động bằng cách chọn một mẫu gốc từ lớp thiểu số và sau đó tạo ra các mẫu tổng hợp bằng cách kết hợp thông tin từ mẫu gốc và các mẫu gôc lân cận. ENN (Edited Nearest Neighbors): ENN là bước thứ hai trong SMOTE-ENN. ENN là một phương pháp dé loại bỏ các mẫu nhiễu từ tập dữ liệu.
Kiểm tra các mẫu gốc và xóa bat kỳ mẫu nào thuộc lớp thiểu số và được bao quanh bởi mẫu của lớp đa số (majority class). Mục tiêu của ENN là loại bỏ các mẫu nhiễu có thể gây nhiễu cho mô hình phân loại. Khi kết hợp cả SMOTE và ENN thành SMOTE-ENN, quá trình hoạt động như sau: Sử dụng SMOTE để tạo ra các mẫu tổng hợp cho lớp thiểu số, cân bằng dit liệu. Sau đó, sử dụng ENN để loại bỏ các mẫu nhiễu khỏi tập dữ liệu đã được mở rộng bởi SMOTE.
Điều này giúp giảm nguy cơ overfitting và cải thiện khả năng phân loại. SMOTE-ENN là một trong những phương pháp hiệu quả đề xử lý dữ liệu không cân bằng và cải thiện hiệu suất mô hình phân loại. 16 Cơ sở lý thuyết và các nghiên cứu liên quan 2. Random Oversampling Random oversampling là một phương pháp trong xử lý mẫu mất cân bằng (imbalanced data) trong machine learning.
Một van dé phổ biến khi làm việc với dữ liệu mat cân bằng là khi một lớp có số lượng mẫu ít hơn nhiều so với lớp khác, điều nay có thé gây ra hiện tượng mô hình học máy không hoạt động tốt trên lớp thiểu sé. Random oversampling giúp giải quyết vấn đề này bằng cách tăng cường lượng mẫu của lớp thiểu số. Cụ thể, random oversampling hoạt động như sau: Xác định lớp thiểu số: Đầu tiên, bạn cần xác định lớp có số lượng mẫu ít hơn. Trong quá trình này, tạo ra các bản sao ngẫu nhiên của các mẫu từ lớp thiêu số dé làm cho số lượng mau của lớp này tương đương hoặc gần bằng với số lượng mẫu của lớp đa số.
Các bản sao này được tạo ngẫu nhiên từ các mẫu gốc của lớp thiểu số. Một số hạn chế khi sử dụng random oversampling bao gồm : e Tăng cường số lượng mẫu bang cách tạo ra các ban sao có thé làm gia tăng nguy cơ quá khớp dữ liệu (overfitting). Mô hình có thé học quá mức và không tổng quát hóa tốt cho dit liệu mới e Mat thông tin: Việc tạo ra các bản sao có thé làm mất đi sự đa dạng trong dữ liệu. Nếu dé liệu gốc trong lớp thiểu số không đủ đa dang, random oversampling có thể không cải thiện hiệu suất mô hình mà chỉ làm tăng lượng dữ liệu giả mạo.
e Tang độ phức tap: Tăng cường dữ liệu thông qua random oversampling có thé làm tăng độ phức tạp của mô hình. Điều này có thể làm cho việc đào tạo mô hình mắt thời gian hơn và tăng tài nguyên tính toán yêu cầu. 17 Cơ sở lý thuyết và các nghiên cứu liên quan 2. Các phương pháp kết hợp các thuật toán 2.
Voting Mô tả: Trong phương pháp Voting (bỏ phiếu), nhiều mô hình cùng tham gia vào việc ra quyết định. Mỗi mô hình đưa ra dự đoán của riêng mình và sau đó kết quả được quyết định bằng cách bỏ phiếu từ tất cả các mô hình. Có hai loại bỏ phiếu phd biến: bỏ phiếu cứng (hard voting) và bỏ phiếu mềm (soft voting). ¢ Bo phiếu cứng (Hard Voting): Mô hình đưa ra quyết định cuối cùng dựa trên đa số.
Nếu hơn một nửa các mô hình dự đoán là một lớp cụ thể, thì kết quả cuối cùng cũng là lớp đó. © Bo phiếu mềm (Soft Voting): Mô hình đưa ra quyết định dựa trên xác suất của các lớp. Nó tính toán xác suất cho mỗi lớp từ tất cả các mô hình và sau đó tổng hợp xác suất này. Lớp có xác suất cao nhất sẽ được chọn.
Ưu điểm: Dễ triển khai, làm việc tốt khi kết hợp các mô hình có tính đa dạng. Nhược điềm: Không phù hợp khi tất cả các mô hình có hiệu suất kém, không giảm overfitting. Stacking Mô tả: Stacking là một phương pháp mở rộng hơn và phức tạp hơn so với bỏ phiếu. Thay vì kết hợp dự đoán trực tiếp, stacking sử dụng một mô hình tổng hợp (gọi là mô hình meta-learner) để học cách kết hợp dự đoán từ các mô hình cơ bản.
Các mô hình cơ bản dự đoán trên dữ liệu huấn luyện được sử dụng đề huấn luyện mô hình meta-learner. Ưu điểm: Có kha năng học cách kết hợp dự đoán từ các mô hình cơ bản. Điều này giúp cải thiện hiệu suất và làm giảm overfitting. Nhược điểm: Cần nhiều đữ liệu huấn luyện để đào tạo mô hình meta-learner.
Phức tạp hơn và đòi hỏi thời gian và tài nguyên tính toán nhiều hơn. 18 Cơ sở lý thuyết và các nghiên cứu liên quan 2. Các nghiên cứu liên quan Tháng 10 năm 2017 John O. Awoyemi và các cộng sự [1] đã sử dung dữ liệu từ các giao dịch thẻ tín dụng của người châu Âu trong tháng 9 năm 2013, với hơn 280,000 giao dịch và chỉ khoảng 0.172% là gian lận [5].
Một phần quan trọng của nghiên cứu này là việc đánh giá hiệu suất của các phương pháp phân loại trên hai bộ dữ liệu được lây mẫu khác nhau từ dữ liệu không cân bằng gốc. Một bộ dữ liệu chia thành 2 tập dé test va train có tỷ lệ 10:9 và bộ dit liệu khác có ty lệ 34:66. Kết quả cụ thế của 2 tập này như sau: Phân phối dữ liệu 10:90. e Naive Bayes: Độ chính xác (Accuracy): 0.
e K-Nearest Neighbour: Độ chính xác (Accuracy): 0. ¢ Logistic Regression: Độ chính xác (Accuracy): 0. Phan phối dữ liệu 34:66. e Naive Bayes: Độ chính xác (Accuracy): 0.
e K-Nearest Neighbour: Độ chính xác (Accuracy): 0. e Logistic Regression: Độ chính xác (Accuracy): 0.