Đề án thạc sĩ ứng dụng học máy phát hiện gian lận thanh toán tại ngân hàng BIDV - PTIT

Nghiên cứu ứng dụng các phương pháp học máy nhằm phát hiện gian lận giao dịch hiệu quả trong hệ thống thanh toán ngân hàng, nâng cao an toàn tài chính.

• Tác giả: Đỗ Việt Anh
• Người hướng dẫn: PGS. Nguyễn Trọng Khánh
• Trường học: Học viện Công nghệ Bưu chính Viễn thông
• Chuyên ngành: Hệ thống thông tin
• Đề tài: Nghiên cứu và ứng dụng các phương pháp học máy để phát hiện gian lận giao dịch trong hệ thống thanh toán ngân hàng
• Loại tài liệu: Đề án tốt nghiệp thạc sĩ
• Năm xuất bản: 2025
• Địa điểm: Hà Nội

Tóm tắt

I. Tổng quan về học máy phát hiện gian lận thanh toán ngân hàng

Hệ thống thanh toán trực tuyến phát triển mạnh mẽ tạo ra nhiều tiện ích vượt bậc. Tuy nhiên nguy cơ gian lận tài chính cũng gia tăng nhanh chóng theo thời gian. Các thủ đoạn chiếm đoạt tiền ngày càng tinh vi và phức tạp hơn. Phương pháp kiểm soát thủ công hoặc dùng luật cố định bộc lộ nhiều điểm yếu chí mạng. Quy tắc cứng nhắc không thể theo kịp sự biến đổi của đối tượng tội phạm công nghệ cao. Hơn nữa lượng giao dịch mỗi giây tại các ngân hàng lớn như BIDV đạt con số khổng lồ. Việc rà soát thủ công gây chậm trễ quy trình và làm phiền khách hàng chân chính. Mô hình học máy xuất hiện như một công cụ mang tính bước ngoặt. Công nghệ này có khả năng tự động xử lý hàng triệu bản ghi giao dịch trong vài giây. Các thuật toán học hỏi từ dữ liệu lịch sử để phát hiện mẫu sai lệch chuẩn xác. Học máy giúp phát hiện gian lận thanh toán tự động với tốc độ xử lý vượt trội. Tỷ lệ phát hiện sai sót giảm rõ rệt so với các hệ thống truyền thống trước đây. Do đó việc áp dụng trí tuệ nhân tạo trở thành xu hướng tất yếu trong chuyển đổi số ngân hàng.

1.1. Bối cảnh gian lận giao dịch số tại ngân hàng

Hoạt động thanh toán số tăng trưởng với tốc độ đột phá trong hệ thống ngân hàng hiện nay. Khách hàng thực hiện hàng triệu giao dịch mỗi ngày qua ứng dụng di động và ví điện tử. Tiện ích tăng cao kéo theo các rủi ro lừa đảo trực tuyến ngày một tinh vi. Kẻ gian thường đánh cắp thông tin thẻ, giả mạo tài khoản hoặc chiếm đoạt quyền truy cập thiết bị. Những thủ đoạn này gây thiệt hại tài chính nặng nề cho cả ngân hàng và chủ tài khoản. Hơn thế nữa, uy tín thương hiệu của tổ chức tín dụng cũng bị ảnh hưởng tiêu cực nếu không có biện pháp phòng ngừa kịp thời. Do đó, việc xây dựng bức tường phòng thủ số chủ động là yêu cầu cấp bách.

1.2. Vai trò của công nghệ học máy trong an ninh tài chính

Học máy đóng vai trò cốt lõi trong chiến lược bảo mật thông tin của các tổ chức tài chính. Khác với quy tắc tĩnh, mô hình học máy liên tục thích nghi với các kịch bản lừa đảo mới. Thuật toán có thể khai phá mẫu hành vi bất thường ẩn sâu trong dữ liệu thanh toán. Tốc độ nhận diện đạt mức mili giây cho phép đưa ra quyết định ngăn chặn ngay tại thời điểm giao dịch phát sinh. Độ chính xác cao giúp hạn chế tình trạng báo động giả gây phiền toái cho người dùng hợp pháp. Nhờ đó, ngân hàng vừa tối ưu chi phí vận hành an ninh vừa duy trì trải nghiệm khách hàng mượt mà. Công nghệ này tạo nền tảng vững chắc cho hoạt động thanh toán số bền vững.

II. Thách thức học máy phát hiện gian lận thanh toán tại ngân hàng

Quá trình triển khai học máy trong ngân hàng đối mặt nhiều rào cản kỹ thuật phức tạp. Thách thức lớn nhất đến từ hiện tượng mất cân bằng dữ liệu cực kỳ nghiêm trọng. Tỷ lệ giao dịch gian lận thực tế chỉ chiếm một phần rất nhỏ, thường dưới 1%. Các thuật toán phân loại tiêu chuẩn có xu hướng thiên vị lớp chiếm đa số và bỏ sót hành vi nguy hiểm. Ngoài ra dữ liệu thanh toán ngân hàng có tính biến động liên tục theo thời gian thực. Kẻ gian thường xuyên thay đổi phương thức tấn công để qua mặt các chốt kiểm duyệt. Mô hình học máy dễ bị giảm hiệu năng nếu không được cập nhật mẫu mới định kỳ. Bên cạnh đó độ trễ tính toán đặt ra yêu cầu khắt khe cho hạ tầng máy chủ. Hệ thống phê duyệt thanh toán chỉ cho phép mô hình phản hồi trong vài chục mili giây. Nếu độ trễ quá cao trải nghiệm người dùng sẽ bị gián đoạn nghiêm trọng. Cuối cùng tính giải thích được của thuật toán cũng là rào cản cần vượt qua. Ngân hàng bắt buộc phải lý giải nguyên nhân chặn giao dịch để phục vụ báo cáo tuân thủ pháp lý.

2.1. Vấn đề dữ liệu mất cân bằng nghiêm trọng

Trong môi trường thực tế, phần lớn giao dịch ngân hàng là hoạt động mua bán hợp pháp. Tỷ lệ gian lận tài chính thường chỉ chiếm một tỷ lệ rất nhỏ trên tổng khối lượng giao dịch. Sự chênh lệch tỷ lệ này tạo ra vấn đề mất cân bằng dữ liệu cực đoan cho bài toán học máy. Nếu huấn luyện trực tiếp, mô hình sẽ mặc định dự đoán mọi giao dịch đều an toàn. Khi đó độ chính xác tổng thể có vẻ rất cao nhưng khả năng phát hiện kẻ xấu bằng không. Tình trạng này khiến các rủi ro thất thoát tài sản không thể được ngăn chặn kịp thời. Do đó, việc ứng dụng các kỹ thuật cân bằng mẫu trước huấn luyện là bắt buộc.

2.2. Áp lực thời gian phản hồi theo mili giây

Hệ thống ngân hàng cốt lõi xử lý hàng nghìn yêu cầu thanh toán cùng một thời điểm. Mọi quy trình kiểm tra bảo mật phải hoàn tất trong khoảng thời gian cực ngắn. Độ trễ suy luận của mô hình học máy cần duy trì ở mức vài chục mili giây. Nếu thời gian xử lý kéo dài, hệ thống thanh toán có nguy cơ tắc nghẽn cục bộ. Người dùng sẽ gặp phải hiện tượng treo ứng dụng hoặc giao dịch thất bại bất thường. Trải nghiệm tiêu cực này ảnh hưởng trực tiếp tới chất lượng dịch vụ của ngân hàng. Kỹ sư hệ thống phải tối ưu hóa cấu trúc mô hình nhằm duy trì tốc độ suy luận cao nhất.

III. Giải pháp học máy phát hiện gian lận thanh toán tối ưu

Nghiên cứu ứng dụng đề xuất sự kết hợp giữa mô hình học máy truyền thống và học sâu. Nhóm mô hình truyền thống bao gồm Random Forest và XGBoost đảm nhận phân tích đặc trưng tĩnh. Các thuật toán này có tốc độ huấn luyện nhanh và khả năng xử lý phi tuyến tính rất mạnh mẽ. XGBoost đặc biệt hiệu quả trong việc nắm bắt tương tác phức tạp giữa các trường thông tin giao dịch độc lập. Tuy nhiên các hành vi gian lận ngày nay thường diễn ra theo chuỗi hành động có chủ đích. Do đó mô hình học sâu mạng nơ-ron hồi quy Long Short-Term Memory được đưa vào sử dụng. Cấu trúc cổng nhớ của LSTM cho phép ghi nhớ các thông tin lịch sử giao dịch trong quá khứ. Thuật toán dễ dàng nhận biết sự thay đổi đột ngột về tần suất chuyển tiền hoặc vị trí địa lý. Sự phối hợp đa tầng này tạo ra một cơ chế phòng vệ đa lớp kiên cố. Nhờ việc tối ưu bộ nhớ đệm, hệ thống duy trì độ trễ xử lý cực thấp. Kết quả thực nghiệm chứng minh giải pháp mang lại độ chính xác cao và vận hành ổn định liên tục.

3.1. Thuật toán Random Forest và XGBoost cho đặc trưng tĩnh

Mô hình Random Forest và XGBoost là lựa chọn hàng đầu cho bài toán phân loại giao dịch đơn lẻ. Các thuật toán này xây dựng tập hợp nhiều cây quyết định để nâng cao độ chính xác tổng thể. Thuật toán xử lý tốt các biến số số học như giá trị tiền, số dư tài khoản và thời điểm thanh toán. Kỹ thuật boosting của XGBoost cho phép gán trọng số lớn hơn cho các giao dịch khó phân loại. Điều này hỗ trợ mô hình nhận diện chính xác các trường hợp gian lận hiếm gặp. Tốc độ thực thi tính bằng phần nghìn giây giúp hệ thống phản hồi tức thì với mọi truy vấn kiểm tra.

3.2. Mạng nơ ron LSTM khai thác chuỗi hành vi thời gian

Mạng nơ-ron hồi quy LSTM mang lại lợi thế vượt trội khi phân tích chuỗi giao dịch liên tục. Thay vì quan sát từng lệnh riêng biệt, LSTM theo dõi diễn biến hành vi của tài khoản theo thời gian. Cấu trúc cổng quên và cổng nhớ giúp mô hình lưu trữ ngữ cảnh giao dịch dài hạn. Những biểu hiện như chuyển tiền liên tiếp với tần suất dày đặc sẽ nhanh chóng bị phát hiện. Mô hình cũng tự động cảnh báo khi xuất hiện giao dịch từ thiết bị hoặc địa chỉ IP lạ. Quá trình huấn luyện tối ưu hóa giúp mạng LSTM duy trì khả năng tổng quát hóa rất cao trên dữ liệu mới.

IV. Ứng dụng học máy phát hiện gian lận thanh toán tại BIDV

Việc thử nghiệm mô hình học máy tại Trung tâm Phát triển Phần mềm BIDV mang lại kết quả rất khả quan. Mô hình LSTM chứng minh khả năng vận hành ổn định trong môi trường thực tế với tải trọng cao. Khi xử lý hơn 100 giao dịch mỗi giây, dịch vụ suy luận vẫn duy trì độ trễ ở mức vài chục mili giây. Cơ chế lưu bộ nhớ đệm thông minh giải quyết triệt để vấn đề truy vấn lịch sử tài khoản. Quá trình kiểm thử kéo dài nhiều giờ không ghi nhận lỗi rò rỉ bộ nhớ hoặc hiện tượng sập dịch vụ. Các chỉ số chất lượng Precision và Recall luôn giữ mức cao tương đương kết quả huấn luyện lý thuyết. Điều này khẳng định thuật toán không bị suy giảm sức mạnh khi bước vào thực tế. Hệ thống cung cấp cảnh báo kịp thời giúp bảo vệ tài sản khách hàng toàn diện. Ngân hàng có thể tự tin mở rộng hệ thống sang các kênh thanh toán phức tạp khác. Việc tích hợp học máy đánh dấu bước tiến công nghệ vượt bậc trong công tác quản trị rủi ro số.

4.1. Hiệu năng vận hành thực tế tại môi trường BIDV

Mô hình suy luận thời gian thực cho thấy tính bền bỉ và độ tin cậy rất cao. Dịch vụ duy trì hoạt động liên tục trong nhiều giờ mà không cần khởi động lại. Tốc độ đáp ứng trung bình đạt mức vài chục mili giây trên mỗi lệnh chuyển tiền. Khả năng chịu tải vượt mốc 100 giao dịch mỗi giây bảo đảm thông suốt cho hệ thống thanh toán ngân hàng. Việc nạp sẵn mô hình vào bộ nhớ RAM giúp giảm tối đa độ trễ trích xuất thông tin. Giải pháp loại bỏ hoàn toàn các nút thắt cổ chai trong luồng xử lý dữ liệu lớn. Ngân hàng BIDV hoàn toàn có thể yên tâm về tính sẵn sàng cao của hệ thống.

4.2. Định hướng mở rộng và nâng cấp hệ thống trong tương lai

BIDV định hướng tích hợp sâu hơn trí tuệ nhân tạo vào mọi dịch vụ số. Hệ thống sẽ tiếp tục được mở rộng để phân tích các giao dịch qua ví điện tử và cổng thanh toán quốc tế. Kiến trúc học máy đồ thị (Graph Neural Network) có thể được nghiên cứu triển khai tiếp theo. Mô hình đồ thị giúp phát hiện đường dây rửa tiền và tài khoản ảo có liên kết ngầm. Đồng thời, cơ chế tự động tái huấn luyện mô hình MLOps sẽ được hoàn thiện để cập nhật dữ liệu tự động. Những bước đi này giúp ngân hàng luôn dẫn đầu trong công tác an ninh số và bảo vệ khách hàng.

Trích đoạn nội dung tài liệu

CHƯƠNG 1: CƠ SỞ LÝ LUẬN 1. Giới thiệu chương Chương này trình bày các nền tảng lý thuyết phục vụ cho bài toán phát hiện gian lận giao dịch trong hệ thống thanh toán ngân hàng. Nội dung bao gồm: (i) tổng quan về gian lận tài chính và đặc điểm dữ liệu trong môi trường ngân hàng số; (ii) các phương pháp học máy và học sâu thường được sử dụng trong phát hiện gian lận; và (iii) tổng quan các nghiên cứu liên quan trong và ngoài nước. Mục tiêu của chương là xây dựng cơ sở khoa học làm nền tảng cho việc lựa chọn mô hình và xây dựng phương pháp trong các chương tiếp theo.

Gian lận tài chính trong hệ thống ngân hàng Gian lận tài chính trong hệ thống ngân hàng là một trong những thách thức lớn nhất đối với các tổ chức tín dụng trong bối cảnh chuyển đổi số mạnh mẽ hiện nay. Sự phát triển nhanh của các nền tảng giao dịch trực tuyến, thanh toán điện tử, ví số và hệ thống ngân hàng số đã mang lại nhiều tiện ích cho khách hàng, nhưng đồng thời cũng mở ra môi trường cho các hành vi gian lận ngày càng tinh vi và khó kiểm soát. Về bản chất, gian lận tài chính là hành vi cố ý chiếm đoạt tài sản hoặc thực hiện các giao dịch trái phép thông qua việc khai thác lỗ hổng bảo mật, giả mạo danh tính, hoặc thao túng thông tin giao dịch trong hệ thống ngân hàng. Trong thực tế, các hành vi gian lận có thể xuất phát từ cả bên ngoài và bên trong.

Gian lận bên ngoài bao gồm việc kẻ gian thu thập thông tin đăng nhập, thực hiện giao dịch bất hợp pháp, giả mạo tài liệu hoặc lừa đảo khách hàng thông qua các phương thức xã hội như phishing, smishing và vishing. Gian lận bên trong có thể xảy ra khi nhân viên có quyền truy cập hệ thống lợi dụng vị trí công tác để thay đổi dữ liệu hoặc thực hiện giao dịch không hợp lệ. Mặc dù tính chất của hai loại gian lận này khác nhau, nhưng đều có điểm chung là gây thiệt hại lớn về tài chính và uy tín cho ngân hàng. Đặc trưng nổi bật của gian lận tài chính là tính không đồng đều và khó dự đoán.

Tỷ lệ giao dịch gian lận trong hệ thống thường rất nhỏ so với tổng số giao dịch hợp lệ; tại nhiều ngân hàng, tỷ lệ này chỉ dao động quanh mức 0,1% đến 1%. Sự mất cân bằng nghiêm trọng này khiến nhiều phương pháp phân tích truyền thống không còn hiệu quả, 4 bởi các mô hình dễ bị thiên lệch và bỏ sót các dấu hiệu bất thường. Hơn nữa, hành vi gian lận không chỉ dựa trên một giao dịch đơn lẻ mà thường thể hiện qua chuỗi giao dịch liên tiếp. Những dấu hiệu như tăng đột biến số lượng giao dịch trong thời gian ngắn, thay đổi thiết bị đăng nhập, chuyển khoản tới nhiều tài khoản mới, hoặc thực hiện giao dịch vào các khung giờ bất thường là những yếu tố quan trọng phản ánh hành vi có rủi ro.

Sự biến đổi liên tục của các chiến thuật gian lận cũng khiến công tác phòng chống ngày càng phức tạp. Các đối tượng gian lận luôn điều chỉnh phương thức hoạt động nhằm né tránh sự giám sát của hệ thống, dẫn đến hiện tượng “drift” trong dữ liệu – tức là các đặc trưng phân biệt gian lận thay đổi theo thời gian. Điều này khiến những quy tắc nghiệp vụ được xây dựng thủ công nhanh chóng trở nên lỗi thời, đòi hỏi các hệ thống phát hiện phải có khả năng học hỏi liên tục, thích nghi và cập nhật theo diễn biến thực tế.