Tổng quan nghiên cứu

Trong kỷ nguyên bùng nổ thông tin số, các hệ thống bán lẻ hiện đại ghi nhận hàng triệu giao dịch mỗi ngày, tạo nên những kho dữ liệu khổng lồ với dung lượng lên đến hàng terabyte. Tuy nhiên, theo ước tính của các chuyên gia công nghệ, chỉ khoảng 5% đến 10% khối lượng dữ liệu lưu trữ này được phân tích thực tế để phục vụ hoạt động kinh doanh, dẫn đến tình trạng dư thừa dữ liệu nhưng thiếu hụt tri thức giá trị. Nghiên cứu của học viên Nguyễn Khắc Giáo dưới sự hướng dẫn khoa học của Giáo sư, Tiến sĩ Vũ Đức Thi tại Trường Đại học Công nghệ thuộc Đại học Quốc gia Hà Nội vào năm 2013 đã tập trung giải quyết bài toán khai thác luật kết hợp từ cơ sở dữ liệu giao dịch của siêu thị bán lẻ.

Mục tiêu trọng tâm của đề tài là nghiên cứu, chuyển đổi và ứng dụng các giải pháp khai phá dữ liệu tiên tiến từ mô hình giao dịch nhị phân 0-1 truyền thống sang mô hình giao dịch có chứa số lượng hàng hóa thực tế. Vấn đề cốt lõi đặt ra là làm thế nào để tối ưu hóa không gian tìm kiếm và tăng tốc độ xử lý khi khối lượng giao dịch tăng theo cấp số nhân. Phạm vi nghiên cứu được triển khai trên dữ liệu giao dịch thực tế của hệ thống siêu thị bán lẻ tại Hà Nội với quy mô hơn 10.000 bản ghi giao dịch điển hình. Kết quả nghiên cứu mang lại ý nghĩa thực tiễn sâu sắc cho ngành bán lẻ, giúp các nhà quản lý dự đoán chính xác hành vi tiêu dùng, tăng hiệu quả bán chéo sản phẩm từ 15% đến 20% và tối ưu hóa chi phí vận hành kho bãi lên đến 25%.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng trên nền tảng quy trình Phát hiện tri thức trong cơ sở dữ liệu (Knowledge Discovery in Databases - KDD) do Fayyad khởi xướng và lý thuyết khai phá luật kết hợp do Agrawal đề xuất từ những năm 1993. Khung lý thuyết của luận văn tập trung vào 4 khái niệm nền tảng:

  • Độ hỗ trợ (Support): Tỷ lệ phần trăm số lượng giao dịch chứa đồng thời cả tập mục X và Y trên tổng số giao dịch toàn hệ thống.
  • Độ tin cậy (Confidence): Xác suất có điều kiện đo lường khả năng khách hàng mua mặt hàng Y khi đã chọn mua mặt hàng X trong giỏ hàng.
  • Tập mục phổ biến (Frequent Itemset): Tập hợp các mặt hàng có độ hỗ trợ lớn hơn hoặc bằng ngưỡng hỗ trợ tối thiểu (minsup) do người dùng xác định trước.
  • Thuật toán Apriori và đặc tính tỉa nhánh: Nguyên lý khẳng định mọi tập con của một tập mục phổ biến đều phải là tập mục phổ biến, giúp thu hẹp đáng kể không gian tìm kiếm tổ hợp.

Khác với các nghiên cứu trước đây vốn chỉ xem xét sự hiện diện của mặt hàng dưới dạng nhị phân có (1) hoặc không (0), luận văn tích hợp lý thuyết khai phá tập mục có phần cao thông qua thuật toán AFSM (Advanced Fast Share Measure) để xử lý trực tiếp số lượng từng món hàng trong hóa đơn.

Phương pháp nghiên cứu

Nghiên cứu sử dụng phương pháp thực nghiệm kết hợp định lượng trên tập mẫu dữ liệu bao gồm 10.000 giao dịch mua sắm được trích xuất từ hệ thống quản lý bán lẻ POS của siêu thị. Phương pháp chọn mẫu ngẫu nhiên phân tầng được áp dụng trong khoảng thời gian 6 tháng để đảm bảo tính đại diện cho các khung giờ cao điểm và các nhóm ngành hàng thiết yếu như thực phẩm, đồ gia dụng và hóa mỹ phẩm.

Lý do lựa chọn thuật toán AFSM làm phương pháp phân tích chủ đạo vì thuật toán này cho phép tính toán trực tiếp trọng số đóng góp của từng sản phẩm thông qua số lượng mua thực tế, giảm thiểu số lần quét lại toàn bộ cơ sở dữ liệu lớn xuống còn 2 lần thay vì phải duyệt đệ quy liên tục như thuật toán Apriori truyền thống. Quy trình nghiên cứu được chia làm 5 giai đoạn liên tục: thu thập và làm sạch dữ liệu loại bỏ hơn 3% bản ghi lỗi, chuyển đổi dữ liệu sang định dạng văn bản và bảng quan hệ chuẩn, thiết lập ngưỡng minsup từ 10% đến 30% và minconf từ 50% đến 80%, thi hành thuật toán chiết xuất luật mạnh, và cuối cùng là kiểm thử đánh giá tính đúng đắn trên phần mềm giao diện đồ họa.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thử nghiệm chương trình khai phá dữ liệu trên cơ sở dữ liệu thực nghiệm đã mang lại 4 phát hiện quan trọng:

  1. Hiệu năng xử lý vượt trội của thuật toán AFSM: Thời gian thực thi để tìm tập mục phổ biến giảm từ 35% đến 40% so với việc áp dụng thuật toán Apriori cổ điển trên cùng một tập dữ liệu có chứa thuộc tính số lượng.
  2. Tỷ lệ phát hiện luật kết hợp mạnh đạt độ chính xác cao: Khi thiết lập ngưỡng hỗ trợ tối thiểu ở mức 15% và độ tin cậy tối thiểu ở mức 60%, hệ thống đã trích xuất thành công 48 luật kết hợp có ý nghĩa thực tế cao từ hơn 10.000 giao dịch mẫu.
  3. Xu hướng tiêu dùng gắn liền với các nhóm sản phẩm cụ thể: Khách hàng mua các mặt hàng thuộc nhóm bơ và sữa bột có tới 75% khả năng sẽ mua thêm tã giấy hoặc quần áo trẻ em, với độ hỗ trợ toàn hệ thống đạt 18.5%.
  4. Độ tin cậy của phần mềm tự động hóa: Giao diện trực quan hóa được xây dựng cho phép tự động phát hiện và cảnh báo 100% các lỗi nhập thiếu thông tin hoặc sai lệch định dạng đầu vào trước khi tiến hành khai phá.

Thảo luận kết quả

Nguyên nhân chính giúp thuật toán đạt hiệu năng cao là nhờ cơ chế lọc sớm các tập ứng viên không tiềm năng thông qua phép đo chia sẻ nhanh, hạn chế hiện tượng bùng nổ tổ hợp trong bộ nhớ RAM. Khi so sánh với các nghiên cứu kinh điển của nhóm tác giả Agrawal hay các mô hình cây FP-Growth, giải pháp xử lý dữ liệu định lượng của luận văn phản ánh chính xác hơn hành vi thực tế của người tiêu dùng, tránh được sự sai lệch do việc đánh đồng giữa giao dịch mua 1 sản phẩm với giao dịch mua số lượng lớn 50 sản phẩm.

Các dữ liệu thực nghiệm trong nghiên cứu có thể được trực quan hóa rất hiệu quả thông qua biểu đồ đường biểu diễn mối quan hệ nghịch biến giữa thời gian thực thi (tính bằng mili-giây) và ngưỡng minsup (từ 5% đến 35%). Đồng thời, bảng ma trận nhiệt phân bố độ tin cậy giữa 10 nhóm hàng chủ lực cho thấy mật độ tương quan dày đặc nhất xuất hiện giữa nhóm bánh mì, bơ và trứng với độ tin cậy dao động từ 68% đến 82%. Phát hiện này cung cấp bằng chứng định lượng vững chắc để ban quản lý siêu thị tái cấu trúc mặt bằng bán lẻ.

Đề xuất và khuyến nghị

Dựa trên kết quả nghiên cứu thực nghiệm, luận văn đưa ra 4 nhóm giải pháp chiến lược có tính ứng dụng cao cho các doanh nghiệp bán lẻ:

  1. Tái sắp xếp không gian trưng bày hàng hóa: Bộ phận Vận hành siêu thị cần bố trí các quầy hàng có luật kết hợp mạnh (như bánh mì, bơ, sữa) nằm ở các vị trí liền kề hoặc trên cùng một lối đi chính nhằm kích thích hành vi mua sắm bổ sung, hướng tới mục tiêu tăng 12% doanh số mua kèm ngẫu hứng trong vòng 3 tháng đầu triển khai.
  2. Thiết kế gói sản phẩm khuyến mãi chéo (Cross-selling Combo): Phòng Marketing cần xây dựng các chương trình giảm giá trực tiếp từ 5% đến 10% khi khách hàng mua combo các sản phẩm có độ tin cậy trên 70%, dự kiến nâng giá trị trung bình trên mỗi hóa đơn lên 18% trong giai đoạn quý 3 và quý 4.
  3. Nâng cấp hệ thống phần mềm quản lý POS và ERP: Phòng Công nghệ thông tin cần tích hợp trực tiếp module khai phá dữ liệu AFSM vào máy chủ cơ sở dữ liệu bán hàng để tự động cập nhật báo cáo xu hướng tiêu dùng theo chu kỳ 30 ngày, hoàn thiện việc cài đặt trong vòng 6 tháng.
  4. Chuẩn hóa quy trình làm sạch và quản trị dữ liệu giao dịch: Ban Giám đốc cùng đội ngũ kỹ sư dữ liệu cần ban hành quy chuẩn kiểm tra định dạng và khử nhiễu tự động cho 100% dữ liệu phát sinh hàng ngày, duy trì tỷ lệ bản ghi rác dưới mức 1% trước năm 2025.

Đối tượng nên tham khảo luận văn

Công trình nghiên cứu mang giá trị học thuật và ứng dụng thực tiễn cao, đặc biệt hữu ích cho 4 nhóm đối tượng sau:

  • Học viên cao học và nghiên cứu sinh ngành Hệ thống thông tin, Khoa học máy tính: Tài liệu cung cấp cơ sở toán học chi tiết, các phép chứng minh tính chất tập phổ biến và mã giả thuật toán AFSM để phát triển các đề tài mở rộng về khai phá dữ liệu nâng cao.
  • Giám đốc điều hành và Quản lý chuỗi siêu thị bán lẻ: Nắm bắt phương pháp khoa học để tối ưu hóa vị trí kệ hàng, lập kế hoạch tồn kho cho hơn 5.000 danh mục sản phẩm và hoạch định chiến dịch tiếp thị dựa trên hành vi mua sắm thực tế.
  • Chuyên viên phân tích dữ liệu kinh doanh (Data Analysts): Tham khảo quy trình 5 bước tiền xử lý dữ liệu và cách thiết lập các ngưỡng minsup, minconf phù hợp cho bài toán Market Basket Analysis trong doanh nghiệp.
  • Kỹ sư phần mềm và nhà phát triển hệ thống ERP: Sử dụng kiến trúc module và thiết kế giao diện đồ họa GUI trong luận văn làm tài liệu mẫu để tích hợp các tính năng phân tích dữ liệu thông minh vào hệ thống phần mềm bán lẻ thương mại.

Câu hỏi thường gặp

Thuật toán AFSM có ưu điểm gì vượt trội so với thuật toán Apriori truyền thống? Thuật toán AFSM cho phép xử lý trực tiếp các giao dịch có chứa số lượng hàng hóa thực tế thay vì chỉ mã hóa nhị phân 0 và 1. Nhờ kỹ thuật đo lường chia sẻ nhanh, thuật toán giảm thiểu số lần quét toàn bộ cơ sở dữ liệu, giúp rút ngắn thời gian xử lý từ 35% đến 40% trên các tập dữ liệu quy mô lớn.

Làm thế nào để xác định ngưỡng hỗ trợ tối thiểu (minsup) và độ tin cậy tối thiểu (minconf) phù hợp? Trong thực tế, việc thiết lập ngưỡng phụ thuộc vào quy mô dữ liệu và mục tiêu kinh doanh. Thử nghiệm trên 10.000 giao dịch cho thấy ngưỡng minsup từ 10% đến 20% và minconf từ 60% đến 75% là mức tối ưu để lọc được khoảng 30 đến 50 luật mạnh, tránh tình trạng phát sinh hàng nghìn luật rác gây quá tải.

Luận văn xử lý dữ liệu bị khuyết thiếu và dữ liệu nhiễu như thế nào? Nghiên cứu áp dụng quy trình làm sạch 5 bước, trong đó các bản ghi thiếu trường dữ liệu quan trọng sẽ được loại bỏ hoặc điền giá trị ước lượng dựa trên phân phối thống kê, giúp giảm tỷ lệ dữ liệu nhiễu từ 3.2% xuống dưới 0.5% trước khi đưa vào mô hình khai phá.

Giải pháp trong luận văn có thể áp dụng cho các siêu thị vừa và nhỏ có lượng giao dịch từ 500 đến 1.000 đơn mỗi ngày không? Hoàn toàn có thể áp dụng. Với phần mềm giao diện đồ họa trực quan đã được đóng gói hoàn chỉnh, các siêu thị quy mô vừa và nhỏ chỉ mất khoảng 2 đến 3 phút để phân tích toàn bộ dữ liệu giao dịch trong tháng, không đòi hỏi đầu tư hệ thống máy chủ đắt tiền.

Các luật kết hợp tìm được có thể ứng dụng cho sàn thương mại điện tử không? Có thể ứng dụng trực tiếp vào tính năng gợi ý sản phẩm tự động dạng "Khách hàng mua sản phẩm này cũng thường mua kèm...". Các doanh nghiệp thương mại điện tử triển khai thuật toán này có thể nâng tỷ lệ chuyển đổi giỏ hàng thành công từ 15% lên đến 25%.

Kết luận

  • Luận văn đã hệ thống hóa toàn diện cơ sở lý thuyết về quy trình KDD và các mô hình khai phá luật kết hợp trong cơ sở dữ liệu quy mô lớn.
  • Đề xuất và ứng dụng thành công thuật toán AFSM để giải quyết bài toán giao dịch chứa số lượng hàng hóa thực tế, khắc phục triệt để hạn chế của mô hình nhị phân 0-1.
  • Xây dựng hoàn chỉnh phần mềm thử nghiệm với giao diện người dùng thân thiện, đạt hiệu năng xử lý nhanh hơn 35% so với phương pháp truyền thống trên 10.000 bản ghi.
  • Cung cấp 4 nhóm giải pháp chiến lược giúp các siêu thị bán lẻ tăng 15% đến 20% doanh thu bán chéo và tối ưu hóa không gian trưng bày sản phẩm.
  • Lộ trình 12 tháng tới khuyến nghị mở rộng mô hình sang khai phá luật kết hợp mờ và xử lý dữ liệu dòng thời gian thực trên nền tảng điện toán đám mây.

Quý độc giả, nhà nghiên cứu và doanh nghiệp quan tâm có thể liên hệ trực tiếp với Khoa Công nghệ Thông tin thuộc Trường Đại học Công nghệ – Đại học Quốc gia Hà Nội để tra cứu toàn văn luận văn và nhận chuyển giao giải pháp công nghệ hữu ích này.