Tổng quan nghiên cứu

Thương mại điện tử toàn cầu và tại Việt Nam đang chứng kiến những bước tăng trưởng vượt bậc với hàng triệu giao dịch diễn ra đồng thời mỗi ngày. Theo báo cáo của Inside Intelligence, Việt Nam xếp vị trí thứ 5 thế giới về tốc độ tăng trưởng thương mại điện tử năm 2022 với mức tăng ấn tượng 19%. Cùng với cơ cấu dân số trẻ có độ tuổi trung bình 33.7 tuổi, thị trường Việt Nam mở ra tiềm năng khổng lồ cho các nền tảng bán lẻ kỹ thuật số. Cơ sở pháp lý cho hoạt động này cũng đã được Chính phủ quy định cụ thể tại Nghị định 52/2013/NĐ-CP về Thương mại điện tử. Điển hình trên thế giới, doanh số của Amazon đã tăng trưởng 36% chỉ trong vòng một năm, từ 280 tỷ USD năm 2019 lên 386 tỷ USD vào năm 2020 nhờ việc ứng dụng tối ưu hệ thống gợi ý sản phẩm cá nhân hóa.

Tuy nhiên, thách thức lớn nhất mà các sàn thương mại điện tử hiện nay phải đối mặt là tình trạng quá tải thông tin, ma trận tương tác người dùng thưa thớt và hạn chế của các thuật toán truyền thống. Nghiên cứu này được thực hiện nhằm xây dựng và cải tiến hai kiến trúc mạng học sâu tiên tiến là Neural Collaborative Filtering (NCF) và Wide and Deep Learning (WD), giúp khai phá hiệu quả nguồn dữ liệu khổng lồ gồm 12,627,608 giao dịch để đưa ra các gợi ý sản phẩm chính xác.

Được triển khai và hoàn thành trong giai đoạn từ tháng 09/2023 đến tháng 12/2023 tại Trường Đại học Bách Khoa - ĐHQG TP.HCM, công trình mang ý nghĩa thực tiễn sâu sắc. Giải pháp hướng tới việc tối ưu hóa tỷ lệ nhấp chuột (CTR), nâng cao tỷ lệ giữ chân khách hàng (Retention Rate) và gia tăng tỷ lệ chuyển đổi đơn hàng (Conversion Rate), giúp các doanh nghiệp tối ưu chi phí hạ tầng tính toán và gia tăng lợi thế cạnh tranh.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu tập trung khai thác và phát triển hai mô hình học sâu chủ đạo trong lĩnh vực hệ thống gợi ý:

Thứ nhất là mô hình Neural Collaborative Filtering (NCF). Đây là kiến trúc học sâu kết hợp giữa thành phần tuyến tính Generalized Matrix Factorization (GMF) và thành phần phi tuyến Multi-Layer Perceptron (MLP). NCF giải quyết triệt để hạn chế của phương pháp nhân ma trận cổ điển bằng cách ánh xạ các vector nhúng (embedding) của người dùng và sản phẩm qua các tầng nơ-ron sâu, nắm bắt các mối quan hệ tương tác phức tạp và phi tuyến tính.

Thứ hai là mô hình Wide and Deep Learning (WD). Kiến trúc này giải quyết bài toán cân bằng giữa khả năng ghi nhớ (memorization) và khả năng tổng quát hóa (generalization). Thành phần Wide sử dụng mô hình tuyến tính với các phép biến đổi tích chéo (cross-product transformations) để ghi nhớ các mẫu tương tác lịch sử. Trong khi đó, thành phần Deep sử dụng các vector nhúng dày đặc 32 chiều kết hợp với mạng truyền thẳng nhiều lớp để khám phá các mẫu hành vi mới chưa từng xuất hiện.

Ngoài ra, nghiên cứu tích hợp thuật toán giảm chiều dữ liệu Principal Component Analysis (PCA) và phương pháp phân cụm không giám sát K-Means nhằm phục vụ việc phân nhóm người dùng. Chất lượng xếp hạng của hệ thống được định lượng thông qua độ đo Normalized Discounted Cumulative Gain (NDCG@K), kết hợp với các chỉ số sai số chuẩn như MAE, MSE và RMSE.

Phương pháp nghiên cứu

Nghiên cứu sử dụng tập dữ liệu thực nghiệm chuẩn Contoso BI Demo của Microsoft với quy mô 18,869 khách hàng, 2,517 sản phẩm và 12,627,608 đơn hàng giao dịch. Toàn bộ dữ liệu được chuẩn hóa và tái cấu trúc trên hệ quản trị cơ sở dữ liệu SQLite thông qua 4 bảng quan hệ chính gồm products, product_sub_category, customers và orders.

Phương pháp phân tích được thực hiện qua các giai đoạn bài bản trên nền tảng thư viện Keras:

  1. Tiền xử lý dữ liệu: Trích xuất các trường đặc trưng nhân khẩu học gồm vị trí địa lý (GeographyKey), tình trạng hôn nhân (MaritalStatus), giới tính (Gender), thu nhập hàng năm (YearlyIncome), trình độ học vấn (Education) và nghề nghiệp (Occupation).
  2. Huấn luyện mô hình: Cải tiến cấu trúc đầu vào của NCF bằng việc tích hợp trường thông tin phân loại sản phẩm (Categories) cùng cặp User-Item. Đối với mạng Wide and Deep, toàn bộ vector đặc trưng của thành phần Deep được chia sẻ sang thành phần Wide để tối ưu hóa khả năng biểu diễn toàn diện.
  3. Đánh giá kiểm chứng: Sử dụng phương pháp Elbow và chỉ số Silhouette dao động từ -1 đến 1 để xác định số cụm tối ưu khi phân cụm 18,869 người dùng. Sau đó, chọn ngẫu nhiên mẫu 500 người dùng từ mỗi cụm để kiểm tra mức độ giao thoa giữa 70 sản phẩm do mô hình dự đoán với 200 sản phẩm được ưa chuộng nhất của từng cụm. Quá trình nghiên cứu và thực nghiệm diễn ra liên tục từ ngày 04/09/2023 đến ngày 18/12/2023.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm trên bộ dữ liệu 12,627,608 bản ghi giao dịch đã mang lại 4 phát hiện quan trọng:

Thứ nhất, việc bổ sung thuộc tính danh mục sản phẩm (Categories) vào mạng NCF đã khắc phục hoàn toàn hiện tượng ma trận thưa thớt khi người dùng có quá ít tương tác với 2,517 sản phẩm. Kết quả cho thấy hàm mất mát (loss) trên tập kiểm thử giảm ổn định, độ chính xác dự đoán tăng rõ rệt so với mô hình NCF thuần túy chỉ sử dụng cặp tương tác đơn lẻ.

Thứ hai, cấu trúc cải tiến kết hợp dữ liệu đầu vào của thành phần Deep sang thành phần Wide trong mô hình Wide and Deep giúp mạng học được đồng thời cả quy luật rõ ràng lẫn các mối quan hệ tiềm ẩn. Mô hình đạt được sự cân bằng tối ưu giữa việc ghi nhớ các sản phẩm thuộc nhóm bán chạy như phụ kiện máy tính (Category 22) và tổng quát hóa sở thích cá nhân cho từng nhóm nhân khẩu học.

Thứ ba, sự kết hợp giữa PCA và K-Means đã phân chia thành công 18,869 khách hàng thành các cụm người dùng có tính chất đồng nhất cao. Dữ liệu nhân khẩu học cho thấy độ tuổi trung bình của khách hàng là 48 tuổi, mức thu nhập bình quân hằng năm đạt 60,000 USD và trung bình mỗi người có 2 con.

Thứ tư, khi kiểm tra tính tổng quát trên tập mẫu 500 người dùng mỗi cụm, tập 70 sản phẩm được mô hình Wide and Deep đề xuất có độ giao thoa rất cao với danh sách 200 sản phẩm thực tế được ưa thích nhất của cụm đó. Điểm số xếp hạng NDCG đạt mức cao và phân bổ đồng đều, khẳng định mô hình có năng lực gợi ý chính xác theo ngữ cảnh nhóm.

Thảo luận kết quả

Khi so sánh với thuật toán Apriori truyền thống đang được áp dụng tại một số sàn thương mại điện tử như Shopee, các mạng học sâu NCF và Wide and Deep thể hiện sự vượt trội rõ rệt. Thuật toán Apriori yêu cầu 3 phép tính lặp lại liên tục về độ hỗ trợ (Support), độ tin cậy (Confidence) và độ nâng (Lift) trực tiếp trên toàn bộ cơ sở dữ liệu giao dịch, gây nghẽn cổ chai nghiêm trọng khi hệ thống mở rộng quy mô. Ngược lại, các mô hình học sâu cho phép huấn luyện ngoại tuyến (offline training) trên các siêu máy tính và phục vụ dự đoán trực tuyến với độ trễ cực thấp.

Các dữ liệu thực nghiệm trong nghiên cứu có thể được trực quan hóa sinh động qua các đồ thị hàm mất mát giữa tập train và validation, biểu đồ phân bố điểm số NDCG trung bình, đồ thị biến dạng WCSS của phương pháp Elbow và biểu đồ Silhouette. Những kết quả này chứng minh rằng việc kết hợp học biểu diễn sâu với các đặc trưng nhân khẩu học là chìa khóa để giải quyết bài toán gợi ý quy mô lớn trong môi trường kinh doanh thực tế.

Đề xuất và khuyến nghị

Dựa trên các kết quả đạt được, luận văn đưa ra 4 nhóm giải pháp cụ thể:

  1. Tích hợp kiến trúc NCF cải tiến với dữ liệu danh mục sản phẩm vào phân hệ gợi ý giỏ hàng nhằm nâng cao tỷ lệ nhấp chuột (CTR) thêm 15% đến 20% trong quý 1 và quý 2 năm 2024. Giải pháp này do Đội ngũ Kỹ sư Dữ liệu và Kỹ sư Trí tuệ Nhân tạo chủ trì thực hiện.
  2. Triển khai mô hình Wide and Deep kết hợp 6 trường đặc trưng nhân khẩu học vào trang chủ và trang chi tiết sản phẩm để nâng cao tỷ lệ chuyển đổi đơn hàng (Conversion Rate) từ 12% đến 18% trong vòng 6 tháng. Đơn vị thực hiện là Bộ phận Phát triển Sản phẩm phối hợp cùng Đội ngũ Quản trị Vận hành Sàn.
  3. Ứng dụng quy trình tiền xử lý PCA và thuật toán phân cụm K-Means định kỳ 30 ngày một lần để tự động cập nhật phân khúc 18,869 khách hàng, bảo đảm độ phủ sản phẩm đề xuất đạt trên 85%. Nhiệm vụ này do Nhóm Phân tích Kinh doanh (BI) và Khoa học Dữ liệu chịu trách nhiệm.
  4. Xây dựng hạ tầng máy tính chuyên dụng phục vụ việc tinh chỉnh siêu tham số và thiết lập hệ sinh thái kiểm thử A/B Testing liên tục theo chỉ số NDCG@K để duy trì độ trễ phản hồi dưới 50ms trong lộ trình 9 tháng. Chủ thể thực hiện là Bộ phận Hạ tầng và Vận hành Hệ thống MLOps.

Đối tượng nên tham khảo luận văn

Nội dung và kết quả của công trình nghiên cứu mang lại giá trị thiết thực cho 4 nhóm đối tượng chính:

Thứ nhất, các nhà nghiên cứu, giảng viên và học viên cao học chuyên ngành Khoa học máy tính và Trí tuệ nhân tạo. Luận văn cung cấp khung lý thuyết hoàn chỉnh về mạng NCF, Wide and Deep cùng phương pháp toán học đánh giá chất lượng xếp hạng qua chỉ số NDCG và phân cụm PCA kết hợp K-Means.

Thứ hai, các kỹ sư dữ liệu (Data Engineers) và chuyên gia MLOps tại các doanh nghiệp công nghệ. Tài liệu cung cấp giải pháp xử lý hơn 12 triệu giao dịch, kiến trúc kết nối giữa SQLite, Keras và quy trình tối ưu hóa vector nhúng 32 chiều trong môi trường thực tiễn.

Thứ ba, các giám đốc công nghệ (CTO), giám đốc tiếp thị (CMO) và nhà quản trị sàn thương mại điện tử. Công trình đưa ra bài toán kinh tế rõ ràng về việc đầu tư hệ thống đề xuất nhằm thúc đẩy doanh thu tăng trưởng tương tự như mức tăng 36% của Amazon.

Thứ tư, các nhà phát triển phần mềm và kiến trúc sư giải pháp muốn ứng dụng hệ thống gợi ý thông minh vào các nền tảng bán lẻ trực tuyến, dịch vụ streaming hay mạng xã hội.

Câu hỏi thường gặp

Mô hình NCF cải tiến vượt trội hơn bộ lọc cộng tác truyền thống ở những điểm nào? Mô hình NCF kết hợp giữa GMF và MLP giúp giải quyết triệt để tính phi tuyến tính của hành vi người dùng, vượt qua giới hạn phép nhân ma trận tuyến tính đơn thuần. Đặc biệt, việc bổ sung nhãn danh mục sản phẩm vào không gian nhúng 32 chiều giúp hệ thống dự đoán chính xác ngay cả khi dữ liệu tương tác bị thưa.

Tại sao nghiên cứu lại kết hợp PCA và K-Means để kiểm tra mô hình Wide and Deep? Thuật toán PCA giảm số chiều dữ liệu nhưng vẫn giữ lại tối đa phương sai, loại bỏ nhiễu và tăng cường khả năng phân tách cụm. Khi kết hợp với K-Means cùng phương pháp Elbow và Silhouette, hệ thống dễ dàng phân nhóm 18,869 khách hàng thành các cụm đặc trưng rõ rệt để đối chiếu với kết quả dự đoán của mô hình.

Chỉ số NDCG có vai trò gì vượt trội so với các thước đo MAE hay RMSE? Các thước đo MAE hay RMSE chỉ đánh giá mức độ sai lệch điểm số dự đoán mà không phản ánh được thứ tự ưu tiên của sản phẩm. Chỉ số NDCG@K sử dụng hàm suy giảm logarit để phạt nặng các sản phẩm liên quan nhưng bị xếp ở vị trí thấp, phản ánh chính xác trải nghiệm thực tế khi người dùng lướt xem danh sách gợi ý.

Làm thế nào để giải quyết bài toán dữ liệu thưa khi khách hàng mới có ít giao dịch? Nghiên cứu giải quyết bài toán này bằng cách đưa các đặc trưng danh mục và thông tin nhân khẩu học như độ tuổi 48, thu nhập 60,000 USD và tình trạng hôn nhân vào thành phần Deep. Nhờ đó, hệ thống nhanh chóng định vị nhóm sở thích tương đồng để gợi ý sản phẩm phù hợp ngay từ phiên truy cập đầu tiên.

Doanh nghiệp có cần đầu tư siêu máy tính quá tốn kém để vận hành hai mô hình này không? Không bắt buộc. Doanh nghiệp có thể phân tách quy trình: huấn luyện mô hình ngoại tuyến định kỳ trên hạ tầng điện toán đám mây theo đợt, sau đó triển khai mô hình đã tối ưu hóa lên hệ thống máy chủ thông thường để trả kết quả gợi ý trực tuyến trong vài phần nghìn giây, giúp tiết kiệm chi phí đầu tư.

Kết luận

  • Luận văn đã thiết kế và hiện thực thành công hai kiến trúc học sâu tiên tiến NCF và Wide and Deep Learning trên tập dữ liệu quy mô 12,627,608 giao dịch.
  • Đề xuất cải tiến đột phá bằng việc bổ sung thuộc tính danh mục sản phẩm vào mạng NCF, giải quyết hiệu quả bài toán ma trận tương tác thưa thớt.
  • Hoàn thiện cấu trúc mạng Wide and Deep thông qua việc chia sẻ đặc trưng giữa thành phần Deep và Wide, dung hòa xuất sắc giữa khả năng ghi nhớ và tổng quát hóa.
  • Xây dựng phương pháp đánh giá thực nghiệm độc đáo kết hợp PCA, K-Means và chỉ số NDCG@K trên tập mẫu 500 người dùng mỗi cụm để khẳng định độ tin cậy của mô hình.
  • Cung cấp cơ sở khoa học và định hướng công nghệ vững chắc, giúp các sàn thương mại điện tử tại Việt Nam nâng cao trải nghiệm khách hàng và tối ưu hóa doanh thu.

Lộ trình tiếp theo trong 12 tháng tới bao gồm việc thử nghiệm mô hình trong môi trường sản xuất thực tế và tích hợp cơ chế học tăng cường (Reinforcement Learning) nhằm tối ưu hóa gợi ý theo thời gian thực. Các nhà nghiên cứu và doanh nghiệp quan tâm có thể tiếp tục kế thừa khung kiến trúc này để triển khai trên các hệ thống thương mại điện tử quy mô lớn.