Bối cảnh và vấn đề nghiên cứu

Khóa luận tốt nghiệp với đề tài "Ứng dụng học máy trong phân khúc khách hàng" được thực hiện bởi sinh viên Vũ Trường Nam (lớp KTDL10, mã sinh viên 7103101333), thuộc Khoa Kinh Tế Số – Học viện Chính sách và Phát triển (Bộ Kế hoạch và Đầu tư), dưới sự hướng dẫn khoa học của TS. Nguyễn Hữu Xuân Trường, hoàn thành vào tháng 4 năm 2023. Công trình thuộc nhóm ngành Kinh tế số và Khoa học dữ liệu ứng dụng, với định hướng nghiên cứu thực nghiệm mô hình học máy trên dữ liệu kinh doanh thương mại.

Trong bối cảnh thời đại số hóa, sự bùng nổ của hạ tầng thu thập và lưu trữ thông tin đã biến dữ liệu giao dịch thành nguồn tài nguyên cốt lõi phục vụ tăng trưởng doanh nghiệp. Khách hàng không đơn thuần là người tiêu dùng cuối mà đóng vai trò quyết định đến hiệu quả kinh doanh. Để khai thác hiệu quả tệp khách hàng quy mô lớn, kỹ thuật phân khúc khách hàng (customer segmentation) trở thành công cụ quan trọng nhằm phân nhóm người mua dựa trên những thuộc tính tương đồng. Tuy nhiên, các phương pháp phân tích truyền thống bộc lộ hạn chế về tốc độ xử lý và khả năng bao quát khi quy mô dữ liệu mở rộng. Việc tích hợp các giải thuật học máy (Machine Learning) cho phép tự động hóa quy trình phân nhóm và nhận diện các cấu trúc, mẫu hình tiềm ẩn (hidden patterns) trong dữ liệu mà phương pháp thủ công khó phát hiện.

Mục tiêu nghiên cứu của khóa luận được phân định cụ thể theo cấu trúc văn bản:

  • Mục tiêu chung:
    1. Nghiên cứu tổng quan về học máy và kỹ thuật phân cụm dữ liệu.
    2. Nghiên cứu về thuật toán phân cụm K-means và thuật toán GMM (Gaussian Mixture Model).
  • Mục tiêu cụ thể:
    • Ứng dụng các công cụ phân tích dữ liệu để xây dựng mô hình phân cụm K-means và mô hình GMM trên dữ liệu thực tế.

Đối tượng nghiên cứu của đề tài bao gồm lý thuyết học máy, kỹ thuật phân cụm dữ liệu, cùng hai thuật toán cụ thể là K-means và GMM. Phạm vi nghiên cứu về mặt dữ liệu thực nghiệm được giới hạn từ tháng 11 năm 2018 đến tháng 4 năm 2019 (với mốc thời gian ghi nhận giao dịch cuối cùng là ngày 12 tháng 4 năm 2019). Về mặt phương pháp luận, đề tài tập trung vào nhánh học không giám sát (unsupervised learning) kết hợp với khung phân tích giá trị khách hàng RFM.

Cơ sở lý thuyết và phương pháp

Khóa luận thiết lập nền tảng nghiên cứu dựa trên các khái niệm học máy, phân cụm dữ liệu và kỹ thuật phân tích hành vi người tiêu dùng:

  • Khung lý thuyết học máy: Tác giả hệ thống hóa ba phân nhánh chính của học máy bao gồm: học có giám sát (supervised learning, áp dụng cho bài toán hồi quy và phân loại), học không giám sát (unsupervised learning, tập trung vào phân cụm dữ liệu, giảm chiều dữ liệu qua PCA/t-SNE) và học bán giám sát (semi-supervised learning). Trong đó, phân cụm dữ liệu thuộc nhóm học không giám sát, hướng tới mục tiêu tối ưu hóa tính "tương tự" (similar) giữa các cá thể nội cụm và tính "phi tương tự" (dissimilar) giữa các cụm tách biệt.
  • Phân loại kỹ thuật phân cụm: Văn bản phân biệt rõ cơ chế giữa phân cụm cứng (hard clustering) và phân cụm mềm/mờ (soft clustering). Phân cụm cứng (điển hình là K-means) gán mỗi điểm dữ liệu vào một cụm duy nhất dựa trên khoảng cách ngắn nhất tới tâm cụm. Phân cụm mềm (điển hình là GMM) xác định xác suất một điểm dữ liệu thuộc về từng cụm khác nhau thông qua phân phối xác suất.
  • Thuật toán phân cụm K-means: Kỹ thuật phân hoạch do James MacQueen đề xuất năm 1967. Thuật toán hoạt động dựa trên việc tối thiểu hóa hàm mất mát bình phương khoảng cách Euclid giữa điểm dữ liệu $x_i$ và tâm cụm $m_j$:

$$L(Y, M) = \sum_{i=1}^N \sum_{j=1}^K y_{ij} ||x_i - m_j||_2^2$$

Trong đó $y_{ij} \in {0, 1}$ và $\sum_{k=1}^K y_{ik} = 1$. Việc tối ưu được giải xen kẽ qua hai pha: cố định tâm cụm $M$ để gán nhãn cụm gần nhất cho $Y$, sau đó cố định $Y$ để tính lại tọa độ tâm cụm $m_j$ bằng trung bình cộng các điểm trong cụm.

  • Thuật toán Gaussian Mixture Model (GMM): Mô hình hóa phân bố dữ liệu dưới dạng hỗn hợp của các phân phối chuẩn nhiều chiều, với các tham số cốt lõi gồm trọng số thành phần $\alpha_k$ và ma trận hiệp phương sai $\Sigma_k$. Thuật toán kỳ vọng cực đại (Expectation-Maximization – EM) được áp dụng để tối đa hóa hàm log-likelihood.
  • Phương pháp xác định số cụm tối ưu: Phương pháp Elbow (dò tìm điểm gập của tổng bình phương khoảng cách) dùng cho K-means; phương pháp tiêu chuẩn thông tin Bayes BIC (Bayesian Information Criterion, do Hirotugu Akaike đề xuất năm 1974 và Gideon Schwarz phát triển năm 1978, dựa trên công thức $BIC = \log(n)k - 2\log(\hat{L})$) dùng để tìm giá trị cực tiểu cho GMM.
  • Chỉ số đánh giá mô hình phân cụm: Sử dụng 3 chỉ số định lượng bao gồm: chỉ số Calinski-Harabasz (tỷ số phân tán giữa các cụm và nội cụm, giá trị càng cao mô hình càng tốt), chỉ số Silhouette (đo lường độ liên kết nội cụm so với cụm lân cận trong khoảng $[-1, 1]$, càng gần 1 càng tốt), và chỉ số Davies-Bouldin (tỷ lệ khoảng cách nội cụm trên khoảng cách giữa các tâm cụm, giá trị càng nhỏ càng tốt).
  • Mô hình phân tích RFM (Recency - Frequency - Monetary): Phương pháp định lượng giá trị khách hàng dựa trên 3 chiều biến số: Recency (thời gian giao dịch gần nhất), Frequency (tần suất mua hàng), và Monetary (tổng giá trị tiền chi tiêu).

Nguồn dữ liệu thực nghiệm được trích xuất từ tệp thứ cấp Orders - Analysis Task.csv (tải về ngày 19 tháng 2 năm 2023), phản ánh đơn hàng thực tế của khách hàng. Toàn bộ quy trình tiền xử lý, trích xuất đặc trưng và huấn luyện mô hình được lập trình thực thi bằng ngôn ngữ Python.

Nội dung chính theo từng chương

Chương 1: Cơ sở lý thuyết phân cụm dữ liệu

Chương 1 tập trung xây dựng cơ sở toán học và lý thuyết thuật toán cho bài toán phân cụm. Tác giả khái quát định nghĩa học máy ở giao điểm của Thống kê, Trí tuệ nhân tạo và Khoa học máy tính. Trọng tâm của chương là việc phân tích cấu trúc giải thuật của hai phương pháp đại diện:

  1. Thuật toán K-means: Trình bày chi tiết công thức khoảng cách Euclid hai chiều $d_{AB} = \sqrt{(x_1 - x_2)^2 + (y_1 - y_2)^2}$, hàm mục tiêu sai số tổng thể $L(Y, M)$, và quy trình lặp 5 bước bao gồm: khởi tạo $K$ tâm cụm ngẫu nhiên, gán điểm dữ liệu vào tâm cụm gần nhất, cập nhật lại tâm cụm bằng trung bình số học, lặp lại cho đến khi hội tụ hoặc đạt ngưỡng lặp tối đa.
  2. Thuật toán GMM: Thiết lập hàm mật độ xác suất phân phối chuẩn một chiều $y = \frac{1}{\sigma \sqrt{2\pi}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}$, công thức tính trọng số thành phần $\alpha_k = N_k / N$, và ma trận hiệp phương sai có hiệu chỉnh tránh suy biến $\Sigma_k = \frac{\sum r_{ik}(x_i - \mu_k)(x_i - \mu_k)^T}{N_k} + \lambda_k I$. Quy trình 5 bước của thuật toán EM được mô tả rõ nhằm ước lượng tham số thông qua cực đại hóa hàm log-likelihood.

Ngoài ra, chương 1 còn chuẩn bị cơ sở đánh giá định lượng thông qua công thức của phương pháp chọn cụm Elbow, tiêu chuẩn thông tin BIC, cùng công thức toán của ba chỉ số đánh giá chất lượng phân cụm: Calinski-Harabasz, Silhouette và Davies-Bouldin.

Chương 2: Phân khúc khách hàng với học máy

Chương 2 là phần thực nghiệm trọng tâm, triển khai quy trình phân cụm dữ liệu theo 6 bước cụ thể:

  • Bước 1 – Tải dữ liệu và phân tích mô tả: Bộ dữ liệu Orders - Analysis Task.csv có tổng cộng 70.052 dòng và 17 thuộc tính. Các trường thông tin phản ánh chi tiết giao dịch như bảng sau:
Tên cột Ý nghĩa thuộc tính Kiểu dữ liệu
product_title Tiêu đề sản phẩm object
product_type Loại sản phẩm object
variant_title Tiêu đề biến thể object
variant_sku Mã quản lý kho của biến thể object
variant_id Định danh biến thể int64
customer_id Mã định danh khách hàng int64
order_id Mã định danh đơn hàng int64
day Ngày đặt hàng object
net_quantity Số lượng ròng int64
gross_sales Tổng doanh thu chưa giảm trừ float64
discounts Giá trị giảm giá float64
returns Giá trị hàng trả lại float64
net_sales Doanh thu thuần float64
taxes Thuế float64
total_sales Tổng doanh thu (net_sales + taxes) float64
returned_item_quantity Số lượng mặt hàng bị trả lại int64
ordered_item_quantity Số lượng sản phẩm đã đặt int64
  • Bước 2 – Tiền xử lý dữ liệu: Tác giả kiểm tra toàn diện và ghi nhận bộ dữ liệu không chứa giá trị khuyết thiếu (missing values) và không có dòng trùng lặp. Biến mới days được tạo ra bằng cách tính khoảng cách số ngày từ ngày mua hàng đến ngày ghi nhận cuối cùng là ngày 12 tháng 4 năm 2019. Dữ liệu sau đó được chuẩn hóa theo phân phối chuẩn Gaussian: $x' = (x - \bar{x}) / \sigma$.
  • Bước 3 – Lựa chọn biến mục tiêu theo RFM: Ba biến số được chọn tương ứng với khung RFM gồm: days (Recency – số ngày mua gần đây), net_quantity (Frequency – mức độ mua hàng), và total_sales (Monetary – giá trị chi tiêu).
  • Bước 4 – Lựa chọn số cụm $k$ tối ưu: Thực hiện phương pháp Elbow trên mô hình K-means và phương pháp BIC trên mô hình GMM. Cả hai biểu đồ đều xác định điểm gập và giá trị tối ưu tại $k = 3$.
  • Bước 5 & 6 – Thực hiện phân cụm và đánh giá mô hình: Huấn luyện mô hình K-means và GMM với $k = 3$. Kết quả phân bổ số lượng mẫu vào các cụm được ghi nhận như sau:
Cụm phân loại Số lượng khách hàng (K-means) Số lượng khách hàng (GMM)
Cụm số 0 26.549 10.573
Cụm số 1 38.563 58.614
Cụm số 2 4.940 865
Tổng số mẫu 70.052 70.052

Tiến hành đánh giá chất lượng phân cụm thông qua 3 chỉ số kỹ thuật:

Chỉ số đánh giá Mô hình K-means Mô hình GMM Tiêu chuẩn đánh giá
Silhouette 0,4335 0,3294 Càng cao càng tốt
Calinski-Harabasz 55.050,4 (phần phân tích ghi 55.050,9) 7.494 Càng cao càng tốt
Davies-Bouldin 0,8272 9 (bảng tóm tắt ghi 0,1106) Càng thấp càng tốt

Dựa trên các chỉ số định lượng, mô hình K-means cho kết quả vượt trội: chỉ số Silhouette cao hơn (0,4335 so với 0,3294) chứng minh tính liên kết nội cụm chặt chẽ; chỉ số Calinski-Harabasz cao hơn gấp nhiều lần (55.050,4 so với 7.494) khẳng định mức độ phân tách giữa các cụm rõ ràng; chỉ số Davies-Bouldin thấp hơn (0,8272 so với 9) cho thấy mức độ cô lập tốt giữa các tâm cụm. Do đó, tác giả lựa chọn kết quả của thuật toán K-means làm cơ sở dữ liệu phân khúc phục vụ đề xuất giải pháp.

Chương 3: Giải pháp đề xuất nâng cao khả năng tiếp cận với từng nhóm khách hàng

Theo kết cấu khóa luận và danh mục bảng biểu (Bảng 3.1: Thông số cụm số 0, Bảng 3.2: Thông số cụm số 1, Bảng 3.3: Thông số cụm số 2), chương 3 tập trung khai thác các đặc trưng thống kê của 3 nhóm khách hàng thu được từ mô hình K-means để xây dựng chiến lược tiếp cận. Thay vì áp dụng chính sách tiếp thị đại trà, tác giả đề xuất định hướng cá nhân hóa theo từng cụm:

  • Phân khúc Cụm số 0 (26.549 khách hàng): Được phân tích dựa trên các thông số đặc trưng về tần suất và giá trị giao dịch, định hướng xây dựng các biện pháp duy trì tương tác và kích thích mua sắm lặp lại.
  • Phân khúc Cụm số 1 (38.563 khách hàng): Là nhóm chiếm tỷ trọng lớn nhất trong tập dữ liệu, định hướng tập trung tối ưu hóa chi phí quảng cáo, xây dựng các chiến dịch marketing diện rộng nhằm gia tăng giá trị giỏ hàng và chuyển đổi sang nhóm khách hàng có giá trị cao hơn.
  • Phân khúc Cụm số 2 (4.940 khách hàng): Nhóm có quy mô nhỏ nhưng sở hữu các chỉ số giao dịch chuyên biệt (giá trị đơn hàng hoặc khối lượng mua cao), định hướng thiết kế các chính sách chăm sóc đặc quyền, chương trình tri ân nhằm nâng cao độ gắn kết và tỷ lệ giữ chân khách hàng.

Kết quả và đóng góp

Công trình nghiên cứu mang lại các kết quả thực nghiệm và giá trị đóng góp cụ thể:

  • Kết quả định lượng:
    • Xác định chính xác số lượng cụm tối ưu $k = 3$ cho bài toán phân khúc khách hàng từ tập dữ liệu 70.052 bản ghi bằng cả hai công cụ Elbow và BIC.
    • Thực hiện phân đoạn khách hàng chi tiết bằng thuật toán K-means thành 3 phân khúc rõ ràng: Cụm 0 (26.549 khách hàng, chiếm 37,90%), Cụm 1 (38.563 khách hàng, chiếm 55,05%), và Cụm 2 (4.940 khách hàng, chiếm 7,05%).
    • Cung cấp bảng kiểm định chéo hiệu năng giữa K-means và GMM, chứng minh K-means vượt trội hoàn toàn trên tập dữ liệu RFM thực nghiệm với chỉ số Silhouette đạt 0,4335 (so với 0,3294 của GMM) và Calinski-Harabasz đạt 55.050,4 (so với 7.494 của GMM).
  • Giải pháp đề xuất:
    • Đề xuất định hướng giải pháp marketing phân tầng cho 3 nhóm khách hàng riêng biệt dựa trên các thông số phân tích cụm, giúp doanh nghiệp phân bổ nguồn lực tiếp thị chính xác, giảm thiểu lãng phí chi phí quảng bá đại trà.
  • Đóng góp khoa học và ứng dụng thực tiễn:
    • Tác giả đã kết hợp thành công mô hình tiếp thị truyền thống RFM với các giải thuật học máy hiện đại, số hóa quy trình phân tích khách hàng.
    • Thiết lập một quy trình phân tích dữ liệu chuẩn hóa gồm 6 giai đoạn rõ ràng, từ tiền xử lý dữ liệu thô, biến đổi đặc trưng, lựa chọn số cụm tối ưu đa phương pháp, đến đánh giá kiểm định chặt chẽ bằng các chỉ số toán học.

Hạn chế và hướng nghiên cứu tiếp

  • Hạn chế:
    • Tập dữ liệu nghiên cứu giới hạn trong khoảng thời gian 6 tháng (từ tháng 11 năm 2018 đến tháng 4 năm 2019), chưa bao quát được các biến động mang tính chu kỳ năm hoặc tính mùa vụ kinh doanh kéo dài.
    • Các biến số đưa vào phân cụm mới chỉ tập trung vào 3 chiều RFM cơ bản (days, net_quantity, total_sales), chưa khai thác sâu các trường dữ liệu phong phú khác trong bảng như nhóm sản phẩm (product_type), mức độ nhạy cảm với khuyến mãi (discounts) hay tỷ lệ trả hàng (returns, returned_item_quantity).
    • Khóa luận thừa nhận các hạn chế nhất định về mặt thời gian và kinh nghiệm nghiên cứu thực tế của sinh viên trong quá trình thu thập và xử lý chuyên sâu.
  • Hướng nghiên cứu tiếp:
    • Mở rộng khung thời gian thu thập dữ liệu giao dịch để kiểm chứng độ ổn định của các cụm khách hàng qua nhiều mùa vụ.
    • Tích hợp thêm các thuật toán phân cụm khác (như phân cụm phân cấp Hierarchical Clustering, DBSCAN) và thử nghiệm kỹ thuật giảm chiều dữ liệu (PCA, t-SNE) trước khi phân cụm như đã tổng quan ở phần lý thuyết.

Giá trị tham khảo

Khóa luận là nguồn tài liệu hữu ích cho sinh viên, học viên thuộc các ngành Kinh tế số, Kỹ thuật dữ liệu, Khoa học dữ liệu, Hệ thống thông tin quản lý và Marketing công nghệ. Công trình đặc biệt thích hợp làm tài liệu tham khảo cho các đề tài khóa luận hoặc nghiên cứu ứng dụng kỹ thuật học không giám sát giải quyết bài toán kinh doanh.

Những nội dung có giá trị tham khảo chuyên môn cao bao gồm:

  • Phương pháp tính toán và biến đổi dữ liệu đơn hàng dạng nhật ký giao dịch thô sang các biến số định lượng theo chuẩn RFM (days, net_quantity, total_sales).
  • Cách thức kết hợp song song hai phương pháp Elbow và BIC để đưa ra căn cứ vững chắc khi lựa chọn số cụm tối ưu $k$.
  • Quy trình so sánh đối chuẩn giữa hai trường phái phân cụm cứng (K-means) và phân cụm mềm (GMM) dựa trên hệ thống 3 chỉ số đo lường học máy tiêu chuẩn (Silhouette, Calinski-Harabasz, Davies-Bouldin).

Câu hỏi thường gặp

  • Câu hỏi 1: Ba biến số nào trong bộ dữ liệu được tác giả lựa chọn để đại diện cho khung phân tích RFM?
    • Trả lời: Tác giả lựa chọn trường days (tính số ngày từ lần giao dịch gần nhất đến ngày 12/4/2019) đại diện cho Recency (R); trường net_quantity (số lượng hàng ròng) đại diện cho Frequency (F); và trường total_sales (tổng doanh thu bao gồm thuế và sau giảm trừ) đại diện cho Monetary (M).
  • Câu hỏi 2: Số lượng cụm tối ưu được xác định là bao nhiêu và dựa trên những phương pháp nào?
    • Trả lời: Số lượng cụm tối ưu được xác định là $k = 3$. Quyết định này dựa trên việc đối chiếu đồng thời hai phương pháp: phương pháp Elbow áp dụng cho thuật toán K-means và phương pháp tiêu chuẩn thông tin Bayes (BIC) áp dụng cho thuật toán GMM, cả hai đều thể hiện điểm biến đổi rõ nét tại $k = 3$.
  • Câu hỏi 3: Kết quả phân chia số lượng khách hàng vào 3 cụm giữa K-means và GMM có sự khác biệt như thế nào?
    • Trả lời: Với cùng quy mô 70.052 khách hàng, K-means chia thành: Cụm 0 (26.549), Cụm 1 (38.563), Cụm 2 (4.940). Trong khi đó, GMM phân bổ lệch nhiều hơn: Cụm 0 (10.573), Cụm 1 (58.614), Cụm 2 (865).
  • Câu hỏi 4: Căn cứ vào các chỉ số định lượng nào để tác giả khẳng định K-means tốt hơn GMM?
    • Trả lời: Tác giả căn cứ vào 3 chỉ số: Silhouette của K-means đạt 0,4335 (cao hơn mức 0,3294 của GMM); Calinski-Harabasz của K-means đạt 55.050,4 (cao hơn vượt trội so với 7.494 của GMM); và Davies-Bouldin của K-means đạt 0,8272 (thấp hơn mức 9 của GMM).
  • Câu hỏi 5: Bộ dữ liệu thực nghiệm có quy mô bao nhiêu bản ghi và thuộc khung thời gian nào?
    • Trả lời: Bộ dữ liệu Orders - Analysis Task.csv gồm có 70.052 dòng và 17 cột thuộc tính, ghi nhận các đơn đặt hàng thực tế phát sinh trong giai đoạn từ tháng 11 năm 2018 đến tháng 4 năm 2019 (với ngày giao dịch cuối cùng là 12/04/2019).

Kết luận

Khóa luận tốt nghiệp của sinh viên Vũ Trường Nam đã nghiên cứu toàn diện cơ sở lý thuyết và ứng dụng thực nghiệm thành công kỹ thuật học máy không giám sát vào bài toán phân khúc khách hàng thương mại. Thông qua việc phân tích tập dữ liệu 70.052 đơn hàng dựa trên ba biến số chuẩn hóa của mô hình RFM, nghiên cứu đã chứng minh số cụm tối ưu $k = 3$ bằng cả phương pháp Elbow và BIC. Kết quả đánh giá bằng các chỉ số Silhouette, Calinski-Harabasz và Davies-Bouldin khẳng định thuật toán K-means đạt độ tách biệt cụm vượt trội so với mô hình hỗn hợp Gaussian (GMM). Đây là cơ sở thực nghiệm vững chắc để tác giả đề xuất các giải pháp tiếp cận và định hướng chiến lược tiếp thị chuyên biệt cho từng phân khúc khách hàng trong doanh nghiệp.