Nghiên Cứu Phát Triển Kỹ Thuật Gợi Ý Mua Hàng Theo Phiên Dựa Trên Mô Hình Học Sâu

• Tác giả: Nguyễn Tuấn Khang
• Người hướng dẫn: TS. Nguyễn Phú Bình
• Trường học: Học viện Khoa học và Công nghệ
• Chuyên ngành: Khoa học máy tính
• Đề tài: Nghiên Cứu Kỹ Thuật Gợi Ý Mua Hàng Dựa Trên Mô Hình Học Sâu
• Loại tài liệu: luận án tiến sĩ
• Năm xuất bản: 2023
• Địa điểm: Hà Nội

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• 1. MỞ ĐẦU
• 1.1. Tính cấp thiết của đề tài
• 1.2. Mục tiêu của luận án
• 1.3. Phạm vi nghiên cứu
• 1.4. Phương pháp nghiên cứu
• 2. TỔNG QUAN VỀ HỆ GỢI Ý VÀ MỘT SỐ MÔ HÌNH MẠNG NƠ-RON HỌC SÂU
• 2.1. Bài toán hệ gợi ý
• 2.1.1. Tổng quan về hệ gợi ý
• 2.1.2. Phân loại bài toán hệ gợi ý
• 2.1.3. Hai bài toán cơ sở
• 2.1.3.1. Định nghĩa phiên làm việc
• 2.1.3.2. Bài toán 1 - Dự báo hành vi mua hàng
• 2.1.3.3. Bài toán 2 - Hệ gợi ý top − k
• 2.2. Lý thuyết mạng nơ-ron học sâu
• 2.2.1. Mô hình mạng nơ-ron học sâu truyền thẳng
• 2.2.2. Mô hình mạng nơ-ron rộng và sâu
• 2.2.3. Mô hình mạng nơ-ron biến đổi
• 2.2.4. Lý thuyết mạng nơ-ron đồ thị
• 2.2.4.1. Định nghĩa về đồ thị
• 2.2.4.2. Biểu diễn đồ thị
• 2.2.4.3. Mô hình mạng nơ-ron đồ thị
• 2.3. Phép biến đổi nhúng
• 2.3.1. Khái niệm phép biến đổi nhúng
• 2.3.2. Phép biến đổi nhúng với dữ liệu rời rạc
• 2.3.3. Phép biến đổi nhúng với dữ liệu theo chuỗi tuần tự
• 2.3.4. Phép biến đổi nhúng với dữ liệu đồ thị
• 2.4. Các nghiên cứu liên quan
• 3. ĐỀ XUẤT MÔ HÌNH MẠNG NƠ-RON HỌC SÂU CHO BÀI TOÁN MUA HÀNG
• 3.1. Phát biểu bài toán
• 3.2. Các mô hình đề xuất
• 3.2.1. Mạng nơ-ron học rộng và sâu
• 3.2.2. Mạng nơ-ron biến đổi
• 3.3. Kỹ thuật thực nghiệm
• 3.3.1. Bộ dữ liệu thực nghiệm
• 3.3.2. Xử lý và trích chọn đặc trưng
• 3.3.3. Cách thức chia dữ liệu
• 3.3.4. Độ đo đánh giá mô hình
• 3.4. Kết quả thực nghiệm
• 3.4.1. Kết quả thực nghiệm
• 3.4.2. So sánh với các nghiên cứu liên quan
• 3.5. Kết luận chương
• 4. ĐỀ XUẤT MÔ HÌNH MẠNG NƠ-RON ĐỒ THỊ CHO BÀI TOÁN TOP-K
• 4.1. Phát biểu bài toán
• 4.2. Đề xuất thiết kế đồ thị
• 4.2.1. Biểu diễn phiên làm việc bằng đồ thị
• 4.2.2. Đề xuất thiết kế đồ thị
• 4.2.3. Minh họa biểu diễn các đồ thị đề xuất
• 4.2.4. Thảo luận về các các đồ thị đề xuất
• 4.3. Các mô hình đề xuất
• 4.3.1. Mạng nơ-ron truyền thẳng (FNN)
• 4.3.2. Mạng nơ-ron đồ thị (GNN)
• 4.4. Kỹ thuật thực nghiệm
• 4.4.1. Tiền xử lý dữ liệu
• 4.4.2. Chuẩn hóa dữ liệu huấn luyện
• 4.4.3. Độ đo đánh giá mô hình
• 4.4.4. Tối ưu hóa hàm mất mát
• 4.5. Kết quả và nhận xét
• 4.5.1. Kết quả thực nghiệm
• 4.5.2. So sánh với các nghiên cứu liên quan
• 4.6. Kết luận chương
• 5. ĐỀ XUẤT CẢI TIẾN MÔ HÌNH GNN VỚI PHÉP NHÚNG
• 5.1. Thách thức của bài toán phân loại đa nhãn
• 5.2. Phương pháp nhúng đồ thị
• 5.2.1. Phép biến đổi nhúng đỉnh
• 5.2.2. Phép biến đổi nhúng đồ thị
• 5.3. Đề xuất cải tiến mô hình GNN
• 5.3.1. Chuyển đổi bài toán đa nhãn thành nhị phân
• 5.3.2. Đề xuất mạng nơ-ron truyền thẳng nhị phân
• 5.3.3. Đề xuất mô hình nhúng đồ thị K nhị phân
• 5.4. Kỹ thuật thực nghiệm
• 5.4.1. Chuẩn hóa dữ liệu huấn luyện
• 5.4.2. Thuật toán huấn luyện mô hình
• 5.4.3. Tối ưu mô hình GNN
• 5.5. Kết quả và nhận xét
• 5.5.1. Kết quả thực nghiệm
• 5.5.2. So sánh với các nghiên cứu liên quan
• 5.6. Kết luận chương
• KẾT LUẬN
• Kết luận chung. Kết luận chung
• Kết quả đạt được. Kết quả đạt được
• Các đóng góp chính của luận án. Các đóng góp chính của luận án
• Hướng phát triển trong tương lai. Hướng phát triển trong tương lai
• CÁC CÔNG TRÌNH CỦA TÁC GIẢ
• TÀI LIỆU THAM KHẢO
• PHỤ LỤC
• A. Bộ dữ liệu Yoochoose
• A.1. Mô tả bộ dữ liệu
• A.2. Một số phân tích về bộ dữ liệu
• A.2.1. Phân tích số lượng nhấp theo phiên
• A.2.2. Phân tích số lượng nhấp và mua hàng theo giờ

Tóm tắt

I. Tổng Quan Về Nghiên Cứu Kỹ Thuật Gợi Ý Mua Hàng Học Sâu

Thương mại điện tử phát triển mạnh mẽ, mang đến sự đa dạng sản phẩm và dịch vụ cho người dùng. Sự chuyển dịch từ mua sắm truyền thống sang trực tuyến tạo ra lượng lớn dữ liệu về hành vi người dùng. Việc phân tích dữ liệu này giúp các nhà cung cấp dịch vụ nâng cao trải nghiệm khách hàng và tăng doanh thu. Các hệ thống gợi ý ngày càng được phát triển để cung cấp trải nghiệm cá nhân hóa tốt nhất. Bằng cách sử dụng các mô hình gợi ý tiên tiến, người dùng có thể khám phá nội dung, sản phẩm và dịch vụ phù hợp, từ đó nâng cao sự hài lòng. Do đó, phát triển một hệ thống gợi ý hiệu quả là rất quan trọng. Theo [1], ngành công nghiệp thương mại điện tử đã trải qua sự tăng trưởng đột phá. Từ đó, tối ưu hóa gợi ý là vô cùng cần thiết.

1.1. Sự Phát Triển Của Thương Mại Điện Tử Và Nhu Cầu Gợi Ý

Thương mại điện tử đang bùng nổ, với sự gia tăng về số lượng người dùng và tương tác trên các nền tảng trực tuyến lớn. Sự phát triển này mang lại nhiều lựa chọn cho người dùng, nhưng cũng gây khó khăn trong việc tìm kiếm sản phẩm phù hợp. Các hệ thống gợi ý đóng vai trò quan trọng trong việc giúp người dùng khám phá sản phẩm họ có thể quan tâm, tăng trải nghiệm người dùng và thúc đẩy doanh số. Các thuật toán gợi ý được cải tiến liên tục để đáp ứng nhu cầu ngày càng cao của thị trường. Việc áp dụng học sâu vào Recommender system hứa hẹn nhiều tiềm năng.

1.2. Vai Trò Quan Trọng Của Hệ Thống Gợi Ý Trong Bán Lẻ

Hệ thống gợi ý trở thành công cụ không thể thiếu trong việc nâng cao trải nghiệm khách hàng và thúc đẩy kinh doanh. Các hệ thống này giúp người dùng khám phá sản phẩm, nội dung và dịch vụ phù hợp với sở thích của họ, từ đó tăng sự hài lòng và gắn bó. Bằng cách phân tích hành vi người dùng, hệ thống gợi ý cung cấp các đề xuất cá nhân hóa, giúp khách hàng dễ dàng tìm thấy những gì họ cần. Tối ưu hóa gợi ý là một phần quan trọng trong chiến lược kinh doanh của các doanh nghiệp bán lẻ hiện đại.

II. Thách Thức Trong Kỹ Thuật Gợi Ý Mua Hàng Cá Nhân Hóa

Các mô hình gợi ý truyền thống tập trung vào sở thích dài hạn của khách hàng, bỏ qua các tương tác ngắn hạn. Các phương pháp như đề xuất dựa trên nội dung và lọc dựa trên cộng tác có hạn chế trong việc nắm bắt bản chất động của hành vi người dùng, đặc biệt là khi sở thích thay đổi theo từng phiên làm việc. Điều này tạo ra nhu cầu về các phương pháp gợi ý linh hoạt hơn, có khả năng thích ứng với ngữ cảnh hiện tại của người dùng. Sự xuất hiện của các mô hình học sâu và mạng nơ-ron mở ra hướng đi mới cho việc giải quyết các thách thức này. Chính vì vậy, gợi ý mua hàng dựa trên phiên làm việc đang trở thành xu hướng.

2.1. Hạn Chế Của Các Mô Hình Gợi Ý Mua Hàng Truyền Thống

Các mô hình truyền thống thường không thể xử lý thông tin cho người dùng ẩn danh hoặc nắm bắt được sự thay đổi nhanh chóng trong sở thích của khách hàng. Phương pháp đề xuất dựa trên nội dung yêu cầu thông tin chi tiết về sản phẩm và người dùng. Lọc dựa trên cộng tác gặp khó khăn khi có ít dữ liệu tương tác. Cả hai phương pháp này đều không hiệu quả trong việc dự đoán hành vi người dùng trong một phiên làm việc cụ thể. Do đó, cần các phương pháp mới để giải quyết các hạn chế này, đặc biệt với Recommender system trong thương mại điện tử.

2.2. Sự Thay Đổi Nhanh Chóng Của Hành Vi Người Dùng Trong Phiên

Hành vi người dùng không phải là tĩnh mà thay đổi liên tục trong một phiên làm việc. Sở thích có thể thay đổi dựa trên các sản phẩm đã xem, thông tin tìm kiếm và các yếu tố ngữ cảnh khác. Các mô hình gợi ý cần có khả năng thích ứng với những thay đổi này để cung cấp các đề xuất phù hợp. Điều này đòi hỏi các thuật toán có khả năng xử lý dữ liệu theo thời gian thực và nắm bắt các mẫu tương tác phức tạp. Các mô hình Học sâu có khả năng học các biểu diễn dữ liệu phức tạp, giúp giải quyết vấn đề này hiệu quả hơn.

III. Phương Pháp Gợi Ý Mua Hàng Dựa Trên Mô Hình Học Sâu

Phương pháp gợi ý mua hàng dựa trên phiên (Session-based recommendation) là một hướng tiếp cận đầy hứa hẹn để cung cấp các gợi ý chính xác và kịp thời dựa trên tương tác cấp phiên của người dùng. Nhiệm vụ là dự đoán hành vi tiếp theo của người dùng dựa trên hành vi của phiên làm việc hiện tại. Các mô hình học sâu có khả năng học các biểu diễn phức tạp của dữ liệu phiên, giúp cải thiện độ chính xác của gợi ý. Việc nghiên cứu và phát triển các mô hình này là rất quan trọng để nâng cao trải nghiệm khách hàng và tăng doanh thu. Các mô hình mạng nơ-ron như RNN, CNN và Transformer đang được ứng dụng rộng rãi trong lĩnh vực này.

3.1. Giới Thiệu Về Hệ Thống Gợi Ý Dựa Trên Phiên Làm Việc

Hệ thống gợi ý dựa trên phiên (Session-based recommendation) tập trung vào việc dự đoán hành vi của người dùng trong một phiên làm việc cụ thể. Các mô hình này sử dụng thông tin về các sản phẩm đã xem, tìm kiếm và tương tác khác trong phiên để đưa ra các đề xuất. Ưu điểm của phương pháp này là không yêu cầu thông tin về lịch sử mua sắm dài hạn của người dùng, giúp giải quyết vấn đề "khởi đầu lạnh". Khai phá dữ liệu từ phiên làm việc là yếu tố then chốt.

3.2. Ứng Dụng Học Sâu Để Phân Tích Dữ Liệu Phiên Giao Dịch

Học sâu cung cấp các công cụ mạnh mẽ để phân tích dữ liệu phiên giao dịch. Các mô hình mạng nơ-ron có thể học các biểu diễn phức tạp của dữ liệu, giúp nắm bắt các mối quan hệ giữa các sản phẩm và hành vi của người dùng. Ví dụ: mạng nơ-ron hồi quy (RNN) có thể xử lý chuỗi các sự kiện trong phiên, trong khi mạng nơ-ron tích chập (CNN) có thể trích xuất các đặc trưng quan trọng từ dữ liệu. Phân tích dữ liệu hiệu quả giúp tối ưu hóa gợi ý.

3.3. Các Kiến Trúc Mạng Nơ ron Phổ Biến Trong Gợi Ý Dựa Trên Phiên

Một số kiến trúc mạng nơ-ron phổ biến trong gợi ý mua hàng dựa trên phiên bao gồm: RNN (đặc biệt là LSTM và GRU) để xử lý chuỗi tương tác, CNN để trích xuất các đặc trưng từ dữ liệu phiên, và Transformer để nắm bắt các mối quan hệ dài hạn giữa các sản phẩm. Các mô hình này thường được kết hợp với các kỹ thuật embedding để biểu diễn sản phẩm và người dùng dưới dạng các vector số. Mô hình hóa dữ liệu là yếu tố quan trọng.

IV. Ứng Dụng Mạng Nơ ron Đồ Thị Trong Gợi Ý Mua Hàng Top K

Để xây dựng hệ gợi ý top − k, việc biểu diễn dữ liệu phiên làm việc và thể hiện rõ mối quan hệ giữa các phiên dữ liệu là rất quan trọng. Đồ thị là hướng tiếp cận phù hợp để biểu diễn dữ liệu phiên làm việc của hàng triệu khách hàng. Mô hình mạng nơ-ron đồ thị có thể tận dụng cấu trúc đồ thị để học các biểu diễn tốt hơn về sản phẩm và người dùng. Luận án đề xuất biểu diễn đồ thị theo nhiều cách tiếp cận khác nhau, từ đồ thị đơn đến đồ thị đa quan hệ. Mục tiêu là cải thiện khả năng đưa ra các gợi ý sản phẩm cá nhân, phù hợp và kịp thời cho khách hàng. Dựa theo [14], biểu diễn đồ thị phù hợp với hệ thống Recommender system.

4.1. Biểu Diễn Dữ Liệu Phiên Làm Việc Bằng Đồ Thị

Đồ thị cho phép biểu diễn các mối quan hệ giữa các sản phẩm trong một phiên làm việc, cũng như giữa các phiên làm việc khác nhau. Các nút trong đồ thị có thể đại diện cho sản phẩm, người dùng hoặc phiên, trong khi các cạnh đại diện cho các tương tác hoặc mối quan hệ giữa chúng. Việc lựa chọn cách biểu diễn đồ thị phù hợp có ảnh hưởng lớn đến hiệu quả của mô hình gợi ý. Cần cân nhắc kỹ các yếu tố như độ phức tạp của đồ thị, khả năng nắm bắt các mối quan hệ quan trọng và khả năng mở rộng.

4.2. Ưu Điểm Của Mạng Nơ ron Đồ Thị Trong Xử Lý Dữ Liệu Đồ Thị

Mạng nơ-ron đồ thị (GNN) được thiết kế đặc biệt để xử lý dữ liệu đồ thị. Các mô hình GNN có thể học các biểu diễn của các nút và cạnh trong đồ thị, đồng thời tận dụng cấu trúc đồ thị để cải thiện độ chính xác của dự đoán. GNN có khả năng lan truyền thông tin giữa các nút lân cận, giúp nắm bắt các mối quan hệ phức tạp trong đồ thị. Ứng dụng GNN vào Data mining giúp cải thiện độ chính xác và tính hiệu quả.

4.3. Các Phương Pháp Biểu Diễn Đồ Thị Khác Nhau Cho Bài Toán Gợi Ý

Có nhiều cách khác nhau để biểu diễn đồ thị cho bài toán gợi ý. Một số phương pháp phổ biến bao gồm: đồ thị phiên (mỗi phiên là một đồ thị riêng biệt), đồ thị sản phẩm (các sản phẩm là các nút, cạnh thể hiện sự đồng xuất hiện trong các phiên), và đồ thị người dùng-sản phẩm (các nút đại diện cho người dùng và sản phẩm, cạnh thể hiện các tương tác). Việc lựa chọn phương pháp biểu diễn phù hợp phụ thuộc vào đặc điểm của dữ liệu và mục tiêu của bài toán. Sử dụng Data modeling phù hợp mang lại kết quả tốt nhất.

V. Cải Tiến Mô Hình GNN Với Phép Nhúng Đồ Thị Để Gợi Ý Mua Hàng

Luận án đề xuất phương pháp nhúng đồ thị để tối ưu hóa kết quả của mô hình gợi ý. Phép nhúng đồ thị cho phép phát hiện thêm sự tương đồng trong quá trình khách hàng lựa chọn sản phẩm, từ đó đưa ra gợi ý top − k sản phẩm phù hợp. Phương pháp này giúp mô hình học được các biểu diễn tốt hơn về đồ thị phiên làm việc. Các kỹ thuật embedding đỉnh và đồ thị con có thể được sử dụng để cải thiện hiệu quả của mô hình. Sự kết hợp giữa GNN và embedding giúp tối ưu hóa gợi ý.

5.1. Tầm Quan Trọng Của Phép Nhúng Đồ Thị Trong Bài Toán Phân Loại Đa Nhãn

Trong bài toán phân loại đa nhãn, mỗi phiên có thể liên quan đến nhiều sản phẩm khác nhau. Phép nhúng đồ thị giúp biểu diễn mỗi phiên dưới dạng một vector số, từ đó cho phép mô hình học các mối quan hệ giữa các phiên và các sản phẩm. Điều này đặc biệt quan trọng khi số lượng sản phẩm lớn và các phiên có độ dài khác nhau. Kỹ thuật word embedding hoặc product embedding có thể được áp dụng.

5.2. Các Kỹ Thuật Nhúng Đồ Thị Phổ Biến Node Embedding Graph Embedding

Có hai loại kỹ thuật embedding chính: embedding đỉnh (biểu diễn mỗi nút trong đồ thị dưới dạng một vector) và embedding đồ thị (biểu diễn toàn bộ đồ thị dưới dạng một vector). Embedding đỉnh có thể được sử dụng để biểu diễn sản phẩm hoặc người dùng, trong khi embedding đồ thị có thể được sử dụng để biểu diễn phiên. Các kỹ thuật embedding phổ biến bao gồm Node2Vec, DeepWalk và Graph Convolutional Networks. Lựa chọn kỹ thuật embedding phù hợp là rất quan trọng.

5.3. Kết Hợp GNN Và Embedding Để Cải Thiện Gợi Ý Mua Hàng Top K

Bằng cách kết hợp GNN và embedding, chúng ta có thể tận dụng lợi thế của cả hai phương pháp. GNN có thể học các biểu diễn tốt hơn về cấu trúc đồ thị, trong khi embedding có thể biểu diễn các nút và cạnh dưới dạng các vector số. Sự kết hợp này cho phép mô hình nắm bắt các mối quan hệ phức tạp trong dữ liệu và đưa ra các đề xuất cá nhân hóa chính xác hơn. Mô hình Hybrid models này mang lại hiệu quả vượt trội.

VI. Đánh Giá Hiệu Quả Và Hướng Phát Triển Kỹ Thuật Gợi Ý Mua Hàng

Việc đánh giá hiệu quả của các mô hình gợi ý là rất quan trọng để đảm bảo rằng chúng mang lại kết quả tốt nhất. Các độ đo phổ biến bao gồm độ chính xác, độ tin cậy và độ bao phủ. Các kết quả thực nghiệm cần được so sánh với các mô hình cơ sở và các nghiên cứu liên quan để đánh giá tính hiệu quả của mô hình đề xuất. Các hướng phát triển trong tương lai bao gồm việc tích hợp thêm thông tin ngữ cảnh và cá nhân hóa, cũng như việc sử dụng các mô hình học sâu tiên tiến hơn. Đánh giá hiệu quả là bước không thể thiếu. Dựa theo [3], Performance evaluation là quan trọng nhất.

6.1. Các Độ Đo Đánh Giá Hiệu Quả Của Mô Hình Gợi Ý Mua Hàng

Các độ đo phổ biến để đánh giá hiệu quả của mô hình gợi ý bao gồm: độ chính xác (tỷ lệ các sản phẩm được gợi ý mà người dùng thực sự mua), độ tin cậy (mức độ mà mô hình có thể gợi ý các sản phẩm phù hợp với sở thích của người dùng), và độ bao phủ (tỷ lệ sản phẩm trong danh mục mà mô hình có thể gợi ý). Các độ đo này cần được xem xét cùng nhau để đánh giá toàn diện hiệu quả của mô hình. Accuracy và Reliability là hai yếu tố then chốt.

6.2. So Sánh Với Các Nghiên Cứu Liên Quan Về Gợi Ý Mua Hàng

Để đánh giá tính hiệu quả của mô hình đề xuất, cần so sánh kết quả với các nghiên cứu liên quan trong lĩnh vực gợi ý mua hàng. So sánh này giúp xác định những cải tiến mà mô hình mang lại so với các phương pháp hiện có. Các yếu tố cần so sánh bao gồm độ chính xác, độ tin cậy, độ phức tạp tính toán và khả năng mở rộng của mô hình. Đối chiếu với các Recommendation algorithms khác.

6.3. Hướng Phát Triển Trong Tương Lai Của Kỹ Thuật Gợi Ý Mua Hàng

Các hướng phát triển trong tương lai của kỹ thuật gợi ý mua hàng bao gồm: tích hợp thêm thông tin ngữ cảnh (ví dụ: thời gian, địa điểm, thiết bị) để cải thiện độ chính xác của gợi ý, cá nhân hóa sâu hơn bằng cách sử dụng thông tin về sở thích, lịch sử mua sắm và hành vi người dùng, và sử dụng các mô hình học sâu tiên tiến hơn (ví dụ: Transformer, Knowledge graph recommendation) để nắm bắt các mối quan hệ phức tạp trong dữ liệu. Personalization là xu hướng tất yếu.