TRƯỜNG ĐẠI HỌC BÁCH KIOA HÀ NỘI LUẬN VĂN THẠC SĨ Mô hình hoá chuỗi hành vi người dùng trong bài toán Hệ gợi ý NGUYÊN VĂN TÚC guryentnel 003@)gznail com Ngành Khoa học máy tính Giảng viền hướng dẫn: PGS. Thin Quang Khost Chữlý của GVHD Viện: Công nghệ Thông tin và Truyền thông HÀ NỘI, 03/2021 Lời Cảm Ơn Đầu tiên, em xin được gửi lời cảm ơn chân thành đến các thầy giáo, cô giáo thuộc trường dại học Bách Khoa Hà Nội. Trong quá trình học tập tại trường, em đã được các thầy cô trang bị những kiến thức quý báu, đặc biệt các thầy cô của Viện Công nghệ thông tìn và truyền thông. VÀ may mắn hơn khi em được tham gia nghiên cứu tại Data Seience Lab cing voi cée thay, cac ban trong nhém Machine Learning, Em xin c&m øn sự giúp đỡ chỉ bão tận tỉnh, những lời khuyên tâm huyết không chỉ trên con đường học tập ca PCS.
TS Thin Quang Khoát và Th8 Ngõ Văn Tình, Nhờ những kiến thức trong quá trình dược làm việc với các thầy, em có nhiều kinh nghiệm, kiến thức hơn để có thể hoàn thành luận văn một cách tốt nhất. Em xin gửi lời cảm ơn tới gia đình và bạn bè. Gia đình và bạn bè luồn là chỗ đựa vững chắc giún em có niềm tin để hoàn thành mọi công việc. Nghiên cứu này được tài trợ bởi Công ty TNHH Đầu tư và Phát triển đồ thị Gia Lâm thuộc Tập đoàn Vingroup và hỗ trợ bởi Quỹ Dồi mới sáng tạo Vingroup (VINIF) trong Dy an ma sé VINIF.
Hoc vien thye hién: Ngnyén Van Tric, CR190201 Lời cam đoan tồi - Nguyễn Văn Túe - cam kết luận văn này là công trình nghiên cứu của tới dưi sự hướng dẫn của PGS. T8 Thân Quang Khoái, Các kết qué néu trong luận vị là trung thực, không phải là sao chép của bắt cứ dũng trình đã được ìng bố nào khác. TẤL cả các trích đầu dược tham chiều rõ rằng, Ha Nội, ngày 06 tháng 04 năm 2021 “Tác giá luận vũn Nguyễn Văn Tic Xác nhận của người hướng dan Hạc viên thực hiện: Nguyễn Văn Tic, GBR19020| Mục lục 1 Giới Thiệu Để Tài 13 2 Cơ sử lý thuyết 16 2.1 'lổng quan về hệ gợi ý 16 9.2 Các nhám phương pháp chính trong hệ gửi ÿ .1 Gợi ý dựa trên nội dung (Content-based).2 Gai ¥ ding loc cdng the (Collaborative Filtering).3 Phan ra ma tran (MF - Matrix Factorization) ©.30 Lap các mô hình mạng ndron loc cing tac 6 .1 Nhược điểm của các mô hình phân tách ma trận.2 Mé hinh NeuMF 2L 3 Các nghiên cứu liền quan 23 3.1 Hành ví tiềm ẩn và hành vì rõ rằng trong bài toán gợi ý 23 3.2 Bài loán hệ gợi ý với dữ liệu bành vi tiềm ẩn và rõ rằng.1 Mé hinh Implicit lo lxpReit (HE) .2 Mõ lành Sequential Implicit.3 Sử dụng mạng đồ thị tích chập (GCNS) trong học biểu diễn từ đô thị c wee 3.1 Xây đựng đồ thị tri thức .2 Mô hình GCNs. vu ng vở 4 Các mâ hình thứ nghiệm A.
NGF-HeG 42 NCF-HoG 43 TTEHAG.ẶẶ Qua AA TTER-HeEG. Quy 5 Thử nghiệm và đánh giá GA Tập đữ liệu.2 Nhóm các mô hình thử nghiệm .3 Phuong pháp đánh giá và độ do sử dụng 5.4 'Lhiết lập tham số và kết quá thực nghiệm.5 Một số kịch bản thử nghiệm.1 Hiệu quả của việc sử đụng GENS để ¿ học biểu diễn cho userfitem. 20 ee Hoc vien thye hién: Ngnyén Van Tric, CR190201 Mục lục 1 Giới Thiệu Để Tài 13 2 Cơ sử lý thuyết 16 2.1 'lổng quan về hệ gợi ý 16 9.2 Các nhám phương pháp chính trong hệ gửi ÿ .1 Gợi ý dựa trên nội dung (Content-based).2 Gai ¥ ding loc cdng the (Collaborative Filtering).3 Phan ra ma tran (MF - Matrix Factorization) ©.30 Lap các mô hình mạng ndron loc cing tac 6 .1 Nhược điểm của các mô hình phân tách ma trận.2 Mé hinh NeuMF 2L 3 Các nghiên cứu liền quan 23 3.1 Hành ví tiềm ẩn và hành vì rõ rằng trong bài toán gợi ý 23 3.2 Bài loán hệ gợi ý với dữ liệu bành vi tiềm ẩn và rõ rằng.1 Mé hinh Implicit lo lxpReit (HE) .2 Mõ lành Sequential Implicit.3 Sử dụng mạng đồ thị tích chập (GCNS) trong học biểu diễn từ đô thị c wee 3.1 Xây đựng đồ thị tri thức .2 Mô hình GCNs. vu ng vở 4 Các mâ hình thứ nghiệm A.
NGF-HeG 42 NCF-HoG 43 TTEHAG.ẶẶ Qua AA TTER-HeEG. Quy 5 Thử nghiệm và đánh giá GA Tập đữ liệu.2 Nhóm các mô hình thử nghiệm .3 Phuong pháp đánh giá và độ do sử dụng 5.4 'Lhiết lập tham số và kết quá thực nghiệm.5 Một số kịch bản thử nghiệm.1 Hiệu quả của việc sử đụng GENS để ¿ học biểu diễn cho userfitem. 20 ee Hoc vien thye hién: Ngnyén Van Tric, CR190201 Danh sách các kí hiệu dùng trong đồ án u “Tập các người dùng » Tập các sắn phẩm AM — |, —|V| Số lượng các người dùng và sản phẩm X—[#u)wxw — Dữ liệu tưởng tắc ( n ầm Y =(wa)avw — Dữ liệu tương tác tường minh AT Tap c&c tuong tic quan sat dugc trong X XxX “lập các tương tác khöng quan sat duge trong X “lập các tương tác quan sát được trong Y “TRỊ các Lượng; Lắp không, quan gắt được trong ¥ Veclor biển diễn Ấn của người dùng œ Lại lằng thứ k Vecbor biểu diễn ẩn cña sản phẩm ¡ tại tang thứ k Ma trận trọng số tai tang thứ / Ma trận biểu diễn của tắt cả các đỉnh tại tầng thứ ¿ A Ma trận kề của các đỉnh trong đồ thị D Ma trận bạc của các đỉnh trong đồ thị r Ma tran don vi Ne Tap ode sắm phẩm dược tưởng bác bởi người dũng ír Ny "Tập các người dùng tương tác với sản pham i lel Chuẩn bậc hai của vector œ of) am kich hoạt x “Trọng sé diéu chinh gié tri regularization (le Chuan Frobenius ctia ma tran W Hạc viên thực hién: Ngnyén Van Tric, CR190201 10 Danh sách hình vẽ Hình mình họa hướng tiếp cận dựa trên lọc nội dung và lọc công the ớ Minh họa phan 1rã ma trần. Ví dụ cho thấy hạn chế cha ME NeuME.
Kiến trúc mỏ hình bnpliett To o Explictt Kién tric m6 hinh Sequential Implicit To Explicit Kién trée mé hinh Sequential Tinplicit, To Explicit, 2. Xay dung dé thi déng nh&t user graph, item graph Xây dựng đồ thi khéng déng nhat user - item graph. Kién trie mé hinh NCT-IloG. Kiến trúc mỗ hình NGF-HeG su ha Mô hình ITE-IIeG.
Kiến Irúc mỗ hình TTE-HSG. Hiệu quả của c§e mô hình trên bộ dữ liên LastEim khi số biến ân K thay đổi. Giá trị cao hơn là tốt hơn,. + Hiệu quả của.
các mô bình trên bộ đữ liệu LastFm-2E khi số biến Ấn K thay dối. Giá trị cao hơn là tốt hứa. cu na Hiệu quả của các mô hình trên bệ dữ liệu Itetail Itocket khi số biến ẩn K thay đổi. Giá trị cao hơn là tốt hứn.
Hiệu quả của. các mé hinh trén b6 dit ligu Recobell khi số biến ấm K thay dối. Giá trị cao hau Baét hon 18 Hiệu quả của các mö hình trên bộ đữ liệu LastEra khi số biến ấn K thay đổi, GHá trị cao hơn atéb hon 2 Ls 19 Hiệu quả của các mỡ hình trên bộ đữ liệu LastEm-2K khi số hiển an # thay đổi. Giá trị cao hơn là tốt hdn.
48 20 Hiệu quả của các mô hình trên bộ dữ liệu Retail rocket khi số hiến an £ thay đổi. Giá trị cao hơn là tốt hơn. 4g Hiệu quả của. các mô hình trên bộ dữ liệu Recolsell khi sốó biển ấn K thay đổi.
Giá trị cao hơn là tốt hơn 49 Hiệu quả của các mö hình trên bợ dữ liệu Lastfñn khi số lượng spoch tăng dần. Từ trái qua phải # € {8;16;32;64}. Giá trị cao hơn là tất hơn. " Hạc viên thực hién: Ngnyén Van Tric, CR190201 Danh sách các từ viết tắt và thuật ngữ ME Phân rã ma trận MP Mang lan Lruyền tiển nhiều Lằng Minibateh Doan di lieu ‘Lrain Hoe - hudn luyén Neural network Mang no-ron Implicit Module Thành phần tiểm ẩn Esplioit Modnle Thanh phần lưỡng mình Hạc viên thực hiện: Nguyễn Văn Tic, GBR19020| ‘Yom 'Tét Luận Văn Với sự phát triển ngày càng mạnh mẽ của các lĩnh vực thương mại điện tử, các giao dịch trực tuyến diễn ra ngày càng nhiều và phố biến.
“Theu đó, với một số lượng cực kỳ lồn thông lin trên inleruel, người đùng cần biết chọn lọc ra những thông tìn phù hợp với nhu cẩu và sở thích của mí nhân. Bài boán gợi ý ra dời nhầm giải quyết vẫn 4 này, một hệ thống với một cơ chế gợi # hợp lý sẽ thúc đẩy sự tương tác cña người dừng đi với he thống băng các gợi ý các sản phẩm, địch vụ hợp lý. Trong thực 1 một hệ thống gợi ý hợp lý sẽ giấp tiết kiệm thời gian của người dùng và tăng sự hài lòng của người dùng khi sử dụng hệ thông. Cho đến nay dã cá rất nhiền nghiên cứ khác nhan đã đưa ra những mö hình gợi ý và được áp dụng rộng rãi trên nhiều lĩnh vực như: các webzire thương mnại điện tử, trang web tín tức trực tuyến.
Bài toán đưa ra. gợi ý dựa trên các lịch sử tương tác giữa người dùng. và sân phẩm là một. bài toán dược rÃi, nhiều sự quan tầm Trong cả nghiên cứu và doanh nghiệp.
“1rong đó, một hướng nghiền cứu lớn giả định rằng cá một mỗi tương tác tiềm ẩn giữa các người đùng và sin phẩm, đồng thoi indi quan hé gitta chúng có thể mô hình hóa bởi một, lớp các hàm phí tuyến [7|. Từ đó nhiều nghiên cứu đã đưa các kiên. trúc học gân khác nhan để mũ hình hóa quan hệ tiểm ấn giữa người dùng và sản phẩm '12,14, 19,20] và điều đó thực sự cho thấy hiệu quả. tốt trên nhiều bộ dữ liệ nghiên cứu khác nhau.
Trong luận văn này, chúng tôi chỉ ra rằng việc sử dụng một vector biểu diễn ẩn tốt hơn trước khi được vào lắp các hàm phì tuyến hoàn toàn có thể cải thiện hiệu quả của mô hình hệ gợi ý. Chúng tôi tiến hành phân tích, đánh gid và nhận xết hiệu quả bửa việc sử dung vector biéu didn ấn lây tit mô hình QƠNs - một mỡ hình có thể học ra biểu diễn cho các đỉnh của đỗ thị trước khi đưa vào lớp các hàm phi tuyến để dưa ra gợi ý cho người dùng. Nội dụng củn luận vấn dang dược gửi đãng tại tạp chí User Mad- cling and Uscr-Adapted Intoraction ` ThEtps://wwew.cnm/jaurnal/11357 Hạc viên thục hién: Ngnyén Van Tric, CR190201 Mục lục 1 Giới Thiệu Để Tài 13 2 Cơ sử lý thuyết 16 2.1 'lổng quan về hệ gợi ý 16 9.2 Các nhám phương pháp chính trong hệ gửi ÿ .1 Gợi ý dựa trên nội dung (Content-based).