Phát Triển Phương Pháp Xây Dựng Hệ Tư Vấn Trong Luận Án Tiến Sĩ Kỹ Thuật

Luận án tiến sĩ kỹ thuật tập trung phát triển các phương pháp xây dựng hệ tư vấn hiệu quả, ứng dụng trong nhiều lĩnh vực công nghệ.

• Tác giả: Đỗ Thị Liên
• Người hướng dẫn: GS.TS Từ Minh Phương
• Trường học: Học viện Công nghệ Bưu chính Viễn thông
• Chuyên ngành: Hệ thống thông tin
• Đề tài: Phát triển một số phương pháp xây dựng hệ tư vấn
• Loại tài liệu: luận án tiến sĩ

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• MỤC LỤC
• DANH MỤC CÁC CHỮ VIẾT TẮT
• DANH MỤC HÌNH VẼ
• DANH MỤC CÁC BẢNG
• DANH MỤC CÁC THUẬT TOÁN
• MỞ ĐẦU
• 0.1. Tính cấp thiết của luận án
• 0.2. Mục tiêu của luận án
• 0.3. Các đóng góp của luận án
• 0.4. Bố cục của luận án
• 1. CHƯƠNG 1: TỔNG QUAN VỀ HỆ TƯ VẤN
• 1.1. Khái niệm hệ tư vấn
• 1.2. Các lĩnh vực ứng dụng của hệ tư vấn
• 1.3. Phát biểu bài toán tư vấn
• 1.4. Qui trình xây dựng hệ tư vấn
• 1.5. Các hướng tiếp cận xây dựng hệ tư vấn
• 1.6. Kết luận chương 1
• 2. CHƯƠNG 2: PHÁT TRIỂN PHƯƠNG PHÁP LỌC CỘNG TÁC DỰA TRÊN MÔ HÌNH ĐỒ THỊ CHO HỆ TƯ VẤN THEO NGỮ CẢNH
• 2.1. Độ đo tương tự cho lọc cộng tác dựa trên mô hình đồ thị
• 2.2. Biểu diễn đồ thị cho lọc cộng tác
• 2.3. Lọc cộng tác dựa trên mô hình đồ thị cho hệ tư vấn theo ngữ cảnh
• 2.4. Bài toán tư vấn theo ngữ cảnh
• 2.5. Các hướng tiếp cận giải quyết bài toán tư vấn theo ngữ cảnh
• 2.6. Phương pháp đề xuất
• 2.7. Thực nghiệm và kết quả
• 2.7.1. Dữ liệu thực nghiệm
• 2.7.2. Cài đặt thực nghiệm
• 2.7.3. Kết quả thực nghiệm
• 2.8. Kết luận chương 2
• 3. CHƯƠNG 3: PHÁT TRIỂN PHƯƠNG PHÁP LỌC KẾT HỢP BẰNG ĐỒNG HUẤN LUYỆN
• 3.1. Lọc cộng tác bằng phương pháp đồng huấn luyện
• 3.2. Phát biểu bài toán lọc cộng tác bằng phân lớp
• 3.3. Phân lớp bằng phương pháp đồng huấn luyện
• 3.4. Mô hình đồng huấn luyện cho lọc cộng tác
• 3.5. Lọc kết hợp bằng phương pháp đồng huấn luyện
• 3.6. Hợp nhất biểu diễn giá trị các đặc trưng nội dung vào ma trận đánh giá
• 3.7. Mô hình học kết hợp theo người dùng
• 3.8. Mô hình học kết hợp theo sản phẩm
• 3.9. Mô hình đồng huấn luyện cho lọc kết hợp
• 3.10. Thực nghiệm và kết quả
• 3.10.1. Thực nghiệm và kết quả của phương pháp lọc cộng tác bằng đồng huấn luyện
• 3.10.2. Thực nghiệm và kết quả của phương pháp lọc kết hợp bằng đồng huấn luyện
• 3.11. Kết luận chương 3
• KẾT LUẬN CHUNG
• DANH MỤC CÁC CÔNG TRÌNH CÔNG BỐ
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Hệ tư vấn và ứng dụng trong luận án tiến sĩ kỹ thuật

Hệ tư vấn là một công cụ quan trọng trong việc giảm tải thông tin và hỗ trợ người dùng đưa ra quyết định phù hợp. Trong luận án tiến sĩ kỹ thuật, tác giả tập trung vào việc phát triển các phương pháp xây dựng hệ tư vấn hiệu quả, đặc biệt là trong bối cảnh dữ liệu thưa và tích hợp thông tin đa dạng. Hệ tư vấn không chỉ giúp người dùng lựa chọn sản phẩm phù hợp mà còn là yếu tố quyết định thành công của các hệ thống thương mại điện tử.

1.1. Khái niệm và vai trò của hệ tư vấn

Hệ tư vấn được định nghĩa là hệ thống hỗ trợ người dùng đưa ra quyết định bằng cách cung cấp các gợi ý phù hợp với sở thích và nhu cầu của họ. Trong luận án tiến sĩ kỹ thuật, tác giả nhấn mạnh vai trò của hệ tư vấn trong việc giải quyết vấn đề thông tin quá tải, đặc biệt trong các lĩnh vực như thương mại điện tử, giáo dục, và giải trí. Hệ tư vấn cũng được xem là công cụ lọc tích cực, giúp người dùng tiếp cận thông tin một cách hiệu quả.

1.2. Ứng dụng của hệ tư vấn trong nghiên cứu khoa học

Trong nghiên cứu khoa học, hệ tư vấn được ứng dụng rộng rãi để giải quyết các bài toán phức tạp như dự đoán sở thích người dùng, tối ưu hóa hệ thống, và phân tích dữ liệu. Luận án tiến sĩ kỹ thuật của tác giả tập trung vào việc phát triển các phương pháp xây dựng hệ tư vấn hiệu quả, đặc biệt là trong bối cảnh dữ liệu thưa và tích hợp thông tin đa dạng. Các ứng dụng thực tiễn của hệ tư vấn bao gồm gợi ý sản phẩm, phim ảnh, và tài nguyên học tập.

II. Phương pháp xây dựng hệ tư vấn hiệu quả

Trong luận án tiến sĩ kỹ thuật, tác giả đề xuất các phương pháp xây dựng hệ tư vấn hiệu quả, tập trung vào việc giải quyết vấn đề dữ liệu thưa và tích hợp thông tin đa dạng. Các phương pháp này bao gồm lọc cộng tác dựa trên mô hình đồ thị và lọc kết hợp bằng đồng huấn luyện, nhằm nâng cao độ chính xác của kết quả dự đoán.

2.1. Lọc cộng tác dựa trên mô hình đồ thị

Lọc cộng tác dựa trên mô hình đồ thị là phương pháp được đề xuất trong luận án tiến sĩ kỹ thuật để giải quyết vấn đề dữ liệu thưa. Phương pháp này sử dụng độ đo tương tự giữa các cặp người dùng hoặc sản phẩm dựa trên mô hình đồ thị, giúp khai thác các mối quan hệ trực tiếp và bắc cầu. Kết quả thực nghiệm cho thấy phương pháp này cải thiện đáng kể chất lượng tư vấn, đặc biệt trong các hệ thống tư vấn theo ngữ cảnh.

2.2. Lọc kết hợp bằng đồng huấn luyện

Lọc kết hợp bằng đồng huấn luyện là phương pháp kết hợp giữa lọc cộng tác và lọc nội dung, được đề xuất trong luận án tiến sĩ kỹ thuật. Phương pháp này cho phép tích hợp thông tin người dùng, sản phẩm, và đánh giá của người dùng vào quá trình dự đoán. Kết quả thực nghiệm trên các bộ dữ liệu thực về phim cho thấy phương pháp này cải thiện đáng kể chất lượng tư vấn, đồng thời giải quyết hiệu quả vấn đề dữ liệu thưa.

III. Đánh giá và ứng dụng thực tiễn

Các phương pháp xây dựng hệ tư vấn được đề xuất trong luận án tiến sĩ kỹ thuật đã được đánh giá thông qua các thực nghiệm trên các bộ dữ liệu thực. Kết quả cho thấy các phương pháp này không chỉ cải thiện độ chính xác của kết quả dự đoán mà còn có tiềm năng ứng dụng rộng rãi trong thực tế, đặc biệt trong các hệ thống thương mại điện tử và giải trí.

3.1. Kết quả thực nghiệm

Các phương pháp xây dựng hệ tư vấn được đề xuất trong luận án tiến sĩ kỹ thuật đã được thử nghiệm trên các bộ dữ liệu thực như MovieLens và DepaulMovie. Kết quả thực nghiệm cho thấy các phương pháp này cải thiện đáng kể độ chính xác của kết quả dự đoán, đặc biệt trong trường hợp dữ liệu thưa. Các độ đo như MAE và RMSE đã được sử dụng để đánh giá hiệu quả của các phương pháp.

3.2. Ứng dụng thực tiễn

Các phương pháp xây dựng hệ tư vấn được đề xuất trong luận án tiến sĩ kỹ thuật có tiềm năng ứng dụng rộng rãi trong thực tế, đặc biệt trong các hệ thống thương mại điện tử và giải trí. Các hệ thống tư vấn như Amazon, Netflix, và YouTube có thể áp dụng các phương pháp này để cải thiện chất lượng tư vấn và tăng cường trải nghiệm người dùng.

Trích đoạn nội dung tài liệu

MỞ ĐẦU ……………………………………………………………………………1 1. Tính cấp thiết của luận án. Mục tiêu của luận án. Các đóng góp của luận án.

Bố cục của luận án. 4 CHƢƠNG 1: TỔNG QUAN VỀ HỆ TƢ VẤN. Khái niệm hệ tƣ vấn. Các lĩnh vực ứng dụng của hệ tƣ vấn.

Phát biểu bài toán tƣ vấn. Qui trình xây dựng hệ tƣ vấn. Các hƣớng tiếp cận xây dựng hệ tƣ vấn. Hệ tƣ vấn sử dụng lọc cộng tác.

Hệ tƣ vấn sử dụng lọc theo nội dung. Hệ tƣ vấn sử dụng lọc kết hợp. Hệ tƣ vấn mở rộng cách tiếp cận truyền thống. Các phƣơng pháp và độ đo đánh giá hệ tƣ vấn.

Phƣơng pháp đánh giá hệ thống tƣ vấn. Độ đo đánh giá độ chính xác của đánh giá dự đoán. Độ đo đánh giá độ chính xác của danh sách sản phẩm tƣ vấn. Các nguồn tài nguyên hỗ trợ học tập, nghiên cứu hệ tƣ vấn.

Kết luận chƣơng 1. 47 iv CHƢƠNG 2: PHÁT TRIỂN PHƢƠNG PHÁP LỌC CỘNG TÁC DỰA TRÊN MÔ HÌNH ĐỒ THỊ CHO HỆ TƢ VẤN THEO NGỮ CẢNH. Độ đo tƣơng tự cho lọc cộng tác dựa trên mô hình đồ thị. Biểu diễn đồ thị cho lọc cộng tác.

Độ đo tƣơng tự cho lọc cộng tác dựa trên biểu diễn đồ thị. Lọc cộng tác dựa trên mô hình đồ thị cho hệ tƣ vấn theo ngữ cảnh. Bài toán tƣ vấn theo ngữ cảnh. Các hƣớng tiếp cận giải quyết bài toán tƣ vấn theo ngữ cảnh.

Phƣơng pháp đề xuất. Thực nghiệm và kết quả. Dữ liệu thực nghiệm. Cài đặt thực nghiệm.

Kết quả thực nghiệm. Kết luận chƣơng 2. 87 CHƢƠNG 3: PHÁT TRIỂN PHƢƠNG PHÁP LỌC KẾT HỢP BẰNG ĐỒNG HUẤN LUYỆN …………………………………………………………………………. Lọc cộng tác bằng phƣơng pháp đồng huấn luyện.

Phát biểu bài toán lọc cộng tác bằng phân lớp. Phân lớp bằng phƣơng pháp đồng huấn luyện. Mô hình đồng huấn luyện cho lọc cộng tác. Lọc kết hợp bằng phƣơng pháp đồng huấn luyện.

Hợp nhất biểu diễn giá trị các đặc trƣng nội dung vào ma trận đánh giá. Mô hình học kết hợp theo ngƣời dùng. Mô hình học kết hợp theo sản phẩm. Mô hình đồng huấn luyện cho lọc kết hợp.

Thực nghiệm và kết quả. Thực nghiệm và kết quả của phƣơng pháp lọc cộng tác bằng đồng huấn luyện ……………………………………………………………………………125 v 3. Thực nghiệm và kết quả của phƣơng pháp lọc kết hợp bằng đồng huấn luyện ……………………………………………………………………………129 3. Kết luận chƣơng 3.

134 KẾT LUẬN CHUNG. 135 DANH MỤC CÁC CÔNG TRÌNH CÔNG BỐ. 138 TÀI LIỆU THAM KHẢO. 139 vi DANH MỤC CÁC CHỮ VIẾT TẮT DIỄN GIẢI KÝ HIỆU TIẾNG ANH TIẾNG VIỆT RS Recommender System / Hệ tƣ vấn Recommendation System CARS Context-Aware Hệ tƣ vấn theo ngữ cảnh Recommender System CF Collaborative Filtering Lọc cộng tác CBF Content-Based Filtering Lọc theo nội dung HF Hybrid Filtering Lọc kết hợp IR Information Retrieval Truy vấn thông tin MAE Mean Absolute Error Trung bình giá trị tuyệt đối lỗi MAP Mean Average Precision Độ chính xác trung bình tuyệt đối AP Average Precision Độ chính xác trung bình RMSE Root Mean Square Error Trung bình lỗi lấy căn KNN K-Nearest Neighbor K láng giềng gần nhất SDP Sparsity Data Problem Vấn đề dữ liệu thƣa User-Based k-NN User-Based k Neareast Phƣơng pháp K láng giềng gần Neighbor nhất dựa vào ngƣời dùng Item-Based k-NN Item-Based k Neareast Phƣơng pháp K láng giềng gần Neighbor nhất dựa vào sản phẩm TF/IDF Term Frequency / Inverse Phép đo tần suất kết hợp với Document Frequency tần suất xuất hiện ngƣợc MD matrix Multi-dimensional matrix Ma trận đánh giá đa chiều vii DANH MỤC HÌNH VẼ Trang Hình 1.

Giao diện hệ tƣ vấn sách của Amazon. Ví dụ ma trận đánh giá tổng quát. Qui trình xây dựng hệ tƣ vấn. Các hƣớng tiếp cận truyền thống và xu hƣớng hiện nay của hệ tƣ vấn.

Tiến trình xử lý của hệ tƣ vấn sử dụng lọc cộng tác [54]. Tiến trình xử lý của hệ tƣ vấn sử dụng lọc theo nội dung [21]. Các phƣơng pháp kết hợp lọc cộng tác (CF) và lọc nội dung (CBF) [21]. Phƣơng pháp phân chia tập dữ liệu phục vụ cho đánh giá hệ thống tƣ vấn.

Đồ thị biểu diễn cho lọc cộng tác. Ma trận trọng số biểu diễn đồ thị hai phía G. Các mô hình kết hợp ngữ cảnh vào hệ tƣ vấn [1]. Bộ khung triển khai phƣơng pháp lọc cộng tác dựa trên mô hình đồ thị cho hệ tƣ vấn theo ngữ cảnh.

Đồ thị biểu diễn cho lọc cộng tác gồm tập ngƣời dùng và tập sản phẩm giả lập 72 Hình 3. Bộ khung triển khai lọc cộng tác bằng phƣơng pháp đồng huấn luyện. 97 viii DANH MỤC CÁC BẢNG Trang Bảng 1. Ma trận nhầm lẫn (Confusion matrix).

Một số phần mềm hỗ trợ nghiên cứu, phát triển hệ tƣ vấn. Ví dụ ma trận đánh giá của lọc cộng tác. Ma trận đánh giá chuyển đổi. Phân loại ngữ cảnh thu thập đƣợc cho hệ tƣ vấn.

Ma trận đánh giá đa chiều của lọc cộng tác theo ngữ cảnh. Ma trận đánh giá hai chiều nhận đƣợc sau phân tách sản phẩm theo ngữ cảnh. Ma trận đánh giá chuyển đổi cho ma trận đánh giá 2 chiều của Bảng 2. Giá trị Precision@10, MAP@10 trên tập DepaulMovie.

Giá trị Precision@10, MAP@10 trên tập MovieLens 100K. Giá trị Precision@10, MAP@10 trên tập InCarMusic. Ma trận đánh giá của lọc cộng tác gồm 5 ngƣời dùng, 7 sản phẩm. Ma trận đánh giá ƣớc lƣợng theo ngƣời dùng.

Ma trận đánh ƣớc lƣợng theo sản phẩm. Ma trận đánh giá R. Ma trận đặc trƣng sản phẩm C. Ma trận đặc trƣng ngƣời dùng T.

Ma trận hồ sơ ngƣời dùng. Ma trận đánh giá mở rộng theo hồ sơ ngƣời dùng. Ma trận hồ sơ sản phẩm. Ma trận đánh giá mở rộng theo hồ sơ sản phẩm.

Giá trị MAE, RMSE trên tập MovieLens-100K. Giá trị MAE, RMSE trên tập MovieLens-1M. Giá trị MAE, RMSE trên tập MovieLens-10M. Giá trị MAE, RMSE của các phƣơng pháp tƣ vấn trên MovieLens-1M.

132 ix DANH MỤC CÁC THUẬT TOÁN Trang Thuật toán 2. Thuật toán IS-UserBased-Graph. Thuật toán IS-ItemBased-Graph. Thuật toán đồng huấn luyện Co-Training.

Thuật toán CoTrainning-UserItem. Thuật toán CoTraining-ItemUser. Thuật toán CoTraining –HybridFiltering. Tính cấp thiết của luận án Với sự gia tăng nhanh chóng của thông tin trên Web thì cần thiết phải có công cụ giúp ngƣời dùng lựa chọn các thông tin trực tuyến phù hợp với mình.

Thông thƣờng khi cần tìm thông tin về một sản phẩm nào đó, giải pháp đƣợc hầu hết ngƣời dùng sử dụng là đƣa câu hỏi vào máy tìm kiếm (Search engine) thay vì tìm đến những trang Web hoặc diễn đàn chuyên ngành. Máy tìm kiếm tiến hành tìm kiếm thông tin dựa trên các từ khóa (Keyword) đƣợc ngƣời dùng gõ vào và trả về một danh mục của các trang Web có chứa từ khóa mà nó tìm đƣợc. Do vậy việc sử dụng máy tìm kiếm sẽ hiệu quả khi ngƣời dùng biết họ thực sự muốn tìm cái gì. Trong trƣờng hợp khi ngƣời dùng không xác định đƣợc chính xác cái mình muốn tìm thì yêu cầu về lọc thông tin một cách có hiệu quả và tin cậy là rất cần thiết.

Để đáp ứng nhu cầu này, các hệ thống tƣ vấn đã ra đời, ví dụ một số hệ tƣ vấn đã đƣợc thƣơng mại hóa và triển khai thành công, tiêu biểu là hệ tƣ vấn của các hãng Amazon, eBay, Netflix, Youtube … Hệ tƣ vấn (Recommender System) đƣợc xem nhƣ một hệ thống lọc tích cực, có chức năng hỗ trợ đƣa ra quyết định, nhằm mục đích cung cấp cho ngƣời sử dụng những gợi ý về thông tin, sản phẩm và dịch vụ phù hợp nhất với yêu cầu và sở thích riêng của từng ngƣời tại từng tình huống (ngữ cảnh). Cụ thể, hệ tƣ vấn cung cấp một giải pháp giảm tải thông tin bằng cách đƣa ra dự đoán đánh giá mức độ thích của ngƣời dùng với sản phẩm mới và cung cấp một danh sách ngắn các sản phẩm (trang web, bản tin, phim, video…) mà nhiều khả năng ngƣời dùng sẽ quan tâm [1]. Trên thực tế, hệ tƣ vấn không chỉ hƣớng đến vấn đề giảm tải thông tin cho mỗi ngƣời dùng mà nó còn là yếu tố quyết định đến thành công của các hệ thống thƣơng mại điện tử [1][2]. Hệ tƣ vấn đang ngày càng trở thành một lĩnh vực nghiên cứu quan trọng từ sau khi xuất hiện bài báo đầu tiên về lọc cộng tác vào giữa những năm 90 [3].

Đã có rất nhiều công việc đƣợc thực hiện cả trong ngành công nghiệp và nghiên cứu hàn lâm 2 để phát triển các hệ tƣ vấn trong hơn thập kỷ qua. Về cơ bản hệ tƣ vấn đƣợc chia thành hai hƣớng tiếp cận chính [4][5] tùy thuộc vào cách khai thác các thông tin đầu vào khác nhau phục vụ cho mục đích tƣ vấn, đó là: 1) Hệ tƣ vấn với cách tiếp cận truyền thống; 2) Hệ tƣ vấn mở rộng cách tiếp cận truyền thống. Trong đó, cách tiếp cận truyền thống sử dụng một trong ba phƣơng pháp lọc tin chính (Lọc cộng tác, lọc theo nội dung và lọc kết hợp) lên ba loại thông tin đầu vào phổ biến (Thông tin ngƣời dùng, thông tin sản phẩm và phản hồi của ngƣời dùng về sản phẩm). Cách tiếp cận mở rộng đề cập ở đây đƣợc biết đến với một số hƣớng nhƣ: Hệ tƣ vấn theo ngữ cảnh (Context-aware Recommender Systems) [6][7], hệ tƣ vấn dựa trên mạng xã hội (Social-based Recommender Systems) [8], hệ tƣ vấn dựa trên mối quan tâm (Attention-based Recommender Systems) [9] hoặc phát triển các phƣơng pháp lọc kết hợp.

Theo đó, bên cạnh các loại thông tin điển hình của hệ tƣ vấn theo cách truyền thống, cách tiếp cận mở rộng này cho phép tích hợp thêm đa dạng các nguồn thông tin đầu vào (Thông tin ngữ cảnh, liên kết từ mạng xã hội, mối quan tâm …) nhằm cải thiện chất lƣợng của hệ tƣ vấn thực tế. Trong quá trình nghiên cứu và ứng dụng, mặc dù đã có nhiều nghiên cứu đề xuất đƣợc đƣa ra để giải quyết bài toán tƣ vấn theo hai hƣớng tiếp cận trên [1][4][5][10], tuy nhiên một số vấn đề mang tính đặc thù đối với thông tin tƣ vấn nhƣ vấn đề dữ liệu thƣa, ngƣời dùng mới, sản phẩm mới, vấn đề sở thích thay đổi theo thời gian, yêu cầu kết hợp các dạng thông tin khác nhau, làm việc với dữ liệu kích thƣớc lớn đƣợc cập nhật thƣờng xuyên… luôn là những vấn đề có tính thời sự và thu hút đƣợc sự quan tâm của cộng đồng trong việc nghiên cứu và triển khai vào thực tế.