chương 1, luận văn đã trình bày tổng quan về mạng xã hội Twitter và nội dung liên quan tới dòng cập nhật. Luận văn cũng đã nêu lên được vấn đề bất lợi cho người dùng khi bị tràn ngập thông tin và phát biểu được bài toán xếp hạng các dòng cập nhật cùng hướng tiếp cận để giải quyết bài toán. Ngoài ra, luận văn cũng đã nêu lên ý nghĩa của bài toán này. Chương tiếp theo, chúng tôi thực hiện chi tiết hóa nền tảng kiến thức liên quan về học xếp hạng, mô hình chủ đề ẩn và luật kết hợp.
Đồng thời, chúng tôi trình bày thuật toán học xếp hạng, phương pháp mô hình chủ đề ẩn cũng như thuật toán tìm luật kết hợp được lựa chọn để xây dựng mô hình xếp hạng dòng. CÁC PHƯƠNG PHÁP HỌC XẾP HẠNG, MÔ HÌNH CHỦ ĐỀ ẨN VÀ LUẬT KẾT HỢP Chương này trình bày các nội dung nền tảng liên quan tới mô hình giải quyết bài toán. Mục đầu tiên trình bày nội dung cơ bản về xếp hạng dòng, các phương pháp học xếp hạng và các phương pháp đánh giá xếp hạng. Mục tiếp theo giới thiệu phương pháp làm giàu đặc trưng dựa trên mô hình chủ đề ẩn.
Mục sau đó trình bày luật kết hợp và thuật toán sinh luật kết hợp. Mục cuối cùng trình bày nội dung ý tưởng khai thác đặc trưng chủ đề ẩn và đặc trưng độ ảnh hưởng của người dùng dựa trên luật kết hợp trong học xếp hạng dòng của mô hình xếp hạng do luận văn đề xuất. Một số nội dung cơ bản về Xếp hạng dòng 2. Giới thiệu Xếp hạng nói chung được hiểu là sự sắp xếp.
Nhiều ứng dụng, phần mềm có sự sắp xếp, đơn giản như MS Excel, MS Dos, sự sắp xếp theo chiều tăng hay giảm của các dữ liệu. hay phức tạp hơn, trong các máy tìm kiếm, sắp xếp các kết quả trả về sao cho phù hợp. Đặc biệt, sắp xếp các dòng thông tin mới (tweet mới) trên mạng xã hội Twitter trên timelines của mỗi người dùng mang tính cá nhân và tư vấn cao. Đây chính là Xếp hạng dòng và cũng được coi là Xếp hạng đối tượng (với đối tượng là Tweet).
Công việc thiết yếu là sắp xếp các đối tượng tweet của mỗi người dùng theo sự giảm dần mức độ quan tâm của mỗi người dùng đó. Mỗi đối tượng tweet cần xác định giá trị thứ hạng thể hiện mức độ quan tâm của người dùng với nó. Do vậy, để xếp hạng các đối tượng, ta cần xác định hàm tính giá trị thứ hạng, gọi là hàm tính hạng. Mỗi đối tượng gồm có các đặc trưng là những chi tiết của bản thân đối tượng đó.
Hàm tính hạng là sự kết hợp của các đặc trưng này. Học xếp hạng Học xếp hạng là một loại học máy giám sát hoặc bán giám sát, trong đó mục tiêu là để tự động xây dựng một mô hình xếp hạng từ dữ liệu huấn luyện là tập dữ liệu đã có xếp hạng đúng. Học xếp hạng là một trong các phương pháp điển hình trong việc xếp hạng đối tượng đang nhận được khá nhiều sự quan tâm của các nhà nghiên cứu. Như đã giới thiệu, chúng tôi sử dụng học xếp hạng cho bài toán đặc biệt Xếp hạng dòng (không có câu truy vấn) với giả thiết tất cả các tweet mới tương ứng với tập kết quả trả về với một câu truy vấn.
Như đã đề cập trong [1], các thuật toán học xếp hạng đều có hai nhiệm vụ chính: (1) xây dựng hàm tính hạng, (2) tính toán thứ hạng của đối tượng mới. Các nhiệm vụ có đầu vào và đầu ra khác nhau, cụ thể như sau: Xây dựng hàm tính hạng o Đầu vào: Tập các đối tượng có sẵn thứ tự đúng và các đặc trưng o Đầu ra: Hàm tính hạng Tính toán thứ hạng đối tượng mới o Đầu vào: Tập đối tượng mới và hàm tính hạng o Đầu ra: Thứ hạng của mỗi đối tượng Hàm tính hạng thu được từ các thuật toán học được sử dụng để tính hạng cho các tài liệu mới: cho một tập các đối tượng mới cần được sắp xếp thứ tự, hàm tính hạng thu được sẽ tính toán ra thứ hạng của mỗi đối tượng trong danh sách đó. Để biết được độ chính xác của hàm tính hạng này, tập dữ liệu kiểm tra được sử dụng. Các độ chính xác thu được nhờ việc áp dụng các phương pháp đánh giá xếp hạng.
Một số hướng tiếp cận của học xếp hạng. Liu [4] đã phân tích các thuật toán học xếp hạng và chỉ ra sự phân chia các thuật toán đó theo các hướng tiếp cận như sau: Hướng tiếp cận Pointwise Theo hướng này, các đối tượng xi trong dữ liệu học có một điểm số hay thứ tự yi. Tiếp đó, học xếp hạng có thể được xấp xỉ bởi hồi quy (hồi quy có thứ tự). Một số thuật toán học xếp hạng như: OPRF [4], SLR [19]… Hướng tiếp cận Pairwise Có D = {(xi, xj)} là tập các cặp đối tượng được sắp thứ tự, với mỗi cặp (xi, xj) có thứ hạng của xi cao hơn thứ hạng của xj, hay xi phù hợp hơn xj: xi> xj).
Tìm r(x): ∀(𝑥𝑖 , 𝑥𝑗 ) ∈ 𝑆 𝑐ó 𝑥𝑖 > 𝑥𝑗 𝑡ℎì 𝑟(𝑥𝑖 ) > 𝑟(𝑥𝑗 ) Một số thuật toán học xếp hạng như SVM-rank, RankRLS … 19 Hướng tiếp cận Listwise Các thuật toán theo hướng này cố gắng trực tiếp sắp xếp tất cả các đối tượng trong dữ liệu học. Điều này thực sự khó khăn. Khi thứ hạng của K đối tượng đầu tiên được xác định thì tất cả các đối tượng khác đều có hạng thấp hơn. Với D = {x1, x2…, xm} có sắp thứ tự: x1 > x2 >… > xm, tìm hàm tính hạng r(x) sao cho r(x1) > r(x2)> … > r(xm).
Một số thuật toán học xếp hạng như ListMLE, PermuRank … Sử dụng phương pháp học xếp hạng để xây dựng mô hình tính hạng, cần xây dựng tập dữ liệu huấn luyện là đầu vào của quá trình học. Việc xây dựng cũng như định dạng của dữ liệu huấn luyện, luận văn sẽ đề cập trong phần sau. Ngay sau đây, chúng tôi sẽ nói về các thuật toán học xếp hạng cụ thể như SVM-rank và CRR. Thuật toán SVM-rank là một thuật toán khá phổ biến và thuật toán CRR là kết quả của ý tưởng kết hợp thuật toán xếp hạng (SVM-rank) với hồi quy tuyến tính.
Để hiểu hơn về sự kết hợp trong CRR, chúng tôi nghiên cứu và áp dụng thuật toán này vào mô hình đề xuất của mình để xây dựng mô hình tính hạng cho mỗi người dùng. Các phương pháp học xếp hạng điển hình 2. Phương pháp SVM-rank Xếp hạng SVM (SVM-rank) [20] là một ứng dụng của máy véc-tơ hỗ trợ (Support vector machine) được sử dụng để giải quyết bài toán xếp hạng bằng việc sử dụng thuật toán học giám sát SVM. SVM-rank được Joachims công bố năm 2002 với mục đích cải thiện hiệu suất của các công cụ tìm kiếm trên Internet.
SVM-rank là thuật toán học xếp hạng theo hướng tiếp cận pairwise. Chẳng hạn, ta có tập sắp thứ tự D = {(d1, 3), (d2, 1), (d3, 1)}, khi đó có các cặp so sánh thứ tự (d2, d1) và (d3, d1), cặp (d2, d3) không xác định thứ tự so sánh. Giải quyết bài toán theo hướng tiếp cận Pairwise, xếp hạng được đưa về bài toán phân lớp cho từng cặp đối tượng. Với X là tập các đặc trưng của từng đối tượng và R là tập các thứ hạng, ta có ánh xạ thể hiện hàm tính hạng: 𝑋 → 𝑅 , 𝑥𝑖 > 𝑥𝑗 ↔ 𝑟(𝑥𝑖 ) > 𝑟( 𝑥𝑗 ) 𝑟 (𝑥 ) = 𝑤 𝑇 𝑥 (2.1) Tư tưởng chính của SVM [21] là xác định biên (siêu phẳng) chia không gian các đối tượng cần xếp hàng thành hai nửa và tìm siêu phẳng tốt nhất (tối ưu) mà khoảng cách từ siêu phẳng tới đối tượng gần nhất trong cả 2 tập phân chia là lớn nhất.
Với dữ liệu có thể phân tách tuyến tính, siêu phẳng có dạng: 𝑤 𝑇 𝑥 + 𝑏 = 0. Từ đây, có thể thấy mối quan hệ giữa hàm tính hạng 𝑟(𝑥) và siêu phẳng. Do đó, dựa vào phương pháp SVM, tìm được siêu phẳng sẽ suy ra hàm tính hạng 𝑟(𝑥). Đây chính là tư tưởng chính của SVM-rank.
20 Các công cụ SVM , SVM do T. Joachims cung cấp2 cho người dụng lựa chọn light rank học xếp hạng đối tượng dựa vào phương pháp này. Nhiều phương pháp dựa vào tối ưu SVM, chẳng hạn [5, 22]…Trong [5], sự kết hợp xếp hạng dựa trên SVM-rank với hồi quy, Sculley đưa ra thuật toán CRR sẽ được trình bày trong phần tiếp theo. Phương pháp CRR Trong [5], D.Sculley đưa ra nhận định rằng mô hình hồi quy tốt sẽ cho xếp hạng tốt, nhưng mô hình hồi quy chưa thực sự hoàn hảo có thể dẫn tới hiệu quả của xếp hạng là không tốt.
Tương tự với mô hình xếp hạng, trong trường hợp không tốt, mô hình xếp hạng có thể cho kết quả không cao. Tác giả tìm ra phương pháp kết hợp cho hiệu quả tốt ở cả hồi quy và xếp hạng. Tư tưởng chính của phương pháp này là xây dựng mô hình tính hạng dựa trên mô hình hồi quy tuyến tính và mô hình tính hạng pairwise (sử dụng SVM-rank): Phương thức hồi quy Mục tiêu của hồi quy có giám sát là học mô hình w để dự đoán giá trị mục tiêu thực 𝑦 ′ ∈ 𝑅 cho véc-tơ đặc trưng x, sử dụng hàm dự đoán f(w,x), có sai số nhỏ và hàm loss function l(y,y’) (loss function là hàm tính độ sai lệch giữa y và y’). Mục tiêu để rủi ro cho mô hình là thấp nhất là làm cho sai số nhỏ, với loss function được cho bởi công thức: 1 𝐿(𝑤, 𝐷 ) = ∑ 𝑙(𝑦, 𝑓 (𝑤, 𝑥)) (2.2) |𝐷| (𝑥,𝑦,𝑞)∈𝐷) Ở đây, l(y,y’) là hàm sai số cho từng đối tượng và được tính theo hàm logistic loss [5, 23], với y’ = f(w,x) và y là giá trị đúng của x.
Công thức thể hiện sai số nhỏ nhất với mô hình w như sau: 2 𝑚𝑖𝑛𝑤∈𝑅𝑚 𝐿(𝑤, 𝐷 ) + ||𝑤||2 (2.3) 2 Logistic loss [5, 23] thường được sử dụng trong hồi quy tuyến tính, phương thức này thường sử dụng trong phân lớp, nhưng nó cũng có thể là phương thức cho hồi quy trong việc dự đoán giá trị thực. Logistic loss như sau: 𝑦 ∈ [0,1], 𝑦 ′ ∈ [0,1] , 𝑙 (𝑦, 𝑦 ′ ) = 𝑦𝑙𝑜𝑔𝑦 ′ + (1 − 𝑦) log(1 − 𝑦 ′ ).edu/people/tj/svm_light/svm_rank.html 21 1 Đây cũng là hàm lồi và Hàm dự đoán (𝑤, 𝑥) =. Hàm biến đổi khi tính theo 1+𝑒−(𝑤,𝑥) 1+𝑦 hướng Pairwise là 𝑡(𝑦) =. Giá trị của t (y – y’) luôn nằm trong [0, 1] khi y, y’ cũng 2 thuộc đoạn đó.
Phương thức xếp hạng.