Tổng quan luận án

Luận án tiến sĩ kỹ thuật chuyên ngành Hệ thống thông tin (mã số 9.04) của nghiên cứu sinh Nguyễn Thôn Dã, với đề tài "Khai phá dữ liệu tuần tự để dự đoán hành vi truy cập Web", được thực hiện dưới sự hướng dẫn khoa học của TS. Tân Hạnh và TS. Phạm Hoàng Duy tại Học viện Công nghệ Bưu chính Viễn thông năm 2020.

Tính cấp thiết và khoảng trống nghiên cứu

Sự gia tăng nhanh chóng của lưu lượng truy cập Internet và các ứng dụng Web, thương mại điện tử, mạng xã hội, ứng dụng di động cũng như thiết bị IoT tạo ra lượng dữ liệu nhật ký máy chủ (Web Log) khổng lồ. Việc khai thác dữ liệu này nhằm dự đoán trang Web tiếp theo mà người dùng sẽ truy cập giữ vai trò quan trọng trong việc xây dựng hệ thống khuyến nghị (Recommender System), cá nhân hóa nội dung, tối ưu hóa bộ nhớ đệm và nâng cao an toàn thông tin mạng.

Khoảng trống nghiên cứu được tác giả xác định là: các kỹ thuật dự đoán truyền thống như luật kết hợp (Association Rules), mô hình chuỗi Markov và gom cụm (Clustering) tồn tại nhiều nhược điểm lớn. Cụ thể, các giải thuật dựa trên luật kết hợp tạo ra số lượng luật bùng nổ, tốn bộ nhớ và bỏ qua thông tin thứ tự thời gian. Các mô hình chuỗi Markov thứ tự cao (All-Kth-Order Markov) gặp hiện tượng bùng nổ không gian trạng thái, trong khi mô hình thứ tự thấp lại thiếu độ chính xác do bỏ qua hành vi truy cập dài hạn (long-term memory). Các mô hình dự đoán tuần tự cải tiến như cây dự đoán nén CPT (Compact Prediction Tree) và CPT+ tuy có độ chính xác cao nhưng độ phức tạp thời gian thực thi trên không gian dữ liệu lớn vẫn là thách thức lớn. Đồng thời, quy trình tiền xử lý và chuyển đổi dữ liệu nhật ký máy chủ thô sang cơ sở dữ liệu tuần tự chuẩn hóa phục vụ dự đoán còn thiếu các giải pháp tối ưu.

Mục tiêu nghiên cứu

Luận án xác định 4 mục tiêu nghiên cứu cụ thể:

  1. Nghiên cứu các bài báo liên quan đến luận án để tìm ra những ưu điểm, hạn chế của các bài báo này, từ cơ sở đó nghiên cứu sinh đề xuất các giải pháp tốt hơn cho dự đoán hành vi truy cập Web.
  2. Tìm một mô hình cơ sở dữ liệu phù hợp để hỗ trợ cho dự đoán hành vi truy cập Web.
  3. Tìm giải pháp tốt hơn để nâng cao tính chính xác cho dự đoán hành vi truy cập Web.
  4. Tìm giải pháp tốt hơn để giảm thời gian thực thi dự đoán hành vi truy cập Web.

Các vấn đề nghiên cứu

Để hiện thực hóa các mục tiêu trên, luận án tập trung giải quyết 4 vấn đề nghiên cứu:

  • Vấn đề nghiên cứu 1: Để khai phá dữ liệu tuần tự cho dự đoán truy cập Web cần có những mô hình nào?
  • Vấn đề nghiên cứu 2: Cơ sở dữ liệu tuần tự cho dự đoán hành vi truy cập Web được xây dựng như thế nào?
  • Vấn đề nghiên cứu 3: Làm thế nào để nâng cao độ chính xác cho dự đoán truy cập Web dùng mô hình dự đoán chuỗi tuần tự theo mô hình cây dự đoán nén cải tiến (CPT+)?
  • Vấn đề nghiên cứu 4: Làm thế nào để giảm thời gian thực thi dự đoán cho dự đoán truy cập Web dùng mô hình dự đoán chuỗi tuần tự theo mô hình cây dự đoán nén cải tiến (CPT+)?

Đối tượng và phạm vi nghiên cứu

  • Đối tượng nghiên cứu: Các lý thuyết và mô hình khai phá dữ liệu tuần tự; mô hình chuỗi tuần tự và cơ sở dữ liệu tuần tự; cấu trúc dữ liệu và giải thuật cây dự đoán nén (CPT, CPT+); thuật toán xếp hạng trang Web PageRank; các kỹ thuật xử lý chuỗi và các tập dữ liệu chuỗi truy cập thực tế.
  • Phạm vi nghiên cứu: Dữ liệu vết duyệt Web (click-stream) chuẩn quốc tế gồm MSNBC, FIFA, KOSARAK, BMS; dữ liệu nhật ký máy chủ Web (Web Log) theo chuẩn Common Log Format (CLF) thu thập từ máy chủ Microsoft IIS (W3SVC trên hệ điều hành Windows) và Apache (trên hệ điều hành Linux) của các website như palmviewsanibel.com, inees.org và periwinklecottages.il. Thời gian thu thập các tập dữ liệu thứ cấp ghi nhận từ năm 2017 đến năm 2018.

Tổng quan tài liệu và vị trí của luận án

Luận án hệ thống hóa các hướng nghiên cứu dự đoán hành vi truy cập Web dựa trên khai phá dữ liệu Web (Web Usage Mining):

Khai phá luật kết hợp và luật tuần tự

Các giải thuật khai phá luật kết hợp truyền thống (ARM) như Apriori, Priori-PT trên tập dữ liệu MSNBC (công trình [43]) sử dụng các độ đo Support, Confidence và Lift. Tác giả chỉ ra hạn chế là mô hình không lưu vết thứ tự thời gian và phát sinh lượng lớn ứng viên không cần thiết. Các giải thuật luật tuần tự cải tiến như CMRules và CMDEO của Fournier-Viger và cộng sự [32] áp dụng kỹ thuật loại bỏ luật dưới ngưỡng, nhưng việc sinh ứng viên thử nghiệm vẫn tốn kém tài nguyên. Giải thuật RuleGrowth [39] dùng tiếp cận tăng trưởng mẫu và ER-Miner [37] dùng cấu trúc ma trận đếm thưa SCM (Spare Count Matrix) để giảm không gian tìm kiếm, song vẫn chưa tối ưu hóa cho bài toán dự đoán trang tiếp theo.

Mô hình chuỗi Markov

Các mô hình Markov truyền thống được phân tích gồm mô hình bậc không (0-order Markov), bậc một (1st-order Markov [12], [84], [93]) và bậc cao (Kth-order Markov [93]). Nghiên cứu của Deshpande và Karypis [26], Pitkow và Pirolli [93], Khalil và cộng sự [63] chỉ ra rằng mô hình All-Kth-Order Markov cải thiện độ chính xác nhưng làm tăng đột biến số lượng trạng thái. Các kỹ thuật cắt tỉa trạng thái theo tần số (Frequency pruned) hoặc theo độ chính xác (Accuracy pruned) tuy giảm độ phức tạp không gian nhưng làm giảm độ bao phủ hoặc độ chính xác.

Phương pháp gom cụm và mạng nơ-ron nhân tạo

Các thuật toán K-Means, DBScan, Bisecting K-Means [63], k-Nearest Neighbors (kNN) [49] hoặc phân nhóm mờ [6] được ứng dụng để phân cụm phiên truy cập hoặc phân cụm trang. Tuy nhiên, gom cụm làm mất thông tin chi tiết do tính tổng quát hóa. Mạng nơ-ron nhân tạo [51], [53], [80] có khả năng học quan hệ phi tuyến nhưng chỉ sử dụng một phần thông tin chuỗi huấn luyện, bỏ qua các trường hợp hiếm.

Các mô hình phối hợp (lai) từ năm 2015 đến năm 2018

Nhằm khắc phục nhược điểm của các phương pháp đơn lẻ, nhiều mô hình lai đã được công bố:

Công trình nghiên cứu Kỹ thuật phối hợp
Liraki et al. (2015) [76] Fuzzy Clustering, Weighted Association Rules, Fuzzy Inference System
P. Kumar et al. (2015) [69] Association Rules, Rough Set Clustering
Kundra et al. (2015) [70] Efficient Hierarchical PSO Clustering, Scaled Markov Model, IPSPR
Rathod et al. (2016) [96] Fuzzy C-Means Clustering, Markov
Swarnakar & Kumar (2016) [68] Hierarchical Clustering, Higher Order Markov
Poornalatha et al. (2017) [94] Clustering, Markov, Association Rules
Chembath et al. (2017) [20] Clustering, Markov, Association Rules, Longest Common Sequence
Yao et al. (2017) [114] Hidden Markov, Association Rules
N. Patil et al. (2017) [88] All Kth Markov, Association Rules, Conditional Sequence Base
Gopalakrishnan et al. (2018) [45] Fuzzy C-means Clustering, Variable Order Markov

Mô hình dự đoán chuỗi dữ liệu tuần tự CPT và CPT+

Nghiên cứu của Gueniche, Fournier-Viger và Tseng (2013 [48], 2015 [46]) đề xuất mô hình CPT và CPT+. So sánh thực nghiệm trên các tập dữ liệu chuẩn cho thấy CPT+ đạt độ chính xác cao hơn hẳn so với các mô hình trước đó:

Tập dữ liệu CPT+ CPT AKOM DG LZ78 PPM TDAG
BMS 38.3 39.8 29.8 32.5 22.8 31.9 32.7
Kosarak 42.0 41.7 31.8 33.6 21.0 34.3 33.7
FIFA 37.0 36.8 31.5 32.4 22.5 32.0 32.6
MSNBC 59.3 59.4 55.6 56.4 43.1 55.6 56.4
Bible word 18.2 18.2 19.1 17.6 13.5 16.9 17.4

Khoảng trống luận án lựa chọn giải quyết

Mặc dù CPT+ có ưu thế về độ chính xác do bảo toàn thông tin chuỗi thông qua ba cấu trúc (Prediction Tree, Lookup Table, Inverted Index), thời gian dự đoán của CPT+ vẫn còn cao khi áp dụng trên các cơ sở dữ liệu nhật ký Web quy mô lớn. Luận án lựa chọn giải quyết khoảng trống này bằng cách: (1) Chuẩn hóa quy trình tạo lập cơ sở dữ liệu tuần tự từ Web Log thô hỗ trợ xử lý song song; (2) Giảm thời gian dự đoán của CPT+ bằng giải thuật cắt tỉa không gian tìm kiếm dựa trên chuỗi truy vấn; (3) Tăng độ chính xác dự đoán bằng cách tích hợp giải thuật PageRank để lọc bỏ các chuỗi tuần tự có trọng số thấp; và (4) Xây dựng mô hình tích hợp đồng thời nâng cao độ chính xác và giảm thời gian thực thi.

Cơ sở lý thuyết và phương pháp nghiên cứu

Cơ sở lý thuyết và các khái niệm hình thức

  • Khái niệm Web Usage Mining: Quá trình áp dụng các kỹ thuật khai phá dữ liệu để phát hiện các mẫu hành vi truy cập của người dùng từ dữ liệu nhật ký Web.
  • Chuỗi tuần tự (Sequence): Cho tập phần tử hữu hạn $I = {i_1, i_2, \dots, i_m}$, chuỗi tuần tự $Seq$ là một danh sách có thứ tự $\langle p_1, p_2, \dots, p_n \rangle$ với $p_x \in I$.
  • Cơ sở dữ liệu tuần tự ($SD$): Tập hợp các chuỗi $SD = {s_1, s_2, \dots, s_N}$, trong đó mỗi chuỗi tương ứng với các trang Web được truy cập bởi một địa chỉ IP theo thứ tự thời gian.
  • Bài toán dự đoán hành vi truy cập Web: Với chuỗi truy vấn $S_{query} = \langle page_1, page_2, \dots, page_m \rangle$, tìm trang Web tiếp theo $p_{next}$ theo hàm: $$P_{next} = F(S_{query}, SD)$$
  • Độ chính xác dự đoán: Được tính bằng tỉ số giữa số chuỗi dự đoán thành công và tổng số chuỗi dự đoán: $$Accuracy = \frac{|successes|}{|sequences|}$$
  • Cấu trúc giải thuật CPT: Gồm Prediction Tree (cây tiền tố lưu trữ chuỗi), Lookup Table (bảng tra cứu vị trí chuỗi thời gian hằng số) và Inverted Index (chỉ mục đảo lưu vị trí các phần tử). Khi dự đoán, CPT tìm các chuỗi tương tự chứa hậu tố $P_y(s)$, trích xuất mệnh đề kết quả và tính điểm trong bảng đếm Count Table (CT).
  • Cải tiến của CPT+: Áp dụng chiến lược nén chuỗi con thường xuyên FSC (Frequent Subsequence Compression) để giảm chiều cao cây và nén nhánh đơn SBC (Simple Branches Compression) để gộp các nút đơn lẻ, cùng kỹ thuật giảm nhiễu cải tiến INR (Improved Noise Reduction).
  • Thuật toán PageRank: Mô hình hóa cấu trúc liên kết Web thành đồ thị có hướng $G = (V, E)$, xác định trọng số tầm quan trọng của từng nút dựa trên liên kết đến và hệ số tắt (damping factor $df$). Giá trị PageRank trung bình của một chuỗi tuần tự $s$ có độ dài $|s|$ được tính bằng: $$PR_{avg}(s) = \frac{1}{|s|} \sum_{p \in s} PR(p)$$

Phương pháp nghiên cứu

  • Phương pháp thu thập dữ liệu thứ cấp: Tiếp nhận dữ liệu nhật ký máy chủ từ các hệ thống IIS và Apache; khai thác các tập dữ liệu click-stream chuẩn quốc tế từ kho dữ liệu SPMF của Philippe Fournier-Viger.
  • Phương pháp hỏi ý kiến chuyên gia: Tham vấn định hướng nghiên cứu từ GS.TS. Philippe Fournier-Viger (Đại học Công nghệ Cáp Nhĩ Tân, Trung Quốc).
  • Phương pháp nghiên cứu định lượng: Thiết kế giải thuật, lập trình thực nghiệm, đo đạc thời gian thực thi (miligiây) và độ chính xác dự đoán. Đánh giá độ tin cậy thống kê bằng kiểm định cặp Paired T-Test. Áp dụng phương pháp kiểm tra chéo K-Fold Cross Validation với $K = 10$.
  • Phương pháp nghiên cứu định tính và phân tích tổng hợp: Khảo cứu tài liệu, so sánh ưu nhược điểm lý thuyết của các thuật toán nén chuỗi và dự đoán chuỗi.

Nguồn dữ liệu thực nghiệm

Luận án sử dụng các tập dữ liệu click-stream và Web Log:

Nhóm dữ liệu Tên tập dữ liệu Nguồn gốc / Nền tảng
Click-stream MSNBC Dữ liệu click-stream trang tin tức msnbc.com
Click-stream KOSARAK Dữ liệu nhật ký cổng thông tin điện tử Hungary
Click-stream FIFA Nhật ký truy cập máy chủ World Cup 98
Click-stream BMS (BMS-WebView) Dữ liệu thương mại điện tử
Web Log palmviewsanibel.com Nhật ký máy chủ Web thương mại
Web Log inees.org Nhật ký máy chủ tổ chức mạng lưới giáo dục
Web Log periwinklecottages.il Nhật ký máy chủ dịch vụ lưu trú

Nội dung chính theo từng chương

Chương 1: Tổng quan về khai phá dữ liệu tuần tự cho dự đoán truy cập Web

Chương 1 trình bày tổng quan lý thuyết về Web Usage Mining và bài toán dự đoán hành vi truy cập Web. Tác giả định nghĩa hình thức các khái niệm chuỗi tuần tự, cơ sở dữ liệu tuần tự và khuôn dạng nhật ký máy chủ CLF. Chương này phân tích chi tiết ưu điểm và hạn chế của các hướng tiếp cận chính:

  • Phương pháp luật kết hợp (ARM, CMRules, RuleGrowth, ER-Miner): Tồn tại chi phí tính toán cao, bùng nổ luật và bỏ sót thứ tự thời gian.
  • Phương pháp chuỗi Markov (0-order, 1st-order, All-Kth-Order Markov): Bị giới hạn bởi bùng nổ không gian trạng thái ở bậc cao và thiếu thông tin dài hạn ở bậc thấp.
  • Phương pháp gom cụm và mạng nơ-ron: Mất mát thông tin tuần tự và bỏ qua các trường hợp mẫu hiếm.
  • Phương pháp dự đoán chuỗi tuần tự CPT và CPT+: Giới thiệu cơ chế hoạt động của ba cấu trúc Prediction Tree, Lookup Table, Inverted Index trong CPT và hai chiến lược nén FSC, SBC trong CPT+. Tác giả đề xuất mô hình tổng quát kết hợp nâng cao độ chính xác và giảm thời gian thực thi làm cơ sở cho các chương tiếp theo.

Chương 2: Xây dựng cơ sở dữ liệu tuần tự cho dự đoán truy cập Web

Chương 2 tập trung giải quyết bài toán tiền xử lý dữ liệu nhật ký máy chủ Web Log thô để tạo thành cơ sở dữ liệu tuần tự chuẩn hóa:

  • Quy trình giải thuật: Trích xuất danh sách địa chỉ IP duy nhất và danh sách các URL tài nguyên được truy cập; phân nhóm các liên kết theo từng IP và sắp xếp theo thứ tự dấu thời gian (timestamp).
  • Cải tiến tính toán: Đề xuất hai phiên bản thuật toán gồm thuật toán xử lý tuần tự và thuật toán xử lý song song nhằm tăng tốc độ tiền xử lý các tập tin Web Log dung lượng lớn.
  • Đánh giá thực nghiệm: Thử nghiệm trên 4 tập dữ liệu Web Log thu thập từ các website (periwinklecottages.il, inees.org, palmviewsanibel.com). Kết quả cho thấy thuật toán song song giảm đáng kể thời gian chuyển đổi dữ liệu so với thuật toán tuần tự, bảo toàn đầy đủ các phiên truy cập của người dùng. Luận án phân tích độ tương quan số lượng mẫu tin giữa cơ sở dữ liệu Web Log gốc và cơ sở dữ liệu tuần tự được hình thành.

Chương 3: Nâng cao hiệu quả về độ chính xác khai phá dữ liệu tuần tự cho dự đoán truy cập Web

Chương 3 đề xuất giải pháp nâng cao độ chính xác dự đoán chuỗi tuần tự bằng cách tích hợp giải thuật PageRank với mô hình CPT+:

  • Quy trình giải pháp gồm 5 bước:
    1. Nhập cơ sở dữ liệu tuần tự đầu vào $SDB$.
    2. Chuyển đổi các trang web và liên kết chuyển tiếp thành các nút và cạnh của đồ thị có hướng.
    3. Tính toán trọng số PageRank cho từng nút trang Web.
    4. Tính giá trị PageRank trung bình cho từng chuỗi tuần tự trong cơ sở dữ liệu.
    5. Cắt tỉa, loại bỏ các chuỗi tuần tự có PageRank trung bình thấp để tạo cơ sở dữ liệu thu gọn.
  • Kết quả thực nghiệm:
    • Trên tập dữ liệu MSNBC: Khi cắt tỉa giảm kích thước cơ sở dữ liệu gốc đến 50%, độ chính xác dự đoán tăng thêm 25%.
    • Trên tập dữ liệu FIFA: Khi giảm kích thước dữ liệu gốc 15%, độ chính xác tăng 0,013%.
    • Trên tập dữ liệu KOSARAK: Khi giảm kích thước dữ liệu gốc 15%, độ chính xác tăng 0,017%. Việc loại bỏ các chuỗi có trọng số trang thấp giúp mô hình CPT+ loại bỏ dữ liệu nhiễu và tập trung vào các đường dẫn truy cập phổ biến, từ đó cải thiện độ chính xác dự đoán.

Chương 4: Nâng cao hiệu quả về thời gian khai phá dữ liệu tuần tự cho dự đoán truy cập Web

Chương 4 giải quyết bài toán giảm thời gian phản hồi dự đoán của CPT+ trên cơ sở dữ liệu tuần tự quy mô lớn:

  • Quy trình giải pháp gồm 5 bước:
    1. Nhập cơ sở dữ liệu tuần tự $SDB$ và chuỗi truy vấn hiện tại $S_{query}$.
    2. Quét và loại bỏ các chuỗi tuần tự trong $SDB$ không chứa bất kỳ phần tử nào của $S_{query}$.
    3. Với các chuỗi có chứa phần tử của $S_{query}$, tiếp tục loại bỏ các chuỗi mà các phần tử trùng khớp chỉ xuất hiện duy nhất ở vị trí cuối cùng của chuỗi.
    4. Tạo lập cơ sở dữ liệu tuần tự thu gọn tạm thời phục vụ riêng cho lượt truy vấn.
    5. Thực hiện dự đoán trang tiếp theo trên cơ sở dữ liệu thu gọn bằng CPT+.
  • Kết quả thực nghiệm về thời gian thực thi:
    • Trên tập Web Log palmviewsanibel.com: Thời gian dự đoán nhanh hơn 2,7 lần so với CPT+ gốc.
    • Trên tập Web Log inees.org: Thời gian dự đoán nhanh hơn gần 2 lần.
    • Trên tập click-stream FIFA: Tốc độ dự đoán tăng 3 lần.
    • Trên tập click-stream KOSARAK: Tốc độ dự đoán tăng 30 lần.
    • Trên tập click-stream MSNBC: Tốc độ dự đoán tăng 103 lần.
  • Đánh giá kiểm định thống kê: Các kiểm định Paired T-Test trên từng tập dữ liệu (Bảng 4.4 đến Bảng 4.8 trong văn bản) khẳng định thời gian thực thi giảm rõ rệt và sự khác biệt có ý nghĩa thống kê mà không làm suy giảm độ chính xác dự đoán.

Chương 5: Tích hợp nâng cao độ chính xác và nâng cao hiệu quả về thời gian khai phá dữ liệu tuần tự cho dự đoán truy cập Web

Chương 5 hiện thực hóa mô hình tổng hợp, kết hợp đồng thời giải pháp lọc giảm nhiễu bằng PageRank (ở Chương 3) và giải pháp lọc không gian tìm kiếm theo chuỗi truy vấn (ở Chương 4):

  • Phương pháp thực nghiệm: Sử dụng tập dữ liệu KOSARAK (tập dữ liệu có quy mô lớn nhất trong nghiên cứu). Áp dụng phương pháp kiểm tra chéo K-Fold Cross Validation với $K = 10$. Dữ liệu được chia thành 10 phần ngẫu nhiên, mỗi lượt dùng 90% cho huấn luyện và 10% cho kiểm thử dự đoán.
  • Kết quả thực nghiệm tích hợp:
    • Khi áp dụng giải pháp PageRank để loại bỏ các chuỗi thừa, giảm kích thước cơ sở dữ liệu gốc đến 40%, độ chính xác trung bình vẫn được duy trì cao hơn mô hình thông thường.
    • Sử dụng 60% dữ liệu còn lại kết hợp với kỹ thuật lọc chuỗi của Chương 4: độ chính xác trung bình của dự đoán tăng thêm 0,024%, đồng thời thời gian thực thi dự đoán nhanh hơn xấp xỉ 60 lần so với tiếp cận CPT+ thông thường.

Kết quả và những đóng góp mới

Luận án tự xác định 4 đóng góp mới về mặt khoa học kỹ thuật và ứng dụng thực tiễn:

Các đóng góp mới

  1. Đóng góp thứ nhất: Đề xuất giải pháp thiết kế và xây dựng cơ sở dữ liệu tuần tự từ dữ liệu nhật ký máy chủ Web Log thô. Giải pháp trích xuất các mảng IP và URL theo mốc thời gian, cung cấp thuật toán chuyển đổi tuần tự và thuật toán tính toán song song, giải quyết bài toán tiền xử lý dữ liệu nhật ký trên các máy chủ IIS và Apache.
  2. Đóng góp thứ hai: Đề xuất giải pháp giảm thời gian thực thi dự đoán cho mô hình CPT+. Bằng cách loại bỏ các chuỗi không chứa phần tử của chuỗi truy vấn hoặc chỉ chứa phần tử truy vấn ở vị trí cuối cùng, kích thước không gian tìm kiếm được thu gọn đáng kể. Kết quả thực nghiệm cho thấy thời gian dự đoán nhanh hơn từ 2 đến 103 lần tùy theo đặc trưng tập dữ liệu.
  3. Đóng góp thứ ba: Đề xuất giải pháp nâng cao độ chính xác dự đoán truy cập Web bằng cách tích hợp thuật toán PageRank với mô hình CPT+. Việc mô hình hóa cấu trúc liên kết và loại bỏ các chuỗi tuần tự có trọng số PageRank trung bình thấp giúp cải thiện độ chính xác dự đoán (tăng đến 25% trên MSNBC và từ 0,013% đến 0,017% trên FIFA và KOSARAK).
  4. Đóng góp thứ tư: Đề xuất mô hình tích hợp đồng thời nâng cao độ chính xác và giảm thời gian thực thi dự đoán, kiểm chứng qua phương pháp K-Fold Cross Validation ($K=10$) trên tập dữ liệu lớn KOSARAK. Mô hình giúp tăng độ chính xác trung bình 0,024% và tăng tốc độ xử lý dự đoán xấp xỉ 60 lần.

Bảng tổng hợp so sánh các giải pháp đề xuất của luận án:

Tiêu chí đánh giá Tiếp cận thông thường (CPT+) Giải pháp PageRank (Chương 3) Giải pháp lọc chuỗi (Chương 4) Mô hình tích hợp (Chương 5)
Kích thước CSDL xử lý 100% gốc Giảm 15% - 50% Thu gọn theo truy vấn Giảm 40% cố định + thu gọn truy vấn
Độ chính xác ($Accuracy$) Chuẩn cơ sở Tăng từ 0,013% đến 25% Tương đương chuẩn cơ sở Tăng trung bình 0,024%
Tốc độ thực thi dự đoán Chuẩn cơ sở Tương đương hoặc cải thiện nhẹ Nhanh hơn 2 đến 103 lần Nhanh hơn xấp xỉ 60 lần

Kiến nghị và giải pháp đề xuất

  • Đề xuất tích hợp mô hình vào các hệ thống quản trị nội dung Web và hệ thống khuyến nghị thương mại điện tử nhằm gợi ý sản phẩm hoặc liên kết theo thời gian thực.
  • Khuyến nghị quản trị viên hệ thống áp dụng cơ chế tiền xử lý song song tập tin Web Log định kỳ để giảm tải cho máy chủ trong quá trình phân tích nhật ký truy cập.

Hạn chế và hướng nghiên cứu tiếp

Hạn chế của luận án

  • Dữ liệu thực nghiệm chủ yếu là dữ liệu thứ cấp từ các tập click-stream tĩnh và tập tin nhật ký máy chủ Web Log được ghi nhận trong quá khứ, chưa triển khai thử nghiệm trên luồng dữ liệu trực tiếp theo thời gian thực tại các hệ thống lớn.
  • Mô hình chưa tính đến yếu tố thời gian dừng trên trang (dwell time) của người dùng do giới hạn ghi nhận của giao thức HTTP và tính chất phức tạp của hành vi duyệt Web thực tế.
  • Việc lựa chọn ngưỡng phần trăm cắt tỉa PageRank (ví dụ 15% hay 50%) vẫn phụ thuộc vào thử nghiệm thực nghiệm trên từng tập dữ liệu cụ thể chứ chưa có công thức toán học tự động xác định ngưỡng tối ưu.

Hướng nghiên cứu tiếp

  • Mở rộng mô hình dự đoán chuỗi tuần tự kết hợp với các đặc trưng ngữ nghĩa nội dung trang Web (content-based mining).
  • Nghiên cứu cơ chế tự động hóa việc xác định ngưỡng cắt tỉa PageRank tối ưu cho các loại cơ sở dữ liệu tuần tự khác nhau.
  • Thử nghiệm và triển khai mô hình trên môi trường dữ liệu phân tán quy mô lớn và các ứng dụng di động, thiết bị IoT.

Giá trị tham khảo

Luận án là tài liệu tham khảo chuyên môn trong lĩnh vực Khai phá dữ liệu và Hệ thống thông tin:

  • Đối với nghiên cứu sinh và học viên cao học: Cung cấp tài liệu tổng quan hệ thống về các mô hình dự đoán chuỗi tuần tự (ARM, Markov, CPT, CPT+), phương pháp thực hiện kiểm định Paired T-Test và quy trình kiểm tra chéo K-Fold Cross Validation trong đánh giá giải thuật khai phá dữ liệu.
  • Đối với giảng viên và nhà nghiên cứu: Cung cấp cơ sở lý thuyết và công thức toán học về việc kết hợp giải thuật cấu trúc đồ thị (PageRank) với mô hình cây dự đoán nén để lọc nhiễu dữ liệu.
  • Đối với kỹ sư hệ thống và chuyên viên phát triển ứng dụng Web: Cung cấp giải thuật thực tế (Chương 2 và Chương 4) để tiền xử lý tập tin Web Log máy chủ Apache/IIS thành cơ sở dữ liệu tuần tự và kỹ thuật cắt tỉa không gian tìm kiếm nhằm tăng tốc độ phản hồi cho hệ thống gợi ý trực tuyến.

Câu hỏi thường gặp

1. Vì sao luận án lựa chọn mô hình CPT+ làm nền tảng thay vì mô hình chuỗi Markov hay luật kết hợp?

Mô hình luật kết hợp bỏ qua thứ tự thời gian của các lượt truy cập và làm bùng nổ số lượng luật. Mô hình chuỗi Markov thứ tự cao (All-Kth-Order Markov) gặp hiện tượng bùng nổ không gian trạng thái theo hàm mũ, trong khi mô hình bậc thấp lại mất thông tin lịch sử dài hạn. CPT+ sử dụng ba cấu trúc (Prediction Tree, Lookup Table, Inverted Index) cùng các chiến lược nén FSC và SBC giúp bảo toàn toàn bộ thông tin chuỗi mà không làm mất mát dữ liệu, đạt độ chính xác dự đoán vượt trội trên hầu hết các tập dữ liệu chuẩn.

2. Thuật toán PageRank được ứng dụng như thế nào để nâng cao độ chính xác dự đoán?

Luận án chuyển đổi cơ sở dữ liệu tuần tự thành đồ thị có hướng, trong đó các trang Web là các nút và sự chuyển tiếp giữa các trang là các cạnh. Trọng số PageRank của từng trang được tính toán, sau đó tính PageRank trung bình cho từng chuỗi tuần tự. Các chuỗi có PageRank trung bình thấp (tương ứng với các đường dẫn truy cập ngẫu nhiên, ít quan trọng hoặc dữ liệu nhiễu) sẽ bị loại bỏ, giúp cây dự đoán CPT+ tập trung vào các mẫu hành vi chủ đạo và nâng cao độ chính xác.

3. Kỹ thuật nào giúp luận án giảm thời gian thực thi dự đoán từ 2 đến 103 lần?

Luận án đề xuất kỹ thuật thu gọn không gian tìm kiếm cục bộ dựa trên chuỗi truy vấn $S_{query}$: trước khi dự đoán, giải thuật loại bỏ toàn bộ các chuỗi trong cơ sở dữ liệu không chứa bất kỳ phần tử nào của $S_{query}$, đồng thời loại bỏ các chuỗi chỉ chứa phần tử của $S_{query}$ ở vị trí cuối cùng. Việc này làm giảm đáng kể số lượng chuỗi cần duyệt trong cấu trúc cây và bảng đếm Count Table mà vẫn đảm bảo giữ lại các chuỗi có khả năng sinh ra kết quả dự đoán.

4. Kết quả thực nghiệm trên tập dữ liệu KOSARAK ở mô hình tích hợp đạt được các chỉ số cụ thể nào?

Khi áp dụng phương pháp K-Fold Cross Validation ($K=10$) trên tập dữ liệu KOSARAK, việc kết hợp giải pháp PageRank (giảm kích thước dữ liệu gốc 40%) với giải pháp lọc chuỗi theo truy vấn trên 60% dữ liệu còn lại đã giúp độ chính xác dự đoán trung bình tăng thêm 0,024%, đồng thời thời gian thực thi dự đoán nhanh hơn xấp xỉ 60 lần so với mô hình CPT+ nguyên bản.

Kết luận

Luận án "Khai phá dữ liệu tuần tự để dự đoán hành vi truy cập Web" của tác giả Nguyễn Thôn Dã đã giải quyết bài toán nâng cao hiệu năng dự đoán hành vi người dùng Web dựa trên mô hình cây dự đoán nén cải tiến CPT+. Công trình đóng góp giải pháp chuẩn hóa dữ liệu Web Log song song, phương pháp lọc chuỗi theo truy vấn giúp giảm thời gian thực thi, và kỹ thuật tích hợp PageRank giúp nâng cao độ chính xác dự đoán. Các kết quả thực nghiệm trên các tập dữ liệu chuẩn quốc tế và nhật ký máy chủ thực tế chứng minh mô hình tích hợp đạt được sự cân bằng giữa độ chính xác và tốc độ xử lý, mang lại giá trị ứng dụng cho các hệ thống khuyến nghị và phân tích dữ liệu Web.