Tổng quan luận án

Sự phát triển của mạng Internet và các dịch vụ trực tuyến mang lại nhiều tiện ích trong giao tiếp, trao đổi thông tin, thương mại điện tử và tìm kiếm dữ liệu. Một đặc điểm phổ biến của hầu hết các nền tảng trực tuyến là không bắt buộc người dùng phải cung cấp chính xác thông tin cá nhân. Điều này giúp bảo đảm quyền riêng tư và an toàn thông tin cá nhân trước các nguy cơ tấn công mạng. Tuy nhiên, tính chất ẩn danh này cũng phát sinh hai nhóm vấn đề:

  1. Người dùng có thể lợi dụng việc ẩn danh hoặc giả mạo thông tin để thực hiện các hành vi xấu, gây khó khăn cho việc quản lý và điều tra tội phạm trực tuyến.
  2. Các nhà cung cấp dịch vụ trực tuyến gặp trở ngại trong việc cá nhân hóa giao diện, tối ưu hóa hệ thống gợi ý, hiển thị quảng cáo hướng đối tượng và thúc đẩy hoạt động kinh doanh.

Khoảng trống nghiên cứu được chỉ ra là: Trong khi các nghiên cứu phân tích tác giả truyền thống chủ yếu tập trung vào văn bản chính thống, có độ dài lớn trên các ngôn ngữ phổ biến (tiếng Anh, tiếng Hà Lan, tiếng Trung Quốc, tiếng Hy Lạp...), thì việc xác định đặc điểm tác giả trên văn bản trực tuyến ngắn, có cấu trúc tự do và phi chính thức như bài viết diễn đàn tiếng Việt vẫn chưa được nghiên cứu đầy đủ. Bên cạnh đó, các nghiên cứu dự đoán đặc điểm người dùng dựa trên hành vi chủ yếu được thực hiện trên website thông tin, mạng di động hoặc mạng xã hội; các hệ thống thương mại điện tử (TMĐT) có nhu cầu cá nhân hóa cao nhưng dữ liệu hành vi truy cập sản phẩm vẫn chưa được khai thác tương xứng.

Luận án xác định 4 mục tiêu nghiên cứu cụ thể như sau:

  1. Nghiên cứu vấn đề xác định đặc điểm tác giả văn bản trên bài viết diễn đàn tiếng Việt; thực nghiệm các loại đặc trưng và các phương pháp phân loại để chọn ra các đặc trưng và phương pháp phân loại phù hợp.
  2. Nghiên cứu các phương pháp trích chọn đặc trưng mới cho vấn đề xác định đặc điểm tác giả văn bản nhằm tăng độ chính xác hoặc tính độc lập trong quá trình nhận diện, tận dụng các đặc thù của tiếng Việt như vần và âm tiết, đồng thời có khả năng mở rộng sang các ngôn ngữ khác.
  3. Nghiên cứu vấn đề xác định đặc điểm người dùng dựa trên hành vi trong các hệ thống có nhu cầu cá nhân hóa cao như hệ thống TMĐT; nghiên cứu, đề xuất phương pháp trích chọn đặc trưng hiệu quả (sử dụng biểu diễn dạng cây của danh mục sản phẩm) và phương pháp phân loại phù hợp.
  4. Xây dựng ứng dụng thử nghiệm để đánh giá kết quả nghiên cứu của luận án trong môi trường thực tế.

Đối tượng và phạm vi nghiên cứu:

  • Đối tượng nghiên cứu: Người dùng trên mạng Internet (thông qua văn bản do họ tạo ra và hành vi tương tác trên hệ thống).
  • Phạm vi nội dung và dữ liệu văn bản: Nghiên cứu tập trung vào các bài viết diễn đàn tiếng Việt thu thập từ các diễn đàn trực tuyến (Otofun.vn, Webtretho.com, Tinhte.vn). Các thuộc tính tác giả cần nhận diện gồm 4 đặc điểm: giới tính (nam, nữ), độ tuổi (chia thành 3 nhóm không liên tục: dưới 22 tuổi, từ 24 đến 27 tuổi, trên 32 tuổi), vùng miền (Bắc, Nam) và nghề nghiệp (chia thành 3 nhóm: Kinh doanh, bán hàng, văn phòng; Kỹ thuật, công nghệ; Giáo dục, y tế).
  • Phạm vi dữ liệu hành vi: Nghiên cứu giới hạn ở bài toán dự đoán giới tính của khách hàng dựa trên dữ liệu lịch sử truy cập sản phẩm trong hệ thống thương mại điện tử.

Tổng quan tài liệu và vị trí của luận án

Tác giả đã hệ thống hóa các công trình nghiên cứu trong nước và quốc tế theo hai hướng tiếp cận chính: phân tích tác giả văn bản và dự đoán đặc điểm người dùng qua phân tích hành vi.

Các nghiên cứu về phân tích tác giả văn bản

Lĩnh vực phân tích tác giả văn bản được chia thành ba dạng thức:

  1. Nhận diện tác giả (Authorship Attribution):

    • Mendenhall (1887) đặt nền móng với phương pháp bất biến đơn nhất, sử dụng đường cong quan hệ giữa độ dài từ và tần suất xuất hiện để phân tích kịch của Shakespeare, Bacon và Marlowe.
    • Mosteller và Wallace (1964) áp dụng thuật toán Naive Bayes kết hợp tần suất các từ chức năng (function words như the, of, about) để xác định tác giả của Luận cương Liên bang (Federalist Papers).
    • Burrows đề xuất phương pháp Delta và kỹ thuật phân tích thành phần chính (PCA) trên tần suất từ; tiếp tục được mở rộng bởi Baayen et al.
    • De Vel (2001) nghiên cứu nhận diện tác giả thư điện tử với 274 email của 5 tác giả, sử dụng 38 đặc trưng cấu trúc, từ vựng, từ chức năng và thuật toán SVM, đạt độ chính xác từ 71% đến 85,7%.
    • Koppel et al. thực hiện trên 480 email từ 11 tác giả, kết hợp SVM và cây quyết định C4.5 với 99 đặc trưng phong cách riêng, 200 từ chức năng, đạt độ chính xác lần lượt 60% và 79%.
    • Zhao và Zobel (2005) thử nghiệm trên kho ngữ liệu TREC với các từ chức năng; kết quả cho thấy Bayesian Networks đạt độ chính xác trên 90%, trong khi Decision Trees cho kết quả thấp nhất.
    • Zheng et al. (2006) phân tích bài viết nhóm tin (newsgroup) tiếng Anh và tiếng Trung bằng 4 nhóm đặc trưng (từ vựng, ngữ pháp, cấu trúc, nội dung) trên các mô hình SVM, mạng nơ-ron truyền ngược (BPN) và Decision Trees, trong đó SVM đạt độ chính xác cao nhất (70% - 95%).
    • Stamatatos (2009) áp dụng kỹ thuật chia nhỏ tập đặc trưng và kết hợp các bộ phân loại SVM, đạt độ chính xác trung bình trên 90%.
    • Iqbal (2013) phát triển kỹ thuật vân chữ viết (writeprint) dựa trên khai phá mẫu thường gặp (frequent patterns) với 285 đặc trưng trên tập dữ liệu hơn 200.000 email của 158 tác giả, đạt độ chính xác từ 67% đến 89%.
    • Savoy (2012) đề xuất kỹ thuật tính khoảng cách Z-score từ vựng trên tập dữ liệu tiếng Anh và tiếng Italia, đạt độ chính xác 81% - 89%.

  2. Xác định đặc điểm tác giả (Author Profiling):

    • Corney et al. (2002) dự đoán giới tính tác giả email bằng SVM với 222 đặc trưng, đạt F1 gần 70%.
    • Argamon et al. (2003, 2007, 2009) sử dụng từ chức năng, từ loại (POS) và thuật toán Bayesian Multinomial Regression (BMR) trên bài viết blog, đạt độ chính xác 76% cho giới tính và 77% cho độ tuổi.
    • Koppel et al. (2005) ứng dụng SVM phân biệt ngôn ngữ mẹ đẻ của người viết qua lỗi ngữ pháp và cú pháp, đạt độ chính xác 80%.
    • Peersman et al. dự đoán giới tính và độ tuổi trên dữ liệu mạng xã hội tại Bỉ bằng SVM, đạt độ chính xác 88%.
    • Nguyen et al. (2011, 2013) sử dụng mô hình hồi quy tuyến tính và hồi quy logistic để dự đoán độ tuổi của tác giả blog và diễn đàn.

  3. Phát hiện văn bản cùng tác giả và xác minh tác giả:

    • Labbe et al. (2001) phân đoạn văn bản dựa trên sự phát triển và độ đa dạng của từ vựng.
    • Novak et al. (2004) phát hiện người dùng sử dụng nhiều tài khoản trên diễn đàn qua các độ đo tương đồng IRS và KLS, trong đó KLS trên tập đặc trưng từ vựng đạt độ chính xác gần 90%.
    • Koppel et al. (2007) đề xuất kỹ thuật loại bỏ dần đặc trưng (unmasking) trên nền tảng SVM để kiểm tra độ khác biệt giữa các tập văn bản của 10 tác giả, đạt độ chính xác 80% - 91%.
    • Abbasi và Chen (2008) ứng dụng kỹ thuật tạo vân chữ viết kết hợp cửa sổ trượt (sliding window) và phá mẫu (pattern disruption) trên email, chat, bình luận và mã nguồn của 100 tác giả, đạt độ chính xác 94%.
    • Iqbal et al. (2010) áp dụng khung đánh giá nhận diện người nói theo tiêu chuẩn NIST vào xác minh tác giả email với 292 đặc trưng số, logic và hàm từ vựng, ghi nhận độ sai lệch khoảng 17%.

Các nghiên cứu về xác định đặc điểm người dùng qua phân tích hành vi

  • Hành vi duyệt Website: Hu et al. (2007) sử dụng SVM kết hợp mô hình xác suất Bayesian và kỹ thuật làm mượt để dự đoán giới tính (đạt 79,7%) và độ tuổi (đạt 60,3%) từ dữ liệu duyệt web; Phuong et al. (2012) bổ sung các nhóm đặc trưng chủ đề, đặc trưng thời gian và đặc trưng tuần tự, cải thiện hiệu năng phân loại của mô hình SVM.
  • Hành vi mạng di động: Dong et al. (2014) đề xuất mô hình đồ thị nhân tử biến phụ thuộc kép (Double Dependent-Variable Factor Graph); Ying et al. (2011) xây dựng mô hình phân loại đa mức (Multi-Level Classification Model) nhằm xử lý tình trạng mất cân bằng dữ liệu.
  • Hành vi mạng xã hội: Kosinski et al. (2013) phân tích hành vi "Thích" (Like) trên Facebook từ hơn 58.000 người dùng; Culotta et al. (2015) khai thác mạng lưới theo dõi trên Twitter dưới dạng véc-tơ láng giềng để dự đoán độ tuổi với độ chính xác trên 75%.
  • Hành vi trong hệ thống TMĐT: Lu et al. (2015) tại cuộc thi khai phá dữ liệu thuộc Hội nghị PAKDD 2015 đã sử dụng thuật toán Gradient Boosting Decision Trees kết hợp cập nhật nhãn làm mượt trên 3 nhóm đặc trưng (tần suất/thời lượng xem, thời điểm xem và danh mục sản phẩm), đạt F1 trung bình 80%.

Khoảng trống luận án giải quyết

Luận án định vị trọng tâm giải quyết hai khoảng trống chính:

  1. Thiếu các nghiên cứu thực nghiệm toàn diện trên bài viết diễn đàn tiếng Việt – loại văn bản ngắn, có cấu trúc ngữ pháp tự do, mức độ nhiễu cao và chịu ảnh hưởng của các đặc thù ngôn ngữ đơn lập.
  2. Thiếu các mô hình trích chọn đặc trưng có cấu trúc và phương pháp xử lý dữ liệu hành vi truy cập sản phẩm trên hệ thống TMĐT có tốc độ xử lý nhanh, tính khái quát cao và khả năng áp dụng thực tế.

Cơ sở lý thuyết và phương pháp nghiên cứu

Cơ sở lý thuyết và khung phân tích

Văn bản và chuỗi hành vi người dùng được mô hình hóa thành các véc-tơ đặc trưng số trong không gian nhiều chiều. Giá trị các thành phần biểu thị tần suất xuất hiện, tỷ lệ số học hoặc các thuộc tính cấu trúc, sau đó được chuẩn hóa về khoảng giá trị $[0, 1]$ để loại bỏ ảnh hưởng của sự chênh lệch thang đo.

Về phân loại đặc trưng văn bản, luận án tổng hợp theo hai hệ quy chiếu:

  • Theo bản chất ngôn ngữ (dựa trên phân loại của Argamon et al.): Chia thành đặc trưng phong cách (từ vựng, ngữ pháp, cấu trúc) và đặc trưng nội dung (các từ mang nghĩa biểu đạt theo chủ đề).
  • Theo mức độ phụ thuộc dữ liệu (luận án đề xuất):
    • Đặc trưng độc lập dữ liệu: Không phụ thuộc vào tập dữ liệu huấn luyện, có thể áp dụng trên nhiều miền khác nhau mà không cần trích chọn lại (ký tự, dấu câu, từ chức năng).
    • Đặc trưng phụ thuộc dữ liệu: Được trích xuất trực tiếp từ tập dữ liệu huấn luyện (từ nội dung tần suất cao, POS n-grams, n-grams ký tự).

Phương pháp nghiên cứu và công cụ thực nghiệm

Luận án sử dụng phương pháp học máy có giám sát (Supervised Machine Learning) làm kỹ thuật phân tích chủ đạo.

Bộ công cụ và phần mềm sử dụng:

  • Môi trường khai phá dữ liệu: Phần mềm WEKA (Waikato Environment for Knowledge Analysis) phiên bản Java của Đại học Waikato (New Zealand), sử dụng tệp dữ liệu huấn luyện theo định dạng ARFF (Attribute-Relation File Format).
  • Công cụ tiền xử lý ngôn ngữ tiếng Việt:
    • Tách từ (Word Segmentation): Sử dụng công cụ vnTokenizer của Phuong et al.
    • Gán nhãn từ loại (POS Tagging): Sử dụng công cụ vnTagger của Phuong et al.

Các nhóm thuật toán học máy được khảo sát: Luận án tiến hành thử nghiệm 10 thuật toán thuộc 6 nhóm phương pháp trong WEKA:

  • Nhóm Bayes: Bayesian Networks, Naïve Bayes.
  • Nhóm Functions: Logistic Regression, SMO (Sequential Minimal Optimization - cài đặt của SVM).
  • Nhóm Lazy: iBk ($k$-Nearest Neighbors).
  • Nhóm Meta: AdaBoostM1, Bagging.
  • Nhóm Rules: ZeroR (bộ phân loại đường cơ sở).
  • Nhóm Trees: J48 (cài đặt của C4.5), Random Forest.

Phương pháp đánh giá: Mô hình được đánh giá thông qua phương pháp kiểm chứng chéo 10 lần (10-fold cross-validation) và độ đo độ chính xác tổng quát (Accuracy):

$$\text{Accuracy} = \frac{tp + tn}{tp + fp + tn + fn}$$

Trong đó $tp$, $tn$, $fp$, $fn$ lần lượt là số lượng các mẫu phân loại đúng dương tính, đúng âm tính, sai dương tính và sai âm tính.

Dữ liệu thực nghiệm

Dữ liệu văn bản được thu thập tự động qua Web crawler từ 3 diễn đàn: Otofun.vn (OF), Webtretho.com (WTT) và Tinhte.vn (TT). Dữ liệu sau khi thu thập được tiến hành lọc bỏ trích dẫn, tin tức sao chép, chuỗi số, ký tự rác qua quy trình tự động kết hợp xử lý thủ công (chiếm khoảng 20% tổng số bài viết).

Các bài viết được giới hạn độ dài từ 50 đến 300 từ (tương đương 250 đến 1.500 ký tự). Quy mô tập dữ liệu bao gồm 6.831 bài viết từ 104 tác giả, tổng cộng 734.252 từ, độ dài trung bình đạt 107 từ/bài.

Nội dung chính theo từng chương

Chương 1: Tổng quan về xác định đặc điểm người dùng

Chương 1 trình bày tổng quan lý thuyết và tình hình nghiên cứu của hai lĩnh vực: phân tích tác giả văn bản và dự đoán đặc điểm người dùng qua hành vi.

  1. Khảo sát phân tích tác giả văn bản:

    • Hệ thống hóa các đặc điểm của văn bản trực tuyến: độ dài ngắn, văn phong tự do, phi ngữ pháp, tính tương tác cao nhưng có ưu thế về số lượng mẫu lớn và siêu dữ liệu đi kèm.
    • Phân tích chi tiết ba dạng thức phân tích tác giả, ba giai đoạn kỹ thuật (bất biến đơn nhất, phân tích đa biến, học máy) và các nhóm đặc trưng (phong cách, nội dung, độc lập dữ liệu, phụ thuộc dữ liệu).
    • Điểm lại các đặc trưng mở rộng khác: đặc trưng ổn định từ vựng (Koppel et al.), đặc trưng truy vấn thông tin Cosin/Okapi BM25 và tính dễ đọc Flesch/SMOG/Gunning Fog (Edson et al. tại cuộc thi PAN 2013), n-grams theo byte cho mã nguồn (Frantzeskou et al.), n-grams theo bit (Peng et al.).

  2. Khảo sát phân tích hành vi người dùng:

    • Đánh giá các mô hình trích chọn đặc trưng và kỹ thuật phân tích trên 4 hệ thống: website thông tin, mạng di động, mạng xã hội và thương mại điện tử.
    • Nhấn mạnh tính khả thi của việc ứng dụng kỹ thuật học máy kết hợp các phương pháp làm mượt dữ liệu thưa và xử lý mất cân bằng lớp.

  3. Giới thiệu công cụ WEKA:

    • Mô tả kiến trúc WEKA, các phân hệ xử lý dữ liệu và cấu trúc tệp ARFF gồm phần khai báo thuộc tính (@relation, @attribute) và phần dữ liệu (@data).

Chương 2: Xác định đặc điểm tác giả bài viết diễn đàn tiếng Việt

Chương 2 là nội dung thực nghiệm trọng tâm về phân tích văn bản tiếng Việt. Tác giả thiết lập quy trình gồm 6 bước: Thu thập dữ liệu $\rightarrow$ Xử lý dữ liệu $\rightarrow$ Trích chọn đặc trưng $\rightarrow$ Lựa chọn thuật toán học máy $\rightarrow$ Tạo lập dữ liệu huấn luyện $\rightarrow$ Xây dựng mô hình phân loại.

Cơ cấu 333 đặc trưng cơ bản theo phong cách:

Nhóm đặc trưng lớn Phân nhóm con Số lượng đặc trưng Nội dung chi tiết
Dựa trên từ vựng Ký tự 70 Tổng số ký tự, tỷ lệ số, chữ cái, chữ hoa, ký tự đặc biệt, tần suất từng chữ cái a-z, tần suất ký tự đặc biệt (#, $, @...), số ký tự trung bình/từ, số ký tự trung bình/câu.
Tính chất từ 20 Tổng số từ, số từ trung bình/câu, tỷ lệ từ ngắn, tỷ lệ từ dài, độ đa dạng từ vựng, số từ xuất hiện 1 lần, số từ xuất hiện 2 lần.
Dựa trên ngữ pháp Dấu câu 8 Tần suất xuất hiện các dấu chấm câu (!, ?, ...).
Loại từ (POS) 18 Tần suất xuất hiện của 18 nhãn từ loại tiếng Việt (danh từ, động từ, tính từ...).
Từ chức năng 212 Tần suất của 212 từ chức năng tiếng Việt (giới từ, liên từ, đại từ: trên, trong, và, thì...).
Cấu trúc Cấu trúc văn bản 5 Tổng số dòng, tổng số câu, tổng số đoạn, độ dài trung bình đoạn theo từ, độ dài trung bình đoạn theo câu.
Tổng cộng 333 Toàn bộ được chuẩn hóa về thang đo $[0, 1]$.

Phân bố tập dữ liệu thực nghiệm Chương 2:

Đặc điểm tác giả Số bài viết Lớp đặc điểm Diễn đàn OF Diễn đàn WTT Diễn đàn TT Tổng tỷ lệ
Giới tính 4.474 Nam 38% 7% 9% 54%
Nữ 28% 12% 6% 46%
Độ tuổi 3.017 Dưới 22 8% 4% 9% 21%
Từ 24 đến 27 12% 8% 7% 27%
Trên 32 39% 8% 5% 52%
Vùng miền 3.960 Bắc 40% 10% 7% 57%
Nam 28% 8% 7% 43%
Nghề nghiệp 3.453 Kinh doanh, bán hàng, văn phòng 24% 8% 4% 36%
Kỹ thuật, công nghệ 20% 4% 7% 31%
Giáo dục, y tế 22% 8% 3% 33%

Tác giả chia nhỏ tập đặc trưng thành 7 tập con để thực nghiệm so sánh: Ký tự (CharFeat - 70), Tính chất từ (WordFeat - 20), Từ vựng (LexFeat - 90), Loại từ và dấu câu (POSFeat - 26), Từ chức năng (FWFeat - 212), Ngữ pháp (SynFeat - 238), và Toàn bộ đặc trưng (AllFeat - 333).

Kết quả và phát hiện chính của chương:

  • Đối với bài viết diễn đàn tiếng Việt, các đặc trưng từ vựng (LexFeat) đem lại kết quả phân loại cao hơn so với các đặc trưng ngữ pháp (SynFeat). Nguyên nhân do bài viết diễn đàn có độ dài ngắn, cấu trúc cú pháp phi chính thống và có nhiều lỗi chính tả/ngữ pháp khiến các công cụ phân tích cú pháp khó đạt hiệu quả cao.
  • Thuật toán SMO (SVM) cho kết quả phân loại tốt nhất và ổn định nhất trên hầu hết các tập đặc trưng và thuộc tính tác giả so với 9 thuật toán còn lại.
  • Chương 2 cũng trình bày phân tích sâu về các đặc trưng dựa trên nội dung và đề xuất bộ đặc trưng mới dựa trên âm tiết và vần trong tiếng Việt nhằm nâng cao tính độc lập dữ liệu và độ chính xác phân loại.

Chương 3: Dự đoán giới tính khách hàng dựa trên dữ liệu lịch sử truy cập hệ thống thương mại điện tử

Chương 3 trình bày bài toán dự đoán giới tính khách hàng trên hệ thống TMĐT:

  • Đề xuất hai phương án tiếp cận giải quyết bài toán với ưu điểm có tính khái quát cao, tốc độ tính toán nhanh và dễ triển khai trên các hệ thống khác nhau.
  • Đề xuất phương pháp trích chọn đặc trưng dựa trên cấu trúc biểu diễn dạng cây của danh mục sản phẩm kết hợp với các mô hình phân loại học máy.
  • Các kết quả nghiên cứu đã được công bố tại các công trình khoa học [3, 6] trong danh mục bài báo của tác giả.

Phần Phụ lục: Ứng dụng thử nghiệm dịch vụ xác định đặc điểm tác giả văn bản tiếng Việt

Trình bày việc xây dựng và triển khai thử nghiệm hệ thống nhận diện đặc điểm tác giả trên môi trường mạng Internet theo mô hình Client - Server:

  • Mô-đun máy chủ (Server): Tiếp nhận yêu cầu, thực hiện tiền xử lý văn bản, trích chọn véc-tơ đặc trưng và thực thi mô hình phân loại đã huấn luyện.
  • Mô-đun máy khách (Client): Cung cấp giao diện cho người dùng nhập văn bản tiếng Việt và hiển thị kết quả dự đoán về giới tính, độ tuổi, vùng miền và nghề nghiệp của tác giả.

Kết quả và những đóng góp mới

Đóng góp về mặt lý luận và khoa học

  1. Trong lĩnh vực phân tích đặc điểm tác giả văn bản:

    • Hệ thống hóa toàn diện các kỹ thuật học máy và các nhóm đặc trưng nhận diện áp dụng cho loại văn bản trực tuyến ngắn, tự do.
    • Phân tích và đánh giá định lượng vai trò của các đặc trưng dựa trên nội dung đối với bài viết diễn đàn tiếng Việt.
    • Đề xuất loại đặc trưng mới dựa trên các yếu tố âm tiết và vần trong tiếng Việt. Bộ đặc trưng này có độ chính xác cao hơn các đặc trưng phong cách cơ bản, có tính độc lập cao hơn so với đặc trưng nội dung, và khi kết hợp với đặc trưng phong cách/nội dung giúp cải thiện độ chính xác chung. Phương pháp này có khả năng mở rộng sang các ngôn ngữ khác.

  2. Trong lĩnh vực xác định đặc điểm người dùng qua hành vi:

    • Nghiên cứu bài toán dự đoán giới tính khách hàng từ lịch sử truy cập hệ thống TMĐT – một lĩnh vực có tính ứng dụng cao nhưng chưa được nghiên cứu đầy đủ trước đó.
    • Đề xuất phương pháp trích chọn đặc trưng sử dụng cấu trúc biểu diễn dạng cây của danh sách sản phẩm, đảm bảo tốc độ xử lý nhanh và tính tổng quát cao.

Đóng góp về mặt thực tiễn và giải pháp đề xuất

  • Xây dựng bộ ngữ liệu thực nghiệm gồm 6.831 bài viết diễn đàn tiếng Việt được gán nhãn 4 thuộc tính người dùng, đóng góp một tập dữ liệu chuẩn cho các nghiên cứu tiếp theo về xử lý ngôn ngữ tự nhiên tiếng Việt.
  • Xây dựng phần mềm ứng dụng thử nghiệm hoàn chỉnh theo kiến trúc máy chủ - máy khách, chứng minh tính khả thi của việc tích hợp mô hình phân loại tác giả vào thực tế.
  • Đề xuất ứng dụng mô hình vào các hệ thống TMĐT nhằm tối ưu hóa hoạt động tiếp thị, hiển thị quảng cáo hướng đối tượng và nâng cao trải nghiệm cá nhân hóa cho người dùng; đồng thời hỗ trợ các cơ quan chức năng khoanh vùng nghi phạm trong điều tra tội phạm công nghệ cao và giải quyết tranh chấp bản quyền văn bản.

Hạn chế và hướng nghiên cứu tiếp

Hạn chế

  • Dữ liệu hành vi TMĐT: Do yêu cầu bảo mật và quyền riêng tư của các máy chủ quản lý hệ thống TMĐT, việc thu thập dữ liệu hành vi người dùng gặp nhiều rào cản, chưa thể mở rộng khảo sát sang nhiều thuộc tính khác ngoài giới tính.
  • Tiền xử lý văn bản: Dữ liệu diễn đàn có độ nhiễu cao, nhiều trích dẫn và nội dung sao chép, đòi hỏi khoảng 20% khối lượng bài viết phải làm sạch bằng phương pháp thủ công.
  • Tham số thuật toán: Các thực nghiệm ban đầu của Chương 2 sử dụng các tham số mặc định của thuật toán trong WEKA, chưa tiến hành tối ưu hóa tham số chuyên sâu và chưa áp dụng các kỹ thuật chọn lọc đặc trưng nâng cao.

Hướng nghiên cứu tiếp theo

  • Thực hiện tối ưu hóa không gian tham số cho các mô hình học máy (như tham số bậc đa thức và hệ số phạt $C$ của thuật toán SMO, số lượng cây và số đặc trưng của Random Forest, số lượng vòng lặp của các thuật toán meta).
  • Nghiên cứu và áp dụng các kỹ thuật chọn lọc đặc trưng (Feature Selection), học kết hợp (Ensemble Learning) và các mạng nơ-ron học sâu (Deep Learning) trên tập ngữ liệu văn bản tiếng Việt quy mô lớn hơn.
  • Mở rộng phạm vi thử nghiệm đặc trưng âm tiết và vần sang các dạng thức văn bản trực tuyến khác (như mạng xã hội, bình luận tin tức) và kiểm thử khả năng chuyển giao sang ngôn ngữ khác.
  • Nghiên cứu giải pháp xử lý vấn đề mất cân bằng lớp dữ liệu trong các hệ thống trực tuyến đặc thù.

Giá trị tham khảo

Luận án có giá trị tham khảo chuyên môn cho nhiều nhóm đối tượng:

  • Nghiên cứu sinh, học viên cao học, giảng viên ngành Khoa học máy tính, Công nghệ thông tin và Ngôn ngữ học máy tính:

    • Tham khảo phương pháp xây dựng bộ 333 đặc trưng phong cách, phương pháp trích chọn đặc trưng dựa trên âm tiết/vần tiếng Việt và quy trình tích hợp các công cụ xử lý ngôn ngữ tự nhiên tiếng Việt (vnTokenizer, vnTagger).
    • Tham khảo phương pháp thiết kế thực nghiệm học máy so sánh 10 thuật toán trên công cụ WEKA với phương pháp kiểm chứng chéo 10 lần.

  • Kỹ sư dữ liệu và nhà phát triển ứng dụng Thương mại điện tử:

    • Tham khảo phương pháp biểu diễn dữ liệu sản phẩm dạng cây và kỹ thuật phân loại hành vi phục vụ các bài toán cá nhân hóa hệ thống gợi ý, tiếp thị hướng đối tượng và tối ưu hóa trải nghiệm người dùng.

  • Chuyên viên an toàn thông tin và giám định kỹ thuật số:

    • Tham khảo quy trình phân tích dấu vết văn bản (author profiling / writeprint) để khoanh vùng danh tính, hỗ trợ điều tra các hành vi nặc danh hoặc giả mạo trên các diễn đàn và mạng xã hội.

Câu hỏi thường gặp

1. Luận án nghiên cứu nhận diện những đặc điểm cá nhân nào của tác giả bài viết diễn đàn tiếng Việt và các lớp được phân chia ra sao?
Luận án nghiên cứu nhận diện 4 đặc điểm cá nhân của tác giả bài viết diễn đàn tiếng Việt:

  • Giới tính: Chia thành 2 lớp (Nam và Nữ).
  • Vùng miền: Chia thành 2 lớp (Bắc và Nam).
  • Độ tuổi: Chia thành 3 nhóm không liên tục gồm Dưới 22 tuổi (học sinh, sinh viên), Từ 24 đến 27 tuổi (người mới đi làm, chưa lập gia đình hoặc mới kết hôn), và Trên 32 tuổi (người trung niên có nhiều kinh nghiệm).
  • Nghề nghiệp: Chia thành 3 nhóm gồm Kinh doanh, bán hàng, văn phòng; Kỹ thuật, công nghệ; Giáo dục, y tế.

2. Tập dữ liệu thực nghiệm văn bản của luận án được thu thập từ những nguồn nào và có quy mô ra sao?
Tập dữ liệu văn bản được thu thập tự động từ 3 diễn đàn trực tuyến tiếng Việt là Otofun.vn (OF), Webtretho.com (WTT) và Tinhte.vn (TT). Sau khi lọc và làm sạch (trong đó 20% bài viết được xử lý thủ công), tập dữ liệu gồm 6.831 bài viết của 104 tác giả, tổng cộng 734.252 từ, độ dài trung bình 107 từ/bài (giới hạn mỗi bài từ 50 đến 300 từ, tương đương 250 đến 1.500 ký tự).

3. Tại sao luận án lựa chọn công cụ WEKA và những thuật toán học máy nào đã được đưa vào thực nghiệm?
WEKA là bộ phần mềm mã nguồn mở của Đại học Waikato (New Zealand), hỗ trợ đầy đủ các thuật toán học máy, các khâu tiền xử lý, lọc dữ liệu, huấn luyện và đánh giá mô hình với định dạng ARFF. Luận án thực nghiệm 10 thuật toán thuộc 6 nhóm trong WEKA: Bayesian Networks, Naïve Bayes (nhóm bayes); Logistic, SMO (nhóm functions); iBk (nhóm lazy); AdaBoostM1, Bagging (nhóm meta); ZeroR (nhóm rules); J48, Random Forest (nhóm trees).

4. Bộ đặc trưng phong cách cơ bản trong Chương 2 bao gồm bao nhiêu đặc trưng và được cấu thành như thế nào?
Bộ đặc trưng cơ bản gồm 333 đặc trưng số, được chia làm ba nhóm:

  • Nhóm từ vựng (90 đặc trưng): Gồm 70 đặc trưng ký tự và 20 đặc trưng tính chất từ.
  • Nhóm ngữ pháp (238 đặc trưng): Gồm 8 đặc trưng dấu câu, 18 đặc trưng loại từ (POS) và 212 đặc trưng từ chức năng.
  • Nhóm cấu trúc (5 đặc trưng): Gồm các thông số về dòng, câu, đoạn văn bản.

5. Luận án đề xuất giải pháp gì để dự đoán đặc điểm người dùng trên hệ thống thương mại điện tử?
Luận án đề xuất phương pháp dự đoán giới tính khách hàng dựa trên lịch sử truy cập sản phẩm bằng cách trích chọn đặc trưng sử dụng cấu trúc biểu diễn dạng cây của danh sách/danh mục sản phẩm kết hợp với các mô hình phân loại học máy, giúp mô hình đạt tốc độ xử lý nhanh và có tính tổng quát cao.

Kết luận

Luận án đã giải quyết bài toán xác định đặc điểm người dùng Internet thông qua hai hướng tiếp cận: phân tích văn bản bài viết diễn đàn tiếng Việt và phân tích hành vi truy cập hệ thống thương mại điện tử. Bằng việc ứng dụng phương pháp học máy có giám sát trên công cụ WEKA cùng các công cụ tiền xử lý tiếng Việt (vnTokenizer, vnTagger), tác giả đã đánh giá hiệu quả của 333 đặc trưng phong cách và đề xuất đặc trưng mới dựa trên âm tiết và vần tiếng Việt, cũng như cấu trúc dạng cây danh mục sản phẩm trong hệ thống TMĐT. Các kết quả thực nghiệm và ứng dụng thử nghiệm Client - Server khẳng định tính khả thi của mô hình trong việc nâng cao hiệu quả cá nhân hóa dịch vụ trực tuyến và hỗ trợ công tác quản lý thông tin trên mạng Internet.