Luận Án Tiến Sĩ Kỹ Thuật: Phương Pháp Học Máy Xác Định Đặc Điểm Người Dùng Trên Mạng Internet

Luận án tiến sĩ kỹ thuật nghiên cứu các phương pháp học máy nhằm xác định đặc điểm người dùng trên mạng internet hiệu quả và chính xác.

• Tác giả: Dương Trần Đức
• Người hướng dẫn: TS. Phạm Bảo Sơn
• Trường học: Học viện Công nghệ Bưu chính Viễn thông
• Chuyên ngành: Kỹ thuật máy tính
• Đề tài: Một số phương pháp học máy xác định đặc điểm người dùng trên mạng Internet
• Loại tài liệu: luận án tiến sĩ kỹ thuật
• Năm xuất bản: 2018
• Địa điểm: Hà Nội

Mục lục chi tiết

• TRANG PHỤ BÌA
• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• DANH MỤC BẢNG BIỂU
• DANH MỤC HÌNH VẼ
• DANH MỤC CÁC TỪ VIẾT TẮT
• MỞ ĐẦU
• LÝ DO LỰA CHỌN ĐỀ TÀI
• MỤC TIÊU CỦA LUẬN ÁN
• PHẠM VI NGHIÊN CỨU
• CÁC ĐÓNG GÓP CỦA LUẬN ÁN
• BỐ CỤC CỦA LUẬN ÁN
• 1. CHƯƠNG 1: TỔNG QUAN VỀ XÁC ĐỊNH ĐẶC ĐIỂM NGƯỜI DÙNG
• 1.1. XÁC ĐỊNH ĐẶC ĐIỂM NGƯỜI DÙNG THÔNG QUA PHÂN TÍCH VĂN BẢN
• 1.1.2. Đặc điểm của văn bản trực tuyến
• 1.1.3. Các dạng thức trong phân tích tác giả văn bản
• 1.1.4. Các kỹ thuật phân tích
• 1.1.5. Các đặc trưng nhận diện
• 1.2. NHẬN DIỆN ĐẶC ĐIỂM NGƯỜI DÙNG THÔNG QUA PHÂN TÍCH HÀNH VI
• 1.2.2. Tập đặc trưng hành vi
• 1.2.3. Các kỹ thuật phân tích
• 1.2.4. Nhận xét và đánh giá
• 1.3. CÔNG CỤ THỰC NGHIỆM
• 1.4. KẾT LUẬN CHƯƠNG
• 2. CHƯƠNG 2: XÁC ĐỊNH ĐẶC ĐIỂM TÁC GIẢ BÀI VIẾT DIỄN ĐÀN TIẾNG VIỆT
• 2.1. XÁC ĐỊNH ĐẶC ĐIỂM TÁC GIẢ BÀI VIẾT DIỄN ĐÀN TIẾNG VIỆT SỬ DỤNG CÁC ĐẶC TRƯNG CƠ BẢN
• 2.1.2. Phương pháp
• 2.2. SỬ DỤNG CÁC ĐẶC TRƯNG NỘI DUNG
• 2.2.2. Phương pháp
• 2.3. SỬ DỤNG CÁC ĐẶC TRƯNG VẦN VÀ ÂM TIẾT TIẾNG VIỆT
• 2.3.2. Tổng quan về các nghiên cứu phân tích tác giả sử dụng các đặc trưng dựa trên từ vựng
• 2.3.3. Âm tiết và vần trong tiếng Việt
• 2.3.4. Phương pháp
• 2.4. KẾT LUẬN CHƯƠNG
• 3. CHƯƠNG 3: XÁC ĐỊNH ĐẶC ĐIỂM NGƯỜI DÙNG DỰA TRÊN DỮ LIỆU LỊCH SỬ TRUY CẬP HỆ THỐNG THƯƠNG MẠI ĐIỆN TỬ
• 3.1. PHƯƠNG PHÁP TÁI CHỌN MẪU
• 3.1.2. Phương pháp
• 3.2. PHƯƠNG PHÁP TRÍCH CHỌN ĐẶC TRƯNG DỰA TRÊN BIỂU DIỄN CÂY
• 3.2.2. Phương pháp
• 3.3. KẾT LUẬN CHƯƠNG
• KẾT LUẬN VÀ HƯỚNG NGHIÊN CỨU TIẾP THEO
• HƯỚNG NGHIÊN CỨU TIẾP THEO
• DANH MỤC CÔNG TRÌNH CÔNG BỐ
• TÀI LIỆU THAM KHẢO
• PHỤ LỤC 1: XÂY DỰNG ỨNG DỤNG THỬ NGHIỆM XÁC ĐỊNH ĐẶC ĐIỂM TÁC GIẢ VĂN BẢN TIẾNG VIỆT
• MÔ TẢ HỆ THỐNG
• Chức năng Thu thập dữ liệu
• Chức năng Xử lý dữ liệu
• Chức năng Trích chọn đặc trưng
• Chức năng Xây dựng mô hình nhận diện
• Chức năng Xây dựng dịch vụ nhận diện
• Chức năng Ứng dựng Web thử nghiệm sử dụng dịch vụ
• XÂY DỰNG HỆ THỐNG
• Mô đun Thu thập dữ liệu
• Mô đun Xử lý dữ liệu và trích chọn đặc trưng
• Mô đun Xây dựng dịch vụ nhận diện
• Mô đun ứng dụng thử nghiệm sử dụng dịch vụ

Tóm tắt

I. Phương pháp học máy

Phương pháp học máy là nền tảng chính trong nghiên cứu này, được sử dụng để xác định đặc điểm người dùng trên mạng Internet. Các thuật toán học máy như phân loại, hồi quy và phân cụm được áp dụng để phân tích dữ liệu người dùng. Các phương pháp này giúp xác định các đặc điểm cá nhân như giới tính, độ tuổi, nghề nghiệp và vùng miền dựa trên dữ liệu văn bản và hành vi. Học máy cũng được sử dụng để tối ưu hóa trải nghiệm người dùng bằng cách cá nhân hóa các dịch vụ trực tuyến.

1.1. Phân loại người dùng

Phân loại người dùng là một kỹ thuật quan trọng trong học máy, giúp nhóm người dùng dựa trên các đặc điểm chung. Các thuật toán như SVM, Decision Tree và Naive Bayes được sử dụng để phân loại người dùng dựa trên dữ liệu văn bản và hành vi. Kỹ thuật này đặc biệt hữu ích trong việc cá nhân hóa quảng cáo và dịch vụ trực tuyến.

1.2. Dự đoán hành vi người dùng

Dự đoán hành vi người dùng là một ứng dụng quan trọng của học máy, giúp dự đoán các hành động tương lai của người dùng dựa trên lịch sử truy cập. Các thuật toán như Random Forest và Gradient Boosting được sử dụng để dự đoán hành vi mua sắm hoặc tương tác trên các nền tảng thương mại điện tử.

II. Xác định đặc điểm người dùng

Xác định đặc điểm người dùng là mục tiêu chính của nghiên cứu, tập trung vào việc phân tích dữ liệu văn bản và hành vi để xác định các đặc điểm cá nhân. Các kỹ thuật như phân tích văn bản và phân tích hành vi được sử dụng để thu thập và xử lý dữ liệu. Người dùng Internet là đối tượng chính của nghiên cứu, với các đặc điểm như giới tính, độ tuổi và nghề nghiệp được xác định thông qua các phương pháp học máy.

2.1. Phân tích dữ liệu văn bản

Phân tích dữ liệu văn bản là một kỹ thuật quan trọng để xác định đặc điểm người dùng. Các đặc trưng như từ vựng, cấu trúc câu và phong cách viết được trích xuất để phân loại người dùng. Các phương pháp như TF-IDF và Word Embedding được sử dụng để xử lý và phân tích văn bản.

2.2. Phân tích hành vi người dùng

Phân tích hành vi người dùng tập trung vào việc thu thập và phân tích dữ liệu từ các hành động của người dùng trên các nền tảng trực tuyến. Các đặc trưng như thời gian truy cập, sản phẩm xem và tần suất mua hàng được sử dụng để dự đoán đặc điểm người dùng.

III. Tối ưu hóa trải nghiệm người dùng

Tối ưu hóa trải nghiệm người dùng là một ứng dụng quan trọng của nghiên cứu, nhằm cải thiện sự hài lòng của người dùng trên các nền tảng trực tuyến. Các phương pháp học máy được sử dụng để cá nhân hóa nội dung, quảng cáo và dịch vụ dựa trên đặc điểm người dùng. Công nghệ thông tin đóng vai trò quan trọng trong việc triển khai các giải pháp tối ưu hóa trải nghiệm người dùng.

3.1. Cá nhân hóa nội dung

Cá nhân hóa nội dung là một kỹ thuật giúp hiển thị nội dung phù hợp với sở thích và nhu cầu của người dùng. Các thuật toán học máy được sử dụng để phân tích hành vi và đặc điểm người dùng, từ đó đề xuất nội dung phù hợp.

3.2. Tối ưu hóa quảng cáo

Tối ưu hóa quảng cáo là một ứng dụng quan trọng của tối ưu hóa trải nghiệm người dùng. Các thuật toán học máy được sử dụng để phân tích đặc điểm người dùng và hiển thị quảng cáo phù hợp, giúp tăng hiệu quả quảng cáo và doanh thu.

Nội dung chính

Tổng quan luận án

Sự phát triển của mạng Internet và các dịch vụ trực tuyến mang lại nhiều kênh trao đổi thông tin như thư điện tử, diễn đàn, mạng xã hội và các hệ thống thương mại điện tử. Hầu hết các nền tảng này không bắt buộc người dùng phải cung cấp thông tin cá nhân chính xác nhằm bảo vệ quyền riêng tư và tạo sự thuận tiện khi sử dụng. Tuy nhiên, tính chất nặc danh này làm nảy sinh hai vấn đề thực tiễn: người dùng có thể lợi dụng để thực hiện hành vi xấu, gây khó khăn cho công tác điều tra tội phạm mạng; đồng thời, các nhà cung cấp dịch vụ gặp trở ngại trong việc cá nhân hóa trải nghiệm, tối ưu hóa quảng cáo và nâng cao hiệu quả kinh doanh. Do người dùng thường ít khi chủ động khai báo chính xác thông tin cá nhân, phương pháp khả dĩ nhất là dự đoán các đặc điểm này dựa trên dấu vết để lại trên hệ thống, bao gồm các văn bản được tạo ra hoặc lịch sử hành vi truy cập.

Về phương diện học thuật, kỹ thuật phân tích tác giả văn bản truyền thống chủ yếu tập trung vào các văn bản dài, có cấu trúc chuẩn mực như sách báo và giải quyết bài toán xác định đích danh tác giả (authorship attribution). Khi chuyển sang môi trường trực tuyến, bài toán chuyển trọng tâm sang xác định đặc điểm tác giả (author profiling). Mặc dù đã có nhiều nghiên cứu trên các ngôn ngữ như tiếng Anh, tiếng Hà Lan, tiếng Trung hay tiếng Ả Rập, các nghiên cứu trên văn bản tiếng Việt—vốn có đặc thù ngôn ngữ riêng—còn rất hạn chế, đặc biệt là trên các dạng văn bản ngắn, tự do như bài viết diễn đàn. Song song với đó, việc xác định đặc điểm người dùng dựa trên phân tích hành vi trên các hệ thống thương mại điện tử vẫn là một khoảng trống lớn do khó khăn trong việc tiếp cận dữ liệu máy chủ và thiếu các phương pháp mô hình hóa đặc trưng phù hợp.

Mục tiêu nghiên cứu của luận án được xác định cụ thể như sau:

1. Nghiên cứu vấn đề xác định đặc điểm tác giả văn bản trên loại văn bản mới, chưa được khảo sát đầy đủ trước đây là bài viết diễn đàn tiếng Việt; thực nghiệm các loại đặc trưng và các phương pháp phân loại để lựa chọn mô hình phù hợp.
2. Nghiên cứu, đề xuất các phương pháp trích chọn đặc trưng mới cho bài toán xác định đặc điểm tác giả văn bản nhằm nâng cao độ chính xác và tính độc lập trong quá trình nhận diện, tận dụng các đặc điểm đặc thù của tiếng Việt như vần và âm tiết.
3. Nghiên cứu vấn đề xác định đặc điểm người dùng dựa trên hành vi trong các hệ thống có nhu cầu cá nhân hóa cao như thương mại điện tử; nghiên cứu và đề xuất phương pháp trích chọn đặc trưng biểu diễn dạng cây cùng các giải pháp phân loại hiệu quả.
4. Xây dựng ứng dụng thử nghiệm để kiểm chứng và triển khai thực tế các kết quả nghiên cứu.

Đối tượng nghiên cứu của luận án là người dùng trên mạng Internet. Về phạm vi nghiên cứu:

• Đối với phân tích văn bản: Luận án tập trung vào các bài viết trên diễn đàn tiếng Việt để dự đoán bốn nhóm đặc điểm của tác giả gồm giới tính, độ tuổi, nghề nghiệp và xuất xứ vùng miền.
• Đối với phân tích hành vi: Luận án tập trung vào dữ liệu lịch sử truy cập (nhật ký xem sản phẩm) của khách hàng trên hệ thống thương mại điện tử để dự đoán đặc điểm giới tính.
• Không gian và thời gian: Công trình được thực hiện tại Học viện Công nghệ Bưu chính Viễn thông và hoàn thành năm 2018.

Tổng quan tài liệu và vị trí của luận án

Tổng quan lịch sử phân tích tác giả văn bản cho thấy sự tiến hóa qua ba giai đoạn kỹ thuật chính:

• Phương pháp bất biến đơn nhất: Khởi đầu từ công trình của Mendenhall (1887) khi nghiên cứu phân biệt tác giả các vở kịch của Shakespeare, Marlowe và Bacon thông qua đường cong phân bố độ dài từ. Phương pháp này tìm kiếm một hàm số học đơn lẻ có tính bất biến cho mỗi tác giả nhưng sau đó bộc lộ sự thiếu ổn định.
• Phương pháp phân tích đa biến: Mở đầu bằng nghiên cứu của Mosteller và Wallace (1964) trên tập văn kiện Federalist Papers sử dụng thuật toán Naïve Bayes kết hợp tần suất các từ chức năng. Hướng tiếp cận này tiếp tục được mở rộng với phương pháp Delta của Burrows (2002) và kỹ thuật phân tích thành phần chính (PCA) trên tần suất từ.
• Phương pháp học máy: Trở thành hướng nghiên cứu chủ đạo nhờ khả năng xử lý không gian đặc trưng lớn và đa chiều. De Vel (2001) ứng dụng Support Vector Machine (SVM) trên 274 email của 5 tác giả với 38 đặc trưng, đạt độ chính xác trên 71%. Koppel và cộng sự (2002) so sánh SVM và cây quyết định C4.5 trên 480 email của 11 tác giả, ghi nhận độ chính xác lần lượt là 60% và 79%. Zhao và Zobel (2005) khảo sát Naïve Bayes, Bayesian Networks, k-Nearest Neighbours và Decision Trees trên kho ngữ liệu TREC, chỉ ra Bayesian Networks đạt hiệu quả trên 90%. Zheng và cộng sự (2006) thực nghiệm SVM, Decision Tree và Back Propagation Network (BPN) trên các nhóm tin tiếng Anh và tiếng Trung, khẳng định SVM cho kết quả tối ưu nhất. Stamatatos (2007) đề xuất kỹ thuật phân chia tập đặc trưng và tích hợp cụm bộ phân loại SVM. Iqbal (2010, 2013) phát triển khái niệm "vân chữ viết" (writeprints) trích xuất từ mẫu thường gặp trên tập dữ liệu 200.000 email của 158 tác giả, đạt độ chính xác từ 67% đến 89%. Savoy (2012) đề xuất kỹ thuật tính Z-score dựa trên từ vựng đặc thù với độ chính xác 81%–89%.

Về bài toán xác định đặc điểm tác giả (author profiling): Corney và cộng sự (2002) sử dụng SVM với 222 đặc trưng để nhận diện giới tính qua email (F1 xấp xỉ 70%). Argamon và cộng sự (2003, 2009) áp dụng mô hình hồi quy đa thức Bayes (BMR) kết hợp từ chức năng và nhãn từ loại (POS) để xác định giới tính và độ tuổi trên bài viết blog (độ chính xác 76%–80%). Koppel và cộng sự (2005) ứng dụng SVM nhận diện ngôn ngữ gốc với độ chính xác 80%. Các nghiên cứu của Zhang & Zhang (2010), Pham và cộng sự (2011), Peersman và cộng sự (2011), Rangel và cộng sự (2013) tiếp tục hoàn thiện kỹ thuật xác định giới tính và độ tuổi trên blog và mạng xã hội. Bên cạnh đó, các nghiên cứu phát hiện văn bản cùng tác giả của Labbe và cộng sự (2001), Novak và cộng sự (2004, sử dụng độ đo IRS và KLS), Abbasi & Chen (2008), và Iqbal và cộng sự (2008, vận dụng tiêu chuẩn NIST) đã làm phong phú các kỹ thuật đối sánh văn phong.

Về bài toán nhận diện đặc điểm người dùng qua hành vi:

• Môi trường Website: Hu và cộng sự (2007) kết hợp SVM và Bayesian cùng kỹ thuật làm mượt để dự đoán giới tính (79,7%) và độ tuổi (60,3%). Phuong và cộng sự (2012) bổ sung các đặc trưng theo chủ đề, thời gian và tuần tự truy cập, nâng cao đáng kể độ chính xác. Kabbur và cộng sự (2010) khai thác cấu trúc siêu liên kết.
• Mạng di động: Dong và cộng sự (2014) xây dựng mô hình đồ thị nhân tử biến phụ thuộc kép trên dữ liệu hơn 7.000 người dùng với 1 tỷ bản ghi/ngày, đạt độ chính xác 80% cho giới tính và 70% cho độ tuổi. Ying và cộng sự (2012) đề xuất mô hình phân loại đa mức dựa trên hành vi di chuyển và kết nối môi trường.
• Mạng xã hội: Kosinski và cộng sự (2013) phân tích hành vi "thích" (like) trên Facebook từ 58.000 người dùng để suy diễn đặc điểm cá nhân. Culotta và cộng sự (2015) dự đoán giới tính, độ tuổi qua đồ thị người theo dõi trên Twitter.
• Thương mại điện tử: Lu và cộng sự (2015, trong khuôn khổ cuộc thi PAKDD 2015) là nghiên cứu hiếm hoi sử dụng Gradient Boosting Decision Trees kết hợp cập nhật nhãn làm mượt để dự đoán giới tính người dùng dựa trên danh mục sản phẩm xem, đạt F1 trung bình 80,4%.

Khoảng trống nghiên cứu được luận án xác định bao gồm: thiếu vắng các nghiên cứu bài bản về bài viết diễn đàn tiếng Việt—loại văn bản có độ dài ngắn, cú pháp tự do; chưa khai thác các đặc trưng ngôn ngữ học đặc thù của tiếng Việt (vần và âm tiết) để tăng tính độc lập dữ liệu; và sự thiếu hụt các mô hình trích chọn đặc trưng có cấu trúc cho hành vi duyệt sản phẩm trên các hệ thống thương mại điện tử.

Cơ sở lý thuyết và phương pháp nghiên cứu

Luận án xây dựng cơ sở phương pháp luận dựa trên việc kết hợp lý thuyết ngôn ngữ học văn bản, khai phá dữ liệu hành vi và các thuật toán học máy giám sát.

Hệ thống đặc trưng văn bản được phân loại theo hai chiều:

• Phân loại theo bản chất thông tin:
  1. Đặc trưng phong cách (Stylistic features): Bao gồm đặc trưng từ vựng ở cấp độ ký tự (tổng số ký tự, tỷ lệ số, chữ hoa, ký tự đặc biệt) và cấp độ từ (tổng số từ, độ dài trung bình câu, tỷ lệ từ ngắn/dài, độ phong phú từ vựng hapax legomena và hapax dislegomena); đặc trưng ngữ pháp (tần suất dấu câu, nhãn từ loại POS, cấu trúc ngữ pháp, từ chức năng); và đặc trưng cấu trúc (tổng số dòng, đoạn, độ dài đoạn, cấu trúc đặc biệt như lời chào, chữ ký, URL, mã HTML, biểu tượng cảm xúc).
  2. Đặc trưng nội dung (Content-based features): Tần suất xuất hiện của các từ nội dung mang ngữ nghĩa đặc thù của chủ đề, được trích chọn thông qua các độ đo như độ lợi thông tin (Information Gain).
  3. Đặc trưng âm tiết và vần tiếng Việt: Dựa trên cấu trúc ngữ âm đặc thù của tiếng Việt, bao gồm các thành phần cấu tạo âm tiết (âm đầu, âm đệm, âm chính, âm cuối, thanh điệu) và vần để tạo không gian biểu diễn mới.
• Phân loại theo tính phụ thuộc dữ liệu:
  1. Đặc trưng độc lập dữ liệu: Các đặc trưng được xác định từ trước mà không cần tham chiếu tập dữ liệu huấn luyện (bảng chữ cái, tập từ loại chuẩn, danh sách từ chức năng, cấu trúc âm tiết).
  2. Đặc trưng phụ thuộc dữ liệu: Các đặc trưng được rút trích trực tiếp từ tập dữ liệu cụ thể (từ nội dung tần suất cao, cụm n-grams, luật ngữ pháp cục bộ).

Nhóm đặc trưng	Các thuộc tính thành phần chính
Từ vựng (Ký tự)	Tổng số ký tự, tỷ lệ ký tự số, tỷ lệ chữ cái, tỷ lệ viết hoa, tần suất ký tự đặc biệt
Từ vựng (Tính chất từ)	Số lượng từ, độ dài trung bình câu, tỷ lệ từ ngắn/dài, độ đa dạng từ vựng
Ngữ pháp	Tần suất dấu câu, tần suất từ loại (POS), cấu trúc ngữ pháp, từ chức năng
Cấu trúc	Số dòng, số câu, số đoạn, độ dài đoạn, các cấu trúc đặc thù (lời chào, chữ ký)
Ngữ âm tiếng Việt	Cấu trúc âm tiết tiếng Việt, các vần và âm tiết có tính phân biệt
Hành vi TMĐT	Tần suất xem, thời lượng, thời điểm, danh mục sản phẩm theo cây phân cấp

Phương pháp phân tích hành vi trên hệ thống thương mại điện tử dựa trên mô hình hóa nhật ký truy cập. Không gian đặc trưng bao gồm: nhóm đặc trưng tần suất (số lần xem, thời lượng xem), nhóm đặc trưng thời gian (thời điểm truy cập trong ngày, ngày trong tuần), và nhóm đặc trưng danh mục sản phẩm (sản phẩm, loại sản phẩm, sản phẩm chuyển tiếp) được mô hình hóa dưới dạng cây phân cấp nhiều mức.

Để xử lý bài toán mất cân bằng dữ liệu trong thương mại điện tử, luận án áp dụng giải thuật cân bằng lớp ClassBalancer kết hợp bộ phân loại nhạy cảm chi phí CostSensitiveClassifier với ma trận chi phí tỷ lệ 1:3.

Công cụ và môi trường thực nghiệm: Luận án sử dụng nền tảng WEKA (Waikato Environment for Knowledge Analysis) phiên bản viết bằng Java do Đại học Waikato phát triển. Toàn bộ dữ liệu huấn luyện và kiểm thử được chuẩn hóa sang định dạng Attribute-Relation File Format (ARFF). Các thuật toán học máy được triển khai và đối sánh gồm có: Tối ưu hóa tối thiểu tuần tự (SMO - triển khai cho SVM), Cây quyết định (Decision Tree/C4.5), Mạng Bayes (Bayesian Networks), Hồi quy đa thức Bayes (BMR) và Gradient Boosting Decision Trees.

Nội dung chính theo từng chương

Chương 1: Tổng quan về xác định đặc điểm người dùng

Chương 1 hệ thống hóa các khái niệm nền tảng và khảo cứu toàn diện các công trình nghiên cứu trong hai nhánh: phân tích tác giả văn bản và phân tích hành vi người dùng.

Trong phân tích tác giả văn bản, chương phân định rõ ba dạng thức: nhận diện tác giả, xác định đặc điểm tác giả và phát hiện văn bản cùng tác giả. Tác giả phân tích các ưu điểm và thách thức của văn bản trực tuyến (ngắn, tự do, phi cấu trúc) so với văn bản truyền thống. Đồng thời, chương trình bày chi tiết các nhóm đặc trưng phong cách, đặc trưng nội dung, các đặc trưng độc lập/phụ thuộc dữ liệu, cùng các độ đo mở rộng như truy vấn thông tin (độ đo Cosin, Okapi BM25) và độ đo tính dễ đọc (Flesch, Gunning Fog, SMOG).

Trong phân tích hành vi, chương khảo sát các nghiên cứu trên website, mạng di động, mạng xã hội và thương mại điện tử. Chương kết thúc bằng việc giới thiệu công cụ thực nghiệm WEKA, cấu trúc tệp ARFF và chỉ ra các khoảng trống khoa học cần giải quyết: nghiên cứu văn bản bài viết diễn đàn tiếng Việt, đề xuất đặc trưng âm tiết/vần, và mô hình hóa hành vi trên dữ liệu thương mại điện tử.

Chương 2: Xác định đặc điểm tác giả bài viết diễn đàn tiếng Việt

Chương 2 trình bày các giải pháp học máy nhằm xác định bốn đặc điểm của tác giả bài viết diễn đàn tiếng Việt: giới tính, độ tuổi, nghề nghiệp và xuất xứ vùng miền. Nội dung chương triển khai qua ba hướng tiếp cận thực nghiệm chính:

• Sử dụng các đặc trưng cơ bản theo phong cách: Tác giả xây dựng tập đặc trưng từ vựng, ngữ pháp và cấu trúc. Kết quả thực nghiệm cho thấy các đặc trưng phong cách cơ bản cho độ chính xác ở mức nền tảng nhưng gặp khó khăn khi độ dài bài viết diễn đàn quá ngắn.
• Sử dụng các đặc trưng nội dung: Trích chọn các từ nội dung quan trọng dựa trên độ lợi thông tin. Phân tích thực nghiệm trên thuật toán SMO sau khi tối ưu hóa tham số chỉ ra rằng đặc trưng nội dung mang lại độ chính xác phân loại cao, tuy nhiên có nhược điểm là phụ thuộc chặt chẽ vào chủ đề của tập dữ liệu huấn luyện.
• Đề xuất và sử dụng đặc trưng âm tiết và vần tiếng Việt: Tác giả phân tích cấu trúc âm tiết tiếng Việt và đề xuất trích xuất các vần, âm tiết quan trọng làm đặc trưng nhận diện. Kết quả thực nghiệm khẳng định việc sử dụng đặc trưng âm tiết và vần mang lại độ chính xác vượt trội so với các đặc trưng phong cách cơ bản, có tính độc lập miền cao hơn đặc trưng nội dung, và khi kết hợp cả ba nhóm đặc trưng thì mô hình đạt độ chính xác tối ưu.

+-----------------------------------------------------------------------+
|  QUY TRÌNH XÁC ĐỊNH ĐẶC ĐIỂM TÁC GIẢ BÀI VIẾT DIỄN ĐÀN TIẾNG VIỆT    |
+-----------------------------------------------------------------------+
| [Bài viết diễn đàn] -> [Tiền xử lý văn bản tiếng Việt]                |
|                               |                                       |
|                               v                                       |
|    +-------------------------------------------------------------+    |
|    |               TRÍCH CHỌN KHÔNG GIAN ĐẶC TRƯNG               |    |
|    | - Đặc trưng phong cách (từ vựng, ký tự, độ dài, cấu trúc)   |    |
|    | - Đặc trưng nội dung (từ nội dung tần suất cao qua IG)      |    |
|    | - Đặc trưng ngữ âm (vần và cấu trúc âm tiết tiếng Việt)     |    |
|    +-------------------------------------------------------------+    |
|                               |                                       |
|                               v                                       |
|        [Mô hình học máy SMO / SVM tối ưu hóa tham số]                 |
|                               |                                       |
|                               v                                       |
| [Dự đoán đặc điểm tác giả: Giới tính | Độ tuổi | Nghề nghiệp | Miền]  |
+-----------------------------------------------------------------------+

Chương 3: Xác định đặc điểm người dùng dựa trên dữ liệu lịch sử truy cập hệ thống thương mại điện tử

Chương 3 tập trung giải quyết bài toán dự đoán giới tính khách hàng dựa trên dữ liệu lịch sử xem sản phẩm trong môi trường thương mại điện tử. Luận án đề xuất hai đóng góp kỹ thuật then chốt:

• Phương pháp tái chọn mẫu và phân loại nhạy cảm chi phí: Để xử lý vấn đề mất cân bằng tỷ lệ giới tính trong tập dữ liệu thực tế, tác giả áp dụng bộ lọc cân bằng lớp ClassBalancer kết hợp bộ phân loại CosSensitiveClassifier với ma trận chi phí thiết lập ở tỷ lệ 1:3. Phương pháp này giúp cân bằng độ chính xác dự đoán trên cả hai lớp nam và nữ, cải thiện chỉ số Balanced Accuracy (BAC).
• Phương pháp trích chọn đặc trưng dựa trên biểu diễn cây: Luận án mô hình hóa danh mục sản phẩm và loại sản phẩm mà người dùng đã xem dưới dạng cây phân cấp (gồm các mức danh mục như mức A, mức phân lớp con, và các sản phẩm chuyển tiếp liên tiếp). Kỹ thuật này cho phép nắm bắt cả hành vi xem đơn lẻ lẫn chuỗi hành vi chuyển tiếp giữa các nhóm hàng.
• Kết quả thực nghiệm: So sánh đối sánh giữa các thuật toán phân loại trước và sau khi áp dụng kỹ thuật hỗ trợ cho thấy việc trích chọn đặc trưng nâng cao dạng cây kết hợp tối ưu tham số trên bộ phân loại nhạy cảm chi phí mang lại hiệu quả phân loại cao và tốc độ tính toán nhanh.

+-----------------------------------------------------------------------+
|  MÔ HÌNH HÀNH VI TRUY CẬP VÀ PHÂN LOẠI KHÁCH HÀNG THƯƠNG MẠI ĐIỆN TỬ  |
+-----------------------------------------------------------------------+
| [Nhật ký xem sản phẩm TMĐT] -> [Xử lý dữ liệu chuỗi truy cập]         |
|                               |                                       |
|                               v                                       |
|    +-------------------------------------------------------------+    |
|    |         MÔ HÌNH HÓA ĐẶC TRƯNG DẠNG CÂY VÀ CHUYỂN TIẾP       |    |
|    | - Tần suất, thời lượng và thời điểm xem sản phẩm            |    |
|    | - Biểu diễn cây danh mục sản phẩm (Mức A, phân lớp con)     |    |
|    | - Đặc trưng sản phẩm chuyển tiếp liên tiếp                  |    |
|    +-------------------------------------------------------------+    |
|                               |                                       |
|                               v                                       |
|    +-------------------------------------------------------------+    |
|    |             BỘ PHÂN LOẠI XỬ LÝ MẤT CÂN BẰNG LỚP             |    |
|    | - Bộ lọc tái cân bằng mẫu ClassBalancer                     |    |
|    | - CostSensitiveClassifier (Ma trận chi phí tỷ lệ 1:3)       |    |
|    +-------------------------------------------------------------+    |
|                               |                                       |
|                               v                                       |
|                 [Dự đoán giới tính khách hàng TMĐT]                   |
+-----------------------------------------------------------------------+

Phụ lục 1: Xây dựng ứng dụng thử nghiệm xác định đặc điểm tác giả văn bản tiếng Việt

Phần phụ lục mô tả chi tiết quá trình thiết kế và triển khai một hệ thống phần mềm thử nghiệm hoàn chỉnh trên Internet nhằm cung cấp dịch vụ nhận diện tác giả văn bản tiếng Việt.

• Kiến trúc hệ thống: Gồm hai phần chính là ứng dụng cung cấp dịch vụ trên máy chủ (Server) và ứng dụng thử nghiệm phía máy khách (Client).
• Các mô đun chức năng:
  1. Mô đun Thu thập dữ liệu: Tự động thu thập các văn bản mẫu từ các nguồn trực tuyến.
  2. Mô đun Xử lý dữ liệu và trích chọn đặc trưng: Làm sạch văn bản, chuẩn hóa tiếng Việt, trích xuất véc tơ đặc trưng phong cách, nội dung, vần và âm tiết.
  3. Mô đun Xây dựng mô hình nhận diện: Huấn luyện và lưu trữ các bộ phân loại học máy.
  4. Mô đun Xây dựng dịch vụ nhận diện: Cung cấp giao diện lập trình ứng dụng Web RESTful (JAX-RS) trao đổi dữ liệu dưới định dạng JSON/XML.
  5. Mô đun Ứng dụng Web thử nghiệm: Giao diện người dùng cho phép nhập văn bản trực tiếp và nhận kết quả dự đoán đặc điểm tác giả theo thời gian thực.

Kết quả và những đóng góp mới

Luận án đã đạt được các đóng góp mới về mặt khoa học lý thuyết và ứng dụng thực tiễn:

Về lĩnh vực xác định đặc điểm tác giả văn bản:

• Là công trình nghiên cứu hệ thống đầu tiên về bài toán xác định đặc điểm tác giả trên loại hình bài viết diễn đàn tiếng Việt, khảo sát toàn diện bốn thuộc tính: giới tính, độ tuổi, nghề nghiệp và vùng miền.
• Đề xuất loại đặc trưng nhận diện mới dựa trên ngữ âm tiếng Việt (vần và âm tiết). Đóng góp này giúp giải quyết bài toán cân bằng giữa độ chính xác và tính độc lập miền: đạt độ chính xác cao hơn đặc trưng phong cách cơ bản, độc lập hơn đặc trưng nội dung, và tạo hiệu ứng cộng hưởng khi kết hợp đa đặc trưng.

Về lĩnh vực xác định đặc điểm người dùng dựa trên hành vi:

• Giải quyết bài toán dự đoán giới tính khách hàng trên dữ liệu lịch sử truy cập của hệ thống thương mại điện tử—một môi trường thực tế có nhu cầu cá nhân hóa cao nhưng chưa được nghiên cứu đầy đủ trước đó.
• Đề xuất phương pháp trích chọn đặc trưng dựa trên cấu trúc biểu diễn dạng cây của danh mục sản phẩm/loại sản phẩm và sản phẩm chuyển tiếp, kết hợp giải pháp xử lý mất cân bằng lớp bằng bộ phân loại nhạy cảm chi phí với ma trận chi phí 1:3.

Về mặt ứng dụng thực tiễn:

• Đã thiết kế, xây dựng và tích hợp thành công hệ thống dịch vụ Web RESTful thử nghiệm nhận diện đặc điểm tác giả văn bản tiếng Việt trên môi trường mạng, chứng minh tính khả thi của các thuật toán đề xuất.

Hạn chế và hướng nghiên cứu tiếp

Hạn chế của nghiên cứu:

• Dữ liệu bài viết diễn đàn tiếng Việt có tính phi chuẩn cao, chứa nhiều từ ngữ biến thể, tiếng lóng và lỗi chính tả gây nhiễu cho quá trình trích chọn đặc trưng.
• Dữ liệu hành vi thương mại điện tử chịu sự hạn chế về quyền tiếp cận máy chủ thực tế, dẫn đến việc nghiên cứu hành vi mới chỉ tập trung vào một thuộc tính là giới tính mà chưa mở rộng sang độ tuổi hay mức thu nhập.

Hướng nghiên cứu tiếp theo:

• Mở rộng nghiên cứu áp dụng các phương pháp học máy kết hợp (Ensemble Learning) và các mô hình học sâu (Deep Learning) trên tập dữ liệu lớn hơn.
• Triển khai thử nghiệm các đặc trưng vần và âm tiết sang các dạng thức văn bản trực tuyến khác như bài viết mạng xã hội, bình luận đánh giá sản phẩm, cũng như khảo sát khả năng mở rộng sang các ngôn ngữ có đặc tính âm tiết tương đồng.
• Thu thập dữ liệu hành vi thương mại điện tử đa dạng hơn để xây dựng mô hình dự đoán đồng thời nhiều đặc điểm người dùng phục vụ hệ thống gợi ý cá nhân hóa.

Giá trị tham khảo

Luận án là tài liệu tham khảo có giá trị chuyên môn cho:

• Nghiên cứu sinh, học viên cao học và sinh viên các chuyên ngành Kỹ thuật máy tính, Khoa học dữ liệu, Công nghệ thông tin và Xử lý ngôn ngữ tự nhiên quan tâm đến bài toán phân tích tác giả (Stylometry) và khai phá dữ liệu web.
• Các nhóm nghiên cứu ngôn ngữ học máy tính tiếng Việt, đặc biệt là phần trích chọn đặc trưng ngữ âm (vần, âm tiết) trong Chương 2.
• Các kỹ sư phần mềm, chuyên gia phát triển hệ thống thương mại điện tử cần giải pháp mô hình hóa hành vi khách hàng dạng cây và xử lý dữ liệu mất cân bằng trong Chương 3.
• Các nhà phát triển hệ thống dịch vụ thông minh cần tham khảo kiến trúc dịch vụ nhận diện RESTful trong Phụ lục 1.

Câu hỏi thường gặp

1. Luận án thực hiện dự đoán những đặc điểm nào của tác giả bài viết diễn đàn tiếng Việt?
Luận án thực hiện nhận diện 4 đặc điểm cá nhân của tác giả bài viết diễn đàn tiếng Việt, bao gồm: giới tính, độ tuổi, nghề nghiệp và xuất xứ vùng miền.

2. Nhóm đặc trưng vần và âm tiết tiếng Việt có ưu điểm gì so với đặc trưng phong cách và đặc trưng nội dung?
Đặc trưng vần và âm tiết tiếng Việt có độ chính xác phân biệt cao hơn các đặc trưng phong cách cơ bản, có tính độc lập với dữ liệu tốt hơn đặc trưng nội dung (không bị phụ thuộc chặt vào chủ đề bài viết), và khi kết hợp cùng các đặc trưng khác sẽ làm tăng hiệu quả phân loại tổng thể.

3. Luận án giải quyết vấn đề mất cân bằng dữ liệu trong hệ thống thương mại điện tử bằng phương pháp nào?
Luận án sử dụng kỹ thuật tái chọn mẫu thông qua bộ cân bằng lớp ClassBalancer kết hợp với bộ phân loại nhạy cảm chi phí CostSensitiveClassifier áp dụng ma trận chi phí với tỷ lệ phạt 1:3.

4. Dữ liệu hành vi trong hệ thống thương mại điện tử được biểu diễn như thế nào để trích chọn đặc trưng?
Dữ liệu hành vi xem hàng được trích chọn theo ba nhóm: tần suất/thời lượng xem, thời điểm xem, và danh mục sản phẩm/loại sản phẩm được mô hình hóa dưới dạng cấu trúc cây phân cấp (gồm các mức danh mục như mức A, phân lớp con) cùng các đặc trưng sản phẩm chuyển tiếp liên tiếp.

5. Công cụ phần mềm và giao thức dịch vụ nào được tác giả sử dụng để xây dựng hệ thống thử nghiệm?
Tác giả sử dụng bộ công cụ học máy WEKA với định dạng dữ liệu ARFF cho các thực nghiệm mô hình, và sử dụng nền tảng Java API for RESTful Web Services (JAX-RS) với định dạng dữ liệu JSON/XML để xây dựng dịch vụ nhận diện trực tuyến.

Kết luận

Luận án tiến sĩ kỹ thuật của tác giả Dương Trần Đức đã giải quyết một cách có hệ thống bài toán xác định đặc điểm người dùng trên mạng Internet thông qua hai kênh dữ liệu: văn bản trực tuyến và lịch sử hành vi. Tác giả đã đề xuất giải pháp trích chọn đặc trưng vần và âm tiết đặc thù cho bài viết diễn đàn tiếng Việt, đồng thời xây dựng mô hình biểu diễn dạng cây kết hợp phân loại nhạy cảm chi phí cho dữ liệu hành vi thương mại điện tử. Các kết quả nghiên cứu lý thuyết, thực nghiệm thuật toán trên WEKA và hệ thống dịch vụ Web thử nghiệm đã đóng góp thiết thực cho lĩnh vực kỹ thuật máy tính và khai phá dữ liệu tại Việt Nam.

Trích đoạn nội dung tài liệu

CHƯƠNG 1 TỔNG QUAN VỀ XÁC ĐỊNH ĐẶC ĐIỂM NGƯỜI DÙNG Chương này trình bày nghiên cứu khảo sát về xác định đặc điểm người dùng, bao gồm xác định đặc điểm người dùng dựa trên phân tích văn bản và dựa trên phân tích hành vi. Các nghiên cứu mới nhất trong hai lĩnh vực trên sẽ được nghiên cứu và đánh giá, trong đó tập trung vào hai vấn đề là các đặc trưng nhận diện và kỹ thuật phân tích. Bố cục của chương như sau: Phần 1.1 trình bày các khảo sát và đánh giá về các công trình nghiên cứu trong lĩnh vực phân tích tác giả văn bản.2 trình bày các khảo sát về lĩnh vực dự đoán đặc điểm người dùng dựa trên hành vi.3 trình bày về công cụ thực nghiệm WEKA. Cuối cùng, phần 1.4 nêu các vấn đề còn tồn tại và cần được nghiên cứu, giải quyết.1 XÁC ĐỊNH ĐẶC ĐIỂM NGƯỜI DÙNG THÔNG QUA PHÂN TÍCH VĂN BẢN 1.1 Giới thiệu Phân tích tác giả văn bản là quá trình phân tích một tài liệu để có thể đưa ra các kết luận về tác giả của nó.

Việc phân tích tác giả văn bản là cần thiết trong trường hợp có các tài liệu không rõ tác giả và cần phải phân tích để chỉ ra tác giả hoặc chỉ ra các đặc điểm của tác giả. Trước đây, việc phân tích tác giả được áp dụng chủ yếu cho các tác phẩm văn học như sách báo. Tuy nhiên, trong những năm gần đây, sự phát triển của Internet và các kênh trao đổi thông tin trực tuyến đã hình thành nên nhiều loại văn bản điện tử với số lượng lớn như email, blogs, diễn dàn v., trong đó có rất nhiều bài viết không rõ tác giả (do vô tình hoặc cố ý). Trong nhiều trường hợp, việc xác định ra các đặc điểm hoặc phát hiện ra tác giả của các bài viết, nhận xét, bình luận vô danh là rất cần thiết, phục vụ cho nhiều mục đích khác nhau như: 2  Lĩnh vực quảng cáo, bán hàng: Việc xác định các đặc điểm của người dùng giúp cho các thông tin quảng cáo hoặc giới thiệu sản phẩm được hiển thị đúng đối tượng, qua đó thúc đẩy hoạt động tiếp thị, bán hàng trực tuyến.

 Lĩnh vực phát triển sản phẩm: Hỗ trợ cho các tổ chức/doanh nghiệp trong việc xác định đặc điểm của những người thích hoặc không thích sản phẩm/dịch vụ của họ thông qua việc xác định tác giả của các bình luận/đánh giá tích cực hoặc tiêu cực.  Lĩnh vực tòa án, điều tra tội phạm: Hỗ trợ cho công tác phân xử hoặc phán xét các tranh chấp thông qua việc chứng minh một văn bản nào đó là do một người tạo ra hoặc không phải do một người tạo ra. Ngoài ra, việc xác định được tác giả của các văn bản cũng giúp ích trong một số lĩnh vực quan trọng khác như xác định những tội phạm gửi thông tin nặc danh hoặc giúp phát hiện ra việc sao chép trái phép tài liệu hoặc văn bản. Theo Zheng et al.

[118], lĩnh vực nghiên cứu về phân tích tác giả văn bản có thể chia làm các dạng thức như sau:  Nhận diện tác giả: Là việc xác định xem một người có phải là tác giả của một văn bản không thông qua việc phân tích các văn bản khác do người đó tạo ra.  Xác định đặc điểm tác giả: Là việc chỉ ra các đặc điểm của người đã tạo ra một văn bản cho trước. Các đặc điểm này có thể là về đặc điểm cá nhân, tính cách, trình độ v.  Phát hiện văn bản cùng tác giả (phát hiện sao chép): Là việc so sánh hai hoặc nhiều văn bản xem có phải chúng được tạo ra bởi cùng một tác giả hay không.

Quá trình phân tích tác giả văn bản liên quan đến hai vấn đề chính, đó là kỹ thuật phân tích và tập đặc trưng phân biệt. Có khá nhiều kỹ thuật được sử dụng trong phân tích tác giả văn bản. Koppel [58] phân chia các kỹ thuật ra làm ba loại. Trong thời gian đầu, các kỹ thuật phân 3 tích chủ yếu sử dụng phương pháp bất biến đơn nhất (unitary invariant), trong đó một hàm số học đơn nhất của văn bản được sử dụng để phân biệt các tác giả.

Phương pháp phân tích đa biến (multivariate analysis) được sử dụng sau đó cho phép thực hiện phân tích đa biến theo thống kê dựa trên tần suất các từ và các đặc trưng số khác. Mặc dù các phương pháp này đã đạt được những kết quả khá tốt trong thời gian đầu, nhưng vẫn còn tồn tại những hạn chế, như khả năng xử lý số lượng lớn các đặc điểm hay sự ổn định trên nhiều lĩnh vực. Để giải quyết các vấn đề này, các kỹ thuật học máy đã được nghiên cứu áp dụng. Sự phát triển của các máy tính tốc độ cao đã cho phép các nhà nghiên cứu thực hiện các thực nghiệm phân tích trên các thuật toán học máy phức tạp trên các tập đặc trưng lớn.

Nhiều nghiên cứu về phân tích tác giả văn bản dựa trên các kỹ thuật học máy đã cho ra kết quả tốt, điển hình là các thuật toán như máy véc tơ hỗ trợ (SVM - Support Vector Machine), mạng Bayes (Bayesian Networks), hay cây quyết định (Decision Trees). Nhìn chung, các phương pháp phân tích dựa trên học máy đã có những ưu điểm hơn so với các phương pháp trước đây và các thực nghiệm đã cho thấy kết quả tốt hơn [58]. Tập đặc trưng có thể được xem như một phương pháp biểu diễn văn bản trên khía cạnh phong cách viết hoặc cách sử dụng từ. Với một tập đặc trưng được lựa chọn, một văn bản có thể được biểu diễn bởi một véc tơ đặc trưng, trong đó mỗi thành phần biểu thị tần suất của mỗi đặc trưng trong văn bản hoặc một giá trị biểu thị tính chất đặc thù của văn bản đó [55].

Đã có nhiều tập đặc trưng được thử nghiệm, tuy nhiên không có tập đặc trưng nào là tốt nhất trong mọi trường hợp. Theo Argamon et al. [11], có hai loại đặc trưng chính được sử dụng trong phân tích tác giả văn bản: đặc trưng về phong cách và đặc trưng dựa trên nội dung. Đặc trưng về phong cách bao gồm các đặc trưng liên quan đến cách dùng ký tự, các tính chất từ (lexical), cách sử dụng các cấu trúc ngữ pháp (syntactic), và các đặc trưng về cấu trúc văn bản.

Đặc trưng dựa trên nội dung bao gồm các từ nhất định hoặc các nội dung đặc biệt được sử dụng thường xuyên trong lĩnh vực đó hơn là các lĩnh vực khác. Các từ này có thể được chọn theo phương pháp so sánh ngữ nghĩa hoặc trích chọn dựa trên tần suất xuất hiện trong tập dữ liệu. 4 Các phần tiếp theo sẽ trình bày về đặc điểm của loại văn bản trực tuyến và các khảo sát về các dạng thức, các kỹ thuật, và các tập đặc trưng được sử dụng trong lĩnh vực phân tích tác giả văn bản.2 Đặc điểm của văn bản trực tuyến Văn bản trực tuyến (online documents) hay văn bản điện tử (electronic documents) là các tài liệu viết được trao đổi giữa những người dùng trên mạng Internet. Phương thức trao đổi các tài liệu này có thể là đồng bộ như chat hoặc bất đồng bộ như thư điện tử, diễn đàn.

Việc phân tích tác giả của các tài liệu trực tuyến có nhiều thách thức hơn so với các loại văn bản truyền thống do đặc điểm về cấu tạo và độ dài văn bản [106]. Theo Foertsch (như trích dẫn trong [47]), tài liệu trực tuyến không phải tài liệu viết đơn thuần cũng không phải tài liệu nói đơn thuần mà là một loại tài liệu nằm ở giữa hai loại tài liệu trên. Các loại tài liệu truyền thống như sách, báo, bài luận v. là những loại tài liệu chứa nhiều thông tin hữu ích để phân tích văn phong của tác giả do chúng có độ dài lớn (vài trăm từ cho tới hàng trăm trang).

Ngoài ra, các loại tài liệu này thường được cấu trúc tốt và được viết theo đúng các quy tắc ngữ pháp và cú pháp. Đã có nhiều nghiên cứu thành công trong việc phân tích tác giả của các loại tài liệu này. Các tài liệu trực tuyến thường có độ dài ngắn (vài chục đến vài trăm từ), và thường được viết theo phong cách tự do, ít theo các quy tắc ngữ pháp và cú pháp chính thống. Do đó, việc phân tích các thói quen trong việc viết các tài liệu này của các tác giả là khó khăn hơn nhiều.

Ledger và Merriam (như trích dẫn trong [47]) cho rằng việc phân tích tác giả của các tài liệu có độ dài <500 trang là khó khả thi. Ngoài ra, các tài liệu trực tuyến là các tài liệu tương tác, thường được viết nhằm mục đích duy nhất là biểu thị suy nghĩ của người viết mà ít quan tâm đến các lỗi ngữ pháp và chính tả. Do đó, các phương pháp phân tích dùng cho các loại văn bản trước đây thường phải điều chỉnh cho phù hợp với loại văn bản này. Mặc dù vậy, các loại văn bản trực tuyến cũng có một số ưu điểm trong việc phân tích tác giả.

Đó là số lượng mẫu có thể được thu thập nhiều và dễ dàng hơn do số lượng lớn các tài 5 liệu được trao đổi trên Internet và tính mở của các hệ thống quản lý các tài liệu này. Ngoài ra, một số thông tin đặc trưng như cấu trúc của các tài liệu (lời chào, chữ ký) hoặc các thông tin đi kèm khác (metadata) cũng có thể giúp ích cho việc nhận diện đặc điểm tác giả [106].3 Các dạng thức trong phân tích tác giả văn bản 1.1 Nhận diện tác giả Nhận diện tác giả (authorship attribution) liên quan đến việc xác định một văn bản có phải được tạo ra bởi một tác giả cụ thể hay không hoặc xác định ai trong số một tập hữu hạn tác giả là người đã tạo ra một văn bản cho trước (do vậy, kỹ thuật này còn được gọi là xác định tác giả). Nghiên cứu đầu tiên về nhận diện tác giả được thực hiện từ thế kỷ thứ 19 khi Mendenhall [75] phân tích các vở kịch của Shakespeare. Tuy nhiên, công trình nghiên cứu được xem là thấu đáo nhất trong lĩnh vực này được thực hiện bởi Mosteller và Wallace [76], trong đó hai ông đã phân tích và xác định tác giả của Luận cương Liên bang (Federalist Papers).

Cho đến nay, đã có thêm nhiều công trình nghiên cứu về lĩnh vực này, áp dụng trên nhiều loại văn bản và ứng dụng trong nhiều lĩnh vực khác nhau. Đồng thời, có nhiều loại đặc trưng và phương pháp đã được các nhà nghiên cứu thử nghiệm. De Vel [107] đã nghiên cứu việc nhận diện tác giả của email, sử dụng các đặc trưng về cấu trúc và ngôn ngữ, dùng thuật toán SVM.