Bối cảnh và vấn đề nghiên cứu

Khóa luận tốt nghiệp "Nhận dạng thông tin đáng tin cậy trên mạng xã hội" (tên tiếng Anh: Reliable information detection in social network) được thực hiện bởi sinh viên Phạm Đăng Khoa, dưới sự hướng dẫn của TS. Nguyễn Lưu Thùy Ngân và ThS. Đặng Văn Thin tại Khoa Khoa học Máy tính, Trường Đại học Công nghệ Thông tin – Đại học Quốc gia Thành phố Hồ Chí Minh (bảo vệ vào tháng 1 năm 2022 theo Quyết định số 36/QĐ-ĐHCNTT).

Nghiên cứu xuất phát từ thực trạng bùng nổ mạng xã hội, nơi quyền tự do truyền tải thông tin của người dùng gia tăng nhưng đi kèm mặt trái là sự lan truyền nhanh chóng của các thông tin sai lệch thiếu kiểm chứng. Vấn đề cốt lõi của tin giả (fake news) là các nội dung sai sự thật, bịa đặt hoặc ngụy tạo dẫn chứng nhằm đánh lừa độc giả để trục lợi bất chính, gây thiệt hại nghiêm trọng về tinh thần và uy tín cho các cơ quan, tổ chức hoặc cá nhân. Hiện tượng này đặc biệt bùng phát mạnh mẽ từ đầu năm 2020 trong bối cảnh đại dịch Covid-19, tạo ra một đợt "dịch bệnh thông tin" (infodemic) khi người dân bị hạn chế di chuyển và tiếp nhận nhiều tin đồn thiếu thẩm định y tế. Trong khi đó, tin giả ngày càng được tổ chức bài bản, đan xen luận điệu xuyên tạc vào thông tin thật khiến việc nhận biết thủ công gặp nhiều khó khăn.

Tác giả xác định sáu mục tiêu và nhiệm vụ nghiên cứu cụ thể:

  1. Trình bày cụ thể khái niệm tin giả và các phương pháp sàng lọc nguồn tin cậy trên mạng xã hội.
  2. Nghiên cứu các phương pháp tiền xử lý dữ liệu hiệu quả cho văn bản và siêu dữ liệu.
  3. Nghiên cứu hướng tiếp cận học chuyển giao (transfer learning), cài đặt các mô hình ngôn ngữ tiền huấn luyện dành riêng cho tiếng Việt.
  4. Nghiên cứu các phương pháp kết hợp đặc trưng số vào mô hình phân loại để nâng cao hiệu năng so với mô hình gốc.
  5. Phân tích dữ liệu thực nghiệm nhằm khám phá các quy luật và dấu hiệu đặc trưng của tin giả.
  6. Cài đặt ứng dụng minh họa hỗ trợ nhận biết tin tức sai lệch.

Đối tượng nghiên cứu của đề tài là các bài đăng trên mạng xã hội bao gồm nội dung văn bản và các thuộc tính tương tác đi kèm, tập trung ứng dụng các mô hình học sâu ViBERT, vELECTRA và PhoBERT trên bộ dữ liệu ReINTEL do ban tổ chức Hội thảo VLSP 2020 cung cấp. Phạm vi nghiên cứu giới hạn ở bài toán phân loại nhị phân (tin đáng tin cậy và tin không đáng tin cậy) đối với ngữ liệu tiếng Việt, xử lý dữ liệu đăng tải chủ yếu trong năm 2020 và giới hạn độ dài văn bản đầu vào ở mức 256 tokens do hạn chế về tài nguyên tính toán.

Cơ sở lý thuyết và phương pháp

Khóa luận tổng hợp cơ sở lý thuyết đa tầng, kết nối từ các khái niệm báo chí học đến các thuật toán học máy và học sâu:

  • Khung khái niệm và nguyên tắc sàng lọc: Tác giả sử dụng định nghĩa tin giả của Từ điển Cambridge và phân loại của Himma-Kadakas & Marju gồm hai dạng: tin giả xuyên tạc (hoàn toàn ngụy tạo nhằm bôi nhọ) và tin không hoàn toàn chính xác (sai sót do hiểu lầm hoặc diễn đạt thiên lệch dù có một phần sự thật). Đồng thời, tác giả hệ thống hóa tám nguyên tắc nhận diện nguồn tin cậy: kiểm tra đường dẫn URL, kiểm tra nguồn tin và tác giả, kiểm tra mốc thời gian, đối chiếu với các nguồn tin chính thống khác, quan sát văn phong và lỗi chính tả, đối chiếu dẫn chứng, xác minh hình ảnh, và phân biệt giữa thể loại tin tức (news) với bài viết bày tỏ quan điểm cá nhân (opinion).
  • Mô hình học sâu truyền thống: Tác giả phân tích cấu trúc của mạng nơ-ron hồi quy (RNN) cùng hạn chế triệt tiêu đạo hàm (gradient vanishing); mạng bộ nhớ ngắn hạn dài (LSTM) với cơ chế bốn tầng cổng gồm cổng quên ($f_t$), cổng đầu vào ($i_t$), cập nhật trạng thái ô ($C_t$) và cổng đầu ra ($o_t$); mạng LSTM hai chiều (Bi-LSTM) tiếp nhận thông tin theo cả chiều xuôi và chiều ngược; và mạng nơ-ron tích chập cho văn bản (Text-CNN theo kiến trúc Yoon Kim 2014) sử dụng các bộ lọc cửa sổ trượt (kernels) kết hợp tầng gom cụm tối đa (max-pooling).
  • Kiến trúc Transformer và Học chuyển giao: Tác giả trình bày cơ chế chú ý tự thân (Self-Attention) dựa trên ba ma trận Truy vấn ($Q$), Khóa ($K$) và Giá trị ($V$) theo công thức: $$\text{Attention}(Q, K, V) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V$$ kết hợp cơ chế chú ý đa đầu (Multi-Head Attention), phép mã hóa vị trí (Positional Encoding), và kết nối phần dư chuẩn hóa (Add & Norm). Khóa luận áp dụng ba mô hình ngôn ngữ tiền huấn luyện cho tiếng Việt:
    1. ViBERT: Kế thừa kiến trúc BERT-base (12 lớp Transformer, 110 triệu tham số) được tiền huấn luyện trên dữ liệu tiếng Việt.
    2. PhoBERT: Kế thừa kiến trúc RoBERTa-base, huấn luyện trên 20GB ngữ liệu tiếng Việt (Wikipedia và báo chí), tiền xử lý tách từ bằng VnCoreNLP và tối ưu hóa qua tác vụ Masked Language Model.
    3. vELECTRA: Sử dụng tác vụ phát hiện từ bị thay thế (Replaced Token Detection) trên toàn bộ các token thay vì chỉ che 15% như cơ chế MLM của BERT.

Phương pháp nghiên cứu thực nghiệm được thiết kế bao gồm:

  • Tiền xử lý và chuẩn hóa dữ liệu: Loại bỏ mã HTML, stop words, ký tự thừa; tách từ đối với mô hình PhoBERT; xử lý dữ liệu ngoại lai bằng quy tắc thống kê 3-sigma trên phân phối chuẩn; điền khuyết giá trị số bằng trung vị; điền khuyết mốc thời gian bằng cách tính độ tương đồng cosine thông qua BERT embeddings để sao chép từ bản tin có nội dung tương đồng nhất.
  • Phương pháp kết hợp siêu dữ liệu (meta-data): Tác giả xây dựng hai phương án kiến trúc:
    1. Hướng tiếp cận vector: Chuẩn hóa vector đặc trưng số bằng Batch Normalization về khoảng $[0, 1]$, sau đó ghép nối (concatenate) với trạng thái ẩn từ lớp Transformer rồi đưa qua mạng nơ-ron nhiều tầng (MLP).
    2. Hướng tiếp cận văn bản hóa: Chuyển đổi toàn bộ thông số tương tác và mốc thời gian thành các câu văn tự nhiên chèn trực tiếp vào phần đầu của văn bản bài đăng trước khi đưa vào mô hình Transformer.
  • Chiến lược tinh chỉnh mô hình (Fine-tuning): Ghép nối trạng thái ẩn của token <CLS> từ bốn lớp cuối cùng của khối mã hóa Transformer, truyền qua tầng kết nối đầy đủ và đưa qua hàm softmax; thử nghiệm ba chiến lược cắt ngắn văn bản 256 tokens gồm head_only (lấy 256 token đầu), tail_only (lấy 256 token cuối) và head_tail (kết hợp 64 token đầu và 192 token cuối).
  • Thước đo đánh giá: Đánh giá hiệu năng dựa trên diện tích dưới đường cong đặc trưng hoạt động của bộ thu (ROC-AUC), xây dựng từ tỷ lệ phân loại đúng mẫu dương (TPR) và tỷ lệ phân loại sai mẫu âm (FPR).

Nội dung chính theo từng chương

Chương 1: Giới thiệu

Chương này thiết lập nền tảng ban đầu của đề tài, nêu bật tính cấp thiết của việc phát hiện tin giả trong kỷ nguyên số và đợt bùng phát thông tin đại dịch Covid-19. Tác giả xác định sáu mục tiêu nghiên cứu cụ thể, xác lập đối tượng nghiên cứu là bộ dữ liệu ReINTEL cùng các mô hình ngôn ngữ tiếng Việt (ViBERT, vELECTRA, PhoBERT), giới hạn phạm vi nghiên cứu thực nghiệm và trình bày cấu trúc tổng thể khóa luận gồm bảy chương.

Chương 2: Khái quát

Tác giả đi sâu vào bản chất xã hội và nghiệp vụ báo chí của tin giả, phân tích các định nghĩa quốc tế và hệ quả tiêu cực của tin tức sai lệch đối với cá nhân, tổ chức. Chương này đúc kết tám phương pháp nhận diện tin đáng tin cậy dành cho người đọc. Đồng thời, tác giả tổng hợp bức tranh nghiên cứu liên quan:

  • Trong nước: Các nghiên cứu của nhóm Kim (kết hợp ViBERT4news và PhoBERT đạt 94.5 ROC-AUC), nhóm Trung Hiếu (so sánh mô hình đơn ngữ và đa ngữ, kết hợp thuộc tính username đạt 93.78 ROC-AUC với vELECTRA), nhóm Thuận Hiếu (kết hợp CatBoost, LightGBM với TF-IDF và PhoBERT đạt độ chính xác 95%).
  • Quốc tế: Các hướng tiếp cận sử dụng mạng đồ thị (Graph-CNN, GNN), mô hình đa phương thức kết hợp ảnh và văn bản (Khattar, Peng Qi), mô hình chuỗi Bi-LSTM và LSTM (Agarwal, Chauhan). Từ đó, tác giả chỉ ra điểm nghẽn của các nghiên cứu trước là chủ yếu khai thác văn bản đơn thuần, chưa phân tích chuyên sâu các thuộc tính siêu dữ liệu số và hành vi phát tán tin tức.

Chương 3: Dữ liệu

Chương này mô tả chi tiết ngữ liệu ReINTEL (VLSP 2020) với hơn 10.000 bản tin ban đầu, tập trung vào các chủ đề giải trí, thể thao, tài chính và y tế (đặc biệt là Covid-19 trong năm 2020). Quy trình gán nhãn được thực hiện qua ba nhóm độc lập theo thang đo năm mức (từ 1 - Unreliable đến 5 - Reliable), sau đó biểu quyết nhị phân hóa về nhãn 0 (đáng tin cậy) và nhãn 1 (không đáng tin cậy).

Tác giả phân tích hiện tượng mất cân bằng nhãn (nghiêng về nhãn 0) và tình trạng khuyết dữ liệu nghiêm trọng trên các tập dữ liệu:

Thuộc tính Số lượng khuyết tập Train (Tổng 4.372) Số lượng khuyết tập Test (Tổng 1.284)
Id 0 0
user_name 0 0
post_message 1 0
timestamp_post 96 34
num_like_post 115 616
num_comment_post 10 677
num_share_post 725 742
image 3.085 1.138

Đồng thời, tác giả phát hiện các giá trị ngoại lai bất hợp lý trong dữ liệu tương tác (lượt thích, bình luận, chia sẻ vượt ngưỡng 1,5 tỷ) và áp dụng quy tắc 3-sigma để loại trừ, giữ lại 4.325 mẫu huấn luyện sạch. Qua phân tích biểu đồ word cloud và phân phối thời gian, tác giả phát hiện: tin thật chứa nhiều URL và hashtag dẫn chứng; tin giả chứa nhiều từ ngữ tiêu cực (như "chết") và thường nhắc đến hai quốc gia Mỹ, Trung Quốc; tin thật xuất hiện tập trung từ tháng 3 đến tháng 6 năm 2020; tin giả thu hút lượt bình luận và chia sẻ cao hơn đáng kể so với tin thật, trong khi tin thật lại nhận được nhiều lượt thích hơn.

Chương 4: Cơ sở lý thuyết

Chương này hệ thống hóa các kiến thức toán học và kiến trúc học máy từ truyền thống đến hiện đại:

  • Kiến trúc mạng nơ-ron chuỗi: Phân tích cơ chế truyền trạng thái của RNN; chi tiết hóa các công thức toán học tính toán ma trận trọng số và hàm kích hoạt ($\sigma$, $\tanh$) tại các tầng cổng quên, cổng đầu vào và cổng đầu ra của LSTM; nguyên lý ghép nối hai chiều của Bi-LSTM.
  • Kiến trúc Text-CNN: Cơ chế biến đổi ma trận embedding thông qua các bộ lọc tích chập để rút trích đặc trưng ngữ nghĩa cục bộ, kết hợp tầng max-pooling và tầng kết nối đầy đủ.
  • Kiến trúc Transformer và Transfer Learning: Phân tích chi tiết khối Encoder 6 lớp, cơ chế tính toán Attention đa đầu, chuẩn hóa lớp và vector nhúng vị trí. Tác giả lý giải tính ưu việt của Transformer so với RNN nhờ khả năng xử lý song song toàn bộ chuỗi văn bản trên GPU mà không phụ thuộc tuần tự theo thời gian.

Chương 5: Mô hình phân loại

Tác giả trình bày thiết kế chi tiết của ba mô hình ngôn ngữ tiền huấn luyện tiếng Việt (ViBERT-base, PhoBERT-base, vELECTRA). Trọng tâm của chương là việc hiện thực hóa hai phương pháp tích hợp siêu dữ liệu:

  1. Mô hình kết hợp vector: Dữ liệu số sau khi chuẩn hóa Batch Normalization được ghép nối với vector biểu diễn văn bản lấy từ trạng thái ẩn của token <CLS>, đưa qua mạng MLP để phân loại nhị phân.
  2. Mô hình biểu diễn siêu dữ liệu bằng lời văn: Tự động tạo câu dẫn mang thông tin tương tác và thời gian chèn vào đầu bản tin (ví dụ: "Bài viết có 19477.0 lượt chia sẻ và 378... Bài viết được đăng vào thứ 6, ngày 3 tháng 4 lúc 20 giờ..."), cho phép mô hình Transformer tự động học tương tác giữa siêu dữ liệu và nội dung bài viết thông qua cơ chế Self-Attention. Chương này cũng xác lập kỹ thuật ghép nối bốn trạng thái ẩn cuối cùng của token <CLS> để bảo toàn thông tin biểu diễn, cùng ba chiến lược cắt ngắn văn bản giới hạn 256 tokens (head_only, tail_only, head_tail).

Chương 6: Kết quả thực nghiệm

Chương này xác định phương pháp đánh giá mô hình bằng diện tích dưới đường cong ROC-AUC, định nghĩa chi tiết công thức toán học của độ nhạy / tỷ lệ dương tính thật: $$\text{TPR} = \frac{\text{TP}}{\text{TP} + \text{FN}}$$ và tỷ lệ dương tính giả: $$\text{FPR} = \frac{\text{FP}}{\text{TN} + \text{FP}}$$ Tác giả thiết lập môi trường thực nghiệm, phân tích sự biến thiên của các siêu tham số, tác động của các phương pháp tiền xử lý và chiến lược tích hợp siêu dữ liệu lên hiệu năng phân loại, đồng thời khảo sát khả năng biểu diễn thông tin trên từng lớp (layer) riêng biệt của mô hình Transformer đạt kết quả tối ưu.

Chương 7: Tổng kết và hướng phát triển

Chương cuối tóm lược các kết quả đạt được trong việc cài đặt và cải tiến mô hình phân loại tin giả tiếng Việt, tiến hành phân tích các trường hợp dự đoán lỗi (error analysis), và định hình các hướng nghiên cứu nâng cao tiếp theo.

Kết quả và đóng góp

Khóa luận ghi nhận các kết quả thực nghiệm và số liệu cụ thể thu được từ văn bản:

  • Xử lý thành công tập dữ liệu lớn bị nhiễu: Chuẩn hóa tập dữ liệu ReINTEL gồm 4.372 mẫu huấn luyện, 1.284 mẫu kiểm thử công khai và 1.283 mẫu kiểm thử riêng tư. Tác giả phát hiện trên 10% bản tin có độ dài vượt quá 500 từ và xử lý triệt để các bản ghi ngoại lai có số liệu tương tác phi thực tế (lên đến hơn 1,59 tỷ lượt tương tác) thông qua quy tắc thống kê 3-sigma, rút gọn tập dữ liệu huấn luyện còn 4.325 mẫu đạt phân phối ổn định.
Đặc trưng số Số lượng mẫu (count) Giá trị trung bình (mean) Độ lệch chuẩn (std) Giá trị nhỏ nhất (min) Giá trị lớn nhất (max)
num_like_post 4.372 1.456.400.000.000 48.063.100 1 1.592.811.000
num_comment_post 4.372 1.088.786 41.548.540 0 1.591.690.000
num_share_post 4.372 362.830,6 23.951.710 0 1.583.711.400
  • Xác lập đặc trưng phân biệt tin giả và tin thật: Khóa luận chứng minh bằng số liệu thống kê rằng tin giả trên mạng xã hội Việt Nam năm 2020 tập trung cao độ vào giai đoạn bùng phát dịch Covid-19 (tháng 3 đến tháng 6), có xu hướng tạo ra lượng bình luận và chia sẻ vượt trội do khai thác yếu tố giật gân, trong khi tin thật có số lượt thích cao hơn và mật độ liên kết dẫn chứng (URL, hashtag) dày đặc hơn.
  • Cải tiến phương pháp tích hợp siêu dữ liệu: Đóng góp trọng tâm của tác giả so với các công trình trước đây (vốn chỉ phân loại dựa trên nội dung văn bản đơn thuần) là đề xuất và kiểm chứng thành công hai giải pháp kỹ thuật bổ trợ: chuẩn hóa vector số qua Batch Normalization kết hợp MLP, và chuyển đổi siêu dữ liệu thành ngôn ngữ tự nhiên chèn vào văn bản gốc để tận dụng tối đa cơ chế chú ý của mô hình ngôn ngữ tiền huấn luyện.

Hạn chế và hướng nghiên cứu tiếp

Khóa luận thẳng thắn chỉ ra các hạn chế xuất phát từ điều kiện thực nghiệm và đặc thù dữ liệu:

  • Giới hạn tài nguyên phần cứng: Do năng lực tính toán hạn chế, độ dài tối đa của chuỗi văn bản đầu vào bị giới hạn ở mức 256 tokens, buộc tác giả phải áp dụng các kỹ thuật cắt ngắn dữ liệu (head_only, tail_only, head_tail), dẫn đến khả năng thất thoát thông tin đối với các bài viết dài hơn 500 từ (chiếm hơn 10% ngữ liệu).
  • Thiếu hụt dữ liệu đa phương thức: Thuộc tính hình ảnh (image) bị khuyết với tỷ lệ rất cao (khuyết 3.085 mẫu ở tập huấn luyện và 1.138 mẫu ở tập kiểm thử), khiến tác giả chưa thể tích hợp các mô hình thị giác máy tính để phân tích dữ liệu đa phương thức (multimodal) hoàn chỉnh.
  • Mất cân bằng nhãn và khuyết dữ liệu tương tác: Bộ dữ liệu ReINTEL có tỷ lệ nhãn lệch lớn về phía tin đáng tin cậy, đồng thời các thuộc tính tương tác số ở tập kiểm thử bị khuyết nghiêm trọng (khuyết trên 600 mẫu cho mỗi thuộc tính num_like_post, num_comment_post, num_share_post), tạo ra thách thức lớn cho quá trình suy luận.

Hướng phát triển tiếp theo được tác giả xác định gồm:

  • Tiến hành phân tích sâu các mẫu dự đoán sai nhằm xác định nguyên nhân gây lỗi của mô hình.
  • Mở rộng khảo sát hiệu năng trên từng tầng ẩn riêng biệt và thử nghiệm các chiến lược kết hợp tầng phức tạp hơn trên các mô hình Transformer tiếng Việt.
  • Khai thác dữ liệu hình ảnh đi kèm để xây dựng kiến trúc đa phương thức kết hợp giữa xử lý ngôn ngữ tự nhiên và thị giác máy tính.
  • Hoàn thiện và triển khai ứng dụng thực tế hỗ trợ người dùng tự động sàng lọc tin tức trên mạng xã hội.

Giá trị tham khảo

Khóa luận là tài liệu học thuật hữu ích cho:

  • Sinh viên và học viên cao học ngành Công nghệ Thông tin, Khoa học Máy tính, Trí tuệ Nhân tạo: Cung cấp tài liệu tham khảo chi tiết về quy trình xử lý dữ liệu tiếng Việt thực tế, kỹ thuật fine-tuning các mô hình ngôn ngữ tiền huấn luyện (ViBERT, PhoBERT, vELECTRA) và phương pháp đánh giá phân loại nhị phân qua đường cong ROC-AUC.
  • Nhà nghiên cứu về an ninh mạng và phát hiện tin giả: Cung cấp phương pháp luận thực nghiệm về việc khai thác siêu dữ liệu mạng xã hội (tương tác, mốc thời gian) kết hợp với nội dung văn bản để giải quyết bài toán kiểm định thông tin.
  • Các phần đáng tham khảo nhất trong văn bản:
    • Quy trình tiền xử lý ngữ liệu nhiễu: Kỹ thuật loại bỏ ngoại lai bằng quy tắc 3-sigma và phương pháp điền khuyết mốc thời gian bằng độ tương đồng cosine qua BERT embeddings.
    • Thiết kế kiến trúc tích hợp siêu dữ liệu: Sơ đồ và cơ chế kết hợp đặc trưng số qua Batch Normalization hoặc tự nhiên hóa thành lời văn dẫn nhập.
    • Phân tích thống kê đối sánh: Bảng phân tích hành vi tương tác (lượt thích, bình luận, chia sẻ) và đặc điểm từ vựng giữa tin thật và tin giả trên không gian mạng xã hội Việt Nam.

Câu hỏi thường gặp

1. Bộ dữ liệu ReINTEL sử dụng trong khóa luận có quy mô và cấu trúc phân chia như thế nào?

Bộ dữ liệu ReINTEL do ban tổ chức cuộc thi VLSP 2020 cung cấp, ban đầu có hơn 10.000 bản tin tiếng Việt thu thập từ mạng xã hội và báo chính thống. Trong khóa luận, dữ liệu thực nghiệm được phân chia thành ba tập: tập huấn luyện (train set) gồm 4.372 bản tin, tập kiểm thử công khai (public test set) gồm 1.284 bản tin, và tập kiểm thử riêng tư (final private test set) gồm 1.283 bản tin. Hơn 10% các bản tin có độ dài trên 500 từ và dữ liệu tập trung chủ yếu vào các bài đăng trong năm 2020 liên quan đến đại dịch Covid-19.

2. Tác giả đã xử lý các giá trị khuyết và điểm ngoại lai bất thường trong bộ dữ liệu bằng cách nào?

Đối với các giá trị khuyết ở thuộc tính số (num_like_post, num_comment_post, num_share_post), tác giả sử dụng giá trị trung vị của các mẫu không khuyết để điền vào nhằm tránh ảnh hưởng của điểm ngoại lai. Đối với thuộc tính thời gian (timestamp_post), tác giả đo độ tương đồng ngữ nghĩa giữa các văn bản bằng BERT embeddings qua khoảng cách cosine similarity, sau đó sao chép mốc thời gian từ bài đăng có nội dung tương đồng nhất. Đối với các giá trị ngoại lai tương tác vượt mức 1 tỷ lượt, tác giả áp dụng quy tắc 3-sigma trong thống kê để loại bỏ, giúp tập huấn luyện còn lại 4.325 mẫu phân phối ổn định.

3. Nghiên cứu chỉ ra những dấu hiệu khác biệt cụ thể nào giữa tin thật và tin giả trên mạng xã hội?

Phân tích thực nghiệm của khóa luận cho thấy ba điểm khác biệt rõ nét:

  • Dấu hiệu nội dung: Tin thật xuất hiện nhiều đường dẫn URL và thẻ hashtag đóng vai trò làm bằng chứng kiểm chứng; tin giả ít dẫn chứng, xuất hiện nhiều từ ngữ tiêu cực (như chữ "chết") và thường xuyên nhắc đến các thực thể chính trị gây chú ý như Mỹ và Trung Quốc.
  • Hành vi tương tác: Tin giả nhận được nhiều lượt chia sẻ (num_share_post) và bình luận (num_comment_post) hơn tin thật do nội dung giật gân đánh mạnh vào cảm xúc người đọc; ngược lại, tin thật nhận được nhiều lượt thích (num_like_post) hơn do người đọc có xu hướng cân nhắc kỹ trước khi bấm thích thể hiện sự đồng tình.
  • Phân phối thời gian: Tin thật xuất hiện đỉnh điểm từ tháng 3 đến tháng 6 năm 2020 gắn liền với diễn biến bùng phát dịch Covid-19, trong khi tin giả cũng bám sát khoảng thời gian này để kích động tâm lý hoang mang dư luận.

4. Hai hướng tiếp cận kết hợp siêu dữ liệu vào mô hình học sâu được thiết kế cụ thể ra sao?

Tác giả đề xuất hai phương án kỹ thuật:

  • Hướng 1 (Vector hóa): Gom các thuộc tính số thành một vector đặc trưng, áp dụng kỹ thuật Batch Normalization để chuẩn hóa giá trị về đoạn $[0, 1]$ nhằm tránh triệt tiêu đạo hàm, sau đó ghép nối với đầu ra từ trạng thái ẩn của mô hình Transformer rồi truyền qua mạng MLP để phân loại.
  • Hướng 2 (Văn bản hóa): Chuyển đổi các chỉ số tương tác và mốc thời gian thành đoạn văn tự nhiên (ví dụ: mô tả số lượt chia sẻ, lượt thích và ngày giờ đăng bài) đặt ở đầu câu của nội dung bài viết, cho phép khối Transformer trực tiếp tiếp nhận và xử lý đồng thời cả ngữ cảnh văn bản lẫn siêu dữ liệu.

5. Thước đo đánh giá hiệu năng chính của đề tài là gì và được xác định như thế nào?

Thước đo chính được sử dụng là ROC-AUC (diện tích dưới đường cong đặc trưng hoạt động của bộ thu), phù hợp cho bài toán phân loại nhị phân trên tập dữ liệu mất cân bằng. Giá trị ROC-AUC phản ánh xác suất mà một mẫu dương tính ngẫu nhiên được mô hình xếp hạng cao hơn một mẫu âm tính ngẫu nhiên, được tính toán dựa trên sự biến thiên giữa tỷ lệ phân loại đúng mẫu dương $TPR = \frac{TP}{TP + FN}$ và tỷ lệ gắn nhãn sai mẫu âm $FPR = \frac{FP}{TN + FP}$ qua các ngưỡng quyết định khác nhau.

Kết luận

Khóa luận tốt nghiệp của sinh viên Phạm Đăng Khoa đã giải quyết bài toán nhận dạng tin giả tiếng Việt trên mạng xã hội bằng cách kết hợp có hệ thống giữa các mô hình ngôn ngữ tiền huấn luyện hiện đại (ViBERT, PhoBERT, vELECTRA) với các thuộc tính siêu dữ liệu tương tác thực tế từ bộ dữ liệu ReINTEL (VLSP 2020). Công trình đóng góp quy trình xử lý dữ liệu chuẩn hóa, áp dụng hiệu quả quy tắc thống kê 3-sigma để loại trừ ngoại lai, đồng thời đề xuất hai giải pháp tích hợp siêu dữ liệu (vector hóa qua Batch Normalization và văn bản hóa thông số) nhằm nâng cao năng lực phân loại. Mặc dù còn chịu giới hạn về độ dài chuỗi văn bản (256 tokens) do tài nguyên phần cứng và chưa tích hợp trích xuất đặc trưng hình ảnh, khóa luận đã cung cấp một khung thực nghiệm hoàn chỉnh, có giá trị học thuật và ứng dụng cao cho lĩnh vực xử lý ngôn ngữ tự nhiên tiếng Việt.