NGHIÊN CỨU CÁC PHƯƠNG PHÁP PHÁT HIỆN TIN NHẮN RÁC TIẾNG VIỆT

Nghiên cứu chuyên sâu về các phương pháp phát hiện tin nhắn rác tiếng Việt. Phân tích đặc điểm và xây dựng mô hình hiệu quả, tối ưu hóa trải nghiệm người dùng.

• Tác giả: Vũ Minh Tuấn
• Người hướng dẫn: PGS. Trần Quang Anh
• Trường học: Học viện Công nghệ Bưu chính Viễn thông
• Chuyên ngành: Hệ thống thông tin
• Đề tài: Nghiên cứu các phương pháp phát hiện tin nhắn rác tiếng Việt
• Loại tài liệu: Luận án Tiến sỹ
• Năm xuất bản: 2024
• Địa điểm: Hà Nội

Mục lục chi tiết

• LỜI CAM ĐOAN
• 1. CHƯƠNG 1: TỔNG QUAN VỀ TIN NHẮN SMS VÀ PHƯƠNG PHÁP PHÁT HIỆN TIN NHẮN RÁC TIẾNG VIỆT
• 1.1. TIN NHẮN SMS
• 1.1.1. Khái niệm tin nhắn SMS
• 1.1.2. Cấu trúc tin nhắn SMS
• 1.1.3. Cơ chế hoạt động cơ bản của tin nhắn SMS
• 1.2. TIN NHẮN RÁC VÀ CÁC ĐẶC TRƯNG
• 1.2.1. Đánh nghĩa tin nhắn rác
• 1.2.2. Quy định về tin nhắn rác
• 1.2.3. Đặc trưng của tin nhắn rác
• 1.3. TẬP DỮ LIỆU TIN NHẮN TIẾNG VIỆT
• 1.3.1. Nghiên cứu và tập dữ liệu tin nhắn
• 1.3.2. Xây dựng tập dữ liệu tin nhắn tiếng Việt
• 1.3.3. Mô tả và phân tích tập dữ liệu
• 1.4. BÀI TOÁN PHÁT HIỆN TIN NHẮN RÁC TIẾNG VIỆT
• 1.4.1. Phân tích mức độ ảnh hưởng của độ dài tin nhắn đến hiệu quả mô hình phát hiện tin nhắn rác
• 1.4.2. Xây dựng mô hình phát hiện tin nhắn rác với đặc điểm đa biến thể của tiếng Việt
• 2. CHƯƠNG 2: PHÂN TÍCH MỨC ĐỘ ẢNH HƯỞNG CỦA ĐỘ DÀI TIN NHẮN TỚI HIỆU QUẢ CỦA MÔ HÌNH PHÁT HIỆN TIN NHẮN RÁC
• 2.1. Vai trò của độ dài tin nhắn trong ngôn ngữ tiếng Việt
• 2.2. Vấn đề tồn tại và hướng giải quyết bài toán
• 2.3. Phân tích ảnh hưởng của độ dài tin nhắn tới hiệu quả của mô hình phát hiện tin nhắn rác
• 2.3.1. Dữ liệu thí nghiệm
• 2.3.2. Thiết kế thí nghiệm
• 2.4. So sánh và đánh giá kết quả
• 3. CHƯƠNG 3: PHƯƠNG PHÁP PHÁT HIỆN TIN NHẮN RÁC VỚI ĐẶC ĐIỂM ĐA BIẾN THỂ CỦA TIẾNG VIỆT
• 3.1. Đặc điểm đa biến thể của tiếng Việt
• 3.2. Vấn đề tồn tại và hướng giải quyết bài toán
• 3.3. Mô hình sâu học phát hiện tin nhắn rác tiếng Việt đơn thể
• 3.3.1. Giải thích mô hình
• 3.3.2. Thí nghiệm mô hình
• 3.4. Mô hình học sâu kết hợp kỹ thuật vector hóa phát hiện tin nhắn rác tiếng Việt đa biến thể
• 3.4.1. Giải thích mô hình
• 3.4.2. Thí nghiệm mô hình
• 3.5. Đánh giá và so sánh kết quả
• 3.6. Những khó khăn tồn tại của luận án
• 3.7. Đánh hướng phát triển
• DANH MỤC CÁC CÔNG TRÌNH ĐÃ CÔNG BỐ
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng Quan Về Nghiên Cứu Tin Nhắn Rác Tiếng Việt 55

Trong thế giới phẳng ngày nay, ứng dụng công nghệ thông tin để giao tiếp nhanh chóng, thuận tiện và hiệu quả là điều tất yếu. Cùng với điện thoại và thư điện tử, tin nhắn (SMS) đã tạo nên một cuộc cách mạng về trao đổi thông tin. Mặc dù ra đời sau thư điện tử nhưng tin nhắn SMS lại đang phát triển rất nhanh và đang có xu hướng chiếm ưu thế do một số đặc điểm đặc thù. Tin nhắn đã trở thành một phương tiện giao tiếp không thể thiếu, mang lại nhiều lợi ích đối với cả người dùng và các tổ chức. Khả năng truyền tải thông điệp nhanh chóng và hiệu quả đã biến tin nhắn thành công cụ quan trọng trong việc duy trì liên lạc cá nhân, kết nối kinh doanh và thậm chí là quảng cáo sản phẩm, dịch vụ thông qua chiến dịch marketing. Điều này không chỉ giúp người dùng tiết kiệm thời gian mà còn mở ra những cơ hội kinh doanh mới. Theo một báo cáo gần đây của Slicktext, trên 5 tỷ người trên thế giới chiếm 65% dân số toàn cầu đang sử dụng dịch vụ tin nhắn SMS [1].

1.1. Giới Thiệu Tổng Quan Về Tin Nhắn SMS Hiện Nay

Tin nhắn SMS (Short Message Service) đã trở thành một phương tiện liên lạc phổ biến và không thể thiếu trong cuộc sống hiện đại. Với khả năng truyền tải thông tin nhanh chóng và tiện lợi, SMS được sử dụng rộng rãi cho nhiều mục đích khác nhau, từ liên lạc cá nhân đến các hoạt động kinh doanh và marketing. Tuy nhiên, sự lạm dụng của tin nhắn, đặc biệt là tin nhắn rác, đã đặt ra một thách thức đối với tính hữu ích của nó. Theo thống kê, số lượng người dùng SMS trên toàn cầu liên tục tăng, điều này làm cho kênh truyền thông này trở thành mục tiêu hấp dẫn cho các hoạt động spam SMS và lừa đảo. Sự gia tăng của tin nhắn rác tiếng Việt gây ra nhiều phiền toái cho người dùng, đồng thời ảnh hưởng tiêu cực đến uy tín của các nhà mạng và các doanh nghiệp sử dụng SMS marketing chân chính.

1.2. Phân Tích Đặc Trưng Của Tin Nhắn Rác Tiếng Việt Chi Tiết

Tin nhắn rác không chỉ gây phiền toái mà còn tiềm ẩn nhiều nguy cơ bảo mật và lừa đảo. Các tin nhắn này thường chứa nội dung quảng cáo không mong muốn, thông tin sai lệch, hoặc các liên kết độc hại có thể dẫn đến việc đánh cắp thông tin cá nhân hoặc lây nhiễm phần mềm độc hại vào thiết bị di động của người dùng. Các đặc trưng thường thấy của tin nhắn rác bao gồm: nội dung quảng cáo quá mức, sử dụng ngôn ngữ giật gân hoặc lôi kéo, gửi từ số điện thoại lạ hoặc không rõ nguồn gốc, và yêu cầu cung cấp thông tin cá nhân nhạy cảm. Việc nghiên cứu tin nhắn rác giúp chúng ta hiểu rõ hơn về các phương thức tấn công và phát triển các biện pháp phòng ngừa hiệu quả hơn.

II. Thách Thức Trong Phát Hiện Tin Nhắn Rác Tiếng Việt 59

Tuy nhiên, sự lạm dụng của tin nhắn, đặc biệt là tin nhắn rác, đã đặt ra một thách thức đối với tính hữu ích của nó. Sự xuất hiện ngày càng nhiều của tin nhắn rác đã gây ảnh hưởng tiêu cực đến trải nghiệm người dùng. Không chỉ làm mất thời gian và tạo ra sự phiền hà, tin nhắn rác còn gây ảnh hưởng tới tính hợp pháp và độ tin cậy của tin nhắn. Ngoài ra, việc lạm dụng tin nhắn rác còn có thể gây nguy cơ về an toàn thông tin cá nhân, tạo ra sự lo ngại về quyền riêng tư, gây hại đến thiết bị của người dùng thông qua các liên kết độc hại và cả những hậu quả nghiêm trọng về tài chính cho cá nhân và doanh nghiệp [2]. Năm 2020, sau đại dịch Covid 19, chứng kiến sự tăng vọt của sự phát tán tin nhắn rác và các cuộc tấn công lừa đảo qua tin nhắn SMS (smishing), với tổng thiệt hại ở Mỹ đạt 86 triệu USD.

2.1. Những Khó Khăn Khi Xử Lý Ngôn Ngữ Tiếng Việt Đa Dạng

Tiếng Việt là một ngôn ngữ giàu sắc thái và biến thể, điều này gây ra nhiều khó khăn trong việc phát hiện tin nhắn rác. Sự đa dạng trong cách sử dụng từ ngữ, cú pháp, và cả các biến thể địa phương làm cho việc xây dựng các thuật toán phát hiện spam chính xác trở nên phức tạp hơn. Ngoài ra, các kỹ thuật tấn công spam ngày càng tinh vi, sử dụng các phương pháp che giấu nội dung hoặc sử dụng các ký tự đặc biệt để tránh bị phát hiện. Việc cập nhật và cải tiến liên tục các mô hình máy học phát hiện spam là rất quan trọng để đối phó với những thách thức này.

2.2. Sự Phát Triển Của Các Kỹ Thuật Spam SMS Tiếng Việt

Kỹ thuật spam SMS không ngừng phát triển và thích nghi, gây khó khăn cho các hệ thống bộ lọc tin nhắn rác. Các spammers thường xuyên thay đổi nội dung tin nhắn, sử dụng các ký tự unicode hoặc các phương pháp mã hóa để che giấu nội dung độc hại. Ngoài ra, việc sử dụng các số điện thoại ảo hoặc các botnet để gửi tin nhắn hàng loạt cũng làm tăng thêm sự phức tạp trong việc ngăn chặn tin nhắn rác. Việc nghiên cứu các phương pháp phát hiện tin nhắn rác mới và hiệu quả là rất cần thiết để bảo vệ người dùng khỏi những nguy cơ này.

2.3. Thiếu Hụt Dữ Liệu Đào Tạo Chất Lượng Cao Tiếng Việt

Một trong những thách thức lớn nhất trong việc phát triển các mô hình phát hiện tin nhắn rác hiệu quả là sự thiếu hụt cơ sở dữ liệu tin nhắn rác tiếng Việt chất lượng cao. Các mô hình máy học phát hiện spam cần được đào tạo trên một lượng lớn dữ liệu đã được gán nhãn chính xác để có thể nhận diện và phân loại tin nhắn rác một cách hiệu quả. Tuy nhiên, việc thu thập và gán nhãn dữ liệu tin nhắn tiếng Việt là một quá trình tốn kém và mất nhiều thời gian. Do đó, việc xây dựng và chia sẻ các cơ sở dữ liệu tin nhắn rác mở là rất quan trọng để thúc đẩy sự phát triển của các giải pháp chống spam hiệu quả hơn.

III. Phương Pháp NLP Phát Hiện Tin Nhắn Rác Tiếng Việt 58

Để giải quyết bài toán phát hiện tin nhắn rác tiếng Việt, nhiều phương pháp đã được đề xuất và áp dụng, trong đó có sự kết hợp giữa kỹ thuật xử lý ngôn ngữ tự nhiên (NLP) và học máy. Việc áp dụng NLP giúp mô hình có thể hiểu được ý nghĩa và ngữ cảnh của tin nhắn, từ đó đưa ra quyết định chính xác hơn. Các kỹ thuật NLP phổ biến được sử dụng bao gồm: phân tích cú pháp, trích xuất đặc trưng, và phân loại văn bản. Ngoài ra, việc sử dụng các mô hình học sâu như CNN và LSTM cũng cho thấy nhiều tiềm năng trong việc cải thiện hiệu quả phân loại tin nhắn rác.

3.1. Sử Dụng Kỹ Thuật Phân Tích Cú Pháp và Ngữ Nghĩa

Phân tích cú pháp và ngữ nghĩa là một trong những kỹ thuật NLP quan trọng trong việc phát hiện tin nhắn rác. Bằng cách phân tích cấu trúc câu và ý nghĩa của từ ngữ, mô hình có thể nhận diện các dấu hiệu bất thường hoặc các mẫu câu thường được sử dụng trong tin nhắn rác. Ví dụ, các tin nhắn spam thường sử dụng các câu quảng cáo quá mức hoặc các lời mời chào hấp dẫn một cách không tự nhiên. Việc kết hợp phân tích cú pháp và ngữ nghĩa giúp mô hình có thể đưa ra quyết định chính xác hơn so với việc chỉ dựa vào các đặc trưng bề mặt như từ khóa.

3.2. Áp Dụng Mô Hình Word Embedding và Vector Hóa Văn Bản

Word embedding và vector hóa văn bản là các kỹ thuật quan trọng để biểu diễn văn bản dưới dạng số, giúp các mô hình học máy có thể xử lý và phân tích dữ liệu văn bản một cách hiệu quả. Các mô hình như Word2Vec, GloVe, và FastText có thể được sử dụng để tạo ra các vector biểu diễn từ ngữ, trong đó các từ có ý nghĩa tương tự sẽ có các vector gần nhau trong không gian vector. Sau đó, các vector từ ngữ có thể được sử dụng để tạo ra các vector biểu diễn cho toàn bộ tin nhắn, giúp mô hình có thể so sánh và phân loại tin nhắn rác dựa trên ý nghĩa của chúng.

3.3. Tối Ưu Thuật Toán Học Máy Với Dữ Liệu Tiếng Việt

Việc tối ưu các thuật toán học máy cho dữ liệu tiếng Việt là rất quan trọng để đạt được hiệu quả cao trong việc phát hiện tin nhắn rác. Các thuật toán như Naive Bayes, SVM, Random Forest, và Gradient Boosting có thể được sử dụng để phân loại tin nhắn rác dựa trên các đặc trưng đã được trích xuất. Tuy nhiên, cần phải điều chỉnh và tối ưu các tham số của thuật toán để phù hợp với đặc thù của ngôn ngữ tiếng Việt. Ví dụ, có thể sử dụng các kỹ thuật feature selection để chọn ra các đặc trưng quan trọng nhất và loại bỏ các đặc trưng không liên quan.

IV. Ứng Dụng Học Sâu Để Phát Hiện Spam SMS Tiếng Việt 59

Trong những năm gần đây, học sâu đã trở thành một phương pháp mạnh mẽ trong nhiều lĩnh vực, bao gồm cả phát hiện tin nhắn rác. Các mô hình học sâu như CNN và LSTM có khả năng tự động học các đặc trưng phức tạp từ dữ liệu văn bản, giúp cải thiện đáng kể hiệu quả phân loại tin nhắn rác. Việc áp dụng học sâu trong phát hiện tin nhắn rác tiếng Việt đã cho thấy nhiều tiềm năng, đặc biệt là trong việc xử lý các biến thể ngôn ngữ và các kỹ thuật spam tinh vi.

4.1. Xây Dựng Mô Hình CNN Cho Phân Loại Văn Bản Tiếng Việt

Mạng nơ-ron tích chập (CNN) là một kiến trúc học sâu phổ biến được sử dụng trong nhiều bài toán xử lý ảnh và văn bản. Trong phát hiện tin nhắn rác, CNN có thể được sử dụng để trích xuất các đặc trưng quan trọng từ dữ liệu văn bản, chẳng hạn như các cụm từ hoặc mẫu câu thường được sử dụng trong tin nhắn rác. Bằng cách sử dụng các lớp tích chập và gộp, CNN có thể tự động học các biểu diễn văn bản hiệu quả, giúp cải thiện đáng kể hiệu quả phân loại tin nhắn rác.

4.2. Sử Dụng LSTM Để Nắm Bắt Thông Tin Dài Hạn Trong Tin Nhắn

Mạng nơ-ron hồi quy dài-ngắn hạn (LSTM) là một loại mạng nơ-ron hồi quy (RNN) đặc biệt được thiết kế để xử lý các chuỗi dữ liệu dài hạn, chẳng hạn như văn bản. Trong phát hiện tin nhắn rác, LSTM có thể được sử dụng để nắm bắt các mối quan hệ giữa các từ ngữ trong tin nhắn, giúp mô hình hiểu rõ hơn về ngữ cảnh và ý nghĩa của tin nhắn. Điều này đặc biệt quan trọng trong việc phát hiện tin nhắn rác sử dụng các kỹ thuật che giấu hoặc biến thể ngôn ngữ.

4.3. Kết Hợp CNN và LSTM Để Nâng Cao Hiệu Quả Phát Hiện

Việc kết hợp CNN và LSTM có thể tận dụng ưu điểm của cả hai mô hình để nâng cao hiệu quả phát hiện tin nhắn rác. CNN có thể được sử dụng để trích xuất các đặc trưng quan trọng từ dữ liệu văn bản, trong khi LSTM có thể được sử dụng để nắm bắt các mối quan hệ dài hạn giữa các từ ngữ. Bằng cách kết hợp hai mô hình này, chúng ta có thể xây dựng một hệ thống phát hiện tin nhắn rác mạnh mẽ và hiệu quả hơn.

V. Đánh Giá Và Triển Khai Giải Pháp Chống Tin Nhắn Rác 55

Sau khi phát triển các mô hình phát hiện tin nhắn rác, việc đánh giá và triển khai chúng là rất quan trọng để đảm bảo hiệu quả trong thực tế. Việc đánh giá cần được thực hiện trên một tập dữ liệu kiểm tra độc lập để đảm bảo tính khách quan và độ tin cậy của kết quả. Ngoài ra, việc triển khai cần được thực hiện một cách cẩn thận để đảm bảo tính ổn định và khả năng mở rộng của hệ thống.

5.1. Tiêu Chí Đánh Giá Hiệu Quả Của Mô Hình

Để đánh giá hiệu quả của các mô hình phát hiện tin nhắn rác, cần sử dụng các tiêu chí đánh giá phù hợp. Các tiêu chí phổ biến bao gồm: độ chính xác (accuracy), độ phủ (recall), độ tin cậy (precision), và F1-score. Ngoài ra, cần xem xét cả thời gian xử lý và tài nguyên cần thiết để triển khai mô hình trong thực tế.

5.2. Thử Nghiệm Và So Sánh Các Mô Hình Trên Dữ Liệu Thực Tế

Việc thử nghiệm và so sánh các mô hình trên dữ liệu thực tế là rất quan trọng để đánh giá khả năng hoạt động của chúng trong môi trường thực tế. Cần thu thập dữ liệu tin nhắn từ nhiều nguồn khác nhau và thử nghiệm các mô hình trên dữ liệu này để đánh giá khả năng phát hiện tin nhắn rác của chúng. Ngoài ra, cần so sánh kết quả của các mô hình với các phương pháp truyền thống để đánh giá sự cải thiện hiệu quả.

5.3. Triển Khai API Và Ứng Dụng Chặn Tin Nhắn Rác

Sau khi đánh giá và chọn ra mô hình tốt nhất, cần triển khai nó vào thực tế. Có thể triển khai mô hình dưới dạng API để các ứng dụng khác có thể sử dụng, hoặc phát triển các ứng dụng di động để giúp người dùng ngăn chặn tin nhắn rác trực tiếp trên thiết bị của họ. Việc triển khai cần được thực hiện một cách cẩn thận để đảm bảo tính ổn định và khả năng mở rộng của hệ thống.

VI. Kết Luận Về Nghiên Cứu Tin Nhắn Rác Tiếng Việt 59

Bài toán phát hiện tin nhắn rác tiếng Việt là một thách thức phức tạp nhưng cũng rất quan trọng. Các phương pháp NLP và học sâu đã cho thấy nhiều tiềm năng trong việc giải quyết bài toán này. Tuy nhiên, cần tiếp tục nghiên cứu và phát triển các giải pháp hiệu quả hơn để bảo vệ người dùng khỏi những nguy cơ tiềm ẩn từ tin nhắn rác. Việc hợp tác giữa các nhà nghiên cứu, nhà mạng, và các cơ quan quản lý là rất quan trọng để xây dựng một môi trường truyền thông an toàn và tin cậy hơn.

6.1. Tổng Kết Các Phương Pháp Hiệu Quả Nhất

Trong quá trình nghiên cứu tin nhắn rác tiếng Việt, nhiều phương pháp đã được đánh giá và so sánh. Các phương pháp kết hợp NLP và học sâu, đặc biệt là CNN và LSTM, đã cho thấy hiệu quả cao trong việc phân loại tin nhắn rác. Tuy nhiên, cần lưu ý rằng không có một phương pháp nào là hoàn hảo, và việc lựa chọn phương pháp phù hợp cần dựa trên đặc điểm của dữ liệu và yêu cầu của bài toán.

6.2. Hướng Phát Triển Nghiên Cứu Trong Tương Lai

Trong tương lai, cần tiếp tục nghiên cứu và phát triển các giải pháp phát hiện tin nhắn rác tiên tiến hơn. Các hướng nghiên cứu tiềm năng bao gồm: sử dụng các mô hình transformer như BERT và GPT, phát triển các phương pháp học không giám sát để tận dụng dữ liệu chưa được gán nhãn, và nghiên cứu các kỹ thuật tấn công spam mới để đối phó với chúng.

6.3. Kêu Gọi Hợp Tác Để Chống Tin Nhắn Rác Tiếng Việt

Việc chống tin nhắn rác là một nhiệm vụ phức tạp đòi hỏi sự hợp tác của nhiều bên liên quan. Các nhà nghiên cứu cần tiếp tục nghiên cứu và phát triển các giải pháp hiệu quả hơn, các nhà mạng cần triển khai các biện pháp kỹ thuật để ngăn chặn tin nhắn rác, và các cơ quan quản lý cần ban hành các quy định pháp luật để xử lý các hành vi phát tán tin nhắn rác. Chỉ bằng cách hợp tác chặt chẽ với nhau, chúng ta mới có thể xây dựng một môi trường truyền thông an toàn và tin cậy hơn.

Nội dung chính

Tổng quan luận án

Luận án tiến sĩ chuyên ngành Hệ thống thông tin (mã số: 9.04) của nghiên cứu sinh Vũ Minh Tuấn, thực hiện tại Học viện Công nghệ Bưu chính Viễn thông dưới sự hướng dẫn khoa học của PGS. TS. Trần Quang Anh và TS. Nguyễn Xuân Thắng (năm 2024), tập trung giải quyết bài toán phát hiện tin nhắn rác (SMS Spam) tiếng Việt dựa trên phân tích nội dung văn bản và mô hình học máy, học sâu.

Tính cấp thiết và khoảng trống nghiên cứu

Dịch vụ tin nhắn ngắn (SMS) là phương tiện giao tiếp phổ biến trên toàn cầu với hơn 5 tỷ người sử dụng (chiếm khoảng 65% dân số toàn cầu theo thống kê của Slicktext), đạt tỷ lệ mở thư lên tới 98% và tỷ lệ phản hồi 45%. Tuy nhiên, sự gia tăng của tin nhắn rác và các chiến dịch tấn công lừa đảo qua tin nhắn (smishing) gây ra nhiều thiệt hại tài chính và rủi ro an toàn thông tin. Năm 2020, thiệt hại do tin nhắn lừa đảo tại Mỹ ghi nhận mức 86 triệu USD; năm 2021, tổng thiệt hại toàn cầu ước tính vượt 10 tỷ USD. Tại Việt Nam, số liệu từ Trung tâm Ứng cứu khẩn cấp không gian mạng Việt Nam (VNCERT/CC) và Bộ Thông tin và Truyền thông cho thấy từ tháng 11/2022 đến giữa tháng 4/2023, các nhà mạng viễn thông đã ngăn chặn 243 triệu tin nhắn rác.

Qua khảo sát các công trình trong và ngoài nước, tác giả xác định ba khoảng trống nghiên cứu chính:

1. Thiếu hụt tập dữ liệu chuẩn: Các nghiên cứu trước đây chủ yếu sử dụng tập dữ liệu tiếng Anh hoặc tập dữ liệu tiếng Việt quy mô nhỏ, mất cân bằng và chưa được công bố công khai.
2. Thiếu đánh giá về độ dài tin nhắn: Chưa có nghiên cứu phân tích có hệ thống về mức độ phụ thuộc của các mô hình phát hiện tin nhắn rác vào độ dài văn bản tiếng Việt để tìm ra giải pháp hoạt động ổn định.
3. Thách thức từ đặc trưng đa biến thể: Tiếng Việt có đặc thù phức tạp về hình thái văn bản trong tin nhắn SMS (tồn tại đan xen dạng có dấu, không dấu, viết tắt, tiếng lóng, ký tự đặc biệt), nhưng chưa có mô hình xử lý tối ưu cho ngữ cảnh này.

Mục tiêu nghiên cứu

Mục tiêu chung của luận án là xác định và xây dựng phương pháp phát hiện tin nhắn rác tiếng Việt đạt độ chính xác cao và độ ổn định tốt, hỗ trợ các nhà cung cấp dịch vụ viễn thông ngăn chặn tin nhắn rác từ nguồn phát tán và bảo vệ người sử dụng thiết bị di động.

Mục tiêu cụ thể được xác định qua 3 nhiệm vụ:

• Mục tiêu 1: Xây dựng tập dữ liệu mẫu tin nhắn tiếng Việt gồm cả tin nhắn thường (ham) và tin nhắn rác (spam) có gán nhãn chuẩn xác, đại diện cho thực tế viễn thông Việt Nam.
• Mục tiêu 2: Phân tích thực nghiệm mức độ ảnh hưởng của độ dài tin nhắn đến hiệu quả của các mô hình phát hiện tin nhắn rác; từ đó đề xuất mô hình thích ứng ổn định với sự biến đổi độ dài.
• Mục tiêu 3: Đề xuất giải pháp kỹ thuật giải quyết bài toán phát hiện tin nhắn rác tiếng Việt có đặc tính đa biến thể ngôn ngữ.

Đối tượng và phạm vi nghiên cứu

• Đối tượng nghiên cứu: Các phương pháp, thuật toán học máy truyền thống và học sâu ứng dụng trong phân loại văn bản và phát hiện tin nhắn rác tiếng Việt.
• Phạm vi nghiên cứu: Dữ liệu tin nhắn tiếng Việt (dạng có dấu, không dấu và hỗn hợp) thu thập từ người dùng các mạng viễn thông di động tại Việt Nam, kết hợp mở rộng từ các nền tảng mạng xã hội và ứng dụng OTT. Nghiên cứu tập trung vào hướng tiếp cận dựa trên đặc trưng nội dung văn bản.

---

Tổng quan tài liệu và vị trí của luận án

Các hướng nghiên cứu tiếp cận bài toán phát hiện tin nhắn rác

Luận án hệ thống hóa các nghiên cứu về phân loại tin nhắn rác theo hai nhánh chính:

• Phương pháp dựa trên đặc trưng nội dung (Content-based):
  • S. Delany và cộng sự (2012) phân tích các kỹ thuật lọc nội dung trực tiếp (từ khóa, bộ luật SpamAssassin, biểu diễn n-gram từ/ký tự) và lọc cộng tác (tạo chữ ký spam chia sẻ trong mạng lưới người dùng như công nghệ của Cloudmark).
  • El-Alfy và AlHasan (2016) xây dựng mô hình lọc tin nhắn SMS và email kết hợp máy học véc-tơ hỗ trợ (SVM), Naive Bayes với 11 nhóm đặc trưng (URL, từ khóa spam, biểu tượng cảm xúc, ký tự đặc biệt, mã JavaScript, từ chức năng...).
  • Jialin và cộng sự đề xuất mô hình chủ đề tin nhắn (MTM) sử dụng thuật toán gom cụm k-means để giải quyết tính thưa thớt của văn bản ngắn SMS.
  • Ghulam Mujtaba (2017) huấn luyện mô hình dựa trên 4 nhóm đặc trưng: dung lượng tin nhắn, tần suất xuất hiện từ khóa đặc thù, sơ đồ và lặp tin nhắn.
  • Amir Karami và đồng nghiệp xây dựng khung phát hiện tích hợp tập đặc trưng đặc thù SMS (SMSS) và 80 đặc trưng ngôn ngữ từ công cụ LIWC (Linguistic Inquiry and Word Count) cùng 230 đặc trưng phái sinh, chọn lọc thuộc tính qua kiểm định Chi-square.
  • Tại Việt Nam, Thai-Hoang Pham và cộng sự (2017) tiếp cận bài toán lọc tin rác tiếng Việt dựa trên phân tích độ dài văn bản và tần suất từ khóa; một số tác giả áp dụng cơ chế tính điểm trọng số theo bộ luật kiểu SpamAssassin.
• Phương pháp dựa trên đặc trưng phi nội dung (Non Content-based):
  • C. Wang và cộng sự nghiên cứu mô hình hóa đồ thị mạng xã hội viễn thông (cấu trúc mạng dạng lưới của người dùng bình thường so với dạng hình sao của thuê bao phát tán rác) kết hợp hành vi gửi tin theo chuỗi thời gian (gửi dồn dập qua modem SMS).
  • Iosif Androulidakis và cộng sự xây dựng ứng dụng Android kiểm soát tin rác dựa trên thông số kỹ thuật giao thức SMS: nhận dạng đầu số trung tâm nhắn tin (SMSC), mã định danh giao thức (TP-PID), chuỗi ID người gửi và độ lệch múi giờ.

Vị trí và khoảng trống luận án lựa chọn

Các tập ngữ liệu SMS công bố trên thế giới như bộ dữ liệu của Tiago A. Almeida và cộng sự (2011) với 5.574 tin nhắn (747 spam, 4.827 ham) hay bộ dữ liệu của Tao Chen và Min-Yen Kan (2013) gồm 71.810 tin nhắn (tiếng Anh và tiếng Trung) không phản ánh được đặc thù ngữ pháp và biến thể chữ viết tiếng Việt. Các tập dữ liệu tiếng Việt hiện có (CC100-Vietnamese, ViQuAD, UIT-VSMEC) chỉ phục vụ bài toán đọc hiểu hoặc phân tích cảm xúc, không chứa dữ liệu tin nhắn SMS viễn thông. Luận án chọn vị trí giải quyết trọn vẹn bài toán xây dựng ngữ liệu thực nghiệm chuẩn cho tiếng Việt, kiểm chứng định lượng tác động của độ dài văn bản và thiết lập mô hình học sâu thích ứng với dữ liệu đa biến thể tiếng Việt.

---

Cơ sở lý thuyết và phương pháp nghiên cứu

Cơ sở lý thuyết và kiến trúc hệ thống

Luận án dựa trên nền tảng kỹ thuật viễn thông và lý thuyết học máy, xử lý ngôn ngữ tự nhiên (NLP):

• Cấu trúc tin nhắn SMS: Giới hạn dung lượng 140 bytes (1120 bits), tương đương 160 ký tự với bảng mã 7-bit Latin hoặc 70 ký tự với bảng mã 16-bit Unicode UCS2. Bản tin gồm 5 thành phần: Chỉ thị giao diện không khí (air interface), chỉ thị kết nối trung tâm SMSC, chỉ thị thiết bị đầu cuối (handset), chỉ thị thẻ SIM (tùy chọn) và phần thân nội dung (Message body).
• Hệ thống văn bản pháp lý: Căn cứ Điều 70 Luật Công nghệ thông tin 2006, Nghị định 90/2008/NĐ-CP, Nghị định 77/2012/NĐ-CP và Nghị định 91/2020/NĐ-CP về chống tin nhắn rác, thư rác và cuộc gọi rác; tham chiếu các đạo luật quốc tế như CAN-SPAM (Mỹ), CASL (Canada) và GDPR (EU).
• Mô hình học máy và học sâu: Khung phân loại nhị phân áp dụng các thuật toán: Naive Bayes (NB), Máy học véc-tơ hỗ trợ (SVM), Cây quyết định (DT), Rừng ngẫu nhiên (RF), Hồi quy Logistic (LR), Gradient Boosting (GB), Hạ gradient ngẫu nhiên (SGD), k-Láng giềng gần nhất (k-NN), Mạng nơ-ron tích chập (CNN), Mạng trí nhớ ngắn-dài hạn (LSTM), cùng các kỹ thuật vector hóa văn bản (TF-IDF, Bag-of-Words, Continuous Bag-of-Words - CBOW, Word2Vec, PhoBERT và mô hình BERT NER).

Phương pháp nghiên cứu và quy trình thực nghiệm

Tác giả áp dụng phương pháp nghiên cứu thực nghiệm định lượng kết hợp kỹ thuật tiền xử lý dữ liệu chuyên biệt:

Tập dữ liệu thô (69.192 tin nhắn sau lọc trùng)

Quy trình tiền xử lý dữ liệu được thiết kế gồm 4 bước:

1. Làm sạch dữ liệu (Data cleaning): Dùng biểu thức chính quy (Regex) loại bỏ ký tự nhiễu, liên kết URL thừa, khoảng trắng không hợp lệ.
2. Chuẩn hóa từ (Stemming/Normalizing): Xử lý dạng viết tắt, ngôn ngữ teen code, từ cố tình biến đổi để lách bộ lọc (ví dụ: các biến thể Q.C, Q&C, quang cao đưa về dạng thống nhất QC).
3. Loại bỏ từ dừng (Stop-word removal): Sử dụng danh từ điển gồm 1.942 từ nối và từ dừng tiếng Việt do Lê Văn Duyệt xây dựng.
4. Tách từ (Word Segmentation): Áp dụng công cụ TfidfVectorizer (thư viện scikit-learn) kết hợp kỹ thuật n-grams nhằm xử lý tối ưu cấu trúc từ ghép trong văn bản ngắn chứa cả tiếng Việt có dấu, không dấu và thuật ngữ tiếng Anh mượn.

Nguồn dữ liệu thực nghiệm

Tập dữ liệu được thu thập trong khoảng thời gian từ 3 đến 12 tháng qua 4 kênh độc lập:

• Tình nguyện viên cung cấp tin nhắn rác: 30 người thu thập trong 3 tháng, đóng góp 5.125 tin nhắn.
• Tình nguyện viên cung cấp tin nhắn thường: 10 người thu thập trong 12 tháng, đóng góp 44.807 tin nhắn (chỉ lấy tin nhắn đi do chính tình nguyện viên soạn thảo để đảm bảo tính riêng tư).
• Trung tâm An toàn không gian mạng (VNCERT/CC): Cung cấp 24.467 tin nhắn rác tiếng Việt (đã khử định danh người nhận).
• Hệ thống bẫy tin nhắn (Honeypot): Sử dụng 32 số điện thoại gắn trên thiết bị SIM-bank trực tuyến liên tục trong 8 tháng, thu về 18.807 tin nhắn rác (trung bình 2,3 tin nhắn/SIM/ngày).

Tổng số tin nhắn thu thập ban đầu đạt 93.615 tin. Sau khi loại bỏ dữ liệu trùng lặp (tỷ lệ trùng lặp ghi nhận 19% ở tin thường và 32% ở tin rác), tập ngữ liệu còn lại 69.192 tin nhắn. Dữ liệu được phân chia theo tỷ lệ 70% huấn luyện (Train), 15% xác thực (Validation) và 15% kiểm tra (Test).

Nguồn cung cấp dữ liệu	Thời gian	Số lượng tin nhắn rác	Số lượng tin nhắn thường
Tình nguyện viên cung cấp tin nhắn rác	3 tháng	5.125	-
Tình nguyện viên cung cấp tin nhắn thường	12 tháng	-	44.807
Trung tâm VNCERT/CC	-	24.467	-
Hệ sinh thái bẫy tin nhắn (32 SIM)	8 tháng	18.807	-
Tổng số trước khi xử lý trùng lặp	-	48.408	44.807

Sau khi xử lý lọc trùng lặp, cấu trúc biến thể của tập dữ liệu phân bố chi tiết như sau:

Loại tin nhắn	Tổng số sau xử lý	Dạng tiếng Việt có dấu	Dạng tiếng Việt không dấu
Tin nhắn rác (Spam)	38.724	27.106	11.618
Tin nhắn thường (Ham)	30.468	28.944	1.524
Tổng cộng	69.192	56.050	13.142

---

Nội dung chính theo từng chương

Chương 1: Tổng quan về tin nhắn SMS và phương pháp phát hiện tin nhắn rác tiếng Việt

Chương 1 thiết lập khung lý luận kỹ thuật và thực tiễn về công nghệ tin nhắn ngắn SMS, cơ chế luân chuyển bản tin qua trung tâm SMSC, và hệ thống chỉ thị giao thức. Tác giả phân tích các quy định pháp luật hiện hành tại Việt Nam (Nghị định 90/2008/NĐ-CP, Nghị định 77/2012/NĐ-CP, Nghị định 91/2020/NĐ-CP) để xác định tiêu chí phân biệt tin nhắn rác và tin nhắn hợp lệ.

Nội dung trọng tâm của chương là phân tích sâu các nhóm đặc trưng nhận dạng tin nhắn rác:

• Nhóm đặc trưng nội dung: Phân tích 16 đặc tính SMS (số từ viết hoa CW, số từ spam SW, số đoạn tin S, số từ duy nhất UW, số URL, tỷ lệ URL/S, tỷ lệ CW/S...) và 20 đặc trưng kết hợp từ công cụ LIWC dựa trên kiểm định Chi-square (tỷ lệ động từ, mức độ chênh lệch điểm số các chủ đề "Tiền bạc" so với "Cái chết", "Giải trí" so với "Nhà", tần suất dấu câu, đại từ nhân xưng).
• Nhóm đặc trưng phi nội dung: Bao gồm đặc trưng tĩnh (tổng số tin gửi, dung lượng tin nhắn), đặc trưng mạng (số lượng người nhận, phân bố bậc của nút trong đồ thị liên lạc), đặc trưng thời gian (tần suất gửi trung bình 7 ngày, độ lệch chuẩn khoảng cách thời gian gửi tin) và đặc trưng giao thức (kiểm tra đầu số SMSC, trường nhận dạng TP-PID, kiểm tra ID người gửi thuần số hay ký tự).

Chương 1 cũng công bố kết quả phân tích thống kê hình thái tập ngữ liệu 69.192 tin nhắn:

• Phân bố độ dài tin nhắn thường tập trung chủ yếu ở phân khúc ngắn: 18.506 tin có từ 5 đến 10 từ; 6.375 tin dưới 5 từ; 4.944 tin từ 10 đến 20 từ; chỉ có 496 tin từ 20 đến 30 từ và 147 tin trên 30 từ.
• Phân bố độ dài tin nhắn rác tập trung ở phân khúc dài: 14.642 tin trên 30 từ; 14.456 tin từ 20 đến 30 từ; 9.351 tin từ 10 đến 20 từ; trong khi chỉ có 233 tin từ 5 đến 10 từ và 42 tin dưới 5 từ.
• Tỷ lệ sử dụng tiếng Việt không dấu ở tin nhắn rác chiếm 30% (11.618/38.724 tin), cao hơn nhiều so với tỷ lệ 5% ở tin nhắn thường (1.524/30.468 tin), phản ánh hành vi cố tình sử dụng đa biến thể nhằm vượt qua các bộ lọc từ khóa đơn giản.

Cuối chương, tác giả xác lập các độ đo đánh giá phân loại nhị phân gồm: Độ chính xác (Accuracy), Độ chuẩn xác (Precision), Độ thu hồi (Recall) và Điểm F1 (F1-Score) dựa trên các giá trị Dương tính thật (TP), Dương tính giả (FP), Âm tính thật (TN) và Âm tính giả (FN).

Chương 2: Phân tích mức độ ảnh hưởng của độ dài tin nhắn tới hiệu quả của mô hình phát hiện tin nhắn rác

Chương 2 giải quyết bài toán kiểm chứng mức độ phụ thuộc của hiệu quả phát hiện tin rác vào độ dài văn bản SMS. Tác giả phân chia tập dữ liệu thực nghiệm thành 3 nhóm theo độ dài:

• DS-Short: Nhóm tin nhắn có độ dài ngắn.
• DS-Medium: Nhóm tin nhắn có độ dài trung bình.
• DS-Long: Nhóm tin nhắn có độ dài lớn.

Tác giả tiến hành thiết kế và triển khai ba hệ thống thực nghiệm so sánh:

1. Mô hình dựa trên bộ luật thống kê: Ứng dụng nguyên lý SpamAssassin cho tin nhắn SMS, khảo sát tại nhiều ngưỡng điểm khác nhau (ngưỡng 1 đến các ngưỡng cao hơn), cài đặt thử nghiệm trên ứng dụng thiết bị di động. Kết quả cho thấy mô hình bộ luật phụ thuộc lớn vào việc xuất hiện các từ khóa tường minh; khi tin nhắn ngắn bị cắt giảm nội dung, tỷ lệ phát hiện sai tăng đáng kể.
2. Mô hình học máy truyền thống: Huấn luyện và đánh giá 8 thuật toán (Naive Bayes, SVM, Decision Tree, Random Forest, Logistic Regression, Gradient Boosting, SGD, k-NN) trên 3 tập dữ liệu độ dài khác nhau. Hiệu quả phân loại của các thuật toán này có xu hướng suy giảm rõ rệt trên tập tin nhắn ngắn (DS-Short) do không gian véc-tơ bị thưa thớt thuộc tính.
3. Mô hình học sâu: Thiết lập kiến trúc mạng nơ-ron tích chập (CNN) và mạng trí nhớ ngắn-dài hạn (LSTM) với các tham số tối ưu. Kết quả thực nghiệm khẳng định mạng CNN đạt hiệu suất vượt trội và có tính ổn định cao nhất: điểm F1-Score và Accuracy của CNN ít bị biến động khi chuyển đổi giữa ba tập dữ liệu DS-Short, DS-Medium và DS-Long so với LSTM và các thuật toán học máy truyền thống.

Chương 3: Phương pháp phát hiện tin nhắn rác với đặc điểm đa biến thể của tiếng Việt

Chương 3 tập trung giải quyết bài toán xử lý tính đa biến thể của tiếng Việt trong tin nhắn SMS (dạng có dấu, không dấu, viết tắt, ký tự thay thế). Luận án đề xuất và đánh giá thực nghiệm hai hướng tiếp cận kỹ thuật:

Hướng tiếp cận 1: Chuyển đổi dữ liệu về dạng đơn thể

• Dữ liệu đầu vào đa biến thể được đưa qua bộ tiền xử lý để chuyển đổi về một trong hai dạng đơn thể: toàn bộ có dấu (DS_co_dau) hoặc toàn bộ không dấu (DS_khong_dau).
• Mô hình mạng tích chập CNN (kế thừa kết quả tối ưu từ Chương 2) được huấn luyện trên từng tập dữ liệu đơn thể.
• Kết quả thực nghiệm cho thấy mô hình đạt độ chính xác cao khi dữ liệu được khôi phục dấu đầy đủ, tuy nhiên quá trình khôi phục dấu tự động cho tin nhắn ngắn có thể phát sinh lỗi chính tả hoặc làm sai lệch ngữ nghĩa ban đầu.

Hướng tiếp cận 2: Giữ nguyên dữ liệu đa biến thể kết hợp vector hóa

• Giữ nguyên trạng thái văn bản gốc chứa đồng thời cả tin nhắn có dấu và không dấu (DS_hon_hop).
• Khảo sát kết hợp mạng nơ-ron học sâu (CNN, LSTM) với các kỹ thuật biểu diễn véc-tơ văn bản: TF-IDF, Word2Vec, PhoBERT và mô hình nhận dạng thực thể tên riêng BERT NER.
• Thực nghiệm so sánh chỉ ra rằng việc kết hợp mạng học sâu (đặc biệt là CNN và LSTM) với các mô hình ngôn ngữ ngữ cảnh như PhoBERT và BERT NER giúp trích xuất tốt đặc trưng ngữ nghĩa tiềm ẩn của từ ngữ viết tắt và tiếng Việt không dấu mà không cần qua bước chuyển đổi đơn thể trung gian.

Tác giả đánh giá cả hai hướng tiếp cận đều có tính khả thi kỹ thuật cao: Hướng 1 phù hợp với các hệ thống có tài nguyên tính toán hạn chế ở khâu phân loại nhưng có sẵn mô hình chuẩn hóa dấu; Hướng 2 tối ưu cho các hệ sinh thái xử lý dữ liệu lớn tại trung tâm mạng viễn thông nhờ khả năng xử lý trực tiếp chuỗi ký tự đa hình thái.

---

Kết quả và những đóng góp mới

Đóng góp mới về mặt khoa học và lý luận

1. Xác lập ngữ liệu thực nghiệm chuẩn: Xây dựng thành công bộ dữ liệu tin nhắn SMS tiếng Việt chuẩn hóa gồm 69.192 tin nhắn (38.724 tin rác và 30.468 tin thường) được thu thập từ đa nguồn thực tế viễn thông và gán nhãn chính xác. Đây là bộ dữ liệu tin nhắn SMS tiếng Việt có quy mô lớn phục vụ công tác nghiên cứu khoa học.
2. Chứng minh định lượng ảnh hưởng của độ dài văn bản: Luận án là công trình nghiên cứu hệ thống đầu tiên tại Việt Nam đánh giá mức độ phụ thuộc của các mô hình phát hiện tin rác vào độ dài tin nhắn; chứng minh tính ổn định vượt trội của kiến trúc học sâu CNN so với các bộ luật thống kê và thuật toán học máy truyền thống trong điều kiện độ dài tin nhắn bị hạn chế.
3. Đề xuất hai khung giải pháp xử lý tiếng Việt đa biến thể: Xây dựng phương pháp chuyển đổi về đơn thể và phương pháp giữ nguyên đa biến thể kết hợp biểu diễn véc-tơ ngữ cảnh (PhoBERT, BERT NER), giải quyết triệt để rào cản phân loại khi người gửi cố tình thay đổi hình thái ký tự để lách bộ lọc.

Đóng góp mới về mặt thực tiễn và giải pháp ứng dụng

• Cung cấp mô hình phân loại tin nhắn rác có khả năng tích hợp trực tiếp vào hệ thống trung tâm tin nhắn SMSC của các doanh nghiệp viễn thông để chặn lọc tin rác thời gian thực từ luồng phát tán.
• Cung cấp giải pháp phần mềm cài đặt thử nghiệm trên thiết bị di động đầu cuối, hỗ trợ người dùng nhận diện và ngăn ngừa tin nhắn lừa đảo tài chính, tin nhắn quảng cáo sai quy định pháp luật.

---

Hạn chế và hướng nghiên cứu tiếp

Hạn chế của luận án

• Khối lượng tính toán của các mô hình học sâu kết hợp mô hình ngôn ngữ lớn (như PhoBERT, BERT NER) đòi hỏi năng lực phần cứng cao, gây khó khăn nhất định khi triển khai trực tiếp trên các thiết bị di động có cấu hình thấp.
• Các biến thể ngôn ngữ thế hệ mới (teen code phức tạp, tiếng lóng mạng xã hội thay đổi liên tục) đòi hỏi tập từ điển chuẩn hóa và trọng số véc-tơ phải được cập nhật thường xuyên.

Hướng nghiên cứu tiếp theo

• Nghiên cứu tối ưu hóa và nén mô hình học sâu (sử dụng kỹ thuật chưng cất tri thức - Knowledge Distillation hoặc lượng tử hóa mô hình) để triển khai hiệu quả trên thiết bị biên (Edge Computing/Mobile Devices).
• Mở rộng phạm vi phân loại sang các nền tảng nhắn tin tức thời (Instant Messaging), ứng dụng OTT (Zalo, Viber, Telegram) và các nền tảng mạng xã hội.
• Tích hợp thêm các nhóm đặc trưng phi nội dung (đồ thị mạng viễn thông, chuỗi thời gian gửi tin) cùng với đặc trưng văn bản để xây dựng hệ thống phòng thủ đa tầng.

---

Giá trị tham khảo

Luận án là tài liệu tham khảo chuyên môn cho các đối tượng:

• Nghiên cứu sinh, học viên cao học và giảng viên: Chuyên ngành Hệ thống thông tin, Khoa học dữ liệu, An toàn thông tin và Xử lý ngôn ngữ tự nhiên; đặc biệt có giá trị tham khảo ở phương pháp xây dựng ngữ liệu thực nghiệm và thiết kế thực nghiệm so sánh mô hình học sâu trên văn bản ngắn.
• Kỹ sư phát triển hệ thống và chuyên gia an toàn thông tin: Tại các doanh nghiệp viễn thông (Viettel, VNPT, MobiFone) và các công ty công nghệ trong việc thiết kế mô-đun lọc tin nhắn rác, ngăn chặn tấn công smishing tại cổng SMS Gateway và SMSC.
• Cơ quan quản lý nhà nước: Các đơn vị chuyên trách như Cục An toàn thông tin, Trung tâm VNCERT/CC thuộc Bộ Thông tin và Truyền thông trong công tác xây dựng tiêu chuẩn kỹ thuật và giải pháp giám sát, làm sạch không gian mạng viễn thông.

---

Câu hỏi thường gặp

1. Tập dữ liệu thực nghiệm của luận án được xây dựng từ những nguồn nào và quy mô sau xử lý là bao nhiêu?

Tập dữ liệu được thu thập từ 4 nguồn: 30 tình nguyện viên cung cấp tin rác (5.125 tin trong 3 tháng); 10 tình nguyện viên cung cấp tin thường (44.807 tin trong 12 tháng); Trung tâm VNCERT/CC cung cấp (24.467 tin rác); và hệ thống bẫy 32 SIM Honeypot hoạt động trong 8 tháng (18.807 tin rác). Sau khi xử lý loại bỏ dữ liệu trùng lặp (19% ở tin thường và 32% ở tin rác), tập dữ liệu chính thức phục vụ nghiên cứu gồm 69.192 tin nhắn (38.724 tin nhắn rác và 30.468 tin nhắn thường).

2. Sự khác biệt về độ dài giữa tin nhắn thường và tin nhắn rác tiếng Việt trong tập dữ liệu được ghi nhận như thế nào?

Thống kê từ tập dữ liệu cho thấy tin nhắn thường có xu hướng ngắn: 18.506 tin nhắn rơi vào khoảng từ 5 đến 10 từ và 6.375 tin nhắn dưới 5 từ (tổng cộng chiếm hơn 81% lượng tin thường). Ngược lại, tin nhắn rác có xu hướng dài hơn đáng kể nhằm mục đích quảng cáo hoặc lừa đảo: 14.642 tin trên 30 từ và 14.456 tin từ 20 đến 30 từ (tổng cộng chiếm hơn 75% lượng tin rác).

3. Kết quả so sánh mô hình ở Chương 2 chứng minh điều gì về độ dài tin nhắn?

Thực nghiệm so sánh giữa bộ luật SpamAssassin, 8 thuật toán học máy truyền thống (NB, SVM, DT, RF, LR, GB, SGD, k-NN) và mô hình học sâu (CNN, LSTM) trên 3 tập dữ liệu (DS-Short, DS-Medium, DS-Long) chỉ ra rằng: các thuật toán học máy truyền thống và bộ luật suy giảm độ chính xác rõ rệt khi xử lý tin nhắn ngắn do thiếu thuộc tính ngữ cảnh. Mô hình mạng tích chập CNN thể hiện tính ổn định cao nhất, duy trì điểm F1-Score và Accuracy ổn định bất kể độ dài văn bản thay đổi.

4. Luận án đề xuất những hướng tiếp cận nào để xử lý đặc thù tiếng Việt đa biến thể?

Tác giả đề xuất 2 hướng tiếp cận:

• Hướng 1: Chuyển đổi dữ liệu đa biến thể đầu vào về dạng đơn thể (toàn bộ có dấu hoặc toàn bộ không dấu) thông qua tiền xử lý, sau đó huấn luyện mô hình mạng nơ-ron CNN.
• Hướng 2: Giữ nguyên dữ liệu đa biến thể gốc, kết hợp các mô hình học sâu (CNN, LSTM) với các kỹ thuật vector hóa ngữ cảnh hiện đại (TF-IDF, Word2Vec, PhoBERT, BERT NER).

5. Danh từ điển từ dừng tiếng Việt được tác giả sử dụng trong bước tiền xử lý có quy mô bao nhiêu?

Trong bước loại bỏ từ dừng (Stop-word removal), luận án sử dụng bộ từ điển từ nối và từ dừng tiếng Việt gồm 1.942 từ do tác giả Lê Văn Duyệt đề xuất để loại bỏ các từ không mang giá trị phân loại nội dung trước khi đưa vào mô hình vector hóa.

---

Kết luận

Luận án tiến sĩ của tác giả Vũ Minh Tuấn đã giải quyết bài toán phát hiện tin nhắn rác tiếng Việt thông qua việc xây dựng bộ ngữ liệu thực nghiệm 69.192 tin nhắn và thiết lập quy trình tiền xử lý chuyên biệt cho văn bản ngắn. Công trình làm sáng tỏ định lượng ảnh hưởng của độ dài văn bản đến các thuật toán phân loại và chứng minh tính ổn định của mạng nơ-ron tích chập CNN. Đồng thời, hai hướng tiếp cận giải quyết bài toán tiếng Việt đa biến thể được đề xuất đã mở ra giải pháp kỹ thuật có tính ứng dụng thực tiễn cao cho các nhà mạng viễn thông và cơ quan quản lý an toàn thông tin tại Việt Nam.

Trích đoạn nội dung tài liệu

HÞC VIàN CÔNG NGHà B¯U CHÍNH VIÞN THÔNG --------------------------------------- VŨ MINH TUẤN NGHIÊN CỨU CÁC PH¯ƠNG PHÁP PHÁT HIàN TIN NH¾N RÁC TIẾNG VIàT Chuyên ngành: Há thßng thông tin Mã số: 9.04 LUÀN ÁN TIẾN SỸ Hà THÞNG THÔNG TIN HÀ NỘI - 2024 HÞC VIàN CÔNG NGHà B¯U CHÍNH VIÞN THÔNG --------------------------------------- VŨ MINH TUẤN NGHIÊN CỨU CÁC PH¯ƠNG PHÁP PHÁT HIàN TIN NH¾N RÁC TIẾNG VIàT Chuyên ngành: Há thßng thông tin Mã số: 9.04 LUÀN ÁN TIẾN SỸ Hà THÞNG THÔNG TIN Ng°ời h°ớng d¿n khoa hßc: PGS. Trần Quang Anh TS. Nguyßn Xuân Th¿ng HÀ NỘI - 2024 MĀC LĀC MĂC LĂC. vi DANH MĂC KÝ HIàU VÀ VIÂT TÂT.

vii DANH MĂC CÁC BÀNG. ix DANH MĂC HÌNH VÀ VÀ Đâ THà. LÝ DO LĄA CHâN ĐÄ TÀI. MĂC TIÊU, ĐàI T¯ĀNG, PH¾M VI VÀ PH¯¡NG PHÁP NGHIÊN CĆU 4 2.

Đái t°āng và ph¿m vi nghiên cću. Ph°¢ng pháp nghiên cću. Ý ngh*a thąc tißn. NHIàM VĂ NGHIÊN CĆU VÀ KÂT QUÀ Đ¾T Đ¯ĀC.

8 Ch°¢ng 1 TäNG QUAN VÄ TIN NHÂN SMS VÀ PH¯¡NG PHÁP PHÁT HIàN TIN NHÂN RÁC TIÂNG VIàT. TIN NHÂN SMS. Khái niám tin nhÃn SMS. C¿u trúc tin nhÃn SMS.

C¢ chà ho¿t đáng c¢ bÁn cąa tin nhÃn SMS. TIN NHÂN RÁC VÀ CÁC ĐÀC TR¯NG. Đánh ngh*a tin nhÃn rác. Quy đánh vÅ tin nhÃn rác.

ĐÁc tr°ng cąa tin nhÃn rác. TÀP DĂ LIàU TIN NHÂN TIÂNG VIàT. Nghiên cću vÅ tÁp dă liáu tin nhÃn. Xây dąng tÁp dă liáu tin nhÃn tiÃng Viát.

Mô tÁ và phân tích tÁp dă liáu. BÀI TOÁN PHÁT HIàN TIN NHÂN RÁC TIÂNG VIàT. Phân tích mćc đá Ánh h°çng cąa đá dài tin nhÃn đÃn hiáu quÁ cąa mô hình phát hián tin nhÃn rác. Xây dąng mô hình phát hián tin nhÃn rác vãi đÁc điÇm đa biÃn thÇ cąa tiÃng Viát 36 1.

NGHIÊN CĆU TäNG QUAN VÄ PH¯¡NG PHÁP PHÁT HIàN TIN NHÂN RÁC TIÂNG VIàT. Nghiên cću vÅ mćc đá Ánh h°çng cąa đá dài tin nhÃn vãi hiáu quÁ cąa mô hình phát hián tin nhÃn rác. Nghiên cću vÅ ph°¢ng pháp phát hián tin nhÃn rác vãi đÁc điÇm đa biÃn thÇ cąa tiÃng Viát. CÁC Đà ĐO ĐÁNH GIÁ PHÂN LâP NHà PHÂN.

Precision và Recall. TäNG KÂT CH¯¡NG. 45 Ch°¢ng 2 PHÂN TÍCH MĆC Đà ÀNH H¯æNG CĄA Đà DÀI TIN NHÂN TâI HIàU QUÀ CĄA MÔ HÌNH PHÁT HIàN TIN NHÂN RÁC. Vai trò cąa đá dài tin nhÃn trong ngôn ngă tiÃng Viát.

V¿n đÅ tãn t¿i và h°ãng giÁi quyÃt bài toán. PHÂN TÍCH ÀNH H¯æNG CĄA Đà DÀI TIN NHÂN TâI HIàU QUÀ CĄA MÔ HÌNH PHÁT HIàN TIN NHÂN RÁC. Dă liáu thā nghiám. ThiÃt kà thā nghiám.

SO SÁNH VÀ ĐÁNH GIÁ KÂT QUÀ. TäNG KÂT CH¯¡NG. 70 Ch°¢ng 3 PH¯¡NG PHÁP PHÁT HIàN TIN NHÂN RÁC VâI ĐÀC ĐIÆM ĐA BIÂN THÆ CĄA TIÂNG VIàT. ĐÁc điÇm đa biÃn thÇ cąa tiÃng Viát.

V¿n đÅ tãn t¿i và h°ãng giÁi quyÃt bài toán. MÔ HÌNH SĀ DĂNG HâC SÂU PHÁT HIàN TIN NHÂN RÁC TIÂNG VIàT Đ¡N THÆ. Giãi thiáu mô hình. Thā nghiám mô hình.

MÔ HÌNH HâC SÂU KÂT HĀP K) THUÀT VECTOR HOÁ PHÁT HIàN TIN NHÂN RÁC TIÂNG VIàT ĐA BIÂN THÆ. Giãi thiáu mô hình. Thā nghiám mô hình. ĐÁNH GIÁ VÀ SO SÁNH KÂT QUÀ.

TäNG KÂT CH¯¡NG. Nhăng khó khăn tãn t¿i cąa luÁn án. Đánh h°ãng phát triÇn. 95 DANH MĂC CÁC CÔNG TRÌNH Đà CÔNG Bà.

97 TÀI LIàU THAM KHÀO. 98 iv LäI CAM ĐOAN Tôi xin cam đoan đây là công trình nghiên cću do tôi thąc hián. Các sá liáu và kÃt quÁ trình bày trong luÁn án là trung thąc, ch°a đ°āc công bá bçi b¿t kỳ tác giÁ nào hay ç b¿t kỳ công trình nào khác. Tác giÁ Vũ Minh Tu¿n v LäI CÀM ¡N LuÁn án TiÃn s* này đ°āc thąc hián t¿i Hãc vián Công nghá B°u chính Vißn thông d°ãi są h°ãng d¿n khoa hãc cąa PGS.

TS TrÁn Quang Anh và TS. Nguyßn Xuân ThÃng. Tôi xin bày tß lòng biÃt ¢n sâu sÃc tãi các ThÁy vÅ đánh h°ãng khoa hãc, liên tăc quan tâm, t¿o điÅu kián thuÁn lāi trong suát quá trình nghiên cću hoàn thành cuán luÁn án này. Tôi xin đ°āc chân thành cÁm ¢n các nhà khoa hãc, tác giÁ các công trình công bá đã trích d¿n trong luÁn án vì đã cung c¿p nguãn t° liáu quý báu, nhăng kiÃn thćc liên quan, quan trãng trong quá trình nghiên cću hoàn thành luÁn án.

Tôi xin trân trãng cÁm ¢n Lãnh đ¿o Hãc vián Công nghá B°u chính Vißn thông, Hái đãng Khoa hãc, Hái đãng TiÃn s* cąa Hãc vián vì đã t¿o điÅu kián đÇ nghiên cću sinh đ°āc thąc hián và hoàn thành ch°¢ng trình nghiên cću cąa mình. Xin chân thành cÁm ¢n Khoa Đào t¿o sau đ¿i hãc và các nhà khoa hãc thuác Hãc vián Công nghá B°u chính Vißn thông cũng nh° các nghiên cću sinh khác vÅ są hß trā trên ph°¢ng dián hành chính, hāp tác có hiáu quÁ trong suát quá trình nghiên cću khoa hãc cąa mình. Tôi xin gāi låi cÁm ¢n tãi Ban giám hiáu Tr°ång Đ¿i hãc Hà Nái và các b¿n đãng nghiáp, b¿n bè thân hău, vì đã t¿o nhiÅu điÅu kián thuÁn lāi trong suát quá trình hãc tÁp. Cuái cùng là są biÃt ¢n tãi gia đình và nhăng ng°åi b¿n thân thiÃt vì đã liên tăc đáng viên đÇ duy trì nghá ląc, są cÁm thông, chia s¿ vÅ thåi gian, sćc khße và các khía c¿nh cąa cuác sáng trong cÁ quá trình đÇ hoàn thành luÁn án.

Hà Nái, tháng năm 2024 Tác giÁ Vũ Minh Tu¿n vi DANH MĀC KÝ HIÞU VÀ VI¾T TÀT Kí hißu Ti¿ng Anh Ti¿ng Vißt 3GPP Third Generation Partnership Project Dą án các đái tác thà há 3 Bidirectional Encoder BiÇu dißn mã hóa hai chiÅu tÿ BERT Representations from Transformers transformers BOW Bag of Words Túi tÿ CBOW Continuos Bag of Words Túi tÿ liên tăc Đa ng°åi dùng phân chia theo CDMA Code Division Multiple Access mã CMS Content Management System Há tháng quÁn lý nái dung CNN Convolutional Neural Network M¿ng n¢ ron tích chÁp DT Decision Tree ThuÁt toán cây quyÃt đánh European Telecommunications Vián tiêu chuẩn Vißn thông ETSI Standards Institute Châu Âu FN False Negatives Âm tính giÁ FP False Positives D°¢ng tính giÁ GB Gradient Boosting Tên mát thuÁt toán hãc máy Improved Adaptive Artificial Há tháng mißn dách nhân t¿o IA-AIS Immune System thích ćng cÁi thián IM Instant Message Tin nhÃn tćc thì k-NN k-Nearest Neighbor Tên mát thuÁt toán hãc máy LIWC Linguistic Inquiry and Word Count Truy v¿n ngôn ngă và đÃm tÿ LR Logistic Regression Tên mát thuÁt toán hãc máy LSTM Long-Short Term Memory Network M¿ng trí nhã ngÃn-dài h¿n vii ML Machine Learning Hãc máy MTM Message Topic Model Mô hình chą đÅ tin nhÃn NB Naïve Bayes Tên mát thuÁt toán hãc máy NCS Nghiên cću sinh NLP Natural Language Processing Xā lý ngôn ngă tą nhiên OTT Over The Top Ćng dăng lãp trên RF Random Forest Tên mát thuÁt toán hãc máy RNN Recurrent Neural Network M¿ng n¢-ron quy hãi SGD Stochastic Gradient Descent Tên mát thuÁt toán ThiÃt bá đánh danh ng°åi dùng SIM Subscriber Identity Module di đáng SMS Short Service Message Dách vă tin nhÃn ngÃn Trung tâm dách vă tin nhÃn SMSC Short Service Message Center ngÃn SVM Support Vector Machine Tên mát thuÁt toán hãc máy TDMA Time Division Multiple Access Đa truy cÁp theo thåi gian Term Frequency 3 Inverse Document TÁn su¿t thuÁt ngă - TÁn su¿t TF-IDF Frequency tài liáu nghách đÁo TN True Negatives Âm tính thÁt TP True Positives D°¢ng tính thÁt TP-PID Protocol Identifier Mã đánh danh giao thćc viii DANH MĀC CÁC BÀNG Bảng 1-1Danh sách đ¿c tính cÿa SMS. 17 Bảng 1-2 Danh sách 20 đ¿c trưng kết hợp LIWC. 19 Bảng 1-3 Bảng thống kê nguồn cung cấp dữ liệu tin nhắn. 30 Bảng 1-4 Số lượng tin nhắn sau khi xử lý trùng l¿p.

31 Bảng 1-5 Danh sách thông số trong độ đo đánh giá phân lớp nhị phân. 43 Bảng 2-1 Mô tả tập dữ liệu tin nhắn có độ dài khác nhau. 54 Bảng 2-2 Kết quả tại các ngưỡng khác nhau cÿa bộ luật cho tin nhắn SMS. 58 Bảng 2-3 Kết quả mô hình sử dụng bộ luật với ngưỡng 1.

59 Bảng 2-4 Kết quả thí nghiệm với học máy truyền thống với tập dữ liệu DS-Short. 61 Bảng 2-5 Kết quả thí nghiệm với học máy truyền thống với tập dữ liệu DS-Medium. 61 Bảng 2-6 Kết quả thí nghiệm với học máy truyền thống với tập dữ liệu DS-Long. 62 Bảng 2-7 Mô tả cấu trúc và tham số mạng CNN.

64 Bảng 2-8 Mô tả cấu trúc và tham số mạng LSTM. 66 Bảng 2-9 Kết quả thí nghiệm mô hình học sâu với ba tập dữ liệu tin nhắn có độ dài khác nhau. 67 Bảng 2-10 Bảng so sánh kết quả cÿa các mô hình với 3 tập dữ liệu tin nhắn có độ dài khác nhau. 68 Bảng 3-1 Kết quả thí nghiệm mô hình CNN với 3 tập dữ liệu tin nhắn biến thế.

77 Bảng 3-2 Tham số mạng CNN kết hợp cùng với các kĩ thuật vector hóa. 83 Bảng 3-3 Tham số mạng LSTM kết hợp cùng với các kĩ thuật vector hóa. 85 ix DANH MĀC HÌNH VẼ VÀ Đà THà Hình 1-1 Cấu trúc tin nhắn SMS. 11 Hình 1-2 Form thu thập tin nhắn rác.

26 Hình 1-3 Phân bổ số lượng tin nhắn theo độ dài. 32 Hình 1-4 Phân bổ số lượng tin nhắn rác theo độ dài. 33 Hình 2-1 Quy trình triển khai và so sánh hiệu quả mô hình phát hiện tin nhắn rác tiếng Việt đơn thể. 51 Hình 2-2 Mô tả dữ liệu thí nghiệm.

54 Hình 2-3 Mô hình triển khai phát hiện tin nhắn rác với bộ luật thống kê. 55 Hình 2-4 Giao diện phần mềm trên thiết bị di động. 57 Hình 2-5 Biểu đồ kết quả bộ luật ở ngưỡng 1. 60 Hình 2-6 Mô hình phát hiện tin nhắn rác với mạng CNN và các kĩ thuật vector hóa văn bản.

65 Hình 2-7 Kết quả so sánh Accuracy và F1 Score cÿa 2 thuật toán CNN & LSTM trên 3 tập dữ liệu. 68 Hình 2-8 So sánh māc độ phụ thuộc cÿa các mô hình và độ dài tin nhắn. 69 Hình 3-1 So sánh kết quả cÿa mô hình CNN trên 3 tập dữ liệu. 78 Hình 3-2 So sánh kết quả mô hình CNN khi kết hợp với các phép vector hoá.

84 Hình 3-3 So sánh kết quả mô hình LSTM khi kết hợp với các phép vector hoá. 86 Hình 3-4 Mô hình BERT NER [45]. 88 Hình 3-5 So sánh kết quả mô hình BERT NER chạy trên tập dữ liệu tiếng Anh và tiếng Việt đa biến thể. 89 Hình 3-6 So sánh kết quả các mô hình CNN và LSTM khi kết hợp với PhoBERT và BERT NER trên tập dữ liệu tiếng Việt đa biến thể .