ĐẠI HỌC QUOC GIA THÀNH PHO HO CHÍ MINH TRUONG DAI HOC BACH KHOA PHAM TIEN PHUC PHAN LOẠI NHÓM TUOI NGƯỜI NGÀNH: KHOA HỌC MÁY TÍNH MÃ NGANH: 60480101 LUAN VAN THAC SI TP. HO CHI MINH, thang 6 nam 2018 CÔNG TRÌNH ĐƯỢC HOÀN THÀNH TẠI TRUONG ĐẠI HOC BACH KHOA —DHQG -HCM Cán bộ hướng dẫn khoa học: PGS. Quản Thanh Tho Cán bộ chấm nhận xét 1: TS. Lê Thanh Vân Cán bộ chấm nhận xét 2: TS.
Nguyễn Thị Thanh Sang Luận văn thạc sĩ được bao vệ tại Truong Đại học Bách Khoa, ĐHQG Tp. HCM ngày 24 tháng 8 năm 2018 Thành phân Hội đồng đánh giá luận văn thạc sĩ gồm: I. Chủ tịch: PGS. Dương Tuan Anh 2 Thư ký: TS.
Võ Thị Ngọc Châu 3 Phản biện 1: TS. Lê Thanh Vân 4. Phản biện 2: TS. Nguyễn Thị Thanh Sang 5 Ủy viên: TS.
Nguyễn Đức Dũng Xác nhận của Chủ tịch Hội đồng đánh giá Luận văn và Trưởng Khoa quản lý chuyên ngành sau khi luận văn đã được sửa chữa (nếu có). CHỦ TỊCH HỘI DONG TRƯỞNG KHOA KH&KTMT PGS. Dương Tuấn Anh ĐẠI HỌC QUOC GIA TPHCM CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIET NAM TRƯỜNG ĐẠI HỌC BÁCH KHOA Độc lập - Tự do - Hạnh phúc NHIEM VỤ LUẬN VAN THẠC SĨ Họ tên học viên: Phạm Tiễn Phúc.<<<< s52 Nơi sinh: Cần Thơ Ngành: Khoa học May tính. TÊN DE TÀI: PHAN LOẠI NHÓM TUỎI NGƯỜI DUNG MẠNG XA HỘI I.
NHIỆM VU VÀ NỘI DUNG: Phân loại nhóm tudi người dùng mạng xã hội sử dụng ngôn ngữ tiếng Việt: - Nghiên cứu lý thuyết về mạng xã hội, ngôn ngữ sử dụng trên mạng xã hội, môi liên hệ nhóm tudi va đặc trưng của ngôn ngữ sử dụng trên mạng xã hội. - Nghiên cứu các phương pháp về phân loại nhóm tuổi người dùng mạng xã hội. - Đề xuất phương pháp phân loại nhóm tuổi người dùng mạng xã hội sử dụng ngôn ngữ tiêng Việt. - Hiện thực, đánh giá và phân tích kết quả thực nghiệm.
NGÀY GIAO NHIỆM VU : 15/01/2018 Iv. NGÀY HOÀN THÀNH NHIỆM VU: 17/6/2018 v. CÁN BỘ HƯỚNG DAN : PGS. Quản Thành Thơ Tp.
HCM, ngày 17 tháng 6 năm 2018 CÁN BỘ HƯỚNG DẪN TRƯỞNG KHOA KH & KTMT PGS. Quản Thành Thơ ii LOI CAM ON Trước hết, tôi xin bay tỏ lòng biết on chân thành và sâu sắc đến Thay hướng dẫn tôi, PGS. Quản Thành Thơ. Trong suốt quá trình làm luận văn, mặc dù rất bận, nhưng Thây đã tận tình, kiên nhẫn chỉ dan, hỗ trợ tôi thực hiện.
Su hướng dẫn, hỗ trợ quý báu của thây là động lực to tớn để tôi có thể hoàn thành được luận văn này. Tôi xin chân thành cảm ơn sự tận tình giảng dạy và giúp đỡ của tất cả quý Thay Cô tại trường Đại học Bách Khoa thành phố Hồ Chí Minh, đặc biệt là các thầy cô trong khoa Khoa học và Kỹ thuật Máy tính. Tôi xin chân thành cảm ơn Công ty Cô phan Younet Social Media đã giúp đỡ, hỗ trợ về công nghệ và dữ liệu cho trong quá trình nghiên cứu và thực hiện đề tài. Tôi xin gửi lời cảm ơn đến Ban lãnh đạo Sở Thông tin và Truyền thông thành phố Cân Thơ, Trung tâm Công nghệ Thông tin Cần Thơ, nơi tôi công tác, đã tạo mọi điều kiện thuận lợi cho tôi trong thời gian tham gia học tập.
tôi xin cảm ơn gia đình và các bạn bè, đồng nghiệp đã luôn ủng hộ, động viên tôi trong suốt quá trình học tập và hoàn thành luận văn. ili TÓM TẮT Ngày nay, Internet và mang xã hội như Facebook, Twitter, Zalo. rat phố biến gần như đã trở thành một phân trong cuộc sống hàng ngày của nhiều người. Không chỉ phương tiện thể hiện bản thân, mạng xã hội còn là phương tiện dé mọi người tìm kiếm thông tin, chia sé và liên kết mọi người.
Tuy nhiên, do nhiều nguyên nhân, người dùng đã không cập nhật đầy đủ vào hồ sơ cá nhân, cung cấp thông tin giả hoặc vi tính riêng tư nên đã che dấu thông tin gây nên sự khó khăn trong xác định và sử dụng thông tin. Mục tiêu của đề tài là thực hiện phương pháp sử dụng máy học vector hỗ trợ (Support Vector Machines - SVM) để xác định phân loại nhóm tuổi của người dùng mạng xã hội sử dụng ngôn ngữ tiếng Việt dựa trên các nội dung mà người dùng đã dùng dưới hình thức các văn bản ngắn, ngôn ngữ biến thé lệch chuẩn. Vì thé dé tài sẽ hữu ích khi đề xuất phương pháp trên cơ sở dựa trên một số thông tin của người dùng dé có thé khai phá được thông tin ấn khác nhằm phục vụ các yêu cầu khác nhau. ABSTRACT Today, Internet and Social networks such as Facebook, Twitter, Zalo.
are very popular with peoples. It became part of the fabric of everyday life around the world. We have the ability to see what others are doing, often within seconds of them doing it. Or even better, browsing, searching, and linking tool.
Peoples will be yourself on Social networks. However, user may be not submit fulfill their information, using fake account, or they set their profile to private mode. The purpose of this thesis is using Support Vector Machines (SVM) to classify groups of user social network using Vietnamese language. The classifier process information via short messages and nonstandard language variations.
It would therefore be useful if user profiles can be checked on the basis of text analysis, and false profiles recovered for other requirements. IV LỜI CAM ĐOAN Tôi xin cam đoan răng, ngoại trừ các kêt quả tham khảo từ các công trình khác như đã ghi rõ trong luận văn, các nội dung trình bày trong luận văn này là do chính tôi thực hiện và chưa có phân nội dung nào của luận văn này được nộp dé lay bằng cấp ở một trường khác. HCM, ngày 17 tháng 6 năm 2018 Phạm Tiến Phúc DANH MUC TU VIET TAT Từ viết tắt Diên giai MXH Mang xã hội kNN k Nearest Neighbors LR Linear Regression CNNs Convolutional Neural Network DT Decision Trees BoW Bag of Word SVM Support Vector Machines TF-IDF Term Frequency — Inverse Document Frequency VỊ DANH SÁCH CAC BANG STT | Bang Tén bang Trang 1 | Bang 1.1 Thong kê cum từ tim kiêm về mạng xã hội 7 2 | Bang 2.1 | Phân bô đặc trưng w trong tập văn bản 19 3 Bang 2.2 Các kernel được hỗ trợ của thu viện 25 Sklearn 4 | Bảng 3.1 | Xác định nhóm tuôi trong đê tài 28 5 | Bảng 4.1 | Câu trúc tập dữ liệu huấn luyện và kiểm tra | 38 6 Bảng 4.2 Câu trúc tập dữ liệu huấn luyện và kiểm tra, 39 sau khi da tién xu ly 7 Phân bô độ tudi của toàn bộ 10949 tài Bảng 4.3 | khoản tập huấn luyện và 2000 tài khoản tập | 41 kiểm tra 8 Bang 4.4 Thong kê SO luong dac trung cua tap dir 42 liệu sau khi vector hóa 9 | Bảng 4.5 | Thông sô tìm kiếm bộ tham sô tôi ưu.6 Danh sách 45 đặc trưng hàng dau của mỗi 45 46 nhóm 11 | 4.13 | S6 lượng các mẫu phân loại sai nhóm 46-50 DANH SÁCH CÁC HÌNH Hình Tên hình Trang 1 Hình 1.1 Mức độ pho biến của các trang mạng xã hội trên 4 toàn thê giới tính đên tháng 8/2017 2 | Hình 1.2 Thong kê số liệu sử dụng internet và mang xã hội | 5 3 |Hìnhl3 | 10 quốc gia và thành pho có số người dùng 5 Facebook lớn nhat thê giới, 4 |Hinh2.1 | Ví dụ về mô hình mạng xã hội nhỏ 12 Hình 2.2 | Dữ liệu thông tin cơ bản người dùng dưới dạng 5 aa 13 cau truc JSON 6 | Hinh 2.3 Vi du vé ngôn ngữ su dụng trên mang xã hội 14 7 |Hình2.4_ | Biểu diễn văn bản dưới dạng vector 16 8 | Hinh 2.5 Biéu diễn văn ban dưới dang vector Bag of Word | 17 9 |Hinh2.6 | Biéu diễn văn bản dưới dang vector tfidf 18 10 | Hinh2.7 | Siêu phang phân cách h phân chia 2 tập 20 ¡¡ |Hình28 | Siêu phăng với lễ cực đại cho một SVM phân " tách dữ liệu thuộc hai lớp Vil 12 Hình 2.9 Minh họa bài toán phân 2 lớp, với dữ liệu không 22 nhiêu 13 Hình 2.10 Minh họa bài toán phân 2 lớp, với dữ liệu có 23 nhiêu Hình 2.11 | Minh họa bài toán phân lớp, không thé phân chia 24 14 ¬" tuyên tính 15 | Hình 3.1 Mô hình hệ thông xử lý 29 16 | Hình 4. | Biéu tượng của sklearn 34 17 Hình 4.
| Dang ký tài khoản nhà phát trién phục vụ cho 35 việc thu thập dữ liệu từ Facebook Hình 4. | Sử dụng trình Graph API thu thập dữ liệu từ 18 35 Facebook 19 Hình 44. | Mã truy cập người dùng và mã truy cập ứng dung 36 Facabook Graph API 20 Hình 45. | Graph API hỗ trợ truy xuất các thông tin liên 36 quan dén người dùng Hình 4.
| Thu thập tuổi người dùng phục vu gan nhãn qua 21 ` k AC SA Là ˆ. 37 trình huân luyện mô hình phân loại 22 Hình 4.7 Không thê lây được thông tin ngày sinh do người 37 dùng đã thiêt lập chê độ bảo vệ 23 | Hinh4.8 | Phân chia tập dữ liệu 38 24 | Hinh4.9 | Phân bố độ tudi của 939 tài khoản tập huấn luyện | 39 2s | Hình4.10 | Phân bồ độ tudi của 10949 tài khoản tập huấn 40 luyện 26 | Hình4.11 | Phân bố độ tuổi của 939 tài khoản tập kiêm tra | 40 27 | Hinh 4.12 | Phân bố độ tuôi của 2000 tài khoản tập kiêm tra | 41 28 | Hình 4.13 | Bộ dữ liệu sau khi xử lý, chia tách 42 Hình 4.14 | Kết quả thực thi của các giải thuật trên tập dữ 29 liệu 700 tài khoản huấn luyện và 300 tài khoản 43 kiểm tra Hình 4.15 | Kết quả thực thi trên tập dữ liệu huân luyện 939 30 ` TỐ TA LA ore 44 tài khoản với bộ thông sô tôi ưu ạ¡ | Hình 4.16 Kết quả thực thi trên tập dir liệu huân luyện 5362 AA tài khoản va 2642 kiểm tra với bộ thông số tối ưu Vill MỤC LỤC LOI CAM ON ili TOM TAT iv ABSTRACT iv DANH MUC TU VIET TAT vi DANH SACH CAC BANG Vii DANH SACH CAC HINH vi CHUONG 1 2AwWORD TONG QUAN 1.2 Bài toán và phạm vi 1.3 Những kết quả nghiên cứu liên quan 1.1 Nghiên cứu trong nước 1.2 Các nghiên cứu quốc tế 1.4 Kết quả đạt được và những đóng góp CHƯƠNG 2 CƠ SỞ LÝ THUYET 2.2 Ngôn ngữ sử dụng trên mạng xã hội 2.3 Môi liên hệ nhóm tuôi và đặc trưng của ngôn ngữ sử dụng trên mạng xã hội 2.4 Biêu điện văn bản 2.5 Kỹ thuật TF —IDF (Term Frequency x Inverse Document Frequency) 2.6 Mô hình ngôn ngữ n-gram 2.7 Lựa chọn đặc trưng 2.8 Phương pháp Support Vector Machine - SVM 2.1 SVM tuyến tính 2.