Chương 1: TỔNG QUAN VỀ PHÂN LOẠI THÔNG ĐIỆP TRÊN MẠNG XÃ HỘI Chương một giới thiệu cái nhìn tổng quan nhất về những khái niệm, dữ liệu liên quan đến bài toán phân loại thông điệp trên mạng xã hội, cụ thể gồm có: phân loại văn bản, mạng xã hội, mạng xã hội ở Việt Nam và bài toán phân loại thông điệp trên mạng xã hội.1 Tổng quan về phân loại văn bản 1.1 Định nghĩa Phân loại văn bản (hay còn gọi là phân lớp văn bản - text classification) là quá trình gán nhãn lớp/tên lớp các văn bản ngôn ngữ tự nhiên vào một hay nhiều lớp cho trước. Văn bản Chủ đề 1 Văn bản Bộ phân loại đầu vào văn bản Chủ đề n Hình 1.1 - Mô hình phân loại văn bản Định nghĩa phân loại (lớp) văn bản [1]: Phân loại văn bản là nhiệm vụ đặt một giá trị nhị phân cho mỗi cặp (d j , ci ) D C , trong đó D là tập các văn bản, C c1 , c2 ,., cc là tập các lớp cho trước. Giá trị T (true) được gán cho cặp d j , ci có nghĩa là tài liệu d j thuộc lớp ci. Giá trị F (false) được gán cho cặp d j , ci có nghĩa là tài liệu d j không thuộc lớp ci.
4 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com Hay nói cách khác, phân loại văn bản là bài toán tìm một hàm : D C T , F trong đó D là tập các văn bản, C c1 , c2 ,., cc là tập các lớp cho trước, hàm : D C T , F được gọi là bộ phân loại.2 Một số hướng phân loại văn bản Cách đơn giản nhất để phân loại văn bản là dùng phương pháp thủ công, duyệt qua toàn bộ nội dung văn bản và quyết định xem văn bản đó thuộc lớp nào. Tuy nhiên, phương pháp này gặp phải một số khó khăn sau[3]: - Đối với các lĩnh vực đặc biệt, phân loại các đối tượng mới (như cơ sở dữ liệu về y tế, pháp luật) vào các lớp cho trước cần có hiểu biết về các lĩnh vực đó. - Phân lớp bằng tay đôi khi không chính xác vì quyết định phụ thuộc vào sự hiểu biết và động cơ của người thực hiện. - Quyết định của hai chuyên gia khác nhau có thể nảy sinh bất đồng ý kiến.
Vì vậy những công cụ để tự động phân lớp văn bản vào các lớp sẽ rất hữu ích với công việc này nhất là khi thông tin tràn ngập như ngày nay. Có rất nhiều phương pháp được đưa ra để giải quyết bài toán này, trong đó có một số phương pháp căn bản như Naïve Bayes, K láng giềng gần nhất (K-NN), máy vector hỗ trợ (Support Vector Machines), cây quyết định (Decision tree), mạng nơron nhân tạo (ANN). Trong khuân khổ luận văn, tác giả xin trình bày tóm tắt ba phương pháp đơn giản và phổ biến là Naïve Bayes, K láng giềng gần nhất, và máy vector hỗ trợ. Phương pháp Naïve Bayes là phương pháp nhận dạng dựa trên công thức Bayes P(C |x) 𝑃 𝐶 𝑃(𝑥|𝐶) = trong đó x là vector đặc trưng của mẫu cần phân lớp và C là một trong các 𝑃(𝑥) lớp.
Phương pháp này có ưu điểm là đơn giản, tuy nhiên nhược điểm của phương pháp này đó là giả thiết về sự độc lập giữa các đặc trưng của dữ liệu phải được thoả mãn. Một cách toán học thì P(x1, x2) = P(x1) P(x2) với x1 và x2 là hai đặc trưng bất kì của dữ liệu. Phương pháp học máy phổ biến thứ hai có thể giải quyết bài toán phân loại văn bản là phuơng pháp K láng giềng gần nhất. Ý tưởng của phương pháp này là việc phân loại văn bản dựa vào số đông nhãn của K văn bản “gần” nó nhất.
K thường có giá trị nguyên dương và thường có giá trị nhỏ. Với K = 1 thì văn bản đang xét sẽ đuợc gán (*) http://wikipedia.com 5 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com vào lớp chứa văn bản gần nhất so với văn bản đang xét. Nhược điểm chính của thuật toán này đó là các lớp mà có chứa nhiều phần tử dữ liệu thì có xu huớng chi phối kết quả phân lớp của một văn bản mới. Một nhược điểm khác của kNN đó là nó yêu cầu khối lượng tính toán lớn, đặc biệt là khi kích thước dữ liệu tăng nhanh.
Phương pháp thứ ba là phương pháp máy vector hỗ trợ (SVM), đây là một phương pháp phân loại văn bản phổ biến và cho kết quả phân lớp tốt. SVM dạng chuẩn là phương pháp học có giám sát (supervised learning) dùng cho việc phân lớp nhị phân, có nghĩa là nó có thể phân loại dữ liệu vào một trong hai lớp khác nhau. Trong mô hình SVM thì trước tiên dữ liệu luyện tập sẽ được biểu diễn bởi các điểm trong không gian, tiếp đến mô hình SVM sẽ xây dựng một siêu phẳng trong không gian sao cho khoảng cách từ các ví dụ luyện tập tới siêu phẳng là xa nhất có thể. Dữ liệu kiểm tra (testing data) cũng sẽ được biểu diễn trong cùng một không gian và được SVM dự đoán thuộc một trong hai lớp tùy vào mẫu dữ liệu đó nằm ở phía nào của siêu phẳng.
Phương pháp này có ưu điểm là kết quả phân lớp có độ chính xác cao, tuy nhiên nhược điểm của SVM đó là tốc độ phân lớp chậm và pha huấn luyện đòi hỏi không gian bộ nhớ lớn.2 Mạng xã hội (*) Mạng xã hội, hay gọi là mạng xã hội ảo, (tiếng Anh: social network) là dịch vụ nối kết các thành viên cùng sở thích trên Internet lại với nhau với nhiều mục đích khác nhau không phân biệt không gian và thời gian. Mạng xã hội có những tính năng như chat, e-mail, phim ảnh, voice chat, chia sẻ file, blog và xã luận. Mạng đổi mới hoàn toàn cách cư dân mạng liên kết với nhau và trở thành một phần tất yếu của mỗi ngày cho hàng trăm triệu thành viên khắp thế giới. Các dịch vụ này có nhiều phương cách để các thành viên tìm kiếm bạn bè, đối tác: dựa theo group (ví dụ như tên trường hoặc tên thành phố), dựa trên thông tin cá nhân (như địa chỉ e-mail hoặc screen name), hoặc dựa trên sở thích cá nhân (như thể thao, phim ảnh, sách báo, hoặc ca nhạc), lĩnh vực quan tâm: kinh doanh, mua bán.com 6 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com Nút (node): Là một thực thể trong mạng.
Thực thể này có thể là một cá nhân, một doanh nghiệp hoặc một tổ chức bất kỳ nào đó Liên kết (tie): là mối quan hệ giữa các thực thể đó. Trong mạng có thể có nhiều kiểu liên kết. Ở dạng đơn giản nhất, mạng xã hội là một đơn đồ thị vô hướng các mối liên kết phù hợp giữa các nút. Ta có thể biểu diễn mạng liên kết này bằng một biểu đồ mà các nút được biểu diễn bởi các điểm còn các liên kết được biểu diễn bởi các đoạn thẳng.2 – Mô hình liên kết trên mạng xã hội (*) (*) http://www.com 7 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.3 Mạng xã hội ở Việt Nam Hình 1.3 – Một số mạng xã hội ở Việt Nam Trong những năm gần đây, xu hướng mạng xã hội thực sự bùng nổ trong thị trường Internet nói chung, và thị trường internet ở Việt Nam nói riêng.
Sự tham gia đông đảo của các doanh nghiệp internet trong và ngoài nước vào lĩnh vực mạng xã hội đã khiến lĩnh vực này trở thành một trong những lĩnh vực sôi động nhất trên internet. Theo một số thống kê vào tháng 2/2012 của DoubleClick Ad Planner (*), ZingMe đang đứng đầu thị trường mạng xã hội ở Việt Nam với số lượng người dùng là 7.4 triệu, tiếp đến là Facebook với 4.2 triệu và thứ ba là Yume với 2.4 triệu… Một công ty phân tích thị trường internet khác là Vinalink Media lại cho rằng đứng đầu mạng xã hội ở Việt Nam là Facebook, tiếp đến là ZingMe, tiếp đến là ZingMe, Googleplus …. Tuy các phân tích có phần khác nhau đôi, nhưng vẫn cho thấy được sự phát triển đáng kinh ngạc của mạng xã hội ở Việt Nam ngày nay. Ngoài các trang mạng xã hội đầy đủ như Facebook, ZingMe, hay Go.vn… thì thị trường mạng xã hội Việt Nam còn chia nhỏ theo từng lĩnh vực, như mạng chia sẻ tin tức (Linkhay, ZingLive…), mạng chia sẻ video (Youtube, Clip.vn…), mạng xã hội doanh nhân (hoclamgiau…)… những trang mạng xã hội theo từng lĩnh vực nhỏ này cũng đã thu hút được lượng người dùng đáng kể.
Sự phát triển mạnh mẽ này của mạng xã hội ở Việt Nam, với lượng thông tin chia sẻ không lồ, đã đưa ra rất nhiều bài toán cần giải quyết đối với mạng xã hội ở Việt Nam, một trong số đó, là bài toán phân loại thông điệp trên mạng xã hội Tiếng Việt.com/adplanner/ 8 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.4 Bài toán phân loại thông điệp trên mạng xã hội Tiếng Việt 1.1 Thông điệp trên mạng xã hội Tiếng Việt Mạng xã hội nói chung, đều có một số đặc điểm sau đây về thông điệp chia sẻ - Do cộng đồng (những người sở hữu tài khoản trên mạng xã hội) đưa lên - Số lượng lớn và thường được cập nhật liên tục. - Đa dạng, phong phú về nội dung (video, hình ảnh, âm nhạc, bài viết giải trí, bài viết học thuật, chia sẻ tâm sự, tình cảm…) - Thông điệp được viết bằng Tiếng Việt, đôi khi là Tiếng Việt không dấu, hoặc viết tắt, không được chuẩn và đúng ngữ pháp.2 Một số đặc trưng tiếng Việt Tiếng Việt cũng như các ngôn ngữ khác luôn có các đặc trưng riêng mà chúng ta cần phải nắm được trước khi thực hiện xử lý nó. Tiếng Việt có những đặc trưng rất riêng về mặt từ vựng, cũng như mặt ngữ pháp cụ thể như sau[4]: - Về mặt ngữ âm: Trong tiếng Việt có một loại đơn vị đặc biệt gọi là " tiếng ". Về mặt ngữ âm, mỗi tiếng là một âm tiết.
Hệ thống âm vị tiếng Việt phong phú và có tí nh cân đối, tạo ra tiềm năng của ngữ âm tiếng Việt trong việc thể hiện các đơn vị có nghĩa. - Về mặt từ vựng o Mỗi tiếng , nói chung , là một yếu tố có nghĩa. Tiếng là đơn vị cơ sở của hệ thống các đơn vị có nghĩ a của tiếng Việt. Từ tiếng, người ta tạo ra các đơn vị từ vựng khác để đị nh danh sự vật, hiện tượng., chủ yếu nhờ phương thức ghép và phương thức láy.
o Quy luật kết hợp ngữ nghĩ a là qui luật chi phối chủ yếu việc tạo ra các đơn vị từ vựng ở phương thức ghép .