CHƯƠNG 1: GIỚI THIỆU 1. Mục tiêu, đối tượng và phương pháp nghiên cứu 1. Mục tiêu Với sự phát triển mạnh mẽ của mạng xã hội, diễn đàn, báo chí, các doanh nghiệp có thể tiếp cận với các phản hồi của khách hàng về sản phẩm của họ một cách nhanh chóng và dễ dàng. Thay vì trước đây, các cơ quan doanh nghiệp phải thực hiện lấy ý kiến người tiêu dùng bằng các bản khảo sát ý kiến trên giấy sẽ mất nhiều thời gian, công sức và tài chính.
Thu thập thông tin phản hồi, đánh giá của khách hàng là một cách tuyệt vời giúp cho các doanh nghiệp hiểu được điểm mạnh, điểm yếu trong sản phẩm, dịch vụ của mình; đồng thời nhanh chóng nắm bắt được tâm lý và nhu cầu khách hàng để mang đến cho họ sản phẩm, dịch vụ hoàn hảo nhất. Nhằm giúp các doanh nghiệp tổng hợp các ý kiến đánh giá một cách nhanh chóng, rõ ràng, luận văn thực hiện đề tài “Phân loại cảm xúc trong văn bản tiếng Việt sử dụng phương pháp học sâu”. Mục tiêu chung của luận văn: Đề xuất mô hình phân loại các câu bình luận, nhận xét, phản hồi của người dùng về một sản phầm hay dịch vụ trong lĩnh vực ăn uống; Mục tiêu cụ thể là phân loại các câu bình luận thành 2 nhóm: Tích cực và tiêu cực. Đối tượng nghiên cứu Đối tượng nghiên cứu của luận văn là tập trung khai phá phân loại cảm xúc của người dùng dựa trên các bình luận vào các địa điểm ăn uống hoặc dịch vụ.
Dữ liệu thu thập là những bình luận của người dùng. Luận văn tập trung vào biểu diễn từ thành vector đặc trưng sử dụng word2vec và xử lý dữ liệu của các thuật toán học máy, đi sâu hơn vào nghiên cứu thuật toán LSTM. Phạm vi nghiên cứu Chương trình thực nghiệm của luận văn được thực hiện trong phạm vi nghiên cứu các ứng dụng xử lý văn bản tiếng Việt, cụ thể hơn là các bình luận về lĩnh vực ăn uống hoặc dịch vụ bằng tiếng Việt. Nghiên cứu liên quan Khoa học kỹ thuật ngày càng phát triển, khái niệm trí tuệ nhân tạo đã không còn lạ lẫm với người dùng, các công trình nghiên cứu, các sản phẩm được cho ra đời và cải tiến liên tục.
Về lĩnh vực nghiên cứu liên quan đến ngôn ngữ tiếng Việt như: Nhận dạng giọng nói, chữ viết tay, phân loại cảm xúc người dùng có thể kể ra một số công trình nghiên cứu trong và ngoài nước như sau: - Wawre và cộng sự [15] đã nghiên cứu xây dựng một mô hình phân loại cảm xúc các bình luận của phim. Mỗi bình luận sẽ đại diện cho cảm xúc của người dùng lúc đó và được phân vào một trong hai lớp “Cảm xúc tích cực” hay “Cảm xúc tiêu cực”. Nghiên cứu đánh giá, so sánh, tính hiệu quả của hai bộ phân loại SVM và Naive Bayes. Theo kết quả Wawre đưa ra, mô hình SVM có độ chính xác là 45.71% và mô hình Naive Bayes có độ chính xác là 65.57%; Duyu Tang và cộng sự [6] nghiên cứu đi xây dựng mô hình phân loại ý kiến cho từng bình luận trên Twitter theo hướng quan điểm tích cực hay tiêu cực.
Luận văn cũng nêu ra rằng thuật toán sentiment specific word embedding (SSWE) mang lại độ chính xác tốt nhất là 77. - Phương và cộng sự [8] đã đề xuất phương pháp tách từ tiếng Việt với độ chính xác 97%. Nghiên cứu của Phương và các cộng sự góp phần đắc lực vào lĩnh vực nghiên cứu liên quan đến xử lý ngôn ngữ và văn bản tiếng Việt; Lưu Tuấn Anh [2] đã đề xuất xây dựng một phần mềm thêm dấu cho tiếng Việt dựa vào từ và âm tiết. Tác giả đề xuất phương pháp mới tiến hành thêm dấu ở từng âm tiết một cách độc lập.
Độ chính xác của phương pháp này lên đến 94.7%; Nguyễn Thái Ân [7] đã đề xuất xây dựng một mô hình phân loại cảm xúc người dùng trong mạng xã hội Twitter, đồng thời dựa vào phân tích để phân loại các chia sẻ thành các loại (N - negative – tệ, Neu – neutral – bình thường, P – positive – tốt) bằng các môn hình CNN, RNN, mô hình kết hợp giữa CNN và RNN (xử lý song song và xử lý tuần tự) với độ chính xác 64. Mô hình mạng neural kết hợp giữa CNN và RNN luôn cho kết quả tốt nhất; Phạm Hùng [11] đề xuất mô hình LSTM trong bài toán trích xuất thông tin quan điểm đối với 2 tập dữ liệu tiếng Anh và tiếng Việt. Tập dữ liệu tiếng Anh có độ chính xác là 82.76% và tập dữ liệu tiếng Việt có độ chính xác là 43. 6 Và rất nhiều các công trình nghiên cứu khác có liên quan tới vấn đề xử lý ngôn ngữ tự nhiên Tiếng Việt nói chung và bài toán phân loại cảm xúc nói riêng.
Vấn đề tồn tại - Nội dung bình luận, tán gẫu trên mạng xã hội của người dùng có số ký tự khá ngắn, thường chỉ một đến hai câu; Cảm xúc của người dùng sẽ bị chi phối bởi nội dung người dùng đang đọc, nghe hoặc tâm trạng của họ trước đó. Nên việc phân loại cảm xúc người dung trong mạng xã hội là một thách thức. - Các ký tự cảm xúc (emoticons) trên mạng xã hội khá đa dạng, có nhiều loại ký tự được thay đổi liên tục. Điều này gây khó khăn trong việc nắm bắt những biểu tượng cảm xúc đó thể hiện cho tâm trạng nào.
- Trong mạng xã hội, nội dung do người dùng viết ra không phải là văn bản chính thống nên từ ngữ bị viết tắt hoặc biến tướng đi rất nhiều, thậm chí là sai chính tả. Ngôn ngữ viết mang tính chất đa dạng, phụ thuộc vào cách viết của mỗi người dùng, nên việc nhận biết, chuyển đổi chúng sang cảm xúc không thể chính xác tuyệt đối. - Đối với bài toán phân loại cảm xúc người dùng, ý kiến của người dùng là về một sự vật hiện tượng được nói đến trong chính nội dung câu đó. Nhưng trong vấn đề khai phá cảm xúc, thì đối tượng nói tới không hẳn là có sẵn.
Ví dụ: “Bài hát này rất hay, mỗi lần nghe nó tôi lại cảm thấy buồn” thì đối tượng nói tới ở đây là “tôi” chứ không phải là bài hát. Do đó việc nhận diện chính xác đối tượng cũng là một thách thức lớn. Kết luận Đây là chương mở đầu của luận văn nhằm giới thiệu và tập trung xem xét một cách tổng quan về bài toán phân loại cảm xúc người dùng. Điều này giúp chúng ta có một cái nhìn sơ lược về bài toán, những thách thức cũng như khó khăn khi nghiên cứu lĩnh vực này.
7 CHƯƠNG 2: CƠ SỞ LÝ THUYẾT 2. Tổng quan về xử lý ngôn ngữ tự nhiên Ngôn ngữ tự nhiên là ngôn ngữ mà các loài động sử dụng để giao tiếp với nhau. Con người cũng là một loại động vật sử dụng ngôn ngữ để giao tiếp. Thế giới ngôn ngữ của con người rất phong phú, theo thống kê của các nhà khoa học thì có tới hàng ngàn ngôn ngữ tồn tại trên trái đất.
Ngôn ngữ tự nhiên có 2 dạng là chữ viết (ký tự) và âm thanh (tiếng nói). Ngôn ngữ của mỗi dân tộc, quốc gia lại khác nhau bao gồm cách viết và cách phát âm. Xử lý ngôn ngữ tự nhiên (Natural Language Processing – viết tắt là NLP) là một nhánh của trí tuệ nhân tạo tập trung vào việc nghiên cứu sự tương tác giữa máy tính và ngôn ngữ tự nhiên của con người. Mục tiêu của lĩnh vực này là giúp máy tính hiểu và thực hiện hiệu quả những nhiệm vụ liên quan đến ngôn ngữ của con người như: tương tác giữa người và máy nhằm nâng cao hiệu quả xử lý văn bản và tiếng nói [19].
Xử lý ngôn ngữ chính là xử lý thông tin khi đầu vào là “dữ liệu ngôn ngữ” gồm có dữ liệu “văn bản” hay “tiếng nói”. Đặc điểm chính của các kiểu dữ liệu này là không có cấu trúc hoặc nửa cấu trúc và chúng không thể lưu trữ trong các khuôn dạng cố định như các bảng biểu. Với sự ra đời và phổ biến của Internet, của sách báo điện tử, của máy tính cá nhân, của viễn thông, của thiết bị âm thanh, ai cũng có thể tạo ra dữ liệu văn bản hay tiếng nói. Xử lý ngôn ngữ là một kĩ thuật quan trọng nhằm giúp máy tính hiểu được ngôn ngữ của con người, qua đó hướng dẫn máy tính thực hiện và giúp đỡ con người trong những công việc có liên quan đến ngôn ngữ như: dịch thuật, phân tích dữ liệu văn bản, nhận dạng tiếng nói, tìm kiếm thông tin.
Đặc trưng của ngôn ngữ tiếng Việt Trước khi đi sâu vào tìm hiểu đặc trưng của ngôn ngữ tiếng Việt, bài luận xin giới thiệu một định nghĩa sau làm ví dụ về định nghĩa từ: “Từ là đơn vị nhỏ nhất có nghĩa, có kết cấu vỏ ngữ âm bền vững, hoàn chỉnh, có chức năng gọi tên, được vận dụng độc lập, tái hiện tự do trong lời nói để tạo câu”.[4] 8 Theo nghiên cứu và tổng hợp của Vietnam Lexicography Center, Tiếng Việt có khoảng 40.181 từ, số âm tiết là 7.55% các âm tiết đồng thời là các từ đơn, 70.72% các từ ghép có 2 âm tiết, 13.59% các từ ghép có 3, 4 âm tiết, 1.04% các từ ghép có từ 5 âm tiết trở lên. [18] Dưới đây là bảng thống kê chiều dài và số lượng từ được đo bằng âm tiết: Bảng 2.1: Bảng thống kê chiều dài và số lượng từ được đo bằng âm tiết Chiều dài Số lượng Tỷ lệ (%) 1 6,303 15.04 Tổng 40,181 100 Tiếng Việt có các phương thức cấu tạo như sau [4]: Từ đơn: Từ đơn, hay còn gọi là từ có 1 âm tiết, là các từ được cấu tạo bởi 1 từ duy nhất, ví dụ: Tôi, bạn, hoa, quả. Từ ghép: Từ ghép là các từ được tạo nên từ hai hoặc nhiều hơn hai từ. Giữa các từ có mối quan hệ về nghĩa với nhau, vì thế ta cũng có các loại từ ghép khác nhau.
- Từ ghép đẳng lập: Các thành phần cấu tạo từ có mối quan hệ bình đẳng với nhau, ví dụ: đi đứng, ăn nói. - Từ ghép chính phụ: Các thành phần cấu tạo từ có mối quan hệ phụ thuộc với nhau về nghĩa. Thành phần phụ sẽ có vai trò làm chuyên biệt hóa, tạo sắc thái cho thành phần chính. Ví dụ: hoa hồng, đường sắt, áo xanh.
Từ láy: Một từ được coi là từ láy khi các yếu tố cấu tạo nên có thành phần ngữ âm được lặp lại, ví dụ: long lanh, lung linh. Độ dài từ láy thay đổi từ 2 tiếng đến 4 tiếng. Nhưng trong tiếng Việt đa số là từ láy hai tiếng.
