CHƯƠNG 1.1 Dat van dé Việc xử ly thông tin và cảm xúc trong câu nói của đối phương dé đưa ra câu phản hồi thích hợp về mặt cảm xúc, làm cho người nghe cảm thấy được xoa dịu hoặc đồng cảm đã có thé coi là một kỹ năng khó đối với chính con người. Do đó, việc xây dựng một hệ thống máy tính có khả năng tiếp nhận thông tin và phản hồi lại những tình huống mà con người đưa ra, đáp ứng được cả về nội dung và cảm xúc của cuộc hội thoại thông qua tương tác bằng giọng nói giống như giữa hai người đang nói chuyện với nhau có thể coi là một thử thách lớn và thú vị cho các nhóm nghiên cứu khoa học. Với mong muốn chuyên hóa chiếc máy vi tính, một vật vô tri vô giác không có cảm xúc thành một người bạn “tâm giao”, có thể tương tác và thể hiện cảm xúc thông qua giọng nói, chúng tôi đã phát triển một hệ thống voicebot có tên là ViEmBot. Với mục đích chính là chia sẻ tâm sự về những thứ đang diễn ra trong cuộc sống hàng ngày như vui, buồn, đồng cảm.
cho nên ViEmBot sẽ không đi vào chỉ tiết của một vấn dé cụ thé trong bat cứ một lĩnh vực nào mà chỉ tâm sự một cách chung chung về cuộc sống đời thường xung quanh chúng ta. So sánh với những mô hình voicebot hay trợ lý ảo có hỗ trợ tiếng Việt tại thời điểm hiện tại như Google Asistant [17], MaiKa [18], KiKi [19] thi ViEmBot có những điểm khác biệt như sau: Thứ nhất, ViEmBot được huấn luyện trên bộ dữ liệu hội thoại có cảm xúc UIT- VED-27K được dịch qua tiếng Việt từ bộ dữ liệu gốc nỏi tiếng Empathetic Dialogues của Facebook [3] gồm những câu đối thoại thiên về mặt cảm xúc đồng cảm. Thứ hai, thay vì xưng hô “tôi” và “bạn” như những voicebot hiện tại, ViEmBot có thé phân biệt được giới tính của người nói thông qua giọng nói dé từ đó đưa ra được những đại từ nhân xưng phù hợp trong câu nói phản hồi. Đặc điểm này đã tạo nên sự khác biệt đáng kê giữa ViEmBot và voicebot có hỗ trợ tiếng Việt khác tinh đên thời điêm hiện tại.
Ngoài ra, ViEmBot còn có thể đặt lại câu hỏi mang tính cảm xúc cho người nói và luôn theo sát một chủ đề khi ta tương tác nhiều lượt làm cho cuộc hội thoại trở nên tự nhiên hơn.2 Các công trình liên quan Trên thế giới hiện nay đã có nhiều voicebot hay trợ lý ảo được sử dụng trong cuộc đời sông hàng ngày. Trong đó những cái tên tiêu biểu như Alexa của Amazon [32], Google Assistant của Google [17] hay Siri của Apple [33] đã không còn xa lạ với chúng ta. Tại Việt Nam, những ứng dụng voicebot, trợ lý ảo còn rất ít. Hiện nay có một số công ty phần mềm lớn cũng đã phát triển hệ thống voicebot hỗ trợ khách hàng như FPT, Zalo (KiKi) [19] hay Viettel (Cyberbot) [34].
Nhưng tại thời điểm hiện tai những ứng dụng này chỉ dùng cho mục đích thương mại để trả lời những thắc mắc của khách hàng về một sản phâm hay một dịch vụ từ phía doanh nghiệp, không sử dụng trong mục đích tâm sự, giãi bày cảm xúc hay tán gẫu về những câu chuyện đời thường trong cuộc song hàng ngày. Trợ lý ảo Google Assistant [17] mặc dù đã hỗ trợ tiếng Việt nhưng lại thiên về tra cứu thông tin và sử dụng những chức năng có trên điện thoại như tra cứu thời gian, gọi điện, phát nhạc,. hon là dùng cho mục dich tâm sự, giãi bay cảm xúc qua lại. Một số trường hợp Google Asisstant [17] cũng tương tác có cảm xúc nhưng lại chỉ đưa ra câu trả lời có san là “có” hoặc “không” dé người dùng lựa chọn thay vi trả lời dưới dang một câu nói giống như con người.
Ngoài ra những voicebot hiện tại khi tương tac với con người chỉ sử dụng hai đại từ nhân xưng là “tôi” và “bạn”, điều này không được tự nhiên khi giao tiếp trong tiếng Việt. Khác với tiếng Anh, trong tiếng Việt đại từ nhân xưng rất đa dạng, đại từ nhân xưng thê hiện tuôi tác, sự kính trọng hay mức độ thân thiện giữa người nghe và người nói. Sử dụng sai đại từ nhân xưng trong tiếng Việt có thê gây hiệu lầm là không lễ phép hay thiếu tôn trọng người khác. Chính vì thế việc phân biệt đúng đại từ nhân xưng để trả lời lại bằng những đại từ phù hợp là vô cùng quan trọng trong tiếng Việt.
Dé hiểu rõ hơn về tính quan trọng của việc sử dụng dai từ nhân xưng trong tiếng Việt, ta xét hai ví dụ sau: Vi dụ 1.1: Có hai người A và B đang nói chuyện với nhau, người A gọi người B là “bố” thì người B cần gọi người A là “con” thay vì là “bạn”, vì điều này không đúng với phong tục văn hóa của người Viét. A: Hôm nay bố đi làm có mệt không? B: Bồ cũng cảm thấy hơi mệt con a.2: Người A xưng hô với người B là “bác” vì người B là “cháu” của người A. Nếu người B sử dụng sai đại từ nhân xưng để trả lời người A, từ “cháu” qua “mày” thì theo văn hóa của người Việt, người B sẽ bị quy vao là “bất lịch sự” và thiếu sự tôn trọng đối với những người lớn tuổi hơn mình. A: Bác thấy cháu có vẻ đang buồn phải không? B: Đúng rồi! Tao đang buồn mày ạ.
Qua hai ví dụ phía trên ta có thê thấy việc sử dụng đúng đại từ nhân xưng trong tiếng Việt quan trọng tới mức nào. Khóa luận tốt nghiệp về chatbot cảm xúc của hai tác giả Tiến và Thành [20] đã thực hiện trước đó hoạt động tốt về mặt nội dung nhưng còn một vài điểm hạn chế là chưa thé tương tác với con người thông qua giọng nói, khi người dùng muốn tương tác vẫn cần phải điền nội dung vào khung chat bằng cách gõ từng đoạn văn bản mà không thé nói chuyện trực tiếp như hai người đang nói chuyện với nhau. Bộ nhận diện đại từ cho ngôi thứ nhất và ngôi thứ hai tương đối tốt cho những trường hợp không phân biệt giới tính. Nhưng khi tương tác cần phân biệt giới tính để xác định đại từ nhân xưng thì chatbot này lại tự động gán đại từ nhân xưng còn lại mà không quan tâm tới giới tính người nói là nam hay nữ.3: A gọi B là “em” thì chatbot tự gan A là “anh”, A gọi B là “con” thì mặc định chatbot gán A là “bố”.
Điều này không hắn đúng vì A có thê là “chị” và “mẹ” trong hai trường hợp nêu trên. Ngoài ra, chatbot của hai tác giả Tiến và Thành phát triển sử dụng thư viện Googletrans [11] dé chuyên đổi câu nói tiếng Việt qua tiếng Anh nhằm xác định đại từ nhân xưng ngôi thứ nhất và ngôi thứ hai trong câu nói tiếng Việt, nhưng thư viện này trong một số trường hợp dịch không sát nghĩa với câu tiếng Việt, dẫn tới không xác định được đại từ nhân xưng (xem ví dụ 1.4: Khi dịch câu nói “Bố hôm nay đi chơi có vui không” thì thư viện Googletrans [11] dịch thành “Dad today go out is not fun”. Lúc này theo phương pháp xác định đại từ nhân xưng mà hai tác giả Tiến và Thành [20] thực hiện sẽ rất khó xác định đại từ nhân xưng “Bồ” là ngôi thứ nhất hay ngôi thứ hai do dich qua tiếng Anh là “Dad”.3 Mục tiêu và phạm vi nghiên cứu Dựa trên nền tảng ứng dụng chatbot có cảm xúc của hai tác giả Tiến và Thành [20] đã thực hiện. Chúng tôi tiến hành phát triển ứng dụng chatbot này trở thành voicebot, giúp con người có thê tương tác băng giọng nói tiếng Việt.
Mục tiêu Mục tiêu của đề tài “Phương pháp xác định đại từ nhân xưng theo giới tính ứng dụng trong voicebot tiếng Việt” là việc phát triển một ứng dụng voicebot có thể tương tác với con người thông qua giọng nói tiếng Việt. Cụ thê là: e Nghiên cứu va cài đặt mô hình nhận dạng giọng nói tiếng Việt sử dụng Wave2vec 2.0 [1] Framework của Facebook. e Xây dựng quy trình gan nhãn cho bộ dữ liệu âm thanh dùng đề huấn luyện mô hình chuyển văn bản thành âm thanh (Text-to-Speech), tiếp đó tiến hành gan nhãn dữ liệu theo quy trình đã đề ra. e Cải tiến bộ nhận diện đại từ nhân xưng trong mô hình chatbot mà hai tác giả Tiến và Thành [20] đã thực hiện bằng việc xác định giới tính của người nói và đề xuất thay thé thư viện Googletrans [11] bằng mô hình dich thuật MTet [35].
e Từ mô hình Transformer TTS [6] dùng cho mô-đun chuyên đổi văn bản thành giọng nói, chúng tôi đã tiến hành tinh chỉnh và cải tiến như sau: o Thay thế mô-đun chuyên hình vị thành âm vị (Grapheme-to-Phoneme) từ tiếng Anh (mô hình gốc) thành tiếng Việt dựa trên những luật phát âm trong tiếng Việt trong công trình nghiên cứu của Emerich, Giang H [8]. o Đề xuất thay thế mô-đun chuyên đồi quang phổ Mel (Mel-spectrogram) thành âm thanh bằng mô hình Multi-band MeGAN [7] thay vì sử dụng WaveNet [12] như mô hình gốc ban đầu của tác giả bài báo Transformer 4 TTS [6]. Phương pháp này đã được tác giả bài báo Multi-band MeGAN [7] chứng minh là tốt hơn so với mô hình WaveNet [12] cho tiếng Anh nhưng chưa có công bố nào thử nghiệm trên tiếng Việt. Phạm vi Luận văn tập trung vào việc “Phương pháp xác định đại từ nhân xưng theo giới tính ứng dụng trong voicebot tiếng Việt”, có thé tương tác với con người thông qua giọng nói tiếng Việt.
Do đó, phạm vi nghiên cứu của đề tài bao gồm 3 mô-đun của voicebot và bộ dir liệu âm thanh tiếng Việt: A. Mô hình chuyển giọng nói thành văn bản (Speech-to-Text). Được phát triển bởi Facebook, tại thời điểm hiện tại mô hình Wav2vec 2.0 [1] dang là mô hình hiện dai nhất, cho độ chính xác cao (State-of-the-Art) trong lĩnh vực nhận dạng giọng nói trên nhiều ngôn ngữ khác nhau. Mô hình này như một cuộc cách mạng làm thay đôi hoàn toàn lĩnh vực xử lý âm thanh thanh (speech processing) nói riêng và lĩnh vực xử lý ngôn ngữ tự nhiên nói chung nhờ phương pháp tiếp cận “học tự giám sát” (self-supervised learning).
Mô hình Wav2vec 2.0 [1] cho tiếng Việt được tác giả Nguyễn Thái Binh [2] huấn luyện trên tập dữ liệu 13.000 giờ âm thanh không có nhãn dán trên Youtube, tiếp đó tác giả huấn luyện trên tập đữ liệu 250 giờ có nhãn dán của tập dữ liệu VLSP [14]. Đến thời điểm hiện tại thì đây đang là mô hình có độ chính xác cao nhất được công bồ và chia sẻ miễn phí trong cộng đồng dành cho tiếng Việt.