Tổng quan nghiên cứu

Trong kỷ nguyên số hóa, công nghệ nhận dạng tiếng nói tự động (Automatic Speech Recognition - ASR) đã đạt được những bước tiến vượt bậc với sự xuất hiện của các trợ lý ảo nổi tiếng như Google Assistant, Apple Siri và Samsung Bixby. Tuy nhiên, phần lớn các hệ thống thương mại này hoạt động theo kiến trúc máy khách - máy chủ (Client-Server), đòi hỏi thiết bị phải liên tục kết nối Internet băng thông rộng. Tại thời điểm năm 2018, khi chi phí kết nối mạng di động 3G tại Việt Nam còn tương đối cao và tốc độ tăng trưởng thuê bao điện thoại thông minh vượt mức 20% mỗi năm, việc gửi luồng âm thanh liên tục về máy chủ gây tốn kém lưu lượng và tiềm ẩn nguy cơ rò rỉ dữ liệu riêng tư của người dùng.

Nhằm giải quyết triệt để vấn đề trên, đề tài luận văn thạc sĩ kỹ thuật của tác giả Phạm Quang Duy tại Trường Đại học Bách Khoa Hà Nội tập trung vào hai mục tiêu cốt lõi: triển khai hệ thống nhận dạng tiếng Việt hoạt động hoàn toàn ngoại tuyến (offline) trên thiết bị di động và tích hợp mô hình này vào ứng dụng danh bạ thông minh. Phạm vi nghiên cứu được thực hiện trong giai đoạn 2017–2018 với sự phối hợp của Viện Nghiên cứu Quốc tế MICA và Trung tâm Không gian mạng Viettel.

Hệ thống tập trung giải quyết bài toán tài nguyên phần cứng hạn chế trên điện thoại thông minh, sự đa dạng vùng miền của giọng nói tiếng Việt và tính bất quy tắc trong thói quen lưu trữ danh bạ cá nhân. Nghiên cứu đã thành công trong việc xây dựng cơ sở dữ liệu huấn luyện quy mô khoảng 105 giờ âm thanh và tối ưu hóa mô hình nhận dạng, mang lại thời gian phản hồi dưới 500 mili-giây cùng khả năng bảo mật dữ liệu tuyệt đối trên thiết bị của người dùng.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng dựa trên nền tảng vững chắc của lý thuyết xử lý tín hiệu âm thanh và mô hình hóa xác suất thống kê. Hai mô hình nhận dạng chủ đạo được phân tích chuyên sâu gồm mô hình hỗn hợp Gauss kết hợp mô hình Markov ẩn (Gaussian Mixture Model - Hidden Markov Model, viết tắt là GMM-HMM) và mạng nơ-ron sâu (Deep Neural Network - DNN).

Về mặt lý thuyết, hệ thống nhận dạng ASR kinh điển bao gồm bốn khối chức năng chính: khối trích xuất đặc trưng âm học, mô hình âm học (Acoustic Model), mô hình ngôn ngữ (Language Model) và từ điển phát âm (Lexicon). Nghiên cứu ứng dụng bộ tham số đặc trưng tần số Mel-cepstrum (MFCC) với 39 chiều đặc trưng nhằm mô phỏng hệ thống thính giác của con người.

Bên cạnh đó, mô hình thống kê N-gram, cụ thể là 3-gram, được áp dụng để ước lượng xác suất xuất hiện của chuỗi từ vựng tiếng Việt. Do đặc thù hạn chế về dung lượng bộ nhớ và năng lượng tiêu thụ trên vi xử lý di động năm 2018, mô hình GMM-HMM được lựa chọn làm giải pháp tối ưu thay cho DNN, giúp cân bằng giữa độ chính xác nhận dạng và hiệu năng phần cứng thiết bị.

Phương pháp nghiên cứu

Phương pháp nghiên cứu kết hợp giữa nghiên cứu thực nghiệm và phát triển ứng dụng di động thực tế. Dữ liệu huấn luyện âm học được thu thập thông qua ứng dụng chuyên dụng Voicetrans được cài đặt trực tiếp trên điện thoại thông minh. Cỡ mẫu nghiên cứu bao gồm khoảng 105 giờ dữ liệu tiếng nói chuẩn, được thu âm từ 20 người nói đại diện cho ba vùng phương ngữ chính: Bắc, Trung và Nam.

Phương pháp chọn mẫu phân tầng có chủ đích được áp dụng nhằm đảm bảo sự cân bằng về giới tính, độ tuổi và âm sắc địa phương. Ngữ liệu văn bản đầu vào được chọn lọc từ hơn 10.000 câu trích xuất từ các trang báo điện tử chính thống, bao quát nhiều chủ đề đời sống và từ vựng giao tiếp thường ngày.

Về công cụ xử lý, tác giả sử dụng bộ công cụ mã nguồn mở CMU Sphinx, bao gồm SphinxTrain để huấn luyện mô hình âm học, CMUclmk để xây dựng mô hình ngôn ngữ và PocketSphinx nhằm nhúng trực tiếp bộ giải mã (decoder) vào môi trường hệ điều hành Android. Quá trình giải mã âm học sử dụng thuật toán Viterbi kết hợp với kỹ thuật thích nghi từ điển phát âm cho các trường dữ liệu danh bạ, cho phép hệ thống nhận dạng chính xác các tên riêng phức tạp trong thời gian xử lý thực tế dưới 0,5 giây.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm và kiểm thử hệ thống đã mang lại bốn kết quả nổi bật:

Thứ nhất, việc gia tăng quy mô tập dữ liệu huấn luyện từ 30 giờ lên 105 giờ đã cải thiện vượt bậc hiệu năng của mô hình âm học. Tỷ lệ lỗi từ (Word Error Rate - WER) giảm từ 16,8% ở tập 30 giờ xuống còn 8,2% khi huấn luyện đủ 105 giờ, tương đương mức cải thiện độ chính xác trên 51%.

Thứ hai, kỹ thuật thích nghi từ điển nhận dạng cho danh bạ điện thoại giúp nâng cao độ chính xác nhận dạng tên người dùng lên mức 92,5%. So với việc sử dụng từ điển ngôn ngữ tổng quát không thích nghi (đạt mức 74,2%), phương pháp tùy biến trường gọi điện đã tăng hiệu quả nhận dạng thêm 18,3%.

Thứ ba, ứng dụng danh bạ Voice Contact vận hành hoàn toàn ngoại tuyến đạt tỷ lệ ra lệnh thành công thực tế là 91,4% trong môi trường yên tĩnh và 86,7% trong môi trường có tiếng ồn nền nhẹ khoảng 45 dB.

Thứ tư, hiệu năng tiêu thụ phần cứng được tối ưu hóa xuất sắc. Ứng dụng chỉ chiếm khoảng 42 MB bộ nhớ RAM và tiêu thụ dưới 12% công suất CPU trong quá trình xử lý lệnh thoại, đảm bảo thiết bị di động không bị quá nhiệt hoặc hao pin nhanh.

Thảo luận kết quả

Nguyên nhân chính dẫn đến sự vượt trội của hệ thống là việc tích hợp cơ chế từ điển thích nghi kết hợp với trường văn bản gọi điện chuyên biệt. Thói quen lưu trữ danh bạ của người dùng Việt Nam rất đa dạng, thường bao gồm tên viết tắt, biệt danh hoặc danh xưng không chuẩn ngữ âm. Việc tách biệt trường hiển thị và trường nhận dạng ngữ âm giúp đồ thị tìm kiếm (Search Graph) của bộ giải mã PocketSphinx thu hẹp không gian trạng thái, từ đó giảm thiểu nhầm lẫn âm vị học.

Khi so sánh với các hệ thống nhận dạng đám mây trực tuyến như Google Speech API hay FPT.AI (có độ chính xác mở rộng đạt khoảng 95%), mô hình offline của luận văn chỉ thấp hơn khoảng 2,5% đến 3,5% về độ chính xác nhận diện từ vựng mở, nhưng lại vượt trội hoàn toàn về tốc độ phản hồi cục bộ và tính bảo mật thông tin cá nhân.

Các kết quả thực nghiệm có thể được tổng hợp trực quan qua biểu đồ đường biểu diễn sự sụt giảm của tỷ lệ lỗi WER tương ứng với số giờ huấn luyện (30 giờ, 60 giờ và 105 giờ), cùng bảng so sánh đa chiều giữa mô hình GMM-HMM và DNN về dung lượng RAM chiếm dụng, thời gian xử lý và tỷ lệ chính xác. Những số liệu này khẳng định tính thực tiễn cao của giải pháp kiến trúc nhúng trong giai đoạn hạ tầng mạng di động chưa phủ sóng đồng đều.

Đề xuất và khuyến nghị

Dựa trên các kết quả đạt được, luận văn đưa ra bốn nhóm giải pháp và khuyến nghị hành động cụ thể:

Thứ nhất, nâng cấp mô hình âm học bằng việc áp dụng kiến trúc mạng nơ-ron nén nhẹ. Mục tiêu là giảm tỷ lệ lỗi từ thêm 5% và tăng khả năng kháng nhiễu trong môi trường âm thanh phức tạp. Nhóm kỹ thuật xử lý tiếng nói cần thực hiện việc lượng tử hóa mô hình trong lộ trình 6 tháng.

Thứ hai, mở rộng quy mô cơ sở dữ liệu ngữ âm tiếng Việt đa vùng miền. Đội ngũ R&D cần tiến hành thu thập bổ sung từ 300 giờ âm thanh với sự tham gia của ít nhất 50 người nói từ 10 tỉnh thành thuộc các tiểu vùng phương ngữ miền Trung và Tây Nam Bộ, hoàn thành trong thời gian 9 tháng.

Thứ ba, tối ưu hóa mức độ chiếm dụng tài nguyên của ứng dụng di động Voice Contact. Đội ngũ lập trình viên ứng dụng cần tái cấu trúc mã nguồn, đặt chỉ tiêu đưa dung lượng RAM hoạt động xuống dưới 35 MB và mức tiêu thụ pin dưới 2% cho mỗi 100 lần kích hoạt lệnh thoại, thực hiện trong vòng 3 tháng.

Thứ tư, hoàn thiện chuẩn bảo mật dữ liệu cục bộ cho các ứng dụng tương tác giọng nói. Bộ phận an toàn thông tin cần ban hành quy chuẩn mã hóa dữ liệu danh bạ theo tiêu chuẩn AES-256 trên bộ nhớ thiết bị, bảo đảm 100% dữ liệu giọng nói không bị trích xuất trái phép, triển khai trong vòng 4 tháng.

Đối tượng nên tham khảo luận văn

Nội dung và kết quả của luận văn mang lại giá trị thực tiễn sâu sắc cho bốn nhóm đối tượng:

Nhóm thứ nhất là các kỹ sư phát triển AI và xử lý tiếng nói (Voice/ASR Engineers). Luận văn cung cấp toàn bộ quy trình xây dựng mô hình âm học tiếng Việt với công cụ CMU Sphinx và phương pháp tinh chỉnh bộ giải mã trên phần cứng giới hạn, giúp tiết kiệm 100% chi phí máy chủ API.

Nhóm thứ hai là các lập trình viên ứng dụng di động (Mobile Developers). Tài liệu cung cấp kiến trúc phần mềm tích hợp thư viện C/C++ vào hệ điều hành Android qua giao diện JNI, đóng vai trò hướng dẫn mẫu để xây dựng các tiện ích tương tác giọng nói ngoại tuyến như danh bạ, ghi chú hoặc điều khiển thiết bị thông minh.

Nhóm thứ ba là học viên cao học, nghiên cứu sinh ngành Khoa học Máy tính, Kỹ thuật Điều khiển và Tự động hóa. Công trình là tài liệu tham khảo chuẩn mực về phương pháp luận thu thập ngữ liệu 105 giờ, xử lý ngữ âm tiếng Việt có thanh điệu và thiết kế thử nghiệm đánh giá hệ thống nhận dạng.

Nhóm thứ tư là các doanh nghiệp viễn thông và nhà sản xuất thiết bị phần cứng thông minh. Luận văn gợi mở hướng đi phát triển các dòng sản phẩm nhúng điều khiển giọng nói độc lập với Internet, giúp giảm độ trễ xử lý khoảng 40% và nâng cao năng lực cạnh tranh cho sản phẩm nội địa.

Câu hỏi thường gặp

Tại sao tác giả lựa chọn mô hình GMM-HMM thay vì Deep Neural Network? Mô hình GMM-HMM đòi hỏi cấu hình phần cứng thấp hơn rất nhiều so với DNN, chỉ cần khoảng 42 MB RAM và dưới 12% CPU để hoạt động mượt mà trên điện thoại thông minh năm 2018. Điều này giúp hệ thống hoạt động ổn định ngoại tuyến mà không gây treo máy hay cạn kiệt pin thiết bị.

Quy mô cơ sở dữ liệu 105 giờ được thu thập và phân bổ như thế nào? Cơ sở dữ liệu được thu âm thông qua ứng dụng Voicetrans từ 20 người nói đại diện cho ba miền Bắc, Trung, Nam. Tập dữ liệu bao gồm hơn 10.000 câu văn bản trích xuất từ báo chí chính thống, giúp mô hình âm học bao phủ đầy đủ các hiện tượng ngữ âm và ngữ điệu tiếng Việt.

Làm thế nào hệ thống nhận dạng được các tên danh bạ viết tắt hoặc lưu không chuẩn? Tác giả đã bổ sung trường dữ liệu gọi điện riêng biệt trong ứng dụng Voice Contact, yêu cầu chuẩn hóa văn bản theo phát âm thực tế. Đồng thời, hệ thống sử dụng thuật toán thích nghi từ điển để tự động chuyển đổi chuỗi ký tự thành phiên âm âm vị học chính xác.

Hệ thống nhận dạng giọng nói ngoại tuyến này có gây hao pin thiết bị không? Hệ thống được tối ưu hóa để chỉ kích hoạt bộ giải mã khi người dùng mở tính năng gọi điện, tiêu thụ công suất CPU dưới 12% trong thời gian xử lý khoảng 500 mili-giây. Mức tiêu thụ năng lượng đo được chỉ chiếm chưa đến 1% tổng dung lượng pin cho một ngày sử dụng thông thường.

Độ chính xác ra lệnh gọi điện trong điều kiện thực tế đạt mức bao nhiêu? Trong điều kiện phòng yên tĩnh, tỷ lệ nhận dạng ra lệnh thành công đạt 91,4%. Khi thử nghiệm ngoài môi trường thực tế có tiếng ồn giao thông nhẹ khoảng 45 dB, hệ thống vẫn duy trì tỷ lệ nhận dạng chính xác đạt 86,7%, đáp ứng tốt nhu cầu sử dụng hàng ngày của người dùng.

Kết luận

  • Luận văn đã thiết kế và hiện thực hóa thành công hệ thống nhận dạng tiếng Việt ngoại tuyến cho ứng dụng danh bạ trên hệ điều hành Android.
  • Xây dựng bộ ngữ liệu âm học tiếng Việt hoàn chỉnh quy mô 105 giờ thu âm từ 20 người nói đa vùng miền, tạo tiền đề dữ liệu quý giá cho nghiên cứu tiếng nói.
  • Đạt độ chính xác nhận dạng lệnh gọi điện thoại lên tới 92,5% nhờ kỹ thuật thích nghi từ điển phát âm cho các trường dữ liệu danh bạ cá nhân.
  • Tối ưu hóa tài nguyên phần cứng vượt trội với mức chiếm dụng RAM chỉ khoảng 42 MB và thời gian phản hồi dưới 500 mili-giây hoàn toàn không cần Internet.
  • Đề xuất lộ trình 6 đến 12 tháng tiếp theo nhằm nâng cấp mô hình âm học sang mạng nơ-ron nén nhẹ và mở rộng quy mô ngữ liệu lên 300 giờ.

Công trình của tác giả Phạm Quang Duy là một đóng góp quan trọng cho lĩnh vực xử lý ngôn ngữ tự nhiên và tiếng nói tại Việt Nam. Các nhà phát triển, nhà nghiên cứu và doanh nghiệp công nghệ có thể khai thác phương pháp luận cùng kiến trúc giải pháp trong luận văn để ứng dụng vào các hệ thống AI nhúng trên thiết bị biên trong tương lai.