Tổng quan nghiên cứu

Thị trường công nghệ nhận dạng tiếng nói tự động toàn cầu đang ghi nhận mức tăng trưởng vượt bậc hơn 25% mỗi năm, mở ra tiềm năng ứng dụng to lớn trong điều khiển thông minh, viễn thông và y tế. Tuy nhiên, đối với tiếng Việt, việc xây dựng các hệ thống nhận dạng tiếng nói phát âm liên tục từ vựng lớn vẫn đối mặt với rào cản kỹ thuật nghiêm trọng do đặc thù ngôn ngữ có 6 thanh điệu phức tạp. Các mô hình thống kê truyền thống như mô hình Markov ẩn kết hợp mô hình hỗn hợp Gaussian hoặc mạng nơ-ron sâu lai ghép đòi hỏi phải chia tách quy trình thành ba khối độc lập gồm mô hình ngữ âm, mô hình phát âm và mô hình ngôn ngữ. Hạn chế lớn nhất của hướng tiếp cận cũ là bắt buộc phải gán nhãn thủ công từng khung tín hiệu thời gian từ 10ms đến 25ms, tiêu tốn hàng nghìn giờ lao động và gây tích lũy sai số giữa các module riêng biệt.

Nhằm giải quyết triệt để các tồn tại trên, luận văn thạc sĩ kỹ thuật viễn thông với đề tài nghiên cứu áp dụng mô hình mạng nơ-ron End-to-End cho nhận dạng tiếng nói tiếng Việt đã được thực hiện tại Trường Đại học Kỹ thuật Công nghiệp thuộc Đại học Thái Nguyên trong giai đoạn năm 2018 đến năm 2019. Mục tiêu trọng tâm của đề tài là xây dựng hệ thống nhận dạng tiếng Việt phát âm liên tục không giới hạn từ vựng dựa trên kiến trúc End-to-End kết hợp thuật toán phân loại kết nối tạm thời và mô hình ngôn ngữ n-gram. Đóng góp nổi bật của nghiên cứu là loại bỏ hoàn toàn giai đoạn gán nhãn trung gian, cắt giảm hơn 50% thời gian xử lý dữ liệu và hướng tới tối ưu hóa tỷ lệ lỗi từ tiệm cận mức dưới 10% trên các tập ngữ liệu thực tế.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được thiết lập dựa trên nền tảng lý thuyết xác suất Bayes trong nhận dạng tiếng nói thống kê, nhằm tìm kiếm chuỗi từ có xác suất hậu nghiệm lớn nhất tương ứng với chuỗi vector đặc trưng âm học đầu vào. Mô hình lý thuyết cốt lõi được áp dụng là kiến trúc mạng nơ-ron học sâu End-to-End kết hợp với hàm mục tiêu phân loại kết nối tạm thời. Kiến trúc này giải quyết bài toán ánh xạ trực tiếp từ tín hiệu âm thanh sang chuỗi ký tự mà không cần bước căn chỉnh thời gian bắt buộc, thông qua việc đưa vào nhãn khoảng trống và tính tổng xác suất trên toàn bộ các chuỗi nhãn khả dĩ.

Bên cạnh đó, nghiên cứu tích hợp lý thuyết mô hình ngôn ngữ n-gram nhằm ước lượng phân bố xác suất của chuỗi từ trong văn bản tiếng Việt. Nhằm khắc phục hiện tượng phân bố không đồng đều và xác suất bằng 0 của các cụm từ hiếm, các phương pháp làm trơn mô hình như kỹ thuật làm mịn cộng một, phương pháp truy hồi và phương pháp nội suy đã được vận dụng chặt chẽ. Hệ thống khái niệm chính trong luận văn bao gồm hệ số trích chọn đặc trưng tần số Mel, mã dự báo tuyến tính giác quan, tần số cơ bản F0 mô tả thanh điệu và tỷ lệ lỗi từ dùng làm thước đo đánh giá độ chính xác.

Phương pháp nghiên cứu

Nguồn dữ liệu thực nghiệm được thu thập từ các chương trình phát thanh chuẩn tiếng Việt với quy mô hơn 30 giờ phát âm liên tục, bao phủ tập từ vựng lớn hơn 100.000 từ và đại diện đầy đủ cho 54 âm vị ngữ âm cùng 6 thanh điệu. Tác giả sử dụng phương pháp chọn mẫu phân tầng có chủ đích, bảo đảm sự cân bằng về giới tính người nói, tốc độ phát âm tự nhiên và tính đa dạng của các ngữ cảnh ngữ âm.

Phương pháp xử lý tín hiệu thực hiện phân khung cửa sổ Hamming kích thước 25ms với độ dịch 10ms, trích xuất 39 chiều đặc trưng âm học kết hợp với việc tính toán tần số cơ bản F0 nhằm bảo toàn thông tin thanh điệu ở các vùng âm hữu thanh. Lý do lựa chọn phương pháp phân tích mạng nơ-ron sâu kết hợp hàm mục tiêu phân loại kết nối tạm thời thay cho mô hình Markov ẩn truyền thống là vì kiến trúc này cho phép tối ưu hóa trực tiếp hàm mất mát toàn cục từ đầu vào âm thanh đến đầu ra văn bản, loại bỏ các giả định độc lập nghiêm ngặt và hạn chế sự phụ thuộc vào chất lượng gán nhãn ban đầu. Toàn bộ quá trình huấn luyện và kiểm thử mô hình được triển khai đồng bộ trên hệ thống tính toán GPU hiệu năng cao trong giai đoạn từ cuối năm 2018 đến giữa năm 2019.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Thứ nhất, việc áp dụng mô hình End-to-End kết hợp hàm mục tiêu phân loại kết nối tạm thời đã chứng minh khả năng đào tạo trực tiếp trên tập dữ liệu chỉ bao gồm tệp âm thanh và văn bản phiên âm tương ứng, giúp giảm hơn 50% thời gian và chi phí tiền xử lý gán nhãn so với các hệ thống Markov ẩn truyền thống.

Thứ hai, việc tích hợp bổ sung mô hình ngôn ngữ n-gram vào bộ giải mã tìm kiếm theo chùm giúp cải thiện vượt bậc chất lượng nhận dạng, làm giảm tỷ lệ lỗi từ từ 15% đến 20% so với trường hợp giải mã chỉ dựa thuần túy trên đầu ra của mạng nơ-ron.

Thứ ba, việc bổ sung thông tin thanh điệu thông qua vector đặc trưng tần số cơ bản F0 kết hợp bộ âm vị gắn nhãn 6 thanh điệu tiếng Việt giúp giảm tỷ lệ nhận dạng nhầm thanh điệu từ mức 18% xuống dưới 8%, qua đó nâng cao độ chính xác nhận dạng toàn diện thêm khoảng 2.0% đến 3.5% tuyệt đối.

Thứ tư, khi so sánh đối đầu với các hệ thống mạng nơ-ron sâu truyền thống có độ chính xác nhận dạng đạt 86.06% trên tập ngữ liệu thử nghiệm, mô hình End-to-End đạt hiệu năng tiệm cận với khoảng cách sai số tỷ lệ lỗi từ chỉ chênh lệch từ 1.5% đến 2.0%, đồng thời vượt trội về tốc độ giải mã thực thi.

Thảo luận kết quả

Nguyên nhân chính dẫn đến sự cải thiện hiệu năng là do kiến trúc học sâu End-to-End có khả năng nắm bắt các mối tương quan ngữ cảnh dài trong chuỗi tín hiệu tiếng nói liên tục, tự động học các đặc trưng âm học phức tạp mà không bị gò bó bởi các giả định trạng thái cục bộ. Đối với tiếng Việt, thanh điệu chỉ tồn tại ở các vùng âm hữu thanh và bị gián đoạn ở các phụ âm vô thanh. Việc mạng nơ-ron tự động học cách phân bổ trọng số qua các lớp ẩn đã bù đắp hiệu quả hiện tượng đứt gãy tín hiệu này.

Kết quả nghiên cứu hoàn toàn tương đồng với các công bố quốc tế tiêu biểu như mô hình Deep Speech của Baidu đạt tỷ lệ lỗi từ 5% trên tiếng Quan thoại và mô hình Listen-Attend-Spell của Google đạt mức lỗi 5.6% trên 12.500 giờ tiếng Anh. Trong các báo cáo thực nghiệm, sự phân bổ hiệu năng nhận dạng giữa các cấu hình mạng và ma trận nhầm lẫn của 6 thanh điệu có thể được trực quan hóa thông qua biểu đồ cột so sánh sai số tỷ lệ lỗi từ và bảng số liệu phân tích độ chính xác theo từng loại âm vị. Các dữ liệu này khẳng định tính khả thi và tiềm năng to lớn của mô hình End-to-End trong việc thay thế hoàn toàn các kiến trúc nhận dạng cổ điển.

Đề xuất và khuyến nghị

Thứ nhất, mở rộng quy mô bộ ngữ liệu huấn luyện tiếng Việt chuẩn hóa từ quy mô 30 giờ hiện tại lên hơn 1.000 giờ thu âm đa dạng vùng miền Bắc, Trung, Nam. Mục tiêu là kéo giảm tỷ lệ lỗi từ xuống dưới mức 6.5% trong môi trường nhiều tạp âm. Thời gian thực hiện dự kiến trong vòng 12 tháng tới do các viện nghiên cứu công nghệ thông tin và phòng thí nghiệm viễn thông trọng điểm chủ trì.

Thứ hai, nâng cấp kiến trúc mạng nơ-ron học sâu sang các mô hình hiện đại tích hợp cơ chế tự chú ý đa đầu như Transformer hoặc Conformer. Mục tiêu là nâng cao độ chính xác nhận dạng thêm 2.5% tuyệt đối và tăng tốc độ hội tụ của mô hình trong quá trình huấn luyện. Thời gian thực hiện từ 6 đến 9 tháng bởi các kỹ sư phát triển thuật toán trí tuệ nhân tạo.

Thứ ba, áp dụng các kỹ thuật tăng cường dữ liệu âm thanh tiên tiến như biến đổi tốc độ phát âm từ 0.9 đến 1.1 lần, chèn tạp âm nền môi trường thực tế và cắt tỉa phổ tần số ngẫu nhiên. Mục tiêu nhằm nâng cao tính bền vững của mô hình với tỷ lệ cải thiện độ chính xác 15% trong điều kiện tỷ số tín hiệu trên nhiễu dưới 15dB. Thời gian triển khai định kỳ hàng quý do nhóm xử lý tín hiệu thực hiện.

Thứ tư, triển khai kỹ thuật lượng tử hóa trọng số mô hình xuống định dạng 8-bit và chưng cất tri thức nhằm tối ưu hóa bộ nhớ suy luận cho các thiết bị di động và phần cứng nhúng. Mục tiêu là giảm dung lượng lưu trữ trên 60% và duy trì độ trễ phản hồi dưới 150ms. Lộ trình thực hiện trong 18 tháng bởi các doanh nghiệp phát triển giải trí, viễn thông và thiết bị thông minh.

Đối tượng nên tham khảo luận văn

Nhóm giảng viên, nghiên cứu sinh và học viên cao học chuyên ngành Kỹ thuật Viễn thông, Công nghệ Thông tin và Trí tuệ Nhân tạo. Luận văn cung cấp hệ thống cơ sở toán học vững chắc, quy trình tính toán đặc trưng âm học và các thuật toán học sâu hiện đại, đóng vai trò là tài liệu tham khảo chất lượng cao cho các nghiên cứu chuyên sâu về xử lý tiếng nói tiếng Việt.

Nhóm kỹ sư phát triển phần mềm và chuyên gia trí tuệ nhân tạo trong lĩnh vực nhận dạng giọng nói. Luận văn cung cấp chi tiết kỹ thuật về đường ống xây dựng mô hình End-to-End kết hợp bộ giải mã n-gram, hỗ trợ trực tiếp cho việc thiết kế các hệ thống trợ lý ảo, tổng đài tự động và phần mềm chuyển đổi giọng nói thành văn bản cho doanh nghiệp.

Nhóm kỹ sư phát triển ứng dụng di động và thiết bị nhúng Internet vạn vật. Luận văn mang lại các giải pháp thiết thực về nhận dạng tiếng nói liên tục từ vựng lớn, tạo tiền đề để tích hợp module điều khiển bằng giọng nói tiếng Việt cho nhà thông minh, hệ thống tương tác trên ô tô và các thiết bị điện tử gia dụng.

Nhóm các tổ chức y tế, giáo dục và hỗ trợ xã hội cho người khuyết tật. Công trình mở ra hướng ứng dụng cụ thể trong việc xây dựng hệ thống tự động điền hồ sơ bệnh án bằng giọng nói tại bệnh viện, ứng dụng luyện phát âm chuẩn cho học viên ngôn ngữ và phát triển xe lăn điện thông minh điều khiển bằng khẩu lệnh cho người khuyết tật vận động.

Câu hỏi thường gặp

Mô hình End-to-End có điểm gì vượt trội hơn so với mô hình nhận dạng truyền thống HMM-GMM? Mô hình End-to-End tích hợp toàn bộ ba thành phần gồm mô hình phát âm, mô hình ngữ âm và mô hình ngôn ngữ vào một kiến trúc mạng nơ-ron duy nhất. Nhờ vậy, hệ thống có thể huấn luyện trực tiếp từ tệp âm thanh và văn bản phiên âm mà không cần gán nhãn thủ công từng khung 10ms đến 25ms, giúp tiết kiệm hơn 50% thời gian xử lý và giảm thiểu sai số liên kết.

Tại sao bài toán nhận dạng tiếng Việt lại có độ phức tạp cao hơn các ngôn ngữ không dấu? Tiếng Việt là ngôn ngữ có 6 thanh điệu đặc trưng, mỗi âm tiết khi ghép với thanh điệu khác nhau sẽ tạo ra ý nghĩa hoàn toàn khác biệt. Do thanh điệu chỉ tồn tại ở vùng âm hữu thanh và bị đứt gãy ở vùng vô thanh nên các đặc trưng truyền thống như MFCC không mô tả hết được, bắt buộc phải trích xuất thêm tần số cơ bản F0 để tăng độ chính xác thêm khoảng 2%.

Hàm mục tiêu phân loại kết nối tạm thời đóng vai trò gì trong hệ thống nhận dạng? Hàm mục tiêu phân loại kết nối tạm thời cho phép mạng nơ-ron sâu tự động căn chỉnh chuỗi đặc trưng âm học đầu vào với chuỗi ký tự đầu ra mà không cần dữ liệu gán nhãn thời gian từ trước. Bằng cách chèn thêm các nhãn khoảng trống và tính tổng xác suất trên mọi cấu hình sắp xếp hợp lệ, thuật toán giúp mô hình dự đoán chính xác chuỗi từ ngữ tương ứng.

Mô hình ngôn ngữ n-gram hỗ trợ cải thiện độ chính xác của hệ thống nhận dạng như thế nào? Mô hình ngôn ngữ n-gram, đặc biệt là dạng 4-gram và 5-gram kết hợp kỹ thuật làm trơn, cung cấp xác suất ngữ pháp của các chuỗi từ trong câu. Khi kết hợp với bộ giải mã tìm kiếm theo chùm, mô hình ngôn ngữ giúp định hướng lựa chọn từ ngữ chính xác theo ngữ cảnh, giúp giảm tỷ lệ lỗi từ từ 15% đến 20% so với khi chỉ dùng mạng nơ-ron âm học.

Hệ thống nhận dạng trong nghiên cứu có bị giới hạn về kích thước bộ từ điển hay không? Hệ thống được thiết kế hướng tới tập từ vựng lớn không giới hạn cho tiếng nói phát âm liên tục. Bằng cách phân tách từ vựng thành tập hợp 54 âm vị ngữ âm kết hợp 6 thanh điệu, mô hình có khả năng nhận dạng và tổng hợp mọi từ ngữ mới phát sinh trong tiếng Việt dựa trên tập âm vị nền tảng mà không cần phải huấn luyện lại cấu trúc mạng.

Kết luận

  • Luận văn đã hệ thống hóa toàn diện cơ sở lý thuyết và các thách thức đặc thù trong bài toán nhận dạng tiếng nói tiếng Việt phát âm liên tục từ vựng lớn có 6 thanh điệu.
  • Nghiên cứu đã triển khai thành công mô hình mạng nơ-ron học sâu End-to-End kết hợp hàm mục tiêu phân loại kết nối tạm thời, loại bỏ hoàn toàn giai đoạn gán nhãn dữ liệu trung gian.
  • Đề tài đã khẳng định vai trò then chốt của việc tích hợp đặc trưng thanh điệu F0 và mô hình ngôn ngữ n-gram, giúp tăng độ chính xác nhận dạng thêm 2.0% đến 3.5% tuyệt đối.
  • Kết quả thực nghiệm chứng minh mô hình End-to-End đạt hiệu năng tiệm cận các mô hình học sâu truyền thống nhưng giúp cắt giảm hơn 50% chi phí chuẩn bị ngữ liệu huấn luyện.
  • Định hướng phát triển tiếp theo trong 12 đến 24 tháng tới là mở rộng tập dữ liệu lên hơn 1.000 giờ và ứng dụng các kiến trúc tự chú ý tối tân phục vụ triển khai thực tế.

Hãy tham khảo toàn văn công trình nghiên cứu thạc sĩ để tiếp cận trọn vẹn giải pháp nhận dạng giọng nói tiếng Việt tiên tiến và ứng dụng hiệu quả vào các dự án công nghệ của bạn ngay hôm nay!