Nghiên cứu phương pháp xây dựng cơ sở dữ liệu phục vụ nhận dạng tiếng nói tiếng Việt

Luận văn phương pháp xây dựng cơ sở dữ liệu nhận dạng tiếng nói tiếng Việt - ĐH CNTT&TT Thái Nguyên

• Tác giả: Phạm Trung Kiên
• Người hướng dẫn: PGS. Phùng Trung Nghĩa
• Trường học: Trường Đại học Công nghệ Thông tin và Truyền thông - Đại học Thái Nguyên
• Chuyên ngành: Khoa học máy tính
• Đề tài: Nghiên cứu phương pháp xây dựng cơ sở dữ liệu phục vụ nhận dạng tiếng nói tiếng Việt
• Loại tài liệu: Luận văn thạc sĩ
• Năm xuất bản: 2023
• Địa điểm: Thái Nguyên

Tóm tắt

I. Tổng quan cơ sở dữ liệu phục vụ nhận dạng tiếng nói tiếng Việt

Nhận dạng tiếng nói tự động đóng vai trò nòng cốt trong tương tác người máy hiện đại. Công nghệ này chuyển đổi tín hiệu âm thanh thành văn bản tương ứng. Mô hình nhận dạng cần lượng dữ liệu âm thanh lớn và đa dạng. Quá trình xây dựng cơ sở dữ liệu phục vụ nhận dạng tiếng nói tiếng Việt đòi hỏi sự đầu tư chuyên sâu. Tiếng Việt thuộc nhóm ngôn ngữ có nguồn tài nguyên số còn hạn chế. Nguồn dữ liệu mở đạt chuẩn ngữ âm vẫn chưa phong phú. Việc thiếu hụt kho ngữ liệu quy chuẩn gây nhiều trở ngại cho các nhà nghiên cứu. Cơ sở dữ liệu âm thanh chất lượng cao là nền tảng quyết định độ chính xác của mọi thuật toán nhận dạng. Hệ thống dữ liệu phải phản ánh đầy đủ đặc trưng thanh điệu, phương ngữ và môi trường ghi âm thực tế. Việc xây dựng kho ngữ liệu chuẩn hóa giúp thúc đẩy ứng dụng công nghệ giọng nói trong đời sống, y tế và hành chính công.

1.1. Tầm quan trọng của dữ liệu âm thanh đối với mô hình nhận dạng

Mô hình học sâu phụ thuộc trực tiếp vào khối lượng và chất lượng dữ liệu đầu vào. Bộ dữ liệu âm thanh chuẩn xác giúp thuật toán trích xuất các đặc trưng âm học rõ nét. Dữ liệu chuẩn hóa làm giảm tỷ lệ nhận dạng sai từ ngữ. Việc thiếu dữ liệu khiến mô hình học máy dễ rơi vào tình trạng quá khớp. Điều này làm giảm khả năng nhận diện trong môi trường thực tế nhiều tạp âm. Ngoài ra, tập dữ liệu đầy đủ giúp mô hình thích ứng tốt với tốc độ nói đa dạng của người dùng. Sự đa dạng về lứa tuổi và giới tính của người nói cũng gia tăng tính bền vững cho hệ thống nhận dạng âm thanh.

1.2. Hiện trạng phát triển nguồn cơ sở dữ liệu tiếng nói tiếng Việt

Nghiên cứu xử lý tiếng nói tại Việt Nam đã có nhiều bước tiến lớn. Các viện nghiên cứu và doanh nghiệp công nghệ từng bước xây dựng các tập dữ liệu chuyên ngành. Tuy nhiên, quy mô các bộ dữ liệu công khai vẫn còn hạn chế so với tiếng Anh hay tiếng Trung. Phần lớn dữ liệu chất lượng cao phục vụ nghiên cứu nội bộ của doanh nghiệp. Nguồn dữ liệu mở hiện tại thường thiếu sự đồng nhất về định dạng âm thanh. Công tác gán nhãn ngữ âm chưa tuân thủ đầy đủ các chuẩn mực quốc tế. Do đó, việc xây dựng cơ sở dữ liệu tiếng nói tiếng Việt quy mô lớn và mở rộng là nhiệm vụ cấp thiết cho cộng đồng khoa học.

II. Khó khăn khi xây dựng cơ sở dữ liệu nhận dạng tiếng nói tiếng Việt

Xây dựng cơ sở dữ liệu tiếng nói tiếng Việt đối mặt với nhiều rào cản đặc thù về ngôn ngữ. Tiếng Việt là ngôn ngữ đơn lập và có hệ thống thanh điệu phức tạp gồm sáu thanh điệu. Sự thay đổi cao độ trong từng âm tiết làm thay đổi hoàn toàn ngữ nghĩa của từ. Hiện tượng biến âm và đồng âm xuất hiện dày đặc trong giao tiếp thường ngày. Bên cạnh đó, sự khác biệt ngữ âm giữa ba miền Bắc, Trung, Nam tạo nên sự phân hóa phương ngữ sâu sắc. Cùng một văn bản nhưng cách phát âm tại các vùng miền có độ lệch âm vị rất lớn. Ngoài ra, việc thu thập dữ liệu trong điều kiện môi trường tự nhiên gặp nhiều nhiễu sóng và tiếng ồn nền. Chất lượng thiết bị thu âm không đồng đều gây biến dạng tín hiệu quang phổ âm thanh. Công tác chuẩn hóa văn bản gán nhãn đòi hỏi chuyên môn ngôn ngữ học sâu sắc để loại bỏ sai lệch ngữ nghĩa.

2.1. Đặc thù phức tạp của hệ thống thanh điệu và phương ngữ tiếng Việt

Thanh điệu tiếng Việt gồm thanh ngang, huyền, sắc, hỏi, ngã và nặng. Mỗi thanh điệu mang đường nét cao độ và trường độ riêng biệt. Khi kết hợp với các nguyên âm, âm vị thanh điệu tạo nên phổ tần số phức tạp. Thêm vào đó, phương ngữ ba miền tạo nên sự biến thiên âm học rất lớn. Người miền Bắc phát âm chuẩn thanh điệu nhưng hay nhầm lẫn phụ âm đầu. Người miền Trung và miền Nam thường biến đổi thanh hỏi ngã hoặc lược bớt âm cuối. Các biến thể này khiến mô hình nhận dạng dễ nhầm từ nếu kho dữ liệu thiếu tính đại diện vùng miền.

2.2. Vấn đề chi phí và kiểm soát chất lượng gán nhãn dữ liệu

Gán nhãn dữ liệu âm thanh đòi hỏi nhiều nhân lực và thời gian. Quy trình phiên âm thủ công dễ phát sinh lỗi chủ quan từ người nghe. Người gán nhãn thiếu kinh nghiệm thường ghi sai các từ đồng âm hoặc bỏ sót âm lướt. Chi phí xây dựng phòng thu đạt chuẩn cách âm chuyên nghiệp rất tốn kém. Trong khi đó, việc thu thập dữ liệu thực địa lại chứa nhiều tạp âm đường phố và tiếng vọng. Việc thiếu quy trình kiểm tra chéo khiến nhiều tệp âm thanh bị gắn nhãn sai lệch. Dữ liệu gán nhãn kém chất lượng làm suy giảm trực tiếp hiệu năng huấn luyện của mô hình trí tuệ nhân tạo.

III. Phương pháp xây dựng cơ sở dữ liệu nhận dạng tiếng nói tiếng Việt

Quy trình xây dựng cơ sở dữ liệu nhận dạng tiếng nói tiếng Việt chuẩn hóa gồm nhiều giai đoạn chặt chẽ. Bước đầu tiên tập trung thu thập dữ liệu âm thanh từ nhiều nguồn phát thanh, hội thoại và đọc văn bản. Tập mẫu thu thập phải cân bằng về độ tuổi, giới tính và vùng miền địa lý. Tiếp theo là giai đoạn tiền xử lý tín hiệu nhằm lọc bỏ tạp âm, cắt đoạn âm thanh và chuẩn hóa mức âm lượng. Toàn bộ kho dữ liệu được phân chia theo tỷ lệ khoa học gồm 80% tập huấn luyện, 10% tập phát triển và 10% tập kiểm tra độc lập. Người nói trong tập kiểm tra hoàn toàn tách biệt với tập huấn luyện để đảm bảo tính khách quan. Sau đó, quy trình gán nhãn văn bản và phiên âm ngữ âm được tiến hành cẩn thận. Việc kiểm tra chéo độc lập giúp loại bỏ sai số và kiểm soát chất lượng từng đoạn thu âm.

3.1. Cấu trúc phân chia tập dữ liệu huấn luyện và đánh giá

Cấu trúc cơ sở dữ liệu nhận dạng tiếng nói chuẩn luôn được phân định thành ba tập độc lập. Tập huấn luyện chiếm 80% tổng dung lượng dữ liệu, phục vụ việc tối ưu hóa trọng số mô hình. Tập phát triển chiếm 10% dữ liệu, có vai trò tinh chỉnh các siêu tham số trong quá trình xây dựng giải thuật. Tập kiểm tra chiếm tối thiểu 10% còn lại, dùng để đánh giá độ chính xác thực tế của hệ thống nhận dạng. Để duy trì tính khách quan khoa học, người nói trong tập kiểm tra tuyệt đối không xuất hiện trong tập huấn luyện. Sự phân bổ này ngăn chặn hiện tượng quá khớp và bảo đảm tính khái quát hóa cho mô hình.

3.2. Quy trình gán nhãn và kiểm tra chéo dữ liệu ngữ âm

Quy trình gán nhãn đóng vai trò then chốt trong việc tạo lập cơ sở dữ liệu tiếng nói chuẩn. Người gán nhãn tiến hành bóc tách và khớp nối văn bản với từng đoạn tín hiệu âm thanh tương ứng. Nội dung gán nhãn bao gồm chính tả, phương ngữ, giới tính và độ tuổi của người nói. Sau bước gán nhãn ban đầu, hệ thống kích hoạt cơ chế kiểm tra chéo khép kín. Người kiểm tra chéo phải đạt tiêu chuẩn chuyên môn với hơn 10 giờ kinh nghiệm và độ chính xác trên 90%. Các đoạn âm thanh lỗi hoặc không rõ tiếng bị loại bỏ hoặc yêu cầu gán nhãn lại. Cơ chế này đảm bảo dữ liệu đạt độ tin cậy tuyệt đối trước khi đưa vào mô hình học máy.

IV. Ứng dụng thực tiễn của cơ sở dữ liệu nhận dạng tiếng nói tiếng Việt

Cơ sở dữ liệu âm thanh chuẩn hóa mở ra nhiều ứng dụng thiết thực trong đời sống và quản trị số. Các hệ thống gỡ băng tự động giúp chuyển đổi biên bản cuộc họp thành văn bản nhanh chóng. Phần mềm nhận dạng giọng nói hỗ trợ đắc lực cho các cơ quan hành chính và cơ quan tư pháp. Công nghệ này giúp tiết kiệm thời gian ghi chép và nâng cao hiệu suất làm việc của cán bộ văn phòng. Trong lĩnh vực thương mại điện tử và dịch vụ khách hàng, tổng đài tự động ứng dụng giọng nói để phản hồi tức thì các yêu cầu của người tiêu dùng. Ngoài ra, trợ lý ảo tiếng Việt trên điện thoại di động và thiết bị nhà thông minh ngày càng hoàn thiện nhờ dữ liệu đào tạo phong phú. Để tối ưu hóa giá trị thực tiễn, các giải pháp nhận dạng tiếng nói cần tiếp tục mở rộng trên các thiết bị nhúng và nền tảng di động. Việc hoàn thiện hệ thống dữ liệu góp phần nâng cao tính chính xác và thúc đẩy chuyển đổi số toàn diện.

4.1. Ứng dụng giải pháp gỡ băng tự động trong cơ quan hành chính

Sản phẩm gỡ băng tự động đem lại giải pháp chuyển đổi giọng nói thành văn bản hiệu quả cho các cơ quan và doanh nghiệp. Hệ thống tiếp nhận luồng âm thanh trực tiếp từ cuộc họp và tạo biên bản tự động. Tính năng này giảm thiểu áp lực ghi chép thủ công và giảm sai sót dữ liệu. Các công cụ gỡ băng hiện đại tích hợp khả năng nhận diện nhiều giọng nói cùng lúc. Đồng thời, hệ thống cung cấp các chức năng hỗ trợ nghe lại, chỉnh sửa văn bản và tìm kiếm dữ liệu lưu trữ. Ứng dụng gỡ băng góp phần hiện đại hóa quy trình tác nghiệp và thúc đẩy quản trị số.

4.2. Hướng phát triển tích hợp đa nền tảng và thiết bị nhúng

Công nghệ nhận dạng tiếng nói đang dịch chuyển mạnh mẽ sang các nền tảng di động và hệ thống nhúng. Xu hướng này đòi hỏi mô hình nhận dạng phải tối ưu kích thước và giảm độ trễ xử lý. Các thiết bị thông minh như loa điều khiển hay màn hình tương tác cần hoạt động ổn định trong điều kiện ngoại tuyến. Việc mở rộng cơ sở dữ liệu huấn luyện giúp cải thiện độ chính xác trên nhiều cấu hình phần cứng khác nhau. Đồng thời, việc tích hợp sâu vào quy trình tác nghiệp của cơ quan, doanh nghiệp sẽ mở rộng phạm vi ứng dụng của trí tuệ nhân tạo giọng nói trong tương lai.

Nội dung chính

Tổng quan nghiên cứu

Xử lý tiếng nói và nhận dạng tiếng nói tự động đóng vai trò hạt nhân trong kỷ nguyên tương tác người - máy hiện đại. Trên bình diện quốc tế, trong tổng số hơn 6.000 ngôn ngữ đang hiện diện, chỉ có khoảng 5% ngôn ngữ được xếp vào nhóm giàu tài nguyên ngôn ngữ số, tiêu biểu như tiếng Anh với kho dữ liệu chuẩn mực TIMIT quy tụ 630 người nói cùng hơn 1,5 TB dữ liệu âm thanh gán nhãn chi tiết. Ngược lại, tiếng Việt dù sở hữu cộng đồng gần 100 triệu người sử dụng trên toàn cầu nhưng vẫn nằm trong nhóm ngôn ngữ nghèo tài nguyên dữ liệu huấn luyện chất lượng cao. Các giải pháp thương mại quy mô lớn hiện nay ghi nhận độ chính xác trung bình từ 80% đến 90%, song vẫn bộc lộ khiếm khuyết lớn về khả năng nhận diện các phương ngữ địa phương và tiềm ẩn rủi ro an toàn thông tin khi phụ thuộc vào máy chủ nước ngoài.

Luận văn thạc sĩ khoa học máy tính của tác giả Phạm Trung Kiên, dưới sự hướng dẫn của Phó Giáo sư, Tiến sĩ Phùng Trung Nghĩa tại Trường Đại học Công nghệ thông tin và Truyền thông thuộc Đại học Thái Nguyên, tập trung giải quyết bài toán cốt lõi: nghiên cứu phương pháp xây dựng cơ sở dữ liệu tiếng nói tiếng Việt bảo đảm tính đa dạng, độ lớn và sự cân bằng âm vị học. Nghiên cứu được triển khai xuyên suốt giai đoạn 2022 - 2023, khảo sát ngữ âm trên phạm vi ba miền Bắc, Trung, Nam. Ý nghĩa học thuật và thực tiễn của công trình thể hiện ở việc thiết lập một quy trình chuẩn hóa toàn diện từ thu thập, lọc ngữ liệu, gán nhãn đến kiểm tra chéo, tạo tiền đề nâng cao chất lượng nhận dạng giọng nói, hướng đến việc thu hẹp khoảng cách công nghệ với các ngôn ngữ phát triển.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu vận dụng nền tảng ngữ âm học thực nghiệm kết hợp với các mô hình học máy thống kê và học sâu hiện đại. Về mặt âm học, tiếng Việt là ngôn ngữ đơn âm tiết mang tính độc lập cao, cấu trúc một âm tiết bao gồm 5 thành phần chặt chẽ: âm đầu, âm đệm, âm chính, âm cuối và thanh điệu. Hệ thống âm vị tiếng Việt quy chuẩn bao hàm 21 phụ âm đầu, 1 âm đệm, 16 âm chính, 8 âm cuối cùng 6 thanh điệu đặc trưng: ngang, huyền, ngã, hỏi, sắc, nặng. Việc phân loại chính xác thanh điệu dựa trên tần số cơ bản F0 đóng vai trò quyết định, bởi tần số giọng nói con người dao động phổ biến từ 50 Hz đến 500 Hz, trong đó nam giới có chiều dài dây thanh âm khoảng 20 mm tương ứng dải tần 50 - 300 Hz, còn nữ giới có dây thanh âm khoảng 15 mm tương ứng dải tần 100 - 500 Hz.

Bên cạnh đó, luận văn khai thác lý thuyết nhận dạng tiếng nói dựa trên các mô hình ngữ âm tiên tiến như mô hình lai giữa mạng nơ-ron sâu và mô hình Markov ẩn cùng kiến trúc mô hình học sâu toàn diện. Kỹ thuật trích chọn đặc trưng sử dụng hệ số tần số Mel kết hợp phân tích phân biệt tuyến tính và chuyển đổi tuyến tính khả năng tối đa. Các mô hình ngôn ngữ dựa trên n-gram làm trơn kết hợp mạng nơ-ron học sâu giúp tối ưu hóa không gian tìm kiếm, trong đó việc tích hợp đặc trưng thanh điệu đã chứng minh khả năng gia tăng độ chính xác của hệ thống nhận dạng thêm khoảng 2%.

Phương pháp nghiên cứu

Nghiên cứu thiết kế phương pháp xây dựng dữ liệu lai kết hợp tối ưu giữa nguồn âm thanh thực tế sẵn có trên không gian mạng và nguồn âm thanh tự thu âm có kiểm soát trong phòng thu. Nhằm bảo đảm tính cân bằng âm vị, nghiên cứu áp dụng thuật toán tham lam chọn lọc tập câu văn bản từ nguồn báo chí điện tử chính thống. Cỡ mẫu văn bản được giới hạn ở các câu có độ dài từ 40 đến 90 âm tiết, bảo đảm phủ trên 90% các âm tiết tiếng Việt và mỗi âm vị xuất hiện tối thiểu 5 lần, vượt trội hoàn toàn so với mức 72% của phương pháp chọn ngẫu nhiên.

Quá trình thu âm huy động nhân sự từ Trường Đại học Công nghệ thông tin và Truyền thông cùng Trường Đại học Khoa học và Công nghệ Hà Nội, bảo đảm 70% mẫu giọng đọc nội bộ và 30% mẫu giọng đọc tuyển chọn bên ngoài, phân bổ đồng đều độ tuổi từ 18 đến 50 với tỷ lệ nam nữ cân bằng 50:50. Toàn bộ cơ sở dữ liệu được phân chia theo tiêu chuẩn quốc tế: 80% cho tập huấn luyện, 10% cho tập phát triển và 10% cho tập kiểm thử độc lập người nói. Quy trình gán nhãn và kiểm tra chéo hai lớp được số hóa thông qua nền tảng web, với tiêu chí nghiêm ngặt: kiểm tra viên chéo phải có tối thiểu 10 giờ kinh nghiệm gán nhãn và đạt tỷ lệ chính xác từ 90% trở lên.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm đã tạo dựng thành công cơ sở dữ liệu tiếng nói tiếng Việt cân bằng âm vị học với nhiều phát hiện then chốt. Thứ nhất, phương pháp kết hợp giữa nguồn âm có sẵn và dữ liệu thu âm chủ động giúp tối ưu hóa thời gian xây dựng kho ngữ liệu, giảm hơn 40% chi phí vận hành so với phương pháp thu âm thủ công truyền thống nhưng vẫn bảo đảm 100% các đơn vị âm vị cơ bản xuất hiện đầy đủ trong tập dữ liệu.

Thứ hai, việc áp dụng thuật toán tham lam có trọng số nghịch đảo tần suất giúp tối ưu hóa dung lượng văn bản cần đọc mà vẫn đạt tỷ lệ bao phủ 94% các bộ ba ngữ âm hiếm gặp. Thứ ba, kết quả đánh giá thực nghiệm cho thấy hệ thống kiểm định chéo hai lớp đã giảm thiểu tỷ lệ lỗi chính tả và sai nhãn ngữ cảnh xuống dưới 1,5%, tạo lập tập dữ liệu sạch cho các mô hình học máy. Thứ tư, sự phân hóa phương ngữ ảnh hưởng rõ rệt đến tỷ lệ lỗi từ của hệ thống nhận dạng: dữ liệu giọng miền Bắc với 20 phụ âm đầu và 6 thanh điệu đạt độ ổn định cao hơn, trong khi giọng miền Trung và miền Nam với 23 phụ âm đầu và 5 thanh điệu ghi nhận sự biến động lớn do hiện tượng đồng nhất các cặp vần và lẫn lộn thanh hỏi ngã.

Thảo luận kết quả

Hiệu quả vượt trội của thuật toán tham lam xuất phát từ cơ chế đánh giá hàm trọng số tối ưu hóa cục bộ, giúp lựa chọn các câu chứa số lượng âm tiết chưa xuất hiện nhiều nhất trước khi bổ sung vào tập dữ liệu cuối cùng. Khi so sánh với các nghiên cứu trước đây tại Việt Nam, kết quả này khắc phục được nhược điểm thiếu hụt phương ngữ của các mô hình thương mại vốn chỉ đạt độ chính xác từ 80% đến 90%. Đồng thời, chất lượng nhãn dữ liệu tiệm cận với tiêu chuẩn của các phòng thí nghiệm hàng đầu như AILab với tỷ lệ lỗi âm tiết 9,54%, và giải quyết tốt độ suy giảm chất lượng âm thanh khi so sánh với mô hình của Viện Nghiên cứu Công nghệ FPT vốn có tỷ lệ lỗi tăng thêm 3,4% trong môi trường sạch và 7,6% trong môi trường nhiễu.

Về phương diện trực quan hóa, kết quả nghiên cứu có thể được biểu diễn trực tiếp thông qua hai dạng đồ thị tiêu biểu: biểu đồ cột so sánh tỷ lệ lỗi từ giữa hai tập dữ liệu miền Bắc và miền Nam minh chứng cho tác động của phương ngữ đến hiệu năng giải mã, và biểu đồ tròn phân bố nhân khẩu học biểu thị tỷ lệ cân bằng 50% nam - 50% nữ cùng tỷ trọng 70% người nói thuộc khối đại học và 30% đối tượng cộng đồng, bảo đảm tính phổ quát cho tập dữ liệu huấn luyện.

Đề xuất và khuyến nghị

Nhằm hoàn thiện và nhân rộng mô hình xây dựng cơ sở dữ liệu tiếng nói tiếng Việt, luận văn đưa ra bốn nhóm giải pháp hành động chiến lược:

• Chuẩn hóa quy trình thu thập và tiền xử lý ngữ liệu tự động hóa: Triển khai ứng dụng các bộ lọc xử lý ngôn ngữ tự nhiên để loại bỏ dữ liệu rác, chuẩn hóa từ mượn tiếng nước ngoài sang dạng phiên âm thuần Việt, hướng tới mục tiêu giảm 35% thời gian xử lý tiền kỳ văn bản trong vòng 6 tháng tới, do các nhóm nghiên cứu công nghệ giọng nói tại các viện, trường đại học chủ trì thực hiện.
• Mở rộng quy mô thu thập phương ngữ địa phương đặc thù: Huy động các nguồn lực công nghệ để thu thập bổ sung tối thiểu 500 giờ âm thanh chuẩn cho các phương ngữ miền Trung và Nam Bộ trong lộ trình 12 tháng, nhằm hạ tỷ lệ lỗi từ trung bình của toàn hệ thống nhận diện đa vùng miền xuống dưới 8%, do các phòng thí nghiệm trí tuệ nhân tạo phối hợp với các đài phát thanh địa phương triển khai.
• Nâng cấp nền tảng gán nhãn và kiểm tra chéo dựa trên trí tuệ nhân tạo: Tích hợp công cụ hỗ trợ nhận dạng sơ bộ có khả năng tự động đối chiếu âm thanh và văn bản, nâng tỷ lệ tin cậy của nhãn gán lên 99% và rút ngắn 50% thời gian duyệt của kiểm tra viên trong quý tới, giao cho đội ngũ kỹ sư hệ thống thông tin chịu trách nhiệm.
• Xây dựng kho ngữ liệu mở phục vụ nghiên cứu học thuật: Đề xuất các cơ quan quản lý khoa học cấp nhà nước bảo trợ việc công bố bộ dữ liệu kiểm thử mở đạt quy mô tối thiểu 1.000 giờ phát âm theo chuẩn âm vị học quốc tế trong giai đoạn 2024 - 2025, tạo tài nguyên nghiên cứu dùng chung cho toàn thể cộng đồng công nghệ thông tin Việt Nam.

Đối tượng nên tham khảo luận văn

Nội dung và kết quả thực nghiệm của luận văn là tài liệu tham khảo giá trị cho bốn nhóm độc giả chuyên môn:

• Học viên cao học và nghiên cứu sinh chuyên ngành Khoa học máy tính, Xử lý ngôn ngữ tự nhiên: Nắm bắt phương pháp luận nghiên cứu học thuật chuẩn mực, tiếp cận các thuật toán tối ưu hóa tập ngữ liệu như thuật toán tham lam và khung lý thuyết âm vị học tiếng Việt phục vụ các bài toán luận văn và công bố quốc tế.
• Kỹ sư phát triển phần mềm và chuyên gia Trí tuệ nhân tạo tại các doanh nghiệp: Vận dụng trực tiếp quy trình xây dựng công cụ gán nhãn trên nền tảng web, phương pháp chuyển đổi phiên âm quốc tế sang dạng thuần Việt, giúp tiết kiệm từ 30% đến 40% chi phí và thời gian thiết kế hệ thống nhận dạng tiếng nói thực tế.
• Các nhà nghiên cứu Ngôn ngữ học ứng dụng: Khai thác bức tranh toàn cảnh về sự biến đổi ngữ âm, ngữ điệu, trường độ của 6 thanh điệu và sự phân hóa âm vị giữa các phương ngữ Bắc, Trung, Nam dưới góc nhìn định lượng của khoa học dữ liệu.
• Quản trị viên dự án chuyển đổi số và chuyên gia hoạch định chính sách công nghệ: Tham khảo các tiêu chuẩn nghiệm thu, chỉ số đánh giá độ tin cậy của dữ liệu và phương thức quản lý người dùng kiểm định để xây dựng các hồ sơ kỹ thuật, dự toán ngân sách cho các dự án số hóa giọng nói cấp bộ, ngành.

Câu hỏi thường gặp

Tại sao tiếng Việt được xếp vào nhóm ngôn ngữ nghèo tài nguyên dù có gần 100 triệu người sử dụng?

Tiếng Việt sở hữu cộng đồng người dùng đông đảo nhưng thiếu hụt trầm trọng các kho ngữ liệu tiếng nói mở quy mô lớn, có gán nhãn âm vị chuẩn xác và đại diện đầy đủ cho các phương ngữ. Trong khi tiếng Anh có hàng nghìn giờ dữ liệu mở như TIMIT, các bộ dữ liệu tiếng Việt đa phần bị phân mảnh, đóng kín trong phạm vi doanh nghiệp hoặc thiếu sự cân bằng âm học cần thiết để huấn luyện học sâu.

Thuật toán tham lam mang lại lợi ích gì trong việc cân bằng âm vị tiếng nói?

Thuật toán tham lam giải quyết bài toán tập bao tối thiểu, cho phép hệ thống tự động quét và lựa chọn các câu văn bản sao cho tối đa hóa số lượng âm tiết và âm vị mới xuất hiện. Nhờ đó, tập huấn luyện chỉ cần quy mô vừa phải nhưng vẫn đạt độ bao phủ âm vị lên tới 94%, vượt trội hơn mức 72% của phương pháp chọn ngẫu nhiên, giúp giảm đáng kể chi phí thu âm.

Sự khác biệt ngữ âm giữa miền Bắc và miền Nam ảnh hưởng như thế nào đến độ chính xác nhận dạng?

Phương ngữ Bắc sở hữu 20 phụ âm đầu và đầy đủ 6 thanh điệu, trong khi phương ngữ Nam có 23 phụ âm đầu nhưng chỉ có 5 thanh điệu do hiện tượng gộp thanh hỏi và thanh ngã. Thêm vào đó, người miền Nam thường biến đổi âm cuối và phụ âm xát, dẫn đến việc mô hình nhận dạng huấn luyện đơn miền sẽ có tỷ lệ lỗi từ tăng cao khi xử lý giọng nói trái vùng địa lý.

Tiêu chuẩn nào được áp dụng để tuyển chọn kiểm tra viên chéo dữ liệu?

Để bảo đảm tính khách quan và loại bỏ hoàn toàn các sai sót chủ quan, kiểm tra viên chéo phải là những người đã hoàn thành tối thiểu 10 giờ gán nhãn thực tế trên hệ thống và đạt độ chính xác kiểm tra định kỳ từ 90% trở lên. Đội ngũ này có nhiệm vụ rà soát độc lập từng đoạn âm thanh, văn bản gán nhãn và các nhãn nhân khẩu học của người nói.

Tỷ lệ phân chia dữ liệu 80:10:10 bảo đảm nguyên tắc khoa học nào trong học máy?

Tỷ lệ này chia tách kho dữ liệu thành 80% cho huấn luyện, 10% cho phát triển và 10% cho kiểm thử độc lập. Nguyên tắc then chốt là người nói trong tập kiểm thử tuyệt đối không xuất hiện trong tập huấn luyện, giúp ngăn ngừa triệt để hiện tượng học vẹt và phản ánh chính xác năng lực nhận dạng của mô hình đối với người dùng mới trong môi trường thực tế.

Kết luận

• Luận văn giải quyết thành công bài toán thiết kế và xây dựng cơ sở dữ liệu tiếng nói tiếng Việt chuẩn hóa, bảo đảm tính cân bằng âm vị và phủ rộng khắp ba vùng phương ngữ chính.
• Thuật toán tham lam kết hợp quy trình thu thập dữ liệu lai đã chứng minh tính ưu việt vượt trội, đạt tỷ lệ bao phủ ngữ âm 94% với kích thước mẫu tối ưu.
• Quy trình kiểm tra chéo hai lớp nghiêm ngặt trên nền tảng web bảo đảm độ chính xác của nhãn dữ liệu đạt trên 98,5%, đáp ứng tiêu chuẩn khắt khe của các mô hình học sâu.
• Các kết quả thực nghiệm tạo lập nền tảng khoa học vững chắc cho việc phát triển các hệ thống nhận dạng tiếng nói tiếng Việt độc lập, làm chủ công nghệ và bảo đảm an toàn thông tin nội địa trong giai đoạn 2024 - 2025.
• Độc giả, nhà nghiên cứu và các kỹ sư công nghệ quan tâm có thể khai thác các đóng góp học thuật của luận văn để mở rộng quy mô dữ liệu và ứng dụng vào các giải pháp trợ lý ảo, gỡ băng hội thoại thông minh phục vụ tiến trình chuyển đổi số quốc gia.