Bối cảnh và vấn đề nghiên cứu

Trong lĩnh vực xử lý tiếng nói tự nhiên, đặc biệt là tổng hợp tiếng nói từ văn bản (Text-to-Speech - TTS) và nhận dạng tiếng nói tự động (Automatic Speech Recognition - ASR), kho ngữ liệu âm thanh (speech corpus) chất lượng cao đóng vai trò là nguồn tài nguyên nền tảng quyết định hiệu năng của các mô hình học sâu. Mặc dù tiếng Việt có khoảng 100 triệu người sử dụng (tính đến năm 2024), đây vẫn được xếp vào nhóm ngôn ngữ tài nguyên thấp (under-resourced language) do số lượng bộ dữ liệu âm thanh chuẩn hóa công khai còn rất hạn chế.

Phương pháp xây dựng kho ngữ liệu truyền thống đòi hỏi việc thiết lập phòng thu cách âm tiêu chuẩn, trang bị phần cứng chuyên dụng (như micro Sennheiser HMD 410-6, bộ khuếch đại Soundcraft Spirit Folio FX8) và thuê người đọc đại diện cho nhiều vùng miền, lứa tuổi và giới tính. Quy trình thủ công này đòi hỏi ngân sách lớn, tiêu tốn nhiều thời gian và công sức, tạo thành rào cản đối với sinh viên và các nhà nghiên cứu độc lập. Để giải quyết nút thắt này, khóa luận tốt nghiệp ngành Kỹ thuật Dữ liệu của nhóm tác giả Huỳnh Nguyễn Tín và Nguyễn Minh Tiến, dưới sự hướng dẫn của PGS. Hoàng Văn Dũng tại Trường Đại học Sư phạm Kỹ thuật TP. Hồ Chí Minh (khoá 2020–2024), đề xuất giải pháp xây dựng một đường ống (pipeline) tự động, chi phí thấp nhằm thu thập và xử lý ngữ liệu tiếng Việt quy mô lớn từ các video tin tức có phụ đề đóng (closed captions) trên nền tảng YouTube.

Nhiệm vụ nghiên cứu của khóa luận được xác định cụ thể gồm 4 nội dung:

  1. Nghiên cứu phương pháp thu thập dữ liệu âm thanh và phụ đề tương ứng có sẵn trên Internet (nền tảng YouTube).
  2. Nghiên cứu và xây dựng bộ công cụ chuẩn hóa văn bản (Text Normalizer) lai (hybrid) dành riêng cho tiếng Việt.
  3. Xây dựng đường ống xử lý hoàn chỉnh để trích xuất, tiền xử lý âm thanh, chuẩn hóa văn bản và căn chỉnh cưỡng bức (forced alignment) tạo thành kho ngữ liệu tiếng Việt.
  4. Thực nghiệm đánh giá chất lượng của kho ngữ liệu thông qua việc huấn luyện tinh chỉnh (fine-tuning) mô hình tổng hợp tiếng nói SpeechT5.

Đối tượng nghiên cứu của đề tài là các đoạn video tin tức tiếng Việt có phụ đề đóng thủ công được đăng tải công khai trên YouTube và các kỹ thuật xử lý tín hiệu âm thanh, xử lý ngôn ngữ tự nhiên liên quan. Phạm vi nghiên cứu được thực hiện trong khoảng thời gian từ tháng 03/2024 đến tháng 07/2024 tại Khoa Công nghệ Thông tin, Trường Đại học Sư phạm Kỹ thuật TP. Hồ Chí Minh, xử lý tập dữ liệu thô ban đầu gồm 3.106 cặp tệp âm thanh và phụ đề để tạo ra kho ngữ liệu sạch có quy mô hơn 100 giờ âm thanh và hơn 100.000 mẫu câu.

Cơ sở lý thuyết và phương pháp

Khóa luận thiết lập nền tảng dựa trên các khung lý thuyết âm học, định lý xử lý tín hiệu số và các mô hình học máy ngôn ngữ:

  • Định lý lấy mẫu Nyquist-Shannon: Tần số lấy mẫu (sampling rate) cần đạt tối thiểu gấp đôi thành phần tần số cao nhất của tín hiệu cần đo để đảm bảo tái tạo tín hiệu không bị mất mát thông tin. Giọng nói con người có dải tần từ 100 Hz đến 8 kHz, do đó tần số lấy mẫu tối thiểu được xác định là 16 kHz nhằm cân bằng giữa độ trung thực âm thanh và dung lượng lưu trữ.
  • Hiện tượng răng cưa (Aliasing) và bộ lọc khử răng cưa: Khi tái lấy mẫu (resampling) xuống tần số thấp hơn, các thành phần tần số vượt ngưỡng Nyquist bị gập lại vào miền tần số thấp gây méo tiếng. Tác giả lựa chọn thư viện SoXR với bộ lọc thông thấp (low-pass filter) có độ dốc suy giảm mượt và sát ngưỡng cắt lý thuyết.
  • Phân loại từ phi tiêu chuẩn (Semiotic Classes): Vận dụng bảng phân loại của Trang và cộng sự (2010) cho tiếng Việt gồm 22 nhóm ký hiệu như thời gian (NTIM), ngày tháng (NDAT), số (NNUM), số điện thoại (NTEL), tỷ lệ phần trăm (NPER), đơn vị (Nu), từ viết tắt (Ny/LABB), dấu câu (PUNC, CH),...
  • Công cụ phân đoạn từ và gán nhãn từ loại:
    • Mô hình phân đoạn từ RDRsegmenter thuộc bộ công cụ VnCoreNLP, hoạt động dựa trên cây quyết định rút gọn đơn vị (Single Classification Ripple Down Rules - SCRDR) và từ điển ngữ cảnh 5 âm tiết (5-syllable context dictionary).
    • Mô hình gán nhãn từ loại VnMarMoT, sử dụng khung mô hình trường ngẫu nhiên điều kiện (Conditional Random Fields - CRF) tối ưu hóa cắt tỉa (pruned CRF/PCRF) do Dat Quoc Nguyen và cộng sự phát triển, được huấn luyện sẵn trên bộ ngữ liệu chuẩn Vietnamese Treebank (hơn 27.000 câu).
  • Âm vị học và chuyển tự từ mượn (Transliteration): Sử dụng tập âm tố ARPAbet (39 phone đại diện cho nguyên âm và phụ âm), từ điển phát âm CMU Pronouncing Dictionary, cùng biến thể tinh chỉnh từ thuật toán phân tách âm tiết của Gorman (Gorman's syllabification algorithm) theo cấu trúc âm tiết tiếng Việt (Onset - Nucleus - Coda).

Phương pháp nghiên cứu thực nghiệm được triển khai thông qua việc kết hợp khai phá dữ liệu web, phân tích thực nghiệm so sánh tốc độ và độ chính xác của các thư viện tái lấy mẫu âm thanh, xây dựng tập luật ngôn ngữ kết hợp mô hình học máy (hybrid rule-based & machine learning approach), cùng phương pháp căn chỉnh cưỡng bức (forced alignment) để lọc nhiễu và kiểm thử trên mô hình học sâu.

Nguồn dữ liệu thực nghiệm được thu thập từ 3 kênh tin tức tiếng Việt có phụ đề đóng chính xác trên YouTube: VOA Tiếng Việt, FBNC Vietnam và Truyền Hình Nhân Dân.

Thiết kế và triển khai

Khóa luận thiết kế và triển khai một đường ống dữ liệu khép kín gồm 4 phân hệ chính:

[YouTube Videos & Closed Captions]
[Thu thập: 3.107 Video IDs / 3.106 Cặp tệp WAV & SRT (yt-dlp + ffmpeg)]
[Xử lý âm thanh]              [Chuẩn hóa văn bản]               [Chuyển tự từ mượn]
- Chuyển Stereo sang Mono     - Lọc bỏ thẻ HTML/khoảng trống    - Tra cứu từ điển CMU
- SoXR Resampling (16 kHz)    - RDRsegmenter tách từ            - Khớp âm tố ARPAbet
                              - VnMarMoT gán nhãn POS           - Thuật toán Gorman
                              - Cửa sổ trượt 3 từ giải nghĩa    - Hiệu chỉnh vần lỗi
                            [Căn chỉnh cưỡng bức (Forced Alignment)]
                            - Đồng bộ mốc thời gian cấp độ từ
                            - Cắt tỉa khoảng lặng (Trimming silence)
                            - Loại bỏ mẫu dưới ngưỡng điểm căn chỉnh
                            [Kho ngữ liệu sạch: >100 giờ, >100.000 mẫu]
                            [Huấn luyện tinh chỉnh SpeechT5 TTS]

1. Phân hệ thu thập dữ liệu (Data Collection)

  • Sử dụng dịch vụ lưu trữ FilmOt để tìm kiếm các video có phụ đề đóng bằng tiếng Việt.
  • Xây dựng trình thu thập (web crawler) bằng thư viện Scrapy (Python), triển khai trên môi trường Google Colab để trích xuất mã định danh video (Video ID) nhằm tránh việc bị chặn truy cập.
  • Tích hợp công cụ dòng lệnh yt-dlp cùng ffmpeg để tự động tải các luồng âm thanh tốt nhất, chuyển đổi định dạng âm thanh nổi (stereo) sang đơn kênh (mono) để tối ưu hóa 50% dung lượng lưu trữ, chuyển đổi phụ đề sang định dạng SubRip (.srt), đồng thời bỏ qua các video phát trực tiếp (live stream).

2. Phân hệ tiền xử lý và tái lấy mẫu âm thanh (Audio Resampling)

  • Dữ liệu âm thanh được chuẩn hóa về định dạng sóng WAV, đơn kênh (mono), tần số lấy mẫu 16 kHz.
  • Lựa chọn thư viện SoXR thay vì SciPy hay scikit-learn. SoXR đạt tốc độ tái lấy mẫu nhanh nhất (1,05 ms khi giảm tần số lấy mẫu) và có bộ lọc khử hiện tượng răng cưa vượt trội.

3. Phân hệ chuẩn hóa văn bản lai (Hybrid Text Normalization)

  • Tiền xử lý bề mặt: Loại bỏ các ký tự rác do quá trình chuyển đổi phụ đề tạo ra (như \h, khoảng trắng không ngắt).
  • Sử dụng bộ công cụ Visen để đưa dấu thanh tiếng Việt về quy chuẩn kiểu cũ thống nhất (ví dụ: òa, úy thay cho oà, uý).
  • Tích hợp RDRsegmenter để phân đoạn từ, đưa văn bản sang dạng biểu diễn nối bằng dấu gạch dưới (_).
  • Đưa văn bản đã phân đoạn qua bộ gán nhãn VnMarMoT để xác định nhãn từ loại cho từng từ.
  • Tập trung phân loại các từ phi tiêu chuẩn thuộc tập nhãn: N (Danh từ), Np (Danh từ riêng), Nu (Danh từ đơn vị), Ny (Danh từ viết tắt), M (Số từ), CH (Dấu câu).
  • Triển khai thuật toán cửa sổ trượt (sliding window) kích thước 3 từ để giải quyết nhập nhằng ngữ cảnh (Contextual Disambiguation). Ví dụ: dấu / đi trước danh từ đơn vị Nu như trong 55 km/h được đọc là "trên" ("55 km trên h"), nhưng đi trước danh từ N như trong 88,4 triệu đồng/lượng được đọc là "một" ("88,4 triệu đồng một lượng").
Nhãn từ loại Lớp ký hiệu (Semiotic Class) Quy tắc phân loại Ví dụ minh họa
Nu / N Đơn vị đo lường, tiền tệ Tra cứu từ điển chuẩn hóa (Lexicon lookup) m, cm, km/h, $, VND
Ny / Np Từ viết tắt, tên viết tắt Mở rộng theo từ điển hoặc đọc từng chữ cái TS (tiến sĩ), HCM, WHO, GDP
M Thời gian, ngày tháng, dải số Khớp mẫu định dạng (Pattern matching) và kiểm tra tiền tố 16:05, 1/2024, 3-5m, 5-10%
CH Dấu câu cần phát âm Khớp mẫu thay thế bằng chữ $, %, &

4. Phân hệ chuyển tự từ mượn ngoại lai (Transliteration)

  • Nhận diện các từ mượn gốc Latinh hoặc tên riêng được Latinh hóa (ví dụ: Zelenskyy).
  • Ánh xạ các từ tiếng Anh sang tập âm tố ARPAbet thông qua từ điển phát âm CMU Pronouncing Dictionary.
  • Sử dụng thuật toán phân tách âm tiết của Gorman với các điều chỉnh để chia tách chuỗi âm tố thành cấu trúc ba phần: Âm đầu (Onset), Hạt nhân nguyên âm (Nucleus) và Âm cuối (Coda).
  • Thực hiện ánh xạ các tổ hợp âm tố sang hệ chữ viết tiếng Việt tương đương và áp dụng quy tắc sửa lỗi các vần bất hợp lệ sau khi phiên âm.

5. Phân hệ căn chỉnh cưỡng bức (Forced Alignment)

  • Đồng bộ hóa mốc thời gian của từng từ và âm tiết tương ứng với tín hiệu sóng âm.
  • Cắt tỉa các khoảng lặng (silence trimming) ở đầu và cuối tệp âm thanh.
  • Lọc bỏ các từ không tham gia phát âm và loại bỏ các đoạn âm thanh có điểm căn chỉnh (alignment score) thấp để thu được tập dữ liệu huấn luyện sạch.

Nội dung chính theo từng chương

Chương 1: Giới thiệu (Chapter 1: Introduction)

Chương 1 trình bày tổng quan về thực trạng khan hiếm dữ liệu giọng nói tiếng Việt quy mô lớn. Nhóm tác giả phân tích các hạn chế về chi phí, nhân lực và tác động tiêu thụ tài nguyên của phương pháp thu âm phòng thu truyền thống. Từ đó, chương xác định mục tiêu xây dựng một quy trình trích xuất tự động từ Internet, thiết lập bộ chuẩn hóa văn bản lai, áp dụng căn chỉnh cưỡng bức và đo lường chất lượng kho ngữ liệu bằng mô hình tổng hợp giọng nói.

Chương 2: Tổng quan nghiên cứu (Chapter 2: Literature Review)

Chương 2 tổng hợp và phân tích các công trình nghiên cứu cùng các bộ ngữ liệu tiếng Việt hiện có trong giai đoạn từ năm 2000 đến 2024:

  • So sánh các bộ dữ liệu phổ biến: VIVOS (15 giờ giọng đọc, mở), Viettel corpus (85,8 giờ cuộc gọi, đóng), MICA VNSpeechCorpus (100 giờ giọng đọc, đóng), VinBigdata-VLSP2020 (20 giờ đọc và 80 giờ tự nhiên, mở).
  • Đánh giá các công cụ chuẩn hóa văn bản tiếng Việt: Phân tích thư viện Vinorm, chỉ ra hạn chế về tốc độ khi lạm dụng biểu thức chính quy (regex) phức tạp và thiếu khả năng xử lý đồng nhất vị trí dấu thanh; giới thiệu Visen và langdetect.
  • Phân tích sâu về cơ chế tách từ của RDRsegmenter dựa trên cây SCRDR và từ điển ngữ cảnh 5 âm tiết.
  • Khảo sát mô hình gán nhãn từ loại VnMarMoT: Dẫn chứng dữ liệu thực nghiệm cho thấy VnMarMoT đạt độ chính xác 95,88% trên Vietnamese Treebank với tốc độ xử lý hơn 25.000 từ/giây, vượt trội về độ chính xác so với các mô hình BiLSTM nhờ không đòi hỏi tập dữ liệu huấn luyện quá khổng lồ.

Chương 3: Phương pháp luận (Chapter 3: Methodology)

Chương 3 trình bày chi tiết toàn bộ các giải pháp kỹ thuật được tác giả đề xuất:

  • Phương pháp cào dữ liệu qua FilmOt và Scrapy, quy trình tải tự động bằng yt-dlp và xử lý tệp phụ đề SubRip.
  • Lý giải việc chọn tần số lấy mẫu 16 kHz qua Định lý Nyquist-Shannon và chứng minh ưu thế của bộ tái lấy mẫu SoXR thông qua phân tích đáp ứng tần số của bộ lọc chống răng cưa và tốc độ thực thi.
  • Xây dựng sơ đồ phân loại và phát hiện từ phi tiêu chuẩn (Non-Standard Words) trên miền dữ liệu tin tức và phụ đề đóng, ứng dụng nhãn từ loại từ VnMarMoT cùng cơ chế cửa sổ trượt 3 từ.
  • Thiết kế hệ thống chuyển tự từ mượn ngoại lai (OOV Words) dựa trên tập âm tố ARPAbet, từ điển CMU và thuật toán phân tách âm tiết Gorman cải tiến.
  • Quy trình hậu xử lý dữ liệu âm thanh thông qua kỹ thuật căn chỉnh cưỡng bức cấp độ từ (word-level forced alignment) và cắt gọt khoảng lặng.

Chương 4: Phân tích kho ngữ liệu và thực nghiệm (Chapter 4: Corpus Analysis & Evaluation)

Chương 4 thực hiện phân tích thống kê trên tập dữ liệu đã xử lý và tiến hành thực nghiệm kiểm chứng:

  • Phân tích phân bố giới tính của người đọc (gender distribution) trên kho dữ liệu thô.
  • Đánh giá phân bố điểm căn chỉnh (alignment score) và phân bố thời lượng các đoạn âm thanh (audio duration distribution) trong kho dữ liệu sạch.
  • Thực hiện huấn luyện tinh chỉnh mô hình tổng hợp giọng nói SpeechT5 trên kho dữ liệu tạo ra để chứng minh tính khả thi và chất lượng của bộ ngữ liệu.

Kết quả và đóng góp

Khóa luận đã đạt được các kết quả cụ thể và tạo ra những đóng góp thiết thực cho cộng đồng nghiên cứu xử lý tiếng nói tiếng Việt:

1. Số liệu kết quả thực nghiệm

  • Thu thập dữ liệu thô: Trích xuất thành công 3.107 mã định danh video từ 3 kênh tin tức (2.735 video từ VOA Tiếng Việt, 370 video từ FBNC Vietnam và 2 video từ Truyền Hình Nhân Dân). Tải và xử lý hoàn chỉnh 3.106 cặp tệp WAV và SRT với tổng dung lượng 69 GB.
  • Quy mô kho ngữ liệu: Xây dựng thành công kho ngữ liệu tiếng Việt có thời lượng hơn 100 giờ và hơn 100.000 mẫu âm thanh được gắn nhãn đồng bộ.
  • Hiệu năng xử lý:
    • Thư viện SoXR đạt thời gian xử lý giảm tần số lấy mẫu là 1,05 ms, vượt qua các bộ xử lý của SciPy và scikit-learn.
    • Mô hình VnMarMoT duy trì tốc độ xử lý hơn 25.000 từ/giây với độ chính xác gán nhãn 95,88%.
Bộ ngữ liệu Quy mô thời lượng Phong cách phát ngôn Trạng thái tiếp cận Phương pháp thu thập
VIVOS (AILab) 15 giờ Giọng đọc (Reading) Công khai (Open) Thu âm phòng thu
Viettel Corpus 85,8 giờ Cuộc gọi điện thoại (Phone call) Đóng (Close) Thu thập hệ thống viễn thông
MICA VNSpeechCorpus 100 giờ Giọng đọc (Reading) Đóng (Close) Thu âm phòng thu (50 người đọc)
VinBigdata-VLSP2020 100 giờ 20h giọng đọc, 80h tự nhiên Công khai (Open) Thu âm có kiểm soát
Khóa luận này > 100 giờ Tin tức (News speech) Chi phí 0 đồng Khai thác phụ đề đóng YouTube

2. Đóng góp của đề tài

  • Đề xuất một quy trình xây dựng kho ngữ liệu tiếng Việt quy mô lớn hoàn toàn tự động, có chi phí 0 đồng, không yêu cầu thiết bị phòng thu đắt tiền và ít phụ thuộc vào các thư viện bên ngoài phức tạp.
  • Xây dựng bộ công cụ chuẩn hóa văn bản lai kết hợp giữa mô hình gán nhãn từ loại và tập luật ngữ cảnh cửa sổ trượt, giải quyết triệt để các dạng từ phi tiêu chuẩn phức tạp trong văn phong tin tức.
  • Đề xuất giải pháp phiên âm tự động các từ mượn ngoại lai và tên riêng viết bằng ký tự Latinh sang hệ âm tiết tiếng Việt thông qua trung gian âm tố ARPAbet, giải quyết hiện tượng từ ngoài từ điển (OOV) gây lỗi trong các hệ thống TTS.

Hạn chế và hướng nghiên cứu tiếp

  • Hạn chế:

    • Nguồn dữ liệu phụ thuộc vào các video tin tức có sẵn phụ đề đóng thủ công, do đó phong cách phát ngôn chủ yếu là giọng đọc tin tức chuẩn mực (formal news speech), chưa bao quát được ngôn ngữ giao tiếp tự nhiên đời thường (spontaneous speech).
    • Tỷ lệ dữ liệu thu thập giữa các kênh còn chênh lệch lớn, phần lớn dữ liệu tập trung ở kênh VOA Tiếng Việt (2.735 trên tổng số 3.107 video).
    • Quá trình chuẩn hóa văn bản vẫn có thể gặp sai sót nếu phụ đề gốc của người làm video chứa lỗi chính tả nghiêm trọng hoặc không đồng nhất.

  • Hướng phát triển tiếp theo:

    • Mở rộng đường ống thu thập sang nhiều nguồn phát thanh, sách nói hoặc podcast có phụ đề chính xác để đa dạng hóa phong cách giọng nói, độ tuổi và phương ngữ vùng miền.
    • Cải tiến và tối ưu hóa sâu hơn các thuật toán sửa lỗi vần bất hợp lệ trong phân hệ chuyển tự từ mượn.
    • Mở rộng thực nghiệm huấn luyện trên nhiều kiến trúc mô hình tổng hợp tiếng nói tiên tiến khác (như VITS, FastSpeech2).

Giá trị tham khảo

Khóa luận là tài liệu tham khảo có giá trị cao dành cho sinh viên, kỹ sư và nghiên cứu viên thuộc các chuyên ngành Kỹ thuật Dữ liệu, Khoa học Máy tính, Công nghệ Thông tin và Trí tuệ Nhân tạo:

  • Đối với người xây dựng kho dữ liệu: Khóa luận cung cấp chi tiết kiến trúc thu thập dữ liệu web bằng Scrapy chạy trên Colab kết hợp công cụ yt-dlp, ffmpeg và kỹ thuật xử lý âm thanh số chuẩn mực (SoXR, 16 kHz mono).
  • Đối với người làm xử lý ngôn ngữ tự nhiên (NLP) tiếng Việt: Phần thiết kế bộ chuẩn hóa văn bản lai (Hybrid Text Normalizer) kết hợp VnCoreNLP (RDRsegmenter, VnMarMoT) và cơ chế cửa sổ trượt 3 từ là một giải pháp mẫu mực để xử lý các lớp từ phi tiêu chuẩn (Semiotic Classes).
  • Đối với người phát triển hệ thống TTS: Giải pháp phân tách âm tiết Gorman kết hợp bộ âm tố ARPAbet để phiên âm từ mượn ngoại lai sang tiếng Việt cung cấp cách tiếp cận giải quyết bài toán OOV mà không cần lập từ điển thủ công.

Câu hỏi thường gặp

1. Tại sao nhóm tác giả lại lựa chọn nguồn dữ liệu từ phụ đề đóng trên YouTube thay vì thu âm trực tiếp?
Phương pháp thu âm trực tiếp trong phòng thu đòi hỏi chi phí thiết bị đắt đỏ (như micro chuyên dụng, bàn trộn âm), chi phí thuê người đọc và tiêu tốn nhiều tháng thực hiện. Trong khi đó, video tin tức trên YouTube có tần suất đăng tải cao, chất lượng phát âm của phát thanh viên rõ ràng, chuẩn mực và phụ đề đóng thủ công cung cấp sẵn văn bản đã được căn chỉnh mốc thời gian với độ chính xác cao.

2. Vì sao tần số lấy mẫu 16 kHz và thư viện SoXR được lựa chọn trong quá trình tiền xử lý âm thanh?
Theo định lý lấy mẫu Nyquist-Shannon, để thu nhận đầy đủ tín hiệu giọng nói con người (dải tần từ 100 Hz đến 8 kHz), tần số lấy mẫu tối thiểu phải đạt 16 kHz. Thư viện SoXR được lựa chọn vì vượt trội về tốc độ xử lý (đạt 1,05 ms khi giảm tần số lấy mẫu) và có bộ lọc chống răng cưa (anti-aliasing) chất lượng cao, giúp loại bỏ các tần số không mong muốn mà không gây méo tín hiệu.

3. Cơ chế chuẩn hóa văn bản lai (Hybrid Approach) trong khóa luận hoạt động như thế nào?
Văn bản trước tiên được phân đoạn từ bằng RDRsegmenter, sau đó được gán nhãn từ loại bằng mô hình VnMarMoT. Dựa trên các nhãn ngữ pháp quan trọng (N, Np, Nu, Ny, M, CH), hệ thống áp dụng một tập luật kết hợp với thuật toán cửa sổ trượt 3 từ để giải nghĩa chính xác các từ phi tiêu chuẩn dựa trên ngữ cảnh xung quanh (ví dụ: phân biệt dấu gạch chéo / là đơn vị đo hay phép chia).

4. Khóa luận giải quyết bài toán từ mượn tiếng nước ngoài (OOV) bằng phương pháp gì?
Nhóm tác giả không dùng phương pháp ánh xạ ký tự trực tiếp hay xây dựng từ điển thủ công mà sử dụng cầu nối âm tố (phones). Hệ thống chuyển đổi từ ngoại lai sang chuỗi âm tố ARPAbet thông qua từ điển CMU, sau đó dùng thuật toán Gorman cải tiến để phân tách cấu trúc âm tiết (Onset-Nucleus-Coda) và ánh xạ các âm tố này sang tổ hợp chữ viết tiếng Việt tương ứng.

5. Quy mô và dung lượng dữ liệu đạt được của kho ngữ liệu sau khi hoàn thành là bao nhiêu?
Nhóm tác giả đã thu thập 3.106 cặp tệp WAV và SRT với tổng dung lượng thô 69 GB, sau đó xử lý và làm sạch để tạo ra kho ngữ liệu tiếng Việt có thời lượng hơn 100 giờ với hơn 100.000 đoạn âm thanh đã được căn chỉnh mốc thời gian hoàn chỉnh.

Kết luận

Khóa luận tốt nghiệp của Huỳnh Nguyễn Tín và Nguyễn Minh Tiến đã giải quyết thành công bài toán khan hiếm dữ liệu tiếng nói tiếng Việt bằng một đường ống xử lý tự động, chi phí thấp dựa trên nguồn tài nguyên phụ đề đóng từ YouTube. Nghiên cứu đã hoàn thành toàn diện các khâu từ thu thập dữ liệu, tái lấy mẫu âm thanh số 16 kHz, xây dựng bộ chuẩn hóa văn bản lai kết hợp mô hình VnMarMoT, cho đến giải pháp phiên âm từ mượn ngoại lai bằng tập âm tố ARPAbet. Với quy mô hơn 100 giờ âm thanh sạch và hơn 100.000 mẫu câu, công trình đóng góp một cơ sở thực nghiệm và phương pháp luận giá trị cho các nghiên cứu tổng hợp tiếng nói tiếng Việt trong tương lai.