Luận Văn: Cải Tiến Tổng Hợp Tiếng Nói Sử Dụng Học Sâu (FastTacotron)

Luận văn cải tiến tổng hợp tiếng nói: Ứng dụng học sâu nâng cao chất lượng và độ tự nhiên. Tìm hiểu các phương pháp và kết quả nghiên cứu mới nhất.

Chuyên ngành

Khoa học dữ liệu và Trí tuệ nhân tạo

Người đăng

Ẩn danh

Thể loại

Luận văn thạc sĩ

2021

75
0
0

Phí lưu trữ

30 Point

Mục lục chi tiết

Declaration of Authorship and Topic Sentences

Acknowledgement

Abstract

Lists of Figures

Lists of Tables

1. Introduction

2. Background

2.1. Machine learning

2.2. Convolutional neural networks

2.3. Recurrent neural networks

3. Related work

3.1. Autoregressive models

3.2. Tacotron

3.3. Non-autoregressive models

3.4. FastSpeech

4. Proposed method

4.1. Pre-net and Post-net

4.2. LSTM

4.3. Variation predictor

4.4. Length regulator

4.5. Vocoder

5. Experiments and Evaluations

5.1. Dataset

5.2. Grapheme-to-phoneme converter

5.3. Results

6. Conclusion

References

Tóm tắt

I. Tổng Quan về Cải Tiến Tổng Hợp Tiếng Nói Lợi Ích Ứng Dụng

Tổng hợp tiếng nói (Speech Synthesis) là công nghệ quan trọng trong hệ thống tương tác người-máy. Nó giúp người dùng nhận thông tin từ máy móc một cách tự nhiên hơn. Công nghệ này dịch văn bản thành lời nói một cách tự động. Nghiên cứu hiện tại tập trung vào công nghệ tổng hợp tiếng nói end-to-end dựa trên học sâu. Mô hình này có khả năng mô hình hóa mạnh mẽ hơn. Luận văn này đề xuất một mô hình tổng hợp tiếng nói mới dựa trên học sâu gọi là FastTacotron. FastTacotron có thể giải quyết một số vấn đề của các mô hình trước đây. Thử nghiệm trên bộ dữ liệu LSpeech cho thấy FastTacotron có thể hội tụ chỉ trong vài giờ huấn luyện bằng một GPU duy nhất. Mô hình này tăng tốc quá trình suy luận và đạt được chất lượng giọng nói cao. Mô hình cho phép kiểm soát prosody của giọng nói tổng hợp, tạo ra giọng nói biểu cảm. Deep learningtext-to-speech là những từ khóa quan trọng. Ứng dụng của tổng hợp tiếng nói rất đa dạng, từ công nghệ hỗ trợ đến đa phương tiện. Theo luận văn của Lâm Xuân Thư, công nghệ này ngày càng được quan tâm do khả năng hỗ trợ giao tiếp tự nhiên giữa người và máy. Các phương pháp truyền thống thường gặp hạn chế về tính tự nhiên và khả năng kiểm soát các yếu tố như ngữ điệu, tốc độ, và cảm xúc. Các mô hình dựa trên học sâu hứa hẹn khắc phục những hạn chế này bằng cách học trực tiếp từ dữ liệu, tạo ra giọng nói gần gũi với con người hơn. FastTacotron là một bước tiến trong lĩnh vực này, mang lại hiệu quả về tốc độ và chất lượng.

1.1. Vai Trò của Tổng Hợp Tiếng Nói trong Tương Tác Người Máy

Công nghệ tổng hợp tiếng nói đóng vai trò then chốt trong việc tạo ra trải nghiệm tương tác tự nhiên và trực quan giữa con người và máy tính. Nó cho phép máy móc giao tiếp với con người thông qua ngôn ngữ nói, thay vì chỉ thông qua văn bản hoặc các tín hiệu trực quan khác. Điều này đặc biệt quan trọng trong các ứng dụng như trợ lý ảo, hệ thống điều khiển bằng giọng nói, và các thiết bị hỗ trợ người khuyết tật. Theo luận văn, việc cải thiện chất lượng và tính biểu cảm của tổng hợp tiếng nói sẽ mở ra nhiều cơ hội mới cho việc ứng dụng công nghệ này trong các lĩnh vực khác nhau. Các hệ thống tổng hợp tiếng nói hiện đại không chỉ đơn thuần chuyển văn bản thành lời nói, mà còn có khả năng điều chỉnh ngữ điệu, tốc độ, và cảm xúc để phù hợp với ngữ cảnh giao tiếp.

1.2. Học Sâu và Bước Tiến Mới trong Tổng Hợp Tiếng Nói

Học sâu đã mang lại một cuộc cách mạng trong lĩnh vực tổng hợp tiếng nói, cho phép tạo ra các mô hình có khả năng học trực tiếp từ dữ liệu và tạo ra giọng nói tự nhiên hơn. Các mô hình dựa trên học sâu, như FastTacotron, có khả năng mô hình hóa các đặc trưng phức tạp của ngôn ngữ, bao gồm ngữ âm, ngữ pháp, và ngữ điệu. Điều này giúp chúng tạo ra giọng nói có tính biểu cảm cao hơn và ít bị gò bó hơn so với các phương pháp truyền thống. Theo luận văn, việc sử dụng học sâu đã giúp giải quyết nhiều vấn đề khó khăn trong tổng hợp tiếng nói, như việc tạo ra giọng nói có ngữ điệu tự nhiên và khả năng kiểm soát các yếu tố như tốc độ và âm lượng.

II. Thách Thức trong Cải Tiến Tổng Hợp Tiếng Nói Hiện Đại

Mặc dù đã có nhiều tiến bộ, việc cải tiến tổng hợp tiếng nói vẫn còn nhiều thách thức. Một trong số đó là tốc độ suy luận. Các mô hình phức tạp thường đòi hỏi nhiều tài nguyên tính toán và thời gian để tạo ra giọng nói. Tính tự nhiên và biểu cảm vẫn là một vấn đề khác. Tạo ra giọng nói giống con người, với ngữ điệu và cảm xúc phù hợp, là một nhiệm vụ khó khăn. Kiểm soát prosody (ngữ điệu, nhịp điệu, tốc độ) cũng là một thách thức. Mô hình cần có khả năng điều chỉnh prosody để tạo ra giọng nói phù hợp với ngữ cảnh. Luận văn của Lâm Xuân Thư đề cập đến những hạn chế của các mô hình tổng hợp tiếng nói trước đây, bao gồm tốc độ xử lý chậm, chất lượng giọng nói chưa thực sự tự nhiên, và khả năng kiểm soát các yếu tố ngữ điệu còn hạn chế. FastTacotron ra đời nhằm giải quyết những vấn đề này. Việc thu thập và xử lý dữ liệu huấn luyện cũng là một thách thức lớn. Các mô hình học sâu đòi hỏi lượng lớn dữ liệu để đạt được hiệu suất tốt. Dữ liệu cần phải đa dạng, chất lượng cao, và được chuẩn bị kỹ lưỡng. Cuối cùng, việc đánh giá chất lượng của giọng nói tổng hợp là một vấn đề chủ quan và khó định lượng.

2.1. Tối Ưu Tốc Độ Suy Luận cho Hệ Thống Tổng Hợp Tiếng Nói

Tốc độ suy luận là một yếu tố quan trọng trong việc triển khai các hệ thống tổng hợp tiếng nói trong thực tế. Các ứng dụng như trợ lý ảo và hệ thống điều khiển bằng giọng nói đòi hỏi khả năng tạo ra giọng nói nhanh chóng để đáp ứng yêu cầu của người dùng. Tuy nhiên, các mô hình học sâu phức tạp thường có tốc độ suy luận chậm, gây khó khăn cho việc triển khai chúng trong các ứng dụng thời gian thực. Theo luận văn, FastTacotron được thiết kế để giải quyết vấn đề này bằng cách sử dụng kiến trúc mạng nơ-ron hiệu quả hơn và giảm thiểu số lượng phép tính cần thiết trong quá trình suy luận. Việc tối ưu hóa tốc độ suy luận giúp cho hệ thống tổng hợp tiếng nói có thể được sử dụng trong nhiều ứng dụng khác nhau, từ các thiết bị di động đến các hệ thống lớn hơn.

2.2. Cải Thiện Tính Tự Nhiên và Biểu Cảm của Giọng Nói

Tính tự nhiên và biểu cảm là những yếu tố quan trọng quyết định chất lượng của một hệ thống tổng hợp tiếng nói. Giọng nói tự nhiên và biểu cảm giúp người nghe cảm thấy thoải mái và dễ dàng tiếp thu thông tin hơn. Tuy nhiên, việc tạo ra giọng nói có tính tự nhiên và biểu cảm cao là một thách thức lớn. Các mô hình học sâu cần phải học cách mô hình hóa các đặc trưng phức tạp của ngôn ngữ, bao gồm ngữ âm, ngữ pháp, và ngữ điệu, để tạo ra giọng nói giống con người. Theo luận văn, FastTacotron sử dụng các kỹ thuật tiên tiến để cải thiện tính tự nhiên và biểu cảm của giọng nói, bao gồm việc sử dụng các lớp mạng nơ-ron phức tạp và các hàm mất mát được thiết kế đặc biệt. Việc cải thiện tính tự nhiên và biểu cảm của giọng nói giúp cho hệ thống tổng hợp tiếng nói trở nên gần gũi và thân thiện hơn với người dùng.

2.3. Kiểm Soát Prosody Ngữ Điệu Nhịp Điệu Tốc Độ

Prosody (ngữ điệu, nhịp điệu, tốc độ) là yếu tố quan trọng tạo nên sự tự nhiên và biểu cảm của giọng nói. Việc kiểm soát prosody cho phép điều chỉnh giọng nói để phù hợp với ngữ cảnh và truyền tải thông điệp một cách hiệu quả. Tuy nhiên, việc kiểm soát prosody là một thách thức lớn. Các mô hình học sâu cần phải học cách mô hình hóa các mối quan hệ phức tạp giữa văn bản và prosody, và cần phải có khả năng điều chỉnh các yếu tố prosody một cách linh hoạt. Theo luận văn, FastTacotron được thiết kế để cho phép kiểm soát prosody của giọng nói tổng hợp, cho phép người dùng điều chỉnh các yếu tố như tốc độ, âm lượng, và ngữ điệu. Việc kiểm soát prosody giúp cho hệ thống tổng hợp tiếng nói có thể tạo ra giọng nói phù hợp với nhiều ứng dụng khác nhau, từ đọc sách cho đến hướng dẫn đường đi.

III. Phương Pháp FastTacotron Cải Tiến Tổng Hợp Tiếng Nói

FastTacotron là một mô hình tổng hợp tiếng nói dựa trên học sâu, được thiết kế để giải quyết các vấn đề về tốc độ và chất lượng của các mô hình trước đây. Mô hình này sử dụng một kiến trúc mạng nơ-ron hiệu quả hơn, giảm thiểu số lượng phép tính cần thiết trong quá trình suy luận. FastTacotron cũng sử dụng các kỹ thuật tiên tiến để cải thiện tính tự nhiên và biểu cảm của giọng nói. Mô hình này bao gồm các thành phần chính như Pre-net, Post-net, LSTM, Variation Predictor, Length Regulator và Vocoder. Theo luận văn của Lâm Xuân Thư, FastTacotron có khả năng hội tụ nhanh chóng, chỉ trong vài giờ huấn luyện bằng một GPU duy nhất. Điều này giúp giảm chi phí và thời gian huấn luyện mô hình. FastTacotron cũng cho phép kiểm soát prosody của giọng nói tổng hợp, tạo ra giọng nói biểu cảm và phù hợp với ngữ cảnh. Thử nghiệm trên bộ dữ liệu LSpeech cho thấy FastTacotron đạt được chất lượng giọng nói cao so với các mô hình khác.

3.1. Pre net và Post net Xử Lý Đặc Trưng Âm Thanh trong FastTacotron

Pre-net và Post-net là hai thành phần quan trọng trong kiến trúc của FastTacotron, đóng vai trò xử lý các đặc trưng âm thanh. Pre-net được sử dụng để mã hóa các đặc trưng đầu vào, giúp giảm chiều dữ liệu và trích xuất các thông tin quan trọng. Post-net được sử dụng để tinh chỉnh các đặc trưng đầu ra, giúp cải thiện chất lượng giọng nói. Theo luận văn, việc sử dụng Pre-net và Post-net giúp cho FastTacotron có thể học được các biểu diễn âm thanh tốt hơn, từ đó tạo ra giọng nói tự nhiên hơn. Cụ thể, Pre-net có thể giúp loại bỏ các nhiễu và các thông tin không liên quan, trong khi Post-net có thể giúp làm mịn các đặc trưng âm thanh và cải thiện tính liên tục của giọng nói.

3.2. LSTM và Vai Trò trong Mô Hình Hóa Chuỗi Dữ Liệu Âm Thanh

LSTM (Long Short-Term Memory) là một loại mạng nơ-ron hồi quy (RNN) được sử dụng rộng rãi trong các bài toán xử lý chuỗi dữ liệu, bao gồm cả tổng hợp tiếng nói. LSTM có khả năng ghi nhớ các thông tin từ quá khứ và sử dụng chúng để dự đoán các thông tin trong tương lai. Trong FastTacotron, LSTM được sử dụng để mô hình hóa chuỗi dữ liệu âm thanh, giúp tạo ra giọng nói có tính liên tục và tự nhiên. Theo luận văn, việc sử dụng LSTM giúp cho FastTacotron có thể học được các mối quan hệ giữa các âm vị và ngữ điệu, từ đó tạo ra giọng nói có ngữ điệu phù hợp với ngữ cảnh.

3.3. Length Regulator Điều Chỉnh Độ Dài Âm Vị Linh Hoạt

Length Regulator đóng vai trò quan trọng trong việc điều chỉnh độ dài của các âm vị để phù hợp với tốc độ và ngữ điệu mong muốn của giọng nói tổng hợp. Mô-đun này giúp kiểm soát thời lượng phát âm của từng âm vị, cho phép tạo ra giọng nói có tốc độ và nhịp điệu tự nhiên. Length Regulator thường sử dụng các mô hình dự đoán độ dài âm vị dựa trên thông tin ngữ cảnh và các đặc trưng ngôn ngữ. Việc điều chỉnh độ dài âm vị một cách chính xác là yếu tố then chốt để tạo ra giọng nói có tính biểu cảm và dễ nghe.

IV. Kết Quả Thử Nghiệm FastTacotron Vượt Trội Trong Tổng Hợp Tiếng Nói

Các thử nghiệm trên bộ dữ liệu LSpeech cho thấy FastTacotron có hiệu suất vượt trội so với các mô hình tổng hợp tiếng nói khác. FastTacotron hội tụ nhanh hơn, tạo ra giọng nói có chất lượng cao hơn, và cho phép kiểm soát prosody tốt hơn. Luận văn của Lâm Xuân Thư trình bày chi tiết các kết quả thử nghiệm, bao gồm các số liệu về tốc độ hội tụ, chất lượng giọng nói (đánh giá bằng MOS - Mean Opinion Score), và khả năng kiểm soát prosody. Các kết quả này chứng minh rằng FastTacotron là một mô hình tổng hợp tiếng nói tiềm năng, có thể được ứng dụng trong nhiều lĩnh vực khác nhau. Cụ thể, FastTacotron có thể được sử dụng để tạo ra giọng nói cho trợ lý ảo, hệ thống điều khiển bằng giọng nói, và các thiết bị hỗ trợ người khuyết tật. FastTacotron cũng có thể được sử dụng để tạo ra giọng nói cho các ứng dụng giải trí, như trò chơi điện tử và phim hoạt hình.

4.1. So Sánh Chất Lượng Giọng Nói MOS Score và Đánh Giá Chủ Quan

Việc đánh giá chất lượng giọng nói là một bước quan trọng để xác định hiệu suất của các mô hình tổng hợp tiếng nói. Một phương pháp phổ biến là sử dụng MOS (Mean Opinion Score), trong đó người nghe đánh giá chất lượng giọng nói trên thang điểm từ 1 đến 5. Ngoài ra, việc đánh giá chủ quan cũng rất quan trọng, trong đó các chuyên gia đánh giá các yếu tố như tính tự nhiên, biểu cảm, và dễ nghe của giọng nói. Theo luận văn, FastTacotron đạt được MOS Score cao hơn so với các mô hình khác, và cũng được đánh giá cao về tính tự nhiên và biểu cảm. Điều này chứng tỏ rằng FastTacotron có khả năng tạo ra giọng nói chất lượng cao, gần gũi với con người hơn.

4.2. Tốc Độ Hội Tụ và Hiệu Quả Huấn Luyện Ưu Điểm Của FastTacotron

Tốc độ hội tụ và hiệu quả huấn luyện là những yếu tố quan trọng trong việc phát triển các mô hình học sâu. Mô hình hội tụ nhanh hơn và đòi hỏi ít tài nguyên tính toán hơn sẽ giúp giảm chi phí và thời gian phát triển. Theo luận văn, FastTacotron có tốc độ hội tụ nhanh chóng, chỉ trong vài giờ huấn luyện bằng một GPU duy nhất. Điều này là nhờ vào kiến trúc mạng nơ-ron hiệu quả hơn và các kỹ thuật huấn luyện tiên tiến. Ưu điểm này giúp cho FastTacotron trở thành một lựa chọn hấp dẫn cho các nhà nghiên cứu và phát triển trong lĩnh vực tổng hợp tiếng nói.

4.3. Kiểm Soát Prosody Mức Độ Linh Hoạt và Khả Năng Tùy Biến

Khả năng kiểm soát prosody là một yếu tố quan trọng tạo nên tính biểu cảm và tự nhiên của giọng nói tổng hợp. Các mô hình tổng hợp tiếng nói tốt cần phải cho phép người dùng điều chỉnh các yếu tố prosody như tốc độ, âm lượng, và ngữ điệu một cách linh hoạt. Theo luận văn, FastTacotron cho phép kiểm soát prosody của giọng nói tổng hợp, cho phép người dùng điều chỉnh các yếu tố này để tạo ra giọng nói phù hợp với ngữ cảnh và sở thích cá nhân. Mức độ linh hoạt và khả năng tùy biến này giúp cho FastTacotron có thể được sử dụng trong nhiều ứng dụng khác nhau, từ đọc sách cho đến hướng dẫn đường đi.

V. Ứng Dụng Thực Tế và Hướng Phát Triển Của Tổng Hợp Tiếng Nói

Tổng hợp tiếng nói có nhiều ứng dụng thực tế trong các lĩnh vực khác nhau, bao gồm trợ lý ảo, hệ thống điều khiển bằng giọng nói, thiết bị hỗ trợ người khuyết tật, giáo dục, và giải trí. Trong tương lai, công nghệ này sẽ tiếp tục phát triển, với mục tiêu tạo ra giọng nói ngày càng tự nhiên và biểu cảm hơn. Các hướng phát triển tiềm năng bao gồm việc tích hợp các mô hình học sâu tiên tiến hơn, sử dụng dữ liệu huấn luyện đa dạng hơn, và phát triển các phương pháp kiểm soát prosody tinh vi hơn. Luận văn của Lâm Xuân Thư kết luận rằng FastTacotron là một bước tiến quan trọng trong lĩnh vực tổng hợp tiếng nói, và mở ra nhiều cơ hội cho việc ứng dụng công nghệ này trong thực tế. Nghiên cứu này cũng đề xuất một số hướng phát triển tiềm năng cho các nghiên cứu trong tương lai, bao gồm việc khám phá các kiến trúc mạng nơ-ron mới và phát triển các phương pháp huấn luyện hiệu quả hơn.

5.1. Tổng Hợp Tiếng Nói Từ Trợ Lý Ảo Đến Thiết Bị Hỗ Trợ

Tổng hợp tiếng nói đã trở thành một thành phần không thể thiếu trong nhiều ứng dụng, từ trợ lý ảo đến thiết bị hỗ trợ người khuyết tật. Trong trợ lý ảo, tổng hợp tiếng nói cho phép người dùng tương tác với thiết bị bằng giọng nói, thay vì chỉ thông qua văn bản hoặc các tín hiệu trực quan khác. Trong thiết bị hỗ trợ người khuyết tật, tổng hợp tiếng nói có thể giúp người khuyết tật giao tiếp với thế giới bên ngoài. Theo luận văn, việc cải thiện chất lượng và tính biểu cảm của tổng hợp tiếng nói sẽ mở ra nhiều cơ hội mới cho việc ứng dụng công nghệ này trong các lĩnh vực khác nhau.

5.2. Tương Lai Của Tổng Hợp Tiếng Nói Giọng Nói Tự Nhiên Cảm Xúc

Tương lai của tổng hợp tiếng nói hứa hẹn sẽ mang đến những giọng nói ngày càng tự nhiên và biểu cảm hơn. Các nhà nghiên cứu đang nỗ lực phát triển các mô hình học sâu tiên tiến hơn, sử dụng dữ liệu huấn luyện đa dạng hơn, và phát triển các phương pháp kiểm soát prosody tinh vi hơn. Mục tiêu là tạo ra giọng nói không chỉ giống con người về mặt ngữ âm, mà còn có khả năng truyền tải cảm xúc và phù hợp với ngữ cảnh giao tiếp. Điều này sẽ mở ra nhiều cơ hội mới cho việc ứng dụng tổng hợp tiếng nói trong các lĩnh vực như giáo dục, giải trí, và chăm sóc sức khỏe.

VI. Kết Luận FastTacotron Bước Tiến Quan Trọng Của Học Sâu

Luận văn này đã trình bày một mô hình tổng hợp tiếng nói mới dựa trên học sâu gọi là FastTacotron. FastTacotron giải quyết các vấn đề của các mô hình trước đây, hội tụ nhanh hơn, tạo ra giọng nói có chất lượng cao hơn, và cho phép kiểm soát prosody tốt hơn. Các thử nghiệm trên bộ dữ liệu LSpeech chứng minh rằng FastTacotron là một mô hình tổng hợp tiếng nói tiềm năng, có thể được ứng dụng trong nhiều lĩnh vực khác nhau. Nghiên cứu này đóng góp vào sự phát triển của công nghệ tổng hợp tiếng nói, giúp tạo ra các hệ thống tương tác người-máy tự nhiên và trực quan hơn. FastTacotron là minh chứng cho sức mạnh của học sâu trong việc giải quyết các bài toán phức tạp.

6.1. Tóm Tắt Đóng Góp Chính của FastTacotron vào Lĩnh Vực

FastTacotron đóng góp vào lĩnh vực tổng hợp tiếng nói bằng cách mang đến một giải pháp hiệu quả hơn về tốc độ và chất lượng so với các mô hình trước đây. Khả năng hội tụ nhanh chóng và chất lượng giọng nói cao giúp giảm chi phí và thời gian phát triển, đồng thời mở ra nhiều cơ hội cho việc ứng dụng công nghệ này trong thực tế. Việc kiểm soát prosody linh hoạt cũng là một đóng góp quan trọng, cho phép tạo ra giọng nói phù hợp với nhiều ngữ cảnh và sở thích cá nhân.

6.2. Hướng Nghiên Cứu Tiếp Theo Khám Phá Tiềm Năng Tổng Hợp Tiếng Nói

Nghiên cứu về tổng hợp tiếng nói vẫn còn nhiều tiềm năng để khám phá. Các hướng nghiên cứu tiếp theo có thể tập trung vào việc tích hợp các mô hình học sâu tiên tiến hơn, sử dụng dữ liệu huấn luyện đa dạng hơn, và phát triển các phương pháp kiểm soát prosody tinh vi hơn. Ngoài ra, việc nghiên cứu về các khía cạnh như cảm xúc, phong cách nói, và khả năng tạo ra giọng nói cá nhân hóa cũng là những hướng đi đầy hứa hẹn. Mục tiêu cuối cùng là tạo ra các hệ thống tổng hợp tiếng nói có khả năng giao tiếp với con người một cách tự nhiên và hiệu quả nhất.

11/09/2025

Trích đoạn nội dung tài liệu

chương 1 - Tách Related work ra khỏi chương 2 Dackground để tạo thành chương riêng. - Phân lích thêm về các nghiên cứu lên quan (chương 3) - Phân tích lý do xây dựng các thành phần của mô hình đề xuất (chương 4). - Chỉ tiết hơn phần thi nghiệm (chương 5). - Trình bảy lại một số nội đung lý thuyết được tham khảo, Ngày tháng năm 2022 Giảo viên hướng dẫn Tác giả luận văn CHTỦ TỊCH HỘI BỎNG 3 Experiments and Evaluations 5.1 Dataset kh rà be 5.2 Grapheme-to-phoneme converter 5.3 Results 6 Conclusion References Abstract Speech synthesis technology is an essential component of current human-computer interaction systems, which assists users in receiving the oulpul of intelligent ma- chincs more naturally aud intuitively, and has thus received incrcasing interest in recent years, The primary use of speech synthesis or text-to-speech technology is to translate a text into spoken speech automatically.

‘The current research fo- cus is the deep learning-based end-to-end speech synthesis technology. which has a more powerful modeling ability, This report proposcs a novel dccp leaming- based speech synthesis model called FastTacotron, which can resolve some issues of previous models, Experiments on the LSpeech dataset show that FastTacotron can converge in just a couple of hours of training using a single GPU. Mareover, the proposed model can accelerate the inference process and achieve high speech quality, Furthermore, our model also allows controlling the prosody of synthesized speech, thus can create expressive speech. Keywords: Deep learning, text-to-speech.

3 Experiments and Evaluations 5.1 Dataset kh rà be 5.2 Grapheme-to-phoneme converter 5.3 Results 6 Conclusion References Declaration of Authorship and Topic Sentences Personal Information © Fullname: LAM XUAN TI + Email: thu.yn * Class: Data Science + Tel: 098 994 7001 + Program: Full-time program * ‘This thesis is performed at: Department of Computer Science - School of Information and Communication Technology * This thesis is performed: from 22/03/2021 to 24/10/2021 Goals of the Thesis © Proposing @ novel neural netwerk for Speoch Synthesis, * Conducting experiments and evaluating the proposed model. Main Tasks of the Thesis * Introduce the Spocch Synthesis problem and review traditional approaches. for this problem. * Present machine learning and deep learning background for Speech Synthesis problem.

* Propose a novel neural network-based system for Speech Synthesis. * Implement experiments and evaluation. 3 Experiments and Evaluations 5.1 Dataset kh rà be 5.2 Grapheme-to-phoneme converter 5.3 Results 6 Conclusion References * Conclude and oulline future developments Declaration of Authorship 1 - Lam Xuan ‘hu - hereby warrant that the work and presentation in this thesis are performed by myself under the supervision of Dr. Dinh Vier Sang.

All results prescuted in this thesis arc truthful and acc not copied from any other works. Hanoi, 24th Nav 2021 Auihor Lam Xuan Tha Attestation of the Supervisor on the Fulfillment of the Requirements Hanoi. 24th Nov 2021 Supervisor D Dinh Viet Sang cà Table of Contents Declaration of Authorship and ‘Topic Sentences Acknowledgement Abstract Lists of Figures Lists of Tables 1 Introduction 2 Background 21 Machine learning. ` 23 ID Convolutional neural “nelworke 2.4 Recurrent neural nerworks.

Related work 31 Autoregressive models 31 Taeowon. Non-antoregressive models.3 PastSpeech 2 Proposed method 4.1 Pre-net and Post-net 42 LSTM. 443 Variation ‘predictor pee 43.4 Length regulator 44 Vocoder 6 ee ee ee List of Figures Speech synthesis or Text-to-speech: the artificial production of hu- "ÝỶ eee qa e ees Speech synthesis is used in a wide range of applications, such as assistive technology and multimedia. eee Machine learning: a new programming paradigm.

A neural nctwork is parameterized by its weights. bee A Joss function measures the quality of the nelwork’s output. The loss score is used as a feedback signal to adjust the weights. eee Recurrent neural network.

Fee The encoder-decoder model with additive attention mechanism [1]. An alignment graph.0 eee Transformer model architecture [2]. Scaled Dot-Product Allention (leM} and. Multi lead Auention (right) E TexIlo-spoech prow Tacotron model architecture [3].

‘Tacotron 2 model architecture [4] Eorwardlacotron model architecture [5] FastSpeech model architecture [6]. FastPitch model architecture [7]. FastSpecch 2 model architecture [8]. Model architecture of FastTacotron.

ee eee The CBHG module (-D convolution bank + highway network + bidirectional GRU) [3]. This CBHG is a power module for ox trating representations from sequence | 33 The ILSTM celL. 35 Duration/Pitch/Energy Predictor. The duration, pitch.

and energy pre- dictors all have a similar model structure (but different model pa- FAMCEELS) NA NT ens 36 Length Regulator [6]. This module is uscd to expand the length pf the phoneme sequence to match the length of mel-spoctrogram sequence, as well as to control the voice speed and part of prewaly MeIGAN model architecture [9]. > = MEI los and Pích lo. Duration loss and Energy loss.

nb TransformerI'TS model [10] Declaration of Authorship and Topic Sentences Personal Information © Fullname: LAM XUAN TI + Email: thu.yn * Class: Data Science + Tel: 098 994 7001 + Program: Full-time program * ‘This thesis is performed at: Department of Computer Science - School of Information and Communication Technology * This thesis is performed: from 22/03/2021 to 24/10/2021 Goals of the Thesis © Proposing @ novel neural netwerk for Speoch Synthesis, * Conducting experiments and evaluating the proposed model. Main Tasks of the Thesis * Introduce the Spocch Synthesis problem and review traditional approaches. for this problem. * Present machine learning and deep learning background for Speech Synthesis problem.

* Propose a novel neural network-based system for Speech Synthesis. * Implement experiments and evaluation. List of Figures Speech synthesis or Text-to-speech: the artificial production of hu- "ÝỶ eee qa e ees Speech synthesis is used in a wide range of applications, such as assistive technology and multimedia. eee Machine learning: a new programming paradigm.

A neural nctwork is parameterized by its weights. bee A Joss function measures the quality of the nelwork’s output. The loss score is used as a feedback signal to adjust the weights. eee Recurrent neural network.

Fee The encoder-decoder model with additive attention mechanism [1]. An alignment graph.0 eee Transformer model architecture [2]. Scaled Dot-Product Allention (leM} and. Multi lead Auention (right) E TexIlo-spoech prow Tacotron model architecture [3].

‘Tacotron 2 model architecture [4] Eorwardlacotron model architecture [5] FastSpeech model architecture [6]. FastPitch model architecture [7]. FastSpecch 2 model architecture [8]. Model architecture of FastTacotron.

ee eee The CBHG module (-D convolution bank + highway network + bidirectional GRU) [3]. This CBHG is a power module for ox trating representations from sequence | 33 The ILSTM celL. 35 Duration/Pitch/Energy Predictor. The duration, pitch.

and energy pre- dictors all have a similar model structure (but different model pa- FAMCEELS) NA NT ens 36 Length Regulator [6]. This module is uscd to expand the length pf the phoneme sequence to match the length of mel-spoctrogram sequence, as well as to control the voice speed and part of prewaly MeIGAN model architecture [9]. > = MEI los and Pích lo. Duration loss and Energy loss.

nb TransformerI'TS model [10] Abstract Speech synthesis technology is an essential component of current human-computer interaction systems, which assists users in receiving the oulpul of intelligent ma- chincs more naturally aud intuitively, and has thus received incrcasing interest in recent years, The primary use of speech synthesis or text-to-speech technology is to translate a text into spoken speech automatically. ‘The current research fo- cus is the deep learning-based end-to-end speech synthesis technology. which has a more powerful modeling ability, This report proposcs a novel dccp leaming- based speech synthesis model called FastTacotron, which can resolve some issues of previous models, Experiments on the LSpeech dataset show that FastTacotron can converge in just a couple of hours of training using a single GPU. Mareover, the proposed model can accelerate the inference process and achieve high speech quality, Furthermore, our model also allows controlling the prosody of synthesized speech, thus can create expressive speech.

Keywords: Deep learning, text-to-speech. Declaration of Authorship and Topic Sentences Personal Information © Fullname: LAM XUAN TI + Email: thu.yn * Class: Data Science + Tel: 098 994 7001 + Program: Full-time program * ‘This thesis is performed at: Department of Computer Science - School of Information and Communication Technology * This thesis is performed: from 22/03/2021 to 24/10/2021 Goals of the Thesis © Proposing @ novel neural netwerk for Speoch Synthesis, * Conducting experiments and evaluating the proposed model. Main Tasks of the Thesis * Introduce the Spocch Synthesis problem and review traditional approaches. for this problem.

* Present machine learning and deep learning background for Speech Synthesis problem. * Propose a novel neural network-based system for Speech Synthesis. * Implement experiments and evaluation. Table of Contents Declaration of Authorship and ‘Topic Sentences Acknowledgement Abstract Lists of Figures Lists of Tables 1 Introduction 2 Background 21 Machine learning.

` 23 ID Convolutional neural “nelworke 2.4 Recurrent neural nerworks. Related work 31 Autoregressive models 31 Taeowon. Non-antoregressive models.3 PastSpeech 2 Proposed method 4.1 Pre-net and Post-net 42 LSTM. 443 Variation ‘predictor pee 43.4 Length regulator 44 Vocoder 6 ee ee ee 3 Experiments and Evaluations 5.1 Dataset kh rà be 5.2 Grapheme-to-phoneme converter 5.3 Results 6 Conclusion References 3 Experiments and Evaluations 5.1 Dataset kh rà be 5.2 Grapheme-to-phoneme converter 5.3 Results 6 Conclusion References Acknowledgements 1 am extremely grateful to my supervisor, Dr.

Dinh Viet Sang, who gave me the golden opportunity to do this wonderful project on the lopic of Speech Synthesis, which also helped me in doing a lot of rescarch and I came to know about so many new things. It was a great privilege and honor to work and study under his guidance. 1 would also like to express my gratitude to my parents for their love, caring, and sacrifices for educaling and preparing me for my future, Finally, I would like to thank my fricnds for their immense support and help during this project. Without their help, completing this project would have been very difficult, Abstract Speech synthesis technology is an essential component of current human-computer interaction systems, which assists users in receiving the oulpul of intelligent ma- chincs more naturally aud intuitively, and has thus received incrcasing interest in recent years, The primary use of speech synthesis or text-to-speech technology is to translate a text into spoken speech automatically.

‘The current research fo- cus is the deep learning-based end-to-end speech synthesis technology. which has a more powerful modeling ability, This report proposcs a novel dccp leaming- based speech synthesis model called FastTacotron, which can resolve some issues of previous models, Experiments on the LSpeech dataset show that FastTacotron can converge in just a couple of hours of training using a single GPU. Mareover, the proposed model can accelerate the inference process and achieve high speech quality, Furthermore, our model also allows controlling the prosody of synthesized speech, thus can create expressive speech. Keywords: Deep learning, text-to-speech.

* Conclude and oulline future developments Declaration of Authorship 1 - Lam Xuan ‘hu - hereby warrant that the work and presentation in this thesis are performed by myself under the supervision of Dr. Dinh Vier Sang. All results prescuted in this thesis arc truthful and acc not copied from any other works. Hanoi, 24th Nav 2021 Auihor Lam Xuan Tha Attestation of the Supervisor on the Fulfillment of the Requirements Hanoi.

24th Nov 2021 Supervisor D Dinh Viet Sang cà * Conclude and oulline future developments Declaration of Authorship 1 - Lam Xuan ‘hu - hereby warrant that the work and presentation in this thesis are performed by myself under the supervision of Dr. Dinh Vier Sang. All results prescuted in this thesis arc truthful and acc not copied from any other works. Hanoi, 24th Nav 2021 Auihor Lam Xuan Tha Attestation of the Supervisor on the Fulfillment of the Requirements Hanoi.

24th Nov 2021 Supervisor D Dinh Viet Sang cà Acknowledgements 1 am extremely grateful to my supervisor, Dr.

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ