Giới thiệu dự án
Trong kỷ nguyên chuyển đổi số và bùng nổ của trí tuệ nhân tạo (AI), hệ thống hội thoại tự động (Chatbot/Voicebot) đã trở thành trụ cột tương tác giữa doanh nghiệp và khách hàng. Theo thống kê từ Gartner, hơn 80% các doanh nghiệp trên toàn cầu đã và đang tích hợp các giải pháp giao tiếp tự động dựa trên AI vào quy trình chăm sóc khách hàng và vận hành số nhằm tối ưu hóa 30–50% chi phí hỗ trợ.
Tuy nhiên, các hệ thống chatbot truyền thống dựa trên luật (rule-based) hoặc mô hình hồi quy cổ điển (RNN/LSTM) bộc lộ nhiều hạn chế nghiêm trọng:
- Hạn chế ngữ cảnh và bùng nổ đạo hàm: Mô hình RNN/LSTM gặp hiện tượng triệt tiêu đạo hàm (vanishing gradient), suy giảm khả năng ghi nhớ các phụ thuộc xa (long-range dependencies).
- Xử lý tuần tự, độ trễ cao: Kiến trúc cũ không hỗ trợ tính toán song song trên GPU/TPU, gây nghẽn cổ chai khi xử lý dữ liệu lớn.
- Thiếu khả năng hội thoại đa phương thức (multimodal): Phần lớn hệ thống chỉ tương tác văn bản đơn thuần, chất lượng tổng hợp giọng nói kém tự nhiên, phát âm rời rạc và nhận dạng tiếng nói dễ nhiễu.
Đề tài "Ứng dụng học sâu trong xây dựng chatbot" (Thực hiện bởi: Nguyễn Đức Trí, GVHD: TS. Trần Nhật Quang – Trường Đại học Sư phạm Kỹ thuật TP.HCM) được xây dựng nhằm giải quyết triệt để các rào cản trên bằng cách tích hợp đồng bộ 4 kiến trúc học sâu tiên tiến: GPT, Whisper, Tacotron2, và WaveGlow.
flowchart LR
A[Âm thanh người dùng] --> B[Whisper STT]
B --> C[Văn bản truy vấn]
C --> D[GPT Model NLP]
D --> E[Văn bản phản hồi]
E --> F[Tacotron2 Acoustic]
F --> G[Log-Mel Spectrogram]
G --> H[WaveGlow Vocoder]
H --> I[Âm thanh giọng nói hoàn chỉnh]
Mục tiêu dự án
- Nghiên cứu & Thiết kế: Làm chủ cơ chế Attention Mechanism trong kiến trúc Transformer, cơ chế Normalizing Flow trong Flow-based Generative Models, và cấu trúc Location-Sensitive Attention.
- Xử lý dữ liệu đa phương thức: Chuẩn hóa pipeline tiền xử lý văn bản (BPE Tokenizer, Word Embedding, Positional Encoding) và tín hiệu âm thanh (Fourier Transform, Mel-Spectrogram Extraction).
- Huấn luyện mô hình chuyên biệt: Xây dựng, tối ưu hóa và huấn luyện độc lập 4 mô hình: mô hình sinh văn bản GPT, mô hình nhận dạng giọng nói Whisper, mô hình trích xuất phổ âm Tacotron2, và mô hình tổng hợp sóng âm WaveGlow.
- Tích hợp hệ thống Full-stack: Đóng gói toàn bộ pipeline AI thành dịch vụ hoàn chỉnh, xây dựng Web Application đa kênh với backend Django REST framework và frontend Angular.
- Đánh giá & Kiểm thử: Đo lường độ chính xác và hiệu năng qua các chỉ số định lượng chuẩn hóa: BLEU Score, Word Error Rate (WER), Train/Val Loss, và thời gian đáp ứng thời gian thực (real-time latency).
Phạm vi và giới hạn
- Phạm vi: Xây dựng hệ thống Voicebot tích hợp hai chiều tương tác văn bản và giọng nói thời gian thực; triển khai mô hình học sâu end-to-end trên nền tảng PyTorch.
- Giới hạn: Tập trung vào tập ngữ liệu và âm vị chuẩn tiếng Anh/tiếng Việt thực nghiệm; mô hình sinh phụ thuộc vào tài nguyên tính toán phần cứng GPU đơn cục bộ trong quá trình training.
Phân tích và thiết kế giải pháp
Phân tích hiện trạng
Bảng so sánh sau đây tổng hợp ưu nhược điểm giữa các thế hệ công nghệ chatbot:
| Tiêu chí |
Rule-Based Chatbot |
RNN / LSTM Chatbot |
Hệ thống đề xuất (Transformer + Flow-based) |
| Kiến trúc cốt lõi |
Cây quyết định / Khớp mẫu Regex |
Recurrent Neural Network / LSTM Cell |
Decoder Transformer + Encoder-Decoder + Normalizing Flow |
| Khả năng song song hóa |
Thấp (Tuần tự theo luật) |
Không hỗ trợ (Tuần tự từng bước thời gian) |
Hoàn toàn song song trên GPU/TPU |
| Xử lý phụ thuộc xa |
Không có khả năng |
Kém (Bị mất ngữ cảnh sau 10–20 token) |
Xuất sắc nhờ Self-Attention & Positional Encoding |
| Tích hợp giọng nói |
Dựa trên mẫu thu âm sẵn |
HMM / Parametric TTS (Robot giọng cứng) |
Whisper (STT) + Tacotron2 & WaveGlow (TTS giọng tự nhiên) |
| Khả năng mở rộng |
Rất khó mở rộng, dễ xung đột |
Phức tạp khi scale dữ liệu lớn |
Rất cao, dễ dàng fine-tune với dữ liệu mới |
Phân loại yêu cầu hệ thống (MoSCoW)
- Must have (Bắt buộc có):
- Xử lý tín hiệu âm thanh thành văn bản qua Whisper (WER $\le 15%$).
- Sinh văn bản phản hồi mạch lạc qua GPT Decoder Layer (BLEU $\ge 0.35$).
- Chuyển đổi văn bản thành Mel-Spectrogram với Tacotron2 và tổng hợp âm thanh dạng sóng trực tiếp qua WaveGlow.
- API giao tiếp RESTful chuẩn giữa Django Backend và Angular Client.
- Should have (Nên có):
- Giao diện tương tác kép (Nhập liệu trực tiếp từ Micro hoặc Tải tệp âm thanh
.wav).
- Trực quan hóa tiến trình lắng nghe và phản hồi của Voicebot.
- Could have (Có thể có): Hỗ trợ lưu trữ lịch sử hội thoại nhiều phiên làm việc và caching phản hồi.
- Won't have (Chưa thực hiện ở giai đoạn này): Phân tích cảm xúc đa giọng nói phức tạp (emotion-adaptive speech).
Thiết kế kiến trúc hệ thống
+-------------------------------------------------------------------------------+
| ANGULAR FRONTEND (v15+) |
| [Voice Record UI] <--> [Chat Dialogue UI] <--> [Audio Player Controls] |
+---------------------------------------+---------------------------------------+
| (HTTP REST / FormData / JSON)
+---------------------------------------v---------------------------------------+
| DJANGO BACKEND (v4.2+) |
| - API Controller: /api/v1/voicebot/process-speech /api/v1/chat/generate |
| - Preprocessing Service: Librosa (Audio) & SpaCy/RegEx (Text Tokenizer) |
+---------------------------------------+---------------------------------------+
|
+---------------------------------------v---------------------------------------+
| PYTORCH DEEP LEARNING CORE |
| +----------------------+ +----------------------+ +-----------------------+ |
| | WHISPER ASR | | GPT NLP | | TACOTRON2 + WAVEGLOW | |
| | (Audio -> Text) | | (Prompt -> Response) | | (Text -> Spectrogram | |
| | - Mel Extractor 1DCNN| | - Masked Multi-Head | | -> Audio Waveform) | |
| | - Encoder-Decoder | | - FFN + Residual Norm| | - Affine Coupling | |
| +----------------------+ +----------------------+ +-----------------------+ |
+-------------------------------------------------------------------------------+
Technology Stack chi tiết
- Backend Framework: Django 4.2.x (Python 3.9+)
- Frontend Framework: Angular 15.x, TypeScript 4.9+, RxJS
- Deep Learning Framework: PyTorch 1.13.1+cu117, TorchAudio
- Text Processing: SpaCy 3.5.x, Regex, BPE Tokenizer
- Audio Processing: Librosa 0.10.x, SoundFile, NumPy, SciPy
- Web Server / Container: Gunicorn, Uvicorn, Nginx, Docker
Thiết kế API Endpoints
1. POST /api/v1/asr/speech-to-text
- Input: multipart/form-data (audio_file: .wav, sample_rate: 16000Hz)
- Output: JSON { "status": 200, "transcript": "Hello, how can you help me today?" }
2. POST /api/v1/nlp/generate-reply
- Input: JSON { "prompt": "Hello, how can you help me today?", "max_tokens": 128 }
- Output: JSON { "status": 200, "response": "I am an AI assistant here to help you." }
3. POST /api/v1/tts/synthesize
- Input: JSON { "text": "I am an AI assistant here to help you." }
- Output: Audio stream / File payload (audio/wav)
4. POST /api/v1/voicebot/dialogue-turn
- Input: multipart/form-data (audio_stream / blob)
- Pipeline: Whisper STT -> GPT NLP -> Tacotron2 + WaveGlow TTS
- Output: JSON { "user_text": "...", "bot_text": "...", "audio_url": "/media/responses/resp_01.wav" }
Phương pháp luận và Kế hoạch thực hiện (20/02/2023 – 29/05/2023)
Dự án áp dụng mô hình phát triển lặp kết hợp nghiên cứu thực nghiệm:
- Giai đoạn 1 (20/02 – 15/03/2023): Khảo sát lý thuyết về Transformer, cơ chế Self-Attention, Flow-based Generative Models; thiết lập môi trường PyTorch và công cụ tiền xử lý dữ liệu.
- Giai đoạn 2 (16/03 – 10/04/2023): Xây dựng và huấn luyện mô hình sinh văn bản GPT cùng mô hình nhận dạng tiếng nói Whisper.
- Giai đoạn 3 (11/04 – 05/05/2023): Xây dựng mô hình trích xuất Mel-Spectrogram Tacotron2 và mạng Neural Vocoder WaveGlow; kiểm thử hàm mất mát Likelihood.
- Giai đoạn 4 (06/05 – 29/05/2023): Đóng gói pipeline kết nối Django – Angular, tối ưu hóa độ trễ phản hồi, kiểm thử hệ thống và hoàn thiện báo cáo.
Implementation và kết quả
Chi tiết thuật toán & Code Snippets cốt lõi
1. Cơ chế Scaled Dot-Product Attention & Look-Ahead Mask trong GPT
Cơ chế Attention tính toán mối liên hệ giữa các vector Query ($Q$), Key ($K$) và Value ($V$) kết hợp với mặt nạ chống nhìn trước ngữ cảnh tương lai:
$$\text{Attention}(Q, K, V, \text{mask}) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}} + \text{mask} \cdot (-\infty)\right) V$$
import torch
import torch.nn as nn
import math
class ScaledDotProductAttention(nn.Module):
def __init__(self, d_k: int):
super(ScaledDotProductAttention, self).__init__()
self.d_k = d_k
def forward(self, q: torch.Tensor, k: torch.Tensor, v: torch.Tensor, mask: torch.Tensor = None):
# Tính toán ma trận trọng số tương quan: (Batch, Heads, Seq_Len, Seq_Len)
scores = torch.matmul(q, k.transpose(-2, -1)) / math.sqrt(self.d_k)
if mask is not None:
# Gán giá trị âm vô cực vào các vị trí bị che để softmax triệt tiêu về 0
scores = scores.masked_fill(mask == 1, -1e9)
attention_weights = torch.softmax(scores, dim=-1)
output = torch.matmul(attention_weights, v)
return output, attention_weights
def create_look_ahead_mask(size: int, device: torch.device):
"""Tạo ma trận tam giác trên để che các token phía trước trong Decoder"""
mask = torch.triu(torch.ones(size, size, device=device), diagonal=1)
return mask # 1 biểu thị vị trí cần che, 0 là giữ nguyên
2. Mã hóa vị trí Sinusoidal Positional Encoding
Transformer loại bỏ tính tuần tự của RNN nên cần vector mã hóa vị trí để bảo toàn trật tự chuỗi:
$$PE_{(pos, 2i)} = \sin\left(\frac{pos}{10000^{2i/d_{model}}}\right), \quad PE_{(pos, 2i+1)} = \cos\left(\frac{pos}{10000^{2i/d_{model}}}\right)$$
class PositionalEncoding(nn.Module):
def __init__(self, d_model: int, max_len: int = 5000):
super(PositionalEncoding, self).__init__()
pe = torch.zeros(max_len, d_model)
position = torch.arange(0, max_len, dtype=torch.float).unsqueeze(1)
div_term = torch.exp(torch.arange(0, d_model, 2).float() * (-math.log(10000.0) / d_model))
pe[:, 0::2] = torch.sin(position * div_term)
pe[:, 1::2] = torch.cos(position * div_term)
self.register_buffer('pe', pe.unsqueeze(0))
def forward(self, x: torch.Tensor):
# x shape: (batch_size, seq_len, d_model)
return x + self.pe[:, :x.size(1), :]
3. Hàm Loss trong Mô hình WaveGlow (Normalizing Flow)
WaveGlow tối ưu hóa phân phối xác suất từ phân phối chuẩn Gaussian $Z \sim \mathcal{N}(0, I)$ sang miền sóng âm $X$ qua phép biến đổi khả nghịch Affine Coupling Layer:
$$\mathcal{L}(x, \theta) = -\log p_\theta(z) - \sum_{i=1}^k \log \left| \det \left( J(f_i^{-1}(x_i)) \right) \right|$$
Trong đó ma trận Jacobian $J$ có định thức:
$$\log |\det(J(f^{-1}(x)))| = \sum_{j} s(x_{1:d})_j$$
def waveglow_loss(z: torch.Tensor, log_s_list: list, log_det_w_list: list, sigma: float = 1.0):
"""
Tính hàm mất mát Maximum Likelihood cho Flow-based WaveGlow
z: Vector ngẫu nhiên sau chuỗi biến đổi nghịch đảo
log_s_list: Danh sách scaling factor trong Affine Coupling Layers
log_det_w_list: Định thức của ma trận Invertible 1x1 Convolutions
"""
# Negative log-likelihood của phân phối Gaussian
log_p_z = -0.5 * (torch.log(torch.tensor(2.0 * math.pi)) + 2.0 * math.log(sigma) + (z ** 2) / (sigma ** 2))
log_p_z = torch.sum(log_p_z)
# Tổng định thức Jacobian từ các tầng biến đổi
log_det_jacobian = 0.0
for log_s in log_s_list:
log_det_jacobian += torch.sum(log_s)
for log_det_w in log_det_w_list:
log_det_jacobian += log_det_w
loss = -(log_p_z + log_det_jacobian)
return loss / (z.size(0) * z.size(1) * z.size(2))
Kết quả thử nghiệm và Đánh giá định lượng
Bảng tổng hợp tham số và chỉ số đánh giá thực nghiệm của 4 mô hình:
| Mô hình |
Tổng tham số |
Loss huấn luyện (Train Loss) |
Loss kiểm thử (Val Loss) |
Metric đánh giá chính |
Kết quả đạt được |
| GPT |
12.4M |
1.82 |
2.14 |
BLEU Score |
0.384 (Hội thoại tự nhiên) |
| Whisper |
37.8M |
0.45 |
0.62 |
WER (Word Error Rate) |
8.7% (Nhận dạng chuẩn xác) |
| Tacotron2 |
28.1M |
0.28 |
0.36 |
Mel-Spectrogram MSE |
0.031 (Khớp phổ âm chuẩn) |
| WaveGlow |
87.5M |
-4.12 (Log-Likelihood) |
-3.95 (Log-Likelihood) |
MOS (Mean Opinion Score) |
4.25 / 5.0 (Âm trong, rõ) |
Tiến trình kiểm thử hệ thống Voicebot:
[Test Scenario 1] Chuyển đổi giọng nói Micro -> STT Whisper: Thành công 100%, độ trễ trung bình 180ms.
[Test Scenario 2] Sinh phản hồi văn bản GPT: Đạt 42 token/giây trên GPU NVIDIA RTX, ngữ cảnh chính xác.
[Test Scenario 3] Tổng hợp âm thanh Tacotron2 + WaveGlow: Thời gian tổng hợp 320ms cho câu 25 từ.
[Test Scenario 4] Kiểm thử luồng Voicebot End-to-End: Round-trip latency ~650ms, đáp ứng chuẩn tương tác thời gian thực.
Đổi mới và đóng góp
- Tích hợp Kiến trúc Đa tầng End-to-End Độc lập: Thay vì phụ thuộc vào các dịch vụ đám mây đóng (Black-box Cloud APIs) như Google Speech API hay OpenAI Cloud, đề tài làm chủ hoàn toàn pipeline mã nguồn mở từ khâu trích xuất đặc trưng sóng âm đến biểu diễn ngôn ngữ.
- Cơ chế Flow-based WaveGlow tối ưu chất lượng âm thanh: Giải quyết nhược điểm tạo giọng nghẹt, giật cục của thuật toán Griffin-Lim truyền thống, nâng cao chỉ số đánh giá Mean Opinion Score (MOS) từ 2.8 lên 4.25 (+51.7% độ tự nhiên).
- Mặt nạ kết hợp Look-Ahead & Padding Mask trong Decoder: Tối ưu thuật toán Attention giúp triệt tiêu hoàn toàn 100% việc tính toán thừa trên các vị trí đệm (padding value
0), tăng tốc độ suy luận của GPT thêm 28.4%.
- Kiến trúc Mel Extractor 2 lớp 1D-CNN + GeLU trong Whisper: Giúp trích xuất đặc trưng âm học đa tần số vượt trội so với các bộ trích xuất MFCC thông thường, giảm tỷ lệ lỗi từ (WER) xuống dưới 9% trên môi trường có tạp âm nhẹ.
Ứng dụng thực tế và triển khai
Tình huống ứng dụng thực tế
- Tổng đài chăm sóc khách hàng tự động (Voice AI Agent): Tiếp nhận cuộc gọi của khách hàng, giải đáp thắc mắc về đơn hàng, thông tin dịch vụ hoàn toàn tự động bằng giọng nói 24/7.
- Hỗ trợ người khiếm thị / khiếm thính: Hỗ trợ chuyển đổi văn bản sách báo thành giọng đọc tự nhiên (TTS) và chuyển đổi các bài giảng/audio thành phụ đề văn bản chính xác (STT).
- Trợ lý ảo trên các thiết bị nhúng IoT: Tích hợp bộ xử lý hội thoại cục bộ cho nhà thông minh (Smart Home) mà không làm rò rỉ dữ liệu riêng tư ra ngoài Internet.
Yêu cầu phần cứng và Quy trình triển khai
# 1. Khởi tạo môi trường ảo Python và cài đặt thư viện
conda create -n voicebot_env python=3.9 -y
conda activate voicebot_env
pip install torch==1.13.1+cu117 torchaudio==0.13.1 --extra-index-url https://download.pytorch.org/whl/cu117
pip install django djangorestframework librosa spacy soundfile
# 2. Khởi chạy Django Backend Server
cd backend_django
python manage.py migrate
python manage.py runserver 0.0.0.0:8000
# 3. Khởi chạy Angular Client
cd ../frontend_angular
npm install
ng serve --host 0.0.0.0 --port 4200
- Yêu cầu phần cứng tối thiểu (Suy luận/Inference):
- CPU: Intel Core i7 / AMD Ryzen 7 (8 cores/16 threads).
- GPU: NVIDIA RTX 3060 12GB VRAM hoặc tương đương (Hỗ trợ CUDA Compute Capability 7.0+).
- RAM: Tối thiểu 16GB.
- Ổ cứng: 20GB SSD trống.
- Phần cứng đề xuất cho Huấn luyện (Training): GPU NVIDIA RTX 3090 24GB VRAM / A100 Tensor Core.
Hạn chế và hướng phát triển
Hạn chế kỹ thuật
- Kích thước mô hình WaveGlow còn khá nặng (~87.5 triệu tham số), yêu cầu dung lượng bộ nhớ VRAM GPU lớn khi chạy đồng thời cả 4 mô hình.
- Tiếng nói tổng hợp trong một số trường hợp ngữ điệu phức tạp hoặc từ ngữ mượn tiếng nước ngoài chưa thực sự biểu cảm như giọng người thật.
Hướng phát triển trong tương lai
- Tối ưu hóa mô hình: Áp dụng kỹ thuật lượng tử hóa trọng số (Quantization INT8/FP16), TensorRT và ONNX Runtime để giảm 50% dung lượng VRAM và tăng gấp đôi tốc độ suy luận.
- Tích hợp FastSpeech2 / HiFi-GAN: Nghiên cứu thay thế Tacotron2 và WaveGlow bằng HiFi-GAN nhằm giảm thời gian tổng hợp âm thanh xuống dưới 100ms.
- Mở rộng mô hình ngôn ngữ lớn (LLM): Nâng cấp kiến trúc GPT lên các mô hình nền tảng như LLaMA-2/3 Fine-tuned với kỹ thuật LoRA trên tập dữ liệu tiếng Việt chuyên ngành.
Đối tượng hưởng lợi
- Sinh viên & Học viên ngành CNTT/AI: Nắm bắt quy trình bài bản từ lý thuyết toán học (Jacobian, Log-Likelihood, Multi-Head Attention) đến thực tế lập trình mô hình học sâu end-to-end trên PyTorch.
- Kỹ sư AI & Lập trình viên: Tham khảo mã nguồn kiến trúc chuẩn hóa, giải pháp kết nối pipeline phức tạp (STT $\rightarrow$ NLP $\rightarrow$ TTS) với kiến trúc Web Service hiện đại (Django + Angular).
- Doanh nghiệp & Startup: Có ngay khung giải pháp (framework) tự chủ 100% công nghệ trợ lý ảo Voicebot mà không tốn chi phí thuê API của bên thứ ba, bảo mật tuyệt đối dữ liệu nội bộ.
- Nhà nghiên cứu khoa học: Cung cấp số liệu thực nghiệm định lượng về BLEU, WER, và hàm mất mát Normalizing Flow trong bài toán xử lý tiếng nói và ngôn ngữ tự nhiên.
Câu hỏi thường gặp
1. Hệ thống có thể triển khai hoàn toàn Offline mà không cần kết nối mạng không?
Có. Hệ thống được đóng gói hoàn toàn trên nền tảng PyTorch và Django. Khi đã tải trọng số mô hình cục bộ, Voicebot có thể chạy độc lập trong mạng nội bộ (On-premise/Offline) mà không gửi dữ liệu ra máy chủ bên ngoài, đảm bảo an toàn bảo mật dữ liệu tuyệt đối.
2. Vì sao đề tài chọn kết hợp Tacotron2 và WaveGlow thay vì các mô hình TTS truyền thống?
Các mô hình TTS truyền thống sử dụng ghép nối âm mẫu (Concatenative TTS) hoặc thuật toán Griffin-Lim thường tạo ra âm thanh có âm sắc máy móc, nhiều tiếng xì và không mượt mà. Tacotron2 đóng vai trò dự đoán phổ âm Log-Mel chính xác theo ngữ âm, trong khi WaveGlow (sử dụng mạng Normalizing Flow) tổng hợp trực tiếp sóng âm thô với độ chi tiết cao, mang lại giọng đọc tự nhiên tương đương người thật.
3. Cần làm gì để fine-tune mô hình GPT cho một lĩnh vực chuyên ngành cụ thể (Y tế, Tài chính)?
Bạn chỉ cần chuẩn bị tập dữ liệu hội thoại dạng câu hỏi - trả lời theo định dạng văn bản chuẩn, tiến hành tiền xử lý qua BPE Tokenizer và đóng băng (freeze) các lớp Embedding ban đầu, sau đó tiếp tục huấn luyện tinh chỉnh (Fine-tuning) các lớp Decoder Layer với tốc độ học nhỏ (Learning Rate $\approx 2\times 10^{-5}$).
4. Giải pháp nào giúp giảm độ trễ khi người dùng nói câu quá dài?
Hệ thống có thể áp dụng cơ chế xử lý luồng âm thanh liên tục (Streaming STT) trong Whisper, kết hợp chia nhỏ câu văn bản phản hồi theo dấu câu để đưa vào Tacotron2 và WaveGlow phát âm thanh theo từng cụm (Chunking pipeline), giúp người dùng nghe thấy phản hồi ngay sau 300–400ms.
5. Chi phí đầu tư phần cứng để vận hành hệ sinh thái này là bao nhiêu?
Để phục vụ quy mô vừa và nhỏ (1–5 yêu cầu đồng thời), một máy chủ trang bị 01 GPU NVIDIA RTX 3060 12GB (chi phí đầu tư khoảng 8–10 triệu VNĐ) là đủ đáp ứng toàn bộ pipeline suy luận thời gian thực mà không phát sinh thêm chi phí bản quyền định kỳ hàng tháng.
Kết luận
Đồ án tốt nghiệp "Ứng dụng học sâu trong xây dựng chatbot" đã hoàn thành xuất sắc toàn bộ các mục tiêu nghiên cứu và thực nghiệm đề ra. Dự án chứng minh tính khả thi vượt trội của việc kết hợp các kiến trúc học sâu hiện đại nhất (GPT, Whisper, Tacotron2, WaveGlow) để tạo nên một hệ thống Voicebot tương tác thông minh, phản hồi mượt mà và tự nhiên cả về mặt ngữ nghĩa lẫn âm thanh.
Không chỉ dừng lại ở lý thuyết hàn lâm, công trình đã hiện thực hóa thành công sản phẩm ứng dụng thực tế với giao diện Web trực quan, mở ra tiềm năng ứng dụng rộng lớn cho các tổng đài tự động, thiết bị thông minh và trợ lý ảo cá nhân hóa. Đây là nền tảng vững chắc để các nhà phát triển tiếp tục mở rộng sang các mô hình ngôn ngữ lớn và tối ưu hóa biên dịch trên các thiết bị nhúng trong tương lai.
