Bối cảnh và vấn đề nghiên cứu
Trong bối cảnh số hóa ngành y tế và sự bùng nổ của dữ liệu thông tin sức khỏe, khối lượng hồ sơ bệnh nhân, tài liệu nghiên cứu khoa học cùng các hướng dẫn chăm sóc sức khỏe đã vượt quá khả năng xử lý thủ công của con người. Tình trạng này gây nên hiện tượng quá tải thông tin, khiến việc tra cứu nhanh của người dùng phổ thông cũng như chuyên gia y tế gặp nhiều trở ngại. Người dùng thường gặp khó khăn khi tìm hiểu các khía cạnh bệnh học cơ bản như nguyên nhân, triệu chứng, phòng ngừa, phác đồ điều trị, đường lây truyền, đối tượng nguy cơ và phương pháp chẩn đoán. Sự chậm trễ trong việc tiếp cận thông tin y tế chính xác có thể dẫn đến chẩn đoán muộn hoặc điều trị không hiệu quả. Từ thực tiễn đó, đồ án tốt nghiệp chuyên ngành Kỹ thuật Dữ liệu tại Trường Đại học Sư phạm Kỹ thuật Thành phố Hồ Chí Minh đặt ra mục tiêu xây dựng một hệ thống hỏi đáp y tế thông minh bằng tiếng Việt nhằm tự động hóa quy trình cung cấp thông tin y khoa có độ tin cậy cao.
Nhiệm vụ nghiên cứu của đề tài được phân định cụ thể thành hai nhóm:
- Nhiệm vụ lý thuyết: Tìm hiểu kiến trúc Transformer, mô hình ngôn ngữ BARTpho, các phương pháp trích xuất câu trả lời từ văn bản, và hệ thống truy xuất tri thức tăng cường dựa trên đồ thị (GraphRAG); đồng thời khảo cứu các công trình hỏi đáp y tế tiếng Việt liên quan.
- Nhiệm vụ thực hành: Thu thập và tiền xử lý tập dữ liệu y tế; tinh chỉnh (fine-tune) mô hình BARTpho phục vụ bài toán trích xuất câu trả lời dựa trên việc xác định vị trí bắt đầu (
answer_start) và kết thúc (answer_end); xây dựng đồ thị tri thức trên nền tảng cơ sở dữ liệu đồ thị để tích hợp truy xuất GraphRAG; huấn luyện mô hình sinh với LLaMA để so sánh đối chuẩn; chuyển đổi mô hình sang định dạng ONNX; và xây dựng giao diện ứng dụng tích hợp backend cho hệ thống hỏi đáp.
Đối tượng và phạm vi nghiên cứu:
- Đối tượng nghiên cứu: Các phương pháp xử lý ngôn ngữ tự nhiên tiếng Việt, kỹ thuật trích xuất thông tin y khoa, kiến trúc GraphRAG và mô hình ngôn ngữ BARTpho.
- Phạm vi dữ liệu: Tập trung vào dữ liệu chuyên ngành y tế bằng tiếng Việt về thông tin bệnh lý và thuốc, được thu thập từ các nguồn trực tuyến uy tín gồm Vinmec và cẩm nang y khoa MSD.
- Phạm vi thời gian thực hiện: Đề tài được triển khai từ ngày 19/02/2025 đến ngày 07/06/2025.
Cơ sở lý thuyết và phương pháp
Đề tài vận dụng khung lý thuyết toàn diện về mạng nơ-ron sâu và các kiến trúc mô hình ngôn ngữ lớn (LLM):
- Nền tảng kiến trúc: Mạng Transformer với cơ chế chú ý tự thân đa đầu (Multi-Head Attention với $h=8$ đầu chú ý, kích thước $d_k = d_v = 64$), cơ chế mã hóa vị trí (Positional Encoding) dựa trên các hàm điều hòa sin và cosin, cùng cơ chế Attention tích chập đã tinh chỉnh (Scaled Dot-Product Attention).
- Hàm kích hoạt và kỹ thuật chuẩn hóa: Khảo cứu các hàm kích hoạt gồm ReLU, Gaussian Error Linear Unit (GeLU) cùng các biến thể Gated Linear Units (GLU, ReGLU, GEGLU, SwiGLU); kỹ thuật chuẩn hóa lớp (Layer Normalization) và biến thể tối ưu tính toán Root Mean Square Normalization (RMSNorm).
- Mô hình ngôn ngữ nòng cốt: Kiến trúc BART kết hợp giữa bộ mã hóa hai chiều (bi-directional encoder từ BERT) và bộ giải mã tự hồi quy (autoregressive decoder từ GPT) theo nguyên lý auto-encoder loại bỏ nhiễu (denoising auto-encoder); phiên bản tiền huấn luyện đặc thù cho tiếng Việt là BARTpho.
- Kiến trúc truy xuất: Hệ thống truy xuất tăng cường RAG truyền thống và bước phát triển tiếp theo là GraphRAG, kết hợp cấu trúc đồ thị tri thức (Knowledge Graph) để liên kết ngữ nghĩa giữa các thực thể bệnh, triệu chứng và phương pháp điều trị.
- Các nghiên cứu tiền đề làm cơ sở đối chuẩn: Bộ dữ liệu hỏi đáp y tế trừu tượng ViMedAQA (Trần Minh-Nam và cộng sự, 2024), hệ thống hai giai đoạn SPBERTQA kết hợp Sentence-BERT và BM25 (Nguyễn Thị Hồng Nhung và cộng sự, 2022), mô hình tiền huấn luyện y tế ViHealthBERT (Nguyễn Minh và cộng sự, 2022), và mô hình ViBioGPT (Hùng Nguyễn, 2024).
Phương pháp nghiên cứu thực nghiệm được triển khai theo quy trình kỹ thuật dữ liệu:
- Phương pháp thu thập dữ liệu: Sử dụng kỹ thuật cào dữ liệu tự động (web scraping) để trích xuất bài viết về bệnh lý và dược phẩm từ Vinmec và MSD.
- Phương pháp biểu diễn và mô hình hóa tri thức: Ánh xạ thực thể và quan hệ y khoa vào cơ sở dữ liệu đồ thị Neo4j thông qua công cụ hỗ trợ Neo4j Aura và LLM Graph Builder, truy xuất thông tin bằng ngôn ngữ truy vấn Cypher.
- Phương pháp tiền xử lý văn bản: Sử dụng các giải pháp phân đoạn tiểu từ (subword tokenization như BPE, SentencePiece) nhằm giảm thiểu hiện tượng từ ngoài từ điển (OOV); cấu trúc hóa văn bản thành định dạng cặp câu hỏi - ngữ cảnh - câu trả lời có gán nhãn chỉ số vị trí bắt đầu và kết thúc (
answer_start, answer_end).
- Phương pháp huấn luyện: Fine-tuning mô hình BARTpho cho tác vụ trích xuất câu trả lời (extractive question answering); đồng thời tinh chỉnh mô hình LLaMA trên cùng tập dữ liệu để đánh giá chéo.
- Phương pháp đánh giá: Sử dụng các thước đo tự động chuẩn hóa trong xử lý ngôn ngữ tự nhiên gồm BLEU và các biến thể của thang đo ROUGE (ROUGE-S, ROUGE-W, ROUGE-SU).
Thiết kế và triển khai
Hệ thống hỏi đáp sức khỏe được thiết kế dưới dạng một pipeline tích hợp giữa cơ sở dữ liệu đồ thị và mô hình ngôn ngữ trích xuất:
| Thành phần hệ thống |
Công nghệ / Nền tảng |
Chức năng chi tiết |
| Nguồn dữ liệu |
Trang y tế Vinmec, cẩm nang y khoa MSD |
Cung cấp tài liệu thô về bệnh học, dược lý, triệu chứng và cách chăm sóc |
| Đồ thị tri thức (KG) |
Neo4j, Neo4j Aura, LLM Graph Builder |
Lưu trữ các thực thể y tế (bệnh, triệu chứng, thuốc) và liên kết ngữ nghĩa; truy vấn qua Cypher |
| Tiền xử lý & Tạo mẫu |
Thuật toán Tokenizer tiểu từ, gán nhãn span |
Xử lý nhiễu văn bản, định vị vị trí câu trả lời (answer_start, answer_end) trong ngữ cảnh |
| Mô hình trích xuất |
BARTpho (Fine-tuned) |
Tiếp nhận câu hỏi và ngữ cảnh truy xuất từ đồ thị để xác định chính xác đoạn câu trả lời |
| Mô hình sinh đối chuẩn |
LLaMA |
Đóng vai trò đối chứng thực nghiệm cho tác vụ sinh câu trả lời y tế |
| Tối ưu hóa suy luận |
Open Neural Network Exchange (ONNX) |
Đóng gói và lưu trữ mô hình sau huấn luyện để tăng tốc suy luận và giảm tiêu hao phần cứng |
| Triển khai ứng dụng |
Backend phục vụ chatbot, giao diện người dùng |
Tiếp nhận câu hỏi tự nhiên từ người dùng, thực thi truy vấn đồ thị và phản hồi kết quả |
Quy trình hoạt động tích hợp bắt đầu khi người dùng nhập câu hỏi liên quan đến sức khỏe. Thay vì chỉ truy xuất văn bản phẳng như RAG truyền thống, hệ thống kích hoạt cơ chế GraphRAG để truy vấn đồ thị tri thức trên Neo4j nhằm xác định các thực thể y khoa liên quan (ví dụ: mối liên hệ giữa một bệnh lý cụ thể với nguyên nhân, triệu chứng cảnh báo và nhóm thuốc tương ứng). Ngữ cảnh có cấu trúc này được trích xuất và đưa vào mô hình BARTpho đã tinh chỉnh. Mô hình tiến hành phân tích ngữ nghĩa hai chiều và dự đoán phân phối xác suất của vị trí bắt đầu và kết thúc, trích xuất chuẩn xác nội dung trả lời từ ngữ cảnh. Mô hình sau khi huấn luyện qua nhiều epoch được chuyển đổi sang định dạng ONNX nhằm tối ưu hóa hiệu năng thực thi trên môi trường máy chủ phục vụ thực tế.
Nội dung chính theo từng chương
CHƯƠNG 1: TỔNG QUAN VỀ HỆ THỐNG HỎI ĐÁP (CHATBOT)
Chương này hệ thống hóa tiến trình phát triển lịch sử của công nghệ chatbot và nền tảng xử lý ngôn ngữ tự nhiên:
- Lược sử phát triển: Điểm lại các mốc phát triển tiêu biểu từ hệ thống ELIZA dựa trên nhận dạng mẫu tại MIT (thập niên 1960), PARRY mô phỏng bệnh nhân hoang tưởng (thập niên 1970), SmarterChild tích hợp tin nhắn tức thời khai thác dữ liệu thời gian thực (những năm 2000), Siri của Apple kết hợp AI cá nhân hóa (2011), cho đến các mô hình ngôn ngữ lớn thuộc dòng GPT của OpenAI (GPT-2 với 1,5 tỷ tham số năm 2019, GPT-3 với 175 tỷ tham số năm 2020, GPT-3.5 và GPT-4).
- Các giai đoạn phân tích trong NLP: Làm rõ ba tầng bậc phân tích ngôn ngữ gồm phân tích cú pháp (Syntactic Analysis) nhằm xác định trật tự và cấu trúc ngữ pháp; phân tích ngữ nghĩa (Semantic Analysis) nhằm giải mã ý nghĩa của từ ngữ theo bối cảnh; và phân tích ngữ dụng (Pragmatic Analysis) nhằm nắm bắt ý định người dùng trong bối cảnh giao tiếp cụ thể.
- Kỹ thuật tách từ (Tokenization): Trình bày công thức ánh xạ chuỗi văn bản $D$ thành tập hợp token $T = {t_1, t_2, \dots, t_n}$ theo ba cấp độ (từ, ký tự, tiểu từ). Chương phân tích vai trò của các thuật toán Byte Pair Encoding (BPE), SentencePiece và WordPiece trong việc triệt tiêu hiện tượng từ ngoài từ điển (OOV) đối với mô hình BARTpho.
- Đặc thù lĩnh vực y tế: Phân loại các nhóm câu hỏi y tế phổ biến của người dùng thành: câu hỏi định nghĩa bệnh/thuốc, câu hỏi nguyên nhân, câu hỏi phác đồ điều trị, câu hỏi chẩn đoán suy đoán và câu hỏi về tương tác/liều dùng thuốc; đồng thời phân tích rào cản do ngôn ngữ diễn đạt tự nhiên thiếu chuẩn hóa y khoa.
CHƯƠNG 2: NỀN TẢNG KỸ THUẬT VÀ CÔNG NGHỆ CHO MÔ HÌNH NGÔN NGỮ LỚN
Chương này tập trung trình bày các công thức toán học và nguyên lý cấu trúc của mạng học sâu ứng dụng trong mô hình ngôn ngữ:
- Cơ chế hàm kích hoạt: Giới thiệu hàm $\text{ReLU}(x) = \max(0, x)$ và hiện tượng "dying neuron"; hàm $\text{GeLU}(x) = x \cdot \Phi(x) \approx x \cdot \frac{1}{2}[1 + \text{erf}(x/\sqrt{2})]$; cấu trúc Gated Linear Units (GLU) và các biến thể ReGLU, GEGLU, SwiGLU nhằm nâng cao khả năng biểu diễn ngữ cảnh phi tuyến tính.
- Kỹ thuật chuẩn hóa và nhúng: So sánh cơ chế Layer Normalization (tính toán dựa trên giá trị trung bình $\mu$ và độ lệch chuẩn $\sigma$) với Root Mean Square Normalization (RMSNorm, tối ưu hóa dựa trên căn bậc hai của bình phương trung bình mà không cần tính trung bình phân phối). Phân tích ma trận nhúng $W_e$ kích thước $V \times d$ để chuyển đổi token sang vector đa chiều.
- Cấu trúc Transformer: Trình bày cơ chế Positional Encoding sử dụng các hàm tần số sin và cosin để bảo toàn thứ tự từ trong chuỗi; phân tích cơ chế Scaled Dot-Product Attention:
$$\text{Attention}(Q, K, V) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V$$
và cơ chế Multi-Head Attention song song gồm 8 đầu chú ý.
- Phân loại kiến trúc: Phân định ranh giới giữa mô hình Encoder-Decoder, mô hình Encoder-only (huấn luyện qua hàm mất mát Masked Language Modeling $\mathcal{L}_{\text{MLM}}$), và mô hình Decoder-only (chiến lược sinh từ thông qua Greedy Search, Top-$k$ và Top-$p$ Nucleus Sampling).
- Kiến trúc BART và BARTpho: Phân tích cơ chế hoạt động của BART khi tích hợp bộ mã hóa hai chiều từ BERT và bộ giải mã tự hồi quy từ GPT; cơ chế huấn luyện bán giám sát và khử nhiễu văn bản; sự thích ứng vượt trội của BARTpho trên tập ngữ liệu tiếng Việt.
- Cơ chế GraphRAG và định dạng ONNX: Phân tích quy trình Indexing văn bản sang Knowledge Graph để vượt qua nhược điểm thiếu cấu trúc của RAG truyền thống; giới thiệu chuẩn trung gian ONNX hỗ trợ triển khai đa nền tảng phần cứng.
CHƯƠNG 3: XÂY DỰNG VÀ ĐÁNH GIÁ HỆ THỐNG HỎI ĐÁP Y TẾ DỰA TRÊN BARTPHO KẾT HỢP GRAPH RAG
Chương này mô tả chi tiết quá trình hiện thực hóa giải pháp và kiểm thử thực nghiệm:
- Xây dựng dữ liệu đồ thị trên Neo4j: Thiết lập cơ sở dữ liệu đồ thị với Neo4j Aura; ứng dụng công cụ LLM Graph Builder để trích xuất tự động các thực thể y tế từ tài liệu thu thập được; thiết kế các câu truy vấn mẫu bằng Cypher phục vụ tìm kiếm thông tin về bệnh lý và dược phẩm.
- Pipeline xử lý dữ liệu huấn luyện: Tiến hành thu thập bài viết từ Vinmec và MSD; phân tích cấu trúc ngữ nghĩa để sinh các cặp câu hỏi và câu trả lời; xác định nhãn vị trí chỉ mục bắt đầu và kết thúc của câu trả lời tương ứng trong đoạn văn bản ngữ cảnh.
- Quy trình Fine-tuning BARTpho: Thiết lập môi trường huấn luyện trên phần cứng GPU; cấu hình siêu tham số (tốc độ học, kích thước lô - batch size, số epoch); theo dõi đường cong suy giảm của hàm mất mát (Loss Function qua từng epoch).
- Tích hợp và đánh giá thực nghiệm: Kết nối mô hình trích xuất với đồ thị GraphRAG; thực hiện kiểm thử trên bộ dữ liệu kiểm tra độc lập; tính toán các thang đo BLEU và ROUGE; so sánh hiệu năng chi tiết giữa BARTpho và LLaMA, cũng như so sánh hiệu quả truy xuất giữa RAG truyền thống và GraphRAG.
CHƯƠNG 4: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
Chương này tổng kết toàn bộ kết quả nghiên cứu, chỉ rõ những điểm đã hoàn thành của đề tài bao gồm xây dựng thành công pipeline dữ liệu y tế tiếng Việt, tích hợp đồ thị tri thức Neo4j với mô hình ngôn ngữ BARTpho, và triển khai mô hình sang định dạng ONNX. Đồng thời, chương trình bày thẳng thắn các hạn chế còn tồn tại về tài nguyên phần cứng, quy mô tập dữ liệu và vạch ra định hướng mở rộng hệ thống trong tương lai.
Kết quả và đóng góp
Đồ án ghi nhận các kết quả thực nghiệm và đóng góp kỹ thuật cụ thể:
- Hoàn thiện pipeline thu thập và gán nhãn dữ liệu hỏi đáp y tế tiếng Việt từ các nguồn uy tín Vinmec và MSD, tạo lập bộ dữ liệu huấn luyện có cấu trúc phục vụ tác vụ trích xuất câu trả lời với chỉ số nhãn vị trí.
- Xây dựng thành công cơ sở dữ liệu đồ thị tri thức y tế trên Neo4j bằng LLM Graph Builder và ngôn ngữ Cypher, tổ chức liên kết có cấu trúc giữa các thực thể bệnh học và thuốc.
- Thực nghiệm chứng minh hiệu quả của việc kết hợp mô hình ngôn ngữ với đồ thị tri thức so với các phương pháp truyền thống trên tập dữ liệu kiểm thử y tế:
| Phương diện so sánh |
Phương án đối chứng |
Phương án đề xuất / cải tiến |
Kết quả ghi nhận từ thực nghiệm |
| Khả năng truy xuất tri thức |
RAG truyền thống (tìm kiếm văn bản thuần túy) |
GraphRAG (truy xuất dựa trên đồ thị tri thức Neo4j) |
GraphRAG vượt trội về khả năng liên kết đa thực thể, cung cấp ngữ cảnh có cấu trúc mạch lạc hơn cho mô hình trả lời |
| Hiệu năng mô hình hỏi đáp |
LLaMA (mô hình sinh ngôn ngữ) |
BARTpho (mô hình trích xuất tinh chỉnh) |
BARTpho đạt kết quả tốt trên các thang đo BLEU và ROUGE nhờ bám sát ngữ cảnh trích xuất và tối ưu hóa riêng cho tiếng Việt |
| Tối ưu hóa suy luận |
Triển khai mô hình trọng số gốc |
Chuyển đổi mô hình sang định dạng ONNX |
Giảm thiểu độ trễ suy luận, tiêu tốn ít tài nguyên hơn khi tích hợp vào backend hệ thống hỏi đáp |
- Đóng góp khoa học và ứng dụng: Đồ án đề xuất một hướng tiếp cận kết hợp giữa biểu đồ tri thức (GraphRAG) và mô hình ngôn ngữ tiếng Việt (BARTpho) nhằm giải quyết bài toán hỏi đáp y khoa chuyên sâu, hạn chế hiện tượng suy diễn sai lệch ngữ cảnh thường gặp ở các mô hình sinh văn bản tự do.
Hạn chế và hướng nghiên cứu tiếp
Hạn chế của đề tài:
- Quy mô dữ liệu huấn luyện và đồ thị tri thức mới chỉ tập trung vào nguồn thông tin cào từ Vinmec và MSD, chủ yếu bao quát các nhóm bệnh và thuốc phổ biến mà chưa bao phủ toàn diện toàn bộ danh mục y khoa chuyên sâu.
- Quá trình huấn luyện và tối ưu hóa siêu tham số chịu ràng buộc bởi tài nguyên tính toán phần cứng (dung lượng bộ nhớ RAM và GPU), ảnh hưởng đến tốc độ huấn luyện mô hình với số lượng epoch lớn.
- Khả năng xử lý các câu hỏi phức tạp chứa nhiều thuật ngữ y khoa địa phương hoặc cách diễn đạt quá nhập nhằng của người dùng vẫn còn gặp sai sót trong khâu phân tích ngữ dụng.
Hướng nghiên cứu tiếp:
- Mở rộng phạm vi thu thập dữ liệu y tế từ các nguồn tài liệu y khoa chính thống khác nhằm gia tăng độ phong phú cho đồ thị tri thức Neo4j.
- Tối ưu hóa tốc độ truy vấn Cypher và giảm thiểu độ trễ của pipeline tích hợp GraphRAG trong môi trường tương tác thời gian thực.
- Hoàn thiện giao diện ứng dụng trên nền tảng web và thiết bị di động, bổ sung cơ chế kiểm duyệt nội dung chuyên môn nhằm nâng cao tính ứng dụng lâm sàng và hỗ trợ người dùng thực tế.
Giá trị tham khảo
Đồ án tốt nghiệp là tài liệu tham khảo cho:
- Sinh viên và học viên chuyên ngành Kỹ thuật Dữ liệu, Công nghệ Thông tin, Trí tuệ Nhân tạo đang nghiên cứu về xử lý ngôn ngữ tự nhiên tiếng Việt và các hệ thống hỏi đáp chuyên ngành.
- Các kỹ sư dữ liệu và nhà phát triển quan tâm đến giải pháp tích hợp Retrieval-Augmented Generation với đồ thị tri thức (GraphRAG) thông qua cơ sở dữ liệu Neo4j.
- Các nội dung đáng tham khảo chuyên sâu trong tài liệu bao gồm:
- Cơ sở toán học chi tiết về các hàm kích hoạt (GeLU, SwiGLU), kỹ thuật chuẩn hóa (LayerNorm, RMSNorm) và cơ chế Attention trong kiến trúc Transformer.
- Pipeline thiết kế dữ liệu trích xuất câu trả lời (
answer_start, answer_end) cho tiếng Việt.
- Phương pháp xây dựng đồ thị tri thức y khoa bằng LLM Graph Builder và kỹ thuật truy vấn Cypher.
- Quy trình xuất mô hình học sâu sang định dạng ONNX để triển khai ứng dụng thực tế.
Câu hỏi thường gặp
Đề tài sử dụng những nguồn dữ liệu nào để xây dựng hệ thống hỏi đáp y tế?
Hệ thống sử dụng dữ liệu y tế được thu thập thông qua kỹ thuật cào dữ liệu từ hai nguồn trực tuyến uy tín là hệ thống y tế Vinmec và cẩm nang y khoa MSD, tập trung vào thông tin về bệnh lý (triệu chứng, nguyên nhân, phương pháp điều trị) và thông tin về các loại thuốc.
GraphRAG mang lại ưu thế gì so với mô hình RAG truyền thống trong đồ án này?
RAG truyền thống chủ yếu dựa trên việc truy xuất các đoạn văn bản thuần túy, gặp hạn chế trong việc biểu diễn tri thức dạng cấu trúc và suy luận mối quan hệ phức tạp giữa các khái niệm. GraphRAG sử dụng cơ sở dữ liệu đồ thị Neo4j để mô hình hóa và kết nối trực tiếp các thực thể y khoa (bệnh - triệu chứng - thuốc), giúp cung cấp ngữ cảnh đầy đủ, có tính liên kết logic cao cho mô hình xử lý.
Mô hình BARTpho được tinh chỉnh theo phương pháp nào trong hệ thống?
BARTpho được tinh chỉnh theo hướng trích xuất câu trả lời (extractive question answering). Thay vì sinh câu trả lời tự do, mô hình được huấn luyện để phân tích ngữ cảnh được cung cấp bởi GraphRAG và dự đoán chính xác vị trí chỉ mục bắt đầu (answer_start) cùng vị trí kết thúc (answer_end) của đoạn văn bản chứa câu trả lời.
Định dạng ONNX đóng vai trò gì trong quá trình triển khai mô hình?
Định dạng Open Neural Network Exchange (ONNX) đóng vai trò là khuôn dạng trung gian mở giúp tối ưu hóa mô hình sau khi huấn luyện. Việc chuyển đổi mô hình sang ONNX cho phép hệ thống hoạt động độc lập với framework ban đầu, nâng cao tính linh hoạt, tăng tốc độ suy luận và giảm tải chi phí tài nguyên phần cứng khi tích hợp vào backend của chatbot.
Những thang đo nào được sử dụng để đánh giá hiệu năng của hệ thống?
Hiệu năng của các mô hình trong đồ án được đánh giá thông qua các thang đo chuẩn trong xử lý ngôn ngữ tự nhiên gồm chỉ số BLEU (Bilingual Evaluation Understudy) và các biến thể của chỉ số ROUGE (Recall-Oriented Understudy for Gisting Evaluation) như ROUGE-S, ROUGE-W và ROUGE-SU.
Kết luận
Đồ án tốt nghiệp "Xây dựng hệ thống hỏi đáp về sức khỏe" của sinh viên Trần Văn Luân và Võ Công Minh đã giải quyết thành công bài toán hỏi đáp y khoa tiếng Việt thông qua việc kết hợp mô hình ngôn ngữ BARTpho với kiến trúc truy xuất tăng cường đồ thị GraphRAG. Việc ứng dụng cơ sở dữ liệu đồ thị Neo4j cùng công cụ LLM Graph Builder đã giải quyết hạn chế về mặt liên kết ngữ nghĩa có cấu trúc của RAG truyền thống. Bên cạnh đó, mô hình trích xuất được tối ưu hóa qua định dạng ONNX giúp bảo đảm tính chính xác của thông tin y tế và cải thiện khả năng triển khai thực tế. Công trình cung cấp một tài liệu kỹ thuật có giá trị tham khảo rõ ràng cho các nghiên cứu ứng dụng AI trong chăm sóc sức khỏe cộng đồng.