Bối cảnh và vấn đề nghiên cứu

Trong môi trường giáo dục đại học, việc nắm bắt đầy đủ các quy định đào tạo là yêu cầu thiết yếu đối với sinh viên để hoàn thành lộ trình học tập và thực hiện các thủ tục hành chính đúng thời hạn. Tuy nhiên, theo ghi nhận thực tế từ văn bản khóa luận, đa số sinh viên thường không chủ động tìm đọc các văn bản quy định chính thức do nhà trường ban hành. Thay vào đó, sinh viên có thói quen phụ thuộc vào các kênh thông tin trực tiếp như đến văn phòng Phòng Đào tạo Đại học, gọi điện thoại hoặc gửi thư điện tử. Thực trạng này dẫn đến tình trạng quá tải về nhân lực và thời gian xử lý của các chuyên viên quản lý đào tạo, khiến phản hồi đôi khi không kịp thời và gây trở ngại cho sinh viên khi cần giải quyết thủ tục gấp.

Dẫn chứng từ khảo sát thực tế do Nguyễn Việt Nam thực hiện trên nhóm đối tượng sinh viên Trường Đại học Công nghệ Thông tin (Đại học Quốc gia TP. Hồ Chí Minh - UIT) cho thấy:

  • 65% sinh viên lựa chọn hỏi bạn bè hoặc thầy cô để giải đáp thắc mắc về quy định.
  • 45% sinh viên lựa chọn gửi thư điện tử về Phòng Đào tạo Đại học.
  • Chỉ có 15% sinh viên tự tra cứu câu trả lời thông qua các tài liệu ban hành quy định đào tạo của nhà trường.
  • 1/3 số sinh viên được khảo sát bày tỏ mong muốn Phòng Đào tạo Đại học có thể phản hồi qua thư điện tử nhanh chóng hơn.

Xuất phát từ nhu cầu thực tiễn đó và sự phát triển của các kỹ thuật xử lý ngôn ngữ tự nhiên, học sâu cùng các kiến trúc chatbot hướng nhiệm vụ, tác giả Hà Quốc Tiến đã thực hiện đề tài nhằm xây dựng một hệ thống hỏi đáp tự động về quy định đào tạo đại học dưới dạng chatbot, triển khai thử nghiệm tại Trường Đại học Công nghệ Thông tin.

Mục tiêu cụ thể của nghiên cứu được tác giả xác định qua 3 nhiệm vụ chính:

  1. Nghiên cứu và ứng dụng các mô hình xử lý ngôn ngữ tự nhiên và truy xuất dữ liệu cốt lõi:
    • Xây dựng mô hình truy vấn câu hỏi thường gặp (RetFAQ).
    • Xây dựng mô hình truy vấn tài liệu quy định đào tạo đại học của nhà trường.
    • Ứng dụng mô hình đọc hiểu máy (Machine Reading Comprehension - MRC) dựa trên kiến trúc BERT để trích xuất đoạn văn bản liên tục chứa câu trả lời từ ngữ cảnh tài liệu; mô hình kết hợp giữa truy vấn văn bản và đọc hiểu máy được định danh là RetMRC.
    • Xây dựng mô hình hiểu ngôn ngữ tự nhiên (NLU) để xử lý thông điệp và phân loại ý định người dùng.
  2. Xây dựng hệ thống hỏi đáp tích hợp: Tích hợp các mô-đun trên nền tảng khung làm việc Rasa, vận hành trên cơ sở dữ liệu gồm 89 câu hỏi thường gặp (FAQ) và 152 tài liệu quy định đào tạo của UIT; triển khai giao diện người dùng qua nền tảng Facebook Messenger.
  3. Đánh giá và phân tích hệ thống: Xây dựng tập dữ liệu hội thoại mô phỏng bao gồm các câu hỏi quy định kết hợp yếu tố giao tiếp tự nhiên để kiểm thử độ chính xác và tỷ lệ thành công của hệ thống trong vai trò giải đáp thắc mắc.

Đối tượng và phạm vi nghiên cứu:

  • Đối tượng nghiên cứu: Các đoạn hội thoại trao đổi về quy định đào tạo đại học UIT giữa sinh viên và chatbot; các kỹ thuật học sâu (Transformer, BERT); các kỹ thuật truy vấn thông tin (TF-IDF, Okapi BM25, BM25+); kiến trúc chatbot Rasa; các tập ngữ liệu SQuAD, TyDi QA, bộ 89 câu FAQ và 152 văn bản quy định đào tạo của UIT.
  • Phạm vi nghiên cứu: Về mặt nghiệp vụ, hệ thống giới hạn trong phạm vi các quy định đào tạo đại học tại Trường Đại học Công nghệ Thông tin và các tương tác đàm thoại cơ bản (chào hỏi, cảm ơn, tạm biệt, xác nhận, phủ định). Về mặt công nghệ, đề tài chỉ tập trung khai thác các thuật toán và mô-đun trong Rasa phục vụ trực tiếp cho bài toán, lược bỏ các thành phần không sử dụng.

Cơ sở lý thuyết và phương pháp

Khóa luận thiết lập nền tảng khoa học dựa trên các lý thuyết về biểu diễn văn bản, mô hình ngôn ngữ học sâu, kiến trúc quản lý hội thoại và các thuật toán truy vấn thông tin.

1. Khung lý thuyết và mô hình ngôn ngữ

  • Kiến trúc Transformer: Hoạt động dựa trên cơ chế chú ý (attention mechanism), loại bỏ sự phụ thuộc tuần tự của các mạng hồi quy (RNN, LSTM) để xử lý song song toàn bộ chuỗi ký tự. Cơ chế tự chú ý (self-attention) tính toán các vector truy vấn ($Q$), khóa ($K$) và giá trị ($V$), xác định trọng số liên kết ngữ cảnh thông qua công thức tích vô hướng chuẩn hóa kết hợp hàm softmax: $$\text{Attention}(Q, K, V) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V$$ Mô hình tích hợp nhúng vị trí (positional embedding) hàm sin/cos cùng cơ chế kết nối phần dư (residual connection) và chuẩn hóa tầng (layer normalization).
  • Mô hình biểu diễn từ vựng: Phân tích từ các mô hình túi từ truyền thống (BoW), trọng số TF-IDF, đến các phương pháp nhúng từ không phụ thuộc ngữ cảnh như Word2Vec (với hai kiến trúc CBOW và Skip-gram) và GloVe.
  • Mô hình biểu diễn ngôn ngữ theo ngữ cảnh (BERT): Sử dụng các khối mã hóa (Encoder) của Transformer với hai cơ chế huấn luyện trước (pre-train): Masked Language Model (ẩn 15% token) và Next Sentence Prediction (phân loại nhị phân IsNext/NotNext). Tác giả ứng dụng hai biến thể $\text{BERT}{\text{base}}$ (12 tầng, 110 triệu tham số, chiều ẩn 768) và $\text{BERT}{\text{large}}$ (24 tầng, 340 triệu tham số, chiều ẩn 1024).
  • Đọc hiểu máy (MRC) với BERT: Nhận đầu vào là câu hỏi ($Q$) và ngữ cảnh ($C$) ngăn cách bởi token đặc biệt <SEP>. Hai lớp phân loại tuyến tính bổ sung kèm hàm softmax được đặt ở đầu ra để dự đoán vị trí bắt đầu (START) và vị trí kết thúc (END) của câu trả lời trích xuất trong đoạn văn bản $C$.

2. Mô hình máy học trong kiến trúc Chatbot Rasa

  • Subword Semantic Hashing: Phương pháp trích xuất đặc trưng văn bản ở cấp độ cụm ký tự dưới từ (subword n-gram, cụ thể là 3-gram có ký tự # đệm đầu và cuối từ). Thuật toán giúp hệ thống xử lý hiệu quả các lỗi chính tả, biến thể gõ không chuẩn trong tin nhắn thực tế và hoạt động ổn định trên tập dữ liệu huấn luyện kích thước nhỏ.
  • Kiến trúc DIET (Dual Intent Entity Transformer): Kiến trúc học sâu hai tầng Transformer do Rasa phát triển. DIET tiếp nhận cả biểu diễn thưa (từ Subword Semantic Hashing/BoW) lẫn biểu diễn trích xuất sẵn (pre-trained embedding). Token <CLS> được dùng để tối ưu hàm mất mát tương đồng dạng khoảng cách tích vô hướng (Starspace loss) phục vụ bài toán phân loại ý định người dùng.
  • Kiến trúc TED (Transformer Embedding Dialogue): Mô hình quản lý hội thoại dựa trên Transformer một chiều (chỉ cho phép chú ý các trạng thái trong quá khứ). TED nhận chuỗi lịch sử hội thoại gồm nhãn ý định người dùng và hành động trước đó của hệ thống để dự đoán hành động tiếp theo.

3. Phương pháp truy vấn văn bản

  • Mô hình không gian vector (Vector Space Model): Biểu diễn truy vấn và tài liệu thành các vector trọng số, sử dụng hàm độ đo khoảng cách Cosine để triệt tiêu ảnh hưởng của độ dài văn bản so với khoảng cách Euclid.
  • Thuật toán Okapi BM25 và biến thể BM25+: Thuật toán xếp hạng mức độ liên quan dựa trên xác suất thống kê. Biến thể BM25+ bổ sung tham số điều chỉnh tự do $\delta$ nhằm chặn dưới thành phần chiều dài tài liệu, ngăn chặn việc điểm số tiến về 0 khi tài liệu có kích thước quá lớn.

4. Nguồn dữ liệu sử dụng

  • Bộ ngữ liệu MRC chuẩn: SQuAD và TyDi QA (ngữ liệu tiếng Việt).
  • Bộ câu hỏi thường gặp: 89 cặp câu hỏi - câu trả lời FAQ về quy chế, quy định đào tạo UIT do chuyên viên biên soạn.
  • Bộ ngữ liệu quy định: 152 tài liệu được phân tách từ các văn bản quy định đào tạo chính thức của Trường Đại học Công nghệ Thông tin.

Thiết kế và triển khai

Hệ thống được thiết kế theo mô hình kết hợp giữa khung làm việc chatbot hướng nhiệm vụ (Rasa framework) và một mô-đun hỏi đáp chuyên biệt (Custom Q&A Component).

1. Kiến trúc hệ thống tổng thể

Quy trình xử lý một thông điệp đầu vào của người dùng trải qua ba khối chức năng chính:

Khối chức năng Thành phần kỹ thuật Nhiệm vụ chi tiết
Hiểu ngôn ngữ tự nhiên (NLU) Subword Semantic Hashing + DIET Classifier Nhận văn bản đầu vào, tiền xử lý, trích xuất đặc trưng n-gram ký tự và phân loại thông điệp vào 1 trong 7 nhãn ý định xác định.
Quản lý hội thoại (Dialogue Management) TED Policy + Rule Policy Theo dõi trạng thái cuộc trò chuyện dựa trên lịch sử tương tác; nếu là ý định giao tiếp thông thường, chọn mẫu phản hồi định sẵn; nếu là ý định hỏi đáp, kích hoạt hành động chuyển tiếp sang mô-đun Q&A.
Hỏi đáp thông tin (Mô-đun Q&A) RetFAQ + RetMRC (BM25+ và BERT MRC) Tiếp nhận câu hỏi, thực hiện truy vấn đa tầng để tìm và trích xuất câu trả lời chính xác nhất từ cơ sở tri thức. 
[Thông điệp người dùng] 
[Quản lý hội thoại (TED)]
                                                    [Phản hồi Chatbot]

2. Chi tiết phân loại ý định trong NLU

Mô-đun NLU phân loại thông điệp của người dùng vào 7 nhãn ý định chính thức:

  1. chào_hỏi (Ví dụ: "Chào bạn", "Xin chào")
  2. tạm_biệt (Ví dụ: "Tạm biệt", "Bye bot")
  3. hài_lòng (Ví dụ: "Cảm ơn", "Hay quá")
  4. không_hài_lòng (Ví dụ: "Trả lời sai rồi", "Không đúng")
  5. khẳng_định (Ví dụ: "Đúng rồi", "Ok")
  6. phủ_định (Ví dụ: "Không phải", "Sai")
  7. qa (Các thông điệp chứa nội dung câu hỏi về quy định, ví dụ: "Thời gian học kỳ hè kéo dài khoảng bao lâu?")

3. Cơ chế hoạt động của mô-đun Q&A

Khi Quản lý hội thoại nhận diện ý định qa, hành động trả lời câu hỏi được kích hoạt với quy trình xử lý kép:

  • Tầng 1 (RetFAQ): Hệ thống sử dụng mô hình truy vấn văn bản để so khớp câu hỏi của sinh viên với tập 89 câu FAQ đã có câu trả lời chuẩn. Nếu điểm tương đồng vượt qua ngưỡng tin cậy $\epsilon$, câu trả lời có sẵn sẽ được trích xuất trả về ngay lập tức.
  • Tầng 2 (RetMRC): Trường hợp độ tin cậy từ RetFAQ thấp hơn ngưỡng $\epsilon$, hệ thống chuyển câu hỏi sang mô hình RetMRC. Tại đây, thuật toán BM25+ thực hiện tìm kiếm trên tập 152 tài liệu quy định của trường để chọn ra đoạn văn bản ngữ cảnh liên quan nhất. Sau đó, ngữ cảnh này cùng câu hỏi được đưa vào mô hình BERT để định vị vị trí START và END, trích xuất đoạn văn bản liên tục chứa câu trả lời.

4. Cài đặt và giao diện người dùng

  • Toàn bộ logic nghiệp vụ phía sau (back-end) được lập trình và quản lý bằng thư viện Rasa mã nguồn mở kết hợp các mô hình học sâu.
  • Phía giao diện tương tác người dùng (front-end) được cài đặt và tích hợp trực tiếp trên nền tảng Facebook Messenger, cho phép sinh viên trò chuyện trực tuyến tương tự như tương tác với người dùng thông thường.

Nội dung chính theo từng chương

Chương 1: Tổng quan

Chương 1 trình bày bối cảnh thực tiễn dẫn đến nhu cầu tự động hóa công tác tư vấn quy định đào tạo tại Trường Đại học Công nghệ Thông tin thông qua số liệu khảo sát sinh viên của Nguyễn Việt Nam. Tác giả khái quát lưu đồ hoạt động của hệ thống chatbot, xác định rõ 3 mục tiêu nghiên cứu, đối tượng nghiên cứu và giới hạn phạm vi đề tài trong các quy định đào tạo UIT.

Chương này cũng tiến hành tổng quan 4 công trình nghiên cứu liên quan tiêu biểu tại Việt Nam:

  1. Hệ thống của Hoàng Đức Thịnh: Chatbot tư vấn học tập sử dụng ngôn ngữ AIML, tiếp cận theo phương pháp so khớp mẫu dựa trên tập luật định sẵn và cơ sở tri thức chuyên gia, hạn chế trong việc mở rộng ngôn ngữ tự nhiên.
  2. Hệ thống của Nguyễn Thành Thủy: Chatbot phân loại 35 câu hỏi người dùng thành 35 ý định riêng biệt (mỗi ý định 20 mẫu huấn luyện) bằng mô hình Support Vector Machine (SVM). Nhược điểm là hệ số mở rộng kém, khi muốn thêm câu hỏi mới bắt buộc phải tái cấu trúc toàn bộ tập nhãn và dữ liệu huấn luyện.
  3. Hệ thống của Nguyễn Việt Nam: Kết hợp truy vấn văn bản và mô hình đọc hiểu máy học sâu trên tập dữ liệu quy định UIT, có tính mở rộng cao nhưng thiếu mô-đun quản lý hội thoại để xử lý các câu chào hỏi, giao tiếp tự nhiên.
  4. Hệ thống của Đỗ Viết Mạnh: Xây dựng chatbot trên kiến trúc Rasa cho tác vụ bán hàng trực tuyến, chứng minh khả năng xử lý linh hoạt các tình huống hội thoại đa dạng.

Chương 2: Cơ sở lý thuyết

Chương 2 tập trung trình bày các nền tảng toán học và mô hình thuật toán. Nội dung bao gồm:

  • Cơ chế Attention và kiến trúc mạng Transformer (khối mã hóa, giải mã, embedding vị trí và tích vô hướng ma trận).
  • Các phương pháp biểu diễn từ vựng: Từ mô hình BoW, TF-IDF đến Word2Vec (thực nghiệm trực quan hóa không gian vector 3 chiều cho thấy sự gom cụm tự nhiên giữa nguyên âm, phụ âm và chữ số) và GloVe.
  • Mô hình ngôn ngữ BERT và cơ chế fine-tune cho bài toán đọc hiểu máy (START/END logit).
  • Khung chatbot Rasa và hai thuật toán chính: Subword Semantic Hashing kết hợp kiến trúc mạng DIET phục vụ phân loại ý định; kiến trúc Transformer một chiều TED phục vụ chiến lược dự đoán hành động hội thoại.
  • Các mô hình truy vấn thông tin: Mô hình không gian vector, so sánh khoảng cách Euclid và Cosine, thuật toán Okapi BM25 và cải tiến BM25+.

Chương 3: Kiến trúc hệ thống

Chương 3 đi sâu vào thiết kế kỹ thuật của hệ thống chatbot hỏi đáp. Nội dung mô tả chi tiết:

  • Cấu trúc luồng dữ liệu bên trong Rasa NLU và bộ quản lý hội thoại.
  • Thiết lập tập 7 nhãn ý định của mô-đun NLU.
  • Kiến trúc chi tiết của mô-đun Q&A: Sự phối hợp hai tầng giữa mô hình RetFAQ và RetMRC thông qua ngưỡng tin cậy $\epsilon$.
  • Đặc tả các tập dữ liệu: Tập dữ liệu mẫu huấn luyện NLU, bộ 89 câu FAQ quy định đào tạo, bộ 152 tài liệu quy định UIT được chia nhỏ từ các văn bản chính thức của trường, và tập dữ liệu huấn luyện MRC (SQuAD, TyDi QA).
  • Phương thức cài đặt back-end bằng Rasa và tích hợp giao diện trên Facebook Messenger.

Chương 4: Đánh giá hệ thống

Chương 4 thực hiện các kiểm thử thực nghiệm độc lập và toàn diện:

  • Đánh giá hiệu năng của mô-đun NLU trên các cấu hình biểu diễn và phân loại khác nhau, phân tích ma trận nhầm lẫn (confusion matrix).
  • Đánh giá mô hình đọc hiểu máy (MRC) dựa trên BERT và đối sánh với công trình đi trước của Nguyễn Việt Nam.
  • Xây dựng tập dữ liệu hội thoại kiểm thử mô phỏng các tình huống thực tế gồm các lượt trao đổi chào hỏi, câu hỏi quy định và phản hồi cảm ơn.
  • Đánh giá toàn diện hệ thống thông qua việc xếp loại tỷ lệ thành công của các cuộc trò chuyện theo độ dài hội thoại (hội thoại ngắn chứa 1 câu hỏi và hội thoại dài chứa 2 câu hỏi).

Kết quả và đóng góp

1. Kết quả thực nghiệm cụ thể

Hiệu năng của hệ thống được tác giả lượng hóa qua các số liệu kiểm thử thực tế có trong văn bản:

Hạng mục đánh giá Chỉ số đạt được Chi tiết kỹ thuật / Đối sánh
Mô hình đọc hiểu máy (MRC) Điểm $F_1 = \mathbf{81.72%}$ Mô hình MRC dựa trên BERT đạt độ chính xác cao hơn so với mô hình của công trình liên quan trước đó của tác giả Nguyễn Việt Nam.
Cuộc hội thoại ngắn (Chứa 1 câu hỏi quy định) Tỷ lệ thành công $= \mathbf{71%}$ Chatbot tiếp nhận, nhận diện đúng ý định, truy vấn/trích xuất chính xác câu trả lời và hoàn thành chu trình chào hỏi - phản hồi.
Cuộc hội thoại dài (Chứa 2 câu hỏi quy định) Tỷ lệ thành công $= \mathbf{33%}$ Độ chính xác suy giảm khi người dùng kéo dài ngữ cảnh tương tác và thay đổi chủ đề hỏi đáp liên tiếp trong một phiên trò chuyện.

2. Giải pháp và kiến nghị của tác giả

  • Đề xuất mô hình kiến trúc hỏi đáp lai (hybrid): Tận dụng tốc độ và tính chuẩn xác của các câu FAQ có sẵn bằng RetFAQ cho các thắc mắc phổ biến, đồng thời duy trì khả năng bao quát thông tin mở rộng bằng RetMRC khi gặp câu hỏi ngoài danh mục FAQ.
  • Kết hợp cơ chế xử lý hội thoại hướng nhiệm vụ (Rasa) với mô hình đọc hiểu máy trích xuất (BERT), giúp hệ thống vừa có khả năng phản hồi tự nhiên, vừa trả lời chính xác thông tin chuyên ngành.

3. Đóng góp khoa học và thực tiễn

  • Khắc phục nhược điểm về khả năng mở rộng của mô hình chatbot phân loại ý định truyền thống (như công trình của Nguyễn Thành Thủy, vốn gán mỗi câu hỏi thành một ý định cứng).
  • Bổ sung năng lực tương tác tự nhiên và quản lý trạng thái hội thoại đa lượt cho mô hình hỏi đáp quy định của Nguyễn Việt Nam (vốn chỉ nhận một câu hỏi đơn lẻ và trả về đoạn trích mà không thể giao tiếp).
  • Hiện thực hóa thành công một chatbot hỗ trợ sinh viên hoàn chỉnh trên nền tảng nhắn tin phổ biến (Facebook Messenger), hoạt động trực tiếp trên tập dữ liệu quy định đào tạo của Trường Đại học Công nghệ Thông tin.

Hạn chế và hướng nghiên cứu tiếp

Dựa trên các phân tích đánh giá được đề cập trong khóa luận, hệ thống vẫn tồn tại các hạn chế kỹ thuật:

  • Hiệu năng hội thoại dài còn thấp: Tỷ lệ thành công của các cuộc trò chuyện dài có chứa từ 2 câu hỏi trở lên chỉ đạt 33%, phản ánh việc mô hình quản lý hội thoại (TED) và việc duy trì trạng thái ngữ cảnh qua nhiều lượt tương tác phức tạp còn gặp sai sót.
  • Phụ thuộc vào ngưỡng tin cậy: Cơ chế chuyển giao giữa RetFAQ và RetMRC chịu ảnh hưởng lớn từ việc thiết lập ngưỡng tin cậy $\epsilon$. Nếu ngưỡng không tối ưu, hệ thống có thể chuyển giao sai hoặc bỏ sót câu trả lời chính xác.
  • Giới hạn phạm vi dữ liệu: Khóa luận chỉ giới hạn thử nghiệm trên tập 89 câu FAQ và 152 tài liệu quy định của UIT; chưa kiểm thử trên phạm vi dữ liệu quy chế mở rộng của các trường đại học khác.

Các hướng mở rộng được tác giả định hướng bao gồm:

  • Tiếp tục tối ưu hóa mô hình quản lý hội thoại để nâng cao tỷ lệ xử lý thành công các phiên tương tác dài và phức tạp.
  • Cải thiện độ chính xác của các thuật toán truy vấn tài liệu trong RetMRC nhằm cung cấp ngữ cảnh đầu vào tốt hơn cho mô hình BERT.
  • Mở rộng quy mô tập dữ liệu câu hỏi thường gặp và tài liệu quy định đào tạo.

Giá trị tham khảo

Khóa luận là tài liệu tham khảo có giá trị học thuật và ứng dụng thực tiễn rõ ràng:

  • Đối tượng phù hợp: Sinh viên, học viên cao học và các nhà phát triển thuộc các ngành Khoa học Máy tính, Kỹ thuật Phần mềm, Công nghệ Thông tin và Trí tuệ Nhân tạo đang nghiên cứu về xử lý ngôn ngữ tự nhiên tiếng Việt, hệ thống hỏi đáp (QA) hoặc chatbot hướng nhiệm vụ (Task-oriented Chatbot).
  • Nội dung giá trị nhất để tham khảo:
    • Quy trình tích hợp mô-đun ngoài (Custom Component) vào kiến trúc của Rasa Framework.
    • Thiết kế kiến trúc hỏi đáp hai tầng kết hợp giữa so khớp câu hỏi thường gặp (RetFAQ) và truy vấn trích xuất tài liệu (RetMRC dùng BM25+ và BERT).
    • Phương pháp luận xây dựng bộ dữ liệu hội thoại mô phỏng và tiêu chí đánh giá hiệu năng toàn diện cho một hệ thống chatbot hướng nhiệm vụ.

Câu hỏi thường gặp

1. Mô-đun NLU trong khóa luận phân loại thông điệp của sinh viên thành các nhãn ý định nào?
Mô-đun NLU phân loại thông điệp người dùng thành một trong 7 nhãn ý định xác định: chào_hỏi, tạm_biệt, hài_lòng, không_hài_lòng, khẳng_định, phủ_định và qa (nhãn dành riêng cho các câu hỏi về quy định đào tạo).

2. Cơ chế điều phối giữa RetFAQ và RetMRC trong mô-đun Q&A hoạt động như thế nào?
Khi người dùng gửi câu hỏi, mô-đun Q&A trước tiên sử dụng mô hình RetFAQ để so khớp với 89 câu FAQ có sẵn. Nếu độ tin cậy của kết quả thấp hơn một ngưỡng $\epsilon$ quy định, hệ thống sẽ tự động kích hoạt mô hình RetMRC. RetMRC sẽ dùng BM25+ để tìm tài liệu quy định liên quan nhất trong số 152 tài liệu UIT, sau đó đưa vào mô hình BERT để trích xuất câu trả lời.

3. Số liệu khảo sát thực tế tại Trường Đại học Công nghệ Thông tin về thói quen tìm hiểu quy định của sinh viên là bao nhiêu?
Khảo sát của Nguyễn Việt Nam được dẫn lại trong văn bản cho thấy 65% sinh viên hỏi bạn bè/thầy cô, 45% gửi thư điện tử về Phòng Đào tạo Đại học, chỉ 15% tự tìm đọc tài liệu ban hành quy định, và 1/3 số sinh viên mong muốn nhà trường phản hồi thư điện tử nhanh hơn.

4. Kết quả thực nghiệm của hệ thống đạt được các con số cụ thể nào?
Toàn hệ thống đạt tỷ lệ thành công 71% đối với các cuộc hội thoại ngắn có chứa 1 câu hỏi và đạt 33% đối với các cuộc hội thoại dài có chứa 2 câu hỏi. Mô hình đọc hiểu máy dựa trên BERT đạt điểm $F_1$ là 81.72%, cao hơn so với mô hình của công trình liên quan trước đó.

5. Tại sao tác giả sử dụng phương pháp Subword Semantic Hashing cho mô hình NLU?
Tác giả sử dụng Subword Semantic Hashing vì phương pháp này phân tách từ thành các n-gram ký tự (3-gram), giúp mô hình NLU xử lý tốt các biến thể đánh vần không chuẩn, từ ngữ viết tắt hoặc lỗi chính tả thường gặp trong tin nhắn trò chuyện, đồng thời hoạt động hiệu quả khi dữ liệu huấn luyện phân loại ý định có kích thước hạn chế.

Kết luận

Khóa luận tốt nghiệp của tác giả Hà Quốc Tiến đã nghiên cứu và ứng dụng thành công các kỹ thuật học sâu tiên tiến (Transformer, BERT, DIET, TED) cùng thuật toán truy vấn văn bản (BM25+) để xây dựng hệ thống chatbot hỏi đáp quy định đào tạo tại Trường Đại học Công nghệ Thông tin. Hệ thống giải quyết hài hòa giữa khả năng đối thoại tự nhiên và năng lực trích xuất tri thức văn bản chính xác thông qua cơ chế phối hợp hai tầng RetFAQ và RetMRC. Kết quả kiểm thử thực nghiệm ghi nhận độ chính xác $F_1$ đạt 81.72% ở mô hình đọc hiểu máy và tỷ lệ thành công 71% trên các hội thoại đơn, khẳng định tính khả thi của mô hình trong việc tự động hóa công tác tư vấn đào tạo đại học.