Phát triển Chatbot Tìm Kiếm Thông Tin Đại Học Công Nghệ Đông Á Dựa Trên Transformers

LỜI CAM ĐOAN

LỜI CẢM ƠN

MỤC LỤC

DANH MỤC CÁC KÝ HIỆU, CÁC TỪ VIẾT TẮT

DANH MỤC CÁC BẢNG

DANH MỤC HÌNH ẢNH

1. CHƯƠNG 1: TỔNG QUAN

1.1. Nhu cầu tra cứu thông tin thông và trường Đại học Công nghệ Đông Á

1.2. Thực trạng, các giải pháp đang được áp dụng trong tra cứu thông tin và trường Đại học Đông Á

1.2.1. Trang thông tin điện tử

1.2.2. Các sự kiện truyền thông

1.2.3. Mạng xã hội

1.2.4. Tư vấn học tập, tư vấn tuyển sinh

1.3. Đánh giá hiệu quả của các giải pháp đang được áp dụng

1.4. Chatbot và dạng của Chatbot

1.4.1. Khái niệm Chatbot

1.4.2. Các loại Chatbot

1.4.3. Ứng dụng của Chatbot

1.4.4. Lợi ích của Chatbot

1.4.5. Thách thức trong việc triển khai Chatbot

2. CHƯƠNG 2: CƠ SỞ LÝ THUYẾT

2.1. Khái niệm và mạng nơ-ron kết nối đầy đủ

2.2. Hiện tượng overfitting, underfitting và cách khắc phục

2.3. Mạng hồi quy và bài toán S2S

2.4. Kiến trúc mạng hồi quy cho bài toán S2S

2.5. Ưu điểm và hạn chế của mạng hồi quy đối với bài toán S2S

2.6. Kiến trúc Transformers

2.7. Mã hóa và trí của từ

2.8. Self-Attention và Cross-Attention

2.9. Một số LLM nổi tiếng sử dụng kiến trúc Transformers

2.10. Quá trình huấn luyện và đặc trưng của LLMs

3. CHƯƠNG 3: XÂY DỰNG HỆ THỐNG CHATBOT SỬ DỤNG LLMs

3.1. Sự cần thiết Local ChatGPT đối với doanh nghiệp

3.2. Phương pháp huấn luyện LLMs

3.2.1. Một số thách thức trong việc huấn luyện LLMs

3.2.2. Nâng cao hiệu suất LLMs

3.2.2.1. Tái sử dụng bản nháp LLM bằng kỹ thuật lượng tử

3.2.2.2. Giảm độ phức tạp tính toán bằng kỹ thuật LoRA

3.2.2.3. Kỹ thuật RAG

3.2.2.3.1. Quá trình hoạt động của RAG

3.2.2.3.2. Ưu điểm của RAG

3.3. Hệ thống Đông Á Chatbot

3.3.1. Thu thập và tiền xử lý dữ liệu

3.3.2. Kiến trúc hệ thống ChatBot

3.3.3. Kết quả thử nghiệm

3.3.4. Đánh giá độ chính xác của chatbot

I. Giới thiệu

Trong bối cảnh công nghệ thông tin phát triển nhanh chóng, việc phát triển Chatbot để tìm kiếm thông tin trong lĩnh vực giáo dục, đặc biệt là tại Đại học Công nghệ Đông Á, trở nên cần thiết. Chatbot không chỉ giúp cung cấp thông tin một cách nhanh chóng mà còn cải thiện trải nghiệm người dùng. Việc áp dụng công nghệ Transformers vào Chatbot sẽ nâng cao khả năng hiểu và phản hồi của hệ thống, từ đó đáp ứng tốt hơn nhu cầu của người dùng.

1.1. Tầm quan trọng của Chatbot

Chatbot đóng vai trò quan trọng trong việc cung cấp thông tin tự động và nhanh chóng. Với sự phát triển của trí tuệ nhân tạo và xử lý ngôn ngữ tự nhiên, Chatbot có thể trả lời các câu hỏi từ người dùng một cách tự nhiên và chính xác. Điều này không chỉ giúp giảm tải cho nhân viên mà còn nâng cao chất lượng dịch vụ thông tin tại Đại học Công nghệ Đông Á.

II. Công nghệ Transformers

Công nghệ Transformers đã cách mạng hóa lĩnh vực học máy và xử lý ngôn ngữ tự nhiên. Mô hình này cho phép Chatbot xử lý và hiểu ngữ cảnh trong các cuộc trò chuyện một cách hiệu quả hơn. Sự kết hợp giữa Deep Learning và Transformers giúp Chatbot có khả năng học hỏi từ dữ liệu lớn và cải thiện độ chính xác trong phản hồi. Điều này tạo ra một hệ thống có thể phục vụ người dùng 24/7 mà không cần sự can thiệp của con người.

2.1. Cấu trúc của mô hình Transformers

Mô hình Transformers sử dụng cơ chế self-attention để xác định mối quan hệ giữa các từ trong một câu. Điều này giúp mô hình hiểu rõ hơn về ngữ cảnh và ý nghĩa của các từ trong các câu hỏi của người dùng. Bằng cách này, Chatbot có thể cung cấp thông tin chính xác và liên quan đến nhu cầu của người dùng tại Đại học Công nghệ Đông Á.

III. Phát triển Chatbot tại Đại học Công nghệ Đông Á

Việc phát triển Chatbot tại Đại học Công nghệ Đông Á tập trung vào việc thu thập và xử lý dữ liệu liên quan đến các thông tin như quy chế, khóa học, và học phí. Chatbot sẽ được tích hợp vào trang web của trường để phục vụ sinh viên và phụ huynh. Hệ thống này không chỉ giúp giải đáp thắc mắc mà còn hỗ trợ trong việc tư vấn tuyển sinh, tạo điều kiện thuận lợi cho người dùng trong việc tiếp cận thông tin.

3.1. Tích hợp và triển khai

Quá trình tích hợp Chatbot vào hệ thống thông tin của Đại học Công nghệ Đông Á sẽ bao gồm việc xây dựng giao diện người dùng thân thiện. Giao diện này sẽ cho phép người dùng tương tác dễ dàng với Chatbot. Hệ thống cần đảm bảo tính bảo mật và bảo vệ thông tin cá nhân của người dùng, đồng thời cung cấp thông tin một cách chính xác và nhanh chóng.

IV. Đánh giá hiệu quả

Đánh giá hiệu quả của Chatbot sẽ dựa trên các chỉ số như độ chính xác trong việc trả lời câu hỏi, thời gian phản hồi, và mức độ hài lòng của người dùng. Việc thu thập phản hồi từ người dùng sẽ giúp cải thiện chất lượng dịch vụ của Chatbot trong tương lai. Kết quả thu được sẽ là cơ sở để điều chỉnh và nâng cao khả năng phục vụ của hệ thống, từ đó đáp ứng tốt hơn nhu cầu thông tin của cộng đồng tại Đại học Công nghệ Đông Á.

4.1. Phản hồi từ người dùng

Phản hồi từ người dùng sẽ được thu thập thông qua các khảo sát và đánh giá trực tuyến. Điều này giúp xác định những điểm mạnh và điểm yếu của Chatbot, từ đó có những điều chỉnh phù hợp. Việc lắng nghe ý kiến của người dùng không chỉ giúp cải thiện chất lượng dịch vụ mà còn tăng cường sự hài lòng và tin tưởng của người dùng vào hệ thống thông tin của trường.

Luận Văn Thạc Sĩ: Phát Triển Chatbot Tìm Kiếm Thông Tin Về Trường Đại Học Công Nghệ Đông Á