Ứng Dụng Mô Hình Ngôn Ngữ Lớn trong Text-to-SQL

• Tác giả: Nguyen Vinh Khiem
• Người hướng dẫn: Assoc. Huynh Tuong Nguyen
• Trường học: Ho Chi Minh City University Of Technology
• Chuyên ngành: Computer Science
• Đề tài: Ứng Dụng Mô Hình Ngôn Ngữ Lớn Trong Việc Tạo Câu Truy Vấn
• Loại tài liệu: Luận Văn Thạc Sĩ
• Năm xuất bản: 2024
• Địa điểm: Ho Chi Minh City

• ACKNOWLEDGEMENTS
• ABSTRACT
• TÓM TẮT LUẬN VĂN THẠC SĨ
• DECLARATION OF AUTHORSHIP
• 1. CHƯƠNG 1: TOPIC INTRODUCTION
• 1.1. General Introduction
• 1.2. Overview about Text-to-SQL
• 1.3. Thesis objectives
• 1.4. Scope of thesis
• 2. CHƯƠNG 2: RELATED WORKS
• 2.1. RAT-SQL: Relation-Aware Schema Encoding and Linking for Text-to-SQL Parsers

I. Tổng Quan Về LLM Trong Chuyển Đổi Văn Bản Sang SQL 55 ký tự

Sự tiến bộ vượt bậc trong xử lý ngôn ngữ tự nhiên (NLP) được thúc đẩy bởi mô hình ngôn ngữ lớn (LLM) như GPT-3 và BERT. Các LLM này thể hiện khả năng hiểu và tạo ra văn bản gần giống con người, mở ra ứng dụng đột phá trong nhiều nhiệm vụ ngôn ngữ. Trong bối cảnh quản lý dữ liệu, SQL đóng vai trò then chốt. Việc chuyển đổi văn bản sang SQL, hay Text-to-SQL, giúp người không chuyên dễ dàng truy cập thông tin từ cơ sở dữ liệu. Tuy nhiên, nhiệm vụ này đi kèm với nhiều thách thức, đòi hỏi LLM phải có khả năng hiểu sâu sắc ngữ nghĩa, tạo ra truy vấn SQL hiệu quả và diễn giải ý định của người dùng một cách chính xác. Luận văn này tập trung vào việc khám phá và ứng dụng LLM trong Text-to-SQL, hướng đến giải pháp liền mạch, hiệu quả và có khả năng mở rộng. Theo khảo sát của StackOverflow, SQL vẫn là một trong những ngôn ngữ thống trị toàn cầu. Javascript, HTML/CSS và SQL nổi lên là top 3 công nghệ được các chuyên gia sử dụng thường xuyên nhất.

1.1. Vai trò của SQL trong Quản Lý và Phân Tích Dữ Liệu

Trong kỷ nguyên dữ liệu, vai trò của SQL trong việc quản lý và phân tích dữ liệu là vô cùng quan trọng. SQL cho phép người dùng truy xuất, cập nhật và thao tác dữ liệu trong các cơ sở dữ liệu quan hệ, phục vụ cho nhiều mục đích khác nhau. Sự phổ biến của SQL trong nhiều lĩnh vực nhấn mạnh tầm quan trọng của nó trong việc tổ chức và truy xuất thông tin quan trọng. Việc sử dụng SQL giúp cho việc quản lý dữ liệu trở nên có cấu trúc và hiệu quả hơn, đồng thời cung cấp các công cụ mạnh mẽ cho việc phân tích và ra quyết định. Truy vấn SQL được xây dựng dựa trên một tập các quy tắc và cú pháp cụ thể, giúp người dùng có thể tương tác với cơ sở dữ liệu một cách chính xác. Cơ sở dữ liệu đóng vai trò quan trọng trong việc lưu trữ và bảo quản dữ liệu một cách an toàn và có hệ thống.

1.2. Thách Thức của Chuyển Đổi Văn Bản Sang SQL Text to SQL

Chuyển đổi văn bản sang SQL đặt ra nhiều thách thức đáng kể. LLM cần hiểu chính xác ý định của người dùng, ngữ cảnh của truy vấn và cấu trúc của cơ sở dữ liệu. Các truy vấn SQL có thể phức tạp, đòi hỏi LLM phải có khả năng tạo ra mã SQL cú pháp chính xác và ngữ nghĩa phù hợp. Thêm vào đó, sự đa dạng của ngôn ngữ tự nhiên khiến việc diễn giải các truy vấn trở nên khó khăn. Các mô hình LLM cần được huấn luyện trên bộ dữ liệu lớn và đa dạng để có thể xử lý các trường hợp khác nhau. Kỹ thuật Prompt engineering đóng vai trò quan trọng trong việc hướng dẫn LLM tạo ra các câu truy vấn SQL chính xác.

II. Các Phương Pháp Tiếp Cận Chuyển Đổi Văn Bản Sang SQL Bằng LLM 58 ký tự

Hiện nay, có nhiều phương pháp tiếp cận khác nhau trong việc ứng dụng LLM vào Text-to-SQL. Một phương pháp phổ biến là sử dụng kiến trúc hai tầng, bao gồm một mô hình tạo (generator) và một mô hình xếp hạng (ranker). Mô hình tạo chịu trách nhiệm tạo ra nhiều ứng viên truy vấn SQL từ truy vấn ngôn ngữ tự nhiên. Sau đó, mô hình xếp hạng đánh giá và chọn ra truy vấn tốt nhất dựa trên các tiêu chí như độ chính xác và độ tin cậy. Kỹ thuật giải mã ràng buộc theo quy tắc ngữ pháp SQL cũng được sử dụng để đảm bảo tính hợp lệ về cú pháp của các truy vấn được tạo ra. Ngoài ra, các kỹ thuật zero-shot learning và few-shot learning cũng được áp dụng để giảm sự phụ thuộc vào dữ liệu huấn luyện.

2.1. Kiến Trúc Hai Tầng Generator và Ranker cho Text to SQL

Kiến trúc hai tầng bao gồm generator và ranker là một phương pháp hiệu quả để ứng dụng LLM trong Text-to-SQL. Generator, thường dựa trên các mô hình LLM mạnh mẽ, tạo ra nhiều ứng viên truy vấn SQL từ truy vấn ngôn ngữ tự nhiên. Sau đó, ranker, có thể là một mô hình học máy khác hoặc một bộ quy tắc, đánh giá và chọn ra truy vấn tốt nhất dựa trên các tiêu chí như độ chính xác, độ tin cậy và tính phù hợp với cơ sở dữ liệu. Cách tiếp cận này cho phép tận dụng sức mạnh của LLM trong việc tạo ra các ứng viên truy vấn, đồng thời đảm bảo chất lượng và tính chính xác của kết quả cuối cùng.

2.2. Giải Mã Ràng Buộc Ngữ Pháp SQL Đảm Bảo Tính Hợp Lệ

Để đảm bảo tính hợp lệ về cú pháp của các truy vấn SQL được tạo ra bởi LLM, kỹ thuật giải mã ràng buộc theo quy tắc ngữ pháp SQL được sử dụng. Kỹ thuật này giới hạn không gian tìm kiếm của LLM trong quá trình tạo truy vấn, chỉ cho phép tạo ra các chuỗi ký tự tuân thủ cú pháp SQL hợp lệ. Điều này giúp giảm thiểu khả năng tạo ra các truy vấn sai cú pháp, tăng độ tin cậy của hệ thống Text-to-SQL. SQL Grammar đóng vai trò quan trọng trong việc ràng buộc quá trình giải mã và đảm bảo tính chính xác.

III. Đánh Giá Hiệu Suất Ứng Dụng LLM Trong Chuyển Đổi SQL 53 ký tự

Việc đánh giá hiệu suất của LLM trong Text-to-SQL là rất quan trọng để xác định mức độ hiệu quả và độ tin cậy của mô hình. Các chỉ số đánh giá phổ biến bao gồm độ chính xác (accuracy), độ phủ (coverage) và F1-score. Các bộ dữ liệu benchmark như Spider và WikiSQL thường được sử dụng để đánh giá các mô hình Text-to-SQL. Việc so sánh hiệu suất của các mô hình khác nhau trên cùng một bộ dữ liệu benchmark giúp xác định các phương pháp tiếp cận tốt nhất và các lĩnh vực cần cải thiện. Ngoài ra, cần xem xét các yếu tố như khả năng xử lý các truy vấn SQL phức tạp, khả năng khái quát hóa sang các cơ sở dữ liệu mới và khả năng xử lý các lỗi thường gặp.

3.1. Các Chỉ Số Đánh Giá Hiệu Suất Phổ Biến Trong Text to SQL

Để đánh giá hiệu suất của mô hình Text-to-SQL sử dụng LLM, một số chỉ số đánh giá được sử dụng rộng rãi. Độ chính xác đo lường tỷ lệ các truy vấn SQL được tạo ra chính xác so với tổng số truy vấn. Độ phủ đánh giá khả năng của mô hình trong việc tạo ra các truy vấn SQL phù hợp với tất cả các trường hợp. F1-score là sự kết hợp giữa độ chính xác và độ phủ, cung cấp một thước đo toàn diện về hiệu suất của mô hình. Ngoài ra, các chỉ số khác như BLEU score và ROUGE score cũng có thể được sử dụng để đánh giá chất lượng của các truy vấn SQL được tạo ra.

3.2. Sử Dụng Benchmark Datasets Spider WikiSQL Để So Sánh

Các bộ dữ liệu benchmark như Spider và WikiSQL đóng vai trò quan trọng trong việc đánh giá và so sánh các mô hình Text-to-SQL. Spider là một bộ dữ liệu lớn và phức tạp, bao gồm nhiều cơ sở dữ liệu khác nhau và các truy vấn SQL tương ứng. WikiSQL là một bộ dữ liệu nhỏ hơn, tập trung vào các truy vấn SQL đơn giản. Việc sử dụng các bộ dữ liệu benchmark này giúp đảm bảo tính khách quan và khả năng so sánh của các kết quả nghiên cứu. Các nhà nghiên cứu có thể sử dụng các bộ dữ liệu này để huấn luyện và đánh giá mô hình của mình, sau đó so sánh kết quả với các mô hình khác đã được công bố.

IV. Ứng Dụng Thực Tế LLM Trong Chuyển Đổi Văn Bản Sang SQL 58 ký tự

Ứng dụng LLM trong Text-to-SQL mở ra nhiều cơ hội trong thực tế. Các hệ thống quản lý cơ sở dữ liệu có thể tích hợp LLM để cung cấp giao diện truy vấn bằng ngôn ngữ tự nhiên cho người dùng không chuyên. Các ứng dụng phân tích dữ liệu có thể sử dụng LLM để tự động tạo ra các truy vấn SQL từ yêu cầu của người dùng, giúp tăng tốc quá trình phân tích và ra quyết định. Ngoài ra, LLM cũng có thể được sử dụng để xây dựng các trợ lý ảo có khả năng tương tác với cơ sở dữ liệu thông qua ngôn ngữ tự nhiên. Việc triển khai LLM trong Text-to-SQL đòi hỏi sự cân nhắc kỹ lưỡng về hiệu suất, độ tin cậy và khả năng mở rộng.

4.1. Tích Hợp LLM Vào Hệ Thống Quản Lý Cơ Sở Dữ Liệu DBMS

Việc tích hợp LLM vào các hệ thống quản lý cơ sở dữ liệu (DBMS) mang lại lợi ích lớn cho người dùng. LLM có thể cung cấp một giao diện truy vấn bằng ngôn ngữ tự nhiên, cho phép người dùng không chuyên dễ dàng truy xuất thông tin từ cơ sở dữ liệu mà không cần phải học SQL. Điều này giúp democrat hóa dữ liệu và mở rộng khả năng tiếp cận dữ liệu cho nhiều người dùng hơn. Các DBMS có thể sử dụng LLM để tự động tạo ra các truy vấn SQL từ yêu cầu của người dùng, giúp giảm thiểu thời gian và công sức cần thiết để tạo ra các truy vấn thủ công.

4.2. LLM Hỗ Trợ Phân Tích Dữ Liệu và Ra Quyết Định Nhanh Chóng

LLM có thể đóng vai trò quan trọng trong việc hỗ trợ phân tích dữ liệu và ra quyết định nhanh chóng. Các nhà phân tích dữ liệu có thể sử dụng LLM để tự động tạo ra các truy vấn SQL từ yêu cầu của họ, giúp họ khám phá dữ liệu và tìm ra các thông tin chi tiết quan trọng một cách nhanh chóng và hiệu quả. LLM cũng có thể được sử dụng để tạo ra các báo cáo tự động và trực quan hóa dữ liệu, giúp người dùng hiểu rõ hơn về dữ liệu và đưa ra các quyết định dựa trên dữ liệu.

V. Thách Thức và Hướng Nghiên Cứu Tương Lai Về Text to SQL 59 ký tự

Mặc dù có nhiều tiến bộ, việc ứng dụng LLM trong Text-to-SQL vẫn còn nhiều thách thức. Một trong những thách thức lớn nhất là khả năng xử lý các truy vấn SQL phức tạp, đòi hỏi LLM phải có khả năng hiểu sâu sắc ngữ nghĩa và cấu trúc của cơ sở dữ liệu. Các nghiên cứu trong tương lai có thể tập trung vào việc phát triển các kiến trúc LLM mới, các kỹ thuật tối ưu hóa hiệu suất và độ tin cậy, cũng như các phương pháp giải quyết các vấn đề bias và tính công bằng. Ứng dụng Deep learning vào bài toán này đang ngày càng phát triển và mở ra nhiều hướng nghiên cứu mới.

5.1. Xử Lý Truy Vấn SQL Phức Tạp Cần Nâng Cao Khả Năng LLM

Khả năng xử lý các truy vấn SQL phức tạp vẫn là một thách thức đối với các LLM hiện tại. Các truy vấn phức tạp thường liên quan đến nhiều bảng, nhiều điều kiện và các phép toán phức tạp. Để xử lý các truy vấn này, LLM cần có khả năng hiểu sâu sắc ngữ nghĩa của truy vấn, cấu trúc của cơ sở dữ liệu và các mối quan hệ giữa các bảng. Các nghiên cứu trong tương lai có thể tập trung vào việc phát triển các kiến trúc LLM mới, các kỹ thuật học sâu và các phương pháp tối ưu hóa để cải thiện khả năng xử lý các truy vấn SQL phức tạp.

5.2. Nghiên Cứu Giải Quyết Bias và Đảm Bảo Tính Công Bằng

Một vấn đề quan trọng cần được giải quyết trong ứng dụng LLM là bias và tính công bằng. Các LLM có thể bị bias do dữ liệu huấn luyện có chứa các thành kiến xã hội và văn hóa. Điều này có thể dẫn đến việc các truy vấn SQL được tạo ra phản ánh các thành kiến này, gây ra sự bất công và phân biệt đối xử. Các nghiên cứu trong tương lai cần tập trung vào việc phát triển các phương pháp loại bỏ bias khỏi dữ liệu huấn luyện, cũng như các kỹ thuật đánh giá và giảm thiểu bias trong các mô hình LLM. Để làm được điều đó chúng ta cần am hiểu về Semantic parsing.

Tổng quan nghiên cứu

Trong bối cảnh dữ liệu ngày càng trở nên quan trọng trong nhiều lĩnh vực, việc truy vấn và khai thác dữ liệu từ các cơ sở dữ liệu quan hệ trở thành một thách thức lớn, đặc biệt với người dùng không chuyên về SQL. Theo báo cáo của ngành công nghệ, SQL vẫn là một trong những ngôn ngữ lập trình phổ biến nhất, được sử dụng rộng rãi trong quản lý và phân tích dữ liệu. Nhiệm vụ Text-to-SQL, tức chuyển đổi câu truy vấn ngôn ngữ tự nhiên thành câu lệnh SQL, nhằm mục tiêu giúp người dùng không chuyên có thể truy cập và khai thác dữ liệu một cách hiệu quả hơn. Luận văn này tập trung nghiên cứu và ứng dụng mô hình ngôn ngữ lớn (LLM), cụ thể là Flan-T5, để giải quyết bài toán Text-to-SQL. Mục tiêu chính là thiết kế, triển khai và đánh giá một mô hình có khả năng sinh câu truy vấn SQL chính xác từ câu hỏi ngôn ngữ tự nhiên, sử dụng kiến trúc hai tầng gồm mô hình tạo và mô hình xếp hạng. Phạm vi nghiên cứu tập trung vào dữ liệu thực tế từ cơ sở dữ liệu của một công ty tại Việt Nam, với thời gian thực hiện từ tháng 1 đến tháng 5 năm 2024. Kết quả nghiên cứu có ý nghĩa quan trọng trong việc nâng cao khả năng truy cập dữ liệu, giảm thiểu rào cản kỹ thuật và mở rộng phạm vi sử dụng dữ liệu cho nhiều đối tượng người dùng khác nhau.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn dựa trên các lý thuyết và mô hình tiên tiến trong lĩnh vực xử lý ngôn ngữ tự nhiên và học sâu, bao gồm:

• Mô hình Transformer và cơ chế Self-Attention: Giúp mô hình hiểu và xử lý mối quan hệ phức tạp giữa các từ trong câu, nâng cao khả năng biểu diễn ngữ nghĩa.
• Mô hình Flan-T5: Một biến thể của T5 được huấn luyện với kỹ thuật instruction fine-tuning, giúp cải thiện khả năng tổng quát hóa và thực thi các tác vụ ngôn ngữ tự nhiên.
• Kỹ thuật giải mã bị ràng buộc (Constrained Decoding) dựa trên ngữ pháp SQL: Đảm bảo các câu truy vấn sinh ra tuân thủ cú pháp SQL, giảm thiểu lỗi cú pháp.
• Kiến trúc hai tầng (Generator và Ranker): Mô hình tạo sinh nhiều câu truy vấn SQL ứng viên, sau đó mô hình xếp hạng đánh giá và chọn ra câu truy vấn chính xác nhất.

Các khái niệm chính bao gồm: Text-to-SQL, mô hình ngôn ngữ lớn (LLM), giải mã bị ràng buộc, kiến trúc Transformer, và kỹ thuật fine-tuning.

Phương pháp nghiên cứu

Nguồn dữ liệu chính là cơ sở dữ liệu thực tế của công ty tác giả đang làm việc, được xử lý dựa trên cấu trúc của bộ dữ liệu Spider. Mô hình Flan-T5 base được sử dụng làm nền tảng, được fine-tune trên tập dữ liệu huấn luyện để thực hiện nhiệm vụ Text-to-SQL. Phương pháp phân tích bao gồm:

• Tiền xử lý dữ liệu: Chuẩn hóa câu hỏi ngôn ngữ tự nhiên và biểu diễn cấu trúc bảng dưới dạng chuỗi.
• Huấn luyện mô hình tạo (generator) với beam search để sinh ra nhiều câu truy vấn SQL ứng viên.
• Sử dụng mô hình xếp hạng (ranker) để đánh giá và chọn câu truy vấn phù hợp nhất.
• Đánh giá hiệu quả mô hình bằng chỉ số ROUGE-1 và ROUGE-L, đo lường độ tương đồng giữa câu truy vấn sinh ra và câu truy vấn chuẩn.

Quy trình nghiên cứu kéo dài từ tháng 1 đến tháng 5 năm 2024, với cỡ mẫu dữ liệu đủ lớn để đảm bảo tính đại diện và độ tin cậy của kết quả.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Hiệu quả của kiến trúc hai tầng: Mô hình generator sinh ra trung bình 5 câu truy vấn SQL ứng viên cho mỗi câu hỏi, trong đó mô hình ranker đã chọn được câu truy vấn chính xác nhất với độ chính xác đạt khoảng 85% trên tập kiểm thử. Việc sử dụng ranker giúp tăng 12% độ chính xác so với chỉ dùng generator.

2. Tác động của giải mã bị ràng buộc: Kỹ thuật constrained decoding dựa trên ngữ pháp SQL đã giảm thiểu lỗi cú pháp xuống dưới 3%, so với mức khoảng 15% khi không áp dụng kỹ thuật này.

3. Chỉ số ROUGE-1 và ROUGE-L: Mô hình đạt ROUGE-1 F1 score khoảng 0.78 và ROUGE-L F1 score khoảng 0.74, cho thấy khả năng sinh câu truy vấn có nội dung và cấu trúc gần với câu truy vấn chuẩn.

4. So sánh với các nghiên cứu trước: Kết quả này tương đương hoặc vượt trội hơn một số mô hình Text-to-SQL sử dụng LLM khác như RAT-SQL hay Graphix-T5, đặc biệt về tính hợp lệ cú pháp và khả năng tổng quát hóa trên dữ liệu thực tế.

Thảo luận kết quả

Nguyên nhân chính của hiệu quả cao đến từ việc kết hợp mô hình Flan-T5 có khả năng hiểu ngữ cảnh tốt với kỹ thuật constrained decoding giúp đảm bảo tính hợp lệ cú pháp. Việc sử dụng mô hình ranker như một bước kiểm tra bổ sung giúp giảm thiểu các câu truy vấn không chính xác hoặc không phù hợp với ngữ cảnh câu hỏi. So với các nghiên cứu trước, phương pháp này không chỉ tập trung vào việc sinh câu truy vấn mà còn chú trọng đến việc đánh giá và lựa chọn kết quả, từ đó nâng cao độ chính xác tổng thể. Kết quả có thể được minh họa qua biểu đồ so sánh độ chính xác giữa các phương pháp và bảng thống kê lỗi cú pháp trước và sau khi áp dụng constrained decoding. Ý nghĩa của nghiên cứu là mở ra hướng tiếp cận hiệu quả, khả thi cho việc ứng dụng LLM trong các hệ thống truy vấn dữ liệu thực tế, giúp người dùng không chuyên dễ dàng khai thác dữ liệu hơn.

Đề xuất và khuyến nghị

1. Triển khai hệ thống Text-to-SQL dựa trên Flan-T5 trong doanh nghiệp: Áp dụng mô hình đã huấn luyện để hỗ trợ truy vấn dữ liệu nội bộ, giảm thiểu sự phụ thuộc vào chuyên gia SQL, dự kiến hoàn thành trong 6 tháng tới, do bộ phận công nghệ thông tin thực hiện.

2. Mở rộng tập dữ liệu huấn luyện và fine-tune định kỳ: Thu thập thêm dữ liệu truy vấn thực tế từ người dùng để cải thiện khả năng tổng quát hóa của mô hình, thực hiện hàng quý, do nhóm nghiên cứu và phát triển đảm nhiệm.

3. Phát triển giao diện người dùng thân thiện: Thiết kế giao diện nhập câu hỏi ngôn ngữ tự nhiên và hiển thị kết quả truy vấn SQL, giúp người dùng cuối dễ dàng tương tác, hoàn thành trong 3 tháng, do nhóm phát triển phần mềm thực hiện.

4. Tích hợp hệ thống kiểm tra và sửa lỗi câu truy vấn tự động: Sử dụng mô hình ranker và kỹ thuật constrained decoding để tự động phát hiện và chỉnh sửa lỗi, nâng cao độ chính xác và trải nghiệm người dùng, triển khai trong 4 tháng, do nhóm AI và phát triển phần mềm phối hợp thực hiện.

Đối tượng nên tham khảo luận văn

1. Nhà nghiên cứu và sinh viên ngành Khoa học Máy tính: Tìm hiểu về ứng dụng mô hình ngôn ngữ lớn trong xử lý ngôn ngữ tự nhiên và truy vấn cơ sở dữ liệu, phục vụ cho các đề tài nghiên cứu liên quan.

2. Chuyên gia phát triển hệ thống dữ liệu và AI: Áp dụng kiến thức và phương pháp trong luận văn để xây dựng các hệ thống truy vấn dữ liệu thông minh, nâng cao hiệu quả khai thác dữ liệu.

3. Doanh nghiệp và tổ chức sử dụng cơ sở dữ liệu lớn: Nâng cao khả năng truy cập dữ liệu cho người dùng không chuyên, giảm chi phí đào tạo và vận hành hệ thống.

4. Nhà quản lý công nghệ thông tin: Đánh giá và triển khai các giải pháp công nghệ mới nhằm cải thiện hiệu suất làm việc và tối ưu hóa quy trình truy vấn dữ liệu trong tổ chức.

Câu hỏi thường gặp

1. Text-to-SQL là gì và tại sao quan trọng?
   Text-to-SQL là nhiệm vụ chuyển đổi câu hỏi ngôn ngữ tự nhiên thành câu truy vấn SQL, giúp người dùng không chuyên có thể truy cập dữ liệu dễ dàng. Ví dụ, một câu hỏi như "Tổng doanh thu tháng 5 là bao nhiêu?" sẽ được chuyển thành câu lệnh SQL tương ứng để truy vấn cơ sở dữ liệu.

2. Mô hình Flan-T5 có ưu điểm gì trong Text-to-SQL?
   Flan-T5 được fine-tune trên nhiều tác vụ với kỹ thuật instruction tuning, giúp mô hình hiểu và thực thi các yêu cầu ngôn ngữ tự nhiên tốt hơn, đồng thời có khả năng tổng quát hóa cao khi áp dụng cho các nhiệm vụ mới như Text-to-SQL.

3. Giải mã bị ràng buộc (Constrained Decoding) hoạt động thế nào?
   Kỹ thuật này sử dụng ngữ pháp SQL để giới hạn các token có thể sinh ra tại mỗi bước, đảm bảo câu truy vấn sinh ra luôn hợp lệ về mặt cú pháp, giảm thiểu lỗi và tăng tính chính xác.

4. Tại sao cần mô hình xếp hạng (Ranker)?
   Mô hình ranker đánh giá và chọn ra câu truy vấn SQL chính xác nhất trong số các câu truy vấn ứng viên do generator sinh ra, giúp cải thiện độ chính xác tổng thể của hệ thống.

5. ROUGE score dùng để đánh giá gì trong nghiên cứu này?
   ROUGE đo lường độ tương đồng giữa câu truy vấn sinh ra và câu truy vấn chuẩn, trong đó ROUGE-1 đánh giá sự trùng lặp từ đơn, ROUGE-L đánh giá chuỗi con dài nhất chung, giúp đánh giá chất lượng sinh câu truy vấn.

Kết luận

• Luận văn đã thành công trong việc ứng dụng mô hình Flan-T5 kết hợp kỹ thuật constrained decoding và kiến trúc hai tầng để giải quyết bài toán Text-to-SQL.
• Mô hình đạt độ chính xác cao với ROUGE-1 F1 score khoảng 0.78 và giảm thiểu lỗi cú pháp xuống dưới 3%.
• Phương pháp đề xuất có tính khả thi và hiệu quả trong môi trường dữ liệu thực tế, mở rộng khả năng truy cập dữ liệu cho người dùng không chuyên.
• Các giải pháp đề xuất hướng tới triển khai thực tế, nâng cao trải nghiệm người dùng và tối ưu hóa quy trình truy vấn dữ liệu.
• Bước tiếp theo là mở rộng tập dữ liệu, hoàn thiện giao diện người dùng và tích hợp hệ thống vào môi trường doanh nghiệp, mời các nhà nghiên cứu và chuyên gia cùng hợp tác phát triển.