Xây dựng hệ thống hỏi đáp tự động dựa trên ánh xạ câu hỏi (Đề tài NCKH)

Nghiên cứu xây dựng hệ thống hỏi đáp tự động dựa trên phương pháp ánh xạ câu hỏi. Tìm hiểu mô hình xử lý, truy vấn thông tin và kết quả thực nghiệm.

• Tác giả: Đặng Trường Sơn
• Trường học: Trường Đại Học Sư Phạm Kỹ Thuật Thành Phố Hồ Chí Minh
• Chuyên ngành: Công Nghệ Thông Tin
• Đề tài: Xây Dựng Hệ Thống Hỏi Đáp Tự Động Dựa Trên Ánh Xạ Câu Hỏi
• Loại tài liệu: Công Trình Nghiên Cứu Khoa Học Cấp Trường
• Năm xuất bản: 2013
• Địa điểm: Thành Phố Hồ Chí Minh

Tóm tắt

I. Khái niệm và Tầm quan trọng của Hệ thống Hỏi Đáp Tự động

Hệ thống hỏi đáp tự động (Question Answering - QA) là một lĩnh vực quan trọng trong xử lý ngôn ngữ tự nhiên và truy vấn thông tin. Đây là công nghệ cho phép máy tính hiểu câu hỏi của người dùng bằng ngôn ngữ tự nhiên và tự động tìm kiếm, xử lý thông tin để cung cấp câu trả lời chính xác. Hệ thống này đóng vai trò quan trọng trong giáo dục, dịch vụ khách hàng, và nghiên cứu khoa học. Với sự phát triển của công nghệ AI và machine learning, các hệ thống hỏi đáp ngày càng trở nên thông minh và hiệu quả hơn. Đặc biệt, việc áp dụng công nghệ này trên nền tiếng Việt mở ra nhiều cơ hội phát triển ứng dụng hữu ích cho người dùng Việt Nam.

1.1. Định nghĩa Hệ thống Hỏi Đáp Tự động

Hệ thống QA tự động là hệ thống có khả năng nhận diện, phân tích và trả lời các câu hỏi do người dùng đặt ra dưới dạng văn bản hoặc giọng nói. Hệ thống này kết hợp các kỹ thuật xử lý ngôn ngữ tự nhiên, trích xuất thông tin (IE) và truy vấn thông tin (IR) để tìm ra câu trả lời phù hợp nhất từ cơ sở dữ liệu hoặc kho tài liệu.

1.2. Ứng dụng Thực tiễn

Các ứng dụng của hệ thống hỏi đáp bao gồm chatbot hỗ trợ khách hàng, trợ lý ảo, hệ thống e-learning, và các ứng dụng tìm kiếm thông tin nâng cao. Công nghệ này giúp cải thiện trải nghiệm người dùng và tiết kiệm chi phí vận hành dịch vụ hỗ trợ.

II. Phương pháp Ánh xạ Câu hỏi trong Hệ thống QA

Phương pháp ánh xạ câu hỏi (Question Mapping) là một cách tiếp cận hiệu quả để xây dựng hệ thống hỏi đáp tự động. Phương pháp này dựa trên việc ánh xạ các câu hỏi mới với các câu hỏi và câu trả lời đã được lưu trữ trong cơ sở dữ liệu. Thay vì xử lý mỗi câu hỏi từ đầu, hệ thống tìm kiếm câu hỏi tương tự và trả lại câu trả lời tương ứng. Phương pháp này có ưu điểm là tốc độ xử lý nhanh, độ chính xác cao, và dễ dàng mở rộng. Đối với tiếng Việt, phương pháp ánh xạ câu hỏi còn giúp khắc phục các thách thức liên quan đến xử lý ngôn ngữ tự nhiên như phân tích cú pháp và phân loại từ.

2.1. Nguyên lý Hoạt động

Ánh xạ câu hỏi hoạt động dựa trên ba bước chính: (1) Tiền xử lý câu hỏi bao gồm tách từ, loại bỏ dấu, chuẩn hóa; (2) Trích xuất đặc trưng từ câu hỏi sử dụng các kỹ thuật như TF-IDF hoặc mô hình ngôn ngữ; (3) So sánh độ tương tự với các câu hỏi trong cơ sở dữ liệu và trả lại kết quả phù hợp nhất.

2.2. Kỹ thuật Trích xuất Đặc trưng

Các kỹ thuật trích xuất đặc trưng bao gồm TF-IDF, mô hình ngôn ngữ (language model), và phân loại từ (POS tagging). Những kỹ thuật này giúp đại diện hóa câu hỏi dưới dạng vector hoặc ma trận, từ đó có thể tính toán độ tương tự giữa các câu hỏi.

III. Quy trình Xây dựng Hệ thống Hỏi Đáp

Quy trình xây dựng hệ thống hỏi đáp tự động bao gồm nhiều bước quan trọng. Trước tiên, cần xác định mục tiêu hệ thống và phạm vi dữ liệu cần xử lý. Tiếp theo là thu thập và chuẩn bị dữ liệu huấn luyện, bao gồm các cặp câu hỏi-câu trả lời. Sau đó, thực hiện tiền xử lý dữ liệu sử dụng các công cụ như JVnTagger cho tiếng Việt. Bước quan trọng tiếp theo là phân tích câu hỏi để trích xuất các từ khóa và ý nghĩa. Cuối cùng là truy vấn thông tin và đánh giá kết quả. Mỗi bước đều đóng vai trò không thể thiếu trong việc đảm bảo chất lượng của hệ thống.

3.1. Tiền xử lý và Phân tích Dữ liệu

Tiền xử lý dữ liệu là bước tất yếu để chuẩn bị dữ liệu. Bao gồm tách từ, chuẩn hóa văn bản, loại bỏ các từ dừng (stopwords), và phân loại từ loại (POS tagging). Đối với tiếng Việt, việc sử dụng công cụ JVnTagger giúp xác định chính xác loại từ và cấu trúc câu.

3.2. Huấn luyện Mô hình

Huấn luyện mô hình sử dụng các cặp câu hỏi-câu trả lời trong cơ sở dữ liệu. Hệ thống học được mối quan hệ giữa các câu hỏi tương tự và các câu trả lời tương ứng. Quá trình này bao gồm mở rộng truy vấn, gom nhóm câu hỏi, và cắt tỉa kết quả không phù hợp.

IV. Đánh giá Hiệu quả và Ứng dụng Thực tiễn

Để đánh giá hiệu quả của hệ thống hỏi đáp, sử dụng các chỉ số như Mean Reciprocal Rank (MRR), độ chính xác (Precision), độ phủ (Recall), và F-measure. Các chỉ số này cho biết hệ thống có tìm thấy câu trả lời đúng trong top kết quả hay không. Theo nghiên cứu tại Trường ĐH Sư Phạm Kỹ Thuật TP.HCM, việc áp dụng phương pháp ánh xạ câu hỏi đạt được hiệu quả tốt với độ chính xác cao. Ứng dụng thực tiễn của hệ thống bao gồm xây dựng các nền tảng e-learning, hệ thống hỗ trợ tư vấn, và các công cụ tìm kiếm nâng cao cho các tổ chức.

4.1. Các Chỉ số Đánh giá

Mean Reciprocal Rank (MRR) đo lường vị trí của câu trả lời đúng trong danh sách kết quả. Precision cho biết tỷ lệ kết quả đúng trên tổng số kết quả trả về. Recall đo lường tỷ lệ câu trả lời đúng được tìm thấy. F-measure kết hợp hai chỉ số này để đánh giá toàn diện.

4.2. Hướng Phát triển Tương lai

Hệ thống hỏi đáp tự động có tiềm năng phát triển lớn với sự hỗ trợ của deep learning và mô hình ngôn ngữ tiên tiến. Các hướng phát triển bao gồm cải thiện khả năng hiểu ngữ cảnh, hỗ trợ các câu hỏi phức tạp, và tích hợp với các nguồn dữ liệu đa dạng.

Trích đoạn nội dung tài liệu

Phần mở đầu giới thiệu tổng quan hệ thống trả lời tự động liên quan đến QA và hƣớng nghiên cứu đề xuất trong việc xây dựng một hệ thống QA. Chƣơng 1 trình bày kiến thức liên quan đƣợc sử dụng trong xây dựng hệ thống QA. Chƣơng 2 trình bày cụ thể các bƣớc trong việc xây dựng một hệ thống QA dựa trên tiếp cận ánh xạ câu hỏi. Chƣơng 3 nêu kết quả thực nghiệm và đánh giá.

Phần kết luận và kiến nghị tổng kết những công việc đã hoàn thành và đề xuất dự kiến phát triển trong tƣơng lai. 15 CHƢƠNG 1: CÁC KIẾN THỨC LIÊN QUAN 1. Xử lý ngôn ngữ tự nhiên (Natural Language Processing) 1. Gom nhóm văn bản (text clustering) Gom nhóm văn bản (hay gom nhóm tài liệu) liên quan đến khái niệm gom nhóm dữ liệu.

Các tài liệu cùng chung một hay vài đặc điểm nào đó sẽ đƣợc tập hợp lại với nhau thành một nhóm. Tùy thuộc vào mục đích và dữ liệu mà mỗi hệ thống sẽ sử dụng các đặc điểm khác nhau. Hai thuật toán phổ biến sử dụng trong gom nhóm là K-means algorithm và Hierarchical based algorithm [19-20]. Phân loại văn bản (text classification) Phân loại văn bản là một nhiệm vụ thuộc lĩnh vực xử lý ngôn ngữ tự nhiên trong đó chúng ta phân các tài liệu vào trong các lớp đã đƣợc xác định trƣớc dựa trên nội dung của chúng.

Trong hệ thống QA, các kỹ thuật phân loại cũng đƣợc sử dụng nhƣng không cho văn bản hay tài liệu mà là cho các câu hỏi. Có hai hƣớng tiếp cận đƣợc sử dụng rộng rãi trong phân lớp, đó là hƣớng tiếp cận dựa trên luật (rule-based approach) và hƣớng tiếp cận dựa trên xác suất thống kê (statistics-based approach). Hướng tiếp cận dựa trên luật: Hƣớng tiếp cận này yêu cầu phải có các chuyên gia ngôn ngữ cung cấp các luật, các biểu thức chính quy (regural expression), các từ khóa cho từng lớp … để hệ thống hoạt động. Các hạn chế của hƣớng tiếp cận này gồm có:  Xây dựng mô hình cho phƣơng pháp này rất tốn thời gian và công sức, cần có sự cộng tác của những chuyên gia trong lĩnh vực ngôn ngữ học khi xây dựng các mẫu câu và văn phạm cho từng loại.

 Các luật ngữ pháp viết tay và văn phạm của từng loại rất cứng nhắc, không linh động. Khi một dạng câu mới xuất hiện, mô hình theo hƣớng này không thể xử lý. Muốn xử lý đƣợc mô hình cần phải đƣợc cung cấp những luật mới. 16  Vấn đề nhập nhằng của các văn phạm ngữ pháp rất khó xử lý, kiểm soát và phụ thuộc vào đặc điểm của từng ngôn ngữ.

 Khi tập dữ liệu đƣợc mở rộng hoặc thay đổi kéo theo việc phải viết lại hoàn toàn các luật trƣớc đó nên hệ thống rất khó mở rộng. Một số hệ thống hỏi đáp sử dụng luật để phân lớp câu hỏi nhƣ Webclopedia [21] Hướng tiếp cận dựa trên xác suất thống kê: Đƣợc Jonathan Brown tổng hợp lại bao gồm hai cách tiếp cận chính đó là:  Phương pháp máy học: Sử dụng một tập đủ lớn các câu đã đƣợc gán nhãn lớp để huấn luyện một mô hình có thể tự động nắm bắt đƣợc các mẫu có ích trong việc phân lớp. Cụ thể hơn, các thuật toán của hƣớng tiếp cận này sẽ tính toán xác suất phân lớp cho câu dựa trên những đặc trƣng hay những mối quan hệ của các từ trong câu đƣa vào. Các thuật toán thƣờng đƣợc sử dụng là Support Vector Machines (SVM), láng giềng gần nhất (Near Neighbors – kNN), Naïve Bayes (NB), Entropy cực đại, …Ngoài ra, các phƣơng pháp học máy bán giám sát [22] cũng đƣợc đƣa ra để sử dụng các câu chƣa đƣợc gán nhãn làm tăng cƣờng thêm độ chính xác cho phân lớp.

 Phương pháp sử dụng mô hình ngôn ngữ: Xây dựng một mô hình ngôn ngữ thống kê để ƣớc lƣợng đƣợc phân phối của ngôn ngữ tự nhiên chính xác nhất có thể. Cụ thể với bài toán phân lớp câu hỏi là việc ƣớc lƣợng xác suất có điều kiện p(a|b) của “loại câu hỏi” a xuất hiện trong “ngữ cảnh” câu hỏi tự nhiên b. Bài toán đặt ra là chúng ta phải tìm một phƣơng pháp ƣớc lƣợng (có thể tin tƣởng đƣợc) mô hình xác suất có điều kiện p(a|b). Hƣớng tiếp cận dựa trên học máy thống kê hiện đang đƣợc rất nhiều nhà nghiên cứu quan tâm vì nó không chỉ tốn ít công sức của con ngƣời hơn (so với phƣơng pháp dựa trên luật) mà còn có tính khả chuyển cao, dễ dàng áp dụng cho nhiều miền ứng dụng khác nhau.

Tuy nhiên hƣớng tiếp cận này cũng gặp khó khăn khi số lƣợng lớp câu hỏi lớn. Tokenization và tách câu (sentence splitting) Trƣớc khi xử lý, văn bản chỉ đƣợc xem nhƣ là một chuỗi các ký tự. Tokenization là việc phân chia một chuỗi các ký tự thành các yếu tố từ vựng nhƣ các từ và các dấu câu. Tách câu là phân chia các từ và dấu câu vào trong từng câu, mỗi câu đƣợc phân tách bởi các dấu chấm câu.

Điều này có liên quan đến một hệ thống các xác suất xác định xem một dấu chấm câu có thực sự dùng để kết thúc một câu hay không. Ví dụ nhƣ dấu „.‟ có thể dùng trong một từ viết tắt hay dùng để kết thúc một câu hay phức tạp hơn là cả hai. Đây có thể xem nhƣ là bƣớc đầu tiên trƣớc khi xử lý sâu hơn các văn bản tài liệu. Tách từ (word segmenting) Trong ngôn ngữ học, từ là một đơn vị cơ bản.

Mỗi một chuỗi các từ dƣới dạng ngôn ngữ viết đƣợc phân chia thành các thành phần từ mang ý nghĩa. Do đó một trong những công việc đầu tiên và quan trọng trƣớc khi xử lý ngôn ngữ là xác định ranh giới giữa các từ. Trong tiếng Anh và các ngôn ngữ sử dụng bảng chữ cái Latinh, dấu cách (khoảng trắng) là một dấu phân cách từ khá hiệu quả. Tuy nhiên không phải tất cả đều có dấu cách hay ký tự tƣơng đƣơng nhƣ thế.

Trong ngôn ngữ tiếng Việt cũng thế, dấu cách không hẳn đƣợc dùng để xác định ranh giới từ. Mặc dù vậy, tách từ là không thể thiếu cho các ứng dụng khác nhau nhƣ: Search engines, Word processors, Spelling Checkers, Voice Processing, … Tùy theo đặc điểm của từng loại hình ngôn ngữ mà có các hệ thống xử lý cụ thể. Nói chung các chiến lƣợc giải quyết các vấn đề trong tách từ đƣợc chia thành hai hƣớng cơ bản: dictionary-based và statistical-based.  Dictionary-based hay còn gọi là rule-based thƣờng sử dụng một số phƣơng pháp dựa trên việc so khớp chuỗi.

Phƣơng pháp phổ biến nhất là Maximal Matching  Statistical-based sử dụng xác suất thống kê trên tập ngữ liệu. Các hƣớng tiếp cận sau này thƣờng là sự kết hợp 2 hƣớng trên và đƣợc gọi là statistics-aided. Điều này có nghĩa là ta sẽ chọn một trƣờng hợp tách từ tốt nhất trong số các trƣờng hợp có thể có bằng các mô hình xác suất với một từ điển. 18 Ví dụ : Học sinh học sinh học Sau khi tách từ ta sẽ đƣợc : Học_sinh học sinh_học Một trong những hƣớng tiếp cận này dùng trong tách từ tiếng Việt là [23], sự kết hợp giữa WFST (Weight Finite State Transducer) và Neural Network sử dụng từ điển Tiếng Việt hay nhƣ [24] với CRFs (Conditional Random Fields) và SVMs (Support VectorMachines).

Nhãn từ loại (Part Of Speech) Mỗi từ trong câu đƣợc phân loại tùy thuộc vào cách mà từ đó đƣợc dùng trong câu. Ví dụ trong tiếng Anh từ fax có thể dùng nhƣ một danh từ (Did you receive that fax I sent you?) hay một động từ (Could you fax me that report?) hay trong tiếng Việt từ đá cũng vừa là danh từ (cánh cửa bằng đá) hay động từ (cầu thủ đá trái bóng). Việc gắn các nhãn từ bằng thủ công cho tập tài liệu hay đơn giản chỉ cho một tài liệu cũng sẽ tốn nhiều thời gian. Có nhiều hệ thống đƣợc xây dụng để có thể gán nhãn tự động cho tài liệu với độ chính xác khá cao.

Ví dụ: A fractal is a pattern that is irregular, but self-similar at all size scales; for example, a small patch of ground may have the same general appearance as a larger patch or even a huge area seen from high above. Sau khi đƣợc gán nhãn từ loại : A/DT fractal/NN is/VBZ a/DT pattern/NN that/WDT is/VBZ irregular/JJ ,/, but/CC self-similar/JJ at/IN all/DT size/NN scales/NNS ;/: for/IN example/NN ,/,a/DT small/JJ patch/NN of/IN ground/NN may/MD have/VB the/DT same/JJ general/JJ appearance/NN as/IN a/DT larger/JJR patch/NN or/CC even/RB a/DT huge/JJ area/NN seen/VBN from/IN high/JJ PP above/IN. 19 Một trong số các công cụ gán nhãn phổ biến là Maximum entropy tagger hay Brill tagger. Maximum entropy tagger (maxent) sử dụng xác suất để gắn nhãn từ cho tài liệu có nhiều khả năng đúng nhất.

Xác suất này đƣợc học thông qua kỹ thuật máy học có giám sát. Trong học có giám sát, hệ thống đƣợc đƣa vào các dữ liệu chính xác, hệ thống hình thành những luật hay xác suất để đƣa ra quyết định từ những qui tắc này. Sử dụng cây quyết định để xem xét tất cả các nhãn từ có khả năng cho một câu và tìm cái có thể nhất. Brill tagger, đƣợc biết đến nhƣ là công cụ gắn nhãn từ dựa trên chuyển đổi, cũng sử dụng máy học có giám sát nhƣng nó học các luật thay cho xác xuất.

Đầu tiên nó gắn nhãn cho mỗi từ với các nhãn có thể nhất cho từ đó, sau đó qua từng đoạn, nó áp dụng tập các luật cho các tình huống có thể xảy ra nhất. Mô hình ngôn ngữ (language model) Một mô hình ngôn ngữ thống kê (statistical language model) gán một xác suất cho một chuỗi m từ P(w1,w2,…,wn) bằng một phân bố xác suất. Unigram model Mô hình unigram thƣờng đƣợc sử dụng trong IR. Mỗi mô hình đƣợc liên kết với một tài liệu trong tập tài liệu.

Trong mô hình này, mỗi từ trong tài liệu đƣợc tính tần suất xuất hiện trong tài liệu. Do đó tổng các tần suất của tất cả các từ trong tài liệu bằng 1.1 : Tần suất của các từ trong 1 tài liệu Terms Probability in document a 0.3 … …  P(term) = 1 termdoc Xác suất đƣợc tạo ra cho một truy vấn đƣợc tính nhƣ sau P(query) =  P(term ) termquery Với mỗi tài liệu khác nhau sẽ có một mô hình của nó với các tần suất khác nhau của từng từ trong tài liệu. Dựa trên các tần suất của từ trong mỗi tài liệu để tính xác suất của một truy vấn theo từng tài liệu. Sau đó sẽ xếp hạng dựa trên các xác suất này.2 : Tần suất của các từ trong các tài liệu khác nhau Terms Probability in document 1 Probability in document 2 a 0.