Luận án tiến sĩ khoa học máy tính: Tóm tắt dữ liệu bằng ngôn ngữ theo đại số gia tử - Phạm Thị Lan (Học viện KH&CN Việt Nam)

Tóm tắt luận án tiến sĩ khoa học máy tính về phương pháp tóm tắt dữ liệu bằng ngôn ngữ tự nhiên dựa trên lý thuyết đại số gia tử. Nội dung nghiên cứu ứng dụng

• Tác giả: Phạm Thị Lan
• Người hướng dẫn: PGS.TSKH Nguyễn Cát Hồ
• Trường học: Học viện Khoa học và Công nghệ
• Chuyên ngành: Khoa học máy tính
• Đề tài: Tóm tắt dữ liệu bằng ngôn ngữ theo cách tiếp cận đại số gia tử
• Loại tài liệu: Luận án tiến sĩ
• Năm xuất bản: 2022
• Địa điểm: Hà Nội

Tóm tắt

I. Tổng quan về tóm tắt dữ liệu bằng ngôn ngữ theo đại số gia tử

Tóm tắt dữ liệu bằng ngôn ngữ là một nhánh quan trọng trong lĩnh vực khai phá dữ liệu. Phương pháp này giúp chuyển đổi dữ liệu số phức tạp thành các câu tóm tắt dễ hiểu bằng ngôn ngữ tự nhiên. Đại số gia tử cung cấp nền tảng toán học vững chắc để xử lý tính mơ hồ trong dữ liệu thực tế. Lý thuyết tập mờ đóng vai trò trung tâm trong việc mô tả các khái niệm không chính xác. Khung nhận thức dựa trên tập mờ cho phép biểu diễn dữ liệu một cách có cấu trúc. Phương pháp này đặc biệt hữu ích khi xử lý các tập dữ liệu lớn và phức tạp. Công trình nghiên cứu của Phạm Thị Lan (2022) đã phát triển các thuật toán tóm tắt hiệu quả. Kết quả nghiên cứu được thực hiện tại Học viện Khoa học và Công nghệ, Viện Hàn lâm Khoa học và Công nghệ Việt Nam. Luận án đã xây dựng hệ thống các định lý và công thức tính toán chi tiết.

1.1. Khái niệm khai phá tri thức từ cơ sở dữ liệu

Khai phá tri thức từ cơ sở dữ liệu (KDD) là quá trình chuyển hóa dữ liệu thô thành tri thức có giá trị. Mitra và cộng sự đã định nghĩa KDD bao gồm nhiều bước quan trọng. Các bước chính gồm chọn lọc dữ liệu, tiền xử lý, chuyển đổi và khai phá. Khai phá dữ liệu là bước then chốt quyết định chất lượng kết quả cuối cùng. Quá trình này giúp con người phát hiện tri thức ẩn giấu trong các kho dữ liệu lớn. Công nghệ số hóa hiện đại cho phép thu thập và lưu trữ lượng dữ liệu khổng lồ.

1.2. Vai trò của lý thuyết tập mờ trong xử lý dữ liệu

Lý thuyết tập mờ cung cấp công cụ mạnh mẽ để xử lý tính không chính xác trong dữ liệu. Biến ngôn ngữ cho phép biểu diễn các khái niệm định tính bằng các tập mờ. Phân hoạch mờ đảm bảo các tập mờ bao phủ toàn bộ miền tham chiếu. Các ràng buộc về tính giải nghĩa được giúp hệ thống có thể diễn giải kết quả. Khung nhận thức dựa trên tập mờ tạo ra cấu trúc dữ liệu có tổ chức. Phương pháp này phù hợp với dữ liệu thực tế thường có tính chất mơ hồ.

II. Phân tích bài toán trích rút tóm tắt bằng ngôn ngữ

Bài toán trích rút tóm tắt bằng ngôn ngữ đặt ra nhiều thách thức quan trọng. Dữ liệu thực tế thường chứa nhiều yếu tố bất định và không chính xác. Các câu tóm tắt cần sử dụng từ lượng hóa ngôn ngữ để diễn đạt. Thứ tự ngữ nghĩa giữa các hạng từ phải được đảm bảo trong quá trình xử lý. Số lượng tập mờ cần thỏa các ràng buộc về tính giải nghĩa được. Vị trí giữa các tập mờ phải đảm bảo sự phân biệt rõ ràng. Các tập mờ cần bao phủ toàn bộ miền tham chiếu từ 0 đến 1. Điều kiện phân hoạch mạnh đều đặt ra yêu cầu nghiêm ngặt về cấu trúc dữ liệu. Bài toán đòi hỏi phương pháp tiếp cận có nền tảng lý thuyết vững chắc.

2.1. Cấu trúc khung nhận thức và tính giải nghĩa được

Khung nhận thức là cấu trúc nền tảng để biểu diễn dữ liệu trong hệ thống. Cấu trúc này phải đảm bảo tính giải nghĩa được để người dùng hiểu kết quả. Các ràng buộc về vị trí tập mờ giúp duy trì thứ tự ngữ nghĩa hợp lý. Số lượng tập mờ được giới hạn trong khoảng cho phép để đảm bảo hiệu quả. Thiết kế khung nhận thức cần cân bằng giữa độ chính xác và tính dễ hiểu. Ví dụ thực tế cho thấy các khung được thiết kế tốt cho kết quả giải nghĩa chính xác.

2.2. Thách thức trong việc định lượng ngữ nghĩa hạng từ

Việc định lượng ngữ nghĩa của hạng từ là vấn đề cốt lõi trong nghiên cứu. Mỗi hạng từ mang ngữ nghĩa riêng cần được biểu diễn bằng giá trị số. Khoảng tính mờ của hạng từ chứa các giá trị tương thích với ngữ nghĩa. Độ đo tính mờ giúp đánh giá mức độ mơ hồ của từng hạng từ. Gia tử tác động lên hạng từ làm thay đổi ngữ nghĩa theo quy luật. Cần xây dựng công thức tính toán chính xác cho các tham số tính mờ.

III. Phương pháp tính toán trong đại số gia tử cho tóm tắt dữ liệu

Phương pháp tính toán dựa trên đại số gia tử cung cấp công cụ toán học hiệu quả. Hệ thống sử dụng tập gia tử H để tác động lên các hạng từ trong cấu trúc. Công thức tính giá trị định lượng ngữ nghĩa được xây dựng dựa trên lý thuyết tập mờ. Độ đo tính mờ của hạng từ được xác định qua khoảng tính mờ tương ứng. Khoảng tính mờ k-khoảng chứa các giá trị số tương thích với ngữ nghĩa ở mức k. Công thức fm(x) = µ(hn)…µ(h1)fm(c) thể hiện mối quan hệ giữa gia tử và hạng từ. Tham số tính mờ fm(c+), fm(c-) và µ(h) đóng vai trò trung tâm. Các đại lượng này cho phép tính toán tất cả đặc trưng ngữ nghĩa định lượng. Phương pháp đảm bảo tính nhất quán và chính xác trong quá trình xử lý dữ liệu.

3.1. Độ đo tính mờ của hạng từ và gia tử

Độ đo tính mờ của hạng từ dựa trên độ dài khoảng tính mờ tương ứng. Giá trị |ℑ(x)| thể hiện mức độ mơ hồ của hạng từ x trong hệ thống. Đối với gia tử, tỷ số |ℑ(hx)|/|ℑ(x)| không phụ thuộc vào hạng từ x. Tỷ số này được gọi là độ đo tính mờ của gia tử h, ký hiệu µ(h). Giả định gia tử độc lập với ngữ cảnh giúp đơn giản hóa tính toán. Độ đo này phản ánh hiệu quả tác động của gia tử lên ngữ nghĩa hạng từ.

3.2. Công thức tính giá trị định lượng ngữ nghĩa

Công thức tính giá trị định lượng ngữ nghĩa là công cụ cốt lõi của phương pháp. Hệ thống sử dụng các tham số tính mờ để tính toán đặc trưng ngữ nghĩa. Giá trị fm(c+) và fm(c-) xác định ranh giới ngữ nghĩa của hạng từ cơ sở. Gia tử h tác động làm thay đổi giá trị ngữ nghĩa theo công thức đệ quy. Phương pháp hình thức hóa ngữ nghĩa dựa trên thứ tự các hạng từ. Các công thức này đảm bảo tính toán chính xác và hiệu quả cho bài toán tóm tắt.

IV. Kết luận và ứng dụng của phương pháp tóm tắt dữ liệu bằng ngôn ngữ

Nghiên cứu đã xây dựng thành công phương pháp tóm tắt dữ liệu bằng ngôn ngữ dựa trên đại số gia tử. Hệ thống lý thuyết hoàn chỉnh bao gồm định nghĩa, định lý và công thức tính toán. Phương pháp đảm bảo tính giải nghĩa được của các câu tóm tắt tạo ra. Kết quả nghiên cứu có giá trị khoa học và ứng dụng thực tiễn cao. Phương pháp có thể áp dụng trong nhiều lĩnh vực cần phân tích dữ liệu phức tạp. Các ngành như tài chính, y tế, giáo dục đều có thể hưởng lợi từ công trình này. Nghi究 mở ra hướng phát triển mới cho lĩnh vực khai phá dữ liệu tiếng Việt. Công trình đóng góp vào kho tàng tri thức về trí tuệ nhân tạo xử lý ngôn ngữ tự nhiên.

4.1. Giá trị khoa học của luận án tiến sĩ

Luận án đã xây dựng hệ thống lý thuyết hoàn chỉnh về tóm tắt dữ liệu bằng ngôn ngữ. Các kết quả nghiên cứu là trung thực và chưa từng được công bố trước đó. Công trình được thực hiện dưới sự hướng dẫn của các chuyên gia hàng đầu. PGS.TSKH Nguyễn Cát Hồ và PGS.TS Hồ Cẩm Hà đã định hướng khoa học. Nghiên cứu được thực hiện tại Học viện Khoa học và Công nghệ uy tín. Kết quả mở ra nhiều hướng nghiên cứu mới cho cộng đồng khoa học.

4.2. Ứng dụng thực tiễn và hướng phát triển

Phương pháp có tiềm năng ứng dụng rộng rãi trong xử lý dữ liệu thực tế. Các hệ thống hỗ trợ ra quyết định có thể tích hợp phương pháp này. Ngành tài chính sử dụng để tóm tắt báo cáo và phân tích xu hướng. Lĩnh vực y tế áp dụng trong phân tích dữ liệu bệnh nhân và chẩn đoán. Hướng phát triển tương lai bao gồm mở rộng cho dữ liệu đa chiều và đa ngôn ngữ. Kết hợp với học sâu có thể nâng cao hiệu quả xử lý dữ liệu lớn.

Trích đoạn nội dung tài liệu

chương 1 sẽ được sử dụng khi trình bày các kết quả nghiên cứu trong các chương tiếp theo. Một số kiến thức cơ bản về tập mờ Lý thuyết tập mờ được Zadeh đề xuất năm 1965 trong [57] với ý tưởng làm cho máy tính có thể hiểu và xử lý được những tri thức diễn đạt bằng ngôn ngữ tự nhiên. Khái niệm tập mờ là một mở rộng của khái niệm tập cổ điển hay tập rõ và mỗi tập rõ là một trường hợp riêng của khái niệm tập mờ. Tập cổ điển chỉ xem xét một phần tử có thuộc hay không thuộc vào nó, với tập mờ thì bất kỳ phần tử nào trong vũ trụ đều có thể thuộc về nó với mức độ thuộc được đo bởi một giá trị trong đoạn [0, 1].

Định nghĩa tập mờ Cho U là một tập hợp các điểm (đối tượng), một tập con mờ X trên miền tham chiếu U được định nghĩa như sau: Định nghĩa 1.1 [57-59]: Một tập mờ X trên U là một tập mà mỗi phần tử của nó là một cặp các giá trị (x, X(x)), trong đó x U và X là ánh xạ: X:U→[0,1] Ánh xạ X được gọi là hàm thuộc (membership function) của tập mờ X. Tập U được gọi là tập cơ sở của tập mờ X. Giá trị X(x) biểu thị mức độ thuộc của phần tử x vào tập mờ X. Nếu giá trị X(x) càng gần 1 thì mức độ thuộc của x vào X càng cao.

Khi X(x) chỉ nhận giá trị 0 hoặc 1 thì tập X là tập con rõ của tập U. Do đó, tập mờ là khái niệm mở rộng của tập rõ. Khi xây dựng các tập mờ, giá trị hàm thuộc biến thiên trong khoảng [0,1]. Trong các ứng dụng lý thuyết tập mờ thường sử dụng các tập mờ có hình dạng phổ biến như trong Hình 1.

Các tập mờ này được gọi là các tập mờ chuẩn vì có giá trị 21 hàm thuộc lớn nhất bằng 1. Tập mờ tam giác và tập mờ hình thang được sử dụng nhiều nhất do tính đơn giản và dễ hiểu với người dùng. (a) Tập mờ tam giác (b) Tập mờ hình thang (c) Tập mờ hình chuông Hình 1.1: Ba kiểu tập mờ phổ biến 1. Biến ngôn ngữ Theo Zadeh [57] “biến ngôn ngữ là biến mà các giá trị của nó là các từ hoặc câu trong ngôn ngữ tự nhiên hoặc ngôn ngữ nhân tạo”.

Ví dụ khi nhận xét về lương của nhân viên tập sự, chúng ta có thể xem đây là biến ngôn ngữ có tên gọi LƯƠNG và nhận các giá trị ngôn ngữ như ‘rất thấp’, ‘thấp’, ‘trung bình’, ‘cao’, ‘rất cao’. Với mỗi giá trị ngôn ngữ này, gán cho nó một hàm thuộc tương ứng xác định một tập mờ trên miền giá trị số [0, 10] (đơn vị triệu đồng) của thuộc tính LƯƠNG (xem Hình 1. Rất thấp Thấp Trung bình Cao Rất cao 1 0 1 7 3 5 9 10 Hình 1.2: Ví dụ năm tập mờ biểu diễn ngữ nghĩa các giá trị ngôn ngữ của biến LƯƠNG trong miền tham chiếu [0, 10] (đơn vị: triệu đồng) Một cách hình thức, chúng ta có định nghĩa của biến ngôn ngữ như sau: Định nghĩa 1.2 [58, 59]: Biến ngôn ngữ là một bộ năm thành phần ( , T( ), U, R, M), trong đó là tên biến, T( ) là tập các giá trị ngôn ngữ của biến , U là không gian tham chiếu, mỗi giá trị ngôn ngữ xem như là một tập mờ trên U, R là 22 một qui tắc cú pháp sinh các giá trị ngôn ngữ cho tập T( ), M là qui tắc ngữ nghĩa gán mỗi giá trị ngôn ngữ trong T( ) tương ứng với một tập mờ trên U. Phân hoạch mờ Phân hoạch mờ là một khái niệm được sử dụng để mờ hóa các miền xác định của các biến ngôn ngữ.

Chúng ta có định nghĩa phân hoạch mờ như sau.3 [60]: Cho m điểm cố định p1 < p2 <. < pm thuộc tập U = [a, b] R là không gian tham chiếu của biến cơ sở u của biến ngôn ngữ. Khi đó, một tập T gồm m tập mờ X1, X2, ., Xm định nghĩa trên U (với hàm thuộc tương ứng là X ,X ,.,X ) được gọi là một phân hoạch mờ của U nếu các điều kiện sau thỏa 1 2 m mãn, k = 1,. k Nếu phân hoạch mờ thỏa mãn thêm điều kiện 6) dưới đây thì được gọi là phân hoạch mờ mạnh.

k =1 Nếu phân hoạch mờ thỏa mãn thêm điều kiện 7), 8), 9) dưới đây thì được gọi là phân hoạch đều. 7) Với k m thì hk = pk+1 - pk là hằng số 8) X k ( x) là hàm thuộc đối xứng 9) X ( x) có cùng một dạng hình họck Hình 1.1 là một ví dụ về phân hoạch mờ mạnh. Mỗi phân hoạch mờ theo định nghĩa 1.3 còn được gọi là một thể hạt (granularity), một phân hoạch mờ gồm một thể hạt gọi là phân hoạch mờ đơn thể hạt (single granularity) như trong Hình 23 1.3-(a), một phân hoạch mờ gồm nhiều thể hạt gọi là phân hoạch mờ đa thể hạt (multi granularity) như trong Hình 1. Ví dụ về phân hoạch mờ: (a) dạng đơn thể hạt; (b) dạng đa thể hạt 1.

Khung nhận thức dựa trên lý thuyết tập mờ 1. Định nghĩa khung nhận thức Theo Mencar và Fanelli trong [61], mỗi khung nhận thức (Frame of Cognition - FoC) F của một biến ngôn ngữ A là tập hữu hạn các tập mờ có thứ tự trên miền tham chiếu của biến A và chúng được gán nhãn ngôn ngữ bởi các hạng từ trong miền hạng từ của thuộc tính A. Trong mô hình lý thuyết tập mờ, mỗi FoC F gán nhãn các tập mờ là các hạng từ ngôn ngữ mà con người có thể sử dụng để mô tả các tính chất định tính của các thuộc tính của các đối tượng trong tự nhiên. Do đó, việc gán nhãn ngôn ngữ cho các tập mờ cần phải thể hiện ngữ nghĩa của các nhãn ngôn ngữ này.

Từ đó, các tác giả trong [61] đưa ra một định nghĩa đầy đủ cho FoC như sau: Định nghĩa 1.4 [61]: Khung nhận thức FoC là một cấu trúc gồm 5 thành phần = 〈 , , ≤, ℒ, 〉. Trong đó: o = { 1, 2, … , }, với là các tập mờ có thứ tự trên miền tham chiếu U của thuộc tính A. o ≤ là quan hệ thứ tự giữa các tập mờ sao cho ≤ ⟹ ≤ o ℒ là tập các nhãn ngôn ngữ trong miền hạng từ của biến ngôn ngữ hoặc thuộc tính A có thứ tự tương ứng với các tập mờ trong = { 1, 2, … , }. 24 Quan hệ thứ tự giữa hai tập mờ ≤ phản ánh thứ tự giá trị hàm thuộc của chúng như trong khẳng đị nh sau: ∀ , ∈ : ≤ ⟹∃ ∈ ,∀ ∈ : ( ≤ ⟹ ( ) ≥ ( )) ∧ ( ≥ ⟹ ( ) ≤ ( )) (1.1) Các hạng từ ngôn ngữ trong mỗi miền hạng từ của các thuộc tính có thứ tự dựa trên ngữ nghĩa vốn có của nó.

Ví dụ, trong nghiên cứu trích rút tóm tắt về bệnh nhân [42], các tác giả lựa chọn năm hạng từ trong miền hạng từ của thuộc tính “heart rate” với thứ tự ngữ nghĩa tăng dần là ‘very low’, ‘low’, ‘medium’, ‘high’, và ‘very high’. Khi đó các tập mờ biểu diễn ngữ nghĩa cho năm hạng từ này cũng có thứ tự tăng dần như trong Hình 1. Tương tự, năm từ lượng hóa có thứ tự ngữ nghĩa tăng dần là ‘very few’, ‘few’, ‘half’, ‘most’, và ‘almost all’. Các tập mờ biểu diễn ngữ nghĩa cho các từ lượng hóa như trong Hình 1.

Trong ví dụ này, các tập mờ hình thang tạo thành phân hoạch mạnh của miền tham chiếu số của thuộc tính tương ứng.4: Ví dụ về các tập mờ trên miền tham chiếu số 1. Các ràng buộc về tính giải nghĩa được Trong định nghĩa về khung nhận thức sử dụng tập mờ chỉ có một điều kiện ràng buộc về thứ tự của các tập mờ và thứ tự ngữ nghĩa của các hạng từ. Tuy nhiên các hạng từ lúc này chỉ được coi là nhãn bằng ngôn ngữ của các tập mờ. Nếu việc gán nhãn là các chuỗi ký tự không có ý nghĩa như A11, A12, … sẽ gây khó hiểu cho người sử dụng.

Nếu việc gán nhãn là từ có nghĩa nhưng không đảm bảo một số quan hệ, tính chất ngữ nghĩa có thể gây nhầm lẫn khi người sử dụng giải nghĩa của các hạng từ. Ví dụ trong Hình 1.5 gồm ba tập mờ của một khung nhận thức, ngữ nghĩa được gán cho tập mờ có thứ tự ở giữa và tập mờ bên phải không phản ánh đúng về ngữ nghĩa của hai hạng từ ‘high’ và ‘medium’. Quan hệ thứ tự ngữ nghĩa vốn có của 25 ‘high’ và ‘medium’ trong ngôn ngữ tự nhiên có thứ tự ngữ nghĩa là ‘medium’ ≤ ‘high’, tuy nhiên chúng được gán cho hai tập mờ có thứ tự ngược lại.5: Khung nhận thức ngôn ngữ gồm 3 tập mờ và gán nhãn ngữ nghĩa không đúng về thứ tự ngữ nghĩa Từ đó, khi xem xét tính giải nghĩa của khung nhận thức FoC, các tác giả trong [61] đưa ra các ràng buộc về hình dạng tập mờ, gán nhãn ngôn ngữ, số lượng và mối quan hệ giữa các tập mờ. Xem xét trong Hình 1.6 là hai ví dụ về năm tập mờ trên miền tham chiếu [0, 1] có tính giải nghĩa tốt.

Về hình dạng các tập mờ trong Hình 1.6, các tập mờ là tập mờ chuẩn vì giá trị lớn nhất của hàm thuộc bằng 1, hàm thuộc là hàm lồi và liên tục. Khi các tập mờ được gán nhãn ngôn ngữ bởi lần lượt các hạng từ ‘very few’, ‘few’, ‘a half’, ‘most’, ‘almost all’ thì ràng buộc về thứ tự ngữ nghĩa được đảm bảo. Số lượng tập mờ là năm nên nó thỏa ràng buộc trong khoảng 7 2. Vị trí giữa các tập mờ đảm bảo có sự phân biệt và chúng bao phủ toàn bộ miền tham chiếu [0, 1] (bao gồm cả hai đầu mút 0 và 1).

Các tập mờ thỏa điều kiện 6, 7, 8, 9 trong Định nghĩa 1.3 nên chúng tạo thành một phân hoạch mạnh đều trên miền tham chiếu [0, 1].6: Hai ví dụ về khung nhận thức được thiết kế có tính giải nghĩa tốt 26 1. Tổng quan về trích rút tóm tắt bằng ngôn ngữ dựa trên lý thuyết tập mờ 1. Bài toán trích rút tóm tắt bằng ngôn ngữ là một nhánh trong lĩnh vực khai phá dữ liệu Nhờ kết quả của cuộc cách mạng kỹ thuật số, sự phát triển của phần cứng và phần mềm, chúng ta dễ dàng thực hiện số hóa dữ liệu, thu thập và lưu trữ được những kho dữ liệu khổng lồ. Các kho dữ liệu này ẩn chứa rất nhiều thông tin, tri thức hữu ích cho con người.