Luận văn nghiên cứu khai phá song song luật kết hợp mờ của học viên lớp K8T1

Tìm hiểu khái niệm tóm tắt nghiên cứu khoa học, vai trò của abstract và cách viết bản tóm tắt bài báo chuẩn học thuật hiệu quả, súc tích nhất.

• Tác giả: Phan Xuân Hiếu
• Người hướng dẫn: TS. Hà Quang Thụy
• Trường học: Đại học Quốc gia Hà Nội
• Chuyên ngành: Khoa học máy tính
• Đề tài: Parallel Mining of Fuzzy Association Rules
• Loại tài liệu: Luận văn thạc sĩ
• Địa điểm: Hà Nội

Tóm tắt

I. Tổng quan về khai phá song song luật kết hợp mờ

Khai phá dữ liệu đóng vai trò then chốt trong lĩnh vực khoa học máy tính hiện đại. Quá trình này giúp khám phá tri thức hữu ích từ các kho cơ sở dữ liệu khổng lồ. Trong các hướng tiếp cận, khai phá luật kết hợp thu hút sự chú ý đặc biệt nhờ khả năng phát hiện mối quan hệ giữa các biến. Tuy nhiên, dữ liệu thực tế thường chứa giá trị định lượng liên tục và yếu tố bất định. Phương pháp khai phá truyền thống gặp nhiều trở ngại khi phân tích các thuộc tính số học phức tạp này. Để khắc phục hạn chế, lý thuyết tập mờ được tích hợp vào mô hình khai phá dữ liệu. Hướng tiếp cận này hình thành nên bài toán khai phá luật kết hợp mờ. Khi kích thước dữ liệu tăng vọt, các thuật toán tuần tự không còn đáp ứng được yêu cầu về thời gian. Việc nghiên cứu khai phá song song luật kết hợp mờ lớp K8T1 trở thành một định hướng cấp thiết. Giải pháp tính toán song song phân tán khối lượng xử lý cho nhiều bộ vi xử lý cùng lúc. Cơ chế này bảo đảm tốc độ phân tích, tính chính xác và khả năng mở rộng hệ thống. Tri thức khai phá hỗ trợ đắc lực cho công tác ra quyết định.

1.1. Khái niệm cơ bản về khai phá dữ liệu và tri thức

Khai phá dữ liệu là một bước cốt lõi trong quy trình khám phá tri thức từ cơ sở dữ liệu. Quy trình này bao gồm các bước tiền xử lý, làm sạch, tích hợp, trích xuất và đánh giá mẫu. Mục tiêu hàng đầu là chuyển hóa các nguồn dữ liệu thô thành những tri thức có giá trị thực tiễn. Nhiều kỹ thuật tiên tiến được áp dụng như phân loại, gom cụm, khai phá chuỗi và tìm kiếm luật kết hợp. Các nghiên cứu học thuật chứng minh rằng khai phá dữ liệu không phải là xu hướng nhất thời. Đây là một lĩnh vực nghiên cứu vững chắc dựa trên nền tảng toán học, trí tuệ nhân tạo và thống kê. Sự phát triển mạnh mẽ của khoa học máy tính tạo đòn bẩy cho phương pháp này mở rộng quy mô.

1.2. Vai trò của luật kết hợp trong khai phá dữ liệu

Khai phá luật kết hợp là phương pháp tìm kiếm các mối quan hệ ẩn giữa các thuộc tính trong cơ sở dữ liệu. Hai tham số then chốt điều khiển quá trình này là độ hỗ trợ tối thiểu và độ tin cậy tối thiểu. Độ hỗ trợ xác định tần suất xuất hiện đồng thời của các tập mục dữ liệu. Độ tin cậy đo lường xác suất xuất hiện của hệ quả khi đã có tiền đề. Khái niệm tập phổ biến là trọng tâm của hầu hết các thuật toán kinh điển như Apriori. Khi cơ sở dữ liệu mở rộng quy mô, số lượng tập phổ biến ứng viên tăng trưởng theo hàm mũ. Do đó, việc xây dựng các cấu trúc dữ liệu tối ưu giúp rút ngắn thời gian quét dữ liệu.

II. Vấn đề ranh giới sắc nét và khai phá song song luật kết hợp mờ

Các tập dữ liệu trong thực tế luôn chứa đựng những thuộc tính số học định lượng. Để áp dụng thuật toán khai phá truyền thống, các biến định lượng cần được phân khoảng rời rạc. Tuy nhiên, phương pháp chia khoảng rời rạc thông thường bộc lộ hai nhược điểm nghiêm trọng. Thứ nhất là hiện tượng ranh giới sắc nét khi phân chia các giá trị biên. Các điểm dữ liệu nằm sát hai phía ranh giới bị phân tách vào hai miền đối lập dù giá trị thực tế tương đương nhau. Thứ hai, tổng độ hỗ trợ của các khoảng có thể bị méo mó nếu cố gắng phân vùng chồng lấn. Cách tiếp cận này khiến luật sinh ra thiếu tính tự nhiên và khó diễn giải logic. Ngoài ra, việc xử lý khối lượng bản ghi khổng lồ đòi hỏi tài nguyên tính toán rất lớn. Các thuật toán tuần tự phải quét toàn bộ cơ sở dữ liệu nhiều lần qua từng chu kỳ. Thời gian xử lý kéo dài gây tắc nghẽn nghiêm trọng cho hệ thống máy chủ. Những hạn chế này tạo ra rào cản kỹ thuật rất lớn trong các bài toán thực tiễn. Nghiên cứu giải pháp song song kết hợp logic mờ là hướng đi tất yếu nhằm tháo gỡ điểm nghẽn.

2.1. Hạn chế của bài toán ranh giới sắc nét trong dữ liệu định lượng

Bài toán ranh giới sắc nét xuất hiện khi phân vùng dữ liệu số thành các khoảng cứng nhắc. Ví dụ điển hình là việc chia độ tuổi thành nhóm trẻ, trung niên và già. Một người năm mươi chín tuổi được xếp vào nhóm trung niên. Trong khi đó, người sáu mươi tuổi bị phân loại ngay vào nhóm người già. Sự chuyển đổi trạng thái đột ngột này không phản ánh đúng bản chất sinh học tự nhiên. Nếu áp dụng các khoảng mở chồng lấn, một phần tử sẽ thuộc về nhiều vùng khác nhau. Khi đó, tổng độ hỗ trợ vượt ngưỡng một trăm phần trăm, làm sai lệch cấu trúc dữ liệu. Do đó, việc áp dụng logic mờ giúp làm mượt các ranh giới chuyển tiếp. Mỗi giá trị được gán độ thuộc liên tục thay vì nhãn nhị phân thô sơ.

2.2. Thách thức đồng bộ và truyền thông trong tính toán song song

Các thuật toán khai phá song song truyền thống thường vấp phải rào cản chi phí truyền thông. Khi phân tán dữ liệu, các nút xử lý phải liên tục trao đổi các tập ứng viên cục bộ. Mô hình phân phối dữ liệu thông minh cố gắng giảm tải qua cấu trúc vòng luận lý. Thuật toán cây mẫu phổ biến cục bộ giúp hạn chế số lần quét cơ sở dữ liệu. Dẫu vậy, chi phí đồng bộ hóa giữa các bộ vi xử lý vẫn là một gánh nặng lớn. Sự phụ thuộc lẫn nhau khiến các nút tính toán phải chờ đợi tín hiệu hoàn thành. Hiện tượng mất cân bằng tải làm suy giảm đáng kể hiệu năng tổng thể của toàn cụm máy tính. Việc giảm thiểu tần suất giao tiếp trở thành tiêu chí cốt tử để nâng cao hiệu suất.

III. Giải pháp khai phá song song luật kết hợp mờ giảm truyền thông

Để tháo gỡ khó khăn về truyền thông, một thuật toán song song mới đã được đề xuất và thử nghiệm. Thuật toán này tích hợp chặt chẽ lý thuyết tập mờ và chuẩn đối ngẫu T-norm. Các giá trị định lượng được chuyển đổi thành các tập mờ thông qua hàm liên thuộc thích hợp. Nhờ đó, luật sinh ra phản ánh tự nhiên ngôn ngữ con người và loại trừ lỗi biên sắc nét. Điểm cải tiến mang tính đột phá của giải pháp nằm ở cơ chế tối ưu hóa giao tiếp song song. Thay vì liên tục trao đổi dữ liệu qua lại, quá trình truyền thông chỉ diễn ra đúng hai lần. Lần thứ nhất diễn ra tại giai đoạn khởi tạo khi hệ thống phân chia và phân phối các thuộc tính mờ cho các bộ vi xử lý. Lần thứ hai diễn ra ở giai đoạn kết thúc nhằm gom góp toàn bộ các luật đã tìm được. Trong toàn bộ chu trình tính toán trung gian, các bộ vi xử lý vận hành hoàn toàn độc lập và không cần khóa đồng bộ. Thiết kế này tạo ra môi trường tính toán song song lý tưởng, loại bỏ thời gian trễ mạng. Hiệu năng hệ thống được duy trì ổn định ngay cả khi quy mô dữ liệu mở rộng mạnh mẽ.

3.1. Ứng dụng lý thuyết tập mờ và toán tử T norm

Lý thuyết tập mờ cung cấp công cụ toán học vững chắc để mô tả sự bất định và độ mờ của dữ liệu số. Thay vì chia ranh giới cứng, hàm liên thuộc giúp xác định mức độ phù hợp của từng giá trị trong các tập mờ tương ứng. Toán tử T-norm đóng vai trò trung tâm trong việc tính toán độ hỗ trợ cho các tập mục mờ giao nhau. Việc lựa chọn hàm T-norm thích hợp bảo đảm tính giao hoán, tính kết hợp và tính đơn điệu của phép tính. Nhờ đó, các luật trích xuất được biểu diễn dưới dạng ngôn ngữ tự nhiên và thân thiện. Ví dụ như các thuộc tính tuổi cao hoặc huyết áp cao giúp người dùng trực tiếp nắm bắt ý nghĩa tri thức một cách sáng rõ.

3.2. Cơ chế truyền thông hai pha tối ưu cho bộ xử lý

Thuật toán song song đề xuất áp dụng cơ chế truyền thông hai pha nhằm triệt tiêu độ trễ mạng. Pha thứ nhất bắt đầu tại thời điểm khởi tạo thuật toán. Máy chủ phân phối các tập thuộc tính mờ đồng đều cho từng bộ vi xử lý trong cụm. Sau khi nhận dữ liệu, các nút xử lý bước vào pha tính toán cục bộ mà không cần gửi nhận thêm thông tin. Mỗi nút độc lập sinh các tập mục phổ biến mờ và trích xuất luật theo tiêu chí quy định. Pha thứ hai kích hoạt khi toàn bộ các tiến trình tính toán đã hoàn tất nhiệm vụ. Các nút gửi kết quả luật mờ cục bộ về nút chủ để hợp nhất thành bộ luật hoàn chỉnh. Mô hình loại bỏ hoàn toàn các vòng lặp đồng bộ tốn kém giữa các nút.

IV. Ứng dụng thực tiễn của khai phá song song luật kết hợp mờ

Nghiên cứu khai phá song song luật kết hợp mờ khẳng định giá trị ứng dụng to lớn trong thời đại dữ liệu lớn. Sự kết hợp giữa logic mờ và tính toán hiệu năng cao giúp giải quyết triệt để sự đánh đổi giữa độ chính xác và tốc độ xử lý. Thuật toán mới không chỉ vượt qua rào cản ranh giới sắc nét mà còn nâng cao khả năng diễn giải luật theo ngôn ngữ chuyên ngành. Trong thực tế, mô hình này được ứng dụng rộng rãi tại các ngành công nghiệp chủ chốt. Ngành tài chính ngân hàng sử dụng luật kết hợp mờ để phát hiện gian lận và đánh giá rủi ro tín dụng. Lĩnh vực y tế áp dụng giải pháp để hỗ trợ chẩn đoán bệnh dựa trên các chỉ số sinh hóa phức tạp. Ngành thương mại và bán lẻ khai thác hành vi khách hàng để tối ưu hóa chiến lược kinh doanh. Khả năng mở rộng linh hoạt của hệ thống cho phép triển khai mượt mà trên cả kiến trúc bộ nhớ chia sẻ lẫn hệ thống phân tán. Đây là tiền đề khoa học vững chắc để phát triển các hệ thống phân tích dữ liệu thông minh trong tương lai.

4.1. Khả năng mở rộng trên các hệ thống phân tán và đa xử lý

Thuật toán phân tán thể hiện khả năng mở rộng vượt trội trên nhiều kiến trúc phần cứng. Đối với hệ thống bộ nhớ chia sẻ SMP, các luồng tiến trình truy cập trực tiếp tài nguyên chung mà không gây xung đột bộ nhớ. Đối với hệ thống phân tán không chia sẻ, thuật toán giảm thiểu tối đa lưu lượng mạng thông qua cấu trúc giao tiếp tối giản. Khối lượng công việc được phân chia cân bằng giúp các bộ vi xử lý khai thác tối đa công suất xử lý. Hệ số gia tốc của cụm máy chủ tăng trưởng gần như tuyến tính khi bổ sung thêm tài nguyên phần cứng mới. Khả năng chịu lỗi và tính linh hoạt này đáp ứng hoàn hảo các tiêu chuẩn xử lý dữ liệu lớn hiện đại.

4.2. Ý nghĩa thực tiễn trong y tế tài chính và thương mại

Các tập luật mờ mang lại độ tin cậy vượt trội trong các lĩnh vực yêu cầu tính chuẩn xác cao. Trong chẩn đoán y khoa, hệ thống phân tích các yếu tố liên quan đến tuổi tác, chỉ số mỡ máu và huyết áp để dự báo nguy cơ tim mạch. Tri thức thu được mô tả trực quan dưới dạng ngôn ngữ lâm sàng giúp đội ngũ bác sĩ dễ dàng tham khảo. Trong ngành tài chính, các luật liên kết giữa hành vi giao dịch và hạn mức tín dụng hỗ trợ ngăn chặn gian lận kịp thời. Lĩnh vực bán lẻ tận dụng luật kết hợp mờ để sắp xếp hàng hóa và đề xuất gói sản phẩm theo thói quen tiêu dùng. Giải pháp tối ưu hóa lợi nhuận mà vẫn duy trì trải nghiệm hài lòng cho khách hàng.

Trích đoạn nội dung tài liệu

1 Abstract During the last decade, data mining, also known as knowledge discovery in data- bases (KDD), has been becoming one of the dominant research trends in the fields of computer science and knowledge engineering. Many research results have been proposed and successfully applied to the real world demonstrates that data mining is an active research area based on a solid background rather than an impulsive and volatile one as some people once suspected. Data mining includes several approaches. Almost all techniques used in this area are borrowed from database, machine learning, artificial intelligence, information theory, probability & statistics, and high performance computing (including para- llel computing).

There is a wide range of problems need to be solved in this area such as classification/prediction, clustering, association rules mining, sequence mining. Data mining is also an interdisciplinary field because its research results are put into practice in commerce, finance & stock market, biology, medical treat- ment, education, telecommunication, and so on. Being aware of the potential of this research domain, I make my choice of “Para- llel Mining of Fuzzy Association Rules” for my master thesis. This dissertation not only summarizes the previous work but also remarks the delicate relationship between fuzzy association rules and fuzzy logic theory.

In addition, the dissertation proposes a novel parallel algorithm for fuzzy association rules mining. Roadmap: the thesis is organized as follows: Chapter one presents an overview of data mining. It encompasses both several descriptive definitions of data mining and main steps in KDD. Also, This section mentions major approaches and techniques as well as classification of data mining systems according to different criteria.

The conclusion of this chapter enumerates focused issues during the last few years (probably in next time) and outlines the chief applications of this research domain. Chapter two formally describes the problem of association rules mining by giving basic concepts such as frequent itemset, minimum support, minimum confidence, 2 etc. Furthermore, this section sums up significant proposals in this field within its 10-year history. A complete understanding of this chapter means the readers will easily perceive next two chapters.

Chapter three presents fuzzy association rules. We first state the issue of mining quantitative and categorical association rules together with corresponding methods of data discretization. Quantitative association rules, however, exposes some drawbacks such as “sharp boundary problem” and non-intuitive interpretation. Fuzzy association rule was recommended to overcome these disadvantages.

Besides the summarization of the previous research about this kind of association rule, this chapter tries to highlight the subtle relevance between fuzzy association rule and fuzzy theory by determining which functions are suited for T-norm operator. Finally, this section suggests a method to convert fuzzy association rules into quantitative ones based on a threshold wf of the membership function associated with the fuzzy set of each fuzzy attribute. Chapter four focuses on parallel mining of association rules. The first part of this chapter sums up previously proposed parallel algorithms that were successfully experimented.

Most of these algorithms have common shortcomings such that they must strongly perform either data communication or synchronization among related processors during the period of mining frequent itemsets. Making the most of distinct features of fuzzy association rules, I suggest a new parallel algorithm for mining this kind of association rules that significantly decrease the amount of data or control information need to be communicated or synchronized. In addition, this algorithm pays attention to load-balancing among processors thanks to an appropriate strategy in dividing the set of candidate itemsets. Chapter five concludes the dissertation by summing up the achievements throughout the previous four chapters.

Furthermore, this chapter reveals several complex issues that solutions to them remain unconvincing. Finally, I will outline the future research topics. 3 Acknowledgements My deepest thank must first go to my research advisor, Dr Ha Quang Thuy, who offers me an endless inspiration in scientific research, leading me to this research area. I particularly appreciate his unconditional support and advice in both academic environment and daily life during the last four years.

Many thanks to all lecturers teaching me throughout my master program such as Prof. Huynh Huu Tue, Prof, Dr Nguyen Xuan Huy, Assoc Prof, Dr Ngo Quoc Tao, Dr Vu Duc Thi, Dr Nguyen Kim Anh, etc. Also, I would like to thank scientists as well as members of management committee of class K8T1: Academic, Prof. Nguyen Van Hieu, Prof, Dr Bach Hung Khang, Assoc Prof, Dr Ho Sy Dam, Prof, Dr Pham Tran Nhu, and Assoc Prof, Dr Do Duc Giao.

My thanks also go to all member of seminar group “data mining & parallel computing” such as Dr Do Van Thanh, Msc Pham Tho Hoan, Msc Doan Son, Bsc Bui Quang Minh, Msc Nguyen Tri Thanh, Bsc Nguyen Thanh Trung, Bsc Tao Thi Thu Phuong, Bsc Vu Boi Hang, etc. They are either my teachers or my friends sharing common research topics. Again, I would like to thank them for their technical advice and spiritual supports. I highly acknowledge the invaluable support and advice in both technical and daily life of my teachers, my colleagues in Department of Information Systems, Faculty of Technology, Vietnam National University, Hanoi such as Dr Nguyen Tue, Assoc Prof, Dr Trinh Nhat Tien, Msc Nguyen Quang Vinh, Msc Vu Ba Duy, Msc Le Quang Hieu, etc.

Finally, I would specially like to say thanks to all members in my family, all my friends. They are really an endless encouragement in my life. Author of master thesis Phan Xuan Hieu 4 Table of Contents Abstract. 3 Table of Contents.

4 List of Figures. 6 List of Tables. Introduction to Data Mining .1 Motivation: Why Data Mining? .2 Definition: What is Data Mining? .3 Main Steps in Knowledge Discovery in Databases (KDD) .1 Major Approaches and Techniques in Data Mining .1 Major Approaches and Techniques in Data Mining.2 Kinds of data could be mined? .2 Application of Data Mining .1 Application of Data Mining.2 Classification of Data Mining Systems .3 Focused issues in Data Mining.1 Motivation: Why Association Rules? .2 Association Rules Mining – Problem Statement .3 Main Research Trends in Association Rules Mining. Fuzzy Association Rules Mining .1 Quantitative Association Rules .1 Association Rules with Quantitative and Categorical Attributes.2 Methods of Data Discretization.2 Fuzzy Association Rules .1 Data Discretization based on Fuzzy Set .2 Fuzzy Association Rules .3 Algorithm for Fuzzy Association Rules Mining .4 Relation between Fuzzy Association Rules and Quantitative Association Rules .5 Experiments and Conclusions.

Parallel Mining of Fuzzy Association Rules.1 Several Previously Proposed Parallel Algorithms .1 Count Distribution Algorithm .2 Data Distribution Algorithm.3 Candidate Distribution Algorithm.4 Algorithm for Parallel Generation of Association Rules .5 Other Parallel Algorithms.2 A New Parallel Algorithm for Fuzzy Association Rules Mining .2 The New Algorithm.3 Experiments and Conclusions .1 Achievements throughout the dissertation. 59 6 List of Figures Figure 1 - The volume of data strongly increases in the past two decades. 9 Figure 2 - Steps in KDD process. 12 Figure 3 - Illustration of an association rule.

17 Figure 4 - "Sharp boundary problem" in data discretization. 26 Figure 5 - Membership functions of "Age_Young", "Age_Middle-aged", and "Age_Old". 27 Figure 6 - Membership functions of "Cholesterol_Low" and "Cholesterol_High"28 Figure 7 - Count distribution algorithm on a 3-processor parallel system. 43 Figure 8 - Data distribution algorithm on a 3-processor parallel system.

45 7 List of Tables Table 1 - An example of transactional databases. 18 Table 2 - Frequent itemsets in sample database in table 1 with support = 50%. 18 Table 3 - Association rules generated from frequent itemset ACW. 19 Table 4 - Diagnostic database of heart disease on 17 patients.

23 Table 5 - Data discretization for categorical or quantitative attributes having finite values. 25 Table 6 - Data discretization for "Serum cholesterol" attribute. 25 Table 7 - Data discretization for "Age" attribute. 25 Table 8 - Diagnostic database of heart disease on 13 patients.

29 Table 9 - Notations used in fuzzy association rules mining algorithm. 35 Table 10 - Algorithm for mining fuzzy association rules. 35 Table 11 - TF: Values of records at attributes after fuzzifying. 36 Table 12 - C1: set of candidate 1-itemsets.

37 Table 13 - F2: set of frequent 2-itemsets. 38 Table 14 - Fuzzy association rules generated from database in table 8. 39 Table 15 - The sequential algorithm for generating association rules. 49 Table 16 - Set of fuzzy attributes received after being fuzzified the database in table 8.

51 Table 17 - Fuzzy attributes dividing algorithm among processors. 54 8 Notations & Abbreviations Word or phrase Abbreviation Knowledge Discovery in Databases KDD 9 Chapter 1. Introduction to Data Mining 1.1 Motivation: Why Data Mining? The past two decades has seen a dramatic increase in the amount of information or data being stored in electronic devices (i. hard disk, CD-ROM, magnetic tape, etc.

This accumulation of data has taken place at an explosive rate. It has been estimated that the amount of information in the world doubles every two years and the size and number of databases are increasing even faster. Figure 1 illustrates the data explosion [3]. Figure 1 - The volume of data strongly increases in the past two decades We are drowning in data, but starving for useful knowledge.

The vast amount of accumulated data is actually a valuable resource because information is the vital factor for business operations, and decision-makers could make the most of the data to gain precious insight into the business before making decisions. Data mining, the extraction of hidden predictive information from large databases, is a powerful new technology with great potential to help companies focus on the most significant information in their data collection (databases, data warehouses, data repositories). The automated, prospective analyses offered by data mining go beyond the normal analyses of past events provided by retrospective tools typical of decision support systems. Data mining tools can answer business questions that traditionally were too time-consuming to resolve.

This is where data mining & knowledge discovery in databases demonstrates its obvious benefits for today’s 10 competitive business environment. Nowadays, Data Mining & KDD has been becoming a key role in computer science and knowledge engineering areas. The initial application of data mining is only in commerce (retail) and finance (stock market). However, data mining is now widespreadly and successfully put into other fields such as bio-informatics, medical treatment, telecommunication, education, etc.2 Definition: What is Data Mining? Before listing some definitions of data mining, I would like to present a small explanation about terminology so that readers could avoid unnecessary confusions.

As mentioned above, we can roughly understand that data mining is a process of extracting non-trivial, implicit, previously unknown, and potentially useful know- ledge from huge sets of data. Thus, we should name this process is knowledge discovery in database (KDD) instead of data mining. However, most of the resea- rchers agree that the two above terminologies (data mining and KDD) are similar and they can be used interchangeably. They explain for this “humorous” misnomer that the core motivation of KDD is useful knowledge, but the main object they have to deal with is data.

Therefore, in a sense, data mining and KDD have the same meaning. However, data mining is sometimes refered to as one step in the whole KDD process [3] [43]. There are numerous definitions of data mining and they are all descriptive. I would like to restate herein some of them that are widely accepted.

Definition one: William J Frawley, Gregory Piatetsky-Shapiro, and Christopher J Matheus 1991 [43]: “Knowledge discovery in databases, also known Data mining, is the non-trivial process of identifying valid, novel, potentially useful, and ultimately understand- able patterns in data.