CHƯƠNG 1 TỔNG QUAN VỀ PHÁT HIỆN MỐI QUAN HỆ GIỮA CÁC DỮ LIỆU TRONG CƠ SỞ DỮ LIỆU 1. Mục tiêu của việc phát hiện mối quan hê ̣ giữa các dữ liệu Mục tiêu của việc khai khác dữ liệu có các nhiệm vụ chính như sau [2]: Khám phá dữ liệu, khám phá mẫu, và dự đoán mẫu nhằm khám phá tri thức trong kho dữ liệu; Rút trích các thông tin có giá trị tiềm ẩn trong kho dữ liệu; Phân tích tự động trong kho dữ liệu; Biểu diễn dữ liệu để thân thiện với người dùng hơn; Dự báo các thông tin mới dựa trên dữ liệu hiện tại để từ đó hỗ trợ, và ra quyết định. Các bước chính của quá trình phát hiện tri thức Quá trình phát hiện tri thức được chia thành các bước như sau [1, 2]: Hình 1. 1: Các bước trong quá trình khai phá tri thức Trích chọn dữ liệu (data selection): Là bước trích chọn những tập dữ liệu cần được khai phá từ các tập dữ liệu lớn (databases, data warehouses).
Tiền xử lý dữ liệu (data preprocessing): Là bước làm sạch dữ liệu (xử lý dữ liệu không đầy đủ, dữ liệu nhiễu, dữ liệu không nhất quán,. ), rút Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.vn 7 gọn dữ liệu (sử dụng các phương pháp thu gọn dữ liệu, histograms, lấy mẫu,. ), rời rạc hoá dữ liệu (dựa vào histograms, entropy, phân khoảng,. Sau bước này, dữ liệu sẽ nhất quán, đầy đủ, được rút gọn, và được rời rạc hoá.
Biến đổi dữ liệu (data transformation): Là bước chuẩn hoá và làm mịn dữ liệu để đưa dữ liệu về dạng thuận lợi nhất nhằm phục vụ cho các kỹ thuật khai thác ở bước sau. Khai phá dữ liệu (data mining): Đây là bước quan trọng và tốn nhiều thời gian nhất của quá trình khám phá tri thức, áp dụng các kỹ thuật khai phá (phần lớn là các kỹ thuật của học máy) để khai phá, trích chọn được các mẫu (pattern) thông tin, các mối liên hệ đặc biệt trong dữ liệu. Đánh giá và biểu diễn tri thức (knowledge representation & evaluation): Dùng các kỹ thuật hiển thị dữ liệu để trình bày các mẫu thông tin (tri thức) và mối liên hệ đặc biệt trong dữ liệu đã được khai phá ở bước trên biểu diễn theo dạng gần gũi với người sử dụng như đồ thị, cây, bảng biểu, luật,. Đồng thời bước này cũng đánh giá những tri thức khám phá được theo những tiêu chí nhất định.
Trong giai đoạn khai phá dữ liệu, có thể cần sự tương tác của người dùng để điều chỉnh và rút ra các tri thức cần thiết nhất. Các tri thức nhận được cũng có thể được lưu và sử dụng lại. Các dạng dữ liệu có thể khai phá Khai phá dữ liệu có khả năng chấp nhận một số kiểu dữ liệu khác nhau điển hình như sau [3, 4]: Cơ sở dữ liệu quan hệ (relational databases): Là các dữ liệu tác nghiệp được tổ chức theo mô hình dữ liệu quan hệ rất phổ biến trong hệ thống quản lý và quán lý bán hàng nói riêng, do hầu hết các hệ quản trị cơ sở dữ liệu đều hỗ trợ dạng cơ sở dữ liệu quan hệ như Oracle, MS SQL Server, IBM DB2, MS Access,. Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.vn 8 Cơ sở dữ liệu đa chiều (multidimention structures, data warehouses, data mart): Là các kho dữ liệu được tập hợp và chọn lọc từ nhiều nguồn dữ liệu khác nhau.
Dạng dữ liệu này chủ yếu phục vụ cho quá trình phân tích cũng như khai phá tri thức và hỗ trợ quá trình ra quyết định. Cơ sở dữ liệu giao tác (transactional databases): Đây cũng là dạng dữ liệu tác nghiệp có các bản ghi thường là các giao tác. Dạng dữ liệu này cũng phổ biến hiện nay trong đó có ngành thương mại. Cơ sở dữ liệu quan hệ – hướng đối tượng (object relational databases): Là dạng dữ liệu lai giữa hai mô hình quan hệ và hướng đối tượng.
Dữ liệu không gian và thời gian (spatial, temporal, and time-series data): Là dạng dữ liệu có tích hợp thuộc tính về không gian như dữ liệu bản đồ mạng cáp điện thoại hoặc thời gian như dữ liệu cước điện thoại, phát hành báo chí. Cơ sở dữ liệu đa phương tiện (Multimedia database): Là dạng dữ liệu âm thanh (audio), hình ảnh (video), văn bản và WWW,. Dạng dữ liệu này đang rất phổ biến trên Internet và lưu tại các web server của các đơn vị trực thuộc doanh nghiệp hoặc tổ chức. Các hướng tiếp cận chính trong khai phá dữ liệu Một số hướng tiếp cận chính của khai phá dữ liệu được phân chia theo chức năng hay lớp các bài toán khác nhau [2, 4]: Phân lớp và dự đoán (classification & prediction): Xếp đối tượng vào một trong các lớp đã biết trước.
Ví dụ: phân lớp loại cước hoặc loại dịch vụ dựa trên số máy bị gọi của cuộc gọi, phân lớp khu vực dựa trên số máy chủ gọi, phân lớp giờ cao điểm, thấp điểm dựa trên giờ bắt đầu đàm thoại. Phân lớp là một lĩnh vực rất quan trọng trong khai phá dữ liệu. Phân lớp còn được gọi là học có giám sát (supervised learning), hướng tiếp cận này thường sử dụng một số kỹ thuật của học máy như cây quyết định (decision tree), mạng nơ ron nhân tạo (neural network). Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.vn 9 Trong việc khai phá dữ liệu, một số kiến trúc đã được đề xuất cho việc tích hợp tiến trình khai phá với hệ quản trị cơ sở dữ liệu (HQTCSDL).
Những kiến trúc này được biểu diễn như sau: Hình 1. 2: Các kiến trúc khai thác tích hợp với cơ sở dữ liệu Sự gắn kết lỏng hay khai phá dựa trên việc lưu trữ (Loose coupling or Cache based mining): Đây là kiến trúc dạng Client/Server. Phần khai phá được xem là ứng dụng phía server. Theo kiến trúc này, đầu tiên dữ liệu được đọc từ database bằng cursor, sau đó nó sẽ đưa vào nhân khai phá (mining kernel).
Khai phá xong sẽ đưa kết quả vào cơ sở dữ liệu. Điều này dẫn đến hiệu năng chậm. Kiến trúc được mô tả như hình vẽ bên dưới: Hình 1. 3: Kiến trúc gắn kết lỏng Thủ tục nội và hàm do người dùng định nghĩa (Stored procedure and user defined functions): Theo kiến trúc này, công việc khai phá được xem như là một ứng dụng trên máy chủ cơ sở dữ liệu.
Các xử lý được thực thi trên cùng không gian địa chỉ là HQTCSDL. Thuật toán khai phá được viết Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.vn 10 dưới dạng thủ tục nội (stored procedure) nên việc lập trình khá uyển chuyển, và có thể tái sử dụng. 4: Kiến trúc thủ tục nội và hàm do người dùng định nghĩa Cách tiếp cận dựa trên SQL (SQL based approach): Theo kiến trúc này, sử dụng các câu truy vấn SQL để khai phá. Bộ xử lý tối ưu của HQTCSDL (query optimizer) được dùng để tối ưu các truy vấn phức tạp, những truy vấn xử lý với thời gian dài dựa trên ngữ nghĩa.
Khai phá được tính xử lý song song những câu truy vấn SQL. 5: Kiến trúc dựa trên truy vấn SQL Cách tiếp cận tích hợp (Intergrated approach): Đây là kiến trúc chặt chẽ nhất, không có giới hạn giữa việc truy vấn, OLAP, hay khai phá. Các toán tử khai phá hay SQL được mở rộng cho việc khai phá được tối ưu dựa trên hệ thống bên trong mà không có sự tác động của người dùng. Khai phá mẫu tuần tự (sequential/temporal patterns): Tương tự như khai phá luật kết hợp nhưng có thêm tính thứ tự và tính thời gian.
Một luật mô tả mẫu tuần tự có dạng tiêu biểu X Y phản ánh sự xuất hiện của biến cố X sẽ dẫn đến việc xuất hiện kế tiếp biến cố Y. Hướng tiếp cận này có tính dự báo. Các đối tượng được Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.vn 11 gom cụm sao cho mức độ tương tự giữa các đối tượng trong cùng một cụm là lớn nhất và mức độ tương tự giữa các đối tượng nằm trong các cụm khác nhau là nhỏ nhất. Phân cụm còn được gọi là học không có giám sát (unsupervised learning).
Phân loại và ứng dụng các hệ thống khai phá dữ liệu 1. Phân loại các hệ thống khai phá dữ liệu Phân loại khai phá dữ liệu dựa trên các tiêu chí khác nhau [3]: Phân loại dựa trên kiểu dữ liệu được khai phá: Cơ sở dữ liệu quan hệ, kho dữ liệu, cơ sở dữ liệu giao tác, cơ sở dữ liệu hướng đối tượng, cơ sở dữ liệu không gian, cơ sở dữ liệu đa phương tiện, cơ sở dữ liệu văn bản. Phân loại dựa trên dạng tri thức được khám phá: Tóm tắt và mô tả, luật kết hợp, phân lớp, phân cụm, khai phá chuỗi. Phân loại dựa trên lĩnh vực được áp dụng: Thương mại, viễn thông, tài chính, y học, web mining,.
Phân loại dựa trên kỹ thuật được áp dụng: Phân tích trực tuyến (Online Analytial Processing - OLAP), học máy (cây quyết định, mạng nơ ron nhân tạo, K-Means, giải thuật di truyền, tập thô, tập mờ. Thông thường sử dụng tập mờ là thích hợp cho việc tìm ra và hiểu được sự liên quan của các mô hình dữ liệu chưa đầy đủ, tạp nhiễu, thông tin hỗn tạp và tác động của con người, và từ đó có thể cung cấp giải pháp xấp xỉ nhanh hơn. Mạng nơ ron có khả năng tổng quát, không giới hạn, mạnh và học tốt trong môi trường dữ liệu giàu (data-rich). thuật toán di truyền cung cấp khả năng tìm các thuật toán để chọn mẫu từ các dữ liệu hỗn tạp dựa trên một số hàm tiêu chuẩn/ mục tiêu thường dùng.
Tập thô thì phù hợp cho tìm ra các mẫu khác nhau của tình trạng không rõ ràng trong dữ liệu. Một số yêu cầu khai phá dữ liệu cần phải áp dụng phương pháp tính toán mềm (Tính toán mềm là sự kết hợp của các phương pháp logic mờ, thuật toán di truyền, khám phá tri thức, mạng nơ ron, tính toán neuro- fuzzy, tập thô, rút ra luật. ) Số hóa bởi Trung tâm Học liệu – ĐHTN http://www. Ứng dụng của khai phá dữ liệu Khai phá dữ liệu có nhiều ứng dụng trong thực tế.
Một số ứng dụng điển hình như [3, 4]: Bảo hiểm. Tài chính và thị trường chứng khoán: phân tích tình hình tài chính và dự báo giá của các loại cổ phiếu trong thị trường chứng khoán. Danh mục vốn và giá, lãi suất, dữ liệu thẻ tín dụng, phát hiện gian lận. Phân tích dữ liệu và hỗ trợ ra quyết định.