Chương 1. Tổng quan về khai phá dữ liệu và ứng dụng 1. Khái niệm về lĩnh vực khai phá dữ liệu và phát hiện tri thức 1. Khái niệm Lĩnh vực khai phá dữ liệu và phát hiện tri thức từ dữ liệu (KDD) nhằm mục đích tạo ra các mẫu, các luật, các tri thức quý từ một số lượng dữ liệu lớn thu nhận được [12],[13].
Các ứng dụng của lĩnh vực này có thể kể như nhận dạng hình ảnh, âm thanh, chẩn đoán trong y học, sử dụng trong các công cụ tìm kiếm như Google,… Quy trình phát hiện tri thức thường tuân theo các bước trong hình 1.1: Tri thức Các mẫu Chuyển đổi dữ liệu dữ liệu Dữ liệu đã tiền xử lý Diễn giải, Dữ liệu đánh giá mục tiêu Khai phá dữ liệu Lựa chọn và Cơ sở Tiền xử lý trích xuất dữ liệu Lựa chọn và làm sạch đặc trưng Hình 1.1: Các bước của quá trình khai phá dữ liệu - Bước thứ nhất: Hình thành, xác định và định nghĩa bài toán. Tìm hiểu lĩnh vực ứng dụng từ đó hình thành bài toán, xác định các nhiệm vụ cần phải hoàn thành, thu thập dữ liệu. Bước này sẽ quyết định cho việc rút ra được các LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 4 tri thức hữu ích và cho phép chọn các phương pháp khai phá dữ liệu thích hợp với mục đích ứng dụng và bản chất của dữ liệu. - Bước thứ hai: Xử lý thô, còn được gọi là tiền xử lý dữ liệu nhằm loại bỏ nhiễu (làm sạch dữ liệu), xử lý việc thiếu dữ liệu (làm giàu dữ liệu), biến đổi dữ liệu, trích rút đặc trưng và rút gọn dữ liệu nếu cần thiết, bước này thường chiếm nhiều thời gian nhất trong toàn bộ qui trình phát hiện tri thức.
Do dữ liệu được lấy từ nhiều nguồn khác nhau, không đồng nhất, có thể gây ra các nhầm lẫn. Sau bước này, dữ liệu sẽ nhất quán, đầy đủ, được rút gọn và rời rạc hoá. - Bước thứ ba: Lựa chọn đặc trưng, trích chọn đặc trưng và biến đổi đặc trưng của dữ liệu. Đây là một bước rất quan trọng.
Nhiệm vụ của bước này không những làm giảm kích thước của dữ liệu mà còn chọn ra những đặc điểm đặc trưng nhất nhằm tăng chất lượng của các bước sau. Tùy từng nhiệm vụ và lĩnh vực bài toán, chúng ta sẽ có các phương pháp trích rút đặc trưng cho dữ liệu khác nhau. - Bước thứ tư: Khai phá dữ liệu, rút ra các tri thức, trích ra các mẫu hoặc/và các mô hình ẩn dưới các dữ liệu [13]. Giai đoạn này rất quan trọng, bao gồm các công đoạn như: chức năng, nhiệm vụ và mục đích của khai phá dữ liệu là gì, dùng phương pháp khai phá nào? Thông thường, các bài toán khai phá dữ liệu bao gồm: các bài toán mang tính mô tả - đưa ra tính chất chung nhất của dữ liệu, các bài toán dự báo - bao gồm cả việc phát hiện các suy diễn dựa trên dữ liệu hiện có, các bài toán phân lớp, phân cụm, phát hiện cấu trúc dữ liệu,… Tùy theo bài toán xác định được mà ta lựa chọn các phương pháp khai phá dữ liệu cho phù hợp.
- Bước thứ năm: Là hiểu và giải thích các tri thức/các mẫu/các luật đã tìm được, đặc biệt là làm sáng tỏ các mô tả và dự đoán. Các công cụ có dùng LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 5 như mô phỏng, thống kê, vẽ các biểu đồ, sơ đồ,… để làm rõ hơn nữa kết quả của khai phá dữ liệu. Các bước trên có thể lặp đi lặp lại một số lần, kết quả thu được có thể được lấy trung bình trên tất cả các lần thực hiện. Các kết quả của quá trình phát hiện tri thức có thể được đưa và ứng dụng trong các lĩnh vực khác nhau.
Do các kết quả có thể là các dự đoán hoặc các mô tả nên chúng có thể được đưa vào các hệ thống hỗ trợ ra quyết định nhằm tự động hoá quá trình này. Nghiên cứu về lĩnh vực khai phá dữ liệu liên quan đến nhiều lĩnh vực như toán học, thống kê, tối ưu hóa, tính toán tiến hóa, khoa học máy tính, cơ sở dữ liệu, dữ liệu lớn,… Một vấn đề quan trọng nữa là các nghiên cứu cho các ứng dụng chuyên ngành, trường hợp này chúng ta phải làm việc với các chuyên gia lĩnh vực, chẳng hạn lĩnh vực khai phá dữ liệu y sinh, khai phá dữ liệu gene,… 1. Các mô hình học máy cơ bản Trên thực tế có một số mô hình học sau đây [15]: - Học có giám sát - Học không giám sát - Học bán giám sát - Học tăng cường - Học sâu (deep learning) Phần sau đây sẽ trình bày một số phương pháp học cơ bản thuộc các loại trên. - Học có giám sát là phương pháp học máy thông qua sử dụng tập mẫu.
Tập mẫu được cung cấp, hệ thống sẽ xây dựng mô hình học trên bộ dữ liệu này và có thể phân lớp/dự đoán,… cho các dữ liệu mới. Các phương pháp LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 6 học có giám sát có thể kể đến như mạng nơ ron, phân lớp Bayes, cây quyết định, SVM (Support Vector Machine),… (xem hình 1.2) x y Đầu vào mới x Vào 1 - Ra 1 Vào 2 - Ra 2 Thuật Vao 3 - Ra 3 Mô hình toán học Vào - n - Ra - n m Đầu ra y Hình 1.2 Mô hình học có giám sát - Học không giám sát là phương pháp phát hiện cấu trúc, xác định mối liên kết, phát hiện dị thường, của một tập dữ liệu cho trước [14]. Loại học này không có tập dữ liệu mẫu. Một số phương pháp trong loại học này như phân cụm K-Means, Fuzzy C-Means, phát hiện dị thường ,… (xem hình 1.3) Học không giám sát Hình 1.3 Mô hình học không giám sát LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 7 - Học bán giám sát nằm giữa học có giám sát và học không giám sát, loại học này sẽ sử dụng một lượng ít dữ liệu mẫu, dữ liệu hướng dẫn để thực hiện mô hình (xem hình 1.
Trên thực tế các thông tin có được từ ban đầu gồm hai dạng cơ bản: (1) một lượng nhỏ dữ liệu được gán nhãn (seed) hoặc (2) một số lượng nhỏ các thông tin về các cặp dữ liệu must-link (phải liên kết), cannot-link (không thể liên kết) thể hiện mối quan hệ giữa các cặp dữ liệu trong tập dữ liệu cho trước: must-link (u,v) thể hiện u và v sẽ thuộc cùng một cụm trong khi cannot-link (u,v) cho biết u và v sẽ thuộc về hai cụm khác nhau.4 Dữ liệu cho việc học bán giám sát - Học tăng cường là phương pháp học được bổ sung liên tục kỹ năng trong quá trình giải quyết bài toán. Ví dụ như hai người chơi cờ A và B, người A có thể vừa thi đấu với người B nhưng lại có thể vừa học từ người B và ngược lại. Bản chất của loại học này là dựa trên mạng nơ ron nhiều lớp. Các ứng dụng hiệu quả cho loại học này là nhận dạng đối tượng, nhận dạng âm thanh, và ứng dụng trong xử lý ngôn ngữ tự nhiên.5 minh họa ví dụ về việc xác định đối tượng trong bức ảnh.
Phương pháp LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 8 học này còn có khả năng chỉ rõ xem người trong ảnh là ai, đang làm gì,… Đối với phương pháp học sâu chúng ta phải có đủ dữ liệu cần thiết (thường là lớn) cũng như các hệ thống máy tính đủ lớn để thực hiện.5 Ví dụ về khả năng của deep learning 1. Ứng dụng của học máy Ứng dụng của học máy ngày càng đa dạng và quan trọng, sau đây là một số ví dụ: - Xe tự lái: các hệ thống này là những ứng dụng rất nổi trội, hiện nay đã có một số nơi triển khai thử nghiệm. Hệ thống học của xe sẽ học khả năng điều khiển xe qua các thực nghiệm mẫu của người lái xe trên đường. - Xe tự dò tìm đường đi trong rừng: các hệ thống này sẽ được học qua camera khi con người thực hiện đi mẫu trong rừng.
- Trợ lý ảo: Đã ứng dụng thực tế, đây là những hệ thống lưu trữ, suy diễn dữ liệu rất lớn và thông minh. - Nhận dạng đối tượng trong ảnh và video. - Chẩn đoán bệnh thông qua dữ liệu lâm sàng - Ứng dụng trong nhà thông minh, thành phố thông minh: các ứng dụng cụ thể như bật tắt đèn tự động, bãi đỗ xe thông minh, tìm kiếm phương tiện thông minh - IoT: các bài toán thu thập dữ liệu từ nhiều nguồn khác nhau như sensor, điện thoại, máy tính, camera để xử lý dữ liệu tổng hợp. LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 9 - Robot, người máy - Xử lý ngôn ngữ tự nhiên,… - Hệ hỗ trợ quyết định - Phân lớp, phân cụm, phát hiện cấu trúc của dữ liệu - Phát hiện dị thường - Mua sắm thông minh,… 1.
Tổng quan về bài toán trích chọn đặc trưng, trích chọn đặc trưng cho dữ liệu hình ảnh Bài toán trích trọn đặc trưng trên ảnh khuôn mặt người đã được quan tâm từ khá lâu do có rất nhiều ứng dụng như: Sử dụng trong hệ thống nhận dạng cảm xúc, hệ thống tương tác giữa người và máy (điều khiển máy tính qua các cử động của khuôn mặt), hệ thống nhận dạng người (giúp cho các cơ quan an ninh quản lý con người), hệ thống quan sát theo dõi như hệ thống quản lý việc ra vào cho các cơ quan và công ty, hệ thống kiểm tra người lái xe có ngủ gật hay không, hệ thống phân tích cảm xúc trên khuôn mặt, hệ thống nhận dạng khuôn mặt cho các máy ảnh kỹ thuật số,. Trích chọn đặc trưng là trích ra những đặc trưng quan trọng cơ bản nhất của mỗi đối tượng [5]. Yêu cầu của trích chọn đặc trưng là phải đủ các thuộc tính tuy nhiên với số lượng nhỏ nhất có thể và vẫn đảm bảo được việc phân biệt đối tượng này với đối tượng kia (xem hình 1. Các từ Đặc trưng hình ảnh Từ điển hình (a) LUAN VAN CHAT LUONG download : add luanvanchat@agmail.6 Ví dụ về trích chọn đặc trưng từ ảnh: (a) ảnh sẽ được trích từng vùng và cho vào túi đựng các đối tượng đặc trưng, (b), các đặc trưng được trích chọn sử dụng các biến đổi toán học để tìm ra các điểm (vùng điểm) quan trọng.
Đối với bài toán trích chọn đặc trưng cho ảnh, cụ thể là ảnh mặt người, trước hết chúng ta phải hiểu ảnh là gì. Ảnh bản chất là một ma trận các số, mỗi số tương ứng với thông tin trên các điểm ảnh.