Mở đầu Giới thiệu bài toán (vấn đề) và lý do lựa chọn đề tài của tác giả. • Chương 2: Khai phá dữ liệu Trình bày khái niệm, nền tảng lý thuyết, và các phương pháp khai phá dữ liệu. Chương 3: Phân tích bài toánTrình bày hiện trạng hệ thống cơ sở dữ liệu về giao dịch khách hàng của công ty VietTel được lựa chọn để áp dụng khai phá dữ liệu, phân tích các bài toán khai phá dữ liệu cần thiết, và các mục tiêu cần đạt được từ quá trình khai phá dữ liệu này. • Chương 4: Cài đặt hệ thống, các thí nghiệm và đánh giá kết quả Trình bày việc cài đặt các phương pháp khai phá dữ liệu phù hợp cho các bài toán được phân tích ở Chương 3.
Trong chương này, tác giả cũng trình bày phương pháp thực hiện các thí nghiệm kiểm chứng, các kết quả thí nghiệm, các nhận xét và đánh giá đối với các kết quả thí nghiệm thu được. • Chương 5: Đưa ra các kết luận và hướng phát triển của đồ án. Khám phá tri thức phục vụ chiến lược kinh doanh của doanh nghiệp - 10 - Chương 2. KHAI PHÁ DỮ LIỆU 2.
Tổng quan về khai phá dữ liệu Khai phá dữ liệu, tách thông tin, đưa ra các dự đoán ẩn dấu trong các cơ sở dữ liệu (CSDL) lớn, là một công nghệ mới với tiềm năng lớn để giúp các công ty tập trung vào thông tin quan trọng nhất trong kho dữ liệu của họ. Các công cụ khai phá dữ liệu có thể trả lời các câu hỏi hoạt động kinh doanh mà theo phương pháp truyền thống sẽ mất rất nhiều thời gian để giải quyết. Các công cụ đó lục tìm trong CSDL để tìm các mẫu ẩn dấu, tìm các thông tin dự đoán mà các chuyên gia có thể bỏ qua vì nó nằm ngoài sự mong đợi, nằm ngoài phạm vi tư duy của các chuyên gia. Hầu hết mỗi công ty đều có 1 hệ thống công nghệ thông tin phục vụ cho hoạt động của mình, sản sinh ra một lượng (rất) lớn dữ liệu.
Các kỹ thuật khai phá dữ liệu có thể được triển khai nhanh chóng trên hệ thống phần mềm hiện có và nền tảng phần cứng để mở rộng giá trị của nguồn tài nguyên thông tin ẩn chứa trong nguồn dữ liệu hiện có. Khi triển khai trên các máy tính trạm, máy chủ (workstation/server), kết hợp các thuật toán xử lý song song, các công cụ khai phá dữ liệu có thể giúp xử lý và phân tích một khối lượng lớn dữ liệu. Các CSDL kinh doanh và thương mại ngày nay có thể lên tới kích thước hàng chục terabytes – nghĩa là nhiều hơn mười nghìn tỷ bytes dữ liệu. Trong những khối lượng lớn dữ liệu như vậy có chứa nhiều thông tin (tri thức) quan trọng và rất hữu ích cho các hoạt động và chiến lược kinh doanh của các doanh nghiệp.
Ví dụ như khi có rất nhiều cây, làm thế nào để ta có thể rút ra kết luận có ý nghĩa, những quy luật chung nhất về cả rừng cây. Câu trả lời có thể được đưa ra nhờ sử dụng khai phá dữ liệu. Phương pháp này khi sử dụng sẽ giúp tăng doanh thu và giảm chi phí, bởi lẽ những kết luận, những quy luật tổng quát mang tầm chiến lược nếu được đúc rút đúng đắn, sẽ mang lại những chính sách, quyết định phù hợp nhất để tối ưu hóa lợi nhuận, tối ưu hóa hiệu quả kinh Khám phá tri thức phục vụ chiến lược kinh doanh của doanh nghiệp - 11 - doanh của mỗi công ty. Những tiềm năng mà phương pháp này mang lại là rất lớn.
Rất nhiều tổ chức trên toàn cầu đang dùng khai phá dữ liệu để định vị và tìm ra các lớp khách hàng có giá trị cao, để tái cấu trúc sản phẩm cho việc tăng lượng bán, giảm thiểu hóa mất mát do lỗi, đưa ra các sản phẩm mới phù hợp với mong muốn của khách hàng, chiếm thị phần,… Khai phá dữ liệu (data mining) được định nghĩa là quá trình phân tích dữ liệu để tìm ra các mẫu và các mối quan hệ trong dữ liệu được sử dụng để đưa ra các dự đoán, thống kê có giá trị [1,2,3]. Bước phân tích đầu tiên và đơn giản nhất trong khai phá dữ liệu là để miêu tả dữ liệu – tổng kết các thuộc tính thống kê của nó (như độ lệch chuẩn và giá trị trung bình), xem lại nó bằng các biểu đồ và đồ thị được vẽ theo nhiều dạng khác nhau, như biểu đồ số lượng, biểu đồ phần trăm, đồ thị biến động kết hợp khối lượng,… và tìm kiếm những liên hệ, quy luật có ý nghĩa giữa các giá trị (như các giá trị thường xảy ra cùng nhau). Việc thu thập và thống kê dữ liệu là cực kỳ quan trọng, bởi nó mang lại những cái nhìn tổng quan đầu tiên về dữ liệu, những tri thức cơ bản nhất chứa trong lượng dữ liệu khổng lồ. Nhưng việc miêu tả dữ liệu không thôi thì không thể cung cấp một kế hoạch hành động, mà cần phải xây dựng 1 mô hình dự đoán dựa trên các mẫu quyết định từ những kết quả đã biết, sau đó kiểm tra mô hình đó bên ngoài tập mẫu.
Khái niệm về khai phá dữ liệu Dưới đây là một số định nghĩa về khai phá dữ liệu. ü Là quá trình nhận ra những mẫu ẩn, xu hướng và các mối quan hệ trong dữ liệu [4] ü Quá trình khai phá và phân tích, bằng phương tiện tự động hoặc bán tự động, của tập lớn các khối lượng dữ liệu để tìm ra các mẫu và các quy tắc có ý nghĩa [5]. Khám phá tri thức phục vụ chiến lược kinh doanh của doanh nghiệp - 12 - ü Là sự phân tích các tập dữ liệu quan sát (thường là lớn) để tìm ra các mối quan hệ không bị nghi ngờ và để tổng quát hóa dữ liệu theo cách mới mà có thể hiểu được và hữu ích với người sở hữu dữ liệu [3]. ü Khai phá phân tích dữ liệu có rất ít sự tương tác hoặc không có sự tương tác với con người, sử dụng các kỹ thuật khả thi, ví dụ kỹ thuật priori để tìm cấu trúc chưa biết [6].
ü Quá trình tách thông tin chưa biết, có giá trị, và có thể thực thi từ CSDL lớn và sau đó sử dụng thông tin để tạo ra các quyết định kinh doanh quan trọng [7]. Như vậy, khai phá dữ liệu là một quá trình tách tri thức ẩn dấu từ khối lượng lớn dữ liệu thô. Ngày nay, tầm quan trọng của việc thu thập dữ liệu, mà dữ liệu đó phản ánh nghiệp vụ và các hoạt động kỹ thuật để thu được lợi thế cạnh tranh, được nhận thức rộng rãi. Các hệ thống mạnh được đầu tư, sử dụng để thu thập dữ liệu và quản lý nó trong CSDL lớn được đặt trong các công ty trung bình và lớn.
Bởi dù sao, việc chuyển dữ liệu thành tri thức rút ra từ hệ thống để thành công được là rất phức tạp. Phân tích của con người khi không có công cụ đặc biệt sẽ không hiểu được khối lượng lớn dữ liệu mà cần thiết phải xử lý để ra quyết định. Khai phá dữ liệu sẽ tự động hóa tiến trình tìm kiếm các mối quan hệ và các mẫu trong dữ liệu thô sau đó đưa ra kết quả để hỗ trợ ra quyết định. Khám phá tri thức phục vụ chiến lược kinh doanh của doanh nghiệp - 13 - Hình 2.1 Các bước khai phá dữ liệu [2] Khai phá dữ liệu là quá trình tìm kiếm tri thức có giá trị, bất thường, hữu ích và có thể hiểu được từ dữ liệu (CSDL) - mà từ đó có thể sử dụng để ra các quyết định kinh doanh.
Thành phần chính của khai phá dữ liệu liên quan đến việc phân tích dữ liệu và sử dụng các kỹ thuật phần mềm để tìm các mẫu và các bất thường trong dữ liệu. Quá trình phân tích bắt đầu với 1 tập dữ liệu (Hình 2.1) [2]), sử dụng một phương pháp để phân tích. Sau đó có thể mở rộng thao tác với các tập dữ liệu lớn hơn. Việc lựa chọn sự kết hợp các kỹ thuật khai phá dữ liệu phụ thuộc vào từng bài toán cụ thể và vào tình huống cụ thể công việc khai phá dữ liệu được hoàn tất.
Cần phân biệt, khai phá dữ liệu phải mang lại những tri thức mang tính tổng quát, cô đọng, khai phá dữ liệu không phải là những việc dạng như: Khám phá tri thức phục vụ chiến lược kinh doanh của doanh nghiệp - 14 - ü Tạo kho dữ liệu (Data warehousing); ü SQL / Những truy vấn trực tuyến/ Lập báo cáo; ü Tiến trình phân tích trực tuyến (Online Analytical Processing - OLAP); ü Trực quan hóa dữ liệu (Data visualization). Một số ứng dụng khai phá dữ liệu ü Phân tích và quản lý thị trường: Áp dụng các phương pháp (kỹ thuật) khai phá dữ liệu trong các vấn đề quản lý quan hệ với khách hàng, mục tiêu tiếp thị, phân đoạn thị trường, …[1,2] ü Phân tích và quản lý các rủi ro: Các phương pháp khai phá dữ liệu được áp dụng để đưa ra các dự đoán, duy trì khách hàng, quản lý chất lượng, phân tích cạnh tranh. [2] ü Phát hiện và quản lý gian lận: phục vụ trong các công việc: chăm sóc sức khỏe: ví dụ phát hiện ra một nhóm người tự dàn xếp tai nạn để hưởng bảo hiểm hay những người giả dạng bác sỹ chuẩn đoán bệnh năng hơn để hưởng bảo hiểm cao, phát hiện việc điều trị không phù hợp… , các dịch vụ thanh toán điện tử, thanh toán cước viễn thông…[2] ü Khai phá dữ liệu văn bản (nhóm tin tức, thư điện tử, các văn bản) và phân tích dữ liệu trên Web.[2] ü Trả lời các câu hỏi thông minh: ví dụ một hệ thống truy vấn có khả năng thu thập, biểu diễn và sử dụng các tri thức ở mức cao trong một khung hợp nhất. Bao gồm biểu diễn và thao tác tri thức miền, trích rút và thao tác tri thức mới và các kết hợp của chúng [8].
Các lý do thúc đẩy sự phát triển củakhai phá dữ liệu • Sự tăng trưởng của dữ liệu o Lý do chính với sự cần thiết của các hệ thống máy tính tự động cho việc phân tích dữ liệu thông minh là khối lượng khổng lồ dữ liệu hiện có và dữ liệu mới xuất hiện cần phải xử lý. Khối lượng dữ liệu cộng dồn mỗi ngày qua nhiều hoạt động kinh doanh, khoa học, và các tổ chức trên toàn thế giới đang lớn dần. Việc phân tích của con người với khối lượng dữ liệu khổng lồ như vậy ngày càng trở nên không thể.