chương 1 Chương này giới thiệu về bài toán, những yêu cầu đặt ra cần giải quyết đối với bài toán đồng thời trình bày một số hướng nghiên cứu về thuê bao rời mạng trong mạng di động, hướng tiếp cận của luận văn. 13 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com Chương 2 Khai phá dữ liệu và các kỹ thuật phân tích dự báo 2. Khai phá dữ liệu 2. Khái niệm KPDL KPDL là quá trình khảo sát và phân tích một khối lượng lớn các dữ liệu được lưu trữ trong các cơ sở dữ liệu, kho dữ liệu…để từ đó trích xuất ra các thông tin quan trọng, có giá trị tiềm ẩn bên trong.
Do nhu cầu nghiệp vụ cần có cách nhìn thông tin trên quy mô toàn đơn vị. Các dữ liệu này được thu từ nhiều nguồn, đa số là từ các phần mềm nghiệp vụ như: phần mềm tài chính, kế toán, các hệ thống quản lý tài nguyên doanh nghiệp, các hệ thống quản lý khách hàng hay từ tác công cụ lưu trữ thông tin trên web… Đây là những khối dữ liệu khổng lồ nhưng những thông tin mà nó thể hiện ra thì lộn xộn và “nghèo” đối với người dùng. Kích thước của khối dữ liệu khổng lồ đó cũng tăng với tốc độ rất nhanh chiếm nhiều dung lượng lưu trữ. KPDL sẽ giúp trích xuất ra các mẫu điển hình có giá trị và biến chúng thành những tri thức hữu ích.
Quá trình này gồm một số bước được thể hiện trong hình sau. Hình 2-1 Các bước xây dựng một hệ thống KPDL [1] Ý nghĩa cụ thể của các bước như sau: - Lựa chọn dữ liệu liên quan đến bài toán quan tâm. 14 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com - Tiền xử lý dữ liệu, làm sạch dữ liệu - Chuyển đổi dữ liệu về dạng phù hợp thuận lợi cho việc khai phá. - KPDL, trích xuất ra các mẫu dữ liệu (mô hình).
- Đánh giá mẫu. - Sử dụng tri thức khai phá được. Những nhóm bài toán của KPDL KPDL có thể được dùng để giải quyết hàng trăm bài toán với những mục đích và nhiệm vụ khác nhau. Dựa trên bản chất tự nhiên của các bài toán đó, người ta có thể nhóm các bài toán đó thành những nhóm sau: Bài toán phân loại Bài toán phân loại là một trong những bài toán phổ biến nhất của KPDL, ví dụ như: phân tích xem loại khách hàng nào có khả năng cao nhất sẽ chuyển sang dùng sản phẩm dịch vụ của đối thủ cạnh tranh của công ty (churn analysis), quản lý rủi ro hay lựa chọn ảnh quảng cáo nào sẽ xuất hiện đối với mỗi loại khách hàng… Phân loại là tổ chức dữ liệu trong các lớp cho trước, còn được gọi là học có quan sát.
Phân loại sử dụng các nhãn lớp cho trước để sắp xếp các đối tượng. Trong đó, có một tập huấn luyện gồm các đối tượng đã được kết hợp với các nhãn đã biết. Những thuật toán học có quan sát sẽ được áp dụng cho tập các đối tượng cần phân loại để từ đó mô hình phân loại chúng. Một số thuật toán dùng trong bài toán phân loại như: cây quyết định, mạng nơ ron, mạng Naïve Bayes.
Bài toán hân cụm Bài toán phân cụm hay còn gọi là phân đoạn. Điểm khác với bài toán phân loại là ở đây các nhãn lớp chưa biết và không có huấn luyện. Các đối tượng được phân loại dựa trên các thuộc tính tương đồng giữa chúng. Bài toán phân lớp hay còn gọi là học không có giám sát.
Bài toán phân tích luật kết hợp Bài toán này đôi khi còn gọi là bài toán phân tích giỏ hàng bởi vì nó được sử dụng rộng rãi trong phân tích các giao dịch dữ liệu, các bài toán lựa chọn hàng hóa đi kèm… Phân tích luật kết hợp khám phá ra các luật kết hợp thể hiện mối liên hệ giữa các thuộc tính dữ liệu thường xuất hiện cùng nhau trong các tập dữ liệu. 15 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com Bài toán hồi quy Bài toán hồi quy cũng tương tự như bài toán phân loại. Điểm khác biệt là hồi quy dự đoán cho các dữ liệu liên tục. Bài toán dự đoán Dự đoán là một mảng quan trọng của KPDL.
Dự đoán có hai loại chính: một loại là dự đoán về một số giá trị dữ liệu chưa biết hay có xu hướng sắp xảy ra, còn loại kia là dự đoán để phân lớp dựa trên một tập huấn luyện và giá trị thuộc tính của đối tượng. Trong phạm vi luận văn, tác giả sẽ sử dụng loại dự đoán thứ hai. Bài toán phân tích chuỗi Phân tích chuỗi được sử dụng để tìm ra các mẫu trong một loạt các giá trị hay trạng thái rời rạc. Ví dụ như việc chọn mua hàng của khách hàng có thể mô hình là một chuỗi dữ liệu.
Hành động chọn mặt hàng A, sau đó chọn mặt hàng B, C… là một chuỗi các trạng thái rời rạc. Trong khi đó thời gian lại là chuỗi số liên tục. Phân tích chuỗi và phân tích luật kết hợp giống nhau ở chỗ đều phân tích tập hợp các đối tượng hay trạng thái. Điểm khác nhau là mô hình chuỗi phân tích sự chuyển của các trạng thái, trong khi mô hình luật kết hợp thì coi mỗi một mặt hàng trong giỏ hàng là như nhau và độc lập.
Với mô hình chuỗi, việc chọn mặt hàng A trước mặt hàng B hay chọn mặt hàng B trước A sau là khác nhau. Còn ở mô hình kết hợp thì cả hai trường hợp là như nhau. Bài toán phân tích độ lệch Bài toán này còn được gọi là phát hiện điểm biên. Điểm biên là những đối tượng dữ liệu mà không tuân theo các đặc tính, hành vi chung.
Bài toán phát hiện điểm biên ứng dụng rất nhiều trong các ứng dụng. Ứng dụng quan trọng nhất của bài toán phát hiện điểm biên là bài toán kiểm tra xác nhận thẻ tín dụng… 2. Các bước xây dựng một giải pháp về KPDL Có rất nhiều tác giả đưa ra các bước của một hệ thống KPDL, mọi sự phân chia chỉ mang tính chất tương đối và tư tưởng chủ đạo của nó là như sau: - Bước 1: Xác định mục tiêu bài toán. - Bước 2: Thu thập dữ liệu.
- Bước 3: Làm sạch dữ liệu và chuyển đổi dữ liệu. - Bước 4: Xây dựng mô hình. - Bước 5: Đánh giá mô hình hay đánh giá mẫu. 16 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.
- Bước 8: Tích hợp vào ứng dụng - Bước 9: Quản lý mô hình 2. Ứng dụng KPDL trong viễn thông Là một ngành công nghiệp với khối lượng dữ liệu cần xử lý rất lớn, ngành công nghiệp viễn thông đã nhanh chóng phát triển từ cung cấp dịch vụ điện thoại cố định để cung cấp nhiều dịch vụ thông tin liên lạc toàn diện khác. Chúng bao gồm di động, điện thoại thông minh, truy cập Internet, email, tin nhắn văn bản, hình ảnh, máy tính và truyền dữ liệu web và các dữ liệu giao thông. Sự hội nhập của viễn thông, mạng máy tính, Internet và nhiều phương tiện truyền thông khác đã được tiến hành, thay đổi bộ mặt của viễn thông và điện toán.
Điều này đã tạo ra một nhu cầu lớn về khai thác dữ liệu để giúp hiểu số liệu kinh doanh, xác định mô hình viễn thông, xác định các hoạt động gian lận, sử dụng tốt hơn các nguồn lực và cải thiện chất lượng dịch vụ. Bài toán khai thác dữ liệu trong viễn thông có điểm tương đồng với những người trong ngành công nghiệp bán lẻ. Bài toán thường gặp bao gồm xây dựng kho dữ liệu quy mô lớn, thực hiện biểu diễn đa chiều trực quan, OLAP và phân tích chuyên sâu về các xu hướng, mẫu của khách hàng và các mẫu tuần tự. Các bài toán này góp phần cải thiện kinh doanh, giảm chi phí, duy trì khách hàng, phân tích gian lận và tìm hiểu về đối thủ cạnh tranh.
Có rất nhiều bài toán khai thác dữ liệu cùng với các công cụ khai thác dữ liệu cho viễn thông đã được biết đến và sẽ đóng vai trò ngày càng quan trọng trong kinh doanh ngày nay [6]. Một số bài toán cụ thể như sau : 2.1 Phân tích đa chiều số liệu bán hàng, khách hàng, sản phẩm, theo thời gian, khu vực Ngành viễn thông nói riêng và dịch vụ bán lẻ nói chung cần nhìn cái nhìn đa chiều về doanh thu bán hàng, lợi nhuận, sản phẩm. nên việc phân tích dữ liệu đa chiều rất cần thiết giúp cho những người quản lý nắm bắt được tình hình kinh doanh và thị trường cùng các thông tin hữu ích khác.2 Phân tích hiệu quả của các chương trình khuyến mại: Hiện các chương trình khuyến mại và sản phẩm của ngành viễn thông liên tục được thay đổi, để đánh giá hiệu quả các chương trình khuyến mại là bài toán rất quan trọng của các mạng viễn thông.3 Duy trì khách hàng - Phân tích về lòng trung thành của khách hàng 17 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com Chúng ta có thể sử dụng thông tin khách hàng trung thành để đăng ký trình tự mua hàng của khách hàng cụ thể. lòng trung thành của khách hàng và xu hướng mua hàng có thể được phân tích một cách hệ thống.
Hàng hóa mua tại giai đoạn khác nhau của cùng một khách hàng có thể được nhóm lại thành chuỗi. Tuần tự khai thác mô hình sau đó có thể được sử dụng để điều tra những thay đổi trong tiêu dùng của khách hàng hoặc lòng trung thành và đề nghị điều chỉnh về giá cả và sự đa dạng của hàng hóa để giúp giữ chân khách hàng và thu hút những người mới. Ngoài ra KPDL còn giúp phân tích dự báo khách hàng rời mạng từ đó đề nghị điều chỉnh về giá cả và sự đa dạng của hàng hóa để giúp giữ chân khách hàng 2.4 Xây dựng hệ thống gợi ý Ở ngành viễn thông và bán lẻ nói chung thì việc tư vấn cho khách hàng rất quan trọng nhằm tăng doanh thu. Vấn đề ở đây là phát hiện nhu cầu của khách hàng để có thể tư vấn và gợi ý cho khách hàng đúng nhu cầu, thời gian và địa điểm.
Các ứng dụng của việc KPDL ở đây bao gồm việc phân tích hành vi khách hàng, phân lớp, … 2.5 Phòng chống gian lận và xác định hành vi sử dụng bất thường Trong ngành viễn thông thì việc rất quan trọng là phát hiện gian lận và hành vi sử dụng bất thường nhằm giảm thiểu thất thoát doanh thu. Bài toán phát hiện dấu hiệu bất thường và phòng chống gian lận để phát hiện các hành vi gian lận của khách hàng và các bất thường của hành vi sử dụng. Ứng dụng KPDL là sử dụng các công cụ phân lớp, phân tích hành vi.