Ứng dụng Khoa học Dữ liệu và công cụ Orange vào Phân tích (UEH)

• Trường học: Đại học Kinh tế Tp. Hồ Chí Minh
• Chuyên ngành: Khoa học dữ liệu
• Đề tài: Ứng dụng khoa học dữ liệu và công cụ Orange vào phân tích
• Loại tài liệu: Tiểu luận nhóm
• Năm xuất bản: 2024
• Địa điểm: Tp. Hồ Chí Minh

Mục lục chi tiết

• Lời mở đầu
• Lời cảm ơn
• 1. Chương 1: Giới thiệu đề tài
• 1.1. Lý do chọn đề tài:
• 1.2. Mục tiêu nghiên cứu
• 1.3. Phương pháp thực hiện
• 1.4. Đối tượng nghiên cứu và phạm vi nghiên cứu
• 1.5. Bố cục nghiên cứu
• 2. Chương 2: Mô tả và tiền xử lý dữ liệu
• 2.1. Mô tả bộ dữ liệu
• 2.2. Mô tả các biến:
• 2.3. Thống kê mô tả
• 2.3.1. Mô tả dữ liệu
• 2.3.2. Đồ thị phân lớp:
• 2.4. Tiền xử lý dữ liệu
• 3. Chương 3: Khai phá dữ liệu
• 3.1. Phân lớp dữ liệu:
• 4. Chương 4: Kết luận và kiến nghị
• Tài liệu tham khảo

Tóm tắt

I. Orange Data Mining là gì Giải pháp học máy không cần code

Trong bối cảnh khoa học dữ liệu ngày càng trở nên quan trọng, các công cụ giúp đơn giản hóa quy trình phân tích trở thành một lợi thế cạnh tranh lớn. Orange Data Mining, hay còn gọi là Orange3, nổi lên như một công cụ khoa học dữ liệu mã nguồn mở mạnh mẽ, cho phép thực hiện các tác vụ phức tạp mà không yêu cầu kỹ năng lập trình chuyên sâu. Nền tảng này hoạt động dựa trên nguyên tắc lập trình trực quan, nơi người dùng có thể xây dựng workflow phân tích bằng cách kéo và thả các thành phần được gọi là 'widgets'. Mỗi widget đại diện cho một bước trong quy trình, từ việc nhập dữ liệu, tiền xử lý dữ liệu, huấn luyện mô hình machine learning, cho đến trực quan hóa dữ liệu. Điều này làm cho việc phân tích dữ liệu với Orange trở nên trực quan và dễ tiếp cận hơn bao giờ hết, đặc biệt với những người mới bắt đầu hoặc các nhà phân tích nghiệp vụ không chuyên về code. Thay vì viết hàng trăm dòng lệnh Python hay R, người dùng chỉ cần kết nối các widget lại với nhau để tạo thành một luồng xử lý logic. Khả năng tương tác cao của Orange cho phép người dùng ngay lập tức thấy được kết quả của mỗi bước, từ biểu đồ phân phối dữ liệu đến hiệu suất của một mô hình dự báo. Công cụ này hỗ trợ đa dạng các thuật toán từ phân loại dữ liệu, phân cụm dữ liệu cho đến phân tích luật kết hợp, biến nó thành một phần mềm phân tích dữ liệu miễn phí toàn diện cho cả mục đích học thuật và thương mại.

1.1. Ưu điểm của Orange Trực quan hóa dữ liệu và học máy

Điểm mạnh cốt lõi của Orange Data Mining nằm ở khả năng trực quan hóa dữ liệu (data visualization) và tích hợp liền mạch các mô hình học máy không cần code. Người dùng có thể dễ dàng khám phá các mối quan hệ ẩn trong dữ liệu thông qua các biểu đồ tương tác như Scatter Plot, Box Plot hay Heatmap. Việc trực quan hóa không chỉ dừng ở dữ liệu đầu vào mà còn mở rộng ra cả kết quả của mô hình, chẳng hạn như hiển thị một cây quyết định (decision tree) một cách tường minh hoặc biểu diễn không gian phân cụm. Điều này giúp người phân tích nhanh chóng nắm bắt được bản chất của dữ liệu và giải thích kết quả mô hình một cách dễ hiểu. Hơn nữa, thư viện widget phong phú của Orange bao phủ gần như toàn bộ quy trình khai phá dữ liệu (data mining), từ các thuật toán đơn giản như K-Means đến các mô hình phức tạp như Mạng nơ-ron (Neural Network) và Máy véc-tơ hỗ trợ (SVM).

1.2. Giao diện và các Widget trong Orange Khối xây dựng cơ bản

Giao diện chính của Orange được gọi là Canvas, là không gian làm việc nơi người dùng xây dựng các workflow phân tích. Các khối xây dựng cơ bản trên Canvas là widget trong Orange. Các widget này được phân loại một cách khoa học thành các nhóm chức năng như Data (nhập/xuất dữ liệu), Visualize (trực quan hóa), Model (huấn luyện mô hình), Evaluate (đánh giá mô hình) và Unsupervised (học không giám sát). Ví dụ, widget 'File' dùng để tải dữ liệu, widget 'Data Table' để xem dữ liệu dạng bảng, widget 'Distributions' để xem phân phối của các thuộc tính. Người dùng chỉ cần kéo các widget từ thanh công cụ ra Canvas và dùng chuột để nối chúng lại, tạo thành một dòng chảy dữ liệu logic. Mỗi kết nối đại diện cho việc dữ liệu hoặc mô hình được truyền từ widget này sang widget khác, tạo nên một quy trình phân tích hoàn chỉnh và dễ dàng gỡ lỗi.

II. Cách tiền xử lý dữ liệu hiệu quả bằng Orange Data Mining

Chất lượng của mô hình khoa học dữ liệu phụ thuộc rất lớn vào giai đoạn tiền xử lý dữ liệu (data preprocessing). Đây là bước không thể thiếu nhằm đảm bảo dữ liệu đầu vào sạch, nhất quán và phù hợp cho việc huấn luyện. Với Orange Data Mining, quy trình này trở nên trực quan hơn thông qua một chuỗi các widget chuyên dụng. Dựa trên phân tích bộ dữ liệu về khách hàng rời bỏ của một công ty viễn thông, quy trình tiền xử lý bắt đầu bằng việc khám phá các đặc trưng thống kê. Công đoạn này giúp xác định các vấn đề tiềm ẩn như giá trị thiếu, phân phối lệch hay các thuộc tính không liên quan. Một trong những kỹ thuật quan trọng trong bước này là lựa chọn thuộc tính (feature selection). Thay vì giữ lại tất cả các biến, việc loại bỏ những biến không có giá trị dự báo giúp mô hình hoạt động hiệu quả hơn, giảm nhiễu và tránh overfitting. Tài liệu nghiên cứu cho thấy, việc sử dụng các công cụ như 'Rank' để đánh giá tầm quan trọng của biến là một phương pháp hiệu quả. Cuối cùng, một workflow tiền xử lý hoàn chỉnh sẽ kết thúc bằng việc lưu lại bộ dữ liệu đã được làm sạch, sẵn sàng cho các bước khai phá dữ liệu tiếp theo.

2.1. Khám phá dữ liệu ban đầu với Feature Statistics

Bước đầu tiên trong mọi dự án phân tích dữ liệu với Orange là hiểu rõ bộ dữ liệu đang có. Widget 'Feature Statistics' cung cấp một cái nhìn tổng quan nhanh chóng về các đặc trưng thống kê mô tả của từng biến. Như trong tài liệu tham khảo, widget này hiển thị các giá trị như giá trị trung bình (Mean), trung vị (Median), giá trị xuất hiện nhiều nhất (Mode), và độ phân tán (Dispersion) cho các biến số. Nó cũng cho biết số lượng giá trị bị thiếu (Missing). Ví dụ, qua phân tích, có thể thấy biến 'Seconds of Use' có giá trị trung bình là 4472 nhưng mode là 0, cho thấy một lượng lớn khách hàng không sử dụng hoặc sử dụng rất ít dịch vụ. Việc nắm bắt những thông tin này giúp định hướng các bước xử lý tiếp theo.

2.2. Sử dụng Rank để đánh giá mức độ quan trọng của thuộc tính

Không phải tất cả các thuộc tính trong bộ dữ liệu đều có sức ảnh hưởng như nhau đến biến mục tiêu. Widget 'Rank' trong Orange cho phép xếp hạng mức độ quan trọng của các thuộc tính dựa trên các thước đo thống kê như Gain Ratio hoặc Gini Index. Trong nghiên cứu về dự đoán khách hàng rời bỏ, nhóm nghiên cứu đã sử dụng 'Rank' để đánh giá mối tương quan giữa các biến độc lập và biến phụ thuộc 'Churn'. Kết quả cho thấy hai biến 'Age' và 'Age Group' có chỉ số Gain Ratio bằng 0 và Gini là N/A, cho thấy chúng có độ tương quan rất thấp và không đóng góp nhiều vào việc dự báo. Dựa trên kết quả này, quyết định loại bỏ hai biến này được đưa ra để làm sạch bộ dữ liệu và tối ưu hóa mô hình.

2.3. Hoàn thiện workflow Select Columns và Save Data

Sau khi xác định được các thuộc tính cần loại bỏ, widget 'Select Columns' được sử dụng để thực hiện việc này. Người dùng có thể dễ dàng di chuyển các biến không mong muốn (như 'Age' và 'Age Group') từ danh sách 'Features' sang danh sách 'Ignored'. Dữ liệu đầu ra từ widget này sẽ là một phiên bản thu gọn, chỉ chứa các thuộc tính có giá trị. Bước cuối cùng của quy trình tiền xử lý dữ liệu là lưu lại bộ dữ liệu sạch này để tái sử dụng. Widget 'Save Data' cho phép ghi dữ liệu đã xử lý ra một file mới, đảm bảo tính nhất quán cho các bước phân tích và mô hình hóa về sau. Toàn bộ quy trình này tạo thành một workflow rõ ràng và có thể lặp lại trên Orange.

III. Hướng dẫn phân tích dự báo khách hàng rời bỏ với Orange

Một trong những ứng dụng phổ biến nhất của khoa học dữ liệu là phân tích dự báo (predictive analysis), và phân loại dữ liệu (classification) là kỹ thuật cốt lõi. Trong bối cảnh kinh doanh, dự báo khách hàng nào có khả năng rời bỏ (churn) là một bài toán quan trọng. Phân tích dữ liệu với Orange cung cấp một môi trường lý tưởng để xây dựng và so sánh các mô hình phân loại. Dựa trên nghiên cứu điển hình, sau khi dữ liệu đã được tiền xử lý, biến mục tiêu 'Churn' được xác định. Nhiều thuật toán machine learning khác nhau đã được áp dụng, bao gồm Cây quyết định (Tree), SVM, Hồi quy Logistic, và Mạng nơ-ron (Neural Network). Điểm mạnh của Orange là khả năng đánh giá đồng thời tất cả các mô hình này bằng widget 'Test & Score'. Widget này cung cấp các chỉ số hiệu suất quan trọng như AUC (Area Under Curve), CA (Classification Accuracy), Precision và Recall. Kết quả so sánh cho phép người phân tích lựa chọn mô hình hoạt động tốt nhất trên bộ dữ liệu cụ thể, thay vì chỉ dựa vào cảm tính. Quá trình này không chỉ giúp tìm ra mô hình chính xác nhất mà còn cung cấp cái nhìn sâu sắc về điểm mạnh và yếu của từng phương pháp.

3.1. Đánh giá mô hình với Test Score và Confusion Matrix

Widget 'Test & Score' là trung tâm của quá trình đánh giá mô hình trong Orange. Nó cho phép so sánh hiệu suất của nhiều thuật toán phân loại cùng một lúc. Trong nghiên cứu được trích dẫn, phương pháp Cross-validation (với 5 folds) đã được sử dụng để đảm bảo kết quả đánh giá khách quan. Kết quả cho thấy mô hình Neural Network đạt hiệu suất cao nhất với chỉ số AUC là 0.977 và CA là 0.943. Để hiểu sâu hơn về lỗi của mô hình, 'Confusion Matrix' (Ma trận nhầm lẫn) được sử dụng. Ma trận này chỉ rõ số lượng các trường hợp dự đoán đúng và sai cho từng lớp. Ví dụ, ma trận của Neural Network cho thấy mô hình nhầm lẫn 75 trường hợp 'Không Churn' thành 'Churn' và 105 trường hợp ngược lại, cung cấp một bức tranh chi tiết về hiệu suất thực tế.

3.2. Trực quan hóa hiệu suất bằng đồ thị ROC Analysis

Bên cạnh các chỉ số số, trực quan hóa dữ liệu hiệu suất cũng rất quan trọng. Đồ thị ROC (Receiver Operating Characteristic) là một công cụ mạnh mẽ để đánh giá khả năng phân biệt giữa các lớp của một mô hình phân loại. Trong Orange, widget 'ROC Analysis' vẽ đường cong ROC cho từng mô hình. Đường cong càng gần góc trên bên trái (điểm (0,1)), mô hình càng có hiệu suất tốt. Phân tích từ tài liệu gốc khẳng định rằng đường cong của Neural Network tiệm cận trục tung nhất, một lần nữa củng cố kết luận đây là mô hình hiệu quả nhất trong bốn mô hình được thử nghiệm để giải quyết bài toán phân tích dự báo khách hàng rời bỏ.

IV. Phương pháp phân cụm dữ liệu hiệu quả với Orange 3

Bên cạnh học có giám sát, học không giám sát cũng là một nhánh quan trọng của khai phá dữ liệu, với kỹ thuật tiêu biểu là phân cụm dữ liệu (clustering). Mục tiêu của phân cụm là tự động nhóm các đối tượng tương tự vào cùng một cụm mà không cần biết trước nhãn của chúng. Orange3 cung cấp các công cụ mạnh mẽ để thực hiện và đánh giá các thuật toán phân cụm. Trong nghiên cứu về dữ liệu viễn thông, hai phương pháp phân cụm chính đã được áp dụng: Hierarchical Clustering và K-Means. Hierarchical Clustering xây dựng một cây phân cấp các cụm, trong khi K-Means cố gắng phân chia dữ liệu thành một số lượng cụm (K) đã định trước. Việc đánh giá chất lượng phân cụm là một thách thức, và Orange hỗ trợ cả đánh giá nội tại (internal validation) và đánh giá ngoại tại (external validation). Đánh giá nội tại sử dụng các chỉ số như Silhouette để đo độ cô đọng và tách biệt của các cụm. Đánh giá ngoại tại so sánh kết quả phân cụm với một nhãn có sẵn (nếu có) để xem các cụm được tạo ra có tương ứng với các lớp thực tế hay không. Quá trình này giúp khám phá các cấu trúc tự nhiên trong dữ liệu, chẳng hạn như phân khúc khách hàng dựa trên hành vi sử dụng.

4.1. So sánh Hierarchical Clustering và K Means trong Orange

Hai thuật toán này tiếp cận bài toán phân cụm dữ liệu theo cách khác nhau. Với Hierarchical Clustering, người dùng có thể thử các phương pháp liên kết (linkage) khác nhau như 'Complete', 'Average', hay 'Ward' để xem cấu trúc phân cấp nào phù hợp nhất. Ngược lại, K-Means yêu cầu người dùng chỉ định trước số cụm. Trong phân tích ví dụ, cả hai phương pháp đều được thử nghiệm với số cụm từ 2 đến 5. Kết quả cho thấy Hierarchical Clustering, đặc biệt với phương pháp liên kết 'Weighted' và 'Complete' cho 2 cụm, mang lại kết quả tốt hơn dựa trên cả đánh giá nội và ngoại.

4.2. Đo lường chất lượng phân cụm bằng chỉ số Silhouette

Để đánh giá nội tại, chỉ số Silhouette là một thước đo phổ biến. Widget 'Silhouette Plot' trong Orange trực quan hóa chỉ số này cho từng điểm dữ liệu trong mỗi cụm. Một chỉ số Silhouette cao (gần 1) cho thấy điểm dữ liệu đó rất phù hợp với cụm của nó và cách xa các cụm khác. Nghiên cứu chỉ ra rằng khi áp dụng K-Means, nhiều cụm có chỉ số Silhouette thấp, cho thấy phương pháp này không tối ưu cho bộ dữ liệu đang xét. Ngược lại, phương pháp Hierarchical Clustering (với liên kết Weighted và Complete) tạo ra các cụm có chỉ số Silhouette trung bình cao hơn 0.5, cho thấy mô hình đáng tin cậy. Đây là một dẫn chứng quan trọng để lựa chọn phương pháp clustering phù hợp.

4.3. Đánh giá ngoại tại qua Pivot Table để tìm kiếm insight

Khi có một biến nhãn (như 'Churn'), ta có thể thực hiện đánh giá ngoại tại để xem các cụm được tạo ra có ý nghĩa nghiệp vụ hay không. Widget 'Pivot Table' được sử dụng để đối chiếu kết quả phân cụm với nhãn 'Churn'. Phân tích cho thấy, với phương pháp Hierarchical 2 cụm, một cụm gần như chỉ chứa các khách hàng 'Không rời bỏ' (tỷ lệ rất cao, ví dụ 100% hoặc 99.55%). Điều này cho thấy thuật toán đã thành công trong việc xác định một phân khúc khách hàng rất trung thành. Insight này cực kỳ giá trị, giúp doanh nghiệp hiểu rõ hơn về các nhóm khách hàng khác nhau trong tập dữ liệu của mình.

V. Ứng dụng Orange Xây dựng workflow khoa học dữ liệu hoàn chỉnh

Sức mạnh thực sự của Orange Data Mining nằm ở khả năng tích hợp tất cả các bước, từ thu thập dữ liệu đến triển khai mô hình, vào một workflow duy nhất. Việc này không chỉ giúp quản lý quy trình một cách có hệ thống mà còn tăng cường khả năng tái lặp và kiểm chứng của nghiên cứu. Một workflow điển hình cho bài toán phân tích dữ liệu với Orange bắt đầu với widget 'File' để nạp dữ liệu. Dòng chảy dữ liệu sau đó đi qua các bước tiền xử lý dữ liệu như đã mô tả, bao gồm việc sử dụng 'Rank' để chọn lọc thuộc tính và 'Select Columns' để loại bỏ các biến không cần thiết. Tiếp theo, dòng chảy được chia nhánh: một nhánh đi đến 'Test & Score' để huấn luyện và đánh giá các mô hình phân loại dữ liệu, nhánh còn lại đi đến các widget như 'Distances', 'Hierarchical Clustering' hoặc 'K-Means' để thực hiện phân cụm dữ liệu. Cuối cùng, các kết quả từ mô hình tốt nhất (ví dụ: Neural Network) có thể được sử dụng trong widget 'Predictions' để dự báo trên một tập dữ liệu mới. Việc xây dựng một workflow tổng thể như vậy giúp biến một quy trình phân tích phức tạp thành một sơ đồ logic, dễ hiểu và dễ dàng trình bày.

5.1. Sơ đồ workflow tổng thể Từ dữ liệu thô đến insight

Một sơ đồ workflow hoàn chỉnh trong Orange, như được minh họa trong 'Hình 46 Workflow toàn bài' của tài liệu gốc, là một bản đồ trực quan của toàn bộ quá trình nghiên cứu. Nó bắt đầu với nguồn dữ liệu, đi qua các bước làm sạch, lựa chọn mô hình, đánh giá và cuối cùng là đưa ra dự báo. Workflow này không phải là một chu trình tĩnh. Người dùng có thể dễ dàng thay đổi các tham số của một widget bất kỳ (ví dụ: thay đổi số cụm trong K-Means) và toàn bộ workflow phía sau sẽ tự động cập nhật kết quả. Tính tương tác này cho phép thử nghiệm nhanh các giả thuyết khác nhau, một yếu tố cực kỳ quan trọng trong quá trình khai phá dữ liệu.

5.2. Kiến nghị kinh doanh từ kết quả phân tích dữ liệu

Mục tiêu cuối cùng của khoa học dữ liệu ứng dụng là tạo ra giá trị kinh doanh. Các kết quả phân tích từ Orange cung cấp cơ sở vững chắc để đưa ra các kiến nghị chiến lược. Dựa trên phân tích các biến có ảnh hưởng lớn đến tỷ lệ rời bỏ như 'Customer Value' và 'Seconds of Use', doanh nghiệp có thể hành động. Ví dụ, khi biết rằng nhóm khách hàng rời bỏ chủ yếu có giá trị 'Customer Value' thấp (<500), công ty có thể thiết kế các chương trình khuyến mãi, gói cước ưu đãi hoặc chiến dịch chăm sóc khách hàng đặc biệt nhắm vào phân khúc này. Tương tự, việc nhận thấy khách hàng rời bỏ thường có thời gian sử dụng dịch vụ thấp (<6500 giây) có thể gợi ý cho việc phát triển các gói dịch vụ linh hoạt hơn để khuyến khích họ sử dụng, từ đó giảm tỷ lệ rời bỏ và tăng doanh thu.