Dự án: Ứng dụng phân cụm và phân lớp trong phân tích dữ liệu laptop UEH

Phân tích dữ liệu laptop với ứng dụng phân cụm và phân lớp. Tìm hiểu dự án cuối kì khám phá thông tin giá trị từ dữ liệu laptop, hỗ trợ ra quyết định.

Trường đại học

Trường Đại Học UEH

Chuyên ngành

Khoa học dữ liệu

Người đăng

Ẩn danh

Thể loại

Dự án cuối kì

2024

42
2
0

Phí lưu trữ

30 Point

Mục lục chi tiết

LỜI CẢM ƠN

1. CHƯƠNG 1: TÓM TẮT, GIỚI THIỆU ĐỀ TÀI

1.1. Lý do chọn đề tài

1.2. Mục tiêu nghiên cứu

1.2.1. Mục tiêu tổng quát

1.2.2. Mục tiêu cụ thể

1.3. Tổng quan dự án

2. CHƯƠNG 2: MÔ TẢ DỮ LIỆU, TỔNG QUAN VỀ CHƯƠNG TRÌNH ORANGE VÀ PHƯƠNG PHÁP SỬ DỤNG TRONG BÀI

2.1. Mô tả bộ dữ liệu

2.2. Giới thiệu sơ lược về Orange và lí do chọn công cụ này

2.3. Các phương pháp sử dụng

2.3.1. Tiền xử lí dữ liệu

2.3.2. Phân lớp dữ liệu

2.3.3. Phân cụm dữ liệu

3. CHƯƠNG 3: KẾT QUẢ THỰC HIỆN

3.1. Tiền xử lý dữ liệu

3.2. Tiến hành phân cụm

3.2.1. Phương pháp Single

3.2.1.1. Phân thành 2 cụm
3.2.1.2. Phân thành 3 cụm

3.2.2. Phương pháp Average

3.2.2.1. Phân thành 2 cụm
3.2.2.2. Phân thành 3 cụm

3.2.3. Phương pháp Complete

3.2.3.1. Phân thành 2 cụm
3.2.3.2. Phân thành 3 cụm

3.3. Tiến hành phân lớp

3.3.1. Xây dựng mô hình

3.3.2. Sử dụng mô hình

3.3.3. Ma trận nhầm lẫn

3.3.4. Đường cong ROC

TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng quan về Phân tích Dữ liệu Laptop Phân cụm Phân lớp

Phân tích dữ liệu laptop là một lĩnh vực quan trọng, cung cấp thông tin chi tiết về hiệu năng, độ bền và các yếu tố khác ảnh hưởng đến quyết định mua hàng. Phân cụm dữ liệu laptopphân lớp dữ liệu laptop là hai kỹ thuật chính được sử dụng trong lĩnh vực này. Phân cụm giúp nhóm các laptop có đặc điểm tương đồng, trong khi phân lớp dự đoán các thuộc tính của laptop dựa trên các đặc điểm đã biết. Ứng dụng của hai kỹ thuật này rất đa dạng, từ dự đoán lỗi, phân tích hiệu năng laptop đến phân tích sentiment laptop, giúp nhà sản xuất cải thiện sản phẩm và người dùng đưa ra lựa chọn thông minh. Bài viết này sẽ đi sâu vào các phương pháp phân cụm và phân lớp, ứng dụng thực tế và những thách thức trong quá trình phân tích dữ liệu laptop. Theo tài liệu gốc, dữ liệu laptop có thể được sử dụng để "xác định xu hướng sản phẩm, tối ưu hóa giá bán và dự đoán nhu cầu người dùng."

1.1. Tầm quan trọng của Khai phá Dữ liệu Laptop Data Mining

Việc khai phá dữ liệu laptop đóng vai trò then chốt trong việc thấu hiểu thị trường, hành vi người dùng và tối ưu hóa sản phẩm. Bằng cách áp dụng các thuật toán machine learning laptop, có thể khám phá ra các mối quan hệ ẩn sâu giữa các thuộc tính của laptop và hiệu năng, độ bền. Data mining laptop còn hỗ trợ phân tích sentiment laptop (đánh giá cảm xúc người dùng) từ các đánh giá trực tuyến, giúp nhà sản xuất nắm bắt được phản hồi của khách hàng và cải thiện sản phẩm. Hơn nữa, có thể xác định được các yếu tố quan trọng ảnh hưởng đến quyết định mua hàng của người dùng như thương hiệu, giá cả, hiệu năng, kích thước, độ bền, mẫu mã, thiết kế, và các chương trình khuyến mãi. Bên cạnh đó phân tích dữ liệu lớn laptop cũng có một vai trò quan trọng. Các kết quả này giúp các nhà bán lẻ tối ưu hóa chiến lược marketing và bán hàng.

1.2. Ứng dụng của Machine Learning trong Phân tích Laptop

Máy học laptop mở ra nhiều cơ hội trong việc tự động hóa và cải thiện quy trình phân tích dữ liệu laptop. Các mô hình học máy laptop có thể dự đoán lỗi tiềm ẩn, đánh giá hiệu năng, hoặc thậm chí gợi ý cấu hình laptop phù hợp với nhu cầu của từng người dùng. Ví dụ, mô hình phân lớp dữ liệu laptop có thể dự đoán mức giá của laptop dựa trên các thông số kỹ thuật. Hoặc mô hình phân cụm dữ liệu laptop có thể nhóm các laptop có đặc điểm tương đồng để tạo ra các phân khúc sản phẩm khác nhau. Các thuật toán như Random Forest, SVM, và Logistic Regression thường được sử dụng trong phân tích hiệu năng laptopdự đoán lỗi laptop. Việc lựa chọn thuật toán phù hợp phụ thuộc vào đặc điểm của dữ liệu và mục tiêu phân tích.

II. Thách thức khi Phân tích Dữ liệu Laptop Xử lý và Tiền xử lý

Việc phân tích dữ liệu laptop không phải lúc nào cũng suôn sẻ. Xử lý dữ liệu laptop và tiền xử lý dữ liệu là các bước quan trọng để đảm bảo chất lượng và độ tin cậy của kết quả phân tích. Dữ liệu laptop thường có nhiều định dạng khác nhau, chứa các giá trị thiếu hoặc không nhất quán. Việc làm sạch, chuyển đổi và chuẩn hóa dữ liệu là rất cần thiết trước khi áp dụng các thuật toán phân cụm và phân lớp. Hơn nữa, việc lựa chọn các thuộc tính phù hợp để phân tích cũng là một thách thức quan trọng. Một số thuộc tính có thể không liên quan hoặc gây nhiễu cho quá trình phân tích. Theo tài liệu gốc, "Tiền xử lý dữ liệu là một quá trình quan trọng ban đầu nhằm chuyển đổi dữ liệu thô ban đầu thành một tập dữ liệu sạch."

2.1. Các Phương pháp Tiền Xử lý Dữ liệu Laptop Hiệu quả

Để giải quyết các vấn đề liên quan đến chất lượng dữ liệu, nhiều phương pháp tiền xử lý có thể được áp dụng. Data processing laptop bao gồm làm sạch dữ liệu (xử lý các giá trị thiếu, loại bỏ các giá trị ngoại lệ), chuyển đổi dữ liệu (mã hóa các biến hạng mục, chuẩn hóa các biến số), và giảm chiều dữ liệu (lựa chọn các thuộc tính quan trọng). Ví dụ, các biến hạng mục như thương hiệu và loại màn hình có thể được mã hóa bằng phương pháp one-hot encoding. Các biến số như giá và dung lượng RAM có thể được chuẩn hóa bằng phương pháp min-max scaling hoặc z-score normalization. Việc lựa chọn phương pháp tiền xử lý phù hợp phụ thuộc vào đặc điểm của dữ liệu và mục tiêu phân tích. Theo tài liệu gốc, bước tiền xử lý dữ liệu chia ra 4 thao tác để xử lí tuần tự từng vấn đề có thể xảy ra: làm sạch dữ liệu, tích hợp dữ liệu, chuyển đổi dữ liệu và rút gọn dữ liệu.

2.2. Vấn đề Dữ liệu Lớn Big Data trong Phân tích Laptop

Với sự phát triển của thương mại điện tử, lượng dữ liệu laptop được tạo ra ngày càng lớn. Phân tích dữ liệu lớn laptop đặt ra những thách thức về khả năng xử lý và lưu trữ dữ liệu. Các kỹ thuật big data laptop, chẳng hạn như Hadoop và Spark, có thể được sử dụng để xử lý dữ liệu laptop quy mô lớn. Hơn nữa, cần có các thuật toán phân cụm và phân lớp hiệu quả để xử lý dữ liệu lớn trong thời gian hợp lý. Việc áp dụng các kỹ thuật phân tích dữ liệu lớn laptop giúp các nhà sản xuất và bán lẻ nắm bắt được xu hướng thị trường và đưa ra quyết định kinh doanh sáng suốt. Theo tài liệu gốc, thuật toán phân cụm phân cấp (Hierachical clustering) tốn nhiều thời gian, vì vậy không phù hợp với bộ dữ liệu lớn.

III. Phân cụm Dữ liệu Laptop Cách Tìm Nhóm Laptop Tương đồng

Phân cụm là một kỹ thuật quan trọng trong phân tích dữ liệu laptop, giúp nhóm các laptop có đặc điểm tương đồng thành các cụm. Các thuật toán phân cụm như K-means và Hierarchical Clustering có thể được sử dụng để phân tích dữ liệu laptop. Kết quả phân cụm có thể được sử dụng để xác định các phân khúc sản phẩm khác nhau, hiểu rõ hơn về nhu cầu của từng nhóm khách hàng, và tối ưu hóa chiến lược marketing. Ví dụ, một cụm có thể bao gồm các laptop gaming có cấu hình mạnh và giá cao, trong khi một cụm khác có thể bao gồm các laptop văn phòng có cấu hình trung bình và giá rẻ. Theo tài liệu gốc, phân cụm dữ liệu là bài toán gom nhóm các đối tượng dữ liệu vào thành từng cụm (cluster) sao cho các đối tượng trong cùng một cụm có sự tương đồng theo một tiêu chí nào đó. Phân cụm có đặc điểm là không biết trước số cụm (khác với phân lớp).

3.1. Thuật toán K means trong Phân cụm Dữ liệu Laptop

K-means là một thuật toán phân cụm phổ biến, hoạt động bằng cách chia dữ liệu thành K cụm, sao cho tổng khoảng cách từ mỗi điểm dữ liệu đến trung tâm cụm của nó là nhỏ nhất. Trong phân tích dữ liệu laptop, K-means có thể được sử dụng để phân cụm các laptop dựa trên các thuộc tính như giá, RAM, CPU, và GPU. Việc lựa chọn số lượng cụm K phù hợp là rất quan trọng để đạt được kết quả phân cụm tốt nhất. Các phương pháp như elbow method hoặc silhouette analysis có thể được sử dụng để xác định số lượng cụm tối ưu. Theo tài liệu gốc, cần biết trước số lượng cụm k và nhạy cảm với dữ liệu ngoại biên (outliers).

3.2. Phân cụm Phân cấp Hierarchical Clustering cho Laptop

Hierarchical Clustering là một thuật toán phân cụm khác, xây dựng một hệ thống phân cấp các cụm từ dưới lên hoặc từ trên xuống. Trong phân tích dữ liệu laptop, Hierarchical Clustering có thể được sử dụng để tạo ra một cây phân loại các laptop, cho phép người dùng khám phá các mối quan hệ giữa các laptop ở các mức độ chi tiết khác nhau. Có nhiều phương pháp để tính khoảng cách giữa các cụm trong Hierarchical Clustering, chẳng hạn như single linkage, complete linkage, và average linkage. Việc lựa chọn phương pháp phù hợp phụ thuộc vào đặc điểm của dữ liệu và mục tiêu phân tích.

IV. Phân lớp Dữ liệu Laptop Dự đoán Giá và Các Thuộc tính

Phân lớp là một kỹ thuật quan trọng trong phân tích dữ liệu laptop, giúp dự đoán các thuộc tính của laptop dựa trên các đặc điểm đã biết. Các thuật toán phân lớp như Logistic Regression, SVM, và Random Forest có thể được sử dụng để phân tích dữ liệu laptop. Kết quả phân lớp có thể được sử dụng để dự đoán giá laptop, đánh giá hiệu năng, hoặc gợi ý cấu hình laptop phù hợp với nhu cầu của từng người dùng. Ví dụ, một mô hình phân lớp có thể dự đoán giá của một laptop mới dựa trên các thông số kỹ thuật của nó. Theo tài liệu gốc, có thể xây dựng mô hình phân loại để dự đoán mức giá laptop dựa trên các đặc tính như RAM, loại card đồ họa, hệ điều hành, và loại màn hình.

4.1. Sử dụng Random Forest để Phân lớp Hiệu năng Laptop

Random Forest là một thuật toán phân lớp mạnh mẽ, kết hợp nhiều cây quyết định để cải thiện độ chính xác và giảm overfitting. Trong phân tích dữ liệu laptop, Random Forest có thể được sử dụng để phân lớp laptop dựa trên các thuộc tính như CPU, GPU, RAM, và bộ nhớ. Kết quả phân lớp có thể được sử dụng để dự đoán hiệu năng của laptop trong các tác vụ khác nhau, chẳng hạn như chơi game, làm việc văn phòng, hoặc chỉnh sửa video. Random Forest đặc biệt hữu ích khi dữ liệu có nhiều thuộc tính và mối quan hệ phức tạp.

4.2. Hồi quy Logistic Logistic Regression trong Dự đoán Giá Laptop

Logistic Regression là một thuật toán phân lớp đơn giản nhưng hiệu quả, được sử dụng để dự đoán xác suất của một biến mục tiêu. Trong phân tích dữ liệu laptop, Logistic Regression có thể được sử dụng để dự đoán giá của laptop dựa trên các thuộc tính như thương hiệu, loại màn hình, và bộ vi xử lý. Kết quả dự đoán có thể được sử dụng để so sánh giá giữa các laptop khác nhau và đưa ra quyết định mua hàng thông minh. Mặc dù đơn giản, Logistic Regression có thể đạt được kết quả tốt khi dữ liệu có mối quan hệ tuyến tính.

V. Ứng dụng Phân tích Dữ liệu Laptop Bảo trì và Dự đoán Lỗi

Phân tích dữ liệu laptop không chỉ hữu ích trong việc phân tích thị trường và dự đoán giá, mà còn có thể được ứng dụng trong việc bảo trì laptop dự đoánphân tích lỗi laptop. Bằng cách phân tích dữ liệu về lỗi và hiệu năng của laptop, có thể dự đoán các vấn đề tiềm ẩn và thực hiện các biện pháp phòng ngừa. Điều này giúp giảm thiểu thời gian ngừng hoạt động và kéo dài tuổi thọ của laptop. Dự đoán lỗi laptop sử dụng các thuật toán phân lớp để xác định các laptop có nguy cơ cao gặp sự cố dựa trên các dấu hiệu cảnh báo sớm. Theo tài liệu gốc, bộ dữ liệu về thông tin laptop đại diện cho một tình huống phổ biến trong lĩnh vực công nghệ tiêu dùng và thương mại điện tử.

5.1. Phân tích Độ bền Laptop Laptop Durability Analysis

Phân tích độ bền laptop là một ứng dụng quan trọng của phân tích dữ liệu laptop. Bằng cách phân tích dữ liệu về lỗi và hiệu năng của laptop theo thời gian, có thể đánh giá độ bền của các model laptop khác nhau và xác định các yếu tố ảnh hưởng đến độ bền. Ví dụ, có thể so sánh tỷ lệ lỗi của các laptop với các loại màn hình hoặc card đồ họa khác nhau. Kết quả phân tích có thể giúp nhà sản xuất cải thiện thiết kế và lựa chọn vật liệu để tăng độ bền của sản phẩm.

5.2. Ứng dụng Text Mining vào Laptop Reviews

Text mining laptop reviews là một phương pháp hiệu quả để thu thập thông tin về trải nghiệm người dùng và xác định các vấn đề phổ biến. Bằng cách phân tích các đánh giá trực tuyến, có thể xác định các chủ đề quan trọng đối với người dùng, chẳng hạn như thời lượng pin, hiệu năng tản nhiệt, và chất lượng màn hình. Kết quả phân tích có thể giúp nhà sản xuất cải thiện sản phẩm và đáp ứng tốt hơn nhu cầu của khách hàng. Các kỹ thuật phân tích sentiment laptop có thể được sử dụng để đánh giá cảm xúc của người dùng đối với các khía cạnh khác nhau của laptop.

VI. Kết luận Tương lai của Phân tích Dữ liệu Laptop

Phân tích dữ liệu laptop là một lĩnh vực đầy tiềm năng, với nhiều ứng dụng thực tế và cơ hội nghiên cứu. Với sự phát triển của các thuật toán machine learning và big data, khả năng phân tích dữ liệu laptop sẽ ngày càng được nâng cao. Trong tương lai, phân tích dữ liệu laptop sẽ đóng vai trò quan trọng trong việc giúp nhà sản xuất cải thiện sản phẩm, người dùng đưa ra quyết định thông minh, và nhà bán lẻ tối ưu hóa chiến lược kinh doanh. Việc kết hợp các kỹ thuật phân cụm và phân lớp sẽ mang lại cái nhìn toàn diện hơn về dữ liệu laptop và mở ra những cơ hội mới trong việc khai thác giá trị từ dữ liệu. Theo tài liệu gốc, ứng dụng các kỹ thuật học máy có thể mang lại lợi ích sâu rộng cho cả người tiêu dùng lẫn doanh nghiệp, giúp tạo ra một thị trường thông minh và hiệu quả hơn.

6.1. Công cụ Phân tích Dữ liệu Laptop Phổ biến Python R SQL

Nhiều công cụ mạnh mẽ có sẵn để phân tích dữ liệu laptop, bao gồm Python, R, và SQL. Python laptop data analysisR laptop data analysis cung cấp các thư viện phong phú để tiền xử lý, phân cụm, và phân lớp dữ liệu. SQL laptop data analysis cho phép truy vấn và phân tích dữ liệu từ các cơ sở dữ liệu. Việc lựa chọn công cụ phù hợp phụ thuộc vào kỹ năng của người dùng và yêu cầu của dự án. Các công cụ trực quan hóa dữ liệu như Tableau và Power BI cũng có thể được sử dụng để trình bày kết quả phân tích một cách trực quan và dễ hiểu. Bên cạnh đó, có thể sử dụng phần mềm phân tích dữ liệu laptop, công cụ phân tích dữ liệu laptop, và ứng dụng phân tích dữ liệu laptop.

6.2. Hướng Phát triển của Phân tích Dữ liệu Laptop trong tương lai

Trong tương lai, phân tích dữ liệu laptop sẽ ngày càng trở nên quan trọng hơn khi thị trường laptop tiếp tục phát triển và cạnh tranh. Các xu hướng mới trong phân tích dữ liệu, chẳng hạn như deep learning và reinforcement learning, có thể được áp dụng để cải thiện độ chính xác và hiệu quả của các mô hình phân tích. Hơn nữa, việc kết hợp dữ liệu laptop với các nguồn dữ liệu khác, chẳng hạn như dữ liệu mạng xã hội và dữ liệu IoT, có thể mang lại những hiểu biết sâu sắc hơn về hành vi người dùng và xu hướng thị trường.

11/09/2025

Trích đoạn nội dung tài liệu

CHƯƠNG 1: TÓM TẮT, GIỚI THIỆU ĐỀ TÀI 1. Lý do chọn đề tài Bộ dữ liệu về thông tin laptop đại diện cho một tình huống phổ biến trong lĩnh vực công nghệ tiêu dùng và thương mại điện tử, đặc biệt hữu ích cho các nhà bán lẻ, nhà sản xuất và người tiêu dùng. Việc phân tích các yếu tố như giá, thương hiệu, dung lượng RAM, loại màn hình và kích thước có thể hỗ trợ tối ưu hóa chiến lược kinh doanh, hiểu rõ hơn về nhu cầu thị trường, cũng như giúp người tiêu dùng đưa ra quyết định mua sắm hợp lý. Bộ dữ liệu này cung cấp nền tảng hữu ích cho nghiên cứu và phát triển sản phẩm, nâng cao trải nghiệm người dùng và ra quyết định dựa trên dữ liệu chính xác.

Tác giả có thể khai thác bộ dữ liệu để xác định xu hướng sản phẩm, tối ưu hóa giá bán và dự đoán nhu cầu người dùng. Những việc làm này không chỉ mang lại giá trị thực tiễn cho các nhà sản xuất và bán lẻ mà còn tạo cơ hội phát triển các giải pháp phân tích thông minh trong thương mại điện tử. Mục tiêu nghiên cứu 1. Mục tiêu tổng quát Sử dụng phần mềm Excel và Orange cùng với những kiến thức về phân tích dữ liệu, tác giả tiến hành xử lý dữ liệu, phân cụm, phân loại và dự báo trên bộ dữ liệu “Laptop Data”.

Quy trình này giúp cung cấp một cái nhìn toàn diện về các thông số kỹ thuật và mức giá laptop, đồng thời đưa ra những đánh giá dựa trên dữ liệu đã phân tích để hỗ trợ việc lựa chọn sản phẩm, tối ưu hóa chiến lược định giá, và hiểu rõ hơn về nhu cầu người tiêu dùng trong thị trường laptop. Mục tiêu cụ thể Bài toán 1: Xây dựng mô hình phân cụm để xác định các nhóm laptop có đặc điểm tương đồng. Các yếu tố như thương hiệu, dung lượng RAM, kích thước màn hình và loại vi xử lý có thể được sử dụng để phân cụm, giúp xác định phân khúc sản phẩm phù hợp với các đối tượng khách hàng khác nhau (như người dùng phổ thông, người chơi game, dân văn phòng). Bài toán 2: Xây dựng mô hình phân loại để dự đoán mức giá laptop dựa trên các đặc tính như RAM, loại card đồ họa, hệ điều hành, và loại màn hình.

Mô hình này sẽ hỗ trợ người tiêu dùng đưa ra lựa chọn hợp lý và giúp các nhà bán lẻ đề xuất giá phù hợp với từng cấu hình. Tổng quan dự án Bộ dữ liệu "Laptop Data" chứa thông tin của 1.303 mẫu laptop, cung cấp chi tiết về các thông số kỹ thuật và đặc điểm như thương hiệu, kích thước màn hình, độ phân giải, bộ vi xử lý, RAM, bộ nhớ, card đồ họa, hệ điều hành, khối lượng và giá cả. Bộ dữ liệu này cho phép phân tích và đánh giá xu hướng về cấu hình và mức giá laptop, từ đó hỗ trợ người tiêu dùng và nhà bán lẻ đưa ra quyết định mua sắm và chiến lược định giá hiệu quả hơn. CHƯƠNG 2: MÔ TẢ DỮ LIỆU, TỔNG QUAN VỀ CHƯƠNG TRÌNH ORANGE VÀ PHƯƠNG PHÁP SỬ DỤNG TRONG BÀI 2.

Mô tả bộ dữ liệu Bộ dữ liệu "Laptop Data" trên Kaggle bao gồm thông tin về các mẫu laptop, với nhiều thuộc tính như giá, tên thương hiệu, kiểu máy, thông số kỹ thuật và các yếu tố khác như kích thước màn hình, bộ nhớ RAM, dung lượng ổ cứng và thời lượng pin. Dữ liệu này rất hữu ích cho các phân tích liên quan đến thị trường laptop, so sánh hiệu suất và giá cả giữa các sản phẩm khác nhau. • Đặc điểm của tập dữ liệu: Đa biến • Bản ghi trong tập dữ liệu: 1303 dòng • Các cột trong tập dữ liệu: 12 cột • Đặc điểm thuộc tính: Bao gồm cả numerical (số liệu số học), categorical data (dạng phân loại) và meta data (dữ liệu hỗn hợp) • Giá trị bị thiếu: Không Thông tin liên quan đến từng thuộc tính được liệt kê như sau:  STT: Số thứ tự của mẫu laptop.  Company: Thương hiệu của laptop (VD: Dell, Apple).

 TypeName: Loại laptop (VD: Notebook, Ultrabook).  Inches: Kích thước màn hình (đo bằng inch).  ScreenResolution: Độ phân giải màn hình (VD: 1920x1080).  Cpu: Loại vi xử lý (VD: Intel Core i5).

 Ram: Dung lượng RAM (VD: 8GB).  Memory: Dung lượng và loại ổ cứng.  Gpu: Loại card đồ họa (VD: NVIDIA GeForce).  OpSys: Hệ điều hành cài sẵn.

 Weight: Khối lượng của laptop.  Price: Giá của laptop (đơn vị: USD). Giới thiệu sơ lược về Orange và lí do chọn công cụ này Orange là bộ công cụ trực quan hóa dữ liệu, machine learning và khai thác dữ liệu mã nguồn mở. Nhờ có giao diện dễ hiểu, dễ sử dụng nên người dùng có thể khai phá, phân tích dữ liệu định tính nhanh chóng và trực quan hóa dữ liệu tương tác.

Các nút chức năng trong Orange được gọi là Widget và có thể thực hiện thao tác từ đơn giản như trực quan hóa dữ liệu, lựa chọn tập hợp con và tiền xử lý dữ liệu, đến đánh giá thực nghiệm các thuật toán học tập và mô hình dự đoán. Orange cung cấp một nền tảng để thử nghiệm, đề xuất mô hình và xây dựng mô hình dự đoán và được sử dụng trong y sinh học, tin học và giảng dạy. Trong nghiên cứu khoa học, công cụ này được sử dụng như một nền tảng để thử nghiệm các thuật toán machine learning mới và để triển khai các kỹ thuật mới trong di truyền, tin học. Trong giáo dục, Orange được sử dụng để giảng dạy phương pháp machine learning và khai thác dữ liệu cho sinh viên các ngành cần tiếp xúc với khối lượng lớn dữ liệu.

Vì các ưu điểm của công cụ Orange như dễ sử dụng, dễ hiểu, trực quan nên tác giả quyết định sử dụng Orange là công cụ chính để thực hiện bài nghiên cứu này. Ngoài ra, vì đây là công cụ được tin dùng trong nhiều lĩnh vực và được chứng thực mức độ chính xác nên tác giả càng yên tâm với kết quả cuối cùng của bài nghiên cứu. Các phương pháp sử dụng 2. Tiền xử lí dữ liệu Tiền xử lý dữ liệu là một quá trình quan trọng ban đầu nhằm chuyển đổi dữ liệu thô ban đầu thành một tập dữ liệu sạch.

Vì khi tập dữ liệu được thu thập từ nguồn, nó được thu thập ở định dạng thô và không hoặc ít khả thi cho việc phân tích. Mục đích của kỹ thuật này là cải thiện chất lượng dữ liệu - như sự nhất quán, hoàn thiện, chính xác và hiện hành; từ đó cải thiện kết quả khai phá. Bước tiền xử lí lại chia ra 4 thao tác để xử lí tuần tự từng vấn đề có thể xảy ra: làm sạch dữ liệu, tích hợp dữ liệu, chuyển đổi dữ liệu và rút gọn dữ liệu. Phân lớp dữ liệu Đầu tiên là quá trình gán nhãn (thuộc lớp nào) cho đối tượng dữ liệu.

Tiếp theo là xây dựng mô hình phân lớp dựa trên tập dữ liệu đó. Và cuối cùng là thao tác phân đối tượng vào một hoặc nhiều lớp nhờ mô hình này. Có thể thấy phân lớp gồm hai bước: huấn luyện mô hình và đánh giá mô hình; từ đó tiến hành phân lớp dữ liệu mới. Sau đây là vài mô hình được sử dụng phổ biến.

Hồi quy Logistic (Logistic Regression) là một thuật toán phân loại học có giám sát được sử dụng để dự đoán xác suất của một biến mục tiêu, được biểu diễn dưới dạng vector. Trong đó σ là hàm sigmoid, đầu ra của nó sẽ là khoảng giá trị từ 0 đến 1. Sau khi đã tính được xác suất p ta sẽ dễ dàng xác định được x thuộc về lớp nào.5 khi t≥0 vì vậy hồi quy Logistic sẽ dự đoán là 1 khi xTθ là dương và 0 khi xTθ âm. Random Forest là một thuật toán học máy mạnh mẽ, sử dụng nhiều cây quyết định để cải thiện độ chính xác và giảm thiểu overfitting.

Mỗi cây trong rừng được xây dựng từ một tập con ngẫu nhiên của dữ liệu và thuộc tính. Phương pháp này tổng hợp kết quả từ tất cả các cây để đưa ra dự đoán, giúp xử lý dữ liệu thiếu và hoạt động hiệu quả với cả dữ liệu số và phân loại. Random Forest dễ hiểu và áp dụng rộng rãi trong nhiều lĩnh vực phân tích dữ liệu. SVM (Support vector machine) là một thuật toán giám sát, sử dụng chủ yếu cho việc phân loại.

Trong thuật toán này thì đồ thị dữ liệu là các điểm trong n chiều không gian với giá trị của mỗi tính năng sẽ là một phần liên kết. Sau đó chúng ta thực hiện tìm hyper-plane (là 1 đường thẳng có thể phân chia các lớp ra thành hai phần riêng biệt) để phân chia các lớp. Margin là khoảng cách giữa siêu phẳng đến 2 điểm dữ liệu gần nhất tương ứng với các phân lớp và SVM luôn cố gắng cực đại hóa khoảng cách này. Nhờ sự linh hoạt chiều không gian này mà tất nhiên SVM xử lý được trong không gian nhiều chiều đồng thời rất linh hoạt.

Tuy nhiên SVM chưa thể hiện xác suất khi phân lớp. Sau khi đã chạy thử các mô hình, bước tiếp theo là đánh giá và lựa chọn mô hình phù hợp nhất. Trong bài này, tác giả đánh giá mô hình dựa trên ma trận nhầm lẫn - giúp tóm tắt hiệu suất của các mô hình phân loại. Từ ma trận, chúng ta có thể tính toán nhiều số liệu như thu hồi (recall), độ chính xác (precision), điểm f1.

được sử dụng để đánh giá hiệu suất của các mô hình phân loại. Đầu tiên là chỉ số Precision - tỷ lệ giữa số sample được tính là True Positive (TP) với tổng số sample được phân loại là Positive. Khi đó 0< Precision <=1, Precision càng gần 1 thì độ chính xác của các điểm tìm được càng cao. 𝑇𝑟𝑢𝑒 𝑃𝑜𝑠𝑖𝑡𝑖𝑣𝑒 Precision = 𝑇𝑟𝑢𝑒 𝑃𝑜𝑠𝑖𝑡𝑖𝑣𝑒+𝐹𝑎𝑙𝑠𝑒 𝑃𝑜𝑠𝑖𝑡𝑖𝑣𝑒 Tiếp theo là chỉ số Recall - tỷ lệ giữa các điểm positive thực được nhận đúng trên tổng điểm positive thực.

𝑇𝑟𝑢𝑒 𝑃𝑜𝑠𝑖𝑡𝑖𝑣𝑒 Recall = 𝑇𝑟𝑢𝑒 𝑃𝑜𝑠𝑖𝑡𝑖𝑣𝑒+𝐹𝑎𝑙𝑠𝑒 𝑁𝑒𝑔𝑎𝑡𝑖𝑣𝑒 Khi phân vân lựa chọn các model sao cho cân bằng giữa Precision và Recall thì có thêm một tham số dung hòa giữa 2 cái, có thể dựa vào đó để lựa chọn, đó là F-1 Score. Chỉ số này càng lớn thì mô hình càng tốt. (𝑝𝑟𝑒𝑐𝑖𝑠𝑖𝑜𝑛 ×𝑟𝑒𝑐𝑎𝑙𝑙) F1 = 2 (𝑝𝑟𝑒𝑐𝑖𝑠𝑖𝑜𝑛+𝑟𝑒𝑐𝑎𝑙𝑙) ROC curve để thể hiện mối quan hệ giữa TPR (True positive rate) và FPR (False postive rate – tỷ lệ cảnh báo sai) khi ngưỡng threshold của model được thay đổi. Đường ROC càng tiệm cận với điểm (0,1) thì mô hình càng hiệu quả.

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ