Phương Pháp Lựa Chọn Thuộc Tính và Kỹ Thuật Gom Cụm Dữ Liệu Phân Loại Sử Dụng Tập Thô

Chuyên khảo kỹ thuật phân tích Phương pháp lựa chọn thuộc tính và kỹ thuật gom cụm dữ liệu phân loại sử dụng tập thô, đánh giá các khía cạnh quan trọng, đề xuất hướng nghiên cứu

Trường đại học

Trường Đại Học Lạc Hồng

Chuyên ngành

Khoa Học Máy Tính

Người đăng

Ẩn danh

Thể loại

Luận Án Tiến Sĩ

2023

107
3
0

Phí lưu trữ

35 Point

Mục lục chi tiết

LỜI CẢM ƠN

LỜI CAM ĐOAN

1. CHƯƠNG 1: KHÁI QUÁT VỀ LÝ THUYẾT TẬP THÔ VÀ ỨNG DỤNG TRONG KHAI PHÁ DỮ LIỆU

1.1. Các khái niệm cơ bản của lý thuyết tập thô

1.2. Hệ thông tin

1.3. Quan hệ không phân biệt được và các xấp xỉ của một tập hợp

1.4. Bảng quyết định

1.5. Các khái niệm lý thuyết thông tin liên quan

1.6. Một số thuật toán hiệu quả của lý thuyết tập thô

1.7. Ứng dụng của lý thuyết tập thô trong khám phá tri thức từ cơ sở dữ liệu

1.8. Kết luận

2. CHƯƠNG 2: LỰA CHỌN THUỘC TÍNH SỬ DỤNG LÝ THUYẾT TẬP THÔ

2.1. Khái quát về bài toán lựa chọn thuộc tính

2.2. Các phương pháp lựa chọn thuộc tính sử dụng lý thuyết tập thô

2.2.1. Phương pháp lựa chọn thuộc tính sử dụng ma trận phân biệt

2.2.2. Phương pháp rút gọn thuộc tính dựa vào độ phụ thuộc

2.2.3. Phương pháp rút gọn thuộc tính sử dụng sử dụng độ phụ thuộc tương đối

2.2.4. Phương pháp rút gọn thuộc tính sử dụng Entropy thông tin

2.2.5. Phương pháp lựa chọn thuộc tính dựa trên gom cụm

2.3. Đề xuất thuật toán rút gọn thuộc tính dựa vào gom cụm ACBRC

2.3.1. Ý tưởng và những định nghĩa cơ bản

2.3.2. Giới thiệu thuật toán k-medoids

2.3.3. Thuật toán rút gọn thuộc tính dựa vào gom cụm ACBRC

2.3.4. Kết quả thực nghiệm thuật toán ACBRC

2.3.5. Kết luận

3. CHƯƠNG 3: GOM CỤM DỮ LIỆU SỬ DỤNG LÝ THUYẾT TẬP THÔ

3.1. Khái quát bài toán gom cụm dữ liệu

3.1.1. Các bước giải bài toán gom cụm dữ liệu

3.1.2. Các loại phương pháp gom cụm dữ liệu

3.1.3. Các tiêu chí đánh giá một thuật toán gom cụm hiệu

3.2. Gom cụm dữ liệu phân loại sử dụng Lý thuyết tập thô

3.2.1. Thuật toán lựa chọn thuộc tính gom cụm TR

3.2.2. Thuật toán lựa chọn thuộc tính gom cụm MDA

3.2.3. Thuật toán MMR (Min-Min-Roughness)

3.2.4. Thuật toán MGR (Mean Gain Ratio)

3.3. Đề xuất thuật toán MMNVI gom cụm dữ liệu phân loại

3.3.1. Ý tưởng và những định nghĩa cơ bản

3.3.2. Thuật toán MMNVI

3.3.3. Độ phức tạp của thuật toán MMNVI

3.3.4. Nhận xét thuật toán MMNVI

3.3.5. Kết quả thực nghiệm thuật toán MMNVI

3.3.5.1. Bộ dữ liệu đánh giá
3.3.5.2. Phương pháp đánh giá hiệu suất
3.3.5.3. Kết quả gom cụm
3.3.5.4. So sánh MMNVI với thuật toán MMR và MGR
3.3.5.5. Kết luận

4. CHƯƠNG 4: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN

4.1. Những kết quả và đóng góp chính của luận án

4.2. Hướng phát triển của luận án

BẢNG THUẬT NGỮ ANH - VIỆT

BẢNG CÁC KÝ HIỆU

DANH MỤC BẢNG BIỂU

DANH MỤC HÌNH VẼ

DANH MỤC THUẬT TOÁN

MỞ ĐẦU

Tóm tắt

I. Tổng Quan Về Gom Cụm Dữ Liệu Phân Loại Hiệu Quả Quan Trọng

Trong kỷ nguyên số, lượng dữ liệu khổng lồ đặt ra thách thức lớn cho việc xử lý và phân tích. Khai phá dữ liệu (KPDL) nổi lên như một giải pháp để tìm kiếm tri thức tiềm ẩn từ các cơ sở dữ liệu (CSDL) lớn. Quá trình khai phá tri thức từ CSDL (KDD) bao gồm nhiều công đoạn, trong đó lựa chọn thuộc tính và gom cụm dữ liệu đóng vai trò then chốt. Gom cụm dữ liệu, hay còn gọi là attribute clustering, giúp nhóm các đối tượng tương tự nhau, tạo ra các cụm có ý nghĩa. Tuy nhiên, dữ liệu thực tế thường chứa các thuộc tính phân loại, gây khó khăn cho các thuật toán gom cụm truyền thống. Vì vậy, việc nghiên cứu các phương pháp gom cụm dữ liệu phân loại hiệu quả là vô cùng cần thiết để khai thác tối đa giá trị của dữ liệu.

1.1. Bài Toán Gom Cụm Dữ Liệu Thách Thức và Ứng Dụng

Bài toán gom cụm dữ liệu là một bài toán NP-khó, đòi hỏi nhiều thuật toán heuristic để giải quyết. Hầu hết các thuật toán hiện tại tập trung vào dữ liệu số, trong đó mỗi thuộc tính là một giá trị thực liên tục. Tuy nhiên, dữ liệu phân loại với miền giá trị hữu hạn và không có thứ tự lại phổ biến trong thực tế. Việc áp dụng trực tiếp các thuật toán gom cụm truyền thống lên dữ liệu phân loại gặp nhiều khó khăn do không thể định nghĩa hàm khoảng cách một cách tự nhiên. Các ứng dụng của gom cụm dữ liệu rất đa dạng, từ phân loại thực vật đến phân đoạn khách hàng và phân loại trang web. Attribute reduction cũng là một bước tiền xử lý quan trọng để loại bỏ các thuộc tính không liên quan, tăng hiệu quả gom cụm.

1.2. Lý Thuyết Tập Thô Giải Pháp cho Dữ Liệu Không Chắc Chắn

Lý thuyết tập thô (LTTT), do Zdzisaw Pawlak đề xuất, là một công cụ mạnh mẽ để xử lý dữ liệu mơ hồ và không chắc chắn. Ưu điểm của LTTT là không yêu cầu thông tin bổ sung về dữ liệu như xác suất hay độ thuộc. Nó đã được ứng dụng thành công trong nhiều lĩnh vực như học máy (ML), hệ chuyên gia, nhận dạng mẫu và khám phá tri thức. Trong tính toán hạt (granular computing), LTTT là một mô hình và công cụ chính. LTTT có thể được sử dụng để giải quyết vấn đề thông tin không chắc chắn và tối ưu hóa các phương pháp tính toán mềm hiện có. Nó cung cấp các công cụ để xấp xỉ các tập hợp dựa trên quan hệ không phân biệt được, giúp xử lý dữ liệu phân loại hiệu quả.

II. Vấn Đề Rút Gọn Thuộc Tính Giảm Độ Phức Tạp Tăng Hiệu Quả

Với sự bùng nổ dữ liệu, kích thước các tập dữ liệu ngày càng lớn, đặc biệt là số lượng thuộc tính. Điều này gây khó khăn cho các thuật toán khai phá dữ liệu truyền thống. Rút gọn thuộc tính là một giải pháp quan trọng để giảm độ phức tạp tính toán và cải thiện hiệu quả. Nó có thể được thực hiện bằng biến đổi thuộc tính hoặc lựa chọn thuộc tính. Lựa chọn thuộc tính là quá trình chọn một tập con các thuộc tính từ tập ban đầu, loại bỏ các thuộc tính không liên quan và dư thừa. Điều này giúp cải thiện chất lượng dữ liệu, giảm thời gian xử lý và tăng độ chính xác dự đoán. Feature selection là vấn đề rất quan trọng, đặc biệt trong các ứng dụng như phân loại văn bản, truy xuất hình ảnh và tin sinh học.

2.1. Các Phương Pháp Lựa Chọn Thuộc Tính và Hạn Chế

Nhiều thuật toán lựa chọn thuộc tính hiện nay có thể loại bỏ các thuộc tính không liên quan nhưng không loại bỏ được các thuộc tính dư thừa. Thuộc tính dư thừa không giúp cải thiện quá trình dự đoán vì thông tin cần thiết đã được cung cấp bởi các thuộc tính còn lại. Điều này ảnh hưởng nghiêm trọng đến độ chính xác của máy học. Yêu cầu đặt ra là phải nghiên cứu phương pháp lựa chọn thuộc tính mới, có thể loại bỏ hiệu quả đồng thời các thuộc tính không liên quan và cả các thuộc tính dư thừa. Các phương pháp hiện có bao gồm sử dụng ma trận phân biệt, độ phụ thuộc, Entropy thông tin và gom cụm.

2.2. Đề Xuất Thuật Toán ACBRC Giải Pháp Loại Bỏ Thuộc Tính Dư Thừa

Luận án đề xuất thuật toán ACBRC (Attribute Clustering Based Reduct Computing) dựa trên gom cụm để rút gọn thuộc tính. Thuật toán này kết hợp kỹ thuật gom cụm với LTTT để xác định các thuộc tính dư thừa và loại bỏ chúng. Ý tưởng chính là gom các thuộc tính có liên quan chặt chẽ vào cùng một cụm và sau đó chọn một thuộc tính đại diện từ mỗi cụm. ACBRC được kỳ vọng sẽ loại bỏ hiệu quả cả thuộc tính không liên quan và thuộc tính dư thừa, cải thiện độ chính xác của các thuật toán khai phá dữ liệu tiếp theo.

III. Gom Cụm Dữ Liệu Phân Loại Cải Tiến Thuật Toán Nâng Cao Chất Lượng

Trong quá trình khai phá dữ liệu, gom cụm dữ liệu phân loại đóng vai trò quan trọng. Tuy nhiên, các thuật toán gom cụm hiện có còn tồn tại một số hạn chế. Mặc dù các thuật toán gom cụm đã được đề xuất có những đóng góp quan trọng trong vấn đề gom cụm dữ liệu phân loại nhưng chúng cũng có một số hạn chế như thường có độ chính xác thấp và độ phức tạp tính toán cao. Đặc biệt, trên một số tập dữ liệu chúng không thành công hoặc khó chọn được thuộc tính gom cụm tốt nhất. Vì vậy, cải tiến các thuật toán gom cụm dữ liệu phân loại nhằm cho kết quả gom cụm tốt hơn các thuật toán cơ bản hiện có cũng là bài toán quan trọng cần giải quyết trong khám phá tri thức.

3.1. Các Thuật Toán Gom Cụm Hiện Tại TR MDA MMR và MGR

Các thuật toán gom cụm dữ liệu phân loại hiện tại bao gồm TR (Total Roughness), MDA (Maximumdegree of Dependency of Attributes), MMR (Min–Min–Mean-Roughness)MGR (Mean Gain Ratio). Mỗi thuật toán có ưu và nhược điểm riêng. TR tập trung vào độ thô tổng thể, MDA dựa trên độ phụ thuộc, MMR sử dụng độ thô trung bình cực tiểu và MGR sử dụng tỷ lệ lợi thông tin trung bình. Tuy nhiên, các thuật toán này có thể có độ chính xác thấp và độ phức tạp tính toán cao, đặc biệt trên một số tập dữ liệu.

3.2. Đề Xuất Thuật Toán MMNVI Giải Pháp Tối Ưu Hiệu Năng Gom Cụm

Luận án đề xuất thuật toán MMNVI (Minimum Mean Normalized Variation of Information) để gom cụm dữ liệu phân loại. MMNVI dựa trên biến thể thông tin chuẩn hóa trung bình giữa các thuộc tính. Thuật toán này được kỳ vọng sẽ cải thiện độ chính xác và giảm độ phức tạp tính toán so với các thuật toán hiện có. Ý tưởng chính là tìm các cụm có biến thể thông tin nhỏ nhất, cho thấy các thuộc tính trong cùng một cụm có mối quan hệ chặt chẽ với nhau.

3.3. Đánh Giá và So Sánh Thuật Toán MMNVI Kết Quả Thực Nghiệm

Hiệu quả của thuật toán MMNVI được đánh giá trên nhiều bộ dữ liệu chuẩn UCI và so sánh với các thuật toán MMRMGR. Các kết quả thực nghiệm cho thấy MMNVI có độ thuần khiết tổng thể cao hơn, chỉ số ngẫu nhiên hiệu chỉnh (ARI) tốt hơn và thông tin tương hỗ chuẩn hóa (NMI) cao hơn so với các thuật toán còn lại. Điều này chứng tỏ MMNVI là một giải pháp hiệu quả để gom cụm dữ liệu phân loại.

IV. Ứng Dụng Thực Tế và Kết Quả Nghiên Cứu Minh Chứng Tính Hiệu Quả

Luận án tiến hành các thí nghiệm trên nhiều bộ dữ liệu thực tế để đánh giá hiệu quả của các phương pháp đề xuất. Các bộ dữ liệu này bao gồm các ứng dụng khác nhau, từ phân loại văn bản đến tin sinh học. Kết quả cho thấy thuật toán ACBRC giúp giảm đáng kể số lượng thuộc tính mà vẫn duy trì được độ chính xác phân loại cao. Thuật toán MMNVI cho kết quả gom cụm tốt hơn so với các thuật toán hiện có, đặc biệt trên các tập dữ liệu phức tạp. Các kết quả này chứng minh tính hiệu quả của các phương pháp đề xuất trong việc giải quyết các bài toán thực tế.

4.1. Rút Gọn Thuộc Tính và Độ Chính Xác Phân Loại

Các thí nghiệm cho thấy việc áp dụng thuật toán ACBRC giúp loại bỏ các thuộc tính không liên quan và dư thừa, dẫn đến giảm kích thước dữ liệu và tăng tốc độ xử lý. Quan trọng hơn, độ chính xác phân loại không bị giảm đáng kể, thậm chí còn tăng trong một số trường hợp. Điều này chứng tỏ ACBRC có thể bảo toàn được thông tin quan trọng trong dữ liệu, đồng thời giảm độ phức tạp tính toán.

4.2. So Sánh Hiệu Suất Gom Cụm MMNVI MMR và MGR

So sánh hiệu suất của thuật toán MMNVI với MMRMGR trên các bộ dữ liệu khác nhau cho thấy MMNVI vượt trội hơn về độ thuần khiết tổng thể, chỉ số ngẫu nhiên hiệu chỉnh và thông tin tương hỗ chuẩn hóa. Điều này cho thấy MMNVI có khả năng gom các đối tượng tương tự nhau vào cùng một cụm tốt hơn, tạo ra các cụm có ý nghĩa và dễ diễn giải.

V. Kết Luận và Hướng Phát Triển Tiếp Tục Nghiên Cứu Mở Rộng Ứng Dụng

Luận án đã nghiên cứu và đề xuất các phương pháp lựa chọn thuộc tính và gom cụm dữ liệu phân loại hiệu quả, dựa trên lý thuyết tập thô. Thuật toán ACBRC giúp rút gọn thuộc tính, giảm độ phức tạp tính toán và cải thiện độ chính xác phân loại. Thuật toán MMNVI cho kết quả gom cụm tốt hơn so với các thuật toán hiện có. Các kết quả nghiên cứu này có ý nghĩa lý luận và thực tiễn quan trọng, góp phần vào sự phát triển của lĩnh vực khai phá dữ liệu. Hướng phát triển trong tương lai bao gồm nghiên cứu các thuật toán tối ưu hóa hơn nữa, mở rộng ứng dụng sang các lĩnh vực khác nhau và tích hợp với các kỹ thuật khai phá dữ liệu khác.

5.1. Đóng Góp Chính của Luận Án Rút Gọn Thuộc Tính và Gom Cụm Hiệu Quả

Đóng góp chính của luận án là đề xuất các thuật toán ACBRCMMNVI để giải quyết các vấn đề về rút gọn thuộc tính và gom cụm dữ liệu phân loại. ACBRC giúp loại bỏ hiệu quả cả thuộc tính không liên quan và thuộc tính dư thừa, trong khi MMNVI cho kết quả gom cụm tốt hơn so với các thuật toán hiện có. Các thuật toán này dựa trên lý thuyết tập thô, một công cụ mạnh mẽ để xử lý dữ liệu mơ hồ và không chắc chắn.

5.2. Hướng Phát Triển Tương Lai Tối Ưu Hóa và Ứng Dụng Mở Rộng

Hướng phát triển trong tương lai bao gồm nghiên cứu các thuật toán tối ưu hóa hơn nữa để tăng tốc độ xử lý và cải thiện độ chính xác. Ngoài ra, cần mở rộng ứng dụng sang các lĩnh vực khác nhau như y học, tài chính và marketing. Việc tích hợp với các kỹ thuật khai phá dữ liệu khác như phân lớp và luật kết hợp cũng là một hướng đi tiềm năng.

23/05/2025

Trích đoạn nội dung tài liệu

MỞ ĐẦU Ngày nay, cùng với sự phát triển của khoa học công nghệ, mạng máy tính và truyền thông đã có những bước phát triển mạnh mẽ và được ứng dụng rộng rãi trong tất cả các lĩnh vực đời sống. Cùng với đó, nhu cầu và khả năng thu thập, lưu trữ dữ liệu của con người không ngừng tăng lên theo cấp số nhân. Với lượng dữ liệu khổng lồ hiện nay, yêu cầu đặt ra đối với các công cụ xử lý, phân tích thông tin ngày càng cao. Đặc biệt hơn, con người luôn mong muốn thu nhận một cách tự động những tri thức tiềm ẩn, mang tính dự đoán từ nguồn dữ liệu quý giá này.

Trong những năm qua, khám phá tri thức (khai phá dữ liệu), học máy, trích xuất quy tắc từ dữ liệu v. đã thu hút nhiều sự chú ý của các nhà khoa học trong lĩnh vực trí tuệ nhân tạo. Trên cơ sở đó, nhiều phương pháp khám phá tri thức từ cơ sở dữ liệu (CSDL) đã ra đời. Khám phá tri thức từ CSDL (Knowledge Discovery in Databases – KDD) là một lĩnh vực khoa học nhằm nghiên cứu để tạo ra những công cụ khai phá những thông tin, tri thức hữu ích, tiềm ẩn mang tính dự đoán trong các CSDL lớn [1, 2].

Một quá trình chuẩn khám phá tri thức từ CSDL bao gồm 5 công đoạn [1]: Công đoạn 1 - Lựa chọn dữ liệu: Là quá trình lựa chọn một tập dữ liệu, hoặc kết hợp một số tập dữ liệu sẵn với nhau để tạo ra một tập dữ liệu đích phù hợp với mục tiêu khai phá. Công đoạn 2 - Tiền xử lý dữ liệu: Giai đoạn này bao gồm việc loại bỏ hoặc làm giảm giá trị bị nhiễu; xử lý giá trị bị thiếu và rời rạc hóa thuộc tính nếu cần. Công đoạn này nhằm cải thiện chất lượng tổng thể của bất kỳ thông tin nào có thể được phát hiện từ CSDL. Công đoạn 3 - Rút gọn dữ liệu: Hầu hết các tập dữ liệu có thể chứa một lượng dư thừa nhất định.

Lượng dữ liệu dư thừa này không những không hỗ trợ quá trình khám phá tri thức mà trên thực tế còn có thể làm sai lệch kết quả khai phá. Mục đích của công đoạn này này là tìm ra các thuộc tính (đặc trưng) hữu ích để đại diện cho dữ liệu và loại bỏ các thuộc tính không liên quan. Từ đó, tiết kiệm được thời gian xử lý trong công đoạn khai phá dữ liệu tiếp theo. 2 Công đoạn 4 - Khai phá dữ liệu: Áp dụng các kỹ thuật khai phá dữ liệu (trích xuất thông tin hữu ích tiềm ẩn từ cơ sở dữ liệu) được lựa chọn phù hợp với mục tiêu của nhiệm vụ khám phá tri thức.

Việc lựa chọn kỹ thuật sử dụng có thể phụ thuộc vào nhiều yếu tố, bao gồm nguồn của tập dữ liệu và các giá trị mà nó chứa. Công đoạn 5 - Đánh giá và diễn giải tri thức. Một khi tri thức đã được khám phá, nó sẽ được đánh giá về giá trị, tính hữu ích, tính mới và tính đơn giản. Điều này có thể yêu cầu lặp lại một số bước trên của quá trình khám phá tri thức.

Những mẫu thông tin và mối quan hệ trong dữ liệu đã được phát hiện sẽ được chuyển sang và biểu diễn ở dạng gần gũi với người sử dụng như đồ thị, cây, bảng biểu, luật, v. Trong 5 công đoạn trên của quá trình khám phá tri thức từ CSDL, công đoạn 4 là quan trọng nhất. Các kết quả nghiên cứu cùng với những ứng dụng thành công thời gian qua cho thấy, khám phá tri thức từ CSDL là một lĩnh vực khoa học tiềm năng, mang lại nhiều lợi ích, đồng thời có ưu thế hơn hẳn so với các công cụ phân tích dữ liệu truyền thống. Tuy nhiên, với tốc độ tăng trưởng của dữ liệu hiện nay, việc nghiên cứu và ứng dụng các kỹ thuật khai phá dữ liệu cũng đang gặp nhiều khó khăn, thách thức, đòi hỏi các nhà nghiên cứu phải không ngừng nổ lực nhằm tìm ra những công cụ để giải quyết các khó khăn, thách thức này.

Một trong những khó khăn, thách thức quan trọng đó chính là, cùng với sự bùng nổ nhanh chóng của công nghệ, kích thước của những tập dữ liệu con người thu thập được ngày càng lớn. Có thể thấy, trong hầu hết các ứng dụng như dữ liệu gen, phân lớp văn bản, truy xuất hình ảnh và truy xuất thông tin, chúng ta thường phải đối mặt với các tập dữ liệu có số lượng lớn các thuộc tính (hay đặc trưng). Điều này có thể dẫn đến các thuật toán khai phá hoặc học từ dữ liệu truyền thống trở nên chậm lại và không thể xử lý thông tin một cách hiệu quả. Vấn đề đặt ra là trước khi triển khai các thuật toán khai phá dữ liệu cần phải có phương pháp rút gọn thuộc tính của CSDL mà vẫn bảo toàn được những thông tin cần khai thác.

Rút gọn thuộc tính có thể được thực hiện bằng cách sử dụng các kỹ thuật phù hợp, tùy thuộc vào yêu cầu của bài toán khai phá dữ liệu đặt ra. Những kỹ thuật này có thể được chia thành hai loại chính, đó là biến đổi thuộc tính và lựa chọn thuộc tính [1, 3, 4, 5]. 3 Phép biến đổi thuộc tính cố gắng xây dựng một không gian thuộc tính mới bằng cách biến đổi không gian thuộc tính ban đầu thành không gian có số chiều thấp hơn. Phân tích thành phần chính và phân tích thành phần độc lập là hai phương pháp biến đổi thuộc tính được sử dụng rộng rãi [1, 4, 5].

Lựa chọn thuộc tính (hay còn gọi là rút gọn thuộc tính) là quá trình chọn ra một tập hợp con thuộc tính từ tập hợp các thuộc tính ban đầu, với mục tiêu loại bỏ càng nhiều càng tốt các thuộc tính không liên quan và dư thừa nhằm cải thiện chất lượng dữ liệu và giảm độ phức tạp về thời gian và không gian cho việc phân tích. Lựa chọn thuộc tính là vấn đề rất quan trọng: thứ nhất là do các thuộc tính không liên quan không góp phần vào việc làm tăng độ chính xác dự đoán; thứ hai là do hầu hết thông tin mà nó có thể cung cấp cho việc dự đoán đã được chứa trong các thuộc tính khác. Lựa chọn thuộc tính được áp dụng rộng rãi trong nhiều lĩnh vực khác nhau, chẳng hạn như phân loại văn bản (text categorization), truy cập hình ảnh (image retrieval), Tin-sinh học (bioinformatics), phát hiện xâm nhập mạng (intrusion detection) , v. Trong công đoạn 4 của quá trình khai phá dữ liệu, hai kỹ thuật quan trọng, thường được sử dụng nhất là kỹ thuật phân lớp (Classification) và kỹ thuật gom cụm dữ liệu (Data clustering) [1].

Phân lớp là phương pháp phân tích dữ liệu để trích xuất các quy tắc sắp xếp các đối tượng vào một trong các lớp đã biết dựa trên các giá trị sẵn có của các thuộc tính. Phân lớp còn được gọi là học có giám sát (supervised learning). Một số kỹ thuật cơ bản để phân lớp dữ liệu là quy nạp cây quyết định (decision tree induction), phân lớp Bayes, mạng nơ-ron nhân tạo (Neural network), và phương pháp máy véc tơ hỗ trợ (Support vector machines - SVM). Gom cụm dữ liệu là phương pháp nhóm các đối tượng tương tự nhau trong tập dữ liệu vào các cụm sao cho các đối tượng thuộc cùng một cụm là tương đồng còn các đối tượng thuộc các cụm khác nhau sẽ không tương đồng.

Gom cụm dữ liệu là một phương pháp học không có giám sát (unsupervised learning). Không giống như phân lớp dữ liệu, gom cụm dữ liệu không đòi hỏi phải biết trước nhãn lớp của các mẫu dữ liệu huấn luyện. Khi bắt đầu quá trình ta không biết trước các cụm dữ liệu sẽ như thế nào. Vì vậy, thông 4 thường cần có các chuyên gia về lĩnh vực giúp đánh giá các cụm thu được sau khi thực hiện một kỹ thuật gom cụm.

Gom cụm dữ liệu được sử dụng nhiều trong các ứng dụng, chẳng hạn trong phân loại các loài thực vật, phân đoạn khách hàng, phân loại trang web v. Ngoài ra, gom cụm dữ liệu còn có thể được sử dụng như một kỹ thuật trong bước tiền xử lý cho các thuật toán khai phá dữ liệu khác. Bài toán gom cụm dữ liệu cũng là bài toán NP-khó. Cho đến nay, có nhiều kỹ thuật gom cụm heuristic đã được đề xuất và giới thiệu trong các tài liệu về phân tích thống kê, khai phá dữ liệu, học máy [1, 6, 7].

Hầu hết các kỹ thuật gom cụm trong các tài liệu đều tập trung vào các tập dữ liệu số, trong đó mỗi thuộc tính mô tả các đối tượng đều có miền giá trị là một khoảng giá trị thực liên tục, mỗi đối tượng dữ liệu số được coi là một điểm trong không gian metric đa chiều với một metric đo khoảng cách giữa các đối tượng, chẳng hạn như metric Euclide hoặc metric Mahalanobis. Tuy nhiên, trong các ứng dụng thực tiễn thường gặp phải những tập dữ liệu với các thuộc tính là những thuộc tính phân loại hay phạm trù (categorical), tức là những thuộc tính có miền giá trị 𝐷 hữu hạn và không có thứ tự (chẳng hạn như màu tóc, quốc tịch v.); trong 𝐷 chỉ được phép so sánh giữa các giá trị, với bất kỳ 𝑎, 𝑏 ∈ 𝐷 hoặc 𝑎 = 𝑏 hoặc 𝑎 ≠ 𝑏. Với dữ liệu phân loại ta không thể định nghĩa hàm khoảng cách một cách tự nhiên. Lý thuyết tập thô - do Zdzisaw Pawlak [8] đề xuất vào những năm đầu thập niên tám mươi của thế kỷ hai mươi - được xem là công cụ hữu hiệu để giải quyết các bài toán xử lý thông tin có chứa dữ liệu mơ hồ, không chắc chắn.

Tính từ mơ hồ, không chắc chắn liên quan đến sự không nhất quán hoặc không rõ ràng. Do tư duy mới lạ, phương pháp độc đáo và dễ cài đặt, trong hơn ba mươi năm qua, lý thuyết tập thô đã được nghiên cứu, ứng dụng và trở thành một công cụ quan trọng trong lĩnh vực xử lý thông tin thông minh [2, 9, 10, 11, 12, 13]. Nó đã được áp dụng thành công trong một số lĩnh vực như học máy, hệ chuyên gia, nhận dạng mẫu, hệ thống hỗ trợ quyết định, khám phá tri thức trong cơ sở dữ liệu v. Trong nghiên cứu tính toán hạt (granular computing), lý thuyết tập thô đã trở thành một trong những mô hình và công cụ chính [10].

Triển vọng ứng dụng của lý thuyết tập hợp thô là rất rộng. Các tập thô không chỉ có thể được sử dụng để giải quyết vấn đề thông tin không chắc chắn, mà còn có thể giúp tối ưu hóa nhiều phương pháp tính toán mềm hiện 5 có.

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ

Tài liệu có tiêu đề "Phương Pháp Lựa Chọn Thuộc Tính và Kỹ Thuật Gom Cụm Dữ Liệu Phân Loại" cung cấp cái nhìn sâu sắc về các phương pháp lựa chọn thuộc tính và kỹ thuật gom cụm trong phân loại dữ liệu. Tài liệu này không chỉ giúp người đọc hiểu rõ hơn về cách tối ưu hóa quá trình phân tích dữ liệu mà còn chỉ ra những lợi ích của việc áp dụng các kỹ thuật này trong thực tiễn. Đặc biệt, nó nhấn mạnh tầm quan trọng của việc lựa chọn thuộc tính phù hợp để cải thiện độ chính xác của mô hình phân loại.

Nếu bạn muốn mở rộng kiến thức của mình về lĩnh vực này, hãy tham khảo thêm tài liệu Nghiên cứu bài toán phân lớp dữ liệu lp svm đối với dữ liệu không khả tách tuyến, nơi bạn sẽ tìm thấy những nghiên cứu sâu hơn về phân lớp dữ liệu không khả tách. Bên cạnh đó, tài liệu Luận văn thạc sĩ khoa học máy tính bài toán phân lớp không cân đối cho dữ liệu giáo dục sẽ giúp bạn hiểu rõ hơn về các thách thức trong phân lớp dữ liệu giáo dục. Cuối cùng, tài liệu Hcmute một số ứng dụng của phương pháp bootstrap trong xử lý số liệu thống kê sẽ cung cấp cho bạn cái nhìn về các phương pháp thống kê hữu ích trong việc xử lý dữ liệu. Những tài liệu này sẽ là cơ hội tuyệt vời để bạn khám phá sâu hơn về các khía cạnh khác nhau của phân tích dữ liệu.