CHƯƠNG I1: TÔNG QUAN ĐÈ TÀI.1 Gidi thidu ngẢ. 6 CHƯƠNG 2: GIỚI THIỆU BỘ DỮ LIỆU.1 Mô tả đữ liệu.-s 2S 22 TH 2n 101 2 222cc 2H Tre reo § In rnoăä. TH HH HH tt ta HH He ng tr reo 12 2.2 Phát triên giả thiết nghiên cứu dựa trên bộ đữ liệu.- 2 5c net eree 14 CHƯƠNG 3: THUẬT TOÁN OPTICS.1 Động cơ phát triển các thuật toán 0830177 —.2 Động cơ phát triển thuật toán OPTICS. SH g 155151125351 11515 12151115 csxeer re 17 3.3 Giới thiệu thuật toán OPTICS.3 Mô tả thuật toán.3 Các nhân tổ tác động lên thuật toán OPTICS.i'i'ảẢẢäÝ££ 37 CHƯƠNG 4: ÁP DỤNG THUẬT TOÁN OPTICS VÀO BỘ DỮ LIỆU.1 Tiền xử lý đữ liệu.
- 5c c2 tt HH H1 TH 1 121211 re ra, 39 4.2 Huẫn luyện Mô hình khai phá cụm dựa trên thuật toán ÓP TICS. — Bộ dữ liệu thứ l. — Bộ dữ liệu thứ2.ì Hee 40 c Bộ dữ liệu thứ ẩ.- 55s 2c HH2 te re 40 CHƯƠNG 5: KẾT LUẬN VÀ ĐÁNH GIÁ.1 Kết quả mô hình.1 Bộ dữ liệu thứ nhất.2 Bộ dữ liệu thứ hai. 0 5 CS ETE22211 272 22 2122 222gr re 46 5.3 Bộ dữ liệu thứ ba.2 Đánh giá mô hình.
2s: 2s 22515221122111271122112 7 1222102 2 He ereg 51 by i0 ái 4. 5s 2c 21221 12221 21 22212 H 122gra 52 TÀI LIỆU THAM KHẢO MỤC HÌNH ẢNH Hình 1: Biểu đà phân tán giữa các điểm đữ lIỆU. án ST H2 212222 12 Hình 2: Biểu đồ phân tan hinh mat rng. ccccccccccccccecss esses essevsesvevsssstessesessevseesesiessetaeseesetesesseed 13 Hình 3: [Ð/)/8////158/))/1/85)781.
15 Hình 4: Các cách tiếp cận khai phá dữ liệu. 21 Hinh 7: Biéu d6 voi nhiéu diém dit HOU. 24 Hinh 9: có sổ nh nh. 24 Hinh 10: Reachability Plot.
Hình 1L: Ví dụ cho thấy OPTICS phan cum tot hon DBSCAN trong trường hợp đữ liệu có mát độ L3. Hình l2: So sánh khoảng cách 4B với các cạnh lân cận. Bảng kết quả sau khi xét điỂMÁ,. 0 Ăn 22222222 sa Tình 14: Bảng kết quả sau khi xét điểm D.
SH 2222212 Tình 15: Bảng kết quả sau khi xét điểm E. à HS 22222 e Tình 16: Reachability - distance của các đÌỂM.à c2 212222 2111 ca Tình 17: Khoảng cách lỖi. 212122122222re Tình 18: Biểu đô Reachability SGOFE. Hình 19: Sơ đồ khối thuật toán OP TÏCN.
HH HH heo 35 Tình 20: Kết quả sau khi phân cụm bằng thuật toán OP TÍCS,. S222 seesesvees 36 Tình 21: Biểu đồ khi thay đổi ÁMiHPI. 38 Hình 23: OPTICS Reachability Distances của ĐỘ ÌL. TH HH nh rey 44 Tình 24: Biểu đồ phân tán giữa các điểm dữ liệu của bộ Ì.à s5 He 45 Tình 25: Biểu đồ phân tán với Epsilong khác nhau (bộ Ì).
Sàn SH TH H222 e 46 Hình 26: Biéu dé Shilhouette cho b6 1 với Epsilong là 1. 46 Tình 27: Biểu đồ Shilhouette với các MinPis khác nhau (bộ Ì). 4 Hình 25: Rachability Plot cho b6 I voi cde MinPts khdae nha (B6 ÌÏ). SA sieee, 4 Hinh 29: Rachability plot cho các thước đo khoảng cách khác nhau (bộ Ì).
4 Hình 30: Rachability plot cho các thước đo khoảng cách Cosine (Bộ Ì). cà Sài eeeee, 48 Hinh 31. OPTICS Reachability Distances CU D6 2. 48 Hinh 32: Biểu đồ phân tán giữa các điểm dữ liệu của bộ 2.
Sàn HH2 re 50 Hinh 33: Biểu đồ phân tán với Epsilong khác nhau (bộ 2). Sàn 2e 30 Tình 34: Biểu đồ Shilhouete với các Epsilong khác nhau (bộ 2). SẶ SH xe Sl Tình 35: Biểu đồ Shilhouette với các MinPis khác nhau (bộ 2). 37 Hinh 36: Rachability Plot voi cdc MinPts khdtc nhau (Độ ).
Sàn HH HH He 37 Hình 37: Rachability Plot voi các thước đo khác nhau (Độ 2). SG SG SH HH Hệ 37 Hình 35: Rachability Plot với các thước đo Cosine (bộ ). S2 HH HH HH hit 32 Hình 39: OPTICS Reachability Distances của bộ 3 CHUONG 1: TONG QUAN DE TAI 1.1 Giới thiệu đề tài Đồ án này tập trung vào việc nghiên cứu và khám phá về thuật toán OPTICS, là một công cụ quan trọng trong lĩnh vực Machine Learning, đặc biệt trong việc phân tích cấu trúc nhóm trong đữ liệu mà không cần thông tin trước về số lượng hoặc kích thước của các nhóm. OPTICS (Ankerst et al., 1999), viết tắt của "Ordering Points To Identify the Clustering Structure," duoc gidi thigu vào năm 1999 bởi Mihael Ankerst và các đồng nghiệp, đã thu hút sự quan tâm lớn từ cộng đồng nghiên cứu Machine Learning và phân tích dữ liệu.
Thuật toán này nỗi bật với khả năng xử lý dữ liệu có độ phức tạp cao và tính linh hoạt trong việc xác định cầu trúc nhóm dựa trên mật độ dữ liệu. Khác với nhiều thuật toán phân nhóm khác, OPTICS không yêu cầu thông tin trước về số cụm mà tự động xác định và sắp xếp các cụm dựa trên mật độ của chúng. Điều nảy làm cho nó trở thành một công cụ mạnh mẽ để khám phá các cầu trúc nhóm đa đạng và phức tạp trong đữ liệu thực tế. Trong dự án này, chúng em sẽ đi sâu vào cơ chế hoạt động của OPTICS, bao gồm việc giới thiệu và phân tích thuật toán.
Chúng em cũng sẽ tập trung vào việc áp dụng OPTICS vào các bài toán thực tế trong Machine Learning, bằng những tệp dữ liệu có sẵn để chỉ rõ được ưu và nhược điểm của thuật toán. Điểm mạnh và điểm yếu của OPTICS sẽ được đánh giá một cách chỉ tiết, bao gồm khả năng xử lý dữ liệu, khả năng phát hiện các nhóm có hình dạng và kích thước đa đạng, cũng như những hạn chế khi áp dụng trong môi trường dữ liệu cụ thể. Đồng thời, chúng em sẽ thảo luận về các trường hợp sử dụng OPTICS một cách hiệu quả và tiềm năng phát triển trong tương lai. Mục tiêu cuối cùng của dự án là cung cấp cái nhìn toàn diện về OPTICS, từ lý thuyết đến ứng đụng thực tế, qua đó giúp người đọc hiểu rõ hơn về thuật toán này và khả năng áp đụng trong các tình huỗng phức tạp của thế giới thực.2 Mục tiêu đề tài ® Mục tiêu của dự án này là tập trung vào việc khám phá, hiểu rõ và áp dung thuật toán OPTICS trong lĩnh vực Machine Learning và phân tích đữ liệu.
Chúng em đặt ra mục tiêu cụ thê như sau: o Hiéu rd sâu hơn về OPTICS: Thực hiện nghiên cứu chi tiết về cơ chế hoạt động, nguyên lý tính toán và quy trình xác định cấu trúc nhóm dựa trên mật độ của thuật toán OPTICS. S Áp dụng vào bài toán thực tế: Áp dụng OPTICS vao cac bài toán thực tế trong Machine Learning. ©_ Đánh giá ưu điểm và hạn chế: Phân tích sâu hơn về ưu điểm và hạn chế của OPTICS. Điều này bao gồm việc xử lý các loại dữ liệu khác nhau mà các thuật toán khác không thê xử lý được.
©o_ Xác định trường hợp sử đụng hiệu quả: Nắm bắt những trường hợp cụ thé ma OPTICS co thé duoc áp dụng hiệu quả, và đưa ra các khuyến nghị về việc sử dụng thuật toán này trong các tình huống phức tạp thực tế. ® Mục tiêu cuối cùng của chúng em là cung cấp một cái nhìn tổng quan vả sâu rộng về OPTICS, từ lý thuyết đến thực tế, giúp người đọc hiểu rõ hơn về tiềm năng và hạn chế của thuật toán này trong việc xử lý và phân tích đữ liệu.3 Phương pháp e Tìm hiểu lý thuyết: ©_ Nghiên cứu từ nguôn tài liệu uy tín: Đầu tiên, chúng em sẽ thực hiện việc đọc và tìm hiểu từ các tài liệu, sách vở, bài báo khoa học và tài liệu học thuật đã được công bố về OPTICS. Qua đó,nắm vững về nguyên lý hoạt động, cách thuật toán tính toán và các ứng dụng của OPTICS trong Machine Learning. e Thực hiện và thử nghiệm: ©o_ Thực hiện trên data đã chuẩn bị: Sau khi có kiến thức cơ bản, chúng em bắt đầu thực hiện áp dụng thuật toán OPTICS vào dữ liệu thực tế.
Điều này sẽ giúp hiểu rõ hơn về cách thuật toán hoạt động và cách nó phản ứng đôi với các loại dữ liệu khác nhau. ® Phân tích và đánh giá: o Phân tích Ưu điểm và Hạn chế: Chúng em sẽ đánh giá chỉ tiết về ưu điểm và hạn chế của OPTICS dựa trên kết quả thực nghiệm và so sánh với các phương pháp khác. Điều này giúp đánh giá được sức mạnh cũng như giới hạn của thuật toán. e® Kết luận và hướng phát triển: o_ Tổng hợp kết quả và kết luận: Cuối cùng, chúng em sẽ tổng hợp các kết quả thu được từ việc thực nghiệm, đưa ra kết luận về khả năng áp dụng và hiệu suất của OPTICS trong các bài toán Machine Learning và phân tích dữ liệu.
o_ Đề xuất hướng phát triển: Cuối cùng, dựa trên những phân tích và nhận định, chúng em sẽ đề xuất những hướng phát triển tiềm năng, nhằm cải thiện và mở rộng ứng dụng của OPTICS trong tương lai. ® Phần phương pháp này nhằm xác định cách tiếp cận đề nghiên cứu và phân tích thuật toán OPTICS từ lý thuyết đến thực tiễn, từ đó đưa ra những nhận định chính xác và có ích về tính hiệu quả của thuật toan này. CHƯƠNG 2: GIỚI THIỆU BỘ DỮ LIỆU 2.1 Mô tả dữ liệu Ta có thé thấy rằng thuật toán OPTICS thê hiện điểm mạnh của nó rõ nhất khi phải xử lý với các bộ đữ liệu có các điểm đữ liệu phân bô với mật độ khác nhau. Tuy nhiên không phải bộ dữ liệu nảo cũng thê hiện rõ được điểm mạnh của thuật toán này.
Do đó mà nhóm quyết định sử đụng 3 bộ dữ liệu khác nhau dé lam rd duoc điểm mạnh nay cua thuat toan. Các bộ dữ liệu mà nhóm tạo ra là để cố găng tái tạo một cách chính xác nhất có thê về những thí nghiệm mà các tác giả đã thiết kế trong bài báo cùng tên (Ankerst et al. Từ các thí nghiệm như vậy, nhóm mong muốn các kết quả đạt được cũng gần như tương tự so với những gì các tác giả đã làm trong bài báo của họ. Với 2 bộ đầu tiên, các điểm dữ liệu được tạo ra với số chiều là bằng hai và được tạo ra bằng cách sử dụng các thư viện trong python như random hay numpy.
Còn đối với bộ cuối cùng thì nhóm sẽ sử dụng bộ dữ liệu FashionMlnist (Xiao et al., 2017) được tải xuống thông qua PyTorch.1 Bộ dữ liệu thứ ® Dưới đây là code đề sinh ra bộ đầu tiên. def generate data(num_points, seed=999):; data = [] noise interval = 10 # Mỗi 10 điểm có một điểm nhiễu # Tao random seed cho tái sử dụng random. seed (seed) # Tao trung tam cum centerl = (4, 4) center?