Bối cảnh và vấn đề nghiên cứu

Trong lĩnh vực Học máy (Machine Learning) và Khai phá dữ liệu (Data Mining), phân tích cụm (Clustering Analysis) đóng vai trò then chốt trong việc khám phá các cấu trúc nhóm tiềm ẩn mà không cần thông tin gắn nhãn trước. Các thuật toán phân cụm truyền thống như K-Means đòi hỏi người dùng phải xác định trước số lượng cụm $K$, đồng thời gặp khó khăn với các cụm có hình dạng phi cầu. Để khắc phục điều này, thuật toán DBSCAN ra đời dựa trên nguyên lý mật độ, nhưng DBSCAN lại bộc lộ hạn chế lớn khi dữ liệu có mật độ phân bố không đồng đều do phụ thuộc vào tham số bán kính toàn cục $\varepsilon$ cố định.

Để giải quyết triệt để vấn đề này, thuật toán OPTICS (Ordering Points To Identify the Clustering Structure) được Mihael Ankerst và các cộng sự giới thiệu vào năm 1999. OPTICS không trực tiếp gán nhãn cụm một cách cứng nhắc mà sắp xếp các điểm dữ liệu theo một thứ tự đặc biệt đại diện cho cấu trúc mật độ phân cấp của tập dữ liệu thông qua biểu đồ khả năng tiếp cận (reachability plot).

Đề tài "Nghiên Cứu Thuật Toán OPTICS Trong Machine Learning" được thực hiện bởi nhóm sinh viên Khoa Công nghệ Thông tin Kinh doanh, Trường Công nghệ và Thiết kế - Đại học UEH, dưới sự hướng dẫn của TS. Nguyễn An Tế trong khuôn khổ học phần Máy học (mã lớp: 23C1INF50904401).

Mục tiêu và nhiệm vụ nghiên cứu của đồ án bao gồm 4 nội dung cụ thể:

  1. Hiểu rõ sâu hơn về OPTICS: Phân tích chi tiết cơ chế hoạt động, nguyên lý toán học và quy trình xác định cấu trúc nhóm dựa trên mật độ.
  2. Áp dụng vào bài toán thực tế: Triển khai thực nghiệm thuật toán trên các tập dữ liệu mô phỏng và dữ liệu thực tế với các đặc tính hình học và số chiều khác nhau.
  3. Đánh giá ưu điểm và hạn chế: Khảo sát tính hiệu quả của OPTICS khi xử lý dữ liệu phức tạp, dữ liệu đa mật độ và dữ liệu có nhiễu so với các mô hình khác.
  4. Xác định trường hợp sử dụng hiệu quả: Phân tích tác động của các siêu tham số, thước đo khoảng cách và đề xuất khuyến nghị ứng dụng thực tiễn.
  • Đối tượng nghiên cứu: Thuật toán phân cụm dựa trên mật độ OPTICS và các khái niệm liên quan (core-distance, reachability-distance, reachability plot).
  • Phạm vi nghiên cứu: Đánh giá thực nghiệm trên 3 bộ dữ liệu thử nghiệm (dữ liệu 2 chiều phân phối chuẩn có nhiễu, dữ liệu 2 chiều phi tuyến make_moons, và dữ liệu ảnh nhiều chiều Fashion-MNIST).

Cơ sở lý thuyết và phương pháp

Khung lý thuyết và mô hình tiếp cận

Đồ án tổng hợp các hướng tiếp cận phân tích cụm chính trong khai phá dữ liệu:

Hướng tiếp cận Mô tả nguyên lý Phương pháp điển hình
Dựa trên phân hoạch (Partitioning) Xây dựng nhiều phân hoạch và chọn cách tối ưu sai số K-Means, K-Medoids, Fuzzy C-Means
Dựa trên phân cấp (Hierarchical) Phân rã tập dữ liệu theo cấu trúc cây (dendrogram) DIANA, AGNES, BIRCH, CAMELEON
Dựa trên mật độ (Density-based) Gom cụm dựa trên mật độ kết nối cục bộ DBSCAN, OPTICS, DenClue
Dựa trên lưới (Grid-based) Lượng hóa không gian thành các cấu trúc ô lưới STING, WaveCluster, CLIQUE
Dựa trên mô hình (Model-based) Tối ưu hóa sự phù hợp giữa dữ liệu và mô hình toán EM, SOM, COBWEB

Trong hướng tiếp cận dựa trên mật độ, đồ án chuẩn hóa các khái niệm nền tảng:

  • Tiếp cận trực tiếp dựa trên mật độ (Directly density-reachable): Điểm $p$ nằm trong lân cận bán kính $\varepsilon$ của điểm $q$ và lân cận của $q$ có tối thiểu $MinPts$ điểm.
  • Tiếp cận dựa trên mật độ (Density-reachable): Tồn tại chuỗi điểm trung gian kết nối trực tiếp từ $q$ đến $p$.
  • Kết nối mật độ (Density-connected): Tồn tại điểm $o$ mà từ đó cả $p$ và $q$ đều tiếp cận được dựa trên mật độ.
  • Khoảng cách lõi (Core-distance của điểm $p$): Khoảng cách nhỏ nhất từ $p$ đến điểm thứ $MinPts$ trong lân cận $\varepsilon$ (nếu $p$ là điểm lõi).
  • Khoảng cách tiếp cận (Reachability-distance của điểm $p$ đối với điểm lõi $o$): Giá trị lớn nhất giữa Core-distance của $o$ và khoảng cách Euclid thực tế giữa $o$ và $p$.

Phương pháp nghiên cứu

  • Phương pháp tổng quan tài liệu: Phân tích các công trình học thuật nền tảng (Ankerst et al., 1999; Ester et al., 1996; Hinneburg et al., 1998).
  • Phương pháp thực nghiệm mô phỏng: Triển khai mã nguồn Python sử dụng thư viện scikit-learn (sklearn.cluster.OPTICS), numpy, torchvision.
  • Phương pháp đánh giá định lượng và trực quan: Sử dụng biểu đồ phân tán (Scatter plot), biểu đồ khả năng tiếp cận (Reachability plot), và hệ số Silhouette (Silhouette score/plot) để đánh giá chất lượng phân cụm khi biến thiên các tham số $\varepsilon$, $MinPts$ và thước đo khoảng cách (Euclidean, Manhattan, Cosine).

Nguồn dữ liệu thực nghiệm

  1. Bộ dữ liệu 1 (Mô phỏng 2 chiều): Tạo bằng phân phối chuẩn quanh hai tâm $(4, 4)$ và $(8, 8)$, tạo nhiễu ngẫu nhiên đều đặn mỗi 10 điểm trong không gian $[0, 10]$, giới hạn tọa độ $[0, 20]$, cố định seed=999.
  2. Bộ dữ liệu 2 (Dữ liệu mặt trăng make_moons): Gồm 3000 mẫu phân bố phi tuyến hình 2 lưỡi liềm đan xen với độ nhiễu noise=0.1, random_state=999.
  3. Bộ dữ liệu 3 (Fashion-MNIST): Trích xuất từ tập dữ liệu chuẩn của Xiao et al. (2017) qua PyTorch, chọn 2 lớp đối tượng gồm Lớp 1 (Trouser - Quần) và Lớp 4 (Coat - Áo khoác), mỗi lớp lấy 100 mẫu (tổng 200 ảnh). Kích thước ảnh gốc $28 \times 28$ pixel được làm phẳng (flatten) thành vector 784 chiều.

Nội dung chính theo từng chương

CHƯƠNG 1: TỔNG QUAN ĐỀ TÀI

Chương 1 giới thiệu vị trí của phân tích cụm trong học máy không giám sát và các ứng dụng thực tiễn trong marketing, phân tích thị trường, y học, xã hội học và khám phá hành vi người dùng. Tác giả chỉ ra bối cảnh ra đời của thuật toán OPTICS (1999) nhằm khắc phục nhược điểm của các thuật toán phân cụm truyền thống khi gặp dữ liệu đa mật độ. Đồng thời, chương này xác định rõ 4 mục tiêu nghiên cứu và cấu trúc phương pháp luận thực hiện đề tài gồm 4 giai đoạn logic từ nghiên cứu lý thuyết đến thực nghiệm, đánh giá và kết luận.

CHƯƠNG 2: GIỚI THIỆU BỘ DỮ LIỆU

Chương 2 mô tả chi tiết quy trình tạo lập và thu thập 3 bộ dữ liệu thử nghiệm nhằm tái hiện các thí nghiệm trong bài báo gốc của Ankerst et al. (1999):

  • Bộ 1: Kiểm tra khả năng xử lý cụm có mật độ phân tán rộng và nhiều điểm nhiễu ngoại lai.
  • Bộ 2: Kiểm tra khả năng phân tách cụm có hình dạng phi tuyến phức tạp (lưỡi liềm).
  • Bộ 3: Kiểm tra khả năng phân cụm trên không gian nhiều chiều (784 chiều) với dữ liệu ảnh thực tế.

Chương này cũng thiết lập giả thiết nghiên cứu: Thuật toán OPTICS sẽ nhận diện và tách biệt chính xác các phân cụm tự nhiên tương ứng với các phân phối không gian hoặc các nhãn thực tế của sản phẩm thời trang mà không bị gộp cụm sai lệch.

CHƯƠNG 3: THUẬT TOÁN OPTICS

Chương 3 trình bày toàn diện cơ sở toán học và cơ chế vận hành của OPTICS:

  • Động cơ phát triển: Phân tích các trường hợp thất bại của DBSCAN khi chọn tham số toàn cục $\varepsilon$ quá lớn (gộp các cụm lại làm một) hoặc quá nhỏ (coi các cụm thưa là nhiễu). OPTICS giải quyết bằng cách không phân cụm tĩnh mà tạo ra một thứ tự sắp xếp tuyến tính các điểm dữ liệu kèm theo khoảng cách tiếp cận tương ứng.
  • Quy trình thuật toán: Sử dụng hai cấu trúc dữ liệu OrderedList (lưu trữ thứ tự các điểm đã xử lý) và SeedsList (hàng đợi ưu tiên lưu các điểm lân cận chưa duyệt, sắp xếp theo reachability-distance tăng dần). Thuật toán duyệt qua từng điểm lõi, cập nhật khoảng cách tiếp cận nhỏ nhất của các điểm lân cận và đưa vào danh sách kết quả.
  • Ý nghĩa của Reachability Plot: Đồ thị biểu diễn reachability-distance theo thứ tự duyệt (Cluster-order). Các cụm mật độ cao xuất hiện dưới dạng các "thung lũng" (vùng trũng) trên đồ thị; thung lũng càng sâu thì mật độ cụm càng dày đặc. Các đỉnh cao thể hiện ranh giới phân cách giữa các cụm hoặc điểm nhiễu (outliers).
  • Các nhân tố tác động:
    • MinPoints: Tham số quyết định độ nhạy cấu trúc cụm. $MinPts$ quá nhỏ khiến đồ thị có dạng răng cưa; $MinPts$ lớn hơn giúp đường cong mượt hơn.
    • Thước đo khoảng cách: Việc thay đổi giữa khoảng cách Euclidean, Manhattan hay Cosine làm biến đổi đáng kể hình dạng của đồ thị khả năng tiếp cận.
    • Đặc tính dữ liệu: Cấu trúc hình học và sự phân bố mật độ thực tế của tập dữ liệu.
  • So sánh OPTICS và DBSCAN:
Tiêu chí DBSCAN OPTICS
Yêu cầu tham số $\varepsilon$ Bắt buộc chọn một giá trị $\varepsilon$ toàn cục cố định $\varepsilon$ đóng vai trò ngưỡng chặn trên, không bắt buộc cố định
Xử lý cụm đa mật độ Kém, dễ bỏ sót cụm thưa hoặc gộp cụm đặc Tốt, biểu diễn được các cụm có mật độ khác nhau
Đầu ra chính Nhãn cụm trực tiếp cho từng điểm Thứ tự sắp xếp các điểm và biểu đồ Reachability Plot
Khả năng trực quan hóa Khó quan sát phân cấp khi dữ liệu lớn Trực quan hóa cấu trúc phân cấp cụm rất rõ ràng
Chi phí tính toán Thấp hơn Cao hơn do phải duy trì và cập nhật danh sách ưu tiên SeedsList

CHƯƠNG 4: ÁP DỤNG THUẬT TOÁN OPTICS VÀO BỘ DỮ LIỆU

Chương 4 thiết lập cấu hình thực nghiệm và mã nguồn triển khai chi tiết cho từng bộ dữ liệu:

  • Tiền xử lý: Dữ liệu bộ 1 và bộ 2 được nạp trực tiếp tọa độ 2D. Dữ liệu Fashion-MNIST được chuẩn hóa và làm phẳng từ ma trận $28 \times 28$ thành vector 784 chiều.
  • Cấu hình siêu tham số mô hình:
    • Bộ 1: eps=1.5, min_samples=50, cluster_method='dbscan'.
    • Bộ 2: eps=0.15, min_samples=30, cluster_method='dbscan'.
    • Bộ 3: eps=0.17, min_samples=27, metric='cosine', cluster_method='dbscan'.

CHƯƠNG 5: KẾT LUẬN VÀ ĐÁNH GIÁ

Chương 5 phân tích kết quả thực nghiệm chi tiết:

  • Kết quả Bộ 1: Biểu đồ Reachability Plot tạo thành 2 thung lũng rõ rệt khi chọn ngưỡng $\varepsilon=1.5$. Biểu đồ phân tán phân chia chính xác Cụm 0 (đỏ), Cụm 1 (xanh dương) và nhận diện các điểm màu xanh lá cây là điểm ngoại lai (outliers). Phân tích Silhouette cho thấy sự ổn định cao tại các mốc $MinPts = 40, 50, 60, 70$.
  • Kết quả Bộ 2: Thuật toán bóc tách hoàn hảo 2 dải mặt trăng phi tuyến và phát hiện chính xác 4 điểm ngoại lai. Nếu tăng $\varepsilon > 0.15$, hai cụm bị sáp nhập; nếu giảm $\varepsilon = 0.05$, xuất hiện nhiều điểm không xác định (undefined).
  • Kết quả Bộ 3: Trên không gian 784 chiều, việc kết hợp thước đo cosine cùng $\varepsilon=0.17, MinPts=27$ đã tách biệt thành công 2 cụm tương ứng với sản phẩm quần và áo khoác.
  • Hướng ứng dụng thực tế: Đề xuất triển khai thuật toán trong phân tích khách hàng (phân khúc theo hành vi mua sắm), y tế (nhóm bệnh nhân theo bệnh án/triệu chứng), an ninh mạng (phát hiện hành vi bất thường theo lưu lượng truy cập), và xử lý ảnh (phân nhóm đối tượng vệ tinh/y học).

Kết quả và đóng góp

Kết quả nghiên cứu chính

  1. Khả năng nhận diện cấu trúc cụm phức tạp: Thuật toán OPTICS đã phân cụm thành công cả 3 bộ dữ liệu thử nghiệm, xác nhận tính đúng đắn của các giả thiết nghiên cứu ban đầu.
  2. Khảo sát định lượng tham số:
    • Xác định được khoảng ngưỡng cắt tối ưu cho từng dạng dữ liệu: $\varepsilon=1.5$ (Bộ 1), $\varepsilon=0.15$ (Bộ 2), $\varepsilon=0.17$ (Bộ 3).
    • Chứng minh thực nghiệm rằng tham số $MinPts$ tác động trực tiếp đến độ trơn mịn của đường cong reachability: $MinPts$ thấp (ví dụ: $MinPts=5$) gây ra hiện tượng răng cưa mạnh, trong khi $MinPts \ge 30$ tạo ra các thung lũng phân cụm rõ ràng và ổn định.
    • Chứng minh thước đo khoảng cách Cosine vượt trội hơn Euclidean và Manhattan khi xử lý dữ liệu vector nhiều chiều (ảnh Fashion-MNIST 784 chiều).

Đóng góp học thuật và thực tiễn của đề tài

  • Tái hiện thành công các kết quả nghiên cứu kinh điển của Ankerst et al. (1999) bằng các thư viện lập trình học máy hiện đại (scikit-learn, PyTorch).
  • Xây dựng tài liệu hướng dẫn trực quan từng bước cơ chế cập nhật hàng đợi ưu tiên và tính toán reachability-distance, giúp đơn giản hóa lý thuyết phân cụm mật độ phức tạp.
  • Đưa ra khuyến nghị thực tế về việc kết hợp phương pháp trích xuất cụm tự động DBSCAN trên nền đồ thị OPTICS để đạt được kết quả phân cụm có căn cứ định lượng.

Hạn chế và hướng nghiên cứu tiếp

Hạn chế được ghi nhận trong văn bản

  • Độ trực quan của đồ thị: Trong một số trường hợp phân bố dữ liệu phức tạp, biểu đồ Reachability Plot không thể hiện các thung lũng quá rõ ràng, gây khó khăn cho việc lựa chọn ngưỡng cắt trực quan thủ công.
  • Chi phí tài nguyên tính toán: Thuật toán tốn nhiều bộ nhớ và thời gian tính toán ma trận khoảng cách giữa các cặp điểm dữ liệu, đặc biệt khi số chiều dữ liệu lớn (như vector 784 chiều của ảnh).
  • Quy mô thực nghiệm giới hạn: Do hạn chế về phần cứng, thực nghiệm trên tập Fashion-MNIST mới chỉ dừng lại ở quy mô 200 mẫu trích xuất từ 2 lớp (thay vì toàn bộ 70.000 ảnh trên 10 lớp).

Hướng mở rộng nghiên cứu

  • Mở rộng thử nghiệm phân cụm trên toàn bộ 10 lớp của tập dữ liệu Fashion-MNIST với quy mô mẫu đầy đủ.
  • Nghiên cứu và triển khai thuật toán trích xuất cụm tự động theo phương pháp trích xuất độ dốc $\xi$-steep (Xi-clustering) do nhóm tác giả gốc đề xuất thay vì chỉ sử dụng phương pháp trích xuất theo ngưỡng DBSCAN.
  • Kết hợp các kỹ thuật giảm chiều dữ liệu (PCA, t-SNE, UMAP) trước khi đưa vào OPTICS nhằm tối ưu hóa chi phí tính toán trên không gian dữ liệu lớn.

Giá trị tham khảo

Báo cáo đồ án mang lại giá trị tham khảo thiết thực cho:

  • Sinh viên và học viên ngành Công nghệ thông tin, Khoa học dữ liệu, Hệ thống thông tin kinh doanh: Tài liệu cung cấp cơ sở lý thuyết chi tiết, ví dụ tính toán số học từng bước và hướng dẫn triển khai mã nguồn Python minh bạch.
  • Người nghiên cứu về các bài toán phân cụm phi cấu trúc: Cung cấp khung tham chiếu thực nghiệm về cách điều chỉnh siêu tham số ($MinPts$, $\varepsilon$) và lựa chọn thước đo khoảng cách phù hợp cho từng cấu trúc dữ liệu đặc thù.
  • Phần giá trị nhất để tham khảo: Chương 3 (minh họa cơ chế hoạt động từng bước của thuật toán OPTICS qua bảng trạng thái) và Chương 5 (phương pháp luận đánh giá kết hợp giữa Reachability Plot, Scatter Plot và Silhouette Score).

Câu hỏi thường gặp

1. Khoảng cách tiếp cận (Reachability-distance) và Khoảng cách lõi (Core-distance) khác nhau như thế nào?

Khoảng cách lõi (Core-distance) của một điểm $p$ là khoảng cách nhỏ nhất từ $p$ đến điểm thứ $MinPts$ trong lân cận bán kính $\varepsilon$ của nó (với điều kiện $p$ thỏa mãn là điểm lõi). Trong khi đó, Khoảng cách tiếp cận (Reachability-distance) của một điểm $p$ đối với điểm lõi $o$ là giá trị lớn nhất giữa Core-distance của $o$ và khoảng cách thực tế giữa $o$ và $p$. Nếu $p$ chính là điểm lõi, Reachability-distance sẽ bằng chính Core-distance.

2. Tại sao OPTICS lại vượt trội hơn DBSCAN trong bài toán dữ liệu có mật độ không đồng đều?

DBSCAN sử dụng một tham số bán kính toàn cục $\varepsilon$ cố định cho toàn bộ không gian. Do đó, nếu chọn $\varepsilon$ nhỏ, DBSCAN sẽ bỏ qua các cụm có mật độ thưa (coi là nhiễu); nếu chọn $\varepsilon$ lớn, các cụm đặc nằm gần nhau sẽ bị gộp thành một cụm duy nhất. OPTICS khắc phục điều này bằng cách tạo ra một thứ tự sắp xếp tuyến tính dựa trên mật độ và biểu diễn qua Reachability Plot, cho phép nhận diện đồng thời các cụm có mật độ dày và thưa ở các mức ngưỡng khác nhau.

3. Nhóm tác giả đã thiết lập các tham số nào khi phân cụm tập dữ liệu ảnh Fashion-MNIST?

Trên tập dữ liệu Fashion-MNIST (200 ảnh thuộc 2 lớp Quần và Áo khoác, vector 784 chiều), mô hình OPTICS được thiết lập với 4 thông số chính:

  • Ngưỡng cắt bán kính: eps = 0.17
  • Số lượng mẫu tối thiểu: min_samples = 27 ($MinPts = 27$)
  • Thước đo khoảng cách: metric = 'cosine'
  • Phương pháp trích xuất cụm: cluster_method = 'dbscan'

4. Tham số MinPoints (min_samples) ảnh hưởng như thế nào đến biểu đồ Reachability Plot?

Khi $MinPts$ được thiết lập ở giá trị quá nhỏ, đồ thị Reachability Plot sẽ xuất hiện nhiều răng cưa và tạo ra nhiều cụm nhỏ không mang ý nghĩa thống kê. Ngược lại, khi tăng giá trị $MinPts$, đồ thị trở nên mượt hơn, cấu trúc các thung lũng thể hiện rõ ràng hơn, giúp việc phát hiện các cụm chính xác và giảm thiểu tác động của nhiễu.

5. Dấu hiệu nhận biết các điểm ngoại lai (Outliers) trên biểu đồ Reachability Plot là gì?

Trên biểu đồ Reachability Plot, các điểm nằm trong cùng một cụm sẽ tạo thành một vùng trũng ("thung lũng") có khoảng cách tiếp cận thấp. Các điểm ngoại lai (outliers) là những điểm có reachability-distance vượt quá ngưỡng cắt $\varepsilon$ hoặc có giá trị không xác định (undefined), xuất hiện dưới dạng các đỉnh cao đột biến tách rời khỏi các thung lũng.


Kết luận

Đồ án "Nghiên Cứu Thuật Toán OPTICS Trong Machine Learning" của nhóm sinh viên Trường Công nghệ và Thiết kế - Đại học UEH đã hệ thống hóa toàn diện cơ sở lý thuyết và cơ chế hoạt động của thuật toán phân cụm dựa trên mật độ OPTICS. Thông qua các thực nghiệm trên 3 bộ dữ liệu có đặc tính hình học và số chiều đa dạng, nghiên cứu đã chứng minh khả năng vượt trội của OPTICS trong việc phát hiện các cấu trúc cụm phức tạp, phi tuyến và đa mật độ so với DBSCAN. Mặc dù tồn tại một số hạn chế về chi phí tính toán trên không gian dữ liệu lớn, đề tài đã đưa ra các minh chứng thực nghiệm vững chắc cùng các định hướng ứng dụng thực tế có giá trị cao trong khai phá dữ liệu học máy.