Tổng quan nghiên cứu

Dữ liệu chuỗi thời gian (time series) đang chiếm khoảng 80% đến 90% tổng khối lượng dữ liệu thu thập từ các hệ thống cảm biến công nghiệp, quan trắc môi trường, dữ liệu điện tim y tế và các chỉ số giao dịch tài chính. Khác với dữ liệu bảng thông thường, chuỗi thời gian có ba đặc tính phức tạp: số chiều lớn (thường từ vài chục đến hơn 570 chiều), tính tương quan chuỗi rất cao và mức độ nhiễu tín hiệu đáng kể. Những rào cản này khiến các giải thuật gom cụm phân cấp truyền thống gặp bế tắc về hiệu năng với độ phức tạp tính toán lên tới $O(n^2)$, đặc biệt khi xử lý các tập dữ liệu lớn hàng nghìn quan sát.

Nghiên cứu tập trung giải quyết bài toán tối ưu hóa tốc độ và chất lượng gom cụm dữ liệu chuỗi thời gian thông qua việc ứng dụng giải thuật Leader Single-link (l-SL) và đề xuất thuật toán cải tiến I-Leader Single-link (i-L-SL). Mục tiêu cụ thể là xây dựng khung xử lý gom cụm kết hợp hai giai đoạn: giai đoạn 1 gom cụm tăng dần để trích xuất tập đại diện Leader, giai đoạn 2 áp dụng gom cụm phân cấp Single-link trên tập Leader rút gọn.

Công trình được thực hiện tại Trường Đại học Bách Khoa – Đại học Quốc gia TP. Hồ Chí Minh trong giai đoạn từ tháng 01/2018 đến tháng 06/2018. Kết quả nghiên cứu có ý nghĩa thực tiễn to lớn trong khai phá dữ liệu học máy khi giúp giảm thời gian thực thi thuật toán từ 30% đến hơn 70%, đồng thời duy trì chỉ số tương đồng Rand Index đạt mức cao từ 0.70 đến 0.90 trên 9 bộ dữ liệu thực nghiệm tiêu chuẩn.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng dựa trên sự giao thoa của hai trường phái gom cụm dữ liệu học không giám sát kinh điển kết hợp kỹ thuật xử lý tín hiệu chuỗi thời gian:

  • Gom cụm phân cấp (Hierarchical Clustering - Single-link): Sử dụng chiến lược hợp nhất từ dưới lên (Agglomerative), liên tục gộp hai cụm có khoảng cách nhỏ nhất $d_{\min}(C_i, C_j) = \min |p - p'|$ với $p \in C_i, p' \in C_j$. Phương pháp này tạo ra cấu trúc cây phân cấp trực quan nhưng có độ phức tạp thời gian $O(n^2)$.
  • Gom cụm tăng dần (Incremental Clustering - Leader): Thuật toán do J. Hartigan đề xuất, chỉ quét qua tập dữ liệu đúng một lần duy nhất với độ phức tạp $O(m \cdot n)$ (với $m$ là số lượng Leader, $m \ll n$). Thuật toán sử dụng một ngưỡng khoảng cách $T$ cố định để xác định các điểm đại diện cụm.
  • Gom cụm phân hoạch (Partitioning Clustering - k-Means và I-kMeans): Tối ưu hóa hàm mục tiêu tổng bình phương khoảng cách sai số đến tâm cụm. Khung giải thuật I-kMeans của E. Keogh kết hợp xấp xỉ chuỗi để gom cụm đa mức phân giải.
  • Kỹ thuật giảm chiều xấp xỉ gộp từng đoạn (Piecewise Aggregate Approximation - PAA): Biến đổi chuỗi thời gian gốc có độ dài $n$ thành $w$ đoạn bằng nhau thông qua giá trị trung bình từng khung, đảm bảo tính chất giới hạn dưới (lower bound) khi tính khoảng cách.
  • Độ đo khoảng cách Euclid: Độ đo hình học chuẩn giữa hai chuỗi thời gian $X$ và $Y$ cùng chiều dài, làm thước đo nền tảng cho việc tính khoảng cách nội cụm và liên cụm.

Phương pháp nghiên cứu

Nghiên cứu áp dụng phương pháp thực nghiệm so sánh định lượng trên môi trường tính toán chuẩn mực. Nguồn dữ liệu gồm 8 bộ dữ liệu chuỗi thời gian đã phân lớp chuẩn từ kho lưu trữ UCR Time Series Archive của E. Keogh và 1 bộ dữ liệu chứng khoán thực tế chưa gán nhãn:

  • Tập dữ liệu đã phân lớp: 50words (50 cụm, 450 chuỗi, độ dài 270), CBF (3 cụm, 30 chuỗi, độ dài 128), ECG200 (2 cụm, 100 chuỗi, độ dài 96), FaceAll (14 cụm, 560 chuỗi, độ dài 131), Gun Point (2 cụm, 50 chuỗi, độ dài 150), OliveOil (4 cụm, 30 chuỗi, độ dài 570), Trace (4 cụm, 100 chuỗi, độ dài 275), Two Patterns (4 cụm, 1.000 chuỗi, độ dài 128).
  • Tập dữ liệu chưa phân lớp: Stock (1.000 chuỗi thời gian biến động giá, độ dài 128 điểm).

Phương pháp chọn mẫu bao phủ đa dạng các miền ứng dụng: y tế (điện tim ECG), nhận dạng hình ảnh (FaceAll, Gun Point), quang phổ hóa học (OliveOil) và tài chính (Stock), với số chiều dao động từ 96 đến 570 và kích thước mẫu từ 30 đến 1.000 đối tượng.

Lý do lựa chọn phương pháp phân tích: Việc kết hợp thuật toán Leader và Single-link cho phép giảm không gian tìm kiếm từ $n$ mẫu ban đầu xuống còn $m$ Leader đại diện, đưa tổng chi phí thời gian về mức $O(m \cdot n + m^2)$. Hệ thống được lập trình hoàn toàn trên ngôn ngữ Java, chạy trên hệ điều hành Ubuntu 18.04 với CPU Intel Core i3 1.6 GHz và 18GB RAM. Mỗi kịch bản thử nghiệm được lặp lại 50 lần độc lập để lấy giá trị trung bình, triệt tiêu sai số ngẫu nhiên của phần cứng.

Khung đánh giá chất lượng phân cụm sử dụng phối hợp: Đánh giá ngoại đối với dữ liệu có nhãn bằng 4 chỉ số: Rand Index (RI), Adjusted Rand Index (ARI), Jaccard, Fowlkes-Mallows (FM); và Đánh giá nội đối với dữ liệu chưa có nhãn thông qua Hàm mục tiêu sai số tổng bình phương và ma trận tương đồng Hubert.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

  • Rút ngắn thời gian xử lý vượt bậc: Trên toàn bộ các bộ dữ liệu thử nghiệm, Leader Single-link và I-Leader Single-link thể hiện ưu thế áp đảo về tốc độ so với k-Means và I-kMeans. Điển hình trên tập dữ liệu 50words (450 chuỗi, 50 cụm), k-Means mất 77.42 mili-giây thì Leader Single-link chỉ mất khoảng 16.20 mili-giây, tương đương mức giảm hơn 79% thời gian thực thi. Trên tập dữ liệu CBF, thời gian chạy của Leader Single-link đạt mức kỷ lục chỉ 0.66 mili-giây.
  • Chất lượng phân cụm duy trì ở mức cao: Leader Single-link đạt chỉ số Rand Index từ 0.70 đến 0.90 trên hầu hết các tập dữ liệu chuẩn. Cụ thể, trên tập Two Patterns, chỉ số Rand Index đạt 0.90; trên tập Gun Point và FaceAll, các chỉ số tương đồng đạt từ 0.78 đến 0.84, chênh lệch không đáng kể so với phương pháp phân hoạch truyền thống nhưng tiết kiệm bộ nhớ đáng kể.
  • Quy luật thiết lập ngưỡng tối ưu $T \le h/2$: Nghiên cứu chứng minh thực nghiệm rằng khi ngưỡng khoảng cách $T$ của giải thuật Leader được chọn nhỏ hơn hoặc bằng một nửa khoảng cách cắt $h$ của Single-link ($T \le h/2$), số lượng Leader $m$ được tối ưu hóa chỉ chiếm khoảng 10% đến 25% tổng số chuỗi dữ liệu gốc $n$, tạo tiền đề hoàn hảo cho bước trộn cụm phân cấp.
  • Đột phá từ giải thuật cải tiến I-Leader Single-link: Bằng việc thay thế việc chọn ngẫu nhiên Leader đầu tiên bằng cách tính giá trị trung bình cộng (tâm cụm động) của các phần tử đi theo (followers) và giới hạn số Leader $K \le 2k$, I-Leader Single-link đã nâng độ chính xác phân cụm lên thêm 5% đến 12%, đồng thời giảm thời gian thực thi thêm 20% đến 35% so với Leader Single-link gốc.

Thảo luận kết quả

Sở dĩ giải thuật Leader Single-link đạt tốc độ vượt trội vì đã phân rã bài toán thành hai pha rõ rệt. Pha gom cụm tăng dần đóng vai trò như một bộ lọc không gian, gom các chuỗi thời gian có độ tương quan cục bộ cao vào cùng một nhóm đại diện chỉ qua một lượt quét tuyến tính. Nhờ đó, pha phân cấp Single-link không phải tính toán ma trận khoảng cách trên toàn bộ $n$ mẫu mà chỉ xử lý trên tập $m$ Leader ($m \ll n$).

Hiện tượng suy giảm độ chính xác nhẹ ở thuật toán Leader Single-link gốc bắt nguồn từ "hiệu ứng xâu chuỗi" (chaining effect) đặc trưng của Single-link khi gặp dữ liệu có nhiễu. Thuật toán cải tiến I-Leader Single-link đã giải quyết triệt để vấn đề này nhờ cơ chế lấy trọng tâm trung bình của tập followers, giúp trung hòa các điểm dị biệt (outliers) và làm mịn các dao động biên độ ngẫu nhiên.

Trong thực tế nghiên cứu và triển khai, các kết quả này được trực quan hóa tối ưu thông qua:

  1. Biểu đồ cột nhóm: Thể hiện trực quan sự so sánh 4 chỉ số chất lượng ngoại (RI, ARI, Jaccard, FM) giữa ba thuật toán k-Means, I-kMeans và Leader Single-link trên 8 tập dữ liệu UCR.
  2. Đường cong suy giảm thời gian (Line Chart): Minh họa rõ nét mối tương quan giữa giá trị ngưỡng khoảng cách $T$, số lượng Leader sinh ra và thời gian thực thi (mili-giây).
  3. Biểu đồ chuỗi thời gian trực quan (Trajectory Overlay): Vẽ đè các chuỗi dữ liệu trong cùng một cụm lên nhau cùng với đường tâm cụm trung bình, giúp chuyên gia kiểm tra trực tiếp hình thái mẫu sóng và độ đồng nhất của từng cụm dữ liệu.

Đề xuất và khuyến nghị

  • Chuẩn hóa quy trình tiền xử lý giảm chiều dữ liệu bằng PAA: Kỹ sư dữ liệu và nhóm phát triển học máy cần áp dụng kỹ thuật xấp xỉ gộp từng đoạn PAA để giảm số chiều của chuỗi thời gian dài (trên 200 điểm) xuống còn 16 đến 32 khung đặc trưng trước khi gom cụm. Giải pháp này giúp cắt giảm 60% đến 70% dung lượng RAM tiêu thụ và tăng tốc độ tính khoảng cách lên 2.5 lần trong 3 tháng đầu triển khai hệ thống.
  • Cài đặt giải thuật I-Leader Single-link với tham số chặn $K \le 2k$: Nhóm chuyên viên khoa học dữ liệu nên ưu tiên ứng dụng thuật toán I-Leader Single-link thay cho k-Means trong các bài toán phân cụm chuỗi thời gian quy mô lớn. Cần thiết lập ngưỡng $T \le h/2$ và giới hạn số đại diện $K \le 2k$ nhằm đạt mục tiêu chỉ số Rand Index trên 0.85 và kiểm soát độ trễ tính toán dưới 20 mili-giây trên tập 1.000 chuỗi dữ liệu trong giai đoạn kiểm thử hiệu năng từ tháng thứ 3 đến tháng thứ 6.
  • Tích hợp module bảng điều khiển tương tác trực quan hóa cụm: Đội ngũ phát triển giao diện phần mềm cần xây dựng hệ thống hiển thị biểu đồ phân cụm thời gian thực hỗ trợ biểu diễn đồ thị trung tâm cụm, phân bố khoảng cách và ma trận nhầm lẫn. Mục tiêu là giúp người phân tích nghiệp vụ nắm bắt đặc trưng cụm trong vòng dưới 5 giây với độ tin cậy đánh giá đạt trên 90% trong chu kỳ phát hành sản phẩm 4 tháng.
  • Mở rộng kiến trúc gom cụm luồng dữ liệu thời gian thực (Streaming Clustering): Các viện nghiên cứu và doanh nghiệp công nghệ cần đầu tư nâng cấp thuật toán từ cơ chế xử lý theo lô (batch processing) sang xử lý luồng dữ liệu liên tục (stream processing). Mục tiêu là xử lý thông lượng trên 10.000 bản ghi/giây với độ trễ phản hồi dưới 50 mili-giây trên các hệ thống giám sát IoT trong lộ trình phát triển từ 6 đến 12 tháng.

Đối tượng nên tham khảo luận văn

  • Học viên cao học và nghiên cứu sinh chuyên ngành Khoa học máy tính / Công nghệ thông tin: Tiếp cận phương pháp luận khoa học chặt chẽ về khai phá dữ liệu chuỗi thời gian, nắm bắt kỹ thuật kết hợp thuật toán phân hoạch, phân cấp và gom cụm tăng dần để phát triển các đề tài luận văn thạc sĩ, tiến sĩ hoặc công bố bài báo khoa học.
  • Kỹ sư Machine Learning và nhà khoa học dữ liệu trong lĩnh vực tài chính - ngân hàng: Ứng dụng mô hình I-Leader Single-link để tự động phân nhóm hành vi biến động giá của hơn 1.000 mã cổ phiếu trên thị trường chứng khoán, phục vụ phân bổ danh mục đầu tư và phát hiện giao dịch bất thường với thời gian xử lý mili-giây.
  • Chuyên gia phân tích dữ liệu y tế và xử lý tín hiệu sinh học: Sử dụng thuật toán để phân loại tự động các bản ghi điện tim (ECG200), điện não đồ (EEG) và các chỉ số sinh tồn của bệnh nhân, hỗ trợ bác sĩ sàng lọc sớm các bệnh lý tim mạch trên các thiết bị y tế thông minh.
  • Kiến trúc sư hệ thống Internet vạn vật (IoT) và trắc địa môi trường: Ứng dụng giải thuật quét một lần (single-pass) nhẹ tài nguyên vào các vi điều khiển và thiết bị tính toán biên (Edge Computing) để phân cụm dữ liệu thủy văn, dòng chảy sông ngòi và trạm thời tiết theo thời gian thực mà không làm quá tải CPU.

Câu hỏi thường gặp

Tại sao giải thuật Leader Single-link lại có tốc độ xử lý nhanh hơn Single-link truyền thống?

Single-link truyền thống yêu cầu tính toán ma trận khoảng cách giữa tất cả các cặp chuỗi thời gian với độ phức tạp $O(n^2)$. Leader Single-link trước tiên thực hiện một lượt quét tuyến tính $O(m \cdot n)$ để gom dữ liệu thành $m$ Leader đại diện ($m \ll n$), sau đó chỉ chạy Single-link trên tập $m$ Leader này với chi phí $O(m^2)$. Ví dụ trên tập 50words với 450 chuỗi, thời gian xử lý giảm mạnh từ 77.42 mili-giây xuống chỉ còn khoảng 16.20 mili-giây.

Thuật toán cải tiến I-Leader Single-link mang lại những cải tiến cụ thể nào?

Thuật toán Leader Single-link gốc bị phụ thuộc vào thứ tự chuỗi và nhạy cảm với nhiễu do luôn lấy phần tử đầu tiên làm đại diện. I-Leader Single-link khắc phục bằng cách lấy giá trị trung bình cộng của tất cả các phần tử trong cụm con (followers) làm tâm đại diện mới, đồng thời giới hạn số Leader tối đa $K \le 2k$. Cải tiến này giúp nâng cao độ chính xác Rand Index từ 5% đến 12% và giảm thêm 20% đến 35% thời gian tính toán.

Khoảng cách Euclid có những ưu và nhược điểm gì trong bài toán gom cụm chuỗi thời gian?

Khoảng cách Euclid có ưu điểm là tính toán cực nhanh với độ phức tạp tuyến tính $O(D)$ trên độ dài chuỗi $D$, công thức toán học tường minh và bảo toàn các tiên đề không gian khoảng cách metric. Nhược điểm chính là nhạy cảm với sự lệch pha thời gian và biến dạng trục thời gian. Luận văn đã khắc phục hạn chế này bằng cách chuẩn hóa dữ liệu và tích hợp phương pháp xấp xỉ PAA để làm mịn tín hiệu.

Khi nào nên sử dụng phương pháp đánh giá nội và khi nào dùng đánh giá ngoại?

Đánh giá ngoại (chỉ số Rand, ARI, Jaccard, FM) được áp dụng khi có sẵn nhãn phân lớp thực tế khách quan, như 8 bộ dữ liệu chuẩn UCR trong nghiên cứu, nhằm đo độ trùng khớp của cụm. Đánh giá nội (hàm mục tiêu tổng bình phương sai số, ma trận Hubert) bắt buộc áp dụng khi dữ liệu hoàn toàn chưa có nhãn, như tập 1.000 chuỗi chứng khoán Stock, nhằm đo lường độ chặt chẽ nội cụm và độ tách biệt liên cụm.

Hệ thống phần mềm của luận văn được hiện thực trên công nghệ nào và có thể mở rộng ra sao?

Hệ thống được phát triển hoàn chỉnh trên nền tảng ngôn ngữ Java chạy trên hệ điều hành Ubuntu 18.04, tận dụng môi trường đa luồng của CPU Intel Core i3 để thực thi 50 vòng lặp kiểm thử độc lập. Cấu trúc phần mềm gồm 4 module độc lập: Đọc và giảm chiều dữ liệu, Thực thi thuật toán gom cụm, Đánh giá chất lượng và Trực quan hóa đồ họa, giúp dễ dàng tích hợp thêm các độ đo như DTW hay các thuật toán mật độ trong tương lai.

Kết luận

  • Áp dụng thành công thuật toán Leader Single-link vào bài toán gom cụm dữ liệu chuỗi thời gian nhiều chiều, giảm độ phức tạp tính toán từ $O(n^2)$ xuống $O(m \cdot n + m^2)$.
  • Đề xuất thành công giải thuật cải tiến I-Leader Single-link với cơ chế cập nhật tâm cụm trung bình và chặn cận trên số lượng Leader $K \le 2k$.
  • Tiến hành thực nghiệm toàn diện trên 9 bộ dữ liệu chuẩn đa dạng lĩnh vực, xử lý từ 30 đến 1.000 chuỗi thời gian với số chiều lên đến 570.
  • Chứng minh hiệu năng vượt trội khi duy trì chỉ số tương đồng Rand Index từ 0.70 đến 0.90 trong khi cắt giảm từ 30% đến hơn 70% thời gian thực thi so với k-Means và I-kMeans.
  • Xây dựng hoàn chỉnh chương trình phần mềm Java có giao diện trực quan hóa dữ liệu và biểu đồ phân cụm tương tác chuyên nghiệp.

Đóng góp chính của luận văn là cung cấp một giải pháp cân bằng tối ưu giữa độ chính xác học thuật và tốc độ tính toán cho bài toán khai phá dữ liệu chuỗi thời gian lớn. Trong kế hoạch phát triển 6 đến 12 tháng tới, hướng nghiên cứu sẽ mở rộng sang tích hợp độ đo biến dạng thời gian động (Dynamic Time Warping) và triển khai trên các nền tảng luồng dữ liệu phân tán. Hãy tham khảo chi tiết toàn văn luận văn thạc sĩ để khai thác trọn vẹn các công thức toán học, thuật toán chi tiết và bộ dữ liệu đối sánh phục vụ cho các dự án nghiên cứu phân tích dữ liệu chuyên sâu!