Tổng quan nghiên cứu

Trong kỷ nguyên bùng nổ dữ liệu lớn, việc quản lý và trích xuất tri thức giá trị từ các chuỗi dữ liệu đo lường theo thời gian thực đã trở thành thách thức hàng đầu của ngành khoa học máy tính. Dữ liệu chuỗi thời gian xuất hiện dày đặc trong các hệ thống giám sát y tế, thị trường tài chính, khí tượng thủy văn và tiêu thụ năng lượng. Một ví dụ điển hình trong thực tế là phân tích biến động tỷ giá hối đoái giữa đồng Rupee Ấn Độ và Dollar Singapore giai đoạn 1996 - 2013 với 17 năm dữ liệu đã phát hiện cặp chuỗi con tương quan chặt chẽ với hệ số r = 0.9489 ở độ dài tối thiểu hơn 7 năm.

Tuy nhiên, bài toán kết chuỗi con (Subseries Join) nhằm tìm kiếm các đoạn tín hiệu tương quan lớn nhất giữa hai chuỗi thời gian đang đối mặt với rào cản tính toán cực lớn. Giải thuật duyệt vét cạn trực tiếp (Naive Algorithm) đòi hỏi chi phí tính toán lên đến độ phức tạp O(n^4), khiến việc xử lý trên các chuỗi thời gian dài hoàn toàn bất khả thi. Nhằm giải quyết triệt để vấn đề này, luận văn thạc sĩ khoa học máy tính của tác giả Lương Văn Đô dưới sự hướng dẫn khoa học của PGS. Dương Tuấn Anh tại Trường Đại học Bách Khoa – Đại học Quốc gia TP.HCM đã đề xuất các giải pháp cải tiến toàn diện.

Nghiên cứu được triển khai trong chu kỳ 12 tháng từ ngày 04/07/2016 đến ngày 18/06/2017, tập trung tối ưu hóa thuật toán kết chuỗi con JOCOR (Join on Correlation) dựa trên hệ số tương quan Pearson. Đồng thời, đề tài mở rộng ứng dụng kết quả kết chuỗi vào lý thuyết đồ thị để phát hiện đồng thời 1-motif và chuỗi con bất thường (Discord) trên 6 bộ dữ liệu chuẩn với quy mô 5.000 điểm đo mỗi tập, tạo nên bước đột phá về hiệu năng tính toán và độ chính xác khai phá mẫu.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu xây dựng trên nền tảng vững chắc của lý thuyết phân tích chuỗi thời gian và đại số tuyến tính ứng dụng. Hệ số tương quan Pearson r nhận giá trị trong đoạn từ -1 đến +1 được sử dụng làm độ đo trọng tâm nhằm lượng hóa mức độ tương quan tuyến tính giữa hai chuỗi con tín hiệu. Để vượt qua độ phức tạp của giải thuật gốc, tác giả áp dụng lý thuyết xấp xỉ đa thức bình phương tối thiểu rời rạc (Discrete Least-Square Approximation) dựa trên hệ đa thức trực giao (Orthogonal Polynomials) kết hợp kỹ thuật cửa sổ trượt (Sliding Window). Cơ chế này cho phép nén và phân đoạn chuỗi thời gian thành các đoạn đặc trưng bậc 2 với kích thước cửa sổ trượt linh hoạt từ 30 đến 150 điểm dữ liệu dựa trên tiêu chuẩn sai số toàn phương trung bình.

Bên cạnh đó, đề tài tích hợp lý thuyết biến đổi Fourier nhanh (FFT) với độ phức tạp O(N log N) cùng cấu trúc quy hoạch động (Dynamic Programming) để tiền xử lý tích vô hướng và tính toán tức thời giá trị trung bình, phương sai, độ lệch chuẩn. Trong giai đoạn phát hiện tri thức, luận văn kết hợp lý thuyết đồ thị vô hướng với thuật toán tìm Maximum Clique của Konc và Janezic thông qua giải thuật sắp xếp màu Color Sort, liên kết các cặp chuỗi con tương quan vượt ngưỡng để định danh mô típ và phát hiện mẫu dị biệt.

Phương pháp nghiên cứu

Phương pháp nghiên cứu thực nghiệm được thiết kế chặt chẽ trên 6 bộ dữ liệu chuỗi thời gian chuẩn quốc tế gồm Điện não đồ (EEG), Đường cong ánh sáng thiên văn (Light Curve), Phụ tải điện năng (Power), Tỷ giá ngoại tệ (Currency), Huyết áp động mạch (Blood Pressure) và Bước đi ngẫu nhiên (Random Walk). Cỡ mẫu được chuẩn hóa ở mức 5.000 điểm dữ liệu cho mỗi tập dữ liệu thực nghiệm, kết hợp cùng 5 bộ dữ liệu đo điện tâm đồ và phụ tải y tế (ECG, KOSKI ECG, MEMORY, POWER DEMAND ITALY) để kiểm thử phát hiện dị biệt.

Phương pháp chọn mẫu có chủ đích đại diện cho các miền dữ liệu đa dạng từ y sinh, tài chính đến vật lý năng lượng nhằm đảm bảo tính bao quát. Luận văn lựa chọn quy trình phân tích gồm ba giai đoạn: (i) Tiền xử lý kết hợp chuẩn hóa Z-Score đưa đường căn bản về x = 0 và chuẩn hóa Min-Max đồng nhất miền trị; (ii) Phân đoạn chuỗi thời gian bằng đa thức trực giao để xác định độ dài chuỗi con tối thiểu (minLen); (iii) Tăng tốc kết chuỗi con bằng quy hoạch động và trượt phân đoạn. Toàn bộ quá trình thực nghiệm được đo lường chính xác về thời gian thực thi (tính bằng giây) và hệ số tương quan tối đa thu được.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm đối sánh chuyên sâu đã mang lại những kết quả vượt trội trên cả hai bài toán: kết chuỗi con cải tiến và phát hiện đồng thời mô típ - dị biệt:

Thứ nhất, giải thuật JOCOR cải tiến chứng minh hiệu năng vượt trội khi giảm từ 45% đến 72% thời gian thực thi so với thuật toán JOCOR gốc trên toàn bộ 6 bộ dữ liệu 5.000 điểm đo. Cụ thể, trên dữ liệu Light Curve và Currency, thời gian tính toán giảm hơn 50% trong khi vẫn giữ nguyên vẹn độ phức tạp thuật toán ở mức tối ưu.

Thứ hai, độ chính xác của giải thuật đạt mức tuyệt đối khi tìm thấy chính xác các cặp chuỗi con tương quan cao nhất. Hệ số tương quan cực đại thu được trên bộ dữ liệu Currency đạt r = 0.9489 và trên Random Walk đạt trên 0.92, hoàn toàn trùng khớp với kết quả chuẩn của thuật toán duyệt toàn bộ nhưng với chi phí tài nguyên thấp hơn nhiều lần.

Thứ ba, mô hình phát hiện đồng thời 1-motif và chuỗi con bất thường dựa trên đồ thị Maximum Clique đạt tốc độ xử lý nhanh hơn 60% so với giải thuật Random Projection và Brute Force. Trong bài toán tìm chuỗi con bất thường, phương pháp đề xuất xác định chính xác 100% các điểm bất thường trên các tập dữ liệu ECG và Power Demand tương đương thuật toán chuyên dụng HOT_SAX.

Thảo luận kết quả

Hiệu năng vượt trội của giải thuật JOCOR cải tiến bắt nguồn từ việc kết hợp xuất sắc giữa phân đoạn xấp xỉ đa thức trực giao và kỹ thuật quy hoạch động. Thay vì phải trượt kiểm tra từng điểm dữ liệu đơn lẻ gây lãng phí tính toán, phương pháp phân đoạn đã xác định chính xác các điểm cực trị mang tính đặc trưng, tạo tiền đề tính toán độ dài chuỗi tối thiểu minLen tối ưu. Việc áp dụng mảng cộng dồn tích lũy giúp truy xuất giá trị trung bình, độ lệch chuẩn và tích vô hướng của hai chuỗi con với chi phí thời gian hằng số O(1) thay vì O(N) như thuật toán truyền thống.

Kết quả nghiên cứu có thể được trực quan hóa rõ nét thông qua biểu đồ đường thể hiện sự đồng pha giữa các cặp chuỗi con tương quan đỉnh cao và bảng ma trận đối sánh thời gian thực thi chi tiết. So với công trình của Mueen và cộng sự năm 2014 hay phương pháp chỉ mục cây R-Tree của Yi Lin năm 2008, giải pháp đề xuất không chỉ đơn giản hóa cấu trúc cài đặt mà còn loại bỏ hoàn toàn các nhánh tính toán dư thừa, khẳng định tính khả thi vượt bậc trên các hệ thống phân tích dữ liệu lớn.

Đề xuất và khuyến nghị

Nhằm phát huy tối đa giá trị khoa học và ứng dụng thực tiễn của công trình nghiên cứu, bốn giải pháp trọng tâm được đề xuất thực hiện:

Thứ nhất, tích hợp ngay giải thuật JOCOR cải tiến vào hệ thống phân tích luồng dữ liệu tài chính tại các ngân hàng thương mại và quỹ đầu tư. Mục tiêu đặt ra là rút ngắn 50% độ trễ xử lý dữ liệu giao dịch ngoại hối và chứng khoán trong giai đoạn 2018 - 2019, do các kỹ sư hệ thống thông tin và chuyên gia phân tích định lượng trực tiếp đảm nhiệm.

Thứ hai, triển khai mô hình phát hiện chuỗi con bất thường vào các thiết bị y tế theo dõi bệnh nhân thông minh (Patient Monitoring Systems). Giải pháp tập trung nhận diện sớm các cơn rối loạn nhịp tim trên tín hiệu điện tâm đồ ECG và biến động huyết áp đột ngột với độ nhạy đạt trên 95%, triển khai thử nghiệm tại các bệnh viện trung ương trong lộ trình 18 tháng từ 2018 đến 2020 do nhóm kỹ sư y tin học chủ trì.

Thứ ba, mở rộng kiến trúc thuật toán sang môi trường tính toán song song trên nền tảng GPU và điện toán đám mây. Kế hoạch này nhắm tới mục tiêu xử lý các chuỗi thời gian siêu lớn vượt quy mô 1.000.000 điểm đo, giảm 70% thời gian tính toán tổng thể trong giai đoạn 2019 - 2021 do các phòng thí nghiệm khoa học máy tính thực hiện.

Thứ tư, chuẩn hóa quy trình tiền xử lý kết hợp chuẩn hóa Z-Score và Min-Max trong các cổng dữ liệu mở quốc gia về quan trắc môi trường và năng lượng. Giải pháp giúp loại bỏ 80% tác động của nhiễu tín hiệu ngoại lai, áp dụng ngay trong năm 2018 bởi các cơ quan quản lý dữ liệu và chuyên gia vận hành hệ thống lưới điện thông minh.

Đối tượng nên tham khảo luận văn

Nội dung và mã nguồn thuật toán của luận văn mang lại giá trị học thuật và ứng dụng sâu sắc cho 4 nhóm đối tượng trọng điểm:

Nhà nghiên cứu và giảng viên chuyên ngành Khoa học máy tính, Khai phá dữ liệu: Tiếp cận tài liệu chuyên khảo chuyên sâu về các kỹ thuật phân đoạn chuỗi thời gian, đa thức trực giao Chebyshev, Legendre và phương pháp tích hợp lý thuyết đồ thị Maximum Clique vào bài toán phát hiện tri thức tiềm ẩn.

Kỹ sư dữ liệu và kiến trúc sư hệ thống tài chính: Vận dụng giải thuật kết chuỗi con dựa trên hệ số tương quan Pearson để xây dựng các mô hình nhận diện mẫu hình giá tự động, dự báo biến động tỷ giá và phát hiện giao dịch gian lận với hệ số tương quan trên 0.90 trong thời gian thực.

Chuyên gia y tin học và kỹ sư phát triển thiết bị y tế: Sử dụng thuật toán nhận dạng 1-motif và chuỗi con bất thường để lập trình các bộ lọc chẩn đoán tự động trên tín hiệu sóng não EEG và điện tâm đồ ECG, nâng cao độ an toàn cho người bệnh.

Học viên cao học và sinh viên ngành Công nghệ thông tin: Tham khảo cấu trúc nghiên cứu chuẩn mực, phương pháp lập luận toán học chặt chẽ và quy trình thực nghiệm đối chuẩn trên 6 bộ dữ liệu chuẩn với tỷ lệ cải thiện thời gian từ 45% đến 72%.

Câu hỏi thường gặp

Hệ số tương quan Pearson có ưu điểm gì vượt trội so với khoảng cách Euclid trong bài toán kết chuỗi con? Hệ số tương quan Pearson r giúp nhận diện chính xác mức độ liên hệ tuyến tính và hình thái dao động đồng pha của hai chuỗi con mà không bị sai lệch bởi độ lệch đường căn bản hay biên độ. Khi kết hợp chuẩn hóa Z-Score, việc tối đa hóa tương quan Pearson tương đương với tối thiểu hóa khoảng cách Euclid, giúp phát hiện các đoạn tương đồng mạnh đạt r trên 0.90 trong thực tế.

Vì sao giải thuật JOCOR cải tiến lại tối ưu hóa thời gian thực thi vượt trội so với giải thuật gốc? Thuật toán cải tiến áp dụng phân đoạn chuỗi bằng xấp xỉ đa thức bình phương tối thiểu để xác định chính xác ngưỡng minLen, đồng thời dùng quy hoạch động lưu trữ các mảng tổng tích lũy. Điều này giảm chi phí tính toán các đại lượng thống kê tức thời từ độ phức tạp O(N) xuống O(1), giúp tiết kiệm từ 45% đến 72% thời gian trên 5.000 điểm dữ liệu.

Quy trình chuẩn hóa dữ liệu trong luận văn xử lý nhiễu tín hiệu bằng cách nào? Đề tài kết hợp chuẩn hóa Z-Score để dịch chuyển chuỗi về đường căn bản x = 0 nhằm triệt tiêu độ lệch biên độ, sau đó áp dụng chuẩn hóa Min-Max để ánh xạ miền trị hai chuỗi về khoảng đồng nhất. Cơ chế này loại bỏ tới 80% tác động tiêu cực của các giá trị ngoại lai thường gặp trên tín hiệu điện tim và cảm biến.

Thuật toán Maximum Clique hỗ trợ phát hiện 1-motif và chuỗi dị biệt như thế nào? Các chuỗi con có độ tương quan vượt ngưỡng quy định được mô hình hóa thành các đỉnh và cạnh trên đồ thị vô hướng. Giải thuật Maximum Clique xác định nhóm đỉnh có liên kết dày đặc nhất đại diện cho 1-motif, trong khi các đỉnh cô lập hoặc có bậc liên kết thấp nhất sẽ định danh chính xác chuỗi con bất thường với độ tin cậy 100% tương đương thuật toán HOT_SAX.

Luận văn đã tiến hành kiểm thử trên các bộ dữ liệu nào và kết quả ra sao? Nghiên cứu thực nghiệm trên 6 bộ dữ liệu chuẩn quốc tế gồm EEG, Light Curve, Power, Currency, Blood Pressure và Random Walk với quy mô 5.000 điểm mỗi tập. Kết quả chứng minh giải thuật tìm thấy chính xác các chuỗi con tương quan tối đa (như r = 0.9489 ở dữ liệu Currency) và giảm mạnh thời gian chạy trên tất cả các kịch bản.

Kết luận

Luận văn thạc sĩ của tác giả Lương Văn Đô đã giải quyết trọn vẹn bài toán kết chuỗi con và phát hiện tri thức trên dữ liệu chuỗi thời gian thông qua 5 đóng góp cốt lõi:

  • Cải tiến thành công giải thuật JOCOR dựa trên hệ số tương quan Pearson kết hợp phương pháp phân đoạn xấp xỉ đa thức bình phương tối thiểu và cửa sổ trượt.
  • Tích hợp kỹ thuật quy hoạch động giúp giảm chi phí truy vấn thống kê tức thời từ O(N) về hằng số O(1).
  • Cắt giảm từ 45% đến 72% thời gian thực thi trên 6 bộ dữ liệu chuẩn quy mô 5.000 điểm đo so với giải thuật gốc.
  • Đề xuất mô hình tích hợp lý thuyết đồ thị Maximum Clique để phát hiện đồng thời 1-motif và chuỗi con bất thường đạt độ chính xác 100% tương đương các thuật toán chuyên dụng.
  • Mở ra giải pháp thực tiễn có khả năng mở rộng cao cho các bài toán phân tích dữ liệu lớn đa ngành từ y tế, tài chính đến năng lượng.

Về kế hoạch phát triển tiếp theo, nhóm nghiên cứu hướng tới việc tối ưu hóa giải thuật trên các nền tảng tính toán song song GPU và mở rộng xử lý chuỗi thời gian quy mô trên 1.000.000 điểm đo trong giai đoạn 2018 - 2020. Hãy áp dụng ngay các giải pháp thuật toán tiên tiến từ công trình này để nâng cao tốc độ và độ chính xác cho hệ thống phân tích dữ liệu chuỗi thời gian của bạn.