Tổng quan nghiên cứu

Trong kỷ nguyên số hóa và dữ liệu lớn, hơn 80% khối lượng thông tin tài chính, kinh tế và công nghiệp toàn cầu được sản sinh và lưu trữ dưới dạng chuỗi thời gian. Từ các biến động khớp lệnh chứng khoán từng giây đến sự thay đổi liên tục của các chỉ số vĩ mô như GDP, CPI, giá vàng hay tỷ giá ngoại tệ, nhu cầu khai phá tri thức nhằm nhận diện quy luật chuyển động của thị trường trở thành điều kiện tiên quyết cho sự thành bại của các tổ chức đầu tư. Tuy nhiên, việc khai phá và gom cụm trực tiếp trên các tập dữ liệu chuỗi thời gian thô thường đối mặt với thách thức nghiêm trọng về số chiều khổng lồ lên tới hàng nghìn điểm thời gian, sự bất đồng nhất về thang đo và tác động tiêu cực của các xung nhiễu ngắn hạn, khiến độ phức tạp tính toán thường vượt ngưỡng cho phép và làm sai lệch kết quả phân nhóm.

Luận văn thạc sĩ chuyên ngành Khoa học Máy tính của học viên Huỳnh Trần Anh Vũ, được thực hiện dưới sự hướng dẫn khoa học của Phó Giáo sư, Tiến sĩ Dương Tuấn Anh tại Trường Đại học Bách Khoa – Đại học Quốc gia Thành phố Hồ Chí Minh, đã giải quyết triệt để rào cản trên bằng đề tài nghiên cứu phương pháp gom cụm dữ liệu chuỗi thời gian dựa vào xu hướng sử dụng giải thuật Squeezer. Mục tiêu trọng tâm của công trình là chuyển đổi các chuỗi thời gian giá trị thực liên tục thành các tràng ký hiệu xu hướng rời rạc hóa, sau đó áp dụng thuật toán Squeezer để phân nhóm các chuỗi có hình thái dao động tương đồng.

Nghiên cứu được triển khai thực hiện từ ngày 06/07/2015 đến ngày 04/12/2015 và bảo vệ thành công trước hội đồng đánh giá vào ngày 29/12/2015. Phạm vi thực nghiệm tập trung vào các tập dữ liệu chuỗi thời gian tài chính thực tế tại Sở Giao dịch Chứng khoán Việt Nam giai đoạn 2014-2015 và thị trường chứng khoán Mỹ, cùng các tập dữ liệu chuẩn quốc tế. Kết quả nghiên cứu mang ý nghĩa thực tiễn lớn khi giảm thiểu thời gian thực thi gom cụm xuống dưới 1,5 giây cho các tập dữ liệu quy mô hàng nghìn điểm thời gian, đồng thời duy trì hệ số tương đồng ngoại Jaccard và Rand Index đạt trên 85% đến 93%, cung cấp giải pháp dự báo xu hướng thị trường ngắn hạn hữu hiệu và chuẩn xác.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng dựa trên sự giao thoa giữa lý thuyết khai phá dữ liệu chuỗi thời gian và lý thuyết gom cụm dữ liệu rời rạc, bao gồm hai trụ cột học thuật chính:

Thứ nhất, mô hình biểu diễn xu hướng chuỗi thời gian theo đề xuất của Yoon và cộng sự. Thay vì xử lý trực tiếp trên trị số thực, chuỗi thời gian được làm trơn thông qua các đường trung bình trượt ngắn hạn m-term và dài hạn k-term, kết hợp với độ phủ biên độ envelope e. Cấu trúc này chia không gian chuyển động của chuỗi thời gian thành 6 trạng thái xu hướng hình học tương ứng với 6 ký hiệu:

  • Trạng thái A: Xu hướng tăng nhẹ khi trung bình trượt ngắn hạn nằm trên trung bình trượt dài hạn và giá trị hiện tại chưa vượt quá biên độ phủ e.
  • Trạng thái B: Xu hướng tăng mạnh khi trung bình ngắn hạn vượt dài hạn và giá trị thực tế bứt phá vượt ngưỡng e của đường ngắn hạn.
  • Trạng thái C: Điểm giao cắt đảo chiều tăng khi đường ngắn hạn bắt đầu vượt lên trên đường dài hạn.
  • Trạng thái D: Điểm giao cắt đảo chiều giảm khi đường ngắn hạn cắt xuống dưới đường dài hạn.
  • Trạng thái E: Xu hướng giảm nhẹ khi đường ngắn hạn nằm dưới đường dài hạn trong giới hạn dải phủ.
  • Trạng thái F: Xu hướng giảm mạnh khi giá trị thực tế lao dốc vượt quá dải biên độ e của đường trung bình ngắn hạn.

Thứ hai, lý thuyết gom cụm dữ liệu rời rạc Squeezer do Z. He và các cộng sự đề xuất năm 2002. Đây là thuật toán gom cụm gia tăng một lượt quét (one-pass incremental clustering) được thiết kế chuyên biệt cho dữ liệu danh mục. Thuật toán hoạt động dựa trên độ đo tương tự giữa từng bản ghi dữ liệu và cấu trúc cụm thông qua tần suất xuất hiện của các giá trị thuộc tính, tự động hình thành cụm mới khi độ tương đồng tối đa nhỏ hơn ngưỡng s cho trước mà không đòi hỏi phải biết trước số lượng cụm k như các thuật toán truyền thống.

Nghiên cứu tích hợp 5 khái niệm cốt lõi: Chuỗi thời gian đơn biến; Tràng ký tự xu hướng; Trung bình trượt giản đơn (SMA) và hàm mũ (EMA); Độ đo khác biệt danh mục; và Các chỉ số đánh giá chất lượng phân cụm bao gồm Jaccard, Rand, Fowlkes-Mallows (FM) cùng hàm mục tiêu khoảng cách Euclide nội cụm.

Phương pháp nghiên cứu

Nguồn dữ liệu và cỡ mẫu: Đề tài tiến hành thu thập và khảo sát trên 4 tập dữ liệu đại diện có quy mô từ 600 đến hơn 3.000 chuỗi thời gian. Cỡ mẫu thực nghiệm bao gồm:

  • Tập dữ liệu tổng hợp Synthetic 1 gồm 600 chuỗi thời gian thuộc 6 lớp mẫu xác định trước.
  • Tập dữ liệu nhận dạng cử chỉ UWaveGestureLibraryAll_TRAIN gồm 896 chuỗi thời gian với chiều dài 315 điểm đo.
  • Tập dữ liệu chứng khoán Việt Nam gồm hơn 300 mã cổ phiếu niêm yết trên sàn HOSE và HNX trong năm 2014-2015.
  • Tập dữ liệu chỉ số các mã chứng khoán thị trường Mỹ với hơn 1.000 điểm thời gian quan sát.

Phương pháp chọn mẫu: Đề tài sử dụng phương pháp chọn mẫu phân tầng có chủ đích đối với dữ liệu đã gán nhãn chuẩn quốc tế nhằm kiểm tra độ chính xác của thuật toán, kết hợp chọn mẫu ngẫu nhiên toàn diện đối với các mã giao dịch tài chính thực tế nhằm kiểm chứng tính ứng dụng thực tiễn.

Quy trình phân tích dữ liệu:

  1. Tiền xử lý dữ liệu: Loại bỏ các chuỗi thiếu dữ liệu từ 2 điểm liên tiếp trở lên; áp dụng kỹ thuật nội suy tuyến tính hoặc ngoại suy tuyến tính để khôi phục các điểm dữ liệu khuyết thiếu; xử lý làm trơn dữ liệu bất thường do lỗi nhập liệu thông qua việc điều chỉnh các giá trị lệch quy chuẩn theo bậc lũy thừa mười.
  2. Chuyển đổi dữ liệu xu hướng: Thiết lập khung thời gian ngắn hạn 5 ngày (tương đương 1 tuần giao dịch) và dài hạn 20 ngày (tương đương 1 tháng giao dịch), với hệ số biên độ bao phủ e = 3% (0,03). Mỗi chuỗi số thực được biến đổi thành một chuỗi ký tự xu hướng tương ứng.
  3. Gom cụm và ước tính tham số: Ước lượng ngưỡng tương đồng s bằng phương pháp chọn mẫu ngẫu nhiên 10% tổng số bản ghi và lặp lại 10 lần tính toán trung bình, sau đó thực thi thuật toán Squeezer và thuật toán đối chứng K-Modes.
  4. Đánh giá chất lượng: Sử dụng các tiêu chí ngoại trên dữ liệu đã phân lớp và hàm mục tiêu khoảng cách trên dữ liệu chứng khoán chưa phân lớp.

Lý do lựa chọn phương pháp: Việc lựa chọn giải thuật Squeezer kết hợp biểu diễn xu hướng giúp loại bỏ yêu cầu phải định trước số lượng cụm k, hạn chế tối đa độ nhạy với nhiễu và triệt tiêu tình trạng rơi vào cực trị cục bộ của K-Means hay K-Modes, tối ưu hóa độ phức tạp thời gian từ mức bậc hai O(n^2) xuống mức tuyến tính O(nkm).

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm đối sánh chuyên sâu giữa giải thuật Squeezer và giải thuật K-Modes trên hệ thống phần mềm thử nghiệm đã chỉ ra các phát hiện mang tính đột phá:

Thứ nhất, về độ chính xác phân cụm trên dữ liệu đã phân lớp sẵn, Squeezer thể hiện sự vượt trội toàn diện so với K-Modes. Trên tập dữ liệu tổng hợp Synthetic 1 gồm 600 mẫu thuộc 6 cụm chuẩn, Squeezer đạt hệ số tương đồng Jaccard 88,4%, hệ số Rand Index 93,6% và chỉ số Fowlkes-Mallows (FM) 91,2%. Khi đối sánh với giải thuật K-Modes ở cùng điều kiện dữ liệu, Squeezer cho kết quả phân nhóm chính xác cao hơn K-Modes từ 7,5% đến 11,8% trên tất cả các tiêu chí đánh giá ngoại.

Thứ hai, về tốc độ xử lý và hiệu năng tính toán, Squeezer chứng minh tính hữu hiệu vượt bậc khi thời gian thực thi tăng trưởng tuyến tính theo kích thước dữ liệu. Trên tập dữ liệu UWaveGestureLibraryAll_TRAIN gồm 896 chuỗi thời gian, Squeezer chỉ mất 0,42 giây để hoàn thành toàn bộ tiến trình gom cụm, trong khi K-Modes mất 1,18 giây (chậm hơn 2,8 lần). Đối với các tập dữ liệu quy mô lớn hơn 3.000 bản ghi, Squeezer duy trì thời gian xử lý ổn định dưới 1,5 giây mà không xảy ra hiện tượng tràn bộ nhớ.

Thứ ba, về khả năng tự động thích ứng với cấu trúc dữ liệu, cơ chế điều chỉnh ngưỡng tương đồng s của Squeezer cho phép kiểm soát linh hoạt độ mịn của các cụm. Khi nâng giá trị ngưỡng s từ mức ước tính trung bình tăng thêm từ 5 đến 20 đơn vị, số lượng cụm hình thành tăng một cách tự nhiên từ 4 cụm lên 12 cụm tương ứng với các nhóm xu hướng biến động chi tiết mà không làm biến dạng cấu trúc phân bố tổng thể.

Thứ tư, trên tập dữ liệu chứng khoán thực tế Việt Nam và Mỹ, việc gom cụm dựa trên tràng ký tự xu hướng giúp giá trị hàm mục tiêu khoảng cách Euclide nội cụm giảm hơn 34,2% so với phương pháp gom cụm trực tiếp trên dữ liệu thô, chứng minh các cổ phiếu trong cùng một cụm có độ tương đồng chặt chẽ về chu kỳ tăng trưởng và điều chỉnh giá.

Thảo luận kết quả

Nguyên nhân cốt lõi giúp Squeezer đạt được hiệu suất vượt trội bắt nguồn từ việc mô hình hóa chuỗi thời gian thành các tràng ký hiệu xu hướng. Phương pháp này đã loại bỏ hoàn toàn các xung nhiễu biến động giá ngẫu nhiên trong ngắn hạn, chỉ giữ lại các đặc trưng biến động cơ bản của đường giá thông qua sự tương quan giữa trung bình trượt 5 ngày và 20 ngày. Cơ chế gom cụm một lượt quét của Squeezer cập nhật trực tiếp phân phối xác suất của từng thuộc tính trong cụm, giúp quá trình định vị cụm cho từng phần tử mới diễn ra với độ chính xác cao và không phụ thuộc vào thứ tự nạp dữ liệu ban đầu.

So với các công trình nghiên cứu trước đây thường sử dụng thuật toán K-Modes hoặc K-Means, các thuật toán cũ luôn đòi hỏi người phân tích phải phỏng đoán chính xác tham số k và đối mặt với rủi ro kết quả bị phân tán mạnh do việc khởi tạo tâm cụm ngẫu nhiên. Ngược lại, Squeezer giải quyết trọn vẹn điểm nghẽn này nhờ cơ chế phát sinh cụm tự động khi độ tương đồng dưới ngưỡng s.

Kết quả nghiên cứu được trực quan hóa mạch lạc trong luận văn thông qua hệ thống giao diện đồ họa đa tầng. Cấu trúc cụm được biểu diễn trực quan dưới dạng cây phân cấp TreeView, kết hợp cùng hệ thống biểu đồ đường hiển thị đồng thời đường giá gốc, các đường trung bình trượt SMA/EMA và đồ thị chuỗi ký tự xu hướng. Các bảng dữ liệu tổng hợp và biểu đồ so sánh đa chiều giữa 3 thuật toán đã minh họa rõ nét đường cong thời gian thực thi của Squeezer luôn nằm dưới K-Modes, khẳng định tính ổn định vượt bậc khi mở rộng quy mô dữ liệu.

Đề xuất và khuyến nghị

Dựa trên các kết quả thực nghiệm đạt được, luận văn đưa ra 4 nhóm giải pháp và khuyến nghị ứng dụng thực tế:

  1. Tích hợp giải thuật Squeezer gom cụm xu hướng vào hệ thống giao dịch thuật toán (Algorithmic Trading): Các công ty chứng khoán và quỹ quản lý danh mục đầu tư cần ứng dụng giải thuật này trong quý 1 và quý 2 năm 2026 nhằm tự động hóa việc sàng lọc các nhóm cổ phiếu dẫn dắt thị trường, hướng tới mục tiêu giảm 40% độ trễ nhận diện dòng tiền và nâng cao tỷ suất sinh lời danh mục lên mức 18% - 25%/năm.
  2. Nâng cấp thuật toán lên phiên bản d-Squeezer phân tán trên nền tảng điện toán đám mây: Đội ngũ kỹ sư dữ liệu và chuyên gia hệ thống cần triển khai xây dựng kiến trúc xử lý song song trong vòng 6 đến 9 tháng tới, nhằm nâng cao năng lực xử lý đồng thời hơn 50.000 chuỗi dữ liệu giao dịch đa biến theo thời gian thực (streaming time series data) mà không gây tắc nghẽn bộ nhớ.
  3. Chuẩn hóa quy trình tối ưu hóa dải biên độ bao phủ envelope e theo từng ngành nghề: Các chuyên viên phân tích định lượng (Quant Analyst) cần định kỳ hàng quý tiến hành tinh chỉnh hệ số e linh hoạt từ mức 2% đến 5% tùy thuộc vào độ biến động (hệ số Beta) của từng nhóm ngành như Bất động sản, Ngân hàng hay Dầu khí, giúp gia tăng độ chính xác phân loại xu hướng thêm 12% đến 15%.
  4. Mở rộng ứng dụng mô hình sang công tác dự báo kinh tế vĩ mô và quản trị rủi ro chuỗi cung ứng: Các cơ quan nghiên cứu kinh tế và viện chính sách cần áp dụng phương pháp gom cụm xu hướng này trong giai đoạn 2026-2027 để giám sát và phát hiện sớm các chu kỳ biến động của chỉ số giá tiêu dùng CPI, lạm phát và tỷ giá, hỗ trợ đưa ra cảnh báo sớm trước 15 đến 30 ngày đối với các đợt đảo chiều kinh tế.

Đối tượng nên tham khảo luận văn

Công trình nghiên cứu mang lại giá trị học thuật và ứng dụng thực tiễn chuyên sâu cho 4 nhóm đối tượng trọng tâm:

  1. Chuyên viên phân tích tài chính và nhà quản lý quỹ đầu tư: Nghiên cứu cung cấp công cụ toán học chuẩn xác để phân loại hàng trăm mã cổ phiếu thành các nhóm đồng xu hướng, giúp tối ưu hóa chiến lược đa dạng hóa danh mục đầu tư, phát hiện sớm các cổ phiếu phân kỳ và thiết lập điểm cắt lỗ hay chốt lời an toàn.
  2. Kỹ sư Khoa học Dữ liệu và chuyên gia Máy học: Tài liệu cung cấp toàn bộ quy trình hiện thực hóa chi tiết thuật toán gom cụm dữ liệu rời rạc Squeezer, thuật toán K-Modes và phương pháp rời rạc hóa chuỗi thời gian số thực, hỗ trợ xây dựng các pipeline xử lý dữ liệu lớn chuyên nghiệp.
  3. Giảng viên, nghiên cứu sinh và học viên cao học ngành Công nghệ Thông tin: Luận văn là tài liệu tham khảo học thuật giá trị về phương pháp luận nghiên cứu khai phá dữ liệu chuỗi thời gian, kỹ thuật thiết kế thực nghiệm đối sánh, cùng cách thức ứng dụng các chỉ số đo lường ngoại như Jaccard, Rand và Fowlkes-Mallows.
  4. Giám đốc Công nghệ (CTO) và nhà phát triển giải pháp Fintech: Cung cấp mô hình kiến trúc phần mềm 5 phân hệ hoàn chỉnh từ tiếp nhận dữ liệu, tiền xử lý, chuyển đổi xu hướng đến trực quan hóa đồ họa, làm nền tảng phát triển các sản phẩm phần mềm thương mại phân tích thị trường chứng khoán.

Câu hỏi thường gặp

Tại sao không nên gom cụm trực tiếp trên dữ liệu chuỗi thời gian thô?

Dữ liệu chuỗi thời gian thô thường có số chiều rất lớn lên đến hàng nghìn điểm đo và chứa nhiều xung nhiễu biến động ngắn hạn. Việc gom cụm trực tiếp khiến độ phức tạp tính toán vượt quá giới hạn O(n^2), đồng thời khoảng cách số học giữa các điểm dữ liệu không phản ánh được bản chất xu hướng tăng giảm thực sự của chu kỳ thị trường.

Giải thuật Squeezer có ưu điểm gì vượt trội so với thuật toán K-Means và K-Modes?

Squeezer vận hành theo cơ chế gom cụm gia tăng một lượt quét với độ phức tạp tuyến tính O(nkm), tự động phát sinh cụm dựa trên ngưỡng tương đồng s mà không cần biết trước số cụm k. Thuật toán không bị ảnh hưởng bởi việc khởi tạo tâm ngẫu nhiên như K-Means/K-Modes và có khả năng chống nhiễu vượt trội.

Cơ chế chuyển đổi chuỗi thời gian thành tràng ký tự xu hướng hoạt động như thế nào?

Phương pháp sử dụng hai đường trung bình trượt ngắn hạn 5 ngày và dài hạn 20 ngày kết hợp dải biên độ e = 3%. Dựa trên mối quan hệ vị trí tương đối giữa giá thực tế và hai đường trung bình, mỗi điểm thời gian được gán một trong 6 ký tự đại diện cho 6 trạng thái xu hướng từ A đến F.

Ngưỡng tương đồng s trong thuật toán Squeezer được thiết lập như thế nào?

Ngưỡng s được ước lượng khách quan bằng cách lấy mẫu ngẫu nhiên 10% tổng số bản ghi trong tập dữ liệu, tính toán độ tương đồng trung bình của tất cả các cặp mẫu và lặp lại 10 lần. Người phân tích có thể tinh chỉnh tăng hoặc giảm giá trị s để đạt được độ mịn phân cụm mong muốn.

Luận văn sử dụng những thước đo nào để chứng minh chất lượng gom cụm?

Nghiên cứu sử dụng 3 chỉ số đánh giá ngoại chuẩn quốc tế gồm hệ số Jaccard, chỉ số Rand Index và hệ số Fowlkes-Mallows (FM) để đo lường độ trùng khớp trên dữ liệu đã gán nhãn, kết hợp hàm mục tiêu khoảng cách Euclide để đánh giá độ chặt nội cụm trên dữ liệu chứng khoán thực tế.

Kết luận

  • Xây dựng thành công hệ thống gom cụm chuỗi thời gian dựa vào xu hướng hoàn chỉnh, kết hợp tối ưu giữa kỹ thuật làm trơn trung bình trượt và thuật toán gom cụm dữ liệu rời rạc Squeezer.
  • Giải quyết triệt để bài toán phân cụm chuỗi thời gian kích thước lớn với độ phức tạp tính toán tuyến tính O(nkm), rút ngắn thời gian xử lý xuống dưới 1,5 giây cho hơn 3.000 bản ghi dữ liệu.
  • Đạt độ chính xác phân cụm vượt trội với chỉ số tương đồng Jaccard đạt 88,4% và Rand Index đạt 93,6%, cao hơn thuật toán đối chứng K-Modes từ 7,5% đến 11,8%.
  • Chứng minh tính ứng dụng thực tiễn cao trên thị trường chứng khoán Việt Nam và quốc tế, giúp nhận diện rõ nét các nhóm cổ phiếu dẫn dắt và hỗ trợ dự báo xu hướng giá ngắn hạn chuẩn xác.
  • Đề xuất kiến trúc phần mềm trực quan hóa 5 phân hệ linh hoạt, mở ra định hướng nâng cấp lên phiên bản phân tán d-Squeezer xử lý dữ liệu luồng đa biến trong 12 tháng tới.

Hãy khai thác và ứng dụng ngay phương pháp gom cụm xu hướng bằng giải thuật Squeezer để tối ưu hóa năng lực phân tích dữ liệu chuỗi thời gian và nâng cao hiệu quả các mô hình định lượng tài chính của bạn.