Chương 1 : GIỚI THIỆU TỔNG QUAN ĐỀ TÀI 1.1 Xu hướng dữ liệu hiện tại Ngày nay dữ liệu máy tính ngày càng phong phú, đa dạng, song song với đó là yêu cầu trích xuất thông tin từ nguồn dữ liệu này. Dữ liệu phổ biến hiện nay là dữ liệu chuỗi thời gian (time series) thu thập bởi các cảm biến điện tử (sensor) nhƣ: dữ liệu dòng chảy của sông ngòi, hay thu thập bởi con ngƣời nhƣ dữ liệu về bệnh ung thƣ của bệnh viện qua các năm, chứng khoán, giá vàng…. Dữ liệu chuỗi thời gian tồn tại trong nhiều lĩnh vực khác nhau nhƣ: kinh tế, tài chính, y học, môi trƣờng…Dữ liệu chuỗi thời gian thu hút rất nhiều nhà nghiên cứu tham gia nghiên cứu để cải tiến các giải thuật nhằm tăng độ chính xác trong việc rút trích thông tin cũng nhƣ về thời gian xử lý khối dữ liệu khổng lồ này để hỗ trợ những quyết định trong kinh doanh, y tế, giáo dục.2 Giới thiệu vấn đề Chuỗi thời gian là một tập hợp dữ liệu các trị số đo đƣợc dƣới dạng chuỗi các số thực theo từng khoảng thời gian cách đều nhau. Trong nghiên cứu dữ liệu chuỗi thời gian, ngƣời ta thƣờng quan tâm đến một đoạn gồm nhiều giá trị đƣợc đo liên tục chứ không quan tâm đến giá trị tại từng thời điểm cụ thể.
Do đó, chuỗi thời gian có thể đƣợc xem là dữ liệu nhiều chiều, với mỗi chiều là một giá trị quan sát đƣợc tại một thời điểm cụ thể. Số chiều có thể lên đến vài chục hoặc vài trăm tùy vào nguồn dữ liệu nhƣ giá trị chứng khoán, dữ liệu điện tim của bệnh nhân. Với nhiều nguồn dữ liệu lớn hiện nay, đặt ra thách thức lớn cho các nhà nghiên cứu trong việc trích xuất thông tin cho nguồn dữ liệu thô này, tùy vào từng lĩnh vực mà mục đích việc phân tích dữ liệu khác nhau: trong thống kê, kinh tế, tài chính, địa lý, khí tƣợng … dùng để dự báo; trong xử lý tính hiệu, kỹ thuật điều khiển và truyền thông dùng trong việc ƣớc lƣợng và phát hiện tín hiệu; trong khai phá dữ liệu, nhận dạng mẫu và học máy dùng cho phân loại (classifying), gom cụm (clustering), phát hiện bất thƣờng cũng nhƣ dự báo. Trong phạm vi đề tài này sẽ nghiên cứu vấn đề gom cụm dữ liệu chuỗi thời gian.
1 GOM CỤM DỮ LIỆU CHUỖI THỜI GIAN BẰNG PHƢƠNG PHÁP LEADER SINGLE-LINK Gom cụm là quá trình gom nhóm dữ liệu/đối tƣợng vào các cụm, các đối tƣợng trong cùng một cụm tƣơng tự với nhau hơn so với đối tƣợng ở các cụm khác. Han and Kamber [1] phân loại các phƣơng pháp gom cụm dữ liệu đƣợc phát triển để xử lý các dữ liệu thông thƣờng khác nhau thành năm loại chính: - Phân hoạch (partitioning): các phân hoạch đƣợc tạo ra và đánh giá theo một tiêu chí nào đó. - Phân cấp (hierarchical): phân rã tập dữ liệu có thứ tự phân cấp theo một tiêu chí nào đó. - Dựa trên mật độ (density-based): dựa trên connectivity và density functions - Dựa trên lƣới (grid-based): dựa trên a multiple-level granularity structure - Dựa trên mô hình (model-based): một mô hình giả thuyết đƣợc đƣa ra cho mỗi cụm; sau đó hiệu chỉnh các thông số để mô hình phù hợp với cụm dữ liệu nhất.
Do dữ liệu chuỗi thời gian có đặc trƣng riêng so với dữ liệu thông thƣờng với ba đặc điểm chính: số chiều lớn, tính tƣơng quan giữa các bộ dữ liệu rất cao và dữ liệu nhiễu rất lớn. Do các đặc điểm riêng này làm cho nhiều giải thuật làm việc hữu hiệu trên dữ liệu thông thƣờng đã không làm việc tốt trên dữ liệu chuỗi thời gian. Các nhà nghiên cứu cố gắng áp dụng lại các thuật toán gom cụm của dữ liệu thông thƣờng cho phù hợp dữ liệu chuỗi thời gian, theo T. Liao gom cụm dữ liệu chuỗi thời gian có 3 hƣớng tiếp cận [1]: - Raw-data-based: chuỗi thời gian có thể xử lý trực tiếp áp dụng các giải thuật gom cụm của dữ liệu thông thƣờng, chủ yếu chỉnh sửa lại phần tính khoảng cách/độ tƣơng tự của các bộ dữ liệu chuỗi thời gian.
- Feature-based: chuyển dữ liệu chuỗi thời gian qua vector đặc trƣng có số chiều giảm sau đó áp dụng các giải gom cụm thông thƣờng cho các vector đặc trƣng trích xuất đƣợc. - Model-based: chuyển dữ liệu chuỗi thời gian qua các tham số mô hình, sau đó áp dụng các giải gom cụm thông thƣờng cho các tham số mô hình này. Đề tài này chủ yếu nghiên cứu dùng hai hƣớng tiếp cận raw-data-based với 2 hai loại gom cụm: phân hoạch (k-Means, Leader) và phân cấp (Single-link), Hình 1.1 thể hiện gom cụm dữ liệu. 2 GOM CỤM DỮ LIỆU CHUỖI THỜI GIAN BẰNG PHƢƠNG PHÁP LEADER SINGLE-LINK Hình 1.1 Gom cụm dữ liệu 1.3 Động cơ và giới hạn đề tài Ngày nay dữ liệu chuỗi thời gian ngày càng phổ biến trong đời sống hàng ngày: chứng khoán, dữ liệu sức khỏe con ngƣời, thủy văn sông ngòi.
Nhƣng các giải thuật áp dụng cho dữ liệu chuỗi thời gian còn thiếu hơn nhiều so với dữ liệu thông thƣờng. Do đó nghiên cứu này sẽ vận dụng một giải thuật Leader Single-link đã áp dụng cho dữ liệu thông thƣờng vào dữ liệu chuỗi thời gian, qua đó so sánh đánh giá độ hiệu quả của giải thuật này với giải thuật khác đã thử nghiệm với dữ liệu chuỗi thời gian. Qua quá trình nghiên cứu và thực nghiệm, luận văn đã cải tiến phƣơng pháp giải thuật hiện tại cho phù hợp với dữ liệu chuỗi thời gian với kết quả tốt hơn. Trong khuôn khổ đề tài này, luận văn tập trung nghiên cứu gom cụm dữ liệu chuỗi thời gian bằng giải thuật gom cụm Leader Single-link (l-SL) do B.
Patra và cộng sự đƣa ra năm 2011 [2]. Giải thuật này có ƣu điểm so với giải thuật phân cấp Single-link (SL) truyền thống: dùng cho dữ liệu lớn, duyệt qua dữ liệu một lần, nó kết hợp hai giải thuật: đầu tiên dùng giải thuật gom cụm Leader để tìm ra các leader của cụm, tiếp theo là dùng giải thuật phân cấp Single-link để phân hoạch tập leader này. Giải thuật Leader Single-link đƣợc đề xuất là nhằm gom cụm dữ liệu thông thƣờng. Mục tiêu của đề tài này là nhằm áp dụng giải thuật Leader Single- link vào gom cụm dữ liệu chuỗi thời gian.
3 GOM CỤM DỮ LIỆU CHUỖI THỜI GIAN BẰNG PHƢƠNG PHÁP LEADER SINGLE-LINK Tiếp đến là nghiên cứu và hiện thực giải thuật gom cụm I-kMeans do E. Keogh và công sự đƣa ra [3] mục tiêu giải thuật là khắc phục nhƣợc điểm của giải thuật k-Means: tăng chất lƣợng gom cụm và giảm thời gian thực thi giải thuật, cho phép ngƣời dùng kết thúc quá trình bất kỳ mức nào họ muốn. Từ hai giải thuật gom cụm này đƣa ra so sánh và đánh giá kết quả gom cụm của hai phƣơng pháp gom cụm dữ liệu chuỗi thời gian. Đề xuất giải thuật cải tiến I-Leader Single-link.4 Tóm lược kết quả đạt được của luận văn Xây dựng chƣơng trình gom cụm dùng giải thuật Leader Single-link cho bài toán gom cụm dữ liệu chuỗi thời gian.
Kết quả giải thuật cải tiến I-Leader Single-link có độ chính xác cao hơn hoặc tƣơng đƣơng nhƣng có thời gian thực thi thấp hơn giải thuật Leader Single-link, xác định đƣợc số leader tối ƣu cho giải thuật nhỏ hơn hoặc bằng (<=) k*2. Thực nghiệm trên 9 bộ dữ liệu chuỗi thời gian đã phân lớp và chƣa phân lớp.5 Cấu trúc luận văn Cấu trúc luận văn phần còn lại chia thành các thành phần sau: CHƢƠNG 2: CƠ SỞ LÝ THUYẾT Chƣơng này trình bày nội dụng lý thuyết liên quan đến đề tài: giải thuật gom cụm: Single-link, k-Means, Leader, cũng nhƣ độ đo khoảng cách Euclid (Euclid distance) và phƣơng pháp phân rã Haar (Haar wavelet) cho dữ liệu chuỗi thời gian dùng trong đề tài. CHƢƠNG 3: NHỮNG CÔNG TRÌNH LIÊN QUAN Chƣơng này trình bày một số công trình nghiên cứu liên quan đến đề tài, đồng thời nêu ra các ƣu khuyết điểm của các công trình nghiên cứu này. CHƢƠNG 4: HỆ THỐNG GOM CỤM DỮ LIỆU CHUỖI THỜI GIAN Chƣơng này sẽ trình bày vấn đề cũng nhƣ hƣớng giải quyết các vấn đề liên quan đề tài.
Đƣa ra thông tin cũng nhƣ cách hoạt động của hệ thống gom cụm dữ liệu chuỗi thời gian đƣợc xây dựng. 4 GOM CỤM DỮ LIỆU CHUỖI THỜI GIAN BẰNG PHƢƠNG PHÁP LEADER SINGLE-LINK CHƢƠNG 5: THỰC NGHIỆM Chƣơng này sẽ đƣa ra các kết quả so sánh, đánh giá chất lƣợng, thời gian thực thi gom cụm của hệ thống đƣợc xây dựng cho việc gom cụm dữ liệu chuỗi thời gian. CHƢƠNG 6: KẾT LUẬN Chƣơng này sẽ tổng kết lại các kết quả đạt đƣợc, những đóng góp cũng nhƣ hƣớng phát triển của đề tài. 5 GOM CỤM DỮ LIỆU CHUỖI THỜI GIAN BẰNG PHƢƠNG PHÁP LEADER SINGLE-LINK Chương 2 : CƠ SỞ LÝ THUYẾT Chƣơng này trình bày nội dụng lý thuyết liên quan đến đề tài: dữ liệu chuỗi thời gian, các giải thuật gom cụm phân cấp Single-link, gom cụm phân hoạch k- Means, gom cụm Leader và độ đo Euclid.1 Dữ liệu chuỗi thời gian Một chuỗi thời gian (time series) là chuỗi trị số thực, mỗi trị biểu diễn một giá trị đo tại những thời điểm cách đều nhau.
Những tập dữ liệu chuỗi thời gian rất lớn xuất hiện trong nhiều lĩnh vực khác nhau nhƣ y khoa, kỹ thuật, kinh tế, tài chính, v.Tìm kiếm tƣơng tự (similarity search) là công tác căn bản nhất để khai thác những cơ sở dữ liệu chuỗi thời gian. Ví dụ: dữ liệu chuỗi thời gian X có chiều dài n là: xi = x1, x2, x3,.xn Trong đó: x1: dữ liệu tại thời điểm 1 x2: dữ liệu tại thời điểm 2 … xn: dữ liệu tại thời điểm n Hình 2.1 thể hiện lƣu lƣợng nƣớc đo tại các trạm gần tỉnh Luang Prabang (Lào) trên sông Mê Kông từ năm 2002 đến năm 2011: đƣờng màu xanh đậm tại trạm Luang Prabang 1, màu da trời tại trạm Luang Prabang 2, màu đỏ tại trạm Gauge 011201 Hình 2.1 Lƣu lƣợng nƣớc đo tại các trạm gần Luang Prabang (Lào) từ năm 2002- 2011 trên song Mê Kông 6 GOM CỤM DỮ LIỆU CHUỖI THỜI GIAN BẰNG PHƢƠNG PHÁP LEADER SINGLE-LINK 2.2 Độ đo khoảng cách Cho 2 chuỗi thời gian: X = x1,x2,x3,.yn Độ đo khoảng cách Euclid của hai chuỗi thời gian này đƣợc tính bởi công thức: ( ) √∑ ( ) (1) Trong đó: xi: dữ liệu của chuỗi X tại thời điểm i yi: dữ liệu của chuỗi Y tại thời điểm i Hình 2.2 cho ta ví dụ về biên độ của hai chuỗi thời gian áp dụng độ đo khoảng cách Euclid. Độ đo khoảng cách Euclid là độ đo đƣợc sử dụng phổ biến nhất trong khai phá dữ liệu chuỗi thời gian.2 Biên độ hai chuỗi thời gian áp dụng độ đo khoảng cách Euclid 2.3 Phương pháp gom cụm 2.