CHƯƠNG 1: GIỚI THIEU DE TAL .1 Giới thiệu Van để.- G1 1112111 11T ng TT Hung ng.4 Tóm lược những kết quả thu được .5 Cấu trúc của luận Văn. - k1 11 12v 11191 1E 11g 1g gen 3 CHƯƠNG 2: CAC CONG TRÌNH LIEN QUAN.1 Mạng nơ-ron nhân tạo trong dự ĐáO. 4 22 Kết hợp gom cụm và nhiều mạng nơ-ron dé dự báo dit liệu chuỗi thời gian5 2.3 Phân đoạn băng điểm cực trị QUAN fTỌNg. 6 24 Phương pháp biến hình vị tự trên chuỗi con và công thức tính độ tương tự .1 Khái niệm về phép biến hình vị tự.2 Lay mẫu các chuỗi con bằng phép Vi tl.
QC T 11g 1111 HT TT Hung 14 CHƯƠNG 3: CƠ SỞ LÝ THUY ÊT.1 Dữ liệu chuỗi thời gian và một số phương pháp dự báo truyền thống.1 Dữ liệu chuỗi thời Gian occ cscscscesssssesesescsesesescsescseseseeeseeeeeeeeees 15 3.2 Một số phương pháp dự báo dữ liệu chuỗi thời gian truyền thong .2 Ứng dụng mạng nơ-ron nhân tạo vào dự báo dữ liệu chuỗi thời gian.1 Giới thiệu mạng nơ-ron nhân tao (ANN).2 Cau trúc mạng nơ-ron nhân CAO. Nguyên tắc hoạt động và giải thuật huấn luyện mạng nơ-ron.24 Ap dụng mạng no-ron vào dự báo dữ liệu chuỗi thời gian. Giải thuật gom cụm K-ImeaniS.4 Giải thuật gom cụm phân cấp theo kiểu gộp HAC (Hierarchical Agglomerative CIUStErring) .5 Các phương pháp đánh giá độ chính xác dự báo.----- << «s2 40 CHUONG 4: MÔ HINH DU BAO DUNG NHIÊU MẠNG NƠ-RON. kh 1191211 91110191111 0101011110 1101011 Tu ri Al A.2 Hướng giải QUYẾT.
L1 1111211 11g11 TT TT ng ng. 46 CHUONG 5: HIỆN THỰC VÀ THU NGHIỆỆM.-- 5 2 56s £sEsE+EzEse£sesed 48 Lê Minh Nam V Kết hợp gom cụm và một tập hop mạng no-ron dé dự báo dit liệu chuỗi thời gian.1 Dữ liệu chứng khoán với kích thước 114789 (11) 49 52 _ Dữ liệu tỉ giá AUD/USD với kích thước 7927 điểm. Dữ liệu tỉ giá AUD/GBP với 7927 điểm .---- + 52 5s+cscscs¿54 54 _ Dữ liệu nhu cau năng lượng ở Ý với kích thước 30651 điểm .55 Dt liệu doanh nghiệp (ERP) với 6654 điỂm.-sc-ccccxsxcsesesees 58 CHƯƠNG 6: KET LUẬN.2 Những dong góp của dé tài.3 Hướng phát triển của dé tài.---- ¿6-52 S223 22t 2E rkrkerkrkrerreee 61 Lé Minh Nam VI Kết hợp gom cụm và một tập hop mạng no-ron dé dự báo dit liệu chuỗi thời gian. MỤC LUC HINH Hình 2.1 Một mang no-ron nhân tao truyén thang [Í4].2: Ví dụ chọn điểm cực trị với độ nén 91% (trái) và và 94% (phải) [10].3: Ví dụ điểm quan trong cực tiểu (trái) và cực dai (phải) [I0].4: Giải thuật xác định các điểm cực trị quan trọng [[Ú]'.5: Giải thuật tìm những phan đoạn [2] .6: Chuỗi dữ liệu ban đầu có chiều dài 470 điểm [3] .7: Chuỗi dữ liệu sau khi lay mẫu có chiều dài 400 dùng phương pháp nội SuY Spline Ddc I n6.8: Chuỗi dữ liệu sau khi lay mẫu có chiều dài 300 dùng phương pháp nội SuY Spline Ddc I n6.9: Minh họa phép vi tự tâm O, hệ SỐ Vị tự K =/2.10: Chuỗi dữ liệu sau khi lay mẫu có chiều dài 150 điểm dùng phương pháp VI UU [3B] =—ằ.11: Chuỗi dữ liệu sau khi lấy mẫu có chiều dài 2000 điểm dùng phương PAP Vite [3B] oo ee .1: Độ tăng nhiệt độ trung bình hàng năm từ 1856 đến 2005 [5].2 Chuỗi thời gian có tính mùa [5] .3 Don vi mạng nơ-ron [8] .4 Mạng nơ-ron truyền thắng [| .5 Mạng nơ-ron hồi quy [Ñ].6 Mô hình học có giám sát [8].
Don vi mạng Nơ-ron [8] .8 Mặt quyết định biểu diễn bởi perceptron hai đầu nhập [8] .9 Hàm lỗi của một đơn vị tuyến tính [Ö]|.11 Giải thuật lan truyền IĐƯỢC.12 Mô hình học với dữ liệu chuỗi thời QIAN [7]. << «xxx eeeeeeess 36 Hình 3.13: Ví dụ giải thuật k-means [A] .14: Giải thuật gom cụm phân cấp từ dưới lên và trên xuống HAC {2].1: Ví dụ dữ liệu chứng khoán.-- - - - - - - - - << < << + S99 9 9 1v ke Al Hình 4.2: Ví dụ về những phân đoạn có thé tương tự nhau.3: Mô hình dự báo dùng nhiều mạng NO-LON. S2 43 Lê Minh Nam Vil Kết hợp gom cụm và một tập hop mạng no-ron dé dự báo dit liệu chuỗi thời gian.4: Giải thuật tìm những phan đoạn.1: Dữ liệu chứng khoán với 114789 điểm.2: Kết quả phân đoạn và huấn luyện dữ liệu chứng khoán .3: Kết qua dự báo dữ liệu chứng khoán .4: Dữ liệu tỉ gid AUD/USD với 7927 điểm .5: Kết quả phân đoạn và huấn luyện dữ liệu tỉ giá AUD/USD.6: Kết quả dự báo dữ liệu AUD/USD.--5- 525252 SEcE+EsEEErkrerrerersred 53 Hình 5.7: Dữ liệu tỉ gid AUD/GBP với 7927 diém.8: Kết quả phân đoạn va huan luyện dữ liệu ti gid AUD/GBP.9: Kết quả dự báo dữ liệu AUD/GBP.--5- 525252 SE E+E2EEErErkrrerrsred 56 Hình 5.10: Dữ liệu nhu cầu năng lượng ở Ý .11: Kết quả phân đoạn và huấn luyện dữ liệu nhu cầu ở Ý.12: Kết quả dự báo dữ liệu nhu cau năng lượng ở Ý .13: Dữ liệu doanh nghigp .14: Kết quả phân đoạn và huấn luyện dữ liệu doanh nghiệp .15: Kết quả dự báo dữ liệu doanh nghiệp .---- 2-25-5252 5s+ccscsccee 60 Lê Minh Nam Vill Kết hợp gom cụm và một tập hop mạng no-ron dé dự báo dit liệu chuỗi thời gian. MỤC LUC BANG Bảng 5.1: Những tap dữ liệu được dùng dé thử nghiệm .2: Các thông số tách chuỗi con dữ liệu chứng khoán .3: Thông số huấn luyện một mạng nơ-ron.---- - 25s 2 s+s+s+ss+x+sze: 51 Bang 5.4: Kết quả đánh giá.5: Các thông số tách chuỗi con của tỉ giá USÌD.6: Các thông số huấn luyện một mạng nơ-ron.7: Kết quả đánh giá dự báo giữa 2 phương pháp.8: Các thông số tách chuỗi con của tỉ giá USÌD.9: Các thông số huấn luyện một mạng nơ-ron.10: Kết quả đánh giá giữa 2 phương pháp .11: Các thông số tách chuỗi con.
--¿-¿- + 2525252 2E+E+EE£E£EvEEcEcEeEererrerees 57 Bang 5.12: Các thông số huấn luyện một mạng nơ-ron.13: Kết quả đánh giá giữa 2 phương pháp .14: Các thông số tách chuỗi cOn. --¿-¿- + 2525252 2E+E+EE£E£EvEEzErverererrereee 60 Bang 5.15: Các thông số huấn luyện một mạng nơ-ron.16: Kết quả đánh giá giữa 2 phương pháp .---- ¿2-2 555s+s+c£s£szsccee 60 Lê Minh Nam IX Kết hợp gom cụm và một tập hop mạng no-ron dé dự báo dit liệu chuỗi thời gian. CHUONG 1: GIOI THIEU DE TAI Chương này sẽ giới thiệu các vấn đề, mục tiêu, động cơ để thực hiện đề tài này và tóm lượt những kết quả đạt được. Cuối cùng là cấu trúc của luận văn.1 Giới thiệu van đề Hiện nay các công ty đều hoạt động trong môi trường không chắc chắn, những hoạt động trong ngày hôm nay và quá khứ có thé ảnh hưởng đến sự tôn tại của công ty trong ngày mai do đó việc dự đoán một cách chính xác những gi sẽ xảy ra trở nên rat quan trọng đối với những nhà can ra quyết định.
Các nhà đầu tư cần phải dự báo được nhu cầu và những biến động của thị trường để từ đó có thể đầu tư hiệu quả. Những nhà hoạt định chính sách quốc gia cần dự đoán được môi trường kinh doanh, tý lệ thật nghiệp, tỷ lệ lạm phát. để từ đó đưa ra những chính sách phù hợp cho những năm tới. Đề dự báo một cách chính xác và có cơ sở người ta cần thu thập dữ liệu vé các yếu tô liên quan đến van dé cần quan tâm.
Một kiểu dữ liệu thường thay là kiểu dữ liệu chuỗi thời gian (DLCTG). Dữ liệu chuỗi thời gian là dữ liệu được thu thập, lưu trữ và quan sát tại những điểm cách đều nhau theo thời gian. Ví dụ, kết quả doanh thu của một công ty ở thành phố Hồ Chí Minh được lưu trữ theo từng năm, hay số lượng hàng hóa bán được của siêu thị được lưu trữ theo từng tháng là các dữ liệu chuỗi thời gian. Việc dự báo dữ liệu chuỗi thời gian ngày càng trở nên quan trọng trong các hoạt động các các công ty.
Có rất nhiều phương pháp được xây dựng để dự báo dữ liệu chuỗi thời gian như: phương pháp hồi quy được xây dựng từ thế kỷ 19 và gần đây có phương pháp dùng mạng nơ-ron nhân tạo. Có bốn kỹ thuật chủ yếu trong việc dự báo chuỗi thời gian là các phương pháp thống kê: hồi quy (regression), làm trơn hàm mũ (exponential smoothing), mồ hình ARIMA. và phương pháp dùng mạng nơ-ron nhận tạo. Lê Minh Nam 1 Kết hợp gom cụm và một tập hop mạng no-ron dé dự báo dit liệu chuỗi thời gian.
12 Động cơ Việc sử dụng mạng nơ-ron nhân tạo trong dự báo dữ liệu chuỗi thời gian đã được áp dụng rất nhiều trong phân loại, dự báo.Nhưng mô hình của mạng nơ-ron nhân tạo truyền thống là huấn luyện thành chỉ một mạng no-ron điều này sẽ mang yếu tố toàn cục sẽ không nam rõ được những biến động cục bộ trong dữ liệu chuỗi thời gian. Do đó, trong nghiên cứu này chúng tôi nghiên cứu một giải pháp để giải quyết những biến thiên cục bộ băng cách tách chuỗi thời gian thành những phân đoạn (segment) riêng lẻ và dùng giải thuật gom cụm để gom các phân đoạn thành nhiều cum, sau đó được huấn luyện thành một tập hợp gom nhiéu mang no-ron khac nhau (môi mang no-ron cho môi cụm) được dùng đê dự báo sau này.3 Mục tiéu Mạng nơ-ron nhân tạo là một mồ hình toán học đã được nghiên cứu từ lâu và được ứng dụng nhiều vào các bài toán mô phỏng, nhận dạng, dự đoán. Gần đây mạng nơ-ron nhân tạo được quan tâm và ứng dụng ngày càng nhiều vào các bài toán dự báo dữ liệu chuỗi thời gian. Mục tiêu của dé tài này là nghiên cứu phương pháp dự báo dữ liệu chuỗi thời gian dựa vào gom cụm dùng giải thuật gom cụm phân cấp từ dưới lên HAC (Hierarchical Agglomerative Clustering) kết hợp với một tập hop mạng no-ron.
Nội dung nghiên cứu của dé tài bao gôm các công việc sau: e Tìm hiểu về cách phân đoạn (segmentation): phan đoạn trong dữ liệu chuỗi thời gian dựa vào phương pháp dùng những điểm cực trị quan trọng để tách chuỗi thời gian thành những chuỗi con. e Tim hiểu giải thuật gom cụm (HAC): dùng phương pháp gom cum HAC dé gom những phan đoạn thành những cụm khác nhau, phân loại dựa trên khoảng cách Euclid cải tiến giữa các đối tượng đến phân tử trung tâm của các nhóm. e Tìm hiểu mạng nơ-ron: trong nghiên cứu này chúng tôi dùng giải thuật lan truyền ngược (backpropagation) để huấn luyện mạng nơ-ron, cách áp dụng mạng nơ-ron nhân tạo vào việc dự báo dữ liệu chuôi thời gian. Lê Minh Nam 2 Kết hợp gom cụm và một tập hop mạng no-ron dé dự báo dit liệu chuỗi thời gian.