Chương 1: Giới thiệu về ý tưởng đề tài, mục tiêu, phạm vi nghiên cứu và tóm tắt về các kết quả đã đạt được của luận văn. Chương 2: Giới thiệu một số nghiên cứu có liên quan đến nội dung nghiên cứu của luận văn. Trong đó tập trung giới thiệu một số nghiên cứu về chiến lược dự báo nhiều bước, các kỹ thuật dự báo bằng mạng nơ-ron. Chương 3: Trình bày những lý thuyết cơ bản liên quan đến mạng nơ-ron như cấu trúc mạng, giải thuật huấn luyện mạng, các chiến lược dự báo nhiều bước.
Chương 4: Mô tả cách thức giải quyết vấn đề mà luận văn đặt ra là dự báo nhiều bước bằng mạng nơ-ron. Trong đó chỉ ra trình tự các bước cần thực hiện có thể đánh giá các chiến lược dự báo nhiều bước bằng mạng nơ-ron. Chương 5: Mô tả các thành phần của hệ thống thực nghiệm để giải quyết vấn đề, qui trình làm hành thực nghiệm, các thông số làm thực nghiệm, các kết quả có được khi tiến hành làm thực nghiệm trên các tập dữ liệu thật, đánh giá kết quả thực nghiệm. Chương 6: Trình bày các kết quả đạt được của luận văn đồng thời nêu lên những hướng phát triển của luận văn 4 CHƢƠNG 2.
CÁC CÔNG TRÌNH CÓ LIÊN QUAN Chương 2 sẽ tóm lược các công trình nghiên cứu về chiến lược dự báo nhiều bước, về mạng nơ-ron, các kỹ thuật dự báo nhiều bước bằng mạng nơ-ron và một số kỹ thuật dự báo nhiều bước khác đối với dữ liệu chuỗi thời gian đặc biệt trong lĩnh vực tài chính. Một số nghiên cứu về chiến lƣợc dự báo nhiều bƣớc Bontempi, 2008 [2] thảo luận về những giới hạn của các cách tiếp cận một ngõ ra (single-output) để dự báo một loạt các giá trị tương lai và mô tả về các cách tiếp cận nhiều ngõ ra (multi-output) để dự báo trong dài hạn (long term). Nghiên cứu đề xuất một mô hình mở rộng của cách tiếp cận nhiều ngõ ra dùng kỹ thuật học lười (lazy learning) được gọi là LL-MIMO. Taieb và các cộng sự, 2009 [3] so sánh các chiến lược trực tiếp (direct strategy) và nhiều ngõ vào nhiều ngõ ra MIMO (multi input – multi output strategy), và thảo luận về những giới hạn của các hướng tiếp cận này trong dự báo nhiều bước cho chuỗi thời gian.
Bài báo cũng đề xuất một phương pháp luận mới là sự kết hợp giữa chiến lược trực tiếp và MIMO. Taieb và các cộng sự, 2012 [4] xem xét các chiến lược hiện có trong việc dự báo nhiều bước trên chuỗi thời gian và so sánh chúng cả về phương diện lý thuyết và thực nghiệm. Kết quả thực nghiệm cho thấy chiến lược nhiều ngõ ra là cách tiếp cận tốt nhất, việc khử tính mùa dẫn đến cải thiện độ chính xác của dự báo và việc chọn lựa biến ngõ vào sẽ hiệu quả hơn khi được thực hiện kết hợp với việc khử tính mùa. Một số nghiên cứu về mạng nơ-ron và dự báo nhiều bƣớc bằng mạng nơ-ron Chang, 2007 [5] khám phá nguyên lý và cơ chế hoạt động của 3 kiến trúc dùng để dự báo nhiều bước bằng mạng nơ-ron là: nhiều ngõ vào nhiều ngõ ra (MIMO), nhiều ngõ vào - một ngõ ra MISO (multi-input single-output) và lan truyền nối tiếp (serial-propagated).
Trong nghiên cứu này với kiến trúc MIMO số lượng ngõ ra của mạng nơ-ron sẽ bằng với số bước cần dự báo, còn với kiến trúc MISO để dự báo cho H bước ta cần xây dựng và huấn luyện H mạng nơ-ron độc lập nhau, mỗi mạng sẽ dùng để dự báo cho một bước, còn với chiến lược lan truyền nối tiếp có đặc điểm giống như kiến trúc MISO tuy nhiên có điểm khác biệt là bước dự báo tiếp theo sẽ 5 dùng kết quả dự báo của bước trước đó. Theo bài báo, hầu hết các mạng nơ-ron dùng cấu trúc mạng truyền thẳng nhiều tầng với giải thuật độ dốc liên hợp (conjugate gradient). Bài báo dùng tập dữ liệu về lượng mưa ở một số khu vực của Đài Loan từ đó dùng mạng nơ-ron để xây dựng mô hình dự báo. Kết quả nghiên cứu chỉ ra rằng, mặc dù kiến trúc MIMO được sử dụng phổ biến nhất cho mạng nơ-ron, nó vẫn kém chính xác bởi vì vấn đề đa mục tiêu phải được tối ưu hoá đồng thời.
Cả hai kiến trúc MISO và lan truyền nối tiếp có khả năng thực hiện những dự báo chính xác trong ngắn hạn (1 hoặc 2 bước). Còn với những dự báo trong dài hạn (trên 3 bước) thì kiến trúc lan truyền nối tiếp có thể cho ra kết quả dự báo tốt hơn. Từ kết quả này, bài báo đề nghị dùng cấu trúc lan truyền nối tiếp để nâng cao độ chính xác cho những dự báo lũ ở nhiều bước khác nhau. Hamzaçebi và các cộng sự, 2009 [6] đưa ra những so sánh giữa hai phương pháp lặp (iterated) và trực tiếp được dùng để dự báo nhiều bước dùng mạng nơ-ron.
Trong phương pháp lặp bài báo sử dụng mạng nơ-ron truyền thằng 3 tầng chỉ với một nút mạng ở đầu ra. Trong phương pháp trực tiếp, bài báo sử dụng mô hình mạng nơ- ron truyền thẳng 3 tầng với số nút mạng ở tầng xuất bằng với số bước cần dự báo. Cũng trong bài báo này hiệu quả của 2 cách tiếp cận này được so sánh với mô hình dự báo ARIMA tiêu chuẩn. Việc so sánh đã chỉ ra rằng dự báo bằng mạng nơ-ron cho kết quả tốt hơn các phương pháp khác.
Theo bài báo thì nghiên cứu này hỗ trợ các nghiên cứu trước đây khẳng định tính ưu việt của phương pháp trực tiếp. Tuy nhiên nó không cho rằng phương pháp trực tiếp cho kết quả tốt hơn đối với tất cả các bài toán dự báo trên chuỗi thời gian. Bài báo đề nghị cần thực hiện thêm các mô phỏng tuyến tính và phi tuyến để khái quát kết luận được trình bày trong bài báo. Dai và các cộng sự, 2012 [7] đề xuất mô hình dự báo bằng cách kết hợp giữa phân tích thành phần độc lập phi tuyến NLICA (nonlinear independent component analysis), và mạng nơ-ron để dự báo cho thị trường chứng khoán Châu Á.
Kết quả thực nghiệm chỉ ra rằng mô hình dự báo đề xuất giúp cải thiện độ chính xác của dự báo bằng mạng nơ-ron. Chen và các cộng sự, 2013 [8] đề xuất giải thuật học hồi qui trực tuyến đã tăng cường R-RTRL (reinforced real-time recurrent learning algorithm) cho mạng nơ-ron hồi tiếp. Điểm nổi bật chính của đề xuất là lặp đi lặp lại việc chỉnh sửa các thông số 6 của mô hình với thông tin hiện tại bao gồm giá trị của những quan sát cuối cùng và giá trị ngõ ra của mô hình để nâng cao tính tin cậy và dự báo chính xác hơn. Zhang và các cộng sự, 1998 [9] thực hiện một nghiên cứu chuyên sâu về những ứng dụng của mạng nơ-ron nhân tạo trong việc dự báo.
Bài báo cung cấp 3 vấn đề: (1) tổng hợp các nghiên cứu đã được xuất bản trong lĩnh vực này (2) phân tích chuyên sâu những vấn đề trong việc lập mô hình mạng nơ-ron nhân tạo (3) đưa ra những hướng nghiên cứu trong tương lai. Kline, 2004 [10] xem xét 3 phương pháp khi dùng mạng nơ-ron để dự báo nhiều bước trên dữ liệu chuỗi thời gian là: (1) phương pháp ghép nối (Joint Method) dùng một mô hình mạng nơ-ron duy nhất để dự báo cho tất cả các bước, (2) phương pháp độc lập (Independent Method) tạo ra nhiều mô hình mạng độc lập nhau, mỗi mô hình dùng để dự báo cho một bước và (3) phương pháp lặp (Iterative Method) tạo ra mô hình mạng nơ-ron để dự báo một bước, sau đó dùng lặp lại mô hình này nhiều lần để dự báo cho nhiều bước. Nghiên cứu dùng tập dữ liệu M-3 Competition để làm thực nghiệm. Kết quả của nghiên cứu đưa ra đề nghị: đối với các dự báo trong dài hạn thì phương pháp ghép nối thực thi tốt hơn, trong khi đối với các dự báo trong ngắn hạn thì phương pháp độc lập thực thi tốt hơn.
E, Guresen và các cộng sự, 2011 [11] đánh giá hiệu quả của một số mô hình mạng nơ-ron dùng trong dự báo thị trường chứng khoán. Các mô hình đưa ra phân tích là mô hình nhiều tầng (MLP), mạng nơ-ron động (dynamic artificial neural network – DAN2) và mạng nơ-ron lai (hybrid neural networks) Trong nghiên cứu của T. Xiong và các cộng sự, 2013 [12] đề xuất một mô hình lai (hybrid model) được xây dựng dựa trên phân rã mô hình thực nghiệm EMD (empirical model decomposition) và mô hình mạng nơ-ron truyền thẳng FNN (feed- forward neural network) kết hợp chặt chẽ với phương pháp dựa vào độ dốc SBM (Slope-based method) để có thể dự báo được sự biến động phức tạp của giá dầu. Nghiên cứu này sử dụng 3 chiến lược dự báo là lặp, trực tiếp và MIMO để làm thực nghiệm.
Kết quả thực nghiệm trên tập dữ liệu giá dầu hàng tuần cho thấy mô hình đề xuất khi dự báo theo chiến lược MIMO cho kết quả dự báo tốt nhất với chi phí xử lí phù hợp. Một số nghiên cứu về dự báo nhiều bƣớc bằng các kỹ thuật khác Y. Bao và các cộng sự, 2014 [13] chỉ ra rằng khi dùng các mô hình Hồi quy vec-tơ hỗ trợ SVR (Support Vector Regression) theo công thức chuẩn để dự báo nhiều bước để dự báo nhiều bước cho chuỗi thời gian thường dựa vào chiến lược lặp hoặc chiến lược trực tiếp. Từ đó nghiên cứu này đề xuất một cách tiếp cận mới trong dự báo nhiều bước cho chuỗi thời gian trong đó sử dụng mô hình hồi quy vec-tơ hỗ trợ nhiều ngõ ra M-SVR (multiple-output support vector regression) với chiến lược dự báo nhiều ngõ vào – nhiều ngõ ra (MIMO).
Qua thực nghiệm với các tập dữ liệu thật kết quả nghiên cứu cho thấy: (1) M-SVR dùng chiến lược MIMO cho kết quả dự báo chính xác nhất với thời gian xử lí chấp nhận được (2) SVR tiêu chuẩn với chiến lược trực tiếp cho kết quả dự báo chính xác thứ hai, nhưng với thời gian xử lí lâu nhất (3) SVR tiêu chuẩn dùng chiến lược lặp cho kết quả dự báo kém nhất nhưng có thời gian xử lí thấp nhất. Zhang và các cộng sự, 2013 [14] thấy rằng các mô hình dự báo bằng hồi quy vec-tơ hỗ trợ sử dụng các phương pháp lặp cho ra kết quả dự báo rất chính xác với dự báo một bước trên dữ liệu chuỗi thời gian nhưng nếu dùng mô hình này để dự báo cho nhiều bước thì lỗi sẽ tích luỹ dần qua các bước dự báo cho nên kết quả dự báo thường không tốt. Từ đó nghiên cứu đề xuất dự báo nhiều bước bằng phương pháp lặp cho chuỗi thời gian dùng nhiều mô hình SVR. Theo đề xuất này thì mô hình SVR thứ n sẽ được dùng để dự báo cho bước thứ n.