Chương 1: Tổng quan về phương pháp xây dựng mô hình dự báo và mô hình nowcast trên tập dữ liệu chuỗi thời gian lớn; xác định vấn đề và phạm vi nghiên cứu, một số kiến thức liên quan và cuối cùng là một số kết luận.1: Cấu trúc của luận án - Chương 2: Đề xuất phương pháp giảm chiều biến của các tập dữ liệu chuỗi thời gian lớn dựa vào thủ thuật hàm nhân, gọi là KTPCA, và so sánh hiệu suất giảm chiều biến của phương pháp KTPCA dựa vào mô hình RMSE tốt nhất với hiệu suất giảm chiều biến của các phương pháp PCA và họ SPCA trên các tập dữ liệu có cùng hoặc không cùng tần suất lấy mẫu, và cuối cùng là một số kết luận. - Chương 3: Đề xuất thuật toán dự báo có và không có điều kiện trên các tập dữ liệu chuỗi thời gian lớn sử dụng phương pháp giảm chiều được đề xuất, và ứng 8 dụng thuật toán này để dự báo có và không có điều kiện kim ngạch xuất khẩu theo tháng của Việt Nam. Phần kết luận trình bày những đóng góp nghiên cứu chính của luận án và hạn chế của Luận án. TỔNG QUAN PHƯƠNG PHÁP XÂY DỰNG MÔ HÌNH DỰ BÁO TRÊN TẬP DỮ LIỆU CHUỖI THỜI GIAN LỚN 1.1 Tổng quan các nghiên cứu trong và ngoài nước Những thuật ngữ như: Prediction, Forecast, Nowcast và Foresight đều nói về dự báo nhưng chúng có một số điểm khác biệt.
Theo từ điển tiếng Anh của Đại học Cambridge: - <Prediction= là một nhận định về những gì mà ta nghĩ sẽ xảy ra trong tương lai và thường được gọi là dự đoán. Như vậy để dự đoán tương lai người làm dự báo có thể sử dụng dữ liệu lịch sử hoặc không. - <Forecast= là một nhận định về tương lai được tính toán từ dữ liệu lịch sử. Nói cách khác <Forecast= là <Prediction= được thực hiện, tính toán từ dữ liệu lịch sử.
Thuật ngữ này thường được gọi là dự báo. - <Foresight= là nói về khả năng phán đoán chính xác điều gì sắp xảy ra. Giống như <Prediction=, những phán đoán ấy có thể được tính toán, rút ra từ dữ liệu lịch sử hoặc không. Khác với <Prediction=, <Foresight= – thường là phán đoán cho tương lai dài, thậm chí rất dài và thường được thực hiện bằng phương pháp định tính (phân tích định tính).
- Theo nghiên cứu [27], <Nowcast= là <Prediction= về hiện tại, tương lai gần và quá khứ mới đây. Trong trường hợp các tập dữ liệu lịch sử là tập dữ liệu chuỗi thời gian thì <nowcast= là dự báo biến phụ thuộc ở tần suất lấy mẫu thấp theo các biến giải thích ở một số tần suất lấy mẫu khác cao hơn. Chẳng hạn việc dự báo chỉ số GDP ở tần suất lấy mẫu theo quý (hay GDP quý) theo các biến kinh tế được lấy mẫu theo tháng như kim ngạch xuất nhập khẩu, chỉ số phát triển công nghiệp, chỉ số giá tiêu dùng, đầu tư từ ngân sách nhà nước,…; theo các biến được lấy mẫu theo tuần như các loại lãi suất tiền gửi theo tháng, quý, năm được các ngân hàng công bố hàng tuần; và theo ngày như chỉ số chứng khoán của 30 công ty có giá trị vốn hóa lớn nhất của Việt Nam trên thị trường chứng khoán, … chính là nowcasting GDP. Các mô hình nowcast cho phép cập nhật dự báo theo luồng dữ liệu thời gian thực (theo dữ liệu ở tần suất cao hơn ngay khi chúng được công bố ở những thời điểm có thể rất khác 10 nhau).
Khi các tần suất lấy mẫu trong tập dữ liệu là giống nhau thì bài toán nowcast sẽ trở thành bài toán dự báo. Thuật ngữ <Nowcast= được nói đến lần đầu năm 1981 [28] và được định nghĩa một cách chính xác năm 2006 [27]. Theo đó nó là một sự kết hợp của <now= (hiện tại) và <cast= (dự báo) với mong muốn dự báo kinh tế xã hội cũng có thể được thực hiện theo cách của dự báo thời tiết. Các mô hình nowcast sử dụng các thông tin có sẵn, kịp thời và đáng tin cậy để hình thành các dự báo cho các biến quan tâm [9], [29], [30].
Việc sử dụng kịp thời các thông tin, dữ liệu tin cậy có thể có đã nói rằng thông tin dữ liệu được sử dụng trong các mô hình nowcast là rất lớn. Nó không chỉ gồm dữ liệu thống kê (được gọi là dữ liệu cứng) mà còn gồm những thông tin dữ liệu khác không phải là dữ liệu thống kê (được gọi là dữ liệu mềm). Những dữ liệu được tạo ra bởi các cuộc điều tra hay được thu thập từ các phương tiện thông tin đại chúng, các mạng xã hội là thuộc loại dữ liệu mềm. Các mô hình nowcast cho phép cập nhật dự báo theo luồng dữ liệu thời gian thực và bằng việc sử dụng mô hình nowcast, người ta có phản ứng kịp thời và chính xác trước các biến động ngày càng nhanh và khó lường của các hiện tượng tự nhiên, kinh tế, xã hội như hiện nay.
Việc xây dựng các mô hình nowcast là rất cần thiết để hỗ trợ công tác chỉ đạo điều hành và hoạch định chính sách của các cơ quan chính phủ, để hỗ trợ các hoạt động sản xuất kinh doanh của các doanh nghiệp nhất là những doanh nghiệp quy mô lớn, có quan hệ trao đổi thương mại cao với các doanh nghiệp bên ngoài.1 Các nghiên cứu ngoài nước 1.1 Phương pháp xây dựng mô hình dự báo trên tập dữ liệu tần suất lấy mẫu giống nhau Giả sử = ( ,…, ) ℝ và = , , , ,…, , ℝ × tương ứng là biến phụ thuộc (hay biến cần quan tâm) và tập các biến giải thích; m và t tương ứng là số lượng các biến và các quan sát. Mô hình dự báo biến theo các biến giải thích có dạng: = , + ớ ≥ 1, ≥0 (1.1) 11 ở đây là phần dư với giả định là nhiễu trắng, là trễ bậc k của biến ( ≥ 1); (. ) là hàm tuyến tính hoặc phi tuyến, ở dạng ẩn hoặc ở dạng tường minh. Trong thực hành ứng dụng hàm (.
) được ước lượng từ t quan sát đã cho của biến phụ thuộc và biến giải thích.) thường được xác định bằng phương pháp hồi quy hoặc các bộ phân lớp tùy thuộc biến phụ thuộc nhận giá trị số hay giá trị phân loại. Khi số lượng biến m là lớn hơn số quan sát t hoặc khi số lượng biến m là rất lớn thì các kỹ thuật hồi quy theo mô hình phương trình (1.1) là không thể thực hiện được. Các nhà mô hình hóa kinh tế gọi đó là <lời nguyền về chiều=. Các nghiên cứu [9], [30], [31], [32], [33], [34], [35] đã tổng quan các phương pháp và kỹ thuật dự báo được sử dụng trên các tập dữ liệu chuỗi thời gian lớn.
Có thể nói học sâu và giảm chiều là 2 cách tiếp cận chủ yếu nhất được sử dụng khi thực hiện dự báo hoặc phân lớp trên các tập dữ liệu lớn. Dự báo sử dụng phương pháp học sâu Học sâu là mô hình mạng nơtron nhiều lớp, đã được chứng minh là có đặc tính nhận dạng mẫu tốt. Về bản chất học sâu mạng nơtron [36] là một mô hình hồi quy phi tuyến, ở đó hàm (. ) trong mô hình (1.1) ở trên không được xác định một cách tường minh.
Về nguyên tắc có thể tìm được hàm (. ) tối ưu nhưng để tìm được hàm như vậy thì chi phí thời gian và tính toán tốn kém và có thể là không phù hợp với yêu cầu nhanh chóng và kịp thời. Cách tiếp cận học sâu được xem là phù hợp nhất trên tập dữ liệu chuỗi thời gian là sử dụng mô hình mạng nơtron bộ nhớ ngắn dài (LSTM) [1], [2], [3], [4], [11]; mô hình mạng các đơn vị định kỳ được kiểm soát (GRU) [5], và mô hình Transformer chuỗi thời gian [6], [7]. Theo [9] các mô hình học sâu LSTM, GRU chỉ phù hợp với tập dữ liệu chuỗi thời gian ở đó số quan sát là lớn trong khi số biến (hay chiều biến) là không quá lớn.
Theo [8] các mô hình học sâu đó vẫn bị hạn chế trong việc xử lý dữ liệu đầu vào có tính tuần tự, trong liên kết các công thức lan truyền ngược theo thời gian, và nhất là khi xử lý dữ liệu lớn có sự phụ thuộc lâu dài. Do đó việc xử lý tính mùa vụ cũng như xác định chính xác độ trễ tối ưu của các biến dữ liệu trong các mô hình này là bị hạn chế. Quá trình đào tạo các mô hình LSTM và GRU cũng gặp phải vấn đề về biến số và độ dốc (gradient) [8], đòi hỏi chi phí thời gian và tính toán lớn. 12 Mô hình học sâu Transformer đã đạt được hiệu suất vượt trội về xử lý ngôn ngữ tự nhiên và thị giác máy tính.
Trong số nhiều ưu điểm của Transformer, khả năng nắm bắt sự phụ thuộc và tương tác ở phạm vi dài của mô hình này đã thu hút nhiều nhà nghiên cứu xây dựng mô hình dự báo chuỗi thời gian dựa vào mô hình Transformer. Trung tâm của Transformer là khả năng tự chú ý. Nó cho phép một lớp được kết nối đầy đủ với các trọng số được sinh ra dựa trên sự giống nhau theo cặp của các mẫu đầu vào. Kết quả là nó chia sẻ cùng một đường dẫn tối đa như các lớp được kết nối đầy đủ nhưng với số lượng tham số ít hơn nhiều, khiến nó phù hợp để lập mô hình sự phụ thuộc lâu dài.
Tuy nhiên các kết quả đạt được của mô hình Transformer mới sơ khai ban đầu. Vấn đề xử lý tính mùa vụ và tính chu kỳ của dữ liệu chuỗi thời gian bằng sử dụng mô hình Transformer vẫn còn nhiều hạn chế. Thông qua nghiên cứu thực nghiệm, nghiên cứu [10] cho thấy mô hình dựa trên mạng nơtron đa lớp đơn giản có thể đạt được kết quả dự báo tốt hơn so với mô hình Transformer chuỗi thời gian. Cho đến thời điểm này việc ứng dụng phương pháp học sâu LSTM, GRU, hay Transformer trong các bài toán dự báo trên tập dữ liệu lớn của các biến giải thích chuỗi thời gian trong lĩnh vực kinh tế - tài chính vẫn còn nhiều hạn chế [5], [6], [7], [11].
Dự báo sử dụng phương pháp giảm chiều Nghiên cứu [37] có thể được xem là nghiên cứu đầu tiên về việc xây dựng mô hình dự báo trên tập dữ liệu chuỗi thời gian lớn bằng sử dụng phương pháp giảm chiều PCA. Nghiên cứu này cho rằng có thể thay thế một số lớn các biến ban đầu bằng một số ít các nhân tố ẩn, đó là các thành phần chính được chiết xuất bằng phương pháp PCA. Nghiên cứu này cũng cho biết dấu hiện để nhận biết một tập dữ liệu có xấp xỉ một siêu phẳng hay không.