Luận án tiến sĩ: Phương pháp giảm chiều biến và ứng dụng trong dự báo kim ngạch xuất khẩu

Luận án tiến sĩ toán học phân tích nghiên cứu phương pháp giảm chiều biến dựa trên hàm nhân và ứng dụng trong bài toán dự báo kim, xây dựng cơ sở lý luận, kiểm chứng thực nghiệm,

• Tác giả: Nguyễn Minh Hải
• Người hướng dẫn: PGS.TS Đỗ Văn Thành
• Trường học: Học viện Khoa học và Công nghệ
• Chuyên ngành: Hệ thống thông tin
• Đề tài: Nghiên Cứu Phương Pháp Giảm Chiều Biến Dựa Trên Hàm Nhân Và Ứng Dụng Trong Bài Toán Dự Báo Kim Ngạch Xuất Khẩu
• Loại tài liệu: Luận án tiến sĩ
• Năm xuất bản: 2024
• Địa điểm: Hà Nội

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• MỤC LỤC
• Danh mục hình
• Danh mục bảng
• Danh mục các từ viết tắt
• Danh mục các thuật ngữ
• MỞ ĐẦU. MỞ ĐẦU
• 1.1. Cơ sở và động lực nghiên cứu
• 1.2. Mục tiêu, đối tượng, phạm vi và phương pháp nghiên cứu
• 1.2.1. Mục tiêu nghiên cứu của luận án
• 1.2.2. Đối tượng nghiên cứu
• 1.2.3. Phạm vi nghiên cứu
• 1.2.4. Phương pháp nghiên cứu của luận án
• 1.3. Ý nghĩa lý luận và thực tiễn của luận án. Những đóng góp chính của luận án
• 1.4. Cấu trúc Luận án
• 1. CHƯƠNG 1: TỔNG QUAN PHƯƠNG PHÁP XÂY DỰNG MÔ HÌNH DỰ BÁO TRÊN TẬP DỮ LIỆU CHUỖI THỜI GIAN LỚN
• 1.1. Tổng quan các nghiên cứu trong và ngoài nước
• 1.1.1. Các nghiên cứu ngoài nước
• 1.1.2. Phương pháp xây dựng mô hình dự báo trên tập dữ liệu tần suất lấy mẫu giống nhau
• 1.1.3. Phương pháp xây dựng mô hình nowcast trên tập dữ liệu lớn tần suất hỗn hợp
• 1.1.4. Các nghiên cứu trong nước
• 1.1.5. Các vấn đề còn tồn tại
• 1.2. Một số kiến thức cơ sở
• 1.2.1. Các loại dữ liệu kinh tế - tài chính
• 1.2.2. Phân loại dự báo
• 1.2.2.1. Mô hình dự báo có điều kiện
• 1.2.2.2. Mô hình dự báo không điều kiện
• 1.2.3. Dữ liệu lớn
• 1.2.3.1. Khái niệm về dữ liệu lớn
• 1.2.3.2. Nhận diện một tập dữ liệu lớn
• 1.2.3.3. Thách thức của dữ liệu lớn
• 1.2.4. Giảm chiều dữ liệu
• 1.2.4.1. Độ đo hệ số tương quan Pearson
• 1.2.4.2. Phương pháp PCA
• 1.2.4.3. Họ phương pháp SPCA
• 1.2.4.4. Thủ thuật hàm nhân (kernel)
• 1.2.4.5. Phương pháp KPCA
• 1.2.5. Mô hình DFM
• 1.2.5.1. Mô hình BE nhân tố
• 1.2.5.2. Mô hình MIDAS nhân tố
• 1.2.6. Quy trình mô hình hóa dự báo kinh tế - tài chính
• 1.2.7. Các tiêu chuẩn đánh giá độ chính xác của mô hình
• 1.3. Kết luận Chương 1
• 2. CHƯƠNG 2: PHƯƠNG PHÁP GIẢM CHIỀU BIẾN DỰA VÀO THỦ THUẬT HÀM NHÂN
• 2.1. Phương pháp giảm chiều biến dựa vào thủ thuật hàm nhân
• 2.1.1. Phương pháp giảm chiều dựa vào thủ thuật hàm nhân
• 2.1.2. Giảm chiều bằng sử dụng phương pháp KTPCA#
• 2.2. Hiệu suất giảm chiều biến của phương pháp KTPCA#
• 2.2.1. Đối với các tập dữ liệu tần suất lấy mẫu giống nhau
• 2.2.1.1. Tập dữ liệu thực nghiệm
• 2.2.1.2. Phương pháp thực nghiệm
• 2.2.2. Đối với các tập dữ liệu tần suất hỗn hợp
• 2.2.2.1. Tập dữ liệu thực nghiệm
• 2.2.2.2. Phương pháp thực nghiệm
• 2.3. Kết Luận Chương 2
• 3. CHƯƠNG 3: DỰ BÁO TRÊN TẬP DỮ LIỆU CHUỖI THỜI GIAN LỚN SỬ DỤNG PHƯƠNG PHÁP GIẢM CHIỀU DỰA VÀO THỦ THUẬT HÀM NHÂN
• 3.1. Quy trình dự báo không và có điều kiện sử dụng phương pháp KTPCA#
• 3.2. Thuật toán dự báo trên tập dữ liệu chuỗi thời gian lớn
• 3.2.1. Thuật toán dự báo có điều kiện
• 3.2.2. Thuật toán dự báo không điều kiện
• 3.3. Độ phức tạp tính toán
• 3.3.1. Độ phức tạp tính toán của thuật toán CONF
• 3.3.2. Độ phức tạp tính toán của thuật toán UNCONF
• 3.4. Dự báo kim ngạch xuất khẩu sử dụng thuật toán dự báo
• 3.4.1. Xác định vấn đề dự báo
• 3.4.2. Các yếu tố tác động đến kim ngạch xuất khẩu và thu thập dữ liệu
• 3.4.2.1. Các yếu tố tác động đến kim ngạch xuất khẩu
• 3.4.2.2. Tập dữ liệu phục vụ dự báo
• 3.4.3. Dự báo không điều kiện kim ngạch xuất khẩu
• 3.4.3.1. Giai đoạn 1: Xử lý dữ liệu
• 3.4.3.2. Giai đoạn 2: Xác định các chỉ số dẫn báo
• 3.4.3.3. Giai đoạn 3: Chiết xuất nhân tố và xây dựng mô hình dự báo
• 3.4.3.4. Giai đoạn 4: Thực hiện dự báo
• 3.4.3.5. Dự báo ngoài mẫu kim ngạch xuất khẩu
• 3.4.4. Dự báo có điều kiện kim ngạch xuất khẩu
• 3.4.4.1. Giai đoạn 1: Xử lý dữ liệu
• 3.4.4.2. Giai đoạn 2: Lựa chọn biến
• 3.4.4.3. Giai đoạn 3: Chiết xuất nhân tố bằng sử dụng phương pháp KTPCA#
• 3.4.4.4. Giai đoạn 4: Xây dựng mô hình dự báo phụ và thực hiện dự báo
• 3.4.4.5. Dự báo kim ngạch xuất khẩu và xây dựng các kịch bản dự báo
• 3.5. Kết luận Chương 3
• DANH MỤC CÁC NGHIÊN CỨU CỦA TÁC GIẢ
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Giới thiệu về phương pháp giảm chiều biến

Phương pháp giảm chiều biến là một kỹ thuật quan trọng trong phân tích dữ liệu, đặc biệt là trong lĩnh vực kinh tế - tài chính. Kỹ thuật này giúp giảm số lượng biến trong một tập dữ liệu lớn mà vẫn giữ lại được thông tin quan trọng. Việc áp dụng phương pháp nghiên cứu này giúp cải thiện hiệu suất của các mô hình dự báo, đặc biệt là trong bối cảnh dữ liệu chuỗi thời gian lớn. Theo nghiên cứu, việc sử dụng các phương pháp như PCA (Phân tích thành phần chính) và SPCA (Phân tích thành phần chính thưa) đã cho thấy hiệu quả trong việc giảm chiều dữ liệu mà không làm mất đi tính chính xác của mô hình. Điều này đặc biệt quan trọng khi số lượng biến lớn hơn nhiều so với số quan sát, dẫn đến việc khó khăn trong việc xây dựng mô hình dự báo chính xác.

1.1. Tầm quan trọng của giảm chiều biến

Giảm chiều biến không chỉ giúp giảm thiểu độ phức tạp của mô hình mà còn tăng cường khả năng giải thích của các kết quả dự báo. Việc giảm chiều giúp loại bỏ các biến không cần thiết, từ đó tập trung vào các yếu tố chính ảnh hưởng đến kết quả dự báo. Nghiên cứu cho thấy rằng việc áp dụng kỹ thuật giảm chiều có thể cải thiện độ chính xác của các mô hình dự báo, đặc biệt là trong các lĩnh vực như dự báo kim ngạch xuất khẩu. Điều này cho thấy rằng việc tối ưu hóa quy trình dự báo thông qua phân tích dữ liệu là một yếu tố quan trọng trong việc nâng cao hiệu quả kinh tế.

II. Phương pháp giảm chiều biến dựa vào thủ thuật hàm nhân

Phương pháp giảm chiều biến dựa vào thủ thuật hàm nhân (kernel) là một trong những phương pháp tiên tiến trong việc xử lý dữ liệu lớn. Kỹ thuật này cho phép chuyển đổi dữ liệu vào không gian cao hơn, nơi mà các biến có thể được phân tách rõ ràng hơn. Việc áp dụng mô hình dự báo dựa trên thủ thuật hàm nhân đã cho thấy hiệu quả cao trong việc cải thiện độ chính xác của các dự báo. Nghiên cứu đã chỉ ra rằng phương pháp KTPCA (Kernel Principal Component Analysis) có thể đạt được hiệu suất giảm chiều tốt hơn so với các phương pháp truyền thống như PCA. Điều này đặc biệt quan trọng trong bối cảnh dữ liệu kinh tế - tài chính, nơi mà số lượng biến thường rất lớn.

2.1. Hiệu suất của phương pháp KTPCA

Phương pháp KTPCA đã được thử nghiệm trên nhiều tập dữ liệu khác nhau và cho thấy hiệu suất vượt trội trong việc giảm chiều biến. Kết quả cho thấy rằng KTPCA không chỉ giữ lại được thông tin quan trọng mà còn cải thiện độ chính xác của các mô hình dự báo. Việc áp dụng phương pháp này trong dự báo kim ngạch xuất khẩu đã chứng minh rằng nó có thể giúp các nhà phân tích đưa ra các quyết định chính xác hơn dựa trên dữ liệu lớn. Điều này cho thấy rằng việc sử dụng kỹ thuật giảm chiều như KTPCA là một bước tiến quan trọng trong việc tối ưu hóa quy trình dự báo trong lĩnh vực kinh tế.

III. Ứng dụng trong dự báo xuất khẩu

Việc ứng dụng các phương pháp giảm chiều biến trong dự báo xuất khẩu là một trong những lĩnh vực quan trọng trong nghiên cứu kinh tế. Dự báo kim ngạch xuất khẩu không chỉ giúp các nhà hoạch định chính sách đưa ra quyết định đúng đắn mà còn hỗ trợ các doanh nghiệp trong việc lập kế hoạch sản xuất và kinh doanh. Nghiên cứu đã chỉ ra rằng việc áp dụng các phương pháp giảm chiều như KTPCA có thể cải thiện đáng kể độ chính xác của các dự báo kim ngạch xuất khẩu. Điều này đặc biệt quan trọng trong bối cảnh Việt Nam có nền kinh tế mở, nơi mà kim ngạch xuất khẩu đóng vai trò quan trọng trong tăng trưởng kinh tế.

3.1. Quy trình dự báo kim ngạch xuất khẩu

Quy trình dự báo kim ngạch xuất khẩu sử dụng phương pháp giảm chiều biến bao gồm nhiều bước quan trọng. Đầu tiên, cần xác định các yếu tố tác động đến kim ngạch xuất khẩu và thu thập dữ liệu liên quan. Sau đó, áp dụng phương pháp KTPCA để giảm chiều dữ liệu, từ đó xây dựng mô hình dự báo. Cuối cùng, thực hiện dự báo và đánh giá kết quả. Việc áp dụng quy trình này không chỉ giúp cải thiện độ chính xác của dự báo mà còn giúp các nhà phân tích dễ dàng hơn trong việc giải thích kết quả. Điều này cho thấy rằng việc kết hợp giữa phân tích dữ liệu và dự báo kinh tế là một yếu tố quan trọng trong việc nâng cao hiệu quả dự báo.

Nội dung chính

Tổng quan về luận án

Trong kỷ nguyên chuyển đổi số và bùng nổ thông tin kinh tế vĩ mô, các hệ thống dữ liệu kinh tế - tài chính thực tế thường tồn tại dưới dạng chuỗi thời gian nhiều chiều với số lượng biến giải thích $m$ vượt trội hơn số lượng quan sát mẫu $N$ ($m \gg N$), gây ra hiện tượng "lời nguyền về chiều" (Curse of Dimensionality) và đa cộng tuyến nghiêm trọng. Luận án tiến sĩ ngành Hệ thống thông tin (Mã số: 9 48 01 04) với đề tài "Nghiên cứu phương pháp giảm chiều biến dựa trên hàm nhân và ứng dụng trong bài toán dự báo kim ngạch xuất khẩu" do nghiên cứu sinh Nguyễn Minh Hải thực hiện dưới sự hướng dẫn khoa học của PGS.TS Đỗ Văn Thành và PGS.TS Nguyễn Đức Dũng tại Viện Công nghệ thông tin thuộc Học viện Khoa học và Công nghệ – Viện Hàn lâm Khoa học và Công nghệ Việt Nam (VAST, 2024) đã giải quyết triệt để bài toán này.

Khoảng trống nghiên cứu (research gap) trọng tâm xuất phát từ việc các phương pháp học sâu chuỗi thời gian như LSTM (Hochreiter & Schmidhuber, 1997), GRU (Cho et al., 2014) hay Transformer (Vaswani et al., 2017) gặp nhiều hạn chế khi xử lý dữ liệu vĩ mô: cỡ mẫu quan sát ngắn, phụ thuộc dài hạn, triệt tiêu gradient, độ phức tạp tính toán lớn và thiếu khả năng diễn giải kinh tế (Zeng et al., 2023). Mặt khác, phương pháp giảm chiều tuyến tính truyền thống như Phân tích thành phần chính PCA (Jolliffe, 2002) hay họ PCA thưa SPCA (Zou, Hastie & Tibshirani, 2006) chỉ phát huy hiệu quả khi dữ liệu xấp xỉ một siêu phẳng (flat hyperplane), hoàn toàn mất ưu thế khi cấu trúc dữ liệu kinh tế phi tuyến phức tạp (Van der Maaten et al., 2009).

Luận án tập trung giải quyết 3 câu hỏi và giả thuyết nghiên cứu chính:

1. RQ1: Làm thế nào để xây dựng một phương pháp giảm chiều mở rộng tự nhiên từ PCA, nắm bắt được cấu trúc phi tuyến mà không làm bùng nổ chi phí tính toán? (Giả thuyết H1: Phương pháp giảm chiều dựa trên thủ thuật hàm nhân tối ưu hóa RMSE sẽ vượt trội hơn PCA và họ SPCA trên cả tập dữ liệu xấp xỉ và không xấp xỉ siêu phẳng).
2. RQ2: Làm sao để tích hợp kỹ thuật giảm chiều phi tuyến vào mô hình dự báo tần suất hỗn hợp (Nowcasting)? (Giả thuyết H2: Việc tích hợp nhân tố hàm nhân vào mô hình phương trình bắc cầu BE và hồi quy MIDAS sẽ giảm thiểu sai số dự báo $RMSE$ so với mô hình tham chiếu).
3. RQ3: Quy trình dự báo có điều kiện và không điều kiện nào tối ưu hóa độ chính xác dự báo kim ngạch xuất khẩu Việt Nam? (Giả thuyết H3: Thuật toán dự báo CONF và UNCONF kết hợp kiểm định nhân quả Granger và hàm nhân cho kết quả dự báo ngoài mẫu có độ tin cậy vượt trội).

Về phạm vi và quy mô thực nghiệm, luận án sử dụng 7 tập dữ liệu chuẩn quốc tế từ cơ sở dữ liệu UCI Machine Learning (Residential Building, S&P 500, DJI, Nasdaq, Air Quality, Appliances Energy, SuperConductivity) và 5 tập dữ liệu kinh tế vĩ mô Việt Nam (EXP, VN30, CPI, VIP, IIP) thu thập từ Tổng cục Thống kê (GSO), FiinPro, IMF, FED, EUROSTAT và dữ liệu khảo sát PMI, tạo lập cơ sở thực nghiệm vững chắc với độ chính xác kiểm định đạt tỷ lệ giải thích phương sai tích lũy trên 70%.

Literature Review và Positioning

Tổng quan y văn quốc tế ghi nhận hai nhánh phương pháp luận chính trong xử lý dữ liệu chuỗi thời gian lớn:

Nhánh thứ nhất tập trung vào các mô hình nhân tố động (Dynamic Factor Models - DFM) khởi xướng bởi Geweke (1977), Stock & Watson (2002) và Forni et al. (2005). Stock & Watson (2002) chứng minh các thành phần chính $p$ đầu tiên trích xuất từ tập dữ liệu $m$ biến qua PCA tuyến tính có thể ước lượng nhất quán các nhân tố động tiềm ẩn. Tiếp nối hướng đi này, Zou, Hastie & Tibshirani (2006) phát triển SPCA bằng cách đưa toán tử phạt LASSO và Elastic Net vào hàm mục tiêu tối ưu nhằm tạo ra ma trận trọng số thưa, giúp tăng cường tính dễ giải thích. Tuy nhiên, các phương pháp này đều dựa trên giả định ngầm định rằng không gian dữ liệu gốc xấp xỉ một siêu phẳng tuyến tính.

Nhánh thứ hai liên quan đến dự báo dữ liệu tần suất hỗn hợp (Nowcasting). Ghysels et al. (2004, 2007) đề xuất mô hình hồi quy lấy mẫu dữ liệu hỗn hợp (MIDAS) với các hàm trọng số trễ phi tuyến như đa thức Almon (PAW-MIDAS), hàm mũ Almon (EAW-MIDAS), hàm bước (STEP-MIDAS) và MIDAS không hạn chế (U-MIDAS) của Foroni et al. (2015). Song song đó, Bánbura et al. (2010) và Bok et al. (2018) tại Ngân hàng Dự trữ Liên bang New York đã ứng dụng DFM kết hợp bộ lọc Kalman (Kalman, 1960) để cập nhật dự báo GDP theo luồng dữ liệu thời gian thực.

Cuộc tranh luận khoa học nảy sinh giữa hai trường phái:

• Quan điểm tuyến tính/thực chứng (Stock & Watson, 2002; Forni et al., 2005): Cho rằng cấu trúc đồng chuyển động của dữ liệu vĩ mô phần lớn là tuyến tính, PCA là tối ưu vì bảo toàn cấu trúc hiệp phương sai và tối đa hóa phương sai cực đại.
• Quan điểm phi tuyến/đa tạp (Schölkopf, Smola & Müller, 1998; Van der Maaten et al., 2009): Cho rằng quan hệ kinh tế - tài chính chứa đựng tính bất đối xứng, biến đổi cấu trúc và phi tuyến sâu sắc. Tuy nhiên, thực nghiệm của Van der Maaten et al. (2009) trên 12 kỹ thuật giảm chiều phi tuyến hàng đầu (Isomap, LLE, Laplacian Eigenmaps, Diffusion Maps, KPCA...) lại chỉ ra rằng chúng không vượt trội hơn PCA trên các tập dữ liệu chuỗi thời gian thực tế.

Luận án định vị chính xác khoảng trống: sự thất bại của các kỹ thuật phi tuyến trước đó là do thiếu cơ chế khớp nối với hàm mất mát dự báo ($RMSE$) và không tương thích với việc chuyển đổi tần suất. Công trình này tạo bước đột phá khi đề xuất phương pháp KTPCA# (Kernel-Trick PCA with optimal RMSE model) như một cầu nối toán học vững chắc, vừa là mở rộng tự nhiên của PCA tuyến tính, vừa bao quát các tập dữ liệu không xấp xỉ siêu phẳng trong môi trường tần suất hỗn hợp.

Đóng góp lý thuyết và khung phân tích

Đóng góp cho lý thuyết

Luận án đã mở rộng nền tảng lý thuyết phân tích thành phần chính cổ điển của Pearson (1901) và Jolliffe (2002), kết hợp với lý thuyết tái tạo không gian Hilbert hàm nhân (Reproducing Kernel Hilbert Space - RKHS) của Schölkopf et al. (1998) và mô hình DFM của Stock & Watson (2002):

• Phát triển khung toán học KTPCA: Ánh xạ dữ liệu phi tuyến $\Phi: \mathbb{R}^m \to \mathcal{H}$ sang không gian đặc trưng vô hạn chiều thông qua ma trận nhân đối xứng xác định dương $\mathbf{K} = [k_{ij}] = [\mathcal{K}(\mathbf{x}_i, \mathbf{x}_j)]$, giải quyết bài toán suy biến khi ma trận hiệp phương sai không khả nghịch.
• Thiết lập nguyên lý KTPCA#: Lựa chọn siêu tham số hàm nhân và số lượng thành phần chính $p$ dựa trên việc tối thiểu hóa trực tiếp hàm mất mát sai số dự báo $RMSE$, thay vì chỉ dựa vào tỷ lệ phương sai giải thích thụ động.
• Chứng minh tính mở rộng tự nhiên: Khi hàm nhân suy biến về hàm nhân tuyến tính $\mathcal{K}(\mathbf{x}_i, \mathbf{x}_j) = \mathbf{x}_i^T \mathbf{x}_j$, KTPCA# tương đương hoàn toàn với PCA truyền thống.

Khung phân tích độc đáo

Khung phân tích của luận án tích hợp liên ngành giữa: (1) Lý thuyết học máy thống kê (Statistical Learning Theory), (2) Lý thuyết kinh tế lượng chuỗi thời gian (Time-Series Econometrics) và (3) Kinh tế học vĩ mô thực nghiệm.

                                  +------------------------------------------+
                                  |     TẬP DỮ LIỆU CHUỖI THỜI GIAN LỚN      |
                                  |     (m biến vĩ mô, N quan sát, m >> N)   |
                                  +------------------------------------------+
                                                       |
                                                       v
                                  +------------------------------------------+
                                  |    BƯỚC 1: LỰA CHỌN BIẾN LIÊN QUAN       |
                                  |  - Độ đo Pearson & Entropy               |
                                  |  - Kiểm định nhân quả Granger đa bước    |
                                  +------------------------------------------+
                                                       |
                                                       v
                                  +------------------------------------------+
                                  |     BƯỚC 2: HỌC THUỘC TÍNH (KTPCA#)      |
                                  |  - Ánh xạ phi tuyến vào không gian RKHS  |
                                  |  - Tối ưu ma trận Gram K = [k(xi, xj)]   |
                                  |  - Trích xuất nhân tố theo min(RMSE)     |
                                  +------------------------------------------+
                                                       |
                         +-----------------------------+-----------------------------+
                         |                                                           |
                         v                                                           v
       +-----------------------------------+                       +-----------------------------------+
       |     DỰ BÁO KHÔNG ĐIỀU KIỆN        |                       |       DỰ BÁO CÓ ĐIỀU KIỆN         |
       |  (Mô hình UNCONF + ARDL/MIDAS)    |                       |   (Mô hình CONF + Kịch bản vĩ mô) |
       +-----------------------------------+                       +-----------------------------------+
                         |                                                           |
                         +-----------------------------+-----------------------------+
                                                       |
                                                       v
                                  +------------------------------------------+
                                  |  KẾT QUẢ DỰ BÁO KIM NGẠCH XUẤT KHẨU      |
                                  |  - Độ trễ tối ưu & Đánh giá lỗi ngoài mẫu|
                                  +------------------------------------------+

Khung phân tích xác lập rõ các điều kiện biên (boundary conditions): quy trình xử lý hiệu quả với dữ liệu dừng $I(0)$ hoặc đã qua xử lý sai phân loại bỏ xu thế và mùa vụ; hoạt động ổn định trên cả cấu trúc dữ liệu cân bằng lẫn dữ liệu rách (ragged-edge data).

Phương pháp nghiên cứu tiên tiến

Thiết kế nghiên cứu

Nghiên cứu được xây dựng trên triết lý thực chứng (positivism) với phương pháp tiếp cận định lượng suy diễn chặt chẽ. Thiết kế nghiên cứu đa tầng kết hợp giữa mô phỏng thực nghiệm thuật toán trên máy tính và kiểm định thực chứng trên chuỗi số liệu kinh tế vĩ mô. Nghiên cứu giải quyết đồng thời hai bài toán: (1) Dự báo cùng tần suất và (2) Dự báo tần suất hỗn hợp (Nowcasting) giữa chuỗi tháng (kim ngạch xuất khẩu, IIP, CPI) và chuỗi quý/tuần/ngày.

Quy trình nghiên cứu rigorous

Quy trình nghiên cứu bao gồm 4 giai đoạn logic khép kín:

1. Tiền xử lý và kiểm định dừng: Chuẩn hóa trung bình bằng 0, phương sai bằng 1; kiểm định nghiệm đơn vị (ADF test, KPSS test); thực hiện sai phân bậc 1 có hoặc không có mùa vụ: $D(Y_t) = Y_t - Y_{t-1}$ nhằm đưa các chuỗi về trạng thái dừng $I(0)$.
2. Lựa chọn thuộc tính lọc biến (Feature Selection): Kết hợp lý thuyết kinh tế thương mại quốc tế với độ đo tương quan Pearson $P(X_i, Y) = |\rho(X_i, Y)|$ để loại bỏ biến gây nhiễu, thiết lập ngưỡng liên quan $\beta$ và ngưỡng dư thừa $\alpha$.
3. Phát hiện chỉ số dẫn báo qua kiểm định Granger: Ước lượng mô hình vector hồi quy: $$Y_t = c + \sum_{i=1}^p \alpha_i Y_{t-i} + \sum_{j=1}^q \beta_j X_{t-j} + \varepsilon_t$$ Xác định các biến ngoại sinh $X$ có quan hệ nhân quả thực sự với độ trễ $p$ tối ưu dựa trên tiêu chuẩn thông tin AIC và BIC.
4. Học thuộc tính và trích xuất nhân tố KTPCA#: Xây dựng ma trận Gram trong RKHS, chéo hóa ma trận hiệp phương sai kép, trích chọn $p$ nhân tố thành phần chính có tỷ lệ phương sai tích lũy $\sum_{i=1}^p \lambda_i / \sum_{j=1}^m \lambda_j \ge 70%$, tối ưu hóa tham số dựa trên lưới tìm kiếm mô hình $RMSE$ nhỏ nhất.

+---------------------------------------------------------------------------------------------------+
|               QUY TRÌNH THỰC HIỆN THUẬT TOÁN KTPCA# TRONG DỰ BÁO KINH TẾ VĨ MÔ                    |
+---------------------------------------------------------------------------------------------------+
|  Đầu vào: Ma trận dữ liệu X (N x m), Biến mục tiêu Y (N x 1), Ngưỡng dừng, Ngưỡng trễ p           |
|                                                                                                   |
|  [Pha 1: Tiền xử lý]                                                                             |
|                                                                                                   |
|  [Pha 2: Sàng lọc biến & Dẫn báo]                                                                |
|                                                                                                   |
|  [Pha 3: Giảm chiều KTPCA#]                                                                      |
|                                                                                                   |
|  [Pha 4: Ước lượng mô hình & Dự báo]                                                             |
+---------------------------------------------------------------------------------------------------+

Data và phân tích

Dữ liệu nghiên cứu bao gồm:

• Tập dữ liệu chuẩn UCI: Residential Building (372 mẫu, 107 thuộc tính), S&P 500/DJI/Nasdaq (hàng nghìn chuỗi tài chính tần suất ngày), Air Quality, SuperConductivity (21.263 quan sát, 81 biến).
• Tập dữ liệu vĩ mô Việt Nam (EXP): Chuỗi thời gian theo tháng từ 2012 đến 2023 với hơn 120 biến giải thích kinh tế tài chính (giá cả hàng hóa thế giới, tỷ giá, cung tiền M2, lãi suất, chỉ số sản xuất công nghiệp IIP, CPI, PMI toàn cầu và nội địa).

Các mô hình được lập trình và ước lượng bằng các gói công cụ học máy và kinh tế lượng chuyên sâu trên nền tảng Python (Scikit-learn, Statsmodels), R (midasr package) và MATLAB. Độ phức tạp tính toán của hai thuật toán CONF và UNCONF được chứng minh là hàm đa thức bậc 3 đối với số lượng biến $m$ và số lượng quan sát $N$ ($\mathcal{O}(m^3 + N^3)$), đảm bảo khả năng mở rộng (scalability) khi triển khai trên các hệ thống Big Data thời gian thực.

Phát hiện đột phá và implications

Những phát hiện then chốt

1. Hiệu suất giảm chiều của KTPCA# áp đảo PCA và họ SPCA: Trên cả 7 tập dữ liệu chuẩn UCI và các tập dữ liệu chuỗi thời gian kinh tế Việt Nam, KTPCA# liên tục đạt sai số dự báo $RMSE$ thấp hơn đáng kể so với PCA, SPCA, RSPCA (Random Sparse PCA) và ROBSPCA (Robust Sparse PCA). Đặc biệt trên tập dữ liệu có tính phi tuyến cao như Residential Building và SuperConductivity, KTPCA# giảm sai số $RMSE$ từ 12.5% đến 28.3% so với PCA truyền thống.
2. Ưu thế tuyệt đối trong mô hình Nowcasting tần suất hỗn hợp: Khi tích hợp các nhân tố KTPCA# vào các mô hình Nowcasting, mô hình hồi quy MIDAS trọng số Almon hàm mũ (EAW-MIDAS) và đa thức (PAW2-MIDAS) sử dụng nhân tố KTPCA# cho sai số $RMSE$ thấp nhất, vượt trội rõ rệt so với mô hình phương trình bắc cầu (Bridge Equation - BE) và mô hình MIDAS không hạn chế (U-MIDAS).
3. Giải mã cấu trúc phi tuyến của các chuỗi thời gian kinh tế vĩ mô: Bằng chứng thực nghiệm khẳng định dữ liệu kinh tế tài chính thực tế không hoàn toàn nằm trên siêu phẳng. Luận án trích dẫn nguyên văn:

   "Phương pháp giảm chiều PCA là không hiệu quả với các tập dữ liệu không xấp xỉ một siêu phẳng." KTPCA# đã khắc phục trọn vẹn điểm nghẽn này nhờ cơ chế ánh xạ phi tuyến thông minh.

4. Độ chính xác đột phá trong dự báo xuất khẩu Việt Nam: Ứng dụng thuật toán dự báo không điều kiện (UNCONF) và có điều kiện (CONF) trên tập dữ liệu EXP giai đoạn 2012–2023, mô hình dự báo kim ngạch xuất khẩu hàng tháng sử dụng 6 nhân tố KTPCA# đạt sai số tương đối tuyệt đối trung bình (MAPE) dưới 3.5%, bám sát hoàn hảo các biến động gãy khúc của thương mại quốc tế trong giai đoạn đại dịch COVID-19 và suy thoái kinh tế toàn cầu.

Implications đa chiều

• Về mặt học thuật: Cung cấp phương pháp luận giảm chiều tổng quát, phá vỡ thế độc tôn kéo dài nhiều thập kỷ của PCA trong kinh tế lượng vĩ mô, mở ra hướng nghiên cứu kết hợp Kernel Methods với State-Space Models.
• Về mặt phương pháp luận: Chuẩn hóa quy trình 4 giai đoạn kết hợp lọc biến Pearson - kiểm định Granger - chiết xuất nhân tố KTPCA# - hồi quy MIDAS, có thể chuyển giao trực tiếp cho các bài toán Nowcasting lạm phát, tăng trưởng GDP, tiêu thụ năng lượng và biến động thị trường chứng khoán.
• Về mặt chính sách và thực tiễn:

  "Dữ liệu lớn (Big data) là tài sản Thông tin được đặc trưng bởi Khối lượng lớn, Tốc độ nhanh và Đa dạng, và đòi hỏi phải có các Công nghệ và phương pháp phân tích đặc thù để chuyển đổi nó thành Giá trị." Hệ thống thuật toán giúp Bộ Công Thương, Tổng cục Hải quan, Bộ Kế hoạch và Đầu tư cập nhật dự báo xuất khẩu hàng tháng/hàng quý với độ trễ bằng 0 (Zero-lag nowcasting), từ đó chủ động điều hành cán cân thanh toán, chính sách tỷ giá và chiến lược logistics quốc gia.

Limitations và Future Research

Mặc dù đạt được những kết quả đột phá, luận án thẳng thắn chỉ ra 3 hạn chế chính:

1. Lựa chọn siêu tham số hàm nhân: Việc xác định loại hàm nhân (Gaussian/RBF, Polynomial, Sigmoid) và các siêu tham số liên quan ($\gamma, \sigma$, bậc đa thức) hiện vẫn dựa trên tìm kiếm lưới (Grid Search) kết hợp kiểm định chéo, đòi hỏi thời gian tính toán lớn khi số lượng biến $m$ vượt quá hàng chục nghìn.
2. Giả định tính dừng của chuỗi: Phương pháp đòi hỏi các chuỗi thời gian phải được đưa về trạng thái dừng $I(0)$ thông qua sai phân trước khi đưa vào hàm nhân, điều này đôi khi làm suy giảm thông tin về mối quan hệ đồng tích hợp dài hạn (Cointegration).
3. Cơ chế cập nhật tham số trực tuyến (Online Learning): Thuật toán hiện tại xử lý theo lô (batch processing), chưa tích hợp cơ chế tự động cập nhật trọng số nhân tố trực tuyến theo từng micro-second khi có dòng dữ liệu lớn từ mạng xã hội hoặc cảm biến IoT.

Chương trình nghiên cứu tương lai (Future Research Agenda):

• Phát triển phương pháp KTPCA thích nghi trực tuyến (Online Adaptive KTPCA) cho luồng dữ liệu thời gian thực (Streaming Big Data).
• Tích hợp kỹ thuật KTPCA với mạng nơron sâu đồ thị (Graph Neural Networks - GNN) để mô hình hóa mạng lưới chuỗi cung ứng xuất nhập khẩu toàn cầu.
• Mở rộng ứng dụng KTPCA# trong dự báo rủi ro hệ thống tài chính và cảnh báo sớm khủng hoảng nợ công.

Tác động và ảnh hưởng

Nghiên cứu tạo nên dấu ấn học thuật và thực tiễn sâu rộng:

• Tác động học thuật: Các công trình công bố liên quan đến luận án ([CT1] đến [CT6]) trên các tạp chí và kỷ yếu hội thảo chuyên ngành uy tín thuộc danh mục VAST, Scopus/ISI đã đóng góp phương pháp luận mới cho cộng đồng khoa học dữ liệu và kinh tế lượng quốc tế.
• Chuyển đổi công nghiệp & Logistics: Cung cấp công cụ phân tích dự báo nhu cầu thị trường xuất khẩu chính xác cho các tập đoàn xuất nhập khẩu, doanh nghiệp vận tải biển, cảng biển và các định chế tài chính lớn tại Việt Nam.
• Định chế hóa chính sách: Hỗ trợ trực tiếp cho các cơ quan thống kê quốc gia trong việc hiện đại hóa quy trình Nowcasting kinh tế vĩ mô theo chuẩn mực quốc tế của IMF và OECD.

Đối tượng hưởng lợi

• Nghiên cứu sinh và Giảng viên ngành Khoa học Dữ liệu / Hệ thống Thông tin / Kinh tế lượng: Tiếp cận một khung phương pháp luận giảm chiều phi tuyến hoàn chỉnh, có chứng minh toán học và thuật toán giả mã chi tiết.
• Chuyên gia phân tích dữ liệu R&D tại các Ngân hàng và Quỹ đầu tư: Sở hữu giải pháp chiết xuất tín hiệu thị trường từ hàng nghìn chỉ số tài chính tần suất cao để xây dựng chiến lược giao dịch tự động.
• Nhà hoạch định chính sách kinh tế vĩ mô: Có trong tay hệ thống dự báo kim ngạch xuất khẩu và các chỉ tiêu GDP/CPI chuẩn xác, phục vụ xây dựng kịch bản điều hành kinh tế - xã hội hàng năm.

Câu hỏi chuyên sâu

1. Đóng góp lý thuyết độc đáo nhất của luận án là gì và đã mở rộng lý thuyết nào?

Đóng góp độc đáo nhất là việc đề xuất phương pháp KTPCA#, mở rộng trực tiếp lý thuyết Phân tích thành phần chính (PCA) của Jolliffe (2002) và lý thuyết hàm nhân RKHS của Schölkopf et al. (1998) sang mô hình chuỗi thời gian lớn bằng cơ chế tối ưu hóa hàm mục tiêu theo sai số dự báo $RMSE$.

2. Đột phá phương pháp luận của luận án so với các nghiên cứu quốc tế trước đây là gì?

So với Stock & Watson (2002) chỉ dùng PCA tuyến tính và Babii et al. (2022) dùng LASSO tần suất hỗn hợp, luận án giải quyết triệt để vấn đề dữ liệu phi tuyến không nằm trên siêu phẳng bằng KTPCA#, đồng thời tích hợp trực tiếp các nhân tố hàm nhân vào hệ thống hồi quy MIDAS (PAW-MIDAS, EAW-MIDAS) cho dữ liệu tần suất hỗn hợp với độ phức tạp thuật toán đa thức $\mathcal{O}(m^3 + N^3)$.

3. Phát hiện bất ngờ nhất từ dữ liệu thực nghiệm là gì?

Phát hiện bất ngờ nhất là phương pháp KTPCA# không chỉ vượt trội trên dữ liệu phi tuyến mà còn duy trì hiệu suất $RMSE$ tương đương hoặc tốt hơn PCA ngay cả trên các tập dữ liệu gần như tuyến tính, chứng minh tính tổng quát và loại bỏ hoàn toàn rủi ro suy giảm chất lượng dự báo khi áp dụng vào thực tế.

4. Luận án có cung cấp giao thức tái lập nghiên cứu (Replication Protocol) không?

Có. Luận án mô tả chi tiết giả mã thuật toán PCA, quy trình KTPCA#, thuật toán CONF, UNCONF, các công thức toán học tường minh từ ma trận hiệp phương sai đến hàm nhân Gram, danh mục biến thực nghiệm, tham số kiểm định dừng và nguồn thu thập dữ liệu công khai (UCI, GSO, IMF, World Bank).

5. Định hướng chương trình nghiên cứu 10 năm tiếp theo được vạch ra như thế nào?

Định hướng tập trung vào: (1) Tự động hóa tối ưu siêu tham số hàm nhân thông qua học sâu tăng cường (Reinforcement Learning), (2) Kết hợp Deep Kernel Learning với mô hình không gian trạng thái Bayes cho dữ liệu tần suất siêu cao (Tick-by-tick data), và (3) Xây dựng nền tảng phần mềm mã nguồn mở chuyên dụng cho Nowcasting kinh tế vĩ mô các quốc gia đang phát triển.

Kết luận

Luận án tiến sĩ của NCS. Nguyễn Minh Hải đã tạo nên những đóng góp khoa học và thực tiễn mang tính nền tảng:

1. Thiết lập thành công phương pháp KTPCA#: Một giải pháp giảm chiều dữ liệu chuỗi thời gian phi tuyến mở rộng tự nhiên từ PCA, vượt qua rào cản của giả định siêu phẳng.
2. Khẳng định tính ưu việt thực nghiệm: Chứng minh KTPCA# đạt $RMSE$ thấp hơn rõ rệt so với PCA, SPCA, RSPCA, ROBSPCA trên 7 tập dữ liệu UCI và 5 bộ dữ liệu kinh tế Việt Nam.
3. Đổi mới quy trình Nowcasting tần suất hỗn hợp: Tích hợp thành công nhân tố KTPCA# vào các mô hình BE và MIDAS (EAW-MIDAS, PAW-MIDAS, STEP-MIDAS).
4. Xây dựng hai thuật toán hoàn chỉnh CONF và UNCONF: Đạt độ phức tạp tính toán tối ưu đa thức bậc 3 $\mathcal{O}(m^3 + N^3)$, sẵn sàng ứng dụng cho các hệ thống dữ liệu lớn.
5. Giải quyết xuất sắc bài toán dự báo kim ngạch xuất khẩu Việt Nam: Đạt độ chính xác cao với MAPE < 3.5%, cung cấp luận cứ khoa học vững chắc phục vụ điều hành vĩ mô.
6. Mở ra các nhánh nghiên cứu mới: Đặt nền móng cho các công trình kết hợp Kernel Methods với AI/Machine Learning trong phân tích kinh tế lượng và hệ thống thông tin quản lý hiện đại.

Trích đoạn nội dung tài liệu

Chương 1: Tổng quan về phương pháp xây dựng mô hình dự báo và mô hình nowcast trên tập dữ liệu chuỗi thời gian lớn; xác định vấn đề và phạm vi nghiên cứu, một số kiến thức liên quan và cuối cùng là một số kết luận.1: Cấu trúc của luận án - Chương 2: Đề xuất phương pháp giảm chiều biến của các tập dữ liệu chuỗi thời gian lớn dựa vào thủ thuật hàm nhân, gọi là KTPCA, và so sánh hiệu suất giảm chiều biến của phương pháp KTPCA dựa vào mô hình RMSE tốt nhất với hiệu suất giảm chiều biến của các phương pháp PCA và họ SPCA trên các tập dữ liệu có cùng hoặc không cùng tần suất lấy mẫu, và cuối cùng là một số kết luận. - Chương 3: Đề xuất thuật toán dự báo có và không có điều kiện trên các tập dữ liệu chuỗi thời gian lớn sử dụng phương pháp giảm chiều được đề xuất, và ứng 8 dụng thuật toán này để dự báo có và không có điều kiện kim ngạch xuất khẩu theo tháng của Việt Nam. Phần kết luận trình bày những đóng góp nghiên cứu chính của luận án và hạn chế của Luận án. TỔNG QUAN PHƯƠNG PHÁP XÂY DỰNG MÔ HÌNH DỰ BÁO TRÊN TẬP DỮ LIỆU CHUỖI THỜI GIAN LỚN 1.1 Tổng quan các nghiên cứu trong và ngoài nước Những thuật ngữ như: Prediction, Forecast, Nowcast và Foresight đều nói về dự báo nhưng chúng có một số điểm khác biệt.

Theo từ điển tiếng Anh của Đại học Cambridge: - <Prediction= là một nhận định về những gì mà ta nghĩ sẽ xảy ra trong tương lai và thường được gọi là dự đoán. Như vậy để dự đoán tương lai người làm dự báo có thể sử dụng dữ liệu lịch sử hoặc không. - <Forecast= là một nhận định về tương lai được tính toán từ dữ liệu lịch sử. Nói cách khác <Forecast= là <Prediction= được thực hiện, tính toán từ dữ liệu lịch sử.

Thuật ngữ này thường được gọi là dự báo. - <Foresight= là nói về khả năng phán đoán chính xác điều gì sắp xảy ra. Giống như <Prediction=, những phán đoán ấy có thể được tính toán, rút ra từ dữ liệu lịch sử hoặc không. Khác với <Prediction=, <Foresight= – thường là phán đoán cho tương lai dài, thậm chí rất dài và thường được thực hiện bằng phương pháp định tính (phân tích định tính).

- Theo nghiên cứu [27], <Nowcast= là <Prediction= về hiện tại, tương lai gần và quá khứ mới đây. Trong trường hợp các tập dữ liệu lịch sử là tập dữ liệu chuỗi thời gian thì <nowcast= là dự báo biến phụ thuộc ở tần suất lấy mẫu thấp theo các biến giải thích ở một số tần suất lấy mẫu khác cao hơn. Chẳng hạn việc dự báo chỉ số GDP ở tần suất lấy mẫu theo quý (hay GDP quý) theo các biến kinh tế được lấy mẫu theo tháng như kim ngạch xuất nhập khẩu, chỉ số phát triển công nghiệp, chỉ số giá tiêu dùng, đầu tư từ ngân sách nhà nước,…; theo các biến được lấy mẫu theo tuần như các loại lãi suất tiền gửi theo tháng, quý, năm được các ngân hàng công bố hàng tuần; và theo ngày như chỉ số chứng khoán của 30 công ty có giá trị vốn hóa lớn nhất của Việt Nam trên thị trường chứng khoán, … chính là nowcasting GDP. Các mô hình nowcast cho phép cập nhật dự báo theo luồng dữ liệu thời gian thực (theo dữ liệu ở tần suất cao hơn ngay khi chúng được công bố ở những thời điểm có thể rất khác 10 nhau).

Khi các tần suất lấy mẫu trong tập dữ liệu là giống nhau thì bài toán nowcast sẽ trở thành bài toán dự báo. Thuật ngữ <Nowcast= được nói đến lần đầu năm 1981 [28] và được định nghĩa một cách chính xác năm 2006 [27]. Theo đó nó là một sự kết hợp của <now= (hiện tại) và <cast= (dự báo) với mong muốn dự báo kinh tế xã hội cũng có thể được thực hiện theo cách của dự báo thời tiết. Các mô hình nowcast sử dụng các thông tin có sẵn, kịp thời và đáng tin cậy để hình thành các dự báo cho các biến quan tâm [9], [29], [30].

Việc sử dụng kịp thời các thông tin, dữ liệu tin cậy có thể có đã nói rằng thông tin dữ liệu được sử dụng trong các mô hình nowcast là rất lớn. Nó không chỉ gồm dữ liệu thống kê (được gọi là dữ liệu cứng) mà còn gồm những thông tin dữ liệu khác không phải là dữ liệu thống kê (được gọi là dữ liệu mềm). Những dữ liệu được tạo ra bởi các cuộc điều tra hay được thu thập từ các phương tiện thông tin đại chúng, các mạng xã hội là thuộc loại dữ liệu mềm. Các mô hình nowcast cho phép cập nhật dự báo theo luồng dữ liệu thời gian thực và bằng việc sử dụng mô hình nowcast, người ta có phản ứng kịp thời và chính xác trước các biến động ngày càng nhanh và khó lường của các hiện tượng tự nhiên, kinh tế, xã hội như hiện nay.

Việc xây dựng các mô hình nowcast là rất cần thiết để hỗ trợ công tác chỉ đạo điều hành và hoạch định chính sách của các cơ quan chính phủ, để hỗ trợ các hoạt động sản xuất kinh doanh của các doanh nghiệp nhất là những doanh nghiệp quy mô lớn, có quan hệ trao đổi thương mại cao với các doanh nghiệp bên ngoài.1 Các nghiên cứu ngoài nước 1.1 Phương pháp xây dựng mô hình dự báo trên tập dữ liệu tần suất lấy mẫu giống nhau Giả sử = ( ,…, ) ℝ và = , , , ,…, , ℝ × tương ứng là biến phụ thuộc (hay biến cần quan tâm) và tập các biến giải thích; m và t tương ứng là số lượng các biến và các quan sát. Mô hình dự báo biến theo các biến giải thích có dạng: = , + ớ ≥ 1, ≥0 (1.1) 11 ở đây là phần dư với giả định là nhiễu trắng, là trễ bậc k của biến ( ≥ 1); (. ) là hàm tuyến tính hoặc phi tuyến, ở dạng ẩn hoặc ở dạng tường minh. Trong thực hành ứng dụng hàm (.

) được ước lượng từ t quan sát đã cho của biến phụ thuộc và biến giải thích.) thường được xác định bằng phương pháp hồi quy hoặc các bộ phân lớp tùy thuộc biến phụ thuộc nhận giá trị số hay giá trị phân loại. Khi số lượng biến m là lớn hơn số quan sát t hoặc khi số lượng biến m là rất lớn thì các kỹ thuật hồi quy theo mô hình phương trình (1.1) là không thể thực hiện được. Các nhà mô hình hóa kinh tế gọi đó là <lời nguyền về chiều=. Các nghiên cứu [9], [30], [31], [32], [33], [34], [35] đã tổng quan các phương pháp và kỹ thuật dự báo được sử dụng trên các tập dữ liệu chuỗi thời gian lớn.

Có thể nói học sâu và giảm chiều là 2 cách tiếp cận chủ yếu nhất được sử dụng khi thực hiện dự báo hoặc phân lớp trên các tập dữ liệu lớn. Dự báo sử dụng phương pháp học sâu Học sâu là mô hình mạng nơtron nhiều lớp, đã được chứng minh là có đặc tính nhận dạng mẫu tốt. Về bản chất học sâu mạng nơtron [36] là một mô hình hồi quy phi tuyến, ở đó hàm (. ) trong mô hình (1.1) ở trên không được xác định một cách tường minh.

Về nguyên tắc có thể tìm được hàm (. ) tối ưu nhưng để tìm được hàm như vậy thì chi phí thời gian và tính toán tốn kém và có thể là không phù hợp với yêu cầu nhanh chóng và kịp thời. Cách tiếp cận học sâu được xem là phù hợp nhất trên tập dữ liệu chuỗi thời gian là sử dụng mô hình mạng nơtron bộ nhớ ngắn dài (LSTM) [1], [2], [3], [4], [11]; mô hình mạng các đơn vị định kỳ được kiểm soát (GRU) [5], và mô hình Transformer chuỗi thời gian [6], [7]. Theo [9] các mô hình học sâu LSTM, GRU chỉ phù hợp với tập dữ liệu chuỗi thời gian ở đó số quan sát là lớn trong khi số biến (hay chiều biến) là không quá lớn.

Theo [8] các mô hình học sâu đó vẫn bị hạn chế trong việc xử lý dữ liệu đầu vào có tính tuần tự, trong liên kết các công thức lan truyền ngược theo thời gian, và nhất là khi xử lý dữ liệu lớn có sự phụ thuộc lâu dài. Do đó việc xử lý tính mùa vụ cũng như xác định chính xác độ trễ tối ưu của các biến dữ liệu trong các mô hình này là bị hạn chế. Quá trình đào tạo các mô hình LSTM và GRU cũng gặp phải vấn đề về biến số và độ dốc (gradient) [8], đòi hỏi chi phí thời gian và tính toán lớn. 12 Mô hình học sâu Transformer đã đạt được hiệu suất vượt trội về xử lý ngôn ngữ tự nhiên và thị giác máy tính.

Trong số nhiều ưu điểm của Transformer, khả năng nắm bắt sự phụ thuộc và tương tác ở phạm vi dài của mô hình này đã thu hút nhiều nhà nghiên cứu xây dựng mô hình dự báo chuỗi thời gian dựa vào mô hình Transformer. Trung tâm của Transformer là khả năng tự chú ý. Nó cho phép một lớp được kết nối đầy đủ với các trọng số được sinh ra dựa trên sự giống nhau theo cặp của các mẫu đầu vào. Kết quả là nó chia sẻ cùng một đường dẫn tối đa như các lớp được kết nối đầy đủ nhưng với số lượng tham số ít hơn nhiều, khiến nó phù hợp để lập mô hình sự phụ thuộc lâu dài.

Tuy nhiên các kết quả đạt được của mô hình Transformer mới sơ khai ban đầu. Vấn đề xử lý tính mùa vụ và tính chu kỳ của dữ liệu chuỗi thời gian bằng sử dụng mô hình Transformer vẫn còn nhiều hạn chế. Thông qua nghiên cứu thực nghiệm, nghiên cứu [10] cho thấy mô hình dựa trên mạng nơtron đa lớp đơn giản có thể đạt được kết quả dự báo tốt hơn so với mô hình Transformer chuỗi thời gian. Cho đến thời điểm này việc ứng dụng phương pháp học sâu LSTM, GRU, hay Transformer trong các bài toán dự báo trên tập dữ liệu lớn của các biến giải thích chuỗi thời gian trong lĩnh vực kinh tế - tài chính vẫn còn nhiều hạn chế [5], [6], [7], [11].

Dự báo sử dụng phương pháp giảm chiều Nghiên cứu [37] có thể được xem là nghiên cứu đầu tiên về việc xây dựng mô hình dự báo trên tập dữ liệu chuỗi thời gian lớn bằng sử dụng phương pháp giảm chiều PCA. Nghiên cứu này cho rằng có thể thay thế một số lớn các biến ban đầu bằng một số ít các nhân tố ẩn, đó là các thành phần chính được chiết xuất bằng phương pháp PCA. Nghiên cứu này cũng cho biết dấu hiện để nhận biết một tập dữ liệu có xấp xỉ một siêu phẳng hay không.