Khóa luận dự báo chuỗi thời gian đa biến áp dụng mô hình VAR-NN - ĐH Sư phạm Kỹ thuật TP.HCM

Hướng dẫn xây dựng mô hình dự báo chuỗi thời gian đa biến với Vector Autoregressive Neural Network (VAR-NN), tối ưu độ chính xác và xử lý dữ liệu phức tạp.

• Tác giả: Vũ Ngọc Nam
• Người hướng dẫn: TS. Nguyễn Thành Sơn
• Trường học: Trường Đại học Sư phạm Kỹ thuật Thành phố Hồ Chí Minh
• Chuyên ngành: Hệ thống thông tin
• Đề tài: Xây dựng mô hình dự báo cho chuỗi thời gian đa biến áp dụng Vector Autoregressive Neural Network (VAR-NN)
• Loại tài liệu: Khóa luận tốt nghiệp
• Năm xuất bản: 2025
• Địa điểm: Hồ Chí Minh

Tóm tắt

I. Tổng quan về dự báo chuỗi thời gian đa biến bằng VAR NN

Dự báo chuỗi thời gian đa biến đóng vai trò then chốt trong phân tích dữ liệu hiện đại. Nhiều lĩnh vực như tài chính, khí tượng và vận hành công nghiệp đòi hỏi theo dõi đồng thời nhiều chuỗi số liệu tương tác lẫn nhau. Các mô hình thống kê cổ điển thường gặp khó khăn khi số lượng biến gia tăng. Nghiên cứu tại Trường Đại học Sư phạm Kỹ thuật TP.HCM tập trung giải quyết bài toán này. Đề tài phát triển mô hình Vector Autoregressive Neural Network, viết tắt là VAR-NN. Phương pháp này tích hợp nền tảng kinh tế lượng của mô hình VAR cùng sức mạnh học sâu của mạng nơ-ron nhân tạo. Cấu trúc lai cho phép mô hình tiếp nhận dữ liệu đầu vào đa chiều một cách linh hoạt. Hệ thống tự động học các mẫu biến đổi phức tạp mà không cần đặt nặng giả định tuyến tính cứng nhắc. Nhờ vậy, kết quả dự báo đạt độ tin cậy vượt trội so với các cách tiếp cận độc lập trước đây. Khóa luận cung cấp cơ sở lý thuyết vững chắc cho việc ứng dụng máy học vào phân tích dữ liệu đa biến. Đây là bước tiến thực tiễn trong công tác nghiên cứu học thuật tại khoa Công nghệ Thông tin.

1.1. Bối cảnh nghiên cứu đề tài tại ĐH Sư phạm Kỹ thuật TP.HCM

Đề tài được thực hiện bởi sinh viên ngành Hệ thống thông tin thuộc Trường Đại học Sư phạm Kỹ thuật TP.HCM. Công trình do TS. Nguyễn Thành Sơn trực tiếp hướng dẫn khoa học. Nhu cầu dự báo chính xác chuỗi thời gian đa biến ngày càng tăng cao trong kỷ nguyên dữ liệu lớn. Các doanh nghiệp và viện nghiên cứu cần công cụ phân tích tự động có độ nhạy cao. Nghiên cứu ra đời nhằm đáp ứng nhu cầu cấp thiết này. Nhóm tác giả khai thác các tập dữ liệu thực tế để kiểm chứng mô hình. Quá trình thực nghiệm được tiến hành nghiêm ngặt qua từng giai đoạn tiền xử lý và huấn luyện. Đồ án khẳng định năng lực nghiên cứu ứng dụng công nghệ cao của sinh viên nhà trường.

1.2. Khái niệm cốt lõi của mô hình lai ghép VAR NN

Mô hình VAR-NN là sự kết hợp giữa thuật toán Vector Autoregressive và mạng nơ-ron nhân tạo. VAR chịu trách nhiệm giải thích các tương tác trễ tuyến tính giữa những biến số trong hệ thống. Thành phần mạng nơ-ron đảm nhận nhiệm vụ học các phi sai số và quy luật phi tuyến phức tạp. Cấu trúc tích hợp này bù trừ hoàn hảo cho các nhược điểm của từng phương pháp riêng lẻ. Dữ liệu sau khi kiểm định tính dừng sẽ được đưa vào các lớp xử lý tuần tự. Mô hình tối ưu hóa các trọng số thông qua thuật toán lan truyền ngược. Sai số dự báo giảm thiểu đáng kể so với mô hình chuỗi thời gian đơn biến thông thường. Nhờ đó, VAR-NN thể hiện sự vượt trội trong dự báo dài hạn.

II. Phân tích thách thức trong dự báo chuỗi thời gian đa biến

Dự báo chuỗi thời gian đa biến đối mặt với nhiều thách thức toán học và thống kê phức tạp. Trở ngại lớn nhất là hiện tượng không dừng của chuỗi dữ liệu thực tế. Xu hướng và tính mùa vụ làm thay đổi phân phối xác suất theo thời gian. Sự phụ thuộc qua lại giữa các biến số tạo ra ma trận tương quan nhiều chiều rất khó kiểm soát. Các mô hình tuyến tính truyền thống như ARIMA hay VAR thuần túy dựa trên giả định quan hệ tuyến tính nghiêm ngặt. Khi thị trường xuất hiện biến động đột ngột hoặc quan hệ phi tuyến, mô hình cổ điển mất đi độ chính xác. Hiện tượng quá khớp cũng dễ xảy ra nếu số lượng tham số ước lượng vượt quá kích thước mẫu. Ngoài ra, việc lựa chọn bậc trễ thời gian tối ưu đòi hỏi chi phí tính toán lớn. Các kiểm định thống kê chuyên sâu là bắt buộc trước khi đưa dữ liệu vào mô hình. Nếu bỏ qua bước này, kết quả ước lượng sẽ dẫn đến hiện tượng hồi quy giả mạo nghiêm trọng. Vì vậy, việc xây dựng phương pháp tiếp cận mới có tính thích nghi cao là yêu cầu tất yếu.

2.1. Hạn chế của các mô hình chuỗi thời gian truyền thống

Các phương pháp truyền thống như VAR hoặc ARIMA bộc lộ điểm yếu rõ rệt khi đối diện chuỗi dữ liệu phi tuyến. Mô hình VAR giả định toàn bộ chuỗi quan sát đều dừng và có mối liên hệ tuyến tính. Giả định này hiếm khi thỏa mãn trong kinh tế học và thị trường tài chính hiện đại. Khi số lượng biến số tăng lên, số lượng tham số trong mô hình VAR bùng nổ theo cấp số nhân. Tình trạng này dẫn đến hiện tượng thiếu bậc tự do và suy giảm hiệu quả ước lượng. Bên cạnh đó, ARIMA và SARIMA chỉ tối ưu cho các bài toán đơn biến có tính chu kỳ cố định. Chúng không thể tự động trích xuất các quy luật ẩn sâu trong tập dữ liệu đa chiều.

2.2. Vấn đề kiểm định tính dừng với ADF KPSS và ACF

Kiểm định tính dừng là giai đoạn then chốt trong tiền xử lý chuỗi thời gian đa biến. Kiểm định Augmented Dickey-Fuller (ADF) được dùng để phát hiện nghiệm đơn vị. Giả thuyết không của ADF coi chuỗi có nghiệm đơn vị và không dừng. Ngược lại, kiểm định KPSS đặt giả thuyết không rằng chuỗi là dừng quanh một xu hướng cố định. Việc kết hợp đồng thời ADF và KPSS giúp nhà nghiên cứu đưa ra nhận định chuẩn xác nhất. Ngoài ra, biểu đồ hàm tự tương quan ACF hỗ trợ trực quan hóa mức độ suy giảm tương quan theo độ trễ. Chuỗi dừng có giá trị ACF giảm nhanh về 0. Nếu chuỗi không dừng, quá trình lấy sai phân bậc một hoặc biến đổi logarithm là bắt buộc.

III. Phương pháp dự báo chuỗi thời gian đa biến bằng VAR NN

Phương pháp VAR-NN giải quyết triệt để sự kết hợp giữa mô hình tự hồi quy và mạng nơ-ron nhân tạo. Quy trình thực hiện bao gồm ba bước cơ bản: chuẩn hóa dữ liệu, ước lượng thành phần tuyến tính và học phần dư phi tuyến. Ban đầu, các chuỗi thời gian được chuẩn hóa về cùng thang đo để tăng tốc độ hội tụ. Bước tiếp theo sử dụng mô hình VAR để trích xuất các mối quan hệ trễ tuyến tính chính yếu giữa các biến. Phần dư còn lại từ mô hình VAR đại diện cho các tương tác phi tuyến tính phức tạp chưa được giải thích. Phần dư này lập tức trở thành đầu vào cho mạng nơ-ron sâu. Mạng nơ-ron sử dụng các hàm kích hoạt phi tuyến như ReLU hoặc Sigmoid để xấp xỉ hàm mục tiêu. Thuật toán tối ưu hóa Adam điều chỉnh trọng số nhằm tối thiểu hóa sai số toàn phần. Dự báo cuối cùng là tổng hợp đầu ra từ thành phần VAR và đầu ra từ mạng nơ-ron. Phương pháp này bảo toàn tính diễn giải thống kê đồng thời tận dụng tối đa năng lực học máy.

3.1. Thiết kế kiến trúc mạng nơ ron trong mô hình VAR NN

Kiến trúc mạng nơ-ron trong VAR-NN gồm tầng nhập liệu đa chiều, các tầng ẩn và tầng xuất kết quả. Số lượng nơ-ron ở tầng đầu vào tương ứng với số biến nhân với số bậc trễ được chọn. Các tầng ẩn áp dụng kỹ thuật Dropout và chuẩn hóa theo lô nhằm ngăn ngừa quá khớp dữ liệu. Quá trình lan truyền tiến tính toán giá trị kích hoạt qua từng lớp nơ-ron. Quá trình lan truyền ngược cập nhật ma trận trọng số dựa trên đạo hàm của hàm tổn thất MSE. Kiến trúc cho phép mạng tự động phát hiện các tương tác không đồng nhất giữa các chuỗi dữ liệu. Nhờ vậy, mô hình duy trì độ ổn định cao ngay cả khi dữ liệu có nhiễu lớn.

3.2. Tiêu chuẩn đánh giá hiệu năng RMSE và MAE

Hiệu năng dự báo của VAR-NN được đo lường thông qua các chỉ số thống kê chuẩn mực gồm RMSE và MAE. Căn bậc hai sai số bình phương trung bình (RMSE) phản ánh mức độ phân tán của sai số dự báo. Chỉ số này đặc biệt nhạy cảm với các giá trị ngoại lai có độ lệch lớn. Trong khi đó, sai số tuyệt đối trung bình (MAE) đo lường sai số trung bình theo độ lớn thực tế. MAE mang lại cái nhìn trực quan và dễ hiểu về mức độ chênh lệch dự báo. Việc kết hợp RMSE và MAE đem lại đánh giá toàn diện về chất lượng mô hình trên tập kiểm thử độc lập. Giá trị hai chỉ số càng thấp chứng tỏ mô hình đạt độ chuẩn xác càng cao.

IV. Ứng dụng thực tiễn của dự báo chuỗi thời gian đa biến VAR NN

Mô hình VAR-NN mở ra nhiều triển vọng ứng dụng thực tế trong quản trị kinh tế và công nghệ kỹ thuật. Kết quả nghiên cứu từ ĐH Sư phạm Kỹ thuật TP.HCM khẳng định tính khả thi của giải pháp lai ghép này. Trong tài chính ngân hàng, VAR-NN hỗ trợ dự báo đồng thời tỷ giá hối đoái, lãi suất và chỉ số chứng khoán. Các tổ chức tín dụng có thể kiểm soát rủi ro thị trường một cách chủ động và khoa học. Trong lĩnh vực năng lượng, mô hình tối ưu hóa việc phân phối điện lưới thông qua dự báo phụ tải đa biến. Sự kết hợp giữa các biến thời tiết và mức tiêu thụ năng lượng giúp gia tăng độ chính xác của kế hoạch vận hành. Đối với chuỗi cung ứng, hệ thống dự báo tốt nhu cầu sản phẩm và biến động giá nguyên vật liệu. Doanh nghiệp dễ dàng giảm tồn kho dư thừa và hạ thấp chi phí vận chuyển. VAR-NN chứng minh ưu thế vượt trội khi xử lý các chuỗi thời gian có độ biến động cao và phi tuyến mạnh.

4.1. Đóng góp khoa học của đồ án tốt nghiệp tại HCMUTE

Đồ án tốt nghiệp tại ĐH Sư phạm Kỹ thuật TP.HCM đóng góp giải pháp phân tích dữ liệu chuyên sâu cho ngành Hệ thống thông tin. Nhóm nghiên cứu đã chứng minh sự vượt trội của cấu trúc lai VAR-NN so với mô hình VAR cổ điển và LSTM thuần túy. Báo cáo nghiên cứu xây dựng quy trình triển khai thử nghiệm chuẩn mực từ kiểm định giả thuyết thống kê đến tối ưu mạng học sâu. Các kết quả thực nghiệm là tài liệu tham khảo giá trị cho sinh viên và nhà nghiên cứu trong lĩnh vực khai phá dữ liệu. Đề tài mở đường cho các hướng phát triển mô hình dự báo thời gian thực phục vụ doanh nghiệp số.

4.2. Hướng phát triển mở rộng cho mô hình trong tương lai

Nghiên cứu có thể mở rộng theo nhiều hướng tiếp cận tiên tiến trong tương lai gần. Việc tích hợp cơ chế chú ý (Attention Mechanism) hoặc kiến trúc Transformer sẽ nâng cao khả năng học mối quan hệ xa theo thời gian. Mô hình cũng có thể kết hợp thêm các yếu tố ngoại sinh dạng dữ liệu phi cấu trúc như tin tức thị trường hoặc cảm xúc mạng xã hội. Nâng cấp thuật toán tối ưu hóa siêu tham số tự động sẽ giúp rút ngắn thời gian huấn luyện mô hình trên các tập dữ liệu cực lớn. Ngoài ra, việc đóng gói mô hình thành dịch vụ API trên nền tảng đám mây sẽ tạo điều kiện thuận lợi cho việc ứng dụng thương mại.

Nội dung chính

Bối cảnh và vấn đề nghiên cứu

Trong bối cảnh khối lượng thông tin gia tăng nhanh chóng, việc khai thác và phân tích dữ liệu đóng vai trò thiết yếu đối với công tác dự báo xu hướng tương lai, hỗ trợ các quyết định quản lý rủi ro, lập kế hoạch sản xuất và phân phối. Trong lĩnh vực xử lý chuỗi thời gian, các mô hình đơn biến thường bộc lộ hạn chế do chỉ khai thác lịch sử của một biến duy nhất, không phản ánh được sự tương tác và mối quan hệ phụ thuộc lẫn nhau giữa nhiều yếu tố trong hệ thống thực tế. Ngược lại, dữ liệu đa biến cung cấp nhiều chiều thông tin đồng thời—chẳng hạn như việc kết hợp nhiệt độ, độ ẩm và tốc độ gió trong dự báo thời tiết—từ đó hỗ trợ nâng cao độ tin cậy của kết quả dự báo. Mô hình Vector Autoregressive Neural Network (VAR-NN) được đề xuất nhằm tích hợp ưu điểm của phương pháp tự hồi quy vector truyền thống với mạng nơ-ron nhân tạo, cho phép mô hình hóa đồng thời tương quan trễ và các cấu trúc phi tuyến phức tạp giữa các chuỗi dữ liệu.

Mục tiêu chính của đề tài là xây dựng mô hình Vector Autoregressive Neural Network (VAR-NN) và ứng dụng mô hình này vào bài toán dự báo chuỗi thời gian đa biến. Để đạt được mục tiêu nêu trên, các tác giả xác định năm nhiệm vụ nghiên cứu cụ thể:

1. Tìm hiểu lý thuyết về chuỗi thời gian và bài toán dự báo chuỗi thời gian đa biến.
2. Tìm hiểu các công trình nghiên cứu liên quan về dự báo chuỗi thời gian.
3. Tìm hiểu lần lượt các mô hình toán học và học máy: AR, VAR, FFNN, VARNN và VAR-NN.
4. Cài đặt các mô hình dự báo bao gồm VAR, FFNN, VARNN và VAR-NN.
5. Thực nghiệm, đánh giá kết quả của mô hình VAR-NN trên 4 tập dữ liệu khác nhau, đồng thời tiến hành so sánh đối chuẩn hiệu suất giữa VAR, FFNN, VARNN và VAR-NN.

Đối tượng nghiên cứu của khóa luận là dữ liệu chuỗi thời gian đa biến và các thuật toán dự báo chuỗi thời gian đa biến. Phạm vi nghiên cứu tập trung vào việc mô hình hóa, thực thi và kiểm thử các mô hình VAR, FFNN, VARNN và VAR-NN trên bốn tập dữ liệu thực nghiệm (khí hậu, chất lượng không khí, tiêu thụ năng lượng và kinh tế vĩ mô Việt Nam). Nghiên cứu được thực hiện bởi nhóm tác giả thuộc chuyên ngành Hệ thống thông tin, Khoa Công nghệ Thông tin, Trường Đại học Sư phạm Kỹ thuật Thành phố Hồ Chí Minh trong giai đoạn từ ngày 04/01/2025 đến ngày 10/05/2025.

Cơ sở lý thuyết và phương pháp

Khóa luận thiết lập nền tảng lý thuyết thông qua việc hệ thống hóa các đặc trưng cơ bản của chuỗi thời gian, phân tích các thành phần cấu thành và cơ chế kiểm định tính dừng. Chuỗi thời gian được phân rã theo hai cơ chế: mô hình cộng ($Y_t = S_t + T_t + R_t$) khi biên độ biến động theo mùa ổn định theo thời gian, và mô hình nhân ($Y_t = S_t \times T_t \times R_t$) khi biến động theo mùa tỷ lệ thuận với xu hướng của chuỗi. Về mặt phân loại thống kê, chuỗi thời gian được phân biệt giữa chuỗi dừng hoàn toàn (Strict Stationary - phân phối hữu hạn chiều bất biến qua phép dịch chuyển thời gian) và chuỗi dừng yếu (Weak Stationary - thỏa mãn kỳ vọng không đổi, moment bậc hai hữu hạn và hàm tự hiệp phương sai chỉ phụ thuộc vào khoảng cách độ trễ $h$).

Để phục vụ phân tích dữ liệu chuỗi thời gian, khóa luận áp dụng các kỹ thuật tiền xử lý và kiểm định chuyên sâu:

• Kỹ thuật kiểm định tính dừng: Quan sát trực quan đồ thị (Visual inspection); Thống kê mô tả từng phân vùng kết hợp kiểm nghiệm sai số ANOVA (Summary Statistics); Kiểm định nghiệm đơn vị Augmented Dickey-Fuller (ADF) với giả thuyết vô hiệu $H_0$ có unit root; Kiểm định tính dừng Kwiatkowski-Phillips-Schmidt-Shin (KPSS) với giả thuyết vô hiệu $H_0$ chuỗi là dừng; và phân tích đồ thị hàm tự tương quan (Autocorrelation Function - ACF).
• Kỹ thuật chuẩn hóa dữ liệu: Chuẩn hóa khoảng giá trị Min-Max Scaling ($x_{scaled} = \frac{x - x_{min}}{x_{max} - x_{min}}$) nhằm đưa dữ liệu về miền $[0, 1]$ mà không thay đổi phân phối, và chuẩn hóa Z-score ($x_{scaled} = \frac{x - mean}{\sigma}$) nhằm quy đổi dữ liệu về dạng phân phối chuẩn có giá trị trung bình bằng 0 và độ lệch chuẩn bằng 1.

Phương pháp nghiên cứu thực nghiệm được tiến hành dựa trên việc kế thừa các khung lý thuyết từ tài liệu chuyên khảo "Time Series Forecasting in Python" của Marco Peixeiro và công trình gốc "The VAR-NN Model for Multivariate Time Series Forecasting" của D. Wutsqa (2008). Dữ liệu được thu thập từ 4 nguồn thực nghiệm đa ngành, trải qua các bước tiền xử lý, kiểm định tính dừng, tối ưu hóa siêu tham số và huấn luyện mô hình. Hiệu suất mô hình được đo lường thông qua các chỉ số thống kê chuẩn: Sai số bình phương trung bình (MSE), Sai số tuyệt đối trung bình (MAE), Căn bậc hai sai số bình phương trung bình (RMSE), Hệ số biến thiên của căn bậc hai sai số bình phương trung bình ($CV(RMSE) = \frac{RMSE}{mean(y_{true})} \times 100%$), cùng thời gian thực thi của từng thuật toán.

Nội dung chính theo từng chương

Chương 1: Tổng quan về chuỗi thời gian

Chương 1 cung cấp cơ sở lý luận chi tiết về chuỗi thời gian, các ứng dụng thực tế và bài toán dự báo đa biến. Tác giả phân loại chuỗi thời gian dựa trên bốn thành phần cơ bản: Xu hướng (Trend - gồm xu hướng tăng, giảm, đi ngang, giảm dần hoặc phi tuyến); Mùa vụ (Seasonality - biến động có tính quy luật trong chu kỳ dưới 1 năm); Chu kỳ (Cycle - biến động lặp lại không cố định kéo dài trên 1 năm); và Thành phần bất thường (Irregularity - nhiễu ngẫu nhiên không dự đoán trước). Nội dung chương cũng làm rõ sự khác biệt bản chất giữa chuỗi thời gian đơn biến và đa biến:

Tiêu chí	Chuỗi thời gian đơn biến	Chuỗi thời gian đa biến
Định nghĩa	Chỉ có một biến số phụ thuộc vào thời gian	Nhiều biến phụ thuộc vào thời gian; mỗi biến phụ thuộc vào giá trị trễ của chính nó và các biến khác
Mục tiêu	Dự đoán tương lai của một biến dựa trên lịch sử của chính nó	Dự đoán tương lai của một hoặc nhiều biến dựa trên lịch sử toàn hệ thống
Độ phức tạp	Đơn giản do chỉ xử lý một chuỗi dữ liệu	Phức tạp hơn do phải mô hình hóa tương quan giữa nhiều chiều dữ liệu
Mô hình liên quan	AR, ARIMA, Holt-Winters, SMA	VAR, VARMA, VECM, LSTM, VAR-NN
Xử lý dữ liệu	Khối lượng xử lý ít	Đòi hỏi đồng bộ hóa thời gian và tiền xử lý phức tạp giữa nhiều biến
Phạm vi ứng dụng	Các bài toán biến số độc lập (giá cổ phiếu riêng lẻ, nhiệt độ cục bộ)	Hệ thống phức tạp tương tác đa chiều (kinh tế vĩ mô, cung ứng, khí hậu)

Bên cạnh đó, chương 1 trình bày công thức và cơ chế vận hành của mô hình tự hồi quy vector (VAR), mô hình hiệu chỉnh sai số dạng vector (VECM - áp dụng cho chuỗi không dừng có quan hệ đồng tích hợp cointegrated), và mô hình mạng nơ-ron truyền thẳng (FFNN) với các hàm kích hoạt phi tuyến (ReLU, Sigmoid).

Chương 2: Các công trình dự đoán chuỗi thời gian

Chương 2 tổng thuật các nghiên cứu thực nghiệm trong và ngoài nước nhằm làm rõ ưu thế và hạn chế của từng phương pháp tiếp cận:

Công trình / Tác giả	Phương pháp sử dụng	Dữ liệu nghiên cứu	Phát hiện và kết quả chính
Dự báo lạm phát Việt Nam	VECM kết hợp kiểm định Johansen và Wald	Dữ liệu kinh tế vĩ mô từ TCTK, NHNN, Bloomberg	Nắm bắt tốt mối quan hệ cân bằng dài hạn giữa các biến số vĩ mô; mô hình hóa được tác động ngắn hạn
Dự báo sản xuất lúa ĐBSCL	ARIMA kết hợp kiểm định ADF, PP, phân tích ACF/PACF	Dữ liệu sản lượng, diện tích, năng suất giai đoạn 1995–2022 (GSO)	Mô hình ARIMA(1,1,0) tối ưu cho dự báo sản lượng lúa; ARIMA(0,1,0) tối ưu cho diện tích và năng suất đến năm 2030
Dự báo lạm phát kết hợp	So sánh ARIMA (theo tháng) và VAR (theo quý)	Chỉ số CPI, tỷ giá, lãi suất, cung tiền tại Việt Nam (IV/2016 – IV/2017)	VAR thể hiện khả năng xử lý tương tác giữa nhiều biến vĩ mô tốt hơn ARIMA đơn biến trong trung hạn
A. Kożuch, D. Cywicka, K. Adamowicz (2022)	So sánh mạng ANN với ARIMA và SARIMA	Dữ liệu giá gỗ qua nhiều năm tại các thị trường lâm nghiệp	ANN vượt trội đối với dữ liệu biến động phức tạp, phi tuyến; ARIMA/SARIMA thích hợp với chuỗi có mùa vụ rõ
D. Wutsqa (2008)	VAR-NN (Vector Autoregressive Neural Network)	Dữ liệu chuỗi thời gian đa biến thực nghiệm	Khắc phục hạn chế tuyến tính của VAR thuần túy; cải thiện độ chính xác dự báo đa bước

Chương 3: Vector Autoregressive Neural Network (VAR-NN)

Chương 3 trình bày cơ sở toán học và kiến trúc của mô hình VAR-NN. Về nguyên lý hoạt động, mô hình kết hợp phương pháp hồi quy tự tương quan vector với cấu trúc mạng nơ-ron truyền thẳng để tận dụng đồng thời hai năng lực: nắm bắt tương quan trễ động giữa các biến và xấp xỉ các mối liên hệ phi tuyến tính. Về kiến trúc, mô hình tiếp nhận vector đầu vào chứa các giá trị trễ của $m$ chuỗi thời gian thành phần ($Z_{t-1}, Z_{t-2}, \dots, Z_{t-p}$). Lớp ẩn (hidden layer) với các nơ-ron liên kết đầy đủ sử dụng hàm kích hoạt phi tuyến để trích xuất không gian đặc trưng biểu diễn quan hệ liên biến. Lớp đầu ra (output layer) sản sinh vector dự báo đồng thời cho các biến số mục tiêu tại thời điểm tương lai $t$.

Chương 4: Cài đặt mô hình VAR-NN

Chương 4 thiết kế quy trình triển khai mô hình bao gồm bảy bước tuần tự:

1. Đọc dữ liệu: Tiếp nhận dữ liệu nguồn từ các tệp cấu trúc phục vụ phân tích.
2. Tiền xử lý dữ liệu: Làm sạch, loại bỏ dị biệt và chuẩn hóa miền giá trị bằng Min-Max Scaling hoặc Z-score normalization.
3. Chia tập dữ liệu: Phân chia chuỗi dữ liệu theo thứ tự thời gian thành các tập huấn luyện (train) và kiểm thử (test) theo nhiều tỷ lệ.
4. Kiểm định chuỗi dừng: Thực hiện chuỗi kiểm tra thống kê thông qua biểu đồ ACF, kiểm định ADF và kiểm định KPSS.
5. Tối ưu hóa siêu tham số: Xác định cấu hình tối ưu cho số lượng nơ-ron lớp ẩn, hàm kích hoạt và thuật toán tối ưu hóa trọng số.
6. Xây dựng mô hình VAR-NN: Thiết lập mạng nơ-ron đa biến dựa trên các tham số đã tinh chỉnh.
7. Đánh giá độ chính xác: Tính toán các chỉ số sai số thống kê định lượng trên tập kiểm thử.

Chương 5: Thực nghiệm đánh giá kết quả

Chương 5 tiến hành kiểm thử thực nghiệm trên môi trường tính toán đồng nhất đối với bốn tập dữ liệu:

• Jena Climate: Chuỗi thời tiết ghi nhận tại Jena từ năm 2009 đến 2016, tập trung vào biến nhiệt độ $T\ (\text{degC})$.
• Air Quality: Dữ liệu chất lượng không khí, khảo sát biến độ ẩm tương đối $RH$.
• Tetuan City Power Consumption: Dữ liệu tiêu thụ điện năng tại thành phố Tetuan, đánh giá chỉ số tại khu vực 1 ($Zone\ 1\ Power\ Consumption$).
• Kinh tế vĩ mô Việt Nam: Dữ liệu các chỉ số tài chính - vĩ mô, tập trung vào tốc độ tăng trưởng GDP thực tế.

Nội dung thực nghiệm được triển khai thông qua năm bài toán so sánh đối chuẩn:

1. So sánh ảnh hưởng của các tỷ lệ chia tập dữ liệu huấn luyện và kiểm thử đối với hiệu suất mô hình VAR-NN.
2. So sánh hiệu năng của các hàm/thuật toán tối ưu hóa siêu tham số trên từng tập dữ liệu.
3. So sánh tác động của các hàm kích hoạt (activation functions) đến độ chính xác của mạng VAR-NN.
4. So sánh hiệu suất dự báo tổng thể giữa mô hình VAR-NN với các mô hình đối chứng: VAR, FFNN và VARNN.
5. Đánh giá ảnh hưởng của chiều dài chuỗi đầu vào (input sequence length / độ trễ lag) đến kết quả dự báo và thời gian thực thi của hệ thống.

Kết quả và đóng góp

Về kết quả thực nghiệm, đề tài đã xây dựng hoàn chỉnh quy trình thực thi mô hình VAR-NN và chứng minh khả năng áp dụng của mô hình trên bốn miền dữ liệu có bản chất vật lý và kinh tế khác biệt (khí hậu, môi trường, năng lượng và tài chính vĩ mô). Kết quả đánh giá cho thấy mô hình xử lý hiệu quả mối tương quan giữa nhiều chuỗi thời gian độc lập so với việc tiếp cận từng chuỗi đơn lẻ, đồng thời kiểm soát tốt sai số thông qua các phép đo MSE, MAE, RMSE và $CV(RMSE)$. Nghiên cứu cũng xác định được sự biến động về độ chính xác dự báo khi thay đổi chiều dài chuỗi nhập và các cấu hình siêu tham số (hàm kích hoạt, tỷ lệ phân chia tập mẫu).

Về mặt đóng góp, luận văn hệ thống hóa cơ sở lý luận về chuỗi thời gian đa biến, phân loại rõ rệt giữa tiếp cận tuyến tính cổ điển (VAR, VECM) và tiếp cận học sâu (FFNN, VAR-NN). Tác giả đã kế thừa mô hình VAR-NN từ nghiên cứu gốc của Wutsqa (2008), hiện thực hóa thuật toán và thực hiện phân tích đối chuẩn có hệ thống với các mô hình VAR và FFNN trên dữ liệu thực tế tại Việt Nam lẫn quốc tế.

Hạn chế và hướng nghiên cứu tiếp

Khóa luận chỉ ra một số hạn chế gắn liền với phạm vi triển khai thực tế của mô hình:

• Mô hình VAR-NN đòi hỏi chuỗi dữ liệu đa biến phải có tính đồng bộ thời gian chặt chẽ và trải qua quá trình kiểm định dừng cũng như chuẩn hóa dữ liệu phức tạp.
• Cấu trúc mô hình chịu ảnh hưởng lớn từ việc lựa chọn chiều dài chuỗi nhập và siêu tham số; việc tăng số lượng biến và độ trễ có thể làm gia tăng đáng kể số lượng trọng số cần ước lượng.
• Đối với tập dữ liệu kinh tế vĩ mô, mô hình dựa trên dữ liệu lịch sử nên khả năng phản ứng với các cú sốc bất ngờ mang tính cấu trúc còn gặp khó khăn tương tự các mô hình chuỗi thời gian truyền thống.

Về hướng nghiên cứu tiếp theo, các tác giả đề xuất hoàn thiện giao diện demo đã lập kế hoạch trong đề cương nhằm trực quan hóa dự báo tương tác, thử nghiệm các cơ chế tự động hóa tìm kiếm siêu tham số tối ưu, và mở rộng thử nghiệm mô hình trên các tập dữ liệu có tần suất lấy mẫu cao hơn hoặc tích hợp thêm các kiến trúc mạng nơ-ron học sâu tiên tiến khác.

Giá trị tham khảo

Báo cáo khóa luận cung cấp tài liệu tham khảo hữu ích cho sinh viên, giảng viên và các nhà nghiên cứu thuộc các chuyên ngành Hệ thống thông tin, Công nghệ thông tin, Khoa học dữ liệu và Kinh tế lượng ứng dụng. Những nội dung có giá trị sử dụng cao gồm có:

• Khung lý thuyết và công thức toán học tường minh về kiểm định tính dừng (ADF, KPSS, ACF) và các kỹ thuật tiền xử lý (chuẩn hóa Min-Max, Z-score, phân rã chuỗi).
• Ví dụ số học minh họa cách tính toán ma trận hệ số và dự báo của mô hình VAR đối với bài toán doanh thu - chi phí.
• Khung phân tích thực nghiệm đa biến hoàn chỉnh trên bốn bộ dữ liệu thực tế, giúp người làm đề tài tương tự có quy trình đối chuẩn rõ ràng về tỷ lệ chia tập dữ liệu, hàm kích hoạt và chiều dài chuỗi nhập.

Câu hỏi thường gặp

1. Mô hình VAR-NN giải quyết hạn chế cốt lõi nào của mô hình VAR truyền thống trong bài toán chuỗi thời gian đa biến?
Mô hình VAR truyền thống giả định các mối quan hệ tuyến tính giữa các biến và yêu cầu số lượng mẫu rất lớn để ước lượng chính xác hệ số khi số lượng biến tăng lên. Mô hình VAR-NN khắc phục điểm nghẽn này bằng cách tích hợp mạng nơ-ron nhân tạo với các hàm kích hoạt phi tuyến, cho phép mô hình hóa các tương tác phi tuyến tính phức tạp và cấu trúc phụ thuộc động giữa các chuỗi dữ liệu.

2. Bốn tập dữ liệu được nhóm tác giả sử dụng trong chương thực nghiệm là gì?
Bốn tập dữ liệu được thực nghiệm bao gồm: Tập dữ liệu khí hậu Jena Climate (dự báo nhiệt độ $T\ \text{degC}$), tập dữ liệu chất lượng không khí Air Quality (dự báo độ ẩm $RH$), tập dữ liệu tiêu thụ điện năng Tetuan City Power Consumption (dự báo tiêu thụ điện tại phân khu $Zone\ 1$), và tập dữ liệu Kinh tế vĩ mô Việt Nam (dự báo tăng trưởng GDP thực tế).

3. Khóa luận phân biệt hai phương pháp phân rã chuỗi thời gian như thế nào?
Luận văn phân biệt phương pháp phân rã cộng (Additive Decomposition: $Y_t = S_t + T_t + R_t$) và phân rã nhân (Multiplicative Decomposition: $Y_t = S_t \times T_t \times R_t$). Phân rã cộng được sử dụng khi biên độ biến động mùa giữ nguyên không đổi theo cấp độ của chuỗi. Phân rã nhân được áp dụng khi biến động mùa tăng giảm tỷ lệ thuận theo mức tăng giảm chung của chuỗi thời gian.

4. Khóa luận sử dụng các tiêu chí nào để đo lường độ chính xác và hiệu năng của các mô hình?
Độ chính xác dự báo được đánh giá qua bốn chỉ số sai số định lượng: Sai số bình phương trung bình (MSE), Sai số tuyệt đối trung bình (MAE), Căn bậc hai sai số bình phương trung bình (RMSE), và Hệ số biến thiên của căn bậc hai sai số bình phương trung bình ($CV(RMSE)$). Ngoài ra, hiệu năng tính toán được đánh giá thông qua tiêu chí thời gian thực thi của mô hình.

5. Nghiên cứu nào được nhóm tác giả trích dẫn làm cơ sở gốc cho việc kết hợp Vector Autoregressive và Neural Network?
Nghiên cứu gốc được trích dẫn làm cơ sở trực tiếp cho mô hình đề tài là bài báo "The VAR-NN Model for Multivariate Time Series Forecasting" của tác giả D. Wutsqa công bố năm 2008, trong đó giới thiệu sự kết hợp giữa mô hình VAR và mạng nơ-ron nhân tạo trong bài toán dự báo đa biến phi tuyến.

Kết luận

Khóa luận tốt nghiệp của nhóm tác giả Vũ Ngọc Nam và Nguyễn Hoàng Yến Nhi đã hoàn thành việc nghiên cứu, cài đặt và đánh giá mô hình Vector Autoregressive Neural Network (VAR-NN) cho bài toán dự báo chuỗi thời gian đa biến. Thông qua thiết kế thực nghiệm trên bốn tập dữ liệu đa ngành, nghiên cứu đã cung cấp bức tranh đối chuẩn chi tiết về ảnh hưởng của siêu tham số, hàm kích hoạt và độ dài trễ đến hiệu suất dự báo so với các mô hình VAR và FFNN. Công trình đóng góp một quy trình thực nghiệm có hệ thống, mang giá trị tham khảo rõ ràng cho các nghiên cứu tiếp theo về mô hình hóa chuỗi thời gian đa biến bằng kỹ thuật học máy.

Trích đoạn nội dung tài liệu

CHƯƠNG 1: TỔNG QUAN VỀ CHUỖI THỜI GIAN 1. CHUỖI THỜI GIAN 1. Khái niệm chuỗi thời gian Chuỗi thời gian là tập hợp các điêm dữ liệu được sắp xếp theo thứ tự thời gian được ghi lại ở các khoảng thời gian cách đều nhau, có nghĩa là nó sẽ được ghi lại mỗi giờ, mỗi phút, mỗi tháng hoặc mỗi quý.[1] Chuỗi thời gian xuất hiện trong nhiều lĩnh vực từ khí tượng học đến tài chính, kinh tế lượng và tiếp thị. Bằng cách ghi lại dữ liệu và phân tích, nghiên cứu chuỗi thời gian, chúng ta có thê phân tích quy trình công nghiệp hoặc theo dõi các chỉ số kinh doanh, chẳng hạn như doanh số bán hàng hoặc mức độ tương tác.

Ngoài ra, với lượng dữ liệu lớn có sẵn, các nhà khoa học dữ liệu có thê áp dụng chuyên môn của họ vào các kỹ thuật dự đoán chuỗi thời gian.[1] Dữ liệu chuỗi thời gian là một công cụ quan trọng đê theo dõi sự biến đổi theo thời gian, giúp chúng ta phân tích các sự kiện trong quá khứ và dự đoán xu hướng trong tương lai. Tổng số hành khách hàng không quốc tế hàng tháng từ năm 1949 đến năm 1960 [3] 3 1. Ứng dụng của chuỗi thời gian Dữ liệu chuỗi thời gian đã và đang được ứng dụng rộng rãi trên nhiều lĩnh vực khác nhau đê phục vụ cho các mục tiêu cụ thê:  Trong khai phá dữ liệu, nhận dạng mẫu và học máy: Phân tích chuỗi thời gian được ứng dụng đê thực hiện các nhiệm vụ như phân cụm, phân loại, tìm kiếm theo nội dung, phát hiện bất thường và dự đoán.  Trong xử lý tín hiệu, kỹ thuật điều khiên và truyền thông: Dữ liệu chuỗi thời gian đóng vai trò quan trọng trong việc phát hiện và ước lượng tín hiệu.

 Trong thống kê, kinh tế lượng, tài chính định lượng, địa chấn học, khí tượng học và địa vật lý: Các phương pháp phân tích chuỗi thời gian được tận dụng đê đưa ra các dự báo.  Các dạng biêu đồ trực quan thường được sử dụng đê biêu diễn dữ liệu chuỗi thời gian, giúp phân tích xu hướng, khám phá thông tin sâu sắc và nhận diện các bất thường.  Dữ liệu chuỗi thời gian có thê được nghiên cứu dưới dạng lịch sử hoặc thời gian thực, nhằm xác định và dự đoán các mẫu một cách hiệu quả. Các thành phần của chuỗi thời gian Hình 1.

Biểu đồ thể hiện các thành phần của chuỗi thời gian[2] - Trend (xu hướng): là sự thay đổi được lặp lại đều đặn trong dữ liệu. Trong suốt khoảng thời gian đủ dài, xu hướng có thê tăng, giảm, đi lên hoặc đi xuống. Nó thê hiện sự chuyên động chung mang tính nhất quán và lâu dài của dữ liệu. Trong suốt quá 4 trình này, có thê xảy ra những biến động tạm thời, nhưng xu hướng chính vẫn không thay đổi.

Một vài ví dụ về xu hướng bao gồm số lượng trường học, sản lượng nông nghiệp, và tăng trưởng dân số. Cần lưu ý rằng xu hướng có thê thay đổi hướng theo các khoảng thời gian khác nhau, như tăng lên, giảm xuống hoặc duy trì ổn định. Xu hướng này có thê có dạng tuyến tính hoặc phi tuyến tính. [4] Một số xu hướng phổ biến của chuỗi thời gian: Hình 1.

Năm loại xu hướng khác nhau trong dữ chuỗi thời gian [5] Giải thích:  Upward Trend: xu hướng tăng.  Downward Trend: xu hướng giảm.  Horizontal Trend: Xu hướng duy trì ổn định hoặc biến đổi rất ít.  Damped Trend: Xu hướng giảm dần, nhưng tốc độ giảm đi chậm dần.

 Non-linear Trend: Xu hướng biến đổi không tuân theo một mô hình tuyến tính đơn giản mà có các biến đổi phức tạp hơn, bao gồm cả sự tăng, giảm, hoặc thay đổi không đồng đều, đột biến theo thời gian (VD: dữ liệu biến đổi theo đồ thị hình sin, cos, hàm số mũ .) [5] - Seasonality (mùa vụ): là những thay đổi ngắn hạn, thường diễn ra trong vòng chưa đến một năm, trong chuỗi thời gian. Trong suốt khoảng thời gian 12 tháng của chuỗi thời gian, chúng thường thê hiện cùng một xu hướng tăng trưởng - hoặc là tăng hoặc giảm. Những biến động này thường được theo dõi theo giờ, ngày, tuần, quý và tháng. Các yếu tố tự nhiên hoặc nhân tạo có thê gây ra sự ảnh hưởng đến yếu tố mùa vụ.

Các thay đổi theo mùa chịu ảnh hưởng lớn từ các mùa khác nhau và những thay 5 đổi nhân tạo. Việc sử dụng ô tăng mạnh trong mùa mưa, doanh số bán máy điều hòa không khí tăng vào mùa hè, và việc thu hoạch phụ thuộc vào mùa là những ví dụ về tính thời vụ. Một số quy chuẩn do con người tạo ra cũng thê hiện rõ sự biến động theo mùa. Các khác biệt theo mùa bị ảnh hưởng bởi các ngày lễ, truyền thống, phong cách, thói quen và các sự kiện đa dạng như đám cưới.

Thời kỳ biến động theo mùa không nên được sử dụng đê đánh giá một doanh nghiệp có đang hoạt động tốt hơn hay kém hơn. Đồ thị thể hiện các loại tính theo mùa khác nhau. [5] - Cycle (chu kì): Các biến động trong chuỗi thời gian diễn ra trong khoảng thời gian dài hơn một năm được gọi là Biến động Chu kỳ. Một giai đoạn hoạt động hoàn chỉnh được gọi là một chu kỳ.

Biến động chu kỳ bao gồm bốn giai đoạn - thịnh vượng, suy thoái, khủng hoảng và phục hồi. Nó có thê có tính chất thường xuyên hoặc không định kỳ. Tính chu kì trong dữ liệu chuỗi thời gian [5] Sự khác biệt giữa tính mùa vụ (Seasonality) và tính chu kỳ (Cyclicity):  Tính mùa vụ (Seasonality) là sự thay đổi lặp lại, xảy ra trong một khoảng thời gian cố định (hàng ngày, hàng tuần, hàng tháng hoặc hàng năm), bị ảnh hưởng bởi nhiều yếu tố như thời tiết, các ngày lễ, hành vi người dùng,. và có thê dự đoán được.

 Tính chu kỳ (Cyclicity) là các biến động lặp đi lặp lại trong một khoảng thời gian không xác định. Những biến động này thường bị ảnh hưởng bởi những yếu tố vĩ mô hơn như chu kỳ kinh tế, xu hướng thị trường,.Tính chu kỳ không bị giới hạn trong một khoảng thời gian cố định và có thê có diễn ra với tần suất khác nhau, nên việc dự đoán sẽ trở nên khó khăn hơn - Irregularity (các thành phần ngẫu nhiên hoặc không đều): Có một loại chuyên động khác có thê thấy trong chuỗi thời gian, đó là chuyên động Bất Thường và Ngẫu Nhiên. Như tên gọi, không có giả thuyết hay xu hướng nào có thê dùng đê dự đoán các chuyên động bất thường hay ngẫu nhiên trong chuỗi thời gian. Những kết quả này mang tính bất ngờ, thất thường, không thê dự đoán và không thê kiêm soát được.

Những chuyên động ngẫu nhiên chính là những gì còn sót lại trong chuỗi thời gian sau 7 các biến thê xu hướng, chu kỳ và theo mùa. Động đất, chiến tranh, nạn đói và lũ lụt là một số ví dụ về các thành phần ngẫu nhiên trong chuỗi thời gian. Biểu đồ chuỗi thời gian điện tâm đồ (ECG) có chứa một chuỗi con bất thường cho thấy sự bất thường có thể ảnh hưởng đáng kể đến diện mạo của dữ liệu chuỗi thời gian [7] 1. Phân rã chuỗi thời gian Phân rã chuỗi thời gian là một quá trình trong đó chúng ta tách chuỗi thời gian thành các thành phần của nó: xu hướng, tính thời vụ và phần dư.

[1] Có hai phương pháp phân rã phổ biến: Hình 1. Tổng số hành khách hàng không quốc tế hàng tháng từ năm 1949 đến năm 1960 [3] - Additive decomposition (Phân rã cộng): Một cách tiếp cận phổ biến là giả định thêm thành phần theo mùa, thành phần chu kỳ xu hướng và thành phần bất thường.[8] 8 �� = �� + �� + �� Trong đó:  S: sự thay đổi theo mùa  T: các thành phần Xu hướng cộng với Chu kỳ.  R: Residuals hoặc the Error  t: đại diện cho từng thời kì Hình 1. Biểu đồ phân rã chuỗi thời gian theo phương pháp Additive Decomposition [3] Một mô hình cộng thường phù hợp nếu cường độ hoặc khoảng thời gian của biến động theo mùa không thay đổi theo cấp độ của chuỗi.

Nó có nghĩa là khi độ lớn của biến động theo mùa vẫn giữ nguyên thì phân hủy phụ gia được sử dụng [8] - Phân rã nhân (Multiplicative Decomposition): Một cách tiếp cận phổ biến là nhân các thành phần theo mùa, theo chu kỳ, xu hướng và bất thường với nhau đê đưa ra chuỗi quan sát được.[8] �� = �� � �� � �� Trong đó:  S: sự thay đổi theo mùa  T: các thành phần Xu hướng cộng với Chu kỳ.  R: Residuals hoặc the Error  t: đại diện cho từng thời kì 9 Hình 1. Biểu đồ phân rã chuỗi thời gian theo phương pháp Multiplicative Decomposition [3] Phân tích nhân thường được áp dụng khi các biến động theo mùa tăng và giảm tỷ lệ thuận với mức tăng và giảm của chuỗi. Việc phân tích theo cấp số nhân phù hợp hơn với chuỗi kinh tế vì hầu hết các chuỗi kinh tế theo mùa đều có sự biến đổi theo mùa và thậm chí nó có thê thay đổi theo ngày, tuần, tháng cũng như theo năm.

Khái niệm chuỗi dừng Chuỗi dừng là chuỗi có các thuộc tính thống kê không thay đổi theo thời gian. Nói cách khác, nó có trung bình, phương sai và tính tự tương quan không đổi, và những thuộc tính này không phụ thuộc vào thời gian. Tổng số linh miêu bị mắc kẹt hàng năm ở quận sông McKenzie Canada [9] Các chu kỳ trong chuỗi ở hình trên có thê khiến nó trông như không phải chuỗi dừng. Nhưng những chu kỳ này không có tính chu kỳ cố định — chúng xảy ra khi số lượng linh miêu trở nên quá lớn so với nguồn thức ăn sẵn có, dẫn đến việc chúng ngừng sinh sản và số lượng giảm xuống rất thấp, sau đó sự phục hồi của nguồn thức ăn cho phép số lượng tăng trở lại, và quá trình này lặp đi lặp lại.

Trong dài hạn, thời gian xảy ra các chu kỳ này không thê dự đoán được. Vì vậy, chuỗi này là chuỗi dừng. Sự thay đổi hàng ngày về giá cổ phiếu Google trong 200 ngày liên tiếp [9] Chuỗi này có thê được xem là chuỗi dừng vì độ sai biệt của giá trị có xu hướng dao động quanh mức trung bình cố định và không tăng dần hoặc giảm dần theo thời gian. Điều này thê hiện sự ổn định về mặt thống kê của chuỗi thời gian.

Ngoài ra, trong biêu đồ , độ dao động không tăng rõ rệt qua các ngày và chỉ có một vài đột biến nhỏ, điều này phù hợp với đặc điêm của chuỗi dừng.