Đánh giá các mô hình dự báo chuỗi thời gian: ARIMA, LSTM và Prophet

Mô hình dự báo chuỗi thời gian đã trở thành một công cụ quan trọng trong nhiều lĩnh vực như kinh tế… 77 trang · Trường Đại Học Công Nghiệp TP. HCM · 2021.

• Tác giả: Đào Thị Hiền
• Người hướng dẫn: TS. Phạm Thị Thiết
• Trường học: Trường Đại Học Công Nghiệp TP. HCM
• Chuyên ngành: Công Nghệ Thông Tin
• Đề tài: Đánh Giá Các Mô Hình Dự Báo Chuỗi Thời Gian
• Loại tài liệu: Khóa Luận Tốt Nghiệp
• Năm xuất bản: 2021
• Địa điểm: TP. Hồ Chí Minh

Mục lục chi tiết

• LỜI MỞ ĐẦU
• 1. CHƯƠNG 1: TỔNG QUAN
• 1.1. Mục tiêu nghiên cứu
• 1.2. Nội dung nghiên cứu
• 1.3. Đối tượng và phạm vi nghiên cứu
• 1.4. Phương pháp thực hiện
• 2. CHƯƠNG 2: CƠ SỞ LÝ THUYẾT
• 2.1. Tổng quan về chuỗi thời gian
• 2.1.1. Chuỗi thời gian là gì?
• 2.1.2. Một số ví dụ về chuỗi thời gian
• 2.1.3. Ứng dụng của chuỗi thời gian
• 2.2. Phân tích chuỗi thời gian
• 2.2.1. Các phương pháp và mục đích sử dụng
• 2.3. Dự báo chuỗi thời gian
• 2.3.1. Một số mô hình dự báo chuỗi thời gian
• 2.3.2. Ứng dụng của dự báo chuỗi thời gian
• 3. CHƯƠNG 3: CÁC MÔ HÌNH DỰ BÁO CHUỖI THỜI GIAN
• 3.1. Mô hình ARIMA
• 3.1.1. Mô hình AR(p)
• 3.1.2. Mô hình MA(q)
• 3.1.3. Mô hình ARIMA
• 4. CHƯƠNG 4: ĐÁNH GIÁ THỰC NGHIỆM
• 4.1. Môi trường
• 4.2. Mô hình ARIMA
• 4.3. Mô hình LSTM
• 4.4. Mô hình Prophet
• 5. CHƯƠNG 5: TỔNG KẾT VÀ HƯỚNG PHÁT TRIỂN
• 5.1. Tổng kết
• 5.2. Hướng phát triển
• DANH MỤC HÌNH ẢNH
• DANH MỤC TỪ VIẾT TẮT

Tóm tắt

I. Tổng quan về mô hình dự báo chuỗi thời gian hiện nay

Mô hình dự báo chuỗi thời gian đã trở thành một công cụ quan trọng trong nhiều lĩnh vực như kinh tế, tài chính và khoa học. Việc hiểu rõ về các mô hình này giúp các nhà nghiên cứu và chuyên gia đưa ra những dự đoán chính xác hơn về các xu hướng tương lai. Trong số các mô hình phổ biến, ARIMA, LSTM và Prophet nổi bật với những ưu điểm và nhược điểm riêng. Bài viết này sẽ đi sâu vào việc đánh giá và so sánh các mô hình này.

1.1. Mô hình ARIMA Đặc điểm và ứng dụng

Mô hình ARIMA (Auto-Regressive Integrated Moving Average) là một trong những mô hình dự báo chuỗi thời gian phổ biến nhất. Nó được sử dụng rộng rãi trong phân tích dữ liệu kinh tế và tài chính. ARIMA hoạt động tốt với các chuỗi thời gian có tính chất tuyến tính và có thể được điều chỉnh để phù hợp với nhiều loại dữ liệu khác nhau.

1.2. Mô hình LSTM Tiềm năng trong dự báo

Mô hình LSTM (Long Short Term Memory) là một loại mạng nơ-ron hồi tiếp, được thiết kế để xử lý và dự đoán chuỗi thời gian. LSTM có khả năng ghi nhớ thông tin trong thời gian dài, giúp cải thiện độ chính xác của dự báo trong các tình huống phức tạp và phi tuyến tính.

1.3. Mô hình Prophet Giải pháp từ Facebook

Mô hình Prophet được phát triển bởi Facebook, nhằm cung cấp một công cụ dễ sử dụng cho việc dự báo chuỗi thời gian. Prophet đặc biệt hiệu quả trong việc xử lý dữ liệu có tính mùa vụ và xu hướng, giúp người dùng dễ dàng tạo ra các dự báo chính xác.

II. Vấn đề và thách thức trong dự báo chuỗi thời gian

Dự báo chuỗi thời gian không chỉ đơn thuần là việc áp dụng một mô hình mà còn phải đối mặt với nhiều thách thức. Các vấn đề như dữ liệu không đầy đủ, nhiễu trong dữ liệu và sự thay đổi trong xu hướng có thể ảnh hưởng đến độ chính xác của dự báo. Việc lựa chọn mô hình phù hợp cũng là một thách thức lớn.

2.1. Dữ liệu không đầy đủ và nhiễu

Một trong những vấn đề lớn nhất trong dự báo chuỗi thời gian là dữ liệu không đầy đủ. Dữ liệu thiếu có thể dẫn đến những dự đoán sai lệch. Ngoài ra, nhiễu trong dữ liệu cũng có thể làm giảm độ chính xác của mô hình.

2.2. Sự thay đổi trong xu hướng

Xu hướng của dữ liệu có thể thay đổi theo thời gian, điều này làm cho các mô hình dự báo trở nên kém hiệu quả. Việc phát hiện và điều chỉnh cho những thay đổi này là rất quan trọng để duy trì độ chính xác của dự báo.

2.3. Lựa chọn mô hình phù hợp

Việc lựa chọn mô hình dự báo phù hợp là một thách thức lớn. Mỗi mô hình có những ưu điểm và nhược điểm riêng, và việc hiểu rõ về dữ liệu cũng như mục tiêu dự báo là rất cần thiết để đưa ra quyết định đúng đắn.

III. Phương pháp đánh giá mô hình dự báo chuỗi thời gian

Để đánh giá hiệu suất của các mô hình dự báo chuỗi thời gian, cần áp dụng các phương pháp thống kê và thực nghiệm. Các chỉ số như MSE (Mean Squared Error) và RMSE (Root Mean Squared Error) thường được sử dụng để đo lường độ chính xác của dự báo.

3.1. Chỉ số MSE và RMSE

MSE và RMSE là hai chỉ số phổ biến để đánh giá độ chính xác của mô hình dự báo. MSE đo lường sai số bình quân của các dự đoán, trong khi RMSE cung cấp một cái nhìn rõ ràng hơn về độ chính xác bằng cách đưa ra sai số trong cùng đơn vị với dữ liệu gốc.

3.2. Phân tích hồi quy

Phân tích hồi quy có thể được sử dụng để đánh giá mối quan hệ giữa các biến trong mô hình dự báo. Điều này giúp xác định các yếu tố ảnh hưởng đến độ chính xác của dự báo và cải thiện mô hình.

3.3. Thực nghiệm trên tập dữ liệu chuẩn

Thực nghiệm trên một tập dữ liệu chuẩn là cách hiệu quả để đánh giá các mô hình. Việc so sánh kết quả dự báo từ các mô hình khác nhau trên cùng một tập dữ liệu giúp xác định mô hình nào hoạt động tốt nhất trong các tình huống cụ thể.

IV. Ứng dụng thực tiễn của mô hình dự báo chuỗi thời gian

Mô hình dự báo chuỗi thời gian có nhiều ứng dụng thực tiễn trong các lĩnh vực như kinh doanh, tài chính và khoa học. Việc áp dụng các mô hình này giúp các tổ chức đưa ra quyết định chính xác hơn và tối ưu hóa quy trình hoạt động.

4.1. Dự báo doanh thu

Trong lĩnh vực kinh doanh, dự báo doanh thu là một ứng dụng quan trọng của mô hình dự báo chuỗi thời gian. Các công ty có thể sử dụng các mô hình này để dự đoán doanh thu trong tương lai, từ đó lập kế hoạch tài chính hiệu quả.

4.2. Dự báo nhu cầu thị trường

Dự báo nhu cầu thị trường giúp các doanh nghiệp điều chỉnh sản xuất và tồn kho. Việc sử dụng mô hình dự báo chuỗi thời gian giúp các công ty nắm bắt xu hướng tiêu dùng và tối ưu hóa nguồn lực.

4.3. Nghiên cứu khí hậu

Trong lĩnh vực khoa học, mô hình dự báo chuỗi thời gian được sử dụng để nghiên cứu khí hậu. Việc dự đoán các biến đổi khí hậu giúp các nhà khoa học đưa ra các biện pháp ứng phó kịp thời.

V. Kết luận và hướng phát triển tương lai của mô hình dự báo

Mô hình dự báo chuỗi thời gian sẽ tiếp tục phát triển và cải tiến trong tương lai. Việc kết hợp các mô hình khác nhau có thể mang lại kết quả tốt hơn. Hướng phát triển này sẽ giúp nâng cao độ chính xác của dự báo và mở rộng ứng dụng của các mô hình trong nhiều lĩnh vực.

5.1. Kết hợp các mô hình

Kết hợp các mô hình như ARIMA, LSTM và Prophet có thể tạo ra những dự báo chính xác hơn. Việc này giúp tận dụng ưu điểm của từng mô hình và giảm thiểu nhược điểm.

5.2. Phát triển công nghệ mới

Công nghệ mới trong lĩnh vực học máy và trí tuệ nhân tạo sẽ tiếp tục thúc đẩy sự phát triển của các mô hình dự báo chuỗi thời gian. Việc áp dụng các kỹ thuật mới sẽ giúp cải thiện độ chính xác và khả năng xử lý dữ liệu lớn.

5.3. Ứng dụng trong các lĩnh vực mới

Mô hình dự báo chuỗi thời gian có thể được áp dụng trong nhiều lĩnh vực mới như y tế, giao thông và năng lượng. Việc mở rộng ứng dụng này sẽ giúp nâng cao hiệu quả và giá trị của các mô hình dự báo.

Nội dung chính

Bối cảnh và vấn đề nghiên cứu

Dữ liệu chuỗi thời gian là một trong những dạng dữ liệu phổ biến và quan trọng trong kỷ nguyên số, xuất hiện trong nhiều lĩnh vực thực tiễn như kinh tế, tài chính, kinh doanh, khí tượng thủy văn, khoa học và kỹ thuật. Khai phá dữ liệu chuỗi thời gian hướng đến việc thu thập, phân tích các quan sát trong quá khứ nhằm phát hiện các quy luật vận động, từ đó xây dựng mô hình toán học phù hợp để dự báo các giá trị trong tương lai. Sự thành công của quá trình dự báo phụ thuộc vào việc lựa chọn mô hình tương thích với đặc tính của chuỗi dữ liệu.

Trong thực tế, các phương pháp dự báo truyền thống như mô hình Tự hồi quy tích hợp trung bình trượt (ARIMA) dựa trên giả định chuỗi thời gian có tính tuyến tính và tuân theo phân phối thống kê xác định, dẫn đến hạn chế khi xử lý các dữ liệu phi tuyến tính phức tạp. Nhằm khắc phục nhược điểm này, các mô hình mạng neural nhân tạo (ANNs), đặc biệt là mạng trí nhớ ngắn hạn định hướng dài hạn (LSTM) với cấu trúc mạng neural hồi quy (RNN), đã được phát triển nhờ khả năng mô hình hóa phi tuyến tính mà không cần giả định phân phối dữ liệu. Bên cạnh đó, thư viện mã nguồn mở Prophet do Facebook phát triển cung cấp một phương pháp tiếp cận mới, tự động hóa quy trình dự báo và xử lý tốt các yếu tố mùa vụ, ngày lễ và dữ liệu khuyết thiếu. Xuất phát từ bối cảnh đó, khóa luận tốt nghiệp ngành Khoa học máy tính tại Trường Đại học Công nghiệp TP. Hồ Chí Minh đã thực hiện đề tài nhằm nghiên cứu, cài đặt và so sánh hiệu năng của ba mô hình đại diện nêu trên.

Mục tiêu nghiên cứu của đề tài được xác định cụ thể:

• Nghiên cứu, tìm hiểu và cài đặt thực nghiệm các phương pháp dự báo chuỗi thời gian gồm ARIMA, LSTM và Prophet.
• Đánh giá và so sánh kết quả đạt được giữa các phương pháp dựa trên kết quả thực nghiệm từ một cơ sở dữ liệu chuẩn, từ đó rút ra kết luận về ưu điểm và nhược điểm của từng phương pháp.

Để hoàn thành mục tiêu trên, khóa luận triển khai 4 nhiệm vụ nghiên cứu:

1. Tìm hiểu chung về chuỗi thời gian.
2. Tìm hiểu về dự báo chuỗi thời gian.
3. Tìm hiểu ứng dụng của chuỗi thời gian và dự báo chuỗi thời gian.
4. Tìm hiểu lý thuyết và thực thi một số mô hình dự báo chuỗi thời gian.

Đối tượng và phạm vi nghiên cứu:

• Đối tượng nghiên cứu: Ba mô hình dự báo chuỗi thời gian gồm ARIMA, LSTM và Prophet.
• Phạm vi dữ liệu: Tập dữ liệu thực nghiệm "Nhiệt độ trung bình hàng tháng tại Việt Nam từ năm 1901-2015". Tập dữ liệu có tên gốc là vietnam-temperature-from-1901-2015-wb.xls, được chuyển đổi sang định dạng vietnam-temperature-from-1901-2015-wb.csv, khai thác từ diễn đàn OpenDevelopment Việt Nam.
• Phạm vi thời gian và phân chia dữ liệu: Dữ liệu lịch sử từ năm 1901 đến năm 2014 được sử dụng làm tập huấn luyện (training data), và mục tiêu dự báo là giá trị nhiệt độ trung bình hàng tháng trong năm 2015.

Cơ sở lý thuyết và phương pháp

Khung lý thuyết của đề tài tập trung vào việc mô hình hóa chuỗi thời gian đơn biến. Chuỗi thời gian được định nghĩa là chuỗi các giá trị tuần tự thu nhận trong các khoảng thời gian cách đều nhau, được biểu diễn bằng hàm toán học $x_t = f(t)$ phân tách thành 4 thành phần cơ bản:

• Xu hướng (Trend): Sự thay đổi dài hạn của mức trung bình chuỗi thời gian.
• Chu kỳ (Cyclical): Bước sóng biến động dài hạn trong chuỗi.
• Thành phần theo mùa (Seasonality): Các biến động lặp lại theo những khoảng thời gian cố định.
• Phần dư (Residuals): Các tác động ngẫu nhiên không được giải thích bởi ba thành phần trên.

Các mô hình lý thuyết được áp dụng bao gồm:

• Mô hình ARIMA($p, d, q$): Kết hợp giữa quá trình tự hồi quy $AR(p)$, trung bình trượt $MA(q)$ và quá trình lấy sai phân tích hợp $I(d)$ để đưa chuỗi không dừng về chuỗi dừng.
• Mạng neural LSTM (Long Short Term Memory): Kiến trúc mạng neural hồi quy giải quyết vấn đề phụ thuộc xa (long-term dependencies) thông qua trạng thái tế bào (cell state) và hệ thống 3 cổng: cổng quên (forget gate), cổng vào (input gate) và cổng ra (output gate).
• Mô hình Prophet: Mô hình hồi quy cộng tính (additive regression model) phân rã chuỗi thời gian thành xu hướng tăng trưởng (tuyến tính từng đoạn hoặc logistic), thành phần mùa vụ hàng năm (chuỗi Fourier), mùa vụ hàng tuần (biến giả) và tác động của ngày lễ.

Phương pháp nghiên cứu thực tế bao gồm:

• Phương pháp phân tích - tổng hợp lý thuyết: Nghiên cứu toán học về quy trình Box-Jenkins, cơ chế lan truyền ngược qua thời gian (Backpropagation through time) và cấu trúc mô hình cộng tính.
• Phương pháp thực nghiệm mô phỏng: Sử dụng ngôn ngữ lập trình Python để lập trình, huấn luyện và đánh giá ba mô hình trên tập dữ liệu chuẩn.
• Phương pháp kiểm định thống kê và tiêu chí đánh giá: Áp dụng kiểm định nghiệm đơn vị Augmented Dickey-Fuller (ADF) để kiểm tra tính dừng của chuỗi; phân tích đồ thị hàm tự tương quan (ACF) và hàm tự tương quan một phần (PACF) theo thuật toán đệ quy Durbin để xác định bậc tham số; sử dụng Tiêu chí thông tin Akaike (AIC) và Sai số toàn phương trung bình gốc (RMSE - Root Mean Squared Error) để đánh giá độ chính xác và mức độ tối ưu của mô hình.

Nguồn dữ liệu: Dữ liệu thứ cấp công khai "Nhiệt độ trung bình hàng tháng ở Việt Nam từ năm 1901-2015" từ cổng dữ liệu OpenDevelopment Việt Nam.

Nội dung chính theo từng chương

Chương 1 - TỔNG QUAN

Chương mở đầu giới thiệu tổng quan về sự phát triển của công nghệ thông tin, quá trình tích lũy dữ liệu lớn và vai trò của khai phá dữ liệu trong việc trích xuất tri thức phục vụ việc ra quyết định. Tác giả xác định rõ dự báo chuỗi thời gian là một nhánh trọng tâm trong khai phá dữ liệu. Chương 1 thiết lập mục tiêu nghiên cứu, phân định 4 nhiệm vụ cụ thể, đồng thời xác định đối tượng (ARIMA, LSTM, Prophet), phạm vi dữ liệu thực nghiệm (nhiệt độ Việt Nam 1901-2015 từ nguồn OpenDevelopment Việt Nam) và phương pháp thực hiện bằng ngôn ngữ Python.

Chương 2 - CƠ SỞ LÝ THUYẾT

Chương 2 trình bày hệ thống lý luận nền tảng về chuỗi thời gian và phân tích chuỗi thời gian:

• Định nghĩa và đặc trưng của chuỗi thời gian; liệt kê các ví dụ minh họa thực tiễn như lượng khách và nhiệt độ tại Công viên Quốc gia Yellowstone (2014-2016), tỷ lệ dân số thế giới (1750-2005), mức tăng trưởng GDP Việt Nam (2000-2019), nhiệt độ và lượng mưa trung bình hàng năm, doanh thu doanh nghiệp.
• Ứng dụng của chuỗi thời gian trong dự báo kinh tế, tài chính, kiểm soát chất lượng, nghiên cứu hàng tồn kho và điều tra dân số.
• Phân tích chuỗi thời gian: Định nghĩa quy trình phân tách chuỗi thành 4 thành phần (xu hướng, chu kỳ, mùa vụ, phần dư); phân loại các phương pháp phân tích (miền thời gian/miền tần số, tham số/phi tham số, tuyến tính/phi tuyến tính, đơn biến/đa biến); các phương pháp và mục đích sử dụng gồm phân tích thăm dò, điều chỉnh đường cong, xấp xỉ hàm, ước tính tín hiệu bằng biến đổi Fourier, phân loại, phân đoạn, dự đoán và dự báo.
• Tổng quan về dự báo chuỗi thời gian đơn biến và đa biến, dự báo một bước và nhiều bước; giới thiệu sơ lược các mô hình tiêu biểu gồm ARIMA, SARIMA, ARIMAX, SARIMAX, LSTM và thư viện Prophet cùng các miền ứng dụng thực tế.

Chương 3 - CÁC MÔ HÌNH DỰ BÁO CHUỖI THỜI GIAN

Chương 3 đi sâu vào bản chất toán học và cấu trúc vận hành của ba mô hình chính:

• Mô hình ARIMA($p, d, q$):
  • Mô hình $AR(p)$: Phương trình hồi quy theo các giá trị quá khứ $Y_t = c + \sum_{i=1}^p \phi_i Y_{t-i} + \varepsilon_t$.
  • Mô hình $MA(q)$: Quá trình trung bình trượt tuyến tính theo nhiễu trắng $Y_t = \mu_0 + \varepsilon_t + \sum_{j=1}^q \theta_j \varepsilon_{t-j}$, với điều kiện nhiễu trắng $E(\varepsilon_t) = 0$, phương sai không đổi $\sigma^2(\varepsilon_t) = \alpha$, và hiệp phương sai triệt tiêu $\rho(\varepsilon_t, \varepsilon_{t-s}) = 0$.
  • Tích hợp $I(d)$: Quy trình lấy sai phân bậc 1 ($z_t = y_t - y_{t-1}$) và bậc 2 ($h_t = z_t - z_{t-1}$) nhằm đưa chuỗi về trạng thái dừng.
  • Quy trình 4 bước phát triển mô hình ARIMA: Xác định mô hình $\rightarrow$ Ước lượng tham số $\rightarrow$ Kiểm định độ chính xác $\rightarrow$ Dự báo.
  • Các công cụ hỗ trợ: Phân tích ACF qua công thức hệ số tương quan $r_k$, phân tích PACF qua giải thuật xấp xỉ đệ quy Durbin $C_{kj}$, kiểm định nghiệm đơn vị ADF với mức ý nghĩa $p$-value 0.05, và công thức tính sai số RMSE.
• Mô hình LSTM:
  • Khái quát mạng neural nhân tạo (ANNs), mạng neural hồi quy (RNN) và giải thuật học có giám sát; cơ chế xử lý vấn đề phụ thuộc xa trong dữ liệu chuỗi.
  • Cấu trúc đơn vị LSTM: Trạng thái tế bào $C_t$ và 3 cổng chức năng:
    • Tầng cổng quên: $f_t = \sigma(W_f \cdot [h_{t-1}, x_t] + b_f)$ xác định thông tin cần loại bỏ.
    • Tầng cổng vào: $i_t = \sigma(W_i \cdot [h_{t-1}, x_t] + b_i)$ và trạng thái ứng viên $\tilde{C}t = \tanh(W_c \cdot [h{t-1}, x_t] + b_c)$.
    • Cập nhật trạng thái tế bào: $C_t = f_t * C_{t-1} + i_t * \tilde{C}_t$.
    • Tầng cổng ra: $o_t = \sigma(W_o \cdot [h_{t-1}, x_t] + b_o)$ và giá trị dự báo đầu ra $h_t = o_t * \tanh(C_t)$.
  • Thuật toán huấn luyện mạng: Cơ chế lan truyền ngược (Backpropagation) và tối ưu hóa hàm mất mát (loss function).
• Mô hình Prophet:
  • Cấu trúc mô hình hồi quy cộng tính gồm 4 thành phần: Đường cong tăng trưởng xu hướng (logistic hoặc tuyến tính từng đoạn tự động phát hiện điểm đổi chiều), mùa vụ hàng năm (chuỗi Fourier), mùa vụ hàng tuần (biến giả), và danh sách ngày lễ do người dùng định nghĩa.
  • Minh họa hoạt động qua bộ dữ liệu nhật ký trang Wikipedia của vận động viên Peyton Manning, phân rã các biểu đồ thành phần xu hướng, thời vụ tuần và thời vụ năm.
  • Đặc điểm vận hành: Tự động hóa cao, xử lý tốt ngoại lệ và dữ liệu khuyết thiếu, cho phép người dùng tùy chỉnh tham số làm mịn mà không cần đào tạo chuyên sâu về chuỗi thời gian.

Chương 4 - ĐÁNH GIÁ THỰC NGHIỆM

Chương 4 thực hiện mô phỏng và kiểm nghiệm ba mô hình trên tập dữ liệu nhiệt độ Việt Nam (1901-2015):

• Tiền xử lý và phân tích thăm dò dữ liệu: Trực quan hóa chuỗi thời gian, phân tích các thành phần chuỗi, dải giá trị trung bình và độ lệch chuẩn.
• Thực nghiệm mô hình ARIMA:
  • Tiến hành kiểm định ADF để kiểm tra tính dừng của chuỗi.
  • Phân tích đồ thị ACF và PACF để xác định cấu trúc trễ; áp dụng phương pháp tìm kiếm lưới (Grid Search) dựa trên tiêu chí AIC/RMSE để tìm bộ tham số tối ưu, xác định mô hình phù hợp là ARIMA(6, 0, 3).
  • Đánh giá kết quả dự báo của ARIMA(6, 0, 3) và biểu diễn độ phân tán qua biểu đồ Box-plot các thử nghiệm.
• Thực nghiệm mô hình LSTM:
  • Thiết lập và thử nghiệm mạng LSTM với các bộ siêu tham số khác nhau:
    1. Thử nghiệm 1: batch_size = 1, epochs = 1000, neural = 1.
    2. Thử nghiệm 2: batch_size = 12, epochs = 1000, neural = 1.
    3. Thử nghiệm 3: batch_size = 12, epochs = 12000, neural = 12.
  • Phân tích kết quả dự báo và biểu đồ Box-plot tương ứng với từng cấu hình thực nghiệm.
• Thực nghiệm mô hình Prophet:
  • Cài đặt thư viện Prophet, huấn luyện mô hình và tạo kết quả dự báo nhiệt độ trung bình hàng tháng năm 2015.
  • Trực quan hóa giá trị dự báo và phân tích khoảng tin cậy.
• So sánh tổng hợp: Phân tích biểu đồ Box-plot so sánh giá trị trung bình dự báo của ba mô hình ARIMA, LSTM và Prophet trên tập dữ liệu kiểm nghiệm năm 2015.

Chương 5 - TỔNG KẾT VÀ HƯỚNG PHÁT TRIỂN

Chương cuối tổng kết toàn bộ kết quả nghiên cứu: Khóa luận hoàn thành mục tiêu đề ra, mô phỏng thành công các mô hình ARIMA, LSTM và Prophet trên tập dữ liệu nhiệt độ trung bình hàng tháng tại Việt Nam từ năm 1901-2015; thực hiện dự báo cho năm 2015 dựa trên tập dữ liệu huấn luyện từ năm 2014 trở về trước. Tác giả đúc kết so sánh ưu nhược điểm của từng phương pháp và đề xuất hai hướng phát triển tiếp theo.

Kết quả và đóng góp

Kết quả chính

Khóa luận đã hoàn thành việc triển khai, thực nghiệm và so sánh ba mô hình dự báo chuỗi thời gian đại diện cho ba hướng tiếp cận khác nhau: thống kê cổ điển (ARIMA), học sâu (LSTM) và hồi quy cộng tính tự động (Prophet).

Bảng tổng hợp đặc tính kỹ thuật và thực nghiệm của ba mô hình theo nội dung khóa luận:

Đặc tính / Tiêu chí	Mô hình ARIMA	Mô hình LSTM	Mô hình Prophet
Bản chất mô hình	Mô hình thống kê tuyến tính kết hợp $AR(p)$, $MA(q)$, $I(d)$	Mạng neural hồi quy phi tuyến tính (ANN/RNN)	Mô hình hồi quy cộng tính (Additive Model)
Giả định dữ liệu	Chuỗi dừng, phương sai sai số không đổi, quan hệ tuyến tính	Không yêu cầu giả định về phân phối thống kê	Chấp nhận chuỗi phi tuyến tính, có tính mùa vụ mạnh
Xử lý tính mùa vụ	Cần mô hình mở rộng (SARIMA) hoặc xử lý ngoài	Tự động học qua các trọng số và trạng thái tế bào	Tự động phân rã bằng chuỗi Fourier và biến giả
Xử lý ngoại lệ & khuyết thiếu	Nhạy cảm, yêu cầu dữ liệu đầy đủ và tiền xử lý chặt	Cần tiền xử lý dữ liệu trước khi đưa vào mạng	Tự động xử lý tốt ngoại lệ và dữ liệu bị thiếu
Cấu hình thực nghiệm trong khóa luận	ARIMA(6, 0, 3)	3 cấu hình: (1) batch=1, ep=1000, neu=1; (2) batch=12, ep=1000, neu=1; (3) batch=12, ep=12000, neu=12	Cấu hình tự động phân rã xu hướng và mùa vụ
Độ phức tạp và tinh chỉnh	Tốn chi phí tính toán, phụ thuộc kinh nghiệm phân tích ACF/PACF	Chi phí huấn luyện cao (thời gian, bộ nhớ), nhiều siêu tham số	Nhanh chóng, tự động, tham số trực quan dễ điều chỉnh

Ưu điểm và nhược điểm đúc kết từ thực nghiệm

• Mô hình ARIMA:
  • Ưu điểm: Cấu trúc toán học rõ ràng, linh hoạt cho nhiều dạng chuỗi đơn biến, hiệu quả cao trong các bài toán dự báo ngắn hạn.
  • Nhược điểm: Giả định tuyến tính khiến mô hình không phát hiện được các quy luật phi tuyến; quy trình xác định tham số ($p, d, q$) tốn công sức tính toán và phụ thuộc vào kỹ năng của người phân tích; không tối ưu cho dự báo dài hạn.
• Mô hình LSTM:
  • Ưu điểm: Khả năng nắm bắt các mối quan hệ phi tuyến phức tạp trong dữ liệu mà không cần giả định phân phối; cơ chế cổng và trạng thái tế bào giúp kiểm soát hiệu quả việc lưu giữ thông tin dài hạn và giải quyết hiện tượng phụ thuộc xa.
  • Nhược điểm: Chi phí tính toán cho quá trình huấn luyện lớn (về cả thời gian và không gian bộ nhớ); kết quả dự báo phụ thuộc nhiều vào việc lựa chọn kiến trúc mạng và các siêu tham số (batch size, epochs, số lượng neural).
• Mô hình Prophet:
  • Ưu điểm: Tốc độ tính toán nhanh, mức độ tự động hóa cao; xử lý mạnh mẽ với dữ liệu có tính thời vụ phức tạp, các điểm gãy xu hướng và dữ liệu khuyết thiếu; cung cấp các tham số trực quan cho phép người dùng tùy chỉnh dự báo dựa trên tri thức miền nghiệp vụ.
  • Nhược điểm: Phụ thuộc vào giả định mô hình cộng tính và hoạt động tối ưu nhất khi chuỗi thời gian có tính chu kỳ mùa vụ rõ ràng với dữ liệu lịch sử đủ dài.

Đóng góp của khóa luận

Khóa luận đã hệ thống hóa đầy đủ cơ sở lý thuyết từ các mô hình truyền thống đến các mô hình học sâu và công cụ hiện đại; cung cấp quy trình thực nghiệm chi tiết từ khâu kiểm định thống kê (ADF, ACF, PACF), thiết lập tham số cho đến trực quan hóa và so sánh kết quả dự báo trên cùng một bộ dữ liệu chuẩn của Việt Nam bằng ngôn ngữ Python.

Hạn chế và hướng nghiên cứu tiếp

Hạn chế của nghiên cứu:

• Phạm vi thực nghiệm của khóa luận mới chỉ dừng lại ở việc kiểm thử trên một tập dữ liệu đơn biến duy nhất ("Nhiệt độ trung bình hàng tháng tại Việt Nam từ năm 1901-2015"), chưa mở rộng kiểm tra chéo trên nhiều tập dữ liệu đa dạng thuộc các lĩnh vực khác nhau.
• Mục tiêu dự báo mới tập trung vào dữ liệu 12 tháng của năm 2015 dựa trên chuỗi lịch sử đến năm 2014.

Hướng phát triển được tác giả đề xuất:

• Thực thi mô hình trên các tập dữ liệu khác nhau với quy mô kích thước dữ liệu lớn hơn.
• Nghiên cứu kết hợp các mô hình lại với nhau (hybrid models / mô hình lai) để tận dụng ưu điểm của từng phương pháp, hướng tới việc đạt được kết quả dự báo tối ưu hơn.

Giá trị tham khảo

Tài liệu khóa luận có giá trị tham khảo hữu ích đối với:

• Sinh viên, học viên chuyên ngành Khoa học máy tính, Công nghệ thông tin, Khoa học dữ liệu và Hệ thống thông tin đang thực hiện các đề tài nghiên cứu hoặc khóa luận về phân tích và dự báo dữ liệu chuỗi thời gian.
• Các nhà nghiên cứu và lập trình viên cần tài liệu tổng hợp toán học chi tiết về:
  • Quy trình phân tích chuỗi dừng và thuật toán đệ quy Durbin tính PACF trong Chương 3.
  • Hệ thống phương trình vi phân và cơ chế hoạt động của các cổng (Quên, Vào, Ra) trong mạng LSTM.
  • Cơ chế phân rã xu hướng và chuỗi Fourier trong mô hình Facebook Prophet.
  • Cách thiết lập thực nghiệm, kiểm định ADF và tinh chỉnh tham số mô phỏng bằng Python trong Chương 4.

Câu hỏi thường gặp

1. Khóa luận sử dụng tập dữ liệu thực nghiệm nào và nguồn dữ liệu từ đâu?
Khóa luận sử dụng tập dữ liệu "Nhiệt độ trung bình hàng tháng tại Việt Nam từ năm 1901-2015", định dạng gốc là tệp Excel vietnam-temperature-from-1901-2015-wb.xls được chuyển đổi thành tệp CSV vietnam-temperature-from-1901-2015-wb.csv. Nguồn dữ liệu được thu thập từ diễn đàn OpenDevelopment Việt Nam.

2. Dữ liệu được phân chia cho quá trình huấn luyện và dự báo như thế nào?
Tác giả sử dụng toàn bộ chuỗi số liệu lịch sử từ năm 1901 đến năm 2014 làm tập dữ liệu huấn luyện (training data). Kết quả dự báo được thực hiện cho 12 tháng nhiệt độ trung bình trong năm 2015 để đối sánh và đánh giá hiệu năng của các mô hình.

3. Tác giả sử dụng các phương pháp và tiêu chí thống kê nào để xác định cấu trúc mô hình ARIMA?
Tác giả sử dụng kiểm định nghiệm đơn vị Augmented Dickey-Fuller (ADF) với mức ý nghĩa $p$-value 0.05 để kiểm tra tính dừng; phân tích biểu đồ hàm tự tương quan (ACF) và hàm tự tương quan một phần (PACF) theo thuật toán Durbin; áp dụng kỹ thuật tìm kiếm lưới (Grid Search) dựa trên tiêu chí sai số RMSE và chỉ số thông tin AIC để chọn ra bộ tham số tối ưu là ARIMA(6, 0, 3).

4. Mô hình LSTM được cài đặt với những cấu hình siêu tham số nào trong phần thực nghiệm?
Trong Chương 4, mạng LSTM được thử nghiệm với 3 bộ tham số:

• Cấu hình 1: batch_size = 1, epochs = 1000, neural = 1
• Cấu hình 2: batch_size = 12, epochs = 1000, neural = 1
• Cấu hình 3: batch_size = 12, epochs = 12000, neural = 12

5. Mô hình Prophet phân rã chuỗi thời gian dựa trên các thành phần toán học nào?
Prophet là mô hình hồi quy cộng tính gồm 4 thành phần chính: đường cong tăng trưởng xu hướng (logistic hoặc tuyến tính từng đoạn tự động phát hiện điểm thay đổi), thành phần mùa vụ hàng năm (mô hình hóa bằng chuỗi Fourier), thành phần mùa vụ hàng tuần (mô hình hóa bằng các biến giả), và danh sách các sự kiện ngày lễ quan trọng do người dùng xác định.

Kết luận

Khóa luận tốt nghiệp của tác giả Đào Thị Hiền đã hệ thống hóa toàn diện cơ sở lý thuyết và triển khai thực nghiệm thành công ba mô hình dự báo chuỗi thời gian tiêu biểu gồm ARIMA, LSTM và Prophet trên nền tảng ngôn ngữ Python. Nghiên cứu hoàn thành mục tiêu dự báo nhiệt độ trung bình hàng tháng tại Việt Nam năm 2015 dựa trên dữ liệu lịch sử giai đoạn 1901-2014, đồng thời phân tích chi tiết ưu nhược điểm và độ phân tán kết quả của từng phương pháp qua đồ thị Box-plot. Đề tài mở ra định hướng nghiên cứu tiếp theo về việc mở rộng quy mô dữ liệu và phát triển các mô hình kết hợp nhằm tối ưu hóa độ chính xác dự báo.

Trích đoạn nội dung tài liệu

Chương 1 - TỔNG QUAN 1.1 Giới thiệu Với sự phát triển của Công nghệ thông tin đã tạo ra một lượng lớn cơ sở dữ liệu và dữ liệu khổng lồ trong nhiều lĩnh vực khác nhau. Việc nghiên cứu cơ sở dữ liệu và công nghệ thông tin đã tạo ra một cách tiếp cận để lưu trữ và sử dụng dữ liệu quý giá này nhằm mục đích đưa ra quyết định sau này. “Khai phá dữ liệu là một quá trình trích xuất thông tin hữu ích và các mẫu từ dữ liệu khổng lồ. Nó còn được gọi là quá trình khám phá tri thức, khai thác tri thức từ dữ liệu, khai thác tri thức hoặc phân tích dữ liệu/ phân tích mẫu” [4].

Khai thác dữ liệu có tầm quan trọng liên quan đến việc tìm kiếm các mẫu, dự báo, khám phá kiến thức, v., trong các lĩnh vực kinh doanh khác nhau. Các kỹ thuật và thuật toán khai thác dữ liệu như phân loại, phân cụm, v., giúp tìm ra các mô hình để quyết định xu hướng phát triển trong tương lai của các doanh nghiệp. Khai thác dữ liệu có phạm vi ứng dụng rộng rãi hầu như trong mọi ngành nơi dữ liệu được tạo ra, đó là lý do tại sao khai thác dữ liệu được coi là một trong những biên giới quan trọng nhất trong cơ sở dữ liệu và hệ thống thông tin và là một trong những phát triển liên ngành hứa hẹn nhất trong Công nghệ thông tin. Một trong những mục tiêu của khai phá dữ liệu là để đưa ra các dự báo trong tương lai nhằm phục vụ một số quyết định hay mục đích nào đó.

Trong đó có lĩnh vực nghiên cứu về dự báo chuỗi thời gian và phát triển các mô hình dự báo.2 Mục tiêu nghiên cứu Nghiên cứu, tìm hiểu và cài đặt thực nghiệm một số phương pháp dự báo chuỗi thời gian, đánh giá và so sánh kết quả đạt được giữa các phương pháp với nhau dựa trên kết quả thực nghiệm từ 1 cơ sở dữ liệu chuẩn, từ đó rút ra kết luận về ưu nhược điểm của mỗi phương pháp.3 Nội dung nghiên cứu  Tìm hiểu chung về chuỗi thời gian.  Tìm hiểu về dự báo chuỗi thời gian.  Tìm hiểu ứng dụng của chuỗi thời gian và dự báo chuỗi thời gian. Phạm Thị Thiết SVTH: Đào Thị Hiền Đánh giá các mô hình dự báo chuỗi thời gian  Tìm hiểu lý thuyết và thực thi một số mô hình dự báo chuỗi thời gian.4 Đối tượng và phạm vi nghiên cứu Nghiên cứu và thực nghiệm các mô hình dự báo chuỗi thời gian như: ARIMA, LSTM, Prophet trên tập dữ liệu Nhiệt độ trung bình hàng tháng tại Việt Nam từ năm 1901-2015.

Tập dữ liệu có tên là “vietnam-temperature-from-1901-2015- wb.xls”, được chuyển đổi thành tệp *.csv: vietnam-temperature-from-1901-2015- wb. Tập dữ liệu được lấy trên diễn đàn “OpenDevelopment Việt Nam”1.5 Phương pháp thực hiện  Nghiên cứu về mặt lý thuyết các mô hình ARIMA, LSTM, Prophet.  Sử dụng ngôn ngữ lập trình Python để mô phỏng thực nghiệm các mô hình ARIMA, LSTM, Prophet.  Đánh giá thực nghiệm trên 1 tập dữ liệu chuẩn: “Nhiệt độ trung bình hàng tháng ở Việt Nam từ năm 1901-2015” 1 https://data.net/vi/dataset/nhi-t-d-va-lu-ng-mua-trung-binh-hang- thang-t-i-vi-t-nam-t-1901-2015 12 GVHD: TS.

Phạm Thị Thiết SVTH: Đào Thị Hiền Đánh giá các mô hình dự báo chuỗi thời gian Chương 2 - CƠ SỞ LÝ THUYẾT 2.1 Tổng quan về chuỗi thời gian 2.1 Chuỗi thời gian là gì? Chuỗi thời gian có thể được định nghĩa là một chuỗi các giá trị tuần tự được thu nhận trong các khoảng thời gian cách đều nhau [9]. Nói cách khác, chuỗi thời gian là một dạng dữ liệu thời gian rời rạc, thường được biểu diễn thông qua biểu đồ đường. Dựa vào việc khai thác dữ liệu chuỗi thời gian, người ta thu nhận được các giá trị ẩn chứa trong nó nhằm phục vụ các mục đích khác nhau. Do là dữ liệu chịu ảnh hưởng bởi tính chất thời gian nên chuỗi thời gian thường xuất hiện những quy luật đặc trưng như: yếu tố chu kỳ, yếu tố mùa và yếu tố xu hướng.

Đây là những đặc trưng thường thấy và xuất hiện ở hầu hết các chuỗi thời gian.2 Một số ví dụ về chuỗi thời gian  Nhiệt độ và lượng mưa trung bình hàng năm tại Việt Nam.  Số sinh viên đăng ký nguyện vòng vào Khoa Công nghệ thông tin Trường đại học công nghiệp hàng năm.  Lưu lượng nước thủy triều mỗi chu kỳ. Phạm Thị Thiết SVTH: Đào Thị Hiền Đánh giá các mô hình dự báo chuỗi thời gian  Lượng khách hàng tháng đến Công viên Quốc gia Yellowstone với nhiệt độ trung bình hàng tháng.1 Biểu đồ lượng khách hàng tháng đến Công viên Quốc gia Yellowstone với nhiệt độ trung bình hàng tháng (2014-2016)2  Dữ liệu dân số thế giới hàng năm.2 Dân số của từng vùng theo tỉ lệ phần trăm so với dân số thế giới (1750-2005)3 2 https://www.com/blog/introduction-to-the-fundamentals-of-time-series-data-and-analysis/ 3 https://vi.org/wiki/D%C3%A2n_s%E1%BB%91_th%E1%BA%BF_gi%E1%BB%9Bi 14 GVHD: TS.

Phạm Thị Thiết SVTH: Đào Thị Hiền Đánh giá các mô hình dự báo chuỗi thời gian  Mức tăng trưởng GDP hằng năm.3 Mức tăng trưởng GDP Việt Nam (2000-2019)4  Doanh thu của một công ty mỗi quý.3 Ứng dụng của chuỗi thời gian Phân tích chuỗi thời gian được sử dụng cho nhiều ứng dụng như:  Dự báo kinh tế  Dự báo bán hàng  Phân tích ngân sách  Phân tích thị trường chứng khoán  Dự báo lợi nhuận  Quy trình và Kiểm soát chất lượng 4 https://cafeland.vn/phan-tich/kinh-te-viet-nam-go-nut-that-de-tang-truong-ben-vung-85058.html 15 GVHD: TS. Phạm Thị Thiết SVTH: Đào Thị Hiền Đánh giá các mô hình dự báo chuỗi thời gian  Nghiên cứu hàng tồn kho  Dự báo khối lượng công việc  Nghiên cứu Tiện ích  Phân tích điều tra dân số Và nhiều hơn thế nữa… Vai trò của chuỗi thời gian rất quan trọng đối với nền kinh tế và hoạt động của doanh nghiệp nên trong học máy và thống kê có những ngành học nghiên cứu chuyên sâu về chuỗi thời gian như kinh tế lượng, định giá tài sản tài chính.2 Phân tích chuỗi thời gian Phân tích chuỗi thời gian bao gồm các phương pháp phân tích dữ liệu chuỗi thời gian để trích xuất các số liệu thống kê có ý nghĩa và các đặc điểm khác của dữ liệu. Phân tích chuỗi thời gian cũng giúp hiểu rõ hơn về tập dữ liệu, cũng như các đặc trưng của tập dữ liệu nhằm đưa ra các phương án dự báo hiệu quả, phù hợp với từng tập dữ liệu khác nhau. Trong thực tế, một mô hình phù hợp được gắn cho một chuỗi thời gian nhất định và các tham số tương ứng được ước tính bằng cách sử dụng các giá trị dữ liệu đã biết.

Quy trình phù hợp chuỗi thời gian với một mô hình thích hợp được gọi là Phân tích chuỗi thời gian. Nó bao gồm các phương pháp cố gắng hiểu bản chất của chuỗi và thường hữu ích cho việc dự báo và mô phỏng trong tương lai. Trong dự báo chuỗi thời gian, các quan sát trong quá khứ được thu thập và phân tích để phát triển một mô hình toán học phù hợp nắm bắt quá trình tạo dữ liệu cơ bản cho chuỗi. Các sự kiện trong tương lai sau đó được dự đoán bằng cách sử dụng mô hình.

Cách tiếp cận này đặc biệt hữu ích khi không có nhiều kiến thức về mô hình thống kê theo sau các quan sát liên tiếp hoặc khi thiếu mô hình giải thích thỏa đáng. Dự báo chuỗi thời gian có những ứng dụng quan trọng trong các lĩnh vực khác nhau. Thông thường các quyết định chiến lược có giá trị và các biện pháp phòng ngừa được thực hiện dựa trên kết quả dự báo. Do đó, để đưa ra một dự báo tốt, thì việc đưa ra một mô hình phù hợp với một chuỗi thời gian là rất quan trọng.

Trong nhiều thập kỷ 16 GVHD: TS. Phạm Thị Thiết SVTH: Đào Thị Hiền Đánh giá các mô hình dự báo chuỗi thời gian qua, các nhà nghiên cứu đã có nhiều nỗ lực nhằm phát triển và cải tiến các mô hình dự báo chuỗi thời gian phù hợp [1], [2], [16], [17], [18]. Quy trình phân tích chuỗi thời gian cổ điển là quá trình phân tách hàm 𝑓 (𝑡 ) là biểu diễn toán học của chuỗi thời gian 𝑥𝑡 hay 𝑥𝑡 = 𝑓(𝑡 ) thành bốn thành phần: 1. Xu hướng: sự thay đổi dài hạn của mức trung bình của chuỗi thời gian.

Chu kỳ: một bước sóng dài trong chuỗi thời gian. Thành phần theo mùa: biến động theo chuỗi thời gian lặp lại trong các khoảng thời gian cụ thể. Phần dư: đại diện cho tất cả các ảnh hưởng đến chuỗi thời gian mà ba thành phần còn lại không giải thích được.1 Phân loại Các phương pháp phân tích chuỗi thời gian có thể chia thành 2 loại: phương pháp miền thời gian và phương pháp miền tần số. Ngoài ra, các kỹ thuật phân tích chuỗi thời gian có thể được chia thành các phương pháp tham số và phi tham số.

Các phương pháp phân tích chuỗi thời gian cũng có thể được chia thành tuyến tính và phi tuyến tính, đơn biến và đa biến.2 Các phương pháp và mục đích sử dụng [9]  Phân tích thăm dò Kiểm tra dữ liệu chuỗi thời gian thông thường theo cách thủ công với biểu đồ đường. Tách thành các thành phần đại diện cho xu hướng, tính thời vụ, sự thay đổi chậm và nhanh và tính bất thường theo chu kỳ.  Điều chỉnh đường cong Là quá trình xây dựng một đường cong, hoặc hàm toán học phù hợp nhất với dữ liệu chuỗi thời gian có được, có thể bị ràng buộc và có thể dùng phương pháp nội suy để thực hiện. Phạm Thị Thiết SVTH: Đào Thị Hiền Đánh giá các mô hình dự báo chuỗi thời gian  Xấp xỉ hàm Là bài toán chọn một hàm trong số một lớp được xác định rõ phù hợp chặt chẽ (“gần đúng”) với một hàm mục tiêu.

 Ước tính tín hiệu Cách tiếp cận này dựa trên phân tích sóng hài và lọc tín hiệu trong miền tần số bằng cách sử dụng phép biến đổi Fourier và ước tính mật độ phổ, được phát triển để lọc tín hiệu khỏi nhiễu và dự đoán các giá trị tín hiệu tại một thời điểm nhất định.  Phân loại  Phân đoạn  Dự đoán và dự báo Các mô hình thống kê được hình thành đầy đủ cho mục đích mô phỏng ngẫu nhiên, để tạo ra các phiên bản thay thế của chuỗi thời gian, đại diện cho những gì có thể xảy ra trong các khoảng thời gian không cụ thể trong tương lai (dự đoán). Các mô hình thống kê đơn giản hoặc được hình thành đầy đủ để mô tả kết quả có thể xảy ra của chuỗi thời gian trước mắt, dựa trên kiến thức về các kết quả gần đây nhất (dự báo).