Bối cảnh và vấn đề nghiên cứu

Sự bùng nổ của mạng Internet, các nền tảng mạng xã hội và thiết bị di động đã dẫn đến sự gia tăng khối lượng dữ liệu với tốc độ liên tục trên quy mô toàn cầu. Trong bối cảnh dữ liệu được sinh ra từng phút, việc khai thác và ứng dụng công nghệ thông tin vào hoạt động quản lý, kinh doanh trở thành nhu cầu thiết yếu đối với các tổ chức và doanh nghiệp. Hoạt động dự báo dữ liệu chuỗi thời gian (time series forecasting) đóng vai trò then chốt giúp các cơ quan, đơn vị định hướng chiến lược phát triển trong tương lai dựa trên quy luật biến động của các chuỗi số liệu quá khứ.

Nhận thức được tầm quan trọng của việc tối ưu hóa độ chính xác trong dự báo, đề tài "Tìm hiểu mô hình hồi quy và ứng dụng trong dự báo dữ liệu chuỗi thời gian" được thực hiện nhằm hệ thống hóa cơ sở lý thuyết của các mô hình hồi quy kinh điển, mô hình mạng neuron nhân tạo (ANN), từ đó nghiên cứu giải pháp kết hợp hai mô hình này nhằm nâng cao hiệu quả dự báo chuỗi thời gian.

Mục đích chính của nghiên cứu bao gồm:

  1. Nghiên cứu và áp dụng mô hình hồi quy, mô hình ANN và mô hình kết hợp (hybrid) giữa hồi quy và ANN trong bài toán dự báo dữ liệu chuỗi thời gian.
  2. Vận dụng mô hình hồi quy chuỗi thời gian để ước lượng, dự báo giá trị trung bình tổng thể của biến phụ thuộc theo giá trị của biến giải thích, qua đó xác định mức độ quan hệ giữa các biến số và nhận diện bản chất của hiện tượng thực tế.
  3. Cài đặt và xây dựng ứng dụng thử nghiệm (demo) để thực hiện dự đoán trên các tập dữ liệu thực nghiệm.

Để đạt được mục đích trên, đề tài xác định 6 nhiệm vụ nghiên cứu cụ thể:

  1. Hiểu được tầm quan trọng và vai trò của Machine Learning trong xử lý dữ liệu.
  2. Tìm hiểu cơ chế và phương pháp luận của mô hình hồi quy.
  3. Tìm hiểu kiến trúc và nguyên lý hoạt động của mô hình mạng neuron nhân tạo (ANN).
  4. Nghiên cứu phương pháp và mô hình kết hợp giữa hồi quy tuyến tính và ANN.
  5. Cài đặt các thuật toán và mô hình dự báo.
  6. Thực nghiệm và so sánh hiệu năng của các mô hình trên nhiều tập dữ liệu khác nhau.

Đối tượng và phạm vi nghiên cứu:

  • Đối tượng nghiên cứu: Mô hình hồi quy đơn, mô hình hồi quy bội, mô hình mạng neuron nhân tạo (ANN), mô hình kết hợp hồi quy và ANN; lý thuyết chuỗi thời gian và các kỹ thuật dự báo định lượng; mã nguồn cài đặt và ứng dụng demo dự báo.
  • Phạm vi nghiên cứu:
    • Thời gian thực hiện: Từ ngày 30/03/2020 đến ngày 30/07/2020.
    • Phạm vi học thuật và dữ liệu: Đồ án tốt nghiệp kỹ sư ngành Công nghệ thông tin (chuyên ngành Hệ thống thông tin) tại Trường Đại học Sư phạm Kỹ thuật TP.HCM; phạm vi thực nghiệm tập trung vào 4 bộ dữ liệu chuỗi thời gian chuẩn gồm Air Quality, Jena Climate (2009–2016), Appliances Energy Prediction và Occupancy Detection.

Cơ sở lý thuyết và phương pháp

Khóa luận thiết lập nền tảng lý thuyết dựa trên sự giao thoa giữa kinh tế lượng, thống kê cổ điển và các kỹ thuật học máy hiện đại:

  • Khung lý thuyết và mô hình dự báo:

    • Lý thuyết dự báo chuỗi thời gian: Nhận diện các mô típ chuỗi thời gian gồm xu hướng (Trend), tính mùa vụ (Seasonal), và tính tuần hoàn (Cyclic).
    • Mô hình hồi quy tuyến tính: Mô hình hồi quy tổng thể (PRM), hàm hồi quy tổng thể (PRF), hàm hồi quy mẫu (SRF), phương pháp bình phương nhỏ nhất (OLS - Ordinary Least Squares), mô hình hồi quy bội và hồi quy theo thời gian.
    • Mô hình Mạng neuron nhân tạo (ANN): Cấu trúc neuron sinh học và neuron nhân tạo, kiến trúc mạng truyền thẳng nhiều lớp (Feedforward Multilayer Perceptron), các hàm kích hoạt (Linear, Sigmoid, Tanh, ReLU, Sgn), cùng cơ chế cập nhật trọng số và học tham số.
    • Mô hình kết hợp (Hybrid Model): Kết hợp thành phần tuyến tính của mô hình hồi quy và thành phần phi tuyến của mạng ANN, tối ưu hóa sai số toàn phương trung bình ($MSE$) và xác định trọng số kết hợp ($\alpha$).
    • Các kỹ thuật tiền xử lý dữ liệu: Các phương pháp điều chỉnh (Calendar Adjustment, Popular Adjustment, Inflation Adjustment) và các phép biến đổi toán học (Log Transformation, Power Transformation, Box-Cox Transformation).

  • Phương pháp nghiên cứu thực tế đã sử dụng:

    • Phương pháp phân tích và tổng hợp lý thuyết: Thu thập, phân tích và hệ thống hóa tài liệu chuyên ngành về học máy, hồi quy thống kê, mạng neuron nhân tạo và kỹ thuật xử lý dữ liệu chuỗi thời gian.
    • Phương pháp thực nghiệm khoa học: Thu thập các tập dữ liệu thực tế, sử dụng ngôn ngữ lập trình Python và môi trường thống kê R/RStudio để lập trình cài đặt mô hình hồi quy, mạng ANN và mô hình kết hợp; tiến hành đo lường hiệu năng dự báo.
    • Phương pháp phân tích và tổng kết kinh nghiệm: Đánh giá định lượng kết quả thực nghiệm thông qua các chỉ số sai số và thời gian thực thi, so sánh đối chứng giữa các trường hợp thay đổi tham số ($k$, số epoch) để xác định cấu hình tối ưu.

  • Nguồn dữ liệu sử dụng trong nghiên cứu:

    • Dữ liệu minh họa lý thuyết: Chuỗi số liệu sản lượng bia hàng tháng tại Úc (1956–1990); dữ liệu giá chứng khoán của tập đoàn IBM; số liệu khảo sát thu nhập và chi tiêu của 10 hộ gia đình; dữ liệu tuyển sinh giai đoạn 1988–2017.
    • Dữ liệu thực nghiệm đánh giá mô hình: 04 bộ dữ liệu chuỗi thời gian chuẩn được thu thập phục vụ kiểm thử gồm: tập dữ liệu chất lượng không khí (Air Quality dataset), tập dữ liệu khí hậu Jena (Jena_climate_2009_2016), tập dữ liệu dự báo tiêu thụ năng lượng thiết bị (Appliances energy prediction) và tập dữ liệu phát hiện hiện diện (Occupancy Detection Data Set).

Nội dung chính theo từng chương

Phần 1: Mở đầu

Phần mở đầu trình bày tính cấp thiết của bài toán khai phá và dự báo dữ liệu chuỗi thời gian trong bối cảnh bùng nổ thông tin. Tác giả xác định rõ mục đích nghiên cứu, 6 nhiệm vụ trọng tâm, đối tượng nghiên cứu (hồi quy đơn, hồi quy bội, mạng ANN, mô hình kết hợp) và phạm vi nghiên cứu từ tháng 03/2020 đến tháng 07/2020 tại Bộ môn Hệ thống thông tin, Khoa CNTT, Trường Đại học Sư phạm Kỹ thuật TP.HCM.

Chương 1: Tổng quan và ứng dụng

Chương 1 giới thiệu các khái niệm nền tảng về Machine Learning và bài toán dự báo (Forecasting). Nội dung khảo sát phạm vi ứng dụng rộng rãi của Machine Learning trong các ngành công nghiệp chủ chốt:

  • Dịch vụ tài chính: Khai thác thông tin chi tiết (insights) và phát hiện lừa đảo, nhận diện rủi ro tín dụng.
  • Chính phủ: Phân tích cảm biến quản lý tiện ích xã hội, phòng chống gian lận và đánh cắp danh tính.
  • Chăm sóc sức khỏe: Phân tích dữ liệu thời gian thực từ thiết bị đeo để nâng cao hiệu quả chẩn đoán.
  • Marketing và bán hàng: Phân tích hành vi mua sắm trong quá khứ để cá nhân hóa trải nghiệm tiêu dùng.
  • Ngành dầu khí: Dự đoán sự cố cảm biến lọc dầu, tối ưu hóa mạng lưới phân phối.
  • Vận tải: Nhận diện quy luật vận hành và tối ưu hóa tuyến đường vận chuyển.

Chương này cũng xác định quy trình 5 bước cơ bản để thực hiện một bài toán dự báo: (1) Xác định vấn đề $\rightarrow$ (2) Thu thập thông tin $\rightarrow$ (3) Phân tích dữ liệu $\rightarrow$ (4) Chọn mô hình $\rightarrow$ (5) Sử dụng và đánh giá mô hình; đồng thời phân biệt rõ điều kiện áp dụng giữa dự báo định lượng (quantitative forecasting) và dự báo định tính (qualitative forecasting).

Chương 2: Các cách thể hiện dữ liệu dưới dạng Time Series

Chương 2 phân loại các mô típ đặc trưng xuất hiện trong chuỗi thời gian và các kỹ thuật biểu diễn trực quan:

  • Các mô típ chuỗi thời gian: Xu hướng (Trend - sự tăng hoặc giảm dài hạn), Mùa vụ (Seasonal - biến động phụ thuộc vào thời điểm trong tuần/tháng/năm), và Tuần hoàn (Cyclic - biến động lặp lại theo chu kỳ kinh tế/doanh nghiệp).
  • Các phương pháp biểu diễn đồ thị: Biểu đồ đường (Line Plot), biểu đồ phân tán (Scatter Plot), biểu đồ độ trễ (Lag Plot) và biểu đồ tự tương quan (Autocorrelation Plot) nhằm kiểm tra mối tương quan tuyến tính giữa các thời điểm trễ.

Chương 3: Các công cụ sử dụng cho việc dự đoán

Nội dung chương tập trung vào hai nhóm công cụ:

  1. Các phương pháp dự báo cơ bản:
    • Phương pháp trung bình (Mean method): Giá trị dự báo tương lai bằng giá trị trung bình cộng của các quan sát quá khứ.
    • Phương pháp Naïve: Dự báo giá trị tương lai bằng đúng giá trị quan sát của chu kỳ cuối cùng.
    • Phương pháp Seasonal Naïve: Dự báo giá trị tương lai bằng giá trị quan sát của cùng kỳ vụ mùa trước đó.
    • Phương pháp Drift: Cho phép giá trị dự báo tăng hoặc giảm theo thời gian dựa trên biến thiên trung bình lịch sử.
  2. Kỹ thuật chuyển đổi và điều chỉnh dữ liệu:
    • Điều chỉnh (Adjustment): Điều chỉnh lịch (Calendar Adjustment - loại bỏ chênh lệch số ngày trong tháng), điều chỉnh dân số (Popular Adjustment - tính trên đầu người), điều chỉnh lạm phát (Inflation Adjustment).
    • Biến đổi toán học (Transformation): Chuyển đổi Log (Log Transformation), chuyển đổi lũy thừa (Power Transformation: căn bậc hai, căn bậc ba), và biến đổi Box-Cox kết hợp thông qua siêu tham số $\lambda$.

Chương 4: Mô hình hồi quy

Chương 4 cung cấp chi tiết toàn bộ cơ sở toán học và thống kê của phân tích hồi quy:

  • Mô hình hồi quy đơn: Thiết lập phương trình hồi quy tổng thể $Y_i = \beta_0 + \beta_1 X_i + u_i$, hàm hồi quy tổng thể $E(Y|X) = \beta_0 + \beta_1 X$, và hàm hồi quy mẫu $\hat{Y}_i = \hat{\beta}_0 + \hat{\beta}_1 X_i$.
  • Phương pháp bình phương nhỏ nhất (OLS): Giải bài toán cực trị cực tiểu hóa tổng bình phương phần dư $\sum e_i^2 = \sum (Y_i - \hat{\beta}_0 - \hat{\beta}_1 X_i)^2$.
  • Đánh giá độ chính xác và kiểm định thống kê:
    • Phân tích các thành phần tổng độ lệch: $TSS = ESS + RSS$.
    • Hệ số xác định: $R^2 = 1 - \frac{RSS}{TSS}$.
    • Ước lượng sai số chuẩn $Se(\hat{\beta}_0)$, $Se(\hat{\beta}_1)$ và phương sai phần dư $\sigma^2 = \frac{\sum e_i^2}{n - 2}$.
    • Kiểm định giả thiết về các hệ số $\beta$ bằng kiểm định $t$-Student và kiểm định phương sai sai số bằng phân phối Chi-square ($\chi^2$).
  • Mô hình hồi quy bội (Multiple Linear Regression): Mở rộng mô hình với nhiều biến độc lập $Y_t = \beta_0 + \beta_1 X_{1t} + \beta_2 X_{2t} + \dots + \beta_k X_{kt} + u_t$ và thiết lập hệ phương trình chuẩn để ước lượng các hệ số OLS.

Ví dụ tính toán thực nghiệm trong chương: Phân tích quan hệ giữa thu nhập ($X$) và chi tiêu ($Y$) trên mẫu $n = 10$ hộ gia đình:

Đại lượng thống kê Giá trị tính toán Ý nghĩa thực nghiệm
$\hat{\beta}_0$ (Hệ số chặn) $4,5486$ (triệu đồng) Mức tiêu dùng tự định trung bình khi thu nhập bằng 0
$\hat{\beta}_1$ (Hệ số góc) $0,5446$ Thu nhập tăng 1 triệu đồng thì chi tiêu tăng trung bình 0,545 triệu đồng
Sai số chuẩn $Se(\hat{\beta}_0)$ $1,8001$ Sai số chuẩn của ước lượng hệ số chặn
Sai số chuẩn $Se(\hat{\beta}_1)$ $0,1191$ Sai số chuẩn của ước lượng hệ số góc
Sai số chuẩn hồi quy ($\sigma$) $1,47$ ($\sigma^2 = 2,1609$) Độ lệch chuẩn của sai số ngẫu nhiên mẫu
Hệ số xác định ($R^2$) $0,7233$ ($72,33%$) Thu nhập giải thích $72,33%$ sự biến thiên của mức chi tiêu
Giá trị thống kê $t$ của $\beta_1$ $4,5726$ ($t_{critical} = 2,306$) Bác bỏ giả thiết $H_0: \beta_1 = 0$ ở mức ý nghĩa $5%$

Toàn bộ quy trình ước lượng, khoảng tin cậy và kiểm định thống kê được tác giả đối chiếu và kiểm chứng bằng các câu lệnh chuyên dụng trong RStudio (lm(), summary(), confint(), qt()).

Chương 5: Mô hình mạng neuron nhân tạo (ANN)

Chương 5 trình bày lịch sử phát triển của mạng neuron nhân tạo từ mô phỏng neuron sinh học đến cấu trúc mạng nơ-ron đa lớp truyền thẳng (MLP). Chương phân tích đặc tính toán học của 5 hàm kích hoạt phổ biến:

  1. Hàm tuyến tính (Linear): $f(x) = x$.
  2. Hàm Sigmoid: $f(x) = \frac{1}{1 + e^{-x}}$, dải giá trị $(0, 1)$.
  3. Hàm Tanh (Hyperbolic Tangent): $f(x) = \frac{e^x - e^{-x}}{e^x + e^{-x}}$, dải giá trị $(-1, 1)$.
  4. Hàm ReLU (Rectified Linear Unit): $f(x) = \max(0, x)$.
  5. Hàm dấu (Sign/Sgn): $f(x) = 1$ nếu $x \ge 0$ và $-1$ nếu $x < 0$.

Chương cũng phân tích cơ chế lan truyền tiến, tính toán hàm mất mát và thuật toán lan truyền ngược để cập nhật trọng số mạng, minh họa qua bài toán xử lý dữ liệu tuyển sinh giai đoạn 1988–2017.

Chương 6: Mô hình kết hợp hồi quy và mạng neuron nhân tạo

Chương 6 đề xuất giải pháp tích hợp giữa mô hình hồi quy tuyến tính và mạng neuron nhân tạo ANN. Cấu trúc mô hình kết hợp tận dụng mô hình hồi quy để nắm bắt các thành phần xu hướng tuyến tính trong dữ liệu, sau đó sử dụng mạng ANN để học các thành phần phi tuyến tính và phần dư phức tạp. Tác giả thiết lập công thức tính sai số toàn phương trung bình ($MSE$) và phương pháp tối ưu hóa trọng số kết hợp ($\alpha$) giữa hai mô hình thành phần nhằm đạt cực tiểu hóa sai số tổng thể.

Chương 7: Đánh giá bằng thực nghiệm

Chương 7 triển khai thực nghiệm đánh giá hiệu năng mô hình trên môi trường lập trình với 4 tập dữ liệu chuỗi thời gian:

  1. Air quality data set (Chất lượng không khí).
  2. Jena_climate_2009_2016 (Dữ liệu thời tiết, khí hậu Jena).
  3. Appliances energy prediction (Dự báo năng lượng tiêu thụ của thiết bị gia dụng).
  4. Occupancy Detection Data Set (Dữ liệu phát hiện sự hiện diện trong phòng).

Các thực nghiệm được tiến hành theo hai trục tham số chính:

  • Thay đổi tham số bước trễ/kích thước đầu vào $k$.
  • Thay đổi số chu kỳ huấn luyện (epoch) trên mạng ANN.

Hiệu năng của 3 mô hình (Mô hình Hồi quy, Mô hình ANN, Mô hình Kết hợp Hồi quy - ANN) được đo lường và so sánh trực tiếp qua hai tiêu chí: Giá trị sai số toàn phương trung bình ($MSE$) và Thời gian thực thi (Execution Time).

Phần 3: Kết luận

Phần kết luận tổng kết các kết quả đạt được, đánh giá mức độ hoàn thành so với mục tiêu đề ra ban đầu, nêu bật các đóng góp của đề tài và vạch ra các định hướng phát triển nghiên cứu tiếp theo.

Kết quả và đóng góp

Kết quả thực nghiệm chính

Qua quá trình chạy thực nghiệm trên 4 bộ dữ liệu chuỗi thời gian chuẩn với các cấu hình tham số khác nhau, nghiên cứu đã ghi nhận các kết quả định lượng:

  • Tập dữ liệu Air Quality: Mô hình kết hợp cho thấy sự cải thiện về giá trị sai số so với mô hình hồi quy đơn thuần khi số epoch và tham số $k$ được điều chỉnh tối ưu. Thời gian thực thi của mô hình hồi quy là nhanh nhất, trong khi ANN và mô hình kết hợp có thời gian thực thi dài hơn do chi phí huấn luyện nơ-ron.
  • Tập dữ liệu Jena Climate (2009–2016): Việc tăng số lượng epoch giúp mạng ANN và mô hình kết hợp giảm dần sai số huấn luyện. Mô hình kết hợp đạt được sự cân bằng giữa độ chính xác và khả năng tổng quát hóa dữ liệu thời tiết biến động phức tạp.
  • Tập dữ liệu Appliances Energy Prediction: Mô hình kết hợp thể hiện ưu thế vượt trội trong việc xử lý các chuỗi dữ liệu năng lượng có tính chất phi tuyến cao kết hợp biến động định kỳ của sinh hoạt gia đình.
  • Tập dữ liệu Occupancy Detection: Độ chính xác của dự báo trạng thái hiện diện đạt mức cao; mô hình kết hợp kiểm soát sai số tốt hơn so với mô hình hồi quy tuyến tính đơn lẻ.

Bảng tổng hợp đặc điểm thực nghiệm của 3 mô hình trên các tập dữ liệu:

Mô hình đánh giá Ưu điểm chính ghi nhận Nhược điểm / Hạn chế Đặc điểm thời gian thực thi
Mô hình Hồi quy Tính toán đơn giản, diễn giải hệ số rõ ràng Kém hiệu quả với dữ liệu có tính phi tuyến phức tạp Thời gian chạy rất nhanh (thấp nhất)
Mô hình ANN Khả năng xấp xỉ hàm phi tuyến linh hoạt Dễ nhạy cảm với số epoch và tham số khởi tạo Thời gian huấn luyện phụ thuộc lớn vào số epoch
Mô hình Kết hợp (Hybrid) Tận dụng được cả thành phần tuyến tính và phi tuyến; sai số $MSE$ tối ưu Kiến trúc phức tạp hơn, cần tinh chỉnh trọng số $\alpha$ Thời gian chạy tương đương hoặc cao hơn ANN một phần

Giải pháp và kiến nghị đề xuất

  • Đề xuất áp dụng quy trình tiền xử lý chuỗi thời gian đồng bộ trước khi đưa vào mô hình hóa: bắt buộc thực hiện các bước kiểm tra mô típ (Trend, Seasonal, Cyclic), áp dụng biến đổi Box-Cox hoặc Log Transformation và điều chỉnh lịch/dân số nhằm làm mịn dữ liệu.
  • Kiến nghị sử dụng mô hình kết hợp hồi quy và ANN cho các bài toán dự báo chuỗi thời gian thực tế trong doanh nghiệp khi chuỗi số liệu vừa mang tính xu hướng dài hạn (tuyến tính) vừa chứa các biến động nhiễu ngắn hạn phức tạp (phi tuyến).

Đóng góp của đề tài

  1. Hệ thống hóa lý thuyết: Cung cấp tài liệu tổng hợp hoàn chỉnh từ các phương pháp dự báo cơ bản, cơ sở toán học của mô hình hồi quy OLS (kèm kiểm định thống kê $t$, $\chi^2$, hệ số $R^2$), đến nguyên lý mạng neuron nhân tạo và các hàm kích hoạt.
  2. Xây dựng mô hình kết hợp: Thiết lập hoàn chỉnh mô hình lai giữa hồi quy và ANN, làm rõ cơ chế phân rã tuyến tính - phi tuyến và thuật toán tối ưu sai số $MSE$.
  3. Thực nghiệm đối sánh đa dạng: Thực hiện kiểm thử toàn diện trên 4 bộ dữ liệu chuỗi thời gian thực tế với các kịch bản thay đổi tham số $k$ và epoch, ghi nhận chi tiết số liệu sai số và thời gian thực thi.
  4. Triển khai ứng dụng Demo: Xây dựng ứng dụng thử nghiệm phục vụ việc đưa dữ liệu đầu vào và trực quan hóa kết quả dự báo chuỗi thời gian.

Hạn chế và hướng nghiên cứu tiếp

Hạn chế của đề tài

  • Nghiên cứu tập trung chủ yếu vào kiến trúc mạng neuron nhân tạo truyền thẳng nhiều lớp (MLP) kết hợp với hồi quy tuyến tính; chưa khảo sát các kiến trúc mạng học sâu chuyên biệt cho dữ liệu tuần tự thời gian phức tạp hơn.
  • Trọng số kết hợp ($\alpha$) và các siêu tham số trong mô hình kết hợp vẫn phụ thuộc vào quá trình thử nghiệm thực nghiệm trên từng tập dữ liệu cụ thể.
  • Ứng dụng demo được xây dựng ở mức độ thử nghiệm học thuật, chưa tối ưu hóa cho các hệ thống xử lý dữ liệu lớn theo thời gian thực (real-time stream data).

Hướng nghiên cứu tiếp

  1. Mở rộng nghiên cứu và thử nghiệm kết hợp các mô hình hồi quy với các mạng nơ-ron học sâu chuyên dụng cho chuỗi thời gian như RNN (Recurrent Neural Network), LSTM (Long Short-Term Memory) và GRU (Gated Recurrent Unit).
  2. Phát triển các thuật toán tự động hóa việc tìm kiếm siêu tham số và tối ưu hóa trọng số kết hợp tự động dựa trên giải thuật di truyền hoặc tối ưu hóa bầy đàn.
  3. Hoàn thiện ứng dụng dự báo, tích hợp khả năng thu thập và xử lý dữ liệu tự động từ các nguồn dữ liệu trực tiếp phục vụ triển khai trong môi trường doanh nghiệp.

Giá trị tham khảo

Đồ án tốt nghiệp là nguồn tài liệu học thuật có giá trị thực tiễn đối với:

  • Sinh viên và giảng viên ngành Công nghệ thông tin, Hệ thống thông tin, Khoa học dữ liệu: Cung cấp tài liệu tham khảo chi tiết về quy trình xây dựng bài toán dự báo dữ liệu chuỗi thời gian từ bước tiền xử lý, phân tích thống kê đến thiết kế mô hình học máy.
  • Người nghiên cứu mô hình thống kê và hồi quy: Chương 4 là một tài liệu cô đọng, rõ ràng về phương pháp OLS, giải thích ý nghĩa hệ số kinh tế lượng, kiểm định giả thiết và các hàm thực thi tương ứng trong môi trường RStudio.
  • Kỹ sư phát triển hệ thống dự báo: Chương 6 và Chương 7 cung cấp góc nhìn thực tiễn về ưu - nhược điểm của mô hình lai (Hybrid model), giúp lựa chọn mô hình phù hợp giữa bài toán yêu cầu tốc độ thực thi nhanh hay độ chính xác cao.

Câu hỏi thường gặp

1. Tại sao đề tài lại đề xuất mô hình kết hợp giữa hồi quy và mạng neuron nhân tạo (ANN)?

Mô hình hồi quy tuyến tính rất hiệu quả trong việc nắm bắt các thành phần tuyến tính và xu hướng tổng thể của chuỗi thời gian nhưng bị hạn chế đối với các mối quan hệ phi tuyến phức tạp. Ngược lại, mạng ANN có khả năng học mạnh mẽ các hàm phi tuyến nhưng có thể gặp khó khăn khi mô hình hóa các xu hướng tuyến tính thuần túy. Việc kết hợp hai mô hình cho phép phân rã chuỗi dữ liệu, tận dụng thế mạnh của cả hai phương pháp để giảm thiểu sai số toàn phương trung bình ($MSE$).

2. Trong ví dụ tính toán hồi quy đơn ở Chương 4 (mẫu 10 hộ gia đình), các kết quả định lượng đạt được là gì?

Từ tập dữ liệu khảo sát thu nhập ($X$) và chi tiêu ($Y$) của 10 hộ gia đình, phương pháp OLS xác định phương trình hồi quy mẫu $\hat{Y} = 4,5486 + 0,5446X$ với hệ số xác định $R^2 = 0,7233$ ($72,33%$). Giá trị thống kê kiểm định $t$ cho hệ số góc $\beta_1$ đạt $4,5726$, lớn hơn giá trị tới hạn $t_{0.025; 8} = 2,306$, do đó bác bỏ giả thiết $H_0$, khẳng định thu nhập có tác động thực sự đến chi tiêu với độ tin cậy $95%$.

3. Đồ án đã áp dụng những kỹ thuật tiền xử lý và biến đổi dữ liệu nào trước khi đưa vào dự báo?

Đồ án đã phân tích hai nhóm kỹ thuật chính: nhóm điều chỉnh (Adjustment) gồm điều chỉnh lịch (loại trừ sai lệch số ngày trong tháng), điều chỉnh dân số (tính bình quân đầu người), điều chỉnh lạm phát (quy đổi về giá trị tiền tệ năm gốc); và nhóm biến đổi toán học (Transformation) gồm chuyển đổi Log, chuyển đổi căn bậc hai/bậc ba (Power) và biến đổi Box-Cox thông qua tham số $\lambda$.

4. Bốn tập dữ liệu được sử dụng để đánh giá thực nghiệm trong đồ án là những tập dữ liệu nào?

Bốn tập dữ liệu chuỗi thời gian chuẩn được sử dụng tại Chương 7 gồm: tập dữ liệu chất lượng không khí (Air quality data set), tập dữ liệu khí hậu Jena (Jena_climate_2009_2016), tập dữ liệu năng lượng tiêu thụ thiết bị gia dụng (Appliances energy prediction) và tập dữ liệu phát hiện hiện diện (Occupancy Detection Data Set).

5. Những hàm kích hoạt nào của mạng neuron nhân tạo được phân tích chi tiết trong đề tài?

Chương 5 của đồ án phân tích chi tiết 5 hàm kích hoạt bao gồm: Hàm tuyến tính (Linear), hàm Sigmoid (đầu ra trong khoảng $0$ đến $1$), hàm Tanh (đầu ra trong khoảng $-1$ đến $1$), hàm ReLU ($\max(0, x)$) và hàm dấu (sgn).

Kết luận

Đồ án tốt nghiệp "Tìm hiểu mô hình hồi quy và ứng dụng trong dự báo dữ liệu chuỗi thời gian" của nhóm sinh viên Trường Đại học Sư phạm Kỹ thuật TP.HCM đã nghiên cứu toàn diện từ cơ sở lý thuyết thống kê cổ điển đến các mô hình mạng nơ-ron học máy hiện đại. Nghiên cứu đã đề xuất và cài đặt thành công mô hình kết hợp giữa hồi quy tuyến tính và mạng neuron nhân tạo ANN nhằm tối ưu hóa độ chính xác dự báo trên dữ liệu chuỗi thời gian. Kết quả thực nghiệm đối sánh trên 4 bộ dữ liệu thực tế cùng ứng dụng demo được xây dựng đã chứng minh tính đúng đắn, hiệu quả học thuật và khả năng ứng dụng thực tiễn của đề tài trong chuyên ngành Hệ thống thông tin.