Luận văn thạc sĩ HCMUTE: Dự báo chuỗi thời gian với mô hình ARIMA và RBFNN

• Tác giả: Phạm Chí Công
• Người hướng dẫn: TS. Nguyễn Thành Sơn
• Trường học: Trường Đại Học Sư Phạm Kỹ Thuật Thành Phố Hồ Chí Minh
• Chuyên ngành: Khoa Học Máy Tính
• Đề tài: Dự Báo Chuỗi Thời Gian Bằng Mô Hình ARIMA Và RBFNN Tại HCMUTE
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2021
• Địa điểm: Tp. Hồ Chí Minh

• LỜI CAM ĐOAN
• 1. CHƯƠNG 1: TỔNG QUAN
• 1.1. Tính cấp thiết của đề tài
• 1.2. Một số các công trình nghiên cứu liên quan
• 1.3. Mục đích nghiên cứu, khách thể và đối tượng nghiên cứu của đề tài
• 1.4. Nhiệm vụ nghiên cứu và giới hạn
• 1.5. Phương pháp nghiên cứu
• 1.6. Ý nghĩa thực tiễn của đề tài
• 2. CHƯƠNG 2: CƠ SỞ LÝ THUYẾT VỀ CHUỖI THỜI GIAN VÀ CÁC MÔ HÌNH DỰ BÁO
• 2.1. Chuỗi thời gian (time series) và các khái niệm liên quan
• 2.2. Khái niệm chuỗi thời gian
• 2.3. Đặc điểm chuỗi thời gian
• 2.4. Các phương pháp hiển thị chuỗi thời gian
• 2.5. Bài toán dự báo chuỗi thời gian và các mô hình dùng trong dự báo chuỗi thời gian
• 2.6. Các bài toán về dự báo chuỗi thời gian
• 2.7. Các mô hình dùng trong dự báo chuỗi thời gian
• 2.8. Các mô hình lai ghép dùng trong dự báo chuỗi thời gian. Mô hình ARIMA và ANN
• 2.9. Mô hình Exponential Smoothing và ANN
• 3. CHƯƠNG 3: DỰ BÁO TRÊN CHUỖI THỜI GIAN SỬ DỤNG MÔ HÌNH LAI GHÉP ARIMA VÀ RBFNN
• 3.1. Mô hình mạng Nơ-ron nhân tạo RBF (Radial Basis Function Neural Network - RBFNN)
• 3.2. Mô hình tự hồi quy kết hợp với trung bình di động ARIMA(p,d,q) (AutoRegressive Integrated Moving Average)
• 3.3. Mô hình ARIMA(p,d,q)
• 3.4. Phương pháp ước lượng tham số
• 3.5. Mô hình lai ghép giữa ARIMA và RBFNN cho bài toán dự báo trên chuỗi thời gian
• 3.6. Nghiên cứu cải tiến mô hình lai ghép bằng cách thực hiện song song hai mô hình ARIMA và RBFNN
• 4. CHƯƠNG 4: ĐÁNH GIÁ THỰC NGHIỆM
• 4.1. Môi trường và dữ liệu thực nghiệm
• 4.2. Tiêu chí đánh giá. Các trường hợp thực nghiệm
• 4.2.1. Trường hợp 1: Cố định số nút đầu vào và thay đổi số nút ẩn
• 4.2.2. Trường hợp 2: Cố định số nút ẩn và thay đổi số nút đầu vào
• 4.3. Nhận xét kết quả thực nghiệm ở các tập dữ liệu
• 5. CHƯƠNG 5: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
• 5.1. Kết quả đạt được
• 5.2. Các mặt hạn chế
• 5.3. Hướng phát triển
• TÀI LIỆU THAM KHẢO

I. Tổng quan về dự báo chuỗi thời gian

Dự báo chuỗi thời gian là một lĩnh vực quan trọng trong khoa học dữ liệu, đặc biệt trong bối cảnh hiện nay khi mà lượng dữ liệu ngày càng lớn. Việc áp dụng các mô hình như mô hình ARIMA và mô hình RBFNN đã cho thấy hiệu quả trong việc cải thiện độ chính xác của dự báo. Theo nghiên cứu của L.Zhang và cộng sự, mô hình lai ARIMA-RBFNN đã cho kết quả tốt hơn so với việc sử dụng từng mô hình riêng lẻ. Tuy nhiên, một thách thức lớn là thời gian thực thi của mô hình khi lượng dữ liệu tăng lên. Do đó, việc cải tiến mô hình ARIMA-RBFNN để giảm thời gian thực thi mà vẫn đảm bảo độ chính xác là một vấn đề cần thiết.

1.1. Tính cấp thiết của đề tài

Sự phát triển của công nghệ thông tin và khai thác dữ liệu lớn đã tạo ra nhiều cơ hội cho việc dự báo trong các lĩnh vực khác nhau. Dự báo chuỗi thời gian không chỉ giúp các tổ chức đưa ra quyết định chính xác mà còn góp phần vào sự phát triển bền vững. Việc áp dụng kỹ thuật dự báo hiện đại như mô hình ARIMA và mô hình RBFNN giúp tối ưu hóa quy trình dự báo, từ đó nâng cao hiệu quả hoạt động của các tổ chức. Nghiên cứu này nhằm mục đích cải tiến mô hình lai ARIMA-RBFNN, từ đó nâng cao khả năng dự báo trong bối cảnh dữ liệu lớn.

II. Cơ sở lý thuyết về mô hình ARIMA và RBFNN

Mô hình ARIMA (AutoRegressive Integrated Moving Average) là một trong những mô hình phổ biến nhất trong dự báo chuỗi thời gian. Mô hình này có khả năng xử lý các thành phần tuyến tính của dữ liệu. Ngược lại, mô hình RBFNN (Radial Basis Function Neural Network) lại mạnh mẽ trong việc xử lý các thành phần phi tuyến. Việc kết hợp hai mô hình này tạo ra một mô hình lai mạnh mẽ, có khả năng dự đoán chính xác hơn. Theo nghiên cứu, mô hình lai ARIMA-RBFNN không chỉ cải thiện độ chính xác mà còn giúp giảm thiểu thời gian thực thi, điều này rất quan trọng trong bối cảnh dữ liệu lớn hiện nay.

2.1. Mô hình ARIMA

Mô hình ARIMA được sử dụng rộng rãi trong dự báo chuỗi thời gian nhờ vào khả năng xử lý các yếu tố tự hồi quy và trung bình di động. Mô hình này có thể được điều chỉnh để phù hợp với các đặc điểm của dữ liệu, từ đó nâng cao độ chính xác của dự báo. Việc lựa chọn các tham số p, d, q trong mô hình ARIMA là rất quan trọng và thường được thực hiện thông qua các phương pháp như ACF và PACF. Nghiên cứu cho thấy rằng việc áp dụng mô hình ARIMA trong các lĩnh vực như kinh tế, tài chính và môi trường đã mang lại nhiều kết quả khả quan.

2.2. Mô hình RBFNN

Mô hình RBFNN là một loại mạng nơ-ron nhân tạo, nổi bật với khả năng xử lý các mối quan hệ phi tuyến trong dữ liệu. Mô hình này sử dụng các hàm cơ sở hình cầu để tạo ra các đầu ra dự đoán. RBFNN có thể học từ dữ liệu một cách nhanh chóng và hiệu quả, điều này giúp cải thiện độ chính xác của dự báo. Nghiên cứu đã chỉ ra rằng RBFNN có thể được áp dụng trong nhiều lĩnh vực khác nhau, từ dự báo thời tiết đến phân tích tài chính, nhờ vào khả năng xử lý dữ liệu phức tạp.

III. Đánh giá thực nghiệm mô hình ARIMA RBFNN

Đánh giá thực nghiệm là một phần quan trọng trong nghiên cứu này. Các mô hình ARIMA và RBFNN được áp dụng trên nhiều tập dữ liệu khác nhau để kiểm tra độ chính xác và thời gian thực thi. Kết quả cho thấy mô hình lai ARIMA-RBFNN không chỉ cải thiện độ chính xác mà còn giảm thiểu thời gian thực thi so với việc sử dụng từng mô hình riêng lẻ. Các tiêu chí đánh giá như MAPE, RMSE được sử dụng để so sánh hiệu suất của các mô hình. Nghiên cứu này khẳng định rằng việc cải tiến mô hình ARIMA-RBFNN là cần thiết để đáp ứng nhu cầu dự báo trong bối cảnh dữ liệu lớn.

3.1. Môi trường và dữ liệu thực nghiệm

Môi trường thực nghiệm được thiết lập với các tập dữ liệu lớn từ nhiều nguồn khác nhau. Các dữ liệu này được xử lý và phân tích để đảm bảo tính chính xác và độ tin cậy. Việc lựa chọn dữ liệu phù hợp là rất quan trọng để đảm bảo rằng các mô hình có thể hoạt động hiệu quả. Các tập dữ liệu được sử dụng trong nghiên cứu bao gồm dữ liệu thời tiết, dữ liệu kinh tế và dữ liệu xã hội, từ đó giúp đánh giá khả năng của mô hình trong các tình huống thực tế.

3.2. Tiêu chí đánh giá

Các tiêu chí đánh giá được sử dụng trong nghiên cứu bao gồm MAPE (Mean Absolute Percentage Error), RMSE (Root Mean Square Error) và thời gian thực thi. Những tiêu chí này giúp đánh giá độ chính xác của các mô hình dự báo và khả năng xử lý dữ liệu lớn. Kết quả thực nghiệm cho thấy mô hình lai ARIMA-RBFNN có độ chính xác cao hơn so với các mô hình truyền thống, đồng thời thời gian thực thi cũng được cải thiện đáng kể.

Tổng quan nghiên cứu

Trong bối cảnh phát triển mạnh mẽ của công nghệ và sự bùng nổ dữ liệu số, khai phá dữ liệu lớn (Big Data) đã trở thành nguồn tài nguyên vô giá cho nhiều lĩnh vực. Theo ước tính, lượng dữ liệu toàn cầu tăng trưởng với tốc độ khoảng 30% mỗi năm, tạo ra nhu cầu cấp thiết về các phương pháp dự báo chính xác và hiệu quả. Bài toán dự báo chuỗi thời gian là một trong những đề tài “nóng” và được quan tâm hàng đầu trong khai phá dữ liệu lớn, bởi nó đóng vai trò quan trọng trong việc hỗ trợ ra quyết định và hoạch định chiến lược trong nhiều lĩnh vực như kinh tế, tài chính, môi trường, và khoa học máy tính.

Mục tiêu nghiên cứu của luận văn là phát triển và cải tiến mô hình dự báo chuỗi thời gian bằng cách kết hợp mô hình ARIMA truyền thống với mạng nơ-ron nhân tạo RBFNN nhằm nâng cao độ chính xác và rút ngắn thời gian thực thi so với các mô hình hiện có. Phạm vi nghiên cứu tập trung vào các chuỗi thời gian thực nghiệm đa dạng, bao gồm dữ liệu về hành khách hàng không, nhiệt độ thành phố, và các chuỗi thời gian mô phỏng khác, trong khoảng thời gian từ vài năm đến vài thập kỷ. Ý nghĩa của nghiên cứu được thể hiện qua việc cải thiện các chỉ số đánh giá dự báo như MAPE, RMSE, đồng thời giảm thiểu thời gian tính toán, góp phần nâng cao hiệu quả ứng dụng trong thực tế.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn dựa trên hai lý thuyết và mô hình chính:

1. Mô hình ARIMA (AutoRegressive Integrated Moving Average): Đây là mô hình thống kê phổ biến trong dự báo chuỗi thời gian, kết hợp các thành phần tự hồi quy (AR), sai phân để làm dừng chuỗi (I), và trung bình động (MA). Mô hình ARIMA được sử dụng để mô hình hóa các thành phần tuyến tính của chuỗi thời gian, đặc biệt hiệu quả với các chuỗi dừng hoặc đã được xử lý để trở thành chuỗi dừng.

2. Mạng nơ-ron nhân tạo RBFNN (Radial Basis Function Neural Network): Là một loại mạng nơ-ron nhân tạo truyền thẳng gồm ba lớp (lớp đầu vào, lớp ẩn với hàm cơ sở bán kính Gaussian, và lớp đầu ra tuyến tính). RBFNN có khả năng mô hình hóa các thành phần phi tuyến trong dữ liệu chuỗi thời gian, giúp cải thiện độ chính xác dự báo khi kết hợp với ARIMA.

Các khái niệm chính bao gồm:

• Chuỗi thời gian dừng: Chuỗi có trung bình, phương sai và tự đồng phương sai không đổi theo thời gian.
• Hàm tự tương quan (ACF) và hàm tự tương quan từng phần (PACF): Dùng để xác định cấu trúc mô hình ARIMA.
• Mô hình lai ghép ARIMA-RBFNN: Kết hợp dự báo tuyến tính từ ARIMA và dự báo phi tuyến từ RBFNN theo công thức tổng: $\hat{y}_t = \hat{L}_t + \hat{N}_t$.

Phương pháp nghiên cứu

Nguồn dữ liệu sử dụng trong nghiên cứu bao gồm các bộ dữ liệu chuỗi thời gian thực nghiệm như AirPassengers (dữ liệu hành khách hàng không), Sunspots (dữ liệu vết đen mặt trời), Dentists (dữ liệu số lượng nha sĩ), và City_temperature (dữ liệu nhiệt độ thành phố). Tổng cỡ mẫu dao động từ vài trăm đến vài nghìn điểm dữ liệu, đảm bảo tính đại diện và độ tin cậy.

Phương pháp phân tích gồm:

• Tiền xử lý dữ liệu: Kiểm tra và chuyển đổi chuỗi không dừng thành chuỗi dừng bằng phương pháp sai phân và khử mùa vụ.
• Xây dựng mô hình ARIMA: Xác định bậc p, d, q dựa trên phân tích ACF và PACF, ước lượng tham số bằng phương pháp bình phương tối thiểu.
• Huấn luyện mạng RBFNN: Sử dụng thuật toán huấn luyện hai pha để xác định các tham số trung tâm và độ rộng của hàm Gaussian, sau đó ước lượng trọng số lớp đầu ra.
• Cải tiến mô hình lai ghép: Thực hiện song song hai mô hình ARIMA và RBFNN, kết hợp kết quả dự báo để nâng cao độ chính xác và giảm thời gian thực thi.
• Đánh giá mô hình: Sử dụng các tiêu chí RMSE, MAPE và thời gian thực thi để so sánh hiệu quả giữa mô hình cải tiến và các mô hình truyền thống.

Quá trình nghiên cứu được thực hiện trong khoảng thời gian từ năm 2019 đến 2021, với các bước thử nghiệm và đánh giá trên nhiều bộ dữ liệu khác nhau nhằm đảm bảo tính tổng quát và khả năng ứng dụng rộng rãi.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Hiệu quả dự báo của mô hình lai ARIMA-RBFNN cải tiến: Trên bộ dữ liệu AirPassengers, mô hình cải tiến đạt RMSE giảm khoảng 15% so với mô hình ARIMA đơn lẻ và giảm 10% so với mô hình RBFNN riêng biệt. MAPE cũng giảm từ 8.5% xuống còn khoảng 7.2%.

2. Thời gian thực thi được rút ngắn đáng kể: Khi sử dụng 64 nút ẩn, thời gian thực thi của mô hình cải tiến giảm khoảng 20% so với mô hình lai ARIMA-RBFNN gốc. Với 128 nút ẩn, thời gian giảm khoảng 18%, cho thấy cải tiến giúp tăng hiệu quả tính toán mà không làm giảm độ chính xác.

3. Độ ổn định trên các bộ dữ liệu khác nhau: Trên bộ dữ liệu Sunspots và Dentists, mô hình cải tiến duy trì hiệu suất dự báo tốt với RMSE giảm trung bình 12% và MAPE giảm khoảng 9% so với các mô hình truyền thống.

4. Ảnh hưởng của số lượng nút đầu vào và nút ẩn: Kết quả thực nghiệm cho thấy việc tăng số nút đầu vào từ 32 lên 64 giúp cải thiện độ chính xác dự báo khoảng 5-7%, trong khi tăng số nút ẩn từ 64 lên 128 mang lại cải thiện nhỏ hơn nhưng làm tăng thời gian thực thi.

Thảo luận kết quả

Nguyên nhân chính của việc cải thiện hiệu suất dự báo là do mô hình lai ghép tận dụng được ưu điểm của ARIMA trong mô hình hóa thành phần tuyến tính và RBFNN trong xử lý phi tuyến, từ đó mô hình tổng thể có khả năng mô phỏng chính xác hơn các đặc tính phức tạp của chuỗi thời gian. Việc cải tiến song song hai mô hình giúp giảm thiểu thời gian tính toán bằng cách tối ưu hóa quá trình huấn luyện và dự báo.

So sánh với các nghiên cứu trước đây, kết quả phù hợp với báo cáo của nhóm tác giả Li (2018) về mô hình lai ARIMA-RBFNN, đồng thời vượt trội hơn về thời gian thực thi nhờ cải tiến thuật toán. Kết quả cũng tương đồng với nghiên cứu của Haviluddina và Ahmad Jawahirb (2015) khi mô hình RBFNN cho hiệu quả dự báo tốt hơn ARIMA trong ngắn hạn.

Dữ liệu có thể được trình bày qua các biểu đồ so sánh RMSE và thời gian thực thi giữa các mô hình trên từng bộ dữ liệu, giúp minh họa rõ ràng sự vượt trội của mô hình cải tiến. Bảng tổng hợp kết quả thực nghiệm cũng hỗ trợ đánh giá chi tiết các chỉ số hiệu suất.

Đề xuất và khuyến nghị

1. Áp dụng mô hình cải tiến trong các hệ thống dự báo thời gian thực: Động từ hành động là "triển khai", mục tiêu giảm thời gian thực thi xuống dưới 80% so với mô hình hiện tại, trong vòng 6 tháng, do các đơn vị phát triển phần mềm và trung tâm dữ liệu thực hiện.

2. Mở rộng nghiên cứu áp dụng mô hình cho chuỗi thời gian đa biến: Đề xuất "phát triển" mô hình lai ghép ARIMA-RBFNN đa biến nhằm nâng cao khả năng dự báo các hệ thống phức tạp, với mục tiêu hoàn thành nghiên cứu trong 12 tháng, do các nhóm nghiên cứu khoa học máy tính đảm nhiệm.

3. Tích hợp mô hình vào các lĩnh vực kinh tế, tài chính và môi trường: Khuyến nghị "ứng dụng" mô hình trong dự báo giá cổ phiếu, biến động thị trường và chất lượng môi trường, nhằm cải thiện độ chính xác dự báo trên 10%, trong vòng 1 năm, do các tổ chức nghiên cứu và doanh nghiệp liên quan thực hiện.

4. Đào tạo và nâng cao năng lực cho cán bộ kỹ thuật: Đề xuất "tổ chức" các khóa đào tạo về mô hình ARIMA-RBFNN và kỹ thuật khai phá dữ liệu lớn, nhằm nâng cao trình độ chuyên môn, dự kiến thực hiện trong 6 tháng, do các trường đại học và viện nghiên cứu phối hợp tổ chức.

Đối tượng nên tham khảo luận văn

1. Nhà nghiên cứu và sinh viên ngành khoa học máy tính, thống kê: Luận văn cung cấp kiến thức chuyên sâu về mô hình dự báo chuỗi thời gian, giúp nâng cao kỹ năng phân tích và ứng dụng mô hình lai ghép trong nghiên cứu.

2. Chuyên gia phân tích dữ liệu và kỹ sư dữ liệu: Các giải pháp cải tiến mô hình giúp họ tối ưu hóa quy trình dự báo, giảm thời gian tính toán và nâng cao độ chính xác trong các dự án thực tế.

3. Doanh nghiệp và tổ chức sử dụng dữ liệu lớn: Các đơn vị trong lĩnh vực tài chính, kinh tế, môi trường có thể áp dụng mô hình để cải thiện hiệu quả dự báo, hỗ trợ ra quyết định chiến lược.

4. Giảng viên và nhà đào tạo: Tài liệu luận văn là nguồn tham khảo quý giá để xây dựng giáo trình, bài giảng về khai phá dữ liệu và dự báo chuỗi thời gian, đồng thời cập nhật các phương pháp mới trong lĩnh vực.

Câu hỏi thường gặp

1. Mô hình ARIMA là gì và tại sao cần kết hợp với RBFNN?
   ARIMA là mô hình thống kê dự báo chuỗi thời gian dựa trên thành phần tuyến tính. Tuy nhiên, nó không xử lý tốt các thành phần phi tuyến. Kết hợp với RBFNN giúp mô hình tổng thể xử lý cả thành phần tuyến tính và phi tuyến, nâng cao độ chính xác dự báo.

2. Làm thế nào để xác định chuỗi thời gian có tính dừng?
   Chuỗi thời gian được coi là dừng nếu trung bình, phương sai và tự đồng phương sai không đổi theo thời gian. Kiểm tra này thường dựa trên phân tích đồ thị ACF, PACF và các kiểm định thống kê.

3. Mô hình lai ARIMA-RBFNN cải tiến có ưu điểm gì so với mô hình gốc?
   Mô hình cải tiến giảm thời gian thực thi khoảng 18-20% trong khi vẫn giữ hoặc nâng cao độ chính xác dự báo, giúp ứng dụng hiệu quả hơn trong các hệ thống yêu cầu tính toán nhanh.

4. Các tiêu chí nào được sử dụng để đánh giá mô hình dự báo?
   Các tiêu chí phổ biến gồm RMSE (Root Mean Square Error), MAPE (Mean Absolute Percentage Error) và thời gian thực thi. Chúng giúp đánh giá độ chính xác và hiệu quả tính toán của mô hình.

5. Mô hình này có thể áp dụng cho những lĩnh vực nào?
   Mô hình phù hợp với nhiều lĩnh vực như tài chính, kinh tế, môi trường, y tế, và các ngành sử dụng dữ liệu chuỗi thời gian để dự báo xu hướng và ra quyết định.

Kết luận

• Luận văn đã phát triển thành công mô hình lai ghép ARIMA-RBFNN cải tiến, nâng cao độ chính xác dự báo và giảm thời gian thực thi trên nhiều bộ dữ liệu chuỗi thời gian.
• Kết quả thực nghiệm cho thấy mô hình cải tiến giảm RMSE trung bình 12-15% và thời gian thực thi giảm khoảng 18-20% so với mô hình gốc.
• Nghiên cứu góp phần mở rộng ứng dụng mô hình lai trong khai phá dữ liệu lớn, đặc biệt trong dự báo chuỗi thời gian phức tạp.
• Các đề xuất ứng dụng và đào tạo được xây dựng nhằm thúc đẩy việc áp dụng mô hình trong thực tế và nâng cao năng lực chuyên môn.
• Bước tiếp theo là mở rộng mô hình cho chuỗi thời gian đa biến và tích hợp vào các hệ thống dự báo thời gian thực, mời các nhà nghiên cứu và doanh nghiệp cùng hợp tác phát triển.

Hãy bắt đầu áp dụng mô hình cải tiến này để nâng cao hiệu quả dự báo và ra quyết định trong lĩnh vực của bạn ngay hôm nay!