Chương 1 – Giới thiệu vấn đề. Giới thiệu tổng quan bài toán dự báo lượng bệnh nhân nhập viện tại phòng cấp cứu bằng mô hình lai giữa mạng nơ – ron có tính mùa SANN và phương pháp Holt – Winters và phương pháp giải quyết. • Chương 2 – Cơ sở lí thuyết. Trình bày những lí thuyết liên quan được sử dụng trong bài nghiên cứu.
• Chương 3 – Các nghiên cứu liên quan. Bao gồm các công trình nghiên cứu liên quan đến bài toán dự đoán lượng bệnh nhân nhập viện tại phòng cấp cứu, ứng dụng của bài toán này cùng kĩ thuật dự báo một bước trong chuỗi dữ liệu thời gian. • Chương 4 – Phương pháp nghiên cứu. Phân tích đặc điểm của bộ dữ liệu và trình bày mô hình áp dụng để dự báo.
• Chương 5 – Kết quả thực nghiệm. Kết quả đánh giá của mô hình áp dụng và so sánh hiệu suất từng mô hình SANN, Holt – Winters đơn lẻ cùng mô hình LSTM xếp chồng. • Chương 6 – Kết luận. Đưa ra các kết luận đúc kết được trong quá trình nghiên cứu và hướng phát triển tiếp theo trong tương lai.
• Tài liệu tham khảo – Danh sách các tài liệu tham khảo được sử dụng trong quá trình hiện thực luận văn. • Phụ lục – Bảng đối chiếu các thuật ngữ Anh – Việt xuất hiện trong báo cáo luận văn. 4 Chương 2 CƠ SỞ LÍ THUYẾT Trong chương này, chúng tôi sẽ trình bày các khái niệm cơ bản về dữ liệu chuỗi thời gian, các thành phần của chuỗi thời gian và cách ước lượng độ dài mùa của chuỗi thời gian. Đồng thời, chúng tôi cũng trình bày cơ sở lí thuyết về các mô hình được áp dụng trong bài nghiên cứu này: mô hình mạng nơ – ron nhân tạo có tính mùa (SANN), mô hình Holt – Winters.
Ngoài ra, chúng tôi còn trình bày cơ sở lí thuyết của mô hình bộ nhớ dài – ngắn (LSTM) được dùng để so sánh hiệu suất dự báo với mô hình lai. Dữ liệu chuỗi thời gian Chuỗi thời gian (time series) có thể được xem là tập hợp dữ liệu trong không gian hai chiều, với bộ giá trị (T, V), trong đó T là thời điểm giá trị được xác định, V là giá trị quan sát tương ứng. Vì khoảng thời gian quan sát là bằng nhau nên có thể không quan tâm đến T. Lúc này, chuỗi thời gian có thể xem là dữ liệu n chiều.
Trong phạm vi đề tài này, chuỗi thời gian được nhìn dưới góc độ là dữ liệu n chiều, được ký hiệu là {X𝑡 | t = 1, 2, 3, … , n}.1 dưới đây là một ví dụ về dữ liệu chuỗi thời gian thể hiện lượng mưa hàng năm ghi nhận tại Los Angeles – California (từ năm 1880 đến năm 1980). Minh họa chuỗi thời gian lượng mưa hàng năm ghi nhận tại Los Angeles – California [21] Trong thực tế, khi quan sát chuỗi thời gian ta nhận thấy bốn thành phần ảnh hưởng lên mỗi giá trị của chuỗi thời gian đó là thành phần xu hướng, thành phần chu kỳ, thành phần mùa và thành phần bất thường: 5 • Thành phần xu hướng (trend): đây là khuôn mẫu trong dữ liệu thể hiện những chuyển động của chuỗi dữ liệu đối với các giá trị tăng dần hay giảm dần trên một khoảng thời gian dài quan sát (xem hình 2. Một số loại chuỗi thời gian có chứa thành phần xu hướng thường gặp • Thành phần chu kì (cyclical): là những giá trị biến thiên trong tăng lên hoặc giảm xuống trong những khoảng thời gian khác nhau và thành phần này dao động dạng sóng quanh trục xu hướng. • Thành phần mùa (seasonal): là những thành phần thay đổi lặp lại theo năm.
Chu kì của chuỗi thời gian có thể là 1 tháng, quí (3 tháng), nửa năm (6 tháng) (xem hình 2. • Thành phần bất thường (irregular): các thành phần thể hiện sự bất thường không thể đoán trước được trong chuỗi thời gian. Chuỗi thời gian có tính xu hướng tăng ([19]) Hình 2. Chuỗi thời gian có tính mùa ([19]) 6 Việc xác định một chuỗi thời gian có thành phần xu hướng hay thành phần mùa hay không rất quan trọng trong bài toán dự báo chuỗi thời gian.
Nó giúp ta lựa chọn được mô hình dự báo phù hợp hay giúp cải tiến mô hình đã có chính xác hơn. Và các mẫu quan sát được theo thời gian dựa trên các chuỗi thời gian chính là cơ sở để hiểu được đặc tính cũng như là dự báo các hành vi tương lai của đối tượng đó. Dự báo chuỗi thời gian Công tác dự báo chuỗi thời gian là một nhu cầu bức thiết, quan trọng với các cá nhân, tổ chức và hiện hữu trải dài trên nhiều lĩnh vực như: kinh tế, xã hội, môi trường, khoa học kĩ thuật. Các nhiệm vụ chính được bao hàm trong các bài toán dự báo trên các lĩnh vực là: phân tích vấn đề, thu thập dữ liệu, lựa chọn mô hình, hiện thực phương thức, đánh giá tính hiệu quả của phương thức, áp dụng phương thức vào thực tế.
Ở bước đánh giá, nếu phương thức hay mô hình không thỏa mãn yêu cầu thì ta cần quay lại bước lựa chọn mô hình hay phương thức khác.2 minh họa thứ tự các bước trong bài toán dự báo. Các công tác trong bài toán dự báo Đối với bài toán dự báo chuỗi thời gian, các chuyên gia thường chia phương thức dự báo thành 2 lớp: • Phương thức dự báo đơn biến (Univariate Method): kết quả dự báo phụ thuộc vào một chuỗi giá trị được thu thập ở quá khứ và hiện tại. • Phương thức dự báo đa biến (Multivariate Method): giá trị dự báo phụ thuộc vào nhiều chuỗi giá trị thu thập được. Hệ số tự tương quan và hàm tự tương quan Để nhận dạng các đặc điểm và thành phần của chuỗi thời gian, các nhà dự báo thường dùng các công cụ toán học.
Trong phần này, chúng tôi giới thiệu hai công cụ phổ biến và quan trọng là hệ số tự tương quan và hàm tự tương quan. Hệ số tự tương quan Trong quá trình nghiên cứu chuỗi thời gian, ta nhận thấy khi một biến được ghi nhận giá trị theo thời gian, các giá trị ở những thời điểm khác nhau có mối tương quan với nhau. Để đo mức độ tương quan này, ta sử dụng hệ số tự tương quan (Autocorrelation Coefficient). Sự tự tương quan là sự tương quan giữa một biến với chính nó theo những độ trễ thời gian khác nhau.
Hệ số tự tương quan của biến Xt với độ trễ k được tính theo công thức: 𝐸[(𝑋𝑡−𝜇)(𝑋𝑡+𝑘 −𝜇)] 𝜌𝑘 = (1) √𝑉𝑎𝑟(𝑋𝑡 )(𝑉𝑎𝑟(𝑋𝑡+𝑘 )) Với: • 𝜌: hệ số tự tương quan của X ở độ trễ K • 𝜇: trung bình của Xt • 𝑣𝑎𝑟(𝑋𝑡 ): phương sai của Xt • 𝑣𝑎𝑟(𝑋𝑡+𝑘 ): phương sai của Xt+k Nếu 𝜌𝑘 khác 0 thì giữa Xt và Xt+k có sự tương quan với nhau. Hàm tự tương quan Để biểu diễn sự tự tương quan của một biến theo nhiều độ trễ khác nhau một các trực quan, ta dùng hàm tự tương quan (Autocorrelation Function – ACF). Hàm tự tương quan là một đồ thị biểu diễn các hệ số tự tương quan với các độ trễ khác nhau [23].5 là một ví dụ minh họa về hàm tự tương quan. Một ví dụ minh họa cho hàm tự tương quan ([19]) 8 Trong thực tế, ta chỉ có thể tính được hệ số tự tương quan lấy mẫu và dùng thống kê để ước lượng các hệ số tự tương quan của tập mẫu.
Công thức tính hệ số tự tương quan lấy mẫu như bên dưới: ∑𝑇−𝑘 ̅ ̅ 𝑘=1 (𝑋−𝑋)(𝑋𝑡+𝑘 −𝑋 ) 𝑟𝑘 = ∑𝑇 ̅ 2 (2) 𝑡=1(𝑋𝑡 −𝑋) Với: • 𝑟𝑘 : hệ số tự tương quan lấy mẫu ở độ trễ k • 𝑋̅ : trung bình mẫu của Xt • T: số phần tử của mẫu Để kiểm tra hệ số tự tương quan ở độ trễ k của một chuỗi thời gian có khác 0 hay không, ta dùng phép thử t: 𝑟𝑘 𝑡= (3) 1+2 ∑𝑘−1 2 𝑖=1 𝑟𝑖 √ 𝑛 Với: • 𝑟𝑘 : hệ số tự tương quan mẫu ở độ trễ i • k: độ trễ • n: kích cỡ mẫu Nếu 𝜌k bằng 0 thì t sẽ có phân phối student với n – 1 bậc tự do. Đối với mẫu có kích 2 thước lớn, với mức ý nghĩa 5% nếu hệ số tự tương quan mẫu nằm trong khoảng thì ta có √𝑛 thể kết luận hệ số tự tương quan của đám đông bằng 0 với mức ý nghĩa 5%. Việc đánh giá các hệ số tự tương quan có ý nghĩa quan trọng trong việc phân tích chuỗi thời gian. Hàm tự tương quan của dữ liệu giúp ta xác định được các thành phần của chuỗi thời gian từ đó có thể lựa chọn mô hình dự báo hợp lí cũng như đánh giá tính đầy đủ của mô hình.
Mô hình Holt – Winters Làm trơn hàm mũ (Exponential Smoothing) là một loại mô hình tuyến tính có thể nắm bắt các đặc trưng tuyến tính trong một chuỗi thời gian. Một trong những ý tưởng căn bản của mô hình làm trơn hàm mũ là tạo ra những giá trị tương lai như là những giá trị trung bình có 9 trọng số của những giá trị trong quá khứ theo đó những giá trị quan sát gần đây được đánh trọng số cao hơn những giá trị quan sát rất xa trong quá khứ. Bằng cách hình thành những giá trị dự báo dựa vào những giá trị trung bình có trọng số, chúng ta đang sử dụng một phương pháp “làm trơn” (smoothing). Thuật ngữ “hàm mũ” (exponential) xuất phát từ sự kiện các mô hình làm trơn hàm mũ không chỉ đánh trọng số giảm dần theo thời gian mà còn giảm dần theo kiểu hàm mũ.
Để ứng dụng mô hình làm trơn hàm mũ, có ba dạng của mô hình này được áp dụng rộng rãi cho những chuỗi thời gian khác nhau ([23]). Làm trơn hàm mũ đơn giản (Simple exponential smoothing) (Loại I) được dùng khi chuỗi thời gian không có xu hướng và không có tính mùa. Giả sử chúng ta có chuỗi thời gian Yt, đo đạc tại những thời điểm t = 1,…,T. Mô hình làm trơn hàm mũ đơn giản được định nghĩa bằng công thức đệ quy như sau: 𝑌̂𝑡 + 1 = 𝛼𝑌𝑡 + (1 − 𝛼)𝑌̂𝑡 (4) Với: • 𝑌̂𝑡 + 1: giá trị dự báo tại thời điểm t + 1 • : hằng số làm trơn (smoothing constant) • Yt: giá trị dữ liệu thực sự tại thời điểm t • 𝑌̂𝑡 : giá trị dự báo tại thời điểm t Khi có tồn tại xu hướng (trend) trong chuỗi thời gian, mô hình hàm mũ Holt (Loại II) có thể được dùng.
Phương pháp Holt đòi hỏi ước lượng độ dốc (slope) hiện hành và biên độ (level) hiện hành, do đó phương pháp dùng hai hằng số làm trơn cho mỗi công thức ước lượng.