Chương 1. Mục tiêu và phạm vi nghiên cứu .--- ¿5+ ++c+c+crxerrterxerrrkerkrrree 4 I PA an. Phạm vi nghiên CỨU.--¿-¿- - 5252222 SE E1 v rry4 Chuong 2. GiGi thiệu bài toán.
Tình hình nghiên cứu trên thế giới. Tình hình nghiên cứu trong ƯỚC .--¿-¿-¿- ¿<5 2t ++£v£vEeEevsezrerexeeerseeve 8 Chương 3. CƠ SỞ LY THUYÊT. Real-time Big Data prOC€ssing.
Big Data DrOC€SSINE. Khái niệm Big Data. Đặc điểm của Big Data. + th HH 212112212111 rớt 3 3.
Khái niệm Apache SparÍ. Các thành phần của Apache Spark. Ưu điểm của Apache Spark. Time series analysis.
Giới thiệu về Time series analysis. Dự báo chuỗi thời gian sử dụng thống kê truyền thống (Traditional Statistical (TS) StyÏ€). ch HH HH HH HH it 19 3. Dự báo chuỗi thời gian sử dụng hồi quy thông thường (Regular Regression (RR) Style) .- Sàn HH HH HH20 3.
Mô hình PrOphet. ¿+ tt vn HT Hư20 3. Mô hình Autoregressive Integrated Moving Average (ARIMA). Mô hình Long-Short Term Memory (LSTM).
Mô hình Temporal Convolutional Network (TCN). Distributed Deep Learning. Data Parallelism va Model Parallelism. Kiến trúc tổng quát hệ thống.
Thu nhận và tiền xử lý dữ liệu 4. Thu nhận dit liệu. Tiền xử lý dữ liệu. Mô hình dự báo tốc độ giao thông.
Mô hình Prophet. Mô hình ARIMA. Mô hình LSTM. Mô hình TCN.
Huấn luyện phân tan trong BigDL. Phat triển hệ thống dự báo giao thông thời gian thực. THỰC NGHIỆM VÀ THẢO LUẬN. Môi trường và quy trình thực nghiệm.
Môi trường thực nghiệm. Quy trình thực nghiệm. BO dit LiGU. Kết quả thực nghiệm và thao WAM.
Kha năng dy báo ngắn han (short term) va dai han (long term). Hiệu suất của các mô hình tại các mốc thời gian khác nhau trong ngày63 5. Hiệu suất của các mô hình tại các ngày trong tuần. Thời gian huấn luyện.
Hiệu suất của mô hình LSTM và TCN với các khoảng độ trễ đầu vào khác nhau .Q¬Đ—2<e<c se Ẩc 5< s< se se kereseseseeermserersesesre 66 5. So sánh kết quả dự báo của mô hình TCN với tốc độ thực tế. Đánh giá hiệu suất mô hình TCN trên những dữ liệu hoàn toàn mới. Trực quan hóa kết quả thực nghiệm .--¿zz+222cczz 70 Chương 6.
KET LUẬN VÀ HƯỚNG PHAT TRIÊN. re71 DANH MỤC HÌNH Hình 2.1: Kiến trúc Stacked AutoEncodr.2: Kết quả thực nghiệm của Quang Hung Do và các cộng sự.3: Kết quả thực nghiệm của Trinh Dinh Toan và Viet Hung Truong.1: 5 đặc điểm của Dữ liệu lớn.2: Các thành phần của Apache Spark Hình 3.5: Dự báo chuỗi thời gian kiểu thống kê truyền thống.6: Dự báo chuỗi thời gian sử dụng hồi quy thông thường cho mô hình học sâu.7: Danh sách ngày lễ trong mô hình Prophet.8: Vòng lặp trong mạng hồi quy LSTM.----¿¿©c++22+cc+czsscee 27 Hình 3.9: Ví dụ quá trình vòng lặp của mạng hồi quy LSTM.10: Trạng thái tế bào (BI.11: Quá trình trích lọc thông tin ở lớp Sigmoid và cổng quên (Forget Gate).12: Quá trình xác định thông tin được lưu vào trạng thái tế bào hiện tại tại lớp Sigmoid va l6p Tanh.13: Quá trình cập nhật trạng thái tế bào mới.14: Quá trình tính toán từ tensor đầu vào thành tensor đầu ra.15: Ví dụ về thêm các vùng đệm có giá trị bằng 0.16: Ví dụ về SỰ SiG HỞ. hàn HH HH HH Huệ 34 Hình 3.17: Ví dụ về vấn đề lỗ hổng ở trường tiếp nhận.18: Sự thay đổi từ khối tích chập 1 chiều thành khối dư.19: Kiến trúc tổng quát của mô hình TCN.--- ¿++2+zz++z+scez 38 Hình 3.20: Song song mô hình va Song song hóa dữ liệu. TONG QUAN Trong chương này, luận văn sẽ giới thiệu bài toán “Dự báo luồng giao thông” cũng như trình bày tổng quan các nghiên cứu liên quan đến bài toán ở Việt Nam và trên thé giới.
Giới thiệu bài toán Dy báo luồng giao thông thuật ngữ tiếng Anh là Traffic Flow Forecasting hay Traffic Flow Prediction là một thành phần quan trọng của mô hình hóa, vận hành và quản lý lưu lượng. Mục tiêu của dự báo luồng giao thông là cung cấp các thông tin về lưu lượng giao thông trong tương lai. Như vậy, bài toán dự báo luồng giao thông là một bài toán theo chuỗi thời gian đề ước tính lưu lượng giao thông tại một thời điểm trong tương lai dựa trên dữ liệu được thu thập trong các khoảng thời gian trước đó từ một hoặc nhiều vị trí quan sát. Dữ liệu giao thông lịch sử có thể được thu thập từ nhiều nguồn khác nhau như các nguồn cảm biến, ra đa, máy ảnh, hệ thống định vị toàn cầu di động, các nguồn cung cấp cộng đồng hay phương tiện truyền thông xã hội, v.
Với sự phát triên phát triển của khoa học công nghệ, các hệ thống cảm biến được sử dụng rộng rãi trong giao thông đã khiến cho dữ liệu giao thông đang bùng nô và chúng ta đang bước vào kỉ nguyên của Dữ liệu lớn. Quản lý và kiểm soát giao thông vận tải đang dựa trên dữ liệu ngày một nhiều hơn. Đặc biệt, với sự phát triển và triển khai nhanh chóng của hệ thống giao thông thông minh (Intelligent Transportation System - ITS), bài toán dự báo luồng giao thông lại càng được chú ý hơn. Mặc dù đã có rất nhiều hệ thống và mô hình dự báo lưu lượng giao thông được đề xuất, nhưng hau hết chúng đều sử dụng các mô hình lưu lượng nông hoặc các mô hình thống kê, xác suất truyền thông như AutoRegressive Integrated Moving Average (ARIMA) [1] và vẫn chưa thực sự hữu ích cho bài toán.
Trong những năm gan đây, hướng tiếp cận bằng học sâu, một lĩnh vực trong máy học, đã thu hút rất nhiều sự quan tâm của giới học thuật và công nghiệp. Nó đã được áp dụng thành công trong các nhiệm vụ phân loại, xử lý ngôn ngữ tự nhiên, giảm chiều dữ liệu, phát hiện đối tượng, mô hình chuyển động, v. Các thuật toán học sâu sử dụng kiến trúc nhiều lớp hoặc kiến trúc sâu đề trích xuất các đặc trưng vốn có trong dữ liệu từ cấp thấp nhất đến cấp cao nhất và chúng có thé khám phá lượng lớn cấu trúc trong dữ liệu. Ngoài ra, để các thuật toán học sâu này phát huy hiệu quả tối đa cả về hiệu suất, thời gian huấn luyện lẫn tài nguyên hệ thống trong thời đại Dữ liệu lớn, nhiều phương pháp, kỹ thuật xử lý, huấn luyện mô hình mới cũng được nghiên cứu và đề xuất điển hình như các nền tảng xử lý Dữ liệu lớn như Apache Spark, Apache Kafka, v.
Tình hình nghiên cứu trên thế giới Bài toán dự báo lưu lượng luồng giao thông hay dự báo tốc độ giao thông là một bài toán luôn được giới nghiên cứu khoa học trong và ngoài nước quan tâm. Năm 2014, Yisheng Lv và các cộng sự đã đề xuất một mô hình Stacked Autoencoders (SAEs) cho bài toán dự báo luồng giao thông [4]. Day là một mô hình được huấn luyện theo kiểu tham lam bằng cách sử dụng nhiều lớp autoencoder xếp chồng lên nhau tạo thành một mạng học sâu như Hình 2. Mô hình cho kết quả tốt hơn các mô inh máy học tại thời điểm đó với MAE tại các thời điểm dự báo 15 phút - 30 phút - 45 phút - 60 phút tiếp theo lần lượt là 34,1 - 64,1 - 92,0 - 122,8.
Tiếp theo đó, vào năm 2016, Rui Fu [3] và các cộng sự đã công bố một công trình nghiên cứu sử dụng phương pháp mạng nơ ron nhân tạo Long Short-Term Memory (LSTM) và Gated Recurrent Units (GRU) cho bài toán dự báo luồng giao thông. Mô hình sử dụng dữ liệu quá khứ trong 30 phút trước đó để dự báo lưu lượng luồng giao thông trong 5 phút tiếp theo với kết quả MAE là 18,1 đối với mô hình LSTM và 17,2 đối với mô ‘inh GRU. Ca 2 công trình giới thiệu trên đều được thực hiện trên bộ dữ liệu PeMS với dit liệu được thu thập từ hơn 15000 cảm biến được đặt ở California. Các cảm biến này thu thập dữ liệu mỗi 30 giây.
Gần đây hon, Yi Liu và các cộng sự đã giới thiệu một kỹ thuật máy học có tên là Federated Learning và đề xuất một phương pháp kết hợp giữa Federated Learning và mạng nơ ron nhân tạo Gated Recurrent Unit (FedGRU) vào năm 2020 cho bài toán dự báo luồng giao thông [Š]. Phương pháp đề xuất này mang lại độ chính xác lên tới 90,96% và MAE 6,84. Cao hơn so với các mô hình học sâu nâng cao. Phương pháp này cũng được thử nghiệm trên bộ dữ liệu PeMS nhưng đã mở rộng quy mô dữ liệu với số lương cảm biến lên đến hơn 39000 cảm biến.
Predictor Stacked Autoencoder Hình 2.1: Kiến trúc Stacked AutoEncoder. Tình hình nghiên cứu trong nước Ở Việt Nam cũng có một số công trình nghiên cứu đáng chú ý liên quan đến bài toán dự báo lưu lượng luồng giao thông. Năm 2018, Quang Hung Do và các cộng sự đã công bố một nghiên cứu về việc sử dung mạng nơ ron wavelet mờ (FWNN) dé dự báo lưu lượng giao thông ngắn hạn [6]. Mô hình này được đào tạo bằng thuật toán tối ưu dựa trên địa lý sinh học cải tiến (BBO).
Kết quả được thé hiện ở Hình 2.2 cho thấy thuật toán đề xuất tương đối tốt với RMSE là 20,4034. RMSE MAPE R ANN-based model 74.8880 FWNN-based model 32.9451 FWNN-BBO-based model 27.9768 FWNN-iBBO-based model 20.9846 WNN-based model 52.2: Kết quả thực nghiệm của Quang Hung Do và các cộng sự. Một nghiên cứu khác vừa được công bố vào năm 2021 của Trinh Dinh Toan và Viet Hung Truong sử dụng phương pháp học máy kết hợp với thuật toán tối ưu. Mô hình đề xuất sử dụng một mô hình học máy kinh điển là Support Vector Machine (SVM) và cải thiện mô hình này bằng cách sử dụng Nearest Neighbor [7].
Kết quả mang lại cho thấy mô hình hoạt động tốt với những dự báo ngắn hạn với trung MAPE (Mean Absolute Percentage of Error) tốt nhất là 2,39 ở móc dự báo là 5 phút tiếp theo. Kết quả được thé hiện cụ thé hơn ở Hình 2.3: Kết quả thực nghiệm cua Trinh Dinh Toan và Viet Hung Truong. Real-time Big Data processing 3. Big Data processing 3.
Khái niệm Big Data Big Data (Dữ liệu lớn) là thuật ngữ chỉ các tập dữ liệu có khối lượng rất lớn và phức tạp bao gồm cả dữ liệu có cấu trúc, bán câu trúc hay phi cấu trúc, khiến cho các phần mềm xử lý dữ liệu truyền thống không có khả năng thu thập, quản lý và xử lý xử liệu trong một khoảng thời gian hợp lý. Big Data rat quan trọng với các tổ chức, doanh nghiệp vì dữ liệu càng lớn và càng đa dạng sẽ giúp các phân tích càng chính xác hơn. Việc phân tích chính xác này sẽ giúp doanh nghiệp đưa ra các quyết định giúp tăng hiệu quả sản xuất, giảm rủi ro và chỉ phí.