ĐẠI HỌC QUOC GIA TP. HO CHÍ MINH TRUONG DAI HOC CONG NGHE THONG TIN KHOA KHOA HOC VA KY THUAT THONG TIN TRINH NGỌC PHÁP TRAN NGUYEN ANH KHOA KHOA LUAN TOT NGHIEP DU BAO LUONG GIAO THONG VỚI MÔ HÌNH CHUOI TRAFFIC FLOW FORECASTING WITH MULTIVARIATE TIME SERIES MODEL USING BIGDL CU NHAN NGANH KHOA HOC DU LIEU TP. HO CHÍ MINH, 2022 ĐẠI HỌC QUOC GIA TP. HO CHÍ MINH TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN KHOA KHOA HỌC VÀ KỸ THUẬT THÔNG TIN TRINH NGỌC PHÁP - 18521227 TRAN NGUYEN ANH KHOA - 18520938 KHOA LUAN TOT NGHIEP DU BAO LUONG GIAO THONG VỚI MO HÌNH CHUOI THỜI GIAN DA BIEN SỬ DỤNG BIGDL TRAFFIC FLOW FORECASTING WITH MULTIVARIATE TIME SERIES MODEL USING BIGDL CU NHAN NGANH KHOA HOC DU LIEU GIANG VIEN HUONG DAN TS.
NGUYEN THANH BiNH TP. HO CHÍ MINH, 2022 THÔNG TIN HỘI ĐÒNG CHÁM KHÓA LUẬN TÓT NGHIỆP Hội đồng chấm khóa luận tốt nghiệp, thành lập theo Quyết định số. của Hiệu trưởng Trường Đại học Công nghệ Thông tin. LỜI CẢM ƠN Nhóm sinh viên thực hiện đề tài chân thành cảm ơn Tiến sĩ Đỗ Trọng Hợp và Tiến sĩ Nguyễn Thanh Bình đã đồng hành và tận hình hướng dẫn chúng tôi trong suốt quá trình học tập và nghiên cứu đề hoàn thành khóa luận.
Thay đã luôn theo dõi, giúp đỡ cũng như định hướng cho chúng tôi trong quá trình nghiên cứu và thực hiện dé tài từ những ngày đầu tiên. Dưới sự hướng dẫn của thầy, nhóm sinh viên chúng tôi có cơ hội được phát triển kỹ năng nghiên cứu, mở mang sự hiểu biết với nhiều kiến thức chuyên môn bồ ích, có tính ứng dụng cao. Bên cạnh đó, chúng tôi cũng chân thành cảm ơn các thầy cô trong khoa Khoa học và Kỹ thuật Thông tin và các thầy cô trong trường Đại học Công nghệ Thông tin - Đại học Quốc gia Thành phố Hồ Chí Minh đã giảng dạy những kiến thức và kỹ năng nên tảng, bổ ich cho chúng tôi trong suốt bốn năm học tập tại trường. Các thầy cô chính là người đã đặt viên gạch đầu tiên cho chặng đường sự nghiệp sắp tới của chúng toi.
Tuy nhién, do vốn kiến thức và kinh nghiệm còn nhiều hạn chế, mặc dù nhóm đã cô gắng hết sức nhưng chắc chắn bài báo cáo khó có thể tránh khỏi những thiếu sót và nhiều chỗ còn chưa chính xác, kính mong quý thầy cô xem xét và góp ý đề luận văn của nhóm được hoàn thiện hơn. Mục tiêu và phạm vi nghiên cứu. --¿- ¿+ t+ccckeEckeretrrkerkrkirrrree 5 In ao. Phạm vi nghiên CỨU.
Giới thiệu bài toán 2. Tình hình nghiên cứu trên thé giới. Tinh hình nghiên cứu trong nước. Khái niệm Big Data.
Các đặc điểm của Big Data.- s-++ct nh H11 1111k rkrrkee 18 3. Giới thiệu Apache Spark. Các thành phần của Apache Spark. Ưu điểm của Apache Spark.
Phân tích dữ liệu chuỗi thời gian. Các kiểu mô hình chuỗi thời gian. Dự báo chuỗi thời gian sử dụng kiểu thống kê truyền thống (Traditional Statistical (TS) StyÏ€). Dự báo chuỗi thời gian sử dụng kiểu hồi quy thông thường (Regular Regression (RR) Style).
Mô hình Prophet. The Trend Model. Holidays and Events Model. Mô hình ARIMA.
Mô hình Long-Short Term Memory (LSTM). Giới thiệu tổng quan. Mô hình Temporal Convolutional Network (TƠN). Mô hình NBeats.- con tt ườờ46 3.
Time Series Input. Doubly Residual Stacking Of Blocks. Kết hợp các Stack. Mô hình Seq2Sed.
ch nhà HH re. Distributed Deep Learning. Data Parallelism và Model Parallelism .c-cc Set stethhhehhieerec 55 3. _ PHƯƠNG PHÁP.
Tổng quan kiến trúc hệ thống. Chuẩn bị dit liệu. Thu thập dữ liGt. Tiền xử lý dữ liệu.
Trích xuất đặc trưng mới. Xây dựng các mô hình trong BigDL,. Huấn luyện song song và phân tán trong BigDL. Ap dụng các mô hình trong Chronos.
Đánh giá và phân tíÍch. Xây dựng ứng dụng dự đoán luồng giao thông.sccc+ 70 Chương 5. THỰC NGHIỆM VÀ ĐÁNH GIA. Môi trường thực nghiệm.
BO dit QU na. Kết quả thực nghiệm và đánh giá. So sánh hiệu suất phân loại chung các mô hình. So sánh hiệu suất du báo tai cảm biến khác mhau.
So sánh hiệu suất dự báo tại các giờ khác nhau trong ngày 5. So sánh hiệu suất dự báo tại các ngày khác nhau trong tuần. So sánh hiệu suất dự báo khi được huấn luyện với độ dài dữ liệu khác nhau. Kết qua xây dung ứng dụng.
KET LUẬN VÀ HƯỚNG PHAT TRIÊN. Hướng phát triển.84 DANH MỤC HÌNH Hình 2. Kết quả thực nghiệm của Shengdong Du và các cộng sự.2: Kết quả thực nghiệm của Yuhan Jia và các cộng sự.3: Kết quả thực nghiệm của Wentian Zhao và các cộng sự.4: Kết quả thực nghiệm của Saiqun Lu và các cộng sự.5: Kết quả thực nghiệm của Hong Thanh Pham và các cộng sự.6: Kết quả thực nghiệm của Quang Hung Do và các cộng sự.7: Sai số trong dự đoán tổng thé bằng các phương pháp khác nhau.8: Anh hưởng của rolling horizon (Q) đến độ chính xác của du đoán.9: Hiệu suất của mô hình đề xuất va các mô hình truyền thống.10: So sánh thông số thống kê giữa LSTM va CNN.1: 5 đặc điểm của Big Data. co ccttEttttrirrrrrrrrrrriirrrrrre 16 Hình 3.2: Các thành phần chính của Apache Spark Hình 3.3: Biểu đồ minh họa dữ liệu chuỗi thời gian về Tổng số ca mắc Covid-19 trên thế giới.
(Nguồn: COVID Live - Coronavirus Statistics - Worldometer (worldometers.4: Biểu đồ minh hoa Phân tích dữ liệu chuỗi thời gian của đồng Bitcoin.5: Dự báo chuỗi thời gian kiểu thống kê truyền thống.6: Dự báo chuỗi thời gian sử dụng hồi quy thông thường cho mô hình học sâu.10: Cell state trong mạng LSTM.11: Cổng (gate) trong mạng LSTM.12: Lớp cổng quên (forget gate layer) trong mạng LSTM.13: Lớp cổng vào (input gate layer) kết hợp với lớp tanh đê xác định thông tin mới sẽ lưu vào trạng thái tế bào.15: Quá trình xác định những thông tin nào từ trạng thái tê bào (cell state) được str dụng như dau ra.16: Quá trình tính toán từ tensor đầu vào thành tensor đầu ra của mạng tích chập một chiều (1D Convolutional Network).17: Quá trình tính toán từ tensor đầu vào thành tensor đầu ra với kernel có kích thước như một ma trận hai chiều.18: Thêm vùng đệm có giá trị 0 ở chuỗi đầu vào.19: Mở rộng phạm vi phụ thuộc cho phần tử đầu ra bằng cách xếp chồng nhiều lớp đầu vào lên nhau.20: Lớp đầu vào với mức giãn nở bằng 2 (2-dilated layer).21: Sự giãn nở tại các lớp đầu vào.22: Minh họa về vấn đề lỗ hồng tại trường tiếp nhận.-----s-sc5cscsxsxerererere 43 Hình 3.23: Tổng quan về mang TCN cơ bản.24: Một số cải tiến trong mô hình TCN.25: Kiến trúc tổng quát của mô hình TCN.26: Kiến trúc tổng quát của mô hình NBeats.27: Chuỗi thời gian tại thời điểm đang xem xét.---‹--ccc+ccstccerererrrrsrerrrierrree 47 Hình 3.29: Cấu trúc bên trong Basic Block.30: Cấu trúc bên trong Stack.31: Thiết kế các Stack.32: Kiến trúc mô hình Seq2Seq.33: Thành phan Encoder trong mô hình Seq2Seq.34: Thanh phan Decoder trong mô hình Seq2Seq. (Nguôn: Understanding Encoder-Decoder Sequence to Sequence Model | by Simeon Kostadinov | Towards Data 8019200 .35: Song song hóa mô hình và Song song hóa dữ liệu Hình 3.36: Song song hóa đữ liệu.38: Quy trình huấn luyện mô hình theo phương thức Update (Gradient) - Đased.39: Song song hóa mô hình. c tong quát của Hệ thống dự báo | Hình 4.2: Nguồn thu thập dữ liệu giao thông.3: Ma trận tương quan giữa các biến thời tiết và biến mục tiêu.4: Vị trí các cảm biến và giao lộ trên bản đồ.6: Mô hình thực thi trong Spark.7: Mô hình quá trình lan truyền xuôi và ngược (model forward-backward).8: Quá trình đồng bộ hóa tham số (parameter synchronization).9: Ludng thiết kế ứng dụng với Google Colab, Stremlit và Ngrok Hình 5.2: Két quả hiệu suất dự báo trên tập Test của các mô hình.3: Biểu đồ đường dự đoán của mô hình LSTM tại cảm biến có ID là 1253.4: Kết quả hiệu suất dự báo tại các cảm biến.5: Kết quả hiệu suất dự báo tại các giờ khác nhau trong ngày.6: Kết quả hiệu suất du báo tại các ngày khác nhau trong tuần.7: So sánh hiệu suất khi độ dài dữ liệu huấn luyện khác nhau.8: So sánh hiệu suất khi tinh cập nhật dữ liệu huấn luyện khác nhau.9: Ảnh chụp màn hình của ứng dung mô phỏng hệ thống dự báo luồng giao DANH MỤC BẢNG Bang 4.1: Mô hình và các bộ tham số tối ưu tương ứng.1: Bang thông tin chi tiết từng thuộc tính của bộ đữ liệu. DANH MỤC TỪ VIET TAT STT Từ viết tắt Ý nghĩa 1 API Application Programming Interface 2 AR Auto Regression 3 ARIMA AutoRegressive Integrated Moving Average 4 CNN Convolutional Neural Network 5 CPU Central Processing Unit 6 DBN Deep Belief Network 7 DL Deep Learning 8 GPU Graphics Processing Unit 9 GRU Gated Recurrent Units 10 I Integrated 11 ITS Intelligent Transportation System 12 LSTM Long Short-Term Memory 13 MA Moving Average 14 MAPE Mean Absolute Percentage of Error 15 ML Machine Learning 16 RAM Random-Access Memory 17 RMSE Root Mean Square Error 18 RNN Recurrent Neural Network 19 sMAPE Symmetric Mean Absolute Percentage of Error 20 Seq2Seq Sequence-to-sequence 21 TCN Temporal Convolutional Network TÓM TÁT KHÓA LUẬN Thế giới đang ngày càng phát triển với lượng dân số ngày một tăng dần kéo theo sự gia tăng lớn về số lượng các phương tiện giao thông lưu thông trên đường, điều này có tác động không nhỏ đối với cơ sở hạ tầng giao thông, gây ra sự khó khăn trong việc quản lý, điều tiết giao thông.
Việc phân tích và đưa ra những dự đoán chính xác về lưu lượng giao thông trong tương lai đóng vai trò quan trọng trong việc quản lý và điều tiết giao thông. Do đó, dự đoán luồng giao thông là một trong những vấn đề quan trọng và nhiều thách thức. Đây là một bài toán thú vị thu hút được sự quan tâm của các nhà nghiên cứu từ quá khứ cho đến thời điểm hiện tại. Trong luận văn này, chúng tôi sẽ tập trung nghiên cứu, xây dựng các mô hình chuỗi thời gian đơn biến và đa biến dựa trên thư viện học sâu phân tán BigDL với các mô hình học máy truyền thống, mô hình học sâu đề phục vụ cho bài toán dự đoán luồng giao thông, sau đó tiến hành so sánh sự cải thiện trong hiệu suất dự đoán giữa các mô hình chuỗi thời gian đa biến so với mô hình đơn biến trong bài toán dự báo luồng giao thông.
Luận văn có một số đóng góp chính như sau: e_ Xây dựng hệ thống dự đoán luồng giao thông sử dụng các mô hình Machine Learning, Deep Learning trên nền tảng tính toán song song và phân tan. © Xây dựng bộ dữ liệu về giao thông gồm nhiều đặc trưng bằng cách kết hợp thêm nguồn dé liệu thời tiết và trích xuất đặc trưng về đồ thị vào bộ dé liệu giao thông ban đầu nhằm nâng cao hiệu suất của hệ thống. e Áp dụng vào hệ thống nhiều mô hình Machine Learning, Deep Learning khác nhau cũng như áp dụng mô hình đơn biến và đa biến.