Chương 1 Giới thiệu 1 Giới thiệu đề tài Ngày nay, ngành trí tuệ nhân tạo có nhiều sự phát triển vượt bật, sự ra đời của những những phát kiến mới mẻ và đầy sáng tạo trong lĩnh vực máy học. Một trong những sự phát triển nhanh chóng và nhận được sự quan tâm từ cộng đồng nhất phải kể đến hướng nghiên cứu về thị giác máy tính, và những thành tựu từ đây cũng được sử dụng nhiều trong công nghiệp cũng như thực tiễn của đời sống, xã hội. Xe tự hành đang là lĩnh vực được sự quan tâm bởi tính ứng dụng cao của nó cũng như định hình hệ thống giao thông trong tương lại. Xe tự hành được hình thành từ rất nhiều bài toán sử dụng học máy, học sâu để nhằm huấn luyện cho một chiếc xe có khả năng đưa ra quyết định hợp lý và chính xác mà không có sự can thiệp từ con người.
Tuy nhiên, để hình thành nên mục đích lớn như vậy thì cần phải tạo ra được những bài toán nhỏ hơn có khả năng áp dụng vào thực tiễn. Đề tài này hướng tới phát hiện người đi bộ, phân vùng vào duy trì sự theo dấu người đi bộ đó. Hệ thống thống phát hiện người đi bộ hỗ trợ tài xế lái xe nhằm mục đích sẽ hỗ trợ tài xế ra quyết định điều khiển xe khi phát hiện người đi bộ trên đường như là dừng xe, tránh người đi bộ,. nhằm đảm bảo tính an toàn cho cả người đi bộ và tài xế lái xe.
Nhiệm vụ hệ thống này là xác định được người đi bộ trên đường và theo dấu đối tượng và dự đoán quỹ đạo của người đi bộ đến khi không nằm trong phạm vi quan sát của tài xế. Góc nhìn của tài xế được ghi nhận bởi camera hành trình. Bài toán yêu cầu tính chính xác cao để đảm bảo an toàn, cũng như là cung cấp thông tin để hỗ trợ tài xế ra quyết định hợp lí. Như chúng ta đã biết, tình hình giao thông ở Việt Nam rất là phức tạp, nguyên nhân chủ yếu của các vụ tai nạn xuất phát từ những lỗi của người lái xe.
Hơn thế nữa, những trường hợp tai nạn nghiêm trọng gây ảnh hưởng đến nhiều người cũng bắt nguồn từ những xe hơi, taxi hay ô tô tải,. Vì thế hệ thống cảnh báo, cung cấp những thông tin kịp thời và cần thiết cho các tài xe là nhu cầu thiết yếu tại thời điểm hiện tại. 2 Mục tiêu đề tài 1. Về kiến thức • Tìm hiểu các mô hình, các nghiên cứu nhằm giải quyết bài toán xây dựng hệ thống theo dấu người đi bộ sử dụng công nghệ máy học.
• Hiện thực, xây dựng mô hình mục tiêu. Sau đó, phân tích ưu, nhược điểm của các mô hình mục tiêu để đưa ra những hướng cải tiến mô hình mục tiêu phù hợp. Về sản phẩm • Xây dựng được hệ thống tập trung vào theo dấu nhiều người đi bộ cùng xuất hiện trong các khung hình. • Sử dụng kết quả từ việc phát hiện đi bộ để cải thiện kết quả theo dấu các đối tượng đối tượng.
Theo dấu người đi bộ sử dụng công nghệ học sâu Trang 1/43 Trường Đại Học Bách Khoa Tp.Hồ Chí Minh Khoa Khoa Học và Kỹ Thuật Máy Tính • Xây dựng phương pháp đánh giá kết quả mô hình đã đề xuất. Hướng tiếp cận bài toán theo dấu nhiều đối tượng sử dụng các kết quả phân đoạn các đối tượng người đi bộ. Với hướng tiếp cận này cần được đề xuất một phương pháp đánh giá, cũng như đề xuất những thước đo nhằm đo đạt đánh giá kết quả mô hình mục tiêu. 3 Phạm vi đề tài Trong nghiên cứu này, ảnh đầu vào mong muốn là những ảnh được quan sát từ xe hơi trong điều kiện bình thường, không bị ảnh hưởng bởi môi trường và thời tiết xung quanh.
Nhưng vì tiếp cận được tập dữ liệu gán nhãn với nhiều dữ liệu hơn đặc biệt là dữ liệu cho đám đông, nên các ảnh về người đi bộ ở ở khu vực đông người và trung tâm thương mại cũng sẽ được sử dụng. Đối tượng phân tích chủ yếu là người đi bộ, theo dấu người đi bộ và sử dụng nhũng kết quả phân vùng của người đi bộ để cải thiện kết quả theo dấu. Chúng ta tập trung chủ yếu vào người đi bộ vì người đi bộ là một đối tượng lý tưởng và điển hình bởi sự đa dạng về ngoại hình, cử chỉ,. để nghiên cứu về MOT (multi-tracking object) so với nhiều đối tượng khác.
Ngoài ra, dữ liệu về người đi bộ cũng dễ dàng tìm kiếm bởi tính ứng dụng cao vì rất có tiềm năng trong nghiên cứu và thương mại. 4 Quá trình thực hiện Quá trình thực hiện luận văn này trải qua 4 bước: Bước 1: Thực hiện khảo sát những công trình liên quan đến bài toán theo dấu người đi bộ. Đối tượng khảo sát bao gồm những công trình liên quan đến đề tài trong những năm gần đây. Nội dung khảo sát gồm phương pháp đã được sử dụng, ý tưởng và kết quả của những phương pháp, tập dữ liệu được dùng và thước đo để đánh giá bài toán.
Bước 2: Xác định hướng tiếp cận bài toán và xây dựng mô hình học sâu theo dấu người đi bộ theo hướng tiếp cận đề xuất. Mô hình được xây dựng phải có tính mới và sự cải tiến so với các công trình trước đó. Bước 3: Thu thập dữ liệu. Chọn dữ liệu liên quan đến bài toán theo dấu người đi bộ đề tiến hành đánh giá kết quả hệ thống đề xuất.
Bước 4: Đánh giá kết quả: Chọn thước đo phù hợp với bài toán theo dấu người đi bộ, tiến hành đánh giá kết quả mô hình bằng cả phương pháp định tính và định lượng từ đó rút ra sự cải tiến cũng như hạn chế của mô hình và có định hướng phát triển phù hợp. Theo dấu người đi bộ sử dụng công nghệ học sâu Trang 2/43 Trường Đại Học Bách Khoa Tp.Hồ Chí Minh Khoa Khoa Học và Kỹ Thuật Máy Tính Chương 2 Công trình liên quan Bài toán theo dấu người đi bộ là một bài toán quan trọng trong lĩnh vực thị giác máy tính (Computer Vision). Trong những năm gần đây, hướng tiếp cận chủ yếu của bài toán này có thể chia thành hai loại: • Tracking-by-Detection (TBD): phương pháp này sẽ chia bài toán thành hai tác vụ là nhận diện vật thể và xác định định danh đối tượng (Re-ID). Trong đó, tác vụ nhận diện vật thể sẽ đưa ra những nhận diện các đối tượng từ frame hình bằng các mô hình học sâu hiện đại với độ chính xác cao.
Sau đó, các kết quả này sẽ được xác định định danh bằng các kỹ thuật như Kalman Filter và giải thuật Hungarian để đảm bảo tốc độ cũng như độ chính xác. Các công trình nghiên cứu theo hướng này thường đạt kết quả rất tốt điển hình như SiamMOT[5], CenterMOT[6], EagerMOT[7]. • Joint-Detection-And-Tracking (JDT): hướng tiếp cận này sẽ giải quyết vấn đề học riêng lẻ của hai tác vụ chính trong bài toán theo dấu người đi bộ. Bằng cách kết hợp hai quá trình học, phương pháp này sẽ khắc phục những hạn chế như mất cân bằng trong quá trình học của bài toán.
Các công trình điển hình cho bài toán này như DEFT[8], FairMOT[2] cũng đạt được những kết quả đáng chú ý với tốc độ theo dấu vât thể tốt hơn so với TBD. 1 Towards Real-Time Multi-Object Tracking[1] - JDT Mô hình JDT[1] được tác giả đề xuất như một cách kết hợp hai tác vụ: học các đặc trưng ngoại hình của đối tượng và liên kết dữ liệu (data association) từ các đặc trưng đó với định danh của đối tượng. Hướng tiếp cận tác giả đề xuất nhằm xây dựng mô hình học một lần chia sẽ trọng số đồng thời cải thiện tốc độ theo dấu đối tượng của hệ thống MOT với 22 đến 44 FPS tùy theo độ phân giải của ảnh đầu vào. Hình 1: Kiến trúc mô hình JDT.
Kiến trúc của mô này JDT được minh họa như hình 1. Tác giả đã hiện thực mô hình dựa trên kiến trúc của Feature Pyramid Network (FPN) [9]. FPN sinh ra các đặc trưng dựa trên nhiều mức (scales) nhằm mang lại kết quả cao trong nhận diện người đi bộ ở đó người đi bộ sẽ được học ở nhiều mức. JDT đề xuất mô hình tổng quan như sau, ảnh đầu vào sẽ được truyền qua mạng cơ sở (backbone) để đạt được đặc trưng ở ba mức độ với các tỉ lệ down-sampling là 1:32, 1:16, 1:8.
Sau đó, các đặc trưng sẽ được kết hợp với nhau Theo dấu người đi bộ sử dụng công nghệ học sâu Trang 3/43 Trường Đại Học Bách Khoa Tp.Hồ Chí Minh Khoa Khoa Học và Kỹ Thuật Máy Tính bằng các bước up-sampling và skip-connection để đưa về một ma trận đặc trưng chung. Cuối cùng các đầu dự đoán sẽ được thêm vào và chia thành 3 nhiệm vụ: • Phân loại box đối tượng:2A × H × W ; • Hồi quy kích thước box đối tượng:4A × H × W ; • Ma trận định danh của đối tượng:D × H × W ; Trong đó, A là số lượng mỏ neo (anchor), D là số chiều của một vector định danh cho đối tượng. Mô hình JDT đề xuất một độ lỗi tự cân bằng thường được dùng trong các bài toán với nhiều tác vụ (multi-task learning) theo công thức 1 M X X 1 1 Ltotal = i i L + sj sij j (1) i j=α,β,γ 2 e Trong đó, M là số lượng đầu dự đoán trong trường hợp này M = 1.3; sij là các tham số cần phải học để cân bằng độ lỗi các đầu dự đoán; i ∈ M ; j như là các tác vụ độc lập trong mỗi đầu đự đoán. Mô hình JDT được đề xuất mở ra một hướng nghiên cứu mới mẻ cho bài toán theo dấu người đi bộ.
Với cách thiết kế học một lần này thì mô hình đã đạt được mong muốn giảm được phần lớn thời gian chạy của hệ thống để đạt được tốc độ gần với thời gian thực. 2 Mô hình học sâu FairMOT [2] Mô hình FairMOT (Fairness Multi-Object Tracking) được biết đến như một mô hình học một lần (one-shot learning) cho việc theo dấu nhiều người đi bộ. Mô hình FairMOT đã đưa ra những phân tích về sự thiên vị của các tác vụ nhận diện đối tượng hơn các tác vụ re-identification (Re-ID) và đưa ra hướng tiếp cận để đảm bảo tính cân bằng của hai tác vụ này trong quá trình học với một kết quả đáng chú ý. Nghiên cứu này chỉ ra rằng việc sử dụng tác vụ nhận diện đối tượng với nhiều ROI-align sẽ dẫn đến các kết quả có nhiều switch-ID trong tác vụ re-ID và sự nhặp nhằn trong phân biệt giữa thực thể và nền ảnh.