ĐẠI HỌC QUỐC GIA TP. HỒ CHÍ MINH TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN KHOA CÔNG NGHỆ PHẦN MỀM TRẦN TUẤN MINH KHÓA LUẬN TỐT NGHIỆP PHÁT HIỆN ĐỐI TƯỢNG TRONG KHÔNG ẢNH CHỨA SƯƠNG MỜ DỰA TRÊN HỌC SÂU Object detection in foggy aerial images based on deep learning KỸ SƯ NGÀNH CÔNG NGHỆ PHẦN MỀM TP. HỒ CHÍ MINH, 2022 ĐẠI HỌC QUỐC GIA TP. HỒ CHÍ MINH TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN KHOA CÔNG NGHỆ PHẦN MỀM TRẦN TUẤN MINH - 18520314 KHÓA LUẬN TỐT NGHIỆP PHÁT HIỆN ĐỐI TƯỢNG TRONG KHÔNG ẢNH CHỨA SƯƠNG MỜ DỰA TRÊN HỌC SÂU Object detection in foggy aerial images based on deep learning KỸ SƯ NGÀNH CÔNG NGHỆ PHẦN MỀM GIẢNG VIÊN HƯỚNG DẪN TS.
NGUYỄN TẤN TRẦN MINH KHANG TP. HỒ CHÍ MINH, 2022 THÔNG TIN HỘI ĐỒNG CHẤM KHÓA LUẬN TỐT NGHIỆP Hội đồng chấm khóa luận tốt nghiệp, thành lập theo Quyết định số …………………… ngày …………………. của Hiệu trưởng Trường Đại học Công nghệ Thông tin. LỜI CẢM ƠN Để hoàn thành được khóa luận này, lời đầu tiên, tôi xin chân thành gửi lời cảm ơn sâu sắc đến thầy TS.
Nguyễn Tấn Trần Minh Khang – giảng viên hướng dẫn của tôi trong khóa luận. Thầy đã luôn quan tâm, lo lắng, nhắc nhở cũng như hỗ trợ tôi trong suốt quá trình thực hiện khóa luận. Thầy cũng là người đã tạo cơ hội và động lực cho tôi trên con đường học tập và nghiên cứu khoa học. Đồng thời, tôi cũng xin gửi lời cảm ơn đến thầy ThS.
Võ Duy Nguyên đã luôn giúp đỡ, hướng dẫn, sửa chữa và đóng góp nhiều ý kiến quý báu giúp tôi hoàn thành báo cáo khóa luận. Tôi xin chân thành cảm ơn tập thể quý thầy cô trường Đại học Công nghệ Thông tin, các quý thầy cô khoa Công nghệ Phần mềm và phòng thí nghiệm Truyền thông Đa phương tiện MMLab đã truyền đạt kiến thức, hỗ trợ nhiệt tình và tạo điều kiện cho tôi trong suốt quá trình tôi học tập tại trường. Bên cạnh đó, tôi xin gửi lời cảm ơn chân thành đến các anh chị, các bạn thành viên trong nhóm nghiên cứu đã luôn đồng hành, giúp đỡ và động viên tôi trong suốt quá trình tôi thực hiện khóa luận này. Cuối cùng, tôi muốn gửi lời cảm ơn chân thành nhất đến gia đình tôi – những người đã luôn động viên, giúp đỡ và là niềm cảm hứng của tôi trong mọi chặng đường.
Trong quá trình thực hiện khóa luận, mặc dù tôi đã cố gắng hoàn thành một cách chỉnh chu nhất nhưng sẽ không tránh khỏi những sai sót, hạn chế trong đề tài. Chính vì vậy, tôi rất mong nhận được sự góp ý của quý thầy và các bạn để hoàn thiện kiến thức, lấy đó làm hành trang quý báu trong công việc sau này. Một lần nữa, tôi xin chân thành cảm ơn! Sinh viên thực hiện Trần Tuấn Minh TP. Hồ Chí Minh, ngày 09 tháng 06 năm 2022 ĐẠI HỌC QUỐC GIA TP.
HỒ CHÍ MINH CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM TRƯỜNG ĐẠI HỌC Độc Lập - Tự Do - Hạnh Phúc CÔNG NGHỆ THÔNG TIN ĐỀ CƯƠNG CHI TIẾT TÊN ĐỀ TÀI: PHÁT HIỆN ĐỐI TƯỢNG TRONG KHÔNG ẢNH CHỨA SƯƠNG MỜ DỰA TRÊN HỌC SÂU TÊN ĐỀ TÀI (tiếng Anh): OBJECT DETECTION IN FOGGY AERIAL IMAGES BASED ON DEEP LEARNING Cán bộ hướng dẫn: TS. Nguyễn Tấn Trần Minh Khang Thời gian thực hiện: Từ ngày 01/03/2022 đến ngày 20/06/2022 Sinh viên thực hiện: Trần Tuấn Minh - 18520314 Nội dung đề tài:(Mô tả chi tiết mục tiêu, phạm vi, đối tượng, phương pháp thực hiện, kết quả mong đợi của đề tài) 1. Động lực nghiên cứu • Những năm gần đây, cùng với sự phát triển nhanh chóng của học sâu trong lĩnh vực phát hiện đối tượng, con người đã có những ứng dụng được xây dựng dựa trên các phương pháp học sâu và không ảnh được chụp từ các phương tiện bay không người lái (Unmanned aerial vehicle – UAV). Những ứng dụng này đã mang lại nhiều lợi ích cho cuộc sống, một số ví dụ nổi bật có thể đề cập đến như giám sát, cứu hộ, theo dõi giao thông, tự động hóa phương tiện giao thông… • Hiện nay, đa phần các nghiên cứu về phát hiện đối tượng được thực hiện trong không ảnh với điều kiện thời tiết tốt.
Tuy nhiên, trong thực tế, những ứng dụng này sẽ phải đối mặt với thời tiết không lý tưởng, cụ thể được đề cập trong đề tài này là sự xuất hiện của sương mờ (sương mù, khói, bụi…). • Sương mờ ảnh hưởng trực tiếp đến chất lượng của hình ảnh đầu vào, vì độ nét, độ tương phản, màu sắc… đều ảnh hưởng rất nhiều. Điều này làm cho các không ảnh đầu vào có chất lượng thấp và trong một vài trường hợp sương mờ còn che khuất các đối tượng trong ảnh và dẫn đến kết quả phát hiện thấp. Đó là cũng chính là động lực giúp tôi và nhóm nghiên cứu thực hiện đề tài "Phát hiện đối tượng trong không ảnh chứa sương mờ dựa trên học sâu".
Phát biểu bài toán Đầu vào Đầu ra Hình 1: Ảnh minh họa đầu vào - đầu ra của bài toán • Đầu vào: Không ảnh chứa sương mờ. • Đầu ra: Vị trí và loại đối tượng (nếu có) trong ảnh đầu vào. Mục tiêu đề tài • Tìm hiểu tổng quan về các bài toán Phát hiện đối tượng trong không ảnh nói chung cũng như trong không ảnh chứa sương mờ nói riêng. • Khảo sát các bộ dữ liệu cho bài toán tương tự đã được công bố trên thế giới.
Đồng thời, tìm hiểu các kỹ thuật, phương pháp học sâu tiên tiến, có kết quả khả quan trên các bộ dữ liệu này. • Xây dựng bộ dữ liệu không ảnh chứa sương mờ. • Nghiên cứu phương pháp khử sương mờ trong không ảnh. • Nghiên cứu và tiến hành thực nghiệm phương pháp phát hiện đối tượng học sâu trên bộ dữ liệu đã được xây dựng.
• Phân tích kết quả thực nghiệm, nghiên cứu đề xuất phương pháp học sâu phát hiện đối tượng trong không ảnh chứa sương mờ giúp cải thiện kết quả. • Xây dựng ứng dụng demo. • Tổng hợp kết quả và viết báo cáo. Đối tượng và phạm vi nghiên cứu • Miền dữ liệu: Không ảnh chứa sương mờ.
• Dữ liệu thực nghiệm: Bộ dữ liệu gồm nhãn của 4 đối tượng: bus (xe buýt), car (xe con), motor (xe máy), pedestrian (người đi bộ). • Phương pháp thực nghiệm: Nghiên cứu các phương pháp học sâu “state-of-the-art” cho bài toán phát hiện đối tượng (Guided Anchoring, Double-Head, Cascade R-CNN) và phương pháp khử sương mờ (FFA- Net). Phương pháp thực hiện • Tìm hiểu, nghiên cứu tổng quan về bài toán Phát hiện đối tượng từ những nghiên cứu đã công bố trên thế giới. • Tiến hành tìm hiểu bộ dữ liệu không ảnh và phương pháp tạo sương mờ để xây dựng bộ dữ liệu không ảnh chứa sương mờ.
• Nghiên cứu và tiến hành thực nghiệm phương pháp khử sương mờ trên bộ dữ liệu đã xây dựng. • Nghiên cứu và tiến hành thực nghiệm phương pháp phát hiện đối tượng học sâu trên bộ dữ liệu đã được xây dựng. • Nghiệm thu, so sánh và phân tích kết quả thực nghiệm, từ đó nghiên cứu đề xuất phương pháp học sâu phát hiện đối tượng trong không ảnh chứa sương mờ giúp cải thiện kết quả. • Xây dựng ứng dụng demo.
• Tổng hợp kết quả và viết báo cáo. Kết quả mong đợi • Xây dựng thành công bộ dữ liệu không ảnh chứa sương mờ dựa trên bộ dữ liệu UIT-Drone21, RESIDE, UAVDT-Benchmark. • Tài liệu tóm tắt kết quả khảo sát, phân tích bài toán các công trình và bộ dữ liệu đã được công bố. • Tài liệu tổng hợp bài toán, các phương pháp học sâu đã nghiên cứu.
• Tài liệu chi tiết về cách cài đặt môi trường thực nghiệm. • Xây dựng mô hình đề xuất và đưa ra cải tiến, đồng thời báo cáo đánh giá và phân tích thực nghiệm các phương pháp đã chọn trên bộ dữ liệu đã xây dựng. Kế hoạch thực hiện:(Mô tả kế hoạch làm việc và phân công công việc cho từng sinh viên tham gia) 1. Giai đoạn 1: 28/02/2022 – 31/03/2022 • Khảo sát tổng quan về bài toán Phát hiện đối tượng trong không ảnh từ những nghiên cứu đã công bố trên thế giới.
• Tiến hành tìm hiểu các phương pháp tạo sương mờ, các phương pháp khử sương mờ và các bộ dữ liệu không ảnh RESIDE, UAVDT- Benchmark-M… • Tổng hợp kết quả khảo sát và hoàn thành xây dựng bộ dữ liệu không ảnh chứa sương mờ. Giai đoạn 2: 01/04/2022 – 30/04/2022 • Nghiên cứu các phương pháp học sâu cho bài toán Phát hiện đối tượng trong không ảnh. • Tiến hành cài đặt, chạy thực nghiệm các phương pháp dựa trên bộ dữ liệu đã xây dựng được ở Giai đoạn 1. • Phân tích kết quả và đánh giá các kết quả thực nghiệm.
• Nghiên cứu và đề xuất phương pháp học sâu có khả năng cải thiện kết quả hơn so với các phương pháp đã thực nghiệm. Giai đoạn 3: 01/05/2022 – 17/06/2022 • Phân tích các kết quả, đưa ra nhận xét và báo cáo các kết quả đạt được. • Xây dựng ứng dụng demo và viết báo cáo. Xác nhận của CBHD TP.
HCM, ngày 18 tháng 02 năm 2022 (Ký tên và ghi rõ họ tên) Sinh viên (Ký tên và ghi rõ họ tên) TS. Nguyễn Tấn Trần Minh Khang Trần Tuấn Minh MỤC LỤC TÓM TẮT KHÓA LUẬN. TỔNG QUAN ĐỀ TÀI. Động lực nghiên cứu.
Phát biểu bài toán. Các thách thức. Mục tiêu và phạm vi nghiên cứu. Đóng góp khóa luận.
Cấu trúc báo cáo khóa luận. CÁC NGHIÊN CỨU LIÊN QUAN. Phát hiện đối tượng. Phân loại thuật toán phát hiện đối tượng.
Phương pháp rút trích đặc trưng ảnh dựa trên học sâu. Mạng học sâu – DNN. Convolutional Neural Network - CNN. Tầng tích chập (Convolution layer).
Tầng tổng hợp (Pooling layer). Tầng liên kết đầy đủ (Fully connected layer). Các phương pháp phát hiện đối tượng liên quan. Phương pháp khử sương mờ.
Khử sương mờ đơn ảnh. Feature Fusion Attention Network (FFA-Net). Basic Block Structure. Feature Fusion Attention.
XÂY DỰNG BỘ DỮ LIỆU PHÁT HIỆN ĐỐI TƯỢNG TRONG KHÔNG ẢNH CHỨA SƯƠNG MỜ. Khảo sát bộ dữ liệu. Lý do xây dựng bộ dữ liệu. Bộ dữ liệu UIT-Drone21.
Tổng quan về bộ dữ liệu UIT-Drone21. Định dạng nhãn dữ liệu của bộ dữ liệu UIT-Drone21. Quy trình tạo sương mờ cho ảnh. Phân tích bộ dữ liệu.
THỰC NGHIỆM VÀ ĐÁNH GIÁ. Dữ liệu thực nghiệm. Mô tả cơ bản. Mô tả chi tiết.
Mô tả thực nghiệm. Mô tả quy trình thực nghiệm. Cấu hình thực nghiệm. Phương pháp đánh giá.
Intersection over Union (IoU). Mean Average Precision (𝑚𝐴𝑃). Kết quả thực nghiệm và đánh giá. Kết quả thực nghiệm.
Trực quan hóa kết quả .