Chương 1. TONG QUAN ĐỀ TÀI 5 nên (base training) và tinh chỉnh lớp mới (novel fine-tuning).2 mô tả hai tập dữ liệu được dùng trong bài toán FSOD. Trong đó, giai đoạn đầu tiên, base training, là xây dựng bộ phát hiện nền (base detector) hay mô hình nền/ cơ sở (base model). Trong giai đoạn này, mô hình phát hiện đối tượng được huấn luyện trên tập dữ liệu cơ sở Dyase để học các khái niệm liên quan đến bài toán phát hiện đối tượng.
Kết quả của quá trình này là một bộ phát hiện đối tượng trên tập Cyase. Sau đó, mô hình nền này sẽ được tinh chỉnh với các đối tượng thuộc lớp mới C„„„„¡ trong giai đoạn novel fine-tuning. Cụ thể, để học được kiến thức mới từ lớp mới C„„„„¡ và giữ hiệu suất trên các lớp cơ sở Chase, mô hình thường được tinh chỉnh trên một tập dữ liệu có \Cnovet! + |Chase| lớp đối tượng và mỗi lớp đối tượng thuộc C chỉ có K mẫu, đối tượng hoặc vật thể (shot). Như vậy, mô hình cuối cùng hay còn gọi mô hình FSOD (FSOD model) là một bộ phát hiện trên cả tập cơ sở và tập mới.
Cách thiết lập như vậy được gọi là phát hiện đối tượng ít mẫu tổng quát (generalized few-shot object detection hay G-FSOD). Ngoài ra trong một số thiết lập khác của FSOD, mô hình chỉ huấn luyện trên tập dữ liệu mới D„ø›„¡ trong giai đoạn novel fine-tuning, do dé mô hình cuối cùng chỉ là một phát hiện |C„„„„¡| lớp đối tượng và cách thiết lập này được gọi là phát hiện đối tượng ít (few-shot object detection hay FSOD).2 mô tả trực quan hơn của cách tiếp cận phổ biến two-stage fine-tuning dưới thiết lập FSOD. Trong công trình này chúng tôi sử dụng cách cài đặt G-FSOD.2 Thách thức, khó khăn của bài toán Ngoài những lợi ích thực tiễn mà bài toán mang lại, FSOD cũng có rất nhiều thách thức khó khăn mà các nhà khoa học phải giải quyết như được hiển thị trong Hình 1. Một số thách thức có thể kể đến như sau: 5 Da dạng về đặc trưng bên ngoài của đối tượng: Các đối tượng trong các tình huống ở thế giới thực có thể có nhiều đặc trưng bao gồm các hình dạng, kích thước, kết cấu và màu sắc khác nhau.
Các bộ phát hiện cần phải đủ mạnh để phát hiện chính xác các đối tượng mặc dù có những yếu tố này. TONG QUAN ĐỀ TÀI 6 _ (e) Rồi loạn, Che khuất () Mo (g) Di chuyển HÌNH 1.3: Hình mô tả một số thách thức về đa dang mẫu trong bài toán phát hiện đối tượng ít mẫu. Nguồn ảnh từ [3]. * Che khuất: Các đối tượng có thể bị che khuất một phần hoặc toàn bộ bởi các đối tượng khác trong một khung cảnh nào đó và gây nhập nhằng cho các thuật toán trong việc xác định và khoanh vùng chúng một cách chính xác.
5 Da dang về tỷ lệ: Các mô hình phát hiện đối tượng cần phát hiện các đối tượng ở các tỷ lệ hình đáng khác nhau, điều này đặc biệt khó khăn đối với các đối tượng rat nhỏ vì chúng chứa ít đặc trưng, đặc điểm mà mô hình có thể nhận biết, phân biệt được. * Góc nhìn: Các đối tượng có thể được nhìn từ nhiều hướng khác nhau, thay đổi hoàn toàn hình dang phổ biến bên ngoài, điều này gây khó khăn cho các mô hình phát hiện đối tượng trong việc xác định chính xác các thông tin cần thiết. + Bối cảnh da dang: Các khung nên, bối cảnh phức tạp va đa dạng có thể khiến việc phân biệt đối tượng với môi trường xung quanh trở nên khó khăn, đặc biệt là khi đối tượng có màu sắc và kết cấu tương tự với nền như các đối tượng ngụy trang (camouflage objects [55]). TONG QUAN ĐỀ TÀI 7 + Mất cân bằng giữa các lớp đối tượng: Trong FSOD, một số lớp đối tượng phổ biến hơn nhiều so với các lớp khác, dẫn đến mắt cân bằng giữa các lớp trong dữ liệu huấn luyện.
Điều này có thể làm mô hình thiên vị khi phát hiện các đối tượng và khiến mô hình hoạt động kém hiệu quả trên các lớp mới với ít các mẫu dữ liệu. * Tăng cường dữ liệu: Các kỹ thuật tăng cường dữ có thể tăng kích thước tập huấn luyện một cách giả tạo và nâng cao hiệu suất. Tuy nhiên, các phương pháp truyền thống kém hiệu quả hơn trong các tình huồng ít dữ liệu, vì các mẫu hạn chế không đủ các đặc trưng để mô tả toàn diện các biến thể ngoài đời thực. + Dễ bị overfitting: Với dữ liệu huấn luyện hạn chế, các mô hình dé bị overfitting trên tập huấn luyện, dẫn đến hiệu suất kém trên các mẫu không nhìn thay được trên tập dữ liệu kiểm tra.
* Độ phức tạp của mô hình: Việc xây dựng các mô hình có tính khái quát hóa cao với một ít mẫu huấn luyện thường yêu cầu thiết kế các kiến trúc hiệu quả hơn về mặt tính toán hoặc sử dung các tác vụ phụ để bổ sung (chỉ huấn luyện các mô-đun mới) hoặc các kỹ thuật regularization. Do đó, các kiến trúc phát hiện đối tượng quá lớn và có độ phức tạp cao có thể đưa ra hiệu suất tệ trong FSOD. * Chỉ số đánh giá: Việc đánh giá các phương pháp FSOD là một thách thức vì các chỉ số đánh giá truyền thống như độ chính xác trung bình (average precision) có thể không phù hợp để đo lường hiệu suất trong điều kiện hạn chế về dữ liệu được dán nhãn. Nhìn chung, phát hiện đối tượng ít mẫu gặp phải nhiều thách thức.
Điều này cũng thúc đẩy quá trình nghiên cứu diễn ra sôi nổi hơn, từ đó phát triển các mô hình chính xác, mạnh mẽ và hiệu quả hơn. Lý do thực hiện đề tài FSOD giúp mở rộng khả năng ứng dụng của bài toán phát hiện đối tượng trong đời sống hằng ngày. Một số ứng dụng thực tiễn của FSOD có thể được liệt kê sau: Bi.4: Hình mô tả một số đối tượng ngụy trang trong nghiên cứu [55]. * Phát hiện các đối tượng hiếm gặp: Các mô hình FSOD có thể hỗ trợ con người trong việc tìm kiếm các đối tượng ngụy trang (camouflage object [55]), các nạn nhân trong các trận thiên tai.
Ngoài ra, lĩnh vực y khoa và nhận diện gương mặt cũng có thể áp dụng các kĩ thuật này để nâng cao hiệu suất khi dữ liệu thu thập gán nhãn hạn chế.4 thể hiện một số ảnh đối tượng khó thu thập. * Giảm thời gian và chỉ phí gán nhãn: Một lợi ich to lớn của FSL nói chung và FSOD nói riêng là các mô hình được thiết kế chuyên biệt sao cho số lượng dữ liệu gán nhãn không quá lớn nhưng vẫn mang lại hiệu quả cao, từ đó giúp giảm thời gian lao động và các chỉ phí liên quan cho quá trình thu thập dữ liệu. * Mỏ rộng khả năng áp dụng lên các thiết bị thông minh: Do bài toán có ít dữ liệu nên các mô hình được phát triển trong FSOD thường không yêu cầu số lượng tham số lớn, giúp dé dàng hơn trong việc tích hợp các công nghệ hiện đại vào đời sống. Ngoài các ứng dụng thực tiễn, FSOD cũng góp phần trong việc đưa máy tính tiệm cận đến khả năng của con người, từ đó giúp giảm khoảng cách giữa trí thông minh nhân tạo và trí tuệ của con người.
Các công trình nghiên cứu FSOD ngày càng được mỏ rộng va đạt được những kết qua đáng kể [23, 47, 58, 75, 102]. Tuy nhiên, phần lớn các phương pháp trên đều dựa trên việc khai thác vài mẫu huấn luyện sẵn có để tinh chỉnh mô hình. Giải pháp này đơn giản để mang lại các kết quả tích cực một cách nhanh chóng nhưng chưa thật sự hiệu quả vì hiệu suất thấp trong điều kiện dữ liệu rất hiếm (trung bình đạt 3.3% AP trên MS COCO I-mẫu). Mặt khác, gần đây một số công trình [49, 50, 122] cũng có ứng dung sự da dang thực thể thông qua việc tăng cường dữ liệu.
Tuy nhiên, các công trình này đều dựa trên các Chương 1. TONG QUAN ĐỀ TÀI 9 bộ dữ liệu bên ngoài để mở rộng hiệu suất của mô hình. Điều này không thực sự thỏa đáng trong khi dữ liệu thực tế có thể thu thập được rất ít. Mặc khác, Zhang và các cộng sự [118] sử dụng đặc trưng của các lớp mới với vài mẫu để tạo ra các mẫu ảo.
Cụ thể, họ đã sử dụng các mẫu mới để huấn luyện mô hình tạo sinh ra mẫu ảo trên nhiều giai đoạn khác nhau. Phương pháp mang lại hiệu quả nhưng dễ bị overfitting vì phải tỉnh chỉnh mô hình trên bộ dữ liệu hạn chế nhiều lần. Các ứng dụng thực tiễn và hạn chế hiện tại được đề cập ở trên đã thôi thúc chúng tôi thực hiện đề tài này. Tóm lại, có ba lý do chính để chúng tôi thực hiện đề tài này: + Phát hiện đối tượng ít mẫu có nhiều ứng dụng trong thực tiễn và giúp con người mở rộng khả năng của máy tính.
Do đó, việc thu thập và tổng hợp các kiến thức về bài toán FSOD là cần thiết giúp các công trình sau này phát triển. * Hiệu suất của các phương pháp FSOD hiện tại còn thấp và chưa thỏa mãn để ứng dụng trong thực tiễn, đặc biệt trong điều kiện dữ liệu rất khan hiếm như 1 mẫu. * Cộng đồng nghiên cứu chưa có nhiều sự quan tâm vào việc tận dụng sự đa dạng biến thể. Ví dụ như sự đa dạng lớp đối tượng hoặc thực thể có thể được tận dụng để giúp cải thiện hiệu suất mô hình FSOD.
Mục tiêu của dé tài Từ những lý do trên, chúng tôi trình bày ba mục tiêu chính trong đề tài này là: * Khảo sát các hướng tiếp cận gần đây trong trong bài toán phát hiện đối tượng it mẫu và các phương pháp có liên quan đến sự đa dạng về biến thể. * Nghiên cứu và đề xuất các phương pháp tận dụng sự đa dạng biến thể cho bài toán ESOD. Việc tận dụng sự đa dạng biến thể chưa có nhiều công trình nghiên cứu, đặc biệt là trong bài toán FSOD. + Tiến hành thực nghiệm trên các bộ dữ liệu chuẩn được sử dụng rộng rãi trong bài toán FSOD.
Điêu này giúp kiểm tra tính hiệu quả của các phương pháp đề xuất. TONG QUAN ĐỀ TÀI 10 1.4 Đóng góp chính của đề tài Trong đề tài này, chúng tôi có bốn đóng góp chính và được tóm tắt như sau: * Nghiên cứu tổng quan về bài toán FSOD và các bộ dữ liệu chuẩn. Tìm hiểu, phân tích các phương pháp tiên tiền gần đây dựa trên cách thiết kế mô hình như phương. pháp hai nhánh [35, 36, 45, 47, 58, 107, 110], phương pháp một nhánh [75, 102, 118, 122] và một số phương pháp khác dựa trên kiến trúc transformer [38, 115].