chương 1, luận văn này tập trung vào phương pháp học sâu cho bài toán phát hiện đối tượng trong dữ liệu dạng ảnh. Nội dung chương 2 giới thiệu về các phương pháp phát hiện đối tượng trong ảnh dựa trên phương pháp học sâu, và hướng tiếp cận liên quan đến bài toán.1 Các phương pháp phát hiện đối tượng trong anh dựa trên học sâu Trong lĩnh vực phát hiện đối tượng dựa trên các đặc trưng, có hai phương pháp chính là rút trích đặc trưng của đối tượng trong ảnh một cách thủ công bằng các phương pháp truyền thống và đặc trưng được rút trích từ mạng học sâu. Trong đó, các đặc trưng từ mạng học sâu được giới thiệu gần đây cho kết quả tốt hơn so với các đặc trưng được rút trích bằng phương pháp truyền thống.1 Machine Learning vs. Deep Learning: Feature Engineering còn được gọi là quá trình chuyền đổi tập dữ liệu thô ban đầu thành tập các thuộc tính có thể giúp biêu diễn tập dữ liệu ban đầu tốt hơn, tạo điều kiện dé giải quyết các bài toán dé dang hơn, giúp tương thích với từng mô hình dự đoán cụ thể, cũng như cải thiện độ chính xác của mô hình dự đoán hiện tại.
Quá trình chuyên đổi đặc trưng sẽ có gắng biêu diễn tốt nhất tập dữ liệu ban đầu sao cho tương thích với mô hình dự đoán đang sử dụng. Sử dụng các kĩ thuật rút trích đặc trưng đê chọn ra một số thuộc tính phù hợp hơn. Ngoài ra, số thuộc tính đưa vào mô hình phân lớp sẽ được giảm đi đáng kể giúp tốc độ huấn luyện nhanh hơn. Hơn nữa, nhờ biéu diễn tốt tập dữ liệu ban đầu ma độ chính xác mô hình được cải thiện đáng kể.
Vì các thuộc tính trong tập dữ liệu ảnh hưởng trực tiếp đến mô hình dự đoán, do đó ta cần xác định tốt cầu trúc của các thuộc tính sao cho diễn đạt hiệu quả nhất bản chất của tập dữ liệu. Các thuật toán trong học máy được huấn luyện bằng cách ánh xạ thông tin từ đầu vào đến thông tin đầu ra. Thuật toán sẽ có một mô hình với một bộ trọng số: Input > ƒ(W,Ww;,.1) Trong do: e¢ Input: là dữ liệu đầu vào. ® ƒ: là một ham số dé chuyển đổi tập dữ liệu thô thành các tập thuộc tính © Wy, Wo, +.
wạ: các siêu tham số cho hàm f © Output: tập thuộc tính sau khi chuyền đổi. Vi dụ như trong bài toán phân lớp, thuật toán được huấn luyện sẽ cho ra một mô hình với hàm phân tách thành hai lớp đã được xác định trước, ở giữa hai lớp có một ranh giới được gọi là ranh giới quyết định. Ranh giới quyết định này giúp mô hình xác định xem một điểm dữ liệu đã cho thuộc về lớp nào. Ví dụ, trong trường hợp hồi quy Logistic, hàm được huan luyện là một hàm Sigmoid sẽ phân chia thành hai lớp.
Nhưng thuật toán hồi quy Logistic được huấn luyện chỉ để đưa ra một ranh giới tuyến tính cho nên thuật toán không thé đưa ra quyết định cho dit liệu nếu dữ liệu có dạng phi tuyến. Trong quá trình chuyền đổi đặc trưng thì việc áp dụng các kỹ thuật là một bước quan trong để chọn ra những thuộc tính phù hợp để xây dựng mô hình. Data input Feature extraction ‘Model bulding ___ Model assessment ~ on Nor A —— Explicit programming | "tt |# Handcrafted model building w| Ouput Shallow machine Input | Handcrafted » ‘Automated #|_ Output Bông feature engineering model building Deep Input || Feature learning + automated model building | #] Output learning Hình 2.2: Quá trình phân tích xây dựng mô hình [16] e Rut trích đặc trưng Rút trích đặt trưng là tiến trình quan trọng có thể xác định thủ công hay tự động mối quan hệ giữa các mẫu và dir liệu đầu vào cần trích xuất, các đặc điểm có thé được khai thác nhằm mục đích cung cấp một biéu diễn phù hợp dé xây dựng mô hình từ dữ liệu ban đầu. Việc trích xuất đặc điểm nhằm mục đích duy trì thông tin và phân biệt các yếu tố biến đổi riêng biệt có liên quan đến nhiệm vụ huấn luyện mô hình.
Học máy chủ yếu dựa vào các tính năng được xác định rõ ràng mà đưa ra các thuật toán nhằm hỗ trợ tự động trong quá xây dựng mô hình, và do đó hiệu suất của nó phụ thuộc nhiều vào quá trình trích xuất đặc trưng thủ công. Các phương pháp học sâu khắc phục được hạn chế này của kỹ thuật rút trích đặc trưng thủ công. Các kiến trúc tiên tiến cung cấp cho mô hình khả năng học tự động để trích xuất và biểu diễn đặc trưng, nhờ vào quá trình rút trích tự động nên tốc độ huấn luyện và độ chính xác dự đoán của các mô hình sẽ tăng lên rõ rệt. ® _ Xây dựng mô hình Trong quá trình xây dựng mô hình tự động, dữ liệu đầu vào được sử dụng bởi một thuật toán dé xác định mẫu và mối quan hệ có liên quan đến nhiệm vụ huấn luyện tương ứng.
Các đặc trưng có tầm quan trọng khác nhau, tùy theo từng bài toán mà có thuộc tính này hữu ích hơn các thuộc tính kia và cần loại bỏ bớt các thuộc tính không liên quan đến bài toán. Quá trình xây dựng mô hình là lựa chọn ra những đặc trưng tự động hoặc thủ công sao cho các đặc trưng được lựa chọn phù hợp với bài toán cần giải quyết. Học máy có nhiều cách xây dựng mô hình phân tích khác nhau, mỗi cách đều có những ưu và nhược điểm riêng tùy thuộc vào dữ liệu đầu vào và các đặc điêm thu được. Ngược lại, học sâu có thể hoạt động trực tiếp trên bất kể dữ liệu thô đầu vào để thực hiện nhiệm vụ xây dựng mô hình với khả năng học đặc trưng tự động của nó.
Và học sâu chỉ có. thé được áp dung để trích xuất một biểu diễn đặc trưng, sau đó đưa đặc trưng đó vào các hệ thống con khác để tiếp tục huấn luyện và khai thác các điểm mạnh của các thuật toán học máy. e Huan luyện mô hình đặc trưng Để đánh giá chất lượng của mô hình, phải tính đến nhiều khía cạnh, chẳng hạn như hiệu suất, tài nguyên tính toán và khả năng học được của mô hình. Các số liệu dựa trên hiệu suất đánh giá mức độ đáp ứng của một mô hình với mục tiêu huấn luyện.
Hiện tại các mô hình Deep Learning đã hoàn toàn tự động hóa quá trình huấn luyện bằng cách học không giám sát (Unsupervised) hay học bán giám sát (Semi- supervised), nhờ vậy mà ta có thể biểu diễn các đặc trưng một cách trừu tượng, nhất. Đây là hướng tiếp cận tiên tiến nhất và đã có nhiều kết quả đáng kể trong nhận dạng giọng nói, xử lý ảnh, thị giác máy tỉnh và các lĩnh vực khác. Tuy nhiên, điểm hạn chế của hướng tiếp cận này đó là ta không hiểu được tại sao các đặc trưng này được rút trích hay chọn lọc ra. Vì toàn bộ quá trình là một hộp đen nên ta không thê biết được chuyện gì đã xảy ra bên trong để có thể hiểu được.
Các mô hình quan trọng trong mạng nơron học sâu và hiện nay được sử dung rất phổ biến trong nhiều lĩnh vực như thị giác máy tính, dich may. e Artificial Neural Networks (ANN) ¢ Convolution Neural Networks (CNN) e Recurrent Neural Networks (RNN) 2.2 One-stage detector va Two-stage detector: Phát hiện đối tượng là một nhiệm vụ cơ bản nhưng khó khăn trong xử lý hình ảnh và nghiên cứu thị giác máy tính, đây cũng là một chủ đề nghiên cứu quan trọng trong nhiều thập kỷ. Sự phát triển của nó trong hai thập kỷ qua có thể được coi là thành quả vượt trội trong lịch sử thị giác máy tính [17]. Object Detection Milestones + Multiresolution Detection + Hard-negative Mining SSD (W.
Liu Retina-Net oom” *SosndineRxesresson YOLO (J. Redmon ab sưu Ạ (TY Lin etal-17)ú et al-16,17) HOG bet. Dalal et a-05) (P Felzenszwalb et al-08, 10) One-stage detector /Ƒ+AeNet 2014 2015 2016 2017 2018 2019 2014 2015 2016 2017 2018 2019 Traditional Detection — ⁄ RENN Two-stage Methods / (R. Girshick et al-4) _ sppet detector (K.
He et al-14) Wisdom ofthe cold weapon Deep Learning based ast RONN Detection Methods (R. Girshick-15) ‘Technical aesthetics of GPU Faster RCNN Pyramid Networks (S. Ren et al-15) (TY. Lin et al-17) /Ƒ_ *iilteernce Detection /Z ›rouuetuen {anchors Boxes) Hình 2.3: Lược dé giới thiệu các phương pháp phát hiện đối tượng [17] Các phương pháp phát hiện đối tượng sử dụng mạng học sâu thường được phân thành nhóm một giai đoạn (One-stage Object Detector) và nhóm hai giai đoạn (Two-stages Object Detector).
Nhóm hai giai đoạn tách việc tìm ra các vùng dé xuất và phân loại vùng đề xuất thành hai bước riêng trong khi nhóm một giai đoạn xác định và phân lớp đồng thời cho các vùng dé xuất. Cách tiếp cận hai giai đoạn lần đầu tiên được giới thiệu và phô biến là R-CNN. Các phương pháp phát hiện hai giai đoạn tạo ra một tập hợp các vùng trọng yếu (Region of Interest — Rol [1]) và phân loại từng vùng trọng yếu bằng một mang noron. R-CNN tao Rol bằng thuật toán đề xuất cấp thấp Selective Search [1].
Mỗi vùng sau đó được trích xuất từ hình ảnh và được xử lý độc lập bởi CNN. Sau đó, Fast R-CNN cải tiến R-CNN bằng cách thiết kế một lớp gdp (Pooling layer [2]) đặc biệt, gộp từng vùng từ các bản đồ đặc trưng. Tuy nhiên, Fast R-CNN vẫn dựa vào thuật toán đề xuất riêng biệt và không được huấn luyện từ đầu đến cuối. Faster R-CNN loại bỏ các thuật toán đề xuất cấp thấp bằng cách giới thiệu mạng đề xuất khu vực (Region Proposal Network — RPN [3]), tạo ra các đề xuất từ một tập hợp các hộp ứng viên được xác định trước, thường được gọi là hộp neo.
Điều này không chỉ làm tăng hiệu quả hơn mà còn cho phép các công cụ phát hiện được huấn luyện từ đầu đến cuối. Region- based Fully Convolutional Network (R-FCN) [18] tiép tục cải thiện hiệu qua của Faster R-CNN bằng cách thay thé mạng noron kết nối đầy đủ với mạng noron tích chập. Phương pháp tiếp cận một giai đoạn tiên tiến hiện nay là You Only Look Once (YOLO) [4] và Single Shot Detector (SSD) [19], các cách tiệp cận này loại bỏ bước gộp Rol và phát hiện các đối tượng trong một giai đoạn duy nhất. SSD đặt các hộp neo day đặc trên các bản đồ đặc trưng với nhiều tỷ lỆ, trực tiếp phân loại và tỉnh chỉnh từng hộp neo.
YOLO dự đoán tọa độ hộp giới hạn trực tiếp từ một hình ảnh và sau đó được cải tiến trong YOLOv2 [20] bằng cách sử dụng một khái niệm tương tự như hộp neo được gọi là Prior-box.