Chương 1. TỔNG QUAN * Chương B| Kết luận và hướng phát triển. Chương 2 CÁC CÔNG TRÌNH LIÊN QUAN VÀ KIÊN THUC NÊN TANG Trong chương này, chúng tôi sẽ trình bày các công trình nghiên cứu liên quan đến các hướng tiếp cận hiện tại trên NAS và các kiến thức nền tảng được sử dụng xuyên suốt khóa luận này. Phần rình bày một vài công trình nghiên cứu tiêu biểu ở một vài hướng, tiếp cận hiện tại trên NAS.
Ngoài ra, đặc điểm của một bài toán Tối ưu hóa đa mục tiêu và cơ chế hoạt động tổng quát của các Thuật toán tối ưu hóa đa mục tiêu sẽ được trình bay ở pha 2.1 Các công trình liên quan 2.1 Sử dụng mô hình thay thế trên NAS Khi giải quyết bài toán Tìm kiếm kiến trúc mang neural (NAS), kết quả mong muốn là tìm thay kiến trúc đem lại hiệu suất tốt nhất khi sử dụng kiến trúc đó để giải quyết một tác vụ cụ thể. Tuy nhiên, việc đánh giá toàn bộ kiến trúc trong không gian tìm kiếm là bất khả thi bởi điều này đòi hỏi chúng ta phải sử dụng một lượng lớn tài nguyên tính toán và hao tốn rất nhiều thời gian. Một hướng tiếp cận được dé xuất để giải quyết vấn đề trên là Dự đoán hiệu suất - phương pháp dự đoán độ chính xác của các kiến trúc thay vì thực sự tiến hành huấn luyện và đánh giá. Mục tiêu của phương pháp này là giảm thiểu lượng tài nguyên hao phí những vẫn đạt được các kết quả chấp nhận được.
Để nâng cao độ hiệu quả thực nghiện trên NAS, rất nhiều Chương 2. CÁC CÔNG TRINH LIÊN QUAN VÀ KIEN THÚC NEN TANG 10 nghiên cứu khác nhau đã dự đoán độ chính xác của các kiến trúc bằng cách sử dụng mô hình thay thé (Surrogate Model, viết tat: SM) | O kiến trúc được huần luyén Q ' ] ` kiến trúc được dự đoán , ` — ng nội cols chon các kiến trúc có. độ chính xác dự đoán cao ——>_ huấn luyện(tinh chỉnh dự đoán st 2.1: Cơ chế sử dung mô hình thay thé trong PNAS PNAS sử dụng SM để dự đoán độ chính xác của các kiến trúc phức tạp hơn so với các kiến trúc dùng để huấn luyện mô hình.1}minh hoa cơ chế sử dung SM trong (4). Đầu tiên, khởi tạo một số lượng các kiến trúc sao cho các kiến trúc này là đơn giản nhất (số lượng cells trong kiến trúc là 1).
Các kiến trúc này 1Ảnh được lay từ [14]. CÁC CÔNG TRINH LIÊN QUAN VÀ KIEN THÚC NEN TANG 11 sẽ được huấn luyện, đánh giá độ chính xác và được sử dụng làm dữ liệu để huấn luyện SM. Sau đó, các kiến trúc mới hơn được tìm kiếm bằng cách tăng độ phức tạp (tăng số lượng cells) của các kiến trúc hiện tại. Lúc này, thay vì được huấn luyện và đánh giá như các kiến trúc trước đó, độ chính xác của các kiến trúc này sẽ được dự đoán bằng SM.
Sau khi quá trình dự đoán kết thúc, sẽ chọn ra những kiến trúc có độ chính xác dự đoán cao nhất và huấn luyện, đánh giá chúng để thu thập độ chính xác thực sự. Độ chính xác của các kiến trúc này sẽ được sử dụng để điều chỉnh tham số của mô hình. Chu trình này được thực hiện liên tục đến khi số lượng cells trong kiến trúc là lớn nhất. Trong MetaQNN ia , SM được khởi tao và huấn luyện bằng một bộ dir liệu hỗn hợp (tức là, bộ dữ liệu này bao gồm nhiều bộ dữ liệu khác nhau tách nhỏ) trước khi tiền hành tìm kiếm.
Trong quá trình tìm kiếm, thay vì được huấn luyện một cách hoàn chỉnh, các ién trúc được cham đứt sớm quá trình huấn luyện và độ chính xác cuối cùng của ién trúc được SM dự đoán. Once-For-All xây dựng SM là một supernet chứa tat cả các kiến trúc trong không gian tìm kiếm và tham số của chúng. Quá trình xây dựng SM trong [5] được minh họa trong hình |2.2] Đầu tiên, hình thành một kiến trúc sao cho kiến trúc này có kích thước kernel, chiều sâu, chiều rộng là lớn nhất. Kiến trúc này sẽ được tiến hành huấn luyện và được sử dụng để tạo ra các kiến trúc nhỏ hơn bằng cách giảm giá trị của các đặc điểm kiến trúc.
Thay vì được huấn luyện và đánh giá, tham số của các kiến trúc con được thiết lập bằng cách tinh chỉnh tham số của các kiến trúc lớn hơn nó. Sau khi toàn bộ các kiến trúc trong không gian tìm kiếm đã được duyệt qua, quá trình xây dung mô hình kết thúc. (Train the once-for-all full model | network .2: Quá trình xây dựng mô hình thay thé trong Once-For-All Ell 2Anh được lay từ [5]. CÁC CÔNG TRINH LIÊN QUAN VÀ KIEN THÚC NEN TANG 12 Trong khóa luận này, chúng tôi dé xuất một cơ chế sử dung SM khác hoàn toàn so với các cơ chế ở các nghiên cứu trước đây.
Ở và [1|, việc sử dụng SM để dự đoán độ chính xác của các kiến trúc phức tạp hơn so với các kiến trúc trong bộ dữ liệu huấn luyện là nguyên nhân chính gây ra độ tương quan thấp (low-correlation) giữa giá trị dự đoán và giá trị thực. Trong cơ chế sử dụng SM của chúng tôi, chúng tôi đã áp dung một vài ý tưởng để khắc phục van đề này. Đối với [5], vì huấn luyện SM được diễn ra ngoại tuyến (offline) và phải duyệt qua toàn bộ kiến trúc trong không gian tìm kiếm, hao tốn tài nguyên là điều không thể tránh khỏi. Cụ thể, chỉ trên bộ dữ liệu ImageNet, [5] đã sử dung 32 GPUs V100 và tốn 4.200 giờ để huấn luyện SM.
Ngoài ra, việc huân luyện ngoại tuyến khiến cho việc sử dung SM trên các bài toán khác nhau rất khó khăn. Ngược lại, mô hình thay thế của chúng tôi được huấn luyện trực tuyến, tức là cùng lúc với quá trình tìm kiếm. Chi tiết của cơ chế sử dụng SM được chúng tôi đề xuất sẽ được trình bày ở chương sau.2 Áp dụng Thuật toán tiền hóa đa mục tiêu trên NAS Khi NAS trở thành bài toán Tối ưu hóa đa mục tiêu, các Thuật toán tiến hóa đa mục tiêu là một hướng tiếp cận hiệu quả trên NAS (các mục tiêu đối nghịch được tách biệt thay vì tổng hợp lại thành một mục tiêu duy nhất) Bli2]. NSGA-Net sử dụng thuật toán Non-Sorting Genetic Algorithm II (NSGA-II) để tối thiểu hóa độ lỗi phân lớp và độ phức tạp của kiến trúc trên cả hai cấp độ của NAS.
Bên cạnh việc giữ nguyên và sử dụng cơ chế tìm kiếm của NSGA-I, ở cuối mỗi thé hệ của NSGA-II, sử dụng thêm một thuật toán tối ưu hóa Bayesian (Bayesian Optimization Algorithm) để tìm ra sự liên hệ giữa các cells hoặc các operators của các kiến trúc trong quân thể hiện tại và sử dụng sự liên hệ này trong quá trình lai ghép ở thé hệ sau. Các bước thực hiện trong được mô tả trong hình|2.3] Ở một nghiên cứu khác, NSGA-Net-V2 cũng giữ nguyên bộ khung của NSGA-II và áp dụng trên NAS. Khác v | quá trình tìm kiếm trong được thực hiện nhiều lần thay vì một lần. Ở mỗi lần tìm kiếm, thay vì huấn luyện và đánh giá các kiến trúc trong quá trình tìm kiếm, [16] sử dụng một mô hình để dự đoán hiệu suất của các kiến trúc đó.
Khi kết thúc một quá trình tìm kiếm, các kiến trúc tốt nhất sẽ được sử dụng để cập nhật tham số của mô hình và cập nhật tập hợp chứa các kiến trúc 3 Ảnh được lấy từ Chương 2. CÁC CÔNG TRINH LIÊN QUAN VÀ KIEN THÚC NEN TANG 13 1 1 Encoding Evaluator Multi-Obj GA BOA lÍ Trade-off Front [1-01-001] t Ce e : "5 ¬ alae” I"error 10} > a] [0-00-111-0111-00000-0]) | complexi 1 ' HINH 2.3: Các bước thực hiện “aoe trinh tim kiém trong NSGA-Net tốt nhất ở tat cả các quá trình tìm kiếm.4] minh họa toàn bộ quá trình tim kiếm trong {16}. Tuy đạt được những kết quả tốt trên NAS nhưng chúng tôi nhận thấy rằng kết quả này có thể được nâng cao hơn nữa bằng việc áp dụng thêm các kỹ thuật hỗ trợ. Do đó, chúng tôi đề xuất hai phương pháp để nâng cao hiệu suất của các MOEAs trên bài toán NAS.
Chi tiết của các phương pháp này sẽ được trình bày ở các chương sau.2 Các kiến thức nên tang 2.1 Bài toán Tối ưu hóa đa mục tiêu Trong cuộc sống, con người thường đứng trước nhiều sự lựa chọn khác nhau để giải quyết một vấn dé gặp phải. Chúng tôi giả định có một người muốn mua cho bản thân một chiếc điện thoại mới. Lúc này, họ phải lựa chọn giữa vô số các hãng điện thoại có trên thị trường. Để có thể đễ dàng cho việc quyết định, họ thường đặt ra các tiêu chí để thu hẹp phạm vi lựa chọn.
Ví dụ, họ muốn một chiếc điện thoại có giá tiền vừa phải nhưng camera mang lại những tắm hình chân thật. Ở đây, tiêu chí thứ nhất là giá tiền, tiêu chí thứ hai là chất lượng của camera. Nếu như ban đầu, phạm vi lựa chọn là rất lớn thì bây giờ, phạm vi này đã được thu hẹp lại chỉ trong một vài hãng điện thoại đáp ứng được các tiêu chí đặt ra. Tình huống giả định bên trên là một ví dụ vẻ bài toán Tối ưu hóa đa mục tiêu (Multi-objective Optimization Problem, viết tắt: MOP) trong thực tế.
CÁC CÔNG TRINH LIÊN QUAN VÀ KIEN THÚC NEN TANG 14 Bắt đầu Vv Khởi tạo ngẫu nhiên các kiến trúc Dự đoán độ chính xác bằng mô hình Pate Chọn lựa các kiến xN TU DƯ HC kiện kết thúc? trúc tốt nhất trong —>|_ | Cập nhật mô hình ph Đúng quản thể Sai J Cập nhật tập hợp các kién trúc. , lai ghép, ltốt nhất ở tắt cả các quá trình tìm| kiếm = Z HINH 2.4; Toàn bộ quá trình tìm kiếm trong NSGA-Net-V2 [16]. Một MOP cơ bản sẽ bao gồm các hàm mục tiêu (objective function) cần được tối ưu hóa (tối thiểu hóa hoặc tối đa hóa). Đôi khi, MOP sẽ có thêm các ràng buộc vẻ miễn giá trị đối với giá trị của hàm mục tiêu.
Tuy nhiên, trong khóa luận này, các bài toán chúng tôi tiến hành thực nghiệm là các MOP không ràng buộc. Do đó, những nội dung chúng tôi trình bày sau đây là những đặc điểm của một MOP không ràng buộc. Ở dạng biểu thức toán học, một MOP có thể được trình bày như sau: Tối thiểu hóa/tối đahóa F(x) = {fñ1(#),.1) Trong biểu thức|2.1| một giải pháp x € R”, với R” là không gian biến quyết định (decision space) được biểu diễn bằng một véc-tơ chứa n biến quyết định (decision variable): x = (x1, x2„. Các giải pháp này tạo nên một tập hợp trong R” được gọi là tập khả thi S (feasible set).