chương 1: giới thiệu bài toán và một số công trình nghiên cứu liên quan. © Trong chương 2: trình bay chỉ tiết các phương pháp đã thử nghiệm và đề xuất trong luận văn này. e Chương 3: cài đặt cũng như cach làm các thử nghiệm đã thực hiện trong luận văn này. © Chương 4: thảo luận, so sánh kết quả các phương pháp đề xuất và các phương pháp SOTA hiện tại cũng như các phương pháp truyền thống khác.
© Chương 5: kết luận về phương pháp đề xuất và hướng phát triển tiếp theo của luận văn này. Giới thiệu bài toán Bài toán phân loại ung thư da là một bài toán được nghiên cứu phổ biến, mỗi loại ung thư đa có tỉ lệ khác nhau dẫn đến việc dữ liệu ko cân bằng gây ảnh hưởng đến kết quả của bài toán. Có nhiều phương pháp đề cải thiện kết quả, nhưng trong luận văn này tập trung nghiên cứu hàm mat mát Arcface [11] để cải thiện kết quả của bài toán. II TONG QUAN Trong luận văn nay dé xuất 3 phương pháp xử dung hàm mắt mát dé cải thiện kết quả bài toán này.
Phương pháp thứ nhất, bằng cách thay đổi phương pháp huấn luyện mô hình sử dụng hàm mat mát Arcface [11], chúng ta có thể tăng độ chính xác trong việc phân loại lên đáng kể so với phương pháp truyền thông. Dựa trên phương pháp thứ nhất, phương pháp thứ 2 dé xuất sử dụng 1 mạng phụ trợ đề tính toán số margin trong hàm mắt mát Arcface [11] một cách phù hợp nhất với dữ liệu đang dùng để huấn luyện mô hình. Phương pháp thứ 3 đề xuất là kết hop hàm mắt mát Focal loss [22] và hàm mat mát Arcface [11] dé tạo ra 1 hàm mắt mát mới có tính chat của cả 2 hàm. Những công trình liên quan 1.
Phương pháp sử dụng mạng thần kinh nhân tạo Diaz et al. [10] đã dé xuất một hệ thống chân đoán tự động u ác tính, u hắc tố ác tính và dày sừng tiết bã sử dụng các mạng nhận dạng vùng tôn thương, phân đoạn tồn thương thành các mẫu cấu trúc và chân đoán cuối cùng cho các trường hợp lâm sàng. Phương pháp tiếp cận trong bài báo kết hợp kiến thức chuyên môn của các bác sĩ da liễu vào mạng thần kinh nhân tạo (CNN), đã thể hiện hiệu suất ấn tượng trong nhiều nhiệm vụ nhận dạng hình ảnh.Luông chạy của hệ thông được mô tả trên Hình 7 gồm Lesion ‘Segmentation Net Structures Sa Là Segmentation Net cy: Tế ` C Augmentation Data Diagnosis Net te Y. "4 x, Hình 1 - sơ đồ luồng chạy hệ thống của Diaz et al.
Nguon: hình được trích dân từ [10] các bước sau: 1. Đối với mỗi trường hợp c, hình ảnh soi da Xe được đưa vào mạng phân đoạn ton thương da tạo ra ảnh nhị phân Me phác thảo khu vực của hình ảnh tương ứng với ton thương. Mỗi trường hợp c được xác định bởi cặp ảnh {Xc, Mc}, sẽ di qua mô đun tăng. cường dir liệu.
Mô dun này nhằm mục dich tạo thêm các dữ liệu mới v tương, ứng với các góc quay và vùng bị cắt khác nhau. Do đó, đầu ra của mô đun này là một bộ hình ảnh mở rộng X$ liên quan đến tổn thương. Bước tiếp theo trong quy trình là mang phân đoạn cấu trúc với mục tiêu phân chia từng hình ảnh của tổn thương bội thành một bộ tám cấu trúc toàn cục và cục bộ. Ví dụ: chấm/hạt, vùng hồi quy, vệt,.
Đầu ra của hệ thống này là một 13 TONG QUAN bộ gồm 8 bản đồ phân đoạn S§s, s = 1.8, mỗi bản đồ được liên kết với một cấu trúc cụ thể s. Cuối cùng, bộ tăng cường {X¢ , SS,} được chuyển đến mạng phân loại, chịu trách nhiệm cung cấp chan đoán cuối cùng Yc cho từng trường hợp. Kawahara et al. [12] đề xuất một mạng CNN đa tác vụ, được huấn luyện về dữ liệu đa phương thức (hình ảnh lâm sàng và soi da, và siêu dữ liệu bệnh nhân), dé phân loại theo 7 tiêu chi trong danh sách kiểm tra khối u ác tinh và thực hiện chan đoán loại ton thương da.
Mang nơ-ron được huấn luyện bằng cách sử dụng một số hàm mắt mát đa tác vụ (multi-task loss), trong đó mỗi ham mất mát xem xét các cách kết hợp khác nhau của các phương thức đầu vào, điều này cho phép mô hình hoạt động ồn định đối với dữ liệu bị thiếu tại thời điểm chạy. Sau khi huấn luyện, mô hình được dùng để phân loại danh sách kiểm tra 7 điểm và chan đoán tinh trang da, tạo ra các vectơ đặc trưng đa phương thức phù hợp dé truy xuất hình ảnh và khoanh vùng các vùng cần chú ý. đánh giá phương pháp bằng cách sử dụng 1011 trường hợp tổn thương Hình 3 - sơ đồ luéng chạy hệ thông của Kawahara et al. Nguôn: hình được trích dân từ [12] The K Feature Maps cự.
K Attention Maps va báo cáo kết quả toàn điện trên tat cả các tiêu chí và chân đoán 7 điểm. Hình 2 - cấu trúc khói Soft-Attention Nguôn: hình được trích dân từ [19] 14 TONG QUAN Soumyya et al. [19] điều tra hiệu quả của Soft-Attention trong kiến trúc mang nơ ron thần kinh sâu. Mục đích chính của Soft-Attention là nâng cao giá trị của các đặc trưng quan trọng và triệt tiêu các đặc trưng gây nhiễu.
Cau trúc khói Soft-Attention như trong Hình 3. Phương pháp tạo thêm dữ liệu Bissoto et al. [1] đề xuất giải quyết vấn dé thiếu dữ liệu đã được gan nhãn bằng cách sử dụng mạng đối nghịch tạo sinh dé tạo hình ảnh tổn thương da tổng hợp gần giống với thực tế. Theo như bài báo của Bissoto et al., đây là kết quả đầu tiên hiển thi hình ảnh tổng hợp trực quan bao gồm thông tin có ý nghĩa lâm sàng.
Zunair et al. [9] đề xuất một hệ thống hai tang dé phân loại tự động các hình ảnh tổn thương da bằng cách sử dung adversarial training va transfer learning dé phát hiện khối u ác tính. Trong giai đoạn dau tiên, các biến thé phân phối đữ liệu giữa các lớp được tận dụng cho việc tái tạo hình ảnh bằng cách tìm hiểu ánh xạ giữa các lớp và tạo thêm các mẫu của các lớp có ít dữ liệu từ các mẫu của các lớp có nhiều bằng cách sử dụng phương pháp unpaired image-to-image translation. Trong giai đoạn thứ hai, một mạng CNN được huấn luyện đê phân loại tôn thương da bằng cách sử dụng tập huấn luyện ban đầu kết hợp với các dữ liệu được tông hợp ở giai đoạn một.
Việc huấn luyện bộ phân loại này được thực hiện bằng cách sử dụng hàm mắt mát focal loss, giúp mô hình học hỏi từ các lớp khó, đồng thời giảm trọng số cho các lớp dễ. Shuwei et al. [21] đề xuất một chiến lược gia tăng dữ liệu hiệu suất cao và chỉ phí thấp bao gồm hai giai đoạn liên tiếp là tìm kiếm phương pháp tăng cường dữ liệu và tìm kiếm mạng. Ở giai đoạn tìm kiếm phương pháp tăng cường đữ liệu, chiến lược tăng cường được tối ưu hóa trong không gian tìm kiếm của phương pháp tăng cường dữ liệu chỉ phí thấp (LCA) theo tiêu chí về độ chính xác cân bằng (BACC) với xác thực chéo 5 lần.
Ở giai đoạn tìm kiếm mạng, các mạng được tỉnh chỉnh với tập huấn luyện đầy đủ để chọn mô hình có kết quả cao. Phương pháp sử dụng hàm mắt mát Tsung-Yi et al. [22] đã phát hiện ra rằng sự mắt cân bằng trong dữ liệu gặp phải trong quá trình huấn luyện các mạng nơ ron nhân tạo với nhiệm vụ tìm kiếm đồ vật là nguyên nhân chính khiến độ chính xác của mô hình giảm sút. Để giải quyết sự mắt cân 15 TONG QUAN bằng nay, Tsung-Yi et al.
đề xuất cách định hình lai hàm mắt mát cross entropy tiêu chuẩn nhằm giảm bớt sự ảnh hưởng của các lớp được phân loại tốt. Hàm mắt mát Focal loss tập trung huấn luyện vào một tập hợp thưa thớt các dữ liệu khó và ngăn chặn số lượng lớn các dit liệu dé lắn at mô hình trong quá trình huấn luyện. Song et al. [13] để xuất một mô hình mạng thần kinh nhận tạo học sâu đa tác vụ để phân tích tốn thương đa tự động.
Mô hình được để xuất có thể thực hiện đồng thời các nhiệm vụ phát hiện, phân loại và phân đoạn tồn thương da. Dé giải quyết van đề mắt cân bằng lớp trong bộ dữ liệu (như thường thấy trong bộ dữ liệu hình ảnh y tế) và đồng thời cải thiện hiệu suất phân đoạn, một hàm mt mát dựa vào hàm mắt mát focal loss và khoảng cách jaccard đã được đề xuat. le —— || Model Combination —— — Arhiteture Data Preparation fen K1 LƯU | — lass + mask i Detect Subnet Input ' ‘Segment | I Hình 4 - Sơ đồ hệ thông Song et al. dé xuất Nguôn: hình được trích dân từ [13] 16 TONG QUAN 1.
Đóng góp của đề tài Trong luận văn này, Arcface và phiên ban sửa đổi của nó được triển khai với hai mạng no-ron: DenseNet121 [7] và EfficientNet [16]. Cả hai mang đều được huấn luyện trước với tập dữ liệu ImageNet, sau đó được huấn luyện thêm trên tập dữ liệu HAMI0000 [23] cho nhiệm vụ phân loại. Phần này giải thích cách tiếp cận được đề xuất, bao gồm Arcface và phiên bản sửa đổi của nó, cấu trúc mô hình. Những đóng góp nghiên cứu của luận văn có thể được tóm tắt như sau: ° Bằng cách sử dụng Arcface và nhận được kết quả tốt hơn so với một số hàm mắt mát chuyên dùng cho dit liệu mắt cân bằng, lu văn này đã chứng minh rằng Arcface có tiềm năng trong việc giải quyết van đề dữ liệu mat cân bằng.
© Với một số điều chỉnh nhỏ, luận văn đề xuất một hướng tiềm năng dé nghiên cứu sâu hơn và phát triển Arcface dé trở thành một hàm mắt mát tốt hon cho tập dữ liệu không cân bằng. 17 PHƯƠNG PHÁP LUẬN Chương 2. PHƯƠNG PHÁP LUẬN Trong pham vi nghiên cứu của luận văn này trình bày ba phương pháp luận của hướng tiếp cận được đề xuất áp dụng vào việc phân loại ảnh ung thư da: ¢ Thay đồi phương pháp huấn luyện mô hình sử dụng hàm mat mát Arcface [11] bằng cách thay đổi giá trị của margin của hàm mắt mát trong lúc huấn luyện thay vì giữ nguyên giá trị của margin trong suốt quá trình huấn luyện. © _ Sử dụng | mạng phụ trợ đề tính toán số margin trong hàm mắt mát Arcface [11] một cách phù hợp nhất với dữ liệu đang dùng dé huấn luyện mô hình.
© Kết hơp hàm mắt mát Focal loss [22] và hàm mat mát Arcface [II] để tạo ra 1 hàm mắt mát mới có tính chất của cả 2 hàm 2.