Chương 1: Tổng quan Trình bày tổng quan về đề tài nghiên cứu, mục tiêu của đề tài, giới hạn của đề tài và bố cục của đồ án. − Chương 2: Cơ sở lý thuyết. Trình bày tổng quan về một số loại tổn thương da, phương pháp sử dụng mô hình máy học và các công cụ để thực hiện xây dựng, huấn luyện mô hình phân loại tổn thương da. − Chương 3: Thiết kế và tính toán Khảo sát và trình bày cách xây dựng mô hình phân loại tổn thương da và huấn luyện các mô hình mạng neuron CNN bao gồm Inception-V1, ResNet50, ConvNeXt_Tiny và Vision Transformer trên bộ dữ liệu.
Trình bày cách điều chỉnh các thông số mô hình. − Chương 4: Kết quả, nhận xét và đánh giá Trình bày kết quả sau thu được và tiến hành so sánh kết quả thu được với những kết quả của công trình nghiên cứu khác. Nhận xét đánh giá sau khi hoàn thành. − Chương 5: Kết luận và hướng phát triển Tổng kết quá trình nghiên cứu và đưa ra kết luận về mô hình.
Đối chiếu với mục tiêu để xác định những hạn chế cần khắc phục của đề tài. Từ đó, nhóm thực hiện đề tài tiến hành đưa ra đề xuất và những hướng phát triển của đề tài này trong một số ứng dụng tương lai. BỘ MÔN ĐIỆN TỬ CÔNG NGIỆP – Y SINH 3 CHƯƠNG 2. CƠ SỞ LÝ THUYẾT CHƯƠNG 2.
Các loại tổn thương da được khảo sát Các loại tổn thương được khảo sát lấy từ bộ dữ liệu ảnh HAM10000 của tập đoàn ViDIR, Khoa Da liễu, Đại học Y Vienna, Áo [3]. Ung thư hắc tố da ác tính Ung thư hắc tố da ác tính (Melanoma), được biểu diễn như Hình 2.1, là một loại khối u ung thư phát triển từ tế bào hắc tố và có thể có nhiều dạng khác nhau. Nếu được phát hiện sớm, nó có thể được điều trị bằng thủ thuật phẫu thuật cơ bản [3]. Biểu hiện của chúng bao gồm nốt ruồi phát triển về quy mô, hình dạng, màu sắc, đường viền không đều, nhiều màu, ngứa hoặc chảy máu.
Nếu không được phát hiện kịp thời có thể gây nguy hiểm đến tính mạng người bệnh [2]. Hình ảnh tổn thương do ung thư hắc tố da ác tính 2. Ung thư biểu mô tế bào đáy Ung thư biểu mô tế bào đáy (Basal cell carcinoma), được minh họa như Hình 2.2, là một biến thể phổ biến của ung thư da biểu mô. Đây là loại ung thư da phổ biến nhất, khoảng 75% các trường hợp ung thư da không phải ung thư hắc tố da ác tính.
Chúng phát triển từ các tế bào đáy và được tìm thấy ở phần sâu nhất của lớp biểu bì (lớp đáy) [4]. Ung thư biểu mô tế bào đáy hiếm khi di căn nhưng phát triển mạnh nếu không được điều trị. Nó xuất hiện dưới nhiều dạng hình thái khác nhau (phẳng, nốt sần, sắc tố, nang) [3]. Nhiều dạng ung thư biểu mô tế bào đáy có đặc điểm hình thái rất giống với các dạng tổn thương da khác, bao gồm ung thư hắc tố da ác tính và tổn thương mạch máu.
BỘ MÔN ĐIỆN TỬ CÔNG NGIỆP – Y SINH 4 CHƯƠNG 2. CƠ SỞ LÝ THUYẾT Hình 2. Hình ảnh tổn thương do ung thư tế bào đáy 2. Tổn thương mạch máu Tổn thương mạch máu (Vascular lesions) đề cập đến tất cả các bệnh về da có nguồn gốc từ hoặc ảnh hưởng đến mạch máu và bạch huyết, bao gồm các khối u lành tính và ác tính, dị tật và các bệnh viêm nhiễm [5].
Chúng bao gồm các loại tổn thương như u mạch anh đào, u mạch máu, u hạt sinh mủ và cả xuất huyết [3].3 mô tả một số loại tổn thương mạch máu. Nhiều dạng tổn thương mạch máu có sắc tố tối tương tự như ung thư hắc tố da ác tính gây khó khăn trong việc nhận biết 2 loại tổn thương này. Hình ảnh tổn thương mạch máu 2. Sử dụng mô hình máy học để hỗ trợ phân loại ảnh Đề tài có nghiên cứu và khảo sát sử dụng mô hình Mạng neuron nhân tạo bao gồm mô hình Mạng neuron tích chập và mô hình Transformer.
Định nghĩa Mô hình mạng neuron nhân tạo Mạng neuron nhân tạo (ANN) là mô hình máy học có cấu trúc được mô phỏng gần giống như cách các tế bào thần kinh trong mạng neuron của não người truyền tín hiệu cho nhau [6]. BỘ MÔN ĐIỆN TỬ CÔNG NGIỆP – Y SINH 5 CHƯƠNG 2. CƠ SỞ LÝ THUYẾT Lớp đầu vào (Các) lớp ẩn Lớp đầu ra Hình 2. Tổng quan kiến trúc mạng của ANN Hình 2.4 cho thấy kiến trúc chung cơ bản của ANN.
Một mô hình ANN có 3 lớp bao gồm lớp đầu vào, một hoặc nhiều lớp ẩn và sau cùng là lớp đầu ra. Trong mô hình phân loại ảnh, lớp đầu vào bao gồm các nút là các giá trị các điểm ảnh. Các giá trị đầu vào sẽ được chuyển tới các lớp ẩn, tại mỗi nút sẽ tính toán trọng số ngõ ra mỗi nút bằng một hàm truyền (thường là không tuyến tính) như công thức (2. Các trọng số từ nút của lớp trước sẽ truyền cho nút của lớp sau, hoặc cũng có thể truyền về nút của lớp trước (ANN hồi tiếp).
Cuối cùng là lớp đầu ra với số nút bằng với số phân loại, đây là lớp kết quả phân loại cuối cùng của mô hình. Trong quá trình học, các trọng số của mô hình sẽ thay đổi để kết quả mô hình dần tiến đến như mong muốn.1) 𝑖=0 trong đó, 𝑦 là đầu ra của nút, 𝑓 là hàm truyền, n là số trọng số từ lớp khác đưa vào nút, 𝑤𝑖 là trọng số của đầu vào 𝑥𝑖 và T là giá trị ngưỡng. Mô hình Mạng neuron tích chập Mạng neuron tích chập (CNN) là một loại mạng neuron nhân tạo đã trở nên phổ biến từ năm 2012 nhờ mô hình mạng neuron AlexNet [7]. Từ đó đến nay, CNN là phương pháp chiếm ưu thế trong vô số nhiệm vụ thị giác máy tính.
Điều đó đã BỘ MÔN ĐIỆN TỬ CÔNG NGIỆP – Y SINH 6 CHƯƠNG 2. CƠ SỞ LÝ THUYẾT được khẳng định kể từ khi CNN đạt được kết quả đáng kinh ngạc trong cuộc thi nhận dạng đối tượng gọi là “Cuộc thi nhận dạng hình ảnh ImageNet quy mô lớn” (ILSVRC) vào năm 2012 [8]. Đầu vào Lớp tích chập và các Lớp kết nối Đầu ra lớp xử lý khác đầy đủ Hình 2. Tổng quan kiến trúc mạng của CNN Lĩnh vực y tế cũng không nằm ngoại lệ, CNN đã và đang có những thành tựu nổi bật trong mảng thị giác máy tính.
Mô hình CNN được tạo thành từ các bộ lọc tích chập có chức năng chính là tìm hiểu và trích xuất các tính năng cần thiết để hiểu hình ảnh y tế hiệu quả [7]. Kiến trúc mạng chung của CNN được thể hiện qua Hình 2. Lớp đầu vào là ảnh cần phân loại, được đưa vào các lớp ẩn bao gồm lớp tích chập và các lớp xử lý khác như lớp lấy mẫu, lớp chuẩn hóa batch, v. Sau đó dữ liệu được làm phẳng thành một mảng 1 chiều (lớp kết nối đầy đủ) và độ dài lớp kết nối đầy đủ cuối cùng là số phân loại của mô hình.
Đây cũng là lớp đầu ra của mô hình. Các lớp neuron tích chập là thành phần chính của CNN. Trong phân loại ảnh, đầu vào của lớp chập là một hoặc nhiều ma trận 2D (hoặc kênh), đầu ra là nhiều ma trận 2D. Số lượng và kích thước ma trận đầu vào và đầu ra có thể khác nhau.
Quá trình tính toán một ma trận đầu ra duy nhất được định nghĩa như công thức (2.2) 𝑖=0 trong đó, 𝐴𝑗 là ma trận đầu ra của lớp tích chập, 𝐼𝑖 là ma trận đầu vào (như hình vuông màu xanh ở lớp đầu vào Hình 2.5), 𝐾𝑖,𝑗 là ma trận kernel tương ứng, 𝐵𝑗 là giá trị bias được cộng vào ma trận đầu ra. BỘ MÔN ĐIỆN TỬ CÔNG NGIỆP – Y SINH 7 CHƯƠNG 2. CƠ SỞ LÝ THUYẾT Trong quá trình học, CNN kết hợp các trọng số thành các kernel nhỏ hơn nhiều so với kích thước của các lớp mạng giúp đơn giản hóa đáng kể mô hình học tập. CNN nhanh hơn và mạnh hơn nhiều so với mạng neuron kết nối đầy đủ truyền thống nhờ số lượng tham số huấn luyện thấp hơn và phép nhân chập trích xuất được các đặc trưng của ảnh hiệu quả hơn [7].
Trong đề tài phân loại tổn thương da, mỗi loại tổn thương da có đặc điểm rất đa dạng và phức tạp. Các công trình nghiên cứu trước đây cho thấy những mô hình mang tính học sâu cho kết quả tốt hơn hẳn so với các mạng đơn giản như LeNet hay AlexNet. Vì vậy đề tài thực hiện nghiên cứu huấn luyện tập dữ diệu qua các mô hình CNN có độ học sâu cao, tiêu biểu như: − Mô hình ResNet50 − Mô hình Inception-V1 − Mô hình ConvNeXt_Tiny 2. Mô hình Transformer Phân loại Bộ giải mã Transformer (bao gồm multi-head attention) Mã hóa patch + vị trí Phép chiếu tuyến tính của các patch đã làm phẳng Hình 2.
Tổng quan mô hình ViT Mô hình Transformer được đề xuất bởi Vaswani và các cộng sự [9] ban đầu được sử dụng cho tác vụ xử lý ngôn ngữ tự nhiên (NLP). Nhờ sự thành công của mô hình Transformer trong NLP, Dosoviskiy và các cộng sự [10] đã dựa vào mô hình trước đó để thiết kế mô hình Vision Transformer (ViT) phục vụ tác vụ phân loại ảnh. BỘ MÔN ĐIỆN TỬ CÔNG NGIỆP – Y SINH 8 CHƯƠNG 2. CƠ SỞ LÝ THUYẾT Trong đề tài này thực hiện đề tài khảo sát và nghiên cứu mô hình ViT, một mô hình hoạt động với cơ chế khác biệt so với CNN (Hình 2.
Sự khác biệt lớn nhất giữa ViT và CNN là ViT không có các lớp tích chập. ViT học các đặc trưng nhờ vào các lớp attention (bộ giải mã Transformer) với đầu vào là các phần đã được chia nhỏ của dữ liệu ảnh (patch). Việc học của mô hình này là phân tích và đánh giá điểm attention của từng phần dữ liệu đầu vào rồi dựa vào đó đưa ra kết quả đầu ra. Hiện tượng overfitting Mô hình không khái quát tốt từ dữ liệu đã biết đến dữ liệu chưa biết được gọi là overfitting.
Do tồn tại tình trạng overfitting nên mô hình hoạt động rất tốt trên tập huấn luyện, trong khi đó lại kém phù hợp trên tập kiểm tra. Điều này là do mô hình đã bị trường hợp overfitting gây khó khăn trong việc xử lý các phần thông tin trong tập kiểm tra, có thể khác với thông tin trong tập huấn luyện. Ngoài ra, các mô hình mắc phải overfitting có xu hướng ghi nhớ tất cả dữ liệu, bao gồm cả nhiễu không thể tránh khỏi trên tập huấn luyện, thay vì học các mối quan hệ và đặc trưng ẩn đằng sau dữ liệu [11].