Phân Đoạn Khối U Não Sử Dụng Công Nghệ Học Sâu: Luận Văn Thạc Sĩ Khoa Học Máy Tính

Luận văn thạc sĩ nghiên cứu máy tính phân đoạn khối u não sử dụng công nghệ học sâu, đánh giá hiện trạng, phân tích vấn đề, đề xuất biện pháp hoàn thiện trong lĩnh vực kỹ thuật.

• Tác giả: Đặng Quốc An
• Người hướng dẫn: TS. Nguyễn Đức Dũng
• Trường học: Trường Đại Học Bách Khoa Tp.Hồ Chí Minh
• Chuyên ngành: Khoa học máy tính
• Đề tài: Phân Đoạn Khối U Não Sử Dụng Công Nghệ Học Sâu
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2021
• Địa điểm: TP. Hồ Chí Minh

Mục lục chi tiết

• LỜI CẢM ƠN
• TÓM TẮT LUẬN VĂN
• THESIS OUTLINE
• LỜI CAM ĐOAN
• 1. CHƯƠNG 1: GIỚI THIỆU
• 1.1. Giới thiệu đề tài
• 1.2. Mục tiêu đề tài
• 1.3. Phạm vi đề tài
• 1.4. Quá trình thực hiện
• 2. CHƯƠNG 2: CÔNG TRÌNH LIÊN QUAN
• 2.1. Mô hình học sâu U-Net
• 2.2. Mô hình học sâu Attention U-Net
• 2.3. Squeeze-and-Excitation Block
• 2.4. Coordinate Attention
• 2.5. Tiểu kết
• 3. CHƯƠNG 3: MÔ HÌNH ĐỀ XUẤT
• 3.1. Tổng quan
• 3.2. Coordinate Attention UNet
• 3.2.1. Vấn đề mất ngữ cảnh
• 3.2.2. Vấn đề thiếu ngữ cảnh
• 3.2.3. Đề xuất mô hình
• 3.3. Max pool Coordinate Attention
• 4. CHƯƠNG 4: HIỆN THỰC
• 4.1. Chuẩn bị dữ liệu
• 4.1.1. Chuẩn hóa dữ liệu
• 5. CHƯƠNG 5: ĐÁNH GIÁ
• 5.1. Đánh giá định tính
• 5.2. Đánh giá định lượng
• 6. CHƯƠNG 6: TỔNG KẾT
• 6.1. Kết luận
• 6.2. Đánh giá ưu, nhược điểm
• 6.3. Hướng phát triển trong tương lai
• DANH SÁCH CÁC CÔNG TRÌNH KHOA HỌC
• TÀI LIỆU THAM KHẢO
• PHỤ LỤC

Tóm tắt

I. Giới thiệu

Trong bối cảnh y học hiện đại, phân đoạn khối u não là một nhiệm vụ quan trọng nhằm hỗ trợ bác sĩ trong việc chẩn đoán và điều trị. Luận văn này tập trung vào việc áp dụng công nghệ học sâu để cải thiện quy trình này. Khối u não là một trong những căn bệnh nguy hiểm nhất, và việc phát hiện sớm có thể cứu sống bệnh nhân. Hệ thống phân đoạn khối u não sử dụng học sâu không chỉ giúp giảm thời gian chẩn đoán mà còn nâng cao độ chính xác. Mô hình được đề xuất trong luận văn này nhằm khắc phục những hạn chế của mô hình UNet truyền thống, đặc biệt là trong việc xử lý ảnh chụp MRI. Việc áp dụng trí tuệ nhân tạo trong y tế đã mở ra nhiều cơ hội mới cho việc cải thiện chất lượng chăm sóc sức khỏe.

II. Công trình liên quan

Mô hình U-Net đã được chứng minh là một trong những mô hình hiệu quả nhất cho phân đoạn hình ảnh y tế. Tuy nhiên, mô hình này vẫn còn tồn tại một số nhược điểm, đặc biệt là trong việc mất ngữ cảnh trong quá trình trích xuất đặc trưng. Attention U-Net đã được phát triển để giải quyết vấn đề này bằng cách sử dụng cơ chế attention gate. Cơ chế này giúp lọc ra những đặc trưng quan trọng từ ma trận đặc trưng, từ đó cải thiện độ chính xác của phân đoạn. Ngoài ra, Squeeze-and-Excitation Block cũng đã được áp dụng để tăng cường khả năng trích xuất đặc trưng. Những nghiên cứu này đã tạo nền tảng cho việc phát triển mô hình mới trong luận văn này, nhằm tối ưu hóa quy trình phân đoạn khối u não.

III. Mô hình đề xuất

Mô hình Coordinate Attention UNet (CAUNet) được đề xuất nhằm khắc phục những nhược điểm của mô hình UNet ban đầu. Mô hình này sử dụng cơ chế coordinate attention để cải thiện khả năng phân đoạn bằng cách giữ lại các đặc trưng ngữ cảnh trong quá trình trích xuất. Việc áp dụng max pooling thay vì average pooling cũng được đề xuất để tăng cường hiệu quả cho ảnh MRI. Mô hình này không chỉ cải thiện độ chính xác mà còn giảm thiểu thời gian xử lý, từ đó hỗ trợ bác sĩ trong việc chẩn đoán và điều trị khối u não một cách hiệu quả hơn.

IV. Đánh giá

Đánh giá mô hình được thực hiện thông qua cả phương pháp định tính và định lượng. Kết quả cho thấy mô hình CAUNet vượt trội hơn so với các mô hình trước đó trong việc phân đoạn khối u não. Các chỉ số đánh giá như độ chính xác, độ nhạy và độ đặc hiệu đều cho thấy sự cải thiện rõ rệt. Việc áp dụng học sâu trong phân đoạn khối u não không chỉ mang lại lợi ích về mặt kỹ thuật mà còn có ý nghĩa thực tiễn lớn trong việc nâng cao chất lượng chăm sóc sức khỏe. Những kết quả này khẳng định giá trị của nghiên cứu và mở ra hướng đi mới cho các nghiên cứu tiếp theo trong lĩnh vực này.

V. Kết luận

Luận văn đã trình bày một mô hình mới cho phân đoạn khối u não sử dụng công nghệ học sâu. Mô hình này không chỉ khắc phục những nhược điểm của các mô hình trước đó mà còn mở ra hướng đi mới cho việc ứng dụng trí tuệ nhân tạo trong y tế. Việc cải tiến mô hình CAUNet cho thấy tiềm năng lớn trong việc hỗ trợ bác sĩ trong chẩn đoán và điều trị khối u não. Nghiên cứu này không chỉ có giá trị học thuật mà còn có ý nghĩa thực tiễn sâu sắc, góp phần nâng cao chất lượng chăm sóc sức khỏe cho bệnh nhân.

Nội dung chính

Tổng quan nghiên cứu

U thần kinh đệm não (u não) là một trong những căn bệnh nguy hiểm nhất liên quan đến não bộ, ảnh hưởng nghiêm trọng đến sức khỏe và tính mạng người bệnh. Việc chẩn đoán và điều trị u não chủ yếu dựa vào ảnh chụp cộng hưởng từ (MRI), tuy nhiên quá trình phân đoạn khối u trên ảnh MRI đòi hỏi bác sĩ phải có trình độ chuyên môn cao và thời gian đào tạo lâu dài, gây tốn kém và khó khăn trong thực tế. Theo tập dữ liệu BraTS 2020, có khoảng 369 bệnh nhân được chụp MRI với bốn phương thức khác nhau (T1, T1ce, T2, Flair), cung cấp nguồn dữ liệu phong phú cho nghiên cứu phân đoạn khối u não tự động.

Mục tiêu của nghiên cứu là phát triển một hệ thống phân đoạn khối u não sử dụng công nghệ học sâu, nhằm hỗ trợ bác sĩ trong việc xác định vị trí và kích thước khối u một cách chính xác và nhanh chóng. Nghiên cứu tập trung vào việc cải tiến mô hình U-Net kinh điển bằng cách áp dụng cơ chế attention, đặc biệt là coordinate attention, để khắc phục các hạn chế về mất ngữ cảnh và thiếu ngữ cảnh trong quá trình trích xuất và mở rộng đặc trưng ảnh MRI. Phạm vi nghiên cứu giới hạn trong việc xử lý ảnh 2D lát cắt từ ảnh MRI 3D, sử dụng dữ liệu từ tập BraTS 2020, với mục tiêu nâng cao hiệu quả phân đoạn trên các loại khối u khác nhau.

Ý nghĩa của nghiên cứu không chỉ nằm ở việc nâng cao độ chính xác phân đoạn khối u, mà còn góp phần giảm thiểu chi phí và thời gian chẩn đoán, đồng thời mở rộng khả năng ứng dụng công nghệ học sâu trong y học hiện đại.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu dựa trên mô hình học sâu U-Net, một kiến trúc mạng nơ-ron tích chập (CNN) nổi tiếng trong phân đoạn ảnh y khoa, gồm hai phần chính: phần mạng trích xuất đặc trưng (contracting path) và phần mạng mở rộng (expanding path). U-Net sử dụng phép max-pooling để giảm kích thước ma trận đặc trưng trong quá trình trích xuất, đồng thời dùng phép transpose convolution để mở rộng kích thước trong phần mạng mở rộng. Tuy nhiên, quá trình downsampling và upsampling này dẫn đến mất mát ngữ cảnh và làm loãng đặc trưng ảnh.

Để khắc phục hạn chế trên, cơ chế attention được áp dụng, trong đó attention gate giúp lọc và làm nổi bật các đặc trưng quan trọng dựa trên ngữ cảnh. Squeeze-and-Excitation Block (SE Block) là một module attention hiệu quả, trích xuất đặc trưng theo từng kênh của ma trận đặc trưng. Coordinate Attention là một cải tiến của SE Block, không chỉ trích xuất đặc trưng theo kênh mà còn theo chiều cao và chiều rộng, giúp mạng học sâu nắm bắt được thông tin vị trí và mối quan hệ không gian trong ảnh.

Nghiên cứu đề xuất mô hình Coordinate Attention U-Net (CAUNet) bằng cách tích hợp coordinate attention vào trước bước downsampling và sau bước upsampling trong U-Net, nhằm tăng cường ngữ cảnh và cải thiện hiệu quả phân đoạn. Ngoài ra, do ảnh MRI có phương sai cường độ cao, phương pháp average pooling trong coordinate attention không phù hợp, nên nghiên cứu đề xuất thay thế bằng max pooling, tạo thành mô hình Max pooling Coordinate Attention U-Net (MCAUNet).

Phương pháp nghiên cứu

Nguồn dữ liệu chính là tập BraTS 2020, gồm 369 bệnh nhân với ảnh MRI 3D theo bốn phương thức (T1, T1ce, T2, Flair). Dữ liệu được xử lý bằng cách tách thành các lát cắt 2D theo chiều z, mỗi lát cắt được tổng hợp bốn kênh tương ứng với bốn phương thức chụp. Tập dữ liệu được chia thành tập huấn luyện và tập kiểm thử theo tỷ lệ 8:2, trong đó các ảnh không chứa khối u được loại bỏ khỏi tập huấn luyện để giảm mất cân bằng dữ liệu.

Mô hình được hiện thực bằng Python sử dụng thư viện PyTorch, huấn luyện trên nền tảng Google Colab với batch size 5, learning rate 10^-5, trong 5 epochs cho mỗi giai đoạn. Quá trình huấn luyện gồm hai giai đoạn: đầu tiên huấn luyện mô hình U-Net gốc, sau đó sử dụng trọng số này để huấn luyện tiếp CAUNet và MCAUNet. Các tham số mô hình như số lượng biến và kích thước bộ nhớ được thống kê để đánh giá tính khả thi triển khai.

Phân tích kết quả dựa trên hai phương pháp: đánh giá định tính qua hình ảnh phân đoạn và đánh giá định lượng sử dụng hệ số Dice Score và Hausdorff 95 percentile trên ba mục tiêu phân đoạn chính: khối u tăng cường (ET), lõi khối u (TC), và toàn bộ khối u (WT).

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Hiệu quả phân đoạn của mô hình CAUNet và MCAUNet vượt trội hơn U-Net gốc: Qua đánh giá định tính, các mô hình cải tiến cho kết quả phân đoạn khối u rõ ràng và chính xác hơn, đặc biệt trong các trường hợp khối u phức tạp. Ví dụ, MCAUNet thể hiện khả năng phân đoạn chi tiết nhỏ tốt hơn so với U-Net và CAUNet.

2. Kết quả định lượng cho thấy MCAUNet cải thiện đáng kể trên các mục tiêu TC và WT: Mô hình MCAUNet đạt Dice Score cao hơn U-Net gốc ở lõi khối u và toàn bộ khối u, trong khi chỉ giảm nhẹ 0.00579 điểm Dice Score ở khối u tăng cường. Hausdorff 95 percentile cũng cho thấy MCAUNet có khoảng cách nhỏ hơn, chứng tỏ độ chính xác vị trí phân đoạn tốt hơn.

3. CAUNet có kết quả thấp hơn U-Net và MCAUNet: Điều này phản ánh hạn chế của coordinate attention gốc khi áp dụng cho ảnh MRI có phương sai cường độ lớn, do đó việc thay thế average pooling bằng max pooling trong MCAUNet là cải tiến quan trọng.

4. Mô hình MCAUNet giữ kích thước và số lượng biến số tương đương U-Net gốc: Với khoảng 31 triệu biến và kích thước mô hình khoảng 521 MB, MCAUNet vẫn đảm bảo tính khả thi triển khai trên các máy tính thông thường.

Thảo luận kết quả

Nguyên nhân chính của sự cải thiện là do coordinate attention giúp mạng học sâu nắm bắt được mối quan hệ không gian và kênh đặc trưng trong ảnh MRI, từ đó tăng cường ngữ cảnh bị mất trong quá trình downsampling và upsampling. Việc thay thế average pooling bằng max pooling trong module attention giúp mô hình thích nghi tốt hơn với dữ liệu MRI có phương sai lớn, tránh mất thông tin quan trọng.

So sánh với các nghiên cứu trước đây, mô hình CAUNet và MCAUNet tiếp tục phát huy ưu điểm của U-Net đồng thời khắc phục nhược điểm về mất ngữ cảnh, tương tự như các biến thể UNet++ hay Attention U-Net nhưng với module attention mới mẻ và hiệu quả hơn. Kết quả có thể được trình bày qua biểu đồ so sánh Dice Score và Hausdorff 95 percentile giữa các mô hình trên từng mục tiêu phân đoạn, giúp minh họa rõ ràng sự khác biệt hiệu năng.

Tuy nhiên, mô hình vẫn chưa giải quyết triệt để vấn đề mất cân bằng dữ liệu và chưa tận dụng được mối quan hệ không gian giữa các lát cắt trong ảnh MRI 3D, đây là những hạn chế cần khắc phục trong nghiên cứu tiếp theo.

Đề xuất và khuyến nghị

1. Áp dụng kỹ thuật tăng cường dữ liệu (data augmentation): Thực hiện cắt ảnh theo chiều dài và chiều rộng để tăng tỷ lệ khối u trong ảnh, đồng thời sử dụng các mô hình tạo ảnh như GAN để tạo thêm dữ liệu huấn luyện, giúp giảm mất cân bằng dữ liệu và cải thiện độ chính xác phân đoạn. Thời gian thực hiện dự kiến 6-12 tháng, do nhóm nghiên cứu và kỹ thuật viên dữ liệu đảm nhiệm.

2. Chuẩn hóa dữ liệu đầu vào bằng phương pháp hiệu chỉnh bias N4: Áp dụng thuật toán N4ITK để loại bỏ nhiễu và hiệu chỉnh cường độ ảnh MRI, giúp dữ liệu đầu vào đồng nhất hơn, nâng cao hiệu quả huấn luyện mô hình. Khuyến nghị triển khai trong vòng 3-6 tháng bởi nhóm xử lý ảnh y khoa.

3. Phát triển mô hình học sâu 3D tận dụng mối quan hệ không gian giữa các lát cắt: Nghiên cứu và áp dụng các kiến trúc 3D U-Net, 3D Auto Encoder Regularization hoặc Multi-Scale 3D CNN để khai thác thông tin không gian 3 chiều của ảnh MRI, từ đó nâng cao độ chính xác phân đoạn. Dự kiến thời gian 12-18 tháng, do nhóm nghiên cứu chuyên sâu về học sâu và y sinh thực hiện.

4. Khảo sát và tích hợp các cơ chế attention tiên tiến khác: Thử nghiệm các attention module như cross-task guided attention, multi-scale guided attention để tăng cường khả năng nhận diện đặc trưng phức tạp trong ảnh y khoa. Thời gian thực hiện 6-9 tháng, phối hợp giữa nhóm nghiên cứu và kỹ sư phần mềm.

Đối tượng nên tham khảo luận văn

1. Nhà nghiên cứu và sinh viên ngành Khoa học máy tính, trí tuệ nhân tạo: Luận văn cung cấp kiến thức chuyên sâu về mô hình học sâu, attention module và ứng dụng trong phân đoạn ảnh y khoa, giúp phát triển các đề tài nghiên cứu liên quan.

2. Bác sĩ và chuyên gia y tế trong lĩnh vực chẩn đoán hình ảnh thần kinh: Hệ thống phân đoạn tự động hỗ trợ chẩn đoán u não, giảm tải công việc và tăng độ chính xác trong thực tế lâm sàng.

3. Kỹ sư phát triển phần mềm y tế và công nghệ hình ảnh y khoa: Tham khảo kiến trúc mô hình, phương pháp xử lý dữ liệu và kỹ thuật huấn luyện để phát triển các sản phẩm phần mềm hỗ trợ chẩn đoán.

4. Các tổ chức nghiên cứu và doanh nghiệp công nghệ y tế: Tài liệu giúp định hướng phát triển các giải pháp AI trong y tế, đặc biệt trong lĩnh vực xử lý ảnh MRI và phân đoạn khối u não.

Câu hỏi thường gặp

1. Mô hình CAUNet và MCAUNet khác gì so với U-Net gốc?
   CAUNet và MCAUNet tích hợp module coordinate attention để tăng cường ngữ cảnh trong quá trình trích xuất và mở rộng đặc trưng, giúp cải thiện độ chính xác phân đoạn. MCAUNet còn thay thế average pooling bằng max pooling trong attention để phù hợp với ảnh MRI có phương sai lớn.

2. Tại sao lại sử dụng max pooling thay cho average pooling trong coordinate attention?
   Ảnh MRI có phương sai cường độ lớn, average pooling có thể làm mất thông tin quan trọng. Max pooling giữ lại các giá trị đặc trưng nổi bật hơn, giúp mô hình học sâu hiệu quả hơn với dữ liệu này.

3. Dữ liệu BraTS 2020 có đặc điểm gì nổi bật?
   BraTS 2020 gồm 369 bệnh nhân với ảnh MRI 3D theo bốn phương thức chụp, được chuyên gia đánh dấu nhãn phân đoạn khối u, là bộ dữ liệu chuẩn để đánh giá các mô hình phân đoạn u não.

4. Mô hình có thể áp dụng trực tiếp trên ảnh MRI 3D không?
   Nghiên cứu hiện tại xử lý ảnh 2D lát cắt từ ảnh 3D. Việc áp dụng trực tiếp trên ảnh 3D đòi hỏi mô hình 3D phức tạp hơn, là hướng phát triển trong tương lai để tận dụng mối quan hệ không gian giữa các lát cắt.

5. Hiệu quả mô hình được đánh giá như thế nào?
   Hiệu quả được đánh giá bằng hệ số Dice Score và Hausdorff 95 percentile trên ba mục tiêu phân đoạn chính. MCAUNet cho kết quả tốt hơn U-Net gốc ở lõi khối u và toàn bộ khối u, chứng tỏ cải tiến có ý nghĩa thực tiễn.

Kết luận

• Đã đề xuất thành công mô hình Coordinate Attention U-Net (CAUNet) và cải tiến Max pooling Coordinate Attention U-Net (MCAUNet) cho bài toán phân đoạn khối u não trên ảnh MRI.
• Mô hình MCAUNet cải thiện hiệu quả phân đoạn so với U-Net gốc, đặc biệt trên các mục tiêu lõi khối u và toàn bộ khối u, nhờ thay đổi phương pháp pooling trong module attention.
• Mô hình giữ kích thước và số lượng biến số tương đương U-Net, đảm bảo khả năng triển khai trên máy tính thông thường.
• Nghiên cứu chỉ ra hạn chế về mất cân bằng dữ liệu và chưa khai thác mối quan hệ không gian 3D, là cơ sở cho các hướng phát triển tiếp theo.
• Khuyến nghị áp dụng kỹ thuật tăng cường dữ liệu, chuẩn hóa ảnh MRI, phát triển mô hình 3D và tích hợp các cơ chế attention mới để nâng cao hơn nữa hiệu quả phân đoạn.

Để tiếp tục phát triển, các nhà nghiên cứu và kỹ sư được khuyến khích áp dụng và mở rộng mô hình trong các dự án thực tế, đồng thời chia sẻ kết quả để thúc đẩy ứng dụng trí tuệ nhân tạo trong y học hiện đại.

Trích đoạn nội dung tài liệu

Chương 1 Giới thiệu 1 Giới thiệu đề tài Não bộ là bộ phận quan trọng nhất của con người. Bất kỳ một tổn thương nào liên quan đến não bộ, đều gây ra ảnh hưởng cực kỳ lớn đối với người bệnh. Trong đó, u thần kinh đệm não (u não) là căn bệnh nguy hiểm nhất của não bộ. Để chẩn đoán và điều trị căn bệnh này, các bác sĩ sử dụng ảnh chụp cộng hưởng từ (MRI) của não người bệnh để tiến hành chẩn đoán và điều trị.

Hình 1 thể hiện một số hình ảnh chụp MRI của bệnh nhân mắc u não. Tuy nhiên để có thể chẩn đoán được khối u, các bác sĩ phải trải qua quá trình đào tạo trong thời gian dài và vô cùng tốn kém. Vì vậy nhu cầu cầu về một hệ thống hỗ trợ bác sĩ trong việc phân đoạn khối u trở nên cần thiết. Cùng với sự phát triển của trí tuệ nhân tạo trong thế kỷ 21, với những kết quả khả quan đã được kiểm chứng qua các công trình nghiên cứu.

Một hệ thống phân đoạn khối u não sử dụng công nghệ học sâu đã trở nên khả thi. 2 Mục tiêu đề tài Với mục tiêu hỗ trợ các y bác sĩ trong việc chẩn đoán và điều trị u não. Trong đề tài này, tôi tiến hành nghiên cứu hệ thống mạng học sâu có khả năng phân đoạn khối u não. Đề tài này không chỉ có ý nghĩa về mặt học thuật (nghiên cứu mô hình học sâu) mà còn có ý nghĩa về thực tiễn (hỗ trợ bác sĩ xác định vị trí khối u).

Bên cạnh đó, với sự phát triển ngày càng mạnh mẽ của công nghệ học sâu và những phần cứng hỗ trợ, đề tài này còn mang ý nghĩa thời đại phù hợp với sự phát triển của khoa học và công nghệ hiện đại. 3 Phạm vi đề tài Với mục đích xây dựng hệ thống học sâu phân đoạn khối u não. Vì vậy phạm vi đề tài được giới hạn trong các vấn đề sau: • Xây dựng hệ thống học sâu có khả năng phân đoạn khối u não. • Hệ thống sử dụng dữ liệu đầu vào là ảnh chụp MRI của bệnh nhân mắc bệnh u não 4 Quá trình thực hiện Quá trình thực hiện luận văn này trải qua 4 bước: Bước 1: Khảo sát những công trình liên quá đến phân đoạn khối u não: ở bước này, tôi tiến hành tìm hiểu những công trình liên quan đến đề tài, những phương pháp đã được sử dụng và kết quả của những phương pháp này.

Phân đoạn khối u não sử dụng công nghệ học sâu Trang 1/32 Trường Đại Học Bách Khoa Tp.Hồ Chí Minh Khoa Khoa Học và Kỹ Thuật Máy Tính Hình 1: Một số ảnh chụp MRI của bệnh nhân u não Bước 2: Xây dựng hệ thống học sâu phân đoạn khối u não: hệ thống được xây dựng phải có những cải tiến và giải quyết được vấn đề của các công trình đi trước và từ đó cải thiện kết quả phân đoạn u não. Bước 3: Thu thập dữ liệu: để có thể đánh giá kết quả hệ thống đề xuất, tôi tiến hành thu thập dữ liệu của bệnh nhân u não và tiến hành thí nghiệm và đánh giá trên tập dữ liệu này. Bước 4: Đánh giá kết quả: kết quả của hệ thống được đánh giá cả bằng định tính và định lượng. Từ đó rút ra nhận xét về tính hiệu quả của mô hình được đề xuất.

Phân đoạn khối u não sử dụng công nghệ học sâu Trang 2/32 Trường Đại Học Bách Khoa Tp.Hồ Chí Minh Khoa Khoa Học và Kỹ Thuật Máy Tính Chương 2 Công trình liên quan 1 Mô hình học sâu U-Net Mô hình học sâu U-Net [1] là mô hình phân đoạn ảnh được sử dụng để phân đoạn ảnh y khoa. Trong bài công bố vào năm 2015, các nhà nghiên cứu mô hình U-Net đã hiện thực mô hình này và đã giành giải nhất trong cuộc thi phân đoạn cấu trúc tế bào thần kinh do hội thảo quốc tế về hình ảnh y sinh (ISBI) tổ chức. Nhiều nghiên cứu đã dựa trên mô hình này để tiến hành cải tiến và phát triển như UNet++ [2], UNet 3+ [3], VNet [4], KiUNet [5], DCUNet [6]. Và framework nnUNet [7] ra đời với mục tiêu tạo ra một framework thống nhất để sử dụng mô hình UNet và các biến thể của mô hình này.

Từ đó có thể thấy mô hình UNet là mô hình học sâu kinh điển cho bài toán phân đoạn ảnh. Cấu trúc mạng UNet được minh hoạ trong hình 2. Mạng bao gồm phần trích xuất (phần mạng bên trái) và phần mở rộng (phần mạng bên phải). Hai phần mạng này có cấu trúc tương tự nhau nhưng chức năng lại trái ngược nhau.

Phần mạng bên trái dùng để phân loại từng điểm ảnh, phần mạng bên phải dùng để củng cố thêm yếu tố vị trí các loại của điểm ảnh. Phần mạng trích xuất là kiến trúc của một mạng nơ-ron tích chập thông thường, bao gồm hai lớp tích chập 3 × 3 không thêm hệ số (unpadded convolution) với hàm kích hoạt là hàm tuyến tính chỉnh lưu (rectified linear unit - ReLU), sử dụng phép max-pooling với cửa sổ 2 × 2 với bước trượt là 2 để tiến hành down sampling. Ở mỗi bước down sampling số kênh đặc trưng được nhân đôi. Phần mạng mở rộng bao gồm các phép up-convolution sử dụng cửa sổ 2 × 2.

Phép toán này làm giảm đi phân nửa số kênh đặc trưng của ma trận đặc trưng đầu vào, kết nối với ma trận đặc trưng tương ứng đã được cắt bớt bên nhánh thu nhỏ. Ma trận đặc trưng thu được, lại đi qua hai lớp tích chập 3 × 3 với hàm kích hoạt là hàm ReLu. Cuối cùng sử dụng lớp tích chập 1 × 1 để ánh xạ 64 vec-tơ đặc trưng thành phần sang số lớp mong muốn. Trong quá trình huấn luyện mô hình, tác giả nghiên cứu đã sử dụng Stochastic Gradi- ent Descent (SGD) để huấn luyện mô hình, vì vậy hàm lỗi được tác giả sử dụng là hàm cross-entropy, công thức 1 là công thức tính độ lỗi được tác giả đề xuất.

X E= w(x) log(pl(x) (x)) (1) x∈Ω Trong đó K là số lượng lớp, l : Ω → {1,. , K} là nhãn đúng của từng điểm ảnh, w : Ω → R là ma trận hệ số và pl (x) được tính bằng công thức 2. Phân đoạn khối u não sử dụng công nghệ học sâu Trang 3/32 Trường Đại Học Bách Khoa Tp.Hồ Chí Minh Khoa Khoa Học và Kỹ Thuật Máy Tính Hình 2: Cấu trúc mạng U-Net. Ô màu xanh tương ứng với ma trận đặc trưng đa kênh.

Số kênh được ghi trên từng ô. Chiều rộng và chiều cao được ghi ở rìa trái của ô. Những ô màu trắng đại diện cho những ma trận đặc trưng được sao lưu. Các mũi tên đại diện cho các phép toán khác nhau [1].

K X pk (x) = exp (ak (x))/( exp(ak0 (x))) (2) k0 =1 Trong công thức 2, ak (x) là giá trị kích hoạt của kênh đặc trưng k tại điểm ảnh có vị trí x ∈ Ω với Ω ⊂ Z2. Mạng U-Net là mạng học sâu phân đoạn nổi tiếng, tại thời điểm hoàn thiện báo cáo này, nhiều mạng học sâu phân đoạn ảnh vẫn dựa trên thiết kế chính của mạng U-Net. Vì vậy, chúng tôi đã quyết định nghiên cứu, tìm hiểu sâu hơn về mạng học sâu này để từ đó thiết kế nên mô hình học sâu hiệu quả hơn. 2 Mô hình học sâu Attention U-Net Mô hình học sâu Attention U-Net [8] được phát triển dựa trên mô hình U-Net [1] và cơ chế attention.

Cơ chế attention được sử dụng trong mạng học sâu này có tên là attention gate. sử dụng ngữ cảnh để lọc ra những đặc trưng cần thiết từ ma trận đặc trưng để từ đó làm nổi bật những đặc trưng quan trọng. Hình 3 mô tả cấu trúc attention gate. Phân đoạn khối u não sử dụng công nghệ học sâu Trang 4/32 Trường Đại Học Bách Khoa Tp.Hồ Chí Minh Khoa Khoa Học và Kỹ Thuật Máy Tính Hình 3: Cấu trúc Attention Gate.

Trong đó xl là ma trận đặc trưng đầu vào tại tầng l, g là ma trận ngữ cảnh. Ψ là hàm biến đổi tuyến tính. α là hệ số attention dùng để điều chỉnh ma trận đặc trưng đầu vào. Với ma trận đặc trưng tại tầng l, xl , và ma trận ngữ cảnh được chọn lọc g.

Hệ số attention alpha được tính bằng công thức ??. Trong đó, Wx và Wg là ma trận trọng số của xl và g. Hàm kích hoạt σ1 là hàm ReLU và sigma2 là hàm kích hoạt sigmoid. αl = σ2 (σ1 (Wx xl + Wg g)) (3) Cơ chế này đã được sử dụng để củng cố đặc trưng được sử dụng lại từ nhánh thu nhỏ của mô hình U-Net.

Trong đó ma trận đặc trưng từ nhánh thu nhỏ được dùng làm ma trận đặc trưng đầu vào, ma trận đặc trưng trước khi được mở rộng bên phần mạng mở rộng được dùng làm ma trận ngữ cảnh. Từ đó ngữ cảnh thu được từ nhánh thu nhỏ được củng cố và cải thiện kết quả phân đoạn. 3 Squeeze-and-Excitation Block Squeeze-and-Excitation Block [9] (SE Block) là một đơn vị tính toán với khả năng trích xuất đặc trưng đối với từng kênh của ma trận đặc trưng. SE Block bao gồm hai thành phần: bộ trích xuất (squeeze) và bộ kích hoạt (excitation).

Bộ trích xuất dùng để trích xuất hệ số thống kê theo từng kênh của ma trận đặc trưng. Hệ số thống kê tại kênh thứ c được tính bằng công thức: 1 X X zc = xc (i, j) (4) H × W 1≤i<H 1≤j<W Trong đó: • zc : là hệ số trích xuất tại kênh thứ c. • xc : là ma trận đặc trưng tại kênh thứ c. • H: là chiều cao của ma trận đặc trưng.

Phân đoạn khối u não sử dụng công nghệ học sâu Trang 5/32 Trường Đại Học Bách Khoa Tp.Hồ Chí Minh Khoa Khoa Học và Kỹ Thuật Máy Tính • W : là chiểu rộng của ma trận đặc trưng. Bộ kích hoạt được sử dụng để kích hoạt hệ số thống kê z. Bộ kích hoạt bao gồm hai lớp tích chập với cửa sổ 1 × 1 nối tiếp nhau với hai hàm kích hoạt theo thứ tự là hàm ReLU và hàm Sigmoid. Hệ số sau khi được kich hoạt được dùng để hiệu chỉnh ma trận đặc trưng ban đầu.

4 Coordinate Attention Coordinate attention [10] được phát triển dựa trên Squeeze-and-Excition [9] (SE Block). Phương pháp này thừa hưởng việc trích xuất thông tin trên từng kênh của ma trận đặc trưng và phát triển thêm việc trích xuất đặc trưng theo chiều cao và chiều rộng của từng kênh của ma trận đặc trưng. Được phá triển dựa trên SE Block, vì vậy Coordinate attention cũng bao gồm hai thành phần: bộ trích xuất (squeeze) và bộ kích hoạt (excitation).