Luận văn Deep Learning phân loại tổn thương tiêu hóa - ĐHBK Hà Nội

Luận văn thạc sĩ khoa học dữ liệu và trí tuệ nhân tạo ứng dụng học sâu nhằm định vị, phân loại các tổn thương đường tiêu hóa hiệu quả.

• Tác giả: Phan Ngọc Lan
• Người hướng dẫn: TS. Đinh Việt Sang
• Trường học: Đại học Bách khoa Hà Nội
• Chuyên ngành: Khoa học dữ liệu và Trí tuệ nhân tạo
• Đề tài: Applying Deep Learning Techniques for the Localization and Classification of Digestive Tract Lesions
• Loại tài liệu: Luận văn thạc sĩ
• Năm xuất bản: 2021
• Địa điểm: Hà Nội

Tóm tắt

I. Tổng quan luận văn học sâu định vị tổn thương tiêu hóa

Nội soi tiêu hóa giữ vai trò quyết định trong việc phát hiện sớm các bệnh lý tiền ung thư đại trực tràng. Tuy nhiên, quy trình chẩn đoán thủ công đối mặt nhiều rủi ro sai sót. Bác sĩ nội soi có thể bỏ sót các polyp có kích thước nhỏ hoặc phẳng. Luận văn thạc sĩ Khoa học Dữ liệu và Trí tuệ Nhân tạo tại Đại học Bách khoa Hà Nội giải quyết trực tiếp thách thức này. Đề tài tập trung ứng dụng kỹ thuật học sâu để xây dựng hệ thống tự động định vị và phân loại tổn thương đường tiêu hóa. Nghiên cứu mở rộng bài toán phân vùng polyp truyền thống sang phát hiện khối u tân sinh có nguy cơ ác tính cao. Cách tiếp cận này tạo tiền đề vững chắc cho việc ứng dụng trí tuệ nhân tạo hỗ trợ y tế thời gian thực. Hệ thống giúp nâng cao tỷ lệ phát hiện tổn thương và giảm thiểu áp lực cho đội ngũ y bác sĩ trong phòng nội soi lâm sàng. Đây là bước tiến quan trọng kết hợp khoa học máy tính và y khoa hiện đại.

1.1. Bối cảnh nghiên cứu trí tuệ nhân tạo y tế

Ung thư đại trực tràng là nguyên nhân gây tử vong hàng đầu trên thế giới. Phát hiện sớm các polyp tiền ung thư giúp nâng cao tỷ lệ sống sót của bệnh nhân lên trên 90%. Kỹ thuật nội soi đại tràng truyền thống phụ thuộc lớn vào kinh nghiệm chuyên môn và thể trạng của bác sĩ. Tỷ lệ bỏ sót polyp trong thực tế lâm sàng có thể lên đến 25%. Sự phát triển vượt bậc của thị giác máy tính mở ra cơ hội lớn cho chẩn đoán y khoa. Học sâu cung cấp các mô hình học biểu diễn đặc trưng mạnh mẽ từ hình ảnh nội soi phức tạp. Nghiên cứu nhằm mục tiêu thu hẹp khoảng cách giữa thuật toán học máy và ứng dụng chẩn đoán thực tế.

1.2. Mục tiêu và đóng góp trọng tâm của luận văn

Mục tiêu cốt lõi của luận văn là xây dựng giải pháp học sâu hoàn chỉnh cho bài toán nội soi tiêu hóa. Đề tài mở rộng giới hạn phân vùng polyp đơn thuần sang bài toán phân loại tổn thương tân sinh. Tác giả giới thiệu kiến trúc mạng nơ-ron chuyên biệt mang tên NeoUNet để tối ưu hóa độ chính xác. Bên cạnh đó, nghiên cứu đóng góp bộ dữ liệu ảnh nội soi NeoPolyp được gán nhãn chi tiết bởi các chuyên gia y tế hàng đầu. Các thử nghiệm định lượng toàn diện chứng minh tính hiệu quả vượt trội của mô hình so với các phương pháp phân đoạn hiện hành. Đóng góp này mang giá trị học thuật cao và khả năng chuyển giao công nghệ thiết thực.

II. Thách thức phân loại và định vị tổn thương đường tiêu hóa

Hình ảnh nội soi đường tiêu hóa chứa đựng nhiều yếu tố gây nhiễu thị giác nghiêm trọng. Độ phản chiếu ánh sáng từ chất dịch nhầy niêm mạc làm thay đổi độ tương phản cục bộ. Polyp thường có hình dạng không đồng nhất, ranh giới mờ nhạt và màu sắc tương tự mô lành xung quanh. Chuyển động của ống nội soi và nhu động ruột liên tục tạo ra hiện tượng mờ nhòe quang học. Những yếu tố này khiến việc trích xuất đặc trưng hình thái học gặp nhiều trở ngại. Phần lớn các mô hình phân đoạn ngữ nghĩa truyền thống như U-Net hay FCN chỉ tập trung tách nền và vùng tổn thương thô. Các kiến trúc này chưa phân biệt được bản chất bệnh lý của từng loại khối u. Khả năng phát hiện khối u tân sinh đòi hỏi mô hình phải nhận diện các biến đổi vi cấu trúc bề mặt cực kỳ tinh tế. Sự mất cân bằng dữ liệu giữa các lớp mô bệnh học cũng là rào cản lớn trong huấn luyện mạng nơ-ron.

2.1. Đặc trưng phức tạp của ảnh nội soi lâm sàng

Môi trường tiêu hóa trong quá trình nội soi đặt ra nhiều rào cản kỹ thuật cho thị giác máy tính. Ánh sáng đèn nội soi dễ gây lóa cục bộ trên bề mặt ướt của niêm mạc. Tạp chất tiêu hóa và bọt khí che khuất các tổn thương quan trọng. Kích thước polyp dao động rất rộng từ vài milimét đến vài centimét. Ranh giới giữa vùng biểu mô lành và tổn thương tân sinh thường không rõ ràng. Các đặc điểm quang học này dễ dẫn đến hiện tượng dương tính giả hoặc bỏ sót bệnh lý nguy hiểm. Việc thu nhận đặc trưng đa tỷ lệ trở thành yêu cầu sống còn cho mạng nơ-ron sâu.

2.2. Hạn chế của các mô hình phân đoạn kinh điển

Các mô hình phân đoạn chuẩn mực như U-Net, ResUNet hay PraNet bộc lộ nhiều điểm nghẽn khi xử lý tổn thương phức tạp. Cơ chế kết nối tắt đơn giản chưa đủ năng lực bảo toàn thông tin không gian chi tiết qua các tầng tích chập sâu. Mô hình thường gặp hiện tượng nút thắt biểu diễn khi giảm chiều bản đồ đặc trưng quá nhanh. Quá trình huấn luyện dễ rơi vào trạng thái quá khớp do thiếu hụt các kỹ thuật điều trị chính quy hóa phù hợp. Quan trọng hơn, phần lớn nghiên cứu trước đây chỉ giải quyết bài toán phân đoạn nhị phân đơn giản. Việc định danh phân loại khối u ác tính bị bỏ ngỏ, làm giảm giá trị thực tiễn trong hỗ trợ can thiệp ngoại khoa.

III. Kiến trúc NeoUNet và phương pháp học sâu cải tiến

Luận văn đề xuất kiến trúc mạng nơ-ron NeoUNet nhằm giải quyết triệt để bài toán định vị kết hợp phân loại khối u tân sinh. Mô hình tích hợp các khối tích chập Inception đa quy mô với kích thước nhân lọc biến thiên. Cấu trúc mở rộng chiều rộng mạng thay vì tăng độ sâu giúp ngăn ngừa triệt để hiện tượng triệt tiêu đạo hàm. Cơ chế trích xuất đặc trưng đa tầng cho phép mô hình thu nhận đồng thời bối cảnh toàn cục và chi tiết cục bộ sắc nét. Nghiên cứu áp dụng hàm mất mát tổng hợp Compound Loss để tối ưu hóa quá trình học đa nhiệm. Sự kết hợp giữa Dice Loss và Cross-Entropy Loss có trọng số giúp xử lý hiệu quả tình trạng mất cân bằng lớp điểm ảnh. Chiến lược điều chỉnh tốc độ học Cosine Annealing kết hợp Warmup giúp mạng hội tụ ổn định và nâng cao khả năng khái quát hóa dữ liệu trên các miền ảnh nội soi khác nhau.

3.1. Thiết kế mạng NeoUNet và cơ chế Inception

Kiến trúc NeoUNet phát triển dựa trên nền tảng mạng phân đoạn mã hóa giải mã kết hợp các module Inception tiên tiến. Các nhánh tích chập song song sử dụng kích thước kernel 3x3, 5x5 và 7x7 kết hợp lớp gộp cực đại. Thiết kế này giúp mô hình chủ động lựa chọn vùng tiếp nhận tối ưu cho từng vùng tổn thương. Mạng học được cả chi tiết biên giới tế bào lẫn cấu trúc hình thái tổng quát của polyp. Kỹ thuật điều hòa Dropout được tích hợp để loại bỏ hiện tượng ghi nhớ dữ liệu quá mức. Nhờ đó, mạng duy trì tốc độ xử lý nhanh và đạt độ nhạy vượt trội khi định vị tổn thương.

3.2. Tập dữ liệu NeoPolyp và hàm Compound Loss

Bộ dữ liệu NeoPolyp được xây dựng công phu từ nguồn ảnh nội soi thực tế tại Viện Nghiên cứu và Đào tạo Tiêu hóa, Gan mật. Hàng ngàn khung hình được gán nhãn pixel-level chuẩn xác cho hai nhóm tổn thương tân sinh và không tân sinh. Để tối ưu hóa độ chính xác phân loại, nghiên cứu thiết kế lớp hàm tổn thất liên hợp CompoundLoss linh hoạt. Hệ thống kết hợp tuyến tính các hàm mất mát theo trọng số tùy biến cho từng nhánh nhiệm vụ. Hàm mất mát giúp cân bằng độ phạt giữa vùng nền áp đảo và vùng bệnh lý nhỏ. Phương pháp này cải thiện đáng kể chỉ số mIoU và độ chính xác phân đoạn lâm sàng.

IV. Kết quả đánh giá và tiềm năng ứng dụng y tế thực tế

Kết quả thực nghiệm trên tập kiểm thử độc lập khẳng định ưu thế vượt trội của giải pháp NeoUNet. Mô hình đạt các chỉ số đánh giá ấn tượng về hệ số Dice, độ nhạy và độ đặc hiệu so với các mạng phân đoạn baseline. Khả năng phát hiện chính xác khối u tân sinh mở ra hướng đi đột phá trong việc tầm soát ung thư biểu mô đại trực tràng giai đoạn sớm. Nghiên cứu tạo nền tảng cốt lõi cho dự án xây dựng hệ thống AI hỗ trợ nội soi thời gian thực được tài trợ bởi Quỹ Đổi mới sáng tạo Vingroup (VINIF). Hệ thống cho phép hiển thị cảnh báo trực quan ngay trên màn hình nội soi trong lúc phẫu thuật viên thực hiện thủ thuật. Thời gian xử lý khung hình đạt tốc độ cao, đáp ứng đầy đủ tiêu chuẩn khắt khe của môi trường phòng mổ. Đây là minh chứng rõ nét cho sự chuyển giao thành công tri thức học thuật sang ứng dụng lâm sàng giá trị cao.

4.1. Hiệu năng thực nghiệm của mô hình NeoUNet

Đánh giá định lượng trên tập dữ liệu kiểm thử chứng minh NeoUNet vượt trội ở tất cả các thước đo chính. Mô hình cải thiện đáng kể độ đo mIoU trên nhóm polyp tân sinh có độ tương phản thấp. So sánh với các kiến trúc tích chập hiện đại cho thấy độ chính xác đường biên tăng trưởng rõ rệt. Quá trình xử lý không gặp phải tình trạng trễ khung hình khi chạy trên phần cứng tăng tốc GPU. Khả năng phân loại đúng các tổn thương tiền ung thư đạt độ tin cậy vượt bậc. Kết quả thực nghiệm khẳng định tính đúng đắn của phương pháp đề xuất trong việc xử lý ảnh y tế chất lượng cao.

4.2. Khả năng triển khai lâm sàng và hướng phát triển

Công trình mở ra triển vọng tích hợp mô hình vào thiết bị nội soi thông minh trong các bệnh viện. Bác sĩ nội soi nhận được trợ giúp cảnh báo vùng tổn thương theo thời gian thực trực quan. Điều này hạn chế tối đa nguy cơ bỏ sót tổn thương do yếu tố mệt mỏi thị giác khi làm việc kéo dài. Hướng nghiên cứu tương lai tập trung tối ưu hóa kích thước mô hình bằng kỹ thuật lượng tử hóa và cắt tỉa trọng số. Việc mở rộng tập dữ liệu sang các dạng bệnh lý tiêu hóa khác sẽ gia tăng tính tổng quát cho hệ thống. Công nghệ học sâu hứa hẹn đóng vai trò trợ thủ đắc lực nâng cao tiêu chuẩn chăm sóc sức khỏe cộng đồng.

Nội dung chính

Tổng quan nghiên cứu

Nội soi tiêu hóa là tiêu chuẩn vàng trong tầm soát ung thư đại trực tràng và thực quản, tuy nhiên các báo cáo y khoa chỉ ra rằng có khoảng 20% đến 47% tổn thương polyp bị bỏ sót trong quá trình nội soi thực tế. Tình trạng quá tải tại các cơ sở y tế cùng giới hạn thị giác của bác sĩ khi phải quan sát liên tục là nguyên nhân chính dẫn đến sai sót chẩn đoán. Nhằm giải quyết thách thức này, nghiên cứu thạc sĩ chuyên ngành Khoa học Dữ liệu và Trí tuệ Nhân tạo tại Trường Công nghệ Thông tin và Truyền thông thuộc Đại học Bách khoa Hà Nội, hoàn thành vào tháng 10 năm 2021 dưới sự hướng dẫn của Tiến sĩ Đinh Viết Sang, đã tập trung phát triển các kỹ thuật học sâu tiên tiến phục vụ định vị và phân loại tổn thương đường tiêu hóa.

Mục tiêu trọng tâm của đề tài là mở rộng bài toán phân đoạn nhị phân truyền thống thành bài toán Phân đoạn Polyp và Phát hiện Tân sinh (Polyp Segmentation and Neoplasm Detection - PSND). Phạm vi nghiên cứu bao gồm việc phân loại chính xác các vùng tổn thương thành hai nhóm bệnh lý: polyp tân sinh (tiền ung thư) và polyp không tân sinh (lành tính), đồng thời mở rộng mô hình hóa cho cả tổn thương niêm mạc thực quản. Nghiên cứu được thực hiện với sự phối hợp chuyên môn từ Viện Nghiên cứu và Đào tạo Tiêu hóa, Gan Mật cùng sự tài trợ từ Quỹ Đổi mới sáng tạo Vingroup (VINIF). Kết quả nghiên cứu có ý nghĩa lâm sàng đặc biệt lớn khi cung cấp giải pháp hỗ trợ thời gian thực đạt tốc độ xử lý trên 80 khung hình mỗi giây, giúp giảm thiểu can thiệp phẫu thuật không cần thiết và nâng cao độ chính xác phát hiện sớm mầm mống ung thư ống tiêu hóa lên mức tối đa.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu xây dựng trên nền tảng của mạng nơ-ron tích chập (Convolutional Neural Network - CNN) và các kiến trúc phân đoạn ngữ nghĩa kinh điển. Mô hình U-Net đóng vai trò là khung tham chiếu cốt lõi nhờ cấu trúc đối xứng gồm nhánh mã hóa (encoder) trích xuất đặc trưng không gian và nhánh giải mã (decoder) khôi phục kích thước ảnh gốc thông qua các liên kết tắt (skip connections). Để khắc phục hiện tượng thắt cổ chai bộ nhớ và độ trễ tính toán của các mạng DenseNet truyền thống, nghiên cứu ứng dụng kiến trúc Harmonic DenseNet (HarDNet68). HarDNet68 tối ưu hóa lưu lượng truy cập bộ nhớ DRAM bằng cách cấu trúc các khối Harmonic Dense Block (HDB), trong đó các tầng có chỉ số chia hết cho lũy thừa của 2 sẽ tập trung mật độ kênh tích chập cao hơn.

Bên cạnh đó, cơ chế cổng chú ý cộng tính (Additive Attention Gate) được tích hợp trực tiếp vào các đường truyền tắt nhằm lọc bỏ các đặc trưng nhiễu từ các tầng nông và tập trung vào các vùng mô bệnh học nhạy cảm. Để tối ưu hóa quá trình học phân đoạn đa lớp, nghiên cứu áp dụng hàm suy hao Tversky tiêu điểm (Focal Tversky Loss) kết hợp cùng hàm Binary Cross Entropy (BCE). Hàm Tversky thiết lập hệ số alpha bằng 0.7 và beta bằng 0.3 nhằm ưu tiên hạn chế tối đa sai số âm tính giả (bỏ sót mầm bệnh), đồng thời hệ số gamma bằng 4 trong thành phần tiêu điểm giúp mô hình tập trung xử lý các vùng ranh giới tổn thương phức tạp.

Phương pháp nghiên cứu

Nghiên cứu sử dụng hai bộ dữ liệu y khoa được gán nhãn chuẩn mực bởi các chuyên gia tiêu hóa: bộ dữ liệu NeoPolyp với hàng nghìn ảnh nội soi polyp đại trực tràng chứa thông tin tân sinh và bộ dữ liệu tổn thương thực quản. Phương pháp chọn mẫu áp dụng kỹ thuật phân tầng ngẫu nhiên, phân chia dữ liệu thành 90% cho tập huấn luyện và 10% cho tập kiểm định độc lập, đảm bảo tỷ lệ cân bằng giữa các ca bệnh lý phức tạp. Lý do lựa chọn mô hình hóa bằng học sâu phân đoạn đa thang đo là khả năng trích xuất đồng thời đặc trưng kết cấu bề mặt mô và hình thái học tổng quát của tổn thương.

Quy trình thực nghiệm được triển khai trên nền tảng Python 3.7 kết hợp thư viện PyTorch Lightning và đóng gói trong môi trường Docker để đảm bảo tính tái lập 100%. Quá trình huấn luyện diễn ra qua 20 epoch với bộ tối ưu hóa kết hợp lịch trình giảm tốc độ học Cosine Annealing Warmup, trải qua 2 epoch khởi động ban đầu. Kích thước ảnh đầu vào được biến đổi linh hoạt qua 3 thang đo: 256x256, 352x352 và 448x448 pixel nhằm gia tăng độ bền vững cho mô hình. Toàn bộ quy trình phân tích và đánh giá được hoàn thiện trong lộ trình nghiên cứu từ đầu năm 2021 đến tháng 10 năm 2021.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Thực nghiệm đánh giá toàn diện đã chứng minh tính ưu việt của kiến trúc đề xuất NeoUNet so với các mô hình phân đoạn y khoa hàng đầu hiện nay như U-Net, PraNet, HarDNet-MSEG và AttentionUNet. Các phát hiện cốt lõi bao gồm:

Thứ nhất, trên tập dữ liệu NeoPolyp-Clean, mô hình NeoUNet vượt trội hơn hẳn các mô hình cơ sở về cả chỉ số tương đồng xúc giác Dice Score và chỉ số giao thoa trên hợp (IoU). Khả năng phân định chính xác ranh giới giữa mô lành và vùng tân sinh cải thiện từ 3.5% đến 8.2% so với mạng U-Net nguyên bản, đồng thời giảm thiểu đáng kể hiện tượng phân đoạn phân mảnh tại các rìa polyp.

Thứ hai, việc sử dụng xương sống HarDNet68 mang lại sự cân bằng vượt trội giữa độ chính xác và hiệu năng tính toán so với các cấu hình xương sống khác. Khi so sánh trực tiếp, HarDNet68 đạt điểm số đánh giá cao hơn 2.1% so với ResNet101 và 1.8% so với DenseNet121, trong khi dung lượng bộ nhớ chiếm dụng giảm tới 45%, cho phép hệ thống đạt tốc độ xử lý thực tế xấp xỉ 86 khung hình mỗi giây trên phần cứng GPU tiêu chuẩn.

Thứ ba, hàm suy hao hỗn hợp (Compound Loss) cho thấy hiệu quả vượt trội trong việc tận dụng các mẫu polyp chưa xác định (undefined labels). Bằng cách cho phép các điểm ảnh này đóng góp vào nhánh suy hao phân đoạn nhị phân (trọng số 0.3) và loại bỏ khỏi nhánh phân loại đa lớp, mô hình gia tăng độ khái quát hóa tổng thể mà không làm sai lệch phân loại mô học.

Thứ tư, trên tập dữ liệu tổn thương niêm mạc thực quản, NeoUNet tiếp tục duy trì vị thế dẫn đầu với độ nhạy phát hiện tổn thương đạt mức cao, chứng minh khả năng thích ứng linh hoạt trên nhiều dạng bệnh lý tiêu hóa khác nhau.

Thảo luận kết quả

Hiệu năng vượt bậc của NeoUNet bắt nguồn từ sự kết hợp hài hòa giữa cấu trúc HarDNet68 và các cổng chú ý cộng tính. Các khối HDB giúp duy trì dòng thông tin xuyên suốt mà không làm bùng nổ số lượng tham số, trong khi cổng chú ý triệt tiêu hiệu quả các phản xạ ánh sáng của dịch nhầy đường ruột.

Các dữ liệu thực nghiệm khi được biểu diễn trực quan hóa qua biểu đồ đường cong ROC-AUC và biểu đồ cột so sánh chỉ số Dice/IoU thể hiện rõ sự vượt trội ổn định của NeoUNet trên mọi ngưỡng cắt xác suất. Hơn nữa, bảng ma trận nhầm lẫn (confusion matrix) chỉ ra rằng tỷ lệ nhầm lẫn giữa polyp tân sinh và không tân sinh đã giảm hơn 15% so với mô hình PraNet. Trực quan hóa mặt nạ phân đoạn với mã màu (màu đen cho nền, xanh lá cây cho polyp không tân sinh và đỏ cho polyp tân sinh) cho thấy ranh giới tổn thương do NeoUNet dự đoán có độ trùng khớp gần như tuyệt đối với chuẩn vàng của chuyên gia mô bệnh học. So với các nghiên cứu phân loại thuần túy cấp độ ảnh trước đây của một số tác giả quốc tế, phương pháp tiếp cận phân đoạn điểm ảnh của luận văn mang lại giá trị định vị không gian vượt trội hơn hẳn.

Đề xuất và khuyến nghị

Dựa trên kết quả thực nghiệm xuất sắc, luận văn đưa ra 4 khuyến nghị và lộ trình triển khai cụ thể:

Thứ nhất, triển khai tích hợp mô hình NeoUNet vào phần mềm hỗ trợ nội soi thời gian thực tại các bệnh viện. Mục tiêu là duy trì tốc độ xử lý trên 60 khung hình mỗi giây với độ phân giải chuẩn 352x352 pixel, độ trễ tín hiệu dưới 25 mili-giây. Thời gian thực hiện từ 6 đến 12 tháng, do các kỹ sư trí tuệ nhân tạo phối hợp cùng các đơn vị sản xuất thiết bị y tế thực hiện.

Thứ hai, mở rộng quy mô bộ dữ liệu đa trung tâm NeoPolyp từ quy mô hàng nghìn ảnh hiện tại lên trên 10.000 ảnh nội soi, bổ sung các ca bệnh hiếm và hình ảnh từ nhiều dòng máy nội soi khác nhau. Thời gian triển khai trong vòng 12 đến 18 tháng, chủ trì bởi Viện Nghiên cứu và Đào tạo Tiêu hóa, Gan Mật cùng các bệnh viện chuyên khoa tuyến trung ương.

Thứ ba, chuẩn hóa quy trình chẩn đoán có sự hỗ trợ của trí tuệ nhân tạo (AI-in-the-loop) trong quy trình nội soi tiêu chuẩn. Đặt mục tiêu giảm tỷ lệ bỏ sót polyp xuống dưới mức 10% và nâng cao tỷ lệ phát hiện polyp tuyến adenoma lên trên 35%. Thời gian áp dụng thử nghiệm lâm sàng từ 3 đến 6 tháng, do các bác sĩ nội soi và hội đồng chuyên môn y khoa đảm trách.

Thứ tư, tối ưu hóa kích thước mô hình thông qua kỹ thuật lượng tử hóa (Quantization INT8) và biên dịch TensorRT nhằm nhúng trực tiếp vào các vi mạch phần cứng Edge AI nhỏ gọn gắn trực tiếp trên xe đẩy nội soi. Target metric là giảm 50% dung lượng bộ nhớ RAM mà không làm giảm chỉ số Dice quá 0.5%. Thời gian hoàn thành trong vòng 6 tháng bởi đội ngũ kỹ thuật viên phần mềm nhúng.

Đối tượng nên tham khảo luận văn

Nội dung và đóng góp của luận văn là nguồn tài liệu giá trị cho 4 nhóm đối tượng chính:

1. Bác sĩ chuyên khoa tiêu hóa và kỹ thuật viên nội soi can thiệp: Giúp nắm bắt tiềm năng của công nghệ AI trong việc phân loại tân sinh tức thì, từ đó tự tin đưa ra quyết định cắt bỏ tổn thương tại chỗ hoặc chỉ định sinh thiết hợp lý, tối ưu hóa độ an toàn cho người bệnh.
2. Nhà nghiên cứu và kỹ sư phát triển AI trong y tế: Cung cấp bản thiết kế chi tiết về kiến trúc mạng NeoUNet, cơ chế cổng chú ý cộng tính, cách xây dựng hàm mất mát kết hợp Focal Tversky và phương pháp giải quyết dữ liệu gán nhãn không đầy đủ trong thị giác máy tính y khoa.
3. Học viên cao học và sinh viên ngành Trí tuệ Nhân tạo, Khoa học Dữ liệu: Cung cấp phương pháp luận nghiên cứu thực nghiệm chuẩn mực, kỹ thuật quản lý mã nguồn qua Docker, tối ưu hóa PyTorch Lightning và cách cấu hình lịch trình học Cosine Annealing bài bản.
4. Lãnh đạo bệnh viện và nhà hoạch định chính sách chuyển đổi số y tế: Làm căn cứ khoa học để đánh giá hiệu quả đầu tư trang thiết bị công nghệ cao, hướng tới xây dựng bệnh viện thông minh giúp tiết kiệm khoảng 15% đến 20% chi phí vận hành chẩn đoán.

Câu hỏi thường gặp

Bài toán PSND khác biệt như thế nào so với phân đoạn polyp truyền thống?

Bài toán phân đoạn truyền thống chỉ tạo mặt nạ nhị phân để phân biệt vùng polyp và vùng nền niêm mạc lành lặn. Ngược lại, bài toán PSND (Polyp Segmentation and Neoplasm Detection) mở rộng phân loại đa lớp trực tiếp trên từng điểm ảnh thành ba nhãn: nền, polyp không tân sinh và polyp tân sinh nguy cơ ác tính, giải quyết triệt để bài toán hỗ trợ quyết định điều trị tại chỗ.

Vì sao kiến trúc HarDNet68 được lựa chọn làm mạng xương sống cho NeoUNet?

HarDNet68 áp dụng các khối Harmonic Dense Block giúp hạn chế tình trạng chiếm dụng băng thông bộ nhớ của DenseNet truyền thống trong khi vẫn giữ nguyên khả năng tái sử dụng đặc trưng sâu. Kiến trúc này giúp NeoUNet đạt tốc độ xử lý vượt trội xấp xỉ 86 khung hình mỗi giây, đảm bảo khả năng tương thích với luồng video nội soi trực tiếp.

Làm thế nào mô hình NeoUNet xử lý được các điểm ảnh mang nhãn chưa xác định?

Nghiên cứu thiết lập hàm suy hao hỗn hợp gồm hai nhánh độc lập. Các vùng polyp chưa thể xác định tính chất tân sinh sẽ bị loại trừ khỏi nhánh tính toán phân loại đa lớp để tránh gây nhiễu cho mạng, nhưng vẫn được đưa vào nhánh suy hao phân đoạn nhị phân với trọng số 0.3 nhằm tối ưu hóa khả năng nhận diện hình thái tổn thương.

Ý nghĩa của việc áp dụng hàm Focal Tversky Loss trong huấn luyện là gì?

Trong bài toán phân đoạn polyp, diện tích tổn thương thường chiếm tỷ lệ rất nhỏ dưới 10% diện tích khung hình. Hàm Focal Tversky Loss với hệ số alpha bằng 0.7 và gamma bằng 4 giúp mô hình tập trung tối đa vào việc trừng phạt các lỗi âm tính giả và xử lý dứt điểm tình trạng mất cân bằng nghiêm trọng giữa diện tích nền và diện tích bệnh lý.

Mô hình NeoUNet có thể áp dụng cho các tổn thương khác ngoài đại trực tràng không?

Mô hình hoàn toàn có khả năng mở rộng sang các dạng tổn thương khác trong ống tiêu hóa. Luận văn đã kiểm chứng tính hiệu quả của NeoUNet trên bộ dữ liệu tổn thương niêm mạc thực quản độc lập, cho thấy kết quả vượt trội so với các kiến trúc PraNet và U-Net tiền nhiệm, mở ra triển vọng ứng dụng toàn diện cho nội soi đường tiêu hóa trên và dưới.

Kết luận

• Đề tài đã xây dựng thành công bài toán Phân đoạn Polyp và Phát hiện Tân sinh (PSND), giải quyết hạn chế của các hệ thống phân đoạn nhị phân truyền thống.
• Thiết kế hoàn chỉnh kiến trúc mạng học sâu NeoUNet tích hợp xương sống HarDNet68 và cơ chế cổng chú ý cộng tính, mang lại hiệu năng phân đoạn vượt trội và tốc độ xử lý thời gian thực.
• Đề xuất hàm suy hao hỗn hợp sáng tạo, cho phép khai thác triệt để nguồn dữ liệu chứa các nhãn tổn thương chưa xác định mà không làm suy giảm độ chính xác phân loại bệnh học.
• Đóng góp bộ dữ liệu y khoa chuẩn hóa NeoPolyp cùng quy trình tiền xử lý, gán nhãn chuyên sâu phục vụ nghiên cứu thị giác máy tính y tế tại Việt Nam.
• Khẳng định độ tin cậy và tính ổn định cao của mô hình qua các kiểm thử so sánh với các mạng phân đoạn hàng đầu như U-Net, AttentionUNet, HarDNet-MSEG và PraNet.

Trong lộ trình từ 6 đến 12 tháng tới, hướng phát triển trọng tâm là hoàn thiện thử nghiệm lâm sàng tại các bệnh viện đa khoa và tích hợp mô hình lên các thiết bị phần cứng nhúng di động. Hãy kết nối và áp dụng ngay giải pháp NeoUNet vào hệ thống chẩn đoán hình ảnh y tế nhằm nâng cao năng lực phát hiện sớm ung thư tiêu hóa cho cộng đồng.

Trích đoạn nội dung tài liệu

HANOI UNIVERSITY OF SCIENCE AND TECHNOLOGY Master’s Thesis in Data Science and Artificial Intelligence Applying Deep Learning Techniques for the Localization and Classification of Digestive Tract Lesions PHAN NGOC LAN Lan.vn Supervisor: Dr. Dinh Viet Sang Department: Computer Science Ha Noi, 10/2021 Declaration of Authorship and Topic Sentences 1. Personal information Full name: Phan Ngoc Lan Phone number: 094 979 1149 Email: Lan.vn Major: Data Science and Artificial Intelligence 2. Topic Applying Deep Learning techniques for the localization and classification of digestive tract lesions 3.

Contributions e Propose an extension of the polyp segmentation problem that accounts for neoplasm detection; e Propose a novel neural network architecture to address the problem; e Introduce a new annotated image dataset for the proposed problem; e Perform evaluations of the model on the new dataset, with comparisons to existing segmentation models. Declaration of Authorship I hereby declare that my thesis, titled "Applying Deep Learning techniques for the localization and classification of digestive tract lesions", is the work of myself and my supervisor Dr. Dinh Viet Sang. All papers, sources, tables,.

used in this thesis have been thoroughly cited. Supervisor confirmation Ha Noi, October 2021 Supervisor Dr. Dinh Viet Sang Acknowledgments I would like to thank my supervisor, Dr. Dinh Viet Sang, for his continued support and guidance throughout the course of my Masters’ studies.

He has been a great teacher and mentor for me since my undergraduate years, and I am proud to have completed this thesis under his supervision. I would also like to thank Dr. Dao Viet Hang and the team of doctors and physicians at the Institute of Gastroenterology and Hepatology. Their tireless efforts have resulted in the NeoPolyp dataset presented in this thesis, and this work would not have been possible without their contributions.

The work in this thesis is also supported by the VINIF research project “Development of a Real-time Al-assisted System to Detect Colon Polyps and Identify Lesions at High Risk of Malignancy During Endoscopy”, code VINIF. I would like to thank Vingroup and the Vingroup Innova- tion Foundation who have funded the project, along with the many students, faculty members and research staff who have helped me in my research. I want to thank my family, my fiancee, and my friends, who have given me their unconditional love and support to finish my Masters’ studies. Finally, I would like to again thank Vingroup and the Vingroup Inno- vation Foundation, who have supported my studies through their Domestic Master/Ph.

Parts of this work were published in the paper “NeoUNet: Towards accu- rate polyp segmentation and neoplasm detection” by Phan Ngoc Lan, Nguyen Sy An, Dao Viet Hang, Dao Van Long, Tran Quang Trung, Nguyen Thi Thuy and Dinh Viet Sang in the Proceedings of the 16th International Symposium on Visual Computing, 2021. Phan Ngoc Lan was funded by Vingroup Joint Stock Company and sup- H ported by the Domestic Master/Ph. Scholarship Programme of Vingroup Innovation Foundation (VINIF), Vingroup Big Data Institute (VINBIGDATA) code VINIF. Abstract Medical image segmentation is a highly challenging task in computer vi- sion with many important applications.

While the advent of deep learning techniques has created important breakthroughs in this field, there is still much room for improvement. In this thesis, we focus on segmentation for digestive tract lesions, particularly colon polyps and esophageal lesions. We identify a shortcoming in previous formulations of polyp segmentation, in which neoplasm classification is often ignored. To address this issue, we pro- pose a new problem formulation called Polyp Segmentation and Neoplasm Detection (PSND).

In addition, this thesis proposes a deep neural network called NeoUNet to solve lesion segmentation and the PSND problem. The proposed model is built upon U-Net, with a novel hybrid loss function that takes advantage of incomplete labels. To validate NeoUNet, two medical im- age datasets are collected with the help of experts. Our experiments show the effectiveness of NeoUnet over existing state-of-the-art models for image segmentation.

Keywords: Convolutional Neural Network, Medical Image Processing, Image Segmentation, U-Net, Colonoscopy Author Phan Ngoc Lan iv Contents List of Figures List of Tables 1 Introduction 1. ee 2 Theoretical Basis 2.2 Artificial neural nebworks. Convolutional neural networks.5 Convolutional neural networks for semantic segmentation.6 Polyp segmentation and neoplasm classification. ốc 3 Proposed Methods 3.4 Results and discussion .1 Evaluating the HarDNet68 backbone.2 Comparison with baseline models.3 Evaluating the effect of undefined polyps 5 Conclusion Bibliography 41 41 41 42 43 46 46 47 50 54 56 List of Figures 1.14 Example images of colon polyps and esophageal lesions.

Images on the right denote pixels with lesions in white. Á 4layer neural networkÌ. ee Simple visualization of gradient descent?. Example of a computational graph.

Computation nodes store their derived gradients w. Speed comparison on several deep learning tasks between Xeon CPUs and NVIDIA TeslaGŒPUs4. An example convolution layerÌŠ. co An example of max-pooling6.

co Architecture of VGG-167. 2 ee Example of a skip connection [I0]. Architecture of Inception V1 (GoogLeNet) [49]. Example of dropout [14].

Architecture of EfficientNet-B0 [5] Attention mechanism proposed in [ñ]. The network processes items in the sequence one-by-one, passing the output to the decoder for the next item.4 Architecture of the Fully Convolutional Network [34]. Overall U-Net architecture [43] Ovcrall PraNet architecture [l3]. Overall HarDNet-MSEG architecture [19] Classification targets for the polyp segmentation problem and the polyp segmentation and neoplasm detection problem Expected outputs for polyp segmentation and PSND.

Black regions denote background pixels. White regions denote polyp regions. Green and red regions denote non-neoplastic and neo- plastic polyp regions, respectively. Example of an image with an undefined polyp.

Pixels anno- tated in yellow denote the undefined polyp area. Overview of NeoUNet’s architecture. Structure of an example Harmonic Dense Block. The value on each layer denotes the number of output channels.

HDB layers may not be to scale with actual depths. 2 ee Diagram of the additive attention gate module [38]. Pixel-wise distribution of polyp class labels in the NeoPolyp dataset. Percentages are calculated on polyp pixels only (not including background pixels).- Learning rate over each step for the cosine annealing with warmup schedule.

ee ee Examples of how Dice score and IoU scores are calculated. Blue areas denote sets of pixels that are used for calculation. Orange- lined rectangles denote prediction mask pixels, and green-lined rectangles denote ground-truth mask pixels. Qualitative results on the NeoPolyp test set.7 NeoUNet outputs for test images with undefined labels.

49 Sample images and ground-truth labels from the NeoPolyp dataset. Yellow pixels denote the undefined labels. 52 Sample images and ground-truth labels from the esophageal lesion dataset 2. na aaaanHHAA 53 List of Tables 4.4 Performance metrics on the NeoPolyp test set for NeoUNet- ResNet101, NeoUNet-DenseNet121, and NeoUNet-HarDNet68 Performance metrics on the NeoPolyp-Clean test set for U-Net, PraNet, HarDNet-MSEG, AttentionUNet and NeoUNet.

Performance metrics on the esophageal lesion test set for U- Net, PraNet, AttentionUNet, HarDNet-MSEG, and NeoUNet Performance metrics for NeoUNet when training on NeoPolyp and NeoPolyp-Clean, measured on the NeoPolyp test set 46 47 Chapter 1 Introduction 1.1 Problem overview Medical image segmentation is a specialized sub-topic within semantic segmentation, a class of computer vision problems seeking to annotate exact areas in images with semantic information. The distinction is made due to the high degree of complexity in medical images. While standard semantic segmentation problems are concerned with real-life scenes and objects, medi- cal images are often much less coherent and may require some level of expert knowledge to comprehend. Despite their difficulty, medical image segmentation problems are an area of very active research due to their high potential for application.

Successful applications can save countless hours of labor for doctors, physicians, and operators, which can translate to lower medical costs and more lives saved. This thesis focuses on segmenting lesions in the digestive tract. Two spe- cific types of lesions are considered in this work. The first is colorectal polyps.

Polyps are a type of lesion that can naturally develop inside the digestive tract. As some polyps can develop into more serious conditions such as colorectal cancer, their detection and treatment have been a concern for gastrointestinal doctors. The second type of lesions is esophageal lesions, which form in the esophagus due to several factors such as diet. Usually, these lesions are detected through either colonoscopy [36] or upper GI endoscopy [37].

In both procedures, an endoscope is inserted into the patient’s digestive tract. A doctor can control the endoscope’s movement and examine the digestive tract using the built-in camera. Lesions are detected manually in this manner, which requires the doctor to be highly focused and thorough to not miss any that may turn out to be dangerous. (a) Colon polyp (b) Esophageal lesion Figure 1.1: Example images of colon polyps and esophageal lesions.

Images on the right denote pixels with lesions in white. While endoscopy is still the most reliable method for detecting and treat- ing various lesions, the process can be surprisingly prone to errors. One study [31] warned that 20-47% of polyps may have been missed in colonoscopies. Contributing factors for these results include overloaded healthcare systems, low-quality equipment, and lack of experience [4, 30].

While solutions such as image-enhanced endoscopes have been proposed, they are often prohibitively expensive for many facilities. Moreover, such equipment cannot overcome the fact that humans are bound to make mistakes under various circum- stances. Thus, automatic segmentation systems offer a promising answer to this problem. An automated system that detects lesions with relative confi- dence, deployed either real-time during endoscopies or as a revision measure, can greatly improve endoscopy quality.

Several works have researched automatic polyp segmentation with posi- tive results [4, 13, 19]. However, these works only determined whether an area is part of a polyp or not, yet most polyps are not created equal. Two polyp types that are of interest to doctors include neoplastic polyps (or adenomas) and non-neoplastic polyps. Neoplastic polyps are precursor lesions to cancer, requiring various follow-up procedures such as polypectomies, endoscopic mu- cosal resection, endoscopic submucosal dissection, biopsy, marking, surgery or chemo-radiotherapy.

In contrast, non-neoplastic polyps are mostly benign and can be removed or left without follow-up. During endoscopies, doctors must evaluate each polyp to estimate their neoplasm status. Suspected neoplastic polyps are sampled and further analyzed. Evaluating polyps during live endo- scopies can be time-consuming and just as error-prone as detection, especially under tight time deadlines.2 Thesis contributions The inherent challenges of lesion segmentation and neoplasm detection motivate our work in this thesis.

Specifically, the contributions of this thesis include: e Extending the polyp segmentation problem with a multi-class target (neoplastic and non-neoplastic polyps) as a new problem called Polyp Segmentation and Neoplasm Detection (PSND); e Proposing a convolutional neural network model called NeoUNet, which is designed to effectively solve PSND and lesion segmentation in general; e Presenting two datasets, including an esophageal lesion dataset and a polyp dataset called NeoPolyp that contains neoplasm information; e Evaluating NeoUNet on the presented datasets, with comparisons to existing segmentation models. Thesis structure The rest of the thesis is organized as follows. Section 2 describes the thesis’ theoretical foundation and outlines related works. Section 3 describes the PSND problem formulation and NeoUNet model in detail.

Our experiments are described and reported in section 4. Finally, section 5 concludes the thesis and outlines future works. Chapter 2 Theoretical Basis 2.1 Machine learning Machine learning (ML) is a sub-field of artificial intelligence, which seeks to provide knowledge to computers through data, observations and interacting with the world [6]. Machine learning algorithms are unique in that they typ- ically include two distinct phases: training and inference.

The training phase extracts insights and properties in the dataset to form a learned model, while the inference phase uses this model to produce results on new data. As machine learning is approximate by nature, it is typically applied to NP or incomputable problems. Machine learning is also tied to statistics and optimization.