Luận văn: Phát hiện polyp end-to-end bằng học bán giám sát - Nguyễn Hồng Sơn

Luận văn thạc sĩ trình bày mô hình phát hiện polyp bằng học bán giám sát. Giải pháp end-to-end hỗ trợ chẩn đoán sớm ung thư đại trực tràng hiệu quả.

• Tác giả: Nguyen Hong Son
• Người hướng dẫn: Dr. Dinh Viet Sang
• Trường học: Hanoi University of Science and Technology
• Chuyên ngành: Data Science
• Đề tài: Mô hình phát hiện polyp bằng học bán giám sát
• Loại tài liệu: Master Thesis
• Năm xuất bản: 2023
• Địa điểm: Hanoi

Mục lục chi tiết

• Lời cam đoan
• Danh mục hình vẽ
• Danh mục bảng biểu
• Danh mục từ viết tắt
• 1. CHƯƠNG 1: GIỚI THIỆU
• 1.1. Tổng quan
• 1.2. Mục tiêu
• 1.3. Đóng góp chính
• 1.4. Bố cục luận văn
• 2. CHƯƠNG 2: CƠ SỞ LÝ THUYẾT
• 2.1. Phân loại học máy
• 2.1.1. Học có giám sát
• 2.1.2. Học không giám sát
• 2.1.3. Học bán giám sát
• 2.2. Bài toán phát hiện đối tượng
• 2.3. Phát hiện đối tượng bán giám sát (SSOD)
• 3. CHƯƠNG 3: PHƯƠNG PHÁP ĐỀ XUẤT
• 3.1. Cải tiến mô hình cơ sở
• 3.1.1. Mạng xương sống trong mô hình cơ sở CenterNet
• 3.1.2. Mạng kim tự tháp đặc trưng (FPN)
• 3.2. Bộ tạo mục tiêu dày đặc (DTP)
• 3.2.1. Khung gán nhãn giả
• 3.2.2. Nhược điểm của nhãn khung giả
• 4. CHƯƠNG 4: THỰC NGHIỆM VÀ KẾT QUẢ
• 4.1. Kết quả cải tiến CenterNet++
• 5. CHƯƠNG 5: KẾT LUẬN
• Tài liệu tham khảo

Tóm tắt

I. Hướng dẫn chi tiết mô hình phát hiện polyp bằng học bán giám sát hiệu quả

Trong lĩnh vực y học chính xác, việc phát hiện polyp sớm có vai trò then chốt trong việc phòng ngừa ung thư đại tràng. Mô hình phát hiện polyp bằng học bán giám sát (Semi-supervised Learning) đã mở ra bước tiến lớn, giúp tận dụng dữ liệu chưa được gán nhãn để nâng cao độ chính xác và tốc độ phát hiện. Đặc biệt, các giải pháp end-to-end dựa trên heatmap như CenterNet++ đã giảm đáng kể các bước tiền xử lý và xử lý hậu kỳ, phù hợp với ứng dụng thực tiễn trong các bệnh viện. Phương pháp này không chỉ hạn chế việc phụ thuộc hoàn toàn vào dữ liệu đã gán nhãn mà còn khai thác tối đa nguồn dữ liệu chưa đầy đủ, giúp giảm chi phí và thời gian chuẩn bị dữ liệu.

1.1. Tổng quan về mô hình học bán giám sát trong chẩn đoán y học

Học bán giám sát kết hợp giữa các dữ liệu đã gán nhãn và dữ liệu chưa được gán nhãn để tối ưu hoá quá trình huấn luyện. Trong phát hiện polyp, phương pháp này giúp khai thác nguồn dữ liệu video nội soi dồi dào, giảm đáng kể yêu cầu về nhãn của chuyên gia y tế. Các mô hình như Dense Target Producer (DTP) đã thể hiện khả năng ứng dụng tuyệt vời, khi không cần hậu xử lý phức tạp như NMS, phù hợp với các mô hình dựa trên heatmap như CenterNet++.

1.2. Các thành phần chính của mô hình CenterNet

CenterNet++ sử dụng backbone mới như YOLOv8 để tối ưu khả năng trích xuất đặc trưng, kết hợp với mô-đun Attention (ASF) và các phương pháp fusion linh hoạt. Nhờ đó, mô hình đạt tốc độ inference cao, hơn 200 FPS, đồng thời nâng cao độ chính xác AP50. Phương pháp này còn áp dụng kỹ thuật Threshold Epoch Adaptor (TEA) để điều chỉnh ngưỡng nhãn giả dựa trên tiến trình huấn luyện, giúp giảm nhiễu loạn và cải thiện hiệu năng tổng thể.

II. Bí quyết tận dụng học bán giám sát trong phát hiện polyp chính xác cao

Việc vận dụng học bán giám sát đòi hỏi phương pháp tối ưu để xử lý dữ liệu không đầy đủ về mặt nhãn. Các giải pháp như pseudo-labeling bằng pseudo-boxes đã gặp nhiều hạn chế với các mô hình dựa trên heatmap, do hệ quả về độ chính xác của trung tâm object và khả năng nhãn sai lệch. Thay vào đó, DTP sử dụng giả lập nhãn dựa trên heatmap chính xác hơn, giúp giảm thiểu sai sót do nhãn giả không phù hợp. Ngoài ra, kỹ thuật dynamic thresholding (TEA) giúp tự điều chỉnh ngưỡng dựa trên tiến trình huấn luyện, tối đa hoá số điểm trung tâm đúng规律, giảm thiểu nhiễu, tối ưu hiệu quả đào tạo.

2.1. Các thách thức trong ứng dụng pseudo boxes và cách khắc phục

Các phương pháp pseudo-boxes thường gặp phải vấn đề như lựa chọn ngưỡng phù hợp, nhãn không chính xác, và quá trình hậu xử lý phức tạp. Đặc biệt, với mô hình dựa trên heatmap, nhãn giả có thể bị dịch chuyển, ảnh hưởng tiêu cực đến khả năng học trung tâm chính xác của đối tượng. DTP khắc phục bằng cách tập trung vào ghi nhãn điểm trung tâm dựa trên heatmap và sử dụng kỹ thuật tự điều chỉnh ngưỡng thông minh TEA, giúp loại bỏ phần lớn những sai sót.

2.2. Kỹ thuật Dynamic Thresholding TEA trong mô hình phát hiện polyp

TEA hoạt động dựa trên tiến trình huấn luyện, sẽ điều chỉnh ngưỡng nhãn giả từng epoch, giúp hợp lý hoá số điểm trung tâm trong heatmap dựa trên dữ liệu thực tế. Công thức xác định ngưỡng tối ưu theo epoch giúp loại bỏ điểm giả không chính xác, đồng thời giữ lại điểm trung tâm đáng tin cậy nhất. Phương pháp này góp phần nâng cao độ chính xác trung tâm đối tượng, cải thiện hiệu quả đào tạo mô hình bán giám sát.

III. Những ứng dụng thực tiễn của mô hình phát hiện polyp trong y học chính xác

Mô hình phát hiện polyp dựa trên học bán giám sát đã chứng minh khả năng ứng dụng thực tế, giúp giảm đáng kể tỷ lệ bỏ sót khối polyp trong nội soi. Trong các nghiên cứu thử nghiệm trên bộ dữ liệu PolypsSet, mô hình CenterNet++ sử dụng phương pháp DTP đạt cầu hình AP50 cao hơn hẳn các mô hình truyền thống như RetinaNet, SSD hay các phiên bản cũ của CenterNet. Tốc độ inference vượt trội, hơn 200 FPS, phù hợp với các hệ thống y tế cần xử lý thời gian thực. Các mô hình này còn giúp các bác sĩ nâng cao độ chính xác, giảm chi phí đào tạo và tối ưu hoá quy trình chẩn đoán, từ đó nâng cao hiệu quả phòng chống ung thư đại tràng.

3.1. Áp dụng mô hình trong các hệ thống nội soi y học hiện đại

Các mô hình dựa trên heatmap như CenterNet++ dễ dàng tích hợp vào các thiết bị nội soi tự động, giúp phát hiện nhanh và chính xác hơn các polyp nhỏ, đa dạng hình thái. Đặc biệt, tốc độ dự đoán cao vượt trội giúp giảm thời gian chẩn đoán, hạn chế sự phụ thuộc vào kinh nghiệm của bác sĩ. Các phương pháp này còn có khả năng hoạt động hiệu quả trên nhiều nền tảng phần cứng khác nhau, kể cả các thiết bị y tế cũ, phù hợp cho các bệnh viện trong khu vực hạn chế về ngân sách.

3.2. Tương lai nghiên cứu và phát triển mô hình dựa trên học bán giám sát

Trong tương lai, xu hướng sẽ tập trung vào tối ưu hoá mô hình, nâng cao độ chính xác và giảm thiểu nhiễu loạn giả. Ngoài ra, các cải tiến về thuật toán dynamic thresholding, tích hợp AI vào giai đoạn phân tích hình ảnh nội soi, sẽ giúp mở rộng khả năng chẩn đoán sớm, chính xác hơn. Các nghiên cứu còn hướng tới mở rộng ứng dụng hướng tới các bệnh lý khác trong hệ tiêu hoá, thúc đẩy y học chính xác và cá thể hoá điều trị.

IV. Kết luận và tầm nhìn dài hạn của mô hình phát hiện polyp bằng học bán giám sát

Nhìn chung, mô hình phát hiện polyp dựa trên kỹ thuật học bán giám sát, đặc biệt là phiên bản như CenterNet++, đã mở ra hướng đi mới trong lĩnh vực y học chẩn đoán sớm. Khả năng khai thác dữ liệu chưa được gán nhãn giúp giảm chi phí, nâng cao hiệu quả và độ chính xác. Với việc ứng dụng thành công kết hợp các kỹ thuật tối ưu như DTP và TEA, mô hình này không chỉ phù hợp cho các hệ thống nội soi hiện đại mà còn mở rộng ra nhiều lĩnh vực khác như chẩn đoán hình ảnh y tế, phát hiện sớm bệnh lý. Trong tương lai, phát triển thêm các thuật toán hiệu quả hơn, tích hợp AI tự động toàn phần và mở rộng ứng dụng trong y tế sẽ góp phần nâng cao tiêu chuẩn chăm sóc sức khỏe toàn cầu.

4.1. Những tiềm năng phát triển của mô hình trong y học chính xác

Tiếp tục nâng cao độ chính xác, tích hợp phân tích đa chiều và xử lý dữ liệu đa dạng, mô hình này sẽ trở thành công cụ thiết yếu trong hệ thống chẩn đoán sớm, giúp giảm tỷ lệ tử vong và nâng cao chất lượng chăm sóc bệnh nhân.

4.2. Các thách thức và hướng phát triển trong nghiên cứu tương lai

Làm thế nào để tối ưu hoá thuật toán, giảm thiểu nhiễu giả, mở rộng khả năng ứng dụng, cũng như tích hợp các hệ thống AI có khả năng tự học và tự điều chỉnh sẽ là các hướng đi trọng tâm khi tiến xa hơn trong lĩnh vực này.

Nội dung chính

Tổng quan nghiên cứu

Ung thư đại trực tràng (Colorectal Cancer - CRC) hiện là một trong những nguyên nhân gây tử vong hàng đầu trên thế giới, xếp thứ 3 về tỷ lệ mắc mới và thứ 2 về tỷ lệ tử vong trong số các bệnh ung thư. Theo thống kê y tế quốc tế vào năm 2023, ước tính có khoảng 150.000 ca mắc mới và hơn 52.000 ca tử vong tại Hoa Kỳ. Tại Việt Nam, ung thư đại trực tràng liên tục nằm trong nhóm 10 bệnh ung thư phổ biến nhất, xếp thứ 4 ở nam giới và thứ 3 ở nữ giới, với tỷ lệ mắc chuẩn theo tuổi đạt khoảng 10,1 ca trên 100.000 dân. Việc phát hiện sớm các tổn thương tiền ung thư như polyp đại tràng đóng vai trò sống còn, nâng tỷ lệ sống sót sau 5 năm của bệnh nhân lên tới 90%. Dù vậy, trong thực tế chỉ có khoảng 40% ca bệnh được chẩn đoán ở giai đoạn sớm, và các bác sĩ nội soi có thể bỏ sót khoảng 25% số lượng polyp trong các quy trình kiểm tra thông thường.

Nhằm giải quyết bài toán cấp thiết này, các hệ thống trí tuệ nhân tạo (AI) và học sâu (Deep Learning) hỗ trợ chẩn đoán nội soi đã được phát triển, giúp giảm tỷ lệ bỏ sót polyp lên tới 50%. Tuy nhiên, việc huấn luyện mô hình phát hiện polyp đòi hỏi khối lượng lớn dữ liệu gán nhãn chính xác từ các chuyên gia y tế – một quy trình vô cùng tốn kém và khó mở rộng. Trong khi đó, các nguồn video nội soi chưa gán nhãn lại vô cùng dồi dào. Luận văn Thạc sĩ Khoa học Dữ liệu thực hiện tại Trường Công nghệ Thông tin và Truyền thông – Đại học Bách khoa Hà Nội vào tháng 10 năm 2023 đã tập trung nghiên cứu giải pháp phát hiện polyp đại tràng bằng phương pháp học bán giám sát (Semi-Supervised Object Detection - SSOD). Nghiên cứu đề xuất mô hình CenterNet++ kết hợp kỹ thuật Dense Target Producer (DTP) và cơ chế thích ứng ngưỡng động Threshold Epoch Adaptor (TEA), mang lại bước đột phá với tốc độ xử lý vượt mốc 200 khung hình/giây (FPS) và cải thiện vượt bậc độ chính xác khi chỉ sử dụng một lượng nhỏ dữ liệu gán nhãn.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu xây dựng trên nền tảng của bài toán thị giác máy tính và học bán giám sát hiện đại, tích hợp các lý thuyết cốt lõi sau:

• Lý thuyết phát hiện vật thể dựa trên bản đồ nhiệt (Heatmap-based Object Detection): Khác với các phương pháp truyền thống dựa trên hộp neo (Anchor-based) hoặc thuật toán triệt tiêu phi cực đại (Non-Maximum Suppression - NMS) vốn làm giảm tốc độ suy luận, mô hình dạng heatmap như CenterNet xem mỗi polyp là một điểm trung tâm trên bản đồ đặc trưng. Điểm tâm này được tạo ra thông qua hàm nhân Gaussian với độ lệch chuẩn thích ứng theo kích thước vật thể, cho phép mô hình huấn luyện và suy luận trực tiếp từ đầu đến cuối (End-to-End).
• Lý thuyết học bán giám sát và chưng cất tri thức (Knowledge Distillation SSOD): Áp dụng kiến trúc mạng kép Giáo viên - Học sinh (Teacher - Student). Trọng số của mô hình giáo viên được cập nhật liên tục từ mô hình học sinh theo phương pháp trung bình động hàm mũ (Exponential Moving Average - EMA) với hệ số suy giảm xác định, tạo ra các nhãn giả nhất quán cho dữ liệu chưa gán nhãn.
• Cơ chế tập trung đa tỉ lệ (Adaptive Scale Fusion - ASF) và khối tích chập nâng cao: Kết hợp các khối C2f, SPPF và hàm kích hoạt SiLU từ kiến trúc YOLOv8 nhằm tối ưu hóa khả năng trích xuất đặc trưng đa quy mô, giúp mô hình nhận diện chính xác các polyp có kích thước siêu nhỏ hoặc hình dạng phức tạp.
• Hàm mất mát kết hợp: Sử dụng Focal Loss tùy biến cho nhánh heatmap cùng với hàm mất mát chuẩn L1 cho các nhánh dự đoán độ lệch tâm (offset) và kích thước polyp (size).

Phương pháp nghiên cứu

• Nguồn dữ liệu và Cỡ mẫu: Nghiên cứu sử dụng bộ dữ liệu chuẩn hóa PolypsSet được tổng hợp từ 4 nguồn nội soi quốc tế uy tín, bao gồm MICCAI 2017 (38 video), CVC colon DB (15 video với 300 khung hình), GLRC (76 chuỗi video) và tập dữ liệu lớn KUMC từ Trung tâm Y tế Đại học Kansas gồm 80 video nội soi. Tổng số khung hình của tập KUMC lên tới 37.899 ảnh, được chia thành 28.773 ảnh huấn luyện, 4.254 ảnh kiểm định và 4.872 ảnh thử nghiệm độc lập, phân loại thành 2 nhóm bệnh học: polyp tuyến (adenomatous) và polyp tăng sản (hyperplastic).
• Phương pháp chọn mẫu bán giám sát: Để đánh giá năng lực học bán giám sát, nghiên cứu thực hiện kỹ thuật lấy mẫu ngẫu nhiên có phân tầng với các tỷ lệ dữ liệu có nhãn lần lượt là 1%, 5% và 10% trên toàn bộ tập huấn luyện; phần còn lại từ 90% đến 99% dữ liệu được giữ nguyên dưới dạng không gán nhãn.
• Quy trình phân tích và Huấn luyện: Mô hình được thiết lập huấn luyện trên 01 GPU NVIDIA RTX 3090 (24GB VRAM) với thuật toán tối ưu hóa AdamW, tốc độ học khởi tạo ở mức $10^{-3}$ và giảm dần về $10^{-5}$ theo lịch trình Cosine Annealing. Quá trình huấn luyện kéo dài 100 epoch cho kịch bản toàn giám sát và 50 epoch cho kịch bản bán giám sát. Nghiên cứu áp dụng chiến lược tăng cường dữ liệu phân tầng: tăng cường yếu (Weak Augmentations gồm lật ảnh, xoay, biến đổi tỷ lệ) cho mô hình giáo viên; tăng cường mạnh (Strong Augmentations gồm ColorJitter, Gaussian Blur, Dropout) kết hợp kỹ thuật Mosaic ghép 4 ảnh cho mô hình học sinh.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm đối sánh trên tập kiểm thử độc lập đã chứng minh những ưu thế vượt trội của phương pháp đề xuất qua các phát hiện nổi bật:

• CenterNet++ tối ưu hóa toàn diện về độ chính xác và tốc độ: Trong bài toán phát hiện đơn lớp có giám sát toàn bộ, mô hình CenterNet++ đạt độ chính xác trung bình $AP_{50}$ lên tới 89,2%, vượt qua mô hình CenterNet gốc 4,9% (đạt 84,3%) và vượt qua YOLOv8n 4,0% (đạt 85,2%). Đáng chú ý, mô hình đạt tốc độ suy luận vượt mốc 200 FPS với kích thước tham số siêu nhẹ chỉ 3,2 triệu tham số, giảm tới 86,7% dung lượng so với mức 24 triệu tham số của kiến trúc nguyên bản.
• Đột phá vượt bậc trong điều kiện khan hiếm dữ liệu nhãn: Khi chỉ sử dụng 1% dữ liệu có nhãn trong bài toán đơn lớp, phương pháp Dense Target Producer (DTP) đạt $AP_{50}$ là 59,4%, tạo ra mức tăng trưởng vượt bậc +16,8% so với mô hình học có giám sát thông thường chỉ đạt 42,6%. Khi nâng tỷ lệ nhãn lên 5% và 10%, DTP tiếp tục ghi nhận độ chính xác lần lượt là 73,1% và 80,2%, cao hơn từ 12,8% đến 15,6% so với mô hình baseline.
• Nâng cao năng lực phân loại bệnh học đa lớp: Đối với kịch bản phân loại chi tiết 2 nhóm polyp tuyến và polyp tăng sản, phương pháp DTP giúp gia tăng độ chính xác trung bình thêm 18,2% ở mức 1% dữ liệu nhãn, 14,6% ở mức 5% nhãn và 11,8% ở mức 10% nhãn so với phương pháp huấn luyện giám sát truyền thống.
• Hiệu quả rõ rệt của cơ chế thích ứng ngưỡng động và ghép ảnh: Các phân tích triệt tiêu (Ablation Studies) khẳng định việc tích hợp mô-đun kết hợp đặc trưng ASF cùng kỹ thuật tăng cường Mosaic đã đóng góp mức tăng thêm 6,0% $AP_{50}$ (từ 83,2% lên 89,2%). Cấu trúc xương sống tối ưu hóa từ YOLOv8n cũng chứng minh hiệu năng dẫn đầu khi đạt 69,8% mean $AP_{50}$ cho 2 lớp, vượt xa mức 66,5% của xương sống ResNet50 vốn có kích thước tham số lớn hơn gấp 7 lần (23,5 triệu tham số).

Thảo luận kết quả

Kết quả nghiên cứu đã giải quyết triệt để rào cản lớn nhất của các kỹ thuật gán nhãn giả dạng hộp (Pseudo-boxes) truyền thống. Trong các mô hình heatmap end-to-end, việc gán nhãn giả dạng bounding box thường dẫn đến hiện tượng trôi lệch tâm nghiêm trọng. Khi tâm giả bị lệch dù chỉ vài pixel, hàm Focal Loss sẽ triệt tiêu xác suất của điểm tâm thực tế về mức 0, khiến mô hình học sinh bị tích lũy sai số. Kỹ thuật Dense Target Producer (DTP) đã khắc phục hoàn toàn điểm yếu này bằng cách sử dụng trực tiếp ma trận bản đồ nhiệt dày đặc từ mô hình giáo viên, biến bản đồ này thành ma trận trọng số hướng dẫn việc học kích thước và độ lệch tâm ở các vùng lân cận.

Thêm vào đó, cơ chế ngưỡng động Threshold Epoch Adaptor (TEA) với các tham số điều khiển $\lambda_1 = 0,2$, $\lambda_2 = 0,2$ và chọn lọc $k=5$ điểm cực đại đã tự động nâng ngưỡng lọc nhãn song hành cùng tiến trình huấn luyện của mô hình. Dữ liệu thực nghiệm được lượng hóa chi tiết qua các đường cong Precision-Recall và bảng so sánh đa chỉ số ($AP_{50}$, $AP_{50:95}$, FPS, dung lượng tham số). Trực quan hóa hình ảnh cho thấy phương pháp mới đã loại bỏ hầu hết các trường hợp bỏ sót polyp ẩn dưới nếp gấp niêm mạc và giảm thiểu tối đa tình trạng nhận diện nhầm giữa polyp tăng sản lành tính với polyp tuyến có nguy cơ ác tính cao.

Đề xuất và khuyến nghị

Dựa trên các kết quả thực nghiệm xuất sắc, luận văn đưa ra 4 khuyến nghị và lộ trình triển khai cụ thể:

• Tích hợp mô hình vào thiết bị nội soi lâm sàng: Khuyến nghị các kỹ sư y sinh và chuyên gia AI tiến hành đóng gói mô hình CenterNet++ lên các bộ xử lý biên gắn trực tiếp vào máy nội soi tiêu hóa tại các bệnh viện. Mục tiêu duy trì độ trễ suy luận dưới 5 mili-giây (tương đương trên 200 FPS) trong thời gian 6 đến 12 tháng tới nhằm cung cấp chỉ dẫn thị giác theo thời gian thực cho bác sĩ trong lúc thao tác.
• Khai thác toàn diện nguồn dữ liệu video y tế chưa gán nhãn: Các cơ sở y tế và nhóm nghiên cứu nên thiết lập quy trình tự động thu thập luồng video nội soi hàng ngày để mở rộng khung học bán giám sát DTP. Đích đến là tận dụng 100% dữ liệu không nhãn tích lũy trong giai đoạn 2024–2025, giúp nâng cao độ ổn định của hệ thống trước nhiều dòng thiết bị nội soi khác nhau.
• Mở rộng cơ chế thích ứng ngưỡng động TEA sang các lĩnh vực chẩn đoán hình ảnh khác: Đề xuất các nhà khoa học dữ liệu ứng dụng thuật toán ngưỡng động TEA cho các bài toán phát hiện khối u phổi trên ảnh CT-scan hoặc tổn thương võng mạc tiểu đường, hướng tới mục tiêu cắt giảm tỷ lệ cảnh báo dương tính giả xuống dưới mức 5% trong vòng 12 tháng.
• Xây dựng hệ thống gán nhãn bán tự động hỗ trợ chuyên gia: Các viện nghiên cứu y khoa cần phát triển nền tảng học chủ động (Active Learning) kết hợp với nhãn giả tạo bởi DTP. Giải pháp này giúp định hướng chuyên gia y tế chỉ cần tập trung thẩm định các mẫu tổn thương phức tạp, giảm thiểu khoảng 70% thời gian và chi phí gán nhãn thủ công trong vòng 2 năm.

Đối tượng nên tham khảo luận văn

Nội dung và đóng góp của luận văn mang lại giá trị học thuật và ứng dụng thực tiễn cao cho 4 nhóm đối tượng chính:

• Nhà nghiên cứu và Học viên chuyên ngành Trí tuệ nhân tạo, Khoa học dữ liệu: Tài liệu là nguồn tham khảo chuyên sâu về phương pháp học bán giám sát cho mạng phát hiện vật thể dạng bản đồ nhiệt không dùng hộp neo (Anchor-free) và không dùng NMS, cung cấp các công thức toán học và thiết kế hàm mất mát chi tiết.
• Kỹ sư phát triển hệ thống AI Y tế (Healthcare AI Engineers): Cung cấp giải pháp tối ưu hóa kiến trúc mạng nơ-ron tích chập siêu nhẹ với 3,2 triệu tham số, giúp dễ dàng chuyển giao công nghệ và triển khai trên các hệ thống phần cứng y tế có tài nguyên tính toán giới hạn.
• Bác sĩ nội soi tiêu hóa và Chuyên gia y tế: Giúp đội ngũ y khoa hiểu rõ cơ chế vận hành của các mô hình hỗ trợ chẩn đoán tự động (CADe/CADx), từ đó nâng cao niềm tin và sự phối hợp hiệu quả với hệ thống AI nhằm giảm thiểu tỷ lệ bỏ sót 25% polyp trong thực hành lâm sàng.
• Các doanh nghiệp sản xuất phần mềm và thiết bị y tế: Tài liệu định hướng phương pháp tiếp cận kinh tế để phát triển các tính năng chẩn đoán thông minh thế hệ mới cho máy nội soi với chi phí đầu tư gán nhãn dữ liệu thấp nhất.

Câu hỏi thường gặp

Tại sao kiến trúc CenterNet++ lại đạt tốc độ xử lý vượt trội trên 200 FPS?
Mô hình CenterNet++ loại bỏ hoàn toàn các thành phần tính toán phức tạp như hộp neo (Anchor boxes) và thuật toán triệt tiêu phi cực đại (NMS). Bằng việc tinh gọn xương sống dựa trên các khối C2f và tích hợp mô-đun kết hợp đặc trưng ASF, mô hình giảm kích thước xuống chỉ còn 3,2 triệu tham số, cho phép suy luận siêu nhanh trên phần cứng tiêu chuẩn.

Phương pháp Dense Target Producer (DTP) giải quyết hạn chế gì của kỹ thuật gán nhãn giả truyền thống?
Kỹ thuật gán nhãn giả dạng hộp thông thường dễ gây ra sai lệch tâm vật thể, làm triệt tiêu giá trị cực đại của heatmap chuẩn. DTP khắc phục triệt để bằng cách truyền trực tiếp bản đồ nhiệt dày đặc từ mô hình giáo viên sang mô hình học sinh làm ma trận trọng số, giúp bảo toàn thông tin biên và kích thước polyp một cách liên tục và khả vi.

Cơ chế Threshold Epoch Adaptor (TEA) hoạt động như thế nào trong quá trình huấn luyện?
Thay vì sử dụng một ngưỡng lọc cố định dễ gây mất mẫu tốt hoặc nhận mẫu rác, TEA tự động nâng ngưỡng lọc nhãn giả theo sự gia tăng của số lượng epoch huấn luyện. Cơ chế này đảm bảo mô hình chỉ học các điểm tâm có độ tự tin cao nhất trong giai đoạn đầu và mở rộng dần không gian đặc trưng ở các epoch sau.

Khả năng hoạt động của mô hình ra sao khi lượng dữ liệu có nhãn chỉ chiếm 1%?
Trong điều kiện cực kỳ khan hiếm dữ liệu với chỉ 1% nhãn được giám sát, phương pháp DTP vẫn đạt mức $AP_{50}$ ấn tượng là 59,4%, tạo ra mức cải thiện vượt bậc +16,8% về độ chính xác so với mô hình huấn luyện có giám sát thông thường.

Tập dữ liệu PolypsSet được cấu thành từ những nguồn nào?
PolypsSet tổng hợp 4 bộ dữ liệu nội soi tiêu chuẩn gồm MICCAI 2017 (38 video), CVC colon DB (15 video), GLRC (76 video) và KUMC (80 video). Riêng tập dữ liệu KUMC đóng góp 37.899 khung hình được phân định rõ ràng thành 2 nhóm bệnh học: polyp tuyến tiền ung thư và polyp tăng sản lành tính.

Kết luận

• Đề xuất thành công kiến trúc CenterNet++ đạt độ chính xác $AP_{50}$ 89,2% với kích thước siêu nhẹ 3,2 triệu tham số và tốc độ xử lý vượt 200 FPS.
• Tiên phong ứng dụng phương pháp học bán giám sát (SSOD) vào mô hình phát hiện vật thể dạng bản đồ nhiệt end-to-end thông qua cơ chế Dense Target Producer.
• Xây dựng bộ điều chỉnh ngưỡng động Threshold Epoch Adaptor giúp kiểm soát chất lượng nhãn giả tối ưu theo từng giai đoạn huấn luyện.
• Đạt mức tăng trưởng độ chính xác vượt bậc từ 11,8% đến 18,2% trên tập dữ liệu chuẩn PolypsSet trong các kịch bản khan hiếm dữ liệu nhãn từ 1% đến 10%.
• Mở ra hướng đi mang tính ứng dụng thực tiễn cao cho việc nhúng các mô hình AI hỗ trợ chẩn đoán thời gian thực vào quy trình nội soi tiêu hóa tại các bệnh viện.

Luận văn đã đóng góp một khung giải pháp toàn diện cả về mặt lý thuyết mô hình lẫn thực nghiệm ứng dụng cho bài toán phát hiện tổn thương y tế bán giám sát. Trong các giai đoạn tiếp theo, nhóm nghiên cứu dự kiến mở rộng mô hình trên các chuỗi dữ liệu video spatio-temporal và thử nghiệm lâm sàng diện rộng. Các nhà nghiên cứu và đơn vị y tế quan tâm có thể tiếp cận mã nguồn và trọng số mô hình để phục vụ công tác nghiên cứu và triển khai thực tế.

Trích đoạn nội dung tài liệu

Hanoi University of Science and Technology School of Information and Communication Technology Master Thesis in Data Science Semi-Supervised end-to-end polyp detection NGUYEN HONG SON son.vn Supervisor: Dr. Dinh Viet Sang Hanoi 10-2023 Author’s Declaration I hereby declare that I am the sole author of this thesis. The results in this work are not complete copies of any other works. STUDENT Nguyen Hong Son Contents Contents List of Figures List of Tables 1 Introduction 1 1.4 Outline of the thesis .3 Semi-supervised Learning .1 Object Detection Problem .2 Semi supervised Learning .3 Semi-supervised Object Detection (SSOD) .2 Backbone used in CenterNet baseline .3 Feature Pyramid Network (FPN) .2 Improving Baseline model .3 Dense Target Producer (DTP) .1 Pseudo-Labeling Framework .2 Disadvantages of Pseudo-box Labels .1 CenterNet++ improvement results.

41 5 Conclusion 44 Bibliography 45 List of Figures 1.1 Proportion of CRC compared to other cancer diseases1 .1 Illustration about supervised, unsupervised and semi-supervised learn- ing.2 Two output of Object detection model: boxes and categories 3 .3 Anchor boxes in the object detection task.1 Architecture of Residual Block .2 Architecture of ResNet18 5 .3 Architecture of DLA 6 .4 An example of Hourglass network architecture used for segmentation task.6 Overview architecture of CenterNet++.7 Four module types used in the backbone of CenterNet++ .8 Architecture of ASF module .9 The overview of our proposed pipeline for unlabeled data compared with existing pseudo-box based pipeline. For each iteration, Dense Target Producer (DTP) is generated by the teacher model on unla- beled images. DTPs then use for the student model to calculate the unsupervised loss. The total loss is the sum of supervised loss and unsupervised loss.

Note that DTP does not need any postprocessing steps.10 How object detection methods get positive samples: (b) Anchor-based and anchor-free with NMS assign all pixels inside ground truth box (c) Heatmap-based focus only on the center pixel of the ground truth box. boxes with heatmap-based method .11 Comparisons between (b) foreground pixels assigned by ground truth boxes and (c) foreground pixels assigned by pseudo-boxes .12 Example of describing heatmap values at the beginning and end of the training process.1 Some examples of images in the PolypsSet dataset .2 Examples of IOU between two boxes .3 Example of Precision-Recall curve. The mean Average Precision (mAP) is the area under the curve.4 Examples of Mosaic augmentations .5 Visualizations for PolypsSet 10% two-class. From left to right: With- out DTP (supervised), with DTP and label.

42 List of Tables 4.1 Comparison between CenterNet++ and other object detectors for fully supervised learning on the single-class PolypsSet dataset.2 Comparison between CenterNet++ and other object detectors for fully supervised learning on the two-class PolypsSet dataset.3 Experimental results for semi-supervised learning setting on the Polyps- Set dataset.4 Comparisons on the single-class PolypsSet dataset with semi-supervised learning setting using 10% of training data as labeled .5 Experiments on different backbones of CenterNet++ on the two-class PolypsSet dataset.6 Effectiveness of ASF module and Mosaic augmentations on the single- class PolypsSet dataset.7 Effectiveness of using TEA compared to fixed thresholds. Experi- ments were conducted on the single-class PolypsSet dataset with 1% data used as labeled. 43 List of abbreviations AI Artificial Intelligence ANN Artificial Neural Network CNN Convolutional Neural Network CRC Colorectal Cancer DL Deep Learning DTP Dense Target Producer FC Fully Connected FPN Feature Pyramid Network FPS Frame per second FCOS Fully Convolutional One-Stage Object Detection IOU Intersection Over Union NMS Non Maximum Suppression SSD Single Shot Detection SSOD Semi-supervised Object detection TEA Threshold Epoch Adaptive YOLO You Only Look One Chapter 1 Introduction 1.1 Overview Colorectal Cancer (CRC) is one of the most common types of cancer today. When considering cancer diseases specifically, it ranks third in terms of incidence and even second in terms of mortality.

It is estimated that in 2023, there will be approximately 150,000 new cases and 52,000 deaths in the United States [1]. In Vietnam, CRC consistently ranks among the top 10 most common cancer diseases, with the fourth- highest diagnosis rate for males and the third-highest for females. The incidence rate in the population is about 10.1 provides a clearer view of the number and proportion of CRC cases compared to other cancer diseases.