Đồ án: Ứng dụng phương pháp học sâu trong chẩn đoán hình ảnh X quang phổi

Tìm hiểu mô hình học sâu ứng dụng chẩn đoán hình ảnh X quang phổi. Đồ án phân tích, xây dựng và đánh giá mô hình AI trên các bộ dữ liệu lớn.

• Tác giả: Huỳnh Trọng Nhân
• Người hướng dẫn: TS. Nguyễn Mạnh Hùng
• Trường học: Trường Đại học Sư phạm Kỹ thuật Thành phố Hồ Chí Minh
• Chuyên ngành: Kỹ thuật Y Sinh
• Đề tài: Ứng Dụng Phương Pháp Học Sâu Trong Mô Hình Chẩn Đoán Hình Ảnh X Quang Phổi
• Loại tài liệu: Đồ án tốt nghiệp
• Năm xuất bản: 2024
• Địa điểm: Thành phố Hồ Chí Minh

Tóm tắt

I. Khám phá cách AI chẩn đoán X quang phổi chính xác hơn

Chẩn đoán hình ảnh X quang phổi đóng vai trò then chốt trong việc phát hiện sớm và điều trị các bệnh lý hô hấp. Tuy nhiên, phương pháp này phụ thuộc nhiều vào kinh nghiệm của bác sĩ và đối mặt với tình trạng quá tải tại các cơ sở y tế. Sự ra đời của trí tuệ nhân tạo trong y tế, đặc biệt là học sâu, đã mở ra một kỷ nguyên mới, hứa hẹn nâng cao độ chính xác và hiệu quả chẩn đoán. Các mô hình học sâu, được huấn luyện trên các tập dữ liệu X quang ngực khổng lồ như ChestX-ray14 và CheXpert, có khả năng học và nhận diện các dấu hiệu bệnh lý tinh vi mà mắt người có thể bỏ sót. Công nghệ này không nhằm thay thế hoàn toàn bác sĩ mà hoạt động như một hệ thống hỗ trợ chẩn đoán (CAD) mạnh mẽ, giúp giảm thiểu sai sót, tăng tốc độ đọc phim và phân bổ nguồn lực y tế hiệu quả hơn. Các thuật toán tiên tiến có thể tự động phân loại ảnh X-quang, phát hiện các bất thường liên quan đến viêm phổi, lao phổi, hay thậm chí là tầm soát ung thư phổi giai đoạn đầu. Việc ứng dụng học máy cho chẩn đoán hình ảnh không chỉ cải thiện chất lượng chăm sóc sức khỏe mà còn tạo tiền đề cho y học chính xác, cá nhân hóa phác đồ điều trị cho từng bệnh nhân dựa trên phân tích hình ảnh chi tiết.

1.1. Vai trò đột phá của trí tuệ nhân tạo trong y tế hiện đại

Trí tuệ nhân tạo (AI) đang tạo ra những thay đổi mang tính cách mạng trong lĩnh vực y tế. AI giúp tự động hóa các quy trình lặp đi lặp lại, phân tích khối lượng dữ liệu y tế khổng lồ và hỗ trợ các quyết định lâm sàng phức tạp. Trong chẩn đoán hình ảnh, các mô hình AI, đặc biệt là thị giác máy tính y khoa, có khả năng phân tích hình ảnh CT, MRI, và X-quang với tốc độ và độ chính xác vượt trội. Điều này giúp các bác sĩ X quang giảm bớt gánh nặng công việc, tập trung vào các ca bệnh khó và phức tạp hơn. Hơn nữa, AI còn đóng góp vào việc dự báo nguy cơ bệnh tật, tối ưu hóa quá trình phát triển thuốc và quản lý hồ sơ bệnh án điện tử, tạo nên một hệ sinh thái y tế thông minh và hiệu quả.

1.2. Lợi ích của học máy cho chẩn đoán hình ảnh X quang

Ứng dụng học máy cho chẩn đoán hình ảnh mang lại nhiều lợi ích thiết thực. Thứ nhất, nó cải thiện độ chính xác của mô hình AI trong việc phát hiện các tổn thương nhỏ hoặc các dấu hiệu bệnh không điển hình. Thứ hai, tốc độ phân tích nhanh chóng giúp rút ngắn thời gian chờ đợi kết quả của bệnh nhân, cho phép can thiệp y tế sớm hơn. Thứ ba, các hệ thống AI có thể hoạt động 24/7, cung cấp hỗ trợ chẩn đoán sơ bộ tại các khu vực thiếu hụt chuyên gia y tế. Nghiên cứu trên bộ dữ liệu CheXpert và ChestX-ray14 cho thấy các mô hình học sâu có thể đạt được hiệu suất tương đương, thậm chí vượt qua các bác sĩ X quang trong việc xác định một số bệnh lý phổi phổ biến, khẳng định tiềm năng to lớn của công nghệ này.

II. Thách thức trong phân loại đa nhãn ảnh X quang phổi

Việc phát hiện bệnh phổi bằng AI không phải là một bài toán đơn giản. Một trong những thách thức lớn nhất là phân loại đa nhãn (multi-label classification). Thực tế lâm sàng cho thấy một bệnh nhân có thể mắc đồng thời nhiều bệnh lý phổi, ví dụ như viêm phổi kèm theo tràn dịch màng phổi. Điều này đòi hỏi mô hình AI phải có khả năng xác định tất cả các bệnh hiện diện trên một ảnh X quang thay vì chỉ đưa ra một chẩn đoán duy nhất. Thách thức thứ hai là sự đa dạng và biến thiên của dữ liệu. Chất lượng ảnh X quang có thể khác nhau do thiết bị chụp, kỹ thuật viên, và tư thế bệnh nhân. Sự khác biệt này, còn gọi là "domain gap", có thể làm giảm hiệu suất của mô hình khi triển khai trong môi trường thực tế khác với dữ liệu huấn luyện. Hơn nữa, việc xác định chính xác ranh giới của vùng tổn thương (phân đoạn ảnh y tế) và diễn giải quyết định của mô hình một cách minh bạch (diễn giải mô hình AI - XAI) vẫn là những vấn đề cần được giải quyết triệt để để xây dựng lòng tin từ cộng đồng y khoa.

2.1. Vấn đề phức tạp của phân loại ảnh X quang đa bệnh lý

Trong một tấm ảnh X quang, các vùng tổn thương của nhiều bệnh khác nhau có thể chồng chéo lên nhau, gây khó khăn cho cả bác sĩ và mô hình AI. Một mô hình phân loại ảnh X-quang hiệu quả phải học được mối tương quan phức tạp giữa các bệnh lý. Ví dụ, sự hiện diện của bệnh xẹp phổi (Atelectasis) có thể là dấu hiệu của một khối u (Mass) chèn ép. Đồ án "Ứng dụng phương pháp học sâu trong mô hình chẩn đoán hình ảnh X quang phổi" của Đại học SPKT TP.HCM đã tập trung giải quyết vấn đề này bằng cách khai thác mối quan hệ giữa các bệnh để cải thiện hiệu suất phân loại tổng thể, thay vì xem mỗi bệnh là một thực thể độc lập.

2.2. Ảnh hưởng của nhiễu và chất lượng dữ liệu đầu vào

Chất lượng của mô hình AI phụ thuộc trực tiếp vào chất lượng dữ liệu huấn luyện. Các ảnh X quang thường chứa nhiễu hoặc các chi tiết không liên quan có thể đánh lừa mô hình. Quá trình tiền xử lý ảnh y tế, bao gồm các kỹ thuật như chuẩn hóa độ sáng, tăng cường độ tương phản và loại bỏ nhiễu, là bước cực kỳ quan trọng. Thêm vào đó, sự mất cân bằng dữ liệu (một số bệnh hiếm gặp có rất ít mẫu) cũng là một thách thức, đòi hỏi các kỹ thuật xử lý đặc biệt để mô hình không bị thiên vị, học tốt trên cả các lớp bệnh phổ biến và hiếm gặp.

III. Top mô hình học sâu nền tảng cho ảnh X quang phổi

Nền tảng của các hệ thống chẩn đoán X quang hiện đại là các kiến trúc học sâu mạnh mẽ. Mạng nơ-ron tích chập (CNN) là công nghệ cốt lõi, được thiết kế để tự động học các đặc trưng phân cấp từ dữ liệu hình ảnh. Các kiến trúc kinh điển như VGG16, ResNet, và DenseNet đã chứng minh hiệu quả vượt trội trong nhiều bài toán thị giác máy tính và được ứng dụng rộng rãi trong y tế. Đặc biệt, kiến trúc ResNet giới thiệu khái niệm "kết nối tắt" (residual connection), cho phép huấn luyện các mạng rất sâu mà không gặp vấn đề suy giảm gradient. Kế thừa ý tưởng này, Res2Net được đề xuất như một cải tiến, cho phép trích xuất đặc trưng ở nhiều tỷ lệ khác nhau trong cùng một khối, giúp mô hình nhận diện tốt hơn các đối tượng có kích thước đa dạng. Trong nghiên cứu được đề cập, mô hình MLRFNet đã sử dụng Res2Net50 làm backbone để trích xuất các đặc trưng đa cấp từ ảnh X-quang, tạo ra một biểu diễn phong phú và chi tiết cho nhiệm vụ phân loại phức tạp.

3.1. Sức mạnh cốt lõi của mạng nơ ron tích chập CNN

Một mạng nơ-ron tích chập (CNN) hoạt động bằng cách áp dụng các bộ lọc (kernels) lên ảnh đầu vào để tạo ra các bản đồ đặc trưng (feature maps). Các lớp đầu tiên học các đặc trưng đơn giản như cạnh, góc, và màu sắc. Các lớp sâu hơn kết hợp các đặc trưng này để nhận diện các cấu trúc phức tạp hơn như hình dạng của tim, phổi hay các dấu hiệu tổn thương. Khả năng học đặc trưng tự động này giúp CNN vượt qua các phương pháp xử lý ảnh truyền thống vốn đòi hỏi việc thiết kế đặc trưng thủ công. Các nền tảng như TensorFlow và PyTorch cung cấp môi trường mạnh mẽ để xây dựng và huấn luyện các mô hình CNN này.

3.2. Kiến trúc ResNet DenseNet và các biến thể nâng cao

ResNet giải quyết vấn đề huấn luyện mạng sâu, trong khi DenseNet tăng cường luồng thông tin bằng cách kết nối mỗi lớp với tất cả các lớp phía trước. Những kiến trúc này tạo ra các mô hình có khả năng học biểu diễn rất mạnh mẽ. Dựa trên đó, các nghiên cứu mới hơn đã phát triển các biến thể như Res2Net. Mô hình này chia nhỏ các bộ lọc trong một khối, xử lý chúng theo kiểu phân cấp và kết hợp lại, giúp tăng cường khả năng nhận diện đa tỷ lệ. Điều này đặc biệt hữu ích trong chẩn đoán X quang, nơi các tổn thương có thể có kích thước từ vài milimet (Nodule) đến chiếm cả một vùng phổi lớn (Consolidation).

3.3. Mô hình U Net và ứng dụng trong phân đoạn ảnh y tế

Bên cạnh phân loại, phân đoạn ảnh y tế là một nhiệm vụ quan trọng khác, nhằm mục đích xác định ranh giới chính xác của các cơ quan hoặc vùng tổn thương. Kiến trúc U-Net được thiết kế chuyên biệt cho nhiệm vụ này. Với cấu trúc mã hóa-giải mã đối xứng và các kết nối tắt, U-Net có thể tạo ra bản đồ phân đoạn có độ phân giải cao, ngay cả với tập dữ liệu huấn luyện nhỏ. Kỹ thuật này rất quan trọng để định lượng kích thước khối u, đánh giá mức độ tràn dịch màng phổi, hoặc khoanh vùng viêm nhiễm, cung cấp thông tin chi tiết cho việc chẩn đoán và theo dõi điều trị.

IV. Phương pháp P VIB Tối ưu trích xuất đặc trưng y tế

Để giải quyết các thách thức về nhiễu và sự biến thiên dữ liệu, nghiên cứu của Huỳnh Trọng Nhân và Lương Sỹ Hùng đã đề xuất một phương pháp cải tiến dựa trên kỹ thuật Nút cổ chai thông tin biến phân (Variational Information Bottleneck - VIB). Mục tiêu của VIB là nén dữ liệu đầu vào, chỉ giữ lại những thông tin thực sự cần thiết cho việc phân loại và loại bỏ các đặc trưng nhiễu, không liên quan. Tuy nhiên, VIB truyền thống thường làm phẳng đặc trưng không gian, gây mất mát thông tin cấu trúc quan trọng. Để khắc phục, nhóm nghiên cứu đã phát triển P-VIB (Patch-Level Variational Information Bottleneck). P-VIB được tích hợp vào mô hình MLRFNet, hoạt động ở cấp độ cục bộ (patch-level), giúp giữ lại cấu trúc không gian của ảnh. Mô-đun này sử dụng hai khối tích chập song song để trích xuất giá trị trung bình và phương sai, từ đó lựa chọn các đặc trưng quan trọng ở từng vùng ảnh. Kết quả thực nghiệm cho thấy P-VIB không chỉ cải thiện độ chính xác của mô hình AI mà còn tăng cường khả năng tổng quát hóa, giúp mô hình hoạt động tốt hơn trên các bộ dữ liệu mới.

4.1. Nguyên lý hoạt động của Nút cổ chai thông tin VIB

Nguyên lý Nút cổ chai thông tin (VIB) dựa trên ý tưởng rằng một mô hình tốt cần tạo ra một biểu diễn dữ liệu (representation) vừa đủ để dự đoán đầu ra nhưng lại đơn giản nhất có thể. Nó tìm cách tối ưu hóa sự cân bằng giữa việc nén thông tin từ đầu vào (loại bỏ chi tiết thừa) và việc duy trì thông tin dự đoán về đầu ra. Trong bối cảnh chẩn đoán X quang, VIB giúp mô hình tập trung vào các dấu hiệu bệnh lý thực sự và bỏ qua các yếu tố gây nhiễu như cấu trúc xương sườn hay các biến thể giải phẫu bình thường không liên quan đến bệnh.

4.2. P VIB Cải tiến đột phá giữ lại thông tin không gian

P-VIB là một cải tiến quan trọng của VIB truyền thống. Thay vì làm phẳng toàn bộ bản đồ đặc trưng, P-VIB áp dụng nguyên lý VIB trên từng vùng nhỏ (patch) của ảnh. Bằng cách sử dụng các lớp tích chập 3x3 để tính toán thông số phân phối, P-VIB duy trì được mối quan hệ không gian giữa các pixel. Điều này cho phép mô hình không chỉ biết có bệnh gì, mà còn hiểu được vị trí và bối cảnh của tổn thương. Kỹ thuật này giúp P-VIB dễ dàng tích hợp với các mô-đun CNN khác như ECA (Efficient Channel Attention), tạo ra một hệ thống chẩn đoán mạnh mẽ và chính xác hơn.

V. Ứng dụng thực tiễn và kết quả từ hệ thống chẩn đoán

Lý thuyết và mô hình chỉ thực sự có giá trị khi được ứng dụng vào thực tiễn. Đồ án tốt nghiệp đã không chỉ dừng lại ở việc xây dựng mô hình mà còn phát triển một hệ thống hỗ trợ chẩn đoán (CAD) hoàn chỉnh dưới dạng ứng dụng web. Giao diện người dùng được xây dựng bằng ReactJS, trong khi phần máy chủ và xử lý logic sử dụng ExpressJS và Flask API. Hệ thống cho phép bác sĩ tải lên ảnh X quang, nhận kết quả chẩn đoán đa nhãn chỉ trong vài giây. Một điểm nhấn quan trọng là khả năng diễn giải mô hình AI (Explainable AI - XAI) thông qua kỹ thuật Grad-CAM. Thay vì chỉ đưa ra kết quả "viêm phổi", hệ thống sẽ hiển thị một bản đồ nhiệt (heatmap) trên ảnh X quang gốc, tô sáng chính xác những vùng mà mô hình cho là có dấu hiệu viêm. Điều này giúp bác sĩ kiểm chứng và tin tưởng vào kết quả của AI. Các kết quả đánh giá trên tập dữ liệu ChestX-ray14 cho thấy mô hình tích hợp P-VIB đạt được chỉ số AUC (Area Under the Curve) cao hơn đáng kể so với mô hình cơ sở, khẳng định hiệu quả của phương pháp đề xuất.

5.1. Xây dựng hệ thống web hỗ trợ chẩn đoán CAD trực quan

Hệ thống web được thiết kế với giao diện thân thiện, cho phép người dùng dễ dàng tương tác. Các chức năng chính bao gồm đăng ký, đăng nhập, tải ảnh, xem kết quả chẩn đoán và lưu trữ hồ sơ bệnh nhân. Việc sử dụng các công nghệ web hiện đại như ReactJS, ExpressJS, và cơ sở dữ liệu MongoDB Atlas đảm bảo hệ thống hoạt động ổn định và có khả năng mở rộng. Model API, được xây dựng bằng Flask API, đóng vai trò cầu nối giữa giao diện người dùng và mô hình học sâu, xử lý các yêu cầu dự đoán một cách hiệu quả.

5.2. Kỹ thuật Grad CAM và vai trò của diễn giải mô hình AI

Diễn giải mô hình AI là yếu tố sống còn để AI được chấp nhận trong y tế. Grad-CAM (Gradient-weighted Class Activation Mapping) là một kỹ thuật XAI phổ biến, giúp trực quan hóa các vùng ảnh mà mô hình CNN tập trung vào khi đưa ra quyết định. Khi hệ thống dự đoán có chẩn đoán viêm phổi, Grad-CAM sẽ tạo ra một bản đồ nhiệt làm nổi bật vùng đông đặc trong nhu mô phổi. Nếu dự đoán nhiều bệnh, hệ thống sẽ hiển thị một ảnh tổng hợp và các ảnh thành phần chi tiết cho từng bệnh lý, cung cấp một công cụ kiểm tra chéo vô giá cho các chuyên gia y tế.

5.3. Đánh giá độ chính xác của mô hình AI qua chỉ số AUC

Để đánh giá hiệu suất, nghiên cứu đã sử dụng chỉ số AUC (Area Under the ROC Curve). AUC đo lường khả năng của mô hình trong việc phân biệt giữa các lớp (ví dụ: có bệnh và không có bệnh). Giá trị AUC càng gần 1, mô hình càng tốt. Thí nghiệm so sánh cho thấy mô hình cơ sở MLRFNet và mô hình tích hợp P-VIB đều cho kết quả tốt, nhưng phiên bản có P-VIB đã cho thấy sự cải thiện rõ rệt về AUC trên nhiều loại bệnh. Điều này chứng tỏ khả năng chọn lọc đặc trưng hiệu quả của P-VIB đã giúp tăng độ chính xác của mô hình AI một cách đáng kể.

VI. Hướng phát triển tương lai cho chẩn đoán phổi bằng AI

Lĩnh vực chẩn đoán X quang phổi bằng học sâu đang phát triển với tốc độ chóng mặt và còn rất nhiều tiềm năng chưa được khai phá. Hướng phát triển trong tương lai sẽ tập trung vào việc cải thiện hơn nữa khả năng tổng quát hóa của mô hình, giúp chúng hoạt động ổn định trên dữ liệu từ nhiều bệnh viện và nhiều loại máy chụp X quang khác nhau. Việc tích hợp dữ liệu đa phương thức (multi-modal data), chẳng hạn như kết hợp phân tích hình ảnh X quang với thông tin từ hồ sơ bệnh án điện tử (tuổi, giới tính, triệu chứng lâm sàng), được kỳ vọng sẽ tạo ra các mô hình chẩn đoán toàn diện và chính xác hơn. Hơn nữa, việc phát triển các kỹ thuật diễn giải mô hình AI tiên tiến hơn sẽ giúp xây dựng mối quan hệ cộng tác tin cậy giữa bác sĩ và máy móc. Cuối cùng, mục tiêu xa hơn là triển khai các hệ thống này trên quy mô lớn, tích hợp vào quy trình làm việc của bệnh viện, mang lại lợi ích trực tiếp cho bệnh nhân trên toàn thế giới và định hình lại tương lai của ngành trí tuệ nhân tạo trong y tế.

6.1. Tích hợp dữ liệu đa phương thức để tăng độ chính xác

Một tấm ảnh X quang chỉ cung cấp một phần thông tin. Bằng cách kết hợp phân tích hình ảnh với các dữ liệu khác như kết quả xét nghiệm máu, lịch sử bệnh án, và thông tin di truyền, các mô hình AI có thể đưa ra những chẩn đoán có ngữ cảnh và sâu sắc hơn. Ví dụ, một nốt phổi nhỏ có thể đáng ngờ hơn ở một bệnh nhân lớn tuổi có tiền sử hút thuốc. Việc xây dựng các mô hình có khả năng tổng hợp nhiều nguồn thông tin sẽ là một bước tiến lớn trong y học chính xác.

6.2. Thử nghiệm lâm sàng và tuân thủ các quy định y tế

Để một mô hình AI có thể được sử dụng rộng rãi trong môi trường lâm sàng, nó phải trải qua quá trình kiểm định và xác thực nghiêm ngặt. Các thử nghiệm lâm sàng quy mô lớn là cần thiết để chứng minh tính an toàn và hiệu quả của hệ thống. Đồng thời, các nhà phát triển phải đảm bảo sản phẩm tuân thủ các quy định về thiết bị y tế và bảo mật dữ liệu bệnh nhân (như HIPAA hoặc GDPR). Đây là bước đi quan trọng để chuyển đổi các công trình nghiên cứu thành những công cụ y tế đáng tin cậy.

Trích đoạn nội dung tài liệu

CHƯƠNG 1. TỔNG QUAN Chương 5: Kết quả và Nhận xét − Chương này trình bày đánh giá mô hình dựa trên các phương pháp ở chương 3, đánh giá hình ảnh x quang phổi trên gradcam và đưa lên hệ thống web đồng thời đưa ra các nhận xét cả về mô hình huấn luyện và hệ thống hiển thị trên web Chương 6: Kết luận và hướng phát triển − Chương này kết luận chung về những gì đã thực hiện được so với mục tiêu đề ra, những điểm còn hạn chế đồng thời cũng đưa ra hướng phát triển cho đề tài, những gì tiềm năng trong tương lai mà đề tài này có thể đạt được. BỘ MÔN ĐIỆN TỬ CÔNG NGHIỆP - Y SINH 4 CHƯƠNG 2. CƠ SỞ LÝ THUYẾT CHƯƠNG 2.1 Các vấn đề và thách thức của bài toán phân loại đa nhãn Phân loại đa nhãn (Multilabel classification) là một dạng bài toán trong học máy yêu cầu mỗi mẫu (data instance) có thể phải gán nhiều nhãn (labels) cùng một lúc nếu có nhiều đối tượng cùng xuất hiện trong mẫu.

Đây là một sự khác biệt quan trọng so với phân loại đơn nhãn (single-label classification), bài toán yêu cầu mỗi mẫu dữ liệu chỉ được gán một nhãn duy nhất như thì bài toán phân loại nhị phân (Binary classification) và bài toán phân loại đa lớp (Multiclass classification) hình 2. Bào toán phân loại đa nhãn có tính phức tạp cao, mỗi mẫu có thể có nhiều nhãn làm cho không gian nhãn (Label Space) trở nên rất lớn và phức tạp, nó bao gồm tất cả các tập hợp con có thể có của n nhãn (2 𝑛 ). Đồng thời giữa các nhãn có thể sẽ có quan hệ phụ thuộc nhau, ví dụ như trong gán thẻ ảnh, nếu có nhãn “Xe”, khả năng cao có thể có nhãn “Đường” và nhãn “Người”. Ngoài ra, Một số nhãn có thể xuất hiện rất ít, gây khó khăn cho việc huấn luyện.

1 Khác biệt giữa các bài toán trong vấn đề phân loại 2.2 Non local neural Network và cơ chế attention Phép toán non-local được đề xuất với mục đích cải thiện tính toán trong các mạng neural sâu, mục đích là để mạng học sâu có thể học vấn đề nhiều vùng khác nhau, ở xa nhau lại tương tác với nhau để có thể tìm ra được các đặc trưng tương quan ở nhiều vùng khác nhau, những đặc trưng này gọi là đặc trưng non-local (non-local feature), CNN chỉ học ra các đặc trung local. BỘ MÔN ĐIỆN TỬ CÔNG NGHIỆP - Y SINH 5 CHƯƠNG 2. CƠ SỞ LÝ THUYẾT Hình 2. 2 Ví dụ về non-local Non-local hoạt động bằng cách tính toán một phép tổng trọng số của tất cả các vị trí trong dữ liệu hay nói cách khác mỗi điểm dữ liệu (ví dụ: pixel trong hình ảnh, từ trong câu) sẽ tính toán mối quan hệ với tất cả các điểm dữ liệu khác.

Mối quan hệ này thường được biểu diễn dưới dạng một hàm tương đồng (ở đây là Gaussian). Sau khi tính toán được mối quan hệ (trọng số) giữa các điểm dữ liệu, non-local operations sẽ tổng hợp thông tin từ tất cả các điểm dữ liệu đó để tính toán giá trị đầu ra tại mỗi vị trí. Phép tổng trọng số được thực hiện bằng cách nhân các trọng số tương đồng với các đặc trưng đầu vào tại mỗi vị trí và sau đó tổng hợp lại.3 Minh họa cách thức hoạt động của phép toán non-local trong mạng neural Hình 2. 3 Khối Non-local Hình 2.3 là một khối non-local không gian-thời gian.

Các bản đồ đặc trưng (feature maps) được hiển thị dưới dạng hình dạng của các tensor, ví dụ: T×H×W×1024 cho 1024 kênh (việc định hình lại phù hợp được thực hiện khi được đề cập). Các phép tích chập 1×1×1 được sử dụng để tạo các vector query θ key ϕ, và giá trị g. “⊗” biểu thị phép nhân ma trận để tính toán dot-product giữa query và key, tạo ra các attention scores. và “⊕” biểu thị tổng phần tử, tổng trọng số của các giá trị g được BỘ MÔN ĐIỆN TỬ CÔNG NGHIỆP - Y SINH 6 CHƯƠNG 2.

CƠ SỞ LÝ THUYẾT tính toán và thêm vào bản đồ đặc trưng đầu vào để tạo ra đầu ra cuối cùng. Phép toán softmax được thực hiện trên mỗi hàng của ma trận kết quả, để chuẩn hóa các giá trị và tạo ra các xác suất. Các hộp màu xanh biểu thị các phép tích chập 1×1×1, được sử dụng để giảm số lượng kênh mà không làm mất đi nhiều thông tin. Điều này giúp giảm số lượng tính toán và tạo ra các phiên bản nhúng của dữ liệu đầu vào.

T là số khung thời gian, W là hiều rộng, H là chiều cao. Các bước tiến hành như sau: − Tạo các vector: Mỗi đầu vào X được biến đổi thành các vector Qery, Key, G − Tính toán điểm số tương tự (similarity scores) giữa các cặp vị trí được tính bằng cách nhân ma trận θ với ma trận ϕ và áp dụng hàm softmax − Tính toán trọng số tổng hợp bằng cách nhân điểm số tương tự với ma trận G − Tổng hợp thông tin và tạo đầu ra: Giá trị đầu ra được tính bằng cách cộng giá trị đầu với kết quả tổng hợp (theo cơ chế residual connection) Song song với đó, Cơ chế attention tổng quát là một kỹ thuật cho phép mô hình học sâu tập trung vào các phần quan trọng của đầu vào khi thực hiện các tác vụ như dịch máy, tóm tắt văn bản, đặc biệt là self-attention trong các mô hình như Transformer, hoạt động dựa trên việc tính toán trọng số giữa các thành phần khác nhau của đầu vào, sau đó sử dụng trọng số này để tổng hợp thông tin. Cụ thể, trong self-attention, mỗi từ trong câu sẽ "tự chú ý" đến các từ khác trong câu đó bằng cách tính toán trọng số cho từng cặp từ. Self-attention trong mô hình Transformer hoạt động theo các bước sau: − Mỗi đầu vào X được biến đổi thành các vector Query (Q), Key (K), và Value (V) thông qua các phép biến đổi tuyến tính.

− Tính toán điểm số tương tự (similarity scores): Điểm số tương tự giữa các cặp từ được tính bằng cách nhân ma trận query với ma trận key và chia cho căn bậc hai của kích thước chiều của key − Áp dụng hàm softmax: Điểm số được chuẩn hóa bằng hàm softmax để tạo ra các trọng số attention. − Tổng hợp thông tin: Trọng số attention sau đó được sử dụng để tổng hợp các giá trị (V). Sau khi non-local neural network được giới thiệu, ý tưởng này được nhận ra là rất giống với cơ chế self-attention: − Cả hai kỹ thuật đều sử dụng các phép tính trọng số dựa trên sự tương đồng giữa các điểm dữ liệu để xác định ảnh hưởng của chúng đối với nhau. − Cả hai đều tìm cách tổng hợp thông tin từ toàn bộ đầu vào để cải thiện khả năng nắm bắt các mối quan hệ dài hạn.

BỘ MÔN ĐIỆN TỬ CÔNG NGHIỆP - Y SINH 7 CHƯƠNG 2. CƠ SỞ LÝ THUYẾT Sau khi non-local neural network được giới thiệu, ý tưởng này được nhận ra là rất giống với cơ chế attention. Điều này dẫn đến việc áp dụng, phát triển cơ chế attention trong các mô hình thị giác máy tính. 4 Cấu trúc của một lớp self-attention Cấu trúc của một lớp self-attention: − Hai thành phần chính: • Bản đồ đặc trưng từ lớp tích chập trước đó: Thành phần này giúp nắm bắt thông tin cục bộ, tương tự như cách các lớp tích chập truyền thống hoạt động.

• Bản đồ self-attention: Thành phần này cung cấp thông tin non-local, tức là thông tin từ các vị trí khác nhau trong không gian hoặc thời gian, không chỉ giới hạn ở vùng lân cận trực tiếp. − Tham số tỷ lệ α: Tham số này điều chỉnh sự cân bằng giữa đóng góp của thông tin cục bộ (từ lớp tích chập) và thông tin non-local (từ self-attention). Việc điều chỉnh này rất quan trọng để đảm bảo rằng cả hai loại thông tin đều được kết hợp một cách hợp lý trong quá trình tính toán phản hồi cuối cùng. − Các hàm s và h: • Hàm s: Tính toán một giá trị vô hướng (scalar) biểu thị mức độ liên quan giữa cường độ tín hiệu tại vị trí hiện tại i và tại bất kỳ vị trí j nào.

Điều này giúp xác định mức độ ảnh hưởng của các vị trí khác nhau lên vị trí hiện tại. BỘ MÔN ĐIỆN TỬ CÔNG NGHIỆP - Y SINH 8 CHƯƠNG 2. CƠ SỞ LÝ THUYẾT • Hàm h: Tính toán một biểu diễn của tín hiệu đầu vào tại bất kỳ vị trí j nào. Biểu diễn này sau đó được sử dụng để xây dựng phản hồi cuối cùng, kết hợp thông tin từ nhiều vị trí khác nhau.

Như vậy, lớp self-attention không chỉ dựa vào thông tin từ vùng lân cận trực tiếp (cục bộ) mà còn tích hợp thông tin từ các vị trí xa hơn (non-local), giúp cải thiện khả năng nắm bắt các mối quan hệ phức tạp trong dữ liệu.3 Module VIB Mục đích chính của module VIB (Variational Information Bottleneck)-nút cổ chai thông tin là cải thiện hiệu suất của mạng neural bằng cách tối ưu hóa quá trình trích xuất và lựa chọn các đặc trưng quan trọng từ dữ liệu đầu vào, như ảnh X-quang ngực. Module VIB hoạt động dựa trên nguyên lý cân bằng giữa hai mục tiêu: − Giữ lại thông tin quan trọng: Bảo đảm rằng các đặc trưng được giữ lại có đủ thông tin để phân loại chính xác. − Giảm thiểu thông tin không cần thiết: Loại bỏ các đặc trưng không liên quan hoặc nhiễu để tránh làm mô hình trở nên phức tạp và dễ bị quá khớp (overfitting). 5 Mô hình sử dụng nút cổ chai thông tin Hình 2.5 mô tả quy trình học của mô hình sử dụng VIB, bao gồm việc truyền dữ liệu từ ảnh đầu vào qua các lớp mạng neural, qua module VIB và cuối cùng là các lớp fully connected (FC) hoặc softmax để dự đoán và phân loại bệnh.

VIB được áp dụng sau khi các đặc trưng được trích xuất từ ảnh để nén và tối ưu hóa các thông tin quan trọng. Module này giúp giảm thiểu thông tin không cần thiết và giữ lại các đặc trưng quan trọng cho quá trình phân loại bệnh. Các khối trong VIB Module: BỘ MÔN ĐIỆN TỬ CÔNG NGHIỆP - Y SINH 9 CHƯƠNG 2. CƠ SỞ LÝ THUYẾT − Reconstruction Block (Khối tái tạo): Đảm bảo rằng thông tin cần thiết cho việc phân loại được giữ lại.

Các đặc trưng từ lớp gộp được sử dụng để tái tạo lại hình ảnh ban đầu, giúp đảm bảo rằng mô hình học được các đặc trưng quan trọng. − Information Bottleneck Block (Khối hạn chế thông tin): Là phần chính của mô-đun VIB. Nó giúp giảm thiểu độ phức tạp của đặc trưng và chỉ giữ lại những thông tin quan trọng nhất để phân loại bệnh.