Ứng dụng mô hình Vision Transformer phân loại, diễn giải ảnh y tế - SPKT TPHCM

Dưới đây là kết quả tạo meta tags cho bài viết 'Ứng dụng mô hình chuyển đổi thị giác cho bài toán phân loại và diễn giải ảnh y tế': { "ai_description": "Ứng

Chuyên ngành

Điện tử y sinh

Người đăng

Ẩn danh

Thể loại

Báo cáo tổng kết đề tài nghiên cứu khoa học của sinh viên

2022

86
1
0

Phí lưu trữ

30 Point

Tóm tắt

I. Khám Phá Tiềm Năng Ứng Dụng Vision Transformer Đột Phá Trong Chẩn Đoán Y Tế

Trong kỷ nguyên số hóa y tế, trí tuệ nhân tạo (AI) đang trở thành công cụ không thể thiếu, đặc biệt trong lĩnh vực phân loại ảnh y tế và chẩn đoán hình ảnh. Sự phát triển mạnh mẽ của học sâu (deep learning) đã mở ra nhiều cánh cửa mới, từ việc hỗ trợ phát hiện sớm bệnh lý đến nâng cao độ chính xác của các quyết định lâm sàng. Tuy nhiên, các mô hình truyền thống như mạng nơ-ron tích chập (CNN) vẫn còn những hạn chế nhất định, đặc biệt là trong việc diễn giải kết quả một cách minh bạch và đáng tin cậy, vốn là yếu tố then chốt trong y học. Chính trong bối cảnh này, Vision Transformer (ViT) nổi lên như một giải pháp đầy hứa hẹn, mang lại khả năng phân tích và diễn giải ảnh y tế một cách đột phá.

Vision Transformer là một kiến trúc mạng nơ-ron học sâu tiên tiến, được chuyển đổi từ mô hình Transformer vốn rất thành công trong lĩnh vực xử lý ngôn ngữ tự nhiên (NLP), để giải quyết các bài toán thị giác máy tính phức tạp. Thay vì sử dụng các phép tích chập như CNN truyền thống, ViT chia hình ảnh thành các "patch" nhỏ, sau đó xử lý chúng như các "token" ngôn ngữ, áp dụng cơ chế tự chú ý (self-attention) để nắm bắt mối quan hệ toàn cục giữa các phần của ảnh. Khả năng đặc biệt này giúp ViT vượt qua một số giới hạn của CNN, đặc biệt là trong việc nhận diện các mẫu hình phức tạp và phụ thuộc dài hạn trên ảnh y tế, nơi các dấu hiệu bệnh lý có thể phân bố rải rác hoặc ẩn sâu trong cấu trúc mà CNN đôi khi bỏ lỡ. Điều này đặc biệt hữu ích khi xử lý các bệnh lý có biểu hiện tinh vi hoặc đòi hỏi phân tích ngữ cảnh rộng.

Việc ứng dụng Vision Transformer phân loại & diễn giải ảnh y tế không chỉ dừng lại ở việc cải thiện độ chính xác mà còn mở ra tiềm năng đáng kể trong việc cung cấp thông tin chi tiết về "lý do" mô hình đưa ra một chẩn đoán. Khía cạnh diễn giải ảnh y tế này vô cùng quan trọng đối với các bác sĩ lâm sàng. Nó giúp họ hiểu rõ hơn về cách AI đưa ra quyết định, từ đó xây dựng niềm tin và chấp nhận rộng rãi hơn công nghệ này vào thực hành hàng ngày. Với sự hỗ trợ của các kỹ thuật như Grad-CAM, ViT có thể làm nổi bật các vùng ảnh quan trọng nhất dẫn đến kết quả phân loại, mang lại cái nhìn sâu sắc và minh bạch, hỗ trợ tối đa quá trình đưa ra quyết định y tế.

Nghiên cứu gần đây đã chứng minh hiệu quả của ViT trong việc phát hiện bệnh X-quang ngực, MRI và các loại hình ảnh y tế khác, cho thấy khả năng vượt trội so với các mô hình CNN ở một số tác vụ nhất định. Khả năng của ViT trong việc học các biểu diễn mạnh mẽ từ dữ liệu ảnh mà không cần kiến thức chuyên sâu về miền cụ thể đã làm cho nó trở thành một công cụ linh hoạt và mạnh mẽ. Sự kết hợp giữa sức mạnh của Transformer và nhu cầu cấp thiết về chẩn đoán hình ảnh AI đã tạo ra một làn sóng mới trong nghiên cứu y học, hứa hẹn mang lại những cải tiến vượt bậc trong chăm sóc sức khỏe, hướng tới một tương lai của y học chính xác và cá nhân hóa.

1.1. Tổng Quan Về Sự Bùng Nổ của AI Trong Phân Loại Ảnh Y Tế

Lĩnh vực phân loại ảnh y tế đã chứng kiến sự tăng trưởng vượt bậc nhờ vào các tiến bộ trong trí tuệ nhân tạo (AI), đặc biệt là học sâu y tế. Các thuật toán AI, thông qua việc phân tích hàng triệu hình ảnh y tế như X-quang, MRI, CT scan, và siêu âm, có khả năng phát hiện các dấu hiệu bệnh lý mà đôi khi mắt thường khó nhận ra hoặc cần nhiều thời gian để phân tích. Điều này giúp đẩy nhanh quá trình chẩn đoán, giảm gánh nặng cho các chuyên gia y tế, và tăng cường khả năng tiếp cận chăm sóc sức khỏe chất lượng cao. Từ việc sàng lọc bệnh ung thư, phát hiện sớm các vấn đề về tim mạch, đến dự đoán tiến triển bệnh, chẩn đoán hình ảnh AI đang định hình lại cách thức y học vận hành, mang lại hy vọng về các phương pháp điều trị cá nhân hóa và hiệu quả hơn.

Phần lớn các thành tựu ban đầu trong lĩnh vực này dựa trên mạng nơ-ron tích chập (CNN), một kiến trúc có thế mạnh trong việc trích xuất đặc trưng cục bộ và đã đạt được những thành công ấn tượng trong nhiều tác vụ. Tuy nhiên, CNN vẫn tồn tại những giới hạn nhất định. Cụ thể, khả năng của chúng trong việc nắm bắt mối quan hệ ngữ cảnh toàn cục của hình ảnh phức tạp còn hạn chế, đặc biệt là trong các trường hợp bệnh lý phân bố rộng, hoặc đòi hỏi sự tổng hợp thông tin từ nhiều vị trí khác nhau trên ảnh y tế để đưa ra kết luận chính xác. Sự phụ thuộc vào các kernel tích chập cục bộ khiến CNN khó khăn trong việc xử lý các phụ thuộc xa trong hình ảnh, một yếu tố quan trọng đối với các dấu hiệu bệnh lý tinh vi.

1.2. Giới Thiệu Vision Transformer Kiến Trúc Mới Cho Thị Giác Máy Tính

Vision Transformer (ViT) đại diện cho một bước tiến đột phá trong thị giác máy tính, chuyển hướng khỏi kiến trúc mạng nơ-ron tích chập (CNN) vốn thống trị trong nhiều thập kỷ. Khác với CNN xử lý ảnh theo kiểu phân cấp và cục bộ, ViT áp dụng cơ chế mô hình Transformer ban đầu phát triển cho ngôn ngữ. Để làm được điều này, ViT chia hình ảnh đầu vào thành các "patch" không chồng lấp, coi mỗi patch như một "token" (tương tự như từ trong câu). Các token này sau đó được nhúng (embedding) và bổ sung thông tin vị trí (positional encoding) trước khi đưa vào các lớp Transformer Encoder.

Cơ chế tự chú ý (self-attention) là trái tim của ViT, cho phép mô hình đánh giá mức độ quan trọng và mối quan hệ giữa tất cả các patch hình ảnh với nhau. Điều này giúp ViT nắm bắt được các phụ thuộc dài hạn và ngữ cảnh toàn cục của hình ảnh một cách hiệu quả, điều mà CNN thường gặp khó khăn. Với khả năng xử lý thông tin song song và khả năng học biểu diễn mạnh mẽ, ViT đã chứng minh hiệu suất vượt trội trong nhiều bài toán thị giác, từ phân loại ảnh tổng quát đến các tác vụ chuyên biệt hơn. Sự ra đời của ViT đã mở ra một kỷ nguyên mới cho AI thị giác, đặc biệt là trong việc ứng dụng Vision Transformer phân loại & diễn giải ảnh y tế, nơi sự hiểu biết ngữ cảnh toàn diện là yếu tố then chốt để chẩn đoán chính xác.

II. Thách Thức Hiện Tại Vì Sao Cần Phương Pháp Diễn Giải Ảnh Y Tế Minh Bạch Hơn

Trong khi chẩn đoán hình ảnh AI đã đạt được những thành tựu đáng kể, việc triển khai rộng rãi các mô hình học sâu trong môi trường lâm sàng vẫn đối mặt với một thách thức lớn: thiếu tính minh bạch và khả năng diễn giải ảnh y tế. Các mô hình học sâu thường được xem là "hộp đen" – chúng đưa ra kết quả chính xác nhưng không tiết lộ cách thức đi đến kết quả đó. Trong y học, nơi mỗi quyết định có thể ảnh hưởng đến sức khỏe và tính mạng con người, sự thiếu minh bạch này là một rào cản lớn. Bác sĩ cần hiểu "tại sao" một mô hình lại đưa ra chẩn đoán cụ thể, thay vì chỉ chấp nhận kết quả một cách mù quáng.

Các mô hình mạng nơ-ron tích chập (CNN), dù mạnh mẽ trong phân loại ảnh y tế, thường chỉ cung cấp các đặc trưng cục bộ và khó để diễn giải tổng thể. Khi một CNN phát hiện một khối u, nó có thể chỉ ra vị trí của khối u, nhưng khó có thể giải thích các mối quan hệ phức tạp giữa khối u đó với các cấu trúc giải phẫu lân cận hoặc các biểu hiện bệnh lý khác trên ảnh. Sự thiếu vắng khả năng giải thích toàn diện này làm giảm niềm tin của bác sĩ và gây khó khăn trong việc tích hợp AI vào quy trình làm việc lâm sàng, nơi trách nhiệm và sự hiểu biết rõ ràng là tối quan trọng.

Hơn nữa, các sai sót của mô hình AI, dù hiếm khi xảy ra, cũng cần được hiểu rõ để tránh những hậu quả nghiêm trọng. Nếu một mô hình đưa ra chẩn đoán sai, việc có thể diễn giải ảnh y tế để xác định nguyên nhân sai sót là cực kỳ quan trọng. Điều này giúp các chuyên gia y tế không chỉ điều chỉnh chẩn đoán mà còn cải thiện mô hình trong tương lai. Nhu cầu về một phương pháp minh bạch và có khả năng diễn giải không chỉ là mong muốn mà còn là yêu cầu cấp thiết để AI thực sự phát huy hết tiềm năng trong y học, đặc biệt là với các công nghệ tiên tiến như ứng dụng Vision Transformer phân loại & diễn giải ảnh y tế. Việc sử dụng các kỹ thuật như Grad-CAM cùng với Vision Transformer có thể giúp cung cấp những thông tin diễn giải cần thiết, biến "hộp đen" thành một công cụ hỗ trợ đáng tin cậy.

2.1. Hạn Chế của Mạng Nơ ron Tích Chập CNN Truyền Thống Trong Y Tế

Mạng mạng nơ-ron tích chập (CNN) đã đạt được những thành công vang dội trong phân loại ảnh y tế, nhưng cũng bộc lộ một số hạn chế cố hữu. Một trong những điểm yếu chính là khả năng nắm bắt các phụ thuộc dài hạn (long-range dependencies) trên hình ảnh. CNN hoạt động dựa trên các kernel tích chập cục bộ, tập trung vào việc trích xuất các đặc trưng trong một vùng nhỏ của ảnh. Mặc dù các lớp sâu hơn có thể kết hợp thông tin từ các vùng rộng hơn, quá trình này thường diễn ra gián tiếp và không hiệu quả bằng cách tiếp cận toàn cục.

Trong ảnh y tế, các dấu hiệu bệnh lý thường không chỉ xuất hiện ở một vị trí cụ thể mà có thể phân bố rải rác hoặc thể hiện qua mối quan hệ phức tạp giữa các vùng khác nhau. Ví dụ, một bệnh lý X-quang ngực có thể liên quan đến sự thay đổi tinh tế ở nhiều khu vực phổi. CNN có thể gặp khó khăn trong việc tổng hợp tất cả các thông tin này một cách hiệu quả để đưa ra chẩn đoán toàn diện. Ngoài ra, CNN thường yêu cầu một lượng lớn dữ liệu được gán nhãn để huấn luyện từ đầu và dễ bị ảnh hưởng bởi biến thể hình học của vật thể trong ảnh. Sự cần thiết của kiến thức chuyên môn sâu để thiết kế kiến trúc hiệu quả cho từng bài toán cụ thể cũng là một thách thức.

2.2. Nhu Cầu Cấp Bách về Khả Năng Diễn Giải Interpretability của Mô Hình AI

Nhu cầu về khả năng diễn giải ảnh y tế (Interpretability) của mô hình AI, đặc biệt trong học sâu y tế, không chỉ là một tính năng phụ trợ mà là một yêu cầu cấp bách. Trong môi trường lâm sàng, các quyết định dựa trên AI phải được tin cậy và hiểu rõ. Nếu một mô hình đưa ra chẩn đoán "nghi ngờ ung thư" dựa trên ảnh MRI, bác sĩ cần biết mô hình Transformer hoặc Vision Transformer đã dựa vào vùng nào trên ảnh để đi đến kết luận đó. Khả năng giải thích này xây dựng niềm tin cho các chuyên gia y tế, giúp họ kiểm tra tính hợp lý của chẩn đoán và xác định liệu có bất kỳ sai sót nào hay không.

Khả năng diễn giải cũng đóng vai trò quan trọng trong việc tuân thủ các quy định pháp luật và đạo đức liên quan đến AI trong y tế. Các cơ quan quản lý ngày càng yêu cầu các hệ thống AI phải minh bạch và có thể giải thích được để đảm bảo tính công bằng và trách nhiệm giải trình. Hơn nữa, việc hiểu được lý do đằng sau các dự đoán của AI giúp các nhà nghiên cứu cải thiện mô hình, khắc phục lỗi và phát triển các hệ thống AI an toàn hơn, hiệu quả hơn. Đối với ứng dụng Vision Transformer phân loại & diễn giải ảnh y tế, việc tích hợp các phương pháp diễn giải là bước quan trọng để công nghệ này có thể được chấp nhận rộng rãi và phát huy tối đa tiềm năng trong việc hỗ trợ chẩn đoán và điều trị.

III. Giải Pháp Toàn Diện Tối Ưu Hóa Vision Transformer Phân Loại Diễn Giải Ảnh Y Tế

Để vượt qua những thách thức về khả năng diễn giải và hiệu suất của các mô hình truyền thống trong phân loại ảnh y tế, Vision Transformer (ViT) mang đến một giải pháp toàn diện và đầy hứa hẹn. Kiến trúc ViT, với cơ chế tự chú ý (self-attention) mạnh mẽ, không chỉ cải thiện độ chính xác trong nhận diện bệnh lý mà còn cung cấp một nền tảng vững chắc cho việc diễn giải ảnh y tế một cách minh bạch. Sự kết hợp giữa khả năng xử lý thông tin toàn cục của ViT và các kỹ thuật diễn giải hiện đại như Grad-CAM đã tạo ra một công cụ hỗ trợ chẩn đoán hình ảnh AI mạnh mẽ và đáng tin cậy, giúp các chuyên gia y tế tự tin hơn trong việc đưa ra quyết định.

Việc tối ưu hóa Vision Transformer cho dữ liệu ảnh y tế đòi hỏi sự cân nhắc kỹ lưỡng về quy trình huấn luyện và điều chỉnh kiến trúc. Thay vì huấn luyện từ đầu với một lượng dữ liệu y tế thường là hạn chế và khó khăn trong việc thu thập, phương pháp học chuyển giao (transfer learning) được ưu tiên áp dụng. Mô hình Transformer thường được pre-trained trên các tập dữ liệu hình ảnh tổng quát khổng lồ như ImageNet, sau đó tinh chỉnh (fine-tuning) trên tập dữ liệu y tế chuyên biệt (ví dụ, X-quang ngực). Quá trình này không chỉ giúp mô hình tận dụng được các đặc trưng cấp thấp đã học được từ dữ liệu đa dạng mà còn thích nghi một cách hiệu quả với các đặc điểm riêng biệt và phức tạp của hình ảnh y tế, từ đó cải thiện đáng kể hiệu suất và khả năng tổng quát hóa.

Ngoài ra, việc tối ưu hóa kích thước patch (patch size) và chiến lược positional encoding cũng ảnh hưởng đáng kể đến hiệu suất của ViT trong bối cảnh y tế. Kích thước patch cần được lựa chọn sao cho phù hợp với độ phân giải và đặc điểm của hình ảnh y tế, không quá nhỏ để tăng gánh nặng tính toán và làm loãng thông tin, cũng không quá lớn để mất đi chi tiết quan trọng mà các dấu hiệu bệnh lý tinh vi đòi hỏi. Các kỹ thuật tăng cường dữ liệu (data augmentation) như xoay, lật, phóng to, thu nhỏ, và điều chỉnh độ sáng, độ tương phản cũng là yếu tố then chốt để tăng cường khả năng tổng quát hóa của Vision Transformer và giảm thiểu overfitting, đặc biệt khi làm việc với các tập dữ liệu y tế có quy mô vừa phải. Mục tiêu cuối cùng là xây dựng một mô hình Transformer có khả năng không chỉ phân loại chính xác mà còn cung cấp những thông tin diễn giải hữu ích, giúp bác sĩ đưa ra quyết định lâm sàng hiệu quả hơn, thúc đẩy sự phát triển của y học chính xác.

3.1. Cơ Chế Hoạt Động Của Vision Transformer Từ Các Patch Đến Chú Ý Toàn Cục

Cơ chế hoạt động của Vision Transformer (ViT) khác biệt đáng kể so với các kiến trúc mạng nơ-ron tích chập (CNN) truyền thống. Thay vì xử lý hình ảnh trực tiếp, ViT bắt đầu bằng cách chia ảnh đầu vào thành các "patch" nhỏ có kích thước cố định, không chồng lấp. Mỗi patch này được coi như một "token" hoặc "từ" trong một chuỗi, tương tự như các từ trong câu văn mà mô hình Transformer ban đầu xử lý trong NLP. Tiếp theo, các patch này được làm phẳng (flatten) và chiếu (project) thành các vector tuyến tính, tạo ra các "embeddings" của patch. Để bảo toàn thông tin về vị trí tương đối của các patch trong ảnh gốc, thông tin vị trí (positional encoding) được cộng thêm vào các embeddings này.

Sau khi chuẩn bị dữ liệu đầu vào, các chuỗi embeddings này được đưa vào kiến trúc Transformer Encoder. Trái tim của Encoder là cơ chế tự chú ý (self-attention) đa đầu (multi-head self-attention). Cơ chế này cho phép mỗi patch trong chuỗi tương tác và đánh giá mức độ liên quan của nó với tất cả các patch khác trong cùng một hình ảnh. Điều này giúp ViT có khả năng nắm bắt các phụ thuộc dài hạn và ngữ cảnh toàn cục trên ảnh y tế một cách hiệu quả, điều mà CNN thường gặp khó khăn. Kết quả là, ViT có thể học được các biểu diễn hình ảnh mạnh mẽ và toàn diện, sau đó được sử dụng cho tác vụ phân loại ảnh y tế thông qua một lớp phân loại cuối cùng.

3.2. Vai Trò của Kỹ Thuật Grad CAM Trong Việc Diễn Giải Kết Quả Phân Loại Ảnh Y Tế

Kỹ thuật Grad-CAM (Gradient-weighted Class Activation Mapping) đóng vai trò then chốt trong việc diễn giải ảnh y tế cho các mô hình học sâu, bao gồm cả Vision Transformer. Grad-CAM giúp biến các mô hình "hộp đen" thành những công cụ minh bạch hơn bằng cách tạo ra một bản đồ nhiệt (heatmap) trực quan, làm nổi bật các vùng trên ảnh đầu vào mà mô hình tập trung vào nhất khi đưa ra một dự đoán cụ thể. Đối với ứng dụng Vision Transformer phân loại & diễn giải ảnh y tế, khả năng này là vô cùng quan trọng.

Grad-CAM tính toán gradient của điểm số lớp dự đoán so với các bản đồ đặc trưng (feature maps) cuối cùng của lớp tích chập (hoặc trong trường hợp của ViT, các đầu ra từ lớp Transformer Encoder cuối cùng). Các gradient này sau đó được sử dụng để trọng số hóa và kết hợp các bản đồ đặc trưng, tạo ra một bản đồ hoạt động lớp (CAM). Bản đồ nhiệt này cho thấy "lý do" mô hình đưa ra một chẩn đoán. Ví dụ, khi Vision Transformer chẩn đoán viêm phổi trên ảnh X-quang ngực, Grad-CAM có thể làm nổi bật chính xác vùng phổi bị viêm nhiễm, giúp bác sĩ dễ dàng xác nhận hoặc bác bỏ chẩn đoán của AI. Điều này không chỉ tăng cường niềm tin vào hệ thống AI mà còn cung cấp một công cụ kiểm chứng mạnh mẽ, giúp phát hiện lỗi hoặc sai lệch trong quá trình học của mô hình, từ đó cải thiện tính an toàn và hiệu quả của chẩn đoán hình ảnh AI trong lâm sàng.

IV. Đánh Giá Hiệu Quả Kết Quả Nghiên Cứu Ứng Dụng Thực Tiễn Vision Transformer

Các nghiên cứu gần đây đã cung cấp bằng chứng rõ ràng về hiệu suất vượt trội và khả năng ứng dụng thực tiễn của Vision Transformer trong lĩnh vực y tế, đặc biệt là trong phân loại ảnh y tếdiễn giải ảnh y tế. Khi so sánh với các kiến trúc mạng nơ-ron tích chập (CNN) truyền thống, ViT thường cho thấy kết quả khả quan hơn, đặc biệt khi được huấn luyện trên các tập dữ liệu lớn và đa dạng. Điều này nhấn mạnh tiềm năng của Vision Transformer như một công cụ mạnh mẽ, có khả năng nâng cao đáng kể độ chính xác và độ tin cậy của chẩn đoán hình ảnh AI, từ đó hỗ trợ các quyết định lâm sàng.

Một trong những phát hiện quan trọng từ tài liệu nghiên cứu là tầm quan trọng của chiến lược tiền huấn luyện (pre-training) và tinh chỉnh (fine-tuning) cho ViT. Khi được tiền huấn luyện trên các tập dữ liệu tổng quát khổng lồ như ImageNet hoặc các tập dữ liệu y tế lớn (như CheXpert, VinDr-CXR), sau đó tinh chỉnh trên tập dữ liệu y tế chuyên biệt (ví dụ, ảnh X-quang ngực), mô hình Transformer có thể đạt được hiệu suất vượt trội so với các backbone CNN như ResNet-18, ResNet-34, ResNet-50. Khả năng học các biểu diễn mạnh mẽ và nắm bắt ngữ cảnh toàn cục của hình ảnh nhờ cơ chế tự chú ý (self-attention) là yếu tố then chốt tạo nên sự khác biệt này, cho phép ViT phát hiện các mối quan hệ phức tạp mà CNN có thể bỏ qua.

Hơn nữa, khả năng diễn giải ảnh y tế của Vision Transformer thông qua các công cụ như Grad-CAM đã được chứng minh là cực kỳ hữu ích trong môi trường lâm sàng. Các bản đồ nhiệt được tạo ra bởi Grad-CAM giúp các bác sĩ không chỉ thấy "kết quả" mà còn "lý do" đằng sau quyết định của AI, tăng cường niềm tin và sự chấp nhận của công nghệ. Ví dụ, trên ảnh X-quang ngực, ViT có thể không chỉ phân loại chính xác tình trạng bệnh mà còn chỉ rõ vị trí các vùng bất thường một cách rõ ràng, cung cấp thông tin quý giá để hỗ trợ chẩn đoán và lập kế hoạch điều trị. Những kết quả này khẳng định Vision Transformer không chỉ là một tiến bộ lý thuyết mà còn là một giải pháp thực tiễn, có tiềm năng cách mạng hóa học sâu y tếy học chính xác, mở ra kỷ nguyên mới cho chẩn đoán hình ảnh AI.

4.1. So Sánh Hiệu Suất Giữa ViT và CNN Trên Tập Dữ Liệu Y Tế Lớn

Các nghiên cứu gần đây đã tiến hành so sánh toàn diện giữa Vision Transformer (ViT) và các kiến trúc mạng nơ-ron tích chập (CNN) hàng đầu trên các tập dữ liệu phân loại ảnh y tế lớn. Kết quả cho thấy ViT, đặc biệt khi được tiền huấn luyện trên các tập dữ liệu lớn, thường vượt trội hơn CNN về độ chính xác, đặc biệt trong các tác vụ yêu cầu hiểu ngữ cảnh toàn cục hoặc phát hiện các dấu hiệu bệnh lý tinh vi. Ví dụ, trong các bài toán chẩn đoán nhiều bệnh trên ảnh X-quang ngực (như trên tập CheXpert hoặc VinDr-CXR), ViT đã chứng minh khả năng xử lý các phụ thuộc xa giữa các vùng ảnh hiệu quả hơn.

Trong một số trường hợp, ViT đạt được hiệu suất tốt hơn so với các mô hình CNN mạnh như ResNet-50 hoặc DenseNet-121. Sự khác biệt này càng rõ rệt khi kích thước ảnh đầu vào lớn, cho phép ViT tận dụng tối đa cơ chế tự chú ý (self-attention) để phân tích các mối quan hệ phức tạp. Tuy nhiên, ViT cũng đòi hỏi tài nguyên tính toán lớn hơn và thường cần một lượng dữ liệu huấn luyện đáng kể để phát huy hết tiềm năng. Khi dữ liệu hạn chế, các mô hình CNN vẫn có thể là lựa chọn cạnh tranh, hoặc ViT cần được tinh chỉnh kỹ lưỡng bằng các kỹ thuật học chuyển giao tiên tiến. Dù vậy, tiềm năng của ViT trong việc đạt được độ chính xác cao hơn cho chẩn đoán hình ảnh AI là không thể phủ nhận.

4.2. Minh Họa Khả Năng Diễn Giải Của ViT Với Ảnh X quang Ngực

Khả năng diễn giải ảnh y tế là một điểm mạnh nổi bật của Vision Transformer, đặc biệt khi kết hợp với các kỹ thuật như Grad-CAM. Trên ảnh X-quang ngực, khả năng này được minh họa rõ ràng. Khi ViT được sử dụng để phân loại ảnh y tế và phát hiện các bệnh lý như viêm phổi, tràn khí màng phổi, hoặc lao phổi, Grad-CAM sẽ tạo ra một bản đồ nhiệt (heatmap) chồng lên ảnh gốc. Bản đồ nhiệt này làm nổi bật các vùng hình ảnh mà mô hình Vision Transformer coi là quan trọng nhất để đưa ra chẩn đoán.

Ví dụ, nếu mô hình dự đoán viêm phổi, bản đồ nhiệt sẽ tập trung vào các khu vực có dấu hiệu thâm nhiễm hoặc đông đặc trong phổi. Điều này giúp bác sĩ dễ dàng xác nhận xem AI có đang chú ý đến các bằng chứng y tế hợp lý hay không. Ngược lại, nếu bản đồ nhiệt chỉ ra một vùng không liên quan đến bệnh lý, bác sĩ có thể nhanh chóng nhận ra sai sót của mô hình. Khả năng hiển thị trực quan này không chỉ tăng cường niềm tin vào chẩn đoán hình ảnh AI mà còn hỗ trợ quá trình học hỏi của các chuyên gia y tế, giúp họ hiểu rõ hơn về các đặc trưng hình ảnh mà AI đang học. Sự minh bạch này là bước tiến quan trọng để tích hợp thành công học sâu y tế vào thực hành lâm sàng.

V. Hướng Tới Tương Lai Triển Vọng Thách Thức Khi Ứng Dụng Vision Transformer

Việc ứng dụng Vision Transformer phân loại & diễn giải ảnh y tế đã mở ra một kỷ nguyên mới cho học sâu y tếchẩn đoán hình ảnh AI. Tiềm năng của ViT trong việc cải thiện độ chính xác chẩn đoán và cung cấp khả năng diễn giải ảnh y tế minh bạch là rất lớn, hứa hẹn mang lại những thay đổi sâu rộng trong chăm sóc sức khỏe. Tuy nhiên, để ViT thực sự trở thành một công cụ tiêu chuẩn trong lâm sàng, vẫn còn nhiều triển vọng cần khám phá và thách thức cần vượt qua.

Về mặt triển vọng, mô hình Transformer có khả năng mở rộng sang nhiều loại hình ảnh y tế khác ngoài X-quang, bao gồm MRI, CT scan, siêu âm, và các hình ảnh giải phẫu bệnh lý. Khả năng nắm bắt các mối quan hệ ngữ cảnh phức tạp của ViT có thể rất giá trị trong việc phát hiện các bệnh lý tinh vi hoặc đa dạng. Hơn nữa, việc tích hợp ViT với các mô hình đa phương thức, kết hợp dữ liệu hình ảnh với thông tin lâm sàng, gen hoặc văn bản y tế, có thể dẫn đến các hệ thống chẩn đoán toàn diện và cá nhân hóa hơn, hướng tới y học chính xác. Các biến thể của ViT, như Swin Transformer hay Hierarchical Vision Transformer, cũng đang được phát triển để tối ưu hóa hiệu suất và giảm tài nguyên tính toán, làm cho chúng phù hợp hơn với các ứng dụng y tế.

Tuy nhiên, thách thức khi ứng dụng ViT trong phân loại ảnh y tế cũng không hề nhỏ. Đầu tiên, nhu cầu về dữ liệu huấn luyện lớn và chất lượng cao vẫn là một rào cản đáng kể, đặc biệt khi dữ liệu y tế thường khó thu thập và gán nhãn. Thứ hai, chi phí tính toán cho việc huấn luyện và suy luận các mô hình ViT thường cao hơn so với CNN, đòi hỏi cơ sở hạ tầng mạnh mẽ. Thứ ba, mặc dù các kỹ thuật như Grad-CAM giúp diễn giải ảnh y tế, vẫn cần có các phương pháp diễn giải mạnh mẽ hơn, đáng tin cậy hơn để xây dựng niềm tin tuyệt đối cho bác sĩ. Cuối cùng, việc tích hợp các hệ thống AI vào quy trình làm việc lâm sàng hiện có và đảm bảo tuân thủ các quy định y tế là một thách thức lớn, cần sự hợp tác chặt chẽ giữa các nhà khoa học dữ liệu, kỹ sư và chuyên gia y tế.

5.1. Tiềm Năng Mở Rộng của Vision Transformer Trong Các Lĩnh Vực Y Tế Khác

Tiềm năng mở rộng của Vision Transformer (ViT) trong y tế vượt ra ngoài phân loại ảnh y tế X-quang. Kiến trúc mạnh mẽ của ViT, với khả năng xử lý các phụ thuộc dài hạn và nắm bắt ngữ cảnh toàn cục, có thể được ứng dụng Vision Transformer phân loại & diễn giải ảnh y tế trong nhiều loại hình ảnh và tác vụ khác. Ví dụ, trong chẩn đoán ung thư, ViT có thể được áp dụng để phân tích ảnh MRI hoặc CT scan, giúp phát hiện sớm các khối u và đánh giá giai đoạn bệnh. Trong bệnh lý học, ViT có thể hỗ trợ phân loại các mẫu mô bệnh học, giúp xác định loại ung thư và mức độ ác tính.

Hơn nữa, ViT có thể đóng vai trò quan trọng trong việc phân tích các hình ảnh y tế 3D, chẳng hạn như dữ liệu từ CT và MRI, bằng cách mở rộng kiến trúc để xử lý khối dữ liệu thay vì chỉ ảnh 2D. Khả năng tích hợp thông tin từ nhiều nguồn (multimodal learning) cũng là một hướng đi đầy hứa hẹn, nơi ViT có thể kết hợp dữ liệu hình ảnh với bệnh sử, kết quả xét nghiệm gen và thông tin lâm sàng khác để đưa ra chẩn đoán chính xác hơn và cá nhân hóa điều trị. Điều này sẽ thúc đẩy mạnh mẽ sự phát triển của học sâu y tế và hướng tới một kỷ nguyên y học chính xác hơn.

5.2. Các Yếu Tố Cần Cải Thiện Để Tối Ưu Vision Transformer Trong Chẩn Đoán Lâm Sàng

Để Vision Transformer thực sự trở thành công cụ tối ưu trong chẩn đoán lâm sàng và phân loại ảnh y tế, một số yếu tố cần được cải thiện. Đầu tiên, cần phát triển các phương pháp huấn luyện ViT hiệu quả hơn với các tập dữ liệu y tế có kích thước hạn chế. Điều này bao gồm các kỹ thuật tăng cường dữ liệu tiên tiến, học chuyển giao từ các mô hình đã được tiền huấn luyện trên dữ liệu y tế lớn, và các chiến lược tinh chỉnh đặc biệt. Thứ hai, tối ưu hóa hiệu suất tính toán là cần thiết. Mô hình Transformer có thể rất nặng về tài nguyên, cần nghiên cứu các kiến trúc ViT nhẹ hơn hoặc các phương pháp suy luận hiệu quả hơn để triển khai trong môi trường y tế có tài nguyên hạn chế.

Thứ ba, khả năng diễn giải ảnh y tế của ViT cần được nâng cao hơn nữa, không chỉ dừng lại ở bản đồ nhiệt Grad-CAM. Cần có các phương pháp giải thích sâu hơn về "lý do" mô hình đưa ra quyết định, đặc biệt là khi đối mặt với các trường hợp phức tạp hoặc hiếm gặp. Cuối cùng, việc tiêu chuẩn hóa và đánh giá chặt chẽ hiệu suất của ViT trên các bộ dữ liệu y tế đa dạng và quy mô lớn là rất quan trọng để đảm bảo tính tin cậy và khả năng tổng quát hóa của mô hình trước khi triển khai rộng rãi vào thực hành lâm sàng. Việc giải quyết các thách thức khi ứng dụng ViT trong phân loại ảnh y tế này sẽ quyết định mức độ thành công của chẩn đoán hình ảnh AI trong tương lai.

Tóm tắt và mô tả trên trang này được tạo với sự hỗ trợ của AI. Nếu bạn thấy nội dung không chính xác hoặc có vấn đề, vui lòng Báo lỗi nội dung.

14/03/2026
Ứng dụng mô hình chuyển đổi thị giác cho bài toán phân loại và diễn giải ảnh y tế

Trích đoạn nội dung tài liệu

Chương 1: Tổng quan Chương này tập trung giới thiệu khái quát về đề tài, mục tiêu, phương pháp, phạm vi, bố cục chung của đề tài nghiên cứu. - Chương 2: Cơ sở lý thuyết Chương này cung cấp những kiến thức về ảnh y tê, mạng nơ-ron, quá trình hình thành và phát triển của mạng nơ-ron tích chập, những nghiên cứu về kiến trúc Transformer trong xử lý ngôn ngữ tự nhiên, nguyên lý của kiến trúc Vision Transformer 8 và kỹ thuật Grad-CAM trong diễn giải mô hình. - Chương 3: Phương pháp đề xuất Chương này đề xuất phương pháp tổ chức dữ liệu cho quá trình huấn luyện, xây dựng các thí nghiệm để đánh giá mô hình, cung cấp các mô hình sử dụng và nêu ra các phương thức đánh giá thí nghiệm. - Chương 4: Kết quả - nhận xét - đánh giá Chương này trình bày kết quả các thí nghiệm đồng thời trực quan khả năng diễn giải mô hình cùng với những nhận xét đánh giá.

- Chương 5: Kết luận và kiến nghị Chương này đưa ra kết luận tổng kết cho đề tài nghiên cứu và đưa ra một số đề xuất mang tính xây dựng. 9 Chương 2: CƠ SỞ LÝ THUYẾT 2.1 Giới thiệu ảnh X-quang 2.1 Ảnh số Trong xử lý ảnh, mỗi ảnh được xem là một ma trận các điểm ảnh gọi là pixel. Mỗi pixel diễn tả màu sắc nhất định tại một tọa độ duy nhất trong ảnh. Bằng các phương pháp đo lường thống kê ta có thể biến đổi ảnh thành ảnh khác tương tự ảnh gốc.

Có hai dạng ảnh quan trọng trong các ứng dụng xử lý ảnh là ảnh màu và ảnh xám [12]. Một ảnh màu (ví dụ minh họa như hình 2.1) thường được tạo thành từ nhiều pixel mà trong đó mỗi pixel được biểu diễn bởi ba giá trị tương ứng với các mức trong các kênh màu đỏ (Red), xanh lá (Green) và xanh dương (Blue) tại một vị trí cụ thể. Các kênh màu Red, Green và Blue là những màu cơ bản mà từ đó có thể tạo ra các màu khác nhau bằng phương pháp pha trộn. Với việc chuẩn hóa 256 mức cho từng kênh màu chính, từ đó có thể thấy một pixel màu có thể biểu điễn được một trong 256 * 256 * 256 =16777216 màu khác nhau.1: Ví dụ về ảnh màu RGB.

Một ảnh xám (ví dụ minh họa như hình 2.2) được xây dựng từ nhiều pixel mà tại đó biểu diễn một giá trị nhất định tương ứng với một mức xám. Những mức xám này trải dài trong một khoảng từ đen sang trắng thông thường là 256 mức xám khác nhau theo tiêu chuẩn. Ngoài ra còn có ảnh nhị phân sử dụng một bit để biểu diễn pixel. Một pixel chỉ có hai trạng thái 0 và 1 ứng với đen và trắng.

Do đặc tính này nên ảnh nhị phân ít dược ứng dụng.2: Ví dụ về ảnh xám.2 Ảnh X-quang Hình ảnh y tế là kỹ thuật và quy trình chụp ảnh bên trong cơ thể để phân tích lâm sàng và can thiệp y tế, cũng như thể hiện trực quan chức năng của một số cơ quan hoặc mô. Hình ảnh y tế tìm cách diễn giải các cấu trúc bên trong bị che giấu bởi da và xương, cũng như để chẩn đoán và điều trị bệnh. Hình ảnh y tế cũng thiết lập một cơ sở dữ liệu về giải phẫu và sinh lý học bình thường để có thể xác định các bất thường [13]. Ảnh chụp X-quang ra đời sớm nhất và đóng vai trò quang trọng trong chuẩn đoán hình ảnh y tế.

Kỹ thuật này sử dụng khả năng xuyên thấu của tia X và mức độ hập thụ của các mô để thu được hình chiếu của các cơ quan trong cơ thể. Ảnh X-quang được sử dụng để xác định loại và mức độ gãy xương cũng như để phát hiện những thay đổi bệnh lý ở phổi. Ảnh X-quang (như hình 2.3) thường được lưu trữ dưới định dạng DICOM [14]. DICOM (Digital Imaging and Communications in Medicine) là tiêu chuẩn để truyền thông và quản lý thông tin hình ảnh y tế và dữ liệu liên quan.

DICOM được sử dụng phổ biến nhất để lưu trữ và truyền hình ảnh y tế cho phép tích hợp các thiết bị hình ảnh y tế như máy quét, máy chủ, máy trạm, máy in, phần cứng mạng, hệ thống lưu trữ và truyền hình ảnh (PACS) từ nhiều nhà sản xuất. DICOM nhóm thông tin thành các tập dữ liệu. Ví dụ: một tệp ảnh X-quang phổi có thể chứa ID bệnh nhân trong tệp, do đó, hình ảnh không bao giờ có thể bị tách rời khỏi thông tin này do nhầm lẫn. Đối tượng dữ liệu DICOM bao gồm một số thuộc tính, bao gồm các mục như tên, ID,.

và cũng có một thuộc tính đặc biệt chứa dữ liệu pixel hình ảnh. Để thuận tiện cho quá trình huấn luyện mô hình ta thường chuyển định dạng ảnh y tế về các định dạng ảnh thông thường, quá 11 trình này được thực hiện trong bước chuẩn bị bộ dữ liệu.3: Ảnh chụp X-quang vùng ngực.2 Giới thiệu phần mềm 2.1 Ngôn ngữ lập trình Python Python là một ngôn ngữ khá cũ được tạo ra bởi Guido Van Rossum. Thiết kế bắt đầu vào cuối những năm 1980 và được phát hành lần đầu tiên vào tháng 2 năm 1991.0 được phát hành vào tháng 10 năm 2000, với nhiều tính năng mới.0, được phát hành vào tháng 12 năm 2008, với nhiều tính năng chính của nó được hỗ trợ cho Python 2. Các bản phát hành của Python 3 bao gồm tiện ích, tự động hóa việc dịch mã Python 2 sang Python 3.

Python là một ngôn ngữ lập trình đa mô hình. Lập trình hướng đối tượng và lập trình có cấu trúc được hỗ trợ đầy đủ [15]. Python là ngôn ngữ có nhiều tính năng được sử dụng phổ biến rộng rãi trong nhiều lĩnh vực đặc biệt là trong AI và học máy. Những Lý do giúp Python được sử dụng phổ biến nhất trong các dự án Học máy và dự án AI bao gồm: • Tính đơn giản và nhất quán.

• Cho phép truy cập vào các thư viện và framework tuyệt vời cho AI và học máy. • Tính linh hoạt. • Độc lập nền tảng. 12 • Và cộng đồng rộng lớn.

Python có một kho công nghệ phong phú bao gồm rất nhiều thư viện cho trí tuệ nhân tạo và học máy. Dưới đây là một số thư viện, framework phổ biến: Keras, TensorFlow, Scikit-learn cho học máy, NumPy cho phân tích dữ liệu và tính toán khoa học hiệu năng cao, SciPy cho advanced computing, Pandas để phân tích dữ liệu mục đích chung, Seaborn cho trực quan hóa dữ liệu, … Python có một cộng đồng vô cung lớn có thể hỗ trợ và truy cập kho tài liệu vô cùng dễ dàng.2 Thư viện Pytorch PyTorch là một framework học máy mã nguồn mở dựa trên thư viện Torch được sử dụng cho các ứng dụng như thị giác máy tính và xử lý ngôn ngữ tự nhiên, chủ yếu được phát triển bởi Meta AI. Mặc dù giao diện Python được trau chuốt hơn và là trọng tâm phát triển chính, PyTorch cũng có giao diện C ++ [16].Pytorch tập trung vào 2 khả năng chính: • Một sự thay thế cho bộ thư viện numpy để tận dụng sức mạnh tính toán của GPU. • Một platform Deep learning phục vụ trong nghiên cứu, mang lại sự linh hoạt và tốc độ.4: Workflow một quá trình huấn luyện mô hình trên Pytorch.

Một trong những cốt lõi của Pytorch là tensor. Tensor là một mảng đa chiều tương 13 tự như mảng numpy nhưng có thể hoạt động trên GPU, điều này giúp tăng đáng kể hiệu suất hệ thống. Pytorch cung cấp nhiều mô-đun hỗ trợ cho mô hình học sâu. Các mô-đun này được tổ chức theo một workflow giúp cho việc triển khai sử dụng thuận tiện.4, Pytorch có thể cung cấp các hỗ trợ cho một quá trình huấn luyện mô hình với các bước: - Bước 1: Tổ chức dữ liệu và tải dữ liệu vào mô hình huấn luyện.

Pytorch cung cấp mô-đun “torch.data” để hỗ trợ việc này. Hai thư viện chính trong mô-đun này là Dataset và Dataloader. Dataset sử dụng kiểu dữ liệu Tensor để tổ chức tùy chỉnh bộ dữ liệu, Dataloader sử dụng để tải bộ dữ liệu cho quá trình huấn luyện và kiểm tra. - Bước 2: Khởi tạo mô hình.

Ta có thể sử dụng mô hình có sẵn hoặc có thể tự tạo một mô hình cho ứng dụng của mình. Pytorch cung cấp mô-đun “torch.nn” có đầy đủ các lớp để tạo nên mạng nơ-ron như lớp “fully connected”, “convolution”, các hàm kích hoạt và các hàm tổn thất. - Bước 3: Tiến hành huấn luyện mô hình. Sau khi đã có tập dữ liệu và mô hình cần có kỹ thuật cập nhật trọng số và bias để tiến hành tiến hành huấn luyện, kỹ thuật này có trong mô-đun “torch.

Đặc biệt Pytorch còn hỗ trợ tính gradient tự động trong quá trình huấn luyện bằng mô-đun “torch. - Bước 4: Chạy đánh giá mô hình. - Bước 5, 6: Sau khi kết quả mô hình đạt như mong muốn có thể lưu trữ để triển khai ứng dụng. Pytorch cung cấp mô-đun “torch.hub” hỗ trợ lưu trữ công khai mô hình trên github để phục vụ nghiên cứu.

Mô-đun “torch.onnx” hoặc “torch.jit” cung cấp khả năng chuyển đổi mô hình sang các định dạng khác để dàng triển khai ứng dụng.3 Giới thiệu mạng nơ-ron nhân tạo Mạng nơ-ron nhân tạo [17] dựa trên một tập hợp các đơn vị hoặc nút được kết nối được gọi là tế bào thần kinh nhân tạo, mô hình hóa tương tự các tế bào thần kinh trong não sinh học. Mỗi kết nối giống như khớp thần kinh trong não sinh học có thể truyền tín hiệu đến các tế bào thần kinh khác. Một tế bào nơ-ron nhân tạo nhận tín hiệu sau đó xử lý chúng và có thể phát tín hiệu cho các nơ-ron thần kinh kết nối với nó. "Tín hiệu" tại một kết nối là một số thực và đầu ra của mỗi nơ-ron được tính bằng một số hàm phi tuyến tính của tổng các đầu vào của nó.

Các kết nối được gọi là các cạnh. Các tế bào thần kinh và các cạnh thường có trọng số điều chỉnh khi quá trình học tập diễn ra. Trọng số làm tăng hoặc giảm cường độ của tín hiệu tại một kết nối. Nơ-ron thần kinh 14 có thể có ngưỡng sao cho tín hiệu chỉ được gửi đi khi tín hiệu tổng hợp vượt qua ngưỡng đó.

Thông thường, các tế bào thần kinh được tập hợp thành các lớp. Các lớp khác nhau có thể thực hiện các phép biến đổi khác nhau trên các đầu vào của chúng. Tín hiệu đi từ lớp đầu tiên (lớp input), đến lớp cuối cùng (lớp output), có thể sau khi đi qua các lớp nhiều lần gọi là lan truyền thuận. Mỗi nơ-ron sẽ nhận tất cả đầu vào từ nơ-ron ở lớp trước đó và sử dụng một hàm kích hoạt để tính toán đầu ra.

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ