Ứng Dụng Mô Hình Học Sâu Cho Bài Toán Phân Loại Các Bất Thường Trên X-Quang Vùng Ngực

Khóa luận nghiên cứu ứng dụng mô hình học sâu trong phân loại bất thường ảnh chụp X-quang vùng ngực, góp phần nâng cao chất lượng chẩn đoán.

• Tác giả: Nguyễn Tường Minh
• Người hướng dẫn: ThS. Nguyễn Thị Kim Phụng
• Trường học: Đại học Quốc gia TP. Hồ Chí Minh
• Chuyên ngành: Thương mại điện tử
• Đề tài: Ứng Dụng Học Sâu Trong Phân Loại Các Bất Thường Trên X-Quang Vùng Ngực
• Loại tài liệu: khoa luận tốt nghiệp
• Năm xuất bản: 2023
• Địa điểm: TP. Hồ Chí Minh

Mục lục chi tiết

• LỜI CÁM ƠN
• TÓM TẮT KHOÁ LUẬN
• 1. Chương 1: MỞ ĐẦU
• 1.1. Động lực nghiên cứu
• 1.2. Thách thức
• 1.3. Mục tiêu và phương pháp thực hiện
• 2. Chương 2: TỔNG QUAN
• 2.1. Các bệnh lý được quan tâm
• 2.2. Một số vấn đề còn tồn tại. Hướng giải quyết
• 3. Chương 3: CƠ SỞ LÝ THUYẾT
• 3.1. Kỹ thuật học sâu. Kiến trúc mạng tích chập. Trích xuất đặc trưng
• 3.2. Các lớp trong mạng tích chập. Lớp tích chập
• 3.3. Lớp lấy mẫu
• 3.4. Lớp Kết nối đầy đủ - Fully connected (FC). Các mô hình mạng tích chập
• 3.5. Học chuyên tiếp trong bài toán phân loại ảnh y khoa. Các kỹ thuật được sử dụng để huấn luyện mô hình. Global Average Pooling
• 3.6. Focal Loss function
• 4. Chương 4: PHƯƠNG PHÁP THỰC NGHIỆM
• 4.1. Bộ dữ liệu sử dụng. Phân bố bệnh lý trong bộ dữ liệu VinDr-CXR. Các trường hợp đa nhãn trong bộ dữ liệu
• 4.2. Phương pháp thực nghiệm. Tiền xử lý bộ dữ liệu. Tăng cường dữ liệu
• 4.3. Điều chỉnh thuộc tính của màu sắc
• 4.4. Phương pháp đánh giá được sử dụng trong đề tài. Precision, Recall, F1-score và Accuracy. ROC curve và AUROC
• 4.5. Tổ chức dữ liệu. Cấu hình thực nghiệm (Configuration)
• 4.6. Quá trình huấn luyện mô hình. Cấu trúc của lớp phân loại Classifier trong các mô hình. Vấn đề freeze layers trong hướng tiếp cận Fine-tuning. Kịch bản thực nghiệm
• 4.7. Thứ tự tiêu chí đánh giá để đưa ra nhận xét. Kết quả thực nghiệm và nhận xét trên tập Validation. Tổng hợp kết quả thực nghiệm của Nhóm 1 (Nhóm 1/N1). Tổng hợp kết quả thực nghiệm của Nhóm 3 (Nhóm 3/N3). Nhận xét kết quả thực nghiệm đạt được. Kết quả đánh giá và nhận xét trên tập Test
• 5. Chương 5: TỔNG KẾT
• 5.1. Kết quả đạt được
• 5.2. Về bộ dữ liệu VinDr-CXR. Về các mô hình mạng tích chập
• 5.3. Một số kết quả khác. Các hạn chế và hướng đi trong tương lai
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng quan về ứng dụng học sâu trong phân loại bất thường trên X quang vùng ngực

Ứng dụng học sâu trong phân loại các bất thường trên X-quang vùng ngực đang trở thành một xu hướng quan trọng trong y tế hiện đại. Công nghệ này giúp cải thiện độ chính xác trong việc phát hiện và chẩn đoán các bệnh lý phổi. Các mô hình học sâu, đặc biệt là mạng nơ-ron tích chập (CNN), đã chứng minh khả năng vượt trội trong việc phân tích hình ảnh y tế. Việc áp dụng machine learning trong chẩn đoán không chỉ tiết kiệm thời gian mà còn nâng cao hiệu quả điều trị cho bệnh nhân.

1.1. Khái niệm về học sâu và ứng dụng trong y tế

Học sâu là một nhánh của machine learning sử dụng các mạng nơ-ron để học từ dữ liệu lớn. Trong y tế, nó được áp dụng để phân tích hình ảnh, giúp phát hiện các bất thường như nốt phổi, tràn dịch màng phổi, và nhiều bệnh lý khác.

1.2. Tầm quan trọng của phân loại bất thường trên X quang

Phân loại bất thường trên X-quang vùng ngực là rất quan trọng trong việc chẩn đoán sớm các bệnh lý nghiêm trọng. Việc phát hiện kịp thời có thể cứu sống bệnh nhân và giảm thiểu chi phí điều trị.

II. Thách thức trong việc phân loại bất thường trên X quang vùng ngực

Mặc dù có nhiều tiến bộ, việc phân loại bất thường trên X-quang vẫn gặp phải nhiều thách thức. Một trong những vấn đề lớn nhất là sự đa dạng và phức tạp của các dấu hiệu bất thường. Các mô hình học sâu cần phải được huấn luyện trên một lượng lớn dữ liệu để đạt được độ chính xác cao. Tuy nhiên, dữ liệu y tế thường không đủ phong phú và có thể bị mất cân bằng giữa các loại bệnh lý.

2.1. Sự đa dạng của các bất thường trên X quang

Các bất thường trên X-quang có thể xuất hiện dưới nhiều hình thức khác nhau, từ nốt phổi đến tràn dịch màng phổi. Điều này làm cho việc phân loại trở nên khó khăn hơn, đặc biệt khi các dấu hiệu này có thể chồng chéo lên nhau.

2.2. Vấn đề mất cân bằng dữ liệu trong huấn luyện mô hình

Mất cân bằng dữ liệu là một thách thức lớn trong việc huấn luyện mô hình học sâu. Một số bệnh lý có thể có rất ít hình ảnh, dẫn đến việc mô hình không thể học được các đặc trưng quan trọng.

III. Phương pháp học sâu trong phân loại bất thường trên X quang

Để giải quyết các thách thức trong phân loại bất thường, nhiều phương pháp học sâu đã được phát triển. Các mô hình như DenseNet, ResNet, và VGGNet đã được áp dụng để cải thiện độ chính xác trong việc phân loại. Kỹ thuật transfer learning cũng được sử dụng để tận dụng các mô hình đã được huấn luyện trước đó, giúp tiết kiệm thời gian và tài nguyên.

3.1. Kiến trúc mạng tích chập trong phân loại hình ảnh y tế

Mạng tích chập (CNN) là một trong những kiến trúc phổ biến nhất trong phân loại hình ảnh y tế. Nó giúp trích xuất các đặc trưng quan trọng từ hình ảnh, từ đó cải thiện độ chính xác của mô hình.

3.2. Kỹ thuật transfer learning trong huấn luyện mô hình

Kỹ thuật transfer learning cho phép sử dụng các mô hình đã được huấn luyện trên các tập dữ liệu lớn để cải thiện hiệu suất trên các tập dữ liệu nhỏ hơn. Điều này rất hữu ích trong y tế, nơi mà dữ liệu có thể hạn chế.

IV. Ứng dụng thực tiễn và kết quả nghiên cứu trong phân loại bất thường

Nhiều nghiên cứu đã chỉ ra rằng việc áp dụng học sâu trong phân loại bất thường trên X-quang vùng ngực đã mang lại kết quả khả quan. Các mô hình học sâu không chỉ giúp phát hiện chính xác các bệnh lý mà còn giảm thiểu thời gian chẩn đoán. Kết quả từ các nghiên cứu cho thấy độ chính xác của các mô hình này có thể đạt trên 90%.

4.1. Kết quả thực nghiệm từ các nghiên cứu

Nhiều nghiên cứu đã chứng minh rằng các mô hình học sâu có thể đạt được độ chính xác cao trong việc phân loại các bất thường trên X-quang. Ví dụ, một nghiên cứu gần đây cho thấy mô hình DenseNet đạt được độ chính xác lên đến 95%.

4.2. Ứng dụng trong thực tiễn lâm sàng

Việc áp dụng các mô hình học sâu trong thực tiễn lâm sàng đã giúp các bác sĩ chẩn đoán nhanh chóng và chính xác hơn. Điều này không chỉ cải thiện chất lượng chăm sóc sức khỏe mà còn giảm thiểu chi phí điều trị.

V. Kết luận và tương lai của ứng dụng học sâu trong phân loại bất thường

Ứng dụng học sâu trong phân loại bất thường trên X-quang vùng ngực đang mở ra nhiều cơ hội mới trong y tế. Mặc dù còn nhiều thách thức, nhưng với sự phát triển không ngừng của công nghệ, tương lai của lĩnh vực này hứa hẹn sẽ mang lại nhiều tiến bộ đáng kể. Việc cải thiện độ chính xác và giảm thiểu thời gian chẩn đoán sẽ là mục tiêu hàng đầu trong nghiên cứu tiếp theo.

5.1. Hướng đi tương lai cho nghiên cứu

Nghiên cứu trong lĩnh vực này sẽ tiếp tục tập trung vào việc cải thiện độ chính xác của các mô hình học sâu và phát triển các phương pháp mới để xử lý dữ liệu y tế.

5.2. Tác động của công nghệ đến ngành y tế

Công nghệ học sâu sẽ tiếp tục có tác động lớn đến ngành y tế, giúp cải thiện chất lượng chăm sóc sức khỏe và nâng cao hiệu quả điều trị cho bệnh nhân.

Nội dung chính

Bối cảnh và vấn đề nghiên cứu

Chụp X-quang lồng ngực là phương pháp chẩn đoán hình ảnh y khoa phổ biến nhằm phát hiện sớm các tổn thương và bệnh lý liên quan đến tim, phổi và các cơ quan lân cận. Tuy nhiên, việc phân tích phim chụp đòi hỏi thời gian và trình độ chuyên môn cao của các bác sĩ chuyên khoa chẩn đoán hình ảnh. Nhằm hỗ trợ quy trình chẩn đoán (Computer-aided Detection/Diagnosis - CAD), việc ứng dụng các kỹ thuật trí tuệ nhân tạo, cụ thể là học sâu (Deep Learning) và thị giác máy tính, đã trở thành một hướng nghiên cứu cấp thiết.

Trong thực tế lâm sàng, phổi của một bệnh nhân có thể xuất hiện đồng thời nhiều tổn thương khác nhau trên cùng một phim chụp (như tràn dịch màng phổi kết hợp phình động mạch chủ, xơ phổi hoặc bóng mờ). Do đó, bài toán đặt ra trong nghiên cứu là bài toán phân loại đa nhãn (Multi-Label Classification) thay vì phân loại đơn nhãn hay đa lớp truyền thống. Thách thức lớn nhất của bài toán này bao gồm:

• Các đặc trưng hình ảnh của từng bệnh lý có xu hướng nằm lẫn lộn, đan xen hoặc chồng chéo lên nhau, gây khó khăn cho mạng nơ-ron trong việc trích xuất đặc trưng độc lập cho từng nhãn.
• Sự mất cân bằng nghiêm trọng về số lượng mẫu giữa các nhóm bệnh lý và sự giới hạn về số lượng ảnh đặc trưng trong các tập dữ liệu y tế, dễ dẫn đến hiện tượng quá khớp (overfitting).

Để giải quyết các rào cản trên, khóa luận xác định 4 nhiệm vụ nghiên cứu cụ thể:

1. Tìm hiểu, phân tích đặc điểm phân bố và cấu trúc của bộ dữ liệu ảnh X-quang lồng ngực VinDr-CXR.
2. Hệ thống hóa cơ sở lý thuyết về mạng nơ-ron tích chập (Convolutional Neural Network - CNN) ứng dụng trong phân loại hình ảnh.
3. Nghiên cứu kỹ thuật học chuyển tiếp (Transfer Learning) với hai hướng tiếp cận chính: Trích xuất đặc trưng (Feature Extraction) và Tinh chỉnh mô hình (Fine-tuning).
4. Huấn luyện, đánh giá và so sánh thực nghiệm hiệu năng của các mô hình mạng tích chập sâu trên bộ dữ liệu VinDr-CXR nhằm tìm ra cấu hình tối ưu cho bài toán phân loại đa nhãn.

Đối tượng và phạm vi nghiên cứu:

• Đối tượng nghiên cứu: Phim chụp X-quang lồng ngực tư thế trước - sau và các mô hình học sâu phân loại đa nhãn phục vụ nhận diện 8 nhóm bệnh lý/tổn thương vùng ngực.
• Phạm vi nghiên cứu: Dữ liệu trích xuất từ bộ dữ liệu mở VinDr-CXR (Việt Nam) gồm 15.000 ảnh gốc, được chọn lọc thành tập thực nghiệm 1.600 ảnh; nghiên cứu thực hiện tại Trường Đại học Công nghệ Thông tin – Đại học Quốc gia TP. Hồ Chí Minh năm 2023.

---

Cơ sở lý thuyết và phương pháp

Khóa luận xây dựng trên nền tảng kỹ thuật học sâu và xử lý ảnh y khoa với các mô hình và phương pháp luận chính:

Khung lý thuyết và mô hình kiến trúc:

• Mạng nơ-ron tích chập (CNN): Khóa luận phân tích cấu trúc đa tầng gồm lớp tích chập (Convolutional layer) với các bộ lọc kích thước nhỏ $3 \times 3$ để tạo vùng tiếp nhận (receptive field) lớn, lớp lấy mẫu (Pooling layer - Max pooling và Average pooling) để giảm số chiều và chi phí tính toán, cùng lớp kết nối đầy đủ (Fully-Connected layer) sử dụng hàm kích hoạt ReLU và Sigmoid ở đầu ra cho từng nhãn nhị phân độc lập.
• Các kiến trúc mạng tích chập tiêu biểu:
  • VGGNet (VGG-16): Mạng tích chập sâu sử dụng chuỗi các bộ lọc $3 \times 3$ liên tiếp với bước nhảy bằng 1.
  • ResNet (ResNet-152v2): Ứng dụng kỹ thuật kết nối tắt (skip connection/shortcut connection) để bảo toàn thông tin và giải quyết hiện tượng biến mất đạo hàm (vanishing gradient descent) khi mạng đạt độ sâu 152 lớp.
  • DenseNet (DenseNet-201): Sử dụng phép nối chuỗi đặc trưng (concatenation) kết nối trực tiếp tất cả các lớp trong từng Dense Block, kết hợp các Transition Layer (gồm Batch Normalization, tích chập $1 \times 1$ và Average Pooling $2 \times 2$) để chuẩn hóa kích thước bản đồ đặc trưng.
• Kỹ thuật học chuyển tiếp (Transfer Learning): Tái sử dụng các trọng số đã được tiền huấn luyện trên tập dữ liệu ImageNet quy mô lớn, triển khai theo hai hướng tiếp cận Feature Extraction (đóng băng trọng số các tầng trích xuất) và Fine-tuning (cho phép cập nhật trọng số ở các tầng sâu).
• Các kỹ thuật bổ trợ huấn luyện: Dropout ($p=0.5$) nhằm giảm sự phụ thuộc lẫn nhau giữa các nơ-ron; Global Average Pooling 2D (GAP2D) thay thế các lớp Fully-Connected cổ điển nhằm giảm lượng tham số; hàm mất mát Focal Loss ($\alpha, \gamma$) cải tiến từ Cross-Entropy nhằm giảm thiểu ảnh hưởng của các mẫu dễ phân loại và tập trung vào các mẫu khó, giải quyết tình trạng mất cân bằng nhãn.

Phương pháp nghiên cứu thực tế:

• Phương pháp thực nghiệm định lượng: Xây dựng quy trình xử lý dữ liệu có kiểm soát, huấn luyện mô hình theo các kịch bản thực nghiệm khác nhau (Nhóm 1, Nhóm 3) và đo lường kết quả bằng các chỉ số thống kê toán học.
• Phương pháp tiền xử lý và tối ưu: Áp dụng kỹ thuật giảm mẫu (Undersampling), tăng cường dữ liệu (Data Augmentation: lật ảnh, điều chỉnh độ sáng, độ tương phản, màu sắc) và tối ưu hóa ngưỡng phân loại (Optimal Thresholding).
• Hệ thống độ đo đánh giá: Precision, Recall, F1-score (gồm Macro F1 và Weighted F1), Accuracy, ROC curve, diện tích dưới đường cong ROC (AUROC) và Hamming Loss.

Nguồn dữ liệu: Nghiên cứu sử dụng bộ dữ liệu mở VinDr-CXR do Viện Nghiên cứu Dữ liệu lớn (VinBigData) công bố năm 2020. Đây là bộ dữ liệu X-quang ngực lớn nhất tại Việt Nam tại thời điểm công bố, gồm 15.000 ảnh chụp thu thập từ Bệnh viện Trung ương Quân đội 108 và Bệnh viện Đại học Y Hà Nội, được gán nhãn bởi các bác sĩ chẩn đoán hình ảnh.

---

Nội dung chính theo từng chương

Chương 1: Mở đầu

Chương 1 thiết lập cơ sở khoa học và động lực nghiên cứu của đề tài. Tác giả phân tích tính cấp thiết của việc tự động hóa quá trình phát hiện tổn thương phổi tại Việt Nam. Điểm nhấn của chương là việc làm rõ sự khác biệt bản chất giữa bài toán phân loại đa lớp (multi-class) và phân loại đa nhãn (multi-label). Trong phân loại đa nhãn, mỗi bệnh lý được mô hình hóa như một bài toán phân loại nhị phân độc lập nhưng các nhãn vẫn có sự tương quan lâm sàng với nhau. Chương này cũng phân tích các thách thức lớn như hiện tượng các tổn thương xuất hiện đan xen trên phim chụp và tình trạng mất cân bằng dữ liệu nghiêm trọng, từ đó vạch ra 4 mục tiêu nghiên cứu và cấu trúc 5 chương của khóa luận.

Chương 2: Tổng quan

Chương 2 trình bày chi tiết về dấu hiệu hình ảnh học của 8 bệnh lý phổi được quan tâm:

• Nodule/Mass (Nốt/U phổi): Tổn thương dạng mô đặc hình tròn, đường kính $< 3\text{ cm}$ đối với nốt và $> 3\text{ cm}$ đối với u.
• Pleural effusion (Tràn dịch màng phổi): Xuất hiện bóng mờ đồng nhất ở đáy phổi làm mất góc sườn hoành (thể lượng ít) hoặc đẩy mô xung quanh sang phổi đối diện (thể lượng nhiều).
• Pulmonary fibrosis (Xơ phổi): Tổn thương mô mãn tính gây xơ hóa, hình ảnh bóng mờ dạng nốt lưới.
• Cardiomegaly (Chứng tim to): Kích thước bóng tim phì đại hoặc giãn rộng.
• Lung opacity (Phổi có vết mờ): Vùng tổn thương mờ ảo dạng đám bông, chia thành lành tính (bờ đều, $< 3\text{ cm}$) hoặc ác tính (bờ không đều, $> 3\text{ cm}$).
• Pleural thickening (Dày dính màng phổi): Đám mờ thuần nhất có ranh giới rõ, có thể gây co kéo vòm hoành hoặc gian sườn.
• Aortic enlargement (Phình động mạch chủ): Đường kính động mạch chủ giãn rộng gấp 1,5 lần bình thường (dạng túi hoặc hình thoi).
• Other lesion (Các tổn thương khác) và nhóm phim không có dấu hiệu bất thường (No finding).

Chương 2 cũng tổng kết các nghiên cứu tiền đề tiêu biểu: nghiên cứu của Miguel Romero và cộng sự (2020) chứng minh hiệu quả của học chuyển tiếp trên tập dữ liệu nhỏ NIH ChestX-ray14 (1.600 ảnh) với mô hình DenseNet-121 và ResNet-50; nghiên cứu của Azza El-Fiky và cộng sự (2021) trên tạp chí ICEEM áp dụng ResNet-50 trên dữ liệu 14 nhãn đạt AUROC 0,911 và F1-score 0,66. Từ đó, nhóm tác giả chỉ ra khoảng trống nghiên cứu trên bộ dữ liệu thực tế tại Việt Nam (VinDr-CXR) và xác định hướng giải quyết.

Chương 3: Cơ sở lý thuyết

Chương 3 đi sâu vào nguyên lý toán học và kiến trúc học sâu:

• Trình bày chi tiết phép toán tích chập và các bộ lọc đặc biệt (Identity, Edge detection, Emboss, Box blur).
• Phân tích cơ chế hoạt động của các lớp Pooling và Fully-Connected kết hợp hàm kích hoạt ReLU và Sigmoid.
• So sánh chi tiết cấu trúc kiến trúc của VGGNet (từ 11 đến 19 lớp), ResNet (18, 34, 50, 101, 152 lớp) và DenseNet (121, 169, 201, 264 lớp). Nhóm tác giả lý giải việc chọn ResNet-152v2 và DenseNet-201 dựa trên độ chính xác vượt trội của các phiên bản này.
• Phân tích lý thuyết học chuyển tiếp và các kỹ thuật tối ưu hóa hiện đại: cơ chế ngắt ngẫu nhiên liên kết của Dropout ($p=0.5$), kỹ thuật nén chiều dữ liệu bằng Global Average Pooling 2D (GAP2D), và công thức toán học của Focal Loss với tham số điều biến $(1 - q_i)^\gamma$ giúp cân bằng đóng góp gradient giữa mẫu dễ và mẫu khó.

Chương 4: Phương pháp thực nghiệm

Chương 4 là trọng tâm thực nghiệm của khóa luận, mô tả toàn diện quy trình xử lý dữ liệu và huấn luyện mô hình:

1. Phân tích hiện trạng bộ dữ liệu VinDr-CXR gốc: Bộ dữ liệu gồm 15.000 ảnh X-quang bị mất cân bằng trầm trọng. Nhóm No finding chiếm tới 10.606 ảnh (70,7% số phim chụp). Nhiều nhãn bệnh lý có số lượng cực kỳ thấp (Pneumothorax chỉ có 96 ảnh, Atelectasis có 186 ảnh, Consolidation có 353 ảnh, ILD có 386 ảnh, Calcification có 452 ảnh, Infiltration có 613 ảnh). Về phân bố đa nhãn, có 2.940 ảnh chứa từ 2 đến 4 bệnh lý (19,6%) và 1.125 ảnh chứa từ 5 bệnh lý trở lên (7,5%).

Tên nhãn bệnh lý gốc	Số lượng mẫu	Tỷ lệ (%)
No finding	10.606	40,84%
Aortic enlargement	3.067	11,81%
Cardiomegaly	2.300	8,86%
Pleural thickening	1.981	7,63%
Pulmonary fibrosis	1.617	6,23%
Lung opacity	1.322	5,09%
Other lesion	1.134	4,37%
Nodule/Mass	1.032	3,18%
Infiltration	613	2,36%
Calcification	452	1,74%
ILD	386	1,49%
Consolidation	353	1,36%
Atelectasis	186	0,72%
Pneumothorax	96	0,37%

2. Quy trình chọn lọc và tiền xử lý dữ liệu: Để đảm bảo mô hình không bị quá khớp và thích ứng với tài nguyên tính toán, tác giả thực hiện rút gọn tập dữ liệu về 1.600 ảnh thông qua các bước:

• Lược bỏ hoàn toàn các ảnh chứa 6 nhãn bệnh lý có số lượng mẫu quá ít (Pneumothorax, Atelectasis, Consolidation, ILD, Infiltration, Calcification), đồng thời bảo toàn các ảnh chứa nhãn Nodule/Mass.
• Lược bỏ các ảnh đơn nhãn thuộc nhóm chiếm số lượng lớn (Aortic enlargement, Cardiomegaly, Pleural thickening).
• Lược bỏ có chọn lọc các ảnh đa nhãn đại diện cho các tổ hợp cặp 2 nhãn, 3 nhãn, 4 nhãn và 5 nhãn cụ thể.
• Áp dụng kỹ thuật Undersampling trên nhóm No finding, cắt giảm từ 10.606 ảnh xuống còn 582 ảnh.

Tên nhãn sau chọn lọc (1.600 ảnh)	Số lượng mẫu	Tỷ lệ (%)
No finding	582	13,31%
Aortic enlargement	562	12,85%
Cardiomegaly	558	12,76%
Pleural thickening	461	10,54%
Pulmonary fibrosis	459	10,49%
Lung opacity	452	10,33%
Other lesion	451	10,31%
Nodule/Mass	441	10,08%
Infiltration	408	9,33%

3. Thiết lập thực nghiệm và kết quả huấn luyện:

• Dữ liệu 1.600 ảnh được phân chia thành 3 tập: Train, Validation và Test.
• Triển khai 3 mô hình mạng tích chập: VGG-16, ResNet-152v2 và DenseNet-201 theo các kịch bản thực nghiệm (Nhóm 1 - N1 và Nhóm 3 - N3) tương ứng với hai hướng tiếp cận Feature Extraction và Fine-tuning (kết hợp kỹ thuật đóng băng lớp - freeze layers).
• Quá trình thực nghiệm ghi nhận đường cong học tập (Learning Curve) và đánh giá chi tiết trên tập Validation và tập Test. Kỹ thuật Optimal Thresholding được áp dụng để dịch chuyển ngưỡng quyết định từ giá trị mặc định 0.5 sang ngưỡng tối ưu cho từng nhãn riêng biệt, giúp cải thiện đáng kể các chỉ số F1-score, Macro F1 và Weighted F1.

Chương 5: Tổng kết

Chương 5 đúc kết toàn bộ các kết quả đạt được từ việc xử lý tập dữ liệu VinDr-CXR và hiệu năng của các mạng tích chập sâu. Tác giả chỉ ra các ưu thế của mô hình khi được tinh chỉnh đúng phương pháp, đồng thời phân tích thẳng thắn các hạn chế về quy mô dữ liệu rút gọn cũng như định hướng phát triển trong tương lai.

---

Kết quả và đóng góp

Kết quả chính đạt được:

• Xây dựng thành công quy trình chọn lọc và cân bằng dữ liệu y tế đa nhãn phức tạp, giảm từ 15.000 ảnh gốc xuống tập dữ liệu chuẩn 1.600 ảnh với sự phân bố đồng đều giữa 8 nhóm bệnh lý chính và nhóm No finding.
• Thực nghiệm chứng minh tính khả thi của kỹ thuật học chuyển tiếp (Transfer Learning) trên dữ liệu ảnh X-quang Việt Nam. Trong đó, hướng tiếp cận Fine-tuning (FT) trên các mô hình mạng tích chập sâu (đặc biệt là VGG-16_FT) mang lại sự vượt trội về độ chính xác và khả năng hội tụ so với hướng tiếp cận Feature Extraction thuần túy.
• Việc tích hợp kỹ thuật xác định ngưỡng tối ưu (Optimal Thresholding) cho từng nhãn bệnh lý đã nâng cao đáng kể các chỉ số đánh giá phân loại đa nhãn (F1-score, Macro F1, Weighted F1 và AUROC), khắc phục hạn chế của ngưỡng cố định 0.5 trên dữ liệu y khoa mất cân bằng.

Giải pháp và kiến nghị của tác giả:

• Đề xuất quy trình tiền xử lý kết hợp lọc nhãn chọn lọc, giảm mẫu lớp đa số (Undersampling) và kỹ thuật tăng cường dữ liệu hình ảnh (Data Augmentation) cho các nghiên cứu xử lý ảnh y tế có nguồn lực tính toán giới hạn.
• Khuyến nghị sử dụng hàm mất mát Focal Loss và phương pháp tinh chỉnh ngưỡng quyết định riêng cho từng bệnh lý thay vì sử dụng chung một ngưỡng phân loại toàn cục.
• Đề xuất định hướng triển khai mô hình học sâu vào hệ thống phần mềm/ứng dụng web hỗ trợ chẩn đoán thử nghiệm.

Đóng góp của đề tài:

• Là một trong những công trình nghiên cứu học thuật đầu tiên tại Việt Nam đánh giá có hệ thống các kiến trúc mạng CNN sâu (VGG-16, ResNet-152v2, DenseNet-201) và các hướng tiếp cận học chuyển tiếp trên bộ dữ liệu X-quang lồng ngực VinDr-CXR cho bài toán phân loại đa nhãn.
• Cung cấp tài liệu thực nghiệm chi tiết về các giải pháp kỹ thuật xử lý hiện tượng chồng chéo đặc trưng và mất cân bằng nhãn trong ảnh X-quang.

---

Hạn chế và hướng nghiên cứu tiếp

Hạn chế được tác giả chỉ ra:

• Quy mô tập dữ liệu thực nghiệm bị giới hạn ở 1.600 ảnh do hạn chế về thời gian nghiên cứu và tài nguyên tính toán phần cứng, chưa thể khai thác toàn bộ 15.000 ảnh gốc của VinDr-CXR.
• Phải lược bỏ 6 nhãn bệnh lý có tần suất xuất hiện quá ít (như Pneumothorax, Atelectasis, Consolidation, ILD, Infiltration, Calcification) để tránh gây nhiễu và hiện tượng quá khớp cho mô hình.
• Các tổn thương có biểu hiện hình thái học tương đồng (như xơ phổi và phổi có vết mờ, tràn dịch màng phổi và tim to) khi xuất hiện đồng thời trên một ảnh vẫn gây nhầm lẫn nhất định trong quá trình trích xuất đặc trưng của mạng tích chập.

Hướng nghiên cứu tiếp theo:

• Mở rộng quy mô thực nghiệm trên toàn bộ bộ dữ liệu VinDr-CXR và bao quát toàn bộ 15 nhãn bệnh lý ban đầu.
• Nghiên cứu áp dụng các phương pháp tăng cường dữ liệu nâng cao hoặc kỹ thuật sinh dữ liệu nhân tạo để bổ sung mẫu cho các nhóm bệnh lý hiếm gặp.
• Thử nghiệm các kiến trúc học sâu mới hơn như Vision Transformers (ViT) hoặc kết hợp bài toán phân loại đa nhãn với bài toán phát hiện vị trí tổn thương (Object Detection) và phân đoạn ảnh (Segmentation).
• Hoàn thiện giao diện ứng dụng web tiếp nhận ảnh X-quang và dự đoán xác suất bệnh lý theo thời gian thực để phục vụ thử nghiệm lâm sàng.

---

Giá trị tham khảo

Tài liệu khóa luận có giá trị tham khảo thiết thực cho:

• Sinh viên và học viên chuyên ngành Hệ thống thông tin, Khoa học dữ liệu, Kỹ thuật phần mềm và Trí tuệ nhân tạo: Cung cấp tài liệu tham khảo hoàn chỉnh về cấu trúc một nghiên cứu ứng dụng học sâu trong bài toán thị giác máy tính y khoa.
• Các nhóm nghiên cứu xử lý ảnh y tế (Medical Imaging): Cung cấp phương pháp luận chọn lọc dữ liệu và giải quyết bài toán đa nhãn khi làm việc với bộ dữ liệu VinDr-CXR.
• Nội dung đáng tham khảo nhất: Quy trình xử lý dữ liệu đa nhãn tại Chương 4.1 - 4.3; phương pháp kết hợp Focal Loss, Global Average Pooling 2D và kỹ thuật Optimal Thresholding để tối ưu hóa F1-score trên dữ liệu mất cân bằng.

---

Câu hỏi thường gặp

1. Bộ dữ liệu VinDr-CXR ban đầu có quy mô như thế nào và vì sao nhóm tác giả phải tiến hành chọn lọc rút gọn?
Bộ dữ liệu VinDr-CXR gốc gồm 15.000 phim chụp X-quang lồng ngực với 15 nhãn bệnh lý. Do bộ dữ liệu bị mất cân bằng nghiêm trọng (nhóm No finding chiếm tới 70,7% số ảnh, trong khi các bệnh như Pneumothorax chỉ có 96 ảnh) cùng với giới hạn về tài nguyên phần cứng và thời gian nghiên cứu, tác giả đã tiến hành lọc bỏ 6 nhãn quá ít mẫu, giảm mẫu nhóm No finding và loại bỏ bớt các tổ hợp đa nhãn để thu được tập thực nghiệm 1.600 ảnh cân bằng hơn.

2. Bản chất bài toán phân loại đa nhãn trong khóa luận khác gì so với phân loại đa lớp thông thường?
Trong phân loại đa lớp (multi-class), mỗi bức ảnh chỉ thuộc về một lớp duy nhất và các lớp loại trừ lẫn nhau. Ngược lại, trong bài toán phân loại đa nhãn (multi-label), một phim chụp X-quang có thể chứa đồng thời nhiều bệnh lý (từ 2 đến hơn 5 tổn thương). Mô hình phải dự đoán độc lập xác suất xuất hiện của từng nhãn bệnh mà không loại trừ các nhãn khác.

3. Tám nhóm bệnh lý phổi chính được khóa luận tập trung phân loại là những bệnh nào?
Khóa luận tập trung vào 8 bệnh lý gồm: Nodule/Mass (nốt/u phổi), Pleural effusion (tràn dịch màng phổi), Pulmonary fibrosis (xơ phổi), Cardiomegaly (chứng tim to), Lung opacity (phổi có vết mờ), Pleural thickening (dày dính màng phổi), Aortic enlargement (phình động mạch chủ), Other lesion (các tổn thương khác), cùng nhóm phim không có tổn thương (No finding).

4. Khóa luận sử dụng những kiến trúc mạng tích chập nào và kiểm thử theo các hướng tiếp cận học chuyển tiếp nào?
Nghiên cứu sử dụng 3 mô hình mạng tích chập tiêu biểu gồm VGG-16, ResNet-152v2 và DenseNet-201 (được tiền huấn luyện trên ImageNet) và kiểm thử dựa trên 2 hướng tiếp cận của học chuyển tiếp: Trích xuất đặc trưng (Feature Extraction - giữ cố định trọng số) và Tinh chỉnh (Fine-tuning - cập nhật trọng số các tầng sâu).

5. Kỹ thuật Optimal Thresholding có vai trò gì trong kết quả thực nghiệm của đề tài?
Thay vì cố định ngưỡng xác suất ra quyết định ở mức mặc định 0.5 cho tất cả các lớp, kỹ thuật Optimal Thresholding giúp tìm kiếm ngưỡng xác suất tối ưu riêng biệt cho từng nhãn bệnh lý dựa trên tập kiểm định, từ đó cải thiện đáng kể độ đo F1-score (cả Macro F1 và Weighted F1) cho các lớp có tỷ lệ mẫu thấp.

---

Kết luận

Khóa luận tốt nghiệp của tác giả Nguyễn Tường Minh Quang và Trần Trọng Kiên đã nghiên cứu và giải quyết thành công bài toán phân loại đa nhãn trên ảnh X-quang lồng ngực sử dụng bộ dữ liệu thực tế VinDr-CXR của Việt Nam. Thông qua việc ứng dụng kỹ thuật học chuyển tiếp trên các kiến trúc mạng tích chập sâu (VGG-16, ResNet-152v2, DenseNet-201) kết hợp với các kỹ thuật tối ưu hóa như Focal Loss và Optimal Thresholding, nghiên cứu đã khắc phục hiệu quả thách thức mất cân bằng dữ liệu và đặc trưng chồng chéo. Công trình cung cấp một quy trình thực nghiệm hoàn chỉnh, có giá trị học thuật và ứng dụng cao cho lĩnh vực hỗ trợ chẩn đoán y khoa bằng trí tuệ nhân tạo.

Trích đoạn nội dung tài liệu

MỞ ĐẦU 1. Động lực nghiên cứu Phân loại bệnh lý trên phim chụp X-quang lồng ngực là dạng bài toán phân lớp (phim chụp X-quang có dấu hiệu bệnh lý được đề cập hay là không). Các bệnh lý trong bộ đữ liệu VinDr-CXR [1] bao gồm: nodule/mass (nốt phổi hoặc khối u ở phổi), pleural effusion (tràn dich màng phổi), pulmonary fibrosis (xơ phối), cardiomegaly (chứng tim to), lung opacity (phổi có vết mờ), pleural thickening (day dính màng phổi), aortic enlargement (phình động mach chủ), other lesion (các triệu chứng khác). Bài toán có giá trị đầu vào là phim chụp X-quang lồng ngực và đầu ra là giá trị xác suất của các nhãn được đánh giá là có khả năng xuất hiện.

Nhằm thực thi bai toán, nhóm tác giả tiền hành huấn luyện các mô hình mạng tích chập trên bộ dit liệu VinDr- CXR dựa trên 2 hướng tiếp cận phô biến của học chuyên tiếp (Transfer learning). Kỹ thuật này giúp giúp mô hình học nhanh hơn, tiết kiệm thời gian và tài nguyên tính toán. Mục đích cuối cùng của đề tài là so sánh hướng tiếp cận nào phù hợp với bộ dữ liệu được nghiên cứu. Thách thức Trong thực té, phôi của một bệnh nhân có thé có nhiều tổn thương xuất hiện cùng một lúc.

Thế nên các bác sĩ cần phải có khả năng đọc được nhiều nhất có thê các dấu hiệu tốn thương được chụp trên ảnh X-quang. Điều này cũng là điều kiện bắt buộc khi huấn luyện các mô hình trí tuệ nhân tạo chân đoán ảnh y khoa. Do đó, thách thức được đặt ra là cần phải tìm hiểu và ứng dụng lý thuyết bài toán phân loại đa nhãn (multi-label classification) để huấn luyện các mô hình học sâu. Ví dụ như một bức ảnh X-quang vùng ngực có thê chứa đồng thời nhiều dấu hiệu bệnh khác nhau như tran dich màng phổi, phình động mach chủ, xơ phối,.

Đối với các bài toán phân loại đa nhãn, yêu cầu được đặt ra khi huấn luyện là mô hình phải có khả năng dự đoán nhiều nhãn cùng một lúc mà không loại trừ những nhãn khác như các bai toán phân loại đơn nhãn hay đa lớp.1 minh hoạ sự khác biệt giữa bài toán phân loại đa lớp và phân loại đa nhãn.Nguyén Thi Kim Phung _ _ Tran Trọng Kién — 19521720 Nguyên Tường Minh Quang - 19522098 Samples Samples wy Á œ ( ( Labels (t) Labels (t) @ [O1] [100] [010] [01] [010] [111] Hình 1.1: So sánh sự khác nhau giữa phân loại đa lớp và phân loại đa nhãn! Trong hình 1.1, mô hình khi được huấn luyện dé xử lý các bài toán đa lớp thì chi có thé dự đoán duy nhất một trong các nhãn của dữ liệu và các nhãn này được xem là một lớp độc nhất. Trong khi đó, mô hình được huấn luyện dé xử lý bài toán đa nhãn có thể dự đoán cùng lúc nhiều nhãn. Về bản chất, mỗi nhãn trong phân loại đa nhãn là một bài toán nhị phân độc lập nên các mô hình khi được huấn luyện phải có khả năng nam bắt được tập nhãn của điểm dữ liệu với độ chính xác cao nhất có thể. Tuy nhiên, các nhãn này vẫn sẽ có sự liên quan với nhau.

Thách thức đặt ra cho những mô hình xử ly bài toán đa nhãn chính là các đặc trưng của mỗi nhãn có thé năm lẫn lộn với nhau dẫn đến khó nhận diện đặc trưng cho từng nhãn. Trong bộ dữ liệu ảnh X-quang, một số ảnh có nhiều dấu hiệu bất thường của nhiều bệnh lý xuất hiện chồng chéo lên nhau làm tăng độ phức tạp cho thuật toán, điều này khiến mô hình gặp nhiều khó khăn để học được đặc trưng của từng nhãn trên cùng một ảnh. Phần này sẽ được trình bày trong phần 4.2: Những trường hợp đa nhãn trong bộ dữ liệu Một thách thức khác nhóm tác giả gặp phải trong bài nghiên cứu này là sự giới hạn về số lượng ảnh đặc trưng cho từng bệnh lý. Số lượng phim chụp X-quang được thu thập từ bộ đữ liệu VinDr-CXR là hạn chế và không đồng đều giữa các nhãn nên khiến cho các mô hình học sâu dễ học tủ (overfitting).

Đối với những bộ dữ liệu bị ! Ảnh được lấy từ Internet: https://datainsider.Nguyén Thi Kim Phung _ _ Tran Trọng Kién — 19521720 Nguyên Tường Minh Quang - 19522098 mat cân bằng như thé này thì việc áp dụng thêm phương pháp tăng cường dữ liệu cũng như thiết kế các hàm tính độ lỗi và mat mát phù hợp góp phan hạn chế van đề này. Mục tiêu và phương pháp thực hiện 1. Mục tiêu Với tính chat mat cân bằng nghiêm trọng và số lượng ảnh dùng dé huấn luyện khiêm tốn của bộ đữ liệu, khoá luận sẽ tìm hiểu phương pháp được công bé trong bài báo [2] của nhóm tác giả Miguel Romero và các đồng sự đến từ đại học Stanford. Cụ thê hơn, phương pháp được trình bày trong bài báo là sử dụng kỹ thuật học chuyền tiếp dé huấn luyện mô hình DenseNet và ResNet trên bộ dữ liệu NIH ChestXray 14.

Đây cũng là bộ dữ liệu về ảnh X-quang vùng ngực bị mat cân bằng giữa số lượng của các nhãn. Thêm vào đó, khoá luận cũng sẽ tìm hiểu và ứng dụng thêm mô hình VGGNet [3] dé tìm ra mô hình mang lại hiệu suất tốt nhất. Nhằm thực thi mục tiêu đã đề ra, nhóm tác giả chia thành ba mục tiêu nhỏ sau: - Tim hiểu về bộ dữ liệu VinDr-CXR. - Tim hiểu kiến thức về mạng tích chập (Convolutional Neural Network) đã được đề cập.

- Tim hiểu về kỹ thuật học chuyền tiếp. - _ Tiến hành huấn luyện các mạng học sâu trên bộ dữ liệu VinDr-CXR để thực thi bài toán. Phương pháp thực hiện Phương pháp tìm hiểu bộ dữ liệu: © Đọc bài báo [1] để hiểu thông tin cơ bản về bộ dữ liệu: nguồn gốc, các loại bệnh được gán nhãn. e Thống kê những thông tin cơ bản về dit liệu, quan sát những bức anh đại diện cho mỗi nhãn cũng như những bức ảnh được phân loại nhiều nhãn và đưa ra nhận xét riêng.

e_ Tiến hành tiền xử lý dữ liệu.Nguyén Thi Kim Phung _ _ Tran Trọng Kién — 19521720 Nguyên Tường Minh Quang - 19522098 Phương pháp tìm hiểu các kiến trúc của mô hình mạng tích chập: Tìm hiểu, đọc nghiên cứu và những bài báo giới thiệu, trình bày về kiến trúc mạng tích chập phô biến trong bài toán phân loại ảnh, đặc biệt là ảnh y khoa. Ứng dụng các mô hình mạng tích chập vào quá trình huấn luyện và kiểm thử trên bộ dt liệu. Phương pháp tìm hiểu kỹ thuật học chuyển tiếp: Đọc các bài báo khoa học trình bày ý tưởng kỹ thuật học chuyên tiếp để huấn luyện các mô hình mạng tích chập xử lý ảnh y khoa. Ap dụng kỹ thuật học chuyền tiếp dé tăng hiệu suất của các mô hình đã được huấn luyện.

Kỹ thuật học chuyền tiếp gồm có 2 hướng tiếp cận phô biến: feature extraction (trích xuất đặc trưng) và fine-tuning (tinh chỉnh). Nhóm tác giả sẽ ứng dụng cả hai hướng tiép cận trên đê huân luyện các mô hình mạng tích chập. Sau đó so sánh và nhận xét sự hiệu quả của từng hướng tiêp cận dén mô hình. Thực nghiệm Tiến hành thực nghiệm để cả hai hướng tiếp cận trên ba mô hình: VGG-16, ResNet-152v2 và DenseNet-20 dựa theo ba kịch bản thực nghiệm: Huấn luyện trên tập dữ liệu ban đầu.

Áp dụng phương pháp tăng cường đữ liệu. Áp dụng phương pháp tăng cường dữ liệu và có gang tăng độ chính xác trên tập kiểm định (validation set) cao nhất có thê. Cấu trúc khoá luận Những chương sau của bài luận có bô cục như sau: Chương 2: Tổng quan. Chương 3: Cơ sở lý thuyết.

Chương 4: Phương pháp thực nghiệm Chương 5: Tổng kết.Nguyén Thị Kim Phụng Trân Trọng Kiên — 19521720 Nguyễn Tường Minh Quang - 19522098 Chương 2: TONG QUAN Trong chương 2, nhóm tác gia sẽ trình bày tong quan dé tài, cụ thé là dấu hiệu nhận biết các loại bệnh ly được quan tâm trong khoá luận, các nghiên cứu khoa học liên quan, những vấn đề mà nhóm nghiên cứu đề tìm ra phương pháp giải quyết. Các bệnh lý được quan tâm Các bệnh lý hoặc tốn thương ở bên trong phôi rất khó dé phát hiện mà không thông qua các phương pháp chụp phim X-quang hoặc MRI. Trong phạm vi nghiên cứu của khoá luận này, nhóm tác giả dành sự quan tâm cho 8 nhãn sau: 2. Nodule/Mass (nốt phối hoặc khối u ở phối) Hình 2.1: Phim chụp X-quang lồng ngực có xuất hiện các nót phổi Dấu hiệu bất thường: trên phim chụp X-quang xuất hiện hình mờ có dạng hình tròn giới hạn rõ và kích thước có thé thay đổi từ vài mi-li-mét đến nhiều xen-ti-mét và khả năng xuất hiện một hoặc nhiều khối u ở cả 2 bên phối.

Dau hiệu nhận biết ton thương dang nốt phối hay u phối: - _ Nốt phổi: ton thương dạng mô đặc có đường kính nhỏ hơn 3cm. - U phổi: tôn thương dạng mô đặc có đường kính lớn hơn 3cm.Nguyễn Thị Kim Phụng _ Trân Trọng Kiên — 19521720 Nguyên Tường Minh Quang - 19522098 2. Pleural effusion (tràn dịch màng phổi) Hình 2.2: Phim chụp X-quang lồng ngực bị tràn dịch màng phổi Dấu hiệu bat thường: trong khoang màng phổi có nước hoặc lượng dịch nhiều hon mức sinh lý bình thường và được nhận biết khi cục phối có hình mờ đồng nhất. Có hai loại tran dich màng phối pho biến: - Tran dịch màng phổi lượng nhiều: hình mờ đồng nhất đây những mô xung quanh về khoang phối đối diện - Tran dịch màng phôi lượng ít: hình mờ đồng nhất xuất hiện ở đáy phôi làm mat góc ở sườn hoành và có giới hạn trên là đường cong Damoiseau.

Pulmonary fibrosis (xơ phổi) GVHD: .Nguyễn Thị Kim Phụng _ Trân Trọng Kiên — 19521720 Nguyên Tường Minh Quang - 19522098 Hình 2.3: Phim chụp X-quang lồng ngực có ton thương xơ phổi Dấu hiệu nhận biết: các mô bên trong khoang phôi bị ton thương mãn tính khiến cho các mô phổi dày lên và cứng hơn, gây ra sẹo ở phôi, từ đó xuất hiện hình anh bóng mờ. Bóng mờ có thé do tích tụ dịch hoặc viêm: - Dich: khoảng kẽ rộng ra. - _ Viêm: làm xơ hoá kẽ trong thời gian nhất định và bóng mờ có dạng hình nốt lưới.4: Phim chụp X-quang vực ngực có cơ tim phì đại 10 GVHD: .Nguyễn Thị Kim Phụng _ Trân Trọng Kiên — 19521720 Nguyên Tường Minh Quang - 19522098 Dấu hiệu nhận biết: cơ của tâm thất dày lên bất thường hoặc cũng có thê là vách ngăn giữa hai tâm thất rộng hơn khiến cho kích thước của tim ngày càng to ra.Tim có thê phình to theo 2 trường hợp: e Giãn nhỏ: thành tim mỏng đi, căng giãn và yếu hơn. e Phi đại: thành tim dày hon và độ đàn hồi của tim giảm.

Lung opacity (phối có vết mò) Hình 2.