Dự Đoán Dung Tích Sống Gắng Sức Của Bệnh Nhân

Khóa luận tốt nghiệp khoa học máy tính nghiên cứu dự đoán dung tích sống gắng sức của bệnh nhân, ứng dụng trong y tế và chăm sóc sức khỏe.

• Tác giả: Trần Kim Sen
• Người hướng dẫn: TS. Lê Minh Hưng
• Trường học: Đại học Quốc gia TP. Hồ Chí Minh
• Chuyên ngành: Khoa học máy tính
• Đề tài: Dự Đoán Dung Tích Sống Gắng Sức Của Bệnh Nhân
• Loại tài liệu: Khóa luận tốt nghiệp
• Năm xuất bản: 2021
• Địa điểm: TP. Hồ Chí Minh

Mục lục chi tiết

• LỜI CẢM ƠN
• 1. CHƯƠNG 1: TỔNG QUAN
• 1.1. Giới thiệu đề tài, phạm vi, đối tượng và mục tiêu nghiên cứu
• 1.2. Đóng góp của khóa luận
• 1.3. Cấu trúc luận văn
• 2. CHƯƠNG 2: CƠ SỞ LÝ THUYẾT
• 2.1. Convolutional Neural Network
• 2.2. Linear regression sử dụng Stochastic Gradient Descent
• 2.3. Support Vector Regression
• 2.4. Recurrent Neural Network (RNN)
• 2.5. Adam and RAdam optimizers
• 3. CHƯƠNG 3: THỰC NGHIỆM
• 3.1. Giới thiệu tập dữ liệu
• 3.2. Phân tích dữ liệu
• 3.3. Tiền xử lý dữ liệu
• 3.4. Training baseline model
• 3.5. Phương pháp cải tiến từ baseline model
• 3.6. Thống kê và đánh giá
• 3.7. Hướng phát triển
• 4. CHƯƠNG 4: THỐNG KÊ VÀ ĐÁNH GIÁ
• 5. CHƯƠNG 5: TỔNG KẾT
• DANH MỤC HÌNH VẼ
• DANH MỤC BẢNG
• DANH MỤC TỪ VIẾT TẮT

Tóm tắt

I. Tổng Quan Về Dự Đoán Dung Tích Sống Gắng Sức Của Bệnh Nhân

Dự đoán dung tích sống gắng sức (FVC) của bệnh nhân là một lĩnh vực quan trọng trong y tế, đặc biệt là trong việc chẩn đoán và theo dõi các bệnh lý về phổi. Mô hình máy học đã được áp dụng để cải thiện độ chính xác trong việc dự đoán chỉ số này. Việc sử dụng các mô hình học sâu giúp khai thác dữ liệu hình ảnh và thông tin lâm sàng để đưa ra những dự đoán chính xác hơn.

1.1. Khái Niệm Về Dung Tích Sống Gắng Sức

Dung tích sống gắng sức (FVC) là lượng không khí thở ra tối đa sau khi hít vào sâu nhất. Chỉ số này rất quan trọng trong việc đánh giá chức năng hô hấp của bệnh nhân.

1.2. Tầm Quan Trọng Của Dự Đoán FVC

Dự đoán FVC giúp bác sĩ theo dõi tiến triển của bệnh phổi, từ đó đưa ra phương pháp điều trị phù hợp và kịp thời.

II. Vấn Đề Trong Dự Đoán Dung Tích Sống Gắng Sức Của Bệnh Nhân

Mặc dù có nhiều tiến bộ trong công nghệ máy học, việc dự đoán FVC vẫn gặp phải nhiều thách thức. Các yếu tố như độ chính xác của dữ liệu đầu vào, sự đa dạng trong triệu chứng bệnh lý và sự thay đổi theo thời gian của bệnh nhân đều ảnh hưởng đến kết quả dự đoán.

2.1. Độ Chính Xác Của Dữ Liệu Đầu Vào

Dữ liệu đầu vào bao gồm hình ảnh CT và thông tin lâm sàng. Độ chính xác của các dữ liệu này ảnh hưởng trực tiếp đến độ tin cậy của mô hình dự đoán.

2.2. Sự Đa Dạng Trong Triệu Chứng Bệnh Lý

Các triệu chứng của bệnh phổi có thể khác nhau giữa các bệnh nhân, điều này tạo ra khó khăn trong việc xây dựng mô hình dự đoán chung.

III. Phương Pháp Dự Đoán Dung Tích Sống Gắng Sức Bằng Mô Hình Máy Học

Để dự đoán FVC, các mô hình máy học như CNN, ResNet và EfficientNet đã được áp dụng. Những mô hình này giúp xử lý và phân tích dữ liệu hình ảnh một cách hiệu quả, từ đó đưa ra dự đoán chính xác hơn về chỉ số FVC.

3.1. Sử Dụng Mô Hình CNN Trong Dự Đoán

Mô hình CNN được sử dụng để rút trích đặc trưng từ hình ảnh CT, giúp cải thiện độ chính xác trong việc dự đoán FVC.

3.2. Tinh Chỉnh Mô Hình Để Tối Ưu Hóa Kết Quả

Quá trình tinh chỉnh các tham số của mô hình là rất quan trọng để đạt được kết quả tốt nhất trong dự đoán FVC.

IV. Ứng Dụng Thực Tiễn Của Mô Hình Dự Đoán FVC

Mô hình dự đoán FVC không chỉ giúp bác sĩ trong việc chẩn đoán mà còn hỗ trợ trong việc theo dõi tiến triển của bệnh nhân. Kết quả từ mô hình có thể được sử dụng để điều chỉnh phương pháp điều trị và cải thiện chất lượng cuộc sống cho bệnh nhân.

4.1. Theo Dõi Tiến Triển Bệnh Nhân

Việc dự đoán FVC giúp bác sĩ theo dõi sự tiến triển của bệnh phổi, từ đó đưa ra các quyết định điều trị kịp thời.

4.2. Cải Thiện Chất Lượng Cuộc Sống

Dự đoán chính xác FVC có thể giúp bệnh nhân nhận được sự chăm sóc tốt hơn, từ đó nâng cao chất lượng cuộc sống.

V. Kết Luận Và Tương Lai Của Dự Đoán Dung Tích Sống Gắng Sức

Dự đoán dung tích sống gắng sức của bệnh nhân bằng mô hình máy học là một lĩnh vực đầy tiềm năng. Với sự phát triển không ngừng của công nghệ, hy vọng rằng các mô hình sẽ ngày càng chính xác hơn, giúp ích cho việc chẩn đoán và điều trị bệnh phổi.

5.1. Tiềm Năng Phát Triển Trong Tương Lai

Công nghệ máy học sẽ tiếp tục phát triển, mở ra nhiều cơ hội mới trong việc dự đoán và điều trị bệnh phổi.

5.2. Hướng Nghiên Cứu Tiếp Theo

Nghiên cứu sẽ tiếp tục tập trung vào việc cải thiện độ chính xác của mô hình và mở rộng ứng dụng trong các lĩnh vực y tế khác.

Nội dung chính

Bối cảnh và vấn đề nghiên cứu

Xơ phổi là bệnh lý mãn tính nguy hiểm đặc trưng bởi tình trạng các mô kẽ trong phổi bị tổn thương, dày lên, xơ cứng và mất dần tính đàn hồi, hình thành các mô sẹo cản trở nghiêm trọng quá trình trao đổi khí. Bệnh nhân mắc xơ phổi có tiên lượng xấu với thời gian sống trung bình chỉ kéo dài từ 3 đến 5 năm kể từ khi phát hiện. Y học hiện nay vẫn chưa xác định được nguyên nhân chính xác cũng như chưa có phương pháp điều trị triệt để nhằm phục hồi tổn thương phổi hay xóa bỏ các vết sẹo mô kẽ; các can thiệp lâm sàng hiện hành chủ yếu nhằm kiểm soát triệu chứng và làm chậm tốc độ suy giảm chức năng hô hấp. Diễn tiến bệnh biểu hiện âm thầm, chậm rãi và có nhiều dấu hiệu lâm sàng tương đồng với các bệnh lý đường hô hấp khác, khiến việc chẩn đoán tức thời gặp nhiều trở ngại.

Trong bối cảnh đó, chỉ số Dung tích sống gắng sức (Forced Vital Capacity - FVC), đo bằng đơn vị mililit (ml) thông qua phế dung kế nhằm ghi lại lượng không khí tối đa mà người bệnh có thể thở ra nhanh và mạnh sau khi hít sâu hết mức, đóng vai trò là tiêu chuẩn cốt lõi để nhận biết bệnh, theo dõi mức độ tiến triển và đánh giá hiệu quả đáp ứng điều trị. Tuy nhiên, sự biến đổi FVC trên thực tế diễn ra hết sức phức tạp, từ duy trì ổn định trong thời gian dài đến suy sụp đột ngột, gây khó khăn cho việc tiên lượng giai đoạn bệnh lý.

Vấn đề nghiên cứu trọng tâm được đặt ra trong khóa luận: Từ dữ liệu ảnh chụp cắt lớp vi tính (CT scan) và lịch sử khám lâm sàng ban đầu của bệnh nhân, xây dựng mô hình dự đoán chính xác giá trị FVC trong các tuần tiếp theo.

Khóa luận xác định 3 mục tiêu nghiên cứu cụ thể:

1. Hỗ trợ phát hiện bệnh xơ phổi của bệnh nhân trong tương lai gần.
2. Hỗ trợ đánh giá sự tiến triển và hiệu quả điều trị bệnh xơ phổi.
3. Tìm hiểu và tiến hành thực hiện các mô hình học sâu để giải quyết bài toán có dữ liệu ảnh y khoa và dữ liệu bảng từ dữ liệu y tế thật.

Phạm vi và đối tượng nghiên cứu:

• Đối tượng nghiên cứu: Tập hình ảnh cắt lớp vi tính lồng ngực (dưới định dạng chuẩn y tế DICOM) và tập dữ liệu số liệu khám lâm sàng theo thời gian của nhóm bệnh nhân có nguy cơ hoặc đang mắc chứng xơ phổi.
• Phạm vi không gian và thời gian: Nghiên cứu thực hiện dự đoán chỉ số FVC theo từng tuần liên tục cho bệnh nhân, tính từ thời điểm chụp CT lần đầu tiên (được quy ước là tuần 0) trải dài trong phạm vi từ tuần thứ -12 đến tuần thứ 133 (mốc thời gian tái khám xa nhất được ghi nhận trong tập dữ liệu). Đề tài được triển khai thực nghiệm trong thời gian 16 tuần (từ ngày 12/09/2020 đến ngày 02/01/2021).

Cơ sở lý thuyết và phương pháp

Khóa luận tiếp cận bài toán dự đoán chuỗi thời gian y tế đa phương thức (multimodal learning) bằng cách kết hợp các kiến trúc thị giác máy tính xử lý ảnh CT scan và các thuật toán học máy, học sâu xử lý dữ liệu bảng lâm sàng.

Khung lý thuyết và mô hình thị giác máy tính

• Mạng nơ-ron tích chập (Convolutional Neural Network - CNN): Cấu trúc trích xuất đặc trưng không gian tự động thông qua các tầng tích chập (convolution) và gộp (pooling), kết hợp với các tầng kết nối đầy đủ (fully-connected) để ánh xạ không gian đặc trưng sang giá trị đầu ra.
• VGG19: Kiến trúc mạng tích chập gồm 19 tầng trọng số (16 tầng tích chập dùng bộ lọc kích thước nhỏ $3 \times 3$ xen kẽ các tầng MaxPooling2D và 3 tầng fully-connected), sở hữu dung lượng tham số lớn lên tới khoảng 144 triệu tham số.
• ResNet-50 (Residual Network): Mạng gồm 50 tầng được thiết kế nhằm khắc phục triệt để hiện tượng mất mát đạo hàm (vanishing gradient) và bùng nổ đạo hàm (exploding gradient) khi huấn luyện mạng sâu. Cơ chế cốt lõi là các khối phần dư (Residual Block) với đường kết nối tắt (identity shortcut connection) thực hiện phép cộng ánh xạ $H(x) = F(x) + x$, kết hợp kỹ thuật chuẩn hóa theo lô (Batch Normalization) và Average Pooling, giúp mô hình đạt hiệu năng cao với chỉ khoảng 23 triệu tham số.
• EfficientNet-B5: Kiến trúc mạng ứng dụng phương pháp thu phóng mô hình đồng hợp thức (Compound Model Scaling), cân bằng đồng thời cả 3 chiều: độ sâu mạng (depth), chiều rộng kênh (width) và độ phân giải ảnh đầu vào (resolution) theo tỷ lệ cố định, tối ưu hóa độ chính xác trên tài nguyên tính toán giới hạn.

Phương pháp xử lý dữ liệu bảng và chuỗi thời gian

• Ridge Regression: Thuật toán hồi quy tuyến tính áp dụng kỹ thuật chính quy hóa chuẩn $L_2$ bằng cách bổ sung hệ số phạt bình phương trọng số $\lambda \sum W^2$ vào hàm mất mát, giúp kiểm soát hiện tượng đa cộng tuyến giữa các biến lâm sàng và triệt tiêu hiện tượng quá khớp (overfitting).
• Quantile Regression (Hồi quy phân vị): Thuật toán hồi quy ước lượng mối quan hệ giữa biến độc lập và các phân vị điều kiện xác định của biến phụ thuộc (thay vì chỉ ước lượng giá trị trung bình như hồi quy tuyến tính cổ điển), cho phép mô hình thích ứng tốt trước các điểm dị biệt (outliers) và phân phối lệch.
• Hồi quy tuyến tính tối ưu bằng SGD (Stochastic Gradient Descent): Kỹ thuật cập nhật trọng số theo từng mẫu đơn lẻ nhằm gia tăng tốc độ hội tụ và giảm chi phí tính toán trên tập dữ liệu lớn.
• Support Vector Regression (SVR): Mô hình tối ưu hóa biên tìm siêu phẳng sai số chấp nhận được trong phạm vi dải epsilon ($\epsilon$), hạn chế lỗi dự đoán vượt ngưỡng ranh giới cho trước.
• Long Short-Term Memory (LSTM): Biến thể của mạng nơ-ron hồi quy (RNN) trang bị các cổng đóng/mở thông tin (cổng quên, cổng vào, cổng ra), khắc phục giới hạn trí nhớ ngắn hạn của RNN truyền thống để nắm bắt sự biến thiên phụ thuộc dài hạn của FVC qua các mốc tuần tái khám.
• Thuật toán tối ưu (Optimizers): Sử dụng thuật toán Adam và RAdam (Rectified Adam). RAdam áp dụng cơ chế tự động điều chỉnh phương sai của tốc độ học dựa trên phân bố thực tế của dữ liệu, loại bỏ nhu cầu khởi động bước học (warmup) thủ công và giúp quá trình hội tụ diễn ra ổn định.

Hàm mất mát và thước đo đánh giá

Để đồng thời dự đoán giá trị FVC và khoảng tin cậy của dự đoán, tác giả kết hợp hai thành phần:

• Pinball Loss: Hàm mất mát phân vị tối ưu hóa 3 đường dự đoán tương ứng với các mức quantile (đường trung vị 0.5 cùng hai đường biên trên và biên dưới).
• Thước đo đánh giá Laplace Log Likelihood (chuẩn cuộc thi Kaggle OSIC): Độ đo xác suất liên tục đánh giá độ chính xác kèm mức độ bất định (confidence $\sigma$): $$\sigma_{clipped} = \max(\sigma, 70), \quad \Delta = \min(|FVC_{thực} - FVC_{dự_đoán}|, 1000)$$ $$\text{Metric} = -\frac{\sqrt{2}\Delta}{\sigma_{clipped}} - \ln(\sqrt{2}\sigma_{clipped})$$ Chỉ số metric nhận giá trị âm trong khoảng $(-\infty, -4.5]$; giá trị metric càng lớn (càng tiến gần về 0) thì mô hình dự đoán càng chính xác và ước lượng độ tin cậy càng tin cậy.
• Hàm mất mát cải tiến (mloss): Nhóm tác giả thiết kế hàm mục tiêu hỗn hợp: $$\text{Loss} = \alpha \cdot \text{Pinball_loss} + (1 - \alpha) \cdot \text{Metric} \quad (\text{với } \alpha > 0.5)$$ nhằm ràng buộc đường dự đoán nằm trong giới hạn sai số cho phép và cân bằng giữa việc khớp dữ liệu với tối ưu hóa điểm số metric.

Nguồn dữ liệu và kỹ thuật tiền xử lý

• Nguồn dữ liệu: Bộ dữ liệu y tế thực từ cuộc thi quốc tế "OSIC Pulmonary Fibrosis Progression" do Tổ chức Mở Sáng kiến Phổi (OSIC) công bố trên nền tảng Kaggle, bao gồm 200 bệnh nhân.
• Tiền xử lý ảnh CT: Loại bỏ 2 ca bệnh có tệp ảnh hỏng; chuyển đổi dữ liệu pixel sang thang đo bức xạ Hounsfield Units (HU) chuyên dụng cho ảnh y khoa; áp dụng kỹ thuật hiển vi (microscope) để tăng cường cấu trúc mô kẽ; chuẩn hóa giá trị điểm ảnh về đoạn $[-1, 1]$; cắt lọc dữ liệu dọc trục, chỉ giữ lại các lát cắt nằm trong khoảng từ 15% đến 80% tổng số lát cắt của mỗi bệnh nhân nhằm loại bỏ nhiễu túi khí tại vùng cổ và ổ bụng.
• Tiền xử lý dữ liệu lâm sàng: Chuẩn hóa các biến bảng, chia tập huấn luyện và kiểm định theo phương pháp K-fold Cross-Validation với $k = 10$.

Nội dung chính theo từng chương

Chương 1: Giới thiệu đề tài

Chương mở đầu thiết lập cơ sở thực tiễn và tính cấp thiết của đề tài nghiên cứu. Tác giả phân tích bệnh học xơ phổi, cơ chế tổn thương phế nang dẫn đến hình thành mô sẹo không thể phục hồi và mức độ nguy hiểm của bệnh với tỷ lệ tử vong cao sau 3 đến 5 năm. Nội dung làm rõ vai trò sinh lý của chỉ số FVC đo bằng phế dung kế, từ đó mô hình hóa bài toán kỹ thuật: sử dụng ảnh CT scan lồng ngực kết hợp hồ sơ lâm sàng ở lần khám đầu để ngoại suy giá trị FVC ở các tuần tiếp theo. Chương này cũng phân định rõ ràng mục tiêu nghiên cứu, phạm vi thời gian (tuần -12 đến tuần 133), 4 đóng góp chính của khóa luận và phác thảo bố cục toàn bộ văn bản.

Chương 2: Cơ sở lý thuyết

Chương 2 trình bày có hệ thống nền tảng toán học và kiến trúc học máy được sử dụng trong nghiên cứu:

• Khái quát lịch sử và nguyên lý mạng nơ-ron tích chập từ LeNet-5 (1998) đến các kiến trúc hiện đại, phân tích cơ chế hoạt động của các tầng Conv, Pooling và tầng phân lớp đầy đủ.
• Trình bày chi tiết cấu trúc VGG19 (144 triệu tham số) và ResNet-50 (23 triệu tham số), phân tích nguyên lý toán học của khối Residual Block $H(x) = F(x) + x$ giải quyết suy hao gradient.
• Trình bày kiến trúc EfficientNet-B5 với phương pháp thu phóng mô hình cân bằng 3 chiều.
• Trình bày lý thuyết các giải thuật hồi quy tuyến tính: Ridge Regression với hệ số phạt $L_2$, Quantile Regression tối ưu trên các phân vị, giải thuật tối ưu ngẫu nhiên SGD và Support Vector Regression (SVR) với ranh giới dải epsilon.
• Phân tích cơ chế bộ nhớ dài hạn của LSTM so với RNN thuần túy trong xử lý chuỗi thời gian biến thiên tuần.
• Khảo sát các giải thuật tối ưu hóa độ dốc gồm Gradient Descent cơ bản, SGD, Mini-batch GD, Adam và RAdam.
• Thiết lập công thức hàm Pinball Loss, chỉ số đánh giá Laplace Log Likelihood và đề xuất công thức hàm mất mát kết hợp mloss.

Chương 3: Thực nghiệm

Chương 3 mô tả toàn bộ quy trình thực nghiệm trên bộ dữ liệu OSIC Pulmonary Fibrosis Progression:

• Khảo sát tập dữ liệu: Tập dữ liệu gồm 200 bệnh nhân có ảnh CT scan định dạng DICOM và 176 bệnh nhân có hồ sơ lâm sàng (tương ứng 1549 dòng dữ liệu) với 7 trường thông tin: Patient, Weeks, FVC, Percent, Age, Sex, SmokingStatus. Tập public chứa dữ liệu tuần đầu của 5 bệnh nhân; tập private chứa dữ liệu tuần đầu của khoảng 28 bệnh nhân.
• Phân tích khám phá dữ liệu (EDA):
  • Số lượng lát cắt CT scan trên mỗi bệnh nhân dao động rất lớn, trong khoảng từ 12 đến 1018 ảnh; phát hiện 2 ca bệnh có tệp ảnh bị lỗi cấu trúc (ID00011637202177653955184 và ID00052637202186188008618).
  • Dữ liệu bảng có chất lượng cao, chỉ có 2 dòng thiếu/lỗi trên tổng số 1549 dòng; có 2 bệnh nhân có 2 lần đo FVC trong cùng 1 tuần.
  • Phân tích tương quan cho thấy hiện tượng đa cộng tuyến giữa các thuộc tính: Age và SmokingStatus có mối liên hệ rõ rệt (bệnh nhân từng hút thuốc tập trung ở độ tuổi 66-75, người chưa từng hoặc đang hút thuốc tập trung ở 60-70 tuổi); nam giới có tiền sử hút thuốc chiếm tỷ lệ áp đảo so với nữ giới; giá trị FVC có xu hướng suy giảm tuyến tính theo số tuần (Weeks).
• Quy trình tiền xử lý: Loại bỏ 2 ca bệnh có tệp ảnh lỗi; chuyển đổi pixel ảnh DICOM sang đơn vị Hounsfield Units; áp dụng bộ lọc hiển vi; chuẩn hóa ảnh về đoạn $[-1, 1]$; cắt bỏ 15% lát cắt đầu và 20% lát cắt cuối, chỉ giữ dải 15% đến 80% nhằm loại bỏ vùng giải phẫu ngoài phổi; chuẩn hóa dữ liệu bảng và thiết lập kiểm định chéo K-fold ($k = 10$).
• Chiến lược huấn luyện: Thiết lập mô hình cơ sở (baseline), phát triển các mô hình học sâu xử lý ảnh đơn lẻ, mô hình học máy xử lý dữ liệu bảng đơn lẻ và mô hình kết hợp đa phương thức.

Chương 4: Thống kê và đánh giá

Chương 4 tổng hợp các kết quả thực nghiệm đạt được trên tập dữ liệu kiểm định K-fold và tập kiểm thử. Tác giả tiến hành so sánh đối chuẩn hiệu năng giữa mô hình baseline với các kiến trúc cải tiến thông qua 4 bảng thống kê:

• Đánh giá các mô hình học máy trên dữ liệu bảng (Ridge Regression, SVR, Quantile Regression, LSTM).
• Đánh giá các mạng học sâu trên dữ liệu ảnh CT scan (VGG19, ResNet-50, EfficientNet-B5).
• Đánh giá mô hình kết hợp hai nhánh dữ liệu (ảnh y khoa và bảng lâm sàng) thông qua hàm mất mát mloss và tối ưu hóa bằng RAdam.

Chương 5: Tổng kết

Chương 5 đúc kết toàn bộ kết quả nghiên cứu của khóa luận, tái khẳng định tính khả thi của việc ứng dụng học máy đa phương thức trong tiên lượng bệnh xơ phổi. Tác giả tổng kết các đóng góp học thuật, chỉ ra các giới hạn kỹ thuật còn tồn đọng trong quá trình thử nghiệm và đề xuất các định hướng nghiên cứu tiếp theo nhằm nâng cao độ chính xác dự báo.

Kết quả và đóng góp

Kết quả định lượng và phân tích thực nghiệm

Qua quá trình phân tích khám phá dữ liệu (EDA) và kiểm định mô hình, khóa luận ghi nhận các kết quả thực nghiệm cụ thể sau:

• Khảo sát dữ liệu y tế thực tế trên 1549 bản ghi của 176 bệnh nhân cho thấy độ tin cậy dữ liệu cao (chỉ 2 dòng lỗi/khuyết thiếu), nhưng phân bố thời gian tái khám hoàn toàn không đồng đều giữa các cá nhân, với biên độ tuần kéo dài từ tuần -12 đến tuần 133 kể từ mốc chụp CT.
• Xác định sự tương quan đa biến: Thuộc tính FVC suy giảm tuyến tính theo biến thời gian tuần khám; phân bố bệnh học thể hiện rõ rệt qua biến nhân khẩu học khi tỷ lệ nam giới mắc xơ phổi cao hơn nữ giới và phần lớn tập trung ở nhóm có tiền sử hút thuốc lá (độ tuổi 66-75).
• Dữ liệu hình ảnh DICOM bộc lộ tính dị biệt cao với số lượng ảnh cắt lớp dao động từ 12 đến 1018 lát cắt/bệnh nhân. Việc chỉ chọn lọc dải lát cắt từ 15% đến 80% giúp triệt tiêu nhiễu giải phẫu ngoài phổi và nâng cao chất lượng trích xuất đặc trưng của mạng nơ-ron tích chập.
• Mô hình kết hợp đa phương thức (kết hợp mạng trích xuất đặc trưng ảnh EfficientNet-B5/ResNet cùng nhánh xử lý bảng lâm sàng tối ưu qua hàm mloss và RAdam) đem lại kết quả dự đoán FVC và biên độ tin cậy $\sigma$ vượt trội so với các mô hình baseline đơn lẻ.

Hệ thống bảng số liệu thực nghiệm được tổng hợp trong khóa luận gồm:

Tên bảng	Nội dung thống kê trong báo cáo
Bảng 4.1	Kết quả thống kê từ mô hình baseline
Bảng 4.2	Kết quả thống kê từ mô hình huấn luyện ảnh (CNN, VGG19, ResNet-50, EfficientNet-B5)
Bảng 4.3	Kết quả thống kê từ mô hình huấn luyện siêu dữ liệu/dữ liệu bảng (Ridge, SVR, Quantile, LSTM)
Bảng 4.4	Kết quả thống kê từ mô hình kết hợp cả 2 loại dữ liệu (ảnh y khoa kết hợp bảng lâm sàng)

Đóng góp của khóa luận

Khóa luận tự xác định 4 đóng góp chính:

1. Đề xuất quy trình phân tích và tiền xử lý dữ liệu chuyên biệt cho ảnh CT scan lồng ngực dạng DICOM (chuyển đổi thang đo Hounsfield Units, bộ lọc hiển vi, cắt lọc lát cắt 15%–80%).
2. Đề xuất và thử nghiệm một số mạng học sâu nhận dạng hình ảnh y khoa đầu vào từ lát cắt CT scan (VGG19, ResNet-50, EfficientNet-B5).
3. Đề xuất mô hình dự đoán chỉ số dung tích sống gắng sức (FVC) cho bệnh nhân suy giảm chức năng hô hấp/xơ phổi theo chuỗi thời gian liên tục.
4. Thống kê, so sánh và đánh giá toàn diện hiệu quả khi kết hợp các phương pháp máy học trên dữ liệu bảng với mạng học sâu trên dữ liệu ảnh y khoa.

Hạn chế và hướng nghiên cứu tiếp

Khóa luận chỉ rõ những hạn chế kỹ thuật phát sinh từ thực nghiệm và đề xuất hướng nghiên cứu tiếp theo:

Hạn chế

• Hạn chế của hàm mất mát mloss: Hệ số trọng số $\alpha$ trong hàm mloss (với $\alpha > 0.5$) chưa có khả năng tự động thích ứng (adaptive) theo dữ liệu của từng bước huấn luyện mà vẫn phải lựa chọn cố định thông qua thực nghiệm thử - sai nhiều lần.
• Tính bất đồng nhất của dữ liệu hình ảnh: Mỗi bệnh nhân chỉ được chụp CT scan duy nhất một lần trong toàn bộ quá trình điều trị (do lo ngại tác hại bức xạ ion hóa đối với sức khỏe), dẫn đến việc mô hình thiếu dữ liệu chuỗi ảnh theo thời gian để quan sát tổn thương tiến triển. Đồng thời, khoảng cách lát cắt không đồng nhất khiến số lượng ảnh giữa các bệnh nhân chênh lệch quá lớn (từ 12 đến 1018 ảnh).
• Lỗi tập tin cục bộ: Tồn tại 2 tệp ảnh DICOM bị lỗi cấu trúc tập tin không thể đọc được (ID00011637202177653955184 và ID00052637202186188008618), buộc phải loại bỏ khỏi tập huấn luyện.
• Dữ liệu tái khám không đồng bộ: Khoảng cách giữa các lần tái khám và tổng số lần khám của từng bệnh nhân rất khác nhau, gây khó khăn cho việc huấn luyện các mô hình chuỗi thời gian như LSTM.

Hướng nghiên cứu tiếp

• Nghiên cứu giải pháp toán học nhằm tự động hóa việc tối ưu hóa tham số $\alpha$ trong hàm mất mát hỗn hợp mloss, giúp hàm mất mát thích ứng động theo phân phối lỗi của từng lô dữ liệu.
• Khai thác các kỹ thuật tái tạo không gian 3D phổi từ loạt ảnh cắt lớp DICOM để trích xuất toàn diện hơn thể tích tổn thương mô kẽ thay vì chỉ sử dụng các lát cắt 2D đơn lẻ.
• Tinh chỉnh sâu hơn các siêu tham số và thử nghiệm các kiến trúc học sâu đa phương thức tiên tiến nhằm nâng cao điểm số metric trên tập kiểm thử mở rộng.

Giá trị tham khảo

Báo cáo khóa luận có giá trị tham khảo học thuật đối với sinh viên, học viên cao học và các nhóm nghiên cứu thuộc chuyên ngành Khoa học Máy tính, Kỹ thuật Dữ liệu, Trí tuệ Nhân tạo và Tin sinh học y tế:

• Tài liệu tham khảo quy trình xử lý ảnh y tế: Cung cấp chi tiết các bước tiền xử lý ảnh cắt lớp vi tính phổi định dạng DICOM chuẩn y tế, bao gồm việc chuyển đổi đơn vị Hounsfield (HU), kỹ thuật lọc lát cắt loại bỏ nhiễu túi khí ngoài giải phẫu phổi (chọn dải 15% đến 80%) và chuẩn hóa cường độ điểm ảnh.
• Kỹ thuật thiết kế hàm mất mát chuyên biệt: Cung cấp giải pháp toán học kết hợp giữa Pinball Loss trong hồi quy phân vị và thước đo Laplace Log Likelihood của cuộc thi Kaggle OSIC để tạo thành hàm mloss, giúp mô hình hóa đồng thời giá trị dự đoán và biên độ tin cậy ($\sigma$).
• Kinh nghiệm kết hợp dữ liệu đa phương thức: Tài liệu hữu ích cho những đề tài đối mặt với bài toán dung hợp dữ liệu bảng (lịch sử khám bệnh dạng chuỗi thời gian) và dữ liệu hình ảnh phức tạp trong điều kiện dữ liệu y tế thực bị mất cân bằng và phân bố thời gian không đồng đều.

Câu hỏi thường gặp

1. Tại sao nhóm tác giả chỉ chọn lọc các lát cắt từ 15% đến 80% trong tệp ảnh CT scan của mỗi bệnh nhân?

Do máy quét CT tiến hành chụp lồng ngực theo chiều dọc từ cổ xuống bụng, giai đoạn đầu (15% đầu tiên) và giai đoạn cuối (20% cuối cùng) của loạt ảnh cắt lớp chứa rất ít thông tin về nhu mô phổi. Hơn nữa, dữ liệu ở hai giai đoạn biên này thường xuyên xuất hiện các mảng không khí thuộc các cơ quan nội tạng lân cận (như khí quản phía trên hoặc dạ dày, ruột phía dưới), dễ gây nhiễu cho mạng nơ-ron trong quá trình trích xuất đặc trưng bệnh học. Do đó, việc giới hạn dải ảnh từ 15% đến 80% giúp tập trung tối đa vào cấu trúc phổi thực sự.

2. Hàm mất mát mloss được xây dựng như thế nào và có vai trò gì trong bài toán?

Hàm mất mát mloss được nhóm tác giả thiết kế theo công thức: $$\text{Loss} = \alpha \cdot \text{Pinball_loss} + (1 - \alpha) \cdot \text{Metric} \quad (\text{với } \alpha > 0.5)$$ Trong đó, Pinball Loss có nhiệm vụ tìm kiếm các đường hồi quy phân vị (gồm đường dự đoán trung vị quantile 0.5 và hai đường biên phân vị), còn thành phần Metric (Laplace Log Likelihood) tích hợp các ràng buộc thực tế: khống chế độ tin cậy $\sigma_{clipped} \ge 70$ và giới hạn sai số tối đa $\Delta \le 1000$ ml. Sự kết hợp này giúp mô hình vừa học được đường dự đoán chính xác, vừa lượng hóa được độ bất định phù hợp với tiêu chí đánh giá của bài toán y tế.

3. Bộ dữ liệu lâm sàng dạng bảng trong khóa luận gồm những thuộc tính nào và có đặc trưng gì nổi bật?

Dữ liệu bảng gồm 1549 bản ghi của 176 bệnh nhân với 7 trường thông tin: Patient (mã định danh), Weeks (số tuần tương đối trước hoặc sau thời điểm chụp CT), FVC (dung tích sống gắng sức, tính bằng ml), Percent (tỷ lệ phần trăm FVC so với người bình thường có cùng thể trạng), Age (tuổi), Sex (giới tính) và SmokingStatus (tình trạng hút thuốc: đã từng hút, chưa từng hút, đang hút). Dữ liệu phản ánh tính chất thực tế khi số tuần tái khám giữa các bệnh nhân không đồng đều, trải dài từ tuần -12 đến tuần 133, đồng thời chỉ có 2 dòng dữ liệu lỗi/khuyết trên toàn bộ 1549 dòng.

4. Thước đo Laplace Log Likelihood trong nghiên cứu được tính toán dựa trên các quy chuẩn nào?

Thước đo metric được định nghĩa dựa trên phân phối xác suất Laplace log: $$\text{Metric} = -\frac{\sqrt{2}\Delta}{\sigma_{clipped}} - \ln(\sqrt{2}\sigma_{clipped})$$ với $\sigma_{clipped} = \max(\sigma, 70)$ và $\Delta = \min(|FVC_{thực} - FVC_{dự_đoán}|, 1000)$. Thước đo này phạt nặng các dự đoán có sai số tuyệt đối $\Delta$ lớn, đồng thời xử phạt các mô hình đưa ra độ tự tin quá cao nhưng dự đoán sai (thông qua đại lượng $\sigma_{clipped}$ bị chặn dưới ở mức 70) hoặc độ tự tin quá thấp (thông qua số hạng $-\ln(\sqrt{2}\sigma_{clipped})$). Kết quả tính ra là một số âm; giá trị càng tiến gần về 0 thì mô hình càng được đánh giá cao.

5. Vì sao mô hình LSTM và Quantile Regression lại phù hợp với dữ liệu lâm sàng trong đề tài?

Quantile Regression cho phép ước lượng giá trị FVC tại các phân vị xác định (như 0.5 để làm đường dự đoán trung tâm, 0.2 và 0.8 để xác định biên trên/dưới), giúp mô hình không bị lệch bởi các giá trị ngoại lệ (outliers) và hiện tượng đa cộng tuyến giữa các chỉ số lâm sàng. Trong khi đó, LSTM là mạng nơ-ron hồi quy có khả năng lưu giữ thông tin dài hạn qua các cổng trạng thái, phù hợp để mô hình hóa xu hướng suy giảm dần theo thời gian của chỉ số FVC qua các mốc tuần tái khám liên tục.

Kết luận

Khóa luận tốt nghiệp của sinh viên Trần Kim Sen và Lê Thủy Triều đã hoàn thành việc xây dựng và đánh giá thực nghiệm các mô hình học máy và học sâu phục vụ bài toán dự đoán dung tích sống gắng sức (FVC) ở bệnh nhân xơ phổi. Bằng cách kết hợp hiệu quả giữa mạng tích chập xử lý ảnh CT scan (tiêu biểu là EfficientNet-B5 và ResNet-50) với các thuật toán hồi quy và mạng chuỗi thời gian trên dữ liệu lâm sàng, nghiên cứu đã đề xuất quy trình xử lý ảnh y tế DICOM hợp lý cùng hàm mất mát mloss kết hợp Pinball Loss và độ đo Laplace Log Likelihood. Các kết quả thống kê và đóng góp kỹ thuật trong báo cáo cung cấp cơ sở thực nghiệm rõ ràng, mở ra hướng tiếp cận khả thi cho việc ứng dụng trí tuệ nhân tạo hỗ trợ theo dõi và tiên lượng bệnh lý hô hấp mãn tính.

Trích đoạn nội dung tài liệu

Chương 1 - Tống quan: Giới thiệu về dé tài, phạm vi, đối tượng và mục tiêu nghiên cứu, đồng thời đưa ra những đóng góp của khóa luận. Chương 2 - Cơ sở lý thuyết: Giới thiệu những phương pháp, mô hình mà nhóm tác giả đã áp dụng dé thực hiện khóa luận. Chương 3 - Thực nghiệm: Liệt kê chỉ tiết từng bước thực hiện đề tài nghiên cứu. Chương 4 - Thống kê và đánh giá: Thống kê và đánh giá kết quả đạt được.

So sánh các phương pháp được áp dụng vào đề tài nghiên cứu, từ đó đề xuất phương pháp tốt nhất trong các phương pháp đã nghiên cứu. Chương5 - Tổng kết: Trình bày kết quả đạt được. Những đóng góp mới và những đề xuất mới. Kiến nghị về những hướng nghiên cứu tiếp theo.

Convolutional Neural Network Mạng nơ-ron tích chập (convolution neural network, gọi tắt là CNN) lấy cảm hứng từ não người được nghiên cứu trong những thập niên 50-60 của thế kỷ 20, do D.N Wiesel tiễn hành trên não của động vật và sau đó đã đề xuất một mô hình mới cho cách mà động vật nhìn nhận thế giới. Vào năm 1998, mô hình CNN đầu tiên được giới thiệu bởi Bengio, Le-Cun, Bottou và Haffner. Mô hình này có tên là LeNet-5 và sử dụng dé nhận diện chữ số viết tay. OS K` O)% H- ò an ‘ layer ) input layer hidden layer 1 hidden layer 2 Hình 2.1: Mạng no-ron thông thường CNN có kiên trúc khác với Neural network thông thường.

Đôi với mạng nơ-ron bình thường, chúng sẽ chuyên đôi dau vào thông qua các tầng ân. Với mỗi tang an đó, các nơ-ron giữa các tâng cận kê được liên kêt đây đủ với nhau và tâng cuôi cùng sẽ trả về kết quả đại diện cho dự đoán của mạng (Hình 2. Tuy nhiên, nếu 3 http://cs23 In.io/convolutional-networks/ mạng càng nhiêu lớp thì số lượng tham số tăng lên quá nhanh. Vậy nên cần có giải pháp tốt hơn, đó là CNN (Hình 2.

depth PEER height «) > #d>(C———j OOOOOM width Hinh 2.2: Mang no-ron tich chap.* Một mô hình CNN gồm 2 phan: e Phần tang ân (phan rút trích đặc trưng): Mạng sẽ tiến hành tính toán các phép convolution (tích chập) va pooling (hợp nhất) dé phát hiện ra các đặc trưng trong hình ảnh. e Phần phân lớp: Là một vài tang với kết nối đầy đủ có vai trò như một bộ phân lớp các đặc trưng đã được rút trích từ phần trước đó. Sau đó đưa ra xác suất đối tượng trong hình anh thuộc lớp nao. VGG19 VGG19 là một mang CNN sử dụng kernel 3x3 trên toàn bộ các lớp tích chập.

Mang có độ sâu 19 weight layers (lớp trọng số), gồm 16 lớp Convolution (Conv) và 3 lớp Fully-connected (FC). VGG ra đời năm 2014, đạt được kết quả tốt trong cuộc thi ILSVRC-2014 với tỉ lệ lỗi top 5 là 7. và được giới thiệu tại hội thảo ICLR 2015. Giá trị theo sau VGG thé hiện độ sâu của mạng cũng như số lượng các lớp * http://cs23 1n.io/convolutional-networks/ trọng số được sử dụng.

Ngoài VGG19, kiến trúc của mạng này có nhiều biến thé khác nhau như 11, 13 và 16 weight layers. Nguyên tắc thiết kế của mạng VGGI9 bao gồm 2 hoặc 4 layers Convolution (Conv) và 1 lớp MaxPooling2D nối nhau. Cuối cùng là các FC layers và 1 Softmax layer dùng dé phân lớp đầu ra cho mạng (Hình 2. maxpool; maxpool | maxpool {| maxpool depth=64 depth=128 3x3 conv 3x3 conv 3x3 conv FC1 3x3 conv 3x3conv tonv3 1 conv4_1 conv5_1 FC2 conv1_1 conv2_1 conv3_2 conv4_2 conv5_2 size=1000 conv1_2 conv2 2 canv3 3 conv4_3 conv5_3 softmax conv3_4 conv4_4 conv5_4 Hình 2.3: Minh hoa kiến trúc VGG19.5 VGG19 có tông tham số lên đến 144 triệu.

Resnet50 ResNet (Residual Network) là một mạng CNN được thiết kế dé làm việc với hàng trăm hoặc hàng nghìn lớp tích chập nhưng lại có kích thước chỉ khoảng 23 triệu Š hftps://nthu-datalab.io/ml/labs/12-2_Visualization_Style-Transfer/12-2_Visualization_ Style- Transfer.html tham số. Mạng được giới thiệu với công chúng vào năm 2015 và giành vị trí thứ 1 trong cuộc thi ILSVRC-2015 với tỉ lệ lỗi top 5 là 3. Voi CNN, các mạng càng sâu sẽ đạt hiệu suất tốt hơn. Tuy nhiên, trên thực tế, nếu độ sâu của mạng quá lớn (>50 layers) sẽ dẫn đến tình trạng Vanishing gradient (mat mát dao hàm) hoặc Exploding gradient (bùng nỗ dao hàm) và khiến độ chính xác của mang bị giảm di.

Và ResNet-50 ra đời để giải quyết van đề này. Đầu tiên, ResNet áp dụng batch normalization giúp chuẩn hóa đầu ra, khiến các hệ sô trở nên cân băng và mô hình sẽ dé hội tụ hơn Giải pháp thứ 2 mà ResNet đưa ra là sử dụng kết nối "tắt" đồng nhất để xuyên qua một hay nhiều lớp. Một khối như vậy được gọi là một Residual Block. weight layer x identity Hình 2.4: Cấu trúc khối Residual Block Với H(x) là giá trị dự đoán, F(x) là giá trị thật (nhãn).

Ý tưởng của residual block là feedforward đầu vào x qua một số layer Conv-max-Conv, ta thu được F(x) sau đó cộng thêm x vào H(x) = F(x) + x. 10 Ở những lớp cuối, mạng sử dụng Average pooling, sau đó dùng | Flatten layer dé chuyên kết quả về dạng vector, cuối cùng là lớp FC sử dụng hàm softmax để đưa ra kết quả dự đoán. Ridge regression Ridge Regression là một phương pháp được áp dụng khi bộ dữ liệu gặp van đề về đa cộng tuyến (các bién độc lập x có mối liên hệ với nhau, và ảnh hưởng đến kết qua dự đoán y), hoặc các van đề về overfitting mà mô hình hồi quy tuyến tính thông thường gặp phải. Hàm mục tiêu của Ridge regression được thê hiện như sau: n m Lriage(W) = (yị—xA)”+A W8 ~ 2 ^ i-1 71 Trong do: e W là bộ tham số ey; là nhãn dau ra tại i Š https://viblo.asia/p/gioi-thieu-mang-resnet-vyDZOa7R5wj 11 e2 là hệ số phạt e x; là các thuộc tính của dữ liệu Ý tưởng của phương pháp này là cộng thêm tông bình phương bộ trọng số vào hàm mat mát nhằm tối ưu phương trình dự đoán y; = x;W và tìm ra bộ trọng số W tối giản nhất.

Từ đó, áp dụng Ridge regression vào mô hình sẽ giảm được overfitting. Quantile regression Quantile regression (hồi quy phân vi) là dạng thuật toán được mở rộng từ thuật toán hồi quy tuyến tính chuẩn (linear regression). Phương pháp này tìm hiểu mối quan hệ tuyến tính giữa biến độc lập x và biến phụ thuộc y trong trường hợp bộ dit liệu có các giá tri outliers (ngoại lệ), chênh lệch cao của phân phối dữ liệu, mức độ không đồng nhất của dữ liệu. Quantile regression xem xét phân phối tổng thé của dữ liệu, không chỉ sử dụng mỗi giá trị trung bình để tính toán như linear regression.

Thay vì 1 đường trung vị (phân vị 0.5), mô hình này sẽ ước lượng tham số hồi quy trên từng phân vị của biến phụ thuộc sao cho tong chênh lệch tuyệt đối của hàm hồi quy tại phân vị đó của biến phụ thuộc là nhỏ nhất. 12 Customer Lifetime Value Inc o a 107) N= 600 0.9 Quantile oO oO mm 5 #' œ = a 8- 0.5 Quantile œ E 2 4 = le) 2¬ : wD 0.1 Quantile a © lạ Ml Hình 2.6: Đồ thị minh họa 3 đường phân vị (0. Linear regression sử dung Stochastic Gradient Descent Với gradient descent thông thường, ta sử dung tat cả các điểm dữ liệu dé cập nhật theta. Cách làm này sẽ gặp hạn chế với các tập dữ liệu lớn.

Việc phải tính toán lại đạo hàm với tất cả các điểm dữ liệu qua mỗi vòng lặp trở lên không hiệu quả. Dé giải quyết van đề trên, ta sử dung SGD. Trong thuật toán này, tại một thời điểm, ta chi tính đạo hàm của ham mat mát dựa trên một điểm dit liệu sau đó cập nhật theta dựa trên đạo hàm này. Việc này sẽ thực hiện lần lượt với từng điểm dữ liệu, sau đó lặp lại quá trình trên.com/vi/tin-tuc/tong-quan-ve-regression-phan-tich-hoi-quy.html 13 SGD chỉ yêu cầu một lượng epoch rất nhỏ, thường là 10 cho lần đầu tiên và sau đó khi có dit liệu mới thì chỉ cần chạy dưới một epoch là đã có nghiệm tốt.

Sau mỗi epoch, dữ liệu cân được xáo trộn đê đảm bảo tính ngau nhiên. Với bài toán linear regression, theta = w, ham mat mát tại một điêm di liệu i là: 1 J(W; x¡; yd = 2 (x¡w — yi)? Đạo hàm theo w tương ứng là: VựJ(W; X¡; Vị) = x} (xjw — yi) 2. Support vector regression Support vector regression (SVR) là một mô hình hồi quy được dé xuất vào năm 1996 bởi Vladimir N. Vapnik, Harris Drucker, Christopher JC Burges, Linda Kaufman va Alexander J.

Mô hình sử dụng thuật toán phân loại SVM (Support vector machine) đê dự đoán giá tri của một biên liên tục. Các phương pháp hồi quy đơn giản cỗ gắng giảm thiêu độ lỗi giữa giá trị dự đoán với giá trị đúng (nhãn), tuy nhiên với SVR, mô hình có gang điều chỉnh lỗi trong một ngưỡng nhất định.7: Support vector giúp xác định đường dự đoán và biên của dữ liệu.7, 2 đường nét đứt được xem là 2 ranh giới. Đường hồi quy f(x) ở giữa là một siêu phăng. Khoảng cách giữa đường hồi quy f(x) đến 2 ranh giới là bang nhau, được gọi là epsilon.

Mục tiêu cua mô hình là với các điểm dữ liệu và khoảng cách epsilon cho trước, tìm một đường hồi quy f(x) sao cho số lượng điểm gần với nó nhất và có khoảng cách không quá epsilon. EfficientNet (B5) Đối với một mạng CNN bat kỳ, ta có 3 giá trị phô biến dé thay đôi như độ sâu của mạng, kích thước đầu vào, độ phân giải ảnh và ta cần thay đổi những giá trị này dé độ hiệu quả của mô hình trở nên tốt hơn. Tuy nhiên chúng ta không biết chính xác được nên thay đổi những giá tri này sao cho hợp lý dé giúp cải thiện hiệu quả của mô hình. EfficientNet, một mạng tự động Model Scaling (thu phóng mô hình) theo dir liệu của bài toán.

8 https://machine-learning-and-data-science-with-python.io/en/latest/assignment4_sup_ml.html 15 Trong thực tế, các lớp Conv thường được phân chia thành nhiều stage và tất cả các lớp trong mỗi stage đều có chung một kiến trúc. Do đó chúng ta có thể định nghĩa một mạng ConvNet như sau: — Li N =Ojau.s %' X (H,Wj,C) Trong đó, Ft biéu thi lớp F; được lặp lại L; lần trong stage i, (H;,W;,C;) biểu thị kích thước cua tensor đâu vào X cua lớp i. Việc thu phóng mô hình cố gắng thu phóng chiều dài mạng (L;), chiều rộng (C;) và độ phân giải (H;,W;) mà không thay đổi F; được xác định trước trong mạng cơ sở. Bằng cách giữ nguyên hàm F;, việc thu phòng mô hình đơn giản hóa vấn đề về thiết kế đối với tài nguyên hạn chế.

Nhằm thu hẹp không gian tìm kiếm với sự thay đổi của cả 3 chiều của mỗi lớp với mức độ khác nhau, nhóm tác giả đã hạn chế rằng các lớp phải được thu phóng đồng nhất với tỷ lệ không đổi.