Cải tiến kiến trúc U-Nets và ứng dụng trong khoa học máy tính

Chuyên khảo phân tích Cải tiến kiến trúc unets và các ứng dụng, đánh giá các khía cạnh quan trọng, đề xuất hướng nghiên cứu tiếp theo.

• Tác giả: Tran Quang Chung
• Người hướng dẫn: Dr. Dinh Viet Sang
• Trường học: Hanoi University of Science and Technology
• Chuyên ngành: Computer Science
• Đề tài: Cải Tiến Kiến Trúc U-Nets Và Ứng Dụng Trong Khoa Học Máy Tính
• Loại tài liệu: thesis
• Năm xuất bản: 2021
• Địa điểm: Hanoi

Tóm tắt

I. Tổng Quan Về Kiến Trúc U Net Cải Tiến Trong Học Sâu

Trong kỷ nguyên số, học sâu đã chứng minh sức mạnh vượt trội trong nhiều lĩnh vực, đặc biệt là khoa học máy tính. Các mô hình mạng nơ-ron tích chập (CNN) đã đạt được những thành tựu đáng kể trong xử lý ảnh và phân đoạn ảnh. Trong số đó, kiến trúc U-Net nổi lên như một giải pháp hiệu quả cho các bài toán semantic segmentation, đặc biệt là trong ứng dụng y tế. U-Net ban đầu được thiết kế để phân đoạn ảnh y tế, nhưng sau đó đã được mở rộng và áp dụng trong nhiều lĩnh vực khác. Sự thành công của U-Net nằm ở khả năng kết hợp thông tin ngữ cảnh từ các lớp sâu hơn với thông tin chi tiết từ các lớp nông hơn, nhờ vào cấu trúc encoder-decoder và các kết nối tắt (skip connections).

1.1. Lịch Sử Phát Triển Của Kiến Trúc Mạng U Net

Kiến trúc U-Net được giới thiệu lần đầu tiên bởi Ronneberger và cộng sự vào năm 2015. Mô hình này nhanh chóng trở thành một tiêu chuẩn trong phân đoạn ảnh y tế nhờ vào khả năng hoạt động hiệu quả với dữ liệu huấn luyện hạn chế. U-Net có cấu trúc đối xứng, bao gồm một phần encoder (giảm kích thước ảnh và trích xuất đặc trưng) và một phần decoder (tăng kích thước ảnh và tái tạo phân đoạn). Các skip connections kết nối các lớp tương ứng giữa encoder và decoder, giúp truyền tải thông tin chi tiết và cải thiện độ chính xác của phân đoạn. Từ đó, nhiều biến thể U-Net đã ra đời, tập trung vào việc cải thiện hiệu suất và khả năng thích ứng với các loại dữ liệu khác nhau.

1.2. Ưu Điểm Nổi Bật Của U Net Trong Xử Lý Ảnh

U-Net sở hữu nhiều ưu điểm vượt trội so với các kiến trúc CNN truyền thống. Khả năng học với dữ liệu hạn chế là một lợi thế lớn, đặc biệt trong các ứng dụng y tế, nơi việc thu thập dữ liệu có nhãn tốn kém và khó khăn. Cấu trúc encoder-decoder cho phép U-Net nắm bắt cả thông tin ngữ cảnh và thông tin chi tiết, giúp tạo ra các phân đoạn chính xác và rõ ràng. Các skip connections giúp giảm thiểu hiện tượng mất mát thông tin trong quá trình truyền tải, đồng thời cải thiện khả năng tái tạo ảnh. Nhờ những ưu điểm này, U-Net đã trở thành một công cụ mạnh mẽ trong xử lý ảnh và computer vision.

II. Thách Thức Và Hạn Chế Của Kiến Trúc U Net Gốc Hiện Nay

Mặc dù U-Net đã đạt được nhiều thành công, kiến trúc này vẫn còn tồn tại một số hạn chế cần được giải quyết. Một trong những thách thức lớn nhất là khả năng xử lý các đối tượng có kích thước và hình dạng khác nhau. U-Net gốc có thể gặp khó khăn trong việc phân đoạn các đối tượng nhỏ hoặc có hình dạng phức tạp. Ngoài ra, U-Net cũng có thể bị ảnh hưởng bởi sự thay đổi về độ sáng, độ tương phản và nhiễu trong ảnh. Để cải thiện hiệu suất U-Net, cần có những cải tiến về kiến trúc, hàm mất mát và phương pháp huấn luyện. Các nghiên cứu gần đây đã tập trung vào việc giải quyết những hạn chế này bằng cách đề xuất các U-Net cải tiến.

2.1. Nhược Điểm Khi Phân Đoạn Đối Tượng Kích Thước Nhỏ

Một trong những nhược điểm U-Net chính của U-Net gốc là khả năng phân đoạn các đối tượng có kích thước nhỏ. Trong nhiều ứng dụng, chẳng hạn như ứng dụng y tế (phân đoạn polyp nhỏ trong nội soi đại tràng), việc phát hiện và phân đoạn chính xác các đối tượng nhỏ là rất quan trọng. Tuy nhiên, U-Net gốc có thể bỏ sót hoặc phân đoạn không chính xác các đối tượng này do kích thước nhỏ và sự thiếu thông tin chi tiết. Để giải quyết vấn đề này, các nhà nghiên cứu đã đề xuất các cải tiến U-Net bằng cách sử dụng các lớp tích chập sâu hơn, các kết nối tắt dày đặc hơn hoặc các cơ chế chú ý (attention mechanisms).

2.2. Ảnh Hưởng Của Nhiễu Và Biến Động Dữ Liệu Đầu Vào

Hiệu suất U-Net có thể bị ảnh hưởng đáng kể bởi nhiễu và biến động trong dữ liệu đầu vào. Các yếu tố như độ sáng, độ tương phản, góc nhìn và nhiễu có thể làm giảm độ chính xác của phân đoạn. Để tăng cường tính ổn định của U-Net, cần sử dụng các kỹ thuật tiền xử lý ảnh, data augmentation và các hàm mất mát mạnh mẽ hơn. Data augmentation giúp tăng cường sự đa dạng của dữ liệu huấn luyện bằng cách tạo ra các biến thể của ảnh gốc, chẳng hạn như xoay, lật, thay đổi độ sáng và thêm nhiễu. Các hàm mất mát như Dice loss và IoU loss có thể giúp U-Net tập trung vào việc phân đoạn chính xác các đối tượng, ngay cả khi có nhiễu.

III. Các Phương Pháp Cải Tiến Kiến Trúc U Net Phổ Biến Nhất

Để khắc phục những hạn chế của U-Net gốc, nhiều phương pháp cải tiến U-Net đã được đề xuất. Các phương pháp này tập trung vào việc cải thiện kiến trúc, hàm mất mát và phương pháp huấn luyện. Một số cải tiến phổ biến bao gồm việc sử dụng các lớp tích chập sâu hơn, các kết nối tắt dày đặc hơn, các cơ chế chú ý và các hàm mất mát mới. Ngoài ra, transfer learning và fine-tuning cũng là những kỹ thuật hiệu quả để cải thiện hiệu suất U-Net, đặc biệt khi dữ liệu huấn luyện hạn chế. Các biến thể U-Net này đã chứng minh khả năng vượt trội trong nhiều ứng dụng, từ ứng dụng y tế đến computer vision.

3.1. Tích Hợp Cơ Chế Chú Ý Attention Mechanisms Vào U Net

Cơ chế chú ý (attention mechanisms) là một trong những cải tiến U-Net hiệu quả nhất. Cơ chế này cho phép U-Net tập trung vào các vùng quan trọng của ảnh và bỏ qua các vùng không liên quan. Bằng cách tích hợp cơ chế chú ý vào kiến trúc U-Net, có thể cải thiện đáng kể độ chính xác của phân đoạn, đặc biệt là trong các trường hợp có nhiễu hoặc biến động dữ liệu. Một số cơ chế chú ý phổ biến bao gồm squeeze-and-excitation (SE) blocks, convolutional block attention module (CBAM) và spatial attention. Các cơ chế này có thể được tích hợp vào các lớp tích chập hoặc các kết nối tắt của U-Net.

3.2. Sử Dụng Các Hàm Mất Mát Loss Functions Cải Tiến

Hàm mất mát (loss function) đóng vai trò quan trọng trong việc huấn luyện mạng nơ-ron. Các hàm mất mát truyền thống như cross-entropy loss có thể không phù hợp cho các bài toán phân đoạn ảnh, đặc biệt khi có sự mất cân bằng giữa các lớp. Để giải quyết vấn đề này, các nhà nghiên cứu đã đề xuất các hàm mất mát cải tiến U-Net như Dice loss, IoU loss và focal loss. Các hàm mất mát này tập trung vào việc tối ưu hóa độ tương đồng giữa phân đoạn dự đoán và phân đoạn thực tế, giúp cải thiện độ chính xác của phân đoạn, đặc biệt là đối với các đối tượng nhỏ hoặc khó phân đoạn.

IV. Ứng Dụng Thực Tế Của U Net Cải Tiến Trong Khoa Học Máy Tính

U-Net cải tiến đã được ứng dụng rộng rãi trong nhiều lĩnh vực của khoa học máy tính. Trong ứng dụng y tế, U-Net được sử dụng để phân đoạn các cấu trúc giải phẫu, phát hiện bệnh lý và hỗ trợ chẩn đoán. Trong computer vision, U-Net được sử dụng để phân đoạn ảnh vệ tinh, ảnh đường phố và ảnh công nghiệp. Ngoài ra, U-Net cũng được sử dụng trong các ứng dụng khác như xử lý ảnh, object detection và instance segmentation. Sự linh hoạt và hiệu quả của U-Net đã khiến nó trở thành một công cụ không thể thiếu trong nhiều dự án nghiên cứu và phát triển.

4.1. Ứng Dụng U Net Trong Phân Đoạn Ảnh Y Tế

Ứng dụng y tế là một trong những lĩnh vực thành công nhất của U-Net. U-Net được sử dụng để phân đoạn các cấu trúc giải phẫu như não, tim, phổi và các cơ quan khác từ ảnh chụp CT, MRI và siêu âm. Ngoài ra, U-Net cũng được sử dụng để phát hiện các bệnh lý như ung thư, đột quỵ và các bệnh tim mạch. Các kết quả phân đoạn từ U-Net có thể được sử dụng để hỗ trợ các bác sĩ trong việc chẩn đoán, lập kế hoạch điều trị và theo dõi tiến trình bệnh. Theo nghiên cứu của Tran Quang Chung, U-Net và các biến thể của nó đã vượt qua nhiều phương pháp truyền thống trong các bài toán phân đoạn ảnh y tế tiêu chuẩn.

4.2. Ứng Dụng U Net Trong Xử Lý Ảnh Vệ Tinh Và Đường Phố

U-Net cũng được sử dụng rộng rãi trong xử lý ảnh vệ tinh và đường phố. Trong ảnh vệ tinh, U-Net được sử dụng để phân đoạn các đối tượng như đường xá, tòa nhà, rừng và các vùng đất khác. Các kết quả phân đoạn này có thể được sử dụng để tạo bản đồ, theo dõi sự thay đổi của môi trường và hỗ trợ quản lý đô thị. Trong ảnh đường phố, U-Net được sử dụng để phân đoạn các đối tượng như xe cộ, người đi bộ, biển báo và vỉa hè. Các kết quả phân đoạn này có thể được sử dụng để phát triển các hệ thống lái xe tự động, giám sát giao thông và cải thiện an toàn đường bộ.

V. Đánh Giá Hiệu Suất Và So Sánh Các Biến Thể U Net Hiện Nay

Việc đánh giá U-Net và so sánh các biến thể U-Net là rất quan trọng để xác định kiến trúc phù hợp nhất cho từng ứng dụng cụ thể. Các tiêu chí đánh giá thường bao gồm độ chính xác, độ nhạy, độ đặc hiệu, Dice score và IoU score. Ngoài ra, thời gian huấn luyện và khả năng khái quát hóa cũng là những yếu tố quan trọng cần xem xét. Các nghiên cứu so sánh thường sử dụng các bộ dữ liệu chuẩn và các giao thức đánh giá thống nhất để đảm bảo tính khách quan và khả năng tái lập. Kết quả của các nghiên cứu này có thể giúp các nhà nghiên cứu và kỹ sư lựa chọn và cải thiện U-Net cho các dự án của mình.

5.1. Các Tiêu Chí Đánh Giá Hiệu Suất U Net Quan Trọng

Để đánh giá U-Net một cách toàn diện, cần sử dụng một loạt các tiêu chí đánh giá khác nhau. Độ chính xác (accuracy) đo lường tỷ lệ các pixel được phân loại đúng. Độ nhạy (sensitivity) đo lường khả năng phát hiện các pixel thuộc lớp dương tính. Độ đặc hiệu (specificity) đo lường khả năng phát hiện các pixel thuộc lớp âm tính. Dice score và IoU score đo lường độ tương đồng giữa phân đoạn dự đoán và phân đoạn thực tế. Ngoài ra, thời gian huấn luyện và khả năng khái quát hóa cũng là những yếu tố quan trọng cần xem xét. Khả năng khái quát hóa đo lường khả năng của U-Net hoạt động tốt trên dữ liệu chưa từng thấy.

5.2. So Sánh Hiệu Suất Giữa Các Biến Thể U Net Phổ Biến

Nhiều nghiên cứu đã được thực hiện để so sánh U-Net và các biến thể U-Net khác nhau. Các nghiên cứu này thường sử dụng các bộ dữ liệu chuẩn và các giao thức đánh giá thống nhất để đảm bảo tính khách quan và khả năng tái lập. Kết quả của các nghiên cứu này cho thấy rằng các U-Net cải tiến thường đạt được hiệu suất tốt hơn so với U-Net gốc, đặc biệt là trong các trường hợp có nhiễu, biến động dữ liệu hoặc các đối tượng nhỏ. Tuy nhiên, không có một kiến trúc U-Net nào là tốt nhất cho tất cả các ứng dụng. Việc lựa chọn kiến trúc phù hợp nhất phụ thuộc vào đặc điểm của dữ liệu và yêu cầu của ứng dụng.

VI. Kết Luận Và Hướng Phát Triển Tương Lai Của Kiến Trúc U Net

Kiến trúc U-Net đã chứng minh là một công cụ mạnh mẽ trong khoa học máy tính, đặc biệt là trong xử lý ảnh và phân đoạn ảnh. Các U-Net cải tiến đã khắc phục được nhiều hạn chế của U-Net gốc và mở ra nhiều cơ hội ứng dụng mới. Trong tương lai, U-Net có thể được tích hợp với các công nghệ khác như trí tuệ nhân tạo (AI), machine learning và deep learning để tạo ra các hệ thống thông minh hơn và hiệu quả hơn. Các hướng nghiên cứu tiềm năng bao gồm việc phát triển các kiến trúc U-Net tự thích ứng, các phương pháp huấn luyện không cần giám sát và các ứng dụng U-Net trong các lĩnh vực mới.

6.1. Tổng Kết Các Thành Tựu Của U Net Trong Khoa Học Máy Tính

U-Net đã đạt được nhiều thành tựu đáng kể trong khoa học máy tính. U-Net đã được ứng dụng thành công trong nhiều lĩnh vực như ứng dụng y tế, computer vision, xử lý ảnh và robotics. U-Net đã giúp cải thiện độ chính xác, hiệu quả và tốc độ của nhiều quy trình và ứng dụng. U-Net đã trở thành một công cụ không thể thiếu trong nhiều dự án nghiên cứu và phát triển. Sự thành công của U-Net đã truyền cảm hứng cho nhiều nhà nghiên cứu và kỹ sư tiếp tục khám phá và cải thiện U-Net.

6.2. Các Hướng Nghiên Cứu Và Phát Triển U Net Trong Tương Lai

Trong tương lai, U-Net có thể được phát triển theo nhiều hướng khác nhau. Một hướng là phát triển các kiến trúc U-Net tự thích ứng, có khả năng tự động điều chỉnh các tham số và cấu trúc để phù hợp với từng ứng dụng cụ thể. Một hướng khác là phát triển các phương pháp huấn luyện không cần giám sát, giúp giảm thiểu sự phụ thuộc vào dữ liệu có nhãn. Ngoài ra, U-Net có thể được ứng dụng trong các lĩnh vực mới như ứng dụng công nghiệp, ứng dụng nông nghiệp và ứng dụng môi trường. Sự kết hợp giữa U-Net và các công nghệ khác như AI, machine learning và deep learning sẽ mở ra nhiều cơ hội mới cho sự phát triển của U-Net.

Nội dung chính

Tổng quan nghiên cứu

Thị giác máy tính và học sâu đang tạo ra những bước chuyển mang tính cách mạng trong xử lý ảnh y tế và sinh trắc học. Tuy nhiên, các bài toán thực tế vẫn đối mặt với nhiều thách thức nghiêm trọng về độ chính xác và khả năng khái quát hóa. Trong nhận diện khuôn mặt đa góc nghiêng, sự thay đổi tư thế chụp làm suy giảm đáng kể hiệu năng của các hệ thống giám sát. Cùng với đó, trong lĩnh vực y tế, ung thư đại trực tràng là một trong những nguyên nhân gây tử vong hàng đầu thế giới; theo các thống kê lâm sàng, tỷ lệ bỏ sót polyp trong các ca nội soi đại tràng dao động từ 20% đến 47%, đặc biệt là đối với các tổn thương phẳng hoặc có kích thước dưới 10 mm. Cứ mỗi 1% tỷ lệ phát hiện u tuyến được cải thiện sẽ giúp giảm tương ứng 3% nguy cơ tiến triển thành ung thư đại trực tràng ác tính.

Xuất phát từ thực tiễn trên, luận văn thạc sĩ chuyên ngành Khoa học Máy tính tại Đại học Bách Khoa Hà Nội (hoàn thành vào tháng 04/2021) do học viên Trần Quang Chung thực hiện dưới sự hướng dẫn của Tiến sĩ Đinh Viết Sang đã tập trung nghiên cứu đề tài cải tiến kiến trúc mạng U-Net và mở rộng các ứng dụng thực tiễn. Mục tiêu trọng tâm của công trình là thiết kế các kiến trúc mạng nơ-ron tích chập chuyên sâu nhằm giải quyết hai bài toán then chốt: tái tạo khuôn mặt trực diện từ ảnh góc nghiêng để phục vụ nhận diện bất biến tư thế, và tự động phân vùng chính xác vùng polyp trên ảnh nội soi đường tiêu hóa.

Phạm vi thực nghiệm của nghiên cứu được triển khai toàn diện trên các tập dữ liệu tiêu chuẩn quốc tế quy mô lớn, bao gồm bộ dữ liệu Multi-PIE với 755.370 hình ảnh của 337 cá nhân dưới 15 góc chụp khác nhau và 19 điều kiện ánh sáng, cùng các tập dữ liệu nội soi đại tràng lâm sàng chuẩn như Kvasir-SEG và CVC-ClinicDB. Kết quả nghiên cứu đã tạo ra ba biến thể kiến trúc mạng mới (ResCUNet, Attention ResCUNet và Attention ResCUNeSt), mang lại sự cải thiện vượt bậc với chỉ số tương đồng mDice và mIoU tăng từ 2,1% đến 4,6% so với các mô hình tiêu chuẩn hiện hành, mở ra giải pháp ứng dụng thiết thực cho các hệ thống chẩn đoán y tế hỗ trợ máy tính và công nghệ an ninh thông minh.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn xây dựng nền tảng dựa trên sự kết hợp hài hòa giữa các lý thuyết học sâu tiên tiến và kỹ thuật xử lý ảnh số chuyên sâu:

• Kiến trúc mạng U-Net và Mạng ghép đôi (Coupled U-Nets): U-Net là kiến trúc mạng mã hóa - giải mã đối xứng kinh điển, trong đó các liên kết tắt (skip connections) truyền trực tiếp các đặc trưng cục bộ mức thấp từ bộ mã hóa sang bộ giải mã. Để tăng cường khả năng biểu diễn đặc trưng phức tạp, cấu trúc Coupled U-Nets kết nối hai mạng U-Net liên tiếp nhằm tinh chỉnh dần kết quả phân đoạn và thúc đẩy việc tái sử dụng đặc trưng qua các tầng mạng sâu.
• Lý thuyết học phần dư và Khung kiến trúc ResNeSt (Split-Attention Networks): Nhằm khắc phục hiện tượng suy thoái gradient khi tăng độ sâu mạng, luận văn tích hợp cấu trúc phần dư từ họ mạng ResNet. Đặc biệt, kiến trúc ResNeSt được khai thác với cơ chế Split-Attention, phân chia các kênh đặc trưng thành nhóm cơ sở kết hợp siêu tham số Radix, cho phép mô hình học trọng số chú ý động giữa các nhánh không gian và kênh khác nhau.
• Mạng sinh đối kháng (GAN) kết hợp Cơ chế Cổng chú ý (Attention Gates): Mô hình sinh đối kháng gồm bộ tạo (Generator) và hai bộ phân biệt (Global Discriminator và Local Discriminator) giúp tái tạo bản đồ UV map đầy đủ của khuôn mặt với độ chân thực cao. Cổng chú ý (Attention Gates) tự động lọc bỏ các phản hồi nền không liên quan và tập trung vào các vùng cấu trúc giải phẫu trọng yếu.
• Hàm mất mát Tversky và Bảo toàn danh tính (Identity Preserving): Sử dụng hàm mất mát Tversky Loss có thể tinh chỉnh các hệ số phạt để tối ưu hóa sự cân bằng giữa độ chính xác (Precision) và độ nhạy (Recall). Kết hợp với đó là mô-đun trích xuất vector đặc trưng 512 chiều từ mạng tiền huấn luyện FaceNet trên 3,31 triệu ảnh để đảm bảo tính nhất quán danh tính sau tái tạo.

Phương pháp nghiên cứu

Nghiên cứu sử dụng quy trình thực nghiệm nghiêm ngặt với các thông số cụ thể:

• Nguồn dữ liệu và Cỡ mẫu: Trong bài toán khuôn mặt, mô hình được huấn luyện trên cơ sở dữ liệu Multi-PIE (755.370 ảnh, 15 góc máy đặt cách nhau 15 độ) kết hợp các tập kiểm thử LFW, CPLFW và CFP. Trong bài toán y tế, các bộ dữ liệu nội soi chuẩn gồm Kvasir-SEG (1.000 ảnh) và CVC-ClinicDB (612 ảnh) được sử dụng để đánh giá năng lực phân vùng tổn thương.
• Phương pháp chọn mẫu và Phân chia dữ liệu: Dữ liệu được chuẩn hóa về kích thước 512 × 512 pixel. Phương pháp kiểm thử chéo 5 lớp (5-fold cross-validation) được áp dụng đồng thời với việc thiết lập 6 kịch bản huấn luyện độc lập (Scenario 1 đến Scenario 6), tách biệt hoàn toàn giữa dữ liệu huấn luyện và dữ liệu kiểm thử từ các trung tâm y tế khác nhau để kiểm tra độ khái quát hóa xuyên tập dữ liệu.
• Lý do lựa chọn phương pháp phân tích: Thuật toán tối ưu hóa Mini-batch Gradient Descent kết hợp với hàm mất mát kết hợp đa thành phần (gồm mất mát tái tạo, mất mát đối kháng, mất mát phụ trợ Auxiliary Loss và mất mát Tversky) được lựa chọn nhằm tối đa hóa tốc độ hội tụ và giải quyết triệt để hiện tượng mất cân bằng nghiêm trọng giữa diện tích polyp nhỏ với toàn bộ nền niêm mạc đường ruột.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình đánh giá định lượng và định tính trên các tập chuẩn benchmark đã ghi nhận những phát hiện đột phá:

• Khả năng tái tạo bản đồ khuôn mặt 3D vượt trội: Biến thể Attention ResCUNet-GAN đã hoàn thiện thành công các vùng bản đồ UV bị che khuất do góc nghiêng khuôn mặt. So với mô hình cơ sở UV-GAN, hình ảnh trực diện được tổng hợp đạt độ chân thực tự nhiên, không xuất hiện hiện tượng biến dạng cục bộ ở vùng mắt hay khóe miệng, đồng thời bảo toàn nguyên vẹn danh tính chủ thể với khoảng cách không gian embedding 512 chiều đạt mức tối ưu.
• Nâng cao độ chính xác nhận diện khuôn mặt đa tư thế: Khi tích hợp mô hình tái tạo khuôn mặt vào hệ thống nhận diện, độ chính xác xác thực trên các tập dữ liệu thách thức CPLFW và CFP ghi nhận mức tăng từ 1,5% đến 3,8% so với việc sử dụng trực tiếp các ảnh góc nghiêng ban đầu.
• Đột phá về chỉ số phân đoạn tổn thương polyp y tế: Trên hai tập dữ liệu kiểm thử Kvasir-SEG và CVC-ClinicDB, mô hình Attention ResCUNeSt-101 thiết lập chuẩn hiệu năng mới với chỉ số mDice đạt trên 90% và mIoU vượt trội hơn từ 2,1% đến 4,6% khi đặt cạnh các mô hình nổi tiếng như UNet, ResUNet++, Double-UNet và PraNet.
• Khả năng định vị chính xác tổn thương kích thước nhỏ: Cơ chế Split-Attention kết hợp với cổng chú ý Attention Gate cấp 9 (S9) đã triệt tiêu hiệu quả các vùng nhiễu phản quang của dịch nhầy và nếp gấp niêm mạc, giúp phát hiện chính xác các polyp có đường kính nhỏ dưới 10 mm mà các phương pháp truyền thống thường bỏ sót.

Thảo luận kết quả

Sự vượt trội của các mô hình đề xuất bắt nguồn từ việc thiết kế luồng truyền thông tin đa cấp thông minh. Việc kết hợp liên kết tắt giữa hai mạng U-Net liên tiếp giúp bộ giải mã của mạng thứ hai tiếp nhận đồng thời cả đặc trưng ngữ nghĩa mức cao và các chi tiết cấu trúc cục bộ mức thấp. Việc bổ sung nhánh tổn thất phụ trợ (Auxiliary Loss) tại đầu ra của mạng U-Net thứ nhất đóng vai trò then chốt trong việc duy trì dòng gradient ổn định, ngăn chặn hiện tượng triệt tiêu gradient ở các tầng nơ-ron sâu.

Trong phần trình bày kết quả, dữ liệu thực nghiệm được trực quan hóa chi tiết thông qua các hệ thống đồ thị và bảng biểu chuyên dụng:

• Biểu đồ đường cong ROC và PR (Precision-Recall): Đồ thị trung bình qua 5 lớp kiểm thử chéo thể hiện diện tích dưới đường cong (AUC) của mô hình Attention ResCUNeSt-101 tiệm cận sát góc trên bên trái, duy trì độ nhạy vượt trội ở mọi ngưỡng phân loại so với PraNet và ResUNet++.
• Bản đồ nhiệt kích hoạt chú ý (Attention Heatmaps): Các hình ảnh trực quan hóa phản ánh rõ nét sự tập trung tín hiệu; vùng màu đỏ rực bao phủ chính xác ranh giới của tổn thương polyp, trong khi các vùng niêm mạc bình thường bị ức chế hoàn toàn.
• Bảng đối sánh đa tiêu chí: Thể hiện rõ ràng các chỉ số Recall, Precision, mDice và mIoU qua 6 kịch bản thử nghiệm độc lập, minh chứng tính ổn định của mô hình khi huấn luyện trên tập dữ liệu CVC-Colon và kiểm thử trực tiếp trên ETIS-Larib.

Đề xuất và khuyến nghị

Dựa trên các kết quả đạt được, luận văn đưa ra 4 nhóm đề xuất ứng dụng và định hướng kỹ thuật mang tính khả thi cao:

1. Tích hợp mô hình Attention ResCUNeSt vào hệ thống hỗ trợ nội soi theo thời gian thực: Đội ngũ kỹ sư phần mềm y tế phối hợp với các trung tâm nội soi cần đóng gói mô hình thành mô-đun CAD (Computer-Aided Diagnosis). Mục tiêu kỹ thuật cần đạt là duy trì tốc độ xử lý trên 30 khung hình/giây (fps) với độ trễ phản hồi dưới 35 mili-giây, triển khai thử nghiệm thực tế trong lộ trình từ 6 đến 12 tháng.
2. Chuẩn hóa quy trình tiền xử lý phục hồi khuôn mặt 3D trong an ninh giám sát: Khuyến nghị các đơn vị phát triển giải pháp an ninh sinh trắc học tích hợp mạng 3DDFA và Attention ResCUNet-GAN vào luồng camera giám sát công cộng. Giải pháp này hướng tới việc nâng cao tỷ lệ nhận diện chính xác đối tượng nghiêng góc từ 45 đến 90 độ lên mức trên 98,5% trong vòng 6 tháng tới.
3. Mở rộng việc áp dụng hàm mất mát Tversky Loss kết hợp Auxiliary Loss cho các bài toán phân đoạn ảnh y tế khác: Các viện nghiên cứu y sinh học nên ứng dụng cấu trúc hàm tổn thất này vào các dạng ảnh cộng hưởng từ (MRI) não hoặc CT phổi nhằm tăng chỉ số phân đoạn ranh giới tổn thương thêm ít nhất 3% trong giai đoạn 2024-2026.
4. Thực hiện nén mô hình và lượng tử hóa trọng số (Quantization): Nhóm nghiên cứu hệ thống nhúng cần áp dụng kỹ thuật chưng cất tri thức (Knowledge Distillation) nhằm giảm từ 40% đến 50% kích thước bộ nhớ mô hình, tạo điều kiện thuận lợi để nạp thuật toán trực tiếp vào các vi xử lý phần cứng biên của máy nội soi cầm tay trong vòng 9 tháng.

Đối tượng nên tham khảo luận văn

Tài liệu học thuật này mang lại giá trị tham khảo sâu sắc cho 4 nhóm đối tượng trọng tâm:

• Học viên cao học và Nghiên cứu sinh ngành Trí tuệ Nhân tạo / Khoa học Máy tính: Luận văn là tài liệu tham khảo mẫu mực về phương pháp cải tiến các kiến trúc mạng nơ-ron tích chập sâu, kỹ thuật ghép nối mạng Coupled Networks, cơ chế Split-Attention và phương pháp thiết kế hàm mất mát kết hợp cho các bài toán thị giác máy tính phức tạp.
• Bác sĩ chuyên khoa tiêu hóa và Chuyên viên y tế nội soi: Tài liệu giúp các chuyên gia lâm sàng nắm bắt cơ chế hoạt động của các hệ thống AI hỗ trợ chẩn đoán hình ảnh, từ đó hiểu rõ nguyên lý nhận diện tổn thương và nâng cao mức độ tin cậy khi sử dụng công nghệ để giảm thiểu tỷ lệ bỏ sót 20-47% polyp trong quy trình tầm soát ung thư.
• Kỹ sư phát triển hệ thống Thị giác máy tính và Nhận diện sinh trắc học: Các kỹ sư công nghệ có thể kế thừa trực tiếp mã nguồn kiến trúc ResCUNet và quy trình trích xuất vector đặc trưng 512 chiều từ bản đồ UV map để nâng cấp các hệ thống camera giám sát thông minh tại sân bay, tòa nhà và đô thị.
• Doanh nghiệp phát triển giải pháp công nghệ y tế (MedTech): Đội ngũ nghiên cứu và phát triển (R&D) tại các công ty thiết bị y tế có thể khai thác khung kiến trúc Attention ResCUNeSt để tích hợp trực tiếp vào phần mềm máy nội soi tiêu chuẩn, nâng cao giá trị thương mại và năng lực cạnh tranh của sản phẩm.

Câu hỏi thường gặp

1. Tại sao kiến trúc U-Net truyền thống lại gặp khó khăn khi phân đoạn các polyp có kích thước dưới 10 mm?
Kiến trúc U-Net thuần túy gặp hiện tượng suy giảm thông tin chi tiết qua các tầng tích chập sâu và khoảng cách ngữ nghĩa lớn giữa nhánh mã hóa và nhánh giải mã. Đối với các polyp nhỏ dưới 10 mm có độ tương phản mờ nhạt với niêm mạc, U-Net thông thường dễ bị bão hòa tín hiệu, dẫn đến việc bỏ sót hoặc phân đoạn sai lệch ranh giới tổn thương.

2. Cơ chế Split-Attention trong ResNeSt mang lại ưu thế gì vượt trội so với ResNet tiêu chuẩn?
ResNeSt phân chia các kênh đặc trưng thành nhóm cơ sở kết hợp cơ chế chú ý theo kênh cho từng nhánh mạng nhỏ. Điều này cho phép mô hình thu nhận thông tin ngữ cảnh đa tỉ lệ một cách linh hoạt, tạo ra các biểu diễn đặc trưng phong phú hơn ResNet truyền thống mà không làm bùng nổ số lượng tham số tính toán.

3. Mô hình Attention ResCUNet-GAN bảo toàn danh tính khuôn mặt bằng cách nào khi thực hiện xoay góc chụp?
Mô hình tích hợp mô-đun Identity Preserving sử dụng mạng FaceNet (được tiền huấn luyện trên 3,31 triệu ảnh từ 9.131 danh tính thuộc tập VGGFace2). Mô-đun này tính toán khoảng cách Euclidean giữa vector embedding 512 chiều của ảnh gốc và ảnh sinh ra, buộc mạng phải duy trì các đặc trưng nhân trắc học cốt lõi của khuôn mặt.

4. Vì sao hàm mất mát Tversky Loss lại vượt trội hơn Binary Cross-Entropy trong bài toán phân đoạn ảnh y tế?
Trong ảnh nội soi, vùng polyp chỉ chiếm tỷ lệ pixel rất nhỏ so với nền niêm mạc đại tràng. Hàm mất mát Tversky Loss cho phép gán trọng số phạt riêng biệt cho các trường hợp âm tính giả (False Negatives) và dương tính giả (False Positives), qua đó khắc phục triệt để hiện tượng mất cân bằng dữ liệu và tối ưu hóa chỉ số mDice.

5. Mô hình phân đoạn trong luận văn đã được kiểm thử độ ổn định xuyên trung tâm y tế như thế nào?
Nghiên cứu đã thiết lập 6 kịch bản kiểm thử độc lập, trong đó mô hình được huấn luyện trên tập dữ liệu CVC-Colon nhưng kiểm tra trực tiếp trên tập ETIS-Larib từ cơ sở y tế khác. Kết quả cho thấy mô hình vẫn duy trì độ chính xác cao và không bị hiện tượng quá khớp (overfitting).

Kết luận

Luận văn thạc sĩ "An Improved UNets Architecture and Its Applications" của tác giả Trần Quang Chung đã giải quyết xuất sắc các thách thức lớn trong thị giác máy tính thông qua các đóng góp khoa học nổi bật:

• Đề xuất thành công ba kiến trúc nơ-ron tích chập cải tiến: ResCUNet, Attention ResCUNet và Attention ResCUNeSt, kết hợp đột phá giữa cơ chế cổng chú ý và kiến trúc mạng ghép đôi.
• Xây dựng giải pháp tái tạo khuôn mặt trực diện từ ảnh góc nghiêng với chất lượng chân thực cao, bảo toàn nguyên vẹn danh tính trên không gian vector 512 chiều.
• Đạt hiệu năng phân vùng polyp đường tiêu hóa vượt trội trên các tập chuẩn quốc tế Kvasir-SEG và CVC-ClinicDB, hỗ trợ thiết thực cho việc sàng lọc ung thư đại trực tràng.
• Đóng góp phương pháp tối ưu hóa mạng nơ-ron sâu thông qua việc kết hợp cơ chế Split-Attention, hàm mất mát Tversky và các nhánh tổn thất phụ trợ Auxiliary Loss.
• Cung cấp cơ sở lý thuyết vững chắc và quy trình thực nghiệm chuẩn mực, đã được công bố tại các diễn đàn khoa học uy tín trong nước và quốc tế (MAPR, SCI-Q1).

Trong giai đoạn 12 đến 24 tháng tới, hướng nghiên cứu tiếp theo sẽ tập trung vào việc tối ưu hóa tốc độ suy luận, lượng tử hóa mô hình để triển khai trên các vi xử lý nhúng và mở rộng thử nghiệm lâm sàng thực tế. Các viện nghiên cứu, doanh nghiệp công nghệ y tế và chuyên gia thị giác máy tính được khuyến khích tiếp cận, ứng dụng và phát triển mở rộng khung kiến trúc này để thúc đẩy chuyển đổi số y tế và công nghệ nhận diện thông minh.

Trích đoạn nội dung tài liệu

HANOI UNIVERSITY OF SCIENCE AND TECHNOLOGY Master’s Thesis in Computer Science An Improved UNets Architecture and Its Applications Cải tiến kiến trúc U-Nets và các ứng dụng TRAN QUANG CHUNG Chung.vn Supervisor: Dr. Dinh Viet Sang Department: Computer Science 123doc Mang Luôn thay vì h■■ng l■im■i s■ cam tr■ h■u m■t k■t nghi■m t■im■t là s■ cáwebsite nhân mang kho m■ith■ kinh m■ l■i d■n ■■u vi■n nh■ng cho doanh kh■ng ng■■i quy■n chia t■ th■c dùng, l■ s■l■i v■i và hi■n t■t công h■n mua ngh■a nh■t 2.000 ngh■ báncho tài v■ hi■n ng■■i li■u c■a tài th■ hàng mình li■u ■■u ■ dùng. hi■n ■■i, thìt■t Khi s■p Vi■t c■ khách b■n t■i, l■nh Nam. ngh■a online hàng v■c: Táctr■ không v■ tài phong thành chính c■akhác chuyên c■a thành tíngì d■ng, hàng so nghi■p, viên v■i tri■u công c■a b■nhoàn nhà ngh■ 123doc g■c.

bán h■o, ■■ thông B■n và hàng n■p có tin, l■i cao th■ ti■n ngo■i chuy■n tính phóng vào ng■,.Khách trách tài giao to,kho■n nhi■m thu sang nh■■■i ■■n c■a hàng tùy123doc, v■i v■ ý. cót■ng qu■n th■b■n d■ ng■■i lýChào dàng■■■c s■ dùng. m■ng tra c■u M■c h■■ng b■n ■■n tàitiêu li■u v■i■■u nh■ng hàng m■t quy■n cách 123doc. c■a chính l■i123doc.net sau xác,n■p nhanh ti■n tr■ chóng.

trên thành th■ vi■n tài li■u online l■n nh■t Vi■t Nam, cung c■p nh■ng tài li■u ■■c không th■ tìm th■y trên th■ tr■■ng ngo■i tr■ 123doc. website Nhi■u event thú v■, event ki■m ti■n thi■t th■c. 123doc luôn luôn t■o c■ h■i gia t■ng thu nh■p online cho t■t c■ các thành viên c■a website. Ha Noi, 4/2021 Mangh■n Luôn Th■a Xu■t Sau Nhi■u 123doc Link khi h■■ng phát thu■n l■i event cam s■ nh■n xác m■t tr■ t■ h■u k■t s■ thú nghi■m t■i th■c ýxác n■m t■■ng m■t d■ng v■, là s■nh■n s■ ■■■c ■■i, website ra mang event kho m■i 1.

t■o ■■ng tLink t■ th■ m■ l■i c■ng ki■m d■n 123doc CH■P g■i ■■u ■■ng vi■n xác nh■ng cho ti■n v■ ■ã ■■a th■c h■ kh■ng ng■■i NH■N quy■n th■ng thi■t chia t■ng s■ ki■m■■■c dùng, l■ ch■ CÁC s■ th■c. s■ l■i b■■c v■i■I■U ti■n và email chuy■n t■t công h■n mua 123doc g■i online kh■ng nh■t b■n v■ ngh■ bán ■■a ■ã KHO■N■■nh 2.000 sang b■ng luôn cho tài ■■ng hi■n ng■■i li■u ph■n luôn ch■ tài TH■A tài v■ th■ li■u hàng t■o email li■u thông ky, dùng. ■■u ■b■n tríhi■n THU■N hi■u c■ c■a b■n ■■i, tin t■t h■i Khi qu■■ã mình vui Vi■t xác c■ ■■ng khách gia lòng b■n ■■ng nh■t, minh trong l■nh Nam. t■ng Chào online hàng uy tài v■c: l■nh thu Tác m■ng ky, tín kho■n tr■ nh■p nh■p không b■n tài phong v■c caothành b■n chính vui ■■n email nh■t.

tài email online oLink khác chuyên li■u lòng thành tínb■n■■ng Mong c■a xác gì cho ■ã d■ng, và v■i so ■■ng nghi■p, viên th■c kinh mình t■t 123doc.net! v■i mu■n công nh■p c■a c■ doanh s■ b■n vàcác hoàn mang ngh■ 123doc click email ký g■c. thành v■i h■o, Chúng vào l■i ■■ thông B■n g■i c■a và ■■a ■■n 123doc.netLink CH■P cho viên linkí Tính v■ n■p có mình tôi tin, c■ng c■a cao th■ cung NH■N ti■n ngo■i và ■■ng tính mình website. phóng ch■ th■i click vào c■pCÁC ■i■m ■I■U ng■,.Khách trách xác trong email tài D■ch vào xã to,kho■n th■c nhi■m h■i thu linkông l■nh b■n ■ã tháng V■ nh■ m■t s■ ■■i ■■■c KHO■N c■a v■c (nh■■■ng hàng tin tùy ngu■n ■■■c 5/2014; 123doc, tài v■i xác ý. cóli■u TH■A g■i t■ng minh th■ tài ky, 123doc và v■ mô ■■a nguyên b■n b■n d■ ng■■i THU■N tài kinh t■dàng kho■n s■ vui v■■t■■■c d■■i doanh tri dùng.

ch■ lòng tra■ây) ■■ng th■c m■c email email c■u Chào online.000 cho tài b■n b■n m■ng tiêu báu, nh■p■ã li■u Tính■ã b■n,■■n ■■ng ■■ng nh■ng hàng ■■u phong m■t l■■t email b■n tùy ■■n quy■n cách truy thu■c th■i phú, c■a ký ■i■m ky,■a c■a c■p chính v■i v■i mình l■i b■n vào 123doc.netLink d■ng, 123doc.net! sau xác, các vui tháng vàngày, n■p click lòng “■i■u nhanh giàu■■ng 5/2014; ti■n s■ vào tr■ giá Kho■n Chúng chóng. h■u trên ■■ng linkc■a thành tr■ xác 123doc nh■p 2.000 website th■c Th■a tôi th■ ■■■c website. cung email v■■t s■ vi■n th■i Thu■n c■p c■a thành mong m■c tài D■ch v■ li■u mình g■i viên ■■ng 100.000 mu■n S■ ■■a online v■ và V■ D■ng click t■o (nh■ ■i■u l■■t l■n ký,■■■c D■ch vào ch■ nh■t truy l■t link email ki■n V■” vào c■p Vi■t 123doc môtop sau cho b■n m■i Nam,■ây ■ã t■200 d■■i cho ■■ng ■ây) ngày, cung các các (sau g■is■■ây website c■p users h■u ky, cho ■■■c nh■ng có b■n 2.000 b■n, ph■ thêm vui tài bi■n tùy g■ilòng thu li■u ■■c ■■ng thu■c t■t thành nh■t nh■p. T■i vào t■i viên ■■ng không t■ng Chính nh■p Vi■t cácth■i “■i■u th■ Nam, vì ■i■m, email v■y ký, tìm t■ Kho■n c■a l■t 123doc.net th■y l■chúng vào mình tìm trên Th■a top ki■m và tôi th■ 200 ra ■■i click Thu■n cóthu■c tr■■ng các th■ vào nh■m website c■p v■ top link ngo■i S■ ■áp 3nh■t ■KTTSDDV ■ng 123doc Google.

D■ng ph■ tr■ ■ã ■■■c 123doc. bi■n D■ch Nh■n nhu g■i nh■t c■u V■” theo t■i chia sau ■ây Vi■t quy■t danh s■ Nam, tài (sau hi■u .li■u■ây t■ do ch■t■■■c l■c■ng tìm ■■ng l■■ng ki■m g■i và thu■c t■t bình ki■m T■i ch■n top ti■n t■ng 3 Google. th■i ■i■m, website Nh■n ki■m■■■c chúng ti■ntôi online danh có th■ hi■u hi■u c■p do qu■ và ■KTTSDDV nh■t c■ng ■■ng uy tín nh■t. bình ch■n theo quy■t là website.

ki■m ti■n online hi■u qu■ và uy tín nh■t. Luônh■n 123doc Sau Th■a Xu■t khi h■■ng phát thu■n cam nh■n m■tt■k■t s■ t■i ýxác n■m t■■ng d■ng là s■ nh■n■■i, website ra mang 1. t■o ■■ng t■l■i c■ng d■n 123doc CH■P ■■u ■■ng nh■ngh■■ã NH■N quy■n th■ng chia t■ng ki■mCÁC s■s■ l■i b■■c ti■n■I■U vàchuy■n t■t mua online kh■ng nh■t bán KHO■N■■nh sang b■ng chothay ng■■i ph■n tài TH■A vìv■ li■u m■ithông dùng. tríTHU■N hi■u m■t c■atinKhi qu■ mình cá xác khách nhân nh■t, minh trong Chào kinh hàng uy tài l■nh m■ng doanh tín kho■n tr■v■c caothành b■n t■ ■■n email nh■t.

tàith■c li■u thành b■n Mong hi■n và v■i■ã viên kinh ■■ng 123doc.net! mu■n ngh■a c■a doanh mang 123doc v■ kýonline. c■a v■i Chúng l■ivà ■■n 123doc.netLink mình cho Tính n■p tôi c■ng thì cung ti■n s■p■■ng th■i vào c■p t■i, ■i■m xác tài D■ch xã ngh■a kho■n th■c h■itháng V■m■t s■ v■c■a■■■c (nh■ c■a ■■■c ngu■n 5/2014; 123doc, c■a g■i tài b■n■■a 123doc hàng v■ mô nguyên t■ tri■u s■ v■■t d■■i■■■c tri ch■ nhà ■ây) th■c m■c email bán h■■ng quý 100.000 cho hàng b■n báu,b■n,■ã nh■ng l■i ■■ng phong l■■t chuy■n tùyquy■n truy thu■c phú, ky, c■p■a giaol■i b■n vàom■i sang d■ng, sau các ■■n vuingày, n■p lòng “■i■u giàu■■ng ti■n s■ v■ giá Kho■n h■u qu■n trên tr■ ■■ng nh■p 2.000 website Th■a lý hoàn email th■i Thu■n h■o, c■a thành mong■■ v■ mình viên mu■n S■ cao■■ng vàD■ng tính click ■i■u t■otrách ký, D■ch vàol■tlink nhi■m ki■n V■” vào ■■i 123doc top sau cho ■ây ■ãcác 200 cho v■i các (sau g■i t■ng ■ây website users ■■■c ng■■i cóph■ dùng. thêmbi■n g■ithu M■c t■t nh■t nh■p. T■i tiêu t■i t■ng hàng Chính ■■u Vi■tth■i Nam, ■i■m, vì v■y c■a t■123doc.net chúng tìm ki■m tôiracó■■i tr■ thu■c th■ thành nh■m c■p topth■■áp 3nh■t ■KTTSDDV ■ng Google.

vi■n tàiNh■n nhu li■uc■u■■■c online theo chia l■n quy■t danh s■nh■t tài hi■u .li■u Vi■t do ch■t Nam, c■ng ■■ng l■■ng cung và c■pbình ki■m nh■ng ch■n ti■ntài là li■u ■■cki■m online. website khôngti■n th■ online tìm th■y hi■utrên qu■th■ và tr■■ng uy tín nh■t. ngo■i tr■ 123doc. Luôn Th■a Xu■t Sau Nhi■u 123doc Mang thayh■n khi vì h■■ng phát thu■n l■i event m■i cam s■ nh■n m■t tr■ t■ h■u m■t k■t s■ thú nghi■m t■i ýxác n■m t■■ng m■t d■ng v■, là s■ cá nh■n■■i, website ra nhân mang event kho m■i 1.

t■o t■ th■■■ng kinh m■ l■i c■ng ki■m d■n 123doc CH■P vi■n■■u ■■ng nh■ng cho doanh ti■n h■■ã kh■ng ng■■i NH■N quy■n th■ng thi■t chia t■t■ng ki■m th■c dùng, l■ CÁC s■ th■c. s■ l■i b■■c v■i ti■n và■I■U hi■n chuy■n t■t công h■n mua 123doc online kh■ng ngh■a nh■t ■■nh 2.000 ngh■ bán KHO■N sang b■ng luôn cho tài v■ hi■n ng■■i li■u ph■n luôn c■a tài TH■A tài v■ th■ li■u hàng t■o mình li■u thông dùng. ■■u ■ tríhi■n THU■N hi■u c■ c■a ■■i, thìtin t■t h■i Khi qu■ s■p mình Vi■t xác c■ khách gia b■n t■i, nh■t, minh trong l■nh Nam. t■ng Chào ngh■a online hàng uy tài v■c: l■nh thu Tác m■ng tín kho■n tr■ nh■p không v■ tài phong v■c caothành b■n chính c■a ■■n email nh■t.

tài online khác chuyên c■a li■u thành tínb■n Mong gì cho d■ng, và hàng v■i so■ã nghi■p, viên kinh t■t ■■ng 123doc.net! v■i mu■n tri■u công c■a c■ doanh b■n các hoàn nhà mang ngh■ 123doc ký g■c. thành bán v■i h■o, Chúng l■i thông B■n và ■■ hàng ■■n 123doc.netLink cho viên Tính n■p có tôi tin, c■ng l■i c■a cao th■ cung ti■n ngo■i■■ng chuy■n tính website. phóng th■i vào c■p ■i■m ng■,.Khách trách xác tài D■ch giao xã to,kho■n th■c nhi■m h■i thu sang tháng V■ nh■ m■t s■ ■■i ■■n c■a■■■c (nh■ hàng tùy ■■■c ngu■n 5/2014; 123doc, v■i v■ ý. cóg■i t■ng qu■n th■ tài 123doc v■ mô ■■a nguyên b■n d■ ng■■i lý, t■dàng s■ công v■■t d■■i■■■c tri dùng.

ch■ tra ■ây) th■c ngh■ m■c email c■u M■c h■■ng quý hi■n 100.000 cho tài b■n tiêu báu, li■u b■n, th■ ■ã nh■ng hàng■■ng phong m■t l■■t hi■n■■u tùy ■■i, quy■n cách truy thu■c phú, ky, c■a c■p■a chính b■n l■i b■n vào123doc.net m■i d■ng, sau online xác, các vuingày, n■p lòng “■i■u nhanh giàu■■ng không ti■n s■ tr■ giá Kho■n chóng. h■u trên khác thành tr■ ■■ng nh■p 2.000 website Th■a gìth■ so email vi■n th■i v■i Thu■n c■a thành b■n mong tài v■ li■u mình g■c. viên mu■n S■ ■■ng online và B■n D■ng click t■o l■n■i■u cóký, D■ch vào th■ nh■t l■t link phóng ki■n V■” vào Vi■t 123doc top sau cho to, Nam,■ây ■ã 200 thu chocung nh■ các các (sau ■ây g■iwebsite tùy c■p users ■■■c ý.nh■ng cóph■ thêm tài bi■n g■ithu li■u t■t ■■c nh■t nh■p. T■it■i không t■ng Chính Vi■tth■ith■ Nam, ■i■m, vì v■y tìm t■123doc.net th■y l■chúng tìm trên ki■m tôi th■ ■■i racóthu■c tr■■ng th■nh■m c■p top ■áp ngo■i 3nh■t ■KTTSDDV ■ng Google.

Nh■n nhu c■u ■■■c theo chiaquy■t danh s■ tàihi■u .li■udo ch■t c■ng ■■ng l■■ng vàbình ki■mch■n ti■n là online. website ki■m ti■n online hi■u qu■ và uy tín nh■t. Chia m■t u■t Nhi■u Mang Luôn 123doc Th■a Xu■t Sau tri■n phát khi h■n member s■ h■■ng phát khai thu■n l■i event s■ cam nh■n câu t■ m■t tr■ t■ event h■u ýk■t s■ chuy■n thú nghi■m t■i ýkhông t■■ng xác n■m t■■ng m■t d■ng v■, là ■■i, khuy■n s■ nh■n website ra mang m■y event t■o kho thành m■i 1. t■o t■ mãi■■ng c■ng th■ n■i m■ l■i c■ng ki■m d■n công 123doc CH■P th■■■ng vi■n b■t■■u ■■ng nh■ng cho ti■n trên■ã n■p h■ c■a kh■ng ng■■i NH■N quy■n th■ng 123doc thi■t chia ki■m v■i c■ng t■ng ki■m ■■ng dùng, l■ CÁC s■ nh■ng th■c.

ti■n s■ l■i b■■c v■i ti■n -và■I■U ki■m■u chuy■n t■t công 5■ãi online h■n mua 123doc online kh■ng 123doc nh■t ■■nh ■ã 2.000 ngh■ bán KHO■N tri■u b■ng sang b■ng luôn cho c■c tài hi■n ch■ tài ng■■i li■u ph■n luôn k■ tài TH■A xu■t li■u tài v■ v■i th■ li■u h■p hàng t■o li■u thông s■c dùng.