Luận văn thạc sĩ: Mô hình phân lớp với học tự giám sát cho tập dữ liệu nhỏ

Luận văn thạc sĩ kỹ thuật phân tích máy tính xây dựng mô hình phân lớp với tập dữ liệu nhỏ dựa vào học tự giám sát và cải thiện biểu, đánh giá thực trạng, chỉ ra hạn chế, đề xuất

• Tác giả: Dương Đức Tín
• Người hướng dẫn: PGS. Lê Hồng Trang
• Trường học: Đại học Bách Khoa - ĐHQG TP.HCM
• Chuyên ngành: Khoa học máy tính
• Đề tài: Xây dựng mô hình phân lớp hiệu quả với học tự giám sát cho tập dữ liệu nhỏ
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2024
• Địa điểm: TP. Hồ Chí Minh

Mục lục chi tiết

• Lời cảm ơn
• Tóm tắt luận văn
• Abstract of thesis
• Lời cam đoan
• Danh mục hình ảnh
• Danh mục bảng biểu
• 1. Chương 1: TỔNG QUAN
• 1.1. Giới thiệu đề tài
• 1.2. Mục tiêu và phạm vi đề tài
• 1.3. Cấu trúc luận văn
• 2. Chương 2: KIẾN THỨC NỀN TẢNG
• 2.1. Mạng nơ-ron trí tuệ nhân tạo (Artificial Neural Network)
• 2.2. Mạng nơ-ron tích chập (Convolution Neural Network)
• 2.3. Mạng nơ-ron dư thừa (Residual Neural Network)
• 2.4. Mạng phân đoạn hình ảnh (Image Segmentation)
• 3. Chương 3: CÔNG TRÌNG NGHIÊN CỨU LIÊN QUAN
• 3.1. Tập dữ liệu
• 3.2. Khối trích xuất đặc trưng (backbone)
• 3.3. Thuật toán phân lớp đối tượng có độ tương đồng cao (Fine-Grained)
• 3.4. Thuật toán phân đoạn (Segmentation)
• 3.4.1. U-Net: Convolutional Networks for Biomedical Image Segmentation (U-Net)
• 3.4.2. U2-Net: Going Deeper with Nested U-Structure for Salient Object Detection
• 3.4.3. ArcFace: Additive Angular Margin Loss for Deep Face Recognition
• 3.4.4. Naive semi-supervised deep learning using pseudo-label
• 4. Chương 4: CÁC PHƯƠNG PHÁP ĐỀ XUẤT
• 4.1. SERF-P: Một tiếp cận học nửa giám sát thông qua cải thiện đặc trưng biểu diễn và giả gán nhãn
• 4.1.1. Tổng quan phương pháp
• 4.1.2. Tăng cường khả năng tách lớp của mô hình
• 4.1.3. Học bán tự động thông qua gán nhãn giả
• 4.2. MealySup: Một phương pháp học giám sát yếu với đa hàm mất mát
• 4.2.1. Tổng quan phương pháp
• 4.2.2. Hàm lỗi đa phân lớp (Multi-classification Loss)
• 4.2.3. Hàm lỗi đa phân khúc (Multi-segmentation Loss)
• 5. Chương 5: THỰC NGHIỆM
• 5.1. Tập dữ liệu
• 5.1.1. Tập dữ liệu CUB 200-201
• 5.1.2. Tập dữ liệu CAR
• 5.1.3. Tập dữ liệu MNIST
• 5.1.4. Tập dữ liệu NEU-DET
• 5.2. Phương pháp MealySup
• 5.3. Phương pháp SERF-P
• 5.4. Kết quả trên phương pháp SERF-P
• 5.5. Kết quả trên phương pháp MealySup
• 6. Chương 6: TỔNG KẾT
• 6.1. Các công việc đã hoàn thành
• 6.2. Hạn chế và cải tiến
• 6.3. Hướng phát triển tương lai
• Danh mục công trình khoa học
• Tài liệu tham khảo

Tóm tắt

I. Tổng quan

Phân lớp dữ liệu ảnh là một trong những nhiệm vụ quan trọng trong lĩnh vực thị giác máy tính, đặc biệt khi áp dụng các thuật toán học sâu. Đề tài này nghiên cứu việc xây dựng mô hình phân lớp hiệu quả cho các tập dữ liệu nhỏ, nơi mà độ tương đồng giữa các đối tượng trong cùng một lớp là rất cao. Thách thức chính là phải phát hiện và phân loại chính xác các đối tượng có đặc điểm tương đồng, như trong trường hợp phân loại các loại xe hơi khác nhau. Để giải quyết vấn đề này, nghiên cứu đề xuất sử dụng phương pháp học tự giám sát nhằm cải thiện khả năng nhận diện chi tiết của mô hình. Mô hình đề xuất sẽ bao gồm các khối trích xuất đặc trưng, phân tích đối tượng và phân lớp đối tượng, giúp tối ưu hóa quá trình phân loại.

1.1 Mục tiêu và phạm vi đề tài

Mục tiêu chính của nghiên cứu là phát triển một mô hình phân lớp có khả năng nhận diện tốt cho các đối tượng có độ tương đồng cao, bằng cách áp dụng các phương pháp học sâu và học tự giám sát. Đề tài sẽ tập trung vào việc xây dựng khối trích xuất đặc trưng nhằm phát hiện các đặc điểm chi tiết của đối tượng, đồng thời cải thiện khả năng phân loại thông qua việc loại bỏ những đặc trưng không cần thiết. Phạm vi nghiên cứu bao gồm các mô hình học sâu hiện đại và việc áp dụng chúng vào các tập dữ liệu nhỏ, từ đó đánh giá hiệu quả của các phương pháp đã đề xuất.

II. Kiến thức nền tảng

Chương này sẽ trình bày những kiến thức nền tảng cần thiết cho việc phát triển mô hình học sâu trong phân lớp đối tượng. Các khái niệm như mạng nơ-ron trí tuệ nhân tạo, mạng nơ-ron tích chập, và mạng phân đoạn hình ảnh sẽ được giới thiệu. Mạng nơ-ron trí tuệ nhân tạo là cơ sở cho việc xây dựng các mô hình học máy, trong khi mạng nơ-ron tích chập là công cụ chính để xử lý dữ liệu hình ảnh. Việc hiểu rõ cách thức hoạt động của các mô hình này sẽ hỗ trợ trong việc phát triển các thuật toán phân lớp hiệu quả hơn cho các tập dữ liệu nhỏ.

2.1 Mạng nơ ron trí tuệ nhân tạo

Mạng nơ-ron trí tuệ nhân tạo (ANN) là một trong những cấu trúc cơ bản trong học máy, mô phỏng cách thức hoạt động của nơ-ron trong não người. Mỗi nơ-ron trong mạng nhận đầu vào từ các nơ-ron khác, thực hiện tính toán và truyền tín hiệu đến các nơ-ron tiếp theo. Mạng ANN có khả năng học các hàm phức tạp và tổng quát hóa dữ liệu. Công thức tính toán của mỗi nơ-ron là: a = f(Wx + b), trong đó W là trọng số, b là bias, và f là hàm kích hoạt. Sự kết hợp của nhiều lớp nơ-ron cho phép mạng học được các đặc trưng phức tạp từ dữ liệu đầu vào.

2.2 Mạng nơ ron tích chập

Mạng nơ-ron tích chập (CNN) là một kiến trúc mạng nơ-ron đặc biệt, rất hiệu quả trong việc xử lý hình ảnh. CNN sử dụng các bộ lọc để phát hiện các đặc trưng như cạnh và góc từ dữ liệu hình ảnh. Cấu trúc của CNN cho phép mạng học được các đặc điểm không gian của hình ảnh, từ đó cải thiện khả năng phân loại. Việc sử dụng CNN trong nghiên cứu này sẽ giúp tối ưu hóa quá trình phân lớp các đối tượng có độ tương đồng cao, đặc biệt trong các bài toán phân loại phức tạp.

III. Các phương pháp đề xuất

Chương này trình bày các phương pháp đề xuất nhằm cải thiện hiệu quả của mô hình phân lớp với tập dữ liệu nhỏ. Phương pháp SERF-P và MealySup sẽ được giới thiệu, trong đó SERF-P tập trung vào việc cải thiện đặc trưng biểu diễn và gán nhãn giả, trong khi MealySup sử dụng đa hàm mất mát để tối ưu hóa quá trình học. Cả hai phương pháp đều hướng đến việc tối ưu hóa khả năng phân loại cho các đối tượng có độ tương đồng cao, đồng thời giảm thiểu độ phức tạp trong quá trình học.

3.1 SERF P

Phương pháp SERF-P được thiết kế để cải thiện khả năng tách lớp của mô hình bằng cách sử dụng các kỹ thuật học tự giám sát. Phương pháp này sử dụng các đặc trưng đã học để tạo ra các nhãn giả, từ đó giúp mô hình học được các đặc điểm chi tiết hơn của đối tượng. SERF-P đặc biệt hữu ích trong các tình huống mà tập dữ liệu huấn luyện rất nhỏ, giúp cải thiện độ chính xác của mô hình mà không cần thêm dữ liệu mới.

3.2 MealySup

MealySup là một phương pháp học giám sát yếu, sử dụng nhiều hàm mất mát để tối ưu hóa quá trình học. Phương pháp này không chỉ giúp cải thiện độ chính xác của mô hình mà còn giảm thiểu độ phức tạp trong việc gán nhãn cho các đối tượng. Bằng cách áp dụng MealySup, mô hình có thể học được các đặc trưng cần thiết từ dữ liệu có sẵn mà không cần phải có một tập dữ liệu lớn, từ đó mở rộng khả năng áp dụng của mô hình trong thực tế.

IV. Thực nghiệm

Chương này trình bày các kết quả thực nghiệm từ việc áp dụng các phương pháp đã đề xuất trên các tập dữ liệu khác nhau như CUB 200-201, CAR, MNIST và NEU-DET. Kết quả cho thấy rằng việc áp dụng các phương pháp SERF-P và MealySup đã cải thiện đáng kể độ chính xác của mô hình phân lớp. Các thí nghiệm cũng chỉ ra rằng mô hình có thể hoạt động hiệu quả ngay cả khi chỉ có một lượng nhỏ dữ liệu huấn luyện.

4.1 Kết quả thực nghiệm

Kết quả thực nghiệm cho thấy rằng phương pháp SERF-P đạt được độ chính xác cao hơn so với các phương pháp truyền thống trong việc phân loại các đối tượng có độ tương đồng cao. Đặc biệt, trong trường hợp tập dữ liệu nhỏ, SERF-P cho thấy khả năng nhận diện chi tiết vượt trội, cho phép mô hình phân loại chính xác ngay cả khi số lượng mẫu rất hạn chế. Điều này chứng tỏ rằng việc áp dụng học tự giám sát có thể mang lại lợi ích rõ rệt trong các bài toán phân loại phức tạp.

V. Tổng kết và hướng phát triển

Chương cuối cùng sẽ tổng kết những đóng góp của nghiên cứu và đề xuất các hướng phát triển trong tương lai. Việc xây dựng mô hình phân lớp hiệu quả với tập dữ liệu nhỏ dựa vào học tự giám sát không chỉ mở ra cơ hội cho việc áp dụng trong nhiều lĩnh vực khác nhau mà còn tạo tiền đề cho các nghiên cứu sâu hơn trong tương lai. Các hướng nghiên cứu tiếp theo có thể bao gồm việc cải thiện hơn nữa các thuật toán học sâu và mở rộng ứng dụng của mô hình trong các bài toán thực tế.

5.1 Hướng phát triển tương lai

Nghiên cứu có thể được mở rộng bằng cách áp dụng các kỹ thuật học sâu mới nhất vào các bài toán phân lớp khác nhau, hoặc thử nghiệm trên các tập dữ liệu lớn hơn để đánh giá khả năng tổng quát của mô hình. Bên cạnh đó, việc kết hợp các phương pháp học bán giám sát và học không giám sát có thể giúp cải thiện hơn nữa độ chính xác và hiệu suất của mô hình trong các ứng dụng thực tế.

Nội dung chính

Tổng quan nghiên cứu

Trong kỷ nguyên phát triển của thị giác máy tính, bài toán phân loại ảnh thông thường với các đối tượng có sự khác biệt vật lý rõ rệt như người, xe cộ, cây cối đã đạt được độ chính xác vượt trội trên 95% nhờ các mạng nơ-ron tích chập sâu. Tuy nhiên, thách thức lớn nhất hiện nay nằm ở bài toán phân loại đối tượng có độ tương đồng cao (Fine-Grained Visual Categorization - FGVC), điển hình như phân biệt 196 dòng xe hơi khác nhau hay 200 loài chim có ngoại hình tương tự. Trong các ứng dụng công nghiệp, sự khác biệt giữa sản phẩm đạt chuẩn và sản phẩm lỗi chỉ nằm ở những vết xước siêu nhỏ kích thước dưới 2 milimét trên bề mặt kim loại. Vấn đề này càng trở nên nan giải khi nguồn dữ liệu có gán nhãn chuẩn trong thực tế vô cùng khan hiếm, chi phí gán nhãn thủ công có thể chiếm tới 70% ngân sách của một dự án học máy.

Nghiên cứu của tác giả Dương Đức Tín, thực hiện tại Trường Đại học Bách Khoa – Đại học Quốc gia Thành phố Hồ Chí Minh dưới sự hướng dẫn của Phó giáo sư Lê Hồng Trang, tập trung giải quyết bài toán phân lớp với tập dữ liệu nhỏ dựa trên học tự giám sát và cải thiện biểu diễn đặc trưng sâu. Mục tiêu trọng tâm của luận văn là phát triển hai giải pháp kiến trúc đột phá gồm mô hình bán giám sát SERF-P và mô hình giám sát yếu MealySup. Phạm vi thực nghiệm của đề tài được triển khai trên 4 bộ dữ liệu tiêu chuẩn gồm Stanford CARS với 16.185 ảnh, CUB-200-2011 với 200 loài chim, NEU-DET với 6 loại khuyết tật bề mặt thép và tập MNIST ở kịch bản 10 ảnh cho mỗi lớp. Công trình mang ý nghĩa thực tiễn to lớn khi giúp các hệ thống thị giác máy tính giảm hơn 50% nhu cầu dữ liệu có nhãn, đồng thời duy trì độ chính xác phân loại tương đương các mô hình hiện đại trên 92% độ chính xác tổng thể.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn xây dựng trên nền tảng tích hợp của mạng nơ-ron tích chập sâu (CNN), kiến trúc mạng phần dư (Residual Neural Network - ResNet) và lý thuyết học khoảng cách biểu diễn (Metric Learning). Kiến trúc ResNet với cơ chế nối tắt (skip connection) đóng vai trò cốt lõi nhằm giải quyết triệt để hiện tượng suy biến và biến mất đạo hàm (Gradient Vanishing) khi mạng nơ-ron đạt độ sâu từ 18 đến 50 tầng. Trong phân loại đối tượng có độ tương đồng cao, các đặc trưng ở tầng sâu thường bị chi phối bởi thông tin phông nền hoặc các đặc điểm chung của lớp lớn, làm giảm khả năng phân biệt chi tiết cục bộ.

Để khắc phục hạn chế này, nghiên cứu áp dụng hàm mất mát biên góc cộng tính (Additive Angular Margin Loss - ArcFace), tối ưu hóa góc lượng giác giữa vector nhúng đặc trưng và vector trọng số của các lớp trên không gian hình cầu đa chiều. Ba khái niệm trung tâm được vận dụng xuyên suốt gồm:

• Biểu diễn đặc trưng sâu (Deep Feature Representation): Chuyển hóa ảnh đầu vào thành vector nhúng 128 chiều có tính phân tách cao.
• Học bán giám sát với nhãn giả (Semi-Supervised Learning with Pseudo-Labeling): Tận dụng tập dữ liệu chưa gán nhãn quy mô lớn để mở rộng không gian học của mô hình.
• Phân đoạn ngữ nghĩa tự giám sát yếu (Weakly-Supervised Semantic Segmentation): Tự động khoanh vùng vật thể bằng cơ chế bỏ phiếu (voting) trên các bản đồ đặc trưng mà không cần nhãn hộp bao (bounding box) thủ công.

Phương pháp nghiên cứu

Nghiên cứu sử dụng 4 nguồn dữ liệu đa dạng để kiểm chứng tính tổng quát hóa: tập Stanford CARS gồm 16.185 ảnh thuộc 196 dòng xe hơi, tập CUB-200-2011 gồm 11.788 ảnh của 200 loài chim, tập khuyết tật bề mặt công nghiệp NEU-DET với 1.800 ảnh phân chia thành 6 dạng khuyết tật (crazing, inclusion, patches, pitted surface, rolled-in scale, scratches), và tập MNIST chuẩn. Phương pháp chọn mẫu áp dụng kỹ thuật phân tầng ngẫu nhiên (stratified sampling) nhằm giữ nguyên tỷ lệ phân bổ của các lớp đối tượng, đồng thời thiết lập môi trường dữ liệu nhỏ nghiêm ngặt với số lượng mẫu có nhãn giới hạn từ 5 đến 10 ảnh cho mỗi lớp.

Quy trình phân tích và kiến trúc mô hình được thiết kế qua 2 hướng tiếp cận độc lập:

• Phương pháp SERF-P: Sử dụng backbone ResNet-18 kết hợp tầng chiếu (Projector) 128 chiều và hàm mất mát ArcLoss. Mô hình áp dụng thuật toán lọc nhãn giả kép dựa trên sự đồng thuận giữa khoảng cách Euclidean trong không gian nhúng và xác suất dự đoán Softmax vượt ngưỡng 0.5 nhằm loại bỏ các điểm dữ liệu nhiễu.
• Phương pháp MealySup: Sử dụng backbone ResNet-50 kết hợp hai khối hàm mất mát cải tiến. Khối hàm lỗi đa phân lớp (MCL) gắn các tầng kết nối đầy đủ (Fully Connected) vào 4 khối con (block) của ResNet-50 để rút ngắn chuỗi đạo hàm lan truyền ngược. Khối hàm lỗi đa phân khúc (MSL) tạo mặt nạ nhị phân tự động thông qua việc chuyển đổi bản đồ đặc trưng sang ảnh xám và áp dụng ngưỡng bỏ phiếu kênh, định hướng mô hình tập trung vào vật thể chính. Timeline nghiên cứu được thực hiện từ tháng 02/2023 đến tháng 12/2023 và hoàn thành bảo vệ chính thức vào tháng 01/2024.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Thực nghiệm trên các tập dữ liệu tiêu chuẩn mang lại 4 phát hiện khoa học quan trọng:

Thứ nhất, trên tập dữ liệu MNIST với kịch bản dữ liệu cực nhỏ chỉ 10 ảnh có nhãn cho mỗi lớp, phương pháp SERF-P đạt độ chính xác phân loại vượt trội trên 94%, vượt qua phương pháp gán nhãn giả thông thường (Naive Pseudo-Labeling) hơn 6,5%. Không gian vector nhúng biểu diễn qua kỹ thuật t-SNE cho thấy các cụm dữ liệu phân tách rõ rệt chỉ sau 5 epoch huấn luyện ban đầu.

Thứ hai, cơ chế hàm lỗi đa phân lớp (MCL) trong mô hình MealySup giúp gia tăng tỷ lệ các bản đồ đặc trưng mang tính phân biệt cao so với bản đồ phông nền nhiễu, tăng hơn 35% trên các khối tầng 3 và tầng 4 của mạng ResNet-50. Điều này chứng minh việc phạt sớm ở từng khối con giúp triệt tiêu hiện tượng trôi dạt thông tin đặc trưng.

Thứ ba, trên tập dữ liệu công nghiệp NEU-DET với 6 loại khuyết tật bề mặt thép, khối phân đoạn tự giám sát MSL đã tự động khoanh vùng chính xác 100% các vết nứt và vết xước kéo dài mà không cần bất kỳ nhãn phân đoạn thủ công nào. Độ chính xác nhận dạng lỗi bề mặt đạt xấp xỉ 89,5% trong điều kiện mẫu thử giới hạn.

Thứ tư, trên tập dữ liệu đối tượng tương đồng cao Stanford CARS với 196 lớp, mô hình MealySup đạt độ chính xác 92,4%, tiệm cận thành tích 92,8% của mô hình MA-CNN và vượt qua mô hình ResNet-50 tiêu chuẩn hơn 4,2%, trong khi thời gian huấn luyện tổng thể giảm khoảng 22% nhờ sự hội tụ nhanh của đa hàm mất mát.

Thảo luận kết quả

Hiệu quả vượt bậc của mô hình xuất phát từ việc giải quyết trực tiếp hai điểm nghẽn của mạng học sâu truyền thống: sự kéo dài của chuỗi đạo hàm (chain rule) và sự thiếu định hướng vị trí trong không gian đặc trưng. Khi chỉ tính một hàm mất mát ở tầng cuối cùng, các giá trị đạo hàm nhân liên tiếp trong khoảng từ âm 1 đến 1 khiến tín hiệu cập nhật về các tầng đầu tiên gần như bằng 0. Việc bổ sung khối MCL tại 4 khối con tạo ra các đường truyền tắt trực tiếp cho gradient, buộc từng tầng trích xuất phải tối ưu hóa ngay lập tức các đặc trưng cục bộ. Đồng thời, khối MSL đóng vai trò như một bộ lọc không gian, giúp mô hình tự loại bỏ các điểm ảnh thuộc về phông nền môi trường.

Các kết quả thực nghiệm trong luận văn được mô hình hóa trực quan và minh chứng rõ ràng thông qua ba dạng hiển thị dữ liệu khoa học:

• Biểu đồ phân tán t-SNE: Thể hiện sự biến chuyển của các vector nhúng 128 chiều từ trạng thái phân tán hỗn loạn ở epoch 1 sang các cụm cụ thể, cô lập hoàn toàn giữa 10 lớp dữ liệu ở epoch tối ưu.
• Bản đồ nhiệt kích hoạt (Heatmap / Attention Map): Minh họa mức độ chú ý của mô hình qua các block 2, 3 và 4, chứng minh tiêu điểm chuyển dịch chính xác từ toàn cảnh sang các chi tiết nhận dạng đặc thù như đèn pha xe hơi, mỏ chim hoặc vết xước kim loại.
• Bảng tổng hợp so sánh đa tiêu chí: Trình bày chi tiết độ chính xác Top-1 và Top-5 giữa các mô hình ResNet-18, ResNet-50, ArcFace, MA-CNN và hai phương pháp đề xuất trên cùng một tập tham số thử nghiệm.

Đề xuất và khuyến nghị

Nhằm chuyển hóa các kết quả nghiên cứu thành giá trị thực tiễn trong công nghiệp và phát triển học thuật, 4 khuyến nghị hành động chiến lược được đề xuất như sau:

• Ứng dụng mô hình SERF-P vào dây chuyền kiểm định chất lượng sản phẩm tự động tại các nhà máy sản xuất linh kiện điện tử và luyện kim. Mục tiêu cắt giảm 60% chi phí gán nhãn thủ công và nâng tỷ lệ phát hiện lỗi bề mặt lên trên 95%. Thời gian triển khai thử nghiệm từ 6 đến 9 tháng, do bộ phận R&D và kỹ sư thị giác máy tính tại các doanh nghiệp sản xuất phụ trách.
• Tích hợp kiến trúc MealySup vào hệ thống camera giám sát bán lẻ thông minh và quản lý kho hàng tự động nhằm nhận diện chính xác các sản phẩm tiêu dùng có mẫu mã tương đồng. Mục tiêu đạt tốc độ xử lý trên 30 khung hình/giây trên phần tử xử lý biên. Thời gian triển khai từ 9 đến 12 tháng, do các công ty giải pháp phần mềm và bán lẻ công nghệ chủ trì.
• Nâng cấp khối trích xuất đặc trưng nền tảng từ mạng tích chập ResNet sang các kiến trúc Vision Transformer (ViT) nhẹ hoặc Swin Transformer kết hợp cơ chế chú ý đa tầng. Mục tiêu tăng thêm 2 đến 3% độ chính xác phân loại đối tượng siêu nhỏ và tối ưu hóa bộ nhớ tính toán trong 12 tháng, do các nhóm nghiên cứu học máy tại các trường đại học thực hiện.
• Chuẩn hóa và xây dựng bộ cơ sở dữ liệu mở về hình ảnh khuyết tật công nghiệp tại Việt Nam với quy mô trên 20.000 mẫu ảnh đa góc độ nhằm hỗ trợ cộng đồng nghiên cứu AI trong nước. Thời gian hoàn thành trong 18 tháng, do các phòng thí nghiệm trọng điểm liên kết cùng các hiệp hội công nghiệp triển khai.

Đối tượng nên tham khảo luận văn

Công trình luận văn mang lại giá trị học thuật và ứng dụng chuyên sâu cho 4 nhóm đối tượng trọng tâm:

• Kỹ sư Trí tuệ Nhân tạo và Thị giác Máy tính trong doanh nghiệp: Tìm thấy giải pháp toàn diện để xây dựng các mô hình phân loại chính xác cao khi đối mặt với bài toán thiếu dữ liệu gắn nhãn trong thực tế sản xuất và vận hành hệ thống.
• Học viên Cao học và Nghiên cứu sinh ngành Khoa học Máy tính: Nắm bắt phương pháp luận chặt chẽ trong việc thiết kế các hàm mất mát tùy biến (custom loss functions), kết hợp giữa Metric Learning, ArcFace và các cơ chế học tự giám sát yếu tiên tiến.
• Các nhà phát triển hệ thống Tự động hóa và Kiểm định Công nghiệp (QA/QC): Sử dụng trực tiếp cấu trúc của khối MSL và MCL để tích hợp vào các hệ thống máy học phân loại khuyết tật cơ khí, bề mặt thép và bao bì sản phẩm với độ trễ thấp.
• Giảng viên và chuyên gia nghiên cứu thị giác máy tính: Sử dụng tài liệu như một tài liệu tham khảo chất lượng cao về tối ưu hóa mạng nơ-ron sâu, giải quyết vấn đề triệt tiêu đạo hàm và kỹ thuật xử lý ảnh fine-grained.

Câu hỏi thường gặp

Phân loại đối tượng có độ tương đồng cao (Fine-Grained) khác biệt như thế nào so với phân loại ảnh thông thường?

Phân loại ảnh thông thường phân biệt các lớp có sự khác biệt vật lý rõ rệt như mèo và xe hơi với đặc trưng tổng thể tách biệt. Trong khi đó, phân loại fine-grained nhận diện các phân lớp rất chi tiết trong cùng một họ đối tượng, ví dụ phân biệt giữa 196 dòng xe hơi hoặc 6 dạng khuyết tật bề mặt thép, đòi hỏi mô hình phải nhận biết được các biến đổi tinh vi ở mức độ vài điểm ảnh cục bộ.

Phương pháp SERF-P giải quyết hiện tượng gán nhãn giả sai lệch ra sao?

Phương pháp SERF-P thiết lập cơ chế kiểm định kép nghiêm ngặt trước khi bổ sung một điểm dữ liệu chưa có nhãn vào tập huấn luyện. Mô hình yêu cầu khoảng cách Euclidean trong không gian nhúng 128 chiều phải thuộc về cụm lớp gần nhất, đồng thời xác suất phân loại qua hàm Softmax phải vượt ngưỡng 0.5. Sự kết hợp này giúp loại bỏ hơn 90% các mẫu nhiễu ở biên quyết định.

Khối Multi-classification Loss (MCL) khắc phục hiện tượng triệt tiêu đạo hàm bằng cách nào?

Khối MCL gắn trực tiếp các tầng phân loại phụ vào đầu ra của cả 4 khối con trong mạng ResNet-50 thay vì chỉ đặt ở tầng cuối cùng. Cấu trúc này rút ngắn chiều dài chuỗi lan truyền ngược (chain rule), giúp các giá trị đạo hàm được bơm trực tiếp vào từng tầng trung gian, từ đó tăng cường độ dốc gradient và giúp mô hình hội tụ nhanh hơn khoảng 20%.

Khối Multi-segmentation Loss (MSL) có cần nhãn phân đoạn hộp bao thủ công không?

Khối MSL hoàn toàn không cần nhãn phân đoạn thủ công hay nhãn hộp bao (bounding box). Khối này tự động trích xuất các bản đồ đặc trưng ở khối cuối cùng của backbone, chuyển đổi sang ảnh xám và áp dụng ngưỡng bỏ phiếu kênh tự động để tạo ra mặt nạ nhị phân. Cơ chế học tự giám sát yếu này giúp giảm 100% chi phí gán nhãn phân đoạn vị trí.

Mô hình đề xuất có thể hoạt động ổn định trên các thiết bị phần cứng giới hạn không?

Mô hình hoàn toàn có thể triển khai trên các thiết bị phần cứng tầm trung hoặc vi xử lý biên (Edge GPU). Trong quá trình suy luận thực tế (inference), các nhánh phụ như hàm mất mát ArcLoss và khối phân đoạn MSL có thể được ngắt bỏ, chỉ giữ lại khung mạng chính với kích thước vector nhúng 128 chiều, đảm bảo thời gian phản hồi đạt trên 30 khung hình/giây.

Kết luận

• Luận văn đã giải quyết thành công bài toán phân loại đối tượng có độ tương đồng cao trong điều kiện dữ liệu nhỏ thông qua 2 giải pháp SERF-P và MealySup.
• Đề xuất cơ chế lọc nhãn giả kép kết hợp hàm mất mát biên góc ArcLoss trên vector nhúng 128 chiều, giúp tăng độ chính xác phân loại bán giám sát lên trên 94% trên tập dữ liệu thử nghiệm.
• Xây dựng thành công kiến trúc đa hàm mất mát gồm MCL và MSL trên nền tảng ResNet-50, triệt tiêu hiện tượng biến mất đạo hàm và tự động định vị vật thể không cần nhãn phân đoạn.
• Kiểm chứng thực nghiệm toàn diện trên 4 bộ dữ liệu tiêu chuẩn Stanford CARS (16.185 ảnh), CUB-200, NEU-DET và MNIST, đạt kết quả tiệm cận các mô hình SoTA với độ chính xác đạt 92,4%.
• Mở ra hướng tiếp cận mới trong việc tối ưu hóa chi phí gán nhãn cho các bài toán thị giác máy tính công nghiệp và bán lẻ thông minh.

Đóng góp cốt lõi của nghiên cứu là cung cấp một khung giải pháp toàn diện về học tự giám sát và tinh chỉnh biểu diễn đặc trưng sâu, loại bỏ sự phụ thuộc vào các tập dữ liệu khổng lồ đắt đỏ. Kế hoạch tiếp theo trong vòng 6 đến 12 tháng tới là tối ưu hóa mô hình trên các kiến trúc Transformer và triển khai thử nghiệm diện rộng trên dây chuyền sản xuất thực tế. Hãy khám phá và áp dụng ngay các giải pháp kiến trúc trong luận văn để đột phá năng lực xử lý hình ảnh cho hệ thống AI của bạn!

Trích đoạn nội dung tài liệu

CHƯƠNG 1 TỔNG QUAN 3 • Khối trích xuất đặc trưng. Khi hình ảnh đi qua mô hình, khối trích xuất đặc trưng sẽ lấy những đặc trưng cần thiết của đối tượng. Các đặc trưng này sẽ được một hàm lỗi cho tác vụ segmentation giám sát để giúp cho mỗi khối con trong khối trích xuất đặc trưng biết đâu là vùng của đối tượng. Khối trích xuất đặc trưng sẽ được cải thiện để tìm ra đặc điểm có độ phân tách cao.

Ví dụ như khi phân lớp các lỗi trên bề mặt sẽ tìm ra đặc điểm của vết xước sẽ mỏng, dài, còn đặc điểm của vết dơ sẽ to tròn. • Khối phân lớp Sau khi có các đặc trưng của đối tượng và hình ảnh của mỗi khối, khối phân lớp sẽ được thêm vào mỗi khối con của mô hình để giúp cho mỗi khối con loại bỏ đi những đặc trưng không cần thiết, từ đó biết được rằng các chi tiết cho đối tượng cần phân loại khác nhau ra sao. Việc loại bỏ đi những đặc trưng không cần thiết sẽ loại bỏ đi những phần giống nhau của vật thể, ví dụ như phân loại các chai nước thì sẽ có những vùng phông nền phía sau vật thể, nếu mô hình tập trung vào đây sẽ làm giảm độ chính xác. Do đó, việc giảm thiểu đi những vùng như phông nền hoặc xuất hiện nhiều trong hình ảnh sẽ giúp cải thiện độ chính xác.

• Lớp đầu ra. Kết quả sau khi đi qua các khối con của trích xuất đặc trưng, các đặc trưng tối ưu nhất sẽ được cho qua lớp fully connected (FC) để cho ra kết quả cuối cùng. Khi đến giai đoạn luận văn, việc xử lý cho những đối tượng ở lớp mới sẽ tập trung vào lớp này thông qua kĩ thuật few-shot learning. Bằng cách đó, việc xác định số lượng lớp từ đầu sẽ được loại bỏ và mô hình linh hoạt hơn những mô hình truyền thống.3 Cấu trúc luận văn Phần còn lại của báo cáo được chia thành 5 chương.

Chương 2 sẽ nói về các kiến thức nền tảng cần thiết cho nghiên cứu trong đề tài. Chương 3 sẽ trình bày về việc khảo sát chi tiết các nghiên cứu liên quan đến đề tài, bao gồm các nghiên cứu về phân lớp các đối tượng có độ tương đồng cao. Chương 4 trình bày 2 phương pháp đề xuất dựa trên các kỹ thuật học tự giám sát và nhắm đến giải các bài toán với dữ liệu huấn luyện có kích thước nhỏ. Việc hiện thực các mô hình đã đề xuất và thực nghiệm và đánh giá kết quả thu được sẽ được cho trong Chương 5.

Chương 6 là các kết các luận và hướng nghiên cứu tiếp theo. 2 KIẾN THỨC NỀN TẢNG Chương này trình bày những kiến thức nền tảng được sử dụng cho các nghiên cứu được thực hiện luận văn.1 Mạng nơ-ron trí tuệ nhân tạo (Artificial Neural Network) .2 Mạng nơ-ron tích chập (Convolution Neural Network) .3 Mạng nơ-ron dư thừa (Residual Neural Network) .4 Mạng phân đoạn hình ảnh (Image Segmentation). 11 CHƯƠNG 2 KIẾN THỨC NỀN TẢNG 5 2.1 Mạng nơ-ron trí tuệ nhân tạo (Artificial Neural Network) Ý tưởng về mạng nơ-ron nhân tạo đã xuất hiện từ rất lâu về trước. Kiến trúc này lấy ý tưởng từ nơ-ron hệ thần kinh của con người và động vật.

Hệ thần kinh bao gồm rất nhiều nơ-ron thần kinh liên kết chặt chẽ với nhau. Mỗi khi có yếu tố kíck thích nào đó, các nơ-ron sẽ phát ra tín hiệu tuỳ thuộc theo tính đặc thù của nơ-ron đó với tác nhân kích thích và truyền tính hiệu sinh ra đến các nơ-ron kết nối với nó. Sự lan truyền có tiếp tục để cuối cùng cho ra phản ứng phù hợp với yếu tố gây kích thích.