Luận văn tốt nghiệp: Phân lớp dữ liệu hình ảnh ứng dụng trong giám sát lỗi

Luận văn tốt nghiệp nghiên cứu Luận văn tốt nghiệp khoa học máy tính phân lớp dữ liệu hình ảnh một lớp ứng dụng trong các hệ thống, điều tra thực trạng, phân tích số liệu, đề xuất

• Tác giả: Trần Hậu Tuấn
• Người hướng dẫn: TS. Lê Hồng Trang
• Trường học: Đại học Bách Khoa - Đại học Quốc gia TP.HCM
• Chuyên ngành: Khoa học máy tính
• Đề tài: Phân lớp Dữ Liệu Hình Ảnh Một Lớp Ứng Dụng Trong Các Hệ Thống Giám Sát Lỗi
• Loại tài liệu: luận văn tốt nghiệp
• Năm xuất bản: 2021
• Địa điểm: TP. Hồ Chí Minh

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI NGỎ
• TÓM TẮT NỘI DUNG
• 1. CHƯƠNG 1: GIỚI THIỆU
• 1.1. Bài toán phân lớp một lớp và một số ứng dụng
• 1.2. Một số hướng tiếp cận phổ biến
• 1.3. Các thách thức với các mô hình hiện nay
• 2. CHƯƠNG 2: HỌC SÂU
• 2.1. Tổng quan về học sâu
• 2.2. Trích xuất đặc trưng sử dụng CNN
• 2.3. Phát hiện bất thường
• 3. CHƯƠNG 3: PHÂN LỚP MỘT LỚP DÙNG MÔ HÌNH PHÂN PHỐI VÙNG
• 3.1. Hướng tiếp cận đề xuất
• 3.2. Tối ưu thời gian và bộ nhớ
• 4. CHƯƠNG 4: HIỆN THỰC VÀ ỨNG DỤNG
• 4.1. Mô tả dữ liệu và thiết lập thực nghiệm
• 4.2. Tiêu chuẩn đánh giá
• 4.3. Kết quả thực nghiệm
• 4.4. Tổng kết kết quả thực nghiệm
• 5. CHƯƠNG 5: KẾT LUẬN
• 5.1. Kết luận
• 5.2. Định hướng phát triển
• TÀI LIỆU THAM KHẢO
• DANH SÁCH HÌNH VẼ
• DANH SÁCH BẢNG
• THUẬT NGỮ VÀ TỪ VIẾT TẮT

Tóm tắt

I. Giới thiệu

Trong bối cảnh hiện đại, phân lớp dữ liệu hình ảnh đã trở thành một lĩnh vực nghiên cứu quan trọng, đặc biệt trong các hệ thống giám sát lỗi. Bài toán phân lớp một lớp (One-Class Classification) được xem là một giải pháp hiệu quả cho việc phát hiện bất thường trong sản phẩm công nghiệp. Mục tiêu chính của nghiên cứu này là phát triển một mô hình có khả năng nhận diện các hình ảnh bất thường từ một tập dữ liệu chỉ chứa hình ảnh bình thường. Việc áp dụng machine learning và học sâu (Deep Learning) trong việc trích xuất đặc trưng từ hình ảnh là rất cần thiết để cải thiện độ chính xác của mô hình. Theo đó, các phương pháp như mạng nơ-ron tích chập (CNN) được sử dụng để tối ưu hóa quá trình phân tích dữ liệu.

1.1 Bài toán phân lớp một lớp

Bài toán phân lớp một lớp là một trường hợp đặc biệt của bài toán phân lớp đa lớp, trong đó dữ liệu huấn luyện chỉ thuộc về một lớp duy nhất. Mục tiêu là phát hiện các mẫu thuộc lớp dương trong quá trình suy luận. Các ứng dụng của bài toán này rất đa dạng, từ phát hiện bất thường trong sản xuất đến nhận dạng khuôn mặt. Việc áp dụng các kỹ thuật học sâu giúp cải thiện khả năng phát hiện lỗi trong các sản phẩm, đặc biệt khi dữ liệu về các sản phẩm lỗi không có sẵn. Điều này cho thấy tầm quan trọng của việc phát triển các mô hình có khả năng hoạt động hiệu quả trong các tình huống thực tế.

II. Các phương pháp tiếp cận

Nghiên cứu này tập trung vào ba hướng tiếp cận chính trong phân lớp một lớp: dữ liệu, đặc trưng và giải thuật phân lớp. Đầu tiên, hướng tiếp cận dựa vào dữ liệu cho phép sử dụng các mẫu từ lớp dương và các tập dữ liệu ngoài để cải thiện độ chính xác của mô hình. Thứ hai, việc lựa chọn đặc trưng phù hợp là rất quan trọng, vì nó ảnh hưởng trực tiếp đến khả năng phân tách lớp dương khỏi các lớp ngoại lai. Cuối cùng, các giải thuật phân lớp hiện nay thường sử dụng các phương pháp thống kê hoặc dựa trên học sâu để tối ưu hóa quá trình phân lớp. Việc áp dụng các mô hình như ResNet hay VGG trong việc trích xuất đặc trưng đã cho thấy hiệu quả cao trong việc phát hiện bất thường.

2.1 Hướng tiếp cận dựa vào dữ liệu

Hướng tiếp cận này nhấn mạnh việc sử dụng các mẫu từ lớp dương và các tập dữ liệu tham chiếu để cải thiện mô hình. Việc sử dụng các tập dữ liệu như ImageNet hay CIFAR100 đã cho thấy kết quả khả quan trong việc huấn luyện mô hình. Các phương pháp này không chỉ giúp tăng cường độ chính xác mà còn giảm thiểu rủi ro khi dữ liệu huấn luyện bị hạn chế. Điều này đặc biệt quan trọng trong các ứng dụng thực tế, nơi mà dữ liệu về các sản phẩm lỗi thường không có sẵn.

III. Kết quả thực nghiệm

Kết quả thực nghiệm cho thấy mô hình phân lớp một lớp đã hoạt động hiệu quả trên bộ dữ liệu MVTec-AD với 15 loại sản phẩm khác nhau. Các chỉ số đánh giá như AUROC cho thấy mô hình có khả năng phát hiện bất thường cao, với độ chính xác vượt trội so với các phương pháp truyền thống. Việc áp dụng các kỹ thuật học sâu trong trích xuất đặc trưng đã giúp cải thiện đáng kể khả năng phân loại. Kết quả này không chỉ chứng minh tính khả thi của mô hình mà còn mở ra hướng đi mới cho việc phát triển các hệ thống giám sát lỗi trong công nghiệp.

3.1 Tiêu chuẩn đánh giá

Tiêu chuẩn đánh giá được sử dụng trong nghiên cứu này bao gồm các chỉ số như độ chính xác, độ nhạy và AUROC. Các chỉ số này giúp đánh giá hiệu quả của mô hình trong việc phát hiện các hình ảnh bất thường. Kết quả thực nghiệm cho thấy mô hình đạt được độ chính xác cao, cho thấy khả năng áp dụng thực tế trong các hệ thống giám sát chất lượng. Việc sử dụng các chỉ số này không chỉ giúp đánh giá hiệu quả mà còn cung cấp thông tin quý giá cho việc cải thiện mô hình trong tương lai.

IV. Kết luận

Nghiên cứu này đã chỉ ra rằng phân lớp dữ liệu hình ảnh một lớp có thể được áp dụng hiệu quả trong các hệ thống giám sát lỗi. Việc sử dụng các phương pháp học sâu và trích xuất đặc trưng đã giúp cải thiện khả năng phát hiện bất thường trong sản phẩm. Kết quả thực nghiệm cho thấy mô hình có thể được phát triển thành một giải pháp thực tế cho các vấn đề trong công nghiệp. Hướng nghiên cứu tiếp theo có thể tập trung vào việc cải thiện độ chính xác của mô hình và mở rộng ứng dụng của nó trong các lĩnh vực khác nhau.

4.1 Định hướng phát triển

Định hướng phát triển trong tương lai có thể bao gồm việc mở rộng mô hình để xử lý các loại dữ liệu phức tạp hơn và cải thiện khả năng giải thích của mô hình. Việc phát triển các phương pháp mới trong machine learning và học sâu sẽ giúp nâng cao hiệu quả của các hệ thống giám sát lỗi. Ngoài ra, việc tích hợp các công nghệ mới như trí tuệ nhân tạo và hệ thống thông minh cũng sẽ là một hướng đi tiềm năng cho nghiên cứu trong tương lai.

Nội dung chính

Tổng quan nghiên cứu

Trong kỷ nguyên công nghiệp sản xuất thông minh, bài toán kiểm soát chất lượng sản phẩm bằng thị giác máy tính đang đối mặt với rào cản lớn: sự mất cân bằng dữ liệu nghiêm trọng khi số lượng mẫu sản phẩm lỗi trong thực tế chiếm tỷ lệ rất nhỏ, thường dưới 1% tổng sản lượng. Để giải quyết thách thức này, nghiên cứu "Phân lớp dữ liệu hình ảnh một lớp ứng dụng trong các hệ thống giám sát lỗi" của tác giả Trần Hậu Tuấn, dưới sự hướng dẫn của TS. Lê Hồng Trang tại Khoa Khoa học và Kỹ thuật Máy tính, Trường Đại học Bách Khoa – Đại học Quốc gia Thành phố Hồ Chí Minh (thực hiện từ ngày 01/03/2021 đến ngày 28/06/2021), đã tập trung nghiên cứu giải pháp phân lớp một lớp (One-Class Classification - OCC) tiên tiến nhằm phát hiện bất thường bề mặt sản phẩm công nghiệp.

Mục tiêu trọng tâm của đề tài là xây dựng mô hình trích xuất đặc trưng sâu kết hợp phân phối vùng để phát hiện lỗi chính xác mà chỉ cần huấn luyện trên tập dữ liệu hoàn toàn là sản phẩm chuẩn (không chứa lỗi). Phạm vi thực nghiệm của nghiên cứu được triển khai toàn diện trên bộ chuẩn dữ liệu quốc tế MVTec AD gồm 5.354 ảnh chất lượng cao thuộc 15 danh mục sản phẩm khác nhau. Kết quả nghiên cứu mang lại giá trị thực tiễn vượt bậc khi mô hình đề xuất đạt chỉ số diện tích dưới đường cong ROC (AUROC) trung bình lên đến 91,2% ở cấp độ toàn ảnh và đạt đỉnh 99,6% trên một số nhóm vật liệu chuyên biệt. Đồng thời, giải pháp chứng minh khả năng tối ưu hóa chi phí tính toán, cho phép phát hiện và khoanh vùng vị trí lỗi chính xác tới từng điểm ảnh, mở ra hướng đi bền vững cho các dây chuyền sản xuất tự động hóa hiện đại.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng dựa trên nền tảng lý thuyết học sâu (Deep Learning) và học máy thống kê, tập trung giải quyết bài toán phân lớp một lớp trong phát hiện dị thường thị giác. Khung lý thuyết chủ đạo bao gồm:

1. Lý thuyết mạng nơ-ron tích chập (Convolutional Neural Network - CNN): Ứng dụng các kiến trúc trích xuất đặc trưng đa tầng như ResNet18 với các khối phần dư (Residual Blocks) giúp triệt tiêu hiện tượng suy biến gradient, và kiến trúc VGG16 gồm các tầng tích chập sâu nhằm thu nhận đặc trưng từ mức độ cục bộ đến toàn cục.
2. Mô hình mô phỏng phân phối vùng PaDiM (Patch Distribution Modeling): Cơ chế biểu diễn đặc trưng không gian bằng cách chia nhỏ ảnh thành lưới tọa độ và gắn kết các vector nhúng đa mức kích hoạt từ các tầng ẩn khác nhau trong mạng nơ-ron.
3. Lý thuyết thống kê đa biến và khoảng cách Mahalanobis: Mô hình hóa trạng thái bình thường của từng vùng ảnh bằng phân phối chuẩn Gaussian đa biến với vector kỳ vọng mẫu và ma trận hiệp phương sai. Khoảng cách Mahalanobis được sử dụng làm hàm mục tiêu tính toán điểm dị thường, giúp định lượng mức độ sai lệch của mẫu kiểm tra so với phân phối dữ liệu chuẩn có xét đến sự tương quan giữa các chiều đặc trưng.

Các khái niệm cốt lõi được định hình chặt chẽ gồm: Vùng tiếp nhận (Receptive Field), Bản đồ kích hoạt (Activation Map), Vector nhúng liên kết đa tầng (Multi-layer Embedding Vector) và Điểm dị thường cấp độ điểm ảnh (Pixel-level Anomaly Score).

Phương pháp nghiên cứu

Nghiên cứu sử dụng tập dữ liệu quy chuẩn MVTec AD gồm 5.354 hình ảnh màu, phân chia thành 3.629 ảnh huấn luyện chuẩn (chỉ gồm sản phẩm không lỗi) và 1.725 ảnh kiểm thử (bao gồm cả sản phẩm bình thường và 73 dạng khuyết tật bề mặt khác nhau). Cỡ mẫu thực nghiệm được thiết kế bao phủ 15 loại đối tượng, chia thành 5 nhóm kết cấu bề mặt (thảm, da, gỗ, gạch lát, lưới) và 10 nhóm vật thể rời (chai lọ, cáp điện, viên nhộng, đai ốc, bu lông, bàn chải, linh kiện bán dẫn).

Quy trình tiền xử lý và trích xuất đặc trưng được thực hiện qua các bước:

• Ảnh đầu vào được chuẩn hóa kích thước về 256x256 điểm ảnh, sau đó cắt trung tâm (center crop) với kích thước 224x224 điểm ảnh theo chuẩn phân phối ImageNet.
• Sử dụng mô hình ResNet18 tiền huấn luyện để trích xuất vector đặc trưng từ 3 khối tích chập đầu tiên, sau đó nối các vector lại với nhau.
• Phương pháp chọn mẫu đặc trưng ngẫu nhiên (Random Dimensionality Selection) với kích thước 100 chiều trên ResNet18 và 200 chiều trên VGG16 được lựa chọn thay thế cho thuật toán PCA nhằm giảm thiểu 40% đến 60% thời gian tính toán mà vẫn đảm bảo tính đại diện thống kê.
• Xây dựng tập dữ liệu thu nhỏ SMVTecAD (chỉ giữ lại 15% tập huấn luyện gốc, tương đương khoảng 550 ảnh với khoảng 35 ảnh cho mỗi loại sản phẩm) để đánh giá độ bền vững của mô hình trong điều kiện khan hiếm dữ liệu.

Phương pháp phân tích định lượng sử dụng độ đo Receiver Operating Characteristics (ROC) và Area Under the Curve (AUROC) trên cả hai cấp độ: phân lớp toàn bộ bức ảnh và phân vùng lỗi chi tiết theo từng điểm ảnh.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm đối sánh giữa các mô hình và cấu hình dữ liệu mang lại 4 phát hiện khoa học quan trọng:

1. Hiệu năng vượt trội của kiến trúc ResNet18: Trên toàn bộ 15 danh mục sản phẩm của tập dữ liệu MVTec AD, mô hình ResNet18 đạt điểm AUROC trung bình mức toàn ảnh là 91,2% (0,912), cao hơn đáng kể so với mức 85,7% (0,857) của mô hình VGG16, tương ứng mức chênh lệch hiệu năng cải thiện 5,5 điểm phần trăm.
2. Độ chính xác tối ưu trên cấu trúc kết cấu đồng nhất: Mô hình đạt hiệu quả phân lớp gần như tuyệt đối trên các danh mục có hoa văn lặp lại hoặc tính đối xứng trục cao, dẫn đầu là sản phẩm da (Leather) đạt AUROC 99,6%, gỗ (Wood) đạt 99,1%, chai lọ (Bottle) đạt 98,6% và gạch lát (Tile) đạt 97,8%.
3. Hạn chế trên các vật thể bất đối xứng và sai lệch góc chụp: Đối với các sản phẩm cơ khí nhỏ, góc chụp không cố định như đinh ốc (Screw), điểm AUROC ghi nhận mức thấp nhất là 74,1%, phản ánh độ nhạy cảm của phân phối Gaussian khi vị trí hình học của đối tượng bị dịch chuyển.
4. Tính bền vững trên tập dữ liệu siêu nhỏ SMVTecAD: Khi giảm quy mô dữ liệu huấn luyện xuống chỉ còn 15% (khoảng 35 ảnh mỗi loại), mô hình vẫn duy trì AUROC trên 90,0% ở 10/15 danh mục sản phẩm, tiêu biểu như lớp thảm (Carpet), da (Leather), gạch (Tile) và chai lọ (Bottle), chứng minh khả năng học tổng quát xuất sắc mà không bị hiện tượng quá khớp (overfitting).

Thảo luận kết quả

Hiệu năng nổi bật của mô hình ResNet18 bắt nguồn từ việc liên kết các vector đặc trưng ở 3 mức độ khác nhau của mạng tích chập, kết hợp với việc ước lượng ma trận hiệp phương sai đầy đủ giúp lưu giữ trọn vẹn mối tương quan không gian giữa các vùng lân cận.

Dữ liệu kết quả thực nghiệm được trực quan hóa rõ ràng qua hai hình thức biểu diễn chính:

• Bản đồ nhiệt dị thường (Anomaly Heatmaps): Các điểm ảnh có giá trị khoảng cách Mahalanobis cao được ánh xạ thành các dải màu ấm (đỏ, vàng), hiển thị sự trùng khớp chính xác trên 92% diện tích so với mặt nạ lỗi chuẩn (Ground Truth Mask).
• Đồ thị đường cong ROC: Minh họa mối quan hệ đánh đổi giữa tỷ lệ dương tính thật (TPR) trên trục tung và tỷ lệ dương tính giả (FPR) trên trục hoành. Đường cong của các nhóm vật liệu như da và gỗ tiệm cận sát góc trên cùng bên trái của đồ thị, khẳng định mô hình duy trì tỷ lệ phát hiện lỗi cao trong khi tỷ lệ báo động giả cực thấp.

So sánh với các phương pháp tiếp cận dựa trên mô hình sinh như Autoencoder (AE) hay Generative Adversarial Networks (GAN), phương pháp phân phối vùng đề xuất loại bỏ hoàn toàn quá trình huấn luyện lại phức tạp (training-free), triệt tiêu rủi ro mô hình tự tái tạo luôn cả vùng khuyết tật, đồng thời giảm trên 70% thời gian hội tụ so với các mạng nơ-ron học sâu truyền thống.

Đề xuất và khuyến nghị

Dựa trên kết quả nghiên cứu và các hạn chế thực tế đã được nhận diện, 4 nhóm giải pháp kỹ thuật mang tính hành động cao được đề xuất nhằm nâng cấp hệ thống:

1. Nâng cấp thuật toán tiền xử lý và căn chỉnh không gian tự động: Đội ngũ kỹ sư R&D cần tích hợp các mạng nơ-ron định vị hoặc kỹ thuật biến đổi affine để chuẩn hóa góc quay và vị trí vật thể trước khi trích xuất đặc trưng. Mục tiêu nâng chỉ số AUROC trên nhóm sản phẩm cơ khí phức tạp như đinh ốc từ 74,1% lên trên 85,0% trong giai đoạn triển khai 6 tháng đầu năm.
2. Tích hợp module tăng cường dữ liệu thích ứng (Data Augmentation): Áp dụng phương pháp xoay ngẫu nhiên từ âm 10 độ đến dương 10 độ kết hợp cắt ảnh ngẫu nhiên từ kích thước 256x256 về 224x224 điểm ảnh, giúp mô hình tăng cường khả năng chịu lỗi trước các biến động về độ rung lắc trên băng chuyền sản xuất thực tế.
3. Triển khai ứng dụng giám sát công nghiệp chuyên dụng bằng C#: Nhóm phát triển phần mềm cần hiện thực hóa lõi thuật toán thành một ứng dụng desktop hoàn chỉnh trên nền tảng C# và thư viện đồ họa trực quan. Hệ thống cần đạt mục tiêu tốc độ xử lý dưới 50 mili-giây cho mỗi khung hình, tận dụng tối đa năng lực tăng tốc phần cứng của GPU công nghiệp.
4. Mở rộng cơ chế học nửa giám sát (Semi-supervised Learning) và giải thích mô hình (Explainable AI): Các viện nghiên cứu và doanh nghiệp nên tiếp tục bổ sung các mẫu lỗi hiếm gặp đã gán nhãn để cập nhật phân phối thống kê, kết hợp cơ chế trực quan hóa kênh kích hoạt để hỗ trợ kỹ thuật viên kiểm định hiểu rõ nguyên nhân gây lỗi của từng linh kiện.

Đối tượng nên tham khảo luận văn

Nội dung và mã nguồn thực nghiệm của luận văn mang lại giá trị thực tiễn sâu sắc cho 4 nhóm đối tượng chính:

1. Kỹ sư Trí tuệ nhân tạo và Thị giác máy tính (Computer Vision Engineers): Tiếp cận giải pháp phát hiện bất thường dựa trên mô hình nhúng không cần tinh chỉnh (training-free), giúp rút ngắn chu kỳ nghiên cứu và phát triển (R&D) các giải pháp thị giác trong nhà máy thông minh.
2. Học viên cao học và Nhà nghiên cứu chuyên ngành Khoa học Máy tính: Khảo cứu tài liệu tham khảo chất lượng cao về phương pháp giải quyết bài toán mất cân bằng dữ liệu (Imbalanced Data) và phân lớp một lớp (OCC), làm tiền đề phát triển các thuật toán học sâu nâng cao.
3. Kỹ sư Quản lý chất lượng (QA/QC) và Giám đốc vận hành nhà máy: Nắm bắt bức tranh tổng thể về khả năng tự động hóa khâu kiểm thử ngoại quan với độ chính xác đạt trên 91%, hỗ trợ ra quyết định đầu tư công nghệ nhằm cắt giảm chi phí nhân công kiểm tra thủ công.
4. Nhà phát triển phần mềm công nghiệp: Tham khảo kiến trúc tích hợp giữa mô hình học sâu suy luận nhanh và ứng dụng điều khiển băng chuyền thực tế, giúp chuẩn hóa quy trình xuất bản giải pháp từ phòng thí nghiệm ra môi trường sản xuất.

Câu hỏi thường gặp

Tại sao phân lớp một lớp lại là giải pháp tối ưu cho giám sát lỗi công nghiệp?
Trong dây chuyền sản xuất quy mô lớn, sản phẩm lỗi thường xuất hiện rất ngẫu nhiên và chiếm tỷ lệ cực thấp dưới 1% tổng số lượng. Phương pháp phân lớp một lớp cho phép hệ thống chỉ cần học các đặc trưng thống kê của sản phẩm chuẩn, giúp triển khai tự động hóa ngay lập tức mà không cần thu thập đủ hàng ngàn mẫu ảnh lỗi đa dạng.

Mô hình ResNet18 có ưu điểm gì vượt trội hơn VGG16 trong bài toán này?
ResNet18 sở hữu kiến trúc khối phần dư (Residual Blocks) giúp truyền dẫn thông tin đặc trưng đa mức hiệu quả mà không bị suy biến gradient. Trong thực nghiệm, ResNet18 đạt AUROC 91,2% với vector nhúng chỉ 100 chiều, vượt trội hơn VGG16 (85,7% AUROC) vốn đòi hỏi tới 200 chiều đặc trưng và tiêu tốn nhiều bộ nhớ tính toán hơn.

Hiệu năng mô hình thay đổi ra sao khi dữ liệu huấn luyện bị cắt giảm xuống 15%?
Khi thử nghiệm trên bộ dữ liệu nhỏ SMVTecAD với khoảng 35 ảnh huấn luyện cho mỗi loại, mô hình vẫn duy trì AUROC trung bình vượt mức 90,0% trên hầu hết các lớp sản phẩm có cấu trúc bề mặt đồng nhất như gỗ, da, thảm và chai lọ, khẳng định khả năng khái quát hóa vượt trội của phương pháp phân phối vùng.

Làm thế nào để hệ thống xác định chính xác vị trí lỗi trên bề mặt sản phẩm?
Mô hình tính toán khoảng cách Mahalanobis cho từng vector đặc trưng tại mỗi tọa độ lưới trên ảnh để tạo ra ma trận khoảng cách. Khi áp dụng ngưỡng quyết định, các điểm ảnh có giá trị khoảng cách vượt ngưỡng sẽ được ánh xạ thành bản đồ nhiệt (Heatmap), giúp khoanh vùng khuyết tật với độ chính xác tương đương mặt nạ lỗi chuẩn.

Đâu là thách thức lớn nhất khi đưa mô hình này vào môi trường sản xuất thực tế?
Thách thức lớn nhất nằm ở các sản phẩm có hình dạng bất đối xứng hoặc vị trí chụp bị xoay lệch tự do như đinh ốc (đạt AUROC 74,1%). Để khắc phục trong thực tế, hệ thống sản xuất cần bổ sung cơ chế cố định phôi cơ khí và tăng cường tiền xử lý căn chỉnh ảnh trước khi đưa vào mô hình suy luận.

Kết luận

• Đề tài đã xây dựng thành công giải pháp phân lớp một lớp ứng dụng mạng tích chập ResNet18 và mô hình phân phối vùng PaDiM, giải quyết triệt để bài toán khan hiếm dữ liệu lỗi trong công nghiệp.
• Kết quả thực nghiệm trên 5.354 ảnh thuộc tập dữ liệu MVTec AD đạt điểm AUROC trung bình 91,2% và đạt đỉnh 99,6% trên các sản phẩm có hoa văn kết cấu đồng nhất.
• Đột phá kỹ thuật nằm ở việc ứng dụng khoảng cách Mahalanobis trên các vector đặc trưng ngẫu nhiên 100 chiều, giúp tối ưu hóa trên 50% thời gian xử lý và giải phóng dung lượng bộ nhớ.
• Đề tài chứng minh tính khả thi cao trên tập dữ liệu nhỏ SMVTecAD (15% dữ liệu gốc) với độ chính xác duy trì trên 90,0%, sẵn sàng chuyển giao cho các ứng dụng thực tế.
• Lộ trình phát triển tiếp theo tập trung vào việc hoàn thiện phần mềm giám sát thời gian thực bằng ngôn ngữ C# và mở rộng sang các tập dữ liệu nhiễu phức tạp.

Doanh nghiệp và các nhóm nghiên cứu quan tâm đến giải pháp tự động hóa kiểm soát chất lượng sản phẩm bằng thị giác máy tính có thể kết nối trực tiếp để tiếp nhận chuyển giao công nghệ, tối ưu hóa dây chuyền sản xuất và nâng cao năng lực cạnh tranh trong kỷ nguyên công nghiệp thông minh.

Trích đoạn nội dung tài liệu

Chương 1. Giới thiệu • Học nửa giám sát cho phân lớp một lớp: Đôi khi dữ liệu ngoại lai được gán nhãn vẫn xuất hiện, các phương pháp chưa sử dụng được các dữ liệu này. • Phương pháp phân lớp một lớp có thể giải thích được: Dù mang lại kết quả tốt, tuy nhiên các mạng nơ-ron chưa thể hiện được vì sao chúng mang lại kết quả phân lớp tốt như vậy. Việc đề xuất ra phương pháp có thể giải thích được sẽ mang lại sự chắc chắn khi áp dụng phương pháp đó lên các tập dữ liệu khác nhau.

• Hiệu năng và hiệu suất: Chi phí về bộ nhớ và thời gian trong quá trình suy luận đang còn cao. • Tập dữ liệu huấn luyện nhỏ: Do một số quyền riêng tư, tập dữ liệu huấn luyện chỉ gồm số lượng nhỏ các mẫu dương. Huấn luyện trên tập dữ liệu nhỏ, một lớp có thể không mang lại kết quả tốt. 11 Chương 2 Học sâu Luận văn này có sử dụng kiến thức về học sâu.

Chương này sẽ giải thích các kỹ thuật trong học sâu có sử dụng trong luận văn, gồm: Tổng quan; Trích xuất đặc trưng; Đặc trưng trong bài toán phát hiện bất thường.1 Tổng quan về học sâu Học sâu (Deep Learning) là một kĩ thuật của máy học (Machine Learning) dựa trên một tập hợp các thuật toán với mục tiêu mô hình dữ liệu trừu tượng thông qua nhiều lớp xử lý phức tạp (nhiều lớp biến đổi phi tuyến tính). Một trong những phương pháp học sâu thành công nhất là mạng nơ-ron nhân tạo (Artificial Neural Network) hay cụ thể hơn là mạng nơ-ron sâu (Deep Neural Network) được đề xuất bởi 2 người đoạt giải Nobel David H. Hubel và Torsten Wiesel.1 Mạng nơ-ron nhân tạo Hình 2.1: Cấu trúc sinh học của một nơ-ron Lấy cảm hứng từ bộ não con người, mạng nơ-ron được học bởi kinh nghiệm qua quá trình huấn luyện, lưu giữ tri thức để sử dụng trong việc dự đoán dữ liệu chưa biết (unseen data). Các mạng nơ-ron nhân tạo cơ bản thường gồm 3 thành phần: lớp đầu vào (input layer), các lớp ẩn (hidden layer) và lớp đầu ra (output layer).

Mỗi lớp có nhiều nút là các nơ-ron chứa những biến độc lập và liên kết với các nơ-ron trong các lớp khác.2: Cấu trúc mạng nơ-ron nhân tạo cơ bản • Lớp đầu vào (input layer): là lớp đầu tiên của mạng. Lớp này có nhiệm vụ tiếp nhận các đặc trưng dữ liệu đầu vào, từ đó lan truyền các đặc trưng này tới các lớp tiếp theo. • Lớp ẩn (hidden layer): là các lớp nằm giữa lớp đầu vào và lớp đầu ra, có nhiệm vụ học các biến độc lập sao cho sau khi lan truyền thông tin đầu vào, lớp đầu ra sẽ cho ra kết quả mong đợi. Học sâu • Lớp đầu ra (output layer): là lớp cuối cùng của mạng, có nhiệm vụ trả về kết quả, từ đó tính toán các giá trị để tiếp tục cập nhật các giá trị biến độc lập của các nút trong lớp ẩn.

Mạng nơ-ron nhân tạo là mô hình toán học được xây dựng dựa trên hoạt động của các nơ-ron sinh học, bao gồm các nút nơ-ron (node) nối với nhau và xử lý thông tin bằng cách truyền các kết nối và tính giá trị tại các nút. Khi áp dụng mạng nơ-ron thuần túy, đầy đủ kết nối, số lượng trọng số cần lưu để mô tả lại mạng nơ-ron là rất lớn, đặc biệt nếu mạng nơ-ron có nhiều lớp. Do đó, chi phí lưu trữ và chi phí thời gian khi sử dụng mạng nơ-ron đầy đủ kết nối là rất lớn. Vì vậy, trong các phương pháp học sâu hiện nay, mạng nơ-ron tích chập (Convolutional Neural Network) đã được sử dụng thay thế cho các mạng nơ-ron cũ.

Kết quả tốt của các phương pháp đã chứng minh hiệu quả của mạng nơ-ron tích chập.2 Trích xuất đặc trưng sử dụng CNN Mạng nơ-ron tích chập (Convolutional Neural Network - CNN) là một trong những mô hình học sâu phổ biến nhất và có ảnh hưởng nhiều nhất đến cộng đồng thị giác máy tính. Mạng nơ-ron tích chập được sử dụng trong nhiều bài toán thị giác máy tính như phân loại ảnh, nhận diện đối tượng, phân đoạn ảnh, phân tích video, ảnh MRI hay các bài toán khác về xử lý ngôn ngữ tự nhiên như nhận diện giọng nói, sinh ra giọng nói,. Các thành phần cơ bản của mạng nơ-ron tích chập bao gồm: • Tầng tích chập (Convolution) • Tầng gộp (Pooling) • Tầng kết nối đầy đủ (Fully Connected) 2.1 Tầng tích chập (Convolution) Tích chập (Convolution) là một phép toán trên hai hàm (f và g) tạo ra hàm thứ ba (f ∗ g) dựa trên công thức: Z ∞ (f ∗ g)(t) , f (τ )g(t − τ )dτ (2. Học sâu Trong lĩnh vực xử lý ảnh, phép tích chập được sử dụng rộng rãi trong các bộ lọc ảnh, các phép đạo hàm ảnh.

Phép tích chập thường được dùng trên không gian hai chiều rời rạc. Công thức tính tích chập trên ảnh f và bộ lọc k (kích thước m × n) tại điểm ảnh vị trí (x, y) với giả sử chỉ số trên bộ lọc được đánh số hàng từ −m/2 -> m/2 và chỉ số cột từ −n/2 -> n/2: m/2 n/2 X X (k ∗ f )(x, y) , k(u, v)f (x − u, y − v) (2.2) u=−m/2 v=−n/2 Dưới đây là ví dụ về phép tích chập sử dụng bộ lọc cạnh.3: Bộ lọc cạnh Hình 2.4: Ảnh gốc và ảnh được áp dụng phép tích chập với bộ lọc cạnh Tầng tích chập là một tầng ẩn trong mô hình mạng nơ-ron tích chập, được dùng để phát hiện và trích xuất đặc trưng của hình ảnh. Tầng tích chập nhận dữ liệu của tầng trước nó, thực hiện phép biến đổi tích chập để tạo ra dữ liệu đầu vào cho tầng sau nó. Tại tầng tích chập, các bộ lọc sẽ áp vào từng vùng ảnh, trượt hết toàn bộ hình theo thứ tự từ trái qua phải, từ trên xuống dưới.

Mỗi lần áp bộ lọc và một vùng ảnh, phép tích chập giữa vùng ảnh và bộ lọc được thực hiện. Thông thường, sau khi thực hiện phép tích chập trên toàn ảnh, kích thước ảnh sẽ bị giảm nhỏ lại. Để xác định cách bộ lọc trượt qua các vùng ảnh, ta thêm tham số bước trượt (stride). Bước trượt là khoảng cách giữa 2 vị trí mà bộ lọc lần lượt áp lên 2 vùng ảnh.

Như hình 15 Chương 2. Học sâu Hình 2.5: Kích thước ảnh giảm từ 5x5 về 3x3 sau khi áp dụng bộ lọc 3x3 trên, bước trượt stride = 1. Bước trượt càng lớn sẽ khiến ảnh đầu ra của phép tích chập càng bé. Do đó, nếu muốn kích thước ảnh giữ nguyên, ta cần thêm vùng đệm (padding).

Vùng đệm là vùng thêm vào bao quanh ảnh gốc, thường được lấy giá trị bằng 0. Dựa vào kích thước bộ lọc, giá trị bước trượt, cần chỉnh sửa vùng đệm hợp lý để giữ nguyên kích thước ảnh.6: Kích thước ảnh giữ nguyên 5x5 sau khi thêm vùng đệm kích thước 1 16 Chương 2.2 Tầng gộp (Pooling) Tầng gộp có chức năng làm giảm kích thước của đầu vào mà nó nhận. Tùy vào mục đích, tầng gộp sẽ dùng các hàm gộp khác nhau, gồm hàm min pooling (lấy giá trị nhỏ nhất làm đại diện), max pooling (lấy giá trị lớn nhất làm đại diện), average pooling (lấy giá trị trung bình làm đại diện),. Thông thường, để tăng cường thông tin cho đầu vào của tầng tiếp theo, người ta thường sử dụng max pooling.7: Ảnh minh họa tầng gộp 2.3 Tầng kết nối đầy đủ (Fully Connected) Tầng kết nối đầy đủ được sử dụng để đưa ra quyết về phân lớp hình ảnh.

Tầng kết nối đầy đủ sử dụng đầu ra của tầng tích chập, tầng gộp để chuyển thành một vector có độ dài C, với C tương ứng với số lớp trong bài toán phân lớp. Để sử dụng đầu ra của tầng trước nó, tầng kết nối đầy đủ thường phải sử dụng một hàm để làm phẳng (flatten) đầu vào từ dừng ma trận thành một vector. Thông thường, ở cuối các mạng nơ-ron tích chập sẽ có nhiều hơn một tầng kết nối đầy đủ kết nối với nhau. Để đưa ra quyết định phân lớp, người ta sử dụng hàm Softmax để trả về xác suất ảnh đầu vào thuộc lớp nào trong C lớp.4 Kiến trúc mạng nơ-ron ResNet Việc thiết kế mạng nơ-ron phụ thuộc vào mục đích sử dụng của chúng.

Năm 2015, trong cuộc thi ILSVRC, một mô hình mới được giới thiệu là ResNet (Residual Network). ResNet[10] được các nhà phát triển từ Microsoft đề xuất, với ý tưởng là tạo ra mạng nơ-ron với nhiều lớp để học được sâu hơn. Trong mạng nơ-ron tích chập, việc huấn luyện mô hình thật ra là việc cập nhật trọng số của mạng sao cho các đặc trưng được trích xuất phù hợp để sử dụng phân lớp ảnh. Để xem xét sự thay đổi của trọng số ảnh hướng tới kết quả đầu ra, người ta thường sử dụng các phép đạo hàm trên trọng số.

Tuy nhiên, với các thuật toán học sâu có sử dụng nhiều tầng và số lượng tham số lớn, thường sẽ xuất hiện các vấn đề sau: suy biến gradient (vanishing gradient) hoặc bùng nổ gradient (exploding gradient). Khi đi qua nhiều tầng, các giá trị đạo hàm trên trọng số ngày càng nhỏ, khiến cho việc thay đổi trọng số không thể ảnh hướng tới kết quả đầu ra, do đó khiến mạng nơ-ron không hội tụ. Mạng ResNet đã tìm ra giải pháp cho các vấn đề này. Mạng ResNet đề xuất ra các residual block, nhằm tạo liên kết tới các tầng phía trước của block đó.8: Residual block Với x là đặc trưng đầu vào, qua các tầng tích chập và tầng gộp, ta thu được đặc trưng đầu ra là F (x).

Gộp cả x và F (x) lại, ta xem như là đầu vào của các tầng sau để học tiếp. Các mạng nơ-ron tích chập thông thường chỉ sử dụng F (x) làm đầu vào của các tầng tiếp theo. Việc thay đổi này đã khiến cho ResNet dành được giải thưởng trong cuộc thi ILSVRC 2015. Học sâu Hình 2.9: Kiến trúc mạng ResNet18 2.5 Kiến trúc mạng nơ-ron VGG16 VGG16[11] là mô hình của nhóm tác giả Karen Simonyan và Andrew Zisserman đề xuất trong cuộc thi ILSVRC 2014.

VGG16 là một biến tấu mô hình mạng nơ-ron tích chập so với các mô hình mạng được đề xuất trước đó. VGG16 sử dụng chuỗi các lớp tích chập liên tiếp (Conv - Conv - Conv - Pooling) thay vì sử dụng cặp tích chập gộp (Conv - Pooling) như các mô hình trước đó. Điều này khiến VGG trở nên sâu hơn, nhiều lớp hơn, cùng đồng thời làm tăng chi phí tính toán. Tuy nhiên, điều này có thể cân nhắc vì kết quả đạt được của VGG tốt so với thời điểm đó.