Nghiên cứu mạng nơron CNN và ứng dụng trong bài toán phân loại ảnh

Khám phá luận văn thạc sĩ về mạng nơron CNN và ứng dụng trong phân loại ảnh, cung cấp kiến thức sâu sắc và xu hướng mới trong nghiên cứu.

• Tác giả: Lê Cẩm Hà
• Người hướng dẫn: TS. Nguyễn Đình Dũng
• Trường học: Trường Đại học Công nghệ Thông tin và Truyền thông
• Chuyên ngành: Khoa học máy tính
• Đề tài: Nghiên cứu mạng nơron CNN và ứng dụng trong bài toán phân loại ảnh
• Loại tài liệu: Luận văn thạc sĩ
• Năm xuất bản: 2020
• Địa điểm: Thái Nguyên

Mục lục chi tiết

• LỜI CẢM ƠN
• LỜI CAM ĐOAN
• 1. CHƯƠNG 1: TỔNG QUAN BÀI TOÁN PHÂN LOẠI ẢNH SỐ
• 1.1. Một số khái niệm cơ bản trong xử lý ảnh
• 1.2. Tổng quan về một hệ thống xử lý ảnh
• 1.3. Một số thao tác cơ bản trong xử lý ảnh
• 1.4. Biểu diễn ảnh trong máy tính
• 2. CHƯƠNG 2: MẠNG NƠ RON CNN VÀ ỨNG DỤNG TRONG PHÂN LOẠI ẢNH
• 2.1. Các khái niệm chung về mạng nơron
• 2.1.1. Mạng nơron sinh học
• 2.1.2. Mạng nơron nhân tạo
• 2.1.3. Mô hình toán học và kiến trúc mạng nơron
• 2.1.4. Phân loại mạng nơ ron
• 2.1.5. Huấn luyện mạng nơron
• 2.2. Mạng nơron CNN
• 2.2.1. Kiến trúc mạng CNN
• 2.2.2. Ứng dụng CNN trong phân loại ảnh
• 2.3. Xây dựng mạng CNN cho phân loại ảnh
• 2.3.1. Trường tiếp nhận cục bộ (Local receptive fields)
• 2.3.2. Trọng số chia sẻ và độ lệch (Shared weights and biases)
• 2.3.3. Lớp chứa hay lớp tổng hợp (Pooling layer)
• 2.3.4. Cách chọn tham số cho CNN
• 2.4. Cập nhật một số hướng nghiên cứu về bài toán phân loại ảnh sử dụng mạng nơ ron CNN
• 2.4.1. Các nghiên cứu trên thế giới
• 2.4.2. Các nghiên cứu trên trong nước
• 2.5. Kết luận chương
• 3. CHƯƠNG 3: XÂY DỰNG CHƯƠNG TRÌNH MÔ PHỎNG ỨNG DỤNG MẠNG CNN TRONG PHÂN LOẠI ẢNH
• 3.1. Bài toán nhận dạng chữ viết tay
• 3.1.1. Mô tả bài toán
• 3.1.2. Các bước thực hiện
• 3.1.3. Một số kết quả đạt được
• 3.2. Bài toán giải mã Capcha
• 3.2.1. Mô tả bài toán
• 3.2.2. Các bước thực hiện
• 3.2.3. Một số kết quả đạt được
• 3.3. Kết luận chương
• KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng quan về mạng nơron CNN và ứng dụng phân loại ảnh

Mạng nơron tích chập (CNN) đã trở thành một công cụ mạnh mẽ trong lĩnh vực phân loại ảnh. Với khả năng tự động trích xuất đặc trưng từ dữ liệu hình ảnh, CNN giúp cải thiện độ chính xác trong nhận diện và phân loại. Nghiên cứu này sẽ đi sâu vào các khái niệm cơ bản về CNN và cách mà nó được áp dụng trong phân loại ảnh.

1.1. Khái niệm cơ bản về mạng nơron tích chập

Mạng nơron tích chập (CNN) là một loại mạng nơron nhân tạo được thiết kế đặc biệt cho việc xử lý dữ liệu có cấu trúc dạng lưới, như hình ảnh. CNN sử dụng các lớp tích chập để tự động trích xuất đặc trưng mà không cần phải thiết kế thủ công.

1.2. Lịch sử phát triển của mạng nơron CNN

Mạng nơron CNN được phát triển từ những năm 1980, nhưng chỉ thực sự bùng nổ trong thập kỷ qua nhờ vào sự phát triển của công nghệ phần cứng và lượng dữ liệu lớn. Các nghiên cứu như AlexNet đã chứng minh sức mạnh của CNN trong các cuộc thi phân loại ảnh.

II. Thách thức trong việc phân loại ảnh bằng mạng nơron CNN

Mặc dù mạng nơron CNN mang lại nhiều lợi ích, nhưng vẫn tồn tại một số thách thức trong việc áp dụng chúng vào phân loại ảnh. Những thách thức này bao gồm việc xử lý dữ liệu không đồng nhất, yêu cầu về tài nguyên tính toán và khả năng tổng quát của mô hình.

2.1. Vấn đề dữ liệu không đồng nhất

Dữ liệu không đồng nhất có thể gây khó khăn cho mạng CNN trong việc học và phân loại chính xác. Việc chuẩn hóa và làm sạch dữ liệu là rất cần thiết để cải thiện hiệu suất của mô hình.

2.2. Tài nguyên tính toán và thời gian huấn luyện

Mạng CNN yêu cầu một lượng lớn tài nguyên tính toán, đặc biệt là khi làm việc với các tập dữ liệu lớn. Thời gian huấn luyện có thể kéo dài, ảnh hưởng đến khả năng triển khai nhanh chóng trong thực tế.

III. Phương pháp tối ưu hóa mạng nơron CNN cho phân loại ảnh

Để cải thiện hiệu suất của mạng nơron CNN trong phân loại ảnh, nhiều phương pháp tối ưu hóa đã được phát triển. Những phương pháp này bao gồm việc điều chỉnh kiến trúc mạng, sử dụng kỹ thuật tăng cường dữ liệu và áp dụng các thuật toán huấn luyện tiên tiến.

3.1. Điều chỉnh kiến trúc mạng CNN

Việc điều chỉnh kiến trúc mạng CNN, như số lượng lớp và kích thước kernel, có thể giúp cải thiện khả năng học của mô hình. Các nghiên cứu đã chỉ ra rằng việc tối ưu hóa kiến trúc có thể dẫn đến sự gia tăng đáng kể trong độ chính xác.

3.2. Kỹ thuật tăng cường dữ liệu

Tăng cường dữ liệu là một kỹ thuật quan trọng giúp cải thiện độ chính xác của mạng CNN. Bằng cách tạo ra các biến thể của dữ liệu huấn luyện, mô hình có thể học được nhiều đặc trưng hơn và giảm thiểu hiện tượng overfitting.

IV. Ứng dụng thực tiễn của mạng nơron CNN trong phân loại ảnh

Mạng nơron CNN đã được áp dụng rộng rãi trong nhiều lĩnh vực khác nhau, từ nhận diện khuôn mặt đến phân loại hình ảnh y tế. Những ứng dụng này không chỉ giúp cải thiện hiệu suất công việc mà còn mở ra nhiều cơ hội mới trong nghiên cứu và phát triển.

4.1. Nhận diện khuôn mặt

CNN đã được sử dụng để phát triển các hệ thống nhận diện khuôn mặt chính xác và nhanh chóng. Các ứng dụng này hiện đang được sử dụng trong an ninh và quản lý truy cập.

4.2. Phân loại hình ảnh y tế

Trong lĩnh vực y tế, CNN giúp phân loại hình ảnh y tế như X-quang và MRI, hỗ trợ bác sĩ trong việc chẩn đoán và điều trị bệnh.

V. Kết luận và tương lai của mạng nơron CNN trong phân loại ảnh

Mạng nơron CNN đã chứng minh được giá trị của mình trong việc phân loại ảnh. Tương lai của công nghệ này hứa hẹn sẽ còn phát triển mạnh mẽ hơn nữa với sự tiến bộ của trí tuệ nhân tạo và học sâu. Việc nghiên cứu và cải tiến các mô hình CNN sẽ tiếp tục mở ra nhiều cơ hội mới.

5.1. Xu hướng nghiên cứu trong tương lai

Các nghiên cứu trong tương lai sẽ tập trung vào việc cải thiện khả năng tổng quát của mạng CNN và giảm thiểu yêu cầu về tài nguyên tính toán. Điều này sẽ giúp mở rộng khả năng ứng dụng của CNN trong nhiều lĩnh vực khác nhau.

5.2. Tích hợp với công nghệ mới

Việc tích hợp mạng CNN với các công nghệ mới như IoT và blockchain có thể tạo ra những ứng dụng đột phá, giúp cải thiện hiệu suất và độ tin cậy trong phân loại ảnh.

Nội dung chính

Tổng quan nghiên cứu

Trong kỷ nguyên chuyển đổi số hiện nay, dữ liệu hình ảnh chiếm hơn 80% tổng khối lượng thông tin phi cấu trúc được tạo ra trên toàn cầu, với tốc độ tăng trưởng của thị trường thị giác máy tính ước đạt hơn 25% mỗi năm. Việc phân loại và xử lý nguồn dữ liệu khổng lồ này đặt ra thách thức lớn đối với các phương pháp xử lý ảnh truyền thống, vốn phụ thuộc nhiều vào việc trích chọn đặc trưng thủ công và dễ bị ảnh hưởng bởi độ nhiễu hay biến đổi góc nhìn. Nhằm giải quyết triệt để vấn đề này, luận văn thạc sĩ chuyên ngành Khoa học máy tính của tác giả Lê Cẩm Hà, dưới sự hướng dẫn khoa học của Tiến sĩ Nguyễn Đình Dũng tại Trường Đại học Công nghệ Thông tin và Truyền thông – Đại học Thái Nguyên (bảo vệ năm 2020), đã tập trung đi sâu vào đề tài nghiên cứu mạng nơ-ron tích chập và các giải pháp ứng dụng trong bài toán phân loại ảnh số.

Mục tiêu trọng tâm của đề tài là xây dựng hệ thống phân loại ảnh tự động dựa trên mô hình học sâu tiên tiến, loại bỏ các bước trích xuất thuộc tính phức tạp bằng tay và tối ưu hóa độ chính xác nhận dạng. Phạm vi nghiên cứu được giới hạn và kiểm chứng thực nghiệm trên hai bài toán điển hình: nhận dạng chữ số viết tay từ bộ dữ liệu chuẩn quốc tế và bài toán giải mã mã bảo vệ tự động (Captcha) trong môi trường an ninh mạng. Kết quả nghiên cứu mang lại ý nghĩa học thuật và ứng dụng thực tiễn cao, giúp giảm tỷ lệ nhận dạng sai xuống dưới mức 1.5% đối với chữ số viết tay và đạt tốc độ phản hồi xử lý dưới 50 mili-giây cho mỗi mẫu ảnh, mở ra tiềm năng ứng dụng rộng rãi trong các hệ thống số hóa văn bản và kiểm soát an toàn thông tin tại Việt Nam.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn xây dựng hệ thống lý thuyết dựa trên nền tảng sinh học và các mô hình toán học của trí tuệ nhân tạo. Về mặt sinh học, mô hình mô phỏng cơ chế thị giác của não người với khoảng 10^11 tế bào thần kinh, kế thừa các phát hiện kinh điển về tế bào đơn giản và tế bào phức tạp của các nhà khoa học trong thập niên 1960 cùng mô hình neocognitron năm 1980. Về mặt toán học, nghiên cứu ứng dụng kiến trúc mạng nơ-ron tích chập LeNet-5 được phát triển từ năm 1998, kết hợp các phép biến đổi ma trận và lý thuyết giải tích số.

Khung lý thuyết của luận văn xoay quanh năm khái niệm cốt lõi:

1. Phép tích chập không gian: Phép toán tuyến tính kết hợp ma trận ảnh đầu vào hai chiều hoặc ba chiều với các bộ lọc trọng số (kernel) kích thước lẻ như 3x3, 5x5 hoặc 7x7 nhằm tạo ra các bản đồ đặc trưng nổi bật như biên cạnh, góc và vân bề mặt.
2. Trường tiếp nhận cục bộ: Cơ chế kết nối nơ-ron lớp ẩn với một cửa sổ nhỏ trên ảnh thay vì toàn bộ không gian điểm ảnh, giúp giữ lại tính tương quan không gian giữa các pixel liền kề.
3. Trọng số chia sẻ và độ lệch: Tất cả nơ-ron trong cùng một bản đồ đặc trưng dùng chung một tập trọng số, giúp giảm thiểu đáng kể số lượng tham số cần huấn luyện.
4. Lớp tổng hợp: Thực hiện phép toán lấy giá trị cực đại trên từng vùng cục bộ kích thước 2x2 để giảm số chiều dữ liệu, hạn chế hiện tượng quá khớp và tăng tính bất biến đối với các phép tịnh tiến nhỏ.
5. Hàm kích hoạt phi tuyến ReLU: Giúp tăng tốc độ hội tụ của thuật toán lan truyền ngược so với các hàm kích hoạt truyền thống như Sigmoid hay hàm Hypecbol xích ma.

Phương pháp nghiên cứu

Nghiên cứu sử dụng kết hợp phương pháp lý thuyết tổng hợp và phương pháp thực nghiệm mô phỏng trên máy tính:

• Nguồn dữ liệu và cỡ mẫu: Luận văn sử dụng bộ dữ liệu chuẩn quốc tế MNIST gồm 70.000 mẫu ảnh chữ số viết tay kích thước 28x28 pixel mức xám từ 0 đến 255 (trong đó 60.000 mẫu phục vụ huấn luyện và 10.000 mẫu kiểm thử độc lập). Đối với bài toán giải mã Captcha, tác giả thu thập 2.500 mẫu ảnh thực tế chứa các chuỗi ký tự ngẫu nhiên có độ biến dạng cao và nhiễu nền phức tạp.
• Phương pháp chọn mẫu: Áp dụng kỹ thuật phân tầng ngẫu nhiên nhằm đảm bảo tính cân bằng và đại diện tuyệt đối giữa 10 lớp chữ số từ 0 đến 9 cũng như các lớp ký tự chữ cái.
• Phương pháp phân tích và lý do lựa chọn: Tác giả lựa chọn thuật toán mạng nơ-ron tích chập huấn luyện có giám sát với thuật toán lan truyền ngược và hàm mất mát sai số bình phương trung bình kết hợp Cross-Entropy. Lý do lựa chọn là vì mạng tích chập khắc phục hoàn toàn nhược điểm bùng nổ số lượng tham số của mạng nơ-ron nhiều lớp thông thường, đồng thời có khả năng tự động học các đặc trưng phân cấp từ thô đến tinh một cách tối ưu.
• Timeline nghiên cứu: Toàn bộ quá trình thu thập tài liệu, thiết kế mô hình toán, xây dựng phần mềm mô phỏng và đánh giá thực nghiệm được triển khai đồng bộ trong khoảng thời gian 12 tháng của năm 2020.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm đã ghi nhận bốn phát hiện khoa học quan trọng:

1. Độ chính xác vượt trội của mô hình mạng tích chập: Trên tập dữ liệu kiểm thử 10.000 ảnh MNIST, mô hình mạng CNN cơ bản đạt độ chính xác nhận dạng lên tới 98.65%, tương ứng với tỷ lệ phân loại sai chỉ 1.35%. Kết quả này vượt trội rõ rệt khi so sánh với các thuật toán học máy truyền thống như thuật toán láng giềng gần nhất KNN (đạt độ chính xác 95.20%, tỷ lệ lỗi 4.80%) và máy véc-tơ hỗ trợ SVM (đạt độ chính xác 97.10%, tỷ lệ lỗi 2.90%).
2. Hiệu quả tối ưu không gian của lớp Max Pooling: Việc áp dụng lớp tổng hợp cực đại kích thước 2x2 với bước nhảy bằng 2 giúp giảm 75% kích thước không gian đặc trưng sau mỗi tầng (từ ma trận kích thước 24x24 xuống 12x12), qua đó giảm khoảng 40% thời gian tính toán trong mỗi chu kỳ huấn luyện mà không làm suy giảm độ chính xác của mô hình.
3. Giải pháp phân tách ký tự dính liền trong bài toán giải mã Captcha: Thực nghiệm chỉ ra rằng các ký tự phức tạp như W và Q thường bị dính liền vào nhau, làm giảm độ chính xác nhận dạng xuống dưới 65% nếu chỉ dùng phương pháp cắt ảnh truyền thống. Bằng cách áp dụng thuật toán giãn nở ký tự kết hợp phân tích thành phần liên thông và thủ thuật cắt đôi vùng dính, độ chính xác giải mã Captcha đã tăng vọt từ 62.40% lên 91.80%.
4. Khả năng kiểm soát số lượng tham số: Nhờ cơ chế chia sẻ trọng số và trường tiếp nhận cục bộ, số lượng tham số cần tối ưu của mô hình CNN chỉ vào khoảng 15.000 tham số, thấp hơn hơn 50 lần so với mô hình mạng kết nối đầy đủ nhiều lớp (yêu cầu trên 784.000 tham số), giúp loại bỏ gần như hoàn toàn hiện tượng quá khớp trên tập dữ liệu kiểm thử.

Thảo luận kết quả

Các kết quả thực nghiệm được hệ thống hóa trực quan thông qua bảng so sánh hiệu năng các thuật toán phân loại và biểu đồ đường biểu diễn sự suy giảm của hàm mất mát theo từng thế hệ huấn luyện. Biểu đồ cho thấy sai số của mô hình CNN giảm mạnh sau 15 thế hệ đầu tiên và đạt trạng thái hội tụ ổn định sau 50 thế hệ với giá trị sai số bình phương trung bình tiệm cận mức 0.02.

Sở dĩ mô hình đạt được hiệu năng vượt bậc là nhờ kiến trúc mạng tích chập bảo toàn được cấu trúc không gian hai chiều của ảnh, trong khi mạng nơ-ron thông thường phải trải phẳng dữ liệu thành véc-tơ một chiều khiến các mối quan hệ lân cận giữa các điểm ảnh bị phá vỡ hoàn toàn. Khi so sánh với các công bố quốc tế cùng thời điểm, kết quả nhận dạng chữ viết tay 98.65% của luận văn hoàn toàn tương đồng với các nghiên cứu thực nghiệm tiêu chuẩn của cộng đồng khoa học thế giới, đồng thời chứng minh tính khả thi cao khi triển khai mô hình trên môi trường phần cứng máy tính phổ thông tại các cơ sở nghiên cứu trong nước.

Đề xuất và khuyến nghị

Dựa trên các kết quả đạt được, luận văn đưa ra bốn nhóm giải pháp và khuyến nghị kỹ thuật cụ thể:

1. Tăng cường kỹ thuật làm giàu dữ liệu: Các nhóm kỹ sư thị giác máy tính cần áp dụng thêm các phép biến đổi hình học như xoay góc ngẫu nhiên từ âm 15 độ đến dương 15 độ, dịch chuyển trục tọa độ và thêm nhiễu hạt Gaussian vào tập dữ liệu gốc nhằm mở rộng quy mô tập huấn luyện thêm 200%, hướng tới mục tiêu hạ tỷ lệ nhận dạng sai xuống dưới 1.0% trong lộ trình 6 tháng.
2. Tự động hóa quá trình tối ưu hóa siêu tham số: Bộ phận nghiên cứu thuật toán cần triển khai các phương pháp tìm kiếm lưới hoặc tối ưu Bayes để tự động xác định kích thước bộ lọc tối ưu (3x3, 5x5 hoặc 7x7), số lượng bản đồ đặc trưng (từ 8 đến 32 bản đồ) và tốc độ học trong khoảng từ 0.001 đến 0.0001, giúp tăng tốc độ hội tụ mô hình lên thêm 30% trong vòng 3 tháng tới.
3. Nâng cấp kiến trúc mạng sâu cho ảnh màu độ phân giải cao: Các đơn vị phát triển trí tuệ nhân tạo nên mở rộng mô hình từ 3 lớp ẩn hiện tại sang các kiến trúc mạng tích chập sâu tiên tiến như Residual Networks hoặc MobileNet, đặt mục tiêu xử lý ảnh màu chuẩn RGB độ phân giải 1080p với độ trễ dưới 20 mili-giây trong giai đoạn 2021-2022.
4. Triển khai ứng dụng vào hệ thống an ninh thông tin và dịch vụ công: Các cơ quan quản lý cổng dịch vụ công trực tuyến và doanh nghiệp bảo mật cần tích hợp mô hình phân loại ký tự tự động vào quy trình số hóa hồ sơ bưu chính và hệ thống đánh giá lỗ hổng mã Captcha, đặt mục tiêu tự động hóa 100% việc nhập liệu giấy tờ với độ chính xác trên 95% trong vòng 12 tháng.

Đối tượng nên tham khảo luận văn

Nội dung và kết quả nghiên cứu của luận văn mang lại giá trị thiết thực cho bốn nhóm đối tượng chính:

1. Học viên cao học và sinh viên ngành Công nghệ thông tin: Tài liệu là nguồn tham khảo bài bản về mặt toán học giải tích, nguyên lý tích chập ma trận và các bước xây dựng mô hình mạng nơ-ron từ mức cơ bản đến nâng cao để phục vụ nghiên cứu khóa luận và đồ án tốt nghiệp.
2. Kỹ sư phát triển phần mềm thị giác máy tính: Cung cấp quy trình hoàn chỉnh về tiền xử lý ảnh, trích chọn vùng liên thông, xử lý phân tách đối tượng dính liền và đóng gói mô hình phân loại ảnh vào các phần mềm nhận dạng ký tự quang học thương mại.
3. Chuyên gia an toàn thông tin và kiểm thử hệ thống: Cung cấp góc nhìn thực nghiệm về các điểm yếu của hệ thống bảo vệ sử dụng Captcha dạng hình ảnh truyền thống, giúp các chuyên gia thiết kế các cơ chế xác thực đa yếu tố và chống botnet hiệu quả hơn.
4. Nhà quản lý dự án chuyển đổi số tại các tổ chức, doanh nghiệp: Cung cấp cơ sở khoa học và các chỉ số định lượng về năng lực của trí tuệ nhân tạo, hỗ trợ quá trình lập kế hoạch đầu tư hạ tầng phần mềm số hóa tài liệu lưu trữ tự động.

Câu hỏi thường gặp

1. Tại sao mạng nơ-ron tích chập lại vượt trội hơn mạng nơ-ron truyền thống trong phân loại ảnh? Mạng nơ-ron truyền thống yêu cầu trải phẳng ảnh thành véc-tơ một chiều khiến thông tin cấu trúc không gian giữa các điểm ảnh bị mất hoàn toàn và làm bùng nổ số lượng tham số kết nối lên hàng triệu trọng số. Ngược lại, mạng tích chập sử dụng trường tiếp nhận cục bộ và cơ chế chia sẻ trọng số, giúp giảm hơn 90% số lượng tham số và duy trì mối tương quan không gian hai chiều của ảnh.

2. Lớp tích chập và lớp tổng hợp đóng vai trò cụ thể như thế nào trong mô hình? Lớp tích chập sử dụng các bộ lọc trượt trên ảnh để trích xuất các thuộc tính đặc trưng như đường biên, góc và vân bề mặt thành các bản đồ đặc trưng. Tiếp đó, lớp tổng hợp cực đại kích thước 2x2 thực hiện nén kích thước bản đồ đặc trưng xuống 75%, giúp mô hình loại bỏ các thông tin dư thừa, tăng tốc độ xử lý và chống hiện tượng quá khớp.

3. Bộ dữ liệu MNIST được tổ chức và sử dụng trong luận văn như thế nào? Bộ dữ liệu chuẩn MNIST gồm 70.000 ảnh xám kích thước 28x28 điểm ảnh chứa các chữ số viết tay từ 0 đến 9. Luận văn đã phân chia tập dữ liệu thành 60.000 mẫu dùng để tối ưu hóa trọng số trong quá trình huấn luyện và 10.000 mẫu độc lập dùng để kiểm thử khách quan hiệu năng nhận dạng của mô hình.

4. Luận văn xử lý trường hợp các ký tự bị dính liền trong mã Captcha bằng phương pháp nào? Tác giả đã kết hợp thuật toán giãn nở ảnh để làm rõ đường biên ký tự, sử dụng kỹ thuật dò tìm thành phần liên thông để định vị vùng ký tự và áp dụng thuật toán cắt đôi tự động đối với các vùng chứa hai ký tự dính nhau như W và Q. Kỹ thuật này đã nâng tỷ lệ nhận dạng Captcha thành công từ 62.40% lên 91.80%.

5. Mô hình phân loại ảnh trong luận văn có khả năng mở rộng sang nhận diện khuôn mặt hay phương tiện giao thông không? Mô hình hoàn toàn có thể mở rộng bằng cách thay đổi cấu trúc đầu vào để tiếp nhận tensor 3 chiều của ảnh màu RGB và tăng cường độ sâu của các tầng tích chập. Khi được huấn luyện trên các tập dữ liệu mở rộng với hàng triệu mẫu, mạng tích chập sẽ tự động học được các đặc trưng phức tạp hơn như đường nét khuôn mặt hoặc hình dáng xe cộ.

Kết luận

• Luận văn đã hệ thống hóa toàn diện cơ sở lý thuyết về mạng nơ-ron nhân tạo, phép toán tích chập không gian và kiến trúc mạng nơ-ron tích chập chuyên sâu cho bài toán phân loại ảnh số.
• Xây dựng thành công chương trình mô phỏng thực nghiệm ứng dụng mạng nơ-ron tích chập trên hai bài toán thực tế: nhận dạng chữ số viết tay và giải mã chuỗi ký tự Captcha.
• Đạt độ chính xác ấn tượng 98.65% trên tập dữ liệu chuẩn 10.000 ảnh MNIST, giảm tỷ lệ nhận dạng sai xuống mức 1.35%, chứng minh tính ưu việt rõ rệt so với các thuật toán KNN và SVM.
• Giải quyết hiệu quả bài toán phân tách các thành phần ký tự dính liền phức tạp trong mã Captcha, nâng độ chính xác giải mã thực tế lên mức 91.80%.
• Kế hoạch nghiên cứu tiếp theo trong 12 tháng tới sẽ tập trung tối ưu hóa mô hình với các kiến trúc mạng sâu tiên tiến và mở rộng thử nghiệm trên các hệ thống giám sát video thời gian thực.

Để nghiên cứu chi tiết toàn bộ mã nguồn, cấu hình siêu tham số và kết quả đo đạc thực nghiệm, quý độc giả và các nhà nghiên cứu có thể tham khảo toàn văn luận văn thạc sĩ khoa học máy tính của tác giả Lê Cẩm Hà tại thư viện Trường Đại học Công nghệ Thông tin và Truyền thông – Đại học Thái Nguyên.

Trích đoạn nội dung tài liệu

CHƯƠNG 1 TỔNG QUAN BÀI TOÁN PHÂN LOẠI ẢNH SỐ Tổng quan xử lý ảnh số 1.1 Một số khái niệm cơ bản trong xử lý ảnh  Ảnh số Ảnh số thực tế là biểu diễn số học của hình ảnh trong máy tính, thường là biểu diễn nhị phân. Có thể phân ảnh số thành 2 loại: ảnh xám và ảnh màu. Ảnh xám thực chất là một hàm hai chiều của cường độ sáng f(x,y), trong đó x và y là các toạ độ không gian và giá trị của hàm f tại một điểm (x,y) tỷ lệ với cường độ sáng của ảnh tại điểm đó. Nếu chúng ta có một ảnh mầu thì f là một vector mà mỗi thành phần của vector đó chỉ ra cường độ sáng của ảnh tại điểm (x,y) đó tương ứng với dải mầu [2].

Mỗi thành phần của mảng (x,y) được gọi là một điểm ảnh (pixel: picture element) và là phần tử nhỏ nhất cấu tạo nên ảnh. Điểm ảnh được hiểu như 1 dấu hiệu hay cường độ sáng tại một tọa độ xác định trong không gian. Hình ảnh được xem như là 1 tập hợp các điểm. Với cùng kích thước nếu sử dụng càng nhiều điểm ảnh thì bức ảnh càng đẹp, càng mịn và càng thể hiện rõ hơn chi tiết của ảnh người ta gọi đặc điểm này là độ phân giải.

 Cường độ sáng của một ảnh tại một ví trí điểm ảnh Mỗi điểm ảnh của một ảnh tương ứng với một phần của một đối tượng vật lý tồn tại trong thế giới thực. Đối tượng vật lý này được chiếu sáng bởi một vài tia sáng mà tia sáng này bị phản xạ một phần hay hấp thụ một phần khi chiếu lên đối tượng vật lý đó. Phần ánh sáng phản xạ lại đi tới các bộ cảm biến được sử dụng để tạo ảnh cảm nhận và tạo ra các giá trị ghi nhận được đối tượng đối với từng điểm ảnh. Giá trị thu nhận được phụ thuộc vào phổ ánh sáng phản xạ.

Giá trị cường độ sáng của các điểm ảnh khác nhau chỉ có ý nghĩa tương đối mà không có ý nghĩa trong các toán hạng tuyệt đối [2]. LUAN VAN CHAT LUONG download : add [e-mail] 4  Số bits cần thiết để lưu trữ một ảnh Ở đây chúng ta chỉ quan tâm tới ảnh xám, nếu ảnh được lưu trữ dưới dạng một mảng hai chiều với kích thước NxN và có 2m mức xám thì số bits cần thiết để lưu trữ ảnh là: b  N x N x 2m (1.1) Ví dụ như, một ảnh cỡ 512 x 512 với 256 (tức m=8) mức xám thì cần số bits lưu trữ là: 512 x 512 x 256=2.  Độ phân giải ảnh Độ phân giải ảnh biểu diễn mức độ chi tiết của ảnh mà chúng ta có thể nhìn rõ đối tượng. Khi thay đổi các giá trị m và N trong phương trình thì sẽ có các hiện tượng thay đổi khác nhau.

Xong thực nghiệm cho thấy khi giữ nguyên kích thước ảnh N và tăng số mức xám m lên thì sẽ thể hiện rõ hơn mức độ chi tiết trong ảnh.2 Tổng quan về một hệ thống xử lý ảnh Xử lý ảnh là đối tượng nghiên cứu của lĩnh vực thị giác máy, là quá trình biến đổi từ một ảnh ban đầu sang một ảnh mới với các đặc tính và tuân theo ý muốn của người sử dụng. Xử lý ảnh có thể gồm quá trình phân tích, phân lớp các đối tượng, làm tăng chất lượng, phân đoạn và tách cạnh, gán nhãn cho vùng hay quá trình biên dịch các thông tin hình ảnh của ảnh [2]. Cũng như xử lý dữ liệu bằng đồ hoạ, xử lý ảnh số là một lĩnh vực của tin học ứng dụng. Xử lý dữ liệu bằng đồ hoạ đề cập đến những ảnh nhân tạo, các ảnh này được xem xét như là một cấu trúc dữ liệu và được tạo ra bởi các chương trình.

Xử lý ảnh số bao gồm các phương pháp và kĩ thuật để biến đổi, để truyền tải hoặc mã hoá các ảnh tự nhiên. Mục đích của xử lý ảnh gồm: - Biến đổi ảnh, làm tăng chất lượng ảnh. - Tự động nhận dạng, đoán nhận, đánh giá các nội dung của ảnh. Các bước cần thiết trong xử lý ảnh được mô tả chi tiết trong Hình 1.1 bao gồm các bước sau: LUAN VAN CHAT LUONG download : add [e-mail] 5 CAMERA Lưu trữ Thu nhận Số hóa Phân tích Phân loại ảnh ảnh ảnh SCANNER Hệ Q.định Lưu trữ Hình 1.

Các giai đoạn chính trong xử lý ảnh Đầu tiên là quá trình thu nhận ảnh. Ảnh có thể thu nhận được qua camera. Thường khi thu nhận ảnh qua camera là tín hiệu tương tự (loại camera ống kiểu CCIR), nhưng cũng có thể là tín hiệu số hóa (loại CCD- Charge Coupled Device). Ảnh cũng có thể thu nhận từ vệ tinh qua các bộ cảm ứng (sensor), hay ảnh tranh được quét trên scanner.

Tiếp theo là quá trình số hóa (Digitalizer) để biến đổi tín hiệu tương tự sang tín hiệu rời rạc (lấy mẫu) và số hóa bằng lượng hóa, trước khi chuyển sang giai đoạn xử lý, phân tích hay lưu trữ lại. Trước hết là công việc tăng cường ảnh để nâng cao chất lượng ảnh. Do những nguyên nhân khác nhau: có thể do chất lượng thiết bị thu nhận ảnh, do nguồn sáng hay do nhiễu, ảnh có thể bị suy biến do vậy cần phải tăng cường và khôi phục lại ảnh để làm nổi bật một số đặc tính chính của ảnh, hay làm cho ảnh gần giống nhất với trạng thái gốc – trạng thái trước khi bị biến dạng. Giai đoạn tiếp theo là phát hiện các đặc tính như biên, phân vùng ảnh, trích chọn các đặc tính.

Cuối cùng tùy theo mục đích của ứng dụng, sẽ là giai đoạn nhận dạng, phân loại hay các quyết định khác.3 Một số thao tác cơ bản trong xử lý ảnh  Biểu diễn ảnh Trong biểu diễn ảnh, người ta thường dùng các phần tử đặc trưng của ảnh là pixel. Nhìn chung có thể một hàm hai biến chứa các thông tin như biểu diễn của một LUAN VAN CHAT LUONG download : add luanvanchat@agmail. Các mô hình biểu diễn cho ta một mô tả logic hay định lượng các tính chất của hàm này. Trong biểu diễn ảnh cần chú ý đến tính trung thực hoặc các tiêu chuẩn “thông minh” để đo chất lượng ảnh hoặc tính hiệu quả của các kĩ thuật xử lý.

Một số mô hình thường được dùng trong biểu diễn ảnh: mô hình bài toán, mô hình thống kê. Trong mô hình bài toán, ảnh hai chiều được biểu diễn nhờ các hàm hai biến trực giao gọi là các hàm cơ sở. Còn mô hình thống kê, một ảnh được coi như một phần tử của một tập hợp đặc trưng bởi các đại lượng như: kỳ vọng toán học, hiệp biến, phương sai, moment.  Biến đổi ảnh (Image Transform) Thuật ngữ biến đổi ảnh thường dùng để nói tới một lớp các ma trận đơn vị và các kĩ thuật dùng để biến đổi ảnh.

Biến đổi ảnh nhằm làm giảm các nguyên nhân của ảnh để việc xử lý hiệu quả hơn. Như làm rõ hơn các thông tin mà người dùng quan tâm nhưng người dùng phải chấp nhận mất đi một số thông tin cần thiết.  Phân tích ảnh Phân tích ảnh liên quan đến việc xác định các độ đo định lượng của 1 ảnh để đưa ra một mô tả đầy đủ về ảnh. Quá trình phân tích ảnh thực chất bao gồm nhiều công đoạn nhỏ.

Trước hết là công việc tăng cường ảnh để nâng cao chất lượng ảnh, giai đoạn tiếp theo là phát hiện các đặc tính như phát hiện biên, phân vùng ảnh, trích chọn các đặc tính.  Tăng cường ảnh – khôi phục ảnh Tăng cường ảnh là một bước quan trọng, tạo tiền đề cho xử lý ảnh. Nó gồm các kỹ thuật như: lọc độ tương phản, khử nhiễu, nổi màu… Khôi phục ảnh là nhằm loại bỏ các suy giảm trong ảnh.  Xử lý biên ảnh Biên là vấn đề chủ yếu trong phân tích ảnh vì các điểm trích chọn trong quá trình phân tích ảnh đều dựa vào biên.

Mỗi điểm ảnh có thể là biên nếu ở đó có sự thay LUAN VAN CHAT LUONG download : add [e-mail] 7 đổi đột ngột về mức xám. Tập hợp các điểm biên tạo thành biên hay đường bao quanh của ảnh.  Phân vùng ảnh Phân vùng là bước then chốt trong xử lý ảnh. Giai đoạn này nhằm phân tích ảnh thành những thành phần có tính chất nào đó dựa theo biên hay các vùng liên thông.

Tiêu chuẩn để xác định các vùng liên thông có thể là mức xám, cùng màu hay độ tương phản.  Nhận dạng ảnh Nhận dạng ảnh là quá trình liên quan đến các mô tả đối tượng mà người ta muốn đặc tả nó. Quá trình nhận dạng thường đi sau quá trình trích chọn các đặc tính chủ yếu của đối tượng. Có hai kiểu mô tả đối tượng: Mô tả tham số (nhận dạng theo tham số).

Mô tả theo cấu trúc (nhận dạng theo cấu trúc). Trên thực tế người ta đã áp dụng kỹ thuật nhận dạng khá thành công với nhiều đối tượng khác nhau như: nhận dạng ảnh vân tay, nhận dạng chữ viết.  Nén ảnh Dữ liệu ảnh cũng như các dữ liệu khác cần phải lưu trữ hay truyền đi trên mạng mà lượng thông tin để biểu diễn cho một ảnh là rất lớn. Do đó làm giảm lượng thông tin hay nén dữ liệu là một nhu cầu cần thiết.

Nén dữ liệu là quá trình làm giảm lượng thông tin “dư thừa” trong dữ liệu gốc và do vậy lượng thông tin thu được sau khi nén thường nhỏ hơn dữ liệu gốc rất nhiều. Biểu diễn ảnh trong máy tính 1.1 Ảnh màu  Hệ màu RGB RGB viết tắt của red (đỏ), green (xanh lục), blue (xanh lam), là ba màu chính của ánh sáng khi tách ra từ lăng kính. Khi trộn ba màu trên theo tỉ lệ nhất định có thể tạo thành các màu khác nhau. LUAN VAN CHAT LUONG download : add luanvanchat@agmail.

Minh họa hệ màu RGB Hình 1.2 minh họa việc chọn màu thường thấy trong các chương trình máy tính. Khi ta chọn một màu thì sẽ ra một bộ ba số tương ứng (r,g,b) màu được chọn. Ở đây là rgb(102, 255, 153), nghĩa là r=102, g=255, b=153.  Biểu diễn ảnh màu Hình 1.

Ví dụ về ảnh màu Ảnh màu (Hình 1.3) là một ma trận các pixel mà mỗi pixel biểu diễn một điểm màu. Mỗi điểm màu được biểu diễn bằng bộ 3 số (r,g,b). Để tiện cho việc xử lý ảnh thì sẽ tách ma trận pixel ra 3 channel red, green, blue. Bức ảnh trên Hình 1.3 có kích thước 800 pixel * 600 pixel, bức ảnh này có thể biểu diễn dưới dạng một ma trận kích thước 600 * 800 như (1.

LUAN VAN CHAT LUONG download : add luanvanchat@agmail.2) Trong đó mỗi phần tử w ij là một pixel.