Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe luận văn thạc sĩ công nghệ thông tin hà nội 2016

Luận văn thạc sĩ kỹ thuật nghiên cứu Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe luận văn thạc sĩ, khảo sát thực trạng, phân tích nguyên

• Tác giả: Lê Thị Thu Hằng
• Người hướng dẫn: TS. Nguyễn Văn Vinh
• Trường học: Đại học Quốc gia Hà Nội
• Chuyên ngành: Công nghệ thông tin
• Đề tài: Nghiên Cứu Về Mạng Neural Tích Chập Và Ứng Dụng Cho Bài Toán Nhận Dạng Biển Số Xe
• Loại tài liệu: luận văn
• Năm xuất bản: 2016
• Địa điểm: Hà Nội

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI MỞ ĐẦU
• 1. CHƯƠNG 1: MẠNG NEURAL VÀ MẠNG NEURAL TÍCH CHẬP
• 1.1. Mạng neural và mạng neural lan truyền ngược
• 1.2. Giới thiệu về mạng Neural
• 1.3. Một số kiểu mạng Neural
• 1.4. Mạng Neural lan truyền ngược MLP
• 2. CHƯƠNG 2: TỔNG QUAN VỀ NHẬN DẠNG BIỂN SỐ XE
• 2.1. Khái niệm về hệ thống nhận dạng biển số xe
• 2.2. Lịch sử và phát triển
• 2.3. Cách thức hoạt động của hệ thống nhận dạng biển số xe
• 2.4. Phân loại các ứng dụng nhận dạng biển số xe
• 2.5. Ứng dụng thực tiễn tại Việt Nam
• 2.6. Phân loại biển số xe
• 2.7. Phương pháp nhận dạng biển số xe từ ảnh chụp của camera
• 2.8. Phương pháp chuyển đổi Hough
• 2.9. Phương pháp hình thái học
• 2.10. Phương pháp nhận dạng ký tự trong biển số xe
• 2.11. Phạm vi nghiên cứu và hướng giải quyết
• 3. CHƯƠNG 3: ÁP DỤNG MẠNG NEURAL TÍCH CHẬP TRONG NHẬN DẠNG KÝ TỰ
• 3.1. Xây dựng mô hình mạng
• 3.2. Kết quả nhận dạng ký tự viết tay
• 3.3. Kết quả thực nghiệm nhận dạng biển số xe với mạng Neural tích chập
• 3.4. Hướng phát triển của bài toán
• DANH MỤC TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng quan về mạng neural tích chập và nhận dạng biển số xe

Mạng neural tích chập (CNN) đã trở thành một công cụ mạnh mẽ trong lĩnh vực nhận dạng hình ảnh, đặc biệt là trong bài toán nhận dạng biển số xe. Luận văn thạc sĩ công nghệ thông tin của Lê Thị Thu Hằng năm 2016 đã nghiên cứu sâu về ứng dụng của mạng neural tích chập trong việc nhận diện biển số xe. Nghiên cứu này không chỉ cung cấp cái nhìn tổng quan về mạng neural mà còn chỉ ra những thách thức và giải pháp trong việc áp dụng công nghệ này vào thực tiễn.

1.1. Khái niệm về mạng neural và mạng neural tích chập

Mạng neural là một mô hình xử lý thông tin phỏng theo cách thức hoạt động của não bộ. Mạng neural tích chập (CNN) là một loại mạng neural được thiết kế đặc biệt để xử lý dữ liệu có cấu trúc dạng lưới, như hình ảnh. CNN sử dụng các lớp tích chập để phát hiện các đặc trưng trong hình ảnh, từ đó giúp cải thiện độ chính xác trong nhận dạng biển số xe.

1.2. Lịch sử và phát triển của nhận dạng biển số xe

Nhận dạng biển số xe đã trải qua nhiều giai đoạn phát triển, từ các phương pháp truyền thống đến các giải pháp hiện đại sử dụng công nghệ AI. Các hệ thống nhận dạng biển số xe hiện nay thường sử dụng mạng neural tích chập để cải thiện độ chính xác và tốc độ xử lý. Nghiên cứu của Lê Thị Thu Hằng đã chỉ ra rằng việc áp dụng CNN trong nhận dạng biển số xe mang lại kết quả khả quan hơn so với các phương pháp trước đây.

II. Thách thức trong việc áp dụng mạng neural tích chập cho nhận dạng biển số xe

Mặc dù mạng neural tích chập đã chứng minh được hiệu quả trong nhiều ứng dụng, nhưng việc áp dụng nó cho bài toán nhận dạng biển số xe vẫn gặp phải một số thách thức. Những thách thức này bao gồm độ phức tạp của hình ảnh, sự biến đổi trong điều kiện ánh sáng và góc chụp, cũng như sự đa dạng trong kiểu dáng và kích thước của biển số xe.

2.1. Độ phức tạp của hình ảnh và điều kiện môi trường

Hình ảnh biển số xe có thể bị ảnh hưởng bởi nhiều yếu tố như ánh sáng, thời tiết và góc chụp. Điều này làm cho việc nhận diện trở nên khó khăn hơn. Nghiên cứu đã chỉ ra rằng việc sử dụng các kỹ thuật tiền xử lý hình ảnh có thể giúp cải thiện độ chính xác của mô hình.

2.2. Sự đa dạng trong kiểu dáng và kích thước biển số xe

Biển số xe có nhiều kiểu dáng và kích thước khác nhau tùy thuộc vào từng quốc gia và khu vực. Điều này tạo ra thách thức lớn cho các mô hình nhận dạng. Việc xây dựng một tập dữ liệu huấn luyện đa dạng và phong phú là rất cần thiết để cải thiện khả năng tổng quát của mô hình.

III. Phương pháp xây dựng mô hình mạng neural tích chập cho nhận dạng biển số xe

Để giải quyết các thách thức trong nhận dạng biển số xe, nghiên cứu đã đề xuất một phương pháp xây dựng mô hình mạng neural tích chập hiệu quả. Phương pháp này bao gồm việc thiết kế kiến trúc mạng, lựa chọn các tham số tối ưu và áp dụng các kỹ thuật huấn luyện phù hợp.

3.1. Thiết kế kiến trúc mạng neural tích chập

Kiến trúc của mạng neural tích chập thường bao gồm nhiều lớp tích chập và lớp kết nối đầy đủ. Mỗi lớp tích chập có nhiệm vụ phát hiện các đặc trưng khác nhau trong hình ảnh. Việc lựa chọn số lượng lớp và kích thước của các bộ lọc là rất quan trọng để đạt được hiệu quả cao trong nhận dạng biển số xe.

3.2. Kỹ thuật huấn luyện và tối ưu hóa mô hình

Quá trình huấn luyện mô hình mạng neural tích chập bao gồm việc sử dụng các tập dữ liệu huấn luyện để điều chỉnh các trọng số của mạng. Các kỹ thuật như giảm thiểu hàm mất mát và tối ưu hóa trọng số là rất quan trọng để cải thiện độ chính xác của mô hình. Nghiên cứu đã áp dụng các phương pháp như Adam và SGD để đạt được kết quả tốt nhất.

IV. Ứng dụng thực tiễn của mạng neural tích chập trong nhận dạng biển số xe

Mạng neural tích chập đã được áp dụng thành công trong nhiều hệ thống nhận dạng biển số xe trên thực tế. Các ứng dụng này không chỉ giúp cải thiện độ chính xác mà còn tăng tốc độ xử lý, từ đó nâng cao hiệu quả trong việc quản lý giao thông và an ninh.

4.1. Hệ thống nhận dạng biển số xe tự động

Hệ thống nhận dạng biển số xe tự động sử dụng mạng neural tích chập để nhận diện và phân loại biển số xe trong thời gian thực. Các hệ thống này đã được triển khai tại nhiều thành phố lớn, giúp cải thiện quản lý giao thông và an ninh.

4.2. Kết quả nghiên cứu và đánh giá hiệu quả

Nghiên cứu của Lê Thị Thu Hằng đã chỉ ra rằng việc áp dụng mạng neural tích chập trong nhận dạng biển số xe mang lại độ chính xác cao, với tỷ lệ nhận diện lên đến 95%. Kết quả này cho thấy tiềm năng lớn của công nghệ AI trong lĩnh vực nhận dạng hình ảnh.

V. Kết luận và tương lai của mạng neural tích chập trong nhận dạng biển số xe

Mạng neural tích chập đã chứng minh được vai trò quan trọng trong việc nhận dạng biển số xe. Tương lai của công nghệ này hứa hẹn sẽ còn phát triển mạnh mẽ hơn nữa với sự tiến bộ của AI và công nghệ máy học. Việc nghiên cứu và phát triển các mô hình mới sẽ giúp cải thiện độ chính xác và khả năng tổng quát của các hệ thống nhận dạng biển số xe.

5.1. Xu hướng phát triển công nghệ nhận dạng biển số xe

Trong tương lai, công nghệ nhận dạng biển số xe sẽ tiếp tục phát triển với sự hỗ trợ của các kỹ thuật học sâu và mạng neural tích chập. Các nghiên cứu mới sẽ tập trung vào việc cải thiện độ chính xác và khả năng xử lý trong các điều kiện thực tế khác nhau.

5.2. Tầm quan trọng của nghiên cứu và phát triển trong lĩnh vực này

Nghiên cứu và phát triển trong lĩnh vực nhận dạng biển số xe không chỉ giúp cải thiện hiệu quả quản lý giao thông mà còn đóng góp vào an ninh công cộng. Việc áp dụng công nghệ AI trong nhận dạng hình ảnh sẽ mở ra nhiều cơ hội mới cho các ứng dụng trong tương lai.

Nội dung chính

Tổng quan nghiên cứu

Quá trình đô thị hóa nhanh chóng cùng với sự gia tăng mạnh mẽ của các phương tiện giao thông đường bộ tại Việt Nam đặt ra thách thức vô cùng lớn đối với công tác quản lý trật tự và an toàn giao thông. Hàng triệu lượt xe máy và ô tô lưu thông mỗi ngày tại các đô thị trọng điểm đòi hỏi phải có các giải pháp công nghệ tự động hóa nhằm giảm thiểu sự phụ thuộc vào phương thức kiểm soát thủ công. Trong bối cảnh đó, hệ thống tự động nhận dạng biển số xe (Automatic License Plate Recognition - ALPR) đóng vai trò then chốt trong việc xây dựng các đô thị thông minh, quản lý bãi đỗ xe tự động, thu phí không dừng và giám sát an ninh trật tự.

Tuy nhiên, các phương pháp nhận dạng truyền thống sử dụng mạng nơ-ron truyền thẳng đa tầng kết nối đầy đủ (MLP) bộc lộ nhiều hạn chế nghiêm trọng về khả năng khái quát hóa và tối ưu hóa tài nguyên tính toán. Luận văn thạc sĩ chuyên ngành Kỹ thuật phần mềm của học viên Lê Thị Thu Hằng, thực hiện dưới sự hướng dẫn khoa học của Tiến sĩ Nguyễn Văn Vinh tại Trường Đại học Công nghệ – Đại học Quốc gia Hà Nội vào năm 2016, đã tập trung giải quyết bài toán cốt lõi này. Đề tài hướng tới mục tiêu nghiên cứu chuyên sâu về mạng nơ-ron tích chập (Convolutional Neural Network - CNN) và ứng dụng thực nghiệm vào quy trình nhận dạng ký tự biển số xe cơ giới tại Việt Nam.

Ý nghĩa thực tiễn của công trình được thể hiện qua các chỉ số tối ưu hóa ấn tượng. Mô hình mạng nơ-ron tích chập được đề xuất giúp cắt giảm hơn 40 lần số lượng tham số học so với mạng nơ-ron truyền thống (từ 23.550 tham số xuống chỉ còn 520 tham số ở tầng trích xuất đặc trưng), đồng thời duy trì độ chính xác nhận dạng ký tự vượt mốc 98%. Kết quả nghiên cứu mở ra tiềm năng ứng dụng to lớn trong việc nâng cao hiệu suất xử lý thời gian thực cho các hệ thống giám sát giao thông thông minh tại Việt Nam.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng dựa trên sự kết hợp chặt chẽ giữa ba nền tảng lý thuyết chính: mô hình mạng nơ-ron nhân tạo đa tầng truyền thẳng (MLP) với thuật toán lan truyền ngược (Backpropagation), lý thuyết mạng nơ-ron tích chập (CNN) kế thừa kiến trúc kinh điển LeNet-5, và các phương pháp xử lý hình thái học ảnh (Mathematical Morphology) kết hợp biến đổi Hough.

Các khái niệm chuyên ngành then chốt được phân tích và vận dụng xuyên suốt công trình bao gồm:

• Trường tiếp nhận cục bộ (Local Receptive Fields): Khác với mạng kết nối đầy đủ, mỗi nơ-ron ở tầng ẩn chỉ kết nối với một vùng không gian nhỏ của ảnh đầu vào (kích thước cửa sổ 5x5 điểm ảnh). Điều này giúp mạng khai thác triệt để cấu trúc không gian cục bộ của bức ảnh.
• Trọng số chia sẻ (Shared Weights and Biases): Việc áp dụng cùng một ma trận trọng số và độ lệch cho tất cả các nơ-ron trong cùng một bản đồ đặc trưng giúp mạng có tính bất biến với phép dịch chuyển (Translation Invariance), đồng thời giảm thiểu đáng kể số lượng tham số cần huấn luyện.
• Lớp tổng hợp (Pooling Layer / Subsampling): Kỹ thuật Max-pooling với cửa sổ kích thước 2x2 được sử dụng ngay sau lớp tích chập nhằm giảm số chiều không gian của dữ liệu, chắt lọc các thông tin đặc trưng nổi bật và loại bỏ nhiễu.
• Bản đồ đặc trưng (Feature Map): Là kết quả thu được sau khi trượt các bộ lọc (filter/kernel) qua toàn bộ ảnh đầu vào và áp dụng hàm kích hoạt phi tuyến Sigmoid, phản ánh các mức độ trừu tượng khác nhau của hình ảnh từ đường biên, góc cạnh đến các hình khối hoàn chỉnh.

Phương pháp nghiên cứu

Nghiên cứu sử dụng hai nguồn dữ liệu chính để phục vụ huấn luyện và kiểm thử mô hình. Nguồn dữ liệu thứ nhất là tập dữ liệu chuẩn quốc tế MNIST bao gồm 60.000 mẫu ảnh chữ số viết tay kích thước chuẩn hóa 28x28 điểm ảnh, được dùng để đánh giá hiệu năng cơ bản và kiểm chứng khả năng phân loại của kiến trúc mạng tích chập. Nguồn dữ liệu thứ hai là bộ ảnh chụp thực tế biển số xe máy và ô tô tại Việt Nam thu thập từ camera ghi hình độ phân giải tiêu chuẩn.

Cỡ mẫu thực nghiệm bao gồm 750 ảnh biển số xe được thu thập ngẫu nhiên theo phương pháp phân tầng trong các điều kiện môi trường đa dạng, từ ánh sáng ban ngày đồng đều đến các góc chụp có độ tương phản phức tạp với ngưỡng mức xám dao động trong dải từ 130 đến 200. Các mẫu đại diện cho đầy đủ các định dạng biển số xe tại Việt Nam, bao gồm biển dài (110x470 mm), biển vuông (200x280 mm) của ô tô và biển số xe máy (140x190 mm).

Quy trình phân tích được thiết kế theo 7 bước tuần tự: tiền xử lý ảnh màu BGR, tìm kiếm các đường bao contour khép kín, lọc ứng viên biển số theo tỷ lệ hình học chuẩn (tỷ lệ chiều cao trên chiều rộng từ 0,18 đến 0,60), trích xuất vùng biển số, phân đoạn tách rời từng ký tự, đưa các ký tự dạng ảnh 32x32 điểm ảnh vào mạng CNN 6 tầng (gồm các tầng C1, S2, C3, S4, C5, F6) để nhận dạng, và cuối cùng hiển thị kết quả chuỗi ký tự dạng văn bản. Lý do lựa chọn mạng tích chập CNN thay cho các phương pháp phân loại truyền thống như K-Nearest Neighbors (KNN) hay Support Vector Machine (SVM) là vì CNN có khả năng tự động học các đặc trưng không gian đa tầng mà không cần trích xuất thủ công, mang lại độ chính xác cao và khả năng chống chịu nhiễu ngoại cảnh vượt trội.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm và phân tích dữ liệu đã mang lại bốn phát hiện khoa học quan trọng:

Thứ nhất, mô hình mạng tích chập thể hiện sự vượt trội tuyệt đối về khả năng tối ưu hóa tham số học. Trong khi một tầng kết nối đầy đủ thông thường cần tới 23.550 tham số (với 784 nơ-ron đầu vào và 30 nơ-ron ẩn), tầng tích chập tương đương sử dụng 20 bản đồ đặc trưng với bộ lọc 5x5 chỉ tiêu tốn 520 tham số. Số lượng tham số cần huấn luyện đã giảm hơn 40 lần, giúp giảm tải tài nguyên tính toán và rút ngắn thời gian hội tụ của mạng.

Thứ hai, độ chính xác nhận dạng ký tự của mô hình CNN đạt mức rất cao. Trên tập dữ liệu kiểm thử chuẩn, mô hình đạt độ chính xác phân loại trên 98%, cao hơn từ 3% đến 5% so với mô hình mạng perceptron đa tầng truyền thống. Khả năng nhận dạng chính xác các chữ số từ 0 đến 9 gần như tương đương với mắt người.

Thứ ba, giải pháp định vị vùng biển số xe bằng phương pháp hình thái học kết hợp phân tích đường bao đạt hiệu quả xuất sắc. Dựa trên các ràng buộc hình học về tỷ lệ ký tự (chiều cao ký tự chiếm 60% đến 85% chiều cao biển số đối với biển một hàng và dưới 50% đối với biển hai hàng), hệ thống đạt tỷ lệ phát hiện chính xác 742 trên tổng số 750 ảnh thử nghiệm, tương ứng với tỷ lệ thành công xấp xỉ 98,93%.

Thứ tư, cấu trúc tích hợp các tầng Max-pooling giúp cải thiện đáng kể tốc độ xử lý trên từng khung hình. Việc giảm kích thước ma trận đặc trưng từ 28x28 xuống 14x14 ở tầng S2 và từ 10x10 xuống 5x5 ở tầng S4 cho phép hệ thống đáp ứng tốt yêu cầu xử lý luồng dữ liệu thời gian thực từ camera giao thông.

Thảo luận kết quả

Nguyên nhân chính dẫn đến sự vượt trội của mô hình bắt nguồn từ cơ chế chia sẻ trọng số và tính kết hợp cục bộ của các tầng tích chập. Khi trượt các bộ lọc qua ảnh, mạng tự động học các biểu diễn hình học từ mức độ thấp (các đường biên thẳng đứng, đường cong) đến các biểu diễn mức độ cao trừu tượng hơn. Đồng thời, kỹ thuật Max-pooling loại bỏ các thông tin vị trí cục bộ không cần thiết, giúp hệ thống duy trì tính bất biến cao khi góc chụp của camera bị lệch nhẹ hoặc kích thước ký tự bị co giãn.

Khi so sánh với các công trình nghiên cứu trước đây, mô hình đề xuất thể hiện tính ưu việt rõ rệt. Trong một nghiên cứu gần đây tại Malaysia sử dụng giải thuật Adaboost kết hợp bộ phân lớp KNN trên tập dữ liệu 100 biển số xe, tỷ lệ nhận dạng ký tự chỉ đạt khoảng 95%. Mô hình CNN trong luận văn này đã nâng tỷ lệ nhận dạng lên trên 98%, đồng thời loại bỏ được các bước trích xuất đặc tính thủ công phức tạp.

Dữ liệu thực nghiệm của nghiên cứu có thể được minh họa trực quan thông qua bảng so sánh độ phức tạp tính toán giữa mạng MLP và CNN, kết hợp với đồ thị biểu diễn hàm mất mát trung bình bình phương (MSE) theo từng chu kỳ học (epoch). Trên biểu đồ huấn luyện, sai số MSE của mạng tích chập giảm mạnh và đạt trạng thái hội tụ ổn định chỉ sau 20 đến 30 epoch, trong khi đồ thị lỗi trên tập kiểm tra duy trì mức thấp và không có hiện tượng phân kỳ, chứng minh mô hình đã kiểm soát triệt để hiện tượng quá khớp (overfitting).

Đề xuất và khuyến nghị

Dựa trên các kết quả đạt được từ luận văn, bốn đề xuất và khuyến nghị hành động cụ thể được đưa ra nhằm hoàn thiện và thương mại hóa hệ thống nhận dạng biển số xe:

1. Mở rộng và chuẩn hóa tập dữ liệu huấn luyện ký tự đa dạng: Các nhóm nghiên cứu thị giác máy tính cần tiến hành thu thập và gán nhãn thêm ít nhất 10.000 mẫu ảnh biển số xe chụp trong các điều kiện thời tiết khắc nghiệt (mưa lớn, ban đêm, ngược sáng mạnh) và mở rộng nhận dạng đầy đủ 26 chữ cái Latinh kết hợp chữ số. Lộ trình thực hiện trong vòng 6 tháng nhằm mục tiêu nâng tỷ lệ nhận dạng toàn diện lên trên 99,5%.
2. Triển khai thử nghiệm hệ thống ALPR tại các bãi đỗ xe thông minh và trạm thu phí tự động: Các doanh nghiệp công nghệ giao thông phối hợp cùng ban quản lý hạ tầng đô thị ứng dụng mô hình vào hệ thống camera kiểm soát ra vào tại 50 bãi đỗ xe công cộng trong thời gian 12 tháng. Mục tiêu kỹ thuật cần đạt là rút ngắn thời gian xử lý và mở barrier xuống dưới 0,5 giây cho mỗi lượt phương tiện.
3. Ứng dụng các kỹ thuật học sâu tiên tiến để ngăn ngừa quá khớp: Đội ngũ kỹ sư phần mềm cần tích hợp kỹ thuật Dropout (ngắt ngẫu nhiên nơ-ron) và tăng cường dữ liệu tự động (Data Augmentation) bằng cách xoay, phóng to, thu nhỏ ảnh ký tự trong giai đoạn 3 tháng. Giải pháp này giúp mô hình duy trì độ ổn định cao khi gặp các biển số bị xước, bám bẩn hoặc biến dạng nhẹ.
4. Đầu tư trang bị phần cứng xử lý song song GPU tại các điểm giám sát trọng điểm: Các cơ quan quản lý giao thông đô thị cần phê duyệt kế hoạch nâng cấp thiết bị nhúng tích hợp GPU chuyên dụng tại các nút giao thông trong giai đoạn 2016-2018. Việc tối ưu hóa phần cứng sẽ đảm bảo tốc độ phân tích video đạt chuẩn 30 khung hình/giây (fps), hỗ trợ đắc lực cho công tác phát hiện vi phạm và phạt nguội tự động.

Đối tượng nên tham khảo luận văn

Nội dung và kết quả nghiên cứu của luận văn mang lại giá trị khoa học và ứng dụng thiết thực cho bốn nhóm đối tượng:

• Học viên cao học và nghiên cứu sinh chuyên ngành Công nghệ thông tin, Khoa học dữ liệu: Luận văn là tài liệu tham khảo chất lượng về nền tảng toán học của mạng nơ-ron nhân tạo, thuật toán lan truyền ngược và cấu trúc mạng CNN, hỗ trợ định hướng nghiên cứu các đề tài chuyên sâu về thị giác máy tính và học sâu.
• Kỹ sư phát triển phần mềm và chuyên gia thị giác máy tính: Cung cấp thiết kế kiến trúc mạng nơ-ron chi tiết cùng quy trình xử lý ảnh 7 bước thực tế, giúp các kỹ sư nhanh chóng ứng dụng và triển khai các module nhận dạng ký tự quang học (OCR) vào sản phẩm thương mại.
• Các doanh nghiệp phát triển giải pháp giao thông thông minh (ITS) và an ninh đô thị: Nắm bắt phương pháp định vị biển số theo quy chuẩn kích thước xe cơ giới tại Việt Nam (110x470 mm, 200x280 mm, 140x190 mm) để tích hợp vào các hệ thống thu phí tự động không dừng, quản lý trạm cân và kiểm soát bãi đỗ xe thông minh.
• Cơ quan quản lý nhà nước về an toàn giao thông và lực lượng cảnh sát: Tham khảo cơ sở công nghệ và tiềm năng tự động hóa để xây dựng các đề án hiện đại hóa hệ thống camera giám sát an ninh, phát hiện phương tiện vượt đèn đỏ và điều tiết giao thông theo biển số chẵn lẻ.

Câu hỏi thường gặp

Mạng nơ-ron tích chập (CNN) có ưu điểm gì vượt trội so với mạng nơ-ron truyền thẳng (MLP) trong nhận dạng ảnh? CNN vượt trội nhờ cơ chế trường tiếp nhận cục bộ và chia sẻ trọng số, giúp bảo toàn cấu trúc không gian của ảnh. Trong thực tế, với ảnh đầu vào kích thước 28x28 điểm ảnh, tầng tích chập với 20 bộ lọc chỉ cần 520 tham số, giảm hơn 40 lần so với 23.550 tham số của mạng MLP, giúp mô hình huấn luyện nhanh hơn và tránh hiện tượng quá khớp.

Thuật toán trong luận văn xử lý thế nào đối với các chuẩn biển số xe khác nhau tại Việt Nam? Hệ thống thiết lập các ràng buộc hình học dựa trên quy định của Bộ Giao thông Vận tải với tỷ lệ chiều cao trên chiều rộng từ 0,18 đến 0,60, chiều cao ký tự chiếm 60% đến 85% đối với biển một hàng và dưới 50% đối với biển hai hàng. Các thông số chuẩn hóa này giúp thuật toán nhận dạng chính xác cả biển ô tô dài, biển ô tô vuông và biển xe máy.

Vai trò cụ thể của lớp tổng hợp (Pooling layer) trong kiến trúc CNN là gì? Lớp Pooling, tiêu biểu là Max-pooling với tỷ lệ 2x2, thực hiện chức năng rút gọn kích thước ma trận đặc trưng (ví dụ giảm từ 28x28 xuống 14x14 điểm ảnh). Kỹ thuật này giúp loại bỏ các thông tin vị trí tuyệt đối không cần thiết, giảm khối lượng tính toán cho các tầng phía sau và tạo ra tính bất biến đối với các sai lệch góc chụp nhỏ.

Phương pháp nào được sử dụng để phát hiện và trích xuất vùng biển số xe từ ảnh camera? Luận văn kết hợp phương pháp xử lý hình thái học với thuật toán tìm kiếm đường bao contour. Sau khi chuyển ảnh sang mức xám và lọc nhiễu trong dải ngưỡng sáng từ 130 đến 200, hệ thống phân tích các đối tượng hình chữ nhật thỏa mãn tỷ lệ kích thước thực tế, đạt tỷ lệ trích xuất chính xác 98,93% trên 750 ảnh thực nghiệm.

Làm thế nào để kiểm soát hiện tượng quá khớp (overfitting) trong quá trình huấn luyện mạng nơ-ron? Nghiên cứu áp dụng phương pháp phân chia dữ liệu thành tập huấn luyện và tập kiểm tra độc lập, đồng thời theo dõi liên tục sai số trên tập kiểm thử. Khi sai số kiểm thử có xu hướng tăng lên, tiến trình huấn luyện sẽ dừng lại kịp thời (early stopping), giúp mạng duy trì độ chính xác tổng quát hóa cao trên 98%.

Kết luận

• Luận văn đã hệ thống hóa toàn diện cơ sở lý thuyết về mạng nơ-ron nhân tạo, giải thuật lan truyền ngược và kiến trúc mạng nơ-ron tích chập đa tầng.
• Chứng minh thành công tính ưu việt của CNN trong việc cắt giảm hơn 40 lần số lượng tham số học so với mạng kết nối đầy đủ, giải quyết triệt để bài toán tài nguyên tính toán.
• Xây dựng hoàn chỉnh quy trình nhận dạng biển số xe tại Việt Nam với tỷ lệ nhận diện ký tự chính xác đạt trên 98% trên tập dữ liệu chuẩn.
• Ứng dụng hiệu quả phương pháp hình thái học và phân tích đường bao contour để định vị vùng biển số với độ chính xác xấp xỉ 99%.
• Đưa ra định hướng ứng dụng thực tiễn rõ ràng cho các hệ thống giám sát giao thông thông minh, trạm thu phí và quản lý an ninh đô thị.

Đóng góp cốt lõi của công trình là đặt nền tảng học thuật và thực nghiệm vững chắc cho việc ứng dụng công nghệ học sâu (Deep Learning) vào bài toán thị giác máy tính tại Việt Nam vào năm 2016. Trong lộ trình phát triển 12 đến 24 tháng tới, mô hình cần được tiếp tục nâng cấp để nhận diện ký tự chữ cái mở rộng và tối ưu hóa suy luận trên các chip xử lý AI biên. Các nhà nghiên cứu và kỹ sư công nghệ có thể kế thừa ngay cấu trúc mạng này để phát triển các giải pháp quản lý giao thông hiện đại và bền vững.

Trích đoạn nội dung tài liệu

LỜI MỞ ĐẦU Deep Learning là một thuật toán dựa trên một số ý tƣởng từ não bộ tới việc tiếp thu nhiều tầng biểu đạt, cả cụ thể lẫn trừu tƣợng, qua đó làm rõ nghĩa của các loại dữ liệu. Deep Learning đƣợc ứng dụng trong nhận diện hình ảnh, nhận diện giọng nói, xử lý ngôn ngữ tự nhiên Hiện nay rất nhiều các bài toán nhận dạng sử dụng deep learning để giải quyết do deep learning có thể giải quyết các bài toán với số lƣợng lớn, kích thƣớc đầu vào lớn với hiệu năng cũng nhƣ độ chính xác vƣợt trội so với các phƣơng pháp phân lớp truyền thống Những năm gần đây, ta đã chứng kiến đƣợc nhiều thành tựu vƣợt bậc trong ngành Thị giác máy tính (Computer Vision). Các hệ thống xử lý ảnh lớn nhƣ Facebook, Google hay Amazon đã đƣa vào sản phẩm của mình những chức năng thông minh nhƣ nhận diện khuôn mặt ngƣời dùng, phát triển xe hơi tự lái hay drone giao hàng tự động. Convolutional Neural Network (CNNs – Mạng nơ-ron tích chập) là một trong những mô hình Deep Learning tiên tiến giúp cho chúng ta xây dựng đƣợc những hệ thống thông minh với độ chính xác cao nhƣ hiện nay.

Trong luận văn cao học này, em đi vào nghiên cứu về mạng neural cũng nhƣ mạng Convolution (tích chập) cũng nhƣ ý tƣởng của mô hình CNNs trong phân lớp ảnh (Image Classification), và áp dụng trong việc xây dựng hệ thống nhận dạng biển số xe tự động Nội dung bài báo cáo bao gồm 3 chƣơng.  Chƣơng 1: Mạng neural và mạng neural tích chập.  Chƣơng 2: Tổng quan về nhận dạng biển số xe.  Chƣơng 3: Áp dụng mạng neural tích chập trong nhận dạng ký tự LỜI CẢM ƠN Em xin chân thành cảm ơn các thầy, các cô khoa Công nghệ Thông tin- Trƣờng Đại học Công nghệ - Đại học quốc gia Hà Nội đã tận tình dạy dỗ, truyền đạt cho em nhiều kiến thức quý báu.

Em xin tỏ lòng biết ơn sâu sắc đến thầy Ts Nguyễn Văn Vinh, ngƣời đã tận tình giúp đỡ và truyền đạt nhiều kinh nghiệm để đề tài có thể đƣợc thực hiện và hoàn thành. Xin chân thành cảm ơn các bạn trong khoa Công Nghệ Thông Tin, Trƣờng ĐH Công nghệ đã giúp đỡ, động viên tôi rất nhiều trong quá trình thực hiện đề tài. Em xin chân thành cảm ơn ! Hà nội, tháng 5 năm 2016 Học viên Lê Thị Thu Hằng CHƢƠNG 1: MẠNG NEURAL VÀ MẠNG NEURAL TÍCH CHẬP 1. Mạng neural và mạng neural lan truyền ngƣợc 1.

Giới thiệu về mạng Neural Định nghĩa: Mạng nơron nhân tạo, Artificial Neural Network (ANN) là một mô hình xử lý thông tin phỏng theo cách thức xử lý thông tin của các hệ nơron sinh học. Nó đƣợc tạo nên từ một số lƣợng lớn các phần tử (nơron) kết nối với nhau thông qua các liên kết (trọng số liên kết) làm việc nhƣ một thể thống nhất để giải quyết một vấn đề cụ thể nào đó. Một mạng nơron nhân tạo đƣợc cấu hình cho một ứng dụng cụ thể (nhận dạng mẫu, phân loại dữ liệu,.) thông qua một quá trình học từ tập các mẫu huấn luyện. Về bản chất học chính là quá trình hiệu chỉnh trọng số liên kết giữa các nơron.

Cấu trúc neural nhân tạo: Hình 1. Cấu tạo một Neural Các thành phần cơ bản của một nơron nhân tạo bao gồm: • Tập các đầu vào: Là các tín hiệu vào (input signals) của nơron, các tín hiệu này thƣờng đƣợc đƣa vào dƣới dạng một vector N chiều. • Tập các liên kết: Mỗi liên kết đƣợc thể hiện bởi một trọng số liên kết – Synaptic weight. Trọng số liên kết giữa tín hiệu vào thứ j với nơron k thƣờng đƣợc kí hiệu là wkj.

Thông thƣờng, các trọng số này đƣợc khởi tạo một cách ngẫu nhiên ở thời điểm khởi tạo mạng và đƣợc cập nhật liên tục trong quá trình học mạng. • Bộ tổng (Summing function): Thƣờng dùng để tính tổng của tích các đầu vào với trọng số liên kết của nó. • Ngƣỡng (còn gọi là một độ lệch - bias): Ngƣỡng này thƣờng đƣợc đƣa vào nhƣ một thành phần của hàm truyền. • Hàm truyền (Transfer function): Hàm này đƣợc dùng để giới hạn phạm vi đầu ra của mỗi nơron.

Nó nhận đầu vào là kết quả của hàm tổng và ngƣỡng. • Đầu ra: Là tín hiệu đầu ra của một nơron, với mỗi nơron sẽ có tối đa là một đầu ra. Xét về mặt toán học, cấu trúc của một nơron k, đƣợc mô tả bằng cặp biểu thức sau: Trong đó: x1, x2, ., xp: là các tín hiệu vào; (wk1, wk2,., wkp) là các trọng số liên kết của nơron thứ k; uk là hàm tổng; bk là một ngƣỡng; f là hàm truyền và yk là tín hiệu đầu ra của nơron. Nhƣ vậy nơron nhân tạo nhận các tín hiệu đầu vào, xử lý (nhân các tín hiệu này với trọng số liên kết, tính tổng các tích thu đƣợc rồi gửi kết quả tới hàm truyền), và cho một tín hiệu đầu ra ( là kết quả của hàm truyền).

Một số hàm truyền thông dụng Hàm truyền Đồ thị Định nghĩa Symmetrical Hard Limit (hardlims) Linear (purelin) Saturating Linear (satlin) Log-Sigmoid (logsig) 1. Một số kiểu mạng Neural Cách thức kết nối các nơron trong mạng xác định kiến trúc (topology) của mạng. Các nơron trong mạng có thể kết nối đầy đủ (fully connected) tức là mỗi nơron đều đƣợc kết nối với tất cả các nơron khác, hoặc kết nối cục bộ (partially connected) chẳng hạn chỉ kết nối giữa các nơron trong các tầng khác nhau. Ngƣời ta chia ra hai loại kiến trúc mạng chính: ♦ Tự kết hợp (autoassociative): là mạng có các nơron đầu vào cũng là các nơron đầu ra.

Mạng Hopfield là một kiểu mạng tự kết hợp. Mạng tự kết hợp ♦ Kết hợp khác kiểu (heteroassociative): là mạng có tập nơron đầu vào và đầu ra riêng biệt. Perceptron, các mạng Perceptron nhiều tầng (MLP: MultiLayer Perceptron), mạng Kohonen, … thuộc loại này. Mạng kết hợp khác kiểu Ngoài ra tùy thuộc vào mạng có các kết nối ngƣợc (feedback connections) từ các nơron đầu ra tới các nơron đầu vào hay không, ngƣời ta chia ra làm 2 loại kiến trúc mạng.

♦ Kiến trúc truyền thẳng (feedforward architechture): là kiểu kiến trúc mạng không có các kết nối ngƣợc trở lại từ các nơron đầu ra về các nơron đầu vào; mạng không lƣu lại các giá trị output trƣớc và các trạng thái kích hoạt của nơron. Các mạng nơron truyền thẳng cho phép tín hiệu di chuyển theo một đƣờng duy nhất; từ đầu vào tới đầu ra, đầu ra của một tầng bất kì sẽ không ảnh hƣởng tới tầng đó. Các mạng kiểu Perceptron là mạng truyền thẳng. Mạng truyền thẳng ♦ Kiến trúc phản hồi (Feedback architecture): là kiểu kiến trúc mạng có các kết nối từ nơron đầu ra tới nơron đầu vào.

Mạng lƣu lại các trạng thái trƣớc đó, và trạng thái tiếp theo không chỉ phụ thuộc vào các tín hiệu đầu vào mà còn phụ thuộc vào các trạng thái trƣớc đó của mạng. Mạng Hopfield thuộc loại này. Mạng phản hồi 1. Mạng Neural lan truyền ngƣợc MLP a.

Kiến trúc mạng MLP Mô hình mạng nơron đƣợc sử dụng rộng rãi nhất là mô hình mạng nhiều tầng truyền thẳng (MLP: Multi Layer Perceptron). Một mạng MLP tổng quát là mạng có n (n≥2) tầng (thông thƣờng tầng đầu vào không đƣợc tính đến): trong đó gồm một tầng đầu ra (tầng thứ n) và (n-1) tầng ẩn. Mạng neural lan truyền ngược MLP Kiến trúc của một mạng MLP tổng quát có thể mô tả nhƣ sau: ♦ Đầu vào là các vector (x1, x2, ., xp) trong không gian p chiều, đầu ra là các vector (y1, y2, ., yq) trong không gian q chiều. Đối với các bài toán phân loại, p chính là kích thƣớc của mẫu đầu vào, q chính là số lớp cần phân loại.

Xét ví dụ trong bài toán nhận dạng chữ số: với mỗi mẫu ta lƣu tọa độ (x,y) của 8 điểm trên chữ số đó, và nhiệm vụ của mạng là phân loại các mẫu này vào một trong 10 lớp tƣơng ứng với 10 chữ số 0, 1, …, 9. Khi đó p là kích thƣớc mẫu và bằng 8 x 2 = 16; q là số lớp và bằng 10. ♦ Mỗi nơron thuộc tầng sau liên kết với tất cả các nơron thuộc tầng liền trƣớc nó. ♦ Đầu ra của nơron tầng trƣớc là đầu vào của nơron thuộc tầng liền sau nó.

Hoạt động của mạng MLP nhƣ sau: tại tầng đầu vào các nơron nhận tín hiệu vào xử lý (tính tổng trọng số, gửi tới hàm truyền) rồi cho ra kết quả (là kết quả của hàm truyền); kết quả này sẽ đƣợc truyền tới các nơron thuộc tầng ẩn thứ nhất; các nơron tại đây tiếp nhận nhƣ là tín hiệu đầu vào, xử lý và gửi kết quả đến tầng ẩn thứ 2;…; quá trình tiếp tục cho đến khi các nơron thuộc tầng ra cho kết quả. Một số kết quả đã đƣợc chứng minh: ♦ Bất kì một hàm Boolean nào cũng có thể biểu diễn đƣợc bởi một mạng MLP 2 tầng trong đó các nơron sử dụng hàm truyền sigmoid. ♦ Tất cả các hàm liên tục đều có thể xấp xỉ bởi một mạng MLP 2 tầng sử dụng hàm truyền sigmoid cho các nơron tầng ẩn và hàm truyền tuyến tính cho các nơron tầng ra với sai số nhỏ tùy ý. ♦ Mọi hàm bất kỳ đều có thể xấp xỉ bởi một mạng MLP 3 tầng sử dụng hàm truyền sigmoid cho các nơron tầng ẩn và hàm truyền tuyến tính cho các nơron tầng ra.

Huấn luyện mạng MLP: + Các phƣơng pháp học: Khái niệm: Học là quá trình thay đổi hành vi của các vật theo một cách nào đó làm cho chúng có thể thực hiện tốt hơn trong tƣơng lai. Một mạng nơron đƣợc huyấn luyện sao cho với một tập các vector đầu vào X, mạng có khả năng tạo ra tập các vector đầu ra mong muốn Y của nó. Tập X đƣợc sử dụng cho huấn luyện mạng đƣợc gọi là tập huấn luyện (training set). Các phần tử x thuộc X đƣợc gọi là các mẫu huấn luyện (training example).

Quá trình huấn luyện bản chất là sự thay đổi các trọng số liên kết của mạng. Trong quá trình này, các trọng số của mạng sẽ hội tụ dần tới các giá trị sao cho với mỗi vector đầu vào x từ tập huấn luyện, mạng sẽ cho ra vector đầu ra y nhƣ mong muốn Có ba phƣơng pháp học phổ biến là học có giám sát (supervised learning), học không giám sát (unsupervised learning) và học tăng cƣờng (Reinforcement learning): ♦ Học có giám sát: Là quá trình học có sự tham gia giám sát của một “thầy giáo”. Cũng giống nhƣ việc ta dạy một em nhỏ các chữ cái. Ta đƣa ra một chữ “a” và bảo với em đó rằng đây là chữ “a”.

Việc này đƣợc thực hiện trên tất cả các mẫu chữ cái.