Nghiên cứu về mạng neural tích chập và ứng dụng trong nhận dạng biển số xe

Nghiên cứu mạng neural tích chập và ứng dụng trong nhận dạng biển số xe, mang lại giải pháp hiệu quả cho công nghệ nhận diện tự động.

• Tác giả: Lê Thị Thu Hằng
• Người hướng dẫn: TS. Nguyễn Văn Vinh
• Trường học: Đại học Quốc gia Hà Nội
• Chuyên ngành: Công nghệ thông tin
• Đề tài: Nghiên cứu mạng neural tích chập trong nhận dạng biển số xe
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2016
• Địa điểm: Hà Nội

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI MỞ ĐẦU
• LỜI CẢM ƠN
• 1. CHƯƠNG 1: MẠNG NEURAL VÀ MẠNG NEURAL TÍCH CHẬP
• 1.1. Mạng neural và mạng neural lan truyền ngược
• 1.1.1. Giới thiệu về mạng Neural
• 1.1.2. Một số kiểu mạng Neural
• 1.1.3. Mạng Neural lan truyền ngược MLP
• 1.2. Mạng neural tích chập
• 1.2.1. Định nghĩa mạng neural tích chập
• 1.2.2. Mô hình mạng neural tích chập
• 1.2.3. Xây dựng mạng neural tích chập
• 2. CHƯƠNG 2: TỔNG QUAN VỀ NHẬN DẠNG BIỂN SỐ XE
• 2.1. Khái niệm về hệ thống nhận dạng biển số xe
• 2.2. Lịch sử và phát triển
• 2.3. Cách thức hoạt động của hệ thống nhận dạng biển số xe
• 2.4. Phân loại các ứng dụng nhận dạng biển số xe
• 2.5. Ứng dụng thực tiễn tại Việt Nam
• 2.6. Phân loại biển số xe
• 2.7. Phương pháp nhận dạng biển số xe từ ảnh chụp của camera
• 2.7.1. Phương pháp chuyển đổi Hough
• 2.7.2. Phương pháp hình thái học
• 2.8. Phương pháp nhận dạng ký tự trong biển số xe
• 2.9. Phạm vi nghiên cứu và hướng giải quyết
• 3. CHƯƠNG 3: ÁP DỤNG MẠNG NEURAL TÍCH CHẬP TRONG NHẬN DẠNG KÝ TỰ
• 3.1. Xây dựng mô hình mạng
• 3.2. Kết quả nhận dạng ký tự viết tay
• 3.3. Kết quả thực nghiệm nhận dạng biển số xe với mạng Neural tích chập
• 3.4. Hướng phát triển của bài toán
• DANH MỤC TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng quan về nghiên cứu mạng neural tích chập trong nhận dạng biển số xe

Nghiên cứu về mạng neural tích chập (CNN) đã trở thành một lĩnh vực quan trọng trong nhận dạng biển số xe. Mạng CNN được thiết kế để xử lý và phân tích hình ảnh, giúp cải thiện độ chính xác trong việc nhận diện các ký tự trên biển số xe. Việc áp dụng công nghệ này không chỉ mang lại hiệu quả cao mà còn tiết kiệm thời gian trong quá trình xử lý dữ liệu.

1.1. Định nghĩa và vai trò của mạng neural tích chập

Mạng neural tích chập là một loại mạng nơron được thiết kế đặc biệt cho việc xử lý hình ảnh. Nó giúp nhận diện các đặc trưng quan trọng trong hình ảnh, từ đó hỗ trợ cho việc nhận dạng biển số xe một cách chính xác hơn.

1.2. Lịch sử phát triển của nhận dạng biển số xe

Nhận dạng biển số xe đã trải qua nhiều giai đoạn phát triển, từ các phương pháp truyền thống đến việc áp dụng học sâu. Sự phát triển của mạng CNN đã mở ra nhiều cơ hội mới cho lĩnh vực này.

II. Thách thức trong nhận dạng biển số xe bằng mạng neural tích chập

Mặc dù mạng neural tích chập mang lại nhiều lợi ích, nhưng vẫn tồn tại một số thách thức trong việc nhận dạng biển số xe. Các yếu tố như chất lượng hình ảnh, điều kiện ánh sáng và độ phân giải có thể ảnh hưởng đến hiệu suất của mô hình. Việc xử lý các biến thể này là rất quan trọng để đạt được kết quả tốt nhất.

2.1. Ảnh hưởng của chất lượng hình ảnh đến độ chính xác

Chất lượng hình ảnh là yếu tố quyết định trong việc nhận diện biển số xe. Hình ảnh mờ hoặc bị nhiễu có thể dẫn đến sai sót trong quá trình nhận dạng, làm giảm hiệu suất của mạng CNN.

2.2. Thách thức từ các biến thể trong biển số xe

Biển số xe có thể có nhiều kiểu dáng và màu sắc khác nhau, điều này tạo ra thách thức lớn cho các mô hình nhận dạng. Việc huấn luyện mạng neural với dữ liệu đa dạng là cần thiết để cải thiện khả năng tổng quát của mô hình.

III. Phương pháp áp dụng mạng neural tích chập trong nhận dạng biển số xe

Để giải quyết các thách thức trong nhận dạng biển số xe, nhiều phương pháp đã được phát triển. Việc sử dụng mạng CNN cho phép mô hình học được các đặc trưng quan trọng từ dữ liệu hình ảnh mà không cần phải thiết kế thủ công. Điều này giúp cải thiện đáng kể độ chính xác và hiệu suất của hệ thống.

3.1. Quy trình xây dựng mô hình mạng CNN

Quy trình xây dựng mô hình mạng CNN bao gồm các bước như thu thập dữ liệu, tiền xử lý hình ảnh và huấn luyện mô hình. Mỗi bước đều đóng vai trò quan trọng trong việc đảm bảo mô hình hoạt động hiệu quả.

3.2. Kỹ thuật huấn luyện mạng neural tích chập

Kỹ thuật huấn luyện là một phần quan trọng trong việc phát triển mạng CNN. Sử dụng các phương pháp như lan truyền ngược giúp tối ưu hóa trọng số và cải thiện độ chính xác của mô hình trong việc nhận diện biển số xe.

IV. Ứng dụng thực tiễn của mạng neural tích chập trong nhận dạng biển số xe

Việc áp dụng mạng neural tích chập trong nhận dạng biển số xe đã mang lại nhiều kết quả tích cực. Các hệ thống nhận dạng tự động được triển khai tại nhiều địa điểm như trạm thu phí, bãi đỗ xe và các khu vực an ninh. Điều này không chỉ giúp tiết kiệm thời gian mà còn nâng cao hiệu quả quản lý giao thông.

4.1. Hệ thống nhận dạng biển số xe tự động

Hệ thống nhận dạng biển số xe tự động sử dụng mạng CNN để nhận diện và xử lý thông tin biển số trong thời gian thực. Điều này giúp cải thiện hiệu quả trong việc quản lý giao thông và an ninh.

4.2. Kết quả thực nghiệm từ các ứng dụng thực tế

Nhiều nghiên cứu đã chỉ ra rằng việc áp dụng mạng neural tích chập trong nhận dạng biển số xe có thể đạt được độ chính xác lên đến 95%. Kết quả này cho thấy tiềm năng lớn của công nghệ trong việc cải thiện các hệ thống nhận diện hiện tại.

V. Kết luận và tương lai của nghiên cứu mạng neural tích chập

Nghiên cứu về mạng neural tích chập trong nhận dạng biển số xe đã mở ra nhiều cơ hội mới cho lĩnh vực công nghệ thông tin. Tương lai của công nghệ này hứa hẹn sẽ tiếp tục phát triển với nhiều ứng dụng mới, từ việc cải thiện độ chính xác đến việc tối ưu hóa quy trình xử lý dữ liệu.

5.1. Xu hướng phát triển trong nghiên cứu mạng neural

Xu hướng phát triển trong nghiên cứu mạng neural sẽ tập trung vào việc cải thiện khả năng tổng quát và giảm thiểu sai số trong nhận dạng. Các nghiên cứu mới sẽ tiếp tục khám phá các kiến trúc mạng tiên tiến hơn.

5.2. Tương lai của nhận dạng biển số xe

Tương lai của nhận dạng biển số xe sẽ được định hình bởi sự phát triển của công nghệ học sâu. Các hệ thống sẽ ngày càng thông minh hơn, giúp nâng cao hiệu quả trong quản lý giao thông và an ninh.

Nội dung chính

Tổng quan nghiên cứu

Sự gia tăng nhanh chóng của các phương tiện cơ giới đường bộ với hơn 45 triệu xe máy và hàng triệu ô tô lưu hành tại Việt Nam đã đặt ra thách thức nghiêm trọng đối với công tác quản lý giao thông đô thị và an ninh trật tự. Các phương pháp giám sát thủ công truyền thống bộc lộ rõ sự quá tải, chậm trễ và dễ phát sinh sai sót. Trước thực tế đó, hệ thống nhận dạng biển số xe tự động (Automatic License Plate Recognition - ALPR) trở thành giải pháp cốt lõi trong các đô thị thông minh, bãi đỗ xe tự động và trạm thu phí không dừng.

Tuy nhiên, bài toán nhận dạng biển số xe tại Việt Nam đối mặt với nhiều rào cản phức tạp như điều kiện ánh sáng thay đổi thất thường, góc chụp nghiêng, bụi bẩn cơ học và sự đa dạng giữa các định dạng biển số một hàng hay hai hàng. Các kỹ thuật nhận dạng mẫu cổ điển thường dễ bị nhiễu và suy giảm độ chính xác nghiêm trọng khi ngoại cảnh biến động. Luận văn thạc sĩ chuyên ngành Kỹ thuật phần mềm của tác giả Lê Thị Thu Hằng, dưới sự hướng dẫn khoa học của Tiến sĩ Nguyễn Văn Vinh tại Trường Đại học Công nghệ – Đại học Quốc gia Hà Nội, tập trung giải quyết triệt để vấn đề này.

Mục tiêu trọng tâm của nghiên cứu là xây dựng mô hình mạng nơ-ron tích chập (Convolutional Neural Network - CNN) chuyên biệt cho tác vụ phân loại ký tự quang học, kết hợp với các kỹ thuật xử lý hình thái học để định vị vùng biển số xe máy và ô tô theo quy chuẩn Việt Nam. Nghiên cứu mang ý nghĩa thực tiễn to lớn khi tối ưu hóa cấu trúc tính toán, cắt giảm hơn 40 lần số lượng tham số so với các mạng truyền thẳng truyền thống, đồng thời đảm bảo hệ thống vận hành theo thời gian thực với độ chính xác nhận dạng vượt mức 98%.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng trên nền tảng của mạng nơ-ron nhân tạo (Artificial Neural Network - ANN) và bước tiến hóa vượt bậc là mạng nơ-ron tích chập (CNN). Khung lý thuyết khởi đầu từ mô hình mạng Perceptron đa tầng (Multi-Layer Perceptron - MLP) sử dụng thuật toán lan truyền ngược (Backpropagation) và hàm kích hoạt phi tuyến Sigmoid để cập nhật trọng số dựa trên cực tiểu hóa sai số trung bình bình phương (Mean Squared Error - MSE). Mặc dù MLP có khả năng xấp xỉ hàm liên tục rất tốt, mô hình này lại bộc lộ hạn chế lớn trong xử lý ảnh do không bảo toàn được cấu trúc không gian cục bộ và đòi hỏi số lượng trọng số quá lớn.

Để khắc phục điểm yếu đó, lý thuyết học sâu với kiến trúc mạng CNN được áp dụng như một trụ cột nghiên cứu. Mạng CNN vận hành dựa trên ba nguyên lý cốt lõi: trường tiếp nhận cục bộ (local receptive fields), trọng số chia sẻ (shared weights) và lớp gộp tổng hợp (pooling layer). Bằng cách trượt các ma trận bộ lọc (kernel) kích thước 5x5 điểm ảnh qua toàn bộ bức ảnh, mạng tự động trích xuất các bản đồ đặc trưng (feature maps) từ mức độ thấp như biên cạnh, góc sắc đến mức độ trừu tượng cao hơn như đường cong và hình khối ký tự. Cơ chế Max-pooling với kích thước 2x2 tiếp tục nén giảm số chiều dữ liệu, loại bỏ thông tin định vị thừa và mang lại tính bất biến đối với các phép dịch chuyển, co giãn hoặc xoay nhẹ của ảnh đầu vào.

Phương pháp nghiên cứu

Về nguồn dữ liệu và chọn mẫu, nghiên cứu sử dụng tập dữ liệu chuẩn hóa quốc tế MNIST gồm 70.000 mẫu chữ số viết tay (60.000 mẫu huấn luyện và 10.000 mẫu kiểm thử) để đánh giá khả năng phân loại tổng quát của mô hình tích chập. Đồng thời, tác giả thu thập mẫu ảnh biển số thực tế của ô tô và xe máy tại Việt Nam trong dải mức xám từ 130 đến 200 để kiểm nghiệm thuật toán phân đoạn và định vị. Phương pháp chọn mẫu bao gồm cả các trường hợp ảnh chụp góc nghiêng, điều kiện thiếu sáng và nền phức tạp nhằm đảm bảo tính bao quát thực tế.

Quy trình nghiên cứu thực nghiệm được thiết kế qua 7 bước chuẩn hóa:

1. Thu nhận ảnh màu gốc định dạng BGR từ camera và áp dụng các bộ lọc nâng cao chất lượng ảnh.
2. Xác định các đường bao khép kín (contour) trên toàn bộ khung hình xe.
3. Lọc và phân loại contour dựa trên tiêu chuẩn hình học của Bộ Giao thông Vận tải: tỷ lệ chiều cao trên chiều rộng từ 0.18 đến 0.8; kích thước biển ô tô 110x470 mm hoặc 200x280 mm, biển xe máy 140x190 mm.
4. Trích xuất chính xác vùng ứng viên chứa biển số xe.
5. Cắt tách từng ký tự con với chiều cao ký tự chiếm 60% đến 85% chiều cao biển số đơn hàng.
6. Đưa ảnh ký tự đã chuẩn hóa về kích thước 32x32 điểm ảnh vào mạng CNN để phân lớp.
7. Trích xuất văn bản ký tự và hiển thị kết quả đầu ra.

Phương pháp phân tích này được lựa chọn vì nó tách biệt rõ ràng giai đoạn định vị hình thái và giai đoạn phân loại học sâu, giúp giảm thiểu độ phức tạp tính toán và tối ưu hóa tài nguyên phần cứng.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Thực nghiệm nghiên cứu đã mang lại 3 phát hiện khoa học mang tính đột phá về cả hiệu năng lẫn độ chính xác:

Thứ nhất, mô hình mạng tích chập thể hiện sự vượt trội hoàn toàn về khả năng tối ưu hóa tham số mạng. Trong khi một tầng kết nối đầy đủ (MLP) cho ảnh kích thước 28x28 điểm ảnh với 30 nơ-ron ẩn đòi hỏi tới 23.550 tham số (gồm 784x30 trọng số và 30 độ lệch bias), thì tầng tích chập CNN sử dụng 20 bản đồ đặc trưng với bộ lọc 5x5 chỉ cần đúng 520 tham số (20x26 tham số). Sự cải tiến này giúp cắt giảm hơn 97.7% dung lượng tham số, tương đương giảm tải hơn 40 lần, qua đó rút ngắn đáng kể thời gian huấn luyện và hạn chế tối đa nguy cơ quá khớp (overfitting).

Thứ hai, mô hình kiến trúc mạng CNN 6 tầng chuyên biệt (C1: 6 bản đồ đặc trưng 28x28; S2: 6 bản đồ gộp 14x14; C3: 16 bản đồ đặc trưng 10x10; S4: 16 bản đồ gộp 5x5; C5: 120 bản đồ 1x1; F6: 84 nút kết nối đầy đủ) đạt độ chính xác nhận dạng ký tự trên 98% trên tập dữ liệu kiểm thử. Các ký tự số từ 0 đến 9 được phân loại dứt khoát với độ tin cậy vượt trội.

Thứ ba, sự kết hợp giữa xử lý hình thái học và bộ lọc gradient Sobel giúp hệ thống định vị vùng biển số đạt tỷ lệ thành công xấp xỉ 98.9%, tương đương với các công bố quốc tế tiêu biểu như nghiên cứu của Chirag Paunwala với tỷ lệ 742 trên 750 ảnh (đạt 98.93%) và nghiên cứu của Choo Kar Soon tại Malaysia đạt 98% nhận dạng biển số và 95% nhận dạng ký tự.

Thảo luận kết quả

Hiệu quả vượt bậc của mô hình bắt nguồn từ khả năng tự động học các bộ lọc trích xuất đặc trưng của mạng tích chập. Thay vì phải thiết kế thủ công các đặc trưng hình thái vốn rất nhạy cảm với nhiễu quang học, các tầng tích chập C1 và C3 tự động phát hiện các cạnh viền, góc uốn lượn và đường nét riêng biệt của từng ký tự. Lớp Max-pooling giúp duy trì tính ổn định của đặc trưng ngay cả khi ký tự bị biến dạng nhẹ hoặc dịch chuyển vị trí do rung lắc camera.

Dữ liệu thực nghiệm của nghiên cứu có thể được trực quan hóa sinh động thông qua hai công cụ phân tích chuẩn mực. Thứ nhất là biểu đồ đường biểu diễn sự suy giảm của hàm mất mát MSE và tốc độ hội tụ của thuật toán lan truyền ngược qua từng chu kỳ huấn luyện (epoch). Thứ hai là ma trận nhầm lẫn (Confusion Matrix) 10x10 thể hiện chi tiết xác suất phân lớp giữa các chữ số, chỉ ra rằng các trường hợp dễ nhầm lẫn như số 8 và số 0 hay số 1 và số 7 đã được phân tách rõ ràng nhờ các bản đồ đặc trưng cục bộ ở tầng C3. So với các giải pháp truyền thống như K-Nearest Neighbors (KNN) hay Support Vector Machine (SVM), mô hình CNN chứng minh tính ổn định vượt trội trong môi trường thực nghiệm có độ nhiễu cao.

Đề xuất và khuyến nghị

Dựa trên các kết quả đạt được, luận văn đưa ra 4 nhóm giải pháp cụ thể nhằm đưa mô hình vào ứng dụng thực tiễn rộng rãi:

1. Tối ưu hóa kiến trúc mạng và tăng cường dữ liệu: Nhóm nghiên cứu phần mềm cần áp dụng thêm kỹ thuật Dropout và mở rộng tập dữ liệu huấn luyện bằng các phép biến đổi hình học (xoay góc nghiêng từ âm 15 độ đến dương 15 độ, thay đổi độ tương phản, mô phỏng lóa sáng) nhằm nâng tỷ lệ nhận dạng ký tự thực tế đạt mức mục tiêu trên 99.5% trong vòng 3 đến 6 tháng tới.
2. Triển khai tăng tốc phần cứng chuyên dụng: Các kỹ sư tích hợp hệ thống cần chuyển giao mô hình mạng CNN sang các nền tảng phần cứng nhúng tích hợp bộ xử lý đồ họa (GPU) chuyên dụng hoặc vi xử lý trí tuệ nhân tạo biên, hướng tới rút ngắn độ trễ xử lý xuống dưới 50 mili-giây mỗi khung hình, đáp ứng yêu cầu nhận dạng phương tiện di chuyển ở dải tốc độ 60 đến 80 km/h.
3. Chuẩn hóa hạ tầng camera và điều kiện chiếu sáng: Ban quản lý các bãi đỗ xe thông minh và trạm thu phí cần thiết lập góc đặt camera cố định với góc nghiêng không vượt quá 15 độ so với phương ngang, đồng thời trang bị hệ thống đèn LED hồng ngoại bổ trợ để luôn duy trì mức xám của vùng biển số trong ngưỡng tối ưu từ 130 đến 200 đơn vị.
4. Mở rộng tập nhận dạng toàn diện ký tự chữ cái và biển số đặc thù: Cơ quan quản lý giao thông và các đơn vị phát triển giải pháp cần phối hợp mở rộng mô hình phân lớp từ 10 chữ số lên 36 ký tự chữ và số (bao gồm từ A đến Z), đồng thời hoàn thiện bộ nhận diện cho các loại biển số xe quân sự, biển ngoại giao và biển số có 2 hàng ký tự trong lộ trình triển khai 12 tháng tiếp theo.

Đối tượng nên tham khảo luận văn

Luận văn là nguồn tư liệu học thuật và kỹ thuật giá trị dành cho 4 nhóm đối tượng chính:

• Kỹ sư và Lập trình viên Thị giác máy tính (Computer Vision): Tìm thấy tài liệu thực tế về cơ chế toán học của phép toán tích chập, cách thiết lập số lượng bản đồ đặc trưng và phương pháp xây dựng pipeline xử lý ảnh hoàn chỉnh từ trích xuất contour đến mạng CNN.
• Học viên cao học và Sinh viên ngành Công nghệ thông tin: Tiếp cận một công trình nghiên cứu mẫu mực về việc ứng dụng học sâu giải quyết bài toán thị giác máy tính, nắm bắt rõ phương pháp thực nghiệm trên tập dữ liệu chuẩn MNIST và cách tiếp cận xử lý ảnh tại Việt Nam.
• Doanh nghiệp phát triển giải pháp Giao thông thông minh (ITS): Khai thác kiến trúc mạng nơ-ron tinh gọn với số lượng tham số chỉ 520 đơn vị ở tầng tích chập, giúp tiết kiệm chi phí đầu tư máy chủ và tối ưu hóa hệ thống kiểm soát xe tự động.
• Cơ quan quản lý hạ tầng đô thị và đăng kiểm: Nắm bắt cơ sở khoa học để xây dựng quy chuẩn kỹ thuật cho các hệ thống giám sát an ninh trật tự, xử phạt vi phạm giao thông và quản lý phương tiện thông minh.

Câu hỏi thường gặp

Mạng nơ-ron tích chập (CNN) vượt trội hơn mạng truyền thẳng (MLP) ở những điểm nào?

Mạng CNN vượt trội nhờ khả năng bảo toàn cấu trúc không gian 2 chiều của ảnh thông qua các trường tiếp nhận cục bộ 5x5 và cơ chế chia sẻ trọng số. Trong khi mạng MLP cho ảnh 28x28 cần tới 23.550 tham số thì tầng tích chập CNN chỉ cần 520 tham số, giúp giảm tải hơn 40 lần dung lượng bộ nhớ, tăng tốc độ xử lý và hạn chế quá khớp.

Thuật toán định vị biển số trong nghiên cứu xử lý đặc thù biển số Việt Nam ra sao?

Nghiên cứu ứng dụng xử lý hình thái học dựa trên dải mức xám đặc thù từ 130 đến 200 và lọc các contour bao đóng theo tỷ lệ kích thước chuẩn của Bộ Giao thông Vận tải. Tỷ lệ chiều cao trên chiều rộng nằm trong khoảng 0.18 đến 0.8 giúp phát hiện chính xác cả biển ô tô dài, biển vuông và biển xe máy.

Lớp Max-pooling trong kiến trúc CNN đóng vai trò gì?

Lớp Max-pooling thu gọn một vùng 2x2 nơ-ron thành một giá trị kích hoạt lớn nhất, giúp nén ma trận đặc trưng từ 28x28 xuống 14x14 và từ 10x10 xuống 5x5. Thao tác này loại bỏ thông tin vị trí cục bộ không cần thiết, tạo ra tính bất biến với phép tịnh tiến và xoay nhẹ của ảnh.

Hệ thống có hoạt động chính xác trong điều kiện ánh sáng yếu hoặc ban đêm không?

Trong điều kiện thiếu sáng hoặc lóa sáng, độ chính xác có thể bị ảnh hưởng nếu mức xám lệch khỏi dải 130 đến 200. Tuy nhiên, việc kết hợp bộ lọc gradient Sobel để tìm biên cạnh và khả năng trích xuất đặc trưng trừu tượng của CNN giúp hệ thống duy trì độ ổn định cao hơn hẳn các phương pháp khớp mẫu cổ điển.

Cần làm gì để ngăn ngừa hiện tượng quá khớp (overfitting) khi huấn luyện mô hình?

Để ngăn hiện tượng quá khớp khi mạng học cả nhiễu của dữ liệu, nghiên cứu áp dụng các phương pháp: giới hạn số lượng nơ-ron ẩn, chia tách nghiêm ngặt tập mẫu huấn luyện và kiểm tra để dừng học kịp thời khi sai số kiểm thử có xu hướng tăng, đồng thời đề xuất bổ sung kỹ thuật Dropout trong các nghiên cứu mở rộng.

Kết luận

• Luận văn đã hệ thống hóa toàn diện cơ sở lý thuyết về mạng nơ-ron nhân tạo, thuật toán lan truyền ngược và mô hình học sâu tích chập tiên tiến.
• Chứng minh bằng thực nghiệm khả năng tối ưu hóa vượt bậc của mạng CNN khi cắt giảm số lượng tham số hơn 40 lần (từ 23.550 xuống 520 tham số) so với mạng MLP truyền thống.
• Xây dựng thành công quy trình xử lý ảnh 7 bước kết hợp hình thái học và bộ lọc biên Sobel, tương thích hoàn hảo với tiêu chuẩn biển số xe cơ giới tại Việt Nam.
• Thiết kế kiến trúc mạng CNN 6 tầng chuyên biệt đạt tỷ lệ nhận dạng ký tự thực nghiệm trên 98%, tương đương các công bố quốc tế tiêu biểu.
• Cung cấp giải pháp kỹ thuật hoàn chỉnh, sẵn sàng tích hợp vào các hệ thống quản lý bãi đỗ xe tự động, trạm thu phí không dừng và giám sát an ninh trật tự đô thị.

Công trình là đóng góp học thuật và thực tiễn vững chắc cho lĩnh vực thị giác máy tính tại Việt Nam. Trong lộ trình 3 đến 12 tháng tới, việc mở rộng mô hình lên tập 36 ký tự chữ và số cùng triển khai trên phần cứng nhúng GPU sẽ hoàn thiện giải pháp nhận dạng biển số thông minh toàn diện. Hãy tham khảo toàn văn công trình nghiên cứu để nắm bắt chi tiết thuật toán và áp dụng hiệu quả vào các dự án công nghệ của bạn.

Trích đoạn nội dung tài liệu

LỜI MỞ ĐẦU Deep Learning là một thuật toán dựa trên một số ý tƣởng từ não bộ tới việc tiếp thu nhiều tầng biểu đạt, cả cụ thể lẫn trừu tƣợng, qua đó làm rõ nghĩa của các loại dữ liệu. Deep Learning đƣợc ứng dụng trong nhận diện hình ảnh, nhận diện giọng nói, xử lý ngôn ngữ tự nhiên Hiện nay rất nhiều các bài toán nhận dạng sử dụng deep learning để giải quyết do deep learning có thể giải quyết các bài toán với số lƣợng lớn, kích thƣớc đầu vào lớn với hiệu năng cũng nhƣ độ chính xác vƣợt trội so với các phƣơng pháp phân lớp truyền thống Những năm gần đây, ta đã chứng kiến đƣợc nhiều thành tựu vƣợt bậc trong ngành Thị giác máy tính (Computer Vision). Các hệ thống xử lý ảnh lớn nhƣ Facebook, Google hay Amazon đã đƣa vào sản phẩm của mình những chức năng thông minh nhƣ nhận diện khuôn mặt ngƣời dùng, phát triển xe hơi tự lái hay drone giao hàng tự động. Convolutional Neural Network (CNNs – Mạng nơ-ron tích chập) là một trong những mô hình Deep Learning tiên tiến giúp cho chúng ta xây dựng đƣợc những hệ thống thông minh với độ chính xác cao nhƣ hiện nay.

Trong luận văn cao học này, em đi vào nghiên cứu về mạng neural cũng nhƣ mạng Convolution (tích chập) cũng nhƣ ý tƣởng của mô hình CNNs trong phân lớp ảnh (Image Classification), và áp dụng trong việc xây dựng hệ thống nhận dạng biển số xe tự động Nội dung bài báo cáo bao gồm 3 chƣơng.  Chƣơng 1: Mạng neural và mạng neural tích chập.  Chƣơng 2: Tổng quan về nhận dạng biển số xe.  Chƣơng 3: Áp dụng mạng neural tích chập trong nhận dạng ký tự LỜI CẢM ƠN Em xin chân thành cảm ơn các thầy, các cô khoa Công nghệ Thông tin- Trƣờng Đại học Công nghệ - Đại học quốc gia Hà Nội đã tận tình dạy dỗ, truyền đạt cho em nhiều kiến thức quý báu.

Em xin tỏ lòng biết ơn sâu sắc đến thầy Ts Nguyễn Văn Vinh, ngƣời đã tận tình giúp đỡ và truyền đạt nhiều kinh nghiệm để đề tài có thể đƣợc thực hiện và hoàn thành. Xin chân thành cảm ơn các bạn trong khoa Công Nghệ Thông Tin, Trƣờng ĐH Công nghệ đã giúp đỡ, động viên tôi rất nhiều trong quá trình thực hiện đề tài. Em xin chân thành cảm ơn ! Hà nội, tháng 5 năm 2016 Học viên Lê Thị Thu Hằng CHƢƠNG 1: MẠNG NEURAL VÀ MẠNG NEURAL TÍCH CHẬP 1. Mạng neural và mạng neural lan truyền ngƣợc 1.

Giới thiệu về mạng Neural Định nghĩa: Mạng nơron nhân tạo, Artificial Neural Network (ANN) là một mô hình xử lý thông tin phỏng theo cách thức xử lý thông tin của các hệ nơron sinh học. Nó đƣợc tạo nên từ một số lƣợng lớn các phần tử (nơron) kết nối với nhau thông qua các liên kết (trọng số liên kết) làm việc nhƣ một thể thống nhất để giải quyết một vấn đề cụ thể nào đó. Một mạng nơron nhân tạo đƣợc cấu hình cho một ứng dụng cụ thể (nhận dạng mẫu, phân loại dữ liệu,.) thông qua một quá trình học từ tập các mẫu huấn luyện. Về bản chất học chính là quá trình hiệu chỉnh trọng số liên kết giữa các nơron.

Cấu trúc neural nhân tạo: Hình 1. Cấu tạo một Neural Các thành phần cơ bản của một nơron nhân tạo bao gồm: • Tập các đầu vào: Là các tín hiệu vào (input signals) của nơron, các tín hiệu này thƣờng đƣợc đƣa vào dƣới dạng một vector N chiều. • Tập các liên kết: Mỗi liên kết đƣợc thể hiện bởi một trọng số liên kết – Synaptic weight. Trọng số liên kết giữa tín hiệu vào thứ j với nơron k thƣờng đƣợc kí hiệu là wkj.

Thông thƣờng, các trọng số này đƣợc khởi tạo một cách ngẫu nhiên ở thời điểm khởi tạo mạng và đƣợc cập nhật liên tục trong quá trình học mạng. • Bộ tổng (Summing function): Thƣờng dùng để tính tổng của tích các đầu vào với trọng số liên kết của nó. • Ngƣỡng (còn gọi là một độ lệch - bias): Ngƣỡng này thƣờng đƣợc đƣa vào nhƣ một thành phần của hàm truyền. • Hàm truyền (Transfer function): Hàm này đƣợc dùng để giới hạn phạm vi đầu ra của mỗi nơron.

Nó nhận đầu vào là kết quả của hàm tổng và ngƣỡng. • Đầu ra: Là tín hiệu đầu ra của một nơron, với mỗi nơron sẽ có tối đa là một đầu ra. Xét về mặt toán học, cấu trúc của một nơron k, đƣợc mô tả bằng cặp biểu thức sau: Trong đó: x1, x2, ., xp: là các tín hiệu vào; (wk1, wk2,., wkp) là các trọng số liên kết của nơron thứ k; uk là hàm tổng; bk là một ngƣỡng; f là hàm truyền và yk là tín hiệu đầu ra của nơron. Nhƣ vậy nơron nhân tạo nhận các tín hiệu đầu vào, xử lý (nhân các tín hiệu này với trọng số liên kết, tính tổng các tích thu đƣợc rồi gửi kết quả tới hàm truyền), và cho một tín hiệu đầu ra ( là kết quả của hàm truyền).

Một số hàm truyền thông dụng Hàm truyền Đồ thị Định nghĩa Symmetrical Hard Limit (hardlims) Linear (purelin) Saturating Linear (satlin) Log-Sigmoid (logsig) 1. Một số kiểu mạng Neural Cách thức kết nối các nơron trong mạng xác định kiến trúc (topology) của mạng. Các nơron trong mạng có thể kết nối đầy đủ (fully connected) tức là mỗi nơron đều đƣợc kết nối với tất cả các nơron khác, hoặc kết nối cục bộ (partially connected) chẳng hạn chỉ kết nối giữa các nơron trong các tầng khác nhau. Ngƣời ta chia ra hai loại kiến trúc mạng chính: ♦ Tự kết hợp (autoassociative): là mạng có các nơron đầu vào cũng là các nơron đầu ra.

Mạng Hopfield là một kiểu mạng tự kết hợp. Mạng tự kết hợp ♦ Kết hợp khác kiểu (heteroassociative): là mạng có tập nơron đầu vào và đầu ra riêng biệt. Perceptron, các mạng Perceptron nhiều tầng (MLP: MultiLayer Perceptron), mạng Kohonen, … thuộc loại này. Mạng kết hợp khác kiểu Ngoài ra tùy thuộc vào mạng có các kết nối ngƣợc (feedback connections) từ các nơron đầu ra tới các nơron đầu vào hay không, ngƣời ta chia ra làm 2 loại kiến trúc mạng.

♦ Kiến trúc truyền thẳng (feedforward architechture): là kiểu kiến trúc mạng không có các kết nối ngƣợc trở lại từ các nơron đầu ra về các nơron đầu vào; mạng không lƣu lại các giá trị output trƣớc và các trạng thái kích hoạt của nơron. Các mạng nơron truyền thẳng cho phép tín hiệu di chuyển theo một đƣờng duy nhất; từ đầu vào tới đầu ra, đầu ra của một tầng bất kì sẽ không ảnh hƣởng tới tầng đó. Các mạng kiểu Perceptron là mạng truyền thẳng. Mạng truyền thẳng ♦ Kiến trúc phản hồi (Feedback architecture): là kiểu kiến trúc mạng có các kết nối từ nơron đầu ra tới nơron đầu vào.

Mạng lƣu lại các trạng thái trƣớc đó, và trạng thái tiếp theo không chỉ phụ thuộc vào các tín hiệu đầu vào mà còn phụ thuộc vào các trạng thái trƣớc đó của mạng. Mạng Hopfield thuộc loại này. Mạng phản hồi 1. Mạng Neural lan truyền ngƣợc MLP a.

Kiến trúc mạng MLP Mô hình mạng nơron đƣợc sử dụng rộng rãi nhất là mô hình mạng nhiều tầng truyền thẳng (MLP: Multi Layer Perceptron). Một mạng MLP tổng quát là mạng có n (n≥2) tầng (thông thƣờng tầng đầu vào không đƣợc tính đến): trong đó gồm một tầng đầu ra (tầng thứ n) và (n-1) tầng ẩn. Mạng neural lan truyền ngược MLP Kiến trúc của một mạng MLP tổng quát có thể mô tả nhƣ sau: ♦ Đầu vào là các vector (x1, x2, ., xp) trong không gian p chiều, đầu ra là các vector (y1, y2, ., yq) trong không gian q chiều. Đối với các bài toán phân loại, p chính là kích thƣớc của mẫu đầu vào, q chính là số lớp cần phân loại.

Xét ví dụ trong bài toán nhận dạng chữ số: với mỗi mẫu ta lƣu tọa độ (x,y) của 8 điểm trên chữ số đó, và nhiệm vụ của mạng là phân loại các mẫu này vào một trong 10 lớp tƣơng ứng với 10 chữ số 0, 1, …, 9. Khi đó p là kích thƣớc mẫu và bằng 8 x 2 = 16; q là số lớp và bằng 10. ♦ Mỗi nơron thuộc tầng sau liên kết với tất cả các nơron thuộc tầng liền trƣớc nó. ♦ Đầu ra của nơron tầng trƣớc là đầu vào của nơron thuộc tầng liền sau nó.

Hoạt động của mạng MLP nhƣ sau: tại tầng đầu vào các nơron nhận tín hiệu vào xử lý (tính tổng trọng số, gửi tới hàm truyền) rồi cho ra kết quả (là kết quả của hàm truyền); kết quả này sẽ đƣợc truyền tới các nơron thuộc tầng ẩn thứ nhất; các nơron tại đây tiếp nhận nhƣ là tín hiệu đầu vào, xử lý và gửi kết quả đến tầng ẩn thứ 2;…; quá trình tiếp tục cho đến khi các nơron thuộc tầng ra cho kết quả. Một số kết quả đã đƣợc chứng minh: ♦ Bất kì một hàm Boolean nào cũng có thể biểu diễn đƣợc bởi một mạng MLP 2 tầng trong đó các nơron sử dụng hàm truyền sigmoid. ♦ Tất cả các hàm liên tục đều có thể xấp xỉ bởi một mạng MLP 2 tầng sử dụng hàm truyền sigmoid cho các nơron tầng ẩn và hàm truyền tuyến tính cho các nơron tầng ra với sai số nhỏ tùy ý. ♦ Mọi hàm bất kỳ đều có thể xấp xỉ bởi một mạng MLP 3 tầng sử dụng hàm truyền sigmoid cho các nơron tầng ẩn và hàm truyền tuyến tính cho các nơron tầng ra.

Huấn luyện mạng MLP: + Các phƣơng pháp học: Khái niệm: Học là quá trình thay đổi hành vi của các vật theo một cách nào đó làm cho chúng có thể thực hiện tốt hơn trong tƣơng lai. Một mạng nơron đƣợc huyấn luyện sao cho với một tập các vector đầu vào X, mạng có khả năng tạo ra tập các vector đầu ra mong muốn Y của nó. Tập X đƣợc sử dụng cho huấn luyện mạng đƣợc gọi là tập huấn luyện (training set). Các phần tử x thuộc X đƣợc gọi là các mẫu huấn luyện (training example).

Quá trình huấn luyện bản chất là sự thay đổi các trọng số liên kết của mạng. Trong quá trình này, các trọng số của mạng sẽ hội tụ dần tới các giá trị sao cho với mỗi vector đầu vào x từ tập huấn luyện, mạng sẽ cho ra vector đầu ra y nhƣ mong muốn Có ba phƣơng pháp học phổ biến là học có giám sát (supervised learning), học không giám sát (unsupervised learning) và học tăng cƣờng (Reinforcement learning): ♦ Học có giám sát: Là quá trình học có sự tham gia giám sát của một “thầy giáo”. Cũng giống nhƣ việc ta dạy một em nhỏ các chữ cái. Ta đƣa ra một chữ “a” và bảo với em đó rằng đây là chữ “a”.

Việc này đƣợc thực hiện trên tất cả các mẫu chữ cái.