Đồ án: Nghiên cứu mạng nơ-ron cho nhận diện biển số xe máy

Đồ án cơ sở: Nghiên cứu mạng nơ-ron cho bài toán nhận diện biển số xe máy. Ứng dụng AI vào hệ thống giao thông thông minh, nâng cao hiệu quả quản lý.

• Tác giả: Trần Quốc Hào
• Người hướng dẫn: Ths. Vương Xuân Chí
• Trường học: Trường Đại học Nguyễn Tất Thành
• Chuyên ngành: Công Nghệ Thông Tin
• Đề tài: Nghiên Cứu Mạng Nơ-ron Cho Bài Toán Nhận Diện Biển Số Xe Máy
• Loại tài liệu: Tiểu Luận
• Năm xuất bản: 2022
• Địa điểm: Tp.HCM

Mục lục chi tiết

• LỜI CẢM ƠN
• LỜI MỞ ĐẦU
• 1. Chương 1: Tổng quan về bài toán nhận diện biển số xe
• 1.1. Vấn đề và hướng giải quyết
• 1.2. Xử lí ảnh với OpenCV
• 2. Chương 2: Khái quát về mạng nơron
• 2.1. Mạng nơron là gì ?
• 2.2. Neural Network là gì?
• 2.3. Lịch sử phát triển của mạng nơron nhân tạo
• 3. Chương 3: Phân loại mạng nơron nhân tạo và cách thức tạo mạng nơron nhiều lớp
• 3.1. Phân loại mạng nơron nhân tạo
• 3.1.1. Feed Forward Networks
• 3.1.2. Multi-Layer Perceptron
• 3.1.3. Radial Based Networks
• 3.1.4. Convolutional Neural Networks
• 3.1.5. Recurrent Neural Networks
• 3.1.6. Long Short-Term Memory Networks
• 3.1.7. Các bài toán với mạng nơron
• 3.2. Cách thức khởi tạo 1 mạng nơron nhiều lớp
• 3.2.1. Các thành phần của 1 mạng nơron
• 3.2.2. Khởi tạo mạng nơron nhiều lớp
• 4. Chương 4: Xử lí nhận diện sử dụng CNN
• 4.1. Phát hiện vị trí và tách biển số xe
• 4.1.1. Tăng độ tương phản
• 4.1.2. Giảm nhiễu bằng bộ lọc gauss
• 4.1.3. Phát hiện cạnh canny
• 4.1.4. Tách biển số khỏi ảnh
• 4.2. Phân đoạn ký tự
• 4.3. Nhận biết ký tự
• 4.3.1. Deep learning và mạng tích chập là gì
• 4.3.2. Cốt lõi công nghệ mạng tích chập CNN
• 4.3.2.1. Lịch sử phát triển và các kiến trúc của mạng cnn
• 4.3.2.2. Các mạng cnn tiêu biểu
• 4.3.2.3. Giải quyết bài toán
• 5. Chương 5: Kết luận và hướng phát triển
• 5.1. Hướng phát triển
• 6. Chương 6: Tài liệu tham khảo
• DANH MỤC CÁC BẢNG BIỂU
• DANH MỤC CÁC HÌNH ẢNH
• DANH MỤC CÁC TỪ VIẾT TẮT

Tóm tắt

I. Tổng quan công nghệ nhận diện biển số xe máy bằng AI

Công nghệ nhận diện biển số xe máy tự động là một ứng dụng đột phá của thị giác máy tính và trí tuệ nhân tạo (AI). Hệ thống này, còn được gọi là ANPR (Automatic Number Plate Recognition), có khả năng tự động đọc và chuyển đổi hình ảnh biển số xe thành dạng văn bản kỹ thuật số. Quy trình cốt lõi bắt đầu bằng việc thu nhận hình ảnh phương tiện, sau đó áp dụng các thuật toán xử lý ảnh phức tạp để xác định vị trí biển số. Một khi vùng biển số được khoanh vùng, hệ thống sẽ tiến hành phân đoạn từng ký tự riêng lẻ. Cuối cùng, một mô hình nhận diện, thường là mạng nơ-ron tích chập (CNN), sẽ được sử dụng để thực hiện nhận dạng ký tự quang học (OCR), chuyển đổi hình ảnh ký tự thành dữ liệu text. Toàn bộ quá trình này đòi hỏi sự kết hợp nhuần nhuyễn giữa các kỹ thuật tiền xử lý ảnh và mô hình học sâu (deep learning). Các công cụ và thư viện phổ biến như OpenCV và Python, cùng với các framework deep learning như TensorFlow hay PyTorch, là nền tảng để xây dựng những hệ thống mạnh mẽ này. Sự phát triển của công nghệ này đã giải quyết hiệu quả bài toán quản lý phương tiện tại các bãi đỗ xe, trạm thu phí và trong giám sát giao thông, giúp giảm thiểu sai sót của con người và tăng cường hiệu quả vận hành.

1.1. Vai trò của thị giác máy tính và học sâu trong ANPR

Thị giác máy tính cung cấp các phương pháp và thuật toán để máy tính có thể "nhìn" và diễn giải thế giới trực quan. Trong bài toán nhận diện biển số, nó bao gồm các kỹ thuật từ cơ bản đến nâng cao như chuyển đổi không gian màu, lọc nhiễu, và phát hiện cạnh. Tuy nhiên, để hệ thống có thể "học" và nhận dạng các ký tự với độ chính xác cao trong nhiều điều kiện khác nhau, học sâu (deep learning), một nhánh của machine learning, đóng vai trò quyết định. Các mô hình nhận diện dựa trên học sâu, đặc biệt là CNN, có khả năng tự động trích xuất đặc trưng từ hình ảnh, giúp phân biệt các ký tự phức tạp mà không cần sự can thiệp thủ công. Sự kết hợp này tạo ra một hệ thống nhận dạng biển số tự động thông minh và linh hoạt.

1.2. Tầm quan trọng của hệ thống nhận dạng biển số tự động

Theo tài liệu nghiên cứu của Trần Quốc Hào (2022), việc quản lý số lượng lớn phương tiện giao thông tiêu tốn rất nhiều nhân lực và dễ gây nhầm lẫn. Hệ thống nhận dạng biển số tự động (ANPR) ra đời như một giải pháp công nghệ thiết yếu. Hệ thống này không chỉ tự động hóa quy trình ghi nhận thông tin xe ra vào tại các bãi đỗ, mà còn được ứng dụng rộng rãi trong việc giám sát vi phạm giao thông, kiểm soát an ninh tại các khu vực trọng yếu, và tự động hóa thu phí không dừng. Bằng cách giảm thiểu sự can thiệp của con người, ANPR giúp tăng tốc độ xử lý, cải thiện độ chính xác và cung cấp dữ liệu minh bạch cho công tác quản lý và vận hành.

II. Thách thức cốt lõi trong nhận diện biển số xe tự động

Xây dựng một thuật toán nhận diện biển số xe hiệu quả phải đối mặt với nhiều thách thức đáng kể. Khó khăn không chỉ nằm ở việc lựa chọn mô hình học sâu phù hợp mà còn xuất phát từ chính chất lượng dữ liệu đầu vào. Trong thực tế, hình ảnh thu được từ camera thường bị ảnh hưởng bởi các yếu tố môi trường như điều kiện ánh sáng thay đổi (quá chói hoặc quá tối), thời tiết xấu (mưa, sương mù), và chuyển động của phương tiện gây nhòe ảnh. Hơn nữa, bản thân biển số xe cũng có thể bị biến dạng, bẩn, hoặc có góc chụp nghiêng, gây khó khăn cho việc định vị và nhận dạng. Theo nghiên cứu, một trong những rào cản lớn nhất là việc xây dựng một tập dữ liệu biển số xe đủ lớn và đa dạng. Việc thiếu dữ liệu chất lượng cao đã được gán nhãn là vấn đề hàng đầu, làm chậm quá trình huấn luyện và kiểm thử mô hình. Vượt qua những thách thức này đòi hỏi một quy trình tiền xử lý ảnh mạnh mẽ và một mô hình nhận diện có khả năng khái quát hóa tốt để duy trì độ chính xác cao trong các điều kiện không lý tưởng.

2.1. Vấn đề về tập dữ liệu biển số xe và gán nhãn dữ liệu

Chất lượng của một mô hình machine learning phụ thuộc trực tiếp vào chất lượng của dữ liệu huấn luyện. Đối với bài toán này, việc xây dựng một tập dữ liệu biển số xe toàn diện là cực kỳ khó khăn. Tài liệu gốc nhấn mạnh: "hầu như không thể tìm ra tập dữ liệu về biển số xe đã được labels sẳn". Điều này có nghĩa là các nhà nghiên cứu thường phải tự thu thập và thực hiện quá trình gán nhãn dữ liệu thủ công. Công việc này không chỉ tốn thời gian, công sức mà còn đòi hỏi sự tỉ mỉ để đảm bảo nhãn chính xác cho cả vị trí biển số và từng ký tự trên đó. Một tập dữ liệu thiếu đa dạng về góc chụp, loại xe, và điều kiện ánh sáng sẽ khiến mô hình hoạt động kém hiệu quả khi triển khai trong thực tế.

2.2. Khó khăn trong tiền xử lý ảnh nhiễu và điều kiện ánh sáng

Quá trình tiền xử lý ảnh là bước quan trọng để chuẩn hóa dữ liệu đầu vào trước khi đưa vào mô hình CNN. Tuy nhiên, đây cũng là giai đoạn chứa đựng nhiều thách thức. Hình ảnh có thể chứa các loại nhiễu khác nhau, chẳng hạn như nhiễu Gaussian do cảm biến camera hoặc nhiễu do điều kiện môi trường. Nghiên cứu chỉ ra rằng việc áp dụng bộ lọc Gauss là cần thiết để làm mờ và giảm nhiễu. Bên cạnh đó, sự thay đổi cường độ sáng là một vấn đề lớn. Ảnh quá tối hoặc bị lóa sáng có thể làm mất chi tiết của các ký tự. Do đó, các kỹ thuật như nhị phân hóa ngưỡng động (adaptive thresholding) được ưu tiên hơn so với nhị phân hóa toàn cục để xử lý hiệu quả các vùng sáng tối khác nhau trên cùng một bức ảnh.

III. Phương pháp tiền xử lý ảnh tối ưu cho nhận diện biển số

Để đảm bảo độ chính xác cao cho mô hình nhận diện, một quy trình tiền xử lý ảnh bài bản là yêu cầu bắt buộc. Quy trình này hoạt động như một bộ lọc, giúp loại bỏ thông tin không cần thiết và làm nổi bật các đặc trưng quan trọng của biển số xe. Mục tiêu chính là chuyển đổi ảnh đầu vào thô thành một dạng dữ liệu sạch, dễ dàng hơn cho các thuật toán trích xuất đặc trưng và nhận dạng. Các bước xử lý thường được thực hiện tuần tự và mỗi bước đều có vai trò riêng biệt. Bắt đầu từ việc chuyển đổi ảnh màu sang ảnh xám để giảm độ phức tạp tính toán, sau đó tăng cường độ tương phản để làm rõ các cạnh của ký tự và biển số. Tiếp theo, các bộ lọc giảm nhiễu được áp dụng để loại bỏ các điểm ảnh sai lệch. Cuối cùng, các thuật toán nhận diện cạnh và tìm đường bao được sử dụng để xác định chính xác vị trí của biển số trong ảnh. Thư viện OpenCV cung cấp đầy đủ các công cụ cần thiết để thực hiện hiệu quả chuỗi xử lý này, tạo tiền đề vững chắc cho giai đoạn nhận dạng bằng học sâu.

3.1. Quy trình chuẩn hóa ảnh đầu vào với thư viện OpenCV

Thư viện OpenCV (Open Computer Vision) là công cụ mã nguồn mở hàng đầu cho các tác vụ xử lý ảnh và thị giác máy tính. Quy trình chuẩn hóa ảnh bắt đầu bằng việc chuyển đổi ảnh từ hệ màu RGB sang ảnh xám. Lý do là thông tin màu sắc thường không cần thiết cho việc nhận dạng ký tự và việc xử lý trên một kênh màu duy nhất giúp tăng tốc độ tính toán. Sau đó, các phép biến đổi hình thái học như Top Hat và Black Hat được áp dụng để tăng cường độ tương phản, làm cho các vùng ký tự sáng nổi bật trên nền biển số tối, và ngược lại. Cuối cùng, bộ lọc Gauss được sử dụng để làm mịn ảnh, loại bỏ các nhiễu nhỏ li ti có thể gây ảnh hưởng đến các bước xử lý sau này.

3.2. Kỹ thuật phát hiện vùng biển số bằng Canny và Contour

Sau khi ảnh đã được chuẩn hóa, bước tiếp theo là xác định vị trí của biển số. Thuật toán nhận diện cạnh Canny là một lựa chọn phổ biến và hiệu quả để phát hiện các đường biên trong ảnh, nơi có sự thay đổi đột ngột về cường độ sáng. Kết quả của thuật toán Canny là một ảnh nhị phân chỉ chứa các cạnh. Dựa trên ảnh cạnh này, hàm findContours của OpenCV được sử dụng để tìm tất cả các đường bao khép kín. Tuy nhiên, không phải đường bao nào cũng là biển số. Do đó, cần áp dụng các bộ lọc dựa trên đặc điểm hình học, chẳng hạn như chỉ giữ lại các đường bao có 4 đỉnh (xấp xỉ hình chữ nhật) và có tỷ lệ chiều rộng/chiều cao cũng như diện tích nằm trong một ngưỡng phù hợp với kích thước thực tế của biển số xe.

IV. Hướng dẫn xây dựng mô hình CNN nhận diện biển số xe máy

Sau khi đã tách được hình ảnh biển số thông qua các bước tiền xử lý ảnh, giai đoạn nhận dạng ký tự sẽ được thực hiện bởi một mô hình nhận diện dựa trên học sâu. Mạng nơ-ron tích chập (Convolutional Neural Network - CNN) là kiến trúc được lựa chọn hàng đầu cho bài toán này nhờ khả năng vượt trội trong việc xử lý dữ liệu hình ảnh. Một CNN có khả năng tự động học các đặc trưng phân cấp từ ảnh, từ các đặc trưng đơn giản như cạnh, góc ở các lớp đầu tiên, đến các đặc trưng phức tạp hơn như hình dạng của từng ký tự ở các lớp sâu hơn. Quá trình xây dựng mô hình bao gồm việc thiết kế kiến trúc mạng, lựa chọn hàm kích hoạt, tối ưu hóa các tham số và huấn luyện trên một tập dữ liệu biển số xe đã được gán nhãn dữ liệu. Kiến trúc của CNN bao gồm ba loại lớp chính: lớp tích chập (Convolutional layer), lớp gộp (Pooling layer) và lớp kết nối đầy đủ (Fully Connected layer). Sự kết hợp của các lớp này cho phép mô hình học được các biểu diễn mạnh mẽ, giúp đạt độ chính xác cao trong tác vụ nhận dạng ký tự quang học (OCR).

4.1. Kiến trúc mạng nơ ron tích chập CNN cho bài toán OCR

Kiến trúc của một mạng nơ-ron tích chập cho OCR được thiết kế để trích xuất đặc trưng hiệu quả. Lớp Tích chập sử dụng các bộ lọc (kernels) để quét qua ảnh đầu vào, thực hiện phép tích chập để tạo ra các bản đồ đặc trưng (feature maps). Mỗi bộ lọc học cách nhận diện một mẫu cụ thể, ví dụ như một đường thẳng đứng, một đường cong. Lớp Gộp (thường là Max Pooling) theo sau lớp tích chập, có nhiệm vụ giảm kích thước không gian của bản đồ đặc trưng, giúp giảm số lượng tham số và kiểm soát overfitting. Sau nhiều cặp lớp Tích chập và Gộp, dữ liệu được làm phẳng và đưa vào Lớp Kết nối đầy đủ. Lớp này hoạt động như một mạng nơ-ron truyền thống, thực hiện nhiệm vụ phân loại cuối cùng để xác định ký tự đó là gì (A, B, C, 1, 2, 3...).

4.2. Lựa chọn các mô hình CNN tiêu biểu LeNet AlexNet VGG

Lịch sử phát triển của deep learning đã chứng kiến sự ra đời của nhiều kiến trúc CNN có ảnh hưởng lớn. LeNet-5, do Yann LeCun phát triển, là một trong những kiến trúc tiên phong, chứng minh hiệu quả của CNN trên bài toán nhận dạng chữ số viết tay. AlexNet, người chiến thắng cuộc thi ImageNet 2012, đã tạo ra một bước đột phá bằng cách xây dựng một mạng sâu hơn và lần đầu tiên sử dụng hàm kích hoạt ReLU và kỹ thuật Dropout. Sau đó, VGGNet tiếp tục xu hướng làm cho mạng sâu hơn nữa, sử dụng các bộ lọc 3x3 rất nhỏ một cách đồng nhất. Việc nghiên cứu các kiến trúc tiêu biểu này cung cấp nền tảng kiến thức quan trọng để thiết kế hoặc lựa chọn một mô hình nhận diện phù hợp cho bài toán nhận diện biển số xe, cân bằng giữa độ chính xác và hiệu quả tính toán.

V. Ứng dụng thực tiễn và đánh giá độ chính xác của mô hình

Giá trị của một thuật toán nhận diện không chỉ nằm trên lý thuyết mà còn được thể hiện qua khả năng ứng dụng trong thực tế và độ chính xác mà nó mang lại. Hệ thống nhận dạng biển số tự động (ANPR) được triển khai rộng rãi trong nhiều lĩnh vực, từ quản lý bãi đỗ xe thông minh, hệ thống thu phí không dừng, đến giám sát an ninh và thực thi luật giao thông. Trong bối cảnh của tài liệu nghiên cứu, ứng dụng chính là tự động hóa việc quản lý phương tiện cá nhân trong bãi gửi xe, giúp tiết kiệm thời gian và giảm thiểu sai sót so với phương pháp thủ công. Để đánh giá hiệu quả của một hệ thống, độ chính xác là chỉ số quan trọng nhất. Nó được đo lường bằng tỷ lệ giữa số lượng biển số được nhận dạng đúng trên tổng số biển số được xử lý. Chỉ số này bị ảnh hưởng bởi nhiều yếu tố, bao gồm chất lượng camera, điều kiện ánh sáng, tốc độ phương tiện, và sự mạnh mẽ của cả hai thành phần: tiền xử lý ảnh và mô hình nhận diện CNN.

5.1. Triển khai hệ thống nhận dạng biển số tự động trong bãi xe

Một hệ thống ANPR điển hình trong bãi xe bao gồm các thành phần: camera chất lượng cao để chụp ảnh phương tiện, máy tính có cấu hình đủ mạnh để chạy các thuật toán xử lý ảnh và học sâu, và phần mềm quản lý. Khi một chiếc xe đi vào, camera sẽ tự động chụp ảnh, phần mềm sẽ thực thi thuật toán nhận diện để trích xuất biển số. Biển số xe và thời gian vào sẽ được lưu vào cơ sở dữ liệu. Khi xe ra, quy trình tương tự được lặp lại, hệ thống sẽ tự động tính toán phí gửi xe dựa trên thời gian. Việc triển khai này giúp quy trình vận hành trở nên nhanh chóng, minh bạch và an toàn hơn.

5.2. Phân tích yếu tố ảnh hưởng đến độ chính xác thuật toán

Độ chính xác của hệ thống phụ thuộc vào sự tương tác của nhiều yếu tố. Về phần cứng, chất lượng camera (độ phân giải, tốc độ màn trập) và vị trí lắp đặt (góc chụp, khoảng cách) là rất quan trọng. Về phần mềm, chất lượng của tập dữ liệu biển số xe dùng để huấn luyện mô hình có ảnh hưởng quyết định. Một mô hình được huấn luyện trên dữ liệu đa dạng sẽ có khả năng chống chịu tốt hơn với các biến thể trong thực tế. Ngoài ra, hiệu quả của các bước tiền xử lý ảnh trong việc xử lý nhiễu, cân bằng sáng và xoay thẳng biển số cũng trực tiếp tác động đến khả năng nhận dạng của mô hình nhận diện.

VI. Tương lai của nhận diện biển số xe với học sâu và AI

Lĩnh vực nhận diện biển số xe đang không ngừng phát triển cùng với những tiến bộ vượt bậc của học sâu (deep learning) và trí tuệ nhân tạo. Các thuật toán nhận diện truyền thống với nhiều bước xử lý riêng rẽ (phát hiện biển số, phân đoạn ký tự, nhận dạng ký tự) đang dần được thay thế bởi các mô hình end-to-end hiện đại. Những mô hình này có khả năng thực hiện toàn bộ quy trình chỉ trong một bước duy nhất, giúp tăng tốc độ xử lý và cải thiện độ chính xác tổng thể. Hơn nữa, sự phát triển của phần cứng, đặc biệt là các bộ xử lý đồ họa (GPU), cho phép triển khai các mô hình nhận diện ngày càng phức tạp ngay cả trên các thiết bị biên (edge devices). Tương lai của công nghệ ANPR không chỉ dừng lại ở việc đọc biển số, mà còn hướng tới việc tích hợp với các hệ thống thông minh khác, tạo ra một hệ sinh thái giao thông an toàn và hiệu quả hơn, được vận hành bởi sức mạnh của trí tuệ nhân tạo.

6.1. Hướng phát triển với các mô hình deep learning như YOLO

Một hướng phát triển đầy hứa hẹn là sử dụng các mô hình phát hiện đối tượng trong thời gian thực như YOLO (You Only Look Once). Khác với quy trình đa bước truyền thống, YOLO có thể xác định vị trí biển số và nhận dạng các ký tự trên đó trong một lần xử lý duy nhất. Cách tiếp cận này không chỉ đơn giản hóa kiến trúc hệ thống mà còn đạt tốc độ xử lý rất cao, phù hợp cho các ứng dụng đòi hỏi phản hồi tức thì như giám sát giao thông trên đường cao tốc. Việc áp dụng các mô hình tiên tiến như YOLO hay các biến thể của nó hứa hẹn sẽ nâng cao đáng kể hiệu suất và độ chính xác của các hệ thống nhận dạng biển số tự động trong tương lai.

6.2. Tiềm năng tích hợp trí tuệ nhân tạo vào giao thông thông minh

Công nghệ ANPR là một mảnh ghép quan trọng trong bức tranh lớn về hệ thống giao thông thông minh (ITS). Dữ liệu biển số xe, khi được kết hợp với các dữ liệu khác như thời gian và vị trí, có thể được phân tích bởi trí tuệ nhân tạo để tối ưu hóa luồng giao thông, dự đoán tắc nghẽn, và tự động hóa việc thực thi luật lệ. Hơn nữa, hệ thống có thể được mở rộng để nhận dạng các thông tin khác như loại xe, màu sắc xe, thậm chí là thương hiệu xe, cung cấp một cái nhìn toàn diện hơn cho các nhà quản lý đô thị. Sự hội tụ của ANPR, AI, và Internet of Things (IoT) sẽ mở ra một kỷ nguyên mới cho việc quản lý giao thông an toàn, hiệu quả và bền vững.

Trích đoạn nội dung tài liệu

Chương 1 Tổng quan về bài toán nhận diện biển số xe 1. vấn đề và hướng giải quyết những vấn đề mắc phải trong lúc tiến hành làm : -tập dữ liệu: hầu như không thể tìm ra tập dữ liệu về biển số xe đã được labels sẳn vấn đề về dữ liệu là vấn đề lớn nhất gặp phải -xác định vùng chứa biển số xe : cần phải lọc ra vùng chứa biển số xe tránh những tác nhân gây nhiễu. Hướng giải quyết từng vấn đề : thật sự vấn đề 1 là vấn đề rất lớn gây khó khăn trong quá trình em làm bài vì tìm ra cách để labels hay tìm tập dữ liệu đã được labels là rất tốn thời gian nên em quyết định sẽ train cho mạng nhận biết từng ký tự của biển số xe thay vì nhận biết toàn bộ biển số. Đối với vấn đề thứ 2 là lọc ra vùng có chứa biển số xe chia vấn đề thành 3 bước để tiến hành xữ lí Bước 1: phát hiện vị trí và tách biển số xe từ ảnh Bước 2:phân đoạn các ký tự có trên biển số xe Bước 3:nhận diện ký tự và chuyển về mã ASCII Bước 4: xuất kết quả 2.

xữ lí ảnh với OpenCV OpenCv (open computer vision) là 1 thư viện mã nguồn mờ hàng đầu cho xữ lí về thị giác máy tính ,machine learning, xữ lí ảnh,openCV viết bằng c++ nên tốc độ truy suất rất nhanh có thể ứng dụng vào các bài toán sử lí liên quan đến thời gian thực .openCv có thể ứng dụng vào các lĩnh vực như: ● Nhận dạng ảnh ● Xữ lí ảnh ● Phục hồi ảnh hoặc video 1 ● Thực tế ảo Chương 2 khái quát về mạng nơron. mạng nơron là gì ? Mạng thần kinh “nhân tạo” được lấy cảm hứng từ bộ não hữu cơ, được dịch sang máy tính. Nó không thể so sánh với 1 bộ não hoàn hảo , nhưng có các tế bào thần kinh, kích hoạt và rất nhiều mối quan hệ lẫn nhau, ngay cả khi các quy trình cơ bản là khá khác nhau.1 cấu trúc thần kinh của não người và máy tính 2. Neural Network là gì? Neural Network đọc tiếng việt là Mạng nơ-ron nhân tạo, đây là một chuỗi những thuật toán được đưa ra để tìm kiếm các mối quan hệ cơ bản trong tập hợp các dữ liệu.

Thông qua việc bắt bước cách thức hoạt động từ não bộ con người Nói cách khác, mạng nơ ron nhân tạo được xem là hệ thống của các tế bào thần kinh nhân tạo. Đây thường có thể là hữu cơ hoặc nhân tạo về bản chất. Neural Network 2 có khả năng thích ứng được với mọi thay đổi từ đầu vào. Do vậy, nó có thể đưa ra được mọi kết quả một cách tốt nhất có thể mà bạn không cần phải thiết kế lại những tiêu chí đầu ra.

Kiến trúc của mạng nơron Mạng Neural Network là sự kết hợp của những tầng perceptron hay còn gọi là perceptron đa tầng. Và mỗi một mạng Neural Network thường bao gồm 3 kiểu tầng là: -Tầng input layer (tầng vào): Tầng này nằm bên trái cùng của mạng, thể hiện cho các đầu vào của mạng. -Tầng output layer (tầng ra): Là tầng bên phải cùng và nó thể hiện cho những đầu ra của mạng. -Tầng hidden layer (tầng ẩn): Tầng này nằm giữa tầng vào và tầng ra nó thể hiện cho quá trình suy luận logic của mạng.

Lưu ý:mỗi mạng nơron chỉ có 1 lớp input và 1 lớp output tuy nhiên có rất nhiều hidden layer ảnh 1.2 ví dụ về kiến trúc 1 mạng nơron cơ bản 3. Trong vài thập kỷ gần đây, mạng nơ-ron đã phát triển từ sự tò mò học thuật thành một ngành công nghiệp “học sâu” rộng lớn. Học sâu sử dụng mạng nơ-ron, một thiết kế cấu trúc dữ liệu lấy cảm hứng từ cách bố trí các nơ-ron sinh học. Các 3 mạng nơ-ron này được xây dựng theo từng lớp và các đầu vào từ một lớp này được kết nối với các đầu ra của lớp tiếp theo.

Học sâu là một phần nhỏ của học máy và cho phép máy tính tự động nhận dạng khuôn mặt và chuyển lời nói thành văn bản, đồng thời cho phép ô tô tự lái tránh các đối tượng trên đường phố. Những thành tựu này được thực hiện nhờ các công trình của Walter Pitts, một nhà toán học, và Warren McCulloch, một nhà sinh lý học thần kinh, vào năm 1943, và Donald Hebb, một nhà tâm lý học người Canada. Pitts và McCulloch đã nghiên cứu và viết một bài báo mô tả cách thức hoạt động của các tế bào thần kinh, và sau đó phát triển một mạng lưới thần kinh đơn giản sử dụng các mạch điện. Năm 1949, Donald Hebb củng cố khái niệm về tế bào thần kinh trong cuốn sách của mình, Tổ chức của Hành vi.

Nó chỉ ra rằng các đường dẫn thần kinh được tăng cường mỗi khi chúng được sử dụng. Vào những năm 1950, Nathanial Rochester từ các phòng thí nghiệm nghiên cứu của IBM đã dẫn đầu nỗ lực đầu tiên để mô phỏng một mạng nơ-ron. Năm 1956, Dự án Nghiên cứu Mùa hè của Dartmouth về Trí tuệ Nhân tạo đã tạo ra một sự thúc đẩy cho cả trí tuệ nhân tạo và mạng nơ-ron. Điều này đã kích thích nghiên cứu về AI và trong phần xử lý thần kinh cấp thấp hơn nhiều của não.

Năm 1957, John von Neumann đề nghị bắt chước các chức năng đơn giản của tế bào thần kinh bằng cách sử dụng rơ le điện báo hoặc ống chân không. Năm 1958, Frank Rosenblatt, một nhà sinh học thần kinh của Cornell, bắt đầu nghiên cứu Perceptron. Anh ta bị hấp dẫn bởi hoạt động của mắt của một con ruồi. Phần lớn quá trình thông báo cho một con ruồi bỏ chạy được thực hiện trong mắt nó.

Perceptron, kết quả của nghiên cứu này, được xây dựng trong phần cứng và là 4 mạng nơ-ron lâu đời nhất vẫn còn được sử dụng cho đến ngày nay. Perceptron một lớp được thấy là hữu ích trong việc phân loại một tập hợp đầu vào có giá trị liên tục thành một trong hai lớp. Perceptron tính toán tổng trọng số của các đầu vào, trừ đi một ngưỡng và chuyển một trong hai giá trị có thể ra dưới dạng kết quả. Năm 1959, Bernard Widrow và Marcian Hoff ở Stanford đã phát triển các mô hình mà họ gọi là ADALINE và MADALINE.

Các mô hình này được đặt tên cho việc sử dụng Nhiều Phần tử LINear ADAptive. MADALINE là mạng nơ-ron đầu tiên được áp dụng cho một bài toán trong thế giới thực. Nó là một bộ lọc thích ứng giúp loại bỏ tiếng vọng trên đường dây điện thoại. Mạng nơ-ron này vẫn đang được sử dụng cho mục đích thương mại.

Tiến độ nghiên cứu mạng nơ-ron bị đình trệ do sợ hãi, những tuyên bố chưa được thực hiện, v. Điều này khiến những tiếng nói đáng kính chỉ trích nghiên cứu mạng nơ-ron. Kết quả là đã làm ngưng trệ phần lớn nguồn tài trợ. Giai đoạn tăng trưởng còi cọc này kéo dài đến năm 1981.

1982 - John Hopfield trình bày một bài báo cho Viện Hàn lâm Khoa học quốc gia. Cách tiếp cận của anh ấy để tạo ra các thiết bị hữu ích; anh ấy dễ mến, rõ ràng và lôi cuốn. 1982- Hội nghị chung Hoa Kỳ-Nhật Bản về Mạng nơ-ron hợp tác / cạnh tranh, tại đó Nhật Bản công bố nỗ lực Thế hệ thứ Năm của họ, khiến Hoa Kỳ lo lắng về việc bị bỏ lại phía sau. Ngay sau đó, nguồn vốn đã chảy một lần nữa.

1985 - Viện Vật lý Hoa Kỳ bắt đầu cuộc họp thường niên - Mạng Nơron cho Máy tính. Đến năm 1987, Hội nghị Quốc tế đầu tiên của Viện Kỹ sư Điện và Điện tử (IEEE) về Mạng Neural đã thu hút hơn 1.800 người tham dự. 5 Năm 1997 - Một khung mạng nơ-ron lặp lại, Bộ nhớ Ngắn hạn Dài (LSTM) được đề xuất bởi Schmidhuber & Hochreiter. Năm 1998, Yann LeCun xuất bản Học tập dựa trên Gradient được áp dụng để nhận dạng tài liệu.

Từ năm 2000-2010 mạng neural tuộc dóc và học sâu bắt đầu xuất hiện và đạt được những thành quả đáng mong đợi Chương 3 phân loại mạng nơron nhân tạo và cách thức tạo mạng nơron nhiều lớp 1 phân loại mạng nơron nhân tạo 3.1 Perceptron Perceptron Perceptron là dạng nơron lâu đời nhất và cơ bản nhất nó chỉ bao gồm 1 nơron nhận đầu vào và áp dụng chức năng kích hoạt trên nó để tạo ra đầu ra nhị phân. Nó không chứa bất kỳ lớp ẩn nào và chỉ có thể được sử dụng cho các nhiệm vụ phân loại nhị phân. Cách thức hoạt động: Nơron thực hiện quá trình cộng các giá trị đầu vào với trọng số của chúng. Tính tổng sau đó được chuyển đến hàm kích hoạt để tạo ra đầu ra nhị phân .2 Feed Forward Networks Mạng chuyển tiếp nguồn cấp dữ liệu :bao gồm nhiều nơ-ron và các lớp ẩn được kết nối với nhau.

Chúng được gọi là "lan truyền tiến" bởi vì luồng dữ liệu chỉ theo hướng thuận và không có truyền ngược. Các lớp ẩn có thể không nhất thiết phải có trong mạng tùy thuộc vào ứng dụng. Cácht thức hoạt động: Số lượng lớp nhiều hơn có thể là sự tùy chỉnh của trọng lượng. Và do đó, nhiều hơn nữa sẽ là khả năng học hỏi của mạng.

Trọng số không được cập nhật vì không có sự nhân giống. Đầu ra của phép nhân trọng lượng với các đầu vào được đưa đến hàm kích hoạt hoạt động như một giá trị ngưỡng.3 Multi-Layer Perceptron Thiếu sót chính của Feed Forward Networks là không có khả năng học hỏi với việc lan truyền ngược. Perceptron nhiều lớp là mạng nơron kết hợp nhiều lớp ẩn và các chức năng kích hoạt. Việc học tập có giám sát trong đó các trọng số được cập nhật bằng phương tiện Gradient Descent.

Cách thức hoạt động 7 Perceptron nhiều lớp là hai hướng, tức là, truyền về phía trước của các đầu vào và lan truyền ngược của các cập nhật trọng lượng. Các chức năng kích hoạt có thể được thay đổi đối với loại mục tiêu. Softmax thường được sử dụng để phân loại nhiều lớp, Sigmoid để phân loại nhị phân, v. Chúng còn được gọi là mạng dày đặc bởi vì tất cả các nơ-ron trong một lớp được kết nối với tất cả các nơ-ron trong lớp tiếp theo.4 Radial Based Networks Radial Based Networks(RBN) sử dụng một cách hoàn toàn khác để dự đoán ra kết quả.

Nó bao gồm một lớp đầu vào, một lớp với các nơron RBF và một đầu ra. Các nơron RBF lưu trữ các lớp thực tế cho mỗi cá thể dữ liệu huấn luyện. RBN khác với perceptron nhiều lớp thông thường vì Hàm Radial được sử dụng như một hàm kích hoạt.