Luận Văn Thạc Sĩ: Nghiên Cứu Mạng Nơron Tích Chập và Ứng Dụng trong Nhận Dạng Môi Trường

Luận văn thạc sĩ khám phá ứng dụng mạng nơron tích chập trong việc hiểu biết môi trường xung quanh, mang lại những kết quả đáng chú ý.

• Tác giả: Huỳnh Thu Thảo
• Người hướng dẫn: T.S Lê Mỹ Hà
• Chuyên ngành: Xử Lý Ảnh, Thị Giác Máy, Trí Tuệ Nhân Tạo, Deep Learning
• Đề tài: Nghiên cứu Mạng Nơron Tích Chập (CNN) Trong Việc Nhận Dạng Các Đối Tượng Sự Vật Trong Môi Trường Xung Quanh
• Loại tài liệu: Luận Văn
• Năm xuất bản: 2018
• Địa điểm: Tp. Hồ Chí Minh

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• TÓM TẮT
• 1. CHƯƠNG 1: TỔNG QUAN
• 1.1. Tổng quan về lĩnh vực nghiên cứu
• 1.2. Mục tiêu của đề tài
• 1.3. Nhiệm vụ và giới hạn của đề tài
• 1.4. Phương pháp nghiên cứu
• 1.5. Tóm tắt nội dung chính của đề tài
• 2. CHƯƠNG 2: CƠ SỞ LÝ THUYẾT
• 2.1. Mạng nơron và mạng nơron lan truyền ngược
• 2.1.1. Giới thiệu về mạng Nơron
• 2.1.2. Một số kiểu mạng nơron
• 2.1.3. Các phương pháp huấn luyện mạng thần kinh nhân tạo
• 2.2. Mạng nơron tích chập
• 2.2.1. Các thành phần cơ bản của mạng CNN
• 2.2.2. Kiến trúc mạng CNN
• 2.2.3. Xác định vị trí và xác định đối tượng trong mạng CNN
• 2.2.3.1. Xác định vị trí của đối tượng đơn trong ảnh
• 2.3. Underfitting và Overfitting
• 3. CHƯƠNG 3: NHẬN DIỆN CÁC ĐỐI TƯỢNG XUNG QUANH SỬ DỤNG MẠNG NƠ RON TÍCH CHẬP
• 3.1. Nhận diện đơn đối tượng với kỹ thuật CNN
• 3.1.1. Xây dựng mạng CNN
• 3.1.2. Dữ liệu huấn luyện
• 3.1.3. Huấn luyện mạng
• 3.2. Nhận diện đa đối tượng với kỹ thuật Faster RCNN
• 3.2.1. Faster RCNN – VGG16
• 3.2.2. Dữ liệu huấn luyện
• 3.2.3. Huấn luyện mạng
• 4. CHƯƠNG 4: KẾT QUẢ MÔ PHỎNG
• 4.1. Giới thiệu chương trình mô phỏng
• 4.2. Kết quả mô phỏng
• 4.2.1. Kết quả nhận diện đơn đối tượng với kỹ thuật CNN
• 4.2.2. Kết quả nhận diện đa đối tượng với kỹ thuật Faster RCNN
• 4.2.3. So sánh kết quả giữa hai mạng CNN
• 4.2.4. Đánh giá kết quả giữa các kỹ thuật
• 5. CHƯƠNG 5: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
• 5.1. Kết luận
• 5.2. Hướng phát triển
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng quan về Nghiên cứu Mạng Nơron Tích Chập trong Nhận Dạng Môi Trường

Nghiên cứu về Mạng nơron tích chập (CNN) đã trở thành một trong những lĩnh vực quan trọng trong trí tuệ nhân tạo, đặc biệt trong việc nhận dạng hình ảnh. CNN cho phép máy tính học hỏi từ dữ liệu hình ảnh và nhận diện các đối tượng trong môi trường xung quanh. Sự phát triển của công nghệ này đã mở ra nhiều cơ hội mới trong các ứng dụng thực tiễn như nhận diện khuôn mặt, phân loại đối tượng và nhiều lĩnh vực khác.

1.1. Khái niệm cơ bản về Mạng Nơron Tích Chập

Mạng nơron tích chập là một loại mạng nơron được thiết kế đặc biệt để xử lý dữ liệu có cấu trúc dạng lưới, như hình ảnh. CNN sử dụng các lớp tích chập để trích xuất đặc trưng từ hình ảnh, giúp cải thiện độ chính xác trong việc nhận diện đối tượng.

1.2. Lịch sử phát triển của Mạng Nơron Tích Chập

Mạng nơron tích chập đã được phát triển từ những năm 1980, nhưng chỉ thực sự bùng nổ trong thập kỷ qua nhờ vào sự phát triển của học sâu và khả năng xử lý dữ liệu lớn. Các nghiên cứu gần đây đã chứng minh hiệu quả vượt trội của CNN trong nhiều bài toán nhận diện hình ảnh.

II. Thách thức trong Nhận Dạng Môi Trường bằng Mạng Nơron Tích Chập

Mặc dù Mạng nơron tích chập đã đạt được nhiều thành tựu, nhưng vẫn tồn tại nhiều thách thức trong việc áp dụng vào thực tiễn. Các vấn đề như dữ liệu lớn, độ chính xác và thời gian xử lý vẫn là những yếu tố cần được cải thiện.

2.1. Vấn đề về Dữ liệu Lớn trong Huấn luyện Mạng Nơron

Việc thu thập và xử lý dữ liệu lớn là một thách thức lớn trong việc huấn luyện mạng nơron. Dữ liệu không đủ đa dạng có thể dẫn đến hiện tượng overfitting, làm giảm khả năng tổng quát của mô hình.

2.2. Độ Chính Xác và Thời Gian Xử Lý

Độ chính xác của mô hình phụ thuộc vào nhiều yếu tố, bao gồm cấu trúc mạng và phương pháp huấn luyện. Thời gian xử lý cũng là một yếu tố quan trọng, đặc biệt trong các ứng dụng thời gian thực như nhận diện khuôn mặt.

III. Phương pháp Huấn luyện Mạng Nơron Tích Chập Hiệu Quả

Để tối ưu hóa hiệu suất của Mạng nơron tích chập, nhiều phương pháp huấn luyện đã được phát triển. Các phương pháp này không chỉ giúp cải thiện độ chính xác mà còn giảm thiểu thời gian xử lý.

3.1. Kỹ thuật Huấn luyện Có Giám sát

Huấn luyện có giám sát là phương pháp phổ biến nhất trong việc đào tạo mạng nơron. Nó yêu cầu một tập dữ liệu đã được gán nhãn để mạng có thể học hỏi và cải thiện độ chính xác.

3.2. Kỹ thuật Huấn luyện Không Giám sát

Kỹ thuật này cho phép mạng nơron học hỏi từ dữ liệu không có nhãn. Điều này rất hữu ích trong các tình huống mà việc gán nhãn dữ liệu là khó khăn hoặc tốn kém.

IV. Ứng dụng Thực tiễn của Mạng Nơron Tích Chập trong Nhận Dạng Môi Trường

Mạng nơron tích chập đã được áp dụng rộng rãi trong nhiều lĩnh vực khác nhau, từ nhận diện khuôn mặt đến phân loại đối tượng trong video. Những ứng dụng này không chỉ cải thiện hiệu suất công việc mà còn mang lại giá trị thực tiễn cao.

4.1. Nhận diện Khuôn mặt và An ninh

CNN được sử dụng trong các hệ thống nhận diện khuôn mặt, giúp tăng cường an ninh và bảo mật trong nhiều lĩnh vực như ngân hàng và giao thông.

4.2. Phân loại Đối tượng trong Video

Các ứng dụng trong phân loại đối tượng trong video giúp cải thiện khả năng giám sát và phân tích hành vi trong các môi trường công cộng.

V. Kết luận và Tương lai của Nghiên cứu Mạng Nơron Tích Chập

Nghiên cứu về Mạng nơron tích chập đang ở giai đoạn phát triển mạnh mẽ. Tương lai của công nghệ này hứa hẹn sẽ mang lại nhiều đột phá trong việc nhận diện và xử lý hình ảnh.

5.1. Xu hướng Nghiên cứu trong Tương lai

Các xu hướng nghiên cứu hiện tại đang tập trung vào việc cải thiện độ chính xác và giảm thiểu thời gian xử lý của mạng nơron. Sự phát triển của công nghệ mới như học sâu sẽ tiếp tục thúc đẩy lĩnh vực này.

5.2. Ứng dụng trong Các Lĩnh vực Mới

Mạng nơron tích chập có tiềm năng ứng dụng trong nhiều lĩnh vực mới như y tế, giao thông thông minh và robot tự hành, mở ra nhiều cơ hội cho sự phát triển trong tương lai.

Nội dung chính

Tổng quan nghiên cứu

Mỗi ngày có hơn 350 triệu hình ảnh và video được chia sẻ trên các nền tảng mạng xã hội, đặt ra yêu cầu cấp thiết về các hệ thống xử lý thị giác máy tính tự động, chính xác và tối ưu hiệu năng. Kể từ khi dự án Google Brain được khởi xướng vào năm 2011, học sâu (Deep Learning) đã tạo ra bước ngoặt lớn, thay đổi căn bản cách máy tính hiểu thế giới xung quanh. Tuy nhiên, việc áp dụng các mạng nơ-ron nhân tạo truyền thống vào nhận diện hình ảnh gặp rào cản nghiêm trọng do số lượng kết nối bùng nổ, dễ gây hiện tượng quá khớp (overfitting) và đòi hỏi tài nguyên tính toán khổng lồ.

Luận văn thạc sĩ chuyên ngành Kỹ thuật Điện – Điện tử của tác giả Huỳnh Thu Thảo, dưới sự hướng dẫn của Tiến sĩ Lê Mỹ Hà (hoàn thành năm 2018 tại Thành phố Hồ Chí Minh), tập trung nghiên cứu ứng dụng mạng nơ-ron tích chập (Convolutional Neural Networks – CNN) và kiến trúc Faster R-CNN trong bài toán nhận diện đối tượng môi trường sống. Mục tiêu trọng tâm của đề tài là xây dựng hệ thống tự động phát hiện, phân loại và định vị chính xác vị trí của đơn đối tượng cũng như đa đối tượng trong không gian ảnh thực tế. Phạm vi nghiên cứu kết hợp giữa mô phỏng giải thuật trên tập dữ liệu tiêu chuẩn quốc tế MS COCO và các dữ liệu thu thập thực tế. Đề tài đã tối ưu hóa mô hình CNN 15 lớp với chỉ 144.830 tham số, đồng thời chứng minh giải pháp Faster R-CNN có khả năng rút ngắn thời gian xử lý từ 120 giây mỗi bức ảnh xuống dưới 2 giây, mang lại ý nghĩa thực tiễn lớn cho việc phát triển xe tự lái và robot thông minh.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng dựa trên nền tảng lý thuyết mạng nơ-ron nhân tạo (ANN) mô phỏng cơ chế xử lý của hệ thần kinh sinh học với khoảng 100 tỷ tế bào nơ-ron (10^11 tế bào), hoạt động qua các thuật toán lan truyền ngược và học có giám sát.

Khung kiến trúc trung tâm là mạng nơ-ron tích chập (CNN), nổi bật với nguyên lý trường tiếp nhận cục bộ (local receptive fields) và chia sẻ trọng số (shared weights). Cấu trúc CNN chuẩn bao gồm ba khối chức năng chính:

• Lớp tích chập (Convolution layer): Sử dụng các bộ lọc (kernel) trượt trên ma trận ảnh để tự động trích xuất các đặc trưng phân cấp từ cạnh, góc, đốm màu đến đặc trưng bậc cao.
• Lớp biến đổi tuyến tính ReLU (Rectified Linear Unit): Áp dụng hàm truyền phi tuyến nhằm tạo tính thưa (sparsity) cho khoảng 50% nơ-ron ẩn, giúp quá trình huấn luyện hội tụ nhanh hơn.
• Lớp tổng hợp rút gọn (Pooling layer): Áp dụng phép toán Max-Pooling kích thước 2x2 với bước nhảy stride 2 để giảm kích thước đặc trưng xuống 50% mà vẫn bảo toàn tín hiệu mạnh nhất.

Đối với bài toán nhận diện đa đối tượng phức tạp, nghiên cứu ứng dụng mô hình Faster R-CNN. Khung lý thuyết này tích hợp mạng đề xuất vùng (Region Proposal Network – RPN) chạy trên nền mạng trích xuất đặc trưng VGG16 (gồm 13 lớp tích chập 3x3 và 5 lớp pooling 2x2), kết hợp cùng tầng ROI Pooling để chuẩn hóa các vùng đề xuất có kích thước khác nhau về một kích thước cố định trước khi đưa vào phân loại và hồi quy vị trí.

Phương pháp nghiên cứu

Nghiên cứu sử dụng nguồn dữ liệu lớn từ tập dữ liệu chuẩn quốc tế MS COCO chứa hàng chục nghìn ảnh với 80 nhóm đối tượng đa dạng, kết hợp cùng tập dữ liệu hình ảnh thu thập trong đời sống hằng ngày. Phương pháp chọn mẫu phân tầng ngẫu nhiên được áp dụng để đảm bảo độ bao phủ trên nhiều điều kiện ánh sáng, góc chụp và tỷ lệ đối tượng. Cỡ mẫu dữ liệu được phân chia nghiêm ngặt theo tỷ lệ kiểm định chéo: 60% dữ liệu huấn luyện (Training), 20% dữ liệu kiểm chéo (Validation) và 20% dữ liệu kiểm tra độc lập (Testing) nhằm kiểm soát chặt chẽ sai số và ngăn ngừa hiện tượng underfitting hoặc overfitting.

Phương pháp phân tích tập trung vào việc tính toán hàm mất mát đa nhiệm (Multi-task Loss) kết hợp giữa hàm mất mát phân loại (Log Loss) và hàm mất mát hồi quy tọa độ đường bao (Smooth L1 Loss). Hệ thống khởi tạo 9 mẫu khung bao (anchor) tại mỗi điểm ảnh với 3 tỷ lệ khung hình (1:1, 1:2, 2:1) và 3 kích thước (128x128, 256x256, 512x512). Tiêu chí gán nhãn dựa trên chỉ số diện tích chồng lấn IoU (Intersection-over-Union): các anchor có IoU lớn hơn 0.7 được xác định là đối tượng, trong khi anchor có IoU nhỏ hơn 0.3 bị loại bỏ. Toàn bộ quá trình phân tích và thực nghiệm được tiến hành trong giai đoạn 2017–2018 bằng phần mềm mô phỏng chuyên dụng.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Nghiên cứu đã đạt được các kết quả thực nghiệm nổi bật thông qua việc so sánh và định lượng hiệu năng giữa các kiến trúc học sâu:

• Tối ưu hóa số lượng tham số mạng CNN: Mô hình CNN 15 lớp tùy biến (bao gồm 3 tầng tích chập, 3 tầng pooling và 2 tầng fully-connected) chỉ sử dụng tổng cộng 144.830 tham số. So với mạng ANN kết nối đầy đủ truyền thống cho cùng một ảnh đầu vào (vốn yêu cầu hơn 1,6 tỷ tham số), mạng CNN đã cắt giảm hơn 99% số lượng tham số, giải quyết triệt để nút thắt tài nguyên bộ nhớ.
• Hiệu quả sinh vùng đề xuất của RPN: Mạng RPN trên cấu hình ảnh 600x800 pixel với bước trượt stride 16 đã tạo ra 1.989 điểm ảnh và sinh ra đồng thời 17.901 đường bao anchor. Điều này cho phép hệ thống bao quát toàn bộ các vật thể xuất hiện với kích thước và tỷ lệ khác nhau.
• Tốc độ xử lý bứt phá: Thuật toán Faster R-CNN rút ngắn thời gian xử lý xuống còn khoảng 0,2 đến 2 giây mỗi ảnh, cải thiện tốc độ gấp hơn 60 lần so với mô hình R-CNN ban đầu (mất trung bình 120 giây mỗi ảnh) và vượt trội hơn so với Fast R-CNN khi loại bỏ được thời gian chờ của thuật toán Selective Search trên CPU.
• Độ chính xác nhận diện cao: Tỷ lệ phân loại chính xác các đối tượng đơn đạt mức trên 90%, trong khi độ chính xác định vị đa đối tượng trên tập dữ liệu thử nghiệm đạt xấp xỉ 88%, tiệm cận với khả năng nhận biết thị giác của con người.

Thảo luận kết quả

Sự vượt trội của Faster R-CNN bắt nguồn từ việc chia sẻ toàn bộ các bản đồ đặc trưng tích chập (feature maps) giữa mạng đề xuất vùng RPN và mạng phân loại đối tượng phía sau. Thay vì sử dụng thuật toán tìm kiếm chọn lọc truyền thống chạy tuần tự và chậm chạp trên CPU, việc đưa RPN vào tính toán song song trên GPU đã giải phóng hoàn toàn hiệu năng xử lý.

Các kết quả thực nghiệm trong luận văn có thể được biểu diễn trực quan qua biểu đồ đường thể hiện quá trình suy giảm hàm mất mát qua từng chu kỳ huấn luyện (epochs), cùng với biểu đồ cột so sánh thời gian thực thi giữa ba thế hệ mạng: R-CNN (120 giây), Fast R-CNN (2 giây) và Faster R-CNN (dưới 2 giây). Bảng ma trận nhầm lẫn (confusion matrix) cũng minh chứng rõ nét khả năng phân biệt ranh giới giữa các đối tượng có hình dạng tương đồng. Khi đặt trong tương quan với các nghiên cứu công bố quốc tế của Alex Krizhevsky (năm 2012) và Shaoqing Ren (năm 2015), mô hình của luận văn đã khẳng định tính ổn định cao và khả năng thích ứng linh hoạt trong điều kiện phần cứng máy tính tiêu chuẩn.

Đề xuất và khuyến nghị

Dựa trên kết quả nghiên cứu và thực nghiệm, luận văn đưa ra 4 nhóm giải pháp mang tính ứng dụng cao:

1. Nâng cấp mô hình lên kiến trúc phân vùng thực thể Mask R-CNN: Đề xuất các nhóm nghiên cứu thị giác máy tính tại các trường đại học triển khai mở rộng mạng Faster R-CNN sang Mask R-CNN nhằm xác định chính xác đường viền ranh giới đối tượng đến từng điểm ảnh. Mục tiêu: Nâng cao chỉ số độ chính xác trung bình (mAP) thêm 15% đến 20% trong vòng 6 đến 12 tháng.
2. Xây dựng bộ dữ liệu hình ảnh đặc thù cho môi trường Việt Nam: Khuyến nghị các viện nghiên cứu và trung tâm trí tuệ nhân tạo thu thập thêm 50.000 hình ảnh thực tế về giao thông, biển báo và sinh hoạt đô thị trong điều kiện thời tiết phức tạp. Mục tiêu: Giảm thiểu tỷ lệ nhận diện sai sót xuống dưới 5% khi triển khai thực địa, thực hiện trong lộ trình 12 tháng.
3. Tối ưu hóa và nén mô hình cho thiết bị nhúng (Edge AI): Các kỹ sư phần mềm và doanh nghiệp công nghệ cần áp dụng kỹ thuật lượng tử hóa trọng số (Quantization) và cắt tỉa mô hình (Pruning) để giảm dung lượng mạng CNN xuống dưới 50MB. Mục tiêu: Giúp hệ thống hoạt động mượt mà với tốc độ trên 30 khung hình/giây (FPS) trên các vi xử lý nhúng của robot và xe tự hành, hoàn thành trong 9 tháng.
4. Triển khai hệ thống giám sát an ninh và điều hành giao thông thông minh: Đề xuất các cơ quan quản lý đô thị phối hợp với doanh nghiệp công nghệ tích hợp mô hình nhận diện đa đối tượng vào mạng lưới camera giám sát. Mục tiêu: Tự động hóa phát hiện sự cố giao thông với thời gian phản hồi dưới 3 giây, triển khai thí điểm trong thời gian 18 tháng.

Đối tượng nên tham khảo luận văn

• Học viên cao học và sinh viên chuyên ngành Kỹ thuật Điện tử, Tự động hóa và Công nghệ thông tin: Tài liệu cung cấp phương pháp chi tiết về cách thiết lập thông số mạng CNN, tính toán trọng số từng tầng và lập trình mô phỏng xử lý ảnh, hỗ trợ trực tiếp cho quá trình làm đồ án tốt nghiệp và khóa luận.
• Kỹ sư Trí tuệ nhân tạo và Thị giác máy tính (AI/Computer Vision Engineers): Nắm bắt kỹ thuật cấu hình 9 anchor, nguyên lý hoạt động của tầng ROI Pooling và cơ chế tối ưu hàm mất mát đa nhiệm để ứng dụng vào việc phát triển hệ thống xe tự lái, camera AI và drone thông minh.
• Giảng viên và nhà nghiên cứu học thuật: Sử dụng luận văn như tài liệu tham khảo giảng dạy chuyên sâu về lộ trình tiến hóa từ mạng nơ-ron truyền thống sang Deep Learning, hỗ trợ việc thiết kế bài giảng và định hướng đề tài nghiên cứu mới.
• Quản lý dự án công nghệ và doanh nghiệp tự động hóa: Có cơ sở dữ liệu định lượng về thời gian xử lý và yêu cầu phần cứng để đánh giá tính khả thi kinh tế trước khi đầu tư vào các dự án thị giác máy tính trong sản xuất và vận hành kho bãi thông minh.

Câu hỏi thường gặp

Mạng CNN khắc phục nhược điểm cốt lõi nào của mạng ANN truyền thống trong xử lý ảnh?

Mạng ANN truyền thống kết nối đầy đủ tất cả các điểm ảnh, dẫn đến hơn 1,6 tỷ tham số đối với ảnh kích thước 200x200 pixel, gây quá tải bộ nhớ và quá khớp nghiêm trọng. CNN giải quyết vấn đề này nhờ cơ chế chia sẻ trọng số và trường tiếp nhận cục bộ, giúp kiến trúc 15 lớp chỉ còn 144.830 tham số, giảm trên 99% lượng tính toán.

Vì sao Faster R-CNN đạt tốc độ xử lý vượt trội hơn R-CNN và Fast R-CNN?

R-CNN tạo 2.000 vùng đề xuất tuần tự bằng thuật toán trên CPU, mất tới 120 giây mỗi ảnh. Faster R-CNN thay thế hoàn toàn bước này bằng mạng RPN chạy song song trực tiếp trên GPU và tái sử dụng bản đồ đặc tính của VGG16, rút ngắn thời gian xử lý xuống chỉ còn dưới 2 giây mỗi khung hình.

Vai trò của các Anchor trong mô hình Faster R-CNN là gì?

Anchor là các khung bao chuẩn với 3 kích thước và 3 tỷ lệ khung hình khác nhau, tạo ra 9 mẫu cố định tại mỗi điểm ảnh. Hệ thống sinh ra 17.901 anchor trên ảnh 600x800 pixel để dự đoán vị trí các vật thể có tỷ lệ biến thiên, giúp cố định hóa số lượng đầu ra cho bài toán phát hiện đối tượng.

Hàm kích hoạt ReLU mang lại lợi ích gì trong quá trình huấn luyện mạng?

Khác với hàm Sigmoid dễ bị triệt tiêu đạo hàm khi mạng có nhiều tầng, hàm ReLU tính toán đơn giản và biến đổi phi tuyến hiệu quả. ReLU giúp khoảng 50% nơ-ron ẩn được kích hoạt giá trị dương, tạo tính thưa cho mạng và đẩy nhanh tốc độ hội tụ mà không cần bước tiền huấn luyện phức tạp.

Phương pháp nào được sử dụng để kiểm soát hiện tượng Overfitting trong luận văn?

Nghiên cứu áp dụng kỹ thuật kiểm định chéo phân chia dữ liệu thành ba phần độc lập theo tỷ lệ 60% huấn luyện, 20% kiểm chéo và 20% kiểm tra. Quá trình đánh giá liên tục trên tập kiểm chéo giúp tinh chỉnh kịp thời các siêu tham số và hàm mất mát trước khi đánh giá cuối cùng.

Kết luận

• Hệ thống hóa hoàn chỉnh cơ sở lý thuyết từ tế bào nơ-ron sinh học, mạng ANN truyền thống đến các kiến trúc học sâu chuyên sâu về thị giác máy tính.
• Thiết kế và tối ưu thành công mô hình CNN 15 lớp với kích thước tinh gọn 144.830 tham số, giảm thiểu tối đa chi phí tính toán cho bài toán nhận diện đơn đối tượng.
• Làm chủ kỹ thuật nhận diện đa đối tượng Faster R-CNN, tận dụng mạng đề xuất vùng RPN để xử lý đồng thời 17.901 anchor trên ảnh độ phân giải cao.
• Nâng cao tốc độ xử lý từ 120 giây xuống dưới 2 giây mỗi ảnh, mở ra tiềm năng ứng dụng thời gian thực trong đời sống và công nghiệp.
• Thiết lập quy trình huấn luyện và kiểm định chuẩn mực theo tỷ lệ 60:20:20, đảm bảo tính khách quan và độ chính xác trên 88% cho toàn bộ hệ thống.

Luận văn thạc sĩ của tác giả Huỳnh Thu Thảo là công trình nghiên cứu công phu, kết hợp hài hòa giữa cơ sở toán học và giải pháp thực nghiệm Deep Learning. Trong giai đoạn 12 tháng tiếp theo, hướng phát triển trọng tâm là mở rộng thuật toán sang phân vùng thực thể và triển khai trên chip xử lý nhúng. Bạn đọc quan tâm có thể khai thác toàn văn tài liệu để nghiên cứu sâu hơn về bảng thông số trọng số chi tiết, cấu trúc mã nguồn mô phỏng và các biểu đồ phân tích thị giác máy tính chuyên sâu.

Trích đoạn nội dung tài liệu

Chương I: Tổng quan Giới thiệu tổng quan về mục đích của đề tài cũng như các nghiên cứu liên quan đến đề tài, cũng như trình bày mục tiêu và phương pháp thực hiện đề tài. Chương II: Cơ sở lý thuyết Giới thiệu cơ sở lý thuyết sử dụng trong đề tài như mạng CNN, mạng R-CNN, mạng Fast R-CNN, mạng Faster R-CNN và các kỹ thuật xử lý liên quan. Chương III: Xây dựng bài toán nhận dạng đơn giản dùng mạng nơron tích chập. Chương này sẽ đi vào trình bày cách xây dựng mạng, tổ chức dữ liệu, huấn luyện và giới thiệu các phần mềm mô phỏng các kỹ thuật.

Chương IV: Kết quả mô phỏng Chương này sẽ trình bày các kết quả mô phỏng nhằm so sánh và đánh giá các kỹ thuật. Chương V: Kết luận và hướng phát triển Chương này sẽ đưa ra kết luận và hướng phát triển của đề tài. 3 Chương 2: CƠ SỞ LÝ THUYẾT 2.1 Mạng nơron và mạng nơron lan truyền ngược 2.1 Giới thiệu về mạng Nơron Đặc điểm bộ não người: hệ xử lý thông tin phức tạp, phi tuyến và song song, có khả năng học, ghi nhớ, tổng quát hóa, xử lý lỗi và có khoảng 1011 tế bào thần kinh. Tế bào thần kinh sinh học gồm: đầu dây thần kinh, thân tế bào, sợi thần kinh.

Sợi nhánh Sợi trục Eo răng-vi-ê Thanh nơ ron Bao mi-ê-lin Nhân Hình 2.1: Tế bào thần kinh. Tế bào thần kinh nhân tạo: được biết như là mô hình toán học đơn giản của bộ não con người. 4 Đặc điểm: Cần được huấn luyện trước khi sử dụng, các nghiên cứu về lĩnh vực này bắt từ 1940. Hiện nay có rất nhiều mạng và các thuật toán huấn luyện tương ứng được công bố để giải quyết các bài toán khác nhau.

Mạng thần kinh nhân tạo: Nó bao gồm các tế bào thần kinh kết nối với nhau bởi các liên kết, mỗi liên kết kèm theo một trọng số. Các vectơ tín hiệu ngõ vào và vectơ trọng số của tế bào thần kinh.2: Mạng thần kinh nhân tạo. Theo tài liệu [2] ta có thể định nghĩa như sau: Mạng nơron (thần kinh) nhân tạo, Artificial Neural Network (ANN) là một mô hình xử lý thông tin phỏng theo cách thức xử lý thông tin của các hệ nơron sinh học. Nó được tạo nên từ một số lượng lớn các phần tử (nơron) kết nối với nhau thông qua các liên kết (trọng số liên kết) làm việc như một thể thống nhất để giải quyết một vấn đề cụ thể nào đó.

Một mạng nơron nhân tạo được cấu hình cho một ứng dụng cụ thể (nhận dạng mẫu, phân loại dữ liệu, .) thông qua một quá trình học từ tập các mẫu huấn luyện. Về bản chất học chính là quá trình hiệu chỉnh trọng số liên kết giữa các nơron. Các thành phần cơ bản của một nơron nhân tạo bao gồm:  Tập các đầu vào: là các tín hiệu vào của nơron, các tín hiệu này thường được đưa vào dưới dạng một vector N chiều. 5  Tập các liên kết: mỗi liên kết được thể hiện bởi một trọng số liên kết – Synaptic weight.

Trọng số liên kết giữa tín hiệu vào thứ j với nơron k thường được kí hiệu là Wij. Thông thường, các trọng số này được khởi tạo một cách ngẫu nhiên ở thời điểm khởi tạo mạng và được cập nhật liên tục trong quá trình học mạng.  Bộ tổng (Summing function): thường dùng để tính tổng của tích các đầu vào với trọng số liên kết của nó.  Ngưỡng (còn gọi là một độ lệch - bias): ngưỡng này thường được đưa vào nhờ một thành phần của hàm truyền.

 Hàm truyền (Transfer function): hàm này được dùng để giới hạn phạm vi đầu ra của mỗi nơron. Nó nhận đầu vào là kết quả của hàm tổng và ngưỡng.  Đầu ra: là tín hiệu đầu ra của một nơron, với mỗi nơron sẽ có tối đa là một đầu ra.  Xét về mặt toán học, cấu trúc của một nơron k, được mô tả bằng biểu thức sau: Hàm xử lý ngõ vào:  Hàm tuyến tính: n f  neti  ( wij x j )  i  W T X   (2.1) j 1  Hàm toàn phương: n f  net  ( wij xij 2 )  i (2.2) j 1  Hàm cầu: n f  net  (  2  ( wij  xij )2 )  i   2 ( X  W )T ( X  W )   (2.3) j 1 Hàm xử lý ngõ ra _ Hàm kích hoạt: Y = a(f), bao gồm: 6  Hàm nấc.

 Hàm tuyến tính.  Hàm tuyến tính bão hòa. Threshold Linear Gaussian Sigmoid Hình 2.3: Một số hàm tác động.2 Một số kiểu mạng nơron 2.1 Mạng truyền thẳng một lớp Hình 2.4: Mạng truyền thẳng một lớp. 7 Là mạng chỉ gồm một lớp tế bào thần kinh xử lý.

Tín hiệu chỉ truyền theo một chiều từ ngõ vào đến ngõ ra.2 Mạng truyền thẳng nhiều lớp Hình 2.5: Mạng truyền thẳng nhiều lớp. Là mạng gồm nhiều lớp tế bào thần kinh xử lý. Tín hiệu chỉ truyền theo một chiều từ ngõ vào đến ngõ ra.3 Mạng hồi quy một lớp Hình 2.6: Mạng hồi quy một lớp. 8 Là mạng chỉ gồm một lớp trong đó có tín hiệu hồi tiếp từ ngõ ra trở về ngõ vào.4 Mạng hồi quy nhiều lớp Hình 2.7: Mạng hồi quy nhiều lớp.

Là mạng gồm nhiều lớp tế bào thần kinh xử lý. Trong đó có tín hiệu hồi tiếp từ ngõ ra trở về ngõ vào.3 Các phương pháp huấn luyện mạng thần kinh nhân tạo Kiểu học Học thông số Học cấu trúc Có giám sát Củng cố Không giám sát Hình 2.8: Các phương pháp huấn luyện mạng thần kinh nhân tạo.1 Học có giám sát Hình 2. Học có giám sát: Là quá trình học có sự tham gia giám sát của một “thầy giáo”. Cũng giống như việc ta dạy một em nhỏ các chữ cái.

Ta đưa ra một chữ “a” và bảo với em đó rằng đây là chữ “a”. Việc này được thực hiện trên tất cả các mẫu chữ cái. Sau đó khi kiểm tra ta sẽ đưa ra một chữ cái bất kì (có thể viết hơi khác đi) và hỏi em đó đây là chữ gì? Như vậy với học có giám sát, số lớp cần phân loại đã được biết trước. Nhiệm vụ của thuật toán là phải xác định được một cách thức phân lớp sao cho với mỗi vector đầu vào sẽ được phân loại chính xác vào lớp của nó.2 Học củng cố Học củng cố: đôi khi còn được gọi là học thưởng-phạt (rewardpenalty learning), là sự tổ hợp của cả hai mô hình trên.

Phương pháp này cụ thể như sau: với vector đầu vào, quan sát vector đầu ra do mạng tính được. Nếu kết quả được xem là “tốt” thì mạng sẽ được thưởng theo nghĩa tăng các trọng số kết nối lên; ngược lại mạng sẽ bị phạt, các trọng số kết nối không thích hợp sẽ được giảm xuống.10: Học củng cố.3 Học không giám sát Hình 2.11: Học không giám sát.2 Mạng nơron tích chập CNN là một trong những thuật toán Deep Learning cho kết quả tốt nhất hiện nay trong hầu hết các bài toán về thị giác máy như phân lớp, nhận dạng, …Về cơ bản CNN là một kiểu mạng ANN truyền thẳng, trong đó kiến trúc chính gồm nhiều thành phần được ghép nối với nhau theo cấu trúc nhiều tầng đó là:  Convolution. 11 Trước tiên ta đi vào tìm hiểu khái niệm tích chập trong mạng nơ ron tích chập trước.1 Tích chập Tích chập được sử dụng đầu tiên trong xử lý tín hiệu số (Signal Processing). Nhờ vào nguyên lý biến đổi thông tin, các nhà khoa học đã áp dụng kĩ thuật này vào xử lý ảnh và video số.

Các nguyên lý về tích chập được trình bày rõ hơn trong tài liệu [1]. Để dễ hình dung, ta có thể xem tích chập như một cửa sổ trượt (Sliding Window) áp đặt lên một ma trận. Ta có thể theo dõi cơ chế của tích chập qua hình minh họa bên dưới: Hình ảnh Ma trận đặc tính Hình 2.12: Minh họa tích chập. Ma trận bên trái là một bức ảnh đen trắng.

Mỗi giá trị của ma trận tương đương với một điểm ảnh (pixel), 0 là màu đen, 1 là màu trắng (nếu là ảnh xám thì giá trị biến thiên từ 0 đến 255). Sliding window còn có tên gọi là kernel, filter hay feature detector. Ở đây, ta dùng một ma trận với bộ lọc 3×3 nhân từng thành phần tương ứng (Element-wise) với ma trận ảnh bên trái. Gía trị đầu ra do tích của các thành phần này cộng lại.

Kết quả của tích chập là một ma trận (Convoled Feature) sinh ra từ việc trượt ma trận bộ lọc và thực hiện tích chập cùng lúc lên toàn bộ ma trận ảnh bên trái. Dưới đây là kết quả thu được sau khi sử dụng cửa sổ trượt là ma trận tách biên Sobel: 12 Hình 2.2 Các thành phần cơ bản của mạng CNN Trước khi đi vào các thành phần cơ bản của CNN, ta xem xét một ví dụ về cách thức xử lý thông tin đầu vào của một ANN truyền thẳng để từ đó ta thể thấy được tác dụng của các thành phần có trong mạng CNN. W Lớp đầu vào Lớp ẩn Hình 2.14: ANN với cấu trúc kết nối đầy đủ. Hình trên mô tả một ví dụ với dữ liệu đầu vào là một bức ảnh có kích thước 200*200 được xử lý bằng ANN với kết nối đầy đủ giữa hai tầng liên tiếp (full connected).

Như vậy giả sử số neural tầng ẩn là 40000 thì tổng số tham số (mà cụ thể hơn ở đây là các trọng số liên kết W giữa các neural tầng nhập với tầng ẩn) cần phải ước lượng lên 13 đến 1. Điều này gây khó khăn cho việc huấn luyện ANN trên hai yếu tố:(1) chi phí để xây dựng dữ liệu huấn luyện lớn và (2) thời gian huấn luyện lâu. Từ thực tế đặt ra ở trên người ta thấy rằng để giảm số lượng tham số cần giảm số lượng kết nối giữa các lớp. Từ đây thành phần tích chập được áp dụng – ý tưởng chính là mỗi nơ ron chỉ cần kết nối tới một vùng cục bộ của ảnh thay vì trên toàn bộ ảnh.1 Lớp tích chập (Convolution layer) Lớp tích chập là lớp quan trọng nhất trong cấu trúc của CNN.

Lớp tích chập dựa trên lý thuyết xử lý tín hiệu số, việc lấy tích chập sẽ giúp trích xuất được những thông tin quan trọng từ dữ liệu. Hình dưới mô tả lý thuyết và cách thức tích chập hoạt động trên một dữ liệu đầu vào được biểu diễn bằng một ma trận hai chiều.