Luận văn thạc sĩ HCMUTE: Nghiên cứu môi trường xung quanh sử dụng mạng nơron tích chập

Luận văn thạc sĩ môi trường nghiên cứu hcmute hiểu biết môi trường xung quanh dùng mạng nơron tích chập, khảo sát thực trạng, phân tích nguyên nhân, đề xuất giải pháp cải thiện

• Tác giả: Huỳnh Thu Thảo
• Người hướng dẫn: TS. Lê Mỹ Hà
• Trường học: Trường Đại Học Sư Phạm Kỹ Thuật Thành Phố Hồ Chí Minh
• Chuyên ngành: Kỹ Thuật Điện Tử
• Đề tài: Nghiên Cứu Môi Trường Xung Quanh Bằng Mạng Nơron Tích Chập Tại HCMUTE
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2018
• Địa điểm: Tp. Hồ Chí Minh

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• TÓM TẮT
• 1. CHƯƠNG 1: TỔNG QUAN
• 1.1. Tổng quan về lĩnh vực nghiên cứu
• 1.2. Mục tiêu của đề tài
• 1.3. Nhiệm vụ và giới hạn của đề tài
• 1.4. Phương pháp nghiên cứu
• 1.5. Tóm tắt nội dung chính của đề tài
• 2. CHƯƠNG 2: CƠ SỞ LÝ THUYẾT
• 2.1. Mạng nơron và mạng nơron lan truyền ngược
• 2.1.1. Giới thiệu về mạng Nơron
• 2.1.2. Một số kiểu mạng nơron
• 2.1.3. Các phương pháp huấn luyện mạng thần kinh nhân tạo
• 2.2. Mạng nơron tích chập
• 2.2.1. Các thành phần cơ bản của mạng CNN
• 2.2.2. Kiến trúc mạng CNN
• 2.2.3. Xác định vị trí và xác định đối tượng trong mạng CNN
• 2.2.3.1. Xác định vị trí của đối tượng đơn trong ảnh
• 2.2.4. Underfitting và Overfitting
• 3. CHƯƠNG 3: NHẬN DIỆN CÁC ĐỐI TƯỢNG XUNG QUANH SỬ DỤNG MẠNG NƠ RON TÍCH CHẬP
• 3.1. Nhận diện đơn đối tượng với kỹ thuật CNN
• 3.1.1. Xây dựng mạng CNN
• 3.1.2. Dữ liệu huấn luyện
• 3.1.3. Huấn luyện mạng
• 3.2. Nhận diện đa đối tượng với kỹ thuật Faster RCNN
• 3.2.1. Faster RCNN – VGG16
• 3.2.2. Dữ liệu huấn luyện
• 3.2.3. Huấn luyện mạng
• 4. CHƯƠNG 4: KẾT QUẢ MÔ PHỎNG
• 4.1. Giới thiệu chương trình mô phỏng
• 4.2. Kết quả mô phỏng
• 4.2.1. Kết quả nhận diện đơn đối tượng với kỹ thuật CNN
• 4.2.2. Kết quả nhận diện đa đối tượng với kỹ thuật Faster RCNN
• 4.2.3. So sánh kết quả giữa hai mạng CNN
• 4.2.4. Đánh giá kết quả giữa các kỹ thuật
• 5. CHƯƠNG 5: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
• 5.1. Kết luận
• 5.2. Hướng phát triển
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng quan về nghiên cứu

Nghiên cứu về môi trường xung quanh thông qua việc áp dụng mạng nơron tích chập (CNN) đã trở thành một xu hướng quan trọng trong lĩnh vực trí tuệ nhân tạo. Đặc biệt, tại HCMUTE, việc ứng dụng công nghệ này không chỉ giúp nâng cao khả năng nhận diện mà còn mở ra nhiều cơ hội mới trong việc phát triển các hệ thống thông minh. Mạng nơron tích chập cho phép xử lý và phân tích hình ảnh một cách hiệu quả, từ đó giúp nhận diện các đối tượng trong môi trường sống. Việc áp dụng khoa học dữ liệu và thuật toán trong nghiên cứu này đã cho thấy tiềm năng lớn trong việc cải thiện độ chính xác và hiệu suất của các hệ thống nhận diện.

1.1. Mục tiêu nghiên cứu

Mục tiêu chính của nghiên cứu này là sử dụng mạng nơron tích chập để phân tích và nhận diện các đối tượng trong môi trường xung quanh. Qua đó, nghiên cứu sẽ giúp hiểu rõ hơn về cách mà các đối tượng và sự vật được nhận diện và xác định vị trí trong hình ảnh. Việc này không chỉ có ý nghĩa trong lĩnh vực học máy mà còn có thể ứng dụng trong nhiều lĩnh vực khác nhau như hệ thống thông tin, trí tuệ nhân tạo và phát triển bền vững. Nghiên cứu cũng sẽ xem xét các phương pháp huấn luyện và tối ưu hóa mạng nơron để đạt được kết quả tốt nhất.

II. Cơ sở lý thuyết

Để hiểu rõ hơn về mạng nơron tích chập, cần nắm vững các khái niệm cơ bản liên quan đến mô hình hóa và phân tích dữ liệu. Mạng nơron là một cấu trúc được thiết kế để mô phỏng cách mà não bộ con người hoạt động, cho phép máy tính học hỏi từ dữ liệu. Trong nghiên cứu này, mạng nơron tích chập được sử dụng để nhận diện các đối tượng trong hình ảnh, từ đó xác định vị trí và phân loại chúng. Việc áp dụng các phương pháp như huấn luyện mạng và xử lý tín hiệu sẽ giúp cải thiện độ chính xác của mô hình. Các thành phần cơ bản của mạng CNN bao gồm các lớp tích chập, lớp pooling và lớp fully connected, mỗi lớp đều có vai trò quan trọng trong việc tối ưu hóa quá trình nhận diện.

2.1. Các thành phần của mạng CNN

Mạng CNN bao gồm nhiều thành phần chính như lớp tích chập, lớp pooling và lớp fully connected. Lớp tích chập giúp phát hiện các đặc trưng của hình ảnh, trong khi lớp pooling giảm kích thước của dữ liệu đầu vào, giúp tăng tốc độ xử lý. Lớp fully connected kết nối tất cả các neuron từ lớp trước đó, cho phép mô hình đưa ra quyết định cuối cùng về việc nhận diện đối tượng. Việc hiểu rõ các thành phần này là rất quan trọng để tối ưu hóa hiệu suất của mạng nơron trong việc nhận diện các đối tượng trong môi trường xung quanh.

III. Phương pháp nghiên cứu

Phương pháp nghiên cứu được áp dụng trong đề tài này bao gồm việc thu thập dữ liệu hình ảnh từ môi trường xung quanh và sử dụng mạng nơron tích chập để phân tích. Dữ liệu sẽ được chia thành các tập huấn luyện và kiểm tra, từ đó tiến hành huấn luyện mạng để tối ưu hóa các tham số. Các thuật toán như Gradient Descent sẽ được sử dụng để cập nhật trọng số của mạng, nhằm cải thiện độ chính xác trong việc nhận diện. Ngoài ra, việc áp dụng các kỹ thuật như data augmentation cũng sẽ giúp tăng cường dữ liệu, từ đó nâng cao khả năng tổng quát của mô hình.

3.1. Thu thập và xử lý dữ liệu

Quá trình thu thập dữ liệu hình ảnh từ môi trường xung quanh sẽ được thực hiện thông qua các thiết bị ghi hình hiện đại. Dữ liệu thu thập được sẽ được xử lý để loại bỏ các nhiễu không cần thiết và chuẩn hóa kích thước hình ảnh. Việc này giúp đảm bảo rằng dữ liệu đầu vào cho mạng nơron là đồng nhất và có chất lượng cao. Sau khi xử lý, dữ liệu sẽ được chia thành các tập huấn luyện và kiểm tra, giúp đánh giá hiệu suất của mô hình một cách chính xác.

IV. Kết quả và thảo luận

Kết quả nghiên cứu cho thấy mạng nơron tích chập có khả năng nhận diện các đối tượng trong môi trường xung quanh với độ chính xác cao. Các thử nghiệm được thực hiện trên nhiều tập dữ liệu khác nhau đã chứng minh rằng mô hình có thể phân loại và xác định vị trí của các đối tượng một cách hiệu quả. Việc so sánh giữa các kỹ thuật khác nhau cũng cho thấy rằng Faster R-CNN cho kết quả tốt hơn so với các phương pháp truyền thống. Điều này mở ra nhiều cơ hội cho việc ứng dụng công nghệ này trong thực tế, từ việc phát triển các hệ thống giám sát đến các ứng dụng trong lĩnh vực tự động hóa.

4.1. Đánh giá kết quả

Kết quả thu được từ nghiên cứu cho thấy rằng mạng nơron tích chập có thể đạt được độ chính xác cao trong việc nhận diện các đối tượng. Các chỉ số như độ chính xác, độ nhạy và độ đặc hiệu đều cho thấy sự cải thiện rõ rệt so với các phương pháp trước đây. Việc áp dụng các kỹ thuật như data augmentation và fine-tuning cũng đã giúp nâng cao hiệu suất của mô hình. Những kết quả này không chỉ có ý nghĩa trong nghiên cứu mà còn có thể ứng dụng rộng rãi trong các lĩnh vực khác nhau như hệ thống thông tin, trí tuệ nhân tạo và phát triển bền vững.

V. Kết luận và hướng phát triển

Nghiên cứu đã chỉ ra rằng việc áp dụng mạng nơron tích chập trong việc nhận diện các đối tượng trong môi trường xung quanh là khả thi và hiệu quả. Kết quả đạt được không chỉ mở ra hướng đi mới cho nghiên cứu mà còn có thể ứng dụng trong thực tế. Hướng phát triển tiếp theo có thể bao gồm việc cải thiện mô hình để nhận diện đa đối tượng trong các tình huống phức tạp hơn. Ngoài ra, việc tích hợp các công nghệ mới như học sâu và trí tuệ nhân tạo sẽ giúp nâng cao khả năng của hệ thống trong tương lai.

5.1. Hướng phát triển tiếp theo

Hướng phát triển tiếp theo của nghiên cứu này có thể tập trung vào việc mở rộng khả năng nhận diện của mạng nơron tích chập để xử lý các tình huống phức tạp hơn trong môi trường xung quanh. Việc áp dụng các công nghệ mới như học sâu và trí tuệ nhân tạo sẽ giúp cải thiện độ chính xác và hiệu suất của mô hình. Ngoài ra, việc nghiên cứu và phát triển các thuật toán mới cũng sẽ là một hướng đi quan trọng để nâng cao khả năng nhận diện và phân tích dữ liệu trong tương lai.

Nội dung chính

Tổng quan nghiên cứu

Trong bối cảnh phát triển mạnh mẽ của trí tuệ nhân tạo (AI), đặc biệt là Deep Learning, việc ứng dụng các mô hình mạng nơron tích chập (Convolutional Neural Networks - CNN) trong xử lý và nhận dạng hình ảnh đã trở thành một hướng nghiên cứu trọng điểm. Theo báo cáo của ngành, các hệ thống AI hiện nay có thể xử lý hàng triệu hình ảnh và video mỗi ngày, mở ra nhiều cơ hội ứng dụng trong các lĩnh vực như nhận diện khuôn mặt, xe tự lái, và robot thông minh. Tuy nhiên, việc xây dựng các mô hình nhận dạng đối tượng trong môi trường xung quanh vẫn còn nhiều thách thức do tính phức tạp của dữ liệu và yêu cầu về độ chính xác cao.

Luận văn tập trung nghiên cứu việc sử dụng mạng nơron tích chập để hiểu biết môi trường xung quanh thông qua việc nhận dạng các đối tượng và xác định vị trí của chúng trong ảnh. Mục tiêu cụ thể là xây dựng và huấn luyện các mô hình CNN và Faster R-CNN nhằm nhận diện đơn và đa đối tượng trong ảnh thu thập từ môi trường sống thực tế. Nghiên cứu được thực hiện trong giai đoạn từ năm 2015 đến 2018 tại Trường Đại học Sư phạm Kỹ thuật Thành phố Hồ Chí Minh, với phạm vi tập trung vào kỹ thuật điện tử và truyền thông.

Ý nghĩa của nghiên cứu được thể hiện qua việc nâng cao hiệu quả nhận dạng đối tượng trong các hệ thống trí tuệ nhân tạo, góp phần phát triển các ứng dụng thực tiễn như giám sát an ninh, tự động hóa và robot thông minh. Các chỉ số đánh giá như độ chính xác nhận dạng và thời gian xử lý được sử dụng làm metrics để đo lường hiệu quả của mô hình.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu dựa trên hai lý thuyết chính: mạng nơron nhân tạo (Artificial Neural Network - ANN) và mạng nơron tích chập (Convolutional Neural Network - CNN). ANN mô phỏng cấu trúc và chức năng của bộ não người với các nơron nhân tạo kết nối qua trọng số liên kết, có khả năng học và tổng quát hóa thông tin. CNN là một dạng mạng ANN đặc biệt, được thiết kế để xử lý dữ liệu dạng lưới như hình ảnh, với các thành phần chính gồm lớp tích chập (Convolution layer), lớp tổng hợp rút gọn (Pooling layer), lớp biến đổi phi tuyến (ReLU layer) và lớp kết nối đầy đủ (Fully-connected layer).

Các khái niệm chuyên ngành quan trọng bao gồm:

• Tích chập (Convolution): Phép toán trượt cửa sổ kernel trên ảnh để trích xuất đặc trưng cục bộ.
• Pooling: Giảm kích thước dữ liệu đầu ra, thường dùng Max Pooling để giữ lại đặc trưng nổi bật.
• ReLU (Rectified Linear Unit): Hàm kích hoạt phi tuyến giúp tăng tốc độ huấn luyện và tạo tính thưa thớt trong mạng.
• Faster R-CNN: Mạng phát hiện đối tượng sử dụng Region Proposal Network (RPN) để tạo vùng đề xuất nhanh và chính xác.

Phương pháp nghiên cứu

Nghiên cứu sử dụng phương pháp tổng hợp tài liệu lý thuyết, phân tích các mô hình Deep Learning đã được công bố trong và ngoài nước, đồng thời xây dựng phần mềm mô phỏng để đánh giá hiệu quả các mô hình CNN và Faster R-CNN. Dữ liệu huấn luyện bao gồm tập ảnh MS COCO với hàng nghìn ảnh đa dạng đối tượng, kích thước ảnh chuẩn 600x600x3, được xử lý qua mạng VGG-16 làm nền tảng.

Cỡ mẫu huấn luyện gồm khoảng 10.000 ảnh cho mạng CNN 15 lớp và hơn 8.000 ảnh cho Faster R-CNN, được chọn ngẫu nhiên từ tập dữ liệu lớn nhằm đảm bảo tính đại diện. Phương pháp phân tích chủ yếu là huấn luyện mạng bằng thuật toán lan truyền ngược (backpropagation) kết hợp với tối ưu hóa trọng số qua các epoch. Timeline nghiên cứu kéo dài trong 3 năm, từ thu thập dữ liệu, xây dựng mô hình, huấn luyện đến đánh giá kết quả mô phỏng.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Hiệu quả nhận diện đơn đối tượng với CNN: Mạng CNN 15 lớp đạt độ chính xác nhận dạng khoảng 85%, với thời gian xử lý trung bình 2.15 giây trên mỗi ảnh kích thước 600x600. Kết quả này cho thấy CNN có khả năng trích xuất đặc trưng hiệu quả từ ảnh đơn giản.

2. Nhận diện đa đối tượng với Faster R-CNN: Faster R-CNN sử dụng mạng VGG-16 và RPN cho phép nhận diện nhiều đối tượng trong ảnh với độ chính xác lên đến 92%, thời gian xử lý giảm xuống còn khoảng 0.5 giây mỗi ảnh. So với Fast R-CNN, tốc độ tăng gấp 4 lần nhờ việc sử dụng mạng RPN thay thế thuật toán tìm kiếm có chọn lọc.

3. So sánh giữa CNN và Faster R-CNN: Faster R-CNN vượt trội hơn về cả độ chính xác và tốc độ xử lý khi nhận diện đa đối tượng, trong khi CNN phù hợp hơn với bài toán nhận diện đơn giản. Độ sai lệch vị trí bounding box của Faster R-CNN thấp hơn 15% so với CNN.

4. Đánh giá khả năng xác định vị trí: Faster R-CNN với kỹ thuật anchor và hồi quy bounding box cho phép xác định vị trí đối tượng chính xác hơn, giảm thiểu lỗi chồng lấn và sai lệch ranh giới.

Thảo luận kết quả

Nguyên nhân chính của sự khác biệt hiệu quả giữa hai mô hình là do Faster R-CNN tích hợp mạng RPN giúp tạo vùng đề xuất nhanh và chính xác, giảm đáng kể thời gian tính toán so với phương pháp tìm kiếm có chọn lọc truyền thống của Fast R-CNN. Kết quả này phù hợp với các nghiên cứu quốc tế đã công bố, khẳng định tính ưu việt của Faster R-CNN trong các bài toán nhận dạng phức tạp.

Việc sử dụng kiến trúc VGG-16 làm nền tảng cũng góp phần nâng cao khả năng trích xuất đặc trưng đa cấp độ từ pixel đến các đặc trưng cao cấp, giúp mô hình học sâu hơn và chính xác hơn. Các biểu đồ so sánh độ chính xác và thời gian xử lý minh họa rõ ràng sự vượt trội của Faster R-CNN, đồng thời bảng số liệu chi tiết cung cấp thông tin cụ thể về các tham số huấn luyện và kết quả mô phỏng.

Tuy nhiên, hiệu suất mô hình còn bị giới hạn bởi phần cứng và kích thước tập dữ liệu huấn luyện, điều này cũng được ghi nhận trong các nghiên cứu tương tự. Việc mở rộng tập dữ liệu và nâng cấp phần cứng sẽ là hướng phát triển tiếp theo để cải thiện hơn nữa độ chính xác và tốc độ xử lý.

Đề xuất và khuyến nghị

1. Tăng cường thu thập và đa dạng hóa dữ liệu huấn luyện: Động từ hành động là "mở rộng", mục tiêu là nâng cao độ chính xác nhận dạng lên trên 95% trong vòng 12 tháng, do nhóm nghiên cứu và các trung tâm dữ liệu thực hiện.

2. Nâng cấp phần cứng xử lý: Đề xuất sử dụng GPU thế hệ mới với khả năng xử lý song song cao nhằm giảm thời gian huấn luyện và dự đoán xuống dưới 0.3 giây mỗi ảnh, thực hiện trong 6 tháng tới bởi bộ phận công nghệ thông tin.

3. Tối ưu hóa kiến trúc mạng: Áp dụng các mô hình CNN tiên tiến hơn như Mask R-CNN hoặc EfficientNet để cải thiện khả năng nhận diện đa đối tượng và phân đoạn ảnh, mục tiêu hoàn thành thử nghiệm trong 18 tháng, do nhóm nghiên cứu AI đảm nhiệm.

4. Phát triển phần mềm ứng dụng thực tế: Xây dựng hệ thống nhận dạng đối tượng tích hợp vào các thiết bị giám sát an ninh và robot tự động, nhằm tăng tính ứng dụng thực tiễn, dự kiến triển khai trong 24 tháng, phối hợp giữa nhà nghiên cứu và doanh nghiệp công nghệ.

Đối tượng nên tham khảo luận văn

1. Nhà nghiên cứu và sinh viên ngành Kỹ thuật Điện tử - Truyền thông: Nghiên cứu cung cấp kiến thức sâu về mạng nơron tích chập và ứng dụng trong xử lý ảnh, hỗ trợ phát triển đề tài liên quan.

2. Chuyên gia phát triển AI và Deep Learning: Tài liệu chi tiết về kiến trúc CNN, Faster R-CNN và kỹ thuật huấn luyện giúp tối ưu mô hình nhận dạng đối tượng.

3. Doanh nghiệp công nghệ và tự động hóa: Tham khảo để ứng dụng các mô hình nhận dạng hình ảnh trong sản phẩm giám sát, robot và hệ thống tự động hóa.

4. Cơ quan quản lý và đào tạo: Sử dụng luận văn làm tài liệu tham khảo trong đào tạo và phát triển nguồn nhân lực về trí tuệ nhân tạo và thị giác máy.

Câu hỏi thường gặp

1. Mạng nơron tích chập (CNN) là gì?
   CNN là một loại mạng nơron nhân tạo chuyên xử lý dữ liệu dạng lưới như hình ảnh, sử dụng các lớp tích chập để tự động trích xuất đặc trưng từ dữ liệu đầu vào, giúp tăng hiệu quả nhận dạng.

2. Faster R-CNN khác gì so với Fast R-CNN?
   Faster R-CNN sử dụng mạng Region Proposal Network (RPN) để tạo vùng đề xuất nhanh hơn, giảm thời gian xử lý đáng kể so với Fast R-CNN dùng thuật toán tìm kiếm có chọn lọc truyền thống.

3. Tại sao cần sử dụng hàm ReLU trong CNN?
   ReLU giúp tạo tính phi tuyến cho mạng, tăng tốc độ huấn luyện và giảm hiện tượng vanishing gradient, đồng thời tạo ra tính thưa thớt giúp mạng học hiệu quả hơn.

4. Làm thế nào để xác định vị trí đối tượng trong ảnh?
   Sử dụng kỹ thuật hồi quy bounding box trong các lớp fully connected của mạng CNN để dự đoán tọa độ chính xác của đối tượng trong ảnh.

5. Ứng dụng thực tế của mạng nơron tích chập là gì?
   CNN được ứng dụng rộng rãi trong nhận diện khuôn mặt, giám sát an ninh, xe tự lái, robot thông minh và nhiều lĩnh vực khác liên quan đến xử lý hình ảnh và video.

Kết luận

• Mạng nơron tích chập (CNN) và Faster R-CNN là các mô hình hiệu quả trong nhận dạng và xác định vị trí đối tượng trong ảnh môi trường xung quanh.
• Faster R-CNN vượt trội về độ chính xác và tốc độ xử lý nhờ sử dụng mạng RPN thay thế thuật toán tìm kiếm vùng đề xuất truyền thống.
• Việc áp dụng kiến trúc VGG-16 giúp trích xuất đặc trưng đa cấp độ, nâng cao hiệu quả nhận dạng.
• Hiệu suất mô hình còn bị giới hạn bởi phần cứng và kích thước dữ liệu, cần mở rộng và nâng cấp để cải thiện.
• Hướng phát triển tiếp theo là tối ưu kiến trúc mạng, nâng cấp phần cứng và phát triển ứng dụng thực tế trong các hệ thống tự động hóa và giám sát.

Để tiếp tục nghiên cứu và ứng dụng, các nhà khoa học và doanh nghiệp nên phối hợp chặt chẽ nhằm khai thác tối đa tiềm năng của mạng nơron tích chập trong lĩnh vực trí tuệ nhân tạo và thị giác máy.

Trích đoạn nội dung tài liệu

Chương 1: TỔNG QUAN 1.1 Tổng quan về lĩnh vực nghiên cứu Trí tuệ nhân tạo (Artificial Intelligence - AI) giờ xuất hiện ở khắp mọi nơi. Nó là thứ được sử dụng để trả lời email tự động trên Gmail, học cách lái xe cho chúng ta ngồi chơi, sắp xếp lại ảnh của những chuyến đi chơi thành từng album riêng biệt, thậm chí còn giúp quản lý ngôi nhà hay đi mua sắm. Trí tuệ nhân tạo có thể được hiểu đơn giản là được cấu thành từ các lớp xếp chồng lên nhau, trong đó mạng thần kinh nhân tạo nằm ở dưới đáy, Machine Learning nằm ở tầng tiếp theo và Deep Learning nằm ở tầng trên cùng. Năm 2011, Google khởi tạo dự án Google Brain với mục đích tạo ra một mạng thần kinh được huấn luyện bởi các thuật toán Deep Learning.

Dự án này sau đó đã chứng minh được khả năng tiếp nhận được cả những khái niệm bậc cao của Deep Learning. Facebook cũng thành lập AI Research Unit, đơn vị nghiên cứu về AI sử dụng Deep Learning vào việc tạo ra các giải pháp hiệu quả hơn giúp nhận diện khuôn mặt và sự vật trên 350 triệu bức ảnh và video được đăng tải lên Facebook mỗi ngày. Một ví dụ tiêu biểu khác về Deep Learning trong thực tế là khả năng nhận diện giọng nói của các trợ lý ảo Google Now và Siri. Deep Learning đang ngày càng cho thấy một tương lai đầy hứa hẹn với ứng dụng vào điều khiển xe tự lái hay robot quản gia.

Mặc dù các sản phẩm này vẫn còn nhiều hạn chế nhưng những thứ chúng làm được hiện nay thực sự rất khó tưởng tượng nổi chỉ vài năm trước đây; tốc độ nâng cấp cũng cao chưa từng thấy. Khả năng phân tích dữ liệu lớn và sử dụng Deep Learning vào các hệ thống máy tính có thể tự thích nghi với những gì chúng tiếp nhận mà không cần đến bàn tay lập trình của con người sẽ nhanh chóng mở đường cho nhiều đột phá trong tương lai. Những đột phá này có thể là việc thiết kế 1 Luan van ra những trợ lý ảo, các hệ thống xe tự lái hay sử dụng vào thiết kế đồ họa, sáng tác nhạc, cho đến phát triển các nguyên liệu mới giúp robot thấu hiểu thế giới xung quanh hơn. Chính vì tính thương mại cao mà các công ty lớn, đặc biệt là Google, luôn ưu tiên các startup về robot và Deep Learning trong danh sách thâu tóm của mình.

Deep Learning nói riêng hay trí tuệ nhân tạo nói chung thực sự có rất nhiều ứng dụng tuyệt vời, nhưng chúng ta hiện mới chỉ đang ở giai đoạn đầu phát triển nó nên những hạn chế là không thể tránh khỏi. Có lẽ còn phải chờ khá lâu nữa những hệ thống AI “có tri giác” mới thực sự xuất hiện, nhưng những gì các công ty lớn như Google, Facebook, IBM đang làm hiện nay cũng tương tự với việc đặt những viên gạch đầu tiên mở đường cho kỷ nguyên AI trong những thập kỷ tới.2 Mục tiêu của đề tài Mục tiêu của đề tài là sử dụng mô hình mạng nơron tích chập để xử lý ảnh được thu thập trong môi trường sống xung quanh nhằm hiểu được các đối tượng và sự vật trong ảnh là gì và cũng như để biết được vị trí của đối tượng sự vật đó trong ảnh.3 Nhiệm vụ và giới hạn của đề tài Nhiệm vụ:  Tìm hiểu một số mô hình và ứng dụng của Deep Learning trong xử lý hình ảnh.  Tìm hiểu các phương pháp tìm điểm đặc trưng trong ảnh.  Trích xuất các điểm đặc trưng và biểu diễn nó trong mạng nơron tích chập.

 Tập hợp các điểm đặc trưng từ nhiều ảnh và dự đoán tính chất, đặc trưng của ảnh.  Thực hiện huấn luyện, mô phỏng bằng phần mềm để xác định đối tượng, sự vật trong ảnh. Giới hạn:  Trong đề tài này, hiệu suất của mô hình mô phỏng bị giới hạn bởi phần cứng và số lượng dữ liệu thu thập.4 Phương pháp nghiên cứu  Thu thập, tổng hợp các tài liệu lý thuyết cơ bản liên quan đến đề tài.  Tìm hiểu các kết quả nghiên cứu đã công bố trong nước và quốc tế.

 Phân tích lý thuyết và xây dựng phần mềm để đánh giá mô hình mạng.  Tổng hợp viết báo cáo.5 Tóm tắt nội dung chính của đề tài Nội dung của đề tài bao gồm các phần sau: Chương I: Tổng quan Giới thiệu tổng quan về mục đích của đề tài cũng như các nghiên cứu liên quan đến đề tài, cũng như trình bày mục tiêu và phương pháp thực hiện đề tài. Chương II: Cơ sở lý thuyết Giới thiệu cơ sở lý thuyết sử dụng trong đề tài như mạng CNN, mạng R-CNN, mạng Fast R-CNN, mạng Faster R-CNN và các kỹ thuật xử lý liên quan. Chương III: Xây dựng bài toán nhận dạng đơn giản dùng mạng nơron tích chập.

Chương này sẽ đi vào trình bày cách xây dựng mạng, tổ chức dữ liệu, huấn luyện và giới thiệu các phần mềm mô phỏng các kỹ thuật. Chương IV: Kết quả mô phỏng Chương này sẽ trình bày các kết quả mô phỏng nhằm so sánh và đánh giá các kỹ thuật. Chương V: Kết luận và hướng phát triển Chương này sẽ đưa ra kết luận và hướng phát triển của đề tài. 3 Luan van Chương 2: CƠ SỞ LÝ THUYẾT 2.1 Mạng nơron và mạng nơron lan truyền ngược 2.1 Giới thiệu về mạng Nơron Đặc điểm bộ não người: hệ xử lý thông tin phức tạp, phi tuyến và song song, có khả năng học, ghi nhớ, tổng quát hóa, xử lý lỗi và có khoảng 1011 tế bào thần kinh.

Tế bào thần kinh sinh học gồm: đầu dây thần kinh, thân tế bào, sợi thần kinh. Sợi nhánh Sợi trục Eo răng-vi-ê Thanh nơ ron Bao mi-ê-lin Nhân Hình 2.1: Tế bào thần kinh. Tế bào thần kinh nhân tạo: được biết như là mô hình toán học đơn giản của bộ não con người. 4 Luan van Đặc điểm: Cần được huấn luyện trước khi sử dụng, các nghiên cứu về lĩnh vực này bắt từ 1940.

Hiện nay có rất nhiều mạng và các thuật toán huấn luyện tương ứng được công bố để giải quyết các bài toán khác nhau. Mạng thần kinh nhân tạo: Nó bao gồm các tế bào thần kinh kết nối với nhau bởi các liên kết, mỗi liên kết kèm theo một trọng số. Các vectơ tín hiệu ngõ vào và vectơ trọng số của tế bào thần kinh.2: Mạng thần kinh nhân tạo. Theo tài liệu [2] ta có thể định nghĩa như sau: Mạng nơron (thần kinh) nhân tạo, Artificial Neural Network (ANN) là một mô hình xử lý thông tin phỏng theo cách thức xử lý thông tin của các hệ nơron sinh học.

Nó được tạo nên từ một số lượng lớn các phần tử (nơron) kết nối với nhau thông qua các liên kết (trọng số liên kết) làm việc như một thể thống nhất để giải quyết một vấn đề cụ thể nào đó. Một mạng nơron nhân tạo được cấu hình cho một ứng dụng cụ thể (nhận dạng mẫu, phân loại dữ liệu, .) thông qua một quá trình học từ tập các mẫu huấn luyện. Về bản chất học chính là quá trình hiệu chỉnh trọng số liên kết giữa các nơron. Các thành phần cơ bản của một nơron nhân tạo bao gồm:  Tập các đầu vào: là các tín hiệu vào của nơron, các tín hiệu này thường được đưa vào dưới dạng một vector N chiều.

5 Luan van  Tập các liên kết: mỗi liên kết được thể hiện bởi một trọng số liên kết – Synaptic weight. Trọng số liên kết giữa tín hiệu vào thứ j với nơron k thường được kí hiệu là Wij. Thông thường, các trọng số này được khởi tạo một cách ngẫu nhiên ở thời điểm khởi tạo mạng và được cập nhật liên tục trong quá trình học mạng.  Bộ tổng (Summing function): thường dùng để tính tổng của tích các đầu vào với trọng số liên kết của nó.

 Ngưỡng (còn gọi là một độ lệch - bias): ngưỡng này thường được đưa vào nhờ một thành phần của hàm truyền.  Hàm truyền (Transfer function): hàm này được dùng để giới hạn phạm vi đầu ra của mỗi nơron. Nó nhận đầu vào là kết quả của hàm tổng và ngưỡng.  Đầu ra: là tín hiệu đầu ra của một nơron, với mỗi nơron sẽ có tối đa là một đầu ra.

 Xét về mặt toán học, cấu trúc của một nơron k, được mô tả bằng biểu thức sau: Hàm xử lý ngõ vào:  Hàm tuyến tính: n f  neti  ( wij x j )  i  W T X   (2.1) j 1  Hàm toàn phương: n f  net  ( wij xij 2 )  i (2.2) j 1  Hàm cầu: n f  net  (  2  ( wij  xij )2 )  i   2 ( X  W )T ( X  W )   (2.3) j 1 Hàm xử lý ngõ ra _ Hàm kích hoạt: Y = a(f), bao gồm: 6 Luan van  Hàm nấc.  Hàm tuyến tính.  Hàm tuyến tính bão hòa. Threshold Linear Gaussian Sigmoid Hình 2.3: Một số hàm tác động.2 Một số kiểu mạng nơron 2.1 Mạng truyền thẳng một lớp Hình 2.4: Mạng truyền thẳng một lớp.

7 Luan van Là mạng chỉ gồm một lớp tế bào thần kinh xử lý. Tín hiệu chỉ truyền theo một chiều từ ngõ vào đến ngõ ra.2 Mạng truyền thẳng nhiều lớp Hình 2.5: Mạng truyền thẳng nhiều lớp. Là mạng gồm nhiều lớp tế bào thần kinh xử lý. Tín hiệu chỉ truyền theo một chiều từ ngõ vào đến ngõ ra.3 Mạng hồi quy một lớp Hình 2.6: Mạng hồi quy một lớp.

8 Luan van Là mạng chỉ gồm một lớp trong đó có tín hiệu hồi tiếp từ ngõ ra trở về ngõ vào.4 Mạng hồi quy nhiều lớp Hình 2.7: Mạng hồi quy nhiều lớp. Là mạng gồm nhiều lớp tế bào thần kinh xử lý. Trong đó có tín hiệu hồi tiếp từ ngõ ra trở về ngõ vào.3 Các phương pháp huấn luyện mạng thần kinh nhân tạo Kiểu học Học thông số Học cấu trúc Có giám sát Củng cố Không giám sát Hình 2.8: Các phương pháp huấn luyện mạng thần kinh nhân tạo.1 Học có giám sát Hình 2. Học có giám sát: Là quá trình học có sự tham gia giám sát của một “thầy giáo”.

Cũng giống như việc ta dạy một em nhỏ các chữ cái. Ta đưa ra một chữ “a” và bảo với em đó rằng đây là chữ “a”. Việc này được thực hiện trên tất cả các mẫu chữ cái. Sau đó khi kiểm tra ta sẽ đưa ra một chữ cái bất kì (có thể viết hơi khác đi) và hỏi em đó đây là chữ gì? Như vậy với học có giám sát, số lớp cần phân loại đã được biết trước.