Luận văn ThS: Nhận dạng và Phân loại Hoa quả trong Ảnh Màu

Luận văn nghiên cứu phương pháp nhận dạng hoa quả bằng ảnh màu. Ứng dụng xử lý ảnh và học máy để phân loại các loại trái cây một cách chính xác.

• Tác giả: Nguyễn Đắc Thành
• Người hướng dẫn: PGS. Lê Thanh Hà
• Trường học: Trường Đại học Công nghệ
• Chuyên ngành: Công nghệ thông tin
• Đề tài: Nhận dạng và phân loại hoa quả trong ảnh màu
• Loại tài liệu: Luận văn thạc sĩ
• Năm xuất bản: 2017
• Địa điểm: Hà Nội

Mục lục chi tiết

• Lời cam đoan
• Lời cảm ơn
• Mục lục
• Danh mục hình vẽ
• Danh mục bảng biểu
• Danh mục từ viết tắt
• MỞ ĐẦU
• 1.1. Tính cấp thiết của đề tài luận văn
• 1.2. Mục tiêu của luận văn
• 1.3. Cơ sở dữ liệu ảnh hoa quả
• 1.4. Bộ huấn luyện nhận dạng hoa quả
• 1.5. Ứng dụng nhận dạng hoa quả
• 1.6. Cấu trúc của luận văn
• 1. CHƯƠNG 1: GIỚI THIỆU TỔNG QUAN
• 1.1. Bài toán nhận dạng và phân loại hoa quả
• 1.2. Các hướng tiếp cận và giải quyết bài toán
• 1.2.1. Phương pháp Học máy truyền thống
• 1.2.2. Phương pháp Học sâu
• 2. Mạng nơ-ron tích chập
• 2.1. Kiến trúc Mạng nơ-ron tích chập
• 2.2. Học chuyển giao và tinh chỉnh mô hình huấn luyện
• 2.3. Mạng huấn luyện AlexNet
• 2.3.1. Kiến trúc mạng AlexNet
• 2.3.2. Ứng dụng mạng AlexNet vào bài toán Nhận dạng, phân loại hoa quả
• 3. Hệ thống phần mềm nhận dạng hoa quả
• 3.1. Tổng quan hệ thống
• 3.2. Mô đun quản lý cơ sở dữ liệu
• 3.3. Bộ huấn luyện mô hình
• 3.3.1. Môi trường huấn luyện
• 3.3.2. Cấu hình mạng huấn luyện AlexNet
• 3.3.3. Một số hình ảnh về đặc trưng do mạng AlexNet tính toán
• 3.4. Các mô đun phía Server
• 3.5. Ứng dụng phía Client
• 4. CHƯƠNG 4: KẾT QUẢ THỬ NGHIỆM VÀ ĐÁNH GIÁ
• 4.1. So sánh với phương pháp Học máy truyền thống
• 4.2. So sánh kết quả với bộ CSDL được sinh tự động
• 4.3. Thử nghiệm ứng dụng trong thực tế
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng quan về Luận văn Nhận dạng Hoa quả bằng Ảnh Màu

Luận văn "Nhận dạng và Phân loại Hoa quả trong Ảnh Màu" tập trung vào tự động hóa quá trình nhận dạng trái cây và đánh giá chất lượng nông sản. Hiện nay, công việc này chủ yếu được thực hiện thủ công, tốn nhiều thời gian và công sức. Luận văn đề xuất ứng dụng các mô hình deep learning hoa quả để xây dựng hệ thống nhận dạng trái cây tự động, đặc biệt là các loại hoa quả phổ biến ở Việt Nam. Luận văn sẽ nghiên cứu, tìm hiểu và so sánh các phương pháp machine learning hoa quả truyền thống với phương pháp deep learning hoa quả, đồng thời cài đặt một mô hình huấn luyện về nhận dạng ảnh. Ứng dụng sẽ hỗ trợ nhận dạng trái cây bằng điện thoại thông minh. Dữ liệu ảnh màu hoa quả đóng vai trò quan trọng, ảnh hưởng trực tiếp đến độ chính xác của mô hình. Số lượng hoa quả nhận dạng: 40 loại phổ biến như nho, táo, chuối, thanh long. Số lượng ảnh gốc cho mỗi loại: 500-1000 ảnh, chụp ở các góc độ khác nhau với nền tùy ý. Các thuật toán chỉnh sửa ảnh được sử dụng để tăng cường kích thước cơ sở dữ liệu. Để so sánh độ chính xác, luận văn cài đặt cả mạng nơ-ron nhân tạo truyền thống và mạng nơ-ron tích chập (CNN). Mục tiêu là xây dựng ứng dụng trên điện thoại thông minh hỗ trợ người dùng nhận dạng trái cây. Ứng dụng này sẽ giúp thu thập ảnh chụp cho cơ sở dữ liệu từ cộng tác viên sử dụng ứng dụng. Hệ thống nhận dạng hoa quả (Fruit Recognition System) bao gồm ứng dụng client trên điện thoại và máy chủ server. Mọi tính toán xử lý đều được đặt trên máy chủ để quản lý tập trung, tăng hiệu năng và đơn giản hóa ứng dụng client.

1.1. Giới thiệu bài toán Nhận dạng và Phân loại Hoa quả

Bài toán nhận dạng trái cây là một bài toán cơ bản trong lĩnh vực thị giác máy tính. Tuy nhiên, để máy tính hiểu được các thông tin trong một bức ảnh còn tồn tại rất nhiều khó khăn. Sự đa dạng trong điểm nhìn, kích thước, điều kiện chiếu sáng, sự che khuất và sự lộn xộn của nền là những thách thức lớn. Bài toán phân loại hoa quả kế thừa những khó khăn này và kèm theo các khó khăn riêng như số lượng chủng loại khổng lồ, sự biến thiên về màu sắc và hình dạng. Ví dụ, cùng một loại quả có thể có nhiều hình dạng khác nhau do ảnh hưởng của thời tiết và điều kiện thổ nhưỡng.

1.2. Các Phương pháp Tiếp cận Bài toán Nhận dạng Hoa quả

Bài toán nhận dạng hoa quả tự động đã xuất hiện từ lâu và có nhiều thuật toán được đề xuất. Các phương pháp xử lý ảnh màu ban đầu tập trung vào trích xuất thông tin về màu sắc, hình dạng và kích thước. Tuy nhiên, do sự phức tạp của hoa quả, kết quả đạt được không cao. Bắt đầu từ những năm 2000, phương pháp machine learning hoa quả được áp dụng với độ chính xác cao hơn. Hướng giải quyết tập trung vào ứng dụng và cải tiến các thuật toán học máy, cụ thể là nghiên cứu, thử nghiệm trích chọn các đặc trưng phù hợp nhất để đưa vào huấn luyện bộ nhận dạng tự động. Gần đây, sự phát triển của deep learning hoa quả đã mang lại nhiều thành tựu đáng kể. Phương pháp này đạt được kết quả rất cao trong các thử nghiệm với phạm vi hạn chế về số lượng loại hoa quả cần nhận dạng.

II. Thách thức và Giải pháp trong Nhận dạng Hoa quả bằng Ảnh

Bài toán nhận dạng trái cây đối mặt với nhiều thách thức. Số lượng chủng loại lớn, sự tương đồng giữa các loại, biến thiên màu sắc và hình dạng đều gây khó khăn cho việc phân loại hoa quả. Các phương pháp truyền thống dựa trên xử lý ảnh màu thường không đủ mạnh để xử lý sự phức tạp này. Giải pháp là sử dụng machine learning hoa quả và deep learning hoa quả. Các mô hình mạng CNN hoa quả có khả năng học các đặc trưng phức tạp từ dữ liệu ảnh, giúp cải thiện đáng kể độ chính xác nhận dạng trái cây. Quan trọng là cần có một dataset hoa quả đủ lớn và đa dạng để huấn luyện mô hình.

2.1. Các Khó khăn trong Bài toán Nhận dạng Hoa quả

Bài toán nhận dạng trái cây gặp nhiều khó khăn do sự đa dạng về chủng loại và hình dạng. Nhiều loại hoa quả có hình dáng và màu sắc tương tự nhau, gây khó khăn cho việc phân biệt. Sự biến thiên màu sắc theo chu kỳ phát triển của quả từ xanh đến chín cũng là một thách thức. Hơn nữa, hình dạng của cùng một loại quả có thể khác nhau do ảnh hưởng của thời tiết và điều kiện thổ nhưỡng. Các thuật toán nhận dạng trái cây cần phải có khả năng xử lý những biến đổi này để đạt được độ chính xác cao.

2.2. Ưu điểm của Phương pháp Học sâu trong Nhận dạng Hoa quả

Phương pháp deep learning hoa quả có nhiều ưu điểm so với các phương pháp truyền thống. Mô hình CNN hoa quả có khả năng tự động học các đặc trưng phức tạp từ dữ liệu ảnh, mà không cần phải thiết kế các đặc trưng thủ công. Điều này giúp giảm bớt công sức của con người và cải thiện độ chính xác của mô hình. Deep learning hoa quả cũng có khả năng xử lý dữ liệu ảnh lớn và đa dạng, giúp mô hình trở nên mạnh mẽ và đáng tin cậy hơn. Ngoài ra, deep learning hoa quả có thể được sử dụng để cải thiện độ chính xác nhận dạng hoa quả trong các điều kiện khác nhau, chẳng hạn như ánh sáng yếu hoặc nền phức tạp.

III. Phương pháp Xây dựng Mô hình Nhận dạng Hoa quả bằng CNN

Để xây dựng mô hình nhận dạng trái cây bằng mô hình CNN hoa quả, cần thực hiện các bước sau. Đầu tiên, thu thập một dataset hoa quả đủ lớn và đa dạng. Sau đó, xây dựng và huấn luyện mô hình mạng CNN hoa quả trên dataset này. Cuối cùng, đánh giá hiệu năng của mô hình và cải thiện độ chính xác nhận dạng hoa quả. Việc lựa chọn kiến trúc mạng CNN hoa quả phù hợp và các tham số huấn luyện cũng rất quan trọng. Có thể sử dụng các mô hình đã được huấn luyện trước (pre-trained models) và học chuyển giao để tăng tốc quá trình huấn luyện và cải thiện hiệu năng.

3.1. Thu thập và Xử lý Dữ liệu Ảnh Hoa quả cho Huấn luyện

Việc thu thập và xử lý dữ liệu ảnh hoa quả là một bước quan trọng trong quá trình xây dựng mô hình nhận dạng trái cây. Cần thu thập một dataset hoa quả đủ lớn và đa dạng, bao gồm các loại hoa quả khác nhau, chụp ở các góc độ, điều kiện ánh sáng và nền khác nhau. Sau đó, cần xử lý dữ liệu ảnh để đảm bảo chất lượng và tính nhất quán. Các bước xử lý có thể bao gồm: thay đổi kích thước ảnh, cân bằng ánh sáng, loại bỏ nhiễu và phân loại ảnh. Dữ liệu ảnh màu hoa quả sau khi xử lý sẽ được sử dụng để huấn luyện mô hình mạng CNN hoa quả.

3.2. Lựa chọn và Huấn luyện Mô hình Mạng CNN cho Nhận dạng Hoa quả

Việc lựa chọn kiến trúc mạng CNN hoa quả phù hợp là rất quan trọng để đạt được hiệu năng cao. Có thể sử dụng các kiến trúc đã được chứng minh hiệu quả trên các bài toán nhận dạng ảnh, như AlexNet, VGGNet, ResNet hoặc Inception. Sau khi lựa chọn kiến trúc, cần huấn luyện mô hình trên dataset hoa quả đã được xử lý. Quá trình huấn luyện bao gồm việc điều chỉnh các tham số của mô hình để giảm thiểu sai số dự đoán. Có thể sử dụng các kỹ thuật tối ưu hóa như gradient descent và backpropagation để huấn luyện mô hình mạng CNN hoa quả.

3.3. Đánh giá và Tối ưu Hiệu năng Mô hình Nhận dạng Hoa quả

Sau khi huấn luyện, cần đánh giá hiệu năng mô hình nhận dạng hoa quả trên một tập dữ liệu kiểm tra (test set) độc lập. Các chỉ số đánh giá có thể bao gồm: độ chính xác (accuracy), độ thu hồi (recall), độ đo F1 (F1-score) và diện tích dưới đường cong ROC (AUC). Nếu hiệu năng chưa đạt yêu cầu, cần tối ưu mô hình bằng cách điều chỉnh kiến trúc, tham số huấn luyện hoặc dữ liệu huấn luyện. Việc cải thiện độ chính xác nhận dạng hoa quả có thể được thực hiện bằng cách sử dụng các kỹ thuật như augmentation dữ liệu (data augmentation), regular hóa (regularization) và fine-tuning.

IV. Ứng dụng Thực tế của Nhận dạng Hoa quả bằng Ảnh Màu

Ứng dụng nhận dạng hoa quả có nhiều ứng dụng thực tế trong nông nghiệp, siêu thị và cuộc sống hàng ngày. Trong nông nghiệp, nó có thể được sử dụng để tự động hóa quá trình phân loại và đánh giá chất lượng hoa quả. Trong siêu thị, nó có thể giúp khách hàng dễ dàng nhận dạng trái cây và tìm kiếm thông tin về sản phẩm. Trong cuộc sống hàng ngày, nó có thể được sử dụng để hỗ trợ người dùng lựa chọn hoa quả tươi ngon và phù hợp với nhu cầu dinh dưỡng.

4.1. Nhận dạng Hoa quả trong Nông nghiệp và Quản lý Chất lượng

Trong nông nghiệp, nhận dạng trái cây trong nông nghiệp có thể được sử dụng để tự động hóa quá trình phân loại và đánh giá chất lượng hoa quả. Hệ thống có thể xác định loại quả, kích thước, màu sắc và các đặc điểm khác để phân loại và đánh giá chất lượng sản phẩm. Điều này giúp giảm thiểu công sức của con người và tăng hiệu quả sản xuất. Ngoài ra, nhận dạng trái cây cũng có thể được sử dụng để theo dõi quá trình phát triển của cây trồng và phát hiện sớm các bệnh hại.

4.2. Ứng dụng Nhận dạng Hoa quả trong Siêu thị và Bán lẻ

Ứng dụng nhận dạng hoa quả trong siêu thị có thể giúp khách hàng dễ dàng nhận dạng trái cây và tìm kiếm thông tin về sản phẩm. Khách hàng có thể sử dụng điện thoại thông minh để chụp ảnh hoa quả và nhận thông tin về loại quả, nguồn gốc, giá trị dinh dưỡng và cách sử dụng. Điều này giúp cải thiện trải nghiệm mua sắm và tăng doanh số bán hàng. Ngoài ra, hệ thống cũng có thể giúp quản lý kho hàng và theo dõi tình trạng sản phẩm.

4.3. Phát triển Ứng dụng Nhận dạng Hoa quả trên Điện thoại cho Người dùng

Nhận dạng hoa quả bằng điện thoại có thể được sử dụng để hỗ trợ người dùng lựa chọn hoa quả tươi ngon và phù hợp với nhu cầu dinh dưỡng. Người dùng có thể chụp ảnh hoa quả và nhận thông tin về loại quả, giá trị dinh dưỡng và cách sử dụng. Điều này giúp người dùng đưa ra quyết định thông minh khi mua sắm và cải thiện chế độ ăn uống. Ứng dụng nhận dạng hoa quả cũng có thể được tích hợp với các ứng dụng sức khỏe và dinh dưỡng để cung cấp thông tin cá nhân hóa.

V. Kết quả và Đánh giá Mô hình Nhận dạng Hoa quả bằng Ảnh Màu

Luận văn trình bày kết quả thực nghiệm và đánh giá mô hình nhận dạng trái cây. Kết quả so sánh độ chính xác giữa phương pháp machine learning hoa quả truyền thống và deep learning hoa quả cho thấy sự vượt trội của mô hình CNN hoa quả. Đánh giá cũng tập trung vào hiệu quả của việc sử dụng dữ liệu ảnh nhiễu và ảnh chụp thực tế. Phân tích điểm mạnh và điểm hạn chế của mô hình deep learning hoa quả đã chọn.

5.1. So sánh Độ chính xác giữa các Phương pháp Nhận dạng

Luận văn thực hiện so sánh độ chính xác giữa phương pháp machine learning hoa quả truyền thống và deep learning hoa quả. Kết quả cho thấy mô hình CNN hoa quả có độ chính xác cao hơn đáng kể so với các phương pháp truyền thống. Điều này chứng minh khả năng vượt trội của deep learning hoa quả trong việc xử lý các bài toán nhận dạng ảnh phức tạp như nhận dạng trái cây.

5.2. Ảnh hưởng của Dữ liệu Ảnh Nhiễu đến Hiệu năng Nhận dạng

Luận văn đánh giá ảnh hưởng của việc sử dụng dữ liệu ảnh nhiễu (ảnh đã qua xử lý, augmentation) đến hiệu năng nhận dạng trái cây. Kết quả cho thấy việc sử dụng dữ liệu ảnh nhiễu giúp cải thiện độ chính xác của mô hình, đặc biệt khi dataset gốc có kích thước nhỏ. Dữ liệu ảnh nhiễu giúp mô hình học được các đặc trưng tổng quát hơn và giảm overfitting.

VI. Kết luận và Hướng phát triển trong Nhận dạng Hoa quả bằng Ảnh

Luận văn tổng kết các nội dung đã trình bày và đề xuất hướng nghiên cứu tiếp theo để cải thiện chất lượng nhận dạng trái cây. Các hướng phát triển có thể bao gồm: sử dụng kiến trúc mạng CNN hoa quả tiên tiến hơn, tăng cường kích thước và đa dạng của dataset hoa quả, và tích hợp thông tin từ các nguồn khác nhau (ví dụ: thông tin về vị trí địa lý, thời tiết) để cải thiện độ chính xác nhận dạng trái cây.

6.1. Tóm tắt Kết quả và Đóng góp của Luận văn

Luận văn đã trình bày một phương pháp nhận dạng trái cây bằng ảnh màu sử dụng mô hình CNN hoa quả. Kết quả thực nghiệm cho thấy phương pháp này có độ chính xác cao hơn so với các phương pháp truyền thống. Luận văn cũng đã đánh giá ảnh hưởng của dữ liệu ảnh nhiễu đến hiệu năng nhận dạng trái cây. Các đóng góp của luận văn bao gồm: đề xuất một phương pháp hiệu quả cho nhận dạng trái cây, cung cấp một dataset hoa quả phong phú, và phân tích điểm mạnh và điểm hạn chế của mô hình deep learning hoa quả đã chọn.

6.2. Đề xuất Hướng Nghiên cứu Tiếp theo cho Bài toán Nhận dạng Hoa quả

Các hướng nghiên cứu tiếp theo có thể bao gồm: sử dụng kiến trúc mạng CNN hoa quả tiên tiến hơn (ví dụ: ResNet, Inception), tăng cường kích thước và đa dạng của dataset hoa quả (bao gồm các loại hoa quả hiếm gặp, ảnh chụp trong các điều kiện khác nhau), tích hợp thông tin từ các nguồn khác nhau (ví dụ: thông tin về vị trí địa lý, thời tiết) để cải thiện độ chính xác nhận dạng trái cây, và phát triển các phương pháp tối ưu hóa mô hình để giảm kích thước và tăng tốc độ nhận dạng trái cây.

Trích đoạn nội dung tài liệu

phần mở đầu, mục đích của luận văn là tìm hiểu và ứng dụng một mô hình Học sâu vào bài toán nhận dạng, phân loại hoa quả, nguyên nhân chính khiến Học sâu được chọn làm giải pháp là bởi khả năng mạnh mẽ vượt trội của nó đối với các phương pháp Học máy truyền thống khi áp dụng vào các bài toán nhận dạng vật thể, trong đó vật thể là các đối tượng rất khó chọn lọc đặc trưng phù hợp, cụ thể với trường hợp này là các loại hoa quả. Để chứng minh cho nhận định này, luận văn đã thực hiện phép so sánh độ chính xác của hai mô hình nhận dạng, được huấn luyện lần lượt bởi hai phương pháp trên với cùng bộ dữ liệu đầu vào. Kết quả cụ thể sẽ được trình bày trong Chương 4 – Kết quả thực nghiệm và Đánh giá. TIEU LUAN MOI download : [e-mail] 19 Chương 2.

Mạng nơ-ron tích chập Mạng nơ-ron tích chập (CNN - Convolutional Neural Network) là một trong những mô hình mạng Học sâu phổ biến nhất hiện nay, có khả năng nhận dạng và phân loại hình ảnh với độ chính xác rất cao, thậm chí còn tốt hơn con người trong nhiều trường hợp. Mô hình này đã và đang được phát triển, ứng dụng vào các hệ thống xử lý ảnh lớn của Facebook, Google hay Amazon… cho các mục đích khác nhau như các thuật toán tagging tự động, tìm kiếm ảnh hoặc gợi ý sản phẩm cho người tiêu dùng. Sự ra đời của mạng CNN là dựa trên ý tưởng cải tiến cách thức các mạng nơ-ron nhân tạo truyền thống học thông tin trong ảnh. Do sử dụng các liên kết đầy đủ giữa các điểm ảnh vào node, các mạng nơ-ron nhân tạo truyền thẳng (Feedforward Neural Network) bị hạn chế rất nhiều bởi kích thước của ảnh, ảnh càng lớn thì số lượng liên kết càng tăng nhanh và kéo theo sự bùng nổ khối lượng tính toán.

Ngoài ra sự liên kết đầy đủ này cũng là sự dư thừa khi với mỗi bức ảnh, các thông tin chủ yếu thể hiện qua sự phụ thuộc giữa các điểm ảnh với những điểm xung quanh nó mà không quan tâm nhiều đến các điểm ảnh ở cách xa nhau. Mạng CNN ra đời với kiến trúc thay đổi, có khả năng xây dựng liên kết chỉ sử dụng một phần cục bộ trong ảnh kết nối đến node trong lớp tiếp theo thay vì toàn bộ ảnh như trong mạng nơ-ron truyền thẳng. Kiến trúc Mạng nơ-ron tích chập Các lớp cơ bản trong một mạng CNN bao gồm: Lớp tích chập (Convolutional), Lớp kích hoạt phi tuyến ReLU (Rectified Linear Unit), Lớp lấy mẫu (Pooling) và Lớp kết nối đầy đủ (Fully-connected), được thay đổi về số lượng và cách sắp xếp để tạo ra các mô hình huấn luyện phù hợp cho từng bài toán khác nhau.1: Kiến trúc cơ bản của một mạng tích chập - Lớp tích chập: Đây là thành phần quan trọng nhất trong mạng CNN, cũng là nơi thể hiện tư tưởng xây dựng sự liên kết cục bộ thay vì kết nối toàn bộ các điểm ảnh. Các liên kết cục bộ này được tính toán bằng phép tích chập giữa các giá trị điểm ảnh trong một vùng ảnh cục bộ với các bộ lọc – filters – có kích thước nhỏ.

TIEU LUAN MOI download : skknchat@gmail.2: Ví dụ bộ lọc tích chập được sử dụng trên ma trận điểm ảnh Trong ví dụ ở Hình 2.2 [12], ta thấy bộ lọc được sử dụng là một ma trận có kích thước 3x3. Bộ lọc này được dịch chuyển lần lượt qua từng vùng ảnh đến khi hoàn thành quét toàn bộ bức ảnh, tạo ra một bức ảnh mới có kích thước nhỏ hơn hoặc bằng với kích thước ảnh đầu vào. Kích thước này được quyết định tùy theo kích thước các khoảng trắng được thêm ở viền bức ảnh gốc và được tính theo công thức (1) [13]: 𝑖+2∗𝑝−𝑘 𝑜= +1 (1) 𝑠 Trong đó: - o: kích thước ảnh đầu ra - i: kích thước ảnh đầu vào - p: kích thước khoảng trắng phía ngoài viền của ảnh gốc - k: kích thước bộ lọc - s: bước trượt của bộ lọc TIEU LUAN MOI download : skknchat@gmail.3: Trường hợp thêm/không thêm viền trắng vào ảnh khi tích chập Như vậy, sau khi đưa một bức ảnh đầu vào cho lớp Tích chập ta nhận được kết quả đầu ra là một loạt ảnh tương ứng với các bộ lọc đã được sử dụng để thực hiện phép tích chập. Các trọng số của các bộ lọc này được khởi tạo ngẫu nhiên trong lần đầu tiên và sẽ được cải thiện dần xuyên suốt quá trình huấn luyện.

- Lớp kích hoạt phi tuyến ReLU: Lớp này được xây dựng với ý nghĩa đảm bảo tính phi tuyến của mô hình huấn luyện sau khi đã thực hiện một loạt các phép tính toán tuyến tính qua các lớp Tích chập. Lớp Kích hoạt phi tuyến nói chung sử dụng các hàm kích hoạt phi tuyến như ReLU hoặc sigmoid, tanh… để giới hạn phạm vi biên độ cho phép của giá trị đầu ra. Trong số các hàm kích hoạt này, hàm ReLU được chọn do cài đặt đơn giản, tốc độ xử lý nhanh mà vẫn đảm bảo được tính toán hiệu quả. Cụ thể, phép tính toán của hàm ReLU chỉ đơn giản là chuyển tất cả các giá trị âm thành giá trị 0.

𝑓(𝑥) = 𝑚𝑎𝑥(0, 𝑥) (2) Thông thường, lớp ReLU được áp dụng ngay phía sau lớp Tích chập, với đầu ra là một ảnh mới có kích thước giống với ảnh đầu vào, các giá trị điểm ảnh cũng hoàn toàn tương tự trừ các giá trị âm đã bị loại bỏ. - Lớp lấy mẫu: Một thành phần tính toán chính khác trong mạng CNN là lấy mẫu (Pooling), thường được đặt sau lớp Tích chập và lớp ReLU để làm giảm kích thước kích thước ảnh đầu ra trong khi vẫn giữ được các thông tin quan trọng của ảnh đầu vào. Việc giảm kích thước dữ liệu có tác dụng làm giảm được số lượng tham số cũng như tăng hiệu quả tính toán. Lớp lấy mẫu cũng sử dụng một cửa sổ trượt để quét toàn bộ các vùng trong ảnh tương tự như lớp Tích chập, và thực hiện phép lấy mẫu thay vì phép tích chập – tức là ta sẽ chọn lưu lại một giá trị duy nhất đại diện cho toàn bộ thông tin của vùng ảnh đó.

TIEU LUAN MOI download : skknchat@gmail.4 thể hiện các phương thức lấy mẫu thường được sử dụng nhất hiện nay, đó là Max Pooling (lấy giá trị điểm ảnh lớn nhất) và Avarage Pooling (lấy giá trị trung bình của các điểm ảnh trong vùng ảnh cục bộ) [14].4: Phương thức Avarage Pooling và Max Pooling Như vậy, với mỗi ảnh đầu vào được đưa qua lấy mẫu ta thu được một ảnh đầu ra tương ứng, có kích thước giảm xuống đáng kể nhưng vẫn giữ được các đặc trưng cần thiết cho quá trình tính toán sau này. - Lớp kết nối đầy đủ: Lớp kết nối đầy đủ này được thiết kế hoàn toàn tương tự như trong mạng nơ-ron truyền thống, tức là tất cả các điểm ảnh được kết nối đầy đủ với node trong lớp tiếp theo. So với mạng nơ-ron truyền thống, các ảnh đầu vào của lớp này đã có kích thước được giảm bớt rất nhiều, đồng thời vẫn đảm bảo các thông tin quan trọng cho việc nhận dạng. Do vậy, việc tính toán nhận dạng sử dụng mô hình truyền thẳng đã không còn phức tạp và tốn nhiều thời gian như trong mạng nơ ron truyền thống.

Học chuyển giao và tinh chỉnh mô hình huấn luyện Trong thời gian đầu khi các phương pháp Học sâu mới đạt được nhiều thành tựu và được áp dụng phổ biến, trong cộng đồng Học sâu trên thế giới đã tồn tại một quan niệm không chính xác nhưng hết sức phổ biến: nếu bạn không có lượng dữ liệu huấn luyện khổng lồ, bạn không thể tạo ra một mô hình Học sâu hiệu quả. Nói chính xác hơn, đây đã từng là một quan niệm đúng và hợp lý, bởi mỗi mô hình huấn luyện này đều sử dụng rất nhiều các lớp ẩn, với hàng nghìn nơ-ron và hàng triệu tham số. Đồng thời quá trình huấn luyện mô hình cũng được gắn liền với các kiến thức riêng và bài toán phân tích, nhận dạng… cụ thể, và nếu cố gắng áp dụng mô hình đó với một CSDL khác, chắc chắn độ chính xác sẽ bị suy giảm đáng kể. Tuy nhiên, trong thời gian sau đó, một phương pháp học mới được đưa ra và đã giải quyết được điểm hạn chế này của Học sâu, đó chính là Học chuyển giao – Transfer Learning [15].

TIEU LUAN MOI download : [e-mail] 23 Học chuyển giao là quá trình khai thác, tái sử dụng các tri thức đã được học tập bởi một mô hình huấn luyện trước đó vào giải quyết một bài toán mới mà không phải xây dựng một mô hình huấn luyện khác từ đầu. Đây được coi là một trong những kỹ thuật được xếp mức độ quan trọng hàng đầu trong cộng đồng khoa học dữ liệu, nhằm hướng tới mục đích chung là phát minh ra một thuật toán học tự động mạnh mẽ. Hiện nay, phương pháp phổ biến thường được áp dụng khi huấn luyện mô hình với một bộ CSDL tương đối nhỏ là sử dụng Học chuyển giao để tận dụng một mạng CNN đã được huấn luyện trước đó với bộ dữ liệu rất lớn như ImageNet (1,2 triệu ảnh với 1.000 nhãn đánh dấu). Phương pháp này sử dụng mạng CNN theo hai cách chính như sau: - Mạng CNN này sẽ chỉ được sử dụng như một bộ trích chọn đặc trưng cho bộ CSDL huấn luyện mới, bằng cách thay thế các lớp Fully-connected ở cuối mạng và giữ cố định các tham số cho toàn bộ các lớp còn lại của mạng.

- Không chỉ thay thế và huấn luyện lại bộ nhận dạng cuối cùng của mạng CNN, mà đồng thời ta thực hiện tối ưu, tinh chỉnh (Fine-tune) một vài hoặc tất cả các lớp trong mạng. Ý tưởng của việc tái sử dụng mạng CNN là dựa trên nhận định rằng các đặc trưng được học trong các lớp đầu của mạng là các đặc trưng chung nhất, hữu dụng với phần lớn bài toán, ví dụ: đặc trưng về cạnh, hình khối hay các khối màu… Các lớp sau đó của mạng CNN sẽ nâng dần độ cụ thể, riêng biệt của các chi tiết phục vụ cho bài toán nhận dạng cần giải quyết. Do đó, ta hoàn toàn có thể tái sử dụng lại các lớp đầu của mạng CNN mà không phải mất nhiều thời gian và công sức huấn luyện từ đầu. Có khá nhiều bài báo, công trình khoa học được đưa ra để chứng minh cho khả năng chuyển giao của những đặc trưng trong mạng Học sâu [16].