Nghiên cứu nhận diện khuôn mặt bằng Vision Transformer và Baby Learning

• Tác giả: Trần Chí Phúc
• Người hướng dẫn: TS. Nguyễn Vinh Tiệp
• Trường học: Đại học Quốc gia Thành phố Hồ Chí Minh
• Chuyên ngành: Khoa học máy tính
• Đề tài: Nhận diện khuôn mặt sử dụng Vision Transformer và Baby Learning
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2022
• Địa điểm: Thành phố Hồ Chí Minh

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• 1. CHƯƠNG 1: MỤC TIÊU VÀ PHẠM VI NGHIÊN CỨU
• 1.1. ĐÓNG GÓP CỦA ĐỀ TÀI
• 2. CHƯƠNG 2: TỔNG QUAN VỀ ĐỀ TÀI NGHIÊN CỨU
• 2.1. GIỚI THIỆU VỀ NHẬN DẠNG KHUÔN MẶT
• 2.2. BÓC TÁCH ẢNH KHUÔN MẶT
• 2.3. SO KHỚP KHUÔN MẶT
• 2.4. NHẬN DIỆN KHUÔN MẶT
• 2.5. BA THUỘC TÍNH CỦA MÔ HÌNH NHẬN DẠNG KHUÔN MẶT
• 3. CHƯƠNG 3: MÔ HÌNH NGHIÊN CỨU
• 3.1. MÔ HÌNH NHẬN DẠNG KHUÔN MẶT
• 3.2. PHƯƠNG PHÁP TỈNH CHỈNH KẾT HỢP KỸ THUẬT BABY LEARNING
• 3.3. MÔ HÌNH THỰC HIỆN CHO BÀI TOÁN SO KHỚP KHUÔN MẶT
• 3.4. MÔ HÌNH THỰC HIỆN CHO BÀI TOÁN NHẬN DIỆN KHUÔN MẶT
• 4. CHƯƠNG 4: KẾT QUẢ NGHIÊN CỨU
• 4.1. CÁC BỘ DATASET DÙNG TRONG NGHIÊN CỨU
• 4.1.1. Vietnamese Face Dataset (VFD)
• 4.1.2. Bộ dataset VER4K
• 4.1.3. Bộ dataset REG2K
• 4.1.4. Labeled Faces in the Wild (LFW)
• 4.1.5. Cross-Age LFW (CALEW)
• 4.1.6. Cross-Pose LFW (CPLFW)
• 4.1.7. Celebrities in Frontal-Profile in the Wild (CFPW hay CFP-FP)
• 4.2. ĐỘ ĐỘ DÙNG TRONG MÔ HÌNH
• 4.3. CÀI ĐẶT MÔ HÌNH NHẬN DẠNG KHUÔN MẶT
• 4.4. BỘ DATASET CHO HUẤN LUYỆN VÀ TỈNH CHỈNH
• 4.5. MÔI TRƯỜNG THỰC HIỆN
• 4.6. KẾT QUẢ NGHIÊN CỨU
• 4.6.1. Kết quả so khớp khuôn mặt trên các dataset public
• 4.6.2. Kết quả so khớp khuôn mặt trên bộ dataset Việt Nam VER4K
• 4.6.3. Kết quả nhận diện khuôn mặt trên bộ dataset REGIK, REG2K
• 4.6.4. Hiệu quả của kỹ thuật Baby Learning lên độ chính xác mô hình
• 4.6.5. Đánh giá nguyên nhân dự báo sai của mô hình ViT
• 5. CHƯƠNG 5: KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
• DANH MỤC CÔNG BỐ KHOA HỌC CỦA TÁC GIẢ
• TÀI LIỆU THAM KHẢO
• PHỤ LỤC I: THÔNG TIN VỀ ẢNH TRONG BỘ DATASET VFD
• DANH MỤC CÁC KÝ HIỆU VÀ CHỮ VIẾT TẮT
• DANH MỤC CÁC BẢNG
• DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ

I. Tổng Quan Vision Transformer Nhận Diện Khuôn Mặt Giới Thiệu

Thị giác máy tính (Computer Vision) và xử lý ngôn ngữ tự nhiên (NLP) là hai lĩnh vực nghiên cứu quan trọng của trí tuệ nhân tạo. Gần đây, thành tựu từ CNN được áp dụng vào NLP và ngược lại, thúc đẩy sự phát triển của cả hai. Trong NLP, kiến trúc Transformer dựa trên cơ chế Self-Attention đã trở thành lựa chọn hàng đầu. Kể từ khi Transformer ra đời năm 2017 với BERT, các mô hình NLP đạt kết quả State Of The Art (SOTA) đều dựa trên Transformer. Hệ thống GPT-3 siêu việt của OpenAI cũng được xây dựng trên nền tảng Transformer. Lấy cảm hứng từ Transformer trong NLP, nhóm tác giả từ Google đã áp dụng Transformer vào phân loại ảnh, tạo ra Vision Transformer (ViT) [1]. Giải pháp này chia ảnh thành nhiều patch không chồng lấn, biến đổi chúng thành vector, bổ sung token class như NLP và thông tin vị trí. Sau đó, xây dựng quan hệ giữa các patch vector qua cơ chế Multi Self-Attention (MSA) tương tự như xử lý từ trong NLP. Đầu ra của Transformer là vector ngữ cảnh đại diện cho ảnh, đưa vào bộ phân loại ảnh. ViT cho kết quả tương đương hoặc tốt hơn ResNet trong phân loại ảnh khi dữ liệu huấn luyện lớn.

1.1. Sự trỗi dậy của Vision Transformer trong Computer Vision

Vision Transformer (ViT) đánh dấu một bước tiến lớn trong việc áp dụng kiến trúc Transformer từ lĩnh vực xử lý ngôn ngữ tự nhiên (NLP) sang lĩnh vực thị giác máy tính (Computer Vision). ViT đã chứng minh khả năng cạnh tranh, thậm chí vượt trội so với các mô hình CNN truyền thống như ResNet, đặc biệt khi được huấn luyện trên các bộ dữ liệu lớn. Sự thành công của ViT mở ra một hướng đi mới cho các nghiên cứu và ứng dụng liên quan đến thị giác máy tính. Tham khảo thêm thông tin chi tiết tại [1].

1.2. Ứng dụng Self Attention trong Nhận Diện Khuôn Mặt

Cơ chế Self-Attention, trái tim của kiến trúc Transformer, cho phép mô hình tập trung vào các phần quan trọng nhất của hình ảnh khuôn mặt. Thay vì xử lý toàn bộ ảnh một cách đồng đều, Self-Attention giúp mô hình xác định và nhấn mạnh các đặc trưng quan trọng như mắt, mũi, miệng, từ đó cải thiện đáng kể độ chính xác của quá trình nhận diện. Cơ chế này cũng giúp mô hình xử lý tốt hơn các biến thể về ánh sáng, tư thế và biểu cảm khuôn mặt. Điều này góp phần tạo nên một hệ thống robust face recognition.

II. Thách Thức Nhận Diện Khuôn Mặt Dữ Liệu Huấn Luyện Hạn Chế

Khi dữ liệu huấn luyện đầy đủ, các mô hình nhận dạng khuôn mặt dựa trên ViT face recognition hoặc ResNet đều hoạt động tốt. Tuy nhiên, trong thực tế, việc có đủ dữ liệu huấn luyện là khó khăn. Ví dụ, truy tìm tội phạm qua camera công cộng hoặc nhận dạng khách hàng VIP chỉ có vài ảnh cho mỗi cá nhân. Điều này làm giảm độ chính xác của mô hình. Đề tài này thực hiện nhận dạng khuôn mặt bằng ViT trong điều kiện thiếu dữ liệu, so sánh độ chính xác với mạng CNN. Đồng thời, đề xuất cải tiến độ chính xác bằng cách áp dụng kỹ thuật Baby Learning algorithms trong quá trình tinh chỉnh. Đề tài sẽ xây dựng lại mô hình nhận diện khuôn mặt với dataset trung bình MSIM-RetinaFace, sử dụng ViT và ResNet, và hàm mất mát CosFace.

2.1. Bài toán Few Shot Learning trong Nhận Diện Khuôn Mặt

Bài toán few-shot learning trở nên đặc biệt quan trọng trong bối cảnh nhận diện khuôn mặt, khi số lượng ảnh cho mỗi cá nhân là rất hạn chế. Các mô hình truyền thống thường gặp khó khăn trong việc khái quát hóa (generalize) với ít dữ liệu huấn luyện, dẫn đến độ chính xác thấp. Do đó, cần có các phương pháp tiếp cận mới, giúp mô hình học được các đặc trưng quan trọng từ một số ít mẫu dữ liệu, đồng thời giảm thiểu overfitting (quá khớp). Few-shot learning face recognition là một hướng nghiên cứu đầy tiềm năng.

2.2. Ảnh hưởng của Kích Thước Dataset đến Hiệu Suất Mô Hình

Kích thước của dataset huấn luyện có ảnh hưởng trực tiếp đến face recognition performance. Dataset lớn cho phép mô hình học được các đặc trưng đa dạng và phức tạp, giảm thiểu bias và cải thiện khả năng khái quát hóa. Ngược lại, dataset nhỏ có thể dẫn đến overfitting và hiệu suất kém trên dữ liệu mới. Việc lựa chọn và xử lý dataset một cách cẩn thận là một yếu tố then chốt để xây dựng một hệ thống nhận diện khuôn mặt hiệu quả.

2.3. Sự cần thiết của dataset người Việt Nam

Việc sử dụng bộ dữ liệu khuôn mặt người Việt Nam là cần thiết để đánh giá chính xác hiệu suất của mô hình trong điều kiện thiếu dữ liệu. Các bộ dataset training thường không có khuôn mặt người Việt Nam, hoặc chỉ có một số ít khuôn mặt người Trung Quốc. Do đó, sau khi huấn luyện mô hình có thể chưa học được đầy đủ thông tin và đặc điểm khuôn mặt của người Việt Nam.

III. Giải Pháp Baby Learning Tối Ưu Nhận Diện Khuôn Mặt ViT

Đề tài sẽ kiểm tra độ chính xác của mô hình với các dataset công khai như LFW và các biến thể của nó. Đồng thời, xây dựng bộ dataset gồm 3.000 người Việt Nam (3 ảnh/người) để đánh giá mô hình trên môi trường thiếu dữ liệu. Quá trình tinh chỉnh sẽ được thực hiện với lượng dữ liệu ít chỉ gồm 1 ảnh/người hoặc 2 ảnh/người. Áp dụng kỹ thuật Baby Learning để gia tăng độ chính xác của mô hình, so sánh với trường hợp không sử dụng Baby Learning để đánh giá hiệu quả sau khi áp dụng. So sánh độ chính xác của mô hình khi áp dụng hai backbone network là Vision Transformer và mạng CNN.

3.1. Nguyên lý hoạt động của Baby Learning trong AI

Kỹ thuật Baby Learning, lấy cảm hứng từ cách trẻ em học hỏi, là một phương pháp huấn luyện mô hình máy học bắt đầu với dữ liệu đơn giản và dễ hiểu, sau đó dần dần tăng độ phức tạp của dữ liệu. Trong bài toán nhận diện khuôn mặt, có thể bắt đầu với ảnh khuôn mặt chính diện, ánh sáng tốt, rồi tăng dần độ khó bằng cách thêm ảnh có góc nghiêng, ánh sáng yếu hoặc bị che khuất. Cách tiếp cận này giúp mô hình học được các đặc trưng quan trọng một cách vững chắc, tránh bị quá tải bởi dữ liệu phức tạp ngay từ đầu. Đây là một dạng của Self-supervised learning for face recognition.

3.2. Tinh chỉnh Mô Hình ViT bằng Baby Learning

Quá trình tinh chỉnh mô hình ViT bằng Baby Learning bao gồm việc lựa chọn cẩn thận các mẫu dữ liệu ở mỗi giai đoạn huấn luyện. Bắt đầu với các mẫu dễ, đảm bảo mô hình có thể học được các đặc trưng cơ bản một cách chính xác. Sau đó, dần dần thêm các mẫu khó hơn để mô hình có thể xử lý các biến thể và nhiễu trong dữ liệu. Quá trình này có thể lặp lại nhiều lần cho đến khi mô hình đạt được độ chính xác mong muốn. Việc lựa chọn các mẫu dữ liệu phù hợp ở mỗi giai đoạn là rất quan trọng để đảm bảo hiệu quả của phương pháp Baby Learning.

IV. Kết Quả Nghiên Cứu Đánh Giá Hiệu Quả Baby Learning ViT

Đóng góp của đề tài là bộ dataset khuôn mặt của người Việt Nam để kiểm định độ chính xác của mô hình nhận dạng khuôn mặt trong điều kiện thiếu dữ liệu. Tổng bộ dữ liệu có 3000 ảnh. Đề tài so sánh ViT face recognition và ResNet khi được huấn luyện với bộ dữ liệu có kích thước trung bình và trong điều kiện tinh chỉnh dữ liệu không đầy đủ với bộ dataset khuôn mặt người Việt Nam. Cuối cùng, đề tài kiểm tra hiệu quả của kỹ thuật Baby Learning giúp gia tăng độ chính xác của mô hình trong điều kiện thiếu dữ liệu. Luận văn có một công bố khoa học đã được chấp nhận ở hội nghị quốc tế MAPR 2022.

4.1. Độ Chính Xác So Khớp Khuôn Mặt trên Dataset Công Khai

Đánh giá mô hình trên các dataset công khai như Labeled Faces in the Wild (LFW), Cross-Age LFW (CALFW) và Cross-Pose LFW (CPLFW) là một bước quan trọng để so sánh hiệu suất của mô hình với các nghiên cứu trước đây. Các dataset này cung cấp các thử thách khác nhau về độ tuổi, tư thế và biểu cảm khuôn mặt, giúp đánh giá khả năng khái quát hóa của mô hình. Kết quả trên các dataset này sẽ cho thấy liệu mô hình có thể hoạt động tốt trong các điều kiện khác nhau hay không.

4.2. Hiệu Quả Baby Learning trên Dataset Khuôn Mặt Việt Nam

Việc đánh giá hiệu quả của kỹ thuật Baby Learning trên dataset khuôn mặt Việt Nam là rất quan trọng, vì nó cho thấy liệu phương pháp này có thể cải thiện độ chính xác của mô hình trong điều kiện dữ liệu hạn chế hay không. So sánh kết quả khi sử dụng và không sử dụng Baby Learning sẽ cho thấy mức độ cải thiện mà phương pháp này mang lại. Điều này có ý nghĩa lớn trong các ứng dụng thực tế, nơi dữ liệu khuôn mặt người Việt Nam có thể khó thu thập.

4.3. Phân tích nguyên nhân dự đoán sai của ViT

Phân tích các trường hợp ViT dự đoán sai giúp hiểu rõ hơn về điểm yếu của mô hình và tìm ra các phương pháp cải thiện. Các yếu tố như tư thế khuôn mặt, biểu cảm khuôn mặt, ánh sáng và độ phân giải ảnh có thể ảnh hưởng đến độ chính xác của mô hình. Việc xác định các nguyên nhân chính gây ra lỗi dự đoán sẽ giúp tập trung vào việc khắc phục chúng trong các nghiên cứu tiếp theo.

V. Ứng Dụng Nhận Diện Khuôn Mặt ViT Bảo Mật và Y Tế

Công nghệ nhận diện khuôn mặt dựa trên Vision Transformer (ViT) và Baby Learning mở ra nhiều ứng dụng tiềm năng trong các lĩnh vực khác nhau. Trong lĩnh vực bảo mật, nó có thể được sử dụng để kiểm soát truy cập, xác thực danh tính và giám sát an ninh. Trong lĩnh vực y tế, nó có thể được sử dụng để nhận diện bệnh nhân, theo dõi sức khỏe và hỗ trợ chẩn đoán. Ngoài ra, còn có các ứng dụng trong lĩnh vực marketing, robotics và surveillance. Các Ethical considerations in face recognition và Bias in face recognition cần được xem xét cẩn thận.

5.1. Nhận Diện Khuôn Mặt trong Kiểm Soát Truy Cập và An Ninh

Ứng dụng nhận diện khuôn mặt trong kiểm soát truy cập và an ninh giúp tăng cường bảo mật và hiệu quả. Thay vì sử dụng các phương pháp truyền thống như thẻ từ hoặc mật khẩu, hệ thống có thể tự động nhận diện người dùng và cấp quyền truy cập tương ứng. Điều này giúp ngăn chặn truy cập trái phép và giảm thiểu rủi ro an ninh. Đồng thời, nó cũng giúp đơn giản hóa quy trình quản lý và theo dõi truy cập.

5.2. Hỗ Trợ Chẩn Đoán và Theo Dõi Sức Khỏe trong Y Tế

Trong lĩnh vực y tế, nhận diện khuôn mặt có thể được sử dụng để nhận diện bệnh nhân, giúp giảm thiểu sai sót và cải thiện hiệu quả điều trị. Nó cũng có thể được sử dụng để theo dõi biểu cảm khuôn mặt và các dấu hiệu sinh tồn, giúp phát hiện sớm các vấn đề sức khỏe và đưa ra các biện pháp can thiệp kịp thời. Ngoài ra, nó còn có thể hỗ trợ các bác sĩ trong quá trình chẩn đoán, đặc biệt là trong các trường hợp liên quan đến các bệnh lý về thần kinh hoặc tâm lý.

VI. Tương Lai Nhận Diện Khuôn Mặt ViT Nghiên Cứu và Phát Triển

Nhận diện khuôn mặt sử dụng Vision Transformer và Baby Learning là một lĩnh vực đầy tiềm năng, với nhiều hướng nghiên cứu và phát triển trong tương lai. Các nghiên cứu có thể tập trung vào việc cải thiện độ chính xác và khả năng khái quát hóa của mô hình, đặc biệt trong điều kiện dữ liệu hạn chế hoặc môi trường phức tạp. Ngoài ra, cần chú trọng đến các vấn đề về đạo đức và bảo mật, đảm bảo rằng công nghệ được sử dụng một cách có trách nhiệm và minh bạch. Việc nghiên cứu và phát triển các phương pháp Explainable AI face recognition cũng rất quan trọng.

6.1. Tối Ưu Hóa Kiến Trúc ViT cho Nhận Diện Khuôn Mặt

Nghiên cứu tối ưu hóa kiến trúc ViT cho bài toán nhận diện khuôn mặt là một hướng đi đầy hứa hẹn. Các cải tiến có thể tập trung vào việc điều chỉnh các tham số của mô hình, thêm các lớp hoặc module đặc biệt, hoặc kết hợp ViT với các kiến trúc khác. Mục tiêu là tạo ra một mô hình có hiệu suất cao hơn, đồng thời giảm thiểu chi phí tính toán và năng lượng.

6.2. Giải Quyết Các Vấn Đề Về Bias và Đạo Đức trong Nhận Diện

Các vấn đề về bias và đạo đức trong nhận diện khuôn mặt cần được giải quyết một cách nghiêm túc. Các mô hình có thể bị bias đối với các nhóm người nhất định, dẫn đến sự phân biệt đối xử và bất công. Cần có các phương pháp để đánh giá và giảm thiểu bias trong dữ liệu và mô hình, đồng thời xây dựng các quy tắc và tiêu chuẩn đạo đức để đảm bảo rằng công nghệ được sử dụng một cách công bằng và có trách nhiệm.

Tổng quan nghiên cứu

Nhận dạng khuôn mặt là một lĩnh vực trọng điểm trong thị giác máy tính với ứng dụng rộng rãi trong an ninh, thương mại và công nghệ thông tin. Theo báo cáo ngành, các mô hình học sâu hiện nay đạt hiệu suất cao khi được huấn luyện trên bộ dữ liệu lớn, ví dụ như MSIM-RetinaFace với 5,1 triệu ảnh của 93.000 người. Tuy nhiên, trong thực tế, nhiều ứng dụng gặp phải thách thức khi dữ liệu huấn luyện bị thiếu hụt, đặc biệt là với các cá nhân có ít ảnh đại diện, như trong truy tìm tội phạm hoặc nhận diện khách hàng VIP.

Mục tiêu nghiên cứu của luận văn là phát triển và đánh giá mô hình nhận dạng khuôn mặt sử dụng Vision Transformer (ViT) kết hợp kỹ thuật Baby Learning nhằm cải thiện độ chính xác trong điều kiện thiếu dữ liệu huấn luyện. Phạm vi nghiên cứu tập trung vào bộ dữ liệu khuôn mặt người Việt Nam với khoảng 3.000 cá nhân, mỗi người có 3 ảnh, thu thập trong năm 2022 tại Việt Nam. Nghiên cứu cũng so sánh hiệu quả của ViT với mạng CNN truyền thống (ResNet101) trên các bộ dữ liệu công khai và bộ dữ liệu riêng.

Ý nghĩa nghiên cứu được thể hiện qua việc cung cấp giải pháp nâng cao độ chính xác nhận dạng khuôn mặt trong điều kiện dữ liệu hạn chế, góp phần thúc đẩy ứng dụng thực tế trong các hệ thống an ninh và dịch vụ cá nhân hóa tại Việt Nam.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn dựa trên ba thành phần lý thuyết chính:

1. Vision Transformer (ViT): Mô hình ViT xử lý ảnh bằng cách chia ảnh thành các patch nhỏ, biến đổi thành vector embedding, và sử dụng cơ chế Multi-head Self-Attention để xây dựng mối quan hệ giữa các patch. ViT được chứng minh cho hiệu quả cao trong phân loại ảnh khi có bộ dữ liệu lớn.

2. CosFace - Large Margin Cosine Loss: Hàm mất mát CosFace được sử dụng để tăng khả năng phân biệt các vector đặc trưng khuôn mặt bằng cách chuyển không gian Euclide sang không gian góc, giúp tăng biên phân cách giữa các lớp, nâng cao độ chính xác nhận dạng.

3. Baby Learning: Phương pháp huấn luyện tăng dần số lượng mẫu dữ liệu trong từng lớp, giúp cải thiện hiệu suất mô hình trong điều kiện dữ liệu huấn luyện hạn chế. Baby Learning cũng mở rộng số lượng layer được tinh chỉnh dần dần để tránh overfitting.

Các khái niệm chính bao gồm: bóc tách ảnh khuôn mặt (RetinaFace), so khớp khuôn mặt (L2 distance), nhận diện khuôn mặt (SVM, CosFace), và kỹ thuật tinh chỉnh mô hình (Baby Learning).

Phương pháp nghiên cứu

Nguồn dữ liệu chính gồm:

• Bộ dữ liệu huấn luyện MSIM-RetinaFace (5,1 triệu ảnh, 93.000 người).
• Bộ dữ liệu kiểm thử công khai: LFW và các biến thể (CALFW, CPLFW, CFPW, AgeDB-30).
• Bộ dữ liệu riêng của người Việt Nam: VFD (3.000 người, 3 ảnh/người), được chia thành VER4K (so khớp khuôn mặt), REGIK và REG2K (nhận diện khuôn mặt).

Phương pháp phân tích:

• Huấn luyện mô hình ViT và ResNet101 từ đầu trên MSIM-RetinaFace.
• Tinh chỉnh mô hình trên bộ dữ liệu người Việt Nam với số lượng ảnh hạn chế (1-2 ảnh/người).
• Áp dụng kỹ thuật Baby Learning trong quá trình tinh chỉnh để tăng dần số lượng ảnh và số layer được huấn luyện lại.
• Đánh giá độ chính xác qua các bài toán so khớp và nhận diện khuôn mặt sử dụng các phương pháp L2 distance, SVM và CosFace.
• Thời gian nghiên cứu kéo dài từ đầu năm 2022 đến cuối năm 2022, thực hiện trên môi trường Google Colab Pro+ với GPU P100.

Cỡ mẫu nghiên cứu gồm 3.000 người Việt Nam với tổng số ảnh khoảng 9.000 ảnh, đảm bảo tính đại diện cho đặc điểm khuôn mặt người Việt trong điều kiện thiếu dữ liệu.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Hiệu suất so khớp khuôn mặt trên bộ dữ liệu công khai:
   Mô hình ResNet101 đạt độ chính xác cao hơn ViT trên các bộ dữ liệu LFW và biến thể, với độ chính xác trên 99% so với khoảng 98,5% của ViT. Điều này phù hợp với các nghiên cứu trước đây khi huấn luyện trên bộ dữ liệu kích thước trung bình.

2. Hiệu quả trên bộ dữ liệu Việt Nam VER4K:
   Khi kiểm thử trên VER4K, độ chính xác của cả hai mô hình giảm đáng kể do sự khác biệt phân phối dữ liệu huấn luyện và kiểm thử. Tuy nhiên, ViT cho kết quả tốt hơn ResNet101 (89,63% so với 89,30%), cho thấy ViT có khả năng thích ứng tốt hơn trong điều kiện thiếu dữ liệu đặc trưng.

3. Nhận diện khuôn mặt trên bộ dữ liệu REGIK và REG2K:
   Khi không tinh chỉnh, độ chính xác nhận diện khuôn mặt chỉ đạt khoảng 56-58%. Sau khi tinh chỉnh với 1-2 ảnh/người và áp dụng Baby Learning, độ chính xác tăng lên đáng kể, với ViT đạt gần 76% và ResNet101 tăng gần 26% so với không tinh chỉnh.

4. Ảnh hưởng của kỹ thuật Baby Learning:
   Baby Learning giúp tăng độ chính xác mô hình lên khoảng 6% đối với ViT và 7% đối với ResNet101 so với tinh chỉnh thông thường. Số lượng layer được mở băng dần dần trong quá trình tinh chỉnh giúp tránh overfitting và tối ưu hóa hiệu suất.

Thảo luận kết quả

Nguyên nhân chính khiến ViT vượt trội hơn ResNet trong điều kiện thiếu dữ liệu là do ViT có tính tổng quát hóa cao hơn và ít phụ thuộc vào inductive bias của ảnh so với CNN. ResNet, với inductive bias cao, yêu cầu dữ liệu huấn luyện đầy đủ hơn để đạt hiệu quả tối ưu.

Kết quả cũng cho thấy việc áp dụng Baby Learning là cần thiết để cải thiện hiệu quả mô hình trong thực tế, đặc biệt khi dữ liệu huấn luyện hạn chế. So sánh với các nghiên cứu quốc tế, độ chính xác của mô hình trong luận văn thấp hơn một chút do giới hạn về phần cứng và batch size nhỏ (64 so với 512-1024), ảnh hưởng đến tốc độ hội tụ và hiệu quả huấn luyện.

Dữ liệu thu thập từ người Việt Nam với đa dạng tư thế và biểu cảm khuôn mặt làm tăng độ khó cho mô hình, nhưng cũng giúp đánh giá thực tế hơn về khả năng ứng dụng của mô hình trong môi trường thực tế.

Biểu đồ so sánh độ chính xác giữa ViT và ResNet trên các bộ dữ liệu, cũng như biểu đồ thể hiện sự cải thiện độ chính xác theo số lượng layer được tinh chỉnh trong Baby Learning, sẽ minh họa rõ nét các phát hiện này.

Đề xuất và khuyến nghị

1. Áp dụng kỹ thuật Baby Learning trong tinh chỉnh mô hình:
   Tăng dần số lượng ảnh huấn luyện và số layer được mở băng để tinh chỉnh, nhằm tối ưu hóa độ chính xác trong điều kiện dữ liệu hạn chế. Thời gian thực hiện: 3-6 tháng. Chủ thể: các nhóm nghiên cứu và doanh nghiệp phát triển AI.

2. Phát triển bộ dữ liệu khuôn mặt đa dạng đặc trưng vùng miền:
   Thu thập thêm dữ liệu khuôn mặt người Việt Nam với đa dạng độ tuổi, giới tính, tư thế và biểu cảm để nâng cao khả năng tổng quát của mô hình. Thời gian: 6-12 tháng. Chủ thể: các tổ chức nghiên cứu và cơ quan an ninh.

3. Tăng cường hạ tầng tính toán để mở rộng batch size huấn luyện:
   Đầu tư phần cứng GPU mạnh hơn để tăng batch size, giúp mô hình hội tụ nhanh và đạt hiệu quả cao hơn. Thời gian: 6 tháng. Chủ thể: các trung tâm nghiên cứu và doanh nghiệp AI.

4. Kết hợp ViT với các kỹ thuật học sâu khác:
   Nghiên cứu tích hợp ViT với mạng CNN hoặc các mô hình attention khác để tận dụng ưu điểm của từng kiến trúc, nâng cao độ chính xác và tốc độ xử lý. Thời gian: 12 tháng. Chủ thể: các nhóm nghiên cứu AI.

Đối tượng nên tham khảo luận văn

1. Nhà nghiên cứu và sinh viên ngành khoa học máy tính, trí tuệ nhân tạo:
   Cung cấp kiến thức chuyên sâu về ứng dụng Vision Transformer và kỹ thuật Baby Learning trong nhận dạng khuôn mặt, hỗ trợ phát triển đề tài nghiên cứu mới.

2. Doanh nghiệp phát triển công nghệ nhận dạng khuôn mặt:
   Áp dụng các giải pháp nâng cao độ chính xác trong điều kiện dữ liệu hạn chế, đặc biệt trong các ứng dụng an ninh, bán lẻ và dịch vụ khách hàng.

3. Cơ quan an ninh và quản lý:
   Sử dụng kết quả nghiên cứu để cải thiện hệ thống nhận dạng khuôn mặt trong truy tìm tội phạm, kiểm soát ra vào và giám sát an ninh công cộng.

4. Nhà phát triển phần mềm và kỹ sư AI:
   Tham khảo mô hình, thuật toán và phương pháp huấn luyện để xây dựng các hệ thống nhận dạng khuôn mặt hiệu quả, phù hợp với điều kiện dữ liệu thực tế.

Câu hỏi thường gặp

1. Vision Transformer khác gì so với mạng CNN trong nhận dạng khuôn mặt?
   ViT xử lý ảnh bằng cách chia thành các patch và sử dụng cơ chế attention để học mối quan hệ giữa các patch, trong khi CNN sử dụng các lớp tích chập để trích xuất đặc trưng cục bộ. ViT có khả năng tổng quát hóa tốt hơn khi dữ liệu đa dạng, nhưng CNN có inductive bias giúp học nhanh hơn với dữ liệu hạn chế.

2. Baby Learning giúp cải thiện mô hình như thế nào?
   Baby Learning tăng dần số lượng ảnh huấn luyện và số layer được tinh chỉnh, giúp mô hình học hiệu quả hơn trong điều kiện dữ liệu ít, tránh overfitting và nâng cao độ chính xác.

3. Tại sao cần bộ dữ liệu khuôn mặt người Việt Nam riêng biệt?
   Bộ dữ liệu huấn luyện lớn hiện nay chủ yếu chứa khuôn mặt người nước ngoài, thiếu đặc trưng vùng miền. Dữ liệu người Việt Nam giúp mô hình học được đặc điểm riêng, nâng cao độ chính xác khi áp dụng thực tế tại Việt Nam.

4. CosFace có ưu điểm gì so với các hàm mất mát khác?
   CosFace chuyển không gian Euclide sang không gian góc, tăng biên phân cách giữa các lớp, giúp phân biệt đặc trưng khuôn mặt tốt hơn so với softmax truyền thống, đồng thời phù hợp với cả ViT và CNN.

5. Làm thế nào để đánh giá độ chính xác của mô hình nhận dạng khuôn mặt?
   Độ chính xác được đánh giá qua các bài toán so khớp (face verification) và nhận diện (face identification) sử dụng các bộ dữ liệu chuẩn, đo lường tỷ lệ dự đoán đúng trên tổng số mẫu kiểm thử, kết hợp các phương pháp như L2 distance, SVM và CosFace.

Kết luận

• Luận văn đã xây dựng và đánh giá thành công mô hình nhận dạng khuôn mặt sử dụng Vision Transformer kết hợp kỹ thuật Baby Learning, phù hợp với điều kiện dữ liệu thiếu hụt.
• So sánh với mạng CNN ResNet101, ViT thể hiện ưu thế trong môi trường dữ liệu hạn chế, đặc biệt trên bộ dữ liệu người Việt Nam.
• Kỹ thuật Baby Learning giúp tăng độ chính xác mô hình lên đến 6-7%, giảm thiểu hiện tượng overfitting khi tinh chỉnh với dữ liệu ít.
• Bộ dữ liệu khuôn mặt người Việt Nam do tác giả thu thập đóng góp quan trọng cho nghiên cứu và ứng dụng thực tế tại Việt Nam.
• Các bước tiếp theo bao gồm mở rộng bộ dữ liệu, nâng cấp hạ tầng tính toán và nghiên cứu tích hợp mô hình để nâng cao hiệu quả nhận dạng khuôn mặt.

Kêu gọi hành động: Các nhà nghiên cứu và doanh nghiệp trong lĩnh vực AI nên áp dụng và phát triển thêm các kỹ thuật như Baby Learning kết hợp ViT để nâng cao hiệu quả nhận dạng khuôn mặt trong thực tế, đặc biệt tại các thị trường có dữ liệu hạn chế như Việt Nam.