HâC VIÞN CÔNG NGHÞ B¯U CHÍNH VIâN THÔNG ----------------------------------- VÕ THà HâNG NHUNG PHÂN TÍCH BIàU CÀM M¾T NG¯âI DÙNG M¾NG N¡ RON TÍCH CHÀP LUÀN VN TH¾C SĨ Kþ THUÀT (Theo đánh h°áng āng dāng) TP. Hâ CHÍ MINH – NM 2022 HâC VIÞN CÔNG NGHÞ B¯U CHÍNH VIâN THÔNG --------------------------------------- VÕ THà HâNG NHUNG PHÂN TÍCH BIàU CÀM M¾T NG¯âI DÙNG M¾NG N¡ RON TÍCH CHÀP Chuyên ngành: Hß tháng thông tin Mã sá: 8.04 LUÀN VN TH¾C SĨ Kþ THUÀT (Theo định hướng ứng dụng) NG¯âI H¯àNG DÀN KHOA HàC : PGS. Lê Hoàng Thái TP. Hâ CHÍ MINH - NM 2022 i LâI CAM ĐOAN Tôi cam đoan rằng luận văn: <Phân tích biểu cảm mặt người dùng mạng nơ ron tích chập= là công trình nghiên cāu cÿa chính tôi.
Những kết quÁ nghiên cāu đ°ợc trình bày trong luận văn là công trình cÿa riêng cÿa tôi d°ái sự h°áng dÁn cÿa PGS.TS Lê Hoàng Thái. Tôi cam đoan các số liệu, kết quÁ nêu trong luận văn là trung thực và ch°a từng đ°ợc ai công bố trong bất kỳ công trình nào khác. Không có sÁn ph¿m/nghiên cāu nào cÿa ng°ãi khác đ°ợc sử dụng trong luận văn này mà không đ°ợc trích dÁn theo đúng quy đßnh. Hồ Chí Minh, ngày 25 tháng 01 năm 2022 Hãc viên thực hißn luÁn vn Võ Thá Hãng Nhung ii LâI CÀM ¡N Trong suốt quá trình hác tập và nghiên cāu thực hiện luận văn, ngoài nỗ lực cÿa bÁn thân, tôi đã nhận đ°ợc sự h°áng dÁn nhiệt tình quý báu cÿa quý Thầy Cô, cùng vái sự đßng viên và ÿng hß cÿa gia đình, b¿n bè và đồng nghiệp.
Vái lòng kính tráng và biết ¡n sâu sắc, tôi xin gửi lãi cÁm ¡n chân thành tái: Ban Giám hiệu, quý Thầy Cô Khoa Đào t¿o sau đ¿i hác cÿa Hác viện Công nghệ B°u chính Viễn thông đã t¿o mái điều kiện thuận lợi giúp tôi hoàn thành luận văn. Tôi xin chân thành cÁm ¡n Thầy PGS.TS Lê Hoàng Thái, ng°ãi thầy kính mến đã hết lòng giúp đỡ, h°áng dÁn, đßng viên, t¿o điều kiện cho tôi trong suốt quá trình thực hiện và hoàn thành luận văn. Tôi xin chân thành cÁm ¡n gia đình, b¿n bè, đồng nghiệp trong c¡ quan đã đßng viên, hỗ trợ tôi trong lúc khó khăn để tôi có thể hác tập và hoàn thành luận văn. Mặc dù đã có nhiều cố gắng, nỗ lực, nh°ng do thãi gian và kinh nghiệm nghiên cāu khoa hác còn h¿n chế nên không thể tránh khỏi những thiếu sót.
Tôi rất mong nhận đ°ợc sự góp ý cÿa quý Thầy Cô cùng b¿n bè đồng nghiệp để kiến thāc cÿa tôi ngày mßt hoàn thiện h¡n. Xin chân thành cÁm ¡n! iii MĀC LĀC LâI CAM ĐOAN. iii DANH SÁCH CÁC THUÀT NGĂ, CÁC CHĂ VIÊT TT .vi DANH SÁCH CÁC BÀNG. vii DANH SÁCH HÌNH.
Lý do chán đề tài. Tổng quan về vấn đề nghiên cāu .1 Phân chia cÁm xúc khuôn mặt .2 Tình hình nghiên cāu .3 Mßt số công trình nghiên cāu đã có. Mục đích nghiên cāu. Đối t°ợng và ph¿m vi nghiên cāu.
Ph°¡ng pháp nghiên cāu. Dự kiến nßi dung cÿa luận văn .7 CH¯¡NG 1: GIàI THIÞU CHUNG .1 M¿ng n¡ ron nhân t¿o .1 Giái thiệu m¿ng n¡ ron nhân t¿o .2 Kiến trúc m¿ng n¡ ron nhân t¿o .2 M¿ng n¡ ron tích chập (Convolutional Neural Networks) .1 Khái niệm về m¿ng n¡ ron tích chập .2 Mô hình m¿ng n¡ ron tích chập .3 Bài toán phân lo¿i cÁm xúc khuôn mặt .4 Kết luận ch°¡ng 1 .17 CH¯¡NG 2: HÞ THàNG NHÀN D¾NG BIàU CÀM KHUÔN M¾T.1 Tiền xử lý Ánh mặt ng°ãi và tăng c°ãng mÁu hác .2 Chỉnh sửa xoay (Rotation correction).3 Cắt Ánh g°¡ng mặt (Face cropping) .4 GiÁm kích th°ác Ánh g°¡ng mặt (Downsampling) .2 M¿ng n¡ ron tích chập cho phân láp cÁm xúc .1 Kiến trúc m¿ng n¡-ron tích chập (Convolutional Neural Network) .4 M¿ng Deep Convolutional Neural Network (DCNN) .3 Kết luận cÿa ch°¡ng 2 .31 CH¯¡NG 3: THĀ NGHIÞM VÀ THÀO LUÀN .1 Dữ liệu Cohn-Kanade må rßng (CK+) .2 The Japanese Female Facial Expression (JAFFE) Dataset .2 Môi tr°ãng thử nghiệm .3 Cài đặt thử nghiệm và đß đo đánh giá .1 Thử nghiệm bß dữ liệu CK+ gốc .2 Thử nghiệm bß dữ liệu CK+ khi tăng c°ãng dữ liệu hác .3 Thử nghiệm bß dữ liệu JAFFE gốc .4 Thử nghiệm bß dữ liệu JAFFE tăng c°ãng .5 Kết quÁ thử nghiệm.6 Điều chỉnh tiền xử lý .7 So sánh kết quÁ mô hình CNN và DCNN .1 Tăng số l°ợng láp tích chập – Convolution layer .2 Áp dụng kỹ thuật dropout và batch normalization .8 Kết luận cÿa ch°¡ng 3 .56 CH¯¡NG 4: ĀNG DĀNG .1 Āng dụng phát hiện cÁm xúc khuôn mặt .2 Kết luận ch°¡ng 4 .59 CH¯¡NG 5: K¾T LUÀN VÀ H¯àNG PHÁT TRIàN .1 Kết quÁ nghiên cāu cÿa luận văn .2 Những h¿n chế trong luận văn .3 H°áng phát triển .61 TÀI LIÞU THAM KHÀO .62 vi DANH SÁCH CÁC THUÀT NGĂ, CÁC CHĂ VIÊT TÂT Vi¿t tÃt Ti¿ng Anh Ti¿ng Vißt CNN Convolutional Neural Networks M¿ng tích chập ReLU Rectified linear unit Hàm kích ho¿t Bß dữ liệu chu¿n Quốc tế CK+ Cohn–Kanade dataset Cohn Kanade Deep Convolutional Neural DCNN M¿ng tích chập nhiều láp Network ANN Artificial Neural Network M¿ng n¡ ron nhân t¿o GD Gradient Descent Kỹ thuật tối °u SGD Stochastic gradient descent Kỹ thuật tối °u Stochastic LBP Local binary patterns MÁu nhß phân cục bß JAFFE Japanese Female facial Expression Bß dữ liệu JAFFE vii DANH SÁCH CÁC BÀNG BÁng 1. 1: Mô tÁ các cÁm xúc c¡ bÁn cÿa con ng°ãi. 1: Kết quÁ chi tiết cÿa mô hình CNN trên bß dữ liệu CK+ cho từng nhãn cÁm xúc.
2: Kết quÁ nhầm lÁn giữa các nhãn cÁm xúc cÿa bß dữ liệu CK+ khi huấn luyện sử dụng mô hình CNN. 3: Kết quÁ chi tiết cÿa mô hình CNN trên bß dữ liệu JAFFE cho từng nhãn cÁm xúc. 4: Kết quÁ nhầm lÁn giữa các nhãn cÁm xúc cÿa bß dữ liệu JAFFE khi huấn luyện sử dụng mô hình CNN. 5: Kết quÁ khi áp dụng kỹ thuật tăng c°ãng dữ liệu trên cÁ hai bß dữ liệu CK+ và bß dữ liệu JAFFE sử dụng mô hình CNN.
6: Kết quÁ chi tiết đß đo F1 cho từng nhãn cÁm xúc khi tăng c°ãng dữ liệu và không tăng c°ãng dữ liệu sử dụng mô hình CNN trên hai bß dữ liệu. 7: Kết quÁ chi tiết các ph°¡ng pháp tiền xử lý khác nhau trên bß dữ liệu CK+. 8: Kết quÁ chi tiết các ph°¡ng pháp tiền xử lý khác nhau trên bß dữ liệu JAFFE. 9: Kết quÁ các đß đo DCNN trên hai bß dữ liệu gốc và sau khi tăng c°ãng dữ liệu .54 viii DANH SÁCH HÌNH Hình 1.
1: Minh háa về m¿ng neural nhân t¿o. 2: Các tầng (layer) trong CNN là 3 chiều. 3: Ví dụ minh háa về cấu trúc CNNs – LeNet – 5[15]. 4: Minh háa cách thāc tính chập cÿa mßt Ánh RGB và ma trận kernel.
5: Mô phỏng quá trình tích chập trong CNN. 6: Minh háa về bß lác filter. 7: Đồ thß hàm kích ho¿t Relu. 8: Minh háa kỹ thuật Pooling trong mô hình CNN.
9: Minh háa Fully connected layer. 10: Tổng quan hệ thống nhận diện cÁm xúc. 1: S¡ đồ tổng quan ph°¡ng pháp đề xuất. 2: S¡ đồ tổng quan các b°ác tiền xử lý dữ liệu đ°ợc áp dụng.
3: Ví dụ minh háa tính mßt giá trß māc xám mái å A, t¿i vß trí (0,0). 4: Ví dụ cách áp dụng Elastic Distortions để sinh các Ánh g°¡ng mặt. 5: Minh háa quá trình xoay l¿i Ánh g°¡ng mặt. 6: Mßt ví dụ lo¿i bỏ các nền xung quanh g°¡ng mặt.
7: Mßt ví dụ giÁm kích th°ác Ánh. 8: Mßt ví dụ chu¿n hóa các giá trß pixel trong Ánh [13]. 9: Thông số chi tiết mô hình CNN trong thí nghiệm cÿa hác viên. 10: Minh háa kiến trúc CNN trong mô hình đề xuất.
11: Ví dụ minh háa các đặc tr°ng Ánh trích xuất đ°ợc qua từng láp tích chập Convolutional layer [13]. 12: Mô hình tổng quan quá trình huấn luyện và kiểm thử mô hình huấn luyện trên hai bß dữ liệu. 13: Mô hình tổng quan quá trình kiểm thử dữ liệu trên bß dữ liệu kiểm tra27 Hình 2. 14: Chi tiết đầu vào và các thông số cÿa mô hình DCNN đ°ợc sử dụng.
1: Hình Ánh trong tập dữ liệu CK+. 2: Hình Ánh trong tập dữ liệu JAFFE. 3: Ví dụ về ma trận confusion. 4: Epoch tốt nhất khi ch¿y bß dữ liệu gốc CK+.
5: Epoch tốt nhất khi ch¿y bß dữ liệu đã tăng c°ãng CK+. 6: Epoch tốt nhất khi ch¿y bß dữ liệu gốc JAFFE. 7: Epoch tốt nhất khi ch¿y bß dữ liệu tăng c°ãng JAFFE. 8: Kết quÁ chi tiết các đß đo cho từng nhãn cÁm xúc khi tăng c°ãng dữ liệu sử dụng mô hình CNN trên bß dữ liệu CK+.
9: Kết quÁ chi tiết các đß đo cho từng nhãn cÁm xúc khi tăng c°ãng dữ liệu sử dụng mô hình CNN trên bß dữ liệu JAFFE. 10: Kết quÁ chi tiết các đß đo cho từng nhãn cÁm xúc khi tăng c°ãng dữ liệu và không tăng c°ãng dữ liệu sử dụng mô hình CNN trên bß dữ liệu CK+. 11: Kết quÁ chi tiết các đß đo cho từng nhãn cÁm xúc khi tăng c°ãng dữ liệu và không tăng c°ãng dữ liệu sử dụng mô hình CNN trên bß dữ liệu JAFFE. 12: Kết quÁ đß đo F1 giữa mô hình DCNN và CNN trên hai bß dữ liệu gốc và tăng c°ãng dữ liệu.
13: Kết quÁ các đß đo cÿa mô hình DCNN và mô hình CNN trên bß dữ liệu gốc CK+. 14: Kết quÁ các đß đo cÿa mô hình DCNN và mô hình CNN trên bß dữ liệu gốc JAFFE. 1: Kết quÁ dự đoán mô hình CNN trên thử nghiệm thực tế đối vỡi nhãn <Happy=. 2: Thãi gian dự đoán mô hình CNN trên thử nghiệm thực tế.
Lý do chãn đß tài Phân lo¿i biểu cÁm là lĩnh vực đã đ°ợc nghiên cāu trong nhiều năm qua vái nhiều āng dụng trong nhiều lĩnh vực khác nhau gắn liền vái các hệ thống t°¡ng tác ng°ãi máy. Trong máy hác, phân lo¿i biểu cÁm là mßt bài toán khó, tuy nhiên, đối vái con ng°ãi, vấn đề này có thể giÁi quyết ngay lập tāc. Các thách thāc chính là: hình Ánh biểu cÁm cÿa cùng mßt ng°ãi å cùng mßt biểu cÁm vÁn có thể khác nhau å những điều kiện ánh sáng, môi tr°ãng và góc quay. Những biến đổi này càng lán khi các đối t°ợng nghiên cāu càng đa d¿ng.
- Nhận biết cÁm xúc từ nét mặt có mßt số lợi thế nh°: o Tiếp cận theo h°áng tự nhiên nhất để xác đßnh tr¿ng thái cÁm xúc cÿa khuôn mặt. o Nhiều bß dữ liệu có sẵn cho biểu hiện cÁm xúc trên khuôn mặt.