HâC VIÆN CÔNG NGHÆ B¯U CHÍNH VIÄN THÔNG --------------------------------------- NguyÅn Ph°ãc Đ¿i ĄNG DĀNG PH¯¡NG PHÁP HâC SÂU VÀO NHÂN D¾NG CÀM XÚC Đ ĐÁNH GIÁ Đà HÀI LÒNG KHÁCH HÀNG ĐÀ ÁN TÞT NGHIÆP TH¾C SĨ KĀ THUÂT (Theo định hướng āng dụng) THÀNH PHÞ Hà CHÍ MINH - 2023 HâC VIÆN CÔNG NGHÆ B¯U CHÍNH VIÄN THÔNG --------------------------------------- NguyÅn Ph°ãc Đ¿i ĄNG DĀNG PH¯¡NG PHÁP HâC SÂU VÀO NHÂN D¾NG CÀM XÚC Đ ĐÁNH GIÁ Đà HÀI LÒNG KHÁCH HÀNG Chuyên ngành: Há thống thông tin Mã số: 8.04 ĐÀ ÁN TÞT NGHIÆP TH¾C SĨ KĀ THUÂT (Theo định hướng āng dụng) NG¯äI H¯âNG DÀN KHOA HâC TS. HUþNH TRâNG TH¯A THÀNH PHÞ Hà CHÍ MINH - 2023 i LäI CAM ĐOAN Tôi xin cam đoan đà án th¿c s* há thống thông tin <Ąng dāng ph°¢ng pháp hãc sâu vào nhÃn d¿ng cÁm xúc đà đánh giá đá hài lòng khách hàng= là do tôi nghiên cąu, táng hÿp và thāc hián. TÃt cÁ các nái dung, các số liáu, kÁt quÁ nêu trong đà án tốt nghiáp này là trung thāc và ch°a từng đ°ÿc ai công bố trong bÃt kỳ công trình nào khác. Tôi hoàn toàn chịu trách nhiám cho mọi hành vi sao chép trái phép hoặc vi ph¿m quy chÁ đào t¿o.
TPHCM, ngày 12 tháng 10 năm 2023 Hãc viên thąc hiÇn đÁ án NguyÅn Ph°ãc Đ¿i ii LäI CÁM ¡N Tôi xin gửi lßi cÁm ¢n chân thành và sâu sắc đÁn TS. Huỳnh Trọng Th°a, ng°ßi thÅy đã tÁn tâm và nhiát tình trong viác h°ãng d¿n và đáng viên tôi suốt quá trình thāc hián đà án. Nhß sā hß trÿ căa ng°ßi thÅy, tôi đã đ°ÿc định h°ãng và hoàn thành các māc tiêu mà tôi đã đà ra. Tôi xin gửi lßi tri ân chân thành đÁn các ThÅy, Cô đã đßng hành và tÁn tình giÁng d¿y cho tôi suốt thßi gian học tÁp trong ch°¢ng trình Th¿c s* Há thống thông tin t¿i khoa Đào t¿o Sau đ¿i học, Học vián Công nghá B°u chính Vißn thông c¢ sá t¿i thành phố Hß Chí Minh.
Tôi muốn bày tỏ lòng biÁt ¢n đÁn ban Giám Đốc Trung tâm Công nghá Thông tin – Vißn thông Tây Ninh đã t¿o điÃu kián thuÁn lÿi cho quá trình học tÁp căa tôi. Tôi biÁt ¢n đÁn tÃt cÁ b¿n bè đã đáng viên, hß trÿ và đóng góp nhÿng ý kiÁn quý báu cho đà án này. Đóng góp căa các b¿n đã giúp tôi hoàn thián nghiên cąu này. Đà án đã hoàn thành và đ¿t đ°ÿc mát số kÁt quÁ nhÃt định, tuy vÁy tôi thừa nhÁn rằng còn tßn t¿i nhÿng h¿n chÁ và thiÁu sót.
Vì vÁy, tôi chân thành mong nhÁn đ°ÿc sā thông cÁm, sā đóng góp quý báu từ quý thÅy cô và các b¿n đÅ tôi có thÅ cÁi thián, nâng cao chÃt l°ÿng căa nghiên cąu này. Mát lÅn nÿa tôi xin chân thành cÁm ¢n ! TPHCM, ngày 12 tháng 10 năm 2023 Hãc viên thąc hiÇn đÁ án NguyÅn Ph°ãc Đ¿i iii MĀC LĀC LäI CAM ĐOAN. iii DANH MĀC CÁC THUÂT NGĂ, CHĂ VI¾T TÄT .v DANH SÁCH HÌNH VẼ. vi DANH SÁCH BÀNG .1 CH¯¡NG 1 – TâNG QUAN.
Lý do chãn đÁ tài. Đßi t°ÿng và ph¿m vi nghiên cąu. Ph°¢ng pháp nghiên cąu. Tính thąc tiÅn.
Bß cāc trình bày đÁ án .3 CH¯¡NG 2 – C¡ Sæ LÝ THUY¾T VÀ CÁC NGHIÊN CĄU LIÊN QUAN. Giãi thiáu TensorFlow. Giãi thiáu và OpenCV. Giãi thiáu và Python.
Các nghiên cąu liên quan. Mô hình VGG. Mô hình ResNet. Mô hình MobileNet.
KiÁn trúc Finetune-MobileNet .15 CH¯¡NG 3 – MÔ HÌNH ĐÀ XUÂT. Xử lý dÿ liáu. HuÃn luyÇn mô hình. Xử lý dÿ liáu đÅu vào.
Xây dāng mô hình. HuÃn luyán mô hình. KÁt quÁ huÃn luyán mô hình. Mô hình đ°ÿc chọn.
CÁi ti¿n mô hình. KiÁn trúc Finetune-MobileNetV2. Phân nhóm đá hài lòng. KÁt quÁ huÃn luyán sau cÁi tiÁn .312 Ch°¢ng 4 – THĄC NGHIÆM.
Thu thÃp thêm dă liÇu cÁm xúc thąc t¿. HuÃn luyÇn mô hình. TriÃn khai mô hình. Cài đặt thąc nghiÇm .38 K¾T LUÂN VÀ H¯âNG PHÁT TRIÂN .41 DANH MĀC CÁC TÀI LIÆU THAM KHÀO .42 v DANH MĀC CÁC THUÂT NGĂ, CHĂ VI¾T TÄT Vi¿t tÅt Ti¿ng Anh Ti¿ng ViÇt Deep Convolutional Neural DCNN M¿ng n¢ron tích chÁp sâu Networks Finetune Tinh chỉnh MobileNet M¿ng di đáng VGG Visual Geometry Group ResNet Residual Network Open Source Computer Vision Th° vián thị giác máy tính OpenCV Library mã ngußn má vi DANH SÁCH HÌNH VẼ Hình 1.2: KiÁn trúc cho ImageNet .3: Tỷ lá lßi khi xác thāc ImageNet.
Mô hình VGG-16, ResNet- 50/101/152 chỉ sử dāng phép chiÁu đÅ tăng kích th°ãc.4: KiÁn trúc thân MobileNet .5: Lãp tích chÁp tiêu chuẩn: (a) vãi định mąc hàng lo¿t và ReLU, (b) Lãp tích chÁp theo chiÃu sâu vãi Depthwise và Pointwise .6: KiÁn trúc há thống MobileNet tinh chỉnh .7: Mô hình MobileNet CNN .8: KiÁn trúc Finetuned MobileNet .1: Xử lý dÿ liáu input .2: Mô hình ResNet50 .3: Mô hình VGG16 .4: Mô hình MobileNetV2 .5: KÁt quÁ training vãi ResNet50.6: KÁt quÁ training vãi VGG16 .7: KÁt quÁ training vãi MobileNetV2 .8: KÁt quÁ đá chính xác nhãn cÁm xúc vãi VGG16 .9: KÁt quÁ đá chính xác nhãn cÁm xúc vãi ResNet50 .10: KÁt quÁ đá chính xác nhãn cÁm xúc vãi MobileNetV2 .11: BiÅu đß so sánh giÿa 3 mô hình .1: KiÁn trúc MobileNetV2 .2: KÁt quÁ training vãi MobileNetV2 sau cÁi tiÁn .3: BiÅu đß đá chính xác căa các nhãn cÁm xúc vãi MobileNetV2 .4: BiÅu đß so sánh giÿa 4 mô hình theo nhãn cÁm xúc .1: KiÁn trúc há thống thāc nghiám .2: Giao dián há thống demo .3: Các b°ãc đ°a dÿ liáu vào há thống đÅ nhÁn d¿ng .4: KÁt quÁ dā đoán cÁm xúc qua nhÁn d¿ng khuôn mặt .5: KÁt quÁ dÿ liáu nhÁn d¿ng ch°a chuẩn xác hoàn toàn .40 viii DANH SÁCH BÀNG BÁng 1.1: KÁt quÁ kiÅm thử mô hình VGG16 đã training .2: KÁt quÁ kiÅm thử mô hình ResNet50 đã training .3: KÁt quÁ kiÅm thử mô hình MobileNetV2 đã training .4: KÁt quÁ so sánh giÿa 3 mô hình .1: KÁt quÁ 8 lãp cÁm xúc ch¿y thử MobileNetV2 sau cÁi tiÁn .2: KÁt quÁ so sánh giÿa kỹ thuÁt đóng băng 5 lãp, 20 lãp và 40 lãp .3: KÁt quÁ kiÅm thử mô hình Finetune20-MobileNetV2 đã training .4: KÁt quÁ kiÅm thử 4 mô hình .34 1 Mæ ĐÄU Trong thßi đ¿i số hóa và phát triÅn công nghá nh° hián nay, ąng dāng căa trí tuá nhân t¿o và học máy đã mang l¿i nhÿng tiÁn bá đáng kÅ trong nhiÃu l*nh vāc, đặc biát là trong viác nhÁn d¿ng và xử lý dÿ liáu hình Ánh. Mát trong nhÿng ąng dāng quan trọng căa học máy trong l*nh vāc này là khÁ năng nhÁn d¿ng cÁm xúc mặt ng°ßi, góp phÅn nâng cao khÁ năng t°¢ng tác giÿa con ng°ßi và máy tính. CÁm xúc mặt ng°ßi chąa đāng nhÿng thông điáp quan trọng và tâm tr¿ng, tình cÁm và thái đá căa mát cá nhân t¿i thßi điÅm cā thÅ. ĐÅ hiÅu đ°ÿc nhÿng thông điáp này, máy tính cÅn có khÁ năng xử lý và nhÁn biÁt các đặc điÅm trong hình Ánh khuôn mặt, từ đó phân lo¿i cÁm xúc nh° vui vẻ, bußn bã, tąc giÁn, sÿ hãi, kinh ng¿c, và ghét bỏ.
Trong bối cÁnh này, viác sử dāng mô hình Deep Convolutional Neural Networks (DCNN) và kỹ thuÁt Fine-tune đã chąng minh sā hiáu quÁ trong viác xây dāng các há thống nhÁn d¿ng cÁm xúc mặt ng°ßi. Mô hình MobileNet, mát lo¿i mô hình DCNN, đã đ°ÿc phát triÅn đÅ đáp ąng nhu cÅu trong viác xử lý hình Ánh trên các thiÁt bị có tài nguyên h¿n chÁ nh° đián tho¿i di đáng và thiÁt bị nhúng. KÁt hÿp vãi kỹ thuÁt Fine-tune, mô hình MobileNet có thÅ đ°ÿc tinh chỉnh và đào t¿o l¿i trên dÿ liáu cā thÅ, giúp nâng cao khÁ năng nhÁn d¿ng cÁm xúc mặt ng°ßi trên các tÁp dÿ liáu cā thÅ. Đà án tốt nghiáp này nhằm khám phá tiÃm năng căa mô hình MobileNet và kỹ thuÁt Fine-tune trong viác xây dāng há thống nhÁn d¿ng cÁm xúc mặt ng°ßi.
Qua viác nghiên cąu và thāc nghiám, mong muốn rằng luÁn văn s¿ đóng góp vào sā phát triÅn căa l*nh vāc này và má ra nhÿng h°ãng nghiên cąu tiÃm năng trong t°¢ng lai. 2 CH¯¡NG 1 – TâNG QUAN 2. Lý do chãn đÁ tài Hián nay, mát phÅn rÃt quan trọng trong chiÁn l°ÿc sÁn xuÃt kinh doanh căa nhiÃu doanh nghiáp là công tác đánh giá đá hài lòng căa khách hàng. Ngoài các ph°¢ng pháp truyÃn thống là khÁo sát trāc tiÁp ý kiÁn khách hàng ngay t¿i điÅm giao dịch, gửi liên kÁt đánh giá trāc truyÁn&, thì mát ph°¢ng pháp đ°ÿc đà cÁp đÁn là nhÁn d¿ng cÁm xúc khuôn mặt đÅ đánh giá đá hài lòng căa khách hàng khi trÁi nghiám dịch vā.
Xây dāng mát ąng dāng thử nghiám khÁ năng nhÁn d¿ng cÁm xúc trên mặt ng°ßi từ các tÁp dÿ liáu má trên internet, đánh giá tính khÁ thi tr°ãc khi phát triÅn ý t°áng thành ąng dāng hoàn chỉnh áp dāng vào thāc tÁ. Nên viác đà xuÃt giÁi pháp <Ąng dāng ph°¢ng pháp hãc sâu vào nhÃn d¿ng cÁm xúc đà đánh giá đá hài lòng khách hàng= là có tính thiÁt thāc và mang tính ąng dāng cao. Māc đích nghiên cąu Đà án <Ąng dāng ph°¢ng pháp học sâu vào nhÁn d¿ng cÁm xúc đÅ đánh giá đá hài lòng khách hàng= h°ãng tãi mát ąng dāng có chąc năng phát hián ra khuôn mặt ng°ßi và nhÁn d¿ng cÁm xúc trên khuôn mặt đó nh° giÁn giÿ, khinh th°ßng, sÿ hãi, vui vẻ/h¿nh phúc, bình th°ßng, bußn, ng¿c nhiên. Thông qua nghiên cąu các ph°¢ng pháp học máy cho bài toán nhÁn d¿ng cÁm xúc mặt ng°ßi và ngôn ngÿ lÁp trình Python, đà án muốn xây dāng mát ąng dāng có thÅ nhÁn d¿ng đ°ÿc cÁm xúc căa khuôn mặt ng°ßi từ đó đánh giá đá hài lòng căa khách hàng.
Đßi t°ÿng và ph¿m vi nghiên cąu Vãi māc tiêu đặt ra á trên, đà án thāc hián nhÿng vÃn đà sau: - Đối t°ÿng nghiên cąu là các ph°¢ng pháp phát hián khuôn mặt ng°ßi và nhÁn d¿ng cÁm xúc căa khuôn mặt qua đó lāa chọn mát ph°¢ng pháp phù hÿp. Tìm hiÅu và đà xuÃt mát ph°¢ng pháp cā thÅ. - Nghiên cąu và sử dāng ph°¢ng pháp học máy, cā thÅ là là mô hình MobileNet đÅ phân lo¿i cÁm xúc căa khách hàng. 3 - Ph¿m vi thāc hián: sử dāng tÁp dÿ liáu trên Kaggle đÅ huÃn luyán và đ°a ra kỹ thuÁt tối °u mô hình áp dāng.
Ph°¢ng pháp nghiên cąu - Ph°¢ng pháp nghiên cąu lý thuy¿t: Mô tÁ kiÁn thąc và m¿ng n¢ron và học sâu cÅn thiÁt đÅ hiÅu và mô hình MobileNet. Phân tích chi tiÁt cách MobileNet ho¿t đáng, cách áp dāng vào bài toán phân lo¿i cÁm xúc. - Ph°¢ng pháp nghiên cąu thąc nghiÇm: Trình bày quy trình xây dāng tÁp dÿ liáu, tiÃn xử lý, huÃn luyán và đánh giá mô hình. Thử nghiám nhiÃu mô hình khác nhau nh° VGG,Resnet, thử nghiám kỹ thuÁt Finetune vãi mô hình MobileNet đÅ tăng đá chính xác.