HàC VIÆN CÔNG NGHÆ B¯U CHÍNH VIÄN THÔNG --------------------------------------- HUþNH MINH NHĀT NGHIÊN CĀU MÔ HÌNH NHÀN D¾NG CHþ KÝ VI¾T TAY SĀ DĀNG HàC SÂU CNN LUÀN VN TH¾C SỸ KỸ THUÀT (Theo đßnh h°áng āng dāng) TP. Hâ CHÍ MINH – NM 2022 HàC VIÊN CÔNG NGHÊ B¯U CHÍNH VIÈN THÔNG --------------------------------------- HUþNH MINH NHĀT NGHIÊN CĀU MÔ HÌNH NHÀN D¾NG CHþ KÝ VI¾T TAY SĀ DĀNG HàC SÂU CNN CHUYÊN NGÀNH: HÊ THàNG THÔNG TIN Mà Sà: 8.04 LUÀN VN TH¾C SỸ KỸ THUÀT (Theo đßnh h°áng āng dāng) NG¯âI H¯àNG D¾N KHOA HàC: TS. NGUYÄN XUÂN SÂM TP. Hâ CHÍ MINH – NM 2022 i LâI CAM ĐOAN Tôi cam đoan đây là công trình nghiên cứu của riêng tôi.
Các sá liËu, kÃt quÁ nêu trong luÁn văn là trung thăc và ch°a từng đ°ÿc ai công bá trong b¿t kỳ công trình nào khác. Ngo¿i trừ nhāng tài liËu tham khÁo đ°ÿc trích d¿n thì không có đo¿n văn nào đ°ÿc công bá trên các t¿p chí khoa hác, luÁn văn trong và ngoài n°ác. Ch°¢ng trình demo là ch°¢ng trình đã đ°ÿc cÁi thiËn tát nh¿t và ch°a đ°ÿc công bá hay b¿t kỳ mßt ai đã làm nh° kÃt quÁ đ¿t đ°ÿc. TPHCM, ngày 25 tháng 01 năm 2022 Hác viên thāc hiÇn luÁn vn Huÿnh Minh Nhāt ii LâI CÀM ¡N Tr°ác tiên, tôi xin chân thành cÁm ¢n ThÁy TS.NguyÅn Xuân Sâm đã tÁn tình h°áng d¿n và t¿o mái điÅu kiËn thuÁn lÿi đÇ tôi hoàn thành tát luÁn văn này.
Tôi cũng xin gÿi lãi cÁm ¢n đÃn Quý ThÁy Cô t¿i Hác ViËn Công NghË B°u Chính ViÉn Thông C¢ så Thành phá Hß Chí Minh đã tÁn tình giÁng d¿y và trang bß cho tôi nhāng kiÃn thức quý báu trong quá trình tham gia hác tÁp t¿i Tr°ãng. Tôi chân thành biÃt ¢n sâu sÃc đÃn gia đình và b¿n bè đã đßng viên và giúp đỡ tôi hoàn thành khóa hác này. TPHCM, ngày 25 tháng 01 năm 2022 Hác viên thāc hiÇn luÁn vn Huÿnh Minh Nhāt iii MĀC LĀC LâI CAM ĐOAN .iii DANH MĀC CÁC THUÀT NGĀ, CHĀ VIÂT TÂT. v DANH SÁCH HÌNH VÀ.
Tính c¿p thiÃt của đÅ tài. Táng quan v¿n đÅ nghiên cứu. Māc tiêu nghiên cứu. Đái t°ÿng, ph¿m vi nghiên cứu.
Ph°¢ng pháp nghiên cứu. 2 CH¯¡NG 1: TàNG QUAN VÄ XÂY DĂNG HÊ THàNG NHÀN D¾NG CHĀ KÝ VIÂT TAY .1 Các ph°¢ng pháp nhÁn d¿ng chā ký viÃt tay truyÅn tháng .2 Machine Learning trong nhÁn d¿ng chā ký viÃt tay .1 Giái thiËu vÅ machine learning .2 Input và Ouput .3 Random forest trong nhÁn d¿ng chā ký viÃt tay .3 Deep Learning (DL) trong nhÁn d¿ng chā ký viÃt tay .1 Giái thiËu vÅ deep learning .2 Deep learning trong xây dăng hË tháng nhÁn d¿ng chā ký viÃt tay .4 KÃt luÁn ch°¢ng. 11 CH¯¡NG 2: C¡ Sä LÝ THUYÂT VÀ CÁC CÔNG TRÌNH LIÊN QUAN.2 Mßt sá kiÇu m¿ng n¢-ron .3 Các ph°¢ng pháp hu¿n luyËn m¿ng n¢-ron .2 Các công trình liên quan.3 KÃt luÁn ch°¢ng. 35 iv CH¯¡NG 3: MÔ HÌNH NHÀN BIÂT CHĀ KÝ VIÂT TAY .1 Mô phßng ch°¢ng trình nhÁn biÃt chā ký viÃt tay .1 Giái thiËu chung .2 Công cā sÿ dāng .2 Môi tr°ãng mô phßng thăc nghiËm .3 KÃt luÁn ch°¢ng.
46 KÂT LUÀN VÀ H¯àNG PHÁT TRIÆN. 47 DANH MĀC CÁC TÀI LIÊU THAM KHÀO. 49 v DANH MĀC CÁC THUÀT NGþ, CHþ VI¾T TÂT Vi¿t tÃt Ti¿ng Anh Ti¿ng ViÇt CNN Convolutional Neural Network M¿ng thÁn kinh tích chÁp ANN Artificial Neural Networks M¿ng N¢-ron SNN Simulated Neural nNetworks M¿ng N¢-ron mô phßng kNN K-nearest Neighbors GiÁi thuÁt hàng xóm gÁn nh¿t SVM Support vector machine Máy vector hỗ trÿ GPU Graphics Processing Unit Bß xÿ lý đß háa AI Artificial Intelligence Trí thông minh nhân t¿o RGB Red Green Blue Mô hình màu Red Green Blue ML Machine Learning Máy hác DL Deep Learning Hác sâu HMM Hidden Markov Model Mô hình Markov ẩn SOM Self Origanizing Map BÁn đß tă tá chức vi DANH SÁCH HÌNH VẼ Hình 1. Táng quan vÅ Quy trình Nghiên cứu.
Hình Ánh chā ký trong quá trình thu thÁp. Ví dā vÅ Chā ký đ°ÿc CÃt và Dán nhãn. Táng quan vÅ xây dăng thuÁt toán xác minh chā ký. KiÃn trúc của 1 mô hình nhÁn d¿ng chā ký [1].
Mô tÁ thuÁt thoán random forest. M¿u training set trong random forest. Áp dāng random forest vào nhÁn d¿ng chā ký. Mái liên hË AI, ML, DL.
Deep learning trong nhÁn d¿ng chā ký viÃt tay. Hàm đßng nh¿t (Identify function). Hàm b°ác nhß phân. Hàm sigmoid l°ỡng căc.
M¿ng n¢-ron truyÅn thẳng nhiÅu láp (Feed-forward neural network). M¿ng n¢-ron hßi quy (Recurrent neural network)&&&&&&&&&17 Hình 2. Mô hình hác có giám sát (Supervised learning model). Mô phßng m¿ng n¢-ron tích chÁp.
Minh háa tích chÁp. Ành mã sau khi chÁp. Mô phßng sá làm mã Ánh (b°ác 1). Mô phßng sá làm mã Ánh (b°ác 2).
Ành đ°ÿc phát hiËn biên sau khi chÁp. KiÃn trúc LeNet-5&&&&&&&&&&&&&&&&&&&&. KiÃn trúc AlexNet&&&&&&&&&&&&&&&&&. KiÃn trúc VGG-16.
Quá trình import th° viËn&. Chia dā liËu đÁu vào thành 2 nhóm thÁt và giÁ. Hàm l¿y ra 2 chā thÁt và 1 chā ký giÁ từ bß dā liËu đã đ°ÿc chia. Hàm t¿o các cặp dā liËu theo kích th°ác batch_size&&&&&&&&.
Mô hình CNN&&&&&&&&&&&&&&&&&&&&&&&. Tính toán ng°ỡng và đß chính xác sau khi train model&&&&. Hàm kiÇm tra chā ký thÁt giÁ&&&&&&&&&&&&&&&&&. KÃt quÁ chā ký thÁt lÁn 1&&&&&&&&&&&&&&&&&&&44 Hình 3.
KÃt quÁ chā ký thÁt lÁn 2. KÃt quÁ chā ký thÁt lÁn 3&&&&&&&&&&&&&&&&&&. KÃt quÁ chā ký thÁt lÁn 4&&&&&&&&&&&&&&&&&&. KÃt quÁ chā ký giÁ lÁn 1&&&&&&&&&&&&&&&.
KÃt quÁ chā ký giÁ lÁn 2&&&&&. KÃt quÁ chā ký giÁ lÁn 3&&&&&&. KÃt quÁ chā ký giÁ lÁn 4&&&&&&. Tính c¿p thi¿t cÿa đÁ tài Trong lĩnh văc sinh trÃc hác hành vi, viËc xác minh chā ký là quy trình tham chiÃu đÇ xác thăc mßt ng°ãi.
Chā ký đ°ÿc coi là <con d¿u phê duyËt= đÇ xác minh să ch¿p thuÁn của ng°ãi dùng và v¿n là ph°¢ng tiËn xác thăc đ°ÿc °a chußng nh¿t. Chā ký viÃt tay ván áp đặt trách nhiËm pháp lý vÅ tài chính và đ¿o đức, là mßt kỹ thuÁt xác thăc v¿n đ°ÿc sÿ dāng rßng rãi ngày nay, đặc biËt trong các văn bÁn pháp lý, giao dßch ngân hàng và th°¢ng m¿i. Do đó, chā ký viÃt tay th°ãng bß các k¿ x¿u lÿi dāng và sÿ dāng đÇ lừa đÁo. ĐÇ ngăn chặn gian lÁn và māc đích x¿u, xác minh chā ký đ°ÿc sÿ dāng nhằm xác minh viËc phân biËt chā ký giÁ m¿o vái chā ký thÁt.
H¿n chà quan tráng của chā ký viÃt tay là chúng không thÇ sao chép theo cùng mßt cách. Các chā ký có thÇ khác nhau tùy thußc vào dāng cā viÃt đ°ÿc sÿ dāng (bút chì, gi¿y. Ngay cÁ nhāng ng°ãi tài năng nh¿t cũng không bao giã có thÇ ký cùng mßt chā ký theo cùng mßt cách. Māc tiêu kÃt quÁ đ¿t của hË tháng là: Phân biËt chā ký viÃt tay thÁt hay giÁ dăa trên kỹ thuÁt hác sâu.
Ph°¢ng pháp hác sâu đ°ÿc nghiên cứu là thuÁt toán M¿ng N¢-ron tích chÁp (CNN). Tång quan v¿n đÁ nghiên cāu M¿ng N¢-ron tích chÁp (CNN) là mßt trong nhāng mô hình của Hác sâu (DL). Tác dāng của thuÁt toán này chính là giúp chúng ta t¿o ra nhāng hË tháng thông minh, có să phÁn ứng vái đß chính xác cao. HË tháng phân tích kÃt quÁ xác thăc chā ký viÃt tay đ°ÿc chứa båi nhāng ph°¢ng pháp hác sâu (DL).
Māc tiêu nghiên cāu Xác thăc chā ký viÃt tay đÇ phân biËt chā ký viÃt tay thÁt hay giÁ đÇ ngăn chặn viËc k¿ x¿u lÿi dāng trong các giao dßch ngân hàng, văn bÁn pháp lý và th°¢ng m¿i&. 2 Nßi dung chính là viËc biÃn đái dā liËu thu thÁp này thành thông tin bằng mô hình hác sâu nhằm phân tích kÃt quÁ tát nh¿t của chā ký thÁt và giÁ m¿o. V¿n đÅ nghiên cứu trên đang là mßt chủ đÅ thãi să và đ°ÿc nhiÅu nhóm nghiên cứu trong và ngoài n°ác r¿t quan tâm. Đái t°ÿng, ph¿m vi nghiên cāu Đái t°ÿng nghiên cứu: Các chā ký viÃt tay của ng°ãi ViËt Nam Ph¿m vi nghiên cứu: Nghiên cứu kỹ thuÁt xÿ lý Ánh các chā ký viÃt tay của ng°ãi ViËt.
Ph°¢ng pháp nghiên cāu Phương pháp lý thuyết: Dăa trên các tài liËu vÅ c¢ så lý thuyÃt vÅ xÿ lý Ánh sá, lác trích Ánh sá. Sÿ dāng ngôn ngā Python đÇ xây dăng hË tháng dăa trên thuÁt toán M¿ng N¢-ron vÅ nhÁn d¿ng chā ký viÃt tay. Phương pháp thực nghiệp: Xây dăng ch°¢ng trình thÿ nghiËm và kiÇm thÿ tính hiËu của ch°¢ng trình vái nhāng chā ký viÃt tay của ng°ãi ViËt. Bá cāc luÁn vn Ngoài phÁn må đÁu, māc lāc, kÃt luÁn và tài liËu tham khÁo, nßi dung chính của luÁn án đ°ÿc chia thành 3 ch°¢ng, cā thÇ nh° sau: Ch°¢ng 1: Táng quan vÅ xây dăng hË tháng.
Ch°¢ng 2: C¢ så lý thuyÃt và các công trình liên quan. Ch°¢ng 3: Mô hình nhÁn biÃt chā ký viÃt tay. 3 CH¯¡NG 1: TäNG QUAN VÀ XÂY DĀNG HÆ THàNG NHÀN D¾NG CHþ KÝ VI¾T TAY 1.1 Các ph°¢ng pháp nhÁn d¿ng chÿ ký vi¿t tay truyÁn tháng Chā ký viÃt tay là mßt biÇu t°ÿng viÃt tay của con ng°ãi. Chā ký [1] còn là mßt công cā phá biÃn đÇ xác đßnh danh tính của mßt ng°ãi, đặc biËt là vÅ mặt phê chuẩn các tài liËu mÁt.
ĐiÅu này d¿n đÃn nhu cÁu nghiên cứu thêm vÅ xác minh chā ký, nhằm ngăn chặn viËc các bên thiÃu trách nhiËm lÿi dāng chā ký. Mỗi con ng°ãi có mßt cái gì đó có thÇ đ°ÿc sÿ dāng làm bằng chứng vÅ danh tính, chẳng h¿n nh°: chā ký, d¿u vân tay, khuôn mặt,. Ngày nay, hÁu hÃt các công ty trong lĩnh văc ngân hàng và các lĩnh văc khác dăa vào chā ký đÇ xác minh danh tính của ai đó. Do tÁm quan tráng của chā ký của mßt ng°ãi nào đó trong hË tháng, luôn có nguy c¢ sÿ dāng sai chā ký của các bên thiÃu trách nhiËm.
ViËc l¿m dāng bao gßm giÁ m¿o chā ký đÇ làm sai lËch danh tính của ai đó đÇ xâm nhÁp vào hË tháng hoặc truy cÁp các tài liËu bí mÁt. Båi vì tình tr¿ng đáng lo ng¿i này, các nhà nghiên cứu đã tiÃn hành mßt sá nghiên cứu vÅ chā ký xác minh bằng cách sÿ dāng các ph°¢ng pháp khác nhau [1],[2]. Nghiên cứu tÁp trung vào xác minh xem chā ký đã cho là thÁt hay giÁ. Mặc dù có nhiÅu nghiên cứu vÅ xác minh chā ký, hiËu su¿t của các ph°¢ng pháp đã đ°ÿc phát triÇn v¿n ch°a đ¿t yêu cÁu.
Ngoài ra, hÁu hÃt các ph°¢ng pháp chỉ sÿ dāng máy hác truyÅn tháng. Do đó, chúng tôi phát triÇn các mô hình và xác minh chā ký các thuÁt toán sÿ dāng hác sâu. Ng°ãi ta mong đÿi rằng să phát triÇn của mô hình này và thuÁt toán sÁ cÁi thiËn hiËu su¿t và đß chính xác của các xác minh chā ký hiËn t¿i.