CHƯƠNG 1. TỔNG QUAN VỀDEEP LEARNING VÀ MẠNG NƠ- RON TÍCH CHẬP.1 Tổng quan v`êDeep Learning. - -- «s2 9111 vn HH HH Hy ng 4 1.1 Khái niệm v`êDeep LearnInng. - -- -- - sọ g ng ng ve ce 4 1.2 Cách hoạt động của Deep Learning.3 Các lĩnh vực và ứng dụng trong Deep Learning.2 Tổng quan v`êmạng Nơ-ron tích chập.-- -- 5 2x 9 221 HH ng ni nư 6 1.1 Lịch sử mạng Nơ-ron tích chậpp.2 Các mạng Nơ-ron tích chập tiêu biỂU.3 Đặc trưng chung của các mạng Nơ-ron tích chập.4 Mạng Nơ-ron tích chap (Convulational Neural Network).--- 13 CHƯƠNG 2: GIẢI PHÁP VÀ KỸ THUẬT NHÂN DIỆN ĐỐI TƯỢNG TRONG MẠNG NƠ-RON TÍCH CHẬP.1 Tân xử lý ảnh trong Deep Learning.
--- 5 ccS+ St xnxx g re 24 2.1 Vai trò của tin xử LY ảnh. S 3 ST HH HH HH HH ry 24 "U00 12.4 Dich chuyén nan.5 Lầm mịn ảnh. -- ----- <6 1 E1 E3 5E 5 E19 1E KH BE BE cret 26 PC 9.2 Kỹ thuật khắc phục độ chệch, phương sai, quá khớp và vị khớp trong xây dựng mô hình Deep Learn1ng. Họ gi ng re 27 2.1 Độ chệch và phương SaI.3 Khái niệm độ đo quan trọng trong một mô hình nhận diện đối tượng.2 Ma trận nhn lẫn.
- --- -G- 5G S2 SE 2E E11 E1 E3 E1 13 E3 13 13 1E kg ven 33 2.3 DO CHUAN XA. 35 CHƯƠNG 3: ỨNG DỤNG MẠNG NƠ-RON TÍCH CHẬP XÂY DỰNG MÔ HÌNH NHÂN DIỆN KHUÔN MẶT ĐOÁN TUỔI.1 Công cụ, cấu trúc thư mục xây dựng và huấn luyện mô hình.2 Cài đặt Jupyfer-nOf€bOOk.- -- sọ ng gu ven 36 E90 (số.2 Thu thập và trực quan hóa dữ lIỆU.1 Bộ dữ liệu CroplFaCG.- -- G0 TH HH nh ngu 38 3.2 Trực quan hóa dữ lIỆU.3 Các bước tỉ ẩn xử lý dữ liỆU. St S S2 SH HH HH rệt 40 B.2 Trích xuất đặc trưng.- -- -- + HH HH HH ch tre 41 3.4 Xây dựng và huấn luyện mô hình.2 Xây dựng cấu trúc mạng CNN và huấn luyện mô hình.5 Đánh giá kết quả huấn lUyỆn.- -- 5 <5 v19 HH HH HH ch 44 3.1 Đánh giá kết quả huấn luyện trong tập kiểm định.2 Đánh giá mô hình trên tập t€SỂ. - -- -- Q n nHY gn ngưn 44 3.6 Thử nghiệm mô hình.
---:ÖÕ1Ơ 47 DANH MỤC THUẬT NGỮ.---2¿522ES2+22EEEt22EEE2EEEttrErrrrrrees 47 PHỤ LỤC CODE. xe 48 NHẦN XÉT CỦA GIẢNG VIÊN HƯỚNG DẪN.------+: 55 MUC LUC HINH ANH Hình 1.1: Mô tả mô hình nhận diện động vật bằng mạng nơ-ron tích chập.2: Kiến trúc mạng LUeÌN€f-5.-- --5 ng vn 8 Hình 1.3: Kiến trúc mạng VỚ(C- ÌÓ. -- Ăn HT nh vớ 8 Hình 1.4: Kiến trúc mạng ResNet bao g ‘4m hai khối đặc trưng tích chập.5: Kiến trúc mạng DenseÌNet. - -- -- sọ HH nh vớ 11 Hình 1.6: Mang Alexnet, kiến trúc điển hình của CNN.7: Quá trinh true theo chi Gi réng Ws ccsssssssssscssssssssisessscssssisessssssscssssssecsesssves 14 Hình 1.8: Thém padding kích thước cho P vào I'êchi ân rong! "¬— 14 Hình 1.9: Cấu trúc đại diện của một mạng Nơ-ron tích chập.10: Cấu trúc các khối nơ-ron 3D mạng AÏeXnet.13: Hình ảnh mô phỏng các phát hiện sau mỗi tÄng.14: Ð ôthi hàm kích hoạt ReLLU.15: Ð `ôthị hàm S1gmoOIC.
-- G Ăn ng ng gg 22 Hình 1.16: Ð ôthi đạo hàm, hàm Š1øImOIC.18: Ð ôthi đạo hàm, hàm Tanh.1: Tinh chất cộng tính của phép biến đổi tuyến tính.2: Các khả nang v €d6 chéch và phương sai của mô hình.3: Phương pháp dừng sớm (earÏy stopping). ---- «sen nhe 31 Hình 2.4: Phương pháp droupout áp dung trên mạng nơ-ron.5: Ma trận nh ân lẫn.- --- -- G 2< SE 3E EE E3 E3 E3 E3 131 3E 11 3 E1 E3 HE xxx 34 Hình 2.- --G- 2G HH gu ch ng 36 Hình 3.1: Truy cập Anaconda từ trình duyệt WED. HH ky 38 Hình 3.2: Khởi chạy jupyter-notebook tử Anaconda. -----c ccc sec ssersrrrerrsrree 39 1 Hinh 3.3: Cai dat jupyter-notebook bang pipa.4: Ca trvic thur muc.5: Bộ dữ liệu CTopFaCG.-- 5 5s HH ghe ngg 40 Hình 3.6: Hiển thị một lưới ảnh tương ứng với các label (nhãn) là độ tuổi.7: Biểu đ ôphân bố độ tuổi trên tập dữ liệu.8: Biểu đ`ôphân bố độ tuổi sau khi xử lý, loại bỏ những dữ liệu dày và thưa.9: Hàm trích lọc đặc trưng ảnh và đưa ảnh v`êkích thước phù hợp với đầầi vào 00800) 015.10: Chuẩn hóa dữ liệu đưa vào mô hình.11: Tóm tắt kiến trúc mô hình CNN đã được xây dựng.12: Bi`âi đôhàm mất mát trên tập huấn luyện và tập kiểm định.13: Đánh giá độ đo trên tập t€S[.
-- GG ng ng ng 46 Hình 3.14: Thử nghiệm mô hình với một số ảnh bất kì trên tập test.--- 47 LOI NOI DAU Hiện nay AT là một ngành khoa học đang rất phát triển trên thế giới. Chúng ta không thể phủ nhận vai trò của những mô hình và thuật toán đang ngày càng quan trọng đối với con người và đang d 3n len Idi vào cuộc sống hàng ngày của mọi người, thay đổi thói quen của bạn mà bạn có thể không nhận ra. Khi chúng ta lướt một trang web, facebook ta nhận được những banner quảng cáo đúng với những sản phẩm mà chúng ta đang cẦn. Bạn đến bệnh viện và kết quả của bạn nhận được có thể một phần được đóng góp từ dự đoán của thuật toán.
Tất cả những đi ôi này giúp cuộc sống của chúng ta trở nên tiện ích hơn rất nhi`âi. Ngày nay AI đang thu hút được sự đần tư mạnh mẽ từ các công ty công nghệ trên toan c 4 và thậm chí nó nằm trong chiến lược cạnh tranh giữa các quốc gia. Nhận thấy tần quan trọng của AI đối với sự phát triển của thời đại, nên em đã học hỏi và nghiên cứu v` Deep Learning va quyét định chọn đề tài “Xây dựng mô hình dự đoán tuổi qua khuôn mặt bằng mạng noron tích chập” làm đề tài báo cáo thực tập nhằm mục đích khai thác sâu hơn v'ê Deep Leaming cũng như mối liên hệ đặc biệt giữa các thuật toán và các vấn đ`ềthực tế ngoài cuộc sống. TONG QUAN V EDEEP LEARNING VA MANG NO-RON TICH CHAP 1.1 Tong quan v €Deep Learning 1.1 Khai niém v €Deep Learning Deep learning (học sâu) là một kỹ thuật học máy tiên tiến dựa trên việc học đại diện.
Cách tiếp cận mạnh mẽ này cho phép máy móc tự động học các biểu diễn tính năng cấp cao từ dữ liệu. Do đó, các mô hình học sâu đạt được kết quả hiện đại trong các nhiệm vụ đ% thử thách, chẳng hạn như nhận dạng hình ảnh và xử lý ngôn ngữ tự nhiên. Image Neural network Hình 1.1: Mô tả mô hình nhận diện động vật bằng mạng nơ-ron tích chập Các thuật toán học sâu sử dụng mạng nơ-ron nhân tạo, một hệ thống máy tính học các tính năng cấp cao từ dữ liệu bằng cách tăng độ sâu (tức là số lớp) trong mạng. Mạng lưới thần kinh được lấy cảm hứng một ph tử mạng lưới thần kinh sinh học, nơi các tế bào trong hầi hết các bộ não (bao g ôn cả chúng ta) kết nối và hoạt động cùng nhau.
Mỗi tế bào này trong một mạng lưới thần kinh được gọi là tế bào thần kinh.2 Cách hoạt động của Deep Learning Mạng nơ-ron học sâu cố gắng bắt chước bộ não con người thông qua sự kết hợp của dữ liệu đi vào, trọng số và bias (tham số 4 trong quá trình huấn luyện). Các yếu tố này hoạt động cùng nhau để nhận dạng, phân loại và mô tả chính xác các đối tượng trong dữ liệu. Mạng nơ-ron học sâu bao gân nhi`âi lớp được kết nối với nhau, mỗi lớp được xây dựng dựa trên lớp trước đó để tinh chỉnh và tối ưu hóa dự đoán hoặc phân loại. Sự tiến triển của các tính toán thông qua mạng được gọi là lan truy`n chuyển tiếp.
Các lớp đầi vào và đầi ra là nơi mô hình Deep Learning thu nạp dữ liệu để xử lý và lớp đầi ra là nơi đưa ra dự đoán hoặc phân loại cuối cùng. Một quá trình khác được gọi là Backprogation (backward propagation of errors) là phương pháp lan truy ` ngược sử dụng các thuật toán như Gradient Descent, để tính toán lỗi trong các dự đoán và sau đó điầi chỉnh trọng số và độ lệch của hàm bằng cách di chuyển ngược qua các lớp trong quá trình huấn luyện. Cùng với sự lan truy& v ềphía trước, lan truy ngược cho phép một mạng lưới thần kinh đưa ra dự đoán và khấc phục bất kì sai số nào để mô hình đạt độ chính xác cao nhất.3 Các lĩnh vực và ứng dụng trong Deep Learning 1.1 Lĩnh vực trong Deep Learning Chỉ trong khoảng vài năm gần đây, Deep Learning đã mang đến nhi `âi bất ngờ trên quy mô toàn c`âi và dẫn đường nhanh chóng trong nhi âu lĩnh vực khác nhau. - Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Deep learning được sử dụng để xây dựng các mô hình NLP (Natral Language Processing) như dịch máy, hiểu và sản xuất văn bản tự nhiên.
- Thị giác máy tính (Computer Vision): Deep learning được sử dụng để phân loại các đối tượng trong hình ảnh, như con người, động vật, thiết bị và nhi âi hơn nữa. - Học tăng cường (Reinforcement Leaming): là một mô hình trong đó một tác nhân (agenf) tương tác với môi trưởng và học tử kinh nghiệm của mình để đưa ra các hành động tối ưu đạt được mục 5 tiêu. Trong học tăng cường, tác nhân phải tìm hiểu cách tương tác với môi trưởng, tìm kiếm các phương pháp để thu thập thông tin từ môi trưởng và từ đó tính toán ra các hành động tối ưu. - Mô hình hóa thống kê (Statistical Modeling): là quá trình xây dựng các mồ hình toán học dựa trên các dữ liệu thống kê để phân tích và hiểu các quan hệ giữa các biến trong một hệ thống hoặc quá trình.
Nó được sử dụng để giải thích và dự đoán sự thay đổi của một biến phụ thuộc dựa trên một hay nhi lâi biến độc lập. Các mô hình deep learning được xây dựng thông qua việc kết hợp nhi âu lớp neural network để tạo ra các mô hình phức tạp hơn và hiệu quả hơn trong việc giải quyết các vấn đê Việc huấn luyện một mô hình deeep learning có thể đòi hỏi một lượng lớn dữ liệu và cần khá nhi âi thời gian tính toán, tuy nhiên khi đã được huấn luyện, các mô hình này có thể đưa ra dự đoán rất chính xác và đáng tin cậy.2 Ứng dụng Deep Learning Các ứng dụng của Deep Learning rất rộng lớn, dưới đây tôi sẽ đề cập đến những ứng dụng phổ biến và được sử dụng nhi`ât nhất của các kỹ thuật Deep Learning. - Phân loại hinh anh: Deep Learning hién nay đã tiên tiến đến mức chúng ta có thể nhận ra các đối tượng khác nhau trong một bức tranh.