Chương 1: Giới thiệu về mạng Nơron tích chập và ứng dụng - Chương 2: Mô hỉnh nhận dạng khuôn mặt dựa trên mạng Nơron tích chập và ứng dụng giám sát thi trực tuyến - Chương 3: Xây dựng phần mềm mô phỏng và kết quà thừ nghiệm 3 CHUÔNG 1: GIÓI THIỆU VÈ MẠNG NƠRON TÍCH CHẬP VÀ ÚNG DỤNG 1. Mạng Noron tích chập 1. Mạng No’ron nói chung và một so loại mạng No'ron Mạng Nơron nhân tạo (Artificial Neural Network - ANN) là một mô hình toán học hay mô hình tính toán được xây dựng dựa trên các mạng neural sinh học [1]. Mạng Nơron sinh học tồn tại ờ sinh vật sổng; có cấu trúc phức tạp gồm hàng tỷ tế bào thần kinh (còn gọi là Nơron) liên kết với nhau, số lượng liền ke giữa các Nơron là vô cùng lớn tạo ra một cấu trúc phức tạp.
Các nghiên cứu sinh học về bộ não con người cho thấy các tế bào thần kinh tương đối giống nhau về cấu trúc và chức năng [1], [6], Một đơn vị kiểm soát các chức năng thần kinh của não, tủy sống và dây thần kinh. Nơron là một phần của bộ não khi được sinh ra; có liên kết sẽ phát triến thông qua học do có các liên kết mới được hình thành và các liên kết cũ mất đi. Cấu trúc mạng Nơron tiếp tục thay đối theo thời gian trong đời. Những thay đối sau này có xu hướng chú yếu làm mạnh hay yếu đi các khớp thần kinh.1: cấu trúc Nơron sinh học Một mạng Nơron nhân tạo (hay đơn giàn là mạng Nơron) bao gồm một đầu vào là lớp tế bào thần kinh (hoặc nút, đơn vị), một hoặc hai (hoặc thậm chí ba) lớp 4 ấn tế bào thần kinh và lớp cuối cùng của tế bào thần kinh đầu ra.
Các đơn vị đầu vào nhận tín hiệu từ bên ngoài và các đơn vị ẩn xử lý các tín hiệu thông qua liên kết. Đơn vị đầu ra gửi dữ liệu đã xử lý ra bên ngoài mạng.2 mô tả một mạng ANN cơ bán gồm 3 lớp. Hidden Thư việiTHtoai&Pá.ta Mè ẰlàíNội Trong ANN, các nơ-ron nhàn tạo (nút) kết nối với nhau, truyền kết nối và xứ lý thông tin bang cách tính toán các giá trị mới tại các nút (cách tiếp cận tính toán được kết nối) [1], [2], [6], [7], Mỗi Nơron trong mạng nhận dừ liệu đầy vào các nôron ớ lớp trước đó liên kết đen sau đó xử lý và cho ra một kết quả duy nhất. Ket quả đó lại được làm dừ liệu đầu vào cho các Nơron được liên kết đến.
Mức độ kết nối giữa các nơ-ron được thê hiện bang trọng so kết nối cùa chúng (trọng so kết nối - gọi tắt là trọng số). Mạng thần kinh nhân tạo thường là các hệ Ihổng thích ứng thay đồi cấu trúc của chúng dựa trên thông tin bên ngoài hoặc bên trong truyền qua mạng trong quá trinh học [5], [6], [10]. 5 Một số đặc trưng cơ bán của mạng Nơron gồm [1], [2], [5], [6], [12]: • Các nút Nơron nhân tạo (đơn vị xử lý) • Liên kết giữa các đơn vị. Thế hiện qua hàm trọng so w • Quy luật lan truyền quyết định tín hiệu của từng đơn vị đầu vào của mạng • Hàm kích hoạt hay hàm chuyến (activation function, transfer function) xác định mức độ kích hoạt khác dựa trên mức độ kích hoạt hiện tại • Đơn vị điều chỉnh (Bias, Offset) • Luật học • Môi trường hoạt động cùa hệ thống Mỗi Nơron trong mạng tiếp nhận tín hiệu từ đơn vị trước, xử lý và lan truyền tín hiệu đã xử lý qua các đơn vị khác.
Một Nơron có thể có một hay nhiều tín hiệu từ noron khác truyền đen. Hàm tổng đau vào (L) là tống của tích trọng số liên kết và dữ liệu truyền vào. Thư viện Trường Đại học Mở Hà Nội Hình 1.3: Quá trình xử lý của một NoTon Hình 1.3 cho thấy quá trình xừ lý của một Nơron. Trong đó: xi: các đầu vào wji : các trọng số tương ứng với các đầu vào 0j : độ lệch (bias) aj : đầu vào mạng (net-input) zj : đầu ra của Nơron g(x): hàm chuyến (hàm kích hoạt) [3], [4], [7].
6 Hàm kích hoạt (activation) được dùng để xử lý, tính toán bên trong Nơron đế cho ra kết quá. Hay nói cách khác, hàm kích hoạt của một nút sẽ cho ra một kết quả (Output) ứng với một hoặc một tập đầu vào truyền tới Nơron. Có nhiều hàm kích hoạt gồm cã tuyến tính và phi tuyến. Tuỳ theo đặc điểm và ứng dụng cùa mạng người ta sẽ lựa chọn các hàm kích hoạt tương ứng.
Một số hàm kích hoạt phi tuyến phố biến là hàm ReLU (Rectified Linear Unit), sigmoid, logistic, Gaussian, tanh, softmax [6], [13], [14], Hàm kích hoạt còn được dùng để xứ lý kết quá của hàm tổng đầu vào (T) trước khi truyền đến các mạng khác trong trường hợp kết quả của hàm tống đầu vào quá lớn. Có thể thể sử dụng giá trị ngưỡng để kiềm soát đầu ra của neural thay cho cho các hàm truyền kích hoạt thông thường [6], Mạng nơ ron nhân tạo có điếm giống với mạng Nơron sinh học ờ hai điếm sau. Một là các khối tạo mạng là những phần từ, thiết bị tính toán đơn giàn. Hai là các liên kết giữa các Nơron tạo ra chức năng của mạng.
Tuy nhiên mạng Nơron nhân tạo chi mô tà lại đơn giản mạng Nơron sinh hóc. Mạng Nơron sinh học phức tạp hơn nhiều so với mạng Nơron nhân tạo. Neu tốc độ xừ lý cùa máy tính nhanh hơn nhiều so với tốc độ xử lý của bộ não con người, bộ não có thế kích hoạt tất cả các tế bào thần kinh đế thực hiện các nhiệm vụ khác nhau [15]. Trong một mạng Nơron nhân tạo, có hai yếu tố quan trọng.
Một là kiến trúc mạng thể hiện kiều liên kết giữa các Nơron trong mạng cũng độ lớn của mạng. Hai là trọng số liên kết giữa các nút mạng thể hiện độ mức độ mạnh hay yếu giữa các Nơron trong mạng. Dựa vào cấu trúc liên kết giữa các Nơron có thẻ phân loại được các mô hình mạng nơ. Phân loại được xác định bời số lượng lớp trong mạng, số lượng đơn vị trên mồi lớp và cách các lớp được kết nối.
Mạng có thể được phân thành hai loại chính: mạng feedforward và mạng hồi quy. 7 Mạng truyền thắng (Feed-forward neural network): dòng dữ liệu từ nút đầu vào (input), có thế qua các lớp trung gian đế đến nút đau ra tuy nhiên không có sự lan truyền ngược lại tới một hay nhiều lớp trước đó [5], [6], [19]. bias bias 1 inr viẹn 1 rương t>ại nọc Mơ Ha 1NỌ1 Hình 1.4: Mạng NoTon truyền thắng nhiều lóp Mạng thần kinh tái phát và Mạng phán hồi: Chứa các liên kết ngược từ các lớp sau trở lại các lớp trước đó. Nghĩa là, đầu ra của nơ-ron tiếp theo trả về nhiều hom đầu vào cùa nơ-ron đó hoặc lớp trước đó.
Mạng này thường gắn với việc xứ lý dữ liệu theo chuồi thời gian, không chi phụ thuộc vào dừ liệu tại thời điểm đó mà còn phụ thuộc vào các dừ liệu tại thời điếm trước đề dự báo được kết quà. Output Output 1 Output 2 Output. Output! Input Input 1 Input 2 Input.5: Mạng Nơron hồi quy (Recurrent Neural Network) 8 Một trong hai yếu tố quan trọng tạo nên mô hình mạng Nơron nhân tạo đó là trọng số liên kết mạng. Chúng được hình thành nhờ quá trinh huấn luyện mạng mô phỏng lại quá trình học của con người.
Quá trinh đào tạo này sửa đối trọng số của các liên kết trong mạng đế có được kết quá tốt nhất. Một mô hình đào tạo (quy tắc học tập) là phưong pháp được sử dụng để thay đổi trọng số và độ lệch để đào tạo mạng thực hiện một nhiệm vụ. Có ba loại luật học: học có giám sát, học không có giám sát và học gia cố. Học có giám sát xây dựng một hàm từ dừ liệu huấn luyện.
Dữ liệu huấn luyện bao gồm các cặp đối tượng đầu vào (thường ở dạng vectơ) và đầu ra mong muốn. Đầu ra cùa một hàm có the là lien tục (được gọi là hồi quy) hoặc nó có thể dự đoán nhãn phân loại của một đối tượng đầu vào (được gọi là bộ phân loại) [4], [5], [6], [18]. Nhiệm vụ của người học có giám sát là dự đoán các giá trị cùa hàm cùa một đối tượng nhất định dưới dạng đầu vào hợp lệ sau khi xem xét một sổ ví dụ huấn luyện (nghĩa là các cặp đầu vào và đầu ra). Đồ đạt được điều này, chương trinh học phải khái quát hóa từ dữ liệu có sằn để dự(jđoán “hợp lý” những tình huống chưa xảy ra.
Hai loại mô hỉnh có thẻ được tạo ra trong học tập có giám sát. Học có giám sát thường tạo ra một mô hình tống thể để ánh xạ các đối tượng đầu vào tới các đau ra mong muốn. Tuy nhiên, trong một số trường hợp, ánh xạ được thực hiện dưới dạng một tập hợp các mầu cục bộ (chẳng hạn như suy luận dựa trên trường hợp hoặc thuật toán lân cận gần nhất). Phương pháp học có giám sát thường được áp dụng cho hai loại bài toán chính.
Đầu tiên là bài toán phân loại: nhận dạng khuôn mặt người, nhận dạng đối tượng, nhận dạng chữ viết, v. Thứ hai là bài toán hồi quy: dự báo thời tiết, giá trị dinh dưỡng cúa thực phẩm v. Học không giám sát là một kỹ thuật học máy đế tim các mẫu khớp với các quan sát. Nó khác với học có giám sát ở chỗ đầu ra chính xác tương ứng với mồi đầu vào không được biết trước.
Học tập không giám sát thu thập một tập hợp dừ liệu đầu vào [3], Học không giám sát thường coi đối tượng đầu vào là một tập hợp các biến ngẫu nhiên. Sau đó, một mô hình mật độ chung cúa tập dữ liệu này sẽ được tạo. Học không giám sát cũng hữu ích cho việc nén dữ liệu, về cơ bàn, tất cã các 9 thuật toán nén dữ liệu đều dựa vào, rõ ràng hoặc ngầm định, trên phân phối xác suất trên một tập hợp các đầu vào [15], Một hình thức học tập không giám sát khác là phân cụm dữ liệu. Điều này có thế là phi xác suất.
Học tăng cường là một phương pháp học có hệ thống xác định hành động nào can thực hiện dựa trên điều kiện thực te đế đạt được hiệu quá tốt nhất bằng cách thử nghiệm dữ liệu đê xem hành động nào hoạt động tốt nhất. Hành động này không chi là hành động riêng lẽ mà còn là một chuỗi hành động nối tiếp nhau. Học tăng cường áp dụng cho các bài toán về tim đường đi ngắn nhất, lý thuyết trò chơi.