Luận văn: Nghiên cứu Mạng Nơ-ron và Ứng dụng trong Kỹ thuật Điều khiển

Luận văn: Tìm hiểu mạng nơ ron nhân tạo (ANN) và ứng dụng trong kỹ thuật điều khiển. Nghiên cứu sâu về cấu trúc, thuật toán học và tiềm năng ứng dụng thực tế.

• Tác giả: Đỗ Ẩn
• Người hướng dẫn: Nguyễn Thái Sơn
• Trường học: Đại học ĐKTB
• Chuyên ngành: Điện tử, Viễn Thông
• Đề tài: Mạng Nơ Ron Nhân Tạo
• Loại tài liệu: Tốt Nghiệp Cao Học
• Năm xuất bản: 2006-2053

Mục lục chi tiết

• lời cam doan
• Mục lục
• anh mục các hình vẽ
• LỜI MỞ ĐẦU
• 1. CHƯƠNG 1: MẠNG NƠ RON NHÂN TẠO
• 1.1. Mô hình mạng nơ ron nhân taa
• 1.2. Cấu trúc một nơ ron nhân tạo
• 1.3. Các cấu trúc cơ bắn của mạng no ron nhân tạo
• 1.4. Huần luyện mạng
• 1.4.1. Nguyên tắc huần luyện mạng
• 1.4.2. Cầu trúc và phương pháp huắn luyện trong các mạng no ron tiêu biều
• 1.4.2.1. Mang truyền thẳng
• 1.4.3. Mạng tự tế chức Kohonen
• 1.4.4. Mạng hồi quy
• 1.4.5. Mang ne ron déng
• 2. CHƯƠNG 2: ỨNG DỤNG MẠNG NO RON TRONG NHAN DANG HE THONG PHI TUYEN
• 2.1. Mô tả dỗi tượng, Bor - đao học ĐKTB 2000 — 2058
• 2.2. Nhân dang đối tượng động hoc phi tuyến
• 3. CHƯƠNG 3: ỨNG DỤNG MẠNG NO RON TRONG BAI TOAN DIỂU KHIỂN
• 3.1. Diều khiển dự đoán trên mô hình
• 3.1.1. Nhận dạng hệ thống
• 3.1.2. Điều khiến dự đoán đựa trên mô hình
• 3.2. Khối điều khiến dự báo trên mô hình bằng mạng nơ ron của Matlab
• 3.3. Điều khiến NARMA-L2
• 3.3.1. Nhận dạng mẫu NARMA-L2
• 3.3.2. Bộ điều khiển NARMA-L2
• 3.3.3. Khối diều khiển NARMIA-L2 của MiaUlab
• 3.4. Điều khiển tho mô hình mẫu
• 3.4.1. Thiết kế bộ điều khiến nơ ron theo mô hình mẫu
• KẾT LUẬN CHUNG
• PHỤ LỤC
• TẢI LIÊU THAM KHẢO

Tóm tắt

I. Tổng Quan Mạng Nơ ron Nhân Tạo Cấu Trúc Nguyên Lý

Mạng nơ-ron nhân tạo (Artificial Neural Networks - ANNs) là mô hình tính toán được lấy cảm hứng từ cấu trúc và chức năng của mạng nơ-ron sinh học trong não bộ con người. ANNs được sử dụng rộng rãi trong nhiều lĩnh vực khác nhau, bao gồm kỹ thuật điều khiển, nhận dạng hình ảnh, xử lý ngôn ngữ tự nhiên và dự báo. Một ANN cơ bản bao gồm các đơn vị xử lý gọi là nơ-ron hoặc nút, được kết nối với nhau thông qua các liên kết có trọng số. Mỗi nơ-ron nhận đầu vào từ các nơ-ron khác hoặc từ dữ liệu bên ngoài, thực hiện một phép tính trên tổng đầu vào có trọng số, và sau đó đưa ra một tín hiệu đầu ra. Quá trình học tập trong ANN liên quan đến việc điều chỉnh các trọng số của các liên kết để mạng có thể tạo ra các đầu ra mong muốn cho một tập hợp các đầu vào nhất định. Các thuật toán huấn luyện mạng nơ-ron phổ biến bao gồm backpropagation và gradient descent. Theo tài liệu gốc, mạng nơ-ron là sự tái tạo bằng kỹ thuật những chức năng của hệ thần kinh con người, nhưng không phải tất cả các chức năng đều được tái tạo mà chỉ có những chức năng cần thiết, bên cạnh đó còn có những chức năng mới được tạo ra nhằm giải quyết một bài toán điều khiển đã định hướng trước. Mạng nơ-ron bao gồm vô số các nơ-ron được liên kết truyền thông với nhau trong mạng.

1.1. Cấu Trúc Cơ Bản Của Một Nơ ron Nhân Tạo

Một nơ-ron nhân tạo bao gồm ba thành phần chính: đầu vào, trọng số và hàm kích hoạt. Đầu vào là các tín hiệu nhận được từ các nơ-ron khác hoặc từ dữ liệu bên ngoài. Mỗi đầu vào được nhân với một trọng số tương ứng, thể hiện mức độ quan trọng của đầu vào đó. Tổng của các đầu vào có trọng số được đưa vào một hàm kích hoạt, tạo ra tín hiệu đầu ra của nơ-ron. Các hàm kích hoạt phổ biến bao gồm sigmoid, ReLU (Rectified Linear Unit) và tanh. Trích dẫn từ tài liệu gốc: Một nơ ron chứa đựng các thành phần cơ bản: "Thân nơ ron được giới hạn trong một màng membran và trong đó, là nhân. Từ thân nơ rơn còn có rất nhiều đường rẽ nhánh tạm gọi là rễ. Bus liên kết nơ ron này với các nơ ron khác được gọi là axon, trên axon có các đường rễ nhánh. Nơ ron còn có thể liên kết với các nơ ron khác qua các rễ. Chính vì cách liên kết đa dạng như vậy nên mạng nơ-ron có độ liên kết rất cao."

1.2. Các Loại Cấu Trúc Mạng Nơ ron Phổ Biến Feedforward RNN CNN

Có nhiều loại cấu trúc mạng nơ-ron khác nhau, mỗi loại được thiết kế để giải quyết các loại bài toán cụ thể. Mạng nơ-ron Feedforward là loại đơn giản nhất, trong đó các tín hiệu chỉ truyền theo một hướng từ đầu vào đến đầu ra. Mạng nơ-ron hồi quy (RNN) có các kết nối hồi tiếp, cho phép chúng xử lý các chuỗi dữ liệu có độ dài thay đổi. Mạng nơ-ron tích chập (CNN) được sử dụng rộng rãi trong nhận dạng hình ảnh, sử dụng các lớp tích chập để trích xuất các đặc trưng từ hình ảnh. Trích dẫn từ tài liệu gốc: Liên kết các đầu vào và ra của nhiều nơ ron với nhau ta được một mạng nơ ron. Việc ghép nối các nơ ron trong mạng với nhau có thể theo một nguyên tắc bất kỳ nào đó. Ở một mạng, các nơ ron được phân biệt với nhau thông qua vị trí của nó trong mạng, cụ thể là: Nhóm nơ ron đầu vào (input layer) là những nơ ron nhận thông tin từ môi trường bên ngoài vào trong mạng. Chúng có vị trí ngoài cùng "bên trái" và được nối với các nơ ron khác trong mạng từ (rễ) đầu ra.

II. Thách Thức Vấn Đề Khi Sử Dụng Mạng Nơ ron Điều Khiển

Mặc dù mạng nơ-ron mang lại nhiều lợi ích trong kỹ thuật điều khiển, nhưng cũng có một số thách thức và vấn đề cần xem xét. Việc thiết kế và huấn luyện mạng nơ-ron có thể phức tạp, đòi hỏi kiến thức chuyên môn và kinh nghiệm. Xác định kiến trúc mạng phù hợp, chẳng hạn như số lượng lớp và số lượng nơ-ron trong mỗi lớp, có thể là một quá trình thử và sai. Huấn luyện mạng nơ-ron có thể tốn kém về mặt tính toán, đặc biệt là đối với các mạng lớn và phức tạp. Một vấn đề khác là khả năng mạng nơ-ron trở nên quá khớp (overfitting) với dữ liệu huấn luyện, dẫn đến hiệu suất kém trên dữ liệu mới. Ngoài ra, việc giải thích các quyết định của mạng nơ-ron có thể khó khăn, đặc biệt là đối với các mạng sâu.

2.1. Khó Khăn Trong Việc Lựa Chọn Kiến Trúc Mạng Phù Hợp

Lựa chọn kiến trúc mạng phù hợp (ví dụ: số lớp, số nơ-ron trên mỗi lớp, hàm kích hoạt) là một thách thức đáng kể. Không có quy tắc chung nào phù hợp cho tất cả các bài toán. Việc lựa chọn kiến trúc thường dựa trên kinh nghiệm, thử nghiệm và kiến thức về bài toán cụ thể. Các kỹ thuật như tìm kiếm lưới (grid search) và tối ưu hóa Bayesian có thể được sử dụng để tự động hóa quá trình lựa chọn kiến trúc, nhưng chúng có thể tốn kém về mặt tính toán.

2.2. Vấn Đề Overfitting Cách Khắc Phục Regularization

Overfitting xảy ra khi mạng nơ-ron học quá sát dữ liệu huấn luyện, dẫn đến hiệu suất kém trên dữ liệu mới. Các kỹ thuật regularization như L1 và L2 regularization, dropout, và early stopping có thể được sử dụng để giảm thiểu overfitting. Các kỹ thuật này giúp ngăn mạng nơ-ron học các mẫu quá phức tạp và giảm độ nhạy của mạng với nhiễu trong dữ liệu huấn luyện.

2.3. Khả Năng Giải Thích Quyết Định Của Mạng Explainable AI XAI

Việc giải thích các quyết định của mạng nơ-ron, đặc biệt là các mạng sâu, là một thách thức lớn. Các kỹ thuật Explainable AI (XAI) đang được phát triển để cung cấp thông tin chi tiết về cách mạng nơ-ron đưa ra quyết định. Các kỹ thuật XAI có thể giúp xác định các đặc trưng quan trọng nhất trong dữ liệu đầu vào, cũng như các khu vực của mạng chịu trách nhiệm cho các quyết định cụ thể.

III. Các Phương Pháp Điều Khiển Sử Dụng Mạng Nơ ron Phổ Biến Hiện Nay

Có nhiều phương pháp điều khiển khác nhau sử dụng mạng nơ-ron, mỗi phương pháp có ưu điểm và nhược điểm riêng. Một số phương pháp phổ biến bao gồm điều khiển mờ (fuzzy logic) dựa trên mạng nơ-ron, điều khiển thích nghi sử dụng mạng nơ-ron, và điều khiển dự đoán dựa trên mô hình (Model Predictive Control - MPC) sử dụng mạng nơ-ron để mô hình hóa hệ thống. Các phương pháp này cho phép mạng nơ-ron thích nghi với các thay đổi trong hệ thống và môi trường, cũng như xử lý các hệ thống phi tuyến phức tạp.

3.1. Điều Khiển Mờ Dựa Trên Mạng Nơ ron Neuro Fuzzy Control

Điều khiển mờ dựa trên mạng nơ-ron kết hợp sức mạnh của fuzzy logic và mạng nơ-ron. Mạng nơ-ron được sử dụng để học các luật mờ và hàm thuộc, trong khi fuzzy logic cung cấp một khung logic để xử lý sự không chắc chắn và mơ hồ. Hệ thống điều khiển mờ dựa trên mạng nơ-ron có khả năng thích nghi với các thay đổi trong hệ thống và môi trường, cũng như xử lý các hệ thống phi tuyến phức tạp.

3.2. Điều Khiển Thích Nghi Sử Dụng Mạng Nơ ron Adaptive Neural Control

Điều khiển thích nghi sử dụng mạng nơ-ron để điều chỉnh các tham số của bộ điều khiển theo thời gian thực, dựa trên hiệu suất của hệ thống. Mạng nơ-ron có thể được sử dụng để mô hình hóa hệ thống, ước tính các trạng thái không đo được, hoặc điều chỉnh trực tiếp các tham số của bộ điều khiển. Điều khiển thích nghi sử dụng mạng nơ-ron có khả năng đối phó với các thay đổi trong hệ thống và môi trường, cũng như các hệ thống phi tuyến và không chắc chắn.

3.3. Ứng Dụng Mạng Nơ ron trong Điều Khiển PID

Mạng nơ-ron có thể được sử dụng để tự động điều chỉnh các tham số Kp, Ki, Kd của bộ điều khiển PID một cách tự động, từ đó giúp tối ưu hóa hiệu suất điều khiển, giảm thiểu sai số và tăng độ ổn định của hệ thống. Mạng nơ-ron thu thập dữ liệu hoạt động của hệ thống (ví dụ: sai số, tốc độ thay đổi sai số), sau đó sử dụng các thuật toán học máy để tìm ra các giá trị Kp, Ki, Kd phù hợp.

IV. Hướng Dẫn Xây Dựng Bộ Điều Khiển NARMA L2 Bằng Mạng Nơ ron

Bộ điều khiển NARMA-L2 (Nonlinear AutoRegressive Moving Average - L2) là một kỹ thuật điều khiển phi tuyến sử dụng mạng nơ-ron để xấp xỉ mô hình động của hệ thống. Sau đó mô hình này được sử dụng để thiết kế một bộ điều khiển dựa trên phương pháp tuyến tính hóa ngược. Ưu điểm của phương pháp này là đơn giản và dễ thực hiện. Theo tài liệu gốc: Với cấu trúc điều khiển NARMA - 1.2, bộ điều khiển chỉ đơn giản là sự sắp xếp lại của mô hình đối tượng.

4.1. Xây Dựng Mô Hình NARMA L2 Cho Hệ Thống Điều Khiển

Để xây dựng bộ điều khiển NARMA-L2, bước đầu tiên là xác định mô hình NARMA-L2 cho hệ thống cần điều khiển. Mô hình này có dạng: y(k+1) = f(y(k), y(k-1), ..., y(k-n+1), u(k), u(k-1), ..., u(k-m+1)), trong đó y(k) là đầu ra của hệ thống tại thời điểm k, u(k) là đầu vào điều khiển tại thời điểm k, và f là một hàm phi tuyến cần được xấp xỉ bằng mạng nơ-ron.

4.2. Huấn Luyện Mạng Nơ ron Xấp Xỉ Hàm Phi Tuyến f

Sau khi có mô hình NARMA-L2, bước tiếp theo là huấn luyện mạng nơ-ron để xấp xỉ hàm phi tuyến f. Dữ liệu huấn luyện bao gồm các cặp (y(k), u(k)) và y(k+1) thu thập được từ hệ thống. Các thuật toán huấn luyện mạng nơ-ron phổ biến như backpropagation có thể được sử dụng. Cấu trúc mạng, số lượng lớp, số nơ-ron cần được lựa chọn phù hợp.

4.3. Thiết Kế Bộ Điều Khiển Dựa Trên Mô Hình Đã Xấp Xỉ

Khi mạng nơ-ron đã được huấn luyện, ta có thể sử dụng nó để thiết kế bộ điều khiển. Đầu ra của bộ điều khiển được tính như sau: u(k) = (y_d(k+1) - f_nn(y(k), y(k-1), ..., u(k-1), ...)) / g_nn(y(k), y(k-1), ..., u(k-1), ...), trong đó y_d(k+1) là giá trị đầu ra mong muốn tại thời điểm k+1, f_nn và g_nn là các hàm được xấp xỉ bởi mạng nơ-ron.

V. Ứng Dụng Thực Tế Của Mạng Nơ ron Trong Kỹ Thuật Điều Khiển

Mạng nơ-ron đã được ứng dụng thành công trong nhiều bài toán điều khiển thực tế. Ví dụ, chúng được sử dụng trong điều khiển robot, điều khiển hệ thống điện, điều khiển quá trình hóa học, và điều khiển phương tiện tự hành. Khả năng thích nghi, học hỏi và xử lý các hệ thống phi tuyến phức tạp khiến mạng nơ-ron trở thành một công cụ mạnh mẽ cho các ứng dụng điều khiển.

5.1. Điều Khiển Robot Sử Dụng Mạng Nơ ron

Mạng nơ-ron được sử dụng trong điều khiển robot để lập kế hoạch đường đi, điều khiển lực, và điều khiển phối hợp nhiều robot. Chúng có thể học từ dữ liệu và thích nghi với các thay đổi trong môi trường. Ví dụ từ tài liệu gốc: xét một đối tượng điều khiển là một cánh tay rô - bét, để thực hiện công đoạn nhận dạng cánh tay máy, ta sẽ sử dụng mạng nơ ron theo sơ đồ như hình 2.1 với cấu trúc gồm hai lớp. Lớp thứ nhất có 15 nơ ron với hàm truyền là tansig. Lớp thứ hai có 1 nơ ron với hàm truyền là purclin. Mạng nơ ron mẫu đối tượng có hai giá trị mô men trễ (m = 2) và hai giá trị vị trí cánh tay trễ (n = 2) tại đầu vào của mạng.

5.2. Điều Khiển Hệ Thống Điện Power Systems Bằng Mạng Nơ ron

Mạng nơ-ron được sử dụng trong điều khiển hệ thống điện để dự báo tải, điều khiển ổn định điện áp, và điều khiển phân phối điện. Chúng có thể học từ dữ liệu lịch sử và dự đoán các xu hướng trong tương lai. Mạng nơ-ron có thể giúp cải thiện hiệu quả và độ tin cậy của hệ thống điện.

VI. Triển Vọng Tương Lai Nghiên Cứu Mạng Nơ ron Trong Điều Khiển

Nghiên cứu về mạng nơ-ron trong kỹ thuật điều khiển vẫn đang tiếp tục phát triển, với nhiều hướng nghiên cứu đầy hứa hẹn. Các hướng nghiên cứu bao gồm phát triển các thuật toán huấn luyện mạng nơ-ron hiệu quả hơn, thiết kế các kiến trúc mạng mới phù hợp với các bài toán điều khiển cụ thể, và tích hợp mạng nơ-ron với các kỹ thuật điều khiển truyền thống. Việc áp dụng deep learning và AI (trí tuệ nhân tạo) vào kỹ thuật điều khiển hứa hẹn mang lại những đột phá lớn trong tương lai.

6.1. Ứng Dụng Deep Learning Trong Kỹ Thuật Điều Khiển

Deep learning là một lĩnh vực con của machine learning sử dụng các mạng nơ-ron sâu (nhiều lớp) để học các biểu diễn phức tạp của dữ liệu. Deep learning đã đạt được những thành công đáng kể trong nhiều lĩnh vực khác nhau, và có tiềm năng lớn trong kỹ thuật điều khiển. Các ứng dụng của deep learning trong điều khiển bao gồm điều khiển robot, điều khiển phương tiện tự hành, và điều khiển quá trình công nghiệp.

6.2. Phát triển các thuật toán huấn luyện tối ưu Adam RMSprop

Các thuật toán huấn luyện như Adam và RMSprop là các biến thể của gradient descent được thiết kế để hội tụ nhanh hơn và ổn định hơn. Các thuật toán này tự động điều chỉnh tốc độ học cho từng tham số, dựa trên ước tính của các khoảnh khắc bậc nhất và bậc hai của gradient. Các thuật toán này có thể giúp giảm thời gian huấn luyện mạng nơ-ron và cải thiện hiệu suất của bộ điều khiển.

Trích đoạn nội dung tài liệu

CHƯƠNG 1: MẠNG NƠ RON NHÂN TẠO 1.1: Mô hình mạng nơ ron nhân taa 1.1: Cấu trúc một nơ ron nhân tạo 1.2: Các cầu trúc cơ bắn của mạng no ron nhân tạo 1.2: Huần luyện mạng.1: Nguyên tắc huần luyện mạng.2: Cầu trúc và phương pháp huắn luyện trong các mạng no ron tiêu biều.1: Mang truyền thẳng.3: Mạng tự tế chức Kohonen.4: Mạng hồi quy.5: Mang ne ron déng CHUONG 2: UNG DUNG MANG NO RON TRONG NHAN DANG HE THONG PHI TUYEN 30 2.2: Nhận dang đối tượng động hoc phi tuyến 32 2.1: Mô tả dỗi tượng, Bor - đao học ĐKTB 2000 — 2058 ĐỖ ẨN TỐT NGHIỆP CAO HỌC 2.2: Nhân dang đối tượng. 41 CHƯƠNG 3: ỨNG DỤNG MẠNG NO RON TRONG BAI TOAN DIỂU KHIỂN.2: Diều khiển dự đoán trên mô hình.1: Nhận dạng hệ thống.2: Điều khiến dự đoán đựa trên mô hình 3.3: Khối điều khiến dự báo trên mô hình bằng mạng nơ ron của Matlab 47 3.3: Điều khiến NARMA-L2.1: Nhận dạng mẫu NARMA-L2.2: Bộ điều khiển NARMA-L2.3: Khối diều khiển NARMIA-L2 của MiaUlab 57 3.4: Điều khiển tho mô hình mẫu 3.1: Thiết kế bộ điều khiến nơ ron theo mô hình mẫu. 74 KÉT LUẬN CHUNG. 75 PHỤ LỤC 76 TẢI LIÊU THAM KHẢO Bor - đao học ĐKTB 2000 — 2058 ĐỖ ẤN TỔP NGHIỆP CAO HỌC L CHUONG 1 MANG NO RON NHÂN TẠO 1.1 MO ITINIT MANG NO RON NIIAN TẠO 1.1 Cấu trúc một nơ ron nhân tạo Mạng nơ ron là sự tải tạo băng kĩ thuật những chức năng của hệ thần kinh con người.

Trong quả trình tải tạo, không phải tất cả các chức năng của bộ não con người có đều được tái tạo, mà chỉ có những chức năng cần thiết. Bên cạnh đó, còn có những chức năng mới được tạo ra nhằm giải quyết một bài toán diễu khiển đã dịnh hướng trước. Mang no ron bao gém v6 số các nơ ron được liên kết truyền thông với nhau trong mạng. Một nơ ron chứa đựng các thành phần cơ bản: - "Thân nơ ron được giới hạn trong một màng membran và trong củng, 1à nhân.

Từ thân nơ rơn còn có rất nhiều đường rẽ nhánh tạm gọi lả rễ - “Bus” lién kết nơ ron nảy với các no ron khác được goi 1a axon, trên axon có các đường rế nhánh. No ron còn có thể liên kết với các no ron khác qua các rễ. Chính vi cách liên kết da dạng như vậy nên mạng nơ rơn có độ liên kết rat cao. la nữ ron được chia thành hai loại: loại nhận thông tỉn Lor ner ron khác qua axon, gọi là rễ dầu vào vả loại dưa thông fin qua axon tới các nơ ron khắc, gọi lả rễ đầu ra.

Miệt nơ ron có thể có nhiều rễ đầu vào, nhưng chỉ cỏ một rễ đầu ra. Bởi vậy nếu xem nơ ron như một khâu diễu khiển thị nó chính là khâu có nhiều đầu vào, một đầu ra (MI8O). Một tính chất rất cơ bản của mạng nơ ron sinh học là các đáp ứng theo kích thích có khả năng thay dỗi theo thời gian. Các dáp ứng có thé tng lên, piảm đi hoặc hoàn toản biên mật.

Qua các nhánh axon liên kết tế bảo nơ ron này với các nơ Nguyễn ThÁI Son - đao hẹc ĐKTB 2006 — 2053 ĐỖ ẤN TỔP NGHIỆP CAO HỌC 2 ron khác, sự thay đổi trạng thái của một nơ ron cũng sẽ kéo theo sự thay đổi trạng thái của những no ron khác vá do đó là sự tháy đổi của toàn bộ mạng nơ ron. Việc thay đổi trạng thái của mạng nơ ron có thể thực hiện qua một quá trinh “dạy” hoặc do khả năng “học” tự nhiên. Sự thay thế những tính chất nảy bằng một mỗ hình toán học tương, đương được gọi là mạng nơ ron nhân lạo. Mạng nơ ron nhân tạo có thể dược chế tạo bằng nhiều cách khác nhau, vì vậy trong thực tế tồn tại rất nhiều kiểu mạng nơ ron nhân tạo.1: Má bình một nữ rơn nhân tạo không có trọng số a=f@p+b} Tình 12: Mô hình một nơ ron nhân tạo có trọng số Đại lượng đầu vào vô hướng p dược truyền thông qua một dường đây có hé sé trong w.

‘lich số wp là đối số của hảm truyền f, tạo nên đầu ra vô Nguyễn ThÁI Son - đao hẹc ĐKTB 2006 — 2053 ĐỖ ẤN TỔP NGHIỆP CAO HỌC 3 hướng a. Nơ ron ở hình 2 cỏ hệ số bias b, có vai trỏ giống như một trọng số nhưng dầu vào cố dịnh bằng 1. Cả w và b đều lá các tham số vô hướng có thé thay đổi được của một nơ ron. Ý tưởng trung tâm của mạng no ron là có thể điều chỉnh các thông số này để thu được các hành vi theo yêu cầu.

Vì thể chúng ta có thể huấn luyện mạng nơ ron để thực hiện một công việc cụ thể hoặc mang no ron sé tu điều chỉnh thông số để đạt được kết quả như ý muốn GO day, f là hàm truyền, trong đó có 3 loại thưởng dùng, như sau: a) Ilâm truyền Iard-limit a = hardlinminJ Hình 1.3: Hàm truyền Hurd-lim Hàm truyền Hard-limit gidi hạn đầu ra của một nơ ron hoặc bằng 0 néu đổi số dầu váo n nhú hơn 0, hoặc bằng 1 nếu n lớn hơn hoặc bằng 0. Hàm truyền này được sử dụng trơng mạng Perceptron. b) Hàm truyền tuyến tính a= purelin(nj Link 1.4: Has truyén myén tink Nguyễn ThÁI Son - đao hẹc ĐKTB 2006 — 2005 ĐỖ ẤN TỔP NGHIỆP CAO HỌC 4 Các mạng nơ ron của loại này thường được dùng như là các bộ x4p xi tuyén tỉnh c) Ham truyén sigmoid d= logsigth) Hink 1.5: Hien truyén sigmoid Hàm truyền này thưởng được dùng trong các mạng no ron lan truyền ngược.2 Các cầu trúc cơ ban cla mang no ron nhân tao Liên kết các đầu vào và ra của nhiều no ron với nhau ta được một mạng nơ ron. Việc ghớp nỗi oáo nơ ron trong mạng với nhau có thể theo một nguyên tắc bất kỷ nảo đó.

Ở một mạng, các nơ ron được phân biết với nhau thông qua vỊ trí của nó trong mạng, cụ. thể là ~_ Nhóm nơ ron dầu vào (inpat laycr) là những nơ ron nhận thông tin từ môi trường bền ngoài vào trong mang. Chung có vị trí ngoài củng “bên trái” và được nỗi với cáo nơ ron kháo trong mạng từ (rễ) dầu ra - Nhóm nơ ron được các nơ ron khác trøng mạng kết nối tới thông qua (rễ) dầu vào được pọi là nơ ron đầu ra (output laycr). Những nơ ron đầu ra có vị trí ngoài củng “bên phải” và có nhiệm vụ đưa tín hiệu của mạng ra bên ngoải.

- — Những nơ røn còn lại không thuộc hai nhóm trên được gọi là nơ ron bén trong (hidden layer). Nguyễn ThÁI Son - đao hẹc ĐKTB 2006 — 2005 ĐỖ ẤN TỔP NGHIỆP CAO HỌC 5 hư vậy, một mạng nơ ron cũng có chức năng của một hệ truyền đạt va xử lý tín hiệu từ dầu vào đến dầu ra của mạng. Các nơ ron trưng một mang thường được chọn cùng một loại, chúng được phân biệt với nhau qua véc tơ hàm trọng số Ww. Một mạng nơ ron được chia thành các lớp, mỗi lớp bao gồm nhiều nơ ron có cùng một chức năng trong mạng.6: Mạng nơ run ba lớp truyền thẳng Hình 1.6 là mô hình của một mạng nơ ron ba lớp.

Mạng có R dầu vào ?ì, P2. Da và 5 đầu ra si a':,. Các tin hiệu đầu vào được đưa đến S ny ron đầu vào, các nơ ron nay làm thành lớp đầu vào của mạng (inpuL layer). Bau ra của các nơ ron này dược dưa đến dầu vào của các nơ ron tiếp theo, các nơ ron nảy không trục tiếp tiếp xúc với môi trường xung quanh và làm thánh lớp trung gian trong mạng (hidden layer).

Dau ra cia cde ne ron này được đưa đến các nơ ron đưa tín hiệu ra môi trường bên ngoài, thuộc lớp các nơ ron dau ra (output layer), Mang no ron ma ở đó không tổn tại bất kỳ một mạch hải tiến nào kể cả hồi tiếp nội lẫn hồi tiếp từ đầu ra trở về đầu vào, được gọi là mạng truyền Nguyễn ThÁI Son - đao hẹc ĐKTB 2006 — 2053 ĐỖ ẤN TỔP NGHIỆP CAO HỌC 6 thing (feedforward network). Ngược lại, mạng có đường phản hỏi từ đầu ra của một nơ ron tới đầu vào ca no ron củng lớp hoặc thuộc lớp phia trước có tên gọi là mạng hồi tiép (feedback network). Mạng nơ ron bao gồm một hay nhiều lớp trong (lớp trung gian) được goi la mang MLP (multilayer perceptrons network), Cén mang chỉ có một lớp, vừa là lớp vào vừa là lớp trung gian và cũng là lớp ra thì mạng đó có tên là mạng một lớp. Mang no ron luôn có cầu trúc ghép nối hoàn toàn, tức là hất cứ một nơ ron nào trong mạng cũng được nối với một hoặc vai no ron khác.

Trong trường hợp các nơ ron trong mạng có khẩu tạo chức năng dáp ứng là khâu tuyến tỉnh, tính phi tuyển chỉ nằm ở khâu tao chức năng ra thì việc mắc nỗi tiếp các nơ ron trong mạng không gòn ý nghĩa nữa và lúc đó ta hoàn toàn có thể thay thé mang no ron nhiều lớp thành mạng nơ ron một lớp.2 HUAN LUYEN MANG 1.1 Nguyén tic hudn luyén mang Huin luyện mạng là công việc xác định các véc tơ trọng số w, có trong từng nơ ron của mang sao cho mạng nơ ron có khả năng tạo ra các dáp ứng đầu ra mong muốn (giống như tín hiệu ra cứa một hệ thẳng) khi cùng dược kích thích bằng một lượng thông tin đầu vào của hệ thông đỏ. Khư vậy, có thể xem việc huấn luyễn mạng là tạo ra cho mạng khả năng của một thiết bị xâp xỉ thông tin. Để huẫn luyện, người ta cho Lác động vào mạng hàng loạt kích thích x9 vk—1,2,. có khả năng lặp lại trong quá trinh mạng làm việc.

0 ` đông nảy dược gọi là kích thích mẫu. Các giá trị y_ tương ứng tại dầu ra Nguyễn ThÁI Son - đao hẹc ĐKTB 2006 — 2053 ĐỖ ẨN TỐT NGHIỆP CAO HỌC 7 S8. của mạng dược sơ sánh với dap img mau y cho trade. Cac phin tir cha những véc tơ trọng số w, I= 1, 2,., n có trong tất cã n nơ ron của mạng được hiệu chỉnh theo từng bước huấn luyện sao cho tổng các sai lệch là nhỏ nhất.

Như vậy, thực chất việc huấn luyện mạng chỉnh là quá trinh giải bài toán tối ưu tham số dễ thực hiện dược bài toán tôi ưu tham số nảy, phải xây dụng được phiến hảm mục đích mô tả xổ rằng sai lộch.7 mô tả nguyên lý huấn luyện một mạng nơ ron. Cơ cấu huấn luyện mạng.