Chương I: Giới thiệu về mạng Reservoir Chương II: Tìm hiểu công cụ mạng nơ ron trong Matlab Chương III: Ứng dụng mạng Reservoir trong nhận dạng hệ thống Chương IV: Điều khiển cánh tay máy 1 bậc tự do trong phòng thí nghiệm Kết quả và kiến nghị Số hóa bởi Trung tâm Học liệu http://www.vn/ Chƣơng 1 GIỚI THIỆU MẠNG RESERVOIR Mạng Reservoir là một khái niệm mới trong lĩnh vực mạng nơ-ron. Về cơ bản cấu trúc mạng reservoir không có gì khác biệt so với các mạng nơ-ron khác, nhưng về phương pháp huấn luyện mạng thì có sự khác biệt trong quá trình học. Trong chương này tôi sẽ giới thiệu cấu trúc mạng nơ-ron từ cơ bản tới phức tạp, các ký hiệu và khái niệm cơ bản. Trên cơ sở đó tôi sẽ trình bày cấu trúc và phương pháp huấn luyện mạng reservoir.1 Cấu trúc mạng nơ-ron Trong phần này tôi sẽ giới thiệu cấu trúc, khái niệm của một nơ-ron, một lớp nơ-ron, nhiều lớp nơ-ron và mạng hồi qui.
Đồng thời để đơn giản cho việc theo dõi và mô tả về sau, tôi cũng đưa ra một số qui ước chung. Tôi sẽ sử dụng công cụ Neural Networks trong Matlab để mô tả và huấn luyện mạng. Do đó các ký hiệu, khái niệm và cấu trúc sẽ theo như định nghĩa của Matlab/Neural Network Toolbox.1 Cấu trúc mạng 1 nơ - ron 1 đầu vào Một nơ ron với một đầu vào có sơ đồ cấu trúc như hình 1. Cấu trúc cơ bản của một nơ - ron (1 đầu vào) Cấu trúc cơ bản của một nơ ron gồm: đầu vào p, và đầu ra a, w là trọng số, ∑ là bộ tổng, b là ngưỡng, f là hàm truyền.
Quan hệ vào ra của 1 nơ ron là: a f wp b (1.1) Số hóa bởi Trung tâm Học liệu http://www.2 Cấu trúc mạng 1 nơron nhiều đầu vào P1 w1,1 P2 ∑ n ƒ a P3 b w1,R 1 PR a = f (wp + b) Hình 1. Cấu trúc cơ bản của một nơ - ron nhiều đầu vào Hình 1.2 là sơ sồ cấu trúc của 1 nơ-ron có nhiều đầu vào. Nơ ron có R tín hiệu đầu vào biểu diễn dưới dạng rút gọn được thể hiện như trên hình 1. Trong đó: b là bias; n là tổng trọng, f là hàm truyền, a là đầu ra của nơ ron; p = [p1 p2.
pR] là véc tơ đầu vào, W = [w1,1 w1,2. w1,R] là véc tơ trọng số đầu vào.3) Mô hình thu gọn của nơ ron: P W Rx1 n + ƒ 1x1 1x1 1 b R 1x1 Hình 1. Mô hình nơ ron thu gọn (nhiều đầu vào) Số hóa bởi Trung tâm Học liệu http://www.3 Cấu trúc 1 lớp nơ-ron Mô hình một lớp có S nơ ron với R đầu vào như hình vẽ 1. P1 w1,1 ∑ n1 ƒ a1 P2 b1 1 ∑ n2 ƒ a2 P3 B2 1 ∑ ns ƒ as PR wS,R bs 1 a = f (wp + b) Hình 1.4: Mô hình 1 lớp nơ ron Trong đó mỗi phần tử của véc tơ đầu vào p được nối với mỗi nơ ron tương ứng qua ma trận trọng số W; f là hàm truyền; p là véc tơ đầu vào có dạng véc tơ cột (Rx1); a là đầu ra của lớp nơ ron có dạng véc tơ cột (Sx1) và ma trận trọng số có dạng: P W Rx1 SxR n ƒ a + sx1 sx1 1 b R sx1 Hình 1.5: Mô hình một lớp nơ ron Số hóa bởi Trung tâm Học liệu http://www.w S , R Các thành phần cơ bản của một nơron nhân tạo bao gồm: ♦ Tập các đầu vào: Là các tín hiệu vào (input signals) của nơron, các tín hiệu này thường được đưa vào dưới dạng một vector N chiều.
♦ Tập các liên kết: Mỗi liên kết được thể hiện bởi một trọng số (gọi là trọng số liên kết – Synaptic weight). Trọng số liên kết giữa tín hiệu vào thứ j với nơron k thường được kí hiệu là w. Thông thường, các trọng số này được khởi kj tạo một cách ngẫu nhiên ở thời điểm khởi tạo mạng và được cập nhật liên tục trong quá trình huấn luyện mạng (epoch). ♦ Bộ tổng (Summing function): Thường dùng để tính tổng của tích các đầu vào với trọng số liên kết của nó.
♦ Ngƣỡng (còn gọi là một độ lệch - bias): Ngưỡng này thường được đưa vào như một thành phần của hàm truyền. ♦ Hàm truyền (Transfer function) : Hàm này được dùng để giới hạn phạm vi đầu ra của mỗi nơron. Nó nhận đầu vào là kết quả của hàm tổng và ngưỡng đã cho. Các hàm truyền rất đa dạng, có thể là các hàm tuyến tính hoặc phi tuyến.
Việc lựa chọn hàm truyền nào là tuỳ thuộc vào từng bài toán và kinh nghiệm của người thiết kế mạng. Một số hàm truyền thường sử dụng trong các mô hình mạng nơron được đưa ra trong bảng 1. ♦ Đầu ra: Là tín hiệu đầu ra của một nơron, với mỗi nơron sẽ có tối đa là một đầu ra. Xét về mặt toán học, cấu trúc của một nơron k, được mô tả bằng cặp biểu thức sau: Số hóa bởi Trung tâm Học liệu http://www., x : là các tín hiệu vào; (w , w w ) là các trọng số 1 2 p k1 k2, ., kp liên kết của nơron thứ k; u là hàm tổng; b là một ngưỡng; f là hàm truyền và y k k k là tín hiệu đầu ra của nơron.
Gọi ma trận trọng số liên kết với lớp vào là ma trận trọng số đầu vào IW. Gọi ma trận trọng số liên kết giữa 2 lớp LW. Quy ước ký hiệu chỉ số lớp nguồn là chỉ số thứ hai và chỉ số lớp đích thực là chỉ số thứ nhất. Ví dụ: LWi,j là ma trận trọng số liên kết từ lớp nguồn j đến lớp đích i.
P IW1,1 Rx1 s1xR n1 a1 + ƒ s1x1 sx1 1 b1 R 1 s x1 Hình 1.6: Mạng 1 lớp rút gọn Đầu ra của nơ ron được tính như sau: a1 = f (IW1,1 p + b1) 1.4 Mạng nhiều lớp Hình 1.7 mô tả mô hình của mạng nơ ron truyền thẳng 3 lớp. Mỗi lớp có ma trận trọng số IW, LW, véc tơ bias b và véc tơ tín hiệu đầu ra a. Tín hiệu đầu ra mỗi lớp ai, p là véc tơ tín hiệu vào, fi là hàm truyền (i= 1,2,3). Từ đó có được tín hiệu ra là a3 có dạng: a3 = f3 (LW3,2f2 (LW2,1f1(IW1,1p+b1)+ b2)+ b3) Số hóa bởi Trung tâm Học liệu http://www.vn/ IW1,1 n1 n2 a21 LW3,2 P1 a11 LW2,1 n3 a31 ∑ 1 f 1 ∑ 1 f 2 ∑ 1 f 3 P2 1 b 1 1 b2 b3 a2 1 1 3 1 1 1 2 a22 n a32 n1 f 1 n f 2 ∑ 2 f3 P3 ∑ 2 ∑ 2 b1 b2 1 b 3 1 2 2 1 2 a2s n3s1 a3s ns 1 1 11 as n2s1 2 3 3 ∑ f 1 ∑ f 2 ∑ f PR IW1,1 LW3,2s3, s2 S,R b 1 LW2,1s2, s1 b2 b3 1 s1 1 s2 1 s3 2 2 a3 = f3 (LW3,2a3+ b3) a1 = f1 (IW1,1p+ b1) a2 = f2 (LW2,1a + b ) Hình 1.7: Mô hình của mạng nơ ron truyền thẳng ba lớp Mô hình rút gọn như hình 1.
P 1,1 a1 a2 LW3,2 a3 IW LW 2,1 R n1 1 1 s x1 n2 s2 x1 n3 s3 x1 1 s xR + 1 f s2xs1 + f2 s3xs2 + f3 x1 s x1 s2x1 s3x1 1 b1 b2 b3 1 1 R 1 s x1 s1 s2 x1 s2 s3 x1 s3 1 3,2 3 a1 = f1 (IW1,1p+ b ) 2 a2 = f2 (LW2,1a + b ) 2 a3 = f3 (LW a3+ b ) Hình 1.8: Mô hình của mạng nơ ron truyền thẳng ba lớp thu gọn 1.5 Mạng một nơ ron hồi quy IW1,1 n(t) a(t) p(t) ∑ LW1,1 D a(t) = IWp(t)+LW a(t-1) Hình 1.9: Mô hình 1 nơ ron hồi quy Số hóa bởi Trung tâm Học liệu http://www.vn/ T D LW1,1 a1(t) L T a2(t) 3,1 a3(t) 1,1 n1(t) LW 2,1 2 LW R1x1 IW 1 D n (t) 2 n3(t) s3 x1 s1xR + f1 s x1 L s xs2 1 + f2 s x1 3 s xs 2 + f3 1 1 2 s2x1 s3x1 1 b s x1 b b 3 1 1 1 1 R s x1 s x12 s2 s3 x1 s1 s3 T T D LW1,3 D LW2,3 L L Hình 1.10: Mô hình mạng hồi quy nhiều lớp Trong đó khối TDL là khâu trễ 1.2 Mạng Reservoir Mạng Reservoir có quan hệ vào ra như sau: x k 1 f Winu k Wu k Wback y k (1.6) Về cơ bản mạng Reservour có cấu trúc giống như mạng nơ ron thông thường, nhưng không có bias. W Z-1 u f g y u Z-1 Win + Wf Wback Z-1 Hình 1.11: Mạng Reservoir Số hóa bởi Trung tâm Học liệu http://www.vn/ Trong quá trình huấn luyện mạng trọng số được giữ cố định, chỉ trừ trọng số W f. Các trọng số ban đầu được chọn phải nằm trong được tròn đơn vị. Chính vì lý do này đã làm cho quá trình huấn luyện mạng reservoir đơn giản hơn so với các mạng thông thường.
Nhìn vào công thức (1.6) ta thấy mạng này chỉ có một trễ, tức là động học của hệ là bậc 1. Như vậy trong nhận dạng khi các đối tượng có bậc lớn hơn 1 thì mạng reservoir rất khó có thể huấn luyện được. Do đó tôi sẽ tiến hành làm thí nghiệm và cải tiến phương pháp huấn luyện mạng cho mạng reservoir để mạng này có thể sử dụng để nhận dạng được các đối tượng có bậc lớn hơn hoặc bằng 2.3 Phƣơng pháp huấn luyện mạng 1.1 Các phƣơng pháp học Một mạng nơron được huyấn luyện sao cho với một tập các vector đầu vào X, mạng có khả năng tạo ra tập các vector đầu ra mong muốn Y của nó. Tập X và Y được sử dụng cho huấn luyện mạng được gọi là tập huấn luyện (training set).
Các phần tử x thuộc X được gọi là các mẫu huấn luyện (training example). Quá trình huấn luyện bản chất là sự thay đổi các trọng số liên kết của mạng. Trong quá trình này, các trọng số của mạng sẽ hội tụ dần tới các giá trị tối ưu sao cho với mỗi vector đầu vào x từ tập huấn luyện, mạng sẽ cho ra vector đầu ra y như mong muốn. Có ba phương pháp học phổ biến là học có giám sát (supervised learning), học không giám sát (unsupervised learning) và học tăng cường (Reinforcement learning): ♦ Học có giám sát: Là quá trình học có sự tham gia giám sát của một “thầy giáo”.
Cũng giống như việc ta dạy một em nhỏ các chữ cái. Ta đưa ra một chữ “a” và bảo với em đó rằng đây là chữ “a”. Việc này được thực hiện trên tất Số hóa bởi Trung tâm Học liệu http://www.vn/ cả các mẫu chữ cái.
