CHƯƠNG 1. TỔNG QUAN VỀ MẠNG NƠ RON NHÂN TẠO 1.1 Các khái niệm về mạng nơ ron 1.1 Nơ ron sinh học: Nơ ron sinh học là đơn vị cấu tạo cơ bản của hệ thần kinh. Toàn bộ hệ thần kinh có khoảng 1. Mỗi nơ ron gồm các bộ phận (Hình 1.1): Rễ đầu ra của nơ ron 1 Axon được nối với rễ Nhân được nối với axon đầu vào của nơ ron 2 Rễ đầu ra Chiều thông tin Nhân Hình 1.1 – Cấu tạo nơ ron sinh học - Mạng nơ ron là sự tái tạo bằng kỹ thuật những chức năng của hệ thần kinh con ngƣời.
Trong quá trình tái tạo không phải tất cả các chức năng của bộ não con ngƣời đều đƣợc tái tạo, mà chỉ có những chức năng cần thiết. Bên cạnh đó còn có những chức năng mới đƣợc tạo ra nhằm giải quyết một bài toán định trƣớc. Mạng nơ ron bao gồm vô số các nơ ron đƣợc liên kết truyền thông với nhau trong mạng.1 là một phần của mạng nơ ron bao gồm hai nơ ron. Nơ ron liên kết với các nơ ron khác qua các rễ.
Các rễ của nơ ron đƣợc chia làm hai loại: - Loại nhận thông tin từ nơ ron khác qua axon, ta gọi là rễ đầu vào. - Loại đƣa thông tin qua axon tới nơ ron khác gọi là rễ đầu ra. 4 Một nơ ron có thể có nhiều rễ đầu vào, nhƣng chỉ có một rễ đầu ra nhƣ vậy có thể xem nơ ron nhƣ một mô hình nhiều đầu vào một đầu ra. Một tính chất rất cơ bản của mạng nơ ron sinh học là các đáp ứng theo kích thích có khả năng thay đổi theo thời gian.
Các đáp ứng có thể tăng lên, giảm đi hoặc hoàn toàn biến mất. Qua các nhánh axon liên kết tế bào nơ ron này với các nơ ron khác, sự thay đổi trạng thái của một nơ ron cũng kéo theo sự thay đổi trạng thái của những nơ ron khác và do đó làm thay đổi toàn bộ mạng nơ ron. Việc thay đổi trạng thái của mạng nơ ron có thể thực hiện qua một quá trình “dạy” hoặc do khả năng “học” tự nhiên. Sự thay thế những tính chất này bằng một mô hình toán học tƣơng đƣơng đƣợc gọi là mạng nơ ron nhân tạo.
Mạng nơ ron nhân tạo có thể đƣợc chế tạo bằng nhiều cách khác nhau vì vậy trong thực tế tồn tại rất nhiều kiểu mạng nơ ron nhân tạo.2 Mạng Nơ ron nhân tạo Mạng nơ ron là sự tái tạo bằng kỹ thuật những chức năng của hệ thần kinh con ngƣời. Trong quá trình tái tạo không phải tất cả các chức năng của bộ não con ngƣời đều đƣợc tái tạo, mà chỉ có những chức năng cần thiết. Bên cạnh đó còn có những chức năng mới đƣợc tạo ra nhằm giải quyết một bài toán định trƣớc [3]. Mạng nơ ron bao gồm vô số các nơ ron đƣợc liên kết truyền thông với nhau trong mạng.
Nơ ron còn có thể liên kết với các nơ ron khác qua các rễ. Chính vì cách liên kết đa dạng nhƣ vậy nên mạng nơ ron có độ liên kết rất cao. Các rễ của nơ ron đƣợc chia làm hai loại: loại nhận thông tin từ nơ ron khác qua axon, ta gọi là rễ đầu vào và loại đƣa thông tin qua axon tới nơ ron khác gọi là rễ đầu ra. Một nơ ron có thể có nhiều rễ đầu vào, nhƣng chỉ có một rễ đầu ra nhƣ vậy có thể xem nơ ron nhƣ một mô hình nhiều đầu vào một đầu ra: 5 Hình 1.2 – Mô hình của một nơ ron Một tính chất rất cơ bản của mạng nơ ron sinh học là các đáp ứng theo kích thích có khả năng thay đổi theo thời gian.
Các đáp ứng có thể tăng lên, giảm đi hoặc hoàn toàn biến mất. Qua các nhánh axon liên kết tế bào nơ ron này với các nơ ron khác, sự thay đổi trạng thái của một nơ ron cũng kéo theo sự thay đổi trạng thái của những nơ ron khác và do đó làm thay đổi toàn bộ mạng nơ ron. Việc thay đổi trạng thái của mạng nơ ron có thể thực hiện qua một quá trình “dạy” hoặc do khả năng “học” tự nhiên. Sự thay thế những tính chất này bằng một mô hình toán học tƣơng đƣơng đƣợc gọi là mạng nơ ron nhân tạo.
Mạng nơ ron nhân tạo có thể đƣợc chế tạo bằng nhiều cách khác nhau vì vậy trong thực tế tồn tại rất nhiều kiểu mạng nơ ron nhân tạo. Mô hình của một nơ ron nhân tạo có m đầu vào (có giá trị tƣơng ứng là x1, x2, x3, …, xm) và một đầu ra y sẽ hoạt động nhƣ sau: + Mỗi đầu vào có một kích thích tác động đến nơ ron với một giá trị khác nhau đƣợc biểu diễn qua một trọng số wi (w1, w2, w3,…,wm). Các kích thích đầu vào sẽ đƣợc lấy tổng qua một bộ tổng của nơ ron. Có thể viết hàm lấy tổng của nơ ron nhƣ sau: m k w i xi i 1 (1.1) 6 Đƣờng truyền nào có trọng số wi càng lớn thì tín hiệu đầu vào truyền qua đó càng lớn.
+ Sau khi qua bộ tổng, đầu ra k đƣợc đƣa đến bộ đáp ứng, bộ này không chỉ có chứa chức năng tạo ra đáp ứng tức thời mà còn có khả năng lƣu giữ các đáp ứng theo thời gian. Thành phần này đƣợc hoạt động theo nguyên lý “nhớ động”. + Nơ ron bị kích thích trong thời gian t khi giá trị k(t) vƣợt quá ngƣỡng. Quan hệ này đƣợc thực hiện nhờ hàm kích hoạt a(.), nó có chức năng của khâu tạo tín hiệu ngƣỡng, xác định phụ thuộc của tín hiệu ra y vào các kích thích đầu vào [9].3 – Cấu trúc của một nơ ron m đầu vào, một đầu ra Theo hình 1.3 thì tín hiệu đầu ra y của nơ ron là: m y a w i xi i 1 (1.2) Trong đó: θ là ngƣỡng đặt vào phần tử nơ ron; Hàm kích hoạt a(f) ở dạng hàm bƣớc nhảy: 1 if f 0 a( f ) 0 if f 0 (1.3) 7 Nhƣ vậy yi chỉ có thể có 2 giá trị hoặc bằng 0, hoặc bằng 1.) thƣờng đƣợc sử dụng: + Hàm tuyến tính (Linear funtion): m f net w x i i ij j i j 1 (1.4) + Hàm bình phƣơng (Quadratic funtion): m wij x j i 2 f i j 1 (1.5) + Hàm hình cầu (Spherical funtion): f x w 2 m 2 i j ij i j 1 (1.6) Trong đó: và wij là bán kính và tâm của hình cầu.
+ Hàm đa thức (Polynomial funtion): f w x x x x m m j k i ijk j k j k i j 1 k 1 (1.7) Trong đó: wijk là trọng số kết nối phần tử j và k đến phần tử i; j và k là các hệ số thực không đổi. Ở đây θi là ngƣỡng đặt vào phần tử nơ ron thứ i. Thông thƣờng, hàm tổng đƣợc sử dụng nhiều nhất là hàm tuyến tính. Hàm kích hoạt hay còn gọi là hàm truyền phải thỏa các tính chất sau: - Là hàm bị chặn.
Các giá trị của hàm không bao giờ vƣợt giá giới hạn chặn trên và chặn dƣới. - Là hàm đơn điệu tăng. Giá trị của hàm luôn tăng khi giá trị của f tăng. - Là hàm liên tục tăng.
Hàm có đạo hàm và có độ dốc của nó rõ ràng và phân biệt tại từng điểm. 8 Các hàm kích hoạt a(.) thường sử dụng: + Hàm bƣớc nhảy (Step funtion): 1 if f 0 a( f ) 0 if f 0 (1.8) + Hàm dấu (Hard limiter – threshold funtion): 1 if f 0 a( f ) sgn( f ) 1 if f 0 (1.9) + Hàm dốc (Ramp funtion): 1 if f 1 a( f ) f if 0 f 1 0 if f 0 (1.10) + Hàm sigmoid đơn cực (Unipolar sigmoid funtion): 1 a( f ) f 1 e (1.11) Với là hệ số của hàm sigmoid. + Hàm sigmoid lƣỡng cực (Bipolar sigmoid funtion): 2 a( f ) f 1 1 e (1.4(a) – Đồ thị hàm kích hoạt – Hàm bước nhảy Hình 1.4(b) – Đồ thị hàm kích hoạt – Hàm dấu Hình 1.4(c) – Đồ thị hàm kích hoạt – Hàm dốc 10 Hình 1.4(d) – Đồ thị hàm kích hoạt – Hàm sigmoid đơn cực Hình 1.4(e) – Đồ thị hàm kích hoạt – Hàm sigmoid lưỡng cực 1.2 Phân loại mạng nơ ron: Nơ ron có các mối liên hệ đến các nơ ron khác nhờ các trọng số. Một lớp nơ ron là một nhóm các nơ ron mà chúng đều có cùng các trọng số, nhận cùng số tín hiệu đầu vào đồng thời.
Trong ma trận trọng số, các hàng thể hiện các nơ ron, mỗi hàng thứ j có thể đặt nhãn nhƣ một véc tơ wj của nơ ron thứ j gồm m trọng số wji. Các trọng số trong cùng một cột thứ j (j = 1, 2, ., n) đồng thời cùng nhận một tín hiệu đầu vào xj: 11 w w , w ,.13) Tại cùng một thời điểm, véc tơ đầu vào: x = [x1, x2, …, xm] (1.14) có thể là một nguồn bên ngoài đƣa đến mạng. Mạng Nơ ron một lớp Đây là cấu trúc mạng nơ ron đơn giản nhất. Mạng nơ ron này chỉ gồm một lớp xuất, không có lớp ẩn .5 – Mạng nơ ron một lớp w11 w12.
w2 m W 21 Ma trận trọng số: wn1 wn 2 .2 Mạng Nơ ron truyền thẳng nhiều lớp Mạng nơ ron nhiều lớp (hình 1.6) có các lớp đƣợc phân chia thành: - Lớp vào là lớp nơ ron đầu tiên nhận tín hiệu vào xi. Mỗi tín hiệu xi đƣợc đƣa đến tất cả các nơ ron của lớp đầu vào, chúng đƣợc phân phối trên các trọng số đúng bằng số nơ ron của lớp này. Thông thƣờng, các nơ ron đầu vào không làm biến đổi các tín hiệu vào xi, tức là chúng không có các trọng số hoặc không có các loại hàm chuyển đổi nào, chúng chỉ đóng vai trò phân phối các tín hiệu và không đóng vai trò sửa đổi chúng. 12 - Lớp ẩn là lớp nơ ron dƣới lớp vào, chúng không trực tiếp liên hệ với thế giới bên ngoài nhƣ các lớp nơ ron vào và ra.
Lớp ẩn có thể có một hoặc nhiều lớp nơ ron. - Lớp ra là lớp nơ ron tạo các tín hiệu ra cuối cùng.6 – Mạng nơ ron nhiều lớp Mạng nơ ron nhiều lớp có thể giải quyết các bài toán phi tuyến nhờ vào các lớp ẩn.