mở đầu là một nghiên cứu của William về tâm lý học với sự liên kết các nơron thần kinh. • Năm 1943, lần đầu tiên mạng nơron nhân tạo được biết đến khi nhà thần kinh học Warren McCulloch và nhà toán học Walter Pitts công bố bài báo mô tả cách thức hoạt động của các nơron và tiến hành xây dựng một mạng nơron đơn giản bằng các mạch điện. Các nơron được xem như các thiết bị nhị phân với ngưỡng cố định. Kết quả của mô hình này là các hàm logic đơn giản như “a or b” hay “a and b”.
Họ chỉ ra rằng về nguyên tắc mạng nơron nhân tạo có thể tính toán bất kỳ một hàm số học hay logic nào. • Năm 1949, Donald Hebb là người đầu tiên nêu lý thuyết giải thích cơ chế vật chất của trí nhớ được gọi là Nguyên lý Hebb [29] và nêu ra một phương pháp học của các nơron nhân tạo. • Thập niên 1960, gần như đồng thời, một loạt mô hình mạng nơron hoàn 9 luan an hảo hơn được đưa ra như: Perceptron của Rosenblatt, phần tử nơron tuyến tính thích nghi Adaline (Adaptive Linear Elements) của Windrow, ma trận học của Steinbuck. Perceptron rất được chú trọng vì nguyên lý giản đơn nhưng nó cũng có nhiều hạn chế vì như Minsky và Papert đã chứng minh nó không dùng được cho các hàm logic phức.
Bản chất của Adaline là tuyến tính, tự chỉnh và được dùng rộng rãi cho những bài toán tự thích nghi, tách nhiễu và vẫn phát triển cho đến ngày nay. • Những năm đầu thập niên 1980, sinh học thần kinh và tâm lý học thực nghiệm bắt đầu phát triển rất nhanh với những tiến bộ vượt bậc cùng với sự ra đời của những chiếc PC đầu tiên, việc nghiên cứu mạng nơron phát triển rất mạnh mẽ và đã thu được các kết quả quan trọng trong việc mở rộng khả năng nhận biết và đã có thích ứng trong việc ứng dụng vào công nghệ máy tính. Nhiều nhà thiết kế máy tính thông minh đã mượn các ý tưởng từ những kết quả thực nghiệm trong những nghiên cứu về bộ não và tạo ra được các loại máy có chức năng giống như não bộ với các chi tiết giống các nơron hoặc tập hợp các nơron và các kết nối giữa các chi tiết này giống như các synap của các nơron. Ngày nay, lĩnh vực này phát triển rất sâu rộng và có tác động lẫn nhau rất phức tạp nên việc tìm ra một phương thức tổ chức chung cũng như những phát hiện về số lượng và mô hình toán học là một tất yếu được đặt ra.
Những đóng góp to lớn cho các mô hình mạng nơron ở giai đoạn này phải kể đến Grossberg, Kohonen, Rumelhart và John Hopfield. Đặc biệt, khi nghiên cứu mạng nơron cùng với sự phát triển về lý thuyết động lực học trong các mô hình toán học đã tìm thấy rất nhiều ứng dụng thành công trong các lĩnh vực khác nhau. Năm 1982, John Hopfield tập hợp một số nghiên cứu trước đó và trình bày phân tích toán học hoàn chỉnh cho ra đời mạng Hopfield rời rạc [38] và mạng Hopfield liên tục năm 1984 [39]. • Từ 1990 đến nay, hàng loạt các lĩnh vực như điện toán đám mây, tính toán tối ưu, ứng dụng mạng nơron trong tin học, viễn thông, sinh-y-học, dự báo, 10 luan an thống kê v.v đã đi vào áp dụng và đem lại nhiều kết quả có giá trị.
• Vào năm 2011, khởi nguồn từ một dự án trong chiến lược công nghệ cao của chính phủ Đức nhằm mục đích thúc đẩy việc điện toán hóa sản xuất mà không cần sự tham gia của con người đã đánh dấu thế giới chính thức bước vào cuộc cách mạng công nghiệp 4. Vì khả năng học cao cấp, nhớ lại và khái quát hóa từ các mẫu dữ liệu huấn luyện (neural training), ngày nay mạng nơron nhân tạo đã trở thành hướng nghiên cứu quan trọng trong lĩnh vực trí tuệ nhân tạo, là một trong các yếu tố chính thúc đẩy cuộc cách mạng số để chuyển hóa toàn bộ thế giới thực thành thế giới số mà “Cuộc cách mạng công nghiệp 4.0” đang hướng tới. Các mô hình toán học đóng vai trò đặc biệt quan trọng trong việc mô tả, phân tích và giải thích các mô hình thực tiễn. Trong việc mô hình hóa toán học, các mạng nơron được mô tả bằng các phương trình toán học, hay còn gọi là các phương trình trạng thái, thông qua các hệ phương trình vi phân phi tuyến có trễ [89].
Có nhiều mô hình phương trình trạng thái của các mạng nơron, trong đó mô hình Hopfield (HNNs), Cohen-Grossberg (CGNNs), mạng nơron quán tính INNs và mạng nơron bộ nhớ hai chiều kết hợp BAM được nghiên cứu rộng rãi hơn do cấu trúc đặc thù và khả năng ứng dụng trong thực tiễn [16]. Mặc dù rất nhiều kết quả nghiên cứu, cả lý thuyết và ứng dụng, về các mô hình mạng nơron đã được công bố trong khoảng hai thập kỉ gần đây, lĩnh vực nghiên cứu định tính về dáng điệu nghiệm nói chung, tính ổn định nói riêng, đối với các hệ phương trình vi phân phi tuyến có trễ mô tả các mạng nơron trong thực tiễn và trí tuệ nhân tạo, vẫn đang là mối quan tâm rất lớn của giới toán học và kỹ sư. Nhiều vấn đề mở vẫn đang được tiếp tục nghiên cứu và phát triển, nhất là với các mô hình có cấu trúc tổng quát hơn và sát với thực tiễn hơn. Việc phát triển nghiên cứu định tính đối với các lớp hệ như thế gặp nhiều khó khăn bởi những hạn chế về mặt kĩ thuật và cách tiếp cận hiện có.
Đây cũng là lí do và là động lực chính chúng tôi chọn chủ đề nghiên về tính ổn định và ổn định hóa 11 luan an của các hệ phương trình vi phân phi tuyến có trễ trong một số mô hình mạng nơron trong luận án này. Mục đích, đối tượng và nội dung nghiên cứu 2. Mục đích nghiên cứu Mục đích của luận án là nghiên cứu tính ổn định của một số lớp hệ phương trình vi phân phi tuyến có trễ trong các mô hình mạng nơron. Cụ thể hơn, chúng tôi phát triển các kĩ thuật và phương pháp nghiên cứu để tìm các điều kiện ổn định đối với mô hình mạng nơron Hopfield có trễ dưới ảnh hưởng của một số dạng hiệu ứng xung trạng thái; sự tồn tại duy nhất của điểm cân bằng dương ổn định mũ của lớp mạng INNs và mạng BAM có trễ biến thiên.
Đối tượng nghiên cứu Luận án nghiên cứu tính ổn định và một số vấn đề liên quan đối với bốn lớp hệ phương trình vi phân phi tuyến có trễ sau đây: 1. Mô hình mạng nơron Hopfield chứa trễ bị chặn với hệ số biến thiên dưới ảnh hưởng của xung bất ổn định n X x′i (t) = −di (t)xi (t) + aij (t)fj (xj (t)) j=1 n X + bij (t)gj (xj (t − τij (t))) + Ii (t), t > 0, t 6= tk , j=1 ∆xi (tk ) , xi (t+ − − k ) − xi (tk ) = −σik xi (tk ), k ∈ N. Mạng nơron Hopfield chứa trễ tỉ lệ với tác động của xung phân phối kiểu tuần hoàn n X n X x′i (t) = −di xi (t) + aij fj (xj (t)) + bij gj (xj (qt)) + ui (t), t 6= tk , j=1 j=1 ∆xi (tk ) = −σik xi (t− k ), k ∈ N. Nghiệm dương và sự tồn tại điểm cân bằng dương ổn định mũ của mô hình INNs chứa trễ biến thiên X n d2 xi (t) dxi (t) = − ai − bi xi (t) + cij fj (xj (t)) dt2 dt j=1 n X + dij fj (xj (t − τj (t))) + Ii , t ≥ 0, i ∈ [n].
Tính ổn định của điểm cân bằng dương của mô hình mạng BAM với trễ biến thiên không đồng nhất m X m X x′i (t) = −αi ϕi (xi (t)) + aij fj (yj (t)) + bij fj (yj (t − σj (t))) + Ii , i ∈ [n], j=1 j=1 Xn Xn yj′ (t) = −βj ψj (yj (t)) + cji gi (xi (t)) + dji gi (xi (t − τi (t))) + Jj , j ∈ [m]. Nội dung nghiên cứu Luận án nghiên cứu các nội dung sau Nội dung 1: Tính ổn định mũ toàn cục của mạng nơron Hopfield không ô-tô- nôm chứa trễ biến thiên không đồng nhất dưới tác động của xung bất ổn định Mô hình mạng nơron Hopfield [38] và các biến thể của nó đã và đang là chủ đề nghiên cứu thu hút sự quan tâm nghiên cứu của nhiều tác giả trong và ngoài nước trong hơn hai thập kỉ gần đây bởi các ứng dụng trong nhiều lĩnh vực như xử lí tín hiệu số và hình ảnh, nhận dạng mẫu, bộ nhớ liên kết, ước lượng tham số và đặc biệt là trong lĩnh vực trí tuệ nhân tạo [18,21,95]. Trong các ứng dụng như thế, vấn đề vận hành ổn định của mạng là một yếu tố đặc biệt quan trọng. Chính vì vậy, tính ổn định là một trong các vấn đề nghiên cứu trọng tâm của lý thuyết định tính các mô hình mạng nơron [101].
Mặt khác, trong các mô hình mạng nơron, các trạng thái trễ xuất hiện một cách tự nhiên và phổ biến do nhiều nguyên nhân kĩ thuật như sự hạn chế của băng thông các kênh kết nối cũng như cấu trúc phân tầng của mạng. Sự xuất 13 luan an hiện của các độ trễ là nguyên nhân dẫn đến dáng điệu phức tạp, hiệu suất hoạt động kém, thậm chí làm mất tính ổn định của hệ [10, 86]. Hơn nữa, các độ trễ truyền tải trong một mạng nơron thường phụ thuộc thời gian (trễ biến thiên) và không đồng nhất, tức là các độ trễ truyền tải từ nơron thứ ith đến nơron thứ j th trong mạng và ngược lại nói chung là khác nhau. Do đó, nghiên cứu tính ổn định của mạng nơron với trễ biến thiên không đồng nhất là vấn đề cần thiết đối với bài toán phân tích và thiết kế mạng nơron nhân tạo.
Nhiều kết quả nghiên cứu về các khía cạnh khác nhau của tính ổn định của một số mô hình mạng nơron có trễ và các suy rộng của chúng đã được công bố trong những năm gần đây. Để liệt kê một số kết quả chúng tôi chỉ dẫn độc giả đến một số bài báo [7, 14, 30, 32, 35, 52, 84, 102] và các tài liệu trích dẫn tại đó. Bên cạnh sự ảnh hưởng của trễ, trạng thái của nhiều quá trình tự nhiên trong khoa học, kĩ thuật và đời sống thường bị tác động bởi các yếu tố “nhiễu” do các thay đổi đột ngột tại các thời điểm nhất định [90] mà ta gọi là các thời điểm xảy ra xung trạng thái (impulsive instants). Các mô hình như thế thường được mô tả bởi các hệ phương trình vi phân chứa xung [72].