CHƯƠNG 1. NGUYÊN LÝ VÀ PHƯƠNG PHAP UNG DUNG MẠNG NƠRON NHÂN TẠO TRONG NGHIÊN CỨU DẦU KHÍ 1. Khái niệm về mạng noron nhân tạo 1. Lịch sử hình thành và phát triển của mạng noron nhân tạo Lịch sử phát triển của mang noron nhân tao (Artificial Neural Network - ANN) duoc chia thanh 3 giai doan [13]: Giai đoạn 1 (1940 — 1960) :Năm 1943 mốc lich sử đầu tiên khi mô hình toán học mạng noron nhân tạo được giới thiệu bởi nhà thần kinh học Warren McCulloch và nhà logic học Pitts Hebb (năm 1949) đưa ra thuật toán học đầu tiên của mạng gọi là thuật toán Hebb.
Rosenblatt (1957) định nghĩa perceptron và chứng minh perceptron sẽ phát triển thành vector trọng số dé phân tách các lớp. Ông tin rằng cấu trúc nhiều lớp hơn khắc phục những hạn chế cua perceptron đơn giản. Rosenblatt khẳng định các nơron liên kết phi tuyến (gọi là mạng noron) tạo nên mạng thích nghỉ có thé góp phan giải quyết bài toán nhận dang. Năm năm sau, thuật toán trung bình bình phương nhỏ nhất (Least Mean Square - LSM) cho mô hình Adalin Madaline xuất hiện (Widrow, 1962).
Tiếp đó công trình của Minsky và Pupert năm 1969 chỉ ra rằng, perceptron đơn lớp không thể giải quyết các vấn đề phức tạp. Giai đoạn này ANN chưa giải quyết các bài toán khó, chưa có sức thuyết phục. Cho đến khi Hopfield (1982) đề xuất những thuật toán mới như thuật toán lan truyền ngược, điều này đã làm sống lại cho các nghiên cứu về mạng noron nhân tạo. Giai đoạn này mô hình Perceptron được phát triển mạnh mẽ với những thuật học truyền thang và liên kết suy rộng.
Đã có thêm nhiều cấu trúc mới, ứng dụng mới, trong đó cần kê đến như: mạng truyền thắng với thuật toán lan truyền ngược (luật Delta suy rộng - GDR) (1985), mang dùng các hàm cơ sở xuyên tâm (Radial Basic Function - RBF), các mang Hopfield hồi quy (Hopfield, 1982), bộ nhớ liên hợp 2 chiều (BAM) 1987. Giai đoạn 3 (1990 cho đến hiện nay): Mạng noron nhân tạo được tiếp tục suy rộng và đưa vào thực tiễn nhiều mô hình và thuật toán hoàn chỉnh hơn. Những vấn đề chính trong nghiên cứu ứng dụng ANN vào giải quyết các bài toán thực tế gôm: Đánh giá xác thực những hạn chê cua mạng noron, các khả năng suy rộng khác nhau, phôi hợp công nghệ mạng nơron với công nghệ của logic mờ và các thuật toán di truyền, cài đặt các mạng noron nhân tạo bằng các phần cứng chuyên dụng. Đặc điểm mạng noron nhân tạo Theo các nhà nghiên cứu sinh học, có khoảng 10!! nơron sinh học (tế bào thần kinh) trong hệ thần kinh con người.
Một nơron sinh học gồm các thành phần [92]: thân noron (cell body), sợi trục noron (axon) và sợi nhánh nơron (dendrites). (i) Thân nơron được giới hạn trong một mang member trong cùng hay còn gọi là nhân. Từ thân nơron có rất nhiều sợi nhánh (dendrites). (ii) Soi trục nơron liên kết noron này với các noron khác.
Trên axon có các đường rẽ nhánh. Noron có thê liên kết với các noron khác qua các nhánh. Vì vậy mạng noron có độ liên kết rất cao. (iii) Soi nhánh nơron chia thành 2 loại: loại nhận thông tin từ các nơron khác gọi là nhánh đầu vào, loại đưa thông tin qua axon tới các noron khác gọi là nhánh đầu ra.
Một noron có thê có nhiêu nhánh dau vào nhưng chỉ có một nhánh dau ra [1]. Các sợi trục axon liên kết noron này với các nơron khác. Sự thay đôi trạng thái của một noron bat kì sẽ kéo theo sự thay đôi trạng thai của các noron khác va do đó là sự thay đổi của toàn bộ mạng noron [96 ]. Việc thay đổi trạng thái của mạng noron có thé thực hiện qua quá trình “dạy” hoặc do khả năng “học” tự nhiên.
Các nơron tự nhiên (hình 1.1) nhận tín hiệu qua các “khớp thần kinh” nằm trên đuôi hoặc màng của tế bào thần kinh. Khi tín hiệu nhận được đủ mạnh (vượt qua ngưỡng), tế bào thần kinh được kích hoạt và phát ra tín hiệu thông qua axon. Tín hiệu này được gửi đến khớp nói thần kinh khác và kích hoạt các noron khác [86]. Cac noron sinh hoc Mang noron nhân tao (Artifical Neural Networks - ANN) gọi tắt là mang noron là một mô hình toán hoc xử lý thông tin mô phỏng theo phương thức xử ly 6 của mạng noron sinh học.
Mạng nơron nhân tạo là tập hợp của một sô lượng lớn các phân tử noron và ket nôi với nhau thông qua các trong sô liên kêt, các noron trong mang làm việc thống nhất với nhau dé xử lý một vấn dé cụ thẻ. a) Đặc điểm cấu trúc ANN Một nơron là thành phần cơ bản của một mạng noron. Một noron là một đơn vị tiếp nhận các tín hiệu đầu vào, xử lý thông tin. Cấu trúc của một nơron nhân bao gồm các yếu tố đầu vào (như các khớp thần kinh), được liên kết thể hiện bởi một trọng số (trọng số liên kết — synaptic weight) và sau đó tính toán bởi một hàm toán học phi tuyến (thường gọi là hàm kích hoạt — activation function hay còn gọi là hàm truyền — transfer funtion) như quyết định của tế bào thần kinh (hình 1.2 là một nơron nhân tạo phản ảnh các tính chất cơ bản của một nơron sinh học, gồm n đầu vào “x1, X2,.
Xn” và một đầu ra “y” và hàm kích hoạt “g” [83]. Các đáp ứng kích thích có khả năng thay đổi theo thời gian được xử lý bằng cách điều chỉnh trọng số khi huấn luyện mạng. Các trọng số synpase Ham kich hoat “|. “> W4 Cac ee tínhiện /Xn.
"& 55 đâu vào ae LEY X2 Bộ tổ hợp Hình 1. Mô hình một nơron nhân tạo Mạng noron nhân tạo là mô hình toán học của mạng noron sinh học dé giai quyết một bai toán cụ thé. Theo Mohaghegh (2000), ANN là một hệ thống xử ly thông tin có đặc tính giống như mạng nơron sinh học với các đặc trưng sau đây [62]: (1) Thông tin được xử lý thông qua các noron. (2) Có đường liên hệ giữa các noron cho phép thông tin truyền qua.
(3) Mỗi đường liên hệ có trọng số của nó. (4) Mỗi đường vào (input) được thực hiện bởi 1 noron. Các nơron có hàm kích hoạt dé định giá trị mà nó kết xuất. Liên kết các nơron nhân tạo với nhau được mạng nơron nhân tạo [66].
Mạng nơron nhân tạo gồm 3 lớp: lớp đầu vào (input), lớp an (hidden layer) và lớp đầu ra (output). Cac bai toán của luận án thuộc dang xap xi ham chưa biết dựa trên giá tri các cặp điểm vào — ra biểu diễn hàm chưa biết đó. Các mạng dạng này hiện có 4 mạng chủ yếu sau đây: - Mạng perceptron nhiều lớp (MLP) và thuật học lan truyền ngược (bacpropagation - BP). - Mạng nơron với ham cơ sở xuyên tam (radial basic functions - RBF).
- Mạng noron xác suất (probabilistic neural networks - PNN). - Mạng noron hồi quy tong quát (general recurrent neural networks - GRNN). Luận án sử dụng 2 mang sau: - Mạng perceptron nhiều lớp (multilayer perceptron - MLP) và giải thuật lan truyền ngược (back propagation - BP). Sử dụng hàm newff trong Matlab tạo ra mạng MLP [90].
- Mang noron với ham cơ sở xuyên tâm (radial basics functions - RBF). Sử dung ham newrb trong Matlab tao ra mang RBF [90, 87]. b) Phuong pháp luận của phương pháp ANN Phương pháp xử lý thông tin của ANN hoàn toàn khác với phương pháp tính toán truyền thống. Sự khác biệt này gồm 2 điểm sau: (i) Quá trình xử lý thông tin của ANN được tiến hành song song và phân tán trên nhiều noron gần như đồng thời.
(ii) Tính toán là quá trình học chứ không phải theo công thức hay sơ đồ định sẵn. Mô hình “học” được thực hiện bằng quy luật sau [22]: “nếu Xj thì Tỉ” (1.1) Quá trình “học” là quá trình huấn luyện mạng. Khi huấn luyện mạng, bộ trọng số của ANN được biến đổi hiệu chỉnh sao cho quy luật (1.1) được thỏa mãn với toàn bộ tập huấn luyện, nghĩa là quy luật (1.1) được thỏa mãn với mọi i=1, 2,. Các bài toán của luận án thuộc dạng xâp xi hàm chưa biệt dựa trên giá trị các cặp điểm vào — ra biểu diễn hàm chưa biết đó.
Cơ sở khoa học của phương pháp luận là định lý Kolmogorov [78]. Định lý Kolmogorov: Goi In là khối n chiều của đoạn [0 1], In =[0 I1". Bat kỳ hàm liên tục f(xi,xa, .Xn ) nào của ø biến xi, Xa, ., Xn trên In đều có thể biểu diễn dưới dạng: 2ntl n P%3. Các hàm g(x) của luận án sử dụng là hàm tăng đơn điệu.
c) Nội dung triển khai phương pháp ANN Phương pháp mạng nơron nhân tạo sử dụng trong luận án bao gồm các nội dung sau: - Lựa chọn thuật học phù hợp với bài toán đặt ra, ở đây chính là: thuật học BP và RBF [87, 90]. - Lựa chọn các dau vao. - Xây dựng tập huấn luyện đáp ứng điều kiện của tập huấn luyện là nguyên lý phù hợp, tính đại điện, tính đầy đủ. - Chuẩn hóa số liệu.
- Xác định số noron lớp an. - Chọn hàm kích hoạt, chọn hàm huấn luyện mạng. - Tổng hợp tính độ rỗng (và các tham số VLTH khác). Mô hình ANN có tiềm năng tạo nên cuộc cách mạng trong công nghệ máy tính và các quá trình xử lý thông tin [14].
ANN có kha năng xử lý song song va phân tán, có thể đưa vào mạng một lượng lớn các noron liên kết với nhau theo những lược đồ với các kiến trúc khác nhau. ANN có khả năng thích nghi, tự tô chức, khả năng dung thứ lỗi do hệ thống mà có thê vẫn tiếp tục làm việc và điều chỉnh khi nhận tín hiệu vào nếu có một phần thông tin bị sai lệch hoặc bị thiếu [29]. Ngoài ra, ANN có thé xử lý các quá trình phi tuyến. Trình tự xử lý bài toán ANN Ứng dụng ANN để giải bài toán thực tế cần giải quyết hai nội dung thiết kế mạng và xây dựng tập huấn luyện, tập tính toán, tập kiểm tra.
Thực hiện nội dung này bằng các bước sau đây: Bước 1: Thu thập dữ liệu và lựa chọn dữ liệu làm đầu vào (mput); Bước 2: Xây dựng tập huấn luyện, tập kiểm tra và xây dựng tập tính toán; Bước 3: Chuẩn hóa số liệu; Bước 4: Xác định số noron lớp an, chon hàm kích hoạt, hàm huấn luyện phù hợp; Bước 5: Đảm bảo độ tin cậy của kết quả tính cho giếng tính toán. Đánh giá chất lượng của ANN bằng tiêu chuẩn (a, R, P) Luận án sử dụng các hàm newff, ham train, ham sim và khái niệm Epochs. Hàm newff, hàm train và hàm sim là các hàm thiết kế ANN được cài đặt trong ngôn ngữ lập trình MATLAB [80].