I. Tổng Quan Nghiên Cứu Mạng Nơ ron Ứng Dụng và Tiềm Năng
Mạng nơ-ron (Neural Networks) đã trở thành một lĩnh vực nghiên cứu quan trọng trong khoa học dữ liệu. Lý thuyết về mạng nơ-ron có thể ứng dụng rộng rãi trong nhiều lĩnh vực khoa học và đời sống. Bài toán nội suy là một trong những vấn đề chính thúc đẩy các nhà khoa học máy tính phát triển các mạng nơ-ron để giải quyết. Chương này trình bày những vấn đề cơ bản liên quan đến bài toán nội suy và xấp xỉ hàm. Bài toán xấp xỉ hàm sẽ được trình bày rõ hơn trong chương 5 (Bài toán xấp xỉ hàm trong Khí tượng thủy văn). Chương này cũng giới thiệu phương pháp nội suy k-lân cận gần nhất, đây là phương pháp nội suy đơn giản và hiện nay được nhiều người ưa dùng. Mặc dù các lý thuyết và phương pháp về nội suy hàm một biến được nghiên cứu khá đầy đủ nhưng điều này vẫn còn rất hạn chế để áp dụng trong thực tế vì các hàm hay gặp trong thực tế thường là hàm nhiều biến.
1.1. Bài Toán Nội Suy Hàm Nhiều Biến Khái Niệm Cơ Bản
Giả sử D là một miền giới nội trong Гn và f là một hàm liên tục xác định trên D. Bài toán nội suy hàm nhiều biến Để tính f(х), ta cần một hàm (х) xác định trên D có dạng đơn giản dễ tính giá trị sao cho (хi)=ɣi tại mọi điểm хi đã biết và xấp xỉ f(х) bởi (х). Khi đó các điểm хi được gọi là các mốc nội suy và hàm được gọi là hàm nội suy và được chọn dưới dạng đơn giản, dễ tính giá trị trong miền D.
1.2. Phương Pháp K Lân Cận Gần Nhất Ưu Điểm và Hạn Chế
Đây là phương pháp nội suy đơn giản và hiện nay được nhiều người ưa dùng. Chọn trước số tự nhiên k, với mỗi х D , ta xác định giá trị (х) qua giá trị của f tại k mốc nội suy gần nó nhất. Ký hiệu z1,…,zk là k mốc nội suy gần х nhất và d(u,ѵ) là khoảng cách của hai điểm u,ѵ bất kỳ trong D, khi đó (х) xác định như sau: k (х) = j f (z j ) j=1 Trong đó i được xác định bởi: = d (х, z i ) −1 d (х, z ) i k −1 j j =1 Dễ thấy rằng khi х dần tới các mốc nội suy thì (х) xác định như trên dần tới giá trị của f tại mốc nội suy tương ứng. Tuy sai số của phương pháp không đánh giá chặt chẽ được nhưng vẫn được ưa dùng trong thực nghiệm. Ta có thể nhận xét rằng phương pháp k-lân_cận_gần_nhất có ưu điểm là cách tính toán đơn giản và dễ thực hiện, tuy nhiên trên thực tế việc xác định giá trị k phù hợp là một vấn đề khó (phụ thuộc rất nhiều vào kinh nghiệm đánh giá bài toán thực tế), đồng thời mỗi khi cần xác định giá trị của một điểm, phương pháp này lại tìm trong tất cả các giá trị đã biết để tìm được các mốc gần nhất, điều này đòi hỏi chi phí tính toán nhiều.
II. Mạng Nơ ron Nhân Tạo Cấu Trúc Hoạt Động và Ứng Dụng
Chương này giới thiệu tóm tắt về mạng nơ-ron và các phương pháp ứng dụng của mạng nơ-ron nhằm làm rõ hơn các đặc điểm thiết kế và cách huấn luyện mạng nơ-ron RBF. Ngày nay không ai có thể phủ nhận vai trò cực kỳ quan trọng của máy tính trong nghiên cứu khoa học kỹ thuật cũng như trong đời sống. Máy tính đã làm được những điều kỳ diệu và giải được những vấn đề tưởng chừng nan giải. Càng ngày càng có nhiều người tự hỏi, liệu máy tính đã thông minh hơn con người hay chưa? Bí ẩn về cấu tạo cũng như hoạt động của bộ não con người luôn là đề tài để các nhà khoa học nghiên cứu. Các nhà khoa học chỉ có thể phát hiện một cách gián tiếp cách thức trí nhớ được tạo thành trong bộ não thông qua các thử nghiệm hành vi. Một máy tính, dù có mạnh đến đâu chăng nữa, đều phải làm việc theo một chương trình chính xác đã được hoạch định trước bởi các chuyên gia. Bài toán càng phức tạp thì việc lập trình càng công phu. Trong khi đó con người làm việc bằng cách học tập và rèn luyện. Trong khi làm việc con người có khả năng liên tưởng, kết nối sự việc này với sự việc khác, và quan trọng hơn hết, họ có thể sáng tạo. Do có khả năng liên tưởng, con người có thể dễ dàng làm nhiều điều mà việc lập trình cho máy tính đòi hỏi rất nhiều công sức. Một em bé có thể tự học hỏi để nhận dạng và phân loại đồ vật chung quanh mình, biết được cái gì là thứ để ăn, cái gì là đồ chơi. Một người bình thường cũng có thể đoán được vài chữ trong một ô chữ. Nhưng thật khó mà dạy cho máy tính làm được những việc ấy. Từ lâu các nhà khoa học đã nhận thấy những ưu điểm của bộ óc con người và tìm cách mô phỏng, giả lập để thực hiện những máy tính có khả năng học tập, nhận dạng và phân loại. Mạng nơ-ron là một lĩnh vực nghiên cứu rộng lớn và chỉ mới phát triển mạnh khoảng 15 năm gần đây. Tuy còn xa mới đạt được sự hoàn chỉnh như bộ óc con người nhưng các mạng nơ-ron nhân tạo đã được ứng dụng khá rộng rãi và có nhiều kết quả khích lệ.
2.1. Cấu Tạo Của Một Nơ ron Mô Hình và Chức Năng
Mạng nơ-ron nhân tạo được kết nối từ các đơn vị xử lý thông tin có kiến trúc giống nhau gọi là các nơ-ron.1 : Mô hình của một nơ-ron Một nơ-ron bao gồm các liên kết nhận tín hiệu vào bằng số có các trọng số kết nối wi tương ứng với tín hiệu хi, một hàm tổng và một hàm chuyển còn gọi là hàm kích hoạt để tạo tín hiệu ra dựa trên giá trị hàm tổng và giá trị ngưỡng . Liên kết Mỗi liên kết thứ i sẽ nhận giá trị vào хi tương ứng và có trọng số kết nối wi tương ứng. Trọng số kết nối Các trọng số kết nối của mỗi đường liên kết là yếu tố then chốt của nơ-ron, chúng sẽ được xác định tùy theo tập dữ liệu nhờ quá trình huấn luyện. hàm tổng
2.2. Quá Trình Học Của Mạng Nơ ron Ví Dụ Minh Họa
Ví dụ cách một nơ-ron học Giả sử chúng ta muốn dạy nơ-ron phân biệt chữ A và B. Khi đưa input là A chúng ta muốn nơ-ron cho output là 1, còn khi input là B thì nơ-ron phải cho output bằng 0 hình ảnh của hai chữ A và B có thể phân tích thành nhiều ô nhỏ như sau: hình 2. Biểu diễn các chữ trên ô lưới Ta thấy trong biểu diễn trên mỗi chữ gồm 5х10=50 ô, mỗi ô có thể có chứa dấu х hay không chứa gì cả. Chúng ta có thể mã hóa một ô có chứa dấu х
III. Mạng Nơ ron RBF Nội Suy Hàm Hiệu Quả Trong Khoa Học
Luận văn này trình bày các nội dung sau: • Khảo cứu về mạng nơ-ron RBF để nội suy, xấp xỉ hàm số mà chủ yếu tập trung vào mạng nội suy và thuật toán huấn luyện. • Xây dựng phần mềm huấn luyện lặp mạng RBF làm công cụ học tập và nghiên cứu. • Xây dựng phần mềm tính giá trị gần đúng của hàm nội suy trên lưới đều dựa trên tập giá trị quan trắc cho trước dùng trong bài toán khí tượng. Phần trọng tâm của đề tài chính là xây dựng phần mềm cho phép thực nghiệm nội suy bằng mạng nơ-ron RBF và bước đầu thực nghiệm nó vào bài toán khí tượng Ngoài phần kết luận, các chương của đề tài được trình bày như sau: • CHƯƠNG 1: BÀI TOÁN NỘI SUY VÀ XẤP XỈ HÀM Trình bày tóm tắt các điểm cơ bản về bài toán nội suy bao gồm nội suy hàm một biến và nội suy hàm nhiều biến. • CHƯƠNG 2: GIỚI THIỆU MẠNG NƠ-RON Giới thiệu ngắn gọn về mạng nơ-ron bao gồm kiến trúc và luật học của Perceptron đơn, mạng ADALINE và mạng MLP. • CHƯƠNG 3: MẠNG NƠ-RON NỘI SUY RBF Trình bày khảo cứu về mạng RBF và một số ứng dụng. Nội dung chính của Phương pháp Lặp huấn luyện mạng RBF. • CHƯƠNG 4: GIỚI THIỆU CHƯƠNG TRÌNH MÁY TÍNH Giới thiệu chương trình máy tính thực nghiệm bài toán nội suy bằng mạng RBF được huấn luyện bằng phương pháp lặp được trình bày tại chương 3. • CHƯƠNG 5: BÀI TOÁN XẤP XỈ HÀM TRONG KHÍ TƯỢNG THỦY VĂN
3.1. Bài Toán Nội Suy Nhiều Biến Với Cách Tiếp Cận RBF
Bài toán nội suy và xấp xỉ hàm nhiều biến Giả sử D là một miền giới nội trong Гп và f là một hàm liên tục xác định trên D. Bài toán nội suy hàm nhiều biến Để tính f(х), ta cần một hàm (х) xác định trên D có dạng đơn giản dễ tính giá trị sao cho (хi)=ɣi tại mọi điểm хi đã biết và xấp xỉ f(х) bởi (х). Khi đó các điểm хi được gọi là các mốc nội suy và hàm được gọi là hàm nội suy và được chọn dưới dạng đơn giản, dễ tính giá trị trong miền D.
3.2. Kiến Trúc Mạng RBF và Đặc Điểm Huấn Luyện
Phương pháp Trung bình bình phương nhỏ nhất huấn luyện mạng RBF 3. Phương pháp Lặp huấn luyện mạng RBF . Cấu hình máy tính sử dụng chương trình . Cấu trúc dữ liệu vào . Sinh mồi dữ liệu vào . Huấn luyện mạng RBF với các mồi nội suy đầu vào . Nội suy bằng mạng RBF vừa huấn luyện . Một vài phương pháp áp dụng . Cấu trúc file dữ liệu quan trắc . Huấn luyện mạng RBF với file số liệu quan trắc . Nội suy với dữ liệu nằm trên mồi lưới . Nhận xét ứng dụng mạng nội suy RBF . 69 Hướng nghiên cứu tiếp theo . 69 TÀI LIỆU THAM KHẢO . 73 Giới thiệu một số thủ tục chính của chương trình . 74
IV. Ứng Dụng Mạng Nơ ron RBF Trong Bài Toán Khí Tượng Thủy Văn
Giới thiệu bài toán thực tế trong khí tượng thủy văn đòi hỏi áp dụng xấp xỉ hàm nhiều biến. Bài toán này được đặt ra dựa trên công tác nghiên cứu, hoạt động của Khoa Khí tượng Thủy văn và hải dương học – Đại học KHTN – Đại học Quốc gia Hà Nội. Đồng thời giới thiệu ứng dụng chương trình máy tính được xây dựng để nội suy giá trị theo các mốc quan trắc.
4.1. Bài Toán Xấp Xỉ Hàm Trong Khí Tượng Thủy Văn
Bài toán xấp xỉ hàm nhiều biến Bài toán xấp xỉ hàm nhiều biến được xem là bài toán chung, tổng quát mà trong đó cách tiếp cận nội suy là một trường hợp đặc biệt. Trong bài toán nội suy hàm nội suy phải có giá trị trùng với các giá trị tính được tại các mốc nội suy đã biết. Khi số mốc nội suy lớn việc xác định hàm nội suy trở thành bài toán khó, khi đó ta chấp nhận các giá trị gần đúng tại các mốc nội suy đã biết và chọn hàm có dạng đơn giản sao cho sai số là tốt nhất. Bài toán được nêu ra như sau: hàm ɣ = f (х) đ0 được tại các điểm х k̟ k =1 thuộc D giới nội trong Г п là П ɣk̟ = f (х k̟ );k̟ = 1. i ѵà 1 п Để xấp xỉ hàm f (х) ta cần tìm một hàm có dạng cho trước sao cho sai số tại các điểm đã biết là tốt nhất có thể được. Hàm được chọn thường là hàm dưới dạng (х) = (х, ເ1, ເ2 ,., ເk̟ ) và thường đánh giá sai số tốt nhất theo cách xác định các tham ເ1 , ເ2 ,. Về mặt hình học, đồ thị ɣ = (х) không đòi hỏi hàm phải đi qua các điểm mốc như trong phép nội suy.
4.2. Xây Dựng Phần Mềm Nội Suy Giá Trị Theo Mốc Quan Trắc
Bài toán này trong nhiều trường hợp sẽ rơi vào cực tiểu địa phương. Để tránh được hạn chế này người ta sẽ sử dụng phương pháp lặp với các tham số được điều chỉnh (chọn lại) sau mỗi bước lặp với hy vọng sẽ tìm được sai số trung bình bình phương nhỏ nhất toàn cục. Trong nhiều trường hợp khi số mốc nội suy lớn (П lớn), để giảm bớt chi phí tính toán, thay vì tính toán i = 1.M với M<П để với tính (z ) − f (z ) nhỏ nhất, với tập z là những điểm gần х nhất. Phương M 2 i i k̟ i=1 M k =1 pháp này thường được gọi là phương pháp địa phương và hàm (х, ເ1 , ເ2 ,.
