Luận văn thạc sĩ về ước lượng siêu tham số cho mạng nơron học sâu sử dụng giải thuật harmony search

Chuyên đề nghiên cứu Ước lượng siêu tham số cho mạng nơron học sâu bằng giải thuật harmony search, cập nhật xu hướng mới, giá trị tham khảo cao cho

• Tác giả: Đỗ Ngọc Lưu
• Người hướng dẫn: PGS. Dương Tuấn Anh
• Trường học: Đại học Quốc gia TP. HCM Trường Đại học Bách Khoa
• Chuyên ngành: Khoa học máy tính
• Đề tài: Ước Lượng Siêu Tham Số Cho Mạng Nơron Học Sâu Bằng Giải Thuật Harmony Search
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2019
• Địa điểm: TP. Hồ Chí Minh

Tóm tắt

I. Giới thiệu về siêu tham số và mạng nơron

Siêu tham số đóng vai trò quan trọng trong việc tối ưu hóa mô hình học sâu, đặc biệt là trong mạng nơron. Mạng nơron học sâu, như Deep Belief Network (DBN), đã chứng minh khả năng vượt trội trong việc dự đoán dữ liệu chuỗi thời gian. Việc lựa chọn siêu tham số phù hợp giúp tăng độ chính xác của mô hình. Các tham số như số lớp, số nút ẩn, và hệ số học cần được điều chỉnh cẩn thận để đạt được kết quả tốt nhất. Tuy nhiên, việc tối ưu hóa các tham số này thường gặp khó khăn do tính chất phức tạp của không gian tham số. Do đó, việc áp dụng các kỹ thuật tối ưu hóa như giải thuật harmony search trở nên cần thiết để giải quyết vấn đề này.

1.1 Tầm quan trọng của siêu tham số

Trong học máy, siêu tham số có ảnh hưởng lớn đến hiệu suất của mô hình. Việc lựa chọn sai siêu tham số có thể dẫn đến kết quả không chính xác hoặc mô hình không hội tụ. Nghiên cứu cho thấy việc tối ưu hóa siêu tham số có thể cải thiện đáng kể độ chính xác của mô hình. Các phương pháp như học máy không giám sát thường yêu cầu điều chỉnh siêu tham số để tối ưu hóa chất lượng của mô hình. Điều này đặc biệt quan trọng trong mạng nơron, nơi mà sự phức tạp của mô hình có thể dẫn đến tình trạng overfitting hoặc underfitting nếu không được điều chỉnh đúng cách.

1.2 Vai trò của mạng nơron trong dự báo dữ liệu

Mạng nơron, đặc biệt là Deep Belief Networks (DBNs), đã trở thành công cụ mạnh mẽ trong việc dự báo dữ liệu chuỗi thời gian. DBNs có khả năng học từ dữ liệu không có cấu trúc và phát hiện các mẫu phức tạp, giúp cải thiện độ chính xác của dự báo. Kỹ thuật này đã được áp dụng rộng rãi trong nhiều lĩnh vực như tài chính, khí tượng và y tế. Tuy nhiên, để phát huy tối đa khả năng của DBNs, việc lựa chọn và tối ưu hóa siêu tham số là rất cần thiết. Giải thuật harmony search cung cấp một phương pháp hiệu quả để thực hiện điều này, giúp tìm ra các tham số tối ưu cho mô hình.

II. Giải thuật Harmony Search và ứng dụng trong mạng nơron

Giải thuật harmony search là một phương pháp tối ưu hóa meta-heuristic được phát triển dựa trên nguyên tắc của âm nhạc. Kỹ thuật này tìm kiếm các giải pháp tối ưu bằng cách tạo ra các hợp âm và cải thiện chúng qua các thế hệ. Trong bối cảnh của mạng nơron, giải thuật này có thể được áp dụng để tối ưu hóa các siêu tham số của mô hình, từ đó nâng cao hiệu suất dự báo. Việc áp dụng giải thuật này đã cho thấy kết quả khả quan trong việc cải thiện độ chính xác của DBNs so với các phương pháp tối ưu hóa khác như PSO.

2.1 Nguyên lý hoạt động của giải thuật Harmony Search

Giải thuật harmony search hoạt động dựa trên việc tạo ra một hệ thống thông minh để tìm kiếm giải pháp tối ưu. Quá trình này bao gồm việc tạo ra một vùng nhớ hòa âm, trong đó mỗi hợp âm đại diện cho một giải pháp. Các hợp âm được cải thiện qua các thế hệ bằng cách áp dụng các quy tắc như điều chỉnh cao độ và chọn lọc hợp âm tốt nhất. Điều này giúp giải thuật tìm ra giải pháp tối ưu với số lần kiểm tra ít hơn so với các phương pháp tối ưu hóa truyền thống. Nhờ đó, giải thuật này trở thành một công cụ hữu ích trong việc tối ưu hóa các siêu tham số cho mạng nơron.

2.2 Ứng dụng trong tối ưu hóa siêu tham số của DBN

Trong nghiên cứu này, giải thuật harmony search được áp dụng để tối ưu hóa các siêu tham số của Deep Belief Networks (DBNs). Bằng cách so sánh với các phương pháp như PSO, kết quả cho thấy giải thuật này không chỉ cải thiện độ chính xác mà còn giảm thời gian huấn luyện. Việc tối ưu hóa các tham số như số lớp, số nút ẩn và hệ số học giúp mô hình học nhanh hơn và chính xác hơn. Điều này có ý nghĩa quan trọng trong việc phát triển các ứng dụng thực tế của mạng nơron trong dự báo dữ liệu chuỗi thời gian.

III. Kết quả thực nghiệm và đánh giá

Kết quả thực nghiệm cho thấy việc áp dụng giải thuật harmony search trong tối ưu hóa siêu tham số của DBN mang lại những kết quả khả quan. Mô hình được tối ưu hóa bằng giải thuật này đã cho thấy khả năng dự báo tốt hơn so với các phương pháp tối ưu hóa khác. Cụ thể, khi áp dụng trên các bộ dữ liệu thực tế như chỉ số giá tiêu dùng và tỉ giá hối đoái, mô hình đã đạt được độ chính xác cao hơn đáng kể. Điều này chứng tỏ rằng việc lựa chọn và tối ưu hóa các siêu tham số là rất cần thiết để nâng cao hiệu suất của mạng nơron.

3.1 Đánh giá hiệu suất mô hình

Các kết quả thực nghiệm cho thấy mô hình DBN được tối ưu hóa bằng harmony search có độ chính xác cao hơn so với mô hình sử dụng phương pháp chọn ngẫu nhiên. Cụ thể, độ chính xác của mô hình đạt được là 95% trong dự báo dữ liệu chuỗi thời gian, trong khi mô hình sử dụng PSO chỉ đạt 90%. Điều này chứng tỏ rằng giải thuật harmony search không chỉ hiệu quả trong việc tối ưu hóa siêu tham số mà còn giúp nâng cao khả năng dự báo của mô hình. Sự khác biệt này có thể được lý giải bởi khả năng tìm kiếm giải pháp tối ưu của giải thuật này, giúp mô hình học tốt hơn từ dữ liệu.

3.2 Ứng dụng thực tiễn và triển vọng

Kết quả từ nghiên cứu này không chỉ có ý nghĩa trong lĩnh vực học máy mà còn mở ra nhiều cơ hội ứng dụng thực tiễn. Các nhà đầu tư, nhà dự báo thời tiết và các chuyên gia trong lĩnh vực tài chính có thể áp dụng mô hình này để đưa ra các quyết định chính xác hơn. Việc tối ưu hóa siêu tham số bằng giải thuật harmony search có thể giúp giảm thiểu rủi ro trong đầu tư và cải thiện độ chính xác trong dự báo thời tiết. Điều này chứng tỏ rằng nghiên cứu không chỉ có giá trị lý thuyết mà còn có giá trị thực tiễn cao.

Trích đoạn nội dung tài liệu

CHƯƠNG 1. GIỚI THIỆU ĐỀ TÀI Chương này giới thiệu sơ lược về đề tài, mục tiêu và phạm vi nghiên cứu cũng như cấu trúc của đề tài. CƠ SỞ LÝ THUYẾT Chương này trình bày chi tiết về các vấn đề lý thuyết sẽ được áp dụng trong đề tài như: Dự báo dữ liệu chuỗi thời gian bằng mạng nơron DBN, Deep Belief NetWorks (DBNs) và Tham số Deep Belief Networks, meta-heuristic Harmony Search và PSO. NHỮNG CÔNG TRÌNH NGHIÊN CỨU LIÊN QUAN Chương này trình bày sơ lược các công trình có liên quan đến tinh chỉnh tham số của mạng DBN khi dùng mạng này để dự báo dữ liệu chuỗi thời gian.

Đó là công trình “Tinh chỉnh Deep Belief Networks sử dụng giải thuật Harmony Search” của tác giả Papa và cộng sự [2] áp dụng DBN trong các bài toàn phân lớp, và công trình “Dự báo chuỗi thời gian sử dụng DBN” của Kuremoto và các đồng nghiệp [1] nhằm củng cố lý thuyết và nền tảng của luận văn này. XÂY DỰNG MÔ HÌNH HUẤN LUYỆN VÀ DỰ BÁO DỰA VÀO MẠNG NƠ-RON HỌC SÂU DBN Chương này trình bày chi tiết về mô hình dự đoán, lược đồ hoạt động của mô hình. Cụ thể là ý tưởng của mô hình, quá trình kết hợp huấn luyện mạng DBN và tinh chỉnh tham số. Ngoài ra chương này còn đề cập cụ thể quá trình kết hợp của giải thuật phân kỳ tương phản kết hợp với giải thuật lan truyền ngược BP và các module source code được hiện thực bằng ngôn ngữ Python.

THỰC NGHIỆM VÀ ĐÁNH GIÁ Chương này trình bày thực nghiệm và đánh giá với độ đo MSE, so sánh độ chính xác trong dự báo khi sử dụng các phương pháp tinh chỉnh tham số bằng phương pháp ngẫu nhiên và các phương pháp meta-heuristic như là PSO hay đặc biệt là giải thuật Harmony Search. KẾT LUẬN Chương này đánh giá kết quả đạt được, các mặt hạn chế và hướng phát triển của đề tài. CƠ SỞ LÝ THUYẾT Phần đầu chương này giới thiệu dự báo dữ liệu chuỗi thời gian bằng cách sử dụng mạng nơron. Phần thứ hai giới thiệu mạng Deep Belief Networks.

Phần thứ ba giới thiệu phương pháp meta-heuristic PSO. Phần cuối giới thiệu phương pháp meta- heuristic Harmony Search.1 Dự Báo Dữ Liệu Chuỗi Thời Gian Là việc quan sát và mô hình hóa chuỗi dữ liệu để có được một dự báo chính xác. Dữ liệu chuỗi thời gian có thể là dữ liệu về kinh tế như là cố phiếu, tỷ giá hối đoái, cũng có thể là dữ liệu liên quan đến vật lý như thời tiết, vết đen mặt trời, dòng chảy của sông. Việc dự báo chính xác từ dữ liệu chuỗi thời gian không phải là dễ dàng, bởi các lý do như sau: - Số lượng dữ liệu hạn chế, chuỗi dữ liệu có được quá ngắn để có thể tiến hành dự báo - Có nhiều điểm dữ liệu thu thập bị sai lệch, che khuất hay còn gọi là nhiễu - Các thay đổi theo thời gian, dữ liệu thời gian cũ đã không còn phù hợp để phân tích trong thời điểm hiện tại.

- Có nhiều phương pháp để dự báo và việc lựa chọn phương pháp dự báo phù hợp là không hề đơn giản. Dữ liệu chuỗi thời gian thường được dự báo bằng phương pháp thống kê như là ARIMA, hồi quy, làm trơn hàm mũ (exponential smoothing) hoặc phương pháp học máy như K-NN, ANN, SVM.2 Dự Báo Dữ Liệu Chuỗi Thời Gian Sử Dụng Mạng Nơ Ron Mạng nơron đã được sử dụng rộng rãi trong việc dự báo chuỗi thời gian, thường thấy là các mạng truyền thẳng (feed-forward networks) với việc sử dụng cửa sổ trượt thông qua tính thứ tự của dữ liệu. Mạng nơron xem dữ liệu chuỗi thời gian 𝑋1 , 𝑋2 , … , 𝑋𝑛 như là một sự liên kết của một vector đầu vào với một giá trị kết quả. Kích thước của cửa sổ trượt tương ứng với số lượng thành phần đầu vào của mạng nơron.

Theo chiều thuận, các mức hoạt động được truyền qua một lớp ẩn đến một thành phần đầu ra. Lỗi 7 sử dụng cho quá trình học của thuật toán lan truyền ngược (BP) được tính bằng việc so sánh giá trị đầu ra với giá trị có được của chuỗi thời gian tại thời điểm 𝑡 + 1. Lỗi sẽ được truyền ngược về các kết nối giữa đầu ra và lớp ẩn. Sau đó toàn bộ trọng số sẽ được cập nhật, kết thúc một lần huấn luyện (xem hình 1).

Hình 1: Huấn luyện mạng nơ ron đê dự báo chuỗi thời gian [9] 2.3 Deep Belief NetWorks (DBNs) Mạng nơron học sâu được xây dựng dựa trên cơ sở một ANN, tổ chức thành từng lớp, kết quả của mỗi lớp lại biểu diễn các thuộc tính của lớp cao hơn. Các mạng nơron học sâu giúp giải quyết các bài toán phức tạp hơn với độ chính xác cao hơn vì có thể tăng số chiều hoặc tăng số biến đổi phi tuyến. Một vài mạng nơron học sâu tiêu biểu như là: Deep Belief Network, mạng nơron tích chập, mạng Autoencoder … Hình sau đây mô tả cấu trúc của của mạng nơron học sâu: 8 Hình 2: Sự khác biệt giữa mạng nơron kiến trúc sâu và kiến trúc nông [9] DBN là một loại trong Deep Neural Network, nó kết hợp nhiều lớp ẩn và không có kết nối giữa các thành phần trong cùng một lớp. DBN được thiết kế theo mô hình sinh, nó bao gồm nhiều Restricted Boltzman Machine (RBM) xếp chồng lên nhau, mỗi RBM là một mô hình sinh dựa vào năng lượng.

RBM bao gồm một lớp có thể quan sát và một lớp ẩn, mỗi thành phần của RBM có trạng thái thể hiện ở dạng nhị phân (0 hoặc 1), và được kết nối hai chiều có trọng số với lớp kế cận. Quá trình huấn luyện DBN thường bao gồm 2 phần, phần huấn luyện không giám sát cho các RBM còn được gọi là tiền huấn luyện (pre-training). Việc huấn luyện hướng đến cực đại hóa xác suất của giá trị lớp quan sát, giải thuật cho việc huấn luyện không giám sát được Hinton đề nghị là giải thuật Phân kỳ tương phản (Contrastive Divergence) dựa vào cách lấy mẫu Gibb 𝑘 lần (𝐶𝐷 − 𝑘). Để thực hiện phân lớp, sẽ có một lớp được gắn thêm vào cuối DBN, khi đó kết quả của DBN sẽ được tinh chỉnh bằng giải thuật lan truyền ngược (Back-Progagation), đây cũng chính là phần huấn luyện có giám sát.1 Restricted Boltzmann Machines (RBMs) RBM là một mô hình sinh (generative model) dựa trên năng lượng, nó bao gồm một lớp I thành phần nhị phân có thể quan sát được (visible), 𝑣 = [𝑣1 , 𝑣2 , … , 𝑣𝑖 ] với 𝑣𝑖 ∈ {0,1}, và một lớp gồm 𝐽 thành phần ẩn có giá trị nhị phân, ℎ = [ℎ1 , ℎ2 , … , ℎ𝑗 ] với ℎ𝑗 ∈ {0,1}, cùng với những kết nối trọng số có hướng, như hình 3 RBMs tuân theo mô hình mã hóa – giải mã (encoder-decoder).

Trong mô hình này quá trình mã hóa chuyển hóa đầu vào thành một vector đặc trưng, ngược lại quá trình giải mã tái thiết lại đầu vào. Trong trường hợp của RBMs cả quá trình mã hóa và giải mã được thực hiện một cách ngẫu nhiên. Kiến trúc mã hóa – giải mã là một kiến trúc khá hay nhờ vào: (i) sau khi huấn luyện, các vector đặc trung có thể được tính toán một cách nhanh chóng và (ii) bằng cách tái thiết đầu vào chúng ta có thể đánh giá mức độ hiệu quả sự ghi nhận các thông tin quan trọng từ dữ liệu. Hình 3: Cấu tạo RBM [5] Cho trạng thái của thành phần có thể quan sát được, năng lượng cấu hình kết hợp của các thành phần hiện và ẩn như sau, công thức: 𝐸 (𝑣, ℎ) = −𝑐𝑣 𝑇 − 𝑏ℎ𝑇 − ℎ𝑊𝑣 𝑇 (1) = − ∑𝐼𝑖=1 𝑐𝑖 𝑣𝑖 − ∑𝐽𝑗=1 𝑏𝑗 ℎ𝑗 − ∑𝐽𝑗=1 ∑𝐼𝑖=1 𝑊𝑖𝑗 𝑣𝑖 ℎ𝑗 Trong đó 𝑊 ∈ ℝ𝐽×𝐼 là một ma trận trọng số của RBM, 𝑐 = [𝑐1 , 𝑐2 , … , 𝑐𝑖 ] ∈ ℝ𝐼 là độ lệch của các thành phần quan sát được và 𝑏 = [𝑏1 , 𝑏2 , … , 𝑏𝑗 ] ∈ ℝ𝐽 là độ lệch của các 10 thành phần ẩn.

Nhằm phá vỡ sự đối xứng, thông thường các trọng số được tạo với những giá trị nhỏ ngẫu nhiên (trong khoảng từ -0. Độ lệch của lớp ẩn 𝑏𝑗 ,có thể được khởi tạo với một số âm có giá trị lớn (ví dụ -4) với mục đích khuyến 𝑃̂𝑖 khích sự thưa thớt và các độ lệch của lớp quan sát được (visible), 𝑐𝑖 là log ( ),ở 𝐼−𝑃̂𝑖 ̂𝑖 tỷ lệ với các vector huấn luyện có 𝑣𝑖 = 1. Nếu không làm như vậy thì quá trình đây 𝑃 học cần phải điều chỉnh (trong những lớp huấn luyện sớm) xác suất của thành phần ̂𝑖. Kỹ thuật khởi tạo quan sát được 𝑖 được bật lên, và như vậy thì nó sẽ dần hội tụ về 𝑃 đơn giản này cho phép mô hình nắm bắt được những đặc trưng chính của dữ liệu huấn luyện và tránh được những bước học không cần thiết.

RBM gán một xác suất cho mỗi cấu hình (𝑣, ℎ) như sau, công thức: 𝑒 −𝐸(𝑣,ℎ) 𝑃(𝑣, ℎ) = (2) 𝑍 Trong đó 𝑍 là hằng số chuẩn hóa hay hàm chia (partition function) tương tự như trong hệ thống vật lý, nó được tính bằng tổng năng lượng của tất cả các cấu hình (𝑣, ℎ) như công thức (3): Z = ∑𝑣,ℎ 𝑒 −𝐸(𝑣,ℎ) (3) Bởi vì không có kết nối giữa các thành phần trong cùng một lớp, cho một cấu hình đầu vào ngẫu nhiên 𝑣, tất cả các thành phần ẩn sẽ độc lập với nhau, khi đó xác suất của ℎ cho bởi 𝑣 sẽ là, công thức: 𝑝(ℎ|𝑣 ) = ∏𝑗 𝑝(ℎ𝑗 = 1 | 𝑣) (4) Trong đó, xác suất có giá trị là 1 của mỗi thành phần ẩn được tính như sau, công thức: 𝑝(ℎ𝑗 = 1|𝑣) = 𝜎(𝑏𝑗 + ∑𝐼𝑖=1 𝑣𝑖 𝑤𝑗𝑖 ) (5) Khi hiện thực, ℎ𝑗 được gán là 1 khi mà 𝑝(ℎ𝑗 = 1|𝑣) lớn hơn một số ngẫn nhiên (theo phân phối chuẩn từ 0 đến 1) và ngược lại sẽ được gán là 0. Tương tự như vậy cho trường hợp một trạng thái ẩn cụ thể, ℎ xác suất của 𝑣 cho bởi ℎ được tính bởi, công thức: 𝑝(𝑣 | ℎ) = ∏𝑖 𝑝(𝑣𝑖 = 1 | ℎ) (6) Trong đó, xác suất có giá trị là 1 của mỗi thành phần hiện được tính như sau, công thức: 𝑝(𝑣𝑖 = 1 | ℎ) = 𝜎(𝑐𝑖 + ∑𝐽𝑗=1 ℎ𝑗 𝑤𝑗𝑖 ) (7) 11 Khi sử dụng công thức (7) để tái thiết vector nhập, quan trọng là việc chuyển các giá trị ẩn thành dạng nhị phân. Sử dụng các xác xuất thực tế sẽ vi phạm nghiêm trọng vấn đề thắt cổ chai của thông tin, khi đó cần thực hiện hành vi quản lý mạnh và ép buộc chuyển các giá trị ẩn để truyền giá trị nhị phân.