Tổng quan nghiên cứu

Điện toán đám mây đã trở thành một xu hướng công nghệ chủ đạo, cung cấp tài nguyên tính toán ảo hóa nhanh chóng và linh hoạt cho người dùng. Theo báo cáo của ngành, việc quản lý và mở rộng tài nguyên trong môi trường phân tán là một thách thức lớn do sự biến động thất thường của nhu cầu sử dụng tài nguyên như CPU, RAM. Phương pháp co giãn tài nguyên dựa trên ngưỡng tiêu thụ hiện nay thường phản ứng chậm, gây lãng phí tài nguyên và giảm chất lượng dịch vụ. Mục tiêu của luận văn là so sánh và đánh giá hiệu quả của hai mô hình mạng nơ-ron trong dự đoán tài nguyên điện toán đám mây, gồm mạng bộ nhớ dài ngắn (LSTM) và mạng nơ-ron liên kết chức năng (FLNN). Phạm vi nghiên cứu tập trung vào dữ liệu thu thập từ Google Cluster Trace năm 2011, với các chuỗi dữ liệu thời gian rời rạc ở các khoảng 3, 5 và 10 phút. Nghiên cứu nhằm nâng cao độ chính xác dự báo tài nguyên, từ đó hỗ trợ hệ thống tự động mở rộng tài nguyên hiệu quả, giảm chi phí và tăng tính ổn định cho dịch vụ điện toán đám mây.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn dựa trên hai lý thuyết chính về mạng nơ-ron nhân tạo trong dự đoán chuỗi thời gian:

  • Mạng bộ nhớ dài ngắn (LSTM): Là dạng mạng nơ-ron hồi quy (RNN) đặc biệt, có khả năng ghi nhớ thông tin dài hạn nhờ cấu trúc gồm ba cổng (cổng quên, cổng vào, cổng ra) điều khiển trạng thái tế bào. LSTM khắc phục hạn chế của RNN truyền thống trong việc xử lý chuỗi dài, giúp mô hình học được các phụ thuộc phức tạp trong dữ liệu phi tuyến tính.

  • Mạng nơ-ron liên kết chức năng (FLNN): Mạng nơ-ron một tầng không có tầng ẩn, sử dụng tập hàm mở rộng đầu vào (như hàm Chebyshev, Legendre, Laguerre, Power) để mô hình hóa quan hệ phi tuyến tính giữa đầu vào và đầu ra. FLNN có cấu trúc đơn giản, giảm số lượng trọng số và thời gian huấn luyện so với mạng nhiều tầng.

Các khái niệm chính bao gồm chuỗi thời gian rời rạc, chuyển đổi dữ liệu chuỗi thời gian sang dạng học có giám sát (bằng kỹ thuật lag feature, sliding window, rolling window statistics), các hàm lỗi đánh giá mô hình như MAE (Mean Absolute Error) và RMSE (Root Mean Square Error).

Phương pháp nghiên cứu

Nguồn dữ liệu chính là bộ dữ liệu lịch sử Google Cluster Trace năm 2011, gồm 20 thông số tài nguyên, trong đó tập trung vào CPU và RAM. Dữ liệu được thu thập theo các khoảng thời gian 3 phút, 5 phút và 10 phút, với tổng số điểm dữ liệu lần lượt là 13.200, 8.300 và 4.100. Dữ liệu được chia thành 80% dùng huấn luyện và 20% dùng kiểm nghiệm.

Phương pháp phân tích bao gồm:

  • Tiền xử lý dữ liệu: chuẩn hóa về miền [0,1], chuyển đổi chuỗi thời gian sang dạng học có giám sát bằng các kỹ thuật sliding window với các kích thước cửa sổ khác nhau (2, 3, 5).

  • Huấn luyện mô hình: sử dụng thuật toán lan truyền ngược để tối ưu trọng số cho FLNN, và thuật toán tối ưu trong Keras cho LSTM.

  • Đánh giá mô hình: dựa trên sai số MAE và RMSE giữa giá trị dự đoán và giá trị thực tế.

Thời gian nghiên cứu tập trung vào việc thử nghiệm trên ba bộ dữ liệu với các tham số khác nhau, so sánh hiệu năng giữa FLNN và LSTM, cũng như đánh giá ảnh hưởng của các hàm mở rộng đầu vào trong FLNN.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

  1. Hiệu năng dự đoán của FLNN với các kích thước cửa sổ trượt: Sai số MAE và RMSE nhỏ nhất đạt được khi cửa sổ trượt bằng 2, với MAE khoảng 0.6002 trên bộ dữ liệu CPU 3 phút. Kết quả này cho thấy kích thước cửa sổ ảnh hưởng đáng kể đến độ chính xác dự đoán.

  2. Ảnh hưởng của hàm mở rộng đầu vào trong FLNN: Khi sử dụng hàm Chebyshev với cửa sổ trượt 2, mô hình FLNN đạt sai số MAE thấp nhất là 0.2476 và RMSE là 0.4532 trên bộ dữ liệu 3 phút. Hàm Laguerre cũng cho kết quả sát thực tế trên bộ dữ liệu 5 phút và 10 phút, với sai số thấp hơn đáng kể so với các hàm Legendre và Power.

  3. So sánh giữa FLNN và LSTM: Mô hình LSTM cho hiệu quả dự đoán tốt hơn FLNN về độ chính xác, đặc biệt trên bộ dữ liệu 3 phút, tuy nhiên thời gian huấn luyện và thử nghiệm của LSTM lâu hơn đáng kể so với FLNN. Ví dụ, trên bộ dữ liệu 10 phút, LSTM có sai số thấp hơn nhưng chi phí tính toán cao hơn.

  4. Ảnh hưởng của tham số batch_size và cửa sổ trượt trong LSTM: Thay đổi batch_size và kích thước cửa sổ trượt ảnh hưởng đến sai số dự đoán, trong đó batch_size = 16 và cửa sổ trượt 2 hoặc 3 cho kết quả tối ưu nhất.

Thảo luận kết quả

Nguyên nhân LSTM cho kết quả chính xác hơn là do khả năng học các phụ thuộc dài hạn trong chuỗi thời gian nhờ cấu trúc cổng điều khiển trạng thái tế bào. FLNN, mặc dù đơn giản hơn, vẫn có thể mô hình hóa quan hệ phi tuyến nhờ tập hàm mở rộng đầu vào, nhưng hạn chế trong việc ghi nhớ thông tin chuỗi dài hạn khiến độ chính xác thấp hơn. Kết quả phù hợp với các nghiên cứu trước đây về ưu điểm của LSTM trong xử lý chuỗi thời gian phi tuyến tính.

Việc lựa chọn hàm mở rộng đầu vào trong FLNN ảnh hưởng lớn đến hiệu năng, trong đó hàm Chebyshev và Laguerre được khuyến nghị do khả năng xấp xỉ phi tuyến tốt. Các biểu đồ so sánh sai số MAE và RMSE giữa các mô hình và hàm mở rộng có thể minh họa rõ ràng sự khác biệt hiệu năng.

Thời gian huấn luyện nhanh của FLNN là lợi thế trong các ứng dụng cần phản hồi nhanh, trong khi LSTM phù hợp với các bài toán đòi hỏi độ chính xác cao hơn và có thể chấp nhận chi phí tính toán lớn hơn.

Đề xuất và khuyến nghị

  1. Áp dụng mô hình LSTM cho hệ thống dự báo tài nguyên trong môi trường phân tán nhằm nâng cao độ chính xác dự đoán, đặc biệt trong các kịch bản có biến động tài nguyên phức tạp. Thời gian triển khai dự kiến trong vòng 6 tháng, do các đơn vị phát triển phần mềm và quản trị hệ thống thực hiện.

  2. Sử dụng FLNN với hàm mở rộng Chebyshev hoặc Laguerre cho các ứng dụng yêu cầu phản hồi nhanh và tài nguyên tính toán hạn chế, ví dụ trong các hệ thống giám sát thời gian thực. Thời gian áp dụng trong 3 tháng, do nhóm nghiên cứu và kỹ sư phần mềm phối hợp thực hiện.

  3. Tối ưu tham số mô hình (batch_size, kích thước cửa sổ trượt) theo đặc thù dữ liệu thực tế để cân bằng giữa độ chính xác và chi phí tính toán. Khuyến nghị thực hiện đánh giá định kỳ mỗi 6 tháng để điều chỉnh tham số phù hợp.

  4. Xây dựng hệ thống tự động mở rộng tài nguyên dựa trên dự báo mô hình LSTM, kết hợp với cơ chế điều khiển ngưỡng để giảm thiểu thời gian chết và lãng phí tài nguyên. Chủ thể thực hiện là đội ngũ vận hành trung tâm dữ liệu, với lộ trình triển khai 12 tháng.

Đối tượng nên tham khảo luận văn

  1. Các nhà quản lý trung tâm dữ liệu và dịch vụ điện toán đám mây: Nghiên cứu giúp họ hiểu rõ hơn về các mô hình dự báo tài nguyên, từ đó tối ưu hóa việc phân bổ và mở rộng tài nguyên, giảm chi phí vận hành.

  2. Nhà phát triển phần mềm và kỹ sư hệ thống: Áp dụng các mô hình mạng nơ-ron LSTM và FLNN trong xây dựng hệ thống dự báo tài nguyên, cải thiện hiệu suất và độ chính xác của các ứng dụng điện toán đám mây.

  3. Nhà nghiên cứu trong lĩnh vực học máy và trí tuệ nhân tạo: Tham khảo phương pháp kết hợp các hàm mở rộng đầu vào trong FLNN và cấu trúc mạng LSTM để phát triển các mô hình dự báo chuỗi thời gian phức tạp.

  4. Sinh viên và học viên cao học chuyên ngành Công nghệ Thông tin, Kỹ thuật Máy tính: Tài liệu cung cấp kiến thức chuyên sâu về mạng nơ-ron và ứng dụng thực tiễn trong điện toán đám mây, hỗ trợ nghiên cứu và phát triển luận văn.

Câu hỏi thường gặp

  1. Mô hình LSTM có ưu điểm gì so với FLNN trong dự báo tài nguyên?
    LSTM có khả năng ghi nhớ thông tin dài hạn trong chuỗi thời gian nhờ cấu trúc cổng điều khiển trạng thái tế bào, giúp dự báo chính xác hơn trong các dữ liệu phi tuyến và biến động phức tạp. Ví dụ, trên bộ dữ liệu 3 phút, LSTM cho sai số MAE thấp hơn FLNN khoảng 15-20%.

  2. Tại sao cần chuyển đổi dữ liệu chuỗi thời gian sang dạng học có giám sát?
    Chuỗi thời gian không có khái niệm đầu ra rõ ràng, nên chuyển đổi sang dạng học có giám sát (ví dụ dùng kỹ thuật sliding window) giúp mô hình học được mối quan hệ giữa các giá trị trước và giá trị cần dự đoán, từ đó cải thiện hiệu quả huấn luyện.

  3. Hàm mở rộng đầu vào nào phù hợp nhất cho FLNN?
    Hàm Chebyshev và Laguerre được đánh giá là phù hợp nhất do khả năng xấp xỉ các quan hệ phi tuyến tốt, giúp giảm sai số MAE và RMSE đáng kể so với các hàm Legendre và Power trong thử nghiệm trên bộ dữ liệu Google Cluster.

  4. Làm thế nào để lựa chọn kích thước cửa sổ trượt tối ưu?
    Kích thước cửa sổ trượt ảnh hưởng đến lượng thông tin đầu vào và độ phức tạp mô hình. Thử nghiệm cho thấy cửa sổ trượt bằng 2 hoặc 3 là tối ưu, cân bằng giữa độ chính xác và chi phí tính toán trên cả hai mô hình FLNN và LSTM.

  5. Có thể áp dụng mô hình này cho các loại tài nguyên khác ngoài CPU và RAM không?
    Có thể, vì mô hình dựa trên dữ liệu chuỗi thời gian và mạng nơ-ron có khả năng học các quan hệ phi tuyến, nên có thể mở rộng áp dụng cho các tài nguyên như bộ nhớ lưu trữ, băng thông mạng hoặc các chỉ số hiệu suất khác trong điện toán đám mây.

Kết luận

  • Luận văn đã so sánh và đánh giá hiệu quả của hai mô hình mạng nơ-ron LSTM và FLNN trong dự báo tài nguyên điện toán đám mây sử dụng dữ liệu Google Cluster Trace.
  • Mô hình LSTM cho độ chính xác dự báo cao hơn, phù hợp với các bài toán phức tạp, trong khi FLNN có ưu thế về tốc độ huấn luyện và đơn giản trong cấu trúc.
  • Hàm mở rộng đầu vào như Chebyshev và Laguerre giúp FLNN cải thiện hiệu năng đáng kể.
  • Kết quả nghiên cứu hỗ trợ xây dựng hệ thống tự động mở rộng tài nguyên hiệu quả, giảm chi phí và tăng chất lượng dịch vụ điện toán đám mây.
  • Đề xuất tiếp theo là triển khai mô hình LSTM trong môi trường thực tế và tối ưu tham số định kỳ để nâng cao hiệu quả dự báo.

Hành động tiếp theo: Các đơn vị quản lý và phát triển hệ thống điện toán đám mây nên áp dụng mô hình LSTM kết hợp với cơ chế tự động mở rộng tài nguyên để nâng cao hiệu quả vận hành. Đồng thời, nghiên cứu tiếp tục mở rộng mô hình cho các loại tài nguyên khác và tích hợp với các công nghệ mới như học sâu đa chiều.