Nghiên Cứu Giải Thuật Cân Bằng Tải Linh Động Cho Ứng Dụng Web Trên Nền Tảng Điện Toán Đám Mây

Luận văn thạc sĩ nghiên cứu máy tính nghiên cứu và phát triển giải thuật cân bằng tải linh động cho các ứng dụng web trên nền, đánh giá hiện trạng, phân tích vấn đề, đề xuất biện

• Tác giả: Nguyễn Huỳnh
• Người hướng dẫn: PGS. Thời Nam
• Trường học: Đại Học Quốc Gia TP. HCM
• Chuyên ngành: Khoa Học Máy Tính
• Đề tài: Giải Thuật Cân Bằng Tải Linh Động Cho Ứng Dụng Web Trên Điện Toán Đám Mây
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2013
• Địa điểm: TP. Hồ Chí Minh

Mục lục chi tiết

• LỜI CẢM ƠN
• TÓM TẮT LUẬN VĂN
• THESIS ABSTRACT
• LỜI CAM ĐOAN
• 1. CHUONG 1 GIỚI THIỆU DE TÀI
• 1.1. Giới thiệu về Elastic Load Balacing trên nề điệ tod đá ây
• 1.2. Giới thiệu về ứng dụng web và load balancing
• 1.3. Cloud computing và Elastic Load Balancing (ELB)
• 1.4. Su quan trọng cua Elastic Load Balancing trên cloud computing
• 1.5. H n chế còn tổn t i của Elastic Load Balancing
• 2. PHÁT BIEU BAI TOÁN TRONG DE TÀI
• 2.1. M6 tab itod đặt ato đểtài
• 2.2. Các nghiên cứu có liÊn QuaI
• 2.3. Hướng tiếp cậ để giải quyết bài tOdN
• 2.4. Các kiến thức áp dụng trong luậ v
• 2.4.1. Lýthuyếtvềh di
• 2.4.2. Lý thuyết về dự DAO
• 2.4.3. Các kỹ thuật dự báo dO lản
• 3. CHUGNG3 =MO HÌNH HOA VÀ GIẢI QUYẾT BÀI TOÁN
• 3.1. Ca bước xá định m6 hình của bài toán
• 3.2. Hiện thực mô hình
• 3.3. Kết quả thực nghiệm
• 3.3.1. So sánh giữa chié lược cấp phát tai nguyên theo chiến thuật threshold- based và cấp phát tài nguyên theo chiến thuật predict
• 3.3.2. So sánh giữa hai kỹ thuật dự bao ARIMA va ANN
• 4. CHƯƠNG4_ TONG KET ĐỀ TÀI
• 4.1. Về tính hiệu quả của chiến thuật threshold-based và prediction-based
• 4.2. Vẻ tính chính xác của kỹ thuật ANN và ARIMA
• 4.3. Cách nchếv hướng phát triển tiếp theo của bài toán
• 5. CHUONG 5 TAI LIEU THAM KHAO
• MỤC LỤC HÌNH

Tóm tắt

I. Giới thiệu về Elastic Load Balancing trên nền điện toán đám mây

Elastic Load Balancing (ELB) là một dịch vụ quan trọng trong lĩnh vực điện toán đám mây, cho phép phân phối tải đến nhiều máy chủ để tối ưu hóa hiệu suất và giảm thiểu chi phí. Cân bằng tải giúp duy trì chất lượng dịch vụ cho các ứng dụng web bằng cách chia sẻ tải giữa các máy chủ khác nhau, từ đó đảm bảo rằng không có máy chủ nào bị quá tải. Các ứng dụng web hiện đại thường yêu cầu khả năng mở rộng và tính linh hoạt cao, điều này càng trở nên quan trọng trong bối cảnh nhu cầu sử dụng dịch vụ tăng cao. ELB không chỉ giúp cải thiện hiệu suất mà còn nâng cao tính khả dụng của hệ thống. Theo một khảo sát, việc sử dụng ELB có thể giảm thiểu thời gian phản hồi và cải thiện trải nghiệm người dùng. Điều này đặc biệt quan trọng trong môi trường cạnh tranh hiện nay, nơi mà bất kỳ sự chậm trễ nào cũng có thể dẫn đến mất khách hàng.

1.1. Vai trò của ELB trong việc tối ưu hóa hiệu suất

ELB đóng vai trò then chốt trong việc tối ưu hóa hiệu suất cho các ứng dụng web. Bằng cách tự động phân phối tải đến các máy chủ, ELB giúp giảm thiểu thời gian chờ đợi của người dùng và tăng cường khả năng đáp ứng của hệ thống. Giải pháp cân bằng tải không chỉ giúp duy trì hiệu suất mà còn đảm bảo tính sẵn sàng của dịch vụ. Theo nghiên cứu, các ứng dụng sử dụng ELB có thể xử lý nhiều yêu cầu hơn trong cùng một khoảng thời gian so với các ứng dụng không sử dụng công nghệ này. Điều này cho thấy giá trị thực tiễn của ELB trong việc quản lý tài nguyên và nâng cao chất lượng dịch vụ.

II. Phân tích các chiến lược quản lý tài nguyên

Trong bối cảnh điện toán đám mây, việc quản lý tài nguyên là rất quan trọng để đảm bảo hiệu quả hoạt động của các ứng dụng web. Các chiến lược quản lý tài nguyên hiện tại bao gồm các phương pháp dự báo tải và tối ưu hóa server dựa trên yêu cầu thực tế từ người dùng. Việc áp dụng các chiến lược này không chỉ giúp nâng cao hiệu suất mà còn giảm thiểu chi phí. Nghiên cứu cho thấy rằng việc sử dụng các kỹ thuật dự đoán như ARIMA và ANN có thể cải thiện đáng kể khả năng phân phối tài nguyên. Điều này cho phép các nhà quản lý hệ thống có thể điều chỉnh tài nguyên một cách linh hoạt hơn, từ đó tối ưu hóa chi phí và nâng cao chất lượng dịch vụ.

2.1. Kỹ thuật dự đoán và ứng dụng trong ELB

Kỹ thuật dự đoán đóng vai trò quan trọng trong việc quản lý tài nguyên cho ELB. Việc áp dụng các mô hình dự đoán như ARIMA và ANN cho phép dự đoán chính xác hơn về nhu cầu tài nguyên trong tương lai. Khả năng mở rộng của ELB được cải thiện khi có thể dự đoán chính xác lưu lượng truy cập, từ đó điều chỉnh tài nguyên một cách hợp lý. Nghiên cứu đã chỉ ra rằng các mô hình dự đoán này có thể giúp giảm thiểu tình trạng thiếu hụt tài nguyên hoặc lãng phí tài nguyên, từ đó nâng cao hiệu quả kinh tế cho doanh nghiệp.

III. Tính khả dụng và tính linh hoạt của ELB

Tính khả dụng và linh hoạt là hai yếu tố quan trọng của ELB trong việc phục vụ các ứng dụng web. ELB cho phép tự động điều chỉnh số lượng máy chủ dựa trên nhu cầu thực tế, đảm bảo rằng hệ thống luôn hoạt động ở mức tối ưu. Quản lý tài nguyên hiệu quả giúp giảm thiểu thời gian chết và đảm bảo rằng người dùng luôn có thể truy cập dịch vụ mà không gặp phải gián đoạn. Theo các chuyên gia, việc duy trì tính khả dụng cao không chỉ giúp cải thiện trải nghiệm người dùng mà còn tăng cường độ tin cậy của hệ thống. Điều này đặc biệt quan trọng trong bối cảnh các ứng dụng web ngày càng trở nên phức tạp và yêu cầu khả năng xử lý cao.

3.1. Lợi ích của tính khả dụng trong ELB

Tính khả dụng trong ELB mang lại nhiều lợi ích cho các ứng dụng web. Khi một máy chủ gặp sự cố, ELB có khả năng tự động chuyển hướng lưu lượng truy cập đến các máy chủ khác, đảm bảo rằng dịch vụ không bị gián đoạn. Giải pháp cân bằng tải này giúp tăng cường độ tin cậy và khả năng phục hồi của hệ thống. Nghiên cứu cho thấy rằng các hệ thống có tính khả dụng cao có thể duy trì mức độ dịch vụ ổn định ngay cả khi có sự cố xảy ra, từ đó tạo ra sự tin tưởng từ phía người dùng.

IV. Kết luận và hướng phát triển

Elastic Load Balancing là một giải pháp quan trọng trong việc quản lý tài nguyên cho các ứng dụng web trên nền điện toán đám mây. Các nghiên cứu cho thấy rằng việc áp dụng các kỹ thuật dự đoán và quản lý tài nguyên có thể cải thiện đáng kể hiệu suất và chất lượng dịch vụ. Giải pháp cân bằng tải không chỉ giúp tối ưu hóa chi phí mà còn nâng cao tính khả dụng và linh hoạt của hệ thống. Trong tương lai, việc tiếp tục nghiên cứu và phát triển các phương pháp quản lý tài nguyên sẽ giúp nâng cao hơn nữa hiệu quả hoạt động của ELB, từ đó đáp ứng tốt hơn nhu cầu ngày càng cao của người dùng.

4.1. Đề xuất cho nghiên cứu tiếp theo

Các nghiên cứu tiếp theo nên tập trung vào việc cải thiện các mô hình dự đoán và phát triển các chiến lược quản lý tài nguyên mới. Việc áp dụng công nghệ mới như trí tuệ nhân tạo và học máy có thể mở ra những hướng đi mới trong việc tối ưu hóa hiệu suất của ELB. Khả năng mở rộng và tính linh hoạt của hệ thống sẽ được nâng cao, từ đó đáp ứng tốt hơn nhu cầu của người dùng trong tương lai.

Nội dung chính

Tổng quan nghiên cứu

Trong bối cảnh phát triển nhanh chóng của các ứng dụng web với quy mô và độ phức tạp ngày càng tăng, việc dự báo và cấp phát tài nguyên hiệu quả trở thành một thách thức lớn nhằm duy trì chất lượng dịch vụ và tối ưu chi phí. Theo ước tính, các hệ thống web lớn như Wikimedia hiện có khoảng 400 server với 1804 CPU core, Facebook sở hữu tới 180.000 server, và eBay vận hành khoảng 54.000 server. Điều này cho thấy nhu cầu cấp thiết trong việc quản lý tài nguyên một cách linh hoạt và hiệu quả trên nền tảng điện toán đám mây.

Luận văn tập trung nghiên cứu và phát triển giải thuật cân bằng tải động (Elastic Load Balancing - ELB) cho các ứng dụng web trên nền điện toán đám mây, nhằm cung cấp một công cụ mô phỏng hiệu suất hoạt động và đánh giá chi phí sử dụng tài nguyên. Mục tiêu cụ thể là xây dựng mô hình cấp phát tài nguyên tự động dựa trên kỹ thuật dự báo tải, từ đó tối ưu hóa chiến thuật quản lý tài nguyên, đảm bảo chất lượng dịch vụ (Quality of Service - QoS) và giảm thiểu chi phí vận hành.

Phạm vi nghiên cứu tập trung vào các ứng dụng web triển khai trên nền tảng điện toán đám mây, sử dụng dữ liệu thực tế từ các trang web lớn như NASA và Wikimedia trong khoảng thời gian từ năm 1995 đến 2012. Ý nghĩa của nghiên cứu được thể hiện qua việc cải thiện hiệu quả sử dụng tài nguyên, giảm thiểu lỗi cấp phát tài nguyên (provisioning error) và nâng cao khả năng đáp ứng nhu cầu người dùng trong môi trường có tính biến động cao.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn áp dụng hai lý thuyết chính để xây dựng mô hình và giải thuật:

1. Lý thuyết hàng đợi (Queuing Theory):
   Đây là nền tảng toán học để mô phỏng hoạt động của các server trong cluster, giúp tính toán thời gian chờ trung bình, thời gian phục vụ và số lượng tài nguyên cần thiết. Mô hình hàng đợi M/M/n và GI/G/n được sử dụng để mô tả quá trình đến và phục vụ các yêu cầu web, với các phân phối xác suất khác nhau cho thời gian đến và thời gian phục vụ. Công thức Little’s Law và Allen-Cunneen được áp dụng để đảm bảo tính ổn định và tính toán thời gian phản hồi trung bình.

2. Lý thuyết dự báo (Forecasting Theory):
   Các kỹ thuật dự báo thời gian chuỗi (time series) như ARIMA (Autoregressive Integrated Moving Average) và ANN (Artificial Neural Networks) được sử dụng để dự đoán tải yêu cầu trong tương lai dựa trên dữ liệu lịch sử. Các khái niệm như BackShift operator, Seasonality, Autocorrelation Function (ACF), Partial Autocorrelation Function (PACF) được áp dụng để xác định các tham số mô hình dự báo. Các chỉ số đánh giá như MAE, MSE và MAPE được dùng để đo lường độ chính xác của dự báo.

Các khái niệm chuyên ngành quan trọng bao gồm: Elastic Load Balancing (ELB), Quality of Service (QoS), Service Level Agreement (SLA), Provisioning Error (lỗi cấp phát tài nguyên), Under-provisioning và Over-provisioning.

Phương pháp nghiên cứu

Nguồn dữ liệu chính được sử dụng là các log file request từ hai trang web NASA (từ 1/7/1995 đến 7/7/1995) và Wikimedia (từ 8/8/2012 đến 15/8/2012). Dữ liệu được xử lý để tạo thành các chuỗi thời gian request rate với khoảng cách mẫu 10 phút.

Phương pháp phân tích bao gồm:

• Xây dựng mô hình mô phỏng hoạt động của cluster server dựa trên lý thuyết hàng đợi, giả định các server đồng nhất và phục vụ theo thứ tự First Come First Served.
• Hiện thực hai chiến thuật quản lý tài nguyên:
  • Threshold-based: Dựa trên các ngưỡng định sẵn để tự động thêm hoặc bớt máy ảo.
  • Prediction-based: Sử dụng các kỹ thuật dự báo (SMA, EMA, ARIMA, ANN) để dự đoán tải và quyết định số lượng máy ảo cần thiết.
• So sánh hiệu quả của hai chiến thuật thông qua các chỉ số lỗi cấp phát tài nguyên (under-provisioning và over-provisioning), tổng số máy ảo sử dụng trong các giai đoạn peak load, và thời gian phản hồi trung bình.
• Timeline nghiên cứu kéo dài từ tháng 7/2012 đến tháng 11/2013, bao gồm thu thập dữ liệu, xây dựng mô hình, hiện thực giải thuật, và thử nghiệm trên dữ liệu thực tế.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Hiệu quả của chiến thuật prediction-based so với threshold-based:
   Trên tập dữ liệu Wikimedia, các kỹ thuật dự báo giảm tổng số lỗi provisioning error từ 14% đến 96% so với chiến thuật threshold-based. Cụ thể, kỹ thuật ARIMA cải thiện lỗi provisioning error lên đến 96%. Tuy nhiên, chỉ có ARIMA với điều chỉnh bù trừ (ARPlus) mới có thể loại bỏ hoàn toàn lỗi under-provisioning.
   Trên tập dữ liệu NASA, prediction-based cũng cho thấy giảm đáng kể lỗi over-provisioning so với threshold-based, mặc dù không thể loại bỏ hoàn toàn lỗi under-provisioning.

2. So sánh số lượng máy ảo sử dụng trong peak load:
   Chiến thuật threshold-based sử dụng khoảng 28 server trong peak load, trong khi các chiến thuật prediction-based chỉ cần từ 22 đến 27 server, giúp tiết kiệm tài nguyên và chi phí vận hành.

3. Độ chính xác của các kỹ thuật dự báo:
   ANN và ARIMA được đánh giá là hai kỹ thuật dự báo hiệu quả nhất, với ARIMA có ưu thế về độ chính xác dự báo và khả năng điều chỉnh bù trừ lỗi under-provisioning. ANN có ưu điểm trong việc xử lý dữ liệu phức tạp và không tuyến tính.

4. Ảnh hưởng của lỗi provisioning:
   Lỗi under-provisioning gây ảnh hưởng nghiêm trọng đến chất lượng dịch vụ do vi phạm SLA, trong khi lỗi over-provisioning làm tăng chi phí vận hành. Việc cân bằng giữa hai loại lỗi này là yếu tố then chốt để tối ưu hóa hệ thống.

Thảo luận kết quả

Nguyên nhân chính của sự khác biệt hiệu quả giữa hai chiến thuật là do chiến thuật prediction-based tận dụng được thông tin lịch sử và xu hướng tải để dự báo chính xác hơn, từ đó điều chỉnh số lượng tài nguyên phù hợp. Trong khi đó, chiến thuật threshold-based dựa trên các ngưỡng cố định, thiếu linh hoạt trước sự biến động nhanh của tải.

So sánh với các nghiên cứu trước đây, kết quả này đồng nhất với xu hướng áp dụng kỹ thuật dự báo trong quản lý tài nguyên điện toán đám mây nhằm nâng cao hiệu quả và giảm chi phí. Việc sử dụng mô hình hàng đợi kết hợp với dự báo tải cung cấp một công cụ mô phỏng và đánh giá hiệu quả chiến thuật cấp phát tài nguyên một cách toàn diện.

Dữ liệu có thể được trình bày qua các biểu đồ time series request rate, biểu đồ so sánh lỗi provisioning error giữa các chiến thuật, và bảng tổng hợp số lượng máy ảo sử dụng trong các giai đoạn khác nhau, giúp minh họa rõ ràng hiệu quả của các giải pháp đề xuất.

Đề xuất và khuyến nghị

1. Áp dụng chiến thuật cấp phát tài nguyên dựa trên dự báo tải:
   Khuyến nghị các nhà quản trị hệ thống web trên nền điện toán đám mây sử dụng các kỹ thuật dự báo như ARIMA hoặc ANN để dự đoán nhu cầu tài nguyên, từ đó tự động điều chỉnh số lượng máy ảo nhằm tối ưu chi phí và đảm bảo chất lượng dịch vụ. Thời gian triển khai đề xuất trong vòng 6 tháng.

2. Phát triển công cụ mô phỏng và đánh giá hiệu suất:
   Xây dựng và tích hợp công cụ mô phỏng dựa trên lý thuyết hàng đợi để đánh giá các chiến thuật provisioning trước khi áp dụng thực tế, giúp giảm thiểu rủi ro và tăng tính chính xác trong quản lý tài nguyên. Chủ thể thực hiện là các nhóm phát triển phần mềm và quản trị hệ thống.

3. Tối ưu hóa các tham số dự báo và bù trừ lỗi:
   Nghiên cứu và điều chỉnh các tham số trong mô hình dự báo, đặc biệt là lượng bù trừ để giảm thiểu lỗi under-provisioning mà không làm tăng quá mức lỗi over-provisioning. Thời gian nghiên cứu và thử nghiệm khoảng 3-4 tháng.

4. Đào tạo và nâng cao nhận thức cho đội ngũ vận hành:
   Tổ chức các khóa đào tạo về kỹ thuật dự báo và quản lý tài nguyên trên nền điện toán đám mây cho đội ngũ kỹ thuật nhằm nâng cao hiệu quả vận hành và ứng dụng các giải pháp mới. Chủ thể thực hiện là các tổ chức đào tạo và phòng CNTT doanh nghiệp.

Đối tượng nên tham khảo luận văn

1. Nhà quản trị hệ thống và kỹ sư vận hành điện toán đám mây:
   Giúp hiểu rõ về các chiến thuật cấp phát tài nguyên hiệu quả, áp dụng kỹ thuật dự báo để tối ưu chi phí và đảm bảo chất lượng dịch vụ.

2. Nhà nghiên cứu và sinh viên ngành Khoa học Máy tính, Công nghệ Thông tin:
   Cung cấp kiến thức chuyên sâu về mô hình hóa hệ thống, lý thuyết hàng đợi và kỹ thuật dự báo trong quản lý tài nguyên điện toán đám mây.

3. Các nhà phát triển phần mềm và giải pháp cloud:
   Tham khảo để phát triển các công cụ tự động hóa quản lý tài nguyên, tích hợp các thuật toán dự báo và cân bằng tải động.

4. Doanh nghiệp cung cấp dịch vụ hosting và cloud computing:
   Áp dụng các giải pháp nâng cao hiệu quả vận hành, giảm chi phí và cải thiện trải nghiệm người dùng thông qua quản lý tài nguyên thông minh.

Câu hỏi thường gặp

1. Elastic Load Balancing (ELB) là gì và tại sao quan trọng?
   ELB là dịch vụ tự động phân phối tải đến các máy chủ ảo trên nền điện toán đám mây, giúp cân bằng tải, tăng khả năng chịu lỗi và tối ưu hiệu suất. ELB quan trọng vì nó đảm bảo chất lượng dịch vụ và tiết kiệm chi phí vận hành.

2. Chiến thuật threshold-based và prediction-based khác nhau như thế nào?
   Threshold-based dựa trên các ngưỡng cố định để điều chỉnh tài nguyên, trong khi prediction-based sử dụng kỹ thuật dự báo tải để điều chỉnh linh hoạt hơn, giúp giảm lỗi cấp phát tài nguyên và tối ưu chi phí.

3. Lý thuyết hàng đợi được áp dụng ra sao trong nghiên cứu này?
   Lý thuyết hàng đợi mô phỏng quá trình xử lý yêu cầu của các server, giúp tính toán thời gian phản hồi và số lượng tài nguyên cần thiết để đảm bảo chất lượng dịch vụ.

4. Kỹ thuật dự báo nào hiệu quả nhất cho việc cấp phát tài nguyên?
   ARIMA và ANN được đánh giá là hiệu quả nhất, trong đó ARIMA có ưu thế về độ chính xác và khả năng điều chỉnh bù trừ lỗi under-provisioning.

5. Làm thế nào để giảm thiểu lỗi under-provisioning và over-provisioning?
   Cần cân bằng giữa dự báo chính xác và điều chỉnh bù trừ hợp lý trong mô hình dự báo, đồng thời sử dụng công cụ mô phỏng để đánh giá và tối ưu chiến thuật cấp phát tài nguyên.

Kết luận

• Đã xây dựng thành công mô hình mô phỏng hoạt động của dịch vụ Elastic Load Balancing dựa trên lý thuyết hàng đợi và kỹ thuật dự báo tải.
• Chiến thuật cấp phát tài nguyên dựa trên dự báo tải (prediction-based) cho hiệu quả vượt trội so với chiến thuật dựa trên ngưỡng cố định (threshold-based), giảm đáng kể lỗi provisioning error và tiết kiệm tài nguyên trong các giai đoạn peak load.
• Kỹ thuật ARIMA và ANN được xác định là công cụ dự báo phù hợp nhất cho việc quản lý tài nguyên trên nền điện toán đám mây.
• Nghiên cứu đề xuất các giải pháp thực tiễn nhằm nâng cao hiệu quả quản lý tài nguyên, giảm chi phí và đảm bảo chất lượng dịch vụ cho các ứng dụng web trên nền điện toán đám mây.
• Các bước tiếp theo bao gồm phát triển công cụ mô phỏng hoàn chỉnh, thử nghiệm trên môi trường thực tế và đào tạo đội ngũ vận hành để ứng dụng rộng rãi giải pháp.

Các nhà quản trị hệ thống và doanh nghiệp cung cấp dịch vụ cloud nên áp dụng các chiến thuật dự báo trong quản lý tài nguyên để nâng cao hiệu quả vận hành và giảm thiểu chi phí, đồng thời tiếp tục nghiên cứu và phát triển các giải pháp tự động hóa thông minh dựa trên mô hình và kết quả nghiên cứu này.

Trích đoạn nội dung tài liệu

ĐẠI HOC QUOC GIA TP. HCM TRƯỜNG ĐẠI HỌC BÁCH KHOA NGUYÊN HUYNH NGHIÊN CỨU VÀ PHÁT TRIEN GIẢI THUẬT CAN BANG TAI LINH DONG CHO CAC UNG DỤNG WEB TREN NEN DIEN TOAN DAM MAY Chuyén nganh : KHOA HOC MAY TINH Mã số: 604801 LUẬN VĂN THẠC SĨ TP. HỎ CHÍ MINH, tháng 11 năm 2013 CONG TRINH DUOC HOÀN THÀNH TẠI TRUONG ĐẠI HỌC BACH KHOA —DHQG -HCM Cán bộ hướng dẫn khoahọc: G T Tho iNa Cán bộ chấm nhận xétl:T T No ih Cán bộ cham nhận xét2:T h Hậu Lua v th siduocbaovétiT uo Diho Bá h Khoa, DHQG Tp. HCM ngay 17 thang 12 2013 Thanh phnHộiđồ dah iáluậ v th sĩ 6m: (Ghi rõ họ, tên, học ham, hoc vi của Hội đồng cham bảo vệ lua v th sĩ) 1.T Th h ah Xác nhận của Chủ tich H6id6 đá h iá v T ưởng Khoa quan lý chuyên ngành sau khi luậ v đã được sửa chữa (nếu có).

CHỦ TỊCH HỘI ĐÔNG TRUONG KHOA. ĐẠI HỌC QUOC GIA TP. HCM CỘNG HOÀ XÃ HỘI CHỦ NGHIÃ VIỆT NAM TRƯỜNG ĐẠI HỌC BÁCH KHOA Độc Lập - Tự Do - Hạnh Phúc ~--------------- ---000--- NHIEM VU LUAN VAN THAC SI Họ và tên học viên: Nguyé Huy h. Nơi si h: Bi h Thuận Chuyên ngành: Khoaho áy tí h.

TÊN DE TÀI: NGHIÊN CỨU VÀ PHAT TRIEN GIẢI THUAT CAN BẰNG TAI INH ĐỘNG CHO CÁC UNG DỤNG WEB TREN NEN ĐIỆN TOÁN ĐÁ ÂY Il. NHIỆM VU VÀ NỘI DUNG: Xây dựng công cụ mô phỏng khả â băng tải động (Elastic Load Balancing) cho các ứng dụng web trên nÊ điệ toa đá ay ham: - Cung cap kha 6 phỏng hiệu suat ho t động cua các ứng dung web được triên khai trên nê dié toad da ây dưới á điêu kiện khác nhau của yêuc u_ ười dùng. - Cung cap kha kiêm chứng tinh hiệu qua của các chiên thuật cap phát tài nguyên dưới á điêu kiện khác nhau của yêuc u_ ười dùng va chat lượng dịch vụ. Đề xuất và xây dựng mô hình cấp phát tài nguyên tự động dựa trên các kỹ thuật dự đoá tải và kiêm chứng hiệu suat ho t động của các mô hình dự đoá với các điêu kiện khác nhau mô phỏng theo các lich sử tải của 4 ta webda hot động.

NGÀY GIAO NHIỆM VU: 02/07/2012 IV. NGAY HOÀN THÀNH NHIỆM VU: 22/11/2013 V. CÁN BO HƯỚNG DAN: PGS. Tho i Nam ITpHC, y thá CÁN BỘ HƯỚNG DẪN TRUONG KHOA.

LỜI CẢM ƠN Tôi xin được gởi lời ca o ha th h tới PGS. Thoi Na vi đã hiệt tình hướng danv itp đỡ tôi hoàn thành luậ vy Tôi xi được gởi lời cả ơ tới các th y cô trong khoa Khoa học và Kỹ thuật ay tí h vì đã hia sẽ và góp ý cho tôi trong quá trình hoàn thiện luậ v TÓM TẮT LUẬN VĂN Sự phát triển nhanh chóng của các ứng dụng web cả về kí h thước và sự phức t p khiến cho việc dự báo tài nguyéne dù để duy tri chất lượng dịch vụ va giảm thiểu chi phí trở khókh Dịch vụ cân bằng tải động hay Elastic Load Balancing (ELB), lợi dụ đặc tính cung cấp tức thi của các tài nguyên trên nền dié toa đá dy, dua a ột giải pháp đ y hứa hen cho vá dé trên. Tuy nhiên, ELB vẫn còn thiếu một công cụ để đá h id ứ độ hiệu quả về chi phí của mình và sự do ian trong các chiế lược quản lý tài nguyên hiện t i khiến hiệu suất làm việc bị suy giảm khi phải giải quyết các nhu c u thay đối nhanh chóng của ười dùng web. Để giải quyết các vã để còn tồn t ¡it _.

dé tài này đã dé xuất một mô hình nhš đá h_ ia tính hiệu quả dựa trên tiêu chí là chi phí sửdụ ti uy v sau đó kiểm nghiệm tính hiệu quả của chiến thuật quản lý tài nguyên, dựa theo hướng tiếp cận mới là áp dụng kỹ thuật dự báo, nhắm mục tiêu t ường tính hiệu quả về mặt chi phí sử dụng tài nguyên cho dịch vụ ELB. THESIS ABSTRACT The rapid growth in size and complexity of web applications make it difficult to provision required resources to guarantee the quality of service while reducing cost. The Elastic Load Balancing (ELB) service on clouds — by using the on- demand nature of resourses — provides a promising solution for this problem. However, this service still lacks an efficient evaluation tool for checking the cost-effectiveness and the simplicity of provisioning strategies and this reduces the perfomance of the service when dealing with highly fluctuating demand from web users.

In this work, we first propose a model, based on queueing theory, of the evaluation tool. Then, we investigate the effectiveness of our new resource provisioning strategies, which are based on prediction methods, to enhance the cost-effectiness of the ELB service. LỜI CAM ĐOAN Tôi a doa ăng,ngo i trừ các kết quả tham khảo từ các công trình khác hư đã ghi ro trong luậ v , á ô việc trình bay trong lua v yl do chính tôi thực hiện v hua óph nhnội dung nào của luậ v y được nộp dé lay một băng cấp ở t ường nay hoa t wong khác. Ngày 22 thang II 2013 Nguyễn Huynh MỤC LỤC CHUONG 1 GIỚI THIỆU DE TAL .1 Giới thiệu về Elastic Load Balacing trên nề điệ tod đá ây.1 Giới thiệu về ứng dụng web và load balancing.2 Cloud computing và Elastic Load Balancing (ELB).

Su quan trọng cua Elastic Load Balancing trên cloud computing.3 H n chế còn tổn t i của Elastic Load Balancing. PHÁT BIEU BAI TOÁN TRONG DE TÀI .1 M6 tab itod đặt ato đểtài.2 Các nghiên cứu có liÊn QuaI.3 Hướng tiếp cậ để giải quyết bài tOdN cece ccccccseesceceseseseseessescssseseseseseees 15 24 Các kiến thức áp dụng trong luậ v.1 Lýthuyếtvềh di eccccccccccccscscecssescsescscsescscsesesesessssesessesssscsesees 15 2A2 Lý thuyết về dự DAO .43 Các kỹ thuật dự báo dO lản. 21 CHUGNG3 =MO HÌNH HOA VÀ GIẢI QUYẾT BÀI TOÁN .1 Ca bước xá định m6 hình của bài toán. Hiện thực mô hình.3 Kết quả thực nghiệm .1 So sánh giữa chié lược cấp phát tai nguyên theo chiến thuật threshold- based và cấp phát tài nguyên theo chiến thuật predict .2 So sánh giữa hai kỹ thuật dự bao ARIMA va ANN.

4] CHƯƠNG4_ TONG KET ĐỀ TÀI .--- Ă + E22 E383 8 S3 EE S23 E SE k tk sssz 46 4.1 Về tính hiệu quả của chiến thuật threshold-based và prediction-based.2 Vẻ tính chính xác của kỹ thuật ANN và ARIMA. Cách nchếv hướng phát triển tiếp theo của bài toán.----- cs-5¿ AT CHUONG 5 TAI LIEU THAM KHAO .ececceccecsecseccecescesecsecsecaecaecsecaecaecaseasenes 48 MỤC LỤC HÌNH Hi h 2-1: Minh họa về một m ng neuron với hai lớp.------5 2 2 2 ++c+s+s+s+s+szsc: 22 Hi h 3-1: Ví dụ về quá trình ho t động và lỗi phát sinh của provisioning. 27 Hi h3-2 ơ đồ khối chứ Ta MO DIN, PT. 28 Hi h 3-3 Chi tiết các khối chứ ủa mô hình so sánh các chiến thuật provisioning.

3l Hi h 3-4 Time series về request rate của NA SA.-¿ 5c 22c Se 2x ve 32 Hi h 3-5 Time series về request rate của Wikimedia.--- ¿2 + + c+c+c+xsecszscec: 33 Hi h 3-6 Mô tả về chiến thuật provisioning dựa theo kỹ thuật dự báo. 35 Hì h 3-7 Kết quả so sánh về tổng số lỗi provisioning error giữa các chiến thuật dựa trên tập dữ liệu Wikimedia với p eset đ i diệ ho tường hop tối ưu ủa chiến thuật threshold-base€d. Họ nọ th ch 36 Hi h 3-8 Kết quả về lỗi under provisioning và over provisioning giữa các chiến thuật trên tập dữ liệu Wikimedia với p eset đ i diệ ho tường hop tối ưu ủa chiến thuật threshold-base€d. Họ nọ th ch 37 Hi h 3-9 So sánh về tổng số se ve được triể khaito lai đo n peak load giữa các chiến thuật với p eset đ Idiệ hot ường hop tối ưu tia chiến thuật threshold-based.

Hì h 3-10 Kết quả provisioning error giữa các chiến thuật trên tập dữ liệu NASA với pesetđidiệ hot ường hợp tối ưu ủa chiến thuật threshold-based.-- 39 Hi h 3-11 Kết quả về lỗi under provisioning và over provisioning giữa các chiến thuật dựa trên tập dữ liệu NASA với p eset d i diệ ho t wong hợp tối ưu ủa chiến thuật threshold-base€d. Họ nọ th ch 40 Hi h 3-12 Kết quả số lug se ve được triể khaito lai đo n peak load giữa các chiến thuật khác nhau dựa trên tập dữ liệu NASA với p eset di dié ho tường hợp tối ưu ta chiến thuật threshold-based.- --- s66 s8 SE vs seeseed Al Hi h 3-13 Time series biểu diễ đường request rate của Calgary.---- 5555: 42 Hi h 3-14 Tim series biểu diễ đường request rate của Clarket.------------ 42 Hi h 3-15 Time series biểu diễ đường request rate của NASA.------- 43 Hi h 3-16 ơ đồ biểu dễ phươ pháp ứng dụng của ANN trong dự báo về time SELICS. GIỚI THIỆU DE TÀI 1.1 Giới thiệu về Elastic Load Balacing trên nên điện toán đám mây 1.1 Giới thiệu về ứng dụng web và load balancing Các ứng dụng web (web application)l 4 huo tì h được viết nhằm cung cấp các dịch vụ tới khách hang của mình thông qua giao thức HTTP/HTTPS theo chuã định d HT N y ay để duy trì các ứng dung này, các tổ chức hoặc cá nhân phải tự duy trì hoặc trong ph nlớ á tường hop là thuê các máy chủ năm trong các trung tâm dữ liệu (data center) bởi các nhà cung cấp dịch vụ hosting. Các data center này là ơi tập trung các máy chủ (servers) nhằm xử lý các yêu c u của ười dùng (user equesfs) dưới d ng các yêu c u theo giao thức http (duo địh hia hu l web request).

Mỗi web application cung cấp các dịch vu (service) khá hau ho ười dù v duoc ho t động liên tục 24/7 bởi một cụm các servers (server cluster). Tùy thud v o độ phức t p và qui mô của ứng dung (mứ độ request ma dịch vụ phải đáp ứng trong một do vị thời gian) của service mà các server cluster có các cấu trúc và kí h thước (số lượng các server) khác nhau. VỀ mặc kỹ thuật, việc kết nối các web server | i với nhau t o thành một luste được thực hiện thông qua giải pháp a b tai (load balancing). Về khía c nh tô chức của một hệ thống load balancing, hệ thông c n phải có các thành ph husau: t may chu đó vaitol load bala e v á áy hủ ứng dụng (worker servers).

Load bala e dug 1 đặt làm load balancing server dé tiép nhan các web equest đến từ vời dù , sau đó pha phối tới các worker servers. Các wo ke seve y đảm trách xử lý các request và trả về ké kết quả d ng HTML. Cuối cùng nhận kết quả trả về được gởi I i cho load balan e v sau đó gởi trở về ho ười dùng.