Chương 1. Tổng quan sang, sao lưu dự phòng trên hệ thống đồng thời trên dich vụ lưu trữ đám mây công cộng, hỗ trợ khôi phục dữ liệu trong một số trường hợp cấp bách. ¢ Tính khoa học: Phù hợp với xu hướng công nghệ và nghiên cứu trong giai đoạn bùng né cách mạng công nghiệp 4.0 như hiện nay. Sự phát triển của các ứng dụng dựa trên tính toán biên, việc chú trọng tốc độ phản hồi, xử lý thời gian thực cũng như giảm thiểu chỉ phí đường truyền ngày được quan tâm.
Do đó việc nghiên cứu xây dựng ứng dụng sử dụng giải pháp tính toán biên là phù hợp với sự phát triển. ¢ Tinh cấp thiết: Sự bùng nỗ của đại dịch COVID-19 gây ra thiệt hại nghiêm trọng về người và tài sản trên toàn thế giới. Trong đó, đeo khẩu trang là một trong những biện pháp thiết thực nhất nhằm ngăn ngừa lây lan dịch bệnh trong cộng đồng. Việc có một ứng dụng giúp cảnh báo các trường hợp không đeo khẩu trang là một điều hết sức cần thiết.
¢ Tính mới: Xây dựng hệ thống dựa trên Cloud Native đang được phát triển mạnh mẽ trong những năm gần đây. Tuy nhiên, việc triển khai hệ thống này trên các máy tính nhúng, kiến trúc ARM tại cận biên vẫn còn trong giai đoạn phát triển. Hệ thóng cận biên sử dụng nền tảng ảo hóa và điều phối container, tích hợp các chức năng quản lý và giám sát, DevOps giúp quá trình triển khai và quản trị các ứng dụng AI theo mô hình microservices tại cận biên trở nên dễ dàng, linh hoạt và hiệu quả hơn. Ngoài ra, nền tảng ảo hóa và điều phối container hỗ trợ GPU tăng tốc xử lý tính toán, phù hợp với xu hướng hiện nay, triển khai ứng dụng AI xử lý theo thời gian thực dùng tính toán biên trên nền tảng ảo hóa và điều phối container.
Sản phẩm khoa học liên quan Trước khi đăng ký đề tài này, tác giả là tác giả chính của một bài báo quốc tế Hội nghị Quốc tế INISCOM 2021, Nhà xuất bản Springer; một bài báo Hội nghị Khoa học trẻ 2021, Trường Đại học Công nghệ thông tin, Đại học Quốc gia Thành Phố Hồ Chí Minh; và một bài báo được chấp nhận vào tháng 2 năm 2022 tại Hội nghị Quốc tế INISCOM 2022. ¢ Bài báo 1 - Hội nghị Quốc tế INISCOM 2021: “A Container-based Edge Computing System for Smart Healthcare Applications” [6]. Bài báo trên giới 24 Chương 1. Tổng quan thiệu về ứng dụng chăm sóc sức khỏe thông minh, hỗ trợ theo dõi và chăm sóc bệnh nhân trong giai đoạn phục hỏi, cách ly.
Ứng dụng này dùng các thiết bị, ứng dung IoT và camera đề thu thập các dữ liệu bệnh nhân; áp dụng giải pháp tính toán biên vào việc phân tích, xử lý dữ liệu dé giải quyết các van đề về độ trễ phan hồi, tiêu hao năng lượng và tốn chi phí đường truyền của hệ thống tính toán dựa trên điện toán đám mây; áp dụng AI chan đoán bệnh tim và nhận điện cảm xúc khuôn mặt bệnh nhân. ¢ Bai báo 2 - Hội nghị khoa học trẻ 2021, Trường Dai học Công nghệ thông tin, Đại học Quốc gia Thành phố Hồ Chí Minh: “Research And Develop An Intelligent Edge System Using Container And Kubernetes For A Smart Face- Mask Recognition Application” [8]. Bài báo này trình bày về hệ thống cận biên dựa trên nền tảng ảo hóa và điều phối container cho ứng dụng nhận diện mặt người không đeo khẩu trang. © Bai báo 3 - Hội nghị Quốc tế INISCOM 2022: “An Intelligent Edge System For Face Mask Recognition Application”.
Bài báo trên được chấp nhận vào tháng 2 năm 2022 tại Hội nghị Quốc tế INISCOM 2022. Bài báo này là bản cập nhật của bài báo 2 với một số chức năng hệ thống được bồ sung; và cũng chính là một trong các sản phẩm khoa học của quá trình nghiên cứu và thực hiện đê tài luận văn của tác giả. Các nghiên cứu và công nghệ liên quan Chương 2 CÁC NGHIÊN CỨU VÀ CÔNG NGHỆ LIÊN QUAN Trong chương này, các nghiên cứu và xu hướng công nghệ trên thế giới được khảo sát, nghiên cứu và tìm hiểu, gồm có: áp dụng AI trong phòng chống đại dịch COVID-19; xu thé phát triển ứng dụng AI dựa trên tính toán biên và công nghệ ảo hóa và điều phối container. Tiếp theo là giới thiệu một số ứng dụng liên quan đến COVID-19 tại Việt Nam.
Sau cùng là cơ sở lý thuyết, các kỹ thuật, nền tảng công nghệ liên quan và hướng tiếp cận đề tài. Các nghiên cứu và xu hướng công nghệ trên thế giới 2. COVID-19 Tình hình dịch bệnh COVID-19 diễn ra rất phức tạp trong những năm gần đây, trong khi nguồn nhân lực để tham gia vào cuộc chiến này còn nhiều hạn chế. Chính vì thế mà nhu cầu về ứng dụng AI trong phòng chống COVID-19 là rất lớn.
Trong đó, các giải pháp giám sát dựa trên AI được áp dụng nhằm góp phần giảm thiểu sự lây lan của dịch bệnh, bao gồm: giám sát giãn cách xã hội, kiểm tra nhiệt độ cơ thể và phát hiện mặt người không đeo khẩu trang [9]-[1I]. Trí tuệ nhân tạo tại cận biên Trong những năm gần đây, ứng dụng AI tại cận biên là một trong những mục tiêu chiến lược rõ ràng đối với nhiều doanh nghiệp. Việc phát triển các ứng dụng thông minh dựa trên AI và tính toán biên với độ trễ phản hồi thấp, tiết kiệm băng thông và năng lượng đã trở thành nhu cầu cấp thiết trong nhiêu lĩnh vực, đặc biệt các ứng dụng yêu cầu xử lý theo thời gian thực. Một số nghiên cứu cụ thể áp dụng AI tại cận biên gồm có: hệ thống giám sát sạt lở đất [12], áp dụng AI với kiến trúc tính toán biên trên nền tảng Kubernetes và Docker; hệ thống tưới tiêu [13], giám sát theo thời gian thực và ứng dụng theo dõi bệnh nhân và người cao tuổi, trên nền tảng IoT và điện toán đám mây [14] và một số nghiên cứu khác.
Mặc dù việc áp dụng AI tại cận biên phù hợp với xu thế hiện nay, cách tiếp cận này cũng phải đối mặt với nhiều thách thức, chẳng hạn như van đề xử lý và tiêu 26 Chương 2. Các nghiên cứu và công nghệ liên quan thụ điện năng. Quá trình huấn luyện mô hình AI diễn ra tại cận biên cũng dẫn đến nhu cầu cao hơn về khả năng tính toán của các phần cứng cận biên. Ngoài ra, việc lưu trữ và bảo mật dữ liệu đặt ra một thách thức vì các thiết bị cận biên sẽ giữ phần lớn dữ liệu trong khi một lượng nhỏ dữ liệu hữu ích được lưu trữ tại hệ thống đám mây.
Do vậy, các công ty công nghệ hàng đầu phát triển phần cứng tại cận biên mạnh hơn với mức tiêu thụ năng lượng thấp hơn, đồng thời tập trung vào việc tối ưu hóa các phần mềm nhằm học và suy luận (inference) hiệu quả hơn [15]. Ảo hóa tại cận biên Hiện nay, các ứng dụng tại cận biên áp dụng các công nghệ ảo hóa tăng lên [16] [17]. Các công nghệ ảo hóa cung cấp nền tang dé chạy các dịch vụ trên các kiến trúc phần cứng khác nhau, dùng kỹ thuật hypervisor hoặc container. Tuy nhiên, các giải pháp dựa trên container đang thách thức các máy ảo dựa trên hypervisor truyền thống.
Các xu hướng công nghệ ảo hóa mới là gọn nhẹ, linh hoạt và hiệu quả hơn trong việc triển khai các dịch vụ. Một số nghiên cứu gần đây tập trung vào việc tối ưu ảo hóa dé tăng hiệu suất và so sánh hiệu suất giữa các công nghệ ảo hóa khác nhau, trong đó các bài báo [18]-[22]. tác giả đã thực nghiệm và so sánh hiệu suất của KVM, Xen và Linux Container (LXC), Docker, OSv và so sánh thời gian chạy của từng môi trường với máy chủ vật lý. Mặc dù kết quả cho thấy hiệu suất của các hypervisor đã được cải thiện trong những năm qua, các giải pháp container vượt trội hơn; các tính toán không cần thiết của chúng hầu như không đáng kẻ.
Mặt khác, ngoài các lợi ích mà giải pháp ảo hóa container cung cấp, việc cân nhắc giữa hiệu suất và van dé bảo mật của chúng cũng cần được quan tâm. Ngoài ra, việc kết hợp công nghệ ảo hóa và điều phối container là một trong những xu thế hiện nay, phù hợp với các ứng dụng dựa trên kiến trúc microservices. Nền tảng này điều phối các ứng dụng tự động, nhằm đảm bảo tính sẵn sàng, khả năng mở rộng, tự phục hồi và triển khai tự động. Trong đó, Kubernetes là một trong những công nghệ đang được sử dụng rộng rãi.
Với sự phát triển không ngừng, xu hướng triển khai Kubernetes phiên bản gọn nhẹ dành cho thiết bị cận biên và IoT ngày càng phổ biến, giúp quản trị và điều phối các dịch vụ chạy trên các container tại cận biên tự động, linh hoạt và hiệu quả hơn. Một công cụ khác, Docker Swarm cũng cung cấp một giải pháp tương tự nhưng hạn chế các chức năng, chỉ phù hợp với các giải pháp 27 Chương 2. Các nghiên cứu và công nghệ liên quan đơn giản, triển khai nhanh và quản lý dé dàng, trong khi Kubernetes hỗ trợ các yêu cầu với độ phức tap cao hơn, có thé chạy trên nhiều container runtime, chăng hạn như: Docker, Containerd và CRI-O. Hiện nay, khoảng 70% doanh nghiệp có ý định chuẩn hóa nên tảng Kubernetes đề quản lý các ứng dụng chạy trên các container trong những năm tới, và ước tính sẽ có 29 tỷ thiết bị được kết nối trên toàn cầu vào năm 2022 nhờ sự gia tăng mạnh mẽ của máy tính nhúng hiện đại, thiệt bị oT thông minh, 5G và tính toán biên [23].
M: số nhà cung cấp dịch vụ đám mây hàng đầu đã xây dựng dịch vụ dựa trên nền tảng Kubernetes bao gồm: EKS (Amazon Elastic Kubernetes Service), GKE (Google Kubernetes Engine), AKS (Azure Kubernetes Service), v.v, Ngoải ra, các phân phối Kubernetes nỗi bật dành cho hệ thống máy chủ, gồm có: K8s, MicroK8s, K3s, v. Đặc biệt, K3s sử dụng tài nguyên phần cứng thấp hơn so với K8s và MicroK8s [24], được chứng nhận bởi CNCF (Cloud Native Computing Foundation), có tính sẵn sàng cao, được thiết kế chủ yếu dành cho thiết bị cận biên và IoT. Hơn nữa, khi số lượng các ứng dụng chạy trên Kubernetes tại cận biên ngày càng tăng, sự ra đời của các giải pháp dùng dé đơn giản hóa việc quản trị và điều phối các Kubernetes cluster ngày càng trở nên cấp thiết. Cụ thé, vào năm 2019, Rancher và ARM đã hợp tác để phát triển giải pháp quản trị và điều phối Kubernetes cluster cho hệ thống cận biên, dùng K3s trên các thiết bị kiến trúc ARM có tài nguyên phần cứng hạn chế [23].