CHƯƠNG 1. TỔNG QUAN VỀ EDGE AI VÀ IOT 1. Giới thiệu chương Chương này sẽ giới thiệu những kiến thức tổng quan về Edge Computing/AI/IoT. Đồng thời trong chương này sẽ giới thiệu khả năng kết hợp giữa Edge AI trong các ứng dụng IoT, xu hướng triển khai và vai trò của Edge AI và IoT trong các ứng dụng giám sát và dự báo nói chung, đặc biệt là trong giám sát và dự báo chất lượng nước phục vụ nuôi trồng thủy sản.
Các yêu cầu, thách thức khi triển khai Edge AI và IoT cũng được đề cập trong chương này. Tổng quan về Edge AI 1. Điện toán biên (Edge Computing) Edge Computing hay còn gọi là điện toán biên là việc xử lý tính toán dữ liệu cảm biến từ các nút và gần biên logic của mạng, hướng tới các nguồn dữ liệu riêng lẻ. Thay vì gửi dữ liệu đến các trung tâm dữ liệu đám mây, điện toán biên mang sức mạnh tính toán đến gần nguồn dữ liệu để đảm bảo xử lý theo thời gian thực, không có độ trễ đồng thời giảm yêu cầu về băng thông và lưu trữ trên mạng.
Khác với các hệ thống nhúng truyền thống đã tồn tại hơn 40 năm qua, điện toán biên không chỉ là một vi điều khiển 8 bit đơn giản điều khiển theo các trường hợp được lập trình sẳn, mà điện toán biên giải quyết các vấn đề quan trọng với số đối tượng và dữ liệu được kết nối với mức độ phức tạp cao và ngày càng tăng. Trong lĩnh vực IoT, điện toán biên được ứng dụng vào một số lĩnh vực cụ thể như sau: 10 Giải quyết, phán đoán nhanh và đưa ra quyết định theo thời gian thực cho các tình huống về an toàn như phẩu thuật từ xa hoặc xe tự lái; Các giải pháp giúp xử lý các dữ liệu lớn phi cấu trúc như video, âm thanh để tiết kiệm chi phí truyền tải dữ liệu qua các nhà cung cấp dịch vụ dữ liệu di động hoặc lưu trữ. Tuy vậy, Điện toán đám mây và điện toán biên không loại trừ lẫn nhau. Một hệ thống khi kết hợp hai mô hình điện toán này sẽ mang lại hiệu quả cao hơn, vì một máy chủ biên (trong cùng một khu vực hoặc trên cùng một cơ sở) có thể xử lý các tác vụ nhạy cảm về thời gian trong khi gửi dữ liệu đã lọc lên đám mây để phân tích sâu hơn, tốn nhiều thời gian hơn.
Edge AI Edge AI là thuật ngữ chỉ sự kết hợp của Edge Computing (điện toán biên) và Artificial Intelligence (trí tuệ nhân tạo). Edge AI là quá trình tính toán AI được thực hiện gần người dùng ở rìa của mạng, gần nơi đặt hoặc tạo ra dữ liệu, thay vì tập trung trong cơ sở điện toán đám mây hoặc trung tâm dữ liệu. Edge AI mang lại khả năng tính toán hiệu suất cao tại vùng rìa mạng, nơi đặt các cảm biến và thiết bị IoT. Edge AI cho phép các ứng dụng AI chạy trực tiếp trên các thiết bị tại hiện trường, xử lý dữ liệu tại hiện trường và chạy các thuật toán máy học ML (Machine Learning) và học sâu DL (Deep Learning), từ đó thể đưa ra quyết định độc lập trong thời gian ngắn.
Với việc tăng cường khả năng tính toán tại vùng rìa của mạng, Edge AI mang lại một số lợi ích cụ thể như: Thông minh và linh hoạt hơn: Các ứng dụng sẽ trở nên thông minh và linh hoạt hơn so với các ứng dụng được lập trình thông thường chỉ có thể phản hồi với các đầu vào và trường hợp đã được lập trình viên dự đoán trước; 11 Đáp ứng thời gian thực: Dữ liệu được phân tích cục bộ thay vì tại “đám mây” ở xa và bị trì hoãn bởi thời gian truyền, nên các ứng dụng sẽ phản hồi nhanh hơn, đáp ứng nhu cầu của người dùng trong thời gian thực; Giảm chi phí: Bằng cách đưa sức mạnh xử lý đến gần hơn, các ứng dụng cần ít băng thông internet hơn, giảm đáng kể chi phí mạng; Nâng cao khả năng bảo mật dữ liệu: Edge AI nâng cao tính bảo mật của dữ liệu bằng cách lưu trữ và xử lý dữ liệu cục bộ. Edge AI chỉ gửi các kết quả phân tích và dữ liệu chi tiết lên đám mây khi cần thiết; Tính khả dụng cao: Khả năng phi tập trung và hoạt động ngoại tuyến giúp Edge AI mạnh mẽ hơn vì không cần truy cập Internet để truyền và nhận dữ liệu. Điều này dẫn đến tính khả dụng và độ tin cậy cao hơn cho các ứng dụng. Ứng dụng của Edge AI Edge AI có tiềm năng lớn trong rất nhiều ứng dụng khác nhau, từ đồng hồ thông minh đến xe không người lái, loa thông minh hoặc camera an ninh.
Theo dự báo của Marketsandmarkets, thị trường điện toán biên toàn cầu đạt giá trị 3,6 tỷ đô la năm 2020 và sẽ tiếp tục tăng lên 15,7 tỷ đô la vào năm 2025 với tốc độ tăng trưởng luỹ kế hàng năm là 34,1% trong giai đoạn dự báo [14], [9].1 Thị phần điện toán biên theo khu vực (Nguồn: digital.vn) Với sự gia tăng nhanh chóng của các thiết bị IoT và sự đổi mới từng ngày của công nghệ, khối lượng dữ liệu mà các thiết bị tạo ra cũng đang gia tăng nhanh chóng, theo một báo cáo của Statista(1) năm 2019 rằng lượng dữ liệu tạo ra trên toàn cầu sẽ đạt 2,142 zettabyte vào năm 2035. Do đó, Edge AI và các ứng dụng của nó sẽ là giải pháp giúp xử lý lượng lớn dữ liệu bằng cách sử dụng các hệ thống và thuật toán AI với các thiết bị Edge. Các ứng dụng của Edge AI có thể thấy trong nhiều lĩnh vực khác nhau như sản xuất, chăm sóc sức khỏe, tài chính, giao thông vận tải, năng lượng… Một số ứng dụng cụ thể có thể kể đến như: Năng lượng thông minh, giúp dự báo nhu cầu năng lượng dựa trên dữ liệu lịch sử và thời tiết…; Chăm sóc sức khỏe: Cung cấp các giải pháp cho phẫu thuật từ xa, chuẩn đoán trước và theo dõi tình trạng của người bệnh; Nhà máy thông minh: Các cảm biến và hệ thống Edge AI giúp phát hiện các điểm bất thường và dự đoán lỗi để tránh các hư hỏng lớn trên máy móc, giúp chủ động trong hoạt động sản xuất. (1) Statista là một công ty của Đức chuyên về thị trường và dữ liệu người tiêu dùng (theo Wikipedia) 13 Các ứng dụng Edge AI ở trên cho thấy nó cần thiết cho các doanh nghiệp trong các lĩnh vực khác nhau, Edge AI làm cho cuộc sống, công việc và doanh nghiệp đều có thể đạt được sự cải thiện, tăng trải nghiệm của khách hàng, loại bỏ rủi ro cho con người, tăng hiệu suất công việc cũng như trong việc chăm sóc sức khỏe.
Định nghĩa IoT (Internet of Things) đề cập đến hàng tỷ thiết bị vật lý trên khắp thế giới hiện được kết nối với internet, thu thập và chia sẻ dữ liệu. Nhờ bộ xử lý bên trong cùng mạng không dây, IoT có thể biến mọi thiết bị trở nên chủ động và thông minh hơn. Điều này bổ sung một mức độ thông minh kỹ thuật số nhất định cho các thiết bị thụ động, cho phép chúng giao tiếp dữ liệu thời gian thực mà không cần con người tham gia, hợp nhất hiệu quả thế giới kỹ thuật số và vật lý. Kiến trúc của IoT Một hệ thống IoT bao gồm các thiết bị thông minh sử dụng các hệ thống nhúng như các bộ vi xử lý, cảm biến và các mô đun truyền thông để thu nhận, gửi dữ liệu và hành động dựa trên dữ liệu mà thiết bị thu nhận được.
Các thiết bị IoT chia sẽ dữ liệu cảm biến mà chúng thu nhận được bằng cách kết nối với một IoT Gateway hoặc thiết bị biên (Edge Device) nơi dữ liệu có thể được phân tích cục bộ tại biên hoặc gửi lên máy chủ. Đôi khi, các thiết bị này giao tiếp với các thiết bị liên quan khác và hoạt động dựa trên thông tin chúng nhận được từ nhau. Các thiết bị thực hiện hầu hết công việc mà không có sự can thiệp của con người, mặc dù mọi người có thể tương tác với các thiết bị trong một số trường hợp để thiết lập, cung cấp cho chúng hướng dẫn hoặc truy cập dữ liệu.2 Kiến trúc tổng quát của các hệ thống IoT (Nguồn: techtarget.com) Các giao thức kết nối, mạng và giao thức truyền thông được sử dụng với các thiết bị phụ thuộc vào các ứng dụng IoT cụ thể được triển khai. IoT cũng có thể sử dụng trí thông minh nhân tạo (AI) và máy học để hỗ trợ quá trình thu thập dữ liệu trở nên dễ dàng và năng động hơn.
Ứng dụng của IoT IoT có thể được ứng dụng từ các hệ thống đơn giản (cửa tự động, giám sát nông nghiệp) đến các hệ thống phức tạp (máy bay, xe tự lái). Ngoài việc cung cấp các thiết bị thông minh để tự động hóa các nhu cầu cá nhân, IoT cũng cần thiết cho các hoạt động kinh doanh và sản xuất, IoT cung cấp cho các doanh nhiệp cái nhìn chi tiết theo thời gian thực về hệ thống của họ từ hiệu làm máy móc, đến chuỗi cung ứng và hậu cần… Thực tế cho thấy, IoT cho phép các công ty tự động hóa các quy trình và giảm chi phí lao động. Nó cũng cắt giảm các lãng phí và cải thiện việc cung cấp dịch vụ, làm cho việc sản xuất và vận 15 chuyển ít tốn kém hơn, cũng như mang lại sự minh bạch trong các giao dịch của khách hàng. IoT cũng có thể mang lại lợi ích cho nông dân trong sản xuất nông nghiệp.
Cảm biến có thể thu thập dữ liệu về lượng mưa, độ ẩm, nhiệt độ và hàm lượng đất, cũng như các yếu tố khác, giúp tự động hóa các kỹ thuật canh tác. Edge AI và IoT trong hoạt động giám sát và dự báo 1. Sự cần thiết của Edge AI và IoT trong giám sát và dự báo Các ứng dụng kết hợp giữa IoT và Edge AI đã và đang xuất hiện ở rất nhiều lĩnh vực khác nhau như nhận diện gương mặt và vật thể, hay trong các ứng dụng giám sát an ninh. Các hệ thống hầu hết có kiến trúc gồm các cảm biến đặt tại hiện trường thực hiện thu nhận các dữ liệu mẫu, thông qua các thiết bị IoT truyền dữ liệu về trung tâm và thực hiện xử lý và phân tích, kết quả của quá trình xử lý và phân tích sẽ được hiển thị trên giao diện hoặc thông báo tới người dùng thông qua các hệ thống cảnh báo sử dụng các mạng di động truyền thống hoặc Internet.