5 xu hướng AI tại biên hàng đầu trong năm 2022

Năm 2021 đã chứng kiến sự tăng trưởng lớn về nhu cầu dành cho điện toán biên (Edge Computing) – được thúc đẩy bởi đại dịch, nhu cầu về các quy trình kinh doanh hiệu quả hơn cũng như những tiến bộ quan trọng trong các lĩnh vực như Internet of Things, 5G và AI.

Chẳng hạn như trong một nghiên cứu do IBM công bố vào tháng 5 cho thấy 94% giám đốc điều hành được khảo sát cho biết tổ chức của họ sẽ triển khai điện toán biên trong 5 năm tới.

Từ các bệnh viện và thành phố thông minh đến các cửa hàng không cần thu ngân, xe hơi tự lái, Edge AI – sự kết hợp của điện toán biên và AI – là cần thiết hơn bao giờ hết.

Nhiều doanh nghiệp đã phải đóng cửa bởi các vấn đề về kho vận, thiếu nhân lực, lạm phát và sự không chắc chắn do đại dịch đang diễn ra. Các giải pháp Edge AI có thể được sử dụng làm cầu nối giữa con người và máy móc, cho phép cải thiện khả năng dự báo, phân bổ nhân lực, thiết kế sản phẩm và kho vận.

Dưới đây là 5 xu hướng Edge AI hàng đầu mà NVIDIA kỳ vọng sẽ thấy vào năm 2022:

1. Quản trị tại biên trở thành trọng tâm của CNTT

Trong khi điện toán biên đang nhanh chóng trở thành nhu cầu bắt buộc đối với nhiều doanh nghiệp thì việc triển khai vẫn còn ở giai đoạn đầu.

Để chuyển sang sản xuất, quản lý Edge AI sẽ trở thành trách nhiệm của các bộ phận IT. Trong một báo cáo gần đây, Gartner cho hay: “Các giải pháp biên trước đây được quản lý bởi bộ phận kinh doanh nhưng trách nhiệm thì đang chuyển sang IT và các tổ chức đang sử dụng tài nguyên IT để tối ưu hóa chi phí.”

Để giải quyết các thách thức điện toán biên liên quan đến khả năng quản lý, bảo mật và mở rộng, các bộ phận IT sẽ chuyển sang công nghệ cloud-native. Kubernetes, một nền tảng dành cho các dịch vụ microservice được đóng gói, đã nổi lên như một công cụ hàng đầu để quản lý các ứng dụng Edge AI trên quy mô to lớn.

Những khách hàng có bộ phận IT đã sử dụng Kubernetes trên đám mây có thể dùng kinh nghiệm của họ để xây dựng các giải pháp quản lý cloud-native của riêng mình cho vùng biên. Hoặc nhiều hơn nữa là tìm mua các dịch vụ của bên thứ ba như Red Hat OpenShift, VMware Tanzu, Wind River Cloud Platform và NVIDIA Fleet Command.

2. Sự mở rộng của các ứng dụng AI tại biên

Thị giác máy tính (Computer Vision) đã thống trị việc triển khai AI tại biên. Nhận dạng hình ảnh đã đi đầu trong việc đào tạo AI, dẫn đến một hệ sinh thái mạnh mẽ của các ứng dụng thị giác máy tính.

NVIDIA Metropolis, một application framework và bộ công cụ dành cho các nhà phát triển giúp tạo các ứng dụng thị giác máy tính AI, đã phát triển mạng lưới đối tác của mình gấp 100 lần kể từ năm 2017 đến nay gồm hơn 1.000 thành viên.

Nhiều công ty đi đầu trong việc triển khai hoặc mua sắm các ứng dụng thị giác máy tính sẽ bắt đầu tìm đến các giải pháp đa phương thức.

AI đa phương thức mang đến các nguồn dữ liệu khác nhau để tạo ra các ứng dụng thông minh hơn có thể phản hồi những gì chúng nhìn thấy, nghe thấy và các cảm nhận khác. Các trường hợp sử dụng AI phức tạp này áp dụng các kỹ năng như hiểu ngôn ngữ tự nhiên, hội thoại AI, ước tính tư thế, kiểm định và trực quan hóa.

Kết hợp với lưu trữ dữ liệu, các công nghệ xử lý và các khả năng nhập/xuất hoặc cảm biến, AI đa phương thức có thể mang lại hiệu suất thời gian thực tại biên cho sự mở rộng các ứng dụng trong robot, chăm sóc sức khỏe, quảng cáo cá nhân hóa, mua sắm không cần thu ngân, trải nghiệm dịch vụ hỗ trợ tiền sảnh và nhiều hơn nữa.

Hãy tưởng tượng mua sắm với một trợ lý ảo. Với AI truyền thống, nhân vật đại diện (avatar) có thể nhìn thấy những gì bạn mua từ trên kệ và trợ lý giọng nói có thể nghe thấy những gì bạn đặt hàng.

Bằng cách kết hợp cả hai nguồn dữ liệu, nhân vật đại diện dựa trên AI đa phương thức có thể nghe thấy đơn đặt hàng của bạn, cung cấp phản hồi, xem phản ứng của bạn và cung cấp thêm những phản hồi khác dựa trên đó. Thông tin bổ sung này cho phép AI mang lại trải nghiệm khách hàng tốt hơn, tương tác hơn.

Để xem ví dụ về điều này trong thực tế, có thể tham khảo dự án Tokkio:

3. Sự hội tụ của AI và các giải pháp IoT công nghiệp

Nhà máy thông minh là một không gian khác được thúc đẩy bởi các ứng dụng Edge AI mới. Theo báo cáo tương tự của Gartner, “Đến năm 2027, học máy dưới dạng học sâu sẽ bao gồm hơn 65% các trường hợp sử dụng biên, tăng từ mức dưới 10% vào năm 2021”.

Các nhà máy có thể thêm các ứng dụng AI vào camera và các loại cảm biến khác để kiểm tra và bảo trì dự đoán. Tuy nhiên, phát hiện chỉ là bước một. Khi một vấn đề được phát hiện, hành động phải được thực hiện.

Các ứng dụng AI có thể phát hiện ra sự bất thường hoặc khiếm khuyết và sau đó cảnh báo con người để can thiệp. Nhưng đối với các ứng dụng an toàn và các trường hợp sử dụng khác khi cần hành động tức thì thì phản hồi theo thời gian thực có thể thực hiện được bằng cách kết nối ứng dụng suy luận AI với nền tảng IoT để quản lý dây chuyền lắp ráp, cánh tay robot hoặc máy chọn-và-đặt.

Sự tích hợp giữa các ứng dụng như vậy dựa vào công việc phát triển tùy chỉnh. Do đó, chúng ta sẽ mong đợi nhiều mối quan hệ hơn nữa giữa AI và các nền tảng quản lý IoT truyền thống để giúp đơn giản hóa việc áp dụng Edge AI trong môi trường công nghiệp.

4. Sự tăng trưởng trong việc áp dụng AI-on-5G trong doanh nghiệp

Hạ tầng điện toán kết hợp AI-on-5G cung cấp kết cấu kết nối an toàn và hiệu suất cao để tích hợp các cảm biến, nền tảng điện toán và các ứng dụng AI – cho dù là tại công trường, bên trong doanh nghiệp hay trên đám mây.

Các lợi ích chính bao gồm độ trễ cực thấp trong môi trường không dây, chất lượng dịch vụ được đảm bảo và cải thiện bảo mật.

AI-on-5G sẽ mở khóa các ứng dụng Edge AI mới:

Công nghiệp 4.0 : Tự động hóa, robot trong nhà máy, giám sát và kiểm tra.
Hệ thống ô tô : Các ứng dụng đo đạc phương tiện từ xa ở các con đường có thu phí.
Không gian thông minh : Các ứng dụng bán lẻ, thành phố thông minh và chuỗi cung ứng.

Một trong những nền tảng AI-on-5G full-stack đầu tiên trên thế giới, Mavenir Edge AI, đã được giới thiệu vào tháng 11. Vào năm tới, chúng tôi hy vọng sẽ thấy thêm những giải pháp full-stack cung cấp hiệu suất, quản lý và mở rộng của các môi trường 5G doanh nghiệp.

5. Quản lý vòng đời AI từ đám mây đến rìa mạng

Đối với các tổ chức đang triển khai Edge AI, MLOps sẽ trở thành chìa khóa giúp thúc đẩy luồng dữ liệu đến và đi từ biên. Việc sử dụng các nguồn dữ liệu mới hoặc các nắm bắt từ biên, đào tạo lại cho các mô hình, thử nghiệm các ứng dụng và sau đó triển khai lại những dữ liệu đó đến biên để cải thiện độ chính xác và kết quả của mô hình.

Với phần mềm truyền thống, các bản cập nhật có thể xảy ra hàng quý hoặc hàng năm, nhưng AI thu được kết quả đáng kể từ những chu kỳ cập nhật liên tục đó.

MLOps vẫn đang trong giai đoạn phát triển ban đầu với nhiều công ty lớn và công ty khởi nghiệp đang xây dựng các giải pháp cho nhu cầu cập nhật công nghệ AI liên tục. Mặc dù hiện tại chủ yếu tập trung vào giải quyết vấn đề của trung tâm dữ liệu nhưng các giải pháp như vậy trong tương lai sẽ chuyển sang điện toán biên.

Lướt trên làn sóng tiếp theo của điện toán AI

Sự phát triển của AI đã bao gồm nhiều làn sóng, như có thể thấy trong hình trên.

Phổ cập hóa AI đang được đẩy nhanh, với các công cụ và giải pháp mới biến nó thành hiện thực. Edge AI, được hỗ trợ bởi sự phát triển vượt bậc của IoT và tính hiện hữu của 5G, là làn sóng tiếp theo sẽ bùng nổ.

Vào năm 2022, nhiều doanh nghiệp sẽ chuyển dịch suy luận AI của họ sang gần biên, thúc đẩy sự phát triển của hệ sinh thái khi ngành công nghiệp xem xét cách mở rộng từ đám mây đến biên.