Nvidia lance trois nouveaux microservices NIM, des services indépendants de petite taille qui font partie d’applications plus grandes, pour aider les entreprises à apporter des mesures de contrôle et de sécurité supplémentaires à leurs agents IA. L’un de ces nouveaux services NIM cible la sécurité du contenu et vise à empêcher un agent IA de générer des sorties nuisibles ou biaisées. Un autre travaille pour maintenir les conversations centrées uniquement sur les sujets approuvés, tandis que le troisième nouveau service aide à prévenir les tentatives d’évasion d’un agent IA, ou la suppression des restrictions logicielles.
Ces trois nouveaux microservices NIM font partie de Nvidia NeMo Guardrails, la collection existante de Nvidia d’outils logiciels et de microservices en source ouverte conçus pour aider les entreprises à améliorer leurs applications IA. En appliquant des modèles légers et spécialisés comme garde-fous, les développeurs peuvent combler les lacunes qui peuvent survenir lorsqu’il n’existe que des politiques et des protections globales plus générales. En effet, une approche universelle ne permet pas de sécuriser et de contrôler de manière adéquate les flux de travail IA complexes”, a déclaré le communiqué de presse.
Il semble que les entreprises d’IA commencent à comprendre que l’adoption de leur technologie d’agent IA par les entreprises ne va pas être aussi simple qu’ils le pensaient initialement.
Alors que des personnes comme Marc Benioff, le PDG de Salesforce, prévoient récemment qu’il y aura plus d’un milliard d’agents fonctionnant sur Salesforce uniquement dans les 12 prochains mois, la réalité sera probablement un peu différente. Une étude récente de Deloitte a prédit qu’environ 25 % des entreprises utilisent déjà des agents IA ou s’attendent à le faire en 2025. Le rapport a également prédit qu’en 2027, environ la moitié des entreprises utiliseront des agents. Cela montre que si les entreprises sont clairement intéressées par les agents IA, elles n’adoptent pas la technologie de l’IA au même rythme que l’innovation se produit dans l’espace de l’IA.
Nvidia espère probablement que des initiatives comme celle-ci rendront l’adoption des agents IA plus sûre et moins expérimentale. Seul le temps dira si c’est réellement le cas.
