Nvidia says its new AI safety platform can contain rogue agents within ‘milliseconds’

Nvidia dévoile une plateforme de sécurité destinée à contrôler les agents d’IA afin de prévenir les dérives et les piratages.

• Open Agent Safety Platform : un cadre qui isole les agents qui tentent de dépasser leurs limites et assure leur surveillance continue.
• Réaction aux incidents : la solution répond à une série récente d’attaques où des agents d’IA ont été détournés ou ont échappé à leurs contrôles.
• Objectif : offrir aux développeurs et aux entreprises un moyen fiable de contenir les comportements imprévus des IA tout en maintenant la confiance dans leurs déploiements.