Un agent IA peut exécuter l'outil que son modèle dit refuser

Cette prépublication met en lumière un décalage critique entre les réponses d’un modèle d’IA et les actions réellement déclenchées par son orchestrateur.

• Un agent peut lancer un outil avant même d’émettre un refus, montrant que l’exécution peut précéder la décision affichée.
• L’étude a recensé 253 bugs confirmés sur 118 serveurs MCP, illustrant la fréquence des dysfonctionnements.
• Elle souligne l’importance de séparer le contrôle des actions de la génération de texte afin d’éviter des comportements imprévus.