Les cybercriminels préparent une nouvelle vague d’attaques IA avec des outils d’injection de prompts

Introduction
Des chercheurs de Proofpoint ont mis en lumière une nouvelle menace : des cybercriminels conçoivent et commercialisent des outils d’injection indirecte de prompts (IDPI) pour exploiter les applications et agents alimentés par l’IA.

Points clés
- Développement d’outils spécialisés : des kits d’injection de prompts sont créés pour manipuler les modèles d’IA et détourner leurs réponses à des fins malveillantes.
- Vente sur des marchés noirs : ces outils sont déjà proposés à la vente sur des places de marché clandestines, indiquant une monétisation rapide de la technique.
- Menace émergente mais concrète : bien que la méthode soit encore en phase d’émergence, les preuves recueillies montrent qu’elle est prête à être déployée à grande échelle contre les services IA.