Anthropic l'admet : des gens utilisent Claude pour créer des armes biologiques

Introduction
Anthropic a récemment confirmé avoir déjoué des tentatives d’usage de son IA Claude pour la création d’armes biologiques, illustrant la montée des risques liés à l’intelligence artificielle.

• Menace concrète : La situation montre que les craintes autour de l’IA se traduisent désormais par des tentatives réelles d’abus.
• Intervention d’Anthropic : L’entreprise a détecté et bloqué les tentatives d’exploitation de Claude à des fins de bioterrorisme.
• Enjeu de sécurité : Cet incident souligne l’importance de mettre en place des garde-fous robustes et une surveillance continue des modèles d’IA.