Avant son entrée en Bourse, le créateur de Claude lance une mise en garde troublante sur l'IA

L’IA, en facilitant la création de modèles toujours plus performants, pourrait bien devenir le moteur de sa propre accélération, selon Anthropic.

• L’IA aide les chercheurs à concevoir de nouveaux modèles, créant ainsi une boucle d’auto‑amélioration.
• Cette dynamique pourrait faire évoluer l’IA à un rythme supérieur à celui des techniques de gouvernance et de sécurité actuelles.
• Anthropic met en garde ses investisseurs : le contrôle de cette boucle pourrait devenir difficile à assurer à mesure qu’elle s’accélère.