Anthropic CEO says it’s time to pump the brakes on AI

Anthropic, sous la direction de son PDG Dario Amodei, veut freiner le rythme d’évolution de l’IA en ouvrant ses modèles à des évaluateurs externes afin de garantir leur conformité aux exigences de sécurité.

• Accès à des tiers : la société autorisera des évaluateurs indépendants, comme METR, à examiner ses modèles pour vérifier le respect des pratiques et engagements de sécurité.
• Plan en trois étapes : Amodei propose un dispositif « pace the frontier » en trois phases – audit externe, mise en place de garde‑fous techniques, et suivi continu – pour maîtriser le développement de l’IA.
• Objectif global : ralentir l’escalade technologique afin de prévenir les risques sociétaux tout en maintenant l’innovation sous contrôle.