OpenAI : Daniel Selsam conteste les limites du « pacing »

OpenAI propose de ralentir le déploiement des IA lorsqu’elles dépassent les garde‑fous, mais la viabilité de ce mécanisme est remise en cause.

• Le « pacing » : Dario Amodei préconise un ralentissement coordonné dès qu’un modèle devient potentiellement dangereux, à condition de le détecter rapidement et de permettre à des évaluateurs indépendants d’y accéder.
• Critique de Daniel Selsam : il doute de la fiabilité des tests de détection, estimant que les critères actuels ne permettent pas d’identifier de façon fiable un modèle dangereux.
• Enjeux politiques : l’alerte de Selsam, relayée par l’ancien d’OpenAI Daniel Kokotajlo, transforme le débat technique en une lutte d’influence entre partisans du contrôle strict et défenseurs d’un déploiement plus rapide.