The AI Researcher Who Just Quit Anthropic Says It’s ‘Crunch Time for Humanity’

Introduction
Jacob Coxon explique à WIRED comment Anthropic mène un « mini Manhattan Project » pour accélérer la sécurité de l’IA, tout en soulignant les enjeux d’alignement et l’urgence temporelle qui pèse sur les laboratoires.

Points clés
- Un « mini Manhattan Project » : Anthropic a lancé un effort massif, comparable à celui du projet Manhattan, afin de développer rapidement des modèles d’IA plus sûrs et de maîtriser leurs comportements.
- Le problème d’alignement : Le principal défi reste d’aligner les objectifs des IA avec les valeurs humaines, car les systèmes actuels peuvent produire des comportements imprévisibles ou dangereux.
- Une échéance critique : Selon Coxon, les laboratoires d’