‘Gambling with our lives’: Anthropic researcher quits, warns against self-improving AI 

Introduction
Jacob Coxon, chercheur chez Anthropic, a démissionné, invoquant la crainte d’une extinction liée à l’IA et appelant à des accords de régulation entre les laboratoires.

Points clés
- Démission motivée par la peur d’une IA hors de contrôle : Coxon estime que le développement rapide de l’intelligence artificielle pourrait menacer l’humanité.
- Demande d’accords de ralentissement : Il propose que les laboratoires d’IA établissent des « pacing agreements » pour synchroniser leurs avancées et éviter une course dangereuse.
- Impact sur le débat éthique : Sa décision relance le débat interne aux entreprises technologiques sur la responsabilité et la gouvernance des IA avancées.