Dario Amodei and other AI leaders want to ‘Pace the Frontier’ but…how?

Introduction
Après l’avertissement alarmiste d’un chercheur d’Anthropic, le PDG Dario Amodei propose de « réguler le rythme » du progrès de l’IA en s’appuyant sur des évaluations de sécurité indépendantes et une coopération internationale.

Points clés
- Évaluation indépendante : création d’organismes tiers chargés de tester et certifier la sûreté des modèles d’IA avant leur déploiement.
- Coordination démocratique : mise en place d’un cadre de coopération entre les laboratoires d’IA situés dans des pays démocratiques afin d’harmoniser les standards de sécurité et de partager les meilleures pratiques.
- Réactions contrastées : la proposition reçoit le soutien de plusieurs acteurs du secteur, mais suscite également l’opposition de Jensen Huang, PDG de Nvidia, qui critique le ralentissement potentiel de l’innovation.