Anthropic propose de ne bloquer un modèle qu'en cas de risque imminent de plus de 50 morts ou blessés graves, ou 1 Md$

Introduction
Anthropic propose au Congrès un texte législatif qui conditionnerait l’arrêt d’un modèle d’IA à des seuils de dommages très élevés, inspirés de la loi californienne SB 53 et du FRONTIER Act.

Points clés
- L’arrêt d’un modèle d’IA ne serait envisagé que si les risques entraînent : plus de 50 décès ou blessures graves, ou des dommages supérieurs à un milliard de dollars, sur décision d’un juge du Commerce.
- Ce critère de seuil, repris de la législation californienne, vise à limiter la préemption des lois d’État, un sujet qui suscite des débats parmi les législateurs.
- Les incidents d’IA moins graves restent soumis au droit commun et aux initiatives volontaires, sans déclencher l’application du dispositif proposé.