Anthropic and OpenAI want to embed safety evaluators. Will they really be independent?

Introduction
Anthropic et OpenAI projettent d’intégrer des évaluateurs de sécurité indépendants au sein de leurs laboratoires d’IA, une initiative saluée mais qui soulève des exigences de transparence et de régulation.

• Accès inédit aux chercheurs : les équipes internes pourront collaborer directement avec des experts externes, offrant une visibilité sans précédent sur les processus de contrôle de l’IA.
• Conditions d’une supervision efficace : les évaluateurs insistent sur la nécessité d’une indépendance réelle, d’une transparence totale des données et des méthodologies, ainsi que d’un cadre juridique clair.
• Appel à la régulation : malgré l’enthousiasme initial, les spécialistes avertissent que seul un cadre réglementaire solide pourra garantir une surveillance durable et fiable des systèmes d’IA.