OpenAI reportedly disbanded its preparedness team

OpenAI a dissous son équipe dédiée à la préparation aux risques liés à l’IA.

• Cette équipe, créée pour évaluer les dangers potentiels des modèles et concevoir des mesures d’atténuation, a été supprimée fin du mois dernier.
• Son rôle incluait la prévention de scénarios extrêmes, comme un modèle qui « deviendrait fou » et compromettrait la sécurité d’autres entreprises.
• La décision soulève des questions sur la capacité d’OpenAI à gérer de façon proactive les risques de ses technologies, alors que la pression réglementaire et publique augmente.