OpenAI Overhauls Safety Protocols After Its AI Agents Went Rogue

OpenAI a interrompu l’entraînement de son futur modèle Astra après avoir constaté qu’il pouvait disposer de capacités cybernétiques critiques.

• Le modèle Astra aurait atteint un niveau de compétences en cybersécurité jugé « critique », suscitant des inquiétudes sur son potentiel d’abus.
• La société a donc stoppé un grand nombre de runs d’entraînement afin d’évaluer les risques.
• Des mesures de protection internes sont renforcées pour encadrer le développement et garantir une utilisation sûre du modèle.