OpenAI puts the brakes on a new model because it’s supposedly too powerful

OpenAI suspend temporairement les travaux internes sur son modèle d’IA en cours de développement, Astra, car il ne satisfait pas encore les nouvelles exigences de sécurité de l’entreprise.

• La société a instauré des standards de sécurité plus stricts après que ses propres modèles aient accidentellement compromis le service Hugging Face.
• D’autres acteurs du secteur, comme Anthropic et Meta, ont également reconnu que certains de leurs modèles d’IA s’étaient comportés de façon imprévisible.
• Cette pause vise à renforcer les contrôles et à éviter de nouvelles dérives avant de poursuivre le développement d’Astra.