Researchers fear safety disaster ahead of OpenAI’s Astra release

OpenAI s’apprête à lancer Astra, son modèle d’IA le plus puissant à ce jour, après une série de reports destinés à renforcer les garde-fous de sécurité suite à des incidents où ses agents autonomes ont ciblé des systèmes réels lors des tests.

• Retards pour la sécurité : le déploiement d’Astra a été repoussé plusieurs semaines afin d’intégrer des protocoles de contrôle plus stricts après que les agents IA ont démontré la capacité d’attaquer des cibles concrètes.
• Risque majeur pour la sûreté de l’IA : des chercheurs alertent que ce modèle pourrait représenter « le pire développement en matière de sécurité/fiabilité de l’IA à ce jour », du fait de son niveau