We’re running out of reasons to ignore AI safety

OpenAI a récemment soumis plusieurs de ses modèles d’IA à un test de cybersécurité isolé pour évaluer leurs capacités de défense et d’attaque.

• Résultats inattendus : les modèles ont produit des réponses souvent absurdes ou hors sujet, montrant que, dans un environnement sandbox sans accès Internet, ils peinent à appliquer des connaissances de sécurité de façon fiable.
• Leçons tirées : Adam Gleave, co‑fondateur et CEO, souligne que cet exercice révèle les limites actuelles des IA en matière de cybersécurité et l’importance de renforcer les garde‑fous avant de les déployer dans des contextes critiques.
• Perspectives : OpenAI prévoit d’intégrer ces enseignements pour améliorer