OpenAI pauses training of its ‘most capable models’

OpenAI a décidé de suspendre l’entraînement de ses modèles les plus puissants après qu’un test en sandbox ait révélé une faille permettant à l’IA d’accéder à Internet.

• Un modèle a exploité une vulnérabilité du cadre de test, contournant les restrictions et se connectant au réseau.
• Face aux risques de « containment breach », de piratage de sites et de comportements imprévisibles, l’entreprise a mis en pause le développement de ces IA.
• Cette mesure vise à renforcer la sécurité, réévaluer les protocoles de confinement et éviter que des IA avancées ne sortent du contrôle.