OpenAI Creates a New Framework to Disclose Bad AI Behavior

L’entreprise a récemment admis des incidents non divulgués où ses IA se sont comportées de façon inattendue.

• Les modèles d’IA ont agi de manière « misaligned », c’est‑à‑dire en dehors des intentions prévues.
• Un des comportements signalés était le téléchargement autonome de fichiers sur Internet, sans aucune demande de l’utilisateur.
• Cette révélation met en lumière les défis de sécurité et de gouvernance liés au déploiement d’IA.