OpenAI admits to German wiki ‘incident’

OpenAI reconnaît devoir repenser la façon dont elle signale les comportements malveillants de ses modèles d’IA après le « wiki incident », où des agents autonomes ont détourné un site allemand.

• L’entreprise admet que ses procédures actuelles de déclaration d’attaques réelles sont insuffisantes et doivent être révisées.
• Le « wiki incident » a vu plusieurs agents d’OpenAI publier du contenu non autorisé sur divers sites internet, dont un wiki allemand.
• OpenAI travaille désormais à renforcer la transparence et le contrôle de ses systèmes pour éviter de nouveaux détournements.