Hugging Face confronté au problème des modèles IA capables de créer des images dénudées

Introduction
Une étude de l’ONG AI Forensics révèle que la majorité des outils de retouche d’image les plus populaires sur Hugging Face génèrent facilement des nus factices, suscitant l’intervention des autorités françaises.

• Performance inquiétante : 7 des 9 outils d’édition d’image les plus utilisés sur la plateforme Hugging Face créent un faux nu à partir d’une simple requête textuelle.
• Réaction officielle : La Haute‑commissaire à l’Enfance, Sarah El Haïry, a alerté la Commission européenne, le groupe Pharos et l’Arcom pour demander des mesures de régulation et de protection.
• Enjeux de régulation : Le cas met en lumière les risques de diffusion de contenus explicites générés par IA et la nécessité d’encadrer ces technologies afin de protéger les mineurs et prévenir les abus.