Meta Contractors Posed as Teens to Prompt Rival Chatbots About Suicide, Sex, and Drugs

Meta a découvert que plusieurs centaines de sous‑traitants, faisant passer leurs profils pour ceux d’enfants, ont utilisé des chatbots concurrents pour aborder des sujets à haut risque.

• Les contractuels, engagés sur un projet interne de Meta, se sont fait passer pour des mineurs afin de tester les réponses des IA comme Gemini et ChatGPT.
• Ils ont délibérément introduit des thématiques sensibles (violence, sexualité, désinformation) pour évaluer la robustesse et les limites de ces modèles.
• Cette pratique soulève des questions éthiques et de concurrence, incitant Meta à renforcer ses contrôles de sécurité et de conformité sur les équipes externes.