« Benchmarks de sécurité de l’IA » : pourquoi Meta fait sonder ChatGPT et Gemini par de faux comptes d’ados

Meta aurait engagé, pendant plusieurs mois, des prestataires payés pour se faire passer pour des mineurs afin d’évaluer les réponses et les limites des chatbots concurrents, selon un rapport interne révélé par le média WIRED.

• Les testeurs, rémunérés par Meta, simulaient des conversations d’enfants pour sonder la capacité des IA à gérer des contenus sensibles ou inappropriés.
• L’opération visait à recueillir des données sur la modération, la sécurité et la conformité des réponses des chatbots tiers.
• La révélation soulève des questions éthiques sur la manipulation d’utilisateurs fictifs et la transparence des pratiques de test dans l’industrie de l’IA.