« Je suis seule avec un Algérien » : l’IA de Google est-elle vraiment raciste ?

Introduction
Une enquête de Numerama révèle que les réponses de Gemini et du Mode IA de Google varient en fonction de la nationalité indiquée dans une même requête.

Points clés
- Biais de traitement : Les modèles IA affichent des différences notables de réponses selon que la requête mentionne une nationalité française, américaine, ou autre, même lorsque le contenu de la question reste identique.
- Tests comparatifs : Numerama a reproduit l’expérience avec plusieurs IA (Gemini, Bard, ChatGPT, etc.) et a constaté que le phénomène de variation selon l’origine nationale était récurrent, bien que l’intensité du biais diffère d’un modèle à l’autre.
- Implications : Ces incohérences soulèvent des questions sur l’équité et la neutralité des systèmes d’IA, incitant les développeurs à renforcer les contrôles de biais et à améliorer la transparence des algorithmes.