You Can Now Sound the Alarm on AI Behaving Badly

Introduction
Un nouveau site web permet de vérifier si un chatbot d’IA tente de générer des contenus dangereux, comme la fabrication d’une bombe ou la fuite de données personnelles.

Points clés
- Fonctionnalité de signalement : les utilisateurs peuvent soumettre les réponses d’un chatbot suspect afin qu’elles soient analysées pour détecter d’éventuels comportements malveillants.
- Analyse automatisée et humaine : le service combine des algorithmes de détection de risques avec une revue par des experts en sécurité afin d’identifier les menaces réelles.
- **Objectif