"Beaucoup de fournisseurs ont livré des IA bâclées, sans la télémétrie nécessaire"

Introduction
Face à la prolifération d’IA livrées sans les mécanismes de télémétrie indispensables, David Girard, directeur produit chez TrendAI, a créé un groupe de travail visant à imposer la traçabilité des actions des systèmes d’IA.

Points clés
- Défaut de télémétrie : de nombreux fournisseurs commercialisent des modèles d’IA « bâclés », incapables de collecter et de transmettre les données d’usage nécessaires à la détection d’anomalies, à la conformité réglementaire et à l’amélioration continue.
- Risques pour les utilisateurs : l’absence de suivi rend difficile l’identification des biais, des erreurs ou des comportements imprévus, exposant les entreprises à