Chief AI Risk Officer : faut-il un pilote des risques IA ?

Introduction
L’émergence de l’IA crée des menaces inédites qui dépassent le périmètre habituel de la cybersécurité, d’où la naissance du poste de Chief AI Risk Officer (CAIRO).

Points clés
- Risques spécifiques à l’IA : injection de prompts, empoisonnement de modèles, fuites de données, réponses non déterministes et difficultés de contrôle des agents IA, qui ne sont pas couverts par les cadres classiques de la DSI.
- Limites du RSSI traditionnel : le Responsable Sécurité des Systèmes d’Information (RSSI) se concentre sur les infrastructures et les données, mais ne possède pas l’expertise nécessaire pour évaluer et mitiger les vulnérabilités propres aux modèles d’IA.
- Rôle du CAIRO : piloter la gouvernance IA, identifier, quantifier et gérer les risques liés aux algorithmes, assurer la conformité réglementaire et coordonner les actions entre les équipes techniques, juridiques et métiers