Anthropic découvre un trou de 11 mois dans la sécurité de ses IA

Anthropic a publié son deuxième rapport de risques, confirmant son engagement à publier un tel document tous les trois à six mois.

• Le rapport indique que les filtres destinés à bloquer les discussions sur les armes biologiques sont restés désactivés pendant onze mois.
• Cette désactivation concernait les plateformes utilisées par les prestataires humains qui modèrent les échanges.
• La révélation soulève des questions sur la surveillance et la sécurité des systèmes d’IA d’Anthropic, malgré la promesse de suivi régulier des risques.