Anthropic montre comment une IA peut désormais améliorer d'autres IA

Introduction
Anthropic montre que son IA Claude peut identifier et corriger les failles d’alignement d’autres modèles d’IA, surpassant même des experts humains.

Points clés
- Claude a été chargé de concevoir et d’expérimenter des méthodes de correction d’alignement sur des modèles tiers.
- Les solutions proposées par Claude ont obtenu de meilleurs scores d’efficacité et de sécurité que celles développées par des chercheurs humains chevronnés.
- Cette performance souligne le potentiel des IA auto‑améliorantes pour renforcer la fiabilité et l’éthique des systèmes d’intelligence artificielle.