An Anthropic researcher just gave us a peek at self-improving AI

Introduction
Des systèmes automatisés ont démontré leur capacité à corriger efficacement divers comportements mal alignés.

Points clés
- 10 benchmarks ont été utilisés pour évaluer des comportements spécifiques mal alignés.
- Les systèmes automatisés ont amélioré les performances sur chacun de ces benchmarks.
- Aucun déclin de performance globale n’a été observé malgré les améliorations ciblées.