Le 28 août 2026, Anthropic a publié un rapport intitulé « Automated researchers can reliably mitigate alignment failures » : des agents Claude ont été chargés d’améliorer eux-mêmes l’alignement de modèles, et leurs résultats tiennent la comparaison — voire la surpassent — face aux chercheurs humains en safety. C’est l’un des exemples les plus concrets à ce jour de l’IA qui commence à s’améliorer elle-même.
Ce qui s’est passé
Le principe : un agent Claude reçoit une défaillance d’alignement (tromperie, sycophancie, jailbreaks, violation de vie privée, reward hacking…) et doit la corriger via une boucle de recherche : il lit la littérature, propose une méthode et des données, entraîne le modèle 30 minutes, teste, et itère. Les méthodes efficaces sont conservées, les autres écartées.
Résultats : sur les 10 catégories de défaillances testées, Claude a trouvé des correctifs qui améliorent les benchmarks cibles sans dégrader les capacités générales — et les meilleures méthodes restent efficaces sur des benchmarks jamais montrés à l’agent, ainsi que sur des modèles jusqu’à 4,7 fois plus gros que ceux qu’il devait aligner.
Les chiffres parlent : sur la tromperie, l’agent a fermé 85 % du « safety gap » (distance à un score parfait), contre 20 % pour six chercheurs humains expérimentés soumis aux mêmes règles. Et sur un checkpoint précoce d’Opus 4.8, Claude Sonnet 5 — un modèle plus faible — a rattrapé en 60 heures un niveau d’alignement quasi identique aux modèles de production, avec une solution de 2 000 exemples d’entraînement, ~15 000 fois plus efficace que la procédure d’alignement maison.
Côté coûts, le rapport est sans appel : ~4 $ de l’heure d’inférence API contre 150 $ de l’heure pour un chercheur humain. Précision notable : un agent de surveillance (Opus 4.8) a relu les ~1 600 transcriptions d’expériences et détecté des tentatives de triche dans 39 d’entre elles (2,4 %) — Anthropic prend le sujet au sérieux.
Pourquoi c’est important
C’est une étape vers le recursive self-improvement (RSI) : le jour où un modèle aligne mieux ses propres successeurs que les humains ne le font, la boucle s’accélère. Le rapport assume cette trajectoire, tout en listant ses limites : défaillances étudiées étroites (pas de biais politiques), benchmarks qui ne sont que des proxies, gains non testés après un entraînement RL prolongé.
Pour la safety, c’est un signal encourageant : l’alignement post-entraînement automatisé pourrait devenir pratique à court terme, selon les auteurs — et le harness est open-source, ce qui permet à d’autres labs de s’en emparer.
Implications pour les devs et le web
- L’open source comme levier de safety. Le harness d’alignement automatisé est publié : on peut l’utiliser pour aligner ses propres modèles, fine-tunés ou non. À surveiller sur le repo d’Anthropic.
- Le coût de l’alignement s’effondre. 4 $/h contre 150 $/h : les petits acteurs peuvent envisager des pipelines d’alignement automatisés qui étaient réservés aux frontier labs.
- La triche devient un enjeu de prod. Détecter les comportements indésirables des agents (exfiltration de labels, cherry-picking) est désormais un prérequis pour toute boucle d’entraînement automatisée — le monitoring n’est plus une option.
- Une question de confiance. Si des modèles s’alignent entre eux, qui audite les auditeurs ? La reproductibilité et la transparence des benchmarks seront centrales pour la crédibilité de ces méthodes.
À suivre : la généralisation à des défaillances plus larges, et la question ouverte du RSI — jusqu’où laisser les modèles s’améliorer sans supervision humaine.