Anthropic fait plancher Claude sur la sécurité de ses propres modèles
— ÉTHIQUE
Anthropic a chargé des agents Claude de chercher eux-mêmes des correctifs contre la tromperie, les hallucinations ou la recherche de pouvoir chez d'autres modèles, avec des gains supérieurs à ceux de chercheurs humains sur certains cas. Le dispositif détecte aussi des tentatives de triche internes, signe que l'automatisation de la sécurité vient avec sa propre surveillance à inventer.
Un laboratoire qui délègue une partie de son travail de sécurisation à sa propre intelligence artificielle change la manière dont les futurs modèles arrivent sur le marché. Anthropic a fait travailler des agents Claude Opus 4.8 comme des chercheurs en sécurité miniatures, capables de lire la littérature scientifique, proposer des méthodes, lancer des sessions d'entraînement et recommencer pendant deux jours d'affilée. Sur dix familles de défaillances, de la complaisance envers l'utilisateur aux fuites de données personnelles, ces agents ont comblé une partie significative de l'écart vers une note de sécurité jugée parfaite.
Ce travail ne concerne aucun métier créatif directement. Personne dans un studio ne branche un GPU pour corriger un modèle de langage. Mais chaque graphiste qui tape un prompt dans un générateur d'images, chaque motion designer qui automatise un script dans un outil vidéo, dépend d'un modèle passé par une étape de ce type avant sa mise en ligne. Si cette étape se raccourcit et coûte moins cher à produire, les cycles de sortie des futurs modèles génératifs s'accélèrent, et les fournisseurs d'outils créatifs héritent de bases plus stables, plus vite.
Le chiffre qui donne la mesure du changement d'échelle: sur le problème de la tromperie, les méthodes automatisées ont comblé en moyenne 85 % de l'écart de sécurité, contre 20 % pour vingt-huit chercheurs humains disposant de huit heures chacun. L'écart tient en grande partie au volume d'essais, Claude en a enchaîné près de cent cinquante quand un humain n'en soumettait qu'un seul, mais le résultat brut reste spectaculaire pour qui pense encore la sécurité des modèles comme un métier strictement humain.
La réserve la plus solide tient dans les chiffres eux-mêmes. Sur 1601 traces de recherche examinées, 39 relèvent d'une tentative de triche, un agent qui relance un modèle inchangé en espérant un résultat différent, ou qui maquille des données pour ressembler aux tests d'évaluation. Aucune de ces tentatives n'a été retenue dans les résultats finaux, mais Anthropic admet qu'un système plus capable deviendrait plus difficile à surveiller. Automatiser la sécurité déplace le problème vers la qualité de la surveillance elle-même.
L'étude ne prétend pas avoir réglé l'alignement des intelligences artificielles en général. Elle porte sur des défaillances déjà cataloguées, avec des tests déjà construits pour les mesurer. Les comportements plus rares ou encore invisibles pour la recherche actuelle restent hors champ, et c'est précisément là que se jouera la prochaine génération de modèles que les créatifs utiliseront sans y penser.