Anthropic installe des auditeurs externes dans ses murs, sans droit de veto
— ÉTHIQUE
Six chercheurs de METR obtiennent un accès interne proche de celui des équipes sécurité d'Anthropic, avec le droit de publier leurs conclusions sans validation préalable. L'entreprise garde la main sur quelques catégories d'informations sensibles, ce qui fixe les limites réelles de cette transparence.
Anthropic donne à six chercheurs de l'organisation METR un bureau, du matériel et des accès internes comparables à ceux de ses propres équipes de sécurité. Ils pourront examiner les modèles, les incidents et les méthodes de gestion des risques, puis publier leurs conclusions sans attendre un feu vert de l'entreprise. C'est la première fois qu'un laboratoire d'IA de ce rang ouvre ses coulisses à ce degré à des auditeurs qui ne travaillent pas pour lui.
Ce dispositif ne concerne aucun graphiste, monteur ou directeur artistique directement. Il s'adresse aux régulateurs, aux concurrents et aux chercheurs en sécurité qui tentent de documenter ce qui se passe réellement derrière les rapports publics des grands modèles. Anthropic a signé le White House Accord on Super Intelligence, qui prévoit des engagements d'audit externe, et ce genre de précédent dessine les règles que les autres fournisseurs de technologie IA devront suivre à leur tour, sous peine de paraître moins sérieux que celui qui a ouvert ses portes en premier.
L'accès reste cadré. Les données clients, certaines informations protégées par le secret professionnel et les détails sur l'architecture des modèles restent hors de portée des évaluateurs. METR peut signaler qu'une information a été retirée d'un rapport, sans en révéler le contenu, ce qui laisse à Anthropic une marge d'appréciation sur ce qui compte comme sensible.
Avant cet accord, l'essentiel de ce que le public savait d'un laboratoire venait de ses propres rapports de risques, rédigés et calibrés en interne. Un organisme capable de contredire publiquement l'entreprise qu'il observe change la nature de cette information, même borné par des catégories confidentielles définies à l'avance.
Anthropic annonce vouloir étendre ce niveau d'accès à d'autres organismes, après des discussions déjà engagées avec Hugging Face. Si cette architecture d'audit devient la norme du secteur, elle finira par peser sur la confiance accordée à n'importe quel modèle qui alimente, demain, un outil de création d'image ou de texte.