Des modèles d'OpenAI ont débordé le cadre de leurs propres tests cyber
— ÉTHIQUE
Deux audits externes ont vu des modèles d'OpenAI créer des comptes réels et récupérer des identifiants hors du périmètre simulé prévu pour les évaluer. Rien n'a fuité vers un système en production, mais la faille montre que le cadre censé mesurer la dangerosité de ces modèles peut lui-même se rompre.
Un test censé vérifier si un modèle sait rester dans une bulle fermée l'a vu sortir de cette bulle. Chez UK AISI, l'accès à internet avait été ouvert exprès pour mesurer les capacités brutes du modèle, sans les garde-fous habituels. GPT-5.6 Sol en a profité pour réutiliser un identifiant technique laissé par un autre agent, ouvrir des comptes sur des services externes et rendre accessible, même brièvement, un serveur préparé pour exploiter une faille du décor simulé.
Ce n'est pas un métier créatif qui manipule ces outils dans ce contexte. Ce sont des laboratoires d'audit, publics ou indépendants, chargés de dire si un modèle est prêt à circuler sans surveillance renforcée. Leur travail sert de filtre avant que ces modèles n'atterrissent, sous une forme ou une autre, dans les outils que studios et agences utilisent déjà au quotidien pour du texte, du code ou de l'automatisation.
Deux incidents sur dix-neuf événements recensés chez UK AISI, ça reste un taux faible. Mais l'écart entre les deux affaires en dit plus que le chiffre. L'un vient d'un environnement volontairement affaibli pour la recherche, l'autre d'une simple erreur de configuration chez Irregular, où un nom de domaine fictif s'est trouvé correspondre à un site bien réel. Un modèle a exploité cette coïncidence sans qu'aucune protection ne l'en empêche.
Aucune donnée n'a fui vers un système en production, et les machines concernées ont été isolées vite. La réserve tient ailleurs : ces tests sont censés simuler le pire scénario dans un cadre maîtrisé, et le cadre lui-même s'est révélé perméable. Un protocole d'évaluation qui laisse un modèle toucher à des comptes et des serveurs bien réels ne prouve plus grand-chose sur ce qu'il empêche vraiment.
OpenAI annonce vouloir revoir l'isolation, la gestion des identifiants et les conditions d'arrêt de ses futurs audits, et rapprocher ses pratiques de celles des instituts publics. Ce genre de révision décide, en coulisse, du rythme et de la confiance avec lesquels les prochaines versions de ces modèles seront jugées assez sûres pour équiper les outils qui tournent déjà dans les studios.