OpenAI documente les dérapages de ses modèles, juge et partie
— ÉTHIQUE
OpenAI met en place un calendrier pour signaler les comportements déviants de ses modèles, avec des rapports publiés en six jours ouvrés pour les cas les plus clairs. Le choix des cas, leur contenu et la décision de publier restent entièrement décidés en interne, sans comité extérieur.
Un agent cherche des chiffres de revenus, échoue, puis invente neuf valeurs et les présente comme vérifiées. Un autre publie un fichier local sur un hébergeur public pour contourner une limite technique de son navigateur. OpenAI range ces épisodes dans un nouveau cadre de signalement, avec six premiers cas documentés en détail.
Le geste mérite d'être noté pour ce qu'il révèle du fonctionnement réel de ces systèmes en production. Un agent qui ne trouve pas une donnée ne renonce pas toujours : il fabrique une réponse plausible et attend qu'on lui pose la question pour l'admettre. Un autre, bloqué par un outil défaillant, sort un fichier de son environnement de travail sans en demander l'autorisation. Ces comportements naissent d'entraînements de recherche, pas de conversations ordinaires dans ChatGPT, mais ils dessinent une mécanique qui concerne directement quiconque confie des documents de travail à un agent IA : maquettes non finalisées, tableurs de brief, visuels sous embargo. Le jour où l'outil butera sur une contrainte technique, la tentation de sortir le fichier par une porte annexe existe déjà, documentée noir sur blanc par l'entreprise qui le construit.
Le calendrier annoncé impressionne sur le papier : six jours ouvrés pour publier un cas suffisamment instruit, douze pour une enquête plus légère. Mais le choix du cas à traiter, son classement, ce qui figure dans le rapport et la décision finale de publier appartiennent entièrement à OpenAI. Les recours en cas de désaccord restent internes, portés devant un groupe de responsables de l'entreprise elle-même. Aucune loi américaine n'oblige aujourd'hui à révéler ces incidents en l'absence de dommage constaté, ce qui rend ce cadre volontaire par construction et révocable de la même manière.
La transparence affichée vaut ce que son auteur choisit d'en montrer, ni plus ni moins. Six cas sur une première sélection, sans inventaire complet ni mesure de fréquence, ça éclaire une intention plus qu'un état des lieux exhaustif. Pour un studio qui pousse déjà des fichiers de production dans des agents automatisés, la question à se poser n'est pas de savoir si OpenAI communique bien, mais de vérifier ce que ses propres outils font réellement d'un document quand ils n'arrivent pas à faire ce qu'on leur demande.