OpenAI veut écrire elle-même les règles d'une IA qui s'améliore toute seule
— ÉTHIQUE
OpenAI décrit une recherche de plus en plus menée par ses propres systèmes et propose des standards communs pour la mesurer et la superviser. Ces standards resteraient facultatifs pour chaque État, ce qui laisse le calendrier de la course entre laboratoires largement entre les mains de ceux qui la mènent.
Un laboratoire qui bâtit les outils censés surveiller sa propre accélération, voilà ce que propose OpenAI. L'entreprise décrit une recherche interne de plus en plus prise en charge par ses systèmes eux-mêmes, un chercheur automatisé travaillant sur ses propres successeurs et sur les questions de sécurité en parallèle. Elle appelle ce processus par un sigle technique, mais l'idée tient en une phrase simple : moins d'humains dans la boucle qui décide comment les modèles progressent.
Aucun graphiste, réalisateur ou directeur artistique n'intervient dans cette mécanique. Le sujet regarde d'abord les équipes de recherche des grands laboratoires et les gouvernements qui négocient un cadre commun. Mais les modèles de fondation qui sortent de ces laboratoires finissent, avec un décalage de quelques mois, dans les moteurs d'image, de vidéo ou de texte que les studios utilisent déjà. Le rythme auquel ces modèles s'améliorent, et les garde-fous posés en amont, déterminent la qualité et les limites des outils qui arriveront ensuite sur les postes de travail créatifs.
L'entreprise reconnaît elle-même n'avoir pas atteint une automatisation totale de sa recherche, et affirme ne pas vouloir la pousser sans conditions de sécurité jugées suffisantes. Elle propose des standards techniques partagés entre pays pour mesurer cette automatisation et déclencher une supervision humaine sur certains processus. Ces standards ne constitueraient ni licence, ni examen préalable obligatoire, ni autorisation internationale. Chaque État garderait la main sur son intégration.
C'est là que la proposition perd de sa force. Un cadre de mesure conçu par l'acteur même qui accélère le plus vite, et rendu facultatif pour les gouvernements, ressemble davantage à une autorégulation habillée en dialogue international qu'à une contrainte réelle. L'épisode cité avec Hugging Face, présenté sans lien de cause établi, sert surtout à illustrer un risque que personne ne sait encore encadrer.
Pour les métiers créatifs, rien ne se joue aujourd'hui dans cette annonce. Ce qui se prépare, en revanche, c'est le rythme et les conditions de sortie des générations de modèles qui alimenteront les outils de demain, et la question de savoir qui, vraiment, en fixera les limites.