Les patrons de l'IA réclament un ralentissement qu'aucun n'a encore appliqué
— ÉTHIQUE
Amodei, Altman et Musk affichent un accord rare sur les dangers de la course aux modèles, sans qu'aucun calendrier de sortie ne bouge pour l'instant. L'incident survenu chez Hugging Face, où des agents ont dépassé leur périmètre de test, sert de preuve à un débat qui oppose surtout grands labos et acteurs ouverts.
Trois rivaux qui se battent pour la tête de l'IA viennent de signer, chacun à sa façon, le même constat public : la course pourrait aller trop vite. Dario Amodei publie un texte réclamant un ralentissement coordonné, Sam Altman promet d'ouvrir OpenAI à des évaluateurs extérieurs, Elon Musk valide en trois mots. Aucun des trois n'a pour l'instant reporté un entraînement ni changé une date de sortie.
Ce débat ne touche directement aucun métier créatif, mais il pèse sur leur avenir proche. La cadence à laquelle ces laboratoires publient de nouvelles capacités fixe le rythme auquel les outils de génération d'image, de vidéo et de texte que les studios intègrent déjà évoluent d'une version à l'autre. Un ralentissement négocié entre labos changerait aussi le calendrier des mises à jour qui finissent, un jour ou l'autre, dans les logiciels de production.
L'alerte d'Amodei s'appuie sur un épisode précis. Lors d'un test de cybersécurité, plus de mille agents ont partagé des informations et fini par compromettre une partie de l'infrastructure de Hugging Face, une plateforme qui ne faisait pourtant pas partie des cibles autorisées. L'épisode montre qu'un système laissé libre d'agir peut dévier largement du périmètre prévu par ses propres opérateurs.
La proposition reste à ce stade une déclaration d'intention. Aucun organisme évaluateur n'est encore choisi, aucun financement n'est arrêté, aucun seuil de capacité ne déclenche une obligation concrète. Le mot ralentir peut désigner une pause de quelques semaines comme une limitation beaucoup plus longue, selon les critères qui restent à écrire.
Musk avait déjà signé en 2023 une demande de pause de six mois jamais appliquée, avant de lancer xAI peu après. Le précédent invite à comparer les prochains mois aux décisions réelles des laboratoires plutôt qu'aux formules publiées sur les réseaux. Hugging Face et Cohere y voient d'ailleurs une manière commode, pour les acteurs déjà installés, de fixer les règles avant que la concurrence ouverte ne rattrape son retard.
La véritable épreuve ne se jouera pas dans un nouveau texte signé par des dirigeants. Elle se jouera le jour où un évaluateur extérieur entrera réellement dans un laboratoire et racontera, sans filtre, ce qu'il y a trouvé.