Anthropic dément vouloir interdire l'open source : la cible, c'est la frontière
— ÉTHIQUE
Accusé de vouloir faire interdire les modèles ouverts, Anthropic dément et propose trois mesures ciblées plutôt qu'une interdiction générale. Le vrai sujet n'est pas la licence du modèle mais son niveau de dangerosité une fois publié sans retour possible.
Anthropic se défend d'un procès qu'on lui fait depuis plusieurs jours : celui de vouloir fermer le robinet de l'open source pour protéger sa position commerciale. Dario Amodei répond point par point, et la nuance qu'il pose mérite d'être lue au-delà du démenti de façade. Ce n'est pas l'ouverture des modèles qui l'inquiète, dit-il, mais le moment précis où un modèle de pointe franchit un seuil de capacité exploitable à des fins militaires, cyber ou biologiques. Une fois les poids publiés, aucun retrait n'est possible : la distinction entre modèle ouvert et modèle dangereux devient alors une question de calendrier plus que de principe.
Le terrain ici, c'est la politique industrielle de l'IA et les rapports de force entre laboratoires, pas un studio de création. Amodei cible trois leviers concrets : le contrôle des exportations de puces avancées vers des gouvernements autoritaires, une riposte à la distillation industrielle (cette technique qui consiste à faire répondre massivement un modèle concurrent pour en copier le comportement à moindre coût), et des tests de sécurité obligatoires pour tout modèle jugé suffisamment capable, qu'il soit ouvert ou fermé. L'accusation portée contre le laboratoire Qwen d'Alibaba, soupçonné d'avoir organisé une distillation à grande échelle contre Claude via des dizaines de milliers de faux comptes, donne au texte une tonalité moins philosophique qu'elle n'y paraît d'abord.
Reste que le démenti d'Amodei ne règle rien sur le fond : Anthropic reconnaît elle-même que la distillation n'est repérable qu'une fois largement avancée, ce qui revient à admettre l'impuissance de la parade proposée. Difficile de ne pas y voir un aveu déguisé en solution. La demande d'une réponse réglementaire plutôt qu'un geste unilatéral ressemble aussi à un moyen commode de renvoyer la patate chaude à des instances qui, pour l'instant, n'ont rien tranché.
Ce débat ne change rien à la semaine d'un studio ou d'une agence : aucun outil créatif n'est en jeu, aucun modèle d'image ou de vidéo n'est cité. Ce qui se joue, c'est le cadre dans lequel les futurs modèles de fondation, ceux qui alimenteront un jour les générateurs utilisés en production, seront ou non librement diffusables. Une bataille de règles qui précède, de loin, celle des usages.
L'enjeu réel pour la suite : savoir si cette querelle entre laboratoires débouche sur une régulation commune, ou si chacun continue de définir la sécurité selon l'endroit où elle l'arrange.