Meta assemble un million de GPU pour muscler ses futurs modèles
— Business
Dans l'Ohio, Meta transforme un ancien site de calcul en supercalculateur capable de faire tourner un million de processeurs graphiques comme une seule machine. L'entreprise affiche une réduction de 99 % des pannes qui interrompaient ses entraînements, preuve que la course à l'IA se joue désormais autant dans la plomberie électrique que dans les modèles eux-mêmes.
Un ancien data center de l'Ohio devient le chantier le plus ambitieux de Meta pour entraîner ses futurs modèles d'IA. Le site, baptisé Prometheus, vise à faire fonctionner près d'un million de processeurs graphiques comme un seul organisme, avec déjà plusieurs centaines de milliers d'unités en service réparties entre plusieurs bâtiments.
Ce projet ne concerne directement aucun studio créatif, aucun graphiste, aucun monteur. Il s'adresse à une poignée d'ingénieurs capables de faire tenir ensemble des dizaines de milliers de puces sans que la moindre panne ne fasse tout s'arrêter. Mais c'est précisément ce genre de chantier qui fixe, des mois à l'avance, la puissance disponible et le coût des modèles qui finiront par arriver dans les outils de génération d'image, de vidéo ou de texte grand public.
Le chiffre qui compte vraiment dans cette publication technique n'est pas la taille du site, mais sa fiabilité retrouvée. Meta explique avoir réduit de 99 % le nombre d'interruptions quotidiennes de ses entraînements, un problème qui, au départ, pouvait stopper le travail près de mille fois par jour sur un groupe de huit mille puces. Cette stabilité conditionne la vitesse à laquelle les prochains modèles pourront être entraînés, et donc la cadence à laquelle les outils créatifs grand public verront passer une nouvelle génération de capacités.
Meta documente aussi ses limites avec une franchise inhabituelle pour ce genre d'annonce. Aucun bilan énergétique complet n'est donné, aucun chiffre sur la consommation d'eau, aucune date précise pour atteindre le million de puces annoncé. L'essentiel du texte porte sur la manière de survivre aux pannes, pas sur une promesse de puissance brute.
Cette infrastructure reste un sujet d'ingénieurs avant d'être un sujet de création. Son intérêt pour les métiers créatifs tient à ce qu'elle annonce en creux : la bataille pour entraîner les futurs modèles se joue sur la capacité à faire tourner des centaines de milliers de puces sans perdre de temps en réparations, bien avant qu'un designer ouvre un prompt. Les entreprises qui maîtrisent cette plomberie fixeront demain le rythme et le prix des outils que les créatifs utilisent déjà.