Reve dévoile l'infrastructure de 10 000 GPU qui fait tourner ses modèles d'image
— Business
Reve raconte comment une équipe réduite pilote des milliers de GPU pour entraîner ses modèles de génération et d'édition d'images. L'enjeu n'est plus la taille du labo mais la plomberie capable de tenir un entraînement sans tout perdre à la première panne.
Dix mille GPU, c'est l'équivalent d'un data center entier consacré à un seul chantier. Reve explique comment une équipe d'ingénierie réduite arrive à faire tourner cette masse de calcul sans qu'elle devienne ingérable, et le détail compte autant que le chiffre.
Reve sert à générer et retoucher des images, un outil que des directeurs artistiques et des illustrateurs utilisent déjà pour produire des visuels ou itérer sur des moodboards. Les versions 2.0 et 2.1 du modèle sont sorties de cette infrastructure précise. Chaque amélioration de la plomberie se traduit, quelques semaines plus tard, par une mise à jour que ces utilisateurs téléchargent sans se poser de questions sur ce qui tourne en dessous.
Le détail le plus parlant tient à la gestion des pannes. Sur des milliers de machines qui tournent pendant des jours, une carte défaillante ne doit plus obliger à tout recommencer depuis zéro. Reve a construit un système qui isole la machine en panne, continue le calcul avec le reste du groupe, puis réintègre la machine une fois réparée. Un outil interne nommé GKR permet à un chercheur de lancer un entraînement sur seize ou cent vingt-huit cartes graphiques d'une seule commande, sans jongler avec la configuration de chaque cluster.
Le rapport technique ne dit rien du coût total de ces entraînements ni du nombre exact de GPU mobilisés pour chaque modèle sorti. Impossible donc de savoir ce que cette cadence de sortie coûte réellement à produire, ni si elle est reproductible par un studio plus modeste.
Ce que ça prouve reste solide malgré cette zone grise : un labo spécialisé sur l'image n'a plus besoin de la taille d'un géant généraliste pour tenir le rythme d'itération de ses modèles. La bataille entre plateformes de génération d'images se joue aussi sur cette capacité à absorber les pannes et relancer vite, pas seulement sur la qualité des visuels produits. Les utilisateurs de Reve verront probablement les nouvelles versions arriver plus vite, sans que cela garantisse une amélioration sensible de ce qui sort à l'écran.