Baidu fait chercher ses propres optimisations par une IA, gain immédiat sur la facture d'inférence

— Business

Baidu a mis une IA au travail pour accélérer son modèle ERNIE 5.5 Flash, avec un gain de débit de 33,7 % sans changer une virgule des réponses produites. L'essentiel des gains vient d'implémentations déjà écrites par les ingénieurs, activées plus vite grâce à cette recherche automatisée.

Baidu fait chercher ses propres optimisations par une IA, gain immédiat sur la facture d'inférence

Baidu a construit un système qui explore des pistes de code, teste des modifications et vérifie leurs effets, tout seul, pour accélérer son propre modèle ERNIE 5.5 Flash. Le principe tient en une image simple : une IA qui cherche comment faire tourner une autre IA plus vite, sans intervention humaine à chaque étape. Le résultat le plus parlant tient en un chiffre, 33,7 % de débit en plus sur un module d'inférence, et les réponses produites restent identiques au bit près.

Ce chantier ne parle à aucun studio créatif directement. Les mains qui en profitent sont celles des équipes d'infrastructure chez Baidu, chargées de faire tourner les modèles au meilleur coût. Mais ce type d'optimisation pèse sur le prix futur de tout ce qui repose sur de l'inférence, des générateurs d'images aux assistants de texte, parce qu'un modèle qui répond plus vite coûte moins cher à faire tourner, et ce coût finit toujours par se refléter dans le tarif d'un abonnement.

Un chiffre impressionne davantage dans le détail : sur les accélérateurs Kunlunxin, la vitesse de génération grimpe à plus de six fois la référence. Une bonne part de ce bond vient de l'activation d'implémentations déjà écrites par les ingénieurs, que le système a simplement su repérer et combiner plus vite qu'une équipe humaine ne l'aurait fait seule. L'automatisation accélère le rangement de solutions connues, elle n'en invente pas de nouvelles.

Comparé à une optimisation manuelle classique, l'apport tient surtout dans la vitesse d'exécution : trois jours de recherche automatisée pour obtenir ce gain de débit, avec un contrôle qui vérifie que chaque modification respecte les mêmes critères que ceux imposés aux ingénieurs. C'est un progrès d'ingénierie pur, mesuré en secondes et en pourcentages, pas une rupture créative.

Cette course à l'inférence moins chère se joue entre laboratoires, Baidu d'un côté, les géants américains de l'autre, et elle détermine en partie la vitesse et le prix des outils qu'un directeur artistique ouvrira demain sans y penser. Rien à faire aujourd'hui sur ce terrain, sinon observer que la facture des générateurs continue de baisser pour des raisons qui se décident loin des studios.

Sources

Umiros Média