EAGLE-4 triple la vitesse des grands modèles de langage sans les réentraîner
— AGENTS
Eagle AI publie une méthode qui accélère jusqu'à 3,59 fois la génération de texte d'un modèle déjà entraîné, sans toucher à ses réponses. Le gain se mesure aussi bien sur des serveurs de calcul que sur un smartphone, où la consommation d'énergie chute de moitié par mot produit.
Aucun créatif ne va installer EAGLE-4 un lundi matin. L'outil tourne dans les couches basses d'un serveur, là où un modèle de langage calcule chaque mot de sa réponse. Ce que change cette méthode, c'est la vitesse à laquelle ce calcul s'exécute, pas ce que le modèle sait faire ou dire.
Le principe tient en une idée simple : au lieu de produire les mots un par un, un petit réseau auxiliaire propose plusieurs mots d'un coup, que le grand modèle vérifie ensuite en bloc. Sur un modèle testé par les chercheurs, le débit passe de 240 à 864 tokens par seconde pour une requête unique, soit une réponse générée trois fois et demie plus vite, sans que son contenu change.
Cette brique ne concerne ni les directeurs artistiques ni les motion designers directement. Elle concerne les plateformes qui font tourner des assistants IA à grande échelle et qui facturent chaque requête au token. Un gain de vitesse de cet ordre, répété sur des millions d'appels quotidiens, pèse sur le coût de calcul que ces plateformes répercutent ensuite sur leurs abonnements. La même logique s'applique aux assistants intégrés dans les logiciels créatifs du quotidien, où la latence perçue dépend de ce genre d'optimisation invisible.
La démonstration sur smartphone mérite qu'on s'y attarde. Sur un Motorola grand public, sans aucune modification matérielle, la génération d'un modèle compact est passée de 23 à 75 tokens par seconde, pour une consommation d'énergie réduite de moitié par mot produit. De quoi imaginer, à terme, des assistants embarqués dans des applications mobiles de création qui répondent sans faire fondre la batterie en vingt minutes.
La réserve tient à la licence. EAGLE-4 est accessible en code source, mais sous des conditions commerciales propriétaires, avec un seuil de chiffre d'affaires au-delà duquel un accord séparé devient nécessaire. Les moteurs d'inférence grand public comme SGLang ou vLLM ne supportent pas encore la méthode dans leurs versions standard. L'adoption dépendra donc moins de la performance annoncée que de la vitesse à laquelle les plateformes commerciales décideront de l'intégrer, et du prix qu'elles choisiront d'en répercuter ou non sur leurs clients.