Perplexity optimise sa tuyauterie interne pour gagner des millisecondes
— Business
Perplexity détaille l'infrastructure qui prépare chaque réponse avant même que le modèle ne parle, avec des gains de latence marqués sur les petites requêtes. Les chiffres restent maison, sans comparaison indépendante ni preuve sur la pertinence des résultats.
Avant qu'une réponse s'affiche dans Perplexity, trois couches logicielles baptisées Ivy, Tulip et ROSE se relaient pour convertir la question en vecteur, retrouver les documents proches et les classer. L'entreprise publie le détail de cette mécanique, et le chiffre qui parle le plus concrètement à quiconque a déjà attendu un chargement web est celui-ci : sur une requête courte, la latence médiane tombe de 4,60 à 1,53 milliseconde, soit une réponse environ trois fois plus rapide à sortir de la file d'attente du serveur.
Cette publication ne concerne aucun outil de création. Elle s'adresse aux équipes qui construisent et opèrent des moteurs de recherche conversationnels, un métier d'infrastructure logicielle plutôt que de production visuelle ou sonore. Mais Perplexity fait partie des services que des professionnels créatifs utilisent déjà en amont d'un brief pour trouver une référence, vérifier un fait ou explorer un sujet, et la vitesse de ce genre de moteur conditionne directement le confort d'usage au quotidien.
Ce travail dit surtout quelque chose du marché derrière ces outils. La rapidité perçue par l'utilisateur ne dépend pas seulement du modèle de langage choisi, mais de tout ce qui tourne autour : tokenisation, répartition entre serveurs, transferts mémoire. Réduire ce coût caché permet d'absorber plus de trafic et de traiter plus de documents pour le même budget de calcul, ce qui joue directement sur le prix futur de l'abonnement ou la générosité des paliers gratuits.
La réserve la plus solide porte sur ce que ces mesures ne montrent pas. La tolérance de similarité vérifiée reste inférieure à 0,1 %, ce qui garantit que les vecteurs produits sont proches, mais rien dans ces tests n'évalue la pertinence réelle des documents retrouvés. Une recherche plus rapide n'est pas automatiquement une recherche plus juste, et Perplexity ne publie aucun coût par requête avant et après ce chantier.
Le gain reste par ailleurs inégal selon la charge. Sur les traitements massifs de documents à l'indexation, l'avantage de la nouvelle pile tombe sous les 3 % avec le modèle maison de l'entreprise, et disparaît même sur certaines longueurs. L'amélioration profite d'abord aux petites requêtes isolées, celles qui ressemblent le plus à une question tapée en direct par un utilisateur pressé.
Cette annonce ne change rien à un brief, un devis ou un livrable créatif aujourd'hui. Elle indique en revanche que la bataille entre moteurs de recherche IA se joue de plus en plus sur des gains de tuyauterie invisibles, et que ce travail d'ingénierie finira par se traduire, tôt ou tard, dans le prix ou la fluidité des outils que les studios utilisent sans y penser.