Un greffon de mémoire fait lire dix millions de tokens à des modèles existants
— AGENTS
Voltropy remplace le mécanisme de lecture de trois modèles déjà entraînés pour leur faire ingérer dix millions de tokens sans système de mémoire annexe. Le plus rapide des trois garde l'essentiel de ses capacités à cette échelle, un résultat que seul son propre rapport a mesuré jusqu'ici.
Annoncer dix millions de tokens de contexte est une chose. Voltropy publie un rapport qui mesure ce que ses trois modèles Vast-10M font réellement de cette masse de texte, du raisonnement suivi jusqu'à la mémoire des détails semés au début d'un document interminable.
Ces trois modèles partent de bases existantes, DeepSeek V4.0 Flash, DeepSeek V4.0 Pro et GLM-5.2, dont Voltropy a remplacé le mécanisme de lecture du texte par sa propre technique, baptisée VSA. Ce choix compte pour l'industrie des modèles de langage: greffer une mémoire longue sur une architecture déjà entraînée coûte infiniment moins cher que d'en construire une nouvelle. C'est ce calcul de coût qui décidera ensuite du prix des futurs assistants capables d'ingérer un scénario complet ou l'historique entier d'un projet, quand ces techniques migreront vers des produits commerciaux.
Les chiffres publiés montrent surtout que la mémoire tient dans la durée. Entre un million et dix millions de tokens, Vast-10M-Flash conserve 82% de son score sur le test BEAM, sans effondrement brutal. Face aux modèles concurrents cités dans le rapport, il se maintient jusqu'à un million de tokens. Aucun concurrent n'a été évalué au palier des dix millions, et la comparaison s'arrête là.
Ce rapport vient de Voltropy elle-même, sans validation indépendante. Le réentraînement nécessaire pour greffer VSA sur les modèles d'origine reste une variable que l'entreprise ne détaille pas complètement, alors qu'elle explique une partie des gains observés.
Le score brut compte moins que le principe. Une méthode capable d'allonger la mémoire d'un modèle existant sans le reconstruire annonce des mises à jour moins coûteuses pour les outils qui traitent déjà de gros volumes de texte. Ce terrain se rejouera dès que la technique passera des laboratoires aux abonnements grand public, avec en jeu le prix des assistants qui devront un jour ingérer scénarios, contrats ou archives entières sans rien perdre en route.