Un modèle géant tient désormais dans une poche d'iPhone
— AGENTS
PrismML vient de démontrer l'impensable : compresser 27 milliards de paramètres sur un téléphone sans sacrifier les performances. Cette percée technique dérouille l'exécution d'agents IA en local, libérant les workflows des frais cloud — une bifurcation majeure pour l'industrie.
Vingt-sept milliards de paramètres, d'ordinaire, c'est un centre de données et une facture d'électricité. PrismML vient de les loger dans la mémoire d'un iPhone. Le modèle s'appelle Bonsai 27B. Il descend de Qwen3.6 27B, sort sous licence Apache 2.0, et pèse, dans sa version la plus légère, moins de quatre gigaoctets.
Tout tient dans la compression des poids, ramenés à des valeurs extrêmes. Une version ternaire d'abord — trois états seulement, moins un, zéro, plus un — soit 1,71 bit effectif par poids, pour 5,9 gigaoctets. Puis une version 1 bit, binaire, réduite à 3,9 gigaoctets. Assez pour se glisser dans un téléphone récent. Et la contrainte s'impose à l'ensemble du réseau, sans porte de sortie vers une précision plus fine.
Un tel écrasement aurait dû saborder le modèle. Il n'en est rien. La version ternaire garde 95 % des performances de l'original, la version 1 bit encore 90 %. Les aptitudes qui résistent le mieux sont aussi les plus stratégiques : les mathématiques, le code, l'appel d'outils. Le multimodal tient debout lui aussi, captures d'écran, documents, images de caméra, avec une fenêtre de contexte de 262 000 tokens.
Le vrai basculement se joue côté usages. Un agent autonome qui tourne en local, sur l'appareil, cesse de facturer chaque itération. Plus d'allers-retours réseau à répétition. Plus de données utilisateur exposées à chaque requête. L'équipe, venue de Caltech, ramène le calcul là où vivent déjà les données.
Reste la question qu'une bascule pareille laisse ouverte : si un modèle de cette taille tient désormais dans une poche, que reste-t-il vraiment à justifier dans le cloud ?