Inkling : Thinking Machines refuse la course aux paramètres
— Business
Thinking Machines lance Inkling, un modèle multimodal de 975 milliards de paramètres en open weights, mais ne cherche pas à rivaliser avec les géants du secteur. Son architecture MoE privilégie l'adaptation fine et l'entraînement sur mesure plutôt que la performance brute. Une stratégie qui redessine les contours de ce qu'exige vraiment un modèle d'IA performant.
La course aux modèles se joue d'ordinaire sur les classements. Thinking Machines Lab prend le contrepied. Son premier modèle entraîné de zéro, Inkling, débarque avec ses poids complets ouverts et une ambition inversée : non pas décrocher la première place, mais fournir une base à modeler.
Sous le capot, une architecture Mixture-of-Experts. 975 milliards de paramètres au total, 41 milliards actifs à chaque passe. La fenêtre de contexte grimpe jusqu'à un million de tokens. Le préentraînement a brassé 45 000 milliards de tokens, mêlant texte, images, audio et vidéo. Une déclinaison plus légère, Inkling-Small, tourne avec 12 milliards de paramètres actifs.
Les choix techniques trahissent une filiation. La structure MoE s'inspire de DeepSeek-V3. RoPE cède la place à un embedding positionnel relatif, pensé pour tenir la distance sur les longues séquences. La phase d'apprentissage par renforcement a cumulé plus de 30 millions de rollouts. Le modèle est multimodal de naissance, pas multimodal par greffe.
Reste le vrai pari. Inkling se présente comme un socle à personnaliser plutôt que comme le plus puissant du marché. Pour l'illustrer, une démonstration éloquente — le modèle a rédigé son propre job d'entraînement, l'a lancé, puis évalué. La personnalisation ne se relègue plus à la marge, elle devient le produit.
Côté accès, les poids sont posés sur Hugging Face, le modèle est servi via Tinker à tarif réduit temporaire, et hébergé chez Together, Fireworks, Modal, Databricks et Baseten. Dans un secteur obsédé par le sommet des benchmarks, un modèle qui revendique la malléabilité plutôt que la performance brute trouvera-t-il preneur ?