Inkling-Small est un quart de la taille de son prédécesseur et presque aussi capable

Points clés

• Thinking Machines a lancé Inkling-Small le 9 juillet 2025, seulement deux semaines après le lancement de son modèle Inkling original.
• Inkling-Small possède 276 milliards de paramètres au total mais n'en utilise que 12 milliards à la fois, contre 975 milliards au total et 41 milliards actifs pour l'Inkling original.
• Le site d'évaluation tiers Artificial Analysis a attribué à Inkling-Small un score de 40 sur son Intelligence Index, un point en dessous du score de 41 d'Inkling.
• Inkling-Small surpasse Inkling aux tests de codage, y compris 80,2 % contre 77,6 % sur SWE-bench Verified, un test de codage standard.
• Le modèle est publié sous la licence open-source Apache 2.0, qui permet aux entreprises de l'utiliser, de le modifier et de le commercialiser avec peu de restrictions.

Deux semaines. C'est tout ce qu'il a fallu à Thinking Machines, la startup fondée par l'ancienne directrice de la technologie d'OpenAI Mira Murati, pour faire suite à son modèle d'IA inaugural avec un successeur plus petit, moins cher et presque aussi capable.

Le nouveau modèle s'appelle Inkling-Small. C'est un modèle de raisonnement multimodal, ce qui signifie qu'il peut accepter du texte, des images et de l'audio et produire du texte en réponse. Malgré son nom, il n'est pas petit selon les mesures ordinaires, mais il est considérablement plus léger que son homologue, et l'écart de performance est étonnamment étroit.

Comment se compare-t-il à l'Inkling original ?

Sur l'Intelligence Index d'Artificial Analysis, un système de notation tiers qui classe les modèles d'IA selon des dizaines de tests, Inkling-Small obtient un score de 40 comparé au score de 41 d'Inkling. Un seul point de séparation avec un modèle qui est environ quatre fois plus volumineux.

La différence de taille provient de l'architecture. Inkling-Small utilise une conception appelée modèle Mixture-of-Experts clairsemé. Pensez-y comme une grande équipe de spécialistes : le modèle possède 256 sous-réseaux spécialisés, appelés experts, mais pour chaque mot ou phrase qu'il traite, il ne consulte que six d'entre eux plus deux experts polyvalents qui sont toujours actifs. C'est pourquoi le modèle contient 276 milliards de paramètres (valeurs apprises intégrées lors de l'entraînement) au total, mais n'active que 12 milliards à la fois. Moins de travail par étape signifie des coûts informatiques moins élevés.

Sur plusieurs tests de codage et de raisonnement, Inkling-Small surpasse en réalité son homologue plus volumineux. Il obtient 80,2 % sur SWE-bench Verified, un test de correction de bogues logiciels du monde réel, contre 77,6 % pour Inkling. Il devance également son concurrent sur un test de codage scientifique appelé SciCode et sur Humanity's Last Exam, un test de raisonnement au niveau expert.

L'avantage n'est pas universel. Inkling conserve une avance claire dans les tâches de connaissance factuelle : 23,7 % contre 15,5 % sur un test du domaine bancaire. Les entreprises utilisant le modèle pour des requêtes factuelles critiques devront toujours l'associer à des outils de récupération et à un examen humain.

Pouvez-vous vraiment l'exécuter vous-même ?

Pas sur un ordinateur portable. La version en précision complète d'Inkling-Small nécessite au moins 600 Go de mémoire GPU combinée, le type de puissance informatique spécialisée que l'on trouve dans les salles serveurs, pas dans les bureaux à domicile. Thinking Machines répertorie deux configurations matérielles prises en charge : quatre puces NVIDIA B300 ou huit puces NVIDIA H200.

Une version compressée réduit cette exigence à environ 180 Go, et l'entreprise affirme que cette variante peut fonctionner sur une seule puce B300. Il s'agit néanmoins fermement du domaine de l'entreprise.

L'étiquette « Small » est relative à Inkling, non au monde plus large des modèles légers qui fonctionnent sur du matériel grand public. Cela dit, les poids complets du modèle sont librement disponibles sur Hugging Face, la principale plateforme de partage des modèles d'IA open-source, et la communauté open-source produira presque certainement des versions encore plus compressées dans les semaines à venir.

Quel est le coût d'utilisation via l'API ?

Thinking Machines propose actuellement une réduction de lancement, ramenant les tarifs à 0,58 $ par million de jetons d'entrée et 1,44 $ par million de jetons de sortie pour la version standard avec contexte de 64 000. Un jeton représente approximativement trois quarts d'un mot, donc un million de jetons couvre un grand volume de texte.

La licence Apache 2.0 couvrant le modèle mérite d'être soulignée. Elle permet aux entreprises d'utiliser, de modifier, d'affiner et de créer des produits commerciaux basés sur Inkling-Small sans les seuils de revenus ou les conditions de marque qui apparaissent dans certaines autres licences de modèles d'IA. Pour les équipes juridiques et d'approvisionnement, c'est une simplification significative.

Questions fréquemment posées

« Open source » signifie-t-il que n'importe qui peut l'utiliser gratuitement ?

Apache 2.0 est l'une des licences standard les plus permissives en logiciel. Les entreprises peuvent utiliser, modifier et vendre des produits construits sur Inkling-Small, à condition de respecter les règles d'attribution de la licence et d'examiner toute politique d'utilisation acceptable que Thinking Machines publie à ses côtés.

Ce modèle est-il sûr pour les décisions importantes ?

Les scores de connaissances factuelles d'Inkling-Small sont inférieurs à ceux du plus grand Inkling, et son score sur un indice factuel est négatif, ce qui signifie qu'il est en dessous de la ligne de base en termes de couverture des connaissances générales. Toute organisation l'utilisant pour des décisions médicales, juridiques ou financières devrait intégrer la récupération de sources vérifiées et l'examen humain des résultats.