Le nouveau modèle d'IA de Mira Murati : Les entreprises pourront posséder leur IA au lieu de la louer.

Points clés

• Thinking Machines Lab a publié Inkling mercredi, son premier modèle d'IA accessible au public, environ neuf mois après le début de sa création.
• Inkling dispose de 975 milliards de paramètres au total (une mesure de la complexité du modèle), mais n'en utilise qu'environ 41 milliards pour chaque tâche spécifique, ce qui le rend plus rapide et moins coûteux à exécuter que sa taille ne le suggère.
• Le modèle est à poids ouvert, ce qui signifie que toute entreprise ou développeur peut le télécharger et le modifier gratuitement, contrairement à ChatGPT ou Claude.
• Une étude conjointe publiée fin juin a révélé qu'un modèle personnalisé utilisant des méthodes similaires à poids ouvert a obtenu 84,7 % aux tests de raisonnement financier à un coût d'exécution environ quatorze fois inférieur à celui des meilleurs modèles d'IA propriétaires.
• Thinking Machines prévoit de gagner de l'argent grâce à Tinker, sa plateforme payante pour entraîner et adapter le modèle, et non à partir du modèle lui-même.

Mira Murati a passé des années comme directrice de la technologie chez OpenAI. Aujourd'hui, elle parie contre ce qu'OpenAI vend.

Thinking Machines Lab, la startup que Murati a fondée après avoir quitté OpenAI, a publié son premier modèle d'IA mercredi. Il s'appelle Inkling et fonctionne différemment des principaux produits d'IA connus du public.

ChatGPT, Claude et Google Gemini sont tous des systèmes fermés. Vous payez pour les utiliser. L'entreprise qui les a créés conserve le contrôle total. Inkling est à poids ouvert, ce qui signifie que toute entreprise ou développeur peut télécharger l'intégralité du modèle et l'adapter à ses propres besoins, sans frais de la part de Thinking Machines.

Voilà toute la proposition. L'entreprise croit qu'une IA qu'une entreprise entraîne sur ses propres données et son expertise surpassera un modèle à usage général qu'un grand laboratoire vend à tous.

Les preuves soutenant cet argument sont véritablement intéressantes. Bridgewater Associates, le plus grand fonds spéculatif au monde, a travaillé avec des chercheurs pour prendre un modèle d'IA open-source existant et l'entraîner davantage sur la propre connaissance financière de Bridgewater. Ce modèle personnalisé a obtenu 84,7 % aux tests de raisonnement financier, surpassant les meilleurs produits d'IA propriétaires, tout en coûtant approximativement quatorze fois moins à exécuter. Les résultats proviennent d'une étude que les deux sociétés ont publiée conjointement fin juin, et non d'un évaluateur indépendant, donc traitez cela avec le scepticisme approprié.

Le directeur général de Microsoft, Satya Nadella, a soulevé un point connexe dans un article de blog dimanche. Les entreprises utilisant des produits d'IA fermés, a-t-il écrit, paient deux fois : une fois en frais d'abonnement, et à nouveau en remettant les connaissances métier intégrées dans tous leurs messages et corrections, des connaissances qui peuvent réalimenter les futures versions d'un modèle qu'elles ne possèdent pas.

Inkling est-il donc réellement bon ?

Thinking Machines dit clairement qu'Inkling n'est pas le modèle d'IA le plus puissant disponible aujourd'hui, fermé ou ouvert. Ce qu'il vise à la place, c'est une performance régulière et bien équilibrée à un coût inférieur. L'entreprise affirme qu'Inkling utilise un tiers des étapes de traitement en moins qu'un modèle concurrent de Nvidia pour atteindre le même score aux tests de codage. Il peut également signaler quand il est incertain plutôt que de deviner, et les utilisateurs peuvent augmenter ou diminuer son effort de réflexion selon qu'ils veulent une réponse réfléchie ou rapide.

Inkling est énorme sous le capot. Il a été entraîné sur 45 trillions de tokens, qui sont les fragments de texte, d'image, d'audio et de données vidéo à partir desquels les systèmes d'IA apprennent. Mais en raison de son architecture (un design de mélange d'experts, où seule une partie du modèle s'active pour chaque tâche), il reste pratique à exécuter.

Thinking Machines a été prudente sur un point : Inkling a été partiellement entraîné en utilisant des sorties d'autres modèles d'IA à poids ouvert, une pratique courante appelée distillation. L'entreprise affirme que son prochain modèle abandonnera entièrement cette approche.

Comment Thinking Machines gagne-t-elle de l'argent ? Pas à partir du téléchargement du modèle. Les revenus proviennent de Tinker, sa plateforme payante pour aider les entreprises à affiner et héberger leurs propres versions personnalisées d'Inkling.

C'est l'analyse honnête ici. Si votre organisation possède une véritable expertise spécifique enfouie dans la tête de votre personnel et votre travail antérieur, un modèle d'IA personnalisé entraîné sur cette connaissance peut surpasser un modèle généraliste à une fraction du coût. Le chemin pour y arriver est maintenant un peu plus court.