Les modèles d'IA ouverts permettent aux entreprises de construire les systèmes qu'elles possèdent réellement. Voici à quoi cela ressemble.

Points clés

• Harvey, une entreprise d'IA juridique, a post-entraîné Nemotron 3 Ultra de NVIDIA sur son propre benchmark juridique et égalé les modèles fermés les plus performants à un coût au moins 10 fois inférieur par exécution.
• Arcee AI a réalisé des coûts d'inférence d'environ 90 cents par million de tokens générés sur Nemotron, environ 20 fois moins cher que les modèles fermés de pointe comparables.
• Holotron 3 Nano de H Company a obtenu un score supérieur à 76% sur OSWorld-Verified, un benchmark de tâches informatiques réelles, tout en égalant les modèles de pointe les plus performants à une fraction du coût.
• LangChain a adapté son framework d'agent pour Nemotron 3 Ultra sans réentraînement du modèle et a atteint la meilleure précision d'agent parmi les modèles ouverts à environ 10 fois moins cher que les alternatives fermées.
• YTL AI Labs a post-entraîné un modèle Nemotron pour la langue malaise, mettant l'IA personnalisée localement à la disposition de la communauté des développeurs malais.

La plupart des entreprises qui veulent l'IA aujourd'hui font face au même problème discret. Les grands modèles puissants d'OpenAI, Google et Anthropic sont des boîtes noires. Vous pouvez leur poser des questions. Vous ne pouvez pas regarder à l'intérieur, modifier ce qu'ils savent, ou les exécuter sur vos propres serveurs sans acheminer vos données par les systèmes de quelqu'un d'autre.

Pour un hôpital ou un cabinet juridique, cela compte beaucoup.

NVIDIA a positionné sa famille de modèles ouverts Nemotron, c'est-à-dire des modèles dont le fonctionnement interne est entièrement disponible pour inspection et modification, comme la réponse à ce problème. Un article de blog publié cette semaine par l'entreprise expose à quoi cela ressemble dans la pratique, avec des chiffres à l'appui.

La startup d'IA juridique Harvey a entraîné Nemotron 3 Ultra sur son propre benchmark juridique interne. Le résultat a égalé la précision des meilleurs modèles commerciaux fermés sur des tâches juridiques complexes, à un coût que NVIDIA affirme être au moins 10 fois inférieur par exécution. Ce n'est pas une erreur d'arrondi. Pour un cabinet effectuant des milliers d'examens de documents par mois, les économies s'accumulent rapidement.

Glean a construit un produit appelé Waldo, un outil de recherche pour les données d'entreprise, en associant Nemotron à un modèle fermé plus large. Waldo fournit les réponses plus rapidement et utilise moins de tokens, les petites unités de texte que les modèles d'IA traitent, ce qui réduit directement les coûts informatiques.

Arcee AI a poussé plus loin sur le coût. En exécutant Nemotron sur la plateforme matérielle Blackwell de NVIDIA, la génération de puces qui a suivi la génération Hopper précédente, l'entreprise a réduit les coûts d'inférence à environ 90 cents par million de tokens générés. Les modèles fermés de pointe comparables coûtent environ 20 fois plus cher pour le même travail.

Tous les cas d'usage ne concernent pas le droit ou le coût. YTL AI Labs a post-entraîné un modèle Nemotron spécifiquement pour la langue malaise, créant une IA personnalisée qu'un fournisseur mondial aurait peu de raison commerciale de construire.

Abridge et Heidi Health appliquent tous deux des modèles Nemotron personnalisés à la documentation clinique, la tâche chronophage de convertir une conversation médecin-patient en une note médicale structurée. Se tromper là-dessus a des conséquences réelles, ce qui est exactement pourquoi ces équipes veulent une visibilité complète sur la façon dont leur modèle a été entraîné et la capacité de le corriger quand il ne fonctionne pas correctement.

Les entreprises devraient-elles abandonner entièrement les modèles fermés?

Non. Le cadrage de NVIDIA dit que les modèles ouverts et fermés fonctionnent mieux ensemble. Un modèle général puissant peut gérer la planification complexe tandis qu'un modèle ouvert spécialisé plus petit exécute des tâches spécifiques à moindre coût. Pensez à utiliser un spécialiste coûteux pour l'appel de jugement difficile et un généraliste bien entraîné pour le travail courant.

L'argument pratique en faveur des modèles ouverts n'est pas qu'ils surpassent les modèles fermés sur chaque tâche aujourd'hui. C'est que vous possédez ce que vous construisez. Vous pouvez le tester contre vos propres données, l'améliorer quand il échoue, et garder vos informations les plus sensibles hors des serveurs tiers. Pour les industries où une mauvaise réponse a des conséquences juridiques ou cliniques, ce contrôle n'est pas optionnel.