Le problème électrique au cœur de l'IA moderne

Points clés

• Le système GB300 NVL72 de NVIDIA fournit jusqu'à 25 fois plus de travail IA utile par watt que la génération Hopper précédente, selon une analyse de SemiAnalysis InferenceX.
• Les améliorations logicielles seules ont augmenté les performances par watt sur un modèle jusqu'à 5 fois en un seul mois en 2025.
• NVIDIA affirme que son logiciel de gestion de l'énergie permet aux opérateurs d'exécuter jusqu'à 40 % plus de puces dans le même budget électrique.
• Des entreprises comme Anthropic, OpenAI et Perplexity exécutent actuellement des charges de travail de production sur le matériel Blackwell NVL72, selon NVIDIA.
• Les chiffres de cet article proviennent d'un message promotionnel de NVIDIA, pas d'une étude indépendante évaluée par les pairs.

L'IA est, à la base, un problème d'électricité.

Chaque fois qu'un chatbot répond à votre question ou qu'un agent IA, un logiciel qui exécute des tâches multi-étapes de manière autonome, réserve votre voyage ou rédige votre document juridique, un centre de données quelque part consomme de l'électricité pour le faire. Ce centre de données dispose d'un budget électrique fixe. L'entreprise qui génère la plus grande quantité de résultats utiles à partir de ce budget gagne le plus d'argent. L'entreprise qui ne le fait pas, ne peut pas se développer.

NVIDIA décrit cela comme « performance par watt », c'est-à-dire la quantité de résultats IA que vous obtenez pour chaque unité d'électricité consommée. Plus ce nombre est élevé, plus une installation peut produire de jetons (les petits morceaux de texte que les systèmes IA traitent) avant de atteindre sa limite de puissance.

Les chiffres publiés par NVIDIA sont frappants. Son système GB300 NVL72, une plateforme serveur à l'échelle d'un bâti construite autour de ses dernières puces Blackwell, fournit reportedly jusqu'à 25 fois plus de performance par watt que sa génération Hopper plus ancienne sur DeepSeek V4 Pro, l'un des modèles IA ouverts actuels. Sur GLM5.1, un autre modèle de frontier, le gain est jusqu'à 20 fois. Sur Kimi K2.6, un modèle conçu pour des tâches automatisées plus longues, il atteint jusqu'à 10 fois.

Ces chiffres proviennent de SemiAnalysis InferenceX, un groupe d'analyse comparative tiers, cité dans le propre article de blog de NVIDIA. Ils ne proviennent pas d'une étude évaluée par les pairs ou d'un audit indépendant.

Est-ce que tout cela affecte les gens ordinaires ?

Oui, indirectement mais de façon significative. La vitesse, le coût et la disponibilité des outils IA que les gens ordinaires utilisent chaque jour dépendent tous de l'efficacité avec laquelle les centres de données fonctionnent. Perplexity, la société de recherche IA, déclare qu'elle exécute des centaines de millions de requêtes quotidiennement sur du matériel Blackwell. Si l'infrastructure sous-jacente devient plus efficace, les services construits dessus peuvent devenir plus rapides et moins chers.

NVIDIA met également en évidence un drainage moins évident : le refroidissement. Dans une installation IA typique, seulement environ 60 % de l'électricité prélevée sur le réseau atteint réellement les puces et effectue un travail utile. Le reste est perdu pour la gestion thermique et d'autres inefficacités. Le logiciel DSX MaxLPS de NVIDIA, qui déplace l'énergie entre les puces en temps réel et supporte le refroidissement liquide, vise à récupérer une partie de ce gaspillage.

Pour les entreprises qui gèrent ces systèmes, Anthropic et OpenAI entre autres selon NVIDIA, il s'agit d'économie autant que d'ingénierie. Plus de résultats par watt signifie un coût inférieur par requête, ce qui se répercute directement sur les marges bénéficiaires.

Le logiciel est tout aussi important que le matériel ici. NVIDIA affirme que sur DeepSeek V4, les mises à jour de sa pile de logiciels d'inférence ont amélioré les performances par watt jusqu'à 5 fois en un seul mois. C'est un gain important sans remplacer une seule puce.

Tout cela prépare le terrain pour la prochaine plateforme de NVIDIA, appelée Vera Rubin, que l'entreprise dit repousser l'efficacité à l'échelle d'un bâti encore plus loin.

La tension fondamentale est réelle même si le marketing est sélectif : l'électricité est finie, l'appétit pour l'IA ne l'est pas, et chaque laboratoire construisant le prochain modèle de frontier doit composer avec cet écart.