Les GPU inactifs sont les nouveaux avions immobilisés : pourquoi le prochain problème de l'IA est le gaspillage, non la puissance
L'industrie de l'IA a passé des années à accélérer pour construire des modèles plus intelligents et acheter davantage de puces. Un problème plus discret se dessine maintenant : le matériel coûteux assis dans les centres de données fait très peu de travail, et personne n'a été chargé de le corriger.
Points clés
- Les puces GPU, les processeurs spécialisés qui font fonctionner l'IA, coûtent de l'argent à chaque heure où elles sont allumées, qu'elles fassent ou non du travail utile.
- Anthropic s'est engagée simultanément dans des accords d'informatique IA multi-gigawatts sur quatre plates-formes matérielles (Amazon, Google, Microsoft et AMD) d'ici 2026, signe que même les laboratoires les mieux financés traitent l'accès aux puces comme une pénurie en cours.
- Le même décalage entre les coûts matériels fixes et la demande variable qui a presque coulé les compagnies aériennes s'applique désormais aux grappes d'IA d'entreprise.
- Les entreprises qui achètent leurs propres puces pour échapper aux frais d'API croissants font face à une nouvelle question : comment maintenir ces puces assez occupées pour justifier la facture ?
Le chiffre le plus important pour une compagnie aérienne n'est pas le nombre d'avions qu'elle possède. C'est le nombre d'heures par jour que ces avions passent réellement en vol.
La logique est brutale. Les coûts des aéronefs, les remboursements de financement, l'assurance, les contrats de maintenance continuent de s'accumuler que l'avion soit à une porte d'embarquement ou à 35 000 pieds. Les revenus n'arrivent que lorsqu'il vole. Les transporteurs qui ont maîtrisé les rapides escales et les horaires serrés ont survécu. Ceux qui ne l'ont pas fait ont fait faillite, indépendamment de la taille de leur flotte.
Une analyse publiée par Hugging Face affirme que l'IA d'entreprise se trouve maintenant exactement dans la même situation, mais avec un matériel différent.
Pourquoi cela importe-t-il à ceux qui n'achètent pas de GPU ?
C'est important parce que les coûts des GPU se répercutent en aval sur tous ceux qui utilisent des outils d'IA au travail, ou qui les paient en tant que client.
Un GPU, un processeur spécialisé qui gère les calculs intensifs que l'IA nécessite, accumule des coûts 24 heures sur 24 : électricité, refroidissement, financement, dépréciation. Ses résultats ne comptent que lorsqu'il exécute une tâche réelle. Deux entreprises avec des budgets de puces identiques peuvent finir avec des économies très différentes selon la quantité de ce matériel réellement occupée à un moment donné.
L'industrie a consacré sa première phase à résoudre un problème différent. Les plus grands modèles, entraînés sur plus de données, ont continué à surpasser les plus petits. Les comptes de paramètres, les nombres internes qui déterminaient la capacité d'un modèle, et les classements des leaderboards ont dominé la conversation. Cette course a produit des modèles suffisamment capables pour une utilisation commerciale sérieuse. Elle a également créé un énorme appétit pour les puces.
En 2020, Microsoft a construit pour OpenAI un supercalculateur dédié avec plus de 10 000 GPU pour entraîner GPT-3, le modèle à la base du ChatGPT précoce. À l'époque, ce chiffre semblait presque impossible à imaginer. En 2026, il semble modeste.
À quoi ressemble réellement le gaspillage à l'intérieur d'une grappe de puces ?
Le matériel qui semble occupé peut toujours gaspiller la majeure partie de sa capacité. Le problème est que différentes tâches d'IA veulent des choses différentes de la même puce.
L'inférence en temps réel, générant une réponse d'IA en quelques secondes, exige une faible latence avant tout. Le traitement par lots, traitant de grands ensembles de données durant la nuit, se soucie du débit total et peut attendre. L'entraînement d'un modèle peut occuper une puce solidement pendant des jours. La compression d'un modèle (un processus appelé quantification) a besoin d'une grande rafale de capacité pendant une courte période, puis rien.
Un système de planification accordé pour l'une de ces tâches gérera les autres mal, presque par défaut. Une grappe peut montrer une utilisation moyenne élevée sur un tableau de bord tandis que des tâches spécifiques sont en attente dans une file d'attente en attendant que le type de puce approprié se libère.
Le modèle reflète le problème de l'aviation, mais avec une tournure supplémentaire. Un aéronef inactif peut généralement être affecté à un itinéraire différent à court préavis. Un GPU configuré pour une classe de charge de travail ne peut pas toujours en absorber une autre sans reconfiguration, retard ou gaspillage.
| Époque | Contrainte déterminante | Qui l'a ressenti en premier |
|---|---|---|
| 2018 à 2021 | Qualité du modèle | Laboratoires de recherche |
| 2022 à 2024 | Approvisionnement en puces | Laboratoires et fournisseurs de cloud |
| 2025 et au-delà | Utilisation des puces | Entreprises gérant leurs propres grappes |
Que doivent retenir les entreprises construisant sur l'IA ?
Le résultat pratique est simple. Signer un accord pour la capacité GPU est la partie qui a une date limite et une équipe d'approvisionnement. Maintenir cette capacité au sol est la partie qui décide discrètement si l'accord en valait la peine.
Les entreprises qui se sont éloignées de la tarification API à l'usage, où les coûts augmentent en ligne droite avec chaque requête, vers la possession de leur propre matériel font face à un calcul du seuil de rentabilité. En dessous d'un certain niveau d'utilisation, l'API est moins chère. Au-dessus, l'infrastructure détenue gagne. Mais l'infrastructure détenue ne gagne que si quelqu'un est responsable de la maintenir occupée.
Actuellement, cette responsabilité est largement absente. L'industrie aérienne a fallu des décennies et plusieurs faillites pour faire de l'utilisation un chiffre au niveau du conseil d'administration. L'infrastructure d'IA n'a peut-être pas autant de temps.
