Las GPUs ociosas son los nuevos aviones en tierra: por qué el próximo problema de la IA es el desperdicio, no la energía
La industria de la IA pasó años compitiendo por construir modelos más inteligentes y comprar más chips. Ahora está tomando forma un problema más silencioso: el hardware costoso que se encuentra en los centros de datos a menudo hace muy poco, y nadie ha sido responsabilizado de solucionarlo.
Puntos clave
- Los chips GPU, los procesadores especializados que ejecutan la IA, cuestan dinero cada hora que están encendidos, independientemente de si están realizando trabajo útil o no.
- Anthropic se comprometió simultáneamente con acuerdos de computación de IA de múltiples gigavatios en cuatro plataformas de hardware (Amazon, Google, Microsoft y AMD) a partir de 2026, una señal de que incluso los laboratorios mejor financiados tratan el acceso a chips como una escasez real.
- El mismo desfase entre costos de hardware fijo y demanda variable que casi hundió a las aerolíneas ahora se aplica a los clusters corporativos de IA.
- Las empresas que compran sus propios chips para escapar de las crecientes tarifas de API se enfrentan a una nueva pregunta: ¿cómo se mantienen esos chips lo suficientemente ocupados para justificar el gasto?
El número más importante de una aerolínea no es cuántos aviones posee. Es cuántas horas al día esos aviones realmente están en el aire.
La lógica es brutal. Los costos de los aviones, los pagos de financiamiento, el seguro, los contratos de mantenimiento, no dejan de acumularse independientemente de si el avión está en una puerta de embarque o a 10.000 metros de altura. Los ingresos solo llegan cuando está volando. Las compañías aéreas que dominaron los cambios rápidos y la programación ajustada sobrevivieron. Las que no, quebraron, independientemente del tamaño de su flota.
Un análisis publicado por Hugging Face sostiene que la IA empresarial ahora se encuentra exactamente en el mismo aprieto, solo que con hardware diferente.
¿Por qué importa esto a personas que no compran GPUs?
Importa porque los costos de las GPU repercuten en todas las personas que utilizan herramientas de IA en el trabajo o las pagan como cliente.
Una GPU, un procesador especializado que realiza los cálculos intensivos que requiere la IA, acumula costos las 24 horas: electricidad, refrigeración, financiamiento, depreciación. Su producción solo cuenta cuando está ejecutando una tarea real. Dos empresas con presupuestos de chips idénticos pueden terminar con economías muy diferentes dependiendo de cuánto de ese hardware está realmente ocupado en un momento dado.
La industria pasó su primera fase resolviendo un problema diferente. Los modelos más grandes, entrenados con más datos, siempre superaban a los más pequeños. Los recuentos de parámetros, los números internos que determinan la capacidad de un modelo, y las clasificaciones en rankings dominaban la conversación. Esa carrera produjo modelos lo suficientemente capaces para usos comerciales serios. También creó un enorme apetito por chips.
En 2020, Microsoft construyó para OpenAI una supercomputadora dedicada con más de 10.000 GPUs para entrenar GPT-3, el modelo detrás del ChatGPT inicial. En ese momento, esa cifra parecía casi imposible de imaginar. Para 2026, se ve modesta.
¿Cómo se ve realmente el desperdicio dentro de un cluster de chips?
El hardware que parece estar ocupado puede seguir desperdiciando la mayor parte de su capacidad. El problema es que diferentes tareas de IA quieren cosas diferentes del mismo chip.
La inferencia en tiempo real, generar una respuesta de IA en segundos, exige baja latencia por encima de todo. El procesamiento por lotes, procesar grandes conjuntos de datos durante la noche, se preocupa por el rendimiento total y puede esperar. Entrenar un modelo puede ocupar un chip continuamente durante días. Comprimir un modelo (un proceso llamado cuantización) necesita un gran estallido de capacidad durante un corto período, y luego nada.
Un sistema de programación ajustado para una de estas tareas manejará las otras mal casi por defecto. Un cluster puede mostrar un uso promedio alto en un panel de control mientras trabajos específicos permanecen en una cola esperando que se libere el tipo correcto de chip.
El patrón refleja el problema de la aviación, pero con un giro adicional. Un avión inactivo generalmente puede cambiarse a una ruta diferente con poco aviso. Una GPU configurada para una clase de carga de trabajo no siempre puede absorber otra sin reconfiguración, demora o desperdicio.
| Época | Restricción vinculante | Quién lo sintió primero |
|---|---|---|
| 2018 a 2021 | Calidad del modelo | Laboratorios de investigación |
| 2022 a 2024 | Suministro de chips | Laboratorios y proveedores de nube |
| 2025 en adelante | Utilización de chips | Empresas que ejecutan clusters propios |
¿Qué deberían aprender las empresas que construyen sobre IA de esto?
El resultado práctico es simple. Firmar un acuerdo por capacidad de GPU es la parte que tiene fecha límite y equipo de adquisiciones. Mantener esa capacidad fuera del suelo es la parte que decide silenciosamente si el acuerdo valió la pena.
Las empresas que se alejaron de los precios de API de pago por uso, donde los costos aumentan en línea recta con cada consulta, hacia la propiedad de su propio hardware enfrentan un cálculo de punto de equilibrio. Por debajo de cierto nivel de uso, la API es más barata. Por encima, la infraestructura propia gana. Pero la infraestructura propia solo gana si alguien es responsable de mantenerla ocupada.
En este momento, esa responsabilidad en gran medida falta. La industria de la aviación tardó décadas y varias quiebras en convertir la utilización en un número de nivel de junta directiva. La infraestructura de IA puede no tener tanto tiempo.
