Una apuesta de $400 millones por chips de IA más baratos que ganarán

Puntos clave

• General Compute recaudó $400 millones en financiamiento de deuda de la firma de inversión Upper90 en 2025.
• Se cree que el préstamo es el primero asegurado contra chips de inferencia, el hardware especializado que ejecuta modelos de IA terminados en lugar de entrenar nuevos.
• Los chips SambaNova SN50 de General Compute afirman velocidades de inferencia 16 veces más rápidas que servicios en la nube basados en GPU comparables.
• El acuerdo sigue un creciente interés de los inversores en modelos de IA de código abierto como alternativa más barata a los modelos de frontera de laboratorios como OpenAI y Anthropic.

Una pequeña startup de IA acaba de pedir prestados $400 millones, y la parte inusual no es el número. Es lo que el prestamista aceptó como garantía.

General Compute, fundada por el CEO Finn Puklowski y apenas pasada su etapa inicial, aseguró el préstamo de Upper90, una firma de inversión enfocada en tecnología. La garantía: chips de inferencia. Estos son procesadores especializados construidos para ejecutar un modelo de IA terminado de forma rápida y económica, en contraste con los chips mucho más costosos utilizados para entrenar un modelo desde cero. Piense en los chips de entrenamiento como la fábrica que construye un automóvil, y los chips de inferencia como el motor que realmente lo conduce.

Billy Libby, cofundador de Upper90, le dijo a TechCrunch que cree que este es el primer préstamo respaldado específicamente por chips de inferencia. Debe saberlo. En 2021, su firma financió compras de GPU, las unidades de procesamiento gráfico que se convirtieron en la columna vertebral del auge de la IA, para una empresa de centros de datos llamada Crusoe. En aquel entonces, los bancos tradicionales no tocarían chips como garantía porque nadie sabía qué tan rápido perderían valor. Desde entonces, el gigante en la nube CoreWeave construyó un negocio completo alrededor de préstamos respaldados por chips y salió a bolsa, y ese tipo de financiamiento es ahora común.

Ahora Libby cree que la inferencia es la próxima ola. "No todos necesitan una supercomputadora, pero sí necesitan inferencia e IA", dijo.

General Compute está construyendo su servicio alrededor de chips de SambaNova, un fabricante de chips respaldado por Intel. Los chips específicos, llamados SN50, están diseñados para ser eficientes energéticamente y no requieren los costosos sistemas de enfriamiento por agua que típicamente necesitan las GPU de gama alta. Esto significa que pueden instalarse en centros de datos más estándar, más rápidamente. La empresa afirma que el SN50 ofrece inferencia 16 veces más rápida que rivales en la nube basados en GPU.

La propuesta más amplia es el costo. Ejecutar tareas de IA en modelos de código abierto, software de IA cuyo código subyacente está disponible públicamente, es significativamente más barato que pagar por consulta a un laboratorio de frontera. Startups como OpenRouter y Fireworks, que proporcionan acceso a modelos abiertos, han recaudado recientemente dinero a valoraciones altas, y nuevos modelos de equipos fuera de EE.UU. ahora igualan a OpenAI y Anthropic en puntos de referencia técnicos.

¿Qué significa esto para las personas y empresas que usan herramientas de IA?

Podría significar precios más bajos. Si las empresas de infraestructura pueden ejecutar modelos de IA capaces en chips más baratos y eficientes, el costo de las herramientas y servicios de IA debería caer para todos los que estén aguas abajo: empresas que construyen aplicaciones, desarrolladores que escriben asistentes de código, o cualquiera que pague una suscripción que dependa de IA.

General Compute no es la única startup que hace este tipo de apuesta. TensorWave está persiguiendo una estrategia similar construida alrededor de chips AMD en lugar de hardware de Nvidia. El hilo común es la creencia de que el dominio casi total de Nvidia en la computación de IA se aflojará a medida que maduren las alternativas.

Puklowski lo expresó claramente: "Esta es la primera señal de capital organizándose a sí mismo y la fragmentación del dominio monopolístico de Nvidia".

Si los chips SN50 cumplen con sus especificaciones a escala es una pregunta que el próximo año responderá.