Una apuesta de $400 millones en chips de IA más baratos

Puntos clave

• General Compute recaudó $400 millones en financiamiento de deuda de la firma de inversión Upper90 en 2025.
• Se cree que el préstamo es el primero asegurado contra chips de inferencia, el hardware especializado que ejecuta modelos de IA terminados en lugar de entrenar otros nuevos.
• Los chips SambaNova SN50 de General Compute afirman tener velocidades de inferencia 16 veces más rápidas que servicios en la nube basados en GPU comparables.
• El acuerdo sigue el creciente interés de los inversores en modelos de IA de código abierto como alternativa más barata a los modelos de frontera de laboratorios como OpenAI y Anthropic.

Una pequeña startup de IA acaba de pedir prestados $400 millones, y la parte inusual no es el número. Es lo que el prestamista aceptó como garantía.

General Compute, fundada por el CEO Finn Puklowski y apenas pasando su etapa inicial, aseguró el préstamo de Upper90, una firma de inversión enfocada en tecnología. La garantía: chips de inferencia. Estos son procesadores especializados construidos para ejecutar un modelo de IA terminado de manera rápida y económica, a diferencia de los chips mucho más costosos utilizados para entrenar un modelo desde cero. Piensa en los chips de entrenamiento como la fábrica que construye un auto, y los chips de inferencia como el motor que realmente lo impulsa.

El cofundador de Upper90, Billy Libby, le dijo a TechCrunch que cree que este es el primer préstamo respaldado específicamente por chips de inferencia. Tiene experiencia aquí. En 2021, su firma financió compras de GPU para una empresa de centro de datos llamada Crusoe, que considera el primer préstamo contra el valor de chips avanzados. Los bancos tradicionales no tocarían los chips como garantía entonces porque nadie sabía qué tan rápido perderían valor. Desde entonces, el gigante de la nube CoreWeave construyó un negocio completo alrededor de préstamos respaldados por chips y se hizo pública, y ese tipo de financiamiento ahora es común.

Ahora Libby cree que la inferencia es la próxima ola. "No todos necesitan una supercomputadora, pero sí necesitan inferencia e IA", le dijo a TechCrunch.

General Compute está construyendo su servicio alrededor de chips de SambaNova, un fabricante de chips respaldado por Intel. Los chips SN50 están diseñados para ser eficientes en energía y omiten los costosos sistemas de refrigeración por agua que típicamente requieren las GPU de alta gama, lo que significa que pueden entrar en centros de datos más estándar más rápidamente. La empresa afirma tener 16 veces más rapidez en inferencia que rivales de nube basados en GPU.

La propuesta más amplia es el costo. Ejecutar tareas de IA en modelos de código abierto, software de IA cuyo código subyacente es accesible públicamente, es mucho más barato que pagar por consulta a un laboratorio de frontera. Nuestra historia del 15 de julio sobre ejecutivos de chips de IA señalando demanda ilimitada señaló que las empresas ya están presionando fuertemente sobre lo que realmente obtienen por su dinero, que es exactamente la brecha a la que General Compute apunta. Startups como OpenRouter y Fireworks, que dirigen tráfico a modelos abiertos, han recaudado dinero recientemente a valuaciones altas, y K3 de Kimi, que cubrimos el 16 de julio, ahora coincide con OpenAI y Anthropic en puntos de referencia de codificación.

¿Qué significa esto para las personas y empresas que utilizan herramientas de IA?

Precios más bajos, potencialmente. Si las empresas de infraestructura ejecutan modelos capaces en chips más baratos y eficientes, los costos deberían caer para todos los que están en la cadena: empresas que construyen aplicaciones, desarrolladores que escriben asistentes de código, cualquiera que pague una suscripción que dependa de IA.

General Compute no está sola. TensorWave está persiguiendo una estrategia similar construida alrededor de chips AMD. El hilo conductor es la creencia de que el dominio casi total de Nvidia en la informática de IA se aflojará a medida que las alternativas maduren.

Puklowski lo expresó claramente: "Esta es la primera señal del capital organizándose y la fragmentación del dominio monopolístico de Nvidia".

Si los chips SN50 entregan según sus especificaciones a escala es la pregunta que el próximo año responderá. El financiamiento es ingenioso; el hardware aún tiene que demostrarse a sí mismo en producción.