El Centro de Datos de IA que Cabe en una Caja: Dentro del Sonic Inference Pod de Runware

Puntos clave

• Runware lanzó el Sonic Inference Pod el martes, una unidad de computación transportable diseñada para ejecutar cargas de trabajo de IA cerca de quienes las necesitan.
• La empresa recaudó $50 millones en una ronda de financiación Serie A en diciembre de 2024 para construir infraestructura de generación de imágenes con IA.
• Runware actualmente tiene 10 pods activos en Estados Unidos, Europa y Asia-Pacífico, con 160 sitios potenciales ya identificados.
• Los pods utilizan un sistema de refrigeración de circuito cerrado, lo que significa que no se consume agua, a diferencia de los centros de datos convencionales.
• Los clientes de Runware incluyen la plataforma de generación de imágenes Higgsfield AI y el constructor de sitios web Wix.

Cada vez que le pides a una herramienta de IA que genere una imagen, escriba una oración o responda una pregunta, un centro de datos en algún lugar hace el trabajo pesado. Esos centros son enormes, costosos, sedientos de agua y tardan años en construirse. Runware, una empresa de infraestructura de IA, cree que hay una mejor manera.

El martes, la empresa anunció el Sonic Inference Pod: una unidad de computación modular, autónoma que puede enviarse a casi cualquier ubicación con suministro eléctrico e instalarse en días en lugar de años. Piénsalo como un centro de datos reducido al tamaño de un contenedor de envío grande.

¿Qué hace realmente?

El pod maneja la inferencia, el proceso de ejecutar un modelo de IA para producir una respuesta o una imagen, en lugar del proceso más largo y costoso de entrenar un modelo en primer lugar. Runware afirma que sus pods pueden hacer esto a un costo menor que las plataformas en la nube competidoras, mientras aún entregan resultados de alta calidad.

Debido a que las unidades son modulares, agregar capacidad significa enviar otro pod, no romper tierra en un nuevo edificio. Flaviu Radulescu, cofundador y director ejecutivo de Runware, le dijo a TechCrunch que el diseño permite a la empresa "implementar en cualquier lugar donde haya energía" y adaptarse rápidamente cuando llegan nuevos chips al mercado.

"La demanda de inferencia crece más rápido de lo que se pueden construir las instalaciones", dijo Radulescu.

¿Por qué importa el sistema de refrigeración?

Los centros de datos convencionales utilizan enormes cantidades de agua para mantener los servidores frescos. El Sonic Inference Pod utiliza un sistema de refrigeración de circuito cerrado en su lugar, reciclando el mismo fluido repetidamente sin extraer agua de los suministros locales. Runware dice que eso importa tanto para el medio ambiente como para las comunidades cerca de sus sitios.

La empresa aún no funciona completamente con energía renovable, y Radulescu reconoció que el consumo de energía de IA seguirá aumentando independientemente de qué empresa suministre la computación. Su argumento es que los pods utilizan energía que ya existe en la red en lugar de requerir que se construya nueva capacidad, y que "más inferencia construida de esta manera significa menos nueva red, menos agua, para la misma cantidad de computación".

Esa es una afirmación de la empresa, no un hallazgo verificado de forma independiente. Los lectores deben considerarlo en consecuencia.

¿Qué significa esto para la gente común?

Directamente, no mucho todavía. Runware vende su capacidad de computación a empresas, no a consumidores. Pero si sus afirmaciones sobre costo y velocidad se mantienen, las empresas que construyen las herramientas de IA que la gente común usa todos los días podrían transferir ahorros a través de productos más baratos o más rápidos.

La visión más amplia también importa. Las comunidades en todo Estados Unidos han reportado facturas de electricidad cada vez más altas vinculadas a grandes centros de datos que se mudan cerca. Un modelo distribuido, donde unidades más pequeñas distribuyan la carga en muchas ubicaciones, podría aliviar esa presión, aunque podría igualmente distribuirla más ampliamente. El escrutinio independiente de esos compromisos aún no ha ocurrido.

Los 10 pods activos de Runware y 160 sitios identificados son un comienzo. Si el modelo puede competir genuinamente con los proyectos multimillonarios que OpenAI y otros están construyendo es una pregunta que los próximos años responderán.