O Centro de Dados de IA que Cabe Numa Caixa: O Interior da Sonic Inference Pod da Runware

Pontos-chave

• A Runware lançou terça-feira a Sonic Inference Pod, uma unidade de computação transportável e única, concebida para executar cargas de trabalho de IA perto das pessoas que delas necessitam.
• A empresa levantou $50 milhões numa ronda de financiamento Series A em dezembro de 2024 para construir infraestrutura de geração de imagens por IA.
• A Runware tem atualmente 10 pods ativos nos Estados Unidos, Europa e Ásia-Pacífico, com 160 locais potenciais já identificados.
• Os pods utilizam um sistema de refrigeração em circuito fechado, o que significa que não há consumo de água, ao contrário dos centros de dados convencionais.
• Os clientes da Runware incluem a plataforma de geração de imagens Higgsfield AI e o construtor de websites Wix.

Sempre que pede a uma ferramenta de IA para gerar uma imagem, escrever uma frase ou responder a uma pergunta, um centro de dados em algum lugar faz o trabalho pesado. Esses centros são enormes, caros, com fome de água e levam anos a construir. A Runware, uma empresa de infraestrutura de IA, acredita que há uma maneira melhor.

Terça-feira a empresa anunciou a Sonic Inference Pod: uma unidade de computação modular e autossuficiente que pode ser enviada para quase qualquer localização com uma fonte de energia e configurada em dias em vez de anos. Pense nela como um centro de dados encolhido para o tamanho de um grande contentor de transporte.

O que é que ela realmente faz?

O pod lida com inferência, o processo de executar um modelo de IA para produzir uma resposta ou uma imagem, em vez do processo mais longo e dispendioso de treinar um modelo em primeiro lugar. A Runware afirma que os seus pods podem fazer isto a um custo menor do que as plataformas cloud concorrentes, mantendo ainda resultados de elevada qualidade.

Como as unidades são modulares, adicionar capacidade significa enviar outro pod, não iniciar a construção de um novo edifício. Flaviu Radulescu, cofundador e diretor executivo da Runware, disse à TechCrunch que o desenho permite à empresa "fazer a implementação onde houver energia" e adaptar-se rapidamente quando novos chips chegam ao mercado.

"A procura por inferência está a crescer mais rápido do que as instalações podem ser construídas", disse Radulescu.

Por que razão é importante o sistema de refrigeração?

Os centros de dados convencionais utilizam enormes quantidades de água para manter os servidores frescos. A Sonic Inference Pod utiliza um sistema de refrigeração em circuito fechado, fazendo circular o mesmo fluido repetidamente sem extrair água das fontes locais. A Runware diz que isto é importante tanto para o ambiente como para as comunidades próximas dos seus locais.

A empresa ainda não está a funcionar completamente com energias renováveis, e Radulescu reconheceu que o consumo de energia de IA continuará a aumentar independentemente de qual empresa forneça a computação. O seu argumento é que os pods utilizam energia que já existe na rede em vez de exigir que nova capacidade seja construída, e que "mais inferência construída desta forma significa menos nova rede, menos água, para a mesma quantidade de computação."

Esta é uma afirmação da empresa, não uma constatação verificada independentemente. Os leitores devem pesá-la em conformidade.

O que é que isto significa para as pessoas comuns?

Diretamente, ainda não muito. A Runware vende a sua capacidade de computação a empresas, não a consumidores. Mas se as suas afirmações de custo e velocidade se mantiverem, as empresas que constroem as ferramentas de IA que as pessoas comuns usam todos os dias poderiam passar a economia através de produtos mais baratos ou mais rápidos.

A imagem mais ampla também é importante. Comunidades em toda a América do Norte relataram aumento nas contas de eletricidade associadas à mudança de grandes centros de dados para perto. Um modelo distribuído, onde unidades mais pequenas distribuem a carga por muitas localizações, poderia aliviar essa pressão, embora pudesse igualmente distribuí-la de forma mais ampla. O escrutínio independente desses trade-offs ainda não ocorreu.

Os 10 pods ativos da Runware e 160 locais identificados são um começo. Se o modelo pode realmente competir com os projetos de vários mil milhões de dólares que a OpenAI e outros estão a construir é uma questão que os próximos anos responderão.